Dünya artıq maşınla yaradılan mətnin adi tropikləri ilə tanışdır: “delve” sözünün həddən artıq istifadəsi, həddən artıq tire və “bu X deyil, Y” ifadəsinin gurultulu, amansız qurulması. Həftə sonu Anthropic, Claude AI modelinin nəsr yaratma tərzini dəyişdirəcəyini söyləyən bir yeniləmə yayımladı. Bu, dekabr ayından başlayaraq bütün süni intellektlə yaradılan mətnə su nişanı qoyulmasını tələb edən Aİ qaydalarına uyğundur.
Anthropic, dəyişikliklərin onun modellərinin mətn yaratdığı və adi oxucu üçün aşkar edilə bilməyəcəyi detallı, təsadüfi səviyyədə ediləcəyini söylədi. Amma ən azı bir şərhçi bunun əksini düşünür. O, su nişanının Klodu məhdudlaşdıracağını və onu ümumilikdə daha pis, daha az dəqiq söz seçimi etməyə məcbur edəcəyini iddia etdi.
Bu, modelin yazısını daha az dəqiqləşdirməsə də, bu məhdudiyyətlərin onu daha da pisləşdirəcəyini təklif etdi. Süni intellekt modelinin cümlə qurarkən etdiyi kiçik seçimlərdə stokastik element var: o, məsələn, bir günü “boz” və ya “buludlu” adlandırmağı seçsin, ya da axar suya “dərə” və ya “dərə” kimi istinad etsin. Anthropic-in yeni su nişanı bu təsadüfi seçimləri dəyişdirəcək, dedi, Anthropic özü və onu deşifrə etmək üçün açarı olanlar üçün aşkar edilə bilən bir nümunə buraxacaq.
London Universitet Kollecinin kompüter elmləri professoru Stiven Merdok, dəyişikliyin "yəqin ki, heç bir nəzərə çarpan təsiri olmayacaq" dedi. Gruberin şikayəti, su nişanının böyük bir dil modelini cümlədə hansı sözün sonra gəldiyinə qərar verməkdə daha az azad edəcəyi və buna görə də ən yaxşı seçimi seçməməsi faktına əsaslanır. Bununla belə, LLM-lər onsuz da ən yaxşı seçimləri etmirlər.
Əgər bu təsadüfilik olmasaydı, onlar ilgəklərdə ilişib qalacaq və eyni şeyi təkrar-təkrar təkrar etməyə başlayacaqdılar." Başqa sözlə, bir chatbot axar suyu "dərədən" fərqli olaraq "axın" adlandırmaq qərarına gəlmir, çünki sonuncunun daha köhnə reyestri ola bilər. Model bu seçimləri düşünmür: onları təsadüfən edir. Bu, bu yaxınlarda aparıcı kimya jurnalında bir məqalənin geri götürülməli olduğu zaman sübut olundu, çünki müəlliflər nəşrin bir hissəsini hazırlamaq üçün AI alətindən istifadə etdilər.
Sözügedən paraqraf sink nanogel haqqında olduğu görünsə də, alət "yekun həll" üçün alternativ olaraq "etnik qrupun kütləvi şəkildə öldürülməsi" ifadəsini istifadə etdi. Yeniləmə haqqında Merdok dedi: “Heç bir nəzərə çarpan fərq olmayacaq. Orada eyni təsadüfi ədəd generatorları var - o, əvvəllər tamamilə təsadüfi idi və indi o, artıq mükəmməl təsadüfi deyil, lakin hələ də statistik olaraq gözlənilməzdir. Aİ-də fəaliyyət göstərən bütün süni intellekt şirkətlərinə şamil olunan tənzimləmə o deməkdir ki, onlar aylar ərzində bu su nişanlarını yerləşdirməli olacaqlar.
Xülasə — davamını mənbədə oxuyun.
