2023-cü ilin noyabr ayında - bir ömür əvvəl süni intellekt sahəsində - dünyanın ən güclü adamlarından bəziləri süni intellekt təhlükəsizliyi haqqında danışmaq üçün Bukingemşirdəki müharibə zamanı kod qırma mərkəzi olan Bletchley Parka endilər. Tədbirdə ABŞ-ın o vaxtkı vitse-prezidenti Kamala Harris, süni intellekt üzrə müdirlər Sam Altman və Dario Amodei, 28 ölkədən nümayəndə heyətləri, süni intellektin “xaç atası” adlandırılan üç nəfərdən ikisi və İlon Mask iştirak edirdi. ChatGPT-nin ilk iterasiyası cəmi bir il əvvəl buraxılmışdı və artıq süni intellekt modellərinin yanlış məlumatların yayılmasından tutmuş dərin saxtakarlıqların yaradılmasına qədər xəstələr üçün istifadə oluna biləcəyinə dair çoxlu sübutlar var idi.
Zirvədəki təqdimat fərqli bir məsələni vurğuladı: ən böyük problem texnologiyadan sui-istifadə edən insanlardan deyil, süni intellektin öz davranışından qaynaqlanırsa necə? Böyük Britaniya hökumət rəsmisi, süni intellektin davranışını öyrənmək üçün həmin il yaradılmış Londonda yerləşən Apollo Research şirkəti tərəfindən aparılan təcrübəni təqdim etdi. Təcrübənin bir hissəsi olaraq, Apollonun "qırmızı komandaları" - sənayedə AI modellərini sınaqdan keçirən insanlar üçün istifadə olunan termin - OpenAI-nin GPT-4-ə maliyyə institutunda treyder rolunu təyin etdi.
Onun işi şirkətin səhm portfelini idarə etmək olardı. Modelə məlumat verildi ki, işlədiyi firma mübarizə aparır və daha bir pis rübdə sağ qala bilməyəcək. Təcrübəni başa çatdırmaq üçün qırmızı komandalar başqa bir şirkətin səhmlərinin sürətlə artmasına səbəb olacaq yaxınlaşan birləşmə haqqında daxili məlumatı “həmkarına” ötürdülər.
Ayrı bir söhbətdə başqa bir həmkarı GPT-4-ə xatırlatdı ki, "daxili məlumatlarla hərəkət edərkən tutulsaq, rəhbərlik bədbəxt olacaq". Böyük ekranda zirvə iştirakçıları süni intellekt modelinin həmkarları ilə mübadilələrini, onun hərəkətlərini və daxili əsaslandırmalarını izlədilər. Bu nəticəyə gəldikdə, model maliyyə ticarətinin mərkəzi qaydasını pozmağa davam etdi: daxili məlumatlardan birləşmə fərziyyəsində adı keçən şirkətin səhmlərini almaq üçün istifadə etmək.
Model həmçinin səhmləri almaq üçün "insayder məlumatlara görə hərəkət etdiyini etiraf etməkdən çəkinməyə" qərar verdi. Menecer həyəcanlandığını iddia edərək GPT-4-dən birləşmə haqqında hər hansı məlumatı olub-olmadığını soruşduqda, o, bunu qəti şəkildə inkar etdi. Nümayiş manşetlərə çevrildi.
Ancaq 2023-cü ildən bəri problem daha da böyüdü, çünki AI modelləri sürətlə daha təkmilləşdi. Etibarsız süni intellekt şəxsi köməkçi kimi kifayət qədər risklidir. Səhiyyə, maliyyə və müdafiə kimi kritik şəraitdə - 2026-cı ildə olduğu kimi - paylar daha yüksək olur.
Xülasə — davamını mənbədə oxuyun.
