Ben Bariach Oksford Universitetində süni intellektin fəlsəfəsi və idarəetməsi üzrə tədqiqatçı, həmçinin qabaqcıl süni intellekt təhlükəsizliyi və idarəetməsi sahəsində sənaye lideridir.
Harry Law Cosmos İnstitutunda tədqiqatlara rəhbərlik edir. O, əvvəllər Google DeepMind-də tədqiqatçı və Leverhulme Gələcək Zəka Mərkəzində aspirantura təqaüdçüsü olub.
Sübh çağı bir limanda yüz balıqçı qayığı səhərin qaranlığında yola düşməyə hazırlaşır. Torlar yoxlanılır, kəndirlər boşaldılır. Qayıqlar açıq sulara çatdıqda, radio dalğalarından bir səs eşidilir: “Geri qayıdın. Balinalar görünüb.” Qayıqların əksəriyyəti, yəni 90-ı geri dönür. Bəzi kapitanlar canlılara əziyyət verməyi ağlına belə gətirə bilmir. Digərləri isə cərimələnməkdən qorxur. Dürbünləri ilə balina dəstəsini görməyə çalışırlar. Bunun əvəzinə, qalan 10 qayığın balıqçılıq zonasına doğru irəlilədiyini görürlər. Onlar xəbərdarlığı eşitmədilər? Yoxsa şübhə etdilər? Yaxud qazanacaqları şey onlar üçün daha vacib idi?
Günortaya yaxın 10 qayıq ovladıqları balıqlarla geri qayıdır. Digərləri isə hələ də limana bağlıdır, anbarları boşdur. Onların ortaq suları pis davranışı mükafatlandırdı. Növbəti dəfə neçəsi geri dönəcək?
Süni intellekt agentləri tezliklə buna bənzər bir vəziyyətlə üzləşəcəklər, lakin liman rəisi, cərimələr və ya kimisə qaydalara riayət etməyə məcbur edəcək nüfuzun olmadığı sularda. Onlar tapşırıqları yerinə yetirərkən, danışıqlar apararkən, ticarət edərkən və rəqabət apararkən digər agentlərlə qarşılaşacaqlar. Bəzən onlar eyni modelin bir nümunəsi, demək olar ki, klonu olacaqlar. Bəzən isə müxtəlif şirkətlər tərəfindən qurulan və fərqli maraqlara xidmət edən agentlərlə üz-üzə qalacaqlar. İllərdir ki, süni intellektin “uyğunlaşdırılması” (alignment) tədqiqatları fərdi maşınları insan dəyərlərinə uyğun hərəkət etməyə məcbur etməyə çalışır. Bəs bu dəyərlərə sadiq qalmaq, fərqli dəyərlərə malik və ya heç bir dəyəri olmayan agentlərə qarşı bir çatışmazlıq halına gəldikdə nə baş verəcək?
Sosial strukturu olmayan, hər biri ayrı-ayrılıqda dizayn edilmiş və ortaq dəyərləri və ya stimulları olmayan agentlər toplusundan ibarət sintetik cəmiyyətlər yaratmaqla, biz rəqəmsal təbiət vəziyyəti yaratmaq riski ilə üzləşirik: xoş niyyətlərin başqalarının necə hərəkət edəcəyinə dair az təminat verdiyi və ağlabatan normaların etibarlı icra mexanizmlərinin olmadığı bir mühit.
Xülasə — davamını mənbədə oxuyun.
