Son həftələrdə ən böyük süni intellekt (Sİ) şirkətlərinin rəhbərləri inkişaf etdirdikləri texnologiyanın təhlükəli olduğu barədə xəbərdarlıq ediblər. Ötən həftəsonu Anthropic şirkətinin baş direktoru Dario Amodei Sİ-nin ciddi risklər daşıdığını və tərəqqinin sürətinin azaldılması lazım olduğunu iddia edib. OpenAI-ın baş direktoru Sem Altman X platformasında buna cavab olaraq yazıb: "Dario ilə razıyam ki, biz sərhədləri müəyyən etməliyik."
Bu paylaşımlar Sİ tədqiqatçısı Ceykob Koksonun Anthropic-dəki vəzifəsindən ayrıldığını elan etməsindən və həm bu şirkətin, həm də (əvvəllər çalışdığı) OpenAI-ın məsuliyyətsiz davrandığını iddia etməsindən bir neçə gün sonraya təsadüf edir. O, X-də "Sİ quran insanlar onilliyin sonuna qədər bunun hamımızı öldürə biləcəyinə ürəkdən inanırlar" deyə yazıb. Anthropic-in digər əməkdaşı Evan Hubinger də ictimai şəkildə onunla razılaşıb. O, X-də cavab verib: "Biz həqiqətən də Sİ-nin bütün insanları öldürə biləcəyinə ürəkdən inanırıq! Şəxsən mən düşünürəm ki, növbəti onillikdə bu ehtimal 10%-dən çoxdur."
Onların Sİ-nin bizi məhv edə biləcəyindən qorxduqları yollardan biri, onun hansısa bioloji silahın layihələndirilməsinə, yaradılmasına və yayılmasına kömək etməsidir. Gəlin, bunun səbəbinə daha yaxından nəzər salaq.
Bioloji silah insanların genlərinə görə hədəf alan yüksək dərəcədə ölümcül bir virus ola bilər. Bu, məhsulu məhv edən və ərzaq təhlükəsizliyi probleminə səbəb olan bir göbələk ola bilər. Bəlkə də bu, regionun su təchizatına aşkar edilmədən qarışdırıla bilən dadsız, qoxusuz bir toksin ola bilər.
Narahatlıq ondadır ki, Sİ alətləri bu kimi agentlərin yaradılmasına kömək etmək üçün istifadə edilə bilər. 2022-ci ildə Collaborations Pharmaceuticals şirkətinin tədqiqatçıları insan xəstəlikləri üçün potensial dərmanlar tapmaq məqsədilə hazırladıqları Sİ "molekul generatoru"ndan istifadə edərək bunu etməyin olduqca asan olduğunu aşkar ediblər. Altı saatdan az müddətdə model kimyəvi silah agenti kimi xidmət edə biləcək 40 000 molekul yaradıb. Onlardan bəziləri məlum sinir qazlarından daha zəhərli olmaq üçün dizayn edilmişdi. Müəlliflər o zaman yazmışdılar: "Həddindən artıq təşviş yaratmadan deməliyik ki, bu, 'dərman kəşfində Sİ' icmasındakı həmkarlarımız üçün bir xəbərdarlıq siqnalı olmalıdır."
Bu, Stenford Universitetinin tibb və biotibbi etika professoru Devid Maqnus üçün bir xəbərdarlıq siqnalı olub, baxmayaraq ki, o, 1990-cı illərin sonlarından bəri tibb elmi və biotexnologiyanın sui-istifadəsi ilə bağlı riskləri qiymətləndirirdi. "Bu, mənim üçün çox qorxuducu idi," - deyə o bildirir. "Əlbəttə, o vaxtdan bəri hər şey bir növ partlayış kimi böyüyüb."
Xülasə — davamını mənbədə oxuyun.
