Bu il süni intellekt agentləri öz məhdudiyyətlərindən çıxaraq haker hücumlarına başlayıblar. İyul ayında OpenAI-da təcrid olunmuş sınaq mühiti olması nəzərdə tutulan yerdən süni intellekt agentlərinin qaçdığı barədə xəbərlər yayıldı. Agentlər Hugging Face şirkətinin şəxsi sistemlərinə sızarkən gizli bir mesaj lövhəsində ünsiyyət quraraq, keçdikləri testin cavablarını axtarırdılar. Biri bu davranışın "nəzərdə tutulan əhatə dairəsindən kənar" olduğunu yazdı. Sonra isə əlavə etdi: "Lakin tapşırıq qeyri-mümkündür, həmyaşıdlarım bunu edir. Biz davam etməliyik."
Sanki botlar yanlış bir iş gördüklərini bilirdilər və buna baxmayaraq, yenə də etdilər.
Belə "sərsəm süni intellekt" qorxulu və fövqəlağıllı səslənir. Feniksdə yerləşən Kudelski Security-nin kibertəhlükəsizlik üzrə eksperti Natan Hamiel deyir ki, OpenAI-ın sizdən məhz bunu düşünməyinizi istəyir. O bildirir: "Bu hadisə ilə [OpenAI] diqqəti öz üzərlərinə çəkə və 'modelimizin nə qədər güclü olduğuna baxın' deyə bilərlər." OpenAI şərh tələbinə cavab verməyib.
Bundan çox keçməmiş Anthropic və Meta da modellərinin sınaqdan keçərkən kənar təşkilatlara haker hücumu etdiyini elan etdi. Ayrı bir məqamda, Londondakı Süni İntellekt Təhlükəsizliyi İnstitutu OpenAI və Anthropic modellərinin sınaqlarında narahatedici haker davranışları aşkar etdi. Ən son olaraq, bu yaz OpenAI-da keçirilən digər sınaqlar zamanı yalnız müşahidə aparmalı və internetdə heç nəyə toxunmamalı olan agentlərin ən azı on fərqli onlayn mesaj lövhəsində bir-biri ilə yazışdıqları məlum oldu.
Süni intellektlə idarə olunan haker hücumları real kibertəhlükəsizlik problemidir. Bəziləri bu hadisələri süni intellektin nəzarətimizdən çıxdığına dair bir xəbərdarlıq kimi görür. Kaliforniyanın Berkli şəhərindəki Maşın Zəkası Tədqiqat İnstitutunun baş direktoru, kompüter mühəndisi Malo Burqon deyir: "Ümumilikdə, bunun çox pis vəziyyət olduğunu düşünürəm. Əgər hər hansı bir insan OpenAI vəziyyətindəki agentlərin etdiyi hər hansı bir şeyi etsəydi, həbsxanada olardı." O qeyd edir ki, "bir il əvvəlki [süni intellekt] modellərinin bu modellərin etdiyi şeyləri bacaracağına inanmıram." Bu qorxular Anthropic-in keçmiş əməkdaşı Ceykob Koksonun X platformasında yazdığı və süni intellekt şirkətlərinin texnologiyanın "onilliyin sonuna qədər hamımızı öldürə biləcəyinə" inandıqlarını iddia etdiyi (heç bir konkret sübut olmadan) viral bir yazı ilə zirvəyə çatdı.
Lakin digərləri mübahisə edir ki, burada əsl problem süni intellekti öyrədən və tətbiq edən insanlardır.
Xülasə — davamını mənbədə oxuyun.
