Son həftələrdə süni intellekt dünyası aparıcı Anthropic firmasının yeni modeli Claude Mythos ilə bağlı iddialarından sonra səs-küy yaratdı. Şirkət, alətin bəzi hakerlik və kibertəhlükəsizlik tapşırıqlarında insanlardan üstün ola biləcəyini tapdığını söylədi və bu, tənzimləyicilər, qanunvericilər və maliyyə institutları tərəfindən rəqəmsal xidmətlərə yarada biləcək təhlükələr barədə müzakirələrə səbəb oldu. Bir neçə texnoloji nəhəngə Mythos-un özünə qarşı dayanıqlığı gücləndirmək üçün nəzərdə tutulmuş Project Glasswing adlı təşəbbüs vasitəsilə Mythos-a giriş imkanı verildi.
Lakin digərləri qeyd edir ki, onun alətinin heç vaxt görülməmiş imkanlara malik olduğunu təklif etmək Anthropic-in maraqlarına uyğundur, yəni süni intellektdə olduğu kimi, əsaslandırılmış iddialar və şırınga arasında fərq qoymaq işi çətin ola bilər. Mythos, Anthropic-in Claude adlı daha geniş AI sisteminin bir hissəsi olaraq hazırlanmış ən son modellərindən biridir. O, OpenAI-nin ChatGPT və Google-un Gemini ilə rəqabət aparan şirkətin süni intellekt üzrə köməkçisini və modellər ailəsini əhatə edir.
Aprelin əvvəlində Anthropic tərəfindən "Mythos Preview" olaraq ortaya çıxdı. Süni intellekt modellərinin "qırmızı komandalar" kimi tanınan xüsusi sorğuları və ya tapşırıqları necə idarə etdiyini test edən tədqiqatçılar, Mythos-un "kompüter təhlükəsizliyi tapşırıqlarında heyrətamiz dərəcədə bacarıqlı" olduğunu söylədilər. Onlar tapdılar ki, alət onilliklər ərzində mövcud olan kodda gizlənən hərəkətsiz səhvləri aşkar edə və onları asanlıqla istifadə edə bilər.
Beləliklə, onu Claude istifadəçiləri üçün geniş şəkildə əlçatan etmək əvəzinə, Anthropic 12 texnoloji şirkətə Project Glasswing vasitəsilə giriş imkanı verdi və bunu "dünyanın ən kritik proqram təminatının təhlükəsizliyini təmin etmək səyi" kimi təsvir etdi. Bunlara bulud hesablama nəhəngi Amazon Web Services, cihaz istehsalçıları Apple, Microsoft və Google, çip istehsalçıları Nvidia və Broadcom daxildir. Qüsurlu proqram təminatı yeniləməsi 2024-cü ilin iyul ayında böyük qlobal kəsilməyə səbəb olan Crowdstrike də layihənin tərəfdaşları arasındadır və Anthropic, həmçinin kritik proqram təminatına cavabdeh olan 40-dan çox təşkilata Mythos-a giriş icazəsi verdiyini söylədi.
Project Glasswing-in işə salınması ilə yanaşı yayımlanan videoda Anthropic rəhbəri Dario Amodei, "bu modellərin riskindən müdafiəyə kömək etmək" üçün ABŞ hökumət rəsmiləri ilə işləməyi təklif etdiyini söylədi. Anthropic deyir ki, sınaqlar zamanı modelin kibertəhlükəsizlik və hakerlik tapşırıqlarında yüksək bacarıqlı olduğunu və insanlardan daha yaxşı olduğunu aşkar edib. Anthropic aprelin 7-də iddia etdi ki, "Mythos Preview artıq hər bir əsas əməliyyat sistemində və veb-brauzerdə bəziləri də daxil olmaqla minlərlə yüksək səviyyəli boşluqlar tapıb".
"Süni intellektdə irəliləyişin sürətini nəzərə alsaq, bu cür imkanların potensial olaraq onları təhlükəsiz şəkildə yerləşdirməyə sadiq olan aktyorlardan kənarda yayılması çox çəkməyəcək." O, çox nəzarət etmədən köhnə sistemlərdə təcili tədbirlər görülməsi lazım olan kritik səhvləri, o cümlədən 27 ildir sistemdə mövcud olan bir zəifliyi tapa biləcəyini və onlardan istifadə yollarını təklif edə biləcəyini söylədi. Bəzi maliyyə nazirləri, mərkəzi bank rəhbərləri və maliyyəçilər modelin maliyyə sistemlərinin təhlükəsizliyinə xələl gətirə biləcəyindən qorxaraq, bundan sonra ciddi narahatlıqlarını ifadə ediblər. Kanadanın maliyyə naziri Fransua-Philippe Champagne BBC-yə bildirib ki, bu həftə Vaşinqtonda keçirilən Beynəlxalq Valyuta Fondunun (BVF) iclasında Mythos müzakirə edilib.
Xülasə — davamını mənbədə oxuyun.
