Maliyyə nazirləri, mərkəzi bank rəhbərləri və maliyyəçilər maliyyə sistemlərinin təhlükəsizliyini poza biləcəyindən qorxduqları güclü yeni AI modeli ilə bağlı ciddi narahatlıqlarını ifadə ediblər. Anthropic tərəfindən Claude Mythos modelinin inkişafı bir çox əsas əməliyyat sistemlərində zəifliklər tapdıqdan sonra böhran görüşlərinə səbəb oldu. Mütəxəssislər deyirlər ki, o, potensial olaraq kibertəhlükəsizlik zəifliklərini müəyyən etmək və istifadə etmək üçün misli görünməmiş bir qabiliyyətə malikdir - baxmayaraq ki, digərləri onun imkanlarını düzgün başa düşmək üçün əlavə sınaqlara ehtiyac olduğunu bildirirlər.
Kanadanın maliyyə naziri Fransua-Philippe Champagne BBC-yə bildirib ki, bu həftə Vaşinqtonda keçirilən Beynəlxalq Valyuta Fondunun (BVF) iclasında Mythos geniş şəkildə müzakirə olunub. “Əlbəttə, bu, bütün maliyyə nazirlərinin diqqətini cəlb edəcək qədər ciddidir” dedi. "Fərq ondadır ki, Hörmüz boğazı - biz onun harada olduğunu bilirik və onun nə qədər böyük olduğunu bilirik... Anthropic ilə qarşılaşdığımız problem onun bilinməyən, naməlum olmasıdır." "Bu, çox diqqət tələb edir ki, biz qoruyuculara malikik və maliyyə sistemlərimizin dayanıqlığını təmin etmək üçün proseslərimiz var" dedi.
Mythos, OpenAI-nin ChatGPT və Google-un Gemini-nin rəqibi olan Claude adlı daha geniş süni intellekt sisteminin bir hissəsi kimi hazırlanmış Anthropic-in ən son modellərindən biridir. Bu ayın əvvəlində Anthropic tərəfindən, süni intellekt modellərinin sınaqdan keçirilməsinə və onların insan dəyərlərinə, məqsədlərinə və davranışlarına zidd olan “səhv uyğunlaşdırılmış” tapşırıqların yerinə yetirilməsinə cavabdeh olan tərtibatçılar onun “kompüter təhlükəsizliyi tapşırıqlarında heyrətamiz dərəcədə bacarıqlı” olduğunu bildirdikdə aşkar edilib. Köhnə proqram səhvlərini üzə çıxara biləcəyi və ya sistem zəifliklərindən asanlıqla istifadə yollarını tapa biləcəyi ilə bağlı narahatlıqlara istinad edərək, Anthropic modeli buraxmadı.
Əvəzində o, Mythos-u Amazon Web Services, CrowdStrike, Microsoft və Nvidia kimi texnoloji nəhənglər üçün “Dünyanın ən kritik proqram təminatının təhlükəsizliyini təmin etmək səyi” adlandırdığı Project Glasswing adlı təşəbbüsün bir hissəsi kimi təqdim etdi. Cümə axşamı günü Anthropic mövcud modelin yeni versiyasını buraxdı, Klod Opus, Mythos-un kiber imkanlarını daha az güclü sistemlərdə sınaqdan keçirməyə imkan verəcəyini söylədi. Mythos ilə bağlı narahatlıqlar əvvəlki süni intellekt modelləri ətrafında söhbətlərdən çox ola bilər, lakin bəzi kibertəhlükəsizlik mütəxəssisləri onların nə dərəcədə əsaslı olduğunu şübhə altına aldılar - xüsusən də modelin əslində nə qədər qabiliyyətli olduğunu görmək üçün daha geniş sənaye tərəfindən sınaqdan keçirilmədiyini nəzərə alsaq.
Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutuna onun ilkin baxış versiyasına giriş icazəsi verildi və modelin kibertəhlükəsizlik bacarıqlarına dair yeganə müstəqil hesabatı dərc etdi. Tədqiqatçılar bunun müdafiə olunmayan mühitlərdə çoxlu təhlükəsizlik boşluqlarını tapa bilən güclü bir alət olduğunu qeyd etdilər, lakin Mythos-un Klodun sələfi Opus 4-dən dramatik şəkildə yaxşı olmadığını təklif etdilər. "Testlərimiz göstərir ki, Mythos Preview zəif təhlükəsizlik duruşu olan sistemlərdən istifadə edə bilər və çox güman ki, bu imkanlara malik daha çox model hazırlanacaq".
Bu, həmçinin ilk dəfə deyil ki, süni intellekt inkişaf etdiricisi öz modellərinin imkanlarını iddia edir ki, onlar buraxılmamalıdır - tənqidçilərin iddia etdiyi bir şey şırınga yaratmaq üçün bir taktikadır. 2019-cu ilin fevral ayında OpenAI, indi ən böyük aləti ChatGPT-ni gücləndirən modellərinin əvvəlki versiyası olan GPT-2-nin buraxılışını dayandırmaq qərarına gəldikdə oxşar qorxulara istinad etdi. Ən yaxşı bankirlərə sistemlərini sınaqdan keçirmək üçün əvvəlcədən modelə giriş icazəsi verilməlidir.
Xülasə — davamını mənbədə oxuyun.
