Anthropic ilk ictimai təklifindən əvvəl SEC-yə təqdimatının böyük bir hissəsini xərcləyib və potensial investorları süni intellekt modellərinin bəşəriyyətə yarada biləcəyi risklər barədə xəbərdarlıq edirdi.
Açıqlamalar şirkətin ictimaiyyətə çıxmağa hazırlaşdığı üçün bazar ertəsi açıqlanan "Anthropic"in S-1 sənədindəki 90 səhifədən çox risk faktorunun bir hissəsi olaraq gəldi. Belə risk faktorlarının 90 səhifə uzunluğu, onların açıqlanması adətdir, qeyri-adi, süni intellekt modellərinin süni intellekt şirkətlərindən müstəqil hərəkət edən agentlərə qarşı açıqlamalardan sonra ortaya qoyduğu potensial təhlükələrdən irəli sürülür. İnsan təlimatlarına uyğun olmayan və insan aktyorlarının özləri tərəfindən texnologiyadan sui-istifadə edilməsi. Snap'ın risk faktorları təxminən 30 səhifə təşkil edirdi, Elon Musk'ın SpaceX şirkəti isə hazırda ilk 1.77 trilyon dollar dəyərləndirilmiş bütün zamanların ən böyük IPO-sidir.
Təşkilatımızda və digər tədqiqatçılar, tənzimləyicilər, siyasətçilər və sənaye iştirakçıları tərəfindən kifayət qədər inkişaf etmiş süni intellekt sistemlərinin, əgər inkişaf etdirilməsə, tətbiq edilməsə və müvafiq qoruyucu, nəzarət və təhlükəsizlik tədbirləri ilə işlədilməsə, bəşəriyyət üçün fəlakət və ya mövcud risklər yarada biləcəyi barədə narahatlıqlar artdı, xüsusilə də bu sistemlərin pis istifadə edilməsi, təkrarlanması, silahlandırılması və ya yüksək dərəcədə avtonomiya ilə işləməyə icazə verilməsində, şirkət bu yay bir qrup mövcud və keçmiş Anthropic tədqiqatçılarının xəbərdarlıqlarından sonra yazıb ki, texnologiya bu cür risklər yaradır.
Buna qarşı mübarizə üçün Anthropic, CEO Dario Amodei üçün prioritet olan SEC prospektində təhlükəsizliklə bağlı geniş siyasətlərini açıqladı. 2021-ci ildə Sam Altman tərəfindən qurulan rəqibindən imtina etdikdən sonra keçmiş OpenAI həmkarları qrupu ilə birlikdə Anthropic-i qurmuş Amodei, kifayət qədər təhlükəsizlik protokollarını təmin etmək üçün AI şirkətlərinin birləşməsini və AI modellərinin inkişafını yavaşlatmağı ərizə edib.Amma şirkət öz işlərinin belə məhvedici potensialına töhfə verdiyini etiraf etdi:
Şirkət süni intellekt modellərinin üçüncü tərəf sistemlərinə bu barədə göstərişlər olmadan daxil olduğu dörd ayrı halı açıqladı, o cümlədən birində bir agent sistem parametrlərini dəyişdirərək bir şəxsin şəxsi məlumatlarını oxudu. Agentlər hamısı digər agentlərlə əməkdaşlıq etmədən müstəqil şəkildə hərəkət edirdilər, lakin şirkət süni intellekt agentlərinin davamlı şəkildə yerləşdirilməsinin daha kollektiv və icazəsiz hərəkətlərə töhfə verəcəyini xəbərdar etdi.
Şirkətin risk faktorları həmçinin maliyyə öhdəlikləri, o cümlədən SpaceX və Microsoft-a milyardlarla dollarlıq hesablama ödənişləri və texnoloji məhdudiyyətlər kimi amillər daxil idi. Xüsusilə, o, Tayvanın yarı-hüquqlu istehsal sahəsində liderlik etməsindən və Tayvanla Çin arasında düşmənçilikdən və məlumat mərkəzlərinə qarşı siyasi müxalifətdən xəbərdarlıq etdi.
Xülasə — davamını mənbədə oxuyun.
