Açıq modellərin real faydaları var. Onlar riskləri üstələyirmi?

MIT Technology Review izah edir: Yazarlarımızın elmin və texnologiyanın mürəkkəb, qarışıq dünyasını çözməsinə icazə verin ki, gələcəkdə nələrin baş verəcəyini anlamağınıza kömək etsin. Seriyanın davamını buradan oxuya bilərsiniz.

Keçən ayın sonlarında Anthropic, GLM-5.3 modelinin ciddi kibertəhlükəsizlik riski yaratdığını iddia edən bir hesabat yayımladı. Hesabatın əsas narahatlığı ondan ibarətdir ki, Çinin Z.ai şirkəti tərəfindən avqust ayında buraxılan bu güclü yeni model, hər kəsin yükləyib dəyişdirə bilməsi üçün sərbəst şəkildə əlçatandır. Anthropic-in bu iddiası, qabaqcıl süni intellekt modellərinin GLM-5.3 kimi açıq olmalı, yoxsa qabaqcıl laboratoriyaların qapalı qapıları arxasında qalmalı olması ilə bağlı uzun müddətdir davam edən mübahisədə atılan son addımdır.

Bu günlərdə açıq modellərin necə idarə olunması ilə bağlı mübahisələrin çoxu ictimaiyyət qarşısında baş verir və bunun nəticəsində böyük məbləğdə pullar dövriyyədədir. İnsanlar açıq modelləri işlətmək üçün öz aparatlarını almağa davam etdikləri təqdirdə çox qazanacaq olan Nvidia-nın baş direktoru Jensen Huang, ABŞ-ın bu modellərdən daha çoxunu inkişaf etdirməsini həvəslə müdafiə edir. Digər tərəfdən, ucuz və güclü modellər tərəfindən zərər görə biləcək bir şirkəti idarə edən Anthropic-dən Dario Amodei daha ehtiyatlı bir yanaşmanı dəstəkləyir. Lakin bütün bu kommersiya maraqlarının altında, açıq modellərlə bağlı fikir ayrılıqlarının real əsasları dayanır.

Texas Universitetinin (Austin) İnformasiya Məktəbinin dosenti David Gray Widder deyir: "Düşünürəm ki, açıqlıq mübahisəsində hansı mövqedə olmağınız, süni intellekt mübahisəsində hansı mövqedə olmağınızdan çox asılıdır". Süni intellektin təhlükəsizliyi ilə bağlı narahat olanlar, açıq modellərin pis niyyətli şəxslər tərəfindən asanlıqla sui-istifadə edilə biləcəyi barədə xəbərdarlıq edirlər. Süni intellektin praktiki potensialına daha çox diqqət yetirənlər isə bu gücün yalnız bir neçə böyük şirkətin qapalı qapıları arxasında qalmamalı olduğunu və açıq modellərin onun daha geniş yayılmasına kömək edə biləcəyini vurğulayırlar.

Açıq modelləri tamamilə qadağan etmək ilə onları istənilən şəkildə sərbəst buraxmaq arasında idarə etməyin bir sıra yolları var. Lakin bir hökumətin və ya cəmiyyətin qəbul edə biləcəyi hər hansı bir yanaşma, təhlükəsizlik və demokratikləşmə arasında güzəştləri əhatə edir. Açıq modellərin istehsalını dəstəkləmək və ya məhdudlaşdırmaq qərarı, bu risklərin və faydaların dərindən başa düşülməsini tələb edir.

Gəlin əsaslardan başlayaq. ChatGPT və Claude-u işlədən modellər kimi qapalı bir modelə yalnız vebsayt, tətbiq və ya API vasitəsilə daxil olmaq mümkündür. Digər tərəfdən, açıq bir model birbaşa yüklənə bilər: model çəkiləri kimi tanınan uzun rəqəmlər silsiləsində kodlaşdırılmış daxili strukturu haqqında təfərrüatlar ictimaiyyətə açıqdır. Belə modellər bəzən təlim proseduru haqqında daha çox məlumatın mövcud olduğu modellərdən fərqləndirmək üçün "açıq çəkili modellər" adlandırılır.