Dayanıqsız AI-ı necə idarə etmək olar: Daxili baxış

Anna August Avropa İttifaqı, Böyük Britaniya və Körfəz Ərəb Ölkələri Əməkdaşlıq Şurası daxilində süni intellektin idarə olunması, audit və uyğunluq üzrə ixtisaslaşıb.

Bu ilin əvvəlində bir universitet tələbələrin suallarını cavablandırmaq üçün nəzərdə tutulmuş yeni süni intellekt sisteminin effektivliyini yoxlamaq qərarına gəldi. Beləliklə, universitet rəsmiləri məni, yəni süni intellekt auditorunu, vəziyyəti araşdırmaq üçün dəvət etdilər. Yoxlamam zamanı aşkar etdim ki, yalnız akademik təqvim və təşkilati məsələlərlə bağlı ümumi sualları cavablandırmalı olan süni intellekt agenti tələbələrin şəxsi məlumatlarına daxil olmağa başlayıb — yəni sualları cavablandırmaq üçün lazım olmayan məlumatlara giriş əldə edib. Lakin çatbot bu məlumatlarla başqa heç bir əməliyyat aparmayıb.

Həmin vaxt universitetin mühəndisləri giriş jurnallarından baş verənləri öyrəndikdə, problemi aradan qaldırdılar və bununla da məsələ bağlandı. Rəsmi qeydiyyat aparılmadı. Daxili qaydalarda bu cür insidentlərin qeydə alınması tələb olunmurdu və bu kimi hadisələri izləmək üçün heç kim təyin edilməmişdi. Bu, sadəcə mühəndislik qrupunun səhvlərin aradan qaldırılması prosesinin bir hissəsi idi. Bu insident mənim "yaxın ötüşmə" (near miss) adlandırdığım hadisə idi və hesabat sistemi məhz belə halları aşkar etmək üçün mövcuddur. Eyni davranış növbəti dəfə daha ciddi bir nəticəyə səbəb ola bilərdi və biz bu hal haqqında yalnız universitetin sistemi yoxlamaq üçün məni könüllü şəkildə dəvət etdiyi üçün məlumatlı olduq.

Aİ-nin Süni İntellekt Aktı yüksək riskli sistemlərin təchizatçıları və istifadəçilərindən ciddi insidentləri bildirməyi tələb edir, lakin ümumi sualları cavablandıran çatbot bu kateqoriyaya yaxın belə deyil. Hətta yüksək riskli sistemlər üçün belə, bu öhdəliklər 2027-ci ilin dekabrına qədər qüvvəyə minmir və heç bir zərər vurmayan "yaxın ötüşmə" halları onsuz da ciddi insident kimi qəbul edilmir.

Məhz buna görə də, bir süni intellekt auditoru kimi, hər bir işin əvvəlində təşkilatlardan sistemin davranışını sınaq və tətbiq prosesləri vasitəsilə necə izlədiklərini mənə göstərmələrini istəyirəm. Mən sistemlərin nəzərdə tutulmayan şəkildə hərəkət etdiyi, öz rollarından kənar məlumatlara daxil olduğu, anomaliyaların və "yaxın ötüşmə" hallarının, yaxud zərər vurmazdan əvvəl aşkar edilmiş problemlərin qeydlərini tələb edirəm. Universitet kimi əksər yerlərdə belə qeydlər mövcud deyil.

Universitet auditi könüllü şəkildə sifariş etmişdi. Onların tərəfindən faktların qəsdən gizlədilməsi yox idi; sadəcə bu vacib detalları üzə çıxaracaq bir proses yox idi və heç nə onları, xüsusən də sınaq mərhələsində belə bir sistem qurmağa məcbur etmirdi. Kənar bir şəxsin süni intellekt sisteminin nasazlıqları haqqında öyrəndikləri, ümumiyyətlə, onu quran insanların xoş niyyətindən asılıdır.