Çərşənbə axşamı OpenAI, modellər sınaqdan keçirilərkən təhlükəsizlik insidentlərini ehtiva edən yeni təhlükəsizlik siyasətlərinin yeni partiyasını elan etdi. Yeni qorunma tədbirləri inkişaf prosesi zamanı modellərin daha ətraflı monitorinqini, eləcə də təlimdən sonrakı proses zamanı uyğunlaşma və təhlükəsizliyə daha çox diqqəti əhatə edir. OpenAI nümayəndələri vurğuladılar ki, tədbirlər Hugging Face insidentinə birbaşa cavab deyil, həm də qismən qarşıdan gələn Astra modelinin kibertəhlükəsizlik imkanları, eləcə də süni intellekt inkişafındakı ümumi irəliləyiş tempi ilə təhrik edilib.
Eyni yazıda OpenAI, Hugging Face hadisəsindən sonra iki həftə gücləndirmə öyrənməni dayandırdığını, lakin o vaxtdan daha az riskli modellərin bir çoxunu yenidən işə saldığını açıqladı. OpenAI-nin araşdırma üzrə vitse-prezidenti Amelia Glaese jurnalistlərə danışarkən, modellər daha bacarıqlı olduqda, nəzarətin sərtliyinin artacağını, ən böyük modellərin ən böyük araşdırma ilə üzləşəcəyini vurğuladı. Xüsusiyyətlər qeyri-müəyyən olaraq qalmasına baxmayaraq, yeni təhlükəsizlik tədbirləri daha güclü şəbəkə təcrid təcrübələrini əhatə edir.
Yeni sistemə əsasən, yazıda deyilir ki, “iş yükünün və ya dəstəkləyici xidmətin birdəfəlik güzəşti öz-özünə İnternetə və ya digər daxili şəbəkələrə icazəsiz girişə imkan vermir”. Ən güclü müdafiə alət hərəkətlərini, mövcud əsaslandırma izlərini və müxtəlif icazəsiz davranışlar üçün fəaliyyət qeydlərini yoxlayacaq monitorinq sistemidir. OpenAI bildirir ki, onlar müvafiq fəaliyyətdən sonra 30 dəqiqə ərzində xəbərdarlıq etməyi hədəfləyirlər. OpenAI təxmin edir ki, bu monitorinqin hesablama yükü izlənilən prosesin təxminən 20%-ni təşkil edəcək.
Şirkət gələcək bloq yazısında sistemlə bağlı əlavə təfərrüatlar vəd edib. OpenAI-nin hadisə ilə bağlı rəsmi ölümdən sonrakı təhlili də hələ də gözlənilir.
Xülasə — davamını mənbədə oxuyun.
