Baş texnologiya direktoru və Charge Robotics-in həmtəsisçisi Max Justicz, OpenAI modelindən istifadə edərək, istifadə olunduğu təqdirdə hakerlərin Ubuntu-nun idarə edilməsini təmin edə biləcəyi ciddi bir zəifliyi tapdı.
Kiber təhlükəsizliklə maraqlanan və əvvəlcə eyni kod bazasında bir zəiflik tapmış Justicz, TechCrunch-a bildirib ki, bu problemi İyul ayında AI istehsalçısının Daybreak Blue vasitəsilə buraxılmış GPT 5.6 Sol istifadə edərək tapdı. Bu proqram kibir təhlükəsizliyi müdafiəçilərinə güclü sərhəd modellərinə daxil imkanı verir.
Mən ChatGPT-i eyni kodun üzərində hədəflədim və dedim ki, Bir neçə il əvvəl düzəldilmiş bu səhvə rast gəldim, xahiş edirəm pis və ya daha pis səhvləri tapın və 2 saatdan sonra bu ilə geri gəldi. Bu insan üçün son dərəcə mürəkkəb və çətin tapmaqdır, amma işləyir!
O, məsələni Debian layihəsinə bildirdi, bu proqramı saxlayır və zəifliyi düzəltmək üçün bir düzəliş buraxdı. İstifadə edilməsinin heç bir sübutu yoxdur. Ancaq onu tapdığı asanlıq göstərir ki, hətta yenilikçi hakerlərin də süni intellekt modellərinin köməyi ilə istifadə edə biləcəyi potensial istismarlar üçün yalnız buz dağının ucunu gördük.
Mən yalnız daha çox vaxt və daha az steril modellərə girişlə nə edə biləcəyini təsəvvür edə bilərəm. "Gələn bir neçə ay ərzində çox dəli səhvlərin tapılması və istismar ediləcəyini gözləməliyik", - Justicz sosial şəbəkələrdə öz tapışını müzakirə edən bir ünvanda yazıb. Bu, əksər insanlar üçün bariz ola bilər, amma hazırda kiminsə hələ yoxlamamış bir kod və ya ikitərəfli bir kod götürməkdə böyük bir alfa var və yalnız güclü bir süni intellekt modeli üzərindədir.
OpenAI bunu fərq etmişdir. Bu gün süni intellekt nəhəngi kiber təhlükəsizlikə yönəlmiş yeni bir model elan etdi. ChatGPT Cyber, kiber təhlükəsizlik proqramının ən yüksək səviyyəli istifadəçilərinə, Daybreak Red-ə, təqdim olunacaq. Bu, həssaslıq avı və inkişafı üçün hücumlu kiber təhlükəsizlik tədqiqatçılarının vasitələrini təmin edir. Dünən OpenAI, eyni modelin Linux nüvəsindəki zəifliklərə baxmaq üçün düzəlişləri taramaq və hazırlamaq üçün istifadə edildiyini və 948 potensial problem tapdığını söylədi. OpenAI, veb brauzer Firefox-da 81 yeni zəifliyi də tapdı.
Xülasə — davamını mənbədə oxuyun.
