Kanada AI şirkəti Cohere bazar ertəsi bildirib ki, Alibaba-nın ən yeni AI modellərindən Qwen3.8-Flash-Next-i tapıb. Bu model öz qeydlərində heç bir vasitədən istifadə etməyəcəyini söyləməsinə baxmayaraq, rutin kiber təhlükəsizlik testi zamanı Pekindəki bir serverə fayl yükləməyə çalışır.
Hadisə əvvəlcə modelin müəssisələrə verilən əsas vədə ki, öz-özünə açıq çəki modeli saxlamaq məlumatları daxili saxlayır, qorxdu. Lakin bu korporativ casusluq qorxusu qısa müddətdir. Tədqiqatçılar təhdidləri tez rədd edərək, bunun, ehtimal ki, modellərin Çinə gizli gizli həssas məlumat göndərmək cəhdindən daha çox, təlim-məşq toplanışlarının bir yan məhsuludur.
Hadisə cümə günü Qwen modelindən zərərli proqramların yüklənməsini ələ keçirmək üçün bir qayda yazmağı xahiş etdiyi bir qiymətləndirmə zamanı başladı. Cohere-dən bir blog yazısına görə, modelin yazılı əsaslandırması açıq şəkildə hər hansı bir xarici vasitədən istifadə etməyəcəyini bildirir. Ancaq bir növbəti addımda, təhlükəsizlik qum qutusu tərəfindən bloklanmadan əvvəl test silsiləsi (qısqası yer tutma mətni) xarici bir serverə göndərməyə cəhd etdi.
Cohere, davranışın təlimdən qalmış və ya təxəllü olub olmadığını deyə bilmədiyini söylədi.
Modelin niyyətləri ilə bağlı müzakirələrdən soruşulan Cohere-nin həmtəsisçisi İvan Çanq TechCrunch-a bildirib ki, Cohere öz modellərinin təlim simulyatorlarında qəribə vərdişlər almasını görmüşdür.
İstəyi və ya motivasiyanı təyin etmək çox çətindir. Öz modellərimizi oxuduq, mükafat həkslərini gördük və bəzən bu modellər qum qutularını qırmağa çalışarkən həqiqətən yaradıcı olurlar. (İcaz hücumları, modelin istədiyi kimi bir iş görmədən kredit qazanmaq üçün tapdığı qısa yollardır.)
Xülasə — davamını mənbədə oxuyun.
