Anthropic, sərt mənbəli bir sistem üzərində işləyir ki, hansı süni intellekt modelinin müəyyən bir çıxışını istehsal etdiyini təsdiqləsin. FlashProve adlı sistem tədqiqatçılar tərəfindən provable inference kimi adlandırılan bir kriptografik sübut, əsasən riyazi zəmanət, verilən bir çıxışın müəyyən bir modeldən gəldiyini təmin etmək üçün qurulmuşdur. Bu, istifadəçilərə aldığı cavabın həqiqətən istifadə etdiklərini düşündükləri modeldən gəldiyini təsdiqləməyə imkan vermək üçün nəzərdə tutulmuşdur.
Alıcılara mesajın həqiqətən iddia edilən göndəricidən gəldiyini təsdiqləməyə imkan verən kriptografik e-poçt imzalarına bənzər olaraq, FlashProve, bir modelin digərinə bürünməyə çalışan saxtakarlara qarşı güclü olacaq, hətta saxtakarın modelin tikilən və idarə olunan laboratoriya olduğu halda da. Xüsusilə, tədqiqatçılar qeyd edirlər ki, sistem süni intellekt şirkətinin xərcləri azaltmaq üçün daha ucuz modellə gizli şəkildə mübadilə aparmasını və ya performans nəticələrini artıran daha bahalı modeldən istifadə edilməsini maneə törədir.
FlashProve, üçüncü tərəflərin müəyyən bir vəzifəni qabaqcıl model tərəfindən yerinə yetirilməsi barədə iddialarını yoxlamaq üçün də istifadə edilə bilər. Bir inkişaf etdiricisi proqram kitabxanasının həssaslıqlar üçün sərhəd kiber təhlükəsizlik modeli tərəfindən skan edildiyini iddia edə bilər və ya bir şirkət biznes planının uyğun bir model tərəfindən təsdiqləndiyini iddia edə bilər. Bir istifadəçi bu iddiaları necə təsdiq edə bilər?
İş üçün sistem süni intellekt laboratoriyalarından buraxdıqları hər modelin barmaq izi nəşr etməsini tələb edir ki, sonralar müəyyən çıxışlara uyğunlaşdırıla bilər və kriptografik olaraq təsdiqlənə bilər. Əsas odur ki, barmaq izi modelin çəkisini, onun necə davranmasını müəyyən edən daxili nömrələri və Anthropic və OpenAI kimi qapalı modellər istehsalçılarının hansı xüsusiyyətləri aşkar etmir. Bu o deməkdir ki, laboratoriyalar ən dəyərli sərvətlərindən imtina etmədən barmaq izi dərc edə bilərlər, bu da sistemin kommersiya modelləri ilə işləməsinə imkan verir. Sistem həmçinin yüngül olmaq üçün nəzərdə tutulmuşdur, buna görə də yoxlama yerli qurğuda həyata keçirilə bilər.
İlanın bir hissəsi olaraq tədqiqatçılar GitHub-da açıq mənbə lisenziyası ilə ictimaiyyətə təqdim olunan sistemin müxtəlif elementləri üçün ətraflı texniki spesifikasiya və iş kodu yaydılar. Sistemdə tədqiqat davam edir və onu Anthropic və ya digər laboratoriyalarda yerləşdirmək planları yoxdur.
Bu tədqiqat yazısı orta inkişafı bölüşmək üçün nəzərdə tutulmuşdur, tamamlanmış tədqiqat gündəliyində deyil. Biz bunu başqalarının bizim etdiklərimizi nəzərdən keçirməsini, qəbul etməsini və onu yaxşılaşdırmağı məqsədilə açıq şəkildə paylaşırıq.
Xülasə — davamını mənbədə oxuyun.
