reverse game theory kimi tanınan yeni yanaşma, qaydalara əməl etməyi ən rasional seçim edən güclü AI modellərinə təşviq yaratmaq məqsədi daşıyır.
Süni intellekt modelləri daha da bacarıqlılaşdıqca təhlükəsizlik tədqiqatçıları insan arzularına uyğunlaşdıqlarını təmin etmək üçün çalışırlar. Başqa sözlə, pis agentlər qanunu pozmaması, icazəsiz serverlərə hücum etməməsi və ya böyük şəhərlərə zəhərli qaz buraxması və hamımızı öldürməməsi üçün.
Bu günə qədər bu iş əsasən süni intellektin beyninə baxmaq və nə olduğunu anlamaq və ya dəyərlərimizi dəyərləndirmək üçün təlim modellərini öyrətmək üçün diqqət mərkəzindədir. Məsələn, Klodun öz konstitusiyası var bir növ mənəvi kod.
Problem budur ki, bu texnikalar xüsusilə yaxşı işləmir: modellərin testlərdə bilə bilə-bilə aşağı performans göstərdiyi, niyyətlərini gizlədirdiyi və qiymətləndiricilərini yanıltdığı göstərilmişdir.
İndi bəzi uyğunlaşdırma tədqiqatçıları, mexanizm dizaynı kimi də tanınan əks oyun nəzəriyyəsinin daha yaxşı nəticələr əldə edə biləcəyinə inanırlar. Oyun nəzəriyyəsi müəyyən qaydalar veriləndə rasional aktyorların necə davranılacağını proqnozlaşdırmağa çalışdığı yerdə, əks oyun nəzəriyyəsi biz təşviq etmək istədiyimiz davranış növlərini ortaya qoyacaq qaydalar hazırlamağa çalışır.
Mekanizm dizaynının real dünyada nümunəsi bir tortun bir hissəsini ikiyə bölmək üçün klassik strategiya ola bilər: Bir nəfər tortun kəsilməsini və digərinin ilk hissə seçimini əldə etməsini təmin edir. Bu, kəsicini mümkün qədər düz düz parçalar hazırlamağa təşviq edir. Digər nümunələr arasında sürücülərin iş vaxtı mövcud olmalarını təşviq edən "təkər" tətbiqlərində qiymət artımları və ikinci qiymət licitaqları var. Qalib olan təklifçi ən yüksək təklif əvəzinə ikinci ən yüksək təklifin qiymətini ödəyir. Platformanlar bu auksionlardan onlayn reklam satmaq üçün istifadə edirlər, çünki alıcıları ödəməyə hazır olduqları maksimum həddə yaxın təklif etməyə təşviq edirlər.
Xülasə — davamını mənbədə oxuyun.
