İsaak Asimov bizə süni intellekt apokalipsindən necə qaçmaq lazım olduğunu göstərdi

Ayzek Azimovun 1942-ci ildə yazdığı "Runaround" hekayəsində SPD-13 (Speedy) adlı bir robot, insan operatorlarını Merkuri planetinin amansız günəşi altında yanıb ölməkdən xilas etmək üçün vacib bir missiya yerinə yetirərkən nasazlıqla üzləşir. Speedy-yə onların həyat təminatı sistemini bərpa etməyə kömək etmək üçün bir qədər selen gətirmək tapşırılır, lakin o, bunun əvəzinə selen hovuzunun ətrafında dairələr vuraraq, "sərxoş" kimi davranır və Gilbert və Sallivanın əsərlərindən sitatlar gətirir. Mühəndislərdən biri robotun ziddiyyətli əmrlər arasında məntiqi bir döngəyə düşdüyünü başa düşür.

Speedy, Azimovun indi məşhur olan üç robototexnika qanununa riayət etmək üçün layihələndirilmişdi. Həmin qanunlar aşağıdakılardır: 1. Robot insana zərər verə bilməz və ya hərəkətsiz qalaraq insanın zərər görməsinə yol verə bilməz. 2. Robot insanlar tərəfindən verilən əmrlərə tabe olmalıdır, yalnız bu əmrlər birinci qanunla ziddiyyət təşkil etməməlidir. 3. Robot öz mövcudluğunu qorumalıdır, yalnız bu qorunma ilk iki qanunla ziddiyyət təşkil etməməlidir. Speedy-nin istehsalı çox baha başa gəldiyi üçün proqramçıları üçüncü qanuna xüsusi önəm vermişdilər.

Daha çox oxu: "Elmi fantastika bizi necə xilas edə bilər"

Robotların və insanların bu üç qanunla necə razılığa gəlməsi Azimovun sonrakı onilliklərdə yazdığı və bir çoxu 1950-ci ildə "Mən, Robot" kitabında toplanmış onlarla hekayənin əsasını təşkil etdi. Bu hekayələrin mərkəzində dayanan parlaq və fırlanan tapmacalar 2026-cı ildə Yer planetindəki real həyat üçün getdikcə daha qorxulu və aktual hala gəlib. Süni intellektin bilikləri demokratikləşdirməsi və bəşəriyyət üçün həlli mümkün olmayan problemləri həll etməsi gözlənilirdi. Lakin süni intellekt botları artıq insanların psixoz və intihar yolu ilə ölümü də daxil olmaqla, dəhşətli zərər görməsi ilə əlaqələndirilir. Bəzi ilkin sübutlar onların bizi hər keçən dəqiqə daha da axmaqlaşdırdığını göstərir. İndi insan cəmiyyətləri süni intellektin təkcə ayrı-ayrı insanlara zərər verməməsini deyil, həm də bəzi süni intellekt mütəxəssislərinin cəmi bir neçə həftə əvvəl xəbərdarlıq etdiyi kimi, bir onillik ərzində bütün insan irqinin məhvinə səbəb olmamasını necə təmin edəcəyi ilə mübarizə aparır.

1986-cı ildə verdiyi bir televiziya müsahibəsində Azimov bildirmişdi ki, elmi fantastika hekayələrində və romanlarında dərc etdiyi milyonlarla sözdən 100 il sonra yalnız robototexnikanın üç qanununu təşkil edən 60-a yaxın sözün sağ qalacağına əmindir. O, onların davamlılığını proqnozlaşdırmaqda haqlı idi. Onilliklər ərzində digər elmi fantastika yazarları onun qanunlarını saysız-hesabsız elmi fantastika hekayələrində yenidən şərh edib və yenidən yazıblar; bu qanunlar süni intellektin inkişafında etik məsələlərlə bağlı real həyat müzakirələrinin formalaşmasında böyük rol oynayıb. Bu təsir bu gün də davam edir.

Azimovun irsinin ironiyalarından biri odur ki, onun bir çox hekayəsi qanunları fəlakətli nəticələr olmadan tətbiq etməyin nə qədər çətin olduğunu göstərir. Bunun səbəbi zərər və ya incitmənin universal tərifinin olmamasıdır; robot müxtəlif insanlara dəyən zərərləri ölçməkdə çətinlik çəkə bilər və ya hətta qeyri-müəyyən vəziyyətlərdə insanı tanımaqda çətinlik çəkə bilər. Azimov yazıçı karyerası boyu qanunları bir çox dəfə yenidən işləyib, o cümlədən robotun bəşəriyyətə zərər verə bilməyəcəyini nəzərdə tutan və digər bütün qanunlardan üstün olan "sıfırıncı qanunu" yazıb. Lakin sıfırıncı qanun mahiyyət etibarilə qiyamət günü maddəsi idi, çünki o, utilitar yanaşmaya imkan verir və robotlara daha böyük xeyir naminə lokal vəhşilikləri əsaslandırmağa icazə verirdi. Azimovun yaradıcılığının son dövrlərinə aid "Robotlar və İmperiya", "Danışan Robotlar" və "Təməl və Yer" kimi romanları robotların qanunlara ən yaxından riayət etdikdə ən böyük zərəri vura biləcəyini təklif edirdi.