Bu epizodda qeyd olunan məqalələr:
Çin Silikon Vadisinin Süni İntellektin ləngidilməsi çağırışına əməl etmir Vaşinqton yaxın vaxtlarda Süni İntellekti tənzimləməyəcək Niyə bu qədər çox Süni İntellekt tədqiqatçısı maşınların hamını öldürə biləcəyini düşünür OpenAI Süni İntellekt sənayesinin ləngidilməsinin qanuni olub-olmayacağını bilmək istəyir
Brian Barrett-i Bluesky-da @barrett, Zoë Schiffer-i @zoeschiffer və Leah Feiger-i @leahfeiger ünvanlarında izləyə bilərsiniz. Bizə [email protected] ünvanına yaza bilərsiniz. Necə dinləməli Bu həftənin podkastını həmişə bu səhifədəki audio pleyer vasitəsilə dinləyə bilərsiniz, lakin hər epizodu əldə etmək üçün pulsuz abunə olmaq istəyirsinizsə, bunu necə edəcəyiniz aşağıdadır: Əgər iPhone və ya iPad istifadə edirsinizsə, Podcasts adlı proqramı açın və ya sadəcə bu linkə toxunun. Siz həmçinin Overcast və ya Pocket Casts kimi bir proqram yükləyə və “uncanny valley” axtarışı edə bilərsiniz. Biz Spotify-da da varıq. Transkript Qeyd: Bu, səhvlər ola biləcək avtomatlaşdırılmış transkriptdir. Zoë Schiffer: WIRED-in Uncanny Valley proqramına xoş gəlmisiniz. Mən Zoë Schiffer, redaktor-əməkdaşam. Brian Barrett: Mən Brian Barrett, icraçı redaktoram. Leah Feiger: Mən isə Leah Feiger, siyasət və elm üzrə direktoram. Zoë Schiffer: Bu gün şouda biz Süni İntellektin hamımızı öldürüb-öldürməyəcəyi ilə bağlı müzakirələrə daxil oluruq. Və artıq mövcud olan çoxsaylı kəskin şərhlərin üzərinə yenisini əlavə etmək əvəzinə, biz sizə Süni İntellektin bunu əslində necə edə biləcəyi və texnologiya şirkətlərinin rəhbərləri ilə siyasətçilərin niyə irəliyə doğru yol barədə razılığa gələ bilmədikləri haqqında bacardığımız qədər konkret ssenariləri təqdim edəcəyik. Yaxşı, dostlar, Süni İntellekt təhlükəsizliyi ilə bağlı müzakirələr rəsmən nəzarətdən çıxıb. Brian Barrett: Oh. Zoë Schiffer: Bilirəm. Brian Barrett: Zoë, orada nə etdiyini gördüm. Vay. Zoë Schiffer: Orada nə etdiyimi gördün? Bu, həqiqətən nəzarətsiz şəkildə yayılan bir şeydir. Süni İntellekt tədqiqatçısı Jacob Coxon Anthropic-dən istefa verdi və X-də yazdı ki, "Süni İntellekt quran insanlar onilliyin sonuna qədər bunun hamımızı öldürə biləcəyinə ürəkdən inanırlar." Anthropic-in baş direktoru Dario Amodei ləngiməyə çağırıb. Onlar buna "sərhədi müəyyənləşdirmək" deyirlər. Sam Altman və Elon Musk isə əslində buna imza atıblar, bu nadir bir razılıq anıdır. Amma düzünü desəm, Süni İntellektin bəşəriyyəti məhv etməsi ilə bağlı bütün bu söhbətlərdən sonra məndə çox sadə bir sual qaldı: bu, tam olaraq necə baş verir? Süni İntellektin tamamilə nəzarətdən çıxması əslində necə görünür? Leah Feiger: Bunu etdiyimiz üçün çox şadam. Keçən həftə WIRED-dən Will Knight ilə hər kəsin bu barədə narahat olması haqqında çox gözəl bir podkastımız oldu, amma mən bir təhlil istəyirəm. Sizdən istəyirəm ki, bioloji silahlardan nüvə kodlarına qədər hər bir ssenarini mənə izah edəsiniz, biz Süni İntellekt ölüm robotları haqqında danışarkən əslində nədən bəhs edirik? Zoë Schiffer: Əlimizdən gələni edəcəyik. Son iki gündə bunu anlamağa çalışaraq LessWrong-u oxumağa həyatımda ən çox vaxtımı sərf etdim. Onlar ssenari planlaşdırma məşqlərini sevirlər, amma hər kəsi ən son yeniliklərdən xəbərdar etmək üçün deyim ki, bu həftə Salesforce tərəfindən təşkil edilən bir tədbir keçirildi və orada Sam Altman, Dario Amodei və NVIDIA-dan Jensen Huang iştirak edirdilər, təbii ki, onlar Süni İntellekt təhlükəsizliyi haqqında danışmalı oldular. Gəlin Sam Altman-ın nə dediyinə qulaq asaq. Sam Altman, arxiv audiosu: Düşünürəm ki, dünya bundan qorxmaqda haqlıdır. Beləliklə, bizim iki böyük çətinliyimiz var. Nəzarətin itirilməsi qəzası və ya səhv gedə biləcək başqa bir ciddi hadisə potensialımız var. Həddindən artıq güc konsentrasiyası potensialımız var və insanlar qorxurlar ki, Süni İntellekt hazırlayanlar öz dünyagörüşlərini tətbiq edə bilərlər. Və bizim praqmatizmlə, sabitliklə, dünyanın bizim etibarlı qərarlar qəbul edəcəyimizə, bu müddət ərzində ardıcıl qərarlar verəcəyimizə inanması bacarığı ilə hərəkət etməli olduğumuz dar bir yol var. Və düşünürəm ki, insanlar deyirlər: "Yaxşı, bu indi çox vacib görünür. Gəlin bunu düzgün edək." Leah Feiger: Mən mütləq bu texnologiyadan, onun necə tənzimləndiyindən, necə istifadə edildiyindən və nəzarətdə olan insanlardan çox narahat olmalı olduğumuzu deyən tərəfdəyəm. Mən bununla razıyam. Digər tərəfdən, bu, həm də kiminsə böyük IPO-su üçün qızdırmalı bir yuxu kimi görünür. Brian Barrett: Bilmirəm. Marketinq arqumentini başa düşürəm, amma düşünürəm ki, biz artıq o mərhələni bir az keçmişik. Hiss edirəm ki— Leah Feiger: Həqiqətən? Brian Barrett: Əgər bir şey varsa, Sam Altman "ekzistensial təhlükə"dən hələ ictimaiyyətə çıxmamaq üçün bir səbəb kimi istifadə edir. O deyir: "Xeyr, bu çox təhlükəlidir. Gələn ilə qədər gözləməliyik." Həqiqətən səbəb budurmu? Bilmirəm, amma yəqin ki, bəzi biznes səbəbləri də var. Anthropic və başqalarının "Baxın, biz əsasən nüvə silahı qədər güclü bir şey qururuq" demələrinin niyə marketinq kimi göründüyünü başa düşürəm. "Oh, əslində mən işdən çıxıram, çünki dünyanı məhv edəcək bir şey qurduğumu düşünürəm" kimi bir şey fərqli hiss olunur. Düşünürəm ki, burada mahiyyət etibarilə bir fərq var. Leah Feiger: İşdən çıxmaq hissəsi mənə fərqli gəlir, amma bu hələ də Sam Altman-dır. Onun maliyyə gələcəyi burada risk altındadır və bunu başa düşmək çətindir... Ən azından mənim üçün bunu bir yol kimi qiymətləndirmək çətindir. "Biz indiyə qədərki ən böyük, ən yaxşı, ən güclü robotu qururuq və siz uşaqlar bundan bir az qorxmalısınız. Və narahat olmayın, biz addımlar atacağıq. Bunlar tənzimləyici addımlar olmayacaq, amma bir növ addımlar olacaq." Bu, hələ də bəzi dünyalarda marketinq hiyləsi kimi görünür. Brian Barrett: Ola bilər. Düşünürəm ki, təhlükənin mahiyyəti, biz buna sonra toxunacağıq, daha çox "Oh, biz bu şeyləri necə idarə edəcəyimizi bilmirik. Onlar dəli olacaqlar və biz bunu dayandıra bilməyəcəyik" kimidir. Bu, "Biz hazırda bununla bağlı heç nə edə biləcək qədər səlahiyyətli deyilik" kimi görünür, bu da marketinq kimi daha az hiss olunur— Leah Feiger: Bu ədalətlidir. Seminarda başqaları nə dedi, Zoë? Zoë Schiffer: Beləliklə, Dario, çox liberal olan və Süni İntellektin ekzistensial risklərindən narahat görünməyən Salesforce-un baş direktoru Marc Benioff tərəfindən təqdim edildi. Marc Benioff, arxiv audiosu: Dario, salam Dario. Necəsən?
Xülasə — davamını mənbədə oxuyun.
