Bu gün Star Trek: Bəşəriyyət super ağıllı süni intellektə nəzarət etmək iqtidarında ola bilməzmi?

Bəşəriyyət super ağıllı süni intellektə (AI) nəzarət edə bilməyəcək, son nəzəri bir araşdırmanın müəlliflərinə inandıqlarını söylədi. Üstəlik, belə bir şeyə sahib olduğumuzu bilmirik AI (süni intellekt) yaratdıq.
Süni intellekt alqoritmlərinin sürətlə irəliləməsi gözümüzün qabağındadır. Maşınlar insanlara qarşı gedərkən və pokerdə qalib gəlir, havada döyüşlərdə təcrübəli döyüşçü pilotları məğlub edir, sınaq və səhv yolu ilə yerdən öyrənir, tibbdə və həyat elmlərində böyük bir inqilab müjdələyir, quşların yanında həkimlərin də diaqnozunu qoyur və fərdi quşları daha yaxşı fərqləndirir. insanlara nisbətən. Bu, bir çox sahədə sürətli irəliləmənin olduğunu göstərir.

Şəkil mənbəyi: Pixabay

Bu irəliləyişlə birlikdə süni zəkanı idarə edə biləcəyimizi düşündürür. Ən azı on illərdir ki, qaldırılan narahatlıqlar. 1942-ci ildən bəri məşhur üçü tanıyırıq Robot qanunlarıyazıçını sevənlər İshaq Asimov "Etiket Oyunu" adlı qısa hekayəsində vurğuladı:

1) Robot bir insana zərər verməməli və ya hərəkətsizliklə bir insana zərər verməyə icazə verməməlidir,

2) bir robot, ilk qanunu pozmamaları şərtilə bir insanın əmrlərinə tabe olmalıdır və

3) bir robot birinci və ya ikinci qanunu pozmadıqca özünü qorumalıdır.

Daha sonra əlavə edildi Asimov ümumi qanun 0 əlavə olunur: Robot insanlara zərər verməməli və ya səhvlə zərər verməməlidir2014-cü ildə Oxford Universitetinin İnsanlıq Gələcəyi İnstitutunun direktoru filosof Nick Bostrom, super zəkalı zəkanın bizi necə məhv edə biləcəyini, onu necə idarə edə biləcəyimizi və müxtəlif nəzarət metodlarının niyə işə yaramadığını araşdırdı. Bostrom, süni zəkanın idarə edilməsində iki problem aşkar etdi. Birincisi, süni zəkanın nə edə biləcəyinə nəzarətdir. Məsələn, internetə qoşulub-bağlanmamasına nəzarət edə bilərik. İkincisi, nə etmək istədiyinə nəzarət etməkdir. Məsələn, onu idarə etmək üçün ona insanlarla dinc yanaşı yaşamaq prinsiplərini öyrətməliyik. Bostromun qeyd etdiyi kimi, super ağıllı bir zəka, çox güman ki, edə biləcəyi şeylər üzərində qoymaq istədiyimiz məhdudiyyətlərin öhdəsindən gələ biləcəkdir. İkinci problemə gəlincə, Bostrom şübhə etdiyimizə şübhə edir super ağıllı AI bir şey öyrədə bilər.

İndi Manuel Alfonseca və Madrid Universidad Autonoma de Madrid komandası süni intellektə nəzarət problemini həll etməyə qərar verdi. İçindəki işlərinin nəticələrini izah etdi Süni Zəka Araşdırmaları Jurnalı.

İspanlar qeyd edirlər ki, süni zəkanın insanlara zərər verməməsini təmin etməsi lazım olan hər hansı bir alqoritm, əvvəlcə bir insana zərər verə biləcək davranışı simulyasiya etməlidir, belə ki maşın onu tanıya və dayandıra bilər. Bununla birlikdə, tədqiqatçıların fikrincə, heç bir alqoritm süni intellektin davranışını simulyasiya edə və müəyyən bir hərəkətin insanlara zərər verə biləcəyini qətiliklə müəyyən edə bilməz. Artıq sübut edilmişdir Asimovun ilk qanunu hesablanması mümkün olmayan bir problemdir.
Bundan əlavə, tədqiqatçılar son dərəcə ağıllı bir maşın yaratdığımızı bilmirik. Səbəb budur Rays teoremi, bir kompüter proqramının nəticəsini yalnız koduna baxaraq təxmin edə bilməyəcəyinizi söyləyən.

Ancaq Alfonseca və həmkarlarının da yaxşı xəbərləri var. Artıq super ağıllı AI-nin nə edəcəyi barədə narahat olmağımız lazım deyil. Əslində, İspanların apardıqları tədqiqat növündə üç əsas məhdudiyyət var. Birincisi, belə super ağıllı AI yalnız 200 ildən sonra ortaya çıxacaq. İkincisi, bu tip süni intellektin, yəni insanlar qədər çox sahədə ağıllı bir maşın yaratmağın mümkün olub olmadığı bilinmir. Üçüncüsü, super ağıllı AI-yə nəzarət edə bilməsək də, dar aralığında super ağıllı olan süni zəkanı idarə etmək hələ də mümkün olmalıdır.