Idėja, kad dirbtinis intelektas nuverstų žmoniją, buvo diskutuojama dešimtmečius, o 2021 m. sausį mokslininkai paskelbė, ar galime valdyti aukšto lygio kompiuterio superintelektą. Atsakyti? Beveik tikrai ne.
Problema ta, kad norint valdyti superprotą, kuris yra toli už žmogaus supratimo, reikės to superproto modeliavimo, kurį galėtume analizuoti. Bet jei mes nesugebame to suprasti, neįmanoma sukurti tokio modeliavimo.
Taisyklės, tokios kaip „nedaryk žalos žmonėms“, negali būti nustatytos, nebent suprasime, kokius scenarijus sugalvos dirbtinis intelektas (AI), mano 2021 m. paskelbto dokumento autoriai. Kai tik kompiuterinė sistema dirbs mūsų programuotojų galimybes viršijančiame lygyje, mes nebegalėsime nustatyti ribų.
„Superintelektas yra iš esmės kitokia problema, nei paprastai tiriama po „robotų etikos“ vėliava“, – rašo mokslininkai. „Taip yra todėl, kad superprotas yra daugialypis ir todėl potencialiai gali sutelkti įvairius išteklius, kad pasiektų žmonėms potencialiai nesuvokiamus, jau nekalbant apie kontroliuojamus tikslus.
Dalis komandos samprotavimų kyla iš sustabdymo problemos1936 m., pasiūlė Alanas Turingas. Iššūkis yra išsiaiškinti, ar kompiuterinė programa padarys išvadą ir atsakys (ir sustos), ar tiesiog sėdės amžinai, bandydama rasti atsakymą.
Kaip su pagalba įrodė Turingas protinga matematika, nors mes galime tai žinoti apie kai kurias konkrečias programas, logiškai neįmanoma rasti būdo, kuris leistų mums tai žinoti apie kiekvieną potencialią programą, kurią kada nors būtų galima parašyti. Tai sugrąžina mus prie AI, kuris superinteligentiškoje būsenoje vienu metu galėtų saugoti visas įmanomas kompiuterių programas savo atmintyje.
Taip pat įdomu:
- OpenAI išmokė dirbtinį intelektą konvertuoti komandas į programos kodą
- Dirbtinis intelektas ieškos gravitacinių bangų
Bet kuri programa, sukurta, pavyzdžiui, siekiant sustabdyti AI nuo žalos žmonėms ir pasaulio naikinimo, gali arba nepasiekti išvados (ir sustoti) – matematiškai neįmanoma būti absoliučiai tikram bet kuriuo atveju, o tai reiškia, kad jos negalima sulaikyti. „Dėl to atgrasymo algoritmas iš esmės tampa nenaudojamas“, – sausį sakė kompiuterių mokslininkas Iyadas Rahwanas iš Maxo Plancko žmogaus raidos instituto Vokietijoje.
Mokslininkų teigimu, alternatyva mokyti dirbtinio intelekto etikos ir draudimų sunaikinti pasaulį, dėl kurio joks algoritmas negali būti visiškai tikras, yra apriboti superproto galimybes. Pavyzdžiui, jis gali būti atjungtas nuo dalies interneto ar tam tikrų tinklų.
Neseniai atlikto tyrimo autoriai atmeta ir šią idėją, manydami, kad tai apribos dirbtinio intelekto apimtį – esą jei nesiruošiame jo panaudoti sprendžiant problemas, viršijančias žmogaus galimybes, tai kam jį iš viso kurti?
Jei ketiname tobulinti dirbtinį intelektą, galime net nežinoti, kada pasirodys superintelektas, kurio mes nekontroliuojame, todėl tai yra nesuvokiama. Tai reiškia, kad turime pradėti kelti rimtus klausimus apie tai, kur einame.
„Superprotinga mašina, valdanti pasaulį, skamba kaip mokslinė fantastika“, – sako kompiuterių mokslininkas Manuelis Kebrianas iš Maxo Plancko žmogaus raidos instituto. Tačiau jau yra mašinų, kurios savarankiškai atlieka kai kurias svarbias užduotis, o programuotojai visiškai nesupranta, kaip jie to išmoko.
Todėl kyla klausimas, ar jis kada nors gali tapti nevaldomas ir pavojingas žmonijai...
Taip pat skaitykite:
- Dirbtinis intelektas sugebėjo atkartoti nutapytą Pikaso paveikslą
- Dirbtinis intelektas padės numatyti eismo įvykius dar jiems neįvykus