Buvęs „Google“ vadovas dirbtinį intelektą palygino su branduoliniais ginklais

Buvęs „Google“ generalinis direktorius Ericas Schmidtas palygino dirbtinį intelektą (AI) su branduoliniais ginklais ir paragino sukurti atgrasymo režimą, panašų į abipusį užtikrintą sunaikinimą, kuris neleistų galingiausioms pasaulio valstybėms sunaikinti viena kitos.

Schmidtas kalbėjo apie dirbtinio intelekto pavojus liepos 22 d. Aspeno saugumo forume per diskusiją apie nacionalinį saugumą ir dirbtinį intelektą. Paklaustas apie moralės vertę technologijose, Schmidtas paaiškino, kad jis pats buvo naivus dėl informacijos galios pirmaisiais „Google“ laikais. Tada jis paragino technologijas geriau atitikti žmonių, kuriems jie tarnauja, etiką ir moralę, ir pateikė keistą dirbtinio intelekto ir branduolinių ginklų palyginimą.

„Mes nesame pasiruošę deryboms, kurių mums reikia“. – @ericschmidt #AspenSecurity pav.twitter.com/As749t6ZyU

– Aspen saugumo forumas (@AspenSecurity) Liepa 22, 2022

Schmidtas kalbėjo apie artimiausią ateitį, kurioje Kinija ir JAV turi sudaryti susitarimą dėl dirbtinio intelekto. „50-ajame ir šeštajame dešimtmečiuose mes sukūrėme pasaulį, kuriame branduoliniams bandymams galioja „jokių netikėtumų“ taisyklė, todėl jie buvo uždrausti“, – sakė Schmidtas. „Tai yra pasitikėjimo ar nepasitikėjimo pusiausvyros pavyzdys, tai yra taisyklė „nėra netikėtumų“. Man labai neramu, kad JAV požiūris į Kiniją kaip korumpuotą, komunistinę ar dar ką nors, o Kinijos požiūris į Ameriką kaip nevykėją... leis žmonėms pasakyti: „O Dieve, jie kažką ruošiasi“, o tada. prasidės kažkas nesuprantamo... .

AI ir mašinų mokymasis yra patraukli ir dažnai neteisingai suprantama technologija. Iš esmės jis nėra toks protingas, kaip žmonės galvoja. Jis gali sukurti šedevro lygio meno kūrinius, įveikti „Starcraft II“ žmones ir atlikti elementarius telefono skambučius vartotojams. Tačiau bandymai priversti jį atlikti sunkesnius darbus, pavyzdžiui, vairuoti automobilį dideliame mieste, nebuvo sėkmingi.

Schmidtas kalba apie įsivaizduojamą artimiausią ateitį, kurioje tiek Kinija, tiek JAV bus susirūpinę saugumo klausimais, o tai privers jas sudaryti savotišką DI sutartį. Jis prisiminė šeštąjį ir septintąjį dešimtmetį, kai diplomatija sukūrė daugybę mirtiniausių planetos ginklų kontrolės. Tačiau prireikė dešimtmečio branduolinių sprogimų ir, svarbiausia, Hirosimos ir Nagasakio sunaikinimo, kad taika ateitų prieš Branduolinių bandymų uždraudimo sutartį, SALT II ir kitus svarbius teisės aktus.

Du Japonijos miestai, kuriuos sunaikino Amerika Antrojo pasaulinio karo pabaigoje, nusinešė dešimčių tūkstančių žmonių gyvybes ir pasauliui įrodė amžiną branduolinio ginklo siaubą. Tada Rusijos ir Kinijos vyriausybės suskubo įsigyti ginklų. Tai, kaip mes gyvename su galimybe, kad šie ginklai bus panaudoti, yra žinoma kaip abipusiai užtikrintas sunaikinimas (MAD), atgrasymo teorija, užtikrinanti, kad vienai šaliai paleidus branduolinį ginklą, gali būti, kad tai padarys bet kuri kita. Mes nenaudojame destruktyviausių ginklų planetoje, nes gali būti, kad tai sunaikins bent civilizaciją visame pasaulyje.

Nepaisant spalvingų Schmidto komentarų, AI nenorime ir mums nereikia MAD. Pirma, AI dar neįrodė savo griaunamosios galios, palyginti su branduoliniais ginklais. Tačiau valdantieji bijo šios naujos technologijos ir dažniausiai dėl netinkamų priežasčių. Žmonės netgi siūlė perduoti branduolinių ginklų kontrolę dirbtiniam intelektui, manydami, kad jis būtų geresnis jo panaudojimo arbitras nei žmogus.

Dirbtinio intelekto problema nėra ta, kad jis turi potencialiai griaunančią branduolinio ginklo galią. Esmė ta, kad dirbtinis intelektas yra tiek geras, kiek jį sukūrė žmonės, ir kad jis neša savo kūrėjų vertybes. Dirbtinis intelektas kenčia nuo klasikinės „šiukšlių įvežimo, šiukšlių išvežimo“ problemos: rasistiniai algoritmai kuria rasistinius robotus, o visas AI neša jo kūrėjų šališkumą.

Demisas Hassabis, bendrovės „DeepMind“, kuri mokė dirbtinį intelektą, įveikiančią Starcraft II žaidėjus, generalinis direktorius, atrodo, kad tai supranta geriau nei Schmidtas. Liepos mėnesio interviu Lex Friedmano podcast'e Friedmanas paklausė Hassabio, kaip galima valdyti tokią galingą technologiją kaip AI ir kaip pats Hassabis gali išvengti šios galios sugadinimo.

Khasabis atsako apie jį patį. „Dirbtinis intelektas yra per didelė idėja“, – sakė jis. „Svarbu, kas kuria AI, iš kokių kultūrų jie kilę ir kokios jų vertybės. Dirbtinio intelekto sistemos išmoks pačios... bet sistema išliks įspausta sistemos autorių kultūros ir vertybių.

Dirbtinis intelektas yra jo autoriaus atspindys. Jis negali sulyginti miesto su žeme 1,2 megatonos sprogimu. Nebent žmogus jį to moko.

Jūs galite padėti Ukrainai kovoti su Rusijos įsibrovėliais. Geriausias būdas tai padaryti – aukoti lėšas Ukrainos ginkluotosioms pajėgoms per Išgelbėk gyvybę arba per oficialų puslapį NBU.

Taip pat skaitykite:

• Nauja programa Samsung naudoja AI, kad pagerintų jūsų nuotraukas
• Dirbtinis intelektas padeda identifikuoti astronominius objektus