Šiandien pabandysime išsiaiškinti, kas yra neuroniniai tinklai, kaip jie veikia ir koks jų vaidmuo kuriant dirbtinį intelektą.
Neuroniniai tinklai. Šią frazę girdime beveik visur. Tai reiškia, kad neuroninius tinklus rasite net šaldytuvuose (tai ne pokštas). Neuroninius tinklus plačiai naudoja mašininio mokymosi algoritmai, kuriuos šiandien galima rasti ne tik kompiuteriuose ir išmaniuosiuose telefonuose, bet ir daugelyje kitų elektroninių prietaisų, pavyzdžiui, buitinės technikos. Ir ar kada susimąstėte, kas yra šie neuroniniai tinklai?
Nesijaudinkite, tai nebus akademinė paskaita. Yra daug publikacijų, taip pat ir ukrainiečių kalba, kurios labai profesionaliai ir patikimai paaiškina šią tiksliųjų mokslų srities problemą. Tokiems leidiniams yra daugiau nei keliolika metų. Kaip gali būti, kad šie seni leidiniai vis dar aktualūs? Faktas yra tai, kad neuroninių tinklų pagrindai nepasikeitė, o pati koncepcija - dirbtinio neurono matematinis modelis - buvo sukurtas Antrojo pasaulinio karo metais.
Tas pats ir su internetu, šiandien internetas yra nepalyginamai pažangesnis nei tada, kai buvo išsiųstas pirmasis el. Interneto pagrindai, pagrindiniai protokolai, egzistavo nuo pat jo sukūrimo pradžios. Kiekviena sudėtinga koncepcija yra paremta senų konstrukcijų pagrindu. Tas pats yra su mūsų smegenimis, jauniausia smegenų žievė negali funkcionuoti be seniausio evoliucinio elemento: smegenų kamieno, kuris mūsų galvose buvo nuo seno, daug senesnio už mūsų rūšies egzistavimą šioje planetoje.
Ar aš tave šiek tiek supainiojau? Taigi supraskime išsamiau.
Taip pat įdomu: ChatGPT: paprastos naudojimo instrukcijos
Kas yra neuroniniai tinklai?
Tinklas yra tam tikrų elementų rinkinys. Tai paprasčiausias matematikos, fizikos ar technologijų metodas. Jei kompiuterių tinklas yra tarpusavyje sujungtų kompiuterių rinkinys, tai neuroninis tinklas akivaizdžiai yra neuronų rinkinys.
Tačiau šie elementai savo sudėtingumu nė iš tolo neprilygsta mūsų smegenų ir nervų sistemos nervinėms ląstelėms, tačiau esant tam tikram abstrakcijos lygiui, kai kurios dirbtinio neurono ir biologinio neurono ypatybės yra bendros. Tačiau būtina prisiminti, kad dirbtinis neuronas yra daug paprastesnė sąvoka nei jo biologinis atitikmuo, apie kurį dar nežinome visko.
Taip pat skaitykite: 7 šauniausi „ChatGPT“ naudojimo būdai
Pirmiausia buvo dirbtinis neuronas
Pirmąjį matematinį dirbtinio neurono modelį 1943 metais (taip, tai ne klaida, per Antrąjį pasaulinį karą) sukūrė du amerikiečių mokslininkai Warrenas McCullochas ir Walteris Pittsas. Jiems pavyko tai padaryti remdamiesi tarpdisciplininiu požiūriu, apjungdami pagrindines smegenų fiziologijos žinias (prisiminkime, kada buvo sukurtas šis modelis), matematiką ir tuomet dar jauną IT metodą (jie, be kita ko, naudojo Alano Turingo apskaičiavimo teoriją ). McCulloch-Pitts dirbtinio neurono modelis yra labai paprastas modelis, jame yra daug įėjimų, kur įvesties informacija pereina per svorius (parametrus), kurių reikšmės lemia neurono elgesį. Gautas rezultatas siunčiamas į vieną išvestį (žr. McCulloch-Pitts neurono diagramą).
Tokia į medį panaši struktūra siejama su biologiniu neuronu, nes kai galvojame apie piešinius, vaizduojančius biologines nervines ląsteles, mintyse iškyla būdinga medį primenanti dendritų struktūra. Tačiau nereikėtų pasiduoti iliuzijai, kad dirbtinis neuronas yra bent kiek artimas tikrajai nervinei ląstelei. Šie du tyrinėtojai, pirmojo dirbtinio neurono autoriai, sugebėjo įrodyti, kad bet kokia apskaičiuojama funkcija gali būti apskaičiuota naudojant tarpusavyje sujungtų neuronų tinklą. Tačiau prisiminkime, kad šios pirmosios sąvokos buvo sukurtos tik kaip idėjos, kurios egzistavo tik „ant popieriaus“ ir neturėjo realios interpretacijos veikiančios įrangos pavidalu.
Taip pat skaitykite: Apie kvantinius kompiuterius paprastais žodžiais
Nuo modelio iki naujoviškų įgyvendinimų
McCullochas ir Pittsas sukūrė teorinį modelį, tačiau pirmojo tikro neuroninio tinklo sukūrimo teko laukti daugiau nei dešimt metų. Jo kūrėju laikomas dar vienas dirbtinio intelekto tyrimų pradininkas Frankas Rosenblattas, 1957 metais sukūręs tinklą Mark I Perceptron, o jūs pats įrodėte, kad šios struktūros dėka mašina įgijo iki tol tik gyvūnams ir žmonėms būdingą gebėjimą: gali išmokti. Tačiau dabar žinome, kad iš tikrųjų buvo ir kitų mokslininkų, kurie sugalvojo, kad mašina gali mokytis, taip pat ir prieš Rozenblatą.
Daugelis kompiuterių mokslo tyrinėtojų ir pradininkų šeštajame dešimtmetyje sugalvojo, kaip priversti mašiną padaryti tai, ko ji pati nepajėgtų. Pavyzdžiui, Arthuras Samuelis sukūrė programą, kuri žaidė šaškėmis su žmogumi, Allenas Newellas ir Herbertas Simonas sukūrė programą, kuri galėtų savarankiškai įrodyti matematines teoremas. Dar prieš sukuriant pirmąjį Rosenblatto neuronų tinklą, kiti du dirbtinio intelekto tyrimų pradininkai Marvinas Minskis ir Deanas Edmondsas 1950 m., ty dar prieš pasirodant Rosenblatto perceptronui, sukonstravo mašiną SNARC (Stochastic Neural). Analog Inforcement Calculator) – stochastinio neuroninio analoginio skaičiuotuvo sutvirtinimas, daugelio laikomas pirmuoju stochastinio neuroninio tinklo kompiuteriu. Reikėtų pažymėti, kad SNARC neturėjo nieko bendra su šiuolaikiniais kompiuteriais.
Galinga mašina, naudodama daugiau nei 3000 elektroninių vamzdžių ir atsarginį autopiloto mechanizmą iš bombonešio B-24, sugebėjo imituoti 40 neuronų veikimą, o to, kaip paaiškėjo, pakako matematiškai imituoti žiurkės ieškant išėjimo iš labirinto. . Žinoma, žiurkės nebuvo, tai buvo tik išskaičiavimo ir optimalaus sprendimo paieškos procesas. Šis automobilis buvo Marvino Minsky daktaro laipsnio dalis.
Kitas įdomus projektas neuroninių tinklų srityje buvo ADALINE tinklas, kurį 1960 metais sukūrė Bernardas Withrow. Taigi, galima kelti klausimą: kadangi daugiau nei prieš pusę amžiaus mokslininkai žinojo neuroninių tinklų teorinius pagrindus ir netgi sukūrė pirmuosius veikiančius tokių skaičiavimo sistemų diegimus, kodėl prireikė tiek laiko, iki XXI a. sukurti realius sprendimus, pagrįstus neuroniniais tinklais? Atsakymas vienas: nepakankama skaičiavimo galia, bet tai nebuvo vienintelė kliūtis.
Nors šeštajame ir šeštajame dešimtmečiuose daugelis dirbtinio intelekto pionierių buvo sužavėti neuroninių tinklų galimybėmis, o kai kurie iš jų numatė, kad iki žmogaus smegenų mašininio ekvivalento liko tik dešimt metų. Šiandien net juokinga tai skaityti, nes vis dar net nepriartėjome prie žmogaus smegenų mašininio ekvivalento sukūrimo ir dar toli iki šios užduoties išsprendimo. Greitai tapo aišku, kad pirmųjų neuroninių tinklų logika buvo ir žavi, ir ribota. Pirmieji AI diegimai naudojant dirbtinius neuronus ir mašininio mokymosi algoritmus galėjo išspręsti tam tikrą siaurą užduočių spektrą.
Tačiau kalbant apie platesnes erdves ir sprendžiant kažką tikrai rimto, pavyzdžiui, šablonų ir vaizdų atpažinimą, sinchroninį vertimą, kalbos ir rašysenos atpažinimą ir pan., tai yra dalykų, kuriuos jau šiandien gali padaryti kompiuteriai ir dirbtinis intelektas, paaiškėjo, kad Pirmieji neuroninių tinklų diegimai tiesiog negalėjo to padaryti. Kodėl taip yra? Atsakymą pateikė Marvin Minsky (taip, tas pats iš SNARC) ir Seymour Papert tyrimai, kurie 1969 metais įrodė perceptroninės logikos ribotumą ir parodė, kad paprastų neuroninių tinklų galimybių didinimas vien dėl mastelio keitimo neveikia. Buvo dar viena, bet labai svarbi kliūtis – tuo metu turima skaičiavimo galia buvo per maža, kad neuroniniai tinklai būtų naudojami pagal paskirtį.
Taip pat įdomu:
- Taigi, kalbėti ar nekalbėti? Muskas neigia kalbėjęsis su Putinu. Bet yra "bet"
- Šiuolaikinė artilerija yra superinis Ukrainos ginklas. O kodėl čia Elonas Muskas?
Neuroninių tinklų renesansas
Aštuntajame ir devintajame dešimtmečiuose neuroniniai tinklai buvo praktiškai užmiršti. Tik praėjusio amžiaus pabaigoje turima skaičiavimo galia tapo tokia didelė, kad žmonės pradėjo prie jos grįžti ir plėtoti savo galimybes šioje srityje. Būtent tada atsirado naujų funkcijų ir algoritmų, galinčių įveikti pirmųjų paprasčiausių neuroninių tinklų apribojimus. Tada kilo idėja apie daugiasluoksnių neuroninių tinklų gilųjį mašininį mokymąsi. Kas iš tikrųjų atsitinka šiems sluoksniams? Šiandien beveik visi mūsų aplinkoje veikiantys naudingi neuroniniai tinklai yra daugiasluoksniai. Turime įvesties sluoksnį, kurio užduotis yra gauti įvesties duomenis ir parametrus (svorius). Šių parametrų skaičius skiriasi priklausomai nuo skaičiavimo problemos, kurią turi išspręsti tinklas, sudėtingumo.
Be to, turime taip vadinamus „paslėptus sluoksnius“ – čia vyksta visa „stebuklingumas“, susijęs su giliuoju mašininiu mokymusi. Būtent paslėpti sluoksniai yra atsakingi už šio neuroninio tinklo gebėjimą mokytis ir atlikti reikiamus skaičiavimus. Galiausiai paskutinis elementas yra išvesties sluoksnis, tai yra neuroninio tinklo sluoksnis, kuris duoda norimą rezultatą, šiuo atveju: atpažinta rašysena, veidas, balsas, suformuotas vaizdas pagal tekstinį aprašymą, tomografinės analizės rezultatas. diagnostinis vaizdas ir daug daugiau.
Taip pat skaitykite: Išbandžiau ir apklausiau Bing pokalbių robotą
Kaip neuroniniai tinklai mokosi?
Kaip jau žinome, atskiri neuronai neuroniniuose tinkluose apdoroja informaciją naudodamiesi parametrais (svoriais), kuriems priskiriamos individualios reikšmės ir ryšiai. Šie svoriai keičiasi mokymosi proceso metu, o tai leidžia koreguoti šio tinklo struktūrą taip, kad ji generuotų norimą rezultatą. Kaip tiksliai tinklas mokosi? Tai akivaizdu, jį reikia nuolat treniruoti. Nenustebkite šiuo posakiu. Mes irgi mokomės, ir šis procesas vyksta ne chaotiškai, o tvarkingai, tarkime. Mes tai vadiname švietimu. Bet kokiu atveju, neuroninius tinklus taip pat galima apmokyti, ir tai dažniausiai daroma naudojant tinkamai parinktą įėjimų rinkinį, kuris kažkaip paruošia tinklą užduotims, kurias jis atliks ateityje. Ir visa tai kartojasi žingsnis po žingsnio, kartais mokymosi procesas tam tikru mastu primena patį mokymo procesą.
Pavyzdžiui, jei šio neuroninio tinklo užduotis yra atpažinti veidus, jis yra iš anksto apmokytas daugybei vaizdų, kuriuose yra veidai. Mokymosi procese keičiasi paslėptų sluoksnių svoriai ir parametrai. Ekspertai čia vartoja frazę „išlaidų funkcijos sumažinimas“. Kainos funkcija yra dydis, nurodantis, kiek tam tikras neuroninis tinklas daro klaidų. Kuo daugiau galime sumažinti išlaidų funkciją dėl mokymo, tuo geriau šis neuroninis tinklas veiks realiame pasaulyje. Svarbiausias bruožas, išskiriantis bet kokį neuroninį tinklą nuo užduoties, užprogramuotos naudojant klasikinį algoritmą, yra ta, kad klasikinių algoritmų atveju programuotojas žingsnis po žingsnio turi suprojektuoti, kokius veiksmus programa atliks. Neuroninių tinklų atveju pats tinklas yra pajėgus išmokti pats teisingai atlikti užduotis. Ir niekas tiksliai nežino, kaip sudėtingas neuroninis tinklas atlieka savo skaičiavimus.
Šiandien neuroniniai tinklai naudojami plačiai ir, ko gero, stebėtinai, labai dažnai nesuvokiant, kaip iš tikrųjų veikia skaičiavimo procesas tam tikrame tinkle. To nereikia. Programuotojai naudoja paruoštus mašininiu būdu išmoktus neuroninius tinklus, kurie yra paruošti tam tikro tipo įvesties duomenims, juos apdoroja tik jiems žinomu būdu ir duoda norimą rezultatą. Programuotojui nereikia žinoti, kaip išvados procesas veikia neuroniniame tinkle. Tai reiškia, kad žmogus lieka nuošalyje nuo daugybės skaičiavimų, informacijos gavimo metodo ir jos apdorojimo neuroniniais tinklais. Iš kur kyla tam tikros žmonijos baimės dėl dirbtinio intelekto modelių. Mes tiesiog bijome, kad vieną dieną neuroninis tinklas išsikels sau tam tikrą užduotį ir savarankiškai, be žmogaus pagalbos, ras būdų, kaip ją išspręsti. Tai kelia nerimą žmonijai, sukelia baimę ir nepasitikėjimą mašininio mokymosi algoritmų naudojimu.
Šis utilitarinis požiūris šiandien yra įprastas. Taip ir pas mus: žinome, kaip ką nors išmokyti konkrečioje veikloje, ir žinome, kad treniruočių procesas bus efektyvus, jei jis bus atliktas teisingai. Žmogus įgis norimų įgūdžių. Bet ar tiksliai suprantame, kaip jo smegenyse vyksta dedukcijos procesas, dėl kurio atsirado toks poveikis? Mes neturime supratimo.
Mokslininkų užduotis – kiek įmanoma išstudijuoti šias problemas, kad jos mums pasitarnautų ir padėtų, kur reikia, o svarbiausia – netaptų grėsme. Kaip žmonės, mes bijome to, ko nežinome.
Taip pat įdomu: