Penktadienį „Koko“ įkūrėjas Robas Morrisas paskelbė XNUMX m Twitter, kad jo įmonė atliko eksperimentą, kad 4 žmonių be išankstinio įspėjimo suteiktų dirbtinio intelekto parašytus psichikos sveikatos patarimus, praneša „The Verge“. Kritikai eksperimentą pavadino labai neetišku, nes Koko negavo informuoto sutikimo iš žmonių, kurie klausė patarimo. Koko yra ne pelno siekianti psichikos sveikatos platforma, jungianti paauglius ir suaugusiuosius, kuriems reikia psichikos sveikatos priežiūros, su savanoriais per pranešimų programas, pvz. Telegram ir Nesantaika.
„Discord“ sistemoje vartotojai prisijungia prie „Koko Cares“ serverio ir siunčia tiesioginius pranešimus „Koko“ robotui, kuris užduoda daugybę klausimų su atsakymų variantais (pvz., „Kokia yra tamsiausia mintis apie tai?“). Tada jis anonimiškai pasidalija asmens rūpesčiu, įrašytu kaip keli teksto sakiniai, su kitu asmeniu serveryje, kuris gali anonimiškai atsakyti trumpąja žinute.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
Dirbtinio intelekto (DI) eksperimente, kuriame buvo apie 30 3 pranešimų, Morrisas sakė, kad savanoriai, padedantys kitiems, turėjo galimybę naudoti atsakymą, kurį automatiškai sugeneravo OpenAI GPT-3 didelės kalbos modelis, o ne rašyti savarankiškai (GPT-XNUMX yra technologija neseniai populiarus ChatGPT pokalbių robotas). Savo tviteryje Morrisas pažymi, kad žmonės gyrė dirbtinio intelekto sugeneruotus atsakymus, kol sužinojo, kad juos parašė AI, o tai rodo, kad bent viename eksperimento etape trūksta informuoto sutikimo:
„Pranešimai, sukurti dirbtinio intelekto (ir kontroliuojami žmonių), buvo įvertinti žymiai aukščiau nei tie, kuriuos parašė patys žmonės. Reagavimo laikas sutrumpėjo 50% iki mažiau nei minutės. Ir vis dėlto… gana greitai pašalinome šią funkciją iš savo platformos. Kodėl? Kai žmonės sužinojo, kad pranešimai buvo generuojami mašina, jis nustojo veikti. Imituojama užuojauta atrodo keista, tuščia“.
Įvade apie serverį administratoriai rašo: „Koko sujungia jus su tikrais žmonėmis, kurie jus tikrai supranta. Ne terapeutai, ne konsultantai, tik tokie žmonės kaip jūs. Netrukus po to, kai Morrisas paskelbė pranešimą, jis gavo daug atsakymų, kritikuojančių eksperimentą kaip neetišką, nurodydamas susirūpinimą dėl informuoto sutikimo trūkumo ir abejodamas, ar eksperimentą patvirtino Institucinė peržiūros taryba (IRB). Jungtinėse Valstijose yra neteisėta atlikti tyrimus su žmonėmis be teisiškai veiksmingo informuoto sutikimo, nebent IRB nuspręstų, kad sutikimo galima atsisakyti.
Atsakydamas tviteryje Morrisas teigė, kad eksperimentui „netaikomi informuoto sutikimo reikalavimai“, nes jis neketino skelbti rezultatų ir sukėlė pasipiktinimo paradą.
Idėja naudoti dirbtinį intelektą kaip terapeutą toli gražu nėra nauja, tačiau Koko eksperimentas skiriasi nuo įprastų AI terapijos metodų tuo, kad pacientai paprastai žino, kad kalba ne su gyvu žmogumi. Koko atveju platforma naudojo hibridinį metodą, kai žmogus tarpininkas galėjo peržiūrėti pranešimą prieš jį išsiųsdamas, o ne tiesioginio pokalbio formatu. Tačiau be informuoto sutikimo kritikai teigia, kad Koko pažeidė etikos taisykles, skirtas apsaugoti pažeidžiamus žmones nuo žalingos ar žiaurios tyrimų praktikos.
Kalbėdamas, kaip buvęs IRB narys ir pirmininkas, atlikote pažeidžiamų gyventojų žmonių tyrimus be IRB patvirtinimo ar išimčių (Jūs neturite nuspręsti). Galbūt MGH IRB process yra toks lėtas, nes susijęs su tokiais dalykais. Neprašytas patarimas: advokatas
- Danielis Šoskes (@dshoskes) Sausis 7, 2023
Pirmadienį Morrisas paskelbė įrašą, kuriame atsako į ginčą ir paaiškino Koko kelionę į GPT-3 ir AI apskritai: „Su empatija ir atvirumu sulaukiu kritikos, rūpesčių ir klausimų apie šį darbą. Esame įsipareigoję užtikrinti, kad bet koks AI naudojimas būtų jautrus, labai rūpindamiesi privatumu, skaidrumu ir rizikos mažinimu. Mūsų klinikinė patariamoji taryba renkasi aptarti būsimo darbo gaires, įskaitant IRB patvirtinimą.
Jūs galite padėti Ukrainai kovoti su Rusijos įsibrovėliais. Geriausias būdas tai padaryti – aukoti lėšas Ukrainos ginkluotosioms pajėgoms per Išgelbėk gyvybę arba per oficialų puslapį NBU.
Taip pat skaitykite: