Nemažai įmonių, įskaitant Microsoft і Facebook, ir net mokslininkai iš Pietų Kalifornijos universiteto, kuria technologijas, skirtas kovoti su giliomis klastotėmis ir užkirsti kelią jų plitimui per geltonąją žiniasklaidą ir apskritai dezinformaciją. Tačiau grupei mokslininkų vis tiek pavyko juos apgauti.
Kalifornijos universiteto (San Diego) kompiuterių mokslininkų komanda perspėjo, kad vis dar įmanoma apgauti esamas giliųjų klastotės aptikimo sistemas, į kiekvieną vaizdo kadrą įterpiant įvesties duomenis, vadinamus „konkuruojančiais pavyzdžiais“. Mokslininkai pristatė savo išvadas WACV 2021 kompiuterių vizijos konferencijoje, kuri praėjusį mėnesį vyko internete.
Konkuruojantys pavyzdžiai yra šiek tiek pakeisti įvestis, dėl kurios dirbtinio intelekto sistemos, pvz., mašininio mokymosi modeliai, daro klaidas. Be to, komanda parodė, kad ataka vis dar veikia ir suglaudinus vaizdo įrašą. Aukščiau esančiame vaizdo įraše mokslininkai parodo, kad „XceptionNet“, gilaus padirbinėjimo detektorius, jų konkuruojantį vaizdo įrašą pažymi kaip „tikrą“.
Dauguma šių detektorių veikia sekdami veidus vaizdo įraše ir siunčiant apkarpytų veidų duomenis į neuroninį tinklą analizei. Tada neuroninis tinklas analizuos šiuos duomenis ir suras elementus, kurie dažniausiai prastai atkuriami giliuose padirbinėjimuose, pvz., mirgėjimą.
Įterpdami konkuruojančius pavyzdžius, mokslininkai išsiaiškino, kad jie gali suklaidinti šiuos giliųjų padirbinėjimo detektorius ir patikėti, kad vaizdo įrašai yra tikri.
Straipsnyje jie teigia, kad „norint praktiškai naudoti šiuos giliųjų klastotės detektorius, svarbu juos įvertinti prieš prisitaikantį priešą, kuris žino apie šią apsaugą ir sąmoningai bando ją pažeisti. Mes parodome, kad šiuolaikinius giliųjų klastotės aptikimo metodus galima lengvai apeiti, jei užpuolikas visiškai ar net iš dalies žino apie detektorių.
Kaip parodė šie mokslininkai, automatizavimo technologijos, kuriamos kovai su dezinformacija, dar gali neatitikti užduoties.
Taip pat skaitykite: