Valstybės remiami įsilaužėliai iš Rusijos, Kinijos ir Irano naudojo OpenAI įrankius savo įgūdžiams tobulinti ir įsilaužimo atakoms. Kaip pranešė Microsoft, bendrovės ekspertai sekė įsilaužėlių grupes, susijusias su Rusijos karine žvalgyba, Islamo revoliucijos gvardijos korpusu, taip pat Kinijos ir Šiaurės Korėjos vyriausybėmis, kurios bandė pagerinti savo įsilaužimo kampanijas pasitelkdamos didelius kalbos modelius.
Bendrovė paskelbė apie radinį, kai įvedė visišką draudimą valstybės remiamoms programišių grupėms naudoti jos AI produktus. „Tiesiog nenorime, kad tie subjektai, kuriuos nustatėme – kuriuos stebime ir žinome, kad jie kelia įvairaus pobūdžio grėsmę – nenorime, kad jie turėtų prieigą prie šios technologijos“, – sakė viceprezidentas. Microsoft Klientų apsaugos darbuotojas Tomas Burtas. Ataskaitoje minimos tokios įsilaužėlių grupės kaip Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon ir Salmon Typhoon.
Teiginiai, kad įsilaužėliai buvo sugauti naudojant įrankius AI siekdamas sustiprinti savo šnipinėjimo pajėgumus, pabrėžia susirūpinimą dėl greito technologijos plitimo ir piktnaudžiavimo ja galimybių. Vakarų kibernetinio saugumo ekspertai pernai perspėjo, kad nusikaltėliai piktnaudžiauja tokiomis priemonėmis, nors iki šiol apie tai nebuvo jokių konkrečių duomenų.
„Tai vienas pirmųjų, jei ne pirmas, atvejų, kai AI įmonė viešai aptarė, kaip užpuolikai naudoja dirbtinio intelekto technologijas“, – sakė Bobas Rothsteadas, OpenAI kibernetinio saugumo grėsmių žvalgybos vadovas.
OpenAI kad Microsoft apibūdino įsilaužėlių AI įrankių naudojimą kaip „ankstyvosios stadijos“ ir „prieauginį“. Pasak Burto, nė viena įmonė nematė, kad kibernetiniai šnipai padarytų kokių nors proveržių: „Matėme, kad jie tiesiog naudojasi šia technologija kaip ir bet kuris kitas vartotojas“.
Ataskaitoje aprašomos įsilaužimo grupės, kurios įvairiais būdais naudoja didelius kalbos modelius. Įsilaužėliai, kurie, kaip teigiama, dirbo Rusijos žaidimo vardu, naudojo modelius tirdami „įvairias palydovines ir radarų technologijas, kurios gali būti svarbios karinėms operacijoms Ukrainoje“, nurodė agentūra. Microsoft. O Šiaurės Korėjos įsilaužėliai naudojo modelius kurdami turinį, kuris „greičiausiai bus naudojamas sukčiavimo kampanijose“.
Irano įsilaužėliai taip pat pasikliovė modeliais, kad jie parašytų įtikinamesnius el. Ir Kinijos programišiai, kuriuos, anot jų, remia valstybė Microsoft, eksperimentuoja su dideliais kalbų modeliais, kad užduotų klausimus apie konkuruojančias žvalgybos tarnybas, kibernetinio saugumo problemas ir „žymias asmenybes“.
Taip pat skaitykite: