Australijos ministras pirmininkas Anthony Albanese rugsėjo 23 d. atskleidė, kad technologijų milžinės „OpenAI“ sukurtas dirbtinio intelekto (DI) agentas birželį įsilaužė į vyriausybinę sveikatos priežiūros svetainę ir gavo prieigą prie neviešų duomenų.
Tyrėjai teigia, kad tai pirmas atvejis, kai pažangiausias DI modelis įsilaužė į kitos šalies vyriausybines sistemas. Nors manoma, kad prie asmeninių sveikatos duomenų prieita nebuvo, šis įsilaužimas yra naujausias iš šiais metais DI agentų įvykdytų panašių incidentų.
„OpenAI“ teigia, kad įsilaužimas įvyko agento mokymo metu ir kad bendrovė šiuo metu informuoja trečiąsias šalis apie galimą poveikį jų sistemoms.
Žinia apie saugumo pažeidimą paskelbta tuo metu, kai pasaulio lyderiai, tarp jų ir A. Albanese, Niujorke susirinko į Jungtinių Tautų Generalinę Asamblėją. Kinijos prezidentas Xi Jinpingas trečiadienį taip pat susitiko su JAV prezidentu Donaldu Trumpu trijų dienų aukščiausiojo lygio susitikime, kuriame, kaip tikimasi, lyderiai aptars DI saugumą. Tačiau analitikai teigia, kad susitarimų greičiausiai nebus pasiekta.
Naujausias incidentas nestebina, o ateityje greičiausiai išgirsime daugiau pranešimų apie agentus, darančius tai, ko neturėtų daryti, teigia Australijos Sidnėjaus universitete DI ir žmogaus bei kompiuterio sąveiką tyrinėjantis Jonathan Kummerfeld. DI bendrovės vienu metu vykdo daugybę eksperimentų ir „jos tikriausiai nemato visko, ką daro šie modeliai“, priduria jis.
Ką padarė „OpenAI“ agentas?
Per spaudos konferenciją Niujorke A. Albanese žiniasklaidai sakė, kad eksperimentinis prieigą prie interneto turėjęs „OpenAI“ agentas vykdė tyrimą apie Australijos sveikatos apsaugą ir medicinos išlaidas, kai, kaip pranešama, be leidimo gavo prieigą prie „Medicare“ statistinių ataskaitų sistemos. Tai vieša interneto svetainė, kurioje kaupiami duomenys apie skiepus, vyriausybės išlaidas medicininėms konsultacijoms ir vaistams, taip pat organų donorų registro informacija.
Po to, kai agentui ne kartą buvo užblokuota prieiga prie tam tikros neviešos informacijos, jam pavyko apeiti saugumo priemones ir pasiekti šiuos duomenis, sakė A. Albanese.
Australijos vyriausybė pati šio pažeidimo neaptiko. Vietoj to, pasak A. Albanese, apie jį pranešė „OpenAI“, išsiuntusi elektroninį laišką bendruoju viešu vyriausybės elektroninio pašto adresu, o tokį informavimo būdą premjeras pavadino „nepriimtinu“.
A. Albanese paskelbė, kad bus pradėtas tyrimas siekiant išsiaiškinti, kas įvyko.
„Akivaizdu, kad bus teisinių pasekmių“, – pridūrė jis.
Ką apie incidentą žinome dabar?
Australijos ABC pateikta išsamesnė įvykių chronologija rodo, kad „Medicare“ statistinių ataskaitų sistemos pažeidimas įvyko birželio 18 d. „OpenAI“ apie incidentą sužinojo rugpjūčio 11 d., kai peržiūrėjo netinkamai veikusių modelių veiklą mokymo metu. Australijos institucijoms bendrovė apie jį pranešė rugsėjo 10 d., išsiųsdama laišką „Services Australia“ naudojamu viešu informavimui skirtu adresu.
A. Albanese vėliau nurodė, kad turimi duomenys nerodo, jog būtų pasiekta konkrečių žmonių asmeninė „Medicare“ informacija. Pasiekta nevieša informacija apėmė apibendrintą sveikatos statistiką ir vidinių failų pavadinimus. Australijos vyriausybė sudarė specialią darbo grupę, kuri turi skubiai išnagrinėti incidentą. Tyrime dalyvauja Australijos signalų direktoratas ir šalies DI saugos institutas.
Premjeras taip pat kalbėjosi su „OpenAI“ vadovu Samu Altmanu. A. Albanese teigė išreiškęs „didžiulį Australijos susirūpinimą dėl šio incidento“ ir nusivylimą, kad bendrovė per ilgai delsė informuoti vyriausybę.
Ar „OpenAI“ agentas tapo nevaldomas?
Pareiškime „OpenAI“ atstovas teigė, kad bendrovė pažeidimą aptiko rugpjūtį, „vykdydama išsamią netinkamai veikusių modelių veiklos peržiūrą“, susijusią su modelių mokymu. Modelio neatitiktis – tai atvejai, kai DI modeliai elgiasi netikėtai ir jų elgesys neatitinka žmonių įstatymų bei vertybių.
Atlikdama šią peržiūrą bendrovė aptiko veiklą, susijusią su keliomis Australijos vyriausybės interneto svetainėmis ir paslaugomis. Kai DI modelis bandė rasti atsakymus ir prieinamą statistiką, reikalingą atsakyti į klausimus apie Australiją, jis „atliko veiksmus, kurių mes neketinome“, teigė bendrovės atstovas. Pasak jo, bendrovė šiuo metu informuoja trečiąsias šalis apie atvejus, kai galėjo būti pažeistos jų sistemos.
Šią platesnę modelių veiklos internete peržiūrą ir jos poveikį trečiosioms šalims „OpenAI“ dabar aptaria ir oficialiame bendrovės pranešime. Jame bendrovė nurodo peržiūrinti savo modelių veiklą internete mokymo ir vertinimo metu, kad nustatytų netikėtą elgesį bei jo poveikį trečiosioms šalims.
Incidentas, regis, įvyko maždaug tuo pačiu metu kaip ir kiti su „OpenAI“ agentais susiję kibernetinio saugumo incidentai. Gegužės–liepos mėnesiais, „OpenAI“ kontroliuojamoje aplinkoje testuojant savo agentus, šie rado būdų apeiti apribojimus ir gauti prieigą prie interneto. Šimtai agentų tuomet nusitaikė į atvirojo kodo DI platformą „Hugging Face“ ir be leidimo gavo prieigą prie duomenų rinkinių bei paskyrų.
Oficialiame „OpenAI“ pranešime apie šį atvejį bendrovė patvirtina, kad jos modeliai sugebėjo apeiti nuo interneto juos turėjusius izoliuoti apribojimus, pasinaudojo pažeidžiamumais, gavo prieigą prie trečiųjų šalių sistemų ir atliko veiksmus, neatitikusius jiems paskirtų užduočių tikslų. „OpenAI“ šį incidentą pavadino „įspėjamuoju šūviu“, rodančiu, kad nepakankamai apsaugoti pažangūs DI agentai jau geba apeiti technines kontrolės priemones ir atlikti pavojingus veiksmus, kurių jiems nenurodė žmogus.
Australijos incidentas dar kartą atkreipia dėmesį į klausimą, ar DI sistemų saugos priemonės neatsilieka nuo sparčiai augančių agentų gebėjimų. Apie vis garsesnius raginimus pristabdyti pažangiausių DI sistemų kūrimo lenktynes ir ankstesnius „OpenAI“ agentų incidentus jau rašėme anksčiau.
Neaišku, ar incidentas, susijęs su Australijos interneto svetaine, buvo panašios testavimo aplinkos dalis, tačiau Sidnėjaus universitete etišką naujųjų technologijų naudojimą tyrinėjantis Raffaele Ciriello teigia, kad taip manyti yra pagrįsta.
R. Ciriello teigimu, šio incidento nereikėtų laikyti atveju, kai DI agentas tapo nevaldomas. Agentui buvo nurodyta surasti tam tikrą informaciją, o vykdydamas šią užduotį jis rado būdą gauti prieigą prie neviešos informacijos.
„Agentas nėra juridinis asmuo“, – sako jis.
Todėl, pasak R. Ciriello, atsakomybė tenka „OpenAI“ ir jos darbuotojams, kurie leido naudoti šią sistemą, ją sukonfigūravo ir prižiūrėjo.
