Naujausias „OpenAI“ vaizdus generuojantis „ChatGPT 4o“ modelis stebėtinai gerai generuoja tekstą paveikslėliuose, o tai buvo itin sudėtinga padaryti daugeliui jo pirmtakų.
„ChatGPT 4o“ kuria tikroviškai atrodančius dokumentus
Kaip nustatė naudotojai, tai jį paverčia galingu įrankiu klastojamų dokumentų atvaizdams generuoti.
Pavyzdžiui, „Menlo Ventures“ direktorius Deedy Dasas „X“ socialiniame tinkle paskelbė padirbto gausių pietų tikrame San Francisko kepsnių restorane kvito nuotrauką.
„Yra per daug realaus pasaulio patikros būdų, kurie remiasi „tikrais vaizdais“ kaip įrodymu. Ši era baigėsi.“, – rašė Dasas.
Iš pirmo žvilgsnio vaizdas gana įtikinantis, jame pateikiamas kelių patiekalų sąrašas, teisinga tarpinė suma ir net apskaičiuojami arbatpinigiai.
Kitam naudotojui netgi pavyko toliau redaguoti Daso paskelbtą nuotrauką, pridedant tikrovišką filtrą ir maisto dėmes, o tai reiškia, kad piktavališkų ketinimų turintiems žmonėms gali tapti labai paprasta sukčiauti, jei norima įrodyti patirtas išlaidas.
Dasas taip pat nustatė, kad „4o“ noriai generavo suklastotus kontroliuojamų medžiagų, pavyzdžiui, „Zoloft“, receptus.
Ir tai tik ledkalnio viršūnė. Lenkų tyrėjas Borysas Musielakas, naudodamasis „ChatGPT 4o“, vos per penkias minutes sukūrė netikrą pasą.
Ekspertas teigia, kad šis dokumentas yra pakankamai tikroviškas, kad būtų galima apeiti automatines „Pažink savo klientą“ (angl. „Know Your Customer“, KYC) patikras, kurias taiko „Fintech“ paslaugų bendrovės.
Tokios platformos kaip „Revolut“ ar „Binance“, kurios pasikliauja tik asmens tapatybės dokumentų nuotraukomis ir naudotojų asmenukėmis, dabar gali būti ypač pažeidžiamos, kad jomis būtų galima pasinaudoti pasitelkus gilių klastočių (angl. deepfake) technologiją.
„Dabar su „GPT-4o“ galite generuoti netikrus pasus. Man prireikė 5 minučių, kad sukurčiau savo paso kopiją, kurią dauguma automatizuotų KYC sistemų greičiausiai priimtų nemirksėdamos.
Pasekmės akivaizdžios – bet koks patikros būdas, kuris remiasi vaizdais kaip „įrodymu“, dabar yra oficialiai pasenęs. Tas pats galioja ir asmenukėms. Statiškos ar vaizdo, nesvarbu. „GenAI“ taip pat gali jas suklastoti. Nuotraukomis grindžiamas KYC baigtas. Žaidimas baigtas“, – rašė Musielakas.
Vartai į sukčiavimo pasaulį
Ši naujovė rodo, kaip toli pažengė dirbtiniu intelektu valdomi vaizdų generatoriai. Ankstesnieji modeliai liūdnai pagarsėjo sunkumais atkuriant raides, todėl dažnai susidarydavo iškraipytos formos ir būdavo pateikiamos juokingos frazės.
Be to, kad „OpenAI“ gali ne tik suklastoti restoranų kvitus, bet ir vis geriau sugeba generuoti netikrus dokumentus, o tai gali atverti duris viskam – nuo netikrų mokesčių formų ir banko čekių iki suklastotų asmens tapatybės kortelių ir gimimo liudijimų.
Dar neaišku, ar sulauksime šios suklastotų dokumentų audros. Tačiau atsižvelgiant į dabartines dirbtinio intelekto kompanijų pastangas, tai neatrodo gerai. Tokie saugikliai kaip pridedami metaduomenys ar vandens ženklai, atskleidžiantys, ar atvaizdą sukūrė dirbtinis intelektas, yra lengvai įveikiami.
Dar prieš atsirandant galingiems dirbtinio intelekto valdomiems vaizdų generatoriams, 2015 m. apklausoje nustatyta, kad 85 proc. respondentų prisipažino melavę, kad jiems būtų grąžinta daugiau pinigų.
Daugelis tokio pobūdžio sukčiavimo atvejų prasprūsta pro akis dėl nepakankamos vidaus kontrolės ir ydingų atsiskaitymų su kreditoriais procesų. Kitaip tariant, nebegalima tikėti viskuo, ką matote internete.
