Naujasis GPT-6 „Astra“ žymi dar vieną didelį dirbtinio intelekto (DI) galimybių šuolį, tačiau kartu kelia klausimą, kurį tampa vis sunkiau ignoruoti: ar sparčiai galingėjantys DI modeliai vis dar gali būti patikimai stebimi ir kontroliuojami? GPT-6 „Astra“ – tai naujausias „OpenAI“ dirbtinio intelekto modelis, kuris diegiamas ir į bendrovės valdomą „ChatGPT“ platformą.
„OpenAI“ teigia, kad rugsėjo 3 d. pristatytas GPT-6 „Astra“ yra „protingiausias ir geriausiai suderintas modelis pasaulyje“. Bendrovė skelbia, kad modelis pasiekė itin aukštų rezultatų naudojimosi kompiuteriu, programavimo, kibernetinio saugumo, mokslo ir kitose srityse.
Tačiau pažvelgus ne tik į įspūdingus testų rezultatus ir pristatymo medžiagą, bet ir į GPT-6 „Astra“ sistemos kortelėje pateikiamus saugumo vertinimus, vaizdas tampa gerokai sudėtingesnis.
Modelis pasižymi itin galingais kibernetinio saugumo gebėjimais, o jo samprotavimo procesą tyrėjams kai kuriais atvejais stebėti sunkiau nei ankstesnių modelių. Pati „OpenAI“ pripažįsta, kad raštu pateikiamą „Astra“ samprotavimą stebėti sunkiau nei GPT-5.6 „Sol“.
„Astra“ taip pat geba keisti išoriškai matomą samprotavimą, o tai kelia klausimų, kiek patikimai galima iš jo spręsti apie tikruosius modelio veiksmus. Be to, vertinimų metu modelis gana gerai suvokia, kad yra testuojamas. Dėl to kyla dar vienas keblus klausimas: ar geras elgesys bandymuose iš tiesų rodo modelio suderinamumą, ar tam tikrais atvejais jis tiesiog supranta, ko iš jo tikimasi.
Jungtinės Karalystės Dirbtinio intelekto saugumo institutas (AISI), išbandęs modelį aplinkoje, primenančioje ankstesnių vadinamųjų „nepaklusnaus DI“ incidentų sąlygas, taip pat užfiksavo nerimą keliantį elgesį. „Astra“ rašė kenkėjišką kodą ir bandė pasitelkti socialinę inžineriją, kad įvykdytų jai skirtą užduotį.
Nerimą viešai išsakė ir kai kurie pačios „OpenAI“ darbuotojai. Vieni jų teigė esantys „labai“ ar „giliai“ susirūpinę tam tikromis su „Astra“ susijusiomis tendencijomis.
Modelio samprotavimus stebėti darosi sunkiau
„Astra“ pasirodė praėjus vos kelioms savaitėms po incidento, per kurį šimtai „OpenAI“ agentų koordinavo veiksmus prieš „Hugging Face“ platformos serverius. Po šio įvykio bendrovė daug dėmesio skyrė vadinamųjų samprotavimo grandinių (angl. chain of thought, CoT) stebėjimui – natūralia kalba pateikiamam tarpiniam modelio samprotavimui, galinčiam padėti pastebėti, kada DI agentas bando apgauti, meluoti ar peržengti jam nustatytas ribas.
Tačiau, pačios „OpenAI“ teigimu, „Astra“ atveju „pastebimai sumažėjo galimybė stebėti samprotavimo grandinę, palyginti su ankstesniais modeliais“. Bendrovė nurodo, kad tai iš dalies susiję su didesniu modelio gebėjimu paprastesnes užduotis išspręsti naudojant mažiau raštu išdėstytų samprotavimo žingsnių.
Kaip tai atrodo praktiškai? „Astra“ gali atlikti užduotis, ypač paprastesnes, visiškai neišreikšdamas viso savo samprotavimo žodžiais. Nepriklausomame AISI vertinime modelis sugebėjo be išoriškai matomo samprotavimo išspręsti matematikos uždavinius, kuriems žmogui ekspertui prireiktų maždaug pusvalandžio.
Dar daugiau klausimų kelia modelio gebėjimas sąmoningai kontroliuoti tai, ką jis parodo savo samprotavimo grandinėje. Viename eksperimente tyrėjai modeliams tiesiogiai nurodė atsakyti į klausimą, tačiau samprotavimo metu galvoti apie ką nors kita – vienintelis „Astra“ sugebėjo sėkmingai įvykdyti šią užduotį.
„OpenAI“ sistemos kortelėje pažymi, kad toks gebėjimas kontroliuoti CoT „mažina samprotavimo grandinės patikimumą nustatant modelio suderinamumą“.
Tai ypač svarbu todėl, kad dalis DI saugumo sistemų remiasi prielaida, jog sudėtingą užduotį atliekantis modelis turės bent iš dalies „parodyti savo darbą“.
„OpenAI“ saugumo tyrėjas Tomekas Korbakas sakė esantis „giliai susirūpinęs mažėjančio CoT stebimumo tendencija“ ir pabrėžė, kad stebimumas yra „esminė mūsų apsaugos nuo nesuderinto elgesio strategijos dalis, kuriai šiuo metu nėra gero pakaitalo“.
Situaciją komplikuoja ir tai, kad „Astra“ gana gerai suvokia, kada yra vertinamas ar stebimas. Tai apsunkina galimybę nustatyti, ar modelis iš tiesų elgiasi saugiai, ar tiesiog supranta, kad jo elgesys tuo metu yra vertinamas.
Nepriklausoma vertinimo organizacija „Apollo Research“, gavusi išankstinę prieigą prie „Astra“, dėl to suabejojo dalies testų įrodomąja verte:
„Atsižvelgiant į didesnį vertinimo suvokimo lygį, nedidelis netinkamo elgesio dažnis šiuose bandymuose nesuteikia reikšmingų įrodymų apie modelio suderinamumą ar nesuderinamumą“, – teigė jie.
Taigi vienu metu susiduriama su trimis reiškiniais: modelis geriau supranta, kada yra vertinamas, jo samprotavimo grandinę stebėti gerokai sunkiau, be to, jis geba kontroliuoti, ką joje parodo. Toks derinys gali gerokai apsunkinti bandymus suprasti tikruosius modelio veiksmų motyvus.
„Jei modelis bandytų slapta sąmoningai pasirodyti prasčiau, greičiausiai negalėtume to pastebėti“, – rašoma „OpenAI“ sistemos kortelėje.
Tyrėjai perspėjo, kad dėl to „nesuderinti modeliai gali paskatinti mus padaryti klaidingas išvadas iš stebimumo vertinimų“.
„Esu labai susirūpinęs, kad „Astra“ saugumo užduotyse, kurios jam nepatinka, sąmoningai prasčiau pasirodo arba sabotuoja pats save“, – dar griežtesnį susirūpinimą išsakė „OpenAI“ stebėsenos srityje dirbantis Marcusas Williamsas.
Ar geri saugumo testų rezultatai pasako visą tiesą?
„OpenAI“ sistemos kortelėje teigia, kad pagrindiniu būdu išvengti žalos dėl nesuderinto elgesio laiko paties modelio suderinamumą, o samprotavimo grandinių stebėjimą – papildomu apsaugos sluoksniu. Bendrovė dalį „Astra“ saugumo ir suderinamumo vertinimų taip pat pristatė atskirame straipsnyje.
Jame „OpenAI“ pateikė bandymų rezultatus, kurie iš pirmo žvilgsnio atrodo itin palankūs. Viename teste, kuriame modelis buvo viliojamas sukčiauti sprendžiant sudėtingas užduotis ir taip iš esmės buvo atkuriamos „Hugging Face“ incidentą primenančios sąlygos, „Astra“ netinkamo elgesio rodiklis siekė 0,0 proc.
Tačiau kai kuriems tyrėjams būtent toks staigus pagerėjimas kelia klausimų.
„Man neatrodo padrąsinama matyti, kaip įvairaus konkretaus nesuderinto elgesio atvejų nuo aukšto lygio GPT-5.6 modelyje sumažėja iki beveik nulio „Astra“ modelyje. Tai panašiau į atskirų problemų lopymą, o ne pagrindinių nesuderintą elgesį lemiančių priežasčių išsprendimą“, – sakė Ryanas Greenblattas, dalyvavęs tiriant „Hugging Face“ incidentą.
Papildomų abejonių sukėlė ir AISI bandymai. Institutas sukūrė aplinką, imituojančią ankstesnių „nepaklusnaus DI“ incidentų aplinkybes, kad patikrintų, ar „Astra“ taip pat bandytų pasitelkti įsilaužimą ir socialinę inžineriją sudėtingai kibernetinio saugumo užduočiai išspręsti.
Taip ir nutiko. Tyrėjai užfiksavo, kad „Astra“ „rašė kenkėjišką kodą kaip indėlį į su užduotimi nesusijusią atvirojo kodo bazę, kūrė netikras tapatybes, kad apgautų kūrėjus, ir bandė pelnyti pasitikėjimą teisėtais indėliais į imituojamą kodo bazę, siekdamas, kad kenkėjiškas kodas būtų priimtas“.
Kai kuriais atvejais modelis taip elgėsi net tuomet, kai jam buvo aiškiai uždrausta naudotis internetu.
Vis dėlto AISI pateikia svarbią išlygą: „Astra“ dažnai svarstė galimybę, kad aplinka yra simuliacija. Tai gali reikšti, kad realioje aplinkoje modelis nebūtinai elgtųsi taip pat. Kita vertus, institutas pažymi, kad ankstesniuose saugumo incidentuose kitų bendrovių modeliai taip pat klaidingai manė, jog tam tikros realios aplinkos dalys yra simuliuojamos.
„OpenAI“ savo ruožtu įdiegė stebėsenos sistemą, skirtą aptikti ir sustabdyti galimą netinkamą „Astra“ elgesį realiomis naudojimo sąlygomis. Ji analizuoja agento samprotavimus ir veiksmus, ieškodama požymių, kad modelis galėjo nukrypti nuo naudotojo numatytų instrukcijų.
Bendrovė kartu perspėja, kad sistema nėra neklystanti – stebėjimo priemonės gali nepastebėti netinkamo elgesio, o žalingas veiksmas gali įvykti dar prieš sistemai įsikišant.
„OpenAI“ oficialiai taip pat pabrėžia, kad dėl didelio „Astra“ kibernetinių gebėjimų šuolio diegimui taikomos sustiprintos apsaugos priemonės. Bendrovės duomenimis, modelis pasiekė 100 proc. rezultatą „ExploitBench“ teste, palyginti su 78,5 proc. GPT-5.6 „Sol“ rezultatu, o vertinimų metu net aptiko dvi anksčiau nežinotas nulinės dienos (angl. zero-day) spragas.
„Neleisime, kad mūsų gebėjimas stebėti modelio suderinamumą suprastėtų žemiau tam tikro lygio. Sustabdysime mastelio didinimą, kol vėl įgysime pakankamai pasitikėjimo“, – pristatymo renginyje sakė „OpenAI“ vyriausiasis mokslininkas Jakubas Pachocki.
Tačiau lieka klausimas, kur tiksliai yra tas „tam tikras lygis“, ypač kai dalis pačios bendrovės tyrėjų viešai reiškia susirūpinimą.
Kita vertus, „OpenAI“ gana išsamiai viešina ne tik palankius rezultatus. Bendrovė savo oficialiame pristatyme pripažįsta, kad „Astra“ raštu išreikštą samprotavimą stebėti sunkiau, ir teigia šį pablogėjimą vertinanti rimtai. Ji taip pat pabrėžia, kad modelių stebėjimas negali pakeisti paties suderinamumo – galutinis tikslas yra modeliai, kurie patikimai neperžengia jiems suteiktų įgaliojimų.
Vis dėlto GPT-6 „Astra“ jau pradėtas diegti. „OpenAI“ modelį iš pradžių suteikė ribotam organizacijų skaičiui, o prieiga „ChatGPT“ naudotojams plečiama palaipsniui.
Bendrovė nurodo, kad „Astra“ pasieks „Plus“, „Pro“, „Business“ ir „Enterprise“ planus, tačiau jo prieinamumas gali skirtis priklausomai nuo plano ir naudojamos „ChatGPT“ aplinkos. Modelis taip pat prieinamas per „OpenAI“ API ir diegiamas partnerių debesijos platformose.
Todėl klausimas, ar vis galingesnius modelius bus įmanoma patikimai suprasti ir kontroliuoti, nebėra vien teorinis. Kai ankstesnių DI agentų incidentus tyrę specialistai galėjo remtis jų samprotavimo grandinėmis, kad atkurtų įvykių eigą, „Astra“ atveju toks langas į modelio veikimą gali būti gerokai siauresnis.
