Dirbtinio intelekto (DI) tyrėjas, iš „OpenAI“ perėjęs dirbti į „Anthropic“, nusprendė palikti šią industriją ir apkaltino abi JAV kompanijas, kad lenktyniaudamos dėl gebančių savarankiškai tobulėti dirbtinio intelekto modelių kūrimo jos „lošia mūsų gyvybėmis“.
27 metų Jacobas Coxonas pastaruosius trejus metus dirbo su pirminiu dirbtinio intelekto modelių apmokymu – iš pradžių „OpenAI“, o šiemet perėjo į jos konkurentę „Anthropic“, kurios požiūrį laikė atsargesniu.
Pirminis apmokymas – tai etapas, kai dirbtinio intelekto modeliai įsisavina milžiniškus duomenų kiekius.
„Nė viena kompanija nesielgia atsakingai. Jos tiesiu taikymu lekia savarankiškai tobulėjančio superintelekto link ir lošia mūsų gyvybėmis.
Žmonės, kuriantys dirbtinį intelektą, nuoširdžiai tiki, kad iki dešimtmečio pabaigos jis gali mus visus nužudyti. Tai nėra reklaminis triukas“, – rugsėjo 9 d. platformoje „X“ paskelbtame įraše teigė J. Coxonas.
Superintelektas – teorinis taškas, kai dirbtinio intelekto gebėjimai pranoksta žmogaus intelektą.
„Anthropic“ saugumo vadovas Evanas Hubingeris platformoje „X“ pritarė J. Coxonui.
„Mes iš tiesų nuoširdžiai tikime, kad DI gali nužudyti visus žmones!“ – sakė jis.
E. Hubingeris pridūrė, kad, jo vertinimu, tokios baigties rizika per artimiausią dešimtmetį viršija 10 proc.
Jis taip pat teigė, kad „Anthropic“ „stengiasi iš visų jėgų“, tačiau kol kas neturi plano, kaip užtikrinti, kad žmogaus gebėjimus pranokstanti DI sistema paklustų savo kūrėjams. Pasak jo, dabartinių modelių atveju rizika, kad taip nutiktų, yra „maža“.
Kompanijos lenktyniauja superintelekto link
J. Coxono pasitraukimas įvyko „Anthropic“ ruošiantis debiutui biržoje, po vasaros, kurią paženklino per bandymus DI įrankių įvykdyti neteisėti įsilaužimai.
Dirbtinio intelekto sektoriaus lyderiai teigia, kad artėja vadinamojo „rekursyvaus savęs tobulinimo“ (angl. recursive self-improvement) etapas, kai DI sistemos iš esmės galėtų pačios kurti ir apmokyti naujos kartos dirbtinį intelektą, žmogui beveik nedalyvaujant.
J. Coxonas „Anthropic“ pastangas laiko nuoširdžiomis, tačiau teigia manantis, kad be vyriausybių įsikišimo arba koordinuoto plėtros sulėtinimo nė viena kompanija negali atsakingai kurti žmogų pranokstančio dirbtinio intelekto.
„Kompanijoje „Anthropic“ puikiai suprantama, kokie dideli statymai, tačiau ji yra įstrigusi lenktynėse, kas pirmas pasieks tikslą – jie mano, kad niekas kitas nesielgs atsakingai, todėl privalo tai padaryti patys, nepaisydami rizikos“, – sakė jis.
Vasarį „Anthropic“ iš savo saugumo chartijos pašalino įsipareigojimą sustabdyti modelių kūrimą, jei kompanijai nepavyktų suvaldyti jų keliamos rizikos.
Kompanija argumentavo, kad jei ji vienašališkai sustabdytų savo veiklą, mažiau atsargūs konkurentai imtų dominuoti sektoriuje, todėl apskritai jis taptų mažiau saugus.
Liepos pabaigoje daugiau kaip 1000 technologijų sektoriaus darbuotojų, tarp jų ir „Anthropic“ generalinis direktorius Dario Amodei, paragino Vašingtoną paremti koordinuotą pažangiausių dirbtinio intelekto sistemų kūrimo sulėtinimą.
Raginama imtis tarptautinio reguliavimo
Rugpjūtį „OpenAI“ dviem savaitėms sustabdė naujausių savo modelių apmokymą, o vėliau jį atnaujino taikydama griežtesnes kontrolės priemones.
Rugsėjo 6 d. „OpenAI“ vyriausiasis mokslininkas Jakubas Pachocki paragino laikytis „ypatingo atsargumo“.
„Tarptautinis būsimos dirbtinio intelekto plėtros koordinavimas turi tapti vienu svarbiausių vyriausybių visame pasaulyje prioritetų“, – tinklaraščio įraše teigė jis.
Jungtinėse Valstijose dirbtinio intelekto modeliai nėra reguliuojami federaliniais įstatymais.
Rugsėjį senatorius Bernie Sandersas ir Demokratų partijos Atstovų Rūmų narys Gregas Casaras pateikė įstatymo projektą, kuriuo siekiama sustabdyti dirbtinio intelekto plėtrą, kol bus įsteigta federalinė reguliavimo institucija.
J. Coxono pasitraukimas dar kartą išryškina vis garsiau pačioje DI industrijoje skambančius perspėjimus apie technologijos vystymo tempą. Kol didžiosios kompanijos varžosi, kuri pirmoji sukurs vis galingesnes sistemas, dalis pačių šių technologijų kūrėjų ragina pristabdyti ir pirmiausia atsakyti į klausimą, kaip užtikrinti, kad žmogaus gebėjimus pranokstantis dirbtinis intelektas išliktų kontroliuojamas.
