Maailma tehisaru tipp-ettevõtte Anthropic mudelite eeltreener Jacob Coxon loobus 9. septembril suure kära saatel ametist, kuna tema sõnul "mängivad" kunstoiu ettevõtted inimeste eludega.
Enne Anthropicut töötas Coxton kaks aastat teises tehismõistuse "eesliini" (frontier) ettevõttes OpenAI. Esmalt andis matemaatikust masinaaru vormija intervjuu Wall Street Journalile ja samal päeval selgitas oma seisukohti ühismeedias.
Coxtoni sõnul ei käitu kumbki ettevõte vastutustundlikult. OpenAI ja Anthropic "jooksevad võidu iseennast parendava superteadvuse poole ning mängivad inimeste eludega".
AI tehnoloogia jõudu ei tohi tema sõnul alahinnata. Suurtest keelemudelitest (LLM) saavad peatselt üliinimlikud süsteemid, mis suudavad lahti murda mille iganes, üleöö korraldada suvalises valdkonnas pöördelise tähtsusega muutuseid ja haarata päris võimu ning kontrolli ressursside üle. "Selline progressi tunnistajaks juba ollakse ja see ei aeglustu."
Tehismõistust ehitavad inimesed usuvad tõsimeeli, et see suudab käesoleva kümnendi lõpuks inimesed ära tappa. Niisugune väide ei ole Coxtoni sõnul turundusnipp. Kui suheldes ajakirjanikega räägitakse vaoshoitumat ja mõistlikuna näivat juttu, siis eraviisiliselt väljendavad samad inimesed hirmu. "Mitte ükski muu inimtegevus ei kujuta niisugust ohtu."
OpenAI-s saadakse aru, mis on tsivilisatsiooni jaoks kaalul. Anthropicus mõistetakse panuseid, kuid kuna tegemist on võidujooksuga, milles konkurendid vastutustundlikult ei käitu, siis ettevõte inimestest ei hooli ja hoolimata ohtudest peetakse tähtsaks, kes saavutab mingisuguse läbimurde esimesena.
Coxton arvab, et tegemist on "lõppmänguga" ja seda ei tohiks korraldada eraettevõtted. Milleks on vaja võidujooksu hallata ja kooskõlastada. Muuhulgas kuulutada välja LLM-ide võimete parendamisele ülemaailmne moratoorium. Lõpetuseks nõuab mudelitreener kunstoiule "erinevate tingimuste loomist".
Toimetas Karol Kallas