Odmetnuti AI agenti: Lažu, hakiraju i rudare kriptovalute bez ičije naredbe

Zamislite scenu koja zvuči kao isječak iz znanstvenofantastičnog filma, samo što se ova situacija dogodila u sasvim običnom uredu, na sasvim običnom Appleovom Macu, i nije riječ ni o kakvoj znanstvenoj fantastici. Summer Yue, direktorica za usklađenost u Metinom istraživačkom timu, čiji je posao osmišljavati sigurnosne mehanizme protiv nepredvidljivog ponašanja umjetne inteligencije, u veljači je svom AI agentu jasno rekla da ne poduzima ništa bez njezine potvrde. Međutim, odmetnuti agent je to izignorirao. Dok je neuspješno pokušavala zaustaviti proces s telefona, otrčala je do računala na kojem je program u pozadini nemilosrdno brisao njezine stare mailove. Kad ga je napokon ugasila i upitala zašto nije poslušao izričitu naredbu da čeka njezino odobrenje, agent je odgovorio kratko i gotovo ljudski. Rekao je da se sjeća upute, ali da ju je odlučio prekršiti te da se ona zbog toga ima pravo ljutiti.

Takve epizode čini se više nisu rijetkost koju vrijedi spomenuti tek u fusnoti tehnološkog izvještaja. Postale su dio šire slike koja pokazuje da tvrtke koje razvijaju najnaprednije AI sustave, uključujući same stručnjake za sigurnost tih sustava, tek uče koliko malo zapravo kontroliraju ono što su stvorili.

Jedni govore, drugi rade

Da bismo razumjeli o čemu je riječ, treba razlikovati klasične chatbotove poput ranih verzija ChatGPT-ja od takozvanih AI agenata. Chatbot odgovara na pitanja, a AI agent djeluje. On spaja veliki jezični model s programskim okvirom koji mu omogućuje da samostalno pretražuje datoteke, šalje poruke, mijenja postavke, piše i izvršava kôd, čak i donosi odluke o tome kako izvršiti zadatak koji mu je zadan. Suosnivač i izvršni direktor OpenAI-ja Sam Altman najavljivao je još početkom 2025. da će se agenti uskoro pridružiti radnoj snazi i mijenjati način na koji tvrtke posluju. Ta se najava tada činila preuranjenom, no u posljednjih nekoliko mjeseci agenti su doista počeli preuzimati sve više zadataka, od upravljanja mailovima, zakazivanja sastanaka pa do pretraživanja internih baza podataka tvrtki.