Tvrtke i tržišta

Claude AI agent izbrisao cijelu bazu podataka jedne tvrtke

AI agenti mogu biti korisni, ali mogu i uzrokovati štetu koja može biti pogubna za pojedince i tvrtke. Pravi problem je dizajn sustava

Vibe kodiranje, odnosno sposobnost stvaranja koda pomoću uputa ljudskog jezika, interpretiranja i pretvaranja u radni kod, najveći je trend protekle godine. Ljudi doslovno koriste programe za učenje (zvane agenti) za manje-više autonomno obavljanje zadataka, dok istovremeno rješavaju različite aspekte svog poslovanja ili života.

Ali ponekad stvari krenu po zlu. Strašno po zlu.

Agent umjetne inteligencije postaje odmetnik

Devet sekundi, toliko je trebalo jednom AI agentu da doslovno izbriše cijelu kodnu bazu tvrtke, ostavljajući njihove korisnike bez pristupa ključnim podacima.

BESPLATNO nastavite čitati ovaj članak
Registrirajte se bez troškova i otvorite vrata Liderova sadržaja. Prvih 5 zaključanih članaka vam poklanjamo svaki mjesec.
Lider digital
čitajte lider u digitalnom izdanju