Jedno od temeljnih pravila u razvoju umjetne inteligencije i računalnih znanosti kaže da je model dobar koliko i podaci na kojima je treniran
Britansko-kanadski računalni znanstvenik, često nazivan i kumom umjetne inteligencije, profesor Geoffrey Hinton nema o njoj dobro mišljenje. I nije on sam u toj priči, mnogi su znanstvenici i stručnjaci potpisali otvoreno pismo o umjetnoj inteligenciji, tj. AI-ju gdje pozivaju na pažnju i usporavanje te nove tehnologije. Sâm Hinton upozorava da će umjetna inteligencija, ni manje ni više, nego uništiti čovječanstvo u sljedeća tri desetljeća jer je tempo promjena u tehnologiji mnogo brži od očekivanoga.
– Postoji od 10 do 20 posto šanse da će umjetna inteligencija dovesti do izumiranja čovječanstva u sljedeća tri desetljeća – napominje Hinton.
Ističe da se nikad prije nismo morali suočiti sa stvarima inteligentnijima od nas samih.
– Koliko primjera znate da je inteligentniju stvar kontrolirala manje inteligentna stvar? Vrlo je malo primjera. Tu su majka i beba. Evolucija je uložila mnogo truda da bi beba mogla kontrolirati majku, ali to je otprilike jedini primjer koji znam – dodaje on.
No Hinton i ostali možda mogu ostati mirni jer mnogi u industriji smatraju da će prije nego uništi čovječanstvo, umjetna inteligencija uništiti samu sebe, tj. da će se dogoditi kolaps AI modela.
Pojam 'kolaps modela' odnosi se na postupno pogoršanje performansi generativnih AI modela koji se treniraju na sadržaju koji su prethodno generirali drugi AI modeli. Jedno od temeljnih pravila u razvoju umjetne inteligencije i računalnih znanosti kaže da je 'model dobar koliko i podaci na kojima je treniran'. I upravo tu leži srž problema jer su posljednjih godina istraživači primijetili da generativni modeli, treniraju li se isključivo na 'izlazima' ili odgovorima svojih prethodnika, proizvode sve netočnije i manje korisne rezultate. Ti modeli s vremenom razvijaju 'nepovratne defekte' te postaju praktički neupotrebljivi. Kolaps se događa zbog toga što se pogreške jednog modela ugrađuju u njegov izlaz, a zatim se prenose u trening sljedeće generacije modela, koja na to dodaje nove pogreške. S vremenom se te pogreške gomilaju i degradiraju model u više uzastopnih iteracija.
