Sam Altman, izvršni direktor OpenAI-a, izrazio je svoju nadu da se umjetna inteligencija može programirati da voli čovječanstvo, iako priznaje da to nije sigurno. Rekao je to tijekom intervjua s Deborom Spar, dekanicom na Harvard Business Schoolu.
Ova izjava dolazi u trenutku kada pitanja o mogućem ‘ustanku‘ umjetne inteligencije prelaze granice znanstvene fantastike i postaju predmet ozbiljne regulatorne rasprave. Dok su ranije takve ideje bile rezervirane za književnost Isaaca Asimova ili filmove Jamesa Camerona, danas se sve češće promišlja o etičkim i sigurnosnim izazovima razvoja umjetne inteligencije.
Altman smatra da bi projekt razvoja AI-ja trebao biti državni pothvat.
- U funkcionalnom društvu, ovo bi trebao biti projekt pod vodstvom vlade. No, s obzirom na to da to nije slučaj, bolje je da se razvija na ovaj način, kao američki projekt - rekao je.
Unatoč tome, napredak na zakonodavnom polju u SAD-u je spor. Primjerice, zakon u Kaliforniji koji bi uveo odgovornost za katastrofalne zlouporabe AI-ja poput razvoja oružja za masovno uništenje—prošao je u zakonodavnom tijelu, ali ga je u konačnici guverner Gavin Newsom stavio veto na tu odluku.
Strahovi stručnjaka i sigurnosni izazovi
Neki od vodećih svjetskih stručnjaka za AI upozoravaju da je osiguranje sigurnosti ovih sustava ključno pitanje. Geoffrey Hinton, dobitnik Nobelove nagrade i jedan od pionira AI-a, izjavio je kako ‘ne vidi put koji bi jamčio sigurnost‘, dok Elon Musk, osnivač Tesle i jedan od začetnika OpenAI-a, već godinama upozorava da AI može predstavljati egzistencijalnu prijetnju čovječanstvu. Altman, unatoč sudskoj tužbi Muska protiv njega, ostaje zahvalan za početno financiranje koje je pomoglo u osnivanju OpenAI-a, što je potvrdio i u samom intervjuu rekavši kako je i dalje zahvalan Elonu na učinjenom.
Altman vjeruje da je današnja umjetna inteligencija dizajnirana tako da se može uskladiti s ciljevima čovječanstva, no naglašava potrebu za preciznim definiranjem što ‘dobrobit‘ zapravo znači. Jedna od njegovih ideja je koristiti AI za anketiranje široke populacije kako bi se bolje razumjele njihove vrijednosti te potom uskladilo ponašanje sustava s tim vrijednostima.
- Zanima me ideja da AI razgovara s vama nekoliko sati o vašem sustavu vrijednosti, a potom sa mnom i svima drugima te da na kraju kaže: ‘Ne mogu svima udovoljiti u potpunosti, ali mogu raditi na konsenzusu‘ - objasnio je Altman.
Problemi unutar OpenAI-a
Unatoč optimizmu, Altman se suočava s izazovima unutar vlastite organizacije. Tim za ‘superusklađivanje‘, koji je istraživao metode za osiguranje da superinteligentni AI ne postane opasan, raspušten je ranije ove godine. Voditelji tima, Ilya Sutskever i Jan Leike, napustili su OpenAI zbog neslaganja s vodstvom.
- Razvoj strojeva pametnijih od ljudi inherentno je opasan pothvat - napisao je Leike na platformi X. Dodao je kako su ‘sigurnosna kultura i procesi unazad nekoliko godina postali manje prioritetni u odnosu na lansiranje novih proizvoda.‘ Altman je na njegov odlazak reagirao zahvalnošću, napisavši kako cijeni Leikeov doprinos sigurnosnoj kulturi OpenAI-a. Ostaje pitanje može li se AI uistinu oblikovati prema vrijednostima čovječanstva i osigurati da ostane saveznik, a ne prijetnja. Pa iako je Altmanov optimizam za neke zarazan i dalje stoji nasuprot sve glasnijih upozorenja o mogućim problemima koje nam AI može donijeti.