OpenAI i nova politika: u fokusu privatnost, sloboda i sigurnost tinejdžera

Nedavni nesretni slučaj u kojemu je ugašen mladi život nakon razgovora s ChatGPT-jem i nakon roditeljske tužbe prema tvrtki Open AI i Samu Altmanu nagnao je tvrtki u vlasnika da poduzmu određen korake.

Prije koji dan su predstavili novu značajku, roditeljski nadzor kako bi 'podržali obitelji u postavljanju zdravih smjernica' a sada su na svom kompanijskom blogu najavili i nove sigurnosne značajke za fokusirane na mlade tj. tinejdžere.

U svom blogu Sam Altman pojašnjava nove principe i nove sigurnosne mjere u vezi s korištenjem umjetne inteligencije, ističući kako se u praksi ponekad sukobljavaju tri ključna cilja: privatnost korisnika, sloboda korištenja i zaštita tinejdžera.

Prvo privatnost

Kompanija naglašava da je zaštita privatnosti u razgovoru s AI-jem (ChatGPT-jem) izuzetno važna.

- Ljudi sve više koriste AI za razgovore o osobnim i osjetljivim temama, što ovu tehnologiju čini drugačijom od prethodnih digitalnih alata – piše Altman u blogu.

Nadalje ističe kako razgovori s AI-jem mogu biti jednako osobni kao i oni s liječnikom ili odvjetnikom te da takve informacije trebaju imati posebnu razinu zaštite. Zbog toga,kompanija radi na naprednim sigurnosnim funkcijama koje osiguravaju privatnost podataka, čak i od zaposlenika OpenAI-ja.

- Ipak, određene iznimke postoje pa će automatski sustavi nadzirat ozbiljne zlouporabe, poput prijetnji životu, planovima da se našteti drugima ili planiranja masovnih cyber napada, te će takvi upiti biti proslijeđeni na ljudsku provjeru – naglašava se u blogu.

Drugi princip - sloboda

Drugi ključni princip je sloboda korištenja. OpenAI želi da korisnici imaju što veće mogućnosti korištenja alata unutar granica sigurnosti. Modeli se razvijaju kako bi postali fleksibilniji, primjerice, zadano ponašanje modela ne uključuje flert, ali ako odrasli korisnik zatraži takav razgovor, model mu može udovoljiti. Za osjetljivije teme, poput pisanja fikcionalnih priča o suicidu, model će pružiti pomoć u kreativnom kontekstu, ali ne i u slučaju stvarnog samoozljeđivanja. Interno to nazivaju 'Tretirajte odrasle korisnike kao odrasle', što znači proširenje slobode koliko god je moguće, bez nanošenja štete drugima.

Treći princip - zaštita

Treći princip odnosi se na zaštitu tinejdžera. OpenAI stavlja sigurnost maloljetnika ispred privatnosti i slobode, jer smatra da novi AI sustavi zahtijevaju značajnu zaštitu ranjivih korisnika.

- Kompanija razvija sustav za procjenu dobi korisnika kako bi razlikovala osobe mlađe od 18 godina od odraslih (ChatGPT je namijenjen korisnicima od 13 godina naviše). Ako postoji sumnja, primijenit će se sigurniji 'under-18' režim. U nekim slučajevima može se tražiti identifikacija, što je kompromis privatnosti za odrasle, ali se smatra opravdanim u svrhu zaštite tinejdžera – navode iz kompanije.

U prijevodu, uskoro će za sve korisnike biti potrebna identifikacija iako to sada nije naznačeno. Ali kada se uvede mjera identifikacije za određenu svrhu (npr. zaštitu tinejdžera), postoji tendencija da se takvi zahtjevi s vremenom prošire i na druge slučajeve ili korisnike. To ne znači da će se odmah dogoditi, ali postoji strateški rizik od širenja ovakvih zahtjeva, što je česta tema u raspravama o privatnosti i digitalnim pravima i slična pričao kao i kod europskog Chat Controla.

Druga pravila za tinejdžere

Za tinejdžere će vrijediti drugačija pravila. Flertujući razgovori ili rasprave o suicidu i samoozljeđivanju, čak i u kontekstu kreativnog pisanja, neće biti dopušteni. Ako maloljetnik pokaže suicidalne misli, sustav će pokušati kontaktirati roditelje, a u slučaju neposredne opasnosti, nadležna tijela. OpenAI je objavio i nove roditeljske kontrole koje omogućuju praćenje aktivnosti djece, blokadu određenih funkcija i obavijesti o potencijalnom stresu kod tinejdžera.

Iz kompanije priznaju da su principi privatnosti, slobode i zaštite tinejdžera u sukobu i da se ne mogu svi složiti s njihovim odlukama, ali ističu da su odluke donesene nakon konzultacija sa stručnjacima i u najboljem interesu korisnika.