Industria tehnologică avansează rapid, creând din nou precedente, iar de data aceasta, este în joc realitatea noastră comună și controlul asupra imaginii noastre, atât în timpul vieții, cât și după, grație platformelor de generare de imagini cu inteligență artificială.

Videoclipurile tipice create cu Sora, aplicația OpenAI, și distribuite pe TikTok, Instagram, X și Facebook, sunt concepute pentru a fi suficient de amuzante pentru a genera click-uri și partajări. Acestea pot include o Regina Elisabeta a II-a rapând sau ceva mai obișnuit și credibil. Un gen popular Sora este cel al înregistrărilor false de la camere de supraveghere, care surprind ceva ușor straniu – de exemplu, un boa constrictor pe verandă sau un aligator care se apropie de un copil nepăsător – și se termină cu un mic șoc, cum ar fi o bunică țipând în timp ce lovește animalul cu o mătură.

Totuși, un cor tot mai mare de grupuri de advocacy, academicieni și experți trag semnale de alarmă cu privire la pericolele de a permite oamenilor să creeze videoclipuri AI despre aproape orice pot tasta într-un prompt, ducând la proliferarea imaginilor fără consimțământ și a deepfake-urilor realiste într-o mare de „mizerie AI” mai puțin dăunătoare. OpenAI a luat măsuri împotriva creațiilor AI ale personalităților publice – printre care Michael Jackson, Martin Luther King Jr. și Mister Rogers – făcând lucruri ieșite din comun, dar numai după un val de proteste din partea moștenitorilor și a unui sindicat al actorilor.

Organizația non-profit Public Citizen solicită acum ca OpenAI să retragă Sora 2 din spațiul public, scriind într-o scrisoare de marți adresată companiei și CEO-ului Sam Altman că lansarea precipitată a aplicației, pentru a fi înaintea concurenței, arată un „model consistent și periculos al OpenAI de a lansa produse pe piață care sunt fie intrinsec nesigure, fie lipsite de măsurile de siguranță necesare”. Sora 2, se arată în scrisoare, demonstrează o „neglijență imprudentă” față de siguranța produsului, precum și față de drepturile oamenilor la propria imagine și stabilitatea democrației. Grupul a trimis scrisoarea și Congresului SUA.

OpenAI nu a răspuns solicitărilor de comentarii marți.

„Cea mai mare preocupare a noastră este amenințarea potențială la adresa democrației”, a declarat J.B. Branch, avocat pentru politica tehnologică la Public Citizen, într-un interviu. „Cred că intrăm într-o lume în care oamenii nu pot avea încredere în ceea ce văd. Și începem să vedem strategii în politică în care prima imagine, primul videoclip care este lansat, este ceea ce își amintesc oamenii.”

Branch, autorul scrisorii de marți, vede, de asemenea, preocupări mai ample legate de confidențialitatea persoanelor, care afectează disproporționat populațiile vulnerabile online. OpenAI blochează nuditatea, dar Branch a declarat că „femeile se confruntă cu hărțuirea online” în alte moduri, cum ar fi conținutul de nișă fetișizat care reușește să treacă de restricțiile aplicațiilor. O publicație de știri a raportat un val de videoclipuri create cu Sora, în care femei erau strangulate.

OpenAI a lansat noua sa aplicație Sora pe iPhone-uri în urmă cu mai mult de o lună. Săptămâna trecută, a fost lansată pe telefoanele Android în SUA, Canada și mai multe țări asiatice, inclusiv Japonia și Coreea de Sud.

Cea mai puternică opoziție a venit din partea Hollywood-ului și a altor interese din industria divertismentului, inclusiv a industriei manga japoneze. OpenAI a anunțat primele sale modificări majore la doar câteva zile după lansare, spunând că „supramoderarea este super frustrantă” pentru utilizatori, dar că este important să fii conservator „în timp ce lumea se adaptează încă la această nouă tehnologie”.

Aceasta a fost urmată de acorduri anunțate public cu familia lui Martin Luther King Jr. pe 16 octombrie, prevenind „reprezentările lipsite de respect” ale liderului pentru drepturile civile, în timp ce compania lucra la măsuri de siguranță mai bune, și un altul pe 20 octombrie cu actorul din „Breaking Bad” Bryan Cranston, sindicatul SAG-AFTRA și agențiile de talente.

„Este bine și frumos dacă ești faimos”, a spus Branch. „Este un model pe care OpenAI îl are, unde sunt dispuși să răspundă la indignarea unei populații foarte mici. Sunt dispuși să lanseze ceva și să-și ceară scuze ulterior. Dar multe dintre aceste probleme sunt alegeri de design pe care le pot face înainte de lansare.”

OpenAI s-a confruntat cu plângeri similare cu privire la produsul său emblematic, ChatGPT. Săptămâna trecută, în instanțele din California, s-a reclamat că chatbot-ul și iluziile dăunătoare au provocat probleme de sănătate mintală, chiar și atunci când victimele nu aveau probleme anterioare. Depuse în numele a șase adulți și un adolescent de către Social Media Victims Law Center și Tech Justice Law Project, procesele susțin că OpenAI a lansat cu bună știință GPT-4o prematur anul trecut, în ciuda avertismentelor interne că era periculos de lingușitor și manipulativ psihologic. Patru dintre victime au murit prin suicid.

Public Citizen nu a fost implicată în procese, dar Branch a declarat că vede paralele în lansarea precipitată a Sora. El a spus că „accelerează fără a ține cont de daune. O mare parte din acestea par previzibile. Dar preferă să lanseze un produs, să-i facă pe oameni să-l descarce, să-i facă pe oameni să devină dependenți, în loc să facă ceea ce trebuie și să testeze aceste lucruri în prealabil și să se preocupe de soarta utilizatorilor obișnuiți.”

OpenAI a petrecut săptămâna trecută răspunzând plângerilor unei asociații comerciale japoneze care reprezintă animatori celebri și producători de jocuri video precum Bandai Namco și Square Enix. OpenAI a declarat că mulți fani anime doresc să interacționeze cu personajele lor preferate, dar compania a stabilit și măsuri de siguranță pentru a preveni generarea de personaje bine-cunoscute fără consimțământul persoanelor care dețin drepturile de autor.

„Ne angajăm direct cu studiourile și deținătorii de drepturi, ascultăm feedback-ul și învățăm din modul în care oamenii folosesc Sora 2, inclusiv în Japonia, unde industriile culturale și creative sunt profund apreciate”, a declarat OpenAI într-un comunicat referitor la scrisoarea grupului comercial de săptămâna trecută.