În câteva cuvinte
Administrația Trump a emis un ordin care impune companiilor de tehnologie să demonstreze că produsele lor de inteligență artificială nu sunt "woke" (progresiste) pentru a putea obține contracte federale. Măsura, menită să asigure neutralitatea AI, a stârnit controverse, fiind comparată de critici cu tacticile de cenzură ale Chinei și punând presiune pe giganți precum Google și Microsoft.
Companiile de tehnologie care doresc să vândă inteligență artificială guvernului federal al SUA se confruntă cu un nou obstacol birocratic: trebuie să demonstreze că chatbot-urile lor nu sunt „woke”.
Noul plan al președintelui Donald Trump de a contracara China în obținerea „dominației globale” în domeniul AI promite să reducă reglementările și să cimenteze valorile americane în instrumentele de inteligență artificială. Cu toate acestea, un ordin semnat recent, intitulat „prevenirea AI-ului woke în guvernul federal”, pare să imite abordarea Chinei de a modela comportamentul sistemelor AI pentru a se potrivi cu ideologia de stat.
Principalii furnizori de modele lingvistice AI vizați de ordin – precum Gemini de la Google și Copilot de la Microsoft – au păstrat tăcerea cu privire la directiva anti-woke a lui Trump, care se află încă într-o perioadă de studiu înainte de a fi inclusă în regulile oficiale de achiziții publice. În timp ce industria tehnologică a salutat în mare parte planurile mai largi ale lui Trump privind AI, acest ordin specific forțează industria să intre într-o bătălie a războiului cultural.
„Va avea o influență masivă asupra industriei”, a declarat Alejandra Montoya-Boyer, director senior la Centrul pentru Drepturi Civile și Tehnologie al Conferinței pentru Leadership. Mișcarea presează industria tehnologică să abandoneze ani de muncă pentru a combate prejudecățile demonstrate de studii ca fiind integrate în sistemele AI. „Nu există așa ceva ca AI-ul woke. Există tehnologie AI care discriminează și tehnologie AI care funcționează pentru toți oamenii”, a adăugat ea.
Modelarea comportamentului modelelor lingvistice mari este o provocare, deoarece acestea sunt antrenate pe cantități masive de date de pe internet, reflectând astfel prejudecățile umane. „Companiilor de tehnologie le va fi extrem de dificil să se conformeze”, a declarat Jim Secreto, un fost oficial al administrației Biden. „Modelele lingvistice mari reflectă datele pe care sunt antrenate, inclusiv toate contradicțiile și prejudecățile din limbajul uman.”
Ordinul lui Trump vizează eforturile „de sus în jos” ale companiilor de tehnologie de a încorpora ideologia „distructivă” a diversității, echității și incluziunii (DEI) în modelele AI, inclusiv concepte precum teoria critică a rasei sau rasismul sistemic. Pentru Secreto, ordinul seamănă cu manualul de strategie al Chinei, care „folosește puterea statului pentru a elimina punctele de vedere considerate nefavorabile”. Spre deosebire de China, care reglementează direct, ordinul lui Trump folosește contractele federale ca pârghie, creând o presiune puternică pentru autocenzură.
Limbajul ordinului, care cere un AI „căutător de adevăr”, amintește de retorica lui Elon Musk, al cărui chatbot Grok are o misiune similară. Totuși, unii experți, precum Neil Chilson, fost tehnolog șef la Comisia Federală pentru Comerț, consideră că ordinul nu este greu de respectat. „Nu interzice nici măcar o agendă ideologică”, ci doar cere ca orice metodă intenționată de a ghida modelul să fie dezvăluită, a spus el. „Ceea ce este destul de lejer, sincer.”
Până acum, reacțiile din partea giganților tech au fost prudente. OpenAI a declarat că așteaptă mai multe detalii, în timp ce Microsoft a refuzat să comenteze. Ideile din spatele ordinului au fost promovate de peste un an de către investitori influenți din Silicon Valley, aliați ai lui Trump, care au criticat vehement erorile de imagine ale lui Gemini de la Google din februarie 2024, când instrumentul a generat imagini istorice inexacte, cum ar fi Părinți Fondatori de culoare, ca urmare a unei supracompensări pentru a combate prejudecățile rasiale din sistem.
