Încă dinaintea apariției Inteligenței Artificiale (IA), inegalitatea socială a generat o discriminare în accesul la un tratament uman calm și personalizat. Poate că nu există un „înainte” sau un „înapoi”, ci mai multe căi diferite de urmat.

Unii experți, precum artista Jennifer Walshe și programatoarea Marga Padilla, abordează IA cu deschidere, considerând-o un „îngrășământ pentru imaginație”. Ei sunt interesați să cunoască instrumentul, să se joace cu el și să înțeleagă la ce poate și la ce nu poate servi. La polul opus se află muzicianul Anthony Mosser, care se declară un „hater al IA”, celebrându-și astfel umanitatea. El subliniază că IA nu poate simți, iubi sau urî, deoarece nu-i pasă. Totuși, toți sunt de acord că „IA” este o etichetă care ascunde o multitudine de tehnologii, procese și scopuri diferite.

O mare parte din aceste procese se referă la automatizare, sisteme de decizie automată și optimizare predictivă. Automatizarea poate fi utilă în anumite contexte, cum ar fi reducerea oboselii sau formularea de noi antibiotice, dar este dăunătoare atunci când sunt în joc relațiile umane. Nimeni nu dorește să fie tratat ca o piesă dintr-un angrenaj sau ca un simplu număr.

Oamenii sunt în același timp diferiți și egali. Egalitatea noastră impune să nu fim discriminați în ceea ce privește drepturile. Unicitatea noastră necesită o lume care să ia în considerare ceea ce nu poate fi măsurat. Două cazuri similare nu sunt adesea identice, deoarece fiecare persoană aduce cu sine un context unic, legături și nefericiri. Aspirăm ca unicitatea fiecăruia dintre noi să poată fi ascultată și înțeleasă.

În profesiile lor, unii oameni uită că au în față o ființă umană, nu neapărat din indiferență, ci pentru că li s-a spus că nu pot face altfel, fiind prinși într-un angrenaj care nu lasă timp pentru o atenție reală. Când cineva propune o soluție alternativă, angajatul privește neputincios ecranul: „Înțeleg”, spune el, „dar sistemul nu mă lasă”. Astfel, sistemul este umanizat („nu mă lasă”), iar persoana din fața lui este dezumanizată („nu-mi pasă de circumstanța ta”), la fel ca și angajatul însuși, ale cărui criterii și experiență sunt ignorate.

Discriminarea în accesul la un tratament uman calm este de neconceput. Amplificarea și legitimarea acesteia la o scară mai mare în numele unei presupuse eficiențe este inadmisibilă. Dacă la o consultație medicală nu există timp pentru a vedea și a asculta fiecare persoană, soluția nu este automatizarea funcției, ci intervenția în condițiile de muncă. Dreptul la tratament uman nu ar trebui să depindă de locul în care locuiești sau de cât poți plăti.

Proiectul unei eficiențe automatizate este adesea numit „de neoprit”, dar de ce? Suntem într-un moment critic al istoriei în care prea multe decizii pot avea consecințe ireversibile și trebuie atent cântărite.

Punctele slabe majore ale automatizării includ:

• Risipa excesivă de energie electrică și apă a centrelor de date.
• Rata de eroare care se multiplică exponențial la scară largă.
• Automatizarea înșelăciunii și a speculațiilor.
• Devalorizarea relațiilor umane.

Când spunem: „Vreau să vorbesc cu o persoană”, iar modelul de text sintetic răspunde: „Îmi pare rău că nu am putut să vă ajut”, nu este ficțiune, ci fraudă. În aceste cuvinte nu există voință de a povesti, nici un „eu”, nici o acțiune de regret. Limbajul este un patrimoniu comun și nu ar trebui să permitem să fie irosit până la punctul de a uita că în spatele fiecărui sens trebuie să existe o intenție de a spune, iar în spatele fiecărei acțiuni cu consecințe, o dorință de a fi responsabil pentru a putea fi liber.