Digitalizarea totală și inteligența artificială ubicuă sunt două subiecte care trebuie amplu dezbătute de întreaga societate, scrie europarlamentarul AUR, profesorul Gheorghe Piperea, preluat de Romanian Global News.

Săptămâna aceasta votăm în plenul Parlamentului European raportul Comisiei parlamentare pentru afaceri constituționale (AFCO) privind Aspectele instituționale ale inteligenței artificiale în contextul integrării europene. Am lucrat la acest dosar în dubla calitate de raportor al opiniei Comisiei parlamentare pentru piața internă și protecția consumatorilor (IMCO), cât și ca raportor alternativ al AFCO. În ambele posturi am susținut două principii esențiale: supravegherea umană a inteligenței artificiale și respectarea drepturilor fundamentale în utilizarea acesteia. Omul trebuie să aibă întotdeauna ultimul cuvânt asupra modului în care este utilizată tehnologia.

Sigur că ne dorim o Europa competitivă. Ne dorim inovare, progres și tehnologii care să ne facă viața mai ușoară. Dar cu ce preț?

Nu putem sacrifica drepturile și libertățile cetățenilor de dragul progresului tehnologic.
Inteligența artificială are un potențial distructiv comparabil chiar cu cel al armelor nucleare. Utilizată în controlul infrastructurii critice (gări, aeroporturi, metrou, bănci, asigurători, spitale, pensii, justiție, educație, ordine publică, utilități) sau în scopuri militare, inteligența artificială poate neutraliza instantaneu ceea ce înțelegem acum prin siguranță, democrație și chiar prin existența fizică a cetățenilor și a societății. Cedat fiind controlul asupra inteligenței artificiale, fie din imprudență, fie din lipsă de rațiune umană, se poate ajunge la situații mai grave decât cele de după un atac nuclear, chimic sau biologic.

În privința digitalizării totale, în sistemele bancare se poate ajunge ușor la furt de identitate și la erori sistemice cauzate de simple (sau hiper-elaborate) breșe informatice.

La fel stau lucrurile în administrația publică.

Vă dau un exemplu din România. O amendă contestată sau o datorie prescrisă poate ajunge să creeze probleme unui cetățean, inclusiv prin blocarea conturilor, atunci când sistemele informatice nu comunică între ele sau când apar erori. Omul se trezește că nu își mai poate folosi banii și trebuie să demonstreze că sistemul a greșit. Ai o datorie la fisc (pe care fiscul nu ți-o mai comunică, pentru că s-a generalizat „comunicarea” prin așa-zisul spațiu privat virtual) prescrisă deja la 7 ani de la apariția ei în evidențele fiscale digitale, o achiți pentru a evita neplăcerile, dar banca nu deblochează contul pentru că fiscul nu eliberează „chitanța” digitală… Timp în care nu ai acces la propriii bani, iar banii în numerar sunt cvasi-inutili, pentru că plățile cash sunt limitate.

Cum este posibil ca o tehnologie creată ca să ne simplifice viața să ajungă să ne-o complice?
Uitați-vă la ce se întâmplă chiar acum în Paraguay, unde prăbușirea băncii digitale Ueno a provocat o adevărată criză națională, proteste masive și chiar demiterea și arestarea președintelui Santiago Peña.

Banca Uneo ajunsese la aproape trei milioane de clienți, acoperind 60% din populația țării. Un mare succes a digitalizării, s-ar zice … Dar în spatele acestei dezvoltări rapide au existat probleme financiare grave, conflicte de interese ale președintelui țării și ale guvernatorului băncii centrale (ex – CEO al băncii Ueno..) și deficiențe de supraveghere. Iar când banca s-a prăbușit, milioane de oameni s-au trezit că nu își mai pot accesa economiile sau efectua plățile.

Digitalizarea poate că nu a provocat în sine acele grave problemele financiare, dar e cert că a amplificat enorm consecințele lor. Digitalizarea a devenit o amenințare existențială pentru acei oameni …
Asta se poate întâmpla atunci când tehnologia avansează mai repede decât instituțiile care ar trebui să o supravegheze și când atenția la aspectele democratice (drepturi și libertăți) ale tehnologiei este redusă sau inexistentă.

Dar de departe cel mai grav pericol al tehnologiei este azi folosirea inteligenței artificiale în justiție.

Nu este vorba aici doar despre protecția datelor cu caracter personal sau despre erorile pe care le poate face un algoritm. Vorbim despre însuși dreptul fundamental al fiecărui cetățean la un proces echitabil. Justiția nu înseamnă doar să citești un dosar și să aplici mecanic un articol de lege: înseamnă să înțelegi omul din fața ta, să înțelegi circumstanțele, contextul, intențiile și consecințele unei decizii. Înseamnă discernământ, empatie și, mai ales, responsabilitate.

Un algoritm poate analiza mii de documente în câteva secunde. Dar asta nu înseamnă că poate face dreptate. Inteligența artificială poate fi un instrument în mâna judecătorului, dar nu trebuie să devină niciodată judecătorul.

Și cred că aceasta trebuie să fie regula după care ne ghidăm în toate domeniile: să folosim tehnologia pentru a construi o societate mai bună, mai eficientă și mai competitivă, dar să nu uităm niciodată pentru cine facem toate acestea.

Pentru că, în definitiv, tehnologia trebuie să fie în slujba omulu, iar nu omul în slujba tehnologiei.