În acest nou episod al Digitalination, o producție Upgrade 100 în parteneriat cu Aspen Institute Romania, am explorat subiectul intens discutat al inteligenței artificiale și impactul său asupra societății. Invitat a fost Dragoș Tudorache, Europarlamentar și Președinte al Comitetului de Inteligență Artificială din cadrul Parlamentului European, iar moderator, Radu Puchiu, expert e-guvernare.
Împreună cu el, Radu Puchiu a vrut să afle care sunt consecințele și implicațiile potențiale pentru cetățeni și comunități, ce preocupări există legate de deciziile – potențial părtinitoare, discriminatorii sau etic discutabile – pe care le iau sistemele de inteligență artificială.
Dar și să răspundem la întrebări tot mai des adresate: ne va înlocui A.I. (n.r. Artificial Intelligence/ Inteligență Artificială) locurile de muncă? Vom asista la o inegalitate economică generată de avansul rapid al tehnologiilor de automatizare?
Context: Artificial Intelligence ACT. Ce este și ce urmărește?
La nivel european, se lucrează de ceva vreme la reglementarea folosirii Inteligenței Artificiale.
Comisia condusă de Dragoș Tudorache a înaintat o propunere de reglementare care va fi dezbătută în forurile europene în următoarea perioadă și sunt șanse mari ca ea să devină un Regulament al UE pe această zonă până la finalul anului.
A.I. ACT – așa cum mai este cunoscută această reglementare – reprezintă un cadru de reglementare crucial în Uniunea Europeană, conceput pentru a guverna dezvoltarea și implementarea Inteligenței Artificiale.
Scopul său este de a asigura transparență, responsabilitate și utilizare etică a sistemelor de A.I., abordând preocupările legate de decizii părtinitoare, discriminare și riscuri potențiale.
Prin stabilirea unor reguli și orientări clare, A.I. ACT urmărește să stimuleze încrederea, să protejeze drepturile individuale și să promoveze inovația responsabilă în domeniul în continuă evoluție al inteligenței artificiale, se menționează pe site-ul Comisiei Europene – pentru doritori, mai multe detalii aici: artificialintelligenceact.eu
Sper să nu sune arogant, dar ideea și paternitatea comitetului cel puțin pe inteligență artificială din Parlament îmi aparține, dar paternitatea proiectului legislativ vine din fostul mandat, din fostul ciclu politic. Anterior acestuia, Comisia deja formase un grup de experți la nivel înalt care să o ajute să își pregătească abordarea pe această temă a inteligenței artificiale.
Dragoș Tudorache /2.45
Cu Inteligența Artificială la control: o mai putem reglementa sau e prea târziu?
Radu Puchiu a explorat alături de Dragoș Tudorache motivele pentru care este necesar acest act și cum acesta își propune să asigure transparență, responsabilitate și utilizare etică a sistemelor de inteligență artificială.
Dragoș Tudorache a subliniat și importanța stabilirii unor reguli și orientări clare pentru a promova încrederea, a proteja drepturile individuale și a stimula inovația responsabilă în domeniul în continuă evoluție al inteligenței artificiale. /6.15
În timpul interviului Dragoș Tudorache a oferit și câteva exemple care dau fiori:
Uitându-mă și la exemple recente, am avut aici, în Belgia, un caz, acum o lună și jumătate: o persoană care s-a sinucis după două zile de interacțiune cu un model din acesta fundamental de procesare de text, un chat-bot care după două zile i-a spus persoanei respective că viața nu merită trăită, că a ajuns la capătul firului, motiv pentru care persoana respectivă chiar s-a sinucis.
Săptămâna trecută am văzut un caz în Danemarca – ziariști care au interacționat din nou cu un astfel de model, nu vreau să dau nume precise, dar cu un astfel de model de algoritm de AI, cerând instrucțiuni despre cum anume și postând ca fiind copii, ca fiind minori, și cerând informații despre cum să-și facă rău și au primit aceste instrucțiuni fără niciun fel de filtru, fără niciun ghidaj etic din partea acelei aplicații.”
Dragoș Tudorache /9.37
Risipește A.I. ACT grijile despre pierderea locurilor de muncă, teama de manipulare a Big Tech și dificultatea de a distinge realul de fals?
Dragoș Tudorache spune că A.I. ACT aduce mai multă transparență și o mai bună explicare a modului în care funcționează acești algoritmi. /11.29
Printre beneficiile A.I. ACT am reținut:
- știm ce date introducem și vom ști ce se întâmplă în interiorul algoritmilor A.I.;
- va forța transparența și va aduce mai multă încredere în utilizarea inteligenței artificiale;
- ne vom putea asigura că datele au fost folosite corect;
- dezvoltatorii de aplicații vor avea obligația eliminării datelor care duc la discriminări;
- cei care pun A.I. pe piață știu mai clar ce au de făcut;
- publicul va ști cine e responsabil și cui i se poate adresa în cazul unor probleme;
- publicul va avea drept direct de a se adresa unei instanțe.
Cum facem alegerea corectă: inovare sau Protejare?
A.I. înseamnă inovare și e parte din uneltele viitorului. A ști să utilizezi A.I. înseamnă a fi conectat la dezvoltare. L-am întrebat pe Dragoș Tudorache dacă abordarea curentă de evitare a riscurilor nu îngrădește inovarea și, implicit, limitează competitivitatea Uniunii Europene.
Într-adevăr, spune Dragoș Tudorache, Europa este în spatele SUA și al Chinei, dar nu din cauza legislației.
Ceea ce ne-a ținut în urmă este faptul că nu am investit în inovație. Chiar și așa, contrar unei opinii generale, sunt foarte multe zone în care se utilizează A.I. în care stăm mai bine decât credem. /14.38
Câteva lucruri importante privind abordarea inovării în A.I. ACT:
- Această nouă legislație nu va pune o frână în plus inovării;
- Este o regulă ce va fi impusă tuturor și are toate șansele să devină un standard global;
- Este deja parte a discuțiilor dintre UE și SUA în așa-numitul „A.I. Code of Conduct”;
- A.I. Act nu va crea un dezavantaj companiilor europene față de companii din alte zone;
- Practic, se rezumă la acele aplicații care induc riscuri;
- Pentru a încuraja inovarea, vor exista spații de testare – sand-boxes – împreună cu zona de IMM, pentru a pune pe piață produse conforme;
- Toate acestea vor încuraja creativitatea și inovația.
Ce am învățat din aplicarea GDPR?
Plecând de la cazul transferului de date Facebook către SUA, în care, inițial, Irlanda a încercat să evite amendarea companiei, l-am întrebat pe Dragoș Tudorache dacă există riscul ca un stat membru să ofere un tratament extrem de relaxat companiilor de A.I. în avantaj economic propriu și în dauna celorlalți cetățeni europeni.
Iată ce a răspuns Dragoș Tudorache:
- zonele de taxare nu sunt parte a A.I. ACT;
- diferit față de GDPR, a fost rezolvată partea de disonanță între aplicarea națională și cea europeană prin adăugarea unui „strat” care să uniformizeze aplicarea legii, care să permită aceeași abordare;
- o noutate: viitorul Oficiu pentru AI al UE va prelua competența acestor cazuri. /21.17
Ce viitor digital are România în contextul A.I.?
Arătam și în episodul trecut al Digitalination cum stă România la educație digitală – dacă nu l-ai urmărit, ți-l recomand cu căldură.
În condițiile astea, este oportun să vorbim despre A.I. în România? Avem cu cine?
Stăm mai prost decât toți vecinii noștri!
Dragoș Tudorache
Educația va fi afectată profund și, cu cât crește sofisticarea algoritmilor, cu atât trebuie să regândim mai atent nivelul de competențe de care vom avea nevoie. /24.49
Ce ar trebui făcut:
- Să integrăm în noile competențe aceste tehnologii.
- A.I. va fi alături de noi, vom avea în jurul nostru modele de A.I. – va trebui să învățăm să le integrăm.
- ne va schimba tuturor substanțial modul în care ne facem treaba – de aceea trebuie să investim masiv în această zonă.
Din păcate, spune Dragoș Tudorache, adevăratele probleme ale educației nu sunt abordate în acest moment.
Avem motive reale să ne temem de abuzurile Statului?
De la supraveghere electronică la identificare video a persoanelor în spațiul public, există numeroase îngrijorări privind folosirea abuzivă a inteligenței artificiale. L-am întrebat pe invitatul nostru în ce măsură abordează acest proiect de Regulament utilizarea A.I. în instituțiile publice, mai ales în zona de apărare și ordine publică. /29.58
Câteva puncte ne-au reținut atenția:
- A.I. ACT privește cu mare atenție cum statul folosește A.I. și pune reguli foarte clare și pentru administrațiile publice
- Impactul asupra drepturile cetățenilor e foarte mare.
- Există limitări clare, care merg până la interzicerea unor anumite tehnologii, cum ar fi interdicția identificării persoanelor în spațiul public.
Tot de la Dragoș Tudorache am reținut și un exemplu negativ venit din Olanda: pe zona de asistență socială existau unelte A.I. care selectau persoane cu risc pentru autorități. În urma unei anchete, s-a dovedit că modalitatea în care era dezvoltat algoritmul ducea la discriminări majore. Acest lucru a provocat un scandal foarte mare în presă, care a dus la întreruperea folosirii respectivelor unelte. Acestea sunt cazuri pe care A.I. ACT urmărește să le prevină. /33.15
Cum arată viitorul? Vom ști să folosim A.I. pentru a face bine?
Dragoș Tudorache spune că e optimist și că „de data asta ne-am trezit la timp”.
Care sunt însă provocările mari și care e diferența de abordare față de platformele de social-media? Sperăm că ți-am trezit curiozitatea. /34.29
Ne-ar bucura să aflăm și gândurile tale - ce îngrijorări ai legate de folosirea A.I., ce provocări crezi că vom avea în față și ce ar trebui să facem pentru a le depăși?
NU RATA CELELALTE EDIȚII DIN SERIA DIGITALINATION
- Provocările aduse de pe zona de leadership politic, în EPISODUL 1 - cu Sebastian Burduja, ministrul Digitalizării României, alături de ministrul omolog din Moldova, Iurie Țurcanu. - Dar și despre provocările tehnice în EPISODUL 2 - cu Președintele ADR, Dragoș Vlad și Președintele ANIS, Mihai Matei. - În EPISODUL 3 - am fost curioși să aflăm de la Sabin Sărmaș, președintele comisiei IT&C din Camera Deputaților, cum se „cuplează” conversația digitală globală la realitatea digitalizării de la noi, prin prisma ITUPP-22. - În EPISODUL 4 - Radu Puchiu și Dan Cîmpean, directorului Directoratului Național de Securitate Cibernetică a României, au analizat cât de liniștită poate sta România când se discută despre acest subiect - În EPISODUL 5 - Allen Coliban - primarul Brașovului - și Sabin Sărmaș - șeful Comisiei IT din Camera Deputaților - vorbesc despre digitalizarea unui mare oraș. - În EPISODUL 6 - Ce poate învăța România de la Finlanda: adică ultima de la prima țară din topul digitalizării UE - În EPISODUL 7 - Totul despre cartea electronică de identitate, direct de la sursă. Explicații de la Cătălin Giulescu, Director General Evidența Populației - MAI - În EPISODUL 8 - Mai are România șanse să recupereze restanțele din educația digitală? Răspunsuri de la Ana-Maria Stancu, de la RoboHub, și Irinuca Văduva, de la ECDL România.
DIGITALINATION este un demers și un concept educativ Upgrade 100, realizat în parteneriat cu Aspen Institute România
Comentează