Comisia Europeană (CE) a propus un nou cadru legislativ pentru sistemele ce utilizează Inteligența Artificială (AI), creând inițiative de promovare a inovației în domeniu. Această propunere reprezintă prima reglementare la nivel european a unei tehnologii specifice (AI).
Obiectivul noului cadru legislativ este de a uniformiza activitățile de reglementare ale dezvoltării, comercializării și utilizării inteligenței artificiale în conformitate cu valorile Uniunii Europene (UE). Deși recunoaște beneficiile aduse de AI, CE dorește să se asigure de faptul că tehnologiile de acest tip care sunt utilizate în piața europeană respectă drepturile funamentale ale individului. CE este în mod particular preocupată de protejarea împotriva riscurilor etice și de protecția datelor personale, inclusiv de riscul prejudecăților inerente din seturile de date utilizate de tehnologiile AI.
„AI este un mijloc, nu un scop. A existat de zeci de ani, dar a atins noi capacități datorită puterii de calcul. Acest lucru oferă un potențial imens în domenii atât de diverse precum sănătatea, transporturile, energia, agricultura, turismul sau securitatea cibernetică. De asemenea, prezintă o serie de riscuri. Propunerile noastre urmăresc să consolideze poziția Europei ca centru global de excelență în AI, de la laborator până în piață, să se asigure că AI în Europa respectă valorile și regulile noastre și să valorifice potențialul AI pentru uz industrial”, a declarat Thierry Breton, comisarul european pentru piața internă.
Dispozițiile esențiale ale planului de reglementare propus de CE se pot sintetiza astfel:
- Vocabular comun – definirea sistemelor de inteligență artificială;
- Spectrul de risc – împărțirea sistemelor AI în patru categorii de risc, cu implicații asupra utilizării acestora: minim, limitat, ridicat și inacceptabil (categoriile sunt detaliate mai jos);
- Domeniul de aplicare și acoperirea extrateritorială – reglementările propuse se aplică atât utilizatorilor și furnizorilor de tehnologii AI de pe teritoriul UE/SEE, cât și celor din afara acestei zone în cazul în care rezultatele sistemelor AI sunt utilizate în UE/SEE;
- Evaluarea conformității pentru tehnologii AI cu risc ridicat – va fi necesară supravegherea umană adecvată în cazul utilizării tehnologiilor AI cu risc ridicat, fiind obligatorii anumite activități de evaluare prin diverse teste de funcționalitate, înregistrare, certificare, monitorizare, păstrarea datelor și obligații de raportare;
- Registru – reglementările prevăd înființarea unei baze de date publice care să conțină detaliile furnizorilor de sisteme AI cu risc ridicat;
- Securitatea datelor – noile reguli propuse solicită disponibilitatea soluțiilor tehnice pentru a preveni manipularea datelor și a altor puncte slabe. Tehnologiile AI sunt dezvoltate și instruite pe baza unor seturi de date, iar CE consideră esențial ca aceste seturi de date să fie sigure și protejate de accesul sau influența terților neautorizați;
- Supravegherea, executarea și amenzile – regulamentul prevede înființarea unui comitet european pentru AI (European Artificial Intelligence Board, EAIB), alcătuit din reprezentanți ai CE și ai statelor membre. Comitetul va dezvolta standarde comune pentru utilizarea tehnologiilor AI și va îndruma aplicarea noilor reguli și standarde;
- Statusul actual și timpul până la implementare – finalizarea cadrului legislativ va dura un an sau mai mult, iar ulterior intrării în vigoare a acestuia, o perioadă de tranziție de 24 de luni este prevăzută pentru adaptarea companiilor AI la noile reguli și cerințe.
CE propune o abordare a tehnologiilor AI bazată pe patru niveluri de risc
Risc inacceptabil – Vor fi interzise un anumit număr limitat de utilizări ale inteligenței artificiale, anume acelea care contravin valorilor UE deoarece încalcă drepturile fundamentale. Spre exemplu: generarea de scoruri sociale de către guverne, exploatarea vulnerabilităților copiilor, utilizarea tehnicilor subliminale și – sub rezerva unor excepții – sistemele de identificare biometrică la distanță, utilizate în scopuri de aplicare a legii în spațiile publice.
Risc ridicat – Sistemele AI care au un impact negativ asupra siguranței indivizilor sau a drepturilor fundamentale ale acestora sunt considerate a fi cu risc ridicat. Acestea sunt definite în anexa propunerii CE, iar câteva exemple includ, printre altele, utilizarea tehnologiilor AI în: chirurgia asistată de roboți, în sortarea CV-urilor pentru procesele de recutrare sau în certificarea acurateței dovezilor legale. Toate tehnologiile AI cu risc ridicat vor fi evaluate cu atenție înainte de a fi introduse pe piață și pe tot parcursul utilizării acestora.
Risc limitat – Cerințe specifice de transparență sunt impuse pentru anumite sisteme AI, spre exemplu în prezența unui risc cert de manipulare (prin utilizarea chatboturilor). Utilizatorii trebuie să ia la cunoștință faptul că interacționează cu o tehnologie.
Risc minim – Toate celelalte sisteme AI vor putea fi dezvoltate și utilizate sub rezerva legislației existente, fără obligații legale suplimentare. Majoritatea sistemelor pe bază de inteligență artificială utilizate în prezent în UE se încadrează în această categorie.
Noile reglementări propuse de CE vor fi supuse negocierilor, fiind necesar ca acestea să fie aprobate atât de Parlamentul European, cât și de statele membre. De-a lungul procesului de aprobare a propunerii CE, companiile implicate în dezvoltarea tehnologiilor pe bază de AI vor avea oportunitatea de a anticipa impactul noului cadru legislativ și de a-i informa de decidenți, precum și publicul larg, asupra implicațiilor potențiale ale reglementărilor propuse.
Citește și:
- FDA lansează primul plan de acțiune care vizează dispozitivele medicale ce au la bază software-uri de inteligență artificială sau machine learning
- Prima moleculă terapeutică descoperită folosind inteligența artificială intră în studiu de fază I, cu indicații în tulburarea obsesiv-compulsivă
- Cât ar economisi sistemul de sănătate din Marea Britanie prin implementarea unui sistem bazat pe inteligența artificială