Uniunea Europeană a început de la 2 august aplicarea primelor reglementări dedicate modelelor de inteligență artificială de uz general. Noile prevederi impun obligații de transparență pentru dezvoltatori și măsuri suplimentare de siguranță pentru cele mai avansate modele AI, precizează basilica.ro.
Potrivit unui comunicat de presă transmis de Comisia Europeană, „chatboții și alte sisteme interactive de inteligență artificială vor trebui să informeze utilizatorii că interacționează cu un sistem AI, nu cu o persoană”.
De asemenea, imaginile, materialele video și audio de tip deepfake vor trebui etichetate, iar conținutul generat sau modificat cu ajutorul inteligenței artificiale va trebui să conțină marcaje care să permită identificarea sa mai ușoară.
Noile reguli se aplică furnizorilor de modele AI de uz general, precum ChatGPT, Gemini, Grok sau Claude, și prevăd identificarea și reducerea riscurilor pe care acestea le pot genera pentru societate, inclusiv în domeniul securității cibernetice, al manipulării utilizatorilor și al protejării drepturilor fundamentale.
Comisia Europeană precizează că măsurile urmăresc reducerea riscului de înșelare și manipulare a utilizatorilor și îi ajută pe aceștia să ia decizii informate atunci când folosesc instrumente bazate pe inteligență artificială. Totodată, instituția a publicat prima listă cu peste 180 de organizații care au semnat Codul de bune practici privind transparența conținutului generat de AI.
Patru categorii de risc
AI Act clasifică sistemele de inteligență artificială în patru categorii de risc. Aplicațiile cu risc minim, precum filtrele anti-spam sau unele jocuri bazate pe AI, nu sunt supuse unor obligații speciale.
Sistemele cu risc limitat, precum chatboții și aplicațiile care generează texte, imagini sau alte tipuri de conținut, trebuie să respecte obligații de transparență, inclusiv să informeze utilizatorii că interacționează cu inteligența artificială.
Sistemele cu risc ridicat, utilizate de exemplu în diagnosticarea bolilor, conducerea autonomă sau identificarea biometrică, trebuie să îndeplinească cerințe stricte privind testarea, transparența și supravegherea umană înainte de a putea fi utilizate pe piața europeană.
În schimb, sistemele considerate cu risc inacceptabil sunt interzise în Uniunea Europeană. Printre acestea se numără aplicațiile care manipulează comportamentul oamenilor, exploatează vulnerabilitățile unor persoane, realizează sisteme de „scor social”, folosesc recunoașterea emoțiilor la locul de muncă sau în instituțiile de învățământ și, cu unele excepții, sistemele de recunoaștere facială în timp real utilizate de autoritățile de aplicare a legii în spațiile publice.
Aplicare etapizată
Pentru sprijinirea aplicării regulamentului, Comisia Europeană a lansat o platformă prin care cetățenii și companiile pot sesiza posibile încălcări ale AI Act, precum și un mecanism destinat avertizorilor de integritate.
Aplicarea regulamentului va continua etapizat. Din 2 decembrie 2026 vor fi interzise sistemele AI care generează materiale cu conținut sexual explicit fără consimțământ sau materiale care reprezintă abuzuri sexuale asupra copiilor, iar regulile privind sistemele AI cu risc ridicat vor deveni aplicabile începând cu 2 decembrie 2027.
Sursa: basilica.ro
