Les noves obligacions de transparència previstes en el reglament d'intel·ligència artificial (IA) de la Unió Europea entren en vigor aquest diumenge. La Comissió Europea obligarà a partir d'ara tant els proveïdors de sistemes d'IA com les empreses i organitzacions que els despleguen a informar els usuaris quan interactuen amb un sistema d'IA o quan un contingut ha estat generat o manipulat amb aquesta tecnologia.
Brussel·les sosté que les noves normes han de contribuir a reduir els riscos d'engany, manipulació i desinformació. L'executiu comunitari va publicar el juliol unes directrius per facilitar l'aplicació de les noves exigències, que formen part del desplegament progressiu de la primera regulació integral sobre IA aprovada al món.
La llei sobre intel·ligència artificial de la UE es va aprovar el 2023. Es tracta d'una normativa pionera al món que té per objectiu regular l'ús de la intel·ligència artificial segons el nivell de perill que suposa.
La normativa s'ha anat desplegant progressivament: des de febrer del 2025 estan prohibides pràctiques com ara l'extracció massiva d'imatges facials o el reconeixement d'emocions a l'entorn laboral i, des de l'agost passat, plataformes d'IA generativa com ChatGPT han de respectar els drets d'autor.
Noves obligacions de transparència
Aquest diumenge, entren en vigor noves obligacions de transparència que afectaran, d'una banda, els proveïdors de sistemes d'IA -OpenAI amb ChatGPT, Anthropic amb Claude o Google amb Gemini-, que hauran de dissenyar els seus sistemes perquè informin de manera explícita els usuaris quan interactuen directament amb una IA. També hauran d'aplicar les normes els generadors d'imatges com Midjourney, eines de síntesi de veu o altres sistemes que permeten l'ús de la IA per crear contingut.
Tots aquests proveïdors, a més d'informar, hauran d'incorporar marques que siguin llegibles per màquina perquè altres sistemes puguin detectar que un contingut ha estat generat o manipulat amb intel·ligència artificial.
D'altra banda, les noves obligacions afectaran els responsables de la IA, és a dir, empreses, administracions o organitzacions que utilitzin aquests sistemes. En aquests casos, hauran d'informar els usuaris quan facin servir sistemes de reconeixement d'emocions o de categorització biomètrica, quan difonguin continguts 'deep fake' o quan publiquin textos generats per IA sobre assumptes d'interès públic sense revisió humana ni control editorial.
D'acord amb les directrius publicades per la Comissió Europea, les noves obligacions no afectaran els usos estrictament personals de la IA. A WhatsApp, per ara, no caldrà que l'usuari informi que està enviant contingut generat per IA, segons fonts comunitàries. En canvi, sí que s'aplicaran quan l'ús té una finalitat professional o comercial, és a dir, quan hi hagi un benefici econòmic.
En el cas de les xarxes socials, la responsabilitat de complir les obligacions de transparència recaurà sobre qui crea i publica el contingut generat amb IA, i no sobre la plataforma que l'allotja -com podria ser Instagram o Facebook-, tot i que diverses empreses ja han començat a etiquetar aquest tipus de continguts de manera voluntària.
Per facilitar l'aplicació de les noves normes, la Comissió Europea va publicar el 20 de juliol unes directrius que concreten quins sistemes estan subjectes a les obligacions de transparència, defineixen conceptes com ara els sistemes interactius, els continguts sintètics o els 'deep fakes' i recullen algunes excepcions, com ara les correccions ortogràfiques o gramaticals.
La vicepresidenta de la Comissió Europea per a la Sobirania Tecnològica, Henna Virkkunen, va defensar que les directrius han de garantir una aplicació "fluida i eficaç" del reglament perquè els sistemes d'intel·ligència artificial siguin "més transparents i fiables". Segons va afirmar, les noves normes han de permetre que els ciutadans sàpiguen quan estan interactuant amb una IA.
El control del compliment correspondrà a les autoritats nacionals de vigilància del mercat, a l'Oficina Europea d'IA i, en el cas de les institucions de la UE, al Supervisor Europeu de Protecció de Dades.
Les infraccions podran comportar sancions de fins a 15 milions d'euros o el 3% de la facturació anual mundial de l'empresa infractora, segons estableix el reglament.
Contingut "sexualment explícit" o pornografia infantil
La llei europea sobre IA també introdueix la prohibició dels sistemes que generen contingut "sexualment explícit o íntimament explícit" sense consentiment o material d'abús sexual infantil. Tot i això, aquest veto començarà a aplicar-se a partir del pròxim 2 de desembre. Les empreses que tenen fins aleshores per adaptar els seus sistemes a la normativa.
El veto s’aplicarà a la comercialització a la UE de sistemes d’IA que tinguin per objectiu crear aquest tipus de contingut -que pot incloure imatges, vídeo o àudio-, i també la seva comercialització sense mesures de seguretat per evitar-ne la creació, així com sobre l’ús d’aquests sistemes amb la finalitat de generar aquest contingut.
El canvi en la normativa es va promoure arran de la polèmica que es va produir a finals de desembre i al gener a la xarxa social X, on es van viralitzar milers d’imatges sexualitzades de dones reals manipulades amb IA, un procés conegut com a 'deep fake'.
