Cuando pensamos en Inteligencia Artificial lo primero que nos viene a la cabeza suele ser Chat GPT, o la generación de imágenes, vídeos, música, etc. Luego quizás pensemos en aprendizaje automático, en redes neuronales o en robots. Pero hay una cuestión que suele quedar fuera del primer pensamiento y, sin embargo, resulta crucial para que esta revolución tecnológica pueda seguir en marcha con garantías: su regulación.
El marco legal o regulación por el que se rige la IA no es una cuestión poco trascendental, ya que estamos hablando de cuestiones que cada vez nos afectan más: bordear el límite de los derechos fundamentales, posibles casos de discriminación, desinformación u opacidad, utilización de deepfakes o voces clonadas… Por eso hemos decidido crear una serie de artículos para abordar cómo se está tratando en diferentes legislaciones.
En el escenario global los diferentes “players” están optando por diferentes enfoques, ya que cada zona cuenta con una regulación legal diferente. Hoy nos centraremos en cómo la Unión Europea lo está enfocando.
El enfoque Europeo, la AI Act
La UE está tomando un enfoque basado en riesgos, derechos fundamentales y un mercado único digital frente a las opciones de otros países como el “dejar hacer” o sistemas de control Estatal. Este año ha empezado a entrar en vigor la llamada AI Act, una ley que pretende ser un paraguas legislativo para la inteligencia artificial.
Pero llegar hasta la IA Act ha sido un proceso largo y no exento de polémica.
Primeros pasos
En agosto de este año pasamos el ecuador en el que los diferentes países de la Unión debían presentar a las autoridades nacionales competentes, que se encargarán de esta cuestión, y comunicarlas a la Comisión.
Durante ese mes también se marcó el plazo para que los Estados miembros establezcan normas sobre sanciones y multas, las notifiquen a la Comisión y garanticen su correcta aplicación. Además, entró en vigor toda la normativa sobre las obligaciones de modelos de propósito general, como es el caso de Chat GPT.
Es decir, el terreno está completamente preparado para que una regulación europea unificada sobre IA no solo esté ya aprobada si no que se aplique plenamente. Se espera que este proceso culmine en 2027.
¿Y qué pasa hasta 2027?
Aunque se prevé que la implementación de esta normativa termine en 2027, ya tenemos algunos artículos que están en vigor.
Es el caso del artículo 5 de la IA Act, que, desde febrero de este año, regula las prohibiciones en materia relativa a la inteligencia artificial:
- Manipulación y explotación de vulnerabilidades: Se prohíben los sistemas de IA que manipulen a personas de forma subliminal o engañosa. Que exploten vulnerabilidades de personas o y que provoquen daños significativos.
- Social scoring: La UE prohíbe sistemas que puntúen a personas o a grupos basado a diferentes características personales (directas o inferidas) o a su comportamiento y que usen esa puntuación para tratos injustificados o desproporcionados hacia ellas.
- Policing predictivo: Es decir, se prohíbe que se use la IA para predecir quien tiene más riesgo de cometer un delito basado únicamente en su perfil, rasgos o características personales. Sin embargo, si se permite la IA para apoyar una evaluación cuando ya haya hechos objetivos y verificables de una actividad delictiva.
- Bases de reconocimiento facial: Se prohíbe el uso, creación o ampliación de bases de datos de reconocimiento facial de forma masiva y no selectiva, si no hay una base legal clara.
- Lectura de emociones en trabajo y educación: Sí, se puede usar por razones médicas o de seguridad pero se considera que intentar detectar emociones en entornos de trabajo o educación puede ser demasiado invasivo y poco fiable.
- Categorización biométrica de rasgos especialmente sensibles: Raza, opiniones políticas, creencias religiosas, vida sexual, etc. Como matiz, se excluye el etiquetado o filtrado de datos biométricos adquiridos de forma legal para aplicar una ley.
- Identificación biométrica a distancia en tiempo real en espacios públicos con fines policiales, salvo en casos específicos como la búsqueda de víctimas específicas (de secuestros, trata de seres humanos, desaparecidos, etc), prevenir amenazas graves, inminentes y específicas de atentado terrorista o localizar o identificar sospechosos de delitos graves.
- Si una IA ya fuese ilegal por problemáticas con RGPD o cualquier otra ley lo seguirá siendo independientemente del AI Act.
Las bases para una regulación completa en los estados miembros de la Unión Europea están claras, pero este es solo el comienzo de nuestra serie de artículos sobre la regulación de la IA. Ya podemos empezar a vislumbrar el complicado panorama que supone intentar regular una tecnología que ofrece nuevos avances prácticamente cada día.
