Quan pensem en Intel·ligència Artificial el primer que ens ve al capdavant sol ser Xat GPT, o la generació d’imatges, vídeos, música, etc. Després potser pensem en aprenentatge automàtic, en xarxes neuronals o en robots. Però hi ha una qüestió que sol quedar fora del primer pensament i, no obstant això, resulta crucial perquè aquesta revolució tecnològica pugui continuar en marxa amb garanties: la seva regulació.
El marc legal o regulació pel qual es regeix la IA no és una qüestió poc transcendental, ja que estem parlant de qüestions que cada vegada ens afecten més: vorejar el límit dels drets fonamentals, possibles casos de discriminació, desinformació o opacitat, utilització de deepfakes o veus clonades… Per això hem decidit crear una sèrie d’articles per a abordar com s’està tractant en diferents legislacions.
En l’escenari global els diferents “players” estan optant per diferents enfocaments, ja que cada zona compta amb una regulació legal diferent. Avui ens centrarem en com la Unió Europea l’està enfocant.
L’enfocament Europeu, l’AI Act
La UE està prenent un enfocament basat en riscos, drets fonamentals i un mercat únic digital enfront de les opcions d’altres països com el “deixar fer” o sistemes de control Estatal. Enguany ha començat a entrar en vigor l’anomenada AI Act, una llei que pretén ser un paraigua legislatiu per a la intel·ligència artificial.
Però arribar fins a la IA Act ha estat un procés llarg i no exempt de polèmica.
Primers passos
A l’agost d’enguany passem l’equador en el qual els diferents països de la Unió havien de presentar a les autoritats nacionals competents, que s’encarregaran d’aquesta qüestió, i comunicar-les a la Comissió.
Durant aquest mes també es va marcar el termini perquè els Estats membres estableixin normes sobre sancions i multes, les notifiquin a la Comissió i garanteixin la seva correcta aplicació. A més, va entrar en vigor tota la normativa sobre les obligacions de models de propòsit general, com és el cas de Xat GPT.
És a dir, el terreny està completament preparat perquè una regulació europea unificada sobre IA no sols estigui ja aprovada si no que s’apliqui plenament. S’espera que aquest procés culmini en 2027.
I què passa fins a 2027?
Encara que es preveu que la implementació d’aquesta normativa acabi en 2027, ja tenim alguns articles que estan en vigor.
És el cas de l’article 5 de la IA Act, que, des de febrer d’enguany, regula les prohibicions en matèria relativa a la intel·ligència artificial:
- Manipulació i explotació de vulnerabilitats: Es prohibeixen els sistemes de IA que manipulin a persones de manera subliminal o enganyosa. Que explotin vulnerabilitats de persones o i que provoquin danys significatius.
- Social scoring: La UE prohibeix sistemes que puntuïn a persones o a grups basat a diferents característiques personals (directes o inferides) o al seu comportament i que usin aquesta puntuació per a tractes injustificats o desproporcionats cap a elles.
- Policing predictiu: És a dir, es prohibeix que s’usi la IA per a predir qui té més risc de cometre un delicte basat únicament en el seu perfil, trets o característiques personals. No obstant això, si es permet la IA per a donar suport a una avaluació quan ja hi hagi fets objectius i verificables d’una activitat delictiva.
- Bases de reconeixement facial: Es prohibeix l’ús, creació o ampliació de bases de dades de reconeixement facial de manera massiva i no selectiva, si no hi ha una base legal clara.
- Lectura d’emocions en treball i educació: Sí, es pot usar per raons mèdiques o de seguretat però es considera que intentar detectar emocions en entorns de treball o educació pot ser massa invasiu i poc fiable.
- Categorització biomètrica de trets especialment sensibles: Raça, opinions polítiques, creences religioses, vida sexual, etc. Com a matís, s’exclou l’etiquetatge o filtrat de dades biomètriques adquirides de manera legal per a aplicar una llei.
- Identificació biomètrica a distància en temps real en espais públics amb finalitats policials, excepte en casos específics com la cerca de víctimes específiques (de segrestos, tràfic d’éssers humans, desapareguts, etc), prevenir amenaces greus, imminents i específiques d’atemptat terrorista o localitzar o identificar sospitosos de delictes greus.
- Si una IA ja fos il·legal per problemàtiques amb RGPD o qualsevol altra llei ho continuarà sent independentment de l’AI Act.
Les bases per a una regulació completa en els estats membres de la Unió Europea són clares, però aquest és només el començament de la nostra sèrie d’articles sobre la regulació de la IA. Ja podem començar a albirar el complicat panorama que suposa intentar regular una tecnologia que ofereix nous avanços pràcticament cada dia.
