La Unión Europea (EU) acaba de aprobar la propuesta de ley sobre regulación de la inteligencia artificial, convirtiéndose en el primer intento a nivel mundial para regular esta clase de tecnología.
Este proyecto de ley, al que todavía le esperan varios meses de discusión y negociaciones, busca reforzar el marco legal sobre el desarrollo y utilización de la inteligencia artificial por parte de la Unión Europea.
Se pretende reforzar las leyes sobre el desarrollo y uso de la inteligencia artificial en Europa
Se conoció que algunos de los aspectos más discutidos en el debate han sido los contenidos peligrosos, los sistemas de vigilancia masiva y la manipulación de los datos.
La UE aprobó este jueves el proyecto de ley con el que busca reforzar la normativa sobre el desarrollo y el uso de la inteligencia artificial (IA), lo que representa el primer esfuerzo para regular esta clase de tecnología en todo el mundo.
El proyecto de ley fue respaldado por 84 votos a favor, 7 votos en contra y 12 abstenciones. Desde este momento la propuesta pasa al Parlamento Europeo (PE), allí se tendrá que enfrentar a meses de difíciles negociaciones.
Por tratarse de un Reglamento, una vez que sea aprobado será aplicado inmediatamente en los 27 países miembros de la Unión Europea, sin que sea necesario tener que trasponerlo a la normativa nacional.
En la Unión Europea se creó en el año 2018 un grupo interdisciplinar de alto nivel para el abordaje de la regulación de la IA, este grupo de expertos redactó luego su “Informe sobre Inteligencia Artificial en la Era Digital”. Este documento debía marcar las principales líneas de acción de la nueva normativa.
En el año 2021 fue publicado el primer borrador de la ley. Sin embargo, ha sido en las últimas semanas cuando los responsables han sido más diligentes, al concretar la redacción en tiempo récord de un nuevo proyecto aprobado ahora por los legisladores de las principales comisiones del PE.
Herramientas como ChatGPT han provocado la aceleración de las leyes para regular la inteligencia artificial
La vertiginosa evolución de herramientas avanzadas como Midjourney, Dall-e o ChatGPT, aunado a los llamamientos en todas partes del mundo para la creación lo más pronto posible de un marco ético que establezca límites a esta clase de tecnología, han acelerado el proceso en la UE.
El veloz ritmo de desarrollo que han logrado los distintos modelos de inteligencia artificial, con bots conversacionales y herramientas generadoras de imágenes como su lado más visible, es lo que ha provocado que cada vez con mayor insistencia se oigan voces de advertencia sobre sus riesgos potenciales, y que claman tanto a Estados como a las empresas desarrolladoras que impongan límites éticos y legales a este tipo de herramientas.
La nueva ley de la UE sobre la materia intentará definir esta nueva realidad, buscando garantizar que los nuevos sistemas usados en la comunidad sean seguros y que respeten la legislación en vigencia, aún más en materia de derechos fundamentales, seguridad y otros valores comunitarios. Y lograrlo sin tener que renunciar a los beneficios que puede conllevar a la ciudadanía europea, por lo que otra de las grandes metas es impulsar la investigación y la capacidad industrial de la inteligencia artificial.
Con respecto a la manipulación de la opinión pública mediante la IA
Entre los aspectos que fueron más discutidos y debatidos se encuentran la manipulación de la opinión pública a través de la creación de imágenes y noticias falsas, la difusión de contenidos peligrosos y los sistemas de vigilancia masiva.
La nueva propuesta de ley contempla la obligación por parte de las empresas desarrolladoras de establecer freno al contenido ilegal y hacer públicos los datos protegidos por derecho de autor usados para el entrenamiento de sus algoritmos.
También, los desarrolladores de esta clase de sistemas tecnológicos que deseen introducirlos en el mercado primero tendrán que demostrar que han minimizado los riesgos que puedan provocar a la salud de los usuarios, al sistema democrático y a los derechos fundamentales de las personas. Además de someterse al escrutinio de expertos independientes.
De igual forma, los usuarios de sistemas de IA que produzcan o manipulen vídeos, sonidos o imágenes que puedan servir para inducir de manera errónea a otras personas a pensar que son auténticos, deberán primero que informar al resto de la ciudadanía de que el contenido es falso.
Está otro asunto importante contemplado en el proyecto de ley de la UE. Se trata de la prohibición de sistemas de reconocimiento de emociones, al igual que se desautoriza la identificación biométrica de personas en sitios públicos. Con lo que se veta los sistemas de vigilancia masiva en tiempo real, a menos que sea para la prevención de delitos y la ubicación de posibles víctimas.
Se contempla la calificación de alto riesgo
Por otro lado, la propuesta también prohíbe las herramientas que se sirvan de técnicas subliminales para la alteración de forma sustancial del comportamiento de una persona, además impide la recolección masiva de imágenes en Internet para el entrenamiento de algoritmos sin el consentimiento expreso de las personas que aparezcan en ellas.
También, en este proyecto de ley de la Unión Europea está la calificación de “alto riesgo” para varios sistemas de inteligencia artificial cono empleos bastante específicos que únicamente se podrán introducir en el mercado si respetan los derechos fundamentales además de los valores de la UE.
Como, por ejemplo, los sistemas que se puedan usar para influir en el resultado de una determinada elección, los que utilicen las entidades financieras para la evaluación de la solvencia y el establecimiento de la calificación crediticia de una persona o los que usen la policía de control de fronteras para vigilar, controlar o procesar datos para la predicción de los movimientos migratorios.
Se espera que el Parlamento Europeo en pleno confirme su posición negociadora para este proyecto de ley el venidero mes de junio. Luego, la Eurocámara tendrá que negociar con la Comisión Europea y con el Consejo de la Unión Europea el texto definitivo.
