El día 1 de octubre, el Parlamento Europeo publicó un comunicado donde se recopilaban las nuevas propuestas de legislación para la Comisión en materia de Inteligencia Artificial. De esta forma, cobran forma las intenciones expresadas en el Libro Blanco sobre la Inteligencia Artificial de la Comisión de febrero de este año. En él, se abordan los riesgos que presenta el uso de la IA para los derechos fundamentales, la seguridad y la privacidad de los ciudadanos de la Unión.
El objetivo es adoptar, en un futuro próximo, la legislación necesaria para evitar efectos imprevistos o malintencionados provocados por el uso de la Inteligencia Artificial. En definitiva, es previsible un cambio legislativo importante en el área de la IA de cara a abordar los riesgos que genera. En este sentido, afectarán a materias tales como la Propiedad Intelectual, la Protección de Datos o la responsabilidad civil, entre otros.
Actualmente, existe una serie de directrices creadas por un grupo de expertos y acogidas por la Comisión que permiten a las empresas saber si su Inteligencia Artificial es fiable. Esta fiabilidad se fundamenta en:
- Acción y supervisión humanas.
- Solidez técnica.
- Gestión de la privacidad.
- Transparencia.
- Diversidad y no discriminación.
- Bienestar social y medioambiental.
- Rendición de cuentas.
El problema es que los requisitos relativos a la transparencia, el seguimiento y la supervisión humana no se contemplan de forma específica en la legislación. Por ello, ya se están dando, desde el Parlamento Europeo, los primeros pasos para adaptarla a los riesgos detectados y solucionar las lagunas existentes.
Además, un marco regulador claro para la Inteligencia Artificial permitiría aprovechar las oportunidades que esta tecnología ofrece. Para ello, es necesario generar confianza entre los consumidores, garantizar la privacidad y seguridad y eliminar las inseguridades jurídicas que limitan la actuación empresarial. Sin embargo, estas modificaciones deben estar alineadas con la legislación, principios y valores de la Unión. Por otro lado, habrá que encontrar el balance de estos elementos con la promoción de la capacidad innovadora y la competitividad de Europa.
Ahora bien, ¿qué riesgos hay y qué áreas se van a ver afectadas a corto plazo?
En primer lugar, se han detectado importantes riesgos para los derechos fundamentales, especialmente protección de datos personales y privacidad. Hay que recordar que la Inteligencia Artificial desempeñará muchas funciones y tomará decisiones que antes solo podían hacer las personas. El problema es que carecen de esa capacidad humana y, en consecuencia, deberían estar permanentemente bajo supervisión. Además, la Inteligencia Artificial incrementa las posibilidades de hacer un seguimiento de los comportamientos humanos.
También pueden ser usados para la vigilancia masiva por autoridades estatales o para que las empresas observen a sus empleados. En cualquier caso, el mayor riesgo es que puede utilizarse para rastrear y desanonimizar datos relativos a personas, creando nuevos tipos de incumplimientos del RGPD.
En principio, la legislación de la Unión Europea resulta plenamente aplicable independientemente del uso de la Inteligencia Artificial. Sin embargo, es muy probable que sea necesario adaptar instrumentos jurídicos específicos para abordar los riesgos que se generan. En el caso de la Inteligencia Artificial, el mayor obstáculo es la falta de transparencia que hace difícil detectar y demostrar los posibles incumplimientos. Además, deberán abordarse los cambios en la funcionalidad de los sistemas de Inteligencia Artificial, que pueden modificar su funcionamiento a lo largo de su vida. Factores como las actualizaciones o el aprendizaje automático puede dar lugar a nuevos riesgos, que no se abordan adecuadamente en la legislación actual, enfocada en la comercialización.
De momento, el Parlamento Europeo ha aprobado propuestas de legislación para la Comisión enfocadas en la ética, la responsabilidad y la Propiedad Intelectual. En relación con la ética, se solicitará que se proponga una normativa que recoja los principios éticos a aplicar en el desarrollo y uso de la IA y similares.
Como base de esta normativa, se establece que los principios que se configuren deberán incluir que la IA sea creada y supervisada por las personas. Además, la transparencia, responsabilidad, seguridad y respeto por los Derechos Fundamentales deberán guiar esta normativa. Por último, se señala que el aprendizaje autónomo deberá poder ser supervisado por humanos. En el ámbito de la propiedad intelectual, se busca reforzar el sistema de patentes para que proteja mejor a los inventores, y que estos sólo puedan ser humanos.
En definitiva, la Inteligencia Artificial se erige como el futuro de la industria y bienestar de los ciudadanos de la Unión. Sin embargo, debe respetar en todo momento los derechos y valores fundamentales, al tiempo que es antropocéntrica, ética y sostenible. Este enfoque de las instituciones europeas provocará cambios legislativos de gran magnitud, con el objeto de integrar a la IA en el Mercado Único Digital. En consecuencia, es necesario disponer de asesores legales especializados en la materia. Pero, no es suficiente con cualquier especialista, es necesario uno que se mantenga informado de las futuras modificaciones que adoptará la Unión Europea.
Juan Ríos García, Departamento de privacidad.
- Nuevas obligaciones laborales para empresas: medidas para la igualdad LGTBI
- Actualización en las Normas ISO 27001, ISO 37001 e ISO 37301
- Análisis del Índice de Percepción de la Corrupción de 2023
- Autoridades independientes de protección al informante en España a enero de 2024
- Cumplimiento Normativo en España 2024: Pilares Fundamentales para el Éxito Empresarial