España: Se presenta en el Congreso una proposición de Ley Orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial

Silvia Pascua Vicente.

El 13 de octubre de 2023, se publicó en el Boletín Oficial de las Cortes Generales el texto de la “Proposición de Ley Orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial”, para la regulación del uso de técnicas para la recreación de imágenes y voces de personas a través del uso de la inteligencia artificial.

Como recoge la exposición de motivos, las deepfake o videos hiperrealistas son definidos como “piezas visuales, auditivas o audiovisuales que simulan la realidad y que consiguen generar falsas imágenes y/o voces de personas”, creadas a través de la inteligencia artificial o Machine Learning, dotándolas de una apariencia hiperrealista.

Continúa señalando la proposición de Ley Orgánica las iniciativas europeas a este respecto, como el informe emitido por el Parlamento Europeo y titulado “Tackling deepfakes in European policy” clasificando los riesgos asociados a la técnica del deepfakes. Por ello, como recoge el documento, es necesario una regulación para proteger la imagen personal, recordando que el Tribunal Europeo de Derechos Humanos en la sentencia Reklos and Davourlis v Greece señaló que el derecho a la propia imagen es “uno de los componentes esenciales del desarrollo personal y presupone el derecho a controlar el uso de esa propia imagen”. Así mismo, el art.8 del Convenio Europeo para la Protección de los Derechos Humanos y de las Libertades Fundamentales establece que “el derecho de la persona a la protección de su imagen constituye así uno de los requisitos esenciales de su propio desarrollo personal. Presupone principalmente el control de la persona sobre su imagen, que comprende concretamente la posibilidad para ésta de negarse a su divulgación”.

A continuación, señala que, en abril de 2021, la Comisión Europea presentó la primera propuesta de marco legal sobre inteligencia artificial “Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial”, que clasifican los productos elaborados con estas tecnologías en cuatro tipos distintos en función del riesgo que conllevan. En este sentido, la propuesta europea incluye obligaciones de transparencia, señalando que se debe notificar a las personas físicas que están interactuando con un sistema de inteligencia artificial.

Por su parte, el Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo, de 19 de octubre de 2022, relativo a un mercado único de servicios digitales y por el que se modifica la Directiva 2000/31/CE (Reglamento de Servicios Digitales) incluye en el art.35.1.k) los prestadores de plataforma en línea y motores de búsqueda en línea de gran tamaño deberán aplicar “medidas de reducción de riesgos razonables, proporcionadas y efectivas” que podrán incluir, cuando proceda, “la garantía de que un elemento de información, ya se trate de imagen, audio o vídeo generado o manipulado que se asemeja notablemente a personas, objetos, lugares u otras entidades o sucesos existentes y que puede inducir erróneamente a una persona a pensar que son auténticos o verídicos, se distinga mediante indicaciones destacadas cuando se presente en sus interfaces en línea y, además, proporcionar una funcionalidad fácil de utilizar que permita a los destinatarios del servicio señalar dicha información”.

Derivado y en base a lo anterior, la proposición de Ley Orgánica incluye la modificación de diferentes normas españolas. En primer lugar, se refiere a la Ley 13/2022, de 7 de julio, General de Comunicación Audiovisual, con el objeto delimitar las infracciones contra las personas, físicas o jurídicas, responsables de la utilización de la inteligencia artificial, cuando vulneren las condiciones que se establecen en la normativa.

Por otro lado, proponen la creación de un art.208 bis en el Código Penal, para clasificar como injuria la simulación de imágenes o voces de personas generadas por inteligencia artificial sin autorización y con ánimo de menoscabar el honor, fama, dignidad o la propia estimación de una persona. Así como una modificación del art.211 para la consideración de estas imágenes o voces artificiales difundidas a través de redes sociales como injurias hechas con publicidad.

Así mismo, el documento incluye modificaciones en la Ley 1/2022, de 7 de enero, de Enjuiciamiento Civil, en particular introduce en el art.727 medidas cautelares específicas para facilitar la retirada urgente de imágenes o audios generados con inteligencia artificial sin autorización; la Ley orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales; la Ley 3/1991, de 10 de enero, de Competencia Desleal, garantizar la mayor protección de consumidores y usuarios en las prácticas comerciales.

Finalmente, se insta a modificar la Ley Orgánica 5/1985, de 19 de junio, del Régimen Electoral General, para incluir un nuevo delito electoral (art.144 bis) con el objeto de sancionar las conductas, en el marco de un proceso electoral, de difusión de forma intencionada de imágenes o audios de las personas candidatas que estuviesen alterados o recreados mediante sistemas de inteligencia artificial.

Por último, el documento incluye dos disposiciones adicionales para la creación del Consejo de Participación Ciudadana para la supervisión y evaluación de la Inteligencia Artificial y el Consejo Consultivo sobre el uso de la Inteligencia Artificial.

Por último, como informó el Instituto Autor, en septiembre de 2023, se publicó en el Boletín Oficinal del Estado (BOE) el Real Decreto 729/2023, de 22 de agosto, por el que se aprueba el Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial (AESIA) como entidad encargada de la supervisión, asesoramiento, concienciación y formación a empresas públicas y privadas para la implementación de normativa adecuada sobre el uso de la Inteligencia Artificial.

 

Fuentes: Boletín Oficial de las Cortes Generales (Proposición de Ley Orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial), Instituto Autor (España: Se publica el Real Decreto 729/2023 por el que se aprueba el Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial; UE: Las comisiones del Parlamento Europeo publican las enmiendas al texto sobre la propuesta legislativa de regulación de la inteligencia artificial), BOE (Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo de 19 de octubre de 2022 relativo a un mercado único de servicios digitales y por el que se modifica la Directiva 2000/31/CE; Ley 13/2022, de 7 de julio, General de Comunicación Audiovisual; Ley 1/2000, de 7 de enero, de Enjuiciamiento Civil; Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales; Ley Orgánica 5/1985, de 19 de junio, del Régimen Electoral General), Parlamento Europeo (Tackling deepfakes in European policy), ECHR (Convenio Europeo de Derechos Humanos), EUR – Lex (Propuesta de reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión).