Propuesta de Reglamento de la UE sobre Inteligencia Artificial.
Tercera Parte
- Transparencia
5.1.- Objeto de Transparencia para determinados sistemas de IA.
Los proveedores se asegurarán de que los sistemas de IA destinados a interactuar con personas físicas se diseñen y desarrollen de manera que las personas físicas sean informadas de que están interactuando con un sistema de IA, a menos que esto sea obvio por las circunstancias y el contexto de uso.
Esta obligación no se aplicará a los sistemas de IA autorizados por la ley para detectar, prevenir, investigar y perseguir delitos, a menos que dichos sistemas estén disponibles para que el público denuncie un delito.
Los usuarios de un sistema de reconocimiento de emociones o de un sistema de categorización biométrica deberán informar del funcionamiento del sistema a las personas físicas expuestas al mismo. Esta obligación no se aplicará a los sistemas de IA utilizados para la categorización biométrica, que están permitidos por la ley para detectar, prevenir e investigar delitos.
Los usuarios de un sistema de IA que genere o manipule contenidos de imagen, audio o vídeo que se parezcan sensiblemente a personas, objetos, lugares u otras entidades o acontecimientos existentes y que a una persona le parezcan falsamente auténticos o veraces ("deep fake"), deberán revelar que el contenido ha sido generado o manipulado artificialmente.
No obstante, el primer párrafo no se aplicará cuando la utilización esté autorizada por la ley para detectar, prevenir, investigar y perseguir infracciones penales o sea necesaria para el ejercicio del derecho a la libertad de expresión y el derecho a la libertad de las artes y las ciencias garantizados en la Carta de los Derechos Fundamentales de la UE, y siempre que se garanticen adecuadamente los derechos y las libertades de terceros.
- Apoyo a la Innovación
6.1.- Medidas de Apoyo a la Innovación.
- Sand box:
Los espacios aislados (“Sand Box”)de regulación de la IA establecidos por una o más autoridades competentes de los Estados miembros o por el Supervisor Europeo de Protección de Datos proporcionarán un entorno controlado que facilite el desarrollo, la prueba y la validación de sistemas innovadores de IA durante un tiempo limitado antes de su comercialización o puesta en servicio con arreglo a un plan específico. Esto se llevará a cabo bajo la supervisión y orientación directas de las autoridades competentes con el fin de garantizar el cumplimiento de los requisitos del Reglamento de la IA y, en su caso, de otra legislación de la Unión y de los Estados miembros supervisada dentro del recinto de pruebas.
Los Estados miembros se asegurarán de que, en la medida en que los sistemas innovadores de IA impliquen el tratamiento de datos personales o entren en el ámbito de supervisión de otras autoridades nacionales o autoridades competentes que proporcionen o apoyen el acceso a los datos, las autoridades nacionales de protección de datos y esas otras autoridades nacionales están asociadas al funcionamiento del recinto de seguridad de la IA.
Los espacios aislados (“Sand Box”) de regulación de la IA no afectarán a los poderes de supervisión y corrección de las autoridades competentes. Cualquier riesgo significativo para la salud y la seguridad y los derechos fundamentales que se detecte durante el desarrollo y las pruebas de dichos sistemas dará lugar a una mitigación inmediata y, en su defecto, a la suspensión del proceso de desarrollo y pruebas hasta que se produzca dicha mitigación.
Los participantes en el recinto de pruebas de regulación de la IA (“Sand Box”) seguirán siendo responsables, con arreglo a la legislación de la Unión y de los Estados miembros en materia de responsabilidad, de cualquier daño infligido a terceros como resultado de la experimentación que tenga lugar en el recinto de pruebas.
- Tratamiento de datos personales:
En el "Sand Box" de la IA, los datos personales recogidos legalmente para otros fines se tratarán para desarrollar y probar determinados sistemas innovadores de IA en el "Sand Box" en las siguientes condiciones:
- los sistemas innovadores de IA se desarrollarán para salvaguardar el interés público sustancial en uno o varios de los siguientes ámbitos:
- la prevención, la investigación, la detección o el enjuiciamiento de delitos o la ejecución de sanciones penales, incluidas la protección y la prevención de amenazas a la seguridad pública, bajo el control y la responsabilidad de las autoridades competentes. El tratamiento se basará en el Derecho de los Estados miembros o de la Unión;
- la seguridad y la salud públicas, incluida la prevención, el control y el tratamiento de las enfermedades;
- un alto nivel de protección y mejora de la calidad del medio ambiente;
- los datos tratados son necesarios para el cumplimiento de uno o varios de los requisitos mencionados en el apartado 4.2. anterior, cuando dichos requisitos no puedan cumplirse eficazmente mediante el tratamiento de datos anónimos, sintéticos u otros datos no personales;
- existen mecanismos eficaces de supervisión para determinar si durante la experimentación del "Sand Box" puede surgir algún riesgo elevado para los derechos fundamentales de los interesados, así como un mecanismo de respuesta para mitigar rápidamente esos riesgos y, en caso necesario, detener el tratamiento;
- los datos personales que se traten en el contexto del “Sand Box” estén en un entorno de tratamiento de datos funcionalmente separado, aislado y protegido, bajo el control de los participantes, y sólo tengan acceso a ellos las personas autorizadas;
- que los datos personales tratados no sean transmitidos, transferidos o accedidos de otra manera por otras partes;
- cualquier tratamiento de datos personales en el contexto del recinto de seguridad no dé lugar a medidas o decisiones que afecten a los interesados;
- los datos personales tratados en el contexto del recinto de seguridad se eliminan una vez que la participación en el recinto de seguridad ha finalizado o los datos personales han llegado al final de su período de conservación;
- los registros del tratamiento de datos personales en el contexto del “Sand Box” se conservan durante la duración de la participación en el “Sand Box” y 1 año después de su finalización, únicamente con el fin de cumplir con las obligaciones de responsabilidad y documentación en virtud de este artículo o de otra legislación de la Unión o de los Estados miembros, y sólo mientras sea necesario;
- La descripción completa y detallada del proceso y de los fundamentos de la formación, las pruebas y la validación del sistema de IA se conserva, junto con los resultados de las pruebas, como parte de la documentación técnica;
- un breve resumen del proyecto de IA desarrollado en el “Sand Box”, sus objetivos y resultados esperados publicados en el sitio web de las autoridades competentes.
- Medidas para los pequeños proveedores y usuarios:
Los Estados miembros emprenderán las siguientes acciones:
- proporcionar a los pequeños proveedores y a las empresas de nueva creación un acceso prioritario a los espacios aislados de regulación (“Sand Box”) de la IA en la medida en que cumplan las condiciones de elegibilidad;
- organizar actividades específicas de sensibilización sobre la aplicación del Reglamento de IA adaptadas a las necesidades de los pequeños proveedores y usuarios;
- cuando proceda, establecer un canal de comunicación específico con los pequeños proveedores y usuarios y otros innovadores para proporcionar orientación y responder a las consultas sobre la aplicación del Reglamento de IA.
- Seguimiento posterior a la comercialización, intercambio de información, vigilancia del mercado.
7.1.- Seguimiento posterior a la comercialización.
Los proveedores establecerán y documentarán un sistema de seguimiento posterior a la comercialización de forma proporcional a la naturaleza de las tecnologías de inteligencia artificial y a los riesgos del sistema de IA de alto riesgo.
El sistema de seguimiento post comercialización recogerá, documentará y analizará de forma activa y sistemática los datos pertinentes proporcionados por los usuarios o recogidos a través de otras fuentes sobre el rendimiento de los sistemas de IA de alto riesgo a lo largo de su vida útil, y permitirá al proveedor evaluar la conformidad continua de los sistemas de IA con los requisitos establecidos en el Reglamento de IA
7.2.- Intercambio de información sobre incidentes y fallos de funcionamiento.
Los proveedores de sistemas de IA de alto riesgo introducidos en el mercado de la Unión Europea informarán a las autoridades de vigilancia del mercado de los Estados miembros en los que se haya producido el incidente o la infracción de las obligaciones derivadas de la legislación de la Unión Europea destinada a proteger los derechos fundamentales, de todo incidente grave o de todo mal funcionamiento de dichos sistemas.
Dicha notificación se realizará inmediatamente después de que el proveedor haya establecido una relación de causalidad entre el sistema de IA y el incidente o el mal funcionamiento o la probabilidad razonable de dicha relación y, en cualquier caso, a más tardar 15 días después de que los proveedores tengan conocimiento del incidente grave o del mal funcionamiento.
7.3.- Vigilancia y control de los sistemas de IA.
La autoridad nacional de supervisión informará periódicamente a la Comisión de los resultados de las actividades pertinentes de vigilancia del mercado. La autoridad nacional de supervisión comunicará sin demora a la Comisión y a las autoridades nacionales de competencia pertinentes cualquier información identificada en el curso de las actividades de vigilancia del mercado que pueda ser de interés potencial para la aplicación del Derecho de la Unión sobre las normas de competencia.
Para los sistemas de IA comercializados, puestos en servicio o utilizados por entidades financieras reguladas por la legislación de la Unión en materia de servicios financieros, la autoridad de vigilancia del mercado a efectos del presente Reglamento será la autoridad pertinente responsable de la supervisión financiera de dichas entidades con arreglo a dicha legislación.
Se concederá a las autoridades de vigilancia del mercado pleno acceso a los conjuntos de datos de formación, validación y ensayo utilizados por el proveedor, incluso a través de interfaces de programación de aplicaciones u otros medios técnicos y herramientas adecuados que permitan el acceso a distancia.
Las autoridades u organismos públicos nacionales que supervisen o hagan cumplir las obligaciones derivadas del Derecho de la Unión que protegen los derechos fundamentales en relación con el uso de los sistemas de IA de alto riesgo estarán facultados para solicitar y acceder a cualquier documentación creada o conservada en virtud del Reglamento de IA cuando el acceso a dicha documentación sea necesario para el cumplimiento de las competencias de su mandato dentro de los límites de su jurisdicción.
Cuando la documentación sea insuficiente para determinar si se ha producido un incumplimiento de las obligaciones derivadas del Derecho de la Unión destinadas a proteger los derechos fundamentales, la autoridad u organismo público podrá presentar una solicitud motivada a la autoridad de vigilancia del mercado para que organice la comprobación del sistema de IA de alto riesgo a través de medios técnicos. La autoridad de vigilancia del mercado organizará las pruebas con la estrecha participación de la autoridad u organismo público solicitante en un plazo razonable tras la solicitud.
Cuando, tras realizar una evaluación, la autoridad de vigilancia del mercado de un Estado miembro compruebe que, aunque un sistema de IA es conforme con el Reglamento de IA, presenta un riesgo para la salud o la seguridad de las personas, para el cumplimiento de las obligaciones derivadas del Derecho de la Unión o nacional destinadas a proteger los derechos fundamentales o para otros aspectos de la protección del interés público exigirá al operador correspondiente que adopte todas las medidas adecuadas para garantizar que el sistema de IA en cuestión, cuando se comercialice o se ponga en servicio, deje de presentar ese riesgo, para retirar el sistema de IA del mercado o para recuperarlo en un plazo razonable, proporcional a la naturaleza del riesgo, según prescriba.
El proveedor u otros operadores pertinentes velarán por que se adopten medidas correctoras en relación con todos los sistemas de IA afectados que hayan comercializado en toda la Unión dentro del plazo prescrito por la autoridad de vigilancia del mercado del Estado miembro.
El Estado miembro informará inmediatamente a la Comisión y a los demás Estados miembros
La Comisión consultará sin demora a los Estados miembros y al operador correspondiente y evaluará las medidas nacionales adoptadas.
Cuando la autoridad de vigilancia del mercado de un Estado miembro haga una de las siguientes constataciones, exigirá al proveedor correspondiente que ponga fin al incumplimiento en cuestión:
- el marcado de conformidad se ha colocado infringiendo el Reglamento IA;
- no se ha colocado el marcado de conformidad;
- no se ha elaborado la declaración de conformidad de la UE;
- la declaración de conformidad de la UE no se ha redactado correctamente;
- no se ha colocado el número de identificación del organismo notificado que participa en el procedimiento de evaluación de la conformidad, en su caso;
En caso de que persista el incumplimiento, el Estado miembro en cuestión adoptará todas las medidas adecuadas para restringir o prohibir la comercialización del sistema de IA de alto riesgo o garantizar su recuperación o retirada del mercado.
- Códigos de Conducta.
La Comisión y los Estados miembros fomentarán y facilitarán la elaboración de códigos de conducta destinados a fomentar la aplicación voluntaria a los sistemas de IA distintos de los sistemas de IA de alto riesgo de los requisitos establecidos en el Reglamento de IA sobre la base de especificaciones técnicas y soluciones que sean medios adecuados para garantizar el cumplimiento de dichos requisitos a la luz de la finalidad prevista de los sistemas.
La Comisión y el Consejo fomentarán y facilitarán la elaboración de códigos de conducta destinados a fomentar la aplicación voluntaria a los sistemas de IA de requisitos relacionados, por ejemplo, con la sostenibilidad medioambiental, la accesibilidad de las personas con discapacidad, la participación de las partes interesadas en el diseño y el desarrollo de los sistemas de IA y la diversidad de los equipos de desarrollo sobre la base de objetivos claros e indicadores clave de rendimiento para medir la consecución de dichos objetivos.
Los códigos de conducta pueden ser elaborados por proveedores individuales de sistemas de IA, por organizaciones que los representen o por ambos, incluso con la participación de los usuarios y de cualquier parte interesada y sus organizaciones representativas. Los códigos de conducta pueden abarcar uno o varios sistemas de IA, teniendo en cuenta la similitud de la finalidad de los sistemas en cuestión.
Las autoridades nacionales competentes y los organismos notificados que participen en la aplicación del presente Reglamento respetarán la confidencialidad de la información y los datos obtenidos en el desempeño de sus tareas y actividades, de manera que se protejan , en particular los derechos de propiedad intelectual, y la información comercial confidencial o los secretos comerciales de una persona física o jurídica; la aplicación efectiva del Reglamento de IA, en particular a efectos de inspecciones, investigaciones o auditorías; los intereses de la seguridad pública y nacional; y la integridad de los procedimientos penales o administrativos.
Sin perjuicio de lo dispuesto en el apartado 1, la información intercambiada de forma confidencial entre las autoridades nacionales competentes y entre las autoridades nacionales competentes y la Comisión no se divulgará sin consultar previamente a la autoridad nacional competente de origen y al usuario cuando los sistemas de IA de alto riesgo sean utilizados por las autoridades policiales, de inmigración o de asilo, cuando dicha divulgación pueda poner en peligro los intereses de la seguridad pública y nacional.
En cumplimiento de las condiciones establecidas en el Reglamento de IA, los Estados miembros establecerán el régimen de sanciones, incluidas las multas administrativas, aplicables a las infracciones del presente Reglamento y adoptarán todas las medidas necesarias para garantizar su correcta y eficaz aplicación.
Las sanciones previstas deberán ser eficaces, proporcionadas y disuasorias. Tendrán especialmente en cuenta los intereses de los pequeños proveedores y de la puesta en marcha y su viabilidad económica.
Las siguientes infracciones serán objeto de multas administrativas de hasta 30.000.000 de euros o, si el infractor es una empresa, de hasta el 6 % de su volumen de negocios anual total a nivel mundial correspondiente al ejercicio económico anterior, el que sea mayor.
El incumplimiento por parte del sistema de IA de cualquier requisito u obligación prevista en el presente Reglamento, se sancionará con multas administrativas de hasta 20 000 000 de euros o, si el infractor es una empresa, de hasta el 4 % de su volumen de negocios anual total en todo el mundo durante el ejercicio anterior, el que sea mayor.
El suministro de información incorrecta, incompleta o engañosa a los organismos notificados y a las autoridades nacionales competentes en respuesta a una solicitud será objeto de multas administrativas de hasta 10 000 000 EUR o, si el infractor es una empresa, de hasta el 2 % de su volumen de negocios anual total a nivel mundial correspondiente al ejercicio financiero anterior, si esta cifra es superior.
A la hora de decidir la cuantía de la multa administrativa en cada caso concreto, se tendrán en cuenta todas las circunstancias relevantes de la situación específica y se prestará la debida atención a lo siguiente
- la naturaleza, la gravedad y la duración de la infracción y de sus consecuencias;
- si otras autoridades de vigilancia del mercado ya han aplicado multas administrativas al mismo operador por la misma infracción.
- el tamaño y la cuota de mercado del operador que comete la infracción;
El Supervisor Europeo de Protección de Datos podrá imponer multas administrativas a las instituciones, agencias y organismos de la Unión que entren en el ámbito de aplicación del Reglamento de IA.
A la hora de decidir si se impone una multa administrativa y de decidir el importe de la misma en cada caso concreto, se tendrán en cuenta todas las circunstancias pertinentes de la situación específica y se prestará la debida atención a lo siguiente:
- la naturaleza, la gravedad y la duración de la infracción y de sus consecuencias;
- la cooperación con el Supervisor Europeo de Protección de Datos para remediar la infracción y mitigar los posibles efectos adversos de la misma, incluido el cumplimiento de cualquiera de las medidas previamente ordenadas por el Supervisor Europeo de Protección de Datos contra la institución, agencia u organismo de la Unión de que se trate en relación con el mismo asunto;
- cualquier infracción anterior similar cometida por la institución, agencia u organismo de la Unión Europea;
Las siguientes infracciones serán objeto de multas administrativas de hasta 500 000 euros:
- el incumplimiento de la prohibición de las prácticas de inteligencia artificial;
- el incumplimiento del sistema de IA de los requisitos establecidos en el artículo 10 de la propuesta de Reglamento.
El incumplimiento por parte del sistema de IA de cualquier requisito u obligación en virtud del presente Reglamento, distintos de los establecidos en los artículos 5 y 10 de la propuesta de Reglamento, estará sujeto a multas administrativas de hasta 250 000 euros.
Antes de adoptar decisiones en virtud del presente artículo, el Supervisor Europeo de Protección de Datos dará a la institución, agencia u organismo de la Unión objeto del procedimiento llevado a cabo por el Supervisor Europeo de Protección de Datos la oportunidad de ser oída en relación con la posible infracción.
El Supervisor Europeo de Protección de Datos basará sus decisiones únicamente en elementos y circunstancias sobre los que las partes interesadas hayan podido pronunciarse.
Los denunciantes, si los hay, serán asociados estrechamente al procedimiento.
Se respetarán plenamente los derechos de defensa de los interesados en el procedimiento. Tendrán derecho a acceder al expediente del Supervisor Europeo de Protección de Datos, sin perjuicio del interés legítimo de las personas o empresas en la protección de sus datos personales o secretos comerciales.
- Entrada en Vigor.
El Reglamento entrará en vigor el vigésimo día siguiente al de su publicación en el Diario Oficial de la Unión Europea.
El Reglamento se aplicará a partir de [24 meses después de la entrada en vigor del Reglamento].
ANEXO I
DEFINICIONES
A efectos de lo establecido en el Reglamento de IA se habrán de tener en cuenta las siguientes definiciones:
- "sistema de inteligencia artificial" (sistema de IA): software desarrollado con una o varias de las técnicas y enfoques enumerados en el anexo I del Reglamento, a definir, y que puede, para un conjunto determinado de objetivos definidos por el ser humano, generar resultados como contenidos, predicciones, recomendaciones o decisiones que influyen en los entornos con los que interactúan;
- "proveedor": una persona física o jurídica, autoridad pública, agencia u otro organismo que desarrolle un sistema de IA o que haga desarrollar un sistema de IA con el fin de comercializarlo o ponerlo en servicio bajo su propio nombre o marca, ya sea a cambio de una remuneración o de forma gratuita;
- “proveedor a pequeña escala": proveedor que es una micro o pequeña empresa;
- “usuario": cualquier persona física o jurídica, autoridad pública, organismo o cualquier otra entidad que utilice un sistema de IA bajo su autoridad, excepto cuando el sistema de IA se utilice en el curso de una actividad personal no profesional;
- “representante autorizado": toda persona física o jurídica establecida en la Unión Europea que haya recibido un mandato escrito de un proveedor de un sistema de IA para, respectivamente, cumplir y ejecutar en su nombre las obligaciones y procedimientos establecidos por el Reglamento de IA;
- "importador": toda persona física o jurídica establecida en la Unión Europea que comercialice o ponga en servicio un sistema de IA que lleve el nombre o la marca de una persona física o jurídica establecida fuera de la Unión Europea;
- “Distribuidor": cualquier persona física o jurídica de la cadena de suministro, distinta del proveedor o del importador, que pone a disposición un sistema de IA en el mercado de la Unión Europea sin afectar a sus propiedades;
- “operador": el proveedor, el usuario, el representante autorizado, el importador y el distribuidor;
- "comercialización": la primera puesta a disposición de un sistema de IA en el mercado de la Unión Europea;
- “puesta en el mercado": todo suministro de un sistema de IA para su distribución o uso en el mercado de la Unión Europea en el curso de una actividad comercial, ya sea a cambio de una remuneración o de forma gratuita;
- “puesta en servicio": el suministro de un sistema de IA para su primera utilización directamente al usuario o para su propio uso en el mercado de la Unión Europea para su finalidad prevista;
- “Finalidad prevista": el uso al que el proveedor destina un sistema de IA, incluidos el contexto y las condiciones específicas de uso, tal como se especifica en la información facilitada por el proveedor en las instrucciones de uso, los materiales de promoción o venta y las declaraciones, así como en la documentación técnica;
- “Uso indebido razonablemente previsible": el uso de un sistema de IA de forma no conforme con su finalidad prevista, pero que puede resultar de un comportamiento humano razonablemente previsible o de la interacción con otros sistemas;
- “Componente de seguridad de un producto o sistema": un componente de un producto o de un sistema que cumple una función de seguridad para dicho producto o sistema o cuyo fallo o mal funcionamiento pone en peligro la salud y la seguridad de las personas o los bienes;
- “instrucciones de uso": la información proporcionada por el proveedor para informar al usuario, en particular, sobre la finalidad prevista y el uso adecuado de un sistema de IA, incluido el entorno geográfico, conductual o funcional específico en el que se prevé utilizar el sistema de IA de alto riesgo;
- "Recuperación de un sistema de IA": cualquier medida destinada a lograr el retorno para el proveedor de un sistema de IA puesto a disposición de los usuarios;
- “retirada de un sistema de IA": cualquier medida destinada a impedir la distribución, exhibición y oferta de un sistema de IA;
- “Rendimiento de un sistema de IA": la capacidad de un sistema de IA para lograr su objetivo;
- “Autoridad notificante": la autoridad nacional responsable de establecer y aplicar los procedimientos necesarios para la evaluación, designación y notificación de los organismos de evaluación de la conformidad, así como de su seguimiento;
- “Evaluación de la conformidad": el proceso de verificar si se han cumplido los requisitos establecidos en el capítulo 2 del título III del Reglamento en relación con un sistema de IA;
- “Organismo de evaluación de la conformidad": un organismo que realiza actividades de evaluación de la conformidad de terceros, incluidos los ensayos, la certificación y la inspección;
- “Organismo notificado": un organismo de evaluación de la conformidad designado con arreglo al presente Reglamento y a otra legislación pertinente de armonización de la Unión Europeo;
- “Modificación sustancial": un cambio en el sistema de IA tras su comercialización o puesta en servicio que afecte a la conformidad del sistema de IA con los requisitos establecidos en el capítulo 2 del título III del presente Reglamento o que dé lugar a una modificación de la finalidad prevista para la que se ha evaluado el sistema de IA;
- “Marcado CE de conformidad" (marcado CE)”: un marcado por el que un proveedor indica que un sistema de IA es conforme a los requisitos establecidos en el título III, capítulo 2, del Reglamento;
- “Seguimiento posterior a la comercialización": todas las actividades realizadas por los proveedores de sistemas de IA para recoger y revisar de forma proactiva la experiencia adquirida con el uso de los sistemas de IA que comercializan o ponen en servicio, con el fin de identificar cualquier necesidad de aplicar inmediatamente las acciones correctivas o preventivas necesarias;
- "Autoridad de vigilancia del mercado": la autoridad nacional que realiza las actividades y adopta las medidas;
- "Norma armonizada": una norma europea;
- “Especificaciones comunes": un documento, distinto de una norma, que contiene soluciones técnicas que proporcionan un medio para cumplir determinados requisitos y obligaciones establecidos en el Reglamento;
- “Datos de entrenamiento": datos utilizados para entrenar un sistema de IA mediante el ajuste de sus parámetros aprendibles, incluidos los pesos de una red neuronal;
- "Datos de validación" los datos utilizados para proporcionar una evaluación del sistema de IA entrenado y para ajustar sus parámetros no aprendibles y su proceso de aprendizaje, entre otras cosas, con el fin de evitar el sobreajuste; mientras que el conjunto de datos de validación puede ser un conjunto de datos separado o parte del conjunto de datos de entrenamiento, ya sea como una división fija o variable;
- “Datos de prueba": los datos utilizados para proporcionar una evaluación independiente del sistema de IA entrenado y validado con el fin de confirmar el rendimiento esperado de dicho sistema antes de su comercialización o puesta en servicio;
- “Datos de entrada": los datos proporcionados a un sistema de IA o adquiridos directamente por éste, a partir de los cuales el sistema produce un resultado;
- “Datos biométricos": los datos personales resultantes de un tratamiento técnico específico relativo a las características físicas, fisiológicas o de comportamiento de una persona física, que permiten o confirman la identificación única de dicha persona física, como las imágenes faciales o los datos dactiloscópicos;
- “Sistema de reconocimiento de emociones": un sistema de IA destinado a identificar o inferir emociones o intenciones de personas físicas a partir de sus datos biométricos;
- “Sistema de categorización biométrica": un sistema de IA destinado a asignar a las personas físicas a categorías específicas, como el sexo, la edad, el color del pelo, el color de los ojos, los tatuajes, el origen étnico o la orientación sexual o política, sobre la base de sus datos biométricos;
- “Sistema de identificación biométrica a distancia": un sistema de IA destinado a identificar personas físicas a distancia mediante la comparación de los datos biométricos de una persona con los datos biométricos contenidos en una base de datos de referencia, y sin que el usuario del sistema de IA sepa previamente si la persona estará presente y podrá ser identificada;
- "Sistema de identificación biométrica a distancia en tiempo real" se entiende un sistema de identificación biométrica a distancia en el que la captación de datos biométricos, la comparación y la identificación se producen sin un retraso significativo. Esto comprende no sólo la identificación instantánea, sino también breves retrasos limitados para evitar la elusión.
- Sistema de identificación biométrica a distancia "posterior": sistema de identificación biométrica a distancia distinto de un sistema de identificación biométrica a distancia "en tiempo real";
- “Espacio de acceso público": cualquier lugar físico accesible al público, independientemente de que se apliquen determinadas condiciones de acceso;
- "Autoridad policial" significa:
- cualquier autoridad pública competente en materia de prevención, investigación, detección o enjuiciamiento de delitos o de ejecución de sanciones penales, incluida la salvaguardia y la prevención de amenazas a la seguridad pública; o
- cualquier otro organismo o entidad al que el Derecho de los Estados Miembros haya encomendado el ejercicio de la autoridad pública y de los poderes públicos a efectos de la prevención, investigación, detección o persecución de delitos o de la ejecución de sanciones penales, incluidas la salvaguardia y la prevención de las amenazas a la seguridad pública;
- “Aplicación de la ley": las actividades llevadas a cabo por las autoridades policiales y judiciales para la prevención, la investigación, la detección o el enjuiciamiento de delitos o la ejecución de sanciones penales, incluida la salvaguardia y la prevención de las amenazas a la seguridad pública;
- “Autoridad nacional de supervisión": la autoridad a la que un Estado miembro asigna la responsabilidad de ejecutar y aplicar el presente Reglamento, de coordinar las actividades encomendadas a dicho Estado miembro, de actuar como punto de contacto único para la Comisión y de representar al Estado miembro en el Consejo Europeo de Inteligencia Artificial;
- “Autoridad nacional competente": la autoridad nacional de supervisión, la autoridad de notificación y la autoridad de vigilancia del mercado;
- “Incidente grave": cualquier incidente que directa o indirectamente conduzca, pueda haber conducido o pueda dar lugar a alguno de los siguientes hechos: (i) la muerte de una persona o un daño grave a la salud de una persona, a la propiedad o al medio ambiente, o (ii) una interrupción grave e irreversible de la gestión y el funcionamiento de las infraestructuras críticas.
