El Parlamento Europeo vota una ley ‘histórica’ sobre inteligencia artificial sin resolver problemas clave | Tecnología

Medios relacionados – Noticias de última hora

Este miércoles se vota en la Eurocámara el Reglamento europeo sobre Inteligencia Artificial (IA), acordado el 8 de diciembre por la Comisión, el Consejo y el Parlamento Europeo durante una maratónica sesión de negociación de 38 horas, la más larga de la historia de la humanidad. UE. El borrador final de la legislatura, que no se produjo hasta esta semana, concluyó que podría entrar en vigor en diciembre, cuando se establezca el fallo provisional, que también requería la ratificación final de los estados miembros antes de poder hacerlo. entrar en vigencia. Fuerza: el reglamento marca el camino de lo que se puede y lo que no se puede hacer, pero no concretamente como si debieran resolver cuestiones claves, como la defensa de los derechos de autor.

La legislación se considera la primera regulación sobre la IA que protege las libertades y los derechos básicos (China puede marchar con su propia ley en el pasado). En el último debate antes de la votación, el comisario del Mercado Interior, Thierry Breton, iniciador de la legislatura, defendió los martillos de Estrasburgo como «la primera regulación equilibrada de la IA en el mundo destinada a proteger los excesos del mal uso». de la IA, pero promoviendo la innovación al mismo tiempo”. La legislación, que el bretón insistió en pedir consejo al alcalde de la Eurocámara, suponía un “compromiso histórico que resiste la prueba del tiempo”.

El reglamento establece requisitos y obligaciones separados para las aplicaciones de IA en función de los riesgos involucrados. La mayoría de las amenazas, como los filtros de spam o los detectores de texto duplicado, se pueden utilizar sin restricciones. Este es el sistema de llamadas de riesgo limitado y el único requisito que se impone a los proveedores es informar a los usuarios que están manejando una herramienta de IA.

La estrategia comercial es determinar qué riesgos son inaceptables y, por tanto, están totalmente prohibidos; y esto es muy riesgoso, esto implica una supervisión permanente. Entrando en la primera categoría de sistemas «que transmiten la conciencia de una persona o técnicas deliberadamente manipuladoras», los que explotan sus vulnerabilidades o los que inflaman las emociones, raspan las opiniones políticas de las personas.

Las listas enumeradas en el epígrafe anterior ponen en peligro los sistemas de identificación biométrica remota, que un amplio sector del Parlamento exigirá que se prohíban definitivamente, los sistemas de categorización biométrica o el reconocimiento de emociones. También sistemas que afectan a la seguridad de infraestructuras críticas y a las relaciones con la educación (evaluación del comportamiento, sistemas de admisión y exámenes), el trabajo (selección de personal) y la prestación de servicios públicos esenciales, la aplicación de la ley o de gestión migratoria.

El documento de 460 páginas no incorpora sorpresas significativas, pero aún no aborda la vaguedad que ha ocurrido en algunos de los casos más delicados de la legislación. “Es una regulación muy bien implementada. Como experto jurídico, necesito más aclaraciones. Hay definiciones muy ambivalentes, algunas de ellas son coherentes con otras normativas”, afirma Lorena Jaume-Palasí, experta en ética y filosofía del derecho aplicada a la tecnología y consultora del Parlamento Europeo en temas relacionados con la IA. «Si es así, como pasó con el Reglamento General de Protección de Datos (RGPD), necesitaremos jurisprudencia para saber qué metodología se va a implementar todo esto».

Identificación biométrica: en casos excepcionales

Uno de los temas más controvertidos, que culminaron en varias horas de negociaciones, es la regulación de los sistemas de identificación biométrica remota en tiempo real. Por ejemplo, entraré en esta categoría la extensa red de cámaras de reconocimiento facial repartidas por las grandes ciudades chinas y que te permitirán localizar cualquier cosa en cuestión de minutos. Los primeros errores de la regulación europea de la IA fueron muy restrictivos con esta tecnología.

En la última versión del documento, sin embargo, se establecen una serie de supuestos entre los que se pueden utilizar, siempre sin autorización judicial: “La búsqueda de determinadas víctimas de un delito, incluidas personas desaparecidas; daños determinados a la vida o seguridad física de personas naturales o daños con fines terroristas; y la ubicación o identificación de los autores o sospechosos [una lista de 32] infracciones penales».

Además, el texto final incluye una excepción a las excepciones: “En casos de urgencia debidamente justificada, es posible utilizar estos sistemas sin el registro en la base de datos de la UE, siempre que este registro se implemente sin demora. […] Mis Estados miembros notificarán estas normas a la Comisión más de 30 días después de su adopción.» Se dice que las autoridades pueden saltarse la legislación y hacerla cumplir, incluso si dicen que el uso del sistema ha sido inadecuado.

“Cuantas más excepciones tenga una prohibición, menos durará”, pág. Lo que estamos viendo es que estamos naturalizando las tecnologías que hablábamos”, opina Jaume-Palasí.

Durante el último debate en la Eurocámara, los principales responsables de negociar la legislación defienden, sin embargo, que la regulación de la IA es una herramienta que permitirá a los ciudadanos utilizar estas nuevas tecnologías sin vulnerar sus derechos fundamentales.

Comentarios del autor: protegidos, pero no implementados.

El resultado de otra disposición regulatoria que ha recibido mayor atención es cómo proteger los derechos de autor, consagrados en la UE a través de 13 directivas y dos reglamentos. En EE UU hay una serie de peticiones colectivas interpuestas contra grandes plataformas para utilizar, sin permiso, creaciones particulares para introducir modelos de IA; el resultado de estos procesos puede marcar el futuro de la IA generativa (aquella que genera textos, imágenes, vídeos o música a partir de las instrucciones proporcionadas por el usuario).

El Reglamento Europeo sobre IA repite ampliamente en su artículo que todos los sistemas deben garantizar el cumplimiento de los derechos de autor, pero no dice cómo, más que será responsabilidad de la Oficina de IA, el organismo que supervisará el cumplimiento de los derechos. del autor. regulaciones. Según Breton, intentará funcionar lo antes posible una vez que el reglamento entre en vigor y contará con “el talento necesario para aplicar la implementación de la ley y servir como un centro global de experiencia en IA”.

En cuanto a los derechos de autor de los contenidos utilizados para aprender los algoritmos ya en funcionamiento, “la regulación es suficiente para garantizar y garantizar mucha seguridad jurídica a los ciudadanos. Más que una marca legal es una declaración de principios y valores democráticos”, afirma Iban García del Blanco, eurodiputado socialista y negociador de la ley de IA. ”En algunos casos, la Comisión tendrá que desarrollar más de 20 actos derivados de estas disposiciones para implementarlas concretamente. Por ejemplo, en el área de derechos de autor: desarrollar un conjunto de propuestas de modelos para que las empresas se separen en lo que sentimos que necesitamos para hacer esas declaraciones de transparencia sobre el contenido que utilizan en los modelos de aprendizaje”, explica.

Esto no impide, dice García del Blanco, que tenga una serie de preocupaciones en el futuro y que se estén estableciendo criterios a través de la jurisprudencia. Jaume-Palas recuerda que esto es lo que ocurrió con el reglamento de protección de datos: “Los primeros errores se siguen produciendo ahora, cinco años después de su entrada en vigor”.

Noticias de interés – Medios digitales

You may also like...