Reacción a "Reacciones: acuerdo de las instituciones europeas sobre la ley de inteligencia artificial"

¿Qué cambios más importantes podrían afectar a las empresas y a la investigación? 

“Creo que el principal impacto es que van a tener que limitar el uso de la IA en los sistemas de toma de decisiones basados en datos personales que incluyen los perfilados por comportamiento o emoción, así como la incorporación de un análisis de riesgos previo a poner en producción determinados modelos en atención a su criticidad”. 

¿Qué podría cambiar para los usuarios? 

“Visto desde el lado del usuario, se debería limitar el uso de sus datos para el perfilado a través de sistemas de IA o algoritmos orientados a modelos de éxitos que carecen de transparencia y explicabilidad. De hecho, el acuerdo político sobre la IA Act coincide con una sentencia del Tribunal de Justicia de la UE que declara ilícito el sistema de scoring de crédito alemán usado por la banca y entidades de crédito por tratarse de un sistema completamente automatizado que incumple el RGPD”. 

La Unión Europea se quiere posicionar como líder para guiar el desarrollo de la IA en el mundo. ¿Son realistas estas ambiciones? ¿Cómo ayudará esta ley a cumplirlas?   

“Europa lleva años queriendo posicionarse como referente moral de la tecnología poniendo al ser humano en el centro a través de la aprobación de varias normas como el RGPD, DSA o DMA, pero olvida los problemas de regular y sancionar a empresas que operan desde fuera de la UE. Es cierto que el Reglamento prevé un sistema de sanciones pero, en el día a día, los usuarios se encuentran bastante perdidos en cuanto a infracciones personales y concretas.  

Debemos plantearnos si la mejor manera de proteger la democracia es sancionar empresas que incluyen en su análisis de riesgos operativos las sanciones posibles y deciden que les compensan, o potenciar el desarrollo de herramientas competitivas en Europa que cumplan nuestros estándares regulatorios. Mientras esto no ocurra, seremos una colonia de EEUU que acabará arrasando nuestra regulación o integrándola, como digo, como otro coste más.  

Por lo demás, los riesgos de las IAs fundacionales, que son enormes por su penetración y potencia, no se han solventado en esta regulación”. 

La IA se desarrolla muy rápido, mientras que el trabajo legislativo es más lento. ¿Esta ley podrá tener un impacto rápido y duradero?  

“Ningún reglamento funciona ya sin actos de implantación y estandarización técnica. Es en esos detalles donde está el diablo de cualquier regulación y donde hay que dar la batalla.  

En todo caso, el reglamento regula realidades que ya hoy están obsoletas o se podían gestionar con regulación ya aprobada. Está pensada para desarrollos empresariales o estatales, pero deja escapar la IA generativa de consumo que es, en realidad, el gran reto que tenemos por delante”.