La IA Act surgió al calor de una gran preocupación sobre nuestro futuro debido a la disrupción de la I.A. generativa. No acostumbra a ser una buena cosa legislar precipitadamente sobre un futuro que fundamentalmente desconocemos desde una perspectiva altamente ideológica.
Es más, este es un futuro que se está construyendo y se está construyendo en base a una fiera competencia entre bloques, lo que hace aún más complicado trazar sus aplicaciones y los límites de aplicación de la tecnología.
La tecnología no es un elemento neutro, se construye a partir de los usos creados por la sociedad. Sociedades diferentes tienen usos diferentes con valores diferentes. Si una sociedad carece de la soberanía tecnológica para participar en la construcción de esa tecnología, solo podrá adoptar la que se haya construido por otros, con la ideología y las voluntades de otros.
El gran problema de Europa no es la protección de derechos, es la falta de capacidad de innovar y competir en un espacio global, lo que se ha venido en llamar la “European Paradox”. La atención de las personas y las sociedades es limitada, focalizarla en los derechos resta capacidad para focalizarla en la innovación que es lo que Europa necesita con urgencia.
Sería importante que Europa se focalizase en sus problemas en vez de diluirlos con políticas que buscan afianzar aún más fortalezas existentes a costa de incrementar los problemas de competitividad.
Es algo ingenuo pensar que la regulación es todopoderosa y va a proteger al ciudadano. Si el buscador dominante es Google, va a ser difícil que con regulación cambies su forma de proceder. Si es Baidu, no habrá regulación que haga que ese buscador indique que Tiananmen fue una matanza.
La regulación tiene límites y normalmente cercanos. Solo la soberanía tecnológica, tener alternativas y participar en la construcción de la tecnología de una forma activa puede asegurar que nuestro punto de vista esté representado.
La IA Act es una regulación moderna que depende en buena medida de la implementación que realice una agencia que aún está por crear.
Pero como toda regulación podemos poner multas, hacer que determinadas funcionalidades no estén disponibles, etc … podemos restar a los productos existentes, pero no hay regulación en el mundo que permita crear los productos que necesitas con tu forma de pensar.
La regulación es un instrumento de diseño de mercados pero siempre muy limitado. Lo estamos viendo en leyes como la de la vivienda. Legislar que los españoles tienen derecho a una vivienda digna no crea viviendas, limitar los precios en un mercado estrecho como el del alquiler solo logra empantanarlo pero no los baja sustancialmente porque es incapaz de solucionar el problema de oferta. La legislación es un instrumento muy limitado.
Depende de la clasificación de riesgo, privacidad de la información usada y consecuencias. En principio la recomendación en si, de películas, libros, etc … está clasificada como bajo riesgo.
En muchos casos es imposible de distinguir.
Por supuesto, especialmente la I.A. generativa porque es altamente persuasiva.
Si pudiesemos asegurar qeu se cumpliese la norma, hasta cierto punto sí. Pero debemos tener en cuenta que muchas características están correlacionadas y por lo tanto se pueden inferir a partir de otras.
La IA Act debe trasponerse en cada estado y al ser una norma de rango superior, modificar aquellas que entren en conflicto.
Dependerá del caso, pero en el extremo no se podrá usar en Europa.
La IA Act requiere que todo aquello generado por la IA tenga marcas de agua, algo dificilmente conseguible.
La identificación biométrica pública no está permitida, solo en organizaciones concretas o bajo autorización de un juez