La Unión Europea tiene una propuesta de ley de IA (Inteligencia Artificial). Es la primera del mundo para regular su uso dentro de su mercado. El marco regulador establece medidas de seguridad, transparencia, trazabilidad, no discriminación y respeto por el medio ambiente en el uso de la IA. Desde CE Consulting entramos en detalle de todo este asunto para que no te quedes con dudas.
La propuesta de ley de IA se basa en clasificación de riesgo
La propuesta de ley de IA establece que los sistemas de IA se clasifiquen según el riesgo que puedan suponer para los usuarios. El marco incluye cuatro niveles de riesgo: inaceptable, alto, limitado y mínimo.
Riesgo inaceptable
Los sistemas de IA considerados de riesgo inaceptable para la seguridad de las personas estarán prohibidos. Por ejemplo, aquellos basados en sesgos que discriminen a ciertos grupos de personas. O los sistemas que puedan causar daño físico a los usuarios, o los que propaguen información falsa o engañosa.
Riesgo alto
La IA considerada de alto riesgo incluye la tecnología de vehículos autónomos, dispositivos médicos y maquinaria de infraestructuras críticas. También los sistemas encargados de organizar la inmigración, asilo y el control fronterizo. En todo caso, estos sistemas serán sometidos a evaluaciones previas a su comercialización. Y, a lo largo de su ciclo de vida, se irán revisando. El objetivo es garantizar siempre su correcto funcionamiento.
Riesgo limitado
Los sistemas de IA considerados de riesgo limitado deben cumplir requisitos mínimos de transparencia que permitan a los usuarios tomar decisiones con conocimiento de causa. Por ejemplo, en los sistemas de automatización de tareas rutinarias. O en los sistemas de análisis de datos en campos como el marketing o la investigación científica.
Riesgo mínimo
Los sistemas de IA considerados de bajo riesgo no deberán cumplir con requisitos específicos de regulación, pero deberán cumplir con los requisitos generales de transparencia y no discriminación. Un sistema de IA considerado de riesgo mínimo podría ser el uso de chatbots utilizados para servicios de atención al cliente.
Con estas medidas, el Parlamento Europeo busca garantizar que los sistemas de IA utilizados en la UE sean seguros, transparentes, no discriminatorios y respetuosos con el medio ambiente.
Privacidad, desinformación y propiedad intelectual
La UE también ha introducido cambios en la propuesta de ley después del surgimiento de las IA generativas, como ChatGPT, y las preocupaciones por la desprotección de los usuarios ante cuestiones de privacidad, desinformación y propiedad intelectual de los materiales utilizados para el entrenamiento de estos modelos.
La propuesta de ley de IA de Europa afectarán a ChatGPT
Los modelos generativos como ChatGPT deberán marcar sus contenidos para que se sepa que han sido generados por una IA y diseñar sus sistemas para evitar que se generen contenidos ilegales. La propiedad intelectual de los materiales utilizados para el entrenamiento de los modelos fundacionales es un tema relevante, la única obligación que establece esta propuesta es la de la transparencia, pero no de una manera desproporcionada.
Aunque se introduce este requisito adicional de transparencia para los modelos generativos, será necesario una regulación más específica para la propiedad intelectual de los materiales utilizados para el entrenamiento de dichos modelos. Los modelos generativos utilizan grandes cantidades de datos para generar nuevas respuestas o contenido, y algunos de esos datos pueden estar sujetos a derechos de autor o propiedad intelectual. Por ejemplo, si un modelo generativo se entrena con una gran cantidad de fragmentos de una obra literaria protegida por derechos de autor, el uso de estos datos en la creación del modelo generativo podría considerarse una infracción de derechos de propiedad intelectual.
La propuesta de ley de IA prohíbe el uso intrusivo y discriminatorio
Entre las prácticas que estarán prohibidas en la Unión Europea se incluyen los sistemas de IA que desplieguen técnicas manipulativas. También aquellos que exploren vulnerabilidades de las personas o que sean utilizadas para usos intrusivos y discriminatorios. Por ejemplo, cuando el uso de sistemas de identificación biométrica a distancia en lugares públicos pueda generar un monitoreo generalizado e indiscriminado. Para ello, el reconocimiento facial, en tiempo real, en espacios de acceso público, tendrá algunas excepciones, como cuando sea para buscar a víctimas de un delito o la prevención de una amenaza específica inminente para la vida o la seguridad física de las personas.
Acuerdo previsto para final de año
El 14 de junio de 2023, los eurodiputados establecieron su postura negociadora sobre la Ley de Inteligencia Artificial y comenzaron las conversaciones con los países de la UE en el Consejo para definir la versión final de la ley. El objetivo es lograr un acuerdo antes de que finalice el año.
Las personas y las empresas debemos tener claridad de esta propuesta para saber cómo usar la IA. Si necesitas asesoramiento, contacta con nosotros a través del siguiente formulario.
