Europa traza sus "líneas rojas" para la Inteligencia Artificial: ¿Cómo afecta a Chile?
Ocho restricciones clave buscan evitar abusos en el uso de IA. Expertos debaten su impacto en la regulación chilena.
En una entrevista con Paislobo Prensa, Bruno Villalobos, presidente de la Asociación Chilena de Inteligencia Artificial para el Desarrollo Sostenible, analizó la reciente regulación europea que establece ocho prohibiciones fundamentales en el desarrollo de la IA. Estas medidas buscan prevenir riesgos asociados al uso indebido de la tecnología, desde la discriminación hasta la vigilancia masiva.
Villalobos explicó que la Unión Europea (UE) ha tomado la delantera en normativas digitales, marcando un camino distinto al de potencias como China y Estados Unidos. "Europa ya había dado el primer paso con el Reglamento General de Protección de Datos (GDPR) en 2018, y ahora con la ley de IA, establece prohibiciones que buscan proteger la autonomía y privacidad de los ciudadanos", afirmó.
La legislación europea prohíbe expresamente el desarrollo de ciertos sistemas de inteligencia artificial por considerarlos riesgosos para los derechos humanos. Estas son las restricciones clave:
1️⃣ Calificación social: Sistemas que asignan puntajes a las personas según su comportamiento o estatus socioeconómico, como el crédito social chino.
2️⃣ Predicción delictual basada en perfiles: Algoritmos que estiman el riesgo de que alguien cometa un delito solo en base a datos personales como edad, etnia o género.
3️⃣ Reconocimiento facial sin consentimiento: Tecnologías que recopilan imágenes faciales sin autorización, como Clearview AI, que ha sido utilizado por fuerzas policiales sin el permiso de los ciudadanos.
4️⃣ Análisis de emociones en el trabajo y educación: IA que evalúa expresiones faciales o gestos para medir el rendimiento laboral o académico, lo que podría generar sesgos en contrataciones o calificaciones.
5️⃣ Categorización biométrica para inferir información sensible: Algoritmos que analizan huellas, iris o ADN para deducir características personales como orientación sexual o creencias religiosas.
6️⃣ Explotación de vulnerabilidades de grupos sensibles: Sistemas diseñados para manipular personas con discapacidades, ancianos o niños, por ejemplo, induciéndolos al consumo de productos a través de la IA.
7️⃣ Manipulación del comportamiento con daño físico o psicológico: Algoritmos que fomentan adicciones o influyen negativamente en la salud mental mediante publicidad subliminal o mecanismos de enganche en redes sociales.
8️⃣ Vigilancia masiva con identificación biométrica en espacios públicos: Cámaras con reconocimiento facial que rastrean a las personas en tiempo real, eliminando su anonimato.
En comparación con Europa, Chile aún no cuenta con una legislación específica para la IA, aunque existen iniciativas en desarrollo. Villalobos explicó que el país tiene la oportunidad de aprender de la regulación europea y adaptarla a su realidad.
"Estamos en una etapa inicial de discusión sobre la Ley de Inteligencia Artificial en Chile. Podemos tomar lo mejor de la UE, EE.UU. y China para crear un marco regulatorio que se ajuste a nuestro contexto", señaló.
A nivel global, la competencia entre Estados Unidos y China por el liderazgo en IA ha generado distintos enfoques regulatorios. Mientras la UE prioriza la privacidad y la ética, China implementa un control más estricto, incluso obligando a etiquetar contenido generado por IA.
Villalobos enfatizó la importancia de la educación en inteligencia artificial para evitar su mal uso y fomentar su desarrollo responsable. "En el futuro, habrá dos tipos de personas: las que usan la IA como una herramienta para mejorar su trabajo y las que se niegan a adaptarse. Por eso es clave capacitarse", afirmó.
En este sentido, la Asociación Chilena de Inteligencia Artificial lanzará próximamente cursos gratuitos de formación en IA, con el objetivo de democratizar el acceso a esta tecnología y promover un desarrollo sostenible.
🔹 ¿Qué es la calificación social?
Es un sistema de puntuación basado en el comportamiento y características de una persona. En China, por ejemplo, el crédito social puede determinar si un ciudadano tiene acceso a ciertos servicios o restricciones en su vida cotidiana.
🔹 ¿Cómo funciona el reconocimiento facial sin consentimiento?
Empresas como Clearview AI han recopilado miles de millones de imágenes de redes sociales sin permiso para construir bases de datos de reconocimiento facial, utilizadas por organismos de seguridad.
🔹 ¿Qué es la inteligencia artificial general (AGI)?
Es el nivel más avanzado de IA, donde un sistema tiene capacidades cognitivas similares a las de un ser humano, pudiendo razonar, aprender y adaptarse sin intervención humana. Aún no se ha alcanzado este nivel.
Fuente información: Rocío Gambra
En una entrevista con Paislobo Prensa, Bruno Villalobos, presidente de la Asociación Chilena de Inteligencia Artificial para el Desarrollo Sostenible, analizó la reciente regulación europea que establece ocho prohibiciones fundamentales en el desarrollo de la IA. Estas medidas buscan prevenir riesgos asociados al uso indebido de la tecnología, desde la discriminación hasta la vigilancia masiva.
Villalobos explicó que la Unión Europea (UE) ha tomado la delantera en normativas digitales, marcando un camino distinto al de potencias como China y Estados Unidos. "Europa ya había dado el primer paso con el Reglamento General de Protección de Datos (GDPR) en 2018, y ahora con la ley de IA, establece prohibiciones que buscan proteger la autonomía y privacidad de los ciudadanos", afirmó.
Las ocho prohibiciones de la IA en Europa
La legislación europea prohíbe expresamente el desarrollo de ciertos sistemas de inteligencia artificial por considerarlos riesgosos para los derechos humanos. Estas son las restricciones clave:
1️⃣ Calificación social: Sistemas que asignan puntajes a las personas según su comportamiento o estatus socioeconómico, como el crédito social chino.
2️⃣ Predicción delictual basada en perfiles: Algoritmos que estiman el riesgo de que alguien cometa un delito solo en base a datos personales como edad, etnia o género.
3️⃣ Reconocimiento facial sin consentimiento: Tecnologías que recopilan imágenes faciales sin autorización, como Clearview AI, que ha sido utilizado por fuerzas policiales sin el permiso de los ciudadanos.
4️⃣ Análisis de emociones en el trabajo y educación: IA que evalúa expresiones faciales o gestos para medir el rendimiento laboral o académico, lo que podría generar sesgos en contrataciones o calificaciones.
5️⃣ Categorización biométrica para inferir información sensible: Algoritmos que analizan huellas, iris o ADN para deducir características personales como orientación sexual o creencias religiosas.
6️⃣ Explotación de vulnerabilidades de grupos sensibles: Sistemas diseñados para manipular personas con discapacidades, ancianos o niños, por ejemplo, induciéndolos al consumo de productos a través de la IA.
7️⃣ Manipulación del comportamiento con daño físico o psicológico: Algoritmos que fomentan adicciones o influyen negativamente en la salud mental mediante publicidad subliminal o mecanismos de enganche en redes sociales.
8️⃣ Vigilancia masiva con identificación biométrica en espacios públicos: Cámaras con reconocimiento facial que rastrean a las personas en tiempo real, eliminando su anonimato.
Chile y la regulación de la IA: ¿Dónde estamos?
En comparación con Europa, Chile aún no cuenta con una legislación específica para la IA, aunque existen iniciativas en desarrollo. Villalobos explicó que el país tiene la oportunidad de aprender de la regulación europea y adaptarla a su realidad.
"Estamos en una etapa inicial de discusión sobre la Ley de Inteligencia Artificial en Chile. Podemos tomar lo mejor de la UE, EE.UU. y China para crear un marco regulatorio que se ajuste a nuestro contexto", señaló.
A nivel global, la competencia entre Estados Unidos y China por el liderazgo en IA ha generado distintos enfoques regulatorios. Mientras la UE prioriza la privacidad y la ética, China implementa un control más estricto, incluso obligando a etiquetar contenido generado por IA.
¿Cómo aprovechar la IA sin riesgos?
Villalobos enfatizó la importancia de la educación en inteligencia artificial para evitar su mal uso y fomentar su desarrollo responsable. "En el futuro, habrá dos tipos de personas: las que usan la IA como una herramienta para mejorar su trabajo y las que se niegan a adaptarse. Por eso es clave capacitarse", afirmó.
En este sentido, la Asociación Chilena de Inteligencia Artificial lanzará próximamente cursos gratuitos de formación en IA, con el objetivo de democratizar el acceso a esta tecnología y promover un desarrollo sostenible.
Para entender mejor
🔹 ¿Qué es la calificación social?
Es un sistema de puntuación basado en el comportamiento y características de una persona. En China, por ejemplo, el crédito social puede determinar si un ciudadano tiene acceso a ciertos servicios o restricciones en su vida cotidiana.
🔹 ¿Cómo funciona el reconocimiento facial sin consentimiento?
Empresas como Clearview AI han recopilado miles de millones de imágenes de redes sociales sin permiso para construir bases de datos de reconocimiento facial, utilizadas por organismos de seguridad.
🔹 ¿Qué es la inteligencia artificial general (AGI)?
Es el nivel más avanzado de IA, donde un sistema tiene capacidades cognitivas similares a las de un ser humano, pudiendo razonar, aprender y adaptarse sin intervención humana. Aún no se ha alcanzado este nivel.
Fuente información: Rocío Gambra
