Noticias: la UE aplica restricciones a la IA

Administrator febrero 2, 2025 5 min de lectura

Madrid.-La Unión Europea (UE) comienza a hacer cumplir las primeras restricciones de su ley de Inteligencia Artificial (IA).

Esta noticia marca un hito en la regulación de la tecnología, ya que busca proteger a ciudadanos y trabajadores frente a posibles usos abusivos.

Entre las novedades, se prohíbe el empleo de sistemas capaces de manipular de forma subliminal o de monitorear las emociones de los empleados, por ejemplo, para evaluar su motivación.

¿Qué implican estas nuevas restricciones?

A partir de ahora, las empresas dentro del territorio europeo deberán cumplir con una serie de normas que buscan mitigar los riesgos de la IA. La ley de IA de la UE prohíbe específicamente:

• Influir en el comportamiento de las personas sin su consentimiento, de manera subliminal.
• Detectar o analizar las emociones de los trabajadores, como su grado de motivación.
• Puntuar socialmente a la ciudadanía (sistema de scoring social), una práctica que se considera invasiva.
• Realizar reconocimiento facial en tiempo real, excepto en casos muy puntuales justificados por motivos de seguridad.

Fines y sanciones

La finalidad principal de la normativa es proteger la privacidad y la autonomía de las personas. Las empresas que infrinjan estas disposiciones pueden enfrentar multas de hasta un 7% de su facturación o 35 millones de euros (la cifra exacta depende de la naturaleza de la infracción y el tamaño de la compañía).

Un entorno global competitivo

Mientras la UE afina su marco regulatorio, la guerra entre Estados Unidos y China por la supremacía en Inteligencia Artificial se intensifica. Hasta hace poco, el liderazgo en el desarrollo de IA generativa parecía concentrado en EE.UU., con ejemplos populares como ChatGPT.

Sin embargo, la empresa china que impulsa DeepSeek acaba de dar un paso decisivo al presentar mejoras que, según algunos expertos, colocan su tecnología a la par de los productos de OpenAI.

Ventajas y retos de DeepSeek

• Costes más bajos: Se dice que DeepSeek podría operar con un presupuesto menor al de ChatGPT, haciéndola atractiva para sectores industriales.
• Expansión acelerada: El mercado chino ha mostrado interés en acelerar la adopción de estas herramientas, con el respaldo de grandes inversores.
• Oportunidades y riesgos: Un mayor número de competidores estimula la innovación, pero también aumenta las probabilidades de que se presenten usos inadecuados de la IA.

Perspectiva europea

La UE ha optado por un enfoque pionero, buscando que el desarrollo de la IA se lleve a cabo con límites claros. Aunque algunos críticos temen que esta regulación pueda ralentizar la innovación, muchos expertos coinciden en que una IA más transparente y segura no tiene por qué frenar el avance tecnológico.

Aplicación progresiva

El reglamento europeo se implementará gradualmente. Desde el 2 de febrero, entran en vigor los sistemas de “riesgo prohibido”.

• Sistemas de alto riesgo: Incluyen herramientas que podrían manipular la voluntad de las personas o recabar datos biométricos en tiempo real.
• Protección al trabajador: Especial atención al ámbito laboral para evitar el uso de IA en la evaluación de emociones o comportamientos.
• Foco en la formación: Se exigirá a empresas y organismos una capacitación adecuada en el uso responsable de la IA.

Hacia una IA más ética

Una de las claves de esta ley es garantizar que la tecnología respete la dignidad y los derechos de las personas. Por ello, se promueve la creación de sistemas de IA:

1. Explicables: Que permitan a los usuarios entender, al menos de forma general, cómo se toman las decisiones.
2. Confiables: Basados en datos de calidad y supervisión humana cuando sea pertinente.
3. No discriminatorios: Capaces de evitar sesgos, especialmente en sectores sensibles como la contratación laboral o el acceso a servicios financieros.

Implicaciones para las empresas

Las compañías que deseen comercializar o utilizar sistemas de IA en la UE deberán:

• Alinear sus herramientas con los criterios establecidos en la ley.
• Transparencia: Informar a usuarios y trabajadores cuando se usen soluciones de IA que recojan datos sensibles.
• Gestión de riesgos: Implementar controles de calidad y auditorías internas para asegurar el cumplimiento.
• Formación continua: Capacitar a sus empleados en las buenas prácticas y límites de la IA.

Esta noticia refleja un momento crucial para la regulación de la Inteligencia Artificial. La Unión Europea abre el camino con una normativa que busca equilibrar la innovación y la protección de los ciudadanos. Mientras tanto, la competencia entre EE.UU. y China —con ChatGPT y DeepSeek como protagonistas— demuestra que la carrera por liderar el desarrollo de la IA está lejos de terminar.

Para los usuarios, estas noticias suponen la esperanza de contar con herramientas tecnológicas que se rijan por principios éticos y transparentes. Para las empresas, es un llamado a adaptar sus sistemas y a formar a sus profesionales de manera que la IA se utilice de forma responsable y beneficiosa para toda la sociedad.