AI Act: nueva normativa de la UE exige competencias en IA

3 min de lectura

Quien trabaja con IA debe contar, desde el 2 de febrero de 2025, con las competencias correspondientes en IA y conocer los riesgos. A este sencillo denominador común se puede reducir el Reglamento de IA de la UE.

Desde la planificación hasta la entrada en vigor oficial y la aplicación y ejecución nacional de las leyes y reglamentos de la UE suelen pasar años, como ocurrió con el RGPD. Y así sucede también con el Reglamento de IA, que está en vigor desde agosto de 2024, pero que solo a partir del 2 de febrero de 2025 obligará a empresas y administraciones a garantizar que el personal que trabaja con IA disponga también de los conocimientos correspondientes. La implementación en los distintos Estados miembros aún está pendiente.

Por eso, las empresas afectadas en Alemania no tienen por qué caer de inmediato en el pánico ni en un activismo desordenado. Porque todavía no existe una ley nacional de ejecución ni tampoco un punto de contacto nacional, cita la guía de MDR a la Agencia Federal de Redes alemana sobre este tema.

Mejor informarse y pedir asesoramiento con antelación

Sin embargo, es razonable y, en determinados casos, incluso necesario que las empresas busquen asesoramiento e información con tiempo. Para ello pueden dirigirse a proveedores de servicios informáticos locales o supraregionales, a asociaciones como Bitkom o a los centros de la red Mittelstand-Digital, que en parte responden gratuitamente a preguntas sobre el nuevo Reglamento de IA.

En concreto, el Reglamento de la UE 2024/1689 establece: „Los proveedores y responsables del despliegue de sistemas de IA adoptarán medidas para garantizar, en la mayor medida posible, que su personal y otras personas que se ocupen en su nombre del funcionamiento y uso de sistemas de IA dispongan de un nivel suficiente de alfabetización en materia de IA, teniendo en cuenta sus conocimientos técnicos, su experiencia, su educación y formación, el contexto en el que se vayan a utilizar los sistemas de IA, así como las personas o grupos de personas en los que se vayan a utilizar los sistemas de IA.»

El autoaprendizaje no suele ser suficiente

Como escribe la Agencia Federal de Redes alemana, en este momento “un simple autoaprendizaje por parte de las personas afectadas” no parece adecuado para adquirir competencias suficientes en IA y cumplir así los requisitos del Reglamento de IA. El experto Jonas Wöll, de la Cámara Alemana de Industria y Comercio (DIHK), afirma al respecto: „En la definición de competencia en IA se habla del uso competente de sistemas de IA y de la conciencia sobre oportunidades, riesgos y posibles daños; las ofertas también deberían orientarse por ello.“

Actualmente, sin embargo, la UE sigue trabajando en las directrices para la aplicación del Reglamento de IA, que deberían contener indicaciones concretas en las que las empresas puedan orientarse. Según su punto de vista, la obligación de formar en competencias de IA no se aplica solo a los proveedores de la llamada IA de alto riesgo, sino a todos los proveedores u operadores de sistemas o modelos de IA, incluso si estos sirven únicamente a un fin de uso general. “Solo habría una excepción si los empleados utilizaran la IA de forma puramente personal, fuera de su actividad profesional”, afirma el experto de la DHIK.

Según la Agencia Federal de Redes alemana, no se conocen plazos para la implementación de las formaciones; no obstante, debe garantizarse que las personas que trabajan con IA dispongan de competencias suficientes en IA. Al principio, según Wöll, el tema entraría más bien dentro del deber de diligencia para evitar posibles daños causados por la IA.

“Quien trabaja con IA debe, a partir del día 2.»

Qué riesgos son inaceptables

De lo contrario, la empresa correspondiente podría ser considerada responsable. Según Wöll, experto de la DHIK, no cabe esperar una aplicación por parte de autoridades nacionales de supervisión como la Bundesnetzagentur en Alemania hasta el 2 de agosto de 2025.

La IHK de Múnich señala, entretanto, que en el reglamento de la UE se aplica el enfoque basado en el riesgo: cuanto mayor sea el riesgo, más estrictos serán los requisitos. Según la cámara, los riesgos «inaceptables» que vulneran derechos fundamentales son tabú de acuerdo con el AI Act, y las aplicaciones de IA correspondientes dejarán de estar permitidas directamente a partir del 2 de febrero de 2025.

Los riesgos inaceptables en el sentido del AI Act incluyen:

• Explotación de la vulnerabilidad de personas especialmente necesitadas de protección, como niños, personas mayores, personas con discapacidad y enfermos crónicos
• Evaluación del comportamiento social, conocida como social scoring, cuando arrendadores o empleadores rechazan a personas basándose en información procedente de las redes sociales
• Identificación biométrica remota en tiempo real, como el reconocimiento facial, con la excepción de delitos graves como atentados terroristas planificados
• Categorización biométrica para poder inferir, por ejemplo, el origen étnico, la pertenencia religiosa o la orientación sexual
• Reconocimiento de emociones en el lugar de trabajo o en el ámbito educativo
• Manipulación cognitiva del comportamiento de grupos vulnerables, por ejemplo en forma de juguetes controlados por voz que podrían inducir a los niños a comportamientos peligrosos.

Las excepciones al reglamento de la UE afectan a aplicaciones de IA destinadas a investigación y desarrollo, a la seguridad nacional y al uso puramente privado y no comercial. En los demás casos, el marco jurídico del AI Act se extiende también a actores dentro y fuera de la UE, incluidas empresas en territorios de ultramar.

Por tanto, de momento no existe una obligación de formación, pero la IHK de Múnich recomienda a las empresas afectadas establecer a corto y medio plazo programas de formación y capacitación que transmitan los fundamentos técnicos necesarios y, algo importante, también éticos para el uso de la IA, y que garanticen su aplicación en la práctica. Esto incluye también cursos periódicos de actualización con mejores prácticas para empleados que trabajan con sistemas de IA.

Preguntas frecuentes

Lecturas recomendadas por la redacción

• Calidad de los datos en la mediana empresa: por qué la IA fracasa sin datos limpios
• Plataformas B2B: por qué los marketplaces están cambiando las ventas
• Ciberseguro para pymes: qué está realmente cubierto

Más de la red de MBF Media

cloudmagazin | SecurityToday | Digital Chiefs

Fuente de la imagen de portada: Pexels / Matheus Bertelli