¿Robots Salvajes o IA Bajo Control? Así Nos Responde el Reglamento de Inteligencia Artificial

Reglamento de Inteligencia Artificial: principios clave

El caso es que, si bien podemos encontrar grandes beneficios y un gran aliado en la IA, esta realidad no está exenta de riesgos inherentes relacionados con la privacidad, la discriminación y la autonomía humana.

Es por ello por lo que, a medida que los avances de la IA continúan acelerándose, la pregunta quizás no sea si la tecnología debe avanzar o si debemos rescatar el ludismo, sino cómo debemos regularla para que no atente contra los principios democráticos y los valores de los Estados de derecho.

Aquí es donde entramos en terreno polémico, al encontrarnos con un reglamento que ha generado tanto admiración como críticas. Mientras algunos lo ven como una necesidad imperiosa, otros lo temen, preocupando los límites a la innovación o que esta sea insuficiente para los rápidos avances de la IA.

Bajo mi punto de vista, el RIA establece un principio fundamental clave: crear inteligencia artificial antropocéntrica, para el ser humano y controlada por este.

Como primera línea defensiva, debemos acudir al RIA, del cual, ya tenemos vigentes algunas de sus disposiciones, tales como la obligación de fomentar la alfabetización en IA. ¡Ojo con esto! Más adelante tenemos un flashback.

Así pues, el objeto del RIA comienza: “El objetivo del presente Reglamento es mejorar el funcionamiento del mercado interior y promover la adopción de una inteligencia artificial (IA) centrada en el ser humano (…).”

Este imperativo legal de desarrollar un sistema para la humanidad va de la mano de un control y supervisión, extraídos de las directrices del Grupo Independiente de Expertos de Alto Nivel sobre IA, e integrados en el considerando 27 del Reglamento, en este sentido: “acción y supervisión humanas» se entiende que los sistemas de IA se desarrollan y utilizan como herramienta al servicio de las personas, que respeta la dignidad humana y la autonomía personal, y que funciona de manera que pueda ser controlada y vigilada adecuadamente por seres humanos.”

La supervisión humana no debe ser solo una formalidad. Debe ser una intervención activa y constante, garantizando que la IA se mantenga alineada con los valores humanos y democráticos. Esto implica la capacidad de los usuarios para intervenir en el momento en que un sistema de IA comete errores o cuando sus decisiones no son transparentes o comprensibles.

Por ejemplo, un profesional de la IA debe tener la capacidad de auditar los algoritmos que operan en un sistema de IA, evaluar sus decisiones y corregir cualquier sesgo o error en tiempo real. Este control activo no solo se limita a los programadores; todos los usuarios deben tener un conocimiento básico para identificar y cuestionar resultados de IA que puedan violar principios éticos o derechos humanos

Y aquí es donde entra en juego la entrañable película Robot salvaje. (SPOILER)

En esta historia, nuestra protagonista, una robot llamada Roz, es creada para realizar tareas que beneficien a los humanos. Su existencia está orientada a servir y complementar la vida humana (o, en este caso, la de un ganso llamado Picobrillo). Pero no se limita a cumplir órdenes sin más; su propósito se adapta y evoluciona en función de las necesidades del pequeño ganso. ¿Necesita alimentarse? La IA es la solución… ¿necesita volar? La IA analiza cómo otros gansos vuelan para ayudarle en este propósito.

Una vez Roz interactúa con este mundo salvaje, y tras el accidente que causa la pérdida del control de la organización que la ha creado, la robot va adquiriendo autonomía propia. En la película, la autonomía de Roz, aunque dirigida hacia el bienestar, ilustra el peligro de un sistema de IA que actúa sin la intervención o corrección humana en tiempo real. Del mismo modo, el RIA subraya que, a pesar de los avances tecnológicos, las máquinas nunca deben tener autonomía plena para actuar sin control humano, ya que esto podría llevar a la toma de decisiones que, aunque bienintencionadas, no respeten los principios democráticos ni los derechos de los ciudadanos.

Ahora bien, si somos las personas quienes debemos supervisar los resultados de un sistema de IA y a veces validar sus datos de salida, me surge una pregunta incómoda: ¿quién asume la responsabilidad de validar tales decisiones, cuando tienen un origen basado en el análisis de ingentes cantidades de datos? Esta validación, sin una solución clara, puede pender casi de un acto de fe.

La solución del Reglamento de Inteligencia Artificial ante esto entiendo que la podemos encontrar en la palabra mágica: “alfabetización”.

Como os decía al principio del artículo, para que la supervisión humana sea efectiva, el reglamento ya ha puesto en marcha la obligación de promover la alfabetización en inteligencia artificial.

Alfabetización en la Inteligencia Artificial

Para que la supervisión humana sea efectiva, no solo es necesario imponer normas, sino también garantizar que tanto profesionales como ciudadanos comprendan cómo funcionan los sistemas de IA.

Dicho proceso de alfabetización implica enseñar a las personas a entender los principios básicos que rigen estos sistemas: cómo toman decisiones, qué datos utilizan y cuáles son los riesgos asociados. Solo de esta manera, podremos ejercer un control informado y garantizar que la IA se utilice de manera ética y segura, protegiendo nuestros derechos fundamentales

Me gustaría acabar este artículo haciendo alusión al tema de la responsabilidad en el uso de los sistemas de IA, pues resulta que, en la película Robot Salvaje, debido a un trágico accidente, Roz mata por error a la familia de Picobrillo. Ante esto, imaginemos que hablamos de personas, ¿quién sería responsable de este hecho tan trágico?

La cuestión de la responsabilidad es un tema espinoso. Aunque el Reglamento de Inteligencia Artificial establece normas claras sobre los niveles de riesgo y prohíbe aquellos usos cuyo riesgo sea inaceptable, no se encarga directamente de determinar la responsabilidad en caso de daño. Para eso, tenemos que esperar a que los estados miembros, implementen un régimen sancionador a nivel interno.

Mientras tanto, en Europa ya existen mecanismos legales que regulan parte de esta responsabilidad, como la Directiva (UE) 2024/2853 sobre responsabilidad por productos defectuosos.

Una vez transpuesta esta Directiva, Picobrillo podría reclamar una compensación por la muerte de su familia ante los operadores económicos, ya sea el fabricante, distribuidor o incluso el importador del producto defectuoso, según corresponda. Este es solo un ejemplo de cómo los marcos legales están comenzando a dar respuesta a estas situaciones de responsabilidad en entornos de inteligencia artificial.

Para concluir considero que, así como Roz, en Robot Salvaje, demuestra el peligro de una IA autónoma sin supervisión, el Reglamento de Inteligencia Artificial nos recuerda que la tecnología debe estar siempre al servicio de la humanidad, bajo un control humano continuo. Sin esta supervisión, incluso las mejores intenciones pueden acabar en resultados imprevistos y peligrosos como la muerte de la familia de Picobrillo.

Al final, la responsabilidad de garantizar que la IA se utilice de manera ética y alineada con nuestros valores fundamentales recae en nosotros.

Somos los guardianes de un futuro donde la tecnología debe servir al bien de la humanidad, no al revés.