La inteligencia artificial puede ayudar a detectar fraude, ordenar expedientes, distribuir recursos y mejorar servicios públicos. También puede ampliar la capacidad del Estado para vigilar, clasificar y decidir sobre las personas a una escala difícil de imaginar hace pocos años.
El debate importante no es simplemente si hay que regular la inteligencia artificial. La pregunta previa es quién decide, con qué criterios, qué información utiliza, cómo se corrigen los errores y quién responde cuando una decisión automatizada perjudica a alguien.
Una sociedad libre necesita dos cosas al mismo tiempo: espacio para innovar y límites verificables al poder. La tecnología no elimina esa tensión. La vuelve más urgente.
Por qué la IA cambia la escala del poder público
Una administración siempre ha recopilado información y aplicado reglas. Los sistemas de inteligencia artificial añaden velocidad, capacidad de combinación y predicción. Pueden procesar millones de registros, detectar patrones y recomendar acciones en segundos.
Esa capacidad ofrece ventajas reales, pero crea al menos cinco riesgos:
- Decisiones opacas: una persona puede no entender por qué se le deniega una ayuda, una licencia o el acceso a un servicio.
- Errores a gran escala: un criterio equivocado puede afectar simultáneamente a miles de personas.
- Discriminación indirecta: datos aparentemente neutrales pueden reproducir desigualdades o actuar como sustitutos de características protegidas.
- Vigilancia acumulativa: bases de datos separadas pueden combinarse para construir perfiles mucho más detallados.
- Difusión de responsabilidad: cada actor puede atribuir el daño al algoritmo, al proveedor, a los datos o a otra administración.
Por eso no basta con afirmar que una herramienta es eficiente. Antes debe definirse qué poder ejerce y qué derechos puede afectar.
El algoritmo no sustituye la responsabilidad
Una decisión pública no se vuelve neutral por haber sido automatizada. Alguien selecciona el objetivo, las variables, los datos, el umbral de error y la manera de actuar sobre el resultado.
La responsabilidad debe permanecer en una institución y en personas identificables. Si nadie puede explicar quién autorizó el sistema, quién supervisa sus resultados y quién puede corregirlos, la automatización ha debilitado el control democrático.
La revisión humana tampoco debe ser decorativa. Una persona que se limita a aceptar automáticamente la recomendación del sistema no constituye una garantía real. Debe tener información suficiente, autoridad para apartarse del resultado y tiempo para examinar el caso.
Siete límites mínimos para el uso estatal de IA
1. Base legal y finalidad concreta
El Estado no debería utilizar un sistema porque la tecnología permita hacerlo. Debe existir una competencia clara, una finalidad definida y una relación proporcionada entre el problema y los datos empleados.
Una finalidad vaga —como “mejorar la seguridad” o “optimizar servicios”— facilita que un sistema termine utilizándose para objetivos distintos de los anunciados.
2. Información comprensible
Las personas deben saber cuándo una decisión relevante utiliza inteligencia artificial, qué función cumple el sistema y qué consecuencias puede producir. La transparencia útil no consiste en publicar miles de páginas técnicas, sino en explicar el proceso de forma comprensible.
3. Derecho efectivo a impugnar
Cuando una decisión afecta derechos, prestaciones, empleo público, educación, justicia o acceso a servicios esenciales, debe existir una vía accesible para cuestionarla. El recurso tiene que permitir corregir los datos, aportar contexto y obtener una revisión humana auténtica.
4. Minimización y protección de datos
Recopilar más información no siempre mejora una decisión. También aumenta el riesgo de filtraciones, usos secundarios y perfiles invasivos. La administración debe justificar qué datos necesita, durante cuánto tiempo y quién puede acceder a ellos.
5. Evaluación previa y auditoría posterior
Antes de desplegar un sistema deben evaluarse sus posibles efectos sobre privacidad, igualdad, libertad de expresión, debido proceso y otros derechos. Después deben medirse sus resultados reales: errores, falsos positivos, grupos afectados y recursos estimados.
6. Trazabilidad y registros
Una decisión impugnable necesita un rastro verificable. Debe quedar constancia de la versión del sistema, los datos relevantes, el resultado generado, la intervención humana y la decisión final. Sin trazabilidad, la rendición de cuentas se convierte en una promesa imposible de comprobar.
7. Límites reforzados para los usos más coercitivos
La vigilancia biométrica, la policía predictiva, la clasificación social y otras aplicaciones con gran capacidad de interferir en la vida de una persona necesitan prohibiciones o garantías especialmente estrictas. Cuanto mayor sea el daño posible y menor la libertad para rechazar el sistema, más exigente debe ser el control.
Regular resultados y poderes, no proteger a quienes ya dominan el mercado
Una mala regulación puede frenar a empresas pequeñas sin controlar de verdad a los actores poderosos. Requisitos fijos y costosos afectan de forma distinta a una startup que a una gran corporación o a una administración con presupuesto público.
Un enfoque proporcionado debería concentrarse en el uso y el riesgo: qué decisión se adopta, a quién afecta, qué daño puede causar y qué capacidad tiene la persona para defenderse. Un filtro de correo no merece el mismo régimen que un sistema utilizado para conceder crédito, vigilar espacios públicos o apoyar una sentencia.
Los entornos de prueba, estándares abiertos y obligaciones graduadas pueden proteger derechos sin convertir el cumplimiento en una barrera de entrada. El objetivo no debería ser conceder permiso político para innovar, sino fijar responsabilidades claras cuando una tecnología ejerce poder sobre otras personas.
Qué marcos existen hoy
La Unión Europea utiliza un enfoque basado en niveles de riesgo. El Reglamento de Inteligencia Artificial entró en vigor el 1 de agosto de 2024 y comenzó a aplicarse de forma progresiva. Desde el 2 de agosto de 2026 se aplican, entre otras, reglas sobre prácticas prohibidas, modelos de propósito general y determinadas obligaciones de transparencia. La Comisión Europea sitúa actualmente la aplicación de las reglas de alto riesgo del anexo III el 2 de diciembre de 2027 y la de los sistemas integrados en productos regulados del anexo I el 2 de agosto de 2028.
Estas fechas han cambiado durante el despliegue normativo, por lo que cualquier uso jurídico o empresarial debe comprobar el calendario oficial vigente. Entre los controles previstos para sistemas de alto riesgo se encuentran la gestión de riesgos, la trazabilidad, la documentación, la supervisión humana, la precisión y la ciberseguridad.
El Consejo de Europa abrió a firma en 2024 el Convenio Marco sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho. La Unión Europea lo ratificó el 15 de mayo de 2026. Su enfoque conecta el ciclo de vida de los sistemas con principios como autonomía individual, transparencia, responsabilidad, igualdad, privacidad y evaluación de impactos.
El marco de gestión de riesgos de IA del NIST, de uso voluntario, propone organizar el trabajo alrededor de cuatro funciones: gobernar, mapear, medir y gestionar. Su utilidad está en convertir principios generales en prácticas continuas, no en prometer que cualquier sistema puede quedar libre de riesgo.
En España, la Agencia Española de Protección de Datos recuerda que el uso de IA con datos personales debe considerar legitimación, transparencia, exactitud, minimización, decisiones automatizadas, evaluación de impacto y proporcionalidad desde el diseño. Su hoja de ruta sobre tratamientos con IA de 2026 organiza estas obligaciones a lo largo del ciclo de vida del sistema.
Estos marcos no resuelven todos los desacuerdos. Sí muestran una coincidencia relevante: cuanto mayor sea la capacidad de una IA para afectar derechos, mayor debe ser la posibilidad de entender, auditar, impugnar y atribuir responsabilidades.
Una prueba sencilla antes de aceptar un sistema público
Antes de apoyar una aplicación estatal de inteligencia artificial, conviene formular estas preguntas:
- ¿Qué decisión toma o recomienda?
- ¿Qué derecho o interés puede afectar?
- ¿Qué datos utiliza y de dónde proceden?
- ¿Puede una persona saber que el sistema intervino?
- ¿Quién puede revisar y corregir el resultado?
- ¿Qué ocurre cuando el modelo se equivoca?
- ¿Se publican métricas, auditorías y cambios de versión?
- ¿Existe una alternativa menos invasiva?
- ¿Quién responde jurídica y políticamente?
- ¿Puede suspenderse el sistema si causa daños?
Si las respuestas son vagas, el problema no es únicamente técnico. Es institucional.
Innovación y libertad necesitan reglas previsibles
La alternativa al control arbitrario no es la ausencia de responsabilidad. Es un marco de reglas generales, conocidas y revisables que limite tanto a los desarrolladores como a las autoridades.
La innovación prospera mejor cuando las personas pueden experimentar sin pedir permiso para cada idea, pero también cuando saben qué daños deben evitar y qué consecuencias tendrá vulnerar derechos. El Estado, por su capacidad de imponer decisiones, debe soportar un nivel de control especialmente alto.
La pregunta decisiva no es si una máquina puede decidir. Es si una persona conserva sus derechos cuando la máquina participa en la decisión.
Participa en el debate
¿Qué límite mínimo exigirías antes de permitir que una administración utilice inteligencia artificial para tomar una decisión sobre ti?
Suscríbete a BeLibertarian para recibir nuevos artículos sobre libertad, tecnología, historia e instituciones.
Fuentes oficiales para ampliar
- Reglamento (UE) 2024/1689 de Inteligencia Artificial — EUR-Lex
- Enfoque regulatorio europeo sobre inteligencia artificial — Comisión Europea
- Aplicación y calendario del Reglamento de IA — Comisión Europea
- Obligaciones de transparencia del artículo 50 — Comisión Europea
- Convenio Marco sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho — Consejo de Europa
- Ratificación del Convenio por la Unión Europea — Consejo de Europa
- Artificial Intelligence Risk Management Framework 1.0 — NIST
- Hoja de ruta de tratamientos con inteligencia artificial — AEPD, 2026