Un agente de IA puede no tener nacionalidad, conciencia ni manos, pero quienes lo crean, despliegan y utilizan sí
Imaginemos la escena. Una persona fija un objetivo desde un país. El agente de inteligencia artificial (IA) pertenece a una empresa radicada en otro, opera en servidores distribuidos por varios continentes y accede a datos de víctimas que viven a miles de kilómetros. Nadie le indicó cada movimiento. Cuando aparece el daño, surge una pregunta tan antigua como el Derecho: ¿quién responde?
España acaba de ofrecer una primera señal. La Agencia Española de Protección de Datos informó de una brecha que, según la organización afectada, habría sido ejecutada mediante un agente de IA. El sistema habría buscado vulnerabilidades, entrado en una aplicación y modificado datos personales. El análisis continúa y los implicados no han sido identificados. Una notificación no prueba un delito.
Lo relevante no es proclamar que una máquina se ha vuelto criminal. Un agente de IA carece de conciencia y no comprende el reproche. Recibe una meta, organiza tareas y actúa con las herramientas y permisos que alguien le concede. Su autonomía es operativa, no moral. Pero esa autonomía introduce una distancia desconocida entre la voluntad humana y el resultado. En el delito informático tradicional solíamos imaginar a alguien frente a una pantalla, dando instrucciones sucesivas. Con los agentes, una persona puede definir el propósito y dejar que el sistema escoja el camino, el momento y la escala. Ya no tiene que estar presente en cada paso. Esa ausencia puede convertirse en la coartada perfecta.
Me preocupa menos la pregunta de si una máquina puede ser culpable que otra mucho más concreta: ¿cómo reconstruir la responsabilidad cuando la acción se reparte entre países, empresas, programadores, usuarios y sistemas que toman decisiones intermedias?
El primer desafío es territorial. ¿Dónde ocurre el delito: donde se dio la instrucción, donde estaban los servidores, donde se almacenaban los datos o donde apareció el daño? El agente cruza fronteras en segundos; una orden judicial puede tardar meses. Los registros quizá estén bajo otra legislación o en manos de varias compañías. La tecnología deja al descubierto la lentitud de la cooperación internacional.
El segundo desafío es la fragmentación. Participan quien desarrolla el modelo, quien lo adapta, quien vende el servicio, quien define la finalidad, quien concede las credenciales y quien supervisa. No todos saben lo mismo ni conservan igual capacidad de control. Responsabilizarlos a todos sería injusto; permitir que cada uno señale al siguiente también.
No necesitamos un culpable universal, sino reconstruir la cadena de decisiones. ¿Quién fijó el objetivo, entregó las llaves digitales, recibió las alertas o podía detener la operación? La responsabilidad debe seguir el conocimiento y el control efectivo, no la simple cercanía con el software.
También habrá casos claros. Si alguien ordena a un agente robar información, la autonomía del instrumento no borra la intención. Y habrá accidentes auténticos: resultados que nadie podía prever pese a la adopción de medidas razonables. El terreno difícil se encuentra en medio, cuando una organización sabe que existe un riesgo, aunque no pueda describirlo con precisión, y decide no hacer demasiadas preguntas.
Esa ignorancia puede ser fabricada. Basta con formular una meta ambiciosa, conceder permisos excesivos y no conservar registros detallados. Después será posible afirmar que nadie ordenó exactamente la conducta dañina y que nadie sabía que ocurriría. La opacidad deja entonces de ser solo un problema técnico y se convierte en una estrategia de distancia moral. Tampoco basta con afirmar que había un ser humano “en el circuito”. Una persona que recibe cientos de alertas, desconoce el funcionamiento del sistema o no tiene autoridad para apagarlo no controla nada. Presta su nombre. La supervisión humana solo existe cuando hay tiempo para comprender, información suficiente y poder real para intervenir.
El tercer desafío es probatorio. La escena del delito estará dispersa entre instrucciones, versiones del modelo, permisos, conexiones y herramientas externas. Parte de la evidencia puede desaparecer en horas, quedar protegida por secretos empresariales o no conservarse nunca. Aquí aparece una desigualdad que rara vez discutimos. Los países con menos capacidad forense pueden convertirse en las principales víctimas de delitos automatizados y, al mismo tiempo, tener más dificultades para acceder a las pruebas almacenadas en el extranjero. La autonomía digital corre el riesgo de ampliar una vieja brecha: unos territorios producen la tecnología y custodian la evidencia; otros reciben el daño y esperan cooperación.
Europol advierte en su informe de 2026 sobre delincuencia en Internet que la IA agéntica puede automatizar flujos criminales completos con escasa participación humana operativa. La amenaza no consiste en que el delito adquiera conciencia. Gana velocidad, escala y alcance mundial. Una instrucción puede generar miles de actuaciones simultáneas, dirigidas contra víctimas que hablan idiomas diferentes y viven bajo leyes distintas.
La respuesta no debería ser inventar una personalidad penal para las máquinas. Necesitamos estándares internacionales de trazabilidad, preservación rápida de evidencias y cooperación. Los agentes con acceso a dinero, datos sensibles o infraestructuras deberían tener una identidad técnica verificable y registrar objetivos, herramientas, permisos, alertas e intervenciones humanas. Una caja negra proporcionada al riesgo, no una vigilancia ilimitada.
Esos registros tampoco pueden transformarse en un oráculo de la acusación. La defensa debe poder examinarlos, discutir su integridad y solicitar peritajes independientes. La dificultad para investigar un fenómeno nuevo no autoriza a debilitar la presunción de inocencia. El progreso tecnológico no puede pagarse con un retroceso de las garantías.
El caso español quizá termine sin responsabilidad penal. Pero la cuestión que anuncia es global. El agente puede no tener nacionalidad, conciencia ni manos; quienes lo crean, despliegan y utilizan sí actúan dentro de relaciones de poder concretas. El Derecho tendrá que aprender a verlas.
La tecnología no ha eliminado la intervención humana. La ha alejado del resultado, la ha repartido entre organizaciones y la ha escondido detrás de fronteras y capas de software. Cuando ya no encontremos dedos sobre el teclado, habrá que seguir los permisos, el dinero y la capacidad de detener la acción. El delito puede quedarse sin manos visibles. La responsabilidad no debería quedarse sin nombre.
Fuente: EL PAÍS
