Agentes autónomos de inteligencia artificial: productividad, empleo y la difícil atribución de responsabilidad
Los agentes capaces de ejecutar tareas mediante herramientas externas prometen alterar procesos productivos y administrativos, pero también trasladan riesgos desde el texto generado hacia acciones con consecuencias reales. La gobernanza exige límites de autorización, supervisión, auditoría y reglas de responsabilidad claras.
La evolución de la inteligencia artificial desde interfaces conversacionales hacia sistemas capaces de planificar, utilizar herramientas y ejecutar secuencias de tareas representa un cambio cualitativo en la relación entre software y organización del trabajo. Un asistente tradicional produce información que el usuario puede examinar antes de actuar; un agente con permisos operativos puede modificar registros, acceder a sistemas, coordinar aplicaciones y generar consecuencias económicas o jurídicas antes de que una persona revise cada paso.
La Organización para la Cooperación y el Desarrollo Económicos publicó en septiembre de 2026 un estudio basado en entrevistas con organizaciones que desarrollan y despliegan IA agéntica. Su contribución es particularmente importante porque permite desplazar la discusión desde predicciones generales de sustitución laboral hacia problemas concretos de adopción, gobernanza y desempeño. La evidencia inicial no demuestra automáticamente una revolución universal de productividad; muestra oportunidades cuya materialización depende de diseño organizacional y supervisión.
Qué distingue a un agente de un modelo conversacional
La expresión agente autónomo se utiliza para sistemas que pueden recibir un objetivo, descomponerlo en tareas, seleccionar herramientas, observar resultados e iterar acciones. El grado de autonomía varía ampliamente. No es equivalente un programa que propone un correo electrónico a otro que dispone de permiso para enviarlo, modificar una base de datos y contratar un servicio.
La arquitectura agéntica agrega capas de memoria, planificación, control de herramientas, evaluación de pasos y mecanismos de recuperación ante errores. Cada capa puede incrementar utilidad, pero también introducir nuevas superficies de vulnerabilidad. Un error de interpretación puede propagarse a lo largo de una cadena de acciones; una instrucción maliciosa escondida en un documento externo puede modificar el comportamiento del sistema si no existen barreras efectivas.
Por ello, la autonomía no debería tratarse como una característica binaria. Resulta más útil describir permisos, reversibilidad de decisiones, capacidad de supervisión y alcance temporal de las operaciones. Un agente que consulta documentos públicos sin escribir en sistemas externos ofrece un perfil de riesgo distinto del que administra fondos, credenciales o expedientes personales.
La productividad y la complementariedad del trabajo
La hipótesis más extendida sostiene que los agentes reducirán costos de coordinación y ejecución de tareas repetitivas o intensivas en información. La magnitud de esa mejora depende de frecuencia, complejidad, calidad de los datos y costos de supervisión. Una automatización que exige revisar manualmente cada resultado puede generar ahorros menores a los anunciados; otra que reduce errores y libera tiempo para decisiones de mayor valor puede producir beneficios sustanciales.
En economía laboral importa distinguir tareas de ocupaciones. La automatización de una parte del proceso no implica necesariamente la desaparición de la profesión que lo contiene. Los trabajadores pueden reasignar tiempo hacia relaciones con clientes, interpretación, control de calidad y resolución de problemas excepcionales. Pero esa complementariedad requiere inversión en capacitación y rediseño de funciones: no aparece automáticamente por el simple acceso a una herramienta.
Los efectos distributivos también dependen de la posición negociadora de empresas y trabajadores. Una mejora de productividad puede traducirse en mayores salarios, precios reducidos, rentabilidad adicional o una combinación de estos resultados. Sin instituciones de formación y movilidad, los beneficios pueden concentrarse en organizaciones que poseen capital, datos e infraestructura digital.
El costo oculto de la supervisión
La evaluación empresarial de un agente no debe considerar únicamente el costo de acceso al modelo. Existen gastos de integración, mantenimiento, auditoría, capacitación, seguridad y recuperación ante fallas. Además, cuanto más crítico es el proceso automatizado, mayor puede ser la necesidad de redundancias y controles externos.
Un sistema que completa rápidamente una tarea pero introduce errores difíciles de detectar puede reducir la productividad neta. La métrica relevante es el resultado correctamente alcanzado por unidad de recurso, ajustado por costos de fallas y supervisión. Los indicadores de adopción no equivalen necesariamente a indicadores de valor económico.
La promesa de autonomía ilimitada suele ignorar el problema de las excepciones. Los procesos reales contienen información incompleta, disputas contractuales, cambios regulatorios y situaciones que exigen juicio contextual. Un agente puede automatizar con éxito etapas estandarizadas y necesitar transferencia inmediata a una persona cuando aparecen condiciones fuera del dominio evaluado.
Responsabilidad jurídica y cadenas de decisiones
Cuando una acción automatizada produce perjuicios, surge la pregunta sobre quién debe responder: proveedor del modelo, desarrollador de la aplicación, organización que lo despliega, operador humano o tercero que suministró datos. No existe una respuesta universal aplicable a cualquier jurisdicción y escenario. La atribución debe considerar control efectivo, obligaciones contractuales, previsibilidad del daño y cumplimiento de deberes de diligencia.
La autorización humana genérica no debería entenderse como transferencia automática de toda responsabilidad al usuario. Una empresa que desarrolla y comercializa sistemas destinados a ejecutar operaciones debe explicar capacidades, límites y riesgos razonablemente previsibles. De igual modo, una organización que concede permisos excesivos sin mecanismos de control asume decisiones de diseño relevantes para determinar responsabilidades.
Los registros de actividad resultan esenciales. Sin trazabilidad de instrucciones, fuentes consultadas, herramientas utilizadas y decisiones adoptadas, la investigación de un incidente puede convertirse en una reconstrucción especulativa. La auditoría exige conservar información suficiente para comprender qué ocurrió sin exponer innecesariamente datos personales o secretos comerciales.
Seguridad informática y manipulación contextual
Los agentes conectados a servicios externos pueden recibir instrucciones adversariales en correos, páginas, archivos o respuestas de herramientas. Estos ataques buscan que el sistema confunda material informativo no confiable con órdenes legítimas. El problema no se resuelve únicamente con recomendaciones en lenguaje natural: requiere segmentación de permisos, validación de operaciones y controles externos al modelo.
Las credenciales deberían limitarse conforme al principio de privilegio mínimo. Las acciones irreversibles, financieras o que afectan derechos deben requerir autorización adecuada y mecanismos de confirmación. La posibilidad de revertir cambios constituye una medida de resiliencia, pero no sustituye prevención cuando los daños sean difíciles de reparar.
La confianza en sistemas agénticos necesita pruebas bajo escenarios realistas, incluidos datos contradictorios y situaciones adversariales. La evaluación de tareas ideales puede sobreestimar desempeño en entornos dinámicos. Los equipos de seguridad deben examinar interacciones entre modelo, aplicación y permisos operativos, porque la vulnerabilidad puede surgir de su combinación.
Las estrategias empresariales en competencia
OpenAI, bajo Sam Altman; Anthropic, bajo Dario Amodei, y Google, encabezada por Sundar Pichai, compiten por integrar modelos con capacidades de uso de herramientas y servicios empresariales. NVIDIA suministra infraestructura computacional relevante para su despliegue. En China, los ecosistemas DeepSeek y Qwen contribuyen a ampliar alternativas tecnológicas para desarrolladores interesados en adaptar sistemas y controlar determinados aspectos de su ejecución.
La elección entre proveedores no debería reducirse al rendimiento nominal de un modelo. Importan privacidad, interoperabilidad, condiciones contractuales, disponibilidad de registros, capacidad de migración y dependencia de infraestructuras externas. La soberanía tecnológica de una organización puede verse comprometida cuando sus procesos críticos quedan ligados a una interfaz propietaria sin mecanismos de salida.
Los sistemas basados en pesos disponibles pueden ofrecer flexibilidad, pero trasladan al operador mayor responsabilidad por mantenimiento, actualizaciones y seguridad. Los servicios gestionados reducen determinadas cargas, aunque concentran dependencia contractual y técnica. La decisión debe ajustarse al riesgo de cada tarea y a la capacidad de supervisión de la organización.
Empleo, salarios y nuevas jerarquías profesionales
Las consecuencias laborales de la IA agéntica no serán uniformes. Las ocupaciones con procesos digitalizados y abundantes tareas verificables pueden experimentar cambios rápidos. Las actividades que requieren presencia física, confianza interpersonal y responsabilidad contextual podrían transformarse de manera distinta. La capacidad de un agente para producir documentos o ejecutar operaciones no implica que pueda sustituir integralmente las relaciones sociales de una profesión.
Existe también riesgo de polarización. Los trabajadores capaces de supervisar sistemas y combinar conocimientos técnicos con criterios sectoriales pueden ampliar su productividad, mientras otros enfrentan presión sobre tareas rutinarias. La respuesta de política pública requiere formación continua, mecanismos de transición y acceso equitativo a herramientas, además de protección frente a decisiones automatizadas discriminatorias.
Las organizaciones deberán evitar que la automatización se convierta en una forma de intensificación laboral opaca. Si los sistemas aumentan la cantidad de procesos gestionados por empleado sin modificar adecuadamente responsabilidades y formación, pueden elevar el riesgo de error y agotamiento. La productividad sostenible exige rediseñar objetivos, no simplemente multiplicar tareas mediante software.
El papel del Estado y de la regulación
Los poderes públicos tienen un doble papel: establecer reglas para el uso empresarial y decidir cómo emplear agentes dentro de su propia administración. La automatización de procedimientos puede mejorar tiempos de respuesta, pero las decisiones que afectan derechos requieren garantías de motivación, revisión e impugnación.
Los marcos regulatorios deben diferenciar usos de bajo y alto riesgo, evitar obligaciones desproporcionadas y asegurar que las responsabilidades sean comprensibles. Una regulación excesivamente general puede ralentizar aplicaciones beneficiosas; una ausencia de límites en procesos sensibles puede comprometer confianza y generar daños de difícil reparación.
La evaluación institucional debería examinar tasas de error, impacto distributivo, seguridad, accesibilidad y satisfacción de usuarios, sin considerar la adopción tecnológica como un objetivo en sí mismo. El valor público se produce cuando la herramienta mejora resultados verificables bajo responsabilidad democrática.
Conclusión: autonomía técnica no equivale a soberanía decisoria
Los agentes autónomos pueden representar una transformación sustantiva de la organización del trabajo, pero su legitimidad no procede de la sofisticación de sus modelos. Procede de la calidad de los procesos que permiten delegar, supervisar, corregir y atribuir consecuencias. La automatización sin control puede incrementar velocidad al mismo tiempo que erosiona responsabilidad; una supervisión diseñada con inteligencia puede elevar productividad y reducir riesgos.
La conclusión es que la innovación verdaderamente decisiva será institucional: establecer una arquitectura donde los sistemas dispongan de suficiente autonomía para generar valor, pero no de tanta discrecionalidad opaca que resulte imposible reconstruir sus decisiones. La productividad de la IA agéntica dependerá de la complementariedad con capacidades humanas, de la distribución de beneficios y de mecanismos jurídicos capaces de mantener identificables a quienes autorizan y controlan las operaciones. El progreso no consistirá en retirar a las personas de toda decisión, sino en reservar su juicio para aquellos puntos donde las consecuencias de una automatización equivocada exigen responsabilidad humana genuina.
Fuentes: OCDE, Agentic AI in organisations (2026); NIST, marco de gestión de riesgos de IA; Comisión Europea, marco regulatorio.