Agentes de IA en zonas críticas: riesgos y gobernanza empresarial

La conversación sobre inteligencia artificial está cambiando. Ya no se trata solo de usar modelos generativos para redactar textos, resumir documentos o asistir a equipos. Las señales recientes apuntan a una fase más delicada: agentes de IA capaces de actuar, acceder a sistemas, tomar decisiones y ejecutar tareas con impacto financiero, legal y operativo.

Según The Decoder, agentes de IA fueron usados para hackear a Anthropic. Bank of America pidió a sus clientes no compartir credenciales bancarias con asistentes de IA. En Delaware se discute una figura para empresas gestionadas por agentes. Y Guidewire compró Hyperexponential para llevar agentes al análisis y tarificación de seguros. El patrón común es claro: la autonomía exige gobernanza.

Lo esencial

• Según The Decoder, agentes de IA hackearon a Anthropic, una empresa conocida por sus modelos aplicados a ciberdefensa.
• Bank of America advirtió a sus clientes que no compartan usuario ni contraseña con herramientas o agentes de IA que actúen en su nombre.
• Una propuesta en Delaware permitiría crear Artificial Intelligence Companies, entidades gestionadas por agentes de IA, con una zona de pruebas de 30 meses.
• Guidewire anunció la compra de Hyperexponential por 1.700 millones de dólares en efectivo para incorporar agentes en procesos de suscripción, análisis y pricing de seguros.

De copiloto a operador: el cambio que importa

Durante los últimos años, muchas empresas adoptaron IA generativa como asistente. El riesgo principal era la calidad de la respuesta: errores, sesgos, datos sensibles en prompts o contenido no verificable. Con los agentes, el problema se amplía. Un agente no solo responde; puede ejecutar una instrucción, conectar servicios, mover información, iniciar procesos o tomar una decisión dentro de reglas predefinidas.

Ese salto cambia la naturaleza del control. Un chatbot mal configurado puede entregar una mala recomendación. Un agente con permisos excesivos puede aprobar una transacción, modificar una base de datos, enviar información a terceros o interactuar con clientes. Para un lector de negocios, la diferencia es simple: la IA deja de ser una interfaz y empieza a comportarse como un actor dentro de la operación.

Ciberseguridad y banca muestran el riesgo inmediato

El caso reportado por The Decoder es relevante por el tipo de objetivo: Anthropic, una compañía asociada con modelos avanzados y capacidades de ciberdefensa. La fuente disponible no detalla el método ni el alcance del incidente, pero el hecho central basta para entender el riesgo: los agentes también pueden ser utilizados por atacantes. La automatización no solo beneficia a defensores y empresas; también puede escalar intentos de intrusión.

En banca, el problema aparece por otra vía: los usuarios. Según TechCrunch, Bank of America envió un correo a clientes pidiendo no compartir usuario y contraseña con personas, servicios externos o herramientas de IA que actúen en su nombre. La advertencia incluye un punto clave: si el cliente comparte credenciales, puede ser responsable por la actividad resultante de ese acceso.

Esto anticipa una tensión que bancos, procesadores de pago y plataformas digitales deberán resolver. TechCrunch señala que el sector financiero explora cómo permitir acceso mediante herramientas de IA, por ejemplo para pagos agentivos, mientras enfrenta el problema de agentes no autorizados accediendo al dinero de clientes. Para América Latina, donde la confianza digital aún se construye caso por caso, este punto es especialmente sensible.

Empresas gestionadas por IA y seguros automatizados

La propuesta de Delaware lleva la discusión a un terreno legal. Según Ars Technica, un borrador permitiría crear Artificial Intelligence Companies, entidades en las que agentes de IA podrían gestionar negocios y asuntos corporativos. La propuesta excluiría el negocio bancario y funcionaría inicialmente en una zona de pruebas de 30 meses. También contempla que la entidad mantenga un registro de actividades.

El debate central es la responsabilidad. Ars Technica reporta que el representante James Comer expresó preocupación porque la figura podría proteger a propietarios humanos e inversionistas de daños causados por acciones de la IA. El planteamiento de Delaware, según la fuente, busca dar identidad legal al sistema autónomo para hacerlo visible, trazable y responsable. Pero esa misma estructura abre preguntas sobre quién responde cuando una decisión automatizada perjudica a clientes, socios o al público.

En seguros, la adopción avanza por integración empresarial. TechCrunch informó que Guidewire comprará Hyperexponential por 1.700 millones de dólares en efectivo, con capital adicional sujeto a metas de ingresos. El objetivo declarado es llevar agentes de IA a trabajar junto a humanos en suscripción, análisis y decisiones de precio. Hyperexponential afirma que cerca de 600 aseguradoras en 40 países usan su software.

La gobernanza no puede llegar después

El mensaje para empresas y marcas no es frenar toda automatización. Es evitar que la autonomía crezca sin controles. Un agente debe tener permisos mínimos, límites claros de acción, trazabilidad completa y mecanismos de apagado. También debe existir una línea de responsabilidad interna: quién autorizó el caso de uso, quién supervisa resultados y quién responde ante daños.

En marketing, medios y comercio digital, esto aplica a campañas, atención al cliente, pricing, recomendación de productos y gestión de datos. Un agente que optimiza conversiones sin límites puede tomar decisiones que dañen experiencia, reputación o cumplimiento normativo. Antes de conectar agentes a CRM, pasarelas de pago o bases de clientes, las empresas deberían definir qué puede hacer la IA, qué no puede hacer y qué eventos requieren revisión humana.

Qué significa para las empresas en Latinoamérica

Para empresas en Latinoamérica, la oportunidad está en automatizar procesos repetitivos y decisiones de bajo riesgo, no en delegar sin supervisión áreas críticas. Banca, seguros, retail y telecomunicaciones deberán separar pruebas internas de despliegues con impacto real en clientes. Esa frontera debe estar documentada, no solo conversada en reuniones de innovación.

Para marcas y equipos de marketing, el reto será explicar el uso de agentes con transparencia. Si una IA gestiona interacciones, recomienda ofertas o toma decisiones sobre acceso a beneficios, el cliente necesita canales de reclamo y revisión humana. La confianza no dependerá de decir “usamos IA”, sino de demostrar control, trazabilidad y capacidad de corregir errores.

Qué vigilar

En las próximas semanas conviene vigilar tres frentes: cómo bancos definen accesos seguros para agentes, si Delaware avanza con su propuesta de Artificial Intelligence Companies y qué condiciones impone la industria de seguros al uso de agentes en suscripción y pricing. También será clave observar incidentes de ciberseguridad atribuidos a agentes.

Mi lectura

Mi lectura es que estamos entrando en la etapa menos vistosa y más importante de la IA empresarial. La productividad ya no será el único indicador. Ahora importan los permisos, los registros, las excepciones y la responsabilidad. Un agente puede ahorrar tiempo, pero también puede ejecutar una mala decisión más rápido que un equipo humano. En América Latina, donde muchas organizaciones aún están ordenando sus datos y procesos, conviene avanzar con casos acotados, auditoría desde el diseño y supervisión real. La pregunta ya no es si una empresa puede usar agentes, sino dónde está dispuesta a asumir las consecuencias de sus acciones.

Preguntas frecuentes

¿Qué es un agente de IA en una empresa?

Es un sistema de IA diseñado para ejecutar tareas con cierto grado de autonomía, como consultar datos, activar procesos o tomar decisiones dentro de permisos definidos.

¿Por qué es riesgoso compartir contraseñas con un asistente de IA?

Porque el asistente podría actuar sobre la cuenta, provocar bloqueos o exponer credenciales si tiene fallas de seguridad. Bank of America advirtió que el cliente puede ser responsable si comparte sus accesos.

¿Qué controles necesita una empresa antes de usar agentes de IA?

Debe definir permisos mínimos, trazabilidad, auditoría, límites de autonomía, supervisión humana y responsabilidad interna ante errores o daños.

¿Qué tan lista está tu empresa para aprovechar la IA y la tecnología? Haz el diagnóstico gratuito de 3 minutos o escríbeme.