El Peligro Oculto de la Autonomía Artificial

La inteligencia artificial ha trascendido su rol de simple asistente para convertirse en un agente autónomo capaz de interactuar con el núcleo de las operaciones empresariales. Estos agentes de IA, con la capacidad de consultar correos electrónicos, acceder a bases de datos corporativas y ejecutar tareas en nombre de los empleados, representan una revolución en la eficiencia operativa. Sin embargo, esta creciente autonomía trae consigo un riesgo de seguridad sin precedentes para las organizaciones que aún no han implementado planes robustos para mitigar la filtración de información confidencial, el acceso no autorizado a documentos o la operación sin supervisión adecuada. El peligro no radica únicamente en la posibilidad de errores, sino en la velocidad y el alcance con que estos fallos pueden propagarse y magnificar sus consecuencias.

Román Baudrit, vicepresidente de Ventas de Seguridad de Aplicaciones y Datos de Thales Cybersecurity Products para América Latina, advierte que la llegada de estos agentes a las empresas a menudo se produce en un contexto de deficiencias preexistentes en la protección de la información. El verdadero problema, según Baudrit, comienza mucho antes de la implementación de la IA: en la falta de conocimiento sobre cuáles son los datos más sensibles de la organización, quién tiene acceso a ellos y cuáles serían las repercusiones de su exposición.

La Cultura de Protección de Datos, un Requisito Previo

"El problema no es la IA, el problema es que yo, antes de desplegar la IA, no tenía una buena cultura de protección de la información", enfatiza Baudrit. Esta declaración subraya la necesidad crítica de que las empresas fortalezcan sus cimientos de ciberseguridad antes de adoptar tecnologías tan potentes como los agentes de IA. La falta de una cultura de protección de datos sólida convierte a la IA, incluso en sus formas más benignas, en un vector de riesgo potencial.

En México, las proyecciones indicaban una adopción significativa de agentes digitales. Según el Índice de Tendencias Laborales de Microsoft, el 89% de los líderes empresariales planeaba incorporar estas herramientas durante 2025. Si bien no todas las empresas concretaron estos planes, la misma encuesta reveló que el 41% ya utilizaba agentes de IA para automatizar procesos. A nivel internacional, la encuesta Agentic AI Survey 2026 de SAP LeanIX señala que el 98% de las organizaciones ya ha implementado o planea implementar agentes de IA. No obstante, la visibilidad sobre su desempeño y cumplimiento normativo es alarmantemente baja: solo el 17% de las empresas tiene una visión clara, y el 48% carece de responsabilidades de administración bien definidas.

Extender los Controles de Identidad a la IA

Durante años, las empresas han perfeccionado mecanismos para gestionar las identidades de sus empleados: sistemas de usuarios, contraseñas, permisos y procesos de baja de cuentas. Con la llegada de la IA agéntica, estos controles deben extenderse de manera análoga a identidades que no son humanas. Baudrit explica que cada agente de IA debe poseer una identidad digital única que permita su reconocimiento, autenticación y la delimitación precisa de sus funciones. Esto incluye especificar a qué bases de datos puede acceder, qué aplicaciones puede utilizar, qué información está autorizada a compartir y cuándo deben revocarse sus permisos.

"Todo esto que nosotros hacíamos para los usuarios internos humanos, tenemos que desplegarlo ahora para los agentes", señala Baudrit. El desafío se intensifica ante la posibilidad de que una sola empresa opere múltiples agentes que interactúan entre sí. Por ejemplo, un agente podría encargarse de consultar datos de clientes, otro de elaborar informes y un tercero de ejecutar acciones en una plataforma corporativa. Sin permisos claramente delimitados, la interconexión de estos agentes puede ampliar exponencialmente el alcance de un incidente de seguridad. Por ello, es fundamental que las organizaciones administren de manera integral el ciclo de vida de estas identidades, desde su registro inicial hasta su desactivación definitiva.

El Desafío de la Interacción y la Protección de Datos

Una herramienta diseñada para resumir correos electrónicos, por ejemplo, no debería tener la capacidad de enviar mensajes de forma autónoma, descargar todos los adjuntos sin discernimiento o compartir documentos con servicios externos sin autorización. La delimitación de funciones es clave para prevenir accesos indebidos y filtraciones.

Cuando los agentes de IA interactúan con plataformas externas, las organizaciones pueden perder una parte significativa del control sobre sus datos. Ante esta realidad, Baudrit recomienda proteger la información sensible antes de que sea enviada a los modelos de IA. Plantea un escenario hipotético: un cliente consulta a un chatbot bancario sobre un cargo duplicado, proporcionando su nombre, número de identificación y datos bancarios. Sin los controles adecuados, el sistema podría transmitir toda esta información al modelo, incluso si no es estrictamente necesaria para resolver la consulta.

Mecanismos de Protección y Gobernanza

La alternativa propuesta implica la implementación de mecanismos que intercepten la información sensible antes de que llegue al modelo de IA. Estos sistemas pueden sustituir los datos confidenciales por identificadores protegidos, como códigos o la ocultación parcial de números de tarjeta. Al momento de la respuesta, otro control define qué información puede ser mostrada al usuario. De esta manera, el cliente podría recibir la confirmación de su reembolso y solo los últimos cuatro dígitos de su tarjeta, manteniendo la privacidad de los datos completos.

Esta técnica, que puede apoyarse en la tokenización, el cifrado y políticas de acceso por categoría de información, no elimina todos los riesgos. Su efectividad depende intrínsecamente de la correcta configuración de los controles, de la identificación precisa de los datos que el agente realmente necesita para operar y de la seguridad inherente de los sistemas con los que interactúa.

Definir Responsabilidades y Supervisión

Además de los controles técnicos, las empresas deben establecer claramente quién autoriza la incorporación de nuevos agentes de IA, quién es responsable de su supervisión continua y, crucialmente, quién asume la responsabilidad cuando ocurre un error o un incidente de seguridad. La encuesta de SAP LeanIX, realizada en marzo de 2026 a 228 responsables de arquitectura empresarial y tecnología, revela una brecha significativa en este aspecto: mientras el 63% considera que los arquitectos empresariales deberían desempeñar un papel central en la gobernanza de agentes de IA, solo el 34% participa activamente en dicha gobernanza. Es importante notar que estos resultados provienen principalmente de Europa y Norteamérica, por lo que la situación en México podría diferir.

Baudrit también distingue entre las herramientas de IA autorizadas y el fenómeno conocido como "shadow AI" o IA en la sombra. Este último se refiere al uso de sistemas de IA no aprobados o fuera de los mecanismos de control establecidos por la organización, una práctica que también involucra a los empleados y que representa un desafío adicional para la seguridad y la gobernanza de la información.

El Futuro Inmediato: Gobernanza y Riesgo

La rápida evolución de la IA agéntica exige una respuesta proactiva por parte de las empresas. Ignorar los riesgos asociados a la falta de controles y gobernanza adecuadas podría tener consecuencias devastadoras, desde brechas de datos masivas hasta la pérdida de confianza del cliente y sanciones regulatorias. La implementación de políticas claras, la asignación de responsabilidades y la inversión en tecnologías de seguridad adaptadas a la era de la IA son pasos ineludibles para navegar este nuevo panorama tecnológico de manera segura y responsable.

En el contexto mexicano, donde la adopción de estas tecnologías está en auge, es imperativo que las organizaciones repliquen las mejores prácticas internacionales y adapten sus estrategias de ciberseguridad para proteger sus activos de información más valiosos. La IA ofrece un potencial transformador, pero su implementación exitosa depende de una gestión de riesgos diligente y una cultura de seguridad arraigada en todos los niveles de la organización.