La advertencia de Layla Delgadillo, CEO de Silent4Business, llega en un momento en que la inteligencia artificial dejó de ser un experimento reservado a los departamentos de innovación y comenzó a incorporarse directamente en las operaciones cotidianas. Asistentes que redactan documentos, agentes que consultan bases internas y chatbots que atienden clientes ya forman parte de los procesos de numerosas organizaciones. El problema es que, en muchos casos, esa adopción avanzó más rápido que las reglas para proteger la información utilizada por esas herramientas.
El punto central no es decidir si una empresa debe usar inteligencia artificial, sino bajo qué condiciones puede hacerlo sin perder control sobre sus datos, sus procesos y sus responsabilidades legales. Delgadillo identifica una falla recurrente: empleados que introducen información privada o confidencial en plataformas abiertas sin saber con precisión dónde se almacena, quién puede procesarla o si será utilizada para entrenar modelos. Esa conducta puede parecer una práctica individual, pero en realidad revela una debilidad institucional: la empresa no definió qué información puede salir de sus sistemas ni ofreció una alternativa segura.
La discusión adquiere mayor relevancia porque los modelos de IA no distinguen por sí mismos entre un dato trivial y un activo estratégico. Un contrato, una base de clientes, un expediente médico, una contraseña incluida accidentalmente en un documento o el código fuente de una aplicación pueden terminar en el mismo campo de entrada. Si la plataforma carece de controles suficientes, la organización puede perder visibilidad sobre el recorrido de esos datos. El riesgo no se limita a una filtración inmediata; también incluye la reproducción de información sensible en respuestas posteriores, la exposición a terceros y la imposibilidad de demostrar que se cumplieron las obligaciones de privacidad.
La velocidad de adopción está creando una zona gris
La expansión de la IA generativa suele comenzar de manera informal. Un equipo prueba una herramienta gratuita para resumir reportes; después la utiliza para preparar propuestas comerciales y, finalmente, la conecta con documentos internos. Cada paso puede parecer razonable por separado, pero el conjunto modifica el perfil de riesgo de la compañía. Cuando la dirección descubre la práctica, ya existen múltiples cuentas, extensiones de navegador, integraciones y flujos de información que no fueron registrados por las áreas de tecnología o seguridad.
Esta llamada “IA en la sombra” no es exactamente igual que el uso no autorizado de software tradicional. La diferencia está en la capacidad de estas herramientas para interpretar, combinar y generar contenido a partir de grandes volúmenes de información. Un empleado que carga una hoja con reclamaciones de clientes no solo está compartiendo datos: puede estar permitiendo que un sistema los clasifique, extraiga patrones y produzca nuevas salidas que circulen a través de canales no controlados. La trazabilidad se vuelve más compleja y el error puede multiplicarse en cuestión de minutos.
La primera conclusión analítica es que la ciberseguridad ya no puede evaluar la IA únicamente como una aplicación adicional. Los agentes autónomos cambian el problema porque pueden consultar sistemas, ejecutar tareas y tomar decisiones dentro de límites previamente configurados. Un chatbot que responde preguntas representa un riesgo; un agente con permisos para modificar inventarios, autorizar pagos o enviar comunicaciones masivas representa otro de una escala mayor. La seguridad debe considerar no solo qué modelo se utiliza, sino qué puede hacer, con qué identidad digital y bajo qué supervisión.
Una arquitectura responsable tendría que aplicar el principio de privilegio mínimo: cada agente debe acceder solo a los datos y funciones indispensables para una tarea concreta. También debería existir una separación entre ambientes de prueba y producción, registros de actividad, validación de entradas, revisión de resultados y mecanismos para suspender el sistema. Sin esos controles, la promesa de eficiencia puede convertirse en una automatización acelerada de errores, fraudes o incumplimientos regulatorios.
El dato incorrecto también es una vulnerabilidad
Delgadillo subraya que los agentes producen resultados condicionados por la información que reciben. La observación suele presentarse como un problema de calidad o exactitud, pero tiene una dimensión de seguridad que merece mayor atención. Una base desactualizada puede hacer que un agente recomiende a un cliente una condición contractual que ya no existe; un registro contaminado puede inducir a clasificar erróneamente una operación; una instrucción maliciosa escondida en un documento puede alterar la conducta del modelo. En todos esos casos, el daño no proviene de un ataque convencional contra un servidor, sino de la confianza excesiva en una salida automatizada.
Esto introduce una forma de riesgo operacional que muchas empresas todavía no miden. Si una persona comete un error, normalmente existe un responsable identificable y un punto concreto de revisión. Si un agente combina datos de distintas fuentes y genera una decisión equivocada, la investigación debe reconstruir qué información consultó, qué versión del modelo estaba activa, qué instrucciones recibió y quién autorizó su despliegue. Sin registros detallados, la empresa pierde la capacidad de explicar el incidente, corregirlo y defenderse ante clientes o autoridades.
Un caso hipotético ayuda a dimensionar el problema. Una institución financiera puede conectar un agente a su sistema de atención para agilizar respuestas sobre créditos. El modelo consulta políticas internas, expedientes y conversaciones históricas. Si los permisos están mal configurados, podría revelar a un usuario información de otra persona; si la política utilizada no está actualizada, podría entregar una explicación incompatible con la regulación; si nadie revisa la respuesta, la institución habrá sustituido una demora administrativa por una exposición legal. La eficiencia solo aparece cuando se contabiliza el tiempo ahorrado, no cuando se incorpora el costo de corregir el incidente.
Para las empresas, gobernar significa priorizar
La recomendación de realizar análisis de riesgos antes de desplegar agentes resulta especialmente importante para las organizaciones con presupuestos limitados. No todas pueden proteger todos sus activos con la misma intensidad, y tampoco todos los usos de IA requieren controles idénticos. La prioridad debe establecerse según el impacto potencial: información personal, secretos industriales, sistemas críticos, propiedad intelectual y procesos cuya interrupción afectaría ingresos o servicios esenciales merecen una protección superior a la de tareas de bajo impacto.
El análisis debe responder preguntas concretas. ¿Qué datos entrarán al sistema? ¿De dónde proceden? ¿Quién puede consultarlos? ¿Qué acciones podrá ejecutar el agente? ¿Qué ocurre si el modelo se equivoca? ¿Existe una alternativa manual? ¿Cuánto tardaría la empresa en detectar una anomalía y recuperar el control? Estas preguntas convierten la conversación sobre IA, a menudo dominada por demostraciones de productividad, en una decisión de gestión empresarial.
La inversión tampoco puede limitarse a comprar una plataforma. Hace falta clasificar la información, administrar identidades, cifrar datos, controlar interfaces de programación, revisar proveedores y entrenar al personal. La capacitación debe abandonar las recomendaciones genéricas sobre “tener cuidado” y trabajar con ejemplos cercanos a cada puesto. Un vendedor necesita saber qué partes de una propuesta puede cargar en un asistente; un analista financiero debe reconocer cuándo una hoja contiene información restringida; un desarrollador debe comprender que una solicitud aparentemente inocua puede incluir credenciales o fragmentos de código propietario.
El factor humano seguirá siendo decisivo, aunque atribuirle toda la vulnerabilidad sería una simplificación. Abrir un enlace malicioso, conectar un dispositivo infectado o caer en una campaña de phishing son conductas frecuentes, pero suelen prosperar porque existen procesos deficientes: permisos excesivos, autenticación débil, falta de monitoreo o presión para cumplir objetivos con rapidez. La formación es necesaria, pero no sustituye los controles técnicos. Una empresa madura diseña sus sistemas suponiendo que una persona puede equivocarse y limita el daño que ese error puede causar.
La regulación pendiente afecta más que al gobierno
La ausencia de una ley integral de ciberseguridad, señalada por Delgadillo, abre una discusión que va más allá de la conveniencia de aprobar nuevas normas. Las iniciativas relacionadas con identidad digital, registros de líneas móviles o bases biométricas concentran información cuyo valor para los delincuentes aumenta cuando se integra en un mismo ecosistema. Una contraseña puede cambiarse después de una filtración; una huella digital, un rostro o ciertos atributos biométricos no pueden reemplazarse con facilidad.
El debate enfrenta dos necesidades legítimas. El Estado busca mejorar la identificación de personas, combatir delitos y ordenar servicios digitales. Los ciudadanos y las empresas, por su parte, necesitan garantías sobre la finalidad, conservación, acceso y eliminación de los datos. El conflicto aparece cuando la recolección se presenta como solución antes de demostrar que la infraestructura puede resistir ataques, errores internos y usos secundarios. Concentrar datos sin un modelo sólido de seguridad puede transformar una política pública en un objetivo de alto valor para redes criminales.
Una legislación eficaz tendría que definir obligaciones diferenciadas según el tipo de información y la importancia del servicio, establecer estándares mínimos de prevención y exigir notificación oportuna de incidentes. También debería aclarar responsabilidades cuando una empresa utiliza proveedores externos de IA. La contratación de una plataforma no puede convertirse en una transferencia automática de la responsabilidad frente al usuario. Si un tercero procesa datos personales, la organización que decidió utilizarlo debe conservar capacidad de supervisión y demostrar que evaluó sus controles.
Al mismo tiempo, una regulación excesivamente rígida podría desalentar la innovación local y favorecer a los grandes proveedores capaces de absorber costos de cumplimiento. Las empresas pequeñas quedarían con menos posibilidades de experimentar, mientras las multinacionales consolidarían su ventaja. El desafío consiste en crear reglas proporcionales, con guías técnicas aplicables y mecanismos de certificación que permitan demostrar cumplimiento sin imponer trámites idénticos a una startup y a una institución financiera.
Soberanía tecnológica: una apuesta con costos y oportunidades
Silent4Business afirma haber desarrollado infraestructura y modelos propios para conservar la soberanía de los datos de sus clientes. La estrategia responde a una preocupación real: depender de plataformas públicas puede limitar la visibilidad sobre el procesamiento de información, los cambios en los modelos y la ubicación de los datos. Para sectores regulados, mantener ciertos sistemas dentro de entornos controlados puede facilitar auditorías y reducir la exposición a decisiones unilaterales de proveedores extranjeros.
Sin embargo, construir tecnología propia no garantiza automáticamente una mayor seguridad. Un modelo desarrollado localmente también puede contener fallas, ser vulnerable a ataques o producir resultados deficientes si se alimenta con datos incompletos. Además, operar infraestructura propia exige especialistas, actualizaciones, pruebas de penetración, monitoreo permanente y capacidad para responder a incidentes. La soberanía debe medirse por el control efectivo sobre los datos y la continuidad operativa, no simplemente por el lugar donde se creó el software.
La oportunidad para México está en desarrollar capacidades en toda la cadena: investigación aplicada, servicios de nube confiables, auditoría de modelos, protección de datos, respuesta a incidentes y formación de talento. Convertirse en proveedor de soluciones de IA requiere demostrar calidad, seguridad y capacidad de soporte, no solo producir modelos. Las empresas mexicanas pueden ganar espacio si atienden necesidades específicas de sectores como banca, salud, manufactura y gobierno, donde el conocimiento del contexto regulatorio y operativo es tan importante como el rendimiento técnico.
Los ataques de día cero obligan a pensar en resiliencia
La afirmación de que ningún sistema ofrece protección absoluta frente a ataques de día cero es una advertencia contra la falsa sensación de seguridad. En lugar de prometer invulnerabilidad, las organizaciones deben prepararse para detectar comportamientos anómalos, aislar sistemas afectados, recuperar operaciones y aprender del incidente. La resiliencia no elimina el riesgo, pero reduce el tiempo durante el cual un atacante puede moverse y limita sus consecuencias.
La IA añade nuevos frentes de ataque. Las técnicas de inyección de instrucciones pueden intentar manipular a un modelo mediante documentos, mensajes o páginas web; el envenenamiento de datos puede alterar el material con el que se entrena o ajusta un sistema; el robo de credenciales puede permitir que un agente sea utilizado como puerta de entrada a aplicaciones internas. También existe el riesgo inverso: empleados que confían en contenidos generados por IA pueden facilitar campañas de fraude más convincentes o distribuir información falsa con apariencia profesional.
Durante los próximos años, las compañías probablemente pasarán de políticas generales de uso aceptable a registros formales de modelos, agentes y conjuntos de datos. Las auditorías deberán revisar permisos y también sesgos, trazabilidad, resistencia a instrucciones maliciosas y calidad de las fuentes. Los consejos de administración tendrán que incorporar la IA en sus mapas de riesgo, porque una falla puede afectar simultáneamente la seguridad, la privacidad, la reputación y la continuidad del negocio.
El escenario más probable no es una pausa en la adopción, sino una separación cada vez más marcada entre usos controlados y usos improvisados. Las organizaciones que documenten sus activos, limiten accesos, formen a su personal y mantengan supervisión humana podrán obtener beneficios sin convertir cada experimento en una exposición. Las que persigan velocidad sin gobierno acumularán sistemas opacos, datos dispersos y responsabilidades difíciles de asignar. La discusión planteada por Delgadillo, por tanto, no trata de frenar la inteligencia artificial: exige que su expansión empresarial deje de depender de la confianza y empiece a sostenerse en controles verificables.
