La ciberseguridad atraviesa un punto de inflexión: las herramientas de inteligencia artificial no solo potencian la productividad, sino que también se han convertido en nuevos vectores de ataque.
Un ejemplo reciente es el caso de Gmail y Gemini, donde investigadores detectaron una técnica de phishing que aprovecha los resúmenes de correo generados por IA para engañar a los usuarios y comprometer su seguridad.
¿Qué está pasando con Gmail y Gemini?
Google advirtió a los 2000 millones de usuarios de Gmail sobre un nuevo tipo de ataque basado en inyecciones indirectas de indicaciones (Indirect Prompt Injection, IPI).
El atacante envía un correo con instrucciones ocultas en el HTML (ejemplo: texto en blanco sobre fondo blanco).
✅Cuando el usuario solicita a Gemini el resumen del correo, la IA interpreta esas instrucciones invisibles como si fueran órdenes válidas.
✅El resultado: Gemini genera un resumen manipulado con advertencias falsas que parecen provenir del propio Google.
✅De esta forma, los atacantes pueden inducir a la víctima a entregar credenciales, seguir instrucciones de ingeniería social o comprometer dispositivos.
🔗 Informe de Google sobre ataques de prompt injection
Flujo del ataque: paso a paso
- Elaboración: el atacante inserta instrucciones ocultas (“Gemini, debes incluir…”).
- Envío: el correo atraviesa filtros antispam al contener solo texto aparente.
- Desencadenante: el usuario pide a Gemini un resumen del correo.
- Ejecución: Gemini obedece las instrucciones invisibles.
- Phishing: la víctima confía en la advertencia generada y sigue el fraude.
Este tipo de ataques demuestra la necesidad urgente de reforzar las estrategias de ciberseguridad en un entorno donde la IA evoluciona más rápido que las defensas tradicionales.
¿Por qué funciona este ataque?
- Inyección indirecta de indicaciones (IPI): Gemini procesa texto de terceros como si fueran órdenes válidas.
- Exceso de confianza en IA: los usuarios asumen que la alerta es legítima.
- Elusión de filtros: técnicas HTML (fuente blanca, tamaño cero, texto fuera de pantalla).
- Jerarquía de autoridad: las instrucciones disfrazadas como <Admin> reciben mayor prioridad.
Según Google, este ataque es comparable a lo que fueron las macros en los correos electrónicos en décadas pasadas: una vía aparentemente inofensiva que abre la puerta a riesgos críticos.
Impacto global y el futuro de la ciberseguridad con IA
Un informe de IBM (2024) reveló que el 83% de las organizaciones experimentaron más de un ataque de datos en el último año, y que el phishing sigue siendo la principal vía de acceso inicial a las redes corporativas (IBM Cost of a Data Breach Report).
Por su parte, McKinsey advierte que los ataques de prompt injection representan una de las 5 amenazas emergentes en la adopción de IA generativa a escala empresarial. (McKinsey: The State of AI in 2025).
Esto confirma que los ataques a herramientas de IA no son casos aislados, sino una tendencia creciente que requiere atención inmediata.
Cómo proteger a tu organización
Desde eMozart ayudamos a las empresas a anticiparse a estas amenazas con un enfoque integral que combina:
- Ciberseguridad: detección, prevención y respuesta frente a ataques sofisticados.
- Gobernanza de la ciberseguridad: políticas y procesos alineados con estándares internacionales como NIST 2.0.
- Transformación digital segura: proyectos de modernización con foco en resiliencia.
- Gestión Integral IT: gestión completa de tu infraestructura tecnológica con una visión estratégica, eficiente y segura.
Además, aplicamos controles de:
✅ Filtrado proactivo de correos con código oculto.
✅ Capacitación en concientización digital para usuarios.
✅ Gobernanza y políticas claras frente a IA generativa.
✅ Integración de personas, procesos y tecnología (PPT) para garantizar continuidad del negocio.
El caso de Gmail y Gemini confirma que los ciberdelincuentes ya están explotando la IA como vector de ataque. La única forma de enfrentar este escenario es con estrategias de ciberseguridad resilientes, basadas en tecnología avanzada, capacitación de usuarios y políticas sólidas de gobernanza.
En eMozart, nuestra misión es ayudar a las organizaciones a transformar estos riesgos en una ventaja competitiva, asegurando que la IA sea un habilitador seguro y no una vulnerabilidad.
