Categoría · Ciberseguridad en IA
El modelo es
la nueva superficie
Los LLMs han introducido una clase de vulnerabilidades que los marcos de seguridad clásicos no contemplan. Prompt injection, jailbreaking, model extraction, envenenamiento de contexto: ataques que no explotan código, sino lenguaje. Esta categoría documenta los vectores específicos de los modelos de lenguaje y los asistentes de IA desplegados en producción.
La tesis
Una nueva clase de ataque
Los LLMs no distinguen instrucciones del sistema de datos del usuario. Esa ambigüedad arquitectural es el origen de prompt injection: un atacante no necesita explotar un buffer overflow ni un CVE. Le basta con redactar bien una instrucción en lenguaje natural.
Asistentes embebidos públicos
Millones de asistentes de IA están desplegados como interfaces públicas con acceso a datos internos, APIs y herramientas. Cada uno es una superficie de ataque. Los vectores específicos de LLMs —XPIA, jailbreaking, context poisoning— raramente aparecen en los manuales de seguridad corporativa.
El perímetro ha desaparecido
La seguridad tradicional protege infraestructura con perímetros definidos. Los LLMs procesan contenido externo no estructurado por diseño. No hay firewall para una instrucción oculta en un PDF que el modelo va a leer y ejecutar sin advertirlo.
Taxonomía sin consenso
OWASP LLM Top 10, MITRE ATLAS y NIST están construyendo marcos de referencia en paralelo. Mientras tanto, los equipos de seguridad defienden sistemas que no entienden del todo contra atacantes que los estudian activamente.
«Un atacante no necesita conocer el código del modelo. Necesita conocer cómo procesa el lenguaje. Ese es el cambio de paradigma que la mayoría de los equipos de seguridad aún no han asimilado.»
— Enfoque editorial · RosmarOps
Qué cubre esta categoría
💉
Prompt injection y XPIA
Vectores directos e indirectos de inyección de instrucciones en LLMs. Casos reales de cross-prompt injection attacks (XPIA) en asistentes con acceso a datos externos, documentos y herramientas.
🔓
Jailbreaking y evasión de salvaguardas
Técnicas para eludir los mecanismos de alineación y las restricciones de seguridad de los modelos. Análisis de métodos documentados, patrones de evasión y respuesta de los fabricantes.
🧬
Model extraction y robo de IP
Técnicas para replicar modelos propietarios a través de consultas sistemáticas. Implicaciones legales, técnicas de detección y casos donde la extracción fue confirmada.
🏗️
Seguridad de asistentes embebidos
Riesgos específicos de LLMs desplegados como interfaces públicas con acceso a sistemas internos. Arquitecturas seguras, gestión de permisos y casos de compromiso en entornos empresariales reales.
🗺️
Marcos y taxonomías: OWASP, MITRE, NIST
Aplicación práctica del OWASP LLM Top 10, MITRE ATLAS y NIST AI RMF a escenarios reales. Qué cubren, qué dejan fuera y cómo usarlos para estructurar una defensa coherente.
Qué lo diferencia del resto
Lo que ya existe
- — Guías genéricas de «IA segura»
- — Listas de buenas prácticas sin contexto
- — Seguridad perimetral aplicada a IA
- — Papers académicos sin traducción operativa
- — Alertas de CVEs sin análisis de impacto real
El ángulo de RosmarOps
- — Vectores específicos de LLMs, no de infraestructura clásica
- — Casos reales con análisis técnico propio
- — Conexión entre el ataque y su impacto operacional
- — Taxonomías aplicadas a escenarios concretos
- — Perspectiva del atacante, no solo del defensor
Los LLMs en producción son infraestructura crítica. Todavía se defienden con herramientas pensadas para otro modelo de amenaza. Aquí se analiza el que corresponde.
Leer los posts →