{"id":743,"date":"2026-03-21T21:59:54","date_gmt":"2026-03-21T20:59:54","guid":{"rendered":"https:\/\/rosmarops.com\/?page_id=743"},"modified":"2026-10-25T10:16:12","modified_gmt":"2026-10-25T09:16:12","slug":"agentes-autonomia","status":"publish","type":"page","link":"https:\/\/rosmarops.com\/es\/blog\/agentes-autonomia\/","title":{"rendered":"Agentes & Autonom\u00eda"},"content":{"rendered":"\n\n
\n

Categor\u00eda \u00b7 Agentes & Autonom\u00eda<\/p>\n

Cuando la IA act\u00faa
por ti, sin ti<\/span><\/h1>\n

Los agentes de IA ya no solo responden preguntas. Env\u00edan correos, ejecutan c\u00f3digo, gestionan infraestructura. Cuando son comprometidos, el da\u00f1o no es informativo: es operacional. Esta categor\u00eda documenta c\u00f3mo fallan, c\u00f3mo se manipulan y qu\u00e9 ocurre cuando un sistema aut\u00f3nomo act\u00faa en nombre de alguien que no sabe que ha sido atacado.<\/p>\n<\/div>\n\n\n

\n

La tesis<\/p>\n

\n
\n

El problema no es la IA<\/h3>\n

Los agentes aut\u00f3nomos heredan todas las vulnerabilidades de los LLMs \u2014prompt injection, memory poisoning, model manipulation\u2014 pero las amplifican. Una instrucci\u00f3n inyectada en un chatbot contamina una conversaci\u00f3n. La misma instrucci\u00f3n en un agente puede ejecutar acciones irreversibles.<\/p>\n <\/div>\n

\n

El problema es la autonom\u00eda<\/h3>\n

La autonom\u00eda transforma el vector de ataque. Ya no basta con enga\u00f1ar al modelo: hay que comprometer la cadena de decisi\u00f3n completa. Y cuando el agente tiene acceso a herramientas reales, el per\u00edmetro de ataque se expande a todo lo que ese agente puede tocar.<\/p>\n <\/div>\n

\n

Confianza delegada<\/h3>\n

El usuario delega confianza al agente. El agente hereda permisos. Si alguien puede manipular al agente, hereda tambi\u00e9n esos permisos. Es el modelo de amenaza de la suplantaci\u00f3n de identidad, pero operando a velocidad de m\u00e1quina y a escala.<\/p>\n <\/div>\n

\n

Regulaci\u00f3n sin mapa<\/h3>\n

El EU AI Act clasifica los sistemas de alto riesgo, pero los agentes aut\u00f3nomos de uso general caen en zonas grises regulatorias. MITRE ATLAS empieza a taxonomizar los vectores. Las organizaciones llevan meses desplegando lo que a\u00fan no saben c\u00f3mo defender.<\/p>\n <\/div>\n <\/div>\n<\/div>\n\n\n

\n
\n \u00abUn prompt injection en un chatbot da\u00f1a una respuesta. El mismo ataque en un agente con acceso a tu correo, tu calendario y tu c\u00f3digo puede da\u00f1ar tu organizaci\u00f3n.\u00bb\n \u2014 Enfoque editorial \u00b7 RosmarOps<\/cite>\n <\/blockquote>\n<\/div>\n\n\n
\n

Qu\u00e9 cubre esta categor\u00eda<\/p>\n

\n
\n
\u26d3<\/div>\n

Compromiso de agentes<\/h4>

Casos reales y vectores documentados de agentes comprometidos mediante prompt injection, memory poisoning e indirect XPIA. C\u00f3mo se explota la confianza delegada.<\/p><\/div>\n <\/div>\n

\n
\ud83d\udd27<\/div>\n

Agentes con herramientas reales<\/h4>

An\u00e1lisis de sistemas ag\u00e9nticos con acceso a APIs, c\u00f3digo, correo e infraestructura. Qu\u00e9 ocurre cuando el agente puede actuar, no solo responder.<\/p><\/div>\n <\/div>\n

\n
\ud83d\uddc2<\/div>\n

Taxonom\u00eda MITRE ATLAS<\/h4>

Aplicaci\u00f3n de la taxonom\u00eda MITRE ATLAS a sistemas ag\u00e9nticos: AML.T0051, AML.T0080 y t\u00e9cnicas emergentes. Del paper al escenario operativo real.<\/p><\/div>\n <\/div>\n

\n
\u2696\ufe0f<\/div>\n

Regulaci\u00f3n y marcos de riesgo<\/h4>

EU AI Act, NIST AI RMF y est\u00e1ndares emergentes aplicados a agentes de alto riesgo. Qu\u00e9 obliga la regulaci\u00f3n, qu\u00e9 no alcanza y d\u00f3nde est\u00e1n las zonas grises.<\/p><\/div>\n <\/div>\n

\n
\ud83c\udf10<\/div>\n

Agentes como infraestructura de informaci\u00f3n<\/h4>

Intersecci\u00f3n con information warfare: cuando el agente act\u00faa como intermediario de decisi\u00f3n y puede ser convertido en vector de desinformaci\u00f3n o sabotaje operacional.<\/p><\/div>\n <\/div>\n <\/div>\n<\/div>\n\n\n

\n

Qu\u00e9 lo diferencia del resto<\/p>\n

\n
\n

Lo que ya existe<\/p>\n