La seguridad en las aplicaciones basadas en inteligencia artificial se ha convertido en un pilar fundamental para cualquier organización que integre modelos de lenguaje de gran escala (LLM) en sus flujos de trabajo. Un aspecto crítico que a menudo pasa desapercibido es la gestión de las plantillas de prompts, especialmente cuando se utilizan motores de plantillas como Handlebars, ampliamente adoptado en frameworks como Semantic Kernel de Microsoft. El problema radica en que la interpolación de datos controlados por el usuario puede introducir delimitadores de roles, abriendo la puerta a ataques de inyección estructural. Este tipo de vulnerabilidad no solo compromete la integridad de la conversación, sino que puede derivar en la ejecución de acciones no autorizadas o la filtración de información sensible.
Handlebars ofrece dos modos de interpolación: doble llave {{x}} (escapada por defecto) y triple llave {{{x}}} (sin escape). La versión escapada solo neutraliza caracteres como los paréntesis angulares (< >), pero deja intactos otros símbolos clave como corchetes, dos puntos y almohadillas de Markdown. Esto significa que mientras algunos formatos de roles (como ChatML o XML) quedan protegidos, otros como Llama-2 con [INST], el clásico Human:/Assistant: o los encabezados Markdown ### sobreviven sin alteración, permitiendo que un atacante inyecte instrucciones privilegiadas. En pruebas realizadas con modelos como GPT-3.5 Turbo, GPT-4o mini y Claude Haiku, se observó que la tasa de éxito de secuestro de tareas era superior al 90% en los casos donde los delimitadores no eran escapados, mientras que Claude mostró una resistencia casi total. Este hallazgo subraya la necesidad de un enfoque más robusto que la mera aplicación de escapes HTML.
Desde una perspectiva empresarial, integrar soluciones de inteligencia artificial para empresas requiere no solo elegir los modelos adecuados, sino también garantizar que la infraestructura de prompts esté diseñada para resistir manipulaciones. En Q2BSTUDIO, como empresa de desarrollo de software y tecnología, entendemos que la ciberseguridad no es un añadido, sino un componente inherente al ciclo de vida del software. Por eso, al desarrollar aplicaciones a medida que utilicen LLM, recomendamos implementar una separación estructural clara entre instrucciones y datos, evitando depender exclusivamente de mecanismos de escape superficiales. Nuestros servicios en ciberseguridad y pentesting incluyen la auditoría de sistemas de prompt engineering, identificando vectores de ataque como la inyección de roles que aquí se analiza.
Además, para las organizaciones que despliegan estos sistemas en entornos cloud, la combinación de servicios cloud AWS y Azure con agentes IA bien configurados puede mitigar riesgos asociados a la inyección de prompts. También ofrecemos servicios de inteligencia de negocio con Power BI que permiten monitorizar el comportamiento de los modelos en producción, detectando anomalías que podrían indicar un ataque. La lección clave es que la vulnerabilidad no es del modelo en sí, sino del contexto en el que se inserta la entrada del usuario. Por ello, al construir automatización de procesos con IA, hay que diseñar prompts con un sandboxing adecuado, validar los datos de entrada y, en lo posible, utilizar formatos de roles que no dependan de caracteres escapables. Solo así se logra una defensa profunda frente a la inyección estructural de roles en LLM.
