Deriva de alineación en LLMs multimodales: una evaluación longitudinal de dos fases de los daños a través de ocho lanzamientos de modelos

El desarrollo de modelos de lenguaje multimodales ha cobrado gran relevancia en la actualidad, especialmente en aplicaciones de inteligencia artificial. Estos modelos, como GPT y Claude Sonnet, son ampliamente utilizados en una variedad de sistemas del mundo real. Sin embargo, su seguridad frente a provocaciones adversas ha sido un tema poco explorado hasta ahora. En Q2BSTUDIO, empresa especializada en el desarrollo de software a medida, entendemos la importancia de garantizar la integridad y el rendimiento de estos modelos ante posibles ataques. Es por ello que resulta fundamental llevar a cabo una evaluación exhaustiva de su nivel de vulnerabilidad a través de un enfoque longitudinal en dos fases. En la primera fase de evaluación se puso a prueba a modelos como GPT-4o, Claude Sonnet 3.5, Pixtral 12B y Qwen VL Plus mediante una serie de 726 provocaciones adversas diseñadas por 26 profesionales expertos. En la segunda fase, se evaluaron sus sucesores (GPT-5, Claude Sonnet 4.5, Pixtral Large y Qwen Omni) a través de 82,256 valoraciones de daño humano. Los resultados revelaron diferencias significativas entre las familias de modelos. Por un lado, los modelos Pixtral mostraron ser los más vulnerables de manera consistente, mientras que los modelos Claude parecían ser los más seguros debido a sus altas tasas de rechazo. Además, se observó un cambio en las tasas de éxito de los ataques (ASR) a lo largo de las generaciones, con un aumento en los modelos GPT y Claude y una disminución en Pixtral y Qwen. Es importante destacar que los efectos de modalidad también experimentaron variaciones con el tiempo, lo que subraya la necesidad de contar con benchmarks longitudinales y multimodales para monitorear el comportamiento de estos modelos en términos de seguridad. En Q2BSTUDIO, además de ofrecer servicios de desarrollo de aplicaciones a medida, ciberseguridad y servicios cloud AWS y Azure, nos mantenemos atentos a las últimas tendencias en inteligencia artificial para empresas. Nuestro enfoque en la innovación y la excelencia nos permite estar a la vanguardia en la implementación de soluciones basadas en IA, como agentes IA y Power BI, para impulsar el crecimiento y el éxito de nuestros clientes. Para obtener más información sobre nuestros servicios y cómo podemos ayudar a tu empresa a potenciar su negocio a través de la inteligencia artificial, no dudes en visitar nuestra página web. En Q2BSTUDIO, estamos comprometidos en brindar soluciones tecnológicas avanzadas y seguras para satisfacer las necesidades de nuestros clientes en un entorno empresarial en constante evolución.