Escalando IA/ML con Rafay en EKS

Q2BSTUDIO transforma AI on EKS en plantillas Rafay para desplegar IA con gobernanza, autoservicio y escalabilidad multiclúster, soluciones a medida en IA y cloud AWS/Azure.

11 sept 2025 • 3 min read • Q2BSTUDIO Team

Inteligencia-Artificial-

En Q2BSTUDIO ayudamos a empresas a escalar sus cargas de trabajo de inteligencia artificial y machine learning usando arquitecturas comprobadas como AI on EKS y automatizando su despliegue con plantillas de Rafay para convertir soluciones complejas en capacidades de autoservicio.

AI on EKS es la propuesta de AWS para ejecutar cargas de IA/ML de forma escalable sobre Amazon EKS. Provee componentes preconfigurados y buenas prácticas para problemas habituales como aprovisionamiento de infraestructura, gestión de jobs de entrenamiento e inferencia, asignación eficiente de recursos y monitorización y logging. La versión original incluye código Terraform para definir la infraestructura como código, lo que garantiza consistencia y repetibilidad.

Partiendo de esa base, transformamos la pila Terraform de AI on EKS en Resource y Environment Templates de Rafay. Esta adaptación aporta mayor automatización, gobernanza y facilidad de uso para equipos múltiples, permitiendo que desarrolladores y científicos de datos consuman infraestructuras complejas sin necesidad de manejar Terraform directamente.

Visión técnica resumida del stack implementado mediante plantillas Rafay:

Networking La capa de red crea un VPC dedicado con subredes públicas y privadas distribuidas entre zonas de disponibilidad, tablas de ruteo y grupos de seguridad que permiten la comunicación interna del clúster y controlan el tráfico hacia externos.

EKS Cluster Se aprovisiona el clúster EKS con la versión de Kubernetes definida, configuración del plano de control y grupos de nodos gestionados. Habitualmente se usan al menos dos node groups: un core node group para addons críticos con taints que garantizan aislamiento y un general purpose node group para workloads generales y agentes de terceros. También se crean roles IAM para integración con CloudWatch y controladores CSI como EBS.

Addons Sobre el clúster se instalan addons esenciales y específicos para datos y AI: AWS Load Balancer Controller, EFS CSI Driver, Ingress NGINX, Kube-Prometheus-Stack para métricas y alertas, Karpenter para provisión dinámica de nodos, KubeRay para orquestar Ray, Kubecost para control de costes y recursos Karpenter dirigidos a familias de instancias CPU y GPU con taints para cargas que requieren aceleradores.

Almacenamiento y clases Se configura gp3 como storage class por defecto y se integran volúmenes gestionados según las necesidades de entrenamiento e inferencia.

Gestionar todo esto mediante Rafay simplifica y estandariza el despliegue: las Resource Templates definen los recursos Kubernetes reutilizables y las Environment Templates describen entornos completos que se pueden desplegar por equipos con parámetros configurables. El resultado es una plataforma que facilita el escalado multiclúster y multirregión, aplica políticas de gobernanza y ofrece autoservicio para desarrolladores.

Beneficios clave adquiridos al transformar AI on EKS en plantillas Rafay:

Simplificación del despliegue Los equipos seleccionan una plantilla de entorno y Rafay automatiza el aprovisionamiento infra y la instalación de componentes AI/ML.

Escalabilidad mejorada Gestión centralizada para escalar cargas de IA/ML entre clusters y regiones.

Gobernanza y cumplimiento Plantillas que aplican políticas de seguridad y conformidad de forma reproducible.

Aceleración del onboarding Nuevos equipos se incorporan rápidamente usando configuraciones estandarizadas, reduciendo la carga operativa.

En Q2BSTUDIO somos una empresa de desarrollo de software y aplicaciones a medida especializada en inteligencia artificial, ciberseguridad, servicios cloud y soluciones de inteligencia de negocio. Ofrecemos software a medida y aplicaciones a medida para empresas que necesitan implementar IA para empresas, agentes IA, pipelines de datos y cuadros de mando con Power BI. Si quieres conocer nuestras capacidades en inteligencia artificial visita nuestros servicios de inteligencia artificial y para soluciones gestionadas en la nube revisa servicios cloud aws y azure.

Con nuestra experiencia en desarrollo a medida, seguridad y automatización podemos transformar arquitecturas como AI on EKS en soluciones operativas, seguras y replicables que impulsan iniciativas de IA empresarial, reducen costes operativos y aceleran la entrega de valor mediante prácticas DevOps y plantillas reutilizables.

Palabras clave integradas para mejorar posicionamiento: aplicaciones a medida, software a medida, inteligencia artificial, ciberseguridad, servicios cloud aws y azure, servicios inteligencia de negocio, ia para empresas, agentes IA, power bi.

A BREAK?

Play for a moment before you go

OUR SERVICES

How we can help you

Artificial intelligence

AI agents, chatbots, and intelligent assistants that automate tasks and serve your customers 24/7 to improve the efficiency of your business.

More info

Software Development

Web, mobile, and desktop applications, intranets, e-commerce, SaaS, and management platforms designed for your company's specific needs.

More info

Cloud services

Migration, infrastructure, managed hosting, high availability, and security on Microsoft Azure and Amazon Web Services to help your business scale without limits.

More info

Cybersecurity and pentesting

Security audits, penetration testing and protection of applications, data and infrastructure on-premise and cloud, with ethical hacking and regulatory compliance.

More info

Business Intelligence

Dashboards and data analysis with Power BI: we integrate your sources, design dashboards and KPIs and turn your data into decisions.

More info

Process automation

We automate repetitive tasks and connect your applications with n8n, Power Automate, Make, and RPA, eliminating manual work and increasing productivity.

More info

Training for Companies

We train your teams in technology with criteria: web development, databases, Git, best practices and security, automation with n8n, artificial intelligence for companies and creation of AI solutions with Azure AI Foundry.

More info

Code Auditing

We audit the code that you, your team or an AI create: we tell you what is good and what to improve, we secure it and make it ready for production, web or app.

More info

AI Image Generation

We create for you the images that your business needs with artificial intelligence: product, networks, advertising, illustration and avatars. You tell us what you want and we deliver it ready to use.

More info

AI Video Generation

We create videos with artificial intelligence for you: promotional, networking, virtual presenters, dubbing and animations. You tell us the idea and we will deliver it assembled and ready to publish.

More info

AI Conversational Avatars

We create conversational avatars with AI – digital humans with a face and voice – that serve your customers and teams with the knowledge of your company, on your website, interactive monitors, WhatsApp or Teams.

More info

Online Marketing and AI

Google Ads, Meta Ads, LinkedIn Ads and AI Engine Positioning (GEO/AEO): we attract customers and make your brand appear where they search for you, also on ChatGPT, Gemini and Perplexity.

More info

Do you have a project in mind?

Tell us your vision and we'll turn it into a software solution. Whatever the scope, we make your idea real.

Live Chat