KServe devient projet en incubation de la CNCF, pour l'inférence IA sur Kubernetes

2025-09-29 · Éditeur : CNCF · Domaine : Cloud & DevOps

Le 29 septembre 2025, la CNCF accepte KServe en incubation : la plateforme d'inférence IA générative et prédictive sur Kubernetes, née en 2019, s'intègre à llm-d, à Envoy AI Gateway et à Gateway API.

### Ce qui change Le 29 septembre 2025, le comité technique de la CNCF vote l'acceptation de **KServe** au niveau **Incubating** ; la CNCF publie l'annonce détaillée le 11 novembre 2025. KServe est une plateforme d'inférence IA, générative et prédictive, pour des déploiements multi-frameworks sur Kubernetes. Le projet est né en 2019 d'un travail commun de Google, IBM, Bloomberg, NVIDIA et Seldon, avant son passage par la LF AI & Data en 2022. ### Caractéristiques - Historique : issu de Kubeflow (KFServing), donné à la LF AI & Data en février 2022, rebaptisé KServe en septembre 2022, puis accepté par la CNCF en septembre 2025. - Fonctions citées : autoscaling avec mise à l'échelle à zéro, inférence multi-nœuds pour les grands modèles, pipelines d'inférence, routage et explicabilité. - Intégrations : llm-d (service désagrégé, cache de préfixes, nouvelle ressource `LLMInferenceService`), Envoy AI Gateway depuis KServe v0.15, Gateway API et Envoy Gateway. - Utilisateurs cités : Bloomberg, Red Hat, Cloudera, CyberAgent, Nutanix, SAP et NVIDIA. - Chiffres du dossier : plus de 300 contributeurs, 19 mainteneurs et plus de 30 entreprises adoptantes. ### Pourquoi c'est important Pour les plateformes d'IA sur Kubernetes, KServe est l'une des briques candidates pour servir des modèles de façon standard, sans s'enfermer chez un fournisseur. L'incubation signale un projet qui a franchi les premiers critères de maturité, mais pas encore le dernier niveau. Les ESN qui construisent des plateformes d'inférence doivent regarder son alignement avec llm-d et Gateway API, qui dessinent une pile cloud native de l'inférence. ### À retenir KServe rejoint la CNCF : l'inférence IA devient un sujet de premier plan de la fondation, au-delà de l'entraînement.

Tags : Kubernetes, IA, Open Source, Cloud natif, NVIDIA