SFEIR
Technologie

ZML

Pile d'inférence LLM haute performance de l'écosystème Scaleway, pour servir des modèles ouverts en souveraineté.

Servir des modèles ouverts en souveraineté

ZML est une pile d'inférence haute performance associée à l'écosystème Scaleway, destinée à servir des modèles de langage ouverts sur une infrastructure européenne. Elle s'inscrit dans l'effort de souveraineté : faire tourner l'inférence chez soi, sur du matériel maîtrisé, plutôt que via des API extraterritoriales.

Questions fréquentes

À quoi sert une pile d'inférence comme ZML ?

À exécuter des modèles de langage efficacement sur sa propre infrastructure : c'est la couche qui transforme des poids de modèle en service utilisable. Pour la souveraineté, disposer d'une inférence performante hébergée en Europe évite de dépendre d'API soumises à un droit extraterritorial.

Articles liés