ggml atteint la version 1.0.0

Original : Ggml v1.0.0

Pourquoi c'est important

ggml est le moteur sous-jacent de l'inférence locale pour des millions d'utilisateurs.

La bibliothèque ggml, moteur de calcul tensoriel en C utilisé par llama.cpp et Whisper.cpp, publie sa version 1.0.0 sur GitHub, marquant une première version stable officielle.

ggml, la bibliothèque de calcul tensoriel en C développée par Georgi Gerganov, franchit le cap de la version 1.0.0. Utilisée comme socle technique par des projets majeurs comme llama.cpp et Whisper.cpp, elle permet l'inférence locale de modèles de langage et de reconnaissance vocale sur CPU, avec support optionnel GPU. Cette sortie en version stable signale une maturité de l'API et une stabilité accrue pour les développeurs qui l'intègrent dans leurs propres outils. La bibliothèque est écrite en C pur, sans dépendances lourdes, ce qui en fait un choix privilégié pour les environnements embarqués et les déploiements sur matériel grand public. Le passage à 1.0.0 indique que l'équipe considère l'interface publique suffisamment stable pour des engagements de compatibilité à long terme.

Source

github.com — Lire l'original →