IBM : les modèles open weight dominent l'on-prem

Original : IBM CEO says open weight models are now good and cheap on-prem

Pourquoi c'est important

Le basculement vers l'open weight redéfinit les marges et les choix d'infrastructure enterprise.

Le PDG d'IBM Arvind Krishna affirme que les modèles open weight atteignent 90 % des performances des modèles fermés à 10 % du coût, rendant l'IA on-prem très attractive pour les entreprises, selon le call Q3 d'IBM.

Lors du call résultats Q3 d'IBM, Arvind Krishna a dressé un bilan saisissant de l'évolution des modèles open weight. En 2024, l'écart avec les modèles fermés était abyssal : un top modèle propriétaire scorait 70 sur un benchmark large, contre 20 à 30 pour un modèle ouvert. Fin 2025, cet écart s'est resserré à 70 contre 50. Aujourd'hui, selon Krishna, les modèles open weight tournent « entre 10 et 25 % du coût en tokens des modèles frontier », tout en étant « 90 % aussi efficaces ». L'argument commercial est limpide : pour résumer un email, analyser un contrat ou gérer un appel client, payer dix fois moins pour un résultat quasi identique devient difficile à refuser. IBM observe une demande en forte hausse pour les infrastructures IA on-prem — deux ou trois racks suffisent dans la plupart des cas, selon le CEO. Mais le vrai problème reste l'exécution : trouver des ingénieurs kernel, gérer la proximité réseau des GPU, optimiser le cache. IBM entend répondre avec des logiciels dédiés, sans avoir encore détaillé l'offre.

Source

theregister.com — Lire l'original →