Les captures montrent les pages officielles à la date indiquée et peuvent différer de celles de la publication. Sélectionnez une image pour l’agrandir.
L'entreprise chinoise d'IA Moonshot AI (月之暗面) a publié sur Hugging Face, avant l'échéance du 4 novembre qu'elle avait annoncée, les poids (les données qui constituent le modèle lui-même) de « Kimi K3.1 Pro », le modèle d'IA dévoilé en octobre. D'après les données de Hugging Face, l'espace de stockage (le dépôt) a été créé le 2 novembre (UTC). Aucune inscription ni demande d'accès n'est nécessaire : tout le monde peut les télécharger. CoAI avait signalé cette publication comme prévue lors du lancement d'octobre, et elle a eu lieu dans les délais.
Le modèle publié
D'après la fiche du modèle sur Hugging Face, sa configuration est la suivante.
- Architecture : MoE de 2 800 milliards de paramètres au total, dont 104 milliards actifs par token (un mécanisme qui sélectionne 16 experts sur 896)
- Longueur de contexte : environ 1 million de tokens
- Entrées : texte et images (la partie de lecture d'images compte environ 400 millions de paramètres)
- Format : poids sur 4 bits (MXFP4) et valeurs intermédiaires de calcul sur 8 bits (MXFP8), le modèle ayant été entraîné en fonction de ce format
- Taille : répartie en 96 fichiers, pour un total d'environ 1,56 To
- Moteurs d'inférence compatibles : vLLM, SGLang, TokenSpeed
La profondeur de réflexion se règle sur trois niveaux, « low », « high » et « max », max étant la valeur par défaut. Le 5 novembre, un correctif a retiré un réglage inutilisable (medium).
Conditions de la licence
Les poids ne sont pas publiés sous une licence open source classique, mais sous la « Kimi K3.1 Pro License », propre à Moonshot AI. L'usage commercial est autorisé dans les grandes lignes, mais les services de grande taille sont soumis aux conditions suivantes.
- Les entreprises exerçant une activité de fourniture de modèles d'IA à des tiers (MaaS) dont le chiffre d'affaires total, filiales comprises, dépasse 20 millions de dollars sur une période quelconque de 12 mois consécutifs doivent conclure un contrat séparé avec Moonshot AI avant tout usage commercial
- Pour les produits ou services de plus de 100 millions d'utilisateurs mensuels ou dont le chiffre d'affaires mensuel dépasse 20 millions de dollars, il faut afficher « Kimi K3.1-Pro » de manière bien visible à l'écran
L'usage interne en entreprise et l'usage via les produits officiels de Moonshot AI ou des services d'inférence certifiés ne sont pas soumis à ces conditions.
Les capacités de cyberattaque
Dans son annonce d'octobre, Moonshot AI avait expliqué avoir retiré, dans la version dont les poids sont publiés, les données liées aux cyberattaques de deux phases de l'entraînement. Selon son évaluation interne, la part des problèmes liés aux attaques que le modèle parvient à résoudre est passée de 90,5 % à 81,0 %.
Le regard de CoAI
Kimi K3.1 Pro est présenté par Moonshot AI comme « son modèle à poids ouverts de la classe des 3 000 milliards de paramètres le plus performant à ce jour », et sa publication dans les délais annoncés renforce la confiance envers l'entreprise. Avec 1,56 To, il ne s'agit toutefois pas d'un modèle que l'on peut faire tourner sur un ordinateur personnel. Pour l'exécuter, il faut des serveurs équipés de nombreux GPU haut de gamme.
Pour beaucoup d'entreprises, les principaux avantages de la publication des poids sont de pouvoir faire tourner le modèle sur leurs propres serveurs sans faire sortir leurs données, et de pouvoir vérifier elles-mêmes ses performances. La licence ne devrait guère être contraignante en dehors des services à grande échelle, mais ses conditions diffèrent de celles de l'open source classique. Avant de l'utiliser, lisez le texte intégral de la licence.
