J'ai testé la nouvelle application de bureau d'Unsloth, et désormais, impossible de revenir à LM Studio, Ollama ou AnythingLLM


Résumé : Lancée en août 2026, l'application de bureau gratuite et open-source Unsloth Desktop unifie l'écosystème de l'IA locale en regroupant au sein d'une même interface la gestion de modèles optimisés par quantification dynamique, des options de configuration et d'ergonomie avancées, ainsi qu'un pipeline de fine-tuning et de création de jeux de données sans code.

Lorsque vous utilisez des LLM locaux pour des flux de travail réels, vos programmes d'IA locaux finissent généralement par être utilisés en alternance, car aucun outil ne couvre à lui seul tous vos besoins. Je passe généralement de LM Studio pour les chats informels à AnythingLLM pour les flux de travail RAG, en passant par llama.cpp pour les fonctionnalités avancées, et bien d'autres encore. On se retrouve donc avec toute une série d'outils différents pour des tâches différentes.

Unsloth est simplement un nom que je connais grâce à leurs modèles quantiques. Les fichiers GGUF marqués « UD » sur Hugging Face servent à alimenter ma configuration LM Studio depuis que je l’ai installée, et je fais généralement davantage confiance à l’un de leurs modèles quantifiés dynamiques qu’à pratiquement n’importe quel équivalent. Lorsqu’ils ont lancé leur propre application de bureau en août, je me suis dit que si quelqu’un devait créer une bonne application d’IA locale, ce serait bien l’équipe qui développait déjà les modèles que j’utilise.

Si vous avez déjà téléchargé un fichier GUFF dont le nom contient « UD », vous avez déjà utilisé Unsloth

Le nom « Unsloth » vous dit peut-être déjà quelque chose, même si vous n’avez jamais installé aucun de leurs outils. À l’origine, il s’agissait d’une bibliothèque Python open source créée par deux frères, Daniel et Michael Han, qui permettait d’accélérer le fine-tuning des LLM d’environ deux fois, tout en consommant environ 70 % de VRAM en moins et sans perte de précision. C’est grâce à cette réputation que tous ceux qui effectuent du fine-tuning sans budget cloud finissent généralement par adopter cette solution, ou encore ceux qui disposent simplement d’un matériel plus limité.

Au fil du temps, ils sont également devenus l’un des plus grands éditeurs de modèles GGUF sur Hugging Face. Les fichiers « Unsloth Dynamic » (ceux dont le nom de fichier contient UD-Q4_K_XL ou UD-IQ1_S) sont les leurs, et la plupart d’entre nous les utilisons probablement depuis un certain temps déjà sans vraiment nous demander d’où ils proviennent.

Unsloth Desktop a été lancé en version bêta le 10 août 2026 pour Mac, Windows et Linux ; il est gratuit et open source. C’est la première fois que l’équipe propose une application native permettant d’exécuter et d’entraîner des modèles en local, mais la technologie utilisée est celle développée depuis des années. Compte tenu de leurs réalisations passées, j’avais donc un bon pressentiment à ce sujet avant même de l’installer.

La philosophie est assez claire : il s’agit d’un espace de travail unique pour l’ensemble de la pile d’IA locale. Vous disposez donc désormais au même endroit de votre chat, de la gestion des modèles, du fine-tuning, de la génération, ainsi que des connexions aux agents et de l’accès à distance. 

Télécharger les « Unsloth Quants » depuis l'application Unsloth

Le hub des modèles est le catalogue d'Unsloth, sélectionné par leurs soins, et filtrable en fonction de ce qui correspond réellement à mon matériel. Il a également récupéré tous les modèles que j'avais déjà sur mon disque dur provenant de mes autres programmes, ce qui m'a évité de devoir les réimporter ou de chercher dans mes dossiers. Cela peut sembler anodin, mais cela signifie que le passage à Unsloth est rapide et facile.

Unsloth utilise une technique appelée « quantification dynamique » qui quantifie de manière sélective les différentes couches à des niveaux de bits différents, au lieu de tout compresser de manière uniforme. C’est pourquoi un UD-Q4_K_XL offre souvent de meilleures performances qu’un Q4 standard, tout en étant à peu près de la même taille, voire légèrement plus petit. Leurs nouvelles quantifications « Dynamic v3.0 » (que le Model Hub met en avant en priorité) revendiquent une précision supérieure de plus de 10 % à celle d’autres quantifications de même taille, et Unsloth est l’une des rares sources auxquelles je fais réellement confiance pour les quantifications inférieures à 4 bits de modèles MoE gigantesques comme DeepSeek ou Kimi.

Comme il s’agit de l’application propre à Unsloth, vous bénéficiez également d’une prise en charge « Day Zero » pour les nouvelles versions. Lorsqu’un gros modèle est publié, il est généralement déjà opérationnel sur cette plateforme avant même que le catalogue de LM Studio ne l’ait indexé. Le hub de LM Studio est une simple passerelle vers Hugging Face : les bons quants dynamiques y sont bien présents, mais il faut les chercher. Le répertoire d’Ollama est à la traîne et ne les propose pas de manière fiable. Quant à AnythingLLM, il ne s’occupe absolument pas de la gestion des modèles. 

Le niveau de contrôle dont vous disposez est incroyable

Les paramètres des modèles constituent depuis toujours le point fort de LM Studio, et le panneau de configuration par modèle d’Unsloth est tout aussi complet. Il propose le type de données du cache KV, le décodage spéculatif, le parallélisme tensoriel, la taille des lots et des micro-lots, l’allocation de mémoire GPU et un curseur de budget VRAM, un éditeur de modèles de conversation, ainsi que des arguments CLI supplémentaires transmis à llama-server.

Viennent ensuite les paramètres de comportement du chat, un domaine que LM Studio et Ollama abordent à peine. Choix entre mise en file d’attente et redirection des messages lorsque vous envoyez un message pendant une réponse, éditeur de texte brut ou formaté, compaction automatique des longs chats atteignant la limite de contexte, compression automatique des longs collages en pièces jointes .txt, et mémorisation des paramètres par modèle. Ce sont là de petits détails ergonomiques que vous ne remarquerez probablement pas avant d’avoir utilisé l’outil pendant quelques jours.

L’interface utilisateur elle-même est également extrêmement personnalisable, avec une largeur de chat réglable, une mise à l’échelle sur le bureau, un mode d’édition compact et un moniteur système flottant affichant en temps réel l’utilisation du processeur, de la RAM, de la VRAM et du disque. Et puis il y a les contrôles d’autorisation. Chaque appel d’outil, qu’il s’agisse d’une recherche sur le Web, de l’exécution de code, de l’accès à un fichier ou d’une action MCP, dispose d’un niveau d’autorisation avec les options « Approuver », « Toujours approuver » ou « Refuser ». Ce système est identique à celui de Claude Code ou Codex ; il ne s’agit pas d’une fonctionnalité proposée par LM Studio ou Ollama, et AnythingLLM ne la met en œuvre que de manière partielle. 

Enfin, il y a la fonctionnalité de discussion parallèle. Une nouvelle discussion peut démarrer alors que la précédente est encore en cours ; chaque conversation dispose de son propre indicateur de progression et de son bouton d’arrêt, ce qui m’évite de devoir attendre des réponses lentes avant de passer à la session suivante.

Fine-tuning et création d'ensembles de données

C'est là que la comparaison avec LM Studio, Ollama et AnythingLLM perd tout son sens, car aucun de ces outils ne propose de processus d'entraînement. Unsloth Desktop est livré avec un pipeline d’entraînement complet sans code – par « entraînement », on entend ici le « fine-tuning », c’est-à-dire le fait de prendre un modèle open source existant et de le former sur vos propres données afin qu’il commence à répondre à vos besoins pour votre cas d’utilisation spécifique, qu’il s’agisse de votre domaine d’activité, des valeurs de votre marque ou de toute autre tâche pour laquelle vous en avez besoin.

Le réglage fin n’est pas une opération que j’effectue ou dont j’ai besoin tous les jours, mais c’est sans aucun doute l’une de ces fonctionnalités qu’il est agréable d’avoir. L’onglet « Train » prend en charge QLoRA (adaptateurs 4 bits, faible consommation de VRAM), LoRA (16 bits, meilleure qualité), le réglage fin complet et le pré-entraînement continu, le tout en utilisant les noyaux Unsloth qui permettent un entraînement deux fois plus rapide avec 70 % de VRAM en moins dans la bibliothèque. Il vous suffit donc de choisir votre modèle de base, d’importer votre jeu de données (CSV, JSONL, PDF, DOCX, TXT, MD) et de sélectionner une méthode.

Il y a ensuite « Data Recipes », qui s’associe parfaitement à l’entraînement et que je trouve tout simplement géniale. Il s’agit d’un générateur visuel de flux de travail basé sur des nœuds, permettant de transformer des documents bruts en jeux de données prêts pour l’entraînement, optimisé par le NeMo Data Designer de NVIDIA. Pour mes projets de design, cela signifie que je peux simplement lui indiquer mes anciens briefs et références, et le laisser structurer un ensemble de données pour moi à partir de ces éléments. Malheureusement, l’entraînement en local nécessite toujours un matériel suffisamment puissant. Ma RTX 3070 avec 8 Go de VRAM gère QLoRA sur des modèles plus petits, mais je ne peux évidemment pas y effectuer le réglage fin d’un modèle de 27 milliards de paramètres. 

Unsloth vient de faire ce que les autres n’ont jamais pris le temps de faire

Il y aura toujours des flux de travail pour lesquels j’aurai recours à LM Studio, Ollama et AnythingLLM, mais la plupart de ces tâches peuvent désormais être effectuées dans une seule fenêtre grâce à Unsloth. J’ajouterais simplement que, comme cette application est en version bêta, les mises à jour se succèdent à un rythme assez soutenu ; ainsi, ce qui lui manque aujourd’hui a de fortes chances d’apparaître dans les notes de mise à jour de la prochaine version. 

traduction de : https://www.xda-developers.com/tested-unsloth-new-desktop-app/ 

0 Commentaires

Les commentaires sont validés manuellement avant publication. Il est normal que ceux-ci n'apparaissent pas immédiatement.

Enregistrer un commentaire

Les commentaires sont validés manuellement avant publication. Il est normal que ceux-ci n'apparaissent pas immédiatement.

Post a Comment (0)

Plus récente Plus ancienne