Installer une IA non censuré et portable sur une clé usb

La protection de la vie privée et la dépendance aux connexions internet sont devenues des enjeux majeurs lors de l'utilisation des intelligences artificielles modernes. Le projet libre Portable AI USB apporte une solution simple en permettant d'exécuter un assistant IA complet, performant et totalement confidentiel directement depuis une clé USB.

Un fonctionnement cent pour cent local

Le principal atout de ce projet réside dans son architecture logicielle nomade. Contrairement aux services classiques basés sur le cloud, toutes les requêtes sont traitées en local. Aucune donnée ne quitte la clé USB et aucune trace historique ou fichier temporaire n'est conservé sur la machine d'accueil après la fermeture du programme.

Une fois la configuration initiale effectuée, l'appareil fonctionne sans aucune connexion réseau, ce qui le rend idéal pour une utilisation en déplacement ou dans des zones blanches. 

Compatibilité multiplateforme

Le système a été conçu pour être transparent et s'adapter aux habitudes de chaque utilisateur grâce à l'intégration de l'interface AnythingLLM. Il est pleinement compatible avec les environnements suivants : 

  • Windows : lancement via un script automatisé qui nettoie le cache à chaque démarrage pour éviter les erreurs de chemin d'accès entre deux PC.
  • Mac : intégration native avec téléchargement automatique du moteur d'exécution dédié.
  • Linux : exécution sécurisée par un script de vérification de l'intégrité du support.

Pour en profiter, il suffit de se munir d'une clé USB d'une capacité minimale de 16 Go (32 Go ou 64 Go étant fortement recommandés si vous souhaitez installer plusieurs modèles simultanément), préalablement formatée sous le système de fichiers exFAT pour garantir la compatibilité entre tous les systèmes d'exploitation.

Une large sélection de modèles intégrés

Lors de la première configuration, un menu interactif propose de télécharger parmi six modèles d'intelligence artificielle optimisés, répartis en deux grandes catégories selon vos besoins :

  • NemoMix Unleashed 12B (~7.0 Go) et Dolphin 2.9 Llama 3 8B (~4.9 Go) : ces modèles sont classés comme non censurés. Ils sont parfaits pour obtenir des réponses exhaustives sans aucun filtre de contenu appliqué par les créateurs. Le modèle NemoMix est d'ailleurs le plus recommandé pour sa qualité globale.
  • Mistral 7B Instruct v0.3 (~4.1 Go) : un modèle standard, particulièrement performant pour le raisonnement logique et la génération de code informatique.
  • Qwen 2.5 7B Instruct (~4.7 Go) : idéal pour les utilisateurs nécessitant un support multilingue avancé.
  • Llama 3.2 3B et Phi-3.5 Mini : des versions très légères (environ 2 Go) conçues pour s'exécuter rapidement, même sur des ordinateurs anciens dotés d'une configuration matérielle limitée.

Le script offre également la possibilité d'importer vos propres modèles personnalisés au format standardisé GGUF en fournissant simplement un lien de téléchargement direct depuis la plateforme HuggingFace. 

Une installation accessible à tous

L'installation ne requiert aucune compétence technique particulière. Après avoir copié les fichiers du projet sur la clé USB, le script d'installation guide l'utilisateur pas à pas. Le seul point d'attention requis consiste à bien sélectionner le répertoire de la clé USB lors de l'installation de l'interface graphique afin de préserver la portabilité totale du système. L'utilisation quotidienne se résume ensuite à lancer le script de démarrage et à fermer proprement la console avant de retirer la clé. 

https://github.com/techjarves/Portable-AI-USB 

0 Commentaires

Les commentaires sont validés manuellement avant publication. Il est normal que ceux-ci n'apparaissent pas immédiatement.

Enregistrer un commentaire

Les commentaires sont validés manuellement avant publication. Il est normal que ceux-ci n'apparaissent pas immédiatement.

Post a Comment (0)

Plus récente Plus ancienne