HammerAI permet d'exécuter des modèles d'IA localement sur votre ordinateur afin de chatter avec personnages incarnés par l'intelligence artificielle. Il fonctionne localement sur votre ordinateur, sans inscription, ce qui signifie que toutes les discussions restent totalement confidentielles car aucun traitement n'est effectué sur internet.
Les seules données collectées concernent l'utilisation des services, telles que les pages visitées et les requêtes API.
Les conversations NSFW sont autorisées et des modèles open-source non-censurés sont proposés à cette fin.
Pour des échanges fluides avec l'IA, le programme recommande de télécharger un modèle avec une quantification maximale de Q4.
Ayant testé plusieurs modèles avec le même personnage, je vous recommande particulièrement les modèles Openhermes 2.5 Mistral 7B ou Llama 2 - Nous-Hermes 13B.
Le modèle Thespis Mistral 7B v0.6 est assez lent pour la génération de texte, le modèle Pygmalion 2 7B ne respecte pas le rôle du personnage sélectionné, et le modèle Toppy M 7B donne des réponses hors sujet.
De manière générale, le français est mal pris en charge par les modèles proposés. Pour une expérience de jeu de rôle plus personnalisable mais à l'attention d'utilisateurs plus avertis, vous pouvez opter pour l'application KoboldCpp.
Les conversations peuvent se dérouler via HammerAI depuis un navigateur Chrome, mais il est préférable d'utiliser la version de bureau disponible pour MacOS, Windows et Ubuntu (.deb).
