IA sur votre ordinateur

Configurer l'IA : les cinq chemins

L'assistant Configurer l'IA s'ouvre avec le bouton Configurer l'IA… dans Paramètres → Assistants IA, avec le Connecter une IA… du chat vide et quand vous utilisez Ctrl+K sans aucune IA. La première page demande ce que vous voulez configurer :

• IA dans le cloud — OpenAI, Gemini, Anthropic et d'autres, avec une clé d'API. C'est le chemin le plus simple et celui de meilleure qualité, et il reste le choix recommandé par défaut. La page est la même que celle du connecteur : la connexion est testée avant d'être acceptée et la clé est stockée encodée uniquement sur cette machine.
• IA sur votre ordinateur — avec Ollama ou LM Studio — pour qui utilise déjà (ou veut utiliser) l'un de ces programmes. L'assistant indique si le programme est installé, arrêté ou en cours d'exécution, propose de l'installer, liste les modèles déjà installés et ceux recommandés à télécharger, avec la progression du téléchargement, et fait un test rapide.
• IA sur votre ordinateur — directement par LightNote — LightNote télécharge le programme officiel de llama.cpp et un modèle, et exécute les deux sans que vous ayez rien d'autre à installer. Avant le téléchargement, il indique ce que le modèle occupe sur le disque et en mémoire et mesure la vitesse sur votre ordinateur.
• Assistant en ligne de commande — Claude Code, Codex, Gemini CLI et d'autres, à utiliser dans le terminal. Dans le chat et dans Ctrl+K, ils répondent d'un seul bloc, sans streaming et sans les outils de LightNote.
• Recherche par sens — les embeddings qui permettent au Chat IA de trouver des notes d'après le sens de la question, calculés dans le cloud ou sur votre ordinateur.

Chaque chemin se termine sur la page Terminé, avec le nom de l'IA (c'est sous ce nom qu'elle apparaît dans le chat, dans Ctrl+K et dans les Paramètres), la liste des modèles et l'option Utiliser comme IA par défaut. Ouvert depuis les Paramètres, l'assistant n'enregistre que lorsque vous cliquez sur OK ; ouvert depuis un autre endroit, il enregistre à la fin. S'il existe déjà une ligne du même fournisseur encore sans clé, il la complète au lieu d'en créer une autre à côté.

Types de modèle, GGUF et quantification

Deux types de modèle. Un modèle de conversation (instruit, « instruct ») écrit : c'est lui qui répond dans le chat, dans Ctrl+K et dans l'IA du bloc. Un modèle d'embeddings n'écrit rien : il transforme chaque fragment de texte en un vecteur de nombres, et les textes de sens voisin obtiennent des vecteurs proches — c'est ce qui fait la recherche par sens. L'un ne remplace pas l'autre, et l'assistant ne propose que ceux du bon type sur chaque chemin.

GGUF. C'est le format de fichier unique que lisent llama.cpp, Ollama et LM Studio : les poids du modèle et sa description dans un fichier .gguf. La quantification consiste à stocker chaque poids avec moins de bits pour que le fichier soit plus petit et plus rapide. Le nom indique combien : Q8 utilise 8 bits par poids et reste très proche de l'original ; Q4 en utilise environ 4, occupe presque moitié moins et perd peu. Dans nos tests de recherche en portugais, le Q4 et le Q8 du même modèle ont fait jeu égal, et le Q4 a été près de deux fois plus rapide. C'est pourquoi le catalogue préfère Q4 (Q4_0 ou Q4_K_M).

Disque, mémoire, vitesse et carte graphique

Disque est la taille du fichier téléchargé, occupée tant que vous le conservez. Mémoire est ce que le modèle utilise tant qu'il est chargé : les poids plus l'espace de la conversation, un peu au-dessus de la taille du fichier. LightNote exécute le modèle dans un processus à part, qui n'existe que pendant que vous utilisez l'IA : après 5 minutes d'inactivité, il s'arrête tout seul et le système récupère toute la mémoire. La première question qui suit prend un peu plus de temps, car le modèle est rechargé — le chat affiche « Chargement du modèle… ». La vitesse dépend du processeur et de la taille du modèle : un modèle plus petit répond plus vite, le plus grand écrit mieux.

Processeur ou carte graphique. Par défaut, le modèle tourne sur le processeur, ce qui fonctionne sur n'importe quel ordinateur (avec AVX2, il est bien plus rapide). Sur la page du matériel, Utiliser la carte graphique (Vulkan) télécharge la version du programme qui utilise la carte graphique, de n'importe quel fabricant. Cela peut être plus rapide ou non, selon la carte : le test de performance à la fin montre la vitesse réelle, et changer plus tard revient simplement à refaire le chemin.

Où trouver des modèles et comment en utiliser un autre

Le plus simple est le catalogue de LightNote, sur la page Choisissez un modèle : chacun de ses fichiers a été vérifié par nous, avec taille et sha256, et la liste montre le disque, la mémoire, la licence et le badge de chacun. Ceux qui tiennent bien sur cet ordinateur apparaissent en premier. En dehors de lui, les modèles se trouvent sur Hugging Face (huggingface.co, cherchez « GGUF »), dans la bibliothèque d'Ollama (ollama.com/library) et dans le catalogue de LM Studio lui-même ; pour ces deux derniers, utilisez le chemin d'Ollama ou de LM Studio.

Utiliser un autre modèle. Dans Autre modèle…, collez l'adresse d'un fichier .gguf de Hugging Face (au format https://huggingface.co/proprietaire/depot/resolve/main/fichier.gguf) ou choisissez un .gguf qui se trouve déjà sur votre ordinateur. LightNote demande à Hugging Face la taille et le sha256 du fichier (sans le sha256, il refuse, car il n'aurait aucun moyen de vérifier le téléchargement) et lit l'en-tête du modèle pour estimer la mémoire. Avant de l'utiliser, vérifiez trois choses sur la page du modèle : la taille (un fichier plus grand que votre mémoire libre ne tourne pas), la licence et le type — pour la conversation, un modèle instruit (« instruct », « chat », « it ») ; pour la recherche par sens, un modèle d'embeddings (« embedding »). Préférez les fichiers publiés par l'auteur du modèle lui-même : une conversion mal faite peut même tourner et renvoyer des résultats absurdes.

Licences

Chaque modèle a sa propre licence, choisie par son auteur : Apache 2.0 et MIT permettent un usage libre ; les Gemma Terms of Use (d'EmbeddingGemma) et la Llama 3.2 Community License restreignent certains usages et exigent un avis. C'est pourquoi la page Conditions d'utilisation affiche la licence du modèle et celle du programme qui l'exécute (llama.cpp, MIT), avec le lien vers le texte complet, ainsi que l'avis exigé, le cas échéant, dans la langue d'origine. Pour continuer, cochez J'ai lu et j'accepte les conditions. LightNote ne redistribue aucun modèle : il télécharge le fichier directement à la source (Hugging Face, et le programme depuis le GitHub de llama.cpp) et vérifie le sha256 de chacun avant de l'utiliser. Un téléchargement interrompu reprend là où il s'est arrêté.

Test de performance et badge

Le badge. Dans la liste des modèles, Tient bien signifie que le modèle utilise moins de la moitié de la mémoire libre en ce moment ; Peut être lent, qu'il tient mais de justesse (plus de la moitié de la mémoire libre, ou un processeur sans AVX2) ; Ne tient pas, qu'il lui faudrait plus de 80 % de la mémoire libre — l'assistant ne permet pas de le choisir. La mémoire libre varie selon ce qui est ouvert : fermez les programmes lourds et le badge peut s'améliorer.

Le test de performance exécute le modèle une fois sur cet ordinateur, pour que vous voyiez ce qu'il coûte avant de l'adopter, et dit tout en langage simple : ce qu'il occupe sur le disque, la mémoire qu'il utilise tant qu'il est chargé, combien de mots il écrit par seconde et quelle part du processeur il a utilisée. Pour un modèle d'embeddings, il mesure combien de fragments il traite par seconde et combien de temps prendrait l'indexation du dossier ouvert. La phrase du haut résume : Bon pour converser, Utilisable, mais lent ou Lent sur cet ordinateur. La première mesure inclut le temps de chargement du modèle.

Recherche par sens dans le cloud ou sur l'ordinateur

Sur le chemin Recherche par sens, l'assistant demande où calculer. Dans le cloud (recommandé) : rapide ; seules les IA connectées qui calculent des embeddings apparaissent, et si aucune n'en calcule, il indique laquelle connecter. Le fournisseur facture par fragment lors de la première indexation et, ensuite, seulement ce qui change ; l'assistant montre combien de fragments contient le dossier. Sur votre ordinateur : gratuit et privé, mais plus lent, et utilise de la mémoire pendant l'indexation — directement par LightNote (avec les modèles d'embeddings du catalogue, EmbeddingGemma en premier) ou via Ollama. Le test indique combien de temps prendrait la première indexation du dossier.

L'indexation sur l'ordinateur s'exécute en arrière-plan, avec 2 cœurs et une priorité basse, pour ne pas vous disputer le processeur ; les suivantes ne refont que ce qui a changé. Changer de modèle réindexe le dossier : les vecteurs de modèles différents ne se comparent pas. L'ancien index est conservé, donc revenir au modèle précédent ne coûte rien. Les Paramètres affichent un résumé (modèle, où il s'exécute et combien de fragments sont indexés) avec Modifier…, qui rouvre l'assistant.

Liste de modèles et assistant mémorisé

Une liste de modèles par ligne. Chaque IA enregistrée est une ligne au nom unique, et le champ modèle accepte une liste : le premier est le préféré, et les suivants sont essayés, dans l'ordre, s'il échoue. Dans le tableau des Paramètres, séparez-les par des virgules ; dans l'assistant et dans le connecteur, utilisez les boutons monter, descendre et supprimer, et Rechercher les modèles… demande si le modèle choisi entre dans la liste ou la remplace. Votre liste s'applique même avec le changement automatique de modèle désactivé (le changement automatique ne fait qu'ajouter, après elle, les alternatives du catalogue). Quand le premier échoue et qu'un autre répond, une notification indique lequel a échoué, pourquoi et lequel a répondu ; cliquer dessus propose de retirer le modèle de la liste — LightNote ne modifie jamais votre liste de lui-même.

L'assistant mémorisé. Le chat, Ctrl+K, l'IA du bloc et les fenêtres d'IA retiennent le dernier assistant que vous avez choisi dans chacun, par fenêtre et par dossier, et le rétablissent à la réouverture de l'application — tant qu'il reste disponible. L'IA par défaut ne change pas pour autant : elle ne change que lorsque vous la modifiez dans les Paramètres. Dans les listes de choix, les IA apparaissent regroupées par fournisseur.

Comparer les réponses

Dans le chat, Comparer les réponses… (ou /compare avant la question) envoie la même question à 2 à 4 assistants en même temps, avec le même contexte du dossier, et affiche les réponses côte à côte, chaque colonne indiquant si l'assistant est local ou dans le cloud. Sous chacune : le temps jusqu'au premier morceau, le total, les tokens par seconde, les tokens et, pour un modèle local, la mémoire. Continuer avec celle-ci ne place que la réponse choisie dans la conversation et fait passer le chat à cet assistant ; les autres sont écartées.

Dans Ctrl+K, Comparer avec… envoie la même instruction à 2 à 4 assistants et affiche les propositions côte à côte, avec les modifications surlignées par rapport au passage. Rien n'est appliqué au document avant votre choix ; Appliquer celle-ci applique une fois, et Ctrl+Z annule. La comparaison est en lecture seule : sans outils, sans changement automatique de modèle et sans fenêtre d'erreur — l'échec de l'un devient une phrase dans sa colonne. N'oubliez pas qu'un assistant dans le cloud reçoit le texte envoyé.

Barre d'état, déchargement et confidentialité

Tant qu'un modèle exécuté par LightNote est chargé, la barre d'état affiche IA locale avec le nom du modèle et la mémoire qu'il utilise (ou « chargement… »). Cliquez dessus pour Décharger maintenant et libérer la mémoire sur-le-champ, sans attendre les 5 minutes ; la question suivante le recharge. L'indicateur disparaît quand aucun modèle n'est chargé.

Confidentialité. Avec un modèle sur votre ordinateur — directement par LightNote, via Ollama ou via LM Studio — rien ne quitte la machine : ni la question, ni les notes, ni les vecteurs de la recherche. Le programme du modèle n'écoute que sur l'adresse locale de l'ordinateur, avec un nouveau mot de passe à chaque ouverture, pour qu'aucune page ouverte dans le navigateur ne puisse communiquer avec lui.