IA sul tuo computer

Configura IA: i cinque percorsi

La procedura guidata Configura IA si apre dal pulsante Configura IA… in Impostazioni → Assistenti IA, da Collega un'IA… della chat vuota e quando usi Ctrl+K senza alcuna IA. La prima pagina chiede cosa vuoi configurare:

• IA nel cloud — OpenAI, Gemini, Anthropic e altri, con una chiave API. È la via più semplice e quella di qualità migliore, e resta l'impostazione consigliata. La pagina è la stessa del connettore: la connessione viene testata prima di accettare e la chiave resta memorizzata codificata solo su questa macchina.
• IA sul tuo computer — con Ollama o LM Studio — per chi usa già (o vuole usare) uno di questi programmi. La procedura guidata dice se il programma è installato, fermo o in esecuzione, propone di installarlo, elenca i modelli già installati e quelli consigliati da scaricare, con l'avanzamento del download, e fa un test rapido.
• IA sul tuo computer — direttamente da LightNote — LightNote scarica il programma ufficiale di llama.cpp e un modello, ed esegue entrambi senza che tu debba installare altro. Prima di scaricare, mostra quanto occupa il modello su disco e in memoria e misura la velocità sul tuo computer.
• Assistente da riga di comando — Claude Code, Codex, Gemini CLI e altri, da usare nel terminale. Nella chat e in Ctrl+K rispondono in una volta sola, senza streaming e senza gli strumenti di LightNote.
• Ricerca per significato — gli embeddings che permettono alla Chat IA di trovare le note in base al senso della domanda, calcolati nel cloud o sul tuo computer.

Ogni percorso termina nella pagina Fatto, con il nome dell'IA (è con questo nome che compare nella chat, in Ctrl+K e nelle Impostazioni), l'elenco dei modelli e l'opzione Usa come IA predefinita. Se aperta dalle Impostazioni, la procedura guidata salva solo quando fai clic su OK; se aperta da altrove, salva al termine. Se esiste già una riga dello stesso provider ancora senza chiave, la completa invece di crearne un'altra accanto.

Tipi di modello, GGUF e quantizzazione

Due tipi di modello. Un modello di conversazione (istruito, «instruct») scrive: è quello che risponde nella chat, in Ctrl+K e nell'IA del blocco. Un modello di embeddings non scrive nulla: trasforma ogni frammento di testo in un vettore di numeri, e testi di senso simile ottengono vettori vicini — è ciò che fa la ricerca per significato. L'uno non sostituisce l'altro, e la procedura guidata propone solo quelli del tipo giusto in ogni percorso.

GGUF. È il formato a file unico che llama.cpp, Ollama e LM Studio leggono: i pesi del modello e la sua descrizione in un file .gguf. La quantizzazione consiste nel memorizzare ogni peso con meno bit, perché il file sia più piccolo e più veloce. Il nome dice quanti: Q8 usa 8 bit per peso ed è molto vicino all'originale; Q4 ne usa circa 4, occupa quasi la metà e perde poco. Nei nostri test di ricerca in portoghese, il Q4 e il Q8 dello stesso modello si sono equivalsi, e il Q4 è stato quasi due volte più veloce. Per questo il catalogo preferisce Q4 (Q4_0 o Q4_K_M).

Disco, memoria, velocità e GPU

Il disco è la dimensione del file scaricato, occupata finché lo conservi. La memoria è ciò che il modello usa mentre è caricato: i pesi più lo spazio della conversazione, un po' più della dimensione del file. LightNote esegue il modello in un processo a parte, che esiste solo mentre usi l'IA: dopo 5 minuti di inattività si spegne da solo e il sistema riceve indietro tutta la memoria. La prima domanda dopo richiede un po' più di tempo, perché il modello viene caricato di nuovo — la chat avvisa «Caricamento del modello…». La velocità dipende dal processore e dalla dimensione del modello: un modello più piccolo risponde più in fretta, quello più grande scrive meglio.

Processore o GPU. Per impostazione predefinita il modello gira sul processore, il che funziona su qualsiasi computer (con AVX2 è molto più veloce). Nella pagina dell'hardware, Usa la GPU (Vulkan) scarica la versione del programma che usa la GPU, di qualsiasi produttore. Può essere più veloce oppure no, a seconda della scheda: il test delle prestazioni alla fine mostra la velocità reale, e cambiare in seguito significa solo rifare il percorso.

Dove trovare modelli e come usarne un altro

Il modo più semplice è il catalogo di LightNote, nella pagina Scegli un modello: ogni suo file è stato verificato da noi, con dimensione e sha256, e l'elenco mostra disco, memoria, licenza e il badge di ciascuno. Quelli che ci stanno bene su questo computer compaiono per primi. Al di fuori del catalogo, i modelli si trovano su Hugging Face (huggingface.co, cerca «GGUF»), nella libreria di Ollama (ollama.com/library) e nel catalogo di LM Studio stesso; per questi ultimi due, usa il percorso di Ollama o di LM Studio.

Usare un altro modello. In Altro modello…, incolla l'indirizzo di un file .gguf di Hugging Face (nel formato https://huggingface.co/proprietario/repository/resolve/main/file.gguf) o scegli un .gguf già sul tuo computer. LightNote chiede a Hugging Face la dimensione e lo sha256 del file (senza lo sha256 rifiuta, perché non potrebbe verificare il download) e legge l'intestazione del modello per stimare la memoria. Prima, controlla tre cose nella pagina del modello: la dimensione (un file più grande della tua memoria libera non gira), la licenza e il tipo — per la conversazione, un modello istruito («instruct», «chat», «it»); per la ricerca per significato, un modello di embeddings («embedding»). Preferisci i file pubblicati dall'autore del modello: una conversione fatta male può girare e dare risultati senza senso.

Licenze

Ogni modello ha la sua licenza, scelta dall'autore: Apache 2.0 e MIT permettono di usarlo liberamente; i Gemma Terms of Use (di EmbeddingGemma) e la Llama 3.2 Community License limitano alcuni usi e richiedono un avviso. Per questo la pagina Termini d'uso mostra la licenza del modello e quella del programma che lo esegue (llama.cpp, MIT), con il link al testo completo, e l'avviso richiesto, quando c'è, nella lingua originale. Per continuare, seleziona Ho letto e accetto i termini. LightNote non ridistribuisce alcun modello: scarica il file direttamente dalla fonte (Hugging Face, e il programma dal GitHub di llama.cpp) e verifica lo sha256 di ciascuno prima di usarlo. Un download interrotto riprende da dove si era fermato.

Test delle prestazioni e il badge

Il badge. Nell'elenco dei modelli, Ci sta bene significa che il modello usa meno della metà della memoria libera in questo momento; Può essere lento, che ci sta ma è al limite (più della metà della memoria libera, o un processore senza AVX2); Non ci sta, che avrebbe bisogno di più dell'80% della memoria libera — la procedura guidata non permette di sceglierlo. La memoria libera cambia secondo ciò che è aperto: chiudi i programmi pesanti e il badge può migliorare.

Il test delle prestazioni esegue il modello una volta su questo computer, così vedi quanto costa prima di adottarlo, e dice tutto in linguaggio semplice: quanto occupa su disco, quanta memoria usa mentre è caricato, quante parole scrive al secondo e quanto processore ha usato. Per un modello di embeddings, misura quanti frammenti elabora al secondo e quanto tempo richiederebbe indicizzare la cartella aperta. La frase in alto riassume: Buono per conversare, Utilizzabile, ma lento o Lento su questo computer. La prima misura include il tempo per caricare il modello.

Ricerca per significato nel cloud o sul computer

Nel percorso Ricerca per significato, la procedura guidata chiede dove calcolare. Nel cloud (consigliato): veloce; compaiono solo le IA collegate che calcolano embeddings, e se nessuna lo fa indica quale collegare. Il provider fa pagare per frammento alla prima indicizzazione e, dopo, solo per ciò che cambia; la procedura guidata mostra quanti frammenti ha la cartella. Sul tuo computer: gratuito e privato, ma più lento, e usa memoria durante l'indicizzazione — direttamente da LightNote (con i modelli di embeddings del catalogo, EmbeddingGemma per primo) o tramite Ollama. Il test dice quanto tempo richiederebbe la prima indicizzazione della cartella.

L'indicizzazione sul computer gira in background, con 2 core e priorità bassa, per non contenderti il processore; le successive rifanno solo ciò che è cambiato. Cambiare modello reindicizza la cartella: vettori di modelli diversi non si confrontano. Il vecchio indice resta salvato, quindi tornare al modello precedente non costa nulla. Le Impostazioni mostrano un riepilogo (modello, dove gira e quanti frammenti sono indicizzati) con Cambia…, che riapre la procedura guidata.

Elenco di modelli e l'assistente ricordato

Un elenco di modelli per riga. Ogni IA registrata è una riga con un nome unico, e il campo modello accetta un elenco: il primo è il preferito, e i successivi vengono provati, nell'ordine, se non riesce. Nella tabella delle Impostazioni, separali con una virgola; nella procedura guidata e nel connettore, usa i pulsanti per spostare su, spostare giù e rimuovere, e Cerca modelli… chiede se quello scelto entra nell'elenco o lo sostituisce. Il tuo elenco vale anche con il cambio automatico di modello disattivato (il cambio automatico aggiunge soltanto, dopo di esso, le alternative del catalogo). Quando il primo non riesce e un altro risponde, una notifica dice quale non è riuscito, perché e quale ha risposto; facendo clic su di essa puoi togliere il modello dall'elenco — LightNote non cambia mai il tuo elenco da solo.

L'assistente ricordato. La chat, Ctrl+K, l'IA del blocco e le finestre di IA ricordano l'ultimo assistente che hai scelto in ciascuno, per finestra e cartella, e lo ripropongono alla riapertura dell'app — finché resta disponibile. L'IA predefinita non cambia per questo: cambia solo quando la modifichi nelle Impostazioni. Negli elenchi di scelta, le IA compaiono raggruppate per provider.

Confrontare le risposte

Nella chat, Confronta risposte… (o /compare prima della domanda) invia la stessa domanda a 2-4 assistenti contemporaneamente, con lo stesso contesto della cartella, e mostra le risposte affiancate, con ogni colonna che indica se l'assistente è locale o nel cloud. Sotto ciascuna: il tempo fino al primo pezzo, il totale, i token al secondo, i token e, per un modello locale, la memoria. Continua con questa mette nella conversazione solo la risposta scelta e passa la chat a quell'assistente; le altre vengono scartate.

In Ctrl+K, Confronta con… invia la stessa istruzione a 2-4 assistenti e mostra le proposte affiancate, con le modifiche evidenziate rispetto al frammento. Nulla viene applicato al documento prima della tua scelta; Applica questa applica una volta, e Ctrl+Z annulla. Il confronto è in sola lettura: senza strumenti, senza cambio automatico di modello e senza finestra di errore — l'errore di uno diventa una frase nella sua colonna. Ricorda che un assistente nel cloud riceve il testo inviato.

Barra di stato, liberare la memoria e privacy

Finché un modello eseguito da LightNote è caricato, la barra di stato mostra IA locale con il nome del modello e la memoria che usa (o «caricamento…»). Fai clic su di essa per Libera ora e restituire subito la memoria, senza aspettare i 5 minuti; la domanda successiva lo carica di nuovo. L'indicatore sparisce quando nessun modello è caricato.

Privacy. Con un modello sul tuo computer — direttamente da LightNote, tramite Ollama o tramite LM Studio — nulla esce dalla macchina: né la domanda, né le note, né i vettori della ricerca. Il programma del modello risponde solo all'indirizzo locale del computer, con una password nuova ogni volta che viene aperto, così nessuna pagina aperta nel browser riesce a comunicare con esso.