IA en tu equipo

Configurar IA: los cinco caminos

El asistente Configurar IA se abre con el botón Configurar IA… en Ajustes → Asistentes de IA, con el Conectar una IA… del chat vacío y cuando usas Ctrl+K sin ninguna IA. La primera página pregunta qué quieres configurar:

• IA en la nube — OpenAI, Gemini, Anthropic y otros, con una clave de API. Es el camino más sencillo y el de mejor calidad, y sigue siendo la opción recomendada. La página es la misma del conector: la conexión se prueba antes de aceptar y la clave queda guardada codificada solo en esta máquina.
• IA en tu equipo — con Ollama o LM Studio — para quien ya usa (o quiere usar) uno de estos programas. El asistente dice si el programa está instalado, detenido o en ejecución, ofrece instalarlo, lista los modelos ya instalados y los recomendados para descargar, con el progreso de la descarga, y hace una prueba rápida.
• IA en tu equipo — directamente desde LightNote — LightNote descarga el programa oficial de llama.cpp y un modelo, y ejecuta los dos sin que instales nada más. Antes de descargar, muestra cuánto ocupa el modelo en disco y en memoria y mide la velocidad en tu equipo.
• Asistente de línea de comandos — Claude Code, Codex, Gemini CLI y otros, para usar en la terminal. En el chat y en Ctrl+K responden de una vez, sin streaming y sin las herramientas de LightNote.
• Búsqueda por significado — los embeddings que permiten al Chat con IA encontrar notas por el sentido de la pregunta, calculados en la nube o en tu equipo.

Cada camino termina en la página Listo, con el nombre de la IA (con él aparece en el chat, en Ctrl+K y en los Ajustes), la lista de modelos y la opción Usar como IA predeterminada. Abierto desde los Ajustes, el asistente solo guarda cuando haces clic en Aceptar; abierto desde otro sitio, guarda al finalizar. Si ya existe una fila del mismo proveedor todavía sin clave, la completa en vez de crear otra al lado.

Tipos de modelo, GGUF y cuantización

Dos tipos de modelo. Un modelo de conversación (instruido, "instruct") escribe: es el que responde en el chat, en Ctrl+K y en la IA del bloque. Un modelo de embeddings no escribe nada: convierte cada fragmento de texto en un vector de números, y los textos de sentido parecido reciben vectores cercanos — es lo que hace la búsqueda por significado. Uno no sustituye al otro, y el asistente solo ofrece los del tipo correcto en cada camino.

GGUF. Es el formato de archivo único que leen llama.cpp, Ollama y LM Studio: los pesos del modelo y su descripción en un archivo .gguf. La cuantización consiste en guardar cada peso con menos bits para que el archivo sea más pequeño y más rápido. El nombre dice cuántos: Q8 usa 8 bits por peso y queda muy cerca del original; Q4 usa unos 4, ocupa casi la mitad y pierde poco. En nuestras pruebas de búsqueda en portugués, el Q4 y el Q8 del mismo modelo empataron, y el Q4 fue casi dos veces más rápido. Por eso el catálogo prefiere Q4 (Q4_0 o Q4_K_M).

Disco, memoria, velocidad y tarjeta gráfica

Disco es el tamaño del archivo descargado, ocupado mientras lo conserves. Memoria es lo que el modelo usa mientras está cargado: los pesos más el espacio de la conversación, un poco por encima del tamaño del archivo. LightNote ejecuta el modelo en un proceso aparte, que solo existe mientras usas la IA: tras 5 minutos sin uso se apaga solo y el sistema recupera toda la memoria. La primera pregunta después de eso tarda un poco más, porque el modelo se vuelve a cargar — el chat avisa «Cargando el modelo…». La velocidad depende del procesador y del tamaño del modelo: un modelo más pequeño responde más rápido, el más grande escribe mejor.

Procesador o tarjeta gráfica. Por defecto el modelo se ejecuta en el procesador, lo que funciona en cualquier equipo (con AVX2 va bastante más rápido). En la página del hardware, Usar la tarjeta gráfica (Vulkan) descarga la versión del programa que usa la tarjeta gráfica, de cualquier fabricante. Puede ir más rápido o no, según la tarjeta: la prueba de rendimiento del final muestra la velocidad real, y cambiar después es solo repetir el camino.

Dónde encontrar modelos y cómo usar otro

La forma más sencilla es el catálogo de LightNote, en la página Elige un modelo: cada archivo lo hemos comprobado nosotros, con tamaño y sha256, y la lista muestra disco, memoria, licencia y la etiqueta de cada uno. Los que caben bien en este equipo aparecen primero. Fuera de él, los modelos viven en Hugging Face (huggingface.co, busca "GGUF"), en la biblioteca de Ollama (ollama.com/library) y en el catálogo del propio LM Studio; para estos dos últimos, usa el camino de Ollama o de LM Studio.

Usar otro modelo. En Otro modelo…, pega la dirección de un archivo .gguf de Hugging Face (con el formato https://huggingface.co/dueño/repositorio/resolve/main/archivo.gguf) o elige un .gguf que ya esté en tu equipo. LightNote pide a Hugging Face el tamaño y el sha256 del archivo (sin el sha256 lo rechaza, porque no tendría cómo comprobar la descarga) y lee la cabecera del modelo para estimar la memoria. Antes de usarlo, comprueba tres cosas en la página del modelo: el tamaño (un archivo mayor que tu memoria libre no se ejecuta), la licencia y el tipo — para conversar, un modelo instruido ("instruct", "chat", "it"); para la búsqueda por significado, un modelo de embeddings ("embedding"). Prefiere archivos publicados por el propio autor del modelo: una conversión mal hecha puede incluso ejecutarse y devolver resultados sin sentido.

Licencias

Cada modelo tiene su licencia, elegida por el autor: Apache 2.0 y MIT permiten usarlo libremente; los Gemma Terms of Use (de EmbeddingGemma) y la Llama 3.2 Community License restringen algunos usos y exigen un aviso. Por eso la página Términos de uso muestra la licencia del modelo y la del programa que lo ejecuta (llama.cpp, MIT), con el enlace al texto completo, y el aviso exigido, cuando lo hay, en el idioma original. Para continuar, marca He leído y acepto los términos. LightNote no redistribuye ningún modelo: descarga el archivo directamente de la fuente (Hugging Face, y el programa del GitHub de llama.cpp) y comprueba el sha256 de cada uno antes de usarlo. Una descarga interrumpida continúa donde se quedó.

Prueba de rendimiento y la etiqueta

La etiqueta. En la lista de modelos, Cabe bien significa que el modelo usa menos de la mitad de la memoria libre ahora; Puede ir lento, que cabe pero justo (más de la mitad de la memoria libre, o un procesador sin AVX2); No cabe, que necesitaría más del 80% de la memoria libre — el asistente no deja elegirlo. La memoria libre cambia según lo que esté abierto: cierra programas pesados y la etiqueta puede mejorar.

La prueba de rendimiento ejecuta el modelo una vez en este equipo, para que veas cuánto cuesta antes de adoptarlo, y lo dice todo en lenguaje sencillo: cuánto ocupa en disco, cuánta memoria usa mientras está cargado, cuántas palabras escribe por segundo y cuánto procesador usó. Para un modelo de embeddings, mide cuántos fragmentos calcula por segundo y cuánto tardaría en indexar la carpeta abierta. La frase de arriba lo resume: Bueno para conversar, Utilizable, pero lento o Lento en este equipo. La primera medida incluye el tiempo de cargar el modelo.

Búsqueda por significado en la nube o en el equipo

En el camino Búsqueda por significado, el asistente pregunta dónde calcular. En la nube (recomendado): rápido; solo aparecen las IA conectadas que calculan embeddings, y si ninguna lo hace te dice cuál conectar. El proveedor cobra por fragmento en la primera indexación y, después, solo por lo que cambie; el asistente muestra cuántos fragmentos tiene la carpeta. En tu equipo: gratis y privado, pero más lento, y usa memoria mientras indexa — directamente desde LightNote (con los modelos de embeddings del catálogo, EmbeddingGemma el primero) o mediante Ollama. La prueba dice cuánto tardaría la primera indexación de la carpeta.

La indexación en el equipo se ejecuta en segundo plano, con 2 núcleos y prioridad baja, para no disputarte el procesador; las siguientes solo rehacen lo que cambió. Cambiar de modelo vuelve a indexar la carpeta: los vectores de modelos distintos no se comparan. El índice antiguo queda guardado, así que volver al modelo anterior no cuesta nada. Los Ajustes muestran un resumen (modelo, dónde se ejecuta y cuántos fragmentos están indexados) con Cambiar…, que vuelve a abrir el asistente.

Lista de modelos y el asistente recordado

Una lista de modelos por fila. Cada IA registrada es una fila con un nombre único, y el campo del modelo acepta una lista: el primero es el preferido, y los siguientes se prueban, en orden, si él falla. En la tabla de los Ajustes, sepáralos con comas; en el asistente y en el conector, usa los botones de subir, bajar y quitar, y Buscar modelos… pregunta si el elegido entra en la lista o la reemplaza. Tu lista vale incluso con el cambio automático de modelo desactivado (el cambio automático solo añade, después de ella, las alternativas del catálogo). Cuando el primero falla y otro responde, una notificación dice cuál falló, por qué y cuál respondió; al hacer clic en ella se ofrece quitar el modelo de la lista — LightNote nunca cambia tu lista por su cuenta.

El asistente recordado. El chat, Ctrl+K, la IA del bloque y las ventanas de IA recuerdan el último asistente que elegiste en cada uno, por ventana y carpeta, y lo recuperan al volver a abrir la aplicación — mientras siga disponible. La IA predeterminada no cambia por eso: solo cambia cuando la cambias en los Ajustes. En las listas de selección, las IA aparecen agrupadas por proveedor.

Comparar respuestas

En el chat, Comparar respuestas… (o /compare antes de la pregunta) envía la misma pregunta a entre 2 y 4 asistentes a la vez, con el mismo contexto de la carpeta, y muestra las respuestas una al lado de otra, con cada columna indicando si el asistente es local o en la nube. Debajo de cada una: el tiempo hasta el primer fragmento, el total, tokens por segundo, tokens y, en un modelo local, la memoria. Continuar con esta pone solo la respuesta elegida en la conversación y pasa el chat a ese asistente; las demás se descartan.

En Ctrl+K, Comparar con… envía la misma instrucción a entre 2 y 4 asistentes y muestra las propuestas una al lado de otra, con los cambios resaltados frente al fragmento. No se aplica nada al documento antes de que elijas; Aplicar esta aplica una vez, y Ctrl+Z lo deshace. La comparación es solo lectura: sin herramientas, sin cambio automático de modelo y sin ventana de fallo — el fallo de uno se convierte en una frase en su columna. Recuerda que un asistente en la nube recibe el texto enviado.

Barra de estado, liberar y privacidad

Mientras un modelo ejecutado por LightNote esté cargado, la barra de estado muestra IA local con el nombre del modelo y la memoria que usa (o «cargando…»). Haz clic en él para Liberar ahora y devolver la memoria al momento, sin esperar los 5 minutos; la siguiente pregunta lo vuelve a cargar. El indicador desaparece cuando no hay ningún modelo cargado.

Privacidad. Con un modelo en tu equipo — directamente desde LightNote, mediante Ollama o mediante LM Studio — nada sale de la máquina: ni la pregunta, ni las notas, ni los vectores de la búsqueda. El programa del modelo solo atiende en la dirección local del equipo, con una contraseña nueva cada vez que se abre, para que ninguna página abierta en el navegador pueda comunicarse con él.