你电脑上的 AI

设置 AI：五条路径

设置 AI向导可以通过按钮设置 AI…（位于设置 → AI 助手）或空白聊天中的连接 AI…打开，在没有任何 AI 时使用 Ctrl+K 也会打开它。第一页会询问你想设置什么：

• 云端 AI — OpenAI、Gemini、Anthropic 等，使用 API 密钥。这是最简单、质量最好的方式，也仍是推荐的默认选择。这一页与连接器相同：接受之前会测试连接，密钥仅在本机以编码形式保存。
• 你电脑上的 AI — 使用 Ollama 或 LM Studio — 适合已经在使用（或想使用）其中一个程序的人。向导会告诉你该程序是已安装、已停止还是正在运行，提供安装，列出已安装的模型和推荐下载的模型（显示下载进度），并进行快速测试。
• 你电脑上的 AI — 直接通过 LightNote — LightNote 下载 llama.cpp 的官方程序和一个模型，无需你再安装任何东西即可运行两者。下载前，会显示模型占用多少磁盘和内存，并在你的电脑上测量速度。
• 命令行助手 — Claude Code、Codex、Gemini CLI 等，在终端中使用。在聊天和 Ctrl+K 中，它们一次性给出回答，不流式输出，也不使用 LightNote 的工具。
• 按含义搜索 — 让 AI 聊天按问题的含义查找笔记的嵌入，在云端或你的电脑上计算。

每条路径都以完成页结束，其中有 AI 的名称（它在聊天、Ctrl+K 和设置中就以此名称显示）、模型列表以及用作默认 AI选项。从设置中打开时，向导只在你点击“确定”时才保存；从其他地方打开时，在完成时保存。如果同一提供商已有一行尚未填写密钥，向导会补全那一行，而不是在旁边新建一行。

模型类型、GGUF 与量化

两种模型。对话模型（经过指令微调，“instruct”）负责写作：它在聊天、Ctrl+K 和块 AI 中作答。嵌入模型什么都不写：它把每个文本片段转换成一个数字向量，含义相近的文本会得到相近的向量 — 这就是按含义搜索的原理。两者不能互相替代，向导在每条路径中只提供正确类型的模型。

GGUF。这是 llama.cpp、Ollama 和 LM Studio 都能读取的单文件格式：模型的权重及其描述都在一个.gguf文件中。量化是用更少的位存储每个权重，让文件更小、更快。名称表明位数：Q8每个权重使用 8 位，非常接近原始模型；Q4约 4 位，占用接近一半，损失很小。在我们的葡萄牙语搜索测试中，同一模型的 Q4 和 Q8 表现相当，而 Q4 快了近一倍。因此目录优先选用 Q4（Q4_0 或 Q4_K_M）。

磁盘、内存、速度与显卡

磁盘是下载的文件大小，只要你保留它就会占用。内存是模型加载期间使用的量：权重加上对话的空间，比文件大小略多。LightNote 在一个独立进程中运行模型，该进程只在你使用 AI 时存在：闲置 5 分钟后它会自动关闭，系统收回全部内存。此后的第一个问题会稍慢，因为模型要重新加载 — 聊天会提示“正在加载模型…”。速度取决于处理器和模型大小：较小的模型响应更快，较大的写得更好。

处理器还是显卡。默认情况下模型在处理器上运行，任何电脑都能用（支持AVX2时会快很多）。在硬件页面，使用显卡（Vulkan）会下载使用显卡的程序版本，适用于任何厂商的显卡。是否更快取决于显卡：最后的性能测试会显示真实速度，之后想切换只需重新走一遍这条路径。

在哪里找模型，以及如何使用其他模型

最简单的方式是LightNote 目录，位于选择一个模型页：其中每个文件都经过我们校验，附有大小和 sha256，列表显示每个模型的磁盘、内存、许可证和标记。能宽裕放入此电脑的模型排在前面。目录之外，模型可以在Hugging Face（huggingface.co，搜索“GGUF”）、Ollama 模型库（ollama.com/library）以及LM Studio自带的目录中找到；后两者请使用 Ollama 或 LM Studio 的路径。

使用其他模型。在其他模型…中，粘贴 Hugging Face 上某个.gguf文件的地址（格式为https://huggingface.co/dono/repositório/resolve/main/arquivo.gguf），或选择你电脑上已有的.gguf。LightNote 会向 Hugging Face 请求文件的大小和 sha256（没有 sha256 就会拒绝，因为无法校验下载），并读取模型文件头来估算内存。使用前，请在模型页面上确认三件事：大小（大于你可用内存的文件无法运行）、许可证和类型 — 对话用指令模型（“instruct”“chat”“it”）；按含义搜索用嵌入模型（“embedding”）。优先选择模型作者本人发布的文件：转换不当的文件也许能运行，却会返回毫无意义的结果。

许可证

每个模型都有作者选定的许可证：Apache 2.0 和 MIT 允许自由使用；Gemma Terms of Use（EmbeddingGemma 的许可证）和Llama 3.2 Community License限制部分用途并要求附带声明。因此使用条款页会显示模型的许可证和运行它的程序的许可证（llama.cpp，MIT），附上全文链接，以及所要求的声明（如有，使用原文）。要继续，请勾选我已阅读并接受条款。LightNote 不会再分发任何模型：它直接从来源下载文件（模型来自 Hugging Face，程序来自 llama.cpp 的 GitHub），并在使用前校验每个文件的 sha256。中断的下载会从中断处继续。

性能测试与标记

标记。在模型列表中，宽裕表示模型使用的内存不到当前可用内存的一半；可能较慢表示它放得下但很紧张（超过可用内存的一半，或处理器不支持 AVX2）；放不下表示它需要超过 80% 的可用内存 — 向导不允许选择这种模型。可用内存随打开的程序而变化：关闭占用大的程序，标记可能会变好。

性能测试会在这台电脑上运行一次模型，让你在采用之前看到它的开销，并用简单的语言说明一切：它占用多少磁盘、加载期间使用多少内存、每秒写多少个词，以及使用了多少处理器。对于嵌入模型，它会测量每秒嵌入多少个片段，以及为当前打开的文件夹建立索引需要多久。顶部的一句话做总结：适合对话、可用，但较慢或在此电脑上较慢。第一次测量包含加载模型的时间。

在云端或电脑上按含义搜索

在按含义搜索路径中，向导会询问在哪里计算。在云端（推荐）：快速；只显示能计算嵌入的已连接 AI，如果都不能，它会告诉你该连接哪个。提供商在首次建立索引时按片段收费，之后只对有变化的部分收费；向导会显示文件夹有多少个片段。在你的电脑上：免费且私密，但较慢，建立索引时会占用内存 — 可以直接通过 LightNote（使用目录中的嵌入模型，EmbeddingGemma 排在首位），也可以通过 Ollama。测试会告诉你文件夹的首次索引需要多久。

在电脑上建立索引会在后台以 2 个核心和低优先级运行，以免与你争用处理器；之后只重新处理有变化的部分。更换模型会重新为文件夹建立索引：不同模型的向量无法比较。旧索引会保留，因此切换回之前的模型没有任何代价。设置中会显示摘要（模型、运行位置以及已建立索引的片段数），并提供更改…按钮，用于重新打开向导。

模型列表与记住的助手

每行一个模型列表。每个已登记的 AI 都是一行，名称唯一，模型字段接受一个列表：第一个是首选，其余的在它失败时按顺序尝试。在设置的表格中，用逗号分隔它们；在向导和连接器中，使用上移、下移和删除按钮，获取模型…会询问所选模型是加入列表还是替换列表。即使关闭了自动更换模型，你的列表依然有效（自动更换只会在列表之后追加目录中的备选模型）。当第一个模型失败而由另一个作答时，会有通知说明哪个失败、原因以及哪个作答了；点击通知可以将该模型移出列表 — LightNote 从不自行更改你的列表。

记住的助手。聊天、Ctrl+K、块 AI 和 AI 窗口会按窗口和文件夹记住你在各处最后选择的助手，并在重新打开应用时恢复 — 只要它仍然可用。默认 AI不会因此改变：只有你在设置中更换它时才会改变。在选择列表中，AI 按提供商分组显示。

比较回答

在聊天中，比较回答…（或在问题前输入/compare）会把同一问题带着相同的文件夹上下文同时发送给 2 到 4 个助手，并排显示回答，每一列都标明该助手是本地的还是云端的。每个回答下方显示：到首个片段的时间、总时间、每秒 tokens 数、tokens 数，本地模型还会显示内存。继续使用此回答只把所选回答放进对话，并将聊天切换到该助手；其他回答将被丢弃。

在 Ctrl+K 中，比较…会把同一指令发送给 2 到 4 个助手，并排显示方案，并相对原文片段突出显示改动。在你选择之前，不会对文档应用任何内容；应用此方案只应用一次，Ctrl+Z 即可撤销。比较是只读的：不使用工具，不自动更换模型，也没有失败窗口 — 某个助手失败只会在它的列中显示一句话。请记住，云端助手会收到所发送的文本。

状态栏、卸载与隐私

当 LightNote 运行的模型处于加载状态时，状态栏会显示本地 AI，以及模型名称和它使用的内存（或“加载中…”）。点击它可立即卸载，马上释放内存，而不必等待 5 分钟；下一个问题会重新加载模型。没有模型加载时，该指示器会消失。

隐私。使用你电脑上的模型时 — 无论是直接通过 LightNote、Ollama 还是 LM Studio — 任何数据都不会离开本机：问题、笔记、搜索向量都不会。模型程序只在电脑的本地地址上提供服务，每次打开都会使用新的密码，因此浏览器中打开的任何网页都无法与它通信。