お使いのコンピューターの AI

AI を設定: 5 つの道筋

AI を設定 ウィザードは、AI を設定… ボタン（設定 → AI アシスタント）、空のチャットの AI を接続…、そして AI がない状態で Ctrl+K を使ったときに開きます。最初のページで、何を設定したいかを尋ねます:

• クラウドの AI — OpenAI、Gemini、Anthropic など。API キーを使います。いちばん簡単で品質も最も高い方法で、引き続き推奨の標準です。ページはコネクターと同じで、接続は確定前にテストされ、キーはこのコンピューターにのみエンコードして保存されます。
• お使いのコンピューターの AI — Ollama または LM Studio で — これらのプログラムをすでに使っている（または使いたい）人向けです。ウィザードはプログラムがインストール済みか、停止中か、実行中かを示し、インストールを提案し、インストール済みのモデルとダウンロードにおすすめのモデルを一覧にし、ダウンロードの進行状況を表示して、クイックテストを行います。
• お使いのコンピューターの AI — LightNote で直接 — LightNote が llama.cpp の公式プログラムとモデルをダウンロードし、ほかに何もインストールせずに両方を実行します。ダウンロード前に、モデルがディスクとメモリをどれだけ使うかを示し、お使いのコンピューターでの速度を測定します。
• コマンドライン アシスタント — Claude Code、Codex、Gemini CLI など。ターミナルで使います。チャットと Ctrl+K では、ストリーミングなしで一度に応答し、LightNote のツールも使いません。
• 意味で検索 — AI チャットが質問の意味からノートを見つけられるようにする埋め込みです。クラウドかお使いのコンピューターで計算します。

どの道筋も 完了 ページで終わります。そこには AI の名前（この名前でチャット、Ctrl+K、設定に表示されます）、モデルのリスト、デフォルトの AI として使用 のオプションがあります。設定から開いた場合、ウィザードは OK をクリックしたときにだけ保存します。ほかの場所から開いた場合は、完了時に保存します。同じプロバイダーでキーがまだない行がすでにあれば、隣に新しい行を作らずにその行を補完します。

モデルの種類、GGUF、量子化

2 種類のモデル。 会話モデル（指示調整済み、"instruct"）は文章を書きます。チャット、Ctrl+K、ブロックの AI で応答するのはこのモデルです。埋め込みモデルは何も書きません。テキストの各断片を数値のベクトルに変換し、意味の近いテキストには近いベクトルが与えられます — これが意味で検索を支えています。一方が他方の代わりになることはなく、ウィザードはそれぞれの道筋で正しい種類のモデルだけを提示します。

GGUF。 llama.cpp、Ollama、LM Studio が読む単一ファイルの形式で、モデルの重みとその説明が 1 つの .gguf ファイルに入っています。量子化とは、各重みを少ないビット数で保存して、ファイルを小さく速くすることです。ビット数は名前でわかります: Q8 は重みあたり 8 ビットで元のモデルにとても近く、Q4 は約 4 ビットで、サイズはほぼ半分、劣化はわずかです。ポルトガル語での私たちの検索テストでは、同じモデルの Q4 と Q8 は同等の結果で、Q4 は約 2 倍速でした。そのためカタログは Q4（Q4_0 または Q4_K_M）を優先しています。

ディスク、メモリ、速度、GPU

ディスクはダウンロードしたファイルのサイズで、保存している間は占有されます。メモリはモデルが読み込まれている間に使う量で、重みと会話用の領域を合わせたもの、つまりファイルサイズより少し大きくなります。LightNote はモデルを別プロセスで実行し、そのプロセスは AI を使っている間だけ存在します。5 分間使わないと自動で停止し、メモリはすべてシステムに戻ります。その後の最初の質問は、モデルを再び読み込むため少し時間がかかります — チャットには「モデルを読み込み中…」と表示されます。速度はプロセッサーとモデルのサイズで決まります。小さいモデルほど速く応答し、大きいモデルほど上手に書きます。

プロセッサーか GPU か。 既定ではモデルはプロセッサーで動き、どのコンピューターでも使えます（AVX2 があればかなり速くなります）。ハードウェアのページで GPU を使用 (Vulkan) を選ぶと、メーカーを問わず GPU を使う版のプログラムがダウンロードされます。速くなるかどうかは GPU 次第です。実際の速度は最後のパフォーマンステストでわかり、あとで切り替えるには道筋をやり直すだけです。

モデルの探し方と別のモデルの使い方

いちばん簡単なのは モデルを選択 ページの LightNote のカタログです。各ファイルは私たちがサイズと sha256 で検証済みで、一覧にはディスク、メモリ、ライセンス、それぞれのバッジが表示されます。このコンピューターに余裕をもって入るものが先に表示されます。カタログ以外では、モデルは Hugging Face（huggingface.co で "GGUF" を検索）、Ollama のライブラリ（ollama.com/library）、LM Studio 自体のカタログにあります。後の 2 つは、Ollama または LM Studio の道筋を使ってください。

別のモデルを使う。 別のモデル… で、Hugging Face の .gguf ファイルのアドレス（形式は https://huggingface.co/dono/repositório/resolve/main/arquivo.gguf）を貼り付けるか、すでにお使いのコンピューターにある .gguf を選びます。LightNote は Hugging Face にファイルのサイズと sha256 を問い合わせ（sha256 がないとダウンロードを検証できないため拒否します）、モデルのヘッダーを読んでメモリを見積もります。使う前に、モデルのページで 3 つを確認してください: サイズ（空きメモリより大きいファイルは動きません）、ライセンス、種類 — 会話用なら指示調整済みのモデル（"instruct"、"chat"、"it"）、意味で検索用なら埋め込みモデル（"embedding"）です。モデルの作者自身が公開したファイルを選んでください。変換に不備があると、動いても意味のない結果を返すことがあります。

ライセンス

モデルにはそれぞれ作者が選んだライセンスがあります。Apache 2.0 と MIT は自由に使えます。Gemma Terms of Use（EmbeddingGemma）と Llama 3.2 Community License は一部の用途を制限し、通知を求めます。そのため 利用規約 ページは、モデルのライセンスとそれを実行するプログラムのライセンス（llama.cpp、MIT）を全文へのリンクとともに示し、必要な通知があれば原文の言語で表示します。続行するには 規約を読み、同意します にチェックを入れます。LightNote はモデルを再配布しません。ファイルは提供元（Hugging Face、プログラムは llama.cpp の GitHub）から直接ダウンロードし、使う前にそれぞれの sha256 を検証します。中断したダウンロードは途中から再開します。

パフォーマンステストとバッジ

バッジ。 モデルの一覧で、余裕ありは現在の空きメモリの半分未満しか使わないこと、遅い可能性は入るものの余裕が少ないこと（空きメモリの半分以上、または AVX2 のないプロセッサー）、入らないは空きメモリの 80% を超える量が必要なことを意味し、ウィザードではそれを選べません。空きメモリは開いているものによって変わります。重いプログラムを閉じるとバッジが良くなることがあります。

パフォーマンステストは、モデルをこのコンピューターで一度実行し、採用する前にどれだけ負荷がかかるかを確認するもので、結果をわかりやすい言葉で伝えます: ディスクをどれだけ使うか、読み込み中にメモリをどれだけ使うか、毎秒何語を書くか、プロセッサーをどれだけ使ったか。埋め込みモデルでは、毎秒いくつの断片を埋め込むか、開いているフォルダーの索引化にどれだけかかるかを測定します。上部の一文がまとめです: 会話に適しています、使えますが、遅めです、このコンピューターでは遅いです。最初の測定にはモデルの読み込み時間が含まれます。

クラウドまたはコンピューターでの意味で検索

意味で検索 の道筋では、ウィザードがどこで計算するかを尋ねます。クラウド（推奨）: 高速です。埋め込みを計算できる接続済みの AI だけが表示され、1 つもなければどれを接続すべきかを伝えます。最初の索引化では断片ごとにプロバイダーが課金し、その後は変更分だけです。ウィザードはフォルダーの断片数を示します。お使いのコンピューター: 無料でプライベートですが速度は劣り、索引化中はメモリを使います — LightNote で直接（カタログの埋め込みモデルで、EmbeddingGemma が先頭）、または Ollama で動かします。テストでは、フォルダーの最初の索引化にどれだけかかるかがわかります。

コンピューターでの索引化は、あなたの作業とプロセッサーを奪い合わないよう、バックグラウンドで 2 コア・低優先度で実行されます。2 回目以降は変更分だけをやり直します。モデルを替えるとフォルダーは索引化し直されます: 異なるモデルのベクトルは比較できないからです。古い索引は保存されるので、前のモデルに戻っても費用はかかりません。設定には概要（モデル、実行場所、索引化済みの断片数）と、ウィザードを開き直す 変更… が表示されます。

モデルのリストと記憶されるアシスタント

行ごとのモデルのリスト。 登録した AI はそれぞれ一意の名前を持つ 1 行で、モデル欄にはリストを入れられます: 最初のモデルが優先され、それが失敗すると残りが順に試されます。設定の表ではカンマで区切ります。ウィザードとコネクターでは上へ・下へ・削除のボタンを使い、モデルを取得… は選んだモデルをリストに加えるか置き換えるかを尋ねます。あなたのリストは、モデルの自動切り替えがオフでも有効です（自動切り替えは、その後ろにカタログの代替を加えるだけです）。最初のモデルが失敗して別のモデルが応答すると、どれが失敗したか、その理由、どれが応答したかを通知が伝えます。通知をクリックすると そのモデルをリストから外すことを提案します — LightNote があなたのリストを勝手に変えることはありません。

記憶されるアシスタント。 チャット、Ctrl+K、ブロックの AI、AI のウィンドウは、それぞれで最後に選んだアシスタントをウィンドウとフォルダーごとに覚えていて、アプリを開き直したときに — そのアシスタントが使える限り — 元に戻します。これによって デフォルトの AI が変わることはありません。デフォルトの AI が変わるのは、設定で切り替えたときだけです。選択リストでは、AI はプロバイダーごとにまとめて表示されます。

回答を比較

チャットでは、回答を比較…（または質問の前に /compare）で、同じ質問をフォルダーの同じコンテキストとともに 2〜4 つのアシスタントに同時に送り、回答を並べて表示します。各列には、そのアシスタントがローカルかクラウドかが示されます。それぞれの下には、最初の出力までの時間、合計時間、毎秒のトークン数、トークン数、ローカルモデルではメモリが表示されます。これで続けるは、選んだ回答だけを会話に入れ、チャットをそのアシスタントに切り替えます。ほかの回答は破棄されます。

Ctrl+K では、比較… で同じ指示を 2〜4 つのアシスタントに送り、提案を並べて表示します。元の箇所との違いは強調表示されます。選ぶまではドキュメントに何も適用されません。これを適用で一度だけ適用し、Ctrl+Z で元に戻せます。比較は読み取り専用です: ツールも、モデルの自動切り替えも、失敗時のウィンドウもなく、1 つが失敗するとその列に一文が表示されるだけです。クラウドのアシスタントには送信したテキストが届くことを忘れないでください。

ステータスバー、アンロード、プライバシー

LightNote が実行するモデルが読み込まれている間、ステータスバーには ローカル AI とモデル名、使用中のメモリ（または「読み込み中…」）が表示されます。クリックして 今すぐアンロード を選ぶと、5 分待たずにすぐメモリを解放します。次の質問でモデルは再び読み込まれます。モデルが読み込まれていないとき、表示は消えます。

プライバシー。 お使いのコンピューターのモデル — LightNote で直接、Ollama、または LM Studio — を使う場合、何もマシンの外に出ません。質問も、ノートも、検索のベクトルもです。モデルのプログラムはコンピューターのローカルアドレスでのみ待ち受け、起動するたびに新しいパスワードを使うので、ブラウザーで開いたページがそれと通信することはできません。