クラウド、ローカル、同梱：用途に合ったモデルを選択

GridberryはWindows 10/11上で動作し、選択したモデルと連携します。標準APIエンドポイント経由でクラウドAIを利用するか、PC上のモデル、または同梱モデルを使用し、タスクに応じていつでも切り替えられます。

モデル接続の3つの方法

クラウドAIプロバイダー

クラウドAIプロバイダーは、複数のログをまたぐ長時間のトラブルシューティングなど、複雑なステップに適しています。Gridberryにプロバイダーの標準APIエンドポイントとキーを入力すると、キーはPC内に残ります。プロンプトテキストはプロバイダーに送信され、エージェントが読み取るファイルのテキストも含まれるため、機密情報はファイル内に含めないでください。Gridberryは、ツール出力がモデルに届く前に機密情報をマスクします。クラウドAIプロバイダーは使用量に応じて課金する場合がありますが、それはGridberryではなくプロバイダーが設定します。

PC上のモデル

プロンプトをPC内に留める必要がある作業には、ローカルモデルが適しています。ローカルモデルを使用する場合、モデル接続を通じてデータがPC外に出ることはありません。Web検索や更新チェックなど、有効にした他の機能はネットワークを使用します。また、サーバーへのSSHセッションは本質的にネットワーク接続です。速度とコンテキストウィンドウはハードウェアに依存するため、モデルに依存する前にテストボタンを実行し、両方の数値を確認してください。

同梱モデル

同梱モデルは、独自のエンドポイントなしですぐに使用できます。最初の試行に適しています：Gridberryをインストールし、チャットを開いてエージェントにadduserの動作を説明させてみましょう。Plan onlyに切り替えて実行なしで計画を読み、テストマシンで個々のコマンドを承認する場合はAsk firstに進みます。クラウドやローカルモデルは後で接続できます。このモデルを使用する場合も、他のモデルと同様に、すべてのコマンドカードと差分を確認してください。

テストで接続を確認

テストボタンはエンドポイントをチェックします。接続したモデルの応答時間とコンテキストウィンドウを表示します。新しいエンドポイントやキーを入力した後、またはモデルを切り替えた後に実行し、チャット開始前にエンドポイントの問題に気づいてください。応答時間が長いと、すべてのステップの待機時間が長くなります。コンテキストウィンドウが小さいと、エージェントは長時間のログや構成ファイルを一度に保持できません。同じボタンで2つのエンドポイントを比較し、タスクに合ったものを選んでください。結果は接続のみを示し、モデルが正しいコマンドを書くかどうかは示さないため、すべてのカードと差分を確認し続けます。

タスクに合ったモデルを選択

ログや構成ファイルをまたぐ長時間のトラブルシューティングなど、多くの要素が関わるステップには大きなモデルを、1つのアカウントの作成や1つのグループリストの読み込みなど、短いステップには小さなモデルを選んでください。run_on_modelツールは複雑なステップを大きなモデルに送信し、チャットの残りは選択したモデルに残ります。いつそれを使用するかはあなたが決定します。大きなモデルは応答が遅く、ローカルPCではより強力なハードウェアが必要になるため、ステップにモデルを合わせてください。どちらの場合でも結果を確認してください。

モデルによって品質は異なり、どのモデルでも自信満々に間違ったコマンドを書くことがあります。受け入れる前に差分またはコマンドカードを読んでください。Ask firstは変更を行うアクションの前に一時停止するため、実行前に正確な行を確認できます。Plan onlyは計画のみを書き、何も実行しないため、未使用のモデルで最初に試すのに適しています。再構築可能なマシンで新しいモデルを試してください。