Хмарна, локальна чи вбудована: оберіть модель, що підходить
Gridberry працює на Windows 10/11 і спілкується з обраною вами моделлю. Використовуйте хмарного постачальника через стандартний API-ендпоінт, модель на власному ПК або вбудовану модель, і перемикайтеся, коли завдання вимагає іншої.
Три способи підключення моделі
Хмарний AI-постачальник
Хмарний AI-постачальник підходить для складніших кроків, наприклад, тривалого сеансу усунення несправностей за кількома логами. Введіть стандартний API-ендпоінт постачальника та ваш ключ у Gridberry, і ключ залишиться на вашому ПК. Текст запиту надходить цьому постачальнику, включаючи текст будь-якого файлу, який читає агент, тому уникайте конфіденційних даних у цих файлах. Gridberry видаляє конфіденційні дані з виводу інструментів перед їх надходженням до моделі. Хмарний AI-постачальник може стягувати плату за використання, і це регулюється постачальником, а не Gridberry.
Модель на вашому власному ПК
Модель, що працює на вашому ПК, підходить для роботи, де запит має залишатися на вашій машині. З локальною моделлю ніщо не виходить за межі ПК через з'єднання з моделлю. Інші функції все ще використовують мережу, коли ви їх увімкнули, наприклад веб-пошук або перевірку оновлень, а сеанс SSH до вашого сервера є мережевим з'єднанням за своєю природою. Швидкість і контекстне вікно залежать від вашого заліза, тому натисніть кнопку Test і прочитайте обидва значення, перш ніж покладатися на модель.
Вбудована модель
Вбудована модель готова до використання без вашого власного ендпоінту. Вона підходить для першої спроби: встановіть Gridberry, відкрийте чат і попросіть агента пояснити, що робить adduser. Перемкніться в режим Plan only, щоб прочитати план без виконання, а потім перейдіть до Ask first, коли хочете затверджувати окремі команди на тестовій машині. Ви можете підключити хмарну або локальну модель пізніше. Перевіряйте кожну картку команди та кожну diff з цією моделлю так само, як і з будь-якою іншою.
Перевірте з'єднання за допомогою Test
Кнопка Test перевіряє ендпоінт. Вона показує час відповіді та контекстне вікно підключеної моделі. Запустіть її після введення нового ендпоінту або нового ключа, а також знову при перемиканні моделей, щоб помітити проблему з ендпоінтом до початку чату. Довгий час відповіді означає, що кожен крок чекатиме довше. Мале контекстне вікно означає, що агент одночасно утримує менше частини довгого логу або довгого файлу конфігурації. Порівняйте два ендпоінти за допомогою однієї кнопки та залиште той, що підходить для вашого завдання. Результат описує лише з'єднання. Він не повідомляє, чи правильно модель пише команди, тому ви все одно перевіряєте кожну картку та кожну diff.
Оберіть модель для завдання
Оберіть більшу модель для кроків із багатьма рухомими частинами, наприклад, тривалого сеансу усунення несправностей за логами та файлами конфігурації, і меншу для коротких кроків, таких як створення одного облікового запису або читання одного списку груп. Інструмент run_on_model надсилає складний крок до більшої моделі, тоді як решта чату залишається на обраній вами моделі, і ви вирішуєте, коли його використовувати. Більша модель може повільніше відповідати, і їй потрібне потужніше залізо на локальному ПК, тому обирайте модель відповідно до кроку. Перевіряйте результат у будь-якому випадку.
Якість варіюється між моделями, і будь-яка модель може написати неправильну команду з повною впевненістю. Читайте diff або картку команди, перш ніж прийняти її. Ask first робить паузу перед діями, які щось змінюють, тому ви бачите точний рядок перед його запуском. Plan only записує план і нічого не виконує, що є розумним першим кроком з моделлю, якою ви раніше не користувалися. Спробуйте нові моделі на машині, яку можна відновити.
