Chmura, lokalny czy wbudowany: wybierz model dopasowany do zadań

Gridberry działa na Windows 10/11 i komunikuje się z wybranym przez Ciebie modelem. Użyj dostawcy AI w chmurze przez standardowy endpoint, modelu na własnym komputerze lub wbudowanego modelu, a przełączaj się, gdy zadanie wymaga innego.

Trzy sposoby połączenia modelu

Dostawca AI w chmurze

Dostawca AI w chmurze sprawdza się przy trudniejszych zadaniach, np. długiej sesji debugowania obejmującej wiele logów. Wpisz standardowy endpoint dostawcy i swój klucz w Gridberry; klucz pozostaje na Twoim komputerze. Tekst promptu trafia do dostawcy, w tym teksty plików odczytywanych przez agenta, więc trzymaj sekrety z dala od tych plików. Gridberry maskuje sekrety w wyjściach narzędzi przed wysłaniem ich do modelu. Dostawca w chmurze może pobierać opłaty za użycie, co ustala dostawca, a nie Gridberry.

Model na własnym komputerze

Model działający na Twoim komputerze sprawdza się, gdy prompt musi pozostać na Twojej maszynie. Przy modelu lokalnym nic nie opuszcza komputera przez połączenie z modelem. Inne funkcje nadal korzystają z sieci po ich włączeniu, np. wyszukiwanie w sieci lub sprawdzanie aktualizacji, a sesja SSH do serwera jest połączeniem sieciowym z natury. Prędkość i okno kontekstowe zależą od Twojego sprzętu, więc uruchom przycisk Test i przeczytaj oba wyniki przed zaufaniem modelowi.

Model wbudowany

Model wbudowany jest gotowy do użycia bez własnego endpointu. Sprawdza się przy pierwszej próbie: zainstaluj Gridberry, otwórz czat i poproś agenta o wyjaśnienie, co robi adduser. Przełącz na Plan only, aby przeczytać plan bez wykonywania poleceń, a następnie na Ask first, gdy chcesz zatwierdzać pojedyncze polecenia na maszynie testowej. Połączysz później model z chmury lub lokalny. Przeglądaj każdą kartę polecenia i każdą różnicę z tym modelem tak samo jak z każdym innym.

Sprawdź połączenie przyciskiem Test

Przycisk Test sprawdza endpoint. Pokazuje czas odpowiedzi i okno kontekstowe podłączonego modelu. Uruchom go po wpisaniu nowego endpointu lub klucza oraz ponownie po przełączeniu modeli, aby zauważyć problem z endpointem przed rozpoczęciem czatu. Długi czas odpowiedzi oznacza, że każde polecenie czeka dłużej. Małe okno kontekstowe oznacza, że agent trzyma mniej długiego logu lub długiego pliku konfiguracyjnego w pamięci naraz. Porównaj dwa endpointy tym samym przyciskiem i zachowaj ten, który pasuje do zadania. Wynik opisuje tylko połączenie. Nie mówi, czy model pisze poprawne polecenia, więc nadal przeglądaj każdą kartę i każdą różnicę.

Wybierz model do zadania

Wybierz większy model do zadań z wieloma elementami, np. długiej sesji debugowania obejmującej logi i pliki konfiguracyjne, a mniejszy do krótkich zadań, takich jak utworzenie jednego konta lub odczytanie jednej listy grup. Narzędzie run_on_model wysyła trudne zadanie do większego modelu, podczas gdy reszta czatu pozostaje na wybranym przez Ciebie modelu, a Ty decydujesz, kiedy z niego skorzystać. Większy model może wolniej odpowiadać i wymaga silniejszego sprzętu na lokalnym komputerze, więc dopasuj model do zadania. Przeglądaj wynik w każdym przypadku.

Jakość różni się między modelami, a każdy model może napisać błędne polecenie z pełną pewnością. Przeczytaj różnicę lub kartę polecenia przed jej zaakceptowaniem. Ask first zatrzymuje się przed akcjami zmieniającymi coś, więc widzisz dokładną linię przed jej uruchomieniem. Plan only tworzy plan i nic nie wykonuje, co jest rozsądnym pierwszym krokiem z modelem, z którego nie korzystałeś wcześniej. Wypróbuj nowe modele na maszynie, którą możesz odbudować.