Cloud, local sau integrat: alege modelul potrivit
Gridberry rulează pe Windows 10/11 și se conectează la modelul ales. Folosește un furnizor cloud prin API, un model local sau cel integrat, comutând oricând când sarcina necesită altul.
Trei moduri de conectare a unui model
Furnizor AI cloud
Un furnizor AI cloud este potrivit pentru pași complecși, cum ar fi o sesiune lungă de depanare în mai multe jurnale. Introdu endpoint-ul standard API și cheia în Gridberry; cheia rămâne pe PC. Textul trimis către furnizor include și conținutul fișierelor citite, deci evită datele sensibile în acele fișiere. Gridberry ascunde datele sensibile în răspunsurile instrumentelor înainte de a le trimite modelului. Furnizorul cloud poate percepe taxe pentru utilizare, conform setărilor acestuia, nu ale Gridberry.
Un model pe calculatorul tău
Un model local este ideal când promptul trebuie să rămână pe calculator. Cu un model local, nimic nu părăsește calculatorul prin conexiunea modelului. Alte funcții folosesc rețeaua dacă sunt activate, de exemplu web_search sau verificarea actualizărilor, iar sesiunea SSH este o conexiune de rețea. Viteza și fereastra de context depind de hardware, așa că apasă Test și verifică ambele valori înainte să te bazezi pe model.
Model integrat
Modelul integrat este gata de utilizare fără un endpoint personal. Este ideal pentru prima încercare: instalează Gridberry, deschide un chat și întreabă agentul ce face adduser. Comută la Plan only pentru a vedea un plan fără execuții, apoi la Ask first pentru a aproba comenzi pe o mașină de test. Poți conecta un model cloud sau local ulterior. Verifică fiecare card de comandă și fiecare diff cu acest model, așa cum ai face cu orice altul.
Verifică conexiunea cu Test
Butonul Test verifică un endpoint. Afișează timpul de răspuns și fereastra de context a modelului conectat. Rulează-l după adăugarea unui endpoint sau cheie nouă, și din nou la comutarea modelelor, pentru a identifica probleme înainte de chat. Un timp lung înseamnă așteptare mai mare. O fereastră mică înseamnă că agentul reține mai puțin dintr-un jurnal lung sau un fișier de configurare. Compară endpoint-uri cu același buton și păstrează cel potrivit. Rezultatul descrie doar conexiunea, nu corectitudinea comenzilor, așa că verifică fiecare card și diff.
Alege un model pentru sarcină
Alege un model mai mare pentru pași complecși, cum ar fi depanarea în mai multe jurnale și fișiere de configurare, și unul mai mic pentru pași scurți, cum ar fi crearea unui cont sau listarea unui grup. Instrumentul run_on_model trimite pași complecși către un model mare, în timp ce restul conversației rămâne pe modelul ales. Un model mai mare poate fi mai lent și necesită hardware mai puternic pe un PC local. Potrivește modelul cu sarcina. Verifică rezultatul oricum.
Calitatea variază între modele, iar orice model poate genera o comandă greșită cu încredere. Citește diff-ul sau cardul de comandă înainte de a accepta. Ask first oprește execuția pentru acțiuni care modifică sistemul, permițând verificarea liniei exacte. Plan only generează un plan fără execuții, un pas sigur cu un model nou. Încearcă modele noi pe o mașină pe care o poți reconstrui.
