Cloud, locale o integrato: scegli il modello giusto
Gridberry funziona su Windows 10/11 e si connette al modello che scegli. Usa un provider cloud tramite un endpoint API standard, un modello sul tuo PC o quello integrato, e passa all'altro quando un'attività lo richiede.
Tre modi per collegare un modello
Provider AI cloud
Un provider AI cloud è ideale per passaggi complessi, come una lunga sessione di troubleshooting su più log. Inserisci l'endpoint API standard del provider e la tua chiave in Gridberry; la chiave resta sul tuo PC. Il testo del prompt viene inviato al provider, incluso il contenuto dei file letti dall'agente, quindi tieni i segreti fuori da quei file. Gridberry oscura i segreti nell'output degli strumenti prima che raggiungano il modello. Un provider cloud può addebitare l'uso, secondo le tariffe del provider, non di Gridberry.
Un modello sul tuo PC
Un modello in esecuzione sul tuo PC è adatto quando il prompt deve restare sulla tua macchina. Con un modello locale nulla esce dal PC tramite la connessione del modello. Altre funzionalità usano ancora la rete se le attivi, ad esempio la ricerca web o i controlli degli aggiornamenti, e una sessione SSH verso il tuo server è di per sé una connessione di rete. Velocità e finestra di contesto dipendono dall'hardware: esegui il pulsante Test e leggi entrambi i valori prima di affidarti al modello.
Modello integrato
Il modello integrato è pronto all'uso senza un tuo endpoint personale. È ideale per un primo test: installa Gridberry, apri una chat e chiedi all'agente di spiegare cosa fa adduser. Passa a Plan only per leggere un piano senza esecuzioni, poi passa a Ask first quando vuoi approvare i comandi singoli su una macchina di test. Puoi collegare un modello cloud o locale in seguito. Rivedi ogni scheda comando e ogni diff con questo modello come faresti con qualsiasi altro.
Verifica la connessione con Test
Il pulsante Test verifica un endpoint. Mostra il tempo di risposta e la finestra di contesto del modello connesso. Esegui il test dopo aver inserito un nuovo endpoint o una nuova chiave, e di nuovo quando cambi modello, così da notare problemi con l'endpoint prima di iniziare una chat. Un tempo di risposta lungo significa che ogni passaggio attende più a lungo. Una finestra di contesto piccola significa che l'agente trattiene meno di un log lungo o di un file di configurazione lungo alla volta. Confronta due endpoint con lo stesso pulsante e tieni quello adatto alla tua attività. Il risultato descrive solo la connessione. Non ti dice se il modello scrive comandi corretti, quindi devi comunque rivedere ogni scheda e ogni diff.
Scegli un modello per il lavoro
Scegli un modello più grande per passaggi con molte parti in movimento, come una lunga sessione di troubleshooting su log e file di configurazione, e uno più piccolo per passaggi brevi come la creazione di un account o la lettura di un elenco di gruppi. Lo strumento run_on_model invia un passaggio complesso a un modello più grande mentre il resto della chat rimane sul modello che hai scelto, e decidi tu quando usarlo. Un modello più grande può essere più lento a rispondere e richiede hardware più potente su un PC locale, quindi abbina il modello al passaggio. Rivedi comunque il risultato.
La qualità varia tra i modelli e qualsiasi modello può scrivere un comando errato con piena sicurezza. Leggi il diff o la scheda comando prima di accettarlo. Ask first fa una pausa prima delle azioni che modificano qualcosa, così vedi la riga esatta prima che venga eseguita. Plan only scrive un piano ed esegue nulla, il che è un primo passo sensato con un modello non ancora usato. Prova i nuovi modelli su una macchina che puoi ricostruire.
