क्लाउड, स्थानीय या इनबिल्ट: अपनी जरूरत के अनुसार मॉडल चुनें

Gridberry Windows 10/11 पर चलता है और उसी मॉडल से बात करता है जिसे आप चुनते हैं। एक मानक API एंडपॉइंट के माध्यम से क्लाउड AI प्रदाता का उपयोग करें, अपने पीसी पर चलने वाले मॉडल का उपयोग करें, या इनबिल्ट मॉडल का, और जब किसी कार्य के लिए अलग मॉडल की जरूरत हो तो स्विच करें।

मॉडल कनेक्ट करने के तीन तरीके

क्लाउड AI प्रदाता

क्लाउड AI प्रदाता कठिन चरणों, जैसे कई लॉग्स में लंबी ट्राबलशूटिंग सत्र के लिए उपयुक्त है। आप Gridberry में प्रदाता का मानक API एंडपॉइंट और अपनी कुंजी दर्ज करते हैं, और कुंजी आपके पीसी पर ही रहती है। प्रॉम्प्ट टेक्स्ट उस प्रदाता को जाता है, जिसमें एजेंट द्वारा पढ़े गए किसी भी फ़ाइल का टेक्स्ट भी शामिल है, इसलिए उन फ़ाइलों में रहस्यमय जानकारी न रखें। Gridberry टूल आउटपुट में रहस्यमय जानकारी को मॉडल से पहले छुपा देता है। एक क्लाउड AI प्रदाता उपयोग के लिए शुल्क ले सकता है, और यह शुल्क प्रदाता द्वारा निर्धारित किया जाता है, Gridberry द्वारा नहीं।

अपने पीसी पर एक मॉडल

अपने पीसी पर चलने वाला मॉडल उन कार्यों के लिए उपयुक्त है जहां प्रॉम्प्ट को आपके मशीन पर ही रहना चाहिए। स्थानीय मॉडल के साथ मॉडल कनेक्शन के माध्यम से कुछ भी पीसी से बाहर नहीं जाता। अन्य सुविधाएं, जैसे वेब खोज या अपडेट जांच, चालू करने पर नेटवर्क का उपयोग करती हैं, और आपके सर्वर के लिए SSH सत्र प्रकृति से एक नेटवर्क कनेक्शन है। गति और संदर्भ विंडो आपकी हार्डवेयर पर निर्भर करती है, इसलिए मॉडल पर भरोसा करने से पहले टेस्ट बटन चलाएं और दोनों संख्याएं पढ़ें।

इनबिल्ट मॉडल

इनबिल्ट मॉडल बिना आपके अपने एंडपॉइंट के उपयोग के लिए तैयार है। यह पहली कोशिश के लिए उपयुक्त है: Gridberry इंस्टॉल करें, एक चैट खोलें और एजेंट से पूछें कि adduser क्या करता है। Plan only मोड में स्विच करें ताकि कोई आदेश निष्पादित किए बिना योजना पढ़ सकें, और फिर Ask first पर जाएं जब आप टेस्ट मशीन पर अकेले आदेशों की मंजूरी देना चाहते हैं। आप बाद में क्लाउड या स्थानीय मॉडल कनेक्ट कर सकते हैं। इस मॉडल के साथ हर कमांड कार्ड और हर diff की समीक्षा करें, जैसे आप किसी अन्य मॉडल के साथ करते हैं।

टेस्ट से कनेक्शन की जांच करें

टेस्ट बटन एक एंडपॉइंट की जांच करता है। यह कनेक्ट किए गए मॉडल के प्रतिक्रिया समय और संदर्भ विंडो को दिखाता है। नए एंडपॉइंट या नई कुंजी दर्ज करने के बाद इसे चलाएं, और मॉडल बदलने पर फिर से, ताकि चैट शुरू करने से पहले एंडपॉइंट में किसी समस्या का पता चल सके। लंबा प्रतिक्रिया समय का मतलब है कि हर चरण लंबे समय तक प्रतीक्षा करेगा। छोटी संदर्भ विंडो का मतलब है कि एजेंट लंबे लॉग या लंबी कॉन्फ़िगरेशन फ़ाइल का कम हिस्सा एक साथ रख पाता है। समान बटन से दो एंडपॉइंट की तुलना करें और उसी को रखें जो आपकी कार्य के लिए उपयुक्त हो। परिणाम केवल कनेक्शन का वर्णन करता है। यह नहीं बताता कि मॉडल सही आदेश लिख रहा है या नहीं, इसलिए आपको हर कार्ड और हर diff की समीक्षा करनी चाहिए।

काम के लिए मॉडल चुनें

बहुत सारे चलते-फिरते हिस्से वाले चरणों, जैसे लॉग्स और कॉन्फ़िगरेशन फ़ाइलों में लंबी ट्राबलशूटिंग सत्र के लिए बड़ा मॉडल चुनें, और छोटे चरणों जैसे एक खाता बनाने या एक ग्रूप सूची पढ़ने के लिए छोटा मॉडल चुनें। run_on_model टूल एक कठिन चरण को बड़े मॉडल पर भेजता है जबकि चैट का बाकी हिस्सा उसी मॉडल पर रहता है जिसे आपने चुना है, और आप तय करते हैं कि इसका उपयोग कब करें। बड़ा मॉडल जवाब देने में धीमा हो सकता है, और स्थानीय पीसी पर इसे मजबूत हार्डवेयर की जरूरत होती है, इसलिए मॉडल को चरण से मिलाएं। परिणाम की समीक्षा किसी भी स्थिति में करें।

गुणवत्ता मॉडल के बीच भिन्न होती है, और कोई भी मॉडल पूर्ण आत्मविश्वास के साथ गलत आदेश लिख सकता है। स्वीकार करने से पहले diff या कमांड कार्ड पढ़ें। Ask first उन कार्यों के पहले रुकता है जो कुछ बदलते हैं, ताकि आप चलने से पहले सटीक लाइन देख सकें। Plan only एक योजना लिखता है और कुछ भी नहीं चलाता, जो एक ऐसे मॉडल के साथ पहला चरण है जिसे आपने पहले उपयोग नहीं किया है। नए मॉडल को उस मशीन पर आज़माएं जिसे आप पुनर्निर्मित कर सकते हैं।