คลาวด์, ในเครื่อง หรือในตัว: เลือกโมเดลให้เหมาะกับงาน

Gridberry ทำงานบน Windows 10/11 และเชื่อมต่อกับโมเดลที่คุณเลือก ใช้ผู้ให้บริการ AI แบบคลาวด์ผ่าน endpoint API มาตรฐาน โมเดลบนเครื่องของคุณเอง หรือโมเดลในตัว แล้วสลับเมื่อต้องการโมเดลที่แตกต่างสำหรับงานนั้น

3 วิธีในการเชื่อมต่อโมเดล

ผู้ให้บริการ AI แบบคลาวด์

ผู้ให้บริการ AI แบบคลาวด์เหมาะสำหรับขั้นตอนที่ซับซ้อน เช่น การแก้ปัญหาที่ยาวนานโดยตรวจสอบหลายไฟล์บันทึกข้อมูล คุณกรอก endpoint API มาตรฐานของผู้ให้บริการและคีย์ของคุณลงใน Gridberry โดยคีย์จะเก็บไว้ในเครื่องของคุณ ข้อความ prompt จะถูกส่งไปยังผู้ให้บริการนั้น รวมถึงข้อความในไฟล์ใดๆ ที่เอเจนต์อ่าน ดังนั้นควรหลีกเลี่ยงการใส่ข้อมูลลับในไฟล์เหล่านี้ Gridberry จะลบข้อมูลลับออกจากผลลัพธ์ของเครื่องมือก่อนส่งไปยังโมเดล ผู้ให้บริการแบบคลาวด์อาจคิดค่าใช้จ่ายตามการใช้งาน ซึ่งกำหนดโดยผู้ให้บริการ ไม่ใช่โดย Gridberry

โมเดลบนเครื่องของคุณเอง

โมเดลที่ทำงานบนเครื่องของคุณเองเหมาะสำหรับงานที่ข้อความ prompt ต้องอยู่ในเครื่องของคุณ เมื่อใช้โมเดลในเครื่อง ข้อมูลจะไม่ออกผ่านช่องทางการเชื่อมต่อโมเดล ฟีเจอร์อื่นยังคงใช้เครือข่ายเมื่อคุณเปิดใช้งาน เช่น การค้นหาเว็บหรือการตรวจสอบอัปเดต และการเชื่อมต่อ SSH ไปยังเซิร์ฟเวอร์ของคุณเป็นการเชื่อมต่อเครือข่ายโดยธรรมชาติ ความเร็วและขนาดหน้าต่างบริบทขึ้นอยู่กับฮาร์ดแวร์ของคุณ ดังนั้นให้กดปุ่มทดสอบและอ่านค่าทั้งสองก่อนพึ่งพาโมเดล

โมเดลในตัว

โมเดลในตัวพร้อมใช้งานโดยไม่ต้องมี endpoint ของคุณเอง เหมาะสำหรับเริ่มต้นใช้งาน: ติดตั้ง Gridberry เปิดแชทแล้วถามเอเจนต์ว่า adduser ทำงานอย่างไร สลับเป็นโหมด Plan only เพื่ออ่านแผนงานโดยไม่มีการดำเนินการ แล้วเปลี่ยนเป็นโหมด Ask first เมื่อคุณต้องการอนุมัติคำสั่งทีละคำสั่งบนเครื่องทดสอบ คุณสามารถเชื่อมต่อโมเดลคลาวด์หรือโมเดลในเครื่องได้ในภายหลัง ตรวจสอบการ์ดคำสั่งและ diff ทุกครั้งด้วยโมเดลนี้เหมือนกับที่คุณทำกับโมเดลอื่นๆ

ตรวจสอบการเชื่อมต่อด้วยปุ่มทดสอบ

ปุ่มทดสอบตรวจสอบ endpoint แสดงเวลาตอบสนองและหน้าต่างบริบทของโมเดลที่เชื่อมต่อของคุณ รันทันทีหลังจากกรอก endpoint หรือคีย์ใหม่ และอีกครั้งเมื่อสลับโมเดล เพื่อให้คุณทราบปัญหาเกี่ยวกับ endpoint ก่อนเริ่มแชท เวลาตอบสนองที่ยาวนานหมายถึงขั้นตอนทุกขั้นตอนจะรอคอยนานขึ้น หน้าต่างบริบทขนาดเล็กหมายถึงเอเจนต์จะเก็บข้อมูลไฟล์บันทึกข้อมูลยาวหรือไฟล์กำหนดค่าที่ยาวไว้พร้อมกันได้น้อยลง เปรียบเทียบ endpoint สองรายการด้วยปุ่มเดียวกันแล้วเก็บอันที่เหมาะกับงานของคุณ ผลลัพธ์อธิบายเฉพาะการเชื่อมต่อเท่านั้น ไม่ได้บอกว่าคุณโมเดลจะเขียนคำสั่งที่ถูกต้อง ดังนั้นคุณยังคงต้องตรวจสอบการ์ดและ diff ทุกครั้ง

เลือกโมเดลให้เหมาะกับงาน

เลือกโมเดลขนาดใหญ่สำหรับขั้นตอนที่มีองค์ประกอบหลายส่วน เช่น การแก้ปัญหาที่ยาวนานโดยตรวจสอบไฟล์บันทึกข้อมูลและไฟล์กำหนดค่า และเลือกโมเดลขนาดเล็กสำหรับขั้นตอนสั้นๆ เช่น การสร้างบัญชีเดียวหรืออ่านรายการกลุ่มเดียว เครื่องมือ run_on_model ส่งขั้นตอนที่ซับซ้อนไปยังโมเดลขนาดใหญ่ในขณะที่แชทส่วนอื่นยังคงใช้โมเดลที่คุณเลือก และคุณเป็นผู้ตัดสินใจว่าจะใช้งานเมื่อใด โมเดลขนาดใหญ่อาจตอบช้ากว่า และต้องการฮาร์ดแวร์ที่แข็งแกร่งกว่าบนเครื่องในเครื่อง ดังนั้นให้จับคู่โมเดลกับขั้นตอน ตรวจสอบผลลัพธ์เสมอไม่ว่าจะเป็นอย่างไร

คุณภาพแตกต่างกันระหว่างโมเดล และโมเดลใดๆ สามารถเขียนคำสั่งที่ผิดได้อย่างมั่นใจ อ่าน diff หรือการ์ดคำสั่งก่อนยอมรับ Ask first จะหยุดชั่วคราวก่อนการดำเนินการที่เปลี่ยนแปลงข้อมูล ดังนั้นคุณจึงเห็นบรรทัดที่แน่นอนก่อนที่มันจะทำงาน Plan only จะเขียนแผนงานและไม่ดำเนินการใดๆ ซึ่งเป็นขั้นตอนแรกที่เหมาะสมเมื่อใช้โมเดลที่คุณยังไม่ได้ลองใช้ ลองโมเดลใหม่บนเครื่องที่คุณสามารถสร้างใหม่ได้