เลือกจุดเชื่อมต่อโมเดลสำหรับเอเยนต์บน Windows
LibrePatch เชื่อมต่อกับโมเดลผ่านจุดเชื่อมต่อ API มาตรฐาน โมเดลที่ทำงานในเครื่องของคุณ หรือโมเดลในตัว คุณเลือกผู้ให้บริการ ทดสอบการเชื่อมต่อ และตัดสินใจว่าโมเดลใดเหมาะกับงาน
สามวิธีในการรันโมเดล
ผู้ให้บริการ AI บนคลาวด์
ผู้ให้บริการ AI บนคลาวด์เชื่อมต่อผ่านจุดเชื่อมต่อ API มาตรฐานที่คุณกรอกในการตั้งค่าพร้อมคีย์ของคุณ LibrePatch ส่งคำขอของคุณไปยังจุดเชื่อมต่อนั้น และข้อความคำขอจะรวมถึงข้อความของไฟล์ที่เอเยนต์อ่าน ดังนั้นผู้ให้บริการจึงได้รับข้อความดังกล่าว ตรวจสอบข้อกำหนดความเป็นส่วนตัวของผู้ให้บริการก่อนชี้เอเยนต์ไปที่โค้ดที่คุณอาจไม่แชร์ คีย์จะอยู่บนเครื่องของคุณ และข้อมูลลับในผลลัพธ์ของเครื่องมือจะถูกซ่อนก่อนส่งไปยังโมเดล ผู้ให้บริการอาจเรียกเก็บเงินแยกต่างหาก โมเดลที่โฮสต์ขนาดใหญ่ มักถูกเลือกสำหรับขั้นตอนที่ยากขึ้น และคุณตรวจสอบทุกการเปลี่ยนแปลงก่อนยอมรับ
โมเดลในเครื่องของคุณ
โมเดลที่ทำงานในเครื่องของคุณเข้าถึงผ่านจุดเชื่อมต่อในเครื่อง ดังนั้นคำขอจึงไปยังเครื่องของคุณเอง ด้วยโมเดลในเครื่อง ข้อมูลจะไม่ออกนอกเครื่อง ซึ่งสำคัญเมื่อโค้ดหรือข้อกำหนดใบอนุญาตเป็นข้อมูลส่วนตัว หน้าต่างบริบทและความเร็วขึ้นอยู่กับฮาร์ดแวร์และโมเดลที่คุณโหลด ฮาร์ดแวร์กำหนดขีดจำกัด ใช้ปุ่มทดสอบเพื่อดูเวลาตอบสนองและหน้าต่างบริบทของการตั้งค่าของคุณ การค้นหาเว็บ การตรวจสอบการอัปเดต และการเชื่อมต่อผ่านเบราว์เซอร์โทรศัพท์เป็นฟีเจอร์เครือข่ายเสริมแบบแยกต่างหาก คุณยังคงตรวจสอบทุกการเปลี่ยนแปลงด้วยตนเอง
โมเดลในตัว
โมเดลในตัวพร้อมใช้งานโดยไม่ต้องมีจุดเชื่อมต่อของคุณเอง เลือกเมื่อคุณต้องการเริ่มแชทครั้งแรกทันทีหลังการติดตั้ง และเปลี่ยนไปยังโมเดลบนคลาวด์หรือในเครื่องเมื่อใดก็ได้ เริ่มจากที่นั่น ปุ่มทดสอบใช้งานได้กับโมเดลนี้เช่นเดียวกับโมเดลอื่นๆ และแสดงเวลาตอบสนองและหน้าต่างบริบท ไม่ว่าคุณจะเลือกโมเดลใด คุณตรวจสอบทุกการเปลี่ยนแปลงก่อนยอมรับ และ Ask first จะหยุดก่อนการดำเนินการที่เปลี่ยนแปลงสิ่งใดสิ่งหนึ่ง งานแรกที่ดีคือการอ่านไฟล์ LICENSE และเขียนบันทึกย่อสั้นๆ เกี่ยวกับมัน
ทดสอบการเชื่อมต่อก่อนเริ่ม
ปุ่มทดสอบตรวจสอบจุดเชื่อมต่อที่คุณกรอกและแสดงเวลาตอบสนองและหน้าต่างบริบท ทดสอบก่อนเริ่ม เวลาตอบสนองบอกคุณว่าจุดเชื่อมต่อใช้เวลาตอบนานแค่ไหน และหน้าต่างบริบทบอกคุณว่าโมเดลสามารถรับข้อความได้มากแค่ไหนในหนึ่งรอบ ซึ่งสำคัญสำหรับไฟล์ขนาดใหญ่และผลลัพธ์คำสั่งยาว รันการตรวจสอบอีกครั้งหลังจากเปลี่ยนจุดเชื่อมต่อหรือโมเดล คำตอบช้าหรือหน้าต่างเล็กเป็นเหตุผลให้เลือกโมเดลอื่นสำหรับขั้นตอนนั้น การทดสอบไม่ได้แทนที่การอ่านการเปลี่ยนแปลง: มันเพียงตรวจสอบการเชื่อมต่อและแสดงตัวเลขสองตัว
เลือกโมเดลที่เหมาะสมกับงานของคุณ
โมเดลขนาดใหญ่อาจจัดการขั้นตอนที่ยากขึ้นได้ เช่น การเปลี่ยนแปลงข้ามหลายไฟล์หรือบั๊กที่ซับซ้อน ในขณะที่โมเดลขนาดเล็กมักเพียงพอสำหรับคำผิดหรือการแก้ไขเล็กๆ เครื่องมือ run_on_model ส่งขั้นตอนที่ยากไปยังโมเดลขนาดใหญ่ และคุณสามารถแบ่งงานขนาดใหญ่เป็นเอเยนต์ย่อยแบบขนานด้วยเครื่องมือ task คุณภาพยังคงแตกต่างกันไปตามโมเดล เปรียบเทียบในงานของคุณเอง ใช้ปุ่มทดสอบเพื่อดูเวลาตอบสนองและหน้าต่างบริบทของตัวเลือกแต่ละตัว และเก็บขั้นตอนทั่วไปไว้บนโมเดลที่คุณไว้วางใจแล้ว
คุณภาพแตกต่างกันระหว่างโมเดล และแม้แต่ระหว่างเวอร์ชันของโมเดลเดียวกัน อ่านการเปลี่ยนแปลงก่อนยอมรับการเปลี่ยนแปลงใดๆ Ask first จะหยุดก่อนการดำเนินการที่เปลี่ยนแปลงสิ่งใดสิ่งหนึ่ง ดังนั้นคุณจึงเห็นการเปลี่ยนแปลงและสามารถปฏิเสธได้ และ Plan only จะเขียนแผนและรันอะไรเลย ซึ่งช่วยให้คุณอ่านขั้นตอนก่อนเกิดอะไรขึ้น Auto-run จะดำเนินการทันที ดังนั้นใช้สำหรับงานทั่วไปในโฟลเดอร์ที่คุณไว้วางใจ การอ่านการเปลี่ยนแปลงช่วยให้คุณเข้าใจการเปลี่ยนแปลงแต่ละครั้ง