Оберіть кінцеву точку моделі для агента на Windows
LibrePatch підключається до моделі через стандартну API-точку, до моделі, що працює локально на вашому ПК, або до вбудованої моделі. Ви обираєте постачальника, перевіряєте з’єднання та вирішуєте, яка модель підходить для завдання.
Три способи запуску моделі
Хмарний AI-постачальник
Хмарний AI-постачальник підключається через стандартний API endpoint, який ви вводите в налаштуваннях разом із ключем. LibrePatch надсилає запити до цього endpoint, а текст запиту містить вміст файлів, які читає агент, тому постачальник їх отримує. Перевірте умови конфіденційності постачальника, перш ніж надсилати агенту код, який ви не хочете розголошувати. Ключ залишається на вашому ПК, а секрети в результатах інструментів видаляються перед надходженням до моделі. Постачальники можуть стягувати окрему плату. Більші хостовані моделі часто обирають для складніших кроків, а ви перевіряєте кожну різницю перед тим, як прийняти її.
Локальна модель на ПК
Модель, що працює локально на вашому ПК, доступна через локальний endpoint, тому запити надходять на вашу власну машину. З локальною моделлю нічого не залишає ПК, що важливо, коли код або умови його ліцензування є приватними. Контекстне вікно та швидкість залежать від вашого обладнання та моделі, яку ви завантажуєте. Обладнання встановлює межі. Використовуйте кнопку «Перевірити», щоб побачити час відповіді та контекстне вікно вашої конфігурації. Пошук у мережі, перевірка оновлень та підключення через телефон-браузер є окремими додатковими мережевими функціями. Ви все одно самі читаєте кожну різницю.
Вбудована модель
Вбудована модель готова до використання без вашого власного endpoint. Оберіть її, коли хочете розпочати перший чат одразу після встановлення, і перемикайтеся на хмарну або локальну модель, коли забажаєте. Почніть звідти. Кнопка «Перевірити» працює для неї так само, як і для будь-якої іншої моделі, і показує час її відповіді та контекстне вікно. Яку б модель ви не обрали, ви читаєте кожну різницю перед тим, як прийняти її, а Ask first призупиняється перед діями, які щось змінюють. Гарним першим завданням є читання файлу LICENSE та написання коротких нотаток про нього.
Перевірте з’єднання перед початком
Кнопка «Перевірити» перевіряє вказаний вами endpoint та показує час його відповіді та контекстне вікно. Перевіряйте перед початком. Час відповіді показує, скільки часу займає відповідь endpoint, а контекстне вікно показує, скільки тексту модель може обробити за один хід, що важливо для великих файлів та довгого виводу команд. Запустіть перевірку знову після зміни endpoint або моделі. Повільна відповідь або мале вікно є причиною обрати іншу модель для цього кроку. Тестування не замінює читання різниці: воно лише перевіряє з’єднання та показує дві цифри.
Оберіть правильну модель для вашого завдання
Більша модель може обробляти складніші кроки, такі як зміна в кількох файлах або складний баг, тоді як менша модель часто достатня для виправлення одруківки або невеликого редагування. Інструмент run_on_model надсилає складний крок до більшої моделі, а ви можете розбити велике завдання на паралельні підагенти за допомогою інструмента task. Якість все ще варіюється від моделі до моделі. Порівнюйте на власних завданнях. Використовуйте кнопку «Перевірити», щоб побачити час відповіді та контекстне вікно кожного кандидата, і залишайте рутинні кроки на моделі, якій ви вже довіряєте.
Якість варіюється між моделями та навіть між версіями однієї моделі. Читайте різницю перед тим, як прийняти будь-яку зміну. Ask first призупиняється перед діями, які щось змінюють, щоб ви бачили різницю і могли її відхилити, а Plan only створює план і нічого не запускає, що дозволяє вам прочитати кроки, перш ніж щось станеться. Auto-run діє миттєво, тому використовуйте його для рутинної роботи в папці, якій ви довіряєте. Читання різниці допомагає зрозуміти кожну зміну.