Перейти до вмісту

Локальні моделі ШІ

Підсумки, завдання й чат — на вашому комп’ютері завдяки вбудованому ШІ Kimiko. Порівняйте моделі Gemma і Qwen або підключіть Ollama чи LM Studio.

Востаннє перевірено Для Kimiko 0.5.9

Використовуйте вбудований рушій

Розділ «Використовуйте вбудований рушій»

Відкрийте Налаштування → ШІ → Вбудований ШІ. Завантажте модель, а потім виберіть ту, яку використовуватимуть функції ШІ.

Під час початкового налаштування рекомендовано Gemma 4 E2B. З неї зручно почати, бо все потрібне для локального ШІ Kimiko може налаштувати за вас.

Моделі для початку

Розділ «Моделі для початку»
Модель Приблизний розмір завантаження Коли її розглянути
Gemma 4 E2B 3,2 ГБ Рекомендований варіант початкового налаштування
Qwen 3.5 2B 1,2 ГБ Якщо потрібне менше завантаження
Qwen 3.5 4B 2,6 ГБ Щоб порівняти ще одну локальну модель на своїх нотатках
Gemma 4 E4B 4,9 ГБ Щоб спробувати більший варіант Gemma
Qwen 3.5 9B 5,4 ГБ Щоб спробувати більший варіант Qwen
Gemma 4 12B 6,7 ГБ Більше завантаження — варто випробувати, якщо вашому комп’ютеру вистачає ресурсів

Це приблизні розміри завантажень із каталогу Kimiko. Вони нічого не кажуть про пікове використання пам’яті й не гарантують швидкості чи якості відповідей. Почніть з однієї моделі й перевірте її на своїх типових зустрічах, перш ніж завантажувати інші.

Виберіть модель для функцій ШІ

Розділ «Виберіть модель для функцій ШІ»

Параметр Модель ШІ в розділі Налаштування → ШІ визначає, яка модель виконує роботу ШІ. Перевірте його після зміни постачальників, особливо якщо хочете, щоб уся обробка залишалася локальною.

Форматування диктування може використовувати вибрану модель ШІ або окрему модель, задану в розділі Налаштування → Диктування. Звичайна транскрипція диктування — це окремий вибір моделі мовлення.

Вбудований набір використовує EmbeddingGemma 2 — додаткове завантаження приблизно на 310 МБ, — щоб знаходити для чату потрібні фрагменти. Це модель пошуку, а не модель, яка пише відповідь.

Якщо у відповідях бракує нещодавно доданих зустрічей, перевірте Налаштування → ШІ → Пошук у чаті. Індексування й створення відповідей мають різне призначення.

Наявні локальні налаштування

Розділ «Наявні локальні налаштування»

Якщо ви вже користуєтеся Ollama чи LM Studio, Kimiko має для них готові налаштування підключення в розділі Постачальники. Підключіть сервер, який у вас справді працює, перевірте з’єднання й виберіть його модель для потрібних функцій.

Щоб налаштовувати якнайменше, почніть із вбудованого ШІ Kimiko. Це можна змінити пізніше.

Якщо обробка повільна

Розділ «Якщо обробка повільна»

Закрийте програми, що займають багато пам’яті, спробуйте меншу модель і порівняйте результат на короткій зустрічі. Розмір файлу моделі — лише частина її потреб у ресурсах. Докладніше — у розділі «Обробка повільна».

Якщо у вашому ноутбуці спільна пам’ять (UMA), ШІ й графіка беруть пам’ять із тієї самої RAM, що й інші програми. На сторінці «Використання пам’яті на ноутбуках» пояснено, чому використання пам’яті може бути вищим і що можна змінити.