Використання пам’яті на ноутбуках

Kimiko може використовувати кілька гігабайтів пам’яті, коли транскрибує зустріч або локально пише підсумок. На ноутбуці зі спільною пам’яттю ця робота бере пам’ять із того самого обсягу, який потрібен іншим програмам. Скільки саме — залежить від ваших моделей, увімкнених функцій і комп’ютера.

Короткий перелік вимог до обладнання є на сторінці «Системні вимоги». Практична відправна точка для локального розпізнавання мовлення й ШІ — 16 ГБ пам’яті на Mac з Apple silicon або ПК з Windows із дискретною графікою. Для ноутбуків з Windows зі спільною пам’яттю бажано мати більший запас.

Що таке спільна пам’ять

Багато ноутбуків з Windows мають вбудовану графіку, яка використовує основну пам’ять комп’ютера (RAM). Центральний і графічний процесори працюють з одним спільним обсягом пам’яті. Це називають уніфікованою архітектурою пам’яті, або UMA. AMD пояснює, як влаштована спільна пам’ять.

Наприклад, якщо в ноутбуці 16 ГБ спільної пам’яті, то Windows, ваші програми й графіка беруть пам’ять із тих самих 16 ГБ. Комп’ютер з окремою відеокартою може натомість тримати частину даних ШІ у власній пам’яті відеокарти. Тому ноутбук може використати більше системної RAM на те саме завдання.

Mac з Apple silicon теж використовують спільну пам’ять, але їхнє обладнання й програмне забезпечення інакше виконують локальну обробку. Сама по собі спільна пам’ять не означає високого споживання чи низької продуктивності: Kimiko успішно використовували на MacBook Air з M5 і 16 ГБ пам’яті.

Спільна пам’ять не гарантує, що кожна частина програмного забезпечення працює з однією копією своїх даних. Моделям ШІ під час роботи також можуть знадобитися додаткові копії й робочий простір. Розмір завантаження моделі — це лише її розмір на диску.

Чому під час зустрічі використання пам’яті зростає

Kimiko може паралельно робити кілька речей: перетворювати мовлення на текст, розрізняти мовців, готувати нотатки для пошуку й писати підсумок. Кожна з них потребує пам’яті. Локальне створення підсумку може тимчасово збільшити використання пам’яті, поки модель мовлення ще працює.

Ці процеси також потребують обчислювальних ресурсів, тож інші вимогливі програми можуть їх сповільнювати. Високий показник пам’яті сам по собі не означає, що щось зламалося: перевірте, чи комп’ютер реагує без затримок і чи транскрипція встигає за розмовою.

Чому хмарна обробка все одно використовує пам’ять

Хмарне розпізнавання мовлення й хмарний ШІ вибираються окремо. Якщо перенести одне в хмару, друге залишиться як було.

Навіть коли в хмару перенесено обидва, Kimiko все одно обробляє аудіо й виявляє мовлення на вашому комп’ютері. Мітки мовців і розпізнавання голосів, якщо їх увімкнено, працюють локально. Пошук у чаті теж може використовувати локальну модель, а ввімкнене диктування має власну модель мовлення. Хмарна обробка може зменшити навантаження, але не прибирає всієї локальної роботи. Докладніше — на сторінці «Хмарні постачальники».

Як Kimiko зменшує навантаження

• З версії 0.6.5: у Windows виявлення мовлення працює на центральному процесорі. На комп’ютерах, де є лише графіка зі спільною пам’яттю, на ньому ж працює й позначення мовців, тож для цих процесів немає додаткових витрат, пов’язаних із графікою. Транскрипція й локальний ШІ все ще можуть використовувати графічне прискорення.
• З версії 0.6.6: перед початком зустрічі Kimiko вивантажує модель диктування, яка чекає в пам’яті. На комп’ютерах з Windows, де є лише графіка зі спільною пам’яттю, Kimiko також змінює те, як вбудований ШІ завантажує дані моделі, щоб Windows легше звільняв частину пам’яті.
• З версії 0.6.7: модель мовлення для диктування й вбудована модель форматування мають спільний час очікування — типово 5 хвилин. Змініть параметр Тримати моделі завантаженими в розділі Налаштування → Диктування, щоб звільняти пам’ять раніше або довше тримати моделі напоготові. Модель, яку також використовує чат, може залишатися завантаженою довше.

Ці зміни відбуваються автоматично. Активним моделям однаково потрібна пам’ять, і немає єдиного цільового обсягу пам’яті, який підходив би для всіх ноутбуків.

Що можна спробувати

1. Оновіть Kimiko, щоб отримати описані вище зміни.
2. Закрийте вимогливі програми й перевірте коротку зустріч із меншою локальною моделлю ШІ.
3. Використовуйте менше необов’язкових функцій. У розділі Налаштування → Транскрипція вимкніть Позначати віддалених мовців, якщо вам не потрібні окремі мітки мовців, або Підсумки наживо, якщо можете зачекати й створити підсумок після запису.
4. Розгляньте хмарну обробку для розпізнавання мовлення, ШІ чи обох, якщо це прийнятно для вас з погляду приватності. Також окремо перевірте, що вибрано в параметрі Модель ШІ.

Якщо споживання пам’яті зростає від зустрічі до зустрічі або комп’ютер залишається повільним і після завершення обробки, зверніться до підтримки й укажіть версію Kimiko, модель ноутбука, вибрані моделі та ввімкнені функції.

Показники в Диспетчері завдань Windows

Загальне використання RAM перевіряйте в розділі Продуктивність → Пам’ять. Основна програма Kimiko, рушій ШІ та відображення вікна можуть показуватися як окремі процеси. Спільна пам’ять графічного процесора вже береться із системної RAM; якщо додати її до загального використання RAM, вона врахується двічі.

Якщо графік 3D майже не рухається, це ще не означає, що графічний процесор простоює. У розділі Продуктивність → Графічний процесор натисніть назву графіка й виберіть графік Compute, наприклад Compute 0, якщо він є. Робота ШІ може відображатися саме там. Microsoft пояснює, як читати дані про GPU в Диспетчері завдань.