Zużycie pamięci na laptopach

Podczas lokalnej transkrypcji spotkania lub pisania podsumowania Kimiko może zużywać kilka gigabajtów pamięci. Na laptopie z pamięcią współdzieloną ta praca korzysta z tej samej pamięci, której potrzebują inne aplikacje. Ile dokładnie — zależy od modeli, włączonych funkcji i komputera.

Krótką listę wymagań sprzętowych znajdziesz w części Wymagania systemowe. Do lokalnego rozpoznawania mowy i AI rozsądnym punktem wyjścia jest 16 GB pamięci na Macu z Apple silicon lub na komputerze z Windows z osobną kartą graficzną. Laptopom z Windows i pamięcią współdzieloną może się przydać większy zapas.

Czym jest pamięć współdzielona

Wiele laptopów z Windows ma zintegrowaną grafikę, która współdzieli główną pamięć komputera (RAM). Procesor główny i procesor graficzny korzystają z jednej puli pamięci. Nazywa się to architekturą pamięci zunifikowanej (ang. unified memory architecture), w skrócie UMA. AMD wyjaśnia, jak działa taka pamięć współdzielona.

Na przykład na laptopie z 16 GB pamięci współdzielonej system Windows, aplikacje i grafika korzystają z tych samych 16 GB. Komputer z osobną kartą graficzną może zamiast tego trzymać część danych AI we własnej pamięci karty. Dlatego laptop może zużywać więcej systemowej pamięci RAM przy tej samej pracy.

Maki z Apple silicon też korzystają z pamięci współdzielonej, ale ich sprzęt i oprogramowanie inaczej radzą sobie z lokalnym przetwarzaniem. Sama pamięć współdzielona nie oznacza wysokiego zużycia ani słabej wydajności — z Kimiko z powodzeniem korzystano na MacBooku Air M5 z 16 GB pamięci.

Współdzielenie pamięci nie gwarantuje, że wszystkie części oprogramowania korzystają z jednej kopii danych. Modele AI mogą też potrzebować podczas działania dodatkowych kopii i pamięci roboczej. Rozmiar pobieranego modelu to tylko jego rozmiar na dysku.

Dlaczego zużycie rośnie podczas spotkania

Kimiko może wykonywać naraz kilka czynności: zamieniać mowę na tekst, rozróżniać mówców, przygotowywać notatki do wyszukiwania i pisać podsumowanie. Każda z nich potrzebuje pamięci. Lokalne podsumowanie może chwilowo zwiększyć zużycie, gdy model mowy wciąż działa.

Te czynności obciążają też procesor, więc inne wymagające aplikacje mogą je spowolnić. Samo wysokie zużycie pamięci nie oznacza, że coś jest zepsute — sprawdź, czy komputer reaguje płynnie, a transkrypcja nadąża.

Dlaczego przetwarzanie w chmurze nadal zużywa pamięć

Rozpoznawanie mowy w chmurze i AI w chmurze to osobne wybory. Przeniesienie jednej z tych funkcji do chmury nie zmienia drugiej.

Nawet gdy wybrano obie, Kimiko nadal obsługuje dźwięk i wykrywa mowę na Twoim komputerze. Etykiety mówców i rozpoznawanie głosów, jeśli są włączone, działają lokalnie. Wyszukiwanie w czacie też może korzystać z lokalnego modelu, a włączone dyktowanie ma własny model mowy. Przetwarzanie w chmurze może zmniejszyć obciążenie, ale nie usuwa całej pracy lokalnej. Więcej w poradniku Dostawcy chmurowi.

Jak Kimiko zmniejsza obciążenie

• Od wersji 0.6.5: w systemie Windows wykrywanie mowy działa na procesorze głównym. Na komputerach, które mają tylko grafikę z pamięcią współdzieloną, korzystają z niego też etykiety mówców, dzięki czemu przy tych czynnościach nie ma dodatkowego narzutu związanego z grafiką. Transkrypcja i lokalna AI nadal mogą korzystać z akceleracji graficznej.
• Od wersji 0.6.6: przed rozpoczęciem spotkania Kimiko zwalnia z pamięci czekający model dyktowania. Na komputerach z Windows, które mają tylko grafikę z pamięcią współdzieloną, zmienia też sposób, w jaki wbudowana AI wczytuje dane modelu, aby Windows mógł łatwiej odzyskać część pamięci.
• Od wersji 0.6.7: model mowy do dyktowania i wbudowany model formatowania domyślnie zwalniają pamięć po wspólnym czasie bezczynności, który wynosi 5 minut. Zmień opcję Utrzymuj modele w pamięci w sekcji Ustawienia → Dyktowanie, aby zwalniać pamięć szybciej lub dłużej trzymać modele w gotowości. Model używany też przez czat może pozostać w pamięci dłużej.

Te zmiany działają automatycznie. Nie zmniejszają ilości pamięci potrzebnej aktywnym modelom i nie ma jednego docelowego zużycia pamięci, które pasowałoby do każdego laptopa.

Co możesz zrobić

1. Zaktualizuj Kimiko, aby korzystać z opisanych wyżej zmian.
2. Zamknij wymagające aplikacje i sprawdź na krótkim spotkaniu, jak działa mniejszy lokalny model AI.
3. Ogranicz funkcje opcjonalne. W sekcji Ustawienia → Transkrypcja wyłącz opcję Oznaczaj zdalnych mówców, jeśli nie potrzebujesz osobnych etykiet mówców, albo Podsumowania na żywo, jeśli możesz poczekać i utworzyć podsumowanie po nagraniu.
4. Rozważ przeniesienie do chmury rozpoznawania mowy, AI lub obu, jeśli odpowiada to Twoim oczekiwaniom co do prywatności. Sprawdź też osobny wybór w sekcji Model AI.

Jeśli zużycie pamięci rośnie z każdym spotkaniem albo komputer pozostaje wolny po zakończeniu przetwarzania, skontaktuj się z pomocą techniczną i podaj wersję Kimiko, model laptopa, wybrane modele i włączone funkcje.

Menedżer zadań w Windows

Ogólne zużycie RAM sprawdzisz w widoku Wydajność → Pamięć. Główna aplikacja Kimiko, silnik AI i wyświetlanie okna mogą pojawiać się jako osobne procesy. Pamięć współużytkowana procesora GPU jest już częścią systemowej pamięci RAM — doliczenie jej do całkowitego zużycia RAM oznaczałoby liczenie jej dwa razy.

Płaski wykres 3D nie dowodzi, że procesor graficzny jest bezczynny. W widoku Wydajność → Procesor GPU kliknij nazwę wykresu i wybierz wykres Compute, na przykład Compute 0, jeśli jest dostępny. Tam może być widoczna praca AI. Microsoft wyjaśnia widoki GPU w Menedżerze zadań.