Przejdź do treści

Lokalne modele AI

Podsumowania, zadania i czat na własnym komputerze dzięki wbudowanej AI w Kimiko. Porównaj modele Gemma i Qwen albo połącz Ollama lub LM Studio.

Ostatnio sprawdzono Dla Kimiko 0.5.9

Korzystaj z wbudowanego silnika

Sekcja „Korzystaj z wbudowanego silnika”

Otwórz Ustawienia → AI → Wbudowana AI. Pobierz model, a potem wybierz ten, którego mają używać funkcje AI.

Przy wstępnej konfiguracji zalecanym wyborem jest Gemma 4 E2B. To dobry punkt wyjścia, bo Kimiko może sama skonfigurować z nim lokalną AI.

Model Rozmiar pobierania (ok.) Kiedy go rozważyć
Gemma 4 E2B 3,2 GB Zalecany przy wstępnej konfiguracji
Qwen 3.5 2B 1,2 GB Gdy chcesz pobrać mniejszy plik
Qwen 3.5 4B 2,6 GB Aby porównać inny lokalny model na swoich notatkach
Gemma 4 E4B 4,9 GB Aby wypróbować większy model Gemma
Qwen 3.5 9B 5,4 GB Aby wypróbować większy model Qwen
Gemma 4 12B 6,7 GB Większy plik do przetestowania, jeśli komputer ma na to zasoby

To przybliżone rozmiary pobierania podane w katalogu Kimiko. Nie mówią nic o szczytowym zużyciu pamięci i nie gwarantują szybkości ani jakości odpowiedzi. Zacznij od jednego modelu i przetestuj go na typowych spotkaniach, zanim pobierzesz kolejne.

Wybierz, co ma z niego korzystać

Sekcja „Wybierz, co ma z niego korzystać”

W sekcji Model AI wybierasz, którego modelu używają funkcje AI. Sprawdź ją po zmianie dostawców, zwłaszcza jeśli całe przetwarzanie ma pozostać lokalne.

Formatowanie dyktowania może korzystać z tego samego modelu AI albo z osobnego, ustawionego w sekcji Ustawienia → Dyktowanie. Sama transkrypcja dyktowania to osobny wybór modelu mowy.

Wbudowana konfiguracja korzysta z EmbeddingGemma 2 — dodatkowego pliku o rozmiarze ok. 310 MB — aby czat znajdował pasujące fragmenty. To model wyszukiwania, a nie model, który pisze odpowiedź.

Jeśli w odpowiedziach brakuje niedawno dodanych spotkań, sprawdź sekcję Ustawienia → AI → Wyszukiwanie w czacie. Indeksowanie i generowanie odpowiedzi pełnią różne role.

Istniejące konfiguracje lokalne

Sekcja „Istniejące konfiguracje lokalne”

Jeśli korzystasz już z Ollama lub LM Studio, Kimiko ma dla nich gotowe ustawienia połączenia w sekcji Dostawcy. Połącz serwer, którego faktycznie używasz, sprawdź połączenie i wybierz jego model do funkcji, w których ma działać.

Najmniej konfiguracji wymaga wbudowana AI w Kimiko, więc zacznij od niej. Później możesz to zmienić.

Gdy przetwarzanie trwa długo

Sekcja „Gdy przetwarzanie trwa długo”

Zamknij aplikacje, które zużywają dużo pamięci, wypróbuj mniejszy model i porównaj wyniki na krótkim spotkaniu. Rozmiar pliku modelu to tylko część jego wymagań. Więcej w części Przetwarzanie trwa długo.

Jeśli laptop ma pamięć współdzieloną (UMA), AI i grafika korzystają z tej samej pamięci RAM co pozostałe aplikacje. Poradnik Zużycie pamięci na laptopach wyjaśnia, dlaczego zużycie może być wyższe i co można zmienić.