Skorzystaj z otwartego oprogramowania i mocy swojego smartfona

…do uruchomienia Sztucznej Inteligencji!

• Zdjęcie poglądowe rozmowy z modelem językowym Q8-RWKV-4-World-1B5

CO TO JEST?

AltaeraAI to wrapper Termux, który pakuje KoboldCpp i Kobold Lite UI do natywnego użytku na urządzeniach z Androidem.

O CO W TYM CHODZI?

AltaeraAI to darmowe i otwarte rozwiązanie do uruchamiania modeli GGML/GGUF za pomocą smartfona. Zawiera instrukcje Termux dotyczące instalacji Artix Linux ze wszystkimi niezbędnymi zależnościami w środowisku “PRoot Distro“, a następnie instaluje KoboldCpp zarówno jako back-end, jak i front-end UI (KoboldLite). Na koniec dodaje linie argumentów do pliku “bash.bashrc“, dzięki czemu można łatwo sięgnąć do MENU, po prostu wpisując “ae“.

Wymagania sprzętowe:

• System operacyjny Android
• Co najmniej 3GB pamięci RAM w połączeniu z pamięcią masową UFS dla modelu domyślnego.
• Ponieważ aplikacja działa lokalnie, oznacza to, że model AI zostanie wdrożony na urządzeniu. Czas generowania jest całkowicie zależny od mocy obliczeniowej urządzenia.