Назад до проєктів
Про додаток
Можливості
llama.cpp нативно
Високопродуктивний інференс C++ через NDK з оптимізацією під ARM NEON та мобільні CPU
Підтримка GGUF
Легке завантаження та перемикання популярних квантованих моделей від 1B до 7B параметрів
Zero Network
Додаток не потребує та не використовує доступ до мережі: 100% захист від витоку даних
Локальна історія
Збереження діалогів, сесій і налаштувань температури та контексту на вашому пристрої
Material You дизайн
Адаптивний інтерфейс із підтримкою Markdown, підсвітки коду та темного режиму
Тонке налаштування
Контроль над temperature, top_k, top_p, repeat penalty та системними промптами
Скріншоти
Скріншот 1
Скріншот 2
Скріншот 3