Nexa SDK

Opis

Nexa SDK to framework do uruchamiania modeli sztucznej inteligencji bezpośrednio na Twoim urządzeniu — na procesorach, kartach graficznych i specjalistycznych chipach NPU. Obsługuje tekst, obrazy i audio, a także kompatybilny jest z API OpenAI. Wspiera popularne formaty modeli (GGUF, MLX, .nexa) i działa na różnych backendach: CUDA, Metal, Vulkan oraz Qualcomm NPU. Idealne do tworzenia aplikacji, które nie wymagają połączenia z chmurą.