Passer au contenu principal

Aperçu

Cactus est un moteur d'IA hybride à faible latence et très économe en énergie, optimisé pour les smartphones, tablettes, wearables et même les petits serveurs comme le Raspberry Pi. Grâce à son Cactus Graph basé sur PyTorch mobile et à ses kernels ARM SIMD, il offre un calcul sans copie, des modèles quantifiés INT4/INT8 et des performances remarquables en RAM. Le projet propose des SDK natifs (C, C++, Python, Swift, Kotlin, Dart, Rust et React Native) conformes aux API OpenAI, permettant chat, vision, transcription, RAG et appels d’outils directement sur l’appareil. Tout cela est disponible sous licence open‑source, avec une documentation exhaustive et une communauté active.

Retours utilisateur


Évaluez les champs Coûts
12345
12345
12345
12345
12345
12345
12345