Magnitude lance un moteur d’inférence open source qui s’optimise pour le matériel de l’utilisateur

L’essentiel

Selon Magnitude, il compile et règle ses kernels sur l’appareil et fait tourner les modèles ouverts jusqu’à 2 fois plus vite que llama.cpp. Il se connecte à des agents comme Codex ou OpenCode, sous licence Apache 2.0.