FastFlowLM vise les NPU AMD Ryzen AI. Son arrivée dans l’organisation ROCm ne rend pas chaque GPU compatible ROCm utilisable par ce moteur.
Les ajouts de la version 1.0
La version du 11 août apporte SmolVLA et étend les essais flmbench à plusieurs tailles de contexte. Deux itérations sont prévues par défaut ; la plage du benchmark n’est pas la limite universelle de contexte des modèles.
Le README cible les NPU Ryzen AI XDNA2. Modèles et noyaux optimisés nécessitent un téléchargement initial. Un petit installateur ne représente donc ni l’espace total ni les besoins réseau du premier lancement. Inférence locale et préparation initiale sont deux étapes distinctes.
Deux contrôles Linux, deux questions
Le guide Linux distingue le périphérique amdxdna du noyau et XRT en espace utilisateur. Il faut un firmware compatible, un pilote adapté et la pile XRT. Un numéro de pilote Windows recopié dans un article Linux n’est pas un prérequis de ce système.
La commande de lecture flm validate vérifie le chemin DRM du noyau. L’exécution utilise XRT : une validation réussie peut donc coexister avec « No such device with index '0' » au lancement d’un modèle. Le guide demande de contrôler séparément xrt-smi examine. Notre schéma montre ces deux étapes sans inventer une capture de terminal réussie.
Si la première passe et la seconde échoue, retélécharger le même modèle ne traite pas le problème indiqué de découverte du périphérique. Relevez noyau, chemin du pilote, firmware et liste XRT. Si les deux passent, une panne propre au modèle devient une autre investigation.
Mesurer son usage
Comparez modèle, requête, longueur de sortie et état à froid ou à chaud identiques. Premier résultat et débit continu répondent à deux questions ; une politique robotique ajoute qualité des actions et boucle de contrôle. Nous n’avons pas mesuré l’énergie de cette version. Le NPU reste dans un ordinateur avec orchestration CPU, mémoire et services : son utilisation ne démontre pas une charge CPU totale nulle.
Revue du 8 septembre : prérequis Linux séparés de Windows, détection du NPU distinguée de son utilisation par XRT ; gains non mesurés retirés.