LocalAI 4.12 : voix en continu, routage par décision et filtre de données personnelles

LocalAI est un serveur que l'on installe chez soi pour faire tourner des modèles de texte, de voix et d'image derrière une API. Sa version 4.12.0, publiée le 22 octobre, regroupe 211 contributions fusionnées selon les notes du projet. Voici ce qui compte pour une petite structure, et ce qu'il faut regarder avant de mettre à jour.

Une voix qui n'attend plus la fin de la réponse

Jusqu'ici, un assistant vocal attendait que le modèle de langage ait fini d'écrire pour commencer à parler. Avec le moteur Qwen TTS, la synthèse peut désormais démarrer pendant que le texte arrive. L'activation se fait dans la configuration du pipeline :

pipeline:
  streaming:
    llm: true
    tts: true

Pour les autres moteurs vocaux, une option clause_chunking: true découpe la réponse par propositions. Elle est désactivée par défaut.

Trois préréglages sont proposés dans la galerie, dont piper-streaming-assistant. Attention : ils n'installent que la configuration. Le modèle de langage, la transcription, la détection de voix et la synthèse restent à installer séparément.

Trois nouveaux points d'accès

• /v1/decisions : un modèle de décision classe une demande (oui ou non, choix dans une liste) sans produire de réponse rédigée. Jusqu'à 64 questions par appel.
• /v1/images/upscale : agrandissement d'image. Le facteur demandé doit correspondre à celui du modèle.
• /api/conversations : synchronisation de l'historique de discussion pour les utilisateurs connectés. Les sessions anonymes gardent un historique limité au navigateur.

Données personnelles : un filtre plus large, pas complet

Le filtre de données personnelles couvre maintenant l'API Responses : instructions, textes, arguments de fonctions et sorties d'outils. Une option pii.block_unscanned_media: true rejette les médias que les détecteurs de texte ne savent pas inspecter. Elle ne lit pas les images et ne transcrit pas l'audio : elle refuse, c'est tout.

Les mainteneurs écrivent eux-mêmes que la couverture n'est pas complète, et que certains réglages peuvent masquer plus que nécessaire. Ce filtre réduit un risque. Il ne remplace ni une analyse RGPD ni des règles internes sur ce que l'on confie à un modèle.

Côté MCP, les serveurs distants peuvent s'authentifier en OAuth2 par identifiants client, avec renouvellement automatique des jetons.

Avant de mettre à jour

• La commande /reasoning disparaît. Le sélecteur d'effort de raisonnement ou /effort la remplacent.
• Des configurations déjà installées depuis la galerie peuvent demander une correction manuelle.
• Les imports mis en file peuvent recevoir des réglages recommandés : fixez vous-même les paramètres importants si vous devez reproduire une configuration à l'identique.
• En déploiement distribué, les frontaux se mettent à jour avant les nœuds de calcul.

Licences à vérifier

La galerie passe de 1 660 à 1 896 entrées. Toutes ne sont pas utilisables en entreprise. Les poids de YuE2, le nouveau générateur de musique, sont sous licence CC-BY-NC-4.0, donc réservés à un usage non commercial. Le projet recommande de lire la fiche de chaque modèle.

Un correctif dès le lendemain

La version 4.12.1 est sortie le 23 octobre. Elle ne contient qu'un correctif de sécurité, qui durcit le traitement des adresses fournies par l'utilisateur (images, sons et vidéos passés par URL) : redirections vérifiées à chaque étape et plages d'adresses non publiques élargies. C'est le type de protection qui empêche un serveur d'être utilisé pour atteindre votre réseau interne.

Notre lecture

Ne vous arrêtez pas à la 4.12.0 : visez directement la 4.12.1. Pour une PME, l'intérêt principal de cette version tient au duo voix en continu et filtre de données personnelles, utile pour un assistant téléphonique ou d'accueil hébergé en interne. Faites la mise à jour sur une machine de test, relisez vos configurations issues de la galerie, puis contrôlez la licence de chaque modèle avant tout usage commercial.