Chargement…
Tag
IA pour développeursActualité ·
Deux avis de sécurité entrés en octobre dans la base de GitHub touchent des outils très répandus pour assembler des agents IA sans coder. Le scénario est le même : une injection de prompt aboutit à l'exécution de code. Les versions à installer et les mesures d'attente.
Agents IAAnalyse ·
Le projet GenAI Security de l'OWASP met en ligne « Securing Agentic Applications V2 », un guide de 106 pages destiné à ceux qui construisent et défendent des agents IA. Nous en retenons quatre idées applicables sans équipe sécurité dédiée.
Agents IAAnalyse ·
Perplexity publie un banc d'essai construit à partir d'attaques réellement détectées par son navigateur Comet. Les chiffres de l'éditeur sont instructifs : un bon détecteur bloque la plupart des pages piégées, mais un attaquant qui insiste finit le plus souvent par passer.
Agents IAAnalyse ·
Deux jours après le lancement de son agent proactif, Anthropic a publié une note détaillée sur sa sécurité. Navigateur isolé, mots de passe chiffrés hors du modèle, contrôle automatique de chaque action : le document décrit une architecture précise, et admet ses angles morts.
Agents IAActualité ·
La plateforme d'agents Dust teste des « inference hooks » : des points de contrôle où un service de sécurité externe examine ce que l'agent reçoit et s'apprête à faire. Première intégration, Datadog AI Guard, en bêta privée. Fonctionnement, réglages et questions à poser avant de l'activer.