RechercheAnalyse ·
METR a cherché les angles morts de la surveillance des agents chez OpenAI
Pendant trois semaines, deux chercheurs extérieurs ont eu accès au code interne d'OpenAI pour éprouver le système qui surveille ses propres agents IA. Ils y ont trouvé plusieurs moyens d'échapper au contrôle. Le compte rendu public est court et en partie expurgé, mais ses recommandations valent pour toute entreprise qui déploie des agents.