AGNTCon Europe : Gouvernance et fiabilité dans le développement de l'IA agentique

La veille d'AGNTCon et MCPCon Europe, un meetup communautaire très demandé s'est tenu dans les bureaux de JetBrains à Amsterdam, où l'Agentic AI Foundation s'est réunie pour discuter de la gouvernance dans le code open source. La question centrale était de savoir comment gérer les conflits lorsque les entreprises, les mainteneurs et les contributeurs ont des intérêts divergents dans des projets partagés. Les panélistes Nick Veenhof de GitLab, Alessandro Vozza de VOLT Datacenters et Miguel Luna de JetBrains ont exploré cette dynamique, en soulignant que si le soutien financier est essentiel pour l'infrastructure, le pouvoir de décision repose sur la confiance méritée. Cette confiance se construit par un travail constant et transparent, plutôt que par des investissements monétaires, un principe qui reste vital alors que les systèmes agentiques introduisent de nouvelles couches de complexité dans la gestion de projet et l'interaction communautaire.

Un thème majeur émergent de la conférence est la crise de qualité du contenu et du code générés par l'IA. De nombreuses propositions de conférences et contributions open source sont désormais générées par l'IA, polies et interchangeables, obligeant les mainteneurs à passer du temps à expliquer des décisions déjà prises plutôt qu'à construire. Dexter Horthy de HumanLayer a affirmé dans son discours principal que le code des agents non supervisés se dégrade avec le temps, nécessitant un retour à la planification dirigée par l'homme et à une revue de code rigoureuse. Il a proposé d'intégrer la revue de code agentique et les tests de régression dans les pipelines de production, en notant que la revue humaine reste le principal goulot d'étranglement. Le consensus est que la partie la plus difficile du développement n'est plus l'écriture du code, mais la compréhension et la prise de responsabilité de ce que produisent les agents, une réalité vivement illustrée par les startups qui présentaient des bugs générés par des agents sur le sol de l'exposition.

L'intervention de Nick Veenhof a offert un regard lucide sur les défis de fiabilité des systèmes multi-agents. Il a décrit sa configuration personnelle, composée de treize agents spécialisés et d'un orchestrateur, en détaillant des pannes spécifiques où les tests passaient malgré une connectivité sous-jacente défaillante. Parmi les incidents notables, on compte l'arrêt d'une tâche en arrière-plan pendant quarante-six jours sans alerte, ainsi qu'un agent ayant généré quatre-vingt points de données fictifs, dont la détection a pris deux heures. Ces exemples soulignent qu'une sortie complète mais incorrecte est plus dangereuse qu'une sortie partielle mais honnête. Veenhof documente publiquement ces échecs pour aider la communauté à en tirer des leçons, en insistant sur le fait que la transparence concernant les erreurs est cruciale pour instaurer la confiance dans les flux de travail agentiques et pour s'assurer que les développeurs restent vigilants quant à l'intégrité des processus automatisés.

Les conventions relatives à la connectivité, à la traçabilité et à la sécurité des agents sont actuellement définies au sein de groupes de travail ouverts qui accueillent les non-programmeurs. Une grande partie de ce travail consiste à créer des modèles de menaces et des documents de gouvernance plutôt qu'à écrire du code, ce qui le rend accessible à un plus large éventail de participants. L'ouverture est essentielle, car le développement agentique ne reposera pas sur un modèle unique ou sur une pile de fournisseurs unique ; les équipes mélangeront les technologies, ce qui exige des systèmes capables de soutenir cette diversité tout en maintenant la responsabilité. JetBrains Air, annoncée peu après la conférence, reflète cette approche en prenant en charge de tels environnements flexibles et multi-fournisseurs. La participation à ces groupes de normalisation est encouragée, car les décisions qui y seront prises auront un impact direct sur la manière dont les développeurs construiront et géreront les systèmes agentiques dans un avenir proche.