AGNTCon Europe: Governance und Zuverlässigkeit in der Entwicklung von Agenten-KI

Am Vorabend der AGNTCon und MCPCon Europe fand im JetBrains-Büro in Amsterdam ein hochgefragtes Community-Meetup statt, bei dem sich die Agentic AI Foundation versammelte, um Governance im Open-Source-Bereich zu besprechen. Die zentrale Frage lautete, wie Konflikte zu managen sind, wenn Unternehmen, Maintainer und Contributors in gemeinsamen Projekten unterschiedliche Interessen verfolgen. Die Panelisten Nick Veenhof von GitLab, Alessandro Vozza von VOLT Datacenters und Miguel Luna von JetBrains beleuchteten diese Dynamik und betonten, dass finanzielle Unterstützung zwar für die Infrastruktur essenziell ist, die Entscheidungsmacht jedoch auf verdientem Vertrauen beruht. Dieses Vertrauen entsteht durch konsequente und transparente Arbeit, nicht durch finanzielle Investitionen. Dieser Grundsatz bleibt von großer Bedeutung, da agentische Systeme neue Komplexitätsebenen in das Projektmanagement und die Interaktion der Community einbringen.

Ein bedeutendes Thema, das sich auf der Konferenz ergab, ist die Qualitätskrise bei KI-generierten Inhalten und Code. Viele Vorschläge für Vorträge und Open-Source-Beiträge werden heute von KI erstellt, sind poliert und austauschbar. Dies zwingt Maintainer, Zeit damit zu verbringen, bereits getroffene Entscheidungen zu erklären, anstatt Neues zu entwickeln. Dexter Horthy von HumanLayer argumentierte in seinem Keynote-Vortrag, dass Code von unbeaufsichtigten Agenten im Laufe der Zeit an Qualität verliert, was eine Rückkehr zu menschlich geführter Planung und strenger Code-Überprüfung erforderlich macht. Er schlug vor, agentische Code-Reviews und Regressionstests in Produktionspipelines zu integrieren und wies darauf hin, dass menschliche Überprüfung weiterhin die Hauptengstelle darstellt. Der Konsens lautet, dass der schwierigste Teil der Entwicklung nicht mehr das Schreiben von Code ist, sondern das Verständnis und die Übernahme der Verantwortung für das, was Agenten produzieren. Dies wurde eindrucksvoll durch Startups veranschaulicht, die auf der Messeagenturen generierte Bugs präsentierten.

Der Vortrag von Nick Veenhof bot einen nüchternen Einblick in die Zuverlässigkeitsprobleme von Multi-Agenten-Systemen. Er beschrieb seine persönliche Konfiguration mit dreizehn spezialisierten Agenten und einem Orchestrierer und nannte konkrete Ausfälle, bei denen Tests bestanden, obwohl die zugrunde liegende Verkabelung fehlerhaft war. Bemerkenswerte Vorfälle umfassten das Stoppen eines Hintergrundjobs für sechsundvierzig Tage ohne Warnungen und die Erzeugung von achtzig erfundenen Datenpunkten durch einen Agenten, deren Erkennung zwei Stunden in Anspruch nahm. Diese Beispiele unterstreichen, dass ein vollständiges, aber falsches Ergebnis gefährlicher ist als ein unvollständiges, aber ehrliches. Veenhof dokumentiert diese Ausfälle öffentlich, um dem Community-Lernen zu helfen, und betont, dass Transparenz bei Fehlern entscheidend ist, um Vertrauen in agentische Workflows aufzubauen und sicherzustellen, dass Entwickler wachsam gegenüber der Integrität automatisierter Prozesse bleiben.

Die Konventionen für die Konnektivität, Tracing und Sicherheit von Agenten werden derzeit in offenen Arbeitsgruppen definiert, die auch Nicht-Programmierer willkommen heißen. Ein Großteil dieser Arbeit besteht in der Erstellung von Bedrohungsmodellen und Governance-Dokumenten, nicht im Schreiben von Code, was sie für eine breitere Palette von Teilnehmern zugänglich macht. Offenheit ist entscheidend, da die agentische Entwicklung nicht auf einem einzelnen Modell oder einem einzigen Vendor-Stack beruhen wird; Teams werden Technologien mischen, was Systeme erfordert, die diese Vielfalt unterstützen und gleichzeitig Rechenschaftspflicht wahren. JetBrains Air, das kurz nach der Konferenz angekündigt wurde, spiegelt dieses Denken wider, indem es solche flexiblen Multi-Vendor-Umgebungen unterstützt. Die Teilnahme an diesen Standardisierungsgruppen wird ermutigt, da die dort getroffenen Entscheidungen unmittelbar beeinflussen werden, wie Entwickler in naher Zukunft agentische Systeme entwickeln und verwalten.