AGNTCon Europe: Управление и надёжность в разработке агентного ИИ

Вечером перед AGNTCon и MCPCon Europe в офисе JetBrains в Амстердаме прошло популярное комьюнити-встреча, на которой Agentic AI Foundation обсудила управление в open source. Центральный вопрос: как решать конфликты, когда компании, мейнтейнеры и контрибьюторы имеют разные интересы в общих проектах. Участники панели — Ник Винхоф из GitLab, Алессандро Водза из VOLT Datacenters и Мигель Луна из JetBrains — обсудили эту динамику, подчеркнув, что финансовая поддержка важна для инфраструктуры, но право голоса определяется заслуженным доверием. Это доверие строится на последовательной и прозрачной работе, а не на финансовых вложениях. Этот принцип остаётся актуальным, поскольку агентные системы добавляют новые слои сложности в управление проектами и взаимодействие сообщества.

Одной из ключевых тем конференции стал кризис качества контента и кода, сгенерированного ИИ. Многие предложения докладов и вносы в open source теперь создаются ИИ: они отшлифованы и взаимозаменяемы. Из-за этого мейнтейнерам приходится тратить время на объяснение уже принятых решений, вместо того чтобы создавать новое. Дикстер Хорти из HumanLayer в своём ключевом докладе заявил, что код от автономных агентов со временем деградирует, поэтому нужно вернуться к планированию под руководством человека и тщательному ревью кода. Он предложил внедрить агентное ревью кода и регрессионное тестирование в production-пайплайны, отметив, что человеческий контроль остаётся основным узким местом. Консенсус таков: самая сложная часть разработки — это не написание кода, а понимание и ответственность за то, что производят агенты. Это наглядно продемонстрировали стартапы, показывавшие на стендах баги, сгенерированные агентами.

Выступление Ника Винхофа дало трезвый взгляд на проблемы надёжности мультиагентных систем. Он описал свою личную конфигурацию с тринадцатью специализированными агентами и одним оркестратором, приведя примеры сбоев, когда тесты проходили, несмотря на сломанную базовую связность. Среди инцидентов были остановка фоновой задачи на сорок шесть дней без оповещений и генерация агентом восьмидесяти вымышленных точек данных, на обнаружение которых ушло два часа. Эти примеры показывают, что полный, но неверный результат опаснее частичного, но честного. Винхоф публично документирует эти сбои, чтобы помочь сообществу учиться, подчёркивая, что прозрачность в отношении ошибок критически важна для построения доверия к агентным процессам и для того, чтобы разработчики оставались бдительными в отношении целостности автоматизированных процессов.

Стандарты для подключения, трассировки и безопасности агентов сейчас разрабатываются в открытых рабочих группах, которые приветствуют участников без навыков программирования. Большая часть работы связана с созданием моделей угроз и документов по управлению, а не с написанием кода, что делает её доступной для широкого круга участников. Открытость критически важна, так как разработка агентных систем не будет опираться на единственную модель или вендорский стек; команды будут смешивать технологии, что требует систем, поддерживающих такое разнообразие при сохранении подотчётности. JetBrains Air, анонсированная вскоре после конференции, отражает этот подход, поддерживая такие гибкие мультивендорные среды. Участие в группах по стандартизации поощряется, поскольку принятые там решения напрямую повлияют на то, как разработчики будут создавать и управлять агентными системами в ближайшем будущем.