AGNTCon Europe: Управління та надійність у розробці агентного ШІ

Ввечері перед AGNTCon і MCPCon Europe в офісі JetBrains в Амстердамі відбулася популярна зустріч спільноти, на якій Agentic AI Foundation обговорювала управління в open source. Центральне питання: як вирішувати конфлікти, коли компанії, мейнтейнери та контриб'ютори мають різні інтереси в спільних проєктах. Учасники панелі - Нік Вінхоф із GitLab, Алессандро Водза з VOLT Datacenters і Мігель Луна з JetBrains - обговорили цю динаміку, підкресливши, що фінансова підтримка важлива для інфраструктури, але право голосу визначається заслуженою довірою. Ця довіра будується на послідовній і прозорій роботі, а не на фінансових інвестиціях. Цей принцип залишається актуальним, оскільки агентні системи додають нові шари складності в управління проєктами та взаємодію спільноти.

Однією з ключових тем конференції став кризис якості контенту та коду, згенерованого ШІ. Багато пропозицій доповідей і внесків в open source тепер створюються ШІ: вони відшліфовані та взаємозамінні. Через це мейнтейнерам доводиться витрачати час на пояснення вже прийнятих рішень, замість того щоб створювати нове. Дікстер Хорті з HumanLayer у своєму ключовому доповіді заявив, що код від автономних агентів з часом деградує, тому потрібно повернутися до планування під керівництвом людини та ретельному ревью коду. Він запропонував впровадити агентне ревью коду та регресійне тестування в production-пайплайни, зазначивши, що людський контроль залишається основним вузьким місцем. Консенсус такий: найскладніша частина розробки - це не написання коду, а розуміння та відповідальність за те, що виробляють агенти. Це наочно продемонстрували стартапи, які показували на стендах баги, згенеровані агентами.

Виступ Ніка Віньхофа дало трезвий погляд на проблеми надійності мультиагентних систем. Він описав свою особисту конфігурацію з тринадцятьма спеціалізованими агентами та одним оркестратором, наводячи приклади збоїв, коли тести проходили, попри зламаний базовий зв'язок. Серед інцидентів було зупинення фонового завдання на сорок шість днів без оповіщень та генерація агентом вісімдесяти вигаданих точок даних, на виявлення яких пішло дві години. Ці приклади показують, що повний, але неправильний результат небезпечніший за частковий, але чесний. Віньхоф публічно документує ці збої, щоб допомогти спільноті вчитися, підкреслюючи, що прозорість щодо помилок критично важлива для побудови довіри до агентних процесів та для того, щоб розробники залишалися пильними щодо цілісності автоматизованих процесів.

Стандарти для підключення, трасування та безпеки агентів зараз розробляються в відкритих робочих групах, які вітають учасників без навичок програмування. Велика частина роботи пов'язана зі створенням моделей загроз та документів з управління, а не з написанням коду, що робить її доступною для широкого кола учасників. Відкритість критично важлива, оскільки розробка агентних систем не спиратиметься на єдину модель чи вендорський стек; команди змішуватимуть технології, що вимагає систем, які підтримують таке різноманіття, зберігаючи підзвітність. JetBrains Air, анонсована невдовзі після конференції, відображає цей підхід, підтримуючи такі гнучкі мульти-вендорні середовища. Участь у групах зі стандартизації заохочується, оскільки рішення, прийняті там, безпосередньо вплинуть на те, як розробники створюватимуть і керуватимуть агентними системами в найближчому майбутньому.