AGNTCon Europe: gobernanza y fiabilidad en el desarrollo de IA agéntica
Public- 14 Oct, 2026

La víspera de AGNTCon y MCPCon Europe se celebró en la oficina de JetBrains en Ámsterdam un encuentro de la comunidad muy solicitado, en el que la Agentic AI Foundation debatió sobre la gobernanza en el open source. La cuestión central era cómo gestionar los conflictos cuando las empresas, los mantenedores y los contribuyentes tienen intereses divergentes en proyectos compartidos. Los participantes del panel (Nick Veenhof, de GitLab; Alessandro Vozza, de VOLT Datacenters, y Miguel Luna, de JetBrains) analizaron esta dinámica y subrayaron que, aunque el apoyo financiero es esencial para la infraestructura, el poder de decisión se basa en la confianza ganada. Esta confianza se construye con un trabajo constante y transparente, no con inversión económica. Es un principio que sigue siendo fundamental, ya que los sistemas agénticos añaden nuevas capas de complejidad a la gestión de proyectos y a la interacción con la comunidad.

Uno de los temas clave de la conferencia fue la crisis de calidad del contenido y del código generados por IA. Muchas propuestas de charlas y contribuciones al open source se generan ahora con IA: están pulidas y son intercambiables. Por ello, los mantenedores tienen que dedicar tiempo a explicar decisiones ya tomadas en lugar de crear. Dexter Horthy, de HumanLayer, afirmó en su charla principal que el código de agentes sin supervisión se degrada con el tiempo, por lo que hay que volver a la planificación dirigida por personas y a una revisión de código rigurosa. Propuso integrar la revisión de código agéntica y las pruebas de regresión en los pipelines de producción, señalando que la revisión humana sigue siendo el principal cuello de botella. El consenso es este: la parte más difícil del desarrollo ya no es escribir código, sino comprender lo que producen los agentes y responsabilizarse de ello. Así lo demostraron claramente las startups que mostraron en sus stands errores generados por agentes.

La charla de Nick Veenhof ofreció una mirada cruda a los problemas de fiabilidad de los sistemas multiagente. Describió su configuración personal, con trece agentes especializados y un orquestador, y detalló fallos concretos en los que las pruebas pasaban a pesar de que la conexión subyacente estaba rota. Entre los incidentes destacaron una tarea en segundo plano que estuvo detenida cuarenta y seis días sin generar alertas y un agente que produjo ochenta datos inventados, que tardaron dos horas en detectarse. Estos ejemplos muestran que un resultado completo pero incorrecto es más peligroso que uno parcial pero honesto. Veenhof documenta públicamente estos fallos para ayudar a la comunidad a aprender, y subraya que la transparencia sobre los errores es fundamental para generar confianza en los flujos de trabajo agénticos y para que los desarrolladores se mantengan atentos a la integridad de los procesos automatizados.

Los estándares de conectividad, trazabilidad y seguridad de los agentes se están definiendo actualmente en grupos de trabajo abiertos que dan la bienvenida a personas sin conocimientos de programación. Gran parte de este trabajo consiste en crear modelos de amenazas y documentos de gobernanza en lugar de escribir código, lo que lo hace accesible a un abanico más amplio de participantes. La apertura es fundamental, ya que el desarrollo agéntico no dependerá de un único modelo ni de un único stack de proveedor; los equipos combinarán tecnologías, lo que exige sistemas que admitan esa diversidad sin perder la rendición de cuentas. JetBrains Air, anunciada poco después de la conferencia, refleja este planteamiento al ofrecer compatibilidad con entornos flexibles y multiproveedor. Se anima a participar en estos grupos de normalización, ya que las decisiones que se tomen en ellos influirán directamente en cómo los desarrolladores crearán y gestionarán sistemas agénticos en un futuro próximo.