paperbot · PL 论文追踪

全部论文 待读 收藏

P2 Observability and Runtime Governance for Agentic AI Systems

面向智能体 AI 系统的可观测性与运行时治理
FSE Proceedings of the 34th ACM International Conference on the Foundations of Software Engineering2026匹配度 3/10 · 论文关注 Agentic AI 系统的运行时可观测性与治理,属于 Agent 工程与调试方向,与“Agentic 程序”有场景交集;但核心不是静态分析、形式化验证、浮点程序分析或贝叶斯程序分析,也未涉及 LLM 改进程序分析,因此与用户研究画像的核心问题距离较远。引用 0 inbox
Naser Ezzati-Jivan, Maryam Ekhlasi
crossref: 2026-09-12dblp: 2026-09-12

AI 速览

一句话:提出一套 AgentOps 软件工程工作流,用于关联智能体执行证据并实施运行时治理。

智能体 AI 系统能够进行规划、调用工具、与其他智能体协作并作用于外部软件服务。这类系统的失效难以诊断:控制流在运行时才生成、执行具有随机性,且错误行为常表现为目标漂移、不安全的工具使用或虚假的成功报告,而非直接崩溃。本教程给出一套面向 AgentOps 的软件工程工作流,将高层意图、模型层决策、工具调用、内存访问与底层系统效应贯通起来,并强调所得证据既能支持事后诊断、也能支持运行时干预。参与者将学习如何构造智能体 trace、关联执行证据、识别静默行为与漂移行为,并应用策略检查、风险追踪、隔离约束与人工升级等运行时治理模式。

问题
智能体 AI 系统的控制流在运行时生成、执行具有随机性,其失败常以目标漂移、不安全工具调用或虚假成功报告的形式出现而非崩溃,导致传统诊断手段难以定位问题。
方法
以教程形式提出一套 AgentOps 软件工程工作流,把高层意图、模型层决策、工具调用、内存访问与底层系统效应串联,据此构造并关联智能体执行 trace,并配套运行时治理模式。
评估
摘要未报告实证评估;作为教程,其评估体现为通过教学演示说明 trace 构造、执行证据关联、静默与漂移行为识别,以及策略检查、风险追踪、隔离与人工升级等治理模式的应用。
原文摘要(Abstract)

Agentic AI systems increasingly plan, call tools, coordinate with other agents, and act on external software services. Their failures are difficult to diagnose because control flow is generated at runtime, execution is stochastic, and incorrect behavior often appears as goal drift, unsafe tool use, or false success reports rather than as crashes. This tutorial presents a software engineering workflow for AgentOps that connects high-level intent, model-level decisions, tool calls, memory accesses, and low-level system effects. It emphasizes evidence that can support both retrospective diagnosis and runtime intervention. Participants will learn how to construct agent traces, correlate execution evidence, identify silent and drifting behavior, and apply runtime governance patterns such as policy checks, risk tracking, containment, and human escalation.

链接与引用

DOI 原文 · PDF(开放获取) · DBLP

BibTeX
@inproceedings{Ezzati-JivanE26,
  title = {Observability and Runtime Governance for Agentic AI Systems},
  author = {Naser Ezzati-Jivan and Maryam Ekhlasi},
  booktitle = {FSE},
  year = {2026},
  doi = {10.1145/3803437.3804904}
}