MIT Technology Review · AI· Madhulika Srikumar, Claire Leibowicz·· 3 小时前AI 评分58
Partnership on AI 研究:智能体框架缺少实时可观测记录
We urgently need to monitor AI agents’ actions in real time
AI 导读
Partnership on AI 的研究者指出,当前智能体框架无法可靠生成实时监控所需的关键记录,导致难以判断哪个智能体做了什么、是否越权。他们与学界、产业界合作研究四个最常用的智能体框架,发现缺少持久 Agent ID、人类审批记录等可观测性要求。文章建议通过 OpenTelemetry 补充“发生了什么”的记录,并呼吁框架开发者、企业与监管方共同补齐标准。
来源:MIT Technology Review · AI · technologyreview.com