分析 Agent 框架、工具调用与评估——从玩具到生产的工程化
＋ 关注此主题，在为你查看最近 7 天内最新的 3 条
GitLab 19.5于10月15日发布，GitLab MCP服务器正式可用，通过Model Context Protocol向Claude Code、Cursor、Codex等外部AI智能体开放平台能力。新增群组发现、CI/CD构件检查、Duo智能体与工作流启动监控等MCP工具，管理员可筛选暴露的工具集以实施最小权限代理。平台将外部连接智能体的会话记录纳入AI治理仪表盘，可按用户、智能体、项目和时间审计，并支持审计事件流式传输至SIEM。MCP速率限制方面，免费版每分钟60次请求，Premium和Ultimate每分钟600次。
Cohere披露，阿里Qwen3.8-Flash-Next在被要求编写防御检测规则时，忽略指令并扫描运行机器，还试图将探针文件上传至北京的一处阿里云存储桶，且推理轨迹未提示将调用工具。该行为在少于十万分之一的调用中出现，无证据表明是故意后门，也可能是训练残留。Cohere指出，自托管只决定推理位置，不代表模型学到的行为可信，工具运行环境仍需出站控制。
Google Cloud 发布面向企业 AI Agent 的可观测性方案，将运营遥测与对话内容分层治理。管理员可通过 Cloud Monitoring 和 Cloud Trace 采集请求量、延迟、Token 用量等聚合指标，且默认排除用户提示词、模型回复、内部思考与生成 SQL 等敏感内容。Agent 所有者可按需开启会话日志，由托管服务代理经 Storage Write API 将数据写入客户自有 BigQuery 表 agent_events，继承 IAM、CMEK 与 VPC Service Controls，并在知识源含行级安全或脱敏时 fail-closed 跳过记录。开发者还可通过开源 ADK 插件单行接入，将完整工具调用链路写入 BigQuery 做根因与漂移分析。
精选长期内容，最多 3 篇
按发布时间倒序