麦肯锡对 50 个 agentic AI 项目进行了研究,发现最常见的失败原因可以归结为 6 个关键因素,这些对 AI 工程师来说至关重要:
- 关键不在于 agent 本身,而在于工作流。不要执着于打造“炫酷”的 agent,要关注整个系统,而不是只做有趣的小玩意。
- agent 并非总是最佳选择。
不是所有流程都需要多 agent 系统。低波动、可预测的任务用规则或 ML 更高效,LLM 反而会增加复杂性。agent 真正的价值在于高波动、复杂流程(比如提取复杂财务信息)。 - 避免“AI 泥浆”现象。(很常见)
要像培养员工一样长期培养 agent。别只看炫技演示,要重视基准测试。agent 需要明确的岗位描述、入职流程和反馈机制,才能持续进步。 - 跟踪每一步,而不仅仅是结果。
盲目扩展 agent 而缺乏可见性,容易出现隐性故障。要监控工作流的每个环节,这样团队能及时发现问题、快速优化逻辑,避免系统崩溃。出错时(总会出错),你能追溯问题根源。千万别忽视这一点。 - 能复用 agent 就复用。
很多公司为每个任务单独开发 agent,浪费了大量时间。更聪明的做法是构建可复用的 agent 组件(如采集、提取、验证、分析),用于不同工作流。集中管理验证过的工具和 prompt,可减少 30–50% 的重复工作,这个比例不容小觑。 - 人类依然不可或缺,但角色发生了变化。
agent 可以解析、自动化和扩展,但人类负责判断、处理边界情况和创造性解决问题。未来不是 agent 对抗人类,而是 agent 与人类协作。
这些都是初创公司和成熟企业在规模化时常犯的错误,会严重损害声誉和资源。现在你知道如何避免了。
最新评论
您好,这是一条评论。若需要审核、编辑或删除评论,请访问仪表盘的评论界面。评论者头像来自 Gravatar。