跳到正文

#客服

今日 1 条
今天11月16日周一
  1. 人人都是产品经理66

    a16z 合伙人 Tugce Erten 分析 AI 应用该如何获得高溢价

    a16z 增长团队合伙人 Tugce Erten 11 月 2 日发文称,AI 应用溢价应放在客户最难自己做出的环节,按 token 收费不可取。

    决策要点

    AI 应用定价的真正基准不是同行价格,而是客户自己动手的成本,模型每次升级都会把这条线往下压,溢价只能建在客户难复现的环节上。

    • 影响定价与价值错位会让客户结构悄悄恶化,Clay 自述调整前便宜客户在流失、贵客让公司亏本;离客户核心业务近的功能最容易被内部自建替代;企业大模型预算上涨的同时,买方会要求可验证的算账依据。
    • 参考可考虑每季度把客户自建方案的总成本、质量、速度和风险与自家产品比一次;值得选一个客户认得的计量单位算清单次完整成本,把失败重试和人工复核计入;按 token 报价的团队可重新评估计价锚点。
11月14日周六
  1. 人人都是产品经理60

    健康消费服务企业用户反馈闭环实操拆解,AI 辅助定责并将处理周期从三个月缩至一个月

    一位健康消费服务行业从业者复盘了把用户反馈打通到产品迭代的 AI 落地案例,反馈迭代周期从三个月压缩到一个月,用户净推荐值 NPS 提升 8 分。方案把需求理解、责任判定和标准匹配交给 AI,人负责核实与线下执行,扣分须经人工确认才生效;作者曾因 AI 判定直接扣分收到一百多条申诉,此后定下准确率验证完前 AI 结果不动教练分的底线。

    决策要点

    AI 在这类流程里只承担判定环节,真正的工作量在把规则拆成机器可比对的标准和跨部门流程重构。

    • 影响服务交付型企业的反馈处理周期存在压缩空间,参照价值在流程设计而非模型本身;AI 定责直接挂钩收入时,错误判定会引发申诉反弹,需要人工复核兜底;落地成本集中在跨部门梳理和标准结构化上。
    • 参考可考虑先盘点各渠道反馈并统一受理端口,把判定和履约标准拆成机器可比对的条目;值得先按影子模式让 AI 只记录不执行,比对人工结果验证一致率后再放开权限。
11月13日周五
  1. 人人都是产品经理47

    从 Demo 到生产:给 LangChain 售后助手补上运行时上下文、长期记忆、流式输出和可观测性

    作者叶小钗发布 LangChain 售后助手系列教程第三篇,补齐把演示级 Agent 接入真实业务前的四个工程环节。

    决策要点

    售后类 Agent 从演示走向生产,主要工作量在身份注入、长期记忆、流式反馈和执行追踪这些工程环节,而非模型能力本身。

    • 影响对已启动对话 Agent 试点的团队,这四项是接入业务系统前的自查清单;示例采用内存存储,重启即失效,生产需另配持久化和权限校验;启用 LangSmith 会向外部服务发送执行记录,涉及数据边界评估。
    • 参考可考虑按上下文、记忆、流式、追踪四项对照现有 Agent 试点找差距;值得确认用户身份一律取自服务端登录信息并检查访问权限;评估追踪记录外发的合规边界,必要时先在测试环境验证。
11月12日周四
  1. The Decoder:AI News55

    Ramp AI Index显示美国企业AI支出10月创新高,环比增速放缓至1.65%

    Ramp AI Index数据显示,10月美国企业AI支出创历史新高,但环比增速放缓至1.65%,支出前1%的企业人均月支出中位数达10,200美元、上涨9%,典型企业仅16.32美元。

    决策要点

    美国企业AI支出创新高但增速明显放缓,预算高度集中于少数风投支持的科技企业,且token单价持续走低。

    • 影响token均价上月下降21%,使用AI的边际成本在降低,试点门槛随之变低;客服等增长场景更倾向便宜快速的模型,低成本起步可行;典型企业人均月支出仅16.32美元,多数同行实际投入仍很小。
    • 参考可考虑按最新token单价重算AI试点预算,优先评估客服或客户成功这类低成本场景;值得用人均AI支出对标Ramp的16.32美元中位数,先定位自身投入水平再决定加码节奏。
11月10日周二
  1. OpenAI:官网动态37

    新加坡航空采用 OpenAI 技术升级旅行服务与员工办公,Kris 机器人客户满意度翻倍

    OpenAI 官网发布新加坡航空案例,新航使用 OpenAI 模型与 API 提升客户支持、旅行发现和员工生产力,官方称其 Kris 聊天机器人的客户满意度 CSAT 翻倍。该内容为厂商披露的客户落地案例,本次材料仅提供摘要,未包含完整正文细节。

    决策要点

    OpenAI 借新加坡航空案例为企业级 API 做效果背书,客服与内部效率是其对外展示的已落地场景。

    • 影响客服与差旅类企业多一个同行业参照案例,可据此评估聊天机器人升级方向;CSAT 翻倍出自 OpenAI 口径,预算测算不宜直接照搬;员工生产力与对外客服被纳入同一套模型能力。
    • 参考可考虑让客服团队对照该案例盘点自有聊天机器人的功能差距;值得先记录自身 CSAT 基线,再决定是否用 OpenAI API 做小范围验证。
  2. OpenRouter:Blog(Announcements)59

    OpenRouter 教程:如何从任意 LLM 获取结构化输出(JSON Schema、工具调用或决策模型)

    OpenRouter 发布教程,讲解从任意 LLM 获取可靠结构化输出的三条路线,按模型 endpoint 支持情况在严格 JSON Schema、强制工具调用和 Jev 决策模型之间选择。

    决策要点

    结构化输出是否可靠由具体 endpoint 决定而非模型名,多模型接入的真正工作量在按能力选路线和保留本地校验。

    • 影响跨模型应用不能假定 Schema 在所有供应商生效,同一模型换路由结果会不同;只要求合法 JSON 的 JSON 模式实测 216 次全对,说明可在约束强度与稳定性间取舍;纯标签分类改用决策模型在该测试中成本约为 GPT-6 Luna 的一半。
    • 参考可考虑给 provider 加 require_parameters 并设为 true,让不支持的请求显式报错以便切换模型;值得为每条回复保留 jsonschema 校验,可选字段写成必填加 null 类型;纯分类需求可试 Jev,先用自有数据测准确率和成本。
11月9日周一
  1. 人人都是产品经理68

    腾讯云 ADP 产品分析:企业级智能体平台从搭 Agent 转向管 Agent

    分析认为腾讯云 ADP 的战略重心已从帮企业搭 Agent 转向帮企业管 Agent,以 AgentOps 串联构建、评测、治理与优化。按 IDC 口径,2025 年中国智能体开发平台市场约 20 亿元,ADP 私有化市场第二、公有云第三,在传媒与医疗及生命科学子市场份额居首。

    决策要点

    企业级智能体平台的竞争正从模型能力转向治理与交付能力,ADP 的案例说明护城河在场景包与交付资产,而非模型本身。

    • 影响企业选型智能体平台时,治理、权限与交付能力比模型参数更值得关注;私有化部署是当前付费主战场,文中称私有化市场约为公有云的七倍;落地仍以项目制交付为主,中小客户面临价格不透明与自助门槛偏高的成本。
    • 参考选型时可考虑把权限审计、评测与可观测性列入验收清单;试点宜选客服这类流程固定场景,先核对自身数据与系统的就绪度;预算测算前值得要求厂商给出 PU 消耗估算与按量计费的价格对比。
11月6日周五
  1. SaaStr75

    Vercel COO 复盘智能体进销售与客服,线索团队 10 人缩到 1 人,93% 客服工单由 AI 处理

    Vercel COO Jeanne DeWitt Grosser 在 SaaStr AI 会场分享内部智能体落地经验,其线索资格审查智能体上线六周内把 10 人团队缩到 1 人,每年基础设施与 token 成本低于 $5000,COO 称表现相当于 90 分位销售、ROI 为 32 倍。

    决策要点

    Vercel 把销售与客服岗位的智能体替代做成了可核算的成本对比,门槛不在模型而在流程文档化、最佳员工投入和数据地基。

    • 影响线索审核与客服等岗位的成本基准被改写,10 人编制与每年 $5000 的对比可拿来自查;无 API 或 webhook 的工具会被客户内部智能体裁掉;成本在试点量放大 100 到 1000 倍时会跳涨,预算不能按试点数据线性外推。
    • 参考可考虑选一个线索审核或客服场景,按 GTM 工程师加数据科学家加最佳员工的三人组合先记录流程,再以影子模式试点并记录人工复核量;值得盘点现有 SaaS 工具的 API、webhook 与 MCP 覆盖清单;数据侧可先补语义层再铺智能体。
  2. 人人都是产品经理29

    社交产品创业者初九谈 AI 婚恋社交的边界与垂直社交创业机会

    社交产品创业者初九把一场近两个半小时的婚恋社交访谈提纲整理成文,认为 AI 在婚恋社交中仍以工具属性为主,核心价值是承接红娘 1V1 服务里打电话、邀约、初步沟通等标准化环节来降低服务成本。

    决策要点

    AI 进入婚恋社交的实质是把红娘 1V1 人工服务中标准化的部分转给 AI 以压缩成本,现阶段工具属性大于模式创新。

    • 影响红娘式 1V1 服务的成本结构可以重算,标准化沟通环节有机会交给 AI 降低人力支出;灰产借助 AI 批量养号和自动回复,平台风控与审核成本会上升;垂直人群社交给小团队留出差异化切入点。
    • 参考可考虑先盘点自家服务中重复、标准化的沟通和客服环节,测算 AI 承接后的成本差;做社交平台者值得检查风控预算能否覆盖 AI 批量账号场景,再评估是否切入某个垂直人群。
  3. TechCrunch · AI51

    Airbnb 宣布 AI 旅行智能体将于 2027 年上半年推出

    Airbnb 宣布其 AI 旅行智能体将于 2027 年上半年向消费者推出。CEO Brian Chesky 称通用 Agent 只擅长订餐厅、约时间等简单任务,而 80% 的旅行者享受研究行程的过程,官方称该智能体会围绕用户问题实时组合地图、照片、比价、日历、行程等数百种旅行界面组件,并可在旅途中协助改预订、处理退款和提供 24 小时安全支持。

    决策要点

    Airbnb 押注旅行规划需要专用智能体界面而非通用对话,并用行中服务能力构筑外部 Agent 难以复制的壁垒。

    • 影响平台自有智能体可能成为旅行预订与售后服务的新入口,依赖平台分流的酒旅商家需重估触达方式;退款改签等行中环节由平台承接后,用户旅程会更深地留在平台内。
    • 参考可考虑盘点自家在平台渠道上的预订与售后环节有多少会被平台智能体承接,重算客服与渠道预算;自建 Agent 的团队值得参考其按问题实时组合界面组件的做法,而非只做纯文本对话。
11月4日周三
  1. SaaStr75

    Menlo Ventures 年度报告预计 2026 年企业 AI 部署支出达 $176.8 billion,仅 22% 出自软件预算

    Menlo Ventures 第四年度企业 AI 报告预计 2026 年企业 AI 部署支出达 $176.8 billion,为 2025 年 $33 billion 的 5.4 倍,其中仅 22% 出自软件预算,55% 为净新增预算,约 23% 来自人力及其他预算。

    决策要点

    AI 支出的大头是净新增预算和人力预算,软件预算只是最小的资金池,且其中大部分被现有厂商自己转化,AI 原生厂商切走的份额有限。

    • 影响按席位定价的替代型产品争夺的是最小资金池,能解锁软件预算之外资金的产品客单价需达到被替代品 2 倍以上;AI 已把应用 SaaS 整体增速拉低约 2 个点,按席位计费的品类受影响最明显;企业平均支出达上年 4.7 倍,智能体并行运行意味着预算要按工作量而非人数重算。
    • 参考可考虑先判断自家产品争夺的是哪个资金池,再决定是否从席位定价转向按用量或按结果计费;值得用智能体落地三条件检验业务场景,即能否操作连接系统、拿得到所需上下文、结果可验证。
11月3日周二
  1. 人人都是产品经理67

    EliseAI 为什么能靠帮房东回消息做成 2 亿美元的生意?

    EliseAI(eliseai.com)靠替房东自动回复租客消息起家,2026年6月年经常性收入已超2亿美元,连续五年同比翻倍,覆盖约650万套美国公寓,9月底融资后估值达40亿美元。

    决策要点

    垂直场景的 AI 客服靠吃透行业流程也能长成大生意;真正的转折点是 AI 从辅助工具变成操作入口,随即与底层软件厂商产生边界冲突。

    • 影响垂直行业的沟通痛点足以支撑大体量订阅收入,选型时流程纵深比模型聪明程度更值得评估;AI 工具若建立在他人系统接口上,接入可能随时被叫停;AI 一旦跨业务执行操作,数据权限与治理责任随之放大。
    • 参考可考虑在采购垂直 AI 工具前,先弄清其与现有底层系统的接口授权范围和数据边界;试点 Agent 类产品时限定可执行的操作清单,并预先约定接入被暂停时的回退方案。
10月31日周六
  1. SaaStr75

    Sierra 单季新增 1.5 亿美元 ARR,ServiceNow 单日跌 27%,旧 SaaS 模式遭重估

    SaaStr 作者 Jason Lemkin 判断 SaaS 未死但旧 SaaS 在消亡,同一条 B2B 预算正从按席位收费的软件流向按结果收费的智能体。Sierra 单季新增超 1.5 亿美元 ARR,总 ARR 突破 4 亿美元,从 2 亿到 4 亿仅用五个月,近半数财富 50 强企业已是其客户。

    决策要点

    这不是 SaaS 终结,而是同一条 B2B 预算从按席位收费的软件重新切给按结果收费的智能体。

    • 影响客服与运营预算的供应商格局会重排,能证明结果的产品会拿走现有预算项;按席位采购的工具随内部提效会自我缩减,续约议价空间变大;供应商毛利率被 AI 服务成本压低,报价结构可能变化。
    • 参考可考虑盘点客服、理赔等按席位付费的预算项,测算按结果付费产品能替代多少;值得在选型时把上线周期列为硬指标,对标 Sierra 27 天从首次接触到智能体上线的交付速度。
10月28日周三
  1. 钛媒体45

    元保入选巴伦中国价值榜单,AI接管咨询与理赔推动保险中介价值重估

    元保集团入选2026巴伦中国价值榜单“中国行业先锋30强”,该榜单关注企业在细分领域的技术应用与商业模式创新。财报显示公司2026年上半年收入27.08亿元、同比增长32.7%;公司披露其消费者全周期服务引擎拥有5100余个模型、5900余个标签,智能客服将大语言模型与保险知识库结合,覆盖售前咨询、保单查询、售后理赔等十余类场景。

    决策要点

    保险中介的竞争重心正从获客转向投保后的咨询与理赔兑现,元保的案例显示AI自动化正成为重估中介价值的主要变量。

    • 影响对保险及类似强服务行业,咨询与理赔环节正被自动化分担,理赔时效成为可量化的竞争指标;依赖人工逐项核对的服务流程会面临成本与速度差距,中介与保险公司的分工也将随之调整。
    • 参考可考虑盘点客服与理赔流程中人工逐项阅读和核对的工作量,评估用大语言模型结合知识库替代的可行性;同类中介或服务平台值得把结案时效、准确率设为运营对比指标。
10月23日周五
  1. 量子位37

    声网CEO赵斌在iRTE2026提出五级对话能力框架,实时互动迈向对话AGI

    声网创始人兼CEO赵斌在10月23日北京举行的iRTE2026实时智能大会上提出五级对话能力框架,将对话式AI从L1被动应答到L5基于深度关系的沟通分为五层。赵斌称OpenAI等公司过去一年深入采用WebRTC,实时互动基础设施正成为连接模型、Agent运行框架与用户的关键支撑,声网对话式AI引擎以全双工交互为核心。

    决策要点

    声网借自家大会把实时互动定位为对话式AI的关键基础设施,五级框架属厂商叙事,竞争焦点正从模型能力延伸到实时交互与任务执行层。

    • 影响语音客服、招聘、陪伴等场景的评估重点正从模型会说话转向延迟、打断处理与行业数据沉淀;个人智能体若成为新入口,产品价值衡量可能从用户注意力转向任务完成量;不同硬件形态都有机会承接入口,不必押注单一设备。
    • 参考可考虑在评估对话式AI方案时把延迟、打断时机与行业知识结合列为验收项,并用到面、入职等真实业务事件试跑;值得盘点业务里目标明确却耗时的事务,作为个人智能体试点清单。
  2. 人人都是产品经理66

    AI 功能怎么验收?产品经理先把“效果好”说清楚

    作者以退款咨询助手为例拆解 AI 功能验收方法,主张从用户真实场景出发设定标准,替代模糊的“效果好”。验收标准分回答有依据、任务有结果、错误有边界、运行可接受四个维度;测试题从客服真实问题抽样,分常规、边界、异常三类,每条写明输入、上下文、预期行为和判定方式。

    决策要点

    AI 功能上不上线,取决于验收标准是否提前写清任务、错误边界和判定证据,而不是演示时答得顺。

    • 影响涉及资金和承诺的场景里,少数错误样例的代价可能高于几秒等待,上线决策要以错误边界而非总分为准;知识更新、接口变化都会推翻原验收结果,重跑测试的成本要计入排期;失败样例缺少上下文记录会拖慢上线后的问题定位。
    • 参考可考虑先按四个维度写出验收清单,再从客服真实问题抽样做小而有区分度的测试集;上线门槛可拆成几条硬条件,并约定改动后重跑核心样例、失败样例留存上下文和配置版本。
  3. OpenAI:官网动态32

    Anima 用 GPT-6 和 GPT-Live 帮诊所把来电等待时间缩短 75%

    OpenAI 官网发布客户案例,称 Anima 用 GPT-6 和 GPT-Live 帮诊所将来电等待时间缩短 75%。正文介绍 Anima 借助 OpenAI 模型扩展医护团队的能力,使其有更多容量响应患者。该数字为厂商口径,暂无独立验证,材料仅含摘要、未披露部署细节。

    决策要点

    患者来电接待出现了厂商发布的量化改善案例,大语言模型开始承接医疗机构一线通话这类高频固定事务。

    • 影响对来电量大的诊所和医疗机构,用模型承接接线提供了一条缩短等待的路径,可对照 75% 的幅度测算自身收益;数字出自厂商宣传,真实收益需按自身话务结构重算。
    • 参考可考虑先统计前台与客服热线的高峰来电量和等待数据,估算模型承接能释放多少人力;选型时值得要求厂商提供同规模机构的对照结果。
10月13日周二
  1. 人人都是产品经理53

    家政养老业这样用WorkBuddy,排班、回访、对账4个场景提示词可套用

    作者整理出家政养老公司用WorkBuddy加提示词落地AI办公的4个场景,覆盖排班派单、服务SOP与新阿姨培训、客户回访、工时对账与工资明细。文中引述2026年行业规模预计突破1.3万亿、春节后一线城市需求环比涨87%,并给出62人家政公司日排单2小时、月撞单18次等从业案例。

    决策要点

    在家政养老这类缺人行业,AI的价值不在替人上门,而在把排单、对账、回访这些办公室流程用提示词和现成技能接住。

    • 影响缺人背景下把后台事务交给AI可省下排单对账的人力;SOP标准化让服务质量不随阿姨离职流失,直接关系留人成本;自制小工具和名单流转会放大客户与阿姨个人信息外传风险。
    • 参考可考虑从最耗时的排单或月底对账环节先试点,套用文中提示词模板改一版跑一周对比耗时;值得先盘点阿姨档案、打卡签收记录是否齐全,并约定名单和台账只在公司内部流转。
10月11日周日
  1. TechCrunch · AI41

    PolyAI 与 Otter 高管认为语音 AI 尚未迎来 ChatGPT 时刻

    PolyAI CTO Shawn Wen 与 Otter CMO Alex Gay 在上月 HumanX 会议上表示,语音 AI 尽管模型频出,仍未迎来自己的 ChatGPT 时刻。

    决策要点

    两位从业者口径一致,语音自然度已过门槛,真正的瓶颈在推理速度与识别准确性,而非能不能像人说话。

    • 影响客服语音智能体的可用性取决于推理延迟与关键词识别,评估应盯这两项;转写驱动的自动化会因识别错误在下游累积;两位高管均把向用户披露录音与 AI 身份当作建立信任的前提。
    • 参考可考虑在客服试点中实测转人工率与响应延迟;用内部会议核对转写准确率后再接自动化动作;值得提前拟定录音与 AI 身份的披露话术。
10月1日周四
  1. Anthropic:Newsroom64

    Barclays scales Claude to upgrade operations and improve client experience

    巴克莱银行(Barclays)宣布扩大与 Anthropic 的战略合作,在全行部署 Claude 用于加速软件开发、改造遗留系统并提升运营效率。官方预计 Claude Code 采用率到 2026 年底达到其开发者的 50%,2027 年扩展至多数软件工程师。

    决策要点

    大型金融机构的 AI 应用正从单点试点转向全行规模部署,开发工具渗透率成为可量化的落地指标。

    • 影响软件开发和客服知识检索是该行率先规模化的场景,可作为同业选型的对照;开发工具渗透率目标给出了行业推进速度的参考;强监管环境下治理与人工监督被双方视为规模化部署的前提条件。
    • 参考可考虑对照本机构开发团队的 AI 编码工具渗透率,评估与 Barclays 50% 目标的差距;值得盘点客服知识检索和邮件分拣场景的现行人工耗时,测算同类部署的收益空间。
9月22日周二
  1. OpenRouter:Blog(Announcements)64

    OpenRouter 实测 Jev 1.13 对比 Claude Opus 5,分类准确率差 3.3 点、成本仅 1/22

    OpenRouter 用 Banking77 数据集全部 3,080 条银行客服语料实测 Jev 1.13 与 Claude Opus 5,准确率 81.0% 对 84.4%,差距 3.3 个百分点,95% bootstrap 区间为 2.3 到 4.4 点。

    决策要点

    在小数据分类任务上,小型判断模型加置信度级联已能以不到三成成本逼近前沿模型,差距可压到 0.4 点内。

    • 影响意图识别、工单打标这类高频低延迟场景有了量化的成本参照;Opus 开 prompt caching 后每千次从约 $19 降到 $2.42,缓存策略直接影响账单;级联阈值需用自有流量重定,文中数字是该次测试的上界。
    • 参考可考虑挑一条量大、时延敏感的分类链路,先算出自家每千次成本与准确率曲线,再定 Jev 置信度阈值;值得复核现有用前沿模型做分类的调用是否已开 prompt caching。
9月19日周六
  1. OpenRouter:Blog(Announcements)69

    Jev 决策模型与 LLM 对比实测,何时该用判断模型而非生成文本

    OpenRouter 发文实测 TypeSafe 决策模型 Jev 1.13 与 GPT Luna、Claude Opus 在客服工单分诊上的差异,主张选项固定的判断任务用决策模型、写作用 LLM。

    决策要点

    选项固定的判断类任务出现了成本仅为通用 LLM 四分之一到百分之一以下的专用模型路径,写作环节仍需 LLM 承担。

    • 影响客服分诊、升级判定和注入筛查环节的模型成本与延迟有数量级压缩空间;低置信度和高风险请求仍需回流人工,人力编排要同步设计;决策模型只读文本且对规则描述敏感,输入需先做清理。
    • 参考可考虑先盘点代码里以 JSON 解析加 switch 收尾的 LLM 调用,作为第一批替换对象;用一两百条已标注工单跑出准确率随阈值变化的曲线后再定 cutoff;写回复的分支保留 LLM,发送前由决策模型按政策文本核验草稿。
9月14日周一
  1. OpenRouter:Blog(Announcements)49

    OpenRouter 发布 LLM-as-a-Judge 教程,用裁判模型自动给智能体输出打分

    OpenRouter 发布 LLM-as-a-Judge 教程,讲解用一个独立裁判模型按人工编写的标准给智能体最终回答自动打分。配套的 Ori Eval 工具以 TypeScript 编写评测文件并用 Bun 运行,教程示例把通过线 minScore 设为 0.8 分。

    决策要点

    智能体评测从工具调用断言延伸到最终回答的语义质量,语义质检可以进入自动化回归和 CI 流程。

    • 影响客服等开放回答场景可把语义质检交给评分模型,减少人工逐条审阅;每次评测会新增模型调用,成本随用例数、候选模型和评分维度增长;裁判分数未经人工标注校准前不应作为发布依据。
    • 参考可考虑从一例真实客服失败案例入手,写一条他人也能执行的标准,先在小规模人工标注集上校准裁判;值得把确定性检查留在每次提交,LLM 评测放到定时任务或发版前以控制调用成本。
3月20日周四
  1. Anthropic:Engineering59

    The "think" tool: Enabling Claude to stop and think in complex tool use situations

    Anthropic 介绍 think 工具,在 Claude 执行工具调用的过程中插入一个停下来结构化思考的步骤,与回答前生效的 extended thinking 是不同机制。

    决策要点

    给模型留思考位的实现成本很低,对多步智能体任务一致性有帮助,但增益大小取决于是否配了领域示例提示词。

    • 影响策略约束多、步骤环环相扣的智能体流程可低成本提升一致性;代价是提示词变长、输出 token 增多,成本要单独核算;官方提示 extended thinking 改进后多数场景可直接改用它。
    • 参考可考虑在政策复杂、出错代价高的客服或流程自动化场景试点,把领域示例和检查清单写进系统提示词;先估算新增 token 对成本的影响;单次或并行工具调用的简单任务不必加。
12月19日周四
  1. Anthropic:Engineering56

    Building effective agents

    Anthropic 发布工程文章《Building effective agents》,基于与数十个团队合作的经验,主张用简单、可组合的模式而非复杂框架构建智能体系统。

    决策要点

    这是一份智能体构建方法指南,实质是把选型关键从框架转向模式选择、成本权衡与工具接口设计。

    • 影响智能体系统以延迟和成本换取任务表现,是否划算需按场景评估;多数应用优化单次调用加检索与上下文示例即可;自主智能体成本更高且错误会累积,上线前要在沙盒充分测试并配护栏。
    • 参考可考虑用文中五种工作流模式对照现有任务清单,能拆成固定子任务的优先用工作流而非自主智能体;值得把工具定义、参数命名和防错设计当提示词工程投入,先在沙盒环境测试再扩大范围。