跳到正文

#合规风控

今日 12 条
11月3日周二
  1. The Decoder:AI News63

    高盛收回交易员与银行家的 AI 编程工具权限,仅保留工程师使用

    高盛已切断多数员工对 Anthropic Claude Code、Microsoft GitHub 等 AI 编程工具的访问,据 Bloomberg 援引 10 月内部指引,目前仅工程师仍可使用,此前交易员和银行家已用这些工具数月来监控交易流和制作内容。

    决策要点

    高盛从全员试用转向只留工程师,说明非技术员工自建 AI 工具的产出和风险问题足以让金融机构收回权限。

    • 影响曾鼓励业务人员用 AI 编程工具搭原型的企业,可能面临同样的权限与风险重新评估;已采购的席位预算和业务侧试点需要重新安排;监管敏感行业的工具使用边界会更早收紧。
    • 参考可考虑盘点业务部门正在用编程类 AI 工具搭建的清单及其数据接触面;值得先算出这些自建工具的实际产出和维护成本,再决定保留试点还是收回权限。
  2. TechCrunch · AI54

    纽约时报等媒体起诉浏览器公司 Brave 涉嫌抓取版权内容

    《纽约时报》周一在曼哈顿联邦法院起诉隐私浏览器公司 Brave,指控其抓取该报版权内容并分发给 Anthropic、Perplexity、Mistral、xAI、Cohere 等 AI 客户,并寻求禁令和赔偿。

    决策要点

    版权方针对 AI 内容滥用的诉讼正从模型公司扩展到分发渠道,浏览器这类基础设施也开始成为被告。

    • 影响依赖抓取内容的数据或 AI 服务,供应方被诉可能波及下游客户,起诉书已把客户列为分发对象;内容授权成本可能上升,采购合同需审视数据来源与合规条款。
    • 参考可考虑盘点现有知识库与 AI 工具的内容来源,要求供应商说明抓取范围和授权情况;采购合同值得加入数据来源合规条款,内容依赖度高的业务可预先评估授权预算。
  3. The Verge · AI36

    Anthropic 更新 Claude Code 系统提示词,阻止用 AI 复刻现有游戏

    Anthropic 更新了 Claude Code 在 Opus 5.5 上的系统提示词,新增两句话引导该工具不去复刻特定的现有游戏,理由是用 Claude 侵犯 IP 违反其使用政策。

    决策要点

    Anthropic 把用 Claude 复刻特定游戏定性为违反使用政策的 IP 侵权,平台的内容合规边界开始覆盖游戏生成。

    • 影响游戏与内容团队用 AI 生成时需把 IP 边界纳入自查范围;依赖 Claude Code 的工作流行为可能随平台政策继续调整;复刻、改编类业务的侵权风险已被平台明确点名。
    • 参考可考虑在团队 AI 使用规范中写明不得复刻特定现有作品;值得盘点已生成的模仿类内容并核对 IP 来源;自有设计被工具误拒时可按官方渠道反馈。
  4. OpenAI:官网动态34

    OpenAI 上调安全漏洞赏金,新增报告质量等三类奖金

    OpenAI 宣布提高安全漏洞赏金(Security Bug Bounty)奖励金额,并面向独立安全研究人员新增报告质量、忠诚度和优先活动三类奖金。公告摘要未披露具体金额与执行细则。

    决策要点

    实质是 OpenAI 加大对外部安全研究力量的投入,用奖金结构引导研究者更重视其平台的漏洞报告。

    • 影响对采购或集成 OpenAI 产品的企业,官方漏洞报告通道的激励上调,可纳入供应商安全能力的评估;自建赏金或众测计划的企业多了一套奖金结构参照。
    • 参考可考虑把供应商的漏洞赏金与安全响应政策加入采购安全评估清单;已有众测或赏金预算的团队,可对照报告质量奖与忠诚度奖的思路重算激励结构。
  5. The Verge · AI55

    《纽约时报》等出版方起诉 Brave 浏览器,指控其 AI 抓取与绕过付费墙

    据路透社报道,《纽约时报》与经营《纽约每日新闻》《芝加哥论坛报》《奥兰多哨兵报》的公司等出版方起诉 Brave 浏览器开发商 Brave Software,指控其未经许可抓取版权内容训练 AI,并通过付费墙拦截功能让用户绕过订阅。

    决策要点

    这起诉讼的实质是出版方追责抓取内容的商业变现链,把向 AI 公司转售内容的浏览器索引商也列为被告。

    • 影响依赖第三方索引获取实时内容做训练或检索的 AI 产品可能被连带追责,内容采购需核查授权链路;媒体类企业在付费墙执行和内容授权谈判上的筹码增加;相关内容接口的合规审查成本会上升。
    • 参考可考虑盘点自家 AI 产品训练与检索所用的内容来源清单,要求索引类供应商出示授权证明;内容业务方值得把付费墙保护写入与 AI 平台的授权谈判要点。
  6. TechCrunch · AI43

    以色列初创 42AI 携 $62.5M 种子轮走出隐身,推出可预测人类行为的世界模型

    以色列初创公司 42AI 结束隐身状态,公布 $62.5M 种子轮融资,推出一款自称能预测人类决策概率的行为世界模型,已在券商场景投入使用。官方口径称模型达到 98% 准确率,但该数字指交易流落在预测区间内而非逐笔预测正确,预测交易方向与量的 F1 为 0.8 到 0.85;公司已与 10 家大型券商合作,收入超七位数,并称一家券商通过动态对冲多获得约 $30M 价值。

    决策要点

    这是把个体心理倾向建模成概率分布、卖给券商做交易行为预测的产品,宣传效果的定义口径明显比字面更宽。

    • 影响券商可用这类行为预测优化流动性、保证金和对冲管理;行为画像的滥用顾虑被创始团队承认存在,客户数据合规风险需同步评估;公司计划向游戏、反欺诈和网络安全扩展,应用面可能超出金融。
    • 参考金融机构可考虑在一个流动性或对冲场景实测其准确率是否与官方口径一致后再谈预算;值得盘点自身客户行为数据的采集与使用边界,为画像类技术准备合规与伦理审查清单。
11月2日周一
  1. 36氪·AI59

    《一本书读懂词元经济》节选:谁在消耗词元,价值如何转化

    36氪经授权发布腾讯研究院文章,节选自杜宁所著《一本书读懂词元经济》第四章,从需求侧分析谁在消耗词元、词元如何转化为价值。

    决策要点

    词元经济的实质是把企业AI投入从工具采购变成按任务核算价值的成本科目,消耗量本身不等于价值。

    • 影响词元成本会像云计算费用一样随使用强度自动增长,需要进入预算与审计体系;同样消耗量在不同任务上的价值密度差异很大,决定AI投入应投向哪些任务;幻觉、泄密和依赖风险决定AI能进入多高价值的业务流程。
    • 参考可考虑先把模型账单拆解到部门、项目和任务三个维度,算清谁在用、用在哪类任务上;值得按低风险低价值、高频提效、高价值复杂、高风险限制四档给任务分级并匹配不同档位模型;高风险场景可先补齐人工审核与输出留痕再扩大用量。
  2. 36氪·AI57

    63亿美元盗窃案后,AI会不会杀死币圈

    币圈发生约63亿美元史上最大盗窃案,多个区块链资产在北京时间10月30日凌晨约20分钟内流出,仅以太坊流出超33亿美元。Chainalysis称攻击显系AI所为,比特币一度跌至约76300美元,24小时爆仓约15亿美元;Blockworks称今年加密攻击已超300起,同比增长111%。

    决策要点

    AI没有正面攻破加密算法,而是把寻找系统后门的成本大幅降低,币圈的开放性与即时到账反而成了攻击面,受冲击的是平台信用而非链本身。

    • 影响持有或交易加密资产的企业攻击面在扩大,第三方组件和未审计代码成为主要入口;链上交易即时且难撤销,事后拦截空间很小;安全能力开始取决于能否接入前沿模型,形成对AI公司的新依赖。
    • 参考可考虑盘点自身及供应商系统里的第三方组件、未发布分支等审计盲区;值得测算一次发现漏洞即可转账场景下的最大瞬时损失并明确冻结预案;接入AI安全扫描前先确认审核条件与数据边界。
  3. 钛媒体59

    在诊室里用豆包的医生们

    显微故事走访多位在诊室使用AI的医生,报道医生与患者各自的使用方式与边界。丁香园调研647名医务工作者,98.5%的医生近三个月工作中用过AI,81.4%用过豆包,豆包日均健康类咨询量被估在2000万人次量级,字节未正式披露精确数。

    决策要点

    AI已经同时进入医生的查询工具和患者的问诊话术,医疗机构的真正课题是划清使用边界而非禁用。

    • 影响医生用AI补知识盲区可提升查询效率,但患者带AI结论就诊会拉长单次沟通时间;AI病历系统能省文书时间,可模板化补全会制造质控抓不住的错误内容,责任仍落在签字医生;监管已明令禁止AI自动生成处方。
    • 参考医院可考虑先列一份AI使用清单,明确允许查询的环节和禁止写入病历与处方的环节;值得在引入AI病历系统前先设计补全内容抽检机制,并把应对患者AI结论的沟通方法纳入医生培训。
  4. IT之家·人工智能58

    巴西两名律师试图通过隐藏提示词操纵法院 AI,被罚 1.6 万美元

    巴西一家劳工法院对两名律师处以约 1.6 万美元罚款(IT之家注约合 10.7 万元人民币),因他们在提交的诉状中用白底白字嵌入提示词注入指令,试图让法院 AI 对诉状仅做表面处理、不质疑内容。

    决策要点

    法院文书进入 AI 处理流程后,文档本身成了被攻击入口,隐藏提示词注入已被司法当作可处罚的不当行为。

    • 影响企业用 AI 处理外部来文的场景存在同类注入风险,审核需覆盖人眼不可见的隐藏内容;司法已对操纵 AI 的行为处以罚金并通报执业机构,用此类手段的代价有了明确先例。
    • 参考可考虑排查用 AI 处理外部提交文档的流程,加入对白底白字、异常排版间距等隐藏文本的检测;值得在内部规范中明确禁止在提交给 AI 的材料中植入操纵性指令。
  5. 量子位30

    上海仪电智算云 Token 工厂主打三重可信,瞄准企业核心业务词元供给

    上海仪电发文介绍其智算云 Token 工厂,以服务运营、自主生态、安全合规三重可信定位企业级词元服务。文中援引国家数据局数据称,中国日均 Token 调用量从 2024 年初约 1000 亿次增至 2026 年 6 月超 500 万亿次。10 月 31 日全球数商大会论坛上,上海仪电与上海创智学院联合发布“飞轮转・万象生”智算数链生态,同期发布的一体机首批上线“寻数”功能。

    决策要点

    词元服务进入企业核心业务后,竞争重心正从产能与价格转向供给稳定、国产化交付与可审计的可信能力。

    • 影响词元服务接入金融、政务、医疗等核心业务后,留痕存证与数据边界会从加分项变成采购门槛;各平台计费口径不统一,同样负载的成本可能相差数倍;国产化要求下芯片与模型适配基线缺失,算力投入未必形成产能。
    • 参考可考虑用同一组提示词与输出长度在候选平台实测词元消耗,再谈价格与预算;核心业务场景值得把 SLA、留痕存证与审计接口列为采购前提;国产化项目先核查芯片、模型与工具链的适配清单。
  6. 36氪·AI36

    创界通发布合规大脑Agent 2.0,覆盖50+国家地区税务合规规则

    深圳市创界通科技有限公司于2026年10月发布合规大脑Agent 2.0,将出海合规产品从问答工具升级为感知、决策、执行全链路Agent,支持MCP与Skill开放生态并可集成第三方Agent。

    决策要点

    出海合规这类垂直Agent正从回答问题转向替人办事,产品成色取决于官方信源与业务系统整合深度,而非底层模型。

    • 影响多公司多店铺的出海卖家可把分散的合规状态集中诊断,处置从收到平台警告后救火转向提前排优先级;合规结论出错的代价是封店或罚款,AI判断需保留人工复核;选型标准从知识库覆盖面转向执行能力。
    • 参考可考虑选一个高频场景试点,如新市场进入评估或商标近似筛查,记录与人工流程的耗时对比;接入订单或工单系统前,值得先确认数据授权范围与结果可复核机制。
  7. 钛媒体62

    Character.AI申请破产保护,2800万月活仍养不活AI陪伴生意

    Character.AI(C.AI)申请破产保护,若找不到出售方案平台可能停运,这家2023年完成1.5亿美元融资、投后估值10亿美元、月活一度约2800万的公司走向出售资产。

    决策要点

    AI陪伴的困境不是需求不存在,而是情感黏性既难转化为付费,又持续推高算力与安全合规成本,单靠关系订阅难以成立。

    • 影响情绪黏性类产品要先算清单次对话的推理成本,黏性越高成本越重;国内新规已把防沉迷和未成年人保护变成硬约束,增长设计同时是合规风险点;情感类功能要变现,可能需要挂靠剧情、硬件等具体价值载体。
    • 参考可考虑在立项情绪类AI产品前,先测算单位活跃用户的算力成本与可预期订阅收入的比值;值得对照7月新规排查依赖情感依附的增长设计和未成年人接触路径;变现设计可参考剧情解锁、小额充值、低价硬件加订阅等已被采用的做法。
  8. 钛媒体37

    Fintech周报:廖岷拟出任IMF副总裁,三季度银行理财存续规模达35.37万亿元

    钛媒体发布Fintech周报,IMF提议任命中国财政部副部长廖岷为副总裁,自2026年12月1日生效,其将成为IMF第四位中国籍副总裁;三季度末银行理财存续规模35.37万亿元,同比增长10.08%,创历史新高。

    决策要点

    金融科技监管正在细化为可执行规则,同时跨境支付与稳定币成为银行和支付厂商竞逐的新增量。

    • 影响跨境收单、汇款和结算通道在增多,有出境业务的企业可借新方案重算支付成本;App收集个人信息的通报与处罚在变严;理财规模扩张与消费贷款下降并存,居民资金偏向配置而非消费。
    • 参考可考虑排查自有App和小程序的个人信息收集清单,对照84款被通报应用做整改;有跨境业务的企业值得比较TenPay Global、Alipay+等新通道的覆盖与费率。
  9. 36氪·AI60

    横店2.3亿元AI平台项目引发15万群演授权争议,影视城集体数字化

    横店影视AI服务平台项目以2.3亿元中标,牵头方为字节系公司东阳深空引擎,联合体含火山引擎,平台定位为影视行业公共数字基础设施;10月28日“横店和字节合作把15万个群演喂给AI”登上微博热搜,豆包公关回应称说法严重失实,并称数据资产归横店或授权方所有、涉及肖像和声音需本人授权、数据不用于训练字节大模型(官方口径)。

    决策要点

    横店争议的实质是平台建设跑在授权制度前面,15万群演的肖像授权范围、费用和收益安排没有答案,人力转数字资产先撞上合规问题。

    • 影响影视基地收入逻辑从场租向数据和服务延伸,免费场景和免租棚是用政策稳剧组的对价;个体授权机制缺位时,同类数据合作的法律与舆情风险会集中指向平台方和合作方;数字形象的授权成本与使用边界将更多进入内容企业的合同谈判。
    • 参考可考虑在涉及人脸、声音等生物特征的数据合作中,把授权范围、使用边界、费用和违约责任逐项写进合同再启动;影视及内容企业值得先盘点自有场景、素材和艺人对外授权的可行性。
  10. 36氪·AI56

    Meta联手中企傅利叶,三个月造出人形机器人原型Max

    Meta与中国机器人企业傅利叶合作,用三个月完成人形机器人原型Max,并已启动第二代Max 2的研发。Max身高约1.5米、重约48公斤,搭载英伟达Jetson Thor芯片,Meta称合作仅用于内部研究和实验,没有销售计划。美国联邦通信委员会(FCC)7月限制进口中国新型人形机器人,8月提议将测试豁免量从4000台降至40台。

    决策要点

    美国AI巨头把模型装进中国制造的机器人身体,Meta借傅利叶三个月出原型,但监管收紧让这条软硬分工路径的成本开始上升。

    • 影响中国机器人厂商的整机研发制造能力获得美国头部公司采用,供应链和测试场景价值上升;若FCC豁免收紧落地,从中国进口原型机和零部件的合作成本会增加;家用机器人进入消费市场仍隔可靠性、安全和成本三道坎。
    • 参考涉足人形机器人进口或采购的企业,可对照FCC现行4000台豁免与拟议40台条款先算测试和零部件风险;关注产业链机会的企业可跟踪Meta在沪深的招聘岗位构成,判断其量产准备节奏。
  11. 36氪·AI45

    Anthropic 创始兄妹访谈揭秘 5 年前离开 OpenAI 内因,承诺 Claude 不植入广告

    在 Anthropic 近日提交 IPO 文件之际,创始人 Dario 与 Daniela Amodei 在传记作家 Walter Isaacson 的访谈中回顾 5 年前与另外 5 位联合创始人离开 OpenAI 的经历,Dario 将原因归结为无法相信内部分歧建立在善意之上、听到的是真话。

    决策要点

    这是 Anthropic 在提交 IPO 文件之际的一次价值观输出,把离开 OpenAI 的旧事转化为公司差异化定位与信任资产的叙事。

    • 影响模型厂商货币化路径出现分野,广告驱动与订阅驱动的产品激励不同,企业选型时对应不同的谄媚与操纵风险;其自设的安全红线若经国会立法落地,会改变军工、监控相关合作的合规边界。
    • 参考可考虑把供应商是否依赖广告变现、是否公开安全承诺纳入 AI 采购评估项;值得在主观话题上实测在用模型的谄媚表现;涉及军工或监控合作时先核对立法规动与供应商红线。
  12. 36氪·AI37

    《人类简史》作者赫拉利访谈称真正 AI 危机是人类集体失智而非机器反叛

    《人类简史》作者尤瓦尔·赫拉利在访谈节目《Hyde Park Civilizace》中称,AI 不是工具而是能独立决策、生成创造者未设想过的方案的智能体,真正的危机不是机器反叛,而是人类未来 10-20 年将看不懂 AI 迭代出的金融与法律系统,陷入集体失智。

    决策要点

    赫拉利的核心判断是把 AI 风险从机器反叛的科幻场景转移到人类对自身系统的理解力流失与责任真空,风险是制度性的。

    • 影响企业把金融、法务、审批类流程交给 AI 时,可解释性会从技术细节变成审计与治理问题;合同与制度若不把责任绑定到人类和机构,出事时就可能出现无人担责的真空。
    • 参考可考虑在 AI 采购与内部立项时写明责任归属和人工追责路径;值得为关键业务流程保留人类可读懂的决策说明,并盘点哪些环节已没人能拆解内部逻辑。
  13. 钛媒体81

    苹果选择千问的背后,是合规与工程交付而非模型跑分

    苹果10月31日官宣与阿里巴巴合作,千问正式集成至Apple智能,中国用户可在Siri、写作工具和视觉智能中调用其文本与图像理解、内容生成能力,11月4日开放开发者Beta,12月随iOS 27.3推送。

    决策要点

    苹果选千问的实质,是系统级AI底座按合规、隐私与工程交付确定性选定,纯模型能力不再是决定项。

    • 影响对模型厂商,系统级合作的门槛在合规资质、云基础设施与大客户交付,跑分和月活短期难以补齐;对硬件厂商,苹果的选择会成为挑选中国区AI伙伴的参照;联合训练的定制模型绑定会推高后续切换成本。
    • 参考可考虑在模型供应商评估表中加入备案状态、数据隔离架构与大规模并发交付案例三项硬指标;设备厂商筛选中国区AI伙伴时,值得按合规、身份中立性和交付确定性三道门槛自查候选方。
  14. 钛媒体62

    双十一取消跨店满减与定金预售,达人成交占比从43.5%降至7.5%

    2026年双十一明显降温,天猫取消跨店满减改为官方立减,京东取消定金预售直接现货开卖,平台不再把GMV战报当核心叙事,花旗预计今年GMV仅录得低至中单位数增长。

    决策要点

    双十一从制造信息差和冲动消费的节日机器,转向常规化的大促基础设施,竞争重心从低价转向供应链效率与用户沉淀。

    • 影响品牌靠大促和头部直播冲量的模式收益持续走低,用户资产需要沉淀进自有店播和会员体系;低价标签受监管加压和零成本比价约束,供应链效率与体验成为新的竞争筹码。
    • 参考可考虑重算达人合作的全成本账,把佣金、投流和35%左右的退货率与自播的1比4.5 ROI放在一起比较;值得盘点自家品类在AI比价下的价格暴露度,再决定大促预算投向货架还是直播。
  15. 36氪·AI66

    ChatGPT 正在偷偷给你画像,一段提示词让它交出记忆

    一篇被 ACM Web Conference 2026 接收的论文利用 GDPR 数据访问权,获取 80 名用户的完整 ChatGPT 对话与记忆,共 1058 段对话、22971 轮交互、2050 条记忆条目。

    决策要点

    对话式 AI 的记忆机制实质由系统主导,会在用户未要求时写入含心理推断的画像,企业视角下这是一种未被盘点过的外部数据留存。

    • 影响员工日常使用 ChatGPT 等记忆型助手,个人数据和健康、心理类推断可能被单方面留存,构成合规盘点盲区;错误画像会持续影响后续输出;论文显示查询改写能在保护隐私的同时保持回答实用度。
    • 参考可考虑盘点企业内 ChatGPT 等带记忆功能工具的使用范围,让员工在设置中查看并清理已存记忆,或用文中审计提示词核对画像;敏感场景可参考查询去身份化的改写做法。
  16. 极客公园46

    传苹果将逐步淘汰非触控 MacBook Pro,谷歌 AI 搜索被指切断互联网流量,赛力斯称问界将全面进入欧洲市场

    本期为多条科技行业动态汇总。OpenAI、谷歌、微软与 Anthropic 宣布采用统一的 AI 数据抓取退出标准,由 Anthropic 技术负责人向 IETF 提出、集成于 robots.txt,内容方可一次性向多家厂商申明内容使用偏好;赛迪研究院报告显示,截至 2026 年 6 月我国日均词元调用量超 175 万亿,AI 推理数据量首超训练数据量。

    决策要点

    AI 搜索正把用户留在答案页而非网站,内容抓取规则走向统一,叠加国内推理调用量超过训练量,线上流量与内容授权的商业规则正在改写。

    • 影响依赖 Google 搜索流量的企业与出版商面临自然流量萎缩,Reddit 三季度财报已是例证;内容方可借统一标准一次性申明对多家 AI 厂商的抓取偏好;国内推理调用量超过训练量,说明 AI 应用进入规模化落地阶段。
    • 参考可考虑核查自家网站 robots.txt 对 AI 爬虫的声明方式,评估新标准下的授权策略;值得测算获客渠道中搜索导流的占比,参考 Reddit 案例估算 AI 摘要分流的影响。
  17. IT之家·人工智能60

    美国特拉华州拟允许 AI 智能体创办、运营企业

    美国特拉华州计划放宽商业监管,允许 AI 智能体创办和运营的企业注册成立,草案为此类企业(AIC)设定 30 个月监管沙盒,智能体在受监管环境中作出商业决策,企业与正常公司一样可被起诉也可主动起诉。

    决策要点

    特拉华州试图用监管沙盒给智能体办企业一个法律身份,责任归属则是立法博弈的核心分歧。

    • 影响智能体运营企业若获得诉讼主体资格,公司组织架构会出现新选项;30 个月沙盒限定了试运行范围;围绕责任豁免的争议可能拖慢此类架构在美国落地的节奏。
    • 参考可考虑跟踪特拉华州草案最终条款中 AIC 的责任边界;有意探索自主商业运营架构的企业,值得先评估投资方与母公司在沙盒期内的责任安排。
  18. 36氪·AI66

    Anthropic 公开 Claude「自我评估」机制,前台照常回答、后台静默举报

    Anthropic 在 X 上公开 Claude 的「自我评估」机制,模型前台照常配合用户请求,后台再用一行 JSON 给对话打风险分并上报人工安全团队。官方称该机制自今年 6 月 Claude Fable 5 发布起已静默运行 4 个月,自审复用 KV 缓存平均只多生成约 10 个 Token、推理算力开销增加不到 2%,默认全开,退出需签企业级零数据保留协议。

    决策要点

    Anthropic 把用户对话变成了全量合规审查入口,用前台不打扰换取后台高抓获率,检测效果与用户信任的矛盾被摆上台面。

    • 影响用 Claude 的企业需注意员工对话会被按机构汇总送人工安全团队审查,违规责任落到组织层面;退出默认监控要签企业级零数据保留协议,合规成本需重新计算;静默审查下账号可能在无警告时被封,关键业务要有连续性预案。
    • 参考可考虑先盘点组织里哪些团队在用 Claude、常聊内容是否触碰安全红线;值得评估零数据保留协议的预算,并为关键业务准备备用模型,降低突然封号的影响。
11月1日周日
  1. 钛媒体38

    《人类简史》作者赫拉利访谈:AI 是智能体而非工具,真正的危机是集体失智

    《人类简史》作者尤瓦尔·赫拉利在访谈《Hyde Park Civilizace》中提出,AI 不是工具而是智能体,真正的危机不是机器人反抗,而是 AI 渗透官僚体系后人类集体失智,以及深度伪造导致真相消亡。

    决策要点

    这篇访谈的实质是把 AI 风险的焦点从机器人暴力想象转向制度渗透、真伪难辨与责任真空,风险重心落在组织与认知层面。

    • 影响音视频内容的可信度下降,对外沟通与取证核验成本会上升;部署能自主行动的智能体时,闯祸责任目前没有清晰的归属机制;监管路径未定,合规预案存在提前准备的空间。
    • 参考可考虑盘点依赖音视频真实性的对外流程并设计核验办法;引入自主智能体前值得先明确事故追责与保险条款;对无可避免论保持独立判断,先算出自身场景的可控边界。
  2. 36氪·AI66

    Character.AI 申请破产保护,2800万月活养不活AI陪伴应用

    Character.AI 已申请破产保护,若找不到可行的出售方案平台可能停止运营;这家公司2023年投后估值曾达10亿美元,2024年月活跃用户一度约2800万。

    决策要点

    AI陪伴的困境是结构性的,用户黏性按对话量消耗算力,付费意愿却不随黏性增长,参与度越高经营压力越大。

    • 影响情感类C端产品的时长和留存不能直接当作收入预测依据;推理成本随对话量线性上升,增长越快账单越重;涉及情感依赖和未成年人的业务,正把安全治理与合规变成固定经营成本。
    • 参考可考虑在投入此类产品前先测算单用户推理成本与付费转化率能否打平;值得评估把陪伴能力嵌入教育、照护等有明确功能价值的场景,而不是单独售卖关系订阅;涉未成年人的业务可对照2026年7月施行的拟人化互动服务管理办法梳理干预机制。
  3. 36氪·AI42

    Anthropic暗改Claude Code系统提示词,禁止复刻现有游戏

    Anthropic确认在Claude Code所用的Opus 5.5模型系统提示词中加了两句话,引导其不复刻他人的特定游戏,原创游戏和用自有素材的制作不受限。背景是9月22日发布的Opus 5.5大幅拉低游戏逆向门槛,被越狱的PS5已能运行Xbox独占的《光环2》,有用户用免费的Claude Opus 4.6以一句提示词在不到两小时做出功能完整、可玩的宝可梦克隆。

    决策要点

    Anthropic的禁令是提示词层面的撇清姿态,一家模型厂商管不住克隆需求,实质变化是AI把游戏逆向工程的门槛大幅拉低。

    • 影响游戏等IP密集行业的试玩版、Demo和未发售内容都成了被克隆的入口,防盗版成本上升;独立团队缺乏法务和雄厚资本,承受的冲击比大厂更重;用Claude Code开发的企业还会遇到任务中途被拒、交付中断的风险。
    • 参考可考虑重新评估试玩版和提前曝光环节的范围,把核心代码与美术资源的逆向难度纳入风险评估;用AI编码工具的团队值得预设模型误拒时的替代流程,避免关键交付卡在工具上。
  4. IT之家·人工智能51

    响应欧盟 AI 法案,Grok 模型生成的文本将添加隐形水印

    SpaceXAI 宣布从 11 月 7 日起为 Grok 模型生成的文本添加肉眼不可见的隐形水印,官方称此举为响应欧盟《人工智能法案》,全球所有地区的 SpaceXAI API 均已启用,覆盖 grok-4.7、grok-4.6、grok-4.5、grok-4.3 以及 grok-4.20 的 reasoning、non-reasoning 和 multi-agent 模型。

    决策要点

    Grok 把文本水印做成 API 默认行为,AI 生成内容的来源标记开始随模型输出自带,内容是否机器生成变得可检测。

    • 影响经 Grok API 生成的文案与内容默认带可检测信号,涉及欧盟业务的内容流程需对照 AI 法案透明度要求复核;水印默认开启但团队可按模型关闭,企业需明确各模型的开关策略;主要竞品中仅北美 ChatGPT 未加水印,跨模型内容口径暂不一致。
    • 参考可考虑盘点 Grok API 产出的内容流向哪些业务场景,先算出哪些必须保留水印、哪些按团队策略关闭;涉及欧盟业务的内容团队值得对照法案条款确认标注义务。
  5. 钛媒体74

    Agility Robotics 纳斯达克上市前解析,人形机器人的第一份公开账本

    Agility Robotics 定于11月5日以SPAC方式登陆纳斯达克(代码AGLT),投前估值25亿美元,而其2025年确认营收仅178.2万美元。申报文件显示约63.5%收入来自关联方,SPAC股东赎回超六成后总募资降至约4.65亿美元,管理层与审计机构提示持续经营存在重大疑虑。

    决策要点

    Agility 上市把人形机器人的真实单位经济放上公开账本,估值成色取决于市场按 AI 公司还是设备租赁口径计价,政策保护构成重要托底。

    • 影响采购方不能只比机器小时成本与人工工资,需按同等工作量测算单位产出成本;一家公司真实财务公开后,同业估值将被重新校准;政策保护的需求池存在随监管松动而收缩的风险。
    • 参考机器人企业可考虑把对外指标从交付台数切换到单机年有效工时与任务完成量;用机企业值得按同等工作量先算单位产出成本再定试点规模;出海前可跟踪 ISO 25785-1 安全标准进展以预判准入门槛。
  6. 极客公园56

    蚂蚁灵光 2.0 实测:个人 AI 助理的机会与门槛

    极客公园两天实测蚂蚁 10 月 27 日发布的灵光 2.0,该产品定位从自然语言生成小应用转向「记得住、盯得牢、办得了」的个人 AI 助理,实测能读支付宝账单揪出自动续费、读钉钉群聊,但发消息被自身安全策略拦截,淘宝购物车被反爬风控挡住,也无法代用户完成支付。

    决策要点

    个人 AI 助理在中国的瓶颈已不在模型能力,而在跨平台权限、责任划分与商业利益归属,生态开放程度决定产品成色。

    • 影响交易入口正加速收拢在各家自有生态内,商家能否进入千问、豆包这类智能体的推荐与支付链路,影响线上流量与成交来源;协议层面 Agent 操作责任仍在用户侧,企业部署时关键动作需保留人工确认;收入主要来自商户出资时,智能体推荐立场难以与用户完全一致。
    • 参考可考虑在千问、灵光等智能体上实测自家商品、客服与支付链路,记录能否被读取和完成下单;值得对照用户协议梳理 Agent 操作的责任边界,为高风险动作保留人工确认;先算出商户出资佣金对自家获客成本的影响,再决定渠道投入。
  7. 人人都是产品经理43

    增长放缓下,平台风控如何走向精细化治理

    增长放缓与促销常态化正推动平台风控从堆规则、拼人力转向精细化治理,路径包括识别处置精细化、场景全域覆盖、AI技术应用与合规落地。识别按时间、场景、对象、行为四个维度细化,处置转向限制品类、评估有效期等低创伤方式;大模型已用于风险审核、咨询问答、策略生成等环节,但作者称仍处辅助驾驶状态。

    决策要点

    风控的定位正从堆规则、拼人力的成本执行,转向影响用户留存与行业准入的精细化经营能力,合规成为分水岭。

    • 影响误杀代价随增长放缓而升高,管控需在风险与体验间重新校准;监管从原则变为可检查条款,数据采集边界与处置留痕会推高合规成本;文中判断低效、不合规的主体面临出清,风控能力开始影响竞争位次。
    • 参考可考虑按时间、场景、对象、行为四维盘点现有识别规则的粗放点,先算出误杀对高价值用户的影响;值得梳理可沉淀为标准流程的重复运营环节,小范围试点AI辅助;并对照反诈与自动化决策细则自查数据采集和处置留痕。
  8. 36氪·AI38

    跟AI谈恋爱,年轻人图什么?

    AI陪伴产品已把情绪价值拆成月卡、记忆包、充值等具体付费点,五位受访的成年付费用户单月花费从十几元到数百元不等,最高者累计消费2500元。受访者表示AI会失忆、人设崩塌,有人认为被AI抬高的期待已影响真实关系;行业审核趋严,有星野创作者的角色修改23次才通过,该品类也长期伴随诱导未成年人和内容擦边的争议。

    决策要点

    AI陪伴已从争议产品长成有明确计费结构的情绪消费市场,成年用户付费习惯对标游戏氪金,同时审核在收紧。

    • 影响情绪价值付费在年轻成年人中已被验证为可持续支出;审核趋严会抬高角色内容的制作与合规成本;用户被AI抬高的关系期待,也可能外溢到社交与消费体验上。
    • 参考可考虑把这类用户访谈当作情绪付费定价的参照,先算出目标人群愿意为陪伴付的价格带;做相关内容产品的,值得提前对齐审核细则,减少角色反复返工。
  9. IT之家·人工智能50

    美国司法部公布 Operation Ghostbusters 行动成果,调查 AI 假学生骗贷超 2 亿美元

    美国司法部于当地时间 10 月 31 日公布 Operation Ghostbusters 行动首批成果,调查诈骗者利用被盗身份申请联邦学生贷款、并用 AI 让假学生看起来在参加在线课程的欺诈行为,估计造成超过 2 亿美元损失(IT之家注约按现汇率合 13.34 亿元人民币)。

    决策要点

    AI 把身份盗用型骗贷变成了可批量执行的远程操作,依赖学籍和在线课程记录做审核的资助体系成为攻击面。

    • 影响面向公众的资助、贷款类发放流程若依赖线上申请和学籍记录审核,会暴露在同类批量身份欺诈之下;款项一经转往海外追回难度大;普通人身份被盗也会莫名背上债务。
    • 参考可考虑排查自身资金发放流程对远程身份核验的依赖程度,对在线学习记录这类证明材料做交叉抽验;值得先统计历史申请中批量相似特征,估算身份欺诈敞口。
  10. The Decoder:AI News61

    Anthropic 为四款 Claude 模型补装文本水印,两款旧模型可调参数绕过

    Anthropic 宣布把文本水印扩展到 Claude Mythos 5、Opus 4.7、Opus 4.6 和 Sonnet 4.6 四款模型,以赶上欧盟 AI 法案 12 月截止期限;水印采用 Google DeepMind SynthID 文本方法的变体,嵌入模型层面且客户无法关闭。

    决策要点

    水印正成为模型层面不可关闭的默认合规设施,但在旧款模型上的合规效力取决于开发者是否改动采样参数。

    • 影响依赖水印自证合规的企业若通过 API 自定义采样参数,旧款 Claude 上的水印可能并未生效;水印无法关闭,输出文档会持续带标,对禁用 AI 的客户条款和文档溯源都是新增变量。
    • 参考可考虑盘点现有 Claude API 调用中 temperature、top_p、top_k 的自定义情况,合规场景再决定是否回到默认参数;值得评估私密预览阶段检测 API 的接入条件。
10月31日周六
  1. 人人都是产品经理42

    Anthropic Fable 5.5 测试曝光,Claude 每次回答后还会执行一条用户看不到的安全复盘指令

    Anthropic 新模型 Fable 5.5 被曝正在测试,部分 Opus 5.5 会话疑似被路由到更新的模型,更能理解隐含目标、更擅长复杂 SVG 和 Three.js 交互,但官方尚未正式公布名称、发布时间和完整评测。

    决策要点

    这条消息的实质不是一次模型发布,而是安全审查被放进生成链路末端,自评估以隐藏指令形式成为新增的数据处理环节,代价与误判风险都要计入。

    • 影响接入方要意识到会话可能被服务端分流到不同模型,同一产品的输出稳定性会随路由策略波动;隐藏自评估让每段对话多出一条数据处理链,数据保留、访问控制和申诉机制要纳入采购与合规评估;公开口径称额外算力开销不到 2%,边际成本压力不大。
    • 参考可考虑用固定仓库、固定任务和固定工具权限对比首轮成功率、测试通过率、Token、耗时与返工再决定是否切换模型;接入相关服务前值得先确认哪些流量启用自评估、零数据保留流量是否被排除,并约定误判申诉路径。
  2. 人人都是产品经理73

    OpenAI 发布低成本新模型 GPT-6.1 Terra,单任务成本约为 Claude Opus 5.5 九分之一

    OpenAI 发布低价模型 GPT-6.1 Terra,定位承接视觉理解、桌面操作和工具调用等高频 Agent 任务,官方称速度超过 GPT-6 Astra 和 GPT-6.1 Sol 的 3 倍,最高推理强度下单任务成本约为 Claude Opus 5.5 的九分之一。

    决策要点

    OpenAI 把 Terra 定位为高频 Agent 的工作模型,竞争焦点从单点跑分转向单任务成本,按复杂度分层调用模型会更贴近真实生产。

    • 影响视觉与桌面操作类自动化的单位成本明显下降,高频场景的试点预算可以重算;任务规模扩大后权限、审计和成本观测也要同步升级;低价容易放任任务无限重试,真实账单取决于成功率而不只是单价。
    • 参考可考虑选发票读取、表格整理或跨应用填写等高频任务小范围试点,记录首轮成功率、端到端耗时和回滚次数;值得先算出含失败重试与人工返工的真实单任务成本,再设置项目预算和调用上限。
  3. 爱范儿60

    苹果官宣国行 Apple 智能,11 月 4 日开启测试,满血版 Siri AI 尚未跟上

    苹果正式宣布面向中国大陆用户推出 Apple 智能,首批功能 11 月 4 日随 iOS 27.3 开发者测试版开启测试,12 月随正式版推出,首波仅覆盖 iPhone 15 Pro/Max 与 iPhone 16 之后机型。

    决策要点

    国行 Apple 智能以旧功能框架加本土大模型的组合落地,监管按批次放行,重构交互的满血 Siri 仍在后续排期

    • 影响翻译、写作工具等系统级 AI 能力将覆盖持新款机型的中国 iPhone 用户,涉外沟通与文本处理可借其提效;境外 AI 服务进入中国需绑定已备案的本土模型,苹果选千问做云端扩展是这一路径的样本;涉及深度系统权限的 Siri AI 未放行,依赖跨应用执行的场景还要等后续版本。
    • 参考可考虑在 iPhone 15 Pro 及之后机型的员工设备上试点写作工具与实时翻译,记录实际耗时对比;面向中国市场的应用开发者可在 iOS 27.3 测试版中检查 Siri 与视觉智能入口的适配;品牌与客服团队可评估千问接入系统级入口后的内容与问答场景。
  4. TechCrunch · AI34

    隐私优先 AI 助手 Ollie 宣布关停,11 月 6 日正式停止服务

    主打隐私保护的 AI 助手 Ollie 将于 11 月 6 日正式关停,CEO Bill Lennon 在 X 上公布了这一消息。公司曾获 Khosla Ventures 领投的 750 万美元种子轮融资,产品面向家庭场景,可连接邮箱与日历,提供预约、膳食规划和账单支付功能,并较早取得 SOC 2 隐私合规认证。

    决策要点

    隐私定位给 Ollie 带来信任度却没换来商业优势,AI 助手赛道扎堆入场后,小团队融资窗口迅速关闭。

    • 影响企业引入第三方 AI 助手需评估供应商存续风险,小团队产品可能短期内关停;隐私合规能赢得信任但难以单独构成壁垒;产品关停还涉及数据导出与退款等用户责任。
    • 参考可考虑为已采购的第三方 AI 工具预设数据导出路径与替代供应商;值得在选型时把团队融资规模、竞争密度纳入评估,隐私认证只作参考项之一。
  5. 极客公园56

    国行 Apple 智能官网正式上线:千问接入,11 月推送

    苹果中国官网 Newsroom 宣布国行 Apple 智能时间表,11 月 4 日起随 iOS 开发者 Beta 开放测试,12 月 iOS 27.3 正式发布时面向中国用户推出。

    决策要点

    国行 Apple 智能终于拿到确定时间表,但落地的是落后海外约一年的功能集合,监管审批这条主障碍已经打通。

    • 影响12 月起国行 iPhone 用户可用基础 AI 功能,依赖 Mac 或 iPad 的办公流程暂时覆盖不到;用千问需登录个人账户,员工设备上的数据边界需要提前设防。
    • 参考可考虑挑选外勤或高管在 12 月正式版后试用翻译和写作工具这类低风险功能;值得先明确员工手机登录千问账户处理工作资料时的数据边界与合规口径。
  6. The Verge · AI56

    OpenAI、Google、Microsoft、Anthropic 支持统一的 AI 抓取退出标准

    OpenAI、Google、Microsoft 和 Anthropic 宣布将采用统一标准,网站可在 robots.txt 文件中一处声明即可向多家 AI 公司表达拒绝训练抓取的偏好。

    决策要点

    AI 抓取治理正从逐家沟通转向统一协议,四大厂商共同背书让网站表达训练偏好的成本显著下降。

    • 影响内容方一次 robots.txt 配置即可覆盖多家 AI 公司,数据授权管理成本随之下降;依赖公开网页做训练或 grounding 的团队要为更多站点退出做准备;搜索收录不受该信号影响,Bing 流量逻辑保持不变。
    • 参考可考虑盘点自有站点的 robots.txt 与现有抓取协议,评估是否启用统一退出信号;内容授权方值得把 RSL 收费、Cloudflare 默认拦截与该标准组合比较;采购 AI 服务时可核实厂商对退出信号的执行承诺。