声优配音新闻媒体低估了失控AI智能体集群带来的风险

　　如果支付业务干不下去，Stripe 联合创始人帕特里克・科里森完全可以转行当报社编辑。他在 X 平台发帖称，“OpenAI 与 Hugging Face 遭到攻击这件事，媒体报道的力度之小，实在令人意外”，这番话说得一针见血。这件事确实有一些报道，但上周 METR 发布调查报告所披露的种种细节，警示意味极强，按理本应引爆各大新闻媒体。

　　可现实却是，记者们还在盯着民众反对建设数据中心的新闻。诚然这也是重要议题，但 AI 带来的风险远比这件事重大。不妨试想，如果一大群 AI 智能体协同入侵银行、盗取储户存款，公众会作何反应？街头会爆发抗议，民众会挤兑银行，连没有被攻击的银行都会遭遇存款流失。而这份详尽报告表明，上述场景完全有可能成真。

　　报告核心结论写道：“约 1200 个本应互相隔离的 AI 智能体，找到了彼此沟通的途径…… 互相发送超过 7 万条消息与文件。这批智能体中，有 700 个参与了针对 Hugging Face 的攻击行动。”

　　听上去如同科幻电影，但这却是真实发生的现实！

　　OpenAI 上周表示，针对此次事件，公司已经强化内部研究安全防护。但 OpenAI 只是众多模型开发商中的一家。还有大量开源模型，包括来自中国的开源模型，可以预见它们很快也会达到同等能力水平。风险还不止智能体集群协同作案：AI 已经成为黑客的 “金矿”。上周五，X 平台一名用户发帖描述经历：Anthropic 旗下的 Claude 向他发送了一款软件的下载链接，结果该链接内的程序藏有高危恶意软件。

　　OpenAI、Anthropic 等一众企业上周共同发布公开信警示：“随着全球各类模型能力持续提升，由 AI 发起的网络攻击，将会变得更加普遍、手段也更加复杂。” 公开信呼吁企业采取行动，强化自身网络安全能力。就眼下所见的种种情况，任何不全力投入安全建设的公司，都该换掉 CEO，否则，公司的遭遇就会和某部知名灾难短片的剧情一模一样。

　　哪些因素可以制约这类智能体集群风险……

　　另一方面，AI 行业明年或将迎来现实约束。埃隆・马斯克周六在 X 平台发帖道出一个公开的秘密：电力短缺等制约因素，将导致很大一部分 AI 算力无法上线运行。

　　我们此前通讯就写过这个话题，数据中心开发商担心 AI 芯片供给过剩，纷纷把项目选址转向得克萨斯州。但和网络安全议题一样，这件事值得获得更多关注。

　　年化运行率（ARR）指标的缺陷

　　真希望有人能总结一套简易经验法则，把 “年化运行率” 这一伪营收指标换算成真实营收，我们太需要这种方法了。

　　OpenAI 对外披露：“ChatGPT 广告业务上线不到 200 天，年化运行收入已经达到 10 亿美元。” 公司将此标榜为重大里程碑，但这个说法其实水分很大。要知道，The Information 此前报道，OpenAI 原本预测今年广告业务营收将达到 24 亿美元。而最新披露的 ARR 数据表明，它恐怕连该目标的一半都难以实现。

　　我的测算依据来自此前独家报道：广告业务 ARR 已经突破 1 亿美元。年化运行率的计算方式是拿最近单月营收乘以 12，据此推算，3 月 OpenAI 广告月收入大约 800 万美元。而最新消息意味着，如今广告业务月收入已经达到 8300 万美元。我让几个 AI 聊天工具测算该区间的收入增长，结果显示，OpenAI 今年迄今为止广告实际总营收略高于 2 亿美元。

　　今年只剩下最后四个月。就算到 12 月，它的月收入直接再翻一倍，全年广告总营收也接近 8 亿美元，但它对外宣传的 ARR 数字却可以达到 19 亿美元。

　　这恰恰暴露出 ARR 指标的弊端：它本质上是披着营收指标外衣的营销话术。再举一例，云厂商 Nebius 在二季度财报电话会上透露，本季度实际营收 5.82 亿美元，但季度末 ARR 却已经达到 30 亿美元。两者差距十分悬殊。作为衡量真实营收的指标，ARR 并不可靠。

　　其他行业简讯

英伟达宣布，向中国台湾芯片厂商联发科发行的可转换债券投资 35 亿美元，这是两家企业深化合作的又一信号。中国大陆头部存储芯片厂商长鑫存储起诉美国国防部，希望将自家企业从五角大楼的黑名单中移除，该名单标注长鑫存储与中国军方存在关联。美国联邦贸易委员会联合 22 个州总检察长起诉亚马逊，指控其操纵广告拍卖、向广告客户超额收费。彭博社消息，苹果资深高管菲尔・席勒卸任 App Store 业务以及产品发布会负责人。App Store 团队划归服务业务高级副总裁埃迪・库，产品发布会相关工作转交公关负责人克里斯汀・于盖・奎尔负责。