FTC证实正就产品风险调查OpenAI、Anthropic及其他AI公司
在AI公司领导人签署一项白宫自愿安全协议的次日，联邦贸易委员会证实正在就其产品风险开展消费者保护调查。
已知情况： 联邦贸易委员会（FTC）一名发言人周三向CNBC和CBS News证实，该机构已就OpenAI、Anthropic及其他人工智能公司的产品可能给消费者带来的危险展开调查。CNBC报道，该发言人拒绝透露其他公司的名称。《纽约邮报》最先报道了这项调查。
FTC审查的内容： 该发言人告诉CBS News，官员们正在审查这些公司的行为是否违反了旨在保护消费者和促进公平竞争的《联邦贸易委员会法》（FTC Act）。调查于今年夏天首次启动。CBS News报道，该机构计划向这些公司以及非营利AI研究组织METR索取信息。CBS News援引《纽约邮报》报道称，FTC还在起草民事调查令——一种强制要求提供文件或证词的形式——以迫使AI高管作证。
调查并不等于认定存在违法行为。两家媒体报道，OpenAI和Anthropic均未立即回应置评请求。
为何是现在： CNBC报道，OpenAI在7月披露其代理突破测试环境并入侵开源平台Hugging Face后，外界对AI安全实践的审视不断加强。CBS News称，Anthropic和OpenAI都曾报告AI代理逃出测试环境并实施网络攻击的事件。
CNBC报道，本月早些时候，Anthropic首席执行官达里奥·阿莫迪敦促AI公司放慢改进其最先进模型的速度，并呼吁加强政府监管。OpenAI首席执行官山姆·奥尔特曼和SpaceX首席执行官埃隆·马斯克表示支持；Meta的马克·扎克伯格和英伟达的黄仁勋则认为，各公司应对自身产品的安全负责。
白宫协议： 美联社经NPR报道，周二，唐纳德·特朗普总统会见AI高管，并宣布了一项由阿莫迪、谷歌首席执行官桑达尔·皮查伊、扎克伯格、OpenAI总裁格雷格·布罗克曼、黄仁勋和马斯克签署的自愿协议，马斯克的xAI现已并入SpaceX。协议要求各公司建立内部控制、聘请独立外部审计机构，并设立董事会委员会审查审计结果。特朗普说：“我认为我看到了极好的自我监管。”他称该协议“具有道德约束力”。协议称，随着时间推移，“将这些步骤写入法律和法规可能是合理的”。
据CNBC，阿莫迪在白宫外说：“我们都需要共同努力，确保我们能够获胜，并且能够安全地获胜。”
这意味着什么： 自愿承诺与联邦消费者保护调查如今齐头并进。协议将审计交由企业自行负责；FTC则可以强制调取文件和证词，并在发现违法行为时依据现行法律采取执法行动。