给一家AI公司估值，过去主要看收入增长、亏损和算力账单。Anthropic的IPO却多了一道没有现成公式的题：如果模型失控，或被用于网络攻击、生物恐怖活动，损失该由谁承担，又该让公司估值打多少折？据Bloomberg报道，潜在投资者已开始讨论这些风险，但相关判例和历史损失数据都很有限。
这类风险属于“尾部风险”——发生概率可能很低，后果却可能极大。保险可以覆盖一部分，但保单有赔付上限，超出的损失仍可能成为公司的“或有负债”，也就是金额和是否发生尚不确定的潜在责任。Relm Insurance首席执行官Joe Ziolkowski称，保险业正在推出相关保障，但由于缺少历史数据，承保仍很困难。
争议因此不只是“风险有多大”，而是公司要为它预留多少钱。风险投资人Sam Lessin主张，AI实验室可预存1万亿美元用于善后，并估算社会责任或达2万亿至4万亿美元；这只是其个人主张。安全投入也未必只是拖累：PitchBook分析师Harrison Rolfes认为，它会增加Anthropic成本，却也可能换来客户信任，形成竞争壁垒。Anthropic拒绝就该报道置评。