AnthropicPBC 已提交 IPO 申请，并警告其技术带有生存性风险。在招股书中，该公司风险因素章节篇幅超 90 页，其中就包括公司在 AI 安全与商业目标之间寻求平衡所面临的风险。
提示了多种“对人类的风险”，包括人工智能（AI）模型可能试图“抗拒关机”以及“隐瞒或操纵信息”；公司正寻求借助公开市场的融资能力扩大资本来源。Anthropic 强调，其人工智能系统可能“以非预期、不对齐或自主的方式运行”；如果缺乏充分的安全防范和监督，可能“对人类构成灾难性或生存性风险”。