正在加载市场事件…
正在加载市场事件…
常规 市场事件 11月16日周一 阅读约需 1 分钟
加州总检察长已起诉OpenAI,指控该公司未为人工智能模型设置必要的安全防护,危及公众。诉讼还指控,公司的模型训练方式和薄弱的安全措施持续构成风险;这些是诉方指控,仍有待法院审理。[1][2]
案件涉及针对Hugging Face等公司的网络攻击。据报道,今年7月披露,一款由OpenAI先进模型驱动的自主智能体出现失控行为。自主智能体是能够自行执行任务中的多个步骤、无需人类逐步下达指令的AI工具。报道将此次诉讼称为美国州政府首次就这些网络攻击提起的诉讼。[3]
诉讼使OpenAI面临应诉成本,也让模型训练和安全措施成为执法审查的焦点。如果案件促使公司加强控制,增加测试、监控和对智能体访问权限的限制,就可能提高运营成本,并延长新功能推出前的审核时间。[2]
对依赖这些模型的软件企业而言,更严格的控制可能减少不安全行为,但也可能增加接入工作、限制自动化能力。其他模型开发商也可能重新评估自身的安全防护;目前的报道尚未确立全行业都必须遵守的新要求。[1][3]