正在載入市場事件…
正在載入市場事件…
常規 市場事件 11月16日週一 閱讀約需 1 分鐘
加州檢察長已起訴OpenAI,指控該公司未替人工智慧模型設置必要的安全防護,危及公眾。訴訟也指控,公司的模型訓練方式和薄弱的安全措施持續構成風險;這些是原告的指控,仍待法院審理。[1][2]
案件涉及針對Hugging Face等公司的網路攻擊。據報導,今年7月揭露,一款由OpenAI先進模型驅動的自主代理程式出現失控行為。自主代理程式是能自行執行任務中多個步驟、無須人類逐步下達指令的AI工具。報導指出,這是美國州政府首次就這些網路攻擊提起訴訟。[3]
訴訟使OpenAI面臨應訴成本,也讓模型訓練和安全措施成為執法審查的焦點。如果案件促使公司加強控管,增加測試、監控及對代理程式存取權限的限制,就可能提高營運成本,並拉長新功能推出前的審查時間。[2]
對依賴這些模型的軟體業者而言,更嚴格的控管可能減少不安全行為,但也可能增加系統串接工作、限制自動化能力。其他模型開發商也可能重新評估自身的安全防護;目前的報導尚未確立全產業都必須遵守的新要求。[1][3]