NIST是去年由拜登政府命令成立的機構，宗旨是評估AI模型的風險，現在OpenAI和Anthropic簽署了合作協議。
本週，加州立法機構將針對AI法案進行投票，格外引人關注。
2024年8月29日 (優分析產業數據中心) - 美國人工智慧安全研究院週四表示，AI新創公司OpenAI和Anthropic已與美國政府簽署合作協議，進行人工智慧模型的研究、測試及評估。
最近，各大公司因AI技術的安全與道德使用而面臨監管審查，使得這次的協議更加引人關注。
根據最近的報導，加州立法機關預計最快將於本週就一項廣泛規範AI開發和部署的法案進行投票。
延伸閱讀：加州AI法案【SB 1047】即將進行投票，矽谷科技巨頭意見分歧
Anthropic是亞馬遜與Alphabet所支持的AI技術公司，與OpenAI所開發的ChatGPT同性質，其聯合創始人兼政策主管Jack Clark表示：「安全且值得信賴的AI對於技術的積極影響至關重要。我們與美國AI安全研究院的合作，將利用他們的廣泛專業知識，在我們的模型廣泛部署之前進行嚴格測試。」
根據這些協議，美國AI安全研究院將能在OpenAI和Anthropic的新模型公開發佈前後，取得這些主要新模型的使用權限。
這些協議還將促進雙方共同研究，以評估AI模型的能力及其潛在風險。
OpenAI首席策略長Jason Kwon表示：「我們相信，該研究院在負責任地開發人工智慧方面，將在確立美國領導地位中發揮關鍵作用，我們希望雙方的合作能為全球提供一個可借鑒的框架。」
美國AI安全研究院主任Elizabeth Kelly則表示：「這些協議僅僅是開始，但它們是一個重要的里程碑，我們致力於負責任地引領AI的未來。」
美國AI安全研究院是美國商務部國家標準與技術研究院（NIST）的一部分，還將與英國AI安全研究院合作，並向公司提供有關安全改進的反饋。
該研究院是去年在總統拜登政府的一項行政命令下成立的，旨在評估已知和新興的人工智慧模型風險。
另外，據《華爾街日報》報導，OpenAI目前正進行新一輪募資洽談，根據談判的價格，換算整家OpenAI的估值可能超過1,000億美元。
據報導，這輪募資預計由創投公司Thrive Capital領投，該公司計劃投入約10億美元。報導還指出，OpenAI的支持者之一，科技巨頭微軟也預計將參與這輪投資。
