IT之家 9 月 30 日消息,美國加州州長加文?紐森(Gavin Newsom)今日否決了具有爭議的《前沿人工智能模型安全創新法案》(簡稱 SB 1047),他在否決消息中提到了多個影響他決定的因素,包括該法案對 AI 公司施加的負擔、加州在該領域的主導地位以及對該法案可能過于寬泛的批評。
據IT之家了解,SB 1047 法案旨在為訓練成本超過 1 億美元或者達到一定算力的開發者制定安全標準,確保大規模人工智能模型的安全開發。該法案要求大型前沿人工智能模型的開發者采取預防措施,例如部署前測試、模擬黑客攻擊、安裝網絡安全保障,以及為舉報人提供保護等。
該法案于今年 2 月被提交給加州議會,引起很大爭議。8 月 19 日,加州立法機構公布了法案的修訂版。該法案得到有“人工智能教父”之稱的杰弗里?辛頓和約書亞?本吉奧的支持,但也遭到楊立昆、李飛飛等科學家,以及頭部人工智能企業的反對,稱該法律將“阻礙創新”。
紐森稱,“雖然 SB 1047 的出發點是好的,但它并沒有考慮人工智能系統是否部署在高風險環境中,是否涉及關鍵決策或使用敏感數據。相反,只要是大型系統部署,該法案甚至對最基本的功能都適用嚴格標準。我不認為這是保護公眾免受該技術構成的真正威脅的最佳方法。”
紐森還稱,該法案可能“給公眾一種關于控制這種快速發展的技術的虛假安全感”,他稱,“更小、更專業的模型可能與 SB 1047 所針對的模型一樣甚至更危險 —— 其代價可能是削弱推動公共利益進步的創新。”
紐森表示,他認同應當應該制定安全協議和護欄,并且不良行為者要承擔“明確且可執行”的后果。然而他指出,他認為國家不應該“滿足于一個不以人工智能系統和能力的實證軌跡分析為依據的解決方案”。
Meta 公共事務經理 Jamie Radice 對此表示,“我們很高興紐森州長否決了 SB 1047。該法案將扼殺 AI 創新,損害業務增長和創造就業機會,并打破該州促進開源開發的悠久傳統。我們支持負責任的 AI 法規,并繼續致力于與立法者合作,以推廣更好的方法。”