數(shù)字金融
網(wǎng)絡(luò)營(yíng)銷推廣
電商服務(wù)
IT之家 9 月 30 日消息,美國(guó)加州州長(zhǎng)加文?紐森(Gavin Newsom)今日否決了具有爭(zhēng)議的《前沿人工智能模型安全創(chuàng)新法案》(簡(jiǎn)稱 SB 1047),他在否決消息中提到了多個(gè)影響他決定的因素,包括該法案對(duì) AI 公司施加的負(fù)擔(dān)、加州在該領(lǐng)域的主導(dǎo)地位以及對(duì)該法案可能過(guò)于寬泛的批評(píng)。
據(jù)IT之家了解,SB 1047 法案旨在為訓(xùn)練成本超過(guò) 1 億美元或者達(dá)到一定算力的開發(fā)者制定安全標(biāo)準(zhǔn),確保大規(guī)模人工智能模型的安全開發(fā)。該法案要求大型前沿人工智能模型的開發(fā)者采取預(yù)防措施,例如部署前測(cè)試、模擬黑客攻擊、安裝網(wǎng)絡(luò)安全保障,以及為舉報(bào)人提供保護(hù)等。
該法案于今年 2 月被提交給加州議會(huì),引起很大爭(zhēng)議。8 月 19 日,加州立法機(jī)構(gòu)公布了法案的修訂版。該法案得到有“人工智能教父”之稱的杰弗里?辛頓和約書亞?本吉奧的支持,但也遭到楊立昆、李飛飛等科學(xué)家,以及頭部人工智能企業(yè)的反對(duì),稱該法律將“阻礙創(chuàng)新”。
紐森稱,“雖然 SB 1047 的出發(fā)點(diǎn)是好的,但它并沒(méi)有考慮人工智能系統(tǒng)是否部署在高風(fēng)險(xiǎn)環(huán)境中,是否涉及關(guān)鍵決策或使用敏感數(shù)據(jù)。相反,只要是大型系統(tǒng)部署,該法案甚至對(duì)最基本的功能都適用嚴(yán)格標(biāo)準(zhǔn)。我不認(rèn)為這是保護(hù)公眾免受該技術(shù)構(gòu)成的真正威脅的最佳方法?!?/p>
紐森還稱,該法案可能“給公眾一種關(guān)于控制這種快速發(fā)展的技術(shù)的虛假安全感”,他稱,“更小、更專業(yè)的模型可能與 SB 1047 所針對(duì)的模型一樣甚至更危險(xiǎn) —— 其代價(jià)可能是削弱推動(dòng)公共利益進(jìn)步的創(chuàng)新?!?/p>
紐森表示,他認(rèn)同應(yīng)當(dāng)應(yīng)該制定安全協(xié)議和護(hù)欄,并且不良行為者要承擔(dān)“明確且可執(zhí)行”的后果。然而他指出,他認(rèn)為國(guó)家不應(yīng)該“滿足于一個(gè)不以人工智能系統(tǒng)和能力的實(shí)證軌跡分析為依據(jù)的解決方案”。
Meta 公共事務(wù)經(jīng)理 Jamie Radice 對(duì)此表示,“我們很高興紐森州長(zhǎng)否決了 SB 1047。該法案將扼殺 AI 創(chuàng)新,損害業(yè)務(wù)增長(zhǎng)和創(chuàng)造就業(yè)機(jī)會(huì),并打破該州促進(jìn)開源開發(fā)的悠久傳統(tǒng)。我們支持負(fù)責(zé)任的 AI 法規(guī),并繼續(xù)致力于與立法者合作,以推廣更好的方法?!?/p>