新浪科技訊 北京時(shí)間10月25日晚間消息,據(jù)報(bào)道,微軟(340.7701, 10.24, 3.10%)、谷歌(126.6, -13.52, -9.65%)、人工智能初創(chuàng)企業(yè)OpenAI和Anthropic正加緊推進(jìn)人工智能(AI)安全標(biāo)準(zhǔn)的制定工作,并于今日任命了一名董事,以期填補(bǔ)全球監(jiān)管方面的空白。
今年夏天,這四家科技巨頭聯(lián)合成立了新的產(chǎn)業(yè)組織“前沿模型論壇”(Frontier Model Forum),致力于安全和負(fù)責(zé)任地開發(fā)AI模型。今日,他們又任命美國(guó)智庫(kù)布魯金斯學(xué)會(huì)(Brookings Institution)的人工智能主管Chris Meserole擔(dān)任該組織的執(zhí)行董事。
此外,前沿模型論壇還表示,計(jì)劃向一個(gè)人工智能安全基金投資1000萬(wàn)美元。
Meserole對(duì)此表示:“我們距離真正的監(jiān)管可能還有一段路要走。在此期間,我們希望確保這些系統(tǒng)(監(jiān)管規(guī)則)盡可能安全。”
在過(guò)去的幾個(gè)月里,人們?cè)絹?lái)越擔(dān)心日益強(qiáng)大的人工智能有可能取代人類工作崗位,創(chuàng)造和傳播錯(cuò)誤信息,或者最終超過(guò)人類智能。
Meserole表示,該論壇將尋求對(duì)任何官方法規(guī)進(jìn)行“補(bǔ)充”。據(jù)預(yù)計(jì),歐盟的人工智能法案將在明年初敲定。與此同時(shí),英國(guó)將于下周主辦首屆全球人工智能安全峰會(huì),各國(guó)領(lǐng)導(dǎo)人和主要科技高管將受邀討論相關(guān)的合作。
Meserole還稱,論壇最初將重點(diǎn)關(guān)注風(fēng)險(xiǎn),包括人工智能幫助設(shè)計(jì)生物武器的能力,以及生成可用于促進(jìn)關(guān)鍵系統(tǒng)黑客攻擊的計(jì)算機(jī)代碼的能力。