10 月 27 日消息，綜合 CNBC、路透社等報(bào)道，當(dāng)?shù)貢r間周四，英國首相蘇納克宣布計(jì)劃成立世界上第一個 AI 安全研究所，并于 11 月 1-2 日舉行 AI 安全峰會。此次峰會將匯聚世界各國 AI 公司、政府、民間團(tuán)體和相關(guān)領(lǐng)域?qū)＜遥?STRONG>旨在討論如何通過國際協(xié)調(diào)行動來降低 AI 帶來的風(fēng)險(xiǎn)。
蘇納克在演講中表示，這個即將成立的研究所將推動世界對 AI 安全的認(rèn)識，并將對新型 AI 技術(shù)進(jìn)行仔細(xì)研究、評估與測試，以便了解每種新模式的能力，并探索從“偏見和誤導(dǎo)”等社會危害到“最極端風(fēng)險(xiǎn)”的所有風(fēng)險(xiǎn)。
蘇納克稱，“AI 可以讓制造化學(xué)或生物武器變得更容易，但這項(xiàng)技術(shù)也會被犯罪分子所利用。在最不可能但最極端的情況下，人類甚至有可能通過有時被稱為超級智能的 AI，在 AI 面前完全失控�！�
此外，在下周舉行的 AI 安全峰會上，蘇納克將提議成立一個“真正全球化的專家小組”—— 該小組的成員由與會國家和組織提名，屆時還將發(fā)布一份 AI 科學(xué)現(xiàn)狀報(bào)告。
另據(jù)IT之家此前報(bào)道，英國反壟斷監(jiān)管機(jī)構(gòu) CMA（競爭與市場管理局）上個月提出了管理 AI 模式的新標(biāo)準(zhǔn)，涵蓋了問責(zé)、訪問和透明度等事宜。CMA 當(dāng)時公布的監(jiān)管原則中，包括 AI 開發(fā)人員和部署人員應(yīng)對輸出內(nèi)容負(fù)責(zé)、不得從事反競爭行為等內(nèi)容。
