首頁|必讀|視頻|專訪|運(yùn)營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機(jī)|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計(jì)算|芯片報(bào)告|智慧城市|移動(dòng)互聯(lián)網(wǎng)|會(huì)展
首頁 >> 人工智能 >> 正文

歐洲議會(huì)批準(zhǔn)《人工智能法案》 要求披露生成式AI訓(xùn)練數(shù)據(jù)版權(quán)

2023年6月16日 07:29  中國家電網(wǎng)  

當(dāng)?shù)貢r(shí)間6月14日,在法國斯特拉斯堡舉行的歐洲議會(huì)全體會(huì)議上,議員參加了關(guān)于《人工智能法案》的投票會(huì)議。

當(dāng)?shù)貢r(shí)間6月14日,歐盟《人工智能法案(AI Act)》朝著成為法律的方向邁出重要一步:歐洲議會(huì)投票通過了該法案,禁止實(shí)時(shí)面部識(shí)別,并對(duì)ChatGPT等生成式人工智能工具提出了新的透明度要求。

《人工智能法案》現(xiàn)在將進(jìn)入歐盟監(jiān)管過程的最后“三部曲”階段。官員們將嘗試就這一法律草案與歐盟行政部門和成員國達(dá)成妥協(xié),他們之間目前仍存分歧。如果該法案要在歐盟明年的選舉前生效,則必須在明年1月完成立法程序。

“這一刻非常重要!盇ccess Now布魯塞爾辦事處專注于人工智能的高級(jí)政策分析師 丹尼爾·魯弗(Daniel Leufer)告訴《時(shí)代》,“歐盟所說的對(duì)人權(quán)構(gòu)成不可接受的風(fēng)險(xiǎn)將被視為全世界的藍(lán)圖!

歐盟批準(zhǔn)的法律版本提出,任何應(yīng)用于就業(yè)、邊境管制和教育等“高風(fēng)險(xiǎn)”用例的人工智能都必須遵守一系列安全要求,包括風(fēng)險(xiǎn)評(píng)估、確保透明度和提交日志記錄。該法案不會(huì)自動(dòng)將ChatGPT等“通用”AI視為高風(fēng)險(xiǎn),但對(duì)“基礎(chǔ)模型”或經(jīng)過大量數(shù)據(jù)訓(xùn)練的強(qiáng)大AI系統(tǒng)施加了透明度和風(fēng)險(xiǎn)評(píng)估要求。例如,基礎(chǔ)模型的供應(yīng)商,包括OpenAI、谷歌和微軟,將被要求聲明是否使用受版權(quán)保護(hù)的材料來訓(xùn)練AI。但是,沒有類似的要求來聲明是否在訓(xùn)練期間使用了個(gè)人數(shù)據(jù)。

這些規(guī)則如何運(yùn)作?

歐盟《人工智能法案》于2021年被首次提出,將適用于任何使用人工智能系統(tǒng)的產(chǎn)品或服務(wù)。

該法案根據(jù)4個(gè)級(jí)別的風(fēng)險(xiǎn)對(duì)人工智能系統(tǒng)進(jìn)行分類,從最小到不可接受。風(fēng)險(xiǎn)較高的應(yīng)用程序,例如招聘和針對(duì)兒童的技術(shù)將面臨更嚴(yán)格的要求,包括更加透明和使用準(zhǔn)確的數(shù)據(jù)。

歐盟的主要目標(biāo)之一是防范任何人工智能對(duì)健康和安全構(gòu)成威脅,并保護(hù)其基本權(quán)利和價(jià)值觀。

這意味著某些AI用途是絕對(duì)禁止的,例如根據(jù)人們的行為來判斷他們的“社會(huì)評(píng)分”系統(tǒng),以及利用弱勢(shì)群體(包括兒童)或使用可能導(dǎo)致傷害的潛意識(shí)操縱的AI,比如鼓勵(lì)危險(xiǎn)行為的交互式對(duì)話工具。用于預(yù)測(cè)誰將犯罪的預(yù)測(cè)性警務(wù)工具也將被禁止。

此外,用于就業(yè)和教育等類別的人工智能系統(tǒng)會(huì)影響一個(gè)人的生活進(jìn)程,將面臨嚴(yán)格要求,例如對(duì)用戶保持透明,并采取措施評(píng)估和減少算法帶來的偏見風(fēng)險(xiǎn)。

歐盟委員會(huì)表示,大多數(shù)人工智能系統(tǒng),如視頻游戲或垃圾郵件過濾器,都屬于低風(fēng)險(xiǎn)或無風(fēng)險(xiǎn)類別。

爭論的一個(gè)主要領(lǐng)域是面部識(shí)別的使用。歐洲議會(huì)投票禁止使用實(shí)時(shí)面部識(shí)別,但仍存在是否應(yīng)出于國家安全和其他執(zhí)法目的而允許豁免的問題。另一項(xiàng)規(guī)定將禁止公司從社交媒體上抓取生物識(shí)別數(shù)據(jù)來建立數(shù)據(jù)庫。

當(dāng)天,歐洲議會(huì)的一群右翼立法者在最后一刻試圖取消法案提議的實(shí)時(shí)面部識(shí)別禁令,但遭到立法者否決。

執(zhí)行這些規(guī)則將取決于歐盟的27個(gè)成員國。監(jiān)管機(jī)構(gòu)可能會(huì)迫使企業(yè)從市場(chǎng)上撤回應(yīng)用程序。在極端情況下,違規(guī)行為可能會(huì)被處以高達(dá)3000萬歐元(約合3300萬美元)或公司全球年收入6%的罰款,對(duì)于谷歌和微軟等科技公司而言,罰款可能高達(dá)數(shù)十億美元。

和ChatGPT有什么關(guān)系?

法案最初的措施幾乎沒有提到聊天機(jī)器人,僅要求對(duì)其進(jìn)行標(biāo)記,以便用戶知道他們正在與機(jī)器進(jìn)行交互。談判人員后來增加了條款,以涵蓋像ChatGPT這樣廣受歡迎的通用人工智能,使該技術(shù)滿足一些與高風(fēng)險(xiǎn)系統(tǒng)相同的要求。

一個(gè)關(guān)鍵的補(bǔ)充是,法案要求徹底記錄任何用于訓(xùn)練AI系統(tǒng)如何生成類似于人類作品的文本、圖像、視頻和音樂的版權(quán)材料。這將使內(nèi)容創(chuàng)作者知道,他們的博客文章、電子書、科學(xué)文章或歌曲是否已被用于訓(xùn)練為ChatGPT等系統(tǒng)提供動(dòng)力的算法。然后他們可以決定其作品是否可以被復(fù)制并尋求補(bǔ)償。

一些擔(dān)心人工智能模型帶來安全風(fēng)險(xiǎn)的專家認(rèn)為,該法案沒有對(duì)人工智能系統(tǒng)可以使用的計(jì)算能力進(jìn)行限制。隨著每個(gè)新版本的發(fā)布,像ChatGPT這樣的大型語言模型使用的計(jì)算量呈指數(shù)級(jí)增長,這將極大提高其能力和表現(xiàn)!坝糜谟(xùn)練人工智能系統(tǒng)的計(jì)算越多,人工智能就會(huì)越強(qiáng)大。能力越大,風(fēng)險(xiǎn)和危險(xiǎn)的可能性就越大。”人工智能安全初創(chuàng)公司Conjecture的戰(zhàn)略和治理主管安德里亞·米奧蒂(Andrea Miotti)告訴《時(shí)代》。

米奧蒂指出,研究人員衡量系統(tǒng)總計(jì)算能力相對(duì)容易,因?yàn)橛糜谟?xùn)練大多數(shù)尖端AI的芯片是一種物理資源。

為什么歐盟的監(jiān)管很重要?

《時(shí)代》指出,歐盟并不是尖端人工智能開發(fā)的重要參與者,這個(gè)角色由美國和中國扮演,但歐盟經(jīng)常扮演引導(dǎo)潮水的角色,其法規(guī)往往成為事實(shí)上的全球標(biāo)準(zhǔn),并已成為針對(duì)大型科技公司力量的先驅(qū)。

專家表示,歐盟單一市場(chǎng)規(guī)模龐大,擁有4.5億消費(fèi)者,這使得公司更容易遵守規(guī)定,而不是為不同地區(qū)開發(fā)不同的產(chǎn)品。通過為人工智能制定通用規(guī)則,歐盟還試圖通過在用戶中灌輸信心來發(fā)展市場(chǎng)。

“這是可以強(qiáng)制執(zhí)行的法規(guī),公司將被追究責(zé)任這一事實(shí)意義重大”,因?yàn)槊绹、新加坡和英國等地僅提供了“指導(dǎo)和建議”,愛爾蘭公民自由委員會(huì)的高級(jí)研究員克里斯·施里薩克(Kris Shrisak)說,“其他國家可能想要適應(yīng)和復(fù)制”歐盟規(guī)則。

其他一些國家也在加緊監(jiān)管步伐。比如,英國首相蘇納克(Rishi Sunak)計(jì)劃在今年秋天舉辦人工智能安全世界峰會(huì)!拔蚁胱層粌H成為知識(shí)的家園,而且成為全球人工智能安全監(jiān)管的地理家園!碧K納克在本周的一次技術(shù)會(huì)議上說,英國峰會(huì)將匯集“來自世界各地的學(xué)術(shù)界、商界和政府”人士,共同致力于“多邊框架”。

艾達(dá)·洛芙萊斯研究所(Ada Lovelace Institute)的代理主任弗朗辛·貝內(nèi)特(Francine Bennett)告訴《紐約時(shí)報(bào)》:“快速發(fā)展和可迅速重新利用的技術(shù)當(dāng)然很難監(jiān)管,因?yàn)榧词故情_發(fā)該技術(shù)的公司也不清楚事情將如何發(fā)展。但如果在沒有充分監(jiān)管的情況下繼續(xù)運(yùn)營,對(duì)我們所有人來說肯定會(huì)更糟!

然而,美國計(jì)算機(jī)與通信行業(yè)協(xié)會(huì)認(rèn)為,歐盟應(yīng)避免過于寬泛的監(jiān)管,否則會(huì)抑制創(chuàng)新。該機(jī)構(gòu)歐洲政策經(jīng)理博尼法斯·德·尚普里斯( Boniface de Champris )說,“歐洲的新AI規(guī)則需要有效解決明確定義的風(fēng)險(xiǎn),同時(shí)為開發(fā)人員提供足夠的靈活性來交付為所有歐洲人謀福利的人工智能應(yīng)用。”

下一步是什么?

法案完全生效可能需要數(shù)年時(shí)間。下一步是涉及成員國、議會(huì)和歐盟委員會(huì)的三方談判,在他們?cè)噲D就措辭達(dá)成一致前可能面臨更多變化。

魯弗分析,在即將到來的三方對(duì)話階段,代表成員國政府的歐洲理事會(huì)預(yù)計(jì)將強(qiáng)烈主張執(zhí)法和邊境部隊(duì)使用的人工智能工具免于對(duì)“高風(fēng)險(xiǎn)”系統(tǒng)的要求。

法案預(yù)計(jì)將在今年年底獲得最終批準(zhǔn),隨后是企業(yè)和組織適應(yīng)的寬限期,通常約為兩年。但領(lǐng)導(dǎo)該法案工作的歐洲議會(huì)意大利議員布蘭多·貝尼菲(Brando Benifei)表示,他們將推動(dòng)更快地采用生成式AI等快速發(fā)展技術(shù)的規(guī)則。

為了在立法生效前填補(bǔ)空白,歐洲和美國正在起草一份自愿行為準(zhǔn)則,官員們?cè)?月底承諾將在幾周內(nèi)起草該準(zhǔn)則,并可能擴(kuò)大到其他“志同道合的國家”。

編 輯:馬秋月
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構(gòu)成任何投資及應(yīng)用建議。如網(wǎng)站內(nèi)容涉及作品版權(quán)和其它問題,請(qǐng)?jiān)?0日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除內(nèi)容。本站聯(lián)系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進(jìn)行的“內(nèi)容核實(shí)”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對(duì)此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
工信部張?jiān)泼鳎捍蟛糠謬倚聞澐至酥蓄l段6G頻譜資源
精彩專題
專題丨“汛”速出動(dòng) 共筑信息保障堤壩
2023MWC上海世界移動(dòng)通信大會(huì)
中國5G商用四周年
2023年中國國際信息通信展覽會(huì)
CCTIME推薦
關(guān)于我們 | 廣告報(bào)價(jià) | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號(hào)-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證080234號(hào) 京公網(wǎng)安備110105000771號(hào)
公司名稱: 北京飛象互動(dòng)文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像