據(jù)報道，OpenAI起草的一份互聯(lián)網(wǎng)政策備忘錄顯示，該公司認為應當要求所有想要開發(fā)先進人工智能的公司必須獲得政府支持。這份文件還透露，該公司愿意公開他們在訓練圖像生成器時使用的數(shù)據(jù)。
作為ChatGPT和DALL-E的開發(fā)者，OpenAI是在白宮官員與科技行業(yè)高管今年5月4日舉行會面后，在內(nèi)部文件中披露一系列人工智能政策承諾的。該公司在草案中寫道：“我們致力于跟美國政府和世界各地的政策制定者合作，支持為未來最先進的基礎(chǔ)模型開發(fā)工作制定一套牌照制度。”
如果由OpenAI等人工智能巨頭參與制定政府牌照制度，有可能會與初創(chuàng)公司和開源開發(fā)者的利益形成沖突。后者認為，這些巨頭會試圖借此提高行業(yè)門檻。
這并非OpenAI首次提出這種想法：在5月的美國參議院聽證會上，該公司CEO山姆·阿爾特曼（Sam Altman）就支持成立一個政府機構(gòu)，負責為人工智能產(chǎn)品發(fā)放牌照，并在發(fā)生違規(guī)情況時收回牌照。
此時正值微軟、谷歌和OpenAI響應白宮號召，預計將在周五公開承諾為人工智能開發(fā)提供保障措施之際。據(jù)知情人士透露，這些公司將承諾以負責任的態(tài)度開發(fā)和部署人工智能。
OpenAI警告稱，該公司在其內(nèi)部政策文件中提出的想法，將不同于白宮即將與科技公司共同發(fā)布的政策。該公司全球事務副總裁Anna Makanju表示，該公司并沒有急于推動牌照制度，而是認為這是政府追蹤新型系統(tǒng)的一種“現(xiàn)實”方式。
“對于政府來說，有必要了解是否會有一個可能構(gòu)成潛在破壞的超強系統(tǒng)出現(xiàn)�！彼f，“如果有人不愿像我們這樣主動報告情況，幾乎無法確保政府能夠及時了解這樣的系統(tǒng)�！�
Makanju表示，OpenAI認為，這種牌照制度應當僅適用于比現(xiàn)有的GPT-4更強大的人工智能模型，小型創(chuàng)業(yè)公司不應當承受過大的監(jiān)管負擔。“我們不想遏制生態(tài)系統(tǒng)。”她說。
OpenAI還在內(nèi)部政策文件中透露，他們愿意進一步開放用于訓練DALL-E等圖片生成器的數(shù)據(jù)，并致力于在年底前“納入溯源方法”。數(shù)據(jù)溯源是一種讓開發(fā)人員對其工作的透明度和來源負責的做法。許多政策制定者之前已經(jīng)提出這種想法，他們認為，這對于防止人工智能工具傳播錯誤信息和偏見至關(guān)重要。
OpenAI在備忘錄中列出的承諾，與微軟今年5月宣布的政策非常相似。但OpenAI之前曾經(jīng)表示，盡管獲得了微軟的100億美元投資，但他們依然是一家獨立公司。
該公司在文件中披露，他們正在進行調(diào)查，了解水印（一種追蹤人工智能生成圖像的真實性和版權(quán)的方法）以及人工智能生成內(nèi)容的檢測和披露方法，并將公布調(diào)查結(jié)果。
OpenAI還在文件中表示，他們對外部“紅隊”持開放態(tài)度。換言之，該公司將允許人們參與測試其系統(tǒng)在多方面的潛在問題，包括冒犯性內(nèi)容、被操縱的風險、錯誤信息和偏見。該公司在備忘錄表示，它支持建立一個信息共享中心，就網(wǎng)絡(luò)安全開展合作。
OpenAI在備忘錄中似乎承認人工智能系統(tǒng)可能在就業(yè)和不平等方面帶來風險。該公司還在草案中表示，他們將進行研究，并向政策制定者提出建議，以保護經(jīng)濟免受潛在破壞的影響。
