首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計算|芯片報告|智慧城市|移動互聯(lián)網(wǎng)|會展
首頁 >> 人工智能 >> 正文

谷歌大力推廣聊天機器人Bard,但警示內(nèi)部員工謹(jǐn)慎使用

2023年6月16日 06:30  新浪科技  

據(jù)報道,知情人士表示,谷歌母公司Alphabet在全球范圍內(nèi)推銷聊天機器人軟件的同時,正警告內(nèi)部員工在使用Bard等聊天機器人時應(yīng)該保持謹(jǐn)慎。

消息稱,基于長期以來的信息保密政策,Alphabet建議員工不要將機密信息輸入聊天機器人。

包括Bard和ChatGPT在內(nèi)的聊天機器人可以用與人類類似的風(fēng)格與用戶對話。它們基于生成式人工智能技術(shù),能根據(jù)用戶輸入的提示做出回復(fù)。然而在使用聊天機器人的過程中,人工審核員可能會閱讀聊天記錄。研究人員也發(fā)現(xiàn),人工智能模型可以復(fù)制在訓(xùn)練過程中接收的數(shù)據(jù),從而產(chǎn)生數(shù)據(jù)泄露風(fēng)險。

一些知情人士還說,Alphabet已經(jīng)提醒工程師,避免直接使用聊天機器人去生成軟件代碼。

對于這一消息,Alphabet回應(yīng)稱,Bard可能會提出不合適的代碼建議,但仍可以給程序員帶來幫助。此外,該公司的目標(biāo)是對技術(shù)局限性保持透明的態(tài)度。

這一消息表明,盡管谷歌推出了自己的軟件與ChatGPT競爭,但谷歌也極力避免這樣的軟件對公司業(yè)務(wù)造成損害。谷歌正在與ChatGPT的開發(fā)者OpenAI和微軟(348.1, 10.76, 3.19%)展開競爭,新的人工智能軟件將對廣告和云計算行業(yè)造成深遠(yuǎn)影響。

這也表明,在面對生成式人工智能技術(shù)時,企業(yè)正在制定新的信息安全標(biāo)準(zhǔn),包括要求員工不使用公開的聊天機器人軟件。

三星、亞馬遜(127.11, 0.69, 0.55%)和德意志銀行等公司都表示,全球越來越多的企業(yè)已經(jīng)針對人工智能聊天機器人設(shè)置了“護欄”。有消息稱,蘋果(186.01, 2.06, 1.12%)也采取了類似做法。

社交網(wǎng)站FishBowl對近1.2萬名受訪者進行的一項調(diào)查顯示,截至今年1月,大約43%的專業(yè)人士正在使用ChatGPT或其他人工智能工具,并且通常不會告知他們的老板。受訪者中包括部分美國大公司的員工。

今年2月,谷歌曾對測試Bard聊天機器人的員工表示,在Bard推出之前不要向其輸入內(nèi)部信息。目前,谷歌正在180多個國家推出40多個語言版本的Bard,輔助用戶的創(chuàng)意工作。但同時,谷歌對內(nèi)部員工的警示已經(jīng)拓展到了Bard提供的代碼建議。

谷歌表示,該公司已經(jīng)與愛爾蘭數(shù)據(jù)保護委員會進行了具體的對話,正在回答監(jiān)管機構(gòu)的問題。本周二有報道稱,谷歌將推遲本周在歐盟推出Bard的計劃,等待有關(guān)聊天機器人隱私問題的更多信息。

生成式人工智能技術(shù)可以起草電子郵件、文檔,甚至開發(fā)軟件本身,從而極大地加快任務(wù)的執(zhí)行速度。然而,人工智能生成的內(nèi)容中可能包含錯誤信息、敏感數(shù)據(jù),以及《哈利波特》等小說中受版權(quán)保護的段落。

谷歌在6月1日更新的隱私聲明中也寫道:“不要在與Bard的對話中包含機密或敏感信息。”

一些公司已經(jīng)開發(fā)軟件來解決這方面擔(dān)憂。例如,信息安全公司Cloudflare正在推廣一項新服務(wù),幫助企業(yè)標(biāo)記和限制數(shù)據(jù)的對外流動。

谷歌和微軟同時也在向商業(yè)客戶提供非公開的人工智能對話工具。這些工具的價格更高,但不會將數(shù)據(jù)吸收到公開的人工智能模型中。Bard和ChatGPT的默認(rèn)設(shè)置會保存用戶的對話歷史,用戶可以選擇刪除。

微軟消費者業(yè)務(wù)首席營銷官優(yōu)素!み~赫迪(Yusuf Mehdi)表示,公司不希望員工在工作時使用公開的聊天機器人,這是“有道理的”。他解釋了微軟免費的必應(yīng)聊天機器人與企業(yè)版軟件的不同,并表示:“公司采取適當(dāng)?shù)谋J亓,(企業(yè)軟件)的政策要嚴(yán)格得多!

微軟拒絕回應(yīng),是否會全面禁止員工將機密信息輸入公開的人工智能軟件,包括微軟自己的軟件。不過微軟的另一名高管表示,他個人會限制對公開聊天機器人的使用。

Cloudflare首席執(zhí)行官馬修·普林斯(Matthew Prince)說,在聊天機器人上輸入機密信息就像“讓一群博士生獲得你的所有私人記錄”。

編 輯:馬秋月
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構(gòu)成任何投資及應(yīng)用建議。如網(wǎng)站內(nèi)容涉及作品版權(quán)和其它問題,請在30日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時間刪除內(nèi)容。本站聯(lián)系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進行的“內(nèi)容核實”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
工信部張云明:大部分國家新劃分了中頻段6G頻譜資源
精彩專題
專題丨“汛”速出動 共筑信息保障堤壩
2023MWC上海世界移動通信大會
中國5G商用四周年
2023年中國國際信息通信展覽會
CCTIME推薦
關(guān)于我們 | 廣告報價 | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證080234號 京公網(wǎng)安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像