“過去這些年，我們在信息技術(shù)領(lǐng)域最大的一個(gè)經(jīng)驗(yàn)教訓(xùn)，就是關(guān)鍵核心技術(shù)必須靠自己自主創(chuàng)新來解決，不能靠買、靠換�！庇�(jì)算機(jī)專家倪光南院士近日在2019世界人工智能大會上接受澎湃新聞專訪時(shí)表示。
盡管在應(yīng)用、芯片等角度上發(fā)力，也會令A(yù)I產(chǎn)生更多價(jià)值，但他認(rèn)為，國內(nèi)必須在算法突破上投入更多的力氣。
這位1939年出生的中國工程院院士曾參與研制中國自行設(shè)計(jì)的第一臺電子管計(jì)算機(jī)（119機(jī)），在上世紀(jì)六、七十年代開展?jié)h字處理和字符識別研究，首創(chuàng)在漢字輸入中應(yīng)用聯(lián)想功能。
從1995年至今，倪光南就不遺余力地呼吁中國發(fā)展IT核心技術(shù)，特別是自主操作系統(tǒng)和國產(chǎn)CPU。如今，“技工貿(mào)”和“貿(mào)工技”之爭，歷史似乎已經(jīng)給出了答案。他相信，中國如今會在人工智能領(lǐng)域吸取歷史教訓(xùn)，下更大的決心實(shí)現(xiàn)突破。
人工智能安全超越軟硬件問題
在此次大會上，倪光南參與了世界人工智能安全高端對話。在他看來，自主可控是網(wǎng)絡(luò)安全的關(guān)鍵，必須在質(zhì)量測評、安全測評的基礎(chǔ)上增加自主可控測評。
這一套標(biāo)準(zhǔn)，可能也同樣適用于人工智能時(shí)代的安全問題，即通過建立一些要素準(zhǔn)則，評估人工智能相關(guān)產(chǎn)品、服務(wù)、技術(shù)、系統(tǒng)的安全可控。
“這樣有個(gè)好處，是在網(wǎng)絡(luò)安全的基礎(chǔ)上再上一個(gè)臺階，不是另起爐灶，從零開始。”他說道。
那么，在繼承網(wǎng)絡(luò)安全的基礎(chǔ)上，AI時(shí)代的安全問題表現(xiàn)出哪些新的特征？倪光南從演化的角度看待這個(gè)話題。
傳統(tǒng)安全考慮的是人和物之間的關(guān)系，網(wǎng)絡(luò)安全則涉及到人和人之間的攻防關(guān)系�！八晕覀冊诰W(wǎng)絡(luò)安全上要強(qiáng)調(diào)自主可控，假如你無法自主可控，對方就可以利用漏洞從后門攻擊，這是在傳統(tǒng)安全上更進(jìn)了一步�！�
進(jìn)入到人工智能時(shí)代，我們還需要面對人和人工智能的關(guān)系。AI的安全可控由此也超越了單純的技術(shù)問題。例如，用交互過程訓(xùn)練聊天機(jī)器人時(shí)，一些機(jī)器人會出現(xiàn)“學(xué)壞”、“罵人”的情況，甚至變成一個(gè)“種族主義者”。
“這些機(jī)器人在軟件和硬件上都不應(yīng)該有問題，但在學(xué)習(xí)過程之中出現(xiàn)了更復(fù)雜的情況�！蹦吖饽险f道。這是過去從未考慮過的問題，需要各方面的深入研究。
此外，深度學(xué)習(xí)還有透明性問題�！叭斯ぶ悄茏R別圖片可能比人更準(zhǔn)確，但我們不知道為什么這么好；人類棋手下每步棋都有解釋，但AI就做不出解釋�！睙o法解釋為什么好，就無法避免不好的情況。針對一些人臉識別系統(tǒng)，黑客畫上一條簡單的線就能迷惑AI，利用很小的干擾造成AI的失誤。
倪光南總結(jié)道，人工智能帶來了一種全新的安全類型，可能在制度設(shè)計(jì)和方法論上都需要有個(gè)說法。
關(guān)于AI安全，另一個(gè)廣為關(guān)注的話題是AI是否會造成大規(guī)模失業(yè)。倪光南認(rèn)為，機(jī)器相對于人類有兩個(gè)最大的優(yōu)勢。其一是在某些特定領(lǐng)域上打敗人類會成為常態(tài)。其二就是機(jī)器的智能很容易疊加和擴(kuò)大，而100個(gè)人的智慧加起來就未必比一個(gè)人更強(qiáng)。
但他相信，在大量簡單勞動被人工智能取代之后，依然需要一大批工程師去使用和維護(hù)這些機(jī)器，人類從而能在新增的工作崗位上發(fā)揮更高價(jià)值的作用。
歷史教訓(xùn)賦予更大的決心
那么，中國的人工智能研究與產(chǎn)業(yè)未來要實(shí)現(xiàn)安全、健康的發(fā)展，最重要的發(fā)力點(diǎn)在哪里？倪光南認(rèn)為算法仍是一個(gè)核心問題。
眼下這一波人工智能的新熱潮，有三個(gè)公認(rèn)的因素發(fā)揮了主要作用：數(shù)據(jù)、算力和算法。倪光南認(rèn)為，其中最關(guān)鍵的是深度學(xué)習(xí)的出現(xiàn)在算法上實(shí)現(xiàn)了突破，將人工智能一下子提升到新的階段。
在短期內(nèi)，可以預(yù)見很多公司會首先從應(yīng)用著手�！皯�(yīng)用門檻低，容易做，這也是很正常的。中國市場很大，在這方面具有優(yōu)勢，傳統(tǒng)產(chǎn)業(yè)引入人工智能能夠加速升級改造，”倪光南說道，“但我們還需要投入更大的力氣，從關(guān)鍵核心技術(shù)方面進(jìn)行突破，爭取更大的前途。”
“包括現(xiàn)在很熱的人工智能芯片，很多家都能做，當(dāng)然也有好壞差別。但這個(gè)差別在都是用硬件去加速算法，沒有在根本上突破算法本身�！蹦吖饽显u價(jià)道。
“過去這些年，我們在信息技術(shù)領(lǐng)域最大的一個(gè)經(jīng)驗(yàn)教訓(xùn)，就是關(guān)鍵核心技術(shù)必須靠自己自主創(chuàng)新來解決，不能靠買、靠換�！彼偨Y(jié)道。
不過，比起當(dāng)年薄弱的基礎(chǔ)和分歧的思想，倪光南相信中國現(xiàn)在國力更強(qiáng)，突破關(guān)鍵核心技術(shù)的認(rèn)識也更為深刻�！按蠹以谌斯ぶ悄茴I(lǐng)域會借鑒過去的經(jīng)驗(yàn)，下更大決心，縮短追趕的過程�！�
