在7月31日—8月1日召開的ISC.AI 2024第十二屆互聯(lián)網(wǎng)安全大會(huì)上,中國(guó)工程院院士吳世忠分享了《對(duì)生成式AI安全研究的幾點(diǎn)觀察》。在他看來(lái),在確保風(fēng)險(xiǎn)可控的情況下,積極促進(jìn)人工智能技術(shù)成果轉(zhuǎn)化和應(yīng)用推廣,較為成熟的行業(yè)應(yīng)用為三個(gè)方面:
一是自動(dòng)駕駛,確保自動(dòng)駕駛系統(tǒng)在各種道路和環(huán)境下的安全性,這方面大家都很清楚。我們國(guó)家的發(fā)展優(yōu)勢(shì)特別突出。
二是醫(yī)療健康,確保人工智能系統(tǒng)作為醫(yī)療助手,在診斷和治療中準(zhǔn)確性和可靠性,避免誤診和誤治,這方面美國(guó)一直在領(lǐng)頭地位。
三是金融安全,主要研究人工智能賦能網(wǎng)絡(luò)的攻防,對(duì)高度網(wǎng)絡(luò)化、數(shù)字化的金融系統(tǒng)有哪些潛在的威脅,以便有效的防范AI驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊和金融詐騙。