在7月31日—8月1日召開的ISC.AI 2024第十二屆互聯(lián)網(wǎng)安全大會上，中國工程院院士吳世忠分享了《對生成式AI安全研究的幾點(diǎn)觀察》。在他看來，在確保風(fēng)險(xiǎn)可控的情況下，積極促進(jìn)人工智能技術(shù)成果轉(zhuǎn)化和應(yīng)用推廣，較為成熟的行業(yè)應(yīng)用為三個方面：
一是自動駕駛，確保自動駕駛系統(tǒng)在各種道路和環(huán)境下的安全性，這方面大家都很清楚。我們國家的發(fā)展優(yōu)勢特別突出。
二是醫(yī)療健康，確保人工智能系統(tǒng)作為醫(yī)療助手，在診斷和治療中準(zhǔn)確性和可靠性，避免誤診和誤治，這方面美國一直在領(lǐng)頭地位。
三是金融安全，主要研究人工智能賦能網(wǎng)絡(luò)的攻防，對高度網(wǎng)絡(luò)化、數(shù)字化的金融系統(tǒng)有哪些潛在的威脅，以便有效的防范AI驅(qū)動的網(wǎng)絡(luò)攻擊和金融詐騙。
