“過(guò)去這些年，我們?cè)谛畔⒓夹g(shù)領(lǐng)域最大的一個(gè)經(jīng)驗(yàn)教訓(xùn)，就是關(guān)鍵核心技術(shù)必須靠自己自主創(chuàng)新來(lái)解決，不能靠買、靠換�！庇�(jì)算機(jī)專家倪光南院士近日在2019世界人工智能大會(huì)上接受澎湃新聞專訪時(shí)表示。
盡管在應(yīng)用、芯片等角度上發(fā)力，也會(huì)令A(yù)I產(chǎn)生更多價(jià)值，但他認(rèn)為，國(guó)內(nèi)必須在算法突破上投入更多的力氣。
這位1939年出生的中國(guó)工程院院士曾參與研制中國(guó)自行設(shè)計(jì)的第一臺(tái)電子管計(jì)算機(jī)（119機(jī)），在上世紀(jì)六、七十年代開(kāi)展?jié)h字處理和字符識(shí)別研究，首創(chuàng)在漢字輸入中應(yīng)用聯(lián)想功能。
從1995年至今，倪光南就不遺余力地呼吁中國(guó)發(fā)展IT核心技術(shù)，特別是自主操作系統(tǒng)和國(guó)產(chǎn)CPU。如今，“技工貿(mào)”和“貿(mào)工技”之爭(zhēng)，歷史似乎已經(jīng)給出了答案。他相信，中國(guó)如今會(huì)在人工智能領(lǐng)域吸取歷史教訓(xùn)，下更大的決心實(shí)現(xiàn)突破。
人工智能安全超越軟硬件問(wèn)題
在此次大會(huì)上，倪光南參與了世界人工智能安全高端對(duì)話。在他看來(lái)，自主可控是網(wǎng)絡(luò)安全的關(guān)鍵，必須在質(zhì)量測(cè)評(píng)、安全測(cè)評(píng)的基礎(chǔ)上增加自主可控測(cè)評(píng)。
這一套標(biāo)準(zhǔn)，可能也同樣適用于人工智能時(shí)代的安全問(wèn)題，即通過(guò)建立一些要素準(zhǔn)則，評(píng)估人工智能相關(guān)產(chǎn)品、服務(wù)、技術(shù)、系統(tǒng)的安全可控。
“這樣有個(gè)好處，是在網(wǎng)絡(luò)安全的基礎(chǔ)上再上一個(gè)臺(tái)階，不是另起爐灶，從零開(kāi)始�！彼f(shuō)道。
那么，在繼承網(wǎng)絡(luò)安全的基礎(chǔ)上，AI時(shí)代的安全問(wèn)題表現(xiàn)出哪些新的特征？倪光南從演化的角度看待這個(gè)話題。
傳統(tǒng)安全考慮的是人和物之間的關(guān)系，網(wǎng)絡(luò)安全則涉及到人和人之間的攻防關(guān)系。“所以我們?cè)诰W(wǎng)絡(luò)安全上要強(qiáng)調(diào)自主可控，假如你無(wú)法自主可控，對(duì)方就可以利用漏洞從后門攻擊，這是在傳統(tǒng)安全上更進(jìn)了一步�！�
進(jìn)入到人工智能時(shí)代，我們還需要面對(duì)人和人工智能的關(guān)系。AI的安全可控由此也超越了單純的技術(shù)問(wèn)題。例如，用交互過(guò)程訓(xùn)練聊天機(jī)器人時(shí)，一些機(jī)器人會(huì)出現(xiàn)“學(xué)壞”、“罵人”的情況，甚至變成一個(gè)“種族主義者”。
“這些機(jī)器人在軟件和硬件上都不應(yīng)該有問(wèn)題，但在學(xué)習(xí)過(guò)程之中出現(xiàn)了更復(fù)雜的情況�！蹦吖饽险f(shuō)道。這是過(guò)去從未考慮過(guò)的問(wèn)題，需要各方面的深入研究。
此外，深度學(xué)習(xí)還有透明性問(wèn)題�！叭斯ぶ悄茏R(shí)別圖片可能比人更準(zhǔn)確，但我們不知道為什么這么好；人類棋手下每步棋都有解釋，但AI就做不出解釋�！睙o(wú)法解釋為什么好，就無(wú)法避免不好的情況。針對(duì)一些人臉識(shí)別系統(tǒng)，黑客畫(huà)上一條簡(jiǎn)單的線就能迷惑AI，利用很小的干擾造成AI的失誤。
倪光南總結(jié)道，人工智能帶來(lái)了一種全新的安全類型，可能在制度設(shè)計(jì)和方法論上都需要有個(gè)說(shuō)法。
關(guān)于AI安全，另一個(gè)廣為關(guān)注的話題是AI是否會(huì)造成大規(guī)模失業(yè)。倪光南認(rèn)為，機(jī)器相對(duì)于人類有兩個(gè)最大的優(yōu)勢(shì)。其一是在某些特定領(lǐng)域上打敗人類會(huì)成為常態(tài)。其二就是機(jī)器的智能很容易疊加和擴(kuò)大，而100個(gè)人的智慧加起來(lái)就未必比一個(gè)人更強(qiáng)。
但他相信，在大量簡(jiǎn)單勞動(dòng)被人工智能取代之后，依然需要一大批工程師去使用和維護(hù)這些機(jī)器，人類從而能在新增的工作崗位上發(fā)揮更高價(jià)值的作用。
歷史教訓(xùn)賦予更大的決心
那么，中國(guó)的人工智能研究與產(chǎn)業(yè)未來(lái)要實(shí)現(xiàn)安全、健康的發(fā)展，最重要的發(fā)力點(diǎn)在哪里？倪光南認(rèn)為算法仍是一個(gè)核心問(wèn)題。
眼下這一波人工智能的新熱潮，有三個(gè)公認(rèn)的因素發(fā)揮了主要作用：數(shù)據(jù)、算力和算法。倪光南認(rèn)為，其中最關(guān)鍵的是深度學(xué)習(xí)的出現(xiàn)在算法上實(shí)現(xiàn)了突破，將人工智能一下子提升到新的階段。
在短期內(nèi)，可以預(yù)見(jiàn)很多公司會(huì)首先從應(yīng)用著手�！皯�(yīng)用門檻低，容易做，這也是很正常的。中國(guó)市場(chǎng)很大，在這方面具有優(yōu)勢(shì)，傳統(tǒng)產(chǎn)業(yè)引入人工智能能夠加速升級(jí)改造，”倪光南說(shuō)道，“但我們還需要投入更大的力氣，從關(guān)鍵核心技術(shù)方面進(jìn)行突破，爭(zhēng)取更大的前途�！�
“包括現(xiàn)在很熱的人工智能芯片，很多家都能做，當(dāng)然也有好壞差別。但這個(gè)差別在都是用硬件去加速算法，沒(méi)有在根本上突破算法本身�！蹦吖饽显u(píng)價(jià)道。
“過(guò)去這些年，我們?cè)谛畔⒓夹g(shù)領(lǐng)域最大的一個(gè)經(jīng)驗(yàn)教訓(xùn)，就是關(guān)鍵核心技術(shù)必須靠自己自主創(chuàng)新來(lái)解決，不能靠買、靠換。”他總結(jié)道。
不過(guò)，比起當(dāng)年薄弱的基礎(chǔ)和分歧的思想，倪光南相信中國(guó)現(xiàn)在國(guó)力更強(qiáng)，突破關(guān)鍵核心技術(shù)的認(rèn)識(shí)也更為深刻�！按蠹以谌斯ぶ悄茴I(lǐng)域會(huì)借鑒過(guò)去的經(jīng)驗(yàn)，下更大決心，縮短追趕的過(guò)程�！�
