飛象原創(chuàng)(高靖宇/文)在影視作品《西部世界》中,即便是最先進(jìn)的機(jī)器人也容易受到惡意軟件的攻擊,這讓我們不禁思考,我們能夠在多大程度上掌控人工智能(AI)技術(shù)。在現(xiàn)實(shí)世界中,隨著AI大模型技術(shù)的快速發(fā)展,其可能帶來(lái)的安全性問(wèn)題也日益凸顯。
近年來(lái),人工智能技術(shù)取得了令人矚目的進(jìn)展,特別是大模型正逐步被應(yīng)用于越來(lái)越多的場(chǎng)景,與千行百業(yè)加速融合,成為推動(dòng)數(shù)字科技發(fā)展的關(guān)鍵力量。數(shù)據(jù)顯示,我國(guó)已經(jīng)完成備案并上線、能為公眾提供服務(wù)的生成式人工智能服務(wù)大模型已達(dá)180多個(gè),注冊(cè)用戶(hù)突破5.64億。
然而,這些大模型在帶來(lái)便利和效率的同時(shí),也催生了新的安全風(fēng)險(xiǎn)!段鞑渴澜纭冯m然是虛構(gòu)的故事,但人工智能安全風(fēng)險(xiǎn)卻已存在于現(xiàn)實(shí)世界,正如一枚硬幣的兩面,AI大模型技術(shù)的發(fā)展帶來(lái)了網(wǎng)絡(luò)安全領(lǐng)域的深刻調(diào)整與全新挑戰(zhàn)。
網(wǎng)絡(luò)安全中的“AI”風(fēng)險(xiǎn)
伴隨著眾多AI大模型的誕生,AI驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊也在快速增長(zhǎng),因?yàn)橛辛薃I加持之后,發(fā)動(dòng)網(wǎng)絡(luò)攻擊對(duì)于攻擊者而言相比之前更加容易,可以更加高效的組織更加復(fù)雜,規(guī)模更大的安全攻擊。此外,一些黑客還掌握了利用生成式AI等新興技術(shù)實(shí)施網(wǎng)絡(luò)犯罪的新手段。
以ChatGPT為例,自其上線以來(lái),便有人擔(dān)憂(yōu)其可能成為網(wǎng)絡(luò)犯罪的溫床。盡管平臺(tái)方已采取了一系列防止惡意應(yīng)用的措施,但創(chuàng)意十足的攻擊者仍能利用生成式AI生成逼真的網(wǎng)絡(luò)釣魚(yú)郵件,誘騙用戶(hù)泄露敏感信息。此外,AI技術(shù)的深度偽造和語(yǔ)音合成能力也被用于詐騙,使得傳統(tǒng)防御手段難以應(yīng)對(duì)。更為嚴(yán)峻的是,隨著AI在合法用例中的廣泛應(yīng)用,模型中毒、數(shù)據(jù)泄露、提示注入攻擊等新型漏洞不斷涌現(xiàn),對(duì)網(wǎng)絡(luò)安全構(gòu)成了持續(xù)威脅。
IEEE調(diào)研顯示,2024年將會(huì)出現(xiàn)其他更具威脅的網(wǎng)絡(luò)安全問(wèn)題,包括勒索軟件攻擊(2024年為37%,高于2023年的30%)、網(wǎng)絡(luò)釣魚(yú)攻擊(2024年為35%,高于2023年的25%)以及內(nèi)部威脅(2024年為26%,高于2023年的19%)。
中國(guó)工程院院士吳世忠表示,由AI技術(shù)帶來(lái)的新型安全問(wèn)題已成為現(xiàn)實(shí),安全行業(yè)將迅速邁進(jìn)AI驅(qū)動(dòng)的新時(shí)代。然而,大模型安全研究可以說(shuō)才剛剛開(kāi)始。無(wú)論是安全研究還是安全產(chǎn)業(yè),都必須緊跟科技進(jìn)步和應(yīng)用創(chuàng)新,才能服務(wù)好發(fā)展,保障好發(fā)展。
“人工智能等前沿?cái)?shù)字技術(shù)正在重新定義內(nèi)容的生產(chǎn)與消費(fèi)模式,大模型在企業(yè)運(yùn)營(yíng)中應(yīng)用越來(lái)越廣泛,必須尋求創(chuàng)新的安全模式,以適應(yīng)這一變化!敝袊(guó)工程院院士鄔賀銓認(rèn)為,基礎(chǔ)大模型是企業(yè)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型不可或缺的一環(huán),需要應(yīng)對(duì)多項(xiàng)挑戰(zhàn),包括強(qiáng)大的算力、充足的數(shù)據(jù)、高水平的研材、新應(yīng)用的算法、場(chǎng)景和閉環(huán)的生態(tài)。然而基礎(chǔ)大模型缺少特定行業(yè)的專(zhuān)業(yè)知識(shí),因此需要大模型提供方與垂直行業(yè)合作。
以模治模 網(wǎng)絡(luò)安全發(fā)展新路徑
AI帶來(lái)新的安全挑戰(zhàn),同樣需要AI技術(shù)來(lái)解決,這是一場(chǎng)AI技術(shù)的攻防戰(zhàn)。作為中國(guó)AI領(lǐng)域的老玩家,360 AI一直深入探索AI大模型在關(guān)鍵行業(yè)中的垂直應(yīng)用,推動(dòng)大模型重塑安全體系。
360集團(tuán)創(chuàng)始人周鴻祎表示,面對(duì)愈加復(fù)雜的傳統(tǒng)安全問(wèn)題和大模型帶來(lái)新的安全問(wèn)題,必須用AI重塑安全,以模治模,用安全大模型解決“新老”安全問(wèn)題。
“不要追求用一個(gè)大模型解決所有問(wèn)題,應(yīng)該讓專(zhuān)業(yè)大模型解決專(zhuān)業(yè)問(wèn)題!敝茗櫟t認(rèn)為,2024年是場(chǎng)景之年,關(guān)鍵要結(jié)合業(yè)務(wù)找“明星場(chǎng)景”,然后根據(jù)場(chǎng)景設(shè)計(jì)功能,根據(jù)功能需求對(duì)大模型進(jìn)行專(zhuān)項(xiàng)訓(xùn)練。
在ISC.AI 2024第十二屆互聯(lián)網(wǎng)安全大會(huì)上,周鴻祎宣布360安全大模型正式免費(fèi)。360安全大模型在真實(shí)業(yè)務(wù)場(chǎng)景中取得重大突破,通過(guò)對(duì)全網(wǎng)安全數(shù)據(jù)和知識(shí)進(jìn)行提煉、壓縮和蒸餾,360安全大模型實(shí)現(xiàn)對(duì)全網(wǎng)安全知識(shí)的深度理解。未來(lái),在大模型賦能下,本地安全大腦“無(wú)需聯(lián)網(wǎng)”,在封閉網(wǎng)絡(luò)中也能獲得全網(wǎng)數(shù)據(jù)和知識(shí)的賦能。
周鴻祎表示,打造安全大模型是安全邁向“自動(dòng)駕駛”的必由之路,用AI升級(jí)安全要有類(lèi)似自動(dòng)駕駛的L1-L5級(jí)別目標(biāo),目前360安全大模型已具備L4級(jí)“自動(dòng)駕駛”能力,相當(dāng)于汽車(chē)的“高級(jí)自動(dòng)駕駛階段”。