首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯(lián)網(wǎng)|會展
首頁 >> 監(jiān)管 >> 正文

工信部:將推出AI換臉詐騙風險提醒功能

2024年8月19日 07:43  CCTIME飛象網(wǎng)  

飛象網(wǎng)訊 據(jù)央視網(wǎng)報道,一些不法分子利用“AI換臉”技術(shù)實施詐騙,已成為一種新型騙局。一張“肖像照片”、一段“貌似熟人的視頻”,都可能被不法分子利用作為詐騙的手段和工具。

“不法分子首先會通過各種公開的渠道獲取受害人的個人肖像或視頻,然后利用AI技術(shù),對這些照片中的面容特征進行學習,從而模仿眨眼、搖頭等動作,實現(xiàn)以假亂真的效果!惫I(yè)和信息化部反詐工作專班專家李坤表示,除了讓照片上的人像活化,AI換臉技術(shù)還能實現(xiàn)在即時視頻通信狀態(tài)下的實時換臉。

利用AI技術(shù)制作換臉視頻或合成聲音來實施詐騙的確讓人防不勝防,那么如何防范這種風險呢?李坤表示,我們正在會同行業(yè)內(nèi)的手機終端企業(yè),將推出AI換臉詐騙風險提醒功能。這項功能僅在手機端來本地運行,能夠有效保護用戶數(shù)據(jù)不泄露,經(jīng)過用戶授權(quán)后,可為用戶提供AI換臉詐騙風險預警提醒。

當用 AI 換了臉的技術(shù)人員與記者發(fā)起視頻通話時,測試手機終端提示“對方疑似假冒身份”。點擊檢測按鈕,經(jīng)過圖像掃描,系統(tǒng)提示“AI 換臉合成概率 93%”。

據(jù)了解,AI換臉主要是使用深度合成技術(shù)!痘ヂ(lián)網(wǎng)信息服務深度合成管理規(guī)定》提出了算法備案、安全評估的手段,要求深度合成服務提供者對深度合成的內(nèi)容添加顯式或隱式水印。

中國信通院人工智能所安全與元宇宙部專家陳文弢表示,要對生成合成的內(nèi)容去添加一些水印,這個水印的本質(zhì)其實就是要一方面去提示公眾這個內(nèi)容是由AI生成或者合成的,另一方面也是要追溯它的來源。

專家提醒,AI詐騙是隱私信息泄露與詐騙陷阱的結(jié)合,要加強對個人隱私的保護,不輕易提供人臉、指紋等個人生物信息給他人,不過度公開或分享動圖、視頻等,尤其涉及“朋友”“領導”等熟人要求轉(zhuǎn)賬、匯款的,務必通過多種途徑核實確認,不要未經(jīng)核實隨意轉(zhuǎn)賬匯款。

編 輯:高靖宇
飛象網(wǎng)版權(quán)及免責聲明:
1.本網(wǎng)刊載內(nèi)容,凡注明來源為“飛象網(wǎng)”和“飛象原創(chuàng)”皆屬飛象網(wǎng)版權(quán)所有,未經(jīng)允許禁止轉(zhuǎn)載、摘編及鏡像,違者必究。對于經(jīng)過授權(quán)可以轉(zhuǎn)載,請必須保持轉(zhuǎn)載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網(wǎng)來源。
2.凡注明“來源:XXXX”的作品,均轉(zhuǎn)載自其它媒體,在于傳播更多行業(yè)信息,并不代表本網(wǎng)贊同其觀點和對其真實性負責。
3.如因作品內(nèi)容、版權(quán)和其它問題,請在相關(guān)作品刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系,我們將第一時間予以處理。
本站聯(lián)系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯(lián)系方式,進行的“內(nèi)容核實”、“商務聯(lián)系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
中國電信邵廣祿:面向AI大模型的智算集群及網(wǎng)絡的實踐和展望
精彩專題
CES 2024國際消費電子展
2023年信息通信產(chǎn)業(yè)盤點暨頒獎禮
飛象網(wǎng)2023年手機評選
第24屆中國國際光電博覽會
CCTIME推薦
關(guān)于我們 | 廣告報價 | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業(yè)務經(jīng)營許可證080234號 京公網(wǎng)安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復制、鏡像