近日,國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》(以下稱《辦法》),自2023年8月15日起施行。國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責(zé)人表示,出臺《辦法》,旨在促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,維護國家安全和社會公共利益,保護公民、法人和其他組織的合法權(quán)益。
近年來,生成式人工智能技術(shù)快速發(fā)展,為經(jīng)濟社會發(fā)展帶來新機遇的同時,也產(chǎn)生了傳播虛假信息、侵害個人信息權(quán)益、數(shù)據(jù)安全和偏見歧視等問題,如何統(tǒng)籌生成式人工智能發(fā)展和安全引起各方關(guān)注。出臺《辦法》,既是促進生成式人工智能健康發(fā)展的重要要求,也是防范生成式人工智能服務(wù)風(fēng)險的現(xiàn)實需要。
《辦法》提出國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則,采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展,對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管,明確了提供和使用生成式人工智能服務(wù)總體要求。提出了促進生成式人工智能技術(shù)發(fā)展的具體措施,明確了訓(xùn)練數(shù)據(jù)處理活動和數(shù)據(jù)標(biāo)注等要求。規(guī)定了生成式人工智能服務(wù)規(guī)范,明確生成式人工智能服務(wù)提供者應(yīng)當(dāng)采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù),按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進行標(biāo)識,發(fā)現(xiàn)違法內(nèi)容應(yīng)當(dāng)及時采取處置措施等。此外,還規(guī)定了安全評估、算法備案、投訴舉報等制度,明確了法律責(zé)任。
國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責(zé)人指出,生成式人工智能服務(wù)的發(fā)展與治理需要政府、企業(yè)、社會、網(wǎng)民等多方參與,共同促進生成式人工智能健康發(fā)展,讓生成式人工智能技術(shù)更好地造福人民。