今年3月，國(guó)家網(wǎng)信辦等四部門聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱“標(biāo)識(shí)辦法”）。9月1日，“標(biāo)識(shí)辦法”就將正式施行。其中最值得關(guān)注的是所有人工智能生成、合成的內(nèi)容，必須打上標(biāo)識(shí)。那么新規(guī)為何要做這樣的強(qiáng)制要求？未做標(biāo)識(shí)的AI畫面會(huì)對(duì)公眾造成怎樣的誤導(dǎo)呢？
用AI制造假新聞 多地查處相關(guān)案件
如今人們的日常生活與AI越來越緊密，可以用AI幫忙查找資料輔助寫作；讓AI將創(chuàng)意轉(zhuǎn)化為圖像、視頻；用AI搭建一套高效的學(xué)習(xí)場(chǎng)景，可以說，我們正在進(jìn)入“全民AI時(shí)代”。但是有人卻利用AI，給虛假信息穿上了一層難辨真假的偽裝，讓耳聽不一定為真，眼見也未必為實(shí)。
近年來，類似由AI生成的假新聞、謠言，頻繁出現(xiàn)在網(wǎng)絡(luò)空間并傳播。
今年1月，西藏定日縣發(fā)生6.8級(jí)地震。在全國(guó)人民關(guān)注搶險(xiǎn)救援的時(shí)候，“小男孩被埋圖”在互聯(lián)網(wǎng)平臺(tái)迅速傳播，并配文日喀則地震等關(guān)鍵詞，引發(fā)大量網(wǎng)民關(guān)注。由于畫面中小男孩有6根手指，AI生成的痕跡明顯，謠言很快被識(shí)破。相關(guān)人員也受到了處理。
但隨著AI技術(shù)的迅速發(fā)展，一些AI生成工具的使用更加便捷，往往一部手機(jī)、幾個(gè)軟件就能完成一次AI創(chuàng)作。有的人員利用AI工具拼湊虛假事實(shí)，并通過購(gòu)買一些自媒體賬號(hào)進(jìn)行傳播，甚至形成了一條“謠言→AI引用→更多謠言”的傳播鏈條。
AI生成內(nèi)容必須添加
顯式標(biāo)識(shí)或隱式標(biāo)識(shí)
AI生成合成的內(nèi)容真假難辨，只有打上標(biāo)識(shí)，才能讓AI生成的虛假消息露出原形。那么，AI生成內(nèi)容的標(biāo)識(shí)具體該如何添加，新規(guī)是如何規(guī)定的？
“標(biāo)識(shí)辦法”明確，人工智能生成合成內(nèi)容是指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場(chǎng)景等信息。人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。
顯式標(biāo)識(shí)是指在生成合成內(nèi)容或者交互場(chǎng)景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識(shí)。隱式標(biāo)識(shí)是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識(shí)。
據(jù)法學(xué)專家介紹，添加顯式或隱式標(biāo)識(shí)，最主要的目的就是，解決目前相關(guān)內(nèi)容“哪些是AI生成”“誰生成的”“從哪里生成”的三大核心問題。
顯式標(biāo)識(shí)可以確保用戶能直觀辨別生成內(nèi)容的人工智能屬性，保障公眾知情權(quán)。隱式標(biāo)識(shí)則既保障了標(biāo)識(shí)的持久性，也為后續(xù)數(shù)據(jù)清洗、校驗(yàn)提供技術(shù)依據(jù)。這兩種標(biāo)識(shí)結(jié)合使用，既能減少對(duì)用戶體驗(yàn)的干擾，還能為相關(guān)監(jiān)管提供溯源依據(jù)。
明確全鏈條責(zé)任
從生成到傳播閉環(huán)管理
據(jù)法學(xué)專家介紹，針對(duì)個(gè)人用戶借助AI技術(shù)進(jìn)行文字創(chuàng)作時(shí)，如果不存在侵犯?jìng)€(gè)人、社會(huì)權(quán)益的情況下，個(gè)人用戶則不需要進(jìn)行專門的標(biāo)識(shí)。但是，如果個(gè)人用戶使用AI技術(shù)生成的相關(guān)內(nèi)容，涉及如仿冒名人的話語(yǔ)表達(dá)或者容易讓社會(huì)公眾產(chǎn)生誤解、混淆等內(nèi)容，都必須進(jìn)行顯式標(biāo)識(shí)。
“標(biāo)識(shí)辦法”區(qū)分了生成合成內(nèi)容不同主體的責(zé)任，對(duì)生成人工智能這種生成合成內(nèi)容進(jìn)行一個(gè)全鏈條的監(jiān)管，不管是生成人工智能服務(wù)的提供者還是用戶，既要按照“標(biāo)識(shí)辦法”的要求去進(jìn)行標(biāo)識(shí)，還要按照國(guó)家強(qiáng)制標(biāo)準(zhǔn)的要求進(jìn)行標(biāo)識(shí)，這樣就把從制作、傳播、發(fā)布等等這個(gè)鏈條理得更清楚，然后相關(guān)的責(zé)任劃分也更明晰。
據(jù)法學(xué)專家介紹，“標(biāo)識(shí)辦法”明確了相關(guān)主體的責(zé)任義務(wù)，包括服務(wù)提供者需在內(nèi)容生成、傳播、下載等環(huán)節(jié)確保標(biāo)識(shí)完整；互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)需審核應(yīng)用是否具備添加標(biāo)識(shí)功能；個(gè)人用戶發(fā)布生成內(nèi)容時(shí)需要主動(dòng)聲明。
另外，“標(biāo)識(shí)辦法”中明確，服務(wù)提供者應(yīng)當(dāng)在用戶服務(wù)協(xié)議中明確說明生成合成內(nèi)容標(biāo)識(shí)的方法、樣式等規(guī)范內(nèi)容，并提示用戶仔細(xì)閱讀并理解相關(guān)的標(biāo)識(shí)管理要求。
細(xì)化追責(zé)內(nèi)容
劃定AI治理紅線
“標(biāo)識(shí)辦法”要求，用戶使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當(dāng)主動(dòng)聲明并使用服務(wù)提供者提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)。任何組織和個(gè)人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識(shí)，不得為他人實(shí)施上述惡意行為提供工具或者服務(wù)，不得通過不正當(dāng)標(biāo)識(shí)手段損害他人合法權(quán)益。
另外，法學(xué)專家認(rèn)為，“標(biāo)識(shí)辦法”的施行實(shí)際上并不是AI內(nèi)容治理的終極手段，而是更符合當(dāng)下我國(guó)人工智能發(fā)展階段的治理方法。
中國(guó)人民大學(xué)未來法治研究院執(zhí)行院長(zhǎng)張吉豫介紹，如果按照這樣的規(guī)范，它其實(shí)是可以更好地去幫助相應(yīng)的生成的內(nèi)容被識(shí)別，并且被檢測(cè)和標(biāo)識(shí)，能夠塑造更好的、可信的空間。當(dāng)然現(xiàn)在的技術(shù)發(fā)展還需要不斷地前進(jìn)，所以我們可能也會(huì)隨著技術(shù)的發(fā)展，相信還有更進(jìn)一步的一些具體的措施，或者具體的標(biāo)準(zhǔn)未來會(huì)進(jìn)一步推行。
據(jù)央視新聞
（審核：歐云海）
