《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》從今年9月1日起將正式施行，“標(biāo)識(shí)辦法”提出強(qiáng)制添加顯式和隱式標(biāo)識(shí)等規(guī)范要求，所有AI生成的文字、圖片、視頻等內(nèi)容，都要“亮明身份”，再也不能偷偷摸摸“以假亂真”了！那么，AI生成合成的內(nèi)容標(biāo)識(shí)由誰(shuí)來(lái)添加？該怎么添加呢？對(duì)那些利用AI工具進(jìn)行虛假信息傳播的“營(yíng)銷(xiāo)號(hào)”能起到遏制作用嗎？
專家解讀：
AI生成內(nèi)容要“亮明身份”
據(jù)中國(guó)人民大學(xué)未來(lái)法治研究院執(zhí)行院長(zhǎng)張吉豫介紹，“標(biāo)識(shí)辦法”明確了相關(guān)主體的責(zé)任義務(wù)，包括服務(wù)提供者需在內(nèi)容生成、傳播、下載等環(huán)節(jié)確保標(biāo)識(shí)完整，互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)需審核應(yīng)用是否合規(guī)添加標(biāo)識(shí)，個(gè)人用戶發(fā)布生成內(nèi)容時(shí)需要主動(dòng)聲明。
中國(guó)人民大學(xué)未來(lái)法治研究院執(zhí)行院長(zhǎng) 張吉豫：它也是對(duì)隱式標(biāo)識(shí)進(jìn)行了具體細(xì)化，特別說(shuō)明了在目前的技術(shù)情況下，至少要對(duì)這種文件的元數(shù)據(jù)進(jìn)行標(biāo)識(shí)，就是在文件中進(jìn)行描述的數(shù)據(jù)，用戶看不到，這樣隱式標(biāo)識(shí)就不影響用戶的使用，又起到了標(biāo)識(shí)重要信息的作用。那么對(duì)于一些比如說(shuō)可能引起公眾的混淆，甚至比較重要的誤解的這樣的一些重要的內(nèi)容就需要去添加顯式的標(biāo)識(shí)。
據(jù)張吉豫介紹，針對(duì)個(gè)人用戶借助AI進(jìn)行文字創(chuàng)作時(shí)，如果不存在侵犯?jìng)€(gè)人、企業(yè)、社會(huì)等主體利益的情況下，用戶則不需進(jìn)行專門(mén)的標(biāo)識(shí)。但是，如果借助AI生成的文字內(nèi)容涉及模仿某人的話語(yǔ)表達(dá)、模仿媒體進(jìn)行新聞發(fā)布，或者模仿政府部門(mén)發(fā)布相關(guān)公告等，這些容易讓人對(duì)客觀事實(shí)產(chǎn)生誤解、混淆的內(nèi)容，都必須進(jìn)行顯式標(biāo)識(shí)。
張吉豫介紹，現(xiàn)在人工智能技術(shù)還都在發(fā)展，相應(yīng)的檢測(cè)風(fēng)險(xiǎn)防范的技術(shù)還在發(fā)展中，所以目前來(lái)講，我們也不能說(shuō)它是一個(gè)終極的辦法，只能說(shuō)其實(shí)是在現(xiàn)在的技術(shù)條件之下采取的一個(gè)考慮到發(fā)展應(yīng)用與安全風(fēng)險(xiǎn)防控，相平衡的這樣的一種目前階段比較良好的辦法。
將對(duì)行業(yè)和個(gè)人用戶產(chǎn)生哪些影響？
據(jù)記者了解，截至2024年12月31日，我國(guó)已經(jīng)有302款生成式人工智能服務(wù)在國(guó)家網(wǎng)信辦完成備案；生成式人工智能產(chǎn)品的用戶規(guī)模達(dá)2.3億人。那么，“標(biāo)識(shí)辦法”的施行會(huì)對(duì)行業(yè)、個(gè)人用戶，以及相關(guān)技術(shù)的發(fā)展帶來(lái)哪些影響呢？為什么要在半年之后才施行呢？我們繼續(xù)聽(tīng)聽(tīng)專家的解讀。
據(jù)專家介紹，在“標(biāo)識(shí)辦法”的要求下，標(biāo)識(shí)的存在也會(huì)對(duì)大規(guī)模搬運(yùn)人工智能直接生成內(nèi)容的行為進(jìn)行攔截，讓內(nèi)容平臺(tái)有了更明確的合規(guī)要求和管理程序，有利于降低總體的審核運(yùn)營(yíng)成本。
張吉豫表示，對(duì)于整個(gè)網(wǎng)絡(luò)空間、數(shù)字空間內(nèi)容的真實(shí)性會(huì)有更大的促進(jìn)，那也是我們的自媒體可以利用人工智能技術(shù)去使得自己視頻更加出彩，但是不要用它們?nèi)ブ圃煲恍┨摷俚男侣剚?lái)博得眼球，所以是引導(dǎo)廣大的自媒體可以更積極地利用人工智能技術(shù)。
專家介紹，“標(biāo)識(shí)辦法”的施行有利于公平競(jìng)爭(zhēng)和有效管理：
強(qiáng)制“標(biāo)識(shí)”有利于保護(hù)傳統(tǒng)內(nèi)容產(chǎn)業(yè)，能在一定程度上降低AI技術(shù)帶來(lái)的沖擊；
通過(guò)標(biāo)識(shí)可以追溯AI生成內(nèi)容的來(lái)源，減少因AI生成內(nèi)容引發(fā)的侵權(quán)、詐騙等問(wèn)題，維護(hù)個(gè)人隱私和財(cái)產(chǎn)安全。
據(jù)記者了解，作為我國(guó)人工智能領(lǐng)域首部“辦法+強(qiáng)標(biāo)”的組合拳，強(qiáng)制性的國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》將于9月1日與《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》同步施行。
張吉豫介紹，在內(nèi)容生成方這一點(diǎn)，它既需要去進(jìn)行顯著的標(biāo)識(shí)和一些隱性的標(biāo)識(shí)，同時(shí)它也要為用戶去提供加入顯著標(biāo)識(shí)，同時(shí)因?yàn)檗k法里面也要求了傳播平臺(tái)也需要去部署相應(yīng)的對(duì)標(biāo)識(shí)的檢測(cè)，所以這樣的一些技術(shù)措施的部署還是需要一定的時(shí)間準(zhǔn)備。(來(lái)源：央視新聞客戶端)