國(guó)家互聯(lián)網(wǎng)信息辦公室等4部門近日聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，自2025年9月1日起施行。這意味著，屆時(shí)所有AI作品必須亮明身份，標(biāo)注是AI生成。該《辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識(shí)”關(guān)鍵點(diǎn)，為破解“AI造假”困局提供了依據(jù)。
近年來(lái)，人工智能大模型快速發(fā)展，為人們提供了便利工具，但在促進(jìn)經(jīng)濟(jì)社會(huì)發(fā)展的同時(shí)，也帶來(lái)了技術(shù)濫用的問(wèn)題。AI技術(shù)降低虛假視頻制作成本，被用來(lái)偽造明星代言、偽造科學(xué)家?guī)ж洠屌可a(chǎn)、快速傳播、收割變現(xiàn)、注銷換殼的欺詐營(yíng)銷快速形成閉環(huán)。為了吸引流量、快速起號(hào)，“深度合成工廠”利用AI技術(shù)批量生產(chǎn)虛假信息，獵奇、極端、煽動(dòng)情緒的假新聞充斥互聯(lián)網(wǎng)，令公眾真假難辨。
當(dāng)AI作品深入千家萬(wàn)戶時(shí)，AI生成內(nèi)容的以假亂真就會(huì)帶來(lái)社會(huì)信任危機(jī)。《辦法》的出臺(tái)正當(dāng)其時(shí)，本質(zhì)上是一場(chǎng)重建人機(jī)信任的“革命”。當(dāng)AI學(xué)會(huì)為自己的作品署名，人類才能安心與之共舞。
《辦法》從三重維度筑牢治理防線，重點(diǎn)解決“哪些是生成的”“誰(shuí)生成的”“從哪里生成的”等關(guān)鍵問(wèn)題，實(shí)現(xiàn)全流程安全治理。
在技術(shù)層面，明確研發(fā)者的“身份編碼”義務(wù)。
《辦法》明確服務(wù)提供者應(yīng)當(dāng)對(duì)文本、音頻、圖片、視頻、虛擬場(chǎng)景等生成合成內(nèi)容添加顯式標(biāo)識(shí)，應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)。這相當(dāng)于為每件AI作品頒發(fā)“數(shù)字身份證”，既便于監(jiān)管部門溯源追責(zé)，也倒逼企業(yè)將倫理設(shè)計(jì)嵌入技術(shù)底層，實(shí)現(xiàn)生成式AI的全生命周期標(biāo)識(shí)管理。
在平臺(tái)層面，壓實(shí)內(nèi)容分發(fā)者的“身份查驗(yàn)”責(zé)任。
《辦法》對(duì)內(nèi)容分發(fā)平臺(tái)的責(zé)任也作出詳細(xì)規(guī)定。按要求，內(nèi)容分發(fā)平臺(tái)要核驗(yàn)文件元數(shù)據(jù)中是否含有隱式標(biāo)識(shí)，必須采取措施對(duì)AI生成內(nèi)容進(jìn)行標(biāo)識(shí)。此前，我國(guó)已有多個(gè)社交平臺(tái)試點(diǎn)“AI內(nèi)容防火墻”，提高虛假信息攔截率。未來(lái)，隨著《辦法》的實(shí)施，“源頭標(biāo)注+平臺(tái)攔截”的雙重機(jī)制，將重塑網(wǎng)絡(luò)空間的信任生態(tài)。
在公眾層面，激活社會(huì)監(jiān)督的“身份認(rèn)知”意識(shí)。
人工智能工具普及化，讓每個(gè)用戶都可能成為虛假內(nèi)容的制作者和受害者。依據(jù)《辦法》規(guī)定，用戶發(fā)布AI生成合成內(nèi)容時(shí)應(yīng)該主動(dòng)標(biāo)識(shí)，任何組織和個(gè)人不得惡意刪除、篡改、偽造、隱匿這些內(nèi)容標(biāo)識(shí)。可以想見(jiàn)，對(duì)公眾而言，未來(lái)刷視頻時(shí)先找“AI身份證”，會(huì)像過(guò)去買商品時(shí)看生產(chǎn)日期一樣自然。而當(dāng)人人都是“鑒定師”時(shí)，AI作品自然無(wú)處匿名。
當(dāng)然，打造可信賴的人工智能技術(shù)并非一日之功。比如，《辦法》中提到的隱式標(biāo)識(shí)，在技術(shù)上能否被規(guī)避和移除？這還需要更多企業(yè)加強(qiáng)對(duì)人工智能安全的投入與研究，以合理成本提高系統(tǒng)安全性。
AI產(chǎn)業(yè)正在蓬勃生長(zhǎng)。統(tǒng)計(jì)報(bào)告顯示，我國(guó)人工智能企業(yè)數(shù)量超4500家，核心產(chǎn)業(yè)規(guī)模已接近6000億元。截至2024年12月，我國(guó)有2.49億人表示自己使用過(guò)生成式人工智能產(chǎn)品，占整體人口的17.7%。
AI技術(shù)進(jìn)步和AI安全治理是“一體兩面”，科技之光投射在合乎倫理的鏡面上，才能照亮更長(zhǎng)遠(yuǎn)的未來(lái)。讓AI生成內(nèi)容亮明身份，是科技向善的強(qiáng)制約束，是享利避害的制度設(shè)計(jì)。標(biāo)識(shí)制度的施行，將為AI技術(shù)鋪設(shè)可持續(xù)發(fā)展的軌道，讓人工智能更好地服務(wù)于人類社會(huì)。 （本文來(lái)源：經(jīng)濟(jì)日?qǐng)?bào) 作者：佘惠敏）
