隨著生成式AI的爆發(fā)，社交媒體上的內(nèi)容越來(lái)越真假難辨。為規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)，近日，國(guó)家網(wǎng)信辦起草的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱(chēng)《辦法》），面向社會(huì)公開(kāi)征求意見(jiàn)。圍繞相關(guān)話題，法治網(wǎng)研究院近日邀請(qǐng)了南開(kāi)大學(xué)法學(xué)院副院長(zhǎng)陳兵教授、西南政法大學(xué)人工智能法學(xué)院院長(zhǎng)陳亮教授、華東政法大學(xué)國(guó)家安全研究院副院長(zhǎng)闕天舒教授、中國(guó)政法大學(xué)數(shù)據(jù)法治研究院張凌寒教授、《法治日?qǐng)?bào)》律師專(zhuān)家?guī)斐蓡T茍博程律師展開(kāi)了一場(chǎng)深度對(duì)談。

01 

法治網(wǎng)研究院：我們注意到，《辦法》要求， 在文本、圖片、音頻、視頻等應(yīng)用場(chǎng)景，要對(duì)人工智能生成合成內(nèi)容添加顯著的提示標(biāo)識(shí)。通俗地講，就是要給人工智能生成合成內(nèi)容打上“專(zhuān)屬水印”。在您看來(lái)，當(dāng)前人工智能生成合成內(nèi)容為什么迫切需要添加顯著的提示標(biāo)識(shí)？

陳亮：當(dāng)前，魚(yú)龍混雜、真假難辨的AI生成內(nèi)容的激增，引發(fā)人們對(duì)其透明度、真實(shí)性和誤導(dǎo)性的關(guān)注和憂(yōu)慮。充斥于各大網(wǎng)絡(luò)平臺(tái)的虛假AI生成內(nèi)容，正成為滋生民事侵權(quán)乃至刑事犯罪的溫床，也影響了消費(fèi)者與平臺(tái)之間的信任關(guān)系，進(jìn)而阻礙了人工智能產(chǎn)業(yè)的良性健康發(fā)展。

為AI生成內(nèi)容添加顯著提示標(biāo)識(shí)，提醒消費(fèi)者相關(guān)內(nèi)容的生成方式，提高消費(fèi)者的警惕性，可以大大降低AI生成內(nèi)容的欺騙、誤導(dǎo)乃至操縱等風(fēng)險(xiǎn)，搭建起平臺(tái)與受眾之間的信任紐帶，從而很好地平衡創(chuàng)新激勵(lì)與權(quán)利保護(hù)之間的緊張關(guān)系。

陳兵：自生成式人工智能技術(shù)廣泛應(yīng)用以來(lái)，大量AI生成內(nèi)容涌入賽博空間，在豐富網(wǎng)絡(luò)內(nèi)容、降低生產(chǎn)成本、增進(jìn)制作效率的同時(shí)，也引發(fā)了大量的數(shù)據(jù)污染、內(nèi)容造假、知識(shí)產(chǎn)權(quán)侵權(quán)、利用生成內(nèi)容進(jìn)行詐騙、無(wú)底線博流量等一系列亂象。

對(duì)人工智能生成合成內(nèi)容添加顯著的提示標(biāo)識(shí)，首先，能夠給予內(nèi)容受眾區(qū)分AI生成合成內(nèi)容與人類(lèi)創(chuàng)作內(nèi)容的能力，保障公眾知情權(quán)；其次，有助于壓實(shí)相關(guān)主體責(zé)任，防范虛假信息的傳播，營(yíng)造清朗的網(wǎng)絡(luò)空間；最終，能夠促進(jìn)人工智能技術(shù)的透明度與可信度的提升，確保人工智能實(shí)現(xiàn)堅(jiān)持高質(zhì)量發(fā)展與高水平安全良性互動(dòng)。

闕天舒：人工智能生成內(nèi)容亦真亦假、難以辨別，一些深度偽造的信息容易以假亂真，干擾人們的正常判斷。

從消費(fèi)者權(quán)益保護(hù)的角度，對(duì)人工智能生成內(nèi)容進(jìn)行標(biāo)識(shí)是履行產(chǎn)品信息披露義務(wù)、保障消費(fèi)者知情權(quán)的具體體現(xiàn)。從知識(shí)產(chǎn)權(quán)保護(hù)的角度，對(duì)人工智能生成內(nèi)容進(jìn)行標(biāo)識(shí)是緩和生成作品產(chǎn)權(quán)歸屬爭(zhēng)論、促進(jìn)人工智能創(chuàng)作物市場(chǎng)構(gòu)建的關(guān)鍵路徑。從人工智能治理的角度，對(duì)人工智能生成內(nèi)容進(jìn)行標(biāo)識(shí)是提升人工智能透明度、增強(qiáng)算法可解釋性的重要方式。

張凌寒：隨著生成內(nèi)容越來(lái)越逼真，人們?cè)谝话闵鐣?huì)生活中已經(jīng)難以辨別其真?zhèn)?。生成式人工智能可能被用于傳播虛假信息、侮辱誹謗、詐騙甚至更嚴(yán)重的違法犯罪活動(dòng)中。

對(duì)人工智能生成合成內(nèi)容添加標(biāo)識(shí)，一方面提示受眾保持謹(jǐn)慎，避免輕信誤信和隨意轉(zhuǎn)發(fā)；另一方面還可用于確認(rèn)內(nèi)容來(lái)源，便于界定責(zé)任范圍，是對(duì)人工智能監(jiān)管問(wèn)責(zé)制度的重要補(bǔ)充。

02

法治網(wǎng)研究院：近年來(lái)，人工智能生成合成內(nèi)容獲得快速發(fā)展，給人們的生產(chǎn)生活帶來(lái)極大便利和優(yōu)質(zhì)體驗(yàn)。與此同時(shí)，利用AI實(shí)施詐騙、侵權(quán)等違法犯罪的數(shù)量也在明顯增加。您認(rèn)為，對(duì)于人工智能生成合成內(nèi)容的服務(wù)提供者、互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)而言，應(yīng)當(dāng)如何對(duì)照《辦法》的相關(guān)內(nèi)容，進(jìn)一步做好合規(guī)工作？

張凌寒：對(duì)于內(nèi)容服務(wù)平臺(tái)，內(nèi)容標(biāo)識(shí)義務(wù)至少包括兩個(gè)重要方面：一是明確標(biāo)識(shí)所采用的技術(shù)方案，確保標(biāo)識(shí)包含《辦法》所要求的各類(lèi)信息。

二是建立相應(yīng)的標(biāo)識(shí)識(shí)別、核驗(yàn)機(jī)制，引導(dǎo)、敦促用戶(hù)主動(dòng)聲明上傳的生成內(nèi)容并使用平臺(tái)提供的標(biāo)識(shí)工具，還應(yīng)對(duì)用戶(hù)上傳的內(nèi)容及其標(biāo)識(shí)情況進(jìn)行核驗(yàn)，確保生成內(nèi)容始終處于被標(biāo)識(shí)狀態(tài)。應(yīng)用程序分發(fā)平臺(tái)則需要制定核驗(yàn)服務(wù)提供者標(biāo)識(shí)功能的規(guī)程，確保程序上線時(shí)標(biāo)識(shí)功能的正常運(yùn)行。

茍博程：面對(duì)《辦法》即將頒布實(shí)施的現(xiàn)實(shí)，服務(wù)提供者和互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)應(yīng)積極部署合規(guī)措施。

首先，完善技術(shù)手段，確保所有AI生成的文本、圖片、音頻、視頻內(nèi)容均添加顯著的提示標(biāo)識(shí)或“水印”。其次，建立和健全內(nèi)容審核機(jī)制，實(shí)時(shí)監(jiān)控和過(guò)濾可能存在的違法違規(guī)內(nèi)容。最后，加強(qiáng)用戶(hù)教育，提醒用戶(hù)辨別AI生成內(nèi)容，防范潛在風(fēng)險(xiǎn)。同時(shí)，積極與監(jiān)管部門(mén)溝通，及時(shí)了解和適應(yīng)政策變化，確保平臺(tái)運(yùn)營(yíng)合法合規(guī)。

03

法治網(wǎng)研究院：目前，《辦法》正處于面向社會(huì)公開(kāi)征求意見(jiàn)階段。對(duì)于《辦法》，您最想提的建議和意見(jiàn)是什么？

陳兵：《辦法》既是對(duì)服務(wù)提供者自我合規(guī)的指引，也是對(duì)監(jiān)管部門(mén)提供的監(jiān)管要求及監(jiān)管規(guī)則。因此，《辦法》對(duì)于標(biāo)注方式的規(guī)定應(yīng)當(dāng)做到清晰、明確，具有可及性與可操作性。

對(duì)于顯示標(biāo)識(shí)而言，《辦法》第四條雖然對(duì)顯示標(biāo)識(shí)的應(yīng)用場(chǎng)景與添加位置進(jìn)行了明確規(guī)定，但目前尚缺乏對(duì)于標(biāo)識(shí)具體的位置、字形、表達(dá)、標(biāo)定時(shí)間等具體信息予以詳細(xì)規(guī)定；對(duì)于隱性標(biāo)識(shí)而言，數(shù)字水印等技術(shù)存在技術(shù)差異與多平臺(tái)兼容，這方面《辦法》也需要對(duì)技術(shù)標(biāo)準(zhǔn)與兼容性進(jìn)行要求。當(dāng)然，這個(gè)有關(guān)技術(shù)標(biāo)準(zhǔn)及兼容性，特別是技術(shù)上的可兼容與商業(yè)場(chǎng)景下的兼容性還有不同內(nèi)涵，若想明確在《辦法》中規(guī)定，客觀上也確實(shí)存在一定困難。然而，這個(gè)問(wèn)題在推動(dòng)整個(gè)《辦法》的實(shí)效性上卻是非常重要的，必須予以重視。我建議，可以考慮做好轉(zhuǎn)引條款的設(shè)計(jì)，至少提供下一步解決的預(yù)留接口。

陳亮：內(nèi)容標(biāo)簽往往通過(guò)兩種路徑來(lái)降低人工智能可能帶來(lái)的風(fēng)險(xiǎn)：一是關(guān)注生成內(nèi)容的技術(shù)流程，旨在向用戶(hù)傳達(dá)特定內(nèi)容的生成方式，而對(duì)生成內(nèi)容的潛在危害不予置評(píng)；二是關(guān)注生成內(nèi)容的潛在危害，而對(duì)生成內(nèi)容的技術(shù)流程不予置評(píng)。

《辦法》更多的是采用第一種方式，從而對(duì)生成內(nèi)容對(duì)平臺(tái)用戶(hù)或整個(gè)社會(huì)的潛在影響持不可知論的態(tài)度，這無(wú)疑加重了用戶(hù)認(rèn)知負(fù)擔(dān)，對(duì)用戶(hù)的認(rèn)知模式和認(rèn)知能力提出了一定挑戰(zhàn)。我建議，進(jìn)一步增加有關(guān)生成內(nèi)容潛在危害的標(biāo)識(shí)，以減輕用戶(hù)因認(rèn)知模式和認(rèn)知能力局限而無(wú)法研判AI生成內(nèi)容潛在影響所帶來(lái)的決策偏差或決策失誤。

闕天舒：在標(biāo)識(shí)方式上，《辦法》區(qū)分了隱式標(biāo)識(shí)和顯式標(biāo)識(shí)。關(guān)于隱式標(biāo)識(shí)，依照《辦法》規(guī)定，似乎所有情形下均應(yīng)添加。我認(rèn)為這方面有待商榷，應(yīng)當(dāng)明確特殊情況下無(wú)需進(jìn)行隱式標(biāo)識(shí)的情形。比如，生成來(lái)源絕對(duì)可靠時(shí)，就沒(méi)必要進(jìn)行標(biāo)識(shí)。關(guān)于顯式標(biāo)識(shí)，我認(rèn)為，針對(duì)一些特殊領(lǐng)域的人工智能生成場(chǎng)景，不僅要標(biāo)識(shí)“人工智能生成內(nèi)容”，還要作一些指引性的提示。比如，當(dāng)生成內(nèi)容涉及政治、軍事、法律、醫(yī)學(xué)、倫理等專(zhuān)業(yè)領(lǐng)域時(shí)，應(yīng)當(dāng)特別提示服務(wù)使用者咨詢(xún)專(zhuān)業(yè)人士意見(jiàn)。

專(zhuān)家簡(jiǎn)介

陳亮

西南政法大學(xué)人工智能法學(xué)院院長(zhǎng)、教授、博士生導(dǎo)師，中國(guó)法學(xué)會(huì)環(huán)境與資源法學(xué)研究會(huì)常務(wù)理事，文化和旅游部法治專(zhuān)家委員會(huì)委員

陳兵

南開(kāi)大學(xué)法學(xué)院副院長(zhǎng)、教授、博士生導(dǎo)師，中國(guó)新一代人工智能發(fā)展戰(zhàn)略研究院特約研究員，中國(guó)法學(xué)會(huì)經(jīng)濟(jì)法學(xué)研究會(huì)常務(wù)理事

闕天舒

華東政法大學(xué)中國(guó)法治戰(zhàn)略研究院黨總支副書(shū)記、副院長(zhǎng)，國(guó)家安全研究院副院長(zhǎng)，教授、博士生導(dǎo)師，專(zhuān)注人工智能時(shí)代的國(guó)家安全治理、全球數(shù)據(jù)安全治理等領(lǐng)域研究

張凌寒

中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授、博士生導(dǎo)師，中國(guó)法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)理事

茍博程

北京市康達(dá)律師事務(wù)所高級(jí)合伙人，《法治日?qǐng)?bào)》律師專(zhuān)家?guī)斐蓡T

選題策劃｜法治網(wǎng)研究院

文｜沈若水

監(jiān)制｜余瀛波