新聞1+1丨AI亂象治理 要“打假”也要能“辨真”

　　AI仿冒孫穎莎、王楚欽、全紅嬋帶貨，打的是什么算盤？一條評論引發(fā)全國首例AI誤判案，創(chuàng)作者如何自證“我不是AI”？當(dāng)技術(shù)應(yīng)用的門檻越來越低，當(dāng)內(nèi)容檢測的難度越來越大，AI亂象治理，如何加速加力？《新聞1+1》連線中國社會科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春、北京互聯(lián)網(wǎng)法院綜合審判一庭法官張倩，共同分析解讀。

　　01

　　AI仿冒奧運冠軍聲音帶貨

　　法律上怎么看？

　　短視頻平臺上，奧運冠軍全紅嬋、孫穎莎、王楚欽的聲音都遭遇了仿冒，被用來帶貨土雞蛋。這種行為在法律上怎么去界定？面臨哪些法律責(zé)任？

　　中國社會科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任 劉曉春：借用知名運動員的聲音，或者叫盜用這個聲音去帶貨，法律上至少有兩個層面的問題。第一是對運動員人格權(quán)益的侵犯，比如聲音權(quán)的侵犯。第二對公眾來說，比如粉絲、購買雞蛋的消費者，實際上是有一個誤導(dǎo)、虛假宣傳，甚至是欺詐存在的。

　　盜用名人的聲音構(gòu)成虛假宣傳，可能市場監(jiān)管部門需要去追究他行政上的責(zé)任。

　　盜用名人的聲音去散播謠言，有可能達到刑事責(zé)任，會觸犯刑法。

　　我國《民法典》當(dāng)中明確規(guī)定了聲音權(quán)，盜用別人的聲音會導(dǎo)致對其人格權(quán)益的侵犯，從而要去承擔(dān)相應(yīng)的民事責(zé)任。

　　02

　　盜用聲音進行正能量宣傳

　　可以嗎？

　　另一個視頻用了白巖松的聲音，既也沒有帶貨，也沒有謀利，只是進行一種正能量的宣傳，這樣做可不可以？

　　劉曉春：這樣做看起來沒有什么傷害，只是傷害到了當(dāng)事人的人格權(quán)益，但也會誤導(dǎo)公眾。如果一個“新聞”用白老師的聲音來播，大家會覺得它很可靠，肯定就是真的新聞。包括用名人的聲音去做科普，大家會誤以為這個科普的權(quán)威性比它應(yīng)該有的更高。所以整體上對用戶、公眾有一個誤導(dǎo)，對他們的認(rèn)知會產(chǎn)生一個不同方向的引導(dǎo)，還是有危害性的。

　　03

　　9月要施行的辦法

　　能解決什么問題？

　　《人工智能生成合成內(nèi)容標(biāo)識辦法》將于今年9月1日起施行，這個辦法能夠解決什么樣的問題？

　　劉曉春：這個辦法有一個非常明顯的特點，把治理的方式往前端移了?？紤]到大家事后再去起訴的成本太高，這個辦法是說，AI軟件在生成內(nèi)容的時候，要強制給這個文件打上標(biāo)。打上以文字、聲音、圖形等方式呈現(xiàn)的顯式標(biāo)識，提示它是AI生成的；或者采取技術(shù)措施在數(shù)據(jù)中添加隱式標(biāo)識，大家可能看不見，但是平臺包括公眾可以有比較方便的方式，識別出它是AI生成的。

　　04

　　原創(chuàng)作品被判定為AI生成

　　法院判了

　　網(wǎng)友李先生發(fā)布的評論被平臺判定因“包含AI生成內(nèi)容但未標(biāo)識”而違規(guī)，李先生人工復(fù)核無果后將平臺告上了法庭。這也是全國首例平臺運用算法工具進行AI生成合成內(nèi)容檢測識別引發(fā)的案件。

　　最終北京互聯(lián)網(wǎng)法院判定原告李先生勝訴，但沒有認(rèn)定內(nèi)容是原創(chuàng)還是AI，而是認(rèn)定被告平臺沒有對算法決策依據(jù)和結(jié)果進行適度的解釋和說明，在沒有事實依據(jù)的情況下對用戶進行了處理，應(yīng)承擔(dān)違約責(zé)任。

　　北京互聯(lián)網(wǎng)法院綜合審判一庭法官張倩介紹，這個案件法院首先肯定了平臺審核的正當(dāng)性。對AI生成合成內(nèi)容進行標(biāo)記，既有利于公眾準(zhǔn)確區(qū)分AI生成合成內(nèi)容和人類創(chuàng)作內(nèi)容，滿足公眾的知情權(quán)，也便利平臺通過標(biāo)識追溯內(nèi)容來源，明確責(zé)任主體，降低侵權(quán)、違法犯罪等社會風(fēng)險。

　　但本案也同時強調(diào)，平臺應(yīng)當(dāng)就其判定結(jié)果進行充分的舉證和說明，尤其是有義務(wù)對平臺算法決策的過程和結(jié)果進行相應(yīng)的解釋。這涉及舉證責(zé)任分配的問題。對于像涉案這種簡短的網(wǎng)絡(luò)即時創(chuàng)作內(nèi)容，創(chuàng)作主體基本上都是在線編輯之后立即發(fā)布，很少會保留創(chuàng)作底稿、原件這些證據(jù)。所以很難要求本案的原告舉證證明內(nèi)容是由人類創(chuàng)作的。

　　但是平臺是算法工具的掌控方，以及這個結(jié)果的判斷方，有能力也有義務(wù)對算法工具的運算過程和審查結(jié)果進行充分解釋說明。當(dāng)然，這也并不是要求平臺把和算法相關(guān)的全部內(nèi)容，甚至是技術(shù)秘密都披露出來。而是要求平臺就涉案內(nèi)容AI判定相關(guān)的算法運行機制，進行必要的、可以為一般公眾理解的解釋說明。本案被告敗訴，就是因為法院認(rèn)定被告沒有盡到這樣的解釋說明義務(wù)。

　　05

　　涉AI糾紛有哪些特點？

　　近年來AI亂象導(dǎo)致的一些糾紛，有哪些趨勢或者特點？主要集中在什么方面？

　　張倩：近兩年北京互聯(lián)網(wǎng)法院受理的涉AI糾紛，絕對數(shù)量仍然不多，但是也確實呈現(xiàn)出明顯的增多趨勢，并且涉及各種各樣的案件類型。占比較大的幾類案件是：

　　涉AI的人格權(quán)糾紛，比如AI聲音權(quán)案、AI換臉案、AI陪伴案、AI惡搞案等，都涉及使用AI軟件侵害他人的肖像權(quán)、名譽權(quán)、聲音權(quán)、個人信息權(quán)益等人格權(quán)利或者權(quán)益的問題。

　　涉AI的著作權(quán)糾紛，涉及使用AI軟件生成的圖片視頻等是不是構(gòu)成作品，以及未經(jīng)許可使用他人利用AI軟件生成的前述內(nèi)容，是否侵害著作權(quán)的問題。或者涉及AI大模型使用他人作品進行訓(xùn)練是否構(gòu)成侵權(quán)的問題。

　　像本案這類合同糾紛，存在合同關(guān)系的雙方之間，比如平臺和用戶，由于一方使用了AI技術(shù)所引發(fā)的糾紛。

　　北京互聯(lián)網(wǎng)法院受理案件的情況充分反映出來，近兩年我國AI技術(shù)確實處在一個高速發(fā)展，而且應(yīng)用場景不斷豐富的階段。對于法院來說，樹立既有利于AI技術(shù)發(fā)展，又有助于當(dāng)事人權(quán)益保護的裁判規(guī)則，是一個非常大的挑戰(zhàn)。

　　來源：央視新聞客戶端