每經(jīng)編輯 程鵬    

雷軍又上熱搜了！

這一次是因?yàn)槔总娡虏廴ツ陣?guó)慶時(shí)曾遭“AI語音雷軍”的惡搞，導(dǎo)致不少網(wǎng)友稱國(guó)慶有7天假，卻被“AI語音雷軍”整整罵了8天。

另一個(gè)熱搜卻是雷軍表示，小米曾遭造謠被證監(jiān)會(huì)調(diào)查導(dǎo)致股價(jià)下跌。

對(duì)于這兩件事，小編搜尋相關(guān)社交平臺(tái)發(fā)現(xiàn)，目前不少相關(guān)信息依然存在。

雷軍發(fā)聲：本人也曾是“受害者”

3月8日下午，十四屆全國(guó)人大三次會(huì)議北京市代表團(tuán)召開代表小組會(huì)議。會(huì)上，談到人工智能技術(shù)引發(fā)的問題，全國(guó)人大代表，小米集團(tuán)創(chuàng)始人、董事長(zhǎng)兼CEO雷軍談起自己被AI換臉擬聲的“受害經(jīng)歷”。

圖片來源：視覺中國(guó)

他表示，這兩年人工智能技術(shù)快速突破以后，出現(xiàn)了很多老百姓喜聞樂見的應(yīng)用，比如AI換臉、擬聲等，但任何一個(gè)人的臉和聲音都能輕松被用來做各種視頻，成了新的違法重災(zāi)區(qū)。

雷軍結(jié)合自身經(jīng)歷說：“去年‘十一’，有網(wǎng)友說過了7天假，被我整整罵了8天，剛開始我覺得網(wǎng)民拿我開涮我也能接受。但這類內(nèi)容增多且質(zhì)量低劣，多到不得了的時(shí)候，防不勝防，網(wǎng)友也紛紛投訴。”

雷軍表示，當(dāng)他想通過法律維權(quán)時(shí)，卻發(fā)現(xiàn)對(duì)此沒有專門的立法，只能用隱私權(quán)、肖像權(quán)、名譽(yù)權(quán)等法律起訴，而這些都要量化損失。“在網(wǎng)上被罵8天，損失根本沒法量化。”雷軍說。

雷軍在發(fā)言中呼吁，人工智能技術(shù)興起以后產(chǎn)生了很多新問題，相關(guān)部門要提前預(yù)判，提前立法。

小編在部分社交平臺(tái)上發(fā)現(xiàn)，有關(guān)“AI語音雷軍”罵人的短視頻依然存在。

雷軍本人在去年10月時(shí)也曾發(fā)布了相關(guān)澄清視頻，他在視頻中表示，這讓他本人也十分困擾，也挺不舒服，他希望網(wǎng)友們都不要玩了。但他同時(shí)也表示，雖然他本人非常困擾于此，但他仍然認(rèn)為AI是非常好的技術(shù)，也非常實(shí)用。

針對(duì)網(wǎng)絡(luò)造謠和水軍問題，雷軍在3月8日的會(huì)上表示，他和公司作為受到網(wǎng)絡(luò)造謠和水軍等困擾的受害者，通過現(xiàn)有的法律進(jìn)行打擊和維權(quán)其實(shí)相當(dāng)困難。他舉例，從維權(quán)實(shí)踐看，公司被誹謗很難適用于誹謗罪；而損害商業(yè)信譽(yù)、商品聲譽(yù)罪，直接經(jīng)濟(jì)損失要50萬元起才夠立案標(biāo)準(zhǔn)；非法經(jīng)營(yíng)罪，要證明水軍公司的違法所得5萬元以上，也難舉證；尋釁滋事罪，在司法實(shí)踐中要造成現(xiàn)實(shí)的社會(huì)秩序混亂。

“幾年前有自媒體造謠說小米公司被證監(jiān)會(huì)查了，我們股票跌了8%，當(dāng)天相關(guān)部門還幫我們辟謠，但我沒辦法舉證造成了50萬元的損失，因?yàn)楣善辈▌?dòng)原因很多。”雷軍呼吁，應(yīng)針對(duì)性加強(qiáng)立法工作，有力打擊網(wǎng)絡(luò)造謠和水軍的不當(dāng)行為。

雷軍建議加強(qiáng)“AI換臉擬聲”

違法侵權(quán)重災(zāi)區(qū)治理

在今年兩會(huì)，雷軍為此還專門提出了一項(xiàng)關(guān)于加強(qiáng)“AI換臉擬聲”違法侵權(quán)重災(zāi)區(qū)治理的建議。

全國(guó)人大代表雷軍接受媒體采訪。圖片來源：新華社

雷軍表示，近年來，在政策引導(dǎo)、技術(shù)突破和產(chǎn)業(yè)應(yīng)用的多重驅(qū)動(dòng)下，我國(guó)人工智能發(fā)展成就裴然，不斷提質(zhì)加速，已經(jīng)深入到人民群眾生活的各個(gè)方面。其中，人工智能(AI)深度合成技術(shù)的快速發(fā)展，推動(dòng)了“AI換臉擬聲”在影視、廣告、社交等領(lǐng)域廣泛興起，成為社會(huì)喜聞樂見、傳播力強(qiáng)、易成熱點(diǎn)的技術(shù)應(yīng)用。

雷軍指出，但同時(shí)也看到，“AI換臉擬聲”不當(dāng)濫用造成了違法侵權(quán)行為的重災(zāi)區(qū)，易引發(fā)侵犯肖像權(quán)、侵犯公民個(gè)人信息以及詐騙等犯罪行為，甚至造成難以挽回的大規(guī)模形象和聲譽(yù)損害，帶來社會(huì)治理等風(fēng)險(xiǎn)。AI深度合成技術(shù)所需素材獲取便利、技術(shù)使用門檻低、侵權(quán)主體及其手段隱蔽性強(qiáng)等特點(diǎn)，給治理帶來較大挑戰(zhàn)。

因此，雷軍給出了以下三項(xiàng)建議：

一、加快單行法立法進(jìn)程，在安全與發(fā)展并重的基礎(chǔ)上提升立法位階?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)已頒布實(shí)施，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法(征求意見稿)》完成社會(huì)意見征集對(duì)人工智能立法進(jìn)行了有益探索。但目前“AI換臉擬聲”的有關(guān)規(guī)定，尚存在效力位階偏低、內(nèi)容偏原則且分散、多個(gè)部門職責(zé)交叉或職權(quán)定位有待明晰等不足，導(dǎo)致現(xiàn)階段針對(duì)“AI換臉擬聲”造成的侵害，只能依靠基礎(chǔ)法律中關(guān)于隱私權(quán)、肖像權(quán)名譽(yù)權(quán)等的零散法條來規(guī)制。

建議針對(duì)“AI換臉擬聲”等某一代表性問題，探索推出人工智能單行法，提高立法位階及其效力，分級(jí)分類的基礎(chǔ)上進(jìn)行務(wù)實(shí)治理，明確“AI換臉擬聲”應(yīng)用邊界紅線，完善侵權(quán)證據(jù)規(guī)則，加大對(duì)利用人工智能技術(shù)實(shí)施犯罪行為的刑事處罰力度。與時(shí)俱進(jìn)探索新議題的細(xì)化監(jiān)管措施，凝聚人工智能倫理規(guī)范共識(shí)。

二、強(qiáng)化行業(yè)自律共治，壓實(shí)平臺(tái)企業(yè)等各方的責(zé)任和義務(wù)。人工智能生成合成全鏈條涉及軟件服務(wù)方、內(nèi)容制作者、網(wǎng)絡(luò)平臺(tái)、傳播用戶，以及金融服務(wù)商、電信運(yùn)營(yíng)商等角色，都是治理責(zé)任傳導(dǎo)鏈的重要主體。考慮到涉及的相關(guān)方多、區(qū)域分布廣散，通過技術(shù)和法律手段并重、監(jiān)督管理和自律自治兩手抓，以及加強(qiáng)跨區(qū)域、跨部門的協(xié)調(diào)聯(lián)動(dòng)有助于實(shí)現(xiàn)“事前預(yù)防、事中阻斷、事后打擊”的治理效果最大化。

建議支持平臺(tái)企業(yè)開發(fā)可精準(zhǔn)識(shí)別人工智能深度合成內(nèi)容的技術(shù)能力，創(chuàng)新直接有效的治理工具供給：加大人力物力投入，優(yōu)化升級(jí)通信軟件和內(nèi)容平臺(tái)巡查審核機(jī)制、投訴舉報(bào)機(jī)制、應(yīng)急處理機(jī)制。確保及時(shí)阻斷問題內(nèi)容傳播：鼓勵(lì)通過行業(yè)自律公約、先進(jìn)治理平臺(tái)獎(jiǎng)勵(lì)表彰、拓展跨境合作機(jī)制等舉措，培育行業(yè)自治動(dòng)力和共治價(jià)值，推動(dòng)形成可復(fù)制推廣的有益經(jīng)驗(yàn)。

三、加大普法宣傳的廣度力度，增強(qiáng)民眾的警惕性和鑒別力。人工智能生成合成內(nèi)容實(shí)現(xiàn)安全規(guī)范的生產(chǎn)、應(yīng)用、傳播,需要公眾建立起相應(yīng)法律意識(shí)，共同攜手筑牢安全防線。當(dāng)前，青少年對(duì)前沿技術(shù)應(yīng)用好奇心強(qiáng)，老年人數(shù)字素養(yǎng)欠缺，往往會(huì)成為“Al換臉擬聲”網(wǎng)絡(luò)陷阱鎖定的主要目標(biāo)，對(duì)其身心健康、財(cái)產(chǎn)安全以及社會(huì)穩(wěn)定造成負(fù)面影響，

建議加強(qiáng)人工智能方面的法制宣傳教育，引導(dǎo)公眾對(duì)“AI換臉擬聲”的侵權(quán)內(nèi)容通過正規(guī)渠道進(jìn)行舉報(bào)；加強(qiáng)公眾對(duì)個(gè)人人臉、聲音、指紋等生物信息的保護(hù),避免給犯罪分子提供便利素材。在社交媒體、短視頻平臺(tái)等“AI換臉擬聲”侵權(quán)行為的多發(fā)地以用戶能廣泛接觸、樂于接受的方式開展“破綻識(shí)別”技巧宣傳，提升用戶多渠道辨別內(nèi)容真實(shí)性的數(shù)字素養(yǎng)。聚焦重點(diǎn)人群,在中小學(xué)人工智能教材中加入倫理規(guī)范內(nèi)容,針對(duì)老年群體開展相關(guān)知識(shí)普及活動(dòng),在全社會(huì)夯實(shí)“以人為本、智能向善”的人工智能發(fā)展生態(tài)。

編輯|程鵬 杜恒峰

校對(duì)|陳柯名

封面圖片來源：視覺中國(guó)（資料圖）

每日經(jīng)濟(jì)新聞綜合自紅星新聞、證券時(shí)報(bào)等