全國兩會現場，靳東委員一紙《關於嚴管AI深度偽造技術濫用》的提案，24小時內斬獲超1800萬點贊，相關話題閱讀量突破8億。網友集體刷屏：”終於有人為普通人發聲！”這背後折射的，是全民對AI換臉黑產鏈條的深惡痛絕——從明星惡搞視頻到金融詐騙，從色情換臉到偽造證據，技術失控正在摧毀社會信任根基。

01

靳東兩會提案引熱議：AI換臉，該好好管管瞭！

最近兩會期間，演員靳東的一個提案，在網上掀起瞭軒然大波。他關註的是AI換臉亂象，沒想到這一提議，得到瞭千萬網友的怒贊，大傢紛紛表示：早該整治整治瞭！這AI換臉到底有多亂？為啥能引起這麼大的關註？咱今天就來嘮嘮。

02

說起AI換臉，簡單來講，就是利用人臉識別追蹤、面部特征提取這些技術，把一個人的臉換到另一個人臉上。在正常領域，它其實有不少用處。比如說在娛樂產業，能創造出各種新奇的動畫角色；在社交媒體上，也能給咱普通用戶帶來不少娛樂體驗，大傢玩玩換臉特效，樂一樂。

但誰能想到，這技術一跑偏，就帶來瞭大麻煩。

靳東在兩會上提到，有些喜歡他影視劇的觀眾，被AI換臉視頻騙得那叫一個慘。騙子用靳東的臉偽造視頻，去忽悠這些觀眾，讓他們損失慘重。想想這些觀眾，滿心喜歡著自己的偶像，結果就因為這假視頻，掉進瞭騙子的陷阱，真的是太讓人心疼瞭。

不光是靳東的粉絲遭殃，雷軍也成瞭“AI換臉擬聲”的受害者。網上突然冒出大量“雷軍AI配音”的惡搞視頻，到處傳播，這對雷軍的聲譽造成瞭不小的影響。還有更過分的，有人利用AI制作張文宏醫生的音視頻來帶貨，更有不法分子直接用AI深度合成視頻進行詐騙。這AI換臉的亂象，真是五花八門，啥情況都有。

為啥AI換臉能亂成這樣呢？從技術方面看，現在這技術實現起來太容易瞭。在購物平臺上，花個幾十塊錢，就能定制AI深度合成的名人音視頻。這門檻一低，不法分子可就盯上瞭，覺得有機可乘。

從咱普通民眾的角度來說，大傢對AI換臉技術瞭解得太少，平時也沒掌握啥識別的手段，警惕性又不夠高，所以很容易就上當受騙。

另外，從監管層面來講，目前的法律在執行和細化上存在不足。雖然有相關法律規定，但是面對這些新出現的AI換臉亂象，還是有點跟不上趟，沒辦法及時有效地遏制住。

其實在法律層面，咱們並不是毫無依據。《中華人民共和國民法典》裡早就規定瞭，自然人享有肖像、聲音等權益，利用信息技術偽造那就是侵權行為。

2023年，國傢網信辦等部門聯合發佈瞭《互聯網信息服務深度合成管理規定》，2024年網信辦又發佈瞭《人工智能生成合成內容標識辦法(征求意見稿)》，從制作、傳播等多個環節對AI相關行為進行規范。

就拿首例AI生成聲音人格權侵權案來說，通過這個實際案例，我們能看到法律在判定AI換臉侵權方面的實踐應用和最終的判決結果，這也給大傢提瞭個醒，侵權是要付出代價的。

那面對這些亂象，該怎麼整治呢？雷軍曾經給出過建議，我們可以探索推出人工智能單行法。這樣就能明確“AI換臉擬聲”的應用邊界紅線，同時完善證據規則，加大刑事處罰力度，讓那些不法分子不敢輕易亂來。

平臺也得承擔起自己的責任，強化行業自律。比如說支持平臺開發識別技術，優化巡查審核機制，還有投訴舉報機制。平臺要是能把好關，就能阻斷很多問題內容的傳播。

另外，加強法制宣傳教育也很重要。在中小學的人工智能教材裡加入倫理規范內容，從小培養孩子們的防范意識。同時深入老年人社區開展知識普及活動，提高老年人對AI換臉亂象的鑒別能力。不同人群的防范意識都提高瞭，這亂象自然就能得到一定程度的遏制。

AI換臉亂象帶來的危害是多方面的，它既讓普通民眾的財產安全受到威脅，又損害瞭公眾人物的聲譽，還擾亂瞭正常的網絡秩序。所以，整治AI換臉亂象迫在眉睫。我們也希望，通過社會各界的共同努力，未來能營造出一個健康、安全的網絡環境，讓每個人的合法權益都能得到保障。

文章的素材來自於網絡，文章旨在傳播正能量，均無低俗等不良引導。觀眾理性看待本事件，切勿留下主觀臆斷的惡意評論，互聯網不是法外之地。本文如若真實性存在爭議、事件版權或圖片侵權問題，請及時聯系作者，我們將予以刪除。

資訊來源：