證券時報網
臧曉松
2025-08-06 22:04
近期，多個賬號在社交平臺上偽造跳水運動員全紅嬋及其家人聲音合成AI（人工智能）視頻為商品帶貨，不少消費者直呼上當。
無獨有偶。今年2月，據《每日經濟新聞》報道，只需花1280元，直播、視頻通話能實時換成娛樂圈明星劉亦菲、楊冪的臉。
隨著AI技術的快速發展，AI深度偽造技術在過去幾年經歷了顯著的迭代升級，幾近以假亂真。在此背景下，違法違規運用AI進行牟利的事件屢見不鮮。
人民日報近日發文稱，人們樂見AI技術助力網絡消費，但絕不允許AI騙術“張牙舞爪”，侵蝕網絡消費的信任與成色。
筆者認為，AI騙術帶來的亂象和影響不容忽視，相關平臺企業不可坐視不理，必須主動亮劍，將風險防控和倫理審查前置化。
事實上，面對AI技術潛藏的風險與挑戰，作為AI產品的研發者和推廣者，相關企業有機會將此類亂象盡可能扼殺在萌芽階段。
具體而言，筆者認為，第一，技術企業可在技術研發環節就嵌入合規紅線。例如，對AI生成內容設置明確的標識機制，讓公眾能夠明確辨別真實信息與AI合成內容，從源頭上避免虛假信息混淆視聽。
第二，在商業合作中，應建立嚴格的名人授權核查流程。對涉及名人形象、聲音等的AI應用，應當獲得完整、合法的授權，杜絕未經許可的AI合成營銷行為，從流程上堵住漏洞。
第三，短視頻平臺在遏制AI虛假營銷等亂象中應扮演關鍵角色。比如，平臺可加強對創作者的行為規范，明確要求創作者在發布AI生成內容時進行顯著標識，注明內容的合成屬性，讓用戶能夠清晰區分真實信息與AI創作內容。
長期來看，短視頻平臺加大對AI內容溯源、真偽鑒別等技術的研發投入，有機會在技術層面筑牢防線，這也是提升平臺自身安全和履行社會職責的現實需要。
第四，相關平臺企業可與同行、技術企業、監管部門等加強合作，共同制定行業規范，合力規范AI應用行為。
與此同時，監管部門也應強化相關黑產打擊力度和對平臺企業、技術企業的監督力度。
總之，對于AI技術應用普及帶來的負面效應，企業的主動擔當與應對至關重要。否則，一旦市面上出現大量AI違規內容，不但治理難度大幅提升，對社會公眾造成的危害也將持續蔓延。當下，公眾對AI違規內容的容忍度已經越來越低，對相關企業而言，誰先完成前置治理，誰就有望率先把合規成本轉化為護城河。
當然，企業的主動作為離不開外部環境的支撐。相關部門應加快完善相關法律法規，明確AI應用的法律邊界和責任認定標準，加大對違法違規行為的懲處力度，形成有力震懾。社會公眾也應加強防范，提升自身對AI虛假信息的辨別能力。
