來源｜電廠
作者｜張勇毅
在 OpenAI 發佈 Sora 之後，很多人驚呼人類已經邁入 AI 視訊時代。除了一次次震驚世界的 AI 視訊生成能力展示之外，海外網友討論的最多的話題，還有「未來該如何避免虛假視訊充斥著我們的生活」？
但在此之前，AI 虛假視訊的發展速度，可能已經遠超我們的想象，它們已經走進我們熟悉的社群網路，通過各種流量密碼，賺到了比人類視訊博主更多的收入。
下面的資料可能更加直觀：小紅書一個名為「娜塔莎進口食品」的博主，在視訊中的人設是一位定居在中國的俄羅斯人，並通過這一身份發佈各種關於俄羅斯與中國生活的短視訊，和大家科普各種俄羅斯知識，僅小紅書平臺粉絲量就在短短數月內突破了 20 萬。
但現實是，這個賬號的各種視訊內容完全是由 AI 生成，甚至這個肖像的真人還是一位烏克蘭人，她的真名叫 Olga Loiek。
從這個賬號發佈的各種視訊中，不難看出背後的運營團隊深諳短視訊平臺的流量密碼：時不時拋出「喜歡中國，想買房子定居」「女性搬到中國是否要務農」這種極富爭議的社會話題，顯然很清楚如何利用好 Olga 的「流量密碼」，但這些也只會加重受害者的痛苦。
在抖音等平臺，利用 Olga 肖像權制作虛假視訊的內容，往往是關於戰爭中俄羅斯一方的言論：例如「俄羅斯會感激中國朋友的支持」等在短視訊平臺反響熱烈的話題。
諷刺的是，抖音的老使用者可能會覺得這一刻似曾相識：去年六月，一位自稱「保爾柯察鐵」的「俄羅斯車臣人」在抖音走紅，依靠分享在戰爭前線的最新動態，迅速積攢了超過三十萬粉絲，並順勢開啟了帶貨：當然也是包括伏特加糖果在內的各種俄羅斯特色食物。
但在後續他發佈的各種「作戰」視訊中，被不少網友認出了拍攝視訊的實際地點經常是河南洛陽某處的發電廠，最終被進一步扒出這位中文過於流利的車臣人，其實只是特效濾鏡的效果。被揭開謎底之後的賬號不再被網友關注，最終無人問津。
雖然彼時諸如「柯察鐵」這樣的案例並不少，這些視訊尚且需要真人出鏡，即使漏洞百出，也吸引了眾多沒有足夠辨認能力的觀眾，而到了 Olga 的例子中，這些視訊產業鏈已經完全不需要一個漏洞百出的真人出鏡，取而代之的是一個完全由視訊素材訓練出的「克隆人」。
事實上，使用真人肖像打造出克隆人短視訊的工具已經相當成熟：克隆 Olga 的運營團隊使用的是一款名為 HeyGen 的 AI 肖像克隆軟體：這是一款已經非常成熟 AI 應用，網路上能找到眾多面向初學者的 HeyGen 上手教程。使用價格上，即使是最貴的商用版本也只需 72 美元/月。
在這些工具之前， AI 視訊基本還遵循著輸入足夠多相關肖像視訊素材，根據口型/表情對應生成相應的素材，生產對應的短視訊內容，即創作者口中嘲諷 AI 生成視訊的「拼屍塊」模式，但現在隨著 HeyGen 這樣的 AI 工具越來越多，生成一條高度逼真的短視訊所需要的素材，可能僅僅是原作者的幾張照片。
每月僅 500 人民幣的投入，創作克隆視訊換來的收益卻相當可觀：這些克隆賬號不僅能通過挑動流量話題賺錢，通過帶貨收入也是另一種主要方式：小紅書賬號下的清單中充斥著各種「俄羅斯特產食品」的連結，並且隨著克隆短視訊的帶動，給觀眾灌輸「俄羅斯經濟需要你們的支持」的思想，促使觀眾購買這些商品：截至2 月 19 日，其中一些單品銷量已經超過一萬。
Olga 也在自己上傳的視訊中提到，她和她的家人曾多次就這個問題嘗試向小紅書、抖音等申訴，即使她們都很難理解複雜的中文條款所包含的意思，但這些申訴都沒有獲得正面的結果，無奈之下，才選擇自己真人發佈視訊，將整件事和盤托出。
在 Olga 發佈視訊揭開這個問題，並引起全球網友熱議的兩週內，這個賬號仍然在小紅書等平臺正常存活：賬號簡介中，最新的一條視訊的主題甚至是慶祝中國新年，同時仍然有很多不明真相的網友，在評論區中回覆賬號運營者刻意煽動起的各種問題。給 Olga 關於「買房」「找中國人當老公」等建議。
與此同時，Olga 的家人所能做的，也只有在社交媒體上呼籲 HeyGen 的開發者採取行動，避免這種被 AI 換臉的事件發生在更多人身上。
2 月 20 日，這個賬號才被「封禁」：沒有任何常規賬號封禁的相關提示，消失在平台中。
看起來這起事件告一段落，但在過去的數月中，黑產團隊賺到了帶貨收入與流量分成所得，平臺坐享其成收穫流量，觀眾收穫了心理滿足感與「俄羅斯特產」，只有 Olga 本人和家人承受了痛苦。
按照 Olga 本人在 YouTube 發佈的視訊中所言：「我們的家人在戰爭中不得不在不斷的空襲和轟炸中東躲西藏。在這段時間裡，看到自己的臉被用來向數十萬人宣傳俄羅斯，這並不有趣」。
蘋果公司聯合創始人史蒂夫·沃茲尼亞克近期也警告稱，AI 視訊內容行業需要強監管。同時監管機構應該也應該追究大型科技公司在其中疏於監管乃至縱容的責任。
中國在 2020 年五月發佈的《民法典》中第 1019 條，其實已經有相關的條文：
任何組合或者個人不得以醜化、汙損，或者利用資訊技術手段偽造等方式侵害他人的肖像權。未經肖像權人同意，不得製作、使用、公開肖像權人的肖像，但是法律另有規定的除外。
未經肖像權人同意，肖像作品權利人不得以發表、複製、發行、出租、展覽等方式使用或公開肖像權人的肖像。
此前頒佈的《網際網路資訊服務深度合成管理規定》中，也明確規定內容提供者需要按照對生成的圖片、視訊等內容進行標識，但目前主流短視訊平臺也沒有足夠有效的方式來應對：在類似沒有明確標註的 AI 生成視訊下，小紅書會對疑似 AI 內容自動生成的內容自動打上標識，但除此之外並沒有更多有效的應對方式。
在小紅書社區公約中，也明確表示冒充他人等行為屬於侵權，抖音也專門設置了關於人工智慧生成內容的平臺規範暨行業倡議、人工智慧生成內容標識的水印與元資料規範，並推出了虛擬形象賬號備案指引。
抖音安全中心相關負責人對電廠表示，抖音安全中心針對技術手段仿冒虛假人設、不當獲取粉絲的賬號，持續進行專項治理。對於違規賬號，平臺採取了包括全面禁言和粉絲清零在內的處罰措施，近期已處罰賬號67個。下一步平臺將加大治理力度，也歡迎使用者在發現違規賬號時點選舉報，平臺將在第一時間核實處理。
此前，抖音官方資訊發佈賬號「抖音黑板報」曾發佈打擊黑灰產違規「漲粉養號」行為的公告，其中涉及多項違規行為，就包括利用人工智慧技術（AIGC）創建虛擬人物仿冒真人或批量發佈低俗低質內容。
不過，對於Olga這種已經涉及到明確侵犯肖像權的事件，如果內容平臺的「正義執行」在兩週乃至更長時間之後才姍姍來遲，這不僅是給黑產團隊可乘之機，甚至在很大程度上已經縱容了更多類似事件的發生。
遠在 Sora 之前，從 deepfake 震驚世界的那一天起，AI 換臉就已經開始快速發展，並隨著各種越來越易用的工具被開發出來，黑產產業鏈也如同影子般迅速成長：從一開始的換臉到變聲，直到如今以假亂真的 AI 短視訊氾濫，內容監督的技術與管理已經遠無法跟上現實的需求。
如果沒有行之有效的監管與審核，下一個伴隨著流量密碼誕生的 Olga，只會更具煽動性且更難以辨別，且近在眼前。
遠在 Sora 之前，從 deepfake 震驚世界的那一天起，AI 換臉就已經開始快速發展，並隨著各種越來越易用的工具被開發出來，黑產產業鏈也如同影子般迅速成長：從一開始的換臉到變聲，直到如今以假亂真的 AI 短視訊氾濫，內容監督的技術與管理已經遠無法跟上現實的需求。
如果沒有行之有效的監管與審核，下一個伴隨著流量密碼誕生的 Olga，只會更具煽動性且更難以辨別，且近在眼前。
（記者何暢對本文亦有貢獻）
歡迎加入這個星球，見證矽基時代發展↓
點個「」，再走吧👀