每經(jīng)編輯｜何小桃 畢陸名    

深度造假（Deepfake）最新受害者出現(xiàn)了——全球頂流，泰勒·斯威夫特（Taylor Swift，中文綽號“霉霉”）。

近乎是在一夜之間，X、Facebook等社交平臺上便充斥了大量虛假“不雅照片”，而且瀏覽量已經(jīng)高達上千萬！盡管最早傳播這些圖片的賬號已被封禁，但照片的流傳仍未徹底阻斷。

圖片來源：視頻截圖

據(jù)九派新聞報道，泰勒·斯威夫特正在考慮對生成這些圖片的網(wǎng)站采取法律行動?！癤”平臺表示正在“積極刪除相關圖片”。

Facebook方面，母公司Meta一名發(fā)言人稱：這些內容違反了我們的政策，我們正在將其從我們的平臺上刪除，并對發(fā)布該內容的賬戶采取行動。

但也有網(wǎng)友說，這不是刪除的問題，這些照片一開始就不應該出現(xiàn)在這些平臺上。對此Meta也做出了回應，表示“會繼續(xù)監(jiān)測并及時刪除違規(guī)內容”。

在26日白宮記者會上，發(fā)言人讓-皮埃爾被問及此事時表示，“我們對此類圖像流傳感到擔憂，更確切地說，是虛假圖像，這令人擔憂?！?/span>

“雖然社交媒體公司在內容管理方面可以獨立做出決定，但我們認為他們在執(zhí)行自己規(guī)則方面可以發(fā)揮重要作用，以防止錯誤信息和未經(jīng)同意的真實人物私密圖像傳播。”讓-皮埃爾說。

她還補充說，網(wǎng)絡上的執(zhí)法不嚴對女性影響更大，她們是受到網(wǎng)絡騷擾和欺凌的主要目標。讓-皮埃爾稱，這并不是新問題，是拜登和哈里斯政府從上任第一天起就優(yōu)先考慮的問題，“我們對此非常重視。再一次，這讓我們感到擔憂?！?/span>

圖片來源：視頻截圖

值得一提的是，這不是泰勒·斯威夫特第一次被AI“造假”。

據(jù)澎湃新聞1月17日報道，就在不久前，由人工智能生成的假泰勒·斯威夫特（Taylor Swift）帶貨廣告在社交媒體Facebook上傳播。

“嘿你們好，我是泰勒·斯威夫特。由于包裝出錯，有3000套Le Creuset（中文名譯為‘酷彩’）炊具套裝無法正常線下銷售，轉向線上出售。有一個好消息分享給你們，我與Le Creuset聯(lián)手進行促銷——有20位忠實粉絲將免費獲得贈送的炊具套裝。”

AI生成的泰勒·斯威夫特推銷Le Creuset炊具視頻

涉事公司對此迅速做出回應稱，Taylor Swift沒有參與任何消費者贈品活動，所有關于產品促銷的活動均來自官方社交活動。AI“深度造假”技術合成了她的聲音，并將聲音與她的形象和Le Creuset廣告片段拼湊在一起。

當受害者被引導至虛假網(wǎng)站后，會被要求支付9.96美元的運費。但號稱免費送的廚具不會真的送出去。

Facebook母公司Meta也對這一欺詐活動迅速做出了回應。此后，Meta表示已經(jīng)刪除該廣告。

什么是AI“深度造假”？

深度造假（Deepfake）是英文“Deep learning”（深度學習）和“Fake”（偽造）的混成詞，指利用深度學習技術生成合成圖像、音頻或視頻的技術。

美國布法羅大學“媒體取證實驗室”的計算機科學教授呂思偉（Siwei Lyu）表示，“霉霉”這起“深度造假”詐騙活動很可能是利用文字轉語音服務制作的。這類工具可將腳本轉譯成聲音，并用唇語同步程序將其合成至視頻片段。

編輯|何小桃 畢陸名 蓋源源

校對|程鵬

封面圖片來源：視頻截圖

每日經(jīng)濟新聞綜合九派新聞、澎湃新聞、公開消息