這種類型的內容被稱為“deepfakes”，是指在沒有該人許可的情況下，將某人的臉部疊加在照片或視頻上。
Reddit的這個舉動是因為近期越來越多人運用AI 智慧辨識技術，將明星的臉級表情和成到色情影片演員上，讓每個表情、挑眉都近乎一樣。Reddit裡的嬤嬤版在12月率先舉報這個風氣。
像是《神力女超人》Gal Gadot跟《星際大戰》女演員 Daisy Ridley接倍合成並在社群媒體上被廣為散播。
這樣的技術已經引起許多公司的注意了，他們現在也都試圖禁止用戶上船相關影音媒體。而Reddit在星期三已經關掉deepfakes論壇，又多合成色情片及圖象就是被貼在那裡。這些都違反網站內容政策，對於非自願色情製品的政策“禁止傳播描繪裸體狀態的任何人的圖像或視頻，或者明顯是未經允許創造或張貼的任何性行為，包括偽造的描述”。
Reddit的舉動是遵循Twitter（TWTR）本週稍早關於嚴厲打擊AI生成的色情內容的承諾。Twitter在CNNMoney發表聲明會終止任何傳播這類影片的帳號。而知名的成人網站也告訴多家媒體會移除相關影片，甚至是禁止deepfakes。
利用人工智來創造具說服性的假視頻不限於色情。去年夏天，華盛頓大學的研究人員宣布，他們開發了一款軟體，將奧巴馬總統的演講錄音檔，剪成一個逼真的，同步的視頻。
製作假視頻會有重大且混淆的影響。
政治學教授亨利·法雷爾（Henry Farrell）和作家里克·珀爾斯坦（Rick Perlstein）在本週的一篇意見文章中寫道：「假視頻即使不完美，也能說服那些想要被說服的人，特別是當它加強了攻擊性的性別或種族刻板印象時。」
他們說：「這感覺好像我們生活在一個沒有人同意真理的另一個科幻世界裡。 」只要想想假新聞變成虛假的視頻情況會有多糟糕。”
留言
(Visited 56 times, 1 visits today)
