Hi 小夥伴們，我是發哥。
在當今科技飛速發展的時代，AI技術已成為推動社會進步的關鍵力量。然而，隨著AI技術的廣泛套用，AI換臉技術卻引發了新的社會問題和道德爭議。
AI換臉技術，透過深度合成，能夠將任何人的人臉照片嵌入到視訊中，生成的表情與動作生動逼真。
然而， 近年來 這種技術卻被不法分子利用，制作色情視訊， 成為一種新型的灰色產業， 給受害者帶來了極大的傷害。
這類視訊的制作不僅針對公眾人物，甚至普通人也難以幸免。任何人只要擁有一張照片，都可能成為這類視訊的主角。
2017年，知名女星蓋爾·加朵因不幸被卷入了一場不雅視訊風波。
這場風波的始作俑者是一個網名為Deepfakes的使用者，該使用者在Reddit上釋出了一段合成的加朵不雅視訊，引起了廣泛爭議。
隨著這段視訊在網路上的迅速傳播，多位知名女星也相繼成為了所謂的deepfakes技術的受害者。
其中，包括 好萊塢女星斯嘉麗·強森。
可以看出，眉毛拼接處有瑕疵。
【權力的遊戲】的麥茜·威廉斯。
效果十分逼真。
還有音樂天後泰勒·斯威夫特， 她的AI不雅照在社交媒體上迅速傳播，覆蓋多平台，瀏覽量超千萬。
這些女星們的形象被不法分子利用AI技術合成到不雅內容中，嚴重侵犯了她們的肖像權和私密權。
隨著deepfakes技術的普及，AI換臉技術也給國內演藝界的明星們帶來了不小的困擾。
國內某交易平台的買家聲稱，他們能夠以75元的價格打包出售包含40多位女明星、上百部AI換臉視訊的資源，並提供免費試看服務，透過網盤進行發貨。
根據Sensity AI的最新調查數據，高達96%的AI視訊涉及女性性影像。
截至2024年一季度，全球已確認的AI偽造色情視訊數量激增，已超過27萬條，相較於2019年增長了18倍，而這些視訊的觀看次數更是高達40億次。
然而，這只是問題的冰山一角。技術的不斷進步使得制作AI色情內容變得越來越容易，若不及時采取有效措施進行控制，影響範圍將更加廣泛。
更令人震驚的是，普通人也可能成為這種技術的受害者。
2023年，廣州地鐵三號線裸女事件在微信群裏迅速傳播，引起廣泛關註。
事件中，一位美麗的小姐姐被不法分子利用AI技術合成裸照，因此遭受了大量不明真相網友的攻擊。
很快，事件的真相逐漸浮出水面。受害女生實際上是一位小紅書博主，熱衷於在網路上分享自己的日常穿搭。
透過對比可以發現，兩張照片中的女孩在動作、飾品、發型以及妝容上均保持高度一致。
微信群中廣泛傳播的所謂「地鐵美女裸照」，實際上只是該女生去年7月釋出在社交平台上的一張普通日常照片，被不法分子惡意篡改並傳播。
造謠一張嘴，辟謠跑斷腿。 在AI技術日益普及和市場下沈的背景下，AI色情產業對每個人的威脅日益加劇，女性群體更是首當其沖。
微博百萬粉絲博主賴賴曾爆料，自己的面部形象被盜用，並在外網上被用於非法獲利。熱心網友直接向她提供了相關視訊和截圖，她意識到了問題的嚴重性。
經過深入調查，賴賴發現不僅自己的臉被惡意P圖到黃色視訊中，甚至連她的身份資訊也被盜用。
這些冒充者會盜取她在社交平台上的日常內容，上傳到外網，甚至透過AI換臉技術將她的臉換到其他人的身體上，以此吸引觀眾。
冒充者借此機會設立會員訂閱制，透過售賣這些視訊來非法獲利。盡管觀看這些視訊需要會員資格，但數據顯示，觀看人數仍在持續增長。
在發現自己被冒充後，賴賴立即發聲呼籲粉絲不要相信這些虛假內容。然而，仍有一些人不肯相信她的解釋，甚至誤以為她是在為自己洗白。
而且冒充她的帳號不止一個，而是有多個帳號在從事這種侵權行為。
隨著時間的推移，這些人已不再滿足於僅僅透過針對特定人物來謀取暴利。他們開始接受普通人的訂單，只需一張照片，就能提供專業的換臉服務。
他們還將當紅明星的面部影像制作成各種淫穢視訊，並肆無忌憚地在國外網站上進行售賣。
這些視訊的制作水平相當高，但售價卻低得令人咋舌。 即使是大明星的換臉視訊，也僅需大約50元便可輕易獲取。
他們深諳消費者心理，用一次購買，永久使用的承諾來吸引買家。
在 制作手段上，他們更是花樣百出，不僅能換頭換衣，甚至能用同一張照片制作出多種風格的視訊。
這些人的活動範圍極其廣泛，想要透過平台徹底封殺他們，難度極大。
杭州市蕭山區人民法院審結了一起案件，被告人虞某因濫用AI技術，大量制作並傳播淫穢視訊，被判處七年三個月的有期徒刑，並處罰款6萬元。
經審查，虞某自2020年開始接觸並掌握了一款AI換臉軟體，原計劃推廣獲利，但反響平淡。後來，他在社交群組中釋出淫穢資訊以吸引關註。
為了進一步擴大影響，虞某開始利用換臉軟體制作淫穢色情視訊，並在互聯網群組上傳播。 虞某在社交軟體上建立了瀏覽群和私人客製群。
在瀏覽群中，他傳播AI換臉的淫穢視訊以吸引觀眾。 當觀眾提出客製換臉需求時，他會將其引導至私人客製群，並收取不同等級的入群費。
他提供客製化換臉服務，該軟體操作簡便，使得侵犯他人敏感資訊變得輕而易舉。 同時，虞某還提供人臉視訊客製服務，根據視訊時長和難度收費。
據檢察機關調查，虞某利用這種方式在半年內獲利數萬元，受害者包括知名公眾人物和普通人。
身處一個可能會被惡意換臉成為色情影片主角的環境中，這種情況是絕不應該被容忍的。
民法典和個人資訊保護法都對深度合成技術提出了明確要求，嚴禁利用此類技術侵犯公民的人身和財產權益，尤其是對敏感的生物辨識資訊進行了特別保護。
中國還在2023年實施了【互聯網資訊服務深度合成管理規定】和【生成式人工智慧服務管理暫行辦法】。這些法規明確要求使用者不得利用深度合成技術從事任何違法活動，同時服務提供者有責任確保資訊的安全性。
即便AI換臉技術只是用於娛樂或惡作劇，它也可能觸犯肖像權和名譽權。在嚴重的情況下，濫用這項技術甚至可能構成犯罪。
發哥認為，這種不負責任的行為不僅損害了個人的合法權益，更是對社會公共道德和秩序的公然挑戰。
新技術的套用應當致力於提升全人類的福祉，而不是淪為追求個人私利的工具。
