來源：qiuzhx時間：2019-09-04
最近，一款名為“ZAO”的變臉軟件突然變得流行起來，在“ZAO”熱潮之后，人工智能變化的灰色產業鏈開網站定制始浮出水面。 中新經緯的調查發現，在網絡平臺上，淫穢視頻銷售明星面孔，提供定制的視頻換面服務，以及教學變臉技術已成為一項業務。
律師指出，生產和銷售人工智能面對不雅視頻已構成傳播淫穢物品以謀取利益的罪行，并涉嫌侵犯他人的肖像權和聲譽權。 此外，律師還提醒說，變臉的視頻可能被用于欺詐或勒索，造成更大的傷害，應引起全社會的注意。
超過40位女演員已被改變面孔，數百個視頻已售出49元。
9月2日下午，在二手交易平臺上，中信經緯搜索關鍵詞“AI for face”，系統提示“無法搜索違規信息”，但在搜索“換臉”時，可以檢索 “愛”改變面子，整個網絡是最完整的，最低的價格“”改變面部收藏可以試圖看到“和其他賣家發揮信息。中信經緯與兩個商人溝通，發現他們賣的不雅 平臺上的明星視頻。
賣家余瑜（化名）告訴中新經緯，他手里有45個女明星，有數百個人工智能改變面貌的視頻資源。 隨后，余宇將上述視頻截圖發送至中新經緯。 “網盤發送，在線觀看，套餐價格49元。擔心不喜歡免費試用，熱門第一線（明星）的內容比較好，第三和第四行（明星）的內容是一般的。”
另一位賣家還表示，它可以以75元的網站開發價格將超過40位女性名人打包并出售給數百個AI變臉視頻，這些視頻可免費測試并在線發貨。
以上兩位賣家都建議不要在二手交易平臺上傳達內容，而是要求在QQ上聊聊。 其中一位賣家對中信經緯說：“該平臺更嚴格地監控這些信息，產品信息可能隨時被刪除。我們也很幸運能夠賣出一個訂單。”
中新經緯指出，9月2日晚，上述兩款產品的信息已被平臺刪除，但搜索“換面”仍可看到許多其他類似的產品信息。
換臉視頻可定制，一分鐘10元
此外，在其他電子商務平臺上，也有賣家可以提供視頻定制的換臉產品。 只有買家需要提供面部變化人物的一些照片，并且賣家可以將照片中的面部“轉向”特定視頻中的特定人物。
“提供五到十張照片和視頻片段，其中包括正在更換的人。費用是每分鐘10元。可以在五分鐘內完成，并在一到兩個小時內發貨。如果視頻很長，可以更便宜。 “ 賣家說：“你可以自己提供視頻或使用它，但視頻越清晰越好。不要面對并遮住你的臉。”
賣方強調視頻是由他自己完成的，他手里有許多固定客戶。 “在做視頻時，電腦無法做任何事情，它也會消耗顯卡，所以我的價格非常公平。” 賣家說：“找我的人就是做'小黃片'，但更多的是推銷一些產品。短片，每個人都有自己的用途。”
另外，在一些與“人臉改變”相關的QQ群中，有一些賣家可以教授人臉改變技術，“教學套餐，公平價格”，還可以提供全套明星面貌變化的視頻資源。 據了解，“學習”AI換臉技術的學費約為500元，可以在四五個小時內學到。
一些用戶對此表示擔憂。 網友“嘻嘻”說：“有人會在社交平臺上使用我的自畫像制作改變面貌的視頻嗎？那太可怕了。” 還有評論說這個簡單的應用程序可能會被誤解。 用戶使用它來制作各種色情，暴力，虛假的視頻。
律師：人工智能改變面孔的風險不容忽視
ZAO應用程序的突然普及引發了人們關于AI面部改變技術的關注和討論，但事實上，這項技術最近還沒有出現。 今年年初，通過人工智能技術取代演員朱寅在“帝國射擊英雄”中與楊冪取代的視頻在互聯網上引起了激烈的討論。 目前，在一些視頻網站上仍然有很多人臉變化的視頻。
AI的面孔是Deepfake技術，Deepfake指的是由FakeApp程序創建的人工智能軟件制作的假視頻，而FakeApp可以實現AI面部變化。
由于可網站定制能存在版權和隱私問題，ZAO網站定制引起了用戶的廣泛關注，北京安利律師事務所高級合伙人王新瑞表示，ZAO軟件使用深度學習技術改變面貌的最大問題是大規模收集。 生物識別信息和Deepfake“不真實且難以區分”，給社會帶來了安全風險，目前公眾普遍低估了這種風險，但實際上已經造成嚴重后果。
北京芝林律師事務所律師趙湛在接受中信經緯采訪時表示，制作和銷售人工智網站開發能變臉色情影片無疑構成傳播淫穢物品的罪行，也涉嫌侵犯肖像權利 和聲譽。 對于購買面對面視頻AI的買家，如果他們傳播或傳播它以獲取利潤，它也可能構成非法甚至是犯罪。
趙職業進一步指出，除了使用人工智能變臉技術制作淫穢視頻外，提供定制的視頻變臉服務，如果非法使用，可能會造成更大的社會危害。 “對于普通人來說，有人拍攝你的照片來改變視頻的面貌。這可能是為了戲弄，但也可以使用這個視頻詐騙和勒索面子改變者的親屬。職業說 ，“我擔心這項技術被濫用，或被那些肆無忌憚和惡意的人使用，它相當于打開潘多拉的盒子。 “
趙職業認為，網站開發對于這種新型的刑事犯罪，有必要及時改進現有的法律規則和技術手段，同時應采取更多手段讓公眾了解這種行為造成的危害。
粵公網安備 44010602005325號