轉載從: Tech News 科技新報
當大家目光在防範 DeepFake 產生假造的政治人物說話影片，或是影劇明星被移花接木演 A 片，有個悄悄潛伏而且更難以防範的危機。交友網站需要妹子，廣告文案要呈現多元族群形象，情報員想要靠近目標獲取情報，但都不想尋求模特兒。因此採用 AI 生成的不同類型人臉，相當便宜而且想要什麼類型都能滿足。
當不少人已經習慣在約會網站檔案當中，顯示藝術照形式個人照片，好像也不能怪業者找來模特兒假冒平台上的女性。如果技術進步之下，連找模特兒拍照建檔案都省了，只用 AI 就可以輕易產生以假亂真的檔案照，恐怕在被不實訊息轟炸的今日，要花不少精力辨別何者是真何者是假了。
目前 AI 的技術，可以輕易製造人類的影像，而且難以辨別真假，不論是開源的軟體，例如 Nvidia 的 SytleGAN，還是兜售技術的新創公司，提供各式各樣產生真人影像的實力。如果只是交友約會網站基於宣傳目的，在宣傳品當中加上各種像真人有不同族裔的人類影像，那還是小事，最怕是詐騙集團拿來運用。
AI 專家警告 AI 生成真人影像的技術，落入詐騙集團、機器人帳號可能就是短期敲詐個人金錢。但如果是間諜或是資訊戰操作者，搭配適當的檔案故事，能輕易建立擁有可信度的假帳號，進而在社群網站興風作浪，傳遞不實資訊。或者是情報員背後操縱的美女帳號，套取華盛頓特區流傳的政治情報。
加州大學洛杉磯分校法學院專長為 AI、法律和政策研究的研究員 Elana Zeide 就認為科技進步之下，對比一般人沒有多少辨識網路上資訊的權利和知識。相比真實世界容易辨識真假，面對網路上真假難辨的資訊往往束手無策。
▲ Icons8 網站 Generated Photo 提供相當擬真的真人照片生成服務。
Rosebud AI 是其中一家用 AI 生成 25,000 照片組的新創，要解決小型電商苦楚，那就是店家不必花大錢請來模特兒擺拍服飾與配件照片。他們用線上免費且無版權的照片來當製作的材料，商務上則是嚴格篩選客戶，希望他們不要用他們技術在不好的事情上。
AI GAN 技術如 SytleGAN 還是有限制，GAN 演算法無法無中生有，而且假若訓練的照片缺少某些族裔，AI 並無法在產生的影像當中，憑空生產出來。另外需要的運算能力也相當的大，需要架設伺服器以及採購效能好的顯示卡。
▲ Which Face is Real 網站考驗大家辨識能力，要大家挑選哪張不是 AI 生成照片，是真的人臉照片。(Source：Which Face is Real)
不過不少 AI 公司受惠於公有雲業者，例如彼此競爭市佔的 Google 以及亞馬遜，提供新創能夠負擔的價格。另外不少公司覺得 AI 技術被亂用不是他們責任，而應該使整體社會要想出應對新技術的管理辦法。
▲ This Person Does Not Exist 能夠給你幾可亂真的人類頭像。
儘管照片越來越能夠用 AI 來自己生成，但是 AI 生成的人臉照片還是有破綻，像是人身體與背景之間處理不乾淨出現不自然的背景，觀察人臉與背景交界處很容易找出破綻，如頭髮與邊界處出現像小水泡的斑點。另外帶著眼鏡的影像目前模擬的狀況也不好，牙齒太對稱了，真實的人類牙齒並不對稱，還有 AI 產生有 3 個門牙的影像。
▲ 連貓影像也能用 GAN 產生像是真貓的影像。(Source：This Cat Does not Exist)
至於可能因為 AI 被取代的真人模特兒，他們有的擔心有的不擔心，認為不必擔心的人覺得真人擺拍的模特兒仍會存在，至於擔憂的人，他們則是說儘管擔憂，最終並無法阻止被取代的趨勢。
- Dating apps need women. Advertisers need diversity. AI companies offer a solution: Fake people
- Which Face Is Real?
(首圖來源：Generated Photo)