轉載從: Tech News 科技新報
最近，微軟公司宣布要讓 AI 新聞編輯取代旗下的約聘新聞編輯，沒想到，AI 編輯才剛上任未滿 1 個月，馬上出包，引發人們對 AI 新聞能力、整體臉部辨識科技的疑慮。
新的編輯，新的未來
5 月底，微軟公司宣布打算用「AI 新聞編輯」，取代旗下數十名每天負責選稿、配圖的約聘新聞編輯。消息傳出後，立刻引起許多人的關注，大家從未料到「AI 取代人類」的時代居然來得這麼快。
然而，「AI 新聞編輯」上任不滿 1 個月就立刻捅出婁子，誤認 2 名知名女歌手，引起對方的不滿，更讓人們開始疑惑：為何臉部辨識科技在辨識有色人種時特別容易失敗？
文章轉載 利潤對分
在微軟的分工中，約聘新聞編輯主要負責挑選重要新聞，視情況重新下標、調整格式、配圖，最後發布於微軟自己的新聞網站上，微軟會將部分刊登新聞獲得的廣告利潤分給引用的媒體做為回報。
約聘編輯的工作 AI 新聞編輯也可以
AI 新聞編輯上任後，分配到的也是類似的工作，只是全數改由演算法分析，重新下標、配圖，將通通交給 AI 負責而非人工判斷。
▲ 圖為一名看報紙的男子。在微軟中，這些約聘新聞編輯主要負責選稿、調整格式等簡單的編輯工作。（Source：Unsplash）
我真的被取代了……
一名被解僱的編輯說道：「我花許多時間閱讀自動化和 AI 最終將取代人類的工作，現在就發生在我身上：AI 搶走我的工作了。」
但凡企業，就要升級
在微軟眼中，解僱這些編輯不過是公司例行性升級、進化的一個過程。微軟的發言人出面表示：「就像所有的公司一樣，我們也會定期改善公司，例如：在特定領域擴大投資、每隔一段時間重新調整人力配置。這次本公司的決定並非出於受疫情影響而做的決定。」
▲ 混合甜心 4 人一起出席 NBC 電視台在紐約舉辦的《今日秀》（左起：席爾沃、尼爾森（Jesy Nelson）、賓諾克、愛德華茲（Perrie Edwards））。（Source：達志影像）
遵守嚴格編輯規則不容易
然而，並非所有人都像微軟公司一樣看好用 AI 新聞編輯取代人類編輯的決定。一名匿名編輯表示，他認為公司的決定得冒一點風險，因為編輯們在編輯新聞時必須遵守一套非常嚴格的編輯守則，對於 AI 來說未必是件容易的事。
舉例來說：避免讓血腥暴力、不恰當的內容出現在首頁、使用者一打開瀏覽器就會看到的位置，這對年輕的使用者來說尤其重要。
新手 AI 編輯配圖出包
今年 6 月初，AI新聞編輯選擇一篇英國樂團混合甜心（Little Mix）的成員席爾沃（Jade Thirlwall）分享自己過去遭遇種族歧視經驗的新聞時，卻誤將同樂團的成員賓諾克（Leigh-Anne Pinnock）誤判成席爾沃放入新聞，引發席爾沃不滿。外界也質疑，微軟的 AI 編輯系統在辨識有色人種上是不是表現特別差？
▲ AI 新聞編輯出包後，席爾沃馬上在自己的 Instagram 上發文表達不滿。（Source：Unsplash）
「MSN，加油好嗎！」
事發後，席爾沃馬上在自己的 Instagram 上抱怨：「MSN（註：MSN 是微軟的新聞平台）如果你們打算複製貼上別家內容正確無誤媒體的新聞，拜託確認一下你們能正確分辨混合甜心不同成員的照片好嗎？」
她接著補充：「這種爛事反覆發生在我和賓諾克身上，已經變成一個笑話了……這件事讓我覺得被冒犯，你們居然沒辦法從僅 4 個人的樂團中，區分 2 個有色人種的女生究竟誰是誰，加油好嗎！」
微軟：演算法沒問題，新功能測試中
對於 AI 新聞編輯出的紕漏，微軟方面表示，近期他們正在測試讓 AI 新聞編輯選擇示意圖的新功能，這回配圖錯誤與 AI 新聞編輯本身演算法設計並沒有關聯。
▲ 目前人類擁有的臉部辨識科技尚無法百分百準確比對，特別是在有色人種辨識上容易出錯。（Source：shutterstock）
AI 臉部辨識大測驗
不過，這也印證了人們一直以來的擔憂：現有的臉部辨識技術在遇上有色人種時，似乎特別容易犯錯。
2018 年，美國公民自由聯盟（American Civil Liberties Union，ACLU）就對亞馬遜提供一般人付費使用的臉部辨識服務 Rekognition 做了一項測試：ACLU 從公開管道蒐集 25,000 張嫌犯照片做為臉部辨識的資料庫，使用預設的設定，一張一張的讓 Rekognition 比對國會兩院的議員和資料庫裡的照片，並檢視最終成果。
有色人種特別容易出錯
最後，總共有 28 名國會議員被誤判。然而，即便現實中有色人種國會議員的比率只占了 20%，在誤判的議員中，有 40% 的議員是有色人種。
這就引起部分人的疑慮，因為美國警方同樣也使用亞馬遜提供的這套 Rekognition 臉部辨識服務，目前越來越多場合也能看到臉部辨識科技的身影，會不會使用過程中，反而不知不覺侵犯了有色人種的權利？（註：目前，亞馬遜已經因 Rekognition 在有色人種臉部辨識方面的問題，暫停提供這套系統給美國政府使用。）
可能侵犯他人權利
加州眾議員戈梅茲（Jimmy Gomez）是其中一名被誤判的議員，ACLU 對 ReKognition 的測試結果，引起了他的注意。
他指出，自己無意於和亞馬遜做對，但表示：「如果新科技可能對人們的隱私、自由權甚至性命產生深遠的影響時，就會引發不少疑慮。」
▲ 或許是受到開發臉部辨識科技工程師多為白人影響，現有的臉部辨識科技在面對白人臉譜時成功率也比較高。（Source：Unsplash）
資料庫裡白人多
美國喬治城大學法律中心（Georgetown Law School Center）的隱私與科技領域資深助理加維（Clare Garvie）表示，其中一個原因可能是出在工程師建立 AI 的臉部辨識資料庫時，提供的白人照片比有色人種多而導致。
工程師天生的限制
另外一個原因，可能來自於工程師本身。一份研究顯示，人們在辨識另一個種族的成員時，準確度會比辨識同一個種族的成員差，臉部辨識服務可能也受到類似結果的影響。
考量到大部分科技公司的工程師仍以白人男性居多，即使無意為之，他們開發出的臉部辨識服務在辨識白人的準確度，無形中也比其他種族高。
▲ 美國白宮。目前人們的臉部辨識科技上存在疑慮，這也讓政府的適度介入管制顯得更重要。（Source：Flickr/jasleen_kaur CC BY 2.0）
肌膚偏黑、化妝都會影響準確度
其他原因包括面對黝黑的皮膚時，電腦比較難比對皮膚的顏色、女性如果化妝隱藏皺紋或是改變髮型，都會增加正確辨識的難度。
政府管理就是最好的管理辦法
對此，不少公民團體就呼籲政府適度立法介入以保護人們的權益。
微軟總裁史密斯（Brad Smith）在部落格上寫道：「控管政府使用新科技最有效的辦法，就是政府自行、主動控管如何使用。如果對未來一項新科技在社會中廣泛使用有疑慮，最有效的管理方法就是交由政府制定規範管理。」
- Microsoft sacks journalists to replace them with robots
- Microsoft is cutting dozens of MSN news production workers and replacing them with artificial intelligence
- AI software at Microsoft’s MSN misidentifies mixed-race Little Mix singers, report says
- Microsoft’s robot editor confuses mixed-race Little Mix singers
- Microsoft’s AI journalists confuse mixed-race Little Mix singers on MSN homepage
- Amazon’s Face Recognition Falsely Matched 28 Members of Congress With Mugshots
- Why facial recognition’s racial bias problem is so hard to crack
（本文由 地球圖輯隊 授權轉載；首圖來源：達志影像）