轉載從: Tech News 科技新報
AI 能做很多事，也有很多事做不好，這沒什麼，但如果有人宣稱 AI 能做某件事，還拿來賺錢，結果反而造成很多麻煩，那就是大問題了。
沃爾瑪目前就面臨這種問題。
從 2017 年開始，一些沃爾瑪門市員工每隔幾天就要和自助結帳的顧客道歉：因為防盜 AI 總是錯抓好人，公司卻沒有暫停使用系統或改善的打算。
《Wired》近日報導，阿肯色州沃爾瑪總部的員工近日實在受不了公司完全沒反應，製作一支影片給各家媒體，展示門市使用的防盜 AI 到底有多雷。
出於保護爆料者，影片沒有公開。不過根據媒體說明，影片展示沃爾瑪採用的防盜 AI，不但經常放過漏網之魚，還會因顧客將個人財物放在結帳台上再平常不過的事，發出偷竊警示。
影片其中一幕展示防盜 AI 連續 3 次犯錯：
測試者拿了兩大罐花生醬疊在一起，自助收銀台只掃到一罐，試驗者把兩罐裝進袋子──AI 沒有示警。
試驗者又拎著兩罐牛奶，在條碼掃描機前晃了一下，同樣只掃到一罐，測試者成功把兩罐都裝走，AI 還是沒有示警。
接著測試者又把自己的手機放在機器上，沒有碰到掃描區域，AI 立刻報警。
最後一次錯誤最讓沃爾瑪爆料員工擔憂，因會導致誠實的消費者無端遭受偷竊指控。儘管員工可以很快知道是誤會，但仍是非常糟糕的體驗。
接受媒體採訪的沃爾瑪員工指出，這套防盜 AI 系統會「頻繁將無辜行為誤認為可能的偷竊」。「這就是那種煩人的科技，假裝有保護財產的假 AI」，某員工表示。
過度行銷的 AI 防盜
沃爾瑪的防盜 AI 技術供應商是愛爾蘭公司 Everseen 開發的技術，能在超市結帳區根據每台機器的掃描，再結合電腦視覺等先進技術，即時辨識潛在的偷竊行為。
具體來說，系統可分析鏡頭拍到的畫面，如果發現有問題，會直接傳送通知到員工智慧手錶或手機等電子裝置，讓他們立刻抓住小偷，或解決顧客結帳遇到的困難。
且 Everseen 還提供全面資料監控面板，為超市管理者和企業主生成細到門市、結帳通道和個別員工的即時報告，藉助數據和 AI 的力量，更精確打擊偷竊，降低零售業損耗（shrinkage，即不明原因庫存減少）。
據美國國家零售聯合會報告，偷竊在 2018 年美國零售業損耗占比高達 35.7%，造成損失 167 億美元，等於每分鐘近 3 萬美元商品被偷。
沃爾瑪是美國零售業巨頭，最大連鎖超市之一，每年偷竊導致損耗高達 30 億美元，占全產業近五分之一。可想而知，沃爾瑪打擊偷竊的意志會有多強烈。
宣傳影片中 Everseen 宣稱：「這是全世界第一個基於雲端的智慧 POS 分析解決方案。我們的數位眼睛擁有完美視力，且完全不必休息或請假。」Everseen 還宣稱，系統能辨識 95% 的結帳區異常行為。
但一些沃爾瑪員工認為，Everseen 實際上是「瞎子」。因 AI 總是漏掉真的偷竊者，他們幫它取了個外號：NeverSeen。
這些員工對《Wired》表示，已多次指出 Everseen 所謂的防盜 AI 技術漏洞，卻被管理層否認，最後實在受不了，才決定向媒體爆料。
▲ Everseen 防盜 AI 宣傳影片截圖。
員工意見得不到回應
這樣的問題，在美國未擺脫新冠病毒的當下尤其令人擔憂，因為員工必須在 AI 每次偵測到異常行為時介入，也就不得不違反 6 英尺的社交距離政策。
據美國媒體報導，由於疫情影響，沃爾瑪已有相當多員工感染，至少 20 人死亡。Everseen 防盜 AI 的錯誤會繼續造成員工突破安全距離，提高他們受感染的風險。
沃爾瑪回應媒體，經過大範圍使用和偵測 Everseen 的系統，相信防盜 AI 達到公司的標準，並表示已全面升級系統，警示次數總體有減少。
至於爆料員工說的誤報問題，沃爾瑪表示這並非普遍現象。Everseen 也表示，警報系統在沃爾瑪員工介入只占不到一成，並不會在疫情期間提高員工的感染風險。
不過爆料員工指出，他們對 Everseen 防盜 AI 系統的不滿早在疫情開始前就有了。他們將信件給《Wired》看，顯示在 2017 和 2018 年都在內部提過 Everseen 系統的問題，但一直得不到積極回應。
更令他們不解的是，明明有更可靠的解決方案擺在公司面前，但公司就是不聽。
沃爾瑪收銀台開發商 NCR 在 2018 年收購另一家防盜 AI 公司 StopLift。爆料員工無法理解，為什麼在整合難度更低的前提下，沃爾瑪不願嘗試 NCR 的解決方案。
且沃爾瑪旗下的尖端技術研發團隊「智慧零售實驗室」（IRL）也有開發防盜解決方案。總部負責防盜技術的員工收到的訊息是，IRL 方案的準確率比 Everseen 好多了。但據《華爾街郵報》報導，IRL 方案並沒有大規模推廣，截至今年 2 月只在約 50 家門市測試。
關於 Everseen 的防盜 AI，沃爾瑪總體上拒絕承認問題的嚴重性。因此，未來一段時間內，吃虧的將是大增感染風險的基層員工，以及被錯怪的無辜消費者。
（本文由 PingWest 授權轉載；首圖來源：shutterstock）
延伸閱讀：