日前曾報導過新創公司 Knightscope 研發的蛋型保安機器人 K5 擔任 Uber 公司保全，它近日就闖大禍了。
據 ABC 報導，11 日，一部 K5 保全機器人在美國加州的史丹佛購物中心輾壓了一個 16 個月的幼童，其母親描述了事件經過。當時這部蛋型機器人先是從後面撞上幼童的頭部，導致幼童摔倒在地，之後右腿被機器人碾壓。
整個過程，機器人沒有任何檢測到該幼童的跡象，全程往前行動，沒有停止。還好孩子僅受到輕微擦傷。
（source：Twitter）
（source：Twitter）
商場官方稱，他們已經暫停了 K5 機器人的營運，待事件查明。Knightscope 並沒有做出任何回應。
這款機器人是由 Knightscope 在 2014 年發表的，高約 1.5 公尺，重約 300 磅（約 136 公斤）。如此重量如果當時角度稍稍偏離，可能會造成幼童重傷，甚至帶來生命危險。
（source：My Security Sign）
貌似可靠的新科技，其實有漏洞？
這台機器上裝有多種傳感器，包括鏡頭、熱成像儀、雷射測距儀、空氣品質感測器以及麥克風，用於偵察周圍的任何異常。此外，這項設備還具有人臉辨識、車牌辨識功能，並與停車場報警系統、警方和消防局連線。這台機器人是完全自動化的，可自行充電。
這台機器人於 2014 年上線後，在加州的企業園區、物流中心、購物中心和數據中心試運行，並被 Uber 用來保衛停車場。它沒有裝備任何武器，因此不能用於驅逐罪犯，僅可以用於巡邏、記錄和報警。
（source：Wall Street Journal）
它們是你的眼睛和耳朵，每周 7 天 24 小時，無論在市內或室外，可以不間斷保護你的顧客、財產和員工。
租用這台機器人的成本較低，僅為每小時 7 美元，相比之下，一個保全一小時的工資為 25 到 35 美元。極低的成本導致其市場潛力非常大。
但是，目前發生這樣的事故，可以基本判斷是由於技術漏洞導致機器人沒有檢測到幼童。或許是由於孩子過於矮小，也有可能是傳感器或探測系統發生故障，其技術可靠度難辭其咎。
而一個非常諷刺的事實是，Knightscope 的工程師們曾表示，這一機器人的靈感源於當時震驚全美的桑迪胡克小學槍擊案。他們當時希望可以它安置在社區和學校，用於保護如幼兒這類弱勢群體的安全。可是他們的機器人卻連偵測孩子的位置都沒有做到。
（source：Digital Trends）
人工智慧屢次出錯
類似的由人工智慧導致的亂象並不是第一次發生。
在 2015 年，一名在德國大眾汽車供職的技術員被工廠內的裝配機器人殺死。之後的調查結果顯示，該技術員在裝配過程中操作失誤，系統錯誤導致工人被夾。而正常規範下，這款機器人僅可在特定工作中保證安全。
此外，今年 6 月，一台 Promobot 機器人從位於俄羅斯的測試工廠逃脫，並在市區內引發大規模交通擁堵。
（source：Tech Insider）
而最著名的可能要算最近特斯拉自動駕駛（Autopilot）的 3 起事故了，其輔助駕駛的可靠性已經引起了社會各界的警惕，德國機動車管委會甚至明確提出要禁止這種不成熟的測試版自動駕駛。
這不免讓人想起法國哲學家讓-弗朗索瓦‧利奧塔在著作《非人道》中的觀點：
機器是非人道的，他們只按照效率優先的規則運行，而保護人類利益從來不是他們的第一要務。
且不論這種說法對或錯，如何讓科技真正以人為本，恐怕是現在涉足人工智慧的公司最需要考慮的問題。
（本文由 愛范兒 授權轉載；首圖來源：Knightscope）
延伸閱讀：