學生開發 AI 機器人玩射擊遊戲,專家批評其在製造殺人機器

102

近日,美國的兩名學生使用深度學習技術,打造了一款 AI 軟體,不僅可以在經典遊戲 Doom 中自己玩遊戲,還能在多人對戰中打敗它的人類對手。

開發這項技術的是 Devendra Chaplot 和 Guillaume Lample,兩人來自卡內基美隆大學,他們在遊戲裡訓練的機器人的暱稱叫做 Arnold。之前 Google 在復古的 2D Atari 遊戲中使用 AI 軟體,而這兩名學生將 AI 軟體應用到 3D 射擊遊戲中。

就像人類玩家一樣,AI 軟體也是不斷地重複玩這個遊戲,一直到學習到如何殺死對手,這當中既包括電腦控制的角色,也包括人類玩家控制的角色。

其實,也有一些其他的團隊用 Doom 做了類似的東西,但這兩個學生不同的是,要據此發論文詳細論述其實現方法了,而論文目前處於同行審議階段。

他們在論文中提到:「通常,深度學習方法只是使用視覺輸入來訓練。我們使用了一種增強訓練模型的方法,來挖掘遊戲更多相關資訊,比如敵人和物品的特色資訊。我們的架構也進行了模組化,可以讓不同的模型,在遊戲的不同階段,獨立地進行訓練。」

學生開發 AI 機器人玩射擊遊戲,專家批評其在製造殺人機器

這項技術無疑令人印象深刻,然而批評也接踵而至,有人認為這項技術也能更有效地訓練出殺人機器,可能會變成未來機器人殺手的基礎。

「AI 正變得越來越真實。雖然到目前為止,AI 還只是在像素世界裡運行,但它確實引發了真實世界裡 AI 發展的問題。」未來學家 Dom Galgeon 說,「我們並不想將 AI 說成極度危險之物,但仍需要認真思考制定清晰合理的 AI 政策,包括其研究、開發和應用。」

今年 4 月,一份由人權觀察(非政府組織)和哈佛法學院共同撰寫的報告裡,呼籲禁止「殺手機器人」,在一段時間裡,應該對武器系統應用先進技術保持一定控制。

2015 年,一千多名技術和機器人專家,包括史蒂芬霍金、艾隆馬斯克和蘋果聯合創始人史蒂夫·沃茲尼克,警告說,AI 武器可能在幾年內就會被開發出來。在他們聯合署名一份公開信裡提到,如果有任何一個重大軍事力量推動自動化武器和機器人士兵的發展,那麼「不可避免地就會出現一場全球軍備競賽,最終的技術發展軌道就是:自動化武器將成為明天的 AK 系列步槍,蔓延至全世界。」

(本文由 愛范兒 授權轉載)

延伸閱讀: