【神秘學院002】萬一人工智能注入軍事設備，無人機是否會變成自主獵殺的武器？

太空軍備早於根列時代發展，當年天馬行空的「星戰計劃」跨越逾三十載，可肯定不少概念已變成落地實行的項目。反衛星防禦系統具備追踪、識別目標的功能，在採取相應行動前，需要地面人員的確認和授權。但不難想像不久的將來，當人類在地球度過閒適的周末時，頭上萬里之外，具備自主學習能力，非完全由人類支配的衛星們正鬥得激烈，以其比創造者更快速精準的判斷參與戰爭。

事實上無人裝置發動攻擊的歷史，最早可追溯至二次大戰時代，當年德軍就以以電纜遙距控制名為「Goliath」的自動化坦克，這坦克能攜帶高達100公斤炸藥，除炸毀敵方設施外，更可於必要時自我摧毀。

來到近代美軍的MQ-1「Predator」，則可謂近代無人機發動攻擊的始祖，在2001年阿富汗之役發射兩枚「Hellfire」飛彈，成功擊斃拉登左右手，阿蓋達二號人物阿提夫而名震天下。自此收集情報的無人機，躍升為戰事中集偵察與攻擊於一身的主要角色。

然而上述的武器，當中的「無人」僅是沒有人的實體存在，最終發動攻擊的決策仍然依賴人的判決。要給予武器多大的「自決」，從而成為真正的「Autonomous Weapon」，一直是軍事界極具爭議的題目。情理上，科技發展不應設限，研發替代人類上戰場的更高智能系統勢在必行，但在追求更高智能的路上，人類的貪婪和自視過高，正將事情導向不能逆轉的道路上。

2015年，一封全球觸目的連署信在國際人工智能聯合會議上發表，內容警告人工智能一旦投入軍備競賽，後果堪虞，各國應全力抵製「自主武器」的生產。信的下款包括物理學家霍金、Tesla 創辦人Elon Musk、Google的人工智能首席執行官Demis Hasabis等等，引起了各方面的風潮，其中一部2017年在YouTube播映的美國短片《Slaughterbots》，成功呼籲各界對自主武器的關注。

內容為一架最新發表的人工智能殺手機械人，外觀如同手掌大小的迷你無人機（Drone），功能也具備常見的內置相機、感應器及臉容識別功能（Facial Recognition），但最焦點是裝置了達三克重的爆破炸藥（shaped explosive），發表會的舞台上放了一位示範用的假人，這個殺手機械人瞬間飛向假人、執行臉部辨識、扣下扳機，只用不到 三秒的時間就完成這項刺殺任務，令在場懷抱參政理想的大學生目定口呆。

接下來好幾架無人機一窩蜂地飛了進來，令教室瞬間變成了人類屠宰場，這些倉皇逃命的學生一個個被擊斃，也代表他們腦袋裡的各種思想也一併被消滅。若「致命自主武器系統」（Lethal Autonomous Weapons Systems）無限制發展，這樣的日子還會遠嗎？如今臉部、指紋、聲音辨識在生活中隨處可見，當這類技術被整合當做殺人武器時，足以能夠迅速毀滅大量人口，如同《Terminator》電影系列的Hunter Killer Drone。

這部精緻的偽紀錄片呼籲對自主武器的關注，我們務必要知道，現在還有機會阻止在影片中所見的未來，但同時這些空間正不斷收窄甚至關閉，讓人工智能選擇性地殺人，對人類的安全與自由會是一項巨大的傷害。可惜，現在美國科技巨頭聯手不斷向白宮撰寫報告，強調美國應啟動人工智能武器研究，對抗其他國家的雄心及潛在威脅，這些提議代表甚麼？最先看到的可能是連場「不負責任的」軍備競賽。