“我見過的事，你們?nèi)瞬粫嘈拧！痹陔娪啊躲y翼殺手》(Blade Runner)末尾，魯特格爾?豪爾(Rutger Hauer)飾演的反派將哈里森?福特(Harrison Ford)飾演的角色拉回屋頂，饒了他一命，然后說出了這句話。在這句話里，“人”是最重要的字，因為羅伊?巴蒂(Roy Batty)不是人類，他是個機器人。他從太空殖民地逃到地球，向自己的創(chuàng)造者“泰勒公司”(Tyrell Corporation)實施報復。

　　這才是我認為的“殺手機器人”(killer robot)，一個在消滅你之前，能與你進行一場高智商談話的存在。電影《銀翼殺手》改編自菲利普?迪克(Philip K. Dick)的反烏托邦奇幻小說《機器人會夢見電子羊嗎?》(Do Androids Dream of Electric Sheep)。影片上映于1982年，當時它還是一部科幻電影，如今卻有點像真的，反正對于人工智能研究人員來說已經(jīng)足以成真了，前不久他們警告要謹防出現(xiàn)自主式武器軍備競賽的危險。

　　包括特斯拉汽車(Tesla Motors)創(chuàng)始人埃倫?穆斯克(Elon Musk)、理論物理學家斯蒂芬?霍金(Stephen Hawking)在內(nèi)，這些專家們所擔心的殺人機器，與《銀翼殺手》里的“連鎖”(Nexus)復制人相比的話，只是原始級別的終結(jié)者。《銀翼殺手》里的瑞秋(Rachael)開槍殺死哈里森?福特的敵人時，這位男主公愛上了她——瑞秋是個女機器人，她并不知道自己是復制人。但是當一臺配備武器的四軸飛行器干掉敵方士兵時，沒人會愛上它。

　　機器人可以殺死我們，但它們無法理解我們。自主式殺人機器正在成為現(xiàn)實，以色列已經(jīng)擁有了哈比(Harpy)反雷達無人機，它可以在空中漫無目的地飛行，然后自主選擇目標并加以摧毀。但是想創(chuàng)造出一架具備常識，能理解人類情緒，預測人類行為，擁有感知能力的復雜機器，仍是個遙遠前景。

　　理論上講，這種機器人是能造出來的。人工智能研究人員看不到任何原則上的障礙，阻止機器人發(fā)展出更高水平的推理能力，或是人類那種靈活的身體。汽車裝配線上目前僅剩下能夠敏捷地擰螺絲的工人，以及一些能夠到車身外殼里焊電線的工人，機器人暫時還無法勝過他們。

　　機器還占有一定的優(yōu)勢。它們不必為了適合顱骨大小而壓縮處理裝置，它們也不需要氧氣供應——這是個高度耗能的技術。它們的再造也不受進化法則限制，完全可以變得越來越聰明。

　　但盡管機器在學習、視覺及語音識別、神經(jīng)網(wǎng)絡處理(這些元素都在改變?nèi)斯ぶ悄艿臐摿?方面發(fā)展迅速，機器人還是不能理解人類。計算機可以在國際象棋上輕松擊敗人類，但它們玩不了最高水平的撲克牌游戲，因為它們得看穿對手的虛張聲勢。

　　斯坦福大學(Stanford University)人工智能實驗室主任李飛飛說：“計算機在感知任務上正變得越來越好。它的算法已經(jīng)能識別數(shù)千種汽車，而我只能認出三種。但在認知、同理心和情感層面，機器還無法接近人類。”

　　我也經(jīng)歷過一些事，你們這些人不會相信——谷歌的無人駕駛汽車。最近我坐著它游覽了加州的山景城，震驚地發(fā)現(xiàn)它感覺上就像人類。它自信地，甚至是果斷地從交叉路口加速，縮小與前方車輛的距離，讓其他車輛無法插入。如果所有司機都能這樣冷靜和理性，我們的生命會更安全。

　　在谷歌無人駕駛汽車里，你可以看到它如何用傳感器和車頂雷達進行感知。一位谷歌工程師手持一臺筆記本電腦，行人、公交車和其他車輛等周圍物體的輪廓呈現(xiàn)為空心的、移動的圖形顯示在屏幕上。這些物體按照不同顏色分類，因此無人駕駛汽車知道該對它們作出反應，以及該從多遠避開。

　　換言之，如果你在自動駕駛汽車的車頂安裝一個導彈發(fā)射器，并且在車身兩側(cè)裝上機槍(當然啦，這并不是說谷歌會干這種事)，它完全能化身“殺手機器人”。它可以悠閑地穿越城市，掃描搜尋有熱度的、緩慢移動的粉紅色目標加以摧毀。

　　因此，科學家們警告人工智能研究領域存在與自主武器相結(jié)合的情況，并非是危言聳聽。互聯(lián)網(wǎng)本身就發(fā)源于美國國防部在上世紀60年代資助的研究課題，而且在開發(fā)尖端技術方面，軍事和航天計劃擁有最雄厚的財力和最強烈的興趣。要有多蠢，才會認為“殺手機器人”的出現(xiàn)就意味著機器將接管全世界。

　　破壞事物比理解或創(chuàng)造事物更容易。人工智能(掃描、處理和分析大型數(shù)據(jù)集的能力)并不等同于“強人工智能”(artificial general intelligence)，后者才具有執(zhí)行大多數(shù)人類任務的能力。

　　一些人警告說機器將搶走目前由人類完成的工作，但就連他們也同意，管理、專業(yè)和藝術工作仍然是安全的，因為這些工作需要具備高水平的推理能力、同感能力以及創(chuàng)造能力。機器人的能力仍非常有限，它可以通過掃描一系列特征來識別一個女人，卻無法體會她的情緒，也無法運用常理來解決意料之外的難題。

　　羅伊?巴蒂已經(jīng)在對決中戰(zhàn)勝了人類賞金獵人，卻又在對手墜下屋頂時伸手救了他一命。接著他對賞金獵人說道：“活在恐懼里的滋味不好受吧?這就是當奴隸的感受。”我們千萬不要讓自己淪為奴隸。

　　譯者/彩云