阿爾法工場(chǎng)股票大賽
馬薩諸塞州愛德華茲空軍基地——這架帶有六個(gè)嗡嗡轉(zhuǎn)動(dòng)的旋翼的小型無人機(jī)掠過一個(gè)仿造的中東村莊，靠近一個(gè)類似清真寺的建筑，它的攝像機(jī)在搜尋目標(biāo)。
沒有人在遠(yuǎn)程操縱這架無人機(jī)，它跟亞馬遜(Amazon)上賣的機(jī)器沒有太大差別。但是裝上先進(jìn)的人工智能軟件，它就變成了一個(gè)機(jī)器人，能夠找到并識(shí)別出村子各處那幾個(gè)手持仿真AK-47沖鋒槍、裝扮成叛亂分子的人。
在無人機(jī)微微降低高度時(shí)，一個(gè)紫色長(zhǎng)方形在實(shí)時(shí)視頻上閃爍，這段錄像當(dāng)時(shí)正被轉(zhuǎn)發(fā)給監(jiān)控此次測(cè)試的工程師們。無人機(jī)鎖定了一個(gè)藏在暗處的人，這展現(xiàn)出它高超的偵查能力，同時(shí)也是五角大樓變革軍事行為的計(jì)劃的可怕預(yù)演。
在國(guó)防圈子之外，幾乎沒有人注意到，五角大樓已經(jīng)把人工智能置于其維持美國(guó)全球主導(dǎo)軍事大國(guó)地位的戰(zhàn)略的核心。它正花費(fèi)數(shù)十億美元開發(fā)所謂的自動(dòng)化和半自動(dòng)化武器，建立軍火庫(kù)，存儲(chǔ)到目前為止僅存在于好萊塢電影和科幻小說中的那種武器，這些已經(jīng)引起了關(guān)注人工智能軍備競(jìng)賽隱患的科學(xué)家和活動(dòng)人士的警惕。
美國(guó)國(guó)防部正在設(shè)計(jì)可以和由人駕駛的飛機(jī)一起參加戰(zhàn)斗的自動(dòng)控制戰(zhàn)斗機(jī)。它已經(jīng)試射了可以自行確定打擊目標(biāo)的導(dǎo)彈，還建造了能不依賴任何人力就能在數(shù)千英里的范圍內(nèi)搜尋敵方潛水艇并跟蹤它們的船艦。
“如果斯坦利·庫(kù)布里克(Stanley Kubrick)導(dǎo)演重拍《奇愛博士》(Dr. Strangelove)，就會(huì)拿自動(dòng)武器說事，”麻省理工學(xué)院斯隆管理學(xué)院研究員邁克爾·施拉格(Michael Schrage)說。
國(guó)防部官員表示，美國(guó)需要這些武器來保持它相對(duì)于中國(guó)、俄羅斯和其他對(duì)手的軍事優(yōu)勢(shì)，這些國(guó)家也在投入大量資金進(jìn)行類似的研究(我們的盟國(guó)也是如此，比如英國(guó)、以色列)。根據(jù)五角大樓 的預(yù)算，在接下來的三年里，他們會(huì)花費(fèi)180億美元用于技術(shù)投資，其中包括與自動(dòng)武器相關(guān)的必要技術(shù)。
“中國(guó)和俄羅斯正在打造和我們的一樣好的作戰(zhàn)系統(tǒng)。他們可以看得和我們一樣遠(yuǎn);也能把制導(dǎo)彈藥發(fā)射得和我們一樣遠(yuǎn)，”一直在推動(dòng)自動(dòng)武器發(fā)展的國(guó)防部副部長(zhǎng)羅伯特·O·沃克(Robert O. Work)說�！拔覀冎皇窍氪_保，未來我們還能像過去一樣快地贏得戰(zhàn)爭(zhēng)�！�
正如工業(yè)革命帶來了飛機(jī)和坦克等強(qiáng)大而具有破壞性的機(jī)器，并削弱了士兵個(gè)人在戰(zhàn)斗中的角色，人工智能技術(shù)也使五角大樓重新調(diào)整了人和機(jī)器在戰(zhàn)場(chǎng)上的位置，就像它在通過能夠觀看、傾聽和說話的計(jì)算機(jī)，以及可以自動(dòng)駕駛的汽車改變?nèi)粘Ｉ钜粯印?/P>
這些新武器擁有人力無可匹敵的速度和 度，同時(shí)又能減少士兵和飛行員的人數(shù)及他們付出的代價(jià)——這些軍人在戰(zhàn)斗中有可能出現(xiàn)陣亡和傷殘的情況。五角大樓面臨的挑戰(zhàn)是確保這些武器是人類可靠的伙伴，而非潛在的威脅。
五角大樓設(shè)想的戰(zhàn)略轉(zhuǎn)變的核心，是一種被官員稱為半人馬作戰(zhàn)的概念，這個(gè)名字取自希臘神話中一種半人半馬的生物。該戰(zhàn)略強(qiáng)調(diào)將人工控制和自動(dòng)武器作為提高士兵、飛行員和海軍士兵的創(chuàng)造性，增強(qiáng)他們解決問題能力的辦法，而不是取代他們的工具。
在五角大樓的想象中，這些武器不太會(huì)像電影《終結(jié)者》(Terminator)，而更像漫畫超級(jí)英雄“鋼鐵俠”(Iron Man)，沃克在接受采訪時(shí)表示。
“外界存在很多有關(guān)機(jī)器人殺手和天網(wǎng)(Skynet)的擔(dān)憂，”沃克說道。后者是《終結(jié)者》中出現(xiàn)的殺人如麻的人工智能網(wǎng)絡(luò)。“我們?cè)O(shè)想的根本不是那樣。”
他還表示，在生死攸關(guān)的決策上，“永遠(yuǎn)會(huì)由人來決定�！�
不過，在五角大樓之外，有人深深懷疑一旦創(chuàng)造具有思考能力的武器的技術(shù)臻至完美，這樣的限制是否還會(huì)存在。
去年，數(shù)百名科學(xué)家和專家曾發(fā)公開信警告，研發(fā)哪怕最笨的智能武器也有可能引發(fā)全球軍備競(jìng)賽。他們?cè)谛胖懈嬲]，結(jié)果將是出現(xiàn)能夠取人性命、完全自主的機(jī)器人，它們價(jià)格低廉，有多么容易被各個(gè)大國(guó)獲取，就能多么輕易地被流氓國(guó)家和暴力極端分子獲得。
“自動(dòng)武器將成為明天的卡拉什尼科夫沖鋒槍，”信中寫道。
↑方內(nèi)部的爭(zhēng)論點(diǎn)已經(jīng)不再是是否研發(fā)自動(dòng)武器，而是賦予它們多大的自主權(quán)。空軍上將、美國(guó)參謀長(zhǎng)聯(lián)席會(huì)議(Joint Chiefs of Staff)副主席保羅·J·塞爾瓦(Paul J. Selva)最近表示，美國(guó)無意制造可以自行決定何時(shí)和對(duì)誰(shuí)發(fā)起攻擊的完全自主的機(jī)器人，就算有這樣的打算，實(shí)現(xiàn)這一技術(shù)也是十年之后的事。
在這件事上，其他國(guó)家并沒有遠(yuǎn)遠(yuǎn)落后于美國(guó)，很有可能某些人最終會(huì)試圖推出“終結(jié)者那樣的東西”，塞爾瓦說道。他提到了在任何有關(guān)自動(dòng)武器的討論中似乎都會(huì)被提及的東西。
但美國(guó)官員這才剛剛開始想辦法應(yīng)對(duì)有朝一日會(huì)脫離研發(fā)者控制、自主行動(dòng)的武器將會(huì)帶來的后果。在五角大樓內(nèi)部，這種左右為難的境況被稱為終結(jié)者難題。對(duì)于美國(guó)是該盡力簽署國(guó)際條約以禁止這類武器的研發(fā)，還是自行研發(fā)，以便能對(duì)付敵人可能會(huì)制造的此類武器，他們也沒有達(dá)成共識(shí)。
不過，從眼下看，當(dāng)前的最尖端科技的狀況確實(shí)沒那么令人恐懼。
證物A：看看今年夏天在科德角測(cè)試的小型無人機(jī)。它無法自動(dòng)開啟和起飛，必須由人發(fā)出指令，告訴它往哪里飛，以及尋找什么。不過一旦升空，它會(huì)自行決定如何執(zhí)行收到的命令。
這個(gè)項(xiàng)目是由美國(guó)國(guó)防高級(jí)研究計(jì)劃局(Defense Advanced Research Projects Agency，簡(jiǎn)稱DARPA)展開的，該機(jī)構(gòu)正在研發(fā)機(jī)器需要的軟件，以便它們能與少量陸軍或海軍陸戰(zhàn)隊(duì)士兵協(xié)同完成偵查任務(wù)或扮演其他角色。
與現(xiàn)在軍隊(duì)使用的全都需要有人遙控的無人機(jī)不同，“這種不需要遠(yuǎn)程控制，”DARPA的項(xiàng)目經(jīng)理、陸軍少�？死锼雇懈ァW爾沃夫斯基(Christopher Orlowski)說�！八湍阋黄鸸ぷ�，就像有另一個(gè)人在一起作戰(zhàn)�！�
給它配備武器也比較容易。棘手的部分在于，如何讓這些機(jī)器的行為足夠可預(yù)測(cè)，能被安全部署，同時(shí)又足夠靈活，能應(yīng)對(duì)不斷變化的情況。一旦實(shí)現(xiàn)這一點(diǎn)，告訴它對(duì)誰(shuí)或什么東西發(fā)起襲擊不成問題;設(shè)置成只對(duì)某些目標(biāo)進(jìn)行打擊的武器業(yè)已存在。
但是，如果這種行為技術(shù)被成功地研發(fā)出來，它不大可能只掌握在美國(guó)人手中。DARPA研發(fā)出的技術(shù)通常不會(huì)一直處在保密狀態(tài)，其中有許多現(xiàn)在已經(jīng)隨處可見，它們?cè)谕苿?dòng)包括無人駕駛汽車和互聯(lián)網(wǎng)在內(nèi)的一切事物向前發(fā)展。
外部專家們遠(yuǎn)沒有五角大樓那么確信，美國(guó)能通過使用人工智能來保持自己的優(yōu)勢(shì)地位。國(guó)防工業(yè)已經(jīng)不再像冷戰(zhàn)時(shí)期那樣推動(dòng)研究前進(jìn)，在機(jī)器學(xué)習(xí)技術(shù)的前沿領(lǐng)域，五角大樓也沒有什么壟斷優(yōu)勢(shì)，這些技術(shù)來自硅谷、歐洲和亞洲的創(chuàng)業(yè)公司。
與核武器或制導(dǎo)導(dǎo)彈需要的技術(shù)和材料不同，像五角大樓試圖掌握的那么強(qiáng)大的人工智能，已經(jīng)深深融入了日常生活。軍事技術(shù)往往比能在百思買(Best Buy)買到的產(chǎn)品的技術(shù)落后數(shù)年。
“老實(shí)講，在某些領(lǐng)域，美國(guó)國(guó)防工程承包商確實(shí)非常領(lǐng)先，但在有些方面，也確實(shí)十分落后，”38歲的F-35戰(zhàn)斗機(jī)飛行員布萊恩·希利(Brian Healy)少校說。F-35是美國(guó) 、同時(shí)也是技術(shù) 的戰(zhàn)斗機(jī)，配有聲控系統(tǒng)，但這種系統(tǒng)所能實(shí)現(xiàn)也不過是用語(yǔ)音指令改變通話頻道之類的小功能。
“如果能讓蘋果或谷歌公司參與研發(fā)一些軟件，那就太好了，”他接著說。
在這些實(shí)際層面的擔(dān)憂之外，日益先進(jìn)的自動(dòng)化和武器的結(jié)合，還在法律學(xué)者和倫理學(xué)家中引發(fā)了越來越激烈的爭(zhēng)論。問題多到數(shù)不清，答案卻并不確定：我們能放心地賦予機(jī)器致命的力量嗎?如果一個(gè)機(jī)器人襲擊一座醫(yī)院或一所學(xué)校，誰(shuí)來承擔(dān)過錯(cuò)?比起由人給予致命一擊，被一個(gè)機(jī)器人殺掉是對(duì)人類尊嚴(yán)更大的侵犯嗎?
五角大樓的一項(xiàng)指令要求自動(dòng)武器必須借用“適度的人類判斷”。科學(xué)家和人權(quán)專家稱這個(gè)標(biāo)準(zhǔn)太過寬泛，強(qiáng)烈要求將此類武器置于“明確的人類控制”之下。
但是，如果美國(guó)面對(duì)一個(gè)與它力量接近或相等、但卻使用全自動(dòng)武器的對(duì)手，還有什么標(biāo)準(zhǔn)是立得住的嗎?在華盛頓智庫(kù)機(jī)構(gòu)新美國(guó)(New America)研究關(guān)未來戰(zhàn)爭(zhēng)的專家彼得·辛格(Peter Singer)認(rèn)為，潛艇戰(zhàn)爭(zhēng)史上有一些可供參照的類似情況。
⊥像自動(dòng)武器一樣，潛水艇也是從科幻小說中的想象突然變成了現(xiàn)實(shí)。在第一次世界大戰(zhàn)期間，德國(guó)曾在沒有首先確保船員和乘客安全的情況下，用潛艇擊沉多艘民用船只，這被看作野蠻的行為。此種做法很快以無限制潛艇戰(zhàn)的名字為人所知，并或多或少地促使美國(guó)加入了戰(zhàn)爭(zhēng)。
一戰(zhàn)結(jié)束后，美國(guó)幫助達(dá)成了一項(xiàng)國(guó)際協(xié)議，試圖禁止無限制潛艇戰(zhàn)。
后來，日本在1941年12月7日襲擊了珍珠港。那一天，美國(guó)只用6個(gè)小時(shí)便將維持幾十年的法律和道德準(zhǔn)則拋在一邊，下令對(duì)日本發(fā)起無限制潛艇戰(zhàn)。在二戰(zhàn)期間一些后來被認(rèn)為無異于戰(zhàn)爭(zhēng)罪行的戰(zhàn)斗中，美國(guó)潛艇摧毀了大量日本民用商船。
“重點(diǎn)是，當(dāng)潛艇不再是一項(xiàng)新技術(shù)而我們又在失利，會(huì)發(fā)生什么，”辛格說。他接著講道：“然后再想想機(jī)器人，想想在一種不同的戰(zhàn)爭(zhēng)中，我們現(xiàn)在說自己不會(huì)做的那些事�！�
投稿郵箱：chuanbeiol@163.com 詳情請(qǐng)?jiān)L問川北在線：http://www.sanmuled.cn/
