在開始正式話題前，我們先來看一看十多年前人們對于人工智能的憂慮。在2004年由威爾·史密斯主演的《I, Robot》橫空出世引起了轟動。這個影片對未來人信賴不疑的機器人進行了深度刻畫。充斥于人類生產(chǎn)生活各個領(lǐng)域的機器人從一起兇殺案開始而對人類展開了激烈的報復(fù)。因而，當(dāng)人工智能發(fā)展到一定膨脹的程度，是否要賦予人工智能思維能力已經(jīng)成為一個倫理、法律問題。

當(dāng)然科幻影視僅是作為極其前瞻性的事物，替大多數(shù)人對未來這一技術(shù)的安全性作出了憂慮。人工智能AI技術(shù)作為未來計算機產(chǎn)業(yè)革命性產(chǎn)物，仍然為世界各國所趨之若鶩。人們對于AI未來是取代人還是成就人都一直在進行無休止的爭論。

對于人工智能對未來世界的利弊以及對未來力量格局的影響， 俄羅斯總統(tǒng)普京就在9月份發(fā)聲闡明了自己的觀點。

普京對AI的重視

在9月初，俄羅斯總統(tǒng)普京在雅羅斯拉夫爾市與學(xué)生的交談中提到，“人工智能（AI）技術(shù)蘊藏著巨大的機遇與不可預(yù)測的危險。未來世界誰能掌握最領(lǐng)先的人工智能技術(shù)誰就是世界的統(tǒng)治者”。普京還警告說，“未來戰(zhàn)爭各國將使用人工智能技術(shù)的無人機去打一場戰(zhàn)爭。而當(dāng)一方的無人機被另一方的無人機擊落時，除了投降別無選擇。”

在交談中，普京第一次將人工智能技術(shù)和原子能技術(shù)畫上了等號。并稱，“如果將來有人在AI方面贏得壟斷地位，那是非常不希望看到的。當(dāng)然，如果俄羅斯未來能成為人工智能領(lǐng)域世界領(lǐng)袖，也會像原子能一樣將這項技術(shù)與全世界分享。”

毋庸置疑，當(dāng)前人工智能技術(shù)已經(jīng)被世界各國列為國家發(fā)展戰(zhàn)略規(guī)劃。不僅俄羅斯非常重視“人工智能”的發(fā)展。同樣世界主要國家地區(qū)，例如中國、日本、美國、歐盟都制定了相關(guān)的人工智能發(fā)展規(guī)劃。可以預(yù)見，對于“人工智能”的發(fā)展將掀起一場堪比“工業(yè)革命”的激烈競賽。

同時，在轟轟烈烈的發(fā)展人工智能技術(shù)的浪潮中，也有不少質(zhì)疑人工智能是否安全的反對聲音。當(dāng)然，也不時出現(xiàn)人工智能、機器人的“反常”事件。這些事件雖然目前看來微不足道，但足以引起人的重視。

AI機器人“反常”事件

2017年7月份， 美國華盛頓港購物中心發(fā)生了一起“安保機器人溺水”事件。并一度被媒體解讀為機器人自殺事件，而事發(fā)機器人公司給予的解釋是機器人在巡崗時探測到常規(guī)路線有障礙，突發(fā)情況更換路線不慎跌落水池中。

2017年8月，F(xiàn)acebook 緊急關(guān)閉“失控”AI系統(tǒng)，因系統(tǒng)創(chuàng)造出人類無法理解的語言。這件事當(dāng)時引起了極大的震動，后來真相是研究人員創(chuàng)建了兩個聊天機器人，但忘記給神經(jīng)網(wǎng)絡(luò)設(shè)定“用正確英語語法”溝通的激勵。

2017年9月份，俄羅斯彼爾姆市Promobot機器人公司的一臺服務(wù)機器人受到俄羅斯總統(tǒng)普京的接見，原因是這臺名叫Promobot的機器人因在2016年試圖逃離試驗場跑到郊區(qū)大街上，在逃跑了50米電量耗盡后停止。

我們在這兒列舉這三件事，絕不是鼓吹人工智能威脅論。因為畢竟當(dāng)前人工智能與神經(jīng)網(wǎng)絡(luò)就技術(shù)的發(fā)展程度來看，雖然達(dá)到了一個令人驚喜的程度。但其衍生出來的圖像識別、語音技術(shù)的高精確度完全是人類編程調(diào)優(yōu)的結(jié)果?，F(xiàn)階段的人工智能還處于人類可控的范圍內(nèi)：它不知道自己是誰，也不知道自己在哪兒，更不清楚自己在干什么。

人工智能存潛在“威脅”

我們今天要討論的是，人工智能技術(shù)未來在信息技術(shù)和軍事等至關(guān)人類安全的重要領(lǐng)域會不會走向極端。也就是人工智能會不會被武器化的問題。在世界各國大跨步發(fā)展人工智能技術(shù)時，已經(jīng)形成了“人工智能支持論”和“人工智能威脅論”兩種不同的聲音。

近日，站隊“人工智能威脅論”的特斯拉創(chuàng)始人馬斯克發(fā)出了一份令人警醒的言論。9月13日，馬斯克在推特上轉(zhuǎn)一篇文章《黑客們已經(jīng)開始武器化人工智能》，講的正是人工智能在互聯(lián)網(wǎng)、信息技術(shù)方面的“威脅”。

在這篇文章中，有ZeroFOX兩位科學(xué)家通過實驗證明了，人工智能以每分鐘6.75條的速度向800多名用戶發(fā)送惡意鏈接。相比而言人類僅每分鐘1.075條推文向49名用戶發(fā)送了惡意鏈接。 這個實驗證明黑客已經(jīng)可以利用人工智能進行惡意攻擊。另外，在Black Hat 安全技術(shù)大會上，有62%的網(wǎng)絡(luò)安全工程師認(rèn)為，黑客會在未來一年內(nèi)利用人工智能攻擊互聯(lián)網(wǎng)。

馬斯克在9月初，在推特上提到過“戰(zhàn)爭可能不是由國家的領(lǐng)導(dǎo)人發(fā)動，而是由人工智能發(fā)動——只要它認(rèn)為先發(fā)制人的打擊是取得勝利最為有效的方式。”在8月份，馬斯克聯(lián)合谷歌DeepMind、丹麥Universal Robotics等116名人工智能行業(yè)高管向聯(lián)合國呼吁: 禁止發(fā)展致命性自動化武器，阻止高科技軍備競賽。

馬斯克提到這兒，我們就開始了一個不得不面對的話題。人工智能（AI）技術(shù)在軍事領(lǐng)域的發(fā)展。作為服務(wù)于國家安全、政治經(jīng)濟的軍事領(lǐng)域，其發(fā)展程度決定了某個國家在世界上的話語權(quán)。

目前世界主要大國，包括中國、美國、俄羅斯等國都在大力發(fā)展現(xiàn)代化電子軍事?；谌斯ぶ悄芗夹g(shù)的機器人已經(jīng)在用于特種作業(yè)、探測工作。各種軍用無人機、巡航導(dǎo)彈、遙感技術(shù)武器等均逐漸在裝備到自動化武器行列。作為事關(guān)人類和平的領(lǐng)域，人工智能在軍事領(lǐng)域的應(yīng)用要謹(jǐn)慎再謹(jǐn)慎。

不過可以預(yù)見的是，在未來關(guān)乎人們生活的領(lǐng)域，以及替代人從事機械、危險工作領(lǐng)域，人類會在AI技術(shù)發(fā)展成熟后賦予其復(fù)雜思維能力、甚至是情感邏輯能力。但是在關(guān)乎人類安全的信息技術(shù)和軍事領(lǐng)域，這樣做是不被允許的。