《機(jī)械姬》：道德啟示錄

現(xiàn)實(shí)世界中的智能技術(shù)讓我們習(xí)慣于它們的存在，我們已經(jīng)不會(huì)再為智能機(jī)器人的面世而感到驚訝。當(dāng)今年德國(guó)大眾公司的一名技術(shù)工人因不明原因喪生于流水線(xiàn)作業(yè)機(jī)器人時(shí)，或許我們可以重新審視一下，看看我們創(chuàng)造的智能技術(shù)將帶給我們什么。技術(shù)超越人的控制范圍，人類(lèi)的未來(lái)，或許可以在電影作品中窺見(jiàn)端倪。從現(xiàn)實(shí)角度來(lái)看，2015年由亞歷克斯·加蘭（Alex Garlad）編劇執(zhí)導(dǎo)的科幻電影《機(jī)械姬》將人與智能機(jī)器人的探討往前推進(jìn)了一步。沒(méi)有諸如《終結(jié)者》的大場(chǎng)面打斗、沒(méi)有《機(jī)械公敵》的絢麗特效、也沒(méi)有《人工智能》中對(duì)人情冷暖的描繪，在這部以封閉場(chǎng)景、大量對(duì)白的作品里，導(dǎo)演從一開(kāi)始就力圖構(gòu)建一個(gè)異常冷靜的世界，在這個(gè)世界中，沒(méi)有龐雜的世界觀(guān)圍繞其間。故事的起點(diǎn)與終點(diǎn)都圍繞一場(chǎng)實(shí)驗(yàn)展開(kāi)，透過(guò)這場(chǎng)實(shí)驗(yàn)，作為帶有生物特征的人類(lèi)與自己創(chuàng)造的、攜帶人工智能的機(jī)器人將進(jìn)行一場(chǎng)理性與感性的博弈，就如導(dǎo)演本人所言，在這個(gè)故事中，“充斥著心計(jì)、謀略，劇中的每一個(gè)人（包括人工智能機(jī)械體）都在彼此欺騙”。

圖靈測(cè)試帶來(lái)的道德困境

熟悉科幻題材的人不會(huì)對(duì)圖靈測(cè)試這一概念感到陌生，它的提出者為阿蘭·麥席森·圖靈（Alan Mathison Turing），其大致內(nèi)容為：如果電腦在5分鐘內(nèi)回答人類(lèi)測(cè)試者提出的多種問(wèn)題，且超過(guò)30%的回答讓人誤以為是人類(lèi)所答，則電腦通過(guò)測(cè)試。換句話(huà)說(shuō)，這項(xiàng)測(cè)試的目的在于驗(yàn)證電腦是否具備獨(dú)立的“思維能力”。技術(shù)的發(fā)展當(dāng)然不會(huì)讓人類(lèi)僅僅滿(mǎn)足于機(jī)械電腦帶來(lái)的程序便捷，因?yàn)檫€有比它更令人感到直接的存在——人工智能。在《機(jī)械姬》開(kāi)場(chǎng)，我們看到了一個(gè)離我們并不算遙遠(yuǎn)的未來(lái)世界，那個(gè)世界所運(yùn)用的技術(shù)和我們?nèi)绱讼嘟瑸槲覀冞M(jìn)一步走進(jìn)并相信兩個(gè)世界的相似性打下了良好的心理契機(jī)。導(dǎo)演艾利克斯說(shuō)：“我從很小的時(shí)候便開(kāi)始接觸計(jì)算機(jī)，雖然那時(shí)的設(shè)計(jì)并不復(fù)雜，但它讓你感到電腦對(duì)你輸入的指令的回應(yīng)似乎有所感知，盡管那是人為設(shè)計(jì)的，但那種感覺(jué)仍舊奇妙。而現(xiàn)在，如果我們被告知有某家大公司即將推出一款人工智能機(jī)器人，我們將不會(huì)為此感到新奇，因?yàn)槟菍?duì)我們來(lái)說(shuō)似乎并不遙遠(yuǎn)?！币苍S正是帶著這樣的認(rèn)知，才讓他創(chuàng)造出了一個(gè)離現(xiàn)實(shí)社會(huì)并不遙遠(yuǎn)的未來(lái)世界。也因此，影片中人物的遭遇才更能激發(fā)當(dāng)下人們對(duì)于人工智能的諸多反思。

從技術(shù)型的角度來(lái)講，身兼搜索引擎公司CEO與人工智能機(jī)器人愛(ài)娃（Ava）的開(kāi)發(fā)者內(nèi)森（Nethan）讓自己的實(shí)驗(yàn)在圖靈測(cè)試的基礎(chǔ)上更進(jìn)了一步，他選擇讓測(cè)試者嘉立（Caleb）與愛(ài)娃在強(qiáng)化玻璃兩側(cè)面對(duì)面進(jìn)行交流。在觀(guān)察室中，愛(ài)娃與嘉立的位置關(guān)系頗有講究，受試體愛(ài)娃可以在房間中以270度來(lái)回走動(dòng)，相反，嘉立除了身后的門(mén)，留給他的立方體玻璃空間并不算大。這種位置關(guān)系暗示了嘉立與人工智能體的深層關(guān)系。在起步階段的測(cè)試中我們可以明顯感受到兩人初次見(jiàn)面的心理特征，很顯然，嘉立并沒(méi)有辦法像愛(ài)娃那樣安定自若，他多少有些局促，并在其后的測(cè)試中為愛(ài)娃捕獲?？臻g帶來(lái)的束縛對(duì)于愛(ài)娃來(lái)說(shuō)同樣成立。因?yàn)榧瘟㈦x開(kāi)觀(guān)察室便可以擁有自由的活動(dòng)空間，而愛(ài)娃則只能在有限的空間內(nèi)接受測(cè)試。這種相對(duì)的空間矛盾為二人接下來(lái)的交流進(jìn)行了暗示。對(duì)于空間的訴求開(kāi)始在二人間輪流產(chǎn)生：一方面，愛(ài)娃迫切想要到觀(guān)察室以外的地方走走。另一方面，通過(guò)與愛(ài)娃的交流，嘉立逐漸認(rèn)識(shí)到人類(lèi)的缺陷并產(chǎn)生自我身份認(rèn)知障礙。他承受著人工智能對(duì)自我存在意義的挑戰(zhàn)，尋找自我認(rèn)同則是他內(nèi)在心靈空間的根基所在。對(duì)于觀(guān)眾而言，能否理所當(dāng)然的把人工智能機(jī)器人進(jìn)行軟禁就成為了一個(gè)道德問(wèn)題。在導(dǎo)演加蘭看來(lái)，“如果你創(chuàng)造了有意識(shí)的機(jī)器，這機(jī)器就和我們（人類(lèi)）有一樣的權(quán)利?！倍@也成為內(nèi)森與嘉立之間的根本分歧所在。

分歧很快圍繞愛(ài)娃是否具備獨(dú)立意識(shí)得到體現(xiàn)。在實(shí)驗(yàn)開(kāi)始不久，嘉立認(rèn)為愛(ài)娃的言行部分表明了其潛在的自我意識(shí)覺(jué)醒，而不是單純的數(shù)據(jù)擬真。于是，就有關(guān)它是否能夠被當(dāng)做“人”看待時(shí)，納森認(rèn)為，人工智能機(jī)械體終究是被創(chuàng)造的，他可以在必要時(shí)隨時(shí)改變自己的作品。而嘉立通過(guò)數(shù)次實(shí)驗(yàn)后開(kāi)始傾向相信愛(ài)娃具備的個(gè)體價(jià)值，并開(kāi)始嘗試幫助它逃離閉鎖的觀(guān)察室。如此一來(lái)，這個(gè)一開(kāi)始以測(cè)試愛(ài)娃是否具備獨(dú)立思考能力的實(shí)驗(yàn)開(kāi)始更進(jìn)一步地往道德領(lǐng)域方面延伸。影片讓兩個(gè)持有不同論點(diǎn)的人做出了他們的選擇，然而諷刺的是，他們最終都被自己所認(rèn)為的現(xiàn)實(shí)背叛。

順從到反制：理智與情感的博弈

從很早開(kāi)始，人類(lèi)便表現(xiàn)出對(duì)機(jī)器人的不信任。在一些小說(shuō)中，人類(lèi)最終淪為機(jī)器人的奴隸，并最終被機(jī)器人取締。發(fā)展到當(dāng)下，不少電影作品也都對(duì)智能機(jī)器人統(tǒng)治人類(lèi)的末世進(jìn)行了不同程度的渲染。其中，《黑客帝國(guó)》三部曲中的機(jī)器人更是發(fā)展到科技程度超越人類(lèi)的地步。而對(duì)于智能機(jī)器人的看法，英國(guó)著名學(xué)者史蒂芬·霍金（Steven Hawking）就曾預(yù)言“人工智能的完全發(fā)展將終結(jié)人類(lèi)，它將自我提升，不斷加速自我設(shè)計(jì)，而受限于緩慢生物進(jìn)化的人類(lèi)無(wú)法與之抗衡，將被其取代?！?/p>

關(guān)于人類(lèi)與智能機(jī)器人的關(guān)系，在《機(jī)械姬》中導(dǎo)演以更加趨于現(xiàn)實(shí)的手法表現(xiàn)出來(lái)。有人認(rèn)為，西方在表現(xiàn)有關(guān)機(jī)器人題材的影片時(shí)，保留了二者在刻意疏離與對(duì)立過(guò)程中“人”的尊嚴(yán)，并掩飾了對(duì)技術(shù)的恐懼。這在故事發(fā)展的后期體現(xiàn)尤為明顯。主角之一的嘉立通過(guò)多番接觸后開(kāi)始認(rèn)同愛(ài)娃的存在，并相信它擁有獨(dú)特的個(gè)性與情感，并逐漸沉溺其中。在與內(nèi)森的一次對(duì)話(huà)中，嘉立被對(duì)方明確告知愛(ài)娃的設(shè)計(jì)超過(guò)了一般意義的智能機(jī)器人水平，它已經(jīng)具備了自我意識(shí)。這次談話(huà)成為整個(gè)故事的轉(zhuǎn)折點(diǎn)，從這一刻開(kāi)始，嘉立更加確信愛(ài)娃應(yīng)該得到和一名普通人同樣權(quán)利的資格。他那聰明、但多少顯得有些缺少人情味的老板內(nèi)森卻仍舊只是把其視為一具實(shí)驗(yàn)品。

這里涉及一個(gè)有趣的命題，它在眾多同類(lèi)題材的電影中被提及，即，機(jī)器人應(yīng)該擁有和人一樣的權(quán)利嗎？無(wú)論是《人工智能》的機(jī)器人男孩，亦或是《機(jī)械公敵》中的智能人形管家NS-5，他們與人類(lèi)的關(guān)系可能呈現(xiàn)和諧狀態(tài)嗎？江曉原在對(duì)待這機(jī)器人是否應(yīng)當(dāng)獲得人權(quán)時(shí)認(rèn)為，人的資格獲取途徑有兩個(gè)，一為物種劃分，二為文化區(qū)分。在第二類(lèi)情況里，他表示凡是掌握了人類(lèi)文化，就可以躋身人類(lèi)之列。如此一來(lái)，稱(chēng)愛(ài)娃為“人”似乎就顯得合乎道理了，身為人工智能體的它正是來(lái)自于人類(lèi)科技文明。它的非生命體特征并不能掩蓋它使用人類(lèi)文明（語(yǔ)言、文字、繪畫(huà)等多種與測(cè)試者互動(dòng)的方式）進(jìn)行自我表達(dá)的事實(shí)。然而《機(jī)械姬》在另一個(gè)方面也在嘗試著向我們展示，如果人工智能的情感表達(dá)并非源自程序的隨機(jī)演算，而是來(lái)自于自我意識(shí)，那么如何判斷這份情感的真實(shí)性？

在電影《機(jī)械姬》中，受邀前往納森秘密實(shí)驗(yàn)室的嘉立最終選擇帶愛(ài)娃逃離。他認(rèn)定愛(ài)娃具備“愛(ài)”的能力，并因此陷入生命體與機(jī)械體之間的情感交流禁區(qū)。受到愛(ài)娃的請(qǐng)求，嘉立在人與智能機(jī)體的差異認(rèn)知方面開(kāi)始出現(xiàn)動(dòng)搖。這種動(dòng)搖成為區(qū)別于他與人工智能間的阿卡利斯之踵，并很快在故事的結(jié)尾得到驗(yàn)證。他所謂的正義、道德，在納森的推敲下顯得蒼白無(wú)力，這個(gè)人物的最終命運(yùn)也將因?yàn)樗钠焚|(zhì)而被擊碎——盡管通過(guò)手段讓愛(ài)娃最終逃離了實(shí)驗(yàn)室，但嘉立自己卻被永久留在了實(shí)驗(yàn)室。重獲新生的愛(ài)娃似乎并不像嘉立看起來(lái)那般對(duì)自己心懷情愫，它只是單純渴望自由。而嘉立則悲劇性地成為它逃往外部世界的一塊跳板——這是《機(jī)械姬》中對(duì)于“機(jī)器人是否應(yīng)當(dāng)具有人權(quán)”這一命題的回應(yīng)，也是影片在探討人與機(jī)器人的關(guān)系中，人對(duì)理性與情感處理的內(nèi)在反省。

《機(jī)械姬》帶給了我們什么

談到創(chuàng)作初衷，導(dǎo)演加蘭說(shuō)：“從我個(gè)人來(lái)看，這部電影不應(yīng)該是一個(gè)關(guān)于人工智能的警示故事。我們應(yīng)該警惕的是人類(lèi)——人類(lèi)本身讓我產(chǎn)生的焦慮甚于人工智能，因?yàn)槟承┓矫鎭?lái)看，人工智能甚至比人類(lèi)更加理性”。毫無(wú)疑問(wèn)，《機(jī)械姬》所要表現(xiàn)的主題與導(dǎo)演的思路并無(wú)二致。在這部觀(guān)眾能強(qiáng)烈感受到理性對(duì)弈的作品中，人類(lèi)因?yàn)樽载?fù)和不加克制的欲望而最終被人工智能超越。飾演智能機(jī)器人愛(ài)娃的瑞典女演員艾麗西亞·維坎德（Alicia Vikander）表示：“既然我們能夠創(chuàng)造出有‘意識(shí)’的事物，我們?yōu)槭裁床唤邮芩麄兡鼙任覀兏鼉?yōu)秀呢？”《機(jī)械姬》的出現(xiàn)不單單重復(fù)了以往同類(lèi)作品已經(jīng)出現(xiàn)過(guò)的主題。它還引導(dǎo)我們?nèi)ニ伎既斯ぶ悄艿拇嬖谝饬x與可能，如果在不久的將來(lái)，人工智能依靠其龐雜的數(shù)據(jù)庫(kù)進(jìn)行自我進(jìn)化，并脫離控制，如何防患于未然？影片的答案隨著愛(ài)娃融入都市人流一并消失，正如同內(nèi)森有關(guān)人工智能發(fā)展趨勢(shì)的論述。在他看來(lái)，高度人工智慧的問(wèn)世只是時(shí)間問(wèn)題，制造愛(ài)娃并不是決定，而是發(fā)展。從宏觀(guān)來(lái)看，這個(gè)發(fā)展是一柄雙刃劍，因?yàn)樗苍S在賦予人更多技術(shù)便利的同時(shí)，于無(wú)形之中讓人類(lèi)迷失其間?？纯磿r(shí)下人們使用的智能手機(jī)，也許那會(huì)是一個(gè)很好的例證。

本文來(lái)源：http://m.xwlcp.cn/w/xf/9501.html 《視聽(tīng)》