上一篇： 自我意識是人類的基本屬性
下一篇： 注意！人已成為他們工具的工具
即使是用最簡單的電腦系統(tǒng)，也能輕而易舉地給人類帶來一次強烈的情感經(jīng)歷。最早的類似經(jīng)驗也許就是關(guān)于伊萊扎（Eliza）的事例 [1] ，這是一套由麻省理工學(xué)院的電腦科學(xué)家約瑟夫·魏澤爾巴姆（Joseph Weizenbaum）開發(fā)的電腦程序。伊萊扎是一套簡單的程序，按照程序員（最初是魏澤爾巴姆）預(yù)先準備的少量對話腳本來運行。伊萊扎可以根據(jù)腳本上準備的話題和人進行互動。例如，當(dāng)你開始執(zhí)行這個程序時，它會向你問候：“你好，我叫伊萊扎，有什么需要幫忙嗎？”
如果你輸入這樣的回答：“我很關(guān)注世界上日益加劇的暴力行為。”伊萊扎會回應(yīng)道：“你關(guān)注世界上日益加劇的暴力多久了？”這是一個挺適合的問題，因此通常會這樣回答：“大約從幾個月前開始。”然后，伊萊扎會回答道：“請繼續(xù)。”
你可以想象得出你是如何被這樣的對話所吸引：你關(guān)注的問題得到了共鳴。不過，伊萊扎不理解這些語言，它只是找到相應(yīng)的模式，并做出適當(dāng)?shù)幕貞?yīng)（當(dāng)它遇到不能識別的模式時，它就會回答“請繼續(xù)”）。因此，愚弄伊萊扎是很容易的，只要輸入“我關(guān)注abc、def和ghi的事情”，伊萊扎會忠實地回答道：“你關(guān)注abc、def和ghi的事情多久了？”
伊萊扎只能識別出“我關(guān)注某某某”這樣的短語，在根本不理解它的意思的情況下，回答道：“你關(guān)注某某某多久了？”
大多數(shù)人都會認真地對待伊萊扎，并不會刻意地欺騙它。他們會認真地對待每一個回答，還會仔細思考其中隱含的意思。因此，他們有時會在深入的哲學(xué)討論中發(fā)現(xiàn)自我，或者會與那個最受歡迎版本的伊萊扎討論他們最隱私的秘密，在該版本中，伊萊扎被編寫成像心理醫(yī)生一樣。
在20世紀60年代中葉，我的一位老朋友兼研究伙伴丹尼爾·博布羅（Daniel Bobrow）是BBN的研究科學(xué)家。BBN是一家位于馬薩諸塞州劍橋市從事人工智能、電腦網(wǎng)絡(luò)和聲學(xué)研究的公司。博布羅告訴我，一位程序員為了讓伊萊扎在BBN的電腦上運行，一直奮戰(zhàn)到星期六凌晨5點，然后回家，讓程序繼續(xù)在電腦上運行。（在那個年代——當(dāng)時是1966年——大家對于個人電腦根本聞所未聞，只有最先進的公司，例如BBN，才會提供電腦給員工使用，這也是為什么程序員必須在晚上加班，以爭取時間使用電腦。）
星期六上午，博布羅所在部門的副總回到公司向客戶展示這臺電腦。他看到電腦正在運作，便以為是博布羅在家操控這臺電腦，于是“決定選用‘明顯’的溝通模式”與他交談。因此，副總在電腦上輸入了一些問題，但當(dāng)時博布羅正在家里睡覺。實際上和副總交談的是伊萊扎，而副總卻以為這些回答來自博布羅。在那個年代，電腦的功能還不是很強大，伊萊扎程序判斷一個人是否說完一句話的唯一方法就是找出句號。在最后一行對白之前，副總每句話說完都打上句號，但是最后一行他省略了。結(jié)果，電腦一直在等待更多的詞語輸入，因而沒有回答。博布羅告訴我：“這激怒了副總，他認為我在耍他，于是打電話給我，把我從睡夢中吵醒，他對我說：‘你為什么對我這么無禮？’我不解地問：‘為什么你說我對你無禮？’”接著，博布羅告訴我：“那位副總生氣地給我讀‘我們’之間的對話，我在這邊笑而不語，過了一段時間他才相信和他對話的真的是電腦。”
正如博布羅在我跟他討論這種互動時告訴我的那樣：“你可以看到他很在乎別人對他所提出問題的回答，他覺得我的意見影響了他的情緒。”我們都非常信任別人，這讓我們很容易被愚弄，在我們沒有被認真對待時，我們會感到非常生氣。
伊萊扎之所以具有如此強大的影響力，與我在第五章論述的人類傾向性有關(guān)，人類相信任何智慧式的互動都必須由人類或至少是智慧生命發(fā)起，也就是擬人化。此外，因為我們信任別人，所以我們常常會認真對待這些互動。伊萊扎是很久以前編寫的程序，但是它的創(chuàng)作者約瑟夫·魏澤爾巴姆卻對這么多人認真對待和這個簡易系統(tǒng)之間的互動而感到震驚。他因為擔(dān)憂而寫了《計算機威力與人類理性》（Computer Power and Human Reason ） [3] 這本書，書中他非常中肯地指出，這些淺顯的互動對人類社會是有害的。
自從編寫了伊萊扎以后，我們已經(jīng)取得了長足的進步?，F(xiàn)在的電腦比20世紀60年代的要強大數(shù)千倍，更重要的是，我們對人類行為和心理的了解也取得了明顯進步。因此，我們現(xiàn)在編寫的程序和制造的機器人并不像伊萊扎那樣，而是擁有真正的理解能力，可以展露真實的情感。不過，這并不意味著我們已經(jīng)擺脫了魏澤爾巴姆擔(dān)心的事情。接下來，我們一起來看看克斯梅特（Kismet）吧。
圖6.6 [4] 是克斯梅特的照片，它是由麻省理工學(xué)院人工智能實驗室的研究小組開發(fā)出來的，在辛西婭·布雷齊爾的《設(shè)計善于交際的機器人》（Designing Sociable Robots ） [5] 一書中有詳細的報告。
我在前面論述過，即使完全不理解一種語言，也能感知談話時的潛在情緒。生氣、責(zé)備、懇求、安慰、感激和贊揚的聲音都具有獨特的音調(diào)和頻率。我們可以判斷出別人正處于哪種情感狀態(tài)，即使他們說的是外語。我們的寵物也經(jīng)?？梢酝ㄟ^我們的身體語言和聲音中的情感模式來感知我們的心情。
克斯梅特利用這些線索來探測與其互動的人的情感狀態(tài)。
克斯梅特以攝影機充當(dāng)眼睛，以麥克風(fēng)充當(dāng)耳朵?？怂姑诽負碛幸惶追浅＞軓?fù)雜的結(jié)構(gòu)，用于詮釋、評估和回應(yīng)外界環(huán)境。如圖6.7所示，它結(jié)合了感知、情感和注意力來控制自己的行為。如果你走向克斯梅特，它會把臉轉(zhuǎn)向你，用眼睛直視著你。但是，如果你只是站在那里，動也不動，它會覺得無聊而東張西望。如果你說話，它會對聲音的情感音調(diào)特別敏感，對鼓勵性的、有益的贊揚表現(xiàn)出很有興趣和很高興，而對責(zé)備感到羞愧和悔恨?？怂姑诽氐那楦惺澜绾茇S富，它還可以移動頭部、脖子、眼睛、耳朵和嘴巴來表達情緒。悲傷的時候，它的耳朵會低垂著；興奮的時候，它會振作起來；不開心的時候，它會聳拉著頭和耳朵，嘴巴也會向下彎。
與克斯梅特互動是一次饒有趣味的經(jīng)歷。很難相信，克斯梅特只擁有情感而完全沒有理解能力。不過，當(dāng)你走到它身邊興奮地跟它說話，并向它展示你的新手表時，它會做出適當(dāng)?shù)幕貞?yīng)：它看著你的臉，然后看看你的手表，接著又看回你的臉，它在全過程中通過抬起眼皮和豎起耳朵來表達它的興趣，并且表現(xiàn)得興致勃勃。這正是你想要從談話對象那里得到的回應(yīng)，即使克斯梅特完全不理解這些語言以及有關(guān)手表的事情。它怎么知道要去看你的手表呢？它不知道，但是它會對你的動作做出回應(yīng)，所以它會看著你抬起來的手。當(dāng)動作停止時，它會覺得無聊，然后轉(zhuǎn)為看你的眼睛。它顯得很興奮，因為它探測到了你的音調(diào)。
機器人克斯梅特
克斯梅特是一個被設(shè)計用于社交互動的機器人，看起來有點兒嚇人。（圖片提供：辛西婭·布雷齊爾）
克斯梅特的情感系統(tǒng)
克斯梅特運作的核心是感知、情緒和行為的互動。（經(jīng)辛西婭·布雷齊爾同意后重新繪制并稍微修改了圖表，摘自http://www.ai.mit.edu/projects/sociable/emotions.html）
請注意，克斯梅特跟伊萊扎有一些共同特征。因此，盡管這是一個復(fù)雜的系統(tǒng)——具備了身體（嗯，有頭部和脖子）和充當(dāng)肌肉的多個發(fā)動機，以及負責(zé)注意力和情感的基本復(fù)合模型——但是它還缺乏真正的理解能力。因此，它對人類展現(xiàn)出的興趣和厭煩只是對環(huán)境變化或是缺少變化的環(huán)境的設(shè)定反應(yīng)，以及對動作和語音的物理層面的回應(yīng)。盡管克斯梅特有時候可以讓人們著迷很長一段時間，但這種著迷有點兒類似于伊萊扎：大部分復(fù)雜性來自觀察者的詮釋。
索尼的機器寵物狗“愛寶”擁有的情感元素和智力遠不及克斯梅特。雖然如此，但事實證明主人對它無比著迷。許多機器寵物狗主組建了俱樂部，有些甚至擁有幾只機器狗。他們互相交流如何訓(xùn)練機器寵物狗玩各種把戲，并且分享心得和技巧。有些人堅信他們自己的“愛寶”可以認出自己，還懂得聽從他們的命令，即使它們做不了這些事。
當(dāng)機器人表達情感時，它們會與人類進行豐富且讓人滿意的互動，即使大部分的豐富度和滿意度、大部分的詮釋和理解能力都來自人類的頭腦而不是人工系統(tǒng)。麻省理工學(xué)院教授、心理分析家雪莉·特克（Sherry Turkle）總結(jié)了這些互動，她指出：“它告訴你更多關(guān)于我們?nèi)祟惖氖虑?，而不是關(guān)于機器人。”這里再次使用擬人化：我們在所有事物中解讀出人類的情感和意愿。“無論這些事物是否擁有意識或智慧，都激勵著我們繼續(xù)前進 [6] 。”特克說道：“它們促使我們承認仿佛這些事情是它們做的，我們被設(shè)定以人道的方式對待這些新型創(chuàng)造物，關(guān)鍵在于這些東西想得到你的精心培養(yǎng)，它們會在你的照料下茁壯成長。”
上一篇： 自我意識是人類的基本屬性
下一篇： 注意！人已成為他們工具的工具
