第208部分(第3/4 頁)

古到今，經歷了那麼多次自然選擇，才有了今天這樣的穩健『xìng』，但我們還是覺得生物非常脆弱，現在這批AI，可能不過是個開頭而已。”嚴可守說著，苦笑了一下，迅速將桌面上自己的那臺筆記本螢幕合上，“算了，我也不在這乾耗著了，出去透透氣，都快憋死了。”

當前的科學認知認為，最初的意義上的生命，出現在距今40億年前的地球，在那個時候，生命只不過是一鍋溫暖的熱湯中，偶然形成的一些能夠自我複製的有機物，複製，也可以看成是資訊的自我儲存，應該是生命最重要的特徵之一。

在這之前，人們說到人工智慧，通常能想到的場景就是，能夠和人一樣說話，和人一樣思考，解決問題，事實上，在嚴可守之前，整個日本關於機器人智慧化的研究，也大多停留在這個層面，依靠儘可能複雜的演算法，讓計算機表現的更接近一個人類，在嚴可守看來，這種方法根本不可能造出真正的AI，因為這根本就等於是人本身在思考，只不過這種思考透過程式碼，間接表現出來而已，所以，不管計算機模擬的有多像，程式也不過是牽線木偶。

在嚴可守之前，還沒有任何一個程式可以做到，像KL系列做的這麼出『sè』，可以在和陌生測試物件的談話中，維持半個小時左右不被識破，許多剛剛接觸這個程式的人事後都不敢相信，與自己對話的僅僅是一個程式。

築『bō』大學的一些學生甚至把整個測試當做一種有趣的遊戲來進行，嚴可守記得測試剛開始的那個階段，都要三浦主動去拉他班上的學生，而到了現在，學生們甚至主動來打聽什麼時候恢復測試。

KL系列原始的“胚胎程式”只不過兩百KB左右，在這簡單的兩百多K核心程式當中，嚴可守賦予了程式基本的學習功能，在程式最早的“發育”階段，透過巨型計算機模擬外界刺『jī』，讓程式實現基本的自我成長，當它們長到大約10個大小的時候，被認為具備了基本的『jiāo』流能力，能說一些簡單的句子，在這之後，則對這些程式進行圖靈訓練……

在這之前，AI的表現一向都比較正常，直到兩天前，所有程式陸續開始爆發BU，進入了“無響應”階段，無論人和它說什麼話，都不予回應。

從原理設計的角度來說，程式之所以會出現這樣的原因，最大的可能『xìng』就是，在程式看來，不響應是一個較優解，之前嚴可守調查了許多AI出BU之前的測試資料，發現這些程式無一例外，都是因為測試連續遇到了幾十次，乃至上百次的失敗，AI雖然不可能懂得什麼叫做絕望，因為他們沒有感受器官，但並不妨礙他們的程式能表現出一種，類似人類絕望時表現的行為。

起碼，他們的這種行為，在多愁善感的人看來，就是絕望。

比如重複完全毫無意義的自我修改，比如提出各種不合常理，甚至愚蠢之極的建議，有些AI甚至透過網路，找來一些『sè』和諧情小說片段，企圖“賄賂”測試者，總之，為了達到“透過測試”的目標，AI將能夠嘗試的可能，統統試過了一遍。

對於AI來說，透過測試就是它的本能，因為在它的程式成長過程中，透過測試就意味著確認了自己所作的修改起到了作用，形象的比喻就是，透過測試對電腦意味著一種『jī』勵，就好像人類能透過進食，『jiāo』（和諧）配，甚至排洩這種正常的生命活動，獲得快感，生命透過快感給予這些合理的行為『jī』勵一樣，而反之，沒有透過測試則意味著程式本身受到了否定，意味著痛苦，當一個生命長期處於這種痛苦之中，痛苦可能會扼殺它所有的改進可能。

在所有的生命過程中，正向的『jī』勵是必不可少的，就像每個人都有求生的本能一樣，但進化的道路是多種多樣的，有些看起來很不錯的功能其實是雙刃劍，比如情感，豐富的情感是大腦複雜後的必然進化，情感的認同能讓一個群體更有效的聚攏在一起，但同樣因為情感豐富，在自然界中，許多高等動物會產生自殺的行為，比如狗會為了主人死去而絕食，人也會因為親人或愛人死去而傷心『yù』絕，對AI而言，依靠測試成功獲得『jī』勵固然非常有利，它可以讓一個幾百K的小程式擴大至原來的百萬倍，但當這種『jī』勵最終消失的時候，對程式而言就是災難。

一旦發生這種情況，就意味著不改動，不做出任何回應成了最優解，這同樣也就意味著，這批程式的“心”，已經死了。

作為一個設計者，嚴可守倒不至於為這些程式的“心死”而感覺到一些異樣，對他