第159部分(第2/4 頁)
件事已經生了,而我……恐怕早就已經離開了這個世界……”
“小影……”
林飛渾身一陣酥軟,彷彿洩空了所有力氣,撲騰跪在了金屬梯上,眼眶泛紅。
影子並沒有看見這一切,她只是目視前方,因為,那只是她留下的影像,她只會對著攝影機。
“主人,主人您別這樣,那是影子姐的三維立體記錄,並不是真的她啊!”
eva擔心林飛過於激動和悲愴,躍下去緊緊抱住林飛,急得掉出了眼淚。
可林飛擺擺手,示意他沒事,抬起頭,繼續安靜地聽著影子要說什麼。
“……你既然看到了這段影像,說明,你已經決定要把look毀滅了,那唯一的解釋,就是look真的不幸地失去了控制,做出了可怕的事。
對不起,我一直隱瞞了你一件事……其實我一直有一個擔憂,在我給look輸入最基礎的指向性命令的時候,也就是在教look,以保護人類文明為己人,不能主動傷害人類的時候,look主動地回饋給我的一些資訊,讓我很掙扎……
look竟然主動地向我提出了一個問題,在保護人類的時候,是否要分辨和怎麼分辨什麼是‘好人’,什麼是‘壞人’?
說實話,我很震驚,也很高興,因為它有了自我思考的能力……但這個問題,我卻不知道怎麼回答……
我把這個問題從look的程式中抹去,將‘好’與‘壞’的概念避開,改為讓look以‘保護生命’為第一原則,不考慮所謂的善惡。
look的智慧,遠了我對它的預估,因為它會自主學習人類文明,所以,它知道的東西會越來越多,這也是我製造級智慧所必須擁有的一種重要指標。如果它無法進步,就不是級智慧了。
它就像是我的一個孩子,我可以在它孩提時代,教會它怎麼做一個善良的人,但我不能保證,它長大後的人生觀,世界觀和價值觀會有怎樣的變化。
我知道……一旦把這些告訴你,你肯定會阻止我完成look,因為這真的很冒險……
人類是連自己都不瞭解自己的生命,我們每個人不同的年齡段,擁有不同的對世界的看法,我想……look也是這樣的,如果說它跟人類有什麼最本質的區別,就是……它的誕生,是有前提的,那就是以‘保護人類’為前提。
它需要一個核心的目標來指導它的成長,我想不出還有什麼更好的指標可以給它,你說,厭倦了戰爭,厭倦了廝殺,厭倦了仇恨……可惜你無法阻止這一切的生。
那麼,我希望look能夠完成我們的這一理想,去尋找改變這個世界醜陋汙垢的答案……
英國相撒切爾夫人曾經說過,‘有時候,一個時代為了變得更好,必須要付出代價’……
我知道這很冒險,但我不得不這麼做,不然我們的研究將寸步難行。我希望,透過look,可以真正地接觸真實的世界,看到真實的未來……”
影子的三維成像,說到這裡,似乎有些不好意思,抿著薄唇,沉默了一會兒。
隨即,影子幽幽地深呼吸了口氣,才道:“我知道你絕對會反對,所以我不敢告訴你,當look一旦完成後,它有兩種可能性會出現。
這第一種可能性,是它認為,可以在人類社會的規則中,找到解決人類危機的途徑,這樣一來,它就不需要破壞世界原有規則,只需要分析全域性後,進行引導。
可還有一種可能性,是它透過計算,認為人類已經無可救藥,那它就會採取‘犧牲’模式,來確保目標‘保護人類’的達成,在它的計劃中,可能……會除掉不少阻礙它的人類,來確保人類世界新規則的誕生。”
影子幾分自嘲地笑了笑,“林飛,對不起……我不敢告訴你,一旦look採取了第二種模式,它最有可能的認為阻礙它制定世界新秩序的人類……就是我!
我,是它的創造者,所以,也是最有可能毀掉它的人類,這麼一來……我阻礙它計劃的威脅是巨大的,可能……我會在一次‘意外’中死亡……”
影子怯怯地目視前方,似乎是想到了,林飛如果知道這一切,會是如何的憤怒,可她又不得不這麼做。
“你……你別生氣……我們從小就認識,你知道我就這樣的脾氣,你是勸不住我的”,影子嘆道:“所以,我希望你不要自責,不要誤以為,是你害了我,這都是我自己的選擇……這也是,我留下這段影像的很重要的原因……”
影子說到這裡
本章未完,點選下一頁繼續。