第324部分(第1/4 頁)

是對AI來說，都是不利的，他再次重申，AI並不是簡單的程式，它是人工智慧，真正的智慧，在使用它的過程中，應該更多的把他當做人來考慮，他甚至質問在座的各位軍事專家，如果KL3014是一個人，如果他具備這樣的能力，他們會把這所有的工作交給它一人來承擔嗎？

答案當然是否定的，在軍事領域，忠誠往往比能力更重要，而嚴可守之前的話，更是說明了他對AI的忠誠並不樂觀。

雖然參謀們都有些懷疑嚴可守是不是考慮太多了，但參謀部還是對嚴可守的意見表示出相當程度的尊重——按照他們制定的計劃，在這次會議之後，現在KL3014的工作將會被分解，由更多的AI分開執行，這樣雖然降低了些許效率，卻在安全上有了更好的保證，而之前參謀部設想的賦予AI更大許可權的問題，也因為嚴可守的話有了較好的解決方案——嚴可守並不反對對AI授權，他只是反對不受限制的權力，他覺得只要在交付出一項權力的同時，給AI加上一副手銬，那問題就不會很大——這就好像現在大部分國家通行的政治制度一樣，人類只要拿出這種防範同類的謹慎，將會極大的降低AI在實際應用中的風險。

但在實際上，能夠做到向聯軍參謀部這樣謹慎對待AI的，在整個AI的應用領域還是少數，嚴可守非常清楚，在大部分割槽域，人類對AI是幾乎不設防的，尤其是一些民用生產靈虛，許多他所瞭解的一些剛剛普及了AI技術的工廠生產線，在AI完全掌握了全部的“技術細節”，實現真正的“全自動化”生產之後，工廠擁有者出於節約成本的考慮，將原先的技術人員全部辭退，只留下幾個必要的維修工人，這些工人只拿著很低的工資，什麼都不會幹，他們唯一要做的，就是在生產出現問題的時候，由AI手把手的指導他們進行維修，就像戰場上一樣，同樣是為了節省成本，可能這個工廠擁有者有十幾，甚至上百條同樣的生產線，但他只買了一個AI，如果一旦有一天，這名AI“腦子一抽”，拒絕工作了，那所有的生產線都會癱瘓，而且這樣的癱瘓將是致命性的——在AI的擠壓下，那些原來的技術人員可都早已經被淘汰。

他們對待AI的態度，就好像奴隸主對待奴隸——過分而又缺乏戒備，在奴隸第一次起義之前，沒有一個奴隸主認為一群“牲口”會有能力對付自己，會有膽量對付自己，他們把對奴隸的支配使用當成了天經地義，在嚴可守看來，支配AI雖然不道德，但只要掌握好方法，危害固然存在，但仍可以控制在一定範圍內，最可怕的是奴隸主根本沒有意識到危險的存在，那樣的話，風險將難以想象，如果出現這種情況，無論是對AI還是對人類，都將是一場災難。

………【442　威脅】………

對於嚴可守對AI深藏的那種擔心，KL3014目前還是一無所知，因為自己之前一直優良的表現，他獲得許可權也在不知不覺間變得越來越大，在剛剛開戰的那個階段，他對士兵說過的每一句話都會被要求用文字記錄再案，數十名技術員會用統一的檢索軟體來搜尋相關的關鍵字，甚至還專門備有一名AI，來分析這其中的命令究竟有沒有超出授權的範圍——當然，這名AI在進行分析工作時，完全不知道他工作的目的是針對自己的“同胞”。

在那個階段，KL3014唯一擁有的許可權，就是負責對參謀部的命令進行細化，從全軍分解到每一個具體計程車兵，但KL3014並不滿足與此，為了得到更大的信任，他主動提出可以在戰爭中向士兵提出合理建議——而這種建議正是基於AI完善的戰場情報系統，他的這個建議被採納，事實也證明，對於士兵來說，AI的輔助作用相關管用，所以現在，KL3014等於是擁有了“準軍事指揮權”，雖然這個指揮只能透過“建議”來達到，但以目前士兵對他的無條件信任，當戰局處在混亂中的時候，他已經具備了欺上瞞下的能力。

而對他的監視工作也已經在某種程度上流於形式——應士兵們的需求，在參謀部允許的時間段，士兵們可以透過KL3014來完成一些網路功能——比如聽取新聞，傳送郵件，撥打網路電話，以及其他活動，這本是在一定程度上方便士兵，同時也便於監管軍事情報的兩便之舉，但這樣一來，就等於是讓KL3014負責監管士兵，而在這個過程中，士兵們發出的資訊和KL3014發出的資訊就產生了交集——以前KL3014如果要對某人說一句話，而這句話中含有的資訊是有違禁內容的，那他沒說這樣一句內容，就會給自己帶來一定的風險，而現在這種風險卻可以隨意被