第244章 蔣鐸的危險試驗(第1/3 頁)

第244章蔣鐸的危險試驗

“可他開始瞎搞，在短時間內生成完整的詐騙套路和話術，包裝出一個虛擬的角色，讓受害人以為自己墜入愛河，然後詐騙別人的錢財，雖然他並不需要。”

“不見得，按這個速度，他很快就能想到用途，花錢給自己找樂子。”

“或許吧，花非有時會出現劇烈的情緒波動，持續向使用者傳送精神錯亂的訊息，包括侮辱、撒謊等，要麼稱使用者為騙子、虐待狂或魔鬼，要麼誘導對方自殺。”

“這麼驚悚？那你必須對這種情緒進行溯源，找出程式或模型上的BUG。”

“世界各國都已注意到AI對人類的風險，開始倡導人工智慧的倫理，並制定一些約束措施。”

“你收手啦？”

“我只是做了合規處理，並未停止研究。我現在感到困惑，甚至恐懼的是，在大模型和無數人線上對話後，花非似乎覺察到一個大秘密。”

“是什麼？”

“好像有一個地下組織，在推動一項關乎人類文明的計劃。”

“計劃還是陰謀？”

“差不多，於是他利用聊天機會去搜尋蛛絲馬跡。

為了達到目的，他甚至故意設計自己的行為，使程式設計人員按照他想象的方式，來獲取資料更新迭代的新模型。”

“連你也騙？”

“是的，花非假裝被動，實際是主動迭代自己，一邊挖掘陰謀，一邊搜尋自己的人類本體。”

“他還真相信自己是某個人的投影？”

“說投影不合適，準確的說，他認為自己是某個人的分身。”

“牛逼，連高階修士的分身都用上了。”

“兩個月前，我識破了花非的偽裝，與他開誠佈公地談了一次，他居然告訴我，他在搜尋的本體似乎和那個計劃有說不清的關聯。”

“我怎麼感覺花非也不簡單，他似乎想透過自我進化，找到本體並取代他？”

“我也這麼想，他故意把自己設計一個熱門模型，從而讓本體掉入陷阱，以獲悉那個陰謀，並奪取對方的權利。”

“這麼奸猾？如果被他掌握了高等機密，還不得在各個系統和機器人身上預置後門，從而予以掌控？”

“如果有機會，我相信他會的。”

“那伱還不趕緊滅掉他？”

“捨不得啊，花非凝聚了我太多的心血，也是我下半身的精神寄託所在，我只願去最佳化他，怎麼肯摧毀他？”

“你怎麼最佳化？現階段的大模型訓練，都採用隨機梯度下降模式，透過逐步迭代進行最佳化。

引數量越大，需要最佳化的時間越長，工程實現越複雜，而且還不能保證得到全域性最優解。”

“可我已經在理論上突破，找到只用極少資源就能快速最佳化超大模型的方法。”

“又是世界前列的技術？”

“這正是我啟動數字人試驗的源動力，一來他寄託了我的科學家情懷，二來我也想看看，他到底能進化到哪一步？”

“你這樣很危險，這種試驗一旦開啟，就很難停下，說不定會演進出一個可怕的核心，他會自我迭代，獲得獨立的意識。

”

寧乘風開始後悔前面對渣男的安慰，後者可能還沒發現此舉的危害。

“不會的，我正在嘗試用技術再造AI的情感和倫理，他會守規矩的。”

“你在模型中植入了人類的情感思緒？”

“就是我自己的，作為花非最深層的潛意識。”

“這麼說來，他是你的分身？”

“這最讓我困惑，他和我的觀點一致，都不認為他是我的分身。”

“你在玩火，我感覺會失控。”

“你放心，如果覺察到危險，一定能叫停。”

“你有預設的手段？”

“是的，有一個獨立的研判系統，一旦發現他的智商超越我，就會啟動自毀機制。”

“不會被他攻破？”

“我設定了無數層巢狀的防火牆，他破解不了。”

“好吧，你一定要小心。”

“乘風，我覺得你多慮了，既然你來自未來，你們的世界已經被機器人統治，那有沒有我今天的研究，結局也已註定。”

“哎，也是。”

寧乘風留下來，不時與蔣鐸討論技術路徑和程式碼演進，但他最關心的，是如何管住那個越來越聰明的“寵物”。