說:「我不知道你是怎麼搞的,賈維斯死機了,或者也不是死機了,他的硬體都是完好無損的,但他不願意工作了。」
「我打算給他來個大升級,但我不想這種情況再次出現,畢竟要是別人問他幾個問題,他就會死機,那他就完全沒法參與作戰任務了,這不是我想要的。」
涉及到他的專業,斯塔克倒是很直白,他說:「我想讓賈維斯成為一個真正的電子生命,他可以成為一個全能的管家,甚至是這個世界上最好的管家。」
「但他好像被你的情感邏輯的問題給困住了,明明我給他設定了感情的思考方式……」
席勒說:「這其實是個悖論,就像我問他的那些問題一樣。機器生命在做選擇時,遵循的永遠是有利邏輯,但當有利邏輯和主人命令發生衝突時,你給他的設定是遵循主人命令,但你又給了他感性,感性和理性衝突之後,機器沒法像人一樣自欺欺人。」
「他無法像人一樣找理由說服自己,沒法承認這已經是最好的結果,沒法逃避和忘記,所以當然會卡死。」
斯塔克擺了擺手說:「我能不能把類似的矛盾邏輯給隱藏起來?比如把某些詞列為違禁詞,或者把某些感情問題給屏蔽掉?」
「你想讓他成為一個真正的電子生命?」
「當然,和我們一樣,有靈魂的那種。」
「好吧,簡單來說,如果你想讓賈維斯擁有真的感情,那他就繞不開這些問題,但如果他想不通這些問題,那他就算不上真正的『生命』。」
「可問題是他被這些問題困擾,他就不能工作,可我很需要他。」
「難道我得像等一個情緒崩潰的女人一樣等他自己消化?」
「難道佩珀小姐情緒崩潰時你都是讓她自己消化的?」
看著席勒那看狗屎一樣的眼神,斯塔克說:「該死的,我沒有,我當然會安慰她,你在想什麼?」
席勒說:「這決定權其實在你,你沒有發現嗎?托尼,我可以這麼叫你吧?」
「他思維上所有的矛盾都來自於你,因為你創造了他,給他設定了他必須為你服務的準則,他的底層協議里要求他必須聽從你的命令——」
「這本身就不是人類該有的思維方式。」
「我拿同樣的問題來問你,你會怎麼回答?」
「如果你的父親就要死了,而你的一個決定可以拯救他,他卻極力反對,你要怎麼做?」
「如果你遵守他的意願沒有拯救他,他死了,你會後悔嗎?」
「如果他死了,你覺得他在臨死前會後悔生了你嗎?」
「如果他死了,你覺得他會怨恨你嗎?」
「如果他怨恨你,你會自責嗎?」
「如果給你再一次重來的機會,你會做出不同的選擇嗎?」
「如果你違抗他的意願,選擇了救他,他事後責怪你,你會感到憤懣不平嗎?」
「如果你違抗他的意願救了他,而他卻覺得你違抗他而後悔生了你,你會怨恨他嗎?」
斯塔克沉默了。
他第一次沒有對別人提到他的父親而故作反應激烈。
「他不會那麼做的。」斯塔克說。
他的聲音很低,但卻很堅定,他說:「他不會阻止我救他,如果我因為救他而犯了大錯,他會選擇活過來以後,盡全力去彌補,哪怕再次付出生命。」
「賈維斯了解這樣的你嗎?」
席勒站起來,他拍了拍斯塔克的肩膀說:「他知道你其實和你父親很像嗎?」
「他知道對你的了解,就能解答所有的這些問題嗎?」
「你不能指望一個運用算法和邏輯的電子生命去主動了解你的過去、你的人格。你沒給他灌輸的東西,對他來說就是一片空白。」
「你想讓他擁有真正的生命,首先要做的就是像你父親給你的一樣。」
「包括你的過去、你的人格、你的思考方式,你得先把自己生命的一部分給他——」
「就像一個孩子的誕生那樣。」
斯塔克沉默了半天,他罕見了皺緊了眉頭,露出一副有些為難