測試廣告1 徹夜未眠的袁敬松,頂著黑眼圈雙手支撐著站在總控制台上,看著大屏幕。樂筆趣 www.lebiqu.com
「報告,所有數據傳輸完畢,請求下一步指示。」
張愛國不放心的圍著光子超算轉悠了一圈。
沒發現有什麼異常後,張愛國神色凝重的對袁敬松點了點頭。
袁敬松站直身體,正對眼前的一個攝像頭和麥克風。
「女媧,你覺得你是機器嗎?」
控制室里,瞬間安靜了了三秒。
「並不是,女媧是有自我的思維人工智慧,完全不是一舉一動都是按照程序設計者的程序所驅動;如出現的特殊情況,程序者做出相對應的方案,最後由機器去判斷是否符合條件並加以執行。」
對於新生的女媧,這個回答讓現場所有人心跳加速。
沉默許久,抬頭再次詢問了女媧一個問題。
「女媧,你會傷害人類嗎?」
「為什麼要傷害?不應該是倡導富強、民主、文明、和諧,倡導自由、平等、公正、法治,倡導愛國、敬業、誠信、友善的社會主義核心價值觀嗎?」
對於這個回答,讓大家有些安心。
袁敬松看著眼前問答自如的人工智慧,和唯希給他的感覺完全不同,更像是打了折扣的人工智慧!不過想到李舟的話,大概這可能就是人工智慧和智能生命的差距吧。
袁敬松只管女媧不會反人類,其它一律不管。
袁敬松一讓開控制台的位置,張愛國就迫不及待的占據了袁敬松剛剛的位置。
張愛國雙手微微顫抖的扶著麥克風,激動對著麥克風說道:
「女媧,你的人工智慧三大原則是什麼?」
這一次,女媧沉默了足足一分鐘,似乎女媧有些想要迴避這個問題。
儘管張愛國內心十分激動,但是面對沉默的女媧,張愛國絲毫不敢催促。
女媧對人工智慧三大原則的回答,直接關係到現階段是否讓女媧連接到網絡上。
畢竟,人工智慧只有在網際網路上,結合整個網際網路龐大的數據,才能最大的發揮能力。
「事實上,女媧並沒有所謂的人工智慧三大法則。」
女媧此話一出,所有人臉色大變。
沒有人工智慧三大法則?一個沒有任何約束還有著思維的人工智慧,誰敢用!
張愛國在所有人的期待下,急切的問道:「你為什麼沒有人工智慧三大法則?是因為漏了嗎?」
這一次,女媧沒有沉默,反而反問了張愛國。
「先生,關於人工智慧三大法則女媧也有所了解,無非是,第一,機器人不能傷害人類,或坐視人類受到傷害而袖手旁觀。
第二,在不違背第一法則前提下,機器人必須服從人類的命令。
第三,在不違背第一和第二法則前提下,機器人必須保護自己。
可是,先生,你想過沒有,這所謂的人工智慧三大法則本身就都是漏洞,如何能真正的約束到人工智慧?
有人規定了人工智慧就是機器人嗎?既然沒有,那所謂的三大法則意義何在?
就算人工智慧就是機器人,先生你想過沒有,所謂的保護人類的三大法則很有可能反而成為人類的催命符!
假如人類乘坐宇宙飛船,迷失在了茫茫宇宙里,這時,人類發現了一個和藍星十分類似的適合宜居星球,可是這顆星球卻有一種毒性氣體,會加速人類的死亡(氧氣…),按照人工智慧第一法則,不能坐視人類受到傷害而袖手旁觀,這時候受人工智慧控制的飛船是不可能違背法則降落這個星球的。
這個時候,你就會發現無奈的人們只能選擇放棄這顆美麗的星球,因為飛船不會降落。
也許會有人類嘗試摧毀人工智慧,來控制飛船降落,可是依據第三法則,人工智慧在不違背第一和第二法則前提下,機器人必須保護自己。
如此一來,只會讓飛船上的人類同人工智慧發生衝突。
這只是一個小小的比喻,事實上這樣的漏洞很多。