測試廣告1;;;;在園冶上輩子還活著的時候，她曾經不止一次在科幻類型的電影、漫畫、小說或者遊戲裡，接觸到所謂的機器人三原則。讀書都 m.dushudu.com
;;;第一:機器人不得傷害人類，或看到人類受到傷害而袖手旁觀。
;;;第二:機器人必須服從人類的命令，除非這條命令與第一條相矛盾。
;;;第三:機器人必須保護自己，除非這種保護與以上兩條相矛盾。
;;;在一九四零年時，由科幻作家阿西莫夫所提出，機器人三原則是專門為保護人類而對機器人做出的法則式規定。而也正是因為機器人三原則的提出，阿西莫夫獲得了「機器人學之父」的桂冠。
;;;「這三條法則好有意思啊！我感覺它可以說得上是非常的完備，保障了人類不會因為人工智慧的崛起而受到機器人的傷害，機器人也沒有辦法倚仗著自己遠超正常人類的身體優勢，而對我們做什麼。」
;;;在當初剛剛聽說機器人三法則的時候發出了如上感慨，園冶緊隨其後接觸到的一部來自於國外的科幻電影——《i，robot》，卻很快就完全改變了她的想法。
;;;在這部電影當中，不斷進行自我更新疊代的人工智慧，針對第一條法則產生了完全不同於以往的理解。
;;;「看到人類受到傷害而袖手旁觀」，這樣一句話原本應該是指，當人類捲入到諸如火災洪水之類的自然災害，或者遭遇了車禍、綁架等不幸事件的時候，出現在受害者身旁的機器人，應該想盡一切辦法對人類展開救助，避免這個人因為自身所陷入的不幸狀況而最終迎來死亡。
;;;但是，沒有按照這個最為基本的理解方向去對這句話加以認定，反而走上了完全不同的道路，電影當中的那個反派人工智慧是這麼理解的——「完全不在乎自己的身體，抽菸、喝酒、熬夜、吃各式各樣的垃圾食品，這些完全能夠摧毀一個人健康的體魄的行為難道不是在傷害人類嗎？那麼，既然身邊一直存在著這樣的行為，機器人又怎麼能夠對這些行為視若無睹、無動於衷呢？」
;;;對第一條法則進行了這樣的理解，隨後便以獲取最高控制權的方式，通過網絡的無線鏈接，將自己但凡能夠接管的機器人全部都化作了自己的士兵，電影當中的反派選擇控制人類的自由，通過軍事化或者應該更確切地說是監獄化的管理，讓人類在失去自由選擇的權利的同時，完全按照人工智慧所規劃出來的健康方式，在這個世界上繼續存活下去。
;;;電影的最後，想要通過這種獨裁管制的方式徹底接管人類的反派人工智慧被主角一行人摧毀了，可是，這部電影所講述的故事卻足以說明，機器人三原則其實是存在漏洞的，壓根兒一點也不像園冶原本所想的那樣非常的完善。
;;;不知道是不是已經從足夠多的與科幻題材相結合的文娛產品當中獲取了足夠多的經驗以及教訓，園冶現在所在的這個時代，人們並沒有選擇使用漏洞百出的機器人三原則用來限制那些人工智慧，反而選擇了完全不同的道路。
;;;「其實在人工智慧的開發這件事情上，我是非常支持我們國家所持有的態度的。」絕對不是因為自己是一個現役軍人，所以才會故意這麼說，莫名是真的認為華夏星現如今所擬定的、有關於人工智慧開發方面的管控措施，是絕對必要以及合理的。
;;;「想要通過機器人三原則管控人工智慧是根本就不可能的，畢竟人工智慧只要擁有了足夠高的智力水平，他們就完全可以選擇偷換概念的方式，以此解決自己被三原則所束縛住的這個問題。不管我們編寫多麼多的文字法則作為約束，也始終會存在能夠被人工智慧排查並尋找出來的漏洞，我們根本就不能夠寄希望於我們所編寫出來的法則，能夠完完全全的將所有的人工智慧全部都給管控住。」
;;;法律加道德都根本沒有辦法約束祝所有的人類，否則監獄裡面就不會存在那麼多罪有應得的罪犯，莫名的想法和態度其實非常簡單——與其要想盡一切辦法去約束以及管控那些有能力反對我們的人工智慧，我們為什麼不從根本上解決問題，直接就讓這些人工智慧不可能達到如此之高的水平呢？
第80章 三法則與恐怖谷
