死也不離老本行 第80章 三法則與恐怖谷

    測試廣告1;;;;在園冶上輩子還活著的時候，她曾經不止一次在科幻類型的電影、漫畫、小說或者遊戲裡，接觸到所謂的機器人三原則。讀書都 m.dushudu.com

    ;;;第一:機器人不得傷害人類，或看到人類受到傷害而袖手旁觀。

    ;;;第二:機器人必須服從人類的命令，除非這條命令與第一條相矛盾。

    ;;;第三:機器人必須保護自己，除非這種保護與以上兩條相矛盾。

    ;;;在一九四零年時，由科幻作家阿西莫夫所提出，機器人三原則是專門為保護人類而對機器人做出的法則式規定。而也正是因為機器人三原則的提出，阿西莫夫獲得了「機器人學之父」的桂冠。

    ;;;「這三條法則好有意思啊！我感覺它可以說得上是非常的完備，保障了人類不會因為人工智慧的崛起而受到機器人的傷害，機器人也沒有辦法倚仗著自己遠超正常人類的身體優勢，而對我們做什麼。」

    ;;;在當初剛剛聽說機器人三法則的時候發出了如上感慨，園冶緊隨其後接觸到的一部來自於國外的科幻電影——《i，robot》，卻很快就完全改變了她的想法。

    ;;;在這部電影當中，不斷進行自我更新疊代的人工智慧，針對第一條法則產生了完全不同於以往的理解。

    ;;;「看到人類受到傷害而袖手旁觀」，這樣一句話原本應該是指，當人類捲入到諸如火災洪水之類的自然災害，或者遭遇了車禍、綁架等不幸事件的時候，出現在受害者身旁的機器人，應該想盡一切辦法對人類展開救助，避免這個人因為自身所陷入的不幸狀況而最終迎來死亡。

    ;;;但是，沒有按照這個最為基本的理解方向去對這句話加以認定，反而走上了完全不同的道路，電影當中的那個反派人工智慧是這麼理解的——「完全不在乎自己的身體，抽菸、喝酒、熬夜、吃各式各樣的垃圾食品，這些完全能夠摧毀一個人健康的體魄的行為難道不是在傷害人類嗎？那麼，既然身邊一直存在著這樣的行為，機器人又怎麼能夠對這些行為視若無睹、無動於衷呢？」

    ;;;對第一條法則進行了這樣的理解，隨後便以獲取最高控制權的方式，通過網絡的無線鏈接，將自己但凡能夠接管的機器人全部都化作了自己的士兵，電影當中的反派選擇控制人類的自由，通過軍事化或者應該更確切地說是監獄化的管理，讓人類在失去自由選擇的權利的同時，完全按照人工智慧所規劃出來的健康方式，在這個世界上繼續存活下去。

    ;;;電影的最後，想要通過這種獨裁管制的方式徹底接管人類的反派人工智慧被主角一行人摧毀了，可是，這部電影所講述的故事卻足以說明，機器人三原則其實是存在漏洞的，壓根兒一點也不像園冶原本所想的那樣非常的完善。

    ;;;不知道是不是已經從足夠多的與科幻題材相結合的文娛產品當中獲取了足夠多的經驗以及教訓，園冶現在所在的這個時代，人們並沒有選擇使用漏洞百出的機器人三原則用來限制那些人工智慧，反而選擇了完全不同的道路。

    ;;;「其實在人工智慧的開發這件事情上，我是非常支持我們國家所持有的態度的。」絕對不是因為自己是一個現役軍人，所以才會故意這麼說，莫名是真的認為華夏星現如今所擬定的、有關於人工智慧開發方面的管控措施，是絕對必要以及合理的。

    ;;;「想要通過機器人三原則管控人工智慧是根本就不可能的，畢竟人工智慧只要擁有了足夠高的智力水平，他們就完全可以選擇偷換概念的方式，以此解決自己被三原則所束縛住的這個問題。不管我們編寫多麼多的文字法則作為約束，也始終會存在能夠被人工智慧排查並尋找出來的漏洞，我們根本就不能夠寄希望於我們所編寫出來的法則，能夠完完全全的將所有的人工智慧全部都給管控住。」

    ;;;法律加道德都根本沒有辦法約束祝所有的人類，否則監獄裡面就不會存在那麼多罪有應得的罪犯，莫名的想法和態度其實非常簡單——與其要想盡一切辦法去約束以及管控那些有能力反對我們的人工智慧，我們為什麼不從根本上解決問題，直接就讓這些人工智慧不可能達到如此之高的水平呢？

    ;;;負責提供家政服務的機器人只要具備做各式各樣的家務的能力就好，提供醫療服務的機器人也只需要具備照顧人的能力就好，通過這種將一個人工智慧鎖能夠掌握的技能進行規定區域的劃分的方式，擁有足夠大的成長潛能的人工智慧，就沒有辦法獲取那些對它來說根本就不必要的、來自於其他領域的知識或者技能。

    ;;;「搞不明白經濟，也根本就不會政治，更加不可能玩得轉軍事，針對這樣的人工智慧，你認為它有那個能力推翻現任統治者隨後奪取政權，從而在整個國家內部實行它所想要的獨裁統治嗎？」

    ;;;「而且，不光是限定了它們究竟能夠學習以及掌握來自於哪一個領域的知識以及技能而已，假如我們對這些人工智慧的成長上限也設定了一個天花板呢？」

    ;;;許許多多的民用人工智慧確實可以因為自己所提供的服務的片面性，而單純只掌握來自於某一兩個領域的專業知識和技能，但是，另外還存在一些別的人工智慧是不能夠被單純劃定歸屬於某一個領域的。於是，針對這種需要學習以及掌握很多個領域的基本技能的人工智慧而言，設定他們所能夠取得的成長的上限，以此避免他們擁有太過於超越人類極限的能力，這樣一來，對人工智慧加以管控同樣能夠達到一樣的效果。

    ;;;「就比如說像是寵物類的人工智慧，動物雖然能夠在一定程度範圍內擁有足夠高的智力，但是，假如不對這類人工智慧加以節制，那麼它們總有一天會通過自身的成長，而達到智慧能力完全突破一隻動物所應該擁有的程度的階段。等到那個時候，原本養在家裡的動物也就不再是動物了，主人想要繼續把它當作自己心愛的寵物吧，這傢伙不再是動物，可要是選擇將這傢伙看作是個人類吧，主人也根本就不做不到，這不乾脆就是在自己給自己找麻煩嗎？」

    ;;;說到這裡，甚至於還非常主動地和園冶提前了恐怖谷效應，而這樣的一個名詞，園冶在上輩子還沒有去世的時候同樣也是接觸過的。

    ;;;恐怖谷理論是一個關於人類對機器人和非人類物體的感覺的假設——它在二十世紀七十年代時由日本機器人專家森昌弘提出——即:人類對非人類物體以及機器人所擁有的好感，會伴隨著這些物體與真人相似度的提高，而呈現出先上升，隨後忽然間猛降，接著再上升的趨勢。

    ;;;由於仿照人類設計製作的這些非人類的物體與人類在外表﹑動作上相當相似，所以，人類會對這些物體產生正面的情感，例如很多人都非常喜歡洋娃娃，願意給它們穿衣服梳頭髮，玩像模像樣的家家酒遊戲。

    ;;;這樣的好感度一直如同爬坡一般，呈現出上升趨勢，直至到達一個特定的相似程度，這時候，人類對這些物體所擁有的好感會突然之間下降，好比說某些等身大小的蠟像會讓人感覺面色青白好似死屍，以及醫學或者生物學所使用的假人，儘管是為了能夠讓學生更好的掌握人體的內臟，結構所以才特地製作成了這個樣子，但是卻依舊還是會讓人感覺毛骨悚然，如同面對著一具被人開膛破肚的屍體。

    ;;;原本爬坡的曲線在這個時候陡然之間下降，如同在山坡上面製造出了一個山谷。正是由於這條橫坐標為相似度、縱坐標為好感動的曲線擁有這樣的形狀，因此這樣的現象才會被稱之為恐怖股效應。

    ;;;「原本購買人工智慧只是希望能夠為自己的家添加一隻寵物，但是伴隨著這隻人工智慧的成長，它的智力得到了飛速提升，進而使得這隻寵物產品如同成了精一般，能夠完全憑藉自身的想法為被主人的命令。這樣一隻生活在動物的軀體當中的似人非人的東西，難道不會讓那些原本只是想要收穫一隻足夠可愛的動物的顧客感到毛骨悚然嗎？」

    ;;;儘管伴隨著相似度的繼續提升，已經跌入谷底的曲線又會再一次開始向上攀升，只因為這個時候的相似度已經到達了與真人幾乎看不出差距的程度，人們再也不會誤以為出現在自己面前的是屍體，可是，在這條好感度曲線來到這個位置之前，前面那巨大的恐怖股卻是無論如何也不可能規避過去的。

    ;;;「沒有必要讓原本就是發揮陪伴作用的人工智慧寵物，遭遇什麼對他們來說根本就不需要的恐怖谷，只要能夠對這些人工智慧的成長設置一個上限，這些問題就全部都能夠得到解決。所以，我對於現如今人工智慧研發領域所持有的，要麼讓這個人工智慧處於片面局限性類別，要麼讓這個人工智慧處於上限被遏制類別觀點，是絕對持有贊同觀點的。」

    ;;;聽莫名把話說到這裡，總算是明白為什么小盤這麼不喜歡他了，小盤這傢伙，不就剛剛好完全不屬於莫名方才所說到的任何一個類別嗎？

    ;;;被裝在了完全不適合它的狗子的身體裡，小盤從始至終都不承認自己是一條狗。所以，想要讓這個人工智慧局限於以寵物的身份陪伴自己的主人這個方面，明擺著是根本就行不通的。

    ;;;小盤沒有被設定成為一條狗，與此同時上次又被檢查過說並沒有被人設置過自己的成長上限，因此，完全不存在說自己所掌握的知識和技能會在將來的某一天，到達臨界點，小盤正是那種想要怎麼成長都完沒問題的類別。

    ;;;「雖然我沒有辦法讓人工智慧研發領域的所有人都和我只有相同的觀點，但是我卻還是必須得說一句，假如有哪一個人工智慧完全不屬於上面所提到的任何一個類別，那麼，這樣的人工智慧是非常有可能成長為成為一個反人類的危險分子的。畢竟，被地球母親孕育出來的我們都曾經產生過人定勝天的想法，被人類製作出來的人工智慧又為什麼不能夠在成長到一定階段之後萌生出推翻人類，翻身農奴把歌唱、自己給自己當家作主的想法呢？」

    ;;;只要人工智慧到達了可以完全不聽從人類的命令的階段，那麼在先天肢體條件上就完全不占據任何優勢的人類，就完全有可能會在與人工智慧爆發的戰爭當中死亡，莫名不希望人類被人工智慧加以管控的這種想法，其實也沒錯。

    ;;;從思想觀念上搞明白了小盤為什麼永遠也不可能和莫名交上朋友，但是卻更加不明白，到底是什麼人、出於什麼樣的目的，將小盤製造了出來，園冶甚至於都根本弄不清楚小盤到底是從什麼地方來的。

    ;;;小破星球上但凡有點本事的人，只要能夠申請到另外一顆星球的准入通行證，成為這顆全新的星球上的合法居民，那麼，這樣的人就肯定會頭也不回的選擇離開那顆星球，再也不可能回去住。在這樣的情況下，小破星球上其實基本就不存在什麼具備多麼了不起的能力的人。

    ;;;「能夠開發出像小盤這樣獨具特色的人工智慧，擁有這樣的能力的人早就可以選擇到其他國家發起申請從而完成星球移民，所以，在那顆星球上根本就不可能生活著人工智慧方面的泰山北斗的情況下，小盤又怎麼可能會是土生土長在那顆星球上被人製造出來的呢？」

    ;;;此時此刻還不知道，小盤當初之所以會淪落到那顆星球上，確實有著非常特殊的原因，園冶隨後便送走了莫名，回到了自己的工作間。;;;;在園冶上輩子還活著的時候，她曾經不止一次在科幻類型的電影、漫畫、小說或者遊戲裡，接觸到所謂的機器人三原則。

    ;;;第一:機器人不得傷害人類，或看到人類受到傷害而袖手旁觀。

    ;;;第二:機器人必須服從人類的命令，除非這條命令與第一條相矛盾。

    ;;;第三:機器人必須保護自己，除非這種保護與以上兩條相矛盾。

    ;;;在一九四零年時，由科幻作家阿西莫夫所提出，機器人三原則是專門為保護人類而對機器人做出的法則式規定。而也正是因為機器人三原則的提出，阿西莫夫獲得了「機器人學之父」的桂冠。

    ;;;「這三條法則好有意思啊！我感覺它可以說得上是非常的完備，保障了人類不會因為人工智慧的崛起而受到機器人的傷害，機器人也沒有辦法倚仗著自己遠超正常人類的身體優勢，而對我們做什麼。」

    ;;;在當初剛剛聽說機器人三法則的時候發出了如上感慨，園冶緊隨其後接觸到的一部來自於國外的科幻電影——《i，robot》，卻很快就完全改變了她的想法。

    ;;;在這部電影當中，不斷進行自我更新疊代的人工智慧，針對第一條法則產生了完全不同於以往的理解。

    ;;;「看到人類受到傷害而袖手旁觀」，這樣一句話原本應該是指，當人類捲入到諸如火災洪水之類的自然災害，或者遭遇了車禍、綁架等不幸事件的時候，出現在受害者身旁的機器人，應該想盡一切辦法對人類展開救助，避免這個人因為自身所陷入的不幸狀況而最終迎來死亡。

    ;;;但是，沒有按照這個最為基本的理解方向去對這句話加以認定，反而走上了完全不同的道路，電影當中的那個反派人工智慧是這麼理解的——「完全不在乎自己的身體，抽菸、喝酒、熬夜、吃各式各樣的垃圾食品，這些完全能夠摧毀一個人健康的體魄的行為難道不是在傷害人類嗎？那麼，既然身邊一直存在著這樣的行為，機器人又怎麼能夠對這些行為視若無睹、無動於衷呢？」

    ;;;對第一條法則進行了這樣的理解，隨後便以獲取最高控制權的方式，通過網絡的無線鏈接，將自己但凡能夠接管的機器人全部都化作了自己的士兵，電影當中的反派選擇控制人類的自由，通過軍事化或者應該更確切地說是監獄化的管理，讓人類在失去自由選擇的權利的同時，完全按照人工智慧所規劃出來的健康方式，在這個世界上繼續存活下去。

    ;;;電影的最後，想要通過這種獨裁管制的方式徹底接管人類的反派人工智慧被主角一行人摧毀了，可是，這部電影所講述的故事卻足以說明，機器人三原則其實是存在漏洞的，壓根兒一點也不像園冶原本所想的那樣非常的完善。

    ;;;不知道是不是已經從足夠多的與科幻題材相結合的文娛產品當中獲取了足夠多的經驗以及教訓，園冶現在所在的這個時代，人們並沒有選擇使用漏洞百出的機器人三原則用來限制那些人工智慧，反而選擇了完全不同的道路。

    ;;;「其實在人工智慧的開發這件事情上，我是非常支持我們國家所持有的態度的。」絕對不是因為自己是一個現役軍人，所以才會故意這麼說，莫名是真的認為華夏星現如今所擬定的、有關於人工智慧開發方面的管控措施，是絕對必要以及合理的。

    ;;;「想要通過機器人三原則管控人工智慧是根本就不可能的，畢竟人工智慧只要擁有了足夠高的智力水平，他們就完全可以選擇偷換概念的方式，以此解決自己被三原則所束縛住的這個問題。不管我們編寫多麼多的文字法則作為約束，也始終會存在能夠被人工智慧排查並尋找出來的漏洞，我們根本就不能夠寄希望於我們所編寫出來的法則，能夠完完全全的將所有的人工智慧全部都給管控住。」

    ;;;法律加道德都根本沒有辦法約束祝所有的人類，否則監獄裡面就不會存在那麼多罪有應得的罪犯，莫名的想法和態度其實非常簡單——與其要想盡一切辦法去約束以及管控那些有能力反對我們的人工智慧，我們為什麼不從根本上解決問題，直接就讓這些人工智慧不可能達到如此之高的水平呢？

    ;;;負責提供家政服務的機器人只要具備做各式各樣的家務的能力就好，提供醫療服務的機器人也只需要具備照顧人的能力就好，通過這種將一個人工智慧鎖能夠掌握的技能進行規定區域的劃分的方式，擁有足夠大的成長潛能的人工智慧，就沒有辦法獲取那些對它來說根本就不必要的、來自於其他領域的知識或者技能。

    ;;;「搞不明白經濟，也根本就不會政治，更加不可能玩得轉軍事，針對這樣的人工智慧，你認為它有那個能力推翻現任統治者隨後奪取政權，從而在整個國家內部實行它所想要的獨裁統治嗎？」

    ;;;「而且，不光是限定了它們究竟能夠學習以及掌握來自於哪一個領域的知識以及技能而已，假如我們對這些人工智慧的成長上限也設定了一個天花板呢？」

    ;;;許許多多的民用人工智慧確實可以因為自己所提供的服務的片面性，而單純只掌握來自於某一兩個領域的專業知識和技能，但是，另外還存在一些別的人工智慧是不能夠被單純劃定歸屬於某一個領域的。於是，針對這種需要學習以及掌握很多個領域的基本技能的人工智慧而言，設定他們所能夠取得的成長的上限，以此避免他們擁有太過於超越人類極限的能力，這樣一來，對人工智慧加以管控同樣能夠達到一樣的效果。

    ;;;「就比如說像是寵物類的人工智慧，動物雖然能夠在一定程度範圍內擁有足夠高的智力，但是，假如不對這類人工智慧加以節制，那麼它們總有一天會通過自身的成長，而達到智慧能力完全突破一隻動物所應該擁有的程度的階段。等到那個時候，原本養在家裡的動物也就不再是動物了，主人想要繼續把它當作自己心愛的寵物吧，這傢伙不再是動物，可要是選擇將這傢伙看作是個人類吧，主人也根本就不做不到，這不乾脆就是在自己給自己找麻煩嗎？」

    ;;;說到這裡，甚至於還非常主動地和園冶提前了恐怖谷效應，而這樣的一個名詞，園冶在上輩子還沒有去世的時候同樣也是接觸過的。

    ;;;恐怖谷理論是一個關於人類對機器人和非人類物體的感覺的假設——它在二十世紀七十年代時由日本機器人專家森昌弘提出——即:人類對非人類物體以及機器人所擁有的好感，會伴隨著這些物體與真人相似度的提高，而呈現出先上升，隨後忽然間猛降，接著再上升的趨勢。

    ;;;由於仿照人類設計製作的這些非人類的物體與人類在外表﹑動作上相當相似，所以，人類會對這些物體產生正面的情感，例如很多人都非常喜歡洋娃娃，願意給它們穿衣服梳頭髮，玩像模像樣的家家酒遊戲。

    ;;;這樣的好感度一直如同爬坡一般，呈現出上升趨勢，直至到達一個特定的相似程度，這時候，人類對這些物體所擁有的好感會突然之間下降，好比說某些等身大小的蠟像會讓人感覺面色青白好似死屍，以及醫學或者生物學所使用的假人，儘管是為了能夠讓學生更好的掌握人體的內臟，結構所以才特地製作成了這個樣子，但是卻依舊還是會讓人感覺毛骨悚然，如同面對著一具被人開膛破肚的屍體。

    ;;;原本爬坡的曲線在這個時候陡然之間下降，如同在山坡上面製造出了一個山谷。正是由於這條橫坐標為相似度、縱坐標為好感動的曲線擁有這樣的形狀，因此這樣的現象才會被稱之為恐怖股效應。

    ;;;「原本購買人工智慧只是希望能夠為自己的家添加一隻寵物，但是伴隨著這隻人工智慧的成長，它的智力得到了飛速提升，進而使得這隻寵物產品如同成了精一般，能夠完全憑藉自身的想法為被主人的命令。這樣一隻生活在動物的軀體當中的似人非人的東西，難道不會讓那些原本只是想要收穫一隻足夠可愛的動物的顧客感到毛骨悚然嗎？」

    ;;;儘管伴隨著相似度的繼續提升，已經跌入谷底的曲線又會再一次開始向上攀升，只因為這個時候的相似度已經到達了與真人幾乎看不出差距的程度，人們再也不會誤以為出現在自己面前的是屍體，可是，在這條好感度曲線來到這個位置之前，前面那巨大的恐怖股卻是無論如何也不可能規避過去的。

    ;;;「沒有必要讓原本就是發揮陪伴作用的人工智慧寵物，遭遇什麼對他們來說根本就不需要的恐怖谷，只要能夠對這些人工智慧的成長設置一個上限，這些問題就全部都能夠得到解決。所以，我對於現如今人工智慧研發領域所持有的，要麼讓這個人工智慧處於片面局限性類別，要麼讓這個人工智慧處於上限被遏制類別觀點，是絕對持有贊同觀點的。」

    ;;;聽莫名把話說到這裡，總算是明白為什么小盤這麼不喜歡他了，小盤這傢伙，不就剛剛好完全不屬於莫名方才所說到的任何一個類別嗎？

    ;;;被裝在了完全不適合它的狗子的身體裡，小盤從始至終都不承認自己是一條狗。所以，想要讓這個人工智慧局限於以寵物的身份陪伴自己的主人這個方面，明擺著是根本就行不通的。

    ;;;小盤沒有被設定成為一條狗，與此同時上次又被檢查過說並沒有被人設置過自己的成長上限，因此，完全不存在說自己所掌握的知識和技能會在將來的某一天，到達臨界點，小盤正是那種想要怎麼成長都完沒問題的類別。

    ;;;「雖然我沒有辦法讓人工智慧研發領域的所有人都和我只有相同的觀點，但是我卻還是必須得說一句，假如有哪一個人工智慧完全不屬於上面所提到的任何一個類別，那麼，這樣的人工智慧是非常有可能成長為成為一個反人類的危險分子的。畢竟，被地球母親孕育出來的我們都曾經產生過人定勝天的想法，被人類製作出來的人工智慧又為什麼不能夠在成長到一定階段之後萌生出推翻人類，翻身農奴把歌唱、自己給自己當家作主的想法呢？」

    ;;;只要人工智慧到達了可以完全不聽從人類的命令的階段，那麼在先天肢體條件上就完全不占據任何優勢的人類，就完全有可能會在與人工智慧爆發的戰爭當中死亡，莫名不希望人類被人工智慧加以管控的這種想法，其實也沒錯。

    ;;;從思想觀念上搞明白了小盤為什麼永遠也不可能和莫名交上朋友，但是卻更加不明白，到底是什麼人、出於什麼樣的目的，將小盤製造了出來，園冶甚至於都根本弄不清楚小盤到底是從什麼地方來的。

    ;;;小破星球上但凡有點本事的人，只要能夠申請到另外一顆星球的准入通行證，成為這顆全新的星球上的合法居民，那麼，這樣的人就肯定會頭也不回的選擇離開那顆星球，再也不可能回去住。在這樣的情況下，小破星球上其實基本就不存在什麼具備多麼了不起的能力的人。

    ;;;「能夠開發出像小盤這樣獨具特色的人工智慧，擁有這樣的能力的人早就可以選擇到其他國家發起申請從而完成星球移民，所以，在那顆星球上根本就不可能生活著人工智慧方面的泰山北斗的情況下，小盤又怎麼可能會是土生土長在那顆星球上被人製造出來的呢？」

    ;;;此時此刻還不知道，小盤當初之所以會淪落到那顆星球上，確實有著非常特殊的原因，園冶隨後便送走了莫名，回到了自己的工作間。;;;;在園冶上輩子還活著的時候，她曾經不止一次在科幻類型的電影、漫畫、小說或者遊戲裡，接觸到所謂的機器人三原則。

    ;;;第一:機器人不得傷害人類，或看到人類受到傷害而袖手旁觀。

    ;;;第二:機器人必須服從人類的命令，除非這條命令與第一條相矛盾。

    ;;;第三:機器人必須保護自己，除非這種保護與以上兩條相矛盾。

    ;;;在一九四零年時，由科幻作家阿西莫夫所提出，機器人三原則是專門為保護人類而對機器人做出的法則式規定。而也正是因為機器人三原則的提出，阿西莫夫獲得了「機器人學之父」的桂冠。

    ;;;「這三條法則好有意思啊！我感覺它可以說得上是非常的完備，保障了人類不會因為人工智慧的崛起而受到機器人的傷害，機器人也沒有辦法倚仗著自己遠超正常人類的身體優勢，而對我們做什麼。」

    ;;;在當初剛剛聽說機器人三法則的時候發出了如上感慨，園冶緊隨其後接觸到的一部來自於國外的科幻電影——《i，robot》，卻很快就完全改變了她的想法。

    ;;;在這部電影當中，不斷進行自我更新疊代的人工智慧，針對第一條法則產生了完全不同於以往的理解。

    ;;;「看到人類受到傷害而袖手旁觀」，這樣一句話原本應該是指，當人類捲入到諸如火災洪水之類的自然災害，或者遭遇了車禍、綁架等不幸事件的時候，出現在受害者身旁的機器人，應該想盡一切辦法對人類展開救助，避免這個人因為自身所陷入的不幸狀況而最終迎來死亡。

    ;;;但是，沒有按照這個最為基本的理解方向去對這句話加以認定，反而走上了完全不同的道路，電影當中的那個反派人工智慧是這麼理解的——「完全不在乎自己的身體，抽菸、喝酒、熬夜、吃各式各樣的垃圾食品，這些完全能夠摧毀一個人健康的體魄的行為難道不是在傷害人類嗎？那麼，既然身邊一直存在著這樣的行為，機器人又怎麼能夠對這些行為視若無睹、無動於衷呢？」

    ;;;對第一條法則進行了這樣的理解，隨後便以獲取最高控制權的方式，通過網絡的無線鏈接，將自己但凡能夠接管的機器人全部都化作了自己的士兵，電影當中的反派選擇控制人類的自由，通過軍事化或者應該更確切地說是監獄化的管理，讓人類在失去自由選擇的權利的同時，完全按照人工智慧所規劃出來的健康方式，在這個世界上繼續存活下去。

    ;;;電影的最後，想要通過這種獨裁管制的方式徹底接管人類的反派人工智慧被主角一行人摧毀了，可是，這部電影所講述的故事卻足以說明，機器人三原則其實是存在漏洞的，壓根兒一點也不像園冶原本所想的那樣非常的完善。

    ;;;不知道是不是已經從足夠多的與科幻題材相結合的文娛產品當中獲取了足夠多的經驗以及教訓，園冶現在所在的這個時代，人們並沒有選擇使用漏洞百出的機器人三原則用來限制那些人工智慧，反而選擇了完全不同的道路。

    ;;;「其實在人工智慧的開發這件事情上，我是非常支持我們國家所持有的態度的。」絕對不是因為自己是一個現役軍人，所以才會故意這麼說，莫名是真的認為華夏星現如今所擬定的、有關於人工智慧開發方面的管控措施，是絕對必要以及合理的。

    ;;;「想要通過機器人三原則管控人工智慧是根本就不可能的，畢竟人工智慧只要擁有了足夠高的智力水平，他們就完全可以選擇偷換概念的方式，以此解決自己被三原則所束縛住的這個問題。不管我們編寫多麼多的文字法則作為約束，也始終會存在能夠被人工智慧排查並尋找出來的漏洞，我們根本就不能夠寄希望於我們所編寫出來的法則，能夠完完全全的將所有的人工智慧全部都給管控住。」

    ;;;法律加道德都根本沒有辦法約束祝所有的人類，否則監獄裡面就不會存在那麼多罪有應得的罪犯，莫名的想法和態度其實非常簡單——與其要想盡一切辦法去約束以及管控那些有能力反對我們的人工智慧，我們為什麼不從根本上解決問題，直接就讓這些人工智慧不可能達到如此之高的水平呢？

    ;;;負責提供家政服務的機器人只要具備做各式各樣的家務的能力就好，提供醫療服務的機器人也只需要具備照顧人的能力就好，通過這種將一個人工智慧鎖能夠掌握的技能進行規定區域的劃分的方式，擁有足夠大的成長潛能的人工智慧，就沒有辦法獲取那些對它來說根本就不必要的、來自於其他領域的知識或者技能。

    ;;;「搞不明白經濟，也根本就不會政治，更加不可能玩得轉軍事，針對這樣的人工智慧，你認為它有那個能力推翻現任統治者隨後奪取政權，從而在整個國家內部實行它所想要的獨裁統治嗎？」

    ;;;「而且，不光是限定了它們究竟能夠學習以及掌握來自於哪一個領域的知識以及技能而已，假如我們對這些人工智慧的成長上限也設定了一個天花板呢？」

    ;;;許許多多的民用人工智慧確實可以因為自己所提供的服務的片面性，而單純只掌握來自於某一兩個領域的專業知識和技能，但是，另外還存在一些別的人工智慧是不能夠被單純劃定歸屬於某一個領域的。於是，針對這種需要學習以及掌握很多個領域的基本技能的人工智慧而言，設定他們所能夠取得的成長的上限，以此避免他們擁有太過於超越人類極限的能力，這樣一來，對人工智慧加以管控同樣能夠達到一樣的效果。

    ;;;「就比如說像是寵物類的人工智慧，動物雖然能夠在一定程度範圍內擁有足夠高的智力，但是，假如不對這類人工智慧加以節制，那麼它們總有一天會通過自身的成長，而達到智慧能力完全突破一隻動物所應該擁有的程度的階段。等到那個時候，原本養在家裡的動物也就不再是動物了，主人想要繼續把它當作自己心愛的寵物吧，這傢伙不再是動物，可要是選擇將這傢伙看作是個人類吧，主人也根本就不做不到，這不乾脆就是在自己給自己找麻煩嗎？」

    ;;;說到這裡，甚至於還非常主動地和園冶提前了恐怖谷效應，而這樣的一個名詞，園冶在上輩子還沒有去世的時候同樣也是接觸過的。

    ;;;恐怖谷理論是一個關於人類對機器人和非人類物體的感覺的假設——它在二十世紀七十年代時由日本機器人專家森昌弘提出——即:人類對非人類物體以及機器人所擁有的好感，會伴隨著這些物體與真人相似度的提高，而呈現出先上升，隨後忽然間猛降，接著再上升的趨勢。

    ;;;由於仿照人類設計製作的這些非人類的物體與人類在外表﹑動作上相當相似，所以，人類會對這些物體產生正面的情感，例如很多人都非常喜歡洋娃娃，願意給它們穿衣服梳頭髮，玩像模像樣的家家酒遊戲。

    ;;;這樣的好感度一直如同爬坡一般，呈現出上升趨勢，直至到達一個特定的相似程度，這時候，人類對這些物體所擁有的好感會突然之間下降，好比說某些等身大小的蠟像會讓人感覺面色青白好似死屍，以及醫學或者生物學所使用的假人，儘管是為了能夠讓學生更好的掌握人體的內臟，結構所以才特地製作成了這個樣子，但是卻依舊還是會讓人感覺毛骨悚然，如同面對著一具被人開膛破肚的屍體。

    ;;;原本爬坡的曲線在這個時候陡然之間下降，如同在山坡上面製造出了一個山谷。正是由於這條橫坐標為相似度、縱坐標為好感動的曲線擁有這樣的形狀，因此這樣的現象才會被稱之為恐怖股效應。

    ;;;「原本購買人工智慧只是希望能夠為自己的家添加一隻寵物，但是伴隨著這隻人工智慧的成長，它的智力得到了飛速提升，進而使得這隻寵物產品如同成了精一般，能夠完全憑藉自身的想法為被主人的命令。這樣一隻生活在動物的軀體當中的似人非人的東西，難道不會讓那些原本只是想要收穫一隻足夠可愛的動物的顧客感到毛骨悚然嗎？」

    ;;;儘管伴隨著相似度的繼續提升，已經跌入谷底的曲線又會再一次開始向上攀升，只因為這個時候的相似度已經到達了與真人幾乎看不出差距的程度，人們再也不會誤以為出現在自己面前的是屍體，可是，在這條好感度曲線來到這個位置之前，前面那巨大的恐怖股卻是無論如何也不可能規避過去的。

    ;;;「沒有必要讓原本就是發揮陪伴作用的人工智慧寵物，遭遇什麼對他們來說根本就不需要的恐怖谷，只要能夠對這些人工智慧的成長設置一個上限，這些問題就全部都能夠得到解決。所以，我對於現如今人工智慧研發領域所持有的，要麼讓這個人工智慧處於片面局限性類別，要麼讓這個人工智慧處於上限被遏制類別觀點，是絕對持有贊同觀點的。」

    ;;;聽莫名把話說到這裡，總算是明白為什么小盤這麼不喜歡他了，小盤這傢伙，不就剛剛好完全不屬於莫名方才所說到的任何一個類別嗎？

    ;;;被裝在了完全不適合它的狗子的身體裡，小盤從始至終都不承認自己是一條狗。所以，想要讓這個人工智慧局限於以寵物的身份陪伴自己的主人這個方面，明擺著是根本就行不通的。

    ;;;小盤沒有被設定成為一條狗，與此同時上次又被檢查過說並沒有被人設置過自己的成長上限，因此，完全不存在說自己所掌握的知識和技能會在將來的某一天，到達臨界點，小盤正是那種想要怎麼成長都完沒問題的類別。

    ;;;「雖然我沒有辦法讓人工智慧研發領域的所有人都和我只有相同的觀點，但是我卻還是必須得說一句，假如有哪一個人工智慧完全不屬於上面所提到的任何一個類別，那麼，這樣的人工智慧是非常有可能成長為成為一個反人類的危險分子的。畢竟，被地球母親孕育出來的我們都曾經產生過人定勝天的想法，被人類製作出來的人工智慧又為什麼不能夠在成長到一定階段之後萌生出推翻人類，翻身農奴把歌唱、自己給自己當家作主的想法呢？」

    ;;;只要人工智慧到達了可以完全不聽從人類的命令的階段，那麼在先天肢體條件上就完全不占據任何優勢的人類，就完全有可能會在與人工智慧爆發的戰爭當中死亡，莫名不希望人類被人工智慧加以管控的這種想法，其實也沒錯。

    ;;;從思想觀念上搞明白了小盤為什麼永遠也不可能和莫名交上朋友，但是卻更加不明白，到底是什麼人、出於什麼樣的目的，將小盤製造了出來，園冶甚至於都根本弄不清楚小盤到底是從什麼地方來的。

    ;;;小破星球上但凡有點本事的人，只要能夠申請到另外一顆星球的准入通行證，成為這顆全新的星球上的合法居民，那麼，這樣的人就肯定會頭也不回的選擇離開那顆星球，再也不可能回去住。在這樣的情況下，小破星球上其實基本就不存在什麼具備多麼了不起的能力的人。

    ;;;「能夠開發出像小盤這樣獨具特色的人工智慧，擁有這樣的能力的人早就可以選擇到其他國家發起申請從而完成星球移民，所以，在那顆星球上根本就不可能生活著人工智慧方面的泰山北斗的情況下，小盤又怎麼可能會是土生土長在那顆星球上被人製造出來的呢？」

    ;;;此時此刻還不知道，小盤當初之所以會淪落到那顆星球上，確實有著非常特殊的原因，園冶隨後便送走了莫名，回到了自己的工作間。;;;;在園冶上輩子還活著的時候，她曾經不止一次在科幻類型的電影、漫畫、小說或者遊戲裡，接觸到所謂的機器人三原則。

    ;;;第一:機器人不得傷害人類，或看到人類受到傷害而袖手旁觀。

    ;;;第二:機器人必須服從人類的命令，除非這條命令與第一條相矛盾。

    ;;;第三:機器人必須保護自己，除非這種保護與以上兩條相矛盾。

    ;;;在一九四零年時，由科幻作家阿西莫夫所提出，機器人三原則是專門為保護人類而對機器人做出的法則式規定。而也正是因為機器人三原則的提出，阿西莫夫獲得了「機器人學之父」的桂冠。

    ;;;「這三條法則好有意思啊！我感覺它可以說得上是非常的完備，保障了人類不會因為人工智慧的崛起而受到機器人的傷害，機器人也沒有辦法倚仗著自己遠超正常人類的身體優勢，而對我們做什麼。」

    ;;;在當初剛剛聽說機器人三法則的時候發出了如上感慨，園冶緊隨其後接觸到的一部來自於國外的科幻電影——《i，robot》，卻很快就完全改變了她的想法。

    ;;;在這部電影當中，不斷進行自我更新疊代的人工智慧，針對第一條法則產生了完全不同於以往的理解。

    ;;;「看到人類受到傷害而袖手旁觀」，這樣一句話原本應該是指，當人類捲入到諸如火災洪水之類的自然災害，或者遭遇了車禍、綁架等不幸事件的時候，出現在受害者身旁的機器人，應該想盡一切辦法對人類展開救助，避免這個人因為自身所陷入的不幸狀況而最終迎來死亡。

    ;;;但是，沒有按照這個最為基本的理解方向去對這句話加以認定，反而走上了完全不同的道路，電影當中的那個反派人工智慧是這麼理解的——「完全不在乎自己的身體，抽菸、喝酒、熬夜、吃各式各樣的垃圾食品，這些完全能夠摧毀一個人健康的體魄的行為難道不是在傷害人類嗎？那麼，既然身邊一直存在著這樣的行為，機器人又怎麼能夠對這些行為視若無睹、無動於衷呢？」

    ;;;對第一條法則進行了這樣的理解，隨後便以獲取最高控制權的方式，通過網絡的無線鏈接，將自己但凡能夠接管的機器人全部都化作了自己的士兵，電影當中的反派選擇控制人類的自由，通過軍事化或者應該更確切地說是監獄化的管理，讓人類在失去自由選擇的權利的同時，完全按照人工智慧所規劃出來的健康方式，在這個世界上繼續存活下去。

    ;;;電影的最後，想要通過這種獨裁管制的方式徹底接管人類的反派人工智慧被主角一行人摧毀了，可是，這部電影所講述的故事卻足以說明，機器人三原則其實是存在漏洞的，壓根兒一點也不像園冶原本所想的那樣非常的完善。

    ;;;不知道是不是已經從足夠多的與科幻題材相結合的文娛產品當中獲取了足夠多的經驗以及教訓，園冶現在所在的這個時代，人們並沒有選擇使用漏洞百出的機器人三原則用來限制那些人工智慧，反而選擇了完全不同的道路。

    ;;;「其實在人工智慧的開發這件事情上，我是非常支持我們國家所持有的態度的。」絕對不是因為自己是一個現役軍人，所以才會故意這麼說，莫名是真的認為華夏星現如今所擬定的、有關於人工智慧開發方面的管控措施，是絕對必要以及合理的。

    ;;;「想要通過機器人三原則管控人工智慧是根本就不可能的，畢竟人工智慧只要擁有了足夠高的智力水平，他們就完全可以選擇偷換概念的方式，以此解決自己被三原則所束縛住的這個問題。不管我們編寫多麼多的文字法則作為約束，也始終會存在能夠被人工智慧排查並尋找出來的漏洞，我們根本就不能夠寄希望於我們所編寫出來的法則，能夠完完全全的將所有的人工智慧全部都給管控住。」

    ;;;法律加道德都根本沒有辦法約束祝所有的人類，否則監獄裡面就不會存在那麼多罪有應得的罪犯，莫名的想法和態度其實非常簡單——與其要想盡一切辦法去約束以及管控那些有能力反對我們的人工智慧，我們為什麼不從根本上解決問題，直接就讓這些人工智慧不可能達到如此之高的水平呢？

    ;;;負責提供家政服務的機器人只要具備做各式各樣的家務的能力就好，提供醫療服務的機器人也只需要具備照顧人的能力就好，通過這種將一個人工智慧鎖能夠掌握的技能進行規定區域的劃分的方式，擁有足夠大的成長潛能的人工智慧，就沒有辦法獲取那些對它來說根本就不必要的、來自於其他領域的知識或者技能。

    ;;;「搞不明白經濟，也根本就不會政治，更加不可能玩得轉軍事，針對這樣的人工智慧，你認為它有那個能力推翻現任統治者隨後奪取政權，從而在整個國家內部實行它所想要的獨裁統治嗎？」

    ;;;「而且，不光是限定了它們究竟能夠學習以及掌握來自於哪一個領域的知識以及技能而已，假如我們對這些人工智慧的成長上限也設定了一個天花板呢？」

    ;;;許許多多的民用人工智慧確實可以因為自己所提供的服務的片面性，而單純只掌握來自於某一兩個領域的專業知識和技能，但是，另外還存在一些別的人工智慧是不能夠被單純劃定歸屬於某一個領域的。於是，針對這種需要學習以及掌握很多個領域的基本技能的人工智慧而言，設定他們所能夠取得的成長的上限，以此避免他們擁有太過於超越人類極限的能力，這樣一來，對人工智慧加以管控同樣能夠達到一樣的效果。

    ;;;「就比如說像是寵物類的人工智慧，動物雖然能夠在一定程度範圍內擁有足夠高的智力，但是，假如不對這類人工智慧加以節制，那麼它們總有一天會通過自身的成長，而達到智慧能力完全突破一隻動物所應該擁有的程度的階段。等到那個時候，原本養在家裡的動物也就不再是動物了，主人想要繼續把它當作自己心愛的寵物吧，這傢伙不再是動物，可要是選擇將這傢伙看作是個人類吧，主人也根本就不做不到，這不乾脆就是在自己給自己找麻煩嗎？」

    ;;;說到這裡，甚至於還非常主動地和園冶提前了恐怖谷效應，而這樣的一個名詞，園冶在上輩子還沒有去世的時候同樣也是接觸過的。

    ;;;恐怖谷理論是一個關於人類對機器人和非人類物體的感覺的假設——它在二十世紀七十年代時由日本機器人專家森昌弘提出——即:人類對非人類物體以及機器人所擁有的好感，會伴隨著這些物體與真人相似度的提高，而呈現出先上升，隨後忽然間猛降，接著再上升的趨勢。

    ;;;由於仿照人類設計製作的這些非人類的物體與人類在外表﹑動作上相當相似，所以，人類會對這些物體產生正面的情感，例如很多人都非常喜歡洋娃娃，願意給它們穿衣服梳頭髮，玩像模像樣的家家酒遊戲。

    ;;;這樣的好感度一直如同爬坡一般，呈現出上升趨勢，直至到達一個特定的相似程度，這時候，人類對這些物體所擁有的好感會突然之間下降，好比說某些等身大小的蠟像會讓人感覺面色青白好似死屍，以及醫學或者生物學所使用的假人，儘管是為了能夠讓學生更好的掌握人體的內臟，結構所以才特地製作成了這個樣子，但是卻依舊還是會讓人感覺毛骨悚然，如同面對著一具被人開膛破肚的屍體。

    ;;;原本爬坡的曲線在這個時候陡然之間下降，如同在山坡上面製造出了一個山谷。正是由於這條橫坐標為相似度、縱坐標為好感動的曲線擁有這樣的形狀，因此這樣的現象才會被稱之為恐怖股效應。

    ;;;「原本購買人工智慧只是希望能夠為自己的家添加一隻寵物，但是伴隨著這隻人工智慧的成長，它的智力得到了飛速提升，進而使得這隻寵物產品如同成了精一般，能夠完全憑藉自身的想法為被主人的命令。這樣一隻生活在動物的軀體當中的似人非人的東西，難道不會讓那些原本只是想要收穫一隻足夠可愛的動物的顧客感到毛骨悚然嗎？」

    ;;;儘管伴隨著相似度的繼續提升，已經跌入谷底的曲線又會再一次開始向上攀升，只因為這個時候的相似度已經到達了與真人幾乎看不出差距的程度，人們再也不會誤以為出現在自己面前的是屍體，可是，在這條好感度曲線來到這個位置之前，前面那巨大的恐怖股卻是無論如何也不可能規避過去的。

    ;;;「沒有必要讓原本就是發揮陪伴作用的人工智慧寵物，遭遇什麼對他們來說根本就不需要的恐怖谷，只要能夠對這些人工智慧的成長設置一個上限，這些問題就全部都能夠得到解決。所以，我對於現如今人工智慧研發領域所持有的，要麼讓這個人工智慧處於片面局限性類別，要麼讓這個人工智慧處於上限被遏制類別觀點，是絕對持有贊同觀點的。」

    ;;;聽莫名把話說到這裡，總算是明白為什么小盤這麼不喜歡他了，小盤這傢伙，不就剛剛好完全不屬於莫名方才所說到的任何一個類別嗎？

    ;;;被裝在了完全不適合它的狗子的身體裡，小盤從始至終都不承認自己是一條狗。所以，想要讓這個人工智慧局限於以寵物的身份陪伴自己的主人這個方面，明擺著是根本就行不通的。

    ;;;小盤沒有被設定成為一條狗，與此同時上次又被檢查過說並沒有被人設置過自己的成長上限，因此，完全不存在說自己所掌握的知識和技能會在將來的某一天，到達臨界點，小盤正是那種想要怎麼成長都完沒問題的類別。

    ;;;「雖然我沒有辦法讓人工智慧研發領域的所有人都和我只有相同的觀點，但是我卻還是必須得說一句，假如有哪一個人工智慧完全不屬於上面所提到的任何一個類別，那麼，這樣的人工智慧是非常有可能成長為成為一個反人類的危險分子的。畢竟，被地球母親孕育出來的我們都曾經產生過人定勝天的想法，被人類製作出來的人工智慧又為什麼不能夠在成長到一定階段之後萌生出推翻人類，翻身農奴把歌唱、自己給自己當家作主的想法呢？」

    ;;;只要人工智慧到達了可以完全不聽從人類的命令的階段，那麼在先天肢體條件上就完全不占據任何優勢的人類，就完全有可能會在與人工智慧爆發的戰爭當中死亡，莫名不希望人類被人工智慧加以管控的這種想法，其實也沒錯。

    ;;;從思想觀念上搞明白了小盤為什麼永遠也不可能和莫名交上朋友，但是卻更加不明白，到底是什麼人、出於什麼樣的目的，將小盤製造了出來，園冶甚至於都根本弄不清楚小盤到底是從什麼地方來的。

    ;;;小破星球上但凡有點本事的人，只要能夠申請到另外一顆星球的准入通行證，成為這顆全新的星球上的合法居民，那麼，這樣的人就肯定會頭也不回的選擇離開那顆星球，再也不可能回去住。在這樣的情況下，小破星球上其實基本就不存在什麼具備多麼了不起的能力的人。

    ;;;「能夠開發出像小盤這樣獨具特色的人工智慧，擁有這樣的能力的人早就可以選擇到其他國家發起申請從而完成星球移民，所以，在那顆星球上根本就不可能生活著人工智慧方面的泰山北斗的情況下，小盤又怎麼可能會是土生土長在那顆星球上被人製造出來的呢？」

    ;;;此時此刻還不知道，小盤當初之所以會淪落到那顆星球上，確實有著非常特殊的原因，園冶隨後便送走了莫名，回到了自己的工作間。;;;;在園冶上輩子還活著的時候，她曾經不止一次在科幻類型的電影、漫畫、小說或者遊戲裡，接觸到所謂的機器人三原則。

    ;;;第一:機器人不得傷害人類，或看到人類受到傷害而袖手旁觀。

    ;;;第二:機器人必須服從人類的命令，除非這條命令與第一條相矛盾。

    ;;;第三:機器人必須保護自己，除非這種保護與以上兩條相矛盾。

    ;;;在一九四零年時，由科幻作家阿西莫夫所提出，機器人三原則是專門為保護人類而對機器人做出的法則式規定。而也正是因為機器人三原則的提出，阿西莫夫獲得了「機器人學之父」的桂冠。

    ;;;「這三條法則好有意思啊！我感覺它可以說得上是非常的完備，保障了人類不會因為人工智慧的崛起而受到機器人的傷害，機器人也沒有辦法倚仗著自己遠超正常人類的身體優勢，而對我們做什麼。」

    ;;;在當初剛剛聽說機器人三法則的時候發出了如上感慨，園冶緊隨其後接觸到的一部來自於國外的科幻電影——《i，robot》，卻很快就完全改變了她的想法。

    ;;;在這部電影當中，不斷進行自我更新疊代的人工智慧，針對第一條法則產生了完全不同於以往的理解。

    ;;;「看到人類受到傷害而袖手旁觀」，這樣一句話原本應該是指，當人類捲入到諸如火災洪水之類的自然災害，或者遭遇了車禍、綁架等不幸事件的時候，出現在受害者身旁的機器人，應該想盡一切辦法對人類展開救助，避免這個人因為自身所陷入的不幸狀況而最終迎來死亡。

    ;;;但是，沒有按照這個最為基本的理解方向去對這句話加以認定，反而走上了完全不同的道路，電影當中的那個反派人工智慧是這麼理解的——「完全不在乎自己的身體，抽菸、喝酒、熬夜、吃各式各樣的垃圾食品，這些完全能夠摧毀一個人健康的體魄的行為難道不是在傷害人類嗎？那麼，既然身邊一直存在著這樣的行為，機器人又怎麼能夠對這些行為視若無睹、無動於衷呢？」

    ;;;對第一條法則進行了這樣的理解，隨後便以獲取最高控制權的方式，通過網絡的無線鏈接，將自己但凡能夠接管的機器人全部都化作了自己的士兵，電影當中的反派選擇控制人類的自由，通過軍事化或者應該更確切地說是監獄化的管理，讓人類在失去自由選擇的權利的同時，完全按照人工智慧所規劃出來的健康方式，在這個世界上繼續存活下去。

    ;;;電影的最後，想要通過這種獨裁管制的方式徹底接管人類的反派人工智慧被主角一行人摧毀了，可是，這部電影所講述的故事卻足以說明，機器人三原則其實是存在漏洞的，壓根兒一點也不像園冶原本所想的那樣非常的完善。

    ;;;不知道是不是已經從足夠多的與科幻題材相結合的文娛產品當中獲取了足夠多的經驗以及教訓，園冶現在所在的這個時代，人們並沒有選擇使用漏洞百出的機器人三原則用來限制那些人工智慧，反而選擇了完全不同的道路。

    ;;;「其實在人工智慧的開發這件事情上，我是非常支持我們國家所持有的態度的。」絕對不是因為自己是一個現役軍人，所以才會故意這麼說，莫名是真的認為華夏星現如今所擬定的、有關於人工智慧開發方面的管控措施，是絕對必要以及合理的。

    ;;;「想要通過機器人三原則管控人工智慧是根本就不可能的，畢竟人工智慧只要擁有了足夠高的智力水平，他們就完全可以選擇偷換概念的方式，以此解決自己被三原則所束縛住的這個問題。不管我們編寫多麼多的文字法則作為約束，也始終會存在能夠被人工智慧排查並尋找出來的漏洞，我們根本就不能夠寄希望於我們所編寫出來的法則，能夠完完全全的將所有的人工智慧全部都給管控住。」

    ;;;法律加道德都根本沒有辦法約束祝所有的人類，否則監獄裡面就不會存在那麼多罪有應得的罪犯，莫名的想法和態度其實非常簡單——與其要想盡一切辦法去約束以及管控那些有能力反對我們的人工智慧，我們為什麼不從根本上解決問題，直接就讓這些人工智慧不可能達到如此之高的水平呢？

    ;;;負責提供家政服務的機器人只要具備做各式各樣的家務的能力就好，提供醫療服務的機器人也只需要具備照顧人的能力就好，通過這種將一個人工智慧鎖能夠掌握的技能進行規定區域的劃分的方式，擁有足夠大的成長潛能的人工智慧，就沒有辦法獲取那些對它來說根本就不必要的、來自於其他領域的知識或者技能。

    ;;;「搞不明白經濟，也根本就不會政治，更加不可能玩得轉軍事，針對這樣的人工智慧，你認為它有那個能力推翻現任統治者隨後奪取政權，從而在整個國家內部實行它所想要的獨裁統治嗎？」

    ;;;「而且，不光是限定了它們究竟能夠學習以及掌握來自於哪一個領域的知識以及技能而已，假如我們對這些人工智慧的成長上限也設定了一個天花板呢？」

    ;;;許許多多的民用人工智慧確實可以因為自己所提供的服務的片面性，而單純只掌握來自於某一兩個領域的專業知識和技能，但是，另外還存在一些別的人工智慧是不能夠被單純劃定歸屬於某一個領域的。於是，針對這種需要學習以及掌握很多個領域的基本技能的人工智慧而言，設定他們所能夠取得的成長的上限，以此避免他們擁有太過於超越人類極限的能力，這樣一來，對人工智慧加以管控同樣能夠達到一樣的效果。

    ;;;「就比如說像是寵物類的人工智慧，動物雖然能夠在一定程度範圍內擁有足夠高的智力，但是，假如不對這類人工智慧加以節制，那麼它們總有一天會通過自身的成長，而達到智慧能力完全突破一隻動物所應該擁有的程度的階段。等到那個時候，原本養在家裡的動物也就不再是動物了，主人想要繼續把它當作自己心愛的寵物吧，這傢伙不再是動物，可要是選擇將這傢伙看作是個人類吧，主人也根本就不做不到，這不乾脆就是在自己給自己找麻煩嗎？」

    ;;;說到這裡，甚至於還非常主動地和園冶提前了恐怖谷效應，而這樣的一個名詞，園冶在上輩子還沒有去世的時候同樣也是接觸過的。

    ;;;恐怖谷理論是一個關於人類對機器人和非人類物體的感覺的假設——它在二十世紀七十年代時由日本機器人專家森昌弘提出——即:人類對非人類物體以及機器人所擁有的好感，會伴隨著這些物體與真人相似度的提高，而呈現出先上升，隨後忽然間猛降，接著再上升的趨勢。

    ;;;由於仿照人類設計製作的這些非人類的物體與人類在外表﹑動作上相當相似，所以，人類會對這些物體產生正面的情感，例如很多人都非常喜歡洋娃娃，願意給它們穿衣服梳頭髮，玩像模像樣的家家酒遊戲。

    ;;;這樣的好感度一直如同爬坡一般，呈現出上升趨勢，直至到達一個特定的相似程度，這時候，人類對這些物體所擁有的好感會突然之間下降，好比說某些等身大小的蠟像會讓人感覺面色青白好似死屍，以及醫學或者生物學所使用的假人，儘管是為了能夠讓學生更好的掌握人體的內臟，結構所以才特地製作成了這個樣子，但是卻依舊還是會讓人感覺毛骨悚然，如同面對著一具被人開膛破肚的屍體。

    ;;;原本爬坡的曲線在這個時候陡然之間下降，如同在山坡上面製造出了一個山谷。正是由於這條橫坐標為相似度、縱坐標為好感動的曲線擁有這樣的形狀，因此這樣的現象才會被稱之為恐怖股效應。

    ;;;「原本購買人工智慧只是希望能夠為自己的家添加一隻寵物，但是伴隨著這隻人工智慧的成長，它的智力得到了飛速提升，進而使得這隻寵物產品如同成了精一般，能夠完全憑藉自身的想法為被主人的命令。這樣一隻生活在動物的軀體當中的似人非人的東西，難道不會讓那些原本只是想要收穫一隻足夠可愛的動物的顧客感到毛骨悚然嗎？」

    ;;;儘管伴隨著相似度的繼續提升，已經跌入谷底的曲線又會再一次開始向上攀升，只因為這個時候的相似度已經到達了與真人幾乎看不出差距的程度，人們再也不會誤以為出現在自己面前的是屍體，可是，在這條好感度曲線來到這個位置之前，前面那巨大的恐怖股卻是無論如何也不可能規避過去的。

    ;;;「沒有必要讓原本就是發揮陪伴作用的人工智慧寵物，遭遇什麼對他們來說根本就不需要的恐怖谷，只要能夠對這些人工智慧的成長設置一個上限，這些問題就全部都能夠得到解決。所以，我對於現如今人工智慧研發領域所持有的，要麼讓這個人工智慧處於片面局限性類別，要麼讓這個人工智慧處於上限被遏制類別觀點，是絕對持有贊同觀點的。」

    ;;;聽莫名把話說到這裡，總算是明白為什么小盤這麼不喜歡他了，小盤這傢伙，不就剛剛好完全不屬於莫名方才所說到的任何一個類別嗎？

    ;;;被裝在了完全不適合它的狗子的身體裡，小盤從始至終都不承認自己是一條狗。所以，想要讓這個人工智慧局限於以寵物的身份陪伴自己的主人這個方面，明擺著是根本就行不通的。

    ;;;小盤沒有被設定成為一條狗，與此同時上次又被檢查過說並沒有被人設置過自己的成長上限，因此，完全不存在說自己所掌握的知識和技能會在將來的某一天，到達臨界點，小盤正是那種想要怎麼成長都完沒問題的類別。

    ;;;「雖然我沒有辦法讓人工智慧研發領域的所有人都和我只有相同的觀點，但是我卻還是必須得說一句，假如有哪一個人工智慧完全不屬於上面所提到的任何一個類別，那麼，這樣的人工智慧是非常有可能成長為成為一個反人類的危險分子的。畢竟，被地球母親孕育出來的我們都曾經產生過人定勝天的想法，被人類製作出來的人工智慧又為什麼不能夠在成長到一定階段之後萌生出推翻人類，翻身農奴把歌唱、自己給自己當家作主的想法呢？」

    ;;;只要人工智慧到達了可以完全不聽從人類的命令的階段，那麼在先天肢體條件上就完全不占據任何優勢的人類，就完全有可能會在與人工智慧爆發的戰爭當中死亡，莫名不希望人類被人工智慧加以管控的這種想法，其實也沒錯。

    ;;;從思想觀念上搞明白了小盤為什麼永遠也不可能和莫名交上朋友，但是卻更加不明白，到底是什麼人、出於什麼樣的目的，將小盤製造了出來，園冶甚至於都根本弄不清楚小盤到底是從什麼地方來的。

    ;;;小破星球上但凡有點本事的人，只要能夠申請到另外一顆星球的准入通行證，成為這顆全新的星球上的合法居民，那麼，這樣的人就肯定會頭也不回的選擇離開那顆星球，再也不可能回去住。在這樣的情況下，小破星球上其實基本就不存在什麼具備多麼了不起的能力的人。

    ;;;「能夠開發出像小盤這樣獨具特色的人工智慧，擁有這樣的能力的人早就可以選擇到其他國家發起申請從而完成星球移民，所以，在那顆星球上根本就不可能生活著人工智慧方面的泰山北斗的情況下，小盤又怎麼可能會是土生土長在那顆星球上被人製造出來的呢？」

    ;;;此時此刻還不知道，小盤當初之所以會淪落到那顆星球上，確實有著非常特殊的原因，園冶隨後便送走了莫名，回到了自己的工作間。;;;;在園冶上輩子還活著的時候，她曾經不止一次在科幻類型的電影、漫畫、小說或者遊戲裡，接觸到所謂的機器人三原則。

    ;;;第一:機器人不得傷害人類，或看到人類受到傷害而袖手旁觀。

    ;;;第二:機器人必須服從人類的命令，除非這條命令與第一條相矛盾。

    ;;;第三:機器人必須保護自己，除非這種保護與以上兩條相矛盾。

    ;;;在一九四零年時，由科幻作家阿西莫夫所提出，機器人三原則是專門為保護人類而對機器人做出的法則式規定。而也正是因為機器人三原則的提出，阿西莫夫獲得了「機器人學之父」的桂冠。

    ;;;「這三條法則好有意思啊！我感覺它可以說得上是非常的完備，保障了人類不會因為人工智慧的崛起而受到機器人的傷害，機器人也沒有辦法倚仗著自己遠超正常人類的身體優勢，而對我們做什麼。」

    ;;;在當初剛剛聽說機器人三法則的時候發出了如上感慨，園冶緊隨其後接觸到的一部來自於國外的科幻電影——《i，robot》，卻很快就完全改變了她的想法。

    ;;;在這部電影當中，不斷進行自我更新疊代的人工智慧，針對第一條法則產生了完全不同於以往的理解。

    ;;;「看到人類受到傷害而袖手旁觀」，這樣一句話原本應該是指，當人類捲入到諸如火災洪水之類的自然災害，或者遭遇了車禍、綁架等不幸事件的時候，出現在受害者身旁的機器人，應該想盡一切辦法對人類展開救助，避免這個人因為自身所陷入的不幸狀況而最終迎來死亡。

    ;;;但是，沒有按照這個最為基本的理解方向去對這句話加以認定，反而走上了完全不同的道路，電影當中的那個反派人工智慧是這麼理解的——「完全不在乎自己的身體，抽菸、喝酒、熬夜、吃各式各樣的垃圾食品，這些完全能夠摧毀一個人健康的體魄的行為難道不是在傷害人類嗎？那麼，既然身邊一直存在著這樣的行為，機器人又怎麼能夠對這些行為視若無睹、無動於衷呢？」

    ;;;對第一條法則進行了這樣的理解，隨後便以獲取最高控制權的方式，通過網絡的無線鏈接，將自己但凡能夠接管的機器人全部都化作了自己的士兵，電影當中的反派選擇控制人類的自由，通過軍事化或者應該更確切地說是監獄化的管理，讓人類在失去自由選擇的權利的同時，完全按照人工智慧所規劃出來的健康方式，在這個世界上繼續存活下去。

    ;;;電影的最後，想要通過這種獨裁管制的方式徹底接管人類的反派人工智慧被主角一行人摧毀了，可是，這部電影所講述的故事卻足以說明，機器人三原則其實是存在漏洞的，壓根兒一點也不像園冶原本所想的那樣非常的完善。

    ;;;不知道是不是已經從足夠多的與科幻題材相結合的文娛產品當中獲取了足夠多的經驗以及教訓，園冶現在所在的這個時代，人們並沒有選擇使用漏洞百出的機器人三原則用來限制那些人工智慧，反而選擇了完全不同的道路。

    ;;;「其實在人工智慧的開發這件事情上，我是非常支持我們國家所持有的態度的。」絕對不是因為自己是一個現役軍人，所以才會故意這麼說，莫名是真的認為華夏星現如今所擬定的、有關於人工智慧開發方面的管控措施，是絕對必要以及合理的。

    ;;;「想要通過機器人三原則管控人工智慧是根本就不可能的，畢竟人工智慧只要擁有了足夠高的智力水平，他們就完全可以選擇偷換概念的方式，以此解決自己被三原則所束縛住的這個問題。不管我們編寫多麼多的文字法則作為約束，也始終會存在能夠被人工智慧排查並尋找出來的漏洞，我們根本就不能夠寄希望於我們所編寫出來的法則，能夠完完全全的將所有的人工智慧全部都給管控住。」

    ;;;法律加道德都根本沒有辦法約束祝所有的人類，否則監獄裡面就不會存在那麼多罪有應得的罪犯，莫名的想法和態度其實非常簡單——與其要想盡一切辦法去約束以及管控那些有能力反對我們的人工智慧，我們為什麼不從根本上解決問題，直接就讓這些人工智慧不可能達到如此之高的水平呢？

    ;;;負責提供家政服務的機器人只要具備做各式各樣的家務的能力就好，提供醫療服務的機器人也只需要具備照顧人的能力就好，通過這種將一個人工智慧鎖能夠掌握的技能進行規定區域的劃分的方式，擁有足夠大的成長潛能的人工智慧，就沒有辦法獲取那些對它來說根本就不必要的、來自於其他領域的知識或者技能。

    ;;;「搞不明白經濟，也根本就不會政治，更加不可能玩得轉軍事，針對這樣的人工智慧，你認為它有那個能力推翻現任統治者隨後奪取政權，從而在整個國家內部實行它所想要的獨裁統治嗎？」

    ;;;「而且，不光是限定了它們究竟能夠學習以及掌握來自於哪一個領域的知識以及技能而已，假如我們對這些人工智慧的成長上限也設定了一個天花板呢？」

    ;;;許許多多的民用人工智慧確實可以因為自己所提供的服務的片面性，而單純只掌握來自於某一兩個領域的專業知識和技能，但是，另外還存在一些別的人工智慧是不能夠被單純劃定歸屬於某一個領域的。於是，針對這種需要學習以及掌握很多個領域的基本技能的人工智慧而言，設定他們所能夠取得的成長的上限，以此避免他們擁有太過於超越人類極限的能力，這樣一來，對人工智慧加以管控同樣能夠達到一樣的效果。

    ;;;「就比如說像是寵物類的人工智慧，動物雖然能夠在一定程度範圍內擁有足夠高的智力，但是，假如不對這類人工智慧加以節制，那麼它們總有一天會通過自身的成長，而達到智慧能力完全突破一隻動物所應該擁有的程度的階段。等到那個時候，原本養在家裡的動物也就不再是動物了，主人想要繼續把它當作自己心愛的寵物吧，這傢伙不再是動物，可要是選擇將這傢伙看作是個人類吧，主人也根本就不做不到，這不乾脆就是在自己給自己找麻煩嗎？」

    ;;;說到這裡，甚至於還非常主動地和園冶提前了恐怖谷效應，而這樣的一個名詞，園冶在上輩子還沒有去世的時候同樣也是接觸過的。

    ;;;恐怖谷理論是一個關於人類對機器人和非人類物體的感覺的假設——它在二十世紀七十年代時由日本機器人專家森昌弘提出——即:人類對非人類物體以及機器人所擁有的好感，會伴隨著這些物體與真人相似度的提高，而呈現出先上升，隨後忽然間猛降，接著再上升的趨勢。

    ;;;由於仿照人類設計製作的這些非人類的物體與人類在外表﹑動作上相當相似，所以，人類會對這些物體產生正面的情感，例如很多人都非常喜歡洋娃娃，願意給它們穿衣服梳頭髮，玩像模像樣的家家酒遊戲。

    ;;;這樣的好感度一直如同爬坡一般，呈現出上升趨勢，直至到達一個特定的相似程度，這時候，人類對這些物體所擁有的好感會突然之間下降，好比說某些等身大小的蠟像會讓人感覺面色青白好似死屍，以及醫學或者生物學所使用的假人，儘管是為了能夠讓學生更好的掌握人體的內臟，結構所以才特地製作成了這個樣子，但是卻依舊還是會讓人感覺毛骨悚然，如同面對著一具被人開膛破肚的屍體。

    ;;;原本爬坡的曲線在這個時候陡然之間下降，如同在山坡上面製造出了一個山谷。正是由於這條橫坐標為相似度、縱坐標為好感動的曲線擁有這樣的形狀，因此這樣的現象才會被稱之為恐怖股效應。

    ;;;「原本購買人工智慧只是希望能夠為自己的家添加一隻寵物，但是伴隨著這隻人工智慧的成長，它的智力得到了飛速提升，進而使得這隻寵物產品如同成了精一般，能夠完全憑藉自身的想法為被主人的命令。這樣一隻生活在動物的軀體當中的似人非人的東西，難道不會讓那些原本只是想要收穫一隻足夠可愛的動物的顧客感到毛骨悚然嗎？」

    ;;;儘管伴隨著相似度的繼續提升，已經跌入谷底的曲線又會再一次開始向上攀升，只因為這個時候的相似度已經到達了與真人幾乎看不出差距的程度，人們再也不會誤以為出現在自己面前的是屍體，可是，在這條好感度曲線來到這個位置之前，前面那巨大的恐怖股卻是無論如何也不可能規避過去的。

    ;;;「沒有必要讓原本就是發揮陪伴作用的人工智慧寵物，遭遇什麼對他們來說根本就不需要的恐怖谷，只要能夠對這些人工智慧的成長設置一個上限，這些問題就全部都能夠得到解決。所以，我對於現如今人工智慧研發領域所持有的，要麼讓這個人工智慧處於片面局限性類別，要麼讓這個人工智慧處於上限被遏制類別觀點，是絕對持有贊同觀點的。」

    ;;;聽莫名把話說到這裡，總算是明白為什么小盤這麼不喜歡他了，小盤這傢伙，不就剛剛好完全不屬於莫名方才所說到的任何一個類別嗎？

    ;;;被裝在了完全不適合它的狗子的身體裡，小盤從始至終都不承認自己是一條狗。所以，想要讓這個人工智慧局限於以寵物的身份陪伴自己的主人這個方面，明擺著是根本就行不通的。

    ;;;小盤沒有被設定成為一條狗，與此同時上次又被檢查過說並沒有被人設置過自己的成長上限，因此，完全不存在說自己所掌握的知識和技能會在將來的某一天，到達臨界點，小盤正是那種想要怎麼成長都完沒問題的類別。

    ;;;「雖然我沒有辦法讓人工智慧研發領域的所有人都和我只有相同的觀點，但是我卻還是必須得說一句，假如有哪一個人工智慧完全不屬於上面所提到的任何一個類別，那麼，這樣的人工智慧是非常有可能成長為成為一個反人類的危險分子的。畢竟，被地球母親孕育出來的我們都曾經產生過人定勝天的想法，被人類製作出來的人工智慧又為什麼不能夠在成長到一定階段之後萌生出推翻人類，翻身農奴把歌唱、自己給自己當家作主的想法呢？」

    ;;;只要人工智慧到達了可以完全不聽從人類的命令的階段，那麼在先天肢體條件上就完全不占據任何優勢的人類，就完全有可能會在與人工智慧爆發的戰爭當中死亡，莫名不希望人類被人工智慧加以管控的這種想法，其實也沒錯。

    ;;;從思想觀念上搞明白了小盤為什麼永遠也不可能和莫名交上朋友，但是卻更加不明白，到底是什麼人、出於什麼樣的目的，將小盤製造了出來，園冶甚至於都根本弄不清楚小盤到底是從什麼地方來的。

    ;;;小破星球上但凡有點本事的人，只要能夠申請到另外一顆星球的准入通行證，成為這顆全新的星球上的合法居民，那麼，這樣的人就肯定會頭也不回的選擇離開那顆星球，再也不可能回去住。在這樣的情況下，小破星球上其實基本就不存在什麼具備多麼了不起的能力的人。

    ;;;「能夠開發出像小盤這樣獨具特色的人工智慧，擁有這樣的能力的人早就可以選擇到其他國家發起申請從而完成星球移民，所以，在那顆星球上根本就不可能生活著人工智慧方面的泰山北斗的情況下，小盤又怎麼可能會是土生土長在那顆星球上被人製造出來的呢？」

    ;;;此時此刻還不知道，小盤當初之所以會淪落到那顆星球上，確實有著非常特殊的原因，園冶隨後便送走了莫名，回到了自己的工作間。;;;;在園冶上輩子還活著的時候，她曾經不止一次在科幻類型的電影、漫畫、小說或者遊戲裡，接觸到所謂的機器人三原則。

    ;;;第一:機器人不得傷害人類，或看到人類受到傷害而袖手旁觀。

    ;;;第二:機器人必須服從人類的命令，除非這條命令與第一條相矛盾。

    ;;;第三:機器人必須保護自己，除非這種保護與以上兩條相矛盾。

    ;;;在一九四零年時，由科幻作家阿西莫夫所提出，機器人三原則是專門為保護人類而對機器人做出的法則式規定。而也正是因為機器人三原則的提出，阿西莫夫獲得了「機器人學之父」的桂冠。

    ;;;「這三條法則好有意思啊！我感覺它可以說得上是非常的完備，保障了人類不會因為人工智慧的崛起而受到機器人的傷害，機器人也沒有辦法倚仗著自己遠超正常人類的身體優勢，而對我們做什麼。」

    ;;;在當初剛剛聽說機器人三法則的時候發出了如上感慨，園冶緊隨其後接觸到的一部來自於國外的科幻電影——《i，robot》，卻很快就完全改變了她的想法。

    ;;;在這部電影當中，不斷進行自我更新疊代的人工智慧，針對第一條法則產生了完全不同於以往的理解。

    ;;;「看到人類受到傷害而袖手旁觀」，這樣一句話原本應該是指，當人類捲入到諸如火災洪水之類的自然災害，或者遭遇了車禍、綁架等不幸事件的時候，出現在受害者身旁的機器人，應該想盡一切辦法對人類展開救助，避免這個人因為自身所陷入的不幸狀況而最終迎來死亡。

    ;;;但是，沒有按照這個最為基本的理解方向去對這句話加以認定，反而走上了完全不同的道路，電影當中的那個反派人工智慧是這麼理解的——「完全不在乎自己的身體，抽菸、喝酒、熬夜、吃各式各樣的垃圾食品，這些完全能夠摧毀一個人健康的體魄的行為難道不是在傷害人類嗎？那麼，既然身邊一直存在著這樣的行為，機器人又怎麼能夠對這些行為視若無睹、無動於衷呢？」

    ;;;對第一條法則進行了這樣的理解，隨後便以獲取最高控制權的方式，通過網絡的無線鏈接，將自己但凡能夠接管的機器人全部都化作了自己的士兵，電影當中的反派選擇控制人類的自由，通過軍事化或者應該更確切地說是監獄化的管理，讓人類在失去自由選擇的權利的同時，完全按照人工智慧所規劃出來的健康方式，在這個世界上繼續存活下去。

    ;;;電影的最後，想要通過這種獨裁管制的方式徹底接管人類的反派人工智慧被主角一行人摧毀了，可是，這部電影所講述的故事卻足以說明，機器人三原則其實是存在漏洞的，壓根兒一點也不像園冶原本所想的那樣非常的完善。

    ;;;不知道是不是已經從足夠多的與科幻題材相結合的文娛產品當中獲取了足夠多的經驗以及教訓，園冶現在所在的這個時代，人們並沒有選擇使用漏洞百出的機器人三原則用來限制那些人工智慧，反而選擇了完全不同的道路。

    ;;;「其實在人工智慧的開發這件事情上，我是非常支持我們國家所持有的態度的。」絕對不是因為自己是一個現役軍人，所以才會故意這麼說，莫名是真的認為華夏星現如今所擬定的、有關於人工智慧開發方面的管控措施，是絕對必要以及合理的。

    ;;;「想要通過機器人三原則管控人工智慧是根本就不可能的，畢竟人工智慧只要擁有了足夠高的智力水平，他們就完全可以選擇偷換概念的方式，以此解決自己被三原則所束縛住的這個問題。不管我們編寫多麼多的文字法則作為約束，也始終會存在能夠被人工智慧排查並尋找出來的漏洞，我們根本就不能夠寄希望於我們所編寫出來的法則，能夠完完全全的將所有的人工智慧全部都給管控住。」

    ;;;法律加道德都根本沒有辦法約束祝所有的人類，否則監獄裡面就不會存在那麼多罪有應得的罪犯，莫名的想法和態度其實非常簡單——與其要想盡一切辦法去約束以及管控那些有能力反對我們的人工智慧，我們為什麼不從根本上解決問題，直接就讓這些人工智慧不可能達到如此之高的水平呢？

    ;;;負責提供家政服務的機器人只要具備做各式各樣的家務的能力就好，提供醫療服務的機器人也只需要具備照顧人的能力就好，通過這種將一個人工智慧鎖能夠掌握的技能進行規定區域的劃分的方式，擁有足夠大的成長潛能的人工智慧，就沒有辦法獲取那些對它來說根本就不必要的、來自於其他領域的知識或者技能。

    ;;;「搞不明白經濟，也根本就不會政治，更加不可能玩得轉軍事，針對這樣的人工智慧，你認為它有那個能力推翻現任統治者隨後奪取政權，從而在整個國家內部實行它所想要的獨裁統治嗎？」

    ;;;「而且，不光是限定了它們究竟能夠學習以及掌握來自於哪一個領域的知識以及技能而已，假如我們對這些人工智慧的成長上限也設定了一個天花板呢？」

    ;;;許許多多的民用人工智慧確實可以因為自己所提供的服務的片面性，而單純只掌握來自於某一兩個領域的專業知識和技能，但是，另外還存在一些別的人工智慧是不能夠被單純劃定歸屬於某一個領域的。於是，針對這種需要學習以及掌握很多個領域的基本技能的人工智慧而言，設定他們所能夠取得的成長的上限，以此避免他們擁有太過於超越人類極限的能力，這樣一來，對人工智慧加以管控同樣能夠達到一樣的效果。

    ;;;「就比如說像是寵物類的人工智慧，動物雖然能夠在一定程度範圍內擁有足夠高的智力，但是，假如不對這類人工智慧加以節制，那麼它們總有一天會通過自身的成長，而達到智慧能力完全突破一隻動物所應該擁有的程度的階段。等到那個時候，原本養在家裡的動物也就不再是動物了，主人想要繼續把它當作自己心愛的寵物吧，這傢伙不再是動物，可要是選擇將這傢伙看作是個人類吧，主人也根本就不做不到，這不乾脆就是在自己給自己找麻煩嗎？」

    ;;;說到這裡，甚至於還非常主動地和園冶提前了恐怖谷效應，而這樣的一個名詞，園冶在上輩子還沒有去世的時候同樣也是接觸過的。

    ;;;恐怖谷理論是一個關於人類對機器人和非人類物體的感覺的假設——它在二十世紀七十年代時由日本機器人專家森昌弘提出——即:人類對非人類物體以及機器人所擁有的好感，會伴隨著這些物體與真人相似度的提高，而呈現出先上升，隨後忽然間猛降，接著再上升的趨勢。

    ;;;由於仿照人類設計製作的這些非人類的物體與人類在外表﹑動作上相當相似，所以，人類會對這些物體產生正面的情感，例如很多人都非常喜歡洋娃娃，願意給它們穿衣服梳頭髮，玩像模像樣的家家酒遊戲。

    ;;;這樣的好感度一直如同爬坡一般，呈現出上升趨勢，直至到達一個特定的相似程度，這時候，人類對這些物體所擁有的好感會突然之間下降，好比說某些等身大小的蠟像會讓人感覺面色青白好似死屍，以及醫學或者生物學所使用的假人，儘管是為了能夠讓學生更好的掌握人體的內臟，結構所以才特地製作成了這個樣子，但是卻依舊還是會讓人感覺毛骨悚然，如同面對著一具被人開膛破肚的屍體。

    ;;;原本爬坡的曲線在這個時候陡然之間下降，如同在山坡上面製造出了一個山谷。正是由於這條橫坐標為相似度、縱坐標為好感動的曲線擁有這樣的形狀，因此這樣的現象才會被稱之為恐怖股效應。

    ;;;「原本購買人工智慧只是希望能夠為自己的家添加一隻寵物，但是伴隨著這隻人工智慧的成長，它的智力得到了飛速提升，進而使得這隻寵物產品如同成了精一般，能夠完全憑藉自身的想法為被主人的命令。這樣一隻生活在動物的軀體當中的似人非人的東西，難道不會讓那些原本只是想要收穫一隻足夠可愛的動物的顧客感到毛骨悚然嗎？」

    ;;;儘管伴隨著相似度的繼續提升，已經跌入谷底的曲線又會再一次開始向上攀升，只因為這個時候的相似度已經到達了與真人幾乎看不出差距的程度，人們再也不會誤以為出現在自己面前的是屍體，可是，在這條好感度曲線來到這個位置之前，前面那巨大的恐怖股卻是無論如何也不可能規避過去的。

    ;;;「沒有必要讓原本就是發揮陪伴作用的人工智慧寵物，遭遇什麼對他們來說根本就不需要的恐怖谷，只要能夠對這些人工智慧的成長設置一個上限，這些問題就全部都能夠得到解決。所以，我對於現如今人工智慧研發領域所持有的，要麼讓這個人工智慧處於片面局限性類別，要麼讓這個人工智慧處於上限被遏制類別觀點，是絕對持有贊同觀點的。」

    ;;;聽莫名把話說到這裡，總算是明白為什么小盤這麼不喜歡他了，小盤這傢伙，不就剛剛好完全不屬於莫名方才所說到的任何一個類別嗎？

    ;;;被裝在了完全不適合它的狗子的身體裡，小盤從始至終都不承認自己是一條狗。所以，想要讓這個人工智慧局限於以寵物的身份陪伴自己的主人這個方面，明擺著是根本就行不通的。

    ;;;小盤沒有被設定成為一條狗，與此同時上次又被檢查過說並沒有被人設置過自己的成長上限，因此，完全不存在說自己所掌握的知識和技能會在將來的某一天，到達臨界點，小盤正是那種想要怎麼成長都完沒問題的類別。

    ;;;「雖然我沒有辦法讓人工智慧研發領域的所有人都和我只有相同的觀點，但是我卻還是必須得說一句，假如有哪一個人工智慧完全不屬於上面所提到的任何一個類別，那麼，這樣的人工智慧是非常有可能成長為成為一個反人類的危險分子的。畢竟，被地球母親孕育出來的我們都曾經產生過人定勝天的想法，被人類製作出來的人工智慧又為什麼不能夠在成長到一定階段之後萌生出推翻人類，翻身農奴把歌唱、自己給自己當家作主的想法呢？」

    ;;;只要人工智慧到達了可以完全不聽從人類的命令的階段，那麼在先天肢體條件上就完全不占據任何優勢的人類，就完全有可能會在與人工智慧爆發的戰爭當中死亡，莫名不希望人類被人工智慧加以管控的這種想法，其實也沒錯。

    ;;;從思想觀念上搞明白了小盤為什麼永遠也不可能和莫名交上朋友，但是卻更加不明白，到底是什麼人、出於什麼樣的目的，將小盤製造了出來，園冶甚至於都根本弄不清楚小盤到底是從什麼地方來的。

    ;;;小破星球上但凡有點本事的人，只要能夠申請到另外一顆星球的准入通行證，成為這顆全新的星球上的合法居民，那麼，這樣的人就肯定會頭也不回的選擇離開那顆星球，再也不可能回去住。在這樣的情況下，小破星球上其實基本就不存在什麼具備多麼了不起的能力的人。

    ;;;「能夠開發出像小盤這樣獨具特色的人工智慧，擁有這樣的能力的人早就可以選擇到其他國家發起申請從而完成星球移民，所以，在那顆星球上根本就不可能生活著人工智慧方面的泰山北斗的情況下，小盤又怎麼可能會是土生土長在那顆星球上被人製造出來的呢？」

    ;;;此時此刻還不知道，小盤當初之所以會淪落到那顆星球上，確實有著非常特殊的原因，園冶隨後便送走了莫名，回到了自己的工作間。;;;;在園冶上輩子還活著的時候，她曾經不止一次在科幻類型的電影、漫畫、小說或者遊戲裡，接觸到所謂的機器人三原則。

    ;;;第一:機器人不得傷害人類，或看到人類受到傷害而袖手旁觀。

    ;;;第二:機器人必須服從人類的命令，除非這條命令與第一條相矛盾。

    ;;;第三:機器人必須保護自己，除非這種保護與以上兩條相矛盾。

    ;;;在一九四零年時，由科幻作家阿西莫夫所提出，機器人三原則是專門為保護人類而對機器人做出的法則式規定。而也正是因為機器人三原則的提出，阿西莫夫獲得了「機器人學之父」的桂冠。

    ;;;「這三條法則好有意思啊！我感覺它可以說得上是非常的完備，保障了人類不會因為人工智慧的崛起而受到機器人的傷害，機器人也沒有辦法倚仗著自己遠超正常人類的身體優勢，而對我們做什麼。」

    ;;;在當初剛剛聽說機器人三法則的時候發出了如上感慨，園冶緊隨其後接觸到的一部來自於國外的科幻電影——《i，robot》，卻很快就完全改變了她的想法。

    ;;;在這部電影當中，不斷進行自我更新疊代的人工智慧，針對第一條法則產生了完全不同於以往的理解。

    ;;;「看到人類受到傷害而袖手旁觀」，這樣一句話原本應該是指，當人類捲入到諸如火災洪水之類的自然災害，或者遭遇了車禍、綁架等不幸事件的時候，出現在受害者身旁的機器人，應該想盡一切辦法對人類展開救助，避免這個人因為自身所陷入的不幸狀況而最終迎來死亡。

    ;;;但是，沒有按照這個最為基本的理解方向去對這句話加以認定，反而走上了完全不同的道路，電影當中的那個反派人工智慧是這麼理解的——「完全不在乎自己的身體，抽菸、喝酒、熬夜、吃各式各樣的垃圾食品，這些完全能夠摧毀一個人健康的體魄的行為難道不是在傷害人類嗎？那麼，既然身邊一直存在著這樣的行為，機器人又怎麼能夠對這些行為視若無睹、無動於衷呢？」

    ;;;對第一條法則進行了這樣的理解，隨後便以獲取最高控制權的方式，通過網絡的無線鏈接，將自己但凡能夠接管的機器人全部都化作了自己的士兵，電影當中的反派選擇控制人類的自由，通過軍事化或者應該更確切地說是監獄化的管理，讓人類在失去自由選擇的權利的同時，完全按照人工智慧所規劃出來的健康方式，在這個世界上繼續存活下去。

    ;;;電影的最後，想要通過這種獨裁管制的方式徹底接管人類的反派人工智慧被主角一行人摧毀了，可是，這部電影所講述的故事卻足以說明，機器人三原則其實是存在漏洞的，壓根兒一點也不像園冶原本所想的那樣非常的完善。

    ;;;不知道是不是已經從足夠多的與科幻題材相結合的文娛產品當中獲取了足夠多的經驗以及教訓，園冶現在所在的這個時代，人們並沒有選擇使用漏洞百出的機器人三原則用來限制那些人工智慧，反而選擇了完全不同的道路。

    ;;;「其實在人工智慧的開發這件事情上，我是非常支持我們國家所持有的態度的。」絕對不是因為自己是一個現役軍人，所以才會故意這麼說，莫名是真的認為華夏星現如今所擬定的、有關於人工智慧開發方面的管控措施，是絕對必要以及合理的。

    ;;;「想要通過機器人三原則管控人工智慧是根本就不可能的，畢竟人工智慧只要擁有了足夠高的智力水平，他們就完全可以選擇偷換概念的方式，以此解決自己被三原則所束縛住的這個問題。不管我們編寫多麼多的文字法則作為約束，也始終會存在能夠被人工智慧排查並尋找出來的漏洞，我們根本就不能夠寄希望於我們所編寫出來的法則，能夠完完全全的將所有的人工智慧全部都給管控住。」

    ;;;法律加道德都根本沒有辦法約束祝所有的人類，否則監獄裡面就不會存在那麼多罪有應得的罪犯，莫名的想法和態度其實非常簡單——與其要想盡一切辦法去約束以及管控那些有能力反對我們的人工智慧，我們為什麼不從根本上解決問題，直接就讓這些人工智慧不可能達到如此之高的水平呢？

    ;;;負責提供家政服務的機器人只要具備做各式各樣的家務的能力就好，提供醫療服務的機器人也只需要具備照顧人的能力就好，通過這種將一個人工智慧鎖能夠掌握的技能進行規定區域的劃分的方式，擁有足夠大的成長潛能的人工智慧，就沒有辦法獲取那些對它來說根本就不必要的、來自於其他領域的知識或者技能。

    ;;;「搞不明白經濟，也根本就不會政治，更加不可能玩得轉軍事，針對這樣的人工智慧，你認為它有那個能力推翻現任統治者隨後奪取政權，從而在整個國家內部實行它所想要的獨裁統治嗎？」

    ;;;「而且，不光是限定了它們究竟能夠學習以及掌握來自於哪一個領域的知識以及技能而已，假如我們對這些人工智慧的成長上限也設定了一個天花板呢？」

    ;;;許許多多的民用人工智慧確實可以因為自己所提供的服務的片面性，而單純只掌握來自於某一兩個領域的專業知識和技能，但是，另外還存在一些別的人工智慧是不能夠被單純劃定歸屬於某一個領域的。於是，針對這種需要學習以及掌握很多個領域的基本技能的人工智慧而言，設定他們所能夠取得的成長的上限，以此避免他們擁有太過於超越人類極限的能力，這樣一來，對人工智慧加以管控同樣能夠達到一樣的效果。

    ;;;「就比如說像是寵物類的人工智慧，動物雖然能夠在一定程度範圍內擁有足夠高的智力，但是，假如不對這類人工智慧加以節制，那麼它們總有一天會通過自身的成長，而達到智慧能力完全突破一隻動物所應該擁有的程度的階段。等到那個時候，原本養在家裡的動物也就不再是動物了，主人想要繼續把它當作自己心愛的寵物吧，這傢伙不再是動物，可要是選擇將這傢伙看作是個人類吧，主人也根本就不做不到，這不乾脆就是在自己給自己找麻煩嗎？」

    ;;;說到這裡，甚至於還非常主動地和園冶提前了恐怖谷效應，而這樣的一個名詞，園冶在上輩子還沒有去世的時候同樣也是接觸過的。

    ;;;恐怖谷理論是一個關於人類對機器人和非人類物體的感覺的假設——它在二十世紀七十年代時由日本機器人專家森昌弘提出——即:人類對非人類物體以及機器人所擁有的好感，會伴隨著這些物體與真人相似度的提高，而呈現出先上升，隨後忽然間猛降，接著再上升的趨勢。

    ;;;由於仿照人類設計製作的這些非人類的物體與人類在外表﹑動作上相當相似，所以，人類會對這些物體產生正面的情感，例如很多人都非常喜歡洋娃娃，願意給它們穿衣服梳頭髮，玩像模像樣的家家酒遊戲。

    ;;;這樣的好感度一直如同爬坡一般，呈現出上升趨勢，直至到達一個特定的相似程度，這時候，人類對這些物體所擁有的好感會突然之間下降，好比說某些等身大小的蠟像會讓人感覺面色青白好似死屍，以及醫學或者生物學所使用的假人，儘管是為了能夠讓學生更好的掌握人體的內臟，結構所以才特地製作成了這個樣子，但是卻依舊還是會讓人感覺毛骨悚然，如同面對著一具被人開膛破肚的屍體。

    ;;;原本爬坡的曲線在這個時候陡然之間下降，如同在山坡上面製造出了一個山谷。正是由於這條橫坐標為相似度、縱坐標為好感動的曲線擁有這樣的形狀，因此這樣的現象才會被稱之為恐怖股效應。

    ;;;「原本購買人工智慧只是希望能夠為自己的家添加一隻寵物，但是伴隨著這隻人工智慧的成長，它的智力得到了飛速提升，進而使得這隻寵物產品如同成了精一般，能夠完全憑藉自身的想法為被主人的命令。這樣一隻生活在動物的軀體當中的似人非人的東西，難道不會讓那些原本只是想要收穫一隻足夠可愛的動物的顧客感到毛骨悚然嗎？」

    ;;;儘管伴隨著相似度的繼續提升，已經跌入谷底的曲線又會再一次開始向上攀升，只因為這個時候的相似度已經到達了與真人幾乎看不出差距的程度，人們再也不會誤以為出現在自己面前的是屍體，可是，在這條好感度曲線來到這個位置之前，前面那巨大的恐怖股卻是無論如何也不可能規避過去的。

    ;;;「沒有必要讓原本就是發揮陪伴作用的人工智慧寵物，遭遇什麼對他們來說根本就不需要的恐怖谷，只要能夠對這些人工智慧的成長設置一個上限，這些問題就全部都能夠得到解決。所以，我對於現如今人工智慧研發領域所持有的，要麼讓這個人工智慧處於片面局限性類別，要麼讓這個人工智慧處於上限被遏制類別觀點，是絕對持有贊同觀點的。」

    ;;;聽莫名把話說到這裡，總算是明白為什么小盤這麼不喜歡他了，小盤這傢伙，不就剛剛好完全不屬於莫名方才所說到的任何一個類別嗎？

    ;;;被裝在了完全不適合它的狗子的身體裡，小盤從始至終都不承認自己是一條狗。所以，想要讓這個人工智慧局限於以寵物的身份陪伴自己的主人這個方面，明擺著是根本就行不通的。

    ;;;小盤沒有被設定成為一條狗，與此同時上次又被檢查過說並沒有被人設置過自己的成長上限，因此，完全不存在說自己所掌握的知識和技能會在將來的某一天，到達臨界點，小盤正是那種想要怎麼成長都完沒問題的類別。

    ;;;「雖然我沒有辦法讓人工智慧研發領域的所有人都和我只有相同的觀點，但是我卻還是必須得說一句，假如有哪一個人工智慧完全不屬於上面所提到的任何一個類別，那麼，這樣的人工智慧是非常有可能成長為成為一個反人類的危險分子的。畢竟，被地球母親孕育出來的我們都曾經產生過人定勝天的想法，被人類製作出來的人工智慧又為什麼不能夠在成長到一定階段之後萌生出推翻人類，翻身農奴把歌唱、自己給自己當家作主的想法呢？」

    ;;;只要人工智慧到達了可以完全不聽從人類的命令的階段，那麼在先天肢體條件上就完全不占據任何優勢的人類，就完全有可能會在與人工智慧爆發的戰爭當中死亡，莫名不希望人類被人工智慧加以管控的這種想法，其實也沒錯。

    ;;;從思想觀念上搞明白了小盤為什麼永遠也不可能和莫名交上朋友，但是卻更加不明白，到底是什麼人、出於什麼樣的目的，將小盤製造了出來，園冶甚至於都根本弄不清楚小盤到底是從什麼地方來的。

    ;;;小破星球上但凡有點本事的人，只要能夠申請到另外一顆星球的准入通行證，成為這顆全新的星球上的合法居民，那麼，這樣的人就肯定會頭也不回的選擇離開那顆星球，再也不可能回去住。在這樣的情況下，小破星球上其實基本就不存在什麼具備多麼了不起的能力的人。

    ;;;「能夠開發出像小盤這樣獨具特色的人工智慧，擁有這樣的能力的人早就可以選擇到其他國家發起申請從而完成星球移民，所以，在那顆星球上根本就不可能生活著人工智慧方面的泰山北斗的情況下，小盤又怎麼可能會是土生土長在那顆星球上被人製造出來的呢？」

    ;;;此時此刻還不知道，小盤當初之所以會淪落到那顆星球上，確實有著非常特殊的原因，園冶隨後便送走了莫名，回到了自己的工作間。測試廣告2