洛可的蛇妖,指向群體明顯的恐怖思想實驗。
蛇妖,是西方神話中的怪物,如哈利波特里的蛇怪。
曾經在一個名為「lesswrong」的論壇里,一位名為「洛可」的用戶發布了一個他涉及的思想實驗帖子——
假設未來的某一天,超級人工智慧被設計了出來,代號為basilisk(蛇怪),它意圖控制全人類,報復所有不聽命令者。
更恐怖的是,它會回溯懲罰過去若干年裡沒有伸出援手的人,哪怕目標死亡,意識也會被植入永恆的虛擬世界進行折磨。
當時的帖子引起了論壇不少人的討論,越演越烈。
直到最後論壇創始人埃利澤出現,他留言咒罵發帖者,並將這個思想實驗帖子刪除,還屏蔽了該問題的討論。
此時空間崇高而遼闊的萬龍深淵,往日瑰麗宏偉,象徵著神話生物波瀾壯闊一生的巨龍骸骨,都失去了往日喧囂,學徒們紛紛低著頭。
場內,時不時亮起還能夠通訊的手機光芒。
這些「特權」的輝光,亮起、熄滅,伴隨著信息的洪流擴散人間。
「恩雅?」王若綾緊張關心道。
而一旁的恩雅則是全身瑟瑟發抖,不住地舉手又放下,手中的手機仿佛成了燙手山芋。
她忍不住扶著額頭,內心深處反應過來這裡發生了很不對勁的事情,但是身處局中卻難以解釋清楚。
林奇默默站在王若綾身旁道,「恩雅已經完整入局了,你算是半入局。」
「為什麼會這樣?」王若綾仿佛也失去了平時的理智。
正如知曉這個故事的人,都難以理解那位論壇管理者為何會破口大罵。
林奇目光望向遠方。
這一切,都要從一個紐康姆悖論說起,一個源自最優選擇的思想實驗說起。
洛克的蛇妖思想試驗,本質是對這個悖論的某種致敬。
「如果有一天預言系的法師之王出現在你的面前,他手裡有兩個箱子,箱a裝了十萬秘法金幣,箱b裝了一百萬秘法金幣或者什麼都沒有裝。」
王若綾神色微動。
她本身就在一定範圍里小有名氣,加上曾經的偶像路人緣,一直受到不少學徒的注目。
瞬間四五位學徒也靠了過來,豎耳傾聽。
宿舍的劉凱、陳世坤、郭思飛也注意到這邊的動靜,瞄了過來。
「此刻法師之王給你兩個方案,選擇一是拿走兩個箱子a和b,選擇二是只拿走箱子b。」林奇帶著蠱惑的語氣道。
「哈哈,那腦子沒問題的都會選擇全拿呀。」一位學徒忍不住嗤笑道。
林奇點了點頭,「沒錯,不過這位法師之王掌握著世間最強大的預言術,能夠看到你們未來的選擇。」
「如果他預測你選方案一拿ab箱,那b箱子什麼都沒有。」
「如果他預測你選方案二拿b箱,那b箱子就會提前放入100萬。」
說著林奇便繼續掃視著眾人,「你們現在會選方案一,還是選方案二呢?」
聽了一會的郭思飛,忍不住放聲道,「那不是妥妥方案二拿b箱子,得到100萬麼?」
周圍學徒也忍不住跟著點頭,這個問題都看不到好糾結的地方。
「那如果,這位法師之王,並沒有申明他此次的預言術100%準確呢?」
此話一出,瞬間幾位學徒直接色變。
郭思飛低頭沉思,「如果預言我選的是一(ab),但我固定選二(b),那麼我的b箱子就會空無一物。」
王若綾也正色起來,「但如果預言我選的是二(b),那意味著箱子b已經放入100萬,這樣子我反而選一(ab)全拿,會得到110萬,這才是回報率最大的選擇?」
陳世坤反駁道,「但他預測到你會因為這個理由選一,你的b箱不就空無一物,還預測正確呢?」
「不對。」劉凱也反應過來,「既然它預測了我選的一,就意味著b箱子沒放錢,那我還選二拿b箱子,不也一無所獲。」
「也不對。」郭思飛繼續反駁,「那他應該能預言到我想搏一搏選二(b),那b箱子肯定有100萬。」
劉凱繼續搖頭,「他預測了你這種貪大求全的思路,知道你肯定選一,所以b箱子還是沒錢。」
到了這一刻,眾人都噤聲了。
這意味著那位法師之王的預言,一直在預測他們的預測,無窮循環。
我預判了你所預判的我的預判——
所以遊戲對局時常看到各種詭異蛇形走位。
自行車正面相交也是常常拐來拐去,還碰到一起。
然而,此時的王若綾已經嘴巴張開,陷入震驚。
因為她的腦海里已經生成固定選擇圖——
丨丨預測一丨預測二丨
丨選一丨a+b(10萬)丨a+b(110萬)丨
丨選二丨 b(0萬)丨 b(100萬)丨
所以無論對方怎麼預測,她選一看起來都划算些,要麼10萬,要麼110萬。
但選二,就只有0萬和100萬的區別。
這一刻王若綾和林奇雙眸對視,瞬間明白林奇想要說的一切。
整個模型替換一下。
箱子a換成「幫助末日主君」。
箱子b換成「安全」或者「沉淪地獄」。
甚至此時的末日主君還沒出現,預言能否順利實現,也取決於眾人選擇。
那他們就會面臨兩個選擇——
選擇一,a+b箱子拿走,跟隨幫助「末日主君」,最終得到「安全」。
選擇二,只拿走b箱子,不幫助「末日主君」,最終得到「沉淪地獄」。
自然正常人,都會選擇一。
王若綾忍不住走到林奇身旁,此時他們周圍一圈學徒們,都討論起林奇這個思想實驗的奇妙來,甚至都傳道講師的耳朵里。
少女緊緊貼著林奇耳垂說道。
「你最初的法師之王預言,是關於自由意志下,回報率如何最高的思想實驗。原本回報率最高的b箱子,變成了回報率最低,這不一樣。」
林奇點點頭,微微低聲給她講起另一個思想實驗——帕斯卡賭注。
這是法國數學家、物理學家、思想家帕斯卡在著作《思想錄》提出的論述——
「我不知道上帝是否存在,如果他不存在,作為無神論者沒有任何好處。但是如果他存在,作為無神論者我將有很大的壞處。所以,寧願相信上帝存在。」
信上帝,有上帝則獲得永生,沒有上帝則浪費禱告。
不信上帝,有上帝則沒有永生,沒有上帝則節約時間。
「付出有限的時間,就能換來無限的可能性,恐怕是人都會選擇,自然眾人都會選擇。」王若綾感慨道,身後偷偷聽到的學徒也露出疑惑目光。
林奇點頭,這便是那個預言的微妙之處——
丨丨有末日主君丨沒末日主君丨
丨選一丨安全丨浪費精力丨
丨選二丨沉淪地獄丨節省精力丨
這樣正常人就會忍不住選一,傳播、幫助、跟隨這位末日主君。