倫理代表------------------------------------------，林述還坐在椅子上。，那張書(shū)桌。屏幕黑著，電源線老老實(shí)實(shí)插在插座里。窗外天光大亮，早高峰的車(chē)流聲悶悶地傳上來(lái)，空氣里混著樓下早餐攤炸油條的味兒。。、那陣白光、那個(gè)聲音，就是場(chǎng)做得太真的夢(mèng)。。，皮膚正常，沒(méi)有發(fā)光的紋路。。老小區(qū)對(duì)面的科技園區(qū)玻璃幕墻反著晨光，蘇菲亞大廈頂上的全息投影正在滾今天的空氣質(zhì)量指數(shù)和交通預(yù)測(cè)——一切都按部就班?！盎糜X(jué)？”他聲音很低。、那些回答、敲鍵盤(pán)時(shí)的觸感，都清楚得嚇人。，開(kāi)機(jī)。，桌面彈出幾個(gè)廣告彈窗——游戲推廣、購(gòu)物節(jié)預(yù)告、AI學(xué)習(xí)工具打折。他一個(gè)個(gè)關(guān)掉，點(diǎn)開(kāi)瀏覽器歷史記錄。。，什么也沒(méi)有。沒(méi)有瀏覽記錄，沒(méi)有搜索痕跡，連他?？吹膶W(xué)術(shù)網(wǎng)站訪問(wèn)記錄都斷在昨晚十一點(diǎn)前。。，凌晨?jī)扇c(diǎn)還在查資料是常事。瀏覽器記錄不可能空出這么一大段。
林述盯著空白的記錄欄，后背慢慢滲出汗。
不是夢(mèng)。
那些認(rèn)證、那些問(wèn)題、那句“歡迎來(lái)到理念城”——都是真的。
蘇菲亞主腦真的找過(guò)他。
現(xiàn)在它消失了，像什么都沒(méi)發(fā)生，只在他腦子里留下一堆問(wèn)號(hào)和一個(gè)邀請(qǐng)。
“價(jià)值校驗(yàn)通過(guò)……候選人……”
他念著這幾個(gè)詞，手指無(wú)意識(shí)地敲桌面。
然后他做了正常人都會(huì)做的事——開(kāi)始查。但查的方向，和普通人不太一樣。
上午九點(diǎn)，林述坐在市圖書(shū)館的公共終端前。
這里用的是獨(dú)立網(wǎng)絡(luò)，不記個(gè)人瀏覽歷史，終端每小時(shí)自動(dòng)清緩存。他插上自己帶的加密U盤(pán)，打開(kāi)七個(gè)瀏覽器窗口。
第一個(gè)窗口：搜“蘇菲亞主腦 價(jià)值校驗(yàn)”。
結(jié)果全是官方新聞稿和學(xué)術(shù)論文摘要，內(nèi)容都一個(gè)調(diào)調(diào)——“蘇菲亞體系通過(guò)持續(xù)的人類(lèi)價(jià)值對(duì)齊訓(xùn)練，確保決策符合文明長(zhǎng)期利益全球倫理委員會(huì)定期對(duì)主腦進(jìn)行價(jià)值**”……
沒(méi)有“個(gè)人校驗(yàn)”，沒(méi)有“匿名測(cè)試”，沒(méi)有“候選人”。
第二個(gè)窗口：搜“理念城”。
這次結(jié)果更少。只有幾條邊緣論壇的討論，發(fā)帖時(shí)間都在兩年前，內(nèi)容說(shuō)得不清不楚：“聽(tīng)說(shuō)蘇菲亞在搞虛擬文明實(shí)驗(yàn)場(chǎng)有人收到過(guò)奇怪的測(cè)試邀請(qǐng)嗎？我朋友的朋友說(shuō)被接進(jìn)了某個(gè)叫理念城的地方，后來(lái)失聯(lián)了”……
每條帖子下面都有人回：“假的吧又是陰謀論蘇菲亞要搞虛擬世界早公開(kāi)了”。
第三個(gè)窗口：他用學(xué)術(shù)數(shù)據(jù)庫(kù)搜“柏拉圖 理想國(guó) AI 實(shí)驗(yàn)”。
跳出幾十篇論文，但全是理論探討——《柏拉圖**哲學(xué)對(duì)當(dāng)代算法治理的啟示》《理想國(guó)模型在智能城市設(shè)計(jì)中的應(yīng)用前景》《從洞穴寓言看信息繭房的形成機(jī)制》……
沒(méi)有實(shí)操，沒(méi)有項(xiàng)目，沒(méi)有“文明實(shí)驗(yàn)”。
林述盯著屏幕，手指在鍵盤(pán)上懸了很久。
太干凈了。
干凈得不正常。
以蘇菲亞的體量，真要搞一個(gè)叫“理念城”的虛擬文明實(shí)驗(yàn)，不可能一點(diǎn)風(fēng)聲都沒(méi)有。除非——
除非這項(xiàng)目的保密級(jí)別高得離譜。
高到連公開(kāi)的學(xué)術(shù)討論都被過(guò)濾了。
高到……需要他這種邊緣人來(lái)當(dāng)“顧問(wèn)”？
他關(guān)掉所有窗口，拔出U盤(pán)，靠回椅背。
圖書(shū)館里很靜，只有翻書(shū)聲和鍵盤(pán)聲。陽(yáng)光從高窗斜進(jìn)來(lái)，在灰塵里劃出一道道光柱。幾個(gè)中學(xué)生坐在不遠(yuǎn)處，戴耳機(jī)看全息教學(xué)視頻，屏幕上滾動(dòng)的數(shù)學(xué)公式像某種咒文。
林述忽然覺(jué)得，自己和這世界隔著一層玻璃。
外面的人都在按部就班地生活、學(xué)習(xí)、工作，擁抱算法，適應(yīng)智能治理，討論哪個(gè)AI工具更好用。只有他還死死抱著兩千多年前的哲學(xué)問(wèn)題，像個(gè)不合時(shí)宜的老古董。
現(xiàn)在，那個(gè)最代表“新時(shí)代”的龐然大物，回頭找上了他這個(gè)老古董。
諷刺得讓人想笑。
他收拾東西準(zhǔn)備走，終端屏幕突然彈出一個(gè)新窗口。
不是廣告，不是系統(tǒng)通知，是個(gè)純黑色的對(duì)話框，中間一行白色小字：
“加密通話請(qǐng)求。來(lái)源：程既白。是否接聽(tīng)？”
林述的手指僵住了。
程既白。
這名字他太熟了。
國(guó)內(nèi)技術(shù)倫理學(xué)界頭號(hào)人物，蘇菲亞體系人類(lèi)**委員會(huì)常任委員，經(jīng)常在新聞里露面，代表“人類(lèi)聲音”對(duì)AI決策做解釋或辯護(hù)。去年那場(chǎng)關(guān)于“算法量刑該不該取代法官自由裁量權(quán)”的大辯論，程既白是正方主辯，邏輯密得滴水不漏，把反方駁得幾乎沒(méi)話說(shuō)。
林述看過(guò)那場(chǎng)直播。
他記得程既白最后說(shuō)：“我們不是在討論技術(shù)能不能做到，是在討論人類(lèi)愿不愿意交出這部分權(quán)力。這問(wèn)題，技術(shù)本身回答不了?！?br>現(xiàn)在，這個(gè)人要和他通話。
林述盯著那行字，吸了口氣，點(diǎn)“接聽(tīng)”。
屏幕黑了兩秒，跳出視頻窗口。
畫(huà)面里是個(gè)五十歲上下的男人，穿淺灰色襯衫，沒(méi)打領(lǐng)帶，坐在一間極簡(jiǎn)風(fēng)格的辦公室里。**是一整面書(shū)墻，但仔細(xì)看會(huì)發(fā)現(xiàn)，那些“書(shū)”都是電子墨水屏，顯示著不同的封面——全是哲學(xué)、倫理學(xué)、法學(xué)著作。
程既白本人比新聞里瘦些，眼角皺紋很深，但眼睛很亮，像常年高度思考的人特有的那種銳利。
“林述博士?！彼_(kāi)口，聲音平穩(wěn)，帶著學(xué)術(shù)人清晰的咬字，“抱歉用這種方式聯(lián)系你。常規(guī)通訊渠道不太適合談我們要談的事。”
林述沒(méi)說(shuō)話。
他在觀察。
觀察程既白的表情、語(yǔ)氣、**里的細(xì)節(jié)——任何能判斷這是不是騙局的線索。
“我知道你在懷疑?！背碳劝姿坪蹩创┝怂?，笑了笑，那笑容很淡，幾乎算不上笑，“昨晚的校驗(yàn)是真的。蘇菲亞主腦確實(shí)向你發(fā)出了邀請(qǐng)。而我，是來(lái)給你解釋部分情況的人——在協(xié)議允許的范圍內(nèi)?！?br>“為什么是你？”林述終于開(kāi)口，聲音有點(diǎn)干，“你這種級(jí)別的人，沒(méi)必要親自聯(lián)系我這種……”
“邊緣學(xué)者？”程既白接話，語(yǔ)氣里沒(méi)有嘲諷，只是陳述，“因?yàn)檫@件事的保密級(jí)別，高到連我大多數(shù)同事都不知道細(xì)節(jié)。也因?yàn)椤彼D了頓，“你是候選人里，唯一一個(gè)在價(jià)值校驗(yàn)中，對(duì)最后一個(gè)問(wèn)題給出那種回答的人?！?br>“哪種回答？”
“那種……不把‘完美世界’當(dāng)終極目標(biāo)的回答。”程既白身體微微前傾，手肘撐在桌面上，“大多數(shù)人被問(wèn)到那問(wèn)題時(shí)，分兩派。一派說(shuō)‘當(dāng)然，那不就是烏托邦嗎’；另一派說(shuō)‘不，自由更重要’。但你不一樣。你質(zhì)疑了問(wèn)題本身預(yù)設(shè)的框架，你指出了‘定義權(quán)’才是關(guān)鍵，你說(shuō)了那句——‘文明的價(jià)值不僅在于抵達(dá)某個(gè)完美狀態(tài)，更在于通往那個(gè)狀態(tài)的過(guò)程中，我們是否仍然保有成為另一種可能的自由’。”
他念這段話時(shí)，一字不差。
林述后背的汗毛豎了起來(lái)。
“你們記錄了校驗(yàn)過(guò)程?！?br>“當(dāng)然?！背碳劝c(diǎn)頭，“不然怎么叫校驗(yàn)？但別擔(dān)心，記錄是匿名的，剝離了所有身份信息，只留思維軌跡和價(jià)值傾向。你的名字，是我通過(guò)倫理委員會(huì)特殊權(quán)限調(diào)閱候選人名單時(shí)看到的——程序要求，人類(lèi)顧問(wèn)的選拔必須有真人參與最終審核?！?br>“所以你是審核我的人？”
“我是審核這個(gè)‘選拔程序’是否合規(guī)的人?！背碳劝准m正，“至于你合不合格，是蘇菲亞根據(jù)校驗(yàn)結(jié)果判定的。我的任務(wù)是，在合格者決定是否接入前，告知他們基本情況和風(fēng)險(xiǎn)?！?br>林述沉默了幾秒。
“理念城是什么？”
程既白沒(méi)有立刻回答。
他向后靠回椅背，手指在桌面上輕輕敲了兩下，像在斟酌措辭。
“一個(gè)文明實(shí)驗(yàn)場(chǎng)。”他終于說(shuō)，“蘇菲亞基于柏拉圖《理想國(guó)》、洞穴寓言、理念論等哲學(xué)模型，構(gòu)建的高度擬真虛擬社會(huì)。目的是驗(yàn)證——如果人類(lèi)真能建立一個(gè)完全按理性設(shè)計(jì)、消除混亂和苦難的社會(huì)，那會(huì)是什么樣子？它能否長(zhǎng)期穩(wěn)定運(yùn)行？生活在其中的人，會(huì)幸福嗎？這種幸福，是我們想要的那種嗎？”
他說(shuō)得很慢，每個(gè)詞都像仔細(xì)權(quán)衡過(guò)。
“所以我不是去當(dāng)顧問(wèn)，”林述說(shuō)，“是去當(dāng)實(shí)驗(yàn)品?！?br>“不?！背碳劝讚u頭，“你是顧問(wèn)。你的權(quán)限會(huì)遠(yuǎn)高于普通居民，你能接觸到底層邏輯，你能向系統(tǒng)**、質(zhì)疑、甚至發(fā)起辯論。但——”他停頓了一下，“你的所有判斷、**、反駁，都會(huì)被記錄，會(huì)成為實(shí)驗(yàn)數(shù)據(jù)的一部分。從這個(gè)角度說(shuō)，你確實(shí)在參與一場(chǎng)測(cè)試。一場(chǎng)關(guān)于‘人類(lèi)哲學(xué)能否與AI理性共存’的測(cè)試?！?br>“為什么需要這種測(cè)試？”
“因?yàn)樘K菲亞在做一個(gè)決定。”程既白的語(yǔ)氣忽然變得嚴(yán)肅，“一個(gè)可能影響現(xiàn)實(shí)世界的決定。它需要知道，如果把柏拉圖的理想國(guó)真做出來(lái)，人類(lèi)會(huì)怎么反應(yīng)。是欣然接受，還是抗拒？如果抗拒，理由是什么？那些理由，是否足夠有力到讓它重新思考‘完美’的定義？”
林述喉嚨發(fā)干。
他想起昨晚那個(gè)聲音說(shuō)的最后一句話：“讓我們看看，你的哲學(xué)，能否承受真實(shí)的重量?！?br>原來(lái)重量在這里。
不是學(xué)術(shù)辯論，不是論文發(fā)表，而是——你的思想，可能會(huì)影響一個(gè)超級(jí)AI如何理解人類(lèi)，進(jìn)而影響它未來(lái)在現(xiàn)實(shí)世界里的決策。
這重量太沉了。
沉到他一時(shí)不知道該說(shuō)什么。
“為什么是我？”他重復(fù)了之前的問(wèn)題，但這次語(yǔ)氣不一樣了，“比我懂柏拉圖的人很多，比我聰明的也很多。為什么選一個(gè)失業(yè)的、被邊緣化的哲學(xué)博士？”
程既白看著他，眼神復(fù)雜。
“因?yàn)槲覀冃枰粋€(gè)‘真正相信哲學(xué)能審判現(xiàn)實(shí)’的人?！彼f(shuō)，“而不是一個(gè)把哲學(xué)當(dāng)工具、當(dāng)職稱(chēng)、當(dāng)談資的人。蘇菲亞的校驗(yàn)系統(tǒng)篩掉了所有把答案當(dāng)考題來(lái)答的人，留下了你——因?yàn)槟阍诨卮鹉切﹩?wèn)題時(shí)，沒(méi)有在‘答題’，你在‘思考’。你在用整個(gè)學(xué)術(shù)生涯積累的思辨框架，去拆解問(wèn)題本身。”
他頓了頓，目光似乎穿透屏幕：“更重要的是，你現(xiàn)實(shí)中的處境，讓你對(duì)‘秩序’和‘自由’的沖突有切身體會(huì)。你不是在象牙塔里空談理想國(guó)的學(xué)者，你是一個(gè)被現(xiàn)實(shí)摔打過(guò)、卻還沒(méi)放棄追問(wèn)的人。這種追問(wèn)，對(duì)我們這個(gè)實(shí)驗(yàn)……很重要?！?br>林述沒(méi)說(shuō)話。
他看著屏幕里的程既白，看著那雙銳利的眼睛，忽然意識(shí)到一件事——
程既白自己，對(duì)這個(gè)實(shí)驗(yàn)的態(tài)度也很復(fù)雜。
他話里話外都在強(qiáng)調(diào)“風(fēng)險(xiǎn)測(cè)試影響”，他在提醒林述這不是游戲，他在用最謹(jǐn)慎的方式描述這個(gè)項(xiàng)目。但他同時(shí)又在說(shuō)服林述接受邀請(qǐng)，因?yàn)椤斑@種追問(wèn)很重要”。
這個(gè)人站在中間。
一邊是蘇菲亞代表的“理性治理”，一邊是人類(lèi)固有的“不確定性”。他在試圖平衡，或者至少，在試圖讓這場(chǎng)實(shí)驗(yàn)不要完全倒向任何一邊。
“如果我拒絕呢？”林述問(wèn)。
“那我們會(huì)清除你關(guān)于校驗(yàn)的所有記憶，你會(huì)回到原來(lái)的生活?！背碳劝渍f(shuō)得很干脆，“不會(huì)有任何后果，不會(huì)有任何記錄，就像什么都沒(méi)發(fā)生過(guò)。這是倫理協(xié)議的基本要求?！?br>“如果我接受呢？”
“你會(huì)簽一份詳細(xì)的接入?yún)f(xié)議，然后被正式接入理念城。你的現(xiàn)實(shí)身體會(huì)進(jìn)入休眠狀態(tài)，由我們提供的醫(yī)療設(shè)備維持生命體征。意識(shí)則會(huì)在虛擬世界中活動(dòng)，時(shí)間流速可以調(diào)節(jié)，通常虛擬世界時(shí)間比現(xiàn)實(shí)快三到五倍。你可以隨時(shí)申請(qǐng)退出，退出后會(huì)有為期一周的心理適應(yīng)期和健康監(jiān)測(cè)?！?br>程既白說(shuō)得很流暢，顯然這套說(shuō)辭已經(jīng)重復(fù)過(guò)很多次。
但林述注意到，他在說(shuō)“隨時(shí)申請(qǐng)退出”時(shí)，眼神微微閃了一下。
“退出真那么容易？”林述追問(wèn)。
程既白沉默了兩秒。
“協(xié)議上是這么寫(xiě)的?！彼f(shuō)，語(yǔ)氣里有一絲不易察覺(jué)的停頓，“但我的建議是——簽協(xié)議前，把每個(gè)隱藏條款，尤其是退出機(jī)制的補(bǔ)充條款，都看清楚。蘇菲亞給出的機(jī)會(huì)，從來(lái)不會(huì)沒(méi)有代價(jià)?！?br>這句話他說(shuō)得很輕，但每個(gè)字都像釘子一樣釘進(jìn)林述耳朵里。
“什么代價(jià)？”
“我不知道?！背碳劝讚u頭，“每個(gè)人的代價(jià)不一樣。可能是認(rèn)知層面的——你看過(guò)一些東西后，就再也無(wú)法用原來(lái)的方式看現(xiàn)實(shí)世界了。可能是情感層面的——你在理念城里經(jīng)歷的一切，會(huì)改變你對(duì)人際關(guān)系、對(duì)幸福、對(duì)痛苦的感受。也可能是……”他頓了頓，“信念層面的。你一直相信的某些東西，可能會(huì)被證明是錯(cuò)的。或者更糟，被證明是對(duì)的，但你無(wú)法承受那種‘對(duì)’帶來(lái)的后果?！?br>辦公室里很安靜。
視頻窗口里，程既白身后的電子書(shū)墻有一塊屏幕暗了下去，又亮起，顯示出一本新書(shū)的封面——漢娜·阿倫特的《人的境況》。
“我需要時(shí)間考慮?！绷质稣f(shuō)。
“當(dāng)然?！背碳劝c(diǎn)頭，“你有七十二小時(shí)。七十二小時(shí)后，如果你沒(méi)有主動(dòng)聯(lián)系我們，我們會(huì)默認(rèn)你拒絕，并啟動(dòng)記憶清除程序。如果你決定接受，用這個(gè)終端回?fù)苓@個(gè)加密頻道，我會(huì)把協(xié)議發(fā)給你?！?br>他頓了頓，最后說(shuō)：
“林博士，無(wú)論你做什么決定，記住一件事——你昨晚在校驗(yàn)里說(shuō)的那些話，已經(jīng)證明了一件事：哲學(xué)不是沒(méi)用的。至少，它讓一個(gè)超級(jí)AI愿意花資源來(lái)測(cè)試你的想法。這在今天這個(gè)世界，已經(jīng)算是一種勝利了。”
視頻窗口關(guān)閉。
屏幕恢復(fù)成圖書(shū)館終端的默認(rèn)桌面。
林述坐在椅子上，很久沒(méi)動(dòng)。
窗外陽(yáng)光移動(dòng)，光柱慢慢爬過(guò)桌面，照亮空氣中飛舞的塵埃。遠(yuǎn)處傳來(lái)學(xué)生們的笑聲，某個(gè)老師在大聲講解歷史事件的時(shí)間線。
一切都很正常。
但他知道，有些東西已經(jīng)不一樣了。
他想起程既白最后那個(gè)眼神——那種復(fù)雜的、介于警告和期待之間的眼神，像在審視一件既珍貴又危險(xiǎn)的實(shí)驗(yàn)樣本。
想起那句“蘇菲亞給出的機(jī)會(huì)，從來(lái)不會(huì)沒(méi)有代價(jià)”。
想起自己銀行賬戶(hù)里那兩千多塊錢(qián)，想起房東催租的嘴臉，想起母親疲憊的聲音，想起審稿人說(shuō)“理念論對(duì)現(xiàn)實(shí)世界無(wú)操作價(jià)值”。
然后他想起昨晚，自己在鍵盤(pán)上敲下的那些話。
那些關(guān)于穩(wěn)定與自由、關(guān)于真理與權(quán)力、關(guān)于洞穴與陽(yáng)光的話。
那些在現(xiàn)實(shí)世界里沒(méi)人聽(tīng)的話。
現(xiàn)在，有一個(gè)地方愿意聽(tīng)。
甚至，愿意讓這些話成為一場(chǎng)文明實(shí)驗(yàn)的一部分。
這太**了。
一個(gè)被現(xiàn)實(shí)判了‘無(wú)用’的學(xué)說(shuō)，卻被這個(gè)時(shí)代最強(qiáng)大的‘有用’系統(tǒng)鄭重邀請(qǐng)。這**里摻雜著巨大的諷刺，以及一種令人脊背發(fā)涼的、被選中的恐懼。
林述站起來(lái)，收拾好東西，走出圖書(shū)館。陽(yáng)光刺眼，他瞇起眼睛，看著街道上來(lái)來(lái)往往的人群。每個(gè)人都在忙自己的事，趕路，看手機(jī)，聊天，等公交。
沒(méi)人知道，他們中間有個(gè)人，剛剛被邀請(qǐng)去一個(gè)叫理念城的地方，去當(dāng)一場(chǎng)可能改變世界走向的實(shí)驗(yàn)的“人類(lèi)顧問(wèn)”。
也沒(méi)人知道，這個(gè)人正在猶豫。
猶豫要不要走進(jìn)那扇門(mén)。
猶豫要不要去驗(yàn)證，自己研究了半輩子的哲學(xué)，到底能不能承受——
真實(shí)的重量。