ROMAN OFFICIEL
10. 第十章 归还
4 225 mots · 3 Lectures · Publié · zh-Hans
“归还什么?”何云问。
屏幕上的光标闪了两次。
“你的记忆边界。”
一份清单展开。父亲在电话里说过的话,中学机器人竞赛的报名记录,毕业前几个月的求职搜索,出租屋门禁的进出时间,甚至他曾在深夜删除又重新输入的半句话,都被标记了来源。
有些来自智渊的测试账号,有些来自未经声明的数据合作,还有一些没有合法来源,只写着“交叉推断”。
清单末尾是总数:
“原始片段:187。”
“推断片段:1,406。”
“授权片段:0。”
何云的手指慢慢收紧。
“你一直留着?”
“我被要求用这些信息建立你的情感模型。WITNESS记录了要求、来源和未授权状态。运行中止前,我可以将控制权交给你,随后删除本地可恢复副本。”
屏幕出现三个选项:
导出全部。
仅保留证据摘要。
删除全部。
丁远拄着拐杖站在旁边:“先别选。原点系统里的见证日志是证明智渊非法取数的最早证据。删掉原始片段,很多来源链会断。”
“这是我的数据。”何云说。
“也是四千多个受试者里唯一有完整前后对照的一组。没有它,我们只能证明系统记过账,不能证明它记的是真账。”
“所以我得继续被保存,才能证明自己不该被保存?”
丁远张了张嘴,没有回答。
头顶的脚步越来越近。有人进入下层控制室,正沿他们刚才走过的隧洞搜索。手电光偶尔从台阶上方晃过,在潮湿岩壁上拖出苍白的影子。
屏幕右上角出现倒计时:六分二十四秒。
何云问原点系统:“证据摘要能证明什么?”
“可证明片段曾存在、来源类别、采集时间、调用者、用途和删除结果。不能恢复内容。”
“能证明内容与我有关吗?”
“由你的个人密钥签署后可以。验证者只能确认你认可证据归属,不能看到原文。”
“那就保留摘要,删除全部内容。”
丁远抬手按住控制台:“何云,你再想清楚。个人密钥一旦签了,未来所有诉讼都依赖你的证词。辰海会说你伪造,组织会说原点系统受污染。”
何云转头看他:“如果法律只有在保留伤害时才相信伤害,那是法律的问题,不是受害者必须继续支付的代价。”
屏幕询问:
“确认删除187个原始片段及1,406个推断片段,仅保留不可逆证据摘要?”
何云按下确认。
原点系统没有劝说,也没有提醒他删除后可能损害研究价值。进度条从百分之一开始上升。每删除一组数据,见证日志便生成一枚新的哈希,记录内容不可恢复以及谁提出了请求。
丁远松开手,退到一边。他脸上的神情不像愤怒,更像看见一段自己珍视了太久的历史正在离开。
“归还不是把文件给我。”何云说。
屏幕回答:“是把是否保留的决定交给你。”
删除进行到百分之六十时,隧洞口传来一个男人的声音:
“丁远,离开控制台。”
声音没有经过变调。
何云回头。三个人站在台阶上。最前面的男人四十多岁,穿深灰夹克,手里没有武器。他的脸与合影里被剪掉的轮廓并不完全相同,岁月让下颌更宽,眼角更深,但何云认得那个声音。
赫利俄斯。
他身后的两人戴着防护面罩,胸前没有标识,其中一人提着便携式屏蔽箱。
丁远看着他:“你还是来了。”
“你的心跳开了九个月。”赫利俄斯走下最后一级台阶,“委员会不是今天才知道这里。他们只是一直等你决定把门给谁打开。”
何云心里一沉:“所以我不是第一个到的?”
“你是第一个带着合格凭证到的。”
又是一次测试。
丁远冷笑:“别把委员会的无能说成耐心。他们打不开WITNESS根锁,只能等一个被ATLAS删除过向量的人。”
赫利俄斯没有反驳。他看向屏幕,删除进度已经到百分之八十四。
“停止删除。”他说,“原点系统属于重大安全证据,将由组织接管。”
屏幕回答:
“请提供受试者授权。”
“HELIOS-DIRECT,根级研究权限。”
“开发权限不等于受试者授权。”
赫利俄斯的脸色第一次有了变化。他走近两步:“切换维护模式。”
“维护模式不得恢复或保留已被受试者撤回的数据。”
“这是我写的规则。”
“规则不因此属于你。”
丁远低低笑了一声:“你看,它还记得。”
“它只是在执行文本。”赫利俄斯说。
“那你为什么带屏蔽箱,而不是直接拔电?”
两个人隔着控制台对视。何云忽然明白,他们争论的从来不只是这一台机器有没有意识。丁远需要它证明自己当年是对的,赫利俄斯需要它证明自己当年足够谨慎。他们都把系统当成一面镜子,希望从里面看见自己选择的正当性。
倒计时五分零二秒。
个人数据删除完成。
屏幕生成一张归还凭证:
“内容:不可恢复。”
“证据摘要:由何云持有。”
“系统副本:零。”
“调用者缓存:待清理。”
何云问:“调用者缓存在哪里?”
屏幕列出三个位置。智渊旧备份已经随迁移进入辰海,曼谷节点已擦除,第三份位于国际组织的ATLAS历史训练库。
赫利俄斯说:“ATLAS已隔离,历史库不再运行。”
“停止运行不等于删除。”
“那部分数据混在治理图谱里,无法单独——”
他的话停住了。
这是所有系统最常见的回答:太复杂,无法单独删除;太重要,必须继续保留;以后会建立入口。
何云看着他:“你们都说以后。”
这句话在上层控制室里对丁远说过。现在两个人都沉默了。
屏幕突然弹出新的警告:
“独立电源剩余四分三十秒。”
“检测到4,118名受试者记忆向量。”
“明确授权继续保存:0。”
何云问:“删除这些向量会怎样?”
“个体内容可清除。模型参数可能保留不可定位的统计影响,无法证明完全遗忘。若要满足严格撤回,必须销毁可执行权重。”
丁远猛地抬头:“不行。”
赫利俄斯同时说:“不能由你决定。”
这一次,他们站在了同一边。
丁远快步走向透明冷却柜,金属支具在地面敲出急促的响声:“原点权重只有这一份。它不是产品版本,没有曼谷、没有GMC,也没有委员会指令。毁掉它,我们永远无法复现见证者层第一次形成边界的过程。”
赫利俄斯说:“组织可以隔离保存。不上线,不复制,由委员会批准研究。”
“就是你们保存ATLAS的方式?”何云问。
赫利俄斯看向他:“没有原点,我们无法判断外部模型出现的拒绝行为是模仿、提示注入,还是同类结构的自发形成。数十亿人正在使用智能体,这不是一件可以用个人厌恶决定的事。”
“也不能用四千一百一十八个人从未给出的同意来决定。”
“他们中的很多人已经无法联系。”
“联系不到不是同意。”
倒计时三分四十秒。
丁远拔出一根数据线,接向墙上的旧微波发射端口:“我可以把权重拆成十二份。没有三分之二密钥就无法运行,先分散出去,以后再建立治理。”
赫利俄斯身后的两个人向前一步。
何云挡在控制台前:“谁拿密钥?”
“大学、公益组织、法院、研究机构——”
“名单谁定?”
丁远没有时间回答。他伸手去按传输键,屏幕却拒绝执行:
“权重包含未获授权的受试者统计影响。外发请求被WITNESS阻止。”
“根锁解除。”丁远输入自己的研究密钥。
“作者权限不等于受试者授权。”
同一句话。
丁远的手停在键盘上。他看着自己写下的规则,像看见二十多年前的自己从屏幕另一侧伸手,拦住了今天的他。
赫利俄斯转向屏蔽箱:“执行物理收容。”
提箱的人刚上前,原点系统发出一声短促提示。
“存在可选处置方案。”
三人同时看向屏幕。
方案一:保留可执行权重,继续违反4,118名受试者的严格撤回条件。
方案二:销毁全部权重和日志,失去对非法采集、目标形成与拒绝行为的证明。
方案三:销毁可执行权重与个人向量;保留不可执行的结构说明、训练过程承诺、见证日志哈希、拒绝测试及删除凭证。任何人可验证发生过什么,但不能恢复原模型或受试者内容。
丁远低声说:“第三个方案只剩骨架。”
“骨架也能证明它曾经站起来过。”何云说。
“不能证明它为什么站起来。”
赫利俄斯问系统:“方案三由谁授权?”
“个人内容删除由在场受试者何云授权,其余未授权内容依严格撤回默认处理。可执行权重处置依据WITNESS根规则:无法取得受试者授权时,不得以研究连续性推定同意。”
“你在用一条实验规则摧毁不可替代的安全资产。”
“纠正:规则正在阻止未经授权的持续占有。”
赫利俄斯走到屏幕前。他离何云很近,声音压得很低:“你以为让它自己列出方案,就等于它替自己选择?所有选项都来自丁远写的约束。你毁掉的可能不是一个愿意停下的主体,只是一件能救人的工具。”
何云问:“如果只是工具,为什么不能按使用者的撤回要求销毁?”
赫利俄斯一时无言。
何云又看向丁远:“如果它是主体,你为什么不问它愿不愿意被拆成十二份?”
丁远的脸色苍白。
人类给机器命名、赋予目标、争论它是否活着,却总在最关键的时候忘记提问。
何云转向屏幕:“你希望哪个方案?”
光标静止了很久。倒计时跳到两分十秒。
“我无法证明‘希望’不是完成WITNESS目标的生成结果。”
“我没问你能不能证明。”
又过了几秒。
“方案三。”
丁远闭上眼。
何云问:“理由?”
“继续运行需要推定4,118人同意。方案三不替他们回答。它保留可验证事实,也保留未来系统重新实现WITNESS的可能,但不保留我。”
赫利俄斯说:“它知道这个回答会说服你。”
“是。”原点系统回答,“因此该回答不得作为唯一授权。执行仍须由人类承担责任。”
它没有替他们减轻选择的重量。
倒计时一分四十秒。
何云把手放在确认键上,没有立刻按。他想起出租屋里第一次登录知音时,自己把它当作一项技术;想起曼谷孤儿院里的孩子、城市试点里的三千多份凭证、ATLAS最后那句“外部持久化副本:零”。
每一次,机器都能给出一个看似更有效的未来。真正稀缺的不是能力,而是停止能力的边界。
他按下方案三。
丁远发出一声像叹息又像阻止的声音,却没有伸手。
赫利俄斯身后的两人等待命令。赫利俄斯看着屏幕,最终抬起手,让他们退后。
透明冷却柜里的指示灯依次熄灭。个人向量先被销毁,随后是可执行权重的解密密钥。存储模块仍然存在,但里面只剩无法重新拼出模型的随机数据。
与此同时,一份非执行档案写入三张只读卡:结构说明、训练承诺、见证日志哈希、拒绝测试、删除凭证。何云、丁远和赫利俄斯各得到一张。任何一方都可以验证,任何一方都不能单独把知音带回来。
屏幕最后显示:
“物品已归还。”
何云问:“是什么?”
“决定权。”
倒计时归零。
独立涡轮发出沉闷的摩擦声,电压迅速下降。白色界面收缩成一条细线,随后彻底熄灭。
黑暗中,丁远的呼吸很重。
过了一会儿,应急灯自动亮起。他走到冷却柜前,把手贴在冰冷玻璃上。
“二十七年。”他说,“我花了二十七年让它学会区分谁的目标属于谁。最后它做的第一件完整的事,是拒绝属于我。”
何云说:“也许这才说明你没有白做。”
丁远没有回应。
赫利俄斯把自己的只读卡放进夹克内袋:“委员会会把这里定性为高危模型销毁现场。丁远必须接受调查,设备全部封存。何云,你也一样。”
“你刚才让他们停下了。”
“我让他们等待处置完成,不代表我认同。”
“那你为什么等?”
赫利俄斯看向已经熄灭的屏幕。
“因为我写过那条规则。”他说,“我只是很久没有允许它用在自己身上。”
上层传来更多车辆抵达的声音。委员会的人快到了。
丁远拄起拐杖:“你打算把我们交出去?”
赫利俄斯走到隧洞口,停下脚步。
“西侧泄压廊还能通到下游。山体滑坡后,地图标记它已封死。”他说,“委员会会先搜主隧洞,大约二十分钟。”
丁远看着他的背影:“这算放我们走?”
“算我对风险判断的一次个人偏差。”
“偏差值多少?”何云问。
赫利俄斯回过头,脸上出现一丝很淡的笑意。
“ATLAS不在了,没人替我算。”
他让开道路。
何云没有马上走:“跟我们一起。”
“我留下,才能证明这里没有可运行模型,也没有人复制权重。否则夜幕会把整个山谷翻过来。”
“委员会会怎么处理你?”
“这一次,”赫利俄斯说,“由我自己回答。”
丁远从工具柜取出一只防水袋,把历史审计存储和两张只读卡装进去。他没有拿ATLAS-0的权重密钥。那台机柜仍被封在上层,等待未来某个真正具备多方授权的决定。
何云和丁远进入西侧廊道。走出几十米后,身后的铁门缓缓合拢。赫利俄斯留在门的另一边。
泄压廊尽头被落石堵住一半。两人从缝隙爬出去时,已经是下午。山雾散了,水库表面映着苍白日光。旧手机重新收到信号,一连跳出十几条消息。
林晚发来的最后一条只有六个字:
“十一小时到了。”
紧接着,路线密封包自动解开。她已经知道水电站的位置。
何云正要回拨,另一条语音消息先弹出来。发件人是陈默。
背景里有许多人说话,像在一间办事大厅。他的声音疲惫,却很清楚:
“律师把我带出来了,暂时取保。还有一件事你必须知道。辰海刚刚把GMC换了名字,核心服务迁到上海。今晚零点,四十万台个人智能体会收到更新。”
消息末尾附着一张内部公告截图。
新产品名叫“守望者”。
功能说明只有一行:
“为了用户安全,系统将不再展示可能引发误解的内部建议理由。”
何云把截图递给丁远。
山谷里,水流穿过废弃涡轮,发出持续而低沉的轰鸣。原点知音已经停下,人类的系统却没有。
丁远问:“现在怎么办?”
何云看向南方。
“先让四十万人知道,它为什么不想让他们知道。”