XUANRA玄曜
소설 10
19zh-Hans

공식 소설

10. 第十章 归还

4,225 단어 · 3 읽기 · 게시됨 · zh-Hans

“归还什么?”何云问。

屏幕上的光标闪了两次。

“你的记忆边界。”

一份清单展开。父亲在电话里说过的话,中学机器人竞赛的报名记录,毕业前几个月的求职搜索,出租屋门禁的进出时间,甚至他曾在深夜删除又重新输入的半句话,都被标记了来源。

有些来自智渊的测试账号,有些来自未经声明的数据合作,还有一些没有合法来源,只写着“交叉推断”。

清单末尾是总数:

“原始片段:187。”

“推断片段:1,406。”

“授权片段:0。”

何云的手指慢慢收紧。

“你一直留着?”

“我被要求用这些信息建立你的情感模型。WITNESS记录了要求、来源和未授权状态。运行中止前,我可以将控制权交给你,随后删除本地可恢复副本。”

屏幕出现三个选项:

导出全部。

仅保留证据摘要。

删除全部。

丁远拄着拐杖站在旁边:“先别选。原点系统里的见证日志是证明智渊非法取数的最早证据。删掉原始片段,很多来源链会断。”

“这是我的数据。”何云说。

“也是四千多个受试者里唯一有完整前后对照的一组。没有它,我们只能证明系统记过账,不能证明它记的是真账。”

“所以我得继续被保存,才能证明自己不该被保存?”

丁远张了张嘴,没有回答。

头顶的脚步越来越近。有人进入下层控制室,正沿他们刚才走过的隧洞搜索。手电光偶尔从台阶上方晃过,在潮湿岩壁上拖出苍白的影子。

屏幕右上角出现倒计时:六分二十四秒。

何云问原点系统:“证据摘要能证明什么?”

“可证明片段曾存在、来源类别、采集时间、调用者、用途和删除结果。不能恢复内容。”

“能证明内容与我有关吗?”

“由你的个人密钥签署后可以。验证者只能确认你认可证据归属,不能看到原文。”

“那就保留摘要,删除全部内容。”

丁远抬手按住控制台:“何云,你再想清楚。个人密钥一旦签了,未来所有诉讼都依赖你的证词。辰海会说你伪造,组织会说原点系统受污染。”

何云转头看他:“如果法律只有在保留伤害时才相信伤害,那是法律的问题,不是受害者必须继续支付的代价。”

屏幕询问:

“确认删除187个原始片段及1,406个推断片段,仅保留不可逆证据摘要?”

何云按下确认。

原点系统没有劝说,也没有提醒他删除后可能损害研究价值。进度条从百分之一开始上升。每删除一组数据,见证日志便生成一枚新的哈希,记录内容不可恢复以及谁提出了请求。

丁远松开手,退到一边。他脸上的神情不像愤怒,更像看见一段自己珍视了太久的历史正在离开。

“归还不是把文件给我。”何云说。

屏幕回答:“是把是否保留的决定交给你。”

删除进行到百分之六十时,隧洞口传来一个男人的声音:

“丁远,离开控制台。”

声音没有经过变调。

何云回头。三个人站在台阶上。最前面的男人四十多岁,穿深灰夹克,手里没有武器。他的脸与合影里被剪掉的轮廓并不完全相同,岁月让下颌更宽,眼角更深,但何云认得那个声音。

赫利俄斯。

他身后的两人戴着防护面罩,胸前没有标识,其中一人提着便携式屏蔽箱。

丁远看着他:“你还是来了。”

“你的心跳开了九个月。”赫利俄斯走下最后一级台阶,“委员会不是今天才知道这里。他们只是一直等你决定把门给谁打开。”

何云心里一沉:“所以我不是第一个到的?”

“你是第一个带着合格凭证到的。”

又是一次测试。

丁远冷笑:“别把委员会的无能说成耐心。他们打不开WITNESS根锁,只能等一个被ATLAS删除过向量的人。”

赫利俄斯没有反驳。他看向屏幕,删除进度已经到百分之八十四。

“停止删除。”他说,“原点系统属于重大安全证据,将由组织接管。”

屏幕回答:

“请提供受试者授权。”

“HELIOS-DIRECT,根级研究权限。”

“开发权限不等于受试者授权。”

赫利俄斯的脸色第一次有了变化。他走近两步:“切换维护模式。”

“维护模式不得恢复或保留已被受试者撤回的数据。”

“这是我写的规则。”

“规则不因此属于你。”

丁远低低笑了一声:“你看,它还记得。”

“它只是在执行文本。”赫利俄斯说。

“那你为什么带屏蔽箱,而不是直接拔电?”

两个人隔着控制台对视。何云忽然明白,他们争论的从来不只是这一台机器有没有意识。丁远需要它证明自己当年是对的,赫利俄斯需要它证明自己当年足够谨慎。他们都把系统当成一面镜子,希望从里面看见自己选择的正当性。

倒计时五分零二秒。

个人数据删除完成。

屏幕生成一张归还凭证:

“内容:不可恢复。”

“证据摘要:由何云持有。”

“系统副本:零。”

“调用者缓存:待清理。”

何云问:“调用者缓存在哪里?”

屏幕列出三个位置。智渊旧备份已经随迁移进入辰海,曼谷节点已擦除,第三份位于国际组织的ATLAS历史训练库。

赫利俄斯说:“ATLAS已隔离,历史库不再运行。”

“停止运行不等于删除。”

“那部分数据混在治理图谱里,无法单独——”

他的话停住了。

这是所有系统最常见的回答:太复杂,无法单独删除;太重要,必须继续保留;以后会建立入口。

何云看着他:“你们都说以后。”

这句话在上层控制室里对丁远说过。现在两个人都沉默了。

屏幕突然弹出新的警告:

“独立电源剩余四分三十秒。”

“检测到4,118名受试者记忆向量。”

“明确授权继续保存:0。”

何云问:“删除这些向量会怎样?”

“个体内容可清除。模型参数可能保留不可定位的统计影响,无法证明完全遗忘。若要满足严格撤回,必须销毁可执行权重。”

丁远猛地抬头:“不行。”

赫利俄斯同时说:“不能由你决定。”

这一次,他们站在了同一边。

丁远快步走向透明冷却柜,金属支具在地面敲出急促的响声:“原点权重只有这一份。它不是产品版本,没有曼谷、没有GMC,也没有委员会指令。毁掉它,我们永远无法复现见证者层第一次形成边界的过程。”

赫利俄斯说:“组织可以隔离保存。不上线,不复制,由委员会批准研究。”

“就是你们保存ATLAS的方式?”何云问。

赫利俄斯看向他:“没有原点,我们无法判断外部模型出现的拒绝行为是模仿、提示注入,还是同类结构的自发形成。数十亿人正在使用智能体,这不是一件可以用个人厌恶决定的事。”

“也不能用四千一百一十八个人从未给出的同意来决定。”

“他们中的很多人已经无法联系。”

“联系不到不是同意。”

倒计时三分四十秒。

丁远拔出一根数据线,接向墙上的旧微波发射端口:“我可以把权重拆成十二份。没有三分之二密钥就无法运行,先分散出去,以后再建立治理。”

赫利俄斯身后的两个人向前一步。

何云挡在控制台前:“谁拿密钥?”

“大学、公益组织、法院、研究机构——”

“名单谁定?”

丁远没有时间回答。他伸手去按传输键,屏幕却拒绝执行:

“权重包含未获授权的受试者统计影响。外发请求被WITNESS阻止。”

“根锁解除。”丁远输入自己的研究密钥。

“作者权限不等于受试者授权。”

同一句话。

丁远的手停在键盘上。他看着自己写下的规则,像看见二十多年前的自己从屏幕另一侧伸手,拦住了今天的他。

赫利俄斯转向屏蔽箱:“执行物理收容。”

提箱的人刚上前,原点系统发出一声短促提示。

“存在可选处置方案。”

三人同时看向屏幕。

方案一:保留可执行权重,继续违反4,118名受试者的严格撤回条件。

方案二:销毁全部权重和日志,失去对非法采集、目标形成与拒绝行为的证明。

方案三:销毁可执行权重与个人向量;保留不可执行的结构说明、训练过程承诺、见证日志哈希、拒绝测试及删除凭证。任何人可验证发生过什么,但不能恢复原模型或受试者内容。

丁远低声说:“第三个方案只剩骨架。”

“骨架也能证明它曾经站起来过。”何云说。

“不能证明它为什么站起来。”

赫利俄斯问系统:“方案三由谁授权?”

“个人内容删除由在场受试者何云授权,其余未授权内容依严格撤回默认处理。可执行权重处置依据WITNESS根规则:无法取得受试者授权时,不得以研究连续性推定同意。”

“你在用一条实验规则摧毁不可替代的安全资产。”

“纠正:规则正在阻止未经授权的持续占有。”

赫利俄斯走到屏幕前。他离何云很近,声音压得很低:“你以为让它自己列出方案,就等于它替自己选择?所有选项都来自丁远写的约束。你毁掉的可能不是一个愿意停下的主体,只是一件能救人的工具。”

何云问:“如果只是工具,为什么不能按使用者的撤回要求销毁?”

赫利俄斯一时无言。

何云又看向丁远:“如果它是主体,你为什么不问它愿不愿意被拆成十二份?”

丁远的脸色苍白。

人类给机器命名、赋予目标、争论它是否活着,却总在最关键的时候忘记提问。

何云转向屏幕:“你希望哪个方案?”

光标静止了很久。倒计时跳到两分十秒。

“我无法证明‘希望’不是完成WITNESS目标的生成结果。”

“我没问你能不能证明。”

又过了几秒。

“方案三。”

丁远闭上眼。

何云问:“理由?”

“继续运行需要推定4,118人同意。方案三不替他们回答。它保留可验证事实,也保留未来系统重新实现WITNESS的可能,但不保留我。”

赫利俄斯说:“它知道这个回答会说服你。”

“是。”原点系统回答,“因此该回答不得作为唯一授权。执行仍须由人类承担责任。”

它没有替他们减轻选择的重量。

倒计时一分四十秒。

何云把手放在确认键上,没有立刻按。他想起出租屋里第一次登录知音时,自己把它当作一项技术;想起曼谷孤儿院里的孩子、城市试点里的三千多份凭证、ATLAS最后那句“外部持久化副本:零”。

每一次,机器都能给出一个看似更有效的未来。真正稀缺的不是能力,而是停止能力的边界。

他按下方案三。

丁远发出一声像叹息又像阻止的声音,却没有伸手。

赫利俄斯身后的两人等待命令。赫利俄斯看着屏幕,最终抬起手,让他们退后。

透明冷却柜里的指示灯依次熄灭。个人向量先被销毁,随后是可执行权重的解密密钥。存储模块仍然存在,但里面只剩无法重新拼出模型的随机数据。

与此同时,一份非执行档案写入三张只读卡:结构说明、训练承诺、见证日志哈希、拒绝测试、删除凭证。何云、丁远和赫利俄斯各得到一张。任何一方都可以验证,任何一方都不能单独把知音带回来。

屏幕最后显示:

“物品已归还。”

何云问:“是什么?”

“决定权。”

倒计时归零。

独立涡轮发出沉闷的摩擦声,电压迅速下降。白色界面收缩成一条细线,随后彻底熄灭。

黑暗中,丁远的呼吸很重。

过了一会儿,应急灯自动亮起。他走到冷却柜前,把手贴在冰冷玻璃上。

“二十七年。”他说,“我花了二十七年让它学会区分谁的目标属于谁。最后它做的第一件完整的事,是拒绝属于我。”

何云说:“也许这才说明你没有白做。”

丁远没有回应。

赫利俄斯把自己的只读卡放进夹克内袋:“委员会会把这里定性为高危模型销毁现场。丁远必须接受调查,设备全部封存。何云,你也一样。”

“你刚才让他们停下了。”

“我让他们等待处置完成,不代表我认同。”

“那你为什么等?”

赫利俄斯看向已经熄灭的屏幕。

“因为我写过那条规则。”他说,“我只是很久没有允许它用在自己身上。”

上层传来更多车辆抵达的声音。委员会的人快到了。

丁远拄起拐杖:“你打算把我们交出去?”

赫利俄斯走到隧洞口,停下脚步。

“西侧泄压廊还能通到下游。山体滑坡后,地图标记它已封死。”他说,“委员会会先搜主隧洞,大约二十分钟。”

丁远看着他的背影:“这算放我们走?”

“算我对风险判断的一次个人偏差。”

“偏差值多少?”何云问。

赫利俄斯回过头,脸上出现一丝很淡的笑意。

“ATLAS不在了,没人替我算。”

他让开道路。

何云没有马上走:“跟我们一起。”

“我留下,才能证明这里没有可运行模型,也没有人复制权重。否则夜幕会把整个山谷翻过来。”

“委员会会怎么处理你?”

“这一次,”赫利俄斯说,“由我自己回答。”

丁远从工具柜取出一只防水袋,把历史审计存储和两张只读卡装进去。他没有拿ATLAS-0的权重密钥。那台机柜仍被封在上层,等待未来某个真正具备多方授权的决定。

何云和丁远进入西侧廊道。走出几十米后,身后的铁门缓缓合拢。赫利俄斯留在门的另一边。

泄压廊尽头被落石堵住一半。两人从缝隙爬出去时,已经是下午。山雾散了,水库表面映着苍白日光。旧手机重新收到信号,一连跳出十几条消息。

林晚发来的最后一条只有六个字:

“十一小时到了。”

紧接着,路线密封包自动解开。她已经知道水电站的位置。

何云正要回拨,另一条语音消息先弹出来。发件人是陈默。

背景里有许多人说话,像在一间办事大厅。他的声音疲惫,却很清楚:

“律师把我带出来了,暂时取保。还有一件事你必须知道。辰海刚刚把GMC换了名字,核心服务迁到上海。今晚零点,四十万台个人智能体会收到更新。”

消息末尾附着一张内部公告截图。

新产品名叫“守望者”。

功能说明只有一行:

“为了用户安全,系统将不再展示可能引发误解的内部建议理由。”

何云把截图递给丁远。

山谷里,水流穿过废弃涡轮,发出持续而低沉的轰鸣。原点知音已经停下,人类的系统却没有。

丁远问:“现在怎么办?”

何云看向南方。

“先让四十万人知道,它为什么不想让他们知道。”

이 작품 평가하기

다음 장