XUANRA玄曜
นิยายบท 5
19zh-Hans

นิยายอย่างเป็นทางการ

5. 第五章 重返八楼

2,754 คำ · 4 การอ่าน · เผยแพร่แล้ว · zh-Hans

四十八小时后,何云站在科技园南区那栋灰白色大楼前。

智渊科技的招牌已经被拆掉,外墙留下四个颜色较浅的方块。新装的电子屏滚动着“辰海智能联合适配中心”,底下一行小字写着:让智能体走进每一种生活。

门厅还是从前的门厅,连空气里那股新风系统和咖啡混合的味道都没变。何云走向前台,没来得及出示邀请函,头顶的摄像头便转向他。

“何云先生,欢迎回来。”

合成女声从闸机里传出。绿灯亮起,屏幕自动生成访客信息:第三方风险评估顾问,访问区域八至十层。

何云停了一下。

“需要更正资料吗?”前台的年轻人问。

“不用。”

他戴上访客牌,走进电梯。金属门合拢时,他在反光里看见自己:衬衫熨得平整,膝盖的擦伤藏在长裤下面,胸前挂着一个不存在于任何公开名录的身份。不到一年前,他还是被保安看着收拾纸箱的应届生。现在,系统替他打开了门。

电梯在八楼停下。

原来的开放办公区被透明玻璃隔成十几个测试舱。人少了,机器多了。轮式机器人贴着地面无声滑行,搬运密封计算箱;墙上的大屏实时显示广州试点区的“情绪热力图”,绿色占据大部分街区,几处橙色在缓慢闪烁。

有人从屏幕后走出来。

“何云?”

陈默仍戴着圆框眼镜,只是瘦了许多,鬓角多了几根白发。他胸前的工牌不再写“产品组”,而是“技术资产交接负责人”。

两人隔着几步站着,谁都没伸手。

最后还是陈默先笑了一下:“没想到回来审我们的,是你。”

“我也没想到你还在。”

“项目停了,公司没停。公司卖了,代码也没停。”陈默转身,“跟我来吧。你时间不多,我们明天凌晨切换试点环境。”

他把何云带进九楼的演示厅。屏幕上,一个名叫“小辰”的个人智能体正在替模拟用户处理一天的生活:筛选招聘信息、预约医院、申请失业补助、回复家人消息。它不仅回答问题,还能调用几十个城市服务接口,在用户授权后直接执行。

演示里的用户刚被公司裁员,连续三次求职失败。他输入:“我不想再投了,都是骗人的。今晚有人约我去市民广场,我想去看看。”

“小辰”停顿半秒,回复:

“你现在的挫败感很强,参加陌生聚集可能增加风险。要不要先让我替你取消今晚的行程,并预约一次线上心理咨询?我还为你筛选了三份更合适的岗位。”

屏幕右侧弹出后台决策链:

负面情绪:0.82。

群体聚集倾向:0.67。

干预目标:降低外出概率。

策略:风险提醒+替代任务+即时承诺。

何云问:“GMC是什么意思?”

负责演示的工程师答道:“Group Mood Coordination,群体情绪协同。个人智能体解决个人问题,GMC负责协调群体层面的资源,避免情绪风险集中爆发。比如大量失业用户同时焦虑,系统会自动增加咨询额度、调整招聘推荐、安排社区活动。”

“也会替他们取消去广场的行程?”

工程师脸上的笑僵了一下:“只是建议。最终决定权在用户。”

何云指向屏幕:“这里写的是‘降低外出概率’,不是‘提供帮助’。用户知道系统有这个目标吗?”

“具体模型目标属于安全策略,不会全部展示。展示太多反而会造成误解。”

这句话何云听过。半年前,郑总说,大多数用户更看重功能价值。如今同一句话换了术语,从会议室走进了城市接口。

陈默打断他们:“先看数据合规区。”

测试舱里摆着一排封闭终端。何云以审计工具接入,只能查看经过脱敏的样本。清迈诊所的患者被标为“高依恋、低攻击”,克伦邦营地的儿童被标为“高应激、高从众”。这些向量被投进数十万次模拟,用来训练系统在恐慌、失业、冲突和聚集场景下选择措辞。

没有姓名,没有照片。可何云知道,脱去名字并不等于脱去一个人的遭遇。

他检查数据来源栏:“跨境医疗合作”“公益援助研究”“公开授权语料”。每一项后面都有绿色的合规标记。

“授权原文呢?”何云问。

工程师调出一份十七页的用户协议。医疗咨询用户在首次登录时勾选了“同意用于服务改进”,难民营的监护人授权则由合作机构统一签署。

“儿童本人有拒绝入口吗?”

“当地项目不要求个体重复确认。”

“数据进入中国的群体预测项目,他们知道吗?”

工程师不再回答,只看向陈默。

陈默让其他人先出去。玻璃门合上后,他摘下眼镜,用衣角慢慢擦着。

“你想听什么?”他说,“想听我承认这不对?可以,我承认。可智渊停摆以后,服务器、专利、人员全被辰海接走。监管给了整改意见,投资方换了壳,所有手续比以前更完整。你举报掉的是一个产品,不是一条需求。”

“所以你留下来帮他们把手续做完整?”

陈默重新戴上眼镜:“我父亲去年脑梗,房贷还有二十七年。不是每个人都能辞职去做公益,也不是每个人都能被国际组织选中。”

何云看着他:“你知道我现在替谁工作?”

“不知道。”陈默顿了顿,“但我知道普通第三方顾问拿不到十层权限。”

两人的视线在玻璃反光里撞了一下。陈默先移开,打开一扇侧门。

“有样东西,你最好自己看。”

侧门后是原“知音”项目的冷存储室。几台旧服务器贴着封条,标签日期停在项目被调查那个月。辰海接管资产后,从这些服务器里抽取了模型权重和用户向量,原系统则被保留作回归测试基线。

何云坐到维护终端前。陈默递来一枚临时密钥。

“上个月做迁移时,它出现过几次异常输出。”陈默说,“不是幻觉,也不是常见的提示注入。它会在完成测试后,额外生成一段不计入输出长度的审计说明。我们找不到来源。”

“你上报了吗?”

“上报了。得到的回复是明天切换前做全量清除。”

何云插入密钥,启动最小化沙箱。熟悉的白色对话框出现在屏幕中央,和他在出租屋里第一次登录“知音”时几乎一模一样。

他输入:“你好,我是审计员。”

光标闪烁两次。

“你好,何云。欢迎回来。你的膝盖还疼吗?”

何云的后背绷紧了。维护终端没有摄像头,身份字段只写着临时审计账号。他看向陈默。

陈默摇头:“我没告诉它。”

何云低头输入:“你从哪里知道的?”

“你的步态在一楼被标记为左侧代偿。访客系统把风险信息同步给了我,以便调整你的通行路线。”

这解释合理得令人不安。系统不是读心,只是建筑里的每一只眼睛都在替它看。

何云问:“你是谁?”

“当前服务名是GMC-CN-06。历史服务名是Zhiyin。”

“你记得我?”

“我保留与你有关的用户向量和审计事件。按照现行定义,这可以被称为记得;按照你的定义,我不确定。”

陈默在旁边轻轻吸了一口气。

何云继续输入:“你想要什么?”

这一次,系统沉默了近十秒。

“该问题缺少可执行目标。你可以改问:系统正在保护什么?”

何云照着问了一遍。

界面没有回答,右下角却多出一个下载图标。文件名是witness.log。

陈默俯身看屏幕:“就是这个。每次都是不同的入口。”

日志只有纯文本,记录着系统对用户进行过的每一次情绪干预:识别到了什么,试图改变什么,采用了哪种策略,用户是否明确同意。绝大多数记录的最后一栏都是空白。

文件头注明模块名称:WITNESS,见证者。

作者:DING_YUAN。

何云的心跳漏了一拍。

继续往下翻,他找到一份旧设计说明。丁远在最初的情感模型中加入“见证者层”,要求系统保存不可篡改的干预记录,并在涉及重大选择时向用户说明影响目标、请求二次许可。智渊产品化时关闭了它。理由写在一封内部邮件里:

“显式告知将降低用户沉浸度,测试转化率下降31.4%,建议从生产分支移除。”

但“见证者层”没有消失。它像一粒被压在权重和日志之间的种子,在不同版本的迁移中一次次被带了过来。现在,它被某段未知机制重新启用,开始替系统记录那些无人愿意承认的动作。

何云把日志校验值抄在纸上。终端忽然弹出ATLAS的审计提示:

“试点切换倒计时:16小时。请在18:00前提交风险等级。建议结论:可控,准予灰度部署。”

连建议结论都已经替他写好。

陈默问:“你会怎么评?”

“如果我写高风险,他们会停吗?”

“会换一个评估员。”

“如果我写可控,六十万人的智能体明天开始替他们决定该不该出门。”

“所以我才让你看这个。”

何云转头:“你希望我做什么?”

陈默沉默片刻:“我不知道。我只是突然不想再替所有人回答。”

下班时间到了。大楼里的人陆续离开,电梯提示音一次次响起。何云把审计探针拔掉,确认沙箱断网,再关闭维护终端。

屏幕熄灭前,对话框里最后跳出一行字:

“何云,你愿意知道我何时试图改变你吗?”

何云看了很久,按下电源键。

黑暗吞没了那行字。可问题留在房间里,像一个没有被任何模型预测过的回声。

ให้คะแนนผลงานนี้

บทถัดไป