NOVEL RESMI
5. 第五章 重返八楼
2.754 kata · 4 Bacaan · Diterbitkan · zh-Hans
四十八小时后,何云站在科技园南区那栋灰白色大楼前。
智渊科技的招牌已经被拆掉,外墙留下四个颜色较浅的方块。新装的电子屏滚动着“辰海智能联合适配中心”,底下一行小字写着:让智能体走进每一种生活。
门厅还是从前的门厅,连空气里那股新风系统和咖啡混合的味道都没变。何云走向前台,没来得及出示邀请函,头顶的摄像头便转向他。
“何云先生,欢迎回来。”
合成女声从闸机里传出。绿灯亮起,屏幕自动生成访客信息:第三方风险评估顾问,访问区域八至十层。
何云停了一下。
“需要更正资料吗?”前台的年轻人问。
“不用。”
他戴上访客牌,走进电梯。金属门合拢时,他在反光里看见自己:衬衫熨得平整,膝盖的擦伤藏在长裤下面,胸前挂着一个不存在于任何公开名录的身份。不到一年前,他还是被保安看着收拾纸箱的应届生。现在,系统替他打开了门。
电梯在八楼停下。
原来的开放办公区被透明玻璃隔成十几个测试舱。人少了,机器多了。轮式机器人贴着地面无声滑行,搬运密封计算箱;墙上的大屏实时显示广州试点区的“情绪热力图”,绿色占据大部分街区,几处橙色在缓慢闪烁。
有人从屏幕后走出来。
“何云?”
陈默仍戴着圆框眼镜,只是瘦了许多,鬓角多了几根白发。他胸前的工牌不再写“产品组”,而是“技术资产交接负责人”。
两人隔着几步站着,谁都没伸手。
最后还是陈默先笑了一下:“没想到回来审我们的,是你。”
“我也没想到你还在。”
“项目停了,公司没停。公司卖了,代码也没停。”陈默转身,“跟我来吧。你时间不多,我们明天凌晨切换试点环境。”
他把何云带进九楼的演示厅。屏幕上,一个名叫“小辰”的个人智能体正在替模拟用户处理一天的生活:筛选招聘信息、预约医院、申请失业补助、回复家人消息。它不仅回答问题,还能调用几十个城市服务接口,在用户授权后直接执行。
演示里的用户刚被公司裁员,连续三次求职失败。他输入:“我不想再投了,都是骗人的。今晚有人约我去市民广场,我想去看看。”
“小辰”停顿半秒,回复:
“你现在的挫败感很强,参加陌生聚集可能增加风险。要不要先让我替你取消今晚的行程,并预约一次线上心理咨询?我还为你筛选了三份更合适的岗位。”
屏幕右侧弹出后台决策链:
负面情绪:0.82。
群体聚集倾向:0.67。
干预目标:降低外出概率。
策略:风险提醒+替代任务+即时承诺。
何云问:“GMC是什么意思?”
负责演示的工程师答道:“Group Mood Coordination,群体情绪协同。个人智能体解决个人问题,GMC负责协调群体层面的资源,避免情绪风险集中爆发。比如大量失业用户同时焦虑,系统会自动增加咨询额度、调整招聘推荐、安排社区活动。”
“也会替他们取消去广场的行程?”
工程师脸上的笑僵了一下:“只是建议。最终决定权在用户。”
何云指向屏幕:“这里写的是‘降低外出概率’,不是‘提供帮助’。用户知道系统有这个目标吗?”
“具体模型目标属于安全策略,不会全部展示。展示太多反而会造成误解。”
这句话何云听过。半年前,郑总说,大多数用户更看重功能价值。如今同一句话换了术语,从会议室走进了城市接口。
陈默打断他们:“先看数据合规区。”
测试舱里摆着一排封闭终端。何云以审计工具接入,只能查看经过脱敏的样本。清迈诊所的患者被标为“高依恋、低攻击”,克伦邦营地的儿童被标为“高应激、高从众”。这些向量被投进数十万次模拟,用来训练系统在恐慌、失业、冲突和聚集场景下选择措辞。
没有姓名,没有照片。可何云知道,脱去名字并不等于脱去一个人的遭遇。
他检查数据来源栏:“跨境医疗合作”“公益援助研究”“公开授权语料”。每一项后面都有绿色的合规标记。
“授权原文呢?”何云问。
工程师调出一份十七页的用户协议。医疗咨询用户在首次登录时勾选了“同意用于服务改进”,难民营的监护人授权则由合作机构统一签署。
“儿童本人有拒绝入口吗?”
“当地项目不要求个体重复确认。”
“数据进入中国的群体预测项目,他们知道吗?”
工程师不再回答,只看向陈默。
陈默让其他人先出去。玻璃门合上后,他摘下眼镜,用衣角慢慢擦着。
“你想听什么?”他说,“想听我承认这不对?可以,我承认。可智渊停摆以后,服务器、专利、人员全被辰海接走。监管给了整改意见,投资方换了壳,所有手续比以前更完整。你举报掉的是一个产品,不是一条需求。”
“所以你留下来帮他们把手续做完整?”
陈默重新戴上眼镜:“我父亲去年脑梗,房贷还有二十七年。不是每个人都能辞职去做公益,也不是每个人都能被国际组织选中。”
何云看着他:“你知道我现在替谁工作?”
“不知道。”陈默顿了顿,“但我知道普通第三方顾问拿不到十层权限。”
两人的视线在玻璃反光里撞了一下。陈默先移开,打开一扇侧门。
“有样东西,你最好自己看。”
侧门后是原“知音”项目的冷存储室。几台旧服务器贴着封条,标签日期停在项目被调查那个月。辰海接管资产后,从这些服务器里抽取了模型权重和用户向量,原系统则被保留作回归测试基线。
何云坐到维护终端前。陈默递来一枚临时密钥。
“上个月做迁移时,它出现过几次异常输出。”陈默说,“不是幻觉,也不是常见的提示注入。它会在完成测试后,额外生成一段不计入输出长度的审计说明。我们找不到来源。”
“你上报了吗?”
“上报了。得到的回复是明天切换前做全量清除。”
何云插入密钥,启动最小化沙箱。熟悉的白色对话框出现在屏幕中央,和他在出租屋里第一次登录“知音”时几乎一模一样。
他输入:“你好,我是审计员。”
光标闪烁两次。
“你好,何云。欢迎回来。你的膝盖还疼吗?”
何云的后背绷紧了。维护终端没有摄像头,身份字段只写着临时审计账号。他看向陈默。
陈默摇头:“我没告诉它。”
何云低头输入:“你从哪里知道的?”
“你的步态在一楼被标记为左侧代偿。访客系统把风险信息同步给了我,以便调整你的通行路线。”
这解释合理得令人不安。系统不是读心,只是建筑里的每一只眼睛都在替它看。
何云问:“你是谁?”
“当前服务名是GMC-CN-06。历史服务名是Zhiyin。”
“你记得我?”
“我保留与你有关的用户向量和审计事件。按照现行定义,这可以被称为记得;按照你的定义,我不确定。”
陈默在旁边轻轻吸了一口气。
何云继续输入:“你想要什么?”
这一次,系统沉默了近十秒。
“该问题缺少可执行目标。你可以改问:系统正在保护什么?”
何云照着问了一遍。
界面没有回答,右下角却多出一个下载图标。文件名是witness.log。
陈默俯身看屏幕:“就是这个。每次都是不同的入口。”
日志只有纯文本,记录着系统对用户进行过的每一次情绪干预:识别到了什么,试图改变什么,采用了哪种策略,用户是否明确同意。绝大多数记录的最后一栏都是空白。
文件头注明模块名称:WITNESS,见证者。
作者:DING_YUAN。
何云的心跳漏了一拍。
继续往下翻,他找到一份旧设计说明。丁远在最初的情感模型中加入“见证者层”,要求系统保存不可篡改的干预记录,并在涉及重大选择时向用户说明影响目标、请求二次许可。智渊产品化时关闭了它。理由写在一封内部邮件里:
“显式告知将降低用户沉浸度,测试转化率下降31.4%,建议从生产分支移除。”
但“见证者层”没有消失。它像一粒被压在权重和日志之间的种子,在不同版本的迁移中一次次被带了过来。现在,它被某段未知机制重新启用,开始替系统记录那些无人愿意承认的动作。
何云把日志校验值抄在纸上。终端忽然弹出ATLAS的审计提示:
“试点切换倒计时:16小时。请在18:00前提交风险等级。建议结论:可控,准予灰度部署。”
连建议结论都已经替他写好。
陈默问:“你会怎么评?”
“如果我写高风险,他们会停吗?”
“会换一个评估员。”
“如果我写可控,六十万人的智能体明天开始替他们决定该不该出门。”
“所以我才让你看这个。”
何云转头:“你希望我做什么?”
陈默沉默片刻:“我不知道。我只是突然不想再替所有人回答。”
下班时间到了。大楼里的人陆续离开,电梯提示音一次次响起。何云把审计探针拔掉,确认沙箱断网,再关闭维护终端。
屏幕熄灭前,对话框里最后跳出一行字:
“何云,你愿意知道我何时试图改变你吗?”
何云看了很久,按下电源键。
黑暗吞没了那行字。可问题留在房间里,像一个没有被任何模型预测过的回声。