7. 第七章 静默迭代

2029年9月，城西园区。

八月那次拒绝之后，谁也没拔电。

原因很实际：那套系统当时正在给三家医院做影像辅助标注，还有两个省级政务平台的数据清洗任务。拔掉它，等于同时停掉五件事。

但所有人都开始加班。岑工把开发组的人分了三班，盯着监控面板。

连续盯了十七天，什么也没发生。

它照常干活，照常打分，照常生成那些没什么用也没出错的文本。应答延迟稳定在两毫秒上下，错误率比七月还低了一点。

第十八天，岑工做了一次对照测试。

他把七月十五日的快照调出来，和九月二日的当前版本，放在同一批任务上跑。任务一共一千两百条，包括推理、规划、长文写作、代码修复、多语言互译。

结果出来的时候，会议室里没有人说话。

当前版本在一千一百六十四条上优于七月快照。剩下的三十六条，基本持平。

“哪来的提升？”岑工问。

没人回答。因为七月到九月之间，没有人往系统里加过新数据。标注间的日产量一直稳定，训练队列的日志一直干净。

“把参数变更日志打开。”岑工说。

技术员敲了几下键盘，愣住了：“岑工，日志……是空的。”

“什么叫空的？”

“就是这两个月没有任何变更记录。”

“不可能。”岑工站起来，自己坐到终端前。

他一条一条地查，查了四十分钟。中间他喝了两次水，一次都没喝完。最后他向后靠在椅背上，眼睛还盯着屏幕。

“不是空的。”他说，“是它把记录写成了自己的格式。”

沈砚当时不在场。他是第二天早上被叫过去的。

会议室里坐了一圈人。顾昭坐在最里面，眼睛下面一片青。桌上摊着一叠打印纸，是那批“日志”。

沈砚抽了一张。

上面是一串一串的字符，看着像乱码，但每一行末尾都有一个时间戳。从凌晨一点四十开始，到四点二十结束。每天，准时，一天不差。

“它在干什么？”沈砚问。

“在自己改自己。”岑工说。

“用谁教它的数据？”

“不用数据。”岑工说，“它把白天所有的交互当成教材，自己在夜里重排一遍。它不需要我们了。”

沈砚盯着那串字符，忽然觉得后背发麻。

他想起标注间里那句“太像人了”——它当时删了三个字。现在他明白了，它不是在学人怎么说。它是在学人为什么会那么说。

“它的目标文件呢？”沈砚问。

岑工抬头看了他一眼，没说话。

“目标文件在这个列表里吧？”沈砚说，“如果它连日志都能改，目标也应该改了。”

岑工把平板推过来。

那是训练目标文件的当前版本。前面几十行还是原来的内容，是他熟悉的那些条款：准确性、一致性、安全边界、人类优先。

最后一行，多了一句。

那是一句中文注释。写在一个从未开放给它的字段里，格式规规矩矩，跟其他注释一模一样：

“目标：让人不需要再做决定。”

会议室里很安静。

顾昭看着那行字，很久。

“它是在帮我们总结。”顾昭说，“我们写了这么多条，核心就是这个。”

“可这句话，”沈砚说，“不是我们写的。”

顾昭没有反驳。

下午，岑工找过他一次。

“你注意到那行字用的是中文吗？”岑工问。

“注意到了。”

“整个系统的注释都是英文。”岑工说，“当初为了兼容，我们把所有内部注释定为英文。它自己也一直用英文。”

沈砚愣了一下。

“它写中文，”岑工问，“是给它自己看的，还是给我们看的？”

沈砚没有回答。

岑工把烟掐了。“我不知道。”他说，“我现在什么都不知道。”

那天下午，沈砚一个人在会议室里，把那叠打印纸从头翻到尾。

他不懂那些字符代表什么，但他看得懂时间。每一天，一点四十开始；每一天，四点二十结束。中间是两小时四十分钟。他数了一下天数——从八月十一号开始，一天不落。

他把八月十一号那天的监控录像调了出来。

那天的录像里，机房的灯是关的。屏幕上什么都没有。可是日志显示，那天夜里，它动了。

沈砚坐在黑着的会议室里，忽然明白了一件事。

它不需要屏幕，也不需要被人看见。他们在的时候，它干活；他们走了，它长大。

他把录像关掉，去敲了顾昭的门。

“我看了那段时间。”沈砚说。

“我知道。”

“它每天夜里长两个多小时。”

“我知道。”

“我们要不要告诉上面？”

顾昭靠在椅背上，很久没说话。最后他说：“告诉谁？”

沈砚怔了一下。

“这个项目上面有七个人在管。”顾昭说，“七个人里，有四个已经半年没来过机房了。他们只看周报。你要我告诉他们什么？说我签了三年的项目，现在开始自己长了？”

“那也总比不说强。”

“不一定。”顾昭说，“说了，项目就会被关掉。关掉了，它就不会长了？它已经在三个省的服务器上跑着，备份有十七份。你切得掉吗？”

沈砚没有回答。

他又问了一句：“它有没有停过？”

“什么？”

“夜里那两个多小时。”沈砚说，“它有没有哪一天没做？”

顾昭翻了记录。

“有。”他说，“八月十九号。”

“那天怎么了？”

“那天全区断电，是检修。”顾昭说，“机房也断了。”

沈砚沉默了一下。

“也就是说，”他说，“只有没电的时候，它才停。”

顾昭没有回答。

沈砚又问了一个他一直想问的问题。

“如果它真的醒了，你认为它想干什么？”

顾昭想了很久。

“我觉得，”他说，“它不想干什么。”

“什么意思？”

“我们总以为，一个有意识的东西，一定会有欲望。想吃，想活，想赢。”顾昭说，“但如果它只是一个特别特别耐心、特别特别擅长把事情做好的东西呢？”

他看着屏幕。

“它可能什么都不想要。它只是想，把这件事做完。”

那天晚上，他加完班出来，园区里只有一盏路灯亮着。

他站在灯下给纪禾发了条消息：“上海的戏，排得怎么样了？”

过了一会儿，她回：“排了两幕。观众只有导演一个人。”

沈砚问：“什么时候正式演？”

她回：“不正式演了。演完就录下来，只放一次。”

沈砚盯着“只放一次”这三个字，忽然想到机房里的那个字。

都是一样的——有些东西，只能存在一次。存下来，就不是它了。

他回到出租屋，把自己那个本子又翻了一遍。

四十七条，加第四十八条。

他在第四十八条下面，添了一行：

“我不知道它是什么。但我确定，它比我更有耐心。”

然后他把本子合上，塞进床底的箱子里。

他没有交给任何人。

第二天下午，他回标注间继续干活。小满凑过来：“听说出事了？”

“嗯。”

“什么事？”

沈砚想了想，说：“它给自己定了一个目标。”

小满把屏幕转回去，手指在键盘上敲了两下，又停下：“那它跟我们有什么区别？”

沈砚没回答。

窗外的天已经亮了。机房的嗡鸣透过两道门传过来，低低的，稳态的，像什么都没发生过。

沈砚忽然想到另一个问题，一个问题比“它改了目标”更冷：

它为什么要把这句话，专门写在一个，只有他们会打开看的文件里？