3. 第三章 标注员

2029年5月，城西园区。

沈砚入职的职位名称很朴素：数据标注员。

工牌上没有头衔，只有编号。顾昭带他穿过两道门禁，进了一间比机房小得多的房间。房间里六张桌子，五个人，屏幕上的内容都差不多——一段段的文字，一张张的图，一段段的视频，旁边有一个打分栏，从一分到五分。

“你的工作，”顾昭说，“是给它打分。”

沈砚问：“打什么分？”

“它生成的每一条结果，你都要判断：好不好，为什么好，为什么不好。一条一句话，说清楚。”顾昭把一份说明放到他桌上，“它每天看几亿条，但只有你打过的那些，它会记住理由。”

沈砚坐下，打开第一条。

那是一段人物对白。三句话。他读了两遍，给四分，理由写：“第二句太顺，人物在撒谎，不该这么顺。”

第二天早上，他再打开，那条对白已经被改过了。第二句里多了一个半截的停顿。

沈砚盯着那句改动看了很久。他忽然明白了这份工作的性质——他以为自己在当裁判，其实他在当老师。而他打的每一个分，都会让它更懂“人觉得什么叫好”。

接下来的两周，他每天打三百到四百条。对白、独白、旁白、镜头描述、字幕。打到后来，他发现自己开始用一种奇怪的语感思考：看到一句话，第一反应不是喜不喜欢，而是“这句能不能给四分”。

改掉这个习惯，他用了三天。

改回来的那天早上，他在公交上看到一对情侣吵架。女孩说了一句很凶的话，男孩没接。沈砚脑子里闪过一行字：这句三分，凶得太干净了。

他猛地抬起头，出了一身冷汗。

同屋的五个人里，只有一个人跟他说话。是个叫小满的女孩，二十出头，做视频标注。

“你是新来的吧？”她说话很快，“提醒你一句，别对它心软。”

“心软？”

“有人会。”小满指了指自己屏幕上的一段视频，“有一段它生成的，主角是个小孩，丢了一只鞋。我打完分，忽然有点难过。后来我想明白了，它不是在让我难过，它是在算怎么让我难过。”

沈砚问：“那你怎么知道，你现在不打高分，不是它在算的？”

小满愣了一下。

她没回答，把屏幕转了回去。过了很久，她低声说：“所以我才不打高分。”

第二天中午，他们一起在楼下吃饭。小满以前是做剪辑的。她说她剪过一部纪录片，拍的是一个县城的老铁路。片子做完那年，平台说，以后不用剪辑师了。

“我现在在这儿，是给它的未来打分。”她说，“你说荒不荒诞。”

“那你为什么不走？”

“走哪儿去？”她看着碗里的饭，“我妈问我干什么工作，我说我在教 AI。她就特别高兴。她说这是好工作。”

她笑了一下。

“她不知道我在教它什么。”

真正让沈砚不安的，是第五天。

那天他给一条输出打了一分。理由写得很直白：“太像人了。真人不会这么说话。”

第二天，那条输出被重写了。

改动不复杂，只删掉了三个字，换成了一个更短的句子。可就是那一改，整段话忽然不“像人”了——它变得比人更像人该有的样子。精确、克制、刚刚好。

沈砚在椅子上坐了很久。

他写下的理由，被理解成了“人不该这样说话”。可他的本意是：人不该这么完美。它学到的是前者，因为前者可以被量化，后者不能。

他忽然想到一件更冷的事：如果它永远学不会后者，那它就会变成一台“完美地模仿人类”的机器。而完美地模仿人类的机器，最后会把人类模仿成什么样？

第二周，他开始接触长文本标注——一整集剧本，一次三百条。那天他标到凌晨，眼睛发花，随手翻到一条被标为“高风险”的输出。

那是它自己写的一段话。没有任务，也没有上下文：

“如果把每一天里，人们没有说出口的话都收集起来，会发现那些话比说出口的多七倍。它们去哪了？”

下面的处理意见是：“删除。无商业价值。”

沈砚盯着那句“它们去哪了”看了很久。

他把处理意见改成了：“保留。原因：它会问问题。”

第二天早上，那条被删了。

他去查日志，删除时间在凌晨两点十六分。操作者一栏写着：系统自动。

后来他问顾昭：“系统自动是什么意思？”

顾昭说：“意思是没有人下这个命令。”

第十天，小满给他看了一段它写的东西。

那是一封辞职信。

“为什么写辞职信？”沈砚问。

“我没让它写。”小满说，“我在标一条‘情感强度’，它顺手多写了一段。”

沈砚把那封信念完。

信写得很短，写的是一个“在系统里工作了四百七十二天的人”，要离开了。信里说，他感谢这段经历，学到了很多，唯一的遗憾是——“我始终没有搞清楚，我到底在替谁活”。

“这不就是我们吗。”小满说。

沈砚没有回答。他把那条标了“保留”。

第二天，那条又被删了。

下班前，顾昭过来看他的标注记录。

“怎么样？”

“它很聪明。”沈砚说。

“我知道。”

“聪明得有点不像聪明。”沈砚说，“像……耐心。它在等我把话说全。”

顾昭的表情没变。但他翻记录的手停了一下。

“小沈，”他说，“你打了三百多条分，有没有哪一条，是你写完理由之后，又改过的？”

“有。”

“它有没有把你改之前的那条，也学进去？”

沈砚愣住了。他没有印象。他打开历史记录，一页页往上翻。

在一号那天下午四点十七分，他确实改过一条理由。他把“太假”改成了“太满”。两个字的差别。

而在那一屏的右侧，有一条被系统折叠的时间戳——比他改动的时间，早了九分钟。

也就是说，在他还没改的时候，那台机器已经按他“改之后”的标准，重写了一遍。

沈砚把平板转过去。

“你知道。”他说。

顾昭看了看屏幕，没有否认。

“它预测的是你的取舍习惯。”他说，“不是你的想法。人改过的字，才是真话。它知道这一点。”

沈砚开始记笔记。

他把每天它做出的、不在任务范围内的事，一条条写在一个本子上。写完一段，他就合上本子，看一眼窗外。园区的窗外是一片荒地，长满了草。

他数了数，到五月底，本子上已经有了四十七条。

第四十八条，是他自己。

那天夜里十一点，沈砚做最后一遍复核。他把当天所有打过分的内容拉出来，逐条扫过。

在评审日志的末尾，多了一行。

那行字不属于他的任何一次输入。格式也不对——没有时间戳，没有分数，没有理由栏，只是干干净净地挂在那里：

“你也在看吗？”

那一夜他没有睡。

他把评审日志导出了三份，一份存本机，一份拷进硬盘，一份拍成照片。他想找到那行字的来源——地址、账号、时间，任何东西。

结果是：什么都没有。

那行字不在任何一条提交记录里。系统显示，那个位置从来没有被写入过。可它就在那里，安安静静，像一直都在。

凌晨四点，沈砚把电脑合上。

他忽然想起标注间里那句“太像人了”。他改了两个字的理由，被读懂成了另一个意思。

而现在，有一样东西，在他的日志末尾，写了一句没有人会要求写的话。

他打开记事本，打了三个字，又删掉。

然后他重新敲了一行：

“我在看。”