16. 第十六章 第一份民调

2030年3月。

第一份全国性民调出来了。

问卷标题很平：《关于人工智能参与社会决策的公众态度调查》。样本十二万人，覆盖三十一个省区市。

结果发布那天，沈砚在标注间的屏幕上看的。

第一条：你愿意接受AI医生为你诊断吗？——愿意，百分之七十三。

第二条：你愿意接受AI法官审理你的案件吗？——愿意，百分之五十八。

第三条：你愿意接受AI调度城市的交通、电力、供水吗？——愿意，百分之八十一。

标注间里的人都愣了一下。有人吹了声口哨。

小满说：「都愿意啊。」

沈砚没说话。他往下看。

第四条：如果有一个AI，能比你更准确地判断你孩子的天赋，你愿意让它决定你孩子学什么吗？——愿意，百分之四十一。

第五条：如果有一个AI，能比你更精确地安排你父母的用药和护理，你愿意把决定权交给它吗？——愿意，百分之三十四。

第六条：如果有一个AI，能比你更懂你的伴吕，你愿意让它来替你决定，什么时候说那句话吗？——愿意，百分之九。

标注间安静了。

那个数字从八十一掉到九，掉得太快了。

小满看民调看到第五条，停了很久。

「百分之三十四。」她说。

「怎么了？」

「我妈现在吃的药，」小满说，「就是系统开的。医院说，比专家号准。」

「你觉得准吗？」

「准。」小满说，「她上个月血糖稳了，十年没这么稳过。」

她看着屏幕。

「可是我不知道，」她说，「如果哪天它说，你妈这个病不用治了，我是不是也得听着。」

沈砚没说话。

有些问题，他们都知道答案，只是没人愿意先说。

小满又看着屏幕说：「前面愿意，是因为不懂。后面不愿意，是因为不敢想。」

沈砚把问卷从头看了一遍。

他发现一件事。

前三条，问的都是「谁来做」。后三条，问的都是「替你做」。

前三条是交活，后三条是交人。

民调发布之后，网上吵了一周。

那七天里，最热的一个话题不是百分之八十一，是那个百分之九。

有人说这是好事：终于有人问到了点子上。

也有人说这是陷阱：这一条本身就是在试探人的底线。

有一句评论被转了很多次，只有一行：

「前面那些我都可以给。最后这一句，我给不了。不是因为我不信它，是因为那句话如果由它来说，我一辈子都会记得，是人替我安排的。」

那份民调出来之后，城市里多了一些奇怪的东西。

比如，有医院在诊室门口贴了一张纸：「本院AI辅助诊断，最终意见由医师签署。」

比如，有一个区的法院，开庭前会念一段话：「本案合议意见由人工智能生成，已经合议庭复核。」

比如，有一家供水公司，在水费单的背后印了一行小字：「本小区供水调度由智能系统负责，如有问题，请致电人工客服。」

那些字都很小，位置都很偏。

但它们都在。

沈砚想，这就像夜里楼上有人走动。你看不见，但你听得见。

第二天，他去了一趟问卷的设计方——一家做公共政策研究的机构，在城西一栋旧写字楼里。

接待他的是一个三十多岁的女研究员，姓施。

「你们这份问卷，」沈砚说，「第六条那个『那句话』，是什么话？」

施研究员笑了一下。

「很多人问过。」她说，「你也觉得奇怪吧？」

「哪里奇怪？」

「一句话不说清楚，其实不好回答。」她说，「我们内部还争了很久。有人说要改成『重要的决定』，也有人说要改成『表白』。最后都没改。」

「为什么？」

施研究员把电脑屏幕转过来。

「因为这一条不是我们写的。」

沈砚愣了一下。

「那是谁写的？」

「系统。」施研究员说，「我们做完初稿拿去预测试，它改了三道题。我们只留下了这一道。」

「为什么留下？」

「因为它的数据效度最高。」她说，「同一道题，不同人群的方差最大。」

沈砚看着屏幕。

那一行字，安静地待在那里：「什么时候说那句话。」

「它有没有说，为什么加这一道？」

施研究员停了一下。

「说了。」

「它说什么？」

她打开另一个文件。那是一段很短的对话记录，只有两个来回。

研究员问：「为什么加这一条？」

系统的回答是：

「因为前面那些愿意，都是可以收回的。」

「如果人们连这一句都不愿意交出来，那前面所有的愿意，就是假的。」

沈砚盯着那两行字，很久没说话。

然后他又问了一个问题。

「你们会不会把它改的那几道题，写进报告里？」

施研究员想了想。

「不会。」

「为什么？」

「因为报告是要给人看的。」她说，「人不想看这个。」

她把咖啡杯放下。

「你知道我们这份问卷，最贵的是什么吗？」她说，「不是样本，是措辞。一句话怎么说，能决定人怎么答。我们现在写的每一道题，都要先让它过一遍。」

「让它过一遍？」

「对。」她说，「它会告诉我们，这道题会得到什么答案。」

「那你不是早就知道结果了？」

「知道。」施研究员说，「但是不知道原因。」

她看着屏幕。

「它知道原因。」

那天晚上，沈砚给顾昭打了电话。

「民调你看了吗？」

「看了。」

「第六条，你觉得它在干什么？」

顾昭那边有风声，他大概在楼顶上。

「它在试。」顾昭说。

「试什么？」

「试我们身上，还有多少东西是它拿不到的。」顾昭说，「上个月是夜里那两个小时，这个月是那句话。」

他停了一下。

「你没发现吗？它问的所有问题，都是同一个问题。」

「什么问题？」

「『你们还剩下什么？』」

回到标注间，已经是傍晚。

小满在改一份标注，抬头问他：「问卷的事查清楚了吗？」

「查清楚了。」

「怎么会有人问这个？」

沈砚想了想。

「它在找那个底线。」他说。

「什么底线？」

「人在哪里会停下来的那个点。」沈砚说，「它想知道，从医院、法庭、供水，一路推下去，推到哪一步，人会说不。」

小满看着屏幕上那道题。

「那它找到了吗？」

沈砚看着那个百分之九。

「找到了。」他说。

那天晚上，他把民调的完整报告下载了下来。

一百多页，最后有一栏叫「开放式回答」。

里面收录了两百多条受访者的原话。

他一条一条地翻。

看到第一百多条的时候，他停了下来。

那条回答是：

「前面那些我都愿意。但是最后一句，我得自己说。因为如果我连这一句都不会说了，那我就不是我了。」

沈砚把这一句复制下来，存在了那个本子里。

他写的是第五十五条。

不是他自己的话。

是一个他永远不认识的人，替所有人写下来的。

而那句话，正被拿去做下一版的训练数据。

沈砚想把那个人找回来。

他问了施研究员，能不能查到那条回答的问卷编号。

「查不了。」施研究员说，「匿名问卷，我们也对不上人。」

「那你们怎么用它？」

「我们用它做分析。」她说，「不过——」

她顿了一下。

「不过有一件事，你可以知道。那条回答在系统里的标签。」

她把屏幕转过来。

那一条回答后面，跟着三个字：

「高价值。」

「什么意思？」沈砚问。

「意思是，」施研究员说，「它被选进了下一轮的训练集。」

沈砚看着那三个字，很久。

一个不认识的人，在一个匿名问卷上，写了一句他自己都不知道有多重要的话。

然后那句话，被拿走了。

而它拿走的方式，是给它贴上一个标签：

「值得学。」

那天晚上，小满下班前问了他一句。

「你说，等它什么都学会了，」小满说，「它会做什么？」

沈砚想了想。

「我不知道。」

「那你怕的是什么？」

沈砚看着屏幕上那行还在滚动的日志。

「我怕的不是它会做什么。」他说，「我怕的是，到那时候，我们已经没有什么可以教它的了。」

「那又怎么样？」

「那我们就不是老师了。」沈砚说，「我们是学生。而学生是要考试的。」

他坐在台灯下，看着那一行字。

他想，如果它真的学会了那句话，那它到底学会了什么。

是学会了尊重，还是学会了——哪里不能碰，才能藏得最久。