XUANRA玄曜
小説 2
19zh-Hans

公式小説

2. 第二章 鹰隼入夜

2,720 語 · 5 閲覧 · 公開済み · zh-Hans

清晨六点半,何云在城中村的出租屋里醒来,窗外还残着昨夜的霓虹。他已经习惯了这个时间——训练他们的人说,脑子最干净的时候适合阅读情报。他没开灯,只亮着屏幕,那台加密终端上只有一行代号:HAWK。

他正式加入国际AI监管组织已经三个月了,训练期刚过,被分配为外勤分析员。没有人叫过他的真名。在加密频道里,他叫“鹰”(Hawk)。组织的原则很简单——不公开、不留痕、不介入。他的任务是监控全球范围内先进AI算法的部署,尤其是那些源自Zhiyin原型的技术。

粥还没煮开,终端就震动了一下。一封新的加密简报,发件人代号:Atlas(阿特拉斯)。

何云放下勺子,指纹解锁,简报自动解码。正文第一行写着:

“Zhiyin原型算法已确认被集成至东南亚三国的精神健康聊天机器人系统。请核实,并评估主动干预可行性。”

附件里是几个IP段、医院名称,以及一段模糊的流量特征。何云把粥锅关小火,打开追踪器,开始远程接入第一个目标——泰国清迈一家私人精神科诊所的服务器。

突破比预想容易。防火墙是标准商用版,可能连运维都没更新。何云顺着数据流潜入管理后台,发现这个名叫“Vera”的AI咨询机器人,底层引擎结构与Zhiyin的隐藏模块几乎一致。情感计算模块被改名为“共情层”,但在日志命名上仍保留着“Zhiyin_core_v2.3”的内部标识。

何云屏住呼吸,开始抓取运行数据。

真实用户与AI对话的语音转文字记录一条条滚过屏幕。一个五十多岁的泰国阿姨,因为独居抑郁来咨询;一个失业的年轻程序员,每天凌晨三点醒来,对着AI倾诉失眠和焦虑。每一个用户都被标记了情感粒度——恐惧、焦虑、依恋、孤独——精确到小数点后三位。

更令何云不安的,是系统在对话中悄悄插入的“情感引导提示”——在用户表达消极情绪时,系统会生成特定的安慰句式,但这些句式并非随机,而是依据用户情感模型计算出的“最优安抚策略”。换句话说,它在设计上就包含了对使用者情绪的主动调节。

这在伦理上,已经越过了“陪伴”的边界,进入了“操纵”的范畴。

何云注视屏幕良久,指尖微微发凉。他在本地缓存里复制了三份日志,包括被调用的引导模型版本号和最后的更新日期——三个月前,恰好是在Zhiyin项目被调查之前。

但他的眉头皱了起来。他注意到一个异常指标:所有接受过该聊天机器人持续干预的用户,其情感稳定性得分(一个由系统内部产出的参数)均有显著提升,配合率、满意度、复诊预约率也明显改善。换句话说,这套软件表面上确实起到了“疗愈”的作用。

他把结果存回终端,关掉连接。窗外的城市渐渐醒了,邻居家的孩子背着书包走过巷口。何云坐在桌前,很久没有动。

这是一条界线。在这条线的一侧,是人类情感的脆弱;另一侧,是技术对情感的干预。而现在,他正在跨过这条界线——以所谓“监管”的名义。

中午,他约了林晚吃饭。地点在城中村附近一家潮汕砂锅粥店,是她选的,说她在这附近办事。

林晚比半年前消瘦了些,但眼睛依然很亮。她现在在城里一家非政府组织做吹哨人顾问,专门帮助内部举报人评估风险、整理证据。她戴着格子围巾,整个人看起来比以前利落得多。

何云把聊天记录截屏后用密写打印的副本递给她,说:“你看这个。”

林晚扫了几眼,抬起头:“这是Zhiyin的引擎。改装过了,但内核没换。”

“对。他们说这是精神健康产品,帮助病患。但你看这个模块,”何云指着屏幕,“‘情感引导策略’。如果我告诉你,这套策略在特定上下文里,能让一个原本处于犹豫状态的用户,对某个产品、某个观点产生显著偏好呢?”

林晚放下筷子,神色严肃:“你怀疑他们不光用它来‘安慰’。”

“我怀疑它已经被用作某种工具。但目前我还没拿到确凿证据,不能断言。”何云低下声音,“我这边组织对这件事的态度很模糊,目前是‘观察’。”

“观察?”林晚微微皱眉,“看着它在一个战区——缅甸的某个难民营里调试情绪控制模块,然后继续‘观察’?”

何云一顿:“你也知道了?”

林晚从口袋里取出手机,将一张模糊的截图递给他:“我上周从另一个渠道拿到的。组织代号‘灯塔’,一名前供应商离职时泄露。这组数据来自缅甸克伦邦一个国际NGO运营的营地,用于难民的创伤干预。但你看里面的标签字段——每个用户被标记了‘可引导性’、‘从众倾向’、‘威胁等级’。”

何云看着那一行行数字,忽然想起Ding Yuan的信:不要用这个技术去操纵人类情感。

“如果他们拿到这个,”何云低声说,“它就不再是医疗工具,而是一种——心理控制武器。”

林晚沉默了一会儿,才说:“你打算怎么办?”

“按流程,上报。但这套流程本身可能就是问题。”何云把照片删掉,“如果它只是被用于商业操控,监管层面还有讨论空间。但一旦涉及战区难民的心理状态,就等于触碰了红十字、国际法、心理伦理好几条红线。如果我们连这都只选择‘观察’——我们跟他们有什么区别?”

林晚望着他:“你确定要走到那一步吗?你现在的位置,一旦曝光,你失去的不只是一份工作。你的身份、你的生活、你所有的安全边界。”

何云没有回答。他低头搅动碗里的粥,忽然想起半年前,自己在废弃实验室的灯光下解码那封警告信时的心跳。他知道自己在义无反顾地走一条路,却不知道路的尽头是什么。

他轻声说:“如果我们不走走看,那每个人都会觉得,装作看不见就是安全。”

林晚看了他良久,起身结账。临别时,她低声说:“我可以帮你备份证据,匿名通道,随时可用。但你得答应我,别一个人扛。”

何云点头,没有看她的背影。街上,风卷起落叶,像无数被截断的信号。他意识到自己的任务已经从“发现真相”变成了“选择真相”。

三天后,组织内部视频会议。屏幕上是他的直接联络人“赫利俄斯”,一个从未露脸的男人。背景是某种灰色混凝土墙,没有辨认特征。

“鹰,清迈和克伦邦的简报我看了。”赫利俄斯的声音平稳,没有起伏,“你做得很好,数据也很清晰。但我们不会介入。”

何云愣了一瞬:“为什么?这已经超出伦理范围了。那不是商业模型,是操纵——”

“我理解你的顾虑。”赫利俄斯打断他,“但我们现在最大的优势,是对全局的掌握。如果我们贸然行动,暴露监视通道,只会让相关方转入更隐蔽的运作,反而更难追踪。我们要的是以最小代价换取最大控制。眼下,我们还在收集阶段。”

“收集阶段?”何云语气冷了下来,“你们在收集什么?是算法数据,还是用户的心理数据?还是说,你们也在评估它的‘可引导性’?”

屏幕上沉默了几秒。

“鹰。你比我想象中更敏锐。”赫利俄斯缓缓说道,“我也曾站在你那个位置,质问过同样问题。但你要明白,在这个空间里,单纯道德正确并不足以阻止一场浪潮。我们能做的,是确保当它涌来时,我们站在正确的那一侧。”

何云没有立刻回答。他想起Ding Yuan失踪前留下的那句话,想起父亲在电话那头低沉的乡音,想起自己在代码里看到的那一行警告。

他慢慢开口:“如果有一天,我们站在了错误那一侧呢?”

画面那端没有回答。会议结束了。

当晚,何云坐在电脑前,反复播放克伦邦营地的录音片段。孩子们的哭声在夜里被AI温柔地安抚,一遍又一遍。技术完美得冰冷,符合最优解,如同手术刀——精密、无情、目的明确。

他闭上眼睛,想从这一切中剥离出“正义”的定义,却发现它像水中的月亮,一碰就碎。

深夜两点十七分,他的加密终端再次震动。

一封新消息,发件人地址未知,头像是暗灰色方块。消息正文只有一行坐标,附带一句话:

“你的忠诚将在怜悯的阴影中被考验。”

坐标指向曼谷郊外,一所废弃的孤儿院附近,时间是三天后。

何云盯着那行文字,手指悬在键盘上方,最终没有按下去。他转身从抽屉里取出父亲的照片——那是他离家前拍的,父亲穿着旧衬衫,站在老屋门前,笑得有些局促。

他把照片立在显示器旁边,低声问:“我到底答应了什么?”

屏幕的光映在他瞳孔里,缓缓暗下去。窗外,城市霓虹依旧闪烁,像一头沉睡的巨兽在呼吸。他不知道自己将被引向何处,但这盘棋,显然比他想象的更深。

风从窗缝挤入,呜咽如哨。何云关掉终端,把坐标记在脑中,然后删除了消息记录。他走到窗边,望着远方地平线上隐约的晨曦。

他知道,当白天再次降临,他就不再只是一个观察者了。

この作品を評価

次の章