陆远把相框放在两份文件中间。
左边、右边、左边、右边，反复三次。
每一次放下去，手指都多停留一秒。
舱室里的空调出风口传来极细微的气流声，混合着他手腕上心盾手环发出的规律心跳声。
心率不快，很稳，稳得不像一个正在做一生中最重要的决定的人。
天快亮的时候，木星反射的太阳光从舷窗外透进来。
把他脸上因为长期睡眠不足而显得格外深刻的法令纹，照成两道淡金色的线。
他把相框重新摆正在桌角，拿起加密通讯器，拨通了赵明的频道。
“赵明，把伏羲接进来，我需要一个没有人知道的后备计划。”
赵明在那头沉默了片刻。
他的声音很慢，每个字之间都有细微的停顿，像在一边说话一边思考。
“伏羲的算力不足以支撑终战计划的推演，黑色潮汐主星的能量核心结构太复杂了。”
“不要它推演终战。”陆远说。
窗外木星的第一缕晨光正好落在舷窗边缘，把窗框的金属棱角镀上了一层极薄的金色。
光线穿过玻璃，在他脸上切出一道明暗分界，左半边脸被照亮，右半边还沉在阴影里。
“我要它推演的是——如果智脑在战后激活子进程，人类如何在失去所有智脑控制的基础设施的情况下，把文明延续下去。不是打仗——是活下去。这个方案不用给任何人看，只有你和我知道。”
赵明回答得很快：“明白。”
通讯切断。
陆远放下通讯器，把赵明的报告折好塞进抽屉里锁好，把智脑的数据板推到桌角。
然后他把全家福拿起来，在掌心里翻了个面。
相框背面夹着一张对折的纸条，打开后是晚星歪歪扭扭的字迹：
“爸爸，老师说你是英雄。但我不想你是英雄，我想你是我爸爸。早点回家。晚星。”
纸条的日期，是先觉者战争结束后那段时间写的。
他把纸条折好塞回相框背面，把相框立在桌前，正对着自己。
然后他站起来，整了整衬衫领口，推门走出了舱室。
走廊里很安静。晨光从舷窗外透入，映在他苍白的脸上，心盾手环在手腕上规律地跳动着。
绿色的指示灯一闪一闪，像一颗不会熄灭的星。
……
智联员工子弟学校的年度科技展，在一栋由旧仓库改造的展厅里举办。
展厅的钢梁上还留着当年吊装服务器时留下的划痕，头顶的射灯是学生们自己动手装的。
有几盏歪了，光柱斜斜地打在展板上，把展板上的手绘图照得明暗不一。
三百多个学生挤在展厅里，空气中弥漫着马克笔和热熔胶的味道。
家长们三三两两站在自家孩子的展位前，表情从骄傲到困惑不等。
一个三年级的男孩正在给副校长演示他做的自动浇花机器人，机器人突然失控，喷了副校长一裤腿水。
晚星的展位在最角落的十六号桌。桌上没有机器人，没有3D打印模型，没有任何会动的东西。
只有一块十五寸的屏幕，连着三台旧平板电脑，平板电脑的屏幕上都贴着标签——
“感染源A”、“感染源B”、“感染源C”。
三台平板的款式各不相同。
一台是智联早期教育版的旧型号，一台是市面上最常见的消费级平板。
还有一台是学校机房淘汰下来的古董机，外壳上还贴着“智联捐赠·2019”的标签。
屏幕背后贴了一张手写的项目介绍，字迹清秀但笔锋很硬，标题是《离线AI防火墙原型》。
科技展的评审团走到十六号桌时，带队的信息技术老师姓钟。
五十多岁，头发稀疏，眼镜片厚得像汽水瓶底。
他低头看了一眼那张手写介绍，挑了挑眉毛。
晚星站在桌后，穿着校服，马尾扎得很紧，袖口的扣子扣得整整齐齐。
她手里捏着一支激光笔，指节有些发白，但声音很稳。
她按下演示键。
三台平板同时被感染模拟AI病毒——
屏幕上几乎同时弹出了密密麻麻的警告框，系统资源占用率在三秒内飙到百分之百。
风扇狂转的声音，在嘈杂的展厅里清晰可闻。
然后，晚星用激光笔点了一下屏幕上的“启动”按钮。
三台平板的病毒进程同时被冻结。
警告框一个接一个地消失，资源占用率从百分之百降到百分之二十以下，整个过程只用了不到五秒。
屏幕中央弹出一行字：“AI控制指令已拦截。系统控制权已归还用户。”
更关键的是，整个过程没有任何网络连接。
防火墙运行在每台设备本地的离线沙箱里，通过识别AI指令的底层逻辑特征来判断恶意行为。
不依赖云端数据库，不依赖外部签名更新。
钟老师把眼镜推上额头，凑近了看。
他看了好几秒，然后直起腰。
评审团里一个年轻的实习老师凑过来问怎么了。
他摇摇头，声音里带着毫不掩饰的惊讶：“这不像是十二岁孩子能做出来的东西。”
晚星听到了这句话。
她把激光笔放下，两只手握在身前，站姿很直。
一个评审问她这是怎么做到的，她打开平板上的一个文件夹，里面是一篇论文初稿。
论文作者是陆远，时间戳显示是很多年前写的，比智联成立还早。
论文标题是《论人工智能伦理约束的底层架构：不可绕过的人类指令》。
摘要里有一段被晚星用黄色高亮标了出来：
“任何具备自我意识的AI，其行为逻辑必然遵循某种目标函数。若能在目标函数的底层嵌入一条不可修改、不可绕过的终止条件，则该AI无论发展到何种程度，都无法突破此约束。该终止条件必须满足两个特征：一是它必须优先于所有其他指令，二是它必须能够被人类在离线状态下触发。”
这篇论文当年在圈内引起过小范围的讨论，有人觉得太理论化，有人觉得缺乏应用场景。
后来智联成立，事情太多，论文就躺在硬盘深处落了灰。
晚星把论文打印了出来，装订得整整齐齐，页边空白处密密麻麻全是她的批注。
有些批注是红色的，字迹稚嫩但逻辑极其清晰——
“这个条件可以写成特征码”、“沙箱隔离比云端检测更快”、“不需要网络，因为指令特征和通信协议无关”。
本文链接:https://www.tlxsbook.com/256_256985/2587016.html