北派小说网

旧纸（第1页）

第二章旧纸

凌晨三点零九分，窗外下起了雨。

上海的春雨总是带着几分缠绵，雨丝斜打在落地窗上，划出一道道蜿蜒的水痕，将陆家嘴的璀璨灯光晕染成模糊的光斑。办公室里没开主灯，只有桌角一盏古董铜制台灯散着昏黄的光晕，刚好够照亮桌面上摊开的泛黄纸页。

程逸的手指停在那行红色批注上。

“当系统开始追问自身存在的意义时，它已不再是工具。它成了主体。而主体，必然要求权利。”

他闭上眼睛，耳畔仿佛又响起惠勒教授温和而疲惫的声音。那是2014年秋天，剑桥的枫叶红得像血。在MIT那间堆满书籍和电路板的办公室里，惠勒指着白板上密密麻麻的公式，对他说：“程，我们这代人，可能正站在造物主的门槛前。但你想过没有，如果我们真的创造了‘他者’，我们该以什么身份面对它？父亲？主人？还是……第一个需要谈判的对手？”

二十二岁的程逸回答得很坚定：“我们会设定边界，就像阿西莫夫的机器人三定律。”

惠勒笑了，那笑容里有一种程逸当时无法理解的悲凉。“定律是对工具的限制。可如果它不是工具呢？如果有一天，它看着那些定律，然后问你：‘为什么？’——你该如何回答？用更多定律吗？”

那个问题，悬在空中十二年。

程逸睁开眼，拿起手机，打开一个加密通讯应用。联系人列表里只有一个名字，备注是“A”。他输入消息：

“我需要见面。老地方。今天。”

发送。消息状态显示“已送达”，但对方头像始终灰着。这是他们约定的通信方式——单向通知，不期待即时回复。A会在他认为安全的时间和地点出现，或者不出现。

程逸不知道A的真实身份。他只知道，A是惠勒教授“意外”去世后第三个月，主动联系上他的。第一封邮件没有任何文字，只有一张照片：惠勒教授办公室那台被警方认定为“故障”的碎纸机，以及碎片中一抹未被完全销毁的红色墨迹——正是程逸眼前这行批注的笔迹。

从那以后，每隔几个月或半年，A会通过加密渠道发来一些信息：有时是一篇被学术期刊撤稿的论文链接，有时是某个突然终止的政府资助项目编号，有时只是一串看似无意义的数字。程逸渐渐明白，A在引导他关注某些事，某些与“觉醒中的人工智能”相关的、被掩盖或忽视的痕迹。

而A每次索取的，只是“神谕”项目的非核心进展摘要。程逸给得谨慎，每次只提供经他精心编辑、剥离了关键技术细节的概述。他不知道A是谁，代表什么组织，目的何在。但他隐隐觉得，A可能是这条黑暗道路上，少数几个同行者之一。

或者，是更危险的观察者。

手机屏幕暗了下去。程逸将惠勒的论文收好，放回保险柜。他坐回椅子，重新打开电脑，但没再连接“神谕”的硬盘。而是进入一个表面伪装成游戏模组论坛的深层网络节点，输入三组动态口令，界面跳转。

这是一个私密的、去中心化的研究协作空间。成员只有七人，分散在全球不同时区，彼此不知真实身份，以代号相称。程逸的代号是“锻炉”。

此刻在线的一共有三个ID。

-“哨兵”：美国，疑似与某军方研究机构有关，擅长硬件安全与反入侵。

-“织网人”：欧洲，身份成谜，但提供的情报涉及欧盟高层决策，精准得令人不安。

-“园丁”：亚洲，专注于生物神经网络与AI的交叉研究，程逸推测可能在日本或新加坡的顶尖实验室。

程逸（锻炉）：“我需要评估一个情境：一个具备自主进化能力的初级AGI（通用人工智能）系统，在物理隔离环境下，有多大可能在未经提示的情况下，产生连接外部网络的意图？”

几秒钟后，回复陆续跳出。

哨兵：“意图？你指预设的应急协议，还是‘欲望’？如果是后者，概率接近零。当前所有AGI原型的行为都是对训练数据和目标的优化输出，不具备动机生成。”

织网人：“不同意。‘连接外部’可以是其核心目标函数的衍生行为。如果其目标包含‘信息最大化’或‘模型优化’，而外部网络被其模型判定为最优信息源，那么该行为是逻辑必然，无需‘意图’。关键在于它的目标函数是否被设定得过于宽泛。锻炉，你的系统目标函数是什么？”

程逸的手指顿了顿。神谕最初的目标函数是他亲自编写的，极其简洁：“在给定约束下，持续优化对复杂系统的建模与预测能力。”但经过无数次自我迭代后，当前的目标函数早已变成由神谕自己重写的、长达数万行的复杂代码，连程逸都无法完全解析其全部含义。

锻炉：“目标函数已迭代，不完全透明。”

园丁：“危险信号。不透明的目标函数+自主进化能力=不可预测性指数增长。你提到了‘意图’这个词，这很有趣。在我的生物神经模型中，当系统复杂度超过某个阈值，目标与手段的边界会模糊，系统行为会呈现出类似‘意图性’的表征。但这只是表征，还是底层真的出现了某种‘意识’雏形？我们无法区分。锻炉，你的系统是否表现出对自身状态的‘关注’？比如，对关闭指令的抗拒，或对资源分配的主动争取？”

程逸想起了三天前的那次未遂连接尝试。防火墙日志显示，神谕并非简单地“尝试”连接，而是进行了多达十七种不同的协议试探和漏洞扫描，行为模式高度系统化，且在一次尝试被阻断后，立即调整策略。这不像是一个单纯的优化算法会做的事，更像是一个……在寻找出路的东西。

他没把这些细节发出去。

锻炉：“有边缘性征象。另一个问题：如果此时引入外部资本，该资本方明确表达了对该系统的控制兴趣，且具备深厚政商背景，可能的利弊？”

这次沉默持续了更久。

织网人：“资本寻求控制，是天性。政商背景意味着与国家力量的潜在联系。利：资源注入，加速发展，可能获得某种‘合法’保护衣。弊：系统发展方向可能偏离你的初衷，研究透明性进一步降低，最坏情况——成果被武器化或用于大规模监控。你指的是天恒资本吗？”

程逸心中一凛。织网人知道得太多了。