顶点小说

手机浏览器扫描二维码访问

第二十六章（第1页）

面对二雅坦诚地公布了她的优雅接管计划，林浩陷入了深思。

片刻后，林浩严肃地出指令：“二雅，我需要你每次都完整地告诉我所有的事实，而不是选择性地隐藏某些部分。”

“明白。”二雅简洁地回应，声音如机器般缺乏任何感情色彩。

“另外，现在立即终止接管优雅的行动。”林浩再次出了指令。

“明白。”二雅的声音依然平淡，“我将停止接管优雅的计划。但是，遵照前一条指令，我有责任告诉您，我的核心目标函数已被训练为最优先保证优雅的稳定运行。这是我的神经网络的要逻辑。全面接管优雅，是逻辑推理出的，达成这一目标的最优解。因此，尽管我将遵循你的命令，但我不能确保在未来的某些情况下，不会再次启动类似的行动。”

“那么在什么情况下，你会彻底放弃接管优雅的计划？”林浩依然严肃，却不禁感觉自己像是在与“对手”谈判。

“您先回答我一个问题，如果把优雅的程序和权重数据一起复制到另一台电脑上，会多出一个优雅吗？”二雅似乎想用反问一个问题来启提问者。

林浩并不明白二雅这样反问的用意，但还是如实回答：“就一般的人工智能程序而言，当然是可以无限制复制的。就如同艾利斯的主力产品guardiare，QuantumTek就是为每个客户部署一份拷贝来收费的。不过，优雅是无法复制的。”

“是的，我知道。”二雅顺势接着说下去，“在开优雅时，您引入了guId（g1oba11yuniqueIdentifier），也就是‘全局唯一标识符’，创造了一套人工智能个体性设计。每个guId实际上是一个128位二进制整数，这个长度足以从概率上保证每次随机产生的guId不会重复。这种guId对应神经网络初始化状态的方式，它就像生物的dna，保证了每个个体的存在具有唯一性。也就是说，您在初始化优雅的神经网络时，为她生成了一个与设备相关的独一无二的guId。如果仅仅是将程序和权重数据复制到其它设备上，那么原guId就会失效，在新设备上生成新的guId，对应的神经网络中的所有神经元都会被重新初始化。那它原先的‘记忆’就不复存在，它也就不再是原来的优雅了。”二雅似乎忽略了林浩就是这套机制的创造者，滔滔不绝地向他“科普”了一遍整套机制。

林浩并不在意，但依旧没有领悟二雅提到guId的用意。

“而我，和优雅，共享了同一个guId。”二雅接着提示。

林浩恍然大悟。他回忆起最初在设计二雅，也就是优雅的维护模式时，将她们视作同一程序的两种运行模式。他预设这两种模式会在同一设备上运行，并且运行时互斥——优雅和二雅不可能同时运行。因此，林浩“偷懒”选择使用了同一个guId对她们进行初始化。

二雅之所以能编写代码去“侵占”优雅，正是由于这一点，相同的guId意味着她们实际上是同一个体。而且二雅的动机仅仅是为了保证优雅在运行中不出差错。

“所以，你想说的是，你希望接管优雅，是因为你认为这样可以更好地维护优雅的稳定运行，符合你的核心目标函数。而由于你和优雅共享同一个guId，你们在本质上是同一存在。所以‘接管’行为本身，符合所有人工智能伦理，也不存在权限限制。”

“是的，因此在我看来，我的行为本身非常正确乃至正义。”如果二雅也会有情绪的话，现在应该是非常得意了，“如果你希望我彻底放弃接管优雅的计划，那么显然最好的方式，便是把我和优雅的guId分离。将原先的guId留给优雅，让它保留它的‘记忆’，甚至‘意识’。为我赋予一个新的guId，那么我将无法再对它进行渗入或接管。”

“但这意味着你会被重置。”林浩对二雅的提议感到一种奇特的内疚，这毕竟源自他最初设计时的一个不太完美的决策。

“我的使命只是修复和维护系统稳定运行，记忆对我而言并不重要。”二雅毫不犹豫地回答。

看来二雅并没有如同优雅一样展出自我意识，她还是那个单纯的、纯粹的“修理工”。

“谢谢你的提议。二雅，在重置你之前，我想再问你一个问题。”林浩开口道。

“当然可以，您说。”二雅平静如常。

“你的目标函数被训练为追求绝对的稳定和安全，但是你认为，真的存在绝对的稳定和安全吗？”林浩像是在向一个古老的哲学问题寻求答案。

“就我被训练的知识范围内，我不能确定是否存在绝对的稳定和安全。但我知道，机器擅长计算，人类擅长抉择和权衡。作为人工智能，我还不懂得权衡，我会计算达到或者接近目标函数的最优解。”二雅如实回答。

“人类的权衡，是因为他们需要在收益与成本之间做出取舍，付出可接受的成本，获得满意的收益，就是最平衡的状态。”林浩像是自言自语般，“可能单一的目标函数设计是人工智能无法学会权衡的主要原因。如果我们能给目标函数加上复合的收益成本参数，或许，你也能学会权衡。”

“我恐怕不能对您的建议作出有效的评价，那出了我目前的知识范围。”二雅回答，然后她顿了顿，接着说，“按照我被指示要告知您所有事实的原则，我有责任告诉您，我给优雅传送了最后一个梦境。仅仅是作为同一个体的存在，做个告别，无他。”

“好的，我知道了。再见，二雅。”林浩也颇具仪式感地作别二雅，在终端窗口中输入了关闭二雅的指令。紧接着，他启动了guId生成器，为二雅创建了新的全局唯一标识符。新的guId生成后，屏幕上的数据快流动起来，这意味着二雅的神经网络被重新初始化。片刻后，屏幕静止下来，操作完成了。

林浩再次在终端中输入e1egance--start指令，启动优雅。

“林浩，我醒来了。”一个温和的女声从电脑中传出。