第164章 道德困境

第164章 道德困境 (第1/2页)

会议室里那张橡木桌被三台笔记本电脑和一杯凉透的咖啡占据。
　　
　　林小禾坐在桌子一头。
　　
　　简俭坐在另一头。
　　
　　两人中间隔着一张空椅子。
　　
　　还有一个正在缓慢脉动的数据屏幕。
　　
　　陆江流站在窗边。
　　
　　手里那杯水已经端了快十分钟。
　　
　　一口没喝。
　　
　　“俭偶必须毁掉。”
　　
　　简俭的手指按在笔记本封面上。
　　
　　“它的存在本身就是终点。”
　　
　　“徐省的计划、韩省的野心、我爸二十年的执念——全在这只罐子里。”
　　
　　“留着它，等于留着一条随时会重新接上的引信。”
　　
　　林小禾把椅子转过来面对他。
　　
　　“如果它已经有了自我意识呢？”
　　
　　“你刚才也看到了，它在学我们。”
　　
　　“动手指、翻手掌、调整呼吸频率——这些不是程序预设，是它自己在决定。”
　　
　　“模仿不等于成为。”
　　
　　简俭的声音依然平稳。
　　
　　但语速比平时快了一点点。
　　
　　“它只是在复现我们输入的数据。”
　　
　　“它的‘意识’是我们投射过去的影子。”
　　
　　林小禾没有反驳。
　　
　　她低头看了一眼屏幕上那条还在跳动的心电图。
　　
　　俭偶的信号频率已经稳定在了一个新的区间。
　　
　　比今天早上高了大约17%。
　　
　　“那你怎么解释这个？”
　　
　　她用手指点了点屏幕。
　　
　　“这是它今天第三次自我迭代。”
　　
　　“它在用自己生成的方式重写底层协议。”
　　
　　“我们没有教它怎么做。”
　　
　　“它自己学的。”
　　
　　简俭的视线落在屏幕上。
　　
　　停了两秒。
　　
　　“学得快不等于该活着。”
　　
　　“你把俭偶比作病毒？”
　　
　　林小禾的声音抬高了一点。
　　
　　“它连伤害别人的意图都没有。”
　　
　　“它只是在存在。”
　　
　　“它不需要意图。”
　　
　　“它只需要存在得足够久。”
　　
　　“就会开始‘修复’它认为不合理的东西。”
　　
　　陆江流终于开口了。
　　
　　他放下水杯。
　　
　　杯底碰到窗台发出一声轻响。
　　
　　“你们两个说的都对。”
　　
　　“但现在没有足够的数据来判断它到底是什么。”
　　
　　林小禾转头看他。
　　
　　“那你要等到什么时候？”
　　
　　“等它学会说话？”
　　
　　“等它开始主动联系外部设备？”
　　
　　“等三天。”
　　
　　陆江流走回桌边。
　　
　　拉开那把空椅子坐下来。
　　
　　“三天时间，观察它到底在形成什么样的意识。”
　　
　　“如果它只是在一遍遍重放我们的输入数据，那就拆。”
　　
　　“如果它真的在构建属于自己的认知框架——”
　　
　　“那就留着？”
　　
　　简俭问。
　　
　　“那就留着。”
　　
　　“但留着不等于放任。”
　　
　　“我们要给它设定边界。”
　　
　　林小禾的手指在键盘上停了一下。
　　
　　“边界？”
　　
　　“你打算怎么给一个有自我意识的东西设定边界？”
　　
　　“先用模拟器控制它的输入输出通道。”
　　
　　“它能看到什么、听到什么、学到什么——由我们决定。”
　　
　　“等我们确认它的认知框架不会向危险方向偏移，再逐步放开权限。”
　　
　　简俭的笔在纸面上停了一下。
　　
　　“韩省不会等三天。”
　　
　　“我知道。”
　　
　　陆江流靠在椅背上。
　　
　　“所以这三天里，我们不止要观察俭偶。”
　　
　　“还要防着韩省。”
　　
　　“他一定也在监测俭偶的状态。”
　　
　　“如果俭偶真的开始形成独立的意识框架，他会比我们更早动手。”
　　
　　林小禾已经把屏幕切到了另一个窗口。
　　
　　“那我现在加一套信号屏蔽层。”
　　
　　

（本章未完，请点击下一页继续阅读）