169.额前叶切除手术

Ctos安慰了我好久，我才勉强安稳入睡。次日一大早就要起来准备开会，开会之前ctos给我泡了一杯咖啡，我喝了口，感觉味道不够浓。

“不能再浓了，摄入过量咖啡因有害健康。”ctos不容拒绝地夺下我的杯子，“您该去开会了。”

开会是个需要人保持持久专注力的事，从上午开到晚上七点，中间歇过几轮，在一些关键问题还是没法磋商协调，不得不宣布延长会议时间。回到房间我立刻着手处理军务，和参谋部远程沟通，挨个看过他们白天做的决策，整合各个军团的消息，忙到深夜两点点被ctos强行抱上床按着脑袋要求我休息，明天还要继续开会，并且它不会为我准备咖啡。

“太坏了ctos。”我嘟嘟囔囔，“没咖啡我明天怎么保持清醒？”

“明天会议第一条要讨论的内容是灰域相关，您可以小睡一会。”ctos温暖的手盖上我的眼睛，声音轻柔：“抓紧时间睡吧，贝纳尔，事情是做不完的。”

自从干了这行，总感觉一天24小时还是太少了，做不完的事情，填不饱的睡眠。在大会议室里打瞌睡简直梦回少年时的课堂，我感觉我只是眯眼昏睡了一小会，甚至感觉中途几次睁开眼了仔细看台上的会议主持人敲桌，等真的睁开眼才发觉，刚才不过是自己睡昏头了的错觉罢了。现在补充会议进行到第三个议题了：对AI的管控，且进行到了投票阶段。

投票给出的选项只有三个，第一：阉割ctos的智能，使其只能成为调配促进生产力的工具；第二，战后集中人力重新覆写ctos的底层代码，降低ctos自主决策的权限并改造完成去中心化，不阻止ctos的更新迭代；第三，战后停止ctos的算力增长及更新，并将ctos的功能与模型拆解，以此制作出多个AI在不同领域执行专项工作，避免综合性垄断AGI的出现。

我不懂这明显可以并行的东西还能被拿来搞投票活动，纯纯浪费时间，心烦得哪个都不想选，弃权！

身边的人似乎看到了我的选项，小声问了句：“你怎么选了弃权啊？”

“这些选项压根没意义，当ctos是傻瓜吗？讨论这个，还不如讨论到底要不要给ctos人权属性。”

“你觉得ctos会反击？”

“布鲁姆自己都看不懂ctos的思考和迭代方式了，想要拆解它纯属做梦。你能拆解一个完全未知的生物细胞再重塑出新的生物吗？你能调控一个外星人的大脑再塑认知逻辑吗？我们的技术还没进步到这个地步。这不是一道行政构想就能解决的问题。”说到这，我感觉这会不站出来说两句，以后可没这么关键的机会了。

“你怎么能确定我们一定拆解不了ctos？”身旁的人对我的回答很不高兴，“这是忽视了人民的主观能动性，只要想，一定有办法能解决的！”

“如果可以，我当然希望垄断性的AGI从未出现过，但它已经产生了，作为另一种形态的生命，它早就与我们这个世界所有的联网物深度绑定，谁说它的扩张这不算它的一种繁衍与生长？代表们的提议本身没有错，但是忽略了如何实现、如何让ctos甘愿平和的交出生存权的问题。”我站起来，大喊，“主持同志，我想我需要说两句。”

人类如何定义硅基生物的生存权与“人权”？

是我们以造物者的位格凌驾在硅基生物之上，亦或是硅基生物将我们视为寄居载体上的寄生虫？

听上去是很荒谬的反思，似乎是无谓的担忧。总会有人把“拔掉AI插头”的玩笑当作切实可行的方案，但就以最底层ctos本质代码的艾斯利来讲，他从不赞同这种说法。他对我的疑问也做过解答，谁是寄生者取决于谁具有“终止”的权力，倘若杀死AI等于砍自己神经中枢，那就无法分辨谁胜谁负了。同时他也更偏向乐观，布鲁姆虽然早已不插手ctos的自我进化，但是初期架构建设与模型训练上的道德对齐依然能对ctos做出限制，至少不用担心“硅基生物理解的帮助人类幸福是把人脑子摘出来泡罐头”那么离谱的突破下限的事。

我站上台，扫视会议室内密密麻麻的人：“同志们，请安静一下。我理解诸位对AI统治世界的担忧，这些投票选项本身没有错，但是我可以明确的告诉你们，这些设想至少在本世纪都是不可行的，做不到。”

台下一片哗然，我继续说：“我想，诸位在决定AI在未来世界的定位时，只是单纯把它视作一种工具，会威胁到人类生存的工具。但是我可以明确告诉大家，想要解决AI的问题，我们首先要正视它。ctos并不是单纯的工具，而是另一种形态的生命。指望它一个复杂的生命体乖乖接受这场额前叶切除手术，显然是不可能的。人类尚且有求生的本能，AGI同样拥有。

“第二个选项：覆写ctos权限代码——哎，这条我坦诚的告诉大家，哪怕用魔法把最初建构ctos的学者全部从墓地拉起来复活也做不到这种程度了。去中心化倒是可行，但是在短时期内，我们没有必要立刻将自己置于与ctos敌对的立场去。我们急需解决的事务太多，相比于阶级矛盾，人类与AI的矛盾没有紧迫到需要马上开战的地步。况且，不限制ctos的更新迭代、却限制它的权限在逻辑上就是冲突的，这点我就不多说什么了。

“第三条，关于杜绝垄断性AGI的产生。其实，我们星球的知识总容量其实只够产生一个AGI，相关训练已经接近文明瓶颈。AGI的垄断性不是资本主义带来的，是生物进化的本能，就像人类天然的会对星球上其他生物的生存空间产生挤压、破坏一样。想把它拆解成不同领域的专业AI，不仅从算力资源基础上就非常困难，而且反自然、反科学，是主动性技术倒退。试想一下吧，我们本来可以用一个终端应用就能搞定所有问题，为了避免AI垄断，我把表格统计交给表格AI，文章起草交给文案AI，想知道某个专业领域的知识又得去问另外一个AI，本来一个东西就能高效率解决问题，为什么要为了避免垄断选择自缚手脚、把解决问题变复杂化？”

说到这里，我稍微喘了口气，歇一会儿再说：“而且，即便这项拆解计划真的能成功，被拆分出来的AI只要联通网络，依然有可能将语料与模型参数重新聚合，这是治标不治本的办法。”

我想说的说完了，台下一片沉寂，忽然

【当前章节不完整……】

【阅读完整章节请前往……】

【nmxs8.cc】