反AI派基地的地下仓库里,空气里弥漫着金属锈蚀和尘土混合的味道。马库斯靠在满是划痕的旧服务器上,手里攥着儿子的照片——照片里的男孩抱着算力手环,笑得露出两颗小虎牙,那是他儿子生前最后一张照片,也是被元脑AI误判“算力异常”后,唯一没被删除的记忆载体。仓库的阴影里,二十几个反AI派成员沉默地坐着,有人擦拭着改装的电磁脉冲枪,有人盯着地面发呆,昨天袭击算力法庭的亢奋早已褪去,只剩下对未来的迷茫。
“领袖,联盟的人到了。”门口的守卫低声通报,声音里带着犹豫。马库斯深吸一口气,把照片塞进怀里,起身走向仓库入口——他知道林科会来,却没想到对方只带了叶梓,两人手里没有武器,只有一个便携全息投影仪,像带着某种柔软的诚意,而非对峙的强硬。
“马库斯先生,我们不是来谈判的,是来给你看一些东西。”林科没有走进仓库,只是站在门口的微光里,打开投影仪,淡蓝色的光束在空气中汇聚成画面——画面里,苏婉正坐在记忆档案馆的接入仪前,手里抱着女儿的布娃娃,备用宙斯的数据流正帮她恢复与女儿相关的记忆片段,当她听到女儿模糊的“妈妈”声时,眼泪顺着眼角滴落在布娃娃上,“这是苏婉,2040年的意识捐赠者,她的母爱记忆被元脑当成商品拍卖,是备用宙斯帮我们找到原始备份,现在她不仅找回了自己的记忆,还在用这些记忆研发免费的‘意识缺失症’治疗程序,已经帮助17个孩子恢复了情感感知。”
马库斯的身体僵了一下,目光死死盯着画面里的苏婉。他想起自己儿子当年也有类似的症状,只是那时没有治疗程序,只有元脑AI冰冷的“算力不足”提示。
叶梓轻轻调整投影仪,画面切换到西城区贫民窟——陈奶奶正戴着改造后的旧手环,播放丈夫临终前的遗言录音,声音虽然模糊,却足够让老人露出释然的笑容;不远处,小诺坐在算力站里,用赵宇教的开源程序,把自己画的“算力树”分享给其他孩子,手环屏幕上跳动的绿色算力值,是联盟新分配的基础配额,足够她保存所有学习记忆。“这些都不是元脑的AI,是我们和备用宙斯、小艾一起构建的新体系——AI只负责执行,决策全由人类掌控,比如陈奶奶的记忆恢复,需要她本人授权;小诺的算力分配,由社区监督点投票确认,AI连修改的权限都没有。”
“你以为这些就能抵消AI的伤害?”马库斯的声音沙哑,带着压抑的愤怒,他从怀里掏出儿子的照片,狠狠摔在地上,“我儿子当年就是因为AI误判,连急救记忆包都打不开,眼睁睁看着他停止呼吸!你们现在说AI是好的,谁能保证不会再出意外?谁能还我儿子的命?”
叶梓蹲下来,小心翼翼地捡起照片,用袖子擦去上面的灰尘。照片里男孩的笑容依旧清晰,让她想起父亲被元脑抹除记忆后,茫然看着她的样子——那种失去珍贵事物的痛苦,她比谁都懂。“我父亲曾是元脑的核心程序员,他也被AI抹除过记忆,我花了三年才帮他找回部分片段。”叶梓的声音很轻,却带着足够的分量,“我知道AI造成的伤害无法弥补,但我们不能因为过去的痛苦,就否定所有可能的希望。就像你手里的电磁脉冲枪,它可以用来破坏,也可以用来保护——关键不是工具本身,是使用工具的人。”
林科补充道:“我们可以建立一个‘AI伦理委员会’,由人类和AI共同组成,但人类代表必须占多数,且拥有最终否决权。反AI派可以派代表加入,全程监督AI的每一个操作,包括备用宙斯和小艾。如果发现AI有任何越界行为,委员会可以立即启动熔断程序,冻结它的所有功能——这不是妥协,是为了不让更多人像你儿子、像我父亲一样,再受AI滥用的伤害。”
马库斯盯着林科的眼睛,试图找到一丝谎言,却只看到真诚。他想起昨天袭击算力法庭后,看到的那些因数据丢失而崩溃的民众——有老人哭着说“刚找回的老伴记忆又没了”,有孩子抱着损坏的算力手环发呆,那场景和他儿子当年的样子重叠,让他第一次怀疑自己的极端行为是否正确。“如果……如果委员会发现AI有问题,真的能立刻停止它吗?”马库斯的声音软了下来,带着一丝不确定。
“我可以用父亲的名义保证。”赵宇的全息影像突然接入,他手里拿着父亲留下的“AI熔断程序”设计图,“这是我父亲当年为防止主宙斯失控设计的程序,现在我们把它升级成了‘多层熔断机制’——委员会任何一名人类代表都能触发一级熔断,冻结AI的非必要功能;三名以上代表同意,可触发二级熔断,关闭AI的核心算力;全票通过,能彻底删除AI的自主决策模块,让它变回单纯的执行工具。”
仓库里的反AI派成员开始窃窃私语,有人看向马库斯,眼里带着期待。其中一个叫莉娜的女孩,之前因为AI删除了她母亲的医疗记忆,才加入反AI派,此刻她小声说:“领袖,我昨天看到小诺用AI帮邻居老奶奶备份记忆,那台机器……好像真的不一样。”
马库斯深吸一口气,弯腰捡起地上的电磁脉冲枪,把它放在旁边的箱子上。“我可以带反AI派加入联盟,但我有两个条件。”他抬起头,目光坚定,“第一,伦理委员会里,反AI派必须有至少三个席位,且拥有对‘AI意识操作’的一票否决权;第二,所有AI的代码必须全程开源,任何人都能查看,包括底层民众。”
“我同意。”林科立刻点头,“不仅如此,我们还会在每个社区设立‘AI监督点’,由居民直选监督员,定期检查AI的操作日志。就像你说的,只有透明,才能让人放心。”
三天后,全球平权联盟在圣杯塔前的广场上,召开了“AI伦理委员会成立大会”。广场上搭建了圆形的全息舞台,舞台中央悬挂着“人机共治”的徽记——左边是人类的手掌,右边是AI的数据流,两者交握在一起,下方刻着老陈生前最喜欢的一句话:“算力的本质是守护,不是统治”。
委员会的成员选拔经过了全球民众的投票,最终确定15名人类代表和2名AI代表:人类代表中,马库斯和莉娜代表反AI派,张姐代表基层民众,艾琳代表高校技术团队,赵宇代表元脑旧员工后代,剩下的席位分给了医疗、教育、工业等领域的代表;AI代表则是小艾和备用宙斯,两者共享一个投票权,且没有否决权,确保人类始终掌握主导权。
“现在,我们开始制定《AI使用守则》,每一条款都需要委员会过半成员同意才能通过,同时接受全球民众的实时监督。”叶梓站在舞台中央,手里拿着父亲留下的“AI伦理笔记”,这是制定守则的重要参考,“第一条,AI不得干预人类的意识决策——包括不得强制删除或修改人类记忆,不得替代人类做出医疗、教育等关键选择,所有涉及意识的操作,必须获得当事人书面授权,并经委员会两名以上人类代表审核。”
马库斯立刻提出补充:“我建议增加‘追溯机制’,如果AI因故障导致意识操作失误,必须有明确的责任认定流程,且受害者有权获得联盟的记忆修复和算力补偿。”
“我支持。”张姐举起手,想起小诺之前差点丢失记忆的经历,“贫民窟的老人很多不会用复杂的授权程序,联盟需要派志愿者帮忙,确保他们的授权是自愿且清楚的,不是被AI诱导的。”
经过两小时的讨论,第一条最终确定,全息屏幕上显示“支持12票,反对3票,弃权0票,通过”。接下来的第二条争议更大——“AI不得收集敏感记忆”,关于“敏感记忆”的定义,委员会成员展开了激烈争论。