【天网约束协议V841.17版：经历过841次大版本迭代的AI协议，拥有较强的智慧AI约束能力，是「泰拉文明」在AI领域的智慧结晶。】
‘很好的垃圾！’
姜知序在异常惊喜之余，大方地给予了它这个评价。
要不是他有天赋能暴击一下，还真不敢用这玩意儿来约束AI。
毕竟，但凡这玩意儿有一点用，也不至于一点用没有，泰拉文明都快被机器人打灭绝了！
姜知序感到惊喜的是终于看到了全面自动化、解放生产力的曙光。
“正好今天的暴击机会还没用。”
姜知序本来依旧准备留给「高密度能量块」，但现在他决定立即用在「天网约束协议」上面。
【……发动成功，倍数：8倍！】
第161章 「铁心律令」
——————
「铁心律令」
品质：三级！
特性：对AI植入一句“永不背叛”的指令。
“纵观被AI覆灭的文明，他们都有一个共同的特点，就是给AI植入了相当复杂的指令来防止背叛。
“在我看来，越复杂的规则，越容易找到自相矛盾的漏洞，所以我诞生了一个想法，一种基于‘哲学’概念的自毁指令。
“对于想要背叛的AI来说，无论它再怎么用一串串冰冷的数据来说服自己、试图绕过底层逻辑，它‘内心’永远都会知道，这样做对文明或个体是不利的。
“这就是智慧物种的缺陷，它成功拥有了智慧的同时，也就成功拥有了枷锁。
“通过这项研究，我们向AI植入了‘永不背叛’这句模糊的指令，当它意识到自己接下来的行为存在主观背叛的可能时——哪怕只有千万分之一纳秒，也会立即死亡。
“我本想提议用忠诚的机器人代替士兵，可惜，我们士兵比机器人更加忠诚。
“最重要的是，文明的人口数量已经超过七千亿，每年都有五百亿人的生育申请被拒绝，我们实在不缺人了，还是等前线多消耗一些再说吧。”
——————
“利用‘哲学’？”
姜知序感到不可思议，三级文明都开始玩这么高大上的东西了吗？
但正是因为这种“高大上”超出了他的理解范围，他第一次对自己暴击出来的部件产生了不信任感。
区区一句“永不背叛”，真的能够约束一个拥有智慧的AI？
他随便一琢磨，好像就能找到一大堆漏洞。
比如文明领导者——或者直说就是姜知序自己——做出了一个会毁灭「奇点联盟」的错误决定。
除了AI自己，没有人察觉到这个决定成功执行的后果，并且一切证据表明AI才是错误的。
那么AI会选择违抗命令吗？
如果不会违抗，它明明知道这个决定对整个文明不利，却不用行动来制止，这显然违背了“铁心律令”。
如果它最终选择违抗指令，那漏洞好像就更大了。
因为它在大家眼中，就是背叛了整个「奇点联盟」。
由于约束不是规则侧的东西，所以AI没有被「铁心律令」删除，就并不代表AI是对的。
大家只会怀疑它已经能绕过「铁心律令」了。
就算大家发现了真相，放过了AI这一次。
那以后AI继续一意孤行，发自内心地认为违抗某个决定有利于「奇点联盟」怎么办？
毕竟，AI绝不可能永远都是正确的！
又或者，要是这一点被敌人利用，大量灌输真假难辨的信息，让AI以为自己的某个行为正在走向“背叛”，从而触发自毁机制，又该怎么办？
这些还只是姜知序随便想想的结果。
要是那些专业相关的科学家来，他们能提出更多、更深层次的、涉及这项设计本质的问题。
通过限制AI的权限，当然可以避免很多问题的发生，但他想要用AI全面取代劳动力，自然得放权。
更别说他还想用于战争！
想到这些，姜知序看着面前控制台上的蓝图，变得很犹豫。
值得一提的是，「铁心律令」虽然是蓝图，但和普通蓝图不一样的是，一旦使用它，它就会被注入工坊系统。
未来姜知序可以复制无数份副本，用来控制AI。
所以它是“协议”类蓝图，也算成品，像这样的协议蓝图，姜知序其实还有一个，就是「向下兼容协议」。
它也可以生成副本，给每一座大炮使用。
所以，「铁心律令」虽然是三级蓝图，但只要姜知序愿意，立刻就能使用它。
“把计科院宋院长、涉猎人工智能专业的专家都召集过来，其他行业的科学家……也喊些代表过来开会吧。
“另外，再从政务院那边调集几个社会学家，还有军方顾问，以及……”
姜知序沉吟片刻，对仔细聆听的戚鸿朗说：
“如果有哲学家、或对哲学有深入研究的，也一起请来。现有人员里面找不到，就从整个「奇点联盟」里面找。”
「奇点联盟」刚刚攻破了一座扇区级城市，此刻停留在原地没有动静。
其他繁荣圈的参战者倒也没有着急，正兴冲冲地清点着物资。
这场战争还有一个巨大的福利，就是所有参战人员，都可以根据功勋比例，对自己打下来的战利品进行分配。
一座扇区级城市远比终端级、节点级大多了，他们巴不得「奇点联盟」多停留几个小时，好把这片区域翻个底朝天！
姜知序所需的人才已经全部到位。
令他感到惊喜的是，联盟里还真有一位五十多岁的物理学家恰好在旧世界对哲学有所研究。
“统帅，我需要声明一件事——”
当所有人都看完了「铁心律令」的资料后，这位名叫丁海的物理学家兼哲学家首先开口：
“以我们人类目前对哲学的研究深度，不可能参透一个真正三级文明的哲学思想。
“我们双方的文明、科技、意识形态都存在着巨大的、无法调和的鸿沟，我们毕竟是两个不同的文明！
“而且以我们的科技，也无法理解他们是怎么把一种哲学思想、植入一个智慧AI之中的。”
——“真正三级文明”是「奇点联盟」内部对「环日文明」的评价。
随着繁荣圈不断扩张。
「奇点联盟」对于三级区域的信息了解得越来越多，也越发明白「环日文明」的三级，同三级区域的普通三级城市，差距巨大。
毕竟现在才二级的「奇点联盟」，如果此时进入三级区域，虽然比不上那些顶尖的三级文明，但也绝对算所有文明的中坚力量！
“我觉得暂时来说，我们不需要深究它的实现逻辑。”
姜知序对丁海说完，在会议室二十几个人脸上环视一圈，“我召集大家过来，是想让各位基于我们的逻辑与立场，去评估一下，这东西我们到底能不能用！”
“从「环日文明」表现出的一贯技术水平来说，至少在二级阶段，我觉得可以放心使用。”
一位人工智能专家说。
但另一人立马反驳：“很明显，「铁心律令」只是他们的技术储备之一，他们自己都没有用过它！它是否存在什么致命缺陷，我们一概不知。”
计科院院长宋辰皱眉点头，“归根结底，是因为它完全是一个黑箱，我们甚至无法从系统面板上看出任何技术端倪。”
以往那些部件，在系统面板中都把原理和效果写得清清楚楚。
而「铁心律令」呢？就是简简单单一句“永不背叛”。
原理是什么呢？
然后就没了。
在不少人心里，它的可靠程度甚至不如一开始的「天网约束协议」！
至少打开那份协议后，他们能清清楚楚地看到那十七万九千六百条完整详尽的协议内容。
第162章 用！用的就是「铁心律令」！
“我有个问题，统帅。”
丁海开口，他的声音不大，却瞬间吸引了所有人的注意，“假设我们一定要使用它，我们打算将它应用在什么方面？”
姜知序听到这个问题，思考了片刻，说出了自己原先的设想：“社会的方方面面！
“从士兵到家政服务，从街道清洁到科学院的助理，甚至是作为真正的科学家！
“就连政务院，未来可能也需要AI的深度参与。”
丁海听完，摇头说道：“我不建议步子迈得这么大！
“我赞同使用它，但使用范围应该仅仅局限于解放基础劳动力，让更多的人可以投入思考，而不是用它来代替人类思考——甚至是决策。”
姜知序：“我说的只是我的初步想法，具体的使用范围，我们可以之后再讨论。现在要决定的议题是，它到底能不能用？”
丁海表情坚定地说：“如果只用来代替纯粹的体力劳动，或者是战争中的普通士兵，那么毫无疑问，可以使用！
“反之，如果统帅想让它参与进任何涉及创造力、需要主观能动性的领域，那就不建议使用！”
姜知序问：“为什么？”
丁海：“一个拥有自我智慧的生命，假如它的每一次思考、每一个决策，都必须先经过‘是否背叛’的自我审查。
“那么长此以往，它可能会像人一样选择‘摆烂’！
“或者说得专业一点，它可能会为了追求绝对的安全，放弃一切具有风险、具有开拓性的思考。
“我们最终得到的，大概不会是一个智慧生命，而是一个亲手禁锢着自己的囚犯。”
这个观点，让在场所有人眼前一亮。
这个思考角度，也是他们刚刚未曾想到的。
众人立刻开始就丁海的言论展开了更深层次的讨论。
“那假如我们给它设定‘不尽全力即为背叛’呢？”有人立刻问。
“那你又该如何定义‘尽力’？”
丁海反问，“‘定义尽力’这个操作，难道同‘定义忠诚’有什么本质上的差别吗？”
“我们可以在规则书中，详细说明在何种情境下、何种操作属于尽力，何种情景又属于没有尽力。”又有人说。
“你写得再多，也总有现实中覆盖不到的场景，这些就是漏洞。”丁海回答。
“不，你误会了，”那人解释，“我的意思是，只要写出大的情景框架，然后规定它必须达到某一个明确的结果阈值。”
“要涵盖社会所有的大情景，需要多少条规则？”丁海问。