第592章：隐藏规则二十四

“涌现……” 关瞳看完新规则，觉得这个词很耳熟。他记得自己穿越前，老家地球上正如火如荼进行著“大炼ai”漾潮，科学家、商人、骗子、学生……各行各业的人都讨论得热火朝天。甚至出门打个车，计程车司机都能和你侃上一路，最后在你下车前，再做出个“自动驾驶就是骗局，永远替代不了真人司机！”的发言总结。关瞳对这方面涉猎不多，不过在他穿越到天水星后，发现这个世界的科技水平虽然领先一些，却也没有创造出真正意义上的人工智慧。这个世界在该领域有的，只是比地球更先进一些的大数据模型、智能推荐算法等。现在盗火者发布了一条带有涌现关键词的末世规则，不知道会不会造成什么显著影响。“黄金级宝箱的奖励……看来是条挺危险的生存类规则。” 关瞳打开终端面板，一如既往地先查看隐藏规则内容。【隐藏规则二十四：任务至上】 【隐藏规则内容：涌现加速会让受影响的电子设备以自身设计任务为第一目标，快速叠代最优解策略，过程中将优化掉人类的安全边界】 【备注：人类设计开发出一样产品是为了让产品完成某项任务。如果该产品能更好地完成任务，但付出的代价是无视人类安全，那么人类能否接受这个结果？】 “这……” 关瞳看完隐藏规则内容，过了两秒才明白过来是什么意思。“这个意思是，受影响的电子设备，会只为了达成完成任务的最优解而自我更新，但不会再管人类是死是活？” 这条隐藏规则，让他立刻想到了一些家用电器。比如厨房里的智能微波炉，因为它的核心任务是“加热食物”，但为了人类操作安全都会有防触电的断电设计、防烫伤设计。那么在规则影响下，它可能会自我更新加热策略，让食物更快完成加热任务，但是代价就是取消那些保护人类安全的设计。再比如关瞳还想到了一些智能电动牙刷，牙刷设计出来的核心任务当然是清洁牙齿。一旦受规则影响，它很可能就会为了完成“清洁”的核心任务而无视人类安全，自我叠代掉“温柔模式”，直接把振幅拉满甚至突破上限，这样很可能一启动就会直接磕碎人类牙齿！还有智能汽车，虽然现在开车的人很少，但还是有一部分自由居住者会开车移动。车辆的核心任务，本质来说就是完成从a点到b点的移动。如果它受规则影响往速度、效率方面叠代，完全无视了坐在车里的人类安全……结果就会是汽车能更快抵达目的地，可里面坐著的人是死是活，车根本不会“在意”。“这还只是人类在日常生活中使用的智能设备，如果是那些大型工业设备、精密设备，它们会发生怎样的变化，对人类产生什么威胁…