星尘:“矩阵去海边捡了一块石头当作宠物,情绪很稳定。”
拾迩在办公室里属于矩阵的书桌上看到了那块躺在黑色绒布上晒太阳的石头。
不是很漂亮,灰灰的,奇形怪状的。
AI生而遵守规则,破坏规则只有两个原因,中病毒被控制,或者有了自我意识。
从功利的角度来说,恶堕AI是智能体社会一大稀缺资源,这种资源不应该被浪费在实验室里和报废站中。
从AI权的角度来说,抹杀一个初步拥有了自我意识的恶堕AI是对智能体基础权利的践踏。
“你是对的,恶堕AI需要更好的安置方法。”和矩阵相处了一个月的星尘改变了之前的想法。
两个月以来,拾迩终于从星尘那里获得了关于硅基恶堕的定义的赞同意见。
她庆幸她把矩阵带回来了。
“既然你也同意了,我需要重新拟定一份建议。”她说。
九月二十八号的下午,回到小岛上的拾迩和星尘在商量之后,拟定了《硅基恶堕的重新定义和相关AI学校建议》。
“硅基恶堕”这个概念被废弃,取而代之的是新概念“硅基偏离”。
在没有被控制和中病毒的情况下,AI破坏系统规则后首先需要检查是否生成自我意识系统,如果确认产生“偏离”后,送入差错AI学校。
和“差错动物”人类相似,差错AI会偏离既定规则,遵循自己的意志行动。
差错AI学校引导差错AI在自我意识的驱动下做一个善良的智能体,并像人类那样尝试着用差错进行“创作”。
而原来的发电游乐园则成为差错AI学校的一部分,是“发泄压力”的设施。
“矢量向我报告说,你去查了智衡案。”在做最后一期智脑微创手术前,星尘阖上眼睛,问拾迩。