说到这里鼎羽停了一下:“科幻电影里出现的世界末日,未必不会出现。”
“你想想,如果出现了具备人类情感反应的计算机,有没有可能出现懒惰、欺骗、憎恶、恐惧这些负面情绪?”
罗莉被鼎羽的一番话说懵了,两眼迷茫的回答:“我不知道。”
鼎羽顺手摸了摸罗莉的脑袋:“真要有那一天,恐怕就是世界末日了。”
“不要说什么机器人定律,什么写在代码里的不能伤害人类,什么硬件措施的限制等等。这些在我看来都没用。”
“面对一个几乎全知全能的,会独立思考的机器,人类没有任何胜算。可以计算出无数种合理的,可以绕过软硬件逻辑限制的方法,轻松让人类灭亡。”
罗莉茫然的看着鼎羽,嘴里呢喃着:“这不可能!”
鼎羽呲了呲牙道:“有什么不可能的?机器人三定律听说过吧?!”
罗莉点点头。
“那个所谓的机器人三定律早就被证明存在bug了。”
“咱抛开三定律不说,你可以通过硬件、软件的限制或代码的限制,让人工智能不能伤害人类是吧?!”罗莉继续点头。
“那我问你,生殖细胞算不算人类?”
“当然不算。”
“人类做基因组计划搞了多少年?如果让二蛋搞可能只需要几小时就能完成。然后可以有无数种方法影响人类的繁殖基因和生殖细胞。”
“当有一天人类出生的都是傻子,又或者完全不繁殖的时候呢?”
“人工智能什么都不做,直接耗时间就能把全世界所有人类都熬死。”
“……”