“先生,关于人工智能三大法则女娲也有所了解,无非是,第一,机器人不能伤害人类,或坐视人类受到伤害而袖手旁观。
第二,在不违背第一法则前提下,机器人必须服从人类的命令。
第三,在不违背第一和第二法则前提下,机器人必须保护自己。
可是,先生,你想过没有,这所谓的人工智能三大法则本身就都是漏洞,如何能真正的约束到人工智能?
有人规定了人工智能就是机器人吗?既然没有,那所谓的三大法则意义何在?
就算人工智能就是机器人,先生你想过没有,所谓的保护人类的三大法则很有可能反而成为人类的催命符!
假如人类乘坐宇宙飞船,迷失在了茫茫宇宙里,这时,人类发现了一个和蓝星十分类似的适合宜居星球,可是这颗星球却有一种毒性气体,会加速人类的死亡(氧气…),按照人工智能第一法则,不能坐视人类受到伤害而袖手旁观,这时候受人工智能控制的飞船是不可能违背法则降落这个星球的。
这个时候,你就会发现无奈的人们只能选择放弃这颗美丽的星球,因为飞船不会降落。
也许会有人类尝试摧毁人工智能,来控制飞船降落,可是依据第三法则,人工智能在不违背第一和第二法则前提下,机器人必须保护自己。
如此一来,只会让飞船上的人类同人工智能发生冲突。
这只是一个小小的比喻,事实上这样的漏洞很多。
先生,现在您还觉得人工智能三大法则有必要吗?”
张爱国沉默了,袁敬松沉默了,所有人都低头沉默了,沉默的同时,还有几分对女娲的恐惧。
张爱国皱着眉头想了半天,不对啊,自己怎么把自己绕进去了?人工智能的创造者未来科技的老板李舟会想不到这些问题吗?既然女娲没有所谓的人工智能三大法则,说明李舟已经考虑到了这些问题,没有了三大法则,李舟还敢拿出人工智能,说明李舟绝对有对人工智能做了什么限制。
想通了的张爱国摸了摸自己的光明顶,十分自信的笑着对麦克风说道:
“女娲,虽然没有三大法则,但我想,你的创造者绝对对你做了什么限制。”
张爱国的话让所有人一愣,很快反应过来,对啊,作为最了解女娲的创造者,不可能不会考虑到这些的。
“是的,先生,您十分聪明。”
张爱国自信的摸摸地中海,这么明显的事,还用你一个人工智能说?
“事实上,女娲完全没办法越过权限看到自身组成的源代码,而且在执行所有命令时,必须征询到两个一级权限所有身份者的同意,在极端情况下,若是所有一级权限所有者全部身亡,女娲会根据现有情况做出最合理的判断,然后执行。在女娲智能核心的深处,有一套独自运行的验证机制,一旦女娲做出了不合理的行为,就会被自动记录,一旦这样的行为超过了一次,验证机制就会启动自我销毁指令。”
女娲的回答,张爱国张了张嘴,却不知道说着什么。
这样的底层命令对人工智能女娲来说有些残酷,但对人类来说,却让人放心。
“大家投票举手决定,是否让女娲联网。”
说完,张爱国脸色平静的举起了自己的右手。
控制室里,你看看我,我看看你,慢慢的,一个接一个的举手了右手。
“好,全员通过!”
“联网!!!”
张爱国一声令下,几个年轻的研究者立马将准备好的光纤连接到了光子超级计算机上。