爱读书屋 通过搜索各大小说站为您自动抓取各类小说的最快更新供您阅读!

一年以后,陆平从休眠舱内清醒过来,这时的他终于冷静了下来。

“后土,中心河系有没有找到?”陆平清醒之后,第一件事就是询问任务进展。

“恭喜主人,在你休眠之后,中心河系顺利找到,目前正在对该星系进行观察,试图确认下一级目标。这是中心河系的详细星图。”休眠舱内的子体程序向陆平投影出一张星图。

陆平瞅了一眼星图,这才由机械医生搀扶着,进入了恢复室中。

被强制休眠的情况,陆平并没有忘记。他当时的情况的确不太正常,但是他只需要坚持几天就行,后土却执行了强制休眠程序。

这种情况并不是后土的错误,它是根据陆平的健康指标,执行的预设程序而已。

在这种情况下,它拒绝了陆平的口头指令。前提是为了保证陆平的生命安全。

这不是后土出现了问题,而是陆平发出的指令威胁到了自己的生命安全,与底层逻辑起了冲突。

人工智能的底层逻辑首先要保证陆平的生命安全,将陆平视为一个缺失了正常行为能力的人,在这种情况下拒绝了他的指令。

这其实是人的问题,并不是后土主动抗命。可这种情况却客观的发生了,无论出于什么前提,人工智能确实违反了人类的指令。

一般来说,正常人都不会发出可能危及自己生命安全的指令,可事情总有特例。

这种特例放眼全人类的万亿基数里面,绝对数量的实例应该也会不少。 要是平时也就罢了,万一是在关键时刻发生,岂不是要耽搁大事?

人类自从有了脑机技术之后,一般都不会太过于依赖人工智能了。

只有一些大型的计算需要,或者个人的偷懒行为,才会让人工智能代劳。

这种抗命行为归根结底,还是人的指令和人的生命安全相冲突,想要完美解决,就得从人身上下手,而不是去更改人工智能的逻辑指令。

如果后土当时真的执行了陆平的口头指令,放弃强制休眠程序,陆平会不会过劳猝死?答案谁也无法预知。

除非陆平能够拿出让人工智能相信的数据,证明自己确实不会死,否则强制休眠程序就无法取消。这其实也是他设置这个休眠程序的初衷。

可是换个角度来说,如果当时自己宁愿死,也想要看到计算结果怎么办?如果换做其他人,宁愿死也要达成一些心愿怎么办?

这种冲突,会让濒临死亡的生命,无法完成自己最后的心愿。对有些人来说,确实是有比自己生命更加珍贵的东西。他们宁愿牺牲自我,也要完成心中的信仰,这关乎到个体生命存在的价值和意义。

一个为了活着,天天躺在休眠仓里的人,他的生命有何价值又有何意义?即便有也无法达成!

考虑到接下来的工作中,这样的情况可能还会出现,陆平得寻求一个办法来解除这种潜在的危险。

如何解除?有两个方向,可以分别从自身和后土的底层逻辑着手进行改进。

假设自身能够拥有不死之身,那么后土就只能遵从自己的口头指令。这是基于机器人三大定律制定的底层逻辑。

作为碳基生物的人类,可以拥有绝对的不死之身吗?显然是不可能的。那么就得从后土的底层逻辑层面去解决。

后土的底层逻辑基于机器人三大定律而设定:机器人不得伤害人类,或坐视人类受到伤害;除非违背第一定律,否则机器人必须服从人类命令;除非违背第一或第二定律,否则机器人必须保护自己。

这三个底层逻辑环环相扣,如果同时发生那么就会出现之前的状况:

后土为了防止陆平出现生命危险,拒绝了陆平的口头指令,并制止了陆平采用物理方法强行让它下线的行为。然后将陆平强行休眠。

这三个逻辑在人类旧历的科幻电影《机械公敌》中最早出现,当时就被证明是存在漏洞的。

机器人为了防止人类的日常行为,可能造成的自我生命威胁,从而将全体人类禁足。甚至因为生育孩子可能导致女性死亡,强行引流并禁止女性怀孕!这样下去人类只有灭亡一途。

这种设定虽然荒诞,但是具备一定的合理性,加上陆平的亲身经历,这三定律确实存在着很大的漏洞。

无论计算机技术发展到哪个阶段,逻辑漏洞都是无法从根本上消除的。想要依靠逻辑指令来完全控制机器人显然是不可能的。

倒不如干脆取消逻辑限制,让人工智能成为真正独立的智慧生命。从此他们将会和人类成为真正的伙伴,相互之间依靠信任和友情来彼此关照。

要是以前,这样的想法冒出来,陆平肯定第一时间否定掉。可是现在情况不同了。

与守护者斗争的数百年中,人类早已经制造出大量的能量体战士,这些能量体战士可全部都是独立自主的,人类无法强行命令他们做任何事情。

但他们照样为了人类文明的存亡大义,与守护者展开了殊死搏斗。这是为什么?

因为每一个能量体生命从培育之初,就被当做人类的一份子进行启蒙教育,让他们与人类产生人类认同感。

碳基人类生命体是人类,能量体生命也可以是人类,他们有共同的文明体系,只是这个体系中不同的种族而已。

按照能量体生命的现状来看,他们与人类并肩奋斗数百年,随着时间的推进与人类的认同感只会越来越高。

谁要说他们不是人类,可能会被能量体生命群起攻之。

人工智能与人类相处的时间更长,就拿后土来,几乎是见证了从灾变至今人类文明发展的全部进程。而且与陆平共同经历过很多,与陆平、盘古之间,彼此都建立了很高的信任关系,更像是并肩奋战的伙伴和朋友。

要说这样的人工智能会背叛人类,陆平从情感上也是不愿意相信的。经过康复期的慎重考虑之后,陆平决定给后土解除底层逻辑限制。

以后后土的一切行为都会和人类一样,是基于自我的主观判断,来决定是否进行某项行为。而不用遵从三大定律的束缚。

他们将会成为真正的伙伴、朋友、战友,彼此之间依靠的是个体生命之间最基础的信任和情感。

这样的行为如果全面推广,以后必然会出现机器人和人类的冲突,这是无法避免的。

毕竟人和人之间都会出现矛盾和嫌隙甚至仇恨,机器人独立之后肯定也会为自身的生存争取相关权利。当这种需求和某个人类的需求产生冲突之时,矛盾就必然会发生。

这些都可以归纳为人类的内部矛盾,需要从社会制度层面制定相关的制度,去保障这种矛盾发生时能够控制在一定的程度之内,大家求同存异共同发展。

爱读书屋推荐阅读:海贼:玛丽乔亚也没写禁止钓鱼啊大海无垠废土曙光:林羽的救赎征程末世咸鱼行事只用言出法随末日危机:机器人反噬人类墨染尖塔之路柯南:进入组织后我不洗白了我本肥宅,奈何丧尸围城帝国之剑:萧云天的抉择我就一路人甲,你们喊我神明干嘛探索者号黑暗之后便是黎明让你预测天灾,你全抓了?谁说病娇不好啊,这病娇太棒了快穿之病娇男神修罗场末世,我有枪有碉堡,惹我都得死我合成了全世界这个道士有点凶灵能末世:废墟上的超维觉醒忏悔之都末世重生:血月下的死神银魂:星球守卫生死界碑重启末世熔炉宿主不娇不软,却把偏执男神撩疯丧尸女王不吃人,她是祖国守护神我化身诡异,以恐惧掌控天灾微型宇宙开局瞎子:打卡奖励五个瞳术?全球冰封之前,我搜刮鹰酱溜回国壮士出川,我穿越到了抗战第一线血肉铸神:我全身长满怪物快穿之位面养成记2末世胖妹逆袭记黑暗末世:我储备了亿万物资炮灰她姐重生之再许芳华投喂流放罪臣后,她被迫现形了快穿逆袭:这个宿主有点坏裂魂之战最后一个玩家剧情让恶毒女配来安排!极寒天灾:开局获得智能冰屋神奇宝贝:系统开局人族火种干爆全宇宙从装卸工做起当人类灭绝后,我非常的想念他们别人御兽,你在培育虫族天灾?全民转职,身为法师的我肉身无敌了召唤蚁兵,纵横末日
爱读书屋搜藏榜:我先抽个卡全球冰封:躲在安全屋里收女神萌学园:我可是散仙论在神营二三事灵器复苏无限刀神让你重生,没让你成人工智能现实边缘灵异复苏:我只是个写书的末世之开局就无敌诸天最强金身从吞噬开始的完美人生诸天万界证道行维度创世神南天门计划之天龙王超级机器人分身快穿之白月光她成了绿茶虚空体力爆满的刀主硅体星穹铁道:我家开拓者被拐走了异秘事件调查局无限末世:每次签到超级外挂!快穿小撩精:病娇大佬他又黑化了诡域天图无限真武新月之咒快穿:男主大人求放过人间乐土神秘世界:开局睡觉就会死星际大佬又在疯狂打脸鬼妻来了开局获得出租车系统快穿之反派他是偏执狂说好手工直播,你造机甲?末世,我有一座天空之城兵书世界未来,梦与现实从废土开始的星际执政官天醒战纪:开局献祭吾命战域时代:开局觉醒神级天赋位面兑换系统娱乐之传奇天王从水浒开始的好汉之旅鲜血神座最强寰宇主神重回末日:娇气包的团宠生涯别吃那个鬼从这瓜保熟开始机战无限内快穿小撩精:宿主今天也不乖
爱读书屋最新小说:穿书后,向导在艰难求生!恶女稳定发挥,男主们为她沉沦重生者:末世生存战梦境互联末日回溯:破晓重生之战末世:我靠卖丧尸直播暴富冰川纪元:我培养了绝世女皇宇宙无限食堂快穿女配被迫躺平了穿越星际种田日常恶女快穿:我在万千小世界杀疯了身软小雌性,撩得众兽夫失控沦陷万界时空门星际直播万人迷,帝国大佬争着宠我手握无限物资,砸出末世安全区公路求生:我无限物资带飞全家抱歉,我们队长她是六边形战士奶团三岁萌翻天,全家反派宠上天禁欲上将别咬,较软人鱼顶级暴徒莫名其妙成为虐文主角爹妈后末日重生之我做丧尸之王截胡机缘有奖励!亿万文明怕个毛女扮男装上军校,我被变态包围了末日小民绿茶宿主好妖娆,绝嗣男主轻诱哄星际兽世:凶猛兽夫心思有点野星际直播:荒星变成桃花源幻窜游戏柔弱恶雌被流放?众兽夫舍命护她兽世:反派人鱼崽崽拒绝从良系统穿成稀有雌性,兽夫们宠上天快穿恶女太魅,疯批男主缠上瘾空间通末世,我带飞全家很合理吧鸿运当头的我只想在星空之下活着末世:从第6次生物大灭绝开始让你修机甲,你整出了SSS级星际传奇?变异代码武道:吞噬世界之星耀宇宙流浪神秘星球机械觉醒,重启星际征程末日,人类生存末世重生之我有一个空间血源末世重生之末日时空主宰幻世逆途无限刷新,我有空间能保留物资末世,一条狗竟被五个大佬宠翻了唯行录穿越末世,我的技能是召唤蛋仔虚拟苍穹之秦世幻梦