这是一个非常底层的设计。
义体控制中枢最初的设计者认为,再高明的工程师,也不可能应对所有突发状况准备预案。二十一世纪的时候,他是这么解释的。
“我们为什么不完全用机器去维修机器?为什么不用人工智能去debug?因为我们可以告诉机器,什么是‘正确’的。但我们没法将所有的有可能的故障状态做成一个集合,装进机器的数据库中。机器只能判断‘这不是正常状态’,却没有办法处理层出不穷的问题。倒不如说, 一个工程师若是能够预知所有的故障,那他理应能够对所有故障做出预防。”
“故障,往往就是设计者预料之外的事态。”
举一个最极端的例子吧。一个人在灾难中被困住,需要自断手脚来逃生。这個时候,他的义体却因为安全协议而拒绝执行“自残肢体”的提议,而导致一个人被困死,那么这家义体的生产企业或许难辞其咎。
当然,这里面也存在另一个问题。如果一个人“杀人”的决心足够坚定,并且他的高级皮层也做出了明确的指令,那义体同样可以成为凶器。。
如果仔细考量的话,后者出现的场合,或许会比前面的“极端状况”要常见许多。
所以权衡“生物脑的意志”与“安全协议”的优先度,是当初超人类公司所作出的最艰难的决定。
而某位决策者最终认为,一个人如果真的如此想杀另一个人,那他是可以找各种凶器的。可从没有见厨具厂商、汽车厂商、运动器材厂商或者其他什么厂商因为产品沦为凶器而被人唾弃。但是“义体因为安全协议而卡死人类自救可能”,却无疑会导致公司的声誉受损。
那些帮助了海豚们的人类,尚不知晓如何修改这种底层设计。
而海豚们则觉得,这种设计糟透了。
人类可以一定程度上依靠新皮层的神经活动,去调节边缘系统之类区域的活动——甚至人类也不能时时刻刻保证自己不会被低级功能区所控制。
而海豚这方面比人类更弱。
他们很容易被某项本能、情绪主导。
希卡茜在饥饿的时候,甚至会顾不上长久以来的“隐藏”传统,无视了一个“看”起来像人造物的可疑玩意,冲过去咬住那鱿鱼。
克莱代奇甚至很担心,如果有朝一日,自己这个族群里有人搁浅了, 其他的伙伴们会不会被救援的冲动所控制,全都没有计划地冲上海滩。
几名海豚也靠了过来, 用鳍、尾巴或嘴巴尖轻轻碰了碰希卡茜。
“至少那条鱿鱼很好吃。”
“虽然小碎骨有点咯喉咙。”
“挺好吃的。”
克莱代奇挥了挥尾巴:“加紧干活吧!”
开着潜艇追踪海豚,听起来多少有些怪。从二十一世纪后半开始,大海已经变得不那么重要了。人类没有挖空心思研究潜水艇的必要。这个时代最快的潜水艇,可能也只有二十一世纪潜水艇的几倍那么快。
况且,向山的载具都不是专门的水下潜艇,是陆地载具临时改装的。
谷柎
尽管向山没有犹豫,立刻让原闻人他们驾驶潜艇,朝海豚的方向冲了过去,但是基本被几下甩开,根本看不到踪影。
向山却依旧不死心,拿出了搜索的姿态,派出所有小型水下无人机,在这一块大海之中翻找。
六日对于这种行为有几分不解。他悄悄的询问原闻人,为什么武神对这种海底生物有这种兴趣。
原闻人推测:“或许是他想要争取一支新的有生力量?”
“啊?那些从来不上岸的藏在海底下的家伙?”
“你是钻地龙出身,不该瞧不上‘从不露面’的群体吧?”原闻人分析道:“这些家伙在海底还挺灵活的,而且能够从两百年前藏到现在他们肯定有些过人之处啊?比如说,我想想啊,对,如果北地那些依托潜艇的门派有这些家伙的助力,说不定就”
“唉”
向山的叹息声陡然从通讯中传来。很显然,他也听到了。
“啊,前辈!”六日道:“原来您在听啊!那问您本人就再好不过了”
原闻人则惴惴不安,觉得自己可能说错了什么。
向山叹息:“这可是一个文明,一个非人类的智慧族群你们”
向山停顿了一下。
过了几秒钟,他才平静的说道:“侠客为什么是侠客?我们为什么要成为侠客呢?我们要为了所有人的幸福,为了人类的自由与解放而战斗。那么,‘什么是所有人的幸福’、什么是‘人类的自由与解放’呢?有些事情,非得到一个更高的层面才能想透。对于人类来说,‘智慧海豚’可以是一面很好的镜子,用来审视我们自己的文明。”
“侠义是一面旗帜,但旗帜也只是一种工具。我觉得这个现实存在的非人类智慧族群,有着在这之上的意义。尽管我们现在还在与庇护者战斗,我们没太多功夫在这里磨蹭。但我依旧希望,能在离开之前找到一些线索。在侠义胜利之后,它们肯定会有独特的意义的。”
向山是这么说的。
他确实是这么想的。
侠义只是人类进入某段歧途之后,用于校正方向的工具。人类总有一天会超越它,去到更高的层次。
而若是这些智慧海豚可以继续生存到那个时候,他们依旧会是人类审视自己的助力。他们依旧对人类文明有着重要的意义。
就算注定追不上那只海豚,向山也希望能找到一些线索,带回去。
听说尼娅古蒂就在非洲,或许这条消息告诉她就很合适。
然后,线索就来了。
在某个海底地形较高的地方,无人机发现了什么。
那是一艘沉没的潜艇。从各种痕迹上来看,它沉没的时间,也就这十来个小时。
向山向下降落到潜艇的旁边。
义体控制中枢最初的设计者认为,再高明的工程师,也不可能应对所有突发状况准备预案。二十一世纪的时候,他是这么解释的。
“我们为什么不完全用机器去维修机器?为什么不用人工智能去debug?因为我们可以告诉机器,什么是‘正确’的。但我们没法将所有的有可能的故障状态做成一个集合,装进机器的数据库中。机器只能判断‘这不是正常状态’,却没有办法处理层出不穷的问题。倒不如说, 一个工程师若是能够预知所有的故障,那他理应能够对所有故障做出预防。”
“故障,往往就是设计者预料之外的事态。”
举一个最极端的例子吧。一个人在灾难中被困住,需要自断手脚来逃生。这個时候,他的义体却因为安全协议而拒绝执行“自残肢体”的提议,而导致一个人被困死,那么这家义体的生产企业或许难辞其咎。
当然,这里面也存在另一个问题。如果一个人“杀人”的决心足够坚定,并且他的高级皮层也做出了明确的指令,那义体同样可以成为凶器。。
如果仔细考量的话,后者出现的场合,或许会比前面的“极端状况”要常见许多。
所以权衡“生物脑的意志”与“安全协议”的优先度,是当初超人类公司所作出的最艰难的决定。
而某位决策者最终认为,一个人如果真的如此想杀另一个人,那他是可以找各种凶器的。可从没有见厨具厂商、汽车厂商、运动器材厂商或者其他什么厂商因为产品沦为凶器而被人唾弃。但是“义体因为安全协议而卡死人类自救可能”,却无疑会导致公司的声誉受损。
那些帮助了海豚们的人类,尚不知晓如何修改这种底层设计。
而海豚们则觉得,这种设计糟透了。
人类可以一定程度上依靠新皮层的神经活动,去调节边缘系统之类区域的活动——甚至人类也不能时时刻刻保证自己不会被低级功能区所控制。
而海豚这方面比人类更弱。
他们很容易被某项本能、情绪主导。
希卡茜在饥饿的时候,甚至会顾不上长久以来的“隐藏”传统,无视了一个“看”起来像人造物的可疑玩意,冲过去咬住那鱿鱼。
克莱代奇甚至很担心,如果有朝一日,自己这个族群里有人搁浅了, 其他的伙伴们会不会被救援的冲动所控制,全都没有计划地冲上海滩。
几名海豚也靠了过来, 用鳍、尾巴或嘴巴尖轻轻碰了碰希卡茜。
“至少那条鱿鱼很好吃。”
“虽然小碎骨有点咯喉咙。”
“挺好吃的。”
克莱代奇挥了挥尾巴:“加紧干活吧!”
开着潜艇追踪海豚,听起来多少有些怪。从二十一世纪后半开始,大海已经变得不那么重要了。人类没有挖空心思研究潜水艇的必要。这个时代最快的潜水艇,可能也只有二十一世纪潜水艇的几倍那么快。
况且,向山的载具都不是专门的水下潜艇,是陆地载具临时改装的。
谷柎
尽管向山没有犹豫,立刻让原闻人他们驾驶潜艇,朝海豚的方向冲了过去,但是基本被几下甩开,根本看不到踪影。
向山却依旧不死心,拿出了搜索的姿态,派出所有小型水下无人机,在这一块大海之中翻找。
六日对于这种行为有几分不解。他悄悄的询问原闻人,为什么武神对这种海底生物有这种兴趣。
原闻人推测:“或许是他想要争取一支新的有生力量?”
“啊?那些从来不上岸的藏在海底下的家伙?”
“你是钻地龙出身,不该瞧不上‘从不露面’的群体吧?”原闻人分析道:“这些家伙在海底还挺灵活的,而且能够从两百年前藏到现在他们肯定有些过人之处啊?比如说,我想想啊,对,如果北地那些依托潜艇的门派有这些家伙的助力,说不定就”
“唉”
向山的叹息声陡然从通讯中传来。很显然,他也听到了。
“啊,前辈!”六日道:“原来您在听啊!那问您本人就再好不过了”
原闻人则惴惴不安,觉得自己可能说错了什么。
向山叹息:“这可是一个文明,一个非人类的智慧族群你们”
向山停顿了一下。
过了几秒钟,他才平静的说道:“侠客为什么是侠客?我们为什么要成为侠客呢?我们要为了所有人的幸福,为了人类的自由与解放而战斗。那么,‘什么是所有人的幸福’、什么是‘人类的自由与解放’呢?有些事情,非得到一个更高的层面才能想透。对于人类来说,‘智慧海豚’可以是一面很好的镜子,用来审视我们自己的文明。”
“侠义是一面旗帜,但旗帜也只是一种工具。我觉得这个现实存在的非人类智慧族群,有着在这之上的意义。尽管我们现在还在与庇护者战斗,我们没太多功夫在这里磨蹭。但我依旧希望,能在离开之前找到一些线索。在侠义胜利之后,它们肯定会有独特的意义的。”
向山是这么说的。
他确实是这么想的。
侠义只是人类进入某段歧途之后,用于校正方向的工具。人类总有一天会超越它,去到更高的层次。
而若是这些智慧海豚可以继续生存到那个时候,他们依旧会是人类审视自己的助力。他们依旧对人类文明有着重要的意义。
就算注定追不上那只海豚,向山也希望能找到一些线索,带回去。
听说尼娅古蒂就在非洲,或许这条消息告诉她就很合适。
然后,线索就来了。
在某个海底地形较高的地方,无人机发现了什么。
那是一艘沉没的潜艇。从各种痕迹上来看,它沉没的时间,也就这十来个小时。
向山向下降落到潜艇的旁边。