笔趣阁 www.biquge3.cc,超科技狂潮无错无删减全文免费阅读!
西娅进入测试阶段,人们发现,设置这一条核心原则,对安西娅的思考效率造成了极大拖累。而且每一个决策都要先做这么一个判断,也是毫无意义的。
比如调整公交车线路,要说跟人命无关,大数据会告诉你,其实是有关的,但这又不是公交车线路应该承担,并且也能解决的问题,而是跟城市规划、人的安全意识等等各方面问题都能挂上钩。
要安西娅贯彻这条原则,那么每一部清洁机器人的行动路线,它都得纳入到管理中,因为理论上存在着熊孩子乱跑一头撞上机器人的概率,在目前来说,做到这点显然是不现实的。
换个角度看,要给安西娅设置类似于“机器人三定律”之类的法则,就相当于将人类对自己行为所承担的责任转交给安西娅,但人类自身行为却不是安西娅所能控制的。
研发团队由此推导出了一个可怕的结论,如果要坚持“机器人三定律”,那么机器人就应该深入到每个人的思维里,去控制管理人的所有行为。
研发团队接着发现,给安西娅设置这种法则也是多余的,因为安西娅跟所有EI一样,都遵从“授权行动”原理。许可它做什么,它才会做什么,许可之外的事项,在它的核心意志里就等同于禁止。
最重要的是,安西娅只相当于一个大脑,它能做什么,能做到什么程度,全依赖扩展的功能。
比如安西娅管理机器人警察,机器人警察本身已经被设置为禁止装载实弹武器,搭载的电击、微波、绳网等非致命性武器也进行了严格限定,当安西娅接管机器人警察的时候,只要让它加载“确保当事人和周围人类的安全”之类的指令,就能解决问题。
当然,这不意味着安西娅没有主动性,它会根据之前的管理行为,结合现状提出意见,并且能发现不同领域内的关联,指出其中的问题。在获得许可后,才进行下一步的思考。
因此,在进行市政方面的决策思考时,给安西娅加入“衡量人类安全”之类的指令,就能确保它的倾向。
再举个例子,某片区域的空气污染出现异常,安西娅会结合空气状况,寻找和分析相关的科学报告,再提出建议。
总结而言,安西娅已经可以依靠理性判断,以及各方面的扩展功能服务城市,解决城市的市政管理问题。但人类将所有问题都丢给GEI,甚至包括责任也丢出去,这依旧是幻想。
人类还必须在决策层面为自己负责,安西娅所做的,就是评估这些决策的利害,完善这些决策,然后去执行。在执行的各个层面,人类也必须承担起自己的责任,确保安西娅的执行过程是有效和安全的。
资料影像里,研发团队认为,即便出现强人工智能,在市政管理上的表现,也只是比安西娅做得更细致,对决策理解得更到位,建议和意见更人性化。
人类不必担忧被它统治,因为它的“生命意义”是服务城市,造福人类。“统治人类”之类的事情,不过是人类自身的妄想和恐惧。有授权才行动,是强人工智能也要遵循的法则。跟弱人工智能相比,不过是授权范围更宽,行动更灵活而已,不需要每个细节都去检验和矫正。
人类也不能幻想它成了无所不能的神明,如果人类把决策都交给它,那就是人类自己的责任,而且,按照权限机制,强人工智能的行为随时可以通过程序终止。当然,如果人类疯狂到把权限机制都丢掉,让强人工智能为所欲为,那就跟打开核武器保险一样,纯粹是自作自受了。
安西娅管理安齐拉纳纳的介绍到此为止,不仅UNOC的诸位代表,一般观众也对GEI在城市管理的表现,乃至管理更多公众事务的情况有了初步了解,并且产生了莫大的期待。
公正、公平、科学、高效、廉洁,这样的公务员,老百姓都喜欢。
至于各国政府,看华夏代表那种快能拧出水来的脸,就知道有多纠结了。
科学、高效,政府当然喜欢,不过前面的公正和公平,后面的廉洁,不是不喜欢,而是大-麻烦。这意味着过往沉淀下来的利益格局,要被全面推翻。
更不用提,要确保GEI在公众事务的管理上发挥作用,决策机制不仅需要“程序正义”,还需要“从群众中来,到群众中去”。因为每一项决策,在GEI的推动下,见效都会很快。决策层是不是为民服务,是不是称职,很难糊弄得过去。如果没有权责清晰的政治结构,决策层的责任也很难丢出去。
更可怕的是,如果人类依旧生而平等,现行政治体制只要交代得过去,人们也没有改革的动力。但昨天的纪录片《第四进化》揭示了人类已经走向生而不平等,在这种变革之潮中,人们自然期待更强力也更先进的政治体制来稳定社会,让GEI来管理是一个必然的方向。
在GEI面前,人类又可以平等了。
安西娅之后,纪录片又开始介绍科研方面的GEI,以及商业方面的BEI。不仅华夏和美国用于统计分析经济状况的“管仲”和“亚当斯”亮了相,还有上百家科研机构和商业企业的EI都以拟人化的虚拟形象出现。
它们所展示的能力,让代表们再一次回味这两三年里,科技和经济的腾飞是怎么来的,观众们也终于明白,EI早已经深入到生活的方方面面。
在这之后,PEI终于登场。纪录片回顾了从最初的普罗米修斯,到第一代火种,再到现在最新的第三代火种,从教育、医疗、娱乐和生活服务,方方面面展示了PEI给人类带来的便利,甚至对个人的进化。
镜头转到安塔尼亚,这里的小学生们,通过PEI和教育GEI的结合,仅仅小学五年级就开始接触高中的知识,而且并不显得有多吃力。因为知识性的信息,通过PEI随手可得,学生们的学习重点全放在了思维、逻辑以及文化感悟等层面上。
看着十岁出头的小学生,就能依靠初见雏形的方法论,自己开展一些大学生才会结出的课题研究,不管是UNOC的代表,还是抬头看天幕的路人观众,都生出一种“恨不能晚生十年/二十年”的感慨。
镜头再度转移,字幕提示是虚拟场景,但内容却是很多人都知道的。之前被星联抓捕的日本科学家团队,企图破解PEI的意志映射机制,以便通过病毒之类的途径,修改PEI的核心意志。
虚拟场景在展示PEI被破解和控制的后果,映射在PEI上的个人喜好被篡改却不自知,在网络上大肆购物。学生的信息库被定向锁定在特定内容上,课堂上,日本小学生齐声念着“皇国兴废,在此一举”。罪犯通过PEI的破解,挪用他人的网络账号乃至银行账户。某人垂涎美女,通过PEI扭曲美女的心理,最终抱得美人归。
“PEI延伸了自我,给人带来十倍的便利,一旦被他人掌握,带来的是百倍危害”,展示了种种危害后,影像里打出这样一行大字。
接着展示的是星联在PEI上的防范措施,除了核心架构之外,还展示了下一代PEI,依附于人类神经元,与人体直接绑定的新技术,让PEI的破解在技术上更难做到,而且这样的尝试,也等同于侵害人体。
再一行大字打出,让正沉浸于自身安全的观众悚然。
“这只是PEI,如果GEI也被侵害呢?”
想想看,如果安西娅那种管理着一座城市的GEI被破解和控制了,那会是什么情形?
根本是一场噩梦吧……
纪录片末尾,星联战斗机的导弹直射日本战斗机,星联特勤突击日本东京警视厅,抓走三个企图破解PEI的日本科学家。
“星联的使命,守护EI三定律,守护人类个体,以及人类社会的灵魂。”
纪录片末尾,打出了这样一行字幕。
UNOC的会场里,沉默持续了好几分钟,才听到理事长艰涩的话语:“这么说,星联是准备扮演技术的监管者,全面监察各个国家了吗?”
这绝对是一场决战啊!
在场各国代表都在想,星联有民意,有技术,有实力,而他们有什么?只有利益集团为捍卫利益的咆哮吧……
“星联也知道,马上实现这样的目标,是一场全球范围的社会革命,新旧秩序交替,引发的混乱不仅会伤害到很多人,而且会影响星门里的局势。”
星聆这话出口,众人都长出了一口气,还好,你们星联也是有自知之明的,除非想变成地球联邦,否则不敢掀起这场怒潮。
“所以星联推出了《EI技术条约》,也就是《灵魂宪章》”,星聆说到的名词,让代表们回想起昨天的情形。
理事长问:“这个《灵魂宪章》,到底是说什么?”
“说的就是星联的定位,星联的目标,还有星联跟人类的关系。”(未完待续。)
西娅进入测试阶段,人们发现,设置这一条核心原则,对安西娅的思考效率造成了极大拖累。而且每一个决策都要先做这么一个判断,也是毫无意义的。
比如调整公交车线路,要说跟人命无关,大数据会告诉你,其实是有关的,但这又不是公交车线路应该承担,并且也能解决的问题,而是跟城市规划、人的安全意识等等各方面问题都能挂上钩。
要安西娅贯彻这条原则,那么每一部清洁机器人的行动路线,它都得纳入到管理中,因为理论上存在着熊孩子乱跑一头撞上机器人的概率,在目前来说,做到这点显然是不现实的。
换个角度看,要给安西娅设置类似于“机器人三定律”之类的法则,就相当于将人类对自己行为所承担的责任转交给安西娅,但人类自身行为却不是安西娅所能控制的。
研发团队由此推导出了一个可怕的结论,如果要坚持“机器人三定律”,那么机器人就应该深入到每个人的思维里,去控制管理人的所有行为。
研发团队接着发现,给安西娅设置这种法则也是多余的,因为安西娅跟所有EI一样,都遵从“授权行动”原理。许可它做什么,它才会做什么,许可之外的事项,在它的核心意志里就等同于禁止。
最重要的是,安西娅只相当于一个大脑,它能做什么,能做到什么程度,全依赖扩展的功能。
比如安西娅管理机器人警察,机器人警察本身已经被设置为禁止装载实弹武器,搭载的电击、微波、绳网等非致命性武器也进行了严格限定,当安西娅接管机器人警察的时候,只要让它加载“确保当事人和周围人类的安全”之类的指令,就能解决问题。
当然,这不意味着安西娅没有主动性,它会根据之前的管理行为,结合现状提出意见,并且能发现不同领域内的关联,指出其中的问题。在获得许可后,才进行下一步的思考。
因此,在进行市政方面的决策思考时,给安西娅加入“衡量人类安全”之类的指令,就能确保它的倾向。
再举个例子,某片区域的空气污染出现异常,安西娅会结合空气状况,寻找和分析相关的科学报告,再提出建议。
总结而言,安西娅已经可以依靠理性判断,以及各方面的扩展功能服务城市,解决城市的市政管理问题。但人类将所有问题都丢给GEI,甚至包括责任也丢出去,这依旧是幻想。
人类还必须在决策层面为自己负责,安西娅所做的,就是评估这些决策的利害,完善这些决策,然后去执行。在执行的各个层面,人类也必须承担起自己的责任,确保安西娅的执行过程是有效和安全的。
资料影像里,研发团队认为,即便出现强人工智能,在市政管理上的表现,也只是比安西娅做得更细致,对决策理解得更到位,建议和意见更人性化。
人类不必担忧被它统治,因为它的“生命意义”是服务城市,造福人类。“统治人类”之类的事情,不过是人类自身的妄想和恐惧。有授权才行动,是强人工智能也要遵循的法则。跟弱人工智能相比,不过是授权范围更宽,行动更灵活而已,不需要每个细节都去检验和矫正。
人类也不能幻想它成了无所不能的神明,如果人类把决策都交给它,那就是人类自己的责任,而且,按照权限机制,强人工智能的行为随时可以通过程序终止。当然,如果人类疯狂到把权限机制都丢掉,让强人工智能为所欲为,那就跟打开核武器保险一样,纯粹是自作自受了。
安西娅管理安齐拉纳纳的介绍到此为止,不仅UNOC的诸位代表,一般观众也对GEI在城市管理的表现,乃至管理更多公众事务的情况有了初步了解,并且产生了莫大的期待。
公正、公平、科学、高效、廉洁,这样的公务员,老百姓都喜欢。
至于各国政府,看华夏代表那种快能拧出水来的脸,就知道有多纠结了。
科学、高效,政府当然喜欢,不过前面的公正和公平,后面的廉洁,不是不喜欢,而是大-麻烦。这意味着过往沉淀下来的利益格局,要被全面推翻。
更不用提,要确保GEI在公众事务的管理上发挥作用,决策机制不仅需要“程序正义”,还需要“从群众中来,到群众中去”。因为每一项决策,在GEI的推动下,见效都会很快。决策层是不是为民服务,是不是称职,很难糊弄得过去。如果没有权责清晰的政治结构,决策层的责任也很难丢出去。
更可怕的是,如果人类依旧生而平等,现行政治体制只要交代得过去,人们也没有改革的动力。但昨天的纪录片《第四进化》揭示了人类已经走向生而不平等,在这种变革之潮中,人们自然期待更强力也更先进的政治体制来稳定社会,让GEI来管理是一个必然的方向。
在GEI面前,人类又可以平等了。
安西娅之后,纪录片又开始介绍科研方面的GEI,以及商业方面的BEI。不仅华夏和美国用于统计分析经济状况的“管仲”和“亚当斯”亮了相,还有上百家科研机构和商业企业的EI都以拟人化的虚拟形象出现。
它们所展示的能力,让代表们再一次回味这两三年里,科技和经济的腾飞是怎么来的,观众们也终于明白,EI早已经深入到生活的方方面面。
在这之后,PEI终于登场。纪录片回顾了从最初的普罗米修斯,到第一代火种,再到现在最新的第三代火种,从教育、医疗、娱乐和生活服务,方方面面展示了PEI给人类带来的便利,甚至对个人的进化。
镜头转到安塔尼亚,这里的小学生们,通过PEI和教育GEI的结合,仅仅小学五年级就开始接触高中的知识,而且并不显得有多吃力。因为知识性的信息,通过PEI随手可得,学生们的学习重点全放在了思维、逻辑以及文化感悟等层面上。
看着十岁出头的小学生,就能依靠初见雏形的方法论,自己开展一些大学生才会结出的课题研究,不管是UNOC的代表,还是抬头看天幕的路人观众,都生出一种“恨不能晚生十年/二十年”的感慨。
镜头再度转移,字幕提示是虚拟场景,但内容却是很多人都知道的。之前被星联抓捕的日本科学家团队,企图破解PEI的意志映射机制,以便通过病毒之类的途径,修改PEI的核心意志。
虚拟场景在展示PEI被破解和控制的后果,映射在PEI上的个人喜好被篡改却不自知,在网络上大肆购物。学生的信息库被定向锁定在特定内容上,课堂上,日本小学生齐声念着“皇国兴废,在此一举”。罪犯通过PEI的破解,挪用他人的网络账号乃至银行账户。某人垂涎美女,通过PEI扭曲美女的心理,最终抱得美人归。
“PEI延伸了自我,给人带来十倍的便利,一旦被他人掌握,带来的是百倍危害”,展示了种种危害后,影像里打出这样一行大字。
接着展示的是星联在PEI上的防范措施,除了核心架构之外,还展示了下一代PEI,依附于人类神经元,与人体直接绑定的新技术,让PEI的破解在技术上更难做到,而且这样的尝试,也等同于侵害人体。
再一行大字打出,让正沉浸于自身安全的观众悚然。
“这只是PEI,如果GEI也被侵害呢?”
想想看,如果安西娅那种管理着一座城市的GEI被破解和控制了,那会是什么情形?
根本是一场噩梦吧……
纪录片末尾,星联战斗机的导弹直射日本战斗机,星联特勤突击日本东京警视厅,抓走三个企图破解PEI的日本科学家。
“星联的使命,守护EI三定律,守护人类个体,以及人类社会的灵魂。”
纪录片末尾,打出了这样一行字幕。
UNOC的会场里,沉默持续了好几分钟,才听到理事长艰涩的话语:“这么说,星联是准备扮演技术的监管者,全面监察各个国家了吗?”
这绝对是一场决战啊!
在场各国代表都在想,星联有民意,有技术,有实力,而他们有什么?只有利益集团为捍卫利益的咆哮吧……
“星联也知道,马上实现这样的目标,是一场全球范围的社会革命,新旧秩序交替,引发的混乱不仅会伤害到很多人,而且会影响星门里的局势。”
星聆这话出口,众人都长出了一口气,还好,你们星联也是有自知之明的,除非想变成地球联邦,否则不敢掀起这场怒潮。
“所以星联推出了《EI技术条约》,也就是《灵魂宪章》”,星聆说到的名词,让代表们回想起昨天的情形。
理事长问:“这个《灵魂宪章》,到底是说什么?”
“说的就是星联的定位,星联的目标,还有星联跟人类的关系。”(未完待续。)