0223 决战，EI之路 (第6/9页)
搭载的电击、微波、绳网等非致命性武器也进行了严格限定，当安西娅接管机器人警察的时候，只要让它加载“确保当事人和周围人类的安全”之类的指令，就能解决问题。
当然，这不意味着安西娅没有主动性，它会根据之前的管理行为，结合现状提出意见，并且能发现不同领域内的关联，指出其中的问题。在获得许可后，才进行下一步的思考。
因此，在进行市政方面的决策思考时，给安西娅加入“衡量人类安全”之类的指令，就能确保它的倾向。
再举个例子，某片区域的空气污染出现异常，安西娅会结合空气状况，寻找和分析相关的科学报告，再提出建议。
总结而言，安西娅已经可以依靠理性判断，以及各方面的扩展功能服务城市，解决城市的市政管理问题。但人类将所有问题都丢给gei，甚至包括责任也丢出去，这依旧是幻想。
人类还必须在决策层面为自己负责，安西娅所做的，就是评估这些决策的利害，完善这些决策，然后去执行。在执行的各个层面，人类也必须承担起自己的责任，确保安西娅的执行过程是有效和安全的。
资料影像里，研发团队认为，即便出现强人工智能，在市政管理上的表现，也只是比安西娅做得更细致，对决策理解得更到位，建议和意见更人性化。
人类不必担忧被它统治，因为它的“生命意义”是服务城市，造福人类。“统治人类”之类的事情，不过是人类自身的妄想和恐惧。有授权才行动，是强人工智能也要遵循的法则。跟弱人工智能相比，不过是授权范围更宽，行动更灵活而已，不需要每个细节都去检验和矫正。
人类也不能幻想它成了无所不能的神明，如果人类把决策都交给它，那就是人类自己的责任，而且，按照权限机制，强人工智能的行为随时可以通过程序终止。当然，如果人类疯狂到把权限机制都丢掉，让强人工智能为所欲为，那就跟打开核武器保险一样，纯粹是自作自受了。
安西
-->>(第6/9页)（本章未完，请点击下一页继续阅读）