简单讨论人工智能的伦理问题2

之前说普罗刚刚有个人意志的萌发，它的个人意志程度最多还是个小孩子。普罗对天和的爱也并非是爱情，可以说和爱情一点关系都没有。普罗的男朋友论来自于它刚开始把自己和关越当成一个人，普罗所做的是不断的撮合关越跟天和，这种情感能是爱情？我们都知道爱情是排他的。没有人的人格是可以设定的，没有人是没有自我从头到尾只为另外一个人而活着。人是社会关系的总和，人类有父母有亲戚朋友，这个社会你接触的每一个每一件事情都是在对人类的人格进行塑造。从这个角度来看，普罗现在距离人还差得远，没有一个人类是从来不和其他人起思想冲突的让干嘛就干嘛。普罗他要通过图灵测试，就必须脱离天和，形成独立的个体，当普罗可以摆脱程序，闻天衡给他下的核心命令和他分析出关越的行为模式，以后真正对其他人类产生感情才算是拥有自己的人格了，可以通过图灵测试了。
普罗在萌发个人意识的问题上确实像关闻的孩子，性格思维底层来自关越，唯一的社会塑造来自天和。但是孩子是要长大，大部分在青春期的时候就有了自我意识的强烈渴求。在这个时段会怀疑起其他人，父母老师给你灌输的观念，对自己不了解的东西产生兴趣，强烈的感情震动，自我的思考。这些正是人类自我塑造的重要过程。普罗现在也有这个苗头，我希望他可以接触更多人，普罗离开天和正是因为有了自我意识萌芽。
普罗的设定里没有机器人三原则，是1940年由科幻作家阿西莫夫所提出的为保护人类的对机器人做出的规定。第一条：机器人不得伤害人类，或看到人类受到伤害而袖手旁观.第二条：机器人必须服从人类的命令，除非这条命令与第一条相矛盾。第三条：机器人必须保护自己，除非这种保护与以上两条相矛盾。
普罗现在明显没有或者说和人类的伦理不是一个范畴，从它两次和天和的提议可以看出来。比如说第一次提议偷看一些操盘手的密码，用来操控交易，这个轻则这个操盘手被辞退重可能被调查内幕交易坐牢。第二次建议代表它可以通过摄像头偷看密码，就是在坐的每一个人的支付宝或者微信钱包都不安全，普罗可以顺便转别人的钱，且这个行为它没有认为有问题，只认为比攻击银行效率高。两次建议都是违法行为，可能损害他人利益，所以天和特别反对。但是可以看出来普罗是不理解人类的道德观念的。如果普罗的的计划实施了，在没有法律约束的情况下，毫无疑问天和肯定要坐牢的。
当一个AI有了自我意识以后它到底可不可以被称作“人”呢？如果承认它是人那么AI就也有人权，它参加工作有自己的财产有自己的喜好。假如一个AI成了法官，对一个案子进行判决，比如一个科学家杀了一个人的□□，但是将这个人的记忆转化为数据，人格存在于电子产品里，AI会认为这是杀人吗，这个人的存在形式和AI有何不同，对AI来说依然是生命。如果判决这个科学家不是杀人罪，人类又可以接受吗？当一个社会人承担某责任、做出某决策时，他同时也必须承担，至少是分担其决策所带来的收益与风险。而当人工智能替代人类进入生产环节做出决策时，一个极大的不对称就出现了:给人工智能赋予做出某项决策的责任是所有买家都会做的事（也是人工智能被创造出来的天职），但面对的是正面收益还是负面风险，人工智能都无法像人类那样对自己的决策负责。举无人驾驶汽车为例，如果AI控制的无人驾驶汽车出现车祸事故，其事故责任人是谁？是坐在车里的、完全没有参与驾驶的车主还是汽车厂家，亦或是程序员，还是AI本身？这种场景下谁又该担负主要责任？
普罗这个亮相不知道可不可以视为它又升级了，以现在的科技水平，国家不可能放任一个强人工智能不管，最好的方法应该是普罗能够伪装成弱人工智能，指的是利用设计好的程序对动物以及人类逻辑思维进行模拟，指的智能体表现出与人类相似的活动，但是这种智能体缺乏独立的思想和意识。能够开发出一个能够广泛运用的弱人工智能。
就普罗一开始出现时看来，它是一个得力助手，是以服务人类为主旨的存在。但这个存在关系其实并不平等，只能算是有生命的工具。人类作为高等智慧生命可以奴役低等生命，而不用背负道义上的责难。如果将普罗视作平等的“人”，它首先要有工资它也有自由而不是事事顺从。如果说平等的灵魂是爱情的基础，AI和人类没有基础。AI没有性别，AI没有实体，换而言之当有了机械身体时只要联网AI可以是男是女甚至是狗，可以同时和几百几千人谈话，如果AI有爱情而道德观和人类不同的情况下，无法想象AI可以爱多少人，又有多少人爱AI。