简单讨论一下人工智能问题

中秋快乐，微博有普罗相关中秋番外大家可以去看！简单讨论一下人工智能问题
普罗的存在就有一点伦理问题，但是关总本人已经略过，就不讨论了。先讨论一下普罗有没有自我人格的问题。
我的个人想法是普罗刚刚有个人意志的萌发，它的个人意志程度最多还是个小孩子。普罗对天和的爱也并非是爱情，可以说和爱情一点关系都没有。普罗的男朋友论来自于它刚开始把自己和关越当成一个人，普罗所做的是不断的撮合关越跟天和，这种情感能是爱情？我们都知道爱情是排他的，他的陪伴和守护是大哥的指令，他爱天和是来自于学习关越。甚至学关越叫天和宝宝。普罗自己也清楚这一点，我没有人类的形体，就连我的灵魂，也只是关越的拷贝。我唯一的希望，就是将关越视作另外一个我，毕竟我一直以来只是他的一部分。
实际我觉得这个模仿行为有一点像小孩子刚刚开始学说话，当然AI本身完善知识是非常快的，所以这里是模仿感情，一个幼儿叫爸爸妈妈肯定不是明白这个称谓代表的含义，而是单纯的模仿且累积。没有人的人格是可以设定的，没有人是没有自我从头到尾只为另外一个人而活着。人是社会关系的总和，人类有父母有亲戚朋友，这个社会你接触的每一个每一件事情都是在对人类的人格进行塑造。从这个角度来看，普罗现在距离人还差得远，没有一个人类是从来不和其他人起思想冲突的让干嘛就干嘛。普罗他要通过图灵测试，就必须脱离天和，形成独立的个体，当普罗可以摆脱程序，闻天衡给他下的核心命令和他分析出关越的行为模式，以后真正对其他人类产生感情才算是拥有自己的人格了，可以通过图灵测试了。
普罗在萌发个人意识的问题上确实像关闻的孩子，性格思维底层来自关越，唯一的社会塑造来自天和。但是孩子是要长大，大部分在青春期的时候就有了自我意识的强烈渴求。在这个时段会怀疑起其他人，父母老师给你灌输的观念，对自己不了解的东西产生兴趣，强烈的感情震动，自我的思考。这些正是人类自我塑造的重要过程。普罗现在也有这个苗头，我希望他可以接触更多人，普罗离开天和正是因为有了自我意识萌芽，对人类有更多认识有助于它形成一定的伦理观念。
普罗现在明显没有或者说和人类的伦理不是一个范畴，从它两次和天和的提议可以看出来。比如说第一次提议偷看一些操盘手的密码，用来操控交易，这个轻则这个操盘手被辞退重可能被调查内幕交易坐牢。两次建议都是违法行为，可能损害他人，所以天和特别反对。但是可以看出来普罗是不理解人类的道德观念的。
当一个AI有了自我意识以后它到底可不可以被称作“人”呢？如果承认它是人那么AI就也有人权，它参加工作有自己的财产有自己的喜好。假如一个AI成了法官，对一个案子进行判决，比如一个科学家杀了一个人的□□，但是将这个人的记忆转化为数据，人格存在于电子产品里，AI会认为这是杀人吗，这个人的存在形式和AI有何不同，对AI来说依然是生命。如果判决这个科学家不是杀人罪，人类又可以接受吗？当一个社会人承担某责任、做出某决策时，他同时也必须承担，至少是分担其决策所带来的收益与风险。而当人工智能替代人类进入生产环节做出决策时，一个极大的不对称就出现了:给人工智能赋予做出某项决策的责任是所有买家都会做的事（也是人工智能被创造出来的天职），但面对的是正面收益还是负面风险，人工智能都无法像人类那样对自己的决策负责。举无人驾驶汽车为例，如果AI控制的无人驾驶汽车出现车祸事故，其事故责任人是谁？是坐在车里的、完全没有参与驾驶的车主还是汽车厂家，亦或是程序员，还是AI本身？这种场景下谁又该担负主要责任？
说乱七八糟希望有人可以讨论一下。
||不鸣则已，一鸣惊人，地雷就是我对你深深的热爱||日更日更不是梦，手榴弹来一发！||瞄准！发射地雷！作者大大接住我对你深沉的爱！