(女生文学 ) 沈一一面对着自己父亲的激将,自信满满的她当然是毫无担心。因为她自己认为,自己的这个对于机枪的自动化创意,已经属于未来武器的范畴了。严格来说,甚至可以说,这就是另一种形式的作战机器人。
一件武器,能够自动寻找目标,自动进行判断,然后还自动对目标进行杀伤,全过程都已经不需要人类的干预。能够具备初级智能通过自主判断完成交付的任务或是工作。这不就是机器人的定义吗?当然,这里的工作就是杀戮。
技术宅的沈一一,真正担心的不是这件武器,在未来的试验场上是否可靠。她真正担心的是伦理学上的问题,即这样的武器能否被允许研发。
其实从计算机被发明的那一天起,人类的智者就已经深谋远虑,当然也可以说是杞人忧天地考虑一个问题,即计算机哪一天强大到了能够挑战人类了,那该怎么办。也正是从那一刻开始,著名的阿西莫夫三原则成为了对计算机进行伦理学探讨的重要尺度。这当中最重要的一条就是,计算机永远不能伤害人类。
问题在于,沈一一这一次主导的这个研究,最终的目标不止是伤害人类,甚至是消灭人类。虽然沈一一可以辩解,这消灭的对象是敌人,而不是我们自己的人,但是敌人也是人类。这就是伦理学上最大的争议。沈一一并不希望后世的人回想起今天她与自己父亲的谈话时,把两人的对话当成是开启机器人对人类的灭绝战争的末世之匙。所以,在今天回家和自己的父亲进行商量之前,她已经对于最初自己的设计构想进行了很大的改变。
第五百三十二章 口角(1/7)