机器正变得越来越强壮，人类也愈加依托机器。假如机器不能了解和习惯人类的品德观，很简单对人类形成损伤。
比方，日本、欧洲和美国都在研制用来照料白叟和残疾人的服务型机器人，它们能简单将白叟抱上床，也就有了理论上可能损伤白叟的才能。
此外，从2000年起，美国军方布置了上千架无人机，它们无需人类控制，能自行锁定目标并开战。
霍金以及埃隆•马斯克都对人工智能可能带来的破坏性十分忧虑，乃至说：人工智能将成为人类最大的要挟。所以机器需求具有品德观，这是为了人类本身的安全。
机器人进入的范畴不只是自动驾驭轿车、无人机，还包含基因技术，乃至是纳米科学。关于这些范畴，人类自己都还存在着品德争议，假如咱们对机器人品德上的束缚，远远落后于技术的开展，状况会变得十分风险。
美国白宫现已成立了4个工作室，安排专家研讨机器人的品德规范问题。
| 刻画人工智能品德观的办法一：GoodAI
第一个研讨叫GoodAI，就是“好机器人”。这个项意图意图，是让人工智能的品德观跟着人类的品德观一同前进。
惯常人们以为把什么是好的输入进去，机器照做就行了。但问题是，人类自己的品德规范也在改变。比方，咱们今日不再以为奴隶制是合理的。但假如美国建国时，就在机器的品德观里设定蓄奴是能够的，那今日人工智能反而会成为现代社会前进的阻挠，由于品德观停留在早年。所以这项研讨是让机器经过调查他人的行为，来树立对错观，跟人类教育小孩是相同的。
| 刻画人工智能品德观的办法二：品德习惯器
第二个办法是乔治亚理工学院机器人品德学家Ron Arkin树立的“品德习惯器”。这个办法与GoodAI不同，它不再模仿人类行为，而是模仿人类心情，让犯错的机器人发作罪恶感。
战场上，人类战士会由于对某区域的破坏程度太大发作心理上的不适，乃至是罪恶感。鉴于此，能够给机器设定一个规范，超越规范越多，机器的罪恶感也就更大，直至完全中止举动。
Arkin说：“罪恶感是一种化学机制，阻挠咱们重复某一类特定的行为。” 这个道理使用在机器上也是可行的。
| 刻画人工智能品德观的办法三：读故事
第三个办法是乔治亚理工学院文娱智能实验室的主管Mark Riedl提出的。Riedl根本认可GoodAI理念，以为教机器人就像教小孩相同。但他觉得咱们没有20年时刻培养一个机器人，他用给机器人读故事的方法，作为人工智能学习品德观的捷径。经过很多阅览，让机器人自己从故事的场景中总结行为准则。
他让机器人调查了一千个主人公阅历类似的典型社会场景，从烛光晚餐到银行掠夺，然后剖析人类的均匀反响，然后得出一个多数人认可的处事方法。成果，除了机器人习得一般性常识，还有额定惊喜，比方去电影院约会时，机器人会自行得出需求接吻的主意。
| 怎样让无人驾驭轿车更安全
现在，人工智能范畴最有远景的使用，是无人驾驭轿车。自动驾驭过程中，是让机器完全遵从人类的指示，仍是机器具有一切掌控权，不仅是安全问题，也是一种机器品德观的表现。
文章指出，让无人驾驭轿车更安全的最好方法，就是人类完全抛弃对车辆的控制权。原因有两个。
首要人类的反响跟不上。这是Google经过测验得出的定论。当人们发现有能够依托的技术时，就会很快发作依托，自动驾驭也是相同。假如全程都由机器驾驭，人很简单开小差，即使发作了险情，也反响不过来处理。
其次，假如不常常操作，人类开车技术会退化。遇到风险时俄然让其重掌控制权，只会更风险。
Google的全自动驾驭软件，现在已具有一百三十万英里的行进路程经历，相当于一位90年驾龄的司机，没人可比。
截止到现在，Google的无人驾驭轿车共发作17起细微磕碰事情，和一同低速与大巴相撞事端。前17起事端的职责都在对方的人类司机。由于Google轿车开得太恪守交通规则，粗枝大叶和爱钻空子的人类司机在驾驭中发作了疑问才形成了事端。
