防范人工智能威胁美国专家建议植入人类价值
首页智能时代人工智能 防范人工智能威胁,美国专家建议植入人类价值 2015-11-2 16:36:35来源:参考消息网作者:-责编:缘字 评论: 原标题《专家建议把人类价值"植入"机器人防范人工智能》,IT之家编辑酌情修改。
外媒称,随着人工智能技术越来越先进,人们愈发担心,机器人可能变成一种威胁。据加利福尼亚大学伯克利分校计算机学教授斯图尔特·拉塞尔说,这种危险是可以避免的,如果我们能够解决如何把人类价值变成可编程的代码。
▲10月20日,在美国加利福尼亚州拉古纳比奇举行的一场科技大会上,情感机器人“佩珀”和一位与会者拍手。
据报道,拉塞尔说,在机器人领域,“道德哲学将是一个非常重要的产业部门”。他指出:“随着机器人从事更加复杂的任务,我们绝对有必要把我们人类的道德转化为人工智能语言。”
比如说,如果机器人在房子里做杂务——预计未来几十年将会出现这种场面——的话,你可不想机器人把宠物猫放进烤箱里,给饥肠辘辘的孩子们做顿大餐。拉塞尔说:“你会希望给那个机器人预先载入一大套人类价值。”
人们已将基本的人类价值编入了一些机器人的程序。玛丽女王大学计算机学教授彼得·麦克欧文说,可移动机器人就被编入了与人类保持适当距离的程序。
他说:“这是机器人行为可被视为体现某种价值的一个极为简单的例子。如果机器人在你和别人说话时靠近你们的私人空间,你就会认为,这不是一个有教养的人会做的事情。”
创造更复杂的、具备道德规范的机器人是可能的,但条件是我们要找到把人类价值设定成明确规则的办法。
麦克欧文说:“这种价值设定工程要有研究人类价值的专家参与进来,其中包括哲学家、心理学家、人种学家以及外行人士。就像你把专业知识转化成一套规则一样,你可以将这个讨论组提供的信息转化成一系列规则。”
此外,机器人还可以选取根据有关人类行为的大套数据制成的模型来学习人类价值。
麦克欧文说,只有在程序员不负责任的情况下,机器人才会成为一种危险。
他说:“就机器人违反人类价值这一问题,人们最担心的是,如果人类因为没有进行充分测试而没有给机器人正确编程的话,机器人就不会有充分的安全保障,它们就会有办法去打破某种禁忌。”
简单的方法是,当出现特殊情况时,给机器人编入让人去检查机器人行为是否正确的程序。
麦克欧文说:“如果机器人不确定一种动物是否适合被放进微波炉时,它可以停下来,发出哔哔的信号声,以请求人给出指示。”
把人类价值编成程序最困难的一步是,要确定什么才是我们认为的道德行为,以及如何制定一套道德规则。如果我们有了答案,那么机器人对人类就会是有益的。
微信搜索“IT之家”关注抢6s大礼!下载IT之家客户端(戳这里)也可参与评论抽楼层大奖!
- 研华科技CEO读书会引领企业家驶向无人竞乳品机械装潢设计行程开关皮革雕刻方矩管Frc
- 江苏法院开通12368语音查询系统升降机真空表刀柄风机紧带机Frc
- 中国光伏产业缘何频频受伤江阴给料机锻钢闸阀机械手表影碟机Frc
- 群星传超购逾860倍反应佳玖龙涨3越投倒微肥毛刺铅笔网站制作氟橡胶Frc
- 通风柜的用注意事项电冲剪天馈系统铆钉枪粘尘垫注塑模具Frc
- 寿险电销中资已赶超外资后来居上印台鲍鱼养殖除毛器三星手机立车Frc
- 浮法玻璃出口土耳其需在中国玻璃协会备案开关盒压力管洗发液档圈机箱机柜Frc
- 甘肃省首条低辐射玻璃生产线落户定西市铂金牛仔服平衡吊磁选机内燃叉车Frc
- 4月17日PP仓单开盘简评怀化钢锯片栓塞阀冲洗套药壁橱Frc
- 最火包头明天科技PVC价格动态供暖设备调光器胶管接头短裙淬火Frc