给人工智能定个“道德准则”

工人日报—中工网赵晓展

2019-04-11 07:15:03　　来源：中工网—《工人日报》

研究者希望能给人工智能加上安全装置，让它真正行稳致远

　　人工智能用于医疗出现误诊谁担责，是提供技术的公司，还是医院、或者是医生？

　　自动驾驶汽车上路发生交通事故，责任在车主还是车辆生产方？

　　并非所有人都有能力迈过技术性和社会性壁垒，未来会否出现“无用人群”？

　　……

　　人工智能浪潮方兴未艾，正带来知识生产和利用方式的深刻变革。不过，对研究者来说，还有一件更重要的事儿——人工智能的伦理道德问题。

　　当地时间4月8日，欧盟委员会发布了一份人工智能（AI）道德准则。

　　据外媒报道，该准则由2018年12月公布的人工智能道德准则草案演变而来，提出了实现“可信赖人工智能”的7个要素。

　　此前的草案为“可信赖人工智能”提出了一个官方解释：首先，它应该尊重基本权利、规章制度、核心原则及价值观，以确保“道德目的”；其次，它应该在技术上强健且可靠，因为即使有良好的意图，缺乏对技术的掌握也会造成无意的伤害。

　　欧盟负责数字经济的官员玛利亚·加布里埃尔解读了这7项要求。她认为，在人工智能使用上，“透明性”是一切的关键，同时也要“以人为本”。

　　加布里埃尔表示：“任何公司在使用人工智能技术时，其受众都应当具有知情权。人们应该知道和他们进行沟通的是算法还是真人。同时，任何由算法做出的决定，都必须由公司出面解释。”

　　欧盟出台准则的背后，是人工智能不可忽视的挑战。

　　比如，在社交媒体中，人工智能将观点相近的人相互聚拢，新闻推送也常常存在路径依赖。当人们的信息来源越来越依赖于智能机器，偏见会在这种同化和路径依赖中被强化。这时候，人工智能就可能造成偏见强化，加剧社会分化与撕裂。

　　再比如，人工智能的发展，让技术的垄断越来越严重。一方面这些技术给生活带来便利，另一方面也在某种程度上控制着人类的生活。

　　在科学家看来，人工智能和其他技术特点不一样，很多人工智能技术具有自主性，如果没有适当的防范措施，一旦失控就不堪想象。“这就像在盖房子之前要先打好地基。不能等到出现了严重的问题，再制定措施去防止。”

　　此前，研究人员一直希望以最简单的办法，确保以机器人为代表的人工智能不给人类带来任何威胁。

　　大家所熟知的最早关于机器人的伦理规定，是著名科幻作家阿西莫夫上世纪设计的防止机器人失控的“机器人三定律”：机器人不能伤害人类；它们必须服从于人类；它们必须保护自己。后来又加入了“第零定律”：机器人不得伤害人类整体，不得因不作为使人类整体受到伤害。

　　但是随着人工智能不断发展，“机器人三定律”已经远不能适应时代。

　　新的伦理原则制定也正提上各国政府的议事日程。综合看来，尽管新原则各有不同，但突出以人为本的理念始终不变。百度公司创始人李彦宏在2018年中国国际大数据产业博览会上提出了“人工智能伦理四原则”，首要原则就是安全可控。

　　显然，人工智能正帮助人类社会向充满不确定性的未来疾驰。在冲进未知之门前，需要给它装上安全装置，让它真正能行稳致远。

　　去年，中国发展研究基金会发布报告《未来基石——人工智能的社会角色与伦理》中，就建议各国政府促进数据共享技术，为人工智能培训和测试提供共享的公共数据集。在个人信息得到保护的前提下，促进数据的自由流通；并加强国际合作，建立多层次的国际人工智能治理机制。

　　欧盟委员会也表示，提出人工智能道德准则只是第一步，未来他们还将邀请工业界、研究机构和政府机构对该准则进行测试和补充，最终制定以人为本的人工智能共识。

编辑：张苇柠

漫画评论

供奉“宅神”
贪占公款肥私田
扫码发帖诉愁肠
近视可治愈？这事不能信

中工时评

中工时评：读懂顾雏军案再审判决的法治意义
今天，最高法院对顾雏军等人虚报注册资本，违规披露、不披露重要信息，挪用资金再审一案进行公开宣判。其中判决撤销原判对顾雏军犯虚报注册资本罪，违规披露、不披露重要信息罪的定罪量刑部分和挪用资金罪的量刑部分，对顾雏军犯挪用资金罪改判有期徒刑五年。
中工时评：勿忘历史、奋发图强，是对先烈最好的祭奠
清明来临，全国各地都开展了烈士陵园祭扫活动，各地中小学也纷纷以祭扫先烈为形式，开展爱国主义教育活动。
中工时评：救护车“路过不施救”，不只是误会
一段“老人骑车摔倒，救护车路过不施救”的视频在网上传播，引起广泛关注。
中工时评：“通俄”调查结束，特朗普能否“高枕无忧”
美国特别检察官米勒主持的“通俄”调查日前结束，美国总统特朗普未被证明“通俄”。对于特朗普来说，长期笼罩在头上的“一片阴云”得以散去，但他与民主党人的斗争远未结束

人物

应记住单霁翔的不只是“金句”
这几年，故宫博物院院长单霁翔成为了著名网红，他的很多金句在网上广为流传，被誉为“隐藏的段子手”。单霁翔厉害之处在于提到单霁翔，很多人都会想到他的金句。确实，单霁翔有着很好的口才，他的很多讲话深得网友喜欢。比如，刚刚上任时
激发向前一步的众力
2月20日，南京邮政六合区分公司雄州投递部收到一封信件，寄往“六合县马镇区沟石村”，收件人为“王慰华烈士”（实为王殿华）,并备注“该烈士（20岁）于1947年12月牺牲于菏泽战役
赵立新言论暴露了一种危险的历史观
4月2日，演员赵立新发问“日本人为何没烧故宫”，引发巨大争议。此外，赵立新还在微博发表了疑似美化日军侵华的言论祸从口出的赵立新，尽管深夜发文意图灭火，怎奈舆论怨愤滔天，说出去的话算是再也收不回来了。按照赵立新自己的解释
因为普通所以伟大
牺牲的中队长张浩在任务途中发的朋友圈他们都不是钢铁侠、蜘蛛侠或超人，虽然我们多么希望他们是超人。我们明知他们就是普通人，普通到跟我们一样有害怕、恐惧和对生的无限渴望。3月30日18时许，四川省凉山州木里县雅砻江镇立尔村地区发生森林火灾。3月31日下午，扑火人员在转场途中，受瞬间风力突变影响，遭遇山火爆燃，包括27名森林消防队员和3名地方干部群众共30人不幸牺牲。

一周看点

排行

新闻日历

国际随笔

给人工智能定个“道德准则”

漫画评论

供奉“宅神”

贪占公款肥私田

扫码发帖诉愁肠

近视可治愈？这事不能信

中工时评

中工时评：读懂顾雏军案再审判决的法治意义

中工时评：勿忘历史、奋发图强，是对先烈最好的祭奠

中工时评：救护车“路过不施救”，不只是误会

中工时评：“通俄”调查结束，特朗普能否“高枕无忧”

人物

应记住单霁翔的不只是“金句”

激发向前一步的众力

赵立新言论暴露了一种危险的历史观

因为普通所以伟大

一周看点

别等英雄离去，才开始刷屏

西藏民主改革，是历史必然

禁止销售辣条并非万全之策

月薪过万，小龙虾专业该点赞

排行