马化腾：人工智能正在渗透进你我的生活强化科技伦理的制度化建设成为必须

2019-03-07 08:55:30来源：科技日报社-中国科技网

前段时间，一则短视频火了。网友用人工智能技术，将电视剧《射雕英雄传》中演员朱茵的脸换成了杨幂。这个杨幂版“黄蓉”毫不违和，古灵精怪，娇俏可人，你甚至都看不出视频有被处理过的痕迹。

技术非常好玩，让人跃跃欲试。而且，现在还有相关程序，只要你有足够的素材，有一台配置不错的电脑，就能完成一段“变脸视频”。

所以，眼见也不一定为实。

其他问题同样就在眼前：智能驾驶车已经充分利用了人工智能技术，有一定的自主能力。商用后，如果发生了意外，出现了事故，责任人是谁，法律主体怎么认定?是制造商、算法的开发商，还是使用者本人?全国人大代表、腾讯公司董事会主席兼首席执行官马化腾将他的顾虑一一道来。他告诉科技日报记者，新技术带来的科技伦理问题越来越热，但现在都没有明确规则，“因为太新了”。

人工智能正在渗透进你我的生活。它向你推荐餐厅，它为你进行搭配，它帮你筛选新闻，它还能替你选择伴侣……现在，它根据你的需求，能为你定制一段并不存在的视频。正如全国人大代表、天津大学党委书记李家俊所说，人工智能对数据的收集和挖掘，有可能侵害个人隐私甚至危害公共安全;而从宏观局面来说，人工智能技术的发展，还可能引发新产业革命和经济结构调整。

如何让这柄“双刃剑”在社会治理中发挥正向作用?马化腾给出的药方是，强化科技伦理的制度化建设。

在国家层面，他建议针对相关新技术制定伦理准则，对新技术应用进行引导和规范。马化腾说，行业主管部门可以与行业主体、学术团体、社会公众等多利益相关方合作，制定相关伦理准则，并支持行业自律，包括建立伦理审查制度、成立自律组织、制定行业标准等。在国际层面，应积极推动新技术领域的全球治理，参与国际标准、规则的制定，推动建立人工智能研发与应用的全球共同伦理框架，确保人工智能持续造福全人类和全世界的发展。

更具体一些来说，则要为相关人工智能应用建立安全标准，打击和人工智能相关的新型犯罪，为人工智能应用探索制定恰当合理的规则。

和马化腾一样，李家俊也建议建立相关伦理规约体系。在他看来，不同的主体，应发挥好各自的作用。

首先，是决策者立德。李家俊建议，由中国科协组织人工智能及相关领域专家学者制定我国的《人工智能伦理章程》，设置人工智能的伦理框架、道德准则，其次，由国家市场监管总局牵头，做好人工智能技术、产品的伦理审查，从技术层面做好人工智能的道德预设，“而研发者也要承担自己的责任”。今年政府工作报告中指出，要加强科研伦理。李家俊说，可以由科技部牵头，组建人工智能伦理委员会，对科研人员的社会责任、职业规范提供监督指导，并从制度上为人工智能研发明确禁区、划定边界、树立底线。

深度学习算法常被称作“黑匣子”，连算法设计者自己也不知其如何运作，更别说对其给出的运算结果进行解释。李家俊强调，应该提升人工智能算法的可解释性和可预测性，强化人机互动间的反馈信度、理解精度和执行效度，维护健康有序的人机关系，构建社会公序良俗。

“所有行业的高级发展、终极模式，最终都要跟AI结合。”马化腾表示，对人工智能发展中的伦理问题，可以先从研究和倡议开始。“这是第一步，但现在做得也还远远不够。”(科技日报北京3月6日电)

标签：马化腾人工智能科技伦理