Top
首页 > 正文

做“负责任”的AI

曾毅表示,《治理原则》有些准则、原则的提出主要是以本国、本组织的视角为核心,同时,此次我国发布的《治理原则》特别强调国际协作,共护人工智能的未来,强调共建人类命运共同体,这是中国人工智能发展对世界做出的倡议和承诺。
发布时间:2019-06-24 09:12        来源:中国电子报        作者:李佳师

人们常说,一个孩子的能力培养很重要,而品德秉性教育同样重要,因为如果人品有问题可能在未来会做出危害社会的事,而且往往能力越大危害也越大。所以基于这个道理,我们就能很好理解为什么发展新一代人工智能(AI)产业,需要关注“负责任”这个维度。当我们推动AI,希望机器具备人一样的能力时,不可以忽略责任、忽略治理,不可以向社会输出一系列的“害群之马”。

6月17日,国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》(以下简称《治理原则》)。《治理原则》提出了人工智能治理的框架和行动指南,突出了发展负责任的人工智能这一主题,强调了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条原则。中国是推动全球人工智能产业发展的重要力量,《治理原则》为中国人工智能发展提供了“行为准则”,也为全球发展AI提出了负责任的倡议和合作建议。

“技术不会改变我们是谁,而会放大我们是谁,我们的善和恶都会被放大。人们制造问题的潜能也是无限的,如果我们对于生活中的信息和隐私被泄露、收集整合并且贩卖这件事习以为常,那么我们失去的将不仅仅是数据,而是作为人的自由。如果你建立了一家混乱的工厂,那么你就无法逃避对混乱的责任。”苹果公司CEO库克在斯坦福大学2019届毕业生毕业典礼上的一番话颇有道理。事实上,责任越大,我们越有可能创造出能够给人类社会、经济发展带来巨大益处的技术和产品。

《治理原则》强调推动和发展公平公正的AI。或许很多人并不理解为什么要强调“公平公正的AI”,难道一个技术也会有公平与不公平?微软全球资深副总裁、微软亚洲研究院院长洪小文在接受《中国电子报》记者采访时曾说,我们推动数字技术发展希望消除数字鸿沟,希望更多人能够享受到技术带来的便利,但如果我们不能够从出发点上基于公平公正的原则,我们就有可能造成新的鸿沟和新的不平等。我们都知道AI的算法模型想要成熟,是需要经过大量的数据进行训练的,如果我们收集的数据本身存在偏见,那么我们训练出来的算法模型就有可能是有偏见的算法。

微软的“小冰”就是一个例子。小冰是微软公司打造的聊天机器人,现在这个机器人已经可以写诗、做画,并且出版了诗集《阳光失了玻璃窗》。微软全球执行副总裁、微软人工智能事业部负责人沈向洋曾经透露过一个信息:现在小冰写出的诗歌都有一点忧郁的调子,原因是在研发和训练小冰的时候,挑选出来的大部分近代诗人的诗歌,调子普遍是忧郁的,比如徐志摩等诗人写的诗词。基于这个道理我们就很容易理解,为什么小冰的诗歌模型、诗歌大脑是忧郁的。同理,如果我们训练其他算法,训练数据本身是存在偏见的数据,结果必然导致算法存在偏见。

现在全球的AI巨头都希望在消除AI偏见上有更多突破。最近,IBM科学家在”消除偏见的斗争“方面有了一种新方法,可以将训练数据在其中转换以实现最小化偏差,使得后来从中学习的任何AI算法都尽可能减少不公平。在将此方法应用于两个大型公共数据集时,就能够大幅减少不必要的群体歧视,不会显著降低系统的准确性。这说明一个道理,确定研究的题目、确定研究的调性很重要,若我们确立了一个正确的目标,动用全球科技界的力量,我们可以创造出更好的技术来修正和校正AI可能出现的问题。中科院自动化研究所研究员曾毅表示,我国是一个发展中国家,发展AI,更应正视产业发展中的一些新情况、新问题,AI应积极促进绿色发展,符合环境友好、资源节约的要求,同时在发展中缩小地域差距,提升弱势群体的适应性,努力消除数字鸿沟,这符合我国AI发展的现实需求。

《治理原则》在很多方面提出的原则和概念是在全球首次出现并且是领先的。比如在数据隐私、安全治理方面,“《治理原则》提出了‘个人数据授权撤销机制’,这在全球来看也是一个非常领先的概念。”曾毅表示,这说明,我们是以非常负责任的态度来推进的。

《治理原则》涵盖了人工智能的基础研发层到应用,不仅仅是基于中国的视角,也基于全球的视角。曾毅表示,《治理原则》有些准则、原则的提出主要是以本国、本组织的视角为核心,同时,此次我国发布的《治理原则》特别强调国际协作,共护人工智能的未来,强调共建人类命运共同体,这是中国人工智能发展对世界做出的倡议和承诺。

事实上,今天的人类面临着前所未有的诸多挑战,我们需要更高的智慧、更强大的智能来助力人类解决这些现实问题、长远问题。就像未来学家所言,如果我们不能够很好地解决这些问题,人类就有可能在不久的未来陷入举步维艰的状态。所以全球的科技界应该携起手来,共同推动共同维护AI未来,共同打造负责任的AI,共同破解人类难题。

合作站点
stat