学坏的人工智能(2)

 

　　谷歌云计算部门的人工智能首席科学家李飞飞表示，技术偏见“如人类文明一样由来已久”，而且存在于诸如剪刀、扳手这类普通事物当中。她解释说：“几个世纪以来，剪刀都是由右撇子的人设计的，而且使用它的人大多都是右撇子。直到有人发现这一偏见，才意识到人们有必要设计供左撇子使用的剪刀。”全球人口中仅有约10%是左撇子，作为人类的一种天性，占主导地位的多数人群往往会忽视少数人群的感受。

 

　　事实证明，人工智能系统最近所犯的最为明显的过错也存在同样的问题。我们可以看看俄罗斯科学家利用人工智能系统在2016年开展的选美大赛。为参加竞赛，全球有数千人提交了自拍照，其间，计算机根据人们脸部对称性等因素来评价其美貌程度。然而，在机器选出的44名优胜者当中，仅有一名是深色皮肤。这一结果让全球舆论哗然，竞赛举办方随后将计算机的这一明显偏见归咎于用于培训电脑的数据组，因为数据组中的有色人种的照片并不多。计算机最终忽视了那些深色皮肤的人的照片，并认为那些浅肤色的人更加漂亮，因为他们代表着多数人群。

 

　　这种因忽视造成的偏见，在人工智能系统中尤为普遍。在这些系统中，图片识别是培训过程的重要组成部分。此类算法空白在线上选美比赛中看起来可能是微不足道的事情，但葛布鲁指出，此类技术可能被用于更加高风险的场景。葛布鲁说：“试想一下，如果一辆自动驾驶汽车在看到黑人后无法识别，会出现什么后果。想必后果是非常可怕的。”

 

　　葛布鲁的观点激起了不小的浪花。微软和IBM均表示，公司已采取针对性的措施来完善其图片识别技术。尽管这两家公司拒绝透露其举措的详情，但正在应对这一问题的其他公司则让我们窥见了如何利用科技来规避偏见。

 

　　亚马逊在部署用于筛除腐烂水果的算法时，公司必须解决抽样偏见问题。人们通过研究大量的图片数据库来培训视觉辨认算法，其目的通常是为了识别，例如，草莓“本应”具有的模样。然而，正如你所预料的那样，与完好浆果光鲜亮丽的照片相比，腐烂浆果的照片相对较少。而且与人类不同的是，人工智能系统倾向于不计算或忽视它們，而人类的大脑则倾向于注意这些异常群体，并对其做出强烈反应。

 

　　亚马逊的人工智能总监拉尔夫·荷布里奇解释道，作为调整，这家在线零售巨头正在测试一项名为“过采样”的计算机科学技术。人工智能工程师可通过增加不具充分代表性的数据的统计学权重，来主导算法的学习方式。在上述案例中便是腐烂水果的照片。结果显示，培训后的算法更为关注变质食物，而不是数据库中可能建议的食品关联性。

 

　　荷布里奇指出，过采样也可被应用于分析人类的算法（然而他拒绝透露亚马逊在这一领域的具体案例）。荷布里奇说：“年龄、性别、种族、国籍，这些都是特别需要测试采样偏见的领域，以便今后将其融入算法。”为了确保用于识别人脸照片的算法不会歧视或忽视有色、老龄或超重群体，人们可以为此类的照片增加权重，以弥补数据组存在的缺陷。

 

　　其他工程师正专注于进一步“追根溯源”——确保用于培训算法的基本数据具有包容性，且没有任何偏见。例如，在图形识别领域，在录入计算机之前，人们有必要对用于培训人工智能系统的数百万张图片进行审核和标记。数据培训初创企业iMerit首席执行官雷德哈·巴苏解释，公司遍布于全球的1400多名训练有素的员工会代表其客户，以能够规避偏见的方式对照片进行标记。iMerit在印度的员工可能会觉得咖喱菜不是很辣，而公司位于新奥尔良的员工可能会认为同样的菜很辣。iMerit会确保这两条信息均被录入这道菜照片的标记中，因为仅录入其中的一个信息会让数据的精确性打折扣。在组建有关婚姻的数据组时，iMerit将收录传统的西式白婚纱和多层蛋糕图片，同时还会收录印度或非洲精心策划、色彩绚丽的婚礼。巴苏表示：“良好的伦理政策不仅仅包含隐私和安全，还涉及偏见以及我们是否遗漏了某个观点。”而找出这个遗漏的观点已被更多科技公司提上了战略议程。

 

　　然而，在这一代更加多元化的人工智能研究人员进入劳动力市场之前，大型科技公司已然将人工智能系统融入其产品。而且即便顶级研究人员越发意识到该技术的缺陷，并承认他们无法预知这些缺陷会以什么样的方式展现出来，他们仍然认为人工智能技术在社会和金融方面的效益，值得他们继续向前迈进。

 

　　脸书高管坎德拉说：“我认为人们天生便对这种技术的前景持乐观态度。”他还表示，几乎任何数字技术都可能遭到滥用，但他同时也指出：“我并不希望回到20世纪50年代，体验当时落后的技术，然后说：‘不，我们不能部署这些技术，因为它们可能会被用于不良用途。’”

 

　　确实，很少有人依然持有“人工智能绝对可靠”的观点，这是一个进步。谷歌前任人工智能公共政策高管蒂姆·黄指出，在互联网时代初期，科技公司可能会说，他们“只不过是一个代表数据的平台而已”；如今，“这一观点已经没有市场”。