裁掉数十名人工编辑后,微软的新闻 AI 翻车了

前段时间,微软解雇了约 50 名 MSN 新闻编辑,同时打算用日渐成熟的 AI 系统取而代之的消息引发广泛讨论,不少编辑同事都担心自己的饭碗将来也会被人工智能抢走。然而事情才过去没几天,微软的 AI 就翻车了。

外媒报道,近日,微软新的人工智能发布软件推送了一篇文章,文中内容谈到种族主义对一位英国混血女歌手 Jade Thrilwall 的个人影响,但文中的配图却是 Jade 的队友 —— 另一位混血女歌手 Leigh Anne Pinnock 的照片。显然,该 AI 系统在人脸识别方面犯下了错误。

 

(右 1 为 Jade Thirlwall,右 2 为 Leigh Anne Pinnock)

Jade Thirlwall 是英国女子组合 Little Mix 的一员,近期在一档与“Black Lives Matter”相关的 BBC 访谈节目中,Jade 分享了自己在英格兰东北部南希尔兹一个以白人为主的社区环境下成长遭遇的不平等对待。她的外祖父母来自埃及和也门,而她因为阿拉伯血统而受到同龄人的欺负。

 

(Jade Thirlwall)

Jade 的这篇采访稿由《独立报》报道,并被微软旗下的 MSN.com 网站转载。该网站收录了来自全球各地的优质内容,内容原本由 AI 系统辅助数十名人工编辑混合校审,然后发表。MSN.com 网站过去有数十名人工编辑策划,他们负责挑选故事、新闻和图片在网站上发表,直到上个月微软宣布裁掉约 50 名人工编辑。微软认为,原本辅助编辑们完成这一系列工作的 AI 发布系统完全有能力单独胜任这项工作

外界将 MSN 的这一错误归咎于微软的 AI 算法不可靠。值得一提的是,《卫报》媒体编辑吉姆·沃特森(Jim Waterson)声称,MSN 正试图阻止 AI 编辑选择《卫报》上这篇出现配图错误的文章,MSN 的工作人员也被告知等待《卫报》这篇文章的发表,并尝试从网站上手动删除它,因为微软的 AI 机器人编辑很有可能会认为这是 MSN 读者感兴趣的内容。

而微软方面则否认这一错误是由于「不可靠」的人工智能造成的,称其是自动发布软件的一项新功能的逻辑出了问题。“虽然消除偏见和提高准确性仍然是人工智能研究的一个重点领域,但这一错误并不是这些问题造成的。”微软的一位发言人在周二的一次采访中解释说,“只是我们在测试中的一个图片替换功能出了一些问题,但我们很快关闭了这一功能,并修正了图片的错误。”

然而,这个小小的误会并没有被忽视。Jade Thirlwall 本人在社交平台上发帖指责了 MSN 的错误:“这件事发生在 Leigh Anne Pinnock 和我身上已经很多次了,一直以来都有媒体把我们弄混,这几乎成了一个恶作剧。你们不能在一个团体的四个成员中区分出两个有色人种的女人,这让我很生气!”

事实上,目前的 AI 人脸识别技术确实在肤色、性别方面存在一定的偏见。有研究表明,微软的 AI 人脸识别技术虽然准确率已经接近 100%(仅限于白人男性),但在识别肤色较深的人种时准确率仍只有 79.2% ~ 94%。而就在两天前,另一 IT 巨头 IBM 宣布放弃所有人脸识别相关技术业务,指出人脸识别技术存在肤色、性别偏见,旨在声援日渐加深的种族歧视问题。值得一提的是,IBM 的 AI 人脸识别技术在识别肤色较深的人种时准确率只有 65.3% ~ 88%。

近期,随着 “Black Lives Matter” 运动在欧美地区的迅速发酵,其影响力也辐射到了包括 AI 在内的技术领域。比如有国外专家认为编程语言中的主-从(master-slave) 关系是一种压迫性的比喻,Blacklist 等类似名词包含对黑人的歧意等。包括谷歌在内的一些互联网公司已经开始着手处理这些问题,主动更改项目代码中的一些歧义描述,尽管这些代码语句已经被人们沿用了数十年。