关于 AI 道德伦理的四个问题，以及开源在其中的作用

本文翻译自作者 Sahana Sreeram 的文章 4 questions about AI ethics and how open source can help

开源资源可以为人工智能的一些关键道德伦理提供有效的解决方案。

作为一名高中生，我对人工智能（AI）产生了浓厚的兴趣，人工智能正在成为近些年最具影响力的创新之一。去年夏天，我被选入 AI4ALL 项目，在那里我学习了如何使用 Python 开发 AI 系统。

在我的最终项目中，我创建了一个对象检测程序，并将其与虚拟无人机模拟器相结合。在整个项目中，我能够使用开源框架，包括 TensorFlow、Keras、Scikit-learn 和 PyTorch，来辅助开发对象检测机器学习(ML)算法过程。

通过做这个项目和使用其他开源框架，如 Linux、Apache Kafka 和 ElasticSearch，我意识到开源技术对 AI 系统开发的影响。获得这些强大、灵活的技术，使人们能够实验和开发 AI 系统。

当我参加 William & Mary 关于人工智能和伦理的研讨会时，我发现了人工智能的另一个重要方面。当我们围绕人工智能系统讨论了一些伦理问题时，我开始思考：我如何确保我开发的系统是符合伦理道德的？

为了回答这个问题，我采访了三位专家。他们分别是 Duality Technologies 的 CEO Alon Kaufman 博士；William & Mary 的法学教授 Iria Giuffrida 博士；还有一位金融科技行业的高管（应要求对姓名保密）。我非常感谢这些专家给我宝贵的时间，激发我的好奇心，并用他们在这个领域的历程激励我。

伦理学目前在人工智能系统中扮演着多么重要的角色？

Kaufman博士表示：“随着人工智能取得越来越多的进展，社会开始意识到伦理学意义的重要性。然而，关于 AI 系统开发中的伦理价值的讨论仍然是一项学术工作”。今天，许多人工智能，尤其是 ML 模型，仍然是一个”黑匣子”，因为由先进的算法和复杂的人工智能技术（如深度学习）产生的模型是无法自我解释的。如果没有可解释的 AI/ML 模型，就很难将道德考虑引入对话。

对于 Kaufman 博士来说，如今行业关注的焦点是数据安全和保护。随着越来越多智能技术的发展，获取数据越来越容易。AI 系统中处理的大量数据使其容易受到网络漏洞的影响。

为人工智能系统建立数据保护措施固然至关重要，但将重点转移到其他道德影响上也变得至关重要，例如隐私和机器偏见。

伦理人工智能的发展是未来的好目标，还是一厢情愿？

简而言之的话，创建有伦理道德的人工智能系统是一个合理的目标，但这需要时间。

“伦理”是一个很难定义的概念。一种方法是通过三方面的方法论来看待道德问题：安全、隐私和公平。目前行业内大部分人都在关注安全问题，下一步切实可行的做法可能是解决隐私和确保数据匿名性的问题。Kaufman 博士解释道：”隐私增强技术，如安全计算和合成数据可以在这个过程中提供帮助“。只有在找到了安全和隐私领域的伦理学解决方案之后，才有理由涉足机器公平和偏见。

在开发无偏见的人工智能时，需要考虑的因素很多。金融科技行业的专家表示：“第一步是将主动学习模型部署到社会中，其次是实际开发公平的系统”。他解释说，当部署装有主动学习的 ML 时，社会本身的偏见往往会被强加到模型上，甚至在不知不觉中，创造出非常有缺陷的系统。Kaufman 博士则表示：“当开发人员创建人工智能系统时，他们的先入为主的观念绝对不能注入到系统代码中”。这些都是开发无偏见模型时必须解决的一些关键领域。

学生应该多早接触 AI/ML 中的伦理考虑因素？

不仅要学习计算机科学原理，还要学习如何建立伦理模型，这一点越来越重要。Giuffrida 教授表示：“计算机科学家和人工智能开发人员并没有明确地接受过思考其系统背后伦理问题的培训，这就是为什么防偏见系统的开发不可能是一个线性的过程，它们必须经过多级审查，以尽量减少在机器进程中注入偏见。

Giuffrida 教授强调，人工智能的开发应该被当作一项跨学科的研究，这意味着不仅仅是开发人员要负责创建准确和符合道德的系统——这是让一个群体承担的巨大责任。但是，在基础层面向有抱负的人工智能工程师介绍伦理概念，可以加速构建可持续、功能性和伦理性的系统。

伦理会以牺牲创新为代价吗？

这是我在整个采访过程中不断回想的主要问题。在 AI4ALL 课程中，我们探讨了最近的 Genderify 风波，这是一款人工智能软件，旨在根据几个数据点来识别用户的性别、姓名、电子邮件地址和用户名。当推向市场让公众使用时，结果非常不准确——例如，”Meghan Smith”这个名字被指定为女性，但”Dr. Meghan Smith”却被指定为男性。这些偏见导致了这项服务的失败。至少在推出前进行更全面的道德审查和测试，更有可能使这种类型的产品取得成功。

三位专家都表达了这样的观点，即伦理界限正变得必要。根据金融科技高管的说法：”合理的道德约束不会限制创新——公司最终必须弄清楚如何在这些界限内进行创新”。以这种方式，伦理方面的考虑可以提高产品的可持续性和成功率——而不是让人工智能的发展完全停止。风险投资家 Rob Toews 对规范人工智能提出了一个有趣的观点，如果你想了解更多关于这个话题的内容，我推荐这篇文章。

最终，将伦理引入纯人工智能是确保人工智能在我们的世界中生存的艰巨但必要的一步。开源资源可以为一些关键的伦理考虑提供有效的解决方案，包括全面的系统测试。例如，IBM 的 AI Fairness 360 开源工具包可以评估 ML 模型中的歧视和偏见。开源社区有能力开发这样的工具，为伦理 AI 系统提供更大的覆盖面和支持。同时，我相信我们这一代人有责任在创造革命性的人工智能技术和考虑经得起时间考验的伦理影响之间建立桥梁。