美国IEEE制定AI道德标准 优先考虑人类福祉

原标题：美国IEEE制定AI道德标准优先考虑人类福祉

据外媒11月21日报道，许多人担心，如果人工智能(AI)技术在无监管的情况下继续发展，那么它将会产生无法想象的后果。然而，为了恢复行业道德，美国电气和电子工程师协会(IEEE)已经把三个标准项目加入了一个专注于人工智能的“活”文件中。

人工智能的革新

人工智能已经从一个未来主义和科幻小说风格的探索领域转向了一个蓬勃发展的技术领域，在这个领域里，所有不可能变成了可能。为了保障AI的未来发展能保持良好道德和社会意识，美国电气和电子工程师协会宣布了三项新的人工智能道德标准。

资料图

美国电气和电子工程师协会自称是“世界上技术进步最大的技术专业组织”。据最近的新闻报道，该协会承诺会紧跟人工智能领域的发展步伐，同时会制定优先考虑人类的人工智能道德标准。

该三项新标准将成为该协会“活”文件的一部分，文件标题为“道德化设计：人工智能和自治系统优先考虑人类福利的愿景”。这份文件将会随着时代的变化而不断革新，它鼓励那些推动技术进步的人，去关注人工智能的进步如何影响到伦理。该文件的本质是“活”，它展示了该协会的创造者是如何充分理解人工智能领域变幻莫测的特性。

电气和电子工程师协会机器人与自动化协会会长Satoshi Tadokoro解释了其为何制定该标准：机器人和自动性有望为社会带来巨大的创新。最近，人们越来越关注可能出现的社会问题，以及可以实现的巨大潜在利益。然而不幸的是，这些讨论中出现了一些来自科幻小说和想象力的不正确信息。

Tadokoro还表示，电气和电子工程师协会将根据公认的科技事实来介绍相关的知识和智慧，从而帮助公众做出人类利益最大化的公共决策。

监督创新

三项人工智能道德标准中的每一项都将作为单独的项目进行介绍，每个项目都由专家负责指导。

第一个标准，“机器化系统、智能系统和自动系统的伦理推动标准”。此标准探讨了“推动”，在人工智能领域里，它是指影响人类行为的微妙行动。

第二个标准，“自动和半自动系统的故障安全设计标准”。它包含了自动控制技术，如果发生故障，可能会对人类造成危害。就目前而言，显然其涵盖了自动驾驶汽车。

第三个标准，“道德化的人工智能和自动系统的福祉衡量标准”。它阐明了进步的人工智能技术如何有益于人类福祉。

这些标准的实施可能比我们想象的要早，因为像OpenAI和DeepMind这样的公司，越来越快地推进人工智能的发展，甚至创造出能够自我学习又扩大“智能”领域的人工智能系统。专家们认为，这样的人工智能会破坏世界的稳定，导致大规模的失业和战争，甚至转向创造“杀人武器”。最近，联合国的重要讨论促使人们开始认真思考，需对将人工智能技术当作武器使用进行更严格的监管。

希望这三个标准项目能够规范人工智能的发展，而不是阻碍进步，但是我们所了解的社会也并未被我们努力创造的东西所破坏。(实习编译：肖光俊 审稿：李宗泽)