[-]

带有学习能力的算法收集个人数据,然后在未经用户许可,甚至未告知用户的情况下进行使用;自主性武器正在联合国进行讨论;可刺激情绪的机器人正用来帮助人类中的弱势群体;研发人形机器人的研究项目被更多的立项支持;基于人工智能的系统被用来对人进行评估。人们一方面可以将这些例子看做人工智能和自主性系统的重大贡献,另一方面又在批评它们危及人的自由和尊严。

我们需要确保上述这些技术与人们的道德价值观和伦理原则一致,以充分发挥这些技术的潜力。人工智能和自主性系统在运行时必须能帮助人们完成目标、解决技术问题。只有这样我们才能充分信任在日常生活需要广泛使用的这些人工智能和自主性系统。

技术伦理

IEEE全球人工智能和自主性系统伦理问题提案是IEEE标准协会于2016年4月推出的一项行业连接计划,是更广泛的IEEE伦理标准计划的(TechEthics)的一部分。该计划的主要宗旨是使创建的人工智能与自主性系统与用户和社会的价值观一致,这样我们就能将增加人类福祉作为如今“算法时代”衡量进步的首要目标。

这项IEEE全球提案的主要目标是确保每个技术专家受到教育、培训和授权,记住在设计和开发自主智能形同的过程中优先考虑伦理问题。这里的“技术专家”一词是指与人工智能和自主性系统相关的研究、设计、制造或是媒体人员,包括来自真正从事这些技术应用化的高校、组织和公司的从业人员。

提案

该提案有两项成果:一个是《伦理一致性设计》文件,另一个是关于标准的提案(这一提案可能将成为被行业和设计师采用的实际操作标准)。《伦理一致性设计》第一版于2016年12月13日出版,代表了全球来自于人工智能、机器人学、法律与伦理学、哲学与政策领域领域的100多位学术、科学、政府和企业部门的领导人的集体智慧。我们的目标是,通过《伦理一致性设计》提供来自于未来几年为人工智能和自主性系统提供关键参考的技术人员的深刻见解和正式建议。

为实现这一目标,在当前版本的文件中,我们确立了人工智能和自主性系统领域的问题和候选建议。IEEE还通过“知识共享许可协议-非商业性3.0-美国许可证”开放了这一文件,所以任何团体组织都可以在需要的时候从这份文件中得到帮助。

IEEE全球提案发布了三项标准建议。IEEE P7000-在系统设计过程中解决伦理问题的建模过程,是第一个受该提案启发的IEEE标准计划(已获批,正在制定);IEEE P7001-自主性系统的透明度和IEEE P7002-数据隐私流程也已获批,显示出IEEE全球提案对于人工智能/自主性系统伦理问题的实际影响力。

对于这项IEEE全球提案总体而言,定义我们工作的一个关键指标是自主性智能系统和人类之间的差别。我们希望充分考虑人类福祉的结合,这些方面在当前技术的设计和制造过程中可能无法自动考虑。透过字里行间,我们的心愿是重塑成功的概念,使人类的进步可以包括个人的、集体的和社会的各个层次的价值。我们希望使伦理问题成为新的关注点。

点击这里了解更多关于IEEE全球提案的信息,包括如何加入这项活动。

本文译自 IEEE,由 荔枝冰糖葫芦 编辑发布。

[ 广告 ]
赞一个 (8)

PREV :
NEXT :