AI发展的三大注意事项：数据质量、隐私和内部开发制度

财经前瞻网 2019-02-26 11:47

2018年是机器学习和人工智能（AI）技术很有争议的一年，美国国防部的Maven项目惹非议，亚马逊向执法部门提供面部识别软件引发股东不满。而在沙特阿拉伯，而“索菲亚”机器人正式获得了公民身份，这些都引发了大众对于机器人基本权利的激烈争论。AI的发展需要注意：数据质量和数量、采集和分享兼顾隐私以及公司内部制定规章制度来开发AI技术。

AI是计算机科学的一个分支，负责处理机器的智能行为。AI是机器模仿人类行为和我们传统反应模式的巧妙模拟能力。这可以通过特定算法实现，这些算法使AI功能在指定的活动范围内（根据算法编码的内容）运行。这意味着使用AI，我们许多日常活动可以通过编程机器技术有效地执行。

而现在已经达到了一个关键点，AI的能力远远超出了面向消费者应用的范畴，比如文本预测或反锁制动系统。AI的潜力似乎是无限的，也因为这样肯定引起了世界各国政府和其他大型机构的注意。

AI越来越重要

多年来，该领域的一些技术专家开展了大量工作，拓宽了人工智能基础创新的前景。

谈到人工智能在全球通用运营系统中的相关性和影响，微软的首席设想家大卫·科普林表示：“它将改变我们彼此之间的关系。我认为它甚至会改变我们如何看待人类。”

人工智能在组织、政府、安全框架、能源和自然资源管理等方面的使用正在急剧增加。虽然人工智能的提升水平和使用可能不同地理区域之间存在很大差异，但有明确的指标表明更多的人正在使用该技术的解决方案。

尽管正在进行大量构建该技术有用性的工作，但尚未取得真正重大成就。人工智能就在我们身边，但通常我们都没有注意到它。例如，Facebook使用AI技术进行图像识别。人工智能还在管理日历、政治活动方面发挥了作用，并且基本上快速接近一切！

人工智能在不久的将来会变得无处不在的一些明显原因：

AI虚拟助手

使用人工智能，更多的人可以自己去执行很多其他任务。通过个人助理AI，我们将能够在生活中减少日常任务。例如，当AI助手知道该做什么的时候，人可能没有必要去杂货店、预约会面或自己制定截止日期等。

增加有效的劳动投入，保证相应的产出

今天的企业正在意识到人工智能的前景，他们知道这项技术在提高生产力方面价值巨大。与非常有限的人工劳动不同，人工智能提供更多的输入和相应的正输出，平均而言。该技术能够使用创新，适当和主动的决策实施以及最终推动积极输出的其他路线图来实现这一目标。

埃森哲估计，到2023年采用AI的公司，生产力至少可以提高40％。

大多数人工智能模块都连接到其他框架，如云数据库和存储、大数据、加密和区块链、物联网（IoT）等。因此，它们能够促进信息传输和再现性的速度和有效性。

提高运营成本

人力需要公司持续的工资和津贴费用，这直接影响公司的净利润并增加运营成本。人工智能运营的公司，人工劳动成本大幅度下降，由于有效减薪，公司长期和短期都有巨大收益。虽然分析师认为人工智能开发的成本很高，但从长远来看，采用的公司可能会获得显着的收益，而这可能会让公司保持活力。

随着这些AI应用越来越复杂和广泛，我们必须考虑AI系统的透明度、是否存在潜在偏见性和确立一个问责制，以及这些机器自主做出重要决策的潜在后果。

人工智能有好坏之分吗？

人工智能本身并没有好或坏。它是一种工具，与所有工具一样它可以以多种方式来使用。锤子可以用来建房子或拆房子。而面部识别功能可以用来定位几千名失踪儿童的位置，也可以用来大规模的民用监视。由于单个算法可以无数种方式使用，因此开发人员必须仔细考虑尽可能多的用例的道德影响。

当我们突破创新的边界时，技术创造者和开发者有责任改善世界。尽管政治、道德和法律方面的考虑范围极其广泛，但公司可以通过可行的方式确保其AI系统的透明度、问责制和公平性。

数据质量和数量

机器学习训练算法通过大数据来识别模式，因此它们基本上反映了所馈送的数据。如果数据存在偏差，那么算法也将会产生偏差，而这会带来毁灭性的持久后果。

例如，美国司法系统在多个州使用AI算法来预测囚犯重新犯罪的可能性。根据先前记录比如年龄、家庭历史和就业历史等数据，这个风险评估模型依赖过去，来预测未来囚犯动态。

通常，这些工具可以帮助确定保释或识别低风险的囚犯，这样为假释提供一定理论支持。但在美国的部分州，如宾夕法尼亚州，正在认真考虑使用这些评估来确定是否要监禁某人，以及应该监禁多长时间。

在算法可以从字面上确定某人自由的世界中，组织必须绝对杜绝潜在的偏见，来做出公平合理的决策。抑制偏见的最佳方法是汇总各种数据，以及整合大量数据。包含的内容和不包含的内容，框架和框架的呈现方式都属于数据偏差的情况。

数据采集和分享兼顾隐私

虽然访问大型数据集对于峰值性能是必要的，但是不惜任何代价专注于数据收集可能会牺牲用户隐私，导致过度分享信息。

英国国民健康服务处一度上头条，在信息专员办公室发现该机构在AI现场试验中不正当地分享了160万名患者的医疗记录，失去大量民众的信任和支持。去年的Cambridge Analytica是另一个主要的例子，这些例子都说明组织应该优先考虑透明的数据收集和分享，不然很可能对公司或者组织的品牌造成永久性损害。

最终，组织必须平衡提供足够的数据以优化机器学习，同时保持符合道德的数据收集和分享。

制定人工智能道德规范并聘请公司伦理专家

医生、执法人员、专业工程师、法官等都是对人类生活有直接影响的职业。在上面说的每个领域都有明确的道德准则、誓言和法律义务，以便为他人的最佳利益行事。

可以说，新兴的人工智能应用将对人类生活产生前所未有的影响。然而，虽然一些技术组织，例如计算机协会和数据与社会研究所，制定或提出了严格的道德规范来指导框架和决策，但目前还没有全行业范围的道德AI发展章程。

制定一个单一的行为准则来涵盖所有潜在的AI应用程序非常具有挑战性。但这不是各组织发展自己准则的原因。我相信所有公司在人工智能方面都应该遵守正式的道德规范。该守则应明确界定技术的最终愿景，以及实现该目标的可接受和不可接受的过程和原则。

此外，许多开创性组织，如Salesforce都聘请了专门的伦理学家来帮助驾驭这个复杂的道德领域；还有一些公司正在建立AI审查委员会和/或审计跟踪；也有公司开发内部人工智能道德团队，以在明确的道德框架内指引产品和工程决策。

在新兴的人工智能创新领域，决策制定必须依靠全面的制衡系统来批判性地审查算法，并将道德和责任融入流程中。