今年德勤技术趋势报告的主题是“运动中的企业”(the kinetic enterprise),这一概念描述了正在发展灵活性和愿景的公司——如今,公司不仅要克服运营上的惯性,还要在一个不断发展并将持续变动的商业环境中茁壮成长。
要做到这一点很难。虽然科技进步让我们看到了潜力,但只有少数几种技术可能最终让我们实现真正的价值。更多的实际上是炒作。只有认真鉴别、主动出击,才能将潜能转化为现实。
在这样的理念推动下,德勤推出了他们迄今第 8 份《德勤技术趋势报告》。在这份最新报告中,五大宏观领域——数字化、分析、云、核心系统和基础设施重构,以及 IT在企业中不断变化的作用——保持不变,这些都是年复一年推动企业创新和转型的力量。不过,尽管这五大力量无处不在,各个企业在采用方面仍然存在很大差异。
今年报告新增的 3 个分领域:机器智能(Machine Intelligence,MI)、混合现实和区块链。其中,机器智能更是作为新增技术之首,在今年的报告中占据了很大的篇幅。根据德勤预测,到 2019年,全球商业在机器智能(MI)的支出将达到 313 亿美元。
值得注意的是,德勤报告认为,人工智能(AI)是机器智能(MI)的一部分,机器智能是一个更加广泛,也是更加重要的领域。机器智能的几个主要分支包括:机器学习(ML)、深度学习(DL)、认知分析、机器人过程自动化(RPA)和 Bot。报告指出,“总体来说,这些技术和其他工具共同构成了机器智能(MI)”,我们可以将 MI 理解为算法的能力,这些算法能够增强员工绩效、将日益复杂的工作自动化,并开发出模拟人类思维、参与人类工作的“认知代理”。
德勤指出以下三个因素推动了 MI 的发展:
数据呈指数级增长:如今企业中充斥着数据,迫切需要工具来分析和处理信息。德勤报告指出,公司收集的数据量每12个月翻一番,到2020年将达到约 44 ZT。
更快的分布式系统:与数据暴增一样,计算能力和速度也在飞速提升,现在的物联网、各种传感器和嵌入式智能设备构成了规模庞大的分布式网络。
更智能的算法:报告指出“MI 算法稳步发展,在实现认知计算模拟人类思维过程初衷的方面有了初步成果”,报告还预测在未来18到24个月的时间里,MI 算法将得到广泛的使用,包括优化、规划和调度;确定概率;实现机器人过程自动化及其他任务。
总的来说,语音识别、自然语言处理和机器学习等 MI 技术将帮助企业自动执行传统上由人类完成的许多任务,从而提高效率和生产力。诸如 Alphabet、亚马逊和苹果这样的大型科技公司则打算向企业提供这些服务。反过来,风险投资公司也将其投资组合加到整个食物链的底层。
在德勤 2016 年全球 CIO 调查中,1200 名IT 高管被要求说出他们计划在未来两年投入大量资金的新技术:其中有 64% 的人列举了认知技术或 MI。
德勤报告中还包括了对企业应用 MI 的一些建议。亚马逊副总裁兼 CEO 技术顾问 Maria Renz 和亚马逊 Alexa 总监 Toni Reid 在报告中写道:“我们建议你分析客户群,倾听他们,了解他们的核心需求以及如何让他们的生活更容易……不要害怕代替客户发明新的东西——客户并不总是知道自己想要什么。如果你在客户体验方面正确聚焦,其余的自然水到渠成。”
以下为报告节选:
机器智能——技术模拟人类认知来创造价值
人工智能快速的进化已经带来了大量独特的东西,尽管它们总是被误解的。AI 的能力,比如机器学习、深度学习、认知分析、机器人自动化(RPA)、bot等等。总体上,这些和其他的工具组成了机器智能:算法的能力可以增强雇员的表现、将越来越复杂的工作自动化,并且开发出能够模拟人类思维和参与的“认知智能体”,在高级的分析方法中,机器智能代表了未来。
数据(DATA)作为一种关键商业资产的崛起一直是每个“技术趋势”报告中的一个主题,从管理其爆炸式增长的数量和复杂性所需的基础功能到越来越复杂的分析工具技术,再到从数据库中挖掘业务洞察都是如此。
通过利用分析来发掘在不断增长的数据存储中隐藏的模式,洞察和机会,一些公司已经能够开发新的用户参与方式、增强员工的技能和智力、培育新产品和服务、探索新的商业模式。今天,越来越多的CIO正在积极奠定让其组织更具洞察能力所需的基础。
人工智能(AI)——能够执行通常需要人来完成的任务的人工智能(AI)技术—正在成为这些分析工作的重要组成部分。然而,AI 只是认知计算领域中更大、更引人注目的一系列发展的一部分。比AI 更大的是机器智能(MI),这是代表新的认知时代的一系列进步的总称。我们在报告中提到了近年来取得快速发展的一些认知工具:机器学习,深度学习,高级认知分析,机器人自动化和 bot,仅举几例。
我们已经在各个领域看到开始出现机器智能的早期使用案例。例如,在美国,一家运行全美最大的医学研究计划之一的医院正在“训练”其机器智能系统以分析存储在医院数据库中的100亿张遗传和基因图像。在金融服务中,认知销售助理使用机器智能与有希望的销售线索发起联系,然后锁定,跟进并维持这种联系。这个认知助手可以解析自然语言,以了解客户的对话问题,同时处理多达27,000个会话和几十种语言。
在接下来的几个月中,我们会看到类似的应用案例,因为会有更多的公司正在试图利用机器的力量。在机器智能各个方面的投入已经增加,预计2019年将达到近313亿美元。机器智能也成为CIO的优先考虑事项。德勤的2016年全球CIO调查中,1,200名IT高管提到了他们计划在未来两年内大幅投资的新兴技术,其中 64%的人提到了认知技术。
数据:现在远比从前多得多
我们今天提到的认知计算,实际上起源于20世纪50年代,它是一种有远见的努力方向,希望让技术模拟人类智能。虽然有些原始的AI技术在20世纪80年代已经开始商业化,但是直到21世纪,组成机器智能的 AI 和认知计算能力,才算是真正的腾飞。
有三股强大力量共同驱动着机器智能趋势:
1、数据指数级的增长
如今,我们创建和复制的数据,每12个月大小增加一倍。实际上,到2020年,全球的数字预计将达到44泽字节(zettabytes)。我们还知道,随着物联网,暗分析(dark analytics)和其他数据来源的激增,数据将增长得更快。从商业角度来看,这种爆炸性增长将转化为比以往任何时候都更有价值的数据源。除了使用传统的分析技术,这些大量的结构化和非结构化数据,以及存在于深层网络中的大量非结构化数据,对于机器智能的进步至关重要。这些系统消耗的数据越多,它们在发现关系,模式和潜在影响这些问题上就会变得“更聪明”。有效管理快速增长的数据需要更高级方法,来掌控数据、存储、保留、访问、情景和管理。
从联网设备生成的信号,到所有业务所有功能中的历史转换数据中隐藏的字符行级别的细节,处理数据资产正在成为建造机器智能的一个关键组成部分。
2、更快的分布式系统
随着数据量越来越大,分析越来越复杂,让数据对个体用户可访问的分布式网络现在的能力已经得到指数地提升。今天,我们可以快速处理,搜索和控制几年前无法实现的数据。当前一代的微处理器提供了的性能是1971年推出的第一个单芯片微处理器的400万倍。
这种能力使得高级系统设计成为可能,例如支持多核和并行处理的那些。同样,它支持高级数据存储技术,支持对归档数据的快速检索和分析。正如我们看到的MapReduce、内存计算和硬件优化的MI技术,如谷歌的张量处理单元。技术正在进一步优化我们管理指数级数据的能力,使之更有效。
除了纯粹的功率和速度的增加,分布式网络的覆盖范围也越来越大。它们现在可以与驻留在云中的基础架构,平台和应用程序无缝连接,并可以消化和分析存在于那里的不断增长的数据。它们还提供分析和驱动来自“边缘”功能(如物联网,传感器和嵌入式智能设备)的流数据所需的能力。
3、更智能的算法
近年来,随着机器智能算法变得越来越强大,实现认知计算的最初目标——模拟人类思考过程,也获得了稳步的进步。
随着机器智能使用案例在接下来18至24个月内不断涌现,以下算法能力将可能在公共和私有部门中得到更广泛的应用:
优化,规划和调度:在更成熟的认知算法中,优化自动化的、复杂的决策和在有限资源中进行权衡。类似地,规划和调度算法设计一系列动作以满足处理目标的要求并观察约束条件。
机器学习:计算机系统正在通过数据来发展提高自身的能力,这个过程总不需要遵循直接的编程指令。在其核心,机器学习自动地从数据中发现模型。一旦经过确认,模型能被用于做预测。
深度学习(Deep Learning):开发人员正在研究涉及人工神经网络的机器学习算法,这是启发自大脑的结构和功能。其中,互相连接的模块运行数学模型,这些模型根据处理大量输入得出的结果来进行不断微调。深度学习可以分为有监督学习和无监督学习。
概率推理(Probabilistic inference):使用图形分析和贝叶斯网络来识别随机变量中的条件依赖性的新的 AI 能力。
语义计算(Semantic computing):这种认知类别包括计算机视觉(分析图像的能力),语音识别(分析和解释人类语言的能力),以及各种为了理解自然语言表达的意图和计算内容的语义的文本分析能力 。这些信息被用于数据分类,映射和检索。
自然语言引擎(Natural language engines):自然语言引擎以人类的方式理解书面文本,但它可以用复杂的方式进行文本处理,例如自动识别文本中提到的所有人名和地址;识别文本的主题;或者以人类可以理解的方式提取出合同中的条款并制成列表。自然语言引擎通常可以分为两类,一是针对人类语言的自然语言处理技术,二是针对创造自然语言输出的自然语言生成技术。
机器人过程自动化(RPA):机器人软件,或称“bots”,可以通过模仿人类与软件应用程序交互的方式来执行例行的业务流程。企业开始结合采用 RPA 和认知技术(如语音识别,自然语言处理和机器学习)来自动化执行基于知觉或判断的任务,这些任务从前被认为是只能由人类执行的。
机器智能如何创造价值?
对 CIO 而言,转向机器智能需要一种新的理解数据分析的方式。数据分析不仅仅是一种创建静态的报告的方式,还是一种利用更大型、更丰富的数据库来自动执行任务并提高效率的方式。在机器智能中,CIO 可以考虑的机会包括:
认知洞察(Cognitive insights):机器智能可以提供深入、可操作的洞察,不仅对已经发生的事情,而且包括现在正在发生的事情和接下来可能发生的事情。这可以帮助企业制定程序来提高员工效率。例如,在全球的呼叫中心中,服务代表可以使用多功能的客户支持程序来回答有关产品的问题,接受订单,调查定价,以及解决客户的其他问题。许多这样的系统还需要工作人员在屏幕间来回跳转以找到回答特定查询所需要的信息。
认知参与(Cognitive engagement):机器智能价值树的下一级是认知智能体(cognitive agents),即采用认知技术与人类进行交互的系统。目前,这项技术主要服务对象是消费者而非企业。例如,认知智能体可以相应人类的语音命令来降低恒温器温度或打开某个电视频道。但是,有可以从这种认知参与中受益的企业业务,并且新的应用领域开始出现。认知智能体将能够接入复杂信息,执行诸如处理患者入院,为用户推荐产品或服务等任务。它们可能在客户服务领域有更大的商业潜力。
认知自动化(Cognitive automation):第三个,可能也是最具颠覆性的机器智能机会,是利用机器学习,RPA,以及其他认知工具开发深度的专业领域知识(例如,按行业、职能或地区区分),然后自动化执行相关的任务。我们已经看到有机器智能的系统能够自动化执行从前需要经过训练的人力进行的工作。例如,有医疗公司应用深度学习技术进行医学图像的分析,在测试中,系统在判断恶性肿瘤方面比人类专家的能力高50%。
在教育领域,嵌入在在线学习程序中机器智能可以通过跟踪学习者解题时的“心理步骤”来模拟一对一辅导,为学习者提供及时的指导、反馈和解释。
协同机器人(Co-Bots),不是机器人(Robots)
面对成本压力,长期低利率,竞争的加剧,以及不断变化的客户和市场动态,全球保险供应商美国国际集团公司(AIG)发起了战略重组,以简化其组织和提高运营效率。这个目标涉及处理不断加剧的技术债务问题,以及一个对运营稳定性产生挑战的分布式IT部门。
根据AIG全球首席技术官Mike Brady的说法,通过将IT重组为一个向CEO报告的单一组织,AIG为创建新的企业技术模式奠定了基础。这一变革性计划的第一步涉及到建立基础能力,为此团队制定了一个三部分的方法:
维稳:因为用户几乎每天都遇到严重的中断,虚拟网络每周就会瘫痪一次,所以整体网络性能需要改进。
优化:该策略侧重于自助服务配置,自动化和成本效益。
加速:为了快速前进,团队实施了DevOps战略,以创建持续集成/连续部署工具链和流程,以实时部署软件。
AIG借助了机器学习来实现这些指令。该公司开发了一个先进的协作机器人程序,这个程序可以利用内置的算法能力,机器学习和机器人过程自动化。这些虚拟工作者被称为“协同机器人” ,公司希望每个人都能将虚拟员工作为员工的延伸和助理。
2015年10月,AIG部署了“ARIES”,该公司的第一台机器学习虚拟工程师,以解决全球网络问题事件。在90天的试验计划期间,ARIES接受了“策展和监督”模式的培训,在这种模式下,机器与人类一起操作,并从人类的行为中学习。在这种方法中,ARIES通过观察和实验来了解如何评估运行中断的来源并确定可能的原因和应急响应。协同机器人在第91天时就已经准备全部的部署。这不是因为这些机器本身工作效率高;事实上,AIG发现,人类平均需要8到10分钟解决一个典型的问题,而协同机器人用时平均8分钟。这也就是说,机器人最大的好处是它的规模:机器人可以全天候工作,不间断或睡眠,它们可以迅速解决事件,排队和积压从不发生。
在ARIES参与工作的六个月内,这个自动化系统识别和解决了超过60%的网络运行中断。在一年内,ARIES的机器智能,加上监测AIG环境健康状况的传感器的增加,使其有可能在问题影响业务之前,以编程方式解决各种各样的警报。虚拟工程师可以自动识别不健康的设备,执行诊断测试以确定原因,并登录以实施修复或将问题上报到技术人员并提出“建议”。另外,协同机器人涉及到网络问题,如果数据模式显示一个设备在一个月内造成50起事件,IT团队就知道此设备需要更换。这些问题在过去一年中将严重性等级1和2的问题数量减少了50%。他们还提高了技术人员的工作满意度。技术人员现在可以专注于更具挑战性,更有趣的任务,而不必执行普通和重复性的任务,而且可以从协同机器人的建议展开自己下一步的工作。
另外还有四个由管理人员操作的协同机器人,协助负责治理、工作、培训和学习,甚至绩效管理,已经成功上岗了。
随着IT中的协同软件程序的成功,AIG正在探索在业务操作中使用机器学习的机会。 “我们希望企业使用机器学习,而不是占用更多的资源,”布雷迪说。 “我们需要利用大数据和机器学习作为新的资源,而不是将其视为新的成本。”内部试验正在开发,以确定协同机器人是否可以审查损害索赔,并立即授权付款检查,以便客户不需要延迟治疗。其他机会有可能出现在增强型认知的自助服务,增强代理辅助渠道,甚至可能使用认知代理作为他们自己的面向客户的窗口。
“协同机器人的方法需要磨合,”布雷迪补充说, “如果一个问题真的很复杂,你不希望团队内部打架。这就是设计思维的有用之处。自从我们在一年前开始启用机器人系统,我们已经解决了145,000次事故,令人难以置信的好。将其转移到业务流程,最终达到认知客户交互是一条必经之路。
服务患者
随着医疗保健转向基于结果的模式,患者正在寻求健康保险公司提供与许多零售商和银行相同水平的高度个性化的客户服务。为了满足这一期望,作为美国最大的健康福利公司之一,Anthem正在探索如何利用认知计算的力量来简化和增强与客户的联系,并使客户服务更有效,更灵敏,更直观。 Anthem的最终目标是改变公司与保险用户在整个受保周期内的交流方式,而不仅仅是在被保人申请索赔时。
Anthem的战略涉及机器智能的三个维度:洞察,自动化和参与。在第一阶段,公司正在对索赔裁定流程应用认知洞察,以便为索赔审查人员更好地了解每个案例。Anthem的临床分析及人口健康管理副总裁Ashok Chennuru表示,“我们正在整合内部付款人数据索赔,成员资格,提供者人口统计数据与外部数据,包括社会经济,临床/ EMR,生活方式和其他数据,以建立健康计划成员的纵向视图。“
目前,审查者从文档审查、患者历史发现和取证收集开始,来确定下一步骤。但是通过认知洞察,新系统正在不断地审查背景中的可用记录,从一开始就提供全面的图像,包括补充信息,例如患者的重复住院以通知可能的护理计划或有针对性的干预,以及应用智能来解决索赔的任何潜在问题。在索赔代表收到案件时,他有评估所需的全面信息。
在下一阶段,Anthem将开始为索赔处理增加认知自动化,从而腾出时间让审核员去帮助需要更复杂帮助的患者。 “通过部署预测性和规范性分析和机器学习算法,我们将能够以更具成本效益的方式处理结构化和非结构化数据,”Chennuru说。首先,系统将识别需要解决的任何潜在问题,并推荐具体的行动方案。随着系统的成熟,如果它的分析基于所有信号和输入达到一定的确定性值,它可以自己开始解决某些问题。如果确定性水平低于该值,则审核员仍将手动审核和解决索赔。由于系统的持续学习能力监控审核员如何成功地解决问题,系统会将特定问题与适当的行动方案相关联,以不断提高其自动化分辨率的准确性和效率。
在第三阶段,随着Anthem更深入认知参与,公司将更广泛地利用其神经网络和深度学习,与医疗保健提供者一对一地参与,为患者推荐个性化护理计划。在从简单的反应到索赔转变为主动参与客户的护理,Anthem将能够审查病人的病史,并联系医疗机构,提供护理计划的建议。
Anthem的半监督机器学习能力教会几桶如何分解问题,组织它们,并确定最佳响应。在测试期间,观察者将比较系统行为和性能与传统的人为驱动方法来衡量系统的效率和准确性。
该公司目前正在收集和处理数据,培训系统,并简化其解决方案架构和技术,并且由于理赔管理认知洞察而获得了全面的积极成果。自动化裁决系统的原型计划于2017年推出,然后会在几个月后启动一个最低可行产品版本(MVP)。
Anthem已经建立了广泛的认知能力,有多个团队通过案例学习的方式来实现结果,评估有价值的证明,并优化团队如何准备数据,调整算法和提供程序可用性。 “最终,”Chennuru说,“我们将能够在诸如价值分析,人口健康管理,质量管理等许多领域中利用该平台,并洞察医疗服务和医疗成本之间的差距。”Anthem希望使尽可能多的企业认知服务,能够训练其模型,优化其计划,并发展其认知智能,以帮助公司更好地为会员服务。
如何在企业中运用机器智能(MI)?
很少有机构能够宣布在数据上和数据相关方面取得了胜利。即使数据是大部分是结构话的,并被限制在公司限制在内部信息中,管理和分析也是极具挑战性的。今天,复杂的算法和分析技术使我们能够解决复杂的情况,我们可以从被动描述发生了什么过渡到主动自动化业务响应。然而,即使具有快速发展的能力,一些组织仍然在数据上苦苦挣扎。
好消息是,机器智能提供了新的方法和技术,可以帮助我们最终克服一些长期的数据难题:
策略数据:MI技术可以以很大程度上自动化的方式应用于数据分类和本体以定义,合理化和维护主数据。MI可以分析每一块数据,其中关系,并创建与数据的质量相近的派生导出。同样,它可以潜在地提供用于补救出现的内容或上下文问题的手段。
有限和有目的:专注于获得商业问题的洞察,如果解决,就能提供更加有意义的价值。让问题陈述的范围决定所需的数据输入、适当的MI技术以及周围的架构和数据管理需求。通过解决这些问题中的一些,您可以获得更大的认可,以将MI应用于更复杂的问题。
夏尔巴人的欢迎(Sherpas welcome):MI正在享受自己的启蒙时代,学术界,初创企业和成熟的供应商都在争相提高能力和添加新技术。考虑与供应商的合作,将是对你的努力的联合投资、与能够提供无限访问宝贵专业知识的学者和思想领袖合作也是如此。
产业化分析:数据已成为关键的战略性企业资产。但是,进行有目的的投入的、全面承诺培养、策划、并在整个企业中利用此资产的企业数量还是很少。工业化分析指的是,为所有维度的数据企业包括机器智能,推动方法、平台、工具和人才的一致性和可重复性的。在策略上,这可能会带来数据摄取,集成,归档,访问,授权,加密和管理的服务。
亚马逊副总裁及 Alexa 总监技术分享
(撰文/玛丽亚·雷兹,副总裁兼CEO技术顾问;Toni Reid,AMAZON ALEXA 总监)随着2017年人工智能历史上最令人兴奋时刻的到来,亚马逊团队现在有能力想得更大更远并探索新的领域。
在亚马逊,我们相信语音将会,并在许多方面已经从根本上改善了人们与技术交互的方式。虽然我们距离能够以人类的方式做事情还有很长的路要走,但我们正处于AI和语音技术的转折点。
Amazon Echo的原始灵感是星际迷航计算机。我们想在云上创建一个完全由语音控制的计算机 - 你可以问问题,请求它做事情,为你做事,为你找到一些东西。很容易的以自然的方式交谈。现在还不能完全做到,但这是我们的愿景。
Alexa的主要功能之一是Echo背后的语音和大脑,它是一个基于云的服务,在自然语言理解以及提高准确性方面总是变得更聪明。因为她的大脑在云中,她每天每小时不断地学习和添加更多的功能,这只会使代表客户创新和添加功能变得更容易。
自2014年11月推出Echo以来,我们为Alexa增加了7000多项技能。她的足迹遍布Echo系列设备,现在嵌入其他亚马逊硬件(Fire TV和Fire平板电脑)和第三方设备,如Nucleus对讲系统,Lenovo Smart Assistant扬声器和LG Smart InstaView冰箱,并将Alexa嵌入到福特和大众汽车公司的汽车中。
在她涉及的领域和她在搜索材料中的准确性方面,Alexa能有效地理解用户。 即使如此,语音技术仍然面临着持续的挑战。 当我们最初开始时,这项技术甚至不存在 - 我们不得不发明它。 我们很幸运可以借助AWS云的力量,我们有令人难以置信的智慧的语音专家团队,包括有才华的语音学家,来努力解决这些问题。
我们认为 AI 对客户的好处和机会可以说是无限的。现在,Alexa 主要是在 Echo 上运行,但将来它可以通过无数的系统和应用程序实现扩展。我们通过使用 vAlexa Skill Kit(ASK),Smart Home Skill API 和 Alexa Voice Service API为开发人员提供一系列免费、自助的公共 API,从而使实施过程变得更加简单。
最终,我们在机器智能,神经网络和语音识别领域的发展将能为我们的客户提供更多新功能。
在网络安全层面,人工智能同时带来了回报和挑战。所谓回报,是指借助机器自动化的高速高效来保证风险控制某些方面的自动化,以快速有效地识别、警戒、触发(或者相反地——消除)潜在的威胁。人工智能对网络系统的杠杆作用可以帮助进行数据分析,并在这些工具识别风险后自动采取特别措施。
具有预知作用的风险和网络模型将数据挖掘的范围进一步延伸到了广大的未知领域,例如暗网,并识别了可能遇到的新威胁。这进一步加强了人工智能在这一领域的有效性。
企业还可以借助人工智能来推进项目,制定策略,以及规划产品。举例来说,通过人工智能的深度学习能力,销售团队可以凭借社交媒体、公共记录或其他网络资源上已经存在的信息,构建起比较详细的客户资料。
不过,人工智能的客户侧写能力也存在潜在缺点:上述过程可能会带来网络安全隐患。人工智能可能会做出一些引发新风险的推断,尤其是当这些推断本身就存在错误的时候。通过建立关联,人工智能也可能会产生一些引发隐私问题的原始数据。归根结底,企业应该仔细考量这些基于推理和关联的原始数据。
确实,随着人工智能在高效和节约成本方面的能力逐渐显现,许多人开始讨论更广泛的伦理和道德问题。目前人类采用的人工智能会对社会、经济和个体组织获取机会方面产生怎样的影响?你的企业如何面对主动出击的人工智能所直接引发的品牌和信誉危机。还有,你的公司能否在已经被描述为“后工作经济”的时代长期生存?
最后,关于风险的讨论也应该包括许多人工智能技术采用“暗箱操作”的现实。眼下,清楚地解释出某些决策和推荐是如何做出的,还不太可能。虽然有呼吁希望能进行算法的透明化,以最终推动审查和理解假设、观察模式和解释结论如何产生的新途径,但这些途径目前现在还不存在。在此之前,尝试确定哪部分的透明度不足可能会是一个问题(法律上、名誉上和学术上),因此需要相应地调整计划。
当我们驶入这些未知水域,CIO、CEO和其他领导者们应该出于对股东利益的考虑,仔细权衡这些名誉、安全、财务以及其他可能会在未来产生的各方面的风险。