消费者和监管机构正在追赶，研究表明如果消费者能够稍微修改AI算法

则他们更有可能使用AI；如果能够在决策过程中发挥作用并具有一定的控制权，他们将更可能相信AI，尤其是当这些决定是从他们自己的用户数据得出的时候，他们迫切要求对算法的结果给予解释权，并研究新的方法以交付可解释的AI或引入人为手段来更深入地控制算法和驱动其结果的数据。

这一变化至关重要，宽恕人为错误，并使AI达到更高的标准是人类的天性

机器应该是可靠的，并且通常以这种方式销售，自动驾驶就是一个很好的例子，他们不熟悉他们的工作方式，更重要的是，今天，当发生车祸时，驾驶员是主要责任方。除非制造商能用自己的汽车解释每一次事故中发生的事情并在事故发生时承担责任，否则自动驾驶汽车的梦想就不可能实现。

可解释的AI提供透明度并建立用户信任

为了使AI真正大规模成功，消费者需要信任为决策过程提供动力的算法，这就要求对AI模型和要输入到算法中的数据保持透明，使用户可以放心，他们的个人数据已被适当地用于告知和改进决策。

这可以使用可解释的AI来实现

从后端开发的角度来看，可解释的AI使模型开发人员，业务用户，监管人员和终用户可以更好地理解为什么做出某些预测并根据需要进行正确的调整，此外它使他们能够在大规模部署之前纠正和改进他们的模型，他们很可能已经发现了数据中固有的偏差，并能够修改某些标准的权重以获得更公平，理想的结果。他们没有这样做，因此面对非常公开，非常尴尬的AI失败。

在您的AI模型中实现可解释的AI以获得用户信任时，请牢记以下五件事：

1.建立算法责任制原则

不向汽车制造商提起超速导致伤害或死亡的诉讼。如果厨刀的制造商的其中一种产品在晚餐准备过程中导致切菜事故，则不承担责任。人类做出导致这些行动的错误决策，而不是制造商或设计师。

人工智能改变了这种动态。如果AI向用户提供指导，则责任继续由用户承担。如果AI在没有人工干预的情况下自动执行决策，那么责任就转移了。数据科学家和数据工程师需要了解，机器做出的任何决定终都是他们的责任，并且他们必须牢记这一责任。他们的雇主也需要意识到这一点，并建立相应的道德，行为守则和文化素养。

2.确保数据质量

在许多情况下，问题的根源不在算法中，而是算法偏差，当通知决策过程的数据不可靠，不准确甚至不公平时，就会发生这种情况，例如之所以会发生这种情况，是因为它是受人为决定的启发，该决定使任意一个用户组相对于其他用户具有特权。AI造成的损害可能是巨大的，因为AI可能会将错误或不公平的决定转变为系统性，自动的并且可以无限规模地运行。

企业需要了解数据质量是AI成功或失败的关键

数据甚至可能被用来欺骗算法以驱动错误的决策，其程度与恶意计算机病毒可以控制您的计算机一样，企业迫切需要制定一个密集的数据弹性计划，使用强大的数据质量引擎以百万种不同的方式测试，监视和拆分数据以确定其质量。运行每个测试，评估每个方案，弄清楚是否可以做出错误的决定，如何做出决定以及如何减轻那些意想不到的结果，再次测试，测试和测试，直到用尽所有场景，您根本负担不起关闭用户，使您的组织尴尬或造成伤害的生产投入。

3.在您的敏捷开发过程中构建可解释的AI

敏捷实现了一个连续的开发过程，同时在整个软件生命周期中进行了质量控制。这些质量控制应在流程中内置可解释的AI。从软件选择过程和产品开发的一开始就执行此操作，然后在数据产品进行更新并添加特性和功能时进行跟踪。由于每个构建在投入生产之前都经过了代码错误和客户体验瓶颈的测试，因此还应该针对可解释的AI进行测试。通过更新的软件运行数据，以确保继续产生预期和期望的结果，然后进行必要的更改。请注意，如果您的业务受到GDPR的监管，那么这不仅是做法，而且是规定的合规性要求。

4.确保有人在循环

机器不会感到后悔，后悔或任何责任，在AI循环中的某处插入某种人为触摸至关重要，不是检查错误或减慢过程，而是在学习过程中充当教练的角色，以推断出公平的决定或充当良心和决定的控制者，有人需要问为什么要做出决定，以及机器采取自主行动的伦理意义。

5.对用于通知决策的数据保持透明

建立对AI模型的用户信任时，透明度至关重要，可能会受到您的算法影响的每个人，包括根据个人数据推断决策的消费者，都需要一种方法来理解您的数据产品正在做出的决策，您不一定需要发布算法，那样可能会放弃知识产权，并且可能会使用户感到困惑，但是您应该明确说明基本的决策路径和相关的数据驱动程序。

 客服热线：400-050-6600

商业联合会数据分析专业委员会