毫不奇怪，许多行业正在转向诸如机器学习之类的人工智能（AI）技术来检查大量数据。是否正在分析财务记录，检查某人是否有资格获得贷款或法律合同中的错误，或者确定某人是否患有精神分裂症；人工智能让您安全！但是，这完全是万无一失还是公正的？这项现代技术会像人类一样容易受到偏见吗？偏离的风险因企业，行业和组织而异。他们可以通过多种方式进入人工智能系统。例如，可以通过隐身攻击有意地将其引入到人工智能系统中，或者可以无意地将其引入到人工智能系统中，从而使人们难以看到或发现。这也可能是由于人类输入的偏见数据反映了他们的偏见，或者归因于数据采样中的偏见。当训练数据中缺少某些类别时，我们也会出现长尾偏差。显然，数据中的偏差将导致人工智能模型出现偏差，但更危险的是，该模型实际上会放大偏差。例如，一个研究小组发现67％的厨师是女性，但该算法将84％的厨师标记为女性。深度学习（另一种人工智能技术）算法越来越多地用于影响生命的决策，例如雇用员工，刑事司法系统和健康诊断。在这些情况下，如果算法由于AI偏差而做出错误的决策，那么从长远来看，结果将是灾难性的。例如，2016年，非营利性新闻机构ProPublica对人工智能COMPAS支持的风险评估软件进行了严格分析。 COMPAS用于预测囚犯或被指控的罪犯被释放时犯下更多罪行的可能性。已经观察到，黑人被告的假阳性率（错误率为45％）（标记为“高风险”，但没有再次冒犯）几乎是白人被告的假阳性率（错误率为24％）。 ）。此外，由于种族，性别和种族的缘故，人工智能工具中存在许多错误分类/错误标记/错误识别的示例。就像在同一年，美丽。 AI网站在选美大赛中聘请了人工智能机器人作为评委，发现肤色较浅的人比肤色较黑的人更具吸引力。重要的是要揭示无意的人工智能偏见，并使技术工具与商业世界的多样性，公平性和包容性政策和价值观保持一致。根据普华永道2020年的人工智能预测，仍有68％的组织需要解决他们开发和部署的人工智能系统的公平性。通常，机器学习和深度学习模型通常分为三个阶段：训练，验证和测试。尽管在数据收集之前和深度学习过程的许多其他阶段可能无法感知偏见，但是偏见会在训练阶段影响模型本身。一般来说，线性回归，线性判别分析和逻辑回归等参数算法容易出现高偏差。由于人工智能系统越来越有用，因此越来越依赖于深度学习和机器学习，因此解决人工智能偏差可能会变得更加困难。尽管偏见的解决方案正在加速发展，但关键的挑战是定义偏见本身。这是因为听起来偏向一个开发人员或数据科学家可能并不意味着偏向另一位开发人员或数据科学家。另一个问题是“公平”应遵循什么标准-在人工智能模型中是否有任何技术方法来定义公平？此外，应注意的是，不同的解释可能会引起混淆，并且每次都无法满足。此外，确定数据集中不同子组的错误率和准确性也至关重要。接下来，数据科学家需要考虑社会背景。如果机器学习模型在刑事司法场景中能完美发挥作用，则并不意味着它将适合筛选求职者。因此，社会背景非常重要！毫无疑问，选择多样化的数据可以减轻人工智能的偏见。通过提供更多数据接触点和指标的空间来满足不同的优先级和洞察力是不够的。同时，特定群体的特工的存在使得建立深度学习或任何其他知道所有潜在偏见来源的人工智能模型变得困难。最后，并非所有的人工切屑偏差都会产生负面影响。在这种情况下，可解释的人工智能（XAI）可以帮助区分