安全问题是AI开发面临的最大挑战。人工智能安全性今年可能井喷。人工智能将用于无人驾驶，人脸识别，智慧城市，智慧家庭等各种场景。但是，一旦后端控制系统受到攻击，就会出现大规模的链状情况。人工智能失控的后果将是不可想象的。阿里巴巴安全专家近日表示：“安全人工智能将成为未来网络安全问题的新解决方案，并将在2019年迎来爆发。人工智能的发展和趋势是确定的，但由人工智能引起的安全问题也在增加。解决AI安全问题时，直接保护有时无法解决问题。在应用大量AI技术之前，AI安全需要从源头上防止更多风险。安全性AI是指在安全性场景中发展起来的AI。凭借更强大和更多样化的功能，它不同于当前的通用AI概念。它更加关注业务安全领域的垂直和深度技术积累，并开发了适应更多安全场景的新一代AI，从而可以发现传统的安全问题新的AI解决方案。基于Q＆amp; A技术，知识图和对抗样本，阿里巴巴安全最近开发了新一代的AI验证代码，该代码使用AI挖掘常识信息作为Q＆amp; A问题库，并增加了对原始图像的干扰有针对性的方式。使人眼识别不受影响，但会大大降低黑色产生的AI编码的成功率。欧盟刚刚发布了《人工智能道德规范》，其中明确提出，人工智能的发展方向应该是可信赖的人工智能，包括安全性，隐私性以及在透明性等许多方面，应用程序已成为一个社会问题，如何解决它们已成为各行各业普遍关注的话题。