跳至内容
深圳市捷比信实业有限公司 · 产品选型与采购咨询联系业务人员
薄膜电阻捷比信 · 专业器件主题站

人工智能应用中存在八个不可忽视的主要弱点

人工智能正在推动一场新的工业革命。它的影响范围很小,涉及个人生活,而影响范围很大,它影响到国家安全,使人们在期待它时感到有些担忧。实际上,人工智能的当前发展状态与未来主义者或科幻电影所做出的假设并不完全相同。真正的进步在哪里?当前,越来越多的行业正在开发人工智能技术。新概念和新算法层出不穷。但是,人工智能的主要应用领域是图像识别和语言翻译。图像识别方面的进步胜于语言翻译。 ,前者在某些指标上超过了人类的水平,但是语言翻译能力仍然不如人类。这是技术进步的基本情况。具体来说,人工智能可以完成以下四个方面的工作。一是数据分类。人工智能可以对图像或声音等数据进行分类,在安全领域对相机收集的数据进行处理以及对医学图像进行识别和诊断。这两个领域发展迅速,具有广阔的工业前景。第二,异常检测。人工智能可以帮助检测异常行为,例如欺诈性金融交易或新的恶意软件,并可以用于实时监视大规模数据。中央银行和其他市场金融机构正在研究类似的应用程序。第三,预测。从海量数据中发现某种模式后,人工智能可以根据统计特征预测未来的行为。它广泛用于自动填充搜索引擎,在线购物平台上的视频和产品推荐等领域,也可以用于天气预报。第四,优化。人工智能可以优化复杂的系统和任务。例如,美国的“深度思考”公司使用机器学习来优化Google数据中心的能源效率,节省40%的冷却能源,并将整体能源效率提高15%。总而言之,人工智能确实具有许多优势。它的响应时间比人类快。在许多领域和场景中,它比人类具有更好的准确性,可靠性和敏捷性,并且比人类更具耐心和警觉性。同时,它可以独立于人类工作。应用程序中不容忽视的弱点不容忽视的是,当前的人工智能技术也存在弱点。美国智囊团“新美国安全中心”最近发布了“人工智能:每个决策者需要知道的内容”。报告,暗示了人工智能的一些弱点。它可能对国家安全和其他领域产生巨大影响。首先,脆弱性。当前的人工智能系统仍然无法理解场景或背景之外的行为。它不会暴露象棋或游戏之类的固定规则范围内的这种弱点。一旦场景变化或变化超出一定范围,人工智能就可能无法“思考”。立即地。第二,不可预测性。用户无法预测人工智能将做出哪些决定。这既是优点也是风险,因为系统可能会做出与设计者的初衷不符的决策。第三,可解释性差。人工智能可以帮助人类做出好的决定,但是做出决定的原因仍然是“黑匣子”。例如,图像识别功能可以在图片中找到校车,但无法解释哪些图像功能使它做出了这样的判断。在医学诊断领域,诊断原因通常很重要。第四,安全问题和漏洞。机器将专注于结果而不是过程。通过发现系统中的漏洞,可以从字面上实现目标,但是采用的方法并不一定是设计人员的初衷。例如,该网站将推荐一些极端主义的视频,因为令人反感的内容可能会增加浏览时间。再举一个例子,网络安全系统将确定人员是破坏性软件植入的主要原因,因此根本不允许人员进入系统。六是系统事故。在无法共享算法的对抗环境中,系统错误很容易发生,导致无法计算的决策。例如,在国家安全领域,两种相互竞争的算法将采用某些行为,这些行为会导致毁灭性后果,从而获得优势。尤其是在网络安全和电子战的过程中