人工智能也会中毒，那人脸支付还安全吗？
发布时间：2021-04-27 06:51:50 所属栏目：业界 来源：未知
导读：对于人类来说，下图是非常容易分辨的三类动物：鸟、狗、马。但是在人工智能机器学习算法眼里，这三种动物可能是一样的：一个黑边白色小方块。 这个例子表明了机器学习模型的一个危险特征，我们可以轻易的使用一些小伎俩强迫它对数据进行错误分类。例如在上图
|
训练木马网络非常快，不需要大量的计算资源。不需要知道被攻击模型的细节，也就是说可以攻击绝大部分类型的人工智能模型。不会降低模型在其原始任务上的性能。可以训练木马网络检测多个“触发器”，这允许攻击者创建一个后门，接受多个不同的命令。
木马攻击 能“杀AI毒”吗? 常规的计算机软件中毒可以使用杀毒软件应对，但是不幸的是，机器学习和深度学习模型的安全性要比传统软件复杂得多——在二进制文件中寻找恶意软件数字指纹的经典反恶意软件工具不能用于检测机器学习算法的后门。 人工智能研究人员正在研究工具和技术，以使机器学习模型更鲁棒，抵御数据中毒和其他各种类型的对抗性攻击。(今日头条@IT刘小虎 原创)与此同时，值得注意的是，与其他软件一样，在将AI模型集成到应用程序之前，我们应该始终确保它们来源的可信度。 （编辑：核心网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
