提供3000多款全球软件/控件产品
针对软件研发的各个阶段提供专业培训与技术咨询
根据客户需求提供定制化的软件开发服务
全球知名设计软件,显著提升设计质量
打造以经营为中心,实现生产过程透明化管理
帮助企业合理产能分配,提高资源利用率
快速打造数字化生产线,实现全流程追溯
生产过程精准追溯,满足企业合规要求
以六西格玛为理论基础,实现产品质量全数字化管理
通过大屏电子看板,实现车间透明化管理
对设备进行全生命周期管理,提高设备综合利用率
实现设备数据的实时采集与监控
利用数字化技术提升油气勘探的效率和成功率
钻井计划优化、实时监控和风险评估
提供业务洞察与决策支持实现数据驱动决策
转帖|行业资讯|编辑:王香|2017-02-15 10:38:01.000|阅读 253 次
概述:到现在为止,几乎所有的输入都可以愚弄对象识别模型。以至于当对象识别正确工作的时候我们都无比惊讶。今天,通过一些基准测试测量,对象识别算法的识别能力已经达到人类的水准了,让我们感到惊讶的是,在非正常的输入情况下,对象识别却表现得不尽人意。
# 慧都年终大促·界面/图表报表/文档/IDE等千款热门软控件火热促销中 >>
对抗样本是通过稍微修改实际样本而构造出的合成样本,以便于一个分类器以高置信度认为它们属于错误的分类。垃圾类的样本(如fooling images)是病态样本,即使它们不属于任意一个类,分类模型也会把它们以高置信度划分到某一个类别中去。
一个对抗样本,修改一张熊猫的图片,让机器学习模型将它识别成一只长臂猿。
使用32位浮点值作为网络的输入来执行修改,这个改变是如此的小以至于不会改变出版图像的8位表示。更多细节请参考这篇论文。
这些错误抓住了公众的想象力。在兴奋之余,关于对抗样本的一些误解已经广泛传播。在这篇博客中,我列出了其中的一些误解。
1. 神话:对抗样本并不重要,因为它们不会出现在实践中。
事实:的确,对抗样本不太可能自然发生。然而,对抗样本至关重要,因为训练一个模型来抵制它们,可以提高其非对抗样本的准确性。对抗样本也可能在实践中发生,如果它们的确是对抗性的。例如垃圾邮件发送者试图骗过垃圾邮件检测系统。
训练一个网络来正确分类对抗样本,降低它在训练数据集上的错误率,即使测试数据集的样本没有被扰动。这种技术提升了在MNIST数据集上的最高水平。
2. 神话:深度学习比其他类型的机器学习更容易受到对抗样本的干扰。
事实:到目前为止,我们已经能够为我们测试过的每一个模型生成对抗样本,包括像最邻近这样的最传统的机器学习模型。深度学习是目前为止对对抗训练最有抵抗性的技术。
3. 神话:对抗样本是由极度非线性深度模型导致。
事实:我们最近的实验表明,深度模型的表现是非常线性的。线性模型在外推远离训练数据的区域有着极度的优势。这也解释了对抗性和垃圾分类样本中发生的很多错误。
我们可以描绘出一个输入空间中的线性路径,通过对一张清晰的汽车图像添加不同的对抗性微扰。这里,我们将比例因子范围从-10到+10来绘制出这条线性路径。我们看到,网络的logits输出在远离数据的地方表现为线性。这将导致网络的预测变得极端,垃圾类输入数据以高置信度归为有意义分类。
4. 神话:对抗样本在小数据中很难找到或发生。
事实:空间中的大多数任意点都被误判。例如,我们测试的一个网络,把大约70%的噪声样本以高置信度归类为马。
5. 神话:我们能做到最好的是识别和拒绝处理对抗样本。
事实:拒绝处理对抗样本比将它错误分类要好,不过这不是一个令人满意的解决方案。如果真是一个对抗样本,如垃圾邮件发送者,对抗样本仍然可以通过产生系统拒绝分类的样本而占优势。我们知道这可能是正确分类的对抗样本,因为人们不会被它们迷惑,这也是我们设计模型的目标。
6. 神话:攻击者必须访问到模型才能产生对抗样本。
事实:对抗样本在整个网络中扩散,用来训练执行相同的任务,即使这些模型有不同的架构,由不同训练数据集训练。这意味着攻击者可以训练自己的模型,产生对抗模型来对抗目标模型,然后将这些对抗样本部署到他们不能访问的模型中。
7. 神话:对抗样本可以很容易地用标准正则化技术解决。
事实:我们已经测试了几种传统的正则化策略,包括均化多重模型,均化图像多采样观测(multiple glimpses),用时延权重或噪声训练模型,通过生成模型的推断进行分类,结果均以失败告终。
8. 神话:没人知道人脑是否也会犯相似的错误。
事实:神经学家和心理学家通常研究幻觉和认知偏差。虽然我们无法进入我们的大脑,但是我们可以确认我们没有像现代机器学习那样被同一种对抗样本所影响。如果我们的大脑和机器学习模型一样犯了同样的错误,那么由于交叉模型的泛化属性,机器学习模型的对抗样本将会使我们产生视觉错乱。
总之,对抗样本是一个顽固的问题,研究如何克服它们可以帮助我们避免潜在的安全问题,并且会让机器学习算法对所要解决的问题有一个更准确的了解。
推荐阅读
本站文章除注明转载外,均为本站原创或翻译。欢迎任何形式的转载,但请务必注明出处、不得修改原文相关链接,如果存在内容上的异议请邮件反馈至chenjj@pclwef.cn
通过提供强大的3D CAD数据访问工具并适用于桌面、移动和Web的高级环境3D可视化发动机,HOOPS在提升造船设计和制造流程的效率方面发挥了重要作用。
HOOPS Luminate在汽车行业中的应用具有广泛的潜力和深远的影响。它通过提供高效的3D可视化、虚拟装配与拆解、性能分析、客户定制等功能,帮助汽车制造商在设计、生产和销售过程中提升效率、降低成本并提高产品质量。
在不断发展的软件开发世界中,使工具和框架与最新的平台版本保持同步至关重要,欢迎查阅~
全球航运业对国际贸易至关重要,全球 90% 以上的商品通过海运运输。准确监控和控制这些集装箱的移动对于维持高效的供应链至关重要。手动输入集装箱号码是这一程序的关键部分,它带来了相当大的挑战,例如人为错误和效率低下。
服务电话
重庆/ 023-68661681
华东/ 13452821722
华南/ 18100878085
华北/ 17347785263
客户支持
技术支持咨询服务
服务热线:400-700-1020
邮箱:sales@pclwef.cn
关注我们
地址 : 重庆市九龙坡区火炬大道69号6幢