以下文章来源于极市平台 ,作者CV开发者都爱看的
导读
伪装目标检测已经取得了巨大的成功,然而一般方法严重依赖于在大数据集上像素级别的标注。本文提出第一种只需要涂鸦标注(scribble annotations)的弱监督伪装目标检测算法。
论文链接:https://arxiv.org/abs/2207.14083
源码链接:https://github.com/dddraxxx/Weakly-Supervised-Camouflaged-Object-Detection-with-Scribble-Annotations
简介
伪装目标检测已经取得了巨大的成功,然而一般方法严重依赖于在大数据集上像素级别的标注。本文提出第一种只需要涂鸦标注(scribble annotations)的弱监督伪装目标检测算法。涂鸦标注一般只能给出物体的主要结构,但是一种可以显著减少标注成本的方法。
目前缺少弱监督伪装目标检测的研究。使用类似任务--基于涂鸦标注的弱监督显著目标检测算法在这里直接使用不十分合适,在伪装目标检测中弱监督显著目标检测算法容易出现不能很好地学习语义信息等问题。
本文通过设计特殊设计的损失函数实现弱监督任务。通过特殊设计的特征引导损失函数指导分割任务。该损失同时考虑视觉亲和性和高级语义特征。另外这里提出了局部上下文对比损失(LCC)函数增强对比中视觉抑制,找到潜在的伪装区域。并使用语义视觉关系(LSR)确定最终的伪装物体区域。
方法
本文提出的模型如下图所示。这里使用 local-context contrasted(LCC)和logical semantic relation(LSR)模块分别提取低级别和高级别特征。另外这里使用辅助全局提取器(Auxiliary Global Extractor,带GELU激活的金字塔池化模块)进一步提取全局语义特征。
LCC模块
由于伪装目标常常与背景共享低级别特征,不明显的差异是不容易被注意到的。本文模型使用Local-context Contrasted(LCC)模块提取和加强低级别特征差异。这里的LCC模块包括两个不同感受野的低级别特征提取器获得局部和上下文特征。LCC模块可以帮助涂鸦标注扩展到潜在的伪装目标。
LSR模块
涂鸦标签可能标注了一部分背景区域。本文使用Logical Semantic Relation模块识别真实前景与背景。LSR包含4个分支,一个分支包括一系列不同核大小的卷积层。之后融合所有分支利用有更大感受野的综合语义信息确定前景和背景区域。
特征引导损失函数
COD中常常需要语义信息决定前景与背景的精确边界。本文设计了基于简单视觉特征和复杂语义特征的特征引导损失函数。
基于视觉特征的上下文相关性损失 一般的有相似特征的像素有相同的类别。这里使用核函数测量可视化特征相似度。
其中和分别是像素的位置和颜色。
这里定义为像素和有相同标签的概率,为像素属于正标签的概率。
这里上下文相关性损失函数定义为:
基于语义特征的语义重要性损失函数 COD任务中边界附近的像素点特征彼此相似。语义重要性损失函数(Semantic Significance Loss)在边缘区域内计算。具体计算上将图像划分为8*8块。边界区域定义为超过30%像素被分类为背景或前景。第通道的重要性定义为:
是第通道特征图。
与上下文特征相似计算相似,语义特征相似度定义为:
这里选择根据排序前N通道的特征图。语义重要性特征定义为:
一致性损失
弱监督算法常常遇到不一致预测的问题。与自监督和半监督算法类似,本文提出使用跨视图一致性(Cross View Consistency )损失缩小输入与变换后的输入得到输出间差异。另外由于背景和前景视觉相似度导致预测不确定的问题,本文设计了视图内(Inside-view)一致性损失函数改善预测稳定性问题。
跨视图一致性损失函数 理想情况下经变换后的输入经过神经网络输出一致,即。跨视图损失函数定义为:
考虑到稳定性,实际使用的损失函数为:
视图内一致性损失函数 核心思想是通过减小熵鼓励高确定性的预测结果。
和分别是全部像素和有噪声的像素。
最后一个损失函数即所有像素点的交叉熵损失函数:
实验
本文方法与两种弱监督和两种无监督SOD方法、全监督COD算法的比较实验结果。本文方法在四个指标上都超过了之前提出的弱监督无监督和全监督算法。
可视化结果:
表2给出了不同模块的ablation实验。这里实验基于有挑战性的CAMO数据集。可以看出只是用backbone的模型精度最差。使用LCC或LSR模型在不同的指标上有所提升。图7给出了不同模块组合的可视化结果。可以看出只使用LCC模块可以得到有较低视觉对比度的伪装目标但可能被复杂背景干扰。只是用LSR模块可以分析不同部分的逻辑语义关系,但可能不能分割得到准确的边界。组合LCC和LSR模块可以得到更好的分割效果。
转自:“arXiv每日学术速递”微信公众号
如有侵权,请联系本站删除!