時(shí)間:2023-05-29|瀏覽:286
SENet 是2017年的世界冠軍,CBAM 是2018年的分類冠軍,它們都是模型中的注意力機(jī)制。現(xiàn)在任何流行的網(wǎng)絡(luò)都可以嵌入這些模塊。
SENET 模塊:
def SE_moudle(input_xs, reduction_ratio=1): shape = input_xs.get_shape().as_list() se_module = tf.reduce_mean(input_xs, [1,2])#第一個(gè)De
CBAM 是一種輕量的注意力模塊,具有性能優(yōu)異和易于實(shí)現(xiàn)的特點(diǎn)。以下為 CBAM 的文章目錄:
- 論文通道注意力機(jī)制 (Channel Attention Module) - 空間注意力機(jī)制 (Spatial Attention Module) - CBAM 與 ResNet 網(wǎng)絡(luò)結(jié)構(gòu)組合 - 可視化效果圖代表
如上圖所示,在輸入 SE 注意力機(jī)制之前 (左側(cè)圖C),特征圖的每個(gè)通道的注意力程度都是一樣的;通過(guò) SENet 之后 (右側(cè)彩圖C),不同顏色代表不同的權(quán)重,使每個(gè)特征通道的重要性得到了區(qū)分。
CBAM 和 SENet 均是非常優(yōu)秀的模塊,它們都可以應(yīng)用到各種網(wǎng)絡(luò)中。以 CoordAtt (CA) 為例,你可以下載 v0 版本后,在主目錄 models 文件下創(chuàng)建一個(gè) yolov5m_CA 的 yaml 文件,然后根據(jù)需要進(jìn)行修改即可。
以上就是關(guān)于 CBAM 和 SENet 哪個(gè)好的詳細(xì)講解,希望對(duì)你有所幫助。