論文へのリンク
筆者・所属機関
投稿日付
概要（一言まとめ）
後で読む
混ぜたら精度アップ？不思議なData Augmentation手法「Mixup」
論文へのリンク
筆者・所属機関
Hongyi Zhang(MIT), Moustapha Cisse(FAIR), Yann N. Dauphin(FAIR), David Lopez-Paz(FAIR)
投稿日付
2017/10/25
概要（一言まとめ）
高い性能を持つData Augmentation手法。adversarial examplesにも強い
手法の概要
画像としては、以下のような画像同士がαブレンドされたような画像になる。
コメント
関連情報
次に読む論文
自分なりのアウトプット
気になった英単語・英語表現
- empirical 経験的
- alleviate 軽減する
深層距離学習のメモ
個人的メモ。いつかちゃんとまとめる。
2019年時点での最強の画像判別ネットワーク「EfficientNet」
論文へのリンク
筆者・所属機関
Mingxing Tan(Google Brain), Quoc V. Le(Google Brain)
投稿日付
2019/05/28
概要（一言まとめ）
2019年時点でState of the artの性能を持ち、かつシンプルなネットワーク。
Kaggleのコンペでもよく使われており、自分自身も以下の富士フィルムのコンペで多くの人が使っていたため知った。
手法の概要
コメント
関連情報
オフィシャルのTensorFlow実装
人気のあるPyTorch実装
次に読む論文
EfficientDet: Scalable and Efficient Object Detection
自分なりのアウトプット
気になった英単語・英語表現
富士フィルムコンペのまとめ
富士フィルムで、写真の撮影された年代を当てるという面白いコンペがあったらしい。
なんと、上位者の商品は、フジフィルムのX100Fだったらしい。めっちゃ良い…
FUJIFILM デジタルカメラ X100F シルバー X100F-S
- 発売日: 2017/02/23
- メディア: エレクトロニクス
成績上位者が、解法を解説してくれているのがありがたい。
最近は、画像判別ではEfficientNetというのが強いっぽい。今度試してみようかな。
次回のコンペのときは、ぜひ参加してフジのカメラをゲットしたいなと思った。レベル高そうなので、めちゃめちゃ難しそうだけど。
高性能なSemantic SegmentationモデルGoogle謹製「DeepLabV3」「DeepLabV3+」
論文へのリンク
DeepLabV3
DeepLabV3+
筆者・所属機関
Liang-Chieh Chen(Google), Yukun Zhu(Google), George Papandreou(Google), Florian Schroff(Google), and Hartwig Adam(Google)
投稿日付
2017/6/17 (DeepLabV3)
2018/2/7 (DeepLabV3+)
概要（一言まとめ）
Image Segmentationのサーベイ論文 - からログで性能のよかったとされているGoogle製のモデル「DeepLabV3」と「DeepLabV3+」の論文
手法の概要
DeepLabV3
恐らく、Atrous convolutionとSpatial pyramid poolingの組み合わせがキモなのではないかと思う。この組み合わせはASPP（Atrous Spatial Pyramid Pooling）モジュールと呼ばれて初代のDeepLabからあるもよう。
Atrouns convolutionは以下のようなちょっと変わったCNN。
いまいちrateの定義が使われている場所によって数字が異なり分からない…dilation rateでスキップしているピクセルを表していると思うのだけど…
最初に、このAtrouns convolutionを直列（カスケード）につないでrateとstrideを調整しようとしたのが以下のモデル。
でも、これだとセマンティックセグメンテーションにはストライドが悪さしてよくないらしい。
なので、以下のように並列化（パラレル）したモデルにしている。
ここで、poolingをしているのは、Actrouns convolutionのフィルターがrateを大きくしていくとフィルタの問題点に対する対策らしい。ここがDeepLabV3での改善点のポイントのようだけど、ちょっと理解しきれなかった。
DeepLabV3+
セマンティックセグメンテーションは、主にSPP(Spatial pyramid pooling）モジュールか、エンコーダー・デコーダー構造が使われて、DeepLabV3は、前者に属していたけどDeepLabV3+ではこの両方を組み合わせて性能改善したぜ（エンコーダー・デコーダー構造を取り入れた）というのがポイントの模様。
あとは、Deep learning with depthwise separable convolutionsに、Xceptionを取り入れたらしい（こっちは、他の多くの最新のモデルで取り入れられているのを真似した様子）
コメント
かなり色々な工夫をして精度を高めていることが分かった。よくこんなことを思いつくなという感じはするが、ベースとなるアイディア（ASPP）の他は、他の手法をうまく組み合わせたら性能良くなったという感もある。やはり発想には、うまく組み合わせるセンスに加えて、知識のベースラインが重要だなと実感した。
関連情報
「DeepLabV3+」のPyTorch実装。少し試したけど、なかなか良さそう
「DeepLabV3」のPyTorchオフィシャル実装。Google Colabページへのリンクもあり
次に読む論文
depthwise separable convolutionsというのが、恐らくbackboneモデルのことだと思うが、あんまり分かってないので
自分なりのアウトプット
気になった英単語・英語表現
- atrous 専門用語（atrouns畳み込み）。関連情報参照
- backbone 背骨だが、ここでは専門用語として使っている。関連情報参照
Image Segmentationのサーベイ論文
論文へのリンク
筆者・所属機関
Shervin Minaee(Expedia Inc, and New York University), Yuri Boykov (University of Waterloo), Fatih Porikli(Australian National University, and Huawei), Antonio Plaza(University of Extremadura, Spain), Nasser Kehtarnavaz(University of Texas at Dallas), and Demetri Terzopoulos(University of California, Los Angeles)
投稿日付
2020/01/15
概要（一言まとめ）
セマンティックセグメンテーション、インスタンスセグメンテーションのサーベイ論文
手法の概要
ディープラーニングを使ったImage Segmentation手法の時系列的変化
コメント
性能をみるとDeeplabV3が、最新のモデルにひけをとらず安定して良い性能を示している。
関連情報
次に読む論文
自分なりのアウトプット
気になった英単語・英語表現
- literature 文献
- prominent 著名な
- contemporary 現代の
- quantitative 定量的
