Recomendados
Más contenido relacionado
La actualidad más candente
La actualidad más candente (20)
Destacado
Similar a Large Scale Jirou Classification - ディープラーニングによるラーメン二郎全店舗識別
Similar a Large Scale Jirou Classification - ディープラーニングによるラーメン二郎全店舗識別 (20)
Large Scale Jirou Classification - ディープラーニングによるラーメン二郎全店舗識別
- 1. 1 Large Scale Jirou Classification ディープラーニングによるラーメン二郎全店舗識別 NTT TECH CONFERENCE #2 2017年8月10日 NTTコムウェア 土井賢治
- 3. 2 自己紹介 名前： 土井賢治 所属： NTTコムウェア ビジネスインキュベーション本部 業務: 機械学習(主にディープラーニング) 道路不具合検出システム開発
- 4. 3 . 1 3 . 2 道路不具合検出システム
- 7. 突然ですが
- 9. 5 . 2 5 . 3 神田神保町店 品川店
- 11. 5 . 4 5 . 5 ラーメン二郎識別のモチベーション 社内勉強会にて、同僚がTensorflowを使って ラーメン二郎4店舗の画像を識別した話を 聞いたことがきっかけ (2017年4月頃)
- 15. 6 . 2 どの店舗の画像なのか推定できる形で収集するのが重要 例えば、画像についたメッセージ 二郎 二郎品川店 二郎品川店 から 品川店 だけを抽出したい
- 17. 6 . 4 6 . 5 目視でノイズ除去 店舗ごとに集めた画像には、 自撮りや店舗外観や券売機、等々 ラーメン以外の画像が結構ある ざっくり15%程度を除去して計33130枚の データセットを準備した
- 18. 収集したラーメン二郎画像の内訳
- 19. 6 . 6 7 . 1 ディープラーニングによる画像分類
- 20. 7 . 2 画像分類の実例 出展: http://acsi.hpcc.jp/2016/download/ACSI2016- tutorial2.pdf
- 21. 7 . 3 CNN (畳み込みニューラルネット) 画像認識分野においてはCNNがデファクト 層の深いCNNの学習を深層学習(Deep Learning)と呼ぶ 出展: http://acsi.hpcc.jp/2016/download/ACSI2016- tutorial2.pdf
- 22. 7 . 4 大規模な学習と精度向上 ILSVRC (ImageNet Large Scale Visual Recognition Challenge) 出展http://acsi.hpcc.jp/2016/download/ACSI2016- tutorial2.pdf
- 26. 8 . 4 分類精度評価 Precision Recall F1-score avg / total 0.326 0.166 0.148 実態としては約3割程度の正解率 Precision(適合率): 検出件数にどの程度正解が含まれるか Recall(再現率): 正解をどの程度検出できるか F1-score: PrecisionとRecallの調和平均
- 31. 9 . 3 出展: CS231n: Convolutional Neural Networks for Visual Recognition
- 32. 9 . 4 9 . 5 ファインチューニングの使いどころ ディープラーニングを利用したいが、 学習データを大量に用意できない場合 通常の学習における問題 大量の学習用データが無ければ精度がでない 最近の性能の良いモデルは学習に1～2週間かかることもある ファインチューニングのメリット 比較的少ないデータでも精度が得られることが多い 学習済みモデルの汎化性能を引き継いだモデルを作成できる 最近は性能の良い各種モデルの学習済みモデルが公開されている
- 36. 9 . 9 分類精度評価 Precision Recall F1-score avg / total (scratch) 0.326 0.166 0.148 avg / total (finetune) 0.816 0.725 0.723 ファインチューニングの方がかなり精度が良い Precision(適合率): 検出件数にどの程度正解が含まれるか Recall(再現率): 正解をどの程度検出できるか F1-score: PrecisionとRecallの調和平均
- 39. 10 . 2 モデルの選択 どのモデルを選ぶ？ → より表現力があり問題の処理に適したモデルを利用 ImageNetで学習済みのモデルが共有されている Alexnet, VGG, ResNet, etc どれを選ぶのがよいか、性能は？学習コストは？
- 41. 10 . 310 . 4 データの追加、精度向上 まずは学習用データの量と質が大事 例えば、路面不具合であれば、 路面が正常なのか異常なのかの判断基準が重要 必要に応じて専門家の意見を仰ぐ等 データ品質を向上させる ※データが極端に少ない場合に高性能な モデルで学習すると性能がでないことが多い
- 45. 10 . 8 モデルやOptimizerを変えて試す モデル: ImageNetで学習済みのinception-v3 learning rate: 0.0001 optimizer: NAdam 各種データ拡張実施
- 48. 10 . 11 分類精度評価 Precision Recall F1-score avg / total (ResNet-50) 0.816 0.725 0.723 avg / total (inception-v3) 0.874 0.839 0.845 先程のファインチューニングの例に出した ResNet-50の場合と比べ識別精度が向上
- 55. 12 . 2 セットアップ $ git clone https://github.com/knjcode/mxnet-finetuner $ cd mxnet-finetuner $ bash setup.sh ホスト環境(GPU有無等)に応じて と が自動生成されます
- 57. 12 . 4 を書く finetune: pretrained_models: - imagenet1k-resnet-50 optimizers: - sgd num_epochs: 30 lr: 0.0001 lr_factor: 0.1 lr_step_epochs: 10,20 mom: 0.9 wd: 0.0001 batch_size: 20
- 58. 12 . 5 12 . 6 ファインチューニング $ docker-compose run finetuner
- 59. 12 . 7 学習結果のグラフ 先程お見せしたグラフが に出力されます
- 60. 12 . 8 テスト test: model_prefix: 201705292200-imagenet1k-nin-sgd model_epoch: 10 にテストしたい学習済みモデルを指定
- 61. 12 . 9 テスト実行 $ docker-compose run finetuner test
- 62. 12 . 10 テスト結果 先程お見せしたグラフが に出力されます
- 64. 12 . 12 ファインチューニング時の各種作業を自動実行 学習データの加工・整形 学習済みモデルの自動ダウンロード 用意したデータのクラス数に応じた学習済みモデルの整形 データ拡張 学習結果のグラフ化、混同行列や分類精度のレポート機能 Slackへの学習結果のアップロード jupyer notebook, etc https://github.com/knjcode/mxnet-finetuner
- 66. 14 参考 深層学習とその画像認識への応用に関する最近の研究動向 CS231n: Convolutional Neural Networks for Visual Recognition Optimizer : 深層学習における勾配法について 神田神保町店のラーメン二郎画像 (http://f.hatena.ne.jp/multiplexer/20090919110638) 品川店のラーメン二郎画像 (http://standaloneramenjiro.hatenablog.com/entry/2015/12/16/22350 道路不具合検出システムをAI技術で実現
- 67. ありがとうございました