研究業績
本グループが公表した研究内容とその業績を紹介します。
Paper:
Analysis of Conventional Dropout and its Application to Group Dropout, Kazuyuki Hara, Daisuke Saitoh, Satoshi Suzuki, Takumi Kondou, and Hayaru Shono, Information Processing Society of Japan, Transactions on Mathematical Modeling and Its Applications, Vol.10, No.2, pp.25-32, 2017.
Abstract:
近年、深層学習に用いるネットワークの規模が大きいため、相対的に学習データが不足することが指摘されています。このような時に汎化能力を低下させる、過学習が起きます。深層学習では過学習を防止するための手法としてドロップアウトが用いられます。ドロップアウトは学習中にランダムに選択したユニットや結合を取り除き、学習時のネットワーク規模を小さくする方法です。本論文ではドロップアウトが集団学習やブースティングに類似した方法を用いていることに注目し、ドロップアウトより効率的な学習法として集団ドロップアウトを提案し、その有効性を示しました。
Conference paper:
Analysis of function of rectified linear unit used in deep learning, Kazuyuki Hara, Daisuke Saitoh, and Hayaru Shono, Proceedings of International Joint Conference of Neural Networks 2015, 2015.
Abstract:
深層学習では多くの層が用いられますが、層の数が増えると誤差逆伝播を行うための情報が消える、勾配の消失という問題があります。それに対してReLU(Rectified Linear Unit)を用いることが有効であり、深層学習では標準的な活性化関数となっております。本論文ではReLUを用いることによって深層学習の収束が高速化される、という主張について、理由を明らかにしました。論文ではReLUの線型部分が高速性に有効なこと、特にプラトーを抜ける速度が高速化されることを明らかにしました。
Conference paper:
Analysis of Dropout Learning Regarded as Ensemble Learning, Kazuyuki Hara, Daisuke Saitoh, and Hayaru Shono, Proceeding of International Conference on Artificial Neural Networks 2016, 2016.
Abstract:
深層学習は多くの層を用いたネットワークを用いるため、過学習が深刻な問題となります。したがって深層学習では過学習を防ぐ効果のある、ドロップアウトが標準的に用いられます。ドロップアウトは学習中にランダムにユニットを削除し、学習後に戻す、という方法ですが、この操作が集団学習に類似していることから両者の比較を行いました。その結果、ドロップアウトは集団学習では得られないほど優れた性能を実現できること、それは集団に加えるネットワークを毎回選び直す効果によること、などを明らかにしました。
Paper:
A Novel Deep Learning Optimization Algorithm for Human Motions Anomaly Detection, Yuto Omae, Masaya Mori, Takuma Akiduki, Hirotaka Takahashi, International Journal of Innovative Computing, Information and Control, vol.15, no.1, pp.199-208, 2019.
Paper:
Data Mining for Discovering Effective Time-Series Transition of Learning Strategies on Mutual Viewing-Based Learning, Yuto Omae, Tatsuro Furuya, Kazutaka Mizukoshi, Takayuki Oshima, et al., Journal of Advanced Computational Intelligence and Intelligent Informatics, vol.22. no.7, 1046-1055, 2018.
Abstract:
本論文では、アンサンブル学習の一種であるランダムフォレスト法とマルコフモデルを活用して、パフォーマンスを最大化する行動を推定する方法について論じています。具体的対象として、小学生の行動を定量的に測定するシステムを用いて、成績を最大化する学習行動を求めました。提案手法を応用することで、人の営みを最適化する選択肢を把握することが可能となります。
Presentation:
人工知能によるトレーニング運動の質判定に向けた慣性センサ装着箇所の検討, 大前佑斗, 伊藤浩志, 相原伸平, 宍戸英彦, 松本実, 田村尚之, 中川康二, 櫻井義久, 第13回JISSスポーツ科学会議 オリンピック・パラリンピックとスポーツ医・科学 〜RioそしてTokyoへ〜, 2016.
Presentation:
経営のためのAIとプログラミング言語，豊谷純，渡邊昭廣，若林敬造，日本情報ディレクトリ学会第23回全国大会研究報告予稿集，pp.11-14，2019
Presentation:
ソフトウェア開発のAIによる品質管理, 豊谷純, 村田大治, 情報処理学会第80回全国大会 講演論文集, 2B-02, 2018.
Abstract:
品質管理で利用している項目は、通常は品質管理項目にしか適用しないが、例えばKPIやその他の評価データを目的関数として分析することを考える。そこで膨大な項目の中から関連性の強い項目を洗い出すことによって、赤字プロジェクトに共通する要因を算出する事ができるようになる。本研究では、階層型ニューラルネットワークモデルと、バックプロパゲーションアルゴリズムを適用した。
Presentation:
AIによる店舗の自動グループ分け問題, 豊谷純, 渡邊昭廣, 若林敬造, 日本情報ディレクトリ学会第22回全国大会 研究報告予稿集, pp.19-20, 2018.