【AIML】事前学習モデル（pre-trained models）と転移学習（transfer learning）って知っていますか？

こんにちは。SCSKの島村です。

AIMLの勉強をしていると、「事前学習済みモデル（pre-trained models）」　という言葉を目にする方も多いと思います。実際に、Google CloudやAWSのAIサービスの中にも「事前学習済みモデル」との記載があるものも少なくないと思います。

また、機械学習における「事前学習モデル」と一緒に登場するキーワードとして「転移学習（transfer learning）」とう言葉もあります。

今回は、そんな機械学習における「事前学習モデル（pre-trained models）と転移学習（transfer learning）」について、簡単にご紹介できればと思います。

事前学習モデル（pre-trained models）と転移学習（transfer learning）とは？？

機械学習モデルで高い性能を実現するためには、質のいいデータで大規模に学習させる必要があります。しかしながら、実際にデータを収集するにはセンサーの設置やネットワークの構築などのコストがかかるため、大規模データの収集は容易ではありません。

また、異常データなど絶対的に量が少ないデータも数多くあるのが現実です。

そこで、少量のデータを活用して高い性能を実現する方法として、収集しやすい一般的なデータで汎用的に使える事前学習済みモデルを構築し、そこに収集した少量の学習データを用いて学習させるような手法を用います。

この学習方法を転移学習と呼び、転移学習の基盤となる事前学習済みモデルについては、用途に合わせて様々なものが提供されています。