少しの論理的思考で人生を豊かにする。

ドイツの研究者のブログ。ライフハック的なことだったり、仮想通貨に関してだったり、機械学習だったり。雑多なことを書き連ねます。

統計と機械学習の違いってなに?

統計と機械学習の違いってなに?これに答えます。

f:id:masa_crypto:20180909072321p:plain

 

データを使って、何かしらの有益な情報を得たい、というのは分野に関係なく求められることだと思います。まぁ良く使われるのは平均値だったり相関係数だったり、もう少し進むと回帰分析で簡単なモデルを作ったり。これは統計よね。

 

で、近年ビッグデータとか人工知能とかで脚光を浴びている機械学習(ディープラーニングなんてのも聞いたことあるかもしれません。これも機械学習の発展系です)。データを解析する、という点では統計と同じです。じゃあ、結局機械学習と統計、何が違うん?というのが今日の小咄。

 

僕はこれまで研究者として機械学習の論文を読み漁り、それらをまとめた総説なんてものも書いたりしているので、専門家です。データ解析コンサル的なこともしています。ただ、多様な解釈のうちの一意見に過ぎないという点はご注意を。

 

 

要点

1.統計は物事の解釈をするために、機械学習は予測をするために

2.統計は複雑なものを単純化する、機械学習は複雑なものを複雑なものとして扱う

3.統計はデータに強い仮定を置く、機械学習は仮定を置かない

 

統計?

統計は、たくさんのデータをいかに単純にまとめあげて傾向を掴めるか。統計は、ある問題が起こった場合の傾向、物事の全体像を掴みたい!というところを発端にしています(関連:統計の歴史を振り返る〜統計の3つの源流〜|統計学習の指導のために(先生向け))。要は、本質をとらえた少しの情報で説明したい

 

平均や分散を出すのも、仮説検定をするのも、あくまで人が物事を考える上でデータそのままだと情報が多すぎるから、なんとか情報量を減らして、物事をもっとシンプルに捉えたい、というところです。

 

で、どうやって単純化するか、ですよね。これの肝が「確率分布」になるわけです。データのばらつき、というのは、「ある確率分布に従う」という強い仮定を置くと、サンプル数が100個だろうが1000個だろうが、わずか数個のパラメーターというもので代表出来てしまう訳です。日本人男性全員の身長のほとんどが、171±5㎝で説明出来てしまう(値は適当です)、といったように。また、回帰分析なんかでも、どの変数が関係するか、場合によっては交互作用をもっているか、なんてのも仮定しないといけない。なので、基本的にはあくまで人の思考が前提にあってそれをサポートするのが統計なわけです。

 

 

機械学習?

機械学習は、たくさんの数値データからいかに精度の高い予測ができるか 。機械学習は、基本的に人工知能の一分野であり、「人間のニューロンを模したらイケてるんじゃね?」「どうやったらデータを人間の介入なしに機械が勝手に解析してくれるかな」というところからきてます。それには、少しの情報にまとめる必要な必ずしもなくて、とにかく精度の高い判断(要は予測)ができるものをデータから作りたい

 

統計とは全く異なります。平均や分散を出すのも、仮説検定をするのも、あくまで人が物事を考える上で必要なこと。そんなのは関係ない。そういった人間の思考で見落とすことがないよう、データのありとあらゆる情報を勝手に抜出して、データ内での関係の強いパターンを勝手に見つけ出したい。データそのままだと情報が多すぎるから、なんとか情報量を減らして、または確率分布のような仮定を置いて物事をもっとシンプルに捉えたい、なんてもってのほかだ!情報はとりあえず全部使ってみて、使える情報だけ残す。人の意思をデータ解析に極力介入させず、データのみで勝負する。これが機械学習。

 

 

 

 

余談ですが、決定木(CART)・バギング・ランダムフォレストなどの生みの親Leo Breimanさんのお話しを。サンプル数が数十個しかないのに、予測に使いたい説明変数が数千個とかある、という状況にでくわしたBreiman(どの遺伝子が癌の発現率に関係しているか知りたい、といった状況を想定して下さい。株価の予測でもいいです)。統計では、基本的にサンプル数は説明変数よりも5-10倍多くないと経験則的に苦しいです。なので、当然既存の統計手法なんてものは全く使えない。それでもコンサル的になんとか予測できるモデルを作らなきゃならない。そんななか、思いついたのが彼の機械学習アプローチらしいです(参考:Breiman 2001)。

 

なお、他の方々もこういった文章を書いたりしているようです。

きっと参考になると思います。

例:

tjo.hatenablog.com

qiita.com