|
・「AlphaGo（アルファ碁）」を見る
・「AlphaGo」を読み解く（仮）
・「境界に生じるノイズ」
（約12000字）
新規の話題ではなく、これまでの話題のおさらいです。
・[3099] 「分ける」はなし、「分けない」はなし
・[3094] 学研キッズネットを読み解く
・[3166] 「エキスパートシステムの構築」を読み解くためにプログラミング言語の系譜を読み解く（試）
・[3169] 研究ホワイトボックス（9） 他分野の知見に学ぶには〜健常者における認知機能の詳細な測定を例に
・[3097] 「公共政策の経済評価実習」を読み解く
・[3254] 大洗鹿島線へのJR車の乗り入れ計画の中止（1991年）をATACSで読み解く（至）
・[3225] 「駅ナンバリングの実施」を読み解く
・[3274] 「新越谷ヴァリエ」「北千住駅北側地下コンコース店舗」「エキア朝霞」それに「西新井トスカ」を読み解く
・[3269] 東京圏の自動アナウンス 2020
このフォーラムのトップページに「最近の主な話題」を表示してございます。
> AIの開発・研究の前に知っておきたいこと。プログラミングとともに学びたい「組合せ数学」「グラフ理論」「確率」ほか。
> AIの学習を阻むとみられる「境界に生じるノイズ」の一般化を試みます。
この数日、こういう系統の話題が新聞そしてテレビで続いておりました。
・文部科学省「小学校段階における論理的思考力や創造性、問題解決能力等の育成とプログラミング教育に関する有識者会議について」（2016年4月19日）
http://www.mext.go.jp/b_menu/shingi/chousa/shotou/122/houkoku/1370400.htm
・朝日新聞「プログラミング教育、必修化めぐり議論開始 文科省」（2016年5月13日）
http://www.asahi.com/articles/ASJ5F3JP4J5FUTIL00L.html
> 文科省はプログラミング教育について、２０２０年度からの次期学習指導要領に盛り込みたい考え。
> 教科を新設するのではなく、理科や総合の時間などへの導入を想定している。
> １３日の会合では委員から「プログラミング言語そのものでなく、コンピューター的な考え方を教えるべきだ」「小学校ではまずプログラミングを学ぶ楽しさを知ってもらうのが全て」などの意見が出た。
・NHK「プログラミング 世代問わず受講の動き広がる」（2016年5月15日）
http://www3.nhk.or.jp/news/html/20160515/k10010521911000.html
> プログラミングとは、コンピューターに特定の動作や処理をさせるためのプログラムを作るために必要な技術です。
> 具体的には、プログラミング言語と呼ばれる英語や記号を組み合わせた専用の入力方法を使って、コンピューターの動きを決めていきます。
> また、こうした動作の種類や用途、パソコン向けか、さらにスマートフォン向けかといった環境の違いなどに応じて、さまざまなプログラミング言語が存在しています。
うーん！ うーんっ！！ …ゲフンゲフンです。
★「AlphaGo（アルファ碁）」を見る
・NHKスペシャル「天使か悪魔か 羽生善治 人工知能を探る」（2016年5月15日放送）
https://www6.nhk.or.jp/special/detail/index.html?aid=20160515
※5月18日に再放送があるそうですよ、と記しておきます。念のため。
羽生氏が「てん使」か「あく魔」か、を問うているようにも読めてしまうのは気のせいでしょうか。
番組には松尾センセイ（[3101]）のクレジットもあり、おお、この界隈なら既にみなさまだいたい同じシナリオといいますかイメージといいますか、共有されているソレを、きわめて正確になぞって、テレビ番組というフォーマットの枠内で「うまく起こして」、という雰囲気でした。
「AlphaGo（アルファ碁）」について、きちんと見たのは初めてだったのですが、こう、「とっ飛！」な「秘さく！」で人に『勝った』のではなくて、この界隈（研究コミュニティ）での「新しい常識」（[3099]）に遅滞なく沿って、きわめてスピーディーな開発をなさった、と見受けられました。
番組の6分30秒あたりから「AlphaGo」の説明があります。また、16分過ぎから、より詳しい説明があります。最初の段階ではプロ棋士の棋譜データベース（「15万局分の盤面を画像として与えた」）で学習（「勝ちにつながる局面に共通して現れる石の並び方を自ら見つけ出した」＝教師あり学習）し、その先は同じAIどうしで『対局』を重ねて（「その数、実に3000万局。人間が毎日10局打ち続けても、8200年かかる」＝シミュレーション）学習を進めた（＝強化学習）と説明されていました。これぞAI、というソレですね、わかります！
プロ棋士に勝とうといって策略を練るような人為的な部分のあるプログラム（いわゆる『思考ルーチン』）でなく、純粋にAIであるということです。「15万局分の盤面を画像として与えた」という初期の学習の段階は、（人が）入門してからプロ棋士に上り詰めるまでのプロセスと本質的には同じはずですが、その先の強化学習の段階が、人では成し得ない、コンピューターならではのプロセスだというわけです。
※「囲碁の歴史で、まだ人間が考えついていない未知の戦法を、AlphaGoに発見させようとした」とのナレーション（！）もあり、笑えばいいと思うよ…じゃなくて、（8200年も生きられない人間としましては）ごめんなさい。こういう時、どんな顔すればいいのか、わからないの。
・Wikipedia「Demis Hassabis」
https://en.wikipedia.org/wiki/Demis_Hassabis
> After running technology companies for several years, Hassabis returned to academia to obtain his PhD in Cognitive Neuroscience from University College London (UCL) in 2009
・関西棋院「プロ棋士が見るアルファ碁の実力」
http://kansaikiin.jp/alphago/
とってもわかりやすくまとめられています。機械翻訳の例がちょっとアレ（※）ですが、囲碁とAIに関しては完ぺきな記述だと思いました。（受け止めかたには個人差がございます。）
※囲碁と似ているといえなくもない「台風の進路予測」のほうがしっくり来るのではないでしょうか。
> これらは、我々人間からすると「勝手読み」のようですが、統計分析を得意とするコンピューターとしては、恐ろしく精度が高い勝手読みをしていることになります。
> ここがアルファ碁の実力を理解する重要なポイントで、必ずしも「最善」を打っているわけではないということです。
> これは一手一手常に、「普通の手」つまり良くも悪くもない手を打ち続けられることを意味しています。一方、人間であるイ・セドル九段は、当然「普通の手」以下を打つことがあるので、その瞬間に人間は負けになるわけです。
> まだ人間が負けていない部分があります。それは大局観や、厚みの価値判断です。
> 90%近くは人間から見た良い手ではあっても、厚みの価値や感覚が分かっていないので、大局観としての善悪判断はできていないというのは押さえておかなければいけないでしょう。
> 話題になった第２局目37手目のカタツキを例にします。「プロが考えない手」を打ち、とうとうコンピューターはプロを越えたのかと話題になりましたが、囲碁の特徴として、局面が煮詰まるまではどこに打っても結果はそれほど違わない状況が多くあります。
> プロは「良くも悪くもない手」よりは「良くなる可能性が高い手」を選ぶ傾向があるので、黒１は選択肢には入りません。
> 我々プロの認識として改めなければいけないのは、黒１は良い手ではないが悪い手でもないという点でしょう。ただ、プロは選ばない手ということです。
> 自分の碁の敗因を知りたい時などにソフトを使えば、何かしらの答えは示してくれます。しかし、前章でお話しした通り、コンピューターは必ずしも良い手を示しているわけではない上に、良いとしてもなぜそれが良いのかは分かっていません。
> コンピューターが示す良い手(らしき手)は分かったが、どうしてそれが良いのかを説明してよと言っても、これまた統計解析によって決められた定型文のような回答しか出せないというのが現在の人工知能の実力のようです。
> ここには人間がなぜこの手が良いのかと、解説できる価値が残されています。今後は、コンピューターを使って様々な展開図を検索した後、その手の意味を説明できる人が楽しめる時代になるかもしれません。
勝ち負けを超えて囲碁を楽しもうという気概あふれる記事で、とっても好感されます。
・関西棋院「この記事を書いた棋士 勝間史朗七段 プロフィールはこちら」
http://kansaikiin.jp/kisi_prof/katsumashirou.html
> 好きな言葉 子ども叱るな自分の来た道。年寄り笑うな自分の行く道
…さっ、さすがですっ。
そして、囲碁（10360）も将棋（10220）もチェス（10120）もほとんど理解しないまま書いた[3099]が、さほど的外れではなかったとわかってホッとします。
・[3099]
> 人の「成長」とプログラムの「成長」が異なるのは、後者では「いつ、何が、どのように、どのくらい」「成長」したのか（いかなる入力に基づき、何をどう変えたことで、出力の精度がいかほど高まったか等）を、すべて自動で「追跡可能でトレーサブル」だということです。「頭痛が痛い」…いえ、人には耳が痛い、あるいは「積極的に」と力を込めて言いながら目を大きく見開いて…いえ、目を皿にしてもなお見逃してしまう、たいへん『ささいで重要』なことをすべて「記録に残してアーカイブ」できるんです。もう、それだけで（それだけといえばそれだけのことでもあるわけですが、それでもなお）スゴイですよね。
> 研究室の片隅に「常設」された「仮眠用ベッド」でぐごーぐごーすぴーと豪快に『仮眠』をとりながら「もう食べられないよ」などと
> ・1. 局面や指し手の網羅的なモデル化
> ・2. 「アマ三段らしさ」「名人らしさ」といった、人（個人）に依存しない「強さ」の解明（強くなるステップ＝「単元」の明確化や定量化）
> ・3. 「H王位らしさ」「W棋王らしさ」「N六段らしさ」「S女流名人らしさ」の解明
番組だけでなく関西棋院の記事もあわせて読みながら認識を新たにした点としましては、『普通の手』が、「依存関係を断つ（局面を変える？）」とも「後から『役に立つ手』に変わる？」ともいえそうであるということです。
（棋士でない「普通の人」も含め一般に）人間がものごとを順序立てて考えているところ、ディープラーニングでは時間軸はほとんど無視しているんだと、それがかえって「柔軟性」を持つことになって（プロ棋士との対局では）「負けにくい」ということにつながっているのではないか、と思えてきます。
プロ棋士が「良くなる可能性が高い手」ばかりを選ぶということは（※相手との探りあいも「みどころ」なのでしょうけれども）、かえって後々の選択肢を狭める「恣意的な手」を打ったということにもなるでしょう。「後からいかようにも使える手」というのは、カードなゲームでいうところの「切り札を温存」、一種「貯金！」であって、「AlphaGo」では、人間とは比較にならないほど「貯金どっさり状態！」を一種「キープ！」することができていて、現状では、主にこの点で「圧倒的な優位」に立っているのではないかと想像できそうです。本当でしょうか。
・（参考）「台風シミュレーションを用いた設計風速の推定」清水建設研究報告（1995年4月）
http://www.shimz.co.jp/tw/sit/report/vol61/61_005.html
http://www.shimz.co.jp/tw/sit/report/vol61/pdf/61_005.pdf
※「AlphaGo」のようなディープラーニングと比較される、従来の手法としてのモンテカルロ法の一例です。しかし、囲碁のソフトウェアにおける従来法のモンテカルロ法といって、その実、MCMCであって、素朴な「サイコロでランダム！」とはまったく別物ですよね、たぶん。関西棋院の記事では、その点があやふやであるように見受けられました。
・Google ストリートビュー 「5 New Street Square」付近
https://goo.gl/maps/m6auv7rksWD2
★「AlphaGo」を読み解く（仮）
といって、もう少しちゃんと読まないといけないと思いました。
・Google Research Blog「AlphaGo: Mastering the ancient game of Go with Machine Learning」（2016年1月27日）
http://googleresearch.blogspot.jp/2016/01/alphago-mastering-ancient-game-of-go.html
> The search space in Go is vast -- more than a googol times larger than chess (a number greater than there are atoms in the universe!).
※「googolplexplex」（[3099]）も参照。
※順序を入れ替えて引用します。
> AlphaGo isn’t just an ‘expert’ system built with hand-crafted rules, but instead uses general machine learning techniques to allow it to improve itself, just by watching and playing games.
おお、まさに純粋なAIですぞ。
> One neural network, the “policy network”, predicts the next move, and is used to narrow the search to consider only the moves most likely to lead to a win.
> The other neural network, the “value network”, is then used to reduce the depth of the search tree -- estimating the winner in each position in place of searching all the way to the end of the game.
「policy network」と「value network」があり、これを使って（あくまで「使って」）「手」を探索するプログラムが走るとのこと。探索は「木構造」とのことで、個人的には「合流」（フィードバックやフィードフォワードのループ[3125]※）が明示的には扱われていないのが納得できませんけれども、計算の都合上ということですね、わかります。
※AIが叫びたがって…いえ、相手の「手」という「かく乱」があっても、一種「受け流し」ながら、（自分としては）こういう局面に持ちこみたいんだ、というのが「（能動的な意味での）大局観」であって（ですよね）、ソレがないということです。たぶん。…いえ、そのような「こだわり」がないから強いんでしょうか。そこまではわかりかねました。（恐縮です。）
> During each simulated game, the policy network suggests intelligent moves to play, while the value network astutely evaluates the position that is reached. Finally, AlphaGo chooses the move that is most successful in simulation.
どの局面でも、一種「自分の中」に「2人のじぶん！」がいて、提案と評価のだましあい…いえ、せめぎあいを経て、勝ち残った「手」を実際に指すということです。この、特に評価のほうのニューラルネットワーク（「value network」）が、従来のルールベースのもの（※）とは比較にならない適確さ（少ない計算で精度よく評価できる、の意）を備えていると想像されます。
※形式的にはニューラルネットワークを用いていても、そのおおもとがルールベースであったり、人が考える「有利な方策」に恣意的に加点したり、人があらかじめ（かなり）選別した棋譜だけを用いていたり、というソレ、の意。
> We first trained the policy network on 30 million moves from games played by human experts, until it could predict the human move 57% of the time (the previous record before AlphaGo was 44%).
研究としては、一応は（※）「よりよく人を模倣できること」が追求され、その精度（同じ局面で、人と同じ判断をできた割合？）を「44％」から「57％」に高めることができた、というのが（Natureに投稿した）成果だということです。
※人の判断が必ず正しい、100％に近づけるのが目標だ、…とは考えられていないはず、というのが「一応」ということです。たぶん。
この割合そのままでプロ棋士と対局されたのであれば、確かに10手のうち4手は「人とは違う手」であったことになりましょうが、しかし、「そういう手もあるかな（≒なんでまあ、そんな手を打つかな）」という程度の受けとめに留まるかもしれません。そうした中、対局全体の中で数手ほど「これまで経験したことのない手（≒鮮やかな手！）」だと受け止められる「手」が繰り出されたとしても、それは偶然でしょ（10手のうち4手の割合で打たれる「人らしからぬ手」との区別を「AlphaGo」ができているわけではない＝「AlphaGo」としては、10手のうち10手とも、たいへん平たく、一定の基準で判断しているはず）、ともいえます。本当でしょうか。
> AlphaGo learned to discover new strategies for itself, by playing thousands of games between its neural networks, and gradually improving them using a trial-and-error process known as reinforcement learning. This approach led to much better policy networks, so strong in fact that the raw neural network (immediately, without any tree search at all) can defeat state-of-the-art Go programs that build enormous search trees.
強化学習されたのは「policy network」だけで、「value network」はあくまで、「15万局分の盤面を画像として与え」て「勝ちにつながる局面に共通して現れる石の並び方を自ら見つけ出した」という初期の学習によって構築されたニューラルネットワークそのままであると読めます。本当でしょうか。
しかし、「policy network」について「30 million moves from games played by human experts」とあり、「3000万局」というのは初期の学習に用いた数だと読めるのですが、番組のほうが何かおかしいのでしょうか。
強化学習では「thousands of games between its neural networks」とあり、えっ！ （「Nature」に投稿した段階では）「数千局」しかシミュレーションしていないですって？ 番組で紹介された数字とはだいぶ違いますね。（ブログの）1月から（ソウルでの対局の）3月までの間に、さらに開発が進んだということかもしれません。わずかな期間での「3000万局」の計算を可能にしたのが「Google Cloud Platform」なんです！ …といって、ごめんなさい。こういう時、どんな顔すればいいのか、わからないの。
※3000局なら毎日10局で1年もかからずに…などと（略）。
・「フィードバック制御とフィードフォワード制御」
http://www.rkcinst.co.jp/techno/14/techno_14.htm
※理解が正確かどうか自分ではわかりません。研究上の必要のあるかたは、（あたりまえですが）きちんと論文を読むべきです。
★「境界に生じるノイズ」
AIの学習を阻む（精度を下げる）要因には、▼正解データの質や量、▼恣意的な加点、▼過学習（[3100],[3142]）などあることが知られていますが、これらと違って、まだあまり気にされていないかなぁ、と思われるのが▼「（データなどの分割の）境界に生じるノイズ」だろうと思っています。（見解は個人です。）
・ルネサス エレクトロニクス「電気ノイズの主な種類」
http://japan.renesas.com/products/package/characteristic/power_01/index.jsp
> 切り替えタイミング
> 特性インピーダンスの違う2つの部分が隣り合う境界面
> 反射などの原因により、その繰り返しタイミングに揺らぎ
ひとくちにノイズといって、EMC的な意味で、▼クロストークと減衰（古典的な電磁気のソレ）はわかりやすいですが、▼時間方向のソレであるタイミングのソレ（制御のソレ）、さらに▼境界面の反射（材料のソレ）といって見ていくと、ノイズというものが立体的に見えてくる気がしてまいります。その延長線上に▼データの分割の境界に生じるソレ（情報のソレ）があるというわけです。
・（参考）博士論文「境界音場制御の原理に基づくアクティブノイズコントロールに関する研究」京都大学（2010年3月23日）
http://repository.kulib.kyoto-u.ac.jp/dspace/bitstream/2433/120847/2/D_Nakashima_Takahiro.pdf
http://repository.kulib.kyoto-u.ac.jp/dspace/handle/2433/120847
境界をうまく使って問題を小さくして計算可能とする、というのが、実際的（工学的）なアプローチであります。しかし、好奇心としては、▼境界がなかったらどうなるのだろうか、▼（a）境界があることでうまくいかなくなっていることはないのだろうか（≒もっとうまい境界の分けかたがあるのではないか）、▼（b）境界をなくしたほうが問題が簡単になることはないのだろうか、と考えてみたくなるというものです。
囲碁では、セカイは四角くて端っこがあっておしまいですが、盤が球体になったらどうでしょう。注目点を中心に「見える範囲のセカイ」を切り取って考えるのでなく、展開図のように切りひらくとすれば、仮には日本列島が地図の真ん中に来るのか、右端にへばりつくのか、というようなソレが起きてきます。
球体の表面に碁石を置いて陣地をば、といって、最後の最後まで陣地が確定しない（外と内が決定しない）ということになって、現在の囲碁よりはるかにむずかしいゲームになることでしょう。
・個人のブログ「球面囲碁」（2012年2月1日）
http://winelight.blog112.fc2.com/blog-entry-1856.html
> 球面を一定の升目で分割する。
> 相手はどこの辺りを考えているかがわからないことも利点である。
> こうして終局を迎える。
終局だと判定するのが、たいへん困難であろうと思われます。
> 現行の平面囲碁は、４隅、４辺、中央とはっきり区別できる。何百か何千か知らないが、すべて隅を起点とする応酬である。
> 球面囲碁は違う。
> そもそも隅と辺の概念がないのだから、定石のできようがない。できるとしても、今の定石大辞典の定石とは似ても似つかぬ型になる。
> 想像しただけで愉快になる。
まったく愉快です！ もはや痛快ともいえましょう。
> 今の囲碁は１９×１９で３６１点の争い。球面での３６１点は、とても人間の手に負えないのではないか。多くて２００点か。
おおー、まるで実感がないのですが、そのくらい粗くしないと難しすぎるゲームになってしまうんですね。
・「機械学習による球面リバーシ(オセロ)AIの開発」
http://www.slideshare.net/utsuro_lab/20151203-reversi-for-slideshare
http://image.slidesharecdn.com/20151203reversiforslideshare-151203084431-lva1-app6891/95/ai-4-638.jpg
線の引きかたがモーレツに納得いかないんですけれども。ええ、納得できませんとも。角度で考えて一定の角ごとに（「北極」と「南極」に線が集中したりしない）、というマス目にしたいなぁ、と思われ、これは緯度経度に対しても感じる不満であります（＝磁力線を用いたコンパスのための座標系ですよね）。きっと、測位衛星は、もっとエレガントな座標を使っていそうだなぁ、と想像してみます。
・「球面囲碁/オセロ」
http://homepage2.nifty.com/plasma/program/sphigo_j.html
> NASAが天体観測データを扱うために開発した、HealPixという球面サンプリングの手法を見たためです。この方法では、球の全ての場所にて、密度が一様になるように点を並べることができて、格子線が引けるため、見た瞬間に囲碁向きだな、と思いました。しかしながら、難点として、球面上に８箇所の特異点が存在してしまっています。もしかすると、これらの扱い方が勝負を決めるポイントになるのかもしれません。
天体観測データということで、望遠鏡の都合にあわせてつくられているはずですよ、たぶん。望遠鏡には端っこがあるということですね。また、視野の周辺部の解像度がアレだとかいう事情も勘案したマス目になっているのでしょう。
囲碁に使いたいなら、自前でマス目を作らないといけないでしょう。
・あらゐけいいち「囲碁サッカー」
http://www.kadokawa.co.jp/comic/bk_detail.php?pcd=201107000449
http://cdn.kdkw.jp/cover_b/201107/201107000449.jpg
…ではなくてですね。結局、サッカーボール状の多面体の辺を使って球体を模擬するんですかねぇ。
・ウィキペディア「フラーレン」
https://ja.wikipedia.org/wiki/%E3%83%95%E3%83%A9%E3%83%BC%E3%83%AC%E3%83%B3
https://upload.wikimedia.org/wikipedia/commons/8/82/Fullerene-C60.png
オ…いえ、リバーシ的に、挟んだらひっくり返しつつ、すべての頂点（60）に置き終えた段階で、囲まれた面積を…といって、やはり外と内が決定しない気がするんですけれども（遠まわりに「始まりと終わり」[3147]も参照）。面積を確保しようとする黒に対して、それを阻む白、というような「攻守」のソレで、攻守を交代して「1セット！」で勝負だっ！ …などと（略）。
後編（[3282]）に続きます。
| 