人工知能への道（2）：Intelligenceとは何か

「人間の知性(Human Intelligence)を手本とし、人間を上回る思考能力を持つ装置をAI(Artificial Intelligence)と呼び、その装置の開発を進めて来た」とは思えるのだが、AI開発は既に約70年もの歴史を持つ。その間の先人研究者達が注目し取り組み目指した方向(アプローチ)は余りにも幅広く、また深い。しかし、現代の我々が開発を行うのであれば、先ず、その目的物の概要や性能目標を出来るだけ明確にすべきである。 そこで、筆者は、可能な範囲で、その人工知能とは何であり、何ができる機能であるべきなのか、について調べることとした。 今後、数回に分けて、その概要を報告してみようと思う。

混迷する人工知能の定義

ニューラルネットワーク技術の進展には、非常に多くの基礎的な学問分野が絡んでいる。 筆者が知るだけでも、
　・哲学、心理学、教育学
　・言語学、認知科学
　・生理学、神経科学、医学
　・論理学、数学、計算機科学、情報科学、システム科学
　・物理学、生化学、
等々が関与しているのではないだろうか?　その全容は、当然ながら、筆者にはイメージすることもできない。 そこに登場する、例えば「数学」という1学問でさえも、更にその中で、計算複雑性理論や、統計学、確率論、集合論、情報理論、グラフ理論、ゲーム理論、等々と様々な分野が登場する。

恐らく、そのように多彩な分野が関係することが、話を難しくしているのだろうと思う。「人工知能(Artificial Intelligence)」という言葉の意味する所は、アカデミズムの分野間で異なるだけでなく、研究者一人一人の単位でさえも違いがあるという。

参考資料1の情報通信白書では、「人工知能とは何か」と題する項を設け、「その(人工知能の)定義は、研究者によって異なっている状況にある。その背景として、まず『そもそも、知性や知能自体の定義がない』ことから、人工的な知能を定義することもまた困難である事情が指摘されうる」と、「人工知能を明確に定義することは困難」としていた。(その後、この問題意識がどのように扱われたのかについては、ウェブ上の資料を見つけることができなかった。)

学術分野の分類という面では、余り明瞭に定義せずに、様々な見解を包含している方が良い場合も有り得るのかもしれないが、工学的なR&Dとして考える場合には、ゴールの姿(その人工知能の概要)を出来るだけ明瞭化してコミュニケーションを開始しなくては、議論は収束しづらい。「どのように実の在る論が生まれるか」は、最初の定義付けに大きく依存する場合も少なくない。そこで、人工知能(AI)のイメージを、どのような角度から捉えて行くのが良いのかを先ず考えてみた。

アプローチ別にみるAIのイメージ

前述の学術分野別に、「研究者が、人工知能をどのように定義しているのか」を調べることは、余りにも膨大な作業となってしまう。 そこで、PCの某検索ツールにて、「Definition of the Artificial Intelligence ?」で関連するコンテンツをあぶり出し、更に、以下の5つの視点に分けて調べることとした；

　(a)現象　 ：人間の行動や発想に見る「知性の発現現象」
　(b)大構造 ：新規の情報を生み出す仕組み(マクロなアーキテクチャ)
　(c)理論 　 ：デジタルコンピュータの能力限界、等。
　(d)回路接続：人間の脳内神経回路の接続構造(メゾスコピックなアーキテクチャ)
　(e)細部構造：神経回路の細部構造(ミクロなアーキテクチャ)

(a)は、人間のスケール(主に、コミュニケーション)にて、人間の知性にアプローチする。そのようなアプローチは、2000年以上の非常に長い歴史を持ち、哲学、言語学、社会科学からの論も多い。但し、工学的なR&Dに近い立場からは、距離感があるアプローチである。

(b)は、知性を生み出す「脳」の活動を、脳全体のスケールで捉えようとする。

(d)や(e)は、脳をミクロな視点から調べ、人間の知性にアプローチする。元集積回路設計に関与した筆者には、なじみやすいスケールではある。 但し、同じ細部構造といっても、遺伝子による組織の発現が関与する生化学的現象については、深入りし難い。

恐らく、結論を導いてくれるのは、(c)の「理論」ではないかとの予想を持ちつつ、まずは、(a)の調査を始めることとした。

知性の発現を現象面からみるアプローチ

「Definition of the Artificial Intelligence?」を検索すると、すぐさま、画面には、「0.07秒間に約1,760,000件」という小さな文字と共に、そのうちの上位10件と思われるコンテンツが表示された。 その「検索速度の速さ」と「ヒットした件数の膨大さ」に驚いたが、多くの「AIのDefinitionに関するコンテンツ」が並んだ。　
そこから、幾つかの論文をピックアップして調査を始めた。

(1)Shane Legg, et al.著の「A Collection of Definitions on Intelligence」(参考資料2)

Shane Legg氏は、機械学習の専門家で、2014年にGoogleに買収されたDeepMind Technologies社の主要なメンバーであった。 2007年に発表した同論文の中で、「Despite a long history of research and debate, there is still no standard definition of intelligence」と切り出し、定義問題を取り上げた。　

約70ものソースを参考として、「環境と格闘しながらもゴールに到達する能力(Intelligence measures an agent’s ability to achieve goals in a wide range of environments)が、Intelligence(知性)である」と、それらの見解をまとめ上げている(注1)。 そのソースに使われている単語は多くのソース間で共通している。 そこで、この論文があぶり出した「知性の表現」において使われている単語を、名刺と動詞に分けて拾い挙げてみた(表1)。

表1　「知性（Intelligence）の表現」において使われている単語　出典： 参考資料2を元に筆者が作成

名詞表現は、「知性(Intelligence)」の静的な構成要素であり、動詞表現は、動的な要素と見て差し支えないだろう。 Shane Legg,のアプローチは、「AIに、これら単語に対応するサブ機能(もしくは、アルゴリズム)の搭載を求めている」と、筆者は見なした。 名詞表現も、対応する動詞に読み替えて、動詞表現に含めた方が良いのかもしれない。

一般的には、このように人間が持つような汎用的な知的能力を持つAIは、Artificial General Intelligence(AGI)と呼ばれ、時に、強いAIと呼ばれる。対する現状のAIは、特化型AI、もしくは弱いAI、Narrow AIと呼ばれる。
AGIは、特化型AIを多数ハイブリッドに結合して構成する、とイメージを抱く研究者がいるようだが、筆者には、汎用性を得るには「汎用なサブ回路が並ぶ」とのイメージを持つ。 筆者が探すのは、実は、その汎用なサブ回路とそれをまとめ上げる全体アーキテクチャであり、従ってAGIであるが、正直な所、感情を発現させる方法には現在は興味を持っていない。

Shane Leggのアプローチにおいて、要求機能は理解できる可能性があるが、「知性を、どのように発現させるのか」や「機械の動作の中から、なぜ知性が発現するのか」、という構造に対する疑問には、答えてくれそうもない。このように考え、次を「論」の調査へと進んだ。

(2)Dagmar Monett , et al著の「Definitional Foundations for Intelligent Systems」(参考資料5)

ドイツのComputer Scienceの教授であるDagmar Monett氏らは、同論文において、Intelligence(知性)のQuality(質)のCriteria(基準)となりうる表現を5分野に分けて抽出した(表2)。同氏の視点は、Intelligenceを質の面から捉えるため、「高度なIntelligenceが備えるべき特徴」を述べている感がある。

表2　Intelligence（知性）の質を表現する単語　出典： 参考資料5を元に筆者が作成

このようなアプローチも、知的機能の分類方法としては理解できるが、やはり知性の発現方法のヒントにはなりにくい。 従って、また、次の調査へと進んだ。

(3)Dimiter Dobrev 著の「A Definition of Artificial Intelligence」(参考資料6)

Dimiter Dobrev氏は、ブルガリアのソフィア大学の数学者(特にインフォマティクス)である。2005年のこの論文は、Knowledge(知識)の搭載を前提とするTuring Machine(参考資料7-9)と対比させて、「Knowledgeを含まないMachine」を定義しようとした。Turing氏のMachineは、予め、予定する動作が書き込まれたプログラム(テープ)が容易されることを前提とするが、Dimiter Dobrev氏のMachineは、初期状態では「白紙のテープ」であるため、定義上はTuring Machineではないこととなる。

その上で、そのMachineには、プログラムや知識を生むことを要請する。つまり、Dimiter Dobrev氏は、知識を持たない赤ん坊が、知識を獲得するプロセスを生む装置を発明しようとした。そして、そのMachineの構造は次の機能を想定した；

　1)　複数のプログラムを内蔵する
　2)　情報と情報を結ぶ連想機能を持つ
　3)　外部からの入力に加え、自分の出力を自分自身に再入力するループ構造(入れ子構造)を持つ
　　 (従って、外界からの情報を取り込み、内部にもう一つの世界を形成しようとする)
　4)　内蔵するプログラムを検索し、状況に最も適したプログラムを探し出す機能を持つ
　5)　それら複数のプログラムを組み合わせて実行する機能を持つ

内蔵する複数のプログラムの中から、状況に最も適したプログラムを探し出し、それら複数のプログラムを組み合わせて、新プログラムの候補を作成し、更にその候補に対してコンテストを行い、最も優秀な候補を判定することをイメージしている。 従って、検索が、内部動作において重要な位置付けを持つ。

Dimiter Dobrev氏は、外部から受ける情報を装置の中にデータとして取り込んだあと、そのデータを連想機能によって検索し、再合成し、再合成した中から適切な合成を取捨選択する装置を設計しようとしたのだが、「Really, this algorithm is useless due to the combinatory explosion.」と、現実的なアルゴリズムを発見するには至らなかった。

(4)Marvin Minsky 著の「Steps toward Artificial Intelligence」(参考資料10)

より時代を遡った、コンピュータやAIの議論の草創期の中に、筆者は、より具体的な構成の洞察を見付けた。Marvin Minsky氏は、数学者であり、John McCarthy氏 と共に、20世紀中頃の米国を代表するコンピュータ科学や認知科学の専門家であり、有名な1956年のダートマス会議(The Dartmouth Summer Research Project on Artificial Intelligence、参考資料11)の発起人の1人である。

ウィキペディア(参考資料12)によると、1940年代に、Marvin Minsky氏は、Warren McCulloch氏、Walter Pitts氏らの人工ニューロンのネットワーク(参考資料13、14)の研究に感銘を受け、ニューラルネット研究の開拓者のひとりであるFrank Rosenblatt氏(参考資料15)とも親交もちつつ、1951年には、世界初のランダム結線型ニューラルネットワーク学習マシン SNARC(Stochastic Neural Analog Reinforcement Calculator)を製作している(注2)。

Marvin Minsky氏は、同論文(参考資料10)の中で、人工知能を「難しい数学問題を経験的に解くコンピュータ(Heuristic Programming)」と表現し、その仕組みは、
・検索(Search)
・パターン認識(Pattern-Recognition)
・学習(Learning,)
・計画(Planning)
・帰納(Induction)
の5大機能から考えるべきだと記している。筆者は、この5大機能は、プログラミングで使われる高度な命令(Instruction)に似せてイメージした。

同論文は、余りに多くの引用を含むため十分に読み解くことはできなかったが、筆者なりにまとめると、以下に特徴があると思われる。

1)　Intelligence(知性)が発現する機構を理解するには、創造性や心(もしくは意識)、更に、意思がどのように発現するのかについて理解する必要があると考えていた。(この点は、前述のShane Legg氏やDagmar Monett氏らのアプローチや視点とは違う。Dimiter Dobrev氏の発想には近い。)
2)　経験の中から、規則性を発見する機構の解明が重要であると見ていた。　
3)　Intelligence(知性)は、外部情報との関係が強い脳内の世界モデルと、外部情報との関係が弱いマインドの間のIntrospection(内省)によって発現するとした(図1)。

図1　Marvin Minsky氏のIntelligence（知性）発現のイメージ　Intelligence（知性）は、身体からの情報との関係が深く多数のサブマシンによって制御されて揺れ動く“Model（世界モデル)”と、心理に対応する“Mind”の間のIntrospection（内省）によって発現するという仮説を立てた　出典：参考資料10の文章内容を元に、筆者が作成

恐らく、Marvin Minsky氏は、図1のように、脳内には、身体からの情報との関係が深く多数のサブマシンによって制御されて揺れ動く「Model(世界モデル)」と、心理に対応する「Mind」が存在し、両者の間のIntrospection(内省)によってIntelligence(知性)発現するという構造を想定したのではないだろうか。その上で、検索、パターン認識、学習、計画、帰納の動作の位置付けを探ろうとしたのではないかと、筆者は考える。(モデルとマインドが、それぞれ何を意味するかが重要となるが、筆者は未だその点へのMarvin Minsky氏の考えは読み解けていない。)

Intelligence(知性)は、直接調査や解析を行える対象ではない。仮説立てと検証を繰り返すことによって進める構造探求は、天才の直感が成せる技であったのかもしれないが、むしろ最も現実的な手法と筆者には思われた。

情報を生み出す仕組み(基本構造)

Marvin Minsky氏が想定する構造は、本ブログの冒頭で想定した「5種類のアプローチ」の2番目の「情報を生み出す仕組み(大構造)」の解明に相当すると思われる。この構造は、脳の中の活動が大きく二つに分裂しているとしている点でも、また、Model(世界モデル)内が多数のサブマシンによって構成されると見る点でも、マルチエージェント・モデル(注3)である。「知性の発現のためには、マルチエージェントが必要」との考え方は、非常に示唆的であると筆者には思われた。

知性発現条件に関する、そのような考え方は非常に古くからあり、例えば、古代ギリシャの哲学者であるソクラテス(BC470-399年)の「対話(Dialogue)」も、その一種であるとみなせる。 Marvin Minsky氏の「モデルとマインドの間のIntrospection(内省)」は、まさにエージェント間の対話である(注4)。

そこで、早速ではあるが、5種類のアプローチの3番目(理論)に関する「論」の調査に進むこととした。 次回は、筆者の調べた範囲で、その「理論」を紹介したい。

注
1. Leggらは、2005年に「Universal なArtificial Intelligence」(参考資料3)、2007年に「Universal な Machine Intelligence」(参考資料4)と、人間の知性を直接表現するのではなく、一定の回路構造、もしくはアーキテクチャを想定して、知性の定義を論じている。筆者は未だ精読できていないので、ここでは、それらの内容には触れていない。
2. Marvin Minsky氏は、Seymour Aubrey Papert氏(数学者、コンピュータ科学の専門家)との共同研究で、パーセプトロン(3層のニューラルネットワーク)には関数表現の能力に限界がある(線形分離可能な関数しか表現できない)ことを示したことで、第1次ニューラルネットワークブームを終了させたことでも知られている。
3. 「マルチ・エージェント・モデル」とは、複数の人格からなる人間社会の中の相互作用によって、全体の動向を理解しようとするモデル。 ヘーゲル等の弁証法や、3権分立のような構造を想定するには、エージェントは3個必要になる。
4. 「マルチエージェントと対話の存在がIntelligence発現の必須要件なのか?」が気になる所であるが、その点についてMarvin Minsky氏がどのように考えていたのかは、この論文からは読み取れなかった。

参考資料
1. 「人工知能(AI)とは」、第1部第2節の1の(1)、平成28年版　情報通信白書
2. Legg, S. and Hutter, M. “A Collection of Definitions on Intelligence”, Frontiers in Artificial Intelligence and Applications, Vol.157、pp. 17-24, 2007.
3. Hutter, M., Universal Artificial Intelligence: Sequential Decisions based on Algorithmic Probability, Springer, Berlin, 2005.
4. Legg, S. and Hutter, M., “Universal Intelligence: A Definition of Machine Intelligence”, Minds & Machines, 17:4, pp. 391-444, 2007.
5. Monett, D. and Lewis, C., “Definitional Foundations for Intelligent Systems”, The 10th Anniversary Conference of the Academic Conference Association, AC 2020, 2020.
6. Dobrev, D., “A Definition of Artificial Intelligence”, Mathematica Balkanica, New Series, Vol. 19, Fasc. 1-2, pp.67-74, 2005
7. Turing, A.M., “Intelligent machinery (1948), A Heretical Theory”, Philosophia Mathematica, Vol. 4, Issue: 3, 1996.
8. Turing, A.M., “Computing machinery and Intelligence”, Mind 59: pp 433-460, 1950
9. Turing, A.M., “Can a Machine Think”, The World of Mathematics, edited by James R. Newman, vol. 4, pp. 2099-2123, Simon & Schuster, 1956.
10. Marvin Minsky, M., “Steps toward Artificial Intelligence”, Proceedings of the IRE Contents, Vol. 49, 1961.
11. ダートマス会議　https://www.ai-gakkai.or.jp/whatsai/AItopics5.html
12. ウィキペディアの「マービン・ミンスキー」の項(2021年4月25日更新版)。
https://ja.wikipedia.org/wiki/マービン・ミンスキー
13. McCulloch, W. and Pitts, W., “A logical calculus of the ideas immanent in nervous activity”, The bulletin of Mathematical Biophysics, Vol. 5, pp.115-133, 1943.
14. McCulloch, W., Embodiments of Mind, MIT Press, 1965.
15. Rosenblatt, F., “The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain”, Psychological Review, 65 (6), pp.386-408, 1958.
同論文では、脳の中での神経回路の動作を記述する手法として、Probabilistic Modelを提案している。