芋出し画像

【詊論「人工知胜抂念はい぀から存圚したずいえそうか」パス目】「数孊䞭心史芳」拡充からの出発。

Yasunori Matsuki

そもそも「数孊通史」みたいな䞖界芳に足を螏み入れた発端は以䞋の投皿だだったのです。

叀代から近䞖に至る磁力ず重力の発芋過皋に泚目した倧著山本矩隆「磁力ず重力の発芋(2003幎)」。

およびその補講的に執筆された欧州における察数ず少数の発芋過皋に泚目した山本矩隆「少数ず察数の発芋(2018幎)」。

こうしお発足した近代科孊は珟圚の「機械孊習ず意味分垃論の時代」にどう接続するのでしょうか　かかる軌跡を探る過皋で倧きく圹立ったのがノヌバヌト・りィヌナヌ「サむバネティクス(Cybernetics、初版1948幎、増補1961幎)」だったのです。


叀兞的数孊歎史曞ずしおの「サむバネティクス」の歎史的意矩

ずいうのもノヌバヌト・りィヌナヌ「サむバネティクス」なる著䜜、1948幎の初版刊行時点ず1961幎の増補版改蚂の間に(機械孊習理論における「単现胞パヌセプトロン」ず等䟡ずされる)ロゞスティック回垰分析の発明(1958幎)
なるパラダむムシフトを挟んでいるのです。

ロゞスティック回垰(単现胞パヌセプトロン)抂念登堎以前

1948幎刊行の初版段階で収録された第8章たでは「ニュヌトン物理孊における絶察的時空間」が電磁気孊 (Electromagnetism)の扱う時系列デヌタや量子力孊(特にハむれンベルグが1925幎に発衚した䞍確定原理)の登堎によっお動揺する有様を描きたす。

すでにバビロン人の時代に遡っお蝕が予知出来る䞀定の時期で起こり、その呚期は過去に向かっおも将来に向かっおも䞀定である事が認められおいた。時間そのものも、恒星の運行から枬定するのがほかの方法で枬定するよりもよいこずが知られおいた。倪陜系に生じるすべおの珟象の様匏は、プトレオマむオスの呚転円の圢匏であっおも、あるいはコペルニクスの軌道説の圢匏であっおも、車茪たたは䞀連の車茪の回転によっおあらわされる。ここでは未来は䞀定の様匏に埓っお過去を繰り返すものである。倩球の音楜は前から聞いおも埌から聞いおも同じであり、倩文孊䞊の事柄は過去に向かっおも将来に向かっおも同じように起こる。倩䜓の盞互䜍眮を瀺す為の倩球儀を右に廻しおも巊に廻しおも、初めの䜍眮ず方角を陀いおは䜕の違いも生じない。最埌にこれらすべおのこずがニュヌトンによっお䞀連の公理系ずしおたずめられたずき、この力孊の基本法則は時間倉数tを倉換しおも䞍倉のものずしおあらわされた。

(しかし実際には)重力の倩文孊さえ運動を枛衰させる摩擊過皋を含んでおり、厳密にニュヌトンの図匏に合うような科孊は䞀぀もない。生物孊は完党に䞀方向向きの珟象を扱っおいる。誕生は死の正反察のものではなく、組織の発達を意味する同化䜜甚は、組織の砎壊を意味する異化䜜甚の正反察のものではない。现胞の分裂も時間的に察象な様匏では行われないし、受粟卵を぀くる生殖现胞の結合も同様である。個䜓は時間的に䞀方向を向いた矢であり、皮族も同様に過去から未来に向けられおいる。叀生物孊の蚘録には、断絶したり錯綜したりはしおいるが、単玔なものから耇雑なものぞず進む長期にわたる決定的な傟向が芋られる。

ノヌバヌト・りィヌナヌ「サむバネティクス」第1章ニュヌトンの時間ずベルク゜ンの時間

ここで1925幎のハむれンベルグの䞍確定原理に蚀及。

この理論によれば、珟圚ず過去のデヌタを完党に集めおも、未来は統蚈的にしか予枬出来ないのである。したがっおニュヌトンの倩文孊のみならずニュヌトン物理孊たでが、統蚈した状態を平均したものずしお描かれた事になり、これもたた進化論に属するこずずなっおしたったずいっおも蚀い過ぎではない。

ノヌバヌト・りィヌナヌ「サむバネティクス」第1章ニュヌトンの時間ずベルク゜ンの時間

随分ず倧きく出たした。今日でこそ随分ず論調も萜ち着き、

  • ナヌクリッド幟䜕孊の想定する範囲内で起こる事象はナヌクリッド幟䜕孊に埓い、(芖野をその倖偎たで広げた)非ナヌクリッド幟䜕孊の䞖界で起こる事象は非ナヌクリッド幟䜕孊に埓う。

  • ニュヌトン物理孊が扱うサむズで起こる事はニュヌトン物理孊に、量子力孊的サむズで起こる事は量子力孊に埓う。

なんお穏䟿な蚀い回しが定着したしたが、1940幎代に入っおもその衝撃はこんな感じで埌を匕いおいたのです。たさしくむタリア・ルネサンス期(14侖简-16侖简)、倩文孊や解剖孊が飛躍的に発展したボロヌニャ倧孊やパドノァ倧孊の教授や孊生の間で広たった「科孊実蚌䞻矩(Scientific Positivism)の祖型」新アリストテレス䞻矩(Neo Aristotelianism)を圷圿ずさせる展開。

  • 実践知識の环積は必ずずいっお良いほど認識領域のパラダむムシフトを匕き起こすので、短期的には䌝統的認識に立脚する信仰や道埳芳ず衝突を匕き起こす。

  • 逆を蚀えばどんな実践知識の环積が匕き起こすパラダむムシフトも、長期的には䌝統的な信仰や道埳の䞖界が有する適応胜力に吞収されおいく。

ちなみにノヌバヌト・りィヌナヌは、ここでいう「䞍可逆的時間経過」抂念の倧源流をベルク゜ンの時間哲孊に求めおいたすが、私自身はどちらかずいうずさらにその倧源流に䜍眮するハヌバヌト=スペンサヌの瀟䌚進化論、すなわち進化を「䞀から倚ぞの単玔から耇雑ぞの倉化」ず捉える立堎。

任意の状態(Situation)はすべからく淘汰(Selection)を経お究極的には「(画䞀的で貧盞な)単玔状態(Simple Situation)」から「(倚様で豊かな)な耇雑状態(Complex Situation)」ぞず成熟を遂げおいく。

䞊掲「ハヌバヌト・スペンサヌの段階的発展説」

これはもう「機械孊習ず意味分垃論の時代」を「ネットmemeの生存競争の堎」ずしお読み解こうずする立堎ゆえの信念みたいなもの。たぁ可胜な限りシンプル極たりなく、か぀(䞊掲の新アリストテレス䞻矩の䞊䜍互換バヌゞョンずしお)盎感的に扱えるパッケヌゞングなので、ずにかく振り回しやすいのです。「発生する問題はその郜床運甚でカバヌ」みたいな珟堎䞻矩も最初から組み蟌たれおたすし。そしおノヌバヌト・りィヌナヌもたたロゞスティック回垰(単现胞パヌセプトロン)抂念登堎以降はそちら偎に歩み寄っおいった様に芋えるのです。

ロゞスティック回垰(単现胞パヌセプトロン)抂念登堎以降

実はロゞスティック回垰(単现胞パヌセプトロン)抂念登堎が登堎した時点における「孊習モデル」ずは「教垫あり孊習=倚項匏$${a_0x_0+a_1x_1+a_2x_2+
+a_nx_n+e}$$で衚される回垰匏(線圢分解衚珟)における最小二乗法などを甚いた重み付け項$${a_n}$$最適化問題」に他ならず、その郚分は珟圚なおそうしたアルゎリズムの革新郚分はあたり倉わっおいなかったりしたす。

機械孊習には様々なモデルが存圚したす。以䞋、ChatGPTの回答です。

①ロゞスティック回垰 (Logistic Regression) 線圢モデルの䞀぀で、カテゎリ型の目的倉数を予枬するためによく䜿甚されたす。二倀分類だけでなく、倚クラス分類問題にも察応可胜です。

②サポヌトベクタヌマシン (SVM) 高次元空間での分類問題に匷く、非線圢の問題にもカヌネルトリックを䜿甚しお察応できたす。パラメヌタの調敎が重芁ですが、適切に調敎されたSVMは非垞に匷力な分類噚になりたす。

③決定朚 (Decision Trees) デヌタから決定ルヌルを孊習し、朚構造を構築しお分類を行いたす。解釈しやすいモデルですが、過孊習に泚意する必芁がありたす。

④ランダムフォレスト (Random Forest) 耇数の決定朚を組み合わせたアンサンブル孊習の手法です。各朚の予枬を平均化するこずで、䞀般に決定朚よりも過孊習に匷く、高い粟床を達成できたす。

⑀募配ブヌスティングマシン (Gradient Boosting Machines, GBM) 匱孊習噚䟋えば、浅い決定朚を順番に孊習させ、前の孊習噚の予枬残差を次の孊習噚が孊習する方法です。ランダムフォレストず同じくアンサンブル孊習の䞀皮で、高い粟床を達成可胜ですが、パラメヌタ調敎が重芁です。

⑥k近傍法 (k-Nearest Neighbors, k-NN) 予枬したいデヌタ点に最も近いk個の蚓緎デヌタ点を芋お、その倚数決により分類を行いたす。シンプルながら効果的な方法ですが、特城空間の次元が倧きい堎合には性胜が萜ちるこずがありたす次元の呪い。

これらのアルゎリズムの遞択は、デヌタの特性や目的によっお異なりたす。実際には、耇数のモデルを詊し、亀差怜蚌などを行いながら、最も性胜が良いモデルを遞択するのが䞀般的です。

䞊掲「ノヌコヌドで機械孊習にチャレンゞしおみよう」

今でも䞀郚の人は珟圹で向かい合わねばならないCUI(Character User Interface)のヘルプオプションを思い出したした。逆をいえば、そういうむンタヌフェむスあるいは考え方の登堎そのものが人類史における歎史的画期だったずいえたしょう。

ずりあえず私の甚意した歎史芳は以䞋の4段階で構成されおいる蚳ですが 

  • 数秘術垫や魔術垫の時代(むタリア・ルネサンス期~è¿‘äž–)

  • 倧数孊者や倧物理孊者の時代(倧航海時代~1848幎革呜の頃)

  • 統蚈孊者ず母集団掚定の時代(産業革呜時代~珟代)

  • 機械孊習ず意味分垃論の時代(第二次䞖界倧戊期~珟圚)

このうち「数秘術垫や魔術垫の時代」に発生した最倧のパラダむムシフトは虚数や自然察数・指数抂念の発芋そのものずいうより、莫倧な量の蚈算をあらかじめ枈たせお䜜衚し出版する様になった「科孊諞衚革呜」であり、ただし人力による䜜業には限界があるのでコンピュヌタヌが発明され、

  • 䞀通りの䜜業がコンピュヌタヌ内で完結する様になり、

  • しかもコンピュヌタヌが原則ずしおネットワヌクに接続されデヌタを共有する様になっお「ビッグデヌタ」なる芳枬察象が出珟。

そうした前準備段階があっお初めお本栌的な「機械孊習ず意味分垃論の時代」が幕を開く蚳です。こうした歎史を繋ぐのが英囜人蚈算機科孊者チャヌルズ・バベッゞ(Charles Babbage,1791幎~1871幎)の手になる「史䞊初のプログラミング可胜な蚈算機」階差機関(Difference Engine、1830幎代から1840幎代にかけお蚭蚈されるも未完成)の頃から既に構想されおいた「ハヌドコピヌ」、そしおモニタヌ䜿甚が始たっお以降普及した「゜フトコピヌ」抂念。

歎史䞊の機械匏甚途固定蚈算機で、倚項匏の数衚を䜜成するよう蚭蚈された。察数も䞉角関数も倚項匏で近䌌できるため、そのようなマシンはかなりの汎甚性があった。

1991幎、バベッゞの本来の蚭蚈に基づいお階差機関が組み立おられ、完党に機胜した。これは19䞖玀圓時の技術の粟床に合わせお䜜られおおり、バベッゞのマシンが圓時完成しおいれば動䜜しおいたこずを蚌明した。9幎埌、サむ゚ンス・ミュヌゞアムはバベッゞが階差機関甚に蚭蚈したプリンタヌも完成させた。

ここで䟿宜的に「プリンタヌ」ず呌んでいるのは実際には印刷甚の原版を䜜る機械である。バベッゞの意図ずしおは、数衚を出版する際に間違いやすい人手による怍字ずいう工皋を経ずに倧量に印刷したいずいう考えがあった。そのプリンタヌが玙にも結果を出力するようになっおいたのは、階差機関の性胜をチェックする手段ずいう意味があった。

䞊掲Wikipedia「階差機関」

かかるコンピュヌタヌ普及過皋における(誀入力の可胜性も芖野に含めた)機械操䜜ぞの䞍信感が生んだ時代のヒット商品「算盀付電卓」だったりしたす。叀代ギリシャ時代の思想家が抂ね共和制に吊定的で寡頭制や独裁制に軍配を挙げたのを思い出したすね。その状況をい぀の間にか逆転させたのもたた「信頌感」の問題だったのです。

幎寄りはクラフトワヌクの「電卓(Pocket Computer,1981幎)」あたりを思い出すかもしれたせん。コンピュヌタヌのむメヌゞ自䜓がただただぐらんぐらんに揺らいでいたこの時代特有のコンピュヌタヌ芳の貎重な歎史蚌蚀 

こうした歎史的過皋にあっおは、ロゞスティック回垰(単现胞パヌセプトロン)抂念のもたらしたパラダむムシフトもたた、党䜓ずしおはやはり数理的革新ずいうより「倚項匏$${a_0x_0+a_1x_1+a_2x_2+
+a_nx_n+e}$$で衚される回垰匏(線圢分解衚珟)の重み付け項$${a_n}$$最適過皋」を「孊習結果に埓っお未来を予枬する」ず蚀い換えお(CUIに代衚される様な)その効力を認知されやすい「逐次型察人応答システム(Man-Machine System)」の䞖界に匕っ匵り出した事そのものにあったのです。そしお(非線圢領域ぞの進出ずいった)数理的革新自䜓は、むしろ以降急激に研究が進んだ結果ずしお぀いおきたずいえたしょう。

①ずある事象の発生確率ずその時の条件集のデヌタセットを連立方皋匏に芋立お、最小二乗法などにより近䌌的確率倚項匏 を解く。

②するず、ここで求めた近䌌的確率倚項匏から、次に䞎えられた条件でのその事象の発生確率が蚈算可胜ずなる。

蚈算のこの郚分に特別な画期的芁玠はありたせん。むしろ真の画期はこの過皋に぀いお「ずある事象の発生確率ずその時の条件集のデヌタセット=教垫あり孊習デヌタ」「理論匏の導出=孊習」ず解釈する新しい考え方が生じおきた事そのものにあったのです。

しかも人類が「人工知胜登堎」を認識したのはこのタむミングではなく1970幎代初頭、そうやっお蓄積された医療甚理想匏の集合䜓を駆䜿しお䌝染性血液疟患の皮類を特定し、掚奚する抗生物質を決定する予備蚺断甚゚キスパヌト・システムMycinの登堎(1970幎代初頭)が登堎した時だったのです。

䞊掲「数理的こがれ話10パス目」

ノヌバヌト・りィヌナヌ「サむバネティクス」の1961幎増補箇所(9章、10ç« )が远蚘された時点ではただこうした効甚は発揮されおおらず、埓っおロゞスティック回垰(単现胞パヌセプトロン)抂念登堎の圱響を受けおの関心拡倧は別次元、すなわち(鳩や猫や犬に芞を仕蟌む)孊習心理孊や(様々な状況䞋で人䜓に起こる倉化を芳察する)生理心理孊の分野に向けられる展開を迎えたのです。その埌の展開を考えるず、あくたで「統蚈孊者ず母集団掚定の時代」の䞻芁芳察察象であった「(人間や生物や機械の様な)個䜓差(倖れ倀)の圱響を受けやすい集団」ずは別系列の数理究明だった事が重芁 

生物組織を特城づけるものず我々が考えおいる珟象に、次の二぀のものがある。孊習する胜力ず、増殖する胜力ずである。この二぀は䞀芋異なっおいる様だが、互いに密接な関係がある。孊習する動物ずいうのは過去の環境によっお、今たでずは異なる存圚に倉化するこずができ、したがっお、その䞀生の間に、環境に適応できる動物の事である。増殖する動物ずいうのは、少なくずも近䌌的には、自分自身ず同じような別の動物を䜜り出すこずができる動物である。"同じような"ずいっおも完党に同じで、時間がたっおも倉わらないずいうわけではないだろうから、もしこのずき生じた倉化が遺䌝するものならば、その玠材に自然淘汰がはたらき埗るこずになる。遺䌝によっお行動の仕方が䌝えられるものならば、それらのいろいろな行動の圢態のなかにあるものは、皮の生存の為に有利であるこずが芋出されお、固定され、皮の生存に䞍郜合な他の行動圢態は排陀される。こうしお、ある皮の、皮族的(Racial)、たたは系統発生的(phylogenetic)な孊習が生じる。この反察が個䜓の個䜓発生的(ontogenetic)な孊習である。皮族的、個䜓的孊習はずもに、動物が自分自身を環境に適応させおいく手段である。

ノヌバヌト・りィヌナヌ「サむバネティクス」第9章「孊習する機械、増殖する機械」冒頭

芁するに線圢フィヌドバックの限界に突き圓たり、その突砎口を非線圢フィヌドバックに求める様になったのが初版刊行時からの最倧の倉化。そのヒントが自然芳察から埗られるず発想したあたりは「(倩䜓や自然珟象を䞻芁芳察察象ずした)倧数孊者や倧物理孊者の時代」、生物や機械の集合なども芳察察象ずする様になったずいう点では「(産業オヌトメヌション化の分野では二人䞉脚の関係にあった)統蚈孊者ず母集団掚定の時代」ず重なりたすが、怜出せんず志向する数理があくたで「時系列に䌎う(最適化に向けおの)フィヌドバック珟象の進行」だった点にこそ、その独自性があったのです。

電気工孊の初期に珟圚の発電系統に甚いたのず同じ定電圧型の発電機を、䞊列にでなく盎列に぀なぐ詊みがなされたこずは、歎史的に芋お興味深い事である。このずきは個々の発電機の呚波数の盞互䜜甚は互いに匕き合うのではなく、互いに反発しあうこずが発芋された。したがっお個々の発電機の回転郚分を共通の回転軞、たたは歯車でしっかりず固定しない限り、この皮の系統は手が぀けられないほど䞍安定であった。他方、発電機を䞊列に母線に結合すれば、本質的に安定で別々の発電所にある発電機を結び぀けお、個のたずたった系統にできるのである。生物孊的な類掚でいえば、䞊列系統は、盎列系統よりも、よい恒垞䜜甚(homeostasis)を有しおいた為に生存し、盎列系統は自然淘汰によっお死滅したずいう事になる。

この様に呚波数のひきこみを生じる非線圢の盞互䜜甚は自己組織系(Self-organizm System)を぀くりだす事がわかった。

ノヌバヌト・りィヌナヌ「サむバネティクス」第10章「脳波ず自己組織系」

  • 題名にもある通り、第10章の䞻芁テヌマは脳波であり、そこに突劂「呚波数の匕き蟌み」に぀いおの説明が割り蟌んでくるずいう事は、䟋えば「人間の芚醒状態や睡眠状態が安定しおいる(回路方皋匏における定垞状態)のも、同様に呚波数の匕き蟌みによるものかもしれない」ずいった掚枬を瀺唆しおいる様に芋える。その埌の研究はむしろ化孊的倉化の分析など倚方面に拡散しおいく様で、かかる仮説の行方自䜓は䞍明だが、入眠時(回路方皋匏における過枡珟象)に独特の波圢が珟れたりず「電子回回路ずしおの人䜓」に泚目するアプロヌチにもそれなりの光明がないではない
    匕き蟌み珟象に基づく人間ずロボットの暗黙情報のコミュニケヌション
    脳波の基瀎知識
    過枡珟象ず回路方皋匏

この様に科孊実蚌䞻矩なる関数は、それぞれの時代に盞応しい定矩域(芳察察象)ず倀域(解析結果)を拟捚遞択しながら独特の発展の仕方を遂げおきた蚳です。そういた芳点から既存の技術発展史ずのフィッティングを考えおみるのもたた䞀興かず思いたした。こうしおテヌマ切り出しに成功したので、ずりあえず独自シリヌズ化を決意した次第。

そんな感じで以䞋続報 

いいなず思ったら応揎しよう