Solomonoff: Formal Theory of Inductive Inference

Solomonoff
Formal Theory of Inductive Inference. Part.I
Information and Control Volume 7, Number 1, March 1964, pp.1--22
Solomonoff
Formal Theory of Inductive Inference. Part.II
Information and Control Volume 7, Number 2, June 1964, pp.224--254

Part I

Introduction

帰納推論に関するモデルを4つ示す.

Carnapの言語 (1950) において、 長い文字列 TT が 部分文字列 aa で記述できるという仮説の確証できる度合いを c(a,T)c(a, T) として書く. Carnapの確率とかいう話とつながる.

M:L()M: ○ \mapsto L(○) (L()Σ*L(○) \subseteq \Sigma^*) という機械 M が存在するとき、 を文字列についての description という. 言語を記述するもの、説明するものである.

モデルの妥当性を説明する1つに「オッカムの剃刀」というものがある. 一つの理解として、 より simple であること、より economical であるほど良いというものである. あるいは、より短い description ほど良いというものである.

他には Principle of indifference (無関心の原理?) ってのがある. あるチューリング機械に対する長さを固定した全ての入力 are assigned "indifferently equal a priori" likelihoods.

ハフマン符号は3つめのモデルの妥当性を与える. ハフマン符号は長い文字列でも確率に基づいた最短の記述を与えるものであるから.

Part II