情報とは何か

ーーその本質を考えるーー

                                                                                 久保田隆成

Top Page に戻る   目次に戻る

第３章　情報量など

3.1 時代背景　

常識的に考えると、「情報量」というと、「情報が多い」とか「情報が少ない」いうように使われる。そして、この場合の、「多い」、「少ない」は、ある事態に対して適切な判断を下したり、行動を取ったりするために必要な情報を基準にして述べられる。すなわち、相対的な情報量であって、絶対的な情報量ではない。ましてや、情報量を測る単位があるわけではない。

　これに対して、今から ６０年 以上も前（ 1948 年）に、Claude. E. Shannon (1916-2001年、米) は、論文：「A Mathematical Theory Of Communication」　において、情報量を定義して、その単位を「bit」 とした。

　Shannon が論文の「まえがき」で参照文献として挙げている次の論文は、1920 年代のもので、電信に関する論文であるので、1900 年代前半の電信に関連する歴史を列記しておく。

　1. Nyquist.H., "Certain Factors Affecting Telegraph Speed," Bell System Technical Journal, April 1924, p. 324; "Certain Topics in Telegraph Transmission Theory," A.I.E.E，Trans., v. 47, April 1928, p. 617.

　2. Hartley, R. V. L., "Transmission of Information," Bell System Technical Journal', July 1928, p. 535.

 

　1901年　G. Marconi　大西洋横断無線電信の実験に成功

　1904年　J. Fleming　２極真空管の検波作用を発見

　1905年　Albert Einstein  特殊相対性理論を発表

　1906年　Reginald A. Fessenden　最初の AM 放送

　1907年　Lee DeForest　３極真空管を発明

　1912年　タイタニック号遭難→「国際無線会議」開催（遭難周波数：500kHz、遭難信号：SOS）

　　　　　　Herbert van Etten etc.  ３極真空管の増幅作用発見

　　　　　　Edwin H. Armstrong 　３極真空管の再生増幅、再生検波方式の発明

　1913年　電信　多重通信（8ch）が導入される

　1914年　第１次世界大戦（〜1918 年）

　 1915年　Walter H. Schottky ４極真空管の発明

　1917年　Edwin H. Armstrong　スーパーへテロダイン方式の発明

　1919年　Morkrum 社　「テレタイプ」（商標Teletype）を発表

　1920年　Westinghouse（WH）社　定時ラジオ放送局（KDKA）を開局

　1921年　Albert Hull  マグネトロンを発明

　1925年　Charles F. Jenkins　機械式無線テレビジョンシステム（「ラジオビジョン」）を開発

　1928年　Philo T. Farnworth　カラー TV を発明Edwin H. Armstrong　

  1929年　Philip E. Edelman  ５極真空管を発明

　1931年　AT&T　電信サービス「TWX; Teletype Writer eXchange、後の「テレックス」」を開始

　1936年　米海軍研究所　パルス方式レーダー 公開実験に成功

　1937年　米陸軍通信部隊研究所　対航空機用地上レーダー「SCR-268」開発（最大探知距離 37km）

　1939年　第２次世界大戦（〜1945年）

　1941年　太平洋戦争（〜1945年）

　1945年　John von Neumann プログラム内蔵型コンピュータの概念発表

　1946年　米陸軍弾道研究所　ENIAC 完成

　1948年　Shockley, Bardeen, Brattain　トランジスタの発明を公表

 

　当時の米国における文字情報の伝送手段は電信機（テレタイプ）であった。テレタイプは、現在のブラウン管式表示装置が出現するまで、コンピュータの端末として 19８0 年代初期まで使用された。この間、文字コードも ７ビット に改良され、制御文字コードのかなりの部分は、現在の ASCII コードに踏襲されている。

　以下に、Morkrum 社製の印刷電信機と ５ビット文字コード示す。文字は上部のローラー部に印字されるとともに、紙テープに文字コードがパンチされて保存され、必要に応じて読みだされる。

　電話網の端末にテレタイプを接続したシステムが、「テレックス」で、1931 年 「AT&T」がサービスを開始している。

図 3.1 Morkrum 社製　印刷電信機
telegraph
図 3.2 印刷電信機用　文字コード
telegraph_character_code
参照　http://kanji.zinbun.kyoto-u.ac.jp/~yasuoka/publications/IEICE2010-1.pdf

　

3.2 通信系モデル

　Shannon が彼の論文で示した「Shannon の通信系モデル」（Schematic diagram of a general communication system）と、情報の符号化の視点から、より具体化した「Shannon-Fano の通信系モデル」を以下に示す。

図3.3 Shannon の通信系モデル
shannon_model
図3.4 Shannon-Fano の通信系モデル
fano_model

 

　上図において、「情報源」（Information Source）は、具体的には、ＴＶや電話の音声などである。また、「通報」（Message）は、情報を伝送するために表現要素（Representation Elements）を順序づけて並べたものである。なお、表現要素は文字や画素などである。

　図3.3 の「Transmitter」（送信機）は情報源を符号化し、さらに搬送波を変調して信号（Signal）を生成している。この部分は、図3.4 では、「情報源符号器」（Coder）と「通信路符号器」（Modulator）になっている。

　「通信路」（Channel）は（図3.3 では明示されていない）は、有線の場合は、電話線や同軸ケーブルであり、無線の場合は、空間である。なお、図3.3 では、「Noise Source」（雑音源）が明示的に付け加えられている。

　　図3.3 の「Receiver」（受信機）は、搬送波から信号を復調して符号を取り出し、さらに、その符号を対応する表現要素に復号して「Message」（通報）を出力する。この部分は、図3.4 では、「通信路復号器」（Demodulator）と「情報源復号器」（Decoder）になっている。

 

以下続く

この章の次の節へ：

   3.3 情報源

   3.4 確率的情報源（3.4.1 定常不規則過程　3.4.2 エルゴード的定常不規則過程　3.4.3 マルコフ過程）

   3.4 確率的情報源（3.4.4 情報量とエントロピー　3.4.5 二者択一の情報源　3.4.6 相対エントロピー・冗長度）

 

他の章へ：

   第１章　初めに　　第２章　情報の本質　　　第４章　遺伝情報

 

 Ｔｏｐ Page に戻る   目次に戻る