〔甘利〕
　相互情報量の概念を使って，今，生物行動だけれども，あと，心理学への応用，言語学への応用，社会学への応用，例えば脳における情報の表現への応用，マキシマム・エントロピー・プリンシプルみたいなのもありますよね．これらは非常に普遍的で面白いと思う反面，全部いかさまであるという議論も成り立つのです．もちろん，相互情報量という量は二つの確実変数の間の不変な関係を表しているのです．それ自体はいいのです．ところがいわゆるシャノン・セオリーの場合には，それがある意味で大数の法則と結びついて，非常にデフィニットな構造を持ったのです．全く文句ない．これは非常にいい量だから，じゃあ，本当にシャノンは偉くて何にでも使えるのかとなるのです（笑）．

　つまり，情報理論を使ったからいいのだというふうに言われたらとんでもない間違いだと言っていいのではないかと思うのです．

　その中間のところ，際どいところにくるのがMDLなのです，リサーネン（Rissanen）の．Minimum description lengthあれはいいのです． ちゃんと意味のある量です．だけども，それが例えばモデル選択に本当にいいのかというのは別のフィロソフィーなのだと思うのです．

　いろいろな意味で，相互情報量，シャノン理論の応用はあるけれども，それは一方，冷めた目で見て，なおかつそれは普遍的な量だというのは面白くはあるという，ちょっと距離を置いて見る必要があると思っているのです．


〔辻井〕
　ちょっと伺いたいのは，先ほど，ハミング符号というのは結局シャノンの情報理論と前後して出てきて，どっちが早いとも言えないぐらいだというわけですが，だから，もし，ああいう通信路符号化，通信路容量みたいなのが出てこなくても，当然，人間は誤りを訂正したいという気持ちが起きてくるから，だんだん発展してくるでしょう．例えば太平洋戦争前からの暗号開発の指導者の釜賀一夫先生は，大戦中，字差（ハミング距離）を定義して，誤り訂正符号を提案しています．終戦時処分すべきものを弥永昌吉先生が隠し持っておられたコピーを私も頂きました．暗号通信で誤りが起ると困るわけですね．そして，BCH符号も出てくるでしょうということになるのでしょうが，そしてだんだん効率を良くしようとはする．しかし，レートが通信路容量よりちょっとでも小さければ誤り率は幾らでも零に近づけますという指導理念というのは，やはりそれがあったから符号理論はかなり進んだということは言えるのでしょうか．


〔有本〕
　符号理論も当然進んだけど，結局，代数構造一つだけでやると，要するにそれで複雑性を増していっても，単独ではレートをフィックスできないわけです．そこで符号理論の人は困り果てて，でもシャノンの理論があるから何とかキャパシティに近いような符号化をやる．それで連接符号とかいろいろなアイデアを出して，今やそれがターボ符号にまでつながって，あと，ガラガーのLDPCまでつながっているわけです．

　逆に言うと，いずれ符号理論で全部カバーできるかというと，そうではなくて，やはりシャノンの理論があったから，そこからパーッと開けたという相互作用があるのではないかと私は思うのです．


〔田崎〕
　多分，皆さん，これ，御存じだと思いますが，スタンフォードのカバー（Cover）．彼が「Shannon and Investment」という打ち明け話を書いているのです．シャノンが株でもうけたというのは有名な話ですね．彼はこれに情報理論の考えを応用している．それをCoverが自分の論文で書いているのです．サミュエルソン（Samuelson）という経済学者がいますよね．彼とシャノンとが議論して，それを受けてサミュエルソンがいろいろと経済と情報理論との関係を論文に書いているのです．シャノン自身はそれについては何も書いてないのですが，彼はそのまま実践して，がばちょともうけちゃっているのです．


〔有本〕
　投機しているわけではないんでしょう．


〔田崎〕
　だけど，彼はそれで……，彼が投機をやったかどうか知らないけれども．


〔有本〕
　だれかが書いているけれども，シャノンはハイスクールのときの同級生がヒューレット・パッカードの人たちで，ヒューレット・パッカードの創始者の中にシャノンは入っているのです．だから，そのHPの大株主でもあるんです．



12/23

| TOP | Menu |

(C) Copyright 2000 IEICE.All rights reserved.