[1504.05696] Ascribing Consciousness to Artificial Intelligence
【論文のまとめ】
この論文は、『意識の統合情報理論』においての反機能主義的側面を批判するものだ。批判のために、「脳神経を徐々に機械化していったときどうなるか」という思考実験を使う。筆者の主張は、「意識とはなにか」という形而上学的問題ではなく「我々は何を意識とするのか」というカテゴリーに関する問題に注目すべきだというものだ。AIに意識があるのかという問題は、実際に人間レベルのAIが誕生するのを待たねばならない。
『意識の統合情報理論』についてはこの本を参照のこと。
【論文の背景】
近年、Giulio Tononiは「意識の統合情報理論（IIT)」を唱えた。これは意識を情報科学の側面から明らかにしようというものであり、「Φ」という意識の量を出すことが可能になる理論だ。Φは統合された情報に依存する。要素ｘのシステムよりも高いΦを持つサブシステムに分割することが不可能な場合、ｘに意識が内在しているとされる。このような意味で還元不可能なシステムは「複雑」であると呼ばれる。
人体の場合、脳において最も高い統合情報Φmaxが示される。脳を分割したサブシステムにおいて非ゼロのΦが示されることもあるが、それらのサブシステムのΦは脳全体より大きくなることがない。そのため、脳の各部分が独立して意識を持つことはない。
一方、Tononiはコンピュータに対して、全体を無数の小さなΦmaxに分解できるため、意識を持ってはいないとしている。
さらに、Tononiは非ゼロΦシステムと機能的に同等なゼロΦシステムが存在するとしている。たとえば、非ゼロΦシステムが持っており、それと機能的に同等なゼロΦシステムに欠けているものとして再帰的連結がある。フィードバックは自らの内部状態に依存することなく、それゆえ部分ごとに生成された情報の合計以上の情報が全体として生成される。このようなシステムはΦが非ゼロであるが、フィードバックシステムと機能的に同等であるが全体として部分以上の情報を生成しないシステムはありうる。
脳は多数の再帰的連結を保持しているため、高いΦを持つ。一方、コンピュータは多数のトランジスタから構成され、それぞれの部分は自らの下位集合に依存するため低いΦを持つ。
【著者によるTononiへの反論】
デイヴィッド・チャーマーズによる「脳神経を徐々にエレクトロニック・デバイスに置き換える」という思考実験がある。このときクオリアはどうなるだろうか？ 三つの選択肢がある。a)意識は神経が機械化されるある閾値に達すると突然消える。b)意識は徐々に薄れていく。c)意識はずっと続く。機能主義はcをとり、Tononiはbをとるだろう。
では、今度は機械化されるのがTononi自身だとしてみよう。機械化されたTononi (Twin Tononi / TT)は自らに意識があると主張し続けるだろう。このとき、あなたは実は機械化されているのですよと教えてあげればどういう反応をするのだろうか？ 三つの選択肢がある。a)そのような発表に懐疑する。b)自らに意識があるという見解を放棄する。c)機能主義への反対を翻す。
aは不合理である。bもありそうにない、Tononiは「自分の意識が在るというのはもっとも信頼できる」としている。意識についての自己知は否定できないという立場だ。Tononiと同等な機能状態を持っているTTも同じような主張をするだろう。ゆえに、TTは機能主義に賛成せざるおえない。
【可能なTononiの反論とそれに対しての再反論】
Tononiは「もし自分がデジタルコンピュータであることが明かされたらどう感じますか？」という質問に、「意味のない質問だ、前提が不可能だ」と返している。TTも同じことを言うだろう。行き詰まりを打破するために、拷問をしてみよう。機械化は可逆的だと仮定する。IITの非機能主義的立場からすれば、TTは拷問の間なにも感じないはずだ。TTにあなたはコンピュータですので痛みは感じません、生物脳に戻ったときに記憶を消してお金をたくさんあげますという申し出をしたらどうだろうか？おそらく、その提案を受けることはあるまい。
ここでの教訓は、意識があるということは正当化された自己知から導き出されなくてはいけないというものだ。高いΦがあるということは正当化された自己知の主張に含意されてなくてはいけない。しかしながら、Φの高さ自身は自分の意識の発話について因果的役割を果たしていない。人は意識について主張するのに自らのΦを計算する必要はないのだ。このことから、なぜTTの発話よりもTononiの発話のほうを信頼するべきなのかという問題が沸き起こる。
【結論：形而上学なしの科学】
Tononiは「意識とは何か」という形而上学的疑問に返答しようとしているが、それは無駄なことだ。適切な疑問とは「どのような状況で我々はなにかに意識を帰属させようとするのだろうか？」である。人間レベルのAIに意識があるかは、実際にAIが発明されないとなんともいえない。「私には意識がある」という発話は命題ではなく、マジシャンが「ちちんぷいぷい」というようなものだ。それをまともにとって意識とは何かを追求してはいけない。
【関係するエントリ】
