草野原々公式ブログ

SF作家 草野原々のブログ

プロフィール

Profile

草野原々(くさの げんげん)

日本のSF作家。現在、札幌市在住。ときどき横浜市にもいる。

1990年 広島県東広島市生まれ。北海道大学理学院博士課程在籍。

日本SF作家クラブ所属。

 

連絡先

Twitter @The_Gen_Gen

ブログ http://the-yog-yog.hatenablog.com/

カクヨム https://kakuyomu.jp/users/The_Yog_Yog

お仕事のご依頼は

theyogsototh★gmail.com

まで(★を@に変えてください)。

 

これまでの活動

小説

・「最後にして最初のアイドル」:早川書房オリジナル電子書籍、2016年11月配信

 『伊藤計劃トリビュート 2』早川書房編集部編、ハヤカワ文庫JA、2017年1月発行 収録

エッセイ等

・「草野原々インタビュウ」 - 『S-Fマガジン』2016年12月号 収録

・「Oh ! マイアイドル」 - 『小説すばる』2017年2月号 寄稿

・「『けものフレンズ』はなぜSFとして「すっごーい!」のか」 - 『S-Fマガジン』cakes版(Web上)2017年2月17日 寄稿

・「塾員クロスロード」 - 『三田評論』2017年5月号 寄稿

講演等

・「けものフレンズはSFなのです なのです」- 『はるこん』2017年4月23日

その他の賃金が発生しない活動

・存在する(継続中)

【論文まとめ】IITはラッセル的汎心論と両立するか?/“Is IIT compatible with Russellian panpsychism?"【 Hedda Hassel Mørch(2016)】

mindsonline.philosophyofbrains.com

 

 

 

アブストラクト

 

 意識の統合情報理論(IIT)はある種の汎心論を含んだ経験的仮説である。この論文では、IITはラッセル的汎心論と親和的であり、ラッセル的汎心論の弱点である組み合わせ問題を解決できる可能性があるが、現在のバージョンのIITとラッセル的汎心論は整合的ではないところがある。整合性をもたらすために、IITに対する二種類の修正がありうる。一つはIITの排外仮定を修正するものであり、もうひとつは粗い粒化原理(coarse-graining principle)を修正するものだ。

 

○汎心論とは?


 汎心論とはすべての物理的なものは次の三つのうちどれかだと主張する立場だ。
 ①意識
 ②意識的なパーツにより作られたもの
 ③意識を作り出す部分

 

ラッセル的汎心論


 近年の心の哲学で受け入れられている汎心論のバージョンはラッセル的汎心論である。これは物理主義と二元論の問題点を避ける立場であるからだ。物理主義の問題とは、認識論的ギャップの問題であり、二元論の問題とは、心的因果の問題だ。
 ラッセルは物理学が扱うのは関係的あるいは構造的性質のみだとした。どのように物理的なものが他のものと関係しあうかであり、ものそのものが何であるのかという問題は扱わない。ラッセル的汎心論では、関係性には内的性質(instrisic properties)が必要だ。さらに、現象的性質は内的性質であるとする。

 

○物理主義と二元論の困難とラッセル的汎心論の有利な点


 物理主義では、現象的性質は物理的性質と同一だとする。問題は、現象的性質なしの物理的性質は想定可能だということだ。
 二元論では、現象的性質と物理的性質は別だとする。問題は、物理的世界は物理的性質のみに閉ざされていると想定した場合、心的因果が物理的世界に向かって働くことはないという結論になってしまうことだ。
 ラッセル的汎心論では、物理的性質は現象的性質(内的性質)により構成されるとする。もし、内的性質のあるものが存在するのであれば、その構造である物理的性質も存在するので、ギャップの問題はない。物理主義の問題点を回避できる。
 ラッセル的汎心論では、現象的性質が物理的構造を実現するため、物理的性質の因果的有効性は内的性質なしにはありえない。ゆえに、心的因果の問題はない。二元論の問題点を回避できる。

 

○構成的汎心論と創発的汎心論、およびその問題点


 構成的汎心論では、複雑な意識は単純な意識により構成されると考える。つまり、複雑な意識とは単純な意識が時空的に関係した姿と同一である。この立場は『組み合わせ問題』に直面する。ミクロな意識をどのように組み合わせればマクロな意識が構成されるのだろうか?ミクロ意識があっても、そこからマクロ意識があるということを導き出せない。
 創発的汎心論では、ミクロ意識の集合体とマクロ意識は別のものだとする。むしろ、ミクロ意識集合体により因果的にマクロ意識が生み出されるのだ。この立場は心的因果の問題に似た問題に直面する。ミクロ意識が物理的構造を決定するのならば、マクロ意識は因果的に余分な部分となってしまうのだ。

 

○IIT


 IITは意識の経験的相関を見出そうとする理論だ。すべての意識システムは統合情報Φの最大値であり、意識とはそれのみであるとする。この相関関係は、自己の内観から得られた現象学的公理からアプリオリで導出される。
 IITは小脳などの脳の部分にはなぜ意識がないか、や深い眠りについたときにどうして意識が消えるのかということを説明することができる。

 

○IITと組み合わせ問題


 IITは組み合わせ問題を解決できる。意識とΦの相関関係は現象学的公理からアプリオリで導出できるためだ。アプリオリなつながりは認識的ギャップをなくす。
 その解決の仕方には、いくつかの立場がある。

 

○現象的結束の立場


『現象的結束の立場(the phenomenal bonding view)』では、some physical relations はそのrelataの内的性質に還元不可能な内的本性を持っているとする。内観により、いくつかの物理的relataの本性にアクセスできるが、物理的relationsの内的本性にはアクセスできない。現象的結束立場によると、もし我々が脳内の粒子のむすびつきに関して内的本性を知ったならば、マクロ意識の存在はミクロ意識の関係性から導き出せると結論付けることができる。
 現象的結束の立場において最大の問題は、どんな物理的関係性が現象的結束関係性に対応するかを選び出すことだ。Goffは空間的関連性は現象的結束関係性だとする。そうだとすると、空間的関係性のあるすべての物理的性質は意識があることが導き出される。これを普遍主義(universalism)というが、ほとんどの汎心論者は普遍主義を拒否して意識をあるシステムだけに制限している。
 IITは現象的結束立場のようなことはありえるとする。IITが正しければ、現象的結束関係はある種の因果関係(オーバーラッピングする他のシステムよりもΦが高い要素の因果関係)となる。これは普遍主義を含まずに、アドホックな連接もない、自然な物理的関係性である。

 

○融合の立場


『融合の立場(the fusion view)』は創発的汎心論で組み合わせ問題に解答しようという立場だ。この立場によると、マクロ意識の創発共時的ではなく、通時的に起こる。創発したマクロ意識が、それを引き起こしたミクロ意識の集合体を引き継いで存在するようになるのだ。これにより、物理的性質を実現する候補は一つとなる。
 Seagerは量子的絡み合いやブラックホールのフォーメーションなどが物理的融合の例だとしている。要素は個別性を失い、『大きな単一』となる。しかし、脳内にそれに値するものは見つからない。
 IITはそれ自体は融合の立場である。それは排外(Exclusion)の仮定によるものだ。システムのなかで最大値のΦを示す部分のみが意識を持ち、下位レベルのミクロ意識は失われるとする。IITは情報の統合性という基準により融合の同一性基準を与えている。それは経験的に取り扱えるもので、物理学的仮説に対して改訂的ではない(脳内の量子的絡み合いを仮定するような無理はしていない)。

 

○粗い粒化問題(the coarse-graining problem)


 粗い粒化問題とは、IITが意識の時空的粒子を選び取る方法に起因する問題だ。IITでは脳というシステムはニューロンなどの荒い空間的粒子を部分として構成しているとする。また、ミリ秒単位の荒い時間的粒子を基準としている。
 粒子以下の構造は経験の質にとって関係がないとすると、ミクロ構造が炭素でもシリコンでも意識の性質には変化がないということになる。
 このことは、ラッセル的汎心論と矛盾する。ラッセル的汎心論では、物理的構造が現象的性質に付随(スーパーヴィーン)するとしている(少なくとも法則的に付随する)。しかし、IITでは付随は成立しない。
 次のように考えればIITとラッセル的汎心論の対立が解消されるかもしれない:炭素ニューロン脳とシリコンニューロン脳はマクロ現象的性質は同一であるが、ミクロ現象的性質は別であるのだ。同一のマクロ現象的性質は同一のマクロ物理的構造を実現あるいは法則的決定するが、ニューロンなどのミクロ単位での別々の経験が別々のミクロ物理的構造を実現するのだ。
 しかし、この考えは、排外の仮定により棄却される。マクロ意識よりも下位レベルのニューロンはミクロ意識を持つことはできない。

 

○Exclusionを放棄する


 排外仮定の放棄は脳内に無数の意識があることを意味し、『多数者の問題』を引き起こす。また、普遍主義を導く。これはまずい。
 さらに、IITの経験的問題を引き起こす。夢のない眠りでもΦはゼロにならないが、なぜ意識は消えるのかという問題に対して、脳内のサブシステムのΦよりも脳内全体のΦが低くなったからだと回答できる。Exclusionの下では、サブシステムの意識により脳全体の意識が排外されると説明できる。

 

○粗い粒化を放棄する


 粗い粒化を放棄して、もっと細かい粒化にしてはどうだろう。しかし、問題が起こる。第一に、我々の経験は脳内のミクロ物理的構造を反映していない。哲学においてこの問題は『粒の問題』といわれている。経験の粒は脳内のミクロ物理的粒を反映していないのだ。 
 第二に、経験的問題が起こる。Φはニューロンよりも小さい単位でもゼロにならないため、脳内の分子や原子が意識を持ってしまうこととなる。これは多数者の問題を引き起こす。

 

○Exclusionを修正する


 次のようにExclusionを修正すれば粗い粒化問題を解決できる。
 ①同じ時空的粒のなかでは意識はオーバーラップしない。
 ②下位レベルのシステムよりもΦが高いシステムでのみ意識は粒として存在する。
 これは、脳内の意識は、もっとも肌理の細かいミクロ物理的粒における意識とオーバーラップしているということだ。肌理の細かい部分が違う二つの脳(炭素脳とシリコン脳)はその部分においては別種の質を持った意識を経験しており、その違いはミクロ物理的構造と法則的スーパーヴィーンしている。
 この解決法は、Exclusionの放棄よりも役に立つ。例えば、眠りにおける意識の喪失を否定しない。脳レベルでの粒の意識は、下位レベルがより高いΦを持つと消える。また、能が考えられる限りで最も高いΦを持つシステムだとすれば、銀河や宇宙が意識を持つとする普遍主義も棄却できる。
 この修正案は、構成的ラッセル的汎心論のみに適用できる。創発的汎心論のように、ミクロ現象的性質とマクロ現象的性質が別物なのであれば、ミクロ現象的性質がマクロ現象的性質を因果的に排除するはずだ。
 しかしながら、粗い粒の現象的性質が細かい粒の現象的性質により構成されると考えても別の問題が生じる。緑を見るという経験ができる最小の部分を考えよう。その部分は主体にとって、完全に均一である。もしもこの均一な緑の部分がもっと小さな粒におけるミクロ現象的性質により構成されているとすると、主体の経験は均一で部分がないにもかかわらず複合体であるということになる。
 多くのラッセル的汎心論者は、現象的性質について見せかけと実際の区別は存在しないということを動機にしている。もしそうであれば、ある経験が均一でかつ複合体であるというのは道理に合わない。

 

○粗い粒化を修正する


 粒の問題:脳内のミクロ物理的構造に対応するマクロ意識の構造が少なすぎる。
 パレット問題:物理学において根源的粒子の数は制限されているが、それに対してマクロ意識が持つ質は多すぎる。
 この二つの問題は相補的に解決できる。失われたミクロ物理的構造のいくらかは余分なマクロ意識の質にエンコードされていると考えるのだ。ミクロ物理的構造が潜在的に可能なマクロ現象的な質に対応しているとするのだ。
 この考えは、IITの粗い粒化原理を修正する。Φ最大値の粒よりも下位の情報は経験の質にとって重要であり、構造にとっては重要ではない。つまり、ミクロ物理的レベルで別々のものが同じマクロ現象的構造を実現することはあるが、同じマクロ現象的質は実現できない。
 ここには、どのようにミクロ物理的構造が経験的質にエンコードされるのか?という謎がある。

 

○結論


 この論文では、粗い粒問題を解決し、IITとラッセル的汎心論を両立させる二つの方法を提案した。一つはExclusion仮定の修正であり、もう一つは粗い粒化原理の修正である。この二つの修正案は、ラッセル的汎心論の組み合わせ問題を解決しうる。心的組み合わせの原理は現象学的公理もしくは相関的主張のみからアプリオリに演繹可能である(現象的結束の立場または融合の立場いずれにしても)
 Exclusionの修正は現象的質は必然的に見かけとしてあるという立場と緊張関係にあり、粗い粒化原理の修正は質と構造の間のミステリーな関係性を前提とする。

【論文まとめ】「汎心論と汎原心論/Panpsychism and Panprotopsychism」【David J. Chalmers(2016)】

心の哲学の代表的論者、デイヴィッド・チャーマーズの論文です。汎心論と汎原心論、ラッセル的一元論、汎質論についての議論がまとめられています。

www.oxfordscholarship.com

 

チャーマーズは『意識する心』と『意識の諸相』が翻訳されています。

www.amazon.co.jp

www.amazon.co.jp

続きを読む

【論文まとめ】「『コウモリであるということはどのようなことか?』統合情報理論からの回答/“What is it like to be a bat?”—a pathway to the answer from the integrated information theory【Naotsugu Tsuchiya(2017)】

今回は神経科学者・土屋尚嗣さんの論文をお送りいたします。

onlinelibrary.wiley.com

 

 

論文の背景

 トマス・ネーゲルという哲学者は1974年に「コウモリであるということはどのようなことか?」という記事を書いた。コウモリは超音波で周囲の環境を知覚しているのだが、それはいったいどのような体験なのだろうか?この問題に答えるには、脳の状態と経験とを結びつけるような法則を与える理論が必要だ。
 もちろん、コウモリの意識について直接テストをすることはできないが、それを言うならば宇宙の起源や生命の進化についても直接テストをすることはできない。しかし、間接的な証拠から理論をテストすることはできる。意識についても同じ方法がとれる。経験的に有望な理論を直接テストできない問題に当てはめるのだ。ここでは意識の統合情報理論(IIT)を使う。
 この問題を解決する理論は脳活動のみを見て他者の経験状態を予測できるものでなくてはならない。どんな種類の経験かを脳活動のみから予測できれば理想的だ。
 さらに、動物の意識について予測できるものでなくてはならない。

 候補となる理論はいくつかある、それらの多くは「意識と脳のパズル」を解き明かしていない。意識のない夢のない眠りのなかでも人間脳は活発に活動している。そのため、単純に脳活動が多ければ意識となるとする理論は間違いだ。
 また、脳活動の『複雑性』を意識の必要条件または十分条件とする理論がある。しかし、大脳皮質の視床システムより四倍複雑な小脳が欠けていたとしても意識に影響を与えない。
 ニューロンの活動同期理論やグローバルな情報の有効性理論、再帰的フィードバック活動理論などはニューロンの短期間の活動や異なる脳部分でのコミュニケーションの促進といったものに意識の木曽を置いてきたが、それらは夢のない眠りでも起こっていることだ。また、別々の感覚の現象的差異を説明することはできない。脳のなかで同じようなメカニズムが起こっているのに、視覚と聴覚はどうして違うのか? について答えられる理論でないとダメだ。

 この問題を取り扱える理論として統合情報理論がある。統合情報理論現象学からはじまる。現象を観察して、意識には次の五つの根本的な性質があることがわかるだろう。それらを公理とするのだ。
①存在:意識は内在的に存在し、その経験は疑い得ない。
②構成:いかなる経験も様々な様態(視野、音など)から構成されており、各様態には様々なアスペクトがある(視覚的動き、表面、対象、色など)
③情報:意識は情報的であり、ある一つの経験は他の経験を排除した上で成り立つ。
④統合:経験の部分は、全体として一つに結びついている。異なったアスペクトバラバラではなく、結合した全体として統合される。
⑤排除:意識は有限の時空上のつぶであり、他の意識とはオーバーラップしない。

 統合情報理論は、この公理のもとで意識を発生させるメカニズムを探し出す。そのとき、重要になるのが統合情報Φである。
 例えば、上にあるランプと下にあるランプが結合されているところを考えよう。ランプはオンかオフの状態しか取らない。このとき、ありえる可能性は以下の四種類である。
上オン、下オン
上オン、下オフ
上オフ、下オン
上オフ、下オフ
 ランプは単位時間後に相方の状態をコピーする。現在状態が上:オン、下:オフであれば、その前の過去状態は上:オフ、下:オンである。もし現在状態が不明であれば過去状態も不確実となる。不確実性の程度をエントロピー(H)とする。エントロピーはシステムの可能なバリエーションを量化したものであり、log2(可能な状態数)で与えられる。
ここではlog2(4)=2 である。
 現在の状態を知った後のエントロピーは条件付エントロピー(H*)と呼ばれる。ここではH*=log2(1)=0
『情報』の概念は不確実性を減少させるものとして定義できる。数学的には相互情報Iと呼ばれ、H-H*として定義できる。ここではH-H*=2
 統合情報Φは全体システム由来の情報量Iから部分システム由来の情報量I*を引いたものである。Φ=I-I*。上の例では、もし二つのランプが分離されれば、各々のランプは現在状態を知ったとしても過去状態を知ることはできないためI*=0、ゆえに、Φ=2。Φはもしも全体システムが部分にカットされたらどのくらい情報が失われるのかを示す。
 Φはまた、システムの全体だけではなく、いかなるサブセットにおいても計算することが可能である。

 加えて、最小情報分割(MIP)と排外原理がある。
 MIPとはI*(部分システム由来の情報量)を計算するときにシステムをカットする最も適切な方法である。
 たとえば、先ほどのランプの例で、上がオン・下がオフの組と、上がオフ・下がオンの組が左右に並んでいたとする。 
 このとき、MIPは左右にカットすることである。そのとき、全体のφは0ということになる(残りの部分システムのφは減らないので)。間違って上下にカットすれば、全体のφは0より多くなる(残りの部分システムのφが大きく減るため)。
 MIPは排外原理と関係する。排外原理によれば、φが最大値をとるサブセットシステムが排外的な現象的性質を持つ。φが最大値をとるサブセットを『複合体complex』と呼ぶ。
 たとえば、互いに固く結びついたABCというシステムがあるとする。どの結びつきをカットしてもφの値を大きく下げる。ここで、Cと非常に弱く結びついているDという部分があるとしよう。ABCとDをカットしてもABCのφはほぼ変わらない、ゆえにこのとき全体システムABCDのφはほぼゼロである。複合体の外にある神経相互作用はいかなるものであろと非意識的なプロセスとなる(たとえば、脳の外にある網膜が独自の意識を持つことはない)
 IITによれば、感覚様態はその感覚に関わるニューロンの活動のみならず、他のニューロンとの相互作用によって生まれる。視覚は視覚ニューロンだけではなく、聴覚ニューロンなど複合体の他の領域との相互作用により生まれる。しかし、複合体の外での相互作用は非意識的プロセスとなる。

 

著者の主張
 IITを使って『コウモリであるということはどのようなことか』を経験的に理解することができる。

 

なぜそういえるのか?
 著者はIITを使って、簡単な課題をしている人間の脳活動パターンと言語による報告がIITの予想に即していることを示した。
 だが、コウモリに適用するためには非報告パラダイムが必要である。非報告パラダイムとは指示の上での意識操作や、身体シグナル(眼球運動など)を通じた意識内容の推定などを主軸とするデータ収集方法である。非報告パラダイムが必要なのは、報告行為と固く結びついている脳領域と意識の領域が別々であるとされているからだ。
 非報告パラダイムは動物に対して絶大な威力を発揮する。一度パラダイムを確立すれば、経験内容と統合情報パターンを比較することができる。だが、その比較方法はどのようなものなのか? 数学的な形式化ができる。カテゴリー理論を使うのだ。

 カテゴリー理論とは集合論のフレキシブルなバージョンである。これを使うと、異なる理論の間での定理の翻訳が可能となる(代数学幾何学のあいだ、論理学と量子力学の間など)。カテゴリー理論は対象間の『関係性』を抽出する理論だ。これをもって、正確な『類似性』を計ることができる。意識の異なるカテゴリー間(様態間、動物種間、数学的構造間)での比較ができるようになる。
 
 もしも、コウモリがエコロケーションしているときの統合情報が人間の視覚体験に近ければコウモリは超音波で『見て』いることになり、もし聴覚体験に近ければ『聴いて』いることになり、もし統合情報が非常に少なければ小脳のように非意識的な情報処理をしていることとなる。

【論文まとめ】「ファイにおける問題:情報統合理論批判 / The Problem with Phi : A Critique of Integrated Information Theory」【Michael A. Cerullo(2015)】

The Problem with Phi: A Critique of Integrated Information Theory

 

論文の背景

ジュリオ・トノーニは意識の量を測るための「情報統合理論(IIT)」を提唱した。

それは、「意識とは統合情報である」という理論だ。統合情報とは、「システムの要素が生成する情報」とされる。

情報統合理論は、現象学をベースとするいくつかの公理から、意識の量を数学的に算出する理論である。意識の量をΦとする。

この理論では、人間の脳と同等のフォンノイマン型コンピュータは意識を持っていないとすることもできる。

 

著者の主張

情報統合理論は以下のことから欠点のある理論である。

①公理の一つである「情報排除」の証拠はない。

トリビアルな理論でもIITと同じ予測をするため、IITには説明力がない。

③IITは機能主義に立脚していないため、「消え去る/踊るクオリア論法」に弱い。

④IITは認知的意識の理論というよりも、非認知的意識または原意識についての理論であり、現在の神経科学が注目するものではない。

⑤意識のハードプロブレムを解決することはない、むしろプリティ・ハードプロブレムに向かっている。

 

なぜそのような主張をするのか?

①公理の一つである「情報排除」の証拠はない。

「情報排除」の公理とは、意識のレベルとは、システムにより排除される認識的可能性の量により決まるというものだ。トノーニはこれは現象学的直観から得られるとしている。フォトダイオードは明か暗かの状態のとき、排除する可能性はそれぞれ一種類だが、人間は無数の可能性を排除したうえで一つの意識状態にある。

この公理の問題は、著者の直観とトノーニの直観が一致しないということだ。脳は多数の状態を区別できるが、脳の主な機能が情報表象であるからであり、情報排除公理はトートロジーとなる。

また、その他の公理も証拠はない。たとえば、「排外の公理」によれば、大きな意識の中に小さな意識があるということはない(意識とは排外的である)とするが、他の意識の一部分だということをどのように知ることができるかわからない。

 

トリビアルな理論でもIITと同じ予測をするため、IITには説明力がない。

トノーニはIITに経験的証拠があるとしている。たとえば、分割脳の事例でそれぞれの分割脳が別の意識を持つのは脳を分割してもΦが大きく減ることはないからである。

だが、恣意的な別の理論でも同じくらいの説明をすることはできる。循環調整伝達理論(CCMT)というトリビアルな理論を考えてみよう。これは、意識とはシステム内のフィードバックループを起こす情報であるとする理論だ。システムの情報循環をΟ(オミクロン)とする。Οは全体の情報循環に部分の情報循環をマイナスしたものだ。フォトダイオードに意識がないのは情報が循環する通路がないためである。対して人間の脳にはフィードバックループがあるので意識がある。

分割脳の事例ではそれぞれの脳にフィードバックループが残っているため二つの意識が生まれる。

 

③IITは機能主義に立脚していないため、「消え去る/踊るクオリア論法」に弱い。

以下のエントリと同じ論法のため省略。

the-yog-yog.hatenablog.com

 

④IITは認知的意識の理論というよりも、非認知的意識または原意識についての理論であり、現在の神経科学が注目するものではない。

トノーニとAaronsonの議論では、XORゲート(XORゲート - Wikipedia)が意識を持つ可能性について話されている。トノーニはその可能性を認めるが、Aaronsonはばかげているとする。対して、トノーニは常識によりIITを棄却することはできない、なぜならば、限界事例における意識について話しているからだと反論する。また、トノーニは意識の理論は現象学からはじめるべきで意識の神経相関からはじめるべきではないとする。

ここで、トノーニには三つの問題がある。

一つ目の問題:主観的経験をベースとした意識の根源的性質の考察は人々により大きく変わりうる。AaronsonはXORゲートに意識が生じるのはありえないとするが、トノーニはありえるとする。

二つ目の問題:トノーニとAaronsonで「意識」がなにを示すかが違っている。Aaronsonは「意識」を神経科学と整合的な意味で使っているが、IITはもっと一般的な主観的現象という意味で使っている。

IITは汎心論の一種である汎経験主義である。万物に心があると主張するのではなく、万物に経験があると主張するからだ。この経験に当たるのは意識ではなく原意識である。トノーニは意識と原意識を混合している。Rosenbergは原意識的経験は心が欠けているとする。フォトダイオードやXORゲートは認識的性質を欠いている、対して、人間の脳は意識と気づき・記憶・機能遂行が関連している。

Aaronsonは科学者が興味を持つ意識を認識的意識とする、対して、IITは非認識的意識を扱う。

ネッド・ブロックは命題的態度であるアクセス的意識と感覚である現象的意識を区別したが、そのどちらも認識的意識である。

トノーニはXORゲートには非認識的意識があると言ったのに対して、Aaronsonは認識的意識はないとしたのだ。

だが、認識と経験の分離は経験者と独立の経験を認めてしまう。これは意識の本質を探るというよりもより多くの謎を生み出してしまう。もしも原意識と意識の性質が別物であれば、意識の謎については原意識をもって答えることができなくなる。

IITの当初の目的は意識の量を測るというものだったが、原意識と意識を区別していないのでその目的は果たされない。

トノーニの三つ目の問題が:⑤ハードプロブレムの誤解である。

意識のイージープロブレムは「どのように脳が意識を生み出しているか」なのに対して、ハードプロブレムは「なぜ脳が意識を生み出すのか」である。

トノーニはIITによりハードプロブレムを解決するとしているが、「なぜ統合情報が意識を生み出すのか」は不明である。

むしろ、IITはプリティ・ハードプロブレム:どんな物理的システムが意識を生み出すかを問題にしている。

 

関連エントリ

the-yog-yog.hatenablog.com

the-yog-yog.hatenablog.com

 

the-yog-yog.hatenablog.com

the-yog-yog.hatenablog.com

【論文まとめ】人工知能に意識を帰属させる / Ascribing Consciousness to Artificial Intelligence 【Shanahan(2015)】

[1504.05696] Ascribing Consciousness to Artificial Intelligence

 

【論文のまとめ】

この論文は、『意識の統合情報理論』においての反機能主義的側面を批判するものだ。批判のために、「脳神経を徐々に機械化していったときどうなるか」という思考実験を使う。筆者の主張は、「意識とはなにか」という形而上学的問題ではなく「我々は何を意識とするのか」というカテゴリーに関する問題に注目すべきだというものだ。AIに意識があるのかという問題は、実際に人間レベルのAIが誕生するのを待たねばならない。

 

『意識の統合情報理論』についてはこの本を参照のこと。

www.amazon.co.jp

 

【論文の背景】

近年、Giulio Tononiは「意識の統合情報理論(IIT)」を唱えた。これは意識を情報科学の側面から明らかにしようというものであり、「Φ」という意識の量を出すことが可能になる理論だ。Φは統合された情報に依存する。要素xのシステムよりも高いΦを持つサブシステムに分割することが不可能な場合、xに意識が内在しているとされる。このような意味で還元不可能なシステムは「複雑」であると呼ばれる。

人体の場合、脳において最も高い統合情報Φmaxが示される。脳を分割したサブシステムにおいて非ゼロのΦが示されることもあるが、それらのサブシステムのΦは脳全体より大きくなることがない。そのため、脳の各部分が独立して意識を持つことはない。

一方、Tononiはコンピュータに対して、全体を無数の小さなΦmaxに分解できるため、意識を持ってはいないとしている。

さらに、Tononiは非ゼロΦシステムと機能的に同等なゼロΦシステムが存在するとしている。たとえば、非ゼロΦシステムが持っており、それと機能的に同等なゼロΦシステムに欠けているものとして再帰的連結がある。フィードバックは自らの内部状態に依存することなく、それゆえ部分ごとに生成された情報の合計以上の情報が全体として生成される。このようなシステムはΦが非ゼロであるが、フィードバックシステムと機能的に同等であるが全体として部分以上の情報を生成しないシステムはありうる。

脳は多数の再帰的連結を保持しているため、高いΦを持つ。一方、コンピュータは多数のトランジスタから構成され、それぞれの部分は自らの下位集合に依存するため低いΦを持つ。

 

【著者によるTononiへの反論】

デイヴィッド・チャーマーズによる「脳神経を徐々にエレクトロニック・デバイスに置き換える」という思考実験がある。このときクオリアはどうなるだろうか? 三つの選択肢がある。a)意識は神経が機械化されるある閾値に達すると突然消える。b)意識は徐々に薄れていく。c)意識はずっと続く。機能主義はcをとり、Tononiはbをとるだろう。

 

では、今度は機械化されるのがTononi自身だとしてみよう。機械化されたTononi (Twin Tononi / TT)は自らに意識があると主張し続けるだろう。このとき、あなたは実は機械化されているのですよと教えてあげればどういう反応をするのだろうか? 三つの選択肢がある。a)そのような発表に懐疑する。b)自らに意識があるという見解を放棄する。c)機能主義への反対を翻す。

aは不合理である。bもありそうにない、Tononiは「自分の意識が在るというのはもっとも信頼できる」としている。意識についての自己知は否定できないという立場だ。Tononiと同等な機能状態を持っているTTも同じような主張をするだろう。ゆえに、TTは機能主義に賛成せざるおえない。

 

【可能なTononiの反論とそれに対しての再反論】

Tononiは「もし自分がデジタルコンピュータであることが明かされたらどう感じますか?」という質問に、「意味のない質問だ、前提が不可能だ」と返している。TTも同じことを言うだろう。行き詰まりを打破するために、拷問をしてみよう。機械化は可逆的だと仮定する。IITの非機能主義的立場からすれば、TTは拷問の間なにも感じないはずだ。TTにあなたはコンピュータですので痛みは感じません、生物脳に戻ったときに記憶を消してお金をたくさんあげますという申し出をしたらどうだろうか?おそらく、その提案を受けることはあるまい。

ここでの教訓は、意識があるということは正当化された自己知から導き出されなくてはいけないというものだ。高いΦがあるということは正当化された自己知の主張に含意されてなくてはいけない。しかしながら、Φの高さ自身は自分の意識の発話について因果的役割を果たしていない。人は意識について主張するのに自らのΦを計算する必要はないのだ。このことから、なぜTTの発話よりもTononiの発話のほうを信頼するべきなのかという問題が沸き起こる。

 

【結論:形而上学なしの科学】

Tononiは「意識とは何か」という形而上学的疑問に返答しようとしているが、それは無駄なことだ。適切な疑問とは「どのような状況で我々はなにかに意識を帰属させようとするのだろうか?」である。人間レベルのAIに意識があるかは、実際にAIが発明されないとなんともいえない。「私には意識がある」という発話は命題ではなく、マジシャンが「ちちんぷいぷい」というようなものだ。それをまともにとって意識とは何かを追求してはいけない。

 

【関係するエントリ】

the-yog-yog.hatenablog.com

the-yog-yog.hatenablog.com

the-yog-yog.hatenablog.com

【けものフレンズ考察】「埋設されたもの」とは何か?:全22種類の説を考えてみた

アニメ「けものフレンズ」七話でのクリフハンガーとでもいえる「フレンズやわたしたちにとってとても大切なものが埋設されている」という発言。今後の展開で、おそらくこの「大切なもの」が大きく関わってきそうだ。それを予想してみよう! というのがこの記事。数うちゃ当たるの法則でできるだけ多く考えてみた結果、22種類の説が出てきた。はたしてこのなかに正解はあるのか!?

説を見る前に、例の台詞には発言の主体は誰かいつ発言されたかにより異なる解釈があることに注意しよう。最低限、以下の三つの解釈が可能である。

 

①録音解釈:ラッキービーストが喋っているのは遥か昔に録音されたヒトの言葉。この場合、「わたしたち」とは過去の人間を指す。おそらく、パーク運営側が客へと伝えた情報であろう。
②現在ヒト解釈:絶滅を逃れてどこかに生き残っているヒトがラッキービーストを通して通信を試みているという解釈。この場合、「わたしたち」とは現在の人間を指す。
③ラッキービースト解釈:ラッキービースト自身が自我を持ち喋っているという解釈。この場合、「わたしたち」とはラッキービーストを指す。

以下の説のどれを支持するかということは、上の三つの解釈のどの立場に立つかということと密接に関係している。

それでは、各説を概観しよう。

続きを読む