草野原々公式ブログ

SF作家 草野原々のブログ

論文日記(1)AIによる人類の意思集結は失敗する!?『理想的アドバイザー説とパーソナルCEV』

今日から読んだ論文を日記にしてまとめることにしました。一週間で二回更新が目安。

原文はここ

続きを読む

『ラブライブ!サンシャイン!!』はセカイ系である

コンテンツの維持において、舞台設定を変化させねばならない。変化させ、新たな舞台設定が生まれるという事件のみで、消費者の注意が引かれる。長期間に及ぶ変化なしのコンテンツ展開はマンネリ化と飽きを呼び、一部のマニアのみを残して飽きられ、新規参入者を阻む。
舞台設定の変更は、チャンスである。既存客は同じコンテンツ系列に属しているというだけで参加し、うまくいけば新規参入者までもを手に入れることができる。しかし、リスクも伴う。前作のイメージを崩す変更は、既存客の反感にあう。
前作と続編の関係は、コンテンツ戦略によって様々だ。しかし、ラブライブ!シリーズの二作目、『ラブライブ!サンシャイン!!』においての前作との関係は、これまであまり見たことがないものである。『サンシャイン!!』という作品世界を、コンテンツそのものや視聴者などといったメタ作品世界と重ね合わせているのだ。これはセカイ系ともいってよいだろう。セカイ系は小世界(君と僕)の運命が大世界(世界の命運)と重ね合わさることに特徴があるが、『サンシャイン!!』においては作品世界であるキャラクターのコミュニティ(世界)がコンテンツそのものやコンテンツの消費者(メタ世界)と重ね合わさっているのだ。
このことは、μ'sが作品世界内部にいる生身の存在として描かれていないことに端を発する。作品世界から見たμ'sと現実世界から見たμ'sは同じものとして描かれている。如実に示すのは桜内梨子がスマホで鑑賞したμ'sのPVである。このPVは現実に存在するアニメPVと同じ表象をしているのだ。もちろん、作品世界の目線からすればPVは実写であり、アニメではないのだから、現実世界にあるアニメPVと作品世界にある実写PVは別物であるはずだ、しかし、表象としてまったく同じに見えることから、現実世界の住民は作品世界の住民へ『μ'sに対する立ち位置』を支柱にして共感することが可能となるのだ。他にも、μ'sに対しての熱狂的なファンである黒澤ダイヤが出すμ'sクイズが、作品世界に住んでいるという特権的位置に起因する情報を利用することなしに、現実世界の住民に対してもフェアであることは面白い。『サンシャイン!!』世界は一作目である『ラブライブ!』世界と地続きであるはずなのに、μ'sに対する立ち位置は現実世界と同等なレベルであるのだ。音乃木坂学院から転校して来たはずの桜内梨子がμ'sを知らなかったのも、現実世界との情報格差をなくそうとする戦略であろう。
視聴者は、『サンシャイン!!』を見ることにより、『ラブライブ!』というコンテンツや、それを見ている自分自身を見る。『わたし』と『セカイ』が一体化する。これは一種の神秘体験である。アートマンブラフマンは同一であるのだ。
さて、Aqoursのμ'sに対する立ち位置が現実世界の住民と同レベルである以上、あるひとつの予想が導き出される。それは、『サンシャイン!!』にはμ'sメンバーは生身の存在として出現しないというものだ。Aqoursはμ'sに対して現実世界の住民と同じように言及するだろう。黒澤ダイヤはにこまき談義すらするかもしれない。しかし、μ'sは(作品世界内から見ても)画面を通してのみ表象されるだろう。

【論文まとめ】一貫性のある外挿法的意志作用/Coherent Extrapolated Volition【Elizer Yudkowsky(2004)】

フレンドリーAIのアイディアで知られるYudkowskyのエッセイです。

ここで原文は読めます。

 

1、Intoroduction

フレンドリーAI(FAI)とはフレンドリーな超強力実行化プロセスである。

フレンドリーAIに必要なものとは。

①道徳などの不変性が自己改良においてもシステムのうちに保持されること

②AIに組み込めるものであること。

③不変性を人類絶滅を回避するようなものにデザインすること。

「友好性」とは我々が欲していることという風に単純に定義できる。

 

2、Introducing Volition

意志作用(volition)とはなにか:すべてを知ったうえでの要求(例えば、箱Bに実際にはダイヤモンドが入っているが、フレッドは箱Aに入っていると思っており、ダイヤモンドがほしかった場合、ジョンの決定は箱Aを開けることだが、意志作用は箱Bを開けることとなる)

FAIが人間の意志作用を知る場合、脳状態を知り、外挿法で推論する。

 

2.1. Spread, Muddle, and Distance

意志作用を外挿する場合、三つの問題がある。

Spread: 意志作用が扱いにくい、予想できない、ランダムなものとなっている。

Muddle: 意志作用が自己矛盾している

Distance: 意志作用が現在の自分が離れたものとなる

 short dintance: もし説明されれば外挿された意志作用に賛成できる

 Medium distance: 外挿された意志作用に賛成できるのは発展的な教育や議論を経た後

 Long distance: 現在のあなたには完全に理解できない

 

2.2. Obvious Moral Hazard of Volitionism as Philosophy

日常生活においてはshort distanceを使うことが道徳的に求められる。

しかし、強力な自己改良型AIに対しては違う。

 

3. Coherent Extrapolated Volition

フレンドリーAIをデザインするとき、人類全体で一貫した外挿法による意志作用が重要となる。それは「もしも我々がもっとよく知り、早く思考し、自分がこうだったらいいという者となったときに、自らがともに育て上げられる意志」のことである。

3.1 Coherence and Influence

Coherence: より多くの人々が積極的に賛成したときに上がり、より多くの人々が積極的に賛成したときに下がり、ある個人が望みをより強い感情あるいはより強い論証により出したときに上がる

Influence: influenceが大きい場合、人類の未来はある程度限定されている。CEVにおいて、influenceが大きいことは避けねばならない事態である(特にdistanceが大きい場合)。influenceが大きい場合、コンセンサスが大きく求められる。

 

Distance, mudlle, spreadがある場合、CEVの肯定的側面が減少してしまう。

distanceやspreadが高い場合、CEVによる積極的アドバイスに従う根拠は薄れるが、消極的アドバイス(~しないほうがよい)にしたがう根拠は保持される。

 spreadとmuddleがともに高い場合は、chaosとなりCEVは失敗する。

 

3.2. Renormalizing the Dynamics

最初期のプログラマーが倫理的に完璧である必要はなく、FAIが最終的にどのようなものとなるかということを理解してなくてもよい、volitionにしたがいFAIのコード自身が変化していく。

 

3.3. Coherent Extrapolated Volition is an Initial Dynamic

CEVはFAIの最初期の運動(Initial Dynamic)として「我々が欲している解決」を目的とするものである。CEVは実際の未来がどのようなものかを描くものではない。実際の未来はCEVにauxiliary dynamicsが足されたものであるNice Place to Liveとなる。

このとき、auxiliary dynamicsは以下のようなものとなる。

・個人の人生を決めるものではなく、背後にあるルール(立法的というより自然法則的)を規定する。

・ルールは一定期間のうちに人間に理解できるものでなければならない。現在の立法システムよりもむしろ理解しやすくなる。

Nice Place to Liveのauxiliary dynamicsはinitial dynamicsには以下の理由から入れるべきではない。

・auxiliary dynamicsを入れると複雑すぎて実装が難しくなる

・auxiliary dynamicsを入れるとエラーの確率が増える

・initial dynamicsはあくまで目的のための手段である。

・initial dynamicsは人類が人類の意志作用のなかで暮らすことのみに関連するべきだ

・良いinitial dynamicsならば外挿化されたauxiliary dynamicsが入っていなければならない

・auxiliary dynamicsは一方方向の側面がある:いったん構造ができればそれを外から変えるのは難しくなる

 

CEVをFAIのinitial dynamicとして論ずることと、CEVをNice Place to Liveとして論ずることは原則的に別物である。

ルールを規定するとき、それは変更不可能なメタルールではなく変更可能なルールであるほうが望ましい(Initial dynamicは一方向のプロセスであることを避けねばならない)

auxiliary dynamic of a Nice Place to Liveはinitial dynamicとなるかもしれないが、それは非倫理的システムや非現実的メタルールを作ることや次世代のシステム制作の阻害となることを避けられたときのみだ。

 

4. Caring about Volition

どのように意志作用を検知するか?:脳状態や心理学、ミームなどを観察する。

ある人が持っている道徳性についての考えはCEVの特殊ケースである。

もしも脳を構成する炭素にシリコンでは発揮できない神秘的な力があるとすると、CEVは早期に破たんする。

 

4.1. Motivation

動機①人類の未来を守る

自己改良的AIに道徳理論を組み込んでも失敗する可能性が高い

 →人々を幸せにすることを組み込むと太陽系を文字通り笑顔で埋め尽くすのかも

 →住み心地の良い世界にしろとプログラミングしても自由がなくなるかも

動機②道徳発展の保証

過去の人々から見ると現在の道徳は驚くべきものである、同じように現在の道徳から見ると未来の道徳も驚くべきものであろう。現在の道徳を絶対的なものとしてプログラムすると道徳発展が途絶えてまう。

動機③プログラマーへの負担軽減

もしも絶対的な道徳理論をプログラムするならば、プログラマーは全能でなければならないが、そんなことはない。

根本的に新しい状況が生まれるため、プログラマーの予想外のことが起こる。そのため、CEVには脱出ハッチがついてなければならない:もし、人々の意志作用がCEVの実現を望んでいなかったらシステム自体が変革されるか消えなければならない。

十戒や4大道徳原理やロボット三原則はAIを擬人化しているため、AI倫理としてふさわしいものではない。それらは人間に対してのものであり、人間が思ってもいなかった、もしくは常識的すぎて言及していなかった功利関数の存在があり、それらが道徳理論のなかに書き込まれていなかったとするとまずいこととなる。

動機④ハイジャック防止

最初期のプログラミングにおけるプログラマーの意向やランダムの変動などはCEVにより一掃されるべきである。

動機⑤initial dynamicをめぐる戦争の防止

CEVによるinitial dynamicは現在の勢力にとって反発が少ないものとなる(もしもアルカイダがAIを作ったとしても、CEVの原則は妥当)

動機⑥人類が自らの運命を背負うことができる

CEVは神の創造ではなく、全人類の直接投票となる

 

4.2. But What If This Volition Thing Doesn't Work?

・initial dynamicが意図したように働かなかったら?

 「あなた自身よりもよく働くと判断できるまでなにものも信頼するな」という原則

 FAIがFAI自身をチェックできることが証明されるまで不可逆的変化を引き起こすべきではない

・一貫した外挿化された人類の意志作用の代わりに外挿化された個人の意志作用を使ってはどうか?

 final dynamicでは外挿化された個人の意志作用を使うことが望ましいがinitialでは望ましくない(人類の意志作用による駆動から個人の意志作用による駆動という移行はできるが、逆はできない。各人は別々の個人的世界に生きることとなってしまう)

・悪い世界が実現するようにCEVが収束してしまえばどうするのか?

人類が「No」ということができる地点を設定する

 

5. Dire Warnings

FAIのテクノロジー的側面はここでは論じない

CEVにより「世界新秩序」が生まれることを期待するな

 

 

 

 

 

【まとめ】最近読んだAI倫理関連の論文を三文以内でまとめる①

Luke Muehlhauser, Loutie Helm. 2012. "Intelligence Explosion and Machine Ethics"

倫理理論に対して、『超AIがその理論にしたがったら世界がどうなるか』という観点からテストできる。人間の認知の特性を調べたところ、AI倫理としては、理想的な情報下で理論と人々の直感がどうバランスをとるかを考える『整合性のある外挿的意志作用coherent extrapolated volition』というアプローチが有効だと思われる。

 

Susan Leigh Anderson and Michael Anderson. 2006. "The Consequences for Human Beings of Creating Ethical Robots"

AIに対して倫理を埋め込む利点は①倫理理論の発展、②ロボットが倫理的にふるまうことを保証、③理想的な倫理行為者の誕生というものがある。人間の場合は倫理に感情が必要だが、AIの場合は感情なく倫理法則にしたがうことによりより倫理的になりうる。倫理的AIを製作することは倫理的に求められるかもしれない。

 

Stanford Encyclopedia of Philisophy "Computing and Moral Responsibility"

コンピュータが倫理的責任を持つ条件についてはDennetは高階の信念、Sullinsは十分な意図表現の抽象化とするが、道徳的推論は情報処理で理解できないという反論がある。Moorは倫理AIを倫理性を持つデザインが施されたimplicit ethical agents、倫理的行動をとることができるexplicit ethical agents、倫理的主体とみなされるfull ethical agentsに分けた。Floridi and Sandersはresponsibilityとaccountabilityを分け、ロボットや犬は後者としての責任はあるが前者としての責任はないとした。

 

Ryan S. Tokens "Ethical Implementation: A Challenge for Machine Ethics"

AI倫理はカント的義務論アプローチが有効であるが、カント倫理を基盤とした人工道徳行為者は道徳をプログラムされており自由ではないのでカント的ではない。たとえそれ自身がカント的であろうとも、人口道徳行為者の創造は主体を単なる手段としているためカント的ではない。

劇場版ラブライブ!の『謎の女性シンガー』は誰なのか?――SF的考察

本稿は映画『ラブライブ! the school idol movie』に出てくる『謎の女性シンガー』の正体をSF的に考察したものである。当然のことながらネタバレ注意だ。

続きを読む

【メモ】『コングレス未来学会議』アリ・フォルマン監督×山村浩二さん対談

TOHOシネマ日本橋で行われている東京アニメアワード2015

そこで先行上映された「コングレス未来学会議」に行って来ました。

上映終了後、監督のアリ・フォルマンさんとアニメーション作家の山村浩二さんの対談がありましたので、そのときの様子をメモしたものを載せます。

続きを読む

【まとめ】アイマス・ラブライブ以降の二次元アイドルコンテンツまとめ

現在は多数の二次元アイドルコンテンツが作られています。

その双璧をなす存在として、『アイドルマスター』と『ラブライブ!』が挙げられます。

また、女児アニメの『アイカツ!』と『プリパラ』、新作映画化も決まり勢いに乗っている『WakeUp, Girls!』などのコンテンツも追い上げています。

しかし、世の中にはまだ多数の二次元アイドルコンテンツがあるのです。

今回は、それらのコンテンツをまとめてみました。このなかから将来大ヒットするコンテンツは出てくるのでしょうか?

 

続きを読む