読者です 読者をやめる 読者になる 読者になる

水槽脳の栓を抜け

SF・アニメ・哲学

論文日記(1)AIによる人類の意思集結は失敗する!?『理想的アドバイザー説とパーソナルCEV』

今日から読んだ論文を日記にしてまとめることにしました。一週間で二回更新が目安。 原文はここ

【論文まとめ】一貫性のある外挿法的意志作用/Coherent Extrapolated Volition【Elizer Yudkowsky(2004)】

フレンドリーAIのアイディアで知られるYudkowskyのエッセイです。 ここで原文は読めます。 1、Intoroduction フレンドリーAI(FAI)とはフレンドリーな超強力実行化プロセスである。 フレンドリーAIに必要なものとは。 ①道徳などの不変性が自己改良において…

【まとめ】最近読んだAI倫理関連の論文を三文以内でまとめる①

Luke Muehlhauser, Loutie Helm. 2012. "Intelligence Explosion and Machine Ethics" 倫理理論に対して、『超AIがその理論にしたがったら世界がどうなるか』という観点からテストできる。人間の認知の特性を調べたところ、AI倫理としては、理想的な情報下で…

【メモ】メタ倫理学メモ

●定義的自然主義: 何らかの事実により「善い」ということが定義できる。(スペンサー:善いとは進化状態が発展したことである。ミル:善いとは功利の増大である) ●ヒュームの法則 「である」から「べきである」は導き出せない。 ●サールの反論言語について…