水槽脳の栓を抜け

SF作家 草野原々のブログ

倫理学

AIの知能と目的――ボストロムの『直交仮説』を検討する

AIの知能と目的――ボストロムの『直交仮説』を検討する AIの知能と目的――ボストロムの『直交仮説』を検討する 0. はじめに 1. ボストロムの直交仮説 2. カント主義からの直交仮説への反論ルート 3. 道徳的実在論からの直交仮説への反論ルート 4. 自然科学的知…

「もうこれ以上存在しない方が良い:存在し続けることの害」【Sullivan-Bissett&McGregor(2012)】

Ema Sullivan-Bissett & Rafe Mcgregor, better no longer to be - PhilPapers ベネターは存在してしまうことは常に害であるとした。この論文では、もしベネターの「快楽と苦痛の欠落についての非対称性論法」と「貧しいクォリティ・オブ・ライフ論法」を受…

論文日記(1)AIによる人類の意思集結は失敗する!?『理想的アドバイザー説とパーソナルCEV』

今日から読んだ論文を日記にしてまとめることにしました。一週間で二回更新が目安。 原文はここ

【論文まとめ】一貫性のある外挿法的意志作用/Coherent Extrapolated Volition【Elizer Yudkowsky(2004)】

フレンドリーAIのアイディアで知られるYudkowskyのエッセイです。 ここで原文は読めます。 1、Intoroduction フレンドリーAI(FAI)とはフレンドリーな超強力実行化プロセスである。 フレンドリーAIに必要なものとは。 ①道徳などの不変性が自己改良において…

【まとめ】最近読んだAI倫理関連の論文を三文以内でまとめる①

Luke Muehlhauser, Loutie Helm. 2012. "Intelligence Explosion and Machine Ethics" 倫理理論に対して、『超AIがその理論にしたがったら世界がどうなるか』という観点からテストできる。人間の認知の特性を調べたところ、AI倫理としては、理想的な情報下で…

【メモ】メタ倫理学メモ

●定義的自然主義: 何らかの事実により「善い」ということが定義できる。(スペンサー:善いとは進化状態が発展したことである。ミル:善いとは功利の増大である) ●ヒュームの法則 「である」から「べきである」は導き出せない。 ●サールの反論言語について…