草野原々公式ブログ

SF作家 草野原々のブログ

シンギュラリティ

【論文まとめ】一貫性のある外挿法的意志作用/Coherent Extrapolated Volition【Elizer Yudkowsky(2004)】

フレンドリーAIのアイディアで知られるYudkowskyのエッセイです。 ここで原文は読めます。 1、Intoroduction フレンドリーAI(FAI)とはフレンドリーな超強力実行化プロセスである。 フレンドリーAIに必要なものとは。 ①道徳などの不変性が自己改良において…