フレンドリーAIのアイディアで知られるYudkowskyのエッセイです。 ここで原文は読めます。 １、Intoroduction フレンドリーAI（FAI)とはフレンドリーな超強力実行化プロセスである。 フレンドリーAIに必要なものとは。 ①道徳などの不変性が自己改良において…