2018年1月号掲載
スーパーインテリジェンス 超絶AIと人類の命運
Original Title :Superintelligence：Paths, Dangers, Strategies
著者紹介
概要
人類はいつの日か、我々の知能をはるかに超える人工知能（AI）、「スーパーインテリジェンス（超絶知能）」を生み出す ―― 。それは世界に何をもたらすのか。人は、AIが暴走しないようコントロールできるのか。この“超絶知能”出現の可能性、卓越した能力、世界乗っ取りのシナリオなど、迫り来る危機の本質をあぶり出す。
要約
スーパーインテリジェンスへの道程
人類がいつの日か、汎用知能（一般知能）において人間の頭脳を超越する人工知能（AI）を生み出したなら、それは非常にパワフルな「スーパーインテリジェンス（超絶知能）」となり得る。
その時、人類の運命は、機械（マシン）のスーパーインテリジェンスに依存することになるだろう ―― 。
スーパーインテリジェンスの定義
人工知能は現在のところ、汎用知能のレベルにおいて人間には遠く及ばない。しかし、スーパーインテリジェンスが実現される日は必ず訪れる。
スーパーインテリジェンス。それは「ありとあらゆる関わりにおいて、人間の認知パフォーマンスをはるかに超える知能」と定義できる。
この定義に従うと、チェスの世界チャンピオンを破ったコンピュータチェスのプログラムは、スーパーインテリジェンスではない。それは専用プログラムであり、チェスというゲームの狭い範囲で超絶的な能力を有するにすぎないからだ。
汎用人工知能
では、どのようにしてスーパーインテリジェンスを生み出すことができるのか。
現在のところ、汎用人工知能の設計書は存在しない。しかし、そのようなシステムに要求される仕様や機能は、ある程度はっきりしている。
進化の過程を行き当たりばったりに進めても、人間レベルの汎用知能を生み出すことはできる。自然はすでに、それに一度、成功しているからだ。
しかし、進化の過程を先読み的に進めることができれば、つまり開発技術者が遺伝的プログラムを先見的に導けるならば、自然の進化の過程と同様の成果をはるかに効率的に達成できるはずだ。
この考え方は、カーネギーメロン大学のハンス・モラベック教授らによって提唱され、人間の知能レベルのAIは今世紀中に実現可能であるという、彼らの主張の根拠にもなっている。
全頭脳模倣型知能（全脳エミュレーション）
人工知能の実現可能性については、別の提案もある。それは人工知能のひな型が人間の脳にあるとし、その点を利用して人工知能を開発するというものだ。このアプローチには複数の方法がある。
