AIの限界は、しばらく前にフレーム問題として知られるようになった。有名になったのは、デネットによるロボットによる時限爆弾回避のエピソードぐらいからだろう。
AIを搭載したロボットが燃料が置かれている部屋に入り、その燃料を回収して部屋から脱出する。ところが燃料には時限爆弾が設置されており、それを取り除いて燃料を回収しないと、爆発してしまう。
一回目のロボットは、燃料をとってこいとだけ指示されていたため、時限爆弾ごと持ってきて爆発してしまう。二回目のロボットは、時限爆弾を含むすべてのリスクに対応するように指示されていたのだが、そのリスクを数え上げているうちにタイムリミットとなってやはり爆発してしまう。三回目のロボットは、直接関係のないリスクは無視するように指示されており、そもそも動かない。何が関係のないリスクなのかを計算していたからである。ロボットは動かないまま、時限爆弾は爆発する。
フレーム問題 wiki
僕たち人間は、無意識のうちにフレーム（枠）を設定している。何を考える必要があり、何を考える必要がないのか、思いがけないことが生じたときに何を呼び起こし、どう対応すれば良いのか。しかしAIにはそれがない。人がフレームを設定してやらねばならないのだが、とたんに、フレーム外の出来事、時限爆弾が置かれている可能性を読み込むことができなくなる。それではというわけで、フレーム外についても数え上げるように指示する。すると今度はそちらが無限のプロセスとなってしまい、AIは機能しなくなる。
AIは律儀にすぎ、人はいい加減にすぎる。けれども、この人のいい加減さが、人の意思決定を可能にしている。なんとも皮肉な話だが、僕たちは不完全な意思決定しかできないけれど、もし完全な意思決定をしようとすれば、とたんに僕たちは意思決定できなくなってしまうというわけだ。
コンピューター技術の発展は驚くべきスピードだから、そのうちなんとかなるのかもしれない。チェスや将棋では、ブルートアタックで選択肢のすべてを強引に数え上げ、完全な意思決定を目指すことができるようになってきたとも聞く。そうかもしれないが、それはフレーム問題の一つの問題、量的な処理を解決するにすぎず、まだ別の問題が残っている気もする。
AIは律儀にすぎ、人はいい加減にすぎる。けれども、この人のいい加減さが、人の意思決定を可能にしている。なんとも皮肉な話だが、僕たちは不完全な意思決定しかできないけれど、もし完全な意思決定をしようとすれば、とたんに僕たちは意思決定できなくなってしまうというわけだ。
コンピューター技術の発展は驚くべきスピードだから、そのうちなんとかなるのかもしれない。チェスや将棋では、ブルートアタックで選択肢のすべてを強引に数え上げ、完全な意思決定を目指すことができるようになってきたとも聞く。そうかもしれないが、それはフレーム問題の一つの問題、量的な処理を解決するにすぎず、まだ別の問題が残っている気もする。
