フレーム問題とは
フレーム問題とは、AIが何かをしようとするとき、「何が変わって、何が変わらないか」をどう効率よく見きわめるかという、AIの根本的な難問のことです。1969年にマッカーシーとヘイズが提起しました。人間なら無意識にこなす「常識的な切り分け」が、機械にはとても難しいことを示す、記号AIの代表的な課題です。
何か一つ行動すると、世界では無数のことが「変わらないまま」残ります。人間は関係ある変化だけを自然に見ていますが、機械にとっては「これは変わらない」という当たり前を一つひとつ確かめる作業が、際限なく膨らんでしまう。この、起こりうることを延々と考え込んで動けなくなる状態こそ、フレーム問題が突きつける難しさです。人間の「常識」がいかに高度なはたらきかを、裏側から教えてくれる論点でもあります。
Topic爆弾と一緒にバッテリーを運んだロボット
哲学者ダニエル・デネットが1984年に紹介した、わかりやすいたとえ話があります。あるロボットが、時限爆弾の置かれた部屋から予備バッテリーを救い出そうと台車を引きました。バッテリーは無事に運び出せたものの、同じ台車に載っていた爆弾まで一緒に運んでしまい、爆発。そこで改良版は「起こりうる副作用」を全部調べさせたところ、無関係なことまで延々と計算し続けて固まってしまったといいます。何を考え、何を考えないでよいか。その線引きの難しさを言い当てた逸話です。
関連用語
フレーム問題に関するよくある質問
- フレーム問題とはどんな難問ですか？
- AIが何か行動するとき「何が変わって、何が変わらないか」をどう効率よく見きわめるか、という根本的な難問です。一つ行動すると世界では無数のことが「変わらないまま」残り、人間は関係ある変化だけ自然に見ますが、機械は「これは変わらない」を一つひとつ確かめる作業が際限なく膨らみ、考え込んで動けなくなります。1969年にマッカーシーとヘイズが提起しました。
- 分かりやすいたとえ話はありますか？
- 哲学者ダニエル・デネットが1984年に紹介した話があります。ロボットが時限爆弾のある部屋から予備バッテリーを台車で運び出したものの、同じ台車の爆弾まで運んで爆発。改良版に「起こりうる副作用」を全部調べさせると、無関係なことまで延々と計算し続けて固まってしまったといいます。何を考え、何を考えないでよいかの線引きの難しさを言い当てた逸話です。