Truth Maintenance Systemとは
Truth Maintenance Systemとは、AIのプログラムが「何を、どんな理由で信じているか」を記録しておき、前提が崩れたときに、その前提に乗っていた結論をたどってまとめて取り下げる仕組みです。MITの大学院生だったジョン・ドイル氏が1977年の修士論文で示し、1979年に論文「A Truth Maintenance System」として発表しました。
英語表記：Truth Maintenance System (TMS)／日本語表記：真理維持システム
前提が崩れたら、何が起きる？
1979年の論文は、会議の日程を組むプログラムを例に挙げています。プログラムはまず「会議は水曜日」と仮に置きます。仮に置ける理由は、「水曜日ではない」と信じる材料が今のところ無いこと。このように、何かを信じていないことを理由にして別の何かを信じるのが、非単調推論と呼ばれる考え方です。続いて、定例の都合で「水曜日の会議は午後1時」という規則が働き、時刻も決まりました。
では、別の規則がその時間に入っているほかの予定を見つけ、「水曜日ではない」と結論づけたら、どうなるか。TMSは記録しておいた理由をさかのぼり、「水曜日」という仮置きと、それを土台にした「午後1時」の両方を、信じている結論の一覧から外します。ふだんはデータ全体を調べ直すのではなく、変わった部分が影響する範囲だけを見る点も、この仕組みの特徴。
状況が変わるたびに、信じていることをどう更新するか。この難しさ(フレーム問題)も、論文が出発点に挙げた課題の1つでした。
なぜ、理由まで残しておくのか
結論ごとに理由を記録すると、手間がかかりすぎるように見えるかもしれません。ドイル氏も論文の終わりでこの点に触れたうえで、考えるべきは記録する手間ではなく、記録しないことの代償だと書きました。結論の出どころを捨てると、関係のない前提を少し変えただけで大がかりな計算をやり直すことになり、育ち続ける大きなデータの誤りを直すことさえできなくなるかもしれない、というのです。
論文は、指導教員だったジェラルド・サスマン氏の言葉を借りて、プログラムは自分の行動や結論を利用者に説明できる「責任ある」ものでなければならない、と結んでいます。AIの判断に根拠の記録や説明が求められる場面では、いまも通じる指摘でしょう。
Topic名付けた本人が「たぶん誤った名前」と書いていた
1979年の論文の最初の脚注で、ドイル氏は「Truth Maintenance System」という呼び名について、小説『1984年』の「ニュースピーク」のように聞こえるうえ、たぶん誤った名前だと書いています。名前は成り行きで付いたもので、ほかの文献と混乱しないように変えずに使う、という断り書きつきです。TMSが見分けているのは、結論が本当に正しいかどうかではなく、いま信じる理由があるかどうか。論文の終わりでは「Belief Revision System(信念を改める仕組み)」や「opinion revision system(意見を改める仕組み)」のほうが正確かもしれない、とも述べ、1983年には「reason maintenance(理由の維持)」を題名に入れた論文を書いています。
Truth Maintenance Systemに関するよくある質問
- TMSは、結論がどのくらい確からしいかを数字で持ちますか？
- 持ちません。TMSの判断は「信じる」か「信じない」かの2通りで、確からしさの度合いは扱いません。ドイル氏は1979年の論文で、この仕組みを、あいまいさを度合いで表すファジィ論理とは別の問題を扱うものとして区別しています。
- TMSと「非単調論理」は、どういう関係ですか？
- 1979年の論文によると、ドイル氏はドリュー・マクダーモット氏と組んで、TMSの裏にある論理を「非単調論理(non-monotonic logic)」として形式的に表そうとしていました。TMSは動く仕組みとして作られ、その考え方を論理として整理する研究が並行して進んでいた、という関係です。
