今回はジョセフ・ワイゼンバウム (Joseph Weizenbaum) と、彼が作成した「AIチャットボット」の先駆的な実装であるELIZAについて紹介する。
■ワイゼンバウムの生い立ち
ワイゼンバウムは1923年にドイツで生まれた。ユダヤ人の家庭に生まれ、ユダヤ人排斥が進むドイツを1936年に脱出し、アメリカのミシガン州で成長した。
第二次世界大戦中には地元のウェイン州立大学を休学してアメリカ軍に入った。そこでは暗号解読の仕事を望んだものの「敵性外国人」として機密に関わる任務には就かせてもらえなかったそうである。戦争後に大学に戻り1948年に学士号、そして1950年に修士号を取得した。
■AI研究とSLIPの開発
その後ジェネラル・エレクトリック社でコンピューターを使ったシステムの開発に携わったが、その時に五目並べをするプログラムを書き、それについて"How to Make a Computer Appear Intelligent"(コンピューターに知性があるかのように見せかける方法)という短い記事を1962年に発表した。この記事は、このようなゲームをプログラムする際の伝統的な手法である「評価関数」を、五目並べ(英語圏では"Gomoku"として知られている)用に作ったことを紹介しており、それに加えて、マービン・ミンスキーの「人が何かに知性を感じるのは、使われている手法がわからないのに、意味のある結果を生成できたときである」という言葉を引用したり、また五目並べプログラムと初心者が対戦した時に、人間側がどのように学んでいくのかについて言及したりと、「人工知能と人間との関わりに関する洞察」の萌芽が見られ、現在の人工知能にも通じる話がでていることが興味深い。
同時期に、ワイゼンバウムはSLIPという名前のプログラミング言語を作成した。これはジョン・マッカーシーによるLISPに似た機能を持った言語であり、単語や記号などを処理しやすいように設計されていた。これらの活動が評価され、ワイゼンバウムはMITに教授として迎えられることとなった。
ELIZA
ワイゼンバウムを有名にしたのは、彼が1966年に作成したELIZAという対話的なテキスト処理プログラムである。ELIZAの中核はとても単純なものであった。人間が入力した文を受け取り(英語である必要もない)、抜き出した単語の中から一番重要そうに見えるキーワードを選び、それをいくつか用意された「テンプレート」と組み合わせて出力するというものである。異なるテンプレートによって異なる「人格」を作り出すことができたが、中でもDOCTORという人格が特に有名となった。DOCTORは、心理療法の「人間性中心的アプローチ」、すなわち患者の発言を解釈したり議論したりすることなく、「あなたが今言ったことについてもう少し詳しく教えてくれないか」というように患者が自ら掘り下げていくことを促す手法を真似たものである。この受け答えを実装するには単語の意味を解釈する必要がなく、ELIZAの仕組みと相性が良かった。日本では「人工無能」と呼ばれていたチャットプログラムの走りとも言える。
ワイゼンバウムは「単なるプログラムに知性を見出すことはないのだぞ」ということを示すためにELIZAを作ったつもりだったのだが、初期のテスターとなった彼の秘書が、テストという枠を超えて実際に抱えている悩みについて心情を吐露していき、「先生、この辺で席を外してもらえませんか」と言ってくるまでになった、という逸話がある。
ELIZA効果の問題
ELIZAを使った人の行動が示した最も重要なことは「人間は何にでも人格や意味を見出してしまう」ということであろう。舞台演劇は冷静な目で見てしまうと、化粧をした人が偽物に見える舞台装置の前を動き回っているだけであるが、聴衆の方が欠けている部分を補完して、結果として本質を捉えた感動的な舞台が生まれることとなる。人工知能界では「チューリング・テスト」と呼ばれる「人間と対話した時の振る舞い」によって知能があるかどうかを判定する、というテストが提案されていたのだが、これはあまり意味のあるテストではなかった。関係者によるとチューリングは舞台などには興味を全く持たない人だったので「人間側が補完してしまうからテストにならない」という考えを持てなかったのだろうと言われている。
ワイゼンバウムは、単なる機械にすぎないコンピューターに人格を投影するのは、価値あるはずの人間性を矮小化することにつながってしまう、と考えていた。彼は人々のこのような反応を見て、コンピューター技術と人工知能の発展は人類の将来にとって危険なものである、という意見を表明し続けることとなった。現在のAI技術は当時から圧倒的に進化しているが、それでも人間の感情に関する対話をする際には、「自分の気持ちを投影している」という自覚を持つことが大事であろう。
次回掲載予定は2026年2月上旬頃
著者：大島芳樹
東京工業大学情報科学科卒、同大学数理・計算科学専攻博士。Walt Disney Imagineering R&D、Twin Sun社、Viewpoints Research Instituteなどを経て、現在はCroquet Corporationで活躍中。アラン・ケイ博士と20年以上に渡ってともに研究・開発を行い、教育システムをはじめとして対話的なアプリケーションを生み出してきた。2021年9月に株式会社京都テキストラボのアドバイザーに就任。2022年8月より静岡大学客員教授。