不確実な状況下でも学習して推論を実行し適応できるような自律システムを開発
SRIのArtificial Intelligence Center(人工知能センター)に所属するAdvanced computer scientistのPedro Sequeiraは、AIと人間の行動との間にあるギャップを埋める研究に取り組んでいます。SRIに加わる前は、ポルトガルのInstituto Superior Técnicoで人工知能を専攻し、情報システム・コンピューター工学の博士号（PhD）を取得しました。
このインタビューでは、Sequeiraが探求しているAIと人間のコラボレーション（協働）の最前線について語り、また、SRIの最近のプロジェクトが、急速な進化を遂げているこの分野をどのように前進させているのかを説明しています。
ご自身の研究の多くは、人間と機械の協働に焦点を当てていますね。この研究分野にたどり着いた経緯を教えてください。
私の専門分野は主に機械学習、特に強化学習です。これは、自律的な逐次的意思決定(autonomous sequential decision-making)を取り扱う分野です。
私の研究は、機械学習と人間が接触するところに焦点をあてています。そして、私が本当に興味を抱いているのは、人間から学ぶことです。
主な研究対象は、デモンストレーションからの学習です。つまり、コンピューターが人間の行動をモデル化して人々の目的を理解し、将来の行動を予測できるようなモデルを構築することを目指しています。これは、特定のユーザーに合わせてパーソナライズできるAIシステムを作ろうとする際に、特に重要になります。
機械学習というと、多くの人が生成AIや大規模言語モデルをまず思い浮かべます。しかし、これらは機械学習の数ある形態のうちの1つに過ぎません。ご自身の研究において、大規模言語モデルは大きな役割を果たしているのでしょうか。
私が自律（autonomy）という分野で最初に取り組んだことは、大規模言語モデル（LLMs: Large Language Models）とは全く関係がありませんでした。現在、「大規模言語モデルではない」機械学習の基盤モデルが存在するということを認識することが重要です。例として、視覚言語モデル（VLM: Vision Language Models）や、最近では視覚・言語・アクションモデル（VLAモデル: Vision Language Action Models）があげられます。これらは、私の研究内容に比較的近いものです。というのも、これらのモデルは、コンピューターシステムが人間の目的やニーズをふまえて周囲の環境を解釈し、その目的を達成するための計画や行動手順を自律的に組み立てて実行できるようにするものだからです。
今ではLLMsを推論に活用できるようになっており、これによって逐次的な行動をとることが可能になっています。例えば、視覚モデルはシステムが「見ているもの」の理解を促し、その「見ているもの」の意味とそれが目的とどのように結びつくのかの推論を促すのがLLＭsです。これは、LLMsが暗示的知識を豊富に備えているからできることです。一方、LLMsにとって、長期の計画立案が非常に苦手であることはよく知られています。そのため、LLMsの能力を補完するような計画立案ツールなど、比較的昔からあるAIのメソッドとLLMを統合したいと考えているのです。
しかし、全体として見れば、人間と機械の協働について論じるときに、LLMsだけで完結することはほとんどありません。マルチモーダルモデル（言語モデルのみではなく）やツールの活用（行動計画ツールやインターネット検索サービスといった外部ソフトウェアへのアクセス）こそが、人間と機械の協働をめぐる問題の大半を解決する鍵となるでしょう。
AIを「人間と機械の協働」に応用する上で、SRIには具体的にどのような強みがあるのでしょうか。
その1つは間違いなく、LLMのパーソナライゼーションです。これは、米国防高等研究計画局（DARPA: Defense Advanced Research Projects Agency）のKMASSで私たちが集中して取り組んでいたことでした。LLMsを触ったことがある方ならご存知でしょうが、かなり一般的な回答しか返ってこないことがよくあります。特に、非常に専門性の高い知識分野を取り扱っているとき、LLMsはユーザーが何を必要としているのか、何を求めているのかをよく理解しているわけではないのです。では、どのようにすれば、このようなシステムが個々のユーザーをよりよく理解できるようになるのでしょうか。システムはユーザーに関する情報をどのように入手したらよいのか、またユーザーの知識やニーズに合わせてより的確に回答するには、その情報をどのように活用したらよいのでしょうか。これが、私たちが取り組んでいる重要な分野の1つです。私たちは、ChatGPTやLlamaのような大規模な基盤モデルそのものを構築しているわけではありません。むしろ、特定の業務においてより効果的に機能するよう、これらの上に積み上げていくのです。
「人間の意図や目的を迅速に理解して今後の行動を予測し、その行動に対応できるモデルを、どうすれば構築できるのでしょうか」―Pedro Sequeira
もう1つの焦点は、エージェント型ワークフローに関するものです。要するにLLMベースの複数エージェントを協調的に動かそうとする試みです。いわば自動化されたチームワーク、つまり「分割統治法(divide and conquer)」アプローチのようなものと考えてください。
これは全般的に見て、非常に関心の高い領域です。そして、特にCOLLEAGUEのようなプロジェクトで私たちが重視しているのは、「このようなワークフローを、ユーザーとのリアルタイムのインタラクションやコラボレーションに適応させるにはどうすればよいか」という点です。リアルタイムインタラクションのワークフローを既存の市販ツールで制御するのは容易ではありません。さまざまなエージェントをどのように連鎖（Chaining：連携して連続的にタスクを実行）させるかについて取り上げた、興味深い理論モデルは存在します。しかし、2026年初頭において、このようなモデルをリアルタイムで利用するのはあまり実用的ではありません。
私が3つ目に注目したいのは、「心の理論」に基づく推論です。人間の意図や目的を迅速に理解して今後の行動を予測し、その行動に対応できるモデルを、どうすれば構築できるのでしょうか。これが、私たちが「ToMCAT」（Theory of Mind for Cooperative Agents in Teams、チーム内の協調型エージェントのための心の理論）と名付けた、社内の資金調達によって最近立ち上げた研究開発プロジェクトで力を入れていることであり、協調的な状況と対立的な状況の両方に適用できます。
SRIは今年、創立80周年を迎えます。つまり、あとわずか20年で100周年を迎えることになります。2046年を見据えて、人間と機械の相互関係に関する未来はどのようなものになると思われますか。
根本的な課題は、機械にいわゆる「汎用的な能力」を備えさせることにあると思います。家庭内で人間のように、さまざまなことを確実にこなしてくれるロボットが実現するには、まだ程遠い状況です。ここには依然として大きな課題が残っています。人間との相互関係やコミュニケーションだけでなく、ロボット自体の基本的な自律能力についてもまさに同じような状況です。現在のロボットはまだ、範囲の狭い特定のタスクやユースケースに合わせて最適化することが必要であり、環境の変化に対してもそれほど強靭ではありません。
しかし、20年後には、家にロボットがいて、家事をしてくれるようになっていると私は予想しています。少なくとも、単純な作業は幅広くこなせるようになっていることでしょう。
実はすでに、要約やトピックのリスト作成など、汎用的かつありふれたテキスト処理のタスクの大半を担ってくれるLLMsは存在しています。しかもこのような作業をかなり得意としているのです。しかし、人と意思疎通ができて、現実の世界で行動できるロボットには、まだこのような能力はありません。でも、20年後、いや、実際には20年もかからずに、このような姿が見られるようになるのではないかと思っています。
SRIがいかにして人工知能の未来を切り拓いているか、詳細はこちらをご覧ください。
