少量データから特定の専門性を有したLLMにチューニングする技術を確立

～業務固有の知識を持った個社オリジナルのtsuzumiをもっと容易に提供～

発表のポイント：

• LLMに業務全般にかかる知識を覚え込ませるには超膨大なデータが必要であるのに対し、各社が所有するドキュメント量は学習データとして圧倒的に不足しており、チューニング時の障壁となってきた点を解決​
• 業務マニュアル等の知識をLLMに定着させるのに、LLM自身が多様な観点から異なる学習データを自動生成する方法を用いて実現するチューニング技術を開発​
• 業務固有の知識を有した個社オリジナルのLLMを、超膨大なデータを収集することなく作成することが可能となる​

　NTT株式会社（本社：東京都千代田区、代表取締役社長：島田 明、以下「NTT」）は、業務マニュアルの知識をLLMに定着させるための新たなチューニング技術を開発しました。知識の定着には、知識に関する極めて膨大なデータを用意する必要があり、業務特化のLLMを構築するための障壁となっています。本技術では、LLM自身がLLM向けの学習教材を作成するかのように業務マニュアルから学習データを生成し、それを通して学ぶことで知識を高い精度で定着させます。これにより、特定の業務知識を有した専用のLLMを従来よりも少ない準備で構築できるようになります。本技術はNTTが開発するtsuzumiを始め、他のLLMにも適用可能です。本研究成果は、2026年11月18日～25日に開催されるNTT R&D FORUM 2026※1に展示予定です。

1．背景
　既存のLLM（大規模言語モデル）を特定の用途やタスクに合わせて調整する作業のことをチューニングと呼びます。チューニングには、出力の形式を整える、特定タスクの精度を向上させる、といった幾つかの観点があり、目的に応じた手法が用いられます。
　その中でも特に難易度が高いのが、LLMに新たな専門知識を定着させ、業界特有の知識に詳しいモデルを作ることです。例えば、業務マニュアルや専門書の内容をモデルに覚えさせたい場合がこれにあたります。
　知識の付与には、モデル全体を再学習させる手法が一般的ですが、これには極めて膨大な量のデータが必要です。A4用紙のテキスト1ページが数キロバイトである中、数十ギガバイト（1千万倍）を超えるようなデータを用います。
　実際の業務現場で、これほど大量の業務マニュアルや資料を用意するのは困難です。インターネット上から類似情報を集めようとしても、業務と無関係な情報が混入しやすく、高品質なデータセットを構築するのは容易ではありません。そのため、各社が所有する限られた業務資料のみから、LLMに効率的に知識を定着させるためのチューニング手法が求められています。

2．技術のポイント
　本技術は、お客様問い合わせマニュアルなどの業務知識を記載したドキュメントを活用し、LLMがその内容を深く理解できるように設計されています。そのポイントは多角的な学びです。例えば学校の国語の授業では、文章を読むことに加え、著者の意図を理解するための設問を用意したり、生徒間で感想を述べ合ったりと様々な様式で学びを深めます。本技術はこのような着想に基づいて、LLM自身に業務マニュアルを学ぶための教材（学習データ）を多角的に構築させ、自らの学びに活用させます。業務マニュアルから、仕様書、FAQといった多様な表現形式のデータを生成するなどします。こうして生成されたデータを用いて学習を行うことで、従来よりも高精度にマニュアルに記載された知識を獲得することができるようになりました。

3．実験の概要
 　NTTの実業務マニュアルを与え、その知識の定着度合いを計測しました。知識の定着率は、この業務マニュアルに記載範囲内の問題を作り、LLMに解かせて、その正答率を計測しました。LLMには、tsuzumi 2とLlama 3（3B）を用いて、それぞれ学習前後の正答率を比較しました。
　tsuzumi 2において、学習前（業務マニュアルを与える前）の正答率は65.3%でした。先行研究では最大73.3%まで向上しましたが、本技術を用いることで83.1%と、さらに10%近く正答率を向上させることができました。
　特化モデルは、基本的な性能が低くなりがちな軽量モデルほど実施の必要性が高いことを鑑みて、tsuzumi 2よりも軽量なモデルであるLlama 3（3B）でも評価を行いました。同様に先行研究よりも優れていることを確認しています。

[比較手法]
・先行研究※2：本技術とは異なる観点で学習データを生成する手法
・従来手法：オリジナルデータ（業務マニュアル)を繰り返し利用する手法

4．今後の展開
　本技術はNTTグループ各社に導入される予定です。チューニング観点は多様ですので、様々な手法を組み合わせることになりますが、その1つ手法となります。なお、NTT R&Dフォーラム 2026（11月開催）にて本技術の紹介を行います。展示では、本技術の説明に加え、tsuzumiの用途拡大の軌跡や、AIエージェントが能動的に業務を覚えるための技術開発についても紹介する予定です。

5．関連する過去の報道発表
・2026年5月19日「NTT版LLM tsuzumi 2アップデート」
・2025年10月20日「更なる進化を遂げたNTT版LLM tsuzumi 2の提供開始」

【用語解説】
※1　NTT R&D FORUM 2026 https://www.rd.ntt/forum/2026/

※2　数学問題・FAQ（よくある質問）・表問題・手順書（チュートリアル）形式に言い換える手法FinePhrase [Niklaus+, 2026]および、Nemotron-Personas-Japan等の外部データセットからランダムに選んだペルソナ（読者像）に応じて言い換える手法。