ファインチューニングとRAG、どちらを選ぶか｜判断特化モデル（Jev系）の作り方も

3つの違い

	プロンプトの工夫	RAG（社内データの検索）	ファインチューニング
変えるもの	AIへの指示	AIが参照する資料	AIモデルそのもの
向いていること	出力の形や言い回しの調整	社内の文書を根拠に答える。情報を新しく保つ	読み方・判断の基準・答えの形を覚えさせる。小さなモデルを強くする
要るデータ	ほぼ不要	社内の文書	正解つきのデータ（数百件〜）
情報が変わったとき	指示を書き換える	資料を差し替えれば済む	学習し直す
社内の環境で動かす	モデル次第	モデル次第	公開されているモデルを学習させるため、しやすい

RAGは「何を知っているか」を変え、ファインチューニングは「どう読み、どう判断するか」を変える、と考えると分けやすくなります。

試す順番

1. プロンプトの工夫。指示と例を整え、正解データで精度を測ります。
2. RAG。根拠にする資料を渡し、もう一度測ります。
3. ファインチューニング。1と2で届かないときに考えます。

同じ正解データで測ることが前提です。作り方は生成AIのPoCで最初に作る「正解データ」で解説しています。

学習が要るサイン

• 読み方の癖が直らない。読めない文字を「それらしく」補ってしまう、などの癖は、指示では直りにくいことがあります。
• 答えの形が守れない。決まった項目・選択肢で返すよう指示しても、ときどき崩れます。
• 判断の基準が文書になっていない。過去の判断の記録はあるが、基準を言葉にできません。
• 小さなモデルを社内で動かしたい。社外に出せないデータを、限られた機器で処理する必要があります。

学習させた例

ジンベイは、手書き帳票を「書かれたとおりに読む」ようモデルを学習させ、社内のサーバーだけで動かしました。手書き帳票130枚・7,660項目を項目ごとの完全一致で採点したところ、クラウドの最先端モデル4つをすべて上回りました（総合スコア75.55）。読み方の癖は、学習で直せる例です（お知らせを見る）。

組み合わせ方

両方を使うことも多くあります。読み方や答えの形はファインチューニングで覚えさせ、日々変わる規程や品番の情報はRAGで渡します。学習し直す回数を減らしながら、情報を新しく保てます。

判断特化モデルとは

判断特化モデルは、文章を書く代わりに、選択肢から選ぶ・採点する・正しいかどうかを0〜1で示す、といった答えを確率つきで返すAIです。振り分け・採点・可否の判断のように、答えの形が決まっている業務に向きます。

代表的な例が、TypeSafe AIが2026年9月に発表した「Jev」です。公式のドキュメントでは、APIとして提供され、Jevは顧客のデータでファインチューニングやLoRAによる追加学習を行わない、と説明されています。自社のデータで学習させたい、社内の環境で動かしたい、という場合は、同じ使い方を社内で実現する方法を考えます。

Jevと同じ使い方を社内で実現する3つの方法

方法	学習	要るデータ	向いている場面
1. 公開されている判断特化モデルを学習させる	する	正解つきのデータ	使いたいモデルのライセンスが商用で使え、業務に近い
2. 公開されているLLMから自前で作る	する	正解つきのデータ（数百〜数千件）	判断の基準が会社独自で、社内の環境で動かしたい
3. 学習せず、答えの形だけを縛る	しない	評価用の正解データ	まず小さく試したい。元のモデルで精度が足りている

1. 公開されている判断特化モデルを学習させる

判断特化モデルの中には、重みが公開されているものがあります。自社の正解データで追加学習させ、社内のサーバーに置いて動かします。採用の前に、商用で使えるライセンスかを確かめます。

2. 公開されているLLMから自前で作る

1. 選択肢ごとの確率を1回の計算で出す。答えを文章で書かせず、モデルが次に出す語の確率から、選択肢ごとの確率を読み取ります。速く、答えの形も崩れません。
2. 正解データ数百〜数千件で、LoRAで学習させる。LoRAはモデルの一部だけを学習させる方法で、少ない計算量で済みます。
3. 学習に使わないデータで、確率を合わせる（キャリブレーション）。「確率0.8」と出た判断が、実際におよそ8割当たるように補正します。確率が信用できれば、「0.9以上は自動で通し、それ以外は人が見る」といった線引きができます。
4. Jevと同じ形で呼べるAPIにする。問い合わせと応答の形をそろえておくと、呼び出す側の仕組みを共通にできます。

3. 学習せず、答えの形だけを縛る

モデルの出力を、決めた選択肢や項目だけに制限します。学習は要りませんが、精度は元のモデルの力で決まります。まずこの方法で正解データを測り、届かなければ1か2に進む、という順番が確実です。

気をつけること

• 他社のAIサービスの出力を学習に使わない。Jevを含め、他社のAIサービスの出力を自社モデルの学習データにすることは、利用規約で制限されていることがあります。学習には、自社の正解データを使います。
• 速さと精度は、自社のデータで測る。公表されている数値は、データと採点の条件が違います。自社の正解データで、元のモデルと学習後のモデルを同じ物差しで比べます。
• 確率のずれを定期的に確かめる。業務の中身が変わると、確率と実際の当たり方がずれてきます。学習に使わないデータで測り直します。

ジンベイのファインチューニング

ジンベイのLLM・VLMのファインチューニングでは、学習させるべきかどうかを自社のデータで測るところから始め、正解データづくり・学習・比較評価・社内の環境への配備まで担います。社内の環境の構成は、ローカルLLM・閉域AIの構築と組み合わせて設計します。