LLM 導入は基盤の持ち方で決まる｜API・自社ホスト・ハイブリッド

LLM 導入は基盤の持ち方で決まる｜API・自社ホスト・ハイブリッド

「LLM 導入」を本気で検討する段階に来た企業は、たいてい一度目の分岐をすでに越えています。ChatGPTのような対話ツールを業務で使ってよいかどうか、という分岐です。使ってみて手応えがあったからこそ、次の問いが出てきます。全社の業務に組み込むとき、LLMという計算基盤そのものを自社はどういう形で持つのか。商用APIを契約し続けるのか、自社のサーバーにモデルを置くのか、両方を使い分けるのか。本記事はこの一点に絞って整理します。

この問いは、製品の比較表を眺めても答えが出ません。どのツールが優れているかという話ではなく、自社が扱うデータの性質と、月あたりの処理量と、自社で背負えるセキュリティ責任の量で決まるからです。生成AI導入そのものの進め方や費用の全体像は生成AI導入の進め方と費用で、ChatGPTやCopilotといった製品同士の比較は生成AIの企業向け比較で扱っています。本記事はその一歩手前、どちらの記事にも書いていない「基盤をどう持つか」という意思決定だけを掘り下げます。

LLMとは何か｜ビジネスでは「ツール」と「基盤」を分けて考える

LLMは大規模言語モデル(Large Language Model)の略で、大量のテキストで学習し、与えられた文脈の続きを確率的に生成するモデルを指します。技術的な定義はこれだけですが、ビジネス上の意思決定においては、もう一段だけ踏み込んだ理解が必要です。

社内で「生成AIを入れる」と言うとき、実際には性質の違う3つの層が混ざって語られています。

多くの企業がつまずくのは、アプリケーション層だけを比較して選び、基盤層の選択を「選んだツールの都合」に委ねてしまうことです。すると、後から「このデータは外に出せない」と分かった時点で、アプリケーション層ごと作り直す羽目になります。

LLMをビジネスに組み込む判断では、順序が逆になります。 先に基盤層をどう持つかを決め、その制約の中でアプリケーション層を選ぶ。この順序であれば、後から扱えるデータの範囲が広がることはあっても、狭まって作り直しになることはありません。

LLM基盤の3つの持ち方｜商用API・自社ホスト・ハイブリッド

基盤層の選択肢は、実務上ほぼ3つに整理できます。

商用API利用は、Claude、GPT、Geminiといったモデルを提供事業者のクラウド上で呼び出す形です。自社で用意するのはAPIキーと、それを呼び出すアプリケーションだけです。初期投資はほぼゼロで、最新モデルへの追随も契約を変えずに済みます。一方で、プロンプトと社内データは自社の管理外のサーバーに送られます。ここをどう扱うかが、契約と規制の論点になります。

自社ホスト(セルフホスト)は、オープンソースのモデルを自社が管理するサーバーやプライベートクラウドに置き、推論も自社の管理下で実行する形です。データが自社の境界を出ないため、機密性の高い用途では強い選択肢になります。ただし、これまで商用プロバイダーが担っていたセキュリティとコンプライアンスの負担を、そのまま自社内に取り込むことになります。

ハイブリッドは、この2つを用途で使い分ける形です。Prediction Guardが公開している自社ホストとクラウドの導入比較では、本番運用のアーキテクチャはハイブリッド型に収束する傾向があり、機密性が高く処理量の多いワークロードは自社内で処理し、最も重い推論タスクは商用APIに残す構成が主流になりつつあると整理されています。ベンダー系の解説であるため統計値としては扱えませんが、方向性としては実務の感覚と一致します。全部を自社で抱えるのも、全部を外に出すのも、どちらも極端だということです。

次の表は3つの持ち方の性格の違いを整理したものです。定性的な傾向であり、出典に基づく実測値ではありません。

コスト構造の違い｜従量課金と固定費のどちらを選ぶか

判断の中心になるのはコスト構造です。ここは感覚ではなく数字で押さえる必要があります。

まず商用APIの価格帯を確認します。以下は2026年8月時点の複数の価格比較記事から引用した目安であり、公式発表ページで一次確認したものではありません。各社の価格改定は頻繁にあるため、実際の稟議に載せる数値は必ず各社公式サイトで確認してください。

この表から読み取るべきは、個々の価格の優劣ではありません。最上位モデルと最安価格帯とで、100万トークンあたりの単価に極めて大きな開きがあるという事実です。Claude Opus(4.8世代)はOpus 4.5から同水準の価格を維持しているとされ、DeepSeek V4 Flashは最安価格帯に位置します。この開きがあるということは、社内の全用途を最上位モデル1本で処理する設計が、コスト面では最も不利になるということでもあります。用途に応じてモデルを使い分ける前提を、基盤の設計段階で持っておく必要があります。

なお、エンタープライズ向けの契約では、一定量以上の利用で20〜60%程度のボリュームディスカウントが適用されるのが一般的とされています。幅が広いのは、契約形態や年間コミット量によって条件が大きく変わるためです。年間の見込み処理量がある程度読める段階に来たら、リストプライスのまま試算せず、事業者と直接交渉する価値があります。

自社ホスト側のコスト構造は、これとまったく性質が異なります。トークンを何回処理しても追加課金は発生せず、代わりにハードウェアの初期投資と、電力・保守・人件費という固定費が毎月かかります。Petronella Technology GroupのプライベートAI導入ガイドでは、2026年時点では中堅企業でも1万〜1.5万ドル程度のハードウェアと、多くの業務用途で商用APIに匹敵する性能を持つオープンソースモデルの組み合わせで、プライベートAI環境の構築が可能になっているとされています。ただしこの金額は初期ハードウェア投資の目安であり、運用・保守のコストは別途必要です。ベンダー系メディアの試算である点も踏まえて読む必要があります。

損益分岐はどこにあるか｜1日1,000万トークンという目安

では、どのくらいの処理量から自社ホストが有利になるのか。同じガイドでは、1日あたりのトークン量が1,000万トークンを超える高ボリューム帯では、自社ホストが18か月以内に確実にコスト面で優位になるとされています。ここでの18か月は初期投資の回収に要する期間を指し、後述するベトナムAI法の猶予期間とは無関係です。これも試算であり保証された数値ではありませんが、判断の出発点としては使えます。

1日1,000万トークンという量を実感に落とすと、社員が対話ツールを個別に使っている段階では、まず到達しません。到達するのは、業務システムに組み込まれてバッチ処理が回り始めたときです。図面や仕様書を丸ごと読ませる、日次で全案件の議事録を要約する、問い合わせメールを全件分類する。こうした「人が指示しなくても回り続ける処理」が積み上がった段階で、トークン量は桁が変わります。

ここから導かれる実務的な結論はシンプルです。立ち上げ期に自社ホストから始めるのは、割高になりやすい選択です。 処理量が読めていない段階で固定費を先に確定させることになるうえ、どの用途が伸びるかも分かっていないからです。まず商用APIで用途を育て、トークン量の実測値が出てから基盤の持ち方を再判断する。この順序が費用面では合理的です。

ただし、コストだけで決められない領域があります。それが次に述べるデータの性質です。

社内データの生成AI活用とドキュメント検索｜基盤の持ち方が効いてくる理由

企業がLLMに期待する用途で最も需要が大きいのは、社内データの活用、とりわけドキュメント検索です。過去の不具合報告書、設備の保全記録、客先とのやり取り、社内規程。これらを自然文で検索し、根拠付きで答えを返す仕組みは、生成AIの用途の中でも投資対効果が読みやすい領域です。

この用途を実装する標準的な手法がRAG(検索拡張生成)です。社内文書を検索可能な形に加工しておき、質問が来たら関連する文書を検索してモデルに渡し、その文書に基づいて回答させます。工場の知見をRAGで扱う具体的な進め方は製造現場のナレッジをRAGで活かす方法で詳しく扱っています。

ここで基盤層の選択が効いてきます。RAGは構造上、質問のたびに社内文書の中身をモデルへ送り込む仕組みだからです。対話ツールを個人が使う段階では、社員が入力する内容は社員自身が選んでいます。しかしRAGを組んだ瞬間、検索対象に含めた文書は、質問に引っかかれば自動的にモデルへ送られます。誰かが判断して送っているわけではありません。

つまり、対話ツールの段階では「何を入れないか」を運用ルールで管理できたのに対し、ドキュメント検索の段階では検索対象に含めた時点で送信対象になるという設計上の性質に変わります。ここが、基盤の持ち方を先に決めるべき最大の理由です。

Petronella Technology GroupのプライベートAI導入ガイドは、自社ホスト型を選ぶべき典型として、防衛関連の機密データ、規制対象の金融データ、製造業の知的財産、複数年の監査ログを自社管理下で保持する必要があるデータを挙げています。タイやベトナムの日系製造業に引き直すと、該当しやすいのは次のようなものです。

この表を作ることが、ハイブリッド構成の設計そのものです。どの文書群をどちらの基盤に載せるかを決めた結果がハイブリッドであって、先に「ハイブリッドにする」と決めるものではありません。

セキュリティとデータガバナンスの実務｜ログと監査証跡をどう残すか

基盤の持ち方を決めたら、次はガバナンスの実装です。ここで見落とされやすいのは、自社ホストを選んだ場合に増える仕事の量です。

自社ホストにすればデータが外に出ないので安全、という理解は半分しか正しくありません。Prediction Guardの導入比較が指摘しているのは、自社ホストを選ぶと、これまで商用プロバイダーが担っていたセキュリティとコンプライアンスの負担を、すべて自社内に取り込むことになるという点です。そしてその基盤になるのが、プロンプト・出力・アクセスイベントを改ざん不可能な形でログに残す監査体制の構築だとされています。

商用APIを使っている間、この部分の相当な範囲は提供事業者側の認証や監査報告に依拠できます。自社ホストに移した瞬間、それらは自社の担当者の仕事になります。具体的には、次のような項目です。

これらは自社ホストを選ぶかどうかにかかわらず必要ですが、自社ホストでは実装主体が自社になります。この人員を確保できるかどうかが、自社ホストの実質的な参入条件です。 ハードウェアの1万〜1.5万ドルは払えても、これを運用し続ける担当者を置けない企業は多く、そこを見落とすと立ち上げ後ほどなく更新が止まります。

環境全体をどう安全に構成するかはセキュアな生成AI環境の作り方で、社内での利用ルールの整備は生成AI利用ポリシーの作り方で扱っています。基盤層の選択が決まったら、この2つを並行して進めることになります。

タイ・ベトナムの規制動向｜施行済みと草案を混同しない

タイやベトナムに拠点を持つ企業にとって、基盤の持ち方は法規制の問題でもあります。ここは情報が錯綜しやすく、二次情報では両国の状況が混同されていることがあるため、正確に区別して押さえます。

ベトナム｜AI法は施行済み。猶予期間の期限を数える段階

ベトナムのAI法(法律番号134/2025/QH15)は2026年3月1日に施行されました。すでに効力を持つ法律です。ただし直ちに全面適用されるわけではなく、一般的なAIシステムには12か月の猶予期間が設けられ2027年3月まで、医療・金融など重要分野には18か月の猶予期間が設けられ2027年9月までとされています。つまり、いま基盤を選ぶ企業にとっては、猶予期間の終わりから逆算して設計する段階にあります。

基盤の持ち方に直接関わるのがデータの所在に関する規定です。ベトナムのAI法はデータローカライゼーション要件を、データの保存場所だけでなく処理場所にまで拡張しています。政府調達向けの承認を得るAIプラットフォームは運用インフラをベトナム国内に置く必要があり、ベトナム政府の文書をシンガポールや米国など国外のサーバーで処理するクラウドAIサービスは、この基準を満たせないとされています。

ここは正確に読む必要があります。これは政府調達向けの要件であって、民間企業の全業務に一律で適用されるものではありません。 ただし、ベトナム政府の調達案件に納入する企業、あるいは将来的にその可能性がある企業にとっては、基盤層の設計に直接影響します。また、ハイリスクAIを提供する海外事業者には、ベトナム国内での商業拠点の設置または代理人の選任が必要となる条項も置かれています。

タイ｜AI法はまだ施行されていない。ただしPDPAは全面施行済み

タイの状況はベトナムとまったく異なります。タイのAI関連法は2026年8月時点でまだ施行されておらず、草案の段階です。 規制当局は2022年の王令と2023年の支援法案を統合し、2025年5月に「AI法の原則(草案)」を公表しました。デジタル経済社会省は2026年6月29日の「AIガバナンス・ウィーク2026」で、AI関連法の整備を2026年度内に完了させる方針を発表しています。

「ベトナムで施行されたのだからタイも同じだろう」という前提で社内説明を作ると、この違いを取り違えます。逆に「タイはまだ法律がないから自由だ」という理解も誤りです。タイにはすでに全面施行されている個人データ保護法(PDPA)があります。

タイのPDPAは2022年6月1日に全面施行され、GDPRに準拠した内容を持ちます。越境データ移転に関する規定があり、データ侵害は72時間以内の報告義務があります。違反時は最大500万バーツの罰金および禁錮刑の可能性があります。

LLM導入の文脈でPDPAが効いてくるのは、次の2点です。第一に、個人情報を含むプロンプトを商用APIに送信する行為は、PDPA上の個人データの取扱いに該当しうること。第二に、監査目的で保存するプロンプトと出力のログにも個人データが含まれうるため、保持期間と保護措置がPDPAの対象になることです。AI法の成立を待つ必要はなく、PDPAの観点だけで基盤層の設計は今すぐ点検できます。

なお、TH-AI Passportのような政府サービスの発表とAI法の整備は別の話です。政府がAI関連の施策を発表したことをもって「法律ができた」と社内資料に書かないよう注意してください。

EU AI Act｜EU域内に拠点や取引がある場合の参考情報

主要顧客がタイ・ベトナムの企業であればEU域外が中心ですが、EU域内に拠点や取引がある場合は影響しうるため、参考として触れておきます。EU AI Actの本格的な執行は2026年8月2日に開始し、違反時の制裁金は最大3,500万ユーロまたは全世界売上高の6%とされています。日系製造業でも、欧州向けに製品を出荷している企業や欧州法人を持つ企業は、自社が対象になるかを確認しておく価値があります。

判断フレームワーク｜LLM活用を進める企業はどの持ち方に向くか

ここまでの内容を、判断可能な形に落とします。次の項目に順に答えると、基盤の持ち方の方向が決まります。

この8項目の結果は、おおむね3つのパターンに収束します。

パターンA 商用APIで十分。処理量が1日1,000万トークンに届かず、扱う文書に高い機微性がなく、専任のインフラ人員を置けない企業です。多くの企業はここから始まります。ここで無理に自社ホストを選ぶと、コストも人員も見合いません。

パターンB ハイブリッドが妥当。機微な文書群と一般文書がはっきり分かれており、処理量も伸びている企業です。機微なワークロードだけを自社ホスト側に置き、それ以外は商用APIに残します。前掲の導入比較が本番運用の収束先として挙げているのもこの形です。

パターンC 自社ホスト中心。処理量が大きく、扱うデータの大半が知的財産か規制対象で、監査ログの自社保持要件があり、運用人員を確保できる企業です。該当する企業は限られますが、該当するなら他の選択肢が取りにくい構造になっています。

重要なのは、この判断は一度で終わらないということです。処理量は用途が増えれば変わり、規制はベトナムの猶予期間のように期限を持って進みます。少なくとも年に一度、実測値と規制の状況を突き合わせて再判断する運用にしておくべきです。

よくある質問(FAQ)

LLMとは何ですか

LLMは大規模言語モデルの略で、大量のテキストで学習し、与えられた文脈に続く言葉を確率的に生成するモデルを指します。ビジネス上の判断では、利用者が触るアプリケーション、社内データを渡す連携の仕組み、推論そのものを実行するLLM本体という3つの層を分けて考えることが重要です。ChatGPTのような対話ツールはアプリケーション層の製品であり、その裏側で動くLLMをどこでどう動かすかという基盤層の選択は、別の意思決定です。

LLM導入の費用はどれくらいかかりますか

基盤の持ち方によってコストの性質が変わるため、単一の目安は示せません。商用APIは従量課金で、2026年8月時点の価格比較記事によれば100万トークンあたりの単価は最上位モデルと最安価格帯とで大きく開いています。自社ホストは初期のハードウェア投資と運用の固定費という構造で、中堅企業でも1万〜1.5万ドル程度のハードウェアと、多くの業務用途で商用APIに匹敵する性能を持つオープンソースモデルの組み合わせでプライベートAI環境の構築が可能とする試算があります。ただしこの金額は初期投資の目安であり、運用・保守と人件費は別途必要です。実務上は、まず商用APIで用途を育てて処理量を実測し、その数値をもとに再判断する順序をおすすめします。

社内データを生成AIに使っても大丈夫ですか

データの種類ごとに判断が分かれます。社内規程や手順書のような一般的な文書は商用APIで扱っても問題ない場合が多い一方、図面や加工条件などの知的財産、客先との守秘契約の対象、個人データは、送信先と保持条件を確定させてから扱う必要があります。特にドキュメント検索の仕組みを組むと、検索対象に含めた文書は質問に引っかかった時点で自動的にモデルへ送られます。人が都度判断して送るわけではないため、検索対象に含める文書の分類を先に済ませておくことが実務上の要点です。

タイでLLMを導入する際に守るべき法規制は何ですか

2026年8月時点で、タイのAI関連法はまだ施行されておらず草案の段階です。デジタル経済社会省は2026年度内の法整備完了を目指す方針を示しています。一方で個人データ保護法(PDPA)は2022年6月1日に全面施行済みで、越境データ移転の規定、データ侵害の72時間以内の報告義務があり、違反時は最大500万バーツの罰金および禁錮刑の可能性があります。AI法の成立を待つのではなく、PDPAの観点でプロンプトの送信とログの保持を点検することが先です。なお、ベトナムのAI法は2026年3月1日に施行済みであり、タイとは状況が異なります。両国に拠点がある企業は、同じ設計をそのまま持ち込まないよう注意してください。

まとめ｜基盤の持ち方を先に決めると、後の作り直しが減る

LLM導入の意思決定は、製品の優劣を比べる作業ではありません。自社が扱うデータの性質、月あたりの処理量、自社で背負えるセキュリティ責任の量という3つの変数で、基盤の持ち方が決まります。

本記事の内容を整理します。基盤層の選択肢は商用API利用・自社ホスト・ハイブリッドの3つで、本番運用のアーキテクチャはハイブリッドに収束する傾向があるとされています。コスト構造は従量課金と固定費で性質が異なり、自社ホストが確実に有利になるとされるのは1日1,000万トークンを超える高ボリューム帯です。処理量が読めていない立ち上げ期に固定費を確定させるのは不利で、まず商用APIで用途を育てて実測するのが合理的です。

一方、コストだけでは決められないのがデータの性質です。ドキュメント検索を組んだ瞬間、検索対象に含めた文書は自動的にモデルへ送られる設計になります。設計データ、客先支給図面、個人データをどちらの基盤に載せるかを分類した結果が、そのままハイブリッド構成の設計になります。

規制については、ベトナムのAI法が2026年3月1日に施行済みで猶予期間の期限が2027年3月と2027年9月に設定されているのに対し、タイのAI関連法は2026年8月時点で草案段階という違いを、絶対に混同しないでください。そしてタイではPDPAがすでに全面施行されており、AI法の成立を待たずに点検すべき論点があります。

自社ホストを選ぶ場合に増えるのは、ハードウェア費用よりも運用の仕事です。プロンプト・出力・アクセスイベントを改ざん不可能な形で残す監査体制を、自社の人員で構築し維持できるか。ハードウェアの費用より先に、この人員の見通しを確認してください。

まだ基盤を決めていない段階、あるいは「そもそも自社はどのパターンに当てはまるのか」を整理したい段階でのご相談も承っています。処理量の見積り方、社内文書の分類の進め方、タイ・ベトナム双方の拠点で設計をどう分けるかといった論点は、見積りを取る前に整理しておいたほうが後の手戻りが小さくなります。ご検討の途中でも、お問い合わせフォームからお気軽にご連絡ください。

参考情報

1. 自社ホストとクラウドのLLM導入比較

本番運用のアーキテクチャがハイブリッド型に収束する傾向、機密性が高く処理量の多いワークロードを自社内で処理し最も重い推論タスクを商用APIに残す構成、および自社ホストを選ぶとセキュリティとコンプライアンスの負担を自社内に取り込むことになる点と、プロンプト・出力・アクセスイベントを改ざん不可能な形で残す監査体制が基盤になるという記述の出典です。ベンダー系の技術解説であるため、統計値ではなく傾向として引用しています。

Self-Hosted vs Cloud LLM Deployment Guide | Prediction Guard

2. エンタープライズ向けプライベートAI導入ガイド

1日あたり1,000万トークンを超える高ボリューム帯では自社ホストが18か月以内にコスト面で優位になるとされる点、2026年時点で中堅企業でも1万〜1.5万ドル程度のハードウェアとオープンソースモデルの組み合わせでプライベートAI環境の構築が可能とされる点、および自社ホスト型が向くデータとして防衛関連の機密データ、規制対象の金融データ、製造業の知的財産、複数年の監査ログの自社保持が挙げられている点の出典です。いずれもベンダー系メディアによる試算であり、保証された数値ではありません。

Private AI Deployment Guide for Enterprise | Petronella Technology Group

3. Claude Opusの価格情報

Claude Opus(4.8世代)のAPI価格が入力100万トークンあたり5ドル、出力100万トークンあたり25ドルとされ、Opus 4.5から同水準を維持しているという記述の出典です。2026年8月時点の価格比較記事による目安であり、公式発表ページでの一次確認はしていません。

Claude Opus Pricing | eesel AI

4. LLM APIの価格比較

GPT-5.2が入力1.75ドル・出力14.00ドル、GPT-5.5が入力5ドル・出力30ドル、DeepSeek V4 Flashが入力0.14ドル・出力0.28ドル(いずれも100万トークンあたり)という価格、およびエンタープライズ向け契約で一定量以上の利用に20〜60%程度のボリュームディスカウントが適用されるのが一般的とされる点の出典です。

LLM API Pricing Comparison – GPT, Claude, Gemini, DeepSeek 2026 | Spheron Network

5. エンタープライズのAIデータ主権

EU AI Actの本格的な執行が2026年8月2日に開始し、違反時の制裁金が最大3,500万ユーロまたは全世界売上高の6%とされる点の出典です。

AI Data Sovereignty for Enterprise | NeuralTrust

6. ベトナムAI法の解説

ベトナムのAI法(法律番号134/2025/QH15)が2026年3月1日に施行され、一般的なAIシステムに12か月の猶予期間(2027年3月まで)、医療・金融など重要分野に18か月の猶予期間(2027年9月まで)が設けられているという記述の出典です。

Vietnam – Artificial Intelligence Law, Foundation and Outlook | Baker McKenzie

7. ベトナムのAIプラットフォームに対する執行指令

ベトナムのAI法がデータローカライゼーション要件を保存場所だけでなく処理場所にまで拡張していること、政府調達向けの承認を得るAIプラットフォームは運用インフラをベトナム国内に置く必要があり国外サーバーで政府文書を処理するクラウドAIサービスは基準を満たせないこと、およびハイリスクAIを提供する海外事業者にベトナム国内での商業拠点設置または代理人選任が求められることの出典です。政府調達向けの要件であり民間企業の全業務に一律適用されるものではありません。

Vietnam Bans Classified Documents on AI Platforms | Tech Times

8. タイのAI法整備の状況

タイ規制当局が2022年の王令と2023年の支援法案を統合し2025年5月に「AI法の原則(草案)」を公表したこと、およびタイのAI関連法が2026年8月時点で施行されていない草案段階であることの出典です。

タイのAI法に関する動向 | バンコク週報

9. AIガバナンス・ウィーク2026におけるタイ政府の方針

デジタル経済社会省が2026年6月29日の「AIガバナンス・ウィーク2026」でAI関連法の整備を2026年度内に完了させる方針を発表したことの出典です。

タイのAI政策に関する報道 | タイ通

10. タイの個人データ保護法(PDPA)

タイのPDPAが2022年6月1日に全面施行済みでGDPRに準拠した内容を持つこと、越境データ移転に関する規定とデータ侵害の72時間以内の報告義務があること、違反時に最大500万バーツの罰金および禁錮刑の可能性があることの出典です。

タイの個人情報保護法(PDPA) | KPMGジャパン