AIにおける基盤モデルとは？仕組みや導入・運用に必要な要件を解説

更新日：2026年9月11日

基盤モデルや生成AIを業務に活用する動きが広がる一方で、モデル選定や自社データとの連携、安全な運用体制の整備に悩む企業も少なくありません。

本記事では、AIにおける基盤モデルの概要や仕組み、業務別のユースケース、企業が既存の基盤モデルを活用するメリットを解説します。併せて、基盤モデルを安全に導入・運用するために必要な要件も紹介します。

1. AIにおける基盤モデルとは

AIにおける基盤モデルとは、大量かつ多様なデータで事前学習され、文章生成や要約、分類、推論、画像認識、音声認識など、幅広いタスクに応用できる汎用的なAIモデルです。

従来のAIモデルは、特定の用途に合わせて個別に設計・学習することが一般的でした。一方、基盤モデルは、複数の業務に横断的に応用できる土台として利用しやすい点が特徴です。

企業では、既存の基盤モデルをAPIやクラウドサービス経由で利用し、自社の業務データや社内システムと連携させることで、問い合わせ対応や文書作成支援、社内ナレッジ検索などへ展開できます。

1-1. LLMや生成AIとの違い

基盤モデル、LLM、生成AIは混同されやすい概念ですが、それぞれ指す範囲が異なります。

基盤モデルはLLMや生成AIよりも広い概念です。LLMは、言語処理に強みを持つ基盤モデルの一種ですが、生成AIはテキストや画像、音声、動画、コードなどの新しいコンテンツを生成するAIを指します。

そのため、LLMが生成AIとして利用される場合もありますが、両者は同じ意味ではありません。基盤モデル、LLM、生成AIの関係を整理しておくことで、モデル選定や導入目的を検討しやすくなります。

1-2. 代表的な基盤モデルの例

代表的な基盤モデルには、GPTモデル、Claudeモデル、Geminiモデル、Llamaモデル、Stable Diffusionモデルなどがありますが、それぞれ特徴と活用方法が異なります。

近年の基盤モデルは、テキストだけでなく画像や音声、動画など複数のデータを統合的に扱う「マルチモーダル」に対応するものが増えています。また、処理効率を高めるアーキテクチャの採用も進んでおり、高い性能を維持しながら計算コストを抑えられるモデルが登場しています。

2. AIにおける基盤モデルの仕組み

基盤モデルは、大量のデータから汎用的な知識を学習し、その知識をさまざまな業務へ応用できるよう設計されています。また、近年では社内データや業務システムと連携することで、より高度な業務自動化や意思決定支援にも活用が広がっています。

基盤モデルを効果的に活用するには、モデルがどのように学習し、業務へ適用されるのか、さらに外部システムとどのように連携するのかを理解しておくことが重要です。ここでは、基盤モデルの仕組みを以下4つの観点から解説します。

• 基盤モデルの学習メカニズム
  事前学習／ディープラーニング／トランスフォーマー
• 業務への適用方法
  転移学習／ファインチューニング
• 外部データ・システムとの連携
  RAGやMCPによる外部データ・システム連携／AIエージェントによる自律的タスク遂行
• モデルの大規模化
  スケール

2-1. 基盤モデルの学習メカニズム

基盤モデルは、大量のデータをもとに事前学習を行い、幅広いタスクに応用できる知識やパターンを身につけます。この学習では、ディープラーニングを基盤技術とし、多くのモデルでトランスフォーマーと呼ばれるニューラルネットワーク構造が採用されています。

ここでは、基盤モデルの学習を支える3つの要素を解説します。

2-1-1. 事前学習

事前学習とは、大量のテキストや画像、音声などのデータを用いて、基盤モデルに幅広い知識やパターンをあらかじめ学習させる工程です。

例えば、言語モデルでは文章の構造や文脈、単語同士の関係を学習し、画像モデルでは形状や色、物体の特徴を学習します。こうして得られた知識は、文章生成や要約、分類、画像認識など、さまざまなタスクに応用できる共通の基盤となります。

事前学習済みの基盤モデルを活用することで、企業は一からAIモデルを開発する必要がなくなり、開発期間やコストを抑えながらAIを業務へ導入しやすくなります。

2-1-2. ディープラーニング

ディープラーニングとは、多層のニューラルネットワークを用いて、大量のデータから特徴やパターンを自動的に学習する技術です。

従来の機械学習では、人が特徴量を設計する必要がありました。一方、ディープラーニングでは、モデル自身がデータから重要な特徴を抽出できるため、文章や画像、音声など複雑なデータにも対応できます。

基盤モデルは、このディープラーニングを基盤技術として、高い汎用性や精度を実現しています。

2-1-3. トランスフォーマー

トランスフォーマーとは、文章や画像などのデータに含まれる要素同士の関係性を捉えるためのニューラルネットワーク構造です。

文章では、単語やトークン同士の関係を考慮しながら文脈を理解することで、より自然な文章生成や高精度な回答を実現します。この仕組みにより、長文の理解や複雑な文脈の把握が可能になり、現在の多くの大規模言語モデル（LLM）の基盤技術として採用されています。

2-2. 業務への適用方法

基盤モデルは、事前学習によって幅広い知識を身につけていますが、そのままでは企業ごとの業務や業界特有のルールに十分対応できない場合があります。そのため、既存の知識を活用しながら業務に合わせて調整することで、より実用的なAIとして活用できます。

ここでは、基盤モデルを業務へ適用する代表的な方法を解説します。

2-2-1. 転移学習

転移学習とは、ある領域で学習した知識を別のタスクへ応用する考え方です。

例えば、大量の文章から言語の構造や文脈を学習した基盤モデルは、その知識を活用して問い合わせ対応や社内文書検索、要約、文章分類など、さまざまな業務へ応用できます。画像モデルでも、一般的な画像の特徴を学習した知識を活かし、製品の検品や異常検知などへ展開できます。

このように、一からAIモデルを開発するのではなく、既存の基盤モデルを土台として活用できることが、企業における基盤モデルの大きなメリットです。

2-2-2. ファインチューニング

ファインチューニングとは、事前学習済みの基盤モデルを、特定の業務や用途に合わせて追加学習し、出力を最適化する手法です。

基盤モデルは幅広い知識を備えていますが、業界固有の用語や社内ルール、製品情報などには十分対応できない場合があります。そこで、FAQや応対履歴、社内規程、マニュアルなどのデータを用いて追加学習を行うことで、業務に適した回答や分類結果を得やすくなります。

一方で、ファインチューニングには学習データの準備や評価、継続的なメンテナンスが必要です。そのため、すべての業務で実施するのではなく、まずはRAGやプロンプト設計で対応できるかを検討し、必要に応じてファインチューニングを実施することが一般的です。

2-3. 外部データ・システムとの連携

基盤モデルの性能を十分に活かすには、モデル単体で利用するだけでなく、社内データや業務システム、外部ツールと連携させることが重要です。

近年では、RAGやMCPなどの仕組みにより、最新の情報を参照したり、外部システムと連携したりする活用が広がっています。さらに、これらの仕組みを組み合わせることで、AIエージェントによる自律的な業務実行も可能になっています。

ここでは、基盤モデルと外部システムを連携する代表的な仕組みを解説します。

2-3-1. RAG（Retrieval-Augmented Generation）

RAG（Retrieval-Augmented Generation）とは、ユーザーからの質問に関連する情報を外部データから検索し、その内容を基盤モデルへ渡して回答を生成する仕組みです。
基盤モデル自体にすべての情報を学習させるのではなく、社内文書やFAQ、マニュアル、最新情報などを必要に応じて参照するため、より正確で最新の情報を反映した回答を生成しやすくなります。

企業では、社内ナレッジ検索や問い合わせ対応、業務マニュアルの参照などで広く活用されています。

2-3-2. MCP（Model Context Protocol）

MCP（Model Context Protocol）とは、AIアプリケーションと外部データソースやツールを接続するための標準規格です。

従来は、システムごとに個別のAPI連携を実装する必要がありましたが、MCPを利用することで、共通のルールに沿ってさまざまなシステムやツールと連携しやすくなります。そのため、AIシステムの拡張性や保守性の向上が期待できます。

2-3-3. AIエージェント

AIエージェントとは、基盤モデルが外部データや業務システムと連携しながら、目的達成に必要な処理を自律的に実行する仕組みです。

例えば、ユーザーからの依頼を受けると、関連文書を検索（RAG）し、必要に応じて外部システムへアクセス（MCPなどを利用）しながら情報を収集し、最適な回答や処理を実行します。さらに、APIの呼び出しやワークフローの実行、ファイル操作などを組み合わせることで、複数の作業を一連の流れとして実行できます。

一方で、AIエージェントは外部システムを操作する場合があるため、権限管理や実行ログの記録、重要な処理における承認フローなどを設計し、安全に運用できる体制を整えることが重要です。

2-4. モデルの大規模化（スケーリング）

スケーリングとは、基盤モデルの性能を高めるために、学習データ量やモデルのパラメータ数、計算資源などを拡大する考え方です。

一般的に、学習データや計算量が増えるほど、基盤モデルはより複雑なパターンや文脈を理解しやすくなり、文章生成や要約、画像認識などの精度向上が期待できます。一方で、大規模なモデルほど、高性能なGPUや大量の学習データ、専門的な開発・運用体制が必要となり、開発や運用にかかるコストも大きくなります。

そのため、多くの企業では基盤モデルを一から開発するのではなく、Amazon BedrockやAzure OpenAI Service、Vertex AIなどのマネージドAIサービスを通じて既存の基盤モデルを利用する方法が一般的です。これにより、モデル開発にかかる負担を抑えながら、自社データとの連携や業務への適用、運用設計に注力しやすくなります。

3. AIにおける基盤モデルの主な活用領域

基盤モデルは、文書作成や情報整理、社内ナレッジの活用、マルチモーダルデータの処理、業務プロセスの自動化など、さまざまな業務で活用されています。企業が導入する際は、目的や業務課題に応じて適切な活用方法を選択することが重要です。ここでは、代表的な活用領域を4つ紹介します。

• 文書作成・情報整理
• 問い合わせ対応・ナレッジ検索
• マルチモーダルデータの活用
• 業務プロセスの自動化・意思決定支援

3-1. 文書作成・情報整理

基盤モデルは、文書作成や要約をはじめ、情報整理を伴う幅広い業務に活用できます。

例えば、企画書や提案書のドラフト作成、報告書や議事録の要約、契約書や規程の要点整理、翻訳、文章校正など、日常業務で扱うさまざまな文書の作成・整理を支援できます。また、複数の資料を横断して情報を整理したり、目的に応じて必要な情報を抽出したりすることも可能です。

業務では、AIが文書の作成や情報整理を担い、人が内容の確認や最終的な意思決定を行う役割分担が一般的です。これにより、定型的な文書作成にかかる負担を軽減し、企画立案や判断など、より付加価値の高い業務に時間を充てやすくなります。

3-2. 問い合わせ対応・ナレッジ検索

基盤モデルは、問い合わせ対応や社内ナレッジの検索・活用にも広く利用されています。

例えば、社内ヘルプデスクやカスタマーサポートでは、問い合わせ内容を理解し、関連する情報をもとに回答案を作成できます。また、RAGを組み合わせることで、製品情報や業務マニュアル、FAQ、社内規程などを参照しながら回答を生成できるため、一般的な知識だけでは対応できない質問にも回答しやすくなります。
さらに、社内に蓄積された大量の文書やナレッジを横断的に検索し、必要な情報を抽出・要約することも可能です。必要な情報を探す時間を短縮できるため、問い合わせ対応だけでなく、日常業務における情報活用の効率化にもつながります。

一方で、回答品質を維持するためには、参照データの鮮度や信頼性を管理するとともに、回答ログを継続的に確認・評価できる運用体制を整備することが重要です。

3-3. マルチモーダルデータの活用

基盤モデルはテキストだけでなく、画像や音声、動画など複数のデータを組み合わせて処理するマルチモーダル活用にも対応しています。

例えば、会議の音声データから議事録を作成したり、問い合わせ内容と添付画像を組み合わせて状況を把握したり、設備の画像と点検記録をもとに異常の有無を判断したりするなど、複数の情報を統合して業務を支援できます。

テキストだけでは把握しにくい状況も、画像や音声と組み合わせて分析することで、より適切な判断や迅速な対応につながります。

一方で、画像や音声には個人情報や機密情報が含まれる場合があります。そのため、利用するデータの範囲や保存方法、アクセス権限をあらかじめ整理し、適切なセキュリティ対策を講じることが重要です。

3-4. 業務プロセスの自動化・意思決定支援

基盤モデルは、個別の文書作成や問い合わせ対応だけでなく、複数の業務を組み合わせた業務プロセスの自動化や意思決定支援にも活用されています。

例えば、問い合わせ内容を分類して担当部署へ振り分けたり、契約書や申請書を確認して必要な手続きを案内したり、複数のシステムから関連情報を収集してレポートを作成したりするなど、一連の業務を支援できます。また、AIエージェントと組み合わせることで、情報検索やデータ整理、ワークフロー実行などを自律的に進めることも可能です。

一方で、業務プロセスへAIを組み込む際は、AIの出力をそのまま実行するのではなく、人による確認や承認を前提とした運用設計が重要です。特に、外部システムとの連携やデータ更新を伴う処理では、権限管理や実行ログの記録など、ガバナンスを考慮した設計が求められます。

4. 企業が既存の基盤モデルを活用するメリット

企業が基盤モデルを導入する方法には、自社でモデルを開発する方法と、既存の基盤モデルをAPIやクラウドサービス経由で利用する方法があります。多くの企業では、開発期間やコスト、運用負荷を考慮し、既存の基盤モデルを活用するケースが一般的です。

既存の基盤モデルを活用することで、高度なAI技術を迅速に業務へ取り入れられるだけでなく、自社の目的に合わせた活用や運用の最適化も進めやすくなります。ここでは、主なメリットを5つ紹介します。

• 高度なAIモデルをすぐに利用できる
• 業務に合わせて柔軟に活用できる
• AI導入を短期間で進められる
• 専門人材が限られていても導入しやすい
• 開発・運用コストを抑えやすい

4-1. 高度なAIモデルをすぐに利用できる

既存モデルの活用により、自社では開発が難しい高度なAIモデルを、短期間で業務に取り入れられます。

基盤モデルを一から開発するには、大量の学習データや高性能な計算資源、AIに関する専門知識など、多くのリソースが必要です。一方、既存の基盤モデルは大規模なデータで事前学習されているため、文章生成や要約、分類、画像認識など、高度なAI機能をすぐに利用できます。

そのため、企業は基盤モデルそのものの開発に時間やコストをかけるのではなく、自社データとの連携や業務フローへの組み込みなど、自社ならではの価値を生み出す取り組みに注力できます。

4-2. 業務に合わせて柔軟に活用できる

既存の基盤モデルは、そのまま利用するだけでなく、自社の業務や目的に合わせて柔軟に活用できる点も大きなメリットです。

例えば、RAGを活用して社内文書や業務マニュアル、FAQなどを参照できるようにすることで、自社の最新情報を反映した回答を生成しやすくなります。また、必要に応じてファインチューニングを行えば、業界特有の用語や業務ルール、製品情報などを考慮した出力へ最適化することも可能です。

このように、既存の基盤モデルを土台として、自社データや業務要件に合わせて段階的に最適化することで、幅広い業務へ柔軟に適用できます。

4-3. AI導入を短期間で進められる

既存の基盤モデルを活用することで、AI開発にかかる期間を短縮し、業務への導入をスピーディーに進められます。

基盤モデルを一から開発する必要がないため、企業は学習データの収集やモデル開発ではなく、業務システムとの連携や社内データの整備、運用ルールの策定、出力結果の評価などに注力できます。

そのため、小規模なPoC（概念実証）からAI活用を開始し、効果を検証しながら対象業務や利用範囲を段階的に拡大しやすくなります。導入後も現場のフィードバックを反映しながら改善を重ねることで、自社の業務に適したAI活用へ発展させることが可能です。

4-4. 専門人材が限られていても導入しやすい

既存モデルの活用により、高度なAI開発に関する専門知識や大規模な開発体制がなくても、AI活用を進めやすくなります。

自社で基盤モデルを開発する場合は、データサイエンティストやAIエンジニアをはじめとする専門人材が必要になります。一方、既存の基盤モデルを活用すれば、対象業務の選定や社内データの整備、プロンプト設計、出力結果の評価など、自社業務に直結する取り組みに人材を集中できます。

そのため、限られた人員でも段階的にAI活用を進めやすく、業務部門とIT部門が連携しながら、自社の業務に適した運用体制を構築しやすくなります。

4-5. 開発・運用コストを抑えやすい

既存の基盤モデルを活用することで、自社で基盤モデルを開発・運用する場合と比べて、開発や運用にかかるコストを抑えやすくなります。

基盤モデルを一から開発するには、大量の学習データや高性能な計算資源、専門人材の確保など、多額の初期投資が必要です。一方、APIやクラウドサービス、既存の基盤モデルを利用すれば、必要な機能を短期間で導入できるため、初期構築にかかる負担を軽減できます。

一方で、利用量に応じた従量課金や外部サービスとの連携費用、運用監視、セキュリティ対策などの運用コストは継続的に発生します。そのため、導入時には初期費用だけでなく、継続的な運用コストも含めて検討し、自社の利用規模や目的に応じたサービスを選択することが重要です。

5. AIにおける基盤モデルを業務で活用する際の注意点

基盤モデルを業務で活用する際は、高い性能や利便性だけでなく、出力結果の信頼性や情報管理、セキュリティ、コスト、外部システムとの連携などにも配慮する必要があります。AIを安全かつ継続的に活用するためには、技術面だけでなく、運用ルールやガバナンスを含めた体制整備が重要です。

ここでは、基盤モデルを業務で活用する際に押さえておきたい注意点を7つ紹介します。

• ハルシネーションやバイアスによる誤った出力に注意する
• 出力結果の根拠や説明責任を考慮する
• 機密情報や個人情報を適切に管理する
• プロンプトインジェクションなどのセキュリティリスクに備える
• AIエージェントや外部システムとの連携を適切に管理する
• 利用状況に応じたコスト管理を行う
• 外部データやシステムとの連携を適切に設計する

5-1. ハルシネーションやバイアスによる誤った出力に注意する

基盤モデルの業務活用では、ハルシネーションやバイアスにより、事実と異なる情報や偏った内容が出力される可能性があります。

ハルシネーションとは、AIが事実に基づかない内容を、あたかも正しい情報であるかのように生成してしまう現象です。一方、バイアスとは、学習データや参照データの偏りなどの影響を受けて、特定の属性や考え方に偏った出力が生成されることを指します。

こうした出力をそのまま利用すると、顧客対応や社内規程の案内、契約内容の確認など、業務上の判断や意思決定に影響を及ぼす可能性があります。そのため、AIの出力は必ず人が確認するとともに、参照元や根拠を確認できる仕組みや、出力結果を評価する運用ルールを整備することが重要です。

5-2. 出力結果の根拠や説明責任を考慮する

基盤モデルを業務で活用する際は、出力結果の根拠や説明責任を考慮する必要があります。

多くの基盤モデルはディープラーニングを用いており、出力に至る判断過程が外部から見えにくい「ブラックボックス性」を持っています。そのため、どの情報をもとに回答や判断を導き出したのかを明確に説明できない場合があります。

特に、審査や法務、医療など、判断根拠の説明が求められる業務では注意が必要です。AIを業務で活用する際は、出力結果だけでなく、参照したデータや利用したプロンプト、担当者による確認履歴などを記録し、結果を後から検証できる運用を整備することが求められます。

5-3. 機密情報や個人情報を適切に管理する

基盤モデルの業務活用では、機密情報や個人情報を適切に管理することが重要です。

第三者のAIサービスを利用する場合は、入力したデータや出力結果、利用ログがどのように保存・利用されるのかを事前に確認する必要があります。特に、個人情報や顧客情報、契約情報、ソースコード、社内機密文書などを扱う場合は、学習利用の有無やデータの保存期間、保管場所、削除方法などを確認したうえで利用することが求められます。

また、RAGなどを活用して社内文書や業務システムと連携する場合は、AIが参照できるデータの範囲や利用者ごとのアクセス権限を適切に設計する必要があります。必要以上の情報へアクセスできる状態を避けることで、情報漏えいや権限外の情報を含む回答が生成されるリスクを低減できます。

5-4. プロンプトインジェクションなどのセキュリティリスクに備える

基盤モデルを業務システムに組み込む場合、プロンプトインジェクションなどのセキュリティリスクを考慮した設計が求められます。

プロンプトインジェクションとは、ユーザー入力や外部文書に埋め込まれた指示によって、AIに本来意図しない動作をさせる攻撃手法です。特に、RAGで外部文書を参照する場合や、AIエージェントが外部ツールを利用する場合は、悪意のある指示がAIの挙動に影響を及ぼす可能性があります。

また、AIの出力を十分に検証せず、そのまま後続システムへ渡すと、誤った処理や意図しない操作につながるおそれがあります。そのため、入力内容や参照データの検証、AIの出力結果の確認、実行可能な操作範囲の制限、重要な処理における人の承認など、安全性を考慮した運用を行うことが望まれます。

5-5. AIエージェントや外部システムとの連携を適切に管理する

基盤モデルを外部システムやAIエージェントと連携して活用する場合は、AIが実行できる権限や操作範囲を適切に管理することが重要です。

AIエージェントは、情報検索やデータ参照、APIの利用、ワークフローの実行などを組み合わせて、一連の業務を自律的に進められます。また、外部システムと連携することで、データの取得や更新、業務処理の実行なども可能になります。一方で、過剰な権限を付与すると、誤操作や意図しない処理が発生した際の影響が大きくなる可能性があります。

そのため、AIに付与する権限は必要最小限に抑え、重要な処理では人による承認を組み込むことが重要です。また、実行ログや操作履歴を記録し、「誰が」「どの指示で」「どの処理を実行したのか」を追跡できるようにしておくことで、問題発生時の原因調査やガバナンスの強化につながります。

5-6. 利用状況に応じたコスト管理を行う

基盤モデルを業務で活用する際は、利用状況に応じてコストを継続的に管理することが重要です。

基盤モデルは、利用回数や処理するテキスト量、画像・音声データの処理量などに応じて費用が発生することがあります。また、RAGで利用する検索基盤やベクトルデータベース、ログ保存、監視、評価、セキュリティ対策など、運用に伴うコストも考慮する必要があります。

さらに、社内で利用部門や利用者が増えると、当初の想定を上回る費用が発生する可能性があります。そのため、部門ごとの利用状況やトークン消費量、外部APIの利用量などを可視化し、定期的に利用状況やコストを見直す運用を行うことが求められます。

5-7. 外部データやシステムとの連携を適切に設計する

基盤モデルを業務で活用する際は、外部データや社内システムとの連携を適切に設計することが重要です。

RAGやMCPを活用して複数のシステムやデータベースと連携する場合、参照するデータの範囲や更新タイミング、利用者ごとのアクセス権限、ログの管理などをあらかじめ整理しておく必要があります。これらが曖昧なまま運用すると、古い情報を参照した回答や、権限外の情報を含む回答が生成されるおそれがあります。

そのため、データの鮮度や参照元の信頼性、アクセス権限、操作ログなどを一元的に管理できる仕組みを整備するとともに、データの更新や運用ルールを明確にしておくことが重要です。適切な連携設計を行うことで、回答品質やセキュリティを維持しながら、基盤モデルを業務で活用しやすくなります。

6. AIにおける基盤モデルを安全に導入・運用する要件

基盤モデルを業務で安全かつ効果的に活用するには、モデルの性能だけでなく、データ管理やセキュリティ、ガバナンス、コスト管理、継続的な評価・改善の仕組みを整備することが重要です。これらの要件をあらかじめ整えておくことで、業務への定着を進めながら、品質や安全性を維持しやすくなります。

ここでは、企業が基盤モデルを導入・運用する際に整備しておきたい要件を、以下5つの観点から解説します。

• AI活用に適したデータ基盤を整備する
• セキュリティとガバナンスを整備する
• 利用状況やコストを継続的に管理する
• 業務に合わせてAIを最適化する
• 評価・運用体制を継続的に改善する

6-1. AI活用に適したデータ基盤を整備する

基盤モデルを業務で活用するには、AIが必要な情報を適切に参照できるよう、データ基盤を整備することが求められます。

まずは、社内文書やFAQ、製品情報、業務マニュアルなど、AIに参照させるデータを整理し、保管場所や管理者を明確にします。そのうえで、データ形式や更新頻度、アクセス権限、利用目的などを整理し、RAGなどで活用しやすい状態に整備します。

また、データが複数のシステムに分散していたり、古い情報が残っていたりすると、AIの回答品質が低下する可能性があります。そのため、データの鮮度や参照元の信頼性を維持するとともに、継続的にデータを更新・管理できる体制を整えておくことが重要です。

6-2. セキュリティとガバナンスを整備する

基盤モデルを業務で活用するには、セキュリティとガバナンスの両面から管理体制を整備することが重要です。

AIに入力してよい情報と入力してはいけない情報を明確にし、顧客情報や個人情報、契約情報、社内機密文書などを扱う場合は、入力制限やマスキングなどを検討します。
また、外部サービスを利用する際は、入力データや出力結果の保存・学習利用の有無、保存期間、削除方法などを事前に確認することが求められます。

さらに、社内システムと連携する場合は、利用者ごとのアクセス権限に応じてAIが参照できる情報を制御するとともに、利用ルールや権限管理、操作ログの記録などのガバナンスを整備することで、情報漏えいや不適切な利用を防ぎやすくなります。

6-3. 利用状況やコストを継続的に管理する

基盤モデルを継続的に活用するには、利用状況やコストを可視化し、継続的に管理できる仕組みを整えることが重要です。

基盤モデルは、利用回数や処理するテキスト量、画像・音声データの処理量、外部APIの利用量などに応じて費用が発生します。また、RAGで利用する検索基盤やベクトルデータベース、ログ保存、監視、評価、セキュリティ対策などの運用コストも考慮する必要があります。

そのため、部門ごとの利用状況やトークン消費量、外部APIの利用量などを可視化し、どの処理でコストが発生しているのかを継続的に把握できる仕組みを整えます。これにより、プロンプトの見直しや処理対象データの最適化、用途に応じたモデルの使い分けなど、コストと性能のバランスを考慮した運用を行いやすくなります。

6-4. 業務に合わせてAIを最適化する

基盤モデルを安全に利用するには、業務目的や利用者のニーズに合わせてAIを最適化することが求められます。

対象業務で求められる回答形式や文体、参照すべき情報、避けるべき表現などを明確にしたうえで、プロンプト設計やRAGによる参照データの設定、必要に応じたファインチューニングを組み合わせ、自社の業務に適した出力を実現します。

また、業務ルールや社内データは継続的に更新されるため、一度最適化して終わりではありません。AIの回答品質を定期的に評価しながら、プロンプトや参照データ、評価基準を継続的に見直すことで、業務に適した状態を維持しやすくなります。

6-5. 評価・運用体制を継続的に改善する

基盤モデルを業務で安定的に活用するには、導入前の評価だけでなく、導入後も継続的に評価・改善を行う運用体制を整えることが重要です。

導入前には、回答精度だけでなく、ハルシネーションやバイアスの有無、参照データや業務ルールに沿った回答ができているか、権限外の情報を含んでいないかなどを検証します。

評価で大きな問題がないことを確認したら、まずは限定された部門や業務で導入し、利用ログやエラー内容、利用者からのフィードバックを収集します。その結果をもとに、プロンプトや参照データ、権限設定、運用ルールなどを見直しながら、段階的に利用範囲を拡大していくことが重要です。

また、本番運用後も、回答品質や利用状況、コスト、セキュリティリスクなどを継続的にモニタリングし、業務内容や社内データの変化に応じて改善を繰り返す体制を構築することで、基盤モデルを安全かつ安定的に活用しやすくなります。

7. AI活用を支えるデジタル基盤整備を支援する、TISIの「デジタル基盤オファリングサービス」

既存の基盤モデルや生成AIを企業で活用するには、利用する基盤モデルを選定するだけでなく、データ連携、セキュリティ、運用、コスト管理を含めたシステム基盤を整える必要があります。こうした基盤整備を進めるうえで、選択肢の一つとなるのがTISIの「デジタル基盤オファリングサービス」です。

同サービスでは、「インフラ基盤」「サービス基盤」「サービスアーキテクチャコンサルティング」を組み合わせ、企業の目的や業務特性に応じた基盤整備を支援します。基盤モデルを業務で使う際に必要となるクラウド基盤やAPI連携、セキュリティ、運用設計を目的に応じて整備しやすい点が特徴です。

また、金融決済基盤「PAYCIERGE」を支えてきた長年の運用知見を活かし、高い可用性やセキュリティ要件に配慮したインフラ基盤を提供しています。
加えて、24時間365日のシステム運用・セキュリティ運用にも対応しており、継続的な運用負荷の軽減を支援します。

さらに、TISIの「デジタル基盤オファリングサービス」では、AI活用に必要な基盤を目的に応じて選択することが可能です。

• 高セキュリティクラウド基盤サービス
  ハイブリッドクラウド環境を安全に構築・運用できる
• 高セキュリティAPI基盤サービス
  基盤モデルと社内システムを安全に接続できる
• NonStop Server基盤サービス
  ミッションクリティカルな業務を支えるインフラと運用サービスを利用できる

同サービスは、既存の基盤モデルを業務で利用するためのシステム基盤を整え、安全かつ安定したAI活用を支援する選択肢の一つとなります。

8. まとめ

AIにおける基盤モデルとは、大量かつ多様なデータで事前学習され、文章生成や要約、検索、分類、画像認識など、幅広いタスクに応用できる汎用的なAIモデルです。企業では、文書作成や社内ナレッジ検索、問い合わせ対応、画像・音声データの活用など、さまざまな業務で導入が進んでいます。

近年では、RAGによる社内データの参照や、AIエージェントによる業務プロセスの自動化など、基盤モデルを外部データや業務システムと連携させる活用も広がっています。一方で、安全かつ効果的に活用するには、出力品質の確保やセキュリティ対策、権限管理、コスト管理、継続的な評価・改善などを含めた運用体制の整備が欠かせません。

基盤モデルの価値を最大限に引き出すには、AIモデルそのものだけでなく、それを支えるデータやシステム、運用を含めたデジタル基盤を整備することが重要です。自社の業務や目的に応じた基盤を構築し、継続的に改善していくことで、AIを業務価値の創出につなげられるでしょう。

今後は、単なる生成AIの活用から、業務プロセスに組み込まれたAIや、AIエージェントによる自律的な実行へと進んでいくと考えられます。

企業はモデル選定にとどまらず、データ連携・権限管理・運用設計を含めた全体最適の観点で、基盤モデル活用を捉えることが求められます。

関連サービス