LangChain 無料で社内RAGを構築 中小企業が自社データでAI回答を作る手順

社内マニュアルや議事録を ChatGPT に貼り付けて、回答に使いたいと考える経営者は少なくありません。RAG（外部知識を参照する AI の仕組み）なら、AI に再学習させず、自社データを検索して回答を作れます。この記事では、LangChain を使う方法を、費用、手順、必要なスキル、注意点まで中小企業向けに整理します。

📌 この記事のポイント

• RAG の仕組み：AI に再学習させず、自社データを参照して回答させます
• LangChain の無料範囲：本体は無料ですが、LangSmith と API 利用料は別です
• 導入手順：環境構築から動作確認まで、5 ステップで説明します
• セキュリティ：外部 API に送信するデータ範囲を確認します
• 失敗の回避策：検索精度の低下や API キー漏洩を防ぎます
• 費用の目安：小規模利用では月 ¥1,000〜¥3,000 程度が目安です

1. RAG とは何か：自社データで AI 回答を作る仕組み

RAG（Retrieval-Augmented Generation）は、日本語で「検索拡張生成」と呼ばれます。AI が回答する前に、自社の文書データから関連情報を検索し、その内容を踏まえて回答を作る仕組みです。

ChatGPT と何が違うのか

ChatGPT などの一般的な AI チャットサービスは、幅広いデータを基に作られた汎用モデルです。そのため、自社の社内規定や商品知識など、公開されていない情報には詳しくありません。

RAG では、次の流れで回答します。

この仕組みにより、AI が自社の事情を踏まえて回答しやすくなります。

中小企業にとってのメリット

RAG を中小企業で使う主なメリットは、次の 3 つです。

• 情報漏洩リスクを管理しやすい：AI に再学習させず、必要な情報だけを参照させます
• 社内知識を共有できる：担当者に属するノウハウを、検索できる形にします
• ソフトウェア費用を抑えられる：LangChain 本体は無料で利用できます

次のセクションでは、LangChain の無料範囲と、別サービスの費用を確認します。

2. LangChain とは：無料で始める理由

LangChain は、AI アプリケーションを開発するためのオープンソースのフレームワークです。フレームワークとは、開発に必要な部品をまとめた土台を指します。

LangChain の本体は、MIT ライセンスで提供されています。商用利用も可能ですが、利用条件は導入前に公式情報で確認してください。

LangChain の主な機能

無料版と LangSmith の違い

LangChain 本体とは別に、開発と運用を支援する LangSmith があります。LangSmith には無料枠がありますが、利用量や契約内容によって料金が発生する有料サービスです。最新料金は LangSmith 公式料金ページ で確認してください。

他の RAG 構築ツールとの比較

RAG を構築する方法は LangChain だけではありません。代表的な選択肢を比較します。

次のセクションでは、LangChain で試作する具体的な手順を説明します。

3. 導入ステップ：環境構築から動作確認まで

ここでは、Python の経験が浅い担当者でも確認しやすいよう、基本的な手順を紹介します。実際の社内導入では、機密情報を扱う前に検証用の文書で試してください。

必要なもの

準備するものは次の 3 つです。

• Python 環境：Python が動く Windows または Mac
• OpenAI API キー：AI モデルを呼び出すためのキー
• 社内文書：マニュアル、議事録、商品情報など

ステップ 1：環境構築

Python の公式サイトから安定版をダウンロードします。Windows では、インストール時に「Add Python to PATH」を選択してください。

インストール後、ターミナルまたはコマンドプロンプトで次を実行します。

# Python のバージョン確認
python --version

# 作業用ディレクトリの作成
mkdir rag-project
cd rag-project

# 仮想環境の作成
python -m venv venv

# 仮想環境の有効化（Mac / Linux）
source venv/bin/activate

# 仮想環境の有効化（Windows）
venv\Scripts\activate

仮想環境を使うと、プロジェクトごとにライブラリを分けて管理できます。別の開発環境との競合を避けるため、利用をおすすめします。

ステップ 2：LangChain のインストールと設定

次のコマンドで、LangChain と関連ライブラリをインストールします。

pip install langchain langchain-openai langchain-community
pip install chromadb pypdf tiktoken

次に、OpenAI API キーを環境変数として設定します。

# 環境変数の設定（Mac / Linux）
export OPENAI_API_KEY="sk-あなたのAPIキー"

# 環境変数の設定（Windows PowerShell）
$env:OPENAI_API_KEY="sk-あなたのAPIキー"

ステップ 3：社内文書の読み込みと分割

まず、文書を読み込み、検索しやすい大きさに分割します。

from langchain_community.document_loaders import PyPDFLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter

# PDF ファイルの読み込み
loader = PyPDFLoader("社内マニュアル.pdf")
documents = loader.load()

# 文書を 500 文字ずつに分割
text_splitter = RecursiveCharacterTextSplitter(
    chunk_size=500,
    chunk_overlap=50,
    separators=["\n\n", "\n", "。", " ", ""]
)
chunks = text_splitter.split_documents(documents)

print(f"分割された文書数: {len(chunks)}")

分割サイズは文書の種類によって調整します。

ステップ 4：ベクトルデータベースへの保存

分割した文書を、ベクトルデータベースの Chroma に保存します。ベクトルデータベースは、文書の意味を数値化し、近い内容を検索できるようにする仕組みです。

from langchain_openai import OpenAIEmbeddings
from langchain_community.vectorstores import Chroma

# 文書をベクトル化して Chroma に保存
embeddings = OpenAIEmbeddings(model="text-embedding-3-small")
vectorstore = Chroma.from_documents(
    documents=chunks,
    embedding=embeddings,
    persist_directory="./chroma_db"
)

print("ベクトルデータベースに保存しました")

文書は、そのままではなく意味を数値化した状態で保存されます。質問と意味が近い文書を探しやすくなる点が特徴です。

ステップ 5：質問応答のテスト

最後に、構築した RAG に質問をして確認します。

from langchain_openai import ChatOpenAI
from langchain.chains import RetrievalQA

# 検索機能の準備
retriever = vectorstore.as_retriever(search_kwargs={"k": 3})

# AI モデルの準備
llm = ChatOpenAI(model="gpt-4o-mini", temperature=0)

# RAG の構築
qa_chain = RetrievalQA.from_chain_type(
    llm=llm,
    chain_type="stuff",
    retriever=retriever
)

# 質問をしてみる
質問 = "新入社員の研修手順を教えてください"
回答 = qa_chain.invoke({"query": 質問})
print(回答["result"])

次のセクションでは、経営者が確認すべきデータ管理と運用体制を説明します。

4. 経営者が知っておくべきセキュリティと運用

RAG の導入では、便利さだけでなくデータの扱いを確認する必要があります。技術的な設定を担当者に任せる場合でも、経営者は送信範囲と管理責任を把握しましょう。

外部 API に送信するデータの範囲

RAG では、ユーザーの質問と検索された文書の一部が、OpenAI などの外部サービスへ送信されます。

OpenAI は API で送信されたデータを、原則としてモデルの学習に使用しない方針を示しています。契約やサービス仕様は変更される可能性があるため、利用前に OpenAI API データ利用ポリシー を確認してください。

機密性の高い情報を扱う場合は、次の対策を検討します。

• 文書を選別する：最初は公開可能または社内限定の文書に絞る
• 社内で完結する方法を検討する：利用条件を確認したうえで、社内環境で動くモデルを比較する
• 匿名化する：個人情報や契約情報を置き換えてから利用する

文書の機密レベルを分ける

どの文書を登録するか、導入前に社内ルールを決めておきます。

運用担当者と更新日を決める

RAG は構築して終わりではありません。次の管理が必要です。

• 文書を更新する：マニュアルの改訂時に登録データも更新する
• ライブラリを確認する：LangChain などの更新内容を確認する
• 回答を点検する：誤回答やエラーを定期的に確認する

次のセクションでは、導入時に起きやすい問題と対策を見ていきます。

5. よくある失敗パターンと回避策

中小企業が RAG を導入するときは、対象範囲を広げすぎないことが重要です。代表的な 3 つの失敗と対策を紹介します。

失敗パターン 1：全社文書を最初から登録する

原因：関連性の低い文書が多いと、検索結果に不要な情報が混ざります。

回避策：

• 対象業務を絞る：最初は 1 部署または 1 業務に限定する
• 文書を整える：目次や重複したヘッダーなどを削除する
• 分割サイズを調整する：文書の種類に合わせて試す

失敗パターン 2：API キーを共有する

原因：コードへの直書きや共有により、API キーが漏れる可能性があります。

回避策：

• 環境変数で管理する：キーをソースコードから分離する
• 閲覧権限を制限する：必要な担当者だけが扱う
• キーを再発行する：漏洩が疑われる場合はすぐに無効化する

失敗パターン 3：専門人材がいないまま始める

原因：構築後の保守やデータ管理まで考えず、試作だけで止まるケースがあります。

回避策：

• 画面操作型のツールを比較する：Dify や Flowise なども候補にする
• サービス提供企業へ委託する：初期費用は ¥500,000〜¥1,000,000 程度と編集部が推定しています
• 段階的に進める：1 業務で効果を確認してから対象を広げる

次のセクションでは、導入前に確認したい質問に答えます。

6. よくある質問（FAQ）

Q1：無料で使えますか？

回答：LangChain 本体は無料です。ただし、AI モデルを呼び出す OpenAI API などの料金は別にかかります。小規模な社内 RAG では、月 ¥1,000〜¥3,000 程度を編集部が推定しています。料金は変動するため、導入前に公式料金を確認してください。

LangChain の本体以外に、LangSmith の利用料やサーバー費用が発生する場合もあります。Google の AI API や社内環境で動くモデルを使う方法もありますが、性能、管理負担、必要な機器を比較しましょう。

Q2：プログラミング経験がなくても導入できますか？

回答：LangChain を自社で構築するには、Python の基礎知識が必要です。次の方法なら、経営者がコードを書かずに導入を進められます。

• 画面操作型のツールを使う：Dify や Flowise などを比較する
• 外部へ委託する：要件整理、構築、保守の範囲を契約前に確認する
• 担当者を育成する：まず検証用の文書で小規模に試す

Q3：どの AI モデルを選べばよいですか？

回答：予算、回答品質、情報管理の条件で選びます。モデル名や料金は更新されるため、下表は選定の観点として利用し、導入時には各公式サイトで最新情報を確認してください。

Q4：導入にどのくらいかかりますか？

回答：技術担当者がいる場合、環境構築から動作確認までは 1〜2 日が目安です。文書整理と前処理に 1〜2 週間、精度確認に 1〜2 週間かかる場合があります。

そのため、実用化まで最短 2〜3 週間程度と編集部は推定しています。文書量、承認手続き、アクセス権限の設計によって期間は変わります。

Q5：既存の社内システムと連携できますか？

回答：技術上は可能です。Slack、Notion、Google Drive などと連携する方法があります。ただし、連携には追加の開発や権限設定が必要です。

まずは 1 つの文書群で基本機能を確認し、運用ルールを決めてから連携範囲を広げると、問題を切り分けやすくなります。

まとめ：中小企業は小さく RAG を試す

LangChain を使えば、ソフトウェア本体の費用を抑えて社内 RAG を試せます。ただし、API 利用料、設定作業、文書管理、保守の費用は別に考える必要があります。

• RAG は文書を検索して回答に使う：AI の再学習とは異なります
• LangChain 本体は無料：LangSmith、API、サーバーなどは別途確認します
• 費用を見積もる：小規模利用は月 ¥1,000〜¥3,000 程度を編集部が推定しています
• 導入期間を確保する：実用化まで最短 2〜3 週間程度が目安です
• 送信データを管理する：機密情報は登録前に扱いを決めます
• 1 業務から始める：回答精度と運用負担を確認してから広げます

出典・参考情報

• LangChain 公式ドキュメント
• LangChain 公式サイト
• LangSmith 公式料金ページ
• OpenAI API 料金ページ
• OpenAI API データ利用ポリシー

料金プラン

👍 メリット

• オープンソースで無料利用が可能
• 自社データを基にした回答生成ができる
• 主要なLLM（GPT-4、Claude など）と連携可能
• コミュニティ・ドキュメントが充実

👎 デメリット

• 導入にはPythonの基礎知識が必要
• セキュリティ設定は自社で行う必要がある
• 大規模なシステムには専門人材が求められる