製造業向け｜Qwenを活用したプライベートAI導入例

本件は、精密部品加工を行う企業様から、「品質管理手順書、加工条件表、設備点検基準などを横断して調べる作業を効率化したい」というご相談をいただいたことがきっかけです。紙や共有フォルダに保管された文書は、必要な情報を知っている担当者でなければ探しにくく、現場から「この材質の加工条件はどの資料にあるか」「異常時の一次対応は何を確認すべきか」と問い合わせがあるたびに、品質管理担当者が原文を探して案内していました。

一方で、顧客情報、加工ノウハウ、品質文書を外部の生成AIサービスへ送信することには社内規程上の懸念がありました。クラウドAI APIを使わず、お客様が管理する環境の中で文書を検索し、根拠を示しながら回答できる仕組みを求められていました。

本案件では、お客様所有のGPUワークステーション上に、量子化済みのQwen3-8B系モデルを導入し、ローカル推論サーバーと社内文書検索（RAG）を構成することをご提案しました。社内LANから利用するブラウザ型のチャット画面で質問すると、登録済みの手順書や品質文書を検索し、参照した文書名・版・ページを示しながら回答する仕組みです。

通常運用中は、質問文、回答、文書本文、検索用の埋め込みデータを外部AI APIへ送信しない構成とします。モデルや依存パッケージの初回取得・更新が必要な場合は、管理者の承認、ファイアウォールの一時許可、取得内容の記録といった運用を前提にします。「完全に何も通信しない」と一律に表現するのではなく、日常の質問応答をローカルに閉じ、更新時の通信を管理する現実的な構成です。

約4週間・税別62万円での導入を成立させるため、初期範囲は、GPUワークステーション1台、テキスト抽出可能なPDF・Word最大30ファイル・約500ページ、利用者アカウント最大25名を想定しています。単一GPUでの同時生成は2〜3件程度を目安とし、25名同時利用、応答時間のSLA、24時間365日の監視・冗長化、既存文書管理システムとの自動同期は初期範囲に含めていません。

技術構成の工夫

初期範囲に含めないもの

スキャンPDFのOCR、図面・画像内文字・複雑な表の高精度な読み取り、パスワード付きファイルの復旧、文書ごとの細かな権限連携、Active DirectoryやSSOとの連携、既存文書管理システムとの自動同期、モデルのファインチューニング、外部Web検索、モバイルアプリ、オンサイト作業は初期範囲に含めていません。

また、AIの回答は正式な手順・品質判断・承認記録の代替ではありません。根拠文書を表示し、文書内で確認できない内容はその旨を回答するように設定したうえで、最終的な判断は原文と担当者の確認を前提とします。

納品物は、顧客所有GPUワークステーション上のQwenローカル推論環境、社内文書検索チャット、導入・運用手順書、構成・テスト結果一覧です。初期投入対象は、テキスト抽出可能なPDF・Word最大30ファイル・約500ページとしました。

利用者ごとの主な操作

システムで扱う主なデータ

実装する主な機能

• Qwenによる社内チャット：社内LAN内のブラウザから質問し、ローカル環境で回答を生成する機能。
• 文書検索と根拠表示：登録済み文書から関連箇所を検索し、回答と合わせて文書名・版・ページを示す機能。
• 初回文書投入と管理者向け更新手順：対象文書を検索用データとして登録し、改訂文書を管理者が更新するための手順。
• 基本認証と利用範囲の制限：社内LANからの利用を前提に、簡易認証とネットワーク制御を行う構成。

本案件は、対象GPUワークステーションへの管理者アクセス、機器仕様、社内ネットワーク方針、初期対象文書、代表質問をご提供いただくことを前提に、約4週間で進行しました。最初に機器とネットワークの適合を確認し、文書の初回投入範囲と受入基準を固定することで、後工程での手戻りを抑えています。

お支払い条件について

原則として、着手金などはいただいておりません。ご契約時の前払いはなく、すべての開発作業が完了し、クライアント様による検収が完了した後に全額をご請求しました。

以下の金額には、Qwen系モデルを用いたローカル推論基盤、初期文書検索、社内チャットUI、受入テスト、導入支援までが含まれています。GPUワークステーションやOS・商用ソフトウェア・証明書などの購入、ハードウェア増設、オンサイト作業、継続保守、外部AI API利用料は含まれていません。

ご利用開始後の月額費用の目安（補足）

標準構成では、外部AI APIやクラウドLLMの従量課金を利用しません。社内の既存ネットワークとお客様所有のGPUワークステーションを利用する前提では、第三者クラウドサービスの月額費用は原則として発生しません。ただし、電気代、ハードウェア保守・更新、任意のバックアップや監視サービス、必要に応じた保守支援は別途必要となります。

プライベートAI・ローカルLLM導入では、「クラウドAIを使わないこと」だけを目的にするのではなく、どの文書を対象にし、誰がどの環境で使い、何を根拠として回答させるかを最初に決めることが重要です。今回はQwen3-8B系の量子化済みモデルを、お客様所有のGPUワークステーション上で動かし、初期範囲を社内文書の検索支援に限定しました。モデル自体を追加学習するのではなく、RAGで登録済み文書を参照させる構成にしたため、約4週間・税別62万円で導入できる規模に整理できました。

また、外部AI APIへ業務データを送信しない構成であっても、利用者がAIの回答をそのまま正式な手順や品質判断として扱わない運用が大切です。回答とともに根拠文書・版・ページを示し、確認できない場合には「文書内で確認できない」と回答することで、文書を探す時間を減らしつつ、最終確認は原文と担当者が行う形にしました。

Qwen等を使ったプライベートAI・ローカルLLMの導入は、既存の社内PC・サーバーを活用できる場合があります。詳しくはプライベートAI・ローカルLLM導入をご覧ください。CPU・GPU・メモリ、文書の状態、ネットワーク方針、必要な応答速度に応じて、モデルや構成は個別に選定します。

よくある追加開発の目安

運用が定着し、スキャンPDF・図面・画像内文字も検索対象に含めたい場合は、OCR処理と文書整形、精度検証を追加する必要があります。この場合、対象資料の状態によって、税別30万〜60万円、約4〜6週間程度の追加開発となるケースがあります。

また、Active DirectoryやSSOとの連携、文書単位の閲覧権限、詳細な監査ログを追加する場合は、既存の認証・文書管理環境の確認が必要です。一般的には、税別40万〜80万円、約4〜8週間程度の追加開発を想定します。

まずは、テキスト抽出可能な重要文書に対象を絞り、根拠を示す社内検索から始めることで、機密性への配慮と利用価値の両立を目指せます。利用状況を確認しながら、OCR、権限連携、文書同期、より大きなモデルや複数GPU構成へ段階的に拡張していくことが可能です。