ステップ3:【実践編】日本語特化OCRモデルの追加とマルチモデル連携
5.日本語特化OCRサーバー(Sarashina2.2-OCR)の追加起動
DGX Spark の 128GB ユニファイドメモリのうちまだ空いている約 80GB の領域を活用し、日本語の請求書や帳票の読み取りに特化した文字認識(OCR)AI sbintuitions/sarashina2.2-ocr をポート 8001 に追加で立ち上げます。
-
なぜ「2つのAIを分業」させるのか
1つの汎用AIだけでも文章作成やある程度の画像認識はこなせます。しかし、日本のビジネス文書(細かい表組みのある請求書、領収書、スキャンされたPDFなど)を実務レベルで正確に処理するには、「司令塔となる対話・推論AI」と「日本語の文字読み取りに特化したOCR AI」を役割分担させるのが最も効果的です
ポート 8000(Qwen3.6-35B-A3B-NVFP4): ユーザーの指示を理解し、書類読み取りツールを呼び出し、抽出された数字の検算や要約を行う「頭脳」
ポート 8001(Sarashina2.2-OCR): 日本語のレイアウトや表構造を崩さず正確にテキスト化する「視覚・OCR専門」 -
日本語特化OCRサーバー(ポート 8001)の起動
まず、Sarashina2.2-OCR のモデルファイルをローカルキャッシュへ事前ダウンロードします(約 7〜8GB)。すでにダウンロード済みの NVIDIA 公式コンテナイメージをそのまま利用できるため、追加の環境構築は不要です
次に、OpenAI 互換の API サーバーとしてポート 8001 でコンテナを起動します。 -
モデル同時稼働とメモリ使用量の確認
コンテナ起動後、ポート 8001 の API が応答すること、および 2つの AI が GPU メモリ上で同時に稼働していることを確認します
>curl -s http://127.0.0.1:8001/v1/models
6.通信許可設定とOCRスキルの連携・実演デモ
第5回で立ち上げた日本語特化OCRサーバー(ポート 8001)を、隔離環境の中で動く NemoClaw エージェントから自律的に呼び出せるように連携させます
-
隔離環境からの通信許可設定(OpenShell ポリシー更新)
NemoClaw の隔離環境(Sandbox)は、初期状態では外部への通信だけでなく、ホスト側の新しいポートへの通信もすべて遮断するゼロトラスト設計になっています
そのため、ゲートウェイのネットワークポリシーを更新し、「隔離環境内の Python や curl から、ホストのポート 8001(OCRサーバー)への通信だけは許可する」というルールを追加します -
カスタムスキル(sarashina-ocr)の配置
次に、AIエージェントに対して「ユーザーから画像やPDFを渡されたら、自分でこの OCR ツールを実行して文字を読み取りなさい」と教えるためのカスタムスキルを隔離環境内へ配置します -
実演デモ:請求書・PDFをドラッグ&ドロップして自動集計する
すべての構築が完了しました!手元のパソコンのブラウザで操作画面([http://127.0.0.1:18789/](http://127.0.0.1:18789/))を開き、日本語の請求書や領収書の画像(または PDF)をチャット欄にドラッグ&ドロップして、次のように話しかけてみます
「添付した請求書の内容を読み取り、発行元・発行日・明細の品目と金額を表形式でまとめ、合計金額が合っているか検算してください。」
送信すると、裏側では以下のマルチモデル連携が全自動で実行されます
7.おわりに
全6回にわたり、NVIDIA DGX Spark と NemoClaw を用いた「完全閉域・マルチモデルAIエージェント環境」の構築手順をご紹介しました。
記事ではさらっと手順を書きましたが、実際には途中でエラーが発生したり、思うように動かなかったりと試行錯誤の連続でした。その都度、生成AIとやり取りしながら原因を一つずつ解決し、なんとか形にすることができました。
しかし、一度動く環境を構築してしまえば、社外秘の書類や顧客データを 1 ビットも外部へ送信することなく、複数の専門 AI を連携させて実務を自動化できる環境は、セキュリティ要件の厳しい企業における安全な生成AI活用の強力な選択肢になります。
