オンプレミス sLLM

ChatGPTはデータが外部サーバーへ送信されますが、オンプレミスsLLMは社内ネットワーク内でのみ動作します。機密文書や顧客情報、営業データも外部流出の心配なくAIで活用できます。

はい。社内文書、業務マニュアル、規程集などをもとにファインチューニングし、企業特化型のAIを構築します。汎用モデルと比べて業務上の精度が大きく向上します。

中小企業から大企業まで、サーバー規模に合わせてモデルサイズを調整できます。まずPoC（試験導入）から始め、段階的に拡張する進め方にも対応します。

グループウェア、ERP、社内Wikiなどの既存システムとAPI経由で連携できます。AXworksプラットフォームを通じて、さまざまな業務環境に合わせた統合が可能です。

ChatGPT自体を閉域網に持ち込むわけではありません。gpt-ossのようなオープンウェイトモデルを社内サーバーに載せ、対話形式で利用する構成です。使用感は近いものの、データが外部に出ない点が異なります。

モデルサイズによって異なります。小型モデルであればGPU1枚でも運用でき、大きなモデルほど多くのメモリを必要とします。サーバー仕様に合わせてモデルサイズを調整する方式のため、まず保有ハードウェアを確認したうえで適切な構成をご提案します。

オープンウェイトモデルを使用するため、特定ベンダーに縛られません。業務の性質とサーバー仕様に合うモデルを選定し、より良いモデルが登場すれば入れ替えることもできます。

社内文書を根拠に回答する構成とし、回答には出典文書を併せて提示します。根拠が見つからない場合は「分からない」と答えるよう設定することが、業務環境ではより重要です。導入時にこの基準を一緒に定めます。

可能です。ユーザー権限に応じて参照可能な文書の範囲を分けて構成します。人事・財務文書のようにアクセスが制限された資料が他部署の質問で引用されないようにすることは、導入時の主要な設計項目です。

サーバーの準備状況と、学習に用いる文書の量・整理度合いによって異なります。まず小規模なPoCで実際の業務質問にどの程度答えられるかを確認したうえで、日程を協議する進め方を推奨しています。