オンプレミスAIのマネージドサービス開始：自社のモデルを、自社の建物で

新しいサービスを立ち上げました。ia.urbanodx.com、オンプレミスAIのマネージドサービスです。オープンモデルを貴社のデータでファインチューニングし、貴社の建物の中に置かれたハードウェアで稼働させ、運用は当社が担います。社内にAI部門を新設する必要はありません。

サイトがスペイン語なのは、最初の市場が規制業種のスペイン中小企業だからです。この記事では、その考え方自体を紹介します。議論そのものに国境はないからです。

知能を「借りる」か「所有する」か

今日、多くの企業は知能を借りています。業務のAI機能はすべて従量課金のAPIを経由し、使用量は毎月増え、トークン単価は他人が決めます。この構図には3つの構造的な問題があります。

請求額は上がる一方。 API支出は一方向にしか動かない曲線です。決して自社のものにならない能力に対して、上がり続ける家賃を払い続けることになります。

データが社外で働いている。 外部APIへの問い合わせは、そのたびに業務情報を第三者のサーバーへ送ります。銀行、医療、法務、製造業にとって、これはベンダー契約のどんな条項でも消しきれないリスクです。

規制は逆方向を向いている。 GDPRとEU AI Actは同じ方向を指しています。データが組織の外に出なければ出ないほど、説明責任は軽くなります。モデルが自社の建物の中にあれば、「私たちのデータはどこにあるのか」という問いに一文で答えられます。

所有はこの3つをすべて裏返します。ハードウェアはオフィスにある固定資産になり、1回の問い合わせの限界費用は電気代になり、会社が知っていることは何ひとつドアの外に出ません。

これが研究プロジェクトではなく実務的な選択肢になったのは、自社データでファインチューニングしたオープンモデルが、具体的で範囲の明確な業務タスクにおいて、有料APIと肩を並べるようになったからです。ファインチューニングが効くのは「振る舞い」であって「事実」ではなく、事実は自社ドキュメントからの検索で供給する。この役割分担は RAGとファインチューニングの使い分けで解説しています。

サービスの中身

3つのフェーズがあり、3つ目は自動的に繰り返されます。

1. 評価と導入。 どのタスクに、どのデータで、現在APIにいくら使っているかを計測します。数字が成り立つ場合のみ、貴社のオフィスに機器を設置し、初回のファインチューニングを現地で行います。データはドアの外に出ません。
2. マネージド運用。 監視、更新、サポート、キャパシティ管理まで当社がシステムを運用します。貴社のチームにとっては、業務を理解していてトークン課金のないAIがそこにある、というだけです。
3. 定期的な再学習。 ビジネスが変われば、モデルも変わるべきです。半年ごとに新しいデータで再学習します。原則としてリモートで、可能な限り貴社自身のハードウェア上で行います。

ハードウェアは同一スタックで動く4つのサイズがあります。Starter(NVIDIA DGX Spark 2台のペア、デスクサイズ、従業員100名規模まで)、Pro(4台クラスター)、Business(NVIDIA DGX Station GB300タワー)、Enterprise(専用ルーム設計込みのNVIDIA HGX B300 NVL8)。ソフトウェア層が同一なので、成長とは鉄を替えることであって、プロジェクトをやり直すことではありません。

そのソフトウェア層こそ当社がこだわる部分です。タスクごとに選定するLlama、Qwen、Mistral、DeepSeekファミリーのオープンモデル、自社データによるファインチューニング、出典を引用する社内ドキュメントRAG、ユーザー・ロール・監査ログ、定期的な品質評価付きの利用状況パネル、そしてOpenAI互換APIを提供するvLLM推論サーバー。ほとんどのツールにとって、移行作業はURLとキーの差し替えだけです。応答がクラウドからではなく、自社のサーバールームから返ってくるようになります。

価格を公開しない、という設計

サービスページには機器、ハードウェア、ソフトウェアが載っていて、価格はありません。すべての提案は、貴社の実際のケースと現在のAPI支出に基づいて算出し、開始前に書面でお渡しします。

評価が「借り続けるべき」という結論になることもあります。API支出が一定水準を下回るなら、ハードウェアを買うビジネスケースは成立しません。それが正直な答えである場合は、そのままお伝えした上で、より小さな提案をします。サイジングレポート、ロードマップ、あるいは現在のAPI請求額の削減です。悪いプロジェクトを売るくらいなら、案件を失うほうを選びます。

自分で計算してみる

AIマシンのサイジングは魔法ではなく算数です。パラメータあたりのバイト数、オーバーヘッドの余裕、同時ユーザー数。この計算全体をインタラクティブな VRAM計算機として公開し、企業に本当に必要なGPUを平易な言葉で解説するガイドも用意しました。どちらもスペイン語ですが、数字は万国共通です。

誰のためのサービスか

まずはスペインの中小企業、その中でも、データが建物の外に出ることが経営会議の議題になる業種です。銀行、医療、法務、製造業。「借りるか、所有するか」という問いが貴社にも当てはまるなら、お問い合わせください。評価の対話は、どの言語でも同じように始められます。