self-hosted

自前のサーバーで動かす。自社運用の

1本の論文題名に登場

定義

外部のAPIサービスに依存せず、自社や自分の管理する計算機上でモデルやソフトウェアを動かす運用形態のこと。データを外部に出さずに済み、費用が利用量ではなく設備に依存し、モデルの版を固定できるのが利点で、代わりに GPU の調達・推論基盤の運用・更新の責任を自前で負う。オープンウェイトのモデルが選ばれる主な理由のひとつ。

論文題名での読み方

APIでなく手元で運用

この語が出てくる解説

論文解説: 本番トラフィックから事後学習へ — 社内200アプリを1つの自前LLMに寄せるFrom Production Traffic to Post-Training: Building a Self-Hosted LLM That Covers the Corporate Request Mix