冒頭の画像・動画は、ひとつの受付に複数の処理先候補があることを表した生成イメージです。実際の画面や通信記録ではなく、送信の回数や順番も示しません。
小さな社内ツールからHugging Faceの言語モデルを呼び、問い合わせの件名にラベルを付ける。更新後も同じ呼び出しで返事が来たら、移行は終わりだろうか。今回、確かめるべきことは応答の向こう側にある。どの会社が処理したか、誰に請求が来るか、最初の会社が失敗したときにどこへ回るかだ。
Hugging Faceの11月16日の発表によると、複数社が運用するAIを共通の窓口から呼べる「Inference Providers」で、言語モデルの振り分けをOpenRouterに切り替えた。Hugging Faceのトークンで利用してきた呼び出し方は引き続き使える。変わるのはその先だ。おまかせで呼ぶと、OpenRouterが価格、速度、信頼性を見て提供元を選び、失敗時には同じモデルを扱う別の提供元を試す。一方、これまでHugging Faceに登録していた外部提供元のAPIキーは、言語モデルの呼び出しには使えなくなる。
指定しなければ、モデルは同じでも担当が変わる
ルーティングの公式資料に沿って、発表で例に挙がった zai-org/GLM-5.3 を担当先の指定なしで呼ぶ場面を考える。後ろに :cheapest を付ければ利用可能な提供元のうち価格を、:fastest なら1秒あたりに生成する出力トークンの多さを優先する。つまり :fastest は、最初の文字が一番早く届くという意味ではない。処理先をNovitaに限りたいなら :novita と指定する。その場合、Novitaで扱えない、または設定で無効にしていると、別の会社が代わりに処理することはない。
処理先の指定と、支払いに使う契約は別だ。提供元を名前で指定しても、以前の提供元キーに戻るわけではない。請求の公式資料では、Hugging Face経由で提供元の料金が適用され、Hugging Faceの上乗せはない。個人ではなく組織に請求する場合は、呼び出しで組織を明示する。提供元が変われば単価まで同じとは限らない。また、公開モデルのページが存在することと、Inference Providersで実行できる提供元があることは別だ。
いまのツールを変える前に、架空の1件で見る
部署で使っているなら、まず今のキーがHugging Faceのものか、提供元と直接契約したものかを見分ける。処理を任せてよい会社が決まっているなら、送る前に許可した提供元だけに絞る。その設定を確認したら、いつものモデルを使い、実在の顧客データではなく「梱包箱がつぶれていた」のような架空の問い合わせを1件だけ送る。少量でも課金され得るので、個人と組織のどちらに請求するかは試す前に決める。応答の形式を確かめたら、個人なら利用状況画面、組織なら組織側の利用状況で、モデルや提供元ごとの費用の集計を見る。この画面は集計なので、その1件を実際に処理した会社の証明には使わない。この例は移行時の確認手順で、RINKAKUが実行した結果ではない。
実データに戻す前には、利用するモデルと処理先の設定、それに入力やログの扱いを確認しておく。今回の変更はInference Providersの言語モデル向けのルートで、Hugging Faceの発表は画像・動画の提供元キーは引き続き使えるとしている。最初の一回が通ったかと、許可した相手にだけ処理を任せる設定かは、別々に確かめたい。


