Azure OpenAI Studioでのファインチューニングモデルのホスティング費用

Question

Azure AI Studioで、gpt-3.5ファインチューニングのサービスを受けたいです。以下の2つの質問があります：

(1)現在のリージョン「東日本」ではファインチューニングのサービスが提供されていないとお聞きしました。リージョン「米国中北部」に変更することは可能でしょうか？またはコストはかかりますか？

(2)料金計算ツールを確認したところ、gpt-3.5ファインチューニングしたモデルをホスティングするのに1時間当たり$3.00かかるとありました。これはモデルをディプロイし続けるだけで発生する費用という認識でよろしいでしょうか？また、ディプロイするのが1つのモデルでも、複数のモデルでも、費用は変わりませんか？

Answer 1

(1) リージョン変更

リージョン「米国中北部」に変更することは可能でしょうか？

Azure OpenAI Serviceインスタンスを米国中北部（North Central US）に作成し、Fine tuning可能なgpt-35-turboモデルをデプロイすることで利用できます。

https://learn.microsoft.com/ja-jp/azure/ai-services/openai/concepts/models#fine-tuning-models

コストはかかりますか？

ここで仰有るコストが何をさしてらっしゃるのかわかりかねますが、価格は価格ページの”微調整モデル”にある通り、以下の要素で課金が発生します。あと、東日本リージョンの場合でも同じですが、通信費用（Outbound）が加算されます。

• コンピューティング時間あたりのトレーニング
• 1 時間あたりのホスティング
• 1,000 トークンあたりの入力使用量
• 1,000 トークンあたりの出力使用量

https://azure.microsoft.com/ja-jp/pricing/details/cognitive-services/openai-service/

(2) 料金について

モデルをディプロイし続けるだけで発生する費用

料金計算ツールの通りで、モデルをデプロイしている時間に対して課金されます。

ディプロイするのが1つのモデルでも、複数のモデルでも、費用は変わりませんか？

仰有っているモデルが何を指すのかわかりかねますが、gpt-35-turboを指している場合、以下の3バージョンで単価に違いはありません。

• gpt-35-turbo (0613)
• gpt-35-turbo (1106)
• gpt-35-turbo (0125)

もしモデルの各バージョンをデプロイされる場合、デプロイした各バージョンごとにホスティングの費用が発生します。