エンドポイントの管理

推論にOCI生成AIカスタム・モデルを使用するには、まずそのモデルのエンドポイントを作成する必要があります。また、プレイグラウンドで使用可能な事前トレーニング済モデルのエンドポイントを作成することもできます。

エンドポイントは、モデルがユーザー・リクエストを受け入れ、モデルの生成されたテキストなどのレスポンスを送信できる専用AIクラスタ上の指定されたポイントです。ホスティング専用AIクラスタにエンドポイントを作成します。

プライベート・エンドポイントを介してモデルにアクセスするには、まずプライベート・エンドポイントを作成してから、このページに戻って専用AIクラスタにモデルのエンドポイントを作成する必要があります。