Run in Apifox
チャットモデルは一連のメッセージを入力として受け取り、モデルが生成したメッセージを出力として返します。チャット形式は複数回のやり取りを容易にするために設計されていますが、会話のない単一のタスクにも同様に有用です。 Request
管理画面の「API KEYS」で生成されたAPIキーをBearerの後ろに記入します。例えば、Bearer sk-xxxx のように設定します。
Example: Bearer {{YOUR_API_KEY}}
Body Params application/json
messages
array [object {2}]
required サンプリング温度は0から2の間で使用します。値が高いほど(例えば0.8)出力はよりランダムになり、値が低いほど(例えば0.2)出力はより集中的で確定的になります。通常、この値またはtop_p
のどちらかを変更することをお勧めしますが、両方を変更することはお勧めしません。
温度サンプリングの代替手段として、核サンプリングと呼ばれる方法があります。この方法では、モデルは top_p の確率質量を持つトークンの結果を考慮します。したがって、0.1 は、上位 10% の確率質量を構成するトークンのみが考慮されることを意味します。通常、この値または temperature
のどちらかを変更することをお勧めしますが、両方を変更することはお勧めしません。
各入力メッセージに対して生成するチャット完了候補の数。
設定されている場合、ChatGPTのように、部分的なメッセージの差分が送信されます。トークンは、利用可能になると、データのみのサーバー送信イベント data: [DONE]
送信,ストリームはメッセージで終了します。サンプルコード ,参照してください OpenAI Cookbook 。 チャット完了時に生成される最大トークン数。入力トークンと生成トークンの合計長は、モデルのコンテキスト長の制限を受けます。
指定されたトークンが生成結果に出現する可能性を変更します。JSON オブジェクトを受け取り、そのオブジェクトはトークン(トークナイザー内のトークン ID で指定)を -100 から 100 の範囲のバイアス値にマッピングします。数学的には、このバイアスはサンプリングの前にモデルが生成したロジットに加えられます。具体的な効果はモデルによって異なりますが、-1 と 1 の間の値は選択される可能性をそれぞれ減少または増加させます。一方、-100 や 100 のような値は、関連するトークンを厳密に禁止または強制的に選択させる結果をもたらします。
最終ユーザーを一意に識別するための識別子であり、OpenAI が潜在的な悪用行為を監視および検出するのに役立ちます。詳細はこちら 。
{
"model" : "gpt-4o" ,
"messages" : [ { "role" : "user" , "content" : "Hello!" } ] ,
"stream" : true
}
Request samples curl --location --request POST 'https://api.302.ai/v1/chat/completions' \
--header 'Accept: application/json' \
--header 'Authorization: Bearer sk-mfYQzy0XTFfz4P16vRE4gFrKK1Nly4TozsMqbbb9PSiJUvFO' \
--header 'Content-Type: application/json' \
--data-raw '{
"model": "gpt-4o",
"messages": [{"role": "user", "content": "Hello!"}],
"stream":true
}'
Responses application/json Generate Code
choices
array [object {3}]
required
{
"id" : "chatcmpl-123" ,
"object" : "chat.completion" ,
"created" : 1677652288 ,
"choices" : [
{
"index" : 0 ,
"message" : {
"role" : "assistant" ,
"content" : "\n\nHello there, how may I assist you today?"
} ,
"finish_reason" : "stop"
}
] ,
"usage" : {
"prompt_tokens" : 9 ,
"completion_tokens" : 12 ,
"total_tokens" : 21
}
}
Modified at 2024-12-10 06:35:56