チャット補完 API インターフェースは、提供されたメッセージリストに基づいて会話を構築し、モデルを介して回答を生成します。
PC または AI Pyramid デスクトップから OpenAI API を介してメッセージリストを送信し、会話を構築します。プログラムを実行する前に、以下の base_url の IP 部分をデバイスの実際の IP アドレスに変更し、デバイスに対応するモデルパッケージをインストールしてください。モデルパッケージのインストール手順については、モデルリスト のセクションを参照してください。モデルの詳細については、モデル紹介 のセクションを参照してください。
curl http://192.168.20.186:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer sk-xxxxxxxx" \
-d '{
"model": "qwen2.5-1.5B-Int4-ax650",
"messages": [
{"role": "developer", "content": "You are a helpful home assistant."},
{"role": "user", "content": "Write a one-sentence bedtime story about a unicorn."}
]
}'
from openai import OpenAI
client = OpenAI(
api_key="sk-",
base_url="http://192.168.20.186:8000/v1"
)
completion = client.chat.completions.create(
model="qwen2.5-0.5B-p256-ax630c",
messages=[
{"role": "developer", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello!"}
]
)
print(completion.choices[0].message) | パラメータ名 | 型 | 必須 | 例 | 説明 |
|---|---|---|---|---|
| messages | array | はい | [{"role": "user", "content": "こんにちは"}] | 会話履歴。複数のメッセージで構成され、テキスト、画像、音声などのモダリティをサポートします(モデルに依存します)。 |
| model | string | はい | qwen2.5-0.5B-p256-ax630c | 回答を生成するために使用するモデル ID。複数のモデルをサポートしています。詳細は モデル紹介 を参照して選択してください。 |
| audio | - | いいえ | - | 現在、オーディオ出力はサポートされていません。 |
| function_call | - | いいえ | - | 現在、関数呼び出し機能はサポートされていません。 |
| max_tokens | integer | いいえ | 1024 | モデルが生成を許可する最大トークン数。これを超えると切り捨てられます。 |
| response_format | object | いいえ | "json_object" | モデルの出力形式を指定します。現在は "json_object" のみをサポートしています。 |
ChatCompletionMessage(content='Hello! How can I assist you today?', refusal=None, role='assistant', annotations=None, audio=None, function_call=None, tool_calls=None)