pdf-icon

StackFlow AI プラットフォーム

アプリケーション

CVビジョンアプリケーション

VLMマルチモーダル

大規模言語モデル (LLM)

音声アシスタント

会話の補完

チャット補完 API インターフェースは、提供されたメッセージリストに基づいて会話を構築し、モデルを介して回答を生成します。

PC または AI Pyramid デスクトップから OpenAI API を介してメッセージリストを送信し、会話を構築します。プログラムを実行する前に、以下の base_url の IP 部分をデバイスの実際の IP アドレスに変更し、デバイスに対応するモデルパッケージをインストールしてください。モデルパッケージのインストール手順については、モデルリスト のセクションを参照してください。モデルの詳細については、モデル紹介 のセクションを参照してください。

Curl 呼び出し

curl http://192.168.20.186:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer sk-xxxxxxxx" \
  -d '{
    "model": "qwen2.5-1.5B-Int4-ax650",
    "messages": [
      {"role": "developer", "content": "You are a helpful home assistant."},
      {"role": "user", "content": "Write a one-sentence bedtime story about a unicorn."}
    ]
  }'

Python 呼び出し

from openai import OpenAI
client = OpenAI(
    api_key="sk-",
    base_url="http://192.168.20.186:8000/v1"
)

completion = client.chat.completions.create(
  model="qwen2.5-0.5B-p256-ax630c",
  messages=[
    {"role": "developer", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Hello!"}
  ]
)

print(completion.choices[0].message)

リクエストパラメータ

パラメータ名 必須 説明
messages array はい [{"role": "user", "content": "こんにちは"}] 会話履歴。複数のメッセージで構成され、テキスト、画像、音声などのモダリティをサポートします(モデルに依存します)。
model string はい qwen2.5-0.5B-p256-ax630c 回答を生成するために使用するモデル ID。複数のモデルをサポートしています。詳細は モデル紹介 を参照して選択してください。
audio - いいえ - 現在、オーディオ出力はサポートされていません。
function_call - いいえ - 現在、関数呼び出し機能はサポートされていません。
max_tokens integer いいえ 1024 モデルが生成を許可する最大トークン数。これを超えると切り捨てられます。
response_format object いいえ "json_object" モデルの出力形式を指定します。現在は "json_object" のみをサポートしています。

レスポンス例

ChatCompletionMessage(content='Hello! How can I assist you today?', refusal=None, role='assistant', annotations=None, audio=None, function_call=None, tool_calls=None)
On This Page