pdf-icon

Product Guide

Industrial Control

Real-Time AI Voice Assistant

Offline Voice Recognition

Thread

Module Gateway H2

IoT Measuring Instruments

IoT Cloud

Ethernet Camera

LoRa & LoRaWAN

ディップスイッチ使用ガイド

Module ExtPort For Core2

Chatbox

Chatbox のインストール

お使いの OS に対応したインストーラーをダウンロードするには、Chatbox公式サイト にアクセスし、インストールを行ってください。

Chatbox の設定

  1. インストール完了後、Chatbox を起動します。設定(Settings)をクリックし、Model Provider のドロップダウンをクリックして Add Custom Provider を選択してください。
  1. MODEL タブでサービス構成情報を入力します。
  • API ModeOpenAI API Compatible を選択
  • API Host:ローカルにデプロイしたデバイスの IP アドレスを http://IP:8000/v1 の形式で入力
  • API Path/chat/completions に設定
  • API Key:現時点では入力不要
  • Model:モデル名(例: qwen2.5-0.5B-p256-ax630c
  1. CHAT タブをクリックし、以下のオプションを無効にします。
  • Auto Generate Chat Titles を無効にする
  • Inject default metadata under the CHAT tab を無効にする

チャットを開始

New Chat をクリックして新しい会話を作成し、メッセージを入力して送信するとモデルからの応答を受け取れます。

テキスト長に関する注意
入力するテキストの長さは、モデルがサポートする最大長を超えないようにしてください。モデルパッケージ名に p256 を含むものは 1 回あたりの最大トークン入力数が 256、それ以外の特別なマークのないモデルは 128 です。
On This Page