StackFlow AI プラットフォーム
デバイスとクイックスタート
モデルの紹介
Qwen3
DeepSeek-R1
AI Pyramid Applications
アプリケーション
CVビジョンアプリケーション
VLMマルチモーダル
大規模言語モデル (LLM)
音声アシスタント
Chatbox
Chatbox のインストール
Chatbox 公式サイトにアクセスして、対応するオペレーティングシステムのインストールパッケージをダウンロードし、インストールを行ってください。
Chatbox の設定
- Setup Provider をクリックして、モデルプロバイダーを追加します。
- Add provider 内で、Name に ModuleLLM または AI Pyramid と入力し、API Mode で OpenAI API Compatible を選択します。
- API Host に ModuleLLM または AI Pyramid の IP アドレスと API パスを入力し、インストール済みのモデルを取得して追加します。
- StackFlow が提供する qwen2.5-1.5B-Int4-ax650 モデルを追加します。プラットフォームに応じて対応するモデルを選択する必要があります。ModuleLLM/LLM630 Compute Kit プラットフォームのモデル接尾辞は -ax630c、AI Pyramid プラットフォームは -ax650、LLM8850 プラットフォームは -axcl です。詳細は モデル紹介 のセクションを参照してください。
ヒント
Qwen3-VL、InternVL などのモデルは画像入力をサポートしています。モデル機能（Model Capabilities）で視覚機能（Vision）にチェックを入れるだけで使用できます。
- 最大コンテキストメッセージ長を 0 に変更します。また、設定で「タイトルの自動生成」機能をオフにしてください。
- モデルはストリーミング出力をサポートしており、一部のモデルは連続対話に対応しています。"reset" と送信するとコンテキストがクリアされます。Internvl3 などのマルチモーダルモデルでは、複数の画像を同時に送信できますが、新しい画像を送信する前に "reset" を送信してコンテキストをクリアする必要があります。
