pdf-icon

StackFlow AI プラットフォーム

アプリケーション

CVビジョンアプリケーション

VLMマルチモーダル

大規模言語モデル (LLM)

音声アシスタント

OpenAI API 使用説明

このチュートリアルでは、Module LLMLLM630 Compute Kit、および AI Pyramid にさまざまなモデルサービスをインストールし、PC またはその他のデバイスから標準の OpenAI API を介して、チャット生成、音声認識、音声合成などの一般的なシナリオを含むモデル機能にアクセスする方法を紹介します。これにより、効率的な AI エッジアプリケーションシステムの構築を支援します。

1. 準備

使用前に、対応するデバイスのソフトウェアアップデートチュートリアルを参照し、M5Stack apt ソフトウェアリポジトリ情報の追加とインデックスの更新を完了してください。

2. 依存ライブラリの更新

  1. UART または SSH などを介してデバイスのターミナルにアクセスし、以下のコマンドを実行して apt ソフトウェアリポジトリ情報のインデックスを更新します。
apt update
  1. デバイスの llm ベースパッケージを更新します。
apt install lib-llm
  1. 関連する依存パッケージを更新します。
apt install llm-sys llm-llm llm-vlm llm-whisper llm-melotts llm-openai-api
  1. 上記のソフトウェアパッケージのインストールが完了したら、デバイスを再起動します。
reboot

3. Python OpenAI

PC 上で Python 環境を構成し、pip を使用して OpenAI 公式の Python ライブラリをインストールします。その後、このライブラリに基づき、標準の OpenAI API インターフェースを使用して LLM デバイスにアクセスし、そのモデル機能を呼び出します。

pip install openai

4. 機能リスト

On This Page