このチュートリアルでは、Module LLM、LLM630 Compute Kit、および AI Pyramid にさまざまなモデルサービスをインストールし、PC またはその他のデバイスから標準の OpenAI API を介して、チャット生成、音声認識、音声合成などの一般的なシナリオを含むモデル機能にアクセスする方法を紹介します。これにより、効率的な AI エッジアプリケーションシステムの構築を支援します。
使用前に、対応するデバイスのソフトウェアアップデートチュートリアルを参照し、M5Stack apt ソフトウェアリポジトリ情報の追加とインデックスの更新を完了してください。
apt update apt install lib-llm apt install llm-sys llm-llm llm-vlm llm-whisper llm-melotts llm-openai-api reboot PC 上で Python 環境を構成し、pip を使用して OpenAI 公式の Python ライブラリをインストールします。その後、このライブラリに基づき、標準の OpenAI API インターフェースを使用して LLM デバイスにアクセスし、そのモデル機能を呼び出します。
pip install openai