pdf-icon

产品上手指引

实时 AI 语音助手

火山引擎语音助手

Thread

Module Gateway H2

IoT 测量仪表

IoT 云端服务

Ethernet 摄像头

拨码开关&引脚切换

Module GPS v2.0

Module ExtPort For Core2

Module LoRa868 V1.2

模型列表

该接口用于获取当前设备已安装的模型服务列表。

模型安装与查看

1.使用前请参考对应设备的软件更新教程,完成M5Stack apt软件源信息的添加与索引更新。

2.查看可用llm deb包列表。其中以llm-model-name格式命名的为模型包。

apt list | grep llm-model-

3.根据需求使用apt指令安装软件包, 如安装llm-model-qwen2.5-0.5b-p256-ax630c包。注意:模型将占用较大空间,建议按需安装。

apt install llm-model-qwen2.5-0.5b-p256-ax630c

查看可用模型

可在 PC 端通过 OpenAI API 查询设备当前可用的模型列表。程序执行前需将下方base_url的IP部分修改为设备实际IP地址。

from openai import OpenAI
client = OpenAI(
    api_key="sk-",
    base_url="http://192.168.20.186:8000/v1"
)

client.models.list()
print(client.models.list())

返回示例

SyncPage[Model](data=[
Model(id='melotts_zh-cn', created=0, object='model', owned_by='user', permission=[], root=''), 
Model(id='qwen2.5-0.5B-prefill-20e', created=0, object='model', owned_by='user', permission=[], root=''), 
Model(id='sherpa-ncnn-streaming-zipformer-20M-2023-02-17', created=0, object='model', owned_by='user', permission=[], root=''), 
Model(id='sherpa-ncnn-streaming-zipformer-zh-14M-2023-02-23', created=0, object='model', owned_by='user', permission=[], root=''), 
Model(id='single_speaker_english_fast', created=0, object='model', owned_by='user', permission=[], root=''), 
Model(id='single_speaker_fast', created=0, object='model', owned_by='user', permission=[], root=''), 
Model(id='qwen2.5-0.5B-p256-ax630c', created=0, object='model', owned_by='user', permission=[], root='')
], 
object='list')
On This Page