简体中文
English
简体中文
日本語

Linux & Edge AI

LLM-8850 Card StackFlow 安装

本文介绍如何在已连接 LLM-8850 Card 的 Raspberry Pi 上安装 StackFlow。开始前,请先完成 LLM-8850 Card 环境配置与驱动安装,并确认 axcl-smi 能够正常识别加速卡。

确认系统版本

执行以下命令查看 Raspberry Pi OS 的版本代号:

lsb_release -cs

当前安装源支持 Debian 12(bookworm)和 Debian 13(trixie)。

添加软件源

安装 GPG 密钥:

sudo wget -qO /etc/apt/keyrings/StackFlow.gpg https://repo.llm.m5stack.com/m5stack-apt-repo/key/StackFlow.gpg

Debian 12(bookworm):

echo 'deb [arch=arm64 signed-by=/etc/apt/keyrings/StackFlow.gpg] https://repo.llm.m5stack.com/m5stack-apt-repo bookworm llm8850' \
| sudo tee /etc/apt/sources.list.d/StackFlow.list > /dev/null

Debian 13(trixie):

echo 'deb [arch=arm64 signed-by=/etc/apt/keyrings/StackFlow.gpg] https://repo.llm.m5stack.com/m5stack-apt-repo trixie llm8850' \
| sudo tee /etc/apt/sources.list.d/StackFlow.list > /dev/null

更新软件包索引:

sudo apt update

安装 StackFlow

先安装基础运行环境:

sudo apt install lib-llm llm-sys

再根据需要安装功能服务。例如,安装大语言模型服务和 OpenAI 兼容 API:

sudo apt install llm-llm llm-openai-api

功能服务还需要配套的模型包。可通过以下命令查看当前软件源提供的软件包:

apt list 2>/dev/null | grep '^llm-'

模型包占用空间较大,请参考模型库按需安装与 LLM-8850 平台匹配的模型包。

安装完成后,可继续使用 LLM-8850 Card OpenAI API 或查看其他 StackFlow 开发示例

Page Tools
PDF
On This Page