本文介绍如何在已连接 LLM-8850 Card 的 Raspberry Pi 上安装 StackFlow。开始前,请先完成 LLM-8850 Card 环境配置与驱动安装,并确认 axcl-smi 能够正常识别加速卡。
执行以下命令查看 Raspberry Pi OS 的版本代号:
lsb_release -cs 当前安装源支持 Debian 12(bookworm)和 Debian 13(trixie)。
安装 GPG 密钥:
sudo wget -qO /etc/apt/keyrings/StackFlow.gpg https://repo.llm.m5stack.com/m5stack-apt-repo/key/StackFlow.gpg Debian 12(bookworm):
echo 'deb [arch=arm64 signed-by=/etc/apt/keyrings/StackFlow.gpg] https://repo.llm.m5stack.com/m5stack-apt-repo bookworm llm8850' \
| sudo tee /etc/apt/sources.list.d/StackFlow.list > /dev/null Debian 13(trixie):
echo 'deb [arch=arm64 signed-by=/etc/apt/keyrings/StackFlow.gpg] https://repo.llm.m5stack.com/m5stack-apt-repo trixie llm8850' \
| sudo tee /etc/apt/sources.list.d/StackFlow.list > /dev/null 更新软件包索引:
sudo apt update 先安装基础运行环境:
sudo apt install lib-llm llm-sys 再根据需要安装功能服务。例如,安装大语言模型服务和 OpenAI 兼容 API:
sudo apt install llm-llm llm-openai-api 功能服务还需要配套的模型包。可通过以下命令查看当前软件源提供的软件包:
apt list 2>/dev/null | grep '^llm-' 模型包占用空间较大,请参考模型库按需安装与 LLM-8850 平台匹配的模型包。
安装完成后,可继续使用 LLM-8850 Card OpenAI API 或查看其他 StackFlow 开发示例。