在 8 美元的 ESP32-S3 微控制器上运行 28.9M 参数大语言模型

开发者成功在售价约 8 美元的 ESP32-S3 微控制器上运行了一个 28.9M 参数的大语言模型，完全在芯片本地运行，无需连接服务器，生成速度约 9.5 tok/s。

AI HOT 详情：https://aihot.virxact.com/items/cms1ao381037kro0wqp7mg4x3

原文链接：https://github.com/slvDev/esp32-ai