SVDX-lab / miniinfra

git clone https://github.com/SVDX-lab/miniinfra.git

本项目是一套面向 AI Infra 初学者的 LLM 推理教程，目标是在一张 NVIDIA GeForce RTX 3080 Ti（12GB 显存）上，实现并讲清较为完整的单机 AI 推理基础设施。