vllm-project / aibrix

Cost-efficient and pluggable Infrastructure components for GenAI inference

runzhliu / aik8s

AI/LLM on Kubernetes 基础设施知识库：涵盖 GPU、大数据、调度、分布式训练、LLM 推理、RAG、Agent 与生产运维。