LLM System and Engineering

大模型系统与工程
论文列表
Project Speculative Decoding
Project Speculative Decoding
- 大模型推理优化-投机解码性能优化
Project from 周宇航
Project from 周宇航
- 大模型训练与推理性能优化
Project from 彭于波
Project from 彭于波
- 研究方向
Project from 王梓博
Project from 王梓博
- 基于内存池优化的LLM推理系统
Project ANNS and LLM
Project ANNS and LLM
- 近似最近邻搜索（ANNS）
Project Security and Privacy in Real world LLM Based Systems
Project Security and Privacy in Real world LLM Based Systems
- 课程介绍：基于大型语言模型的现实世界系统中的安全（项目式）
Homework1
Homework1
- Paperlist
- Assignment 1: 论文审稿

Paperlist