1. 产品概述 美食点餐系统是一个在线餐厅点餐平台，用户可以通过手机或电脑浏览菜单、下单点餐、管理地址和查看订单历史。系统旨在为餐厅提供数字化点餐解决方案，提升用户点餐体验和餐厅运营效率。 目标用户包括：想要在线点餐的消费者、需要管理菜单和订单的餐厅经营者。 2. 核心功能 2.1 用户角色    角色 注册方式 核心权限     普通用户 手机号注册 浏览菜单、下单点餐、管理地址、查看订单   餐厅管理员 后台分配账号 管理菜品、处理订单、查看营业数据    2.2 功能模块 系统包含以下主要页面：  餐厅首页：展示餐厅信息、推荐菜品、优惠活动 菜单列表：分类展示所有菜品，支持搜索和筛选 菜...

属实有些累了

两年前 成功上岸美团两年后 女朋友也上岸了美团不确定 再看一眼

首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...