阿里巴巴内推看过来

1. 产品概述 健身记录App是一款帮助用户管理健身计划、记录训练数据和追踪健身进度的移动应用。通过系统化的训练计划、详细的动作指导和全面的数据分析，帮助用户科学健身，达成健身目标。 目标用户：健身爱好者、专业健身人士、希望通过系统训练改善身体素质的用户。 2. 核心功能 2.1 用户角色    角色 注册方式 核心权限     普通用户 手机号/邮箱注册 创建训练计划、记录训练、查看数据统计、管理个人资料   高级用户 付费升级 解锁高级训练计划、获取专业指导、导出训练报告    2.2 功能模块 健身记录App包含以下主要页面：  健身首页：训练概览、今日计划、快速开始、最近记录。 训练计...

秋招面了十几家，结果十几家全跪。笔试，技术面都过了，结果hr面听我挂过科直接给我拒了😭

秋招白月光是我的虾皮虾皮是所有公司里最先给我面试机会的一面二面也很快 但是面完之后就开始泡池子到目前为止已经泡了两个月了虾皮北京已经泡发1000人秋招的意难平是美团看我的名字也知道在秋招之前美团可以说是我的梦中情司也是我很快进入到二面的公司第一天一面 第二天二面而且我了解到美团只有两面直接下意向之后更开心了可惜天不遂人愿 二面可能和面积官不太合如果100我觉得给自己打93吧可惜过两天把我挂了没事 大家都说 恨比爱长久

首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...