首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
孤独患者。201907260906372
2019-09-08 08:59
已编辑
西华大学
关注
已关注
取消关注
许愿offer🙏🙏
求求
#许愿#
提示
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
12-18 20:29
门头沟学院 人工智能
大模型推理加速:KVCache和Pageattendtion
首先声明不搞infra的不用看,我现在看底层了,本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处: 加州大学伯克利分校(UC Berkeley)这篇里面讲了vllm,那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成:模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程,所以又要体现深度,那么就先讲KVCache,这个本质上是一种通用的思路就是减少k,v的计算,采用缓存的机制去减少中间值,而这个的问题是kv...
机器学习,推理优化,芯片...
点赞
评论
收藏
分享
12-09 16:37
西北大学 前端工程师
佬们,这个一般都问些什么,第一次面试没啥经验
牛客前端劝退第三人:
问前端
点赞
评论
收藏
分享
10-24 20:50
滴滴_金融_测开(实习员工)
当我脱离ai写代码
图一为自己纯手写的代码,1024拉了坨大的
zmc曦:
我嘞个O(n ^ 4)的复杂度
点赞
评论
收藏
分享
12-18 17:51
浙江大学 Java
为什么你在项目里会选 ResNet?从梯度传播、表示能力、参数/算力、迁移性几个维度讲讲你的工程化理
图解机器学习应用-牛客面...
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
26届双非本鼠硕拿下5个ssp的秋招总结及一条龙经验分享
3584
2
...
【求助】被hr骂“刷子”什么意思?
3533
3
...
大二混子终于找到实习了...
3033
4
...
校招入职半年之后又回到了这个地方
2426
5
...
2025 一半沉淀,一半兑现
2328
6
...
在mentor视角谈谈实习生摸鱼
1918
7
...
小米真有你的,汽车定金不想退,裁员补偿不想给
1617
8
...
把“购买社保”打成“狗买社保”
1543
9
...
对着老板贴脸开大了
1191
10
...
字节客户端实习
1159
创作者周榜
更多
正在热议
更多
#
你小心翼翼的闯过多大的祸?
#
3911次浏览
68人参与
#
找不到实习会影响秋招吗
#
1399772次浏览
13635人参与
#
实习没事做是福还是祸?
#
4224次浏览
68人参与
#
重来一次,你会对开始求职的自己说
#
925次浏览
19人参与
#
2025年终总结
#
134295次浏览
2293人参与
#
考研人,我有话说
#
156582次浏览
1211人参与
#
哪些公司笔/面试难度大?
#
7062次浏览
32人参与
#
实习简历求拷打
#
24003次浏览
249人参与
#
你觉得现在还能进互联网吗?
#
29952次浏览
201人参与
#
携程工作体验
#
18945次浏览
66人参与
#
大厂VS公务员你怎么选
#
69134次浏览
638人参与
#
扒一扒那些奇葩实习经历
#
140169次浏览
1149人参与
#
找不到好工作选择GAP真的丢人吗
#
93692次浏览
1007人参与
#
那些我实习了才知道的事
#
253085次浏览
1785人参与
#
非技术投递记录
#
672911次浏览
6820人参与
#
机械求职避坑tips
#
81070次浏览
531人参与
#
投格力的你,拿到offer了吗?
#
154919次浏览
829人参与
#
第一份工作能做外包吗?
#
94054次浏览
599人参与
#
作业帮求职进展汇总
#
85454次浏览
559人参与
#
秋招遇到的奇葩面试题
#
101255次浏览
416人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务