首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
yangguoxi
2022-10-10 08:47
太原学院 Java
发布于山西
关注
已关注
取消关注
2022-10-10
在牛客打卡15天,今天也很努力鸭!
每日监督打卡
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
12-18 20:29
门头沟学院 人工智能
大模型推理加速:KVCache和Pageattendtion
首先声明不搞infra的不用看,我现在看底层了,本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处: 加州大学伯克利分校(UC Berkeley)这篇里面讲了vllm,那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成:模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程,所以又要体现深度,那么就先讲KVCache,这个本质上是一种通用的思路就是减少k,v的计算,采用缓存的机制去减少中间值,而这个的问题是kv...
机器学习,推理优化,芯片...
点赞
评论
收藏
分享
12-17 10:20
河北工业大学 Java
留痕
人教人教不会,事教人一教就会。工作期间领导虽然没有说过什么有启发的话,但经历的事挺有启发的。工作上的事情一定要通过正规途径留下痕迹,千万不要怕麻烦。否则会面会有更多的麻烦
工作丧失热情的瞬间
点赞
评论
收藏
分享
11-25 16:31
门头沟学院 前端工程师
我去
牛客60022193...:
大厂都招前端,他们觉得AI能替代前端,可能他们公司吊打btaj吧
点赞
评论
收藏
分享
12-17 14:33
浙江大学 Java
说说你了解的线程同步方式。
图解Java多线程牛客面...
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
26届双非本鼠硕拿下5个ssp的秋招总结及一条龙经验分享
1.0W
2
...
长城也要双休了,打工人的春天?
5831
3
...
2025的主旋律是蛰伏,落寞,遗憾
5601
4
...
选择即命运—2025年度总结
4964
5
...
从H200解禁评估:国资算力平台还值得应届就业吗?
4344
6
...
我只是一个脆弱的人
4063
7
...
学校发力了,没招了牛友们
3727
8
...
【25年终总结】-牛客运营团队
3636
9
...
大二混子终于找到实习了...
3258
10
...
大厂offer帮选
2767
创作者周榜
更多
正在热议
更多
#
2025年终总结
#
159160次浏览
2692人参与
#
长城汽车工作体验
#
12342次浏览
16人参与
#
你面试体验感最差/最好的公司
#
9432次浏览
173人参与
#
大家实习每天都在干啥
#
105590次浏览
568人参与
#
总结:哪家公司面试体验感最差
#
82985次浏览
387人参与
#
比亚迪工作体验
#
72113次浏览
272人参与
#
一人说一个提前实习的好处
#
6114次浏览
116人参与
#
秋招落幕,你是He or Be
#
5885次浏览
131人参与
#
重来一次,你会对开始求职的自己说
#
4236次浏览
110人参与
#
实习没事做是福还是祸?
#
10558次浏览
171人参与
#
今年你最想重开的一场面试是?
#
2038次浏览
33人参与
#
团建是“福利”还是是 “渡劫”
#
5189次浏览
127人参与
#
你小心翼翼的闯过多大的祸?
#
8884次浏览
127人参与
#
运营来爆料
#
71471次浏览
450人参与
#
长鑫存储求职进展汇总
#
52008次浏览
240人参与
#
招聘要求与实际实习内容不符怎么办
#
143943次浏览
869人参与
#
工作中听到最受打击的一句话
#
3760次浏览
77人参与
#
如何排解工作中的焦虑
#
245892次浏览
2265人参与
#
大厂VS公务员你怎么选
#
72593次浏览
665人参与
#
扒一扒那些奇葩实习经历
#
140813次浏览
1156人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务