首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
用代碼將夢想照進現實
2020-02-18 11:29
长安大学 C++
关注
已关注
取消关注
2020-02-18
在牛客打卡408天,今天也很努力鸭!
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
12-18 20:29
门头沟学院 人工智能
大模型推理加速:KVCache和Pageattendtion
首先声明不搞infra的不用看,我现在看底层了,本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处: 加州大学伯克利分校(UC Berkeley)这篇里面讲了vllm,那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成:模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程,所以又要体现深度,那么就先讲KVCache,这个本质上是一种通用的思路就是减少k,v的计算,采用缓存的机制去减少中间值,而这个的问题是kv...
机器学习,推理优化,芯片...
点赞
评论
收藏
分享
11-19 17:50
西北政法大学 新媒体运营
已听劝
如何呢
程序员花海:
实习和校招简历正确格式应该是教育背景+实习+项目经历+个人评价 其中项目经历注意要体现业务 实习经历里面的业务更是要自圆其说 简历模板尽可能保持干净整洁 不要太花哨的
秋招吐槽大会
点赞
评论
收藏
分享
10-24 20:50
滴滴_金融_测开(实习员工)
当我脱离ai写代码
图一为自己纯手写的代码,1024拉了坨大的
zmc曦:
我嘞个O(n ^ 4)的复杂度
点赞
评论
收藏
分享
12-18 17:44
浙江大学 Java
Elasticsearch中,什么是停顿词过滤?
图解Elasticsea...
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
26届双非本鼠硕拿下5个ssp的秋招总结及一条龙经验分享
8277
2
...
【25年终总结】-牛客运营团队
4678
3
...
实习没事做是福还是祸?
3528
4
...
大二混子终于找到实习了...
3119
5
...
关于我小心翼翼触碰安全红线这件事
1855
6
...
校招入职半年之后又回到了这个地方
1823
7
...
【求助】被hr骂“刷子”什么意思?
1808
8
...
学校发力了,没招了牛友们
1786
9
...
尼克狐尼克,你被捕了
1717
10
...
分析了2025年AI领域近800起融资案例之后发现……
1594
创作者周榜
更多
正在热议
更多
#
2025年终总结
#
145368次浏览
2495人参与
#
秋招落幕,你是He or Be
#
2852次浏览
72人参与
#
应届生进小公司有什么影响吗
#
108950次浏览
1115人参与
#
比亚迪工作体验
#
69869次浏览
254人参与
#
你面试体验感最差/最好的公司
#
2718次浏览
55人参与
#
工作中听到最受打击的一句话
#
2328次浏览
61人参与
#
大厂VS公务员你怎么选
#
70763次浏览
657人参与
#
重来一次,你会对开始求职的自己说
#
2724次浏览
69人参与
#
一人说一个提前实习的好处
#
3070次浏览
64人参与
#
团建是“福利”还是是 “渡劫”
#
3859次浏览
108人参与
#
实习没事做是福还是祸?
#
7927次浏览
135人参与
#
如何排解工作中的焦虑
#
243394次浏览
2237人参与
#
从顶到拉给所有面过的公司评分
#
144759次浏览
518人参与
#
今年你最想重开的一场面试是?
#
1299次浏览
24人参与
#
你小心翼翼的闯过多大的祸?
#
6660次浏览
107人参与
#
联影求职进展汇总
#
123765次浏览
781人参与
#
OPPO求职进展汇总
#
755810次浏览
5390人参与
#
互联网公司爆料
#
158527次浏览
724人参与
#
产品实习,你更倾向大公司or小公司
#
189033次浏览
2052人参与
#
秋招结束之后的日子
#
113877次浏览
1038人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务