复活!分享一下ai infra见解

本人入职数月,在ai infra上比起入职前有了一定的了解,现在分享一下回馈牛客上的大伙😙:

薪酬方面:对于ai infra,大部分还是属于开发类,比不过算法,但在开发里算高的。

要求方面:感觉这方向属于是要求比较高的了,从学历上来说这方向很多都是清华上交的人在做(感觉是因为mooncake,sglang),但找工作的话学历不绝对;从卷度上来说真得挺卷的,ai发展日新月异,作为底层的基础设施需要支持不同的场景;做ai infra的人越来越多,内部外部都会存在压力。

工作内容方面:从外层的最佳实践,到整个的系统优化,到某一个模块的优化,到学术上的贡献,到算子适配设计......

学习推荐:作为学生,如果实验室没有卡可以用的话,最好学习开源推理框架,而且对大模型要比较了解,要不断跟进业界开源模型,了解模型最新的改进,比如deepseek的mla,了解不同的系统设计,比如pd分离;如果有卡可以用的话最好自己部署一下不同的模型,并且往最佳实践上靠一下,验证不同算法改进的优势与劣势。

若有其他疑惑可直接私我😊,不定时解答一波

(图文无关😋)
全部评论
我是211本硕,马上研二了,做的大模型方向,因为实验室的卡有但是不够,所以为了加速实验捣鼓了好久各种量化还有分布式推理框架。我寻思我如果去冲传统后端,那基本上要重新学;如果是算法岗,那a会能不能出得看运气;如果ai infra的话估计cuda底层什么的也得学。话说有没有建议呀
1 回复 分享
发布于 2025-08-07 00:42 江苏
来的有点晚了,但希望大佬分享一下,ai infra这个title下会有数据/存储相关的岗位吗?以及目前实习在做data infra,有没有机会转ai infra呢?
点赞 回复 分享
发布于 01-10 01:21 四川
我现在也在阿里云异构计算实习,应该跟楼主之前是一个组
点赞 回复 分享
发布于 2025-08-06 12:24 广东
这行hc情况咋样啊今年😭
点赞 回复 分享
发布于 2025-08-03 22:22 江苏

相关推荐

01-08 02:04
已编辑
北京邮电大学 算法工程师
查看10道真题和解析
点赞 评论 收藏
分享
头像
01-29 09:32
门头沟学院 Java
这是当下时代我们学生和打工人的一个困境,悄悄分享一下自己的一些些心得。相比于自己去浩如烟海的文章中找资料,不如他们精准的推送,因此我所做的第一点就是通过关注的公众号来了解。他们做自媒体的为了时刻保持流量,必然要发文介绍最新最火的项目(哪怕一些可能有标题党的性质),我们刷到了就进去看看,成本很低,收益很大。下面还会有相关的推荐文章,都可以顺便康康。另一个就是B站,B站很多人会发视频介绍热门技术,关注一些知识区up,新视频发出来后我们刷一刷就能在主页看到,通常介绍新东西的视频也就10分钟左右,可以二倍速快速了解。再有就是自己的圈子,要积极和身边的大佬交友学习,当他们聊到一些自己没听过的东西时,积极凑过去学习一下然后自己去搜搜,甚至上手操作一下。最后如果在互联网领域,选一个有创新、学习氛围好的组,处于这种氛围中,自然能够受到熏陶。再提一点,如果有条件有时间可以去外网关注科技大佬他们会发文的。我由于比较忙暂时还没培养这个习惯。以上几点基本上就是我作为应届生目前尽量跟上时代的一些做法了。其实有点像在做学术,时刻关心最新的业界能力,然后考虑是否能落地。不过事实就是如此,在这行最好保持着热情和动力,才能长久的待下去。欢迎大家交流学习,分享更多了解最新技术的渠道和心得
千与千寻:找个好组和大佬带,环境熏陶比自学快十倍
AI求职实录
点赞 评论 收藏
分享
评论
10
22
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务