关于深度学习面试问题

之前面试深度学习岗,问到了的题目觉得答案不太清楚,麻烦各位大佬评论区讨论;
1. batch Norm层有什么缺点(按面试官提示跟batch有关系),优点很明显;
2. FC层链接的神经元,前面有1000个神经元,后面输出了1M(兆)个类别,从而存储参数达到了4G,如何降低参数个数?
3.既然核函数是一种映射,为什么只有高斯核,拉普拉斯核,线性核,其他的核函数映射为什么不行?
#阿里巴巴##腾讯##百度##算法工程师#
全部评论
核函数不仅仅是到高维空间的映射,还要做内积,因此需要满足一定的条件
点赞 回复 分享
发布于 2017-09-08 16:31
第二题 可以用稀疏加低秩矩阵 第三题 只要满足半正定则可,为的是使得对偶函数为凸,高手可自己构建矩阵。
点赞 回复 分享
发布于 2017-09-08 16:23
问题一, 我感觉BN强行对每层特征都中心化可能并不是一个绝对正确的先验吧。 按batch来讲的话,如果batch太小,用moving average去估计global average的偏差可能会比较大,或者数据本身冗余太大, global variance的偏差会比较大。 问题二,会不会和重要采样之类的东西有关啊,这么大的类别输出,你softmax 都很难求。 问题三,核函数的话,我记得有个理论说只要kernel满足某些条件就有一个内积结构与之对应(西瓜书上好像有),所以这个题目会不会有点问题?
点赞 回复 分享
发布于 2017-09-08 16:09
第三题,核函数还有更高层的抽象意义么
点赞 回复 分享
发布于 2017-09-08 15:42
对于问题二, 在存储时,做矩阵UV分解,稀疏存储方法; 在计算时,做SVD分解,取主要成分,添加一层可以降低参数个数;做类似于group conv的操作,可以降低参数个数; 还有其他方法吗?
点赞 回复 分享
发布于 2017-09-08 15:30

相关推荐

活泼的代码渣渣在泡池...:哈哈哈挺好的,我也上岸美团了,不说了,我又接了一单
点赞 评论 收藏
分享
想干测开的tomca...:让我来压力你!!!: 这份简历看着“技术词堆得满”,实则是“虚胖没干货”,槽点一抓一大把: 1. **项目描述是“技术名词报菜名”,没半分自己的实际价值** 不管是IntelliDoc还是人人探店,全是堆Redis、Elasticsearch、RAG这些时髦词,但你到底干了啥?“基于Redis Bitmap管理分片”是你写了核心逻辑还是只调用了API?“QPS提升至1500”是你独立压测优化的,还是团队成果你蹭着写?全程没“我负责XX模块”“解决了XX具体问题”,纯把技术文档里的术语扒下来凑字数,看着像“知道名词但没实际动手”的实习生抄的。 2. **短项目塞满超纲技术点,可信度直接***** IntelliDoc就干了5个月,又是RAG又是大模型流式响应又是RBAC权限,这堆活儿正经团队分工干都得小半年,你一个后端开发5个月能吃透这么多?明显是把能想到的技术全往里面塞,生怕别人知道你实际只做了个文件上传——这种“技术堆砌式造假”,面试官一眼就能看出水分。 3. **技能栏是“模糊词混子集合”,没半点硬核度** “熟悉HashMap底层”“了解JVM内存模型”——“熟悉”是能手写扩容逻辑?“了解”是能排查GC问题?全是模棱两可的词,既没对应项目里的实践,也没体现深度,等于白写;项目里用了Elasticsearch的KNN检索,技能栏里提都没提具体掌握程度,明显是“用过但不懂”的硬凑。 4. **教育背景和自我评价全是“无效信息垃圾”** GPA前10%这么好的牌,只列“Java程序设计”这种基础课,分布式、微服务这些后端核心课提都不提,白瞎了专业优势;自我评价那堆“积极认真、细心负责”,是从招聘网站抄的模板吧?没有任何和项目挂钩的具体事例,比如“解决过XX bug”“优化过XX性能”,纯废话,看完等于没看。 总结:这简历是“技术名词缝合怪+自我感动式凑数”,看着像“背了后端技术栈名词的应届生”,实则没干货、没重点、没可信度——面试官扫30秒就会丢一边,因为连“你能干嘛”都没说清楚。
点赞 评论 收藏
分享
评论
4
35
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务