用通俗易懂的方式讲解：聊下国内大模型公司面经和感受

写在前面

2023年3月前后，大模型突然国内火了起来，我就面了一些公司，有大厂有初创。

新的一年已开启，年后很多小伙伴蠢蠢欲动，最近咨询我关于大模型面试相关的内容挺多的。

今天我结合自己的面试经验和落地实战，给大家分享一些自己的经验，也希望能和各位同行交流下。

技术交流

技术要学会分享、交流，不建议闭门造车。一个人可以走的很快、一堆人可以走的更远。

相关资料、数据、技术交流提升，均可加我们的交流群获取，群友已超过2000人，添加时最好的备注方式为：来源+兴趣方向，方便找到志同道合的朋友。

方式①、添加微信号：mlc2060，备注：来自CSDN + 技术交流
方式②、微信搜索公众号：机器学习社区，后台回复：加群

通俗易懂讲解大模型系列

• 用通俗易懂的方式讲解：如何提升大模型 Agent 的能力?

• 用通俗易懂的方式讲解：使用 Mistral-7B 和 Langchain 搭建基于PDF文件的聊天机器人

• 用通俗易懂的方式讲解：ChatGPT 开放的多模态的DALL-E 3功能，好玩到停不下来！

• 用通俗易懂的方式讲解：结合检索和重排序模型，改善大模型 RAG 效果明显

• 用通俗易懂的方式讲解：基于扩散模型（Diffusion）,文生图 AnyText 的效果太棒了

• 用通俗易懂的方式讲解：在 CPU 服务器上部署 ChatGLM3-6B 模型

• 用通俗易懂的方式讲解：ChatGLM3-6B 功能原理解析

• 用通俗易懂的方式讲解：使用 LangChain 和大模型生成海报文案

• 用通俗易懂的方式讲解：一个强大的 LLM 微调工具 LLaMA Factory

• 用通俗易懂的方式讲解：ChatGLM3-6B 部署指南

• 用通俗易懂的方式讲解：LangChain Agent 原理解析

• 用通俗易懂的方式讲解：HugggingFace 推理 API、推理端点和推理空间使用详解

• 用通俗易懂的方式讲解：使用 LangChain 封装自定义的 LLM，太棒了

• 用通俗易懂的方式讲解：使用 FastChat 部署 LLM 的体验太爽了

• 用通俗易懂的方式讲解：基于 Langchain 和 ChatChat 部署本地知识库问答系统

• 用通俗易懂的方式讲解：使用 Docker 部署大模型的训练环境

• 用通俗易懂的方式讲解：在 Ubuntu 22 上安装 CUDA、Nvidia 显卡驱动、PyTorch等大模型基础环境

• 用通俗易懂的方式讲解：Llama2 部署讲解及试用方式

• 用通俗易懂的方式讲解：LangChain 知识库检索常见问题及解决方案

• 用通俗易懂的方式讲解：基于 LangChain 和 ChatGLM2 打造自有知识库问答系统

• 用通俗易懂的方式讲解：代码大模型盘点及优劣分析

• 用通俗易懂的方式讲解：Prompt 提示词在开发中的使用

• 用通俗易懂的方式讲解：万字长文带你入门大模型

面经

1.智元机器人（Agibot）（拒）

稚晖君那个。当时面的很早，他们好像还在一边组建团队一边搞东西，一面就是稚晖君本人，问了一些简历的经历，然后问了transformer相关的比较常见的问题比如MHA，复杂度，BERT/GPT这种。

然后后边就没有收到回复，应该是挂了。这家是我开始面试的第一家，所以印象还比较深刻。和大佬交流感觉也挺顺畅，很看好他家的以及具身智能这个方向。给稚晖君大佬点赞！

2. 面壁科技/面壁智能（offer）

记得一共两面，技术上问了大模型训练，transformer相关的内容和过往经历，第二面好像就聊offer了如果没有记错。团队很年轻，大部分清华背景。当时感觉是不是有点太年轻了虽然清华背景这样子。印象里他们有说funding还是很足的。PS：包是挺大的。

3. 光年之外 （简历拒）

三月份猎头帮忙推荐的，简历拒。

4. 北京智源人工智能研究院（消失）

一共3-4面，面试官是不同team的人，有evaluation，训练等团队。面试时总体感觉他们想招偏evaluation这边的人。面到后面记得有一次面试官鸽了约好的面试，然后后面说从新安排时间，但是猎头或者HR就没有再给后续消息了，应该是默拒了。

5. 360（简历拒）

当时猎头说要高P，P8+

6. Minimax （口头offer）

这家面试轮次挺多，具体记不清但是起码4+轮。

前几轮都是考leetcode为主，问了很少很浅的大模型的内容，记得是其中一面是让手写MHA。最后一轮和主管聊完之后被分配到了框架组的offer，和猎头问了一下算法组是不是考虑，回答是不，就没再继续接触。

PS：他家的包还是挺大的（总包说肯定到得了100+），在几家初创里都算大的，但是面试时公司的前景，业务技术方向感觉面试官没有沟通很多。主管面也是20分钟就匆匆结束了，没有交流很多信息。

7. 昆仑万维 （offer）

面试好像问了之前训练大模型的内容，比如模型参数大小，训练一些细节之类的，印象里没有leetcode。面试官记得很乐呵的一个人。当时拿到的包裹相对低一些，比其他公司。不过后边接触到猎头都说他家给的还是很可以的，所以不确定是不是自己记错了或者交流有误。

8. 云从科技 （拒）

两轮面试被拒掉了，印象很深的是第二轮面试超级长，设定1个小时面试聊了2个多小时。面试官问了很多之前的经验，大模型训练的细节之类的，模型端，框架端，之前做的研究都聊到了。感觉聊的是挺开心的，不过后边就被拒了。

9. 阿里夸克（offer）

4轮面试，2轮带leetcode，然后浅浅问了相关经验，第三轮主要问了大模型的内容，比较标准的问题（transformer，训练，分布式，如何处理训练一些问题比如loss spike啥的）。第四轮是cross面，推荐组的一个大佬，感觉是象征性面试，因为之前做过搜广推问了相关问题，问了probability和脑筋急转弯，最后问一些OS的问题我不会。

几天后收到offer，和HR接触时感觉不太礼貌，交流有些摩擦。总包算上签字费大概70-80+

10. 衔远（offer）

3面左右，问的也比较中规中矩。最后一面是和周伯文老师聊。他家最后给了框架的岗位，但是我相对想做模型相关。包裹挺大的。

11. 潞晨科技（Colossal-AI）（拒）

他家是做框架为主的，一面问了很多框架内容，各种模型切分方式，问的比较深，好像也问了flash-attention的内容，感觉答得还凑合。

后来我表达了想做算法端，他们算法那边确实也在招人不过hc不多，二面是算法组的人面的，问的应用端比较多，感觉可能不做基座？然后面挂了。他家在圈子里感觉框架端名声挺大的，记得公司内部之前有人发他家新闻来着。

12. 蚂蚁（offer）

徐鹏老师团队。一面记不清了，二面是徐鹏老师本人。聊了之前很多经历，大模型，搜广推，本科实习时的前后端。印象深一点是徐鹏老师表达了团队人希望模型研究和工程都要做，research和engineering不分很细，这个和我的观点很像。接下来一轮HR面就发offer了，第一年算上签字70-80这样子。

13. 腾讯（简历拒）

猎头说要phd。

14. 小红书（简历拒）

猎头说要phd。

15. 商汤（没消息了，被拒）

一共两面，一面记得是leetcode+写MHA，感觉面得不错。二面好像答得不太好，具体问的啥忘掉了。。。后来没消息了，被拒。

16. 百川智能（拒）

猎头推的，安排了面试，第一面过了之后，后面二面我记错了时间，晚了很久（在外边开车）。然后被HR拒掉了，不过理由说的是要3年以上经验的，不知道是不是给我点面子。

17. 百度文心（offer）

这边面了好多轮。一面是数据组的人，问了很多关于大模型数据处理的内容，感觉答得一般，表达了想去模型组，然后面试官应该是和HR交流了，第二组开始就是模型组的人来面试。有没有leetcode不记得了，面试内容也比较中规中矩，transformer，大模型训练这种内容。后边和leader还有HR聊得也比较通畅。和初创不一样他家组分得挺细的，模型，框架，数据啥的都是分开的。（总包底薪40k多，几个月忘了）

18. 科大讯飞（拒）

HR先聊的，觉得我不可能来合肥就拒了。

19. IDEA研究院（拒）

这家确实啥也不记得了，记得的就是一面就被拒了，很尴尬。

20. 好未来（offer）

他家感觉团队整体背景在众多公司中相对一般，一面问了一个简单的leetcode没答上来很尴尬，模型轮可能比较好最后还是给offer了。问题也比较中规中矩，包裹没聊。做的项目是数学相关的GPT模型，个人也不是很了解这个方向。

21. 零一万物（拒）

一面是之前阿里的推荐系统那边的大佬，问了leetcode和一些推荐系统的问题，感觉答得还可以。二面也是个大佬有搜广推，NLP相关很多经验，考了个需要动点脑子的leetcode,没答上来，挂了。没有走到很靠后，好奇他家后边面试会不会有大模型的大佬来面。

22. 月之暗面（moonshot）（拒）

这家感觉面试问的广度和深度是国内厂面的里边最相关也最专业的。一面是个大佬，之前Kaiming大神一些高引论文的共同作者。一开始问了包括一些基础的大模型训练的内容，transformer架构。然后开始问一些框架端的内容，分布式训练的切割和device之间交流，后面follow-up的问题问了不同device之间communication怎么做，底层communication算法有啥，我答案里有ring-reduce，然后再深入问了reduce底层如何实现，我就不会了。问了会不会用cuda写东西，我说了解很浅。最后给了比较难的leetcode，题目不记得了，没写出来，挂。看了下他家主页，感觉创始人和员工都很牛。这家虽然只有一面感觉在国内应该是背景很top的一家了。很可惜没有机会多聊一些。

23. 阿里达摩院（新达摩）（offer）

一面考了leetcode，浅问了大模型技术。第二面是团队大老板，海归，之前在北美连续创业成功，汇报行癫。聊了很多高层的对于大模型技术上的愿景和理解，大模型未来市场方向之类的，我其实听不特别懂，不过学到了很多。他家是纯研究方向，算力听意思挺nb的。主要做大语言模型和多模态大模型这两方面的。最后说我一面leetcode不太行，补了一面coding，然后收到了offer。

24. 边塞科技 （拒）

这家专门做RLHF，微调的。清华背景，创始人有openai的经验。聊了两面感觉在RLHF上积累特别多，学到了很多东西。楼主RL是个票友级别就无了。

总结

这段时间面试了很多家（共24家，9个offer，简历拒了4家，剩下是面试后拒的），也学到了超级多东西。

我这边背景是做基座预训练算法端为主的，对框架端和RL的内容有一定了解（面试能凑合），对于后端的知识比如ML compiler，kernel，cuda相关的了解就比较浅了（问到觉大概率挂）。硬件几乎不太懂。感觉一圈聊下来几点感悟:

1. 大模型这方向真的卷，面试时好多新模型，新paper疯狂出，东西出的比我读的快。

2. Research岗位对工程也有要求，工程端也需要了解模型。

3. 感觉比较硬核的岗位，尤其初创公司都是对好几个点都有要求的（应用，模型，框架，底层后端，硬件）。

4. 楼主目前是：模型 > 框架 > 底层 > 其他。下一步想不放下模型的前提下，发展底层这边的能力（kernel等）

5. 目前市场还看不太清，楼主对市场之前不太关注，也不感兴趣，技术宅。

6. RLHF很有前景的方向，强化学习如果经历够的话也要深挖一下。

7. 大模型包总体给的相对高一些（同P)。

8. 目前大多数公司还是集中在语言模型，偏研究的方向会有多模态的预训练这意思。

考点

一些比较高频的东西（针对基座算法/框架岗位为主，大体按重要性排序）：

1. 多头注意力，频率太高了。coding轮，概念轮都考。复习的点包括：时间/空间复杂度，优化（kv-cache，MQA，GQA），手写多头代码。各种Norm，这个频率也不低，不过比较标准的内容，没有啥特意要说的，有的考手写，有的考概念和理解（为什么管用）。

2. 框架相关内容，各种并行方式，优缺点。DeepSpeed，Megatron可以看看源代码，Flash-Attention等内容。这个点也经常考代码题。

3. BERT，GPT等比较主流大模型，一些细节，比如位置编码，训练loss，激活，架构些许不同这种。自回归重点。

4. 大模型训练，这个可能主要是工作经验相关，经常问比如训练loss炸掉了，如何解决，一些技巧之类的。面试时有些面试官会问一些很细节的东西，感觉是在确认确实上手跑过基座训练不是吹水。

5. 数据预处理，BPE，tokenization，mask相关概念和对模型/训练影响，数据配比（有paper）。

6. evaluation，如何评估大模型，安全性，有效性，公开数据，个别考过手写eval框架（多选，生成）。

7. 根据投的岗位，多模态和RLHF内容可以适当看看。这俩感觉paper挺重要的，也大多研究岗位。楼主也少面了一些自动驾驶，RL啥的，不过结果不咋地。

PS：有些非基座相关的或者实在没啥印象的就没写。

还有几家背景和面试感觉特别好的公司，不过猎头特别说了要保密，不方便发。