作者|MirzaZhao
编辑|NewBeeNLP
面试锦囊之面经分享系列,持续更新中
后台回复『面试』加入讨论组交流噢
211菜硕,手里2篇水文。听说之前算法很卷,头铁一次试试。
阿里
一面
没打招呼突击电话面试(30min)
地点ok?时间ok?(base杭州,暑期,全部ok ok ok)简单自我介绍一下,项目经历选一个说说?
项目中对于没有标签的数据,怎么处理,还有什么别的方法?(我用的远程监督,别的还有one-shot zero-shot label embedding)
假设一个情景题,微博创立初期,短文本,10w数据集,无监督,分类怎么做(我答的用label embedding做或者用embedding+聚类kmeans)
embedding怎么实现?(fasttext or word2vec,不能用BERT,数据量大不合适)补充:你说的是词向量,句子向量怎么做呢(+average pooling最常用,还有别的方法没列举)
除了你说的方法,还有别的方法可以吗?U-learning听说过吗?(没听清?啥learing?这个真不知道,只听说过Q-learning)
kmeans的k怎么选择,这么做效果好吗?为什么?(k不知道,具体情况具体分析吧(编不出来了),效果不好)
那如果不用聚类,别的方法怎么做,提示:抽取关键字(关键字抽取可以用词与句子做相似度匹配)
按你说的做不具有通用性, 那如果是长文本,又怎么做,有什么区别(长文本用词频统计+停用词过滤)
你没回答出我想要的答案,因为一个微博可能属于多个类别(多类别无监督分类)
快排知道吗?稳定不?(不稳定,因为会交换顺序)
bagging、boosting知道吗?(知道,属于ensemble,叽里哇啦叽里哇啦)
用啥语言,用啥框架(python,pytorch)
反问:实习时间?
反问:表现如何?
个人体会:面试官人超好,很客气。感觉工程能力还有待提高,很多东西还是停留在理论上。kmeans自己挖的坑,无语了。。。后面问了大佬,这个情景题可能是LDA之类的主题模型,或者是手动标记数据,再训练。或者是用迁移学习。
二面
约好的电话面试(30min)
自我介绍,问论文(简单介绍一下)
问比赛,效果怎么样,名次之类的(问啥答啥)
二叉树有了解吗,遍历有哪些(前中后层次)项目用过哪些数据结构(好像没有,都是用python做的)
动态规划了解吗,解释一下,填表是怎么做的(吧啦吧啦)
操作系统了解吗?(本科学过,现在忘了。。)
Linux会用吗(会,一般用来跑实验和配环境)Linux debug的时候怎么做的(我用的nohup,输出log日志来debug)
计算机网络学过吗?(本科学过,现在忘了。。)那学过哪些课(ML DeepL NLP)DeepL的课程作业有吗(没)
BERT模型说一下,历史、演变说一下(RNN、LSTM、ELMo、Attention、Transformer、GPT、BERT、Auto-Encoder、Auto-Regression、Positional Encoder)
情感分析怎么做的说一下,对你后面有没有什么启发(根据项目说的,样本不均衡、评价指标等等)
别的语言会吗,java,c(本科学过,熟练度不高,现在捡起来很快)
有没有关注什么学术平台,或者线下的学术活动(知乎、群、机器之心、自己组织线下交流活动)
反问:表现如何
反问:钉钉这边的业务是什么
个人体会:面试官很客气,像聊天一样,很顺畅。
携程
一面
自我介绍,实习时间,可以嘛(看情况)
分词知道嘛jieba说一说(知道,维特比算法巴拉巴拉)
分词种新词发现怎么做?(几里哇啦扯了一堆)你说的好像和我不是一个东西,新词发现有哪些常用方法(啊。。。不知道)
维特比算法中的DAG知道吗,怎么构建的(知道,扯了一堆)
所以DAG怎么构建你没有说(构建。。?不是根据统计信息得到的嘛?不知道)
看你熟悉维特比算法,HMM知道不(知道的...(西麻哒!!))
logP(O|A,B,pi)怎么变成只有ABpi的式子(啊这。。。扯了一堆,三个问题,参数估计,d-separated,动态规划(完全扯错了方向))
感觉你说的和我不在一个频道上(哭,真忘了,没想到会问这么细)
看你论文用了BERT,说一下BERT和transformer的positional embedding有啥区别(多了一个矩阵,多了一个dropout几里哇啦)
这个positional embedding怎么生成的(cos,sin生成的,相当于一个look up tabel)
positional embedding公式写一下吧(啊,这个没背啊)
sigmoid当数据太大的时候不敏感怎么办(normalization)
最后做个笔试,用np实现一个LSTM,初始化权0.5(啊,能不能写伪代码?)不能写伪代码,要跑出来。(啊这。。。我好多np函数用法没背下来怎么办)你让我有点惊讶,居然没记下来这些常用方法(啊这个sigmoid怎么调用来着?)你自己写(啊好的好的,还好记得公式)
能运行下不(可以,然后炸了)你这bug在哪你知道不(应该是矩阵搞炸了)是的,怎么改(矩阵操作函数名忘了)好吧我提醒一下,把math.exp改成np.exp(啊好的好的)你这又有一个bug(啊变量名写错了,改一下改一下)
跑通了,说一下思路吧(简单解释了下代码思路,理论应该是对的)
反问:表现如何?
反问:一共有几面
个人体会:铁凉凉,不用看了,这也太难顶了,手撕LSTM还问了一堆机器学习东西,本来是准备的论文,BERT,word2vec,结果都没问。这波死的及其惨烈~HMM,新词发现,这俩不熟,赶快补,还有coding能力不够,找机会多写代码!!!
二面
自我介绍,聊项目论文。
BERT和RNN之类的区别(Auto Encoder与Auto regression,吧啦吧啦 )
BERT的缺点,什么情况无法处理,双重否定,数值可以处理吗(应该不太明感)
BERT的输入长度多少?(最大512) 超出怎么办(截断,数据预处理减少无关数据。实在太长直接上LSTM、Transforemer-XL)
实体抽取怎么做的,有了解吗?(没有具体做,但是大概知道上NER这一块的东西,其他不清楚了)
一个算法题,求一个大于等于输入的正整数的最小降序序列,比如,325->330, 4->4, 1234->2000, 4321->4321(20min没做出来,说了下思路,暴力递归)
个人体会:这个面试官又迟到10min,携程感觉不太守时,不喜欢,然后办公环境看起来也不太行,总的来说不太行。最后算法题没写出来,估计是凉了,不过这个面试官比上一个态度好很多。
腾讯
一面
腾讯会议面试(30min)
自我介绍,每个项目,一个个讲讲
论文1中样本怎么获取的(远程监督)继续深挖
论文2介绍一下(吧啦吧啦)
BERT怎么做分类的说一下(feature based fine turning)
比赛做了什么,改动了什么,和第一差距在哪(吧啦吧啦)
多任务用和不用的区别在哪(pipline存在误差传递,多任务2个loss加一起)
2个loss的超参数怎么获取(经验+网格搜索)这样可能很慢,贝叶斯优化了解吗(不是很了解,只记得是启发式算法)
tf会用吗,和pytorch有什么区别(不会,一般都是pytorch,tf有session、graph什么的比较麻烦记得好像,其他不清楚了)
其他语言会吗(本科学过、捡起来很快)大数据开发会吗(不会,只听过)
树模型和深度学习的区别(只知道效果有差距,具体不太清楚)二者可以结合吗(不是很清楚)
树模型介绍一下(决策树、GBDT、XGBOOST、随机森林)核心思想介绍下(吧啦吧啦)
Adaboost和GBDT区别(Adaboost对错误给更高的权重,GBDT多个子树加起来(不知道说的对不对))
树模型和机器学习比如LR有啥区别(树模型有比较好的可以解释性(这个答案好像不是很满意,应该是稀疏性的问题))
稀疏性问题怎么解决(变成dense向量,说了一些分布式表示和one-hot的区别(不知道答偏了没有))
推荐系统了解吗(不是特别的了解)想做哪一块(NLP这块吧)推荐转岗可以吗(可)
反问:业务有哪些呢
反问:技术栈要求
反问:面试不足的地方有哪些
个人体会:面试官语速快的飞起,有种压力面的感觉,前面说项目的时候打断了好几次,把我说话节奏都带的快了。还有就是coding能力不够,工业界的一些东西还是缺乏
二面
腾讯平台面试(1h20min)
自我介绍,问项目。
attention知道吗,用过吗(BERT里用过,不是我写的)写一下公式(从attention说到self-attention)
q、k、v是啥意思(解释了一下)qk可以用别的方法代替吗(可以,只要是计算距离的方法就行,比如说余弦距离)
self-attention和attention的区别(说了一堆好像没答道点上,最核心应该是attention只计算q和v)
BERT和其他序列模型区别(BERT不是序列模型,Auto-Encoder的模型,其他比如LSTM是Auto-Regression)
推荐算法了解吗(不太了解,只知道协同过滤)
机器学习了解吗(了解),LR损失函数写一下(吧啦吧啦写了下,最后y写错了,应该放log外面)
FM了解吗?(不了解)Wide&Deep了解吗?(不了解,好像都是推荐系统的那边)
XGBOOT说一下(说了下和GBDT区别,之类的)为什么二阶导数好(信息更丰富)二阶导数也会更好的拟合(对对对)
LSTM解决了RNN什么问题(长依赖,梯度消失梯度爆炸之类的)
LSTM还有一个什么特点?(啥。。。不知道了)做加法比做乘法快(喔喔喔,可能想问三个门并行化?没太理解)
转岗推荐可以吗(可)
说说对推荐系统理解(只知道协同过滤,时间一致性吧啦吧啦)
Embedding的理解,说说(表示学习吧啦吧啦说一堆)
写一个二叉树的后序遍历,非递归,手写(双栈法,输出的时候有点小问题)
算法题手写:最大子段和(暴力法)
反问:面试表现
反问:推荐的技术栈
个人体会:体验很好,就是写代码有点紧张。腾讯的速度还是很快的,不得不感叹。
HR面
腾讯会议面试(18min)
自我介绍,实习时间,信息确认
挑一个项目说一下
项目中的收获是什么
说2个项目中的难点,怎么解决的
希望实习获得什么
别的公司进度
有重大疾病吗
如何和别的部门协调资源
实习和实验室做项目区别
给自己之前2个面试打分
反问:表现怎么样
反问:base地(北京、深圳)
个人体会:腾讯速度真的快的飞起,结束了就云证。昨天2面今天就HR,不得不说太快了。HR态度很客气,体验很好
一起交流
想和你一起学习进步!『NewBeeNLP』目前已经建立了多个不同方向交流群(机器学习 / 深度学习 / 自然语言处理 / 搜索推荐 / 图网络 / 面试交流 /等),名额有限,赶紧添加下方微信加入一起讨论交流吧!(注意一定要备注信息才能通过)
-END-
硬核!深度学习中的Normalization必知必会
-03-19
如何利用多任务学习提升模型性能?
-03-17
10个重要问题概览Transformer全部内容
-03-05
模型压缩与蒸馏!BERT家族的瘦身之路
-02-26
如果觉得《[211渣硕] 腾讯/阿里/携程 详细NLP算法实习 面经》对你有帮助,请点赞、收藏,并留下你的观点哦!