校招 未知部门 / 算法 / 一面

<h2>字节跳动——AI Infra / 大模型部署 校招一面</h2> <p><em>来源为牛客付费专栏，以下仅收录公开可见内容，付费部分未收录。</em></p> <ol> <li>ONNX转RKNN的过程中，通常会做哪些图优化？请列举至少三种。</li> <li>如何判断一个算子是带宽瓶颈还是计算瓶颈？Roofline模型是什么？算术强度怎么算？</li> <li>CUDA Graph适合什么场景？动态输入下怎么用CUDA Graph？</li> <li>Transformer推理中，KV Cache的显存占用怎么估算？batch size从1增加到32，显存怎么变化？</li> <li>FlashAttention的原理是什么？它为什么能减少HBM访问？</li> <li>vLLM的PagedAttention是怎么实现的？和传统KV Cache管理方式有什么区别？</li> <li>GPU的SIMT架构有什么特点？遇到分支发散时会发生什么？</li> <li>CUDA编程中，一个Kernel在Launch时CPU都做了些什么？</li> <li>你在做</li> </ol>