跳转至

MLSys

421 个字 预计阅读时间 2 分钟

Roadmap

MLsys 各方向综述 - 知乎

ML system 入坑指南 | 摸黑干活

2025 入坑 ML sys 求意见 ? - 知乎

我的 MLsys 学习与秋招之路——写在 AI Infra 大基建的黄金时代 - 知乎 近期学mlsys 总结 - 知乎

Scholar

陈天奇 上交ipad 北大金鑫

美国的话 Ion 组出来的一堆博后或者 PhD 都可以看看,基本都 All In mlsys ,比如 UCSD Hao Zhang。大 S Christos 组出来的也都可以,比如 ETH AnaUmich Mosharaf 包括他带出来的学生比如 UIUC Lai FanUchicago JunchenCornell ZhiruUCSD yufei 和她的学生 yuke wang, CMU Catalyst,港大 Chuan Wu,港中文 James Cheng,港科 Kai Chen Wei Wang

王泽可 机器学习系统领域(MLSys)有哪些顶级的实验室呢? - 知乎

Courses

CMU 10-414/714: Deep Learning Systems - CS 自学指南

Home | CSE 234

Papers

最佳社区奖:SGLang(欸好像是 23 年底的,社区好活跃,更新得好快。最佳算法奖:GLA(Gated Linear Attention,理论软硬件协同兼得,看了好想入坑 Linear Attention(顺带提一句,体感大部分做 MLSys 算法的完全不会考虑系统硬件层面,系统层面优化起来发现实际上根本就没优化 .jpg)最佳系统奖:好像比较多,一时想不出,给 MoonCake 吧,KVCache-centric DisaggregatedArchitecture for LLM Serving。最佳码风奖:DistServe,优雅。

作者:JerryYin777 链接:https://www.zhihu.com/question/7370558713/answer/60487054766 来源:知乎 著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

对我来说,至少这 2 年,毫无疑问,依然是 flash-attention

(28 条消息 ) 2024 年你最喜欢的 MLSys 相关的工作是什么 ? - 知乎

AWQ