吉姆·凯勒的职业生涯口述史:从DEC到Tenstorrent的芯片架构设计之路
Computer History Museum
总结:
吉姆·凯勒是一位传奇的计算机架构师,其职业生涯横跨数十年,在多家顶尖科技公司留下了深远影响。
- 早年在GE Aerospace工程师父亲的影响下成长,尽管有阅读障碍,但通过自学成为一名贪婪的读者。
- 在数字设备公司(DEC)的15年里,他从VAX 8800的逻辑设计师成长为Alpha芯片的联合架构师,学习了管道化、缓存和分支预测等核心概念。
- 在AMD,他主导了K8(皓龙)项目,共同编写了x86-64规范,为AMD在服务器市场赢得重要份额。
- 他参与了网络处理器公司SiByte的创立,后被Broadcom收购,拓宽了他在系统工程领域的视野。
- 在苹果公司,他共同架构了H3和H6芯片,推动了iPhone处理器在性能和图形方面的飞跃。
- 重返AMD,他负责Zen架构的重建,成功使AMD在CPU性能上重新具备竞争力。
- 在特斯拉,他领导团队在18个月内开发出世界纪录级别的自动驾驶芯片。
- 目前,他担任Tenstorrent的CEO,致力于使用RISC-V架构构建大规模并行AI计算芯片,解决AI计算瓶颈。
吉姆·凯勒的早年生活和教育经历塑造了他对工程和哲学的独特视角。
- 出生与家庭背景 [00:00:44]
- 1958年出生于新泽西州,父亲是GE Aerospace的机械工程师,母亲是大学毕业生,后成为治疗师。
- 在六个孩子中排行老二,家中充满书籍和智力讨论的氛围。
- 阅读障碍与自学能力 [00:02:42]
- 患有阅读障碍,直到三年级末才学会阅读,但之后成为一个狂热的读者。
- 早期学习(如长除法和代数)表现出“情景式学习”特点,即在突然顿悟后掌握概念。
- 大学选择与专业学习 [00:07:02]
- 选择宾夕法尼亚州立大学电气工程专业,部分原因是追随一位心仪的女孩,也因工程师职业薪资高。
- 同时辅修哲学,对抽象概念和思想充满兴趣,尽管因写作能力被哲学系婉拒学位,但仍坚持学习哲学课程。
- 大学后期开始接触半导体课程,在实验室制作晶体管,对编程和逻辑设计产生兴趣。
早期职业生涯:Harris与DEC [00:15:00]
凯勒的职业生涯始于Harris Semiconductor,随后在数字设备公司(DEC)获得了计算机架构的启蒙和深入实践。
- Harris Semiconductor的初体验 [00:15:00]
- 毕业后选择Harris Semiconductor,部分原因是想在海边生活和冲浪。
- 实际工作是修复测试设备,并参与一个高速光纤数据记录项目,积累了高速电路板设计经验。
- DEC的VAX 8800与计算机架构学习 [00:17:01]
- 通过招聘广告进入DEC,最初担任VAX 8800项目的高频时钟设计师,但很快被发现更擅长架构工作。
- 在架构师Bob Stewart指导下,深入学习了计算机架构,包括流水线、缓存和分支预测等概念,这段经历被他称为“架构101课程”。
- 期间,编写了逻辑模拟器和时序验证器等CAD工具,提升了设计效率。
- RISC与Alpha芯片的转型 [00:28:36]
- DEC内部RISC(精简指令集计算)项目Titan的成功,展示了更简单架构在性能上的优势,对凯勒产生了深远影响。
- 参与DEC的Alpha芯片项目,作为EV5的联合架构师,实现了比当时任何处理器快3-4倍的性能。
- EV6(Alpha芯片的第三代)是凯勒和Dirk Meyer共同架构的首个乱序执行处理器,证明了乱序执行在复杂指令集机器上的可行性。
- 这段时期,他深入理解了抽象层次在计算机设计中的重要性,以及自动化工具在提高设计效率方面的作用。
凯勒在DEC的Alpha芯片项目结束后,加入了AMD,开始了他在x86处理器领域的贡献。
- 加入AMD及其X86架构的挑战 [00:34:50]
- 在Dirk Meyer的邀请下,加入AMD,负责下一代x86处理器的开发。
- 当时AMD的处理器主要基于NextGen收购的K6架构,需要全新的设计来与Intel竞争。
- K7与K8芯片的设计贡献 [00:35:38]
- 参与K7项目,该架构在某种程度上借鉴了Alpha EV6的设计理念。
- 启动K8项目,旨在构建一个更纯粹的微操作机器,并引入64位架构。
- 凯勒是x86-64规范和HyperTransport(无胶多处理器互联协议)的主要作者之一,这些技术在后续的皓龙(Opteron)处理器中发挥了关键作用。
- 皓龙的成功让AMD在服务器市场份额从0提升到35%,但随后由于产品策略和制造工艺问题,份额又跌回4%。
创业公司:SiByte与P.A. Semi [00:37:00]
在AMD的第一段任期后,凯勒投身于创业公司,探索新的处理器领域和市场。
- SiByte:网络处理器设计与被Broadcom收购 [00:37:00]
- 离开AMD后,加入由DEC旧同事Dan Dobberpuhl担任CEO的SiByte公司。
- 专注于设计MIPS架构的网络处理器,集成了千兆以太网控制器、内存控制器和加速功能,满足网络设备对高集成度芯片的需求。
- 通过与数百家网络公司沟通,凯勒对嵌入式系统设计的“甜点”有了更深刻的理解:即在满足核心功能和性能需求的同时,控制成本和功耗。
- SiByte的成功吸引了Broadcom,并最终被其收购。
- P.A. Semi:低功耗PowerPC芯片与被Apple收购 [00:51:37]
- 在Broadcom工作一段时间后,凯勒加入了P.A. Semi,一家专注于PowerPC架构的创业公司。
- 公司的目标是开发低功耗、高性能的PowerPC处理器,最初旨在用于网络处理器市场,但也兼顾个人电脑应用,并与苹果公司进行了大量交流。
- 凯勒及其团队在时钟门控和低功耗时钟分布方面表现出色,尽管其设计在当时仍不算极致低功耗,但在PowerPC领域具备竞争力。
- 苹果最终收购了P.A. Semi,这笔收购为苹果自主研发移动芯片奠定了基础。
Apple:iPhone芯片的创新 [00:53:30]
P.A. Semi被苹果收购后,凯勒加入了苹果,在iPhone芯片的开发中发挥了关键作用。
- 加入Apple与iPhone芯片开发 [00:56:28]
- 2008年加入苹果,当时第一代iPhone已上市,第二代芯片H2即将流片。
- 早期iPhone芯片(如H1)主要是将ARM的IP核和各种外设简单组合,性能和内存延迟不佳,但软件团队通过大量优化使其勉强运行。
- 性能与功耗优化 [00:59:16]
- 凯勒与Tim Laehy共同架构了H3,并对H3和H4进行了深度优化,大幅提升了iPhone的性能。
- H4首次集成了强大的图形处理单元(GPU),其规模是其他手机芯片GPU的五倍。
- 凯勒与Gerard Williams共同设计了H6芯片,这是一款大型乱序执行处理器,成为苹果后续处理器设计的基础。
- GPU、64位架构与Apple的垂直整合策略 [01:00:35]
- 苹果的芯片设计理念是为用户界面和视觉应用提供极致性能,而非仅仅服务于游戏。
- 苹果公司具有独特的优势,可以直接从晶圆厂(如三星、台积电)购买晶圆,省去了中间商的利润,从而能够投入更多的晶体管来提升性能,实现垂直整合。
- 这种专用设计策略使苹果能够针对特定产品需求进行高度优化,而不必像通用芯片厂商那样在多种客户需求之间妥协。
在苹果任职四年后,凯勒再次回到AMD,肩负起重塑公司CPU架构的重任。
- 再次回到AMD面临的挑战 [01:06:36]
- AMD当时面临严峻挑战,其“推土机”(Bulldozer)架构表现不佳,服务器市场份额跌至4%。
- 公司还受制于GlobalFoundries的制造工艺,其落后于竞争对手。
- Zen架构的重建与性能提升 [01:08:47]
- 凯勒被任命为Zen架构的首席架构师,并迅速诊断出AMD的问题:糟糕的设计方法论、团队组织和架构设计。
- 他向CEO Rory Read明确表示,需要取消所有现有项目,从零开始设计一款全新的芯片,预计需要四年时间。
- 凯勒坚持将每时钟指令数(IPC)作为核心目标,认为这比制造工艺落后更关键。
- Zen架构成功地将IPC提升到与Intel竞争的水平,并最终使AMD从GlobalFoundries的束缚中解脱,转向台积电。
- 代工选择的转变 [01:09:49]
- 通过与三星的交叉授权和GlobalFoundries放弃7纳米工艺的决定,AMD获得了使用台积电先进工艺的机会。
- Zen架构的成功(四年后推出)使AMD的CPU产品线重新具备竞争力,并扭转了公司颓势。
Tesla:自动驾驶芯片的突破 [01:13:00]
Zen架构项目接近完成时,凯勒离开AMD,加入了特斯拉,致力于自动驾驶芯片的研发。
- 加入Tesla与自动驾驶硬件开发 [01:13:17]
- 经前苹果同事Doug Field的邀请,凯勒于2016年加入特斯拉。
- 特斯拉的愿景是将汽车转变为计算平台,自动驾驶需要强大的定制芯片。
- 凯勒向埃隆·马斯克承诺,可以在18个月内设计并交付一款能够驱动汽车的计算机芯片。
- AI引擎的创新方法与快速tape-out [01:15:45]
- 凯勒的团队与彼得·班农(Pete Bannon)合作,创新性地设计了一个AI引擎。
- 传统的AI芯片需要复杂的编译器来优化模型,但他们的芯片直接执行AI框架(如Caffe)生成的原始操作和数据,极大地简化了编译器。
- 团队在14个月内完成芯片流片,并在流片后4个月内使芯片运行起来,在2个月内成功驱动了汽车,创造了行业纪录。
- 这款名为“Hardware 3”的芯片(后来的“FSD Chip”)在随后的五年里,一直是地球上性能最好的自动驾驶芯片。
- 凯勒在特斯拉也负责更广泛的低压电子产品和自动驾驶软件团队的管理,直接与埃隆·马斯克互动,学习了他“解决方案优先”和“第一性原理”的思考方式。
离开特斯拉后,凯勒选择加入Intel,担任高级副总裁,负责硅工程团队,希望能够革新这家老牌巨头的设计流程。
- Intel的挑战与设计流程的革新 [01:22:00]
- 加入Intel后,凯勒发现公司虽然拥有顶尖的制造工艺和CPU技术,但在设计工具和流程上陷入了困境。
- Intel的工程师团队庞大(约10,000人),但许多设计流程陈旧,缺乏效率。
- 他尝试推动“Bare Metal Flow”等新方法,旨在简化底层接口,改变对CAD工具的认知,提升整体设计效率。
- 大型团队管理与文化转变 [01:24:00]
- 凯勒面临的挑战是如何在一个大型且固化的组织中重新设计工程文化和工作流程。
- 他认为Intel需要一个比当时CEO Bob Swan所设想的更大的“重置”。
- 尽管变革不易,遇到许多阻力,但他仍致力于将Intel的工程团队引向更现代化和高效的设计方法。
Tenstorrent:AI计算的未来 [01:24:00]
在Intel的尝试结束后,凯勒成为Tenstorrent的CEO,将目光投向AI计算的未来。
- Tenstorrent的AI芯片愿景与RISC-V应用 [01:24:00]
- 凯勒是Tenstorrent的早期天使投资人,并被其AI技术所吸引。
- 公司致力于开发大规模并行计算芯片,以解决AI计算的瓶颈。
- Tenstorrent的AI技术基于RISC-V处理器,使用从小型到大型的多种RISC-V核心来驱动其张量处理器。
- 目标是构建一个开放且通用的AI计算平台,其软件栈是开源的,吸引了大量顶尖人才。
- AI软件栈的复杂性与通用计算 [01:28:01]
- 凯勒指出,现代AI软件栈(如PyTorch)非常复杂,需要多层翻译才能在硬件上高效运行。
- Tenstorrent的目标是让张量处理器能够灵活适应不断变化的AI模型和算法,同时确保高性能。
- 公司正从研发阶段向工程卓越和产品交付转型,目前已销售Grayskull芯片,并计划推出可互联的Wormhole和Blackhole芯片。
- 公司发展阶段与市场策略 [01:30:00]
- 作为一家设计公司,Tenstorrent不仅设计芯片和系统,还设计AI软件和CPU,追求端到端的卓越。
- Tenstorrent的市场策略是瞄准那些被大型供应商忽视的“百万美元客户”,提供灵活的芯片和IP授权,因为他们无法承担通用巨头的高昂解决方案。
吉姆·凯勒的职业生涯不仅充满了技术成就,也展现了他独特的个人思考和管理哲学。
- 家庭与个人生活 [01:38:43]
- 已婚20多年,育有两个即将成年的孩子,他们也展现出聪明和敏锐的特质。
- 爱好身体活动,包括冲浪、滑雪和举重,注重保持身体健康。
- 对阅读和学习的看法 [01:40:51]
- 强调阅读的重要性,认为阅读能提供解决问题的思路和不同的思维方式,甚至推荐阅读自己不完全认同的书籍以拓宽视野。
- 认为书籍是前人经验和智慧的结晶,能够帮助人们避免重复错误。
- CEO与管理经验总结 [01:42:05]
- 认为CEO需要对公司的一切负责,而技术领导者则需要与CEO的愿景保持一致。
- 观察过许多CEO的领导风格,从注重人员管理的Doug Field到直觉敏锐的Bob Mansfield,以及“第一性原理”的Elon Musk。
- 凯勒的管理风格更像是“填补空白者”,善于协调跨职能团队,将不同想法整合起来,推动项目落地。
- 强调从实践中学习,通过尝试和实验来验证管理理念。