英特尔Panther Lake：混合计算、P核、E核及线程调度器的演进与优化

Intel Technology

介绍与起源 [00:00]

• 英特尔的下一代处理器Panther Lake建立在过去几代不断演进的核心技术之上。
• 视频深入探讨了混合计算的微架构，该架构包含两种类型的核心：性能核（P-core）和能效核（E-core）。
• Panther Lake利用Lunar Lake验证过的架构，以PC生态系统友好的方式提供给原始设备制造商（OEM）。
• 混合计算定义: 指在一个系统级芯片（SOC）上集成具有不同功能的IP（如CPU、GPU、NPU），使其能够处理不同的任务。
  • 英特尔从Alder Lake开始采用性能混合架构，将P-core和E-core结合在同一个SOC上。
  • 目标是在低需求任务上运行更节能的E-core，在需要高性能时运行P-core。
  • 操作系统（OS）会识别低需求和高性能任务，并将其分配给相应的核心。
• 低功耗岛：为了延长电池续航，将Netflix、YouTube、Teams等应用分配到独立的E-core组成的低功耗岛上运行，可以关闭CPU核心上的P-core和E-core，从而显著节省功耗。
  • Meteor Lake首次引入低功耗岛，运行频率较低，核心数量较少。
  • Lunar Lake通过提高E-core性能和核心数量，使得大部分KPI任务无需唤醒其他核心即可运行，从而提升了能效。

性能核与能效核 [06:40]

• 英特尔决定在同一系统中使用不同核心：能效核（E-core）和性能核（P-core）。
• Alder Lake：第一个主流产品，结合了Golden Cove（P-core）和Gracemonts（E-core）。
  • 目标是以有效成本为客户带来性能和吞吐量。
  • E-core比P-core小，但两者协同工作，运行相同的指令集架构（ISA）和软件。
  • 可以在系统中拥有更多核心和更高的吞吐量。
• 混合架构的起源：Lakefield是英特尔首款混合架构，采用1个P-core和4个E-core的组合，主要用于特定SKU和散热/功耗预算下的效率最大化。
  • 从Lakefield中学习到如何启用结合不同微架构的软件栈，以及所需的硬件指导和生态系统支持。

Lakefield的经验教训 [07:25]

• Lakefield是概念验证产品，针对小众市场。
• 学习点：
  • 学习了如何启用软件栈，以结合两种不同的微架构。
  • 了解了在进一步扩展时所需的硬件指导。
  • 意识到生态系统支持对软件准备的重要性。
• Alder Lake的里程碑：Alder Lake是英特尔首款大规模混合架构产品，致力于通过P-core和E-core最大化性能。
  • E-core被放置在更快的环形总线上，因为目标是实现性能混合。
  • 4个E-core相当于1个P-core的面积。
  • Alder Lake的发布配置是8个P-core和8个E-core，性能表现出色。

平衡P核和E核的挑战 [09:30]

• 指令集架构（ISA）对齐：确保不同核心之间的ISA兼容性是一个架构挑战。
• 功耗效率：E-core更注重功耗效率，适用于对性能要求不高的任务，但对功耗敏感。
  • SOC设计团队需要针对E-core和P-core制定不同的频率和PV曲线。
• 差异化处理：两种不同的核心可能具有不同的接口和电源管理方案。
• 电源管理控制：系统中的许多启发式算法决定了电源管理，E-core和P-core的行为可能不同。
• 共享缓存（L2 Cache）的复杂性：
  • E-core最初从单核演变为双核共享L2，然后到Gemini Lake过渡到四核共享L2，并沿用至今。
  • 在没有LLC（Last-Level Cache）的系统中，共享L2带来了新的挑战。
  • 每个核心的功耗域（Power Domain）以及增强电池续航的需求增加了复杂性。

引入低功耗岛 [13:10]

• 低功耗岛的定义：与高性能互联（如环形总线）分离的一组核心。
  • 当核心位于高性能互联上时，系统运行的成本（功耗）会增加。
  • 低功耗岛旨在运行低功耗工作负载（如Microsoft Teams），因为它只激活所需的最少组件。
• 优势：
  • 不需要激活环形总线和P-core。
  • 到内存的互联路径更短。
  • 提高了电池续航能力。
• 权衡：如果将这些E-core放在环形总线上，其功耗会略高。

能效核性能 [14:11]

• E-core的性能在不断提升，同时保持了能效。
• 性能演进：
  • Alder Lake中的E-core，到Meteor Lake、Arrow Lake和Lunar Lake，性能都有所提升。
  • Panther Lake将继续提升E-core性能。
• 设计目标：在保持电池续航、吞吐量和热设计功耗（TDP）限制场景下的效率的同时，提高E-core性能。
• 应用场景：旨在让越来越多的工作负载可以在E-core上舒适运行，尤其是在低功耗岛上。
• “无聊”的核心：E-core并非“慢核”，它们现在非常强大，即使被称为“能效核”。
• 性能对比：Skymont微架构在某些工作负载下，其性能可以与Raptor Cove P-core相媲美，例如单线程整数和浮点运算。

  

• 高频运行：在Lunar Lake中，E-core的运行频率可超过4.5 GHz。

核心演进 [16:14]

• 分支预测：P-core在容量、历史和准确性方面保持领先，并会继续发展。
• 缓存大小：CPU架构师希望有更多的缓存，因为它能提升性能，但成本也更高。
• 核心宽度与深度：随着世代演进，核心趋向于更宽更深，从而提升分支预测能力、推测处理能力和整体价值。
• 内存带宽与缓存容量：现代计算对内存带宽和缓存容量需求很高，需要更多的队列、预取和更准确的预取来消耗这些带宽。
• 解码器演进：
  • 前端解码能力不断扩展，从而更快地预测分支。
  • Skymont E-core引入了峰值9宽解码，基于3个解码簇。

    

  • P-core上的DSB（Decode Stream Buffer）继续扩展其能力，Alec和DSP可以实现8宽。

    

• 并行开发与创新共享：P-core和E-core团队并行开发，并在彼此之间共享创新。
  • 这种双CPU流的开发方式虽然投入更多，但带来了显著的性能提升。

线程调度器解释 [22:00]

• P核和E核的对称性与差异：
  • P-core和E-core执行相同的指令集，没有指令集方面的差异。
  • 由于内部资源、缓存大小和能力不同，它们在性能上存在差异（以IPC，即每周期指令数衡量）。
• 线程调度器的作用：
  • 操作系统（OS）负责调度，而线程调度器（Thread Director）提供硬件提示或建议，指导OS将特定指令集上的线程分配到最适合的核心。
  • 帮助OS将VNNI（矢量神经网络指令）等需要高性能的指令分配到P-core，而将IPC（每周期指令数）相似的标量整数或浮点运算分配到E-core。
• 线程调度器架构：
  • 核心内部组件：对指令进行分类（分为0-3类），以纳秒级速度运行。
  • SOC内部组件：包含一个表格，列出每种指令类别在哪个核心（P-core或E-core）上表现最佳（最高性能或最高效率）。
  • 将这些提示发送给OS，OS结合自身的线程优先级（前台/后台、服务质量）等信息进行最终调度决策。

    

• 线程调度器的起源：
  • 当决定将P-core和E-core结合时，发现VNNI等AI指令在P-core和E-core上的性能存在显著差异。
  • OS无法直接知道这种差异，因此需要一个接口来向OS提供硬件建议，指导线程到最高性能的核心。
  • 例如，如果一个线程正在等待工作，而另一个线程正在执行实际工作，线程调度器会指导OS将实际工作发送到高性能核心。
• 开发过程：
  • 1. 微架构层面：与P-core和E-core架构团队合作，确定IPC差异并建立遥测基础设施。
  • 2. SOC层面：与SOC架构师合作，构建整个线程调度器基础设施和表格。
  • 3. 生态系统层面：与OSV（操作系统供应商）合作伙伴（如微软、Linux、Chrome）紧密合作，获取反馈，确保接口、通信机制和协议的设计能够提供相关信息。

生态系统赋能 [27:10]

• 内部协作：英特尔内部多个团队（如架构、固件、SOC团队）跨地域（俄勒冈、以色列、圣克拉拉）紧密合作。
• 外部合作：与微软等关键客户端OS合作伙伴进行富有成效的合作。
  • 定期会议，分享模拟和真实芯片结果，共同调整设计。
  • 微软提出了避免过多更新以减少中断处理的请求。
• 线程调度器的好处：
  • IPC差异补偿：随着P-core和E-core微架构的演进，性能差异（如VNNI）会变化。线程调度器能指导OS使用正确的核。
  • 功耗预算优化：在功耗受限的小尺寸设备中，当NPU和GPU消耗大量功耗时，E-core可能比P-core更具性能优势。线程调度器会告知OS何时E-core是更优选择。
  • 统一接口：SOC拥有关于约束和代际优势的内在知识，而OS拥有关于线程优先级（前台/后台）、运行时等知识。线程调度器作为一个接口，将SOC的硬件提示传递给OS，避免OS承担过多负担。
  • 演进路线：从Alder/Raptor Lake的性能优先调度，到Meteor/Lunar Lake引入低功耗岛后，线程调度器开始侧重能效，提供关于功耗岛上任务整合的提示。

创建低功耗岛的原因 [31:50]

• 动机：
  • Alder Lake和Raptor Lake致力于性能混合架构，以在桌面市场提供顶尖性能。
  • 但英特尔也开始思考如何将这种架构用于提升能效。
• 功耗分析发现：环形总线是功耗消耗的一个主要瓶颈。
• 解决方案：将一些核心分离出来，形成一个独立的低功耗岛，使其不依赖于环形总线，从而降低功耗。
• Meteor Lake的初次尝试：
  • Meteor Lake首次尝试，包含了2个低功耗E-core。
  • 目的是让生态系统适应低功耗岛的存在，并开始为其启用用例。
• Lunar Lake的扩展：
  • Lunar Lake将低功耗岛的核心数量增加到4个。
  • 可以将更多任务放置在低功耗岛上。
• 软件演进时间：软件生态系统需要时间来适应这种新的架构，从纯粹的性能混合到同时利用能效特性。
• 持续的旅程：这是一个持续的演进过程，从Meteor Lake到Lunar Lake，再到Panther Lake。

优化调度优先级 [35:08]

• 调度演进：
  • Raptor Lake（性能优先）：早期，为最大化性能，调度倾向于P-core，E-core在同一性能环形总线上，快速完成任务后进入低功耗状态。

    

  • Meteor Lake/Arrow Lake/Lunar Lake（能效优先）：引入低功耗岛后，英特尔开始提供更多选项。
    • 线程调度器向OS提供最有效率的核心作为起始的反馈。
    • 引入**异构调度（Heteroscheduling）**选项，OEM可以在未插电（DC电源）时选择最大化效率。
    • 例如，在Meteor Lake和Arrow Lake上，低功耗岛有2个LP E-core，任务从这些核心开始。
• 异构调度的应用场景：
  • 当系统未插电时（如在飞机上），用户虽然仍关心性能，但也更关心电池续航。
  • 线程调度器会结合硬件反馈（如低功耗岛上的工作是否超出容量）来指导OS将任务保留在LP E-core上，或在必要时迁移到计算岛。
• E-core的强大功能：LP E-core不仅高效，而且性能也足够好，足以处理日常任务，如办公生产力，同时兼顾能效。
• 从PPM（每百万）包提供的灵活性：微软通过PPM包为OEM和最终用户提供选择，例如，在未插电时选择异构调度以最大化效率。

隔离区 [39:53]

• OS隔离区（OS Containment Zones）：微软根据英特尔线程调度器提供的关于效率核和计算岛核的信息，创建了隔离区概念。
• 隔离区类型：
  • 效率区（Efficiency Zone）：由LP E-core组成。
  • 混合计算区（Hybrid Compute Zone）：包含计算岛上的P-core和E-core（在Lunar Lake中只包含P-core，但在Panther Lake中会包含E-core）。
  • 无区（None Zone）：当所有核心都被使用时。

    

• 工作流：
  • 在异构调度下，OS首先从效率区开始分配任务。
  • 如果工作可以完全限制在效率区内（如Teams 3x3视频通话），则计算复合体将保持空闲，从而节省功耗。
  • 如果任务需求超过效率区（如同时进行编译和Teams通话），硬件会提供反馈，OS将任务迁移到混合计算区。
  • 需要所有核心的任务（如Cinebench MT）则会分配到无区。
• 动态调整：微软根据线程调度器的初始反馈创建这些区域，并动态调整以最大化效率。

合作伙伴配置的灵活性 [42:01]

• 客户需求：OEMs等客户希望能够对线程调度器或线程如何分配有一定的控制。
• 系统意图通信：英特尔构建了一个基础设施，将系统意图（如“冷静安静模式”或“系统过热”）传达给SOC硬件。
• Lunar Lake的实现：
  • 在Lunar Lake时期，平台软件DTT（OEM广泛使用）将系统意图传达给英特尔。
  • 英特尔根据这些输入进行功耗管理操作，例如调整频率。
  • 客户非常喜欢这个功能，因为它允许他们在需要时获得性能，即使在未插电模式下也有一定的性能预期（例如，文件在500毫秒内打开）。

    

• 好处：这种灵活性使客户可以在最大化效率的同时保持良好的用户体验。
• 未来发展：英特尔将继续在这方面投入更多精力，使客户能够根据不同系统类型（如轻薄本或游戏本）调整配置。

线程调度器挑战 [44:20]

• 结合两种微架构：在一个SOC上结合P-core和E-core本身就是一项巨大的挑战。
• 软件指导：指导软件正确处理亲和性（Affinities）是关键。
  • 英特尔建议避免使用亲和性，以最大化性能，特别是当其他IP正在消耗功耗预算时。
• 仿真平台：在获得实际硬件之前，为了解决尽可能多的问题，英特尔创建了仿真平台，运行实际工作负载，以调整接口和OS。
• 灵活的接口：为了应对首次引入此技术可能出现的问题，固件必须具有创造性，提供高度灵活性，以避免对硬件进行大规模修改。
• 大规模协作：线程调度器的成功是英特尔内部（操作系统团队、架构团队、固件团队、SOC团队）和外部（OSV合作伙伴如微软、Linux、Chrome；ISV合作伙伴；OEM合作伙伴）大规模协作的成果。
  • 确保库、编译器、操作系统等所有软件发布里程碑同步进行，以避免问题。

展望未来 [47:48]

• Panther Lake的现状：英特尔对Panther Lake目前的状态感到满意，核心已经过优化和打磨，系统良好，提供了正确的产品计算量。
• 未来的展望：
  • P-core和E-core在共性方面将更加接近，这有利于英特尔。
  • 对于个人用户，未来处理器将提供更好的电池续航和更高的性能。
• Panther Lake的期待：
  • 更先进的工艺技术。
  • 改进的P-core和E-core。
  • 增强的功耗管理功能，平衡性能、功耗和用户体验。
  • 期待一款日常使用的笔记本电脑，它具有出色的电池续航，同时提供强大的性能和更多功能，能够运行更复杂的工作负载。