你现在的位置是:当前位置: 首页 >


写CUDA到底难在哪?

更新时间:2025-06-22 06:50:14

对GPU进行性能优化时,cudagraph是绕不开的话题。

不仅是GPU,大部分的xpu都会提供类似graph mode的优化,相比于每次分别由CPU进行kernel launch的eager mode,graph mode通常都会有较大性能提升,然而也经常容易出现各种各样的奇怪问题。

NVIDIA有一个简单的 博客 介绍,其中只使用了stream capture的形式来构造cudagraph,而且本质上就是多个kernel前后提交,根本无法展示cudagraph的复杂性。

本文尝试从底层原理出发,根据文档 和 …。

写CUDA到底难在哪?

案例推荐

case recommendation
  • H264和H265谁画质好,求回谢谢!?

    查看案例

  • Trae和Cursor对比有什么优势吗?

    查看案例

  • 为什么 macOS 并不差,可市场总敌不过 Windows?

    查看案例

  • 如果北京放开车牌,未来会怎样?

    查看案例

  • F-35作战半径1100公里,以色列距离伊朗首都德黑兰1600公里。以色列F-35是如何轰炸伊朗的?

    查看案例

  • 公立医生帮联系民营救护车,800 公里收费 2.8 万元,收费合理吗?救护车收费标准是什么?

    查看案例

  • 中国人口正经历前所未有大转折,如何看待中国人口负增长?应该怎样应对?

    查看案例

  • 央企的信创,是否有必要把 spring 替换成国产的 solon ?

    查看案例