写CUDA到底难在哪?_湖南省常德市安乡县免彻排风设备有限公司

  • 晚上睡觉总是腰疼,有什么办法可以避免?
  • 如何看待南京景枫中心把男厕改成女厕,并宣传「此处仅有女卫生间、家庭卫生间及无障碍卫生间」?
  • 写CUDA到底难在哪?_湖南省常德市安乡县免彻排风设备有限公司

    诚信为本,市场在变,诚信永远不变...
    热门分类: 第一系列 | 第二系列 | ......>>更多
    公司动态 当前位置: 首页 > 新闻动态 > 公司动态

    写CUDA到底难在哪?

    添加时间:2025-06-20 10:40:19

    对GPU进行性能优化时,cudagraph是绕不开的话题。

    不仅是GPU,大部分的xpu都会提供类似graph mode的优化,相比于每次分别由CPU进行kernel launch的eager mode,graph mode通常都会有较大性能提升,然而也经常容易出现各种各样的奇怪问题。

    NVIDIA有一个简单的 博客 介绍,其中只使用了stream capture的形式来构造cudagraph,而且本质上就是多个kernel前后提交,根本无法展示cudagraph的复杂性。

    本文尝试从底层原理出发,根据文档 和 …。

    写CUDA到底难在哪?