谭升
非主流人工智能科学家 我和外面那些妖艳的货不一样

【CUDA 基础】6.4 重叠GPU和CPU的执行

重叠GPU和CPU的执行

除了上文说到的重叠数据传输和核函数的同时执行,另一个最主要的问题就是使用GPU的同时CPU也进行计算,这就是我们本文关注的重点。
本文示例过程如下:
– 内核调度到各自的流中
– CPU在等待事件的同时进行计算

具体代码如下:

本文完整的代码在github:https://github.com/Tony-Tan/CUDA_Freshman(欢迎随手star😝 )
运行结果是:

re-1

可见在事件stop执行之前,CPU是一直在工作的,这就达到一种并行的效果
代码中关键的一点是

是非阻塞的,否则,不能继续cpu的计算

总结

本文很短,但是,作为一个非常不错的例子,展示了GPU和CPU之间的并行。

Share

You may also like...

说点什么

avatar
  Subscribe  
提醒

由于博客移至wordpress,部分公式和代码显示不正常,博主正在努力修改,如发现公式显示错误,请及时在文章下留言,感谢您的帮助,尽请原谅!