张士玉小黑屋

CUDA编程入门更好的阅读体验CUDA概述CUDA是NVIDIA推出的用于其发布的GPU的并行计算架构，使用CUDA可以利用GPU的并行计算引擎更加高效的完成复杂的计算难题。在目前主流的使用冯·诺依曼体系结构的计算机中，GPU属于一个外置的设备，因此即便在利用GPU进行并行计算的时候也无法脱离CPU，需要与CPU协同工作。因此当我们在说GPU并行计算时，其实指的是基于CPU+GPU的异

课程介绍课程介绍和概述课程目标学习如何编写异构并行计算系统并实现高性能和能效功能性和可维护性跨下一代的可扩展性跨供应商设备的可移植性技术并行编程API、工具和技术并行算法的原理和模式处理器架构特性和约束异构并行计算简介目标了解延迟设备（CPU内核）和吞吐量设备（GPU内核）之间的主要区别了解为什么成功的应用程序越来越多地使用这两种类型的设备CPU：面向延迟的设计强大的ALU–减少操作

前言CPU并行加速CPU并行加速的本质就是通过硬件并发（hardwareconcurrency）的形式来实现。这种的操作方式是通过单个进程里多线程，从而实现共享地址空间，全局变量，指针，引用。但是这种方式相对而言更加传统，但是同时更加具有普适性。其中操作是使用以pthread为代表的多线程并行加速pthread这是一个pthread的简单示例代码。classhelloFromObject{pu