13.2 越过C和C++

对于很多开发者来说,他们会选择C和C++作为开发语言。其他的一些开发者则可能会选择别的编程语言,我们所知的很多软件是使用Java或Python开发的。这些更高级的语言有更高的生产力,通常会提供很多必要的特性(比如,垃圾收集),这些语言在前端的开发者中更加好用。这些语言还有一种特点,可移植性特别好,想想Java的口号“一次编写,处处可用”,这样开发者就不需要为一些系统底层的问题而困扰。不过,由于无法接近底层,我们用这样语言编写出来的程序,性能无法达到最佳。

为了弥补性能鸿沟,并且不需要将很多已有库使用这类语言重新再写一遍。我们这里会使用外部函数接口(FFI,foreignfunctioninterface),其可以让应用调用使用C和C++(或其他低层语言)编写的原生库。例如,Java提供了Java原生接口,Python也有同样的机制。当然,Java和Python也有已经包装好的OpenCL库(JOCL(Java bindings for OpenCL)[1], PyOpenCL[2]),可以让开发者直接调用。这种模型的确是非常底层,并且这种模型能够管理应用运行库,还有(库内无管理的)OpenCL原生代码库。为了展示这种代码的特点,代码清单13.1中展示了一个PyOpenCL版本的向量相加。

{%ace edit=false, lang=’python’%} import pyopencl as cl import numpy import numpy.linalg as la

a = numpy.random.rand(50000).astype(numpy.float32) b = numpy.random.rand(50000).astype(numpy.float32)

ctx = cl.create_some_context() queue = cl.CommandQueue(ctx)

mf = cl.mem_flags a_buf = cl.Buffer(ctx, mf.READ_ONLY | mf.COPY_HOST_PTR, hostbuf = a) b_buf = cl.Buffer(ctx, mf.READ_ONLY | mf.COPY_HOST_PTR, hostbuf = b)

prg = cl.Program(ctx, “”” kernel void vecadd(global const float a, __global const float b, __global float *c){ int gid = get_global_id(0); c[gid] = a[gid] + b[gid]; } “””).build()

prg.vecadd(queue, a.shape, None, a_buf, b_buf, dest_buf);

a_plus_b = numpy.empty_like(a) cl.enqueue_copy(queue, a_plus_b, dest_buf)

print la.norm(a_plus_b - (a + b)) {%endace%}

代码清单13.1 PyOpenCL实现的向量相加

下面的例子使用同样的一种包装API——Aparapi[3]——进行实现(之前是由AMD主导进行开发,不过现在已经是一款开源项目)。Aparapi允许Java开发者使用GPU,将一些可以进行数据并行的代码段放到GPU上运行。Aparapi运行时为了使用GPU,会将这部分代码写入Java字节码中。如果,因为某些原因Aparapi无法运行在GPU上,其会使用Java线程池进行数据并发的处理。Aparapi的意义在于,保持Java语言的语法,并发其精神。下面我们还会用向量相加展示Aparapi的使用方式(代码清单13.2),其会调用OpenCL C代码或调用OpenCL的API。

{%ace edit=false, lang=’java’%} package com.amd.aparapi.sample.add; import com.amd.aparapi.Kernel; import com.amd.aparapi.Range;

public class Main{ public static void main(String[] _args){ final int size = 512; final float[] a = new float[size]; final float[] b = new float[size];

  1. for (int i = 0; i < size; i++){
  2. a[i] = (float)(Math.random()*100);
  3. b[i] = (float)(Math.random()*100);
  4. }
  5. final float[] sum = new float[size];
  6. Kenrel kernel = new Kernel(){
  7. @Override public void run(){
  8. int gid = getGlobalId();
  9. sum[gid] = a[gid] + b[gid];
  10. }
  11. };
  12. kernel.execute(Range.create(512));
  13. for (int i = 0; i < size; i++){
  14. System.out.printf("%6.2f + %6.2f = %8.2f\n", a[i], b[i], sum[i]);
  15. }
  16. kernel.dispose();

} } {%endace%}

代码清单13.2 使用Aparapi实现的OpenCL,在Java中实现的向量相加

另外,Aparapi开发者要是用OpenCL,需要创建出一个Aparapi类的实例,在运行时重载内核函数的实现(内核函数可被动态编译),从而产生对应的Java字节码。

Aparapi通常会嵌入一些特定领域专属语言(DSL,domain-specific language)中,主机端编码语言可以是另外一种语言(本例中主机端是Java)。DSL专注于为该领域的专家提供相应接口,并且DLS通常会为给定的学术领域提供一组特定的特性——例如,医学图像。本例中,使用的领域是通用计算,实现的功能是数据并行计算。


[1] Java bindings for OpenCL(JOCL), 2012, http://www.jocl.org

[2] A.Klöckner, PyOpenCL, 2012, http://mathema.tician.de/software/pyopencl

[3] Aparapi, 2012, http://Aparapi.googlecode.com