Как использовать шаблоны С++ в ядрах OpenCL?

Ответ 1

Существует старый способ эмуляции шаблонов на чистом языке C. Он основан на включении одного файла несколько раз (без включения защиты). Поскольку OpenCL имеет полностью функциональный препроцессор и позволяет включать файлы, этот трюк можно использовать.

Вот хорошее объяснение: http://arnold.uthar.net/index.php?n=Work.TemplatesC

Он по-прежнему намного более грязный, чем шаблоны С++: код должен быть разделен на несколько частей, и вам нужно явно создать экземпляр каждого экземпляра шаблона. Кроме того, кажется, что вы не можете делать некоторые полезные вещи, такие как реализация факториала в качестве рекурсивного шаблона.

Пример кода

Пусть применяется идея OpenCL. Предположим, что мы хотим вычислить обратный квадратный корень с помощью итерации Ньютона-Рафсона (как правило, это не очень хорошая идея). Однако тип с плавающей запятой и количество итераций могут различаться.

Прежде всего нам нужен вспомогательный заголовок ( "templates.h" ):

#ifndef TEMPLATES_H_
#define TEMPLATES_H_

#define CAT(X,Y,Z) X##_##Y##_##Z   //concatenate words
#define TEMPLATE(X,Y,Z) CAT(X,Y,Z)

#endif

Затем мы пишем функцию шаблона в "NewtonRaphsonRsqrt.cl":

#include "templates.h"

real TEMPLATE(NewtonRaphsonRsqrt, real, iters) (real x, real a) {
    int i;
    for (i = 0; i<iters; i++) {
        x *= ((real)1.5 - (0.5*a)*x*x);
    }
    return x;
}

В основном файле .cl, создайте этот шаблон следующим образом:

#define real float
#define iters 2
#include "NewtonRaphsonRsqrt.cl"  //defining NewtonRaphsonRsqrt_float_2

#define real double
#define iters 3
#include "NewtonRaphsonRsqrt.cl"  //defining NewtonRaphsonRsqrt_double_3

#define real double
#define iters 4
#include "NewtonRaphsonRsqrt.cl"  //defining NewtonRaphsonRsqrt_double_4

И тогда можно использовать его следующим образом:

double prec = TEMPLATE(NewtonRaphsonRsqrt, double, 4) (1.5, 0.5);
float approx = TEMPLATE(NewtonRaphsonRsqrt, float, 2) (1.5, 0.5);

Ответ 2

Я написал экспериментальный инструмент преобразования С++ в OpenCL C. Инструмент компилирует исходный код С++ (даже некоторые STL) в байт-код LLVM и использует модифицированную версию LLVM 'C' для удаления байт-кода в OpenCL 'C'.

См. http://dimitri-christodoulou.blogspot.com/2013/12/writing-opencl-kernels-in-c.html

Например, этот код с использованием С++ 11 std:: enable_if может быть преобразован в OpenCL 'C', а затем выполнен на графическом процессоре:

#include <type_traits>

template<class T>
T foo(T t, typename std::enable_if<std::is_integral<T>::value >::type* = 0)
{
    return 1;
}

template<class T>
T foo(T t, typename std::enable_if<std::is_floating_point<T>::value >::type* = 0)
{
    return 0;
}

extern "C" void _Kernel_enable_if_int_argument(int* arg0, int* out)
{
    out[0] = foo(arg0[0]);
}

Ответ 3

Вы можете посмотреть VexCL, который использует шаблоны выражений для генерации ядер OpenCL. Вы можете получить некоторые идеи о том, как заставить OpenCL работать с шаблонами.

Другая библиотека, которая активно работает, - Boost.Compute, которая является слоем поверх OpenCL, чтобы разрешить общий код на С++.

Общая идея состоит в том, чтобы создать ядро ​​как строку C более или менее и передать его во время выполнения OpenCL для компиляции и выполнения.

Ответ 4

Если вы действительно настроены сделать это, вы можете перенаправить ваш компилятор С++ на выбор для создания NVidia PTX (и Clang, скорее всего, сможет это сделать в любом случае). Но таким образом вы привязали бы свой код к оборудованию NVidia.

Другой способ - реализовать пользовательский бэкэнд для LLVM, основанный на текущем CBE, который будет генерировать чистый код OpenCL вместо C.

Ответ 5

Обратите внимание, что новый SYCL Стандарт Khronos имеет встроенную поддержку шаблонов С++ в OpenCL.

Ответ 6

PyOpenCL теперь использует Mako в качестве механизма шаблона. http://www.makotemplates.org/