Vetorização SSE & AVX

menotti

172.5K views

GitHub

Open Source Your Knowledge, Become a Contributor

Technology knowledge has to be shared and made accessible for free. Join the movement.

Create Content

Previous: Uso de SSE e AVX Next: Frameworks C++ SSE/AVX

Primeiro código AVX: cálculo da SQRT

Agora que analisamos todos os requisitos, a autovectorização e as intrínsecas do AVX, podemos criar nosso primeiro programa vetorizado manualmente. Neste exercício, você precisa vetorizar um cálculo sqrt de números de ponto flutuante. Usaremos explicitamente o tipo de dados __m256 para armazenar nossos números de ponto flutuante, reduzindo a sobrecarga no carregamento de dados.

Vectorized SQRT

#pragma GCC optimize("O3","unroll-loops","omit-frame-pointer","inline") //Optimization flags
#pragma GCC option("arch=native","tune=native","no-zeroupper") //Enable AVX
#pragma GCC target("avx")  //Enable AVX
#include <x86intrin.h> //SSE Extensions
#include <bits/stdc++.h> //All main STD libraries
const int N = 64000000; //Number of tests
const int V = N/8;      //Vectorized size
//linear function, 
float linear[N];
__attribute__((optimize("no-tree-vectorize"))) //Force disable auto-vectorization
inline void normal_sqrt()
{
    for (int i = 0; i < N; ++i)
        linear[i] = sqrtf(linear[i]);
}
//Exercise 1: Create a vectorized version of the "linear" function.
//Please note the following:
// "vectorized" array is size V=N/8, because each __m256 variable holds 8 floats.
// sqrtf(const float& f) vectorized function is: _mm256_sqrt_ps(const __m256& v)
__m256 __attribute__((aligned(32))) vectorized[V]; //Vectorized array
inline void avx_sqrt()
{
  //****** Add AVX code here*******
}
 
 
using namespace std;
using namespace std::chrono;
 
high_resolution_clock::time_point now = high_resolution_clock::now();
#define TIME duration_cast<duration<double>>(high_resolution_clock::now() - now).count()
int main()
{
//Data initialization 
    for (int i = 0; i < N; ++i) { linear[i] = ((float)i)+ 0.1335f; }
    for (int i = 0; i < V; ++i) {
    for (int v=0;v<8;++v)
     {  vectorized[i][v] = ((float)(i*8+v))+ 0.1335f; }
  }
 
 //Normal sqrt benchmarking. 20*64 Million Sqrts
    now = high_resolution_clock::now();
    for (int i = 0; i < 20; ++i)
    normal_sqrt();
    double linear_time = TIME;
    cerr << "Normal sqrtf: "<< linear_time << endl;
 

Você provavelmente verá uma melhoria de desempenho de 600% ou mais. Ou seja, depois de carregar os dados, o AVX executará até 7 vezes mais rápido que o sqrtf normal. O limite teórico é de 800%, mas raramente é alcançado. Você pode esperar um aumento médio entre 300% e 600%.

Open Source Your Knowledge: become a Contributor and help others learn. Create New Content

Open Source Your Knowledge, Become a Contributor

5/9 Primeiro código AVX: cálculo SQRT

Primeiro código AVX: cálculo da SQRT

Parallelism on single Core with .NET C# and SIMD / AVX. First Example.

Introdução ao SYCL

Introdução ao OpenCL

Apprendre le C++