ArtFX - Programmation Parallèle et SIMD
Retour sur le cours de Programmation Parallèle à ArtFX, consacré à l'exploitation du parallélisme de données au niveau matériel grâce au jeu d'instructions AVX2.
L'occasion d'introduire les concepts de SIMD (Single Instruction, Multiple Data) et de programmation bas niveau, en montrant comment exploiter les capacités vectorielles du processeur pour traiter plusieurs données simultanément sur un seul cœur CPU, avant même d'envisager la parallélisation par threads.
L'objectif du premier exercice était d'implémenter la formule y = ReLU(w . x + b) sur huit valeurs flottantes simultanément, en exploitant les registres vectoriels de 256 bits d'AVX2, sans recourir à une boucle scalaire.
Le défi technique consistait à manipuler directement les registres AVX2 et à enchaîner plusieurs instructions intrinsèques :
- _mm256_mul_ps : multiplication vectorielle de huit flottants.
- _mm256_add_ps : addition vectorielle du biais.
- _mm256_max_ps : application de la fonction d'activation ReLU en comparant chaque résultat à zéro.
Un exercice pratique pour illustrer les mécanismes du parallélisme de données et montrer comment exploiter les capacités matérielles du processeur pour optimiser des calculs numériques.