ArtFX - Programmation Parallèle et contention
Retour sur le cours de Programmation Parallèle à ArtFX, consacré à la gestion des accès concurrents et à la cohérence mémoire sur les processeurs multi-cœurs. L'objectif était de comprendre les problématiques liées au partage de données entre plusieurs threads, notamment les conditions de concurrence (data races), et de mesurer le coût des différents mécanismes de synchronisation.
Dans l'exercice, les étudiants devaient mettre en évidence pourquoi une simple accumulation partagée (sum += v) ne garantit pas un résultat correct en environnement concurrent.
Cette opération n'étant pas atomique, elle se décompose au niveau machine en plusieurs étapes : lecture, addition et écriture. Des accès simultanés peuvent donc entraîner des pertes de mises à jour, voir dans certaines architectures exotiques des résultats inconsistants.
Quatre implémentations étaient proposées afin de comparer leurs performances :
- Séquentiel : accumulation classique sur un seul thread, servant de référence pour les mesures.
- Mutex : utilisation de std::mutex, lock() et unlock() pour protéger la section critique et garantir l'exclusion mutuelle.
- Atomique : utilisation de std::atomic et de fetch_add() avec std::memory_order_relaxed, afin de garantir l'atomicité de l'accumulation sans imposer de contraintes d'ordonnancement mémoire supplémentaires.
- Local (Thread-Local Reduction) : accumulation dans des variables privées à chaque thread, suivie d'une réduction finale pour agréger les résultats.
Nous avons notamment de comparer le coût des mutex, la contention sur une variable atomique partagée et l'intérêt d'une réduction locale pour limiter les accès concurrents.
Un point important du cours : la synchronisation ne se résume pas à garantir la correction d'un programme. Le choix du mécanisme utilisé a également un impact direct sur ses performances et sa capacité à passer à l'échelle avec l'augmentation du nombre de cœurs.