Une prochaine architecture GPU d'AMD pourrait bien proposer une évolution notable, en passant d'un format classique FP16 à un format bfloat16, pour brain floating point.
L'intérêt premier réside dans le fait que le bfloat16 utilise une mantisse de seulement 7 bits, contre 10 bits pour du FP16 et cela permet d'avoir un exposant de 8 bits, équivalent au FP32.
Tous ces formats (fp16, fp32 et bfloat16) utilisent une forme de notation scientifique pour encoder les nombres de type signe x mantisse x (2 ^ exposant), ainsi le FP16 a une notation de 6,55 x 10 ^ 4, alors que le bloat16 promet une notation de 3 x 10^38, quasi équivalente au format FP32.
Cette possible évolution a été constatée lors de la mise à jour des des bibliothèques ROCm d'AMD sur GitHub. Le format bfloat16 ne profiterait pas forcément au rendu dans le jeu 3D, mais pourrait être très utile dans le domaine de l'IA.
L'intérêt premier réside dans le fait que le bfloat16 utilise une mantisse de seulement 7 bits, contre 10 bits pour du FP16 et cela permet d'avoir un exposant de 8 bits, équivalent au FP32.
Tous ces formats (fp16, fp32 et bfloat16) utilisent une forme de notation scientifique pour encoder les nombres de type signe x mantisse x (2 ^ exposant), ainsi le FP16 a une notation de 6,55 x 10 ^ 4, alors que le bloat16 promet une notation de 3 x 10^38, quasi équivalente au format FP32.
Cette possible évolution a été constatée lors de la mise à jour des des bibliothèques ROCm d'AMD sur GitHub. Le format bfloat16 ne profiterait pas forcément au rendu dans le jeu 3D, mais pourrait être très utile dans le domaine de l'IA.
source : Techpower Up
Marque : AMD
Partagez :
Posté le 23 October 2019 à 09:30 par Jonathan Riemain
