Arm, Intel en Nvidia hebben een voorstel voor een nieuwe specificatie dat ingediend gaat worden bij de IEEE. De 8 bits-floating point-standaard of FP8 moet de ontwikkeling van kunstmatige intelligentie versnellen, beide bij het trainen en uitvoeren van de modellen. Dit formaat bepaalt de nauwkeurigheid van de zogenaamde weights. Dit zijn de factoren die voortkomen uit de trainingdata die effect hebben op de uitkomst. Gangbare formaten zijn single precision of FP32 en half precision of FP16,...
Continue reading...
Continue reading...