Ipari/mérnöki rendszerekre mekkora gyakorlati haszna van az FP16-nak?
Én anno sokat szívtam azzal, hogy pl. Simulink modelleknél a teszt 64-bites fp volt, míg a generált szoftver funkció 32-bites fp volt, ezért nem hozta a pontosságot -> buktak a tesztek.
32 biten nekem a gyakorlatban kb. 8 digit-re volt elég (plusz előjel) a pontosság, tizedesponttól függetlenül. FP16-on ez még rosszabbul alakul, ezért felteszem, hogy pl. végeselem szimulációkban vagy egyéb lánc-számításokban elvész az elvárt pontosság. Vagy?
Tényleg csak kíváncsiságból kérdezem, nem akarok itt senkivel iszapbírkózni.
[ Szerkesztve ]