Hirdetés

2024. május 4., szombat

Gyorskeresés

Hozzászólások

(#42) Blazs120gl válasza lezso6 (#41) üzenetére


Blazs120gl
aktív tag

Ipari/mérnöki rendszerekre mekkora gyakorlati haszna van az FP16-nak?

Én anno sokat szívtam azzal, hogy pl. Simulink modelleknél a teszt 64-bites fp volt, míg a generált szoftver funkció 32-bites fp volt, ezért nem hozta a pontosságot -> buktak a tesztek.
32 biten nekem a gyakorlatban kb. 8 digit-re volt elég (plusz előjel) a pontosság, tizedesponttól függetlenül. FP16-on ez még rosszabbul alakul, ezért felteszem, hogy pl. végeselem szimulációkban vagy egyéb lánc-számításokban elvész az elvárt pontosság. Vagy?

Tényleg csak kíváncsiságból kérdezem, nem akarok itt senkivel iszapbírkózni. :)

[ Szerkesztve ]

Copyright © 2000-2024 PROHARDVER Informatikai Kft.