Új hozzászólás Aktív témák

• #21203 Doky586 félisten ksanc #21195

  Új Válasz 2015-08-27 15:55:03 #21203

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Doky586

  félisten

  LOGOUT blog (1)

  válasz ksanc #21195 üzenetére

  Valóban: a zsebszámológép csak 16 biten megy ( 0 hiba), nagyobb pontosságon hirtelen megnő a hiba, majd elkezd csökkenni.. Kíváncsiságból winXP-n számolva 32bites (~E-77 hiba) és 512 bites (~E-532 hiba) precizitással: [link]

• #21200 Doky586 félisten ksanc #21195

  Új Válasz 2015-08-27 15:08:40 #21200

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Doky586

  félisten

  LOGOUT blog (1)

  válasz ksanc #21195 üzenetére

  Igen, a zsebszámológépem 14db szám pontosságú (kijelzőn 12db) és akár Exp 99 ig mehet..
  Még sincs kiírva (12 karakter+E) hogy -8.16484659555e-39 hanem az van hogy 0 .

Új hozzászólás Aktív témák