Ansicht umschalten
Avatar von noVum
  • noVum

mehr als 1000 Beiträge seit 15.11.2004

Re: GPUs als Rechentiere

Die FPU rechnet intern immer schon mit 80 bit, allerdings wird beim
speichern auf 32/64 bit gerundet.

Alle anderen mir bekannten Architekturen rechnen allerdings nur mit
64 bit, es ist also völlig ausreichend. (Naja Itanium hat soweit ich
weiß noch 128 bit floats)

Es gibt allerdings bei SSE Befehle die nur Näherungswerte ergeben,
was der Grund für diese Abweichungen sein könnte.
Bewerten
- +
Ansicht umschalten