9 |
|
|
10 |
|
#include "rtmath.h" |
11 |
|
|
12 |
< |
#define DCSCALE 11584.7 /* (1<<13)*sqrt(2) - .5 */ |
12 |
> |
#define DCSCALE 11584.5 /* ((1<<13)-.5)*sqrt(2) */ |
13 |
|
#define FXNEG 01 |
14 |
|
#define FYNEG 02 |
15 |
|
#define FZNEG 04 |
61 |
|
dv[0] = dv[1] = dv[2] = 0.; |
62 |
|
return; |
63 |
|
} |
64 |
< |
d1 = ((dc>>F1SFT & FMASK)+.5)*(1./DCSCALE); |
65 |
< |
d2 = ((dc>>F2SFT & FMASK)+.5)*(1./DCSCALE); |
64 |
> |
d1 = (dc>>F1SFT & FMASK)*(1./DCSCALE); |
65 |
> |
d2 = (dc>>F2SFT & FMASK)*(1./DCSCALE); |
66 |
|
der = sqrt(1. - d1*d1 - d2*d2); |
67 |
|
if (dc & F1X) { |
68 |
|
dv[0] = d1; |