ViewVC Help
View File | Revision Log | Show Annotations | Download File | Root Listing
root/radiance/ray/src/rt/ambient.c
(Generate patch)

Comparing ray/src/rt/ambient.c (file contents):
Revision 2.42 by greg, Thu Jan 2 09:37:13 1997 UTC vs.
Revision 2.114 by greg, Mon Apr 11 00:45:30 2022 UTC

# Line 1 | Line 1
1 < /* Copyright (c) 1996 Regents of the University of California */
2 <
3 < #ifndef lint
4 < static char SCCSid[] = "$SunId$ LBL";
5 < #endif
6 <
1 > static const char       RCSid[] = "$Id$";
2   /*
3   *  ambient.c - routines dealing with ambient (inter-reflected) component.
4 + *
5 + *  Declarations of external symbols in ambient.h
6   */
7  
8 < #include  "ray.h"
8 > #include "copyright.h"
9  
10 < #include  "octree.h"
10 > #include <string.h>
11  
12 + #include  "platform.h"
13 + #include  "ray.h"
14   #include  "otypes.h"
15 <
15 > #include  "otspecial.h"
16 > #include  "resolu.h"
17   #include  "ambient.h"
18
18   #include  "random.h"
19 + #include  "pmapamb.h"
20  
21   #ifndef  OCTSCALE
22   #define  OCTSCALE       1.0     /* ceil((valid rad.)/(cube size)) */
23   #endif
24  
25 < typedef struct ambtree {
26 <        AMBVAL  *alist;         /* ambient value list */
27 <        struct ambtree  *kid;   /* 8 child nodes */
28 < }  AMBTREE;                     /* ambient octree */
29 <
30 < extern CUBE  thescene;          /* contains space boundaries */
31 <
32 < extern char  *shm_boundary;     /* memory sharing boundary */
33 <
34 < #define  MAXASET        511     /* maximum number of elements in ambient set */
25 > #ifndef  MAXASET
26 > #define  MAXASET        4095    /* maximum number of elements in ambient set */
27 > #endif
28   OBJECT  ambset[MAXASET+1]={0};  /* ambient include/exclude set */
29  
30   double  maxarad;                /* maximum ambient radius */
# Line 42 | Line 35 | static AMBTREE atrunk;         /* our ambient trunk node */
35   static FILE  *ambfp = NULL;     /* ambient file pointer */
36   static int  nunflshed = 0;      /* number of unflushed ambient values */
37  
38 < #ifndef SORT_THRESH
39 < #ifdef BIGMEM
47 < #define SORT_THRESH     ((9L<<20)/sizeof(AMBVAL))
48 < #else
49 < #define SORT_THRESH     ((3L<<20)/sizeof(AMBVAL))
50 < #endif
51 < #endif
52 < #ifndef SORT_INTVL
53 < #define SORT_INTVL      (SORT_THRESH<<1)
54 < #endif
55 < #ifndef MAX_SORT_INTVL
56 < #define MAX_SORT_INTVL  (SORT_INTVL<<6)
57 < #endif
58 <
59 < static COLOR  avsum = BLKCOLOR;         /* computed ambient value sum */
38 > static double  avsum = 0.;              /* computed ambient value sum (log) */
39 > static unsigned int  navsum = 0;        /* number of values in avsum */
40   static unsigned int  nambvals = 0;      /* total number of indirect values */
41   static unsigned int  nambshare = 0;     /* number of values from file */
42 < static unsigned long  ambclock = 0;     /* ambient access clock */
43 < static unsigned long  lastsort = 0;     /* time of last value sort */
64 < static long  sortintvl = SORT_INTVL;    /* time until next sort */
42 > static FILE  *ambinp = NULL;            /* auxiliary file for input */
43 > static long  lastpos = -1;              /* last flush position */
44  
66 #define MAXACLOCK       (1L<<30)        /* clock turnover value */
67        /*
68         * Track access times unless we are sharing ambient values
69         * through memory on a multiprocessor, when we want to avoid
70         * claiming our own memory (copy on write).  Go ahead anyway
71         * if more than two thirds of our values are unshared.
72         */
73 #define tracktime       (shm_boundary == NULL || nambvals > 3*nambshare)
74
45   #define  AMBFLUSH       (BUFSIZ/AMBVALSIZ)
46  
47 < #define  newambval()    (AMBVAL *)bmalloc(sizeof(AMBVAL))
47 > #define  newambval()    (AMBVAL *)malloc(sizeof(AMBVAL))
48  
49 < extern long  ftell(), lseek();
50 < static int  initambfile(), avsave(), avinsert(), sortambvals(), avlmemi();
51 < static AMBVAL  *avstore();
49 > #define  tfunc(lwr, x, upr)     (((x)-(lwr))/((upr)-(lwr)))
50 >
51 > static void initambfile(int creat);
52 > static void avsave(AMBVAL *av);
53 > static AMBVAL *avstore(AMBVAL  *aval);
54 > static AMBTREE *newambtree(void);
55 > static void freeambtree(AMBTREE  *atp);
56 >
57 > typedef void unloadtf_t(AMBVAL *);
58 > static unloadtf_t avinsert;
59 > static unloadtf_t avfree;
60 > static void unloadatree(AMBTREE  *at, unloadtf_t *f);
61 >
62 > static void sortambvals(void);
63 >
64 > static int      plugaleak(RAY *r, AMBVAL *ap, FVECT anorm, double ang);
65 > static double   sumambient(COLOR acol, RAY *r, FVECT rn, int al,
66 >                                AMBTREE *at, FVECT c0, double s);
67 > static int      makeambient(COLOR acol, RAY *r, FVECT rn, int al);
68 > static int      extambient(COLOR cr, AMBVAL *ap, FVECT pv, FVECT nv,
69 >                                FVECT uvw[3]);
70 >
71   #ifdef  F_SETLKW
72 < static  aflock();
72 > static void aflock(int  typ);
73   #endif
74  
75  
76 < setambres(ar)                           /* set ambient resolution */
77 < int  ar;
76 > void
77 > setambres(                              /* set ambient resolution */
78 >        int  ar
79 > )
80   {
81          ambres = ar < 0 ? 0 : ar;               /* may be done already */
82                                                  /* set min & max radii */
83          if (ar <= 0) {
84                  minarad = 0;
85 <                maxarad = thescene.cusize / 2.0;
85 >                maxarad = thescene.cusize*0.2;
86          } else {
87                  minarad = thescene.cusize / ar;
88 <                maxarad = 64 * minarad;                 /* heuristic */
89 <                if (maxarad > thescene.cusize / 2.0)
90 <                        maxarad = thescene.cusize / 2.0;
88 >                maxarad = 64.0 * minarad;               /* heuristic */
89 >                if (maxarad > thescene.cusize*0.2)
90 >                        maxarad = thescene.cusize*0.2;
91          }
92          if (minarad <= FTINY)
93 <                minarad = 10*FTINY;
93 >                minarad = 10.0*FTINY;
94          if (maxarad <= minarad)
95 <                maxarad = 64 * minarad;
95 >                maxarad = 64.0 * minarad;
96   }
97  
98  
99 < setambacc(newa)                         /* set ambient accuracy */
100 < double  newa;
99 > void
100 > setambacc(                              /* set ambient accuracy */
101 >        double  newa
102 > )
103   {
104 <        double  ambdiff;
105 <
106 <        if (newa < 0.0)
107 <                newa = 0.0;
108 <        ambdiff = fabs(newa - ambacc);
109 <        if (ambdiff >= .01 && (ambacc = newa) > FTINY && nambvals > 0)
110 <                sortambvals(1);                 /* rebuild tree */
104 >        static double   olda;           /* remember previous setting here */
105 >        
106 >        newa *= (newa > 0);
107 >        if (fabs(newa - olda) >= .05*(newa + olda)) {
108 >                ambacc = newa;
109 >                if (ambacc > FTINY && nambvals > 0)
110 >                        sortambvals();          /* rebuild tree */
111 >        }
112   }
113  
114  
115 < setambient(afile)                       /* initialize calculation */
116 < char  *afile;
115 > void
116 > setambient(void)                                /* initialize calculation */
117   {
118 <        long  pos, flen;
118 >        int     readonly = 0;
119 >        long    flen;
120          AMBVAL  amb;
121 +                                                /* make sure we're fresh */
122 +        ambdone();
123                                                  /* init ambient limits */
124          setambres(ambres);
125          setambacc(ambacc);
126 <        if (afile == NULL)
126 >        if (ambfile == NULL || !ambfile[0])
127                  return;
128          if (ambacc <= FTINY) {
129                  sprintf(errmsg, "zero ambient accuracy so \"%s\" not opened",
130 <                                afile);
130 >                                ambfile);
131                  error(WARNING, errmsg);
132                  return;
133          }
134                                                  /* open ambient file */
135 <        if ((ambfp = fopen(afile, "r+")) != NULL) {
136 <                initambfile(0);
137 <                pos = ftell(ambfp);
135 >        if ((ambfp = fopen(ambfile, "r+")) == NULL)
136 >                readonly = (ambfp = fopen(ambfile, "r")) != NULL;
137 >        if (ambfp != NULL) {
138 >                initambfile(0);                 /* file exists */
139 >                lastpos = ftell(ambfp);
140                  while (readambval(&amb, ambfp))
141 <                        avinsert(avstore(&amb));
142 <                                                /* align */
143 <                pos += (long)nambvals*AMBVALSIZ;
145 <                flen = lseek(fileno(ambfp), 0L, 2);
146 <                if (flen != pos) {
141 >                        avstore(&amb);
142 >                nambshare = nambvals;           /* share loaded values */
143 >                if (readonly) {
144                          sprintf(errmsg,
145 +                                "loaded %u values from read-only ambient file",
146 +                                        nambvals);
147 +                        error(WARNING, errmsg);
148 +                        fclose(ambfp);          /* close file so no writes */
149 +                        ambfp = NULL;
150 +                        return;                 /* avoid ambsync() */
151 +                }
152 +                                                /* align file pointer */
153 +                lastpos += (long)nambvals*AMBVALSIZ;
154 +                flen = lseek(fileno(ambfp), (off_t)0, SEEK_END);
155 +                if (flen != lastpos) {
156 +                        sprintf(errmsg,
157                          "ignoring last %ld values in ambient file (corrupted)",
158 <                                        (flen - pos)/AMBVALSIZ);
158 >                                        (flen - lastpos)/AMBVALSIZ);
159                          error(WARNING, errmsg);
160 <                        fseek(ambfp, pos, 0);
161 <                        ftruncate(fileno(ambfp), pos);
160 >                        fseek(ambfp, lastpos, SEEK_SET);
161 >                        ftruncate(fileno(ambfp), (off_t)lastpos);
162                  }
163 <                nambshare = nambvals;
164 <        } else if ((ambfp = fopen(afile, "w+")) != NULL)
165 <                initambfile(1);
166 <        else {
167 <                sprintf(errmsg, "cannot open ambient file \"%s\"", afile);
163 >        } else if ((ambfp = fopen(ambfile, "w+")) != NULL) {
164 >                initambfile(1);                 /* else create new file */
165 >                fflush(ambfp);
166 >                lastpos = ftell(ambfp);
167 >        } else {
168 >                sprintf(errmsg, "cannot open ambient file \"%s\"", ambfile);
169                  error(SYSTEM, errmsg);
170          }
171 <        nunflshed++;    /* lie */
172 <        ambsync();
171 > #ifdef  F_SETLKW
172 >        aflock(F_UNLCK);                        /* release file */
173 > #endif
174   }
175  
176  
177 < ambnotify(obj)                  /* record new modifier */
178 < OBJECT  obj;
177 > void
178 > ambdone(void)                   /* close ambient file and free memory */
179   {
180 +        if (ambfp != NULL) {            /* close ambient file */
181 +                ambsync();
182 +                fclose(ambfp);
183 +                ambfp = NULL;
184 +                if (ambinp != NULL) {  
185 +                        fclose(ambinp);
186 +                        ambinp = NULL;
187 +                }
188 +                lastpos = -1;
189 +        }
190 +                                        /* free ambient tree */
191 +        unloadatree(&atrunk, avfree);
192 +                                        /* reset state variables */
193 +        avsum = 0.;
194 +        navsum = 0;
195 +        nambvals = 0;
196 +        nambshare = 0;
197 + }
198 +
199 +
200 + void
201 + ambnotify(                      /* record new modifier */
202 +        OBJECT  obj
203 + )
204 + {
205          static int  hitlimit = 0;
206 <        register OBJREC  *o = objptr(obj);
207 <        register char  **amblp;
206 >        OBJREC   *o;
207 >        char  **amblp;
208  
209 +        if (obj == OVOID) {             /* starting over */
210 +                ambset[0] = 0;
211 +                hitlimit = 0;
212 +                return;
213 +        }
214 +        o = objptr(obj);
215          if (hitlimit || !ismodifier(o->otype))
216                  return;
217          for (amblp = amblist; *amblp != NULL; amblp++)
# Line 185 | Line 227 | OBJECT obj;
227   }
228  
229  
230 < ambient(acol, r, nrm)           /* compute ambient component for ray */
231 < COLOR  acol;
232 < register RAY  *r;
233 < FVECT  nrm;
230 > void
231 > multambient(            /* compute ambient component & multiply by coef. */
232 >        COLOR  aval,
233 >        RAY  *r,
234 >        FVECT  nrm
235 > )
236   {
237 +        static double  logAvgAbsorp = 1;
238          static int  rdepth = 0;                 /* ambient recursion */
239 <        double  d;
239 >        COLOR   acol, caustic;
240 >        int     i, ok;
241 >        double  d, l;
242  
243 +        /* PMAP: Factor in ambient from photon map, if enabled and ray is
244 +         * ambient. Return as all ambient components accounted for, else
245 +         * continue. */
246 +        if (ambPmap(aval, r, rdepth))
247 +                return;
248 +
249 +        if (logAvgAbsorp > 0)                   /* exclude in -aw to avoid growth */
250 +                logAvgAbsorp = log(1.-AVGREFL);
251 +
252 +        /* PMAP: Factor in specular-diffuse ambient (caustics) from photon
253 +         * map, if enabled and ray is primary, else caustic is zero.  Continue
254 +         * with RADIANCE ambient calculation */
255 +        copycolor(caustic, aval);
256 +        ambPmapCaustic(caustic, r, rdepth);
257 +        
258          if (ambdiv <= 0)                        /* no ambient calculation */
259                  goto dumbamb;
260                                                  /* check number of bounces */
# Line 204 | Line 266 | FVECT  nrm;
266                  goto dumbamb;
267  
268          if (ambacc <= FTINY) {                  /* no ambient storage */
269 +                FVECT   uvd[2];
270 +                float   dgrad[2], *dgp = NULL;
271 +
272 +                if (nrm != r->ron && DOT(nrm,r->ron) < 0.9999)
273 +                        dgp = dgrad;            /* compute rotational grad. */
274 +                copycolor(acol, aval);
275                  rdepth++;
276 <                d = doambient(acol, r, r->rweight, NULL, NULL);
276 >                ok = doambient(acol, r, r->rweight,
277 >                                uvd, NULL, NULL, dgp, NULL);
278                  rdepth--;
279 <                if (d <= FTINY)
279 >                if (!ok)
280                          goto dumbamb;
281 +                if ((ok > 0) & (dgp != NULL)) { /* apply texture */
282 +                        FVECT   v1;
283 +                        VCROSS(v1, r->ron, nrm);
284 +                        d = 1.0;
285 +                        for (i = 3; i--; )
286 +                                d += v1[i] * (dgp[0]*uvd[0][i] + dgp[1]*uvd[1][i]);
287 +                        if (d >= 0.05)
288 +                                scalecolor(acol, d);
289 +                }
290 +                copycolor(aval, acol);
291 +
292 +                /* PMAP: add in caustic */
293 +                addcolor(aval, caustic);
294                  return;
295          }
296 <
215 <        if (tracktime)                          /* sort to minimize thrashing */
216 <                sortambvals(0);
217 <                                                /* get ambient value */
296 >                                                /* interpolate ambient value */
297          setcolor(acol, 0.0, 0.0, 0.0);
298          d = sumambient(acol, r, nrm, rdepth,
299                          &atrunk, thescene.cuorg, thescene.cusize);
300 +                        
301          if (d > FTINY) {
302 <                scalecolor(acol, 1.0/d);
302 >                d = 1.0/d;
303 >                scalecolor(acol, d);
304 >                multcolor(aval, acol);
305 >
306 >                /* PMAP: add in caustic */
307 >                addcolor(aval, caustic);
308                  return;
309          }
310 +        
311          rdepth++;                               /* need to cache new value */
312 <        d = makeambient(acol, r, nrm, rdepth-1);
312 >        ok = makeambient(acol, r, nrm, rdepth-1);
313          rdepth--;
314 <        if (d > FTINY)
314 >        
315 >        if (ok) {
316 >                multcolor(aval, acol);          /* computed new value */
317 >
318 >                /* PMAP: add in caustic */
319 >                addcolor(aval, caustic);
320                  return;
321 +        }
322 +        
323   dumbamb:                                        /* return global value */
324 <        copycolor(acol, ambval);
325 <        if (ambvwt <= 0 | nambvals == 0)
324 >        if ((ambvwt <= 0) | (navsum == 0)) {
325 >                multcolor(aval, ambval);
326 >                
327 >                /* PMAP: add in caustic */
328 >                addcolor(aval, caustic);
329                  return;
330 <        scalecolor(acol, (double)ambvwt);
331 <        addcolor(acol, avsum);                  /* average in computations */
332 <        d = 1.0/(ambvwt+nambvals);
333 <        scalecolor(acol, d);
330 >        }
331 >        
332 >        l = bright(ambval);                     /* average in computations */  
333 >        if (l > FTINY) {
334 >                d = (log(l)*(double)ambvwt + avsum + logAvgAbsorp*navsum) /
335 >                                (double)(ambvwt + navsum);
336 >                d = exp(d) / l;
337 >                scalecolor(aval, d);
338 >                multcolor(aval, ambval);        /* apply color of ambval */
339 >        } else {
340 >                d = exp( avsum/(double)navsum + logAvgAbsorp );
341 >                scalecolor(aval, d);            /* neutral color */
342 >        }
343   }
344  
345  
346 < double
347 < sumambient(acol, r, rn, al, at, c0, s)  /* get interpolated ambient value */
348 < COLOR  acol;
244 < register RAY  *r;
245 < FVECT  rn;
246 < int  al;
247 < AMBTREE  *at;
248 < FVECT  c0;
249 < double  s;
346 > /* Plug a potential leak where ambient cache value is occluded */
347 > static int
348 > plugaleak(RAY *r, AMBVAL *ap, FVECT anorm, double ang)
349   {
350 <        double  d, e1, e2, wt, wsum;
351 <        COLOR  ct;
352 <        FVECT  ck0;
353 <        int  i;
354 <        register int  j;
256 <        register AMBVAL  *av;
350 >        const double    cost70sq = 0.1169778;   /* cos(70deg)^2 */
351 >        RAY             rtst;
352 >        FVECT           vdif;
353 >        double          normdot, ndotd, nadotd;
354 >        double          a, b, c, t[2];
355  
356 <        wsum = 0.0;
357 <                                        /* do this node */
356 >        ang += 2.*PI*(ang < 0);                 /* check direction flags */
357 >        if ( !(ap->corral>>(int)(ang*(16./PI)) & 1) )
358 >                return(0);
359 >        /*
360 >         * Generate test ray, targeting 20 degrees above sample point plane
361 >         * along surface normal from cache position.  This should be high
362 >         * enough to miss local geometry we don't really care about.
363 >         */
364 >        VSUB(vdif, ap->pos, r->rop);
365 >        normdot = DOT(anorm, r->ron);
366 >        ndotd = DOT(vdif, r->ron);
367 >        nadotd = DOT(vdif, anorm);
368 >        a = normdot*normdot - cost70sq;
369 >        b = 2.0*(normdot*ndotd - nadotd*cost70sq);
370 >        c = ndotd*ndotd - DOT(vdif,vdif)*cost70sq;
371 >        if (quadratic(t, a, b, c) != 2)
372 >                return(1);                      /* should rarely happen */
373 >        if (t[1] <= FTINY)
374 >                return(0);                      /* should fail behind test */
375 >        rayorigin(&rtst, SHADOW, r, NULL);
376 >        VSUM(rtst.rdir, vdif, anorm, t[1]);     /* further dist. > plane */
377 >        rtst.rmax = normalize(rtst.rdir);       /* short ray test */
378 >        while (localhit(&rtst, &thescene)) {    /* check for occluder */
379 >                OBJREC  *m = findmaterial(rtst.ro);
380 >                if (m != NULL && !istransp(m->otype) && !isBSDFproxy(m) &&
381 >                                (rtst.clipset == NULL ||
382 >                                        !inset(rtst.clipset, rtst.ro->omod)))
383 >                        return(1);              /* plug light leak */
384 >                VCOPY(rtst.rorg, rtst.rop);     /* skip invisible surface */
385 >                rtst.rmax -= rtst.rot;
386 >                rayclear(&rtst);
387 >        }
388 >        return(0);                              /* seems we're OK */
389 > }
390 >
391 >
392 > static double
393 > sumambient(             /* get interpolated ambient value */
394 >        COLOR  acol,
395 >        RAY  *r,
396 >        FVECT  rn,
397 >        int  al,
398 >        AMBTREE  *at,
399 >        FVECT  c0,
400 >        double  s
401 > )
402 > {                       /* initial limit is 10 degrees plus ambacc radians */
403 >        const double    minangle = 10.0 * PI/180.;
404 >        double          maxangle = minangle + ambacc;
405 >        double          wsum = 0.0;
406 >        FVECT           ck0;
407 >        int             i, j;
408 >        AMBVAL          *av;
409 >
410 >        if (at->kid != NULL) {          /* sum children first */                                
411 >                s *= 0.5;
412 >                for (i = 0; i < 8; i++) {
413 >                        for (j = 0; j < 3; j++) {
414 >                                ck0[j] = c0[j];
415 >                                if (1<<j & i)
416 >                                        ck0[j] += s;
417 >                                if (r->rop[j] < ck0[j] - OCTSCALE*s)
418 >                                        break;
419 >                                if (r->rop[j] > ck0[j] + (1.0+OCTSCALE)*s)
420 >                                        break;
421 >                        }
422 >                        if (j == 3)
423 >                                wsum += sumambient(acol, r, rn, al,
424 >                                                        at->kid+i, ck0, s);
425 >                }
426 >                                        /* good enough? */
427 >                if (wsum >= 0.05 && s > minarad*10.0)
428 >                        return(wsum);
429 >        }
430 >                                        /* adjust maximum angle */
431 >        if (at->alist != NULL && (at->alist->lvl <= al) & (r->rweight < 0.6))
432 >                maxangle = (maxangle - PI/2.)*pow(r->rweight,0.13) + PI/2.;
433 >                                        /* sum this node */
434          for (av = at->alist; av != NULL; av = av->next) {
435 <                if (tracktime)
436 <                        av->latick = ambclock;
435 >                double  u, v, d, delta_r2, delta_t2;
436 >                COLOR   ct;
437 >                FVECT   uvw[3];
438                  /*
439 <                 *  Ambient level test.
439 >                 *  Ambient level test
440                   */
441 <                if (av->lvl > al)       /* list sorted, so this works */
441 >                if (av->lvl > al ||     /* list sorted, so this works */
442 >                                (av->lvl == al) & (av->weight < 0.9*r->rweight))
443                          break;
444 <                if (av->weight < r->rweight-FTINY)
444 >                /*
445 >                 *  Direction test using unperturbed normal
446 >                 */
447 >                decodedir(uvw[2], av->ndir);
448 >                d = DOT(uvw[2], r->ron);
449 >                if (d <= 0.0)           /* >= 90 degrees */
450                          continue;
451 +                delta_r2 = 2.0 - 2.0*d; /* approx. radians^2 */
452 +                if (delta_r2 >= maxangle*maxangle)
453 +                        continue;
454                  /*
455 <                 *  Ambient radius test.
455 >                 *  Modified ray behind test
456                   */
457 <                d = av->pos[0] - r->rop[0];
458 <                e1 = d * d;
459 <                d = av->pos[1] - r->rop[1];
276 <                e1 += d * d;
277 <                d = av->pos[2] - r->rop[2];
278 <                e1 += d * d;
279 <                e1 /= av->rad * av->rad;
280 <                if (e1 > ambacc*ambacc*1.21)
457 >                VSUB(ck0, r->rop, av->pos);
458 >                d = DOT(ck0, uvw[2]);
459 >                if (d < -minarad*ambacc-.001)
460                          continue;
461 +                d /= av->rad[0];
462 +                delta_t2 = d*d;
463 +                if (delta_t2 >= ambacc*ambacc)
464 +                        continue;
465                  /*
466 <                 *  Normal direction test.
466 >                 *  Elliptical radii test based on Hessian
467                   */
468 <                e2 = (1.0 - DOT(av->dir, r->ron)) * r->rweight;
469 <                if (e2 < 0.0) e2 = 0.0;
470 <                if (e1 + e2 > ambacc*ambacc*1.21)
468 >                decodedir(uvw[0], av->udir);
469 >                VCROSS(uvw[1], uvw[2], uvw[0]);
470 >                d = (u = DOT(ck0, uvw[0])) / av->rad[0];
471 >                delta_t2 += d*d;
472 >                d = (v = DOT(ck0, uvw[1])) / av->rad[1];
473 >                delta_t2 += d*d;
474 >                if (delta_t2 >= ambacc*ambacc)
475                          continue;
476                  /*
477 <                 *  Ray behind test.
477 >                 *  Test for potential light leak
478                   */
479 <                d = 0.0;
293 <                for (j = 0; j < 3; j++)
294 <                        d += (r->rop[j] - av->pos[j]) *
295 <                                        (av->dir[j] + r->ron[j]);
296 <                if (d*0.5 < -minarad*ambacc-.001)
479 >                if (av->corral && plugaleak(r, av, uvw[2], atan2a(v,u)))
480                          continue;
481                  /*
482 <                 *  Jittering final test reduces image artifacts.
482 >                 *  Extrapolate value and compute final weight (hat function)
483                   */
484 <                wt = sqrt(e1) + sqrt(e2);
302 <                if (wt > ambacc*(.9+.2*urand(9015+samplendx)))
484 >                if (!extambient(ct, av, r->rop, rn, uvw))
485                          continue;
486 <                if (wt <= 1e-3)
487 <                        wt = 1e3;
488 <                else
307 <                        wt = 1.0 / wt;
308 <                wsum += wt;
309 <                extambient(ct, av, r->rop, rn);
310 <                scalecolor(ct, wt);
486 >                d = tfunc(maxangle, sqrt(delta_r2), 0.0) *
487 >                        tfunc(ambacc, sqrt(delta_t2), 0.0);
488 >                scalecolor(ct, d);
489                  addcolor(acol, ct);
490 +                wsum += d;
491          }
313        if (at->kid == NULL)
314                return(wsum);
315                                        /* do children */
316        s *= 0.5;
317        for (i = 0; i < 8; i++) {
318                for (j = 0; j < 3; j++) {
319                        ck0[j] = c0[j];
320                        if (1<<j & i)
321                                ck0[j] += s;
322                        if (r->rop[j] < ck0[j] - OCTSCALE*s)
323                                break;
324                        if (r->rop[j] > ck0[j] + (1.0+OCTSCALE)*s)
325                                break;
326                }
327                if (j == 3)
328                        wsum += sumambient(acol, r, rn, al, at->kid+i, ck0, s);
329        }
492          return(wsum);
493   }
494  
495  
496 < double
497 < makeambient(acol, r, rn, al)    /* make a new ambient value */
498 < COLOR  acol;
499 < register RAY  *r;
500 < FVECT  rn;
501 < int  al;
496 > static int
497 > makeambient(            /* make a new ambient value for storage */
498 >        COLOR  acol,
499 >        RAY  *r,
500 >        FVECT  rn,
501 >        int  al
502 > )
503   {
504          AMBVAL  amb;
505 <        FVECT   gp, gd;
506 <                                                /* compute weight */
507 <        amb.weight = pow(AVGREFL, (double)al);
508 <        if (r->rweight < 0.1*amb.weight)        /* heuristic */
509 <                amb.weight = r->rweight;
505 >        FVECT   uvw[3];
506 >        int     i;
507 >
508 >        amb.weight = 1.0;                       /* compute weight */
509 >        for (i = al; i-- > 0; )
510 >                amb.weight *= AVGREFL;
511 >        if (r->rweight < 0.1*amb.weight)        /* heuristic override */
512 >                amb.weight = 1.25*r->rweight;
513 >        setcolor(acol, AVGREFL, AVGREFL, AVGREFL);
514                                                  /* compute ambient */
515 <        amb.rad = doambient(acol, r, amb.weight, gp, gd);
516 <        if (amb.rad <= FTINY)
517 <                return(0.0);
518 <                                                /* store it */
515 >        i = doambient(acol, r, amb.weight,
516 >                        uvw, amb.rad, amb.gpos, amb.gdir, &amb.corral);
517 >        scalecolor(acol, 1./AVGREFL);           /* undo assumed reflectance */
518 >        if (i <= 0 || amb.rad[0] <= FTINY)      /* no Hessian or zero radius */
519 >                return(i);
520 >                                                /* store value */
521          VCOPY(amb.pos, r->rop);
522 <        VCOPY(amb.dir, r->ron);
522 >        amb.ndir = encodedir(r->ron);
523 >        amb.udir = encodedir(uvw[0]);
524          amb.lvl = al;
525          copycolor(amb.val, acol);
356        VCOPY(amb.gpos, gp);
357        VCOPY(amb.gdir, gd);
526                                                  /* insert into tree */
527          avsave(&amb);                           /* and save to file */
528 <        if (rn != r->ron)
529 <                extambient(acol, &amb, r->rop, rn);     /* texture */
530 <        return(amb.rad);
528 >        if (rn != r->ron) {                     /* texture */
529 >                VCOPY(uvw[2], r->ron);
530 >                extambient(acol, &amb, r->rop, rn, uvw);
531 >        }
532 >        return(1);
533   }
534  
535  
536 < extambient(cr, ap, pv, nv)              /* extrapolate value at pv, nv */
537 < COLOR  cr;
538 < register AMBVAL  *ap;
539 < FVECT  pv, nv;
536 > static int
537 > extambient(             /* extrapolate value at pv, nv */
538 >        COLOR  cr,
539 >        AMBVAL   *ap,
540 >        FVECT  pv,
541 >        FVECT  nv,
542 >        FVECT  uvw[3]
543 > )
544   {
545 <        FVECT  v1, v2;
546 <        register int  i;
547 <        double  d;
545 >        const double    min_d = 0.05;
546 >        const double    max_d = 20.;
547 >        static FVECT    my_uvw[3];
548 >        FVECT           v1;
549 >        int             i;
550 >        double          d = 1.0;        /* zeroeth order */
551  
552 <        d = 1.0;                        /* zeroeth order */
553 <                                        /* gradient due to translation */
554 <        for (i = 0; i < 3; i++)
555 <                d += ap->gpos[i]*(pv[i]-ap->pos[i]);
556 <                                        /* gradient due to rotation */
380 <        VCOPY(v1, ap->dir);
381 <        fcross(v2, v1, nv);
382 <        d += DOT(ap->gdir, v2);
383 <        if (d <= 0.0) {
384 <                setcolor(cr, 0.0, 0.0, 0.0);
385 <                return;
552 >        if (uvw == NULL) {              /* need local coordinates? */
553 >                decodedir(my_uvw[2], ap->ndir);
554 >                decodedir(my_uvw[0], ap->udir);
555 >                VCROSS(my_uvw[1], my_uvw[2], my_uvw[0]);
556 >                uvw = my_uvw;
557          }
558 +        for (i = 3; i--; )              /* gradient due to translation */
559 +                d += (pv[i] - ap->pos[i]) *
560 +                        (ap->gpos[0]*uvw[0][i] + ap->gpos[1]*uvw[1][i]);
561 +
562 +        VCROSS(v1, uvw[2], nv);         /* gradient due to rotation */
563 +        for (i = 3; i--; )
564 +                d += v1[i] * (ap->gdir[0]*uvw[0][i] + ap->gdir[1]*uvw[1][i]);
565 +        
566 +        if (d < min_d)                  /* clamp min/max scaling */
567 +                d = min_d;
568 +        else if (d > max_d)
569 +                d = max_d;
570          copycolor(cr, ap->val);
571          scalecolor(cr, d);
572 +        return(d > min_d);
573   }
574  
575  
576 < static
577 < initambfile(creat)              /* initialize ambient file */
578 < int  creat;
576 > static void
577 > avinsert(                               /* insert ambient value in our tree */
578 >        AMBVAL *av
579 > )
580   {
581 <        extern char  *progname, *octname, VersionID[];
581 >        AMBTREE  *at;
582 >        AMBVAL  *ap;
583 >        AMBVAL  avh;
584 >        FVECT  ck0;
585 >        double  s;
586 >        int  branch;
587 >        int  i;
588  
589 +        if (av->rad[0] <= FTINY)
590 +                error(CONSISTENCY, "zero ambient radius in avinsert");
591 +        at = &atrunk;
592 +        VCOPY(ck0, thescene.cuorg);
593 +        s = thescene.cusize;
594 +        while (s*(OCTSCALE/2) > av->rad[1]*ambacc) {
595 +                if (at->kid == NULL)
596 +                        if ((at->kid = newambtree()) == NULL)
597 +                                error(SYSTEM, "out of memory in avinsert");
598 +                s *= 0.5;
599 +                branch = 0;
600 +                for (i = 0; i < 3; i++)
601 +                        if (av->pos[i] > ck0[i] + s) {
602 +                                ck0[i] += s;
603 +                                branch |= 1 << i;
604 +                        }
605 +                at = at->kid + branch;
606 +        }
607 +        avh.next = at->alist;           /* order by increasing level */
608 +        for (ap = &avh; ap->next != NULL; ap = ap->next)
609 +                if ( ap->next->lvl > av->lvl ||
610 +                                (ap->next->lvl == av->lvl) &
611 +                                (ap->next->weight <= av->weight) )
612 +                        break;
613 +        av->next = ap->next;
614 +        ap->next = (AMBVAL*)av;
615 +        at->alist = avh.next;
616 + }
617 +
618 +
619 + static void
620 + initambfile(            /* initialize ambient file */
621 +        int  cre8
622 + )
623 + {
624 +        extern char  *progname, *octname;
625 +        static char  *mybuf = NULL;
626 +
627   #ifdef  F_SETLKW
628 <        aflock(creat ? F_WRLCK : F_RDLCK);
628 >        aflock(cre8 ? F_WRLCK : F_RDLCK);
629   #endif
630 < #ifdef MSDOS
631 <        setmode(fileno(ambfp), O_BINARY);
632 < #endif
633 <        setbuf(ambfp, bmalloc(BUFSIZ+8));
634 <        if (creat) {                    /* new file */
630 >        SET_FILE_BINARY(ambfp);
631 >        if (mybuf == NULL)
632 >                mybuf = (char *)bmalloc(BUFSIZ+8);
633 >        setbuf(ambfp, mybuf);
634 >        if (cre8) {                     /* new file */
635                  newheader("RADIANCE", ambfp);
636                  fprintf(ambfp, "%s -av %g %g %g -aw %d -ab %d -aa %g ",
637                                  progname, colval(ambval,RED),
638                                  colval(ambval,GRN), colval(ambval,BLU),
639                                  ambvwt, ambounce, ambacc);
640 <                fprintf(ambfp, "-ad %d -as %d -ar %d %s\n",
641 <                                ambdiv, ambssamp, ambres,
642 <                                octname==NULL ? "" : octname);
640 >                fprintf(ambfp, "-ad %d -as %d -ar %d ",
641 >                                ambdiv, ambssamp, ambres);
642 >                fprintf(ambfp, "-dt %g -dc %g -ss %g -lr %d -lw %g ",
643 >                                shadthresh, shadcert, specjitter,
644 >                                maxdepth, minweight);
645 >                if (octname != NULL)
646 >                        fputs(octname, ambfp);
647 >                fputc('\n', ambfp);
648                  fprintf(ambfp, "SOFTWARE= %s\n", VersionID);
649 +                fputnow(ambfp);
650                  fputformat(AMBFMT, ambfp);
651 <                putc('\n', ambfp);
651 >                fputc('\n', ambfp);
652                  putambmagic(ambfp);
653          } else if (checkheader(ambfp, AMBFMT, NULL) < 0 || !hasambmagic(ambfp))
654                  error(USER, "bad ambient file");
655   }
656  
657  
658 < static
659 < avsave(av)                              /* insert and save an ambient value */
660 < AMBVAL  *av;
658 > static void
659 > avsave(                         /* insert and save an ambient value */
660 >        AMBVAL  *av
661 > )
662   {
663 <        avinsert(avstore(av));
663 >        avstore(av);
664          if (ambfp == NULL)
665                  return;
666          if (writambval(av, ambfp) < 0)
# Line 434 | Line 670 | AMBVAL *av;
670                          goto writerr;
671          return;
672   writerr:
673 <        error(SYSTEM, "error writing ambient file");
673 >        error(SYSTEM, "error writing to ambient file");
674   }
675  
676  
677   static AMBVAL *
678 < avstore(aval)                           /* allocate memory and store aval */
679 < register AMBVAL  *aval;
678 > avstore(                                /* allocate memory and save aval */
679 >        AMBVAL  *aval
680 > )
681   {
682 <        register AMBVAL  *av;
682 >        AMBVAL  *av;
683 >        double  d;
684  
685          if ((av = newambval()) == NULL)
686                  error(SYSTEM, "out of memory in avstore");
687 <        copystruct(av, aval);
450 <        av->latick = ambclock;
687 >        *av = *aval;
688          av->next = NULL;
452        addcolor(avsum, av->val);       /* add to sum for averaging */
689          nambvals++;
690 +        d = bright(av->val);
691 +        if (d > FTINY) {                /* add to log sum for averaging */
692 +                avsum += log(d);
693 +                navsum++;
694 +        }
695 +        avinsert(av);                   /* insert in our cache tree */
696          return(av);
697   }
698  
# Line 460 | Line 702 | register AMBVAL  *aval;
702   static AMBTREE  *atfreelist = NULL;     /* free ambient tree structures */
703  
704  
705 < static
706 < AMBTREE *
465 < newambtree()                            /* allocate 8 ambient tree structs */
705 > static AMBTREE *
706 > newambtree(void)                                /* allocate 8 ambient tree structs */
707   {
708 <        register AMBTREE  *atp, *upperlim;
708 >        AMBTREE  *atp, *upperlim;
709  
710          if (atfreelist == NULL) {       /* get more nodes */
711 <                atfreelist = (AMBTREE *)bmalloc(ATALLOCSZ*8*sizeof(AMBTREE));
711 >                atfreelist = (AMBTREE *)malloc(ATALLOCSZ*8*sizeof(AMBTREE));
712                  if (atfreelist == NULL)
713                          return(NULL);
714                                          /* link new free list */
# Line 478 | Line 719 | newambtree()                           /* allocate 8 ambient tree structs */
719          }
720          atp = atfreelist;
721          atfreelist = atp->kid;
722 <        bzero((char *)atp, 8*sizeof(AMBTREE));
722 >        memset(atp, 0, 8*sizeof(AMBTREE));
723          return(atp);
724   }
725  
726  
727 < static
728 < freeambtree(atp)                        /* free 8 ambient tree structs */
729 < AMBTREE  *atp;
727 > static void
728 > freeambtree(                    /* free 8 ambient tree structs */
729 >        AMBTREE  *atp
730 > )
731   {
732          atp->kid = atfreelist;
733          atfreelist = atp;
734   }
735  
736  
737 < static
738 < avinsert(av)                            /* insert ambient value in our tree */
739 < register AMBVAL  *av;
737 > static void
738 > unloadatree(                    /* unload an ambient value tree */
739 >        AMBTREE  *at,
740 >        unloadtf_t *f
741 > )
742   {
743 <        register AMBTREE  *at;
744 <        register AMBVAL  *ap;
501 <        AMBVAL  avh;
502 <        FVECT  ck0;
503 <        double  s;
504 <        int  branch;
505 <        register int  i;
506 <
507 <        if (av->rad <= FTINY)
508 <                error(CONSISTENCY, "zero ambient radius in avinsert");
509 <        at = &atrunk;
510 <        VCOPY(ck0, thescene.cuorg);
511 <        s = thescene.cusize;
512 <        while (s*(OCTSCALE/2) > av->rad*ambacc) {
513 <                if (at->kid == NULL)
514 <                        if ((at->kid = newambtree()) == NULL)
515 <                                error(SYSTEM, "out of memory in avinsert");
516 <                s *= 0.5;
517 <                branch = 0;
518 <                for (i = 0; i < 3; i++)
519 <                        if (av->pos[i] > ck0[i] + s) {
520 <                                ck0[i] += s;
521 <                                branch |= 1 << i;
522 <                        }
523 <                at = at->kid + branch;
524 <        }
525 <        avh.next = at->alist;           /* order by increasing level */
526 <        for (ap = &avh; ap->next != NULL; ap = ap->next)
527 <                if (ap->next->lvl >= av->lvl)
528 <                        break;
529 <        av->next = ap->next;
530 <        ap->next = av;
531 <        at->alist = avh.next;
532 < }
533 <
534 <
535 < static
536 < unloadatree(at, f)                      /* unload an ambient value tree */
537 < register AMBTREE  *at;
538 < int     (*f)();
539 < {
540 <        register AMBVAL  *av;
541 <        register int  i;
743 >        AMBVAL  *av;
744 >        int  i;
745                                          /* transfer values at this node */
746          for (av = at->alist; av != NULL; av = at->alist) {
747                  at->alist = av->next;
748 +                av->next = NULL;
749                  (*f)(av);
750          }
751          if (at->kid == NULL)
# Line 553 | Line 757 | int    (*f)();
757   }
758  
759  
760 < static struct avl {
761 <        AMBVAL  *p;
558 <        unsigned long   t;
559 < }       *avlist1;                       /* ambient value list with ticks */
560 < static AMBVAL   **avlist2;              /* memory positions for sorting */
561 < static int      i_avlist;               /* index for lists */
562 <
563 <
564 < static
565 < av2list(av)
566 < register AMBVAL *av;
760 > static void
761 > avfree(AMBVAL *av)
762   {
763 < #ifdef DEBUG
569 <        if (i_avlist >= nambvals)
570 <                error(CONSISTENCY, "too many ambient values in av2list1");
571 < #endif
572 <        avlist1[i_avlist].p = avlist2[i_avlist] = av;
573 <        avlist1[i_avlist++].t = av->latick;
763 >        free(av);
764   }
765  
766  
767 < static int
768 < alatcmp(av1, av2)                       /* compare ambient values for MRA */
579 < struct avl      *av1, *av2;
767 > static void
768 > sortambvals(void)                       /* resort ambient values */
769   {
770 <        register long  lc = av2->t - av1->t;
582 <        return(lc<0 ? -1 : lc>0 ? 1 : 0);
583 < }
770 >        AMBTREE  oldatrunk = atrunk;
771  
772 <
773 < static int
774 < aposcmp(avp1, avp2)                     /* compare ambient value positions */
588 < AMBVAL  **avp1, **avp2;
589 < {
590 <        return(*avp1 - *avp2);
772 >        atrunk.alist = NULL;
773 >        atrunk.kid = NULL;
774 >        unloadatree(&oldatrunk, avinsert);
775   }
776  
777  
594 #if 1
595 static int
596 avlmemi(avaddr)                         /* find list position from address */
597 AMBVAL  *avaddr;
598 {
599        register AMBVAL  **avlpp;
600
601        avlpp = (AMBVAL **)bsearch((char *)&avaddr, (char *)avlist2,
602                        nambvals, sizeof(AMBVAL *), aposcmp);
603        if (avlpp == NULL)
604                error(CONSISTENCY, "address not found in avlmemi");
605        return(avlpp - avlist2);
606 }
607 #else
608 #define avlmemi(avaddr) ((AMBVAL **)bsearch((char *)&avaddr,(char *)avlist2, \
609                                nambvals,sizeof(AMBVAL *),aposcmp) - avlist2)
610 #endif
611
612
613 static
614 sortambvals(always)                     /* resort ambient values */
615 int     always;
616 {
617        AMBTREE  oldatrunk;
618        AMBVAL  tav, *tap, *pnext;
619        register int    i, j;
620                                        /* see if it's time yet */
621        if (!always && (ambclock++ < lastsort+sortintvl ||
622                        nambvals < SORT_THRESH))
623                return;
624        /*
625         * The idea here is to minimize memory thrashing
626         * in VM systems by improving reference locality.
627         * We do this by periodically sorting our stored ambient
628         * values in memory in order of most recently to least
629         * recently accessed.  This ordering was chosen so that new
630         * ambient values (which tend to be less important) go into
631         * higher memory with the infrequently accessed values.
632         *      Since we expect our values to need sorting less
633         * frequently as the process continues, we double our
634         * waiting interval after each call.
635         *      This routine is also called by setambacc() with
636         * the "always" parameter set to 1 so that the ambient
637         * tree will be rebuilt with the new accuracy parameter.
638         */
639        if (tracktime) {                /* allocate pointer arrays to sort */
640                avlist2 = (AMBVAL **)malloc(nambvals*sizeof(AMBVAL *));
641                avlist1 = (struct avl *)malloc(nambvals*sizeof(struct avl));
642        } else {
643                avlist2 = NULL;
644                avlist1 = NULL;
645        }
646        if (avlist1 == NULL) {          /* no time tracking -- rebuild tree? */
647                if (avlist2 != NULL)
648                        free((char *)avlist2);
649                if (always) {           /* rebuild without sorting */
650                        copystruct(&oldatrunk, &atrunk);
651                        atrunk.alist = NULL;
652                        atrunk.kid = NULL;
653                        unloadatree(&oldatrunk, avinsert);
654                }
655        } else {                        /* sort memory by last access time */
656                /*
657                 * Sorting memory is tricky because it isn't contiguous.
658                 * We have to sort an array of pointers by MRA and also
659                 * by memory position.  We then copy values in "loops"
660                 * to minimize memory hits.  Nevertheless, we will visit
661                 * everyone at least twice, and this is an expensive process
662                 * when we're thrashing, which is when we need to do it.
663                 */
664 #ifdef DEBUG
665                sprintf(errmsg, "sorting %u ambient values at ambclock=%lu...",
666                                nambvals, ambclock);
667                eputs(errmsg);
668 #endif
669                i_avlist = 0;
670                unloadatree(&atrunk, av2list);  /* empty current tree */
671 #ifdef DEBUG
672                if (i_avlist < nambvals)
673                        error(CONSISTENCY, "missing ambient values in sortambvals");
674 #endif
675                qsort((char *)avlist1, nambvals, sizeof(struct avl), alatcmp);
676                qsort((char *)avlist2, nambvals, sizeof(AMBVAL *), aposcmp);
677                for (i = 0; i < nambvals; i++) {
678                        if (avlist1[i].p == NULL)
679                                continue;
680                        tap = avlist2[i];
681                        copystruct(&tav, tap);
682                        for (j = i; (pnext = avlist1[j].p) != tap;
683                                        j = avlmemi(pnext)) {
684                                copystruct(avlist2[j], pnext);
685                                avinsert(avlist2[j]);
686                                avlist1[j].p = NULL;
687                        }
688                        copystruct(avlist2[j], &tav);
689                        avinsert(avlist2[j]);
690                        avlist1[j].p = NULL;
691                }
692                free((char *)avlist1);
693                free((char *)avlist2);
694                                                /* compute new sort interval */
695                sortintvl = ambclock - lastsort;
696                if (sortintvl >= MAX_SORT_INTVL/2)
697                        sortintvl = MAX_SORT_INTVL;
698                else
699                        sortintvl <<= 1;        /* wait twice as long next */
700 #ifdef DEBUG
701                eputs("done\n");
702 #endif
703        }
704        if (ambclock >= MAXACLOCK)
705                ambclock = MAXACLOCK/2;
706        lastsort = ambclock;
707 }
708
709
778   #ifdef  F_SETLKW
779  
780 < static
781 < aflock(typ)                     /* lock/unlock ambient file */
782 < int  typ;
780 > static void
781 > aflock(                 /* lock/unlock ambient file */
782 >        int  typ
783 > )
784   {
785          static struct flock  fls;       /* static so initialized to zeroes */
786  
787 +        if (typ == fls.l_type)          /* already called? */
788 +                return;
789 +
790          fls.l_type = typ;
791 <        if (fcntl(fileno(ambfp), F_SETLKW, &fls) < 0)
792 <                error(SYSTEM, "cannot (un)lock ambient file");
791 >        do
792 >                if (fcntl(fileno(ambfp), F_SETLKW, &fls) != -1)
793 >                        return;
794 >        while (errno == EINTR);
795 >        
796 >        error(SYSTEM, "cannot (un)lock ambient file");
797   }
798  
799  
800   int
801 < ambsync()                       /* synchronize ambient file */
801 > ambsync(void)                   /* synchronize ambient file */
802   {
727        static FILE  *ambinp = NULL;
728        static long  lastpos = -1;
803          long  flen;
804          AMBVAL  avs;
805 <        register int  n;
805 >        int  n;
806  
807 <        if (nunflshed == 0)
807 >        if (ambfp == NULL)      /* no ambient file? */
808                  return(0);
809 <        if (lastpos < 0)        /* initializing (locked in initambfile) */
810 <                goto syncend;
737 <                                /* gain exclusive access */
738 <        aflock(F_WRLCK);
809 >                                /* gain appropriate access */
810 >        aflock(nunflshed ? F_WRLCK : F_RDLCK);
811                                  /* see if file has grown */
812 <        if ((flen = lseek(fileno(ambfp), 0L, 2)) < 0)
812 >        if ((flen = lseek(fileno(ambfp), (off_t)0, SEEK_END)) < 0)
813                  goto seekerr;
814 <        if (n = flen - lastpos) {               /* file has grown */
815 <                if (ambinp == NULL) {           /* use duplicate filedes */
816 <                        ambinp = fdopen(dup(fileno(ambfp)), "r");
814 >        if ((n = flen - lastpos) > 0) {         /* file has grown */
815 >                if (ambinp == NULL) {           /* get new file pointer */
816 >                        ambinp = fopen(ambfile, "rb");
817                          if (ambinp == NULL)
818 <                                error(SYSTEM, "fdopen failed in ambsync");
818 >                                error(SYSTEM, "fopen failed in ambsync");
819                  }
820 <                if (fseek(ambinp, lastpos, 0) < 0)
820 >                if (fseek(ambinp, lastpos, SEEK_SET) < 0)
821                          goto seekerr;
822                  while (n >= AMBVALSIZ) {        /* load contributed values */
823                          if (!readambval(&avs, ambinp)) {
824                                  sprintf(errmsg,
825 <                                "ambient file corrupted near character %ld",
826 <                                                flen - n);
825 >                        "ambient file \"%s\" corrupted near character %ld",
826 >                                                ambfile, flen - n);
827                                  error(WARNING, errmsg);
828                                  break;
829                          }
830 <                        avinsert(avstore(&avs));
830 >                        avstore(&avs);
831                          n -= AMBVALSIZ;
832                  }
833 <                /*** seek always as safety measure
834 <                if (n) ***/                     /* alignment */
835 <                        if (lseek(fileno(ambfp), flen-n, 0) < 0)
764 <                                goto seekerr;
833 >                lastpos = flen - n;             /* check alignment */
834 >                if (n && lseek(fileno(ambfp), (off_t)lastpos, SEEK_SET) < 0)
835 >                        goto seekerr;
836          }
766 #ifdef  DEBUG
767        if (ambfp->_ptr - ambfp->_base != nunflshed*AMBVALSIZ) {
768                sprintf(errmsg, "ambient file buffer at %d rather than %d",
769                                ambfp->_ptr - ambfp->_base,
770                                nunflshed*AMBVALSIZ);
771                error(CONSISTENCY, errmsg);
772        }
773 #endif
774 syncend:
837          n = fflush(ambfp);                      /* calls write() at last */
838 <        if ((lastpos = lseek(fileno(ambfp), 0L, 1)) < 0)
777 <                goto seekerr;
838 >        lastpos += (long)nunflshed*AMBVALSIZ;
839          aflock(F_UNLCK);                        /* release file */
840          nunflshed = 0;
841          return(n);
842   seekerr:
843          error(SYSTEM, "seek failed in ambsync");
844 +        return(EOF);    /* pro forma return */
845   }
846  
847 < #else
847 > #else   /* ! F_SETLKW */
848  
849   int
850 < ambsync()                       /* flush ambient file */
850 > ambsync(void)                   /* flush ambient file */
851   {
852 <        if (nunflshed == 0)
852 >        if (ambfp == NULL)
853                  return(0);
854          nunflshed = 0;
855          return(fflush(ambfp));
856   }
857  
858 < #endif
858 > #endif  /* ! F_SETLKW */

Diff Legend

Removed lines
+ Added lines
< Changed lines
> Changed lines