ViewVC Help
View File | Revision Log | Show Annotations | Download File | Root Listing
root/radiance/ray/src/rt/ambient.c
(Generate patch)

Comparing ray/src/rt/ambient.c (file contents):
Revision 2.60 by greg, Sat May 28 22:27:54 2005 UTC vs.
Revision 2.131 by greg, Thu Jan 23 22:03:08 2025 UTC

# Line 1 | Line 1
1 #ifndef lint
1   static const char       RCSid[] = "$Id$";
3 #endif
2   /*
3   *  ambient.c - routines dealing with ambient (inter-reflected) component.
4   *
# Line 14 | Line 12 | static const char      RCSid[] = "$Id$";
12   #include  "platform.h"
13   #include  "ray.h"
14   #include  "otypes.h"
15 + #include  "otspecial.h"
16   #include  "resolu.h"
17   #include  "ambient.h"
18   #include  "random.h"
19 + #include  "pmapamb.h"
20  
21   #ifndef  OCTSCALE
22   #define  OCTSCALE       1.0     /* ceil((valid rad.)/(cube size)) */
23   #endif
24  
25 extern char  *shm_boundary;     /* memory sharing boundary */
26
25   #ifndef  MAXASET
26 < #define  MAXASET        2047    /* maximum number of elements in ambient set */
26 > #define  MAXASET        4095    /* maximum number of elements in ambient set */
27   #endif
28   OBJECT  ambset[MAXASET+1]={0};  /* ambient include/exclude set */
29  
# Line 35 | Line 33 | double minarad;                /* minimum ambient radius */
33   static AMBTREE  atrunk;         /* our ambient trunk node */
34  
35   static FILE  *ambfp = NULL;     /* ambient file pointer */
36 < static int  nunflshed = 0;      /* number of unflushed ambient values */
36 > static int  nunflshed;          /* number of unflushed ambient values */
37  
40 #ifndef SORT_THRESH
41 #ifdef SMLMEM
42 #define SORT_THRESH     ((3L<<20)/sizeof(AMBVAL))
43 #else
44 #define SORT_THRESH     ((9L<<20)/sizeof(AMBVAL))
45 #endif
46 #endif
47 #ifndef SORT_INTVL
48 #define SORT_INTVL      (SORT_THRESH<<1)
49 #endif
50 #ifndef MAX_SORT_INTVL
51 #define MAX_SORT_INTVL  (SORT_INTVL<<6)
52 #endif
53
38   static double  avsum = 0.;              /* computed ambient value sum (log) */
39   static unsigned int  navsum = 0;        /* number of values in avsum */
40   static unsigned int  nambvals = 0;      /* total number of indirect values */
57 static unsigned int  nambshare = 0;     /* number of values from file */
58 static unsigned long  ambclock = 0;     /* ambient access clock */
59 static unsigned long  lastsort = 0;     /* time of last value sort */
60 static long  sortintvl = SORT_INTVL;    /* time until next sort */
41   static FILE  *ambinp = NULL;            /* auxiliary file for input */
42 < static long  lastpos = -1;              /* last flush position */
42 > static off_t  lastpos = -1;             /* last flush position */
43  
64 #define MAXACLOCK       (1L<<30)        /* clock turnover value */
65        /*
66         * Track access times unless we are sharing ambient values
67         * through memory on a multiprocessor, when we want to avoid
68         * claiming our own memory (copy on write).  Go ahead anyway
69         * if more than two thirds of our values are unshared.
70         * Compile with -Dtracktime=0 to turn this code off.
71         */
72 #ifndef tracktime
73 #define tracktime       (shm_boundary == NULL || nambvals > 3*nambshare)
74 #endif
75
44   #define  AMBFLUSH       (BUFSIZ/AMBVALSIZ)
45  
46 < #define  newambval()    (AMBVAL *)malloc(sizeof(AMBVAL))
47 < #define  freeav(av)     free((void *)av);
46 > #define  AVSIZE         (sizeof(AMBVAL)-sizeof(SCOLOR)+sizeof(COLORV)*NCSAMP)
47 > #define  newambval()    (AMBVAL *)malloc(AVSIZE)
48  
49 < static void initambfile(int creat);
49 > #define  tfunc(x0, x, x1)       (((x)-(x0))/((x1)-(x0)))
50 >
51 > static void initambfile(int cre8);
52   static void avsave(AMBVAL *av);
53   static AMBVAL *avstore(AMBVAL  *aval);
54   static AMBTREE *newambtree(void);
55   static void freeambtree(AMBTREE  *atp);
56  
57 < typedef void unloadtf_t(void *);
57 > typedef void unloadtf_t(AMBVAL *);
58   static unloadtf_t avinsert;
59 < static unloadtf_t av2list;
59 > static unloadtf_t avfree;
60   static void unloadatree(AMBTREE  *at, unloadtf_t *f);
61  
62 < static int aposcmp(const void *avp1, const void *avp2);
93 < static int avlmemi(AMBVAL *avaddr);
94 < static void sortambvals(int always);
62 > static void sortambvals(void);
63  
64 + static int      plugaleak(RAY *r, AMBVAL *ap, FVECT anorm, double ang);
65 + static double   sumambient(SCOLOR acol, RAY *r, FVECT rn, int al,
66 +                                AMBTREE *at, FVECT c0, double s);
67 + static int      makeambient(SCOLOR acol, RAY *r, FVECT rn, int al);
68 + static int      extambient(SCOLOR cr, AMBVAL *ap, FVECT pv, FVECT nv,
69 +                                FVECT uvw[3]);
70 +
71   #ifdef  F_SETLKW
72   static void aflock(int  typ);
73   #endif
74  
75  
76 < extern void
76 > void
77   setambres(                              /* set ambient resolution */
78          int  ar
79   )
# Line 107 | Line 82 | setambres(                             /* set ambient resolution */
82                                                  /* set min & max radii */
83          if (ar <= 0) {
84                  minarad = 0;
85 <                maxarad = thescene.cusize / 2.0;
85 >                maxarad = thescene.cusize*0.2;
86          } else {
87                  minarad = thescene.cusize / ar;
88 <                maxarad = 64 * minarad;                 /* heuristic */
89 <                if (maxarad > thescene.cusize / 2.0)
90 <                        maxarad = thescene.cusize / 2.0;
88 >                maxarad = 64.0 * minarad;               /* heuristic */
89 >                if (maxarad > thescene.cusize*0.2)
90 >                        maxarad = thescene.cusize*0.2;
91          }
92          if (minarad <= FTINY)
93 <                minarad = 10*FTINY;
93 >                minarad = 10.0*FTINY;
94          if (maxarad <= minarad)
95 <                maxarad = 64 * minarad;
95 >                maxarad = 64.0 * minarad;
96   }
97  
98  
99 < extern void
99 > void
100   setambacc(                              /* set ambient accuracy */
101          double  newa
102   )
103   {
104 <        double  ambdiff;
105 <
106 <        if (newa < 0.0)
107 <                newa = 0.0;
108 <        ambdiff = fabs(newa - ambacc);
109 <        if (ambdiff >= .01 && (ambacc = newa) > FTINY && nambvals > 0)
110 <                sortambvals(1);                 /* rebuild tree */
104 >        static double   olda;           /* remember previous setting here */
105 >        
106 >        newa *= (newa > 0);
107 >        if (fabs(newa - olda) >= .05*(newa + olda)) {
108 >                ambacc = newa;
109 >                if (ambacc > FTINY && nambvals > 0)
110 >                        sortambvals();          /* rebuild tree */
111 >        }
112   }
113  
114  
115 < extern void
115 > void
116   setambient(void)                                /* initialize calculation */
117   {
118          int     readonly = 0;
119 <        long  pos, flen;
119 >        off_t   flen;
120          AMBVAL  amb;
121                                                  /* make sure we're fresh */
122          ambdone();
# Line 160 | Line 136 | setambient(void)                               /* initialize calculation */
136                  readonly = (ambfp = fopen(ambfile, "r")) != NULL;
137          if (ambfp != NULL) {
138                  initambfile(0);                 /* file exists */
139 <                pos = ftell(ambfp);
139 >                lastpos = ftello(ambfp);
140                  while (readambval(&amb, ambfp))
141 <                        avinsert(avstore(&amb));
166 <                nambshare = nambvals;           /* share loaded values */
141 >                        avstore(&amb);
142                  if (readonly) {
143                          sprintf(errmsg,
144                                  "loaded %u values from read-only ambient file",
# Line 174 | Line 149 | setambient(void)                               /* initialize calculation */
149                          return;                 /* avoid ambsync() */
150                  }
151                                                  /* align file pointer */
152 <                pos += (long)nambvals*AMBVALSIZ;
153 <                flen = lseek(fileno(ambfp), (off_t)0, SEEK_END);
154 <                if (flen != pos) {
152 >                lastpos += (off_t)nambvals*AMBVALSIZ;
153 >                flen = lseek(fileno(ambfp), 0, SEEK_END);
154 >                if (flen != lastpos) {
155                          sprintf(errmsg,
156                          "ignoring last %ld values in ambient file (corrupted)",
157 <                                        (flen - pos)/AMBVALSIZ);
157 >                                        (flen - lastpos)/AMBVALSIZ);
158                          error(WARNING, errmsg);
159 <                        fseek(ambfp, pos, 0);
160 < #ifndef _WIN32 /* XXX we need a replacement for that one */
186 <                        ftruncate(fileno(ambfp), (off_t)pos);
187 < #endif
159 >                        fseeko(ambfp, lastpos, SEEK_SET);
160 >                        ftruncate(fileno(ambfp), lastpos);
161                  }
162          } else if ((ambfp = fopen(ambfile, "w+")) != NULL) {
163                  initambfile(1);                 /* else create new file */
164 +                fflush(ambfp);
165 +                lastpos = ftello(ambfp);
166          } else {
167                  sprintf(errmsg, "cannot open ambient file \"%s\"", ambfile);
168                  error(SYSTEM, errmsg);
169          }
170 <        nunflshed++;    /* lie */
171 <        ambsync();
170 > #ifdef  F_SETLKW
171 >        aflock(F_UNLCK);                        /* release file */
172 > #endif
173   }
174  
175  
176 < extern void
176 > void
177   ambdone(void)                   /* close ambient file and free memory */
178   {
179          if (ambfp != NULL) {            /* close ambient file */
# Line 211 | Line 187 | ambdone(void)                  /* close ambient file and free memory
187                  lastpos = -1;
188          }
189                                          /* free ambient tree */
190 <        unloadatree(&atrunk, free);
190 >        unloadatree(&atrunk, avfree);
191                                          /* reset state variables */
192          avsum = 0.;
193          navsum = 0;
194          nambvals = 0;
219        nambshare = 0;
220        ambclock = 0;
221        lastsort = 0;
222        sortintvl = SORT_INTVL;
195   }
196  
197  
198 < extern void
198 > void
199   ambnotify(                      /* record new modifier */
200          OBJECT  obj
201   )
202   {
203          static int  hitlimit = 0;
204 <        register OBJREC  *o;
205 <        register char  **amblp;
204 >        OBJREC   *o;
205 >        char  **amblp;
206  
207          if (obj == OVOID) {             /* starting over */
208                  ambset[0] = 0;
# Line 253 | Line 225 | ambnotify(                     /* record new modifier */
225   }
226  
227  
228 < extern void
228 > void
229   multambient(            /* compute ambient component & multiply by coef. */
230 <        COLOR  aval,
231 <        register RAY  *r,
230 >        SCOLOR  aval,
231 >        RAY  *r,
232          FVECT  nrm
233   )
234   {
235 +        static double  logAvgAbsorp = 1;
236          static int  rdepth = 0;                 /* ambient recursion */
237 <        COLOR   acol;
237 >        SCOLOR  acol, caustic;
238 >        int     i, ok;
239          double  d, l;
240  
241 +        /* PMAP: Factor in ambient from photon map, if enabled and ray is
242 +         * ambient. Return as all ambient components accounted for, else
243 +         * continue. */
244 +        if (ambPmap(aval, r, rdepth))
245 +                return;
246 +
247 +        if (logAvgAbsorp > 0)                   /* exclude in -aw to avoid growth */
248 +                logAvgAbsorp = log(1.-AVGREFL);
249 +
250 +        /* PMAP: Factor in specular-diffuse ambient (caustics) from photon
251 +         * map, if enabled and ray is primary, else caustic is zero.  Continue
252 +         * with RADIANCE ambient calculation */
253 + {/* XXX TEMPORARY */
254 +        COLOR   pmc;
255 +        scolor_color(pmc, aval);
256 +        ambPmapCaustic(pmc, r, rdepth);
257 +        setscolor(caustic, colval(pmc,RED), colval(pmc,GRN), colval(pmc,BLU));
258 + }
259          if (ambdiv <= 0)                        /* no ambient calculation */
260                  goto dumbamb;
261                                                  /* check number of bounces */
# Line 274 | Line 266 | multambient(           /* compute ambient component & multiply
266                          ambincl != inset(ambset, r->ro->omod))
267                  goto dumbamb;
268  
269 <        if (ambacc <= FTINY) {                  /* no ambient storage */
269 >        if (ambacc <= FTINY) {                  /* no ambient storage? */
270 >                double  rdot = DOT(nrm,r->ron);
271 >                int     sgn = 1 - 2*(rdot < 0);
272 >                float   dgrad[2], *dgp = NULL;
273 >                FVECT   uvd[2];
274 >
275 >                if (sgn*rdot < 0.9999)
276 >                        dgp = dgrad;            /* compute rotational grad. */
277 >                copyscolor(acol, aval);
278                  rdepth++;
279 <                d = doambient(acol, r, aval, intens(aval)*r->rweight,
280 <                                                        NULL, NULL);
279 >                ok = doambient(acol, r, r->rweight*sgn,
280 >                                uvd, NULL, NULL, dgp, NULL);
281                  rdepth--;
282 <                if (d <= FTINY)
282 >                if (!ok)
283                          goto dumbamb;
284 <                multcolor(aval, acol);
284 >                if ((ok > 0) & (dgp != NULL)) { /* apply texture */
285 >                        FVECT   v1;
286 >                        VCROSS(v1, r->ron, nrm);
287 >                        d = 1.0;
288 >                        for (i = 3; i--; )
289 >                                d += sgn*v1[i] * (dgp[0]*uvd[0][i] + dgp[1]*uvd[1][i]);
290 >                        if (d >= 0.05)
291 >                                scalescolor(acol, d);
292 >                }
293 >                copyscolor(aval, acol);
294 >
295 >                /* PMAP: add in caustic */
296 >                saddscolor(aval, caustic);
297                  return;
298          }
299 <
300 <        if (tracktime)                          /* sort to minimize thrashing */
301 <                sortambvals(0);
290 <                                                /* get ambient value */
291 <        setcolor(acol, 0.0, 0.0, 0.0);
292 <        d = sumambient(acol, r, intens(aval)*r->rweight, nrm, rdepth,
299 >                                                /* interpolate ambient value */
300 >        scolorblack(acol);
301 >        d = sumambient(acol, r, nrm, rdepth,
302                          &atrunk, thescene.cuorg, thescene.cusize);
303 +                        
304          if (d > FTINY) {
305 <                scalecolor(acol, 1.0/d);
306 <                multcolor(aval, acol);
305 >                scalescolor(acol, 1.0/d);
306 >                smultscolor(aval, acol);
307 >
308 >                /* PMAP: add in caustic */
309 >                saddscolor(aval, caustic);
310                  return;
311          }
312 +        
313          rdepth++;                               /* need to cache new value */
314 <        d = makeambient(acol, r, aval, nrm, rdepth-1);
314 >        ok = makeambient(acol, r, nrm, rdepth-1);
315          rdepth--;
316 <        if (d > FTINY) {
317 <                multcolor(aval, acol);          /* got new value */
316 >        
317 >        if (ok) {
318 >                smultscolor(aval, acol);        /* computed new value */
319 >
320 >                /* PMAP: add in caustic */
321 >                saddscolor(aval, caustic);
322                  return;
323          }
324 +        
325   dumbamb:                                        /* return global value */
326          if ((ambvwt <= 0) | (navsum == 0)) {
327 <                multcolor(aval, ambval);
327 >                smultcolor(aval, ambval);
328 >                
329 >                /* PMAP: add in caustic */
330 >                saddscolor(aval, caustic);
331                  return;
332          }
333 <        l = bright(ambval);                     /* average in computations */
333 >        
334 >        l = bright(ambval);                     /* average in computations */  
335          if (l > FTINY) {
336 <                d = (log(l)*(double)ambvwt + avsum) /
336 >                d = (log(l)*(double)ambvwt + avsum + logAvgAbsorp*navsum) /
337                                  (double)(ambvwt + navsum);
338                  d = exp(d) / l;
339 <                scalecolor(aval, d);
340 <                multcolor(aval, ambval);        /* apply color of ambval */
339 >                scalescolor(aval, d);
340 >                smultcolor(aval, ambval);       /* apply color of ambval */
341          } else {
342 <                d = exp( avsum / (double)navsum );
343 <                scalecolor(aval, d);            /* neutral color */
342 >                d = exp( avsum/(double)navsum + logAvgAbsorp );
343 >                scalescolor(aval, d);           /* neutral color */
344          }
345   }
346  
347  
348 < extern double
349 < sumambient(     /* get interpolated ambient value */
350 <        COLOR  acol,
351 <        register RAY  *r,
352 <        double  aw,
348 > /* Plug a potential leak where ambient cache value is occluded */
349 > static int
350 > plugaleak(RAY *r, AMBVAL *ap, FVECT anorm, double ang)
351 > {
352 >        const double    cost70sq = 0.1169778;   /* cos(70deg)^2 */
353 >        RAY             rtst;
354 >        FVECT           vdif;
355 >        double          normdot, ndotd, nadotd;
356 >        double          a, b, c, t[2];
357 >
358 >        ang += 2.*PI*(ang < 0);                 /* check direction flags */
359 >        if ( !(ap->corral>>(int)(ang*(16./PI)) & 1) )
360 >                return(0);
361 >        /*
362 >         * Generate test ray, targeting 20 degrees above sample point plane
363 >         * along surface normal from cache position.  This should be high
364 >         * enough to miss local geometry we don't really care about.
365 >         */
366 >        VSUB(vdif, ap->pos, r->rop);
367 >        normdot = DOT(anorm, r->ron);
368 >        ndotd = DOT(vdif, r->ron);
369 >        nadotd = DOT(vdif, anorm);
370 >        a = normdot*normdot - cost70sq;
371 >        b = 2.0*(normdot*ndotd - nadotd*cost70sq);
372 >        c = ndotd*ndotd - DOT(vdif,vdif)*cost70sq;
373 >        if (quadratic(t, a, b, c) != 2)
374 >                return(1);                      /* should rarely happen */
375 >        if (t[1] <= FTINY)
376 >                return(0);                      /* should fail behind test */
377 >        rayorigin(&rtst, SHADOW, r, NULL);
378 >        VSUM(rtst.rdir, vdif, anorm, t[1]);     /* further dist. > plane */
379 >        rtst.rmax = normalize(rtst.rdir);       /* short ray test */
380 >        while (localhit(&rtst, &thescene)) {    /* check for occluder */
381 >                OBJREC  *m = findmaterial(rtst.ro);
382 >                if (m != NULL && !istransp(m) && !isBSDFproxy(m) &&
383 >                                (rtst.clipset == NULL ||
384 >                                        !inset(rtst.clipset, rtst.ro->omod)))
385 >                        return(1);              /* plug light leak */
386 >                VCOPY(rtst.rorg, rtst.rop);     /* skip invisible surface */
387 >                rtst.rmax -= rtst.rot;
388 >                rayclear(&rtst);
389 >        }
390 >        return(0);                              /* seems we're OK */
391 > }
392 >
393 >
394 > static double
395 > sumambient(             /* get interpolated ambient value */
396 >        SCOLOR  acol,
397 >        RAY  *r,
398          FVECT  rn,
399          int  al,
400          AMBTREE  *at,
401          FVECT  c0,
402          double  s
403   )
404 < {
405 <        double  d, e1, e2, wt, wsum;
406 <        COLOR  ct;
407 <        FVECT  ck0;
408 <        int  i;
409 <        register int  j;
410 <        register AMBVAL  *av;
404 > {                       /* initial limit is 10 degrees plus ambacc radians */
405 >        const double    minangle = 10.0 * PI/180.;
406 >        const int       sgn = 1 - 2*(DOT(r->ron,rn) < 0);
407 >        double          maxangle = minangle + ambacc;
408 >        double          wsum = 0.0;
409 >        FVECT           ck0;
410 >        int             i, j;
411 >        AMBVAL          *av;
412  
413 <        wsum = 0.0;
414 <                                        /* do this node */
413 >        if (at->kid != NULL) {          /* sum children first */                                
414 >                s *= 0.5;
415 >                for (i = 0; i < 8; i++) {
416 >                        for (j = 0; j < 3; j++) {
417 >                                ck0[j] = c0[j];
418 >                                if (1<<j & i)
419 >                                        ck0[j] += s;
420 >                                if (r->rop[j] < ck0[j] - OCTSCALE*s)
421 >                                        break;
422 >                                if (r->rop[j] > ck0[j] + (1.0+OCTSCALE)*s)
423 >                                        break;
424 >                        }
425 >                        if (j == 3)
426 >                                wsum += sumambient(acol, r, rn, al,
427 >                                                        at->kid+i, ck0, s);
428 >                }
429 >                                        /* good enough? */
430 >                if ((wsum >= 0.05) & (s*ambacc > minarad))
431 >                        return(wsum);
432 >        }
433 >                                        /* adjust maximum angle */
434 >        if (at->alist != NULL && (at->alist->lvl <= al) & (r->rweight < 0.6))
435 >                maxangle = (maxangle - PI/2.)*pow(r->rweight,0.13) + PI/2.;
436 >                                        /* sum this node */
437          for (av = at->alist; av != NULL; av = av->next) {
438 <                double  rn_dot = -2.0;
439 <                if (tracktime)
440 <                        av->latick = ambclock;
438 >                double  u, v, d, delta_r2, delta_t2;
439 >                SCOLOR  sct;
440 >                FVECT   uvw[3];
441                  /*
442 <                 *  Ambient level test.
442 >                 *  Ambient level test
443                   */
444 <                if (av->lvl > al)       /* list sorted, so this works */
444 >                if (av->lvl > al ||     /* list sorted, so this works */
445 >                                (av->lvl == al) & (av->weight < 0.9*r->rweight))
446                          break;
355                if (av->weight < 0.85*aw)
356                        continue;
447                  /*
448 <                 *  Ambient radius test.
448 >                 *  Direction test using unperturbed normal
449                   */
450 <                d = av->pos[0] - r->rop[0];
451 <                e1 = d * d;
452 <                d = av->pos[1] - r->rop[1];
363 <                e1 += d * d;
364 <                d = av->pos[2] - r->rop[2];
365 <                e1 += d * d;
366 <                e1 /= av->rad * av->rad;
367 <                if (e1 > ambacc*ambacc*1.21)
450 >                decodedir(uvw[2], av->ndir);
451 >                d = sgn * DOT(uvw[2], r->ron);
452 >                if (d <= 0.0)           /* >= 90 degrees */
453                          continue;
454 +                delta_r2 = 2.0 - 2.0*d; /* approx. radians^2 */
455 +                if (delta_r2 >= maxangle*maxangle)
456 +                        continue;
457                  /*
458 <                 *  Direction test using closest normal.
458 >                 *  Modified ray behind test
459                   */
460 <                d = DOT(av->dir, r->ron);
461 <                if (rn != r->ron) {
462 <                        rn_dot = DOT(av->dir, rn);
375 <                        if (rn_dot > 1.0-FTINY)
376 <                                rn_dot = 1.0-FTINY;
377 <                        if (rn_dot >= d-FTINY) {
378 <                                d = rn_dot;
379 <                                rn_dot = -2.0;
380 <                        }
381 <                }
382 <                e2 = (1.0 - d) * r->rweight;
383 <                if (e2 < 0.0) e2 = 0.0;
384 <                if (e1 + e2 > ambacc*ambacc*1.21)
460 >                VSUB(ck0, r->rop, av->pos);
461 >                d = DOT(ck0, uvw[2]);
462 >                if (d < -minarad*ambacc)
463                          continue;
464 +                d /= av->rad[0];
465 +                delta_t2 = d*d;
466 +                if (delta_t2 >= ambacc*ambacc)
467 +                        continue;
468                  /*
469 <                 *  Ray behind test.
469 >                 *  Elliptical radii test based on Hessian
470                   */
471 <                d = 0.0;
472 <                for (j = 0; j < 3; j++)
473 <                        d += (r->rop[j] - av->pos[j]) *
474 <                                        (av->dir[j] + r->ron[j]);
475 <                if (d*0.5 < -minarad*ambacc-.001)
471 >                decodedir(uvw[0], av->udir);
472 >                VCROSS(uvw[1], uvw[2], uvw[0]);
473 >                d = (u = DOT(ck0, uvw[0])) / av->rad[0];
474 >                delta_t2 += d*d;
475 >                d = (v = DOT(ck0, uvw[1])) / av->rad[1];
476 >                delta_t2 += d*d;
477 >                if (delta_t2 >= ambacc*ambacc)
478                          continue;
479                  /*
480 <                 *  Jittering final test reduces image artifacts.
480 >                 *  Test for potential light leak
481                   */
482 <                e1 = sqrt(e1);
399 <                e2 = sqrt(e2);
400 <                wt = e1 + e2;
401 <                if (wt > ambacc*(.9+.2*urand(9015+samplendx)))
482 >                if (av->corral && plugaleak(r, av, uvw[2], atan2a(v,u)))
483                          continue;
484                  /*
485 <                 *  Recompute directional error using perturbed normal
485 >                 *  Extrapolate value and compute final weight (hat function)
486                   */
487 <                if (rn_dot > 0.0) {
488 <                        e2 = sqrt((1.0 - rn_dot)*r->rweight);
489 <                        wt = e1 + e2;
490 <                }
491 <                if (wt <= 1e-3)
492 <                        wt = 1e3;
493 <                else
413 <                        wt = 1.0 / wt;
414 <                wsum += wt;
415 <                extambient(ct, av, r->rop, rn);
416 <                scalecolor(ct, wt);
417 <                addcolor(acol, ct);
487 >                if (!extambient(sct, av, r->rop, rn, uvw))
488 >                        continue;
489 >                d = tfunc(maxangle, sqrt(delta_r2), 0.0) *
490 >                        tfunc(ambacc, sqrt(delta_t2), 0.0);
491 >                scalescolor(sct, d);
492 >                saddscolor(acol, sct);
493 >                wsum += d;
494          }
419        if (at->kid == NULL)
420                return(wsum);
421                                        /* do children */
422        s *= 0.5;
423        for (i = 0; i < 8; i++) {
424                for (j = 0; j < 3; j++) {
425                        ck0[j] = c0[j];
426                        if (1<<j & i)
427                                ck0[j] += s;
428                        if (r->rop[j] < ck0[j] - OCTSCALE*s)
429                                break;
430                        if (r->rop[j] > ck0[j] + (1.0+OCTSCALE)*s)
431                                break;
432                }
433                if (j == 3)
434                        wsum += sumambient(acol, r, aw, rn, al,
435                                                at->kid+i, ck0, s);
436        }
495          return(wsum);
496   }
497  
498  
499 < extern double
500 < makeambient(            /* make a new ambient value */
501 <        COLOR  acol,
499 > static int
500 > makeambient(            /* make a new ambient value for storage */
501 >        SCOLOR  acol,
502          RAY  *r,
445        COLOR  ac,
503          FVECT  rn,
504          int  al
505   )
506   {
507 +        int     sgn = 1 - 2*(DOT(r->ron,rn) < 0);
508          AMBVAL  amb;
509 <        double  awt;
452 <        FVECT   gp, gd;
509 >        FVECT   uvw[3];
510          int     i;
511  
512 <        amb.weight = AVGREFL;                   /* compute weight */
513 <        for (i = al; i-- >= 0; )
512 >        amb.weight = 1.0;                       /* compute weight */
513 >        for (i = al; i-- > 0; )
514                  amb.weight *= AVGREFL;
515 <        awt = intens(ac)*r->rweight;
516 <        if (awt < 0.07*amb.weight)              /* heuristic override */
517 <                amb.weight = 1.2*awt;
515 >        if (r->rweight < 0.1*amb.weight)        /* heuristic override */
516 >                amb.weight = 1.25*r->rweight;
517 >        setscolor(acol, AVGREFL, AVGREFL, AVGREFL);
518                                                  /* compute ambient */
519 <        amb.rad = doambient(acol, r, ac, amb.weight, gp, gd);
520 <        if (amb.rad <= FTINY)
521 <                return(0.0);
522 <                                                /* store it */
519 >        i = doambient(acol, r, amb.weight*sgn,
520 >                        uvw, amb.rad, amb.gpos, amb.gdir, &amb.corral);
521 >        scalescolor(acol, 1./AVGREFL);          /* undo assumed reflectance */
522 >        if (i <= 0 || amb.rad[0] <= FTINY)      /* no Hessian or zero radius */
523 >                return(i);
524 >        uvw[2][0] = sgn*r->ron[0];              /* orient unperturbed normal */
525 >        uvw[2][1] = sgn*r->ron[1];
526 >        uvw[2][2] = sgn*r->ron[2];
527 >                                                /* store value */
528          VCOPY(amb.pos, r->rop);
529 <        VCOPY(amb.dir, r->ron);
529 >        amb.ndir = encodedir(uvw[2]);
530 >        amb.udir = encodedir(uvw[0]);
531          amb.lvl = al;
532 <        copycolor(amb.val, acol);
533 <        VCOPY(amb.gpos, gp);
534 <        VCOPY(amb.gdir, gd);
535 <                                                /* insert into tree */
536 <        avsave(&amb);                           /* and save to file */
474 <        if (rn != r->ron)
475 <                extambient(acol, &amb, r->rop, rn);     /* texture */
476 <        return(amb.rad);
532 >        copyscolor(amb.val, acol);
533 >        avsave(&amb);                           /* insert and save to file */
534 >        if (DOT(uvw[2],rn) < 0.9999)            /* texture? */
535 >                extambient(acol, &amb, r->rop, rn, uvw);
536 >        return(1);
537   }
538  
539  
540 < extern void
540 > static int
541   extambient(             /* extrapolate value at pv, nv */
542 <        COLOR  cr,
543 <        register AMBVAL  *ap,
542 >        SCOLOR  scr,
543 >        AMBVAL   *ap,
544          FVECT  pv,
545 <        FVECT  nv
545 >        FVECT  nv,
546 >        FVECT  uvw[3]
547   )
548   {
549 <        FVECT  v1;
550 <        register int  i;
551 <        double  d;
549 >        const double    min_d = 0.05;
550 >        const double    max_d = 20.;
551 >        static FVECT    my_uvw[3];
552 >        FVECT           v1;
553 >        int             i;
554 >        double          d = 1.0;        /* zeroeth order */
555  
556 <        d = 1.0;                        /* zeroeth order */
557 <                                        /* gradient due to translation */
558 <        for (i = 0; i < 3; i++)
559 <                d += ap->gpos[i]*(pv[i]-ap->pos[i]);
560 <                                        /* gradient due to rotation */
497 <        VCROSS(v1, ap->dir, nv);
498 <        d += DOT(ap->gdir, v1);
499 <        if (d <= 0.0) {
500 <                setcolor(cr, 0.0, 0.0, 0.0);
501 <                return;
556 >        if (uvw == NULL) {              /* need local coordinates? */
557 >                decodedir(my_uvw[2], ap->ndir);
558 >                decodedir(my_uvw[0], ap->udir);
559 >                VCROSS(my_uvw[1], my_uvw[2], my_uvw[0]);
560 >                uvw = my_uvw;
561          }
562 <        copycolor(cr, ap->val);
563 <        scalecolor(cr, d);
562 >        for (i = 3; i--; )              /* gradient due to translation */
563 >                d += (pv[i] - ap->pos[i]) *
564 >                        (ap->gpos[0]*uvw[0][i] + ap->gpos[1]*uvw[1][i]);
565 >
566 >        VCROSS(v1, uvw[2], nv);         /* gradient due to rotation */
567 >        for (i = 3; i--; )
568 >                d += v1[i] * (ap->gdir[0]*uvw[0][i] + ap->gdir[1]*uvw[1][i]);
569 >        
570 >        if (d < min_d)                  /* clamp min/max scaling */
571 >                d = min_d;
572 >        else if (d > max_d)
573 >                d = max_d;
574 >        copyscolor(scr, ap->val);
575 >        scalescolor(scr, d);
576 >        return(d > min_d);
577   }
578  
579  
580   static void
581 + avinsert(                               /* insert ambient value in our tree */
582 +        AMBVAL *av
583 + )
584 + {
585 +        AMBTREE  *at;
586 +        AMBVAL  *ap;
587 +        AMBVAL  avh;
588 +        FVECT  ck0;
589 +        double  s;
590 +        int  branch;
591 +        int  i;
592 +
593 +        if (av->rad[0] <= FTINY)
594 +                error(CONSISTENCY, "zero ambient radius in avinsert");
595 +        at = &atrunk;
596 +        VCOPY(ck0, thescene.cuorg);
597 +        s = thescene.cusize;
598 +        while (s*(OCTSCALE/2) > av->rad[1]*ambacc) {
599 +                if (at->kid == NULL)
600 +                        if ((at->kid = newambtree()) == NULL)
601 +                                error(SYSTEM, "out of memory in avinsert");
602 +                s *= 0.5;
603 +                branch = 0;
604 +                for (i = 0; i < 3; i++)
605 +                        if (av->pos[i] > ck0[i] + s) {
606 +                                ck0[i] += s;
607 +                                branch |= 1 << i;
608 +                        }
609 +                at = at->kid + branch;
610 +        }
611 +        avh.next = at->alist;           /* order by increasing level */
612 +        for (ap = &avh; ap->next != NULL; ap = ap->next)
613 +                if ( ap->next->lvl > av->lvl ||
614 +                                (ap->next->lvl == av->lvl) &
615 +                                (ap->next->weight <= av->weight) )
616 +                        break;
617 +        av->next = ap->next;
618 +        ap->next = (AMBVAL*)av;
619 +        at->alist = avh.next;
620 + }
621 +
622 +
623 + static void
624   initambfile(            /* initialize ambient file */
625 <        int  creat
625 >        int  cre8
626   )
627   {
628          extern char  *progname, *octname;
629          static char  *mybuf = NULL;
630 +        int  ntries = 3;
631  
632 +        if (!AMBFLUSH)
633 +                error(INTERNAL, "BUFSIZ too small in initambfile");
634   #ifdef  F_SETLKW
635 <        aflock(creat ? F_WRLCK : F_RDLCK);
635 >        aflock(cre8 ? F_WRLCK : F_RDLCK);
636   #endif
637          SET_FILE_BINARY(ambfp);
638          if (mybuf == NULL)
639                  mybuf = (char *)bmalloc(BUFSIZ+8);
640          setbuf(ambfp, mybuf);
641 <        if (creat) {                    /* new file */
641 >        nunflshed = 0;
642 > retry:
643 >        if (cre8) {                     /* new file */
644                  newheader("RADIANCE", ambfp);
645                  fprintf(ambfp, "%s -av %g %g %g -aw %d -ab %d -aa %g ",
646                                  progname, colval(ambval,RED),
# Line 528 | Line 648 | initambfile(           /* initialize ambient file */
648                                  ambvwt, ambounce, ambacc);
649                  fprintf(ambfp, "-ad %d -as %d -ar %d ",
650                                  ambdiv, ambssamp, ambres);
651 +                fprintf(ambfp, "-dr %d -ds %g -dt %g -dc %g ", directrelay,
652 +                                srcsizerat, shadthresh, shadcert);
653 +                fprintf(ambfp, "-ss %g -st %g -lr %d -lw %g ", specjitter,
654 +                                specthresh, maxdepth, minweight);
655 +                fprintf(ambfp, "-cw %g %g -cs %d ", WLPART[3], WLPART[0], NCSAMP);
656                  if (octname != NULL)
657 <                        printargs(1, &octname, ambfp);
658 <                else
534 <                        fputc('\n', ambfp);
657 >                        fputs(octname, ambfp);
658 >                fputc('\n', ambfp);     /* end of command line, not header! */
659                  fprintf(ambfp, "SOFTWARE= %s\n", VersionID);
660                  fputnow(ambfp);
661 +                AMB_CNDX = CNDX;        /* use current spectral sampling */
662 +                AMB_WLPART = WLPART;
663 +                fputwlsplit(WLPART, ambfp);
664 +                fputncomp(NCSAMP, ambfp);
665                  fputformat(AMBFMT, ambfp);
666 <                putc('\n', ambfp);
666 >                fputc('\n', ambfp);
667                  putambmagic(ambfp);
668 <        } else if (checkheader(ambfp, AMBFMT, NULL) < 0 || !hasambmagic(ambfp))
669 <                error(USER, "bad ambient file");
668 >        } else if (getheader(ambfp, amb_headline, NULL) < 0 || !hasambmagic(ambfp)) {
669 >                if (--ntries > 0 && ftell(ambfp) == 0) {
670 > #ifdef  F_SETLKW
671 >                        aflock(F_UNLCK);
672 >                        clearerr(ambfp);
673 >                        sleep(2);
674 >                        aflock(F_RDLCK);
675 > #else
676 >                        clearerr(ambfp);
677 >                        sleep(2);
678 > #endif
679 >                        goto retry;
680 >                }
681 >                error(USER, "bad/incompatible ambient file");
682 >        }
683 >        if ((AMB_CNDX != CNDX) | (AMB_WLPART != WLPART)) {
684 >                if (setspectrsamp(AMB_CNDX, AMB_WLPART) < 0)
685 >                        error(USER, "bad wavelength sampling in ambient file");
686 >                if (AMB_CNDX[3] == CNDX[3] && FABSEQ(AMB_WLPART[0],WLPART[0]) &&
687 >                                        FABSEQ(AMB_WLPART[3],WLPART[3])) {
688 >                        AMB_CNDX = CNDX;
689 >                        AMB_WLPART = WLPART;            /* just the same */
690 >                } else
691 >                        error(WARNING, "different ambient file wavelength sampling");
692 >        }
693   }
694  
695  
# Line 547 | Line 698 | avsave(                                /* insert and save an ambient value */
698          AMBVAL  *av
699   )
700   {
701 <        avinsert(avstore(av));
701 >        avstore(av);
702          if (ambfp == NULL)
703                  return;
704          if (writambval(av, ambfp) < 0)
# Line 562 | Line 713 | writerr:
713  
714  
715   static AMBVAL *
716 < avstore(                                /* allocate memory and store aval */
717 <        register AMBVAL  *aval
716 > avstore(                                /* allocate memory and save aval */
717 >        AMBVAL  *aval
718   )
719   {
720 <        register AMBVAL  *av;
720 >        AMBVAL  *av;
721          double  d;
722  
723          if ((av = newambval()) == NULL)
724                  error(SYSTEM, "out of memory in avstore");
725 <        *av = *aval;
575 <        av->latick = ambclock;
725 >        memcpy(av, aval, AVSIZE);       /* AVSIZE <= sizeof(AMBVAL) */
726          av->next = NULL;
727          nambvals++;
728 <        d = bright(av->val);
728 >        d = pbright(av->val);
729          if (d > FTINY) {                /* add to log sum for averaging */
730                  avsum += log(d);
731                  navsum++;
732          }
733 +        avinsert(av);                   /* insert in our cache tree */
734          return(av);
735   }
736  
# Line 592 | Line 743 | static AMBTREE  *atfreelist = NULL;    /* free ambient tr
743   static AMBTREE *
744   newambtree(void)                                /* allocate 8 ambient tree structs */
745   {
746 <        register AMBTREE  *atp, *upperlim;
746 >        AMBTREE  *atp, *upperlim;
747  
748          if (atfreelist == NULL) {       /* get more nodes */
749                  atfreelist = (AMBTREE *)malloc(ATALLOCSZ*8*sizeof(AMBTREE));
# Line 606 | Line 757 | newambtree(void)                               /* allocate 8 ambient tree structs
757          }
758          atp = atfreelist;
759          atfreelist = atp->kid;
760 <        memset((char *)atp, '\0', 8*sizeof(AMBTREE));
760 >        memset(atp, 0, 8*sizeof(AMBTREE));
761          return(atp);
762   }
763  
# Line 622 | Line 773 | freeambtree(                   /* free 8 ambient tree structs */
773  
774  
775   static void
625 avinsert(                               /* insert ambient value in our tree */
626        void *av
627 )
628 {
629        register AMBTREE  *at;
630        register AMBVAL  *ap;
631        AMBVAL  avh;
632        FVECT  ck0;
633        double  s;
634        int  branch;
635        register int  i;
636
637        if (((AMBVAL*)av)->rad <= FTINY)
638                error(CONSISTENCY, "zero ambient radius in avinsert");
639        at = &atrunk;
640        VCOPY(ck0, thescene.cuorg);
641        s = thescene.cusize;
642        while (s*(OCTSCALE/2) > ((AMBVAL*)av)->rad*ambacc) {
643                if (at->kid == NULL)
644                        if ((at->kid = newambtree()) == NULL)
645                                error(SYSTEM, "out of memory in avinsert");
646                s *= 0.5;
647                branch = 0;
648                for (i = 0; i < 3; i++)
649                        if (((AMBVAL*)av)->pos[i] > ck0[i] + s) {
650                                ck0[i] += s;
651                                branch |= 1 << i;
652                        }
653                at = at->kid + branch;
654        }
655        avh.next = at->alist;           /* order by increasing level */
656        for (ap = &avh; ap->next != NULL; ap = ap->next)
657                if (ap->next->lvl >= ((AMBVAL*)av)->lvl)
658                        break;
659        ((AMBVAL*)av)->next = ap->next;
660        ap->next = (AMBVAL*)av;
661        at->alist = avh.next;
662 }
663
664
665 static void
776   unloadatree(                    /* unload an ambient value tree */
777 <        register AMBTREE  *at,
777 >        AMBTREE  *at,
778          unloadtf_t *f
779   )
780   {
781 <        register AMBVAL  *av;
782 <        register int  i;
781 >        AMBVAL  *av;
782 >        int  i;
783                                          /* transfer values at this node */
784          for (av = at->alist; av != NULL; av = at->alist) {
785                  at->alist = av->next;
786 +                av->next = NULL;
787                  (*f)(av);
788          }
789          if (at->kid == NULL)
# Line 684 | Line 795 | unloadatree(                   /* unload an ambient value tree */
795   }
796  
797  
687 static struct avl {
688        AMBVAL  *p;
689        unsigned long   t;
690 }       *avlist1;                       /* ambient value list with ticks */
691 static AMBVAL   **avlist2;              /* memory positions for sorting */
692 static int      i_avlist;               /* index for lists */
693
694 static int alatcmp(const void *av1, const void *av2);
695
798   static void
799 < av2list(
698 <        void *av
699 < )
799 > avfree(AMBVAL *av)
800   {
801 < #ifdef DEBUG
702 <        if (i_avlist >= nambvals)
703 <                error(CONSISTENCY, "too many ambient values in av2list1");
704 < #endif
705 <        avlist1[i_avlist].p = avlist2[i_avlist] = (AMBVAL*)av;
706 <        avlist1[i_avlist++].t = ((AMBVAL*)av)->latick;
801 >        free(av);
802   }
803  
804  
805 < static int
806 < alatcmp(                        /* compare ambient values for MRA */
712 <        const void *av1,
713 <        const void *av2
714 < )
805 > static void
806 > sortambvals(void)                       /* resort ambient values */
807   {
808 <        register long  lc = ((struct avl *)av2)->t - ((struct avl *)av1)->t;
717 <        return(lc<0 ? -1 : lc>0 ? 1 : 0);
718 < }
808 >        AMBTREE  oldatrunk = atrunk;
809  
810 <
811 < /* GW NOTE 2002/10/3:
812 < * I used to compare AMBVAL pointers, but found that this was the
723 < * cause of a serious consistency error with gcc, since the optimizer
724 < * uses some dangerous trick in pointer subtraction that
725 < * assumes pointers differ by exact struct size increments.
726 < */
727 < static int
728 < aposcmp(                        /* compare ambient value positions */
729 <        const void      *avp1,
730 <        const void      *avp2
731 < )
732 < {
733 <        register long   diff = *(char * const *)avp1 - *(char * const *)avp2;
734 <        if (diff < 0)
735 <                return(-1);
736 <        return(diff > 0);
810 >        atrunk.alist = NULL;
811 >        atrunk.kid = NULL;
812 >        unloadatree(&oldatrunk, avinsert);
813   }
814  
739 #if 1
740 static int
741 avlmemi(                                /* find list position from address */
742        AMBVAL  *avaddr
743 )
744 {
745        register AMBVAL  **avlpp;
815  
747        avlpp = (AMBVAL **)bsearch((char *)&avaddr, (char *)avlist2,
748                        nambvals, sizeof(AMBVAL *), aposcmp);
749        if (avlpp == NULL)
750                error(CONSISTENCY, "address not found in avlmemi");
751        return(avlpp - avlist2);
752 }
753 #else
754 #define avlmemi(avaddr) ((AMBVAL **)bsearch((char *)&avaddr,(char *)avlist2, \
755                                nambvals,sizeof(AMBVAL *),aposcmp) - avlist2)
756 #endif
757
758
759 static void
760 sortambvals(                    /* resort ambient values */
761        int     always
762 )
763 {
764        AMBTREE  oldatrunk;
765        AMBVAL  tav, *tap, *pnext;
766        register int    i, j;
767                                        /* see if it's time yet */
768        if (!always && (ambclock++ < lastsort+sortintvl ||
769                        nambvals < SORT_THRESH))
770                return;
771        /*
772         * The idea here is to minimize memory thrashing
773         * in VM systems by improving reference locality.
774         * We do this by periodically sorting our stored ambient
775         * values in memory in order of most recently to least
776         * recently accessed.  This ordering was chosen so that new
777         * ambient values (which tend to be less important) go into
778         * higher memory with the infrequently accessed values.
779         *      Since we expect our values to need sorting less
780         * frequently as the process continues, we double our
781         * waiting interval after each call.
782         *      This routine is also called by setambacc() with
783         * the "always" parameter set to 1 so that the ambient
784         * tree will be rebuilt with the new accuracy parameter.
785         */
786        if (tracktime) {                /* allocate pointer arrays to sort */
787                avlist2 = (AMBVAL **)malloc(nambvals*sizeof(AMBVAL *));
788                avlist1 = (struct avl *)malloc(nambvals*sizeof(struct avl));
789        } else {
790                avlist2 = NULL;
791                avlist1 = NULL;
792        }
793        if (avlist1 == NULL) {          /* no time tracking -- rebuild tree? */
794                if (avlist2 != NULL)
795                        free((void *)avlist2);
796                if (always) {           /* rebuild without sorting */
797                        oldatrunk = atrunk;
798                        atrunk.alist = NULL;
799                        atrunk.kid = NULL;
800                        unloadatree(&oldatrunk, avinsert);
801                }
802        } else {                        /* sort memory by last access time */
803                /*
804                 * Sorting memory is tricky because it isn't contiguous.
805                 * We have to sort an array of pointers by MRA and also
806                 * by memory position.  We then copy values in "loops"
807                 * to minimize memory hits.  Nevertheless, we will visit
808                 * everyone at least twice, and this is an expensive process
809                 * when we're thrashing, which is when we need to do it.
810                 */
811 #ifdef DEBUG
812                sprintf(errmsg, "sorting %u ambient values at ambclock=%lu...",
813                                nambvals, ambclock);
814                eputs(errmsg);
815 #endif
816                i_avlist = 0;
817                unloadatree(&atrunk, av2list);  /* empty current tree */
818 #ifdef DEBUG
819                if (i_avlist < nambvals)
820                        error(CONSISTENCY, "missing ambient values in sortambvals");
821 #endif
822                qsort((char *)avlist1, nambvals, sizeof(struct avl), alatcmp);
823                qsort((char *)avlist2, nambvals, sizeof(AMBVAL *), aposcmp);
824                for (i = 0; i < nambvals; i++) {
825                        if (avlist1[i].p == NULL)
826                                continue;
827                        tap = avlist2[i];
828                        tav = *tap;
829                        for (j = i; (pnext = avlist1[j].p) != tap;
830                                        j = avlmemi(pnext)) {
831                                *(avlist2[j]) = *pnext;
832                                avinsert(avlist2[j]);
833                                avlist1[j].p = NULL;
834                        }
835                        *(avlist2[j]) = tav;
836                        avinsert(avlist2[j]);
837                        avlist1[j].p = NULL;
838                }
839                free((void *)avlist1);
840                free((void *)avlist2);
841                                                /* compute new sort interval */
842                sortintvl = ambclock - lastsort;
843                if (sortintvl >= MAX_SORT_INTVL/2)
844                        sortintvl = MAX_SORT_INTVL;
845                else
846                        sortintvl <<= 1;        /* wait twice as long next */
847 #ifdef DEBUG
848                eputs("done\n");
849 #endif
850        }
851        if (ambclock >= MAXACLOCK)
852                ambclock = MAXACLOCK/2;
853        lastsort = ambclock;
854 }
855
856
816   #ifdef  F_SETLKW
817  
818   static void
# Line 863 | Line 822 | aflock(                        /* lock/unlock ambient file */
822   {
823          static struct flock  fls;       /* static so initialized to zeroes */
824  
825 +        if (typ == fls.l_type)          /* already called? */
826 +                return;
827 +
828          fls.l_type = typ;
829 <        if (fcntl(fileno(ambfp), F_SETLKW, &fls) < 0)
830 <                error(SYSTEM, "cannot (un)lock ambient file");
829 >        do
830 >                if (fcntl(fileno(ambfp), F_SETLKW, &fls) != -1)
831 >                        return;
832 >        while (errno == EINTR);
833 >        
834 >        error(SYSTEM, "cannot (un)lock ambient file");
835   }
836  
837  
838 < extern int
838 > int
839   ambsync(void)                   /* synchronize ambient file */
840   {
841 <        long  flen;
841 >        off_t  flen;
842          AMBVAL  avs;
843 <        register int  n;
843 >        int  n;
844  
845 <        if (nunflshed == 0)
845 >        if (ambfp == NULL)      /* no ambient file? */
846                  return(0);
847 <        if (lastpos < 0)        /* initializing (locked in initambfile) */
848 <                goto syncend;
883 <                                /* gain exclusive access */
884 <        aflock(F_WRLCK);
847 >                                /* gain appropriate access */
848 >        aflock(nunflshed ? F_WRLCK : F_RDLCK);
849                                  /* see if file has grown */
850 <        if ((flen = lseek(fileno(ambfp), (off_t)0, SEEK_END)) < 0)
850 >        if ((flen = lseek(fileno(ambfp), 0, SEEK_END)) < 0)
851                  goto seekerr;
852 <        if ( (n = flen - lastpos) ) {           /* file has grown */
853 <                if (ambinp == NULL) {           /* use duplicate filedes */
854 <                        ambinp = fdopen(dup(fileno(ambfp)), "r");
852 >        if ((n = flen - lastpos) > 0) {         /* file has grown */
853 >                if (ambinp == NULL) {           /* get new file pointer */
854 >                        ambinp = fopen(ambfile, "rb");
855                          if (ambinp == NULL)
856 <                                error(SYSTEM, "fdopen failed in ambsync");
856 >                                error(SYSTEM, "fopen failed in ambsync");
857                  }
858 <                if (fseek(ambinp, lastpos, 0) < 0)
858 >                if (fseeko(ambinp, lastpos, SEEK_SET) < 0)
859                          goto seekerr;
860                  while (n >= AMBVALSIZ) {        /* load contributed values */
861                          if (!readambval(&avs, ambinp)) {
# Line 901 | Line 865 | ambsync(void)                  /* synchronize ambient file */
865                                  error(WARNING, errmsg);
866                                  break;
867                          }
868 <                        avinsert(avstore(&avs));
868 >                        avstore(&avs);
869                          n -= AMBVALSIZ;
870                  }
871 <                /*** seek always as safety measure
872 <                if (n) ***/                     /* alignment */
873 <                        if (lseek(fileno(ambfp), (off_t)(flen-n), SEEK_SET) < 0)
910 <                                goto seekerr;
871 >                lastpos = flen - n;             /* check alignment */
872 >                if (n && lseek(fileno(ambfp), lastpos, SEEK_SET) < 0)
873 >                        goto seekerr;
874          }
912 #ifdef  DEBUG
913        if (ambfp->_ptr - ambfp->_base != nunflshed*AMBVALSIZ) {
914                sprintf(errmsg, "ambient file buffer at %d rather than %d",
915                                ambfp->_ptr - ambfp->_base,
916                                nunflshed*AMBVALSIZ);
917                error(CONSISTENCY, errmsg);
918        }
919 #endif
920 syncend:
875          n = fflush(ambfp);                      /* calls write() at last */
876 <        if ((lastpos = lseek(fileno(ambfp), (off_t)0, SEEK_CUR)) < 0)
923 <                goto seekerr;
876 >        lastpos += (off_t)nunflshed*AMBVALSIZ;
877          aflock(F_UNLCK);                        /* release file */
878          nunflshed = 0;
879          return(n);
880   seekerr:
881          error(SYSTEM, "seek failed in ambsync");
882 <        return -1; /* pro forma return */
882 >        return(EOF);    /* pro forma return */
883   }
884  
885 < #else
885 > #else   /* ! F_SETLKW */
886  
887 < extern int
887 > int
888   ambsync(void)                   /* flush ambient file */
889   {
890 <        if (nunflshed == 0)
890 >        if (ambfp == NULL)
891                  return(0);
892          nunflshed = 0;
893          return(fflush(ambfp));
894   }
895  
896 < #endif
896 > #endif  /* ! F_SETLKW */

Diff Legend

Removed lines
+ Added lines
< Changed lines
> Changed lines