ViewVC Help
View File | Revision Log | Show Annotations | Download File | Root Listing
root/radiance/ray/src/rt/ambient.c
(Generate patch)

Comparing ray/src/rt/ambient.c (file contents):
Revision 2.50 by schorsch, Thu Jun 5 19:29:34 2003 UTC vs.
Revision 2.122 by greg, Wed Jan 31 04:03:03 2024 UTC

# Line 1 | Line 1
1 #ifndef lint
1   static const char       RCSid[] = "$Id$";
3 #endif
2   /*
3   *  ambient.c - routines dealing with ambient (inter-reflected) component.
4   *
# Line 9 | Line 7 | static const char      RCSid[] = "$Id$";
7  
8   #include "copyright.h"
9  
10 + #include <string.h>
11 +
12   #include  "platform.h"
13   #include  "ray.h"
14   #include  "otypes.h"
15 + #include  "otspecial.h"
16 + #include  "resolu.h"
17   #include  "ambient.h"
18   #include  "random.h"
19 + #include  "pmapamb.h"
20  
21   #ifndef  OCTSCALE
22   #define  OCTSCALE       1.0     /* ceil((valid rad.)/(cube size)) */
23   #endif
24  
25 < extern char  *shm_boundary;     /* memory sharing boundary */
26 <
27 < #define  MAXASET        511     /* maximum number of elements in ambient set */
25 > #ifndef  MAXASET
26 > #define  MAXASET        4095    /* maximum number of elements in ambient set */
27 > #endif
28   OBJECT  ambset[MAXASET+1]={0};  /* ambient include/exclude set */
29  
30   double  maxarad;                /* maximum ambient radius */
# Line 32 | Line 35 | static AMBTREE atrunk;         /* our ambient trunk node */
35   static FILE  *ambfp = NULL;     /* ambient file pointer */
36   static int  nunflshed = 0;      /* number of unflushed ambient values */
37  
35 #ifndef SORT_THRESH
36 #ifdef SMLMEM
37 #define SORT_THRESH     ((3L<<20)/sizeof(AMBVAL))
38 #else
39 #define SORT_THRESH     ((9L<<20)/sizeof(AMBVAL))
40 #endif
41 #endif
42 #ifndef SORT_INTVL
43 #define SORT_INTVL      (SORT_THRESH<<1)
44 #endif
45 #ifndef MAX_SORT_INTVL
46 #define MAX_SORT_INTVL  (SORT_INTVL<<6)
47 #endif
48
38   static double  avsum = 0.;              /* computed ambient value sum (log) */
39   static unsigned int  navsum = 0;        /* number of values in avsum */
40   static unsigned int  nambvals = 0;      /* total number of indirect values */
41   static unsigned int  nambshare = 0;     /* number of values from file */
53 static unsigned long  ambclock = 0;     /* ambient access clock */
54 static unsigned long  lastsort = 0;     /* time of last value sort */
55 static long  sortintvl = SORT_INTVL;    /* time until next sort */
42   static FILE  *ambinp = NULL;            /* auxiliary file for input */
43   static long  lastpos = -1;              /* last flush position */
44  
59 #define MAXACLOCK       (1L<<30)        /* clock turnover value */
60        /*
61         * Track access times unless we are sharing ambient values
62         * through memory on a multiprocessor, when we want to avoid
63         * claiming our own memory (copy on write).  Go ahead anyway
64         * if more than two thirds of our values are unshared.
65         * Compile with -Dtracktime=0 to turn this code off.
66         */
67 #ifndef tracktime
68 #define tracktime       (shm_boundary == NULL || nambvals > 3*nambshare)
69 #endif
70
45   #define  AMBFLUSH       (BUFSIZ/AMBVALSIZ)
46  
47 < #define  newambval()    (AMBVAL *)malloc(sizeof(AMBVAL))
48 < #define  freeav(av)     free((void *)av);
47 > #define  AVSIZE         (sizeof(AMBVAL)-sizeof(SCOLOR)+sizeof(COLORV)*NCSAMP)
48 > #define  newambval()    (AMBVAL *)malloc(AVSIZE)
49  
50 < static void  initambfile(), avsave(), avinsert(), sortambvals(), unloadatree();
51 < static int  avlmemi();
52 < static AMBVAL  *avstore();
50 > #define  tfunc(x0, x, x1)       (((x)-(x0))/((x1)-(x0)))
51 >
52 > static void initambfile(int cre8);
53 > static void avsave(AMBVAL *av);
54 > static AMBVAL *avstore(AMBVAL  *aval);
55 > static AMBTREE *newambtree(void);
56 > static void freeambtree(AMBTREE  *atp);
57 >
58 > typedef void unloadtf_t(AMBVAL *);
59 > static unloadtf_t avinsert;
60 > static unloadtf_t avfree;
61 > static void unloadatree(AMBTREE  *at, unloadtf_t *f);
62 >
63 > static void sortambvals(void);
64 >
65 > static int      plugaleak(RAY *r, AMBVAL *ap, FVECT anorm, double ang);
66 > static double   sumambient(SCOLOR acol, RAY *r, FVECT rn, int al,
67 >                                AMBTREE *at, FVECT c0, double s);
68 > static int      makeambient(SCOLOR acol, RAY *r, FVECT rn, int al);
69 > static int      extambient(SCOLOR cr, AMBVAL *ap, FVECT pv, FVECT nv,
70 >                                FVECT uvw[3]);
71 >
72   #ifdef  F_SETLKW
73 < static void  aflock();
73 > static void aflock(int  typ);
74   #endif
75  
76  
77   void
78 < setambres(ar)                           /* set ambient resolution */
79 < int  ar;
78 > setambres(                              /* set ambient resolution */
79 >        int  ar
80 > )
81   {
82          ambres = ar < 0 ? 0 : ar;               /* may be done already */
83                                                  /* set min & max radii */
84          if (ar <= 0) {
85                  minarad = 0;
86 <                maxarad = thescene.cusize / 2.0;
86 >                maxarad = thescene.cusize*0.2;
87          } else {
88                  minarad = thescene.cusize / ar;
89 <                maxarad = 64 * minarad;                 /* heuristic */
90 <                if (maxarad > thescene.cusize / 2.0)
91 <                        maxarad = thescene.cusize / 2.0;
89 >                maxarad = 64.0 * minarad;               /* heuristic */
90 >                if (maxarad > thescene.cusize*0.2)
91 >                        maxarad = thescene.cusize*0.2;
92          }
93          if (minarad <= FTINY)
94 <                minarad = 10*FTINY;
94 >                minarad = 10.0*FTINY;
95          if (maxarad <= minarad)
96 <                maxarad = 64 * minarad;
96 >                maxarad = 64.0 * minarad;
97   }
98  
99  
100   void
101 < setambacc(newa)                         /* set ambient accuracy */
102 < double  newa;
101 > setambacc(                              /* set ambient accuracy */
102 >        double  newa
103 > )
104   {
105 <        double  ambdiff;
106 <
107 <        if (newa < 0.0)
108 <                newa = 0.0;
109 <        ambdiff = fabs(newa - ambacc);
110 <        if (ambdiff >= .01 && (ambacc = newa) > FTINY && nambvals > 0)
111 <                sortambvals(1);                 /* rebuild tree */
105 >        static double   olda;           /* remember previous setting here */
106 >        
107 >        newa *= (newa > 0);
108 >        if (fabs(newa - olda) >= .05*(newa + olda)) {
109 >                ambacc = newa;
110 >                if (ambacc > FTINY && nambvals > 0)
111 >                        sortambvals();          /* rebuild tree */
112 >        }
113   }
114  
115  
116   void
117 < setambient()                            /* initialize calculation */
117 > setambient(void)                                /* initialize calculation */
118   {
119          int     readonly = 0;
120 <        long  pos, flen;
120 >        long    flen;
121          AMBVAL  amb;
122                                                  /* make sure we're fresh */
123          ambdone();
# Line 141 | Line 137 | setambient()                           /* initialize calculation */
137                  readonly = (ambfp = fopen(ambfile, "r")) != NULL;
138          if (ambfp != NULL) {
139                  initambfile(0);                 /* file exists */
140 <                pos = ftell(ambfp);
140 >                lastpos = ftell(ambfp);
141                  while (readambval(&amb, ambfp))
142 <                        avinsert(avstore(&amb));
142 >                        avstore(&amb);
143                  nambshare = nambvals;           /* share loaded values */
144                  if (readonly) {
145                          sprintf(errmsg,
# Line 155 | Line 151 | setambient()                           /* initialize calculation */
151                          return;                 /* avoid ambsync() */
152                  }
153                                                  /* align file pointer */
154 <                pos += (long)nambvals*AMBVALSIZ;
155 <                flen = lseek(fileno(ambfp), (off_t)0L, 2);
156 <                if (flen != pos) {
154 >                lastpos += (long)nambvals*AMBVALSIZ;
155 >                flen = lseek(fileno(ambfp), (off_t)0, SEEK_END);
156 >                if (flen != lastpos) {
157                          sprintf(errmsg,
158                          "ignoring last %ld values in ambient file (corrupted)",
159 <                                        (flen - pos)/AMBVALSIZ);
159 >                                        (flen - lastpos)/AMBVALSIZ);
160                          error(WARNING, errmsg);
161 <                        fseek(ambfp, pos, 0);
162 <                        ftruncate(fileno(ambfp), (off_t)pos);
161 >                        fseek(ambfp, lastpos, SEEK_SET);
162 >                        ftruncate(fileno(ambfp), (off_t)lastpos);
163                  }
164          } else if ((ambfp = fopen(ambfile, "w+")) != NULL) {
165                  initambfile(1);                 /* else create new file */
166 +                fflush(ambfp);
167 +                lastpos = ftell(ambfp);
168          } else {
169                  sprintf(errmsg, "cannot open ambient file \"%s\"", ambfile);
170                  error(SYSTEM, errmsg);
171          }
172 <        nunflshed++;    /* lie */
173 <        ambsync();
172 > #ifdef  F_SETLKW
173 >        aflock(F_UNLCK);                        /* release file */
174 > #endif
175   }
176  
177  
178   void
179 < ambdone()                       /* close ambient file and free memory */
179 > ambdone(void)                   /* close ambient file and free memory */
180   {
181          if (ambfp != NULL) {            /* close ambient file */
182                  ambsync();
# Line 190 | Line 189 | ambdone()                      /* close ambient file and free memory */
189                  lastpos = -1;
190          }
191                                          /* free ambient tree */
192 <        unloadatree(&atrunk, free);
192 >        unloadatree(&atrunk, avfree);
193                                          /* reset state variables */
194          avsum = 0.;
195          navsum = 0;
196          nambvals = 0;
197          nambshare = 0;
199        ambclock = 0;
200        lastsort = 0;
201        sortintvl = SORT_INTVL;
198   }
199  
200  
201   void
202 < ambnotify(obj)                  /* record new modifier */
203 < OBJECT  obj;
202 > ambnotify(                      /* record new modifier */
203 >        OBJECT  obj
204 > )
205   {
206          static int  hitlimit = 0;
207 <        register OBJREC  *o;
208 <        register char  **amblp;
207 >        OBJREC   *o;
208 >        char  **amblp;
209  
210          if (obj == OVOID) {             /* starting over */
211                  ambset[0] = 0;
# Line 232 | Line 229 | OBJECT obj;
229  
230  
231   void
232 < ambient(acol, r, nrm)           /* compute ambient component for ray */
233 < COLOR  acol;
234 < register RAY  *r;
235 < FVECT  nrm;
232 > multambient(            /* compute ambient component & multiply by coef. */
233 >        SCOLOR  aval,
234 >        RAY  *r,
235 >        FVECT  nrm
236 > )
237   {
238 +        static double  logAvgAbsorp = 1;
239          static int  rdepth = 0;                 /* ambient recursion */
240 +        SCOLOR  acol, caustic;
241 +        int     i, ok;
242          double  d, l;
243  
244 +        /* PMAP: Factor in ambient from photon map, if enabled and ray is
245 +         * ambient. Return as all ambient components accounted for, else
246 +         * continue. */
247 +        if (ambPmap(aval, r, rdepth))
248 +                return;
249 +
250 +        if (logAvgAbsorp > 0)                   /* exclude in -aw to avoid growth */
251 +                logAvgAbsorp = log(1.-AVGREFL);
252 +
253 +        /* PMAP: Factor in specular-diffuse ambient (caustics) from photon
254 +         * map, if enabled and ray is primary, else caustic is zero.  Continue
255 +         * with RADIANCE ambient calculation */
256 + {/* XXX TEMPORARY */
257 +        COLOR   pmc;
258 +        scolor_color(pmc, aval);
259 +        ambPmapCaustic(pmc, r, rdepth);
260 +        setscolor(caustic, colval(pmc,RED), colval(pmc,GRN), colval(pmc,BLU));
261 + }
262          if (ambdiv <= 0)                        /* no ambient calculation */
263                  goto dumbamb;
264                                                  /* check number of bounces */
# Line 251 | Line 270 | FVECT  nrm;
270                  goto dumbamb;
271  
272          if (ambacc <= FTINY) {                  /* no ambient storage */
273 +                FVECT   uvd[2];
274 +                float   dgrad[2], *dgp = NULL;
275 +
276 +                if (nrm != r->ron && DOT(nrm,r->ron) < 0.9999)
277 +                        dgp = dgrad;            /* compute rotational grad. */
278 +                copyscolor(acol, aval);
279                  rdepth++;
280 <                d = doambient(acol, r, r->rweight, NULL, NULL);
280 >                ok = doambient(acol, r, r->rweight,
281 >                                uvd, NULL, NULL, dgp, NULL);
282                  rdepth--;
283 <                if (d <= FTINY)
283 >                if (!ok)
284                          goto dumbamb;
285 +                if ((ok > 0) & (dgp != NULL)) { /* apply texture */
286 +                        FVECT   v1;
287 +                        VCROSS(v1, r->ron, nrm);
288 +                        d = 1.0;
289 +                        for (i = 3; i--; )
290 +                                d += v1[i] * (dgp[0]*uvd[0][i] + dgp[1]*uvd[1][i]);
291 +                        if (d >= 0.05)
292 +                                scalescolor(acol, d);
293 +                }
294 +                copyscolor(aval, acol);
295 +
296 +                /* PMAP: add in caustic */
297 +                saddscolor(aval, caustic);
298                  return;
299          }
300 <
301 <        if (tracktime)                          /* sort to minimize thrashing */
263 <                sortambvals(0);
264 <                                                /* get ambient value */
265 <        setcolor(acol, 0.0, 0.0, 0.0);
300 >                                                /* interpolate ambient value */
301 >        scolorblack(acol);
302          d = sumambient(acol, r, nrm, rdepth,
303                          &atrunk, thescene.cuorg, thescene.cusize);
304 +                        
305          if (d > FTINY) {
306 <                scalecolor(acol, 1.0/d);
306 >                scalescolor(acol, 1.0/d);
307 >                smultscolor(aval, acol);
308 >
309 >                /* PMAP: add in caustic */
310 >                saddscolor(aval, caustic);
311                  return;
312          }
313 +        
314          rdepth++;                               /* need to cache new value */
315 <        d = makeambient(acol, r, nrm, rdepth-1);
315 >        ok = makeambient(acol, r, nrm, rdepth-1);
316          rdepth--;
317 <        if (d > FTINY)
317 >        
318 >        if (ok) {
319 >                smultscolor(aval, acol);        /* computed new value */
320 >
321 >                /* PMAP: add in caustic */
322 >                saddscolor(aval, caustic);
323                  return;
324 +        }
325 +        
326   dumbamb:                                        /* return global value */
327 <        copycolor(acol, ambval);
328 <        if (ambvwt <= 0 | navsum == 0)
327 >        if ((ambvwt <= 0) | (navsum == 0)) {
328 >                smultcolor(aval, ambval);
329 >                
330 >                /* PMAP: add in caustic */
331 >                saddscolor(aval, caustic);
332                  return;
333 <        l = bright(ambval);                     /* average in computations */
333 >        }
334 >        
335 >        l = bright(ambval);                     /* average in computations */  
336          if (l > FTINY) {
337 <                d = (log(l)*(double)ambvwt + avsum) /
337 >                d = (log(l)*(double)ambvwt + avsum + logAvgAbsorp*navsum) /
338                                  (double)(ambvwt + navsum);
339                  d = exp(d) / l;
340 <                scalecolor(acol, d);            /* apply color of ambval */
340 >                scalescolor(aval, d);
341 >                smultcolor(aval, ambval);       /* apply color of ambval */
342          } else {
343 <                d = exp( avsum / (double)navsum );
344 <                setcolor(acol, d, d, d);        /* neutral color */
343 >                d = exp( avsum/(double)navsum + logAvgAbsorp );
344 >                scalescolor(aval, d);           /* neutral color */
345          }
346   }
347  
348  
349 < double
350 < sumambient(acol, r, rn, al, at, c0, s)  /* get interpolated ambient value */
351 < COLOR  acol;
297 < register RAY  *r;
298 < FVECT  rn;
299 < int  al;
300 < AMBTREE  *at;
301 < FVECT  c0;
302 < double  s;
349 > /* Plug a potential leak where ambient cache value is occluded */
350 > static int
351 > plugaleak(RAY *r, AMBVAL *ap, FVECT anorm, double ang)
352   {
353 <        double  d, e1, e2, wt, wsum;
354 <        COLOR  ct;
355 <        FVECT  ck0;
356 <        int  i;
357 <        register int  j;
309 <        register AMBVAL  *av;
353 >        const double    cost70sq = 0.1169778;   /* cos(70deg)^2 */
354 >        RAY             rtst;
355 >        FVECT           vdif;
356 >        double          normdot, ndotd, nadotd;
357 >        double          a, b, c, t[2];
358  
359 <        wsum = 0.0;
360 <                                        /* do this node */
359 >        ang += 2.*PI*(ang < 0);                 /* check direction flags */
360 >        if ( !(ap->corral>>(int)(ang*(16./PI)) & 1) )
361 >                return(0);
362 >        /*
363 >         * Generate test ray, targeting 20 degrees above sample point plane
364 >         * along surface normal from cache position.  This should be high
365 >         * enough to miss local geometry we don't really care about.
366 >         */
367 >        VSUB(vdif, ap->pos, r->rop);
368 >        normdot = DOT(anorm, r->ron);
369 >        ndotd = DOT(vdif, r->ron);
370 >        nadotd = DOT(vdif, anorm);
371 >        a = normdot*normdot - cost70sq;
372 >        b = 2.0*(normdot*ndotd - nadotd*cost70sq);
373 >        c = ndotd*ndotd - DOT(vdif,vdif)*cost70sq;
374 >        if (quadratic(t, a, b, c) != 2)
375 >                return(1);                      /* should rarely happen */
376 >        if (t[1] <= FTINY)
377 >                return(0);                      /* should fail behind test */
378 >        rayorigin(&rtst, SHADOW, r, NULL);
379 >        VSUM(rtst.rdir, vdif, anorm, t[1]);     /* further dist. > plane */
380 >        rtst.rmax = normalize(rtst.rdir);       /* short ray test */
381 >        while (localhit(&rtst, &thescene)) {    /* check for occluder */
382 >                OBJREC  *m = findmaterial(rtst.ro);
383 >                if (m != NULL && !istransp(m->otype) && !isBSDFproxy(m) &&
384 >                                (rtst.clipset == NULL ||
385 >                                        !inset(rtst.clipset, rtst.ro->omod)))
386 >                        return(1);              /* plug light leak */
387 >                VCOPY(rtst.rorg, rtst.rop);     /* skip invisible surface */
388 >                rtst.rmax -= rtst.rot;
389 >                rayclear(&rtst);
390 >        }
391 >        return(0);                              /* seems we're OK */
392 > }
393 >
394 >
395 > static double
396 > sumambient(             /* get interpolated ambient value */
397 >        SCOLOR  acol,
398 >        RAY  *r,
399 >        FVECT  rn,
400 >        int  al,
401 >        AMBTREE  *at,
402 >        FVECT  c0,
403 >        double  s
404 > )
405 > {                       /* initial limit is 10 degrees plus ambacc radians */
406 >        const double    minangle = 10.0 * PI/180.;
407 >        double          maxangle = minangle + ambacc;
408 >        double          wsum = 0.0;
409 >        FVECT           ck0;
410 >        int             i, j;
411 >        AMBVAL          *av;
412 >
413 >        if (at->kid != NULL) {          /* sum children first */                                
414 >                s *= 0.5;
415 >                for (i = 0; i < 8; i++) {
416 >                        for (j = 0; j < 3; j++) {
417 >                                ck0[j] = c0[j];
418 >                                if (1<<j & i)
419 >                                        ck0[j] += s;
420 >                                if (r->rop[j] < ck0[j] - OCTSCALE*s)
421 >                                        break;
422 >                                if (r->rop[j] > ck0[j] + (1.0+OCTSCALE)*s)
423 >                                        break;
424 >                        }
425 >                        if (j == 3)
426 >                                wsum += sumambient(acol, r, rn, al,
427 >                                                        at->kid+i, ck0, s);
428 >                }
429 >                                        /* good enough? */
430 >                if ((wsum >= 0.05) & (s*ambacc > minarad))
431 >                        return(wsum);
432 >        }
433 >                                        /* adjust maximum angle */
434 >        if (at->alist != NULL && (at->alist->lvl <= al) & (r->rweight < 0.6))
435 >                maxangle = (maxangle - PI/2.)*pow(r->rweight,0.13) + PI/2.;
436 >                                        /* sum this node */
437          for (av = at->alist; av != NULL; av = av->next) {
438 <                double  rn_dot = -2.0;
439 <                if (tracktime)
440 <                        av->latick = ambclock;
438 >                double  u, v, d, delta_r2, delta_t2;
439 >                SCOLOR  sct;
440 >                FVECT   uvw[3];
441                  /*
442 <                 *  Ambient level test.
442 >                 *  Ambient level test
443                   */
444 <                if (av->lvl > al)       /* list sorted, so this works */
444 >                if (av->lvl > al ||     /* list sorted, so this works */
445 >                                (av->lvl == al) & (av->weight < 0.9*r->rweight))
446                          break;
322                if (av->weight < r->rweight-FTINY)
323                        continue;
447                  /*
448 <                 *  Ambient radius test.
448 >                 *  Direction test using unperturbed normal
449                   */
450 <                d = av->pos[0] - r->rop[0];
451 <                e1 = d * d;
452 <                d = av->pos[1] - r->rop[1];
330 <                e1 += d * d;
331 <                d = av->pos[2] - r->rop[2];
332 <                e1 += d * d;
333 <                e1 /= av->rad * av->rad;
334 <                if (e1 > ambacc*ambacc*1.21)
450 >                decodedir(uvw[2], av->ndir);
451 >                d = DOT(uvw[2], r->ron);
452 >                if (d <= 0.0)           /* >= 90 degrees */
453                          continue;
454 +                delta_r2 = 2.0 - 2.0*d; /* approx. radians^2 */
455 +                if (delta_r2 >= maxangle*maxangle)
456 +                        continue;
457                  /*
458 <                 *  Direction test using closest normal.
458 >                 *  Modified ray behind test
459                   */
460 <                d = DOT(av->dir, r->ron);
461 <                if (rn != r->ron) {
462 <                        rn_dot = DOT(av->dir, rn);
342 <                        if (rn_dot > 1.0-FTINY)
343 <                                rn_dot = 1.0-FTINY;
344 <                        if (rn_dot >= d-FTINY) {
345 <                                d = rn_dot;
346 <                                rn_dot = -2.0;
347 <                        }
348 <                }
349 <                e2 = (1.0 - d) * r->rweight;
350 <                if (e2 < 0.0) e2 = 0.0;
351 <                if (e1 + e2 > ambacc*ambacc*1.21)
460 >                VSUB(ck0, r->rop, av->pos);
461 >                d = DOT(ck0, uvw[2]);
462 >                if (d < -minarad*ambacc)
463                          continue;
464 +                d /= av->rad[0];
465 +                delta_t2 = d*d;
466 +                if (delta_t2 >= ambacc*ambacc)
467 +                        continue;
468                  /*
469 <                 *  Ray behind test.
469 >                 *  Elliptical radii test based on Hessian
470                   */
471 <                d = 0.0;
472 <                for (j = 0; j < 3; j++)
473 <                        d += (r->rop[j] - av->pos[j]) *
474 <                                        (av->dir[j] + r->ron[j]);
475 <                if (d*0.5 < -minarad*ambacc-.001)
471 >                decodedir(uvw[0], av->udir);
472 >                VCROSS(uvw[1], uvw[2], uvw[0]);
473 >                d = (u = DOT(ck0, uvw[0])) / av->rad[0];
474 >                delta_t2 += d*d;
475 >                d = (v = DOT(ck0, uvw[1])) / av->rad[1];
476 >                delta_t2 += d*d;
477 >                if (delta_t2 >= ambacc*ambacc)
478                          continue;
479                  /*
480 <                 *  Jittering final test reduces image artifacts.
480 >                 *  Test for potential light leak
481                   */
482 <                e1 = sqrt(e1);
366 <                e2 = sqrt(e2);
367 <                wt = e1 + e2;
368 <                if (wt > ambacc*(.9+.2*urand(9015+samplendx)))
482 >                if (av->corral && plugaleak(r, av, uvw[2], atan2a(v,u)))
483                          continue;
484                  /*
485 <                 *  Recompute directional error using perturbed normal
485 >                 *  Extrapolate value and compute final weight (hat function)
486                   */
487 <                if (rn_dot > 0.0) {
488 <                        e2 = sqrt((1.0 - rn_dot)*r->rweight);
489 <                        wt = e1 + e2;
490 <                }
491 <                if (wt <= 1e-3)
492 <                        wt = 1e3;
493 <                else
380 <                        wt = 1.0 / wt;
381 <                wsum += wt;
382 <                extambient(ct, av, r->rop, rn);
383 <                scalecolor(ct, wt);
384 <                addcolor(acol, ct);
487 >                if (!extambient(sct, av, r->rop, rn, uvw))
488 >                        continue;
489 >                d = tfunc(maxangle, sqrt(delta_r2), 0.0) *
490 >                        tfunc(ambacc, sqrt(delta_t2), 0.0);
491 >                scalescolor(sct, d);
492 >                saddscolor(acol, sct);
493 >                wsum += d;
494          }
386        if (at->kid == NULL)
387                return(wsum);
388                                        /* do children */
389        s *= 0.5;
390        for (i = 0; i < 8; i++) {
391                for (j = 0; j < 3; j++) {
392                        ck0[j] = c0[j];
393                        if (1<<j & i)
394                                ck0[j] += s;
395                        if (r->rop[j] < ck0[j] - OCTSCALE*s)
396                                break;
397                        if (r->rop[j] > ck0[j] + (1.0+OCTSCALE)*s)
398                                break;
399                }
400                if (j == 3)
401                        wsum += sumambient(acol, r, rn, al, at->kid+i, ck0, s);
402        }
495          return(wsum);
496   }
497  
498  
499 < double
500 < makeambient(acol, r, rn, al)    /* make a new ambient value */
501 < COLOR  acol;
502 < register RAY  *r;
503 < FVECT  rn;
504 < int  al;
499 > static int
500 > makeambient(            /* make a new ambient value for storage */
501 >        SCOLOR  acol,
502 >        RAY  *r,
503 >        FVECT  rn,
504 >        int  al
505 > )
506   {
507          AMBVAL  amb;
508 <        FVECT   gp, gd;
509 <                                                /* compute weight */
510 <        amb.weight = pow(AVGREFL, (double)al);
511 <        if (r->rweight < 0.1*amb.weight)        /* heuristic */
512 <                amb.weight = r->rweight;
508 >        FVECT   uvw[3];
509 >        int     i;
510 >
511 >        amb.weight = 1.0;                       /* compute weight */
512 >        for (i = al; i-- > 0; )
513 >                amb.weight *= AVGREFL;
514 >        if (r->rweight < 0.1*amb.weight)        /* heuristic override */
515 >                amb.weight = 1.25*r->rweight;
516 >        setscolor(acol, AVGREFL, AVGREFL, AVGREFL);
517                                                  /* compute ambient */
518 <        amb.rad = doambient(acol, r, amb.weight, gp, gd);
519 <        if (amb.rad <= FTINY)
520 <                return(0.0);
521 <                                                /* store it */
518 >        i = doambient(acol, r, amb.weight,
519 >                        uvw, amb.rad, amb.gpos, amb.gdir, &amb.corral);
520 >        scalescolor(acol, 1./AVGREFL);          /* undo assumed reflectance */
521 >        if (i <= 0 || amb.rad[0] <= FTINY)      /* no Hessian or zero radius */
522 >                return(i);
523 >                                                /* store value */
524          VCOPY(amb.pos, r->rop);
525 <        VCOPY(amb.dir, r->ron);
525 >        amb.ndir = encodedir(r->ron);
526 >        amb.udir = encodedir(uvw[0]);
527          amb.lvl = al;
528 <        copycolor(amb.val, acol);
429 <        VCOPY(amb.gpos, gp);
430 <        VCOPY(amb.gdir, gd);
528 >        copyscolor(amb.val, acol);
529                                                  /* insert into tree */
530          avsave(&amb);                           /* and save to file */
531 <        if (rn != r->ron)
532 <                extambient(acol, &amb, r->rop, rn);     /* texture */
533 <        return(amb.rad);
531 >        if (rn != r->ron) {                     /* texture */
532 >                VCOPY(uvw[2], r->ron);
533 >                extambient(acol, &amb, r->rop, rn, uvw);
534 >        }
535 >        return(1);
536   }
537  
538  
539 < void
540 < extambient(cr, ap, pv, nv)              /* extrapolate value at pv, nv */
541 < COLOR  cr;
542 < register AMBVAL  *ap;
543 < FVECT  pv, nv;
539 > static int
540 > extambient(             /* extrapolate value at pv, nv */
541 >        SCOLOR  scr,
542 >        AMBVAL   *ap,
543 >        FVECT  pv,
544 >        FVECT  nv,
545 >        FVECT  uvw[3]
546 > )
547   {
548 <        FVECT  v1;
549 <        register int  i;
550 <        double  d;
548 >        const double    min_d = 0.05;
549 >        const double    max_d = 20.;
550 >        static FVECT    my_uvw[3];
551 >        FVECT           v1;
552 >        int             i;
553 >        double          d = 1.0;        /* zeroeth order */
554  
555 <        d = 1.0;                        /* zeroeth order */
556 <                                        /* gradient due to translation */
557 <        for (i = 0; i < 3; i++)
558 <                d += ap->gpos[i]*(pv[i]-ap->pos[i]);
559 <                                        /* gradient due to rotation */
454 <        VCROSS(v1, ap->dir, nv);
455 <        d += DOT(ap->gdir, v1);
456 <        if (d <= 0.0) {
457 <                setcolor(cr, 0.0, 0.0, 0.0);
458 <                return;
555 >        if (uvw == NULL) {              /* need local coordinates? */
556 >                decodedir(my_uvw[2], ap->ndir);
557 >                decodedir(my_uvw[0], ap->udir);
558 >                VCROSS(my_uvw[1], my_uvw[2], my_uvw[0]);
559 >                uvw = my_uvw;
560          }
561 <        copycolor(cr, ap->val);
562 <        scalecolor(cr, d);
561 >        for (i = 3; i--; )              /* gradient due to translation */
562 >                d += (pv[i] - ap->pos[i]) *
563 >                        (ap->gpos[0]*uvw[0][i] + ap->gpos[1]*uvw[1][i]);
564 >
565 >        VCROSS(v1, uvw[2], nv);         /* gradient due to rotation */
566 >        for (i = 3; i--; )
567 >                d += v1[i] * (ap->gdir[0]*uvw[0][i] + ap->gdir[1]*uvw[1][i]);
568 >        
569 >        if (d < min_d)                  /* clamp min/max scaling */
570 >                d = min_d;
571 >        else if (d > max_d)
572 >                d = max_d;
573 >        copyscolor(scr, ap->val);
574 >        scalescolor(scr, d);
575 >        return(d > min_d);
576   }
577  
578  
579   static void
580 < initambfile(creat)              /* initialize ambient file */
581 < int  creat;
580 > avinsert(                               /* insert ambient value in our tree */
581 >        AMBVAL *av
582 > )
583   {
584 +        AMBTREE  *at;
585 +        AMBVAL  *ap;
586 +        AMBVAL  avh;
587 +        FVECT  ck0;
588 +        double  s;
589 +        int  branch;
590 +        int  i;
591 +
592 +        if (av->rad[0] <= FTINY)
593 +                error(CONSISTENCY, "zero ambient radius in avinsert");
594 +        at = &atrunk;
595 +        VCOPY(ck0, thescene.cuorg);
596 +        s = thescene.cusize;
597 +        while (s*(OCTSCALE/2) > av->rad[1]*ambacc) {
598 +                if (at->kid == NULL)
599 +                        if ((at->kid = newambtree()) == NULL)
600 +                                error(SYSTEM, "out of memory in avinsert");
601 +                s *= 0.5;
602 +                branch = 0;
603 +                for (i = 0; i < 3; i++)
604 +                        if (av->pos[i] > ck0[i] + s) {
605 +                                ck0[i] += s;
606 +                                branch |= 1 << i;
607 +                        }
608 +                at = at->kid + branch;
609 +        }
610 +        avh.next = at->alist;           /* order by increasing level */
611 +        for (ap = &avh; ap->next != NULL; ap = ap->next)
612 +                if ( ap->next->lvl > av->lvl ||
613 +                                (ap->next->lvl == av->lvl) &
614 +                                (ap->next->weight <= av->weight) )
615 +                        break;
616 +        av->next = ap->next;
617 +        ap->next = (AMBVAL*)av;
618 +        at->alist = avh.next;
619 + }
620 +
621 +
622 + static void
623 + initambfile(            /* initialize ambient file */
624 +        int  cre8
625 + )
626 + {
627          extern char  *progname, *octname;
628          static char  *mybuf = NULL;
629  
630   #ifdef  F_SETLKW
631 <        aflock(creat ? F_WRLCK : F_RDLCK);
631 >        aflock(cre8 ? F_WRLCK : F_RDLCK);
632   #endif
633          SET_FILE_BINARY(ambfp);
634          if (mybuf == NULL)
635                  mybuf = (char *)bmalloc(BUFSIZ+8);
636          setbuf(ambfp, mybuf);
637 <        if (creat) {                    /* new file */
637 > retry:
638 >        if (cre8) {                     /* new file */
639                  newheader("RADIANCE", ambfp);
640                  fprintf(ambfp, "%s -av %g %g %g -aw %d -ab %d -aa %g ",
641                                  progname, colval(ambval,RED),
# Line 484 | Line 643 | int  creat;
643                                  ambvwt, ambounce, ambacc);
644                  fprintf(ambfp, "-ad %d -as %d -ar %d ",
645                                  ambdiv, ambssamp, ambres);
646 +                fprintf(ambfp, "-dr %d -ds %g -dt %g -dc %g ", directrelay,
647 +                                srcsizerat, shadthresh, shadcert);
648 +                fprintf(ambfp, "-ss %g -st %g -lr %d -lw %g ", specjitter,
649 +                                specthresh, maxdepth, minweight);
650 +                fprintf(ambfp, "-cw %g %g -cs %d ", WLPART[3], WLPART[0], NCSAMP);
651                  if (octname != NULL)
652 <                        printargs(1, &octname, ambfp);
653 <                else
490 <                        fputc('\n', ambfp);
652 >                        fputs(octname, ambfp);
653 >                fputc('\n', ambfp);     /* end of command line, not header! */
654                  fprintf(ambfp, "SOFTWARE= %s\n", VersionID);
655                  fputnow(ambfp);
656 +                AMB_CNDX = CNDX;        /* use current spectral sampling */
657 +                AMB_WLPART = WLPART;
658 +                fputwlsplit(WLPART, ambfp);
659 +                fputncomp(NCSAMP, ambfp);
660                  fputformat(AMBFMT, ambfp);
661 <                putc('\n', ambfp);
661 >                fputc('\n', ambfp);
662                  putambmagic(ambfp);
663 <        } else if (checkheader(ambfp, AMBFMT, NULL) < 0 || !hasambmagic(ambfp))
664 <                error(USER, "bad ambient file");
663 >        } else if (getheader(ambfp, amb_headline, NULL) < 0 || !hasambmagic(ambfp)) {
664 > #ifndef  F_SETLKW
665 >                static int      ntries = 3;
666 >                if (--ntries > 0 && ftell(ambfp) == 0) {
667 >                        clearerr(ambfp);
668 >                        sleep(2);
669 >                        goto retry;
670 >                }
671 > #endif
672 >                error(USER, "bad/incompatible ambient file");
673 >        }
674 >        if ((AMB_CNDX != CNDX) | (AMB_WLPART != WLPART)) {
675 >                if (setspectrsamp(AMB_CNDX, AMB_WLPART) < 0)
676 >                        error(USER, "bad wavelength sampling in ambient file");
677 >                if (AMB_CNDX[3] == CNDX[3] && FABSEQ(AMB_WLPART[0],WLPART[0]) &&
678 >                                        FABSEQ(AMB_WLPART[3],WLPART[3])) {
679 >                        AMB_CNDX = CNDX;
680 >                        AMB_WLPART = WLPART;            /* just the same */
681 >                } else
682 >                        error(WARNING, "different ambient file wavelength sampling");
683 >        }
684   }
685  
686  
687   static void
688 < avsave(av)                              /* insert and save an ambient value */
689 < AMBVAL  *av;
688 > avsave(                         /* insert and save an ambient value */
689 >        AMBVAL  *av
690 > )
691   {
692 <        avinsert(avstore(av));
692 >        avstore(av);
693          if (ambfp == NULL)
694                  return;
695          if (writambval(av, ambfp) < 0)
# Line 517 | Line 704 | writerr:
704  
705  
706   static AMBVAL *
707 < avstore(aval)                           /* allocate memory and store aval */
708 < register AMBVAL  *aval;
707 > avstore(                                /* allocate memory and save aval */
708 >        AMBVAL  *aval
709 > )
710   {
711 <        register AMBVAL  *av;
711 >        AMBVAL  *av;
712          double  d;
713  
714          if ((av = newambval()) == NULL)
715                  error(SYSTEM, "out of memory in avstore");
716 <        copystruct(av, aval);
529 <        av->latick = ambclock;
716 >        memcpy(av, aval, AVSIZE);       /* AVSIZE <= sizeof(AMBVAL) */
717          av->next = NULL;
718          nambvals++;
719 <        d = bright(av->val);
719 >        d = pbright(av->val);
720          if (d > FTINY) {                /* add to log sum for averaging */
721                  avsum += log(d);
722                  navsum++;
723          }
724 +        avinsert(av);                   /* insert in our cache tree */
725          return(av);
726   }
727  
# Line 544 | Line 732 | static AMBTREE  *atfreelist = NULL;    /* free ambient tr
732  
733  
734   static AMBTREE *
735 < newambtree()                            /* allocate 8 ambient tree structs */
735 > newambtree(void)                                /* allocate 8 ambient tree structs */
736   {
737 <        register AMBTREE  *atp, *upperlim;
737 >        AMBTREE  *atp, *upperlim;
738  
739          if (atfreelist == NULL) {       /* get more nodes */
740                  atfreelist = (AMBTREE *)malloc(ATALLOCSZ*8*sizeof(AMBTREE));
# Line 560 | Line 748 | newambtree()                           /* allocate 8 ambient tree structs */
748          }
749          atp = atfreelist;
750          atfreelist = atp->kid;
751 <        bzero((char *)atp, 8*sizeof(AMBTREE));
751 >        memset(atp, 0, 8*sizeof(AMBTREE));
752          return(atp);
753   }
754  
755  
756   static void
757 < freeambtree(atp)                        /* free 8 ambient tree structs */
758 < AMBTREE  *atp;
757 > freeambtree(                    /* free 8 ambient tree structs */
758 >        AMBTREE  *atp
759 > )
760   {
761          atp->kid = atfreelist;
762          atfreelist = atp;
# Line 575 | Line 764 | AMBTREE  *atp;
764  
765  
766   static void
767 < avinsert(av)                            /* insert ambient value in our tree */
768 < register AMBVAL  *av;
767 > unloadatree(                    /* unload an ambient value tree */
768 >        AMBTREE  *at,
769 >        unloadtf_t *f
770 > )
771   {
772 <        register AMBTREE  *at;
773 <        register AMBVAL  *ap;
583 <        AMBVAL  avh;
584 <        FVECT  ck0;
585 <        double  s;
586 <        int  branch;
587 <        register int  i;
588 <
589 <        if (av->rad <= FTINY)
590 <                error(CONSISTENCY, "zero ambient radius in avinsert");
591 <        at = &atrunk;
592 <        VCOPY(ck0, thescene.cuorg);
593 <        s = thescene.cusize;
594 <        while (s*(OCTSCALE/2) > av->rad*ambacc) {
595 <                if (at->kid == NULL)
596 <                        if ((at->kid = newambtree()) == NULL)
597 <                                error(SYSTEM, "out of memory in avinsert");
598 <                s *= 0.5;
599 <                branch = 0;
600 <                for (i = 0; i < 3; i++)
601 <                        if (av->pos[i] > ck0[i] + s) {
602 <                                ck0[i] += s;
603 <                                branch |= 1 << i;
604 <                        }
605 <                at = at->kid + branch;
606 <        }
607 <        avh.next = at->alist;           /* order by increasing level */
608 <        for (ap = &avh; ap->next != NULL; ap = ap->next)
609 <                if (ap->next->lvl >= av->lvl)
610 <                        break;
611 <        av->next = ap->next;
612 <        ap->next = av;
613 <        at->alist = avh.next;
614 < }
615 <
616 <
617 < static void
618 < unloadatree(at, f)                      /* unload an ambient value tree */
619 < register AMBTREE  *at;
620 < void    (*f)();
621 < {
622 <        register AMBVAL  *av;
623 <        register int  i;
772 >        AMBVAL  *av;
773 >        int  i;
774                                          /* transfer values at this node */
775          for (av = at->alist; av != NULL; av = at->alist) {
776                  at->alist = av->next;
777 +                av->next = NULL;
778                  (*f)(av);
779          }
780          if (at->kid == NULL)
# Line 635 | Line 786 | void   (*f)();
786   }
787  
788  
789 < static struct avl {
790 <        AMBVAL  *p;
640 <        unsigned long   t;
641 < }       *avlist1;                       /* ambient value list with ticks */
642 < static AMBVAL   **avlist2;              /* memory positions for sorting */
643 < static int      i_avlist;               /* index for lists */
644 <
645 <
646 < static int
647 < av2list(av)
648 < register AMBVAL *av;
789 > static void
790 > avfree(AMBVAL *av)
791   {
792 < #ifdef DEBUG
651 <        if (i_avlist >= nambvals)
652 <                error(CONSISTENCY, "too many ambient values in av2list1");
653 < #endif
654 <        avlist1[i_avlist].p = avlist2[i_avlist] = av;
655 <        avlist1[i_avlist++].t = av->latick;
792 >        free(av);
793   }
794  
795  
796 < static int
797 < alatcmp(av1, av2)                       /* compare ambient values for MRA */
661 < struct avl      *av1, *av2;
796 > static void
797 > sortambvals(void)                       /* resort ambient values */
798   {
799 <        register long  lc = av2->t - av1->t;
664 <        return(lc<0 ? -1 : lc>0 ? 1 : 0);
665 < }
799 >        AMBTREE  oldatrunk = atrunk;
800  
801 <
802 < /* GW NOTE 2002/10/3:
803 < * I used to compare AMBVAL pointers, but found that this was the
670 < * cause of a serious consistency error with gcc, since the optimizer
671 < * uses some dangerous trick in pointer subtraction that
672 < * assumes pointers differ by exact struct size increments.
673 < */
674 < static int
675 < aposcmp(avp1, avp2)                     /* compare ambient value positions */
676 < const void      *avp1, *avp2;
677 < {
678 <        register long   diff = *(char * const *)avp1 - *(char * const *)avp2;
679 <        if (diff < 0)
680 <                return(-1);
681 <        return(diff > 0);
801 >        atrunk.alist = NULL;
802 >        atrunk.kid = NULL;
803 >        unloadatree(&oldatrunk, avinsert);
804   }
805  
684 #if 1
685 static int
686 avlmemi(avaddr)                         /* find list position from address */
687 AMBVAL  *avaddr;
688 {
689        register AMBVAL  **avlpp;
806  
691        avlpp = (AMBVAL **)bsearch((char *)&avaddr, (char *)avlist2,
692                        nambvals, sizeof(AMBVAL *), aposcmp);
693        if (avlpp == NULL)
694                error(CONSISTENCY, "address not found in avlmemi");
695        return(avlpp - avlist2);
696 }
697 #else
698 #define avlmemi(avaddr) ((AMBVAL **)bsearch((char *)&avaddr,(char *)avlist2, \
699                                nambvals,sizeof(AMBVAL *),aposcmp) - avlist2)
700 #endif
701
702
703 static void
704 sortambvals(always)                     /* resort ambient values */
705 int     always;
706 {
707        AMBTREE  oldatrunk;
708        AMBVAL  tav, *tap, *pnext;
709        register int    i, j;
710                                        /* see if it's time yet */
711        if (!always && (ambclock++ < lastsort+sortintvl ||
712                        nambvals < SORT_THRESH))
713                return;
714        /*
715         * The idea here is to minimize memory thrashing
716         * in VM systems by improving reference locality.
717         * We do this by periodically sorting our stored ambient
718         * values in memory in order of most recently to least
719         * recently accessed.  This ordering was chosen so that new
720         * ambient values (which tend to be less important) go into
721         * higher memory with the infrequently accessed values.
722         *      Since we expect our values to need sorting less
723         * frequently as the process continues, we double our
724         * waiting interval after each call.
725         *      This routine is also called by setambacc() with
726         * the "always" parameter set to 1 so that the ambient
727         * tree will be rebuilt with the new accuracy parameter.
728         */
729        if (tracktime) {                /* allocate pointer arrays to sort */
730                avlist2 = (AMBVAL **)malloc(nambvals*sizeof(AMBVAL *));
731                avlist1 = (struct avl *)malloc(nambvals*sizeof(struct avl));
732        } else {
733                avlist2 = NULL;
734                avlist1 = NULL;
735        }
736        if (avlist1 == NULL) {          /* no time tracking -- rebuild tree? */
737                if (avlist2 != NULL)
738                        free((void *)avlist2);
739                if (always) {           /* rebuild without sorting */
740                        copystruct(&oldatrunk, &atrunk);
741                        atrunk.alist = NULL;
742                        atrunk.kid = NULL;
743                        unloadatree(&oldatrunk, avinsert);
744                }
745        } else {                        /* sort memory by last access time */
746                /*
747                 * Sorting memory is tricky because it isn't contiguous.
748                 * We have to sort an array of pointers by MRA and also
749                 * by memory position.  We then copy values in "loops"
750                 * to minimize memory hits.  Nevertheless, we will visit
751                 * everyone at least twice, and this is an expensive process
752                 * when we're thrashing, which is when we need to do it.
753                 */
754 #ifdef DEBUG
755                sprintf(errmsg, "sorting %u ambient values at ambclock=%lu...",
756                                nambvals, ambclock);
757                eputs(errmsg);
758 #endif
759                i_avlist = 0;
760                unloadatree(&atrunk, av2list);  /* empty current tree */
761 #ifdef DEBUG
762                if (i_avlist < nambvals)
763                        error(CONSISTENCY, "missing ambient values in sortambvals");
764 #endif
765                qsort((char *)avlist1, nambvals, sizeof(struct avl), alatcmp);
766                qsort((char *)avlist2, nambvals, sizeof(AMBVAL *), aposcmp);
767                for (i = 0; i < nambvals; i++) {
768                        if (avlist1[i].p == NULL)
769                                continue;
770                        tap = avlist2[i];
771                        copystruct(&tav, tap);
772                        for (j = i; (pnext = avlist1[j].p) != tap;
773                                        j = avlmemi(pnext)) {
774                                copystruct(avlist2[j], pnext);
775                                avinsert(avlist2[j]);
776                                avlist1[j].p = NULL;
777                        }
778                        copystruct(avlist2[j], &tav);
779                        avinsert(avlist2[j]);
780                        avlist1[j].p = NULL;
781                }
782                free((void *)avlist1);
783                free((void *)avlist2);
784                                                /* compute new sort interval */
785                sortintvl = ambclock - lastsort;
786                if (sortintvl >= MAX_SORT_INTVL/2)
787                        sortintvl = MAX_SORT_INTVL;
788                else
789                        sortintvl <<= 1;        /* wait twice as long next */
790 #ifdef DEBUG
791                eputs("done\n");
792 #endif
793        }
794        if (ambclock >= MAXACLOCK)
795                ambclock = MAXACLOCK/2;
796        lastsort = ambclock;
797 }
798
799
807   #ifdef  F_SETLKW
808  
809   static void
810 < aflock(typ)                     /* lock/unlock ambient file */
811 < int  typ;
810 > aflock(                 /* lock/unlock ambient file */
811 >        int  typ
812 > )
813   {
814          static struct flock  fls;       /* static so initialized to zeroes */
815  
816 +        if (typ == fls.l_type)          /* already called? */
817 +                return;
818 +
819          fls.l_type = typ;
820 <        if (fcntl(fileno(ambfp), F_SETLKW, &fls) < 0)
821 <                error(SYSTEM, "cannot (un)lock ambient file");
820 >        do
821 >                if (fcntl(fileno(ambfp), F_SETLKW, &fls) != -1)
822 >                        return;
823 >        while (errno == EINTR);
824 >        
825 >        error(SYSTEM, "cannot (un)lock ambient file");
826   }
827  
828  
829   int
830 < ambsync()                       /* synchronize ambient file */
830 > ambsync(void)                   /* synchronize ambient file */
831   {
832          long  flen;
833          AMBVAL  avs;
834 <        register int  n;
834 >        int  n;
835  
836 <        if (nunflshed == 0)
836 >        if (ambfp == NULL)      /* no ambient file? */
837                  return(0);
838 <        if (lastpos < 0)        /* initializing (locked in initambfile) */
839 <                goto syncend;
825 <                                /* gain exclusive access */
826 <        aflock(F_WRLCK);
838 >                                /* gain appropriate access */
839 >        aflock(nunflshed ? F_WRLCK : F_RDLCK);
840                                  /* see if file has grown */
841 <        if ((flen = lseek(fileno(ambfp), (off_t)0L, 2)) < 0)
841 >        if ((flen = lseek(fileno(ambfp), (off_t)0, SEEK_END)) < 0)
842                  goto seekerr;
843 <        if (n = flen - lastpos) {               /* file has grown */
844 <                if (ambinp == NULL) {           /* use duplicate filedes */
845 <                        ambinp = fdopen(dup(fileno(ambfp)), "r");
843 >        if ((n = flen - lastpos) > 0) {         /* file has grown */
844 >                if (ambinp == NULL) {           /* get new file pointer */
845 >                        ambinp = fopen(ambfile, "rb");
846                          if (ambinp == NULL)
847 <                                error(SYSTEM, "fdopen failed in ambsync");
847 >                                error(SYSTEM, "fopen failed in ambsync");
848                  }
849 <                if (fseek(ambinp, lastpos, 0) < 0)
849 >                if (fseek(ambinp, lastpos, SEEK_SET) < 0)
850                          goto seekerr;
851                  while (n >= AMBVALSIZ) {        /* load contributed values */
852                          if (!readambval(&avs, ambinp)) {
# Line 843 | Line 856 | ambsync()                      /* synchronize ambient file */
856                                  error(WARNING, errmsg);
857                                  break;
858                          }
859 <                        avinsert(avstore(&avs));
859 >                        avstore(&avs);
860                          n -= AMBVALSIZ;
861                  }
862 <                /*** seek always as safety measure
863 <                if (n) ***/                     /* alignment */
864 <                        if (lseek(fileno(ambfp), (off_t)(flen-n), 0) < 0)
852 <                                goto seekerr;
862 >                lastpos = flen - n;             /* check alignment */
863 >                if (n && lseek(fileno(ambfp), (off_t)lastpos, SEEK_SET) < 0)
864 >                        goto seekerr;
865          }
854 #ifdef  DEBUG
855        if (ambfp->_ptr - ambfp->_base != nunflshed*AMBVALSIZ) {
856                sprintf(errmsg, "ambient file buffer at %d rather than %d",
857                                ambfp->_ptr - ambfp->_base,
858                                nunflshed*AMBVALSIZ);
859                error(CONSISTENCY, errmsg);
860        }
861 #endif
862 syncend:
866          n = fflush(ambfp);                      /* calls write() at last */
867 <        if ((lastpos = lseek(fileno(ambfp), (off_t)0L, 1)) < 0)
865 <                goto seekerr;
867 >        lastpos += (long)nunflshed*AMBVALSIZ;
868          aflock(F_UNLCK);                        /* release file */
869          nunflshed = 0;
870          return(n);
871   seekerr:
872          error(SYSTEM, "seek failed in ambsync");
873 +        return(EOF);    /* pro forma return */
874   }
875  
876 < #else
876 > #else   /* ! F_SETLKW */
877  
878   int
879 < ambsync()                       /* flush ambient file */
879 > ambsync(void)                   /* flush ambient file */
880   {
881 <        if (nunflshed == 0)
881 >        if (ambfp == NULL)
882                  return(0);
883          nunflshed = 0;
884          return(fflush(ambfp));
885   }
886  
887 < #endif
887 > #endif  /* ! F_SETLKW */

Diff Legend

Removed lines
+ Added lines
< Changed lines
> Changed lines