ViewVC Help
View File | Revision Log | Show Annotations | Download File | Root Listing
root/radiance/ray/src/rt/ambient.c
(Generate patch)

Comparing ray/src/rt/ambient.c (file contents):
Revision 2.38 by greg, Tue Jul 9 13:32:35 1996 UTC vs.
Revision 2.123 by greg, Fri Apr 5 01:10:26 2024 UTC

# Line 1 | Line 1
1 < /* Copyright (c) 1996 Regents of the University of California */
2 <
3 < #ifndef lint
4 < static char SCCSid[] = "$SunId$ LBL";
5 < #endif
6 <
1 > static const char       RCSid[] = "$Id$";
2   /*
3   *  ambient.c - routines dealing with ambient (inter-reflected) component.
4 + *
5 + *  Declarations of external symbols in ambient.h
6   */
7  
8 < #include  "ray.h"
8 > #include "copyright.h"
9  
10 < #include  "octree.h"
10 > #include <string.h>
11  
12 + #include  "platform.h"
13 + #include  "ray.h"
14   #include  "otypes.h"
15 <
15 > #include  "otspecial.h"
16 > #include  "resolu.h"
17   #include  "ambient.h"
18
18   #include  "random.h"
19 + #include  "pmapamb.h"
20  
21   #ifndef  OCTSCALE
22   #define  OCTSCALE       1.0     /* ceil((valid rad.)/(cube size)) */
23   #endif
24  
25 < typedef struct ambtree {
26 <        AMBVAL  *alist;         /* ambient value list */
27 <        struct ambtree  *kid;   /* 8 child nodes */
28 < }  AMBTREE;                     /* ambient octree */
29 <
30 < extern CUBE  thescene;          /* contains space boundaries */
31 <
32 < extern char  *shm_boundary;     /* memory sharing boundary */
33 <
34 < #define  MAXASET        511     /* maximum number of elements in ambient set */
25 > #ifndef  MAXASET
26 > #define  MAXASET        4095    /* maximum number of elements in ambient set */
27 > #endif
28   OBJECT  ambset[MAXASET+1]={0};  /* ambient include/exclude set */
29  
30   double  maxarad;                /* maximum ambient radius */
# Line 42 | Line 35 | static AMBTREE atrunk;         /* our ambient trunk node */
35   static FILE  *ambfp = NULL;     /* ambient file pointer */
36   static int  nunflshed = 0;      /* number of unflushed ambient values */
37  
38 < #ifndef SORT_THRESH
39 < #ifdef BIGMEM
47 < #define SORT_THRESH     ((9L<<20)/sizeof(AMBVAL))
48 < #else
49 < #define SORT_THRESH     ((3L<<20)/sizeof(AMBVAL))
50 < #endif
51 < #endif
52 < #ifndef SORT_INTVL
53 < #define SORT_INTVL      (SORT_THRESH*256)
54 < #endif
55 < #ifndef MAX_SORT_INTVL
56 < #define MAX_SORT_INTVL  (SORT_INTVL<<4)
57 < #endif
58 <
59 < static COLOR  avsum = BLKCOLOR;         /* computed ambient value sum */
38 > static double  avsum = 0.;              /* computed ambient value sum (log) */
39 > static unsigned int  navsum = 0;        /* number of values in avsum */
40   static unsigned int  nambvals = 0;      /* total number of indirect values */
41   static unsigned int  nambshare = 0;     /* number of values from file */
42 < static unsigned long  ambclock = 0;     /* ambient access clock */
43 < static unsigned long  lastsort = 0;     /* time of last value sort */
64 < static long  sortintvl = SORT_INTVL;    /* time until next sort */
42 > static FILE  *ambinp = NULL;            /* auxiliary file for input */
43 > static long  lastpos = -1;              /* last flush position */
44  
66 #define MAXACLOCK       (1L<<30)        /* clock turnover value */
67        /*
68         * Track access times unless we are sharing ambient values
69         * through memory on a multiprocessor, when we want to avoid
70         * claiming our own memory (copy on write).  Go ahead anyway
71         * if more than two thirds of our values are unshared.
72         */
73 #define tracktime       (shm_boundary == NULL || nambvals > 3*nambshare)
74
45   #define  AMBFLUSH       (BUFSIZ/AMBVALSIZ)
46  
47 < #define  newambval()    (AMBVAL *)bmalloc(sizeof(AMBVAL))
47 > #define  AVSIZE         (sizeof(AMBVAL)-sizeof(SCOLOR)+sizeof(COLORV)*NCSAMP)
48 > #define  newambval()    (AMBVAL *)malloc(AVSIZE)
49  
50 < extern long  ftell(), lseek();
51 < static int  initambfile(), avsave(), avinsert(), sortambvals();
52 < static AMBVAL  *avstore();
50 > #define  tfunc(x0, x, x1)       (((x)-(x0))/((x1)-(x0)))
51 >
52 > static void initambfile(int cre8);
53 > static void avsave(AMBVAL *av);
54 > static AMBVAL *avstore(AMBVAL  *aval);
55 > static AMBTREE *newambtree(void);
56 > static void freeambtree(AMBTREE  *atp);
57 >
58 > typedef void unloadtf_t(AMBVAL *);
59 > static unloadtf_t avinsert;
60 > static unloadtf_t avfree;
61 > static void unloadatree(AMBTREE  *at, unloadtf_t *f);
62 >
63 > static void sortambvals(void);
64 >
65 > static int      plugaleak(RAY *r, AMBVAL *ap, FVECT anorm, double ang);
66 > static double   sumambient(SCOLOR acol, RAY *r, FVECT rn, int al,
67 >                                AMBTREE *at, FVECT c0, double s);
68 > static int      makeambient(SCOLOR acol, RAY *r, FVECT rn, int al);
69 > static int      extambient(SCOLOR cr, AMBVAL *ap, FVECT pv, FVECT nv,
70 >                                FVECT uvw[3]);
71 >
72   #ifdef  F_SETLKW
73 < static  aflock();
73 > static void aflock(int  typ);
74   #endif
75  
76  
77 < setambres(ar)                           /* set ambient resolution */
78 < int  ar;
77 > void
78 > setambres(                              /* set ambient resolution */
79 >        int  ar
80 > )
81   {
82          ambres = ar < 0 ? 0 : ar;               /* may be done already */
83                                                  /* set min & max radii */
84          if (ar <= 0) {
85                  minarad = 0;
86 <                maxarad = thescene.cusize / 2.0;
86 >                maxarad = thescene.cusize*0.2;
87          } else {
88                  minarad = thescene.cusize / ar;
89 <                maxarad = 64 * minarad;                 /* heuristic */
90 <                if (maxarad > thescene.cusize / 2.0)
91 <                        maxarad = thescene.cusize / 2.0;
89 >                maxarad = 64.0 * minarad;               /* heuristic */
90 >                if (maxarad > thescene.cusize*0.2)
91 >                        maxarad = thescene.cusize*0.2;
92          }
93          if (minarad <= FTINY)
94 <                minarad = 10*FTINY;
94 >                minarad = 10.0*FTINY;
95          if (maxarad <= minarad)
96 <                maxarad = 64 * minarad;
96 >                maxarad = 64.0 * minarad;
97   }
98  
99  
100 < setambacc(newa)                         /* set ambient accuracy */
101 < double  newa;
100 > void
101 > setambacc(                              /* set ambient accuracy */
102 >        double  newa
103 > )
104   {
105 <        double  ambdiff;
106 <
107 <        if (newa < 0.0)
108 <                newa = 0.0;
109 <        ambdiff = fabs(newa - ambacc);
110 <        if (ambdiff >= .01 && (ambacc = newa) > FTINY && nambvals > 0)
111 <                sortambvals(1);                 /* rebuild tree */
105 >        static double   olda;           /* remember previous setting here */
106 >        
107 >        newa *= (newa > 0);
108 >        if (fabs(newa - olda) >= .05*(newa + olda)) {
109 >                ambacc = newa;
110 >                if (ambacc > FTINY && nambvals > 0)
111 >                        sortambvals();          /* rebuild tree */
112 >        }
113   }
114  
115  
116 < setambient(afile)                       /* initialize calculation */
117 < char  *afile;
116 > void
117 > setambient(void)                                /* initialize calculation */
118   {
119 <        long  pos, flen;
119 >        int     readonly = 0;
120 >        long    flen;
121          AMBVAL  amb;
122 +                                                /* make sure we're fresh */
123 +        ambdone();
124                                                  /* init ambient limits */
125          setambres(ambres);
126          setambacc(ambacc);
127 <        if (afile == NULL)
127 >        if (ambfile == NULL || !ambfile[0])
128                  return;
129          if (ambacc <= FTINY) {
130                  sprintf(errmsg, "zero ambient accuracy so \"%s\" not opened",
131 <                                afile);
131 >                                ambfile);
132                  error(WARNING, errmsg);
133                  return;
134          }
135                                                  /* open ambient file */
136 <        if ((ambfp = fopen(afile, "r+")) != NULL) {
137 <                initambfile(0);
138 <                pos = ftell(ambfp);
136 >        if ((ambfp = fopen(ambfile, "r+")) == NULL)
137 >                readonly = (ambfp = fopen(ambfile, "r")) != NULL;
138 >        if (ambfp != NULL) {
139 >                initambfile(0);                 /* file exists */
140 >                lastpos = ftell(ambfp);
141                  while (readambval(&amb, ambfp))
142 <                        avinsert(avstore(&amb));
143 <                                                /* align */
144 <                pos += (long)nambvals*AMBVALSIZ;
145 <                flen = lseek(fileno(ambfp), 0L, 2);
146 <                if (flen != pos) {
147 <                        error(WARNING,
142 >                        avstore(&amb);
143 >                nambshare = nambvals;           /* share loaded values */
144 >                if (readonly) {
145 >                        sprintf(errmsg,
146 >                                "loaded %u values from read-only ambient file",
147 >                                        nambvals);
148 >                        error(WARNING, errmsg);
149 >                        fclose(ambfp);          /* close file so no writes */
150 >                        ambfp = NULL;
151 >                        return;                 /* avoid ambsync() */
152 >                }
153 >                                                /* align file pointer */
154 >                lastpos += (long)nambvals*AMBVALSIZ;
155 >                flen = lseek(fileno(ambfp), (off_t)0, SEEK_END);
156 >                if (flen != lastpos) {
157 >                        sprintf(errmsg,
158                          "ignoring last %ld values in ambient file (corrupted)",
159 <                                        (flen - pos)/AMBVALSIZ);
160 <                        fseek(ambfp, pos, 0);
161 <                        ftruncate(fileno(ambfp), pos);
159 >                                        (flen - lastpos)/AMBVALSIZ);
160 >                        error(WARNING, errmsg);
161 >                        fseek(ambfp, lastpos, SEEK_SET);
162 >                        ftruncate(fileno(ambfp), (off_t)lastpos);
163                  }
164 <                nambshare = nambvals;
165 <        } else if ((ambfp = fopen(afile, "w+")) != NULL)
166 <                initambfile(1);
167 <        else {
168 <                sprintf(errmsg, "cannot open ambient file \"%s\"", afile);
164 >        } else if ((ambfp = fopen(ambfile, "w+")) != NULL) {
165 >                initambfile(1);                 /* else create new file */
166 >                fflush(ambfp);
167 >                lastpos = ftell(ambfp);
168 >        } else {
169 >                sprintf(errmsg, "cannot open ambient file \"%s\"", ambfile);
170                  error(SYSTEM, errmsg);
171          }
172 <        nunflshed++;    /* lie */
173 <        ambsync();
172 > #ifdef  F_SETLKW
173 >        aflock(F_UNLCK);                        /* release file */
174 > #endif
175   }
176  
177  
178 < ambnotify(obj)                  /* record new modifier */
179 < OBJECT  obj;
178 > void
179 > ambdone(void)                   /* close ambient file and free memory */
180   {
181 +        if (ambfp != NULL) {            /* close ambient file */
182 +                ambsync();
183 +                fclose(ambfp);
184 +                ambfp = NULL;
185 +                if (ambinp != NULL) {  
186 +                        fclose(ambinp);
187 +                        ambinp = NULL;
188 +                }
189 +                lastpos = -1;
190 +        }
191 +                                        /* free ambient tree */
192 +        unloadatree(&atrunk, avfree);
193 +                                        /* reset state variables */
194 +        avsum = 0.;
195 +        navsum = 0;
196 +        nambvals = 0;
197 +        nambshare = 0;
198 + }
199 +
200 +
201 + void
202 + ambnotify(                      /* record new modifier */
203 +        OBJECT  obj
204 + )
205 + {
206          static int  hitlimit = 0;
207 <        register OBJREC  *o = objptr(obj);
208 <        register char  **amblp;
207 >        OBJREC   *o;
208 >        char  **amblp;
209  
210 +        if (obj == OVOID) {             /* starting over */
211 +                ambset[0] = 0;
212 +                hitlimit = 0;
213 +                return;
214 +        }
215 +        o = objptr(obj);
216          if (hitlimit || !ismodifier(o->otype))
217                  return;
218          for (amblp = amblist; *amblp != NULL; amblp++)
# Line 184 | Line 228 | OBJECT obj;
228   }
229  
230  
231 < ambient(acol, r, nrm)           /* compute ambient component for ray */
232 < COLOR  acol;
233 < register RAY  *r;
234 < FVECT  nrm;
231 > void
232 > multambient(            /* compute ambient component & multiply by coef. */
233 >        SCOLOR  aval,
234 >        RAY  *r,
235 >        FVECT  nrm
236 > )
237   {
238 +        static double  logAvgAbsorp = 1;
239          static int  rdepth = 0;                 /* ambient recursion */
240 <        double  d;
240 >        SCOLOR  acol, caustic;
241 >        int     i, ok;
242 >        double  d, l;
243  
244 +        /* PMAP: Factor in ambient from photon map, if enabled and ray is
245 +         * ambient. Return as all ambient components accounted for, else
246 +         * continue. */
247 +        if (ambPmap(aval, r, rdepth))
248 +                return;
249 +
250 +        if (logAvgAbsorp > 0)                   /* exclude in -aw to avoid growth */
251 +                logAvgAbsorp = log(1.-AVGREFL);
252 +
253 +        /* PMAP: Factor in specular-diffuse ambient (caustics) from photon
254 +         * map, if enabled and ray is primary, else caustic is zero.  Continue
255 +         * with RADIANCE ambient calculation */
256 + {/* XXX TEMPORARY */
257 +        COLOR   pmc;
258 +        scolor_color(pmc, aval);
259 +        ambPmapCaustic(pmc, r, rdepth);
260 +        setscolor(caustic, colval(pmc,RED), colval(pmc,GRN), colval(pmc,BLU));
261 + }
262          if (ambdiv <= 0)                        /* no ambient calculation */
263                  goto dumbamb;
264                                                  /* check number of bounces */
# Line 202 | Line 269 | FVECT  nrm;
269                          ambincl != inset(ambset, r->ro->omod))
270                  goto dumbamb;
271  
272 <        if (ambacc <= FTINY) {                  /* no ambient storage */
272 >        if (ambacc <= FTINY) {                  /* no ambient storage? */
273 >                double  rdot = DOT(nrm,r->ron);
274 >                int     sgn = 1 - 2*(rdot < 0);
275 >                float   dgrad[2], *dgp = NULL;
276 >                FVECT   uvd[2];
277 >
278 >                if (sgn*rdot < 0.9999)
279 >                        dgp = dgrad;            /* compute rotational grad. */
280 >                copyscolor(acol, aval);
281                  rdepth++;
282 <                d = doambient(acol, r, r->rweight, NULL, NULL);
282 >                ok = doambient(acol, r, r->rweight*sgn,
283 >                                uvd, NULL, NULL, dgp, NULL);
284                  rdepth--;
285 <                if (d <= FTINY)
285 >                if (!ok)
286                          goto dumbamb;
287 +                if ((ok > 0) & (dgp != NULL)) { /* apply texture */
288 +                        FVECT   v1;
289 +                        VCROSS(v1, r->ron, nrm);
290 +                        d = 1.0;
291 +                        for (i = 3; i--; )
292 +                                d += sgn*v1[i] * (dgp[0]*uvd[0][i] + dgp[1]*uvd[1][i]);
293 +                        if (d >= 0.05)
294 +                                scalescolor(acol, d);
295 +                }
296 +                copyscolor(aval, acol);
297 +
298 +                /* PMAP: add in caustic */
299 +                saddscolor(aval, caustic);
300                  return;
301          }
302 <                                                /* resort memory? */
303 <        sortambvals(0);
215 <                                                /* get ambient value */
216 <        setcolor(acol, 0.0, 0.0, 0.0);
302 >                                                /* interpolate ambient value */
303 >        scolorblack(acol);
304          d = sumambient(acol, r, nrm, rdepth,
305                          &atrunk, thescene.cuorg, thescene.cusize);
306 +                        
307          if (d > FTINY) {
308 <                scalecolor(acol, 1.0/d);
308 >                scalescolor(acol, 1.0/d);
309 >                smultscolor(aval, acol);
310 >
311 >                /* PMAP: add in caustic */
312 >                saddscolor(aval, caustic);
313                  return;
314          }
315 +        
316          rdepth++;                               /* need to cache new value */
317 <        d = makeambient(acol, r, nrm, rdepth-1);
317 >        ok = makeambient(acol, r, nrm, rdepth-1);
318          rdepth--;
319 <        if (d > FTINY)
319 >        
320 >        if (ok) {
321 >                smultscolor(aval, acol);        /* computed new value */
322 >
323 >                /* PMAP: add in caustic */
324 >                saddscolor(aval, caustic);
325                  return;
326 +        }
327 +        
328   dumbamb:                                        /* return global value */
329 <        copycolor(acol, ambval);
330 <        if (ambvwt <= 0 | nambvals == 0)
329 >        if ((ambvwt <= 0) | (navsum == 0)) {
330 >                smultcolor(aval, ambval);
331 >                
332 >                /* PMAP: add in caustic */
333 >                saddscolor(aval, caustic);
334                  return;
335 <        scalecolor(acol, (double)ambvwt);
336 <        addcolor(acol, avsum);                  /* average in computations */
337 <        d = 1.0/(ambvwt+nambvals);
338 <        scalecolor(acol, d);
335 >        }
336 >        
337 >        l = bright(ambval);                     /* average in computations */  
338 >        if (l > FTINY) {
339 >                d = (log(l)*(double)ambvwt + avsum + logAvgAbsorp*navsum) /
340 >                                (double)(ambvwt + navsum);
341 >                d = exp(d) / l;
342 >                scalescolor(aval, d);
343 >                smultcolor(aval, ambval);       /* apply color of ambval */
344 >        } else {
345 >                d = exp( avsum/(double)navsum + logAvgAbsorp );
346 >                scalescolor(aval, d);           /* neutral color */
347 >        }
348   }
349  
350  
351 < double
352 < sumambient(acol, r, rn, al, at, c0, s)  /* get interpolated ambient value */
353 < COLOR  acol;
242 < register RAY  *r;
243 < FVECT  rn;
244 < int  al;
245 < AMBTREE  *at;
246 < FVECT  c0;
247 < double  s;
351 > /* Plug a potential leak where ambient cache value is occluded */
352 > static int
353 > plugaleak(RAY *r, AMBVAL *ap, FVECT anorm, double ang)
354   {
355 <        double  d, e1, e2, wt, wsum;
356 <        COLOR  ct;
357 <        FVECT  ck0;
358 <        int  i;
359 <        register int  j;
254 <        register AMBVAL  *av;
355 >        const double    cost70sq = 0.1169778;   /* cos(70deg)^2 */
356 >        RAY             rtst;
357 >        FVECT           vdif;
358 >        double          normdot, ndotd, nadotd;
359 >        double          a, b, c, t[2];
360  
361 <        wsum = 0.0;
362 <                                        /* do this node */
361 >        ang += 2.*PI*(ang < 0);                 /* check direction flags */
362 >        if ( !(ap->corral>>(int)(ang*(16./PI)) & 1) )
363 >                return(0);
364 >        /*
365 >         * Generate test ray, targeting 20 degrees above sample point plane
366 >         * along surface normal from cache position.  This should be high
367 >         * enough to miss local geometry we don't really care about.
368 >         */
369 >        VSUB(vdif, ap->pos, r->rop);
370 >        normdot = DOT(anorm, r->ron);
371 >        ndotd = DOT(vdif, r->ron);
372 >        nadotd = DOT(vdif, anorm);
373 >        a = normdot*normdot - cost70sq;
374 >        b = 2.0*(normdot*ndotd - nadotd*cost70sq);
375 >        c = ndotd*ndotd - DOT(vdif,vdif)*cost70sq;
376 >        if (quadratic(t, a, b, c) != 2)
377 >                return(1);                      /* should rarely happen */
378 >        if (t[1] <= FTINY)
379 >                return(0);                      /* should fail behind test */
380 >        rayorigin(&rtst, SHADOW, r, NULL);
381 >        VSUM(rtst.rdir, vdif, anorm, t[1]);     /* further dist. > plane */
382 >        rtst.rmax = normalize(rtst.rdir);       /* short ray test */
383 >        while (localhit(&rtst, &thescene)) {    /* check for occluder */
384 >                OBJREC  *m = findmaterial(rtst.ro);
385 >                if (m != NULL && !istransp(m->otype) && !isBSDFproxy(m) &&
386 >                                (rtst.clipset == NULL ||
387 >                                        !inset(rtst.clipset, rtst.ro->omod)))
388 >                        return(1);              /* plug light leak */
389 >                VCOPY(rtst.rorg, rtst.rop);     /* skip invisible surface */
390 >                rtst.rmax -= rtst.rot;
391 >                rayclear(&rtst);
392 >        }
393 >        return(0);                              /* seems we're OK */
394 > }
395 >
396 >
397 > static double
398 > sumambient(             /* get interpolated ambient value */
399 >        SCOLOR  acol,
400 >        RAY  *r,
401 >        FVECT  rn,
402 >        int  al,
403 >        AMBTREE  *at,
404 >        FVECT  c0,
405 >        double  s
406 > )
407 > {                       /* initial limit is 10 degrees plus ambacc radians */
408 >        const double    minangle = 10.0 * PI/180.;
409 >        const int       sgn = 1 - 2*(DOT(r->ron,rn) < 0);
410 >        double          maxangle = minangle + ambacc;
411 >        double          wsum = 0.0;
412 >        FVECT           ck0;
413 >        int             i, j;
414 >        AMBVAL          *av;
415 >
416 >        if (at->kid != NULL) {          /* sum children first */                                
417 >                s *= 0.5;
418 >                for (i = 0; i < 8; i++) {
419 >                        for (j = 0; j < 3; j++) {
420 >                                ck0[j] = c0[j];
421 >                                if (1<<j & i)
422 >                                        ck0[j] += s;
423 >                                if (r->rop[j] < ck0[j] - OCTSCALE*s)
424 >                                        break;
425 >                                if (r->rop[j] > ck0[j] + (1.0+OCTSCALE)*s)
426 >                                        break;
427 >                        }
428 >                        if (j == 3)
429 >                                wsum += sumambient(acol, r, rn, al,
430 >                                                        at->kid+i, ck0, s);
431 >                }
432 >                                        /* good enough? */
433 >                if ((wsum >= 0.05) & (s*ambacc > minarad))
434 >                        return(wsum);
435 >        }
436 >                                        /* adjust maximum angle */
437 >        if (at->alist != NULL && (at->alist->lvl <= al) & (r->rweight < 0.6))
438 >                maxangle = (maxangle - PI/2.)*pow(r->rweight,0.13) + PI/2.;
439 >                                        /* sum this node */
440          for (av = at->alist; av != NULL; av = av->next) {
441 <                if (tracktime)
442 <                        av->latick = ambclock++;
441 >                double  u, v, d, delta_r2, delta_t2;
442 >                SCOLOR  sct;
443 >                FVECT   uvw[3];
444                  /*
445 <                 *  Ambient level test.
445 >                 *  Ambient level test
446                   */
447 <                if (av->lvl > al)       /* list sorted, so this works */
447 >                if (av->lvl > al ||     /* list sorted, so this works */
448 >                                (av->lvl == al) & (av->weight < 0.9*r->rweight))
449                          break;
450 <                if (av->weight < r->rweight-FTINY)
450 >                /*
451 >                 *  Direction test using unperturbed normal
452 >                 */
453 >                decodedir(uvw[2], av->ndir);
454 >                d = sgn * DOT(uvw[2], r->ron);
455 >                if (d <= 0.0)           /* >= 90 degrees */
456                          continue;
457 +                delta_r2 = 2.0 - 2.0*d; /* approx. radians^2 */
458 +                if (delta_r2 >= maxangle*maxangle)
459 +                        continue;
460                  /*
461 <                 *  Ambient radius test.
461 >                 *  Modified ray behind test
462                   */
463 <                d = av->pos[0] - r->rop[0];
464 <                e1 = d * d;
465 <                d = av->pos[1] - r->rop[1];
274 <                e1 += d * d;
275 <                d = av->pos[2] - r->rop[2];
276 <                e1 += d * d;
277 <                e1 /= av->rad * av->rad;
278 <                if (e1 > ambacc*ambacc*1.21)
463 >                VSUB(ck0, r->rop, av->pos);
464 >                d = DOT(ck0, uvw[2]);
465 >                if (d < -minarad*ambacc)
466                          continue;
467 +                d /= av->rad[0];
468 +                delta_t2 = d*d;
469 +                if (delta_t2 >= ambacc*ambacc)
470 +                        continue;
471                  /*
472 <                 *  Normal direction test.
472 >                 *  Elliptical radii test based on Hessian
473                   */
474 <                e2 = (1.0 - DOT(av->dir, r->ron)) * r->rweight;
475 <                if (e2 < 0.0) e2 = 0.0;
476 <                if (e1 + e2 > ambacc*ambacc*1.21)
474 >                decodedir(uvw[0], av->udir);
475 >                VCROSS(uvw[1], uvw[2], uvw[0]);
476 >                d = (u = DOT(ck0, uvw[0])) / av->rad[0];
477 >                delta_t2 += d*d;
478 >                d = (v = DOT(ck0, uvw[1])) / av->rad[1];
479 >                delta_t2 += d*d;
480 >                if (delta_t2 >= ambacc*ambacc)
481                          continue;
482                  /*
483 <                 *  Ray behind test.
483 >                 *  Test for potential light leak
484                   */
485 <                d = 0.0;
291 <                for (j = 0; j < 3; j++)
292 <                        d += (r->rop[j] - av->pos[j]) *
293 <                                        (av->dir[j] + r->ron[j]);
294 <                if (d*0.5 < -minarad*ambacc-.001)
485 >                if (av->corral && plugaleak(r, av, uvw[2], atan2a(v,u)))
486                          continue;
487                  /*
488 <                 *  Jittering final test reduces image artifacts.
488 >                 *  Extrapolate value and compute final weight (hat function)
489                   */
490 <                wt = sqrt(e1) + sqrt(e2);
300 <                if (wt > ambacc*(.9+.2*urand(9015+samplendx)))
490 >                if (!extambient(sct, av, r->rop, rn, uvw))
491                          continue;
492 <                if (wt <= 1e-3)
493 <                        wt = 1e3;
494 <                else
495 <                        wt = 1.0 / wt;
496 <                wsum += wt;
307 <                extambient(ct, av, r->rop, rn);
308 <                scalecolor(ct, wt);
309 <                addcolor(acol, ct);
492 >                d = tfunc(maxangle, sqrt(delta_r2), 0.0) *
493 >                        tfunc(ambacc, sqrt(delta_t2), 0.0);
494 >                scalescolor(sct, d);
495 >                saddscolor(acol, sct);
496 >                wsum += d;
497          }
311        if (at->kid == NULL)
312                return(wsum);
313                                        /* do children */
314        s *= 0.5;
315        for (i = 0; i < 8; i++) {
316                for (j = 0; j < 3; j++) {
317                        ck0[j] = c0[j];
318                        if (1<<j & i)
319                                ck0[j] += s;
320                        if (r->rop[j] < ck0[j] - OCTSCALE*s)
321                                break;
322                        if (r->rop[j] > ck0[j] + (1.0+OCTSCALE)*s)
323                                break;
324                }
325                if (j == 3)
326                        wsum += sumambient(acol, r, rn, al, at->kid+i, ck0, s);
327        }
498          return(wsum);
499   }
500  
501  
502 < double
503 < makeambient(acol, r, rn, al)    /* make a new ambient value */
504 < COLOR  acol;
505 < register RAY  *r;
506 < FVECT  rn;
507 < int  al;
502 > static int
503 > makeambient(            /* make a new ambient value for storage */
504 >        SCOLOR  acol,
505 >        RAY  *r,
506 >        FVECT  rn,
507 >        int  al
508 > )
509   {
510 +        int     sgn = 1 - 2*(DOT(r->ron,rn) < 0);
511          AMBVAL  amb;
512 <        FVECT   gp, gd;
513 <                                                /* compute weight */
514 <        amb.weight = pow(AVGREFL, (double)al);
515 <        if (r->rweight < 0.1*amb.weight)        /* heuristic */
516 <                amb.weight = r->rweight;
512 >        FVECT   uvw[3];
513 >        int     i;
514 >
515 >        amb.weight = 1.0;                       /* compute weight */
516 >        for (i = al; i-- > 0; )
517 >                amb.weight *= AVGREFL;
518 >        if (r->rweight < 0.1*amb.weight)        /* heuristic override */
519 >                amb.weight = 1.25*r->rweight;
520 >        setscolor(acol, AVGREFL, AVGREFL, AVGREFL);
521                                                  /* compute ambient */
522 <        amb.rad = doambient(acol, r, amb.weight, gp, gd);
523 <        if (amb.rad <= FTINY)
524 <                return(0.0);
525 <                                                /* store it */
522 >        i = doambient(acol, r, amb.weight*sgn,
523 >                        uvw, amb.rad, amb.gpos, amb.gdir, &amb.corral);
524 >        scalescolor(acol, 1./AVGREFL);          /* undo assumed reflectance */
525 >        if (i <= 0 || amb.rad[0] <= FTINY)      /* no Hessian or zero radius */
526 >                return(i);
527 >        uvw[2][0] = sgn*r->ron[0];              /* orient unperturbed normal */
528 >        uvw[2][1] = sgn*r->ron[1];
529 >        uvw[2][2] = sgn*r->ron[2];
530 >                                                /* store value */
531          VCOPY(amb.pos, r->rop);
532 <        VCOPY(amb.dir, r->ron);
532 >        amb.ndir = encodedir(uvw[2]);
533 >        amb.udir = encodedir(uvw[0]);
534          amb.lvl = al;
535 <        copycolor(amb.val, acol);
536 <        VCOPY(amb.gpos, gp);
537 <        VCOPY(amb.gdir, gd);
538 <                                                /* insert into tree */
539 <        avsave(&amb);                           /* and save to file */
358 <        if (rn != r->ron)
359 <                extambient(acol, &amb, r->rop, rn);     /* texture */
360 <        return(amb.rad);
535 >        copyscolor(amb.val, acol);
536 >        avsave(&amb);                           /* insert and save to file */
537 >        if (DOT(uvw[2],rn) < 0.9999)            /* texture? */
538 >                extambient(acol, &amb, r->rop, rn, uvw);
539 >        return(1);
540   }
541  
542  
543 < extambient(cr, ap, pv, nv)              /* extrapolate value at pv, nv */
544 < COLOR  cr;
545 < register AMBVAL  *ap;
546 < FVECT  pv, nv;
543 > static int
544 > extambient(             /* extrapolate value at pv, nv */
545 >        SCOLOR  scr,
546 >        AMBVAL   *ap,
547 >        FVECT  pv,
548 >        FVECT  nv,
549 >        FVECT  uvw[3]
550 > )
551   {
552 <        FVECT  v1, v2;
553 <        register int  i;
554 <        double  d;
552 >        const double    min_d = 0.05;
553 >        const double    max_d = 20.;
554 >        static FVECT    my_uvw[3];
555 >        FVECT           v1;
556 >        int             i;
557 >        double          d = 1.0;        /* zeroeth order */
558  
559 <        d = 1.0;                        /* zeroeth order */
560 <                                        /* gradient due to translation */
561 <        for (i = 0; i < 3; i++)
562 <                d += ap->gpos[i]*(pv[i]-ap->pos[i]);
563 <                                        /* gradient due to rotation */
378 <        VCOPY(v1, ap->dir);
379 <        fcross(v2, v1, nv);
380 <        d += DOT(ap->gdir, v2);
381 <        if (d <= 0.0) {
382 <                setcolor(cr, 0.0, 0.0, 0.0);
383 <                return;
559 >        if (uvw == NULL) {              /* need local coordinates? */
560 >                decodedir(my_uvw[2], ap->ndir);
561 >                decodedir(my_uvw[0], ap->udir);
562 >                VCROSS(my_uvw[1], my_uvw[2], my_uvw[0]);
563 >                uvw = my_uvw;
564          }
565 <        copycolor(cr, ap->val);
566 <        scalecolor(cr, d);
565 >        for (i = 3; i--; )              /* gradient due to translation */
566 >                d += (pv[i] - ap->pos[i]) *
567 >                        (ap->gpos[0]*uvw[0][i] + ap->gpos[1]*uvw[1][i]);
568 >
569 >        VCROSS(v1, uvw[2], nv);         /* gradient due to rotation */
570 >        for (i = 3; i--; )
571 >                d += v1[i] * (ap->gdir[0]*uvw[0][i] + ap->gdir[1]*uvw[1][i]);
572 >        
573 >        if (d < min_d)                  /* clamp min/max scaling */
574 >                d = min_d;
575 >        else if (d > max_d)
576 >                d = max_d;
577 >        copyscolor(scr, ap->val);
578 >        scalescolor(scr, d);
579 >        return(d > min_d);
580   }
581  
582  
583 < static
584 < initambfile(creat)              /* initialize ambient file */
585 < int  creat;
583 > static void
584 > avinsert(                               /* insert ambient value in our tree */
585 >        AMBVAL *av
586 > )
587   {
588 <        extern char  *progname, *octname, VersionID[];
588 >        AMBTREE  *at;
589 >        AMBVAL  *ap;
590 >        AMBVAL  avh;
591 >        FVECT  ck0;
592 >        double  s;
593 >        int  branch;
594 >        int  i;
595  
596 +        if (av->rad[0] <= FTINY)
597 +                error(CONSISTENCY, "zero ambient radius in avinsert");
598 +        at = &atrunk;
599 +        VCOPY(ck0, thescene.cuorg);
600 +        s = thescene.cusize;
601 +        while (s*(OCTSCALE/2) > av->rad[1]*ambacc) {
602 +                if (at->kid == NULL)
603 +                        if ((at->kid = newambtree()) == NULL)
604 +                                error(SYSTEM, "out of memory in avinsert");
605 +                s *= 0.5;
606 +                branch = 0;
607 +                for (i = 0; i < 3; i++)
608 +                        if (av->pos[i] > ck0[i] + s) {
609 +                                ck0[i] += s;
610 +                                branch |= 1 << i;
611 +                        }
612 +                at = at->kid + branch;
613 +        }
614 +        avh.next = at->alist;           /* order by increasing level */
615 +        for (ap = &avh; ap->next != NULL; ap = ap->next)
616 +                if ( ap->next->lvl > av->lvl ||
617 +                                (ap->next->lvl == av->lvl) &
618 +                                (ap->next->weight <= av->weight) )
619 +                        break;
620 +        av->next = ap->next;
621 +        ap->next = (AMBVAL*)av;
622 +        at->alist = avh.next;
623 + }
624 +
625 +
626 + static void
627 + initambfile(            /* initialize ambient file */
628 +        int  cre8
629 + )
630 + {
631 +        extern char  *progname, *octname;
632 +        static char  *mybuf = NULL;
633 +
634   #ifdef  F_SETLKW
635 <        aflock(creat ? F_WRLCK : F_RDLCK);
635 >        aflock(cre8 ? F_WRLCK : F_RDLCK);
636   #endif
637 < #ifdef MSDOS
638 <        setmode(fileno(ambfp), O_BINARY);
639 < #endif
640 <        setbuf(ambfp, bmalloc(BUFSIZ+8));
641 <        if (creat) {                    /* new file */
637 >        SET_FILE_BINARY(ambfp);
638 >        if (mybuf == NULL)
639 >                mybuf = (char *)bmalloc(BUFSIZ+8);
640 >        setbuf(ambfp, mybuf);
641 > retry:
642 >        if (cre8) {                     /* new file */
643                  newheader("RADIANCE", ambfp);
644 <                fprintf(ambfp, "%s -av %g %g %g -ab %d -aa %g ",
644 >                fprintf(ambfp, "%s -av %g %g %g -aw %d -ab %d -aa %g ",
645                                  progname, colval(ambval,RED),
646                                  colval(ambval,GRN), colval(ambval,BLU),
647 <                                ambounce, ambacc);
648 <                fprintf(ambfp, "-ad %d -as %d -ar %d %s\n",
649 <                                ambdiv, ambssamp, ambres,
650 <                                octname==NULL ? "" : octname);
647 >                                ambvwt, ambounce, ambacc);
648 >                fprintf(ambfp, "-ad %d -as %d -ar %d ",
649 >                                ambdiv, ambssamp, ambres);
650 >                fprintf(ambfp, "-dr %d -ds %g -dt %g -dc %g ", directrelay,
651 >                                srcsizerat, shadthresh, shadcert);
652 >                fprintf(ambfp, "-ss %g -st %g -lr %d -lw %g ", specjitter,
653 >                                specthresh, maxdepth, minweight);
654 >                fprintf(ambfp, "-cw %g %g -cs %d ", WLPART[3], WLPART[0], NCSAMP);
655 >                if (octname != NULL)
656 >                        fputs(octname, ambfp);
657 >                fputc('\n', ambfp);     /* end of command line, not header! */
658                  fprintf(ambfp, "SOFTWARE= %s\n", VersionID);
659 +                fputnow(ambfp);
660 +                AMB_CNDX = CNDX;        /* use current spectral sampling */
661 +                AMB_WLPART = WLPART;
662 +                fputwlsplit(WLPART, ambfp);
663 +                fputncomp(NCSAMP, ambfp);
664                  fputformat(AMBFMT, ambfp);
665 <                putc('\n', ambfp);
665 >                fputc('\n', ambfp);
666                  putambmagic(ambfp);
667 <        } else if (checkheader(ambfp, AMBFMT, NULL) < 0 || !hasambmagic(ambfp))
668 <                error(USER, "bad ambient file");
667 >        } else if (getheader(ambfp, amb_headline, NULL) < 0 || !hasambmagic(ambfp)) {
668 > #ifndef  F_SETLKW
669 >                static int      ntries = 3;
670 >                if (--ntries > 0 && ftell(ambfp) == 0) {
671 >                        clearerr(ambfp);
672 >                        sleep(2);
673 >                        goto retry;
674 >                }
675 > #endif
676 >                error(USER, "bad/incompatible ambient file");
677 >        }
678 >        if ((AMB_CNDX != CNDX) | (AMB_WLPART != WLPART)) {
679 >                if (setspectrsamp(AMB_CNDX, AMB_WLPART) < 0)
680 >                        error(USER, "bad wavelength sampling in ambient file");
681 >                if (AMB_CNDX[3] == CNDX[3] && FABSEQ(AMB_WLPART[0],WLPART[0]) &&
682 >                                        FABSEQ(AMB_WLPART[3],WLPART[3])) {
683 >                        AMB_CNDX = CNDX;
684 >                        AMB_WLPART = WLPART;            /* just the same */
685 >                } else
686 >                        error(WARNING, "different ambient file wavelength sampling");
687 >        }
688   }
689  
690  
691 < static
692 < avsave(av)                              /* insert and save an ambient value */
693 < AMBVAL  *av;
691 > static void
692 > avsave(                         /* insert and save an ambient value */
693 >        AMBVAL  *av
694 > )
695   {
696 <        avinsert(avstore(av));
696 >        avstore(av);
697          if (ambfp == NULL)
698                  return;
699          if (writambval(av, ambfp) < 0)
# Line 432 | Line 703 | AMBVAL *av;
703                          goto writerr;
704          return;
705   writerr:
706 <        error(SYSTEM, "error writing ambient file");
706 >        error(SYSTEM, "error writing to ambient file");
707   }
708  
709  
710   static AMBVAL *
711 < avstore(aval)                           /* allocate memory and store aval */
712 < register AMBVAL  *aval;
711 > avstore(                                /* allocate memory and save aval */
712 >        AMBVAL  *aval
713 > )
714   {
715 <        register AMBVAL  *av;
715 >        AMBVAL  *av;
716 >        double  d;
717  
718          if ((av = newambval()) == NULL)
719                  error(SYSTEM, "out of memory in avstore");
720 <        copystruct(av, aval);
448 <        av->latick = ambclock;
720 >        memcpy(av, aval, AVSIZE);       /* AVSIZE <= sizeof(AMBVAL) */
721          av->next = NULL;
450        addcolor(avsum, av->val);       /* add to sum for averaging */
722          nambvals++;
723 +        d = pbright(av->val);
724 +        if (d > FTINY) {                /* add to log sum for averaging */
725 +                avsum += log(d);
726 +                navsum++;
727 +        }
728 +        avinsert(av);                   /* insert in our cache tree */
729          return(av);
730   }
731  
# Line 458 | Line 735 | register AMBVAL  *aval;
735   static AMBTREE  *atfreelist = NULL;     /* free ambient tree structures */
736  
737  
738 < static
739 < AMBTREE *
463 < newambtree()                            /* allocate 8 ambient tree structs */
738 > static AMBTREE *
739 > newambtree(void)                                /* allocate 8 ambient tree structs */
740   {
741 <        register AMBTREE  *atp, *upperlim;
741 >        AMBTREE  *atp, *upperlim;
742  
743          if (atfreelist == NULL) {       /* get more nodes */
744 <                atfreelist = (AMBTREE *)bmalloc(ATALLOCSZ*8*sizeof(AMBTREE));
744 >                atfreelist = (AMBTREE *)malloc(ATALLOCSZ*8*sizeof(AMBTREE));
745                  if (atfreelist == NULL)
746                          return(NULL);
747                                          /* link new free list */
# Line 476 | Line 752 | newambtree()                           /* allocate 8 ambient tree structs */
752          }
753          atp = atfreelist;
754          atfreelist = atp->kid;
755 <        bzero((char *)atp, 8*sizeof(AMBTREE));
755 >        memset(atp, 0, 8*sizeof(AMBTREE));
756          return(atp);
757   }
758  
759  
760 < static
761 < freeambtree(atp)                        /* free 8 ambient tree structs */
762 < AMBTREE  *atp;
760 > static void
761 > freeambtree(                    /* free 8 ambient tree structs */
762 >        AMBTREE  *atp
763 > )
764   {
765          atp->kid = atfreelist;
766          atfreelist = atp;
767   }
768  
769  
770 < static
771 < avinsert(av)                            /* insert ambient value in our tree */
772 < register AMBVAL  *av;
770 > static void
771 > unloadatree(                    /* unload an ambient value tree */
772 >        AMBTREE  *at,
773 >        unloadtf_t *f
774 > )
775   {
776 <        register AMBTREE  *at;
777 <        register AMBVAL  *ap;
499 <        AMBVAL  avh;
500 <        FVECT  ck0;
501 <        double  s;
502 <        int  branch;
503 <        register int  i;
504 <
505 <        if (av->rad <= FTINY)
506 <                error(CONSISTENCY, "zero ambient radius in avinsert");
507 <        at = &atrunk;
508 <        VCOPY(ck0, thescene.cuorg);
509 <        s = thescene.cusize;
510 <        while (s*(OCTSCALE/2) > av->rad*ambacc) {
511 <                if (at->kid == NULL)
512 <                        if ((at->kid = newambtree()) == NULL)
513 <                                error(SYSTEM, "out of memory in avinsert");
514 <                s *= 0.5;
515 <                branch = 0;
516 <                for (i = 0; i < 3; i++)
517 <                        if (av->pos[i] > ck0[i] + s) {
518 <                                ck0[i] += s;
519 <                                branch |= 1 << i;
520 <                        }
521 <                at = at->kid + branch;
522 <        }
523 <        avh.next = at->alist;           /* order by increasing level */
524 <        for (ap = &avh; ap->next != NULL; ap = ap->next)
525 <                if (ap->next->lvl >= av->lvl)
526 <                        break;
527 <        av->next = ap->next;
528 <        ap->next = av;
529 <        at->alist = avh.next;
530 < }
531 <
532 <
533 < static
534 < unloadatree(at, f)                      /* unload an ambient value tree */
535 < register AMBTREE  *at;
536 < int     (*f)();
537 < {
538 <        register AMBVAL  *av;
539 <        register int  i;
776 >        AMBVAL  *av;
777 >        int  i;
778                                          /* transfer values at this node */
779          for (av = at->alist; av != NULL; av = at->alist) {
780                  at->alist = av->next;
781 +                av->next = NULL;
782                  (*f)(av);
783          }
784          if (at->kid == NULL)
# Line 551 | Line 790 | int    (*f)();
790   }
791  
792  
793 < static AMBVAL   **avlist1, **avlist2;   /* ambient value lists for sorting */
794 < static int      i_avlist;               /* index for lists */
556 <
557 <
558 < static
559 < av2list(av)
560 < AMBVAL  *av;
793 > static void
794 > avfree(AMBVAL *av)
795   {
796 < #ifdef DEBUG
563 <        if (i_avlist >= nambvals)
564 <                error(CONSISTENCY, "too many ambient values in av2list1");
565 < #endif
566 <        avlist1[i_avlist] = avlist2[i_avlist] = av;
567 <        i_avlist++;
796 >        free(av);
797   }
798  
799  
800 < static int
801 < alatcmp(avp1, avp2)                     /* compare ambient values for MRA */
573 < AMBVAL  **avp1, **avp2;
800 > static void
801 > sortambvals(void)                       /* resort ambient values */
802   {
803 <        register long  lc = (**avp2).latick - (**avp1).latick;
576 <        return(lc<0 ? -1 : lc>0 ? 1 : 0);
577 < }
803 >        AMBTREE  oldatrunk = atrunk;
804  
805 <
806 < static int
807 < aposcmp(avp1, avp2)                     /* compare ambient value positions */
582 < AMBVAL  **avp1, **avp2;
583 < {
584 <        return(*avp1 - *avp2);
805 >        atrunk.alist = NULL;
806 >        atrunk.kid = NULL;
807 >        unloadatree(&oldatrunk, avinsert);
808   }
809  
810  
588 #if  1
589 static int
590 avlmemi(avaddr)                         /* find list position from address */
591 AMBVAL  *avaddr;
592 {
593        register AMBVAL  **avlpp;
594
595        avlpp = (AMBVAL **)bsearch((char *)&avaddr, (char *)avlist2,
596                        nambvals, sizeof(AMBVAL *), aposcmp);
597        if (avlpp == NULL)
598                error(CONSISTENCY, "address not found in avlmemi");
599        return(avlpp - avlist2);
600 }
601 #else
602 #define avlmemi(avaddr) ((AMBVAL **)bsearch((char *)&avaddr,(char *)avlist2, \
603                                nambvals,sizeof(AMBVAL *),aposcmp) - avlist2)
604 #endif
605
606
607 static
608 sortambvals(always)                     /* resort ambient values */
609 int     always;
610 {
611        AMBTREE  oldatrunk;
612        AMBVAL  tav, *tap, *pnext;
613        register int    i, j;
614                                        /* see if it's time yet */
615        if (!always && (ambclock < lastsort+sortintvl ||
616                        nambvals < SORT_THRESH))
617                return;
618        /*
619         * The idea here is to minimize memory thrashing
620         * in VM systems by improving reference locality.
621         * We do this by periodically sorting our stored ambient
622         * values in memory in order of most recently to least
623         * recently accessed.  This ordering was chosen so that new
624         * ambient values (which tend to be less important) go into
625         * higher memory with the infrequently accessed values.
626         *      Since we expect our values to need sorting less
627         * frequently as the process continues, we double our
628         * waiting interval after each call.
629         *      This routine is also called by setambacc() with
630         * the "always" parameter set to 1 so that the ambient
631         * tree will be rebuilt with the new accuracy parameter.
632         */
633        if (tracktime) {                /* allocate pointer arrays to sort */
634                avlist1 = (AMBVAL **)malloc(nambvals*sizeof(AMBVAL *));
635                avlist2 = (AMBVAL **)malloc(nambvals*sizeof(AMBVAL *));
636        } else
637                avlist1 = avlist2 = NULL;
638        if (avlist2 == NULL) {          /* no time tracking -- rebuild tree? */
639                if (avlist1 != NULL)
640                        free((char *)avlist1);
641                if (always) {           /* rebuild without sorting */
642                        copystruct(&oldatrunk, &atrunk);
643                        atrunk.alist = NULL;
644                        atrunk.kid = NULL;
645                        unloadatree(&oldatrunk, avinsert);
646                }
647        } else {                        /* sort memory by last access time */
648                /*
649                 * Sorting memory is tricky because it isn't contiguous.
650                 * We have to sort an array of pointers by MRA and also
651                 * by memory position.  We then copy values in "loops"
652                 * to minimize memory hits.  Nevertheless, we will visit
653                 * everyone at least twice, and this is an expensive process
654                 * when we're thrashing, which is when we need to do it.
655                 */
656 #ifdef DEBUG
657                sprintf(errmsg, "sorting %u ambient values at ambclock=%lu...",
658                                nambvals, ambclock);
659                eputs(errmsg);
660 #endif
661                i_avlist = 0;
662                unloadatree(&atrunk, av2list);  /* empty current tree */
663 #ifdef DEBUG
664                if (i_avlist < nambvals)
665                        error(CONSISTENCY, "missing ambient values in sortambvals");
666 #endif
667                qsort((char *)avlist1, nambvals, sizeof(AMBVAL *), alatcmp);
668                qsort((char *)avlist2, nambvals, sizeof(AMBVAL *), aposcmp);
669                for (i = 0; i < nambvals; i++) {
670                        if (avlist1[i] == NULL)
671                                continue;
672                        tap = avlist2[i];
673                        copystruct(&tav, tap);
674                        for (j = i; (pnext = avlist1[j]) != tap;
675                                        j = avlmemi(pnext)) {
676                                copystruct(avlist2[j], pnext);
677                                avinsert(avlist2[j]);
678                                avlist1[j] = NULL;
679                        }
680                        copystruct(avlist2[j], &tav);
681                        avinsert(avlist2[j]);
682                        avlist1[j] = NULL;
683                }
684                free((char *)avlist1);
685                free((char *)avlist2);
686                                                /* compute new sort interval */
687                sortintvl = ambclock - lastsort;
688                if (sortintvl >= MAX_SORT_INTVL/2)
689                        sortintvl = MAX_SORT_INTVL;
690                else
691                        sortintvl <<= 1;        /* wait twice as long next */
692 #ifdef DEBUG
693                eputs("done\n");
694 #endif
695        }
696        if (ambclock >= MAXACLOCK)
697                ambclock = MAXACLOCK/2;
698        lastsort = ambclock;
699 }
700
701
811   #ifdef  F_SETLKW
812  
813 < static
814 < aflock(typ)                     /* lock/unlock ambient file */
815 < int  typ;
813 > static void
814 > aflock(                 /* lock/unlock ambient file */
815 >        int  typ
816 > )
817   {
818          static struct flock  fls;       /* static so initialized to zeroes */
819  
820 +        if (typ == fls.l_type)          /* already called? */
821 +                return;
822 +
823          fls.l_type = typ;
824 <        if (fcntl(fileno(ambfp), F_SETLKW, &fls) < 0)
825 <                error(SYSTEM, "cannot (un)lock ambient file");
824 >        do
825 >                if (fcntl(fileno(ambfp), F_SETLKW, &fls) != -1)
826 >                        return;
827 >        while (errno == EINTR);
828 >        
829 >        error(SYSTEM, "cannot (un)lock ambient file");
830   }
831  
832  
833   int
834 < ambsync()                       /* synchronize ambient file */
834 > ambsync(void)                   /* synchronize ambient file */
835   {
719        static FILE  *ambinp = NULL;
720        static long  lastpos = -1;
836          long  flen;
837          AMBVAL  avs;
838 <        register int  n;
838 >        int  n;
839  
840 <        if (nunflshed == 0)
840 >        if (ambfp == NULL)      /* no ambient file? */
841                  return(0);
842 <        if (lastpos < 0)        /* initializing (locked in initambfile) */
843 <                goto syncend;
729 <                                /* gain exclusive access */
730 <        aflock(F_WRLCK);
842 >                                /* gain appropriate access */
843 >        aflock(nunflshed ? F_WRLCK : F_RDLCK);
844                                  /* see if file has grown */
845 <        if ((flen = lseek(fileno(ambfp), 0L, 2)) < 0)
845 >        if ((flen = lseek(fileno(ambfp), (off_t)0, SEEK_END)) < 0)
846                  goto seekerr;
847 <        if (n = flen - lastpos) {               /* file has grown */
848 <                if (ambinp == NULL) {           /* use duplicate filedes */
849 <                        ambinp = fdopen(dup(fileno(ambfp)), "r");
847 >        if ((n = flen - lastpos) > 0) {         /* file has grown */
848 >                if (ambinp == NULL) {           /* get new file pointer */
849 >                        ambinp = fopen(ambfile, "rb");
850                          if (ambinp == NULL)
851 <                                error(SYSTEM, "fdopen failed in ambsync");
851 >                                error(SYSTEM, "fopen failed in ambsync");
852                  }
853 <                if (fseek(ambinp, lastpos, 0) < 0)
853 >                if (fseek(ambinp, lastpos, SEEK_SET) < 0)
854                          goto seekerr;
855                  while (n >= AMBVALSIZ) {        /* load contributed values */
856                          if (!readambval(&avs, ambinp)) {
857                                  sprintf(errmsg,
858 <                                "ambient file corrupted near character %ld",
859 <                                                flen - n);
858 >                        "ambient file \"%s\" corrupted near character %ld",
859 >                                                ambfile, flen - n);
860                                  error(WARNING, errmsg);
861                                  break;
862                          }
863 <                        avinsert(avstore(&avs));
863 >                        avstore(&avs);
864                          n -= AMBVALSIZ;
865                  }
866 <                /*** seek always as safety measure
867 <                if (n) ***/                     /* alignment */
868 <                        if (lseek(fileno(ambfp), flen-n, 0) < 0)
756 <                                goto seekerr;
866 >                lastpos = flen - n;             /* check alignment */
867 >                if (n && lseek(fileno(ambfp), (off_t)lastpos, SEEK_SET) < 0)
868 >                        goto seekerr;
869          }
758 #ifdef  DEBUG
759        if (ambfp->_ptr - ambfp->_base != nunflshed*AMBVALSIZ) {
760                sprintf(errmsg, "ambient file buffer at %d rather than %d",
761                                ambfp->_ptr - ambfp->_base,
762                                nunflshed*AMBVALSIZ);
763                error(CONSISTENCY, errmsg);
764        }
765 #endif
766 syncend:
870          n = fflush(ambfp);                      /* calls write() at last */
871 <        if ((lastpos = lseek(fileno(ambfp), 0L, 1)) < 0)
769 <                goto seekerr;
871 >        lastpos += (long)nunflshed*AMBVALSIZ;
872          aflock(F_UNLCK);                        /* release file */
873          nunflshed = 0;
874          return(n);
875   seekerr:
876          error(SYSTEM, "seek failed in ambsync");
877 +        return(EOF);    /* pro forma return */
878   }
879  
880 < #else
880 > #else   /* ! F_SETLKW */
881  
882   int
883 < ambsync()                       /* flush ambient file */
883 > ambsync(void)                   /* flush ambient file */
884   {
885 <        if (nunflshed == 0)
885 >        if (ambfp == NULL)
886                  return(0);
887          nunflshed = 0;
888          return(fflush(ambfp));
889   }
890  
891 < #endif
891 > #endif  /* ! F_SETLKW */

Diff Legend

Removed lines
+ Added lines
< Changed lines
> Changed lines