ViewVC Help
View File | Revision Log | Show Annotations | Download File | Root Listing
root/radiance/ray/src/hd/holofile.c
(Generate patch)

Comparing ray/src/hd/holofile.c (file contents):
Revision 3.2 by gregl, Fri Oct 31 15:48:32 1997 UTC vs.
Revision 3.39 by gwlarson, Tue Mar 9 08:40:11 1999 UTC

# Line 1 | Line 1
1 < /* Copyright (c) 1997 Silicon Graphics, Inc. */
1 > /* Copyright (c) 1999 Silicon Graphics, Inc. */
2  
3   #ifndef lint
4   static char SCCSid[] = "$SunId$ SGI";
# Line 13 | Line 13 | static char SCCSid[] = "$SunId$ SGI";
13   #include "holo.h"
14  
15   #ifndef CACHESIZE
16 < #define CACHESIZE       16      /* default cache size (Mbytes, 0==inf) */
16 > #ifdef BIGMEM
17 > #define CACHESIZE       17      /* default cache size (Mbytes, 0==inf) */
18 > #else
19 > #define CACHESIZE       5
20   #endif
21 + #endif
22   #ifndef FREEBEAMS
23 < #define FREEBEAMS       1024    /* maximum beams to free at a time */
23 > #define FREEBEAMS       1500    /* maximum beams to free at a time */
24   #endif
25   #ifndef PCTFREE
26 < #define PCTFREE         12      /* maximum fraction to free (%) */
26 > #define PCTFREE         15      /* maximum fraction to free (%) */
27   #endif
28 < #ifndef FFDMAX
29 < #define FFDMAX          64      /* max. file descriptor for tracking */
28 > #ifndef MAXFRAGB
29 > #define MAXFRAGB        16      /* fragment blocks/file to track (0==inf) */
30   #endif
31 < #ifndef MAXFRAG
32 < #define MAXFRAG         2048    /* maximum fragments tracked in each file */
31 > #ifndef FF_DEFAULT
32 >                                /* when to free a beam fragment */
33 > #define FF_DEFAULT      (FF_WRITE|FF_KILL)
34   #endif
35 + #ifndef MINDIRSEL
36 +                                /* minimum directory seek length */
37 + #define MINDIRSEL       (4*BUFSIZ/sizeof(BEAMI))
38 + #endif
39  
40 < int     hdcachesize = CACHESIZE*1024*1024;      /* target cache size (bytes) */
41 < unsigned long   hdclock;        /* clock value */
40 > #ifndef BSD
41 > #define write   writebuf        /* safe i/o routines */
42 > #define read    readbuf
43 > #endif
44  
45 + #define FRAGBLK         512     /* number of fragments to allocate at a time */
46 +
47 + int     hdfragflags = FF_DEFAULT;       /* tells when to free fragments */
48 + unsigned        hdcachesize = CACHESIZE*1024*1024;      /* target cache size */
49 + unsigned long   hdclock;                /* clock value */
50 +
51   HOLO    *hdlist[HDMAX+1];       /* holodeck pointers (NULL term.) */
52  
53 < static struct fragment {
53 > static struct fraglist {
54          short   nlinks;         /* number of holodeck sections using us */
55 <        short   nfrags;         /* number of known fragments */
56 <        BEAMI   fi[MAXFRAG];    /* fragments, descending file position */
55 >        short   writerr;        /* write error encountered */
56 >        int     nfrags;         /* number of known fragments */
57 >        BEAMI   *fi;            /* fragments, descending file position */
58          long    flen;           /* last known file length */
59 < } *hdfrag[FFDMAX];      /* fragment lists, indexed by file descriptor */
59 > } *hdfragl;             /* fragment lists, indexed by file descriptor */
60  
61 + static int      nhdfragls;      /* size of hdfragl array */
62  
63 +
64 + char *
65 + hdrealloc(ptr, siz, rout)       /* (re)allocate memory, retry then error */
66 + char    *ptr;
67 + unsigned        siz;
68 + char    *rout;
69 + {
70 +        register char   *newp;
71 +                                        /* call malloc/realloc */
72 +        if (ptr == NULL) newp = (char *)malloc(siz);
73 +        else newp = (char *)realloc(ptr, siz);
74 +                                        /* check success */
75 +        if (newp == NULL && rout != NULL) {
76 +                hdfreecache(25, NULL);  /* free some memory */
77 +                errno = 0;              /* retry */
78 +                newp = hdrealloc(ptr, siz, NULL);
79 +                if (newp == NULL) {     /* give up and report error */
80 +                        sprintf(errmsg, "out of memory in %s", rout);
81 +                        error(SYSTEM, errmsg);
82 +                }
83 +        }
84 +        return(newp);
85 + }
86 +
87 +
88   hdattach(fd)            /* start tracking file fragments for some section */
89   register int    fd;
90   {
91 <        if (fd >= FFDMAX)
92 <                return;                         /* descriptor out of range */
93 <        if (hdfrag[fd] == NULL) {
94 <                if ((hdfrag[fd] = (struct fragment *)
95 <                                malloc(sizeof(struct fragment))) == NULL)
96 <                        return;                 /* should flag error? */
53 <                hdfrag[fd]->nlinks = 0;
54 <                hdfrag[fd]->nfrags = 0;
91 >        if (fd >= nhdfragls) {
92 >                hdfragl = (struct fraglist *)hdrealloc((char *)hdfragl,
93 >                                (fd+1)*sizeof(struct fraglist), "hdattach");
94 >                bzero((char *)(hdfragl+nhdfragls),
95 >                                (fd+1-nhdfragls)*sizeof(struct fraglist));
96 >                nhdfragls = fd+1;
97          }
98 <        hdfrag[fd]->nlinks++;
99 <        hdfrag[fd]->flen = lseek(fd, 0L, 2);    /* get file length */
98 >        hdfragl[fd].nlinks++;
99 >        hdfragl[fd].flen = lseek(fd, 0L, 2);    /* get file length */
100   }
101  
102  
# Line 64 | Line 106 | register int   fd;
106   hdrelease(fd)           /* stop tracking file fragments for some section */
107   register int    fd;
108   {
109 <        if (fd >= FFDMAX || hdfrag[fd] == NULL)
109 >        if (fd < 0 | fd >= nhdfragls || !hdfragl[fd].nlinks)
110                  return;
111 <        if (!--hdfrag[fd]->nlinks) {
112 <                free((char *)hdfrag[fd]);
113 <                hdfrag[fd] = NULL;
111 >        if (!--hdfragl[fd].nlinks && hdfragl[fd].nfrags) {
112 >                free((char *)hdfragl[fd].fi);
113 >                hdfragl[fd].fi = NULL;
114 >                hdfragl[fd].nfrags = 0;
115          }
116   }
117  
# Line 78 | Line 121 | hdinit(fd, hproto)     /* initialize a holodeck section in
121   int     fd;                     /* corresponding file descriptor */
122   HDGRID  *hproto;                /* holodeck section grid */
123   {
124 +        long    rtrunc;
125          long    fpos;
126          register HOLO   *hp;
127          register int    n;
# Line 97 | Line 141 | HDGRID *hproto;                /* holodeck section grid */
141                  n = nbeams(hp)*sizeof(BEAMI);
142                  if (read(fd, (char *)(hp->bi+1), n) != n)
143                          error(SYSTEM, "failure loading holodeck directory");
144 +                                                /* check that it's clean */
145 +                for (n = nbeams(hp); n > 0; n--)
146 +                        if (hp->bi[n].fo < 0) {
147 +                                hp->bi[n].fo = 0;
148 +                                error(WARNING, "dirty holodeck section");
149 +                                break;
150 +                        }
151          } else {                        /* assume we're creating it */
152                  if ((hp = hdalloc(hproto)) == NULL)
153                          goto memerr;
# Line 110 | Line 161 | HDGRID *hproto;                /* holodeck section grid */
161          hp->fd = fd;    
162          hp->dirty = 0;
163          biglob(hp)->fo = fpos + sizeof(HDGRID);
164 <        biglob(hp)->nrd = 0;            /* count rays on disk */
165 <        for (n = nbeams(hp); n > 0; n--)
166 <                biglob(hp)->nrd += hp->bi[n].nrd;
164 >                                        /* start tracking fragments */
165 >        hdattach(fd);
166 >                                        /* check rays on disk */
167 >        fpos = hdfilen(fd);
168 >        biglob(hp)->nrd = rtrunc = 0;
169 >        for (n = hproto == NULL ? nbeams(hp) : 0; n > 0; n--)
170 >                if (hp->bi[n].nrd)
171 >                        if (hp->bi[n].fo+hp->bi[n].nrd*sizeof(RAYVAL) > fpos) {
172 >                                rtrunc += hp->bi[n].nrd;
173 >                                hp->bi[n].nrd = 0;
174 >                        } else
175 >                                biglob(hp)->nrd += hp->bi[n].nrd;
176 >        if (rtrunc) {
177 >                sprintf(errmsg, "truncated section, %ld rays lost (%.1f%%)",
178 >                                rtrunc, 100.*rtrunc/(rtrunc+biglob(hp)->nrd));
179 >                error(WARNING, errmsg);
180 >        }
181                                          /* add to holodeck list */
182          for (n = 0; n < HDMAX; n++)
183                  if (hdlist[n] == NULL) {
184                          hdlist[n] = hp;
185                          break;
186                  }
122 –                                        /* start tracking fragments (last) */
123 –        hdattach(fd);
187                                          /* all done */
188          return(hp);
189   memerr:
# Line 128 | Line 191 | memerr:
191   }
192  
193  
194 + hdmarkdirty(hp, i)              /* mark holodeck directory position dirty */
195 + register HOLO   *hp;
196 + int     i;
197 + {
198 +        static BEAMI    smudge = {0, -1};
199 +        int     mindist, minpos;
200 +        register int    j;
201 +
202 +        if (!hp->dirty++) {                     /* write smudge first time */
203 +                if (lseek(hp->fd, biglob(hp)->fo+(i-1)*sizeof(BEAMI), 0) < 0
204 +                                || write(hp->fd, (char *)&smudge,
205 +                                        sizeof(BEAMI)) != sizeof(BEAMI))
206 +                        error(SYSTEM, "seek/write error in hdmarkdirty");
207 +                hp->dirseg[0].s = i;
208 +                hp->dirseg[0].n = 1;
209 +                return;
210 +        }
211 +                                                /* insert into segment list */
212 +        for (j = hp->dirty; j--; ) {
213 +                if (!j || hp->dirseg[j-1].s < i) {
214 +                        hp->dirseg[j].s = i;
215 +                        hp->dirseg[j].n = 1;
216 +                        break;
217 +                }
218 +                copystruct(hp->dirseg+j, hp->dirseg+(j-1));
219 +        }
220 +        do {                            /* check neighbors */
221 +                mindist = nbeams(hp);           /* find closest */
222 +                for (j = hp->dirty; --j; )
223 +                        if (hp->dirseg[j].s -
224 +                                        (hp->dirseg[j-1].s + hp->dirseg[j-1].n)
225 +                                        < mindist) {
226 +                                minpos = j;
227 +                                mindist = hp->dirseg[j].s -
228 +                                        (hp->dirseg[j-1].s + hp->dirseg[j-1].n);
229 +                        }
230 +                                                /* good enough? */
231 +                if (hp->dirty <= MAXDIRSE && mindist > MINDIRSEL)
232 +                        break;
233 +                j = minpos - 1;                 /* coalesce neighbors */
234 +                if (hp->dirseg[j].s + hp->dirseg[j].n <
235 +                                hp->dirseg[minpos].s + hp->dirseg[minpos].n)
236 +                        hp->dirseg[j].n = hp->dirseg[minpos].s +
237 +                                        hp->dirseg[minpos].n - hp->dirseg[j].s;
238 +                hp->dirty--;
239 +                while (++j < hp->dirty)         /* close the gap */
240 +                        copystruct(hp->dirseg+j, hp->dirseg+(j+1));
241 +        } while (mindist <= MINDIRSEL);
242 + }
243 +
244 +
245   int
246 < hdsync(hp)                      /* update directory on disk if necessary */
246 > hdsync(hp, all)                 /* update beams and directory on disk */
247   register HOLO   *hp;
248 + int     all;
249   {
250          register int    j, n;
251  
252 <        if (hp == NULL) {               /* do all */
252 >        if (hp == NULL) {               /* do all holodecks */
253                  n = 0;
254                  for (j = 0; hdlist[j] != NULL; j++)
255 <                        n += hdsync(hdlist[j]);
255 >                        n += hdsync(hdlist[j], all);
256                  return(n);
257          }
258 <        if (!hp->dirty)                 /* check first */
258 >                                        /* sync the beams */
259 >        for (j = (all ? nbeams(hp) : 0); j > 0; j--)
260 >                if (hp->bl[j] != NULL)
261 >                        hdsyncbeam(hp, j);
262 >        if (!hp->dirty)                 /* directory clean? */
263                  return(0);
264 <        if (lseek(hp->fd, biglob(hp)->fo, 0) < 0)
265 <                error(SYSTEM, "cannot seek on holodeck file");
266 <        n = nbeams(hp)*sizeof(BEAMI);
267 <        if (write(hp->fd, (char *)(hp->bi+1), n) != n)
268 <                error(SYSTEM, "cannot update holodeck section directory");
269 <        hp->dirty = 0;
264 >        errno = 0;                      /* write dirty segments */
265 >        for (j = 0; j < hp->dirty; j++) {
266 >                if (lseek(hp->fd, biglob(hp)->fo +
267 >                                (hp->dirseg[j].s-1)*sizeof(BEAMI), 0) < 0)
268 >                        error(SYSTEM, "cannot seek on holodeck file");
269 >                n = hp->dirseg[j].n * sizeof(BEAMI);
270 >                if (write(hp->fd, (char *)(hp->bi+hp->dirseg[j].s), n) != n)
271 >                        error(SYSTEM, "cannot update section directory");
272 >        }
273 >        hp->dirty = 0;                  /* all clean */
274          return(1);
275   }
276  
277  
278 < long
278 > unsigned
279   hdmemuse(all)           /* return memory usage (in bytes) */
280   int     all;                    /* include overhead (painful) */
281   {
# Line 171 | Line 294 | int    all;                    /* include overhead (painful) */
294                  }
295          }
296          if (all)
297 <                for (j = 0; j < FFDMAX; j++)
298 <                        if (hdfrag[j] != NULL)
299 <                                total += sizeof(struct fragment);
297 >                for (j = 0; j < nhdfragls; j++) {
298 >                        total += sizeof(struct fraglist);
299 >                        if (hdfragl[j].nfrags)
300 >                                total += FRAGBLK*sizeof(BEAMI) *
301 >                                        ((hdfragl[j].nfrags-1)/FRAGBLK + 1) ;
302 >                }
303          return(total);
304   }
305  
306  
307   long
308 + hdfilen(fd)             /* return file length for fd */
309 + int     fd;
310 + {
311 +        long    fpos, flen;
312 +
313 +        if (fd < 0)
314 +                return(-1);
315 +        if (fd >= nhdfragls || !hdfragl[fd].nlinks) {
316 +                if ((fpos = lseek(fd, 0L, 1)) < 0)
317 +                        return(-1);
318 +                flen = lseek(fd, 0L, 2);
319 +                lseek(fd, fpos, 0);
320 +                return(flen);
321 +        }
322 +        return(hdfragl[fd].flen);
323 + }
324 +
325 +
326 + long
327   hdfiluse(fd, all)       /* compute file usage (in bytes) */
328   int     fd;                     /* open file descriptor to check */
329   int     all;                    /* include overhead and unflushed data */
# Line 213 | Line 358 | int    nr;                     /* number of new rays desired */
358          RAYVAL  *p;
359          int     n;
360  
361 <        if (nr <= 0)
362 <                return(NULL);
363 <        if (i < 1 | i > nbeams(hp))
219 <                error(CONSISTENCY, "bad beam index given to hdnewrays");
361 >        if (nr <= 0) return(NULL);
362 >        CHECK(i < 1 | i > nbeams(hp),
363 >                        CONSISTENCY, "bad beam index given to hdnewrays");
364          if (hp->bl[i] != NULL)
365                  hp->bl[i]->tick = hdclock;      /* preempt swap */
366          if (hdcachesize > 0 && hdmemuse(0) >= hdcachesize)
367                  hdfreecache(PCTFREE, NULL);     /* free some space */
368          if (hp->bl[i] == NULL) {                /* allocate (and load) */
369                  n = hp->bi[i].nrd + nr;
370 <                if ((hp->bl[i] = (BEAM *)malloc(hdbsiz(n))) == NULL)
227 <                        goto memerr;
370 >                hp->bl[i] = (BEAM *)hdrealloc(NULL, hdbsiz(n), "hdnewrays");
371                  blglob(hp)->nrm += n;
372 <                if (n = hp->bl[i]->nrm = hp->bi[i].nrd) {
372 >                if ((n = hp->bl[i]->nrm = hp->bi[i].nrd)) {
373 >                        errno = 0;
374                          if (lseek(hp->fd, hp->bi[i].fo, 0) < 0)
375                                  error(SYSTEM, "seek error on holodeck file");
376                          n *= sizeof(RAYVAL);
# Line 235 | Line 379 | int    nr;                     /* number of new rays desired */
379                                  "error reading beam from holodeck file");
380                  }
381          } else {                                /* just grow in memory */
382 <                hp->bl[i] = (BEAM *)realloc( (char *)hp->bl[i],
383 <                                hdbsiz(hp->bl[i]->nrm + nr) );
240 <                if (hp->bl[i] == NULL)
241 <                        goto memerr;
382 >                hp->bl[i] = (BEAM *)hdrealloc((char *)hp->bl[i],
383 >                                hdbsiz(hp->bl[i]->nrm + nr), "hdnewrays");
384                  blglob(hp)->nrm += nr;
385          }
386 +        if (hdfragflags&FF_ALLOC && hp->bi[i].nrd)
387 +                hdfreefrag(hp, i);              /* relinquish old fragment */
388          p = hdbray(hp->bl[i]) + hp->bl[i]->nrm;
389          hp->bl[i]->nrm += nr;                   /* update in-core structure */
390          bzero((char *)p, nr*sizeof(RAYVAL));
391 <        hp->bl[i]->tick = ++hdclock;            /* update LRU clock */
248 <        blglob(hp)->tick = hdclock;
391 >        blglob(hp)->tick = hp->bl[i]->tick = hdclock++; /* update LRU clock */
392          return(p);                              /* point to new rays */
250 – memerr:
251 –        error(SYSTEM, "out of memory in hdnewrays");
393   }
394  
395  
# Line 259 | Line 400 | register int   i;
400   {
401          register int    n;
402  
403 <        if (i < 1 | i > nbeams(hp))
404 <                error(CONSISTENCY, "bad beam index given to hdgetbeam");
403 >        CHECK(i < 1 | i > nbeams(hp),
404 >                        CONSISTENCY, "bad beam index given to hdgetbeam");
405          if (hp->bl[i] == NULL) {                /* load from disk */
406                  if (!(n = hp->bi[i].nrd))
407                          return(NULL);
408                  if (hdcachesize > 0 && hdmemuse(0) >= hdcachesize)
409                          hdfreecache(PCTFREE, NULL);     /* get free space */
410 <                errno = 0;
270 <                if ((hp->bl[i] = (BEAM *)malloc(hdbsiz(n))) == NULL)
271 <                        error(SYSTEM, "cannot allocate memory for beam");
410 >                hp->bl[i] = (BEAM *)hdrealloc(NULL, hdbsiz(n), "hdgetbeam");
411                  blglob(hp)->nrm += hp->bl[i]->nrm = n;
412 +                errno = 0;
413                  if (lseek(hp->fd, hp->bi[i].fo, 0) < 0)
414                          error(SYSTEM, "seek error on holodeck file");
415                  n *= sizeof(RAYVAL);
416                  if (read(hp->fd, (char *)hdbray(hp->bl[i]), n) != n)
417                          error(SYSTEM, "error reading beam from holodeck file");
418 +                if (hdfragflags&FF_READ)
419 +                        hdfreefrag(hp, i);      /* relinquish old frag. */
420          }
421 <        hp->bl[i]->tick = ++hdclock;    /* update LRU clock */
280 <        blglob(hp)->tick = hdclock;
421 >        blglob(hp)->tick = hp->bl[i]->tick = hdclock++; /* update LRU clock */
422          return(hp->bl[i]);
423   }
424  
425  
426   int
427 < hdgetbi(hp, i)                  /* allocate a file fragment */
428 < register HOLO   *hp;
288 < register int    i;
427 > hdfilord(hb1, hb2)      /* order beams for quick loading */
428 > register HDBEAMI        *hb1, *hb2;
429   {
430 <        int     nrays = hp->bl[i]->nrm;
430 >        register long   c;
431 >                                /* residents go first */
432 >        if (hb2->h->bl[hb2->b] != NULL)
433 >                return(hb1->h->bl[hb1->b] == NULL);
434 >        if (hb1->h->bl[hb1->b] != NULL)
435 >                return(-1);
436 >                                /* otherwise sort by file descriptor */
437 >        if ((c = hb1->h->fd - hb2->h->fd))
438 >                return(c);
439 >                                /* then by position in file */
440 >        c = hb1->h->bi[hb1->b].fo - hb2->h->bi[hb2->b].fo;
441 >        return(c > 0 ? 1 : c < 0 ? -1 : 0);
442 > }
443  
292 –        if (hp->bi[i].nrd == nrays)     /* current one will do? */
293 –                return(0);
444  
445 <        if (hp->fd >= FFDMAX || hdfrag[hp->fd] == NULL) /* untracked */
446 <                hp->bi[i].fo = lseek(hp->fd, 0L, 2);
445 > hdloadbeams(hb, n, bf)  /* load a list of beams in optimal order */
446 > register HDBEAMI        *hb;    /* list gets sorted by hdfilord() */
447 > int     n;                      /* list length */
448 > int     (*bf)();                /* callback function (optional) */
449 > {
450 >        unsigned        origcachesize, memuse;
451 >        int     bytesloaded, needbytes, bytes2free;
452 >        register BEAM   *bp;
453 >        register int    i;
454 >                                        /* precheck consistency */
455 >        if (n <= 0) return;
456 >        for (i = n; i--; )
457 >                if (hb[i].h==NULL || hb[i].b<1 | hb[i].b>nbeams(hb[i].h))
458 >                        error(CONSISTENCY, "bad beam in hdloadbeams");
459 >                                        /* sort list for optimal access */
460 >        qsort((char *)hb, n, sizeof(HDBEAMI), hdfilord);
461 >        bytesloaded = 0;                /* run through loaded beams */
462 >        for ( ; n && (bp = hb->h->bl[hb->b]) != NULL; n--, hb++) {
463 >                bp->tick = hdclock;     /* preempt swap */
464 >                bytesloaded += bp->nrm;
465 >                if (bf != NULL)
466 >                        (*bf)(bp, hb);
467 >        }
468 >        bytesloaded *= sizeof(RAYVAL);
469 >        if ((origcachesize = hdcachesize) > 0) {
470 >                needbytes = 0;          /* figure out memory needs */
471 >                for (i = n; i--; )
472 >                        needbytes += hb[i].h->bi[hb[i].b].nrd;
473 >                needbytes *= sizeof(RAYVAL);
474 >                do {                            /* free enough memory */
475 >                        memuse = hdmemuse(0);
476 >                        bytes2free = needbytes - (int)(hdcachesize-memuse);
477 >                        if (bytes2free > (int)(memuse - bytesloaded))
478 >                                bytes2free = memuse - bytesloaded;
479 >                } while (bytes2free > 0 &&
480 >                                hdfreecache(100*bytes2free/memuse, NULL) < 0);
481 >                hdcachesize = 0;                /* load beams w/o swap */
482 >        }
483 >        for (i = 0; i < n; i++)
484 >                if ((bp = hdgetbeam(hb[i].h, hb[i].b)) != NULL && bf != NULL)
485 >                        (*bf)(bp, hb+i);
486 >        hdcachesize = origcachesize;    /* resume dynamic swapping */
487 > }
488  
298 –        else if (hp->bi[i].fo + hp->bi[i].nrd*sizeof(RAYVAL) ==
299 –                        hdfrag[hp->fd]->flen)           /* EOF special case */
300 –                hdfrag[hp->fd]->flen = hp->bi[i].fo + nrays*sizeof(RAYVAL);
489  
490 <        else {                                          /* general case */
491 <                register struct fragment        *f = hdfrag[hp->fd];
492 <                register int    j, k;
493 <                                        /* relinquish old fragment */
494 <                if (hp->bi[i].nrd) {
495 <                        if ((j = ++f->nfrags) >= MAXFRAG)
496 <                                f->nfrags--;
497 <                        for ( ; ; ) {   /* stick it in our descending list */
498 <                                if (!--j || hp->bi[i].fo < f->fi[j-1].fo) {
499 <                                        f->fi[j].fo = hp->bi[i].fo;
500 <                                        f->fi[j].nrd = hp->bi[i].nrd;
501 <                                        break;
502 <                                }
503 <                                copystruct(f->fi+j, f->fi+j-1);
504 <                        }
490 > int
491 > hdfreefrag(hp, i)                       /* free a file fragment */
492 > HOLO    *hp;
493 > int     i;
494 > {
495 >        register BEAMI  *bi = &hp->bi[i];
496 >        register struct fraglist        *f;
497 >        register int    j, k;
498 >
499 >        if (bi->nrd <= 0)
500 >                return(0);
501 >        DCHECK(hp->fd < 0 | hp->fd >= nhdfragls || !hdfragl[hp->fd].nlinks,
502 >                        CONSISTENCY, "bad file descriptor in hdfreefrag");
503 >        f = &hdfragl[hp->fd];
504 >        if (f->nfrags % FRAGBLK == 0) { /* delete empty remnants */
505 >                for (j = k = 0; k < f->nfrags; j++, k++) {
506 >                        while (f->fi[k].nrd == 0)
507 >                                if (++k >= f->nfrags)
508 >                                        goto endloop;
509 >                        if (k > j)
510 >                                copystruct(f->fi+j, f->fi+k);
511 >                }
512 >        endloop:
513 >                f->nfrags = j;
514 >        }
515 >        j = f->nfrags++;                /* allocate a slot in free list */
516 > #if MAXFRAGB
517 >        if (j >= MAXFRAGB*FRAGBLK) {
518 >                f->nfrags = j--;        /* stop list growth */
519 >                if (bi->nrd <= f->fi[j].nrd)
520 >                        return(0);      /* new one no better than discard */
521 >        }
522 > #endif
523 >        if (j % FRAGBLK == 0) {         /* more (or less) free list space */
524 >                register BEAMI  *newp;
525 >                if (f->fi == NULL)
526 >                        newp = (BEAMI *)malloc((j+FRAGBLK)*sizeof(BEAMI));
527 >                else
528 >                        newp = (BEAMI *)realloc((char *)f->fi,
529 >                                        (j+FRAGBLK)*sizeof(BEAMI));
530 >                if (newp == NULL) {
531 >                        f->nfrags--;    /* graceful failure */
532 >                        return(0);
533 >                }
534 >                f->fi = newp;
535 >        }
536 >        for ( ; ; j--) {                /* insert in descending list */
537 >                if (!j || bi->fo < f->fi[j-1].fo) {
538 >                        f->fi[j].fo = bi->fo;
539 >                        f->fi[j].nrd = bi->nrd;
540 >                        break;
541 >                }
542 >                copystruct(f->fi+j, f->fi+(j-1));
543 >        }
544                                          /* coalesce adjacent fragments */
545 <                        for (j = k = 0; k < f->nfrags; j++, k++) {
546 <                                if (j != k)
547 <                                        copystruct(f->fi+j, f->fi+k);
548 <                                while (k+1 < f->nfrags &&
549 <                                f->fi[k+1].fo + f->fi[k+1].nrd*sizeof(RAYVAL)
550 <                                                == f->fi[j].fo)
551 <                                        f->fi[j].fo -=
552 <                                                f->fi[++k].nrd*sizeof(RAYVAL);
545 >                                                /* successors never empty */
546 >        if (j && f->fi[j-1].fo == f->fi[j].fo + f->fi[j].nrd*sizeof(RAYVAL)) {
547 >                f->fi[j].nrd += f->fi[j-1].nrd;
548 >                f->fi[j-1].nrd = 0;
549 >        }
550 >        for (k = j+1; k < f->nfrags; k++)       /* get non-empty predecessor */
551 >                if (f->fi[k].nrd) {
552 >                        if (f->fi[j].fo == f->fi[k].fo +
553 >                                        f->fi[k].nrd*sizeof(RAYVAL)) {
554 >                                f->fi[k].nrd += f->fi[j].nrd;
555 >                                f->fi[j].nrd = 0;
556                          }
557 <                        f->nfrags = j;
557 >                        break;
558                  }
559 <                k = -1;                 /* find closest-sized fragment */
560 <                for (j = f->nfrags; j-- > 0; )
561 <                        if (f->fi[j].nrd >= nrays &&
562 <                                        (k < 0 || f->fi[j].nrd < f->fi[k].nrd)
563 <                                        && f->fi[k=j].nrd == nrays)
564 <                                break;
565 <                if (k < 0) {            /* no fragment -- extend file */
566 <                        hp->bi[i].fo = f->flen;
567 <                        f->flen += nrays*sizeof(RAYVAL);
568 <                } else {                /* else use fragment */
569 <                        hp->bi[i].fo = f->fi[k].fo;
570 <                        if (f->fi[k].nrd == nrays) {    /* delete fragment */
571 <                                f->nfrags--;
572 <                                for (j = k; j < f->nfrags; j++)
573 <                                        copystruct(f->fi+j, f->fi+j+1);
574 <                        } else {                        /* else shrink it */
575 <                                f->fi[k].fo += nrays*sizeof(RAYVAL);
576 <                                f->fi[k].nrd -= nrays;
577 <                        }
578 <                }
559 >        biglob(hp)->nrd -= bi->nrd;             /* tell fragment it's free */
560 >        bi->nrd = 0;
561 >        bi->fo = 0L;
562 >        hdmarkdirty(hp, i);                     /* assume we'll reallocate */
563 >        return(1);
564 > }
565 >
566 >
567 > int
568 > hdfragOK(fd, listlen, listsiz)  /* get fragment list status for file */
569 > int     fd;
570 > int     *listlen;
571 > register int4   *listsiz;
572 > {
573 >        register struct fraglist        *f;
574 >        register int    i;
575 >
576 >        if (fd < 0 | fd >= nhdfragls || !(f = &hdfragl[fd])->nlinks)
577 >                return(0);              /* listless */
578 >        if (listlen != NULL)
579 >                *listlen = f->nfrags;
580 >        if (listsiz != NULL)
581 >                for (i = f->nfrags, *listsiz = 0; i--; )
582 >                        *listsiz += f->fi[i].nrd;
583 > #if MAXFRAGB
584 >        return(f->nfrags < MAXFRAGB*FRAGBLK);
585 > #else
586 >        return(1);                      /* list never fills up */
587 > #endif
588 > }
589 >
590 >
591 > long
592 > hdallocfrag(fd, nrays)          /* allocate a file fragment */
593 > int     fd;
594 > unsigned int4   nrays;
595 > {
596 >        register struct fraglist        *f;
597 >        register int    j;
598 >        long    nfo;
599 >
600 >        if (nrays == 0)
601 >                return(-1L);
602 >        DCHECK(fd < 0 | fd >= nhdfragls || !hdfragl[fd].nlinks,
603 >                        CONSISTENCY, "bad file descriptor in hdallocfrag");
604 >        f = &hdfragl[fd];
605 >        for (j = f->nfrags; j-- > 0; )  /* first fit algorithm */
606 >                if (f->fi[j].nrd >= nrays)
607 >                        break;
608 >        if (j < 0) {                    /* no fragment -- extend file */
609 >                nfo = f->flen;
610 >                f->flen += nrays*sizeof(RAYVAL);
611 >        } else {                        /* else use fragment */
612 >                nfo = f->fi[j].fo;
613 >                f->fi[j].fo += nrays*sizeof(RAYVAL);
614 >                f->fi[j].nrd -= nrays;
615          }
616 +        return(nfo);
617 + }
618 +
619 +
620 + int
621 + hdsyncbeam(hp, i)               /* sync beam in memory with beam on disk */
622 + register HOLO   *hp;
623 + register int    i;
624 + {
625 +        int     fragfreed;
626 +        unsigned int4   nrays;
627 +        unsigned int    n;
628 +        long    nfo;
629 +                                        /* check file status */
630 +        if (hdfragl[hp->fd].writerr)
631 +                return(-1);
632 +        DCHECK(i < 1 | i > nbeams(hp),
633 +                        CONSISTENCY, "bad beam index in hdsyncbeam");
634 +                                        /* is current fragment OK? */
635 +        if (hp->bl[i] == NULL || (nrays = hp->bl[i]->nrm) == hp->bi[i].nrd)
636 +                return(0);
637 +                                        /* relinquish old fragment? */
638 +        fragfreed = hdfragflags&FF_WRITE && hp->bi[i].nrd && hdfreefrag(hp,i);
639 +        if (nrays) {                    /* get and write new fragment */
640 +                nfo = hdallocfrag(hp->fd, nrays);
641 +                errno = 0;
642 +                if (lseek(hp->fd, nfo, 0) < 0)
643 +                        error(SYSTEM, "cannot seek on holodeck file");
644 +                n = hp->bl[i]->nrm * sizeof(RAYVAL);
645 +                if (write(hp->fd, (char *)hdbray(hp->bl[i]), n) != n) {
646 +                        hdfragl[hp->fd].writerr++;
647 +                        hdsync(NULL, 0);        /* sync directories */
648 +                        error(SYSTEM, "write error in hdsyncbeam");
649 +                }
650 +                hp->bi[i].fo = nfo;
651 +        } else
652 +                hp->bi[i].fo = 0L;
653          biglob(hp)->nrd += nrays - hp->bi[i].nrd;
654          hp->bi[i].nrd = nrays;
655 <        hp->dirty++;            /* section directory now out of date */
655 >        if (!fragfreed)
656 >                hdmarkdirty(hp, i);             /* need to flag dir. ent. */
657          return(1);
658   }
659  
# Line 359 | Line 663 | hdfreebeam(hp, i)              /* free beam, writing if dirty */
663   register HOLO   *hp;
664   register int    i;
665   {
666 <        int     nchanged, n;
666 >        int     nchanged;
667  
668          if (hp == NULL) {               /* clear all holodecks */
669                  nchanged = 0;
# Line 367 | Line 671 | register int   i;
671                          nchanged += hdfreebeam(hdlist[i], 0);
672                  return(nchanged);
673          }
674 +        if (hdfragl[hp->fd].writerr)    /* check for file error */
675 +                return(0);
676          if (i == 0) {                   /* clear entire holodeck */
677 +                if (blglob(hp)->nrm == 0)
678 +                        return(0);              /* already clear */
679                  nchanged = 0;
680 <                for (i = 1; i <= nbeams(hp); i++)
681 <                        nchanged += hdfreebeam(hp, i);
680 >                for (i = nbeams(hp); i > 0; i--)
681 >                        if (hp->bl[i] != NULL)
682 >                                nchanged += hdfreebeam(hp, i);
683 >                DCHECK(blglob(hp)->nrm != 0,
684 >                                CONSISTENCY, "bad beam count in hdfreebeam");
685                  return(nchanged);
686          }
687 <        if (i < 1 | i > nbeams(hp))
688 <                error(CONSISTENCY, "bad beam index to hdfreebeam");
687 >        DCHECK(i < 1 | i > nbeams(hp),
688 >                        CONSISTENCY, "bad beam index to hdfreebeam");
689          if (hp->bl[i] == NULL)
690                  return(0);
691                                          /* check for additions */
692          nchanged = hp->bl[i]->nrm - hp->bi[i].nrd;
693 <        if (nchanged) {
694 <                hdgetbi(hp, i);                 /* allocate a file position */
384 <                errno = 0;
385 <                if (lseek(hp->fd, hp->bi[i].fo, 0) < 0)
386 <                        error(SYSTEM, "cannot seek on holodeck file");
387 <                n = hp->bl[i]->nrm * sizeof(RAYVAL);
388 <                if (write(hp->fd, (char *)hdbray(hp->bl[i]), n) != n)
389 <                        error(SYSTEM, "write error in hdfreebeam");
390 <        }
693 >        if (nchanged)
694 >                hdsyncbeam(hp, i);              /* write new fragment */
695          blglob(hp)->nrm -= hp->bl[i]->nrm;
696          free((char *)hp->bl[i]);                /* free memory */
697          hp->bl[i] = NULL;
# Line 395 | Line 699 | register int   i;
699   }
700  
701  
702 < hdlrulist(ha, ba, n, hp)        /* add beams from holodeck to LRU list */
703 < register HOLO   *ha[];                  /* section list (NULL terminated) */
704 < register int    ba[];                   /* beam index to go with section */
705 < int     n;                              /* length of arrays minus 1 */
702 > int
703 > hdkillbeam(hp, i)               /* delete beam from holodeck */
704 > register HOLO   *hp;
705 > register int    i;
706 > {
707 >        int     nchanged;
708 >
709 >        if (hp == NULL) {               /* clobber all holodecks */
710 >                nchanged = 0;
711 >                for (i = 0; hdlist[i] != NULL; i++)
712 >                        nchanged += hdkillbeam(hdlist[i], 0);
713 >                return(nchanged);
714 >        }
715 >        if (i == 0) {                   /* clobber entire holodeck */
716 >                if (biglob(hp)->nrd == 0 & blglob(hp)->nrm == 0)
717 >                        return(0);              /* already empty */
718 >                nchanged = 0;
719 >                nchanged = 0;
720 >                for (i = nbeams(hp); i > 0; i--)
721 >                        if (hp->bi[i].nrd > 0 || hp->bl[i] != NULL)
722 >                                nchanged += hdkillbeam(hp, i);
723 >                DCHECK(biglob(hp)->nrd != 0 | blglob(hp)->nrm != 0,
724 >                                CONSISTENCY, "bad beam count in hdkillbeam");
725 >                return(nchanged);
726 >        }
727 >        DCHECK(i < 1 | i > nbeams(hp),
728 >                        CONSISTENCY, "bad beam index to hdkillbeam");
729 >        if (hp->bl[i] != NULL) {        /* free memory */
730 >                blglob(hp)->nrm -= nchanged = hp->bl[i]->nrm;
731 >                free((char *)hp->bl[i]);
732 >                hp->bl[i] = NULL;
733 >        } else
734 >                nchanged = hp->bi[i].nrd;
735 >        if (hp->bi[i].nrd && !(hdfragflags&FF_KILL && hdfreefrag(hp,i))) {
736 >                biglob(hp)->nrd -= hp->bi[i].nrd;       /* free failed */
737 >                hp->bi[i].nrd = 0;
738 >                hp->bi[i].fo = 0L;
739 >                hdmarkdirty(hp, i);
740 >        }
741 >        return(nchanged);
742 > }
743 >
744 >
745 > int
746 > hdlrulist(hb, nents, n, hp)     /* add beams from holodeck to LRU list */
747 > register HDBEAMI        *hb;            /* beam list */
748 > int     nents;                          /* current list length */
749 > int     n;                              /* maximum list length */
750   register HOLO   *hp;                    /* section we're adding from */
751   {
752          register int    i, j;
405 –        int     nents;
406 –                                        /* find last entry in LRU list */
407 –        for (j = 0; ha[j] != NULL; j++)
408 –                ;
409 –        nents = j;
753                                          /* insert each beam from hp */
754 <        for (i = nbeams(hp); i > 0; i-- ) {
754 >        for (i = 1; i <= nbeams(hp); i++) {
755                  if (hp->bl[i] == NULL)          /* check if loaded */
756                          continue;
757 <                if ((j = ++nents) > n)          /* grow list if we can */
757 > #if 0
758 >                if (hp->bl[i]->tick == hdclock) /* preempt swap? */
759 >                        continue;
760 > #endif
761 >                if ((j = ++nents) >= n)         /* grow list if we can */
762                          nents--;
763                  for ( ; ; ) {                   /* bubble into place */
764                          if (!--j || hp->bl[i]->tick >=
765 <                                        ha[j-1]->bl[ba[j-1]]->tick) {
766 <                                ha[j] = hp;
767 <                                ba[j] = i;
765 >                                        hb[j-1].h->bl[hb[j-1].b]->tick) {
766 >                                hb[j].h = hp;
767 >                                hb[j].b = i;
768                                  break;
769                          }
770 <                        ha[j] = ha[j-1];
424 <                        ba[j] = ba[j-1];
770 >                        copystruct(hb+j, hb+(j-1));
771                  }
772          }
773 <        ha[nents] = NULL;               /* all done */
428 <        ba[nents] = 0;
773 >        return(nents);                  /* return new list length */
774   }
775  
776  
777 + int
778   hdfreecache(pct, honly)         /* free up cache space, writing changes */
779   int     pct;                            /* maximum percentage to free */
780   register HOLO   *honly;                 /* NULL means check all */
781   {
782 <        HOLO    *hp[FREEBEAMS+1];
437 <        int     bn[FREEBEAMS+1];
782 >        HDBEAMI hb[FREEBEAMS];
783          int     freetarget;
784 +        int     n;
785          register int    i;
786 + #ifdef DEBUG
787 +        unsigned        membefore;
788 +
789 +        membefore = hdmemuse(0);
790 + #endif
791                                                  /* compute free target */
792          freetarget = (honly != NULL) ? blglob(honly)->nrm :
793                          hdmemuse(0)/sizeof(RAYVAL) ;
794          freetarget = freetarget*pct/100;
795 +        if (freetarget <= 0)
796 +                return(0);
797                                                  /* find least recently used */
798 <        hp[0] = NULL;
446 <        bn[0] = 0;
798 >        n = 0;
799          if (honly != NULL)
800 <                hdlrulist(hp, bn, FREEBEAMS, honly);
800 >                n = hdlrulist(hb, n, FREEBEAMS, honly);
801          else
802                  for (i = 0; hdlist[i] != NULL; i++)
803 <                        hdlrulist(hp, bn, FREEBEAMS, hdlist[i]);
803 >                        n = hdlrulist(hb, n, FREEBEAMS, hdlist[i]);
804                                                  /* free LRU beams */
805 <        for (i = 0; hp[i] != NULL; i++) {
806 <                hdfreebeam(hp[i], bn[i]);
807 <                if ((freetarget -= hp[i]->bi[bn[i]].nrd) <= 0)
805 >        for (i = 0; i < n; i++) {
806 >                hdfreebeam(hb[i].h, hb[i].b);
807 >                if ((freetarget -= hb[i].h->bi[hb[i].b].nrd) <= 0)
808                          break;
809          }
810 <        hdsync(honly);          /* synchronize directories as necessary */
810 >        hdsync(honly, 0);       /* synchronize directories as necessary */
811 > #ifdef DEBUG
812 >        sprintf(errmsg,
813 >        "%dK before, %dK after hdfreecache (%dK total), %d rays short\n",
814 >                membefore>>10, hdmemuse(0)>>10, hdmemuse(1)>>10, freetarget);
815 >        wputs(errmsg);
816 > #endif
817 >        return(-freetarget);    /* return how far past goal we went */
818   }
819  
820  
# Line 467 | Line 826 | register HOLO  *hp;            /* NULL means clean up all */
826          if (hp == NULL) {               /* NULL means clean up everything */
827                  while (hdlist[0] != NULL)
828                          hddone(hdlist[0]);
829 +                free((char *)hdfragl);
830 +                hdfragl = NULL; nhdfragls = 0;
831                  return;
832          }
833                                          /* flush all data and free memory */

Diff Legend

– Removed lines
+ Added lines
< Changed lines
> Changed lines