ViewVC Help
View File | Revision Log | Show Annotations | Download File | Root Listing
root/radiance/ray/src/px/clrtab.c
(Generate patch)

Comparing ray/src/px/clrtab.c (file contents):
Revision 2.1 by greg, Mon Oct 12 12:58:39 1992 UTC vs.
Revision 2.11 by greg, Mon Dec 12 12:15:51 1994 UTC

# Line 1 | Line 1
1 < /* Copyright (c) 1992 Regents of the University of California */
1 > /* Copyright (c) 1993 Regents of the University of California */
2  
3   #ifndef lint
4   static char SCCSid[] = "$SunId$ LBL";
# Line 23 | Line 23 | static char SCCSid[] = "$SunId$ LBL";
23   #define part(cn)        ((cn)>>2)
24   #define prim(cn)        ((cn)&3)
25                                  /* our color table (global) */
26 < BYTE    clrtab[256][3];
26 > extern BYTE     clrtab[256][3];
27                                  /* histogram of colors / color assignments */
28   static unsigned histo[NRED][NGRN][NBLU];
29   #define cndx(c)         histo[((c)[RED]*NRED)>>8][((c)[GRN]*NGRN)>>8][((c)[BLU]*NBLU)>>8]
# Line 31 | Line 31 | static unsigned        histo[NRED][NGRN][NBLU];
31   static int      CLRCUBE[3][2] = {0,NRED,0,NGRN,0,NBLU};
32                                  /* maximum propagated error during dithering */
33   #define MAXERR          20
34 +                                /* define CLOSEST to get closest colors */
35 + #ifndef CLOSEST
36 + #ifdef SPEED
37 + #if  SPEED > 8
38 + #define CLOSEST         1       /* this step takes a little longer */
39 + #endif
40 + #endif
41 + #endif
42  
43 + static  cut(), mktabent(), closest(), addneigh(), setclosest();
44 + static int      split();
45 + static unsigned dist();
46  
47 < new_histo()             /* clear our histogram */
47 >
48 > new_histo(n)            /* clear our histogram */
49 > int     n;
50   {
51          bzero((char *)histo, sizeof(histo));
52 +        return(0);
53   }
54  
55  
# Line 66 | Line 80 | int    ncolors;
80                  ncolors = 256;
81                                  /* partition color space */
82          cut(CLRCUBE, 0, ncolors);
83 + #ifdef CLOSEST
84 +        closest(ncolors);       /* ensure colors picked are closest */
85 + #endif
86 +                                /* reset dithering function */
87 +        dith_colrs((BYTE *)NULL, (COLR *)NULL, 0);
88                                  /* return new color table size */
89          return(ncolors);
90   }
# Line 96 | Line 115 | register BYTE  *bs;
115   register COLR   *cs;
116   int     n;
117   {
118 <        static short    (*cerr)[3];
118 >        static short    (*cerr)[3] = NULL;
119          static int      N = 0;
120          int     err[3], errp[3];
121          register int    x, i;
122  
123          if (n != N) {           /* get error propogation array */
124 <                if (N)
125 <                        cerr = (short (*)[3])realloc((char *)cerr,
126 <                                        3*n*sizeof(short));
127 <                else
124 >                if (N) {
125 >                        free((char *)cerr);
126 >                        cerr = NULL;
127 >                }
128 >                if (n)
129                          cerr = (short (*)[3])malloc(3*n*sizeof(short));
130                  if (cerr == NULL) {
131                          N = 0;
# Line 170 | Line 190 | register int   box[3][2];
190   #define c0      r
191          register int    r, g, b;
192          int     pri;
193 <        int     t[HMAX], med;
193 >        long    t[HMAX], med;
194                                          /* find dominant axis */
195          pri = RED;
196          if (box[GRN][1]-box[GRN][0] > box[pri][1]-box[pri][0])
# Line 226 | Line 246 | mktabent(p, box)       /* compute average color for box and
246   int     p;
247   register int    box[3][2];
248   {
249 <        long    sum[3];
250 <        int     r, g, n;
251 <        register int    b, c;
249 >        unsigned long   sum[3];
250 >        unsigned        r, g;
251 >        unsigned long   n;
252 >        register unsigned       b, c;
253                                                  /* sum pixels in box */
254          n = 0;
255          sum[RED] = sum[GRN] = sum[BLU] = 0;
# Line 243 | Line 264 | register int   box[3][2];
264                      }
265                      histo[r][g][b] = p;         /* assign pixel */
266                  }
267 +        if (n >= (1L<<23)/HMAX) {               /* avoid overflow */
268 +                sum[RED] /= n;
269 +                sum[GRN] /= n;
270 +                sum[BLU] /= n;
271 +                n = 1;
272 +        }
273          if (n) {                                /* compute average */
274                  clrtab[p][RED] = sum[RED]*256/NRED/n;
275                  clrtab[p][GRN] = sum[GRN]*256/NGRN/n;
# Line 253 | Line 280 | register int   box[3][2];
280                  clrtab[p][BLU] = (box[BLU][0]+box[BLU][1])*256/NBLU/2;
281          }
282   }
283 +
284 +
285 + #ifdef CLOSEST
286 + #define NBSIZ           32
287 + static
288 + closest(n)                      /* make sure we have the closest colors */
289 + int     n;
290 + {
291 +        BYTE    *neigh[256];
292 +        register int    r, g, b;
293 + #define i r
294 +                                        /* get space for neighbor lists */
295 +        for (i = 0; i < n; i++) {
296 +                if ((neigh[i] = (BYTE *)malloc(NBSIZ)) == NULL) {
297 +                        while (i--)
298 +                                free(neigh[i]);
299 +                        return;                 /* ENOMEM -- abandon effort */
300 +                }
301 +                neigh[i][0] = i;                /* identity is terminator */
302 +        }
303 +                                        /* make neighbor lists */
304 +        for (r = 0; r < NRED; r++)
305 +            for (g = 0; g < NGRN; g++)
306 +                for (b = 0; b < NBLU; b++) {
307 +                    if (r < NRED-1 && histo[r][g][b] != histo[r+1][g][b])
308 +                        addneigh(neigh, histo[r][g][b], histo[r+1][g][b]);
309 +                    if (g < NGRN-1 && histo[r][g][b] != histo[r][g+1][b])
310 +                        addneigh(neigh, histo[r][g][b], histo[r][g+1][b]);
311 +                    if (b < NBLU-1 && histo[r][g][b] != histo[r][g][b+1])
312 +                        addneigh(neigh, histo[r][g][b], histo[r][g][b+1]);
313 +                }
314 +                                        /* assign closest values */
315 +        for (r = 0; r < NRED; r++)
316 +            for (g = 0; g < NGRN; g++)
317 +                for (b = 0; b < NBLU; b++)
318 +                    setclosest(neigh, r, g, b);
319 +                                        /* free neighbor lists */
320 +        for (i = 0; i < n; i++)
321 +                free(neigh[i]);
322 + #undef i
323 + }
324 +
325 +
326 + static
327 + addneigh(nl, i, j)              /* i and j are neighbors; add them to list */
328 + register BYTE   *nl[];
329 + register int    i;
330 + int     j;
331 + {
332 +        int     nc;
333 +        char    *nnl;
334 +        register int    t;
335 +        
336 +        for (nc = 0; nc < 2; nc++) {            /* do both neighbors */
337 +                for (t = 0; nl[i][t] != i; t++)
338 +                        if (nl[i][t] == j)
339 +                                break;          /* in list already */
340 +                if (nl[i][t] == i) {            /* add to list */
341 +                        nl[i][t++] = j;
342 +                        if (t % NBSIZ == 0) {   /* enlarge list */
343 +                                if ((nnl = realloc(nl[i], t+NBSIZ)) == NULL)
344 +                                        t--;
345 +                                else
346 +                                        nl[i] = (BYTE *)nnl;
347 +                        }
348 +                        nl[i][t] = i;           /* terminator */
349 +                }
350 +                t = i; i = j; j = t;            /* swap and do it again */
351 +        }
352 + }
353 +
354 +
355 + static unsigned
356 + dist(col, r, g, b)              /* find distance from clrtab entry to r,g,b */
357 + register BYTE   col[3];
358 + int     r, g, b;
359 + {
360 +        register int    tmp;
361 +        register unsigned       sum;
362 +        
363 +        tmp = col[RED]*NRED/256 - r;
364 +        sum = tmp*tmp;
365 +        tmp = col[GRN]*NGRN/256 - g;
366 +        sum += tmp*tmp;
367 +        tmp = col[BLU]*NBLU/256 - b;
368 +        sum += tmp*tmp;
369 +        return(sum);
370 + }
371 +
372 +
373 + static
374 + setclosest(nl, r, g, b)         /* find index closest to color and assign */
375 + BYTE    *nl[];
376 + int     r, g, b;
377 + {
378 +        int     ident;
379 +        unsigned        min;
380 +        register unsigned       d;
381 +        register BYTE   *p;
382 +                                        /* get starting value */
383 +        min = dist(clrtab[ident=histo[r][g][b]], r, g, b);
384 +                                        /* find minimum */
385 +        for (p = nl[ident]; *p != ident; p++)
386 +                if ((d = dist(clrtab[*p], r, g, b)) < min) {
387 +                        min = d;
388 +                        histo[r][g][b] = *p;
389 +                }
390 + }
391 + #endif

Diff Legend

– Removed lines
+ Added lines
< Changed lines
> Changed lines