ViewVC Help
View File | Revision Log | Show Annotations | Download File | Root Listing
root/radiance/ray/src/util/rcollate.c
(Generate patch)

Comparing ray/src/util/rcollate.c (file contents):
Revision 2.27 by greg, Thu Oct 18 22:59:48 2018 UTC vs.
Revision 2.39 by greg, Thu Mar 3 03:55:13 2022 UTC

# Line 6 | Line 6 | static const char RCSid[] = "$Id$";
6   */
7  
8   #include <stdlib.h>
9 – #include <string.h>
9   #include <ctype.h>
10   #include "platform.h"
11   #include "rtio.h"
# Line 20 | Line 19 | static const char RCSid[] = "$Id$";
19    #include <sys/mman.h>
20   #endif
21  
22 + #define MAXLEVELS       16      /* max RxC.. block pairs */
23 +
24   typedef struct {
25 +        void    *mapped;        /* memory-mapped pointer */
26          void    *base;          /* pointer to base memory */
27          size_t  len;            /* allocated memory length */
26 –        int     mapped;         /* memory-mapped file? */
28   } MEMLOAD;              /* file loaded/mapped into memory */
29  
30   typedef struct {
31          int     nw_rec;         /* number of words per record */
32 <        int     nrecs;          /* number of records we found */
32 >        ssize_t nrecs;          /* number of records we found */
33          char    *rec[1];        /* record array (extends struct) */
34   } RECINDEX;
35  
# Line 42 | Line 43 | free_load(MEMLOAD *mp)
43                  return;
44   #ifdef MAP_FILE
45          if (mp->mapped)
46 <                munmap(mp->base, mp->len);
46 >                munmap(mp->mapped, mp->len);
47          else
48   #endif
49                  free(mp->base);
50 +        mp->mapped = NULL;
51          mp->base = NULL;
52          mp->len = 0;
53   }
# Line 60 | Line 62 | load_stream(MEMLOAD *mp, FILE *fp)
62  
63          if (mp == NULL)
64                  return(-1);
65 +        mp->mapped = NULL;
66          mp->base = NULL;
67          mp->len = 0;
65 –        mp->mapped = 0;
68          if (fp == NULL)
69                  return(-1);
70          while ((nr = fread(buf, 1, sizeof(buf), fp)) > 0) {
# Line 85 | Line 87 | load_stream(MEMLOAD *mp, FILE *fp)
87          return(mp->len > 0);
88   }
89  
90 + #if defined(_WIN32) || defined(_WIN64)
91 +                                /* too difficult to fix this */
92 + #define load_file       load_stream
93 + #else
94   /* load a file into memory */
95   static int
96   load_file(MEMLOAD *mp, FILE *fp)
97   {
98          int     fd;
99 <        off_t   skip, flen, skipped;
94 <
95 < #if defined(_WIN32) || defined(_WIN64)
96 <                                /* too difficult to fix this */
97 <        return load_stream(mp, fp);
98 < #endif
99 >        off_t   skip, flen, fpos;
100          if (mp == NULL)
101                  return(-1);
102 +        mp->mapped = NULL;
103          mp->base = NULL;
104          mp->len = 0;
103 –        mp->mapped = 0;
105          if (fp == NULL)
106                  return(-1);
107          fd = fileno(fp);
# Line 110 | Line 111 | load_file(MEMLOAD *mp, FILE *fp)
111                  return((int)(flen - skip));
112          mp->len = (size_t)(flen - skip);
113   #ifdef MAP_FILE
114 <        if (mp->len > 1L<<20) {         /* map file if > 1 MByte */
115 <                mp->base = mmap(NULL, flen, PROT_READ, MAP_PRIVATE, fd, 0);
116 <                if (mp->base != MAP_FAILED) {
117 <                        mp->base = (char *)mp->base + skip;
117 <                        mp->mapped = 1;
114 >        if (mp->len >= 1L<<20) {        /* map file if >= 1 MByte */
115 >                mp->mapped = mmap(NULL, flen, PROT_READ, MAP_PRIVATE, fd, 0);
116 >                if (mp->mapped != MAP_FAILED) {
117 >                        mp->base = (char *)mp->mapped + skip;
118                          return(1);      /* mmap() success */
119                  }
120 <                mp->base = NULL;        /* fall back to reading it in... */
120 >                mp->mapped = NULL;      /* else fall back to reading it in... */
121          }
122   #endif
123          if (lseek(fd, skip, SEEK_SET) != skip ||
# Line 125 | Line 125 | load_file(MEMLOAD *mp, FILE *fp)
125                  mp->len = 0;
126                  return(-1);
127          }
128 <        skipped = skip;                 /* read() fails on really big buffers */
129 <        while (skipped < flen) {
130 <                ssize_t nread = read(fd, (char *)mp->base+(skipped-skip),
131 <                                (flen-skipped <= 1L<<30) ? flen-skipped : 1L<<30);
128 >        fpos = skip;
129 >        while (fpos < flen) {           /* read() fails if n > 2 GBytes */
130 >                ssize_t nread = read(fd, (char *)mp->base+(fpos-skip),
131 >                                (flen-fpos < 1L<<24) ? flen-fpos : 1L<<24);
132                  if (nread <= 0) {
133                          free_load(mp);
134                          return(-1);
135                  }
136 <                skipped += nread;
136 >                fpos += nread;
137          }
138          return(1);
139   }
140 + #endif
141  
142   /* free a record index */
143   #define free_records(rp)        free(rp)
# Line 217 | Line 218 | count_columns(const RECINDEX *rp)
218  
219   /* copy nth record from index to stdout */
220   static int
221 < print_record(const RECINDEX *rp, int n)
221 > print_record(const RECINDEX *rp, ssize_t n)
222   {
223          int     words2go = rp->nw_rec;
224          char    *scp;
# Line 290 | Line 291 | int            no_rows = 0;                    /* number of output rows */
291   int             transpose = 0;                  /* transpose rows & cols? */
292   int             i_header = 1;                   /* input header? */
293   int             o_header = 1;                   /* output header? */
294 + int             outArray[MAXLEVELS][2];         /* output block nesting */
295 + int             outLevels = 0;                  /* number of blocking levels */
296 + int             check = 0;                      /* force data check? */
297  
298 + /* parse RxCx... string */
299 + static int
300 + get_array(const char *spec, int blklvl[][2], int nlvls)
301 + {
302 +        int     n;
303 +
304 +        if (nlvls <= 0) {
305 +                fputs("Too many block levels!\n", stderr);
306 +                exit(1);
307 +        }
308 +        if (sscanf(spec, "%dx%d", &blklvl[0][0], &blklvl[0][1]) != 2) {
309 +                fputs("Bad block specification!\n", stderr);
310 +                exit(1);
311 +        }
312 +        while (isdigit(*spec))
313 +                spec++;
314 +        spec++;         /* 'x' */
315 +        while (isdigit(*spec))
316 +                spec++;
317 +        if ((*spec != 'x') & (*spec != 'X')) {
318 +                if (*spec) {
319 +                        fputs("Blocks must be separated by 'x' or 'X'\n", stderr);
320 +                        exit(1);
321 +                }
322 +                return(1);
323 +        }
324 +        spec++;
325 +        n = get_array(spec, blklvl+1, nlvls-1);
326 +        if (!n)
327 +                return(0);
328 +        blklvl[0][0] *= blklvl[1][0];
329 +        blklvl[0][1] *= blklvl[1][1];
330 +        return(n+1);
331 + }
332 +
333   /* check settings and assign defaults */
334   static int
335   check_sizes()
# Line 320 | Line 359 | check_sizes()
359          return(1);
360   }
361  
362 < /* output transposed ASCII or binary data from memory */
362 > /* call to compute block input position */
363 > static ssize_t
364 > get_block_pos(int r, int c, int blklvl[][2], int nlvls)
365 > {
366 >        ssize_t n = 0;
367 >
368 >        while (nlvls > 1) {
369 >                int     sr = r/blklvl[1][0];
370 >                int     sc = c/blklvl[1][1];
371 >                r -= sr*blklvl[1][0];
372 >                c -= sc*blklvl[1][1];
373 >                n += sr*blklvl[1][0]*blklvl[0][1] + sc*blklvl[1][0]*blklvl[1][1];
374 >                blklvl++;
375 >                nlvls--;
376 >        }
377 >        n += r*blklvl[0][1] + c;
378 >        return(n);
379 > }
380 >
381 > /* return input offset based on array ordering and transpose option */
382 > static ssize_t
383 > get_input_pos(int r, int c)
384 > {
385 >        ssize_t n;
386 >
387 >        if (outLevels > 1) {            /* block reordering */
388 >                n = get_block_pos(r, c, outArray, outLevels);
389 >                if (transpose) {
390 >                        r = n/ni_rows;
391 >                        c = n - r*ni_rows;
392 >                        n = (ssize_t)c*ni_columns + r;
393 >                }
394 >        } else if (transpose)           /* transpose only */
395 >                n = (ssize_t)c*ni_columns + r;
396 >        else                            /* XXX should never happen! */
397 >                n = (ssize_t)r*no_columns + c;
398 >        return(n);
399 > }
400 >
401 > /* output reordered ASCII or binary data from memory */
402   static int
403 < do_transpose(const MEMLOAD *mp)
403 > do_reorder(const MEMLOAD *mp)
404   {
405          static const char       tabEOL[2] = {'\t','\n'};
406          RECINDEX                *rp = NULL;
407 <        long                    nrecords;
407 >        ssize_t                 nrecords;
408          int                     i, j;
409                                                  /* propogate sizes */
410          if (ni_rows <= 0)
411 <                ni_rows = no_columns;
411 >                ni_rows = transpose ? no_columns : no_rows;
412          if (ni_columns <= 0)
413 <                ni_columns = no_rows;
413 >                ni_columns = transpose ? no_rows : no_columns;
414                                                  /* get # records (& index) */
415          if (!comp_size) {
416                  if ((rp = index_records(mp, n_comp)) == NULL)
# Line 341 | Line 419 | do_transpose(const MEMLOAD *mp)
419                          ni_columns = count_columns(rp);
420                  nrecords = rp->nrecs;
421          } else if ((ni_rows > 0) & (ni_columns > 0)) {
422 <                nrecords = ni_rows*ni_columns;
422 >                nrecords = (ssize_t)ni_rows*ni_columns;
423                  if (nrecords > mp->len/(n_comp*comp_size)) {
424 <                        fprintf(stderr,
425 <                            "Input too small for specified size and type\n");
424 >                        fputs("Input too small for specified size and type\n",
425 >                                        stderr);
426                          return(0);
427                  }
428          } else
# Line 352 | Line 430 | do_transpose(const MEMLOAD *mp)
430                                                  /* check sizes */
431          if ((ni_rows <= 0) & (ni_columns > 0))
432                  ni_rows = nrecords/ni_columns;
433 <        if ((ni_columns <= 0) & (ni_rows > 0))
433 >        else if ((ni_columns <= 0) & (ni_rows > 0))
434                  ni_columns = nrecords/ni_rows;
435 <        if (nrecords != ni_rows*ni_columns)
435 >        if (nrecords != (ssize_t)ni_rows*ni_columns)
436                  goto badspec;
437 <        if (no_columns <= 0)
438 <                no_columns = ni_rows;
439 <        if (no_rows <= 0)
440 <                no_rows = ni_columns;
441 <        if ((no_rows != ni_columns) | (no_columns != ni_rows))
442 <                goto badspec;
443 <                                                /* transpose records */
437 >        if (transpose) {
438 >                if (no_columns <= 0)
439 >                        no_columns = ni_rows;
440 >                if (no_rows <= 0)
441 >                        no_rows = ni_columns;
442 >                if (outLevels <= 1 &&
443 >                                (no_rows != ni_columns) | (no_columns != ni_rows))
444 >                        goto badspec;
445 >        } else {
446 >                if (no_columns <= 0)
447 >                        no_columns = ni_columns;
448 >                if (no_rows <= 0)
449 >                        no_rows = ni_rows;
450 >        }
451 >        if (ni_rows*ni_columns != no_rows*no_columns) {
452 >                fputs("Number of input and output records do not match\n",
453 >                                stderr);
454 >                return(0);
455 >        }
456 >        if (o_header) {                         /* finish header? */
457 >                printf("NROWS=%d\n", no_rows);
458 >                printf("NCOLS=%d\n", no_columns);
459 >                fputformat(fmtid, stdout);
460 >                fputc('\n', stdout);
461 >        }
462 >                                                /* reorder records */
463          for (i = 0; i < no_rows; i++) {
464 <            for (j = 0; j < no_columns; j++)
464 >            for (j = 0; j < no_columns; j++) {
465 >                ssize_t n = get_input_pos(i, j);
466 >                if (n >= nrecords) {
467 >                        fputs("Index past end-of-file\n", stderr);
468 >                        return(0);
469 >                }
470                  if (rp != NULL) {               /* ASCII output */
471 <                        print_record(rp, j*ni_columns + i);
471 >                        print_record(rp, n);
472                          putc(tabEOL[j >= no_columns-1], stdout);
473                  } else {                        /* binary output */
474 <                        putbinary((char *)mp->base +
373 <                            (unsigned long)(n_comp*comp_size)*(j*ni_columns + i),
474 >                        putbinary((char *)mp->base + (n_comp*comp_size)*n,
475                                          comp_size, n_comp, stdout);
476                  }
477 +            }
478              if (ferror(stdout)) {
479                  fprintf(stderr, "Error writing to stdout\n");
480                  return(0);
# Line 382 | Line 484 | do_transpose(const MEMLOAD *mp)
484                  free_records(rp);
485          return(1);
486   badspec:
487 <        fprintf(stderr, "Bad transpose specification -- check dimension(s)\n");
487 >        fprintf(stderr, "Bad dimension(s)\n");
488          return(0);
489   }
490  
# Line 390 | Line 492 | badspec:
492   static int
493   do_resize(FILE *fp)
494   {
495 <        long    records2go = ni_rows*ni_columns;
495 >        ssize_t records2go = ni_rows*ni_columns;
496          int     columns2go = no_columns;
497          char    word[256];
498 +                        
499 +        if (o_header) {                         /* finish header? */
500 +                if (no_rows > 0)
501 +                        printf("NROWS=%d\n", no_rows);
502 +                if (no_columns > 0)
503 +                        printf("NCOLS=%d\n", no_columns);
504 +                fputformat(fmtid, stdout);
505 +                fputc('\n', stdout);
506 +        }
507                                                  /* sanity checks */
508 <        if (comp_size || (no_columns == ni_columns) & (no_rows == ni_rows))
508 >        if (comp_size || !check &
509 >                        (no_columns == ni_columns) & (no_rows == ni_rows))
510                  return(output_stream(fp));      /* no-op -- just copy */
511          if (no_columns <= 0) {
512                  fprintf(stderr, "Missing -oc specification\n");
# Line 404 | Line 516 | do_resize(FILE *fp)
516                  records2go = no_rows*no_columns;
517          else if (no_rows*no_columns != records2go) {
518                  fprintf(stderr,
519 <                        "Input and output data sizes disagree (%dx%d != %dx%d)\n",
519 >                        "Number of input and output records disagree (%dx%d != %dx%d)\n",
520                                  ni_rows, ni_columns, no_rows, no_columns);
521                  return(0);
522          }
# Line 514 | Line 626 | main(int argc, char *argv[])
626                                  no_columns = atoi(argv[++a]);
627                          else if (argv[a][2] == 'r')
628                                  no_rows = atoi(argv[++a]);
629 <                        else
629 >                        else if (argv[a][2] ||
630 >                          !(outLevels=get_array(argv[++a], outArray, MAXLEVELS)))
631                                  goto userr;
632                          break;
633                  case 'h':                       /* turn off header */
# Line 570 | Line 683 | main(int argc, char *argv[])
683                  case 'w':                       /* warnings on/off */
684                          warnings = !warnings;
685                          break;
686 +                case 'c':                       /* force check operation */
687 +                        check = 1;
688 +                        break;
689                  default:
690                          goto userr;
691                  }
692          if (a < argc-1)                         /* arg count OK? */
693                  goto userr;
694 +        if (outLevels) {                        /* should check consistency? */
695 +                no_rows = outArray[0][0];
696 +                no_columns = outArray[0][1];
697 +        }
698                                                  /* open input file? */
699          if (a == argc-1 && freopen(argv[a], "r", stdin) == NULL) {
700                  fprintf(stderr, "%s: cannot open for reading\n", argv[a]);
# Line 585 | Line 705 | main(int argc, char *argv[])
705                  SET_FILE_BINARY(stdout);
706          }
707                                                  /* check for no-op */
708 <        if (!transpose & (i_header == o_header) &&
708 >        if (!transpose & !check & (outLevels <= 1) & (i_header == o_header) &&
709                          (no_columns == ni_columns) & (no_rows == ni_rows)) {
710                  if (warnings)
711                          fprintf(stderr, "%s: no-op -- copying input verbatim\n",
# Line 605 | Line 725 | main(int argc, char *argv[])
725                  }
726          } else if (!check_sizes())
727                  return(1);
728 <        if (o_header) {                         /* write header */
728 >        if (o_header) {                         /* write/add to header */
729 >                if (!i_header)
730 >                        newheader("RADIANCE", stdout);
731                  printargs(a, argv, stdout);
610 –                if (no_rows > 0)
611 –                        printf("NROWS=%d\n", no_rows);
612 –                if (no_columns > 0)
613 –                        printf("NCOLS=%d\n", no_columns);
732                  printf("NCOMP=%d\n", n_comp);
615 –                fputformat(fmtid, stdout);
616 –                fputc('\n', stdout);            /* finish new header */
733          }
734 <        if (transpose) {                        /* transposing rows & columns? */
734 >        if (transpose | check | (outLevels > 1) || (o_header && no_rows <= 0)) {
735                  MEMLOAD myMem;                  /* need to map into memory */
736                  if (a == argc-1) {
737                          if (load_file(&myMem, stdin) <= 0) {
# Line 628 | Line 744 | main(int argc, char *argv[])
744                                                  argv[0]);
745                          return(1);
746                  }
747 <                if (!do_transpose(&myMem))
747 >                if (!do_reorder(&myMem))
748                          return(1);
749                  /* free_load(&myMem);   about to exit, so don't bother */
750 <        } else if (!do_resize(stdin))           /* reshaping input */
750 >        } else if (!do_resize(stdin))           /* just reshaping input */
751                  return(1);
752          return(0);
753   userr:
754          fprintf(stderr,
755 < "Usage: %s [-h[io]][-w][-f[afdb][N]][-t][-ic in_col][-ir in_row][-oc out_col][-or out_row] [input.dat]\n",
755 > "Usage: %s [-h[io]][-w][-c][-f[afdb][N]][-t][-ic in_col][-ir in_row][-oc out_col][-or out_row][-o RxC[xR1xC1..]] [input.dat]\n",
756                          argv[0]);
757          return(1);
758   }

Diff Legend

– Removed lines
+ Added lines
< Changed lines
> Changed lines