Blame SOURCES/libtiff-CVE-2012-4564.patch

0d8ff3
Upstream patch for CVE-2012-4564.
0d8ff3
0d8ff3
0d8ff3
diff -Naur tiff-3.9.4.orig/tools/ppm2tiff.c tiff-3.9.4/tools/ppm2tiff.c
0d8ff3
--- tiff-3.9.4.orig/tools/ppm2tiff.c	2010-06-08 14:50:44.000000000 -0400
0d8ff3
+++ tiff-3.9.4/tools/ppm2tiff.c	2012-12-10 16:16:05.154045877 -0500
0d8ff3
@@ -68,6 +68,17 @@
0d8ff3
 	exit(-2);
0d8ff3
 }
0d8ff3
 
0d8ff3
+static tsize_t
0d8ff3
+multiply_ms(tsize_t m1, tsize_t m2)
0d8ff3
+{
0d8ff3
+	tsize_t bytes = m1 * m2;
0d8ff3
+
0d8ff3
+	if (m1 && bytes / m1 != m2)
0d8ff3
+		bytes = 0;
0d8ff3
+
0d8ff3
+	return bytes;
0d8ff3
+}
0d8ff3
+
0d8ff3
 int
0d8ff3
 main(int argc, char* argv[])
0d8ff3
 {
0d8ff3
@@ -85,6 +96,7 @@
0d8ff3
 	int c;
0d8ff3
 	extern int optind;
0d8ff3
 	extern char* optarg;
0d8ff3
+	tsize_t scanline_size;
0d8ff3
 
0d8ff3
 	if (argc < 2) {
0d8ff3
 	    fprintf(stderr, "%s: Too few arguments\n", argv[0]);
0d8ff3
@@ -217,7 +229,8 @@
0d8ff3
 	}
0d8ff3
 	switch (bpp) {
0d8ff3
 		case 1:
0d8ff3
-			linebytes = (spp * w + (8 - 1)) / 8;
0d8ff3
+			/* if round-up overflows, result will be zero, OK */
0d8ff3
+			linebytes = (multiply_ms(spp, w) + (8 - 1)) / 8;
0d8ff3
 			if (rowsperstrip == (uint32) -1) {
0d8ff3
 				TIFFSetField(out, TIFFTAG_ROWSPERSTRIP, h);
0d8ff3
 			} else {
0d8ff3
@@ -226,15 +239,31 @@
0d8ff3
 			}
0d8ff3
 			break;
0d8ff3
 		case 8:
0d8ff3
-			linebytes = spp * w;
0d8ff3
+			linebytes = multiply_ms(spp, w);
0d8ff3
 			TIFFSetField(out, TIFFTAG_ROWSPERSTRIP,
0d8ff3
 			    TIFFDefaultStripSize(out, rowsperstrip));
0d8ff3
 			break;
0d8ff3
 	}
0d8ff3
-	if (TIFFScanlineSize(out) > linebytes)
0d8ff3
+	if (linebytes == 0) {
0d8ff3
+		fprintf(stderr, "%s: scanline size overflow\n", infile);
0d8ff3
+		(void) TIFFClose(out);
0d8ff3
+		exit(-2);					
0d8ff3
+	}
0d8ff3
+	scanline_size = TIFFScanlineSize(out);
0d8ff3
+	if (scanline_size == 0) {
0d8ff3
+		/* overflow - TIFFScanlineSize already printed a message */
0d8ff3
+		(void) TIFFClose(out);
0d8ff3
+		exit(-2);					
0d8ff3
+	}
0d8ff3
+	if (scanline_size < linebytes)
0d8ff3
 		buf = (unsigned char *)_TIFFmalloc(linebytes);
0d8ff3
 	else
0d8ff3
-		buf = (unsigned char *)_TIFFmalloc(TIFFScanlineSize(out));
0d8ff3
+		buf = (unsigned char *)_TIFFmalloc(scanline_size);
0d8ff3
+	if (buf == NULL) {
0d8ff3
+		fprintf(stderr, "%s: Not enough memory\n", infile);
0d8ff3
+		(void) TIFFClose(out);
0d8ff3
+		exit(-2);
0d8ff3
+	}
0d8ff3
 	if (resolution > 0) {
0d8ff3
 		TIFFSetField(out, TIFFTAG_XRESOLUTION, resolution);
0d8ff3
 		TIFFSetField(out, TIFFTAG_YRESOLUTION, resolution);