<div dir="ltr"><div class="gmail_extra"><div class="gmail_quote">On Thu, Oct 10, 2013 at 2:41 AM, Luca Barbato <span dir="ltr"><<a href="mailto:lu_zero@gentoo.org" target="_blank">lu_zero@gentoo.org</a>></span> wrote:<br>

<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">---<br>
<br>
Since Kostya wanted me to.<br>
<br>
 libavcodec/proresdec.c | 71 +++++++++++++++++++++++++++++---------------------<br>
 1 file changed, 42 insertions(+), 29 deletions(-)<br>
<br>
diff --git a/libavcodec/proresdec.c b/libavcodec/proresdec.c<br>
index 5687231..db998fa 100644<br>
--- a/libavcodec/proresdec.c<br>
+++ b/libavcodec/proresdec.c<br>
@@ -369,10 +369,10 @@ static inline void decode_dc_coeffs(GetBitContext *gb, int16_t *out,<br>
 /**<br>
  * Decode AC coefficients for all blocks in a slice.<br>
  */<br>
-static inline void decode_ac_coeffs(GetBitContext *gb, int16_t *out,<br>
-                                    int blocks_per_slice,<br>
-                                    int plane_size_factor,<br>
-                                    const uint8_t *scan)<br>
+static inline int decode_ac_coeffs(GetBitContext *gb, int16_t *out,<br>
+                                   int blocks_per_slice,<br>
+                                   int plane_size_factor,<br>
+                                   const uint8_t *scan)<br>
 {<br>
     int pos, block_mask, run, level, sign, run_cb_index, lev_cb_index;<br>
     int max_coeffs, bits_left;<br>
@@ -390,13 +390,13 @@ static inline void decode_ac_coeffs(GetBitContext *gb, int16_t *out,<br>
<br>
         bits_left = get_bits_left(gb);<br>
         if (bits_left <= 0 || (bits_left <= 8 && !show_bits(gb, bits_left)))<br>
-            return;<br>
+            return AVERROR_INVALIDDATA;<br>
<br>
         run = decode_vlc_codeword(gb, ff_prores_ac_codebook[run_cb_index]);<br>
<br>
         bits_left = get_bits_left(gb);<br>
         if (bits_left <= 0 || (bits_left <= 8 && !show_bits(gb, bits_left)))<br>
-            return;<br>
+            return AVERROR_INVALIDDATA;<br>
<br>
         level = decode_vlc_codeword(gb, ff_prores_ac_codebook[lev_cb_index]) + 1;<br>
<br>
@@ -408,22 +408,24 @@ static inline void decode_ac_coeffs(GetBitContext *gb, int16_t *out,<br>
         out[((pos & block_mask) << 6) + scan[pos >> plane_size_factor]] =<br>
             (level ^ sign) - sign;<br>
     }<br>
+<br>
+    return 0;<br>
 }<br>
<br>
<br>
 /**<br>
  * Decode a slice plane (luma or chroma).<br>
  */<br>
-static void decode_slice_plane(ProresContext *ctx, ProresThreadData *td,<br>
-                               const uint8_t *buf,<br>
-                               int data_size, uint16_t *out_ptr,<br>
-                               int linesize, int mbs_per_slice,<br>
-                               int blocks_per_mb, int plane_size_factor,<br>
-                               const int16_t *qmat, int is_chroma)<br>
+static int decode_slice_plane(ProresContext *ctx, ProresThreadData *td,<br>
+                              const uint8_t *buf,<br>
+                              int data_size, uint16_t *out_ptr,<br>
+                              int linesize, int mbs_per_slice,<br>
+                              int blocks_per_mb, int plane_size_factor,<br>
+                              const int16_t *qmat, int is_chroma)<br>
 {<br>
     GetBitContext gb;<br>
     int16_t *block_ptr;<br>
-    int mb_num, blocks_per_slice;<br>
+    int mb_num, blocks_per_slice, ret;<br>
<br>
     blocks_per_slice = mbs_per_slice * blocks_per_mb;<br>
<br>
@@ -433,8 +435,10 @@ static void decode_slice_plane(ProresContext *ctx, ProresThreadData *td,<br>
<br>
     decode_dc_coeffs(&gb, td->blocks, blocks_per_slice);<br>
<br>
-    decode_ac_coeffs(&gb, td->blocks, blocks_per_slice,<br>
-                     plane_size_factor, ctx->scantable.permutated);<br>
+    ret = decode_ac_coeffs(&gb, td->blocks, blocks_per_slice,<br>
+                           plane_size_factor, ctx->scantable.permutated);<br>
+    if (ret < 0)<br>
+        return ret;<br>
<br>
     /* inverse quantization, inverse transform and output */<br>
     block_ptr = td->blocks;<br>
@@ -468,6 +472,7 @@ static void decode_slice_plane(ProresContext *ctx, ProresThreadData *td,<br>
             }<br>
         }<br>
     }<br>
+    return 0;<br>
 }<br>
<br>
<br>
@@ -560,6 +565,7 @@ static int decode_slice(AVCodecContext *avctx, void *tdata)<br>
     int y_data_size, u_data_size, v_data_size, a_data_size;<br>
     int y_linesize, u_linesize, v_linesize, a_linesize;<br>
     int coff[4];<br>
+    int ret;<br>
<br>
     buf             = ctx->slice_data[slice_num].index;<br>
     slice_data_size = ctx->slice_data[slice_num + 1].index - buf;<br>
@@ -631,24 +637,31 @@ static int decode_slice(AVCodecContext *avctx, void *tdata)<br>
     }<br>
<br>
     /* decode luma plane */<br>
-    decode_slice_plane(ctx, td, buf + coff[0], y_data_size,<br>
-                       (uint16_t*) y_data, y_linesize,<br>
-                       mbs_per_slice, 4, slice_width_factor + 2,<br>
-                       td->qmat_luma_scaled, 0);<br>
+    ret = decode_slice_plane(ctx, td, buf + coff[0], y_data_size,<br>
+                             (uint16_t*) y_data, y_linesize,<br>
+                             mbs_per_slice, 4, slice_width_factor + 2,<br>
+                             td->qmat_luma_scaled, 0);<br>
+<br>
+    if (ret < 0)<br>
+        return ret;<br>
<br>
     /* decode U chroma plane */<br>
-    decode_slice_plane(ctx, td, buf + coff[1], u_data_size,<br>
-                       (uint16_t*) u_data, u_linesize,<br>
-                       mbs_per_slice, ctx->num_chroma_blocks,<br>
-                       slice_width_factor + ctx->chroma_factor - 1,<br>
-                       td->qmat_chroma_scaled, 1);<br>
+    ret = decode_slice_plane(ctx, td, buf + coff[1], u_data_size,<br>
+                             (uint16_t*) u_data, u_linesize,<br>
+                             mbs_per_slice, ctx->num_chroma_blocks,<br>
+                             slice_width_factor + ctx->chroma_factor - 1,<br>
+                             td->qmat_chroma_scaled, 1);<br>
+    if (ret < 0)<br>
+        return ret;<br>
<br>
     /* decode V chroma plane */<br>
-    decode_slice_plane(ctx, td, buf + coff[2], v_data_size,<br>
-                       (uint16_t*) v_data, v_linesize,<br>
-                       mbs_per_slice, ctx->num_chroma_blocks,<br>
-                       slice_width_factor + ctx->chroma_factor - 1,<br>
-                       td->qmat_chroma_scaled, 1);<br>
+    ret = decode_slice_plane(ctx, td, buf + coff[2], v_data_size,<br>
+                             (uint16_t*) v_data, v_linesize,<br>
+                             mbs_per_slice, ctx->num_chroma_blocks,<br>
+                             slice_width_factor + ctx->chroma_factor - 1,<br>
+                             td->qmat_chroma_scaled, 1);<br>
+    if (ret < 0)<br>
+        return ret;<br>
<br>
     /* decode alpha plane if available */<br>
     if (a_data && a_data_size)<br>
--<br></blockquote><div><br></div><div><br></div><div>Oops, ignore previous, it's a revert of this one that causes the tests to succeed again.</div><div><br></div><div>-- Sean McG. </div></div></div></div>