<html>
    <head>
      <base href="https://bugzilla.libav.org/" />
    </head>
    <body><table border="1" cellspacing="0" cellpadding="8">
        <tr>
          <th>Bug ID</th>
          <td><a class="bz_bug_link 
          bz_status_NEW "
   title="NEW - Stack-buffer-overflow in ff_lag_rac_init"
   href="https://bugzilla.libav.org/show_bug.cgi?id=907">907</a>
          </td>
        </tr>

        <tr>
          <th>Summary</th>
          <td>Stack-buffer-overflow in ff_lag_rac_init
          </td>
        </tr>

        <tr>
          <th>Product</th>
          <td>Libav
          </td>
        </tr>

        <tr>
          <th>Version</th>
          <td>git HEAD
          </td>
        </tr>

        <tr>
          <th>Hardware</th>
          <td>Other
          </td>
        </tr>

        <tr>
          <th>OS</th>
          <td>Linux
          </td>
        </tr>

        <tr>
          <th>Status</th>
          <td>NEW
          </td>
        </tr>

        <tr>
          <th>Severity</th>
          <td>enhancement
          </td>
        </tr>

        <tr>
          <th>Priority</th>
          <td>---
          </td>
        </tr>

        <tr>
          <th>Component</th>
          <td>libavcodec
          </td>
        </tr>

        <tr>
          <th>Assignee</th>
          <td>bugzilla@libav.org
          </td>
        </tr>

        <tr>
          <th>Reporter</th>
          <td>attekett@gmail.com
          </td>
        </tr></table>
      <p>
        <div>
        <pre>Created <span class=""><a href="attachment.cgi?id=561" name="attach_561" title="stack-buffer-overflow-14f-cbb-adb.media">attachment 561</a> <a href="attachment.cgi?id=561&action=edit" title="stack-buffer-overflow-14f-cbb-adb.media">[details]</a></span>
stack-buffer-overflow-14f-cbb-adb.media

Tested on:
OS: Ubuntu 14.04
uname -a:
Linux attekett-UX31A 3.19.0-30-generic #34~14.04.1-Ubuntu SMP Fri Oct 2
22:09:39 UTC 2015 x86_64 x86_64 x86_64 GNU/Linux
avconv 10.7
libavutil     53.  3. 0 / 53.  3. 0
libavcodec    55. 34. 1 / 55. 34. 1
libavformat   55. 12. 0 / 55. 12. 0
libavdevice   54.  0. 0 / 54.  0. 0
libavfilter    4.  2. 0 /  4.  2. 0
libavresample  1.  1. 0 /  1.  1. 0
libswscale     2.  1. 2 /  2.  1. 2
Didn't reproduce

avconv 11.4
libavutil     54.  3. 0 / 54.  3. 0
libavcodec    56.  1. 0 / 56.  1. 0
libavformat   56.  1. 0 / 56.  1. 0
libavdevice   55.  0. 0 / 55.  0. 0
libavfilter    5.  0. 0 /  5.  0. 0
libavresample  2.  1. 0 /  2.  1. 0
libswscale     3.  0. 0 /  3.  0. 0
Didn't reproduce

Report from libav-trunk:
GNU gdb (Ubuntu 7.7.1-0ubuntu5~14.04.2) 7.7.1
Copyright (C) 2014 Free Software Foundation, Inc.
License GPLv3+: GNU GPL version 3 or later <<a href="http://gnu.org/licenses/gpl.html">http://gnu.org/licenses/gpl.html</a>>
This is free software: you are free to change and redistribute it.
There is NO WARRANTY, to the extent permitted by law.  Type "show copying"
and "show warranty" for details.
This GDB was configured as "x86_64-linux-gnu".
Type "show configuration" for configuration details.
For bug reporting instructions, please see:
<<a href="http://www.gnu.org/software/gdb/bugs/">http://www.gnu.org/software/gdb/bugs/</a>>.
Find the GDB manual and other documentation resources online at:
<<a href="http://www.gnu.org/software/gdb/documentation/">http://www.gnu.org/software/gdb/documentation/</a>>.
For help, type "help".
Type "apropos word" to search for commands related to "word"...
Reading symbols from /home/attekett/projects/libav-trunk/avconv...done.
Breakpoint 1 at 0x4d3090
[Thread debugging using libthread_db enabled]
Using host libthread_db library "/lib/x86_64-linux-gnu/libthread_db.so.1".
avconv version v12_dev0-1977-gdca23ff, Copyright (c) 2000-2015 the Libav
developers
  built on Oct 23 2015 09:26:22 with Ubuntu clang version
3.5.0-4ubuntu2~trusty2 (tags/RELEASE_350/final) (based on LLVM 3.5.0)
  configuration: --toolchain=clang-asan
  libavutil     55.  2. 0 / 55.  2. 0
  libavcodec    57.  5. 0 / 57.  5. 0
  libavformat   57.  0. 0 / 57.  0. 0
  libavdevice   56.  0. 0 / 56.  0. 0
  libavfilter    6.  0. 0 /  6.  0. 0
  libavresample  3.  0. 0 /  3.  0. 0
  libswscale     4.  0. 0 /  4.  0. 0
Splitting the commandline.
Reading option '-v' ... matched as option 'v' (set libav* logging level) with
argument '9'.
Reading option '-loglevel' ... matched as option 'loglevel' (set libav* logging
level) with argument '99'.
Reading option '-i' ... matched as input file with argument
'./stack-buffer-overflow-14f-cbb-adb.media'.
Reading option '-f' ... matched as option 'f' (force format) with argument
'null'.
Reading option '-' ... matched as output file.
Finished splitting the commandline.
Parsing a group of options: global .
Applying option v (set libav* logging level) with argument 9.
Successfully parsed a group of options.
Parsing a group of options: input file
./stack-buffer-overflow-14f-cbb-adb.media.
Successfully parsed a group of options.
Opening an input file: ./stack-buffer-overflow-14f-cbb-adb.media.
score: 1, dvhs_score: 1, fec_score: 1 
nsv_probe(), buf_size 2048
[avi @ 0x61a00001f280] Probed with size=2048 and score=100
tag: tag=LIST size=0xc4
list: tag=hdrl size=0x0
tag: tag=avih size=0x38
tag: tag=LIST size=0x78
list: tag=strl size=0x0
tag: tag=strh size=0x38
strh: tag=vids size=0xffffffff
[avi @ 0x61a00001f280] 60 1 0
tag: tag=strf size=0x2c
video: tag=LAGS size=0x0
tag: tag=JUNK size=0x714
tag: tag=LIST size=0x11e0be76
list: tag=movi size=0x0
movi end=11e0c672
[avi @ 0x61a00001f280] movi_end=0x11e0c672
[avi @ 0x61a00001f280] tag=FFFFFFFF FFFFFFFF FFFFFFFF FFFFFFFF FFFFFFFF
FFFFFFFF FFFFFFFF 30 2048 805240575 100
[avi @ 0x61a00001f280] FFFFFFFF FFFFFFFF FFFFFFFF FFFFFFFF FFFFFFFF FFFFFFFF 30
30 2049 808451839 100
[avi @ 0x61a00001f280] FFFFFFFF FFFFFFFF FFFFFFFF FFFFFFFF FFFFFFFF 30 30 64
2050 1680879615 100
[avi @ 0x61a00001f280] FFFFFFFF FFFFFFFF FFFFFFFF FFFFFFFF 30 30 64 62 2051
1650733104 100
[avi @ 0x61a00001f280] FFFFFFFF FFFFFFFF FFFFFFFF 30 30 64 62 73 2052
1935828016 100
[avi @ 0x61a00001f280] FFFFFFFF FFFFFFFF 30 30 64 62 73 BA 2053 3128124004 0
[avi @ 0x61a00001f280] FFFFFFFF 30 30 64 62 73 BA 0 2054 12219234 100
[avi @ 0x61a00001f280] 30 30 64 62 73 BA 0 0 2055 47731 100
[avi @ 0x61a00001f280] dts:0 offset:0 1/60 smpl_siz:0 base:1000000 st:0
size:47731
IN delayed:0 pts:-9223372036854775808, dts:0 cur_dts:0 st:0 pc:(nil)
OUTdelayed:0/0 pts:0, dts:0 cur_dts:1
[lagarith @ 0x61900001ea80] Invalid probability run encountered.

Breakpoint 1, 0x00000000004d3090 in __asan_report_error ()

Thread 1 (Thread 0x7ffff7fd47c0 (LWP 14297)):
#0  0x00000000004d3090 in __asan_report_error ()
#1  0x00000000004d4887 in __asan_report_load4 ()
#2  0x0000000000da0756 in ff_lag_rac_init (l=<optimized out>, gb=<optimized
out>, length=<optimized out>) at libavcodec/lagarithrac.c:52
#3  0x0000000000d9e49c in lag_decode_arith_plane (l=<optimized out>, dst=0x78
<error: Cannot access memory at address 0x78>, width=<optimized out>,
height=<optimized out>, stride=<optimized out>, src=<optimized out>,
src_size=<optimized out>) at libavcodec/lagarith.c:444
#4  0x0000000000d9c68b in lag_decode_frame (avctx=<optimized out>,
data=<optimized out>, got_frame=0x7fffffff7e80, avpkt=<optimized out>) at
libavcodec/lagarith.c:660
#5  0x00000000011d2673 in avcodec_decode_video2 (avctx=0x61900001ea80,
picture=0x61400000f040, got_picture_ptr=0x7fffffff7e80, avpkt=0x7fffffff7eb0)
at libavcodec/utils.c:1488
#6  0x00000000007b9509 in try_decode_frame (st=<optimized out>,
avpkt=<optimized out>, options=<optimized out>) at libavformat/utils.c:1890
#7  0x00000000007b58eb in avformat_find_stream_info (ic=0x61a00001f280,
options=<optimized out>) at libavformat/utils.c:2259
#8  0x00000000004f5cec in open_input_file (o=<optimized out>,
filename=<optimized out>) at avconv_opt.c:751
#9  0x00000000004f4e65 in open_files (l=<optimized out>, inout=<optimized out>,
open_file=<optimized out>) at avconv_opt.c:2215
#10 0x00000000004f470a in avconv_parse_options (argc=<optimized out>,
argv=<optimized out>) at avconv_opt.c:2252
#11 0x000000000050c8fc in main (argc=10, argv=0x7fffffffdce8) at avconv.c:2672
#2  0x0000000000da0756 in ff_lag_rac_init (l=<optimized out>, gb=<optimized
out>, length=<optimized out>) at libavcodec/lagarithrac.c:52
52            while (l->prob[j + 1] <= r)
Dump of assembler code from 0xda0736 to 0xda0776:
   0x0000000000da0736 <ff_lag_rac_init+742>:    add    $0x3,%edx
   0x0000000000da0739 <ff_lag_rac_init+745>:    movsbl %al,%eax
   0x0000000000da073c <ff_lag_rac_init+748>:    cmp    %eax,%edx
   0x0000000000da073e <ff_lag_rac_init+750>:    jge    0xda07be
<ff_lag_rac_init+878>
   0x0000000000da0740 <ff_lag_rac_init+752>:    add    $0x17,%ecx
   0x0000000000da0743 <ff_lag_rac_init+755>:    mov    %ecx,(%r10)
   0x0000000000da0746 <ff_lag_rac_init+758>:    add    $0x8,%rsp
   0x0000000000da074a <ff_lag_rac_init+762>:    pop    %rbx
   0x0000000000da074b <ff_lag_rac_init+763>:    pop    %r14
   0x0000000000da074d <ff_lag_rac_init+765>:    retq   
   0x0000000000da074e <ff_lag_rac_init+766>:    mov    %rcx,%rdi
   0x0000000000da0751 <ff_lag_rac_init+769>:    callq  0x4d4860
<__asan_report_load4>
=> 0x0000000000da0756 <ff_lag_rac_init+774>:    mov    %rcx,%rdi
   0x0000000000da0759 <ff_lag_rac_init+777>:    callq  0x4d48f0
<__asan_report_store1>
   0x0000000000da075e <ff_lag_rac_init+782>:    mov    %r10,%rdi
   0x0000000000da0761 <ff_lag_rac_init+785>:    callq  0x4d4860
<__asan_report_load4>
   0x0000000000da0766 <ff_lag_rac_init+790>:    mov    %rsi,%rdi
   0x0000000000da0769 <ff_lag_rac_init+793>:    callq  0x4d4890
<__asan_report_load8>
   0x0000000000da076e <ff_lag_rac_init+798>:    mov    %rax,%rdi
   0x0000000000da0771 <ff_lag_rac_init+801>:    callq  0x4d4980
<__asan_report_store8>
End of assembler dump.
rax            0x7fffffff7a88    140737488321160
rbx            0x3    3
rcx            0x7fffffff7a88    140737488321160
rdx            0x7fffffff73c8    140737488319432
rsi            0x7fffffff73d0    140737488319440
rdi            0xda0756    14288726
rbp            0x7fffffff7b70    0x7fffffff7b70
rsp            0x7fffffff73e0    0x7fffffff73e0
r8             0x0    0
r9             0x4    4
r10            0x7fffffff7564    140737488319844
r11            0xed    237
r12            0x1    1
r13            0x7fffffff7550    140737488319824
r14            0xfffffffeea4    17592186039972
r15            0xc1000001739    13262859015993
rip            0xda0756    0xda0756 <ff_lag_rac_init+774>
eflags         0x246    [ PF ZF IF ]
cs             0x33    51
ss             0x2b    43
ds             0x0    0
es             0x0    0
fs             0x0    0
gs             0x0    0
st0            0    (raw 0x00000000000000000000)
st1            0    (raw 0x00000000000000000000)
st2            0    (raw 0x00000000000000000000)
st3            0    (raw 0x00000000000000000000)
st4            0    (raw 0x00000000000000000000)
st5            0    (raw 0x00000000000000000000)
st6            0    (raw 0x00000000000000000000)
st7            0    (raw 0x00000000000000000000)
fctrl          0x37f    895
fstat          0x0    0
ftag           0xffff    65535
fiseg          0x0    0
fioff          0x0    0
foseg          0x0    0
fooff          0x0    0
fop            0x0    0
mxcsr          0x1fa0    [ PE IM DM ZM OM UM PM ]
ymm0           {v8_float = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0}, v4_double
= {0x0, 0x0, 0x0, 0x0}, v32_int8 = {0x0 <repeats 32 times>}, v16_int16 = {0x0
<repeats 16 times>}, v8_int32 = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0},
v4_int64 = {0x0, 0x0, 0x0, 0x0}, v2_int128 =
{0x00000000000000000000000000000000, 0x00000000000000000000000000000000}}
ymm1           {v8_float = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0}, v4_double
= {0x0, 0x0, 0x0, 0x0}, v32_int8 = {0x0 <repeats 32 times>}, v16_int16 = {0x0
<repeats 16 times>}, v8_int32 = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0},
v4_int64 = {0x0, 0x0, 0x0, 0x0}, v2_int128 =
{0x00000000000000000000000000000000, 0x00000000000000000000000000000000}}
ymm2           {v8_float = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0}, v4_double
= {0x0, 0x0, 0x0, 0x0}, v32_int8 = {0x0 <repeats 32 times>}, v16_int16 = {0x0
<repeats 16 times>}, v8_int32 = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0},
v4_int64 = {0x0, 0x0, 0x0, 0x0}, v2_int128 =
{0x00000000000000000000000000000000, 0x00000000000000000000000000000000}}
ymm3           {v8_float = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0}, v4_double
= {0x0, 0x0, 0x0, 0x0}, v32_int8 = {0x0 <repeats 32 times>}, v16_int16 = {0x0
<repeats 16 times>}, v8_int32 = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0},
v4_int64 = {0x0, 0x0, 0x0, 0x0}, v2_int128 =
{0x00000000000000000000000000000000, 0x00000000000000000000000000000000}}
ymm4           {v8_float = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0}, v4_double
= {0x0, 0x0, 0x0, 0x0}, v32_int8 = {0x0 <repeats 32 times>}, v16_int16 = {0x0
<repeats 16 times>}, v8_int32 = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0},
v4_int64 = {0x0, 0x0, 0x0, 0x0}, v2_int128 =
{0x00000000000000000000000000000000, 0x00000000000000000000000000000000}}
ymm5           {v8_float = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0}, v4_double
= {0x0, 0x0, 0x0, 0x0}, v32_int8 = {0x0 <repeats 32 times>}, v16_int16 = {0x0
<repeats 16 times>}, v8_int32 = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0},
v4_int64 = {0x0, 0x0, 0x0, 0x0}, v2_int128 =
{0x00000000000000000000000000000000, 0x00000000000000000000000000000000}}
ymm6           {v8_float = {0x0, 0x5e421000, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0},
v4_double = {0x8000000000000000, 0x8000000000000000, 0x0, 0x0}, v32_int8 =
{0xeb, 0xee, 0xa7, 0xa0, 0x20, 0x84, 0xbc, 0x4e, 0x4c, 0xf0, 0x60, 0x0, 0x6b,
0x2e, 0xfa, 0xee, 0x0 <repeats 16 times>}, v16_int16 = {0xeeeb, 0xa0a7, 0x8420,
0x4ebc, 0xf04c, 0x60, 0x2e6b, 0xeefa, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0},
v8_int32 = {0xa0a7eeeb, 0x4ebc8420, 0x60f04c, 0xeefa2e6b, 0x0, 0x0, 0x0, 0x0},
v4_int64 = {0x4ebc8420a0a7eeeb, 0xeefa2e6b0060f04c, 0x0, 0x0}, v2_int128 =
{0xeefa2e6b0060f04c4ebc8420a0a7eeeb, 0x00000000000000000000000000000000}}
ymm7           {v8_float = {0xfff8a20e, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0},
v4_double = {0x0, 0x8000000000000000, 0x0, 0x0}, v32_int8 = {0x50, 0xbe, 0xeb,
0xc8, 0x4c, 0xc0, 0x26, 0xa, 0xb3, 0x25, 0x13, 0xa8, 0x9e, 0x89, 0x27, 0x78,
0x0 <repeats 16 times>}, v16_int16 = {0xbe50, 0xc8eb, 0xc04c, 0xa26, 0x25b3,
0xa813, 0x899e, 0x7827, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0}, v8_int32 =
{0xc8ebbe50, 0xa26c04c, 0xa81325b3, 0x7827899e, 0x0, 0x0, 0x0, 0x0}, v4_int64 =
{0xa26c04cc8ebbe50, 0x7827899ea81325b3, 0x0, 0x0}, v2_int128 =
{0x7827899ea81325b30a26c04cc8ebbe50, 0x00000000000000000000000000000000}}
ymm8           {v8_float = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0}, v4_double
= {0x0, 0x0, 0x0, 0x0}, v32_int8 = {0x0 <repeats 32 times>}, v16_int16 = {0x0
<repeats 16 times>}, v8_int32 = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0},
v4_int64 = {0x0, 0x0, 0x0, 0x0}, v2_int128 =
{0x00000000000000000000000000000000, 0x00000000000000000000000000000000}}
ymm9           {v8_float = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0}, v4_double
= {0x0, 0x0, 0x0, 0x0}, v32_int8 = {0x0 <repeats 32 times>}, v16_int16 = {0x0
<repeats 16 times>}, v8_int32 = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0},
v4_int64 = {0x0, 0x0, 0x0, 0x0}, v2_int128 =
{0x00000000000000000000000000000000, 0x00000000000000000000000000000000}}
ymm10          {v8_float = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0}, v4_double
= {0x0, 0x0, 0x0, 0x0}, v32_int8 = {0x0 <repeats 32 times>}, v16_int16 = {0x0
<repeats 16 times>}, v8_int32 = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0},
v4_int64 = {0x0, 0x0, 0x0, 0x0}, v2_int128 =
{0x00000000000000000000000000000000, 0x00000000000000000000000000000000}}
ymm11          {v8_float = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0}, v4_double
= {0x0, 0x0, 0x0, 0x0}, v32_int8 = {0x0 <repeats 32 times>}, v16_int16 = {0x0
<repeats 16 times>}, v8_int32 = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0},
v4_int64 = {0x0, 0x0, 0x0, 0x0}, v2_int128 =
{0x00000000000000000000000000000000, 0x00000000000000000000000000000000}}
ymm12          {v8_float = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0}, v4_double
= {0x0, 0x0, 0x0, 0x0}, v32_int8 = {0xff, 0x0, 0x0, 0xff, 0xff, 0xff, 0xff,
0x0, 0x0, 0xff, 0xff, 0x0, 0x0, 0xff, 0xff, 0x0 <repeats 17 times>}, v16_int16
= {0xff, 0xff00, 0xffff, 0xff, 0xff00, 0xff, 0xff00, 0xff, 0x0, 0x0, 0x0, 0x0,
0x0, 0x0, 0x0, 0x0}, v8_int32 = {0xff0000ff, 0xffffff, 0xffff00, 0xffff00, 0x0,
0x0, 0x0, 0x0}, v4_int64 = {0xffffffff0000ff, 0xffff0000ffff00, 0x0, 0x0},
v2_int128 = {0x00ffff0000ffff0000ffffffff0000ff,
0x00000000000000000000000000000000}}
ymm13          {v8_float = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0}, v4_double
= {0x0, 0x0, 0x0, 0x0}, v32_int8 = {0x0, 0x0, 0x0, 0x0, 0x0, 0x80, 0x59, 0xbc,
0x0 <repeats 24 times>}, v16_int16 = {0x0, 0x0, 0x8000, 0xbc59, 0x0 <repeats 12
times>}, v8_int32 = {0x0, 0xbc598000, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0}, v4_int64 =
{0xbc59800000000000, 0x0, 0x0, 0x0}, v2_int128 =
{0x0000000000000000bc59800000000000, 0x00000000000000000000000000000000}}
ymm14          {v8_float = {0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0}, v4_double
= {0x0, 0x0, 0x0, 0x0}, v32_int8 = {0x8e, 0x85, 0x83, 0xe8, 0xf0, 0x24, 0x53,
0x3c, 0x0 <repeats 24 times>}, v16_int16 = {0x858e, 0xe883, 0x24f0, 0x3c53, 0x0
<repeats 12 times>}, v8_int32 = {0xe883858e, 0x3c5324f0, 0x0, 0x0, 0x0, 0x0,
0x0, 0x0}, v4_int64 = {0x3c5324f0e883858e, 0x0, 0x0, 0x0}, v2_int128 =
{0x00000000000000003c5324f0e883858e, 0x00000000000000000000000000000000}}
ymm15          {v8_float = {0x0, 0x3, 0x0, 0x0, 0x0, 0x0, 0x0, 0x0}, v4_double
= {0x2d, 0x0, 0x0, 0x0}, v32_int8 = {0xc0, 0x9, 0xf2, 0x16, 0xb5, 0xdf, 0x46,
0x40, 0x0 <repeats 24 times>}, v16_int16 = {0x9c0, 0x16f2, 0xdfb5, 0x4046, 0x0
<repeats 12 times>}, v8_int32 = {0x16f209c0, 0x4046dfb5, 0x0, 0x0, 0x0, 0x0,
0x0, 0x0}, v4_int64 = {0x4046dfb516f209c0, 0x0, 0x0, 0x0}, v2_int128 =
{0x00000000000000004046dfb516f209c0, 0x00000000000000000000000000000000}}
=================================================================
==14297==ERROR: AddressSanitizer: stack-buffer-overflow on address
0x7fffffff7a88 at pc 0x000000da0756 bp 0x7fffffff73d0 sp 0x7fffffff73c8
READ of size 4 at 0x7fffffff7a88 thread T0
    #0 0xda0755 in ff_lag_rac_init
/home/attekett/projects/libav-trunk/libavcodec/lagarithrac.c:52:9
    #1 0xd9e49b in lag_decode_arith_plane
/home/attekett/projects/libav-trunk/libavcodec/lagarith.c:444:9
    #2 0xd9c68a in lag_decode_frame
/home/attekett/projects/libav-trunk/libavcodec/lagarith.c:660:9
    #3 0x11d2672 in avcodec_decode_video2
/home/attekett/projects/libav-trunk/libavcodec/utils.c:1488:19
    #4 0x7b9508 in try_decode_frame
/home/attekett/projects/libav-trunk/libavformat/utils.c:1890:19
    #5 0x7b58ea in avformat_find_stream_info
/home/attekett/projects/libav-trunk/libavformat/utils.c:2259:9
    #6 0x4f5ceb in open_input_file
/home/attekett/projects/libav-trunk/avconv_opt.c:751:11
    #7 0x4f4e64 in open_files
/home/attekett/projects/libav-trunk/avconv_opt.c:2215:15
    #8 0x4f4709 in avconv_parse_options
/home/attekett/projects/libav-trunk/avconv_opt.c:2252:11
    #9 0x50c8fb in main /home/attekett/projects/libav-trunk/avconv.c:2672:11
    #10 0x7ffff6288ec4 in __libc_start_main
(/lib/x86_64-linux-gnu/libc.so.6+0x21ec4)
    #11 0x4ebc6c in _start
(/home/attekett/projects/libav-trunk/avconv+0x4ebc6c)

Address 0x7fffffff7a88 is located in stack of thread T0 at offset 1480 in frame
    #0 0xd9d4df in lag_decode_arith_plane
/home/attekett/projects/libav-trunk/libavcodec/lagarith.c:419

  This frame has 5 object(s):
    [32, 36) 'prob.i'
    [48, 52) 'L.i'
    [64, 68) 'TL.i'
    [80, 112) 'gb'
    [144, 1480) 'rac' <== Memory access at offset 1480 overflows this variable
HINT: this may be a false positive if your program uses some custom stack
unwind mechanism or swapcontext
      (longjmp and C++ exceptions *are* supported)
SUMMARY: AddressSanitizer: stack-buffer-overflow
/home/attekett/projects/libav-trunk/libavcodec/lagarithrac.c:52 ff_lag_rac_init
Shadow bytes around the buggy address:
  0x10007fff6f00: 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
  0x10007fff6f10: 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
  0x10007fff6f20: 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
  0x10007fff6f30: 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
  0x10007fff6f40: 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
=>0x10007fff6f50: 00[f3]f3 f3 f3 f3 f3 f3 f3 f3 f3 f3 f3 f3 f3 f3
  0x10007fff6f60: f3 f3 f3 f3 00 00 00 00 00 00 00 00 00 00 00 00
  0x10007fff6f70: 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
  0x10007fff6f80: 00 00 00 00 00 00 00 00 00 00 00 00 f1 f1 f1 f1
  0x10007fff6f90: 00 00 00 f2 f2 f2 f2 f2 00 00 f2 f2 00 00 00 00
  0x10007fff6fa0: f3 f3 f3 f3 00 00 00 00 00 00 00 00 00 00 00 00
Shadow byte legend (one shadow byte represents 8 application bytes):
  Addressable:           00
  Partially addressable: 01 02 03 04 05 06 07 
  Heap left redzone:       fa
  Heap right redzone:      fb
  Freed heap region:       fd
  Stack left redzone:      f1
  Stack mid redzone:       f2
  Stack right redzone:     f3
  Stack partial redzone:   f4
  Stack after return:      f5
  Stack use after scope:   f8
  Global redzone:          f9
  Global init order:       f6
  Poisoned by user:        f7
  Container overflow:      fc
  ASan internal:           fe
==14297==ABORTING
[Inferior 1 (process 14297) exited with code 01]</pre>
        </div>
      </p>
      <hr>
      <span>You are receiving this mail because:</span>
      
      <ul>
          <li>You are watching all bug changes.</li>
      </ul>
    </body>
</html>