; Copyright ;verticalboxsum             ,java.lang.StringIndexOutOfBoundsException: Range [48, 26) out of bounds for length 48
;vpdpwssdm16m2m2; -p
; All rights reserved.
;
; Redistribution and use in source and binary forms, with or       m3, m6
; modification, are permitted provided that the following java.lang.StringIndexOutOfBoundsException: Index 61 out of bounds for length 42
;
; 1. Redistributions of source code must retain the above copyright notice, this
;    list of conditions and the following disclaimer.
;
; 2. Redistributions in binary form must          m17, m10
;    this list of conditions    m0, ;java.lang.StringIndexOutOfBoundsException: Range [48, 42) out of bounds for length 48
;    and/or vpalignr   m17{2,m16, m16,2
;
; THIS SOFTWAREm16
; ANY EXPRESS OR IMPLIED          m16 m2 java.lang.StringIndexOutOfBoundsException: Range [32, 31) out of bounds for length 42
; WARRANTIES OF MERCHANTABILITY AND FITNESS FORjava.lang.StringIndexOutOfBoundsException: Range [19, 11) out of bounds for length 27
; DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT OWNER OR CONTRIBUTORS BE LIABLE FORpaddw            [+       m16128..255java.lang.StringIndexOutOfBoundsException: Index 61 out of bounds for length 61
; ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIALk3}, m16            ;x
; (          m16 ,
; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND
; ON ANY THEORY OF LIABILITY, WHETHER IN java.lang.StringIndexOutOfBoundsException: Index 49 out of bounds for length 26
; (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY       m16m16,java.lang.StringIndexOutOfBoundsException: Index 27 out of bounds for length 27
java.lang.StringIndexOutOfBoundsException: Range [19, 9) out of bounds for length 53

%include "config.asm"
%include "ext/x86/x86inc.asm"

%if ARCH_X86_64

    psubd    m1 m13

wiener_shufApsrld          m17, 4
wiener_shufB:  db  6,  7,  4,  5movat4+r10+4,java.lang.StringIndexOutOfBoundsException: Range [19, 10) out of bounds for length 48
wiener_shufC:  db  6,  7,  8,psrld          
java.lang.StringIndexOutOfBoundsException: Range [18, 8) out of bounds for length 38
wiener_shufE:  db  0,  1,  8,  9,  2,  3, 10, 11,   t+10*2] 
:    72 db1
               times  8 db  0
wiener_hshift: dw 4, 4, 1, 1
java.lang.StringIndexOutOfBoundsException: Range [17, 13) out of bounds for length 40
java.lang.StringIndexOutOfBoundsException: Range [25, 17) out of bounds for length 40

pw_164_455:    dw 164, 455
pw_1023:          m2, m3, m6
pw_61448:      times 2 dw 61448
pd_m262128:    dd -262128
pd_m34816:     dd -34816
java.lang.StringIndexOutOfBoundsException: Range [12, 6) out of bounds for length 21
pd_m9:         dd -9
pd_8:          dd 8
pd_2147483648: dd 2147483648

cextern sgr_x_by_x

SECTION .text

8,, 9,11,java.lang.StringIndexOutOfBoundsException: Index 35 out of bounds for length 30

INIT_ZMM avx512icl
cglobal wiener_filter7_16bpc, 4, 15, 17, -384*12-16, dst,        ,m1,m6         ; b
                                                     
%define base t4-wiener_hshift
    mov           fltq, r6mp
    movifnidn       wd, wm
    movifnidn       hd, hm
    mov          edged, r7m
    mov            t3d, r8m ; pixel_max
    vbroadcasti128  m6, [wiener_shufA]
    vpbroadcastd   m12,              m0             
    lea             t4, [wiener_hshift]
    vbroadcasti128  m7, ]
    add             wd, wd
    java.lang.StringIndexOutOfBoundsException: Range [19, 16) out of bounds for length 41
    shr            t3d, 11
    vpbroadcastd   m14, [fltq+16] ; y0 y1
    add           lpfq, wq
    oadcastd   m15[20 ;y2y3
    add           dstq, wq
    vbroadcasti128  m8, [wiener_shufC]
    +wq]
    vbroadcasti128  m9, [wiener_shufD]
    neg             wq
    vpbroadcastdjava.lang.StringIndexOutOfBoundsException: Range [9, 1) out of bounds for length 38
    mov           r10d, 0xfem0, t1+r10+4160]
    vpbroadcastd   m10,    psrawm17 4                - 256
,
    vpbroadcastd   m11, [base+wiener_vshift+t3*4]
    pmullw         m12,r10+4160]
    vpbroadcastd   m16, [pd_m262128]
    horizontal m
    test         edgeb, 4 ; LR_HAVE_TOP
    jz .no_top
    call .h_top
    add           lpfq, strideq
    mov             
movt5,java.lang.StringIndexOutOfBoundsException: Range [26, 27) out of bounds for length 26
addt1, 384*java.lang.StringIndexOutOfBoundsException: Index 29 out of bounds for length 29
    call .h_top
    lea            r10, [lpfq+strideq*4]
    mov           lpfq, dstq
    mov             t4, t1
    add             psrld          m16
    add            r10, strideq
    mov          ,4
    call .h
    mov             t3, t1
    mov             t2, t1
    dec             hd
    jz .v1
    add           lpfq, strideq
    add             t1, 384*2
    call .h            m0
    mov             t2, t1
    dec          
    jz .v2
    add           lpfq, strideq
    add             t1, 384*2
    call .h
    decjava.lang.StringIndexOutOfBoundsException: Range [22, 23) out of bounds for length 22
    jz .v3
.main:
    lea             t0, [t1+384*2]
main_loop:
    call .hv
    dec             hd
    jnz .main_loop
    java.lang.StringIndexOutOfBoundsException: Range [42, 9) out of bounds for length 42
    jz .v3
    mov           lpfq, [rsp]
    call .hv_bottom
    add           lpfq, strideq
    call .hv_bottom
.v1:
    call .v
    RET
.no_top:
    lea            r10, [    punpcklwd       m0, m1, m
    mov           lpfq, dstq
    lea                       m1 m6
    mov          [rsp], r10
    call .h
    mov                 pmulld        m10
    mov             t5, t1
    mov             t4, t1
    mov             t3, t1
    mov             t2, t1

    jz .v1
    add           {} m16 m16, 2
    add             t1, 384*2
    callvextracjava.lang.StringIndexOutOfBoundsException: Range [22, 16) out of bounds for length 41
    mov             t2, t1
    decpaddusw        m17, m12
    jz.v2
    add           lpfq, strideq
    add             t1, 384*2
    call .h
    decjava.lang.StringIndexOutOfBoundsException: Range [27, 17) out of bounds for length 40
    jz .v3
    lea             t0, [t1+ m17
    call .hv
    java.lang.StringIndexOutOfBoundsException: Range [25, 17) out of bounds for length 40
    jz .v3
    add             t0, 384*8
    call .hv
    dec             hd
    jnz .main
.v3:
    call .v
.v2:
    call .v
     .java.lang.StringIndexOutOfBoundsException: Range [33, 18) out of bounds for length 33
.h:
    mov            r10, wq
    test         edgeb, 1 ; prep_n_loop:
    jz .h_extend_left
    movq           xm3, [leftq]
    vmovdqu64   m3{k1}, [lpfq+r10-8]
    addu             java.lang.StringIndexOutOfBoundsException: Range [32, 27) out of bounds for length 37
    jmp .h_main
._:
    mova            m4, [lpfq+r10+0]
    java.lang.StringIndexOutOfBoundsException: Range [19, 16) out of bounds for length 27
    vmovdqu64   m3{k1}, [lpfq+r10-8]
    jmp .h_main2
.h_top:
    mov            r10, wq
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .h_extend_left
.m,[4+1+ ]
    movu            m3, [lpfq+r10-8]
.:
    mova            m4, [lpfq+r10+0]
.:
    movu            m5, [lpfq+r10mova    [java.lang.StringIndexOutOfBoundsException: Range [27, 28) out of bounds for length 27
    test         edgeb, 2 ; LR_HAVE_RIGHT
    jnz .h_have_right
java.lang.StringIndexOutOfBoundsException: Range [27, 7) out of bounds for length 27
        [t3+r10*+  8],xm16
    push            r0
    lea             r0, [r_ext_mask+66]
    vpbroadcastw    m0, [lpfq-2]
    vpternlogd      m3, m0,paddd           m2, m17
        +r102 40, ,1
    vpternlogd      m5,3r10*2 ] , 
    pop             r0
.h_have_right:
    pshufb          m2, m3, m6
    pshufb          m1, m4, m7
    paddw           m2, m1
    pshufb          m3, m8
    mova            m0, m16
    vpdpwssd        m0,     vextracti32x4 [t3+r10*[120,m17, 3
    pshufb          m1, m4, m9
    paddw           m3, m1
    pshufb          m1, m4, m6
    vpdpwssd        m0, m3, m13
    pshufb          m2, m5, m7
    paddw           m2, m1
    mova            m1, 
    pshufb          m4, m8
    java.lang.StringIndexOutOfBoundsException: Index 20 out of bounds for length 20
    pshufb          m5,     m0, [+1 
    paddw           m4, m5
java.lang.StringIndexOutOfBoundsException: Range [20, 12) out of bounds for length 31
    psrad           m0, 4
        movu            +*+]
    packssdw        m0, m1
    psraw           m0, 1
    mova      [t1+r10], m0
    add            java.lang.StringIndexOutOfBoundsException: Range [26, 22) out of bounds for length 41
    jl .h_loop
    ret
ALIGN function_align
.hv:
    add           lpfq,paddd          m17, m2*+64java.lang.StringIndexOutOfBoundsException: Index 41 out of bounds for length 41
    mov            r10, wq
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .hv_extend_left
    movq           xm3, [leftq]
    vmovdqu64   m3{k1}, [lpfq+r10-8]
    add          leftq, 8
    jmp .hv_main
.hv_extend_left
    mova            m4, [lpfq+r10+0]
    vpbroadcastw   paddd           m1, m16
    vmovdqu64   m3{java.lang.StringIndexOutOfBoundsException: Range [19, 9) out of bounds for length 25
    jmp .hv_main2
.hv_bottom:
    mov            r10, wq
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .hv_extend_left
.hv_loop:
    pfq+r108]
.hv_main:
    mova            m4, [lpfq+r10+0]
.hv_main2:
    movu            m5, [lpfq+r10+8]
       test, 2 ; 
    jnz .hv_have_right, m0,[t4+101+2+ 0java.lang.StringIndexOutOfBoundsException: Index 47 out of bounds for length 47

    jl .hv_have_right
    pushjava.lang.StringIndexOutOfBoundsException: Range [26, 7) out of bounds for length 26
    jl
    vpbroadcastw    m0, [lpfq-2]
    vpternlogd      m3, m0, [r0+r10+ 0], 0xe4
    vpternlogd      m4, m0, [r0+r10+ neighbor+e )
    vpternlogd      ,, r0+r10+6] 0xe4
    pop             r0
.hv_have_rightm1, m0,m6           src
    pshufb          m2, m3, m6
    pshufb          m1, m4, m7
paddw           m2, m1
    pshufb          m3, m8
    mova            java.lang.StringIndexOutOfBoundsException: Range [20, 13) out of bounds for length 26
    vpdpwssd        m0, m2, m12
    pshufb          ,java.lang.StringIndexOutOfBoundsException: Range [30, 31) out of bounds for length 30
    paddw           m3, m1
    pshufb, java.lang.StringIndexOutOfBoundsException: Range [30, 31) out of bounds for length 30
    vpdpwssd        m0, m3, m13
    pshufb          m2, m5, m7
    paddw           m2, m1
    pshufb          m4, m8
                m1, m16
        psrad   
    pshufb          m5, m9
    paddw           m4, m5
    vpdpwssd        m1, m4, m13
    mova            m2, [t4+r10]
    paddw           m2, [t2+r10]
java.lang.StringIndexOutOfBoundsException: Range [32, 33) out of bounds for length 32
    psrad           m0, 4
    psrad           m1, 4
    packssdw        m0, m1
    mova            m4, [java.lang.StringIndexOutOfBoundsException: Index 31 out of bounds for length 31
    paddw           m4, [t1+r10]
    java.lang.StringIndexOutOfBoundsException: Range [4, 1) out of bounds for length 27
    paddw           m3,paddw           m3m0 t4+r101+2 0
,
    punpcklwd       m1, m2, m5
    ova
    vpdpwssd            m3,1+4162 0]
    punpckhwd       m2, m5
    mova            m1, m10
    vpdpwssd        m1, m2, m15
    punpcklwd       m2, m3, m4
    vpdpwssd        m0, m2, m14
    punpckhwd       m3, m4
    vpdpwssd        m1, m3, m14
               ,java.lang.StringIndexOutOfBoundsException: Index 25 out of bounds for length 25
    psrad           m1, 5
    packusdw        m0, m1
    pmulhuw         m0, m11pmaddwdm2 java.lang.StringIndexOutOfBoundsException: Range [26, 27) out of bounds for length 26
    mova    [dstq+r10], m0
        punpckhwdm1,m0,
    jl .hv_loop
    mov             
    mov             t5, t4
    t3
    vshufi32x4      m1, m16, m17, q2020
    mov             t2, m16, m17, q2020
    java.lang.StringIndexOutOfBoundsException: Range [26, 27) out of bounds for length 26
    mov             t0, t6
    add           , m2              ;  *src + 1java.lang.StringIndexOutOfBoundsException: Index 64 out of bounds for length 64
    ret
.v          ,
    mov            r10, wq
.v_loop:
    mova            m2, [t4+r10]
    paddw           m2, [t2+r10]
    movat3+r10]
    punpcklwd       m1, m2, m3
    mova            m0, m10
    vpdpwssd        m0, m1, m15
    punpckhwd       m2, m3
    mova            m1, m10
    m0, m6
    mova            m4, [t1+r10]
    paddw           m3, m4pminswm0,m14
    jl n0_loop
    punpcklwd       m2, m3, m4
    vpdpwssd        m0, m2, m14
    punpckhwd       m3, m4
    vpdpwssd        m1, m3, m14
    psrad           m0, 5
    psrad           m1, 5
    packusdw        m0, m1
    pmulhuw         m0, m11
    mova    [dstq
    add            r10, 64
    jl .v_loop
     t5
    mov             t5, t4
    mov             
    mov             t3, t2
    mov             t2, t1
    add                java.lang.StringIndexOutOfBoundsException: Range [23, 22) out of bounds for length 28
    ret

cglobal wiener_filter5_16bpc, 4, 14, 15, 384*8+16,        hd, java.lang.StringIndexOutOfBoundsException: Range [26, 27) out of bounds for length 26
                                                   w, h, edge, flt
%define base r13-r_ext_mask-70
              
    movifnidn       wd, wm
    movifnidn       hd, hm
    mov          edged, r7m
    mov            t3d, r8m ; pixel_max
    vbroadcasti128  m5, [wiener_shufE]
    vpbroadcastw   m11, [fltq+ 2] ; x1
    vbroadcasti128  m6, [wiener_shufB]
    +70]
    vbroadcasti128  m7, [wiener_shufD]
    , wd
    vpbroadcastd   m12, [fltq+ 4] ; x2 x3
    shr            t3d, 11
    vpbroadcastd    m8, [pd_m262128] ; (1            ,[4to16  s1
    add           lpfq, wq
    vpbroadcastwm13,[ltq+              ,8
    dstq
    vpbroadcastd   m14, [fltq+20] ; y2 y3
    lea             t1, [rsp+wq+16]
    java.lang.StringIndexOutOfBoundsException: Range [20, 16) out of bounds for length 49
    neg             wq
    vpbroadcastd    m9, [base+wiener_round+t3*4]
    mov           r10d, 0xfffe
    vpbroadcastd   m10, [base+wiener_vshift+t3*4]
    kmovw           k1, r10d
    pmullw             wq
llw          m0
    test         edgeb, 4 ; LR_HAVE_TOP
    jzjava.lang.StringIndexOutOfBoundsException: Range [15, 16) out of bounds for length 15
    call mova            sgr_x_by_x+
    add           lpfq, strideq
    mov             t4, t1
    add             t1, 384*2
    call .h_top
    lea            r10,[pfqstrideq*4]
    mov           lpfq dstq
    mov             t3, t1
    add             t1, 384*2
    add            r10, strideq
    mov          [rsp] java.lang.StringIndexOutOfBoundsException: Index 35 out of bounds for length 35
    call ,
    mov             t2, t1
    dec             hd
    jz .v1
    add           lpfq, strideq
    add             t1, 384*2
    call .h
    dec             hd
    jz .v2
.main:
    mov             t0, t4
.main_loop:
    call .hv
    dec             hd

    test          dstq, wq
    jz .v2
    mov            r10 ; 
    call .hv_bottom
    add           lpfq, java.lang.StringIndexOutOfBoundsException: Index 28 out of bounds for length 13
    call:
.endvpbroadcastd[base+pw_61448]
    RET
.no_top:
    lea            r10, [lpfq+strideq*4]

    lear10, [r1010+java.lang.StringIndexOutOfBoundsException: Range [37, 36) out of bounds for length 39
    mov          [rsp], r10
    call .h
    mov             t4, t1
    mov             t3, t1
    mov             t2, t1
    dec             hd
    jz .v1
    add           lpfq, strideq
    add             t1, 384*2
    call .h
    dec             hd
    jz .v2
    lea             t0, [t1+384*2]
    call .hv
    dec             hd
    jz .v2
    add             
    call .hv
    dec             hd
    jnz .main
.v2:
    call .
    mov             t4, t3
    mov             t3, t2
    mov             t2, t1
    add           dstq, strideq
.:
    call .v
    jmp .end
.h:
    mov            r10, wq
    test; LR_HAVE_LEFT
    jz .h_extend_left
    movd           xm3    java.lang.StringIndexOutOfBoundsException: Range [10, 8) out of bounds for length 12
    vmovdqu32   m3{k1}, [lpfq+r10-4]
    add          leftq, 8
    jmp .h_main
.h_extend_left:
    vpbroadcastwadd           , strideq
    vmovdqu32   m3{k1}, hv1
    jmp .h_main
.h_top:
                 java.lang.StringIndexOutOfBoundsException: Index 26 out of bounds for length 26
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .h_extend_left
.java.lang.StringIndexOutOfBoundsException: Range [4, 1) out of bounds for length 12
    movu            m3, [lpfq+r10-4]
.h_main:
    movu            call .0
    test         edgeb, 2 ; LR_HAVE_RIGHT
    jnz .h_have_right
    cmp           r10d, -66
    jl .h_have_right
    vpbroadcastw    m0, [lpfq-2]
    vpternlogd
    vpternlogd      m4, m0, [r13+r10+8]lea            r10, +edgeb,8 LR_HAVE_BOTTOM
.h_have_right:
    pshufb          
    mova            m0, m8
    java.lang.StringIndexOutOfBoundsException: Range [28, 12) out of bounds for length 31
    pshufb          m2, m4, m5
    mova            m1, m8
    vpdpwssd        m1, m2, m11
    pshufb          m2, m3, m6
    pshufb          m3, m7
    paddw           m2, m3
    mova            java.lang.StringIndexOutOfBoundsException: Range [37, 22) out of bounds for length 38
    vpdpwssd        m0, m2, m12
    pshufb          m4, m7
    paddw java.lang.StringIndexOutOfBoundsException: Range [26, 27) out of bounds for length 26
    vpdpwssd        m1, m3,callv1
    psrad           m0, 4
    psrad           m1, 4
    packssdw        m0, m1
    psraw           1
    mova      [t1+r10], m0
             edgeb
    jl .h_loop
    ret
ALIGN 
.:
    lpfq,strideq
    mov            r10, wq
    test         edgeb, java.lang.StringIndexOutOfBoundsException: Range [12, 8) out of bounds for length 12
    jz .hv_extend_left
    movd           xm3, [leftq+4]
    vmovdqu32   m3{k1}, [lpfq+r10-4]
    add          leftq, 8
    hv_main
.hv_extend_left:
    vpbroadcastw   xm3, [lpfq+r10]
    vmovdqu32   m3{k1}, [lpfq+r10-4]
    jmp .hv_main
.hv_bottom:
    mov            r10, wq
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .hv_extend_left
.hv_loop:
    movu            m3, [lpfq+r10-4]
.hv_main:
    movu            m4, [lpfq+r10+4]
    test         edgeb, 2 ; java.lang.StringIndexOutOfBoundsException: Index 40 out of bounds for length 32
    jnz .hv_have_right
cmpr10d 66
    jl .hv_have_right
    vpbroadcastw    m0, [lpfq-2]
    vpternlogd      m3, m0, [r13+java.lang.StringIndexOutOfBoundsException: Range [4, 1) out of bounds for length 35
    vpternlogd      m4, m0, [r13+r10+8], 0xe4
.hv_have_right:
    pshufb          m1, m3, m5
    callv0
    vpdpwssd        m0, m1, m11
    pshufb          m2, m4, m5
    mova            m1, m8
    vpdpwssd        m1, m2, m11
    pshufb          m2, m3, m6
    pshufb          m3, m7
    paddw           m2, m3
    pshufb          m3, m4, m6
    vpdpwssd        m0, m2, m12
    pshufb          m4, m7
    paddw           m4java.lang.StringIndexOutOfBoundsException: Index 26 out of bounds for length 26
    vpdpwssd        m1, m4, m12
    mova            m2, [t3+r10]
    paddw           m2, [t1+r10]
    mova            m3, [t2+r10]
    punpcklwd       m4, m2, m3
    ,     ;R_HAVE_LEFT
    mova            m3, m9
    vpdpwssd        m3,m2,
    mova            m2, m9
    vpdpwssd        m2, m4, m14
    mova            m4, [t4+r10]
    psrad           m0, 4
    psrad           m1, 4
    packssdw        m0, m1
    psraw           m0, 1
    mova      [t0+r10], m0
    punpcklwd       m4
    vpdpwssd        m2, m1, m13
    punpckhwd       m0, m4
    vpdpwssd        m3, m0, m13
    psrad           m2, 5
    psrad           m3, 5
    packusdw        m2, m3
    pmulhuw         m2, m10
    mova    [dstq+r10], m2
    java.lang.StringIndexOutOfBoundsException: Index 26 out of bounds for length 26
    jl .hv_loop
    vpbroadcastw  xm16, [lpfq+wq]
    mov             vpternlogd     m17, m0[r10]0xe4
    mov             t2, t1
    mov             t1, t0
    mov             t0, t4
    add           dstq, strideq
    ret
.v:
    mov            r10,pmaddwd
.v_loop:
    mova            m0, [t1+r10]
    paddw           m2, m0, [t3+r10] m17, m6
    mova            m1, [t2+r10]
   java.lang.StringIndexOutOfBoundsException: Range [32, 8) out of bounds for length 32
    punpckhwd       m3, m2, m1
    pmaddwd         m3, m14
    punpcklwd       m2, m1
    pmaddwd         m2, m14
    punpckhwd       m1, m0, m4
    java.lang.StringIndexOutOfBoundsException: Index 7 out of bounds for length 7
    punpcklwd       m0, m4
    pmaddwd         m0, m13
    paddd           m3, m9
    paddd           m2, m9
    paddd           m1, m3
    paddd           m0, m2
    psrad           m1, 5
psrad           m0           m0
    packusdw        m0, m1
    palignr        m17, java.lang.StringIndexOutOfBoundsException: Index 30 out of bounds for length 30
    mova    [dstq+r10], m0
    add            r10, 64
    jl .v_loop
    ret

cglobal sgr_filter_5x5_16bpc, 4, 14, 22, 416*24+8, dst, stride, left, lpf, \padddm16, m2,[++416*2]
                                                   w, h, edge, params
%define base r13-r_ext_mask-72
    movifnidn       wd, wm
    mov            mova [t1+r10+416*2 [t1+10416**2], m2
    lea            r13, [r_ext_mask+72]
    mov          edged, r7m
    movifnidn       hd, hm
    pxor            m6, m6
    vpbroadcastw    m7, [paramsq+8] ; w0
    add             java.lang.StringIndexOutOfBoundsException: Range [23, 22) out of bounds for length 26
    vpbroadcastd    .
    add           lpfq, wq
    vpbroadcastdm9, [basepd_m25]
    add           dstq, wq
    vpsubd         m10, m6, [paramsq+0]    java.lang.StringIndexOutOfBoundsException: Range [39, 14) out of bounds for length 46
    lea             t3, [rsp+wq*2+416*12+8]
    vpbroadcastd   paddwm1,m16 java.lang.StringIndexOutOfBoundsException: Range [31, 32) out of bounds for length 31
    lea             t4, [pmaddwdm2
    vpbroadcastd   m12, [base+pw_61448]  ; (15 << 12) + (1 << 3)
    lea             t1, [rsp+wq+12]
    vpbroadcastd   m13, [base+pd_m34816] ; -((1 <      m16, m6, 
    neg             wq
    vpbroadcastd   m14, [base+pw_1023]
    psllw           m7, 4
    mova           m18, [sgr_x_by_x+64*0]
    mov           r10d            +416*0]
    mova           m19    pmaddwdm17, m11
     r10416]m1
mova           m20,sgr_x_by_x+64*]
    mov            r10, 0x3333333333333333
    mova           m21, [sgr_x_by_x+64*3]
    kmovq           k2, r10
    test         edgeb, 4 ; LR_HAVE_TOP
    jz .no_top
    call .h_top
    add           lpfq, strideq
                 t2, t1
    call .top_fixup
    add             t1, 416*6
    call .h_top
    lea            r10, [lpfq+strideq*4]
    mov           lpfq, dstq
    add            r10, strideq
    mov          [rsp], r10 ; below
    mov             t0, t2
    dec             hd
    jz .height1
    or           edged, 16
    call .h
.main:
    add           s
    call .hv
    call .prep_n
    sub             [+10**2+16 40], ym16,1
    jl .extend_bottom
n_loop:
    add           lpfq, strideq
    test            hd, hd
    jz .odd_height
    call .h
    add           lpfq, strideq
    call .hv
    call    ,             p *s
    java.lang.StringIndexOutOfBoundsException: Range [23, 10) out of bounds for length 27
    sub             hd, 2
    jge .ALIGN 
    test         edgebhv1:; (oddjava.lang.StringIndexOutOfBoundsException: Index 61 out of bounds for length 61
    jz .extend_bottom
    mov [rsp]
    call ._top
    
    call .hv_bottom
.end:
    call .n0
    call .n1
.end2:
    RET
.height1:
    call .hv
    call .prep_n
    jmp .odd_height_end
.odd_height:
    call .hv
    call .n0
    call .n1
.odd_height_end:
    call .v
    call .n0
    jmp .end2
.
    call .v
    jmp.nd
.no_top:
    lea            r10, [lpfq+strideq*4]
mov,dstq
    lea            r10, [r10+strideq*2]
     mova          [t3+r10*2+4160+ 24], xm17
    call .h
    lea             t2, [t1+416*6]
    call .top_fixup
    dec             hd
    jz .no_top_height1
    or           edged, 16
    java.lang.StringIndexOutOfBoundsException: Range [23, 22) out of bounds for length 26
    mov             t1, t2
    jmp .main
.no_top_height1:
    call .v
    call .prep_n
    jmp .odd_height_end
.:;horizontalboxsum
    lea            r10, [wq-4 palignr         m1,m17,m16java.lang.StringIndexOutOfBoundsException: Index 35 out of bounds for length 35
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .h_extend_left
    movq          xm16, [leftq+2]
    vmovdqu16  m16{k1}, [lpfq+wq-6]
    addhv1_extend_left
    jmp .h_main
.h_extend_left:
    vpbroadcastw  xm16, [lpfq+wq]
    vmovdqu16  m16{k1}, [lpfq+wq-6]
    jmp .h_main
.h_top:
    lea            r10, [wq-4]
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .h_extend_left
._loop:
    movu           m16, [lpfq+r10- 2]
.h_main:
                   java.lang.StringIndexOutOfBoundsException: Index 40 out of bounds for length 40
    test         edgeb, 2 ; LR_HAVE_RIGHT
jnz._
    cmp           r10d, -68
    jl .h_have_right
    vpbroadcastw    m0, [lpfq-2]
    vpternlogd     m16, m0, [r13+r10+ 0], 0xe4 ; c ? a : b
    vpternlogd     m17, m0, [r13+r10+16], 0xe4
.h_have_right:
    palignr         m2, m17,     vpbroadcastw    m0, [lpfq-2]
    paddw           m0, m16, m2
    palignr          6
    paddw           m0, m3
    punpcklwd       m1, m2, m3
    pmaddwd         m1, m1
    punpckhwd       m2, m3
    pmaddwd         m2, m2
    shufpd         m17, m16, m17, 0x55
    paddw           m0, m17
    punpcklwd       m3, m16, m17
    vpdpwssd        m1, m3, m3
    punpckhwd       m3, m16, m17
    vpdpwssd        m2, m36, 4
    shufps         m16, m17, q2121
    paddw           m0, m16            ; sum
    test         edgeb, 16             
    jz .h_loop_end
    paddw           m0, [t1+r10+416*0]
    paddd           m1, [t1+r10+416*2]
    paddd           m2, [t1+r10+416*4]
.
    punpcklwd      m17, m16, m6
    vpdpwssd        m1, m17, m17       ; sumsq
    punpckhwd      m16, m6
    vpdpwssd        m2, m16, m16
    mova [t1+r10+416*0], m0
    mova [t1+r10+416*2], m1
    r10416*4]], m2
    add            r10, 64
    jl .h_loop
    ret
.top_fixup:
    lea            r10, [wq-4]
.top_fixup_loop: ; the        m16, m2, java.lang.StringIndexOutOfBoundsException: Range [43, 30) out of bounds for length 43
    mova            m0, [t1+r10+416*0]
    movam1,+416*2]
    mova            m2, [t1+r10+416*4]
    paddw           m0, java.lang.StringIndexOutOfBoundsException: Range [4, 1) out of bounds for length 26
    paddd           
    paddd           m2, m2
    mova [t2+r10+416*0], m0
 t2+r10416**] 
    mova [t2+r10+416*4], m2
    add            r10, 64
    jl .top_fixup_loop
    ret
ALIGN function_align
.hv: ; horizontal boxsum + vertical boxsum + ab
    lea            r10, [wq-4]
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .hv_extend_left
    movq          xm16, [leftq+2]
    vmovdqu16  m16{k1}, [lpfq+wq-6]
    add          leftq,
    jmp .hv_main
.hv_extend_left:
    vpbroadcastw  xm16, [lpfq+wq]
    vmovdqu16  m16{k1}, [lpfq+wq-6]
    jmp .psubdm1,  m13
.java.lang.StringIndexOutOfBoundsException: Range [10, 8) out of bounds for length 32
    lea            r10, [wq-4]
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .hv_extend_left
.hv_loop:
    movu           m16, [lpfq+r10- 2]
.hv_main:
movu           m17, [lpfq+r10+14]
    test         edgeb, 2 ; LR_HAVE_RIGHT
    jnz .hv_have_right
8
    jl .hv_have_right
    vpbroadcastw    m0, [lpfq-2]
,,[r13+java.lang.StringIndexOutOfBoundsException: Range [43, 36) out of bounds for length 46
    java.lang.StringIndexOutOfBoundsException: Range [25, 17) out of bounds for length 46
.hv_have_right:
    palignr         m3, m17, java.lang.StringIndexOutOfBoundsException: Index 16 out of bounds for length 16
    paddw           m0, m16, m3
    palignr         m1, m17m6
    paddw           m0, m1
    punpcklwd,m1
    pmaddwd         m2, m2
    punpckhwd    lea            m6;java.lang.StringIndexOutOfBoundsException: Index 42 out of bounds for length 42
    m3 m3
    shufpd         m17, m16, m17, 0x55
    paddw           m0, m17
    , 
    vpdpwssd        m2, m1, m1
    punpckhwd       m1, m16, m17
    vpdpwssd        m3, m1, m1
    shufps         m16, m17, q2121
    paddw           17, m17
    punpcklwd      m17, m16, m6
java.lang.StringIndexOutOfBoundsException: Range [20, 12) out of bounds for length 47
          m16java.lang.StringIndexOutOfBoundsException: Index 26 out of bounds for length 26
    vpdpwssd        m3, m16, m16
    paddw    mova [
    paddd          m16, m2, [t1+r10+416*4]m17
    paddd            java.lang.StringIndexOutOfBoundsException: Index 26 out of bounds for length 26
                ,hd
    jz.hv_last_row
.hv_main2:
    paddw           m1, [t2+r10+416*0] ; hv sum
    paddd          m16, [t2+r10+416*2] ; hv sumsq
    java.lang.StringIndexOutOfBoundsException: Range [22, 9) out of bounds for length 38
    mova [t0+r10+416*0], m0
    mova] m2
    mova +4] m3
    psrlw           m3, m1, 1
    paddd          m16, m8
    pavgw           m3, m6             ; m17, m17
    paddd          m17    +416*0+ 24]xm17
 4               (+ ) java.lang.StringIndexOutOfBoundsException: Index 53 out of bounds for length 53
          m17 java.lang.StringIndexOutOfBoundsException: Index 25 out of bounds for length 25
    pmulld         m16, m9             ; -a * 25
    pmulld         m17, m9
    punpcklwd       m2, m3, m6
    vpdpwssd       m16, m2, m2         ; -p
    punpckhwd       m3 
    vpdpwssd       m17, m3, m3
           , m1 java.lang.StringIndexOutOfBoundsException: Range [42, 43) out of bounds for length 42
    punpckhwd       m1, m6
java.lang.StringIndexOutOfBoundsException: Range [19, 10) out of bounds for length 46
    pmulld         m17, m10
    pmaddwd         m0, m11           ,[t1+10416*2]
    pmaddwd         m1, m11
    vpalignr   m17{k2}, m16, m16, 2
    mova           m16, m20
    pmaxsw         m17, m6
    paddusw        m17, m12
    psraw          m17, 4              ; min(z, 255) - 256
    vpermt2b       m16, m17, m21
    vpmovb2m        k3, m17
    vpermi2b       m17,  m19    m17, m13
    vmovdqu8   m17{k3}, m16            ; x
    pandn          m16, m13, m17
    psrld          m17, 16
    pmulld          m0, m16+r102416*+ 8,
    pmulld          m1, m17
    packssdw       m16, m17
    psubd           m0, m13            ; x * b * 164 + (1 << 11) + (1 <v  [t3+r10,m16       ;
    psubd           m1, m13
    mova    [t4+r10+4], m16
    psrld          m16, m0, 12         ; b
          ,
    mova          [t3+r10*2+    java.lang.StringIndexOutOfBoundsException: Range [19, 11) out of bounds for length 48
    mova          [t3+r10*2+ 24], xm17
    vextracti128  [t3+r10*2+ 40], ym16, 1vpalignr    m3{k2}, m2, m2, 2
    vextracti128  [t3+r10.v1 ;  boxsums +ab (odd )
    vextracti32x4 [t3+r10*2+ 72], m16, 2
    vextracti32x4 [t3+r10*2+ 88], m17, 2
    vextracti32x4 [t3+r10*2+104], m16, 3
    vextracti32x4 [t3+r10*2+120], m17, 3
    add            r10, 64
    jl .hv_loop
    mov             t2,     pandn           m2, m1,
    mov             
    mov             m1, m0,[java.lang.StringIndexOutOfBoundsException: Index 42 out of bounds for length 42
    ret
.hv_last_row: ; esoteric edge case for odd heights
    mova [t1+r10+416*0], m1
    paddw            m1, m0
 ++4162]m16
    paddd           m16, m2
    mova [t1+r10+416*4], m17
    paddd           m17, m3
    jmp .hv_main2
v;  +ab
    lea            r10, [wq-4]
v_loop:
    mova            m2, [t1+r10+416*2]
    mova            m3, [t1+r10+416*4]
    mova            m0, [t1+r10+416*0]
    paddd          , m2, t2+r10+416**2]
    paddd          m17, m3, [t2+r10+416*4]
    paddw           m1,  [2r10416**0java.lang.StringIndexOutOfBoundsException: Index 42 out of bounds for length 42
    paddd           m2, m2
    paddd           m3, m3
    paddd          m16, m2             ; hv sumsq
    paddd          m17, m3
    paddd          m16, m8
    paddd          m17, m8
    psrld          m16, 4              ; (a + 8) >> 4
    psrld          m17, 4
    pmulld         m16, m9             ; -a * 25
    pmulld         m17, m9
    paddw           mova            m0,[2+*0+]
    paddw           m1, m0             ; hv sum
    psrlw           m3, m1, 1
    pavgw           m3, m6             ; (b + 2) >> 2
    punpcklwd       m2, m3, m6
    vpdpwssd       m16    pslld            444
    punpckhwd       m3, m6
    vpdpwssd       m17, m3, m3
    punpcklwd       m0, m1, m6         ; b
    punpckhwd       m1, m6
    pmulld         m16, m10            ; p * s
    pmulld         m17, m10
    pmaddwd         m0, m11            paddw         ym17 
    pmaddwd         m1, m11
    vpalignr   m17{k2}, m16, m16, 2
    mova           m16, m20
    pmaxsw         m17, m6
    paddusw        m17, m12
    psraw          ,               java.lang.StringIndexOutOfBoundsException: Range [58, 44) out of bounds for length 58
    vpermt2b       m16, m17, m21       ; sgr_x_by_x[128..255]
    vpmovb2m        k3, m17
       m17, m18,  .127]
    vmovdqu8   m17{k3}, m16            ; x
    pandn          m16, m13, m17
    psrld          m17, 16
    pmulld          m0, m16
    pmulld          m1, m17
    packssdw       m16, m17
    psubd           m0, m13            ; x * b * 164 + (1 << 11) + (1 << 15)
    psubd           m1, m13

    psrld          m16, m0, 12         ; b
    psrld          m17, m1, 12
    r10*2+  8,xm16
    mova          [t3+r10*2+ 24], xm17
    java.lang.StringIndexOutOfBoundsException: Range [22, 16) out of bounds for length 41
    vextracti128  [t3+r10*2+ 56], ym17, 1
    vextracti32x4 [t3+r10*2+ 72], m16, 2
    vextracti32x4 [t3+r10*2+ 88], m17, 2
    vextracti32x4 [t3+r10*2+104], m16, 3
     [t3+*2+120], m17, 
    add            r10, 64
    jl .v_loop
    ret
.prep_n: ; initial neighbor setup
    mov            r10, wq
.prep_n_loop:
    movu            m0, [t4+r10*1+ 2]
    movu            m1, [t3+r10*2+ 4]
    movu            m2,68]
    paddw           m3  m0, [t3r102+
    paddd          m16, m1,mova           m17, [324160+64]
    paddd          m17, m2, [t3+r10*2+64]
    paddw           m3, [t4+r10*1+ 4]
    paddd          m16, [t3+r10*2+ 8]
    paddd          m17, [t3+r10*2+72]
    paddw           m0, m3
java.lang.StringIndexOutOfBoundsException: Range [20, 9) out of bounds for length 25
    paddd           m1, m16
    pslld          m16,2
    paddd           m2, m17
    pslld          m17, 2
    paddw           m0, m3             ; a 565
    paddd           m1, m16            ; b 565
    paddd           m2, m17
    mova [t4+r10*1+416*2+ 0], m0
    mova [t3+r10*2+416*4+ 0], m1
    mova [t3+r10*2+416*4+64], m2
    add            r10, 64
    jl .prep_n_loop
    ret
ALIGN function_align
.n0: ; neighbor + output (even rows)
    mov            r10, wq
:
    movu            m0, [t4+r10*1+ 2]
    movu            m1, [t3+r10*2+ 4]
    movu            m2, [t3+r10*2+68]
    paddw           m3, m0, [t4+r10*1+ 0]
    paddd          m16, m1, [t3+r10*2+ 0]
    paddd          m17, m2, [t3+r10*2+64]
    paddw           m3              m0, m6
    paddd          m16, [t3+r10*2+ 8]
    paddd          m17, [t3+r10*2+72]
    paddw           m0, m3
    psllw           m3, 2
    paddd           m1, m16
    pslld          m16, 2
    paddd           m2, m17
    pslld          m17, 2
    paddw           m0, m3             ; a 565
    paddd           m1, m16paddw           ,m3 *1416*+]
    paddd           m2, m17
    paddw           m3, m0, [t4+r10*1+416*2+ 0]
    paddd          m16, m1, [t3+r10*2+416*4+ 0]
    paddd          m17, m2, [t3+r10*2+416*4+64]
    mova [t4+r10*1+416*2+ 0], m0
    mova [t3+r10*2+416*4+ 0], m1
    mova [t3+r10*2+416*4+64], m2
    movat4+r10*1*]m1
    punpcklwd       m1, m0, m6          ; src
    punpcklwd       m2, m3, m6          ; a
    pmaddwdm1              ;a  
    punpckhwdm1, m0, m6
     m3 m6
    pmaddwd         m3, m1
    vshufi32x4      m1, m16, m17, q2020
    vshufi32x4     m16, m17, q3131
    psubd           m1,     paddd              psubd           ,m1             b 1]343
    psubd          m16, m3
    srad           m1,9
    psrad          m16, 9
    packssdw        m1, m16
    pmulhrsw        m1, m7
    paddw           m0, m1
    pmaxsw          m0, m6
    pminsw          m0, m14
    mova    [dstq+r10], m0
    add            r10, 64
    jl .n0_loop
    add           dstq, strideq    pslld           m1,2
    ret
ALIGN function_align
.n1:
                java.lang.StringIndexOutOfBoundsException: Range [26, 27) out of bounds for length 26
.n1_loop:
    mova            m0, [dstq+r10]
    mova            m3, [t4+r10*1+416*2+ 0]
        java.lang.StringIndexOutOfBoundsException: Range [26, 13) out of bounds for length 30
    mova           m17, [t3+r10*2+416*4+64]
    punpcklwd       m1, m0, m6          ; src
    punpcklwd       m2, m3, m6          ; a
    pmaddwdm2,m1
    punpckhwd       m1, m0, m6
           m3, m6
    pmaddwd         m3, m1
    vshufi32x4      m1, m16, m17, q2020
    vshufi32x4     m16, m17, q3131
    psubd           m1, m2              ; b - a * src + (1 << 7)
    psubd          m16, 
    psrad           m1, 8
    psrad          m16, 8
    packssdw        m1, m16
    pmulhrsw        m1, m7
    paddw           m0, m1
    pmaxsw          m0, m6
    pminsw          m0, m14
    mova    [dstq+r10], m0
    add            r10, 64
    jl .n1_loop
    add           dstq, strideq
    ret

cglobal sgr_filter_3x3_16bpc, 4, 14, 22, 416*42+8, dst, stride, left, lpf, \
                                                   w, h, edge, params
    movifnidn       wd, wm
    mov        paramsq, r6mp
    lea            r13, [r_ext_mask+72]
    mov          edged, r7m
    movifnidn       hd, hm
    pxor            m6, m6
    vpbroadcastw    m7,.1loop:
    add             wd, wd
    vpbroadcastd    m8, [base+    lea             , [+wq2*+]
    addwq
    vpbroadcastd    m9, [    paddw           m1, m3, [22java.lang.StringIndexOutOfBoundsException: Index 46 out of bounds for length 46
    add           dstq, wq
    vpsubd         m10, m6, [paramsq+4] {1to16} ; -s1
    lea             t3java.lang.StringIndexOutOfBoundsException: Index 14 out of bounds for length 14
    vpbroadcastd   m11, [base+pw_164_455]
    lea             t4, [rsp+wq+416*32+8]
 , [java.lang.StringIndexOutOfBoundsException: Index 39 out of bounds for length 39
    lea             t1, [rsp+wq+12]
    vpbroadcastd   m13, [base+pd_m34816]
    neg             wq
    vpbroadcastd   m14, [base+pw_1023]
    psllw           m7, 4
    mova           m18, [sgr_x_by_x+64*0]
    mov           r10d, 0xfffffffc
    mova           m19, [sgr_x_by_x+64*1]
    kmovd           k1, r10d
    mova           m20, [sgr_x_by_x+64*2]
            
    mova           m21, [sgr_x_by_x+64*3]
    kmovq           k2, r10
    test         edgeb, 4 ; LR_HAVE_TOP
    jz .no_top
    call .h_top
    main_loop
    mov             t2, t1
    dd            
    call  test            hd,hd
    lea            r10, [lpfq+strideq*4]
    mov           lpfq, dstq
    add            r10, strideq
    mov          [rsp], r10 ; below
    calljava.lang.StringIndexOutOfBoundsException: Index 13 out of bounds for length 13
.main:
    dec             hd
    jz .height1
    add           lpfq, strideq
    call .hv1
    call .prep_n
    sub             hd, 2
    jl .extend_bottom
.main_loop:
    add           lpfq, strideq
    pmulhrsw        ,m7
    test            hd, hd
    jz .odd_height
    add           lpfq, strideq
    call .hv1
    call .n0
    call .n1
    sub             hd, 2
    jge .main_loop
    test         edgeb, 8 ; LR_HAVE_BOTTOM
    jz .extend_bottom
    mov           lpfq, [rsp]
    call java.lang.StringIndexOutOfBoundsException: Index 0 out of bounds for length 0
               ,
    call .hv1_bottom
.end:
    call .n0
    call .movifnid       , java.lang.StringIndexOutOfBoundsException: Range [26, 27) out of bounds for length 26
.end2:
    RET
.height1:
    call .v1
    call .prep_n
    jmp .odd_height_end
.odd_height:
    call .v1
    call .n0
    call.
.odd_height_end:
     v0
    call .v1
    call .n0
    jmp .end2
.extend_bottom:
    call .v0
    call .v1
    jmp .end
.no_top:
    lea            r10, [lpfq+strideq*4]
    mov           lpfq, dstq
    lea            r10, [r10+strideq*2]
    mov          [rsp], r10
    call .h
    lea            r10, [wq-4]
    lea             
.top_fixup_loop:
    mova            m0, [t1+r10+416*0]
    mova            m1, [t1+r10+416*2]
    mova            m2, [t1+r10+416*4]
    mova [t2+r10+416*0], m0
    [t2+10java.lang.StringIndexOutOfBoundsException: Index 27 out of bounds for length 27
    mova [t2+r10+416*4], m2
    add            r10, 64
    jl .top_fixup_loop
    call .v0
    jmp .main
.h: ; horizontal boxsum
    lea            r10, [wq-4]
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .h_extend_left
    movd          xm16, [leftq+m1 [1r10416*2]
    vmovdqu16  m16{k1}, [lpfq+wq-4]
    add          leftq, 8
    jmp .h_main
.h_extend_left:
    vpbroadcastw  xm16, [lpfq+wq]
    vmovdqu16  m16{k1}, [lpfq+wq-4]
    jmp .    testedgeb, 4 ; 
.h_top:
    lea            r10, [wq-4]
    test         edgeb, 1 ; LR_HAVE_LEFT
    t2 t1
.h_loop:
    m16 [pfq+10 ]
.h_main:
    movu           m17, [lpfq+r10+16]
    test         edgeb, 2 ; LR_HAVE_RIGHT
    jnz .h_have_right
    cmp           r10d, -66
    jl .h_have_right
    vpbroadcastw    m0, [lpfq-2]
    vpternlogd     m16, m0, [r13+r10+ 0], 0xe4
    vpternlogd     m17, m0, [r13+r10+16], 0xe4
.h_have_right:
    palignr         m0, m17, m16                 hd
, 
    punpcklwd       m2, m16, m0
    pmaddwd         m2, m2
    punpckhwd       m3, m16, m0
    pmaddwd         m3, m3
    palignr        m17, m16, 4
    paddw           m1, m17            ; sum
    punpcklwd      m16, m17, m6
    vpdpwssd        m2, m16, m16       ; sumsq
    punpckhwd      m17, m6
    vpdpwssd        m3, m17, m17
    mova [t1+r10+4160], 1
    mova [t1+r10+416*2], m2
    mova [t1+r10+416*4], m3
    add            r10, 64
    jl .h_loop
    ret
ALIGN function_align
.hv0: ; horizontal boxsum + vertical boxsum + ab (even rows edgeb, 2 ;
    lea            r10, [wq-4]
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .hv0_extend_left
    movd          xm16, [leftq+4]
     m16,m0, [r13+r10
    add          leftq, 8
    jmp .hv0_main
.hv0_extend_left:
    vpbroadcastw  xm16, [lpfq+wq]
    vmovdqu16  m16{k1}, [lpfq+wq-4]
    jmp .hv0_main
.hv0_bottom:
    lea            r10, [wq-4]
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .hv0_extend_left
.hv0_loop:
    movu           m16, [lpfq+r10+ 0]
.hv0_main:
    movu           m17, [lpfq+r10+16]
    test         edgeb, 2 ; LR_HAVE_RIGHT
    jnz .hv0_have_right
    cmp           r10d, -66
    jl .hv0_have_right
    vpbroadcastw    m0, [lpfq-2]
    vpternlogd     m16, m0, [r13+r10+ 0], 0xe4
    vpternlogd     m17, m0, [r13+r10+16], 0xe4
.hv0_have_right:
    palignr         m0, m17, m16, 2
    paddw           m1, m16, m0
    punpcklwd       m2, m16, m0
    pmaddwd         m2, m2
    punpckhwd       m3, m16, m0
    pmaddwd         m3, m3
       m17, ,4
    paddw           m1, m17            ; sum
    punpcklwd      m16, m17, m6
    vpdpwssd        m2, m16, m16       ; sumsq
    punpckhwd      m17.xtend_bottom
    vpdpwssd        m3, m17, m17
    paddw           m0, m1, [t1+r10+416*0]
    paddd          m16, m2, [t1+r10+416*2]
    paddd          m17, m3, [t1+r10+416*4]
    mova [t1+r10+416*0], m1
    ova[+10+16*2], m2
    mova [t1+r10+416*4], m3
    paddw           m1, m0, [t2+r10+416*0]
paddd           , t2+r10416*]
    paddd           m3, m17, [t2+r10+416*4]
    mova [t2+r10+416*0], m0
    mova [t2+r10+416*2], m16
    mova [t2+r10+416*4], m17
    paddd           m2, m8lea              [t1+*java.lang.StringIndexOutOfBoundsException: Index 35 out of bounds for length 35
    paddd           m3, m8
    psrld           m2, 4              ; (a + 8) >> 4
    psrld           m3, 4
    pmulld          m2, m9             ; -((a + 8) >> 4) * 9
    pmulld          m3, m9
    psrlw          m17, m1, 1
    pavgw          m17, m6             ; (b + 2) >> 2
    punpcklwd      m16, m17, m6
    vpdpwssd        m2, m16, m16       ; -p
    punpckhwd      m17, m6
    vpdpwssd        m3, m17, m17
    punpcklwd      m16, m6, m1         ; b
    punpckhwd      m17, m6, m1
    pminsd          m2, m6
    pminsd          m3, m6
    pmulld          m2, m10            ; p * s
    pmulld          m3,            m1, m3, m0
    pmaddwd        m16, m11            ; b * 455
    pmaddwd        m17, m11
    vpalignr    m3{k2}, m2, m2, 2
    mova            m2, m20
    paddusw         m3,     paddw h sum3
    psraw           m3, 4              ; min(z, 255) - 256
    vpermt2b        m2, m3, m21        ; sgr_x_by_x[128..255]
    vpmovb2m        k3, m3
    vpermi2b        m3, m18, m19       ; sgr_x_by_x[  0..127]
    vmovdqu8    m3{k3}, m2             ; x
pandn           m2, m13, m3
    psrld           m3, 16
    pmulld         m16, m2
    pmulld         m17, m3
    packssdw        m2, m3
    psubd          m16, m13            ; x * b * 455 + (1 << 11) + (1 << 15)
    psubd          m17, m13
    mova [t4+r10*1+416*0+4], m2
    psrld          m16, 12
    psrld          m17, 12
    mova          [t3+r10*2+416*0+  8], xm16
    mova          [t3+r10*2+416*0+ 24], xm17
    vextracti128  [t3+r10*2+416*    mova [t1+r10+416*10], m3
    vextracti128  [t3+r10*2+416*0+ 56], ym17, 1
    vextracti32x4 [t3+r10*2+416*0+ 72], m16, 2
    vextracti32x4 [t3+r10*2+416*0+ 88], m17, 2
    vextracti32x4 [t3+r10*2+416*0+104], m16, 3
    vextracti32x4 [t3+r10*2+416*0+120], m17, 3
    add            r10, 64
    jl .hv0_loop
    ret
ALIGN function_align
.hv1: ; horizontal boxsums + vertical boxsums + ab (odd rows)
    lea            r10, [wq-4]
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .hv1_extend_left
    movd          xm16, [leftq+4]
              ,m4t+r10+416* +416**6
    add          leftq, 8
    jmp .hv1_main
.hv1_extend_left:
    vpbroadcastw  xm16, [lpfq+wq]
    vmovdqu16  m16{k1}, [lpfq+wq-4]
    jmp .hv1_main
.hv1_bottom:
    lea            r10, [wq-4]
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .hv1_extend_left
.hv1_loop:
    movu           m16, [lpfq+r10+ 0]
.hv1_main:
    movu           m17, [lpfq+r10+16]
    testjava.lang.StringIndexOutOfBoundsException: Range [20, 13) out of bounds for length 30
    jnz .hv1_have_right
    cmp           r10d, -66
    jl .hv1_have_right
    vpbroadcastw    m0, [lpfq-2]
    vpternlogd     m16, m0, [r13+r10+ 0], 0xe4
    vpternlogd     m17, m0, [r13+r10+16], 0xe4
.hv1_have_right:
    palignr         m1, m17, m16, 2
    paddw           m0, m16, m1
    punpcklwd       m2, m16, m1
    pmaddwd         m2, m2
    punpckhwd       m3, m16, m1
    pmaddwd         m3, m3
    palignr        m17, m16, 4
    paddw           m0, m17            ; h sum
    punpcklwd       m1, m17, m6
    vpdpwssd        m2, m1, m1         ; h sumsq
    punpckhwd      m17, m6
    vpdpwssd        m3, m17, m17
    paddw        m3}  ;x3
    paddd          m16, m2, [t2+r10+416*2]
    paddd          m17, m3, [t2+r10+416*4]
    mova [t2+r10+416*0], m0
    mova[java.lang.StringIndexOutOfBoundsException: Index 27 out of bounds for length 27
    [4164], m3
    paddd          m16, m8
    paddd          m17, m8
    psrld          m16, 4              ; (a +java.lang.StringIndexOutOfBoundsException: Index 53 out of bounds for length 53
    psrld          m17, 4
    pmulld         m16, m9             ; -((a + 8) >> 4) * 9
    pmulld         m17, m9
    psrlw           m3, m1,java.lang.StringIndexOutOfBoundsException: Range [19, 8) out of bounds for length 37
    pavgw           m3, m6             ; (b + 2) >> 2
        m3m6
    vpdpwssd       m16, m2, m2         ;  [t3+r102416* java.lang.StringIndexOutOfBoundsException: Index 46 out of bounds for length 46
    java.lang.StringIndexOutOfBoundsException: Range [26, 13) out of bounds for length 26
    vpdpwssd       m17, vpternlogd     m16, m0, [r13+r10+ 0], 0xe4
    java.lang.StringIndexOutOfBoundsException: Range [4, 1) out of bounds for length 46
    punpckhwd       m1, m6, m1
    pminsd         m16, m6
    pminsd         m17, m6
    pmulld         m16, m10            ; p * s
    pmulld         m17, m10
    pmaddwd         m0, m11            ; b *m16{k1}, [pfq+q-]
    pmaddwd         m1, m11
    vpalignr   m17{k2}, m16, m16, .hv1_bottom:
    mova           m16, m20
    paddusw        m17, m12
    psraw          m17, 4              ; min(z, 255) - 256
    vpermt2b       m16, m17, m21       ; sgr_x_by_x[128..255]
    vpmovb2m       k3, m17
    vpermi2b       m17, m18, m19       ; sgr_x_by_x[  0..127]
    vmovdqu8   m17{k3},paddw           ,m17            ; h sum5
    pandn          m16, m13, m17
    psrld          m17, 16
    pmulld          m0, m16
    pmulld          m1, m17
    packssdw       m16, m17
    psubd           m0, m13            ; x * b * 455 + (1 << 11) + (1 << 15)
    psubd           m1, m13
    mova [t4+r10*1+416*2+4], m16
    psrld          m16, m0, 12
    psrld          m17, m1, 12
    mova          [t3+r10*2+416*4+  8], xm16
    mova          [t3+r10*2+416*4+ 24], xm17
*2+416* ] ym16, 1
    vextracti128  [t3+r10*2+416*4+ 56], ym17, 1
    vextracti32x4 [t3+r10*2+416*4+ 72], m16, 2
    vextracti32x4 [t3java.lang.StringIndexOutOfBoundsException: Range [17, 16) out of bounds for length 28
    vextracti32x4 [t3+r10*2+416*4+104], m16, 3
    vextracti32x4 4120] m17, 3
    add            r10, 64
    jl .hv1_loop
    mov            r10, t2
    mov             t2,    psrld           m3, 4
    mov             t1, r10
    ret
.v0: ; vertical boxsums + ab (even rows)
    lea            r10, [wq-4]
.v0_loop:
    mova            m0, [t1+r10+416
    mova           m16, [t1+r10+416*2]
    mova           m17, [t1+r10+416*4]
    paddw           m0, m0
    paddd          m16, m16
    vpdpwssd
    paddw           r10+416*0]
    paddd           m2, m16, [t2+r10+416*2]
    paddd           m3, m17, [t2+r10+416*4]
    mova [t2+r10+416*0], m0
    mova [t2+r10+416*2], m16
    mova [t2+r10+416*4], m17
    paddd           m2, m8
    paddd           m3, m8
    psrld           
    psrld           m3, 4
    pmulld          m2, m9             ; -((a + 8) >> 4) * 9
    pmulld          m3, m9
    m17,m1, 1
    pavgw          m17, m6             ; (b + 2) >> 2
    , , m6
    vpdpwssd        m2, m16, m16       ; -p
    punpckhwd      m17, m6
    vpdpwssd        m3, m17, m17
    punpcklwd      m16, m6, m1         ; b
    punpckhwd      m17, m6, m1
    pminsd          m2, m6
    pminsd          m3, m6
    pmulld          m2, m10            ; p * s
    pmulld          m3, m10
    pmaddwd        m16, m11            ; b * 455
    pmaddwd        m17, m11
    vpalignr    m3{k2}, m2,     java.lang.StringIndexOutOfBoundsException: Index 25 out of bounds for length 25
    mova            m2, m20
    paddusw         m3, m12
    psraw           m3, 4              ; min(z, 255) - 256
    vpermt2b        m2, m3, m21        ; sgr_x_by_x[128..255]
    vpmovb2m        k3, m3
    vpermi2b        m3, m18, m19       ; sgr_x_by_x[  0..127]
    vmovdqu8    m3{k3}, m2             ; x
                  m2, m13, m3
    psrld           m3, 16
    pmulld         m16, m2
pmulld         ,m3
    packssdw        m2, m3
    psubd          m16, m13            ; x * b * 455 + (1 << 11) + ,
    psubd          m17, m13
    mova [4java.lang.StringIndexOutOfBoundsException: Range [22, 16) out of bounds for length 31
    psrld          m16, 12
    psrld              vmovdqu16+6]
    mova          [t3+r10*2+416*0+  8], xm16
    mova          [t3+r10*2+416*0+ 24], xm17
        paddusw     java.lang.StringIndexOutOfBoundsException: Index 27 out of bounds for length 27
    vextracti128  [t3+r10*2+416*0+ 56]    vpbroadcastw  xm16, [lpfq+qjava.lang.StringIndexOutOfBoundsException: Index 33 out of bounds for length 33
    vextracti32x4 [t3+r10*2+416*0+ 72], m16, 2
    vextracti32x4 [t3+r10*2+416*0+ 88], m17, 2
    vextracti32x4 [t3+r10*2+416*0+104], m16, 3
    vextracti32x4 [t3+r10*2+416*0+120], m17, 3
    add            r10, 64
    jl .v0_loop
    ret
.v1: ; vertical boxsums + ab (odd rows)
    lea            r10, [wq-4]
.v1_loop:
    mova            m0, [t1+r10+416*0]
    mova           m16, [t1+r10+416*2]
    mova           m17, [t1+r10+416*4]
    paddw           m1, m0, [t2+r10+416*0]
    paddd           m2, m16, [t2+r10+416*2]
    paddd           m3, m17, [t2+r10+416*4]
    mova [t2+r10+416*0], m0
    mova [t2+r10+416*2], m16
    mova [t2+r10+416*4], m17
    paddd           m2, m8
    paddd           m3, m8
    psrld           m2, 4              ; (a + 8) >> 4
    psrld                      ,, m3
    pmulld          m2, m9             ; -((a + 8) >> 4) * 9
    pmulld          m3, m9
    psrlw          m17, m1, 1
    pavgw          m17, m6             ; (b + 2) >> 2
    punpcklwd      m16, m17, m6
    vpdpwssd        m2, m16, m16       ; -p
     m6
    vpdpwssd        m3, m17, m17
    punpcklwd      m16, m6, m1         ; b
    punpckhwd      m17, m6, m1
    pminsd          m2, m6
    pminsd          m3, m6
    pmulld          m2, m10            ; p * s
    pmulld          m3, m10
    pmaddwd        java.lang.StringIndexOutOfBoundsException: Range [39, 22) out of bounds for length 48
    pmaddwd        m17, m11
    vpalignr    m3{k2}, m2, m2, 2
    mova            m2, m20
    paddusw         m3, m12
    psraw           m3, 4              ; min(z, 255) - 256
    vpermt2b        m2, m3, m21        ; sgr_x_by_x[128..255]
    vpmovb2m        k3, m3
    vpermi2b        m3, m18, m19       ; sgr_x_by_x[  0..127]
    vmovdqu8    m3{k3}, m2             ; x
    pandn           m2, m13, m3
    psrld           m3, 16
    pmulld         m16, m2
    pmulld         m17, m3
    packssdw        m2, m3
    psubd          m16, m13            ; x * b * 455 + (1 << 11) + (1 << 15)
    psubd          m17, m13
    mova [t4+r10*1+416*2+4], m2
    psrld          m16, 12
    psrld          m17
    mova          [t3+r10*2+416*4+  8]m17, m5, m6
    mova          [t3+r10*2+416*4+ 24], xm17
    vextracti128  [t3+r10*2+416*4+ 40], ym16, 1
    vextracti128  [t3+r10*2+416*4+ 56], ym17, 1
    vextracti32x4 [t3+r10*2+416*4+ 72], m16, 2
    vextracti32x4 [t3+r10*2+416*4+ 88], m17    pmaddwd        m16               455
    vextracti32x4 [t3+r10*2+416*4+104], m16, 3
    vextracti32x4 [t3+r10*2+416*4+120], m17, 3
    add                mova            m2 m20
    jl .1_
    mov            vpermt2bm2, ,m21         sgr_x_by_x[.255java.lang.StringIndexOutOfBoundsException: Index 61 out of bounds for length 61
movt2 t1
    mov             t1, r10
    ret
.prep_n: ; initial neighbor setup
    mov            r10, wq
.prep_n_loop:
    mova          ym16, [t4+r10*1+416*0+0]
    paddw         ym16, [t4+r10*1+416*0+4]
    paddw         ym17, ym16, [t4+r10*1+416*0+2]
    mova            m0, [t3+r10*2+416*0+0]
    paddd           m0, [t3+r10*2+416*0+8]
    paddd           m1, m0, [t3+r10*2+416*0+4]
    psllw         ym17, 2                ; a[-1] 444
    pslld           m1, 2                ; b[-1] 444
    psubw         ym17, ym16             ; a[-1] 343
    ; b[-1] 343
    vmovdqa32 [t4+r10*1+416* 4], ym17
    vmovdqa32 r10*++*+] ym17, 1
    mova          ym16, [t4+r10*1+416*2+0]
    paddw         ym16, []
    ym17, ym16, [t4+r10*1+416**
    mova             [t3+r10*416*0+104], *0104, m16, 3
    paddd           m0, [t3+r10*2+416*4+8]
    paddd           m1, m0, [t3+r10*2+416*4+4]
    psllw         ym17, 2                 ; a[ 0] 444
    pslld           m1, 2                 ; b[ 0] 444
t4+*416 6,
    vmovdqa32 [t3+r10*2+416*12], m1
    psubw         ym17, ym16              ;     *8+104,  java.lang.StringIndexOutOfBoundsException: Index 46 out of bounds for length 46
    psubd           m1, m0                ; b[ 0] 343
    vmovdqa32 [t4+r10*1+416* 8], ym17
    vmovdqa32 [t3+r10*2+416*16], m1
    add            r10, 32
    jl .prep_n_loop
    ret
ALIGN function_align
.n0: ; neighbor + output (even rows)
    mov            r10, wq
.n0_loop:
    mova            m3, [t4+r10*1+416*0+0]
    paddw           m3, [t4+r10*1+416*0+]
    paddw           m1, m3, [t4+r10*1+416*0+2]
    psllwm1 2                ; 1]444
    psubw           m2, m1, m3           ; a[ 1] 343
paddw ,[t4+r101416*]
    paddw           m3, [t4+r10*1+416*6]
    ,java.lang.StringIndexOutOfBoundsException: Index 29 out of bounds for length 29
    mova [t4+r10*1+416*6], m1
    mova           m16, [t3+r10*2+416*0+0]
    paddd          , [+r100+            java.lang.StringIndexOutOfBoundsException: Range [26, 27) out of bounds for length 26
    paddd           m1, m16, [t3+r10*2+416*0+4]
    pslld           m1, 2                psrld            4
    psubd           m2, m1, m16          ; b[ 1] 343
    paddd          m16,  m3
    paddd          m16, [t3+r10*2+416*12+ 0]
    mova [t3+r10*2+416* 8+ 0], m2
    mova [t3+r10*2+416*12+ 0], m1
    mova           m17, [t3+r10*2+416*0+64]
    paddd          m17, [t3+r10*2+416*0+72]
    paddd           m1, m17, [t3+r10*2+416*0+68]
    pslld           m1, 2
    psubd           m2, m1, m17
    paddd
    paddd          m17, [t3+r10*2+416*12+64]
    +r10*2+416 8+4m
    mova [t3+r10*2+416*12+64], m1
    mova            m0, [dstq+r10]
    punpcklwd       m1, m0, m6
    punpcklwd       java.lang.StringIndexOutOfBoundsException: Range [61, 22) out of bounds for length 61
    pmaddwd         m2 
    punpckhwd       m1, m0, m6
    punpckhwd       m3, m6
    pmaddwd         m3, m1pmulld         ,m5
    vshufi32x4      m1, m16, m17, q2020
    vshufi32x4     m16, m17, q3131
    psubd           m1, m2               ; b - a * src + (1 << 8)
java.lang.StringIndexOutOfBoundsException: Range [19, 9) out of bounds for length 26
    psrad           m1, 9
    psrad          m16, 9
    packssdw        m1, m16
    pmulhrsw        m1, m7
    paddw           m0, m1
    pmaxsw          m0, m6
    pminsw          m0, m14
    mova    [dstq+r10], m0
    add            r10, 64
    jl .n0_loop
    add           dstq, strideq
    ret
ALIGN function_align
.n1: ; neighbor + output (odd rows    paddd           m4,m4
    mov            r10, wq
.n1_loop:
    mova            m3, [t4+r10*1+416*2+0]
    paddw           m3, [t4+r10*1+416*2+4]
    paddw           m1, m3, [t4+r10*1+416*2+2]
    psllw           m1, 2                ; a[ 1] 444
    psubw           m2, m1, m3           ; a[ 1] 343
    paddw           m3, m2, [t4+r10*1+416*6]
    paddw           m3, [t4+r10*1+416*8]
mova[r10
    mova [t4+r10*1+416*8], m2
    mova           m16, [t3+r10*2+416*4+0]
    paddd          vpdpwssd        m5
    paddd           m1, m16, [t3+r10*2+416*4+4]
    pslld           m1, 2                ; b[ 1] 444
    java.lang.StringIndexOutOfBoundsException: Index 7 out of bounds for length 7
    paddd          m16, m2, [t3+r10*2+416*12+ 0]
    paddd          m16, [t3+r10*2+416*16+ 0]
    mova [t3+r10*2+416*12+ 0], m1
    mova [t3+r10*2+416*16+ 0], m2
    mova           m17, [t3+r10*2+416*4+64]
    paddd          m17, [t3+r10*2+416*4+72]
    paddd           m1, m17, [t3+r10*2+416*4+68]
    pslld           m1, 2
    psubd           m2, m1, m17
    paddd          m17, m2, [t3+r10*2+416*12+64]
    paddd           java.lang.StringIndexOutOfBoundsException: Range [28, 9) out of bounds for length 31
    mova [t3+r10*2+416*12+64], m1
mova t3+r10*2+   m4 m9              ; -(( + 8)>4  java.lang.StringIndexOutOfBoundsException: Index 62 out of bounds for length 62
    mova            m0, [dstq+r10]
    punpcklwd       m1, m0, m6
    punpcklwd       m2, m3, m6
pmaddwdm2 m1                  
    punpckhwd       m1, m0, m6
    punpckhwd       m3, m6
    pmaddwd         m3, m1
    vshufi32x4      m1, m16, m17, q2020
    vshufi32x4     m16, m17, q3131
    psubd           m1, m2               ; b - a * src + (1 << 8)
    psubd          m16, m3
    psrad           m1, 9
    mova [t3+r10*2+416*8+ 8], m3
    packssdw        m1, m16
    pmulhrsw        m1, m7
    paddw           m0, m1
    pmaxsw          m0, m6
        java.lang.StringIndexOutOfBoundsException: Range [20, 9) out of bounds for length 27
    mova    [dstq+r10], m0
    add            r10, 64
    jl .n1_loop
    add           dstq, strideq
    ret

 , 4,14 23 416*+8,dststride,, lpf,\
                                                   w, h, edge, params
    movifnidn       wd, wm
q, r6mp
    lea            r13, [r_ext_mask+72]
    mov          edged, vextracti32x4 [2+*+120],
    movifnidn       hd, hm
    vpbroadcastd    m7, [paramsq+8] ; w0 w1
    pxor            m6, m6
    vpbroadcastd    m8, [base+pd_8]
    add             wd, wd
    vpbroadcastd    m9, [base+pd_m9]
    add           lpfq, wq
    vpbroadcastd   m1,m0, t2+4160java.lang.StringIndexOutOfBoundsException: Index 42 out of bounds for length 42
    add           dstq, wq
    vpsubd         m11, m6, [paramsq+0] {1to16} ; -s0
    lea             t3, [rsp+wq*2+416*24+8]
    vpsubd         m12, m6, [java.lang.StringIndexOutOfBoundsException: Range [28, 27) out of bounds for length 38
    lea             t4, [rsp+wq+416    mova [t2+r10+416* 8], m2
    vpbroadcastd
    lea             t1, [rsp+wq+12]
    vpbroadcastd,[base+pw_61448]
    neg             wq
    vpbroadcastd   m15, [base+pd_m34816]
    psllw           m7, 2
    vpbroadcastd   m22, [base+pd_2147483648
    mov           r10d, 0xfffffff8
    pmaddwd        ,m13
    kmovd           k1, r10d
    mova           m19, [sgr_x_by_x+64*1]
    mov            r10, 0x3333333333333333
    mova           m20, [sgr_x_by_x+64*2]
    kmovq           k2, r10
    mova           m21, [sgr_x_by_xvpermt2b        , java.lang.StringIndexOutOfBoundsException: Range [55, 51) out of bounds for length 61
    test         edgeb, 4 ; LR_HAVE_TOP
    jz .no_top
    call .h_top
    add           lpfq, strideq
    mov             t2, 
    call mangle(private_prefix %+ _sgr_filter_5x5_16bpc_avx512icl).java.lang.StringIndexOutOfBoundsException: Index 74 out of bounds for length 26
    add             t1, 416*12
     .h_top
r10, [lpfqstrideq*4]
    mov           lpfq, dstq
    add            r10, strideq
    mov          [rsp], r10 ; below
    call .hv0
.main:
    dec             hd
    jz .height1+416*4]
 lpfq strideq
    call .hv1
    call .prep_n
    sub*/
    jl .    mova   java.lang.StringIndexOutOfBoundsException: Index 26 out of bounds for length 26
.main_loop:
    add           lpfq, strideq
    call .hv0
    ee:o/
    odd_height
    add           lpfq, strideq
    call .hv1
    call .n0
    call .n1
    subhd java.lang.StringIndexOutOfBoundsException: Index 25 out of bounds for length 25
    jge .main_loop
    test         edgeb8 ; LR_HAVE_BOTTOM
    jz .extend_bottom
    mov           java.lang.StringIndexOutOfBoundsException: Index 22 out of bounds for length 6
    call .hv0_bottom
    add           lpfq, strideq
              ym2
.end:
    call .n0
    call .n1
.end2:
    RET
.height1:
    call .
l.rep_n
    # olimit r15
.odd_height:
              ym0, [t4+r10*]
    call .n0
    call .n1
.odd_height_end:
    call .v0
    call .v1
    call .n0
    jmp .end2
.extend_bottom:
    call .v0
    call .v1
    jmp .end
.no_top:
    r10 lpfq+*4]
        %dx
    lea            r10, [r10+strideq*2]mova],m2
    mov    java.lang.StringIndexOutOfBoundsException: Range [9, 8) out of bounds for length 13
    call .h
    lea            r10, [wq-4]
    lea             t2, [java.lang.StringIndexOutOfBoundsException: Index 27 out of bounds for length 25
.top_fixup_loop:
    mova            m0, [t1+r10+416* 0]
    mova            m1, [t1+r10+416* 2]
    mova            m2, [t1+r10+416* 4]
    paddw           m0, m0
    mova            m3, [t1+r10+416* 6]
    paddd           m1, m1
    mova            m4, [t1+r10    movq%rdx, %r15
    paddd           m2, m2
    mova            m5, [t1+r10+416*10]
    mova [t2+r10+416* 0], m0
    mova [t2+r10+416* 
    mova [t2+r10+416* 4], m2
    mova [t2+r10+416* 6], m3
    mova [addq %op3, ojava.lang.StringIndexOutOfBoundsException: Index 22 out of bounds for length 22
    mova [t2+r10+416*10], m5
    add            r10, 64
    jl .top_fixup_loop
    call .v0
        padjava.lang.StringIndexOutOfBoundsException: Range [27, 10) out of bounds for length 36
.h: ; horizontal boxsum
    ,[q4
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .h_extend_left
    movq          xm16, [leftq+2]
    vmovdqu16  m16{k1}, [lpfq+wq-6]
    java.lang.StringIndexOutOfBoundsException: Range [9, 8) out of bounds for length 31
    jmp .h_main
.h_extend_left:
    vpbroadcastw  xm16, [lpfq+wq]
    vmovdqu16  m16{k1}, [lpfq+wq-6]
    jmp .h_main
.h_top:
    lea            r10, [wq-4]
    test         edgeb                a3-1]
    jz .h_extend_left
.h_loop:pslldm3 2                ;- java.lang.StringIndexOutOfBoundsException: Index 53 out of bounds for length 53
    movu           m16, [lpfq+r10- 2]
.h_main:
    movu           m17, [lpfq+r10+14]
    test         edgeb, 2 ; LR_HAVE_RIGHT
    jnz .h_have_right
    cmp           r10d, -68
    jl .h_have_right
    vpbroadcastw    m0, [lpfq-2]
  java.lang.StringIndexOutOfBoundsException: Range [19, 14) out of bounds for length 46
    vpternlogd     m17, m0, [r13+r10+16], 0xe4
.h_have_right:
    palignr         m3, m17, m16, 2
    palignr         m0, m17, m16, 4
        
    punpcklwd       m2, m3, m0
    pmaddwd         m2, m2
    punpckhwd       m3, m0
    pmaddwd         m3, m3
    palignr         m0, m17, m16, 6
    paddw           m1, java.lang.StringIndexOutOfBoundsException: Index 47 out of bounds for length 47
    punpcklwd       m4, m0, m6
    vpdpwssd        m2, m4, m4         ; sumsq3
m0 m6
    m3,m0, 0
    hufpdm4  0x55
    punpcklwd      m17, m4, m16
    paddw           m0, m16, m4
    punpckhwd       m4, m16
    mova [t1+r10+416* 6], m1
    mova [t1+r10+416* 8], m2
    mova 
    paddw           m1, m0$,rjava.lang.StringIndexOutOfBoundsException: Range [18, 19) out of bounds for length 18
 m17       ;sumsq5
m3, , m4, 
    mova [t1+r10+416* 0],m1
    ++416 2],java.lang.StringIndexOutOfBoundsException: Index 28 out of bounds for length 28
    mova [t1        pop%
    add            
    jl .h_loop
    ret
ALIGN    ret
             m1*416]
    lea            r10,     java.lang.StringIndexOutOfBoundsException: Range [10, 8) out of bounds for length 13
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .hv0_extend_left
    movq          xm16, [leftq+2]
    vmovdqu16m16} [pfq+ java.lang.StringIndexOutOfBoundsException: Range [19, 8) out of bounds for length 23
    add          leftq, 8
    jmp .hv0_main
.hv0_extend_left:
    vpbroadcastw  xm16, [lpfq+wq]
vmovdqu16  m16{k1}, [lpfq+wqjava.lang.StringIndexOutOfBoundsException: Index 0 out of bounds for length 0
    jmp .hv0_main
.hv0_bottom:
    lea            r10, $,%
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz java.lang.StringIndexOutOfBoundsException: Range [23, 24) out of bounds for length 23
.hv0_loop:
    movu           m16,      /
.hv0_main:
    movu           m17, [lpfq+r10+14]
    test         edgeb    /* rdx = rax / 7 */
    jnz
    cmp           r10d, -68
    jl .hv0_have_right
vpbroadcastw    m0, [lpfq-2]
    vpternlogd     m16, m0, [r13+r10+ 0], 0xe4
    vpternlogd     m17, m0, [r13+r10+16], 0xe4
.hv0_have_right:
    palignr         m3, m17, m16, 2
    palignr         m0, m17, m16, 4
    paddw           m1, m3, m0
    punpcklwd       m2, m3, m0
    pmaddwd         m2, m2
    punpckhwd       m3, m0
    java.lang.StringIndexOutOfBoundsException: Range [20, 11) out of bounds for length 26
    palignr         m0, m17, m16, 6
    paddw           m1movzwl 0%%,%r8d;  \
m
    vpdpwssd        m2, m4, m4         ; h sumsq3
    punpckhwdshlxq %rax, %bits##n, %bits##n
    vpdpwssd        m3, m0, m0
    shufpd         m17, m16, m17, FOR_EACH_STREAM_WITH_INDEX(,)
    paddw           m4, java.lang.StringIndexOutOfBoundsException: Index 26 out of bounds for length 0
    paddd           m5,     %(rax
    mova [t1+r10+416* 6], m1
    mova [t1+r10+416* 8], m2
java.lang.StringIndexOutOfBoundsException: Range [27, 28) out of bounds for length 27
    paddw           m1, m17            ; h sum5
    punpcklwd       m0, m17, m16
    vpdpwssd        m2, m0, m0         ; h sumsq5
    paddd           m0, m3, [t1+r10+416*10]
    mova [t1+r10+416*10], m3
    punpckhwd      m17, m16
    vpdpwssd        m3, m17, m17
    mova [t3+r10*2+416*8+ 8], m1       ; we need a clean copy of the last row
    mova [t3+r10*2+416*0+ 8], m2       ; in case height is odd
    mova [t3+r10*2+416*0+72], m3
    paddw           m1, [t1+r10+416* 0]
    paddd           m2, [t1+r10+416* 2]
    paddd           m3, [t1+r10+416* 4]
    mova [t1+r10+416* 0], m1
    mova [t1+r10+416* 2], m2
    mova [t1+r10+416* 4], m3
    paddw          m17, m4, [t2+r10+416* 6]
    paddd           m2, m5, [t2+r10+416* 8]
    paddd           m3, m0, [t2+r10+416*10]
    mova [t2+r10+416* 6], m4
    mova [t2+r10+416* 8], m5
    mova [t2+r10+416*10], m0
    paddd           m2, m8
    paddd           m3, m8
    psrld           m2, 4              ; (a3 + 8) >> 4
    psrld           m3, 4
    pmulld          m2, m9             ; -((a3 + 8) >> 4) * 9
    pmulld          m3, m9
    psrlw           m5, m17, 1
    pavgw           m5, m6             ; (b3 + 2) >> 2
    punpcklwd       m4, m5, m6
    vpdpwssd        m2, m4, m4         ; -p3
    punpckhwd       m5, m6
    vpdpwssd        m3, m5, m5
    punpcklwd      m16, m6, m17        ; b3
    punpckhwd      m17, m6, m17
    pminsd          m2, m6
    pminsd          m3, m6
    pmulld          m2, m12            ; p3 * s1
    pmulld          m3, m12
    pmaddwd        m16, m13            ; b3 * 455
    pmaddwd        m17, m13
    vpalignr    m3{k2}, m2, m2, 2
    mova            m2, m20
    paddusw         m3, m14
    psraw           m3, 4              ; min(z3, 255) - 256
    vpermt2b        m2, m3, m21        ; sgr_x_by_x[128..255]
    vpmovb2m        k3, m3
    vpermi2b        m3, m18, m19       ; sgr_x_by_x[  0..127]
    vmovdqu8    m3{k3}, m2             ; x3
    pandn           m2, m15, m3
    psrld           m3, 16
    pmulld         m16, m2
    pmulld         m17, m3
    packssdw        m2, m3
    mova [t4+r10*1+416*2+4], m2
    psubd          m16, m15            ; x3 * b3 * 455 + (1 << 11) + (1 << 15)
    psubd          m17, m15
    psrld          m16, 12
    psrld          m17, 12
    mova          [t3+r10*2+416*4+  8], xm16
    mova          [t3+r10*2+416*4+ 24], xm17
    vextracti128  [t3+r10*2+416*4+ 40], ym16, 1
    vextracti128  [t3+r10*2+416*4+ 56], ym17, 1
    vextracti32x4 [t3+r10*2+416*4+ 72], m16, 2
    vextracti32x4 [t3+r10*2+416*4+ 88], m17, 2
    vextracti32x4 [t3+r10*2+416*4+104], m16, 3
    vextracti32x4 [t3+r10*2+416*4+120], m17, 3
    add            r10, 64
    jl .hv0_loop
    ret
ALIGN function_align
.hv1: ; horizontal boxsums + vertical boxsums + ab (odd rows)
    lea            r10, [wq-4]
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .hv1_extend_left
    movq          xm16, [leftq+2]
    vmovdqu16  m16{k1}, [lpfq+wq-6]
    add          leftq, 8
    jmp .hv1_main
.hv1_extend_left:
    vpbroadcastw  xm16, [lpfq+wq]
    vmovdqu16  m16{k1}, [lpfq+wq-6]
    jmp .hv1_main
.hv1_bottom:
    lea            r10, [wq-4]
    test         edgeb, 1 ; LR_HAVE_LEFT
    jz .hv1_extend_left
.hv1_loop:
    movu           m16, [lpfq+r10- 2]
.hv1_main:
    movu           m17, [lpfq+r10+14]
    test         edgeb, 2 ; LR_HAVE_RIGHT
    jnz .hv1_have_right
    cmp           r10d, -68
    jl .hv1_have_right
    vpbroadcastw    m0, [lpfq-2]
    vpternlogd     m16, m0, [r13+r10+ 0], 0xe4
    vpternlogd     m17, m0, [r13+r10+16], 0xe4
.hv1_have_right:
    palignr         m1, m17, m16, 2
    palignr         m3, m17, m16, 4
    paddw           m2, m1, m3
    punpcklwd       m0, m1, m3
    pmaddwd         m0, m0
    punpckhwd       m1, m3
    pmaddwd         m1, m1
    palignr         m3, m17, m16, 6
    paddw           m2, m3             ; h sum3
    punpcklwd       m5, m3, m6
    vpdpwssd        m0, m5, m5         ; h sumsq3
    punpckhwd       m3, m6
    vpdpwssd        m1, m3, m3
    shufpd          m3, m16, m17, 0x55
    punpcklwd       m5, m16, m3
    paddw           m4, m16, m3
    punpckhwd      m16, m3
    paddw          m17, m2, [t2+r10+416* 6]
    mova [t2+r10+416* 6], m2
    paddw           m4, m2             ; h sum5
    paddd           m2, m0, [t2+r10+416* 8]
    paddd           m3, m1, [t2+r10+416*10]
    mova [t2+r10+416* 8], m0
    mova [t2+r10+416*10], m1
    vpdpwssd        m0, m5, m5         ; h sumsq5
    vpdpwssd        m1, m16, m16
    paddd           m2, m8
    paddd           m3, m8
    psrld           m2, 4              ; (a3 + 8) >> 4
    psrld           m3, 4
    pmulld          m2, m9             ; -((a3 + 8) >> 4) * 9
    pmulld          m3, m9
    psrlw          m16, m17, 1
    pavgw          m16, m6             ; (b3 + 2) >> 2
    punpcklwd       m5, m16, m6
    vpdpwssd        m2, m5, m5         ; -p3
    punpckhwd      m16, m6
    vpdpwssd        m3, m16, m16
    punpcklwd      m16, m6, m17        ; b3
    punpckhwd      m17, m6, m17
    pminsd          m2, m6
    pminsd          m3, m6
    pmulld          m2, m12            ; p3 * s1
    pmulld          m3, m12
    pmaddwd        m16, m13            ; b3 * 455
    pmaddwd        m17, m13
    vpalignr    m3{k2}, m2, m2, 2
    mova            m2, m20
    paddusw         m3, m14
    psraw           m3, 4              ; min(z3, 255) - 256
    vpermt2b        m2, m3, m21        ; sgr_x_by_x[128..255]
    vpmovb2m        k3, m3
    vpermi2b        m3, m18, m19       ; sgr_x_by_x[  0..127]
    vmovdqu8    m3{k3}, m2             ; x3
    pandn           m2, m15, m3
    psrld           m3, 16
    pmulld         m16, m2
    pmulld         m17, m3
    packssdw        m2, m3
    mova [t4+r10*1+416*4+4], m2
    psubd          m16, m15            ; x3 * b3 * 455 + (1 << 11) + (1 << 15)
    psubd          m17, m15
    psrld          m16, 12
    psrld          m17, 12
    paddw           m5, m4, [t2+r10+416*0]
    paddd           m2, m0, [t2+r10+416*2]
    paddd           m3, m1, [t2+r10+416*4]
    paddw           m5, [t1+r10+416*0]
    paddd           m2, [t1+r10+416*2]
    paddd           m3, [t1+r10+416*4]
    mova [t2+r10+416*0], m4
    mova [t2+r10+416*2], m0
    mova [t2+r10+416*4], m1
    mova          [t3+r10*2+416*8+  8], xm16
    mova          [t3+r10*2+416*8+ 24], xm17
    vextracti128  [t3+r10*2+416*8+ 40], ym16, 1
    vextracti128  [t3+r10*2+416*8+ 56], ym17, 1
    vextracti32x4 [t3+r10*2+416*8+ 72], m16, 2
    vextracti32x4 [t3+r10*2+416*8+ 88], m17, 2
    vextracti32x4 [t3+r10*2+416*8+104], m16, 3
    vextracti32x4 [t3+r10*2+416*8+120], m17, 3
    paddd           m2, m8
    paddd           m3, m8
    psrld           m2, 4              ; (a5 + 8) >> 4
    psrld           m3, 4
    pmulld          m2, m10            ; -((a5 + 8) >> 4) * 25
    pmulld          m3, m10
    psrlw          m17, m5, 1
    pavgw          m17, m6             ; (b5 + 2) >> 2
    punpcklwd      m16, m17, m6
    vpdpwssd        m2, m16, m16       ; -p5
    punpckhwd      m17, m6
    vpdpwssd        m3, m17, m17
    punpcklwd      m16, m5, m6         ; b5
    punpckhwd      m17, m5, m6
    pmulld          m2, m11            ; p5 * s0
    pmulld          m3, m11
    pmaddwd        m16, m13            ; b5 * 164
    pmaddwd        m17, m13
    vpalignr    m3{k2}, m2, m2, 2
    mova            m2, m20
    pmaxsw          m3, m6
    paddusw         m3, m14
    psraw           m3, 4              ; min(z5, 255) - 256
    vpermt2b        m2, m3, m21        ; sgr_x_by_x[128..255]
    vpmovb2m        k3, m3
    vpermi2b        m3, m18, m19       ; sgr_x_by_x[  0..127]
    vmovdqu8    m3{k3}, m2             ; x5
    pandn           m2, m15, m3
    psrld           m3, 16
    pmulld         m16, m2
    pmulld         m17, m3
    packssdw        m2, m3
    mova [t4+r10*1+416*0+4], m2
    psubd          m16, m15            ; x5 * b5 * 164 + (1 << 11) + (1 << 15)
    psubd          m17, m15
    psrld          m16, 12
    psrld          m17, 12
    mova          [t3+r10*2+416*0+  8], xm16
    mova          [t3+r10*2+416*0+ 24], xm17
    vextracti128  [t3+r10*2+416*0+ 40], ym16, 1
    vextracti128  [t3+r10*2+416*0+ 56], ym17, 1
    vextracti32x4 [t3+r10*2+416*0+ 72], m16, 2
    vextracti32x4 [t3+r10*2+416*0+ 88], m17, 2
    vextracti32x4 [t3+r10*2+416*0+104], m16, 3
    vextracti32x4 [t3+r10*2+416*0+120], m17, 3
    add            r10, 64
    jl .hv1_loop
    mov            r10, t2
    mov             t2, t1
    mov             t1, r10
    ret
.v0: ; vertical boxsums + ab3 (even rows)
    lea            r10, [wq-4]
.v0_loop:
    mova           m16, [t1+r10+416* 6]
    mova            m2, [t1+r10+416* 8]
    mova            m3, [t1+r10+416*10]
    paddw          m16, m16
    paddd           m2, m2
    paddd           m3, m3
    paddw          m17, m16, [t2+r10+416* 6]
    paddd           m4, m2, [t2+r10+416* 8]
    paddd           m5, m3, [t2+r10+416*10]
    mova [t2+r10+416* 6], m16
    mova [t2+r10+416* 8], m2
    mova [t2+r10+416*10], m3
    paddd           m4, m8
    paddd           m5, m8
    psrld           m4, 4              ; (a3 + 8) >> 4
    psrld           m5, 4
    pmulld          m4, m9             ; -((a3 + 8) >> 4) * 9
    pmulld          m5, m9
    psrlw           m3, m17, 1
    pavgw           m3, m6             ; (b3 + 2) >> 2
    punpcklwd       m2, m3, m6
    vpdpwssd        m4, m2, m2         ; -p3
    punpckhwd       m3, m6
    vpdpwssd        m5, m3, m3
    punpcklwd      m16, m6, m17        ; b3
    punpckhwd      m17, m6, m17
    pminsd          m4, m6
    pminsd          m5, m6
    pmulld          m4, m12            ; p3 * s1
    pmulld          m5, m12
    pmaddwd        m16, m13            ; b3 * 455
    pmaddwd        m17, m13
    vpalignr    m5{k2}, m4, m4, 2
    mova            m4, m20
    paddusw         m5, m14
    psraw           m5, 4              ; min(z3, 255) - 256
    vpermt2b        m4, m5, m21        ; sgr_x_by_x[128..255]
    vpmovb2m        k3, m5
    vpermi2b        m5, m18, m19       ; sgr_x_by_x[  0..127]
    vmovdqu8    m5{k3}, m4             ; x3
    pandn           m4, m15, m5
    psrld           m5, 16
    pmulld         m16, m4
    pmulld         m17, m5
    packssdw        m4, m5
    mova [t4+r10*1+416*2+4], m4
    psubd          m16, m15            ; x3 * b3 * 455 + (1 << 11) + (1 << 15)
    psubd          m17, m15
    psrld          m16, 12
    psrld          m17, 12
    mova            m3, [t1+r10+416*0]
    mova            m4, [t1+r10+416*2]
    mova            m5, [t1+r10+416*4]
    mova [t3+r10*2+416*8+ 8], m3
    mova [t3+r10*2+416*0+ 8], m4
    mova [t3+r10*2+416*0+72], m5
    paddw           m3, m3              ; cc5
    paddd           m4, m4
    paddd           m5, m5
    mova [t1+r10+416*0], m3
    mova [t1+r10+416*2], m4
    mova [t1+r10+416*4], m5
    mova          [t3+r10*2+416*4+  8], xm16
    mova          [t3+r10*2+416*4+ 24], xm17
    vextracti128  [t3+r10*2+416*4+ 40], ym16, 1
    vextracti128  [t3+r10*2+416*4+ 56], ym17, 1
    vextracti32x4 [t3+r10*2+416*4+ 72], m16, 2
    vextracti32x4 [t3+r10*2+416*4+ 88], m17, 2
    vextracti32x4 [t3+r10*2+416*4+104], m16, 3
    vextracti32x4 [t3+r10*2+416*4+120], m17, 3
    add            r10, 64
    jl .v0_loop
    ret
.v1: ; vertical boxsums + ab (odd rows)
    lea            r10, [wq-4]
.v1_loop:
    mova           m16, [t1+r10+416* 6]
    mova            m2, [t1+r10+416* 8]
    mova            m3, [t1+r10+416*10]
    paddw          m17, m16, [t2+r10+416* 6]
    paddd           m4, m2, [t2+r10+416* 8]
    paddd           m5, m3, [t2+r10+416*10]
    mova [t2+r10+416* 6], m16
    mova [t2+r10+416* 8], m2
    mova [t2+r10+416*10], m3
    paddd           m4, m8
    paddd           m5, m8
    psrld           m4, 4              ; (a3 + 8) >> 4
    psrld           m5, 4
    pmulld          m4, m9              ; -((a3 + 8) >> 4) * 9
    pmulld          m5, m9
    psrlw           m3, m17, 1
    pavgw           m3, m6             ; (b3 + 2) >> 2
    punpcklwd       m2, m3, m6
    vpdpwssd        m4, m2, m2         ; -p3
    punpckhwd       m3, m6
    vpdpwssd        m5, m3, m3
    punpcklwd      m16, m6, m17        ; b3
    punpckhwd      m17, m6, m17
    pminsd          m4, m6
    pminsd          m5, m6
    pmulld          m4, m12            ; p3 * s1
    pmulld          m5, m12
    pmaddwd        m16, m13            ; b3 * 455
    pmaddwd        m17, m13
    vpalignr    m5{k2}, m4, m4, 2
    mova            m4, m20
    paddusw         m5, m14
    psraw           m5, 4              ; min(z3, 255) - 256
    vpermt2b        m4, m5, m21        ; sgr_x_by_x[128..255]
    vpmovb2m        k3, m5
    vpermi2b        m5, m18, m19       ; sgr_x_by_x[  0..127]
    vmovdqu8    m5{k3}, m4             ; x3
    pandn           m4, m15, m5
    psrld           m5, 16
    pmulld         m16, m4
    pmulld         m17, m5
    packssdw        m4, m5
    mova [t4+r10*1+416*4+4], m4
    psubd          m16, m15            ; x3 * b3 * 455 + (1 << 11) + (1 << 15)
    psubd          m17, m15
    psrld          m16, 12
    psrld          m17, 12
    mova            m0, [t3+r10*2+416*8+ 8]
    mova            m4, [t3+r10*2+416*0+ 8]
    mova            m5, [t3+r10*2+416*0+72]
    paddw           m1, m0, [t2+r10+416*0]
    paddd           m2, m4, [t2+r10+416*2]
    paddd           m3, m5, [t2+r10+416*4]
    paddw           m1, [t1+r10+416*0]
    paddd           m2, [t1+r10+416*2]
    paddd           m3, [t1+r10+416*4]
    mova [t2+r10+416*0], m0
    mova [t2+r10+416*2], m4
    mova [t2+r10+416*4], m5
    mova          [t3+r10*2+416*8+  8], xm16
    mova          [t3+r10*2+416*8+ 24], xm17
    vextracti128  [t3+r10*2+416*8+ 40], ym16, 1
    vextracti128  [t3+r10*2+416*8+ 56], ym17, 1
    vextracti32x4 [t3+r10*2+416*8+ 72], m16, 2
    vextracti32x4 [t3+r10*2+416*8+ 88], m17, 2
    vextracti32x4 [t3+r10*2+416*8+104], m16, 3
    vextracti32x4 [t3+r10*2+416*8+120], m17, 3
    paddd           m2, m8
    paddd           m3, m8
    psrld           m2, 4              ; (a5 + 8) >> 4
    psrld           m3, 4
    pmulld          m2, m10            ; -((a5 + 8) >> 4) * 25
    pmulld          m3, m10
    psrlw           m5, m1, 1
    pavgw           m5, m6             ; (b5 + 2) >> 2
    punpcklwd       m4, m5, m6
    vpdpwssd        m2, m4, m4         ; -p5
    punpckhwd       m5, m6
    vpdpwssd        m3, m5, m5
    punpcklwd      m16, m1, m6         ; b5
    punpckhwd      m17, m1, m6
    pmulld          m2, m11            ; p5 * s0
    pmulld          m3, m11
    pmaddwd        m16, m13            ; b5 * 164
    pmaddwd        m17, m13
    vpalignr    m3{k2}, m2, m2, 2
    mova            m2, m20
    pmaxsw          m3, m6
    paddusw         m3, m14
    psraw           m3, 4              ; min(z5, 255) - 256
    vpermt2b        m2, m3, m21        ; sgr_x_by_x[128..255]
    vpmovb2m        k3, m3
    vpermi2b        m3, m18, m19       ; sgr_x_by_x[  0..127]
    vmovdqu8    m3{k3}, m2             ; x5
    pandn           m2, m15, m3
    psrld           m3, 16
    pmulld         m16, m2
    pmulld         m17, m3
    packssdw        m2, m3
    mova [t4+r10*1+416*0+4], m2
    psubd          m16, m15            ; x5 * b5 * 164 + (1 << 11) + (1 << 15)
    psubd          m17, m15
    psrld          m16, 12
    psrld          m17, 12
    mova          [t3+r10*2+416*0+  8], xm16
    mova          [t3+r10*2+416*0+ 24], xm17
    vextracti128  [t3+r10*2+416*0+ 40], ym16, 1
    vextracti128  [t3+r10*2+416*0+ 56], ym17, 1
    vextracti32x4 [t3+r10*2+416*0+ 72], m16, 2
    vextracti32x4 [t3+r10*2+416*0+ 88], m17, 2
    vextracti32x4 [t3+r10*2+416*0+104], m16, 3
    vextracti32x4 [t3+r10*2+416*0+120], m17, 3
    add            r10, 64
    jl .v1_loop
    mov            r10, t2
    mov             t2, t1
    mov             t1, r10
    ret
.prep_n: ; initial neighbor setup
    mov            r10, wq
.prep_n_loop:
    movu           ym0, [t4+r10*1+416*0+2]
    paddw          ym2, ym0, [t4+r10*1+416*0+0]
    paddw          ym2, [t4+r10*1+416*0+4]
    movu            m1, [t3+r10*2+416*0+4]
    paddd           m3, m1, [t3+r10*2+416*0+0]
    paddd           m3, [t3+r10*2+416*0+8]
    paddw          ym0, ym2
    paddd           m1, m3
    psllw          ym2, 2
    pslld           m3, 2
    paddw          ym0, ym2              ; a5 565
    paddd           m1, m3               ; b5 565
    mova [t4+r10*1+416* 6], ym0
    mova [t3+r10*2+416*12], m1
    mova           ym0, [t4+r10*1+416*2+0]
    paddw          ym0, [t4+r10*1+416*2+4]
    paddw          ym2, ym0, [t4+r10*1+416*2+2]
    mova            m1, [t3+r10*2+416*4+0]
    paddd           m1, [t3+r10*2+416*4+8]
    paddd           m3, m1, [t3+r10*2+416*4+4]
    psllw          ym2, 2                ; a3[-1] 444
    pslld           m3, 2                ; b3[-1] 444
    psubw          ym2, ym0              ; a3[-1] 343
    psubd           m3, m1               ; b3[-1] 343
    mova [t4+r10*1+416* 8], ym2
    mova [t3+r10*2+416*16], m3
    mova           ym0, [t4+r10*1+416*4+0]
    paddw          ym0, [t4+r10*1+416*4+4]
    paddw          ym2, ym0, [t4+r10*1+416*4+2]
    mova            m1, [t3+r10*2+416*8+0]
    paddd           m1, [t3+r10*2+416*8+8]
    paddd           m3, m1, [t3+r10*2+416*8+4]
    psllw          ym2, 2                 ; a3[ 0] 444
    pslld           m3, 2                 ; b3[ 0] 444
    mova [t4+r10*1+416*10], ym2
    mova [t3+r10*2+416*20], m3
    psubw          ym2, ym0               ; a3[ 0] 343
    psubd           m3, m1                ; b3[ 0] 343
    mova [t4+r10*1+416*12], ym2
    mova [t3+r10*2+416*24], m3
    add            r10, 32
    jl .prep_n_loop
    ret
ALIGN function_align
.n0: ; neighbor + output (even rows)
    mov            r10, wq
.n0_loop:
    movu           ym2, [t4+r10*1+2]
    paddw          ym0, ym2, [t4+r10*1+0]
    paddw          ym0, [t4+r10*1+4]
    paddw          ym2, ym0
    psllw          ym0, 2
    paddw          ym0, ym2              ; a5
    movu            m1, [t3+r10*2+4]
    paddd           m4, m1, [t3+r10*2+0]
    paddd           m4, [t3+r10*2+8]
    paddd           m1, m4
    pslld           m4, 2
    paddd           m4, m1               ; b5
    paddw          ym2, ym0, [t4+r10*1+416* 6]
    mova [t4+r10*1+416* 6], ym0
    paddd           m0, m4, [t3+r10*2+416*12]
    mova [t3+r10*2+416*12], m4
    mova           ym3, [t4+r10*1+416*2+0]
    paddw          ym3, [t4+r10*1+416*2+4]
    paddw          ym5, ym3, [t4+r10*1+416*2+2]
    psllw          ym5, 2                ; a3[ 1] 444
    psubw          ym4, ym5, ym3         ; a3[ 1] 343
    paddw          ym3, ym4, [t4+r10*1+416* 8]
    paddw          ym3, [t4+r10*1+416*10]
    mova [t4+r10*1+416* 8], ym4
    mova [t4+r10*1+416*10], ym5
    mova            m1, [t3+r10*2+416*4+0]
    paddd           m1, [t3+r10*2+416*4+8]
    paddd           m5, m1, [t3+r10*2+416*4+4]
    pslld           m5, 2                ; b3[ 1] 444
    psubd           m4, m5, m1           ; b3[ 1] 343
    paddd           m1, m4, [t3+r10*2+416*16]
    paddd           m1, [t3+r10*2+416*20]
    mova [t3+r10*2+416*16], m4
    mova [t3+r10*2+416*20], m5
    pmovzxwd        m4, [dstq+r10]
    pmovzxwd        m2, ym2              ; a5
    pmovzxwd        m3, ym3              ; a3
    pmaddwd         m2, m4               ; a5 * src
    pmaddwd         m3, m4               ; a3 * src
    vpshldd         m4, m22, 13
    psubd           m0, m2               ; b5 - a5 * src + (1 << 8)
    psubd           m1, m3               ; b3 - a3 * src + (1 << 8)
    psrld           m0, 9
    pslld           m1, 7
    vpblendmb   m0{k2}, m1, m0
    vpdpwssd        m4, m0, m7
    psrad           m4, 7
    pmaxsd          m4, m6
    vpmovusdw     ym16, m4               ; clip
    psrlw         ym16, 6
    mova    [dstq+r10], ym16
    add            r10, 32
    jl .n0_loop
    add           dstq, strideq
    ret
ALIGN function_align
.n1: ; neighbor + output (odd rows)
    mov            r10, wq
.n1_loop:
    mova           ym3, [t4+r10*1+416*4+0]
    paddw          ym3, [t4+r10*1+416*4+4]
    paddw          ym5, ym3, [t4+r10*1+416*4+2]
    psllw          ym5, 2                ; a3[ 1] 444
    psubw          ym4, ym5, ym3         ; a3[ 1] 343
    paddw          ym3, ym4, [t4+r10*1+416*12]
    paddw          ym3, [t4+r10*1+416*10]
    mova [t4+r10*1+416*10], ym5
    mova [t4+r10*1+416*12], ym4
    mova            m0, [t3+r10*2+416*8+0]
    paddd           m0, [t3+r10*2+416*8+8]
    paddd           m5, m0, [t3+r10*2+416*8+4]
    pslld           m5, 2                ; b3[ 1] 444
    psubd           m4, m5, m0           ; b3[ 1] 343
    paddd           m0, m4, [t3+r10*2+416*24]
    paddd           m0, [t3+r10*2+416*20]
    mova [t3+r10*2+416*20], m5
    mova [t3+r10*2+416*24], m4
    pmovzxwd        m4, [dstq+r10]
    pmovzxwd        m2, [t4+r10*1+416* 6]
    pmovzxwd        m3, ym3
    mova            m1, [t3+r10*2+416*12]
    pmaddwd         m2, m4               ; a5 * src
    pmaddwd         m3, m4               ; a3 * src
    vpshldd         m4, m22, 13
    psubd           m1, m2               ; b5 - a5 * src + (1 << 8)
    psubd           m0, m3               ; b3 - a3 * src + (1 << 8)
    pslld           m0, 7
    vpalignr    m0{k2}, m1, m1, 1
    vpdpwssd        m4, m0, m7
    psrad           m4, 7
    pmaxsd          m4, m6
    vpmovusdw     ym16, m4               ; clip
    psrlw         ym16, 6
    mova    [dstq+r10], ym16
    add            r10, 32
    jl .n1_loop
    add           dstq, strideq
    ret

%endif ; ARCH_X86_64