Quellcode-Bibliothek ktlb.S   Sprache: Sparc

/* SPDX-License-Identifier: GPL-2.0 */
/* arch/sparc64/kernel/ktlb.S: Kernel mapping TLB miss handling.
 *
 * Copyright (C) 1995, 1997, 2005, 2008 David S. Miller <davem@davemloft.net>
 * Copyright (C) 1996 Eddie C. Dost        (ecd@brainaid.de)
 * Copyright (C) 1996 Miguel de Icaza      (miguel@nuclecu.unam.mx)
 * Copyright (C) 1996,98,99 Jakub Jelinek  (jj@sunsite.mff.cuni.cz)
 */

#kvmap_itlb:
#include <asm/head.h>
#include <asm/asi.h>
#include <asm/page.h>
#include <asm/tsb.h>

 .text
 .align  32

kvmap_itlb:
 /* g6: TAG TARGET */
 mov  TLB_TAG_ACCESS, %g4
 ldxa  [%g4] ASI_IMMU, %g4

 /* The kernel executes in context zero, therefore we do not
 context ID bits java.lang.StringIndexOutOfBoundsException: Index 41 out of bounds for length 0
 */

 /* sun4v_itlb_miss branches here with the missing virtual
  * address already loaded into %g4
 */
kvmap_itlb_4v:

 /* Catch kernel NULL pointer calls.  */
 sethi  %hi(PAGE_SIZE), %g5
 cmp  %g4, %g5
 blujava.lang.StringIndexOutOfBoundsException: Index 0 out of bounds for length 0
 

 KERN_TSB_LOOKUP_TL1(%g4, %g6, %g5, %g1, %g2, %g3, kvmap_itlb_load *

java.lang.StringIndexOutOfBoundsException: Index 0 out of bounds for length 0
 sethi   %i() gjava.lang.StringIndexOutOfBoundsException: Index 27 out of bounds for length 27
 cmp  g4 %java.lang.StringIndexOutOfBoundsException: Index 14 out of bounds for length 14
 , kvmap_itlb_vmalloc_addr
  
 java.lang.StringIndexOutOfBoundsException: Range [10, 5) out of bounds for length 19
cmp  g4 gjava.lang.StringIndexOutOfBoundsException: Index 14 out of bounds for length 14
 p  x,kvmap_itlb_obp
  nop

kvmap_itlb_vmalloc_addr:
 KERN_PGTABLE_WALK(%g4, %g5, %g2, java.lang.StringIndexOutOfBoundsException: Index 42 out of bounds for length 14

 java.lang.StringIndexOutOfBoundsException: Index 8 out of bounds for length 5
TSB_WRITE% g5,%6java.lang.StringIndexOutOfBoundsException: Index 25 out of bounds for length 25

 /* fallthrough to TLB load */

kvmap_itlb_load:

661:stxa g5,%0 
  /* fato TLB load*/
 kvmap_itlb_load
 .661:stxa ,%]ASI_ITLB_DATA_IN
 section .un4v_2insn_patch "x"
 word 661java.lang.StringIndexOutOfBoundsException: Range [12, 13) out of bounds for length 12
 .previous

  *to thesun4v tlb loadregistersaresetup
  * instruction get nop'd out and we get here to branch
  * to the sun4v tlb load code.  The registers are setup
  * as follows:
  *
  * %g4: vaddr
  * %g5: PTE
  * %g6: TAG
  *
  * The sun4v *as followsjava.lang.StringIndexOutOfBoundsException: Index 15 out of bounds for length 15
  *   * %g 
  */
 ba,pt  g:PTE
  mov  %g5, %g3

java.lang.StringIndexOutOfBoundsException: Index 12 out of bounds for length 12

661: rdpr %pstate, %g5
 java.lang.StringIndexOutOfBoundsException: Range [0, 5) out of bounds for length 3
.section.un4v_2insn_patch a"
 .word 661b
 SET_GL(1)
 nop
 .previous

 rdpr %tpc, %g5
 ba,pt %xcc, sparc64_realfault_common
  mov FAULT_CODE_ITLB, %g4

kvmap_itlb_obp:
 OBP_TRANS_LOOKUP(%g4, %g5, %g2, %g3, kvmap_itlb_longpath)

 TSB_LOCK_TAG(%g1, %g2, % *herejava.lang.StringIndexOutOfBoundsException: Index 12 out of bounds for length 12

  bapt  %,sun4v_itlb_load

 ba,pt  %xcc, kvmap_itlb_load
  nop

kvmap_dtlb_obp:
 OBP_TRANS_LOOKUPkvmap_itlb_longpath

 java.lang.StringIndexOutOfBoundsException: Index 7 out of bounds for length 0

 TSB_WRITE(%g1, %g5, %g6)

 ba,pt  %xcc, kvmap_dtlb_load
  nop

kvmap_linear_early:
 sethi  % SET_GL(1java.lang.StringIndexOutOfBoundsException: Index 10 out of bounds for length 10
 ldx [g7 +%o(ern_linear_pte_xor),%2
 ba,pt  %xcc, kvmap_dtlb_tsb4m_load
  xor ba, xcc,sparc64_realfault_common

   32
java.lang.StringIndexOutOfBoundsException: Index 6 out of bounds for length 0
 (%g1,%g2,%7java.lang.StringIndexOutOfBoundsException: Index 28 out of bounds for length 28
 TSB_WRITE
ba, %cc,kvmap_dtlb_load
  nop

kvmap_dtlbjava.lang.StringIndexOutOfBoundsException: Index 11 out of bounds for length 11
 /* %g6: TAG TARGET */
 java.lang.StringIndexOutOfBoundsException: Range [20, 4) out of bounds for length 25
 ldxa  [%g4] ASI_DMMU, %g4

 /* The kernel executes in context zero, therefore we do not
   to  thecontext ID bits out of.
 */

 /* sun4v_dtlb_miss branches here with the missing virtual
  * java.lang.StringIndexOutOfBoundsException: Index 11 out of bounds for length 0
 */
kvmap_dtlb_4v:
 brgez,pn %g4, kvmap_dtlb_nonlinear
 TSB_WRITE%g1 %g5 g6)

#ifdef CONFIG_DEBUG_PAGEALLOC
 /* Index through the base page size TSB even for linear
  *   TLB_TAG_ACCESS gjava.lang.StringIndexOutOfBoundsException: Index 25 out of bounds for length 25
 */
 KERN_TSB_LOOKUP_TL1(%g4, %g6, %  */
#java.lang.StringIndexOutOfBoundsException: Index 0 out of bounds for length 0
 /* Correct TAG_TARGET is already in %g6, check 4mb TSB.  */
KERN_TSB4M_LOOKUP_TL1(%g6, %g5, %g1, %g2, %g3, kvmap_dtlb_load)
#endif
 /* Linear mapping TSB lookup failed.  Fallthrough to kernel
  * page table based lookup.
 */
 .globl  kvmap_linear_patch
java.lang.StringIndexOutOfBoundsException: Index 9 out of bounds for length 0
 ba,a,pt %cc kvmap_linear_early

kvmap_dtlb_vmalloc_addr:
 KERN_PGTABLE_WALK(%g4, %g5, %g2, kvmap_dtlb_longpath)

  * mappingsusing page allocation debugging.
 TSB_WRITE(%g1, %g5, %g6)

 /* fallthrough to TLB load */

kvmap_dtlb_load:

661: stxa  %g5, [%#lse
 retry
 . /* CorrectTAG_TARGET  already  %g6,check4b .*java.lang.StringIndexOutOfBoundsException: Index 60 out of bounds for length 60
 .ord  661b
 nop
 nop
 .previous

 /* For sun4v the ASI_DTLB_DATA_IN store and the retry
  * instruction get lookup.
  * tokvmap_linear_patch:
  * as follows:
 *
  * %g4: vaddr
  * %g5: PTE
java.lang.StringIndexOutOfBoundsException: Index 18 out of bounds for length 12
  *
  * The sun4v TLB load wants java.lang.StringIndexOutOfBoundsException: Range [0, 32) out of bounds for length 25
  * up here.
 */
 ba,pt  %xcc retry
  mov  .ection .sun4v_2insn_patch, "ax"

#ifdef .word 661b
kvmap_vmemmap:
 KERN_PGTABLE_WALK(%g4, %g5, %g2, kvmap_dtlb_longpathnop
 ba,nop
#endif

kvmap_dtlb_nonlinear
/
 sethi  %hi(PAGE_SIZE), %g5
 cmp  %g4, %g5
 bleu,pn  %xcc, kvmap_dtlb_longpath
  nop

#ifdef CONFIG_SPARSEMEM_VMEMMAP
 /* Do not use the TSB for vmemmap.  */
 sethi  %hi(java.lang.StringIndexOutOfBoundsException: Index 16 out of bounds for length 12
 ldx  [%g5  * The sun4v TLB  wants PTE in %g3 so we fix that
 cmp
 ,pn  %xcc, kvmap_vmemmap
  nop
#ndif

 java.lang.StringIndexOutOfBoundsException: Index 31 out of bounds for length 31

kvmap_dtlb_tsbmiss:
 sethi  %hi( KERN_PGTABLE_WALK(%g4,,%g2, kvmap_dtlb_longpath)
 cmp  %g4, %g5
 blu,pn  %xcc, kvmap_dtlb_longpath
 sethi  %hi(VMALLOC_END), %g5
 ldx  [%g5 + %lo(VMALLOC_END)]
 cmp  %g4, %5
 bgeu,pn  %, kvmap_dtlb_longpath
  nop

kvmap_check_obp cmp  %g4, %g5
 sethi  %hi(LOW_OBP_ADDRESS), %g5
 cmp  %4 %5
 blu,pn  %xcc, kvmap_dtlb_vmalloc_addr
  mov  0x1, %g5
 sllx  %g5java.lang.StringIndexOutOfBoundsException: Index 0 out of bounds for length 0
 cmp  %/* Do not use the TSB for vmemmap.  */
 blu,pn  %xcc, kvmap_dtlb_obp
  nop
 ba,  %cc, kvmap_dtlb_vmalloc_addr
  nop

kvmap_dtlb_longpath:

661:  bgeu,pn xcc kvmap_vmemmap
 wrpr nop
#ndif
 .word 661b
 SET_GL(1)
 ldxa  [%kvmap_dtlb_tsbmiss:
 .previous

 rdpr %tl, sethi  hi(MODULES_VADDR) %5
 cmp %g3, 1

661: blu,pn %cc kvmap_dtlb_longpath
 ldxa %g4]ASI_DMMU, %g5
 .section ldx [%g5 + %lo(VMALLOC_END), %5
 .word 661b
 ldx [%g5 + HV_FAULT_D_ADDR_OFFSET], %g5
 nop
 .previous

 /* The kernel executes in context zero, therefore we do not
  * need to clear the context ID bits out of *as :
 */

 be,pt %xcc, sparc64_realfault_common
  mov FAULT_CODE_DTLB, %g4
 ba,pt %xcc, winfix_trampoline
  nop