mono/mini/tramp-arm.c

   1 /*
   2  * tramp-arm.c: JIT trampoline code for ARM
   3  *
   4  * Authors:
   5  *   Paolo Molaro (lupus@ximian.com)
   6  *
   7  * (C) 2001 Ximian, Inc.
   8  */
   9
  10 #include <config.h>
  11 #include <glib.h>
  12
  13 #include <mono/metadata/appdomain.h>
  14 #include <mono/metadata/marshal.h>
  15 #include <mono/metadata/tabledefs.h>
  16 #include <mono/arch/arm/arm-codegen.h>
  17
  18 #include "mini.h"
  19 #include "mini-arm.h"
  20
  21 #define ALIGN_TO(val,align) ((((guint64)val) + ((align) - 1)) & ~((align) - 1))
  22
  23 static guint8* nullified_class_init_trampoline;
  24
  25 void
  26 mono_arch_patch_callsite (guint8 *method_start, guint8 *code_ptr, guint8 *addr)
  27 {
  28         guint32 *code = (guint32*)code_ptr;
  29
  30         /* This is the 'bl' or the 'mov pc' instruction */
  31         --code;
  32
  33         /*
  34          * Note that methods are called also with the bl opcode.
  35          */
  36         if ((((*code) >> 25)  & 7) == 5) {
  37                 /*g_print ("direct patching\n");*/
  38                 arm_patch ((guint8*)code, addr);
  39                 mono_arch_flush_icache ((guint8*)code, 4);
  40                 return;
  41         }
  42
  43         if ((((*code) >> 20) & 0xFF) == 0x12) {
  44                 /*g_print ("patching bx\n");*/
  45                 arm_patch ((guint8*)code, addr);
  46                 mono_arch_flush_icache ((guint8*)(code - 2), 4);
  47                 return;
  48         }
  49
  50         g_assert_not_reached ();
  51 }
  52
  53 void
  54 mono_arch_patch_plt_entry (guint8 *code, gpointer *got, mgreg_t *regs, guint8 *addr)
  55 {
  56         guint8 *jump_entry;
  57
  58         /* Patch the jump table entry used by the plt entry */
  59         if (*(guint32*)code == 0xe59fc000) {
  60                 /* ARM_LDR_IMM (code, ARMREG_IP, ARMREG_PC, 0); */
  61                 guint32 offset = ((guint32*)code)[2];
  62
  63                 jump_entry = code + offset + 12;
  64         } else if (*(guint16*)(code - 4) == 0xf8df) {
  65                 /*
  66                  * Thumb PLT entry, begins with ldr.w ip, [pc, #8], code points to entry + 4, see
  67                  * mono_arm_get_thumb_plt_entry ().
  68                  */
  69                 guint32 offset;
  70
  71                 code -= 4;
  72                 offset = *(guint32*)(code + 12);
  73                 jump_entry = code + offset + 8;
  74         } else {
  75                 g_assert_not_reached ();
  76         }
  77
  78         *(guint8**)jump_entry = addr;
  79 }
  80
  81 void
  82 mono_arch_nullify_class_init_trampoline (guint8 *code, mgreg_t *regs)
  83 {
  84         mono_arch_patch_callsite (NULL, code, nullified_class_init_trampoline);
  85 }
  86
  87 void
  88 mono_arch_nullify_plt_entry (guint8 *code, mgreg_t *regs)
  89 {
  90         if (mono_aot_only && !nullified_class_init_trampoline)
  91                 nullified_class_init_trampoline = mono_aot_get_trampoline ("nullified_class_init_trampoline");
  92
  93         mono_arch_patch_plt_entry (code, NULL, regs, nullified_class_init_trampoline);
  94 }
  95
  96 #ifndef DISABLE_JIT
  97
  98 #define arm_is_imm12(v) ((int)(v) > -4096 && (int)(v) < 4096)
  99
 100 /*
 101  * Return the instruction to jump from code to target, 0 if not
 102  * reachable with a single instruction
 103  */
 104 static guint32
 105 branch_for_target_reachable (guint8 *branch, guint8 *target)
 106 {
 107         gint diff = target - branch - 8;
 108         g_assert ((diff & 3) == 0);
 109         if (diff >= 0) {
 110                 if (diff <= 33554431)
 111                         return (ARMCOND_AL << ARMCOND_SHIFT) | (ARM_BR_TAG) | (diff >> 2);
 112         } else {
 113                 /* diff between 0 and -33554432 */
 114                 if (diff >= -33554432)
 115                         return (ARMCOND_AL << ARMCOND_SHIFT) | (ARM_BR_TAG) | ((diff >> 2) & ~0xff000000);
 116         }
 117         return 0;
 118 }
 119
 120 static inline guint8*
 121 emit_bx (guint8* code, int reg)
 122 {
 123         if (mono_arm_thumb_supported ())
 124                 ARM_BX (code, reg);
 125         else
 126                 ARM_MOV_REG_REG (code, ARMREG_PC, reg);
 127         return code;
 128 }
 129
 130 /* Stack size for trampoline function
 131  */
 132 #define STACK ALIGN_TO (sizeof (MonoLMF), 8)
 133
 134 /* Method-specific trampoline code fragment size */
 135 #define METHOD_TRAMPOLINE_SIZE 64
 136
 137 /* Jump-specific trampoline code fragment size */
 138 #define JUMP_TRAMPOLINE_SIZE   64
 139
 140 guchar*
 141 mono_arch_create_generic_trampoline (MonoTrampolineType tramp_type, MonoTrampInfo **info, gboolean aot)
 142 {
 143         guint8 *buf, *code = NULL;
 144         guint8 *load_get_lmf_addr, *load_trampoline;
 145         gpointer *constants;
 146         int cfa_offset, lmf_offset, regsave_size, lr_offset;
 147         GSList *unwind_ops = NULL;
 148         MonoJumpInfo *ji = NULL;
 149         int buf_len;
 150
 151         /* Now we'll create in 'buf' the ARM trampoline code. This
 152          is the trampoline code common to all methods  */
 153
 154         buf_len = 212;
 155         code = buf = mono_global_codeman_reserve (buf_len);
 156
 157         /*
 158          * At this point lr points to the specific arg and sp points to the saved
 159          * regs on the stack (all but PC and SP). The original LR value has been
 160          * saved as sp + LR_OFFSET by the push in the specific trampoline
 161          */
 162
 163         /* The offset of lmf inside the stack frame */
 164         lmf_offset = STACK - sizeof (MonoLMF);
 165         /* The size of the area already allocated by the push in the specific trampoline */
 166         regsave_size = 14 * sizeof (mgreg_t);
 167         /* The offset where lr was saved inside the regsave area */
 168         lr_offset = 13 * sizeof (mgreg_t);
 169
 170         // FIXME: Finish the unwind info, the current info allows us to unwind
 171         // when the trampoline is not in the epilog
 172
 173         // CFA = SP + (num registers pushed) * 4
 174         cfa_offset = 14 * sizeof (mgreg_t);
 175         mono_add_unwind_op_def_cfa (unwind_ops, code, buf, ARMREG_SP, cfa_offset);
 176         // PC saved at sp+LR_OFFSET
 177         mono_add_unwind_op_offset (unwind_ops, code, buf, ARMREG_LR, -4);
 178
 179         if (aot && tramp_type != MONO_TRAMPOLINE_GENERIC_CLASS_INIT) {
 180                 /*
 181                  * The trampoline contains a pc-relative offset to the got slot
 182                  * preceeding the got slot where the value is stored. The offset can be
 183                  * found at [lr + 0].
 184                  */
 185                 ARM_LDR_IMM (code, ARMREG_V2, ARMREG_LR, 0);
 186                 ARM_ADD_REG_IMM (code, ARMREG_V2, ARMREG_V2, 4, 0);
 187                 ARM_LDR_REG_REG (code, ARMREG_V2, ARMREG_V2, ARMREG_LR);
 188         } else {
 189                 if (tramp_type != MONO_TRAMPOLINE_GENERIC_CLASS_INIT)
 190                         ARM_LDR_IMM (code, ARMREG_V2, ARMREG_LR, 0);
 191                 else
 192                         ARM_MOV_REG_REG (code, ARMREG_V2, MONO_ARCH_VTABLE_REG);
 193         }
 194         ARM_LDR_IMM (code, ARMREG_V3, ARMREG_SP, lr_offset);
 195
 196         /* ok, now we can continue with the MonoLMF setup, mostly untouched
 197          * from emit_prolog in mini-arm.c
 198          * This is a synthetized call to mono_get_lmf_addr ()
 199          */
 200         if (aot) {
 201                 ji = mono_patch_info_list_prepend (ji, code - buf, MONO_PATCH_INFO_JIT_ICALL_ADDR, "mono_get_lmf_addr");
 202                 ARM_LDR_IMM (code, ARMREG_R0, ARMREG_PC, 0);
 203                 ARM_B (code, 0);
 204                 *(gpointer*)code = NULL;
 205                 code += 4;
 206                 ARM_LDR_REG_REG (code, ARMREG_R0, ARMREG_PC, ARMREG_R0);
 207         } else {
 208                 load_get_lmf_addr = code;
 209                 code += 4;
 210         }
 211         ARM_MOV_REG_REG (code, ARMREG_LR, ARMREG_PC);
 212         code = emit_bx (code, ARMREG_R0);
 213
 214         /* we build the MonoLMF structure on the stack - see mini-arm.h
 215          * The pointer to the struct is put in r1.
 216          * the iregs array is already allocated on the stack by push.
 217          */
 218         ARM_SUB_REG_IMM8 (code, ARMREG_SP, ARMREG_SP, STACK - regsave_size);
 219         cfa_offset += STACK - regsave_size;
 220         mono_add_unwind_op_def_cfa_offset (unwind_ops, code, buf, cfa_offset);
 221         /* V1 == lmf */
 222         ARM_ADD_REG_IMM8 (code, ARMREG_V1, ARMREG_SP, STACK - sizeof (MonoLMF));
 223
 224         /*
 225          * The stack now looks like:
 226          *       <saved regs>
 227          * v1 -> <rest of LMF>
 228          * sp -> <alignment>
 229          */
 230
 231         /* r0 is the result from mono_get_lmf_addr () */
 232         ARM_STR_IMM (code, ARMREG_R0, ARMREG_V1, G_STRUCT_OFFSET (MonoLMF, lmf_addr));
 233         /* new_lmf->previous_lmf = *lmf_addr */
 234         ARM_LDR_IMM (code, ARMREG_R2, ARMREG_R0, G_STRUCT_OFFSET (MonoLMF, previous_lmf));
 235         ARM_STR_IMM (code, ARMREG_R2, ARMREG_V1, G_STRUCT_OFFSET (MonoLMF, previous_lmf));
 236         /* *(lmf_addr) = r1 */
 237         ARM_STR_IMM (code, ARMREG_V1, ARMREG_R0, G_STRUCT_OFFSET (MonoLMF, previous_lmf));
 238         /* save method info (it's in v2) */
 239         if ((tramp_type == MONO_TRAMPOLINE_JIT) || (tramp_type == MONO_TRAMPOLINE_JUMP))
 240                 ARM_STR_IMM (code, ARMREG_V2, ARMREG_V1, G_STRUCT_OFFSET (MonoLMF, method));
 241         else {
 242                 ARM_MOV_REG_IMM8 (code, ARMREG_R2, 0);
 243                 ARM_STR_IMM (code, ARMREG_R2, ARMREG_V1, G_STRUCT_OFFSET (MonoLMF, method));
 244         }
 245         /* Save sp into lmf->iregs, the eh code expects it to be at IP */
 246         ARM_ADD_REG_IMM8 (code, ARMREG_R2, ARMREG_SP, cfa_offset);
 247         ARM_STR_IMM (code, ARMREG_R2, ARMREG_V1, G_STRUCT_OFFSET (MonoLMF, iregs) + (ARMREG_IP * sizeof (mgreg_t)));
 248         ARM_STR_IMM (code, ARMREG_SP, ARMREG_V1, G_STRUCT_OFFSET (MonoLMF, esp));
 249         /* save the IP (caller ip) */
 250         if (tramp_type == MONO_TRAMPOLINE_JUMP) {
 251                 ARM_MOV_REG_IMM8 (code, ARMREG_R2, 0);
 252         } else {
 253                 ARM_LDR_IMM (code, ARMREG_R2, ARMREG_V1, (G_STRUCT_OFFSET (MonoLMF, iregs) + 13*4));
 254         }
 255         ARM_STR_IMM (code, ARMREG_R2, ARMREG_V1, G_STRUCT_OFFSET (MonoLMF, eip));
 256
 257         /*
 258          * Now we're ready to call xxx_trampoline ().
 259          */
 260         /* Arg 1: the saved registers */
 261         ARM_ADD_REG_IMM8 (code, ARMREG_R0, ARMREG_V1, G_STRUCT_OFFSET (MonoLMF, iregs));
 262
 263         /* Arg 2: code (next address to the instruction that called us) */
 264         if (tramp_type == MONO_TRAMPOLINE_JUMP) {
 265                 ARM_MOV_REG_IMM8 (code, ARMREG_R1, 0);
 266         } else {
 267                 ARM_MOV_REG_REG (code, ARMREG_R1, ARMREG_V3);
 268         }
 269
 270         /* Arg 3: the specific argument, stored in v2
 271          */
 272         ARM_MOV_REG_REG (code, ARMREG_R2, ARMREG_V2);
 273
 274         if (aot) {
 275                 char *icall_name = g_strdup_printf ("trampoline_func_%d", tramp_type);
 276                 ji = mono_patch_info_list_prepend (ji, code - buf, MONO_PATCH_INFO_JIT_ICALL_ADDR, icall_name);
 277                 ARM_LDR_IMM (code, ARMREG_IP, ARMREG_PC, 0);
 278                 ARM_B (code, 0);
 279                 *(gpointer*)code = NULL;
 280                 code += 4;
 281                 ARM_LDR_REG_REG (code, ARMREG_IP, ARMREG_PC, ARMREG_IP);
 282         } else {
 283                 load_trampoline = code;
 284                 code += 4;
 285         }
 286
 287         ARM_MOV_REG_REG (code, ARMREG_LR, ARMREG_PC);
 288         code = emit_bx (code, ARMREG_IP);
 289
 290         /* OK, code address is now on r0. Move it to the place on the stack
 291          * where IP was saved (it is now no more useful to us and it can be
 292          * clobbered). This way we can just restore all the regs in one inst
 293          * and branch to IP.
 294          */
 295         ARM_STR_IMM (code, ARMREG_R0, ARMREG_V1, G_STRUCT_OFFSET (MonoLMF, iregs) + (ARMREG_R12 * sizeof (mgreg_t)));
 296
 297         /* Check for thread interruption */
 298         /* This is not perf critical code so no need to check the interrupt flag */
 299         /*
 300          * Have to call the _force_ variant, since there could be a protected wrapper on the top of the stack.
 301          */
 302         if (aot) {
 303                 ji = mono_patch_info_list_prepend (ji, code - buf, MONO_PATCH_INFO_JIT_ICALL_ADDR, "mono_thread_force_interruption_checkpoint");
 304                 ARM_LDR_IMM (code, ARMREG_IP, ARMREG_PC, 0);
 305                 ARM_B (code, 0);
 306                 *(gpointer*)code = NULL;
 307                 code += 4;
 308                 ARM_LDR_REG_REG (code, ARMREG_IP, ARMREG_PC, ARMREG_IP);
 309         } else {
 310                 ARM_LDR_IMM (code, ARMREG_IP, ARMREG_PC, 0);
 311                 ARM_B (code, 0);
 312                 *(gpointer*)code = mono_thread_force_interruption_checkpoint;
 313                 code += 4;
 314         }
 315         ARM_MOV_REG_REG (code, ARMREG_LR, ARMREG_PC);
 316         code = emit_bx (code, ARMREG_IP);
 317
 318         /*
 319          * Now we restore the MonoLMF (see emit_epilogue in mini-arm.c)
 320          * and the rest of the registers, so the method called will see
 321          * the same state as before we executed.
 322          */
 323         /* ip = previous_lmf */
 324         ARM_LDR_IMM (code, ARMREG_IP, ARMREG_V1, G_STRUCT_OFFSET (MonoLMF, previous_lmf));
 325         /* lr = lmf_addr */
 326         ARM_LDR_IMM (code, ARMREG_LR, ARMREG_V1, G_STRUCT_OFFSET (MonoLMF, lmf_addr));
 327         /* *(lmf_addr) = previous_lmf */
 328         ARM_STR_IMM (code, ARMREG_IP, ARMREG_LR, G_STRUCT_OFFSET (MonoLMF, previous_lmf));
 329
 330         /* Non-standard function epilogue. Instead of doing a proper
 331          * return, we just jump to the compiled code.
 332          */
 333         /* Restore the registers and jump to the code:
 334          * Note that IP has been conveniently set to the method addr.
 335          */
 336         ARM_ADD_REG_IMM8 (code, ARMREG_SP, ARMREG_SP, STACK - regsave_size);
 337         ARM_POP_NWB (code, 0x5fff);
 338         if (tramp_type == MONO_TRAMPOLINE_RGCTX_LAZY_FETCH)
 339                 ARM_MOV_REG_REG (code, ARMREG_R0, ARMREG_IP);
 340         ARM_ADD_REG_IMM8 (code, ARMREG_SP, ARMREG_SP, regsave_size);
 341         if ((tramp_type == MONO_TRAMPOLINE_CLASS_INIT) || (tramp_type == MONO_TRAMPOLINE_GENERIC_CLASS_INIT) || (tramp_type == MONO_TRAMPOLINE_RGCTX_LAZY_FETCH))
 342                 code = emit_bx (code, ARMREG_LR);
 343         else
 344                 code = emit_bx (code, ARMREG_IP);
 345
 346         constants = (gpointer*)code;
 347         constants [0] = mono_get_lmf_addr;
 348         constants [1] = (gpointer)mono_get_trampoline_func (tramp_type);
 349
 350         if (!aot) {
 351                 /* backpatch by emitting the missing instructions skipped above */
 352                 ARM_LDR_IMM (load_get_lmf_addr, ARMREG_R0, ARMREG_PC, (code - load_get_lmf_addr - 8));
 353                 ARM_LDR_IMM (load_trampoline, ARMREG_IP, ARMREG_PC, (code + 4 - load_trampoline - 8));
 354         }
 355
 356         code += 8;
 357
 358         /* Flush instruction cache, since we've generated code */
 359         mono_arch_flush_icache (buf, code - buf);
 360
 361         /* Sanity check */
 362         g_assert ((code - buf) <= buf_len);
 363
 364         if (tramp_type == MONO_TRAMPOLINE_CLASS_INIT)
 365                 /* Initialize the nullified class init trampoline used in the AOT case */
 366                 nullified_class_init_trampoline = mono_arch_get_nullified_class_init_trampoline (NULL);
 367
 368         if (info)
 369                 *info = mono_tramp_info_create (mono_get_generic_trampoline_name (tramp_type), buf, code - buf, ji, unwind_ops);
 370
 371         return buf;
 372 }
 373
 374 gpointer
 375 mono_arch_get_nullified_class_init_trampoline (MonoTrampInfo **info)
 376 {
 377         guint8 *buf, *code;
 378
 379         code = buf = mono_global_codeman_reserve (16);
 380
 381         code = emit_bx (code, ARMREG_LR);
 382
 383         mono_arch_flush_icache (buf, code - buf);
 384
 385         if (info)
 386                 *info = mono_tramp_info_create (g_strdup_printf ("nullified_class_init_trampoline"), buf, code - buf, NULL, NULL);
 387
 388         return buf;
 389 }
 390
 391 #define SPEC_TRAMP_SIZE 24
 392
 393 gpointer
 394 mono_arch_create_specific_trampoline (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len)
 395 {
 396         guint8 *code, *buf, *tramp;
 397         gpointer *constants;
 398         guint32 short_branch, size = SPEC_TRAMP_SIZE;
 399
 400         tramp = mono_get_trampoline_code (tramp_type);
 401
 402         mono_domain_lock (domain);
 403         code = buf = mono_domain_code_reserve_align (domain, size, 4);
 404         if ((short_branch = branch_for_target_reachable (code + 4, tramp))) {
 405                 size = 12;
 406                 mono_domain_code_commit (domain, code, SPEC_TRAMP_SIZE, size);
 407         }
 408         mono_domain_unlock (domain);
 409
 410         /* we could reduce this to 12 bytes if tramp is within reach:
 411          * ARM_PUSH ()
 412          * ARM_BL ()
 413          * method-literal
 414          * The called code can access method using the lr register
 415          * A 20 byte sequence could be:
 416          * ARM_PUSH ()
 417          * ARM_MOV_REG_REG (lr, pc)
 418          * ARM_LDR_IMM (pc, pc, 0)
 419          * method-literal
 420          * tramp-literal
 421          */
 422         /* We save all the registers, except PC and SP */
 423         ARM_PUSH (code, 0x5fff);
 424         if (short_branch) {
 425                 constants = (gpointer*)code;
 426                 constants [0] = GUINT_TO_POINTER (short_branch | (1 << 24));
 427                 constants [1] = arg1;
 428                 code += 8;
 429         } else {
 430                 ARM_LDR_IMM (code, ARMREG_R1, ARMREG_PC, 8); /* temp reg */
 431                 ARM_MOV_REG_REG (code, ARMREG_LR, ARMREG_PC);
 432                 code = emit_bx (code, ARMREG_R1);
 433
 434                 constants = (gpointer*)code;
 435                 constants [0] = arg1;
 436                 constants [1] = tramp;
 437                 code += 8;
 438         }
 439
 440         /* Flush instruction cache, since we've generated code */
 441         mono_arch_flush_icache (buf, code - buf);
 442
 443         g_assert ((code - buf) <= size);
 444
 445         if (code_len)
 446                 *code_len = code - buf;
 447
 448         return buf;
 449 }
 450
 451 /*
 452  * mono_arch_get_unbox_trampoline:
 453  * @m: method pointer
 454  * @addr: pointer to native code for @m
 455  *
 456  * when value type methods are called through the vtable we need to unbox the
 457  * this argument. This method returns a pointer to a trampoline which does
 458  * unboxing before calling the method
 459  */
 460 gpointer
 461 mono_arch_get_unbox_trampoline (MonoMethod *m, gpointer addr)
 462 {
 463         guint8 *code, *start;
 464         MonoDomain *domain = mono_domain_get ();
 465
 466         start = code = mono_domain_code_reserve (domain, 16);
 467
 468         ARM_LDR_IMM (code, ARMREG_IP, ARMREG_PC, 4);
 469         ARM_ADD_REG_IMM8 (code, ARMREG_R0, ARMREG_R0, sizeof (MonoObject));
 470         code = emit_bx (code, ARMREG_IP);
 471         *(guint32*)code = (guint32)addr;
 472         code += 4;
 473         mono_arch_flush_icache (start, code - start);
 474         g_assert ((code - start) <= 16);
 475         /*g_print ("unbox trampoline at %d for %s:%s\n", this_pos, m->klass->name, m->name);
 476         g_print ("unbox code is at %p for method at %p\n", start, addr);*/
 477
 478         return start;
 479 }
 480
 481 gpointer
 482 mono_arch_get_static_rgctx_trampoline (MonoMethod *m, MonoMethodRuntimeGenericContext *mrgctx, gpointer addr)
 483 {
 484         guint8 *code, *start;
 485         int buf_len;
 486
 487         MonoDomain *domain = mono_domain_get ();
 488
 489         buf_len = 16;
 490
 491         start = code = mono_domain_code_reserve (domain, buf_len);
 492
 493         ARM_LDR_IMM (code, MONO_ARCH_RGCTX_REG, ARMREG_PC, 0);
 494         ARM_LDR_IMM (code, ARMREG_PC, ARMREG_PC, 0);
 495         *(guint32*)code = (guint32)mrgctx;
 496         code += 4;
 497         *(guint32*)code = (guint32)addr;
 498         code += 4;
 499
 500         g_assert ((code - start) <= buf_len);
 501
 502         mono_arch_flush_icache (start, code - start);
 503
 504         return start;
 505 }
 506
 507 gpointer
 508 mono_arch_create_rgctx_lazy_fetch_trampoline (guint32 slot, MonoTrampInfo **info, gboolean aot)
 509 {
 510         guint8 *tramp;
 511         guint8 *code, *buf;
 512         int tramp_size;
 513         guint32 code_len;
 514         guint8 **rgctx_null_jumps;
 515         int depth, index;
 516         int i, njumps;
 517         gboolean mrgctx;
 518         MonoJumpInfo *ji = NULL;
 519         GSList *unwind_ops = NULL;
 520
 521         mrgctx = MONO_RGCTX_SLOT_IS_MRGCTX (slot);
 522         index = MONO_RGCTX_SLOT_INDEX (slot);
 523         if (mrgctx)
 524                 index += MONO_SIZEOF_METHOD_RUNTIME_GENERIC_CONTEXT / sizeof (gpointer);
 525         for (depth = 0; ; ++depth) {
 526                 int size = mono_class_rgctx_get_array_size (depth, mrgctx);
 527
 528                 if (index < size - 1)
 529                         break;
 530                 index -= size - 1;
 531         }
 532
 533         tramp_size = 64 + 16 * depth;
 534
 535         code = buf = mono_global_codeman_reserve (tramp_size);
 536
 537         mono_add_unwind_op_def_cfa (unwind_ops, code, buf, ARMREG_SP, 0);
 538
 539         rgctx_null_jumps = g_malloc (sizeof (guint8*) * (depth + 2));
 540         njumps = 0;
 541
 542         /* The vtable/mrgctx is in R0 */
 543         g_assert (MONO_ARCH_VTABLE_REG == ARMREG_R0);
 544
 545         if (mrgctx) {
 546                 /* get mrgctx ptr */
 547                 ARM_MOV_REG_REG (code, ARMREG_R1, ARMREG_R0);
 548         } else {
 549                 /* load rgctx ptr from vtable */
 550                 g_assert (arm_is_imm12 (G_STRUCT_OFFSET (MonoVTable, runtime_generic_context)));
 551                 ARM_LDR_IMM (code, ARMREG_R1, ARMREG_R0, G_STRUCT_OFFSET (MonoVTable, runtime_generic_context));
 552                 /* is the rgctx ptr null? */
 553                 ARM_CMP_REG_IMM (code, ARMREG_R1, 0, 0);
 554                 /* if yes, jump to actual trampoline */
 555                 rgctx_null_jumps [njumps ++] = code;
 556                 ARM_B_COND (code, ARMCOND_EQ, 0);
 557         }
 558
 559         for (i = 0; i < depth; ++i) {
 560                 /* load ptr to next array */
 561                 if (mrgctx && i == 0) {
 562                         g_assert (arm_is_imm12 (MONO_SIZEOF_METHOD_RUNTIME_GENERIC_CONTEXT));
 563                         ARM_LDR_IMM (code, ARMREG_R1, ARMREG_R1, MONO_SIZEOF_METHOD_RUNTIME_GENERIC_CONTEXT);
 564                 } else {
 565                         ARM_LDR_IMM (code, ARMREG_R1, ARMREG_R1, 0);
 566                 }
 567                 /* is the ptr null? */
 568                 ARM_CMP_REG_IMM (code, ARMREG_R1, 0, 0);
 569                 /* if yes, jump to actual trampoline */
 570                 rgctx_null_jumps [njumps ++] = code;
 571                 ARM_B_COND (code, ARMCOND_EQ, 0);
 572         }
 573
 574         /* fetch slot */
 575         code = mono_arm_emit_load_imm (code, ARMREG_R2, sizeof (gpointer) * (index + 1));
 576         ARM_LDR_REG_REG (code, ARMREG_R1, ARMREG_R1, ARMREG_R2);
 577         /* is the slot null? */
 578         ARM_CMP_REG_IMM (code, ARMREG_R1, 0, 0);
 579         /* if yes, jump to actual trampoline */
 580         rgctx_null_jumps [njumps ++] = code;
 581         ARM_B_COND (code, ARMCOND_EQ, 0);
 582         /* otherwise return, result is in R1 */
 583         ARM_MOV_REG_REG (code, ARMREG_R0, ARMREG_R1);
 584         code = emit_bx (code, ARMREG_LR);
 585
 586         g_assert (njumps <= depth + 2);
 587         for (i = 0; i < njumps; ++i)
 588                 arm_patch (rgctx_null_jumps [i], code);
 589
 590         g_free (rgctx_null_jumps);
 591
 592         /* Slowpath */
 593
 594         /* The vtable/mrgctx is still in R0 */
 595
 596         if (aot) {
 597                 ji = mono_patch_info_list_prepend (ji, code - buf, MONO_PATCH_INFO_JIT_ICALL_ADDR, g_strdup_printf ("specific_trampoline_lazy_fetch_%u", slot));
 598                 ARM_LDR_IMM (code, ARMREG_R1, ARMREG_PC, 0);
 599                 ARM_B (code, 0);
 600                 *(gpointer*)code = NULL;
 601                 code += 4;
 602                 ARM_LDR_REG_REG (code, ARMREG_PC, ARMREG_PC, ARMREG_R1);
 603         } else {
 604                 tramp = mono_arch_create_specific_trampoline (GUINT_TO_POINTER (slot), MONO_TRAMPOLINE_RGCTX_LAZY_FETCH, mono_get_root_domain (), &code_len);
 605
 606                 /* Jump to the actual trampoline */
 607                 ARM_LDR_IMM (code, ARMREG_R1, ARMREG_PC, 0); /* temp reg */
 608                 code = emit_bx (code, ARMREG_R1);
 609                 *(gpointer*)code = tramp;
 610                 code += 4;
 611         }
 612
 613         mono_arch_flush_icache (buf, code - buf);
 614
 615         g_assert (code - buf <= tramp_size);
 616
 617         if (info)
 618                 *info = mono_tramp_info_create (mono_get_rgctx_fetch_trampoline_name (slot), buf, code - buf, ji, unwind_ops);
 619
 620         return buf;
 621 }
 622
 623 #define arm_is_imm8(v) ((v) > -256 && (v) < 256)
 624
 625 gpointer
 626 mono_arch_create_generic_class_init_trampoline (MonoTrampInfo **info, gboolean aot)
 627 {
 628         guint8 *tramp;
 629         guint8 *code, *buf;
 630         static int byte_offset = -1;
 631         static guint8 bitmask;
 632         guint8 *jump;
 633         int tramp_size;
 634         guint32 code_len, imm8;
 635         gint rot_amount;
 636         GSList *unwind_ops = NULL;
 637         MonoJumpInfo *ji = NULL;
 638
 639         tramp_size = 64;
 640
 641         code = buf = mono_global_codeman_reserve (tramp_size);
 642
 643         if (byte_offset < 0)
 644                 mono_marshal_find_bitfield_offset (MonoVTable, initialized, &byte_offset, &bitmask);
 645
 646         g_assert (arm_is_imm8 (byte_offset));
 647         ARM_LDRSB_IMM (code, ARMREG_IP, MONO_ARCH_VTABLE_REG, byte_offset);
 648         imm8 = mono_arm_is_rotated_imm8 (bitmask, &rot_amount);
 649         g_assert (imm8 >= 0);
 650         ARM_AND_REG_IMM (code, ARMREG_IP, ARMREG_IP, imm8, rot_amount);
 651         ARM_CMP_REG_IMM (code, ARMREG_IP, 0, 0);
 652         jump = code;
 653         ARM_B_COND (code, ARMCOND_EQ, 0);
 654
 655         /* Initialized case */
 656         ARM_MOV_REG_REG (code, ARMREG_PC, ARMREG_LR);
 657
 658         /* Uninitialized case */
 659         arm_patch (jump, code);
 660
 661         if (aot) {
 662                 ji = mono_patch_info_list_prepend (ji, code - buf, MONO_PATCH_INFO_JIT_ICALL_ADDR, "specific_trampoline_generic_class_init");
 663                 ARM_LDR_IMM (code, ARMREG_R1, ARMREG_PC, 0);
 664                 ARM_B (code, 0);
 665                 *(gpointer*)code = NULL;
 666                 code += 4;
 667                 ARM_LDR_REG_REG (code, ARMREG_PC, ARMREG_PC, ARMREG_R1);
 668         } else {
 669                 tramp = mono_arch_create_specific_trampoline (NULL, MONO_TRAMPOLINE_GENERIC_CLASS_INIT, mono_get_root_domain (), &code_len);
 670
 671                 /* Jump to the actual trampoline */
 672                 ARM_LDR_IMM (code, ARMREG_R1, ARMREG_PC, 0); /* temp reg */
 673                 code = emit_bx (code, ARMREG_R1);
 674                 *(gpointer*)code = tramp;
 675                 code += 4;
 676         }
 677
 678         mono_arch_flush_icache (buf, code - buf);
 679
 680         g_assert (code - buf <= tramp_size);
 681
 682         if (info)
 683                 *info = mono_tramp_info_create (g_strdup_printf ("generic_class_init_trampoline"), buf, code - buf, ji, unwind_ops);
 684
 685         return buf;
 686 }
 687
 688 #else
 689
 690 guchar*
 691 mono_arch_create_generic_trampoline (MonoTrampolineType tramp_type, MonoTrampInfo **info, gboolean aot)
 692 {
 693         g_assert_not_reached ();
 694         return NULL;
 695 }
 696
 697 gpointer
 698 mono_arch_create_specific_trampoline (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len)
 699 {
 700         g_assert_not_reached ();
 701         return NULL;
 702 }
 703
 704 gpointer
 705 mono_arch_get_unbox_trampoline (MonoMethod *m, gpointer addr)
 706 {
 707         g_assert_not_reached ();
 708         return NULL;
 709 }
 710
 711 gpointer
 712 mono_arch_get_static_rgctx_trampoline (MonoMethod *m, MonoMethodRuntimeGenericContext *mrgctx, gpointer addr)
 713 {
 714         g_assert_not_reached ();
 715         return NULL;
 716 }
 717
 718 gpointer
 719 mono_arch_create_rgctx_lazy_fetch_trampoline (guint32 slot, MonoTrampInfo **info, gboolean aot)
 720 {
 721         g_assert_not_reached ();
 722         return NULL;
 723 }
 724
 725 gpointer
 726 mono_arch_create_generic_class_init_trampoline (MonoTrampInfo **info, gboolean aot)
 727 {
 728         g_assert_not_reached ();
 729         return NULL;
 730 }
 731
 732 #endif /* DISABLE_JIT */
 733
 734 guint8*
 735 mono_arch_get_call_target (guint8 *code)
 736 {
 737         guint32 ins = ((guint32*)(gpointer)code) [-1];
 738
 739         /* Should be a 'bl' */
 740         if ((((ins >> 25) & 0x7) == 0x5) && (((ins >> 24) & 0x1) == 0x1)) {
 741                 gint32 disp = ((gint32)ins) & 0xffffff;
 742                 guint8 *target = code - 4 + 8 + (disp * 4);
 743
 744                 return target;
 745         } else {
 746                 return NULL;
 747         }
 748 }
 749
 750 guint32
 751 mono_arch_get_plt_info_offset (guint8 *plt_entry, mgreg_t *regs, guint8 *code)
 752 {
 753         /* The offset is stored as the 4th word of the plt entry */
 754         return ((guint32*)plt_entry) [3];
 755 }
 756
 757 /*
 758  * Return the address of the PLT entry called by the thumb code CODE.
 759  */
 760 guint8*
 761 mono_arm_get_thumb_plt_entry (guint8 *code)
 762 {
 763         int s, j1, j2, imm10, imm11, i1, i2, imm32;
 764         guint8 *bl, *base;
 765         guint16 t1, t2;
 766         guint8 *target;
 767
 768         /* code should be right after a BL */
 769         code = (guint8*)((mgreg_t)code & ~1);
 770         base = (guint8*)((mgreg_t)code & ~3);
 771         bl = code - 4;
 772         t1 = ((guint16*)bl) [0];
 773         t2 = ((guint16*)bl) [1];
 774
 775         g_assert ((t1 >> 11) == 0x1e);
 776
 777         s = (t1 >> 10) & 0x1;
 778         imm10 = (t1 >> 0) & 0x3ff;
 779         j1 = (t2 >> 13) & 0x1;
 780         j2 = (t2 >> 11) & 0x1;
 781         imm11 = t2 & 0x7ff;
 782
 783         i1 = (s ^ j1) ? 0 : 1;
 784         i2 = (s ^ j2) ? 0 : 1;
 785
 786         imm32 = (imm11 << 1) | (imm10 << 12) | (i2 << 22) | (i1 << 23);
 787         // FIXME:
 788         g_assert (s == 0);
 789
 790         target = code + imm32;
 791
 792         /* target now points to the thumb plt entry */
 793         /* ldr.w r12, [pc, #8] */
 794         g_assert (((guint16*)target) [0] == 0xf8df);
 795         g_assert (((guint16*)target) [1] == 0xc008);
 796
 797         /*
 798          * The PLT info offset is at offset 16, but mono_arch_get_plt_entry_offset () returns
 799          * the 3rd word, so compensate by returning a different value.
 800          */
 801         target += 4;
 802
 803         return target;
 804 }