mono/mini/tramp-ia64.c

   1 /*
   2  * tramp-ia64.c: JIT trampoline code for ia64
   3  *
   4  * Authors:
   5  *   Zoltan Varga (vargaz@gmail.com)
   6  *
   7  * (C) 2001 Ximian, Inc.
   8  */
   9
  10 #include <config.h>
  11 #include <glib.h>
  12
  13 #include <mono/metadata/appdomain.h>
  14 #include <mono/metadata/marshal.h>
  15 #include <mono/metadata/tabledefs.h>
  16 #include <mono/metadata/mono-debug-debugger.h>
  17 #include <mono/arch/ia64/ia64-codegen.h>
  18
  19 #include "mini.h"
  20 #include "mini-ia64.h"
  21
  22 #define GP_SCRATCH_REG 31
  23 #define GP_SCRATCH_REG2 30
  24
  25 /*
  26  * mono_arch_get_unbox_trampoline:
  27  * @m: method pointer
  28  * @addr: pointer to native code for @m
  29  *
  30  * when value type methods are called through the vtable we need to unbox the
  31  * this argument. This method returns a pointer to a trampoline which does
  32  * unboxing before calling the method
  33  */
  34 gpointer
  35 mono_arch_get_unbox_trampoline (MonoMethod *m, gpointer addr)
  36 {
  37         guint8 *buf;
  38         gpointer func_addr, func_gp;
  39         Ia64CodegenState code;
  40         int this_reg = 0;
  41         gpointer *desc;
  42         MonoDomain *domain = mono_domain_get ();
  43
  44         /* FIXME: Optimize this */
  45
  46         if (MONO_TYPE_ISSTRUCT (mono_method_signature (m)->ret))
  47                 this_reg = 1;
  48
  49         func_addr = ((gpointer*)addr) [0];
  50         func_gp = ((gpointer*)addr) [1];
  51
  52         buf = mono_domain_code_reserve (domain, 256);
  53
  54         /* Since the this reg is a stacked register, its a bit hard to access it */
  55         ia64_codegen_init (code, buf);
  56         ia64_alloc (code, 40, 8, 1, 0, 0);
  57         ia64_adds_imm (code, 32 + this_reg, sizeof (MonoObject), 32 + this_reg);
  58         ia64_mov_to_ar_i (code, IA64_PFS, 40);
  59         ia64_movl (code, GP_SCRATCH_REG, func_addr);
  60         ia64_mov_to_br (code, IA64_B6, GP_SCRATCH_REG);
  61         ia64_br_cond_reg (code, IA64_B6);
  62         ia64_codegen_close (code);
  63
  64         g_assert (code.buf - buf < 256);
  65
  66         mono_arch_flush_icache (buf, code.buf - buf);
  67
  68         /* FIXME: */
  69         desc = g_malloc0 (sizeof (gpointer) * 2);
  70         desc [0] = buf;
  71         desc [1] = func_gp;
  72
  73         return desc;
  74 }
  75
  76 void
  77 mono_arch_patch_callsite (guint8 *method_start, guint8 *code, guint8 *addr)
  78 {
  79         guint8 *callsite_begin;
  80         guint64 *callsite = (guint64*)(gpointer)(code - 16);
  81         guint64 *next_bundle;
  82         guint64 ins, instructions [3];
  83         guint64 buf [16];
  84         Ia64CodegenState gen;
  85         gpointer func = ((gpointer*)(gpointer)addr)[0];
  86
  87         while ((ia64_bundle_template (callsite) != IA64_TEMPLATE_MLX) &&
  88                    (ia64_bundle_template (callsite) != IA64_TEMPLATE_MLXS))
  89                 callsite -= 2;
  90         callsite_begin = (guint8*)callsite;
  91
  92         next_bundle = callsite + 2;
  93         ins = ia64_bundle_ins1 (next_bundle);
  94         if (ia64_ins_opcode (ins) == 5) {
  95                 /* ld8_inc_imm -> indirect call through a function pointer */
  96                 g_assert (ia64_ins_r1 (ins) == GP_SCRATCH_REG2);
  97                 g_assert (ia64_ins_r3 (ins) == GP_SCRATCH_REG);
  98                 return;
  99         }
 100
 101         /* Patch the code generated by emit_call */
 102
 103         instructions [0] = ia64_bundle_ins1 (callsite);
 104         instructions [1] = ia64_bundle_ins2 (callsite);
 105         instructions [2] = ia64_bundle_ins3 (callsite);
 106
 107         ia64_codegen_init (gen, (guint8*)buf);
 108         ia64_movl (gen, GP_SCRATCH_REG, func);
 109         instructions [1] = gen.instructions [0];
 110         instructions [2] = gen.instructions [1];
 111
 112         ia64_codegen_init (gen, (guint8*)buf);
 113         ia64_emit_bundle_template (&gen, ia64_bundle_template (callsite), instructions [0], instructions [1], instructions [2]);
 114         ia64_codegen_close (gen);
 115
 116         /* This might not be safe, but not all itanium processors support st16 */
 117         callsite [0] = buf [0];
 118         callsite [1] = buf [1];
 119
 120         mono_arch_flush_icache (callsite_begin, code - callsite_begin);
 121 }
 122
 123 void
 124 mono_arch_patch_plt_entry (guint8 *code, gpointer *got, mgreg_t *regs, guint8 *addr)
 125 {
 126         g_assert_not_reached ();
 127 }
 128
 129 void
 130 mono_arch_nullify_class_init_trampoline (guint8 *code, mgreg_t *regs)
 131 {
 132         guint8 *callsite_begin;
 133         guint64 *callsite = (guint64*)(gpointer)(code - 16);
 134         guint64 instructions [3];
 135         guint64 buf [16];
 136         Ia64CodegenState gen;
 137
 138         while ((ia64_bundle_template (callsite) != IA64_TEMPLATE_MLX) &&
 139                    (ia64_bundle_template (callsite) != IA64_TEMPLATE_MLXS))
 140                 callsite -= 2;
 141         callsite_begin = (guint8*)callsite;
 142
 143         /* Replace the code generated by emit_call with a sets of nops */
 144
 145         /* The first bundle might have other instructions in it */
 146         instructions [0] = ia64_bundle_ins1 (callsite);
 147         instructions [1] = IA64_NOP_X;
 148         instructions [2] = IA64_NOP_X;
 149
 150         ia64_codegen_init (gen, (guint8*)buf);
 151         ia64_emit_bundle_template (&gen, ia64_bundle_template (callsite), instructions [0], instructions [1], instructions [2]);
 152         ia64_codegen_close (gen);
 153
 154         /* This might not be safe, but not all itanium processors support st16 */
 155         callsite [0] = buf [0];
 156         callsite [1] = buf [1];
 157
 158         callsite += 2;
 159
 160         /* The other bundles can be full replaced with nops */
 161
 162         ia64_codegen_init (gen, (guint8*)buf);
 163         ia64_emit_bundle_template (&gen, IA64_TEMPLATE_MII, IA64_NOP_M, IA64_NOP_I, IA64_NOP_I);
 164         ia64_codegen_close (gen);
 165
 166         while ((guint8*)callsite < code) {
 167                 callsite [0] = buf [0];
 168                 callsite [1] = buf [1];
 169                 callsite += 2;
 170         }
 171
 172         mono_arch_flush_icache (callsite_begin, code - callsite_begin);
 173 }
 174
 175 void
 176 mono_arch_nullify_plt_entry (guint8 *code, mgreg_t *regs)
 177 {
 178         g_assert_not_reached ();
 179 }
 180
 181 guchar*
 182 mono_arch_create_generic_trampoline (MonoTrampolineType tramp_type, MonoTrampInfo **info, gboolean aot)
 183 {
 184         guint8 *buf, *tramp;
 185         int i, offset, saved_regs_offset, saved_fpregs_offset, last_offset, framesize;
 186         int in0, local0, out0, l0, l1, l2, l3, l4, l5, l6, l7, l8, o0, o1, o2, o3;
 187         gboolean has_caller;
 188         Ia64CodegenState code;
 189         unw_dyn_info_t *di;
 190         unw_dyn_region_info_t *r_pro;
 191
 192         g_assert (!aot);
 193         if (info)
 194                 *info = NULL;
 195
 196         /*
 197          * Since jump trampolines are not patched, this trampoline is executed every
 198          * time a call is made to a jump trampoline. So we try to keep things faster
 199          * in that case.
 200          */
 201         if (tramp_type == MONO_TRAMPOLINE_JUMP)
 202                 has_caller = FALSE;
 203         else
 204                 has_caller = TRUE;
 205
 206         buf = mono_global_codeman_reserve (2048);
 207
 208         ia64_codegen_init (code, buf);
 209
 210         /* Stacked Registers */
 211         in0 = 32;
 212         local0 = in0 + 8;
 213         out0 = local0 + 16;
 214         l0 = 40;
 215         l1 = 41;
 216         l2 = 42;
 217         l3 = 43;
 218         l4 = 44;
 219         l5 = 45; /* saved ar.pfs */
 220         l6 = 46; /* arg */
 221         l7 = 47; /* code */
 222         l8 = 48; /* saved sp */
 223         o0 = out0 + 0; /* regs */
 224         o1 = out0 + 1; /* code */
 225         o2 = out0 + 2; /* arg */
 226         o3 = out0 + 3; /* tramp */
 227
 228         framesize = (128 * 8) + 1024;
 229         framesize = (framesize + (MONO_ARCH_FRAME_ALIGNMENT - 1)) & ~ (MONO_ARCH_FRAME_ALIGNMENT - 1);
 230
 231         /*
 232          * Allocate a new register+memory stack frame.
 233          * 8 input registers (the max used by the ABI)
 234          * 16 locals
 235          * 4 output (number of parameters passed to trampoline)
 236          */
 237         ia64_unw_save_reg (code, UNW_IA64_AR_PFS, UNW_IA64_GR + l5);
 238         ia64_alloc (code, l5, local0 - in0, out0 - local0, 4, 0);
 239         ia64_unw_save_reg (code, UNW_IA64_SP, UNW_IA64_GR + l8);
 240         ia64_mov (code, l8, IA64_SP);
 241         ia64_adds_imm (code, IA64_SP, (-framesize), IA64_SP);
 242
 243         offset = 16; /* scratch area */
 244
 245         /* Save the argument received from the specific trampoline */
 246         ia64_mov (code, l6, GP_SCRATCH_REG);
 247
 248         /* Save the calling address */
 249         ia64_unw_save_reg (code, UNW_IA64_RP, UNW_IA64_GR + local0 + 7);
 250         ia64_mov_from_br (code, l7, IA64_B0);
 251
 252         /* Create unwind info for the prolog */
 253         ia64_begin_bundle (code);
 254         r_pro = mono_ia64_create_unwind_region (&code);
 255
 256         /* Save registers */
 257         /* Not needed for jump trampolines */
 258         if (tramp_type != MONO_TRAMPOLINE_JUMP) {
 259                 saved_regs_offset = offset;
 260                 offset += 128 * 8;
 261                 /*
 262                  * Only the registers which are needed for computing vtable slots need
 263                  * to be saved.
 264                  */
 265                 last_offset = -1;
 266                 for (i = 0; i < 64; ++i)
 267                         if ((1 << i) & MONO_ARCH_CALLEE_REGS) {
 268                                 if (last_offset != i * 8)
 269                                         ia64_adds_imm (code, l1, saved_regs_offset + (i * 8), IA64_SP);
 270                                 ia64_st8_spill_inc_imm_hint (code, l1, i, 8, 0);
 271                                 last_offset = (i + 1) * 8;
 272                         }
 273         }
 274
 275         /* Save fp registers */
 276         saved_fpregs_offset = offset;
 277         offset += 8 * 8;
 278         ia64_adds_imm (code, l1, saved_fpregs_offset, IA64_SP);
 279         for (i = 0; i < 8; ++i)
 280                 ia64_stfd_inc_imm_hint (code, l1, i + 8, 8, 0);
 281
 282         g_assert (offset < framesize);
 283
 284         /* Arg1 is the pointer to the saved registers */
 285         ia64_adds_imm (code, o0, saved_regs_offset, IA64_SP);
 286
 287         /* Arg2 is the address of the calling code */
 288         if (has_caller)
 289                 ia64_mov (code, o1, l7);
 290         else
 291                 ia64_mov (code, o1, 0);
 292
 293         /* Arg3 is the method/vtable ptr */
 294         ia64_mov (code, o2, l6);
 295
 296         /* Arg4 is the trampoline address */
 297         /* FIXME: */
 298         ia64_mov (code, o3, 0);
 299
 300         tramp = (guint8*)mono_get_trampoline_func (tramp_type);
 301
 302         /* Call the trampoline using an indirect call */
 303         ia64_movl (code, l0, tramp);
 304         ia64_ld8_inc_imm (code, l1, l0, 8);
 305         ia64_mov_to_br (code, IA64_B6, l1);
 306         ia64_ld8 (code, IA64_GP, l0);
 307         ia64_br_call_reg (code, 0, IA64_B6);
 308
 309         /* Check for thread interruption */
 310         /* This is not perf critical code so no need to check the interrupt flag */
 311         ia64_mov (code, l2, IA64_R8);
 312
 313         tramp = (guint8*)mono_thread_force_interruption_checkpoint;
 314         ia64_movl (code, l0, tramp);
 315         ia64_ld8_inc_imm (code, l1, l0, 8);
 316         ia64_mov_to_br (code, IA64_B6, l1);
 317         ia64_ld8 (code, IA64_GP, l0);
 318         ia64_br_call_reg (code, 0, IA64_B6);
 319
 320         ia64_mov (code, IA64_R8, l2);
 321
 322         /* Restore fp regs */
 323         ia64_adds_imm (code, l1, saved_fpregs_offset, IA64_SP);
 324         for (i = 0; i < 8; ++i)
 325                 ia64_ldfd_inc_imm (code, i + 8, l1, 8);
 326
 327         /* FIXME: Handle NATs in fp regs / scratch regs */
 328
 329         if (tramp_type != MONO_TRAMPOLINE_CLASS_INIT) {
 330                 /* Load method address from function descriptor */
 331                 ia64_ld8 (code, l0, IA64_R8);
 332                 ia64_mov_to_br (code, IA64_B6, l0);
 333         }
 334
 335         /* Clean up register/memory stack frame */
 336         ia64_adds_imm (code, IA64_SP, framesize, IA64_SP);
 337         ia64_mov_to_ar_i (code, IA64_PFS, l5);
 338
 339         if (tramp_type == MONO_TRAMPOLINE_CLASS_INIT) {
 340                 ia64_mov_ret_to_br (code, IA64_B0, l7);
 341                 ia64_br_ret_reg (code, IA64_B0);
 342         }
 343         else {
 344                 /* Call the compiled method */
 345                 ia64_mov_to_br (code, IA64_B0, l7);
 346                 ia64_br_cond_reg (code, IA64_B6);
 347         }
 348
 349         ia64_codegen_close (code);
 350
 351         g_assert ((code.buf - buf) <= 2048);
 352
 353         /* FIXME: emit unwind info for epilog */
 354         di = g_malloc0 (sizeof (unw_dyn_info_t));
 355         di->start_ip = (unw_word_t) buf;
 356         di->end_ip = (unw_word_t) code.buf;
 357         di->gp = 0;
 358         di->format = UNW_INFO_FORMAT_DYNAMIC;
 359         di->u.pi.name_ptr = (unw_word_t)"ia64_generic_trampoline";
 360         di->u.pi.regions = r_pro;
 361
 362         _U_dyn_register (di);
 363
 364         mono_arch_flush_icache (buf, code.buf - buf);
 365
 366         return buf;
 367 }
 368
 369 #define TRAMPOLINE_SIZE 128
 370
 371 gpointer
 372 mono_arch_create_specific_trampoline (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len)
 373 {
 374         guint8 *buf, *tramp;
 375         gint64 disp;
 376         Ia64CodegenState code;
 377
 378         tramp = mono_get_trampoline_code (tramp_type);
 379
 380         buf = mono_domain_code_reserve (domain, TRAMPOLINE_SIZE);
 381
 382         /* FIXME: Optimize this */
 383
 384         ia64_codegen_init (code, buf);
 385
 386         ia64_movl (code, GP_SCRATCH_REG, arg1);
 387
 388         ia64_begin_bundle (code);
 389         disp = (tramp - code.buf) >> 4;
 390         if (ia64_is_imm21 (disp)) {
 391                 ia64_br_cond (code, disp);
 392         }
 393         else {
 394                 ia64_movl (code, GP_SCRATCH_REG2, tramp);
 395                 ia64_mov_to_br (code, IA64_B6, GP_SCRATCH_REG2);
 396                 ia64_br_cond_reg (code, IA64_B6);
 397         }
 398
 399         ia64_codegen_close (code);
 400
 401         g_assert (code.buf - buf <= TRAMPOLINE_SIZE);
 402
 403         mono_arch_flush_icache (buf, code.buf - buf);
 404
 405         if (code_len)
 406                 *code_len = code.buf - buf;
 407
 408         return buf;
 409 }
 410
 411 void
 412 mono_arch_invalidate_method (MonoJitInfo *ji, void *func, gpointer func_arg)
 413 {
 414         NOT_IMPLEMENTED;
 415 }
 416
 417 gpointer
 418 mono_arch_create_rgctx_lazy_fetch_trampoline (guint32 slot, MonoTrampInfo **info, gboolean aot)
 419 {
 420         /* FIXME: implement! */
 421         g_assert_not_reached ();
 422         return NULL;
 423 }