mono/jit/emit-x86.c

   1 /*
   2  * emit-x86.c: Support functions for emitting x86 code
   3  *
   4  * Authors:
   5  *   Dietmar Maurer (dietmar@ximian.com)
   6  *   Miguel de Icaza (miguel@ximian.com)
   7  *
   8  * (C) 2001 Ximian, Inc.
   9  */
  10
  11 #include <config.h>
  12 #include <glib.h>
  13
  14 #include <mono/metadata/assembly.h>
  15 #include <mono/metadata/loader.h>
  16 #include <mono/metadata/cil-coff.h>
  17 #include <mono/metadata/tabledefs.h>
  18 #include <mono/metadata/class.h>
  19 #include <mono/metadata/mono-endian.h>
  20 #include <mono/arch/x86/x86-codegen.h>
  21
  22 #include "jit.h"
  23 #include "codegen.h"
  24 #include "debug.h"
  25
  26 static void
  27 enter_method (MonoMethod *method, gpointer ebp)
  28 {
  29         int i, j;
  30         MonoClass *class;
  31         MonoObject *o;
  32
  33         printf ("ENTER: %s.%s::%s\n(", method->klass->name_space,
  34                 method->klass->name, method->name);
  35
  36
  37         if (((int)ebp & 3) != 0) {
  38                 g_error ("unaligned stack detected (%p)", ebp);
  39         }
  40
  41         ebp += 8;
  42
  43         if (ISSTRUCT (method->signature->ret)) {
  44                 int size, align;
  45
  46                 g_assert (!method->signature->ret->byref);
  47
  48                 size = mono_type_stack_size (method->signature->ret, &align);
  49
  50                 printf ("VALUERET:%p, ", *((gpointer *)ebp));
  51                 ebp += sizeof (gpointer);
  52         }
  53
  54         if (method->signature->hasthis) {
  55                 if (method->klass->valuetype) {
  56                         printf ("value:%p, ", *((gpointer *)ebp));
  57                 } else {
  58                         o = *((MonoObject **)ebp);
  59
  60                         g_assert (o);
  61
  62                         class = o->vtable->klass;
  63
  64                         if (class == mono_defaults.string_class) {
  65                                 printf ("this:[STRING:%p:%s], ", o, mono_string_to_utf8 ((MonoString *)o));
  66                         } else {
  67                                 printf ("this:%p[%s.%s], ", o, class->name_space, class->name);
  68                         }
  69                 }
  70                 ebp += sizeof (gpointer);
  71         }
  72
  73         for (i = 0; i < method->signature->param_count; ++i) {
  74                 MonoType *type = method->signature->params [i];
  75                 int size, align;
  76                 size = mono_type_stack_size (type, &align);
  77
  78                 if (type->byref) {
  79                         printf ("[BYREF:%p], ", *((gpointer *)ebp));
  80                 } else switch (type->type) {
  81
  82                 case MONO_TYPE_BOOLEAN:
  83                 case MONO_TYPE_CHAR:
  84                 case MONO_TYPE_I1:
  85                 case MONO_TYPE_U1:
  86                 case MONO_TYPE_I2:
  87                 case MONO_TYPE_U2:
  88                 case MONO_TYPE_I4:
  89                 case MONO_TYPE_U4:
  90                 case MONO_TYPE_I:
  91                 case MONO_TYPE_U:
  92                         printf ("%d, ", *((int *)(ebp)));
  93                         break;
  94                 case MONO_TYPE_STRING: {
  95                         MonoString *s = *((MonoString **)ebp);
  96                         if (s) {
  97                                 g_assert (((MonoObject *)s)->vtable->klass == mono_defaults.string_class);
  98                                 printf ("[STRING:%p:%s], ", s, mono_string_to_utf8 (s));
  99                         } else
 100                                 printf ("[STRING:null], ");
 101                         break;
 102                 }
 103                 case MONO_TYPE_CLASS:
 104                 case MONO_TYPE_OBJECT: {
 105                         o = *((MonoObject **)ebp);
 106                         if (o) {
 107                                 class = o->vtable->klass;
 108
 109                                 if (class == mono_defaults.string_class) {
 110                                         printf ("[STRING:%p:%s], ", o, mono_string_to_utf8 ((MonoString *)o));
 111                                 } else if (class == mono_defaults.int32_class) {
 112                                         printf ("[INT32:%p:%d], ", o, *(gint32 *)((gpointer)o + sizeof (MonoObject)));
 113                                 } else
 114                                         printf ("[%s.%s:%p], ", class->name_space, class->name, o);
 115                         } else {
 116                                 printf ("%p, ", *((gpointer *)(ebp)));
 117                         }
 118                         break;
 119                 }
 120                 case MONO_TYPE_PTR:
 121                 case MONO_TYPE_FNPTR:
 122                 case MONO_TYPE_ARRAY:
 123                 case MONO_TYPE_SZARRAY:
 124                         printf ("%p, ", *((gpointer *)(ebp)));
 125                         break;
 126                 case MONO_TYPE_I8:
 127                         printf ("%lld, ", *((gint64 *)(ebp)));
 128                         break;
 129                 case MONO_TYPE_R4:
 130                         printf ("%f, ", *((float *)(ebp)));
 131                         break;
 132                 case MONO_TYPE_R8:
 133                         printf ("%f, ", *((double *)(ebp)));
 134                         break;
 135                 case MONO_TYPE_VALUETYPE:
 136                         printf ("[");
 137                         for (j = 0; j < size; j++)
 138                                 printf ("%02x,", *((guint8*)ebp +j));
 139                         printf ("], ");
 140                         break;
 141                 default:
 142                         printf ("XX, ");
 143                 }
 144
 145                 g_assert (align == 4);
 146                 ebp += size + 3;
 147                 ebp = (gpointer)((unsigned)ebp & ~(3));
 148         }
 149
 150         printf (")\n");
 151 }
 152
 153 static void
 154 leave_method (MonoMethod *method, int edx, int eax, double test)
 155 {
 156         gint64 l;
 157
 158         printf ("LEAVE: %s.%s::%s ", method->klass->name_space,
 159                 method->klass->name, method->name);
 160
 161         switch (method->signature->ret->type) {
 162         case MONO_TYPE_VOID:
 163                 break;
 164         case MONO_TYPE_BOOLEAN:
 165                 if (eax)
 166                         printf ("TRUE:%d", eax);
 167                 else
 168                         printf ("FALSE");
 169
 170                 break;
 171         case MONO_TYPE_CHAR:
 172         case MONO_TYPE_I1:
 173         case MONO_TYPE_U1:
 174         case MONO_TYPE_I2:
 175         case MONO_TYPE_U2:
 176         case MONO_TYPE_I4:
 177         case MONO_TYPE_U4:
 178         case MONO_TYPE_I:
 179         case MONO_TYPE_U:
 180                 printf ("EAX=%d", eax);
 181                 break;
 182         case MONO_TYPE_STRING: {
 183                 MonoString *s = (MonoString *)eax;
 184
 185                 if (s) {
 186                         g_assert (((MonoObject *)s)->vtable->klass == mono_defaults.string_class);
 187                         printf ("[STRING:%p:%s]", s, mono_string_to_utf8 (s));
 188                 } else
 189                         printf ("[STRING:null], ");
 190                 break;
 191         }
 192         case MONO_TYPE_OBJECT: {
 193                 MonoObject *o = (MonoObject *)eax;
 194
 195                 if (o) {
 196                         if (o->vtable->klass == mono_defaults.boolean_class) {
 197                                 printf ("[BOOLEAN:%p:%d]", o, *((guint8 *)o + sizeof (MonoObject)));
 198                         } else if  (o->vtable->klass == mono_defaults.int32_class) {
 199                                 printf ("[INT32:%p:%d]", o, *((gint32 *)((gpointer)o + sizeof (MonoObject))));
 200                         } else
 201                                 printf ("[%s.%s:%p]", o->vtable->klass->name_space, o->vtable->klass->name, o);
 202                 } else
 203                         printf ("[OBJECT:%p]", o);
 204
 205                 break;
 206         }
 207         case MONO_TYPE_CLASS:
 208         case MONO_TYPE_PTR:
 209         case MONO_TYPE_FNPTR:
 210         case MONO_TYPE_ARRAY:
 211         case MONO_TYPE_SZARRAY:
 212                 printf ("EAX=%p", (gpointer)eax);
 213                 break;
 214         case MONO_TYPE_I8:
 215                 *((gint32 *)&l) = eax;
 216                 *((gint32 *)&l + 1) = edx;
 217                 printf ("EAX/EDX=%lld", l);
 218                 break;
 219         case MONO_TYPE_R8:
 220                 printf ("FP=%f\n", test);
 221                 break;
 222         default:
 223                 printf ("(unknown return type)");
 224         }
 225
 226         printf ("\n");
 227 }
 228
 229 /**
 230  * arch_emit_prologue:
 231  * @cfg: pointer to status information
 232  *
 233  * Emits the function prolog.
 234  */
 235 static void
 236 arch_emit_prologue (MonoFlowGraph *cfg)
 237 {
 238         x86_push_reg (cfg->code, X86_EBP);
 239         x86_mov_reg_reg (cfg->code, X86_EBP, X86_ESP, 4);
 240
 241         if (cfg->locals_size)
 242                 x86_alu_reg_imm (cfg->code, X86_SUB, X86_ESP, cfg->locals_size);
 243
 244         if (mono_regset_reg_used (cfg->rs, X86_EBX))
 245                 x86_push_reg (cfg->code, X86_EBX);
 246
 247         if (mono_regset_reg_used (cfg->rs, X86_EDI))
 248                 x86_push_reg (cfg->code, X86_EDI);
 249
 250         if (mono_regset_reg_used (cfg->rs, X86_ESI))
 251                 x86_push_reg (cfg->code, X86_ESI);
 252
 253         if (mono_jit_trace_calls) {
 254                 x86_push_reg (cfg->code, X86_EBP);
 255                 x86_push_imm (cfg->code, cfg->method);
 256                 x86_mov_reg_imm (cfg->code, X86_EAX, enter_method);
 257                 x86_call_reg (cfg->code, X86_EAX);
 258                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 8);
 259         }
 260 }
 261
 262 /**
 263  * arch_emit_epilogue:
 264  * @cfg: pointer to status information
 265  *
 266  * Emits the function epilog.
 267  */
 268 static void
 269 arch_emit_epilogue (MonoFlowGraph *cfg)
 270 {
 271         if (mono_jit_trace_calls) {
 272                 x86_fld_reg (cfg->code, 0);
 273                 x86_alu_reg_imm (cfg->code, X86_SUB, X86_ESP, 8);
 274                 x86_fst_membase (cfg->code, X86_ESP, 0, TRUE, TRUE);
 275                 x86_push_reg (cfg->code, X86_EAX);
 276                 x86_push_reg (cfg->code, X86_EDX);
 277                 x86_push_imm (cfg->code, cfg->method);
 278                 x86_mov_reg_imm (cfg->code, X86_EAX, leave_method);
 279                 x86_call_reg (cfg->code, X86_EAX);
 280                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 4);
 281                 x86_pop_reg (cfg->code, X86_EDX);
 282                 x86_pop_reg (cfg->code, X86_EAX);
 283                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 8);
 284         }
 285
 286         if (mono_regset_reg_used (cfg->rs, X86_ESI))
 287                 x86_pop_reg (cfg->code, X86_ESI);
 288
 289         if (mono_regset_reg_used (cfg->rs, X86_EDI))
 290                 x86_pop_reg (cfg->code, X86_EDI);
 291
 292         if (mono_regset_reg_used (cfg->rs, X86_EBX))
 293                 x86_pop_reg (cfg->code, X86_EBX);
 294
 295         x86_leave (cfg->code);
 296         x86_ret (cfg->code);
 297 }
 298
 299 /*
 300  * get_unbox_trampoline:
 301  * @m: method pointer
 302  *
 303  * when value type methods are called through the vtable we need to unbox the
 304  * this argument. This method returns a pointer to a trampoline which does
 305  * unboxing before calling the method
 306  */
 307 static gpointer
 308 get_unbox_trampoline (MonoMethod *m)
 309 {
 310         gpointer p = arch_compile_method (m);
 311         guint8 *code, *start;
 312         int this_pos = 4;
 313
 314         if (!m->signature->ret->byref && m->signature->ret->type == MONO_TYPE_VALUETYPE)
 315                 this_pos = 8;
 316
 317         start = code = g_malloc (16);
 318
 319         x86_alu_membase_imm (code, X86_ADD, X86_ESP, this_pos, sizeof (MonoObject));
 320         x86_jump_code (code, p);
 321         g_assert ((code - start) < 16);
 322
 323         return start;
 324 }
 325
 326 /**
 327  * x86_magic_trampoline:
 328  * @eax: saved x86 register
 329  * @ecx: saved x86 register
 330  * @edx: saved x86 register
 331  * @esi: saved x86 register
 332  * @edi: saved x86 register
 333  * @ebx: saved x86 register
 334  * @code: pointer into caller code
 335  * @method: the method to translate
 336  *
 337  * This method is called by the trampoline functions for virtual
 338  * methods. It inspects the caller code to find the address of the
 339  * vtable slot, then calls the JIT compiler and writes the address
 340  * of the compiled method back to the vtable. All virtual methods
 341  * are called with: x86_call_membase (inst, basereg, disp). We always
 342  * use 32 bit displacement to ensure that the length of the call
 343  * instruction is 6 bytes. We need to get the value of the basereg
 344  * and the constant displacement.
 345  */
 346 static gpointer
 347 x86_magic_trampoline (int eax, int ecx, int edx, int esi, int edi,
 348                       int ebx, const guint8 *code, MonoMethod *m)
 349 {
 350         guint8 reg;
 351         gint32 disp;
 352         gpointer o;
 353
 354         /* go to the start of the call instruction
 355          *
 356          * address_byte = (m << 6) | (o << 3) | reg
 357          * call opcode: 0xff address_byte displacement
 358          * 0xff m=1,o=2 imm8
 359          * 0xff m=2,o=2 imm32
 360          */
 361         code -= 6;
 362         if ((code [1] != 0xe8) && (code [3] == 0xff) && ((code [4] & 0x18) == 0x10) && ((code [4] >> 6) == 1)) {
 363                 reg = code [4] & 0x07;
 364                 disp = (signed char)code [5];
 365         } else {
 366                 if ((code [0] == 0xff) && ((code [1] & 0x18) == 0x10) && ((code [1] >> 6) == 2)) {
 367                         reg = code [1] & 0x07;
 368                         disp = *((gint32*)(code + 2));
 369                 } else if ((code [1] == 0xe8)) {
 370                         gpointer addr = arch_compile_method (m);
 371                         g_assert (addr);
 372                         *((guint32*)(code + 2)) = (guint)addr - ((guint)code + 1) - 5;
 373                         return addr;
 374                 } else {
 375                         printf ("%x %x %x %x %x %x \n", code [0], code [1], code [2], code [3],
 376                                 code [4], code [5]);
 377                         g_assert_not_reached ();
 378                 }
 379         }
 380
 381         switch (reg) {
 382         case X86_EAX:
 383                 o = (gpointer)eax;
 384                 break;
 385         case X86_EDX:
 386                 o = (gpointer)edx;
 387                 break;
 388         case X86_ECX:
 389                 o = (gpointer)ecx;
 390                 break;
 391         case X86_ESI:
 392                 o = (gpointer)esi;
 393                 break;
 394         case X86_EDI:
 395                 o = (gpointer)edi;
 396                 break;
 397         case X86_EBX:
 398                 o = (gpointer)ebx;
 399                 break;
 400         default:
 401                 g_assert_not_reached ();
 402         }
 403
 404         o += disp;
 405
 406         if (m->klass->valuetype) {
 407                 return *((gpointer *)o) = get_unbox_trampoline (m);
 408         } else
 409                 return *((gpointer *)o) = arch_compile_method (m);
 410 }
 411
 412 /**
 413  * arch_create_jit_trampoline:
 414  * @method: pointer to the method info
 415  *
 416  * Creates a trampoline function for virtual methods. If the created
 417  * code is called it first starts JIT compilation of method,
 418  * and then calls the newly created method. I also replaces the
 419  * corresponding vtable entry (see x86_magic_trampoline).
 420  *
 421  * Returns: a pointer to the newly created code
 422  */
 423 gpointer
 424 arch_create_jit_trampoline (MonoMethod *method)
 425 {
 426         MonoDomain *domain = mono_domain_get ();
 427         guint8 *code, *buf;
 428         static guint8 *vc = NULL;
 429         GHashTable *jit_code_hash;
 430
 431         /* icalls use method->addr */
 432         if (method->addr)
 433                 return method->addr;
 434
 435         /* previously created trampoline code */
 436         if (method->info)
 437                 return method->info;
 438
 439         /* check if we already have JITed code */
 440         if (mono_jit_share_code)
 441                 jit_code_hash = mono_root_domain->jit_code_hash;
 442         else
 443                 jit_code_hash = domain->jit_code_hash;
 444
 445         if ((code = g_hash_table_lookup (jit_code_hash, method))) {
 446                 mono_jit_stats.methods_lookups++;
 447                 return code;
 448         }
 449
 450         if (!vc) {
 451                 vc = buf = g_malloc (256);
 452
 453                 /* save LMF begin */
 454                 x86_push_reg (buf, X86_EBX);
 455                 x86_push_reg (buf, X86_EDI);
 456                 x86_push_reg (buf, X86_ESI);
 457                 x86_push_reg (buf, X86_EBP);
 458
 459                 /* save the IP (caller ip) */
 460                 x86_push_membase (buf, X86_ESP, 20);
 461
 462                 /* save method info */
 463                 x86_push_membase (buf, X86_ESP, 20);
 464                 /* get the address of lmf for the current thread */
 465                 x86_call_code (buf, arch_get_lmf_addr);
 466                 /* push lmf */
 467                 x86_push_reg (buf, X86_EAX);
 468                 /* push *lfm (previous_lmf) */
 469                 x86_push_membase (buf, X86_EAX, 0);
 470                 /* *(lmf) = ESP */
 471                 x86_mov_membase_reg (buf, X86_EAX, 0, X86_ESP, 4);
 472                 /* save LFM end */
 473
 474                 /* push the method info */
 475                 x86_push_membase (buf, X86_ESP, 32);
 476                 /* push the return address onto the stack */
 477                 x86_push_membase (buf, X86_ESP, 40);
 478
 479                 /* save all register values */
 480                 x86_push_reg (buf, X86_EBX);
 481                 x86_push_reg (buf, X86_EDI);
 482                 x86_push_reg (buf, X86_ESI);
 483                 x86_push_reg (buf, X86_EDX);
 484                 x86_push_reg (buf, X86_ECX);
 485                 x86_push_reg (buf, X86_EAX);
 486
 487                 x86_call_code (buf, x86_magic_trampoline);
 488                 x86_alu_reg_imm (buf, X86_ADD, X86_ESP, 8*4);
 489
 490                 /* restore LMF start */
 491                 /* ebx = previous_lmf */
 492                 x86_pop_reg (buf, X86_EBX);
 493                 /* edi = lmf */
 494                 x86_pop_reg (buf, X86_EDI);
 495                 /* *(lmf) = previous_lmf */
 496                 x86_mov_membase_reg (buf, X86_EDI, 0, X86_EBX, 4);
 497                 /* discard method info */
 498                 x86_pop_reg (buf, X86_ESI);
 499                 /* discard save IP */
 500                 x86_pop_reg (buf, X86_ESI);
 501                 /* restore caller saved regs */
 502                 x86_pop_reg (buf, X86_EBP);
 503                 x86_pop_reg (buf, X86_ESI);
 504                 x86_pop_reg (buf, X86_EDI);
 505                 x86_pop_reg (buf, X86_EBX);
 506                 /* restore LMF end */
 507
 508                 x86_alu_reg_imm (buf, X86_ADD, X86_ESP, 4);
 509
 510                 /* call the compiled method */
 511                 x86_jump_reg (buf, X86_EAX);
 512
 513                 g_assert ((buf - vc) <= 256);
 514         }
 515
 516         code = buf = g_malloc (16);
 517         x86_push_imm (buf, method);
 518         x86_jump_code (buf, vc);
 519         g_assert ((buf - code) <= 16);
 520
 521         /* store trampoline address */
 522         method->info = code;
 523
 524         mono_jit_stats.method_trampolines++;
 525
 526         return code;
 527 }
 528
 529 static void
 530 mono_label_cfg (MonoFlowGraph *cfg)
 531 {
 532         int i, j;
 533
 534         for (i = 0; i < cfg->block_count; i++) {
 535                 GPtrArray *forest = cfg->bblocks [i].forest;
 536                 int top;
 537
 538                 if (!cfg->bblocks [i].reached) /* unreachable code */
 539                         continue;
 540
 541                 top = forest->len;
 542
 543                 for (j = 0; j < top; j++) {
 544                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
 545                         MBState *mbstate;
 546
 547                         mbstate =  mono_burg_label (t1, cfg);
 548                         if (!mbstate) {
 549                                 cfg->invalid = 1;
 550                                 if (mono_debug_handle)
 551                                         return;
 552                                 g_warning ("tree does not match");
 553                                 mono_print_ctree (t1); printf ("\n\n");
 554
 555                                 mono_print_forest (forest);
 556                                 g_assert_not_reached ();
 557                         }
 558                 }
 559         }
 560 }
 561
 562 static void
 563 tree_preallocate_regs (MBTree *tree, int goal, MonoRegSet *rs)
 564 {
 565         switch (tree->op) {
 566         case MB_TERM_CALL_I4:
 567         case MB_TERM_CALL_I8:
 568         case MB_TERM_CALL_R8:
 569 //      case MB_TERM_CALL_VOID :
 570                 tree->reg1 = mono_regset_alloc_reg (rs, X86_EAX, tree->exclude_mask);
 571                 tree->reg2 = mono_regset_alloc_reg (rs, X86_EDX, tree->exclude_mask);
 572                 tree->reg3 = mono_regset_alloc_reg (rs, X86_ECX, tree->exclude_mask);
 573                 return;
 574         default: break;
 575         }
 576
 577         switch (goal) {
 578         case MB_NTERM_reg:
 579         case MB_NTERM_lreg: {
 580                 switch (tree->op) {
 581                 case MB_TERM_SHL:
 582                 case MB_TERM_SHR:
 583                 case MB_TERM_SHR_UN:
 584                         tree->exclude_mask |= (1 << X86_ECX);
 585                         tree->left->exclude_mask |= (1 << X86_ECX);
 586                         break;
 587                 case MB_TERM_MUL:
 588                 case MB_TERM_MUL_OVF:
 589                 case MB_TERM_MUL_OVF_UN:
 590                 case MB_TERM_DIV:
 591                 case MB_TERM_DIV_UN:
 592                 case MB_TERM_REM:
 593                 case MB_TERM_REM_UN:
 594                         tree->reg1 = mono_regset_alloc_reg (rs, X86_EAX, tree->exclude_mask);
 595                         tree->reg2 = mono_regset_alloc_reg (rs, X86_EDX, tree->exclude_mask);
 596                         if (goal == MB_NTERM_reg) {
 597                                 tree->left->exclude_mask |= (1 << X86_EDX);
 598                                 tree->right->exclude_mask |= (1 << X86_EDX) | (1 << X86_EAX);
 599                         }
 600                         break;
 601                 default:
 602                         break;
 603                 }
 604                 break;
 605         }
 606         default:
 607                 break;
 608         }
 609 }
 610
 611 static void
 612 tree_allocate_regs (MBTree *tree, int goal, MonoRegSet *rs)
 613 {
 614         MBTree *kids[10];
 615         int ern = mono_burg_rule (tree->state, goal);
 616         const guint16 *nts = mono_burg_nts [ern];
 617         int i;
 618
 619         mono_burg_kids (tree, ern, kids);
 620
 621         //printf ("RALLOC START %d %p %d\n",  tree->op, rs->free_mask, goal);
 622
 623         if (nts [0] && kids [0] == tree) {
 624                 /* chain rule */
 625                 tree_allocate_regs (kids [0], nts [0], rs);
 626                 return;
 627         }
 628
 629         for (i = 0; nts [i]; i++)
 630                 tree_preallocate_regs (kids [i], nts [i], rs);
 631
 632         for (i = 0; nts [i]; i++)
 633                 tree_allocate_regs (kids [i], nts [i], rs);
 634
 635         for (i = 0; nts [i]; i++) {
 636                 mono_regset_free_reg (rs, kids [i]->reg1);
 637                 mono_regset_free_reg (rs, kids [i]->reg2);
 638                 mono_regset_free_reg (rs, kids [i]->reg3);
 639         }
 640
 641         switch (goal) {
 642         case MB_NTERM_reg:
 643                 if (tree->reg1 < 0) {
 644                         tree->reg1 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
 645                         g_assert (tree->reg1 != -1);
 646                 }
 647                 break;
 648
 649         case MB_NTERM_lreg:
 650                 if (tree->reg1 < 0) {
 651                         tree->reg1 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
 652                         g_assert (tree->reg1 != -1);
 653                 }
 654                 if (tree->reg2 < 0) {
 655                         tree->reg2 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
 656                         g_assert (tree->reg2 != -1);
 657                 }
 658                 break;
 659
 660         case MB_NTERM_freg:
 661                 /* fixme: allocate floating point registers */
 662                 break;
 663
 664         case MB_NTERM_addr:
 665                 if (tree->op == MB_TERM_ADD) {
 666                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
 667                         tree->reg2 = mono_regset_alloc_reg (rs, tree->right->reg1, tree->exclude_mask);
 668                 }
 669                 break;
 670
 671         case MB_NTERM_base:
 672                 if (tree->op == MB_TERM_ADD) {
 673                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
 674                 }
 675                 break;
 676
 677         case MB_NTERM_index:
 678                 if (tree->op == MB_TERM_SHL ||
 679                     tree->op == MB_TERM_MUL) {
 680                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
 681                 }
 682                 break;
 683
 684         default:
 685                 /* do nothing */
 686         }
 687
 688         //printf ("RALLOC END %d %p\n",  tree->op, rs->free_mask);
 689         tree->emit = mono_burg_func [ern];
 690 }
 691
 692 static void
 693 arch_allocate_regs (MonoFlowGraph *cfg)
 694 {
 695         int i, j;
 696
 697         for (i = 0; i < cfg->block_count; i++) {
 698                 GPtrArray *forest = cfg->bblocks [i].forest;
 699                 int top;
 700
 701                 if (!cfg->bblocks [i].reached) /* unreachable code */
 702                         continue;
 703
 704                 top = forest->len;
 705
 706                 for (j = 0; j < top; j++) {
 707                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
 708                         //printf ("AREGSTART %d:%d %p\n", i, j, cfg->rs->free_mask);
 709                         tree_allocate_regs (t1, 1, cfg->rs);
 710                         //printf ("AREGENDT %d:%d %p\n", i, j, cfg->rs->free_mask);
 711                         g_assert (cfg->rs->free_mask == 0xffffffff);
 712                 }
 713         }
 714 }
 715
 716 static void
 717 tree_emit (int goal, MonoFlowGraph *cfg, MBTree *tree)
 718 {
 719         MBTree *kids[10];
 720         int i, ern = mono_burg_rule (tree->state, goal);
 721         const guint16 *nts = mono_burg_nts [ern];
 722         MBEmitFunc emit;
 723         int offset;
 724
 725         mono_burg_kids (tree, ern, kids);
 726
 727         for (i = 0; nts [i]; i++)
 728                 tree_emit (nts [i], cfg, kids [i]);
 729
 730         tree->addr = offset = cfg->code - cfg->start;
 731
 732         // we assume an instruction uses a maximum of 128 bytes
 733         if ((cfg->code_size - offset) <= 128) {
 734                 int add = MIN ((cfg->code_size * 2), 1024);
 735
 736                 cfg->code_size += add;
 737                 mono_jit_stats.allocated_code_size += add;
 738                 mono_jit_stats.code_reallocs++;
 739                 cfg->start = g_realloc (cfg->start, cfg->code_size);
 740                 g_assert (cfg->start);
 741                 cfg->code = cfg->start + offset;
 742         }
 743
 744         if ((emit = mono_burg_func [ern]))
 745                 emit (tree, cfg);
 746
 747         g_assert ((cfg->code - cfg->start) < cfg->code_size);
 748 }
 749
 750 static void
 751 mono_emit_cfg (MonoFlowGraph *cfg)
 752 {
 753         int i, j;
 754
 755         for (i = 0; i < cfg->block_count; i++) {
 756                 MonoBBlock *bb = &cfg->bblocks [i];
 757                 GPtrArray *forest = bb->forest;
 758                 int top;
 759
 760                 if (!bb->reached) /* unreachable code */
 761                         continue;
 762
 763                 top = forest->len;
 764
 765                 bb->addr = cfg->code - cfg->start;
 766
 767                 for (j = 0; j < top; j++) {
 768                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
 769
 770                         tree_emit (1, cfg, t1);
 771                 }
 772         }
 773
 774         cfg->epilog = cfg->code - cfg->start;
 775 }
 776
 777 static void
 778 mono_compute_branches (MonoFlowGraph *cfg)
 779 {
 780         MonoJumpInfo *ji;
 781         guint8 *end;
 782         int i, j;
 783
 784         end = cfg->code;
 785
 786         for (j = 0; j < cfg->block_count; j++) {
 787                 MonoBBlock *bb = &cfg->bblocks [j];
 788                 GPtrArray *forest = bb->forest;
 789                 int top;
 790
 791                 if (!bb->reached) /* unreachable code */
 792                         continue;
 793
 794                 top = forest->len;
 795
 796                 for (i = 0; i < top; i++) {
 797                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, i);
 798
 799                         if (t1->op == MB_TERM_SWITCH) {
 800                                 MonoBBlock **jt = (MonoBBlock **)t1->data.p;
 801                                 guint32 *rt = (guint32 *)t1->data.p;
 802
 803                                 int m = *((guint32 *)t1->data.p) + 1;
 804                                 int j;
 805
 806                                 for (j = 1; j <= m; j++)
 807                                         rt [j] = (int)(jt [j]->addr + cfg->start);
 808
 809                                 /* emit the switch instruction again to update addresses */
 810                                 cfg->code = cfg->start + t1->addr;
 811                                 ((MBEmitFunc)t1->emit) (t1, cfg);
 812                         }
 813                 }
 814         }
 815
 816         cfg->code = end;
 817
 818         for (ji = cfg->jump_info; ji; ji = ji->next) {
 819                 gpointer *ip = GUINT_TO_POINTER (GPOINTER_TO_UINT (ji->ip) + cfg->start);
 820                 gpointer target;
 821
 822                 if (ji->target) {
 823                         target = ji->target;
 824                 } else if (ji->bb) {
 825                         target = ji->bb->addr + cfg->start;
 826                 } else {
 827                         /* special case - jump to epilog */
 828                         target = cfg->epilog + cfg->start;
 829                 }
 830                 *ip = target - GPOINTER_TO_UINT(ip) - 4;
 831         }
 832 }
 833
 834 void
 835 mono_add_jump_info (MonoFlowGraph *cfg, gpointer ip, gpointer target, MonoBBlock *bb)
 836 {
 837         MonoJumpInfo *ji = mono_mempool_alloc (cfg->mp, sizeof (MonoJumpInfo));
 838
 839         ji->ip = GUINT_TO_POINTER (GPOINTER_TO_UINT (ip) - GPOINTER_TO_UINT (cfg->start));
 840         ji->target = target;
 841         ji->next = cfg->jump_info;
 842         ji->bb = bb;
 843
 844         cfg->jump_info = ji;
 845 }
 846
 847 static int
 848 match_debug_method (MonoMethod* method)
 849 {
 850         GList *tmp = mono_debug_methods;
 851
 852         for (; tmp; tmp = tmp->next) {
 853                 if (strcmp (method->name, tmp->data) == 0) {
 854                         return 1;
 855                 }
 856         }
 857         return 0;
 858 }
 859
 860 /**
 861  * arch_compile_method:
 862  * @method: pointer to the method info
 863  *
 864  * JIT compilation of a single method.
 865  *
 866  * Returns: a pointer to the newly created code.
 867  */
 868 gpointer
 869 arch_compile_method (MonoMethod *method)
 870 {
 871         MonoDomain *domain = mono_domain_get ();
 872         MonoFlowGraph *cfg;
 873         MonoMemPool *mp;
 874         guint8 *addr;
 875         GHashTable *jit_code_hash;
 876
 877         g_assert (!(method->iflags & METHOD_IMPL_ATTRIBUTE_INTERNAL_CALL));
 878         g_assert (!(method->flags & METHOD_ATTRIBUTE_PINVOKE_IMPL));
 879
 880         if (mono_jit_share_code)
 881                 jit_code_hash = mono_root_domain->jit_code_hash;
 882         else
 883                 jit_code_hash = domain->jit_code_hash;
 884
 885         if ((addr = g_hash_table_lookup (jit_code_hash, method))) {
 886                 mono_jit_stats.methods_lookups++;
 887                 return addr;
 888         }
 889
 890         mono_jit_stats.methods_compiled++;
 891
 892         mp = mono_mempool_new ();
 893
 894         if (mono_jit_trace_calls || mono_jit_dump_asm || mono_jit_dump_forest) {
 895                 printf ("Start JIT compilation of %s.%s:%s\n", method->klass->name_space,
 896                         method->klass->name, method->name);
 897         }
 898
 899         if (method->iflags & METHOD_IMPL_ATTRIBUTE_RUNTIME) {
 900                 MonoClassField *field;
 901                 const char *name = method->name;
 902                 static guint target_offset = 0;
 903                 static guint method_offset = 0;
 904                 guint8 *code;
 905                 gboolean delegate = FALSE;
 906
 907                 if (method->klass->parent &&
 908                     method->klass->parent->parent == mono_defaults.delegate_class)
 909                         delegate = TRUE;
 910
 911                 if (!target_offset) {
 912                         mono_class_init (mono_defaults.delegate_class);
 913
 914                         field = mono_class_get_field_from_name (mono_defaults.delegate_class, "m_target");
 915                         target_offset = field->offset;
 916                         field = mono_class_get_field_from_name (mono_defaults.delegate_class, "method_ptr");
 917                         method_offset = field->offset;
 918                 }
 919
 920                 if (delegate && *name == '.' && (strcmp (name, ".ctor") == 0)) {
 921                         addr = code = g_malloc (32);
 922                         x86_push_reg (code, X86_EBP);
 923                         x86_mov_reg_reg (code, X86_EBP, X86_ESP, 4);
 924
 925                         /* load the this pointer */
 926                         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 8, 4);
 927                         /* load m_target arg */
 928                         x86_mov_reg_membase (code, X86_EDX, X86_EBP, 12, 4);
 929                         /* store mtarget */
 930                         x86_mov_membase_reg (code, X86_EAX, target_offset, X86_EDX, 4);
 931                         /* load method_ptr arg */
 932                         x86_mov_reg_membase (code, X86_EDX, X86_EBP, 16, 4);
 933                         /* store method_ptr */
 934                         x86_mov_membase_reg (code, X86_EAX, method_offset, X86_EDX, 4);
 935
 936                         x86_leave (code);
 937                         x86_ret (code);
 938
 939                         g_assert ((code - (guint8*)addr) < 32);
 940
 941                 } else if (delegate && *name == 'I' && (strcmp (name, "Invoke") == 0)) {
 942                         MonoMethodSignature *csig = method->signature;
 943                         int i, arg_size, target, this_pos = 4;
 944                         guint8 *source;
 945
 946                         if (csig->ret->type == MONO_TYPE_VALUETYPE) {
 947                                 g_assert (!csig->ret->byref);
 948                                 this_pos = 8;
 949                         }
 950
 951                         arg_size = 0;
 952                         if (csig->param_count) {
 953                                 int align;
 954
 955                                 for (i = 0; i < csig->param_count; ++i) {
 956                                         arg_size += mono_type_stack_size (csig->params [i], &align);
 957                                         g_assert (align == 4);
 958                                 }
 959                         }
 960
 961                         addr = g_malloc (64 + arg_size);
 962
 963                         for (i = 0; i < 2; i ++) {
 964                                 int j;
 965
 966                                 code = addr;
 967                                 /* load the this pointer */
 968                                 x86_mov_reg_membase (code, X86_EAX, X86_ESP, this_pos, 4);
 969                                 /* load mtarget */
 970                                 x86_mov_reg_membase (code, X86_EDX, X86_EAX, target_offset, 4);
 971                                 /* check if zero (static method call without this pointer) */
 972                                 x86_alu_reg_imm (code, X86_CMP, X86_EDX, 0);
 973                                 x86_branch32 (code, X86_CC_EQ, target, TRUE);
 974                                 source = code;
 975
 976                                 /* virtual delegate methods: we have to replace the this pointer
 977                                  * withe the actual target */
 978                                 x86_mov_membase_reg (code, X86_ESP, this_pos, X86_EDX, 4);
 979                                 /* jump to method_ptr() */
 980                                 x86_jump_membase (code, X86_EAX, method_offset);
 981
 982                                 /* static delegate methods: we have to remove the this pointer
 983                                  * from the activation frame - I do this do creating a new
 984                                  * stack frame an copy all arguments except the this pointer */
 985
 986                                 target = code - source;
 987                                 g_assert ((arg_size & 3) == 0);
 988                                 for (j = 0; j < (arg_size>>2); j++) {
 989                                         x86_push_membase (code, X86_ESP, (arg_size + this_pos));
 990                                 }
 991
 992                                 if (this_pos == 8)
 993                                         x86_push_membase (code, X86_ESP, (arg_size + 4));
 994
 995                                 x86_call_membase (code, X86_EAX, method_offset);
 996                                 if (this_pos == 8)
 997                                         x86_alu_reg_imm (code, X86_ADD, X86_ESP, arg_size + 4);
 998                                 else
 999                                         x86_alu_reg_imm (code, X86_ADD, X86_ESP, arg_size);
1000
1001                                 x86_ret (code);
1002
1003                         }
1004
1005                         g_assert ((code - (guint8*)addr) < (64 + arg_size));
1006
1007                 } else {
1008                         if (mono_debug_handle)
1009                                 return NULL;
1010                         g_error ("Don't know how to exec runtime method %s.%s::%s",
1011                                  method->klass->name_space, method->klass->name, method->name);
1012                 }
1013
1014         } else {
1015                 MonoMethodHeader *header = ((MonoMethodNormal *)method)->header;
1016                 MonoJitInfo *ji = g_new0 (MonoJitInfo, 1);
1017                 gulong code_size_ratio;
1018
1019                 cfg = mono_cfg_new (method, mp);
1020
1021                 mono_analyze_flow (cfg);
1022                 if (cfg->invalid)
1023                         return NULL;
1024
1025                 mono_analyze_stack (cfg);
1026                 if (cfg->invalid)
1027                         return NULL;
1028
1029                 cfg->rs = mono_regset_new (X86_NREG);
1030                 mono_regset_reserve_reg (cfg->rs, X86_ESP);
1031                 mono_regset_reserve_reg (cfg->rs, X86_EBP);
1032
1033                 cfg->code_size = MAX (header->code_size * 5, 256);
1034                 cfg->start = cfg->code = g_malloc (cfg->code_size);
1035                 mono_jit_stats.allocated_code_size += cfg->code_size;
1036
1037                 if (match_debug_method (method))
1038                         x86_breakpoint (cfg->code);
1039
1040                 if (mono_jit_dump_forest) {
1041                         int i;
1042                         printf ("FOREST %s.%s:%s\n", method->klass->name_space,
1043                                 method->klass->name, method->name);
1044                         for (i = 0; i < cfg->block_count; i++) {
1045                                 printf ("BLOCK %d:\n", i);
1046                                 mono_print_forest (cfg->bblocks [i].forest);
1047                         }
1048                 }
1049
1050                 mono_label_cfg (cfg);
1051                 if (cfg->invalid)
1052                         return NULL;
1053
1054                 arch_allocate_regs (cfg);
1055
1056                 /* align to 8 byte boundary */
1057                 cfg->locals_size += 7;
1058                 cfg->locals_size &= ~7;
1059
1060                 arch_emit_prologue (cfg);
1061                 mono_emit_cfg (cfg);
1062                 arch_emit_epilogue (cfg);
1063
1064                 addr = cfg->start;
1065
1066                 code_size_ratio = cfg->code - cfg->start;
1067                 if (code_size_ratio > mono_jit_stats.biggest_method_size) {
1068                         mono_jit_stats.biggest_method_size = code_size_ratio;
1069                         mono_jit_stats.biggest_method = method;
1070                 }
1071                 code_size_ratio = (code_size_ratio * 100) / header->code_size;
1072                 if (code_size_ratio > mono_jit_stats.max_code_size_ratio) {
1073                         mono_jit_stats.max_code_size_ratio = code_size_ratio;
1074                         mono_jit_stats.max_ratio_method = method;
1075                 }
1076
1077                 mono_compute_branches (cfg);
1078
1079                 if (mono_jit_dump_asm) {
1080                         char *id = g_strdup_printf ("%s.%s_%s", method->klass->name_space,
1081                                                     method->klass->name, method->name);
1082                         mono_disassemble_code (cfg->start, cfg->code - cfg->start, id);
1083                         g_free (id);
1084                 }
1085                 if (mono_debug_handle)
1086                         mono_debug_add_method (mono_debug_handle, cfg);
1087
1088                 ji->code_size = cfg->code - cfg->start;
1089                 ji->used_regs = cfg->rs->used_mask;
1090                 ji->method = method;
1091                 ji->code_start = addr;
1092                 mono_jit_info_table_add (mono_jit_info_table, ji);
1093
1094                 mono_jit_stats.native_code_size += ji->code_size;
1095
1096                 if (header->num_clauses) {
1097                         int i, start_block, end_block;
1098
1099                         ji->num_clauses = header->num_clauses;
1100                         ji->clauses = g_new0 (MonoJitExceptionInfo, header->num_clauses);
1101
1102                         for (i = 0; i < header->num_clauses; i++) {
1103                                 MonoExceptionClause *ec = &header->clauses [i];
1104                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
1105
1106                                 ei->flags = ec->flags;
1107                                 ei->token_or_filter = ec->token_or_filter;
1108
1109                                 g_assert (cfg->bcinfo [ec->try_offset].is_block_start);
1110                                 start_block = cfg->bcinfo [ec->try_offset].block_id;
1111                                 end_block = cfg->bcinfo [ec->try_offset + ec->try_len].block_id;
1112                                 g_assert (cfg->bcinfo [ec->try_offset + ec->try_len].is_block_start);
1113
1114                                 ei->try_start = cfg->start + cfg->bblocks [start_block].addr;
1115                                 ei->try_end = cfg->start + cfg->bblocks [end_block].addr;
1116
1117                                 g_assert (cfg->bcinfo [ec->handler_offset].is_block_start);
1118                                 start_block = cfg->bcinfo [ec->handler_offset].block_id;
1119                                 ei->handler_start = cfg->start + cfg->bblocks [start_block].addr;
1120
1121                                 //printf ("TEST %x %x %x\n", ei->try_start, ei->try_end, ei->handler_start);
1122                         }
1123                 }
1124
1125                 mono_regset_free (cfg->rs);
1126
1127                 mono_cfg_free (cfg);
1128
1129                 mono_mempool_destroy (mp);
1130
1131         }
1132
1133         if (mono_jit_trace_calls || mono_jit_dump_asm || mono_jit_dump_forest) {
1134                 printf ("END JIT compilation of %s.%s:%s %p %p\n", method->klass->name_space,
1135                         method->klass->name, method->name, method, addr);
1136         }
1137
1138         g_hash_table_insert (jit_code_hash, method, addr);
1139
1140         return addr;
1141 }
1142
1143 /*
1144  * arch_get_restore_context:
1145  *
1146  * Returns a pointer to a method which restores a previously saved sigcontext.
1147  */
1148 static gpointer
1149 arch_get_restore_context ()
1150 {
1151         static guint8 *start = NULL;
1152         guint8 *code;
1153
1154         if (start)
1155                 return start;
1156
1157         /* restore_contect (struct sigcontext *ctx) */
1158         /* we do not restore X86_EAX, X86_EDX */
1159
1160         start = code = malloc (1024);
1161
1162         /* load ctx */
1163         x86_mov_reg_membase (code, X86_EAX, X86_ESP, 4, 4);
1164
1165         /* get return address, stored in EDX */
1166         x86_mov_reg_membase (code, X86_EDX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, eip), 4);
1167
1168         /* restore EBX */
1169         x86_mov_reg_membase (code, X86_EBX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebx), 4);
1170         /* restore EDI */
1171         x86_mov_reg_membase (code, X86_EDI, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, edi), 4);
1172         /* restore ESI */
1173         x86_mov_reg_membase (code, X86_ESI, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, esi), 4);
1174         /* restore ESP */
1175         x86_mov_reg_membase (code, X86_ESP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, esp), 4);
1176         /* restore EBP */
1177         x86_mov_reg_membase (code, X86_EBP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebp), 4);
1178         /* restore ECX. the exception object is passed here to the catch handler */
1179         x86_mov_reg_membase (code, X86_ECX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ecx), 4);
1180
1181         /* jump to the saved IP */
1182         x86_jump_reg (code, X86_EDX);
1183
1184         return start;
1185 }
1186
1187 /*
1188  * arch_get_call_finally:
1189  *
1190  * Returns a pointer to a method which calls a finally handler.
1191  */
1192 static gpointer
1193 arch_get_call_finally ()
1194 {
1195         static guint8 start [28];
1196         static int inited = 0;
1197         guint8 *code;
1198
1199         if (inited)
1200                 return start;
1201
1202         inited = 1;
1203         /* call_finally (struct sigcontext *ctx, unsigned long eip) */
1204         code = start;
1205
1206         x86_push_reg (code, X86_EBP);
1207         x86_mov_reg_reg (code, X86_EBP, X86_ESP, 4);
1208         x86_push_reg (code, X86_EBX);
1209         x86_push_reg (code, X86_EDI);
1210         x86_push_reg (code, X86_ESI);
1211
1212         /* load ctx */
1213         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 8, 4);
1214         /* load eip */
1215         x86_mov_reg_membase (code, X86_ECX, X86_EBP, 12, 4);
1216         /* save EBP */
1217         x86_push_reg (code, X86_EBP);
1218         /* set new EBP */
1219         x86_mov_reg_membase (code, X86_EBP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebp), 4);
1220         /* call the handler */
1221         x86_call_reg (code, X86_ECX);
1222         /* restore EBP */
1223         x86_pop_reg (code, X86_EBP);
1224         /* restore saved regs */
1225         x86_pop_reg (code, X86_ESI);
1226         x86_pop_reg (code, X86_EDI);
1227         x86_pop_reg (code, X86_EBX);
1228         x86_leave (code);
1229         x86_ret (code);
1230
1231         g_assert ((code - start) < 28);
1232         return start;
1233 }
1234
1235 /**
1236  * arch_handle_exception:
1237  * @ctx: saved processor state
1238  * @obj:
1239  */
1240 void
1241 arch_handle_exception (struct sigcontext *ctx, gpointer obj)
1242 {
1243         MonoDomain *domain = mono_domain_get ();
1244         MonoJitInfo *ji;
1245         gpointer ip = (gpointer)ctx->eip;
1246         static void (*restore_context) (struct sigcontext *);
1247         static void (*call_finally) (struct sigcontext *, unsigned long);
1248
1249         g_assert (ctx != NULL);
1250         g_assert (obj != NULL);
1251
1252         ji = mono_jit_info_table_find (mono_jit_info_table, ip);
1253
1254         if (!restore_context)
1255                 restore_context = arch_get_restore_context ();
1256
1257         if (!call_finally)
1258                 call_finally = arch_get_call_finally ();
1259
1260         if (ji) { /* we are inside managed code */
1261                 MonoMethod *m = ji->method;
1262                 unsigned next_bp;
1263                 int offset = 2;
1264
1265                 if (ji->num_clauses) {
1266                         int i;
1267
1268                         g_assert (ji->clauses);
1269
1270                         for (i = 0; i < ji->num_clauses; i++) {
1271                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
1272
1273                                 if (ei->try_start <= ip && ip <= (ei->try_end)) {
1274                                         /* catch block */
1275                                         if (ei->flags == 0 && mono_object_isinst (obj,
1276                                                 mono_class_get (m->klass->image, ei->token_or_filter))) {
1277
1278                                                 ctx->eip = (unsigned long)ei->handler_start;
1279                                                 ctx->ecx = (unsigned long)obj;
1280                                                 restore_context (ctx);
1281                                                 g_assert_not_reached ();
1282                                         }
1283                                 }
1284                         }
1285
1286                         /* no handler found - we need to call all finally handlers */
1287                         for (i = 0; i < ji->num_clauses; i++) {
1288                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
1289
1290                                 if (ei->try_start <= ip && ip < (ei->try_end) &&
1291                                     (ei->flags & MONO_EXCEPTION_CLAUSE_FINALLY)) {
1292                                         call_finally (ctx, (unsigned long)ei->handler_start);
1293                                 }
1294                         }
1295                 }
1296
1297                 if (mono_object_isinst (obj, mono_defaults.exception_class)) {
1298                         char  *strace = mono_string_to_utf8 (((MonoException*)obj)->stack_trace);
1299                         char  *tmp;
1300
1301                         if (!strcmp (strace, "TODO: implement stack traces")){
1302                                 g_free (strace);
1303                                 strace = g_strdup ("");
1304                         }
1305
1306                         tmp = g_strdup_printf ("%sin %s.%s:%s ()\n", strace, m->klass->name_space,
1307                                                m->klass->name, m->name);
1308
1309                         g_free (strace);
1310
1311                         ((MonoException*)obj)->stack_trace = mono_string_new (domain, tmp);
1312                         g_free (tmp);
1313                 }
1314
1315                 /* continue unwinding */
1316
1317                 /* restore caller saved registers */
1318                 if (ji->used_regs & X86_ESI_MASK) {
1319                         ctx->esi = *((int *)ctx->ebp + offset);
1320                         offset++;
1321                 }
1322                 if (ji->used_regs & X86_EDI_MASK) {
1323                         ctx->edi = *((int *)ctx->ebp + offset);
1324                         offset++;
1325                 }
1326                 if (ji->used_regs & X86_EBX_MASK) {
1327                         ctx->ebx = *((int *)ctx->ebp + offset);
1328                 }
1329
1330                 ctx->esp = ctx->ebp;
1331                 ctx->eip = *((int *)ctx->ebp + 1);
1332                 ctx->ebp = *((int *)ctx->ebp);
1333
1334                 if (next_bp < (unsigned)mono_end_of_stack)
1335                         arch_handle_exception (ctx, obj);
1336                 else
1337                         mono_jit_abort (obj);
1338
1339         } else {
1340                 gpointer *lmf_addr = TlsGetValue (lmf_thread_id);
1341                 MonoLMF *lmf;
1342                 MonoMethod *m;
1343
1344                 g_assert (lmf_addr);
1345                 lmf = *((MonoLMF **)lmf_addr);
1346
1347                 if (!lmf)
1348                         mono_jit_abort (obj);
1349
1350                 m = lmf->method;
1351
1352                 *lmf_addr = lmf->previous_lmf;
1353
1354                 ctx->esi = lmf->esi;
1355                 ctx->edi = lmf->edi;
1356                 ctx->ebx = lmf->ebx;
1357                 ctx->ebp = lmf->ebp;
1358                 ctx->eip = lmf->eip;
1359                 ctx->esp = (unsigned long)lmf;
1360
1361                 if (mono_object_isinst (obj, mono_defaults.exception_class)) {
1362                         char  *strace = mono_string_to_utf8 (((MonoException*)obj)->stack_trace);
1363                         char  *tmp;
1364
1365                         if (!strcmp (strace, "TODO: implement stack traces"))
1366                                 strace = g_strdup ("");
1367
1368                         tmp = g_strdup_printf ("%sin (unmanaged) %s.%s:%s ()\n", strace, m->klass->name_space,
1369                                                m->klass->name, m->name);
1370
1371                         g_free (strace);
1372
1373                         ((MonoException*)obj)->stack_trace = mono_string_new (domain, tmp);
1374                         g_free (tmp);
1375                 }
1376
1377                 if (ctx->eip < (unsigned)mono_end_of_stack)
1378                         arch_handle_exception (ctx, obj);
1379                 else
1380                         mono_jit_abort (obj);
1381         }
1382
1383         g_assert_not_reached ();
1384 }
1385
1386 static void
1387 throw_exception (unsigned long eax, unsigned long ecx, unsigned long edx, unsigned long ebx,
1388                  unsigned long esi, unsigned long edi, unsigned long ebp, MonoObject *exc,
1389                  unsigned long eip,  unsigned long esp)
1390 {
1391         struct sigcontext ctx;
1392
1393         ctx.esp = esp;
1394         ctx.eip = eip;
1395         ctx.ebp = ebp;
1396         ctx.edi = edi;
1397         ctx.esi = esi;
1398         ctx.ebx = ebx;
1399         ctx.edx = edx;
1400         ctx.ecx = ecx;
1401         ctx.eax = eax;
1402
1403         arch_handle_exception (&ctx, exc);
1404
1405         g_assert_not_reached ();
1406 }
1407
1408 /**
1409  * arch_get_throw_exception:
1410  *
1411  * Returns a function pointer which can be used to raise
1412  * exceptions. The returned function has the following
1413  * signature: void (*func) (MonoException *exc);
1414  * For example to raise an arithmetic exception you can use:
1415  *
1416  * x86_push_imm (code, mono_get_exception_arithmetic ());
1417  * x86_call_code (code, arch_get_throw_exception ());
1418  *
1419  */
1420 gpointer
1421 arch_get_throw_exception (void)
1422 {
1423         static guint8 start [24];
1424         static int inited = 0;
1425         guint8 *code;
1426
1427         if (inited)
1428                 return start;
1429
1430         inited = 1;
1431         code = start;
1432
1433         x86_push_reg (code, X86_ESP);
1434         x86_push_membase (code, X86_ESP, 4); /* IP */
1435         x86_push_membase (code, X86_ESP, 12); /* exception */
1436         x86_push_reg (code, X86_EBP);
1437         x86_push_reg (code, X86_EDI);
1438         x86_push_reg (code, X86_ESI);
1439         x86_push_reg (code, X86_EBX);
1440         x86_push_reg (code, X86_EDX);
1441         x86_push_reg (code, X86_ECX);
1442         x86_push_reg (code, X86_EAX);
1443         x86_call_code (code, throw_exception);
1444         /* we should never reach this breakpoint */
1445         x86_breakpoint (code);
1446
1447         g_assert ((code - start) < 24);
1448         return start;
1449 }
1450
1451 /**
1452  * arch_get_throw_exception_by_name:
1453  *
1454  * Returns a function pointer which can be used to raise
1455  * corlib exceptions. The returned function has the following
1456  * signature: void (*func) (char *exc_name);
1457  * For example to raise an arithmetic exception you can use:
1458  *
1459  * x86_push_imm (code, "ArithmeticException");
1460  * x86_call_code (code, arch_get_throw_exception ());
1461  *
1462  */
1463 gpointer
1464 arch_get_throw_exception_by_name ()
1465 {
1466         static guint8 start [32];
1467         static int inited = 0;
1468         guint8 *code;
1469
1470         if (inited)
1471                 return start;
1472
1473         inited = 1;
1474         code = start;
1475
1476         /* fixme: we do not save EAX, EDX, ECD - unsure if we need that */
1477
1478         x86_push_membase (code, X86_ESP, 4); /* exception name */
1479         x86_push_imm (code, "System");
1480         x86_push_imm (code, mono_defaults.exception_class->image);
1481         x86_call_code (code, mono_exception_from_name);
1482         x86_alu_reg_imm (code, X86_ADD, X86_ESP, 12);
1483         /* save the newly create object (overwrite exception name)*/
1484         x86_mov_membase_reg (code, X86_ESP, 4, X86_EAX, 4);
1485         x86_jump_code (code, arch_get_throw_exception ());
1486
1487         g_assert ((code - start) < 32);
1488
1489         return start;
1490 }
1491
1492 /*
1493  * this returns a helper method to invoke a method with a user supplied
1494  * stack frame. The returned method has the following signature:
1495  * invoke_method_with_frame ((gpointer code, gpointer frame, int frame_size);
1496  */
1497 static gpointer
1498 get_invoke_method_with_frame ()
1499 {
1500         static guint8 *start;
1501         guint8 *code;
1502
1503         if (start)
1504                 return start;
1505
1506         start = code = malloc (64);
1507
1508         /* Prolog */
1509         x86_push_reg (code, X86_EBP);
1510         x86_mov_reg_reg (code, X86_EBP, X86_ESP, 4);
1511         x86_push_reg (code, X86_EBX);
1512         x86_push_reg (code, X86_EDI);
1513         x86_push_reg (code, X86_ESI);
1514
1515         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 16, 4);
1516         x86_alu_reg_reg (code, X86_SUB, X86_ESP, X86_EAX);
1517
1518         x86_push_membase (code, X86_EBP, 16);
1519         x86_push_membase (code, X86_EBP, 12);
1520         x86_lea_membase (code, X86_EAX, X86_ESP, 2*4);
1521         x86_push_reg (code, X86_EAX);
1522         x86_call_code (code, memcpy);
1523         x86_alu_reg_imm (code, X86_ADD, X86_ESP, 12);
1524
1525         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 8, 4);
1526         x86_call_reg (code, X86_EAX);
1527
1528         x86_mov_reg_membase (code, X86_ECX, X86_EBP, 16, 4);
1529         x86_alu_reg_reg (code, X86_ADD, X86_ESP, X86_ECX);
1530
1531         /* Epilog */
1532         x86_pop_reg (code, X86_ESI);
1533         x86_pop_reg (code, X86_EDI);
1534         x86_pop_reg (code, X86_EBX);
1535         x86_leave (code);
1536         x86_ret (code);
1537
1538         g_assert ((code - start) < 64);
1539
1540         return start;
1541 }
1542
1543 /**
1544  * arch_runtime_invoke:
1545  * @method: the method to invoke
1546  * @obj: this pointer
1547  * @params: array of parameter values.
1548  *
1549  * TODO: very ugly piece of code. we should replace that with a method-specific
1550  * trampoline (as suggested by Paolo).
1551  */
1552 MonoObject*
1553 arch_runtime_invoke (MonoMethod *method, void *obj, void **params)
1554 {
1555         static guint64 (*invoke_int64) (gpointer code, gpointer frame, int frame_size) = NULL;
1556         static double (*invoke_double) (gpointer code, gpointer frame, int frame_size) = NULL;
1557         MonoObject *retval;
1558         MonoMethodSignature *sig = method->signature;
1559         int i, tmp, type, sp = 0;
1560         void *ret;
1561         int frame_size = 0;
1562         gpointer *frame;
1563         gpointer code;
1564
1565         /* allocate ret object. */
1566         if (sig->ret->type == MONO_TYPE_VOID) {
1567                 retval = NULL;
1568                 ret = NULL;
1569         } else {
1570                 MonoClass *klass = mono_class_from_mono_type (sig->ret);
1571                 if (klass->valuetype) {
1572                         retval = mono_object_new (mono_domain_get (), klass);
1573                         ret = ((char*)retval) + sizeof (MonoObject);
1574                 } else {
1575                         ret = &retval;
1576                 }
1577         }
1578
1579         if (ISSTRUCT (sig->ret))
1580                 frame_size += sizeof (gpointer);
1581
1582         if (sig->hasthis)
1583                 frame_size += sizeof (gpointer);
1584
1585         for (i = 0; i < sig->param_count; ++i) {
1586                 int align;
1587                 frame_size += mono_type_stack_size (sig->params [i], &align);
1588         }
1589
1590         frame = alloca (frame_size);
1591
1592         if (ISSTRUCT (sig->ret))
1593                 frame [sp++] = ret;
1594
1595         if (sig->hasthis)
1596                 frame [sp++] = obj;
1597
1598
1599         for (i = 0; i < sig->param_count; ++i) {
1600                 if (sig->params [i]->byref) {
1601                         frame [sp++] = params [i];
1602                         continue;
1603                 }
1604                 type = sig->params [i]->type;
1605 handle_enum:
1606                 switch (type) {
1607                 case MONO_TYPE_U1:
1608                 case MONO_TYPE_I1:
1609                 case MONO_TYPE_BOOLEAN:
1610                         tmp = *(MonoBoolean*)params [i];
1611                         frame [sp++] = (gpointer)tmp;
1612                         break;
1613                 case MONO_TYPE_U2:
1614                 case MONO_TYPE_I2:
1615                 case MONO_TYPE_CHAR:
1616                         tmp = *(gint16*)params [i];
1617                         frame [sp++] = (gpointer)tmp;
1618                         break;
1619 #if SIZEOF_VOID_P == 4
1620                 case MONO_TYPE_U:
1621                 case MONO_TYPE_I:
1622 #endif
1623                 case MONO_TYPE_U4:
1624                 case MONO_TYPE_I4:
1625                         frame [sp++] = (gpointer)*(gint32*)params [i];
1626                         break;
1627 #if SIZEOF_VOID_P == 8
1628                 case MONO_TYPE_U:
1629                 case MONO_TYPE_I:
1630 #endif
1631                 case MONO_TYPE_U8:
1632                 case MONO_TYPE_I8:
1633                         frame [sp++] = (gpointer)*(gint32*)params [i];
1634                         frame [sp++] = (gpointer)*(((gint32*)params [i]) + 1);
1635                         break;
1636                 case MONO_TYPE_VALUETYPE:
1637                         if (sig->params [i]->data.klass->enumtype) {
1638                                 type = sig->params [i]->data.klass->enum_basetype->type;
1639                                 goto handle_enum;
1640                         } else {
1641                                 g_warning ("generic valutype %s not handled in runtime invoke", sig->params [i]->data.klass->name);
1642                         }
1643                         break;
1644                 case MONO_TYPE_STRING:
1645                         frame [sp++] = params [i];
1646                         break;
1647                 default:
1648                         g_error ("type 0x%x not handled in invoke", sig->params [i]->type);
1649                 }
1650         }
1651
1652         if (method->addr)
1653                 code = method->addr;
1654         else
1655                 code = arch_compile_method (method);
1656
1657         if (!invoke_int64)
1658                 invoke_int64 = (gpointer)invoke_double = get_invoke_method_with_frame ();
1659
1660         type = sig->ret->type;
1661 handle_enum_2:
1662         switch (type) {
1663         case MONO_TYPE_VOID:
1664                 invoke_int64 (code, frame, frame_size);
1665                 break;
1666         case MONO_TYPE_U1:
1667         case MONO_TYPE_I1:
1668         case MONO_TYPE_BOOLEAN:
1669         case MONO_TYPE_U2:
1670         case MONO_TYPE_I2:
1671         case MONO_TYPE_CHAR:
1672 #if SIZEOF_VOID_P == 4
1673         case MONO_TYPE_U:
1674         case MONO_TYPE_I:
1675 #endif
1676         case MONO_TYPE_U4:
1677         case MONO_TYPE_I4:
1678         case MONO_TYPE_STRING:
1679                 *((guint32 *)ret) = invoke_int64 (code, frame, frame_size);
1680                 break;
1681 #if SIZEOF_VOID_P == 8
1682         case MONO_TYPE_U:
1683         case MONO_TYPE_I:
1684 #endif
1685         case MONO_TYPE_U8:
1686         case MONO_TYPE_I8:
1687                 *((guint64 *)ret) = invoke_int64 (code, frame, frame_size);
1688                 break;
1689         case MONO_TYPE_R4:
1690                 *((float *)ret) = invoke_double (code, frame, frame_size);
1691                 break;
1692         case MONO_TYPE_R8:
1693                 *((double *)ret) = invoke_double (code, frame, frame_size);
1694                 break;
1695         case MONO_TYPE_VALUETYPE:
1696                 if (sig->params [i]->data.klass->enumtype) {
1697                         type = sig->params [i]->data.klass->enum_basetype->type;
1698                         goto handle_enum_2;
1699                 } else
1700                         invoke_int64 (code, frame, frame_size);
1701                 break;
1702         default:
1703                 g_error ("type 0x%x not handled in invoke", sig->params [i]->type);
1704         }
1705
1706         return retval;
1707 }
1708
1709
1710