mono/jit/emit-x86.c

   1 /*
   2  * emit-x86.c: Support functions for emitting x86 code
   3  *
   4  * Authors:
   5  *   Dietmar Maurer (dietmar@ximian.com)
   6  *   Miguel de Icaza (miguel@ximian.com)
   7  *
   8  * (C) 2001 Ximian, Inc.
   9  */
  10
  11 #include <config.h>
  12 #include <glib.h>
  13
  14 #include <mono/metadata/assembly.h>
  15 #include <mono/metadata/loader.h>
  16 #include <mono/metadata/cil-coff.h>
  17 #include <mono/metadata/tabledefs.h>
  18 #include <mono/metadata/class.h>
  19 #include <mono/metadata/mono-endian.h>
  20 #include <mono/arch/x86/x86-codegen.h>
  21
  22 #include "jit.h"
  23 #include "codegen.h"
  24 #include "debug.h"
  25
  26 static void
  27 enter_method (MonoMethod *method, gpointer ebp)
  28 {
  29         int i, j;
  30         MonoClass *class;
  31         MonoObject *o;
  32
  33         printf ("ENTER: %s.%s::%s\n(", method->klass->name_space,
  34                 method->klass->name, method->name);
  35
  36
  37         if (((int)ebp & 3) != 0) {
  38                 g_error ("unaligned stack detected (%p)", ebp);
  39         }
  40
  41         ebp += 8;
  42
  43         if (ISSTRUCT (method->signature->ret)) {
  44                 int size, align;
  45
  46                 g_assert (!method->signature->ret->byref);
  47
  48                 size = mono_type_stack_size (method->signature->ret, &align);
  49
  50                 printf ("VALUERET:%p, ", *((gpointer *)ebp));
  51                 ebp += sizeof (gpointer);
  52         }
  53
  54         if (method->signature->hasthis) {
  55                 if (method->klass->valuetype) {
  56                         printf ("value:%p, ", *((gpointer *)ebp));
  57                 } else {
  58                         o = *((MonoObject **)ebp);
  59
  60                         g_assert (o);
  61
  62                         class = o->vtable->klass;
  63
  64                         if (class == mono_defaults.string_class) {
  65                                 printf ("this:[STRING:%p:%s], ", o, mono_string_to_utf8 ((MonoString *)o));
  66                         } else {
  67                                 printf ("this:%p[%s.%s], ", o, class->name_space, class->name);
  68                         }
  69                 }
  70                 ebp += sizeof (gpointer);
  71         }
  72
  73         for (i = 0; i < method->signature->param_count; ++i) {
  74                 MonoType *type = method->signature->params [i];
  75                 int size, align;
  76                 size = mono_type_stack_size (type, &align);
  77
  78                 if (type->byref) {
  79                         printf ("[BYREF:%p], ", *((gpointer *)ebp));
  80                 } else switch (type->type) {
  81
  82                 case MONO_TYPE_BOOLEAN:
  83                 case MONO_TYPE_CHAR:
  84                 case MONO_TYPE_I1:
  85                 case MONO_TYPE_U1:
  86                 case MONO_TYPE_I2:
  87                 case MONO_TYPE_U2:
  88                 case MONO_TYPE_I4:
  89                 case MONO_TYPE_U4:
  90                 case MONO_TYPE_I:
  91                 case MONO_TYPE_U:
  92                         printf ("%d, ", *((int *)(ebp)));
  93                         break;
  94                 case MONO_TYPE_STRING: {
  95                         MonoString *s = *((MonoString **)ebp);
  96                         if (s) {
  97                                 g_assert (((MonoObject *)s)->vtable->klass == mono_defaults.string_class);
  98                                 printf ("[STRING:%p:%s], ", s, mono_string_to_utf8 (s));
  99                         } else
 100                                 printf ("[STRING:null], ");
 101                         break;
 102                 }
 103                 case MONO_TYPE_CLASS:
 104                 case MONO_TYPE_OBJECT: {
 105                         o = *((MonoObject **)ebp);
 106                         if (o) {
 107                                 class = o->vtable->klass;
 108
 109                                 if (class == mono_defaults.string_class) {
 110                                         printf ("[STRING:%p:%s], ", o, mono_string_to_utf8 ((MonoString *)o));
 111                                 } else if (class == mono_defaults.int32_class) {
 112                                         printf ("[INT32:%p:%d], ", o, *(gint32 *)((gpointer)o + sizeof (MonoObject)));
 113                                 } else
 114                                         printf ("[%s.%s:%p], ", class->name_space, class->name, o);
 115                         } else {
 116                                 printf ("%p, ", *((gpointer *)(ebp)));
 117                         }
 118                         break;
 119                 }
 120                 case MONO_TYPE_PTR:
 121                 case MONO_TYPE_FNPTR:
 122                 case MONO_TYPE_ARRAY:
 123                 case MONO_TYPE_SZARRAY:
 124                         printf ("%p, ", *((gpointer *)(ebp)));
 125                         break;
 126                 case MONO_TYPE_I8:
 127                         printf ("%lld, ", *((gint64 *)(ebp)));
 128                         break;
 129                 case MONO_TYPE_R4:
 130                         printf ("%f, ", *((float *)(ebp)));
 131                         break;
 132                 case MONO_TYPE_R8:
 133                         printf ("%f, ", *((double *)(ebp)));
 134                         break;
 135                 case MONO_TYPE_VALUETYPE:
 136                         printf ("[");
 137                         for (j = 0; j < size; j++)
 138                                 printf ("%02x,", *((guint8*)ebp +j));
 139                         printf ("], ");
 140                         break;
 141                 default:
 142                         printf ("XX, ");
 143                 }
 144
 145                 g_assert (align == 4);
 146                 ebp += size + 3;
 147                 ebp = (gpointer)((unsigned)ebp & ~(3));
 148         }
 149
 150         printf (")\n");
 151 }
 152
 153 static void
 154 leave_method (MonoMethod *method, int edx, int eax, double test)
 155 {
 156         gint64 l;
 157
 158         printf ("LEAVE: %s.%s::%s ", method->klass->name_space,
 159                 method->klass->name, method->name);
 160
 161         switch (method->signature->ret->type) {
 162         case MONO_TYPE_VOID:
 163                 break;
 164         case MONO_TYPE_BOOLEAN:
 165                 if (eax)
 166                         printf ("TRUE:%d", eax);
 167                 else
 168                         printf ("FALSE");
 169
 170                 break;
 171         case MONO_TYPE_CHAR:
 172         case MONO_TYPE_I1:
 173         case MONO_TYPE_U1:
 174         case MONO_TYPE_I2:
 175         case MONO_TYPE_U2:
 176         case MONO_TYPE_I4:
 177         case MONO_TYPE_U4:
 178         case MONO_TYPE_I:
 179         case MONO_TYPE_U:
 180                 printf ("EAX=%d", eax);
 181                 break;
 182         case MONO_TYPE_STRING: {
 183                 MonoString *s = (MonoString *)eax;
 184
 185                 if (s) {
 186                         g_assert (((MonoObject *)s)->vtable->klass == mono_defaults.string_class);
 187                         printf ("[STRING:%p:%s]", s, mono_string_to_utf8 (s));
 188                 } else
 189                         printf ("[STRING:null], ");
 190                 break;
 191         }
 192         case MONO_TYPE_OBJECT: {
 193                 MonoObject *o = (MonoObject *)eax;
 194
 195                 if (o) {
 196                         if (o->vtable->klass == mono_defaults.boolean_class) {
 197                                 printf ("[BOOLEAN:%p:%d]", o, *((guint8 *)o + sizeof (MonoObject)));
 198                         } else if  (o->vtable->klass == mono_defaults.int32_class) {
 199                                 printf ("[INT32:%p:%d]", o, *((gint32 *)((gpointer)o + sizeof (MonoObject))));
 200                         } else
 201                                 printf ("[%s.%s:%p]", o->vtable->klass->name_space, o->vtable->klass->name, o);
 202                 } else
 203                         printf ("[OBJECT:%p]", o);
 204
 205                 break;
 206         }
 207         case MONO_TYPE_CLASS:
 208         case MONO_TYPE_PTR:
 209         case MONO_TYPE_FNPTR:
 210         case MONO_TYPE_ARRAY:
 211         case MONO_TYPE_SZARRAY:
 212                 printf ("EAX=%p", (gpointer)eax);
 213                 break;
 214         case MONO_TYPE_I8:
 215                 *((gint32 *)&l) = eax;
 216                 *((gint32 *)&l + 1) = edx;
 217                 printf ("EAX/EDX=%lld", l);
 218                 break;
 219         case MONO_TYPE_R8:
 220                 printf ("FP=%f\n", test);
 221                 break;
 222         default:
 223                 printf ("(unknown return type)");
 224         }
 225
 226         printf ("\n");
 227 }
 228
 229 /**
 230  * arch_emit_prologue:
 231  * @cfg: pointer to status information
 232  *
 233  * Emits the function prolog.
 234  */
 235 static void
 236 arch_emit_prologue (MonoFlowGraph *cfg)
 237 {
 238         x86_push_reg (cfg->code, X86_EBP);
 239         x86_mov_reg_reg (cfg->code, X86_EBP, X86_ESP, 4);
 240
 241         if (cfg->locals_size)
 242                 x86_alu_reg_imm (cfg->code, X86_SUB, X86_ESP, cfg->locals_size);
 243
 244         if (mono_regset_reg_used (cfg->rs, X86_EBX))
 245                 x86_push_reg (cfg->code, X86_EBX);
 246
 247         if (mono_regset_reg_used (cfg->rs, X86_EDI))
 248                 x86_push_reg (cfg->code, X86_EDI);
 249
 250         if (mono_regset_reg_used (cfg->rs, X86_ESI))
 251                 x86_push_reg (cfg->code, X86_ESI);
 252
 253         if (mono_jit_trace_calls) {
 254                 x86_push_reg (cfg->code, X86_EBP);
 255                 x86_push_imm (cfg->code, cfg->method);
 256                 x86_mov_reg_imm (cfg->code, X86_EAX, enter_method);
 257                 x86_call_reg (cfg->code, X86_EAX);
 258                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 8);
 259         }
 260 }
 261
 262 /**
 263  * arch_emit_epilogue:
 264  * @cfg: pointer to status information
 265  *
 266  * Emits the function epilog.
 267  */
 268 static void
 269 arch_emit_epilogue (MonoFlowGraph *cfg)
 270 {
 271         if (mono_jit_trace_calls) {
 272                 x86_fld_reg (cfg->code, 0);
 273                 x86_alu_reg_imm (cfg->code, X86_SUB, X86_ESP, 8);
 274                 x86_fst_membase (cfg->code, X86_ESP, 0, TRUE, TRUE);
 275                 x86_push_reg (cfg->code, X86_EAX);
 276                 x86_push_reg (cfg->code, X86_EDX);
 277                 x86_push_imm (cfg->code, cfg->method);
 278                 x86_mov_reg_imm (cfg->code, X86_EAX, leave_method);
 279                 x86_call_reg (cfg->code, X86_EAX);
 280                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 4);
 281                 x86_pop_reg (cfg->code, X86_EDX);
 282                 x86_pop_reg (cfg->code, X86_EAX);
 283                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 8);
 284         }
 285
 286         if (mono_regset_reg_used (cfg->rs, X86_ESI))
 287                 x86_pop_reg (cfg->code, X86_ESI);
 288
 289         if (mono_regset_reg_used (cfg->rs, X86_EDI))
 290                 x86_pop_reg (cfg->code, X86_EDI);
 291
 292         if (mono_regset_reg_used (cfg->rs, X86_EBX))
 293                 x86_pop_reg (cfg->code, X86_EBX);
 294
 295         x86_leave (cfg->code);
 296         x86_ret (cfg->code);
 297 }
 298
 299 /*
 300  * get_unbox_trampoline:
 301  * @m: method pointer
 302  * @addr: pointer to native code for @m
 303  *
 304  * when value type methods are called through the vtable we need to unbox the
 305  * this argument. This method returns a pointer to a trampoline which does
 306  * unboxing before calling the method
 307  */
 308 static gpointer
 309 get_unbox_trampoline (MonoMethod *m, gpointer addr)
 310 {
 311         guint8 *code, *start;
 312         int this_pos = 4;
 313
 314         if (!m->signature->ret->byref && m->signature->ret->type == MONO_TYPE_VALUETYPE)
 315                 this_pos = 8;
 316
 317         start = code = g_malloc (16);
 318
 319         x86_alu_membase_imm (code, X86_ADD, X86_ESP, this_pos, sizeof (MonoObject));
 320         x86_jump_code (code, addr);
 321         g_assert ((code - start) < 16);
 322
 323         return start;
 324 }
 325
 326 /**
 327  * x86_magic_trampoline:
 328  * @eax: saved x86 register
 329  * @ecx: saved x86 register
 330  * @edx: saved x86 register
 331  * @esi: saved x86 register
 332  * @edi: saved x86 register
 333  * @ebx: saved x86 register
 334  * @code: pointer into caller code
 335  * @method: the method to translate
 336  *
 337  * This method is called by the trampoline functions for virtual
 338  * methods. It inspects the caller code to find the address of the
 339  * vtable slot, then calls the JIT compiler and writes the address
 340  * of the compiled method back to the vtable. All virtual methods
 341  * are called with: x86_call_membase (inst, basereg, disp). We always
 342  * use 32 bit displacement to ensure that the length of the call
 343  * instruction is 6 bytes. We need to get the value of the basereg
 344  * and the constant displacement.
 345  */
 346 static gpointer
 347 x86_magic_trampoline (int eax, int ecx, int edx, int esi, int edi,
 348                       int ebx, const guint8 *code, MonoMethod *m)
 349 {
 350         guint8 reg;
 351         gint32 disp;
 352         gpointer o;
 353         gpointer addr;
 354
 355         EnterCriticalSection (metadata_section);
 356         addr = arch_compile_method (m);
 357         LeaveCriticalSection (metadata_section);
 358         g_assert (addr);
 359
 360
 361         /* go to the start of the call instruction
 362          *
 363          * address_byte = (m << 6) | (o << 3) | reg
 364          * call opcode: 0xff address_byte displacement
 365          * 0xff m=1,o=2 imm8
 366          * 0xff m=2,o=2 imm32
 367          */
 368         code -= 6;
 369         if ((code [1] != 0xe8) && (code [3] == 0xff) && ((code [4] & 0x18) == 0x10) && ((code [4] >> 6) == 1)) {
 370                 reg = code [4] & 0x07;
 371                 disp = (signed char)code [5];
 372         } else {
 373                 if ((code [0] == 0xff) && ((code [1] & 0x18) == 0x10) && ((code [1] >> 6) == 2)) {
 374                         reg = code [1] & 0x07;
 375                         disp = *((gint32*)(code + 2));
 376                 } else if ((code [1] == 0xe8)) {
 377                         *((guint32*)(code + 2)) = (guint)addr - ((guint)code + 1) - 5;
 378                         return addr;
 379                 } else {
 380                         printf ("%x %x %x %x %x %x \n", code [0], code [1], code [2], code [3],
 381                                 code [4], code [5]);
 382                         g_assert_not_reached ();
 383                 }
 384         }
 385
 386         switch (reg) {
 387         case X86_EAX:
 388                 o = (gpointer)eax;
 389                 break;
 390         case X86_EDX:
 391                 o = (gpointer)edx;
 392                 break;
 393         case X86_ECX:
 394                 o = (gpointer)ecx;
 395                 break;
 396         case X86_ESI:
 397                 o = (gpointer)esi;
 398                 break;
 399         case X86_EDI:
 400                 o = (gpointer)edi;
 401                 break;
 402         case X86_EBX:
 403                 o = (gpointer)ebx;
 404                 break;
 405         default:
 406                 g_assert_not_reached ();
 407         }
 408
 409         o += disp;
 410
 411         if (m->klass->valuetype) {
 412                 return *((gpointer *)o) = get_unbox_trampoline (m, addr);
 413         } else
 414                 return *((gpointer *)o) = addr;
 415 }
 416
 417 /**
 418  * arch_create_jit_trampoline:
 419  * @method: pointer to the method info
 420  *
 421  * Creates a trampoline function for virtual methods. If the created
 422  * code is called it first starts JIT compilation of method,
 423  * and then calls the newly created method. I also replaces the
 424  * corresponding vtable entry (see x86_magic_trampoline).
 425  *
 426  * Returns: a pointer to the newly created code
 427  */
 428 gpointer
 429 arch_create_jit_trampoline (MonoMethod *method)
 430 {
 431         MonoDomain *domain = mono_domain_get ();
 432         guint8 *code, *buf;
 433         static guint8 *vc = NULL;
 434         GHashTable *jit_code_hash;
 435
 436         /* icalls use method->addr */
 437         if (method->addr)
 438                 return method->addr;
 439
 440         /* previously created trampoline code */
 441         if (method->info)
 442                 return method->info;
 443
 444         /* check if we already have JITed code */
 445         if (mono_jit_share_code)
 446                 jit_code_hash = mono_root_domain->jit_code_hash;
 447         else
 448                 jit_code_hash = domain->jit_code_hash;
 449
 450         if ((code = g_hash_table_lookup (jit_code_hash, method))) {
 451                 mono_jit_stats.methods_lookups++;
 452                 return code;
 453         }
 454
 455         if (!vc) {
 456                 vc = buf = g_malloc (256);
 457
 458                 /* save LMF begin */
 459                 x86_push_reg (buf, X86_EBX);
 460                 x86_push_reg (buf, X86_EDI);
 461                 x86_push_reg (buf, X86_ESI);
 462                 x86_push_reg (buf, X86_EBP);
 463
 464                 /* save the IP (caller ip) */
 465                 x86_push_membase (buf, X86_ESP, 20);
 466
 467                 /* save method info */
 468                 x86_push_membase (buf, X86_ESP, 20);
 469                 /* get the address of lmf for the current thread */
 470                 x86_call_code (buf, arch_get_lmf_addr);
 471                 /* push lmf */
 472                 x86_push_reg (buf, X86_EAX);
 473                 /* push *lfm (previous_lmf) */
 474                 x86_push_membase (buf, X86_EAX, 0);
 475                 /* *(lmf) = ESP */
 476                 x86_mov_membase_reg (buf, X86_EAX, 0, X86_ESP, 4);
 477                 /* save LFM end */
 478
 479                 /* push the method info */
 480                 x86_push_membase (buf, X86_ESP, 32);
 481                 /* push the return address onto the stack */
 482                 x86_push_membase (buf, X86_ESP, 40);
 483
 484                 /* save all register values */
 485                 x86_push_reg (buf, X86_EBX);
 486                 x86_push_reg (buf, X86_EDI);
 487                 x86_push_reg (buf, X86_ESI);
 488                 x86_push_reg (buf, X86_EDX);
 489                 x86_push_reg (buf, X86_ECX);
 490                 x86_push_reg (buf, X86_EAX);
 491
 492                 x86_call_code (buf, x86_magic_trampoline);
 493                 x86_alu_reg_imm (buf, X86_ADD, X86_ESP, 8*4);
 494
 495                 /* restore LMF start */
 496                 /* ebx = previous_lmf */
 497                 x86_pop_reg (buf, X86_EBX);
 498                 /* edi = lmf */
 499                 x86_pop_reg (buf, X86_EDI);
 500                 /* *(lmf) = previous_lmf */
 501                 x86_mov_membase_reg (buf, X86_EDI, 0, X86_EBX, 4);
 502                 /* discard method info */
 503                 x86_pop_reg (buf, X86_ESI);
 504                 /* discard save IP */
 505                 x86_pop_reg (buf, X86_ESI);
 506                 /* restore caller saved regs */
 507                 x86_pop_reg (buf, X86_EBP);
 508                 x86_pop_reg (buf, X86_ESI);
 509                 x86_pop_reg (buf, X86_EDI);
 510                 x86_pop_reg (buf, X86_EBX);
 511                 /* restore LMF end */
 512
 513                 x86_alu_reg_imm (buf, X86_ADD, X86_ESP, 4);
 514
 515                 /* call the compiled method */
 516                 x86_jump_reg (buf, X86_EAX);
 517
 518                 g_assert ((buf - vc) <= 256);
 519         }
 520
 521         code = buf = g_malloc (16);
 522         x86_push_imm (buf, method);
 523         x86_jump_code (buf, vc);
 524         g_assert ((buf - code) <= 16);
 525
 526         /* store trampoline address */
 527         method->info = code;
 528
 529         mono_jit_stats.method_trampolines++;
 530
 531         return code;
 532 }
 533
 534 static void
 535 mono_label_cfg (MonoFlowGraph *cfg)
 536 {
 537         int i, j;
 538
 539         for (i = 0; i < cfg->block_count; i++) {
 540                 GPtrArray *forest = cfg->bblocks [i].forest;
 541                 int top;
 542
 543                 if (!cfg->bblocks [i].reached) /* unreachable code */
 544                         continue;
 545
 546                 top = forest->len;
 547
 548                 for (j = 0; j < top; j++) {
 549                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
 550                         MBState *mbstate;
 551
 552                         mbstate =  mono_burg_label (t1, cfg);
 553                         if (!mbstate) {
 554                                 cfg->invalid = 1;
 555                                 if (mono_debug_handle)
 556                                         return;
 557                                 g_warning ("tree does not match");
 558                                 mono_print_ctree (t1); printf ("\n\n");
 559
 560                                 mono_print_forest (forest);
 561                                 g_assert_not_reached ();
 562                         }
 563                 }
 564         }
 565 }
 566
 567 static void
 568 tree_preallocate_regs (MBTree *tree, int goal, MonoRegSet *rs)
 569 {
 570         switch (tree->op) {
 571         case MB_TERM_CALL_I4:
 572         case MB_TERM_CALL_I8:
 573         case MB_TERM_CALL_R8:
 574 //      case MB_TERM_CALL_VOID :
 575                 tree->reg1 = mono_regset_alloc_reg (rs, X86_EAX, tree->exclude_mask);
 576                 tree->reg2 = mono_regset_alloc_reg (rs, X86_EDX, tree->exclude_mask);
 577                 tree->reg3 = mono_regset_alloc_reg (rs, X86_ECX, tree->exclude_mask);
 578                 return;
 579         default: break;
 580         }
 581
 582         switch (goal) {
 583         case MB_NTERM_reg:
 584         case MB_NTERM_lreg: {
 585                 switch (tree->op) {
 586                 case MB_TERM_SHL:
 587                 case MB_TERM_SHR:
 588                 case MB_TERM_SHR_UN:
 589                         tree->exclude_mask |= (1 << X86_ECX);
 590                         tree->left->exclude_mask |= (1 << X86_ECX);
 591                         break;
 592                 case MB_TERM_MUL:
 593                 case MB_TERM_MUL_OVF:
 594                 case MB_TERM_MUL_OVF_UN:
 595                 case MB_TERM_DIV:
 596                 case MB_TERM_DIV_UN:
 597                 case MB_TERM_REM:
 598                 case MB_TERM_REM_UN:
 599                         tree->reg1 = mono_regset_alloc_reg (rs, X86_EAX, tree->exclude_mask);
 600                         tree->reg2 = mono_regset_alloc_reg (rs, X86_EDX, tree->exclude_mask);
 601                         if (goal == MB_NTERM_reg) {
 602                                 tree->left->exclude_mask |= (1 << X86_EDX);
 603                                 tree->right->exclude_mask |= (1 << X86_EDX) | (1 << X86_EAX);
 604                         }
 605                         break;
 606                 default:
 607                         break;
 608                 }
 609                 break;
 610         }
 611         default:
 612                 break;
 613         }
 614 }
 615
 616 static void
 617 tree_allocate_regs (MBTree *tree, int goal, MonoRegSet *rs)
 618 {
 619         MBTree *kids[10];
 620         int ern = mono_burg_rule (tree->state, goal);
 621         const guint16 *nts = mono_burg_nts [ern];
 622         int i;
 623
 624         mono_burg_kids (tree, ern, kids);
 625
 626         //printf ("RALLOC START %d %p %d\n",  tree->op, rs->free_mask, goal);
 627
 628         if (nts [0] && kids [0] == tree) {
 629                 /* chain rule */
 630                 tree_allocate_regs (kids [0], nts [0], rs);
 631                 return;
 632         }
 633
 634         for (i = 0; nts [i]; i++)
 635                 tree_preallocate_regs (kids [i], nts [i], rs);
 636
 637         for (i = 0; nts [i]; i++)
 638                 tree_allocate_regs (kids [i], nts [i], rs);
 639
 640         for (i = 0; nts [i]; i++) {
 641                 mono_regset_free_reg (rs, kids [i]->reg1);
 642                 mono_regset_free_reg (rs, kids [i]->reg2);
 643                 mono_regset_free_reg (rs, kids [i]->reg3);
 644         }
 645
 646         switch (goal) {
 647         case MB_NTERM_reg:
 648                 if (tree->reg1 < 0) {
 649                         tree->reg1 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
 650                         g_assert (tree->reg1 != -1);
 651                 }
 652                 break;
 653
 654         case MB_NTERM_lreg:
 655                 if (tree->reg1 < 0) {
 656                         tree->reg1 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
 657                         g_assert (tree->reg1 != -1);
 658                 }
 659                 if (tree->reg2 < 0) {
 660                         tree->reg2 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
 661                         g_assert (tree->reg2 != -1);
 662                 }
 663                 break;
 664
 665         case MB_NTERM_freg:
 666                 /* fixme: allocate floating point registers */
 667                 break;
 668
 669         case MB_NTERM_addr:
 670                 if (tree->op == MB_TERM_ADD) {
 671                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
 672                         tree->reg2 = mono_regset_alloc_reg (rs, tree->right->reg1, tree->exclude_mask);
 673                 }
 674                 break;
 675
 676         case MB_NTERM_base:
 677                 if (tree->op == MB_TERM_ADD) {
 678                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
 679                 }
 680                 break;
 681
 682         case MB_NTERM_index:
 683                 if (tree->op == MB_TERM_SHL ||
 684                     tree->op == MB_TERM_MUL) {
 685                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
 686                 }
 687                 break;
 688
 689         default:
 690                 /* do nothing */
 691         }
 692
 693         //printf ("RALLOC END %d %p\n",  tree->op, rs->free_mask);
 694         tree->emit = mono_burg_func [ern];
 695 }
 696
 697 static void
 698 arch_allocate_regs (MonoFlowGraph *cfg)
 699 {
 700         int i, j;
 701
 702         for (i = 0; i < cfg->block_count; i++) {
 703                 GPtrArray *forest = cfg->bblocks [i].forest;
 704                 int top;
 705
 706                 if (!cfg->bblocks [i].reached) /* unreachable code */
 707                         continue;
 708
 709                 top = forest->len;
 710
 711                 for (j = 0; j < top; j++) {
 712                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
 713                         //printf ("AREGSTART %d:%d %p\n", i, j, cfg->rs->free_mask);
 714                         tree_allocate_regs (t1, 1, cfg->rs);
 715                         //printf ("AREGENDT %d:%d %p\n", i, j, cfg->rs->free_mask);
 716                         g_assert (cfg->rs->free_mask == 0xffffffff);
 717                 }
 718         }
 719 }
 720
 721 static void
 722 tree_emit (int goal, MonoFlowGraph *cfg, MBTree *tree)
 723 {
 724         MBTree *kids[10];
 725         int i, ern = mono_burg_rule (tree->state, goal);
 726         const guint16 *nts = mono_burg_nts [ern];
 727         MBEmitFunc emit;
 728         int offset;
 729
 730         mono_burg_kids (tree, ern, kids);
 731
 732         for (i = 0; nts [i]; i++)
 733                 tree_emit (nts [i], cfg, kids [i]);
 734
 735         tree->addr = offset = cfg->code - cfg->start;
 736
 737         // we assume an instruction uses a maximum of 128 bytes
 738         if ((cfg->code_size - offset) <= 128) {
 739                 int add = MIN (cfg->code_size, 128);
 740                 cfg->code_size += add;
 741                 mono_jit_stats.code_reallocs++;
 742                 cfg->start = g_realloc (cfg->start, cfg->code_size);
 743                 g_assert (cfg->start);
 744                 cfg->code = cfg->start + offset;
 745         }
 746
 747         if ((emit = mono_burg_func [ern]))
 748                 emit (tree, cfg);
 749
 750         g_assert ((cfg->code - cfg->start) < cfg->code_size);
 751 }
 752
 753 static void
 754 mono_emit_cfg (MonoFlowGraph *cfg)
 755 {
 756         int i, j;
 757
 758         for (i = 0; i < cfg->block_count; i++) {
 759                 MonoBBlock *bb = &cfg->bblocks [i];
 760                 GPtrArray *forest = bb->forest;
 761                 int top;
 762
 763                 if (!bb->reached) /* unreachable code */
 764                         continue;
 765
 766                 top = forest->len;
 767
 768                 bb->addr = cfg->code - cfg->start;
 769
 770                 for (j = 0; j < top; j++) {
 771                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
 772
 773                         tree_emit (1, cfg, t1);
 774                 }
 775         }
 776
 777         cfg->epilog = cfg->code - cfg->start;
 778 }
 779
 780 static void
 781 mono_compute_branches (MonoFlowGraph *cfg)
 782 {
 783         MonoJumpInfo *ji;
 784         guint8 *end;
 785         int i, j;
 786
 787         end = cfg->code;
 788
 789         for (j = 0; j < cfg->block_count; j++) {
 790                 MonoBBlock *bb = &cfg->bblocks [j];
 791                 GPtrArray *forest = bb->forest;
 792                 int top;
 793
 794                 if (!bb->reached) /* unreachable code */
 795                         continue;
 796
 797                 top = forest->len;
 798
 799                 for (i = 0; i < top; i++) {
 800                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, i);
 801
 802                         if (t1->op == MB_TERM_SWITCH) {
 803                                 MonoBBlock **jt = (MonoBBlock **)t1->data.p;
 804                                 guint32 *rt = (guint32 *)t1->data.p;
 805
 806                                 int m = *((guint32 *)t1->data.p) + 1;
 807                                 int j;
 808
 809                                 for (j = 1; j <= m; j++)
 810                                         rt [j] = (int)(jt [j]->addr + cfg->start);
 811
 812                                 /* emit the switch instruction again to update addresses */
 813                                 cfg->code = cfg->start + t1->addr;
 814                                 ((MBEmitFunc)t1->emit) (t1, cfg);
 815                         }
 816                 }
 817         }
 818
 819         cfg->code = end;
 820
 821         for (ji = cfg->jump_info; ji; ji = ji->next) {
 822                 gpointer *ip = GUINT_TO_POINTER (GPOINTER_TO_UINT (ji->ip) + cfg->start);
 823                 gpointer target;
 824
 825                 if (ji->target) {
 826                         target = ji->target;
 827                 } else if (ji->bb) {
 828                         target = ji->bb->addr + cfg->start;
 829                 } else {
 830                         /* special case - jump to epilog */
 831                         target = cfg->epilog + cfg->start;
 832                 }
 833                 *ip = target - GPOINTER_TO_UINT(ip) - 4;
 834         }
 835 }
 836
 837 void
 838 mono_add_jump_info (MonoFlowGraph *cfg, gpointer ip, gpointer target, MonoBBlock *bb)
 839 {
 840         MonoJumpInfo *ji = mono_mempool_alloc (cfg->mp, sizeof (MonoJumpInfo));
 841
 842         ji->ip = GUINT_TO_POINTER (GPOINTER_TO_UINT (ip) - GPOINTER_TO_UINT (cfg->start));
 843         ji->target = target;
 844         ji->next = cfg->jump_info;
 845         ji->bb = bb;
 846
 847         cfg->jump_info = ji;
 848 }
 849
 850 static int
 851 match_debug_method (MonoMethod* method)
 852 {
 853         GList *tmp = mono_debug_methods;
 854
 855         for (; tmp; tmp = tmp->next) {
 856                 if (strcmp (method->name, tmp->data) == 0) {
 857                         return 1;
 858                 }
 859         }
 860         return 0;
 861 }
 862
 863 /**
 864  * arch_compile_method:
 865  * @method: pointer to the method info
 866  *
 867  * JIT compilation of a single method.
 868  *
 869  * Returns: a pointer to the newly created code.
 870  */
 871 gpointer
 872 arch_compile_method (MonoMethod *method)
 873 {
 874         MonoDomain *domain = mono_domain_get ();
 875         MonoFlowGraph *cfg;
 876         MonoMemPool *mp;
 877         guint8 *addr;
 878         GHashTable *jit_code_hash;
 879
 880         g_assert (!(method->iflags & METHOD_IMPL_ATTRIBUTE_INTERNAL_CALL));
 881         g_assert (!(method->flags & METHOD_ATTRIBUTE_PINVOKE_IMPL));
 882
 883         if (mono_jit_share_code)
 884                 jit_code_hash = mono_root_domain->jit_code_hash;
 885         else
 886                 jit_code_hash = domain->jit_code_hash;
 887
 888         if ((addr = g_hash_table_lookup (jit_code_hash, method))) {
 889                 mono_jit_stats.methods_lookups++;
 890                 return addr;
 891         }
 892
 893         mono_jit_stats.methods_compiled++;
 894
 895         mp = mono_mempool_new ();
 896
 897         if (mono_jit_trace_calls || mono_jit_dump_asm || mono_jit_dump_forest) {
 898                 printf ("Start JIT compilation of %s.%s:%s\n", method->klass->name_space,
 899                         method->klass->name, method->name);
 900         }
 901
 902         if (method->iflags & METHOD_IMPL_ATTRIBUTE_RUNTIME) {
 903                 MonoClassField *field;
 904                 const char *name = method->name;
 905                 static guint target_offset = 0;
 906                 static guint method_offset = 0;
 907                 guint8 *code;
 908                 gboolean delegate = FALSE;
 909
 910                 if (method->klass->parent &&
 911                     method->klass->parent->parent == mono_defaults.delegate_class)
 912                         delegate = TRUE;
 913
 914                 if (!target_offset) {
 915                         mono_class_init (mono_defaults.delegate_class);
 916
 917                         field = mono_class_get_field_from_name (mono_defaults.delegate_class, "m_target");
 918                         target_offset = field->offset;
 919                         field = mono_class_get_field_from_name (mono_defaults.delegate_class, "method_ptr");
 920                         method_offset = field->offset;
 921                 }
 922
 923                 if (delegate && *name == '.' && (strcmp (name, ".ctor") == 0)) {
 924                         addr = code = g_malloc (32);
 925                         x86_push_reg (code, X86_EBP);
 926                         x86_mov_reg_reg (code, X86_EBP, X86_ESP, 4);
 927
 928                         /* load the this pointer */
 929                         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 8, 4);
 930                         /* load m_target arg */
 931                         x86_mov_reg_membase (code, X86_EDX, X86_EBP, 12, 4);
 932                         /* store mtarget */
 933                         x86_mov_membase_reg (code, X86_EAX, target_offset, X86_EDX, 4);
 934                         /* load method_ptr arg */
 935                         x86_mov_reg_membase (code, X86_EDX, X86_EBP, 16, 4);
 936                         /* store method_ptr */
 937                         x86_mov_membase_reg (code, X86_EAX, method_offset, X86_EDX, 4);
 938
 939                         x86_leave (code);
 940                         x86_ret (code);
 941
 942                         g_assert ((code - (guint8*)addr) < 32);
 943
 944                 } else if (delegate && *name == 'I' && (strcmp (name, "Invoke") == 0)) {
 945                         MonoMethodSignature *csig = method->signature;
 946                         int i, arg_size, target, this_pos = 4;
 947                         guint8 *source;
 948
 949                         if (csig->ret->type == MONO_TYPE_VALUETYPE) {
 950                                 g_assert (!csig->ret->byref);
 951                                 this_pos = 8;
 952                         }
 953
 954                         arg_size = 0;
 955                         if (csig->param_count) {
 956                                 int align;
 957
 958                                 for (i = 0; i < csig->param_count; ++i) {
 959                                         arg_size += mono_type_stack_size (csig->params [i], &align);
 960                                         g_assert (align == 4);
 961                                 }
 962                         }
 963
 964                         addr = g_malloc (64 + arg_size);
 965
 966                         for (i = 0; i < 2; i ++) {
 967                                 int j;
 968
 969                                 code = addr;
 970                                 /* load the this pointer */
 971                                 x86_mov_reg_membase (code, X86_EAX, X86_ESP, this_pos, 4);
 972                                 /* load mtarget */
 973                                 x86_mov_reg_membase (code, X86_EDX, X86_EAX, target_offset, 4);
 974                                 /* check if zero (static method call without this pointer) */
 975                                 x86_alu_reg_imm (code, X86_CMP, X86_EDX, 0);
 976                                 x86_branch32 (code, X86_CC_EQ, target, TRUE);
 977                                 source = code;
 978
 979                                 /* virtual delegate methods: we have to replace the this pointer
 980                                  * withe the actual target */
 981                                 x86_mov_membase_reg (code, X86_ESP, this_pos, X86_EDX, 4);
 982                                 /* jump to method_ptr() */
 983                                 x86_jump_membase (code, X86_EAX, method_offset);
 984
 985                                 /* static delegate methods: we have to remove the this pointer
 986                                  * from the activation frame - I do this do creating a new
 987                                  * stack frame an copy all arguments except the this pointer */
 988
 989                                 target = code - source;
 990                                 g_assert ((arg_size & 3) == 0);
 991                                 for (j = 0; j < (arg_size>>2); j++) {
 992                                         x86_push_membase (code, X86_ESP, (arg_size + this_pos));
 993                                 }
 994
 995                                 if (this_pos == 8)
 996                                         x86_push_membase (code, X86_ESP, (arg_size + 4));
 997
 998                                 x86_call_membase (code, X86_EAX, method_offset);
 999                                 if (this_pos == 8)
1000                                         x86_alu_reg_imm (code, X86_ADD, X86_ESP, arg_size + 4);
1001                                 else
1002                                         x86_alu_reg_imm (code, X86_ADD, X86_ESP, arg_size);
1003
1004                                 x86_ret (code);
1005
1006                         }
1007
1008                         g_assert ((code - (guint8*)addr) < (64 + arg_size));
1009
1010                 } else {
1011                         if (mono_debug_handle)
1012                                 return NULL;
1013
1014                         g_error ("Don't know how to exec runtime method %s.%s::%s",
1015                                  method->klass->name_space, method->klass->name, method->name);
1016                 }
1017
1018         } else {
1019                 MonoMethodHeader *header = ((MonoMethodNormal *)method)->header;
1020                 MonoJitInfo *ji = g_new0 (MonoJitInfo, 1);
1021                 gulong code_size_ratio;
1022
1023                 cfg = mono_cfg_new (method, mp);
1024
1025                 mono_analyze_flow (cfg);
1026                 if (cfg->invalid)
1027                         return NULL;
1028
1029                 mono_analyze_stack (cfg);
1030                 if (cfg->invalid)
1031                         return NULL;
1032
1033                 cfg->rs = mono_regset_new (X86_NREG);
1034                 mono_regset_reserve_reg (cfg->rs, X86_ESP);
1035                 mono_regset_reserve_reg (cfg->rs, X86_EBP);
1036
1037                 cfg->code_size = MAX (header->code_size * 5, 256);
1038                 cfg->start = cfg->code = g_malloc (cfg->code_size);
1039
1040                 if (match_debug_method (method))
1041                         x86_breakpoint (cfg->code);
1042
1043                 if (mono_jit_dump_forest) {
1044                         int i;
1045                         printf ("FOREST %s.%s:%s\n", method->klass->name_space,
1046                                 method->klass->name, method->name);
1047                         for (i = 0; i < cfg->block_count; i++) {
1048                                 printf ("BLOCK %d:\n", i);
1049                                 mono_print_forest (cfg->bblocks [i].forest);
1050                         }
1051                 }
1052
1053                 mono_label_cfg (cfg);
1054                 if (cfg->invalid)
1055                         return NULL;
1056
1057                 arch_allocate_regs (cfg);
1058
1059                 /* align to 8 byte boundary */
1060                 cfg->locals_size += 7;
1061                 cfg->locals_size &= ~7;
1062
1063                 arch_emit_prologue (cfg);
1064                 mono_emit_cfg (cfg);
1065                 arch_emit_epilogue (cfg);
1066
1067                 addr = cfg->start;
1068
1069                 mono_jit_stats.allocated_code_size += cfg->code_size;
1070
1071                 code_size_ratio = cfg->code - cfg->start;
1072                 if (code_size_ratio > mono_jit_stats.biggest_method_size) {
1073                         mono_jit_stats.biggest_method_size = code_size_ratio;
1074                         mono_jit_stats.biggest_method = method;
1075                 }
1076                 code_size_ratio = (code_size_ratio * 100) / header->code_size;
1077                 if (code_size_ratio > mono_jit_stats.max_code_size_ratio) {
1078                         mono_jit_stats.max_code_size_ratio = code_size_ratio;
1079                         mono_jit_stats.max_ratio_method = method;
1080                 }
1081
1082                 mono_compute_branches (cfg);
1083
1084                 if (mono_jit_dump_asm) {
1085                         char *id = g_strdup_printf ("%s.%s_%s", method->klass->name_space,
1086                                                     method->klass->name, method->name);
1087                         mono_disassemble_code (cfg->start, cfg->code - cfg->start, id);
1088                         g_free (id);
1089                 }
1090                 if (mono_debug_handle)
1091                         mono_debug_add_method (mono_debug_handle, cfg);
1092
1093                 ji->code_size = cfg->code - cfg->start;
1094                 ji->used_regs = cfg->rs->used_mask;
1095                 ji->method = method;
1096                 ji->code_start = addr;
1097                 mono_jit_info_table_add (mono_jit_info_table, ji);
1098
1099                 mono_jit_stats.native_code_size += ji->code_size;
1100
1101                 if (header->num_clauses) {
1102                         int i, start_block, end_block;
1103
1104                         ji->num_clauses = header->num_clauses;
1105                         ji->clauses = g_new0 (MonoJitExceptionInfo, header->num_clauses);
1106
1107                         for (i = 0; i < header->num_clauses; i++) {
1108                                 MonoExceptionClause *ec = &header->clauses [i];
1109                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
1110
1111                                 ei->flags = ec->flags;
1112                                 ei->token_or_filter = ec->token_or_filter;
1113
1114                                 g_assert (cfg->bcinfo [ec->try_offset].is_block_start);
1115                                 start_block = cfg->bcinfo [ec->try_offset].block_id;
1116                                 end_block = cfg->bcinfo [ec->try_offset + ec->try_len].block_id;
1117                                 g_assert (cfg->bcinfo [ec->try_offset + ec->try_len].is_block_start);
1118
1119                                 ei->try_start = cfg->start + cfg->bblocks [start_block].addr;
1120                                 ei->try_end = cfg->start + cfg->bblocks [end_block].addr;
1121
1122                                 g_assert (cfg->bcinfo [ec->handler_offset].is_block_start);
1123                                 start_block = cfg->bcinfo [ec->handler_offset].block_id;
1124                                 ei->handler_start = cfg->start + cfg->bblocks [start_block].addr;
1125
1126                                 //printf ("TEST %x %x %x\n", ei->try_start, ei->try_end, ei->handler_start);
1127                         }
1128                 }
1129
1130                 mono_regset_free (cfg->rs);
1131
1132                 mono_cfg_free (cfg);
1133
1134                 mono_mempool_destroy (mp);
1135
1136         }
1137
1138         if (mono_jit_trace_calls || mono_jit_dump_asm || mono_jit_dump_forest) {
1139                 printf ("END JIT compilation of %s.%s:%s %p %p\n", method->klass->name_space,
1140                         method->klass->name, method->name, method, addr);
1141         }
1142
1143         g_hash_table_insert (jit_code_hash, method, addr);
1144
1145         return addr;
1146 }
1147
1148 /*
1149  * arch_get_restore_context:
1150  *
1151  * Returns a pointer to a method which restores a previously saved sigcontext.
1152  */
1153 static gpointer
1154 arch_get_restore_context ()
1155 {
1156         static guint8 *start = NULL;
1157         guint8 *code;
1158
1159         if (start)
1160                 return start;
1161
1162         /* restore_contect (struct sigcontext *ctx) */
1163         /* we do not restore X86_EAX, X86_EDX */
1164
1165         start = code = malloc (1024);
1166
1167         /* load ctx */
1168         x86_mov_reg_membase (code, X86_EAX, X86_ESP, 4, 4);
1169
1170         /* get return address, stored in EDX */
1171         x86_mov_reg_membase (code, X86_EDX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, eip), 4);
1172
1173         /* restore EBX */
1174         x86_mov_reg_membase (code, X86_EBX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebx), 4);
1175         /* restore EDI */
1176         x86_mov_reg_membase (code, X86_EDI, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, edi), 4);
1177         /* restore ESI */
1178         x86_mov_reg_membase (code, X86_ESI, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, esi), 4);
1179         /* restore ESP */
1180         x86_mov_reg_membase (code, X86_ESP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, esp), 4);
1181         /* restore EBP */
1182         x86_mov_reg_membase (code, X86_EBP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebp), 4);
1183         /* restore ECX. the exception object is passed here to the catch handler */
1184         x86_mov_reg_membase (code, X86_ECX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ecx), 4);
1185
1186         /* jump to the saved IP */
1187         x86_jump_reg (code, X86_EDX);
1188
1189         return start;
1190 }
1191
1192 /*
1193  * arch_get_call_finally:
1194  *
1195  * Returns a pointer to a method which calls a finally handler.
1196  */
1197 static gpointer
1198 arch_get_call_finally ()
1199 {
1200         static guint8 start [28];
1201         static int inited = 0;
1202         guint8 *code;
1203
1204         if (inited)
1205                 return start;
1206
1207         inited = 1;
1208         /* call_finally (struct sigcontext *ctx, unsigned long eip) */
1209         code = start;
1210
1211         x86_push_reg (code, X86_EBP);
1212         x86_mov_reg_reg (code, X86_EBP, X86_ESP, 4);
1213         x86_push_reg (code, X86_EBX);
1214         x86_push_reg (code, X86_EDI);
1215         x86_push_reg (code, X86_ESI);
1216
1217         /* load ctx */
1218         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 8, 4);
1219         /* load eip */
1220         x86_mov_reg_membase (code, X86_ECX, X86_EBP, 12, 4);
1221         /* save EBP */
1222         x86_push_reg (code, X86_EBP);
1223         /* set new EBP */
1224         x86_mov_reg_membase (code, X86_EBP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebp), 4);
1225         /* call the handler */
1226         x86_call_reg (code, X86_ECX);
1227         /* restore EBP */
1228         x86_pop_reg (code, X86_EBP);
1229         /* restore saved regs */
1230         x86_pop_reg (code, X86_ESI);
1231         x86_pop_reg (code, X86_EDI);
1232         x86_pop_reg (code, X86_EBX);
1233         x86_leave (code);
1234         x86_ret (code);
1235
1236         g_assert ((code - start) < 28);
1237         return start;
1238 }
1239
1240 /**
1241  * arch_handle_exception:
1242  * @ctx: saved processor state
1243  * @obj:
1244  */
1245 void
1246 arch_handle_exception (struct sigcontext *ctx, gpointer obj)
1247 {
1248         MonoDomain *domain = mono_domain_get ();
1249         MonoJitInfo *ji;
1250         gpointer ip = (gpointer)ctx->eip;
1251         static void (*restore_context) (struct sigcontext *);
1252         static void (*call_finally) (struct sigcontext *, unsigned long);
1253
1254         g_assert (ctx != NULL);
1255         g_assert (obj != NULL);
1256
1257         ji = mono_jit_info_table_find (mono_jit_info_table, ip);
1258
1259         if (!restore_context)
1260                 restore_context = arch_get_restore_context ();
1261
1262         if (!call_finally)
1263                 call_finally = arch_get_call_finally ();
1264
1265         if (ji) { /* we are inside managed code */
1266                 MonoMethod *m = ji->method;
1267                 int offset = 2;
1268
1269                 if (ji->num_clauses) {
1270                         int i;
1271
1272                         g_assert (ji->clauses);
1273
1274                         for (i = 0; i < ji->num_clauses; i++) {
1275                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
1276
1277                                 if (ei->try_start <= ip && ip <= (ei->try_end)) {
1278                                         /* catch block */
1279                                         if (ei->flags == 0 && mono_object_isinst (obj,
1280                                                 mono_class_get (m->klass->image, ei->token_or_filter))) {
1281
1282                                                 ctx->eip = (unsigned long)ei->handler_start;
1283                                                 ctx->ecx = (unsigned long)obj;
1284                                                 restore_context (ctx);
1285                                                 g_assert_not_reached ();
1286                                         }
1287                                 }
1288                         }
1289
1290                         /* no handler found - we need to call all finally handlers */
1291                         for (i = 0; i < ji->num_clauses; i++) {
1292                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
1293
1294                                 if (ei->try_start <= ip && ip < (ei->try_end) &&
1295                                     (ei->flags & MONO_EXCEPTION_CLAUSE_FINALLY)) {
1296                                         call_finally (ctx, (unsigned long)ei->handler_start);
1297                                 }
1298                         }
1299                 }
1300
1301                 if (mono_object_isinst (obj, mono_defaults.exception_class)) {
1302                         char  *strace = mono_string_to_utf8 (((MonoException*)obj)->stack_trace);
1303                         char  *tmp;
1304
1305                         if (!strcmp (strace, "TODO: implement stack traces")){
1306                                 g_free (strace);
1307                                 strace = g_strdup ("");
1308                         }
1309
1310                         tmp = g_strdup_printf ("%sin %s.%s:%s ()\n", strace, m->klass->name_space,
1311                                                m->klass->name, m->name);
1312
1313                         g_free (strace);
1314
1315                         ((MonoException*)obj)->stack_trace = mono_string_new (domain, tmp);
1316                         g_free (tmp);
1317                 }
1318
1319                 /* continue unwinding */
1320
1321                 /* restore caller saved registers */
1322                 if (ji->used_regs & X86_ESI_MASK) {
1323                         ctx->esi = *((int *)ctx->ebp + offset);
1324                         offset++;
1325                 }
1326                 if (ji->used_regs & X86_EDI_MASK) {
1327                         ctx->edi = *((int *)ctx->ebp + offset);
1328                         offset++;
1329                 }
1330                 if (ji->used_regs & X86_EBX_MASK) {
1331                         ctx->ebx = *((int *)ctx->ebp + offset);
1332                 }
1333
1334                 ctx->esp = ctx->ebp;
1335                 ctx->eip = *((int *)ctx->ebp + 1);
1336                 ctx->ebp = *((int *)ctx->ebp);
1337
1338                 if (ctx->ebp < (unsigned)mono_end_of_stack)
1339                         arch_handle_exception (ctx, obj);
1340                 else
1341                         mono_jit_abort (obj);
1342         } else {
1343                 gpointer *lmf_addr = TlsGetValue (lmf_thread_id);
1344                 MonoLMF *lmf;
1345                 MonoMethod *m;
1346
1347                 g_assert (lmf_addr);
1348                 lmf = *((MonoLMF **)lmf_addr);
1349
1350                 if (!lmf)
1351                         mono_jit_abort (obj);
1352
1353                 m = lmf->method;
1354
1355                 *lmf_addr = lmf->previous_lmf;
1356
1357                 ctx->esi = lmf->esi;
1358                 ctx->edi = lmf->edi;
1359                 ctx->ebx = lmf->ebx;
1360                 ctx->ebp = lmf->ebp;
1361                 ctx->eip = lmf->eip;
1362                 ctx->esp = (unsigned long)lmf;
1363
1364                 if (mono_object_isinst (obj, mono_defaults.exception_class)) {
1365                         char  *strace = mono_string_to_utf8 (((MonoException*)obj)->stack_trace);
1366                         char  *tmp;
1367
1368                         if (!strcmp (strace, "TODO: implement stack traces"))
1369                                 strace = g_strdup ("");
1370
1371                         tmp = g_strdup_printf ("%sin (unmanaged) %s.%s:%s ()\n", strace, m->klass->name_space,
1372                                                m->klass->name, m->name);
1373
1374                         g_free (strace);
1375
1376                         ((MonoException*)obj)->stack_trace = mono_string_new (domain, tmp);
1377                         g_free (tmp);
1378                 }
1379
1380                 if (ctx->eip < (unsigned)mono_end_of_stack)
1381                         arch_handle_exception (ctx, obj);
1382                 else
1383                         mono_jit_abort (obj);
1384         }
1385
1386         g_assert_not_reached ();
1387 }
1388
1389 static void
1390 throw_exception (unsigned long eax, unsigned long ecx, unsigned long edx, unsigned long ebx,
1391                  unsigned long esi, unsigned long edi, unsigned long ebp, MonoObject *exc,
1392                  unsigned long eip,  unsigned long esp)
1393 {
1394         struct sigcontext ctx;
1395
1396         ctx.esp = esp;
1397         ctx.eip = eip;
1398         ctx.ebp = ebp;
1399         ctx.edi = edi;
1400         ctx.esi = esi;
1401         ctx.ebx = ebx;
1402         ctx.edx = edx;
1403         ctx.ecx = ecx;
1404         ctx.eax = eax;
1405
1406         arch_handle_exception (&ctx, exc);
1407
1408         g_assert_not_reached ();
1409 }
1410
1411 /**
1412  * arch_get_throw_exception:
1413  *
1414  * Returns a function pointer which can be used to raise
1415  * exceptions. The returned function has the following
1416  * signature: void (*func) (MonoException *exc);
1417  * For example to raise an arithmetic exception you can use:
1418  *
1419  * x86_push_imm (code, mono_get_exception_arithmetic ());
1420  * x86_call_code (code, arch_get_throw_exception ());
1421  *
1422  */
1423 gpointer
1424 arch_get_throw_exception (void)
1425 {
1426         static guint8 start [24];
1427         static int inited = 0;
1428         guint8 *code;
1429
1430         if (inited)
1431                 return start;
1432
1433         inited = 1;
1434         code = start;
1435
1436         x86_push_reg (code, X86_ESP);
1437         x86_push_membase (code, X86_ESP, 4); /* IP */
1438         x86_push_membase (code, X86_ESP, 12); /* exception */
1439         x86_push_reg (code, X86_EBP);
1440         x86_push_reg (code, X86_EDI);
1441         x86_push_reg (code, X86_ESI);
1442         x86_push_reg (code, X86_EBX);
1443         x86_push_reg (code, X86_EDX);
1444         x86_push_reg (code, X86_ECX);
1445         x86_push_reg (code, X86_EAX);
1446         x86_call_code (code, throw_exception);
1447         /* we should never reach this breakpoint */
1448         x86_breakpoint (code);
1449
1450         g_assert ((code - start) < 24);
1451         return start;
1452 }
1453
1454 /**
1455  * arch_get_throw_exception_by_name:
1456  *
1457  * Returns a function pointer which can be used to raise
1458  * corlib exceptions. The returned function has the following
1459  * signature: void (*func) (char *exc_name);
1460  * For example to raise an arithmetic exception you can use:
1461  *
1462  * x86_push_imm (code, "ArithmeticException");
1463  * x86_call_code (code, arch_get_throw_exception ());
1464  *
1465  */
1466 gpointer
1467 arch_get_throw_exception_by_name ()
1468 {
1469         static guint8 start [32];
1470         static int inited = 0;
1471         guint8 *code;
1472
1473         if (inited)
1474                 return start;
1475
1476         inited = 1;
1477         code = start;
1478
1479         /* fixme: we do not save EAX, EDX, ECD - unsure if we need that */
1480
1481         x86_push_membase (code, X86_ESP, 4); /* exception name */
1482         x86_push_imm (code, "System");
1483         x86_push_imm (code, mono_defaults.exception_class->image);
1484         x86_call_code (code, mono_exception_from_name);
1485         x86_alu_reg_imm (code, X86_ADD, X86_ESP, 12);
1486         /* save the newly create object (overwrite exception name)*/
1487         x86_mov_membase_reg (code, X86_ESP, 4, X86_EAX, 4);
1488         x86_jump_code (code, arch_get_throw_exception ());
1489
1490         g_assert ((code - start) < 32);
1491
1492         return start;
1493 }
1494
1495 /*
1496  * this returns a helper method to invoke a method with a user supplied
1497  * stack frame. The returned method has the following signature:
1498  * invoke_method_with_frame ((gpointer code, gpointer frame, int frame_size);
1499  */
1500 static gpointer
1501 get_invoke_method_with_frame ()
1502 {
1503         static guint8 *start;
1504         guint8 *code;
1505
1506         if (start)
1507                 return start;
1508
1509         start = code = malloc (64);
1510
1511         /* Prolog */
1512         x86_push_reg (code, X86_EBP);
1513         x86_mov_reg_reg (code, X86_EBP, X86_ESP, 4);
1514         x86_push_reg (code, X86_EBX);
1515         x86_push_reg (code, X86_EDI);
1516         x86_push_reg (code, X86_ESI);
1517
1518         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 16, 4);
1519         x86_alu_reg_reg (code, X86_SUB, X86_ESP, X86_EAX);
1520
1521         x86_push_membase (code, X86_EBP, 16);
1522         x86_push_membase (code, X86_EBP, 12);
1523         x86_lea_membase (code, X86_EAX, X86_ESP, 2*4);
1524         x86_push_reg (code, X86_EAX);
1525         x86_call_code (code, memcpy);
1526         x86_alu_reg_imm (code, X86_ADD, X86_ESP, 12);
1527
1528         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 8, 4);
1529         x86_call_reg (code, X86_EAX);
1530
1531         x86_mov_reg_membase (code, X86_ECX, X86_EBP, 16, 4);
1532         x86_alu_reg_reg (code, X86_ADD, X86_ESP, X86_ECX);
1533
1534         /* Epilog */
1535         x86_pop_reg (code, X86_ESI);
1536         x86_pop_reg (code, X86_EDI);
1537         x86_pop_reg (code, X86_EBX);
1538         x86_leave (code);
1539         x86_ret (code);
1540
1541         g_assert ((code - start) < 64);
1542
1543         return start;
1544 }
1545
1546 /**
1547  * arch_runtime_invoke:
1548  * @method: the method to invoke
1549  * @obj: this pointer
1550  * @params: array of parameter values.
1551  *
1552  * TODO: very ugly piece of code. we should replace that with a method-specific
1553  * trampoline (as suggested by Paolo).
1554  */
1555 MonoObject*
1556 arch_runtime_invoke (MonoMethod *method, void *obj, void **params)
1557 {
1558         static guint64 (*invoke_int64) (gpointer code, gpointer frame, int frame_size) = NULL;
1559         static double (*invoke_double) (gpointer code, gpointer frame, int frame_size) = NULL;
1560         MonoObject *retval;
1561         MonoMethodSignature *sig = method->signature;
1562         int i, tmp, type, sp = 0;
1563         void *ret;
1564         int frame_size = 0;
1565         gpointer *frame;
1566         gpointer code;
1567
1568         /* allocate ret object. */
1569         if (sig->ret->type == MONO_TYPE_VOID) {
1570                 retval = NULL;
1571                 ret = NULL;
1572         } else {
1573                 MonoClass *klass = mono_class_from_mono_type (sig->ret);
1574                 if (klass->valuetype) {
1575                         retval = mono_object_new (mono_domain_get (), klass);
1576                         ret = ((char*)retval) + sizeof (MonoObject);
1577                 } else {
1578                         ret = &retval;
1579                 }
1580         }
1581
1582         if (ISSTRUCT (sig->ret))
1583                 frame_size += sizeof (gpointer);
1584
1585         if (sig->hasthis)
1586                 frame_size += sizeof (gpointer);
1587
1588         for (i = 0; i < sig->param_count; ++i) {
1589                 int align;
1590                 frame_size += mono_type_stack_size (sig->params [i], &align);
1591         }
1592
1593         frame = alloca (frame_size);
1594
1595         if (ISSTRUCT (sig->ret))
1596                 frame [sp++] = ret;
1597
1598         if (sig->hasthis)
1599                 frame [sp++] = obj;
1600
1601
1602         for (i = 0; i < sig->param_count; ++i) {
1603                 if (sig->params [i]->byref) {
1604                         frame [sp++] = params [i];
1605                         continue;
1606                 }
1607                 type = sig->params [i]->type;
1608 handle_enum:
1609                 switch (type) {
1610                 case MONO_TYPE_U1:
1611                 case MONO_TYPE_I1:
1612                 case MONO_TYPE_BOOLEAN:
1613                         tmp = *(MonoBoolean*)params [i];
1614                         frame [sp++] = (gpointer)tmp;
1615                         break;
1616                 case MONO_TYPE_U2:
1617                 case MONO_TYPE_I2:
1618                 case MONO_TYPE_CHAR:
1619                         tmp = *(gint16*)params [i];
1620                         frame [sp++] = (gpointer)tmp;
1621                         break;
1622 #if SIZEOF_VOID_P == 4
1623                 case MONO_TYPE_U:
1624                 case MONO_TYPE_I:
1625 #endif
1626                 case MONO_TYPE_U4:
1627                 case MONO_TYPE_I4:
1628                         frame [sp++] = (gpointer)*(gint32*)params [i];
1629                         break;
1630 #if SIZEOF_VOID_P == 8
1631                 case MONO_TYPE_U:
1632                 case MONO_TYPE_I:
1633 #endif
1634                 case MONO_TYPE_U8:
1635                 case MONO_TYPE_I8:
1636                         frame [sp++] = (gpointer)*(gint32*)params [i];
1637                         frame [sp++] = (gpointer)*(((gint32*)params [i]) + 1);
1638                         break;
1639                 case MONO_TYPE_VALUETYPE:
1640                         if (sig->params [i]->data.klass->enumtype) {
1641                                 type = sig->params [i]->data.klass->enum_basetype->type;
1642                                 goto handle_enum;
1643                         } else {
1644                                 g_warning ("generic valutype %s not handled in runtime invoke", sig->params [i]->data.klass->name);
1645                         }
1646                         break;
1647                 case MONO_TYPE_STRING:
1648                         frame [sp++] = params [i];
1649                         break;
1650                 default:
1651                         g_error ("type 0x%x not handled in invoke", sig->params [i]->type);
1652                 }
1653         }
1654
1655         if (method->addr)
1656                 code = method->addr;
1657         else
1658                 code = arch_compile_method (method);
1659
1660         if (!invoke_int64)
1661                 invoke_int64 = (gpointer)invoke_double = get_invoke_method_with_frame ();
1662
1663         type = sig->ret->type;
1664 handle_enum_2:
1665         switch (type) {
1666         case MONO_TYPE_VOID:
1667                 invoke_int64 (code, frame, frame_size);
1668                 break;
1669         case MONO_TYPE_U1:
1670         case MONO_TYPE_I1:
1671         case MONO_TYPE_BOOLEAN:
1672         case MONO_TYPE_U2:
1673         case MONO_TYPE_I2:
1674         case MONO_TYPE_CHAR:
1675 #if SIZEOF_VOID_P == 4
1676         case MONO_TYPE_U:
1677         case MONO_TYPE_I:
1678 #endif
1679         case MONO_TYPE_U4:
1680         case MONO_TYPE_I4:
1681         case MONO_TYPE_STRING:
1682                 *((guint32 *)ret) = invoke_int64 (code, frame, frame_size);
1683                 break;
1684 #if SIZEOF_VOID_P == 8
1685         case MONO_TYPE_U:
1686         case MONO_TYPE_I:
1687 #endif
1688         case MONO_TYPE_U8:
1689         case MONO_TYPE_I8:
1690                 *((guint64 *)ret) = invoke_int64 (code, frame, frame_size);
1691                 break;
1692         case MONO_TYPE_R4:
1693                 *((float *)ret) = invoke_double (code, frame, frame_size);
1694                 break;
1695         case MONO_TYPE_R8:
1696                 *((double *)ret) = invoke_double (code, frame, frame_size);
1697                 break;
1698         case MONO_TYPE_VALUETYPE:
1699                 if (sig->params [i]->data.klass->enumtype) {
1700                         type = sig->params [i]->data.klass->enum_basetype->type;
1701                         goto handle_enum_2;
1702                 } else
1703                         invoke_int64 (code, frame, frame_size);
1704                 break;
1705         default:
1706                 g_error ("type 0x%x not handled in invoke", sig->params [i]->type);
1707         }
1708
1709         return retval;
1710 }
1711
1712
1713