mono/jit/emit-x86.c

   1 /*
   2  * emit-x86.c: Support functions for emitting x86 code
   3  *
   4  * Authors:
   5  *   Dietmar Maurer (dietmar@ximian.com)
   6  *   Miguel de Icaza (miguel@ximian.com)
   7  *
   8  * (C) 2001 Ximian, Inc.
   9  */
  10
  11 #include <config.h>
  12 #include <glib.h>
  13
  14 #include <mono/metadata/assembly.h>
  15 #include <mono/metadata/loader.h>
  16 #include <mono/metadata/cil-coff.h>
  17 #include <mono/metadata/tabledefs.h>
  18 #include <mono/metadata/class.h>
  19 #include <mono/metadata/debug-helpers.h>
  20 #include <mono/metadata/mono-endian.h>
  21 #include <mono/arch/x86/x86-codegen.h>
  22
  23 #include "jit.h"
  24 #include "codegen.h"
  25 #include "debug.h"
  26
  27 static void
  28 enter_method (MonoMethod *method, gpointer ebp)
  29 {
  30         int i, j;
  31         MonoClass *class;
  32         MonoObject *o;
  33
  34         printf ("ENTER: %s.%s::%s\n(", method->klass->name_space,
  35                 method->klass->name, method->name);
  36
  37
  38         if (((int)ebp & 3) != 0) {
  39                 g_error ("unaligned stack detected (%p)", ebp);
  40         }
  41
  42         ebp += 8;
  43
  44         if (ISSTRUCT (method->signature->ret)) {
  45                 int size, align;
  46
  47                 g_assert (!method->signature->ret->byref);
  48
  49                 size = mono_type_stack_size (method->signature->ret, &align);
  50
  51                 printf ("VALUERET:%p, ", *((gpointer *)ebp));
  52                 ebp += sizeof (gpointer);
  53         }
  54
  55         if (method->signature->hasthis) {
  56                 if (method->klass->valuetype) {
  57                         printf ("value:%p, ", *((gpointer *)ebp));
  58                 } else {
  59                         o = *((MonoObject **)ebp);
  60
  61                         g_assert (o);
  62
  63                         class = o->vtable->klass;
  64
  65                         if (class == mono_defaults.string_class) {
  66                                 printf ("this:[STRING:%p:%s], ", o, mono_string_to_utf8 ((MonoString *)o));
  67                         } else {
  68                                 printf ("this:%p[%s.%s], ", o, class->name_space, class->name);
  69                         }
  70                 }
  71                 ebp += sizeof (gpointer);
  72         }
  73
  74         for (i = 0; i < method->signature->param_count; ++i) {
  75                 MonoType *type = method->signature->params [i];
  76                 int size, align;
  77                 size = mono_type_stack_size (type, &align);
  78
  79                 if (type->byref) {
  80                         printf ("[BYREF:%p], ", *((gpointer *)ebp));
  81                 } else switch (type->type) {
  82
  83                 case MONO_TYPE_BOOLEAN:
  84                 case MONO_TYPE_CHAR:
  85                 case MONO_TYPE_I1:
  86                 case MONO_TYPE_U1:
  87                 case MONO_TYPE_I2:
  88                 case MONO_TYPE_U2:
  89                 case MONO_TYPE_I4:
  90                 case MONO_TYPE_U4:
  91                 case MONO_TYPE_I:
  92                 case MONO_TYPE_U:
  93                         printf ("%d, ", *((int *)(ebp)));
  94                         break;
  95                 case MONO_TYPE_STRING: {
  96                         MonoString *s = *((MonoString **)ebp);
  97                         if (s) {
  98                                 g_assert (((MonoObject *)s)->vtable->klass == mono_defaults.string_class);
  99                                 printf ("[STRING:%p:%s], ", s, mono_string_to_utf8 (s));
 100                         } else
 101                                 printf ("[STRING:null], ");
 102                         break;
 103                 }
 104                 case MONO_TYPE_CLASS:
 105                 case MONO_TYPE_OBJECT: {
 106                         o = *((MonoObject **)ebp);
 107                         if (o) {
 108                                 class = o->vtable->klass;
 109
 110                                 if (class == mono_defaults.string_class) {
 111                                         printf ("[STRING:%p:%s], ", o, mono_string_to_utf8 ((MonoString *)o));
 112                                 } else if (class == mono_defaults.int32_class) {
 113                                         printf ("[INT32:%p:%d], ", o, *(gint32 *)((gpointer)o + sizeof (MonoObject)));
 114                                 } else
 115                                         printf ("[%s.%s:%p], ", class->name_space, class->name, o);
 116                         } else {
 117                                 printf ("%p, ", *((gpointer *)(ebp)));
 118                         }
 119                         break;
 120                 }
 121                 case MONO_TYPE_PTR:
 122                 case MONO_TYPE_FNPTR:
 123                 case MONO_TYPE_ARRAY:
 124                 case MONO_TYPE_SZARRAY:
 125                         printf ("%p, ", *((gpointer *)(ebp)));
 126                         break;
 127                 case MONO_TYPE_I8:
 128                         printf ("%lld, ", *((gint64 *)(ebp)));
 129                         break;
 130                 case MONO_TYPE_R4:
 131                         printf ("%f, ", *((float *)(ebp)));
 132                         break;
 133                 case MONO_TYPE_R8:
 134                         printf ("%f, ", *((double *)(ebp)));
 135                         break;
 136                 case MONO_TYPE_VALUETYPE:
 137                         printf ("[");
 138                         for (j = 0; j < size; j++)
 139                                 printf ("%02x,", *((guint8*)ebp +j));
 140                         printf ("], ");
 141                         break;
 142                 default:
 143                         printf ("XX, ");
 144                 }
 145
 146                 g_assert (align == 4);
 147                 ebp += size + 3;
 148                 ebp = (gpointer)((unsigned)ebp & ~(3));
 149         }
 150
 151         printf (")\n");
 152 }
 153
 154 static void
 155 leave_method (MonoMethod *method, int edx, int eax, double test)
 156 {
 157         gint64 l;
 158
 159         printf ("LEAVE: %s.%s::%s ", method->klass->name_space,
 160                 method->klass->name, method->name);
 161
 162         switch (method->signature->ret->type) {
 163         case MONO_TYPE_VOID:
 164                 break;
 165         case MONO_TYPE_BOOLEAN:
 166                 if (eax)
 167                         printf ("TRUE:%d", eax);
 168                 else
 169                         printf ("FALSE");
 170
 171                 break;
 172         case MONO_TYPE_CHAR:
 173         case MONO_TYPE_I1:
 174         case MONO_TYPE_U1:
 175         case MONO_TYPE_I2:
 176         case MONO_TYPE_U2:
 177         case MONO_TYPE_I4:
 178         case MONO_TYPE_U4:
 179         case MONO_TYPE_I:
 180         case MONO_TYPE_U:
 181                 printf ("EAX=%d", eax);
 182                 break;
 183         case MONO_TYPE_STRING: {
 184                 MonoString *s = (MonoString *)eax;
 185
 186                 if (s) {
 187                         g_assert (((MonoObject *)s)->vtable->klass == mono_defaults.string_class);
 188                         printf ("[STRING:%p:%s]", s, mono_string_to_utf8 (s));
 189                 } else
 190                         printf ("[STRING:null], ");
 191                 break;
 192         }
 193         case MONO_TYPE_OBJECT: {
 194                 MonoObject *o = (MonoObject *)eax;
 195
 196                 if (o) {
 197                         if (o->vtable->klass == mono_defaults.boolean_class) {
 198                                 printf ("[BOOLEAN:%p:%d]", o, *((guint8 *)o + sizeof (MonoObject)));
 199                         } else if  (o->vtable->klass == mono_defaults.int32_class) {
 200                                 printf ("[INT32:%p:%d]", o, *((gint32 *)((gpointer)o + sizeof (MonoObject))));
 201                         } else
 202                                 printf ("[%s.%s:%p]", o->vtable->klass->name_space, o->vtable->klass->name, o);
 203                 } else
 204                         printf ("[OBJECT:%p]", o);
 205
 206                 break;
 207         }
 208         case MONO_TYPE_CLASS:
 209         case MONO_TYPE_PTR:
 210         case MONO_TYPE_FNPTR:
 211         case MONO_TYPE_ARRAY:
 212         case MONO_TYPE_SZARRAY:
 213                 printf ("EAX=%p", (gpointer)eax);
 214                 break;
 215         case MONO_TYPE_I8:
 216                 *((gint32 *)&l) = eax;
 217                 *((gint32 *)&l + 1) = edx;
 218                 printf ("EAX/EDX=%lld", l);
 219                 break;
 220         case MONO_TYPE_R8:
 221                 printf ("FP=%f\n", test);
 222                 break;
 223         default:
 224                 printf ("(unknown return type)");
 225         }
 226
 227         printf ("\n");
 228 }
 229
 230 /**
 231  * arch_emit_prologue:
 232  * @cfg: pointer to status information
 233  *
 234  * Emits the function prolog.
 235  */
 236 static void
 237 arch_emit_prologue (MonoFlowGraph *cfg)
 238 {
 239         x86_push_reg (cfg->code, X86_EBP);
 240         x86_mov_reg_reg (cfg->code, X86_EBP, X86_ESP, 4);
 241
 242         if (cfg->locals_size)
 243                 x86_alu_reg_imm (cfg->code, X86_SUB, X86_ESP, cfg->locals_size);
 244
 245         if (mono_regset_reg_used (cfg->rs, X86_EBX))
 246                 x86_push_reg (cfg->code, X86_EBX);
 247
 248         if (mono_regset_reg_used (cfg->rs, X86_EDI))
 249                 x86_push_reg (cfg->code, X86_EDI);
 250
 251         if (mono_regset_reg_used (cfg->rs, X86_ESI))
 252                 x86_push_reg (cfg->code, X86_ESI);
 253
 254         if (mono_jit_trace_calls) {
 255                 x86_push_reg (cfg->code, X86_EBP);
 256                 x86_push_imm (cfg->code, cfg->method);
 257                 x86_mov_reg_imm (cfg->code, X86_EAX, enter_method);
 258                 x86_call_reg (cfg->code, X86_EAX);
 259                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 8);
 260         }
 261 }
 262
 263 /**
 264  * arch_emit_epilogue:
 265  * @cfg: pointer to status information
 266  *
 267  * Emits the function epilog.
 268  */
 269 static void
 270 arch_emit_epilogue (MonoFlowGraph *cfg)
 271 {
 272         if (mono_jit_trace_calls) {
 273                 x86_fld_reg (cfg->code, 0);
 274                 x86_alu_reg_imm (cfg->code, X86_SUB, X86_ESP, 8);
 275                 x86_fst_membase (cfg->code, X86_ESP, 0, TRUE, TRUE);
 276                 x86_push_reg (cfg->code, X86_EAX);
 277                 x86_push_reg (cfg->code, X86_EDX);
 278                 x86_push_imm (cfg->code, cfg->method);
 279                 x86_mov_reg_imm (cfg->code, X86_EAX, leave_method);
 280                 x86_call_reg (cfg->code, X86_EAX);
 281                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 4);
 282                 x86_pop_reg (cfg->code, X86_EDX);
 283                 x86_pop_reg (cfg->code, X86_EAX);
 284                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 8);
 285         }
 286
 287         if (mono_regset_reg_used (cfg->rs, X86_ESI))
 288                 x86_pop_reg (cfg->code, X86_ESI);
 289
 290         if (mono_regset_reg_used (cfg->rs, X86_EDI))
 291                 x86_pop_reg (cfg->code, X86_EDI);
 292
 293         if (mono_regset_reg_used (cfg->rs, X86_EBX))
 294                 x86_pop_reg (cfg->code, X86_EBX);
 295
 296         x86_leave (cfg->code);
 297         x86_ret (cfg->code);
 298 }
 299
 300 /*
 301  * get_unbox_trampoline:
 302  * @m: method pointer
 303  * @addr: pointer to native code for @m
 304  *
 305  * when value type methods are called through the vtable we need to unbox the
 306  * this argument. This method returns a pointer to a trampoline which does
 307  * unboxing before calling the method
 308  */
 309 static gpointer
 310 get_unbox_trampoline (MonoMethod *m, gpointer addr)
 311 {
 312         guint8 *code, *start;
 313         int this_pos = 4;
 314
 315         if (!m->signature->ret->byref && m->signature->ret->type == MONO_TYPE_VALUETYPE)
 316                 this_pos = 8;
 317
 318         start = code = g_malloc (16);
 319
 320         x86_alu_membase_imm (code, X86_ADD, X86_ESP, this_pos, sizeof (MonoObject));
 321         x86_jump_code (code, addr);
 322         g_assert ((code - start) < 16);
 323
 324         return start;
 325 }
 326
 327 /**
 328  * x86_magic_trampoline:
 329  * @eax: saved x86 register
 330  * @ecx: saved x86 register
 331  * @edx: saved x86 register
 332  * @esi: saved x86 register
 333  * @edi: saved x86 register
 334  * @ebx: saved x86 register
 335  * @code: pointer into caller code
 336  * @method: the method to translate
 337  *
 338  * This method is called by the trampoline functions for virtual
 339  * methods. It inspects the caller code to find the address of the
 340  * vtable slot, then calls the JIT compiler and writes the address
 341  * of the compiled method back to the vtable. All virtual methods
 342  * are called with: x86_call_membase (inst, basereg, disp). We always
 343  * use 32 bit displacement to ensure that the length of the call
 344  * instruction is 6 bytes. We need to get the value of the basereg
 345  * and the constant displacement.
 346  */
 347 static gpointer
 348 x86_magic_trampoline (int eax, int ecx, int edx, int esi, int edi,
 349                       int ebx, const guint8 *code, MonoMethod *m)
 350 {
 351         guint8 reg;
 352         gint32 disp;
 353         gpointer o;
 354         gpointer addr;
 355
 356         EnterCriticalSection (metadata_section);
 357         addr = arch_compile_method (m);
 358         LeaveCriticalSection (metadata_section);
 359         g_assert (addr);
 360
 361
 362         /* go to the start of the call instruction
 363          *
 364          * address_byte = (m << 6) | (o << 3) | reg
 365          * call opcode: 0xff address_byte displacement
 366          * 0xff m=1,o=2 imm8
 367          * 0xff m=2,o=2 imm32
 368          */
 369         code -= 6;
 370         if ((code [1] != 0xe8) && (code [3] == 0xff) && ((code [4] & 0x18) == 0x10) && ((code [4] >> 6) == 1)) {
 371                 reg = code [4] & 0x07;
 372                 disp = (signed char)code [5];
 373         } else {
 374                 if ((code [0] == 0xff) && ((code [1] & 0x18) == 0x10) && ((code [1] >> 6) == 2)) {
 375                         reg = code [1] & 0x07;
 376                         disp = *((gint32*)(code + 2));
 377                 } else if ((code [1] == 0xe8)) {
 378                         *((guint32*)(code + 2)) = (guint)addr - ((guint)code + 1) - 5;
 379                         return addr;
 380                 } else {
 381                         printf ("%x %x %x %x %x %x \n", code [0], code [1], code [2], code [3],
 382                                 code [4], code [5]);
 383                         g_assert_not_reached ();
 384                 }
 385         }
 386
 387         switch (reg) {
 388         case X86_EAX:
 389                 o = (gpointer)eax;
 390                 break;
 391         case X86_EDX:
 392                 o = (gpointer)edx;
 393                 break;
 394         case X86_ECX:
 395                 o = (gpointer)ecx;
 396                 break;
 397         case X86_ESI:
 398                 o = (gpointer)esi;
 399                 break;
 400         case X86_EDI:
 401                 o = (gpointer)edi;
 402                 break;
 403         case X86_EBX:
 404                 o = (gpointer)ebx;
 405                 break;
 406         default:
 407                 g_assert_not_reached ();
 408         }
 409
 410         o += disp;
 411
 412         if (m->klass->valuetype) {
 413                 return *((gpointer *)o) = get_unbox_trampoline (m, addr);
 414         } else {
 415                 return *((gpointer *)o) = addr;
 416         }
 417 }
 418
 419 /**
 420  * arch_create_jit_trampoline:
 421  * @method: pointer to the method info
 422  *
 423  * Creates a trampoline function for virtual methods. If the created
 424  * code is called it first starts JIT compilation of method,
 425  * and then calls the newly created method. I also replaces the
 426  * corresponding vtable entry (see x86_magic_trampoline).
 427  *
 428  * Returns: a pointer to the newly created code
 429  */
 430 gpointer
 431 arch_create_jit_trampoline (MonoMethod *method)
 432 {
 433         MonoDomain *domain = mono_domain_get ();
 434         guint8 *code, *buf;
 435         static guint8 *vc = NULL;
 436         GHashTable *jit_code_hash;
 437
 438         /* icalls use method->addr */
 439         if (method->addr)
 440                 return method->addr;
 441
 442         /* previously created trampoline code */
 443         if (method->info)
 444                 return method->info;
 445
 446         /* check if we already have JITed code */
 447         if (mono_jit_share_code)
 448                 jit_code_hash = mono_root_domain->jit_code_hash;
 449         else
 450                 jit_code_hash = domain->jit_code_hash;
 451
 452         if ((code = g_hash_table_lookup (jit_code_hash, method))) {
 453                 mono_jit_stats.methods_lookups++;
 454                 return code;
 455         }
 456
 457         if (!vc) {
 458                 vc = buf = g_malloc (256);
 459
 460                 /* save caller save regs because we need to do a call */
 461                 x86_push_reg (buf, X86_EDX);
 462                 x86_push_reg (buf, X86_EAX);
 463                 x86_push_reg (buf, X86_ECX);
 464
 465                 /* save LMF begin */
 466                 x86_push_reg (buf, X86_EBX);
 467                 x86_push_reg (buf, X86_EDI);
 468                 x86_push_reg (buf, X86_ESI);
 469                 x86_push_reg (buf, X86_EBP);
 470
 471                 /* save the IP (caller ip) */
 472                 x86_push_membase (buf, X86_ESP, 32);
 473
 474                 /* save method info */
 475                 x86_push_membase (buf, X86_ESP, 32);
 476                 /* get the address of lmf for the current thread */
 477                 x86_call_code (buf, arch_get_lmf_addr);
 478                 /* push lmf */
 479                 x86_push_reg (buf, X86_EAX);
 480                 /* push *lfm (previous_lmf) */
 481                 x86_push_membase (buf, X86_EAX, 0);
 482                 /* *(lmf) = ESP */
 483                 x86_mov_membase_reg (buf, X86_EAX, 0, X86_ESP, 4);
 484                 /* save LFM end */
 485
 486                 /* push the method info */
 487                 x86_push_membase (buf, X86_ESP, 44);
 488                 /* push the return address onto the stack */
 489                 x86_push_membase (buf, X86_ESP, 52);
 490
 491                 /* save all register values */
 492                 x86_push_reg (buf, X86_EBX);
 493                 x86_push_reg (buf, X86_EDI);
 494                 x86_push_reg (buf, X86_ESI);
 495                 x86_push_membase (buf, X86_ESP, 64); /* EDX */
 496                 x86_push_membase (buf, X86_ESP, 64); /* ECX */
 497                 x86_push_membase (buf, X86_ESP, 64); /* EAX */
 498
 499                 x86_call_code (buf, x86_magic_trampoline);
 500                 x86_alu_reg_imm (buf, X86_ADD, X86_ESP, 8*4);
 501
 502                 /* restore LMF start */
 503                 /* ebx = previous_lmf */
 504                 x86_pop_reg (buf, X86_EBX);
 505                 /* edi = lmf */
 506                 x86_pop_reg (buf, X86_EDI);
 507                 /* *(lmf) = previous_lmf */
 508                 x86_mov_membase_reg (buf, X86_EDI, 0, X86_EBX, 4);
 509                 /* discard method info */
 510                 x86_pop_reg (buf, X86_ESI);
 511                 /* discard save IP */
 512                 x86_pop_reg (buf, X86_ESI);
 513                 /* restore caller saved regs */
 514                 x86_pop_reg (buf, X86_EBP);
 515                 x86_pop_reg (buf, X86_ESI);
 516                 x86_pop_reg (buf, X86_EDI);
 517                 x86_pop_reg (buf, X86_EBX);
 518                 /* restore LMF end */
 519
 520                 x86_alu_reg_imm (buf, X86_ADD, X86_ESP, 16);
 521
 522                 /* call the compiled method */
 523                 x86_jump_reg (buf, X86_EAX);
 524
 525                 g_assert ((buf - vc) <= 256);
 526         }
 527
 528         code = buf = g_malloc (16);
 529         x86_push_imm (buf, method);
 530         x86_jump_code (buf, vc);
 531         g_assert ((buf - code) <= 16);
 532
 533         /* store trampoline address */
 534         method->info = code;
 535
 536         mono_jit_stats.method_trampolines++;
 537
 538         return code;
 539 }
 540
 541 static void
 542 mono_label_cfg (MonoFlowGraph *cfg)
 543 {
 544         int i, j;
 545
 546         for (i = 0; i < cfg->block_count; i++) {
 547                 GPtrArray *forest = cfg->bblocks [i].forest;
 548                 int top;
 549
 550                 if (!cfg->bblocks [i].reached) /* unreachable code */
 551                         continue;
 552
 553                 top = forest->len;
 554
 555                 for (j = 0; j < top; j++) {
 556                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
 557                         MBState *mbstate;
 558
 559                         mbstate =  mono_burg_label (t1, cfg);
 560                         if (!mbstate) {
 561                                 cfg->invalid = 1;
 562                                 if (mono_debug_handle)
 563                                         return;
 564                                 g_warning ("tree does not match");
 565                                 mono_print_ctree (t1); printf ("\n\n");
 566
 567                                 mono_print_forest (forest);
 568                                 g_assert_not_reached ();
 569                         }
 570                 }
 571         }
 572 }
 573
 574 static void
 575 tree_preallocate_regs (MBTree *tree, int goal, MonoRegSet *rs)
 576 {
 577         switch (tree->op) {
 578         case MB_TERM_CALL_I4:
 579         case MB_TERM_CALL_I8:
 580         case MB_TERM_CALL_R8:
 581 //      case MB_TERM_CALL_VOID :
 582                 tree->reg1 = mono_regset_alloc_reg (rs, X86_EAX, tree->exclude_mask);
 583                 tree->reg2 = mono_regset_alloc_reg (rs, X86_EDX, tree->exclude_mask);
 584                 tree->reg3 = mono_regset_alloc_reg (rs, X86_ECX, tree->exclude_mask);
 585                 return;
 586         default: break;
 587         }
 588
 589         switch (goal) {
 590         case MB_NTERM_reg:
 591         case MB_NTERM_lreg: {
 592                 switch (tree->op) {
 593                 case MB_TERM_SHL:
 594                 case MB_TERM_SHR:
 595                 case MB_TERM_SHR_UN:
 596                         tree->exclude_mask |= (1 << X86_ECX);
 597                         tree->left->exclude_mask |= (1 << X86_ECX);
 598                         break;
 599                 case MB_TERM_MUL:
 600                 case MB_TERM_MUL_OVF:
 601                 case MB_TERM_MUL_OVF_UN:
 602                 case MB_TERM_DIV:
 603                 case MB_TERM_DIV_UN:
 604                 case MB_TERM_REM:
 605                 case MB_TERM_REM_UN:
 606                         tree->reg1 = mono_regset_alloc_reg (rs, X86_EAX, tree->exclude_mask);
 607                         tree->reg2 = mono_regset_alloc_reg (rs, X86_EDX, tree->exclude_mask);
 608                         if (goal == MB_NTERM_reg) {
 609                                 tree->left->exclude_mask |= (1 << X86_EDX);
 610                                 tree->right->exclude_mask |= (1 << X86_EDX) | (1 << X86_EAX);
 611                         }
 612                         break;
 613                 default:
 614                         break;
 615                 }
 616                 break;
 617         }
 618         default:
 619                 break;
 620         }
 621 }
 622
 623 static void
 624 tree_allocate_regs (MBTree *tree, int goal, MonoRegSet *rs)
 625 {
 626         MBTree *kids[10];
 627         int ern = mono_burg_rule (tree->state, goal);
 628         const guint16 *nts = mono_burg_nts [ern];
 629         int i;
 630
 631         mono_burg_kids (tree, ern, kids);
 632
 633         //printf ("RALLOC START %d %p %d\n",  tree->op, rs->free_mask, goal);
 634
 635         if (nts [0] && kids [0] == tree) {
 636                 /* chain rule */
 637                 tree_allocate_regs (kids [0], nts [0], rs);
 638                 return;
 639         }
 640
 641         for (i = 0; nts [i]; i++)
 642                 tree_preallocate_regs (kids [i], nts [i], rs);
 643
 644         for (i = 0; nts [i]; i++)
 645                 tree_allocate_regs (kids [i], nts [i], rs);
 646
 647         for (i = 0; nts [i]; i++) {
 648                 mono_regset_free_reg (rs, kids [i]->reg1);
 649                 mono_regset_free_reg (rs, kids [i]->reg2);
 650                 mono_regset_free_reg (rs, kids [i]->reg3);
 651         }
 652
 653         switch (goal) {
 654         case MB_NTERM_reg:
 655                 if (tree->reg1 < 0) {
 656                         tree->reg1 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
 657                         g_assert (tree->reg1 != -1);
 658                 }
 659                 break;
 660
 661         case MB_NTERM_lreg:
 662                 if (tree->reg1 < 0) {
 663                         tree->reg1 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
 664                         g_assert (tree->reg1 != -1);
 665                 }
 666                 if (tree->reg2 < 0) {
 667                         tree->reg2 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
 668                         g_assert (tree->reg2 != -1);
 669                 }
 670                 break;
 671
 672         case MB_NTERM_freg:
 673                 /* fixme: allocate floating point registers */
 674                 break;
 675
 676         case MB_NTERM_addr:
 677                 if (tree->op == MB_TERM_ADD) {
 678                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
 679                         tree->reg2 = mono_regset_alloc_reg (rs, tree->right->reg1, tree->exclude_mask);
 680                 }
 681                 break;
 682
 683         case MB_NTERM_base:
 684                 if (tree->op == MB_TERM_ADD) {
 685                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
 686                 }
 687                 break;
 688
 689         case MB_NTERM_index:
 690                 if (tree->op == MB_TERM_SHL ||
 691                     tree->op == MB_TERM_MUL) {
 692                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
 693                 }
 694                 break;
 695
 696         default:
 697                 /* do nothing */
 698         }
 699
 700         //printf ("RALLOC END %d %p\n",  tree->op, rs->free_mask);
 701         tree->emit = mono_burg_func [ern];
 702 }
 703
 704 static void
 705 arch_allocate_regs (MonoFlowGraph *cfg)
 706 {
 707         int i, j;
 708
 709         for (i = 0; i < cfg->block_count; i++) {
 710                 GPtrArray *forest = cfg->bblocks [i].forest;
 711                 int top;
 712
 713                 if (!cfg->bblocks [i].reached) /* unreachable code */
 714                         continue;
 715
 716                 top = forest->len;
 717
 718                 for (j = 0; j < top; j++) {
 719                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
 720                         //printf ("AREGSTART %d:%d %p\n", i, j, cfg->rs->free_mask);
 721                         tree_allocate_regs (t1, 1, cfg->rs);
 722                         //printf ("AREGENDT %d:%d %p\n", i, j, cfg->rs->free_mask);
 723                         g_assert (cfg->rs->free_mask == 0xffffffff);
 724                 }
 725         }
 726 }
 727
 728 static void
 729 tree_emit (int goal, MonoFlowGraph *cfg, MBTree *tree)
 730 {
 731         MBTree *kids[10];
 732         int i, ern = mono_burg_rule (tree->state, goal);
 733         const guint16 *nts = mono_burg_nts [ern];
 734         MBEmitFunc emit;
 735         int offset;
 736
 737         mono_burg_kids (tree, ern, kids);
 738
 739         for (i = 0; nts [i]; i++)
 740                 tree_emit (nts [i], cfg, kids [i]);
 741
 742         tree->addr = offset = cfg->code - cfg->start;
 743
 744         // we assume an instruction uses a maximum of 128 bytes
 745         if ((cfg->code_size - offset) <= 128) {
 746                 int add = MIN (cfg->code_size, 128);
 747                 cfg->code_size += add;
 748                 mono_jit_stats.code_reallocs++;
 749                 cfg->start = g_realloc (cfg->start, cfg->code_size);
 750                 g_assert (cfg->start);
 751                 cfg->code = cfg->start + offset;
 752         }
 753
 754         if ((emit = mono_burg_func [ern]))
 755                 emit (tree, cfg);
 756
 757         g_assert ((cfg->code - cfg->start) < cfg->code_size);
 758 }
 759
 760 static void
 761 mono_emit_cfg (MonoFlowGraph *cfg)
 762 {
 763         int i, j;
 764
 765         for (i = 0; i < cfg->block_count; i++) {
 766                 MonoBBlock *bb = &cfg->bblocks [i];
 767                 GPtrArray *forest = bb->forest;
 768                 int top;
 769
 770                 if (!bb->reached) /* unreachable code */
 771                         continue;
 772
 773                 top = forest->len;
 774
 775                 bb->addr = cfg->code - cfg->start;
 776
 777                 for (j = 0; j < top; j++) {
 778                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
 779
 780                         tree_emit (1, cfg, t1);
 781                 }
 782         }
 783
 784         cfg->epilog = cfg->code - cfg->start;
 785 }
 786
 787 static void
 788 mono_compute_branches (MonoFlowGraph *cfg)
 789 {
 790         MonoJumpInfo *ji;
 791         guint8 *end;
 792         int i, j;
 793
 794         end = cfg->code;
 795
 796         for (j = 0; j < cfg->block_count; j++) {
 797                 MonoBBlock *bb = &cfg->bblocks [j];
 798                 GPtrArray *forest = bb->forest;
 799                 int top;
 800
 801                 if (!bb->reached) /* unreachable code */
 802                         continue;
 803
 804                 top = forest->len;
 805
 806                 for (i = 0; i < top; i++) {
 807                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, i);
 808
 809                         if (t1->op == MB_TERM_SWITCH) {
 810                                 MonoBBlock **jt = (MonoBBlock **)t1->data.p;
 811                                 guint32 *rt = (guint32 *)t1->data.p;
 812
 813                                 int m = *((guint32 *)t1->data.p) + 1;
 814                                 int j;
 815
 816                                 for (j = 1; j <= m; j++)
 817                                         rt [j] = (int)(jt [j]->addr + cfg->start);
 818
 819                                 /* emit the switch instruction again to update addresses */
 820                                 cfg->code = cfg->start + t1->addr;
 821                                 ((MBEmitFunc)t1->emit) (t1, cfg);
 822                         }
 823                 }
 824         }
 825
 826         cfg->code = end;
 827
 828         for (ji = cfg->jump_info; ji; ji = ji->next) {
 829                 gpointer *ip = GUINT_TO_POINTER (GPOINTER_TO_UINT (ji->ip) + cfg->start);
 830                 gpointer target;
 831
 832                 switch (ji->type) {
 833                 case MONO_JUMP_INFO_BB:
 834                         target = ji->data.bb->addr + cfg->start;
 835                         *ip = target - GPOINTER_TO_UINT(ip) - 4;
 836                         break;
 837                 case MONO_JUMP_INFO_ABS:
 838                         target = ji->data.target;
 839                         *ip = target - GPOINTER_TO_UINT(ip) - 4;
 840                         break;
 841                 case MONO_JUMP_INFO_EPILOG:
 842                         target = cfg->epilog + cfg->start;
 843                         *ip = target - GPOINTER_TO_UINT(ip) - 4;
 844                         break;
 845                 case MONO_JUMP_INFO_IP:
 846                         *ip = ip;
 847                         break;
 848                 default:
 849                         g_assert_not_reached ();
 850                 }
 851         }
 852 }
 853
 854 void
 855 mono_add_jump_info (MonoFlowGraph *cfg, gpointer ip, MonoJumpInfoType type, gpointer target)
 856 {
 857         MonoJumpInfo *ji = mono_mempool_alloc (cfg->mp, sizeof (MonoJumpInfo));
 858
 859         ji->type = type;
 860         ji->ip = GUINT_TO_POINTER (GPOINTER_TO_UINT (ip) - GPOINTER_TO_UINT (cfg->start));
 861         ji->data.target = target;
 862         ji->next = cfg->jump_info;
 863
 864         cfg->jump_info = ji;
 865 }
 866
 867 static int
 868 match_debug_method (MonoMethod* method)
 869 {
 870         GList *tmp = mono_debug_methods;
 871
 872         for (; tmp; tmp = tmp->next) {
 873                 if (mono_method_desc_full_match (tmp->data, method))
 874                         return 1;
 875         }
 876         return 0;
 877 }
 878
 879 static void
 880 mono_delegate_ctor (MonoDelegate *this, MonoObject *target,
 881                     gpointer addr)
 882 {
 883         MonoDomain *domain = mono_domain_get ();
 884         MonoClass *class;
 885         MonoJitInfo *ji;
 886
 887         g_assert (this);
 888         g_assert (addr);
 889
 890         class = this->object.vtable->klass;
 891
 892         if (!target && (ji = mono_jit_info_table_find (mono_jit_info_table, addr)))
 893                 this->method_info = mono_method_get_object (domain, ji->method);
 894
 895         this->target = target;
 896         this->method_ptr = addr;
 897
 898 }
 899
 900 /**
 901  * arch_compile_method:
 902  * @method: pointer to the method info
 903  *
 904  * JIT compilation of a single method.
 905  *
 906  * Returns: a pointer to the newly created code.
 907  */
 908 gpointer
 909 arch_compile_method (MonoMethod *method)
 910 {
 911         MonoDomain *domain = mono_domain_get ();
 912         MonoJitInfo *ji;
 913         MonoMemPool *mp;
 914         guint8 *addr;
 915         GHashTable *jit_code_hash;
 916
 917         g_assert (!(method->iflags & METHOD_IMPL_ATTRIBUTE_INTERNAL_CALL));
 918         g_assert (!(method->flags & METHOD_ATTRIBUTE_PINVOKE_IMPL));
 919
 920         if (mono_jit_share_code)
 921                 jit_code_hash = mono_root_domain->jit_code_hash;
 922         else
 923                 jit_code_hash = domain->jit_code_hash;
 924
 925         if ((addr = g_hash_table_lookup (jit_code_hash, method))) {
 926                 mono_jit_stats.methods_lookups++;
 927                 return addr;
 928         }
 929
 930         mono_jit_stats.methods_compiled++;
 931
 932         mp = mono_mempool_new ();
 933
 934         if (mono_jit_trace_calls || mono_jit_dump_asm || mono_jit_dump_forest) {
 935                 printf ("Start JIT compilation of %s.%s:%s\n", method->klass->name_space,
 936                         method->klass->name, method->name);
 937         }
 938
 939         if (method->iflags & METHOD_IMPL_ATTRIBUTE_RUNTIME) {
 940                 const char *name = method->name;
 941                 guint8 *code;
 942                 gboolean delegate = FALSE;
 943
 944                 if (method->klass->parent == mono_defaults.multicastdelegate_class)
 945                         delegate = TRUE;
 946
 947                 if (delegate && *name == '.' && (strcmp (name, ".ctor") == 0)) {
 948                         addr = (gpointer)mono_delegate_ctor;
 949                 } else if (delegate && *name == 'I' && (strcmp (name, "Invoke") == 0)) {
 950                         /*
 951                          *      Invoke( args .. ) {
 952                          *              if ( prev )
 953                          *                      prev.Invoke();
 954                          *              return this.<m_target>( args );
 955                          *      }
 956                          */
 957                         MonoMethodSignature *csig = method->signature;
 958                         guint8 *br[2], *pos[2];
 959                         int i, arg_size, this_pos = 4;
 960
 961                         if (csig->ret->type == MONO_TYPE_VALUETYPE) {
 962                                 g_assert (!csig->ret->byref);
 963                                 this_pos = 8;
 964                         }
 965
 966                         arg_size = 0;
 967                         if (csig->param_count) {
 968                                 int align;
 969
 970                                 for (i = 0; i < csig->param_count; ++i) {
 971                                         arg_size += mono_type_stack_size (csig->params [i], &align);
 972                                         g_assert (align == 4);
 973                                 }
 974                         }
 975
 976                         addr = g_malloc (64 + arg_size);
 977
 978                         code = addr;
 979                         /* load the this pointer */
 980                         x86_mov_reg_membase (code, X86_EAX, X86_ESP, this_pos, 4);
 981
 982                         /* load prev */
 983                         x86_mov_reg_membase (code, X86_EDX, X86_EAX, G_STRUCT_OFFSET (MonoMulticastDelegate, prev), 4);
 984
 985                         /* prev == 0 ? */
 986                         x86_alu_reg_imm (code, X86_CMP, X86_EDX, 0);
 987                         br[0] = code; x86_branch32 (code, X86_CC_EQ, 0, TRUE );
 988                         pos[0] = code;
 989
 990                         x86_push_reg( code, X86_EAX );
 991                         /* push args */
 992                         for ( i = 0; i < (arg_size>>2); i++ )
 993                                 x86_push_membase( code, X86_ESP, (arg_size + this_pos + 4) );
 994                         /* push next */
 995                         x86_push_reg( code, X86_EDX );
 996                         if (this_pos == 8)
 997                                 x86_push_membase (code, X86_ESP, (arg_size + 8));
 998                         /* recurse */
 999                         br[1] = code; x86_call_imm( code, 0 );
1000                         pos[1] = code; x86_call_imm( br[1], addr - pos[1] );
1001
1002                         if (this_pos == 8)
1003                                 x86_alu_reg_imm (code, X86_ADD, X86_ESP, arg_size + 8);
1004                         else
1005                                 x86_alu_reg_imm (code, X86_ADD, X86_ESP, arg_size + 4);
1006                         x86_pop_reg( code, X86_EAX );
1007
1008                         /* prev == 0 */
1009                         x86_branch32( br[0], X86_CC_EQ, code - pos[0], TRUE );
1010
1011                         /* load mtarget */
1012                         x86_mov_reg_membase (code, X86_EDX, X86_EAX, G_STRUCT_OFFSET (MonoDelegate, target), 4);
1013                         /* mtarget == 0 ? */
1014                         x86_alu_reg_imm (code, X86_CMP, X86_EDX, 0);
1015                         br[0] = code; x86_branch32 (code, X86_CC_EQ, 0, TRUE);
1016                         pos[0] = code;
1017
1018                         /*
1019                          * virtual delegate methods: we have to
1020                          * replace the this pointer with the actual
1021                          * target
1022                          */
1023                         x86_mov_membase_reg (code, X86_ESP, this_pos, X86_EDX, 4);
1024                         /* jump to method_ptr() */
1025                         x86_jump_membase (code, X86_EAX, G_STRUCT_OFFSET (MonoDelegate, method_ptr));
1026
1027                         /* mtarget != 0 */
1028                         x86_branch32( br[0], X86_CC_EQ, code - pos[0], TRUE);
1029                         /*
1030                          * static delegate methods: we have to remove
1031                          * the this pointer from the activation frame
1032                          * - I do this creating a new stack frame anx
1033                          * copy all arguments except the this pointer
1034                          */
1035                         g_assert ((arg_size & 3) == 0);
1036                         for (i = 0; i < (arg_size>>2); i++) {
1037                                 x86_push_membase (code, X86_ESP, (arg_size + this_pos));
1038                         }
1039
1040                         if (this_pos == 8)
1041                                 x86_push_membase (code, X86_ESP, (arg_size + 4));
1042
1043                         x86_call_membase (code, X86_EAX, G_STRUCT_OFFSET (MonoDelegate, method_ptr));
1044                         if (arg_size) {
1045                                 if (this_pos == 8)
1046                                         x86_alu_reg_imm (code, X86_ADD, X86_ESP, arg_size + 4);
1047                                 else
1048                                         x86_alu_reg_imm (code, X86_ADD, X86_ESP, arg_size);
1049                         }
1050
1051                         x86_ret (code);
1052
1053                         g_assert ((code - (guint8*)addr) < (64 + arg_size));
1054
1055                         if (mono_jit_dump_asm) {
1056                                 char *id = g_strdup_printf ("%s.%s_%s", method->klass->name_space,
1057                                                             method->klass->name, method->name);
1058                                 mono_disassemble_code( addr, code - (guint8*)addr, id );
1059                                 g_free (id);
1060                         }
1061                 } else {
1062                         if (mono_debug_handle)
1063                                 return NULL;
1064
1065                         g_error ("Don't know how to exec runtime method %s.%s::%s",
1066                                  method->klass->name_space, method->klass->name, method->name);
1067                 }
1068
1069         } else {
1070                 MonoMethodHeader *header = ((MonoMethodNormal *)method)->header;
1071                 MonoFlowGraph *cfg;
1072
1073                 gulong code_size_ratio;
1074
1075                 ji = g_new0 (MonoJitInfo, 1);
1076
1077                 cfg = mono_cfg_new (method, mp);
1078
1079                 mono_analyze_flow (cfg);
1080                 if (cfg->invalid)
1081                         return NULL;
1082
1083                 mono_analyze_stack (cfg);
1084                 if (cfg->invalid)
1085                         return NULL;
1086
1087                 cfg->rs = mono_regset_new (X86_NREG);
1088                 mono_regset_reserve_reg (cfg->rs, X86_ESP);
1089                 mono_regset_reserve_reg (cfg->rs, X86_EBP);
1090
1091                 cfg->code_size = MAX (header->code_size * 5, 256);
1092                 cfg->start = cfg->code = g_malloc (cfg->code_size);
1093
1094                 if (match_debug_method (method))
1095                         x86_breakpoint (cfg->code);
1096                 else if (mono_debug_handle)
1097                         x86_nop (cfg->code);
1098
1099                 if (mono_jit_dump_forest) {
1100                         int i;
1101                         printf ("FOREST %s.%s:%s\n", method->klass->name_space,
1102                                 method->klass->name, method->name);
1103                         for (i = 0; i < cfg->block_count; i++) {
1104                                 printf ("BLOCK %d:\n", i);
1105                                 mono_print_forest (cfg->bblocks [i].forest);
1106                         }
1107                 }
1108
1109                 mono_label_cfg (cfg);
1110                 if (cfg->invalid)
1111                         return NULL;
1112
1113                 arch_allocate_regs (cfg);
1114
1115                 /* align to 8 byte boundary */
1116                 cfg->locals_size += 7;
1117                 cfg->locals_size &= ~7;
1118
1119                 arch_emit_prologue (cfg);
1120                 mono_emit_cfg (cfg);
1121                 arch_emit_epilogue (cfg);
1122
1123                 addr = cfg->start;
1124
1125                 mono_jit_stats.allocated_code_size += cfg->code_size;
1126
1127                 code_size_ratio = cfg->code - cfg->start;
1128                 if (code_size_ratio > mono_jit_stats.biggest_method_size) {
1129                         mono_jit_stats.biggest_method_size = code_size_ratio;
1130                         mono_jit_stats.biggest_method = method;
1131                 }
1132                 code_size_ratio = (code_size_ratio * 100) / header->code_size;
1133                 if (code_size_ratio > mono_jit_stats.max_code_size_ratio) {
1134                         mono_jit_stats.max_code_size_ratio = code_size_ratio;
1135                         mono_jit_stats.max_ratio_method = method;
1136                 }
1137
1138                 mono_compute_branches (cfg);
1139
1140                 if (mono_jit_dump_asm) {
1141                         char *id = g_strdup_printf ("%s.%s_%s", method->klass->name_space,
1142                                                     method->klass->name, method->name);
1143                         mono_disassemble_code (cfg->start, cfg->code - cfg->start, id);
1144                         g_free (id);
1145                 }
1146                 if (mono_debug_handle)
1147                         mono_debug_add_method (mono_debug_handle, cfg);
1148
1149                 ji->code_size = cfg->code - cfg->start;
1150                 ji->used_regs = cfg->rs->used_mask;
1151                 ji->method = method;
1152                 ji->code_start = addr;
1153                 mono_jit_info_table_add (mono_jit_info_table, ji);
1154
1155                 mono_jit_stats.native_code_size += ji->code_size;
1156
1157                 if (header->num_clauses) {
1158                         int i, start_block, end_block;
1159
1160                         ji->num_clauses = header->num_clauses;
1161                         ji->clauses = g_new0 (MonoJitExceptionInfo, header->num_clauses);
1162
1163                         for (i = 0; i < header->num_clauses; i++) {
1164                                 MonoExceptionClause *ec = &header->clauses [i];
1165                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
1166
1167                                 ei->flags = ec->flags;
1168                                 ei->token_or_filter = ec->token_or_filter;
1169
1170                                 g_assert (cfg->bcinfo [ec->try_offset].is_block_start);
1171                                 start_block = cfg->bcinfo [ec->try_offset].block_id;
1172                                 end_block = cfg->bcinfo [ec->try_offset + ec->try_len].block_id;
1173                                 g_assert (cfg->bcinfo [ec->try_offset + ec->try_len].is_block_start);
1174
1175                                 ei->try_start = cfg->start + cfg->bblocks [start_block].addr;
1176                                 ei->try_end = cfg->start + cfg->bblocks [end_block].addr;
1177
1178                                 g_assert (cfg->bcinfo [ec->handler_offset].is_block_start);
1179                                 start_block = cfg->bcinfo [ec->handler_offset].block_id;
1180                                 ei->handler_start = cfg->start + cfg->bblocks [start_block].addr;
1181
1182                                 //printf ("TEST %x %x %x\n", ei->try_start, ei->try_end, ei->handler_start);
1183                         }
1184                 }
1185
1186                 mono_regset_free (cfg->rs);
1187
1188                 mono_cfg_free (cfg);
1189
1190                 mono_mempool_destroy (mp);
1191
1192         }
1193
1194         if (mono_jit_trace_calls || mono_jit_dump_asm || mono_jit_dump_forest) {
1195                 printf ("END JIT compilation of %s.%s:%s %p %p\n", method->klass->name_space,
1196                         method->klass->name, method->name, method, addr);
1197         }
1198
1199         g_hash_table_insert (jit_code_hash, method, addr);
1200
1201         return addr;
1202 }
1203
1204 /*
1205  * arch_get_restore_context:
1206  *
1207  * Returns a pointer to a method which restores a previously saved sigcontext.
1208  */
1209 static gpointer
1210 arch_get_restore_context ()
1211 {
1212         static guint8 *start = NULL;
1213         guint8 *code;
1214
1215         if (start)
1216                 return start;
1217
1218         /* restore_contect (struct sigcontext *ctx) */
1219         /* we do not restore X86_EAX, X86_EDX */
1220
1221         start = code = g_malloc (1024);
1222
1223         /* load ctx */
1224         x86_mov_reg_membase (code, X86_EAX, X86_ESP, 4, 4);
1225
1226         /* get return address, stored in EDX */
1227         x86_mov_reg_membase (code, X86_EDX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, eip), 4);
1228         /* restore EBX */
1229         x86_mov_reg_membase (code, X86_EBX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebx), 4);
1230         /* restore EDI */
1231         x86_mov_reg_membase (code, X86_EDI, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, edi), 4);
1232         /* restore ESI */
1233         x86_mov_reg_membase (code, X86_ESI, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, esi), 4);
1234         /* restore ESP */
1235         x86_mov_reg_membase (code, X86_ESP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, esp), 4);
1236         /* restore EBP */
1237         x86_mov_reg_membase (code, X86_EBP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebp), 4);
1238         /* restore ECX. the exception object is passed here to the catch handler */
1239         x86_mov_reg_membase (code, X86_ECX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ecx), 4);
1240
1241         /* jump to the saved IP */
1242         x86_jump_reg (code, X86_EDX);
1243
1244         return start;
1245 }
1246
1247 /*
1248  * arch_get_call_finally:
1249  *
1250  * Returns a pointer to a method which calls a finally handler.
1251  */
1252 static gpointer
1253 arch_get_call_finally ()
1254 {
1255         static guint8 start [28];
1256         static int inited = 0;
1257         guint8 *code;
1258
1259         if (inited)
1260                 return start;
1261
1262         inited = 1;
1263         /* call_finally (struct sigcontext *ctx, unsigned long eip) */
1264         code = start;
1265
1266         x86_push_reg (code, X86_EBP);
1267         x86_mov_reg_reg (code, X86_EBP, X86_ESP, 4);
1268         x86_push_reg (code, X86_EBX);
1269         x86_push_reg (code, X86_EDI);
1270         x86_push_reg (code, X86_ESI);
1271
1272         /* load ctx */
1273         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 8, 4);
1274         /* load eip */
1275         x86_mov_reg_membase (code, X86_ECX, X86_EBP, 12, 4);
1276         /* save EBP */
1277         x86_push_reg (code, X86_EBP);
1278         /* set new EBP */
1279         x86_mov_reg_membase (code, X86_EBP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebp), 4);
1280         /* call the handler */
1281         x86_call_reg (code, X86_ECX);
1282         /* restore EBP */
1283         x86_pop_reg (code, X86_EBP);
1284         /* restore saved regs */
1285         x86_pop_reg (code, X86_ESI);
1286         x86_pop_reg (code, X86_EDI);
1287         x86_pop_reg (code, X86_EBX);
1288         x86_leave (code);
1289         x86_ret (code);
1290
1291         g_assert ((code - start) < 28);
1292         return start;
1293 }
1294
1295 /**
1296  * arch_handle_exception:
1297  * @ctx: saved processor state
1298  * @obj:
1299  */
1300 void
1301 arch_handle_exception (struct sigcontext *ctx, gpointer obj)
1302 {
1303         MonoDomain *domain = mono_domain_get ();
1304         MonoJitInfo *ji;
1305         gpointer ip = (gpointer)ctx->eip;
1306         static void (*restore_context) (struct sigcontext *);
1307         static void (*call_finally) (struct sigcontext *, unsigned long);
1308
1309         g_assert (ctx != NULL);
1310         g_assert (obj != NULL);
1311
1312         ji = mono_jit_info_table_find (mono_jit_info_table, ip);
1313
1314         if (!restore_context)
1315                 restore_context = arch_get_restore_context ();
1316
1317         if (!call_finally)
1318                 call_finally = arch_get_call_finally ();
1319
1320         if (ji) { /* we are inside managed code */
1321                 MonoMethod *m = ji->method;
1322                 int offset = 2;
1323
1324                 if (ji->num_clauses) {
1325                         int i;
1326
1327                         g_assert (ji->clauses);
1328
1329                         for (i = 0; i < ji->num_clauses; i++) {
1330                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
1331
1332                                 if (ei->try_start <= ip && ip <= (ei->try_end)) {
1333                                         /* catch block */
1334                                         if (ei->flags == 0 && mono_object_isinst (obj,
1335                                                 mono_class_get (m->klass->image, ei->token_or_filter))) {
1336
1337                                                 ctx->eip = (unsigned long)ei->handler_start;
1338                                                 ctx->ecx = (unsigned long)obj;
1339                                                 restore_context (ctx);
1340                                                 g_assert_not_reached ();
1341                                         }
1342                                 }
1343                         }
1344
1345                         /* no handler found - we need to call all finally handlers */
1346                         for (i = 0; i < ji->num_clauses; i++) {
1347                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
1348
1349                                 if (ei->try_start <= ip && ip < (ei->try_end) &&
1350                                     (ei->flags & MONO_EXCEPTION_CLAUSE_FINALLY)) {
1351                                         call_finally (ctx, (unsigned long)ei->handler_start);
1352                                 }
1353                         }
1354                 }
1355
1356                 if (mono_object_isinst (obj, mono_defaults.exception_class)) {
1357                         char  *strace = mono_string_to_utf8 (((MonoException*)obj)->stack_trace);
1358                         char  *tmp;
1359
1360                         if (!strcmp (strace, "TODO: implement stack traces")){
1361                                 g_free (strace);
1362                                 strace = g_strdup ("");
1363                         }
1364
1365                         tmp = g_strdup_printf ("%sin %s.%s:%s ()\n", strace, m->klass->name_space,
1366                                                m->klass->name, m->name);
1367
1368                         g_free (strace);
1369
1370                         ((MonoException*)obj)->stack_trace = mono_string_new (domain, tmp);
1371                         g_free (tmp);
1372                 }
1373
1374                 /* continue unwinding */
1375
1376                 /* restore caller saved registers */
1377                 if (ji->used_regs & X86_ESI_MASK) {
1378                         ctx->esi = *((int *)ctx->ebp + offset);
1379                         offset++;
1380                 }
1381                 if (ji->used_regs & X86_EDI_MASK) {
1382                         ctx->edi = *((int *)ctx->ebp + offset);
1383                         offset++;
1384                 }
1385                 if (ji->used_regs & X86_EBX_MASK) {
1386                         ctx->ebx = *((int *)ctx->ebp + offset);
1387                 }
1388
1389                 ctx->esp = ctx->ebp;
1390                 ctx->eip = *((int *)ctx->ebp + 1);
1391                 ctx->ebp = *((int *)ctx->ebp);
1392
1393                 if (ctx->ebp < (unsigned)mono_end_of_stack)
1394                         arch_handle_exception (ctx, obj);
1395                 else
1396                         mono_jit_abort (obj);
1397         } else {
1398                 gpointer *lmf_addr = TlsGetValue (lmf_thread_id);
1399                 MonoLMF *lmf;
1400                 MonoMethod *m;
1401
1402                 g_assert (lmf_addr);
1403                 lmf = *((MonoLMF **)lmf_addr);
1404
1405                 if (!lmf)
1406                         mono_jit_abort (obj);
1407
1408                 m = lmf->method;
1409
1410                 *lmf_addr = lmf->previous_lmf;
1411
1412                 ctx->esi = lmf->esi;
1413                 ctx->edi = lmf->edi;
1414                 ctx->ebx = lmf->ebx;
1415                 ctx->ebp = lmf->ebp;
1416                 ctx->eip = lmf->eip;
1417                 ctx->esp = (unsigned long)lmf;
1418
1419                 if (mono_object_isinst (obj, mono_defaults.exception_class)) {
1420                         char  *strace = mono_string_to_utf8 (((MonoException*)obj)->stack_trace);
1421                         char  *tmp;
1422
1423                         if (!strcmp (strace, "TODO: implement stack traces"))
1424                                 strace = g_strdup ("");
1425
1426                         tmp = g_strdup_printf ("%sin (unmanaged) %s.%s:%s ()\n", strace, m->klass->name_space,
1427                                                m->klass->name, m->name);
1428
1429                         g_free (strace);
1430
1431                         ((MonoException*)obj)->stack_trace = mono_string_new (domain, tmp);
1432                         g_free (tmp);
1433                 }
1434
1435                 if (ctx->eip < (unsigned)mono_end_of_stack)
1436                         arch_handle_exception (ctx, obj);
1437                 else
1438                         mono_jit_abort (obj);
1439         }
1440
1441         g_assert_not_reached ();
1442 }
1443
1444 static void
1445 throw_exception (unsigned long eax, unsigned long ecx, unsigned long edx, unsigned long ebx,
1446                  unsigned long esi, unsigned long edi, unsigned long ebp, MonoObject *exc,
1447                  unsigned long eip,  unsigned long esp)
1448 {
1449         struct sigcontext ctx;
1450
1451         ctx.esp = esp;
1452         ctx.eip = eip;
1453         ctx.ebp = ebp;
1454         ctx.edi = edi;
1455         ctx.esi = esi;
1456         ctx.ebx = ebx;
1457         ctx.edx = edx;
1458         ctx.ecx = ecx;
1459         ctx.eax = eax;
1460
1461         arch_handle_exception (&ctx, exc);
1462
1463         g_assert_not_reached ();
1464 }
1465
1466 /**
1467  * arch_get_throw_exception:
1468  *
1469  * Returns a function pointer which can be used to raise
1470  * exceptions. The returned function has the following
1471  * signature: void (*func) (MonoException *exc);
1472  * For example to raise an arithmetic exception you can use:
1473  *
1474  * x86_push_imm (code, mono_get_exception_arithmetic ());
1475  * x86_call_code (code, arch_get_throw_exception ());
1476  *
1477  */
1478 gpointer
1479 arch_get_throw_exception (void)
1480 {
1481         static guint8 start [24];
1482         static int inited = 0;
1483         guint8 *code;
1484
1485         if (inited)
1486                 return start;
1487
1488         inited = 1;
1489         code = start;
1490
1491         x86_push_reg (code, X86_ESP);
1492         x86_push_membase (code, X86_ESP, 4); /* IP */
1493         x86_push_membase (code, X86_ESP, 12); /* exception */
1494         x86_push_reg (code, X86_EBP);
1495         x86_push_reg (code, X86_EDI);
1496         x86_push_reg (code, X86_ESI);
1497         x86_push_reg (code, X86_EBX);
1498         x86_push_reg (code, X86_EDX);
1499         x86_push_reg (code, X86_ECX);
1500         x86_push_reg (code, X86_EAX);
1501         x86_call_code (code, throw_exception);
1502         /* we should never reach this breakpoint */
1503         x86_breakpoint (code);
1504
1505         g_assert ((code - start) < 24);
1506         return start;
1507 }
1508
1509 /**
1510  * arch_get_throw_exception_by_name:
1511  *
1512  * Returns a function pointer which can be used to raise
1513  * corlib exceptions. The returned function has the following
1514  * signature: void (*func) (char *exc_name);
1515  * For example to raise an arithmetic exception you can use:
1516  *
1517  * x86_push_imm (code, "ArithmeticException");
1518  * x86_call_code (code, arch_get_throw_exception ());
1519  *
1520  */
1521 gpointer
1522 arch_get_throw_exception_by_name ()
1523 {
1524         static guint8 start [32];
1525         static int inited = 0;
1526         guint8 *code;
1527
1528         if (inited)
1529                 return start;
1530
1531         inited = 1;
1532         code = start;
1533
1534         /* fixme: we do not save EAX, EDX, ECD - unsure if we need that */
1535
1536         x86_push_membase (code, X86_ESP, 4); /* exception name */
1537         x86_push_imm (code, "System");
1538         x86_push_imm (code, mono_defaults.exception_class->image);
1539         x86_call_code (code, mono_exception_from_name);
1540         x86_alu_reg_imm (code, X86_ADD, X86_ESP, 12);
1541         /* save the newly create object (overwrite exception name)*/
1542         x86_mov_membase_reg (code, X86_ESP, 4, X86_EAX, 4);
1543         x86_jump_code (code, arch_get_throw_exception ());
1544
1545         g_assert ((code - start) < 32);
1546
1547         return start;
1548 }
1549
1550 /*
1551  * this returns a helper method to invoke a method with a user supplied
1552  * stack frame. The returned method has the following signature:
1553  * invoke_method_with_frame ((gpointer code, gpointer frame, int frame_size);
1554  */
1555 static gpointer
1556 get_invoke_method_with_frame ()
1557 {
1558         static guint8 *start;
1559         guint8 *code;
1560
1561         if (start)
1562                 return start;
1563
1564         start = code = g_malloc (64);
1565
1566         /* Prolog */
1567         x86_push_reg (code, X86_EBP);
1568         x86_mov_reg_reg (code, X86_EBP, X86_ESP, 4);
1569         x86_push_reg (code, X86_EBX);
1570         x86_push_reg (code, X86_EDI);
1571         x86_push_reg (code, X86_ESI);
1572
1573         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 16, 4);
1574         x86_alu_reg_reg (code, X86_SUB, X86_ESP, X86_EAX);
1575
1576         x86_push_membase (code, X86_EBP, 16);
1577         x86_push_membase (code, X86_EBP, 12);
1578         x86_lea_membase (code, X86_EAX, X86_ESP, 2*4);
1579         x86_push_reg (code, X86_EAX);
1580         x86_call_code (code, memcpy);
1581         x86_alu_reg_imm (code, X86_ADD, X86_ESP, 12);
1582
1583         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 8, 4);
1584         x86_call_reg (code, X86_EAX);
1585
1586         x86_mov_reg_membase (code, X86_ECX, X86_EBP, 16, 4);
1587         x86_alu_reg_reg (code, X86_ADD, X86_ESP, X86_ECX);
1588
1589         /* Epilog */
1590         x86_pop_reg (code, X86_ESI);
1591         x86_pop_reg (code, X86_EDI);
1592         x86_pop_reg (code, X86_EBX);
1593         x86_leave (code);
1594         x86_ret (code);
1595
1596         g_assert ((code - start) < 64);
1597
1598         return start;
1599 }
1600
1601 /**
1602  * arch_runtime_invoke:
1603  * @method: the method to invoke
1604  * @obj: this pointer
1605  * @params: array of parameter values.
1606  *
1607  * TODO: very ugly piece of code. we should replace that with a method-specific
1608  * trampoline (as suggested by Paolo).
1609  */
1610 MonoObject*
1611 arch_runtime_invoke (MonoMethod *method, void *obj, void **params)
1612 {
1613         static guint64 (*invoke_int64) (gpointer code, gpointer frame, int frame_size) = NULL;
1614         static double (*invoke_double) (gpointer code, gpointer frame, int frame_size) = NULL;
1615         MonoObject *retval;
1616         MonoMethodSignature *sig = method->signature;
1617         int i, tmp, type, sp = 0;
1618         void *ret;
1619         int frame_size = 0;
1620         gpointer *frame;
1621         gpointer code;
1622
1623         /* allocate ret object. */
1624         if (sig->ret->type == MONO_TYPE_VOID) {
1625                 retval = NULL;
1626                 ret = NULL;
1627         } else {
1628                 MonoClass *klass = mono_class_from_mono_type (sig->ret);
1629                 if (klass->valuetype) {
1630                         retval = mono_object_new (mono_domain_get (), klass);
1631                         ret = ((char*)retval) + sizeof (MonoObject);
1632                 } else {
1633                         ret = &retval;
1634                 }
1635         }
1636
1637         if (ISSTRUCT (sig->ret))
1638                 frame_size += sizeof (gpointer);
1639
1640         if (sig->hasthis)
1641                 frame_size += sizeof (gpointer);
1642
1643         for (i = 0; i < sig->param_count; ++i) {
1644                 int align;
1645                 frame_size += mono_type_stack_size (sig->params [i], &align);
1646         }
1647
1648         frame = alloca (frame_size);
1649
1650         if (ISSTRUCT (sig->ret))
1651                 frame [sp++] = ret;
1652
1653         if (sig->hasthis)
1654                 frame [sp++] = obj;
1655
1656
1657         for (i = 0; i < sig->param_count; ++i) {
1658                 if (sig->params [i]->byref) {
1659                         frame [sp++] = params [i];
1660                         continue;
1661                 }
1662                 type = sig->params [i]->type;
1663 handle_enum:
1664                 switch (type) {
1665                 case MONO_TYPE_U1:
1666                 case MONO_TYPE_I1:
1667                 case MONO_TYPE_BOOLEAN:
1668                         tmp = *(MonoBoolean*)params [i];
1669                         frame [sp++] = (gpointer)tmp;
1670                         break;
1671                 case MONO_TYPE_U2:
1672                 case MONO_TYPE_I2:
1673                 case MONO_TYPE_CHAR:
1674                         tmp = *(gint16*)params [i];
1675                         frame [sp++] = (gpointer)tmp;
1676                         break;
1677 #if SIZEOF_VOID_P == 4
1678                 case MONO_TYPE_U:
1679                 case MONO_TYPE_I:
1680 #endif
1681                 case MONO_TYPE_U4:
1682                 case MONO_TYPE_I4:
1683                         frame [sp++] = (gpointer)*(gint32*)params [i];
1684                         break;
1685 #if SIZEOF_VOID_P == 8
1686                 case MONO_TYPE_U:
1687                 case MONO_TYPE_I:
1688 #endif
1689                 case MONO_TYPE_U8:
1690                 case MONO_TYPE_I8:
1691                         frame [sp++] = (gpointer)*(gint32*)params [i];
1692                         frame [sp++] = (gpointer)*(((gint32*)params [i]) + 1);
1693                         break;
1694                 case MONO_TYPE_VALUETYPE:
1695                         if (sig->params [i]->data.klass->enumtype) {
1696                                 type = sig->params [i]->data.klass->enum_basetype->type;
1697                                 goto handle_enum;
1698                         } else {
1699                                 g_warning ("generic valutype %s not handled in runtime invoke", sig->params [i]->data.klass->name);
1700                         }
1701                         break;
1702                 case MONO_TYPE_STRING:
1703                         frame [sp++] = params [i];
1704                         break;
1705                 default:
1706                         g_error ("type 0x%x not handled in invoke", sig->params [i]->type);
1707                 }
1708         }
1709
1710         if (method->addr)
1711                 code = method->addr;
1712         else
1713                 code = arch_compile_method (method);
1714
1715         if (!invoke_int64)
1716                 invoke_int64 = (gpointer)invoke_double = get_invoke_method_with_frame ();
1717
1718         type = sig->ret->type;
1719 handle_enum_2:
1720         switch (type) {
1721         case MONO_TYPE_VOID:
1722                 invoke_int64 (code, frame, frame_size);
1723                 break;
1724         case MONO_TYPE_U1:
1725         case MONO_TYPE_I1:
1726         case MONO_TYPE_BOOLEAN:
1727         case MONO_TYPE_U2:
1728         case MONO_TYPE_I2:
1729         case MONO_TYPE_CHAR:
1730 #if SIZEOF_VOID_P == 4
1731         case MONO_TYPE_U:
1732         case MONO_TYPE_I:
1733 #endif
1734         case MONO_TYPE_U4:
1735         case MONO_TYPE_I4:
1736         case MONO_TYPE_STRING:
1737                 *((guint32 *)ret) = invoke_int64 (code, frame, frame_size);
1738                 break;
1739 #if SIZEOF_VOID_P == 8
1740         case MONO_TYPE_U:
1741         case MONO_TYPE_I:
1742 #endif
1743         case MONO_TYPE_U8:
1744         case MONO_TYPE_I8:
1745                 *((guint64 *)ret) = invoke_int64 (code, frame, frame_size);
1746                 break;
1747         case MONO_TYPE_R4:
1748                 *((float *)ret) = invoke_double (code, frame, frame_size);
1749                 break;
1750         case MONO_TYPE_R8:
1751                 *((double *)ret) = invoke_double (code, frame, frame_size);
1752                 break;
1753         case MONO_TYPE_VALUETYPE:
1754                 if (sig->params [i]->data.klass->enumtype) {
1755                         type = sig->params [i]->data.klass->enum_basetype->type;
1756                         goto handle_enum_2;
1757                 } else
1758                         invoke_int64 (code, frame, frame_size);
1759                 break;
1760         default:
1761                 g_error ("type 0x%x not handled in invoke", sig->params [i]->type);
1762         }
1763
1764         return retval;
1765 }
1766
1767
1768