mono/jit/emit-x86.c

   1 /*
   2  * emit-x86.c: Support functions for emitting x86 code
   3  *
   4  * Authors:
   5  *   Dietmar Maurer (dietmar@ximian.com)
   6  *   Miguel de Icaza (miguel@ximian.com)
   7  *
   8  * (C) 2001 Ximian, Inc.
   9  */
  10
  11 #include <config.h>
  12 #include <glib.h>
  13
  14 #include <mono/metadata/assembly.h>
  15 #include <mono/metadata/loader.h>
  16 #include <mono/metadata/cil-coff.h>
  17 #include <mono/metadata/tabledefs.h>
  18 #include <mono/metadata/class.h>
  19 #include <mono/metadata/mono-endian.h>
  20 #include <mono/arch/x86/x86-codegen.h>
  21
  22 #include "jit.h"
  23 #include "codegen.h"
  24 #include "debug.h"
  25
  26 static void
  27 enter_method (MonoMethod *method, gpointer ebp)
  28 {
  29         int i, j;
  30         MonoClass *class;
  31         MonoObject *o;
  32
  33         printf ("ENTER: %s.%s::%s\n(", method->klass->name_space,
  34                 method->klass->name, method->name);
  35
  36         ebp += 8;
  37
  38         if (ISSTRUCT (method->signature->ret)) {
  39                 int size, align;
  40
  41                 g_assert (!method->signature->ret->byref);
  42
  43                 size = mono_type_size (method->signature->ret, &align);
  44
  45                 printf ("VALUERET:%p, ", *((gpointer *)ebp));
  46                 ebp += sizeof (gpointer);
  47         }
  48
  49         if (method->signature->hasthis) {
  50                 if (method->klass->valuetype) {
  51                         printf ("value:%p, ", *((gpointer *)ebp));
  52                 } else {
  53                         o = *((MonoObject **)ebp);
  54
  55                         g_assert (o);
  56
  57                         class = o->klass;
  58
  59                         if (class == mono_defaults.string_class) {
  60                                 printf ("this:[STRING:%p:%s], ", o, mono_string_to_utf8 ((MonoString *)o));
  61                         } else {
  62                                 printf ("this:%p[%s.%s], ", o, class->name_space, class->name);
  63                         }
  64                 }
  65                 ebp += sizeof (gpointer);
  66         }
  67
  68         for (i = 0; i < method->signature->param_count; ++i) {
  69                 MonoType *type = method->signature->params [i];
  70                 int size, align;
  71                 size = mono_type_size (type, &align);
  72
  73                 switch (type->type) {
  74                 case MONO_TYPE_BOOLEAN:
  75                 case MONO_TYPE_CHAR:
  76                 case MONO_TYPE_I1:
  77                 case MONO_TYPE_U1:
  78                 case MONO_TYPE_I2:
  79                 case MONO_TYPE_U2:
  80                 case MONO_TYPE_I4:
  81                 case MONO_TYPE_U4:
  82                 case MONO_TYPE_I:
  83                 case MONO_TYPE_U:
  84                         printf ("%d, ", *((int *)(ebp)));
  85                         break;
  86                 case MONO_TYPE_STRING: {
  87                         MonoString *s = *((MonoString **)ebp);
  88                         if (s) {
  89                                 g_assert (((MonoObject *)s)->klass == mono_defaults.string_class);
  90                                 printf ("[STRING:%p:%s], ", s, mono_string_to_utf8 (s));
  91                         } else
  92                                 printf ("[STRING:null], ");
  93                         break;
  94                 }
  95                 case MONO_TYPE_CLASS:
  96                 case MONO_TYPE_OBJECT: {
  97                         o = *((MonoObject **)ebp);
  98                         if (o) {
  99                                 class = o->klass;
 100                                 if (class == mono_defaults.string_class) {
 101                                         printf ("[STRING:%p:%s], ", o, mono_string_to_utf8 ((MonoString *)o));
 102                                 } else if (class == mono_defaults.int32_class) {
 103                                         printf ("[INT32:%p:%d], ", o, *(gint32 *)((gpointer)o + sizeof (MonoObject)));
 104                                 } else
 105                                         printf ("[%s.%s:%p], ", class->name_space, class->name, o);
 106                         } else {
 107                                 printf ("%p, ", *((gpointer *)(ebp)));
 108                         }
 109                         break;
 110                 }
 111                 case MONO_TYPE_PTR:
 112                 case MONO_TYPE_FNPTR:
 113                 case MONO_TYPE_ARRAY:
 114                 case MONO_TYPE_SZARRAY:
 115                         printf ("%p, ", *((gpointer *)(ebp)));
 116                         break;
 117                 case MONO_TYPE_I8:
 118                         printf ("%lld, ", *((gint64 *)(ebp)));
 119                         break;
 120                 case MONO_TYPE_R4:
 121                         printf ("%f, ", *((float *)(ebp)));
 122                         break;
 123                 case MONO_TYPE_R8:
 124                         printf ("%f, ", *((double *)(ebp)));
 125                         break;
 126                 case MONO_TYPE_VALUETYPE:
 127                         printf ("[");
 128                         for (j = 0; j < size; j++)
 129                                 printf ("%02x,", *((guint8*)ebp +j));
 130                         printf ("], ");
 131                         break;
 132                 default:
 133                         printf ("XX, ");
 134                 }
 135
 136                 ebp += size + 3;
 137                 ebp = (gpointer)((unsigned)ebp & ~(3));
 138         }
 139
 140         printf (")\n");
 141 }
 142
 143 static void
 144 leave_method (MonoMethod *method, int edx, int eax, double test)
 145 {
 146         gint64 l;
 147
 148         printf ("LEAVE: %s.%s::%s ", method->klass->name_space,
 149                 method->klass->name, method->name);
 150
 151         switch (method->signature->ret->type) {
 152         case MONO_TYPE_VOID:
 153                 break;
 154         case MONO_TYPE_BOOLEAN:
 155                 if (eax)
 156                         printf ("TRUE:%d", eax);
 157                 else
 158                         printf ("FALSE");
 159
 160                 break;
 161         case MONO_TYPE_CHAR:
 162         case MONO_TYPE_I1:
 163         case MONO_TYPE_U1:
 164         case MONO_TYPE_I2:
 165         case MONO_TYPE_U2:
 166         case MONO_TYPE_I4:
 167         case MONO_TYPE_U4:
 168         case MONO_TYPE_I:
 169         case MONO_TYPE_U:
 170                 printf ("EAX=%d", eax);
 171                 break;
 172         case MONO_TYPE_STRING: {
 173                 MonoString *s = (MonoString *)eax;
 174
 175                 if (s) {
 176                         g_assert (((MonoObject *)s)->klass == mono_defaults.string_class);
 177                         printf ("[STRING:%p:%s]", s, mono_string_to_utf8 (s));
 178                 } else
 179                         printf ("[STRING:null], ");
 180                 break;
 181         }
 182         case MONO_TYPE_OBJECT: {
 183                 MonoObject *o = (MonoObject *)eax;
 184
 185                 if (o->klass == mono_defaults.boolean_class) {
 186                         printf ("[BOOLEAN:%p:%d]", o, *((guint8 *)o + sizeof (MonoObject)));
 187                 } else if  (o->klass == mono_defaults.int32_class) {
 188                         printf ("[INT32:%p:%d]", o, *((gint32 *)((gpointer)o + sizeof (MonoObject))));
 189                 } else {
 190                         if (o)
 191                                 printf ("[%s.%s:%p]", o->klass->name_space, o->klass->name, o);
 192                         else
 193                                 printf ("[OBJECT:%p]", (gpointer)eax);
 194                 }
 195                 break;
 196         }
 197         case MONO_TYPE_CLASS:
 198         case MONO_TYPE_PTR:
 199         case MONO_TYPE_FNPTR:
 200         case MONO_TYPE_ARRAY:
 201         case MONO_TYPE_SZARRAY:
 202                 printf ("EAX=%p", (gpointer)eax);
 203                 break;
 204         case MONO_TYPE_I8:
 205                 *((gint32 *)&l) = eax;
 206                 *((gint32 *)&l + 1) = edx;
 207                 printf ("EAX/EDX=%lld", l);
 208                 break;
 209         case MONO_TYPE_R8:
 210                 printf ("FP=%f\n", test);
 211                 break;
 212         default:
 213                 printf ("(unknown return type)");
 214         }
 215
 216         printf ("\n");
 217 }
 218
 219 /**
 220  * arch_emit_prologue:
 221  * @cfg: pointer to status information
 222  *
 223  * Emits the function prolog.
 224  */
 225 static void
 226 arch_emit_prologue (MonoFlowGraph *cfg)
 227 {
 228         x86_push_reg (cfg->code, X86_EBP);
 229         x86_mov_reg_reg (cfg->code, X86_EBP, X86_ESP, 4);
 230
 231         if (cfg->locals_size)
 232                 x86_alu_reg_imm (cfg->code, X86_SUB, X86_ESP, cfg->locals_size);
 233
 234         if (mono_regset_reg_used (cfg->rs, X86_EBX))
 235                 x86_push_reg (cfg->code, X86_EBX);
 236
 237         if (mono_regset_reg_used (cfg->rs, X86_EDI))
 238                 x86_push_reg (cfg->code, X86_EDI);
 239
 240         if (mono_regset_reg_used (cfg->rs, X86_ESI))
 241                 x86_push_reg (cfg->code, X86_ESI);
 242
 243         if (mono_jit_trace_calls) {
 244                 x86_push_reg (cfg->code, X86_EBP);
 245                 x86_push_imm (cfg->code, cfg->method);
 246                 x86_mov_reg_imm (cfg->code, X86_EAX, enter_method);
 247                 x86_call_reg (cfg->code, X86_EAX);
 248                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 8);
 249         }
 250 }
 251
 252 /**
 253  * arch_emit_epilogue:
 254  * @cfg: pointer to status information
 255  *
 256  * Emits the function epilog.
 257  */
 258 static void
 259 arch_emit_epilogue (MonoFlowGraph *cfg)
 260 {
 261         if (mono_jit_trace_calls) {
 262                 x86_fld_reg (cfg->code, 0);
 263                 x86_alu_reg_imm (cfg->code, X86_SUB, X86_ESP, 8);
 264                 x86_fst_membase (cfg->code, X86_ESP, 0, TRUE, TRUE);
 265                 x86_push_reg (cfg->code, X86_EAX);
 266                 x86_push_reg (cfg->code, X86_EDX);
 267                 x86_push_imm (cfg->code, cfg->method);
 268                 x86_mov_reg_imm (cfg->code, X86_EAX, leave_method);
 269                 x86_call_reg (cfg->code, X86_EAX);
 270                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 4);
 271                 x86_pop_reg (cfg->code, X86_EDX);
 272                 x86_pop_reg (cfg->code, X86_EAX);
 273                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 8);
 274         }
 275
 276         if (mono_regset_reg_used (cfg->rs, X86_ESI))
 277                 x86_pop_reg (cfg->code, X86_ESI);
 278
 279         if (mono_regset_reg_used (cfg->rs, X86_EDI))
 280                 x86_pop_reg (cfg->code, X86_EDI);
 281
 282         if (mono_regset_reg_used (cfg->rs, X86_EBX))
 283                 x86_pop_reg (cfg->code, X86_EBX);
 284
 285         x86_leave (cfg->code);
 286         x86_ret (cfg->code);
 287 }
 288
 289 /*
 290  * get_unbox_trampoline:
 291  * @m: method pointer
 292  *
 293  * when value type methods are called through the vtable we need to unbox the
 294  * this argument. This method returns a pointer to a trampoline which does
 295  * unboxing before calling the method
 296  */
 297 static gpointer
 298 get_unbox_trampoline (MonoMethod *m)
 299 {
 300         gpointer p = arch_compile_method (m);
 301         guint8 *code, *start;
 302         int this_pos = 4;
 303
 304         if (!m->signature->ret->byref && m->signature->ret->type == MONO_TYPE_VALUETYPE)
 305                 this_pos = 8;
 306
 307         start = code = g_malloc (16);
 308
 309         x86_alu_membase_imm (code, X86_ADD, X86_ESP, this_pos, sizeof (MonoObject));
 310         x86_jump_code (code, p);
 311         g_assert ((code - start) < 16);
 312
 313         return start;
 314 }
 315
 316 /**
 317  * x86_magic_trampoline:
 318  * @eax: saved x86 register
 319  * @ecx: saved x86 register
 320  * @edx: saved x86 register
 321  * @esi: saved x86 register
 322  * @edi: saved x86 register
 323  * @ebx: saved x86 register
 324  * @code: pointer into caller code
 325  * @method: the method to translate
 326  *
 327  * This method is called by the trampoline functions for virtual
 328  * methods. It inspects the caller code to find the address of the
 329  * vtable slot, then calls the JIT compiler and writes the address
 330  * of the compiled method back to the vtable. All virtual methods
 331  * are called with: x86_call_membase (inst, basereg, disp). We always
 332  * use 32 bit displacement to ensure that the length of the call
 333  * instruction is 6 bytes. We need to get the value of the basereg
 334  * and the constant displacement.
 335  */
 336 static gpointer
 337 x86_magic_trampoline (int eax, int ecx, int edx, int esi, int edi,
 338                       int ebx, guint8 *code, MonoMethod *m)
 339 {
 340         guint8 ab, reg;
 341         gint32 disp;
 342         gpointer o;
 343
 344         /* go to the start of the call instruction */
 345         code -= 6;
 346         g_assert (*code == 0xff);
 347
 348         code++;
 349         ab = *code;
 350         g_assert ((ab >> 6) == 2);
 351
 352         /* extract the register number containing the address */
 353         reg = ab & 0x07;
 354         code++;
 355
 356         /* extract the displacement */
 357         disp = *((gint32*)code);
 358
 359         switch (reg) {
 360         case X86_EAX:
 361                 o = (gpointer)eax;
 362                 break;
 363         case X86_EDX:
 364                 o = (gpointer)edx;
 365                 break;
 366         case X86_ECX:
 367                 o = (gpointer)ecx;
 368                 break;
 369         case X86_ESI:
 370                 o = (gpointer)esi;
 371                 break;
 372         case X86_EDI:
 373                 o = (gpointer)edi;
 374                 break;
 375         case X86_EBX:
 376                 o = (gpointer)ebx;
 377                 break;
 378         default:
 379                 g_assert_not_reached ();
 380         }
 381
 382         o += disp;
 383
 384         if (m->klass->valuetype) {
 385                 return *((gpointer *)o) = get_unbox_trampoline (m);
 386         } else
 387                 return *((gpointer *)o) = arch_compile_method (m);
 388 }
 389
 390 /**
 391  * arch_create_jit_trampoline:
 392  * @method: pointer to the method info
 393  *
 394  * Creates a trampoline function for virtual methods. If the created
 395  * code is called it first starts JIT compilation of method,
 396  * and then calls the newly created method. I also replaces the
 397  * corresponding vtable entry (see x86_magic_trampoline).
 398  *
 399  * Returns: a pointer to the newly created code
 400  */
 401 gpointer
 402 arch_create_jit_trampoline (MonoMethod *method)
 403 {
 404         guint8 *code, *buf;
 405         static guint8 *vc = NULL;
 406
 407         if (method->addr)
 408                 return method->addr;
 409
 410         if (!vc) {
 411                 vc = buf = g_malloc (24);
 412
 413                 /* push the return address onto the stack */
 414                 x86_push_membase (buf, X86_ESP, 4);
 415
 416                 /* save all register values */
 417                 x86_push_reg (buf, X86_EBX);
 418                 x86_push_reg (buf, X86_EDI);
 419                 x86_push_reg (buf, X86_ESI);
 420                 x86_push_reg (buf, X86_EDX);
 421                 x86_push_reg (buf, X86_ECX);
 422                 x86_push_reg (buf, X86_EAX);
 423
 424                 x86_call_code (buf, x86_magic_trampoline);
 425                 x86_alu_reg_imm (buf, X86_ADD, X86_ESP, 8*4);
 426
 427                 /* call the compiled method */
 428                 x86_jump_reg (buf, X86_EAX);
 429
 430                 g_assert ((buf - vc) <= 24);
 431         }
 432
 433         code = buf = g_malloc (16);
 434         x86_push_imm (buf, method);
 435         x86_jump_code (buf, vc);
 436         g_assert ((buf - code) <= 16);
 437
 438         return code;
 439 }
 440
 441 /**
 442  * arch_create_simple_jit_trampoline:
 443  * @method: pointer to the method info
 444  *
 445  * Creates a trampoline function for method. If the created
 446  * code is called it first starts JIT compilation of method,
 447  * and then calls the newly created method. I also replaces the
 448  * address in method->addr with the result of the JIT
 449  * compilation step (in arch_compile_method).
 450  *
 451  * Returns: a pointer to the newly created code
 452  */
 453 gpointer
 454 arch_create_simple_jit_trampoline (MonoMethod *method)
 455 {
 456         guint8 *code, *buf;
 457
 458         if (method->addr)
 459                 return method->addr;
 460
 461         /* we never free the allocated code buffer */
 462         code = buf = g_malloc (16);
 463         x86_push_imm (buf, method);
 464         x86_call_code (buf, arch_compile_method);
 465         x86_alu_reg_imm (buf, X86_ADD, X86_ESP, 4);
 466         /* jump to the compiled method */
 467         x86_jump_reg (buf, X86_EAX);
 468         g_assert ((buf - code) < 16);
 469
 470         return code;
 471 }
 472
 473 static void
 474 mono_label_cfg (MonoFlowGraph *cfg)
 475 {
 476         int i, j;
 477
 478         for (i = 0; i < cfg->block_count; i++) {
 479                 GPtrArray *forest = cfg->bblocks [i].forest;
 480                 const int top = forest->len;
 481
 482                 for (j = 0; j < top; j++) {
 483                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
 484                         MBState *mbstate;
 485
 486                         mbstate =  mono_burg_label (t1, cfg);
 487                         if (!mbstate) {
 488                                 cfg->invalid = 1;
 489                                 if (mono_debug_handle)
 490                                         return;
 491                                 g_warning ("tree does not match");
 492                                 mono_print_ctree (t1); printf ("\n\n");
 493
 494                                 mono_print_forest (forest);
 495                                 g_assert_not_reached ();
 496                         }
 497                 }
 498         }
 499 }
 500
 501 static void
 502 tree_preallocate_regs (MBTree *tree, int goal, MonoRegSet *rs)
 503 {
 504         switch (tree->op) {
 505         case MB_TERM_CALL_I4:
 506         case MB_TERM_CALL_I8:
 507         case MB_TERM_CALL_R8:
 508 //      case MB_TERM_CALL_VOID :
 509                 tree->reg1 = mono_regset_alloc_reg (rs, X86_EAX, tree->exclude_mask);
 510                 tree->reg2 = mono_regset_alloc_reg (rs, X86_EDX, tree->exclude_mask);
 511                 tree->reg3 = mono_regset_alloc_reg (rs, X86_ECX, tree->exclude_mask);
 512                 return;
 513         default: break;
 514         }
 515
 516         switch (goal) {
 517         case MB_NTERM_reg:
 518         case MB_NTERM_lreg: {
 519                 switch (tree->op) {
 520                 case MB_TERM_SHL:
 521                 case MB_TERM_SHR:
 522                 case MB_TERM_SHR_UN:
 523                         tree->exclude_mask |= (1 << X86_ECX);
 524                         tree->left->exclude_mask |= (1 << X86_ECX);
 525                         break;
 526                 case MB_TERM_MUL:
 527                 case MB_TERM_DIV:
 528                 case MB_TERM_DIV_UN:
 529                 case MB_TERM_REM:
 530                 case MB_TERM_REM_UN:
 531                         tree->reg1 = mono_regset_alloc_reg (rs, X86_EAX, tree->exclude_mask);
 532                         tree->reg2 = mono_regset_alloc_reg (rs, X86_EDX, tree->exclude_mask);
 533                         if (goal == MB_NTERM_reg) {
 534                                 tree->left->exclude_mask |= (1 << X86_EDX);
 535                                 tree->right->exclude_mask |= (1 << X86_EDX) | (1 << X86_EAX);
 536                         }
 537                         break;
 538                 default:
 539                         break;
 540                 }
 541                 break;
 542         }
 543         default:
 544                 break;
 545         }
 546 }
 547
 548 static void
 549 tree_allocate_regs (MBTree *tree, int goal, MonoRegSet *rs)
 550 {
 551         MBTree *kids[10];
 552         int ern = mono_burg_rule (tree->state, goal);
 553         guint16 *nts = mono_burg_nts [ern];
 554         int i;
 555
 556         mono_burg_kids (tree, ern, kids);
 557
 558         //printf ("RALLOC START %d %p %d\n",  tree->op, rs->free_mask, goal);
 559
 560         if (nts [0] && kids [0] == tree) {
 561                 /* chain rule */
 562                 tree_allocate_regs (kids [0], nts [0], rs);
 563                 return;
 564         }
 565
 566         for (i = 0; nts [i]; i++)
 567                 tree_preallocate_regs (kids [i], nts [i], rs);
 568
 569         for (i = 0; nts [i]; i++)
 570                 tree_allocate_regs (kids [i], nts [i], rs);
 571
 572         for (i = 0; nts [i]; i++) {
 573                 mono_regset_free_reg (rs, kids [i]->reg1);
 574                 mono_regset_free_reg (rs, kids [i]->reg2);
 575                 mono_regset_free_reg (rs, kids [i]->reg3);
 576         }
 577
 578         switch (goal) {
 579         case MB_NTERM_reg:
 580                 if (tree->reg1 < 0) {
 581                         tree->reg1 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
 582                         g_assert (tree->reg1 != -1);
 583                 }
 584                 break;
 585
 586         case MB_NTERM_lreg:
 587                 if (tree->reg1 < 0) {
 588                         tree->reg1 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
 589                         g_assert (tree->reg1 != -1);
 590                 }
 591                 if (tree->reg2 < 0) {
 592                         tree->reg2 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
 593                         g_assert (tree->reg2 != -1);
 594                 }
 595                 break;
 596
 597         case MB_NTERM_freg:
 598                 /* fixme: allocate floating point registers */
 599                 break;
 600
 601         case MB_NTERM_addr:
 602                 if (tree->op == MB_TERM_ADD) {
 603                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
 604                         tree->reg2 = mono_regset_alloc_reg (rs, tree->right->reg1, tree->exclude_mask);
 605                 }
 606                 break;
 607
 608         case MB_NTERM_base:
 609                 if (tree->op == MB_TERM_ADD) {
 610                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
 611                 }
 612                 break;
 613
 614         case MB_NTERM_index:
 615                 if (tree->op == MB_TERM_SHL ||
 616                     tree->op == MB_TERM_MUL) {
 617                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
 618                 }
 619                 break;
 620
 621         default:
 622                 /* do nothing */
 623         }
 624
 625         //printf ("RALLOC END %d %p\n",  tree->op, rs->free_mask);
 626         tree->emit = mono_burg_func [ern];
 627 }
 628
 629 static void
 630 arch_allocate_regs (MonoFlowGraph *cfg)
 631 {
 632         int i, j;
 633
 634         for (i = 0; i < cfg->block_count; i++) {
 635                 GPtrArray *forest = cfg->bblocks [i].forest;
 636                 const int top = forest->len;
 637
 638                 for (j = 0; j < top; j++) {
 639                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
 640                         //printf ("AREGSTART %d:%d %p\n", i, j, cfg->rs->free_mask);
 641                         tree_allocate_regs (t1, 1, cfg->rs);
 642                         //printf ("AREGENDT %d:%d %p\n", i, j, cfg->rs->free_mask);
 643                         g_assert (cfg->rs->free_mask == 0xffffffff);
 644                 }
 645         }
 646 }
 647
 648 static void
 649 tree_emit (int goal, MonoFlowGraph *cfg, MBTree *tree)
 650 {
 651         MBTree *kids[10];
 652         int i, ern = mono_burg_rule (tree->state, goal);
 653         guint16 *nts = mono_burg_nts [ern];
 654         MBEmitFunc emit;
 655         int offset;
 656
 657         mono_burg_kids (tree, ern, kids);
 658
 659         for (i = 0; nts [i]; i++)
 660                 tree_emit (nts [i], cfg, kids [i]);
 661
 662         tree->addr = offset = cfg->code - cfg->start;
 663
 664         // we assume an instruction uses a maximum of 128 bytes
 665         if ((cfg->code_size - offset) <= 128) {
 666                 int add = MIN ((cfg->code_size * 2), 1024);
 667
 668                 cfg->code_size += add;
 669                 cfg->start = g_realloc (cfg->start, cfg->code_size);
 670                 g_assert (cfg->start);
 671                 cfg->code = cfg->start + offset;
 672         }
 673
 674         if ((emit = mono_burg_func [ern]))
 675                 emit (tree, cfg);
 676
 677         g_assert ((cfg->code - cfg->start) < cfg->code_size);
 678 }
 679
 680 static void
 681 mono_emit_cfg (MonoFlowGraph *cfg)
 682 {
 683         int i, j;
 684
 685         for (i = 0; i < cfg->block_count; i++) {
 686                 MonoBBlock *bb = &cfg->bblocks [i];
 687                 GPtrArray *forest = bb->forest;
 688                 const int top = forest->len;
 689
 690                 bb->addr = cfg->code - cfg->start;
 691
 692                 for (j = 0; j < top; j++) {
 693                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
 694
 695                         tree_emit (1, cfg, t1);
 696                 }
 697         }
 698
 699         cfg->epilog = cfg->code - cfg->start;
 700 }
 701
 702 static void
 703 mono_compute_branches (MonoFlowGraph *cfg)
 704 {
 705         guint8 *end;
 706         int i, j;
 707
 708         end = cfg->code;
 709
 710         for (j = 0; j < cfg->block_count; j++) {
 711                 MonoBBlock *bb = &cfg->bblocks [j];
 712                 GPtrArray *forest = bb->forest;
 713                 const int top = forest->len;
 714
 715                 for (i = 0; i < top; i++) {
 716                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, i);
 717
 718                         if (t1->is_jump) {
 719
 720                                 if (t1->op == MB_TERM_SWITCH) {
 721                                         MonoBBlock **jt = (MonoBBlock **)t1->data.p;
 722                                         guint32 *rt = (guint32 *)t1->data.p;
 723
 724                                         int m = *((guint32 *)t1->data.p) + 1;
 725                                         int j;
 726
 727                                         for (j = 1; j <= m; j++)
 728                                                 rt [j] = (int)(jt [j]->addr + cfg->start);
 729                                 }
 730
 731                                 /* emit the jump instruction again to update addresses */
 732                                 cfg->code = cfg->start + t1->addr;
 733                                 ((MBEmitFunc)t1->emit) (t1, cfg);
 734
 735                         }
 736                 }
 737         }
 738
 739         cfg->code = end;
 740 }
 741
 742 static int
 743 match_debug_method (MonoMethod* method)
 744 {
 745         GList *tmp = mono_debug_methods;
 746
 747         for (; tmp; tmp = tmp->next) {
 748                 if (strcmp (method->name, tmp->data) == 0) {
 749                         return 1;
 750                 }
 751         }
 752         return 0;
 753 }
 754
 755 /**
 756  * arch_compile_method:
 757  * @method: pointer to the method info
 758  *
 759  * JIT compilation of a single method. This method also writes the result
 760  * back to method->addr, an thus overwrites the trampoline function.
 761  *
 762  * Returns: a pointer to the newly created code.
 763  */
 764 gpointer
 765 arch_compile_method (MonoMethod *method)
 766 {
 767         MonoFlowGraph *cfg;
 768         MonoMemPool *mp = mono_mempool_new ();
 769
 770         g_assert (!(method->iflags & METHOD_IMPL_ATTRIBUTE_INTERNAL_CALL));
 771         g_assert (!(method->flags & METHOD_ATTRIBUTE_PINVOKE_IMPL));
 772
 773         if (mono_jit_trace_calls || mono_jit_dump_asm || mono_jit_dump_forest) {
 774                 printf ("Start JIT compilation of %s.%s:%s\n", method->klass->name_space,
 775                         method->klass->name, method->name);
 776         }
 777
 778         if (method->iflags & METHOD_IMPL_ATTRIBUTE_RUNTIME) {
 779                 MonoClassField *field;
 780                 const char *name = method->name;
 781                 static guint target_offset = 0;
 782                 static guint method_offset = 0;
 783                 guint8 *code;
 784                 gboolean delegate = FALSE;
 785
 786                 if (method->klass->parent &&
 787                     method->klass->parent->parent == mono_defaults.delegate_class)
 788                         delegate = TRUE;
 789
 790                 if (!target_offset) {
 791                         mono_class_init (mono_defaults.delegate_class);
 792
 793                         field = mono_class_get_field_from_name (mono_defaults.delegate_class, "m_target");
 794                         target_offset = field->offset;
 795                         field = mono_class_get_field_from_name (mono_defaults.delegate_class, "method_ptr");
 796                         method_offset = field->offset;
 797                 }
 798
 799                 if (delegate && *name == '.' && (strcmp (name, ".ctor") == 0)) {
 800                         method->addr = code = g_malloc (32);
 801                         x86_push_reg (code, X86_EBP);
 802                         x86_mov_reg_reg (code, X86_EBP, X86_ESP, 4);
 803
 804                         /* load the this pointer */
 805                         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 8, 4);
 806                         /* load m_target arg */
 807                         x86_mov_reg_membase (code, X86_EDX, X86_EBP, 12, 4);
 808                         /* store mtarget */
 809                         x86_mov_membase_reg (code, X86_EAX, target_offset, X86_EDX, 4);
 810                         /* load method_ptr arg */
 811                         x86_mov_reg_membase (code, X86_EDX, X86_EBP, 16, 4);
 812                         /* store method_ptr */
 813                         x86_mov_membase_reg (code, X86_EAX, method_offset, X86_EDX, 4);
 814
 815                         x86_leave (code);
 816                         x86_ret (code);
 817
 818                         g_assert ((code - (guint8*)method->addr) < 32);
 819
 820                 } else if (delegate && *name == 'I' && (strcmp (name, "Invoke") == 0)) {
 821                         MonoMethodSignature *csig = method->signature;
 822                         int i, target, this_pos = 4;
 823                         guint8 *source;
 824
 825                         method->addr = g_malloc (64);
 826
 827                         if (csig->ret->type == MONO_TYPE_VALUETYPE) {
 828                                 g_assert (!csig->ret->byref);
 829                                 this_pos = 8;
 830                         }
 831
 832                         for (i = 0; i < 2; i ++) {
 833                                 code = method->addr;
 834                                 /* load the this pointer */
 835                                 x86_mov_reg_membase (code, X86_EAX, X86_ESP, this_pos, 4);
 836                                 /* load mtarget */
 837                                 x86_mov_reg_membase (code, X86_EDX, X86_EAX, target_offset, 4);
 838                                 /* check if zero (static method call without this pointer) */
 839                                 x86_alu_reg_imm (code, X86_CMP, X86_EDX, 0);
 840                                 x86_branch32 (code, X86_CC_EQ, target, TRUE);
 841                                 source = code;
 842
 843                                 /* virtual delegate methods: we have to replace the this pointer
 844                                  * withe the actual target */
 845                                 x86_mov_membase_reg (code, X86_ESP, this_pos, X86_EDX, 4);
 846                                 /* jump to method_ptr() */
 847                                 x86_jump_membase (code, X86_EAX, method_offset);
 848
 849                                 /* static delegate methods: we have to remove the this pointer
 850                                  * from the activation frame */
 851                                 target = code - source;
 852                                 if (this_pos == 8) {
 853                                         x86_mov_reg_membase (code, X86_EDX, X86_ESP, 4, 4);
 854                                         x86_mov_membase_reg (code, X86_ESP, 8, X86_EDX, 4);
 855                                 }
 856                                 x86_mov_reg_membase (code, X86_EDX, X86_ESP, 0, 4);
 857                                 x86_mov_membase_reg (code, X86_ESP, 4, X86_EDX, 4);
 858                                 x86_alu_reg_imm (code, X86_ADD, X86_ESP, 4);
 859
 860                                 /* jump to method_ptr() */
 861                                 x86_jump_membase (code, X86_EAX, method_offset);
 862                         }
 863
 864                         g_assert ((code - (guint8*)method->addr) < 64);
 865
 866                 } else {
 867                         if (mono_debug_handle)
 868                                 return NULL;
 869                         g_error ("Don't know how to exec runtime method %s.%s::%s",
 870                                  method->klass->name_space, method->klass->name, method->name);
 871                 }
 872
 873         } else {
 874                 MonoMethodHeader *header = ((MonoMethodNormal *)method)->header;
 875                 MonoJitInfo *ji = g_new0 (MonoJitInfo, 1);
 876
 877                 cfg = mono_cfg_new (method, mp);
 878
 879                 mono_analyze_flow (cfg);
 880                 if (cfg->invalid)
 881                         return NULL;
 882
 883                 mono_analyze_stack (cfg);
 884                 if (cfg->invalid)
 885                         return NULL;
 886
 887                 cfg->rs = mono_regset_new (X86_NREG);
 888                 mono_regset_reserve_reg (cfg->rs, X86_ESP);
 889                 mono_regset_reserve_reg (cfg->rs, X86_EBP);
 890
 891                 cfg->code_size = 256;
 892                 cfg->start = cfg->code = g_malloc (cfg->code_size);
 893
 894                 if (match_debug_method (method))
 895                         x86_breakpoint (cfg->code);
 896
 897                 if (mono_jit_dump_forest) {
 898                         int i;
 899                         printf ("FOREST %s.%s:%s\n", method->klass->name_space,
 900                                 method->klass->name, method->name);
 901                         for (i = 0; i < cfg->block_count; i++) {
 902                                 printf ("BLOCK %d:\n", i);
 903                                 mono_print_forest (cfg->bblocks [i].forest);
 904                         }
 905                 }
 906
 907                 mono_label_cfg (cfg);
 908                 if (cfg->invalid)
 909                         return NULL;
 910
 911                 arch_allocate_regs (cfg);
 912
 913                 /* align to 8 byte boundary */
 914                 cfg->locals_size += 7;
 915                 cfg->locals_size &= ~7;
 916
 917                 arch_emit_prologue (cfg);
 918                 mono_emit_cfg (cfg);
 919                 arch_emit_epilogue (cfg);
 920
 921                 method->addr = cfg->start;
 922
 923                 mono_compute_branches (cfg);
 924
 925                 if (mono_jit_dump_asm) {
 926                         char *id = g_strdup_printf ("%s.%s_%s", method->klass->name_space,
 927                                                     method->klass->name, method->name);
 928                         mono_disassemble_code (cfg->start, cfg->code - cfg->start, id);
 929                         g_free (id);
 930                 }
 931                 if (mono_debug_handle)
 932                         mono_debug_add_method (mono_debug_handle, cfg);
 933
 934                 ji->code_size = cfg->code - cfg->start;
 935                 ji->used_regs = cfg->rs->used_mask;
 936                 ji->method = method;
 937                 ji->code_start = method->addr;
 938                 mono_jit_info_table_add (mono_jit_info_table, ji);
 939
 940                 if (header->num_clauses) {
 941                         int i, start_block, end_block;
 942
 943                         ji->num_clauses = header->num_clauses;
 944                         ji->clauses = g_new0 (MonoJitExceptionInfo, header->num_clauses);
 945
 946                         for (i = 0; i < header->num_clauses; i++) {
 947                                 MonoExceptionClause *ec = &header->clauses [i];
 948                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
 949
 950                                 ei->flags = ec->flags;
 951                                 ei->token_or_filter = ec->token_or_filter;
 952
 953                                 g_assert (cfg->bcinfo [ec->try_offset].is_block_start);
 954                                 start_block = cfg->bcinfo [ec->try_offset].block_id;
 955                                 end_block = cfg->bcinfo [ec->try_offset + ec->try_len].block_id;
 956                                 g_assert (cfg->bcinfo [ec->try_offset + ec->try_len].is_block_start);
 957
 958                                 ei->try_start = cfg->start + cfg->bblocks [start_block].addr;
 959                                 ei->try_end = cfg->start + cfg->bblocks [end_block].addr;
 960
 961                                 g_assert (cfg->bcinfo [ec->handler_offset].is_block_start);
 962                                 start_block = cfg->bcinfo [ec->handler_offset].block_id;
 963                                 ei->handler_start = cfg->start + cfg->bblocks [start_block].addr;
 964
 965                                 //printf ("TEST %x %x %x\n", ei->try_start, ei->try_end, ei->handler_start);
 966                         }
 967                 }
 968
 969                 mono_regset_free (cfg->rs);
 970
 971                 mono_cfg_free (cfg);
 972
 973                 mono_mempool_destroy (mp);
 974
 975         }
 976
 977         if (mono_jit_trace_calls || mono_jit_dump_asm || mono_jit_dump_forest) {
 978                 printf ("END JIT compilation of %s.%s:%s %p %p\n", method->klass->name_space,
 979                         method->klass->name, method->name, method, method->addr);
 980         }
 981
 982
 983         return method->addr;
 984 }
 985
 986 /*
 987  * arch_get_restore_context:
 988  *
 989  * Returns a pointer to a method which restores a previously saved sigcontext.
 990  */
 991 static gpointer
 992 arch_get_restore_context ()
 993 {
 994         static guint8 *start = NULL;
 995         guint8 *code;
 996
 997         if (start)
 998                 return start;
 999
1000         /* restore_contect (struct sigcontext *ctx) */
1001         /* we do not restore X86_EAX, X86_EDX */
1002
1003         start = code = malloc (1024);
1004
1005         /* load ctx */
1006         x86_mov_reg_membase (code, X86_EAX, X86_ESP, 4, 4);
1007
1008         /* get return address, stored in EDX */
1009         x86_mov_reg_membase (code, X86_EDX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, eip), 4);
1010
1011         /* restore EBX */
1012         x86_mov_reg_membase (code, X86_EBX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebx), 4);
1013         /* restore EDI */
1014         x86_mov_reg_membase (code, X86_EDI, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, edi), 4);
1015         /* restore ESI */
1016         x86_mov_reg_membase (code, X86_ESI, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, esi), 4);
1017         /* restore ESP */
1018         x86_mov_reg_membase (code, X86_ESP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, esp), 4);
1019         /* restore EBP */
1020         x86_mov_reg_membase (code, X86_EBP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebp), 4);
1021         /* restore ECX. the exception object is passed here to the catch handler */
1022         x86_mov_reg_membase (code, X86_ECX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ecx), 4);
1023
1024         /* jump to the saved IP */
1025         x86_jump_reg (code, X86_EDX);
1026
1027         return start;
1028 }
1029
1030 /*
1031  * arch_get_call_finally:
1032  *
1033  * Returns a pointer to a method which calls a finally handler.
1034  */
1035 static gpointer
1036 arch_get_call_finally ()
1037 {
1038         static guint8 *start = NULL;
1039         guint8 *code;
1040
1041         if (start)
1042                 return start;
1043
1044         /* call_finally (struct sigcontext *ctx, unsigned long eip) */
1045         start = code = malloc (1024);
1046
1047         x86_push_reg (code, X86_EBP);
1048         x86_mov_reg_reg (code, X86_EBP, X86_ESP, 4);
1049         x86_push_reg (code, X86_EBX);
1050         x86_push_reg (code, X86_EDI);
1051         x86_push_reg (code, X86_ESI);
1052
1053         /* load ctx */
1054         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 8, 4);
1055         /* load eip */
1056         x86_mov_reg_membase (code, X86_ECX, X86_EBP, 12, 4);
1057         /* save EBP */
1058         x86_push_reg (code, X86_EBP);
1059         /* set new EBP */
1060         x86_mov_reg_membase (code, X86_EBP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebp), 4);
1061         /* call the handler */
1062         x86_call_reg (code, X86_ECX);
1063         /* restore EBP */
1064         x86_pop_reg (code, X86_EBP);
1065         /* restore saved regs */
1066         x86_pop_reg (code, X86_ESI);
1067         x86_pop_reg (code, X86_EDI);
1068         x86_pop_reg (code, X86_EBX);
1069         x86_leave (code);
1070         x86_ret (code);
1071
1072         return start;
1073 }
1074
1075 /**
1076  * arch_handle_exception:
1077  * @ctx: saved processor state
1078  * @obj:
1079  */
1080 void
1081 arch_handle_exception (struct sigcontext *ctx, gpointer obj)
1082 {
1083         MonoJitInfo *ji;
1084         gpointer ip = (gpointer)ctx->eip;
1085         static void (*restore_context) (struct sigcontext *);
1086         static void (*call_finally) (struct sigcontext *, unsigned long);
1087
1088         g_assert (ctx != NULL);
1089         g_assert (obj != NULL);
1090
1091         ji = mono_jit_info_table_find (mono_jit_info_table, ip);
1092
1093         if (!restore_context)
1094                 restore_context = arch_get_restore_context ();
1095
1096         if (!call_finally)
1097                 call_finally = arch_get_call_finally ();
1098
1099         if (ji) { /* we are inside managed code */
1100                 MonoMethod *m = ji->method;
1101                 unsigned next_bp, next_ip;
1102                 int offset = 2;
1103
1104                 if (ji->num_clauses) {
1105                         int i;
1106
1107                         g_assert (ji->clauses);
1108
1109                         for (i = 0; i < ji->num_clauses; i++) {
1110                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
1111
1112                                 if (ei->try_start <= ip && ip <= (ei->try_end)) {
1113                                         /* catch block */
1114                                         if (ei->flags == 0 && mono_object_isinst (obj,
1115                                                 mono_class_get (m->klass->image, ei->token_or_filter))) {
1116
1117                                                 ctx->eip = (unsigned long)ei->handler_start;
1118                                                 ctx->ecx = (unsigned long)obj;
1119                                                 restore_context (ctx);
1120                                                 g_assert_not_reached ();
1121                                         }
1122                                 }
1123                         }
1124
1125                         /* no handler found - we need to call all finally handlers */
1126                         for (i = 0; i < ji->num_clauses; i++) {
1127                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
1128
1129                                 if (ei->try_start <= ip && ip < (ei->try_end) &&
1130                                     (ei->flags & MONO_EXCEPTION_CLAUSE_FINALLY)) {
1131                                         call_finally (ctx, (unsigned long)ei->handler_start);
1132                                 }
1133                         }
1134                 }
1135
1136                 /* continue unwinding */
1137
1138                 /* restore caller saved registers */
1139                 if (ji->used_regs & X86_ESI_MASK) {
1140                         ctx->esi = *((int *)ctx->ebp + offset);
1141                         offset++;
1142                 }
1143                 if (ji->used_regs & X86_EDI_MASK) {
1144                         ctx->edi = *((int *)ctx->ebp + offset);
1145                         offset++;
1146                 }
1147                 if (ji->used_regs & X86_EBX_MASK) {
1148                         ctx->ebx = *((int *)ctx->ebp + offset);
1149                 }
1150
1151                 ctx->esp = ctx->ebp;
1152                 ctx->eip = *((int *)ctx->ebp + 1);
1153                 ctx->ebp = *((int *)ctx->ebp);
1154
1155                 if (next_bp < (unsigned)mono_end_of_stack)
1156                         arch_handle_exception (ctx, obj);
1157                 else
1158                         mono_jit_abort (obj);
1159
1160         } else {
1161                 gpointer *lmf_addr = TlsGetValue (lmf_thread_id);
1162                 MonoLMF *lmf;
1163                 MonoMethod *m;
1164
1165                 g_assert (lmf_addr);
1166                 lmf = *((MonoLMF **)lmf_addr);
1167
1168                 if (!lmf)
1169                         mono_jit_abort (obj);
1170
1171                 m = lmf->method;
1172
1173                 *lmf_addr = lmf->previous_lmf;
1174
1175                 ctx->esi = lmf->esi;
1176                 ctx->edi = lmf->edi;
1177                 ctx->ebx = lmf->ebx;
1178                 ctx->ebp = lmf->ebp;
1179                 ctx->eip = lmf->eip;
1180                 ctx->esp = lmf;
1181
1182                 /*
1183                 g_warning ("Exception inside unmanaged code. %s.%s::%s %p", m->klass->name_space,
1184                            m->klass->name, m->name, lmf->previous_lmf);
1185                 */
1186
1187                 if (ctx->eip < (unsigned)mono_end_of_stack)
1188                         arch_handle_exception (ctx, obj);
1189                 else
1190                         mono_jit_abort (obj);
1191         }
1192
1193         g_assert_not_reached ();
1194 }
1195
1196 static void
1197 throw_exception (unsigned long eax, unsigned long ecx, unsigned long edx, unsigned long ebx,
1198                  unsigned long esi, unsigned long edi, unsigned long ebp, MonoObject *exc,
1199                  unsigned long eip,  unsigned long esp)
1200 {
1201         struct sigcontext ctx;
1202
1203         ctx.esp = esp;
1204         ctx.eip = eip;
1205         ctx.ebp = ebp;
1206         ctx.edi = edi;
1207         ctx.esi = esi;
1208         ctx.ebx = ebx;
1209         ctx.edx = edx;
1210         ctx.ecx = ecx;
1211         ctx.eax = eax;
1212
1213         arch_handle_exception (&ctx, exc);
1214
1215         g_assert_not_reached ();
1216 }
1217
1218 gpointer
1219 arch_get_throw_exception (void)
1220 {
1221         static guint8 *start = NULL;
1222         guint8 *code;
1223
1224         if (start)
1225                 return start;
1226
1227         code = start = g_malloc (1024);
1228
1229         x86_push_reg (code, X86_ESP);
1230         x86_push_membase (code, X86_ESP, 4); /* IP */
1231         x86_push_membase (code, X86_ESP, 12); /* exception */
1232         x86_push_reg (code, X86_EBP);
1233         x86_push_reg (code, X86_EDI);
1234         x86_push_reg (code, X86_ESI);
1235         x86_push_reg (code, X86_EBX);
1236         x86_push_reg (code, X86_EDX);
1237         x86_push_reg (code, X86_ECX);
1238         x86_push_reg (code, X86_EAX);
1239         x86_call_code (code, throw_exception);
1240         /* we should never reach this breakpoint */
1241         x86_breakpoint (code);
1242
1243         return start;
1244 }
1245
1246
1247
1248