bug fix in static delegate invoke
[mono.git] / mono / jit / emit-x86.c
1 /*
2  * emit-x86.c: Support functions for emitting x86 code
3  *
4  * Authors:
5  *   Dietmar Maurer (dietmar@ximian.com)
6  *   Miguel de Icaza (miguel@ximian.com)
7  *
8  * (C) 2001 Ximian, Inc.
9  */
10
11 #include <config.h>
12 #include <glib.h>
13
14 #include <mono/metadata/assembly.h>
15 #include <mono/metadata/loader.h>
16 #include <mono/metadata/cil-coff.h>
17 #include <mono/metadata/tabledefs.h>
18 #include <mono/metadata/class.h>
19 #include <mono/metadata/mono-endian.h>
20 #include <mono/arch/x86/x86-codegen.h>
21
22 #include "jit.h"
23 #include "codegen.h"
24 #include "debug.h"
25
26 static void
27 enter_method (MonoMethod *method, gpointer ebp)
28 {
29         int i, j;
30         MonoClass *class;
31         MonoObject *o;
32
33         printf ("ENTER: %s.%s::%s\n(", method->klass->name_space,
34                 method->klass->name, method->name);
35
36         
37         if (((int)ebp & 3) != 0) {
38                 g_error ("unaligned stack detected (%p)", ebp);
39         }
40
41         ebp += 8;
42
43         if (ISSTRUCT (method->signature->ret)) {
44                 int size, align;
45                 
46                 g_assert (!method->signature->ret->byref);
47
48                 size = mono_type_stack_size (method->signature->ret, &align);
49
50                 printf ("VALUERET:%p, ", *((gpointer *)ebp));
51                 ebp += sizeof (gpointer);
52         }
53
54         if (method->signature->hasthis) {
55                 if (method->klass->valuetype) {
56                         printf ("value:%p, ", *((gpointer *)ebp));
57                 } else {
58                         o = *((MonoObject **)ebp);
59
60                         g_assert (o);
61
62                         class = o->vtable->klass;
63
64                         if (class == mono_defaults.string_class) {
65                                 printf ("this:[STRING:%p:%s], ", o, mono_string_to_utf8 ((MonoString *)o));
66                         } else {
67                                 printf ("this:%p[%s.%s], ", o, class->name_space, class->name);
68                         }
69                 }
70                 ebp += sizeof (gpointer);
71         }
72
73         for (i = 0; i < method->signature->param_count; ++i) {
74                 MonoType *type = method->signature->params [i];
75                 int size, align;
76                 size = mono_type_stack_size (type, &align);
77
78                 if (type->byref) {
79                         printf ("[BYREF:%p], ", *((gpointer *)ebp)); 
80                 } else switch (type->type) {
81                         
82                 case MONO_TYPE_BOOLEAN:
83                 case MONO_TYPE_CHAR:
84                 case MONO_TYPE_I1:
85                 case MONO_TYPE_U1:
86                 case MONO_TYPE_I2:
87                 case MONO_TYPE_U2:
88                 case MONO_TYPE_I4:
89                 case MONO_TYPE_U4:
90                 case MONO_TYPE_I:
91                 case MONO_TYPE_U:
92                         printf ("%d, ", *((int *)(ebp)));
93                         break;
94                 case MONO_TYPE_STRING: {
95                         MonoString *s = *((MonoString **)ebp);
96                         if (s) {
97                                 g_assert (((MonoObject *)s)->vtable->klass == mono_defaults.string_class);
98                                 printf ("[STRING:%p:%s], ", s, mono_string_to_utf8 (s));
99                         } else 
100                                 printf ("[STRING:null], ");
101                         break;
102                 }
103                 case MONO_TYPE_CLASS:
104                 case MONO_TYPE_OBJECT: {
105                         o = *((MonoObject **)ebp);
106                         if (o) {
107                                 class = o->vtable->klass;
108                     
109                                 if (class == mono_defaults.string_class) {
110                                         printf ("[STRING:%p:%s], ", o, mono_string_to_utf8 ((MonoString *)o));
111                                 } else if (class == mono_defaults.int32_class) {
112                                         printf ("[INT32:%p:%d], ", o, *(gint32 *)((gpointer)o + sizeof (MonoObject)));
113                                 } else
114                                         printf ("[%s.%s:%p], ", class->name_space, class->name, o);
115                         } else {
116                                 printf ("%p, ", *((gpointer *)(ebp)));                          
117                         }
118                         break;
119                 }
120                 case MONO_TYPE_PTR:
121                 case MONO_TYPE_FNPTR:
122                 case MONO_TYPE_ARRAY:
123                 case MONO_TYPE_SZARRAY:
124                         printf ("%p, ", *((gpointer *)(ebp)));
125                         break;
126                 case MONO_TYPE_I8:
127                         printf ("%lld, ", *((gint64 *)(ebp)));
128                         break;
129                 case MONO_TYPE_R4:
130                         printf ("%f, ", *((float *)(ebp)));
131                         break;
132                 case MONO_TYPE_R8:
133                         printf ("%f, ", *((double *)(ebp)));
134                         break;
135                 case MONO_TYPE_VALUETYPE: 
136                         printf ("[");
137                         for (j = 0; j < size; j++)
138                                 printf ("%02x,", *((guint8*)ebp +j));
139                         printf ("], ");
140                         break;
141                 default:
142                         printf ("XX, ");
143                 }
144
145                 g_assert (align == 4);
146                 ebp += size + 3;
147                 ebp = (gpointer)((unsigned)ebp & ~(3));
148         }
149
150         printf (")\n");
151 }
152
153 static void
154 leave_method (MonoMethod *method, int edx, int eax, double test)
155 {
156         gint64 l;
157
158         printf ("LEAVE: %s.%s::%s ", method->klass->name_space,
159                 method->klass->name, method->name);
160
161         switch (method->signature->ret->type) {
162         case MONO_TYPE_VOID:
163                 break;
164         case MONO_TYPE_BOOLEAN:
165                 if (eax)
166                         printf ("TRUE:%d", eax);
167                 else 
168                         printf ("FALSE");
169                         
170                 break;
171         case MONO_TYPE_CHAR:
172         case MONO_TYPE_I1:
173         case MONO_TYPE_U1:
174         case MONO_TYPE_I2:
175         case MONO_TYPE_U2:
176         case MONO_TYPE_I4:
177         case MONO_TYPE_U4:
178         case MONO_TYPE_I:
179         case MONO_TYPE_U:
180                 printf ("EAX=%d", eax);
181                 break;
182         case MONO_TYPE_STRING: {
183                 MonoString *s = (MonoString *)eax;
184
185                 if (s) {
186                         g_assert (((MonoObject *)s)->vtable->klass == mono_defaults.string_class);
187                         printf ("[STRING:%p:%s]", s, mono_string_to_utf8 (s));
188                 } else 
189                         printf ("[STRING:null], ");
190                 break;
191         }
192         case MONO_TYPE_OBJECT: {
193                 MonoObject *o = (MonoObject *)eax;
194
195                 if (o) {
196                         if (o->vtable->klass == mono_defaults.boolean_class) {
197                                 printf ("[BOOLEAN:%p:%d]", o, *((guint8 *)o + sizeof (MonoObject)));            
198                         } else if  (o->vtable->klass == mono_defaults.int32_class) {
199                                 printf ("[INT32:%p:%d]", o, *((gint32 *)((gpointer)o + sizeof (MonoObject))));  
200                         } else
201                                 printf ("[%s.%s:%p]", o->vtable->klass->name_space, o->vtable->klass->name, o);
202                 } else
203                         printf ("[OBJECT:%p]", o);
204                
205                 break;
206         }
207         case MONO_TYPE_CLASS:
208         case MONO_TYPE_PTR:
209         case MONO_TYPE_FNPTR:
210         case MONO_TYPE_ARRAY:
211         case MONO_TYPE_SZARRAY:
212                 printf ("EAX=%p", (gpointer)eax);
213                 break;
214         case MONO_TYPE_I8:
215                 *((gint32 *)&l) = eax;
216                 *((gint32 *)&l + 1) = edx;
217                 printf ("EAX/EDX=%lld", l);
218                 break;
219         case MONO_TYPE_R8:
220                 printf ("FP=%f\n", test);
221                 break;
222         default:
223                 printf ("(unknown return type)");
224         }
225
226         printf ("\n");
227 }
228
229 /**
230  * arch_emit_prologue:
231  * @cfg: pointer to status information
232  *
233  * Emits the function prolog.
234  */
235 static void
236 arch_emit_prologue (MonoFlowGraph *cfg)
237 {
238         x86_push_reg (cfg->code, X86_EBP);
239         x86_mov_reg_reg (cfg->code, X86_EBP, X86_ESP, 4);
240
241         if (cfg->locals_size)
242                 x86_alu_reg_imm (cfg->code, X86_SUB, X86_ESP, cfg->locals_size);
243
244         if (mono_regset_reg_used (cfg->rs, X86_EBX)) 
245                 x86_push_reg (cfg->code, X86_EBX);
246
247         if (mono_regset_reg_used (cfg->rs, X86_EDI)) 
248                 x86_push_reg (cfg->code, X86_EDI);
249
250         if (mono_regset_reg_used (cfg->rs, X86_ESI))
251                 x86_push_reg (cfg->code, X86_ESI);
252
253         if (mono_jit_trace_calls) {
254                 x86_push_reg (cfg->code, X86_EBP);
255                 x86_push_imm (cfg->code, cfg->method);
256                 x86_mov_reg_imm (cfg->code, X86_EAX, enter_method);
257                 x86_call_reg (cfg->code, X86_EAX);
258                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 8);
259         }
260 }
261
262 /**
263  * arch_emit_epilogue:
264  * @cfg: pointer to status information
265  *
266  * Emits the function epilog.
267  */
268 static void
269 arch_emit_epilogue (MonoFlowGraph *cfg)
270 {
271         if (mono_jit_trace_calls) {
272                 x86_fld_reg (cfg->code, 0);
273                 x86_alu_reg_imm (cfg->code, X86_SUB, X86_ESP, 8);
274                 x86_fst_membase (cfg->code, X86_ESP, 0, TRUE, TRUE);
275                 x86_push_reg (cfg->code, X86_EAX);
276                 x86_push_reg (cfg->code, X86_EDX);
277                 x86_push_imm (cfg->code, cfg->method);
278                 x86_mov_reg_imm (cfg->code, X86_EAX, leave_method);
279                 x86_call_reg (cfg->code, X86_EAX);
280                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 4);
281                 x86_pop_reg (cfg->code, X86_EDX);
282                 x86_pop_reg (cfg->code, X86_EAX);
283                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 8);
284         }
285
286         if (mono_regset_reg_used (cfg->rs, X86_ESI))
287                 x86_pop_reg (cfg->code, X86_ESI);
288
289         if (mono_regset_reg_used (cfg->rs, X86_EDI))
290                 x86_pop_reg (cfg->code, X86_EDI);
291
292         if (mono_regset_reg_used (cfg->rs, X86_EBX))
293                 x86_pop_reg (cfg->code, X86_EBX);
294
295         x86_leave (cfg->code);
296         x86_ret (cfg->code);
297 }
298
299 /*
300  * get_unbox_trampoline:
301  * @m: method pointer
302  *
303  * when value type methods are called through the vtable we need to unbox the
304  * this argument. This method returns a pointer to a trampoline which does
305  * unboxing before calling the method
306  */
307 static gpointer
308 get_unbox_trampoline (MonoMethod *m)
309 {
310         gpointer p = arch_compile_method (m);
311         guint8 *code, *start;
312         int this_pos = 4;
313
314         if (!m->signature->ret->byref && m->signature->ret->type == MONO_TYPE_VALUETYPE)
315                 this_pos = 8;
316             
317         start = code = g_malloc (16);
318
319         x86_alu_membase_imm (code, X86_ADD, X86_ESP, this_pos, sizeof (MonoObject));
320         x86_jump_code (code, p);
321         g_assert ((code - start) < 16);
322
323         return start;
324 }
325
326 /**
327  * x86_magic_trampoline:
328  * @eax: saved x86 register 
329  * @ecx: saved x86 register 
330  * @edx: saved x86 register 
331  * @esi: saved x86 register 
332  * @edi: saved x86 register 
333  * @ebx: saved x86 register
334  * @code: pointer into caller code
335  * @method: the method to translate
336  *
337  * This method is called by the trampoline functions for virtual
338  * methods. It inspects the caller code to find the address of the
339  * vtable slot, then calls the JIT compiler and writes the address
340  * of the compiled method back to the vtable. All virtual methods 
341  * are called with: x86_call_membase (inst, basereg, disp). We always
342  * use 32 bit displacement to ensure that the length of the call 
343  * instruction is 6 bytes. We need to get the value of the basereg 
344  * and the constant displacement.
345  */
346 static gpointer
347 x86_magic_trampoline (int eax, int ecx, int edx, int esi, int edi, 
348                       int ebx, const guint8 *code, MonoMethod *m)
349 {
350         guint8 reg;
351         gint32 disp;
352         gpointer o;
353
354         /* go to the start of the call instruction
355          *
356          * address_byte = (m << 6) | (o << 3) | reg
357          * call opcode: 0xff address_byte displacement
358          * 0xff m=1,o=2 imm8
359          * 0xff m=2,o=2 imm32
360          */
361         code -= 6;
362         if ((code [3] == 0xff) && ((code [4] & 0x18) == 0x10) && ((code [4] >> 6) == 1)) {
363                 reg = code [4] & 0x07;
364                 disp = (signed char)code [5];
365         } else {
366                 if ((code [0] == 0xff) && ((code [1] & 0x18) == 0x10) && ((code [1] >> 6) == 2)) {
367                         reg = code [1] & 0x07;
368                         disp = *((gint32*)(code + 2));
369                 } else {
370                         g_assert_not_reached ();
371                 }
372         }
373
374         switch (reg) {
375         case X86_EAX:
376                 o = (gpointer)eax;
377                 break;
378         case X86_EDX:
379                 o = (gpointer)edx;
380                 break;
381         case X86_ECX:
382                 o = (gpointer)ecx;
383                 break;
384         case X86_ESI:
385                 o = (gpointer)esi;
386                 break;
387         case X86_EDI:
388                 o = (gpointer)edi;
389                 break;
390         case X86_EBX:
391                 o = (gpointer)ebx;
392                 break;
393         default:
394                 g_assert_not_reached ();
395         }
396
397         o += disp;
398
399         if (m->klass->valuetype) {
400                 return *((gpointer *)o) = get_unbox_trampoline (m);
401         } else
402                 return *((gpointer *)o) = arch_compile_method (m);
403 }
404
405 /**
406  * arch_create_jit_trampoline:
407  * @method: pointer to the method info
408  *
409  * Creates a trampoline function for virtual methods. If the created
410  * code is called it first starts JIT compilation of method,
411  * and then calls the newly created method. I also replaces the
412  * corresponding vtable entry (see x86_magic_trampoline).
413  * 
414  * Returns: a pointer to the newly created code 
415  */
416 gpointer
417 arch_create_jit_trampoline (MonoMethod *method)
418 {
419         guint8 *code, *buf;
420         static guint8 *vc = NULL;
421
422         if (method->addr)
423                 return method->addr;
424
425         if (!vc) {
426                 vc = buf = g_malloc (24);
427
428                 /* push the return address onto the stack */
429                 x86_push_membase (buf, X86_ESP, 4);
430
431                 /* save all register values */
432                 x86_push_reg (buf, X86_EBX);
433                 x86_push_reg (buf, X86_EDI);
434                 x86_push_reg (buf, X86_ESI);
435                 x86_push_reg (buf, X86_EDX);
436                 x86_push_reg (buf, X86_ECX);
437                 x86_push_reg (buf, X86_EAX);
438
439                 x86_call_code (buf, x86_magic_trampoline);
440                 x86_alu_reg_imm (buf, X86_ADD, X86_ESP, 8*4);
441
442                 /* call the compiled method */
443                 x86_jump_reg (buf, X86_EAX);
444
445                 g_assert ((buf - vc) <= 24);
446         }
447
448         code = buf = g_malloc (16);
449         x86_push_imm (buf, method);
450         x86_jump_code (buf, vc);
451         g_assert ((buf - code) <= 16);
452
453         return code;
454 }
455
456 /**
457  * arch_create_simple_jit_trampoline:
458  * @method: pointer to the method info
459  *
460  * Creates a trampoline function for method. If the created
461  * code is called it first starts JIT compilation of method,
462  * and then calls the newly created method. I also replaces the
463  * address in method->addr with the result of the JIT 
464  * compilation step (in arch_compile_method).
465  * 
466  * Returns: a pointer to the newly created code 
467  */
468 gpointer
469 arch_create_simple_jit_trampoline (MonoMethod *method)
470 {
471         guint8 *code, *buf;
472
473         if (method->addr)
474                 return method->addr;
475
476         /* we never free the allocated code buffer */
477         code = buf = g_malloc (16);
478         x86_push_imm (buf, method);
479         x86_call_code (buf, arch_compile_method);
480         x86_alu_reg_imm (buf, X86_ADD, X86_ESP, 4);
481         /* jump to the compiled method */
482         x86_jump_reg (buf, X86_EAX);
483         g_assert ((buf - code) < 16);
484
485         return code;
486 }
487
488 static void
489 mono_label_cfg (MonoFlowGraph *cfg)
490 {
491         int i, j;
492         
493         for (i = 0; i < cfg->block_count; i++) {
494                 GPtrArray *forest = cfg->bblocks [i].forest;
495                 const int top = forest->len;
496
497                 for (j = 0; j < top; j++) {
498                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
499                         MBState *mbstate;
500
501                         mbstate =  mono_burg_label (t1, cfg);
502                         if (!mbstate) {
503                                 cfg->invalid = 1;
504                                 if (mono_debug_handle)
505                                         return;
506                                 g_warning ("tree does not match");
507                                 mono_print_ctree (t1); printf ("\n\n");
508
509                                 mono_print_forest (forest);
510                                 g_assert_not_reached ();
511                         }
512                 }
513         }
514 }
515
516 static void
517 tree_preallocate_regs (MBTree *tree, int goal, MonoRegSet *rs) 
518 {
519         switch (tree->op) {
520         case MB_TERM_CALL_I4:
521         case MB_TERM_CALL_I8:
522         case MB_TERM_CALL_R8:
523 //      case MB_TERM_CALL_VOID :
524                 tree->reg1 = mono_regset_alloc_reg (rs, X86_EAX, tree->exclude_mask);
525                 tree->reg2 = mono_regset_alloc_reg (rs, X86_EDX, tree->exclude_mask);
526                 tree->reg3 = mono_regset_alloc_reg (rs, X86_ECX, tree->exclude_mask);
527                 return;
528         default: break;
529         }
530
531         switch (goal) {
532         case MB_NTERM_reg:
533         case MB_NTERM_lreg: {
534                 switch (tree->op) {
535                 case MB_TERM_SHL:
536                 case MB_TERM_SHR:
537                 case MB_TERM_SHR_UN:
538                         tree->exclude_mask |= (1 << X86_ECX);
539                         tree->left->exclude_mask |= (1 << X86_ECX);
540                         break;
541                 case MB_TERM_MUL:
542                 case MB_TERM_MUL_OVF:
543                 case MB_TERM_MUL_OVF_UN:
544                 case MB_TERM_DIV:
545                 case MB_TERM_DIV_UN:
546                 case MB_TERM_REM:
547                 case MB_TERM_REM_UN:
548                         tree->reg1 = mono_regset_alloc_reg (rs, X86_EAX, tree->exclude_mask);
549                         tree->reg2 = mono_regset_alloc_reg (rs, X86_EDX, tree->exclude_mask);
550                         if (goal == MB_NTERM_reg) {
551                                 tree->left->exclude_mask |= (1 << X86_EDX);
552                                 tree->right->exclude_mask |= (1 << X86_EDX) | (1 << X86_EAX);
553                         }
554                         break;
555                 default:
556                         break;
557                 }
558                 break;
559         }
560         default:
561                 break;
562         }
563 }
564
565 static void
566 tree_allocate_regs (MBTree *tree, int goal, MonoRegSet *rs) 
567 {
568         MBTree *kids[10];
569         int ern = mono_burg_rule (tree->state, goal);
570         const guint16 *nts = mono_burg_nts [ern];
571         int i;
572         
573         mono_burg_kids (tree, ern, kids);
574
575         //printf ("RALLOC START %d %p %d\n",  tree->op, rs->free_mask, goal);
576
577         if (nts [0] && kids [0] == tree) {
578                 /* chain rule */
579                 tree_allocate_regs (kids [0], nts [0], rs);
580                 return;
581         }
582
583         for (i = 0; nts [i]; i++)
584                 tree_preallocate_regs (kids [i], nts [i], rs);
585
586         for (i = 0; nts [i]; i++)
587                 tree_allocate_regs (kids [i], nts [i], rs);
588
589         for (i = 0; nts [i]; i++) {
590                 mono_regset_free_reg (rs, kids [i]->reg1);
591                 mono_regset_free_reg (rs, kids [i]->reg2);
592                 mono_regset_free_reg (rs, kids [i]->reg3);
593         }
594
595         switch (goal) {
596         case MB_NTERM_reg:
597                 if (tree->reg1 < 0) { 
598                         tree->reg1 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
599                         g_assert (tree->reg1 != -1);
600                 }
601                 break;
602
603         case MB_NTERM_lreg:
604                 if (tree->reg1 < 0) { 
605                         tree->reg1 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
606                         g_assert (tree->reg1 != -1);
607                 }
608                 if (tree->reg2 < 0) { 
609                         tree->reg2 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
610                         g_assert (tree->reg2 != -1);
611                 }
612                 break;
613
614         case MB_NTERM_freg:
615                 /* fixme: allocate floating point registers */
616                 break;
617       
618         case MB_NTERM_addr:
619                 if (tree->op == MB_TERM_ADD) {
620                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
621                         tree->reg2 = mono_regset_alloc_reg (rs, tree->right->reg1, tree->exclude_mask);
622                 }
623                 break;
624                 
625         case MB_NTERM_base:
626                 if (tree->op == MB_TERM_ADD) {
627                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
628                 }
629                 break;
630                
631         case MB_NTERM_index:
632                 if (tree->op == MB_TERM_SHL ||
633                     tree->op == MB_TERM_MUL) {
634                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
635                 }
636                 break;
637                
638         default:
639                 /* do nothing */
640         }
641
642         //printf ("RALLOC END %d %p\n",  tree->op, rs->free_mask);
643         tree->emit = mono_burg_func [ern];
644 }
645
646 static void
647 arch_allocate_regs (MonoFlowGraph *cfg)
648 {
649         int i, j;
650         
651         for (i = 0; i < cfg->block_count; i++) {
652                 GPtrArray *forest = cfg->bblocks [i].forest;
653                 const int top = forest->len;
654
655                 for (j = 0; j < top; j++) {
656                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
657                         //printf ("AREGSTART %d:%d %p\n", i, j, cfg->rs->free_mask);
658                         tree_allocate_regs (t1, 1, cfg->rs);
659                         //printf ("AREGENDT %d:%d %p\n", i, j, cfg->rs->free_mask);
660                         g_assert (cfg->rs->free_mask == 0xffffffff);
661                 }
662         }
663 }
664
665 static void
666 tree_emit (int goal, MonoFlowGraph *cfg, MBTree *tree) 
667 {
668         MBTree *kids[10];
669         int i, ern = mono_burg_rule (tree->state, goal);
670         const guint16 *nts = mono_burg_nts [ern];
671         MBEmitFunc emit;
672         int offset;
673
674         mono_burg_kids (tree, ern, kids);
675
676         for (i = 0; nts [i]; i++) 
677                 tree_emit (nts [i], cfg, kids [i]);
678
679         tree->addr = offset = cfg->code - cfg->start;
680
681         // we assume an instruction uses a maximum of 128 bytes
682         if ((cfg->code_size - offset) <= 128) {
683                 int add = MIN ((cfg->code_size * 2), 1024);
684
685                 cfg->code_size += add;
686                 cfg->start = g_realloc (cfg->start, cfg->code_size);
687                 g_assert (cfg->start);
688                 cfg->code = cfg->start + offset;
689         }
690
691         if ((emit = mono_burg_func [ern]))
692                 emit (tree, cfg);
693
694         g_assert ((cfg->code - cfg->start) < cfg->code_size);
695 }
696
697 static void
698 mono_emit_cfg (MonoFlowGraph *cfg)
699 {
700         int i, j;
701
702         for (i = 0; i < cfg->block_count; i++) {
703                 MonoBBlock *bb = &cfg->bblocks [i];
704                 GPtrArray *forest = bb->forest;
705                 const int top = forest->len;
706
707                 bb->addr = cfg->code - cfg->start;
708           
709                 for (j = 0; j < top; j++) {
710                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
711                         
712                         tree_emit (1, cfg, t1);
713                 }
714         }
715                 
716         cfg->epilog = cfg->code - cfg->start;
717 }
718
719 static void
720 mono_compute_branches (MonoFlowGraph *cfg)
721 {
722         guint8 *end;
723         int i, j;
724
725         end = cfg->code;
726
727         for (j = 0; j < cfg->block_count; j++) {
728                 MonoBBlock *bb = &cfg->bblocks [j];
729                 GPtrArray *forest = bb->forest;
730                 const int top = forest->len;
731         
732                 for (i = 0; i < top; i++) {
733                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, i);
734
735                         if (t1->is_jump) {
736
737                                 if (t1->op == MB_TERM_SWITCH) {
738                                         MonoBBlock **jt = (MonoBBlock **)t1->data.p;
739                                         guint32 *rt = (guint32 *)t1->data.p;
740
741                                         int m = *((guint32 *)t1->data.p) + 1;
742                                         int j;
743                                         
744                                         for (j = 1; j <= m; j++)
745                                                 rt [j] = (int)(jt [j]->addr + cfg->start);
746                                 }
747
748                                 /* emit the jump instruction again to update addresses */
749                                 cfg->code = cfg->start + t1->addr;
750                                 ((MBEmitFunc)t1->emit) (t1, cfg);
751
752                         }
753                 }
754         }
755
756         cfg->code = end;
757 }
758
759 static int
760 match_debug_method (MonoMethod* method)
761 {
762         GList *tmp = mono_debug_methods;
763
764         for (; tmp; tmp = tmp->next) {
765                 if (strcmp (method->name, tmp->data) == 0) {
766                         return 1;
767                 }
768         }
769         return 0;
770 }
771
772 /**
773  * arch_compile_method:
774  * @method: pointer to the method info
775  *
776  * JIT compilation of a single method. This method also writes the result 
777  * back to method->addr, an thus overwrites the trampoline function.
778  *
779  * Returns: a pointer to the newly created code.
780  */
781 gpointer
782 arch_compile_method (MonoMethod *method)
783 {
784         MonoFlowGraph *cfg;
785         MonoMemPool *mp = mono_mempool_new ();
786
787         g_assert (!(method->iflags & METHOD_IMPL_ATTRIBUTE_INTERNAL_CALL));
788         g_assert (!(method->flags & METHOD_ATTRIBUTE_PINVOKE_IMPL));
789
790         if (mono_jit_trace_calls || mono_jit_dump_asm || mono_jit_dump_forest) {
791                 printf ("Start JIT compilation of %s.%s:%s\n", method->klass->name_space,
792                         method->klass->name, method->name);
793         }
794
795         if (method->iflags & METHOD_IMPL_ATTRIBUTE_RUNTIME) {
796                 MonoClassField *field;
797                 const char *name = method->name;
798                 static guint target_offset = 0;
799                 static guint method_offset = 0;
800                 guint8 *code;
801                 gboolean delegate = FALSE;
802
803                 if (method->klass->parent && 
804                     method->klass->parent->parent == mono_defaults.delegate_class)
805                         delegate = TRUE;
806                                 
807                 if (!target_offset) {
808                         mono_class_init (mono_defaults.delegate_class);
809
810                         field = mono_class_get_field_from_name (mono_defaults.delegate_class, "m_target");
811                         target_offset = field->offset;
812                         field = mono_class_get_field_from_name (mono_defaults.delegate_class, "method_ptr");
813                         method_offset = field->offset;
814                 }
815                 
816                 if (delegate && *name == '.' && (strcmp (name, ".ctor") == 0)) {
817                         method->addr = code = g_malloc (32);
818                         x86_push_reg (code, X86_EBP);
819                         x86_mov_reg_reg (code, X86_EBP, X86_ESP, 4);
820                         
821                         /* load the this pointer */
822                         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 8, 4); 
823                         /* load m_target arg */
824                         x86_mov_reg_membase (code, X86_EDX, X86_EBP, 12, 4);
825                         /* store mtarget */
826                         x86_mov_membase_reg (code, X86_EAX, target_offset, X86_EDX, 4); 
827                         /* load method_ptr arg */
828                         x86_mov_reg_membase (code, X86_EDX, X86_EBP, 16, 4);
829                         /* store method_ptr */
830                         x86_mov_membase_reg (code, X86_EAX, method_offset, X86_EDX, 4); 
831
832                         x86_leave (code);
833                         x86_ret (code);
834
835                         g_assert ((code - (guint8*)method->addr) < 32);
836
837                 } else if (delegate && *name == 'I' && (strcmp (name, "Invoke") == 0)) {
838                         MonoMethodSignature *csig = method->signature;
839                         int i, arg_size, target, this_pos = 4;
840                         guint8 *source;
841                         
842                         if (csig->ret->type == MONO_TYPE_VALUETYPE) {
843                                 g_assert (!csig->ret->byref);
844                                 this_pos = 8;
845                         }
846
847                         arg_size = 0;
848                         if (csig->param_count) {
849                                 int align;
850                                 
851                                 for (i = 0; i < csig->param_count; ++i) {
852                                         arg_size += mono_type_stack_size (csig->params [i], &align);
853                                         g_assert (align == 4);
854                                 }
855                         }
856
857                         method->addr = g_malloc (64 + arg_size);
858
859                         for (i = 0; i < 2; i ++) {
860                                 int j;
861
862                                 code = method->addr;
863                                 /* load the this pointer */
864                                 x86_mov_reg_membase (code, X86_EAX, X86_ESP, this_pos, 4);
865                                 /* load mtarget */
866                                 x86_mov_reg_membase (code, X86_EDX, X86_EAX, target_offset, 4); 
867                                 /* check if zero (static method call without this pointer) */
868                                 x86_alu_reg_imm (code, X86_CMP, X86_EDX, 0);
869                                 x86_branch32 (code, X86_CC_EQ, target, TRUE); 
870                                 source = code;
871
872                                 /* virtual delegate methods: we have to replace the this pointer 
873                                  * withe the actual target */
874                                 x86_mov_membase_reg (code, X86_ESP, this_pos, X86_EDX, 4); 
875                                 /* jump to method_ptr() */
876                                 x86_jump_membase (code, X86_EAX, method_offset);
877
878                                 /* static delegate methods: we have to remove the this pointer 
879                                  * from the activation frame - I do this do creating a new 
880                                  * stack frame an copy all arguments except the this pointer */
881
882                                 target = code - source;
883                                 g_assert ((arg_size & 3) == 0);
884                                 for (j = 0; j < (arg_size>>2); j++) {
885                                         x86_push_membase (code, X86_ESP, (arg_size + this_pos));
886                                 }
887
888                                 if (this_pos == 8) 
889                                         x86_push_membase (code, X86_ESP, (arg_size + 4));
890                                 
891                                 x86_call_membase (code, X86_EAX, method_offset);
892                                 if (this_pos == 8) 
893                                         x86_alu_reg_imm (code, X86_ADD, X86_ESP, arg_size + 4);
894                                 else
895                                         x86_alu_reg_imm (code, X86_ADD, X86_ESP, arg_size);
896                                 
897                                 x86_ret (code);
898
899                         }
900
901                         g_assert ((code - (guint8*)method->addr) < (64 + arg_size));
902
903                 } else {
904                         if (mono_debug_handle)
905                                 return NULL;
906                         g_error ("Don't know how to exec runtime method %s.%s::%s", 
907                                  method->klass->name_space, method->klass->name, method->name);
908                 }
909         
910         } else {
911                 MonoMethodHeader *header = ((MonoMethodNormal *)method)->header;
912                 MonoJitInfo *ji = g_new0 (MonoJitInfo, 1);
913                 
914                 cfg = mono_cfg_new (method, mp);
915
916                 mono_analyze_flow (cfg);
917                 if (cfg->invalid)
918                         return NULL;
919
920                 mono_analyze_stack (cfg);
921                 if (cfg->invalid)
922                         return NULL;
923         
924                 cfg->rs = mono_regset_new (X86_NREG);
925                 mono_regset_reserve_reg (cfg->rs, X86_ESP);
926                 mono_regset_reserve_reg (cfg->rs, X86_EBP);
927
928                 cfg->code_size = 256;
929                 cfg->start = cfg->code = g_malloc (cfg->code_size);
930
931                 if (match_debug_method (method))
932                         x86_breakpoint (cfg->code);
933
934                 if (mono_jit_dump_forest) {
935                         int i;
936                         printf ("FOREST %s.%s:%s\n", method->klass->name_space,
937                                 method->klass->name, method->name);
938                         for (i = 0; i < cfg->block_count; i++) {
939                                 printf ("BLOCK %d:\n", i);
940                                 mono_print_forest (cfg->bblocks [i].forest);
941                         }
942                 }
943         
944                 mono_label_cfg (cfg);
945                 if (cfg->invalid)
946                         return NULL;
947
948                 arch_allocate_regs (cfg);
949
950                 /* align to 8 byte boundary */
951                 cfg->locals_size += 7;
952                 cfg->locals_size &= ~7;
953
954                 arch_emit_prologue (cfg);
955                 mono_emit_cfg (cfg);
956                 arch_emit_epilogue (cfg);               
957
958                 method->addr = cfg->start;
959
960                 mono_compute_branches (cfg);
961                 
962                 if (mono_jit_dump_asm) {
963                         char *id = g_strdup_printf ("%s.%s_%s", method->klass->name_space,
964                                                     method->klass->name, method->name);
965                         mono_disassemble_code (cfg->start, cfg->code - cfg->start, id);
966                         g_free (id);
967                 }
968                 if (mono_debug_handle)
969                         mono_debug_add_method (mono_debug_handle, cfg);
970
971                 ji->code_size = cfg->code - cfg->start;
972                 ji->used_regs = cfg->rs->used_mask;
973                 ji->method = method;
974                 ji->code_start = method->addr;
975                 mono_jit_info_table_add (mono_jit_info_table, ji);
976
977                 if (header->num_clauses) {
978                         int i, start_block, end_block;
979
980                         ji->num_clauses = header->num_clauses;
981                         ji->clauses = g_new0 (MonoJitExceptionInfo, header->num_clauses);
982
983                         for (i = 0; i < header->num_clauses; i++) {
984                                 MonoExceptionClause *ec = &header->clauses [i];
985                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
986                         
987                                 ei->flags = ec->flags;
988                                 ei->token_or_filter = ec->token_or_filter;
989
990                                 g_assert (cfg->bcinfo [ec->try_offset].is_block_start);
991                                 start_block = cfg->bcinfo [ec->try_offset].block_id;
992                                 end_block = cfg->bcinfo [ec->try_offset + ec->try_len].block_id;
993                                 g_assert (cfg->bcinfo [ec->try_offset + ec->try_len].is_block_start);
994                                 
995                                 ei->try_start = cfg->start + cfg->bblocks [start_block].addr;
996                                 ei->try_end = cfg->start + cfg->bblocks [end_block].addr;
997                                 
998                                 g_assert (cfg->bcinfo [ec->handler_offset].is_block_start);
999                                 start_block = cfg->bcinfo [ec->handler_offset].block_id;
1000                                 ei->handler_start = cfg->start + cfg->bblocks [start_block].addr;       
1001                                 
1002                                 //printf ("TEST %x %x %x\n", ei->try_start, ei->try_end, ei->handler_start);
1003                         }
1004                 }
1005                 
1006                 mono_regset_free (cfg->rs);
1007
1008                 mono_cfg_free (cfg);
1009
1010                 mono_mempool_destroy (mp);
1011
1012         }
1013
1014         if (mono_jit_trace_calls || mono_jit_dump_asm || mono_jit_dump_forest) {
1015                 printf ("END JIT compilation of %s.%s:%s %p %p\n", method->klass->name_space,
1016                         method->klass->name, method->name, method, method->addr);
1017         }
1018
1019
1020         return method->addr;
1021 }
1022
1023 /*
1024  * arch_get_restore_context:
1025  *
1026  * Returns a pointer to a method which restores a previously saved sigcontext.
1027  */
1028 static gpointer
1029 arch_get_restore_context ()
1030 {
1031         static guint8 *start = NULL;
1032         guint8 *code;
1033
1034         if (start)
1035                 return start;
1036
1037         /* restore_contect (struct sigcontext *ctx) */
1038         /* we do not restore X86_EAX, X86_EDX */
1039
1040         start = code = malloc (1024);
1041         
1042         /* load ctx */
1043         x86_mov_reg_membase (code, X86_EAX, X86_ESP, 4, 4);
1044
1045         /* get return address, stored in EDX */
1046         x86_mov_reg_membase (code, X86_EDX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, eip), 4);
1047
1048         /* restore EBX */
1049         x86_mov_reg_membase (code, X86_EBX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebx), 4);
1050         /* restore EDI */
1051         x86_mov_reg_membase (code, X86_EDI, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, edi), 4);
1052         /* restore ESI */
1053         x86_mov_reg_membase (code, X86_ESI, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, esi), 4);
1054         /* restore ESP */
1055         x86_mov_reg_membase (code, X86_ESP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, esp), 4);
1056         /* restore EBP */
1057         x86_mov_reg_membase (code, X86_EBP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebp), 4);
1058         /* restore ECX. the exception object is passed here to the catch handler */
1059         x86_mov_reg_membase (code, X86_ECX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ecx), 4);
1060
1061         /* jump to the saved IP */
1062         x86_jump_reg (code, X86_EDX);
1063
1064         return start;
1065 }
1066
1067 /*
1068  * arch_get_call_finally:
1069  *
1070  * Returns a pointer to a method which calls a finally handler.
1071  */
1072 static gpointer
1073 arch_get_call_finally ()
1074 {
1075         static guint8 *start = NULL;
1076         guint8 *code;
1077
1078         if (start)
1079                 return start;
1080
1081         /* call_finally (struct sigcontext *ctx, unsigned long eip) */
1082         start = code = malloc (1024);
1083
1084         x86_push_reg (code, X86_EBP);
1085         x86_mov_reg_reg (code, X86_EBP, X86_ESP, 4);
1086         x86_push_reg (code, X86_EBX);
1087         x86_push_reg (code, X86_EDI);
1088         x86_push_reg (code, X86_ESI);
1089
1090         /* load ctx */
1091         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 8, 4);
1092         /* load eip */
1093         x86_mov_reg_membase (code, X86_ECX, X86_EBP, 12, 4);
1094         /* save EBP */
1095         x86_push_reg (code, X86_EBP);
1096         /* set new EBP */
1097         x86_mov_reg_membase (code, X86_EBP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebp), 4);
1098         /* call the handler */
1099         x86_call_reg (code, X86_ECX);
1100         /* restore EBP */
1101         x86_pop_reg (code, X86_EBP);
1102         /* restore saved regs */
1103         x86_pop_reg (code, X86_ESI);
1104         x86_pop_reg (code, X86_EDI);
1105         x86_pop_reg (code, X86_EBX);
1106         x86_leave (code);
1107         x86_ret (code);
1108
1109         return start;
1110 }
1111
1112 /**
1113  * arch_handle_exception:
1114  * @ctx: saved processor state
1115  * @obj:
1116  */
1117 void
1118 arch_handle_exception (struct sigcontext *ctx, gpointer obj)
1119 {
1120         MonoDomain *domain = mono_domain_get ();
1121         MonoJitInfo *ji;
1122         gpointer ip = (gpointer)ctx->eip;
1123         static void (*restore_context) (struct sigcontext *);
1124         static void (*call_finally) (struct sigcontext *, unsigned long);
1125        
1126         g_assert (ctx != NULL);
1127         g_assert (obj != NULL);
1128
1129         ji = mono_jit_info_table_find (mono_jit_info_table, ip);
1130
1131         if (!restore_context)
1132                 restore_context = arch_get_restore_context ();
1133         
1134         if (!call_finally)
1135                 call_finally = arch_get_call_finally ();
1136
1137         if (ji) { /* we are inside managed code */
1138                 MonoMethod *m = ji->method;
1139                 unsigned next_bp;
1140                 int offset = 2;
1141
1142                 if (ji->num_clauses) {
1143                         int i;
1144
1145                         g_assert (ji->clauses);
1146                         
1147                         for (i = 0; i < ji->num_clauses; i++) {
1148                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
1149
1150                                 if (ei->try_start <= ip && ip <= (ei->try_end)) { 
1151                                         /* catch block */
1152                                         if (ei->flags == 0 && mono_object_isinst (obj, 
1153                                                 mono_class_get (m->klass->image, ei->token_or_filter))) {
1154                                         
1155                                                 ctx->eip = (unsigned long)ei->handler_start;
1156                                                 ctx->ecx = (unsigned long)obj;
1157                                                 restore_context (ctx);
1158                                                 g_assert_not_reached ();
1159                                         }
1160                                 }
1161                         }
1162
1163                         /* no handler found - we need to call all finally handlers */
1164                         for (i = 0; i < ji->num_clauses; i++) {
1165                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
1166
1167                                 if (ei->try_start <= ip && ip < (ei->try_end) &&
1168                                     (ei->flags & MONO_EXCEPTION_CLAUSE_FINALLY)) {
1169                                         call_finally (ctx, (unsigned long)ei->handler_start);
1170                                 }
1171                         }
1172                 }
1173
1174                 if (mono_object_isinst (obj, mono_defaults.exception_class)) {
1175                         char  *strace = mono_string_to_utf8 (((MonoException*)obj)->stack_trace);
1176                         char  *tmp;
1177
1178                         if (!strcmp (strace, "TODO: implement stack traces")){
1179                                 g_free (strace);
1180                                 strace = g_strdup ("");
1181                         }
1182
1183                         tmp = g_strdup_printf ("%sin %s.%s:%s ()\n", strace, m->klass->name_space,  
1184                                                m->klass->name, m->name);
1185
1186                         g_free (strace);
1187
1188                         ((MonoException*)obj)->stack_trace = mono_string_new (domain, tmp);
1189                         g_free (tmp);
1190                 }
1191
1192                 /* continue unwinding */
1193
1194                 /* restore caller saved registers */
1195                 if (ji->used_regs & X86_ESI_MASK) {
1196                         ctx->esi = *((int *)ctx->ebp + offset);
1197                         offset++;
1198                 }
1199                 if (ji->used_regs & X86_EDI_MASK) {
1200                         ctx->edi = *((int *)ctx->ebp + offset);
1201                         offset++;
1202                 }
1203                 if (ji->used_regs & X86_EBX_MASK) {
1204                         ctx->ebx = *((int *)ctx->ebp + offset);
1205                 }
1206
1207                 ctx->esp = ctx->ebp;
1208                 ctx->eip = *((int *)ctx->ebp + 1);
1209                 ctx->ebp = *((int *)ctx->ebp);
1210                 
1211                 if (next_bp < (unsigned)mono_end_of_stack)
1212                         arch_handle_exception (ctx, obj);
1213                 else
1214                         mono_jit_abort (obj);
1215
1216         } else {
1217                 gpointer *lmf_addr = TlsGetValue (lmf_thread_id);
1218                 MonoLMF *lmf;
1219                 MonoMethod *m;
1220
1221                 g_assert (lmf_addr);
1222                 lmf = *((MonoLMF **)lmf_addr);
1223
1224                 if (!lmf)
1225                         mono_jit_abort (obj);
1226
1227                 m = lmf->method;
1228
1229                 *lmf_addr = lmf->previous_lmf;
1230
1231                 ctx->esi = lmf->esi;
1232                 ctx->edi = lmf->edi;
1233                 ctx->ebx = lmf->ebx;
1234                 ctx->ebp = lmf->ebp;
1235                 ctx->eip = lmf->eip;
1236                 ctx->esp = (unsigned long)lmf;
1237
1238                 if (mono_object_isinst (obj, mono_defaults.exception_class)) {
1239                         char  *strace = mono_string_to_utf8 (((MonoException*)obj)->stack_trace);
1240                         char  *tmp;
1241
1242                         if (!strcmp (strace, "TODO: implement stack traces"))
1243                                 strace = g_strdup ("");
1244
1245                         tmp = g_strdup_printf ("%sin (unmanaged) %s.%s:%s ()\n", strace, m->klass->name_space,  
1246                                                m->klass->name, m->name);
1247
1248                         g_free (strace);
1249
1250                         ((MonoException*)obj)->stack_trace = mono_string_new (domain, tmp);
1251                         g_free (tmp);
1252                 }
1253
1254                 if (ctx->eip < (unsigned)mono_end_of_stack)
1255                         arch_handle_exception (ctx, obj);
1256                 else
1257                         mono_jit_abort (obj);
1258         }
1259
1260         g_assert_not_reached ();
1261 }
1262
1263 static void
1264 throw_exception (unsigned long eax, unsigned long ecx, unsigned long edx, unsigned long ebx,
1265                  unsigned long esi, unsigned long edi, unsigned long ebp, MonoObject *exc,
1266                  unsigned long eip,  unsigned long esp)
1267 {
1268         struct sigcontext ctx;
1269         
1270         ctx.esp = esp;
1271         ctx.eip = eip;
1272         ctx.ebp = ebp;
1273         ctx.edi = edi;
1274         ctx.esi = esi;
1275         ctx.ebx = ebx;
1276         ctx.edx = edx;
1277         ctx.ecx = ecx;
1278         ctx.eax = eax;
1279         
1280         arch_handle_exception (&ctx, exc);
1281
1282         g_assert_not_reached ();
1283 }
1284
1285 gpointer 
1286 arch_get_throw_exception (void)
1287 {
1288         static guint8 *start = NULL;
1289         guint8 *code;
1290
1291         if (start)
1292                 return start;
1293
1294         code = start = g_malloc (1024);
1295
1296         x86_push_reg (code, X86_ESP);
1297         x86_push_membase (code, X86_ESP, 4); /* IP */
1298         x86_push_membase (code, X86_ESP, 12); /* exception */
1299         x86_push_reg (code, X86_EBP);
1300         x86_push_reg (code, X86_EDI);
1301         x86_push_reg (code, X86_ESI);
1302         x86_push_reg (code, X86_EBX);
1303         x86_push_reg (code, X86_EDX);
1304         x86_push_reg (code, X86_ECX);
1305         x86_push_reg (code, X86_EAX);
1306         x86_call_code (code, throw_exception);
1307         /* we should never reach this breakpoint */
1308         x86_breakpoint (code);
1309
1310         return start;
1311 }
1312
1313
1314
1315