(x86_magic_trampoline): moved lock/unlock to x86_magic_trampoline
[mono.git] / mono / jit / emit-x86.c
1 /*
2  * emit-x86.c: Support functions for emitting x86 code
3  *
4  * Authors:
5  *   Dietmar Maurer (dietmar@ximian.com)
6  *   Miguel de Icaza (miguel@ximian.com)
7  *
8  * (C) 2001 Ximian, Inc.
9  */
10
11 #include <config.h>
12 #include <glib.h>
13
14 #include <mono/metadata/assembly.h>
15 #include <mono/metadata/loader.h>
16 #include <mono/metadata/cil-coff.h>
17 #include <mono/metadata/tabledefs.h>
18 #include <mono/metadata/class.h>
19 #include <mono/metadata/mono-endian.h>
20 #include <mono/arch/x86/x86-codegen.h>
21
22 #include "jit.h"
23 #include "codegen.h"
24 #include "debug.h"
25
26 static void
27 enter_method (MonoMethod *method, gpointer ebp)
28 {
29         int i, j;
30         MonoClass *class;
31         MonoObject *o;
32
33         printf ("ENTER: %s.%s::%s\n(", method->klass->name_space,
34                 method->klass->name, method->name);
35
36         
37         if (((int)ebp & 3) != 0) {
38                 g_error ("unaligned stack detected (%p)", ebp);
39         }
40
41         ebp += 8;
42
43         if (ISSTRUCT (method->signature->ret)) {
44                 int size, align;
45                 
46                 g_assert (!method->signature->ret->byref);
47
48                 size = mono_type_stack_size (method->signature->ret, &align);
49
50                 printf ("VALUERET:%p, ", *((gpointer *)ebp));
51                 ebp += sizeof (gpointer);
52         }
53
54         if (method->signature->hasthis) {
55                 if (method->klass->valuetype) {
56                         printf ("value:%p, ", *((gpointer *)ebp));
57                 } else {
58                         o = *((MonoObject **)ebp);
59
60                         g_assert (o);
61
62                         class = o->vtable->klass;
63
64                         if (class == mono_defaults.string_class) {
65                                 printf ("this:[STRING:%p:%s], ", o, mono_string_to_utf8 ((MonoString *)o));
66                         } else {
67                                 printf ("this:%p[%s.%s], ", o, class->name_space, class->name);
68                         }
69                 }
70                 ebp += sizeof (gpointer);
71         }
72
73         for (i = 0; i < method->signature->param_count; ++i) {
74                 MonoType *type = method->signature->params [i];
75                 int size, align;
76                 size = mono_type_stack_size (type, &align);
77
78                 if (type->byref) {
79                         printf ("[BYREF:%p], ", *((gpointer *)ebp)); 
80                 } else switch (type->type) {
81                         
82                 case MONO_TYPE_BOOLEAN:
83                 case MONO_TYPE_CHAR:
84                 case MONO_TYPE_I1:
85                 case MONO_TYPE_U1:
86                 case MONO_TYPE_I2:
87                 case MONO_TYPE_U2:
88                 case MONO_TYPE_I4:
89                 case MONO_TYPE_U4:
90                 case MONO_TYPE_I:
91                 case MONO_TYPE_U:
92                         printf ("%d, ", *((int *)(ebp)));
93                         break;
94                 case MONO_TYPE_STRING: {
95                         MonoString *s = *((MonoString **)ebp);
96                         if (s) {
97                                 g_assert (((MonoObject *)s)->vtable->klass == mono_defaults.string_class);
98                                 printf ("[STRING:%p:%s], ", s, mono_string_to_utf8 (s));
99                         } else 
100                                 printf ("[STRING:null], ");
101                         break;
102                 }
103                 case MONO_TYPE_CLASS:
104                 case MONO_TYPE_OBJECT: {
105                         o = *((MonoObject **)ebp);
106                         if (o) {
107                                 class = o->vtable->klass;
108                     
109                                 if (class == mono_defaults.string_class) {
110                                         printf ("[STRING:%p:%s], ", o, mono_string_to_utf8 ((MonoString *)o));
111                                 } else if (class == mono_defaults.int32_class) {
112                                         printf ("[INT32:%p:%d], ", o, *(gint32 *)((gpointer)o + sizeof (MonoObject)));
113                                 } else
114                                         printf ("[%s.%s:%p], ", class->name_space, class->name, o);
115                         } else {
116                                 printf ("%p, ", *((gpointer *)(ebp)));                          
117                         }
118                         break;
119                 }
120                 case MONO_TYPE_PTR:
121                 case MONO_TYPE_FNPTR:
122                 case MONO_TYPE_ARRAY:
123                 case MONO_TYPE_SZARRAY:
124                         printf ("%p, ", *((gpointer *)(ebp)));
125                         break;
126                 case MONO_TYPE_I8:
127                         printf ("%lld, ", *((gint64 *)(ebp)));
128                         break;
129                 case MONO_TYPE_R4:
130                         printf ("%f, ", *((float *)(ebp)));
131                         break;
132                 case MONO_TYPE_R8:
133                         printf ("%f, ", *((double *)(ebp)));
134                         break;
135                 case MONO_TYPE_VALUETYPE: 
136                         printf ("[");
137                         for (j = 0; j < size; j++)
138                                 printf ("%02x,", *((guint8*)ebp +j));
139                         printf ("], ");
140                         break;
141                 default:
142                         printf ("XX, ");
143                 }
144
145                 g_assert (align == 4);
146                 ebp += size + 3;
147                 ebp = (gpointer)((unsigned)ebp & ~(3));
148         }
149
150         printf (")\n");
151 }
152
153 static void
154 leave_method (MonoMethod *method, int edx, int eax, double test)
155 {
156         gint64 l;
157
158         printf ("LEAVE: %s.%s::%s ", method->klass->name_space,
159                 method->klass->name, method->name);
160
161         switch (method->signature->ret->type) {
162         case MONO_TYPE_VOID:
163                 break;
164         case MONO_TYPE_BOOLEAN:
165                 if (eax)
166                         printf ("TRUE:%d", eax);
167                 else 
168                         printf ("FALSE");
169                         
170                 break;
171         case MONO_TYPE_CHAR:
172         case MONO_TYPE_I1:
173         case MONO_TYPE_U1:
174         case MONO_TYPE_I2:
175         case MONO_TYPE_U2:
176         case MONO_TYPE_I4:
177         case MONO_TYPE_U4:
178         case MONO_TYPE_I:
179         case MONO_TYPE_U:
180                 printf ("EAX=%d", eax);
181                 break;
182         case MONO_TYPE_STRING: {
183                 MonoString *s = (MonoString *)eax;
184
185                 if (s) {
186                         g_assert (((MonoObject *)s)->vtable->klass == mono_defaults.string_class);
187                         printf ("[STRING:%p:%s]", s, mono_string_to_utf8 (s));
188                 } else 
189                         printf ("[STRING:null], ");
190                 break;
191         }
192         case MONO_TYPE_OBJECT: {
193                 MonoObject *o = (MonoObject *)eax;
194
195                 if (o) {
196                         if (o->vtable->klass == mono_defaults.boolean_class) {
197                                 printf ("[BOOLEAN:%p:%d]", o, *((guint8 *)o + sizeof (MonoObject)));            
198                         } else if  (o->vtable->klass == mono_defaults.int32_class) {
199                                 printf ("[INT32:%p:%d]", o, *((gint32 *)((gpointer)o + sizeof (MonoObject))));  
200                         } else
201                                 printf ("[%s.%s:%p]", o->vtable->klass->name_space, o->vtable->klass->name, o);
202                 } else
203                         printf ("[OBJECT:%p]", o);
204                
205                 break;
206         }
207         case MONO_TYPE_CLASS:
208         case MONO_TYPE_PTR:
209         case MONO_TYPE_FNPTR:
210         case MONO_TYPE_ARRAY:
211         case MONO_TYPE_SZARRAY:
212                 printf ("EAX=%p", (gpointer)eax);
213                 break;
214         case MONO_TYPE_I8:
215                 *((gint32 *)&l) = eax;
216                 *((gint32 *)&l + 1) = edx;
217                 printf ("EAX/EDX=%lld", l);
218                 break;
219         case MONO_TYPE_R8:
220                 printf ("FP=%f\n", test);
221                 break;
222         default:
223                 printf ("(unknown return type)");
224         }
225
226         printf ("\n");
227 }
228
229 /**
230  * arch_emit_prologue:
231  * @cfg: pointer to status information
232  *
233  * Emits the function prolog.
234  */
235 static void
236 arch_emit_prologue (MonoFlowGraph *cfg)
237 {
238         x86_push_reg (cfg->code, X86_EBP);
239         x86_mov_reg_reg (cfg->code, X86_EBP, X86_ESP, 4);
240
241         if (cfg->locals_size)
242                 x86_alu_reg_imm (cfg->code, X86_SUB, X86_ESP, cfg->locals_size);
243
244         if (mono_regset_reg_used (cfg->rs, X86_EBX)) 
245                 x86_push_reg (cfg->code, X86_EBX);
246
247         if (mono_regset_reg_used (cfg->rs, X86_EDI)) 
248                 x86_push_reg (cfg->code, X86_EDI);
249
250         if (mono_regset_reg_used (cfg->rs, X86_ESI))
251                 x86_push_reg (cfg->code, X86_ESI);
252
253         if (mono_jit_trace_calls) {
254                 x86_push_reg (cfg->code, X86_EBP);
255                 x86_push_imm (cfg->code, cfg->method);
256                 x86_mov_reg_imm (cfg->code, X86_EAX, enter_method);
257                 x86_call_reg (cfg->code, X86_EAX);
258                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 8);
259         }
260 }
261
262 /**
263  * arch_emit_epilogue:
264  * @cfg: pointer to status information
265  *
266  * Emits the function epilog.
267  */
268 static void
269 arch_emit_epilogue (MonoFlowGraph *cfg)
270 {
271         if (mono_jit_trace_calls) {
272                 x86_fld_reg (cfg->code, 0);
273                 x86_alu_reg_imm (cfg->code, X86_SUB, X86_ESP, 8);
274                 x86_fst_membase (cfg->code, X86_ESP, 0, TRUE, TRUE);
275                 x86_push_reg (cfg->code, X86_EAX);
276                 x86_push_reg (cfg->code, X86_EDX);
277                 x86_push_imm (cfg->code, cfg->method);
278                 x86_mov_reg_imm (cfg->code, X86_EAX, leave_method);
279                 x86_call_reg (cfg->code, X86_EAX);
280                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 4);
281                 x86_pop_reg (cfg->code, X86_EDX);
282                 x86_pop_reg (cfg->code, X86_EAX);
283                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 8);
284         }
285
286         if (mono_regset_reg_used (cfg->rs, X86_ESI))
287                 x86_pop_reg (cfg->code, X86_ESI);
288
289         if (mono_regset_reg_used (cfg->rs, X86_EDI))
290                 x86_pop_reg (cfg->code, X86_EDI);
291
292         if (mono_regset_reg_used (cfg->rs, X86_EBX))
293                 x86_pop_reg (cfg->code, X86_EBX);
294
295         x86_leave (cfg->code);
296         x86_ret (cfg->code);
297 }
298
299 /*
300  * get_unbox_trampoline:
301  * @m: method pointer
302  * @addr: pointer to native code for @m
303  *
304  * when value type methods are called through the vtable we need to unbox the
305  * this argument. This method returns a pointer to a trampoline which does
306  * unboxing before calling the method
307  */
308 static gpointer
309 get_unbox_trampoline (MonoMethod *m, gpointer addr)
310 {
311         guint8 *code, *start;
312         int this_pos = 4;
313
314         if (!m->signature->ret->byref && m->signature->ret->type == MONO_TYPE_VALUETYPE)
315                 this_pos = 8;
316             
317         start = code = g_malloc (16);
318
319         x86_alu_membase_imm (code, X86_ADD, X86_ESP, this_pos, sizeof (MonoObject));
320         x86_jump_code (code, addr);
321         g_assert ((code - start) < 16);
322
323         return start;
324 }
325
326 /**
327  * x86_magic_trampoline:
328  * @eax: saved x86 register 
329  * @ecx: saved x86 register 
330  * @edx: saved x86 register 
331  * @esi: saved x86 register 
332  * @edi: saved x86 register 
333  * @ebx: saved x86 register
334  * @code: pointer into caller code
335  * @method: the method to translate
336  *
337  * This method is called by the trampoline functions for virtual
338  * methods. It inspects the caller code to find the address of the
339  * vtable slot, then calls the JIT compiler and writes the address
340  * of the compiled method back to the vtable. All virtual methods 
341  * are called with: x86_call_membase (inst, basereg, disp). We always
342  * use 32 bit displacement to ensure that the length of the call 
343  * instruction is 6 bytes. We need to get the value of the basereg 
344  * and the constant displacement.
345  */
346 static gpointer
347 x86_magic_trampoline (int eax, int ecx, int edx, int esi, int edi, 
348                       int ebx, const guint8 *code, MonoMethod *m)
349 {
350         guint8 reg;
351         gint32 disp;
352         gpointer o;
353         gpointer addr;
354
355         EnterCriticalSection (metadata_section);
356         addr = arch_compile_method (m);
357         LeaveCriticalSection (metadata_section);
358         g_assert (addr);
359
360
361         /* go to the start of the call instruction
362          *
363          * address_byte = (m << 6) | (o << 3) | reg
364          * call opcode: 0xff address_byte displacement
365          * 0xff m=1,o=2 imm8
366          * 0xff m=2,o=2 imm32
367          */
368         code -= 6;
369         if ((code [1] != 0xe8) && (code [3] == 0xff) && ((code [4] & 0x18) == 0x10) && ((code [4] >> 6) == 1)) {
370                 reg = code [4] & 0x07;
371                 disp = (signed char)code [5];
372         } else {
373                 if ((code [0] == 0xff) && ((code [1] & 0x18) == 0x10) && ((code [1] >> 6) == 2)) {
374                         reg = code [1] & 0x07;
375                         disp = *((gint32*)(code + 2));
376                 } else if ((code [1] == 0xe8)) {
377                         *((guint32*)(code + 2)) = (guint)addr - ((guint)code + 1) - 5; 
378                         return addr;
379                 } else {
380                         printf ("%x %x %x %x %x %x \n", code [0], code [1], code [2], code [3],
381                                 code [4], code [5]);
382                         g_assert_not_reached ();
383                 }
384         }
385
386         switch (reg) {
387         case X86_EAX:
388                 o = (gpointer)eax;
389                 break;
390         case X86_EDX:
391                 o = (gpointer)edx;
392                 break;
393         case X86_ECX:
394                 o = (gpointer)ecx;
395                 break;
396         case X86_ESI:
397                 o = (gpointer)esi;
398                 break;
399         case X86_EDI:
400                 o = (gpointer)edi;
401                 break;
402         case X86_EBX:
403                 o = (gpointer)ebx;
404                 break;
405         default:
406                 g_assert_not_reached ();
407         }
408
409         o += disp;
410
411         if (m->klass->valuetype) {
412                 return *((gpointer *)o) = get_unbox_trampoline (m, addr);
413         } else
414                 return *((gpointer *)o) = addr;
415 }
416
417 /**
418  * arch_create_jit_trampoline:
419  * @method: pointer to the method info
420  *
421  * Creates a trampoline function for virtual methods. If the created
422  * code is called it first starts JIT compilation of method,
423  * and then calls the newly created method. I also replaces the
424  * corresponding vtable entry (see x86_magic_trampoline).
425  * 
426  * Returns: a pointer to the newly created code 
427  */
428 gpointer
429 arch_create_jit_trampoline (MonoMethod *method)
430 {
431         MonoDomain *domain = mono_domain_get ();
432         guint8 *code, *buf;
433         static guint8 *vc = NULL;
434         GHashTable *jit_code_hash;
435
436         /* icalls use method->addr */
437         if (method->addr)
438                 return method->addr;
439
440         /* previously created trampoline code */
441         if (method->info)
442                 return method->info;
443
444         /* check if we already have JITed code */
445         if (mono_jit_share_code)
446                 jit_code_hash = mono_root_domain->jit_code_hash;
447         else
448                 jit_code_hash = domain->jit_code_hash;
449
450         if ((code = g_hash_table_lookup (jit_code_hash, method))) {
451                 mono_jit_stats.methods_lookups++;
452                 return code;
453         }
454
455         if (!vc) {
456                 vc = buf = g_malloc (256);
457
458                 /* save LMF begin */
459                 x86_push_reg (buf, X86_EBX);
460                 x86_push_reg (buf, X86_EDI);
461                 x86_push_reg (buf, X86_ESI);
462                 x86_push_reg (buf, X86_EBP);
463
464                 /* save the IP (caller ip) */
465                 x86_push_membase (buf, X86_ESP, 20);
466
467                 /* save method info */
468                 x86_push_membase (buf, X86_ESP, 20);
469                 /* get the address of lmf for the current thread */
470                 x86_call_code (buf, arch_get_lmf_addr);
471                 /* push lmf */
472                 x86_push_reg (buf, X86_EAX); 
473                 /* push *lfm (previous_lmf) */
474                 x86_push_membase (buf, X86_EAX, 0);
475                 /* *(lmf) = ESP */
476                 x86_mov_membase_reg (buf, X86_EAX, 0, X86_ESP, 4);
477                 /* save LFM end */
478
479                 /* push the method info */
480                 x86_push_membase (buf, X86_ESP, 32);
481                 /* push the return address onto the stack */
482                 x86_push_membase (buf, X86_ESP, 40);
483
484                 /* save all register values */
485                 x86_push_reg (buf, X86_EBX);
486                 x86_push_reg (buf, X86_EDI);
487                 x86_push_reg (buf, X86_ESI);
488                 x86_push_reg (buf, X86_EDX);
489                 x86_push_reg (buf, X86_ECX);
490                 x86_push_reg (buf, X86_EAX);
491
492                 x86_call_code (buf, x86_magic_trampoline);
493                 x86_alu_reg_imm (buf, X86_ADD, X86_ESP, 8*4);
494
495                 /* restore LMF start */
496                 /* ebx = previous_lmf */
497                 x86_pop_reg (buf, X86_EBX);
498                 /* edi = lmf */
499                 x86_pop_reg (buf, X86_EDI);
500                 /* *(lmf) = previous_lmf */
501                 x86_mov_membase_reg (buf, X86_EDI, 0, X86_EBX, 4);
502                 /* discard method info */
503                 x86_pop_reg (buf, X86_ESI);
504                 /* discard save IP */
505                 x86_pop_reg (buf, X86_ESI);
506                 /* restore caller saved regs */
507                 x86_pop_reg (buf, X86_EBP);
508                 x86_pop_reg (buf, X86_ESI);
509                 x86_pop_reg (buf, X86_EDI);
510                 x86_pop_reg (buf, X86_EBX);
511                 /* restore LMF end */
512
513                 x86_alu_reg_imm (buf, X86_ADD, X86_ESP, 4);
514
515                 /* call the compiled method */
516                 x86_jump_reg (buf, X86_EAX);
517
518                 g_assert ((buf - vc) <= 256);
519         }
520
521         code = buf = g_malloc (16);
522         x86_push_imm (buf, method);
523         x86_jump_code (buf, vc);
524         g_assert ((buf - code) <= 16);
525
526         /* store trampoline address */
527         method->info = code;
528
529         mono_jit_stats.method_trampolines++;
530
531         return code;
532 }
533
534 static void
535 mono_label_cfg (MonoFlowGraph *cfg)
536 {
537         int i, j;
538         
539         for (i = 0; i < cfg->block_count; i++) {
540                 GPtrArray *forest = cfg->bblocks [i].forest;
541                 int top;
542
543                 if (!cfg->bblocks [i].reached) /* unreachable code */
544                         continue;
545                 
546                 top = forest->len;
547
548                 for (j = 0; j < top; j++) {
549                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
550                         MBState *mbstate;
551
552                         mbstate =  mono_burg_label (t1, cfg);
553                         if (!mbstate) {
554                                 cfg->invalid = 1;
555                                 if (mono_debug_handle)
556                                         return;
557                                 g_warning ("tree does not match");
558                                 mono_print_ctree (t1); printf ("\n\n");
559
560                                 mono_print_forest (forest);
561                                 g_assert_not_reached ();
562                         }
563                 }
564         }
565 }
566
567 static void
568 tree_preallocate_regs (MBTree *tree, int goal, MonoRegSet *rs) 
569 {
570         switch (tree->op) {
571         case MB_TERM_CALL_I4:
572         case MB_TERM_CALL_I8:
573         case MB_TERM_CALL_R8:
574 //      case MB_TERM_CALL_VOID :
575                 tree->reg1 = mono_regset_alloc_reg (rs, X86_EAX, tree->exclude_mask);
576                 tree->reg2 = mono_regset_alloc_reg (rs, X86_EDX, tree->exclude_mask);
577                 tree->reg3 = mono_regset_alloc_reg (rs, X86_ECX, tree->exclude_mask);
578                 return;
579         default: break;
580         }
581
582         switch (goal) {
583         case MB_NTERM_reg:
584         case MB_NTERM_lreg: {
585                 switch (tree->op) {
586                 case MB_TERM_SHL:
587                 case MB_TERM_SHR:
588                 case MB_TERM_SHR_UN:
589                         tree->exclude_mask |= (1 << X86_ECX);
590                         tree->left->exclude_mask |= (1 << X86_ECX);
591                         break;
592                 case MB_TERM_MUL:
593                 case MB_TERM_MUL_OVF:
594                 case MB_TERM_MUL_OVF_UN:
595                 case MB_TERM_DIV:
596                 case MB_TERM_DIV_UN:
597                 case MB_TERM_REM:
598                 case MB_TERM_REM_UN:
599                         tree->reg1 = mono_regset_alloc_reg (rs, X86_EAX, tree->exclude_mask);
600                         tree->reg2 = mono_regset_alloc_reg (rs, X86_EDX, tree->exclude_mask);
601                         if (goal == MB_NTERM_reg) {
602                                 tree->left->exclude_mask |= (1 << X86_EDX);
603                                 tree->right->exclude_mask |= (1 << X86_EDX) | (1 << X86_EAX);
604                         }
605                         break;
606                 default:
607                         break;
608                 }
609                 break;
610         }
611         default:
612                 break;
613         }
614 }
615
616 static void
617 tree_allocate_regs (MBTree *tree, int goal, MonoRegSet *rs) 
618 {
619         MBTree *kids[10];
620         int ern = mono_burg_rule (tree->state, goal);
621         const guint16 *nts = mono_burg_nts [ern];
622         int i;
623         
624         mono_burg_kids (tree, ern, kids);
625
626         //printf ("RALLOC START %d %p %d\n",  tree->op, rs->free_mask, goal);
627
628         if (nts [0] && kids [0] == tree) {
629                 /* chain rule */
630                 tree_allocate_regs (kids [0], nts [0], rs);
631                 return;
632         }
633
634         for (i = 0; nts [i]; i++)
635                 tree_preallocate_regs (kids [i], nts [i], rs);
636
637         for (i = 0; nts [i]; i++)
638                 tree_allocate_regs (kids [i], nts [i], rs);
639
640         for (i = 0; nts [i]; i++) {
641                 mono_regset_free_reg (rs, kids [i]->reg1);
642                 mono_regset_free_reg (rs, kids [i]->reg2);
643                 mono_regset_free_reg (rs, kids [i]->reg3);
644         }
645
646         switch (goal) {
647         case MB_NTERM_reg:
648                 if (tree->reg1 < 0) { 
649                         tree->reg1 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
650                         g_assert (tree->reg1 != -1);
651                 }
652                 break;
653
654         case MB_NTERM_lreg:
655                 if (tree->reg1 < 0) { 
656                         tree->reg1 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
657                         g_assert (tree->reg1 != -1);
658                 }
659                 if (tree->reg2 < 0) { 
660                         tree->reg2 = mono_regset_alloc_reg (rs, -1, tree->exclude_mask);
661                         g_assert (tree->reg2 != -1);
662                 }
663                 break;
664
665         case MB_NTERM_freg:
666                 /* fixme: allocate floating point registers */
667                 break;
668       
669         case MB_NTERM_addr:
670                 if (tree->op == MB_TERM_ADD) {
671                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
672                         tree->reg2 = mono_regset_alloc_reg (rs, tree->right->reg1, tree->exclude_mask);
673                 }
674                 break;
675                 
676         case MB_NTERM_base:
677                 if (tree->op == MB_TERM_ADD) {
678                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
679                 }
680                 break;
681                
682         case MB_NTERM_index:
683                 if (tree->op == MB_TERM_SHL ||
684                     tree->op == MB_TERM_MUL) {
685                         tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, tree->exclude_mask);
686                 }
687                 break;
688                
689         default:
690                 /* do nothing */
691         }
692
693         //printf ("RALLOC END %d %p\n",  tree->op, rs->free_mask);
694         tree->emit = mono_burg_func [ern];
695 }
696
697 static void
698 arch_allocate_regs (MonoFlowGraph *cfg)
699 {
700         int i, j;
701         
702         for (i = 0; i < cfg->block_count; i++) {
703                 GPtrArray *forest = cfg->bblocks [i].forest;
704                 int top;
705
706                 if (!cfg->bblocks [i].reached) /* unreachable code */
707                         continue;
708
709                 top = forest->len;
710
711                 for (j = 0; j < top; j++) {
712                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
713                         //printf ("AREGSTART %d:%d %p\n", i, j, cfg->rs->free_mask);
714                         tree_allocate_regs (t1, 1, cfg->rs);
715                         //printf ("AREGENDT %d:%d %p\n", i, j, cfg->rs->free_mask);
716                         g_assert (cfg->rs->free_mask == 0xffffffff);
717                 }
718         }
719 }
720
721 static void
722 tree_emit (int goal, MonoFlowGraph *cfg, MBTree *tree) 
723 {
724         MBTree *kids[10];
725         int i, ern = mono_burg_rule (tree->state, goal);
726         const guint16 *nts = mono_burg_nts [ern];
727         MBEmitFunc emit;
728         int offset;
729
730         mono_burg_kids (tree, ern, kids);
731
732         for (i = 0; nts [i]; i++) 
733                 tree_emit (nts [i], cfg, kids [i]);
734
735         tree->addr = offset = cfg->code - cfg->start;
736
737         // we assume an instruction uses a maximum of 128 bytes
738         if ((cfg->code_size - offset) <= 128) {
739                 int add = MIN ((cfg->code_size * 2), 1024);
740
741                 cfg->code_size += add;
742                 mono_jit_stats.allocated_code_size += add;
743                 mono_jit_stats.code_reallocs++;
744                 cfg->start = g_realloc (cfg->start, cfg->code_size);
745                 g_assert (cfg->start);
746                 cfg->code = cfg->start + offset;
747         }
748
749         if ((emit = mono_burg_func [ern]))
750                 emit (tree, cfg);
751
752         g_assert ((cfg->code - cfg->start) < cfg->code_size);
753 }
754
755 static void
756 mono_emit_cfg (MonoFlowGraph *cfg)
757 {
758         int i, j;
759
760         for (i = 0; i < cfg->block_count; i++) {
761                 MonoBBlock *bb = &cfg->bblocks [i];
762                 GPtrArray *forest = bb->forest;
763                 int top;
764
765                 if (!bb->reached) /* unreachable code */
766                         continue;
767                 
768                 top = forest->len;
769
770                 bb->addr = cfg->code - cfg->start;
771           
772                 for (j = 0; j < top; j++) {
773                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
774                         
775                         tree_emit (1, cfg, t1);
776                 }
777         }
778                 
779         cfg->epilog = cfg->code - cfg->start;
780 }
781
782 static void
783 mono_compute_branches (MonoFlowGraph *cfg)
784 {
785         MonoJumpInfo *ji;
786         guint8 *end;
787         int i, j;
788
789         end = cfg->code;
790
791         for (j = 0; j < cfg->block_count; j++) {
792                 MonoBBlock *bb = &cfg->bblocks [j];
793                 GPtrArray *forest = bb->forest;
794                 int top;
795                 
796                 if (!bb->reached) /* unreachable code */
797                         continue;
798
799                 top = forest->len;
800         
801                 for (i = 0; i < top; i++) {
802                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, i);
803
804                         if (t1->op == MB_TERM_SWITCH) {
805                                 MonoBBlock **jt = (MonoBBlock **)t1->data.p;
806                                 guint32 *rt = (guint32 *)t1->data.p;
807                                 
808                                 int m = *((guint32 *)t1->data.p) + 1;
809                                 int j;
810                                 
811                                 for (j = 1; j <= m; j++)
812                                         rt [j] = (int)(jt [j]->addr + cfg->start);
813                                 
814                                 /* emit the switch instruction again to update addresses */
815                                 cfg->code = cfg->start + t1->addr;
816                                 ((MBEmitFunc)t1->emit) (t1, cfg);
817                         }
818                 }
819         }
820
821         cfg->code = end;
822
823         for (ji = cfg->jump_info; ji; ji = ji->next) {
824                 gpointer *ip = GUINT_TO_POINTER (GPOINTER_TO_UINT (ji->ip) + cfg->start);
825                 gpointer target;
826
827                 if (ji->target) {
828                         target = ji->target;
829                 } else if (ji->bb) {
830                         target = ji->bb->addr + cfg->start;
831                 } else {
832                         /* special case - jump to epilog */
833                         target = cfg->epilog + cfg->start;
834                 }
835                 *ip = target - GPOINTER_TO_UINT(ip) - 4;
836         }
837 }
838
839 void
840 mono_add_jump_info (MonoFlowGraph *cfg, gpointer ip, gpointer target, MonoBBlock *bb)
841 {
842         MonoJumpInfo *ji = mono_mempool_alloc (cfg->mp, sizeof (MonoJumpInfo));
843
844         ji->ip = GUINT_TO_POINTER (GPOINTER_TO_UINT (ip) - GPOINTER_TO_UINT (cfg->start));
845         ji->target = target;
846         ji->next = cfg->jump_info;
847         ji->bb = bb;
848
849         cfg->jump_info = ji;
850 }
851
852 static int
853 match_debug_method (MonoMethod* method)
854 {
855         GList *tmp = mono_debug_methods;
856
857         for (; tmp; tmp = tmp->next) {
858                 if (strcmp (method->name, tmp->data) == 0) {
859                         return 1;
860                 }
861         }
862         return 0;
863 }
864
865 /**
866  * arch_compile_method:
867  * @method: pointer to the method info
868  *
869  * JIT compilation of a single method. 
870  *
871  * Returns: a pointer to the newly created code.
872  */
873 gpointer
874 arch_compile_method (MonoMethod *method)
875 {
876         MonoDomain *domain = mono_domain_get ();
877         MonoFlowGraph *cfg;
878         MonoMemPool *mp;
879         guint8 *addr;
880         GHashTable *jit_code_hash;
881
882         g_assert (!(method->iflags & METHOD_IMPL_ATTRIBUTE_INTERNAL_CALL));
883         g_assert (!(method->flags & METHOD_ATTRIBUTE_PINVOKE_IMPL));
884
885         if (mono_jit_share_code)
886                 jit_code_hash = mono_root_domain->jit_code_hash;
887         else
888                 jit_code_hash = domain->jit_code_hash;
889
890         if ((addr = g_hash_table_lookup (jit_code_hash, method))) {
891                 mono_jit_stats.methods_lookups++;
892                 return addr;
893         }
894
895         mono_jit_stats.methods_compiled++;
896         
897         mp = mono_mempool_new ();
898
899         if (mono_jit_trace_calls || mono_jit_dump_asm || mono_jit_dump_forest) {
900                 printf ("Start JIT compilation of %s.%s:%s\n", method->klass->name_space,
901                         method->klass->name, method->name);
902         }
903
904         if (method->iflags & METHOD_IMPL_ATTRIBUTE_RUNTIME) {
905                 MonoClassField *field;
906                 const char *name = method->name;
907                 static guint target_offset = 0;
908                 static guint method_offset = 0;
909                 guint8 *code;
910                 gboolean delegate = FALSE;
911
912                 if (method->klass->parent && 
913                     method->klass->parent->parent == mono_defaults.delegate_class)
914                         delegate = TRUE;
915                                 
916                 if (!target_offset) {
917                         mono_class_init (mono_defaults.delegate_class);
918
919                         field = mono_class_get_field_from_name (mono_defaults.delegate_class, "m_target");
920                         target_offset = field->offset;
921                         field = mono_class_get_field_from_name (mono_defaults.delegate_class, "method_ptr");
922                         method_offset = field->offset;
923                 }
924                 
925                 if (delegate && *name == '.' && (strcmp (name, ".ctor") == 0)) {
926                         addr = code = g_malloc (32);
927                         x86_push_reg (code, X86_EBP);
928                         x86_mov_reg_reg (code, X86_EBP, X86_ESP, 4);
929                         
930                         /* load the this pointer */
931                         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 8, 4); 
932                         /* load m_target arg */
933                         x86_mov_reg_membase (code, X86_EDX, X86_EBP, 12, 4);
934                         /* store mtarget */
935                         x86_mov_membase_reg (code, X86_EAX, target_offset, X86_EDX, 4); 
936                         /* load method_ptr arg */
937                         x86_mov_reg_membase (code, X86_EDX, X86_EBP, 16, 4);
938                         /* store method_ptr */
939                         x86_mov_membase_reg (code, X86_EAX, method_offset, X86_EDX, 4); 
940
941                         x86_leave (code);
942                         x86_ret (code);
943
944                         g_assert ((code - (guint8*)addr) < 32);
945
946                 } else if (delegate && *name == 'I' && (strcmp (name, "Invoke") == 0)) {
947                         MonoMethodSignature *csig = method->signature;
948                         int i, arg_size, target, this_pos = 4;
949                         guint8 *source;
950                         
951                         if (csig->ret->type == MONO_TYPE_VALUETYPE) {
952                                 g_assert (!csig->ret->byref);
953                                 this_pos = 8;
954                         }
955
956                         arg_size = 0;
957                         if (csig->param_count) {
958                                 int align;
959                                 
960                                 for (i = 0; i < csig->param_count; ++i) {
961                                         arg_size += mono_type_stack_size (csig->params [i], &align);
962                                         g_assert (align == 4);
963                                 }
964                         }
965
966                         addr = g_malloc (64 + arg_size);
967
968                         for (i = 0; i < 2; i ++) {
969                                 int j;
970
971                                 code = addr;
972                                 /* load the this pointer */
973                                 x86_mov_reg_membase (code, X86_EAX, X86_ESP, this_pos, 4);
974                                 /* load mtarget */
975                                 x86_mov_reg_membase (code, X86_EDX, X86_EAX, target_offset, 4); 
976                                 /* check if zero (static method call without this pointer) */
977                                 x86_alu_reg_imm (code, X86_CMP, X86_EDX, 0);
978                                 x86_branch32 (code, X86_CC_EQ, target, TRUE); 
979                                 source = code;
980
981                                 /* virtual delegate methods: we have to replace the this pointer 
982                                  * withe the actual target */
983                                 x86_mov_membase_reg (code, X86_ESP, this_pos, X86_EDX, 4); 
984                                 /* jump to method_ptr() */
985                                 x86_jump_membase (code, X86_EAX, method_offset);
986
987                                 /* static delegate methods: we have to remove the this pointer 
988                                  * from the activation frame - I do this do creating a new 
989                                  * stack frame an copy all arguments except the this pointer */
990
991                                 target = code - source;
992                                 g_assert ((arg_size & 3) == 0);
993                                 for (j = 0; j < (arg_size>>2); j++) {
994                                         x86_push_membase (code, X86_ESP, (arg_size + this_pos));
995                                 }
996
997                                 if (this_pos == 8) 
998                                         x86_push_membase (code, X86_ESP, (arg_size + 4));
999                                 
1000                                 x86_call_membase (code, X86_EAX, method_offset);
1001                                 if (this_pos == 8) 
1002                                         x86_alu_reg_imm (code, X86_ADD, X86_ESP, arg_size + 4);
1003                                 else
1004                                         x86_alu_reg_imm (code, X86_ADD, X86_ESP, arg_size);
1005                                 
1006                                 x86_ret (code);
1007
1008                         }
1009
1010                         g_assert ((code - (guint8*)addr) < (64 + arg_size));
1011
1012                 } else {
1013                         if (mono_debug_handle) 
1014                                 return NULL;
1015
1016                         g_error ("Don't know how to exec runtime method %s.%s::%s", 
1017                                  method->klass->name_space, method->klass->name, method->name);
1018                 }
1019         
1020         } else {
1021                 MonoMethodHeader *header = ((MonoMethodNormal *)method)->header;
1022                 MonoJitInfo *ji = g_new0 (MonoJitInfo, 1);
1023                 gulong code_size_ratio;
1024                 
1025                 cfg = mono_cfg_new (method, mp);
1026
1027                 mono_analyze_flow (cfg);
1028                 if (cfg->invalid) 
1029                         return NULL;
1030                 
1031                 mono_analyze_stack (cfg);
1032                 if (cfg->invalid) 
1033                         return NULL;
1034                 
1035                 cfg->rs = mono_regset_new (X86_NREG);
1036                 mono_regset_reserve_reg (cfg->rs, X86_ESP);
1037                 mono_regset_reserve_reg (cfg->rs, X86_EBP);
1038
1039                 cfg->code_size = MAX (header->code_size * 5, 256);
1040                 cfg->start = cfg->code = g_malloc (cfg->code_size);
1041                 mono_jit_stats.allocated_code_size += cfg->code_size;
1042
1043                 if (match_debug_method (method))
1044                         x86_breakpoint (cfg->code);
1045
1046                 if (mono_jit_dump_forest) {
1047                         int i;
1048                         printf ("FOREST %s.%s:%s\n", method->klass->name_space,
1049                                 method->klass->name, method->name);
1050                         for (i = 0; i < cfg->block_count; i++) {
1051                                 printf ("BLOCK %d:\n", i);
1052                                 mono_print_forest (cfg->bblocks [i].forest);
1053                         }
1054                 }
1055         
1056                 mono_label_cfg (cfg);
1057                 if (cfg->invalid) 
1058                         return NULL;
1059                 
1060                 arch_allocate_regs (cfg);
1061
1062                 /* align to 8 byte boundary */
1063                 cfg->locals_size += 7;
1064                 cfg->locals_size &= ~7;
1065
1066                 arch_emit_prologue (cfg);
1067                 mono_emit_cfg (cfg);
1068                 arch_emit_epilogue (cfg);               
1069
1070                 addr = cfg->start;
1071
1072                 code_size_ratio = cfg->code - cfg->start;
1073                 if (code_size_ratio > mono_jit_stats.biggest_method_size) {
1074                         mono_jit_stats.biggest_method_size = code_size_ratio;
1075                         mono_jit_stats.biggest_method = method;
1076                 }
1077                 code_size_ratio = (code_size_ratio * 100) / header->code_size;
1078                 if (code_size_ratio > mono_jit_stats.max_code_size_ratio) {
1079                         mono_jit_stats.max_code_size_ratio = code_size_ratio;
1080                         mono_jit_stats.max_ratio_method = method;
1081                 }
1082
1083                 mono_compute_branches (cfg);
1084                 
1085                 if (mono_jit_dump_asm) {
1086                         char *id = g_strdup_printf ("%s.%s_%s", method->klass->name_space,
1087                                                     method->klass->name, method->name);
1088                         mono_disassemble_code (cfg->start, cfg->code - cfg->start, id);
1089                         g_free (id);
1090                 }
1091                 if (mono_debug_handle)
1092                         mono_debug_add_method (mono_debug_handle, cfg);
1093
1094                 ji->code_size = cfg->code - cfg->start;
1095                 ji->used_regs = cfg->rs->used_mask;
1096                 ji->method = method;
1097                 ji->code_start = addr;
1098                 mono_jit_info_table_add (mono_jit_info_table, ji);
1099
1100                 mono_jit_stats.native_code_size += ji->code_size;
1101
1102                 if (header->num_clauses) {
1103                         int i, start_block, end_block;
1104
1105                         ji->num_clauses = header->num_clauses;
1106                         ji->clauses = g_new0 (MonoJitExceptionInfo, header->num_clauses);
1107
1108                         for (i = 0; i < header->num_clauses; i++) {
1109                                 MonoExceptionClause *ec = &header->clauses [i];
1110                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
1111                         
1112                                 ei->flags = ec->flags;
1113                                 ei->token_or_filter = ec->token_or_filter;
1114
1115                                 g_assert (cfg->bcinfo [ec->try_offset].is_block_start);
1116                                 start_block = cfg->bcinfo [ec->try_offset].block_id;
1117                                 end_block = cfg->bcinfo [ec->try_offset + ec->try_len].block_id;
1118                                 g_assert (cfg->bcinfo [ec->try_offset + ec->try_len].is_block_start);
1119                                 
1120                                 ei->try_start = cfg->start + cfg->bblocks [start_block].addr;
1121                                 ei->try_end = cfg->start + cfg->bblocks [end_block].addr;
1122                                 
1123                                 g_assert (cfg->bcinfo [ec->handler_offset].is_block_start);
1124                                 start_block = cfg->bcinfo [ec->handler_offset].block_id;
1125                                 ei->handler_start = cfg->start + cfg->bblocks [start_block].addr;       
1126                                 
1127                                 //printf ("TEST %x %x %x\n", ei->try_start, ei->try_end, ei->handler_start);
1128                         }
1129                 }
1130                 
1131                 mono_regset_free (cfg->rs);
1132
1133                 mono_cfg_free (cfg);
1134
1135                 mono_mempool_destroy (mp);
1136
1137         }
1138
1139         if (mono_jit_trace_calls || mono_jit_dump_asm || mono_jit_dump_forest) {
1140                 printf ("END JIT compilation of %s.%s:%s %p %p\n", method->klass->name_space,
1141                         method->klass->name, method->name, method, addr);
1142         }
1143
1144         g_hash_table_insert (jit_code_hash, method, addr);
1145
1146         return addr;
1147 }
1148
1149 /*
1150  * arch_get_restore_context:
1151  *
1152  * Returns a pointer to a method which restores a previously saved sigcontext.
1153  */
1154 static gpointer
1155 arch_get_restore_context ()
1156 {
1157         static guint8 *start = NULL;
1158         guint8 *code;
1159
1160         if (start)
1161                 return start;
1162
1163         /* restore_contect (struct sigcontext *ctx) */
1164         /* we do not restore X86_EAX, X86_EDX */
1165
1166         start = code = malloc (1024);
1167         
1168         /* load ctx */
1169         x86_mov_reg_membase (code, X86_EAX, X86_ESP, 4, 4);
1170
1171         /* get return address, stored in EDX */
1172         x86_mov_reg_membase (code, X86_EDX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, eip), 4);
1173
1174         /* restore EBX */
1175         x86_mov_reg_membase (code, X86_EBX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebx), 4);
1176         /* restore EDI */
1177         x86_mov_reg_membase (code, X86_EDI, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, edi), 4);
1178         /* restore ESI */
1179         x86_mov_reg_membase (code, X86_ESI, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, esi), 4);
1180         /* restore ESP */
1181         x86_mov_reg_membase (code, X86_ESP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, esp), 4);
1182         /* restore EBP */
1183         x86_mov_reg_membase (code, X86_EBP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebp), 4);
1184         /* restore ECX. the exception object is passed here to the catch handler */
1185         x86_mov_reg_membase (code, X86_ECX, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ecx), 4);
1186
1187         /* jump to the saved IP */
1188         x86_jump_reg (code, X86_EDX);
1189
1190         return start;
1191 }
1192
1193 /*
1194  * arch_get_call_finally:
1195  *
1196  * Returns a pointer to a method which calls a finally handler.
1197  */
1198 static gpointer
1199 arch_get_call_finally ()
1200 {
1201         static guint8 start [28];
1202         static int inited = 0;
1203         guint8 *code;
1204
1205         if (inited)
1206                 return start;
1207
1208         inited = 1;
1209         /* call_finally (struct sigcontext *ctx, unsigned long eip) */
1210         code = start;
1211
1212         x86_push_reg (code, X86_EBP);
1213         x86_mov_reg_reg (code, X86_EBP, X86_ESP, 4);
1214         x86_push_reg (code, X86_EBX);
1215         x86_push_reg (code, X86_EDI);
1216         x86_push_reg (code, X86_ESI);
1217
1218         /* load ctx */
1219         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 8, 4);
1220         /* load eip */
1221         x86_mov_reg_membase (code, X86_ECX, X86_EBP, 12, 4);
1222         /* save EBP */
1223         x86_push_reg (code, X86_EBP);
1224         /* set new EBP */
1225         x86_mov_reg_membase (code, X86_EBP, X86_EAX,  G_STRUCT_OFFSET (struct sigcontext, ebp), 4);
1226         /* call the handler */
1227         x86_call_reg (code, X86_ECX);
1228         /* restore EBP */
1229         x86_pop_reg (code, X86_EBP);
1230         /* restore saved regs */
1231         x86_pop_reg (code, X86_ESI);
1232         x86_pop_reg (code, X86_EDI);
1233         x86_pop_reg (code, X86_EBX);
1234         x86_leave (code);
1235         x86_ret (code);
1236
1237         g_assert ((code - start) < 28);
1238         return start;
1239 }
1240
1241 /**
1242  * arch_handle_exception:
1243  * @ctx: saved processor state
1244  * @obj:
1245  */
1246 void
1247 arch_handle_exception (struct sigcontext *ctx, gpointer obj)
1248 {
1249         MonoDomain *domain = mono_domain_get ();
1250         MonoJitInfo *ji;
1251         gpointer ip = (gpointer)ctx->eip;
1252         static void (*restore_context) (struct sigcontext *);
1253         static void (*call_finally) (struct sigcontext *, unsigned long);
1254        
1255         g_assert (ctx != NULL);
1256         g_assert (obj != NULL);
1257
1258         ji = mono_jit_info_table_find (mono_jit_info_table, ip);
1259
1260         if (!restore_context)
1261                 restore_context = arch_get_restore_context ();
1262         
1263         if (!call_finally)
1264                 call_finally = arch_get_call_finally ();
1265
1266         if (ji) { /* we are inside managed code */
1267                 MonoMethod *m = ji->method;
1268                 int offset = 2;
1269
1270                 if (ji->num_clauses) {
1271                         int i;
1272
1273                         g_assert (ji->clauses);
1274                         
1275                         for (i = 0; i < ji->num_clauses; i++) {
1276                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
1277
1278                                 if (ei->try_start <= ip && ip <= (ei->try_end)) { 
1279                                         /* catch block */
1280                                         if (ei->flags == 0 && mono_object_isinst (obj, 
1281                                                 mono_class_get (m->klass->image, ei->token_or_filter))) {
1282                                         
1283                                                 ctx->eip = (unsigned long)ei->handler_start;
1284                                                 ctx->ecx = (unsigned long)obj;
1285                                                 restore_context (ctx);
1286                                                 g_assert_not_reached ();
1287                                         }
1288                                 }
1289                         }
1290
1291                         /* no handler found - we need to call all finally handlers */
1292                         for (i = 0; i < ji->num_clauses; i++) {
1293                                 MonoJitExceptionInfo *ei = &ji->clauses [i];
1294
1295                                 if (ei->try_start <= ip && ip < (ei->try_end) &&
1296                                     (ei->flags & MONO_EXCEPTION_CLAUSE_FINALLY)) {
1297                                         call_finally (ctx, (unsigned long)ei->handler_start);
1298                                 }
1299                         }
1300                 }
1301
1302                 if (mono_object_isinst (obj, mono_defaults.exception_class)) {
1303                         char  *strace = mono_string_to_utf8 (((MonoException*)obj)->stack_trace);
1304                         char  *tmp;
1305
1306                         if (!strcmp (strace, "TODO: implement stack traces")){
1307                                 g_free (strace);
1308                                 strace = g_strdup ("");
1309                         }
1310
1311                         tmp = g_strdup_printf ("%sin %s.%s:%s ()\n", strace, m->klass->name_space,  
1312                                                m->klass->name, m->name);
1313
1314                         g_free (strace);
1315
1316                         ((MonoException*)obj)->stack_trace = mono_string_new (domain, tmp);
1317                         g_free (tmp);
1318                 }
1319
1320                 /* continue unwinding */
1321
1322                 /* restore caller saved registers */
1323                 if (ji->used_regs & X86_ESI_MASK) {
1324                         ctx->esi = *((int *)ctx->ebp + offset);
1325                         offset++;
1326                 }
1327                 if (ji->used_regs & X86_EDI_MASK) {
1328                         ctx->edi = *((int *)ctx->ebp + offset);
1329                         offset++;
1330                 }
1331                 if (ji->used_regs & X86_EBX_MASK) {
1332                         ctx->ebx = *((int *)ctx->ebp + offset);
1333                 }
1334
1335                 ctx->esp = ctx->ebp;
1336                 ctx->eip = *((int *)ctx->ebp + 1);
1337                 ctx->ebp = *((int *)ctx->ebp);
1338                 
1339                 if (ctx->ebp < (unsigned)mono_end_of_stack)
1340                         arch_handle_exception (ctx, obj);
1341                 else
1342                         mono_jit_abort (obj);
1343         } else {
1344                 gpointer *lmf_addr = TlsGetValue (lmf_thread_id);
1345                 MonoLMF *lmf;
1346                 MonoMethod *m;
1347
1348                 g_assert (lmf_addr);
1349                 lmf = *((MonoLMF **)lmf_addr);
1350
1351                 if (!lmf)
1352                         mono_jit_abort (obj);
1353
1354                 m = lmf->method;
1355
1356                 *lmf_addr = lmf->previous_lmf;
1357
1358                 ctx->esi = lmf->esi;
1359                 ctx->edi = lmf->edi;
1360                 ctx->ebx = lmf->ebx;
1361                 ctx->ebp = lmf->ebp;
1362                 ctx->eip = lmf->eip;
1363                 ctx->esp = (unsigned long)lmf;
1364
1365                 if (mono_object_isinst (obj, mono_defaults.exception_class)) {
1366                         char  *strace = mono_string_to_utf8 (((MonoException*)obj)->stack_trace);
1367                         char  *tmp;
1368
1369                         if (!strcmp (strace, "TODO: implement stack traces"))
1370                                 strace = g_strdup ("");
1371
1372                         tmp = g_strdup_printf ("%sin (unmanaged) %s.%s:%s ()\n", strace, m->klass->name_space,  
1373                                                m->klass->name, m->name);
1374
1375                         g_free (strace);
1376
1377                         ((MonoException*)obj)->stack_trace = mono_string_new (domain, tmp);
1378                         g_free (tmp);
1379                 }
1380
1381                 if (ctx->eip < (unsigned)mono_end_of_stack)
1382                         arch_handle_exception (ctx, obj);
1383                 else
1384                         mono_jit_abort (obj);
1385         }
1386
1387         g_assert_not_reached ();
1388 }
1389
1390 static void
1391 throw_exception (unsigned long eax, unsigned long ecx, unsigned long edx, unsigned long ebx,
1392                  unsigned long esi, unsigned long edi, unsigned long ebp, MonoObject *exc,
1393                  unsigned long eip,  unsigned long esp)
1394 {
1395         struct sigcontext ctx;
1396
1397         ctx.esp = esp;
1398         ctx.eip = eip;
1399         ctx.ebp = ebp;
1400         ctx.edi = edi;
1401         ctx.esi = esi;
1402         ctx.ebx = ebx;
1403         ctx.edx = edx;
1404         ctx.ecx = ecx;
1405         ctx.eax = eax;
1406         
1407         arch_handle_exception (&ctx, exc);
1408
1409         g_assert_not_reached ();
1410 }
1411
1412 /**
1413  * arch_get_throw_exception:
1414  *
1415  * Returns a function pointer which can be used to raise 
1416  * exceptions. The returned function has the following 
1417  * signature: void (*func) (MonoException *exc); 
1418  * For example to raise an arithmetic exception you can use:
1419  *
1420  * x86_push_imm (code, mono_get_exception_arithmetic ()); 
1421  * x86_call_code (code, arch_get_throw_exception ()); 
1422  *
1423  */
1424 gpointer 
1425 arch_get_throw_exception (void)
1426 {
1427         static guint8 start [24];
1428         static int inited = 0;
1429         guint8 *code;
1430
1431         if (inited)
1432                 return start;
1433
1434         inited = 1;
1435         code = start;
1436
1437         x86_push_reg (code, X86_ESP);
1438         x86_push_membase (code, X86_ESP, 4); /* IP */
1439         x86_push_membase (code, X86_ESP, 12); /* exception */
1440         x86_push_reg (code, X86_EBP);
1441         x86_push_reg (code, X86_EDI);
1442         x86_push_reg (code, X86_ESI);
1443         x86_push_reg (code, X86_EBX);
1444         x86_push_reg (code, X86_EDX);
1445         x86_push_reg (code, X86_ECX);
1446         x86_push_reg (code, X86_EAX);
1447         x86_call_code (code, throw_exception);
1448         /* we should never reach this breakpoint */
1449         x86_breakpoint (code);
1450
1451         g_assert ((code - start) < 24);
1452         return start;
1453 }
1454
1455 /**
1456  * arch_get_throw_exception_by_name:
1457  *
1458  * Returns a function pointer which can be used to raise 
1459  * corlib exceptions. The returned function has the following 
1460  * signature: void (*func) (char *exc_name); 
1461  * For example to raise an arithmetic exception you can use:
1462  *
1463  * x86_push_imm (code, "ArithmeticException"); 
1464  * x86_call_code (code, arch_get_throw_exception ()); 
1465  *
1466  */
1467 gpointer 
1468 arch_get_throw_exception_by_name ()
1469 {
1470         static guint8 start [32];
1471         static int inited = 0;
1472         guint8 *code;
1473
1474         if (inited)
1475                 return start;
1476
1477         inited = 1;
1478         code = start;
1479
1480         /* fixme: we do not save EAX, EDX, ECD - unsure if we need that */
1481
1482         x86_push_membase (code, X86_ESP, 4); /* exception name */
1483         x86_push_imm (code, "System");
1484         x86_push_imm (code, mono_defaults.exception_class->image);
1485         x86_call_code (code, mono_exception_from_name);
1486         x86_alu_reg_imm (code, X86_ADD, X86_ESP, 12);
1487         /* save the newly create object (overwrite exception name)*/
1488         x86_mov_membase_reg (code, X86_ESP, 4, X86_EAX, 4);
1489         x86_jump_code (code, arch_get_throw_exception ());
1490
1491         g_assert ((code - start) < 32);
1492
1493         return start;
1494 }       
1495
1496 /*
1497  * this returns a helper method to invoke a method with a user supplied
1498  * stack frame. The returned method has the following signature:
1499  * invoke_method_with_frame ((gpointer code, gpointer frame, int frame_size);
1500  */
1501 static gpointer
1502 get_invoke_method_with_frame ()
1503 {
1504         static guint8 *start;
1505         guint8 *code;
1506
1507         if (start)
1508                 return start;
1509
1510         start = code = malloc (64);
1511
1512         /* Prolog */
1513         x86_push_reg (code, X86_EBP);
1514         x86_mov_reg_reg (code, X86_EBP, X86_ESP, 4);
1515         x86_push_reg (code, X86_EBX);
1516         x86_push_reg (code, X86_EDI);
1517         x86_push_reg (code, X86_ESI);
1518
1519         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 16, 4);
1520         x86_alu_reg_reg (code, X86_SUB, X86_ESP, X86_EAX);
1521
1522         x86_push_membase (code, X86_EBP, 16);
1523         x86_push_membase (code, X86_EBP, 12);
1524         x86_lea_membase (code, X86_EAX, X86_ESP, 2*4);
1525         x86_push_reg (code, X86_EAX);
1526         x86_call_code (code, memcpy);
1527         x86_alu_reg_imm (code, X86_ADD, X86_ESP, 12);
1528
1529         x86_mov_reg_membase (code, X86_EAX, X86_EBP, 8, 4);
1530         x86_call_reg (code, X86_EAX);
1531
1532         x86_mov_reg_membase (code, X86_ECX, X86_EBP, 16, 4);
1533         x86_alu_reg_reg (code, X86_ADD, X86_ESP, X86_ECX);
1534
1535         /* Epilog */
1536         x86_pop_reg (code, X86_ESI);
1537         x86_pop_reg (code, X86_EDI);
1538         x86_pop_reg (code, X86_EBX);
1539         x86_leave (code);
1540         x86_ret (code);
1541         
1542         g_assert ((code - start) < 64);
1543
1544         return start;
1545 }
1546
1547 /**
1548  * arch_runtime_invoke:
1549  * @method: the method to invoke
1550  * @obj: this pointer
1551  * @params: array of parameter values.
1552  *
1553  * TODO: very ugly piece of code. we should replace that with a method-specific 
1554  * trampoline (as suggested by Paolo).
1555  */
1556 MonoObject*
1557 arch_runtime_invoke (MonoMethod *method, void *obj, void **params)
1558 {
1559         static guint64 (*invoke_int64) (gpointer code, gpointer frame, int frame_size) = NULL;
1560         static double (*invoke_double) (gpointer code, gpointer frame, int frame_size) = NULL;
1561         MonoObject *retval;
1562         MonoMethodSignature *sig = method->signature;
1563         int i, tmp, type, sp = 0;
1564         void *ret;
1565         int frame_size = 0;
1566         gpointer *frame;
1567         gpointer code;
1568
1569         /* allocate ret object. */
1570         if (sig->ret->type == MONO_TYPE_VOID) {
1571                 retval = NULL;
1572                 ret = NULL;
1573         } else {
1574                 MonoClass *klass = mono_class_from_mono_type (sig->ret);
1575                 if (klass->valuetype) {
1576                         retval = mono_object_new (mono_domain_get (), klass);
1577                         ret = ((char*)retval) + sizeof (MonoObject);
1578                 } else {
1579                         ret = &retval;
1580                 }
1581         }
1582    
1583         if (ISSTRUCT (sig->ret))
1584                 frame_size += sizeof (gpointer);
1585         
1586         if (sig->hasthis) 
1587                 frame_size += sizeof (gpointer);
1588
1589         for (i = 0; i < sig->param_count; ++i) {
1590                 int align;
1591                 frame_size += mono_type_stack_size (sig->params [i], &align);
1592         }
1593
1594         frame = alloca (frame_size);
1595
1596         if (ISSTRUCT (sig->ret))
1597                 frame [sp++] = ret;
1598
1599         if (sig->hasthis) 
1600                 frame [sp++] = obj;
1601                 
1602
1603         for (i = 0; i < sig->param_count; ++i) {
1604                 if (sig->params [i]->byref) {
1605                         frame [sp++] = params [i];
1606                         continue;
1607                 }
1608                 type = sig->params [i]->type;
1609 handle_enum:
1610                 switch (type) {
1611                 case MONO_TYPE_U1:
1612                 case MONO_TYPE_I1:
1613                 case MONO_TYPE_BOOLEAN:
1614                         tmp = *(MonoBoolean*)params [i];
1615                         frame [sp++] = (gpointer)tmp;                   
1616                         break;
1617                 case MONO_TYPE_U2:
1618                 case MONO_TYPE_I2:
1619                 case MONO_TYPE_CHAR:
1620                         tmp = *(gint16*)params [i];
1621                         frame [sp++] = (gpointer)tmp;                   
1622                         break;
1623 #if SIZEOF_VOID_P == 4
1624                 case MONO_TYPE_U:
1625                 case MONO_TYPE_I:
1626 #endif
1627                 case MONO_TYPE_U4:
1628                 case MONO_TYPE_I4:
1629                         frame [sp++] = (gpointer)*(gint32*)params [i];
1630                         break;
1631 #if SIZEOF_VOID_P == 8
1632                 case MONO_TYPE_U:
1633                 case MONO_TYPE_I:
1634 #endif
1635                 case MONO_TYPE_U8:
1636                 case MONO_TYPE_I8:
1637                         frame [sp++] = (gpointer)*(gint32*)params [i];
1638                         frame [sp++] = (gpointer)*(((gint32*)params [i]) + 1);
1639                         break;
1640                 case MONO_TYPE_VALUETYPE:
1641                         if (sig->params [i]->data.klass->enumtype) {
1642                                 type = sig->params [i]->data.klass->enum_basetype->type;
1643                                 goto handle_enum;
1644                         } else {
1645                                 g_warning ("generic valutype %s not handled in runtime invoke", sig->params [i]->data.klass->name);
1646                         }
1647                         break;
1648                 case MONO_TYPE_STRING:
1649                         frame [sp++] = params [i];
1650                         break;
1651                 default:
1652                         g_error ("type 0x%x not handled in invoke", sig->params [i]->type);
1653                 }
1654         }
1655
1656         if (method->addr)
1657                 code = method->addr;
1658         else
1659                 code = arch_compile_method (method);
1660
1661         if (!invoke_int64)
1662                 invoke_int64 = (gpointer)invoke_double = get_invoke_method_with_frame ();
1663
1664         type = sig->ret->type;
1665 handle_enum_2:
1666         switch (type) {
1667         case MONO_TYPE_VOID:
1668                 invoke_int64 (code, frame, frame_size);         
1669                 break;
1670         case MONO_TYPE_U1:
1671         case MONO_TYPE_I1:
1672         case MONO_TYPE_BOOLEAN:
1673         case MONO_TYPE_U2:
1674         case MONO_TYPE_I2:
1675         case MONO_TYPE_CHAR:
1676 #if SIZEOF_VOID_P == 4
1677         case MONO_TYPE_U:
1678         case MONO_TYPE_I:
1679 #endif
1680         case MONO_TYPE_U4:
1681         case MONO_TYPE_I4:
1682         case MONO_TYPE_STRING:
1683                 *((guint32 *)ret) = invoke_int64 (code, frame, frame_size);             
1684                 break;
1685 #if SIZEOF_VOID_P == 8
1686         case MONO_TYPE_U:
1687         case MONO_TYPE_I:
1688 #endif
1689         case MONO_TYPE_U8:
1690         case MONO_TYPE_I8:
1691                 *((guint64 *)ret) = invoke_int64 (code, frame, frame_size);             
1692                 break;
1693         case MONO_TYPE_R4:
1694                 *((float *)ret) = invoke_double (code, frame, frame_size);              
1695                 break;
1696         case MONO_TYPE_R8:
1697                 *((double *)ret) = invoke_double (code, frame, frame_size);             
1698                 break;
1699         case MONO_TYPE_VALUETYPE:
1700                 if (sig->params [i]->data.klass->enumtype) {
1701                         type = sig->params [i]->data.klass->enum_basetype->type;
1702                         goto handle_enum_2;
1703                 } else 
1704                         invoke_int64 (code, frame, frame_size);         
1705                 break;
1706         default:
1707                 g_error ("type 0x%x not handled in invoke", sig->params [i]->type);
1708         }
1709
1710         return retval;
1711 }
1712
1713
1714