2002-07-22 Dietmar Maurer <dietmar@ximian.com>
[mono.git] / mono / jit / emit-x86.c
1 /*
2  * emit-x86.c: Support functions for emitting x86 code
3  *
4  * Authors:
5  *   Dietmar Maurer (dietmar@ximian.com)
6  *   Miguel de Icaza (miguel@ximian.com)
7  *
8  * (C) 2001 Ximian, Inc.
9  */
10
11 #include <config.h>
12 #include <glib.h>
13
14 #include <mono/metadata/assembly.h>
15 #include <mono/metadata/loader.h>
16 #include <mono/metadata/cil-coff.h>
17 #include <mono/metadata/tabledefs.h>
18 #include <mono/metadata/class.h>
19 #include <mono/metadata/debug-helpers.h>
20 #include <mono/metadata/mono-endian.h>
21 #include <mono/arch/x86/x86-codegen.h>
22 #include <mono/metadata/profiler-private.h>
23
24 #include "jit.h"
25 #include "helpers.h"
26 #include "codegen.h"
27 #include "debug.h"
28
29
30 //#define DEBUG_REGALLOC
31 //#define DEBUG_SPILLS
32
33 const char *
34 arch_get_reg_name (int regnum)
35 {
36         switch (regnum) {
37         case 0:
38                 return "EAX";
39         case 1:
40                 return "ECX";
41         case 2:
42                 return "EDX";
43         case 3:
44                 return "EBX";
45         case 4:
46                 return "ESP";
47         case 5:
48                 return "EBP";
49         case 6:
50                 return "ESI";
51         case 7:
52                 return "EDI";
53         }
54
55         g_assert_not_reached ();
56         return NULL;
57 }
58
59
60 /* 
61  * we may want a x86-specific header or we 
62  * can just declare it extern in x86.brg.
63  */
64 int mono_x86_have_cmov = 0;
65
66 static int 
67 cpuid (int id, int* p_eax, int* p_ebx, int* p_ecx, int* p_edx)
68 {
69 #ifdef PIC
70         return 0;
71 #else
72         int have_cpuid = 0;
73         __asm__  __volatile__ (
74                 "pushfl\n"
75                 "popl %%eax\n"
76                 "movl %%eax, %%edx\n"
77                 "xorl $0x200000, %%eax\n"
78                 "pushl %%eax\n"
79                 "popfl\n"
80                 "pushfl\n"
81                 "popl %%eax\n"
82                 "xorl %%edx, %%eax\n"
83                 "andl $0x200000, %%eax\n"
84                 "movl %%eax, %0"
85                 : "=r" (have_cpuid)
86                 :
87                 : "%eax", "%edx"
88         );
89
90         if (have_cpuid) {
91                 __asm__ __volatile__ ("cpuid"
92                         : "=a" (*p_eax), "=b" (*p_ebx), "=c" (*p_ecx), "=d" (*p_edx)
93                         : "a" (id));
94                 return 1;
95         }
96         return 0;
97 #endif
98 }
99
100 void
101 mono_cpu_detect (void) {
102         int eax, ebx, ecx, edx;
103
104         /* Feature Flags function, flags returned in EDX. */
105         if (cpuid(1, &eax, &ebx, &ecx, &edx)) {
106                 if (edx & (1U << 15)) {
107                         mono_x86_have_cmov = 1;
108                 }
109         }
110 }
111
112 /*
113  * arch_get_argument_info:
114  * @csig:  a method signature
115  * @param_count: the number of parameters to consider
116  * @arg_info: an array to store the result infos
117  *
118  * Gathers information on parameters such as size, alignment and
119  * padding. arg_info should be large enought to hold param_count + 1 entries. 
120  *
121  * Returns the size of the activation frame.
122  */
123 int
124 arch_get_argument_info (MonoMethodSignature *csig, int param_count, MonoJitArgumentInfo *arg_info)
125 {
126         int k, frame_size = 0;
127         int size, align, pad;
128         
129         if (csig->hasthis)
130                 frame_size += sizeof (gpointer);
131
132         if (MONO_TYPE_ISSTRUCT (csig->ret)) 
133                 frame_size += sizeof (gpointer);
134         
135         arg_info [0].size = frame_size;
136
137         for (k = 0; k < param_count; k++) {
138                 
139                 if (csig->pinvoke)
140                         size = mono_type_native_stack_size (csig->params [k], &align);
141                 else
142                         size = mono_type_stack_size (csig->params [k], &align);
143                 
144                 frame_size += pad = (align - (frame_size & (align - 1))) & (align - 1); 
145                 arg_info [k].pad = pad;
146                 frame_size += size;
147                 arg_info [k + 1].pad = 0;
148                 arg_info [k + 1].size = size;
149         }
150
151         align = MONO_FRAME_ALIGNMENT;
152         frame_size += pad = (align - (frame_size & (align - 1))) & (align - 1);
153         arg_info [k].pad = pad;
154
155         return frame_size;
156 }
157
158 static void
159 enter_method (MonoMethod *method, char *ebp)
160 {
161         int i, j;
162         MonoClass *class;
163         MonoObject *o;
164         char *fname;
165
166         fname = mono_method_full_name (method, TRUE);
167         printf ("ENTER: %s\n(", fname);
168         g_free (fname);
169         
170         if (((int)ebp & (MONO_FRAME_ALIGNMENT - 1)) != 0) {
171                 g_error ("unaligned stack detected (%p)", ebp);
172         }
173
174         ebp += 8;
175
176         if (MONO_TYPE_ISSTRUCT (method->signature->ret)) {
177                 g_assert (!method->signature->ret->byref);
178
179                 printf ("VALUERET:%p, ", *((gpointer *)ebp));
180                 ebp += sizeof (gpointer);
181         }
182
183         if (method->signature->hasthis) {
184                 if (method->klass->valuetype) {
185                         printf ("value:%p, ", *((gpointer *)ebp));
186                 } else {
187                         o = *((MonoObject **)ebp);
188
189                         if (o) {
190                                 class = o->vtable->klass;
191
192                                 if (class == mono_defaults.string_class) {
193                                         printf ("this:[STRING:%p:%s], ", o, mono_string_to_utf8 ((MonoString *)o));
194                                 } else {
195                                         printf ("this:%p[%s.%s], ", o, class->name_space, class->name);
196                                 }
197                         } else 
198                                 printf ("this:NULL, ");
199                 }
200                 ebp += sizeof (gpointer);
201         }
202
203         for (i = 0; i < method->signature->param_count; ++i) {
204                 int size, align;
205                 MonoType *type = method->signature->params [i];
206
207                 if (method->signature->pinvoke)
208                         size = mono_type_native_stack_size (type, &align);
209                 else
210                         size = mono_type_stack_size (type, &align);
211
212                 if (type->byref) {
213                         printf ("[BYREF:%p], ", *((gpointer *)ebp)); 
214                 } else switch (type->type) {
215                         
216                 case MONO_TYPE_BOOLEAN:
217                 case MONO_TYPE_CHAR:
218                 case MONO_TYPE_I1:
219                 case MONO_TYPE_U1:
220                 case MONO_TYPE_I2:
221                 case MONO_TYPE_U2:
222                 case MONO_TYPE_I4:
223                 case MONO_TYPE_U4:
224                 case MONO_TYPE_I:
225                 case MONO_TYPE_U:
226                         printf ("%d, ", *((int *)(ebp)));
227                         break;
228                 case MONO_TYPE_STRING: {
229                         MonoString *s = *((MonoString **)ebp);
230                         if (s) {
231                                 g_assert (((MonoObject *)s)->vtable->klass == mono_defaults.string_class);
232                                 printf ("[STRING:%p:%s], ", s, mono_string_to_utf8 (s));
233                         } else 
234                                 printf ("[STRING:null], ");
235                         break;
236                 }
237                 case MONO_TYPE_CLASS:
238                 case MONO_TYPE_OBJECT: {
239                         o = *((MonoObject **)ebp);
240                         if (o) {
241                                 class = o->vtable->klass;
242                     
243                                 if (class == mono_defaults.string_class) {
244                                         printf ("[STRING:%p:%s], ", o, mono_string_to_utf8 ((MonoString *)o));
245                                 } else if (class == mono_defaults.int32_class) {
246                                         printf ("[INT32:%p:%d], ", o, *(gint32 *)((char *)o + sizeof (MonoObject)));
247                                 } else
248                                         printf ("[%s.%s:%p], ", class->name_space, class->name, o);
249                         } else {
250                                 printf ("%p, ", *((gpointer *)(ebp)));                          
251                         }
252                         break;
253                 }
254                 case MONO_TYPE_PTR:
255                 case MONO_TYPE_FNPTR:
256                 case MONO_TYPE_ARRAY:
257                 case MONO_TYPE_SZARRAY:
258                         printf ("%p, ", *((gpointer *)(ebp)));
259                         break;
260                 case MONO_TYPE_I8:
261                         printf ("%lld, ", *((gint64 *)(ebp)));
262                         break;
263                 case MONO_TYPE_R4:
264                         printf ("%f, ", *((float *)(ebp)));
265                         break;
266                 case MONO_TYPE_R8:
267                         printf ("%f, ", *((double *)(ebp)));
268                         break;
269                 case MONO_TYPE_VALUETYPE: 
270                         printf ("[");
271                         for (j = 0; j < size; j++)
272                                 printf ("%02x,", *((guint8*)ebp +j));
273                         printf ("], ");
274                         break;
275                 default:
276                         printf ("XX, ");
277                 }
278
279                 g_assert (align == 4 || align == 8);
280                 ebp += size + align - 1;
281                 ebp = (gpointer)((unsigned)ebp & ~(align - 1));
282         }
283
284         printf (")\n");
285 }
286
287 static void
288 leave_method (MonoMethod *method, int edx, int eax, double test)
289 {
290         gint64 l;
291         char *fname;
292
293         fname = mono_method_full_name (method, TRUE);
294         printf ("LEAVE: %s", fname);
295         g_free (fname);
296
297         switch (method->signature->ret->type) {
298         case MONO_TYPE_VOID:
299                 break;
300         case MONO_TYPE_BOOLEAN:
301                 if (eax)
302                         printf ("TRUE:%d", eax);
303                 else 
304                         printf ("FALSE");
305                         
306                 break;
307         case MONO_TYPE_CHAR:
308         case MONO_TYPE_I1:
309         case MONO_TYPE_U1:
310         case MONO_TYPE_I2:
311         case MONO_TYPE_U2:
312         case MONO_TYPE_I4:
313         case MONO_TYPE_U4:
314         case MONO_TYPE_I:
315         case MONO_TYPE_U:
316                 printf ("EAX=%d", eax);
317                 break;
318         case MONO_TYPE_STRING: {
319                 MonoString *s = (MonoString *)eax;
320
321                 if (s) {
322                         g_assert (((MonoObject *)s)->vtable->klass == mono_defaults.string_class);
323                         printf ("[STRING:%p:%s]", s, mono_string_to_utf8 (s));
324                 } else 
325                         printf ("[STRING:null], ");
326                 break;
327         }
328         case MONO_TYPE_OBJECT: {
329                 MonoObject *o = (MonoObject *)eax;
330
331                 if (o) {
332                         if (o->vtable->klass == mono_defaults.boolean_class) {
333                                 printf ("[BOOLEAN:%p:%d]", o, *((guint8 *)o + sizeof (MonoObject)));            
334                         } else if  (o->vtable->klass == mono_defaults.int32_class) {
335                                 printf ("[INT32:%p:%d]", o, *((gint32 *)((char *)o + sizeof (MonoObject))));    
336                         } else if  (o->vtable->klass == mono_defaults.int64_class) {
337                                 printf ("[INT64:%p:%lld]", o, *((gint64 *)((char *)o + sizeof (MonoObject))));  
338                         } else
339                                 printf ("[%s.%s:%p]", o->vtable->klass->name_space, o->vtable->klass->name, o);
340                 } else
341                         printf ("[OBJECT:%p]", o);
342                
343                 break;
344         }
345         case MONO_TYPE_CLASS:
346         case MONO_TYPE_PTR:
347         case MONO_TYPE_FNPTR:
348         case MONO_TYPE_ARRAY:
349         case MONO_TYPE_SZARRAY:
350                 printf ("EAX=%p", (gpointer)eax);
351                 break;
352         case MONO_TYPE_I8:
353                 *((gint32 *)&l) = eax;
354                 *((gint32 *)&l + 1) = edx;
355                 printf ("EAX/EDX=%lld", l);
356                 break;
357         case MONO_TYPE_R8:
358                 printf ("FP=%f\n", test);
359                 break;
360         default:
361                 printf ("(unknown return type)");
362         }
363
364         printf ("\n");
365 }
366
367 /**
368  * arch_emit_prologue:
369  * @cfg: pointer to status information
370  *
371  * Emits the function prolog.
372  */
373 static void
374 arch_emit_prologue (MonoFlowGraph *cfg)
375 {
376         MonoMethod *method = cfg->method;
377         MonoMethodHeader *header = ((MonoMethodNormal *)method)->header;
378         int i, j, k, alloc_size, pos;
379
380         x86_push_reg (cfg->code, X86_EBP);
381         x86_mov_reg_reg (cfg->code, X86_EBP, X86_ESP, 4);
382
383         alloc_size = cfg->locals_size;
384         pos = 0;
385
386         if (method->save_lmf) {
387                 
388                 pos += sizeof (MonoLMF);
389
390                 /* save the current IP */
391                 cfg->lmfip_offset = cfg->code + 1 - cfg->start;
392                 x86_push_imm (cfg->code, 0);
393                 /* save all caller saved regs */
394                 x86_push_reg (cfg->code, X86_EBX);
395                 x86_push_reg (cfg->code, X86_EDI);
396                 x86_push_reg (cfg->code, X86_ESI);
397                 x86_push_reg (cfg->code, X86_EBP);
398
399                 /* save method info */
400                 x86_push_imm (cfg->code, method);
401         
402                 /* get the address of lmf for the current thread */
403                 x86_call_code (cfg->code, mono_get_lmf_addr);
404                 /* push lmf */
405                 x86_push_reg (cfg->code, X86_EAX); 
406                 /* push *lfm (previous_lmf) */
407                 x86_push_membase (cfg->code, X86_EAX, 0);
408                 /* *(lmf) = ESP */
409                 x86_mov_membase_reg (cfg->code, X86_EAX, 0, X86_ESP, 4);
410         }
411
412 #if 0
413         /* activation frame alignment check */
414         x86_mov_reg_reg (cfg->code, X86_EAX, X86_ESP, 4);
415         x86_alu_reg_imm (cfg->code, X86_AND, X86_EAX, MONO_FRAME_ALIGNMENT - 1);
416         x86_alu_reg_imm (cfg->code, X86_CMP, X86_EAX, 0);
417         x86_branch32 (cfg->code, X86_CC_EQ, 1, FALSE);
418         x86_breakpoint (cfg->code);
419
420 #endif
421
422         if (mono_regset_reg_used (cfg->rs, X86_EBX)) {
423                 x86_push_reg (cfg->code, X86_EBX);
424                 pos += 4;
425         }
426
427         if (mono_regset_reg_used (cfg->rs, X86_EDI)) {
428                 x86_push_reg (cfg->code, X86_EDI);
429                 pos += 4;
430         }
431
432         if (mono_regset_reg_used (cfg->rs, X86_ESI)) {
433                 x86_push_reg (cfg->code, X86_ESI);
434                 pos += 4;
435         }
436
437         alloc_size -= pos;
438
439         if (alloc_size)
440                 x86_alu_reg_imm (cfg->code, X86_SUB, X86_ESP, alloc_size);
441
442         if (mono_jit_trace_calls) {
443                 x86_push_reg (cfg->code, X86_EBP);
444                 x86_push_imm (cfg->code, cfg->method);
445                 x86_mov_reg_imm (cfg->code, X86_EAX, enter_method);
446                 x86_call_reg (cfg->code, X86_EAX);
447                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 8);
448         }
449         if (mono_jit_profile) {
450                 x86_push_imm (cfg->code, cfg->method);
451                 x86_mov_reg_imm (cfg->code, X86_EAX, mono_profiler_method_enter);
452                 x86_call_reg (cfg->code, X86_EAX);
453                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 4);
454         }
455
456         /* initialize local vars */
457         if (header->num_locals) {
458                 gboolean unassigned_locals = TRUE;
459
460                 if (cfg->bblocks [0].live_in_set) {
461                         i = mono_bitset_find_first (cfg->bblocks [0].live_in_set, 
462                                                     cfg->locals_start_index - 1);
463                         unassigned_locals = (i >= 0 && i < cfg->locals_start_index + 
464                                              header->num_locals);
465                 }
466
467                 if (unassigned_locals && header->init_locals) {
468                         MonoVarInfo *vi = &VARINFO (cfg, cfg->locals_start_index + header->num_locals - 1);
469                         int offset = vi->offset;  
470                         int size = - offset;
471                         int inited = 0;
472                         
473                         /* do not clear caller saved registers */
474                         size -= 12;
475
476                         for (i = 0; i < header->num_locals; ++i) {
477                                 MonoVarInfo *rv = &VARINFO (cfg, cfg->locals_start_index + i);
478
479                                 if (rv->reg >= 0) {
480                                         int ind = 1 << rv->reg;
481                                         if (!(inited & ind))
482                                                 x86_alu_reg_reg (cfg->code, X86_XOR, rv->reg, rv->reg);
483                                         inited |= ind;
484                                 }
485                         }
486
487                         if (size == 1 || size == 2 || size == 4) {
488                                 x86_mov_membase_imm (cfg->code, X86_EBP, offset, 0, size);
489                                 return;
490                         }
491                         
492                         i = size / 4;
493                         j = size % 4;
494
495                         if (i < 3) {
496                                 for (k = 0; k < i; k++) {
497                                         x86_mov_membase_imm (cfg->code, X86_EBP, offset, 0, 4);
498                                         offset += 4;
499                                 }
500
501                                 if (j & 2) {
502                                         x86_mov_membase_imm (cfg->code, X86_EBP, offset, 0, 2);
503                                         offset += 2;
504                                 }
505                                 if (j & 1)
506                                         x86_mov_membase_imm (cfg->code, X86_EBP, offset, 0, 1);
507                                 return;
508                         }
509                         
510                         if (i) {
511                                 if (!mono_regset_reg_used (cfg->rs, X86_EDI)) 
512                                         x86_push_reg (cfg->code, X86_EDI);
513                                 x86_lea_membase (cfg->code, X86_EDI, X86_EBP, offset);
514                                 x86_alu_reg_reg (cfg->code, X86_XOR, X86_EAX, X86_EAX);
515                                 x86_mov_reg_imm (cfg->code, X86_ECX, i);
516                                 x86_cld (cfg->code);
517                                 x86_prefix (cfg->code, X86_REP_PREFIX);
518                                 x86_stosl (cfg->code);
519                                 for (i = 0; i < j; i++)
520                                         x86_stosb (cfg->code);
521                                 if (!mono_regset_reg_used (cfg->rs, X86_EDI)) 
522                                         x86_pop_reg (cfg->code, X86_EDI);
523                         } else {
524
525                                 g_assert (j == 3);
526                                 x86_mov_membase_imm (cfg->code, X86_EBP, offset, 0, 2);
527                                 x86_mov_membase_imm (cfg->code, X86_EBP, offset + 2, 0, 1);
528                         }
529                         
530                 } else {
531
532                         /* we always need to initialize object pointers */
533
534                         for (i = 0; i < header->num_locals; ++i) {
535                                 MonoType *t = header->locals [i];
536                                 int offset = VARINFO (cfg, cfg->locals_start_index + i).offset;  
537
538                                 if (t->byref) {
539                                         x86_mov_membase_imm (cfg->code, X86_EBP, offset, 0, 4);
540                                         continue;
541                                 }
542
543                                 switch (t->type) {
544                                 case MONO_TYPE_STRING:
545                                 case MONO_TYPE_CLASS:
546                                 case MONO_TYPE_ARRAY:
547                                 case MONO_TYPE_SZARRAY:
548                                 case MONO_TYPE_OBJECT:
549                                         x86_mov_membase_imm (cfg->code, X86_EBP, offset, 0, 4);
550                                         break;
551                                 }
552
553                         }
554                 }
555         }
556 }
557
558 /**
559  * arch_emit_epilogue:
560  * @cfg: pointer to status information
561  *
562  * Emits the function epilog.
563  */
564 static void
565 arch_emit_epilogue (MonoFlowGraph *cfg)
566 {
567         int pos;
568         /*
569          * note: with trace and profiling the value on the FP stack may get clobbered.
570          */
571         if (mono_jit_trace_calls) {
572                 x86_fld_reg (cfg->code, 0);
573                 x86_alu_reg_imm (cfg->code, X86_SUB, X86_ESP, 8);
574                 x86_fst_membase (cfg->code, X86_ESP, 0, TRUE, TRUE);
575                 x86_push_reg (cfg->code, X86_EAX);
576                 x86_push_reg (cfg->code, X86_EDX);
577                 x86_push_imm (cfg->code, cfg->method);
578                 x86_mov_reg_imm (cfg->code, X86_EAX, leave_method);
579                 x86_call_reg (cfg->code, X86_EAX);
580                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 4);
581                 x86_pop_reg (cfg->code, X86_EDX);
582                 x86_pop_reg (cfg->code, X86_EAX);
583                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 8);
584         }
585         if (mono_jit_profile) {
586                 x86_push_reg (cfg->code, X86_EAX);
587                 x86_push_reg (cfg->code, X86_EDX);
588                 x86_push_imm (cfg->code, cfg->method);
589                 x86_mov_reg_imm (cfg->code, X86_EAX, mono_profiler_method_leave);
590                 x86_call_reg (cfg->code, X86_EAX);
591                 x86_alu_reg_imm (cfg->code, X86_ADD, X86_ESP, 4);
592                 x86_pop_reg (cfg->code, X86_EDX);
593                 x86_pop_reg (cfg->code, X86_EAX);
594         }
595
596         if (cfg->method->save_lmf) {
597                 pos = -sizeof (MonoLMF) - 4;
598         } else
599                 pos = -4;
600
601         if (mono_regset_reg_used (cfg->rs, X86_EBX)) {
602                 x86_mov_reg_membase (cfg->code, X86_EBX, X86_EBP, pos, 4);
603                 pos -= 4;
604         }
605         if (mono_regset_reg_used (cfg->rs, X86_EDI)) {
606                 x86_mov_reg_membase (cfg->code, X86_EDI, X86_EBP, pos, 4);
607                 pos -= 4;
608         }
609         if (mono_regset_reg_used (cfg->rs, X86_ESI)) {
610                 x86_mov_reg_membase (cfg->code, X86_ESI, X86_EBP, pos, 4);
611                 pos -= 4;
612         }
613
614         if (cfg->method->save_lmf) {
615                 pos = -sizeof (MonoLMF);
616
617                 x86_lea_membase (cfg->code, X86_ESP, X86_EBP, pos);
618
619                 /* ebx = previous_lmf */
620                 x86_pop_reg (cfg->code, X86_EBX);
621                 /* edi = lmf */
622                 x86_pop_reg (cfg->code, X86_EDI);
623                 /* *(lmf) = previous_lmf */
624                 x86_mov_membase_reg (cfg->code, X86_EDI, 0, X86_EBX, 4);
625
626                 /* discard method info */
627                 x86_pop_reg (cfg->code, X86_ESI);
628
629                 /* restore caller saved regs */
630                 x86_pop_reg (cfg->code, X86_EBP);
631                 x86_pop_reg (cfg->code, X86_ESI);
632                 x86_pop_reg (cfg->code, X86_EDI);
633                 x86_pop_reg (cfg->code, X86_EBX);
634
635         }
636
637         x86_leave (cfg->code);
638         x86_ret (cfg->code);
639 }
640
641 int
642 arch_allocate_var (MonoFlowGraph *cfg, int size, int align, MonoVarType vartype, MonoValueType type)
643 {
644         MonoVarInfo vi;
645
646         mono_jit_stats.allocate_var++;
647
648         vi.range.last_use.abs_pos = 0;
649         vi.range.first_use.pos.bid = 0xffff;
650         vi.range.first_use.pos.tid = 0; 
651         vi.isvolatile = 0;
652         vi.reg = -1;
653         vi.varnum = cfg->varinfo->len;
654
655         if (size != sizeof (gpointer))
656                 vi.isvolatile = 1;
657         
658         switch (vartype) {
659         case MONO_TEMPVAR:
660         case MONO_LOCALVAR: {
661                 cfg->locals_size += size;
662                 cfg->locals_size += align - 1;
663                 cfg->locals_size &= ~(align - 1);
664
665                 SET_VARINFO (vi, type, vartype, - cfg->locals_size, size);
666                 g_array_append_val (cfg->varinfo, vi);
667                 break;
668         }
669         case MONO_ARGVAR: {
670                 int arg_start = 8 + cfg->has_vtarg*4;
671
672                 g_assert ((align & 3) == 0);
673
674                 SET_VARINFO (vi, type, vartype, cfg->args_size + arg_start, size);
675                 g_array_append_val (cfg->varinfo, vi);
676                 
677                 cfg->args_size += size;
678                 cfg->args_size += 3;
679                 cfg->args_size &= ~3;
680                 break;
681         }
682         default:
683                 g_assert_not_reached ();
684         }
685
686         return cfg->varinfo->len - 1;
687 }
688
689 static gboolean
690 mono_label_cfg (MonoFlowGraph *cfg)
691 {
692         int i, j;
693
694         for (i = 0; i < cfg->block_count; i++) {
695                 GPtrArray *forest = cfg->bblocks [i].forest;
696                 int top;
697
698                 if (!cfg->bblocks [i].reached) /* unreachable code */
699                         continue;
700                 
701                 top = forest->len;
702
703                 for (j = 0; j < top; j++) {
704                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
705                         MBState *mbstate;
706                         
707                         mbstate =  mono_burg_label (t1, cfg);
708
709                         if (!mbstate) {
710                                 if (mono_debug_format != MONO_DEBUG_FORMAT_NONE)
711                                         return FALSE;
712                                 g_warning ("tree does not match in %s: 0x%04x",
713                                            mono_method_full_name (cfg->method, TRUE), t1->cli_addr);
714                                 mono_print_ctree (cfg, t1); printf ("\n\n");
715
716                                 mono_print_forest (cfg, forest);
717                                 g_assert_not_reached ();
718                         }
719                 }
720         }
721
722         return TRUE;
723 }
724
725 static gboolean
726 tree_allocate_regs (MonoFlowGraph *cfg, MBTree *tree, int goal, MonoRegSet *rs, 
727                     guint8 exclude_mask, int *spillcount) 
728 {
729         MBTree *kids[10];
730         int ern = mono_burg_rule (tree->state, goal);
731         const guint16 *nts = mono_burg_nts [ern];
732         guint8 left_exclude_mask = 0, right_exclude_mask = 0;
733         int i;
734         
735 #ifdef DEBUG_REGALLOC
736         printf ("tree_allocate_regs start %d %08x %d %d\n",  tree->op, rs->free_mask, goal, 
737                 (nts [0] && kids [0] == tree));
738 #endif
739
740         mono_burg_kids (tree, ern, kids);
741
742         switch (tree->op) {
743         case MB_TERM_SHL:
744         case MB_TERM_SHR:
745         case MB_TERM_SHR_UN:
746                 exclude_mask |= (1 << X86_ECX);
747                 left_exclude_mask |= (1 << X86_ECX);
748                 break;
749         case MB_TERM_MUL:
750         case MB_TERM_MUL_OVF:
751         case MB_TERM_MUL_OVF_UN:
752         case MB_TERM_DIV:
753         case MB_TERM_DIV_UN:
754         case MB_TERM_REM:
755         case MB_TERM_REM_UN:
756                 if (goal == MB_NTERM_reg) {
757                         left_exclude_mask |= (1 << X86_EDX);
758                         right_exclude_mask |= (1 << X86_EDX) | (1 << X86_EAX);
759                 }
760                 break;
761         default:
762                 break;
763         }
764
765         if (nts [0] && kids [0] == tree) {
766                 /* chain rule */
767                 if (!tree_allocate_regs (cfg, kids [0], nts [0], rs, exclude_mask, spillcount))
768                         return FALSE;
769                 return TRUE;
770         }
771
772         if (tree->spilled) {
773                 if (tree->reg1 >= 0)
774                         (*spillcount)--;
775                 if (tree->reg2 >= 0)
776                         (*spillcount)--;
777                 if (tree->reg3 >= 0)
778                         (*spillcount)--;
779         }
780
781         tree->reg1 = -1;
782         tree->reg2 = -1;
783         tree->reg3 = -1;
784         
785         tree->spilled = 0;
786  
787         if (nts [0]) {
788                 if (nts [1]) { /* two kids */
789                         MonoRegSet saved_rs;
790
791                         if (!tree_allocate_regs (cfg, kids [0], nts [0], rs, left_exclude_mask, spillcount))
792                                 return FALSE;
793
794                         saved_rs = *rs;
795
796                         if (!tree_allocate_regs (cfg, kids [1], nts [1], rs, right_exclude_mask, spillcount)) {
797
798 #ifdef DEBUG_REGALLOC
799                                 printf ("tree_allocate_regs try 1 failed %d %d %d %d\n", 
800                                         nts [1], kids [1]->reg1,
801                                         kids [1]->reg2,kids [1]->reg3);
802 #endif
803                                 *rs = saved_rs;
804
805                                 if (kids [0]->reg1 != -1) {
806                                         right_exclude_mask |= 1 << kids [0]->reg1;
807                                         (*spillcount)++;
808                                 }
809                                 if (kids [0]->reg2 != -1) {
810                                         right_exclude_mask |= 1 << kids [0]->reg2;
811                                         (*spillcount)++;
812                                 }
813                                 if (kids [0]->reg3 != -1) {
814                                         right_exclude_mask |= 1 << kids [0]->reg3;
815                                         (*spillcount)++;
816                                 }
817
818                                 mono_regset_free_reg (rs, kids [0]->reg1);
819                                 mono_regset_free_reg (rs, kids [0]->reg2);
820                                 mono_regset_free_reg (rs, kids [0]->reg3);
821
822                                 kids [0]->spilled = 1;
823
824                                 if (!tree_allocate_regs (cfg, kids [1], nts [1], rs, right_exclude_mask, spillcount)) {
825 #ifdef DEBUG_REGALLOC
826                                         printf ("tree_allocate_regs try 2 failed\n");
827 #endif
828                                         return FALSE;
829                                 }
830 #ifdef DEBUG_REGALLOC
831                                 printf ("tree_allocate_regs try 2 succesfull\n");
832 #endif
833                         }
834
835                         if (nts [2]) {
836                                 if (nts [3]) /* we cant handle four kids */
837                                         g_assert_not_reached ();
838
839                                 if (!tree_allocate_regs (cfg, kids [2], nts [2], rs, right_exclude_mask, spillcount))
840                                         return FALSE;
841                                 
842                         }
843
844                 } else { /* one kid */
845                         if (!tree_allocate_regs (cfg, kids [0], nts [0], rs, left_exclude_mask, spillcount))
846                                 return FALSE;                   
847                 }
848         }
849
850
851         for (i = 0; nts [i]; i++) {
852                 mono_regset_free_reg (rs, kids [i]->reg1);
853                 mono_regset_free_reg (rs, kids [i]->reg2);
854                 mono_regset_free_reg (rs, kids [i]->reg3);
855         }
856
857         tree->emit = mono_burg_func [ern];
858
859         switch (tree->op) {
860         case MB_TERM_CALL_I4:
861         case MB_TERM_CALL_I8:
862         case MB_TERM_CALL_R8:
863         // case MB_TERM_CALL_VOID :
864                 if ((tree->reg1 = mono_regset_alloc_reg (rs, X86_EAX, exclude_mask)) == -1)
865                         return FALSE;
866                 if ((tree->reg2 = mono_regset_alloc_reg (rs, X86_EDX, exclude_mask)) == -1)
867                         return FALSE;
868                 if ((tree->reg3 = mono_regset_alloc_reg (rs, X86_ECX, exclude_mask)) == -1)
869                         return FALSE;
870                 return TRUE;
871         }
872
873         switch (goal) {
874         case MB_NTERM_reg:
875                 switch (tree->op) {
876                 case MB_TERM_MUL_OVF_UN:
877                 case MB_TERM_DIV:
878                 case MB_TERM_DIV_UN:
879                 case MB_TERM_REM:
880                 case MB_TERM_REM_UN:
881                         if ((tree->reg1 = mono_regset_alloc_reg (rs, X86_EAX, exclude_mask)) == -1)
882                                 return FALSE;                   
883                         if ((tree->reg2 = mono_regset_alloc_reg (rs, X86_EDX, exclude_mask)) == -1)
884                                 return FALSE;
885                         break;
886                 default:
887                         if ((tree->reg1 = mono_regset_alloc_reg (rs, -1, exclude_mask)) == -1)
888                                 return FALSE;
889                 }
890                 break;
891
892         case MB_NTERM_lreg:
893                 switch (tree->op) {
894                 case MB_TERM_MUL:
895                 case MB_TERM_MUL_OVF:
896                 case MB_TERM_MUL_OVF_UN:
897                 case MB_TERM_DIV:
898                 case MB_TERM_DIV_UN:
899                 case MB_TERM_REM:
900                 case MB_TERM_REM_UN:
901                         if ((tree->reg1 = mono_regset_alloc_reg (rs, X86_EAX, exclude_mask)) == -1)
902                                 return FALSE;                   
903                         if ((tree->reg2 = mono_regset_alloc_reg (rs, X86_EDX, exclude_mask)) == -1)
904                                 return FALSE;
905                         break;
906                 default:
907                         if ((tree->reg1 = mono_regset_alloc_reg (rs, -1, exclude_mask)) == -1)
908                                 return FALSE;
909                         if ((tree->reg2 = mono_regset_alloc_reg (rs, -1, exclude_mask)) == -1)
910                                 return FALSE;
911                 }
912                 break;
913
914         case MB_NTERM_freg:
915                 /* fixme: allocate floating point registers */
916                 break;
917       
918         case MB_NTERM_addr:
919                 if (tree->op == MB_TERM_ADD) {
920                         if ((tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, exclude_mask)) == -1)
921                                 return FALSE;
922                         if ((tree->reg2 = mono_regset_alloc_reg (rs, tree->right->reg1, exclude_mask)) == -1)
923                                 return FALSE;
924                 }
925                 break;
926                 
927         case MB_NTERM_base:
928                 if (tree->op == MB_TERM_ADD) {
929                         if ((tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, exclude_mask)) == -1)
930                                 return FALSE;
931                 }
932                 break;
933                
934         case MB_NTERM_index:
935                 if (tree->op == MB_TERM_SHL ||
936                     tree->op == MB_TERM_MUL) {
937                         if ((tree->reg1 = mono_regset_alloc_reg (rs, tree->left->reg1, exclude_mask)) == -1)
938                                 return FALSE;
939                 }
940                 break;
941                
942         default:
943                 /* do nothing */
944                 break;
945         }
946
947 #ifdef DEBUG_REGALLOC
948         printf ("tree_allocate_regs end %d %08x\n",  tree->op, rs->free_mask);
949 #endif
950         return TRUE;
951 }
952
953 static void
954 arch_allocate_regs (MonoFlowGraph *cfg)
955 {
956         int i, j, max_spillcount = 0;
957         
958         for (i = 0; i < cfg->block_count; i++) {
959                 GPtrArray *forest = cfg->bblocks [i].forest;
960                 int top;
961
962                 if (!cfg->bblocks [i].reached) /* unreachable code */
963                         continue;
964
965                 top = forest->len;
966
967                 for (j = 0; j < top; j++) {
968                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
969                         int spillcount = 0;
970 #ifdef DEBUG_REGALLOC
971                         printf ("arch_allocate_regs start %d:%d %08x\n", i, j, cfg->rs->free_mask);
972 #endif
973                         if (!tree_allocate_regs (cfg, t1, 1, cfg->rs, 0, &spillcount)) {
974                                 mono_print_ctree (cfg, t1);
975                                 printf ("\n");
976                                 g_error ("register allocation failed");
977                         }
978
979                         max_spillcount = MAX (max_spillcount, spillcount);
980
981 #ifdef DEBUG_REGALLOC
982                         printf ("arch_allocate_regs end %d:%d %08x\n", i, j, cfg->rs->free_mask);
983 #endif
984                         g_assert (cfg->rs->free_mask == 0xffffffff);
985                 }
986         }
987
988         /* allocate space for spilled regs */
989
990         cfg->spillvars = mono_mempool_alloc0 (cfg->mp, sizeof (gint) *  max_spillcount);
991         cfg->spillcount = max_spillcount;
992
993         for (i = 0; i < max_spillcount; i++) {
994                 int spillvar;
995                 spillvar = arch_allocate_var (cfg, sizeof (gpointer), sizeof (gpointer),
996                                               MONO_TEMPVAR, VAL_I32);
997                 cfg->spillvars [i] = VARINFO (cfg, spillvar).offset;
998         }
999 }
1000
1001 static void
1002 tree_emit (int goal, MonoFlowGraph *cfg, MBTree *tree, int *spillcount) 
1003 {
1004         MBTree *kids[10];
1005         int ern = mono_burg_rule (tree->state, goal);
1006         const guint16 *nts = mono_burg_nts [ern];
1007         MBEmitFunc emit;
1008         int offset;
1009
1010         mono_burg_kids (tree, ern, kids);
1011
1012         if (nts [0]) {
1013                 if (nts [1]) {
1014                         int spilloffset1, spilloffset2, spilloffset3;
1015                         
1016                         tree_emit (nts [0], cfg, kids [0], spillcount);
1017
1018                         if (kids [0]->spilled) {
1019 #ifdef DEBUG_SPILLS
1020                                 printf ("SPILL_REGS %d %03x %s.%s:%s\n", 
1021                                         nts [0], cfg->code - cfg->start,
1022                                         cfg->method->klass->name_space,
1023                                         cfg->method->klass->name, cfg->method->name);
1024
1025                                 mono_print_ctree (cfg, kids [0]);printf ("\n\n");
1026 #endif
1027                                 spilloffset1 = 0;
1028                                 spilloffset2 = 0;
1029                                 spilloffset3 = 0;
1030
1031                                 if (kids [0]->reg1 != -1) {
1032                                         spilloffset1 = cfg->spillvars [(*spillcount)++];
1033                                         x86_mov_membase_reg (cfg->code, X86_EBP, spilloffset1, 
1034                                                              kids [0]->reg1, 4);
1035                                 }
1036                                 if (kids [0]->reg2 != -1) {
1037                                         spilloffset2 = cfg->spillvars [(*spillcount)++];
1038                                         x86_mov_membase_reg (cfg->code, X86_EBP, spilloffset2, 
1039                                                              kids [0]->reg2, 4);
1040                                 }
1041                                 if (kids [0]->reg3 != -1) {
1042                                         spilloffset3 = cfg->spillvars [(*spillcount)++];
1043                                         x86_mov_membase_reg (cfg->code, X86_EBP, spilloffset3, 
1044                                                              kids [0]->reg3, 4);
1045                                 }
1046                         }
1047
1048                         tree_emit (nts [1], cfg, kids [1], spillcount);
1049
1050                         if (kids [0]->spilled) {
1051
1052 #ifdef DEBUG_SPILLS
1053                                 printf ("RELOAD_REGS %03x %s.%s:%s\n", 
1054                                         cfg->code - cfg->start,
1055                                         cfg->method->klass->name_space,
1056                                         cfg->method->klass->name, cfg->method->name);
1057 #endif
1058
1059                                 if (kids [0]->reg3 != -1) 
1060                                         x86_mov_reg_membase (cfg->code, kids [0]->reg3, X86_EBP, 
1061                                                              spilloffset3, 4);
1062                                 if (kids [0]->reg2 != -1) 
1063                                         x86_mov_reg_membase (cfg->code, kids [0]->reg2, X86_EBP, 
1064                                                              spilloffset2, 4);
1065                                 if (kids [0]->reg1 != -1) 
1066                                         x86_mov_reg_membase (cfg->code, kids [0]->reg1, X86_EBP, 
1067                                                              spilloffset1, 4);
1068                         }
1069
1070                         if (nts [2]) {
1071                                 g_assert (!nts [3]);
1072                                 tree_emit (nts [2], cfg, kids [2], spillcount);
1073                         }
1074                 } else {
1075                         tree_emit (nts [0], cfg, kids [0], spillcount);
1076                 }
1077         }
1078
1079         g_assert ((*spillcount) <= cfg->spillcount);
1080
1081         tree->addr = offset = cfg->code - cfg->start;
1082
1083         /* we assume an instruction uses a maximum of 128 bytes */
1084         if ((cfg->code_size - offset) <= 128) {
1085                 int add = MIN (cfg->code_size, 128);
1086                 cfg->code_size += add;
1087                 mono_jit_stats.code_reallocs++;
1088                 cfg->start = g_realloc (cfg->start, cfg->code_size);
1089                 g_assert (cfg->start);
1090                 cfg->code = cfg->start + offset;
1091         }
1092
1093         if ((emit = mono_burg_func [ern]))
1094                 emit (tree, cfg);
1095
1096         g_assert ((cfg->code - cfg->start) < cfg->code_size);
1097 }
1098
1099 static void
1100 mono_emit_cfg (MonoFlowGraph *cfg)
1101 {
1102         int i, j, spillcount;
1103
1104         for (i = 0; i < cfg->block_count; i++) {
1105                 MonoBBlock *bb = &cfg->bblocks [i];
1106                 GPtrArray *forest = bb->forest;
1107                 int top;
1108
1109                 if (!bb->reached) /* unreachable code */
1110                         continue;
1111                 
1112                 top = forest->len;
1113
1114                 bb->addr = cfg->code - cfg->start;
1115           
1116                 for (j = 0; j < top; j++) {
1117                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, j);
1118                         
1119                         spillcount = 0;
1120                         tree_emit (1, cfg, t1, &spillcount);
1121                 }
1122         }
1123                 
1124         cfg->epilog = cfg->code - cfg->start;
1125 }
1126
1127 static void
1128 mono_compute_branches (MonoFlowGraph *cfg)
1129 {
1130         MonoJumpInfo *ji;
1131         guint8 *end;
1132         int i, j;
1133
1134         end = cfg->code;
1135
1136         for (j = 0; j < cfg->block_count; j++) {
1137                 MonoBBlock *bb = &cfg->bblocks [j];
1138                 GPtrArray *forest = bb->forest;
1139                 int top;
1140                 
1141                 if (!bb->reached) /* unreachable code */
1142                         continue;
1143
1144                 top = forest->len;
1145         
1146                 for (i = 0; i < top; i++) {
1147                         MBTree *t1 = (MBTree *) g_ptr_array_index (forest, i);
1148
1149                         if (t1->op == MB_TERM_SWITCH) {
1150                                 MonoBBlock **jt = (MonoBBlock **)t1->data.p;
1151                                 guint32 *rt = (guint32 *)t1->data.p;
1152                                 int m = *((guint32 *)t1->data.p) + 1;
1153                                 int k;
1154                                 
1155                                 for (k = 1; k <= m; k++)
1156                                         rt [k] = (int)(jt [k]->addr + cfg->start);
1157                                 
1158                                 /* emit the switch instruction again to update addresses */
1159                                 cfg->code = cfg->start + t1->addr;
1160                                 ((MBEmitFunc)t1->emit) (t1, cfg);
1161                         }
1162                 }
1163         }
1164
1165         cfg->code = end;
1166
1167         for (ji = cfg->jump_info; ji; ji = ji->next) {
1168                 unsigned char *ip = GUINT_TO_POINTER (GPOINTER_TO_UINT (ji->ip) + cfg->start);
1169                 unsigned char *target;
1170
1171                 switch (ji->type) {
1172                 case MONO_JUMP_INFO_BB:
1173                         target = ji->data.bb->addr + cfg->start;
1174                         break;
1175                 case MONO_JUMP_INFO_ABS:
1176                         target = ji->data.target;
1177                         break;
1178                 case MONO_JUMP_INFO_EPILOG:
1179                         target = cfg->epilog + cfg->start;
1180                         break;
1181                 case MONO_JUMP_INFO_IP:
1182                         *(unsigned char**)ip = ip;
1183                         continue;
1184                 default:
1185                         g_assert_not_reached ();
1186                 }
1187                 x86_patch (ip, target);
1188         }
1189
1190         /* patch the IP in the LMF saving code */
1191         if (cfg->lmfip_offset) {
1192                 *((guint32 *)(cfg->start + cfg->lmfip_offset)) =  
1193                         (gint32)(cfg->start + cfg->lmfip_offset);
1194         }
1195 }
1196
1197 void
1198 mono_add_jump_info (MonoFlowGraph *cfg, gpointer ip, MonoJumpInfoType type, gpointer target)
1199 {
1200         MonoJumpInfo *ji = mono_mempool_alloc (cfg->mp, sizeof (MonoJumpInfo));
1201
1202         ji->type = type;
1203         ji->ip = GUINT_TO_POINTER (GPOINTER_TO_UINT (ip) - GPOINTER_TO_UINT (cfg->start));
1204         ji->data.target = target;
1205         ji->next = cfg->jump_info;
1206
1207         cfg->jump_info = ji;
1208 }
1209
1210 MonoJitInfo *
1211 arch_jit_compile_cfg (MonoDomain *target_domain, MonoFlowGraph *cfg)
1212 {
1213         MonoJitInfo *ji;
1214         guint32 ls_used_mask = 0;
1215         MonoMethod *method = cfg->method;
1216
1217         ji = mono_mempool_alloc0 (target_domain->mp, sizeof (MonoJitInfo));
1218                 
1219         cfg->rs = mono_regset_new (X86_NREG);
1220         mono_regset_reserve_reg (cfg->rs, X86_ESP);
1221         mono_regset_reserve_reg (cfg->rs, X86_EBP);
1222
1223         /* we can use this regs for global register allocation */
1224         mono_regset_reserve_reg (cfg->rs, X86_EBX);
1225         mono_regset_reserve_reg (cfg->rs, X86_ESI);
1226
1227         if (mono_use_linear_scan) {
1228                 mono_linear_scan (cfg, &ls_used_mask);
1229                 cfg->rs->used_mask |= ls_used_mask;
1230         }
1231         
1232         if (mono_jit_dump_forest) {
1233                 int i;
1234                 printf ("FOREST %s\n", mono_method_full_name (method, TRUE));
1235                 for (i = 0; i < cfg->block_count; i++) {
1236                         printf ("BLOCK %d:\n", i);
1237                         mono_print_forest (cfg, cfg->bblocks [i].forest);
1238                 }
1239         }
1240                         
1241         if (!mono_label_cfg (cfg))
1242                 return NULL;
1243                 
1244         arch_allocate_regs (cfg);
1245
1246         /* align to 8 byte boundary */
1247         cfg->locals_size += 7;
1248         cfg->locals_size &= ~7;
1249
1250         arch_emit_prologue (cfg);
1251         cfg->prologue_end = cfg->code - cfg->start;
1252         mono_emit_cfg (cfg);
1253         arch_emit_epilogue (cfg);               
1254         cfg->epilogue_end = cfg->code - cfg->start;
1255
1256         mono_compute_branches (cfg);
1257
1258         ji->code_size = cfg->code - cfg->start;
1259         ji->used_regs = cfg->rs->used_mask;
1260         ji->method = method;
1261         ji->code_start = cfg->start;
1262
1263         return ji;
1264 }
1265