2005-01-31 Zoltan Varga <vargaz@freemail.hu>
[mono.git] / mono / arch / x86 / tramp.c
index 5b6de5b544d026f4afc0a6b8777ce4029f341a8e..fab5a55325fa8ff4d140b51a8959f44f1ab714ad 100644 (file)
@@ -3,15 +3,21 @@
  * 
  * Copyright (C) Ximian Inc.
  * 
- * Author: Paolo Molaro (lupus@ximian.com)
+ * Authors: 
+ *   Paolo Molaro (lupus@ximian.com)
+ *   Dietmar Maurer (dietmar@ximian.com)
  * 
  */
 
 #include "config.h"
+#include <stdlib.h>
+#include <string.h>
 #include "x86-codegen.h"
 #include "mono/metadata/class.h"
 #include "mono/metadata/tabledefs.h"
 #include "mono/interpreter/interp.h"
+#include "mono/metadata/appdomain.h"
+#include "mono/metadata/marshal.h"
 
 /*
  * The resulting function takes the form:
 #define ARG_SIZE       sizeof (stackval)
 
 MonoPIFunc
-mono_create_trampoline (MonoMethod *method)
+mono_arch_create_trampoline (MonoMethodSignature *sig, gboolean string_ctor)
 {
-       MonoMethodSignature *sig;
        unsigned char *p, *code_buffer;
-       guint32 local_size = 0, stack_size = 0, code_size = 30;
-       guint32 arg_pos;
+       guint32 stack_size = 0, code_size = 50;
+       guint32 arg_pos, simpletype;
        int i, stringp;
+       static GHashTable *cache = NULL;
+       MonoPIFunc res;
+
+       if (!cache) 
+               cache = g_hash_table_new ((GHashFunc)mono_signature_hash, 
+                                         (GCompareFunc)mono_metadata_signature_equal);
+
+       if ((res = (MonoPIFunc)g_hash_table_lookup (cache, sig)))
+               return res;
 
-       sig = method->signature;
-       
        if (sig->hasthis) {
                stack_size += sizeof (gpointer);
-               code_size += 5;
+               code_size += 10;
        }
        
+       if (sig->ret->type == MONO_TYPE_VALUETYPE && !sig->ret->byref && !sig->ret->data.klass->enumtype) {
+               stack_size += sizeof (gpointer);
+               code_size += 5;
+       }
+
        for (i = 0; i < sig->param_count; ++i) {
                if (sig->params [i]->byref) {
                        stack_size += sizeof (gpointer);
-                       code_size += i < 10 ? 5 : 8;
+                       code_size += 20;
                        continue;
                }
-               switch (sig->params [i]->type) {
+               simpletype = sig->params [i]->type;
+enum_calc_size:
+               switch (simpletype) {
                case MONO_TYPE_BOOLEAN:
                case MONO_TYPE_CHAR:
                case MONO_TYPE_I1:
@@ -59,28 +78,37 @@ mono_create_trampoline (MonoMethod *method)
                case MONO_TYPE_I:
                case MONO_TYPE_U:
                case MONO_TYPE_PTR:
-               case MONO_TYPE_R4:
                case MONO_TYPE_SZARRAY:
                case MONO_TYPE_CLASS:
                case MONO_TYPE_OBJECT:
+               case MONO_TYPE_STRING:
                        stack_size += 4;
                        code_size += i < 10 ? 5 : 8;
                        break;
-               case MONO_TYPE_VALUETYPE:
-                       if (!sig->params [i]->data.klass->enumtype && (mono_class_value_size (sig->params [i]->data.klass, NULL) != 4))
-                               g_error ("can only marshal enums, not generic structures (size: %d)", mono_class_value_size (sig->params [i]->data.klass, NULL));
-                       stack_size += 4;
-                       code_size += i < 10 ? 5 : 8;
-                       break;
-               case MONO_TYPE_STRING:
-                       stack_size += 4;
-                       code_size += 20;
-                       local_size++;
+               case MONO_TYPE_VALUETYPE: {
+                       int size;
+                       if (sig->params [i]->data.klass->enumtype) {
+                               simpletype = sig->params [i]->data.klass->enum_basetype->type;
+                               goto enum_calc_size;
+                       }
+                       if ((size = mono_class_native_size (sig->params [i]->data.klass, NULL)) != 4) {
+                               stack_size += size + 3;
+                               stack_size &= ~3;
+                               code_size += 32;
+                       } else {
+                               stack_size += 4;
+                               code_size += i < 10 ? 5 : 8;
+                       }
                        break;
+               }
                case MONO_TYPE_I8:
                        stack_size += 8;
                        code_size += i < 10 ? 5 : 8;
                        break;
+               case MONO_TYPE_R4:
+                       stack_size += 4;
+                       code_size += i < 10 ? 10 : 13;
+                       break;
                case MONO_TYPE_R8:
                        stack_size += 8;
                        code_size += i < 10 ? 7 : 10;
@@ -101,15 +129,11 @@ mono_create_trampoline (MonoMethod *method)
        x86_push_reg (p, X86_EBP);
        x86_mov_reg_reg (p, X86_EBP, X86_ESP, 4);
        /*
-        * We store some local vars here to handle string pointers.
         * and align to 16 byte boundary...
         */
-       if (local_size) {
-               x86_alu_reg_imm (p, X86_SUB, X86_ESP, local_size * 4);
-               stack_size = (stack_size * local_size * 4) % 16;
-       } else {
-               stack_size = stack_size % 16;
-       }
+       stack_size += 15;
+       stack_size &= ~15;
+
        if (stack_size)
                x86_alu_reg_imm (p, X86_SUB, X86_ESP, stack_size);
 
@@ -128,7 +152,9 @@ mono_create_trampoline (MonoMethod *method)
                        x86_push_membase (p, X86_EDX, arg_pos);
                        continue;
                }
-               switch (sig->params [i - 1]->type) {
+               simpletype = sig->params [i - 1]->type;
+enum_marshal:
+               switch (simpletype) {
                case MONO_TYPE_BOOLEAN:
                case MONO_TYPE_I1:
                case MONO_TYPE_U1:
@@ -140,54 +166,53 @@ mono_create_trampoline (MonoMethod *method)
                case MONO_TYPE_I:
                case MONO_TYPE_U:
                case MONO_TYPE_PTR:
-               case MONO_TYPE_SZARRAY:
-               case MONO_TYPE_CLASS:
                case MONO_TYPE_OBJECT:
+               case MONO_TYPE_STRING:
+                       x86_push_membase (p, X86_EDX, arg_pos);
+                       break;
                case MONO_TYPE_R4:
+                       x86_alu_reg_imm (p, X86_SUB, X86_ESP, 4);
+                       x86_fld_membase (p, X86_EDX, arg_pos, TRUE);
+                       x86_fst_membase (p, X86_ESP, 0, FALSE, TRUE);
+                       break;
+               case MONO_TYPE_CLASS:
+                       x86_push_membase (p, X86_EDX, arg_pos);
+                       break;
+               case MONO_TYPE_SZARRAY:
                        x86_push_membase (p, X86_EDX, arg_pos);
                        break;
                case MONO_TYPE_VALUETYPE:
                        if (!sig->params [i - 1]->data.klass->enumtype) {
-                               /* it's a structure that fits in 4 bytes, need to push the value pointed to */
-                               x86_mov_reg_membase (p, X86_EAX, X86_EDX, arg_pos, 4);
-                               x86_push_regp (p, X86_EAX);
+                               int size = mono_class_native_size (sig->params [i - 1]->data.klass, NULL);
+                               if (size == 4) {
+                                       /* it's a structure that fits in 4 bytes, need to push the value pointed to */
+                                       x86_mov_reg_membase (p, X86_EAX, X86_EDX, arg_pos, 4);
+                                       x86_push_regp (p, X86_EAX);
+                               } else {
+                                       int ss = size;
+                                       ss += 3;
+                                       ss &= ~3;
+
+                                       x86_alu_reg_imm (p, X86_SUB, X86_ESP, ss);
+                                       x86_push_imm (p, size);
+                                       x86_push_membase (p, X86_EDX, arg_pos);
+                                       x86_lea_membase (p, X86_EAX, X86_ESP, 2*4);
+                                       x86_push_reg (p, X86_EAX);
+                                       x86_mov_reg_imm (p, X86_EAX, memcpy);
+                                       x86_call_reg (p, X86_EAX);
+                                       x86_alu_reg_imm (p, X86_ADD, X86_ESP, 12);
+                                       /* memcpy might clobber EDX so restore it */
+                                       x86_mov_reg_membase (p, X86_EDX, X86_EBP, ARGP_POS, 4);
+                               }
                        } else {
                                /* it's an enum value */
-                               x86_push_membase (p, X86_EDX, arg_pos);
-                       }
-                       break;
-               case MONO_TYPE_R8:
-                       x86_alu_reg_imm (p, X86_SUB, X86_ESP, 8);
-                       x86_fld_membase (p, X86_EDX, arg_pos, TRUE);
-                       x86_fst_membase (p, X86_ESP, 0, TRUE, TRUE);
-                       break;
-               case MONO_TYPE_STRING:
-                       /* 
-                        * If it is an internalcall we assume it's the object we want.
-                        * Yet another reason why MONO_TYPE_STRING should not be used to indicate char*.
-                        */
-                       if (method->iflags & METHOD_IMPL_ATTRIBUTE_INTERNAL_CALL) {
-                               x86_push_membase (p, X86_EDX, arg_pos);
-                               break;
+                               simpletype = sig->params [i - 1]->data.klass->enum_basetype->type;
+                               goto enum_marshal;
                        }
-                       /*if (frame->method->flags & PINVOKE_ATTRIBUTE_CHAR_SET_ANSI*/
-                       x86_push_membase (p, X86_EDX, arg_pos);
-                       x86_mov_reg_imm (p, X86_EDX, mono_string_to_utf8);
-                       x86_call_reg (p, X86_EDX);
-                       x86_alu_reg_imm (p, X86_ADD, X86_ESP, 4);
-                       x86_push_reg (p, X86_EAX);
-                       /*
-                        * Store the pointer in a local we'll free later.
-                        */
-                       stringp++;
-                       x86_mov_membase_reg (p, X86_EBP, LOC_POS * stringp, X86_EAX, 4);
-                       /*
-                        * we didn't save the reg: restore it here.
-                        */
-                       if (i > 1)
-                               x86_mov_reg_membase (p, X86_EDX, X86_EBP, ARGP_POS, 4);
                        break;
                case MONO_TYPE_I8:
+               case MONO_TYPE_U8:
+               case MONO_TYPE_R8:
                        x86_push_membase (p, X86_EDX, arg_pos + 4);
                        x86_push_membase (p, X86_EDX, arg_pos);
                        break;
@@ -205,6 +230,14 @@ mono_create_trampoline (MonoMethod *method)
                }
        }
 
+       if (sig->ret->type == MONO_TYPE_VALUETYPE && !sig->ret->byref) {
+               MonoClass *klass = sig->ret->data.klass;
+               if (!klass->enumtype) {
+                       x86_mov_reg_membase (p, X86_ECX, X86_EBP, RETVAL_POS, 4);
+                       x86_push_membase (p, X86_ECX, 0);
+               }
+       }
+
        /* 
         * Insert call to function 
         */
@@ -217,18 +250,38 @@ mono_create_trampoline (MonoMethod *method)
         * Long integers are in EAX:EDX.
         * FP values are on the FP stack.
         */
-       if (sig->ret->byref) {
+
+       if (sig->ret->byref || string_ctor) {
                x86_mov_reg_membase (p, X86_ECX, X86_EBP, RETVAL_POS, 4);
                x86_mov_regp_reg (p, X86_ECX, X86_EAX, 4);
        } else {
-               switch (sig->ret->type) {
+               simpletype = sig->ret->type;
+       enum_retvalue:
+               switch (simpletype) {
+               case MONO_TYPE_BOOLEAN:
+               case MONO_TYPE_I1:
+               case MONO_TYPE_U1:
+                       x86_mov_reg_membase (p, X86_ECX, X86_EBP, RETVAL_POS, 4);
+                       x86_mov_regp_reg (p, X86_ECX, X86_EAX, 1);
+                       break;
+               case MONO_TYPE_CHAR:
+               case MONO_TYPE_I2:
+               case MONO_TYPE_U2:
+                       x86_mov_reg_membase (p, X86_ECX, X86_EBP, RETVAL_POS, 4);
+                       x86_mov_regp_reg (p, X86_ECX, X86_EAX, 2);
+                       break;
                case MONO_TYPE_I4:
                case MONO_TYPE_U4:
                case MONO_TYPE_I:
                case MONO_TYPE_U:
                case MONO_TYPE_CLASS:
                case MONO_TYPE_OBJECT:
-               case MONO_TYPE_STRING: /* this is going to cause large pains... */
+               case MONO_TYPE_SZARRAY:
+               case MONO_TYPE_ARRAY:
+                       x86_mov_reg_membase (p, X86_ECX, X86_EBP, RETVAL_POS, 4);
+                       x86_mov_regp_reg (p, X86_ECX, X86_EAX, 4);
+                       break;
+               case MONO_TYPE_STRING: 
                        x86_mov_reg_membase (p, X86_ECX, X86_EBP, RETVAL_POS, 4);
                        x86_mov_regp_reg (p, X86_ECX, X86_EAX, 4);
                        break;
@@ -245,6 +298,11 @@ mono_create_trampoline (MonoMethod *method)
                        x86_mov_regp_reg (p, X86_ECX, X86_EAX, 4);
                        x86_mov_membase_reg (p, X86_ECX, 4, X86_EDX, 4);
                        break;
+               case MONO_TYPE_VALUETYPE:
+                       if (sig->ret->data.klass->enumtype) {
+                               simpletype = sig->ret->data.klass->enum_basetype->type;
+                               goto enum_retvalue;
+                       }
                case MONO_TYPE_VOID:
                        break;
                default:
@@ -252,29 +310,22 @@ mono_create_trampoline (MonoMethod *method)
                }
        }
 
-       /*
-        * free the allocated strings.
-        */
-       if (!(method->iflags & METHOD_IMPL_ATTRIBUTE_INTERNAL_CALL)) {
-               if (local_size)
-                       x86_mov_reg_imm (p, X86_EDX, g_free);
-               for (i = 1; i <= local_size; ++i) {
-                       x86_push_membase (p, X86_EBP, LOC_POS * i);
-                       x86_call_reg (p, X86_EDX);
-               }
-       }
        /*
         * Standard epilog.
         */
        x86_leave (p);
        x86_ret (p);
 
-       return g_memdup (code_buffer, p - code_buffer);
+       g_assert (p - code_buffer < code_size);
+       res = (MonoPIFunc)g_memdup (code_buffer, p - code_buffer);
+
+       g_hash_table_insert (cache, sig, res);
+
+       return res;
 }
 
 #define MINV_POS  (- sizeof (MonoInvocation))
 #define STACK_POS (MINV_POS - sizeof (stackval) * sig->param_count)
-#define OBJ_POS   8
 #define TYPE_OFFSET (G_STRUCT_OFFSET (stackval, type))
 
 /*
@@ -288,33 +339,52 @@ mono_create_trampoline (MonoMethod *method)
  * across the managed/unmanaged boundary.
  */
 void *
-mono_create_method_pointer (MonoMethod *method)
+mono_arch_create_method_pointer (MonoMethod *method)
 {
        MonoMethodSignature *sig;
+       MonoJitInfo *ji;
        unsigned char *p, *code_buffer;
        gint32 local_size;
        gint32 stackval_pos, arg_pos = 8;
-       int i;
+       int i, size, align, cpos;
+       int *vtbuf;
 
-       /*
-        * If it is a static P/Invoke method, we can just return the pointer
-        * to the method implementation.
-        */
        sig = method->signature;
 
        code_buffer = p = alloca (512); /* FIXME: check for overflows... */
+       vtbuf = alloca (sizeof(int)*sig->param_count);
 
        local_size = sizeof (MonoInvocation) + sizeof (stackval) * (sig->param_count + 1);
+
+       local_size += 7;
+       local_size &= ~7;
+
        stackval_pos = -local_size;
 
+       cpos = 0;
+       for (i = 0; i < sig->param_count; i++) {
+               MonoType *type = sig->params [i];
+               vtbuf [i] = -1;
+               if (type->type == MONO_TYPE_VALUETYPE) {
+                       MonoClass *klass = type->data.klass;
+                       if (klass->enumtype)
+                               continue;
+                       size = mono_class_native_size (klass, &align);
+                       cpos += align - 1;
+                       cpos &= ~(align - 1);
+                       vtbuf [i] = cpos;
+                       cpos += size;
+               }       
+       }
+
+       cpos += 7;
+       cpos &= ~7;
+
+       local_size += cpos;
+
        /*
-        * Standard function prolog with magic trick.
+        * Standard function prolog.
         */
-       x86_jump_code (p, code_buffer + 8);
-       *p++ = 'M';
-       *p++ = 'o';
-       *(void**)p = method;
-       p += 4;
        x86_push_reg (p, X86_EBP);
        x86_mov_reg_reg (p, X86_EBP, X86_ESP, 4);
        x86_alu_reg_imm (p, X86_SUB, X86_ESP, local_size);
@@ -325,13 +395,15 @@ mono_create_method_pointer (MonoMethod *method)
        x86_mov_reg_imm (p, X86_EAX, 0);
        x86_mov_membase_reg (p, X86_EBP, (MINV_POS + G_STRUCT_OFFSET (MonoInvocation, ex)), X86_EAX, 4);
        x86_mov_membase_reg (p, X86_EBP, (MINV_POS + G_STRUCT_OFFSET (MonoInvocation, ex_handler)), X86_EAX, 4);
-       x86_mov_membase_reg (p, X86_EBP, (MINV_POS + G_STRUCT_OFFSET (MonoInvocation, child)), X86_EAX, 4);
        x86_mov_membase_reg (p, X86_EBP, (MINV_POS + G_STRUCT_OFFSET (MonoInvocation, parent)), X86_EAX, 4);
        /*
         * Set the method pointer.
         */
        x86_mov_membase_imm (p, X86_EBP, (MINV_POS + G_STRUCT_OFFSET (MonoInvocation, method)), (int)method, 4);
 
+       if (sig->ret->type == MONO_TYPE_VALUETYPE && !sig->ret->byref && !sig->ret->data.klass->enumtype) 
+               arg_pos += 4;
+
        /*
         * Handle this.
         */
@@ -340,7 +412,7 @@ mono_create_method_pointer (MonoMethod *method)
                        /*
                         * Grab it from the stack, otherwise it's already in ECX.
                         */
-                       x86_mov_reg_membase (p, X86_ECX, X86_EBP, OBJ_POS, 4);
+                       x86_mov_reg_membase (p, X86_ECX, X86_EBP, arg_pos, 4);
                        arg_pos += 4;
                }
                x86_mov_membase_reg (p, X86_EBP, (MINV_POS + G_STRUCT_OFFSET (MonoInvocation, obj)), X86_ECX, 4);
@@ -350,29 +422,28 @@ mono_create_method_pointer (MonoMethod *method)
         * arg_pos is the offset from EBP to the incoming arg on the stack.
         * We just call stackval_from_data to handle all the (nasty) issues....
         */
+       x86_lea_membase (p, X86_EAX, X86_EBP, stackval_pos);
+       x86_mov_membase_reg (p, X86_EBP, (MINV_POS + G_STRUCT_OFFSET (MonoInvocation, stack_args)), X86_EAX, 4);
        for (i = 0; i < sig->param_count; ++i) {
+               if (vtbuf [i] >= 0) {
+                       x86_lea_membase (p, X86_EAX, X86_EBP, - local_size + vtbuf [i]);
+                       x86_mov_membase_reg (p, X86_EBP, stackval_pos, X86_EAX, 4);
+               }
                x86_mov_reg_imm (p, X86_ECX, stackval_from_data);
                x86_lea_membase (p, X86_EDX, X86_EBP, arg_pos);
                x86_lea_membase (p, X86_EAX, X86_EBP, stackval_pos);
+               x86_push_imm (p, sig->pinvoke);
                x86_push_reg (p, X86_EDX);
                x86_push_reg (p, X86_EAX);
                x86_push_imm (p, sig->params [i]);
                x86_call_reg (p, X86_ECX);
-               x86_alu_reg_imm (p, X86_SUB, X86_ESP, 12);
+               x86_alu_reg_imm (p, X86_SUB, X86_ESP, 16);
                stackval_pos += sizeof (stackval);
-               arg_pos += 4;
-               if (!sig->params [i]->byref) {
-                       switch (sig->params [i]->type) {
-                       case MONO_TYPE_I8:
-                       case MONO_TYPE_R8:
-                               arg_pos += 4;
-                               break;
-                       case MONO_TYPE_VALUETYPE:
-                               g_assert_not_reached (); /* Not implemented yet. */
-                       default:
-                               break;
-                       }
-               }
+               /* fixme: alignment */
+               if (sig->pinvoke)
+                       arg_pos += mono_type_native_stack_size (sig->params [i], &align);
+               else
+                       arg_pos += mono_type_stack_size (sig->params [i], &align);
        }
 
        /*
@@ -380,6 +451,13 @@ mono_create_method_pointer (MonoMethod *method)
         */
        x86_lea_membase (p, X86_EAX, X86_EBP, stackval_pos);
        x86_mov_membase_reg (p, X86_EBP, (MINV_POS + G_STRUCT_OFFSET (MonoInvocation, retval)), X86_EAX, 4);
+       if (sig->ret->type == MONO_TYPE_VALUETYPE && !sig->ret->byref) {
+               MonoClass *klass  = sig->ret->data.klass;
+               if (!klass->enumtype) {
+                       x86_mov_reg_membase (p, X86_ECX, X86_EBP, 8, 4);
+                       x86_mov_membase_reg (p, X86_EBP, stackval_pos, X86_ECX, 4);
+               }
+       }
 
        /*
         * Call the method.
@@ -388,7 +466,7 @@ mono_create_method_pointer (MonoMethod *method)
        x86_push_reg (p, X86_EAX);
        x86_mov_reg_imm (p, X86_EDX, ves_exec_method);
        x86_call_reg (p, X86_EDX);
-
+       
        /*
         * Move the return value to the proper place.
         */
@@ -396,9 +474,21 @@ mono_create_method_pointer (MonoMethod *method)
        if (sig->ret->byref) {
                x86_mov_reg_membase (p, X86_EAX, X86_EAX, 0, 4);
        } else {
+               int simpletype = sig->ret->type;        
+       enum_retvalue:
                switch (sig->ret->type) {
                case MONO_TYPE_VOID:
                        break;
+               case MONO_TYPE_BOOLEAN:
+               case MONO_TYPE_I1:
+               case MONO_TYPE_U1:
+                       x86_mov_reg_membase (p, X86_EAX, X86_EAX, 0, 1);
+                       break;
+               case MONO_TYPE_CHAR:
+               case MONO_TYPE_I2:
+               case MONO_TYPE_U2:
+                       x86_mov_reg_membase (p, X86_EAX, X86_EAX, 0, 2);
+                       break;
                case MONO_TYPE_I4:
                case MONO_TYPE_U4:
                case MONO_TYPE_I:
@@ -414,6 +504,21 @@ mono_create_method_pointer (MonoMethod *method)
                        break;
                case MONO_TYPE_R8:
                        x86_fld_membase (p, X86_EAX, 0, TRUE);
+                       break;
+               case MONO_TYPE_VALUETYPE:
+                       if (sig->ret->data.klass->enumtype) {
+                               simpletype = sig->ret->data.klass->enum_basetype->type;
+                               goto enum_retvalue;
+                       }
+               
+                       x86_push_imm (p, sig->pinvoke);
+                       x86_push_membase (p, X86_EBP, stackval_pos);
+                       x86_push_reg (p, X86_EAX);
+                       x86_push_imm (p, sig->ret);
+                       x86_mov_reg_imm (p, X86_ECX, stackval_to_data);
+                       x86_call_reg (p, X86_ECX);
+                       x86_alu_reg_imm (p, X86_SUB, X86_ESP, 16);
+                       
                        break;
                default:
                        g_error ("Type 0x%x not handled yet in thunk creation", sig->ret->type);
@@ -427,7 +532,14 @@ mono_create_method_pointer (MonoMethod *method)
        x86_leave (p);
        x86_ret (p);
 
-       return g_memdup (code_buffer, p - code_buffer);
-}
+       g_assert (p - code_buffer < 512);
+
+       ji = g_new0 (MonoJitInfo, 1);
+       ji->method = method;
+       ji->code_size = p - code_buffer;
+       ji->code_start = g_memdup (code_buffer, p - code_buffer);
 
+       mono_jit_info_table_add (mono_get_root_domain (), ji);
 
+       return ji->code_start;
+}