Fix a warning.
[mono.git] / mono / mini / mini-llvm.c
index 8ae614a20b2d2574dfd3f013c7ade8e7556b030f..282a8a1ba9bec87d3a346d516455a4cf7d5dcf38 100644 (file)
@@ -7,9 +7,12 @@
 
 #include "mini.h"
 #include <mono/metadata/debug-helpers.h>
+#include <mono/metadata/debug-mono-symfile.h>
 #include <mono/metadata/mempool-internals.h>
 #include <mono/utils/mono-tls.h>
 #include <mono/utils/mono-dl.h>
+#include <mono/utils/mono-time.h>
+#include <mono/utils/freebsd-dwarf.h>
 
 #ifndef __STDC_LIMIT_MACROS
 #define __STDC_LIMIT_MACROS
 
 #include "mini-llvm-cpp.h"
 
+#ifdef __MINGW32__
+
+#include <stddef.h>
+extern void *memset(void *, int, size_t);
+void bzero (void *to, size_t count) { memset (to, 0, count); }
+
+#endif
+
  /*
   * Information associated by mono with LLVM modules.
   */
@@ -35,9 +46,18 @@ typedef struct {
        LLVMValueRef got_var;
        const char *got_symbol;
        GHashTable *plt_entries;
+       GHashTable *plt_entries_ji;
+       GHashTable *method_to_lmethod;
        char **bb_names;
+       int bb_names_len;
        GPtrArray *used;
        LLVMTypeRef ptr_type;
+       GPtrArray *subprogram_mds;
+       MonoEERef *mono_ee;
+       LLVMExecutionEngineRef ee;
+       gboolean external_symbols;
+       gboolean emit_dwarf;
+       int max_got_offset;
 } MonoLLVMModule;
 
 /*
@@ -92,7 +112,9 @@ typedef struct {
        gboolean *unreachable;
        int *pindexes;
        LLVMValueRef imt_rgctx_loc;
-
+       GHashTable *llvm_types;
+       LLVMValueRef dbg_md;
+       MonoDebugMethodInfo *minfo;
        char temp_name [32];
 } EmitContext;
 
@@ -193,16 +215,18 @@ static LLVMRealPredicate fpcond_to_llvm_cond [] = {
        LLVMRealUGT,
 };
 
-static LLVMExecutionEngineRef ee;
 static MonoNativeTlsKey current_cfg_tls_id;
 
-static MonoLLVMModule jit_module, aot_module;
-static gboolean jit_module_inited;
+static MonoLLVMModule aot_module;
 static int memset_param_count, memcpy_param_count;
 static const char *memset_func_name;
 static const char *memcpy_func_name;
 
-static void init_jit_module (void);
+static void init_jit_module (MonoDomain *domain);
+
+static void emit_dbg_loc (EmitContext *ctx, LLVMBuilderRef builder, const unsigned char *cil_code);
+static LLVMValueRef emit_dbg_subprogram (EmitContext *ctx, MonoCompile *cfg, LLVMValueRef method, const char *name);
+static void emit_dbg_info (MonoLLVMModule *lmodule, const char *filename, const char *cu_name);
 
 /*
  * IntPtrType:
@@ -311,6 +335,8 @@ type_to_simd_type (int type)
 static LLVMTypeRef
 type_to_llvm_type (EmitContext *ctx, MonoType *t)
 {
+       t = mini_replace_type (t);
+
        if (t->byref)
                return LLVMPointerType (LLVMInt8Type (), 0);
        switch (t->type) {
@@ -369,6 +395,7 @@ type_to_llvm_type (EmitContext *ctx, MonoType *t)
 
                if (klass->enumtype)
                        return type_to_llvm_type (ctx, mono_class_enum_basetype (klass));
+
                ltype = g_hash_table_lookup (ctx->lmodule->llvm_types, klass);
                if (!ltype) {
                        int i, size;
@@ -386,6 +413,7 @@ type_to_llvm_type (EmitContext *ctx, MonoType *t)
                        LLVMStructSetBody (ltype, eltypes, size, FALSE);
                        g_hash_table_insert (ctx->lmodule->llvm_types, klass, ltype);
                        g_free (eltypes);
+                       g_free (name);
                }
                return ltype;
        }
@@ -411,6 +439,7 @@ type_is_unsigned (EmitContext *ctx, MonoType *t)
        switch (t->type) {
        case MONO_TYPE_U1:
        case MONO_TYPE_U2:
+       case MONO_TYPE_CHAR:
        case MONO_TYPE_U4:
        case MONO_TYPE_U8:
                return TRUE;
@@ -428,7 +457,12 @@ static LLVMTypeRef
 type_to_llvm_arg_type (EmitContext *ctx, MonoType *t)
 {
        LLVMTypeRef ptype = type_to_llvm_type (ctx, t);
-       
+
+       /*
+        * This works on all abis except arm64/ios which passes multiple
+        * arguments in one stack slot.
+        */
+#ifndef TARGET_ARM64
        if (ptype == LLVMInt8Type () || ptype == LLVMInt16Type ()) {
                /* 
                 * LLVM generates code which only sets the lower bits, while JITted
@@ -436,6 +470,7 @@ type_to_llvm_arg_type (EmitContext *ctx, MonoType *t)
                 */
                ptype = LLVMInt32Type ();
        }
+#endif
 
        return ptype;
 }
@@ -567,22 +602,30 @@ load_store_to_llvm_type (int opcode, int *size, gboolean *sext, gboolean *zext)
        case OP_LOADI1_MEMBASE:
        case OP_STOREI1_MEMBASE_REG:
        case OP_STOREI1_MEMBASE_IMM:
+       case OP_ATOMIC_LOAD_I1:
+       case OP_ATOMIC_STORE_I1:
                *size = 1;
                *sext = TRUE;
                return LLVMInt8Type ();
        case OP_LOADU1_MEMBASE:
        case OP_LOADU1_MEM:
+       case OP_ATOMIC_LOAD_U1:
+       case OP_ATOMIC_STORE_U1:
                *size = 1;
                *zext = TRUE;
                return LLVMInt8Type ();
        case OP_LOADI2_MEMBASE:
        case OP_STOREI2_MEMBASE_REG:
        case OP_STOREI2_MEMBASE_IMM:
+       case OP_ATOMIC_LOAD_I2:
+       case OP_ATOMIC_STORE_I2:
                *size = 2;
                *sext = TRUE;
                return LLVMInt16Type ();
        case OP_LOADU2_MEMBASE:
        case OP_LOADU2_MEM:
+       case OP_ATOMIC_LOAD_U2:
+       case OP_ATOMIC_STORE_U2:
                *size = 2;
                *zext = TRUE;
                return LLVMInt16Type ();
@@ -592,20 +635,32 @@ load_store_to_llvm_type (int opcode, int *size, gboolean *sext, gboolean *zext)
        case OP_LOADU4_MEM:
        case OP_STOREI4_MEMBASE_REG:
        case OP_STOREI4_MEMBASE_IMM:
+       case OP_ATOMIC_LOAD_I4:
+       case OP_ATOMIC_STORE_I4:
+       case OP_ATOMIC_LOAD_U4:
+       case OP_ATOMIC_STORE_U4:
                *size = 4;
                return LLVMInt32Type ();
        case OP_LOADI8_MEMBASE:
        case OP_LOADI8_MEM:
        case OP_STOREI8_MEMBASE_REG:
        case OP_STOREI8_MEMBASE_IMM:
+       case OP_ATOMIC_LOAD_I8:
+       case OP_ATOMIC_STORE_I8:
+       case OP_ATOMIC_LOAD_U8:
+       case OP_ATOMIC_STORE_U8:
                *size = 8;
                return LLVMInt64Type ();
        case OP_LOADR4_MEMBASE:
        case OP_STORER4_MEMBASE_REG:
+       case OP_ATOMIC_LOAD_R4:
+       case OP_ATOMIC_STORE_R4:
                *size = 4;
                return LLVMFloatType ();
        case OP_LOADR8_MEMBASE:
        case OP_STORER8_MEMBASE_REG:
+       case OP_ATOMIC_LOAD_R8:
+       case OP_ATOMIC_STORE_R8:
                *size = 8;
                return LLVMDoubleType ();
        case OP_LOAD_MEMBASE:
@@ -864,8 +919,10 @@ get_bb (EmitContext *ctx, MonoBasicBlock *bb)
                        sprintf (bb_name_buf, "EH_CLAUSE%d_BB%d", clause_index, bb->block_num);
                        bb_name = bb_name_buf;
                } else if (bb->block_num < 256) {
-                       if (!ctx->lmodule->bb_names)
-                               ctx->lmodule->bb_names = g_new0 (char*, 256);
+                       if (!ctx->lmodule->bb_names) {
+                               ctx->lmodule->bb_names_len = 256;
+                               ctx->lmodule->bb_names = g_new0 (char*, ctx->lmodule->bb_names_len);
+                       }
                        if (!ctx->lmodule->bb_names [bb->block_num]) {
                                char *n;
 
@@ -1063,11 +1120,13 @@ sig_to_llvm_sig_full (EmitContext *ctx, MonoMethodSignature *sig, LLVMCallInfo *
        int i, j, pindex, vret_arg_pindex = 0;
        int *pindexes;
        gboolean vretaddr = FALSE;
+       MonoType *rtype;
 
        if (sinfo)
                memset (sinfo, 0, sizeof (LLVMSigInfo));
 
-       ret_type = type_to_llvm_type (ctx, sig->ret);
+       rtype = mini_replace_type (sig->ret);
+       ret_type = type_to_llvm_type (ctx, rtype);
        CHECK_FAILURE (ctx);
 
        if (cinfo && cinfo->ret.storage == LLVMArgVtypeInReg) {
@@ -1080,7 +1139,7 @@ sig_to_llvm_sig_full (EmitContext *ctx, MonoMethodSignature *sig, LLVMCallInfo *
                } else {
                        g_assert_not_reached ();
                }
-       } else if (cinfo && mini_type_is_vtype (ctx->cfg, sig->ret)) {
+       } else if (cinfo && mini_type_is_vtype (ctx->cfg, rtype)) {
                g_assert (cinfo->ret.storage == LLVMArgVtypeRetAddr);
                vretaddr = TRUE;
                ret_type = LLVMVoidType ();
@@ -1133,12 +1192,14 @@ sig_to_llvm_sig_full (EmitContext *ctx, MonoMethodSignature *sig, LLVMCallInfo *
        if (vretaddr && vret_arg_pindex == pindex)
                param_types [pindex ++] = IntPtrType ();
        for (i = 0; i < sig->param_count; ++i) {
+               LLVMArgInfo *ainfo = cinfo ? &cinfo->args [i + sig->hasthis] : NULL;
+
                if (vretaddr && vret_arg_pindex == pindex)
                        param_types [pindex ++] = IntPtrType ();
                pindexes [i] = pindex;
-               if (cinfo && cinfo->args [i + sig->hasthis].storage == LLVMArgVtypeInReg) {
+               if (ainfo && ainfo->storage == LLVMArgVtypeInReg) {
                        for (j = 0; j < 2; ++j) {
-                               switch (cinfo->args [i + sig->hasthis].pair_storage [j]) {
+                               switch (ainfo->pair_storage [j]) {
                                case LLVMArgInIReg:
                                        param_types [pindex ++] = LLVMIntType (sizeof (gpointer) * 8);
                                        break;
@@ -1148,11 +1209,14 @@ sig_to_llvm_sig_full (EmitContext *ctx, MonoMethodSignature *sig, LLVMCallInfo *
                                        g_assert_not_reached ();
                                }
                        }
-               } else if (cinfo && cinfo->args [i + sig->hasthis].storage == LLVMArgVtypeByVal) {
+               } else if (ainfo && ainfo->storage == LLVMArgVtypeByVal) {
                        param_types [pindex] = type_to_llvm_arg_type (ctx, sig->params [i]);
                        CHECK_FAILURE (ctx);
                        param_types [pindex] = LLVMPointerType (param_types [pindex], 0);
                        pindex ++;
+               } else if (ainfo && ainfo->storage == LLVMArgAsIArgs) {
+                       param_types [pindex] = LLVMArrayType (IntPtrType (), ainfo->nslots);
+                       pindex ++;
                } else {
                        param_types [pindex ++] = type_to_llvm_arg_type (ctx, sig->params [i]);
                }                       
@@ -1262,6 +1326,7 @@ get_plt_entry (EmitContext *ctx, LLVMTypeRef llvm_sig, MonoJumpInfoType type, gc
 {
        char *callee_name = mono_aot_get_plt_symbol (type, data);
        LLVMValueRef callee;
+       MonoJumpInfo *ji = NULL;
 
        if (!callee_name)
                return NULL;
@@ -1280,6 +1345,14 @@ get_plt_entry (EmitContext *ctx, LLVMTypeRef llvm_sig, MonoJumpInfoType type, gc
                g_hash_table_insert (ctx->lmodule->plt_entries, (char*)callee_name, callee);
        }
 
+       if (ctx->cfg->compile_aot) {
+               ji = g_new0 (MonoJumpInfo, 1);
+               ji->type = type;
+               ji->data.target = data;
+
+               g_hash_table_insert (ctx->lmodule->plt_entries_ji, ji, callee);
+       }
+
        return callee;
 }
 
@@ -1385,14 +1458,39 @@ emit_call (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref, LL
        return lcall;
 }
 
+#if LLVM_API_VERSION >= 4
+#define EXTRA_MONO_LOAD_STORE_ARGS 1
+#else
+#define EXTRA_MONO_LOAD_STORE_ARGS 0
+#endif
+
 static LLVMValueRef
-emit_load (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref, int size, LLVMValueRef addr, const char *name, gboolean is_faulting)
+emit_load_general (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref, int size, LLVMValueRef addr, const char *name, gboolean is_faulting, BarrierKind barrier)
 {
        const char *intrins_name;
        LLVMValueRef args [16], res;
        LLVMTypeRef addr_type;
 
        if (is_faulting && bb->region != -1) {
+#if LLVM_API_VERSION >= 4
+               LLVMAtomicOrdering ordering;
+
+               switch (barrier) {
+               case LLVM_BARRIER_NONE:
+                       ordering = LLVMAtomicOrderingNotAtomic;
+                       break;
+               case LLVM_BARRIER_ACQ:
+                       ordering = LLVMAtomicOrderingAcquire;
+                       break;
+               case LLVM_BARRIER_SEQ:
+                       ordering = LLVMAtomicOrderingSequentiallyConsistent;
+                       break;
+               default:
+                       g_assert_not_reached ();
+                       break;
+               }
+#endif
+
                /*
                 * We handle loads which can fault by calling a mono specific intrinsic
                 * using an invoke, so they are handled properly inside try blocks.
@@ -1423,7 +1521,10 @@ emit_load (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref, in
                args [0] = addr;
                args [1] = LLVMConstInt (LLVMInt32Type (), 0, FALSE);
                args [2] = LLVMConstInt (LLVMInt1Type (), TRUE, FALSE);
-               res = emit_call (ctx, bb, builder_ref, LLVMGetNamedFunction (ctx->module, intrins_name), args, 3);
+#if LLVM_API_VERSION >= 4
+               args [3] = LLVMConstInt (LLVMInt32Type (), ordering, FALSE);
+#endif
+               res = emit_call (ctx, bb, builder_ref, LLVMGetNamedFunction (ctx->module, intrins_name), args, 3 + EXTRA_MONO_LOAD_STORE_ARGS);
 
                if (addr_type == LLVMPointerType (LLVMDoubleType (), 0))
                        res = LLVMBuildBitCast (*builder_ref, res, LLVMDoubleType (), "");
@@ -1439,7 +1540,7 @@ emit_load (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref, in
                 * LLVM will generate invalid code when encountering a load from a
                 * NULL address.
                 */
-                res = mono_llvm_build_load (*builder_ref, addr, name, is_faulting);
+                res = mono_llvm_build_load (*builder_ref, addr, name, is_faulting, barrier);
 
                 /* Mark it with a custom metadata */
                 /*
@@ -1451,13 +1552,38 @@ emit_load (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref, in
        }
 }
 
+static LLVMValueRef
+emit_load (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref, int size, LLVMValueRef addr, const char *name, gboolean is_faulting)
+{
+       return emit_load_general (ctx, bb, builder_ref, size, addr, name, is_faulting, LLVM_BARRIER_NONE);
+}
+
 static void
-emit_store (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref, int size, LLVMValueRef value, LLVMValueRef addr, gboolean is_faulting)
+emit_store_general (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref, int size, LLVMValueRef value, LLVMValueRef addr, gboolean is_faulting, BarrierKind barrier)
 {
        const char *intrins_name;
        LLVMValueRef args [16];
 
        if (is_faulting && bb->region != -1) {
+#if LLVM_API_VERSION >= 4
+               LLVMAtomicOrdering ordering;
+
+               switch (barrier) {
+               case LLVM_BARRIER_NONE:
+                       ordering = LLVMAtomicOrderingNotAtomic;
+                       break;
+               case LLVM_BARRIER_REL:
+                       ordering = LLVMAtomicOrderingRelease;
+                       break;
+               case LLVM_BARRIER_SEQ:
+                       ordering = LLVMAtomicOrderingSequentiallyConsistent;
+                       break;
+               default:
+                       g_assert_not_reached ();
+                       break;
+               }
+#endif
+
                switch (size) {
                case 1:
                        intrins_name = "llvm.mono.store.i8.p0i8";
@@ -1484,12 +1610,21 @@ emit_store (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref, i
                args [1] = addr;
                args [2] = LLVMConstInt (LLVMInt32Type (), 0, FALSE);
                args [3] = LLVMConstInt (LLVMInt1Type (), TRUE, FALSE);
-               emit_call (ctx, bb, builder_ref, LLVMGetNamedFunction (ctx->module, intrins_name), args, 4);
+#if LLVM_API_VERSION >= 4
+               args [4] = LLVMConstInt (LLVMInt32Type (), ordering, FALSE);
+#endif
+               emit_call (ctx, bb, builder_ref, LLVMGetNamedFunction (ctx->module, intrins_name), args, 4 + EXTRA_MONO_LOAD_STORE_ARGS);
        } else {
-               LLVMBuildStore (*builder_ref, value, addr);
+               mono_llvm_build_store (*builder_ref, value, addr, is_faulting, barrier);
        }
 }
 
+static void
+emit_store (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref, int size, LLVMValueRef value, LLVMValueRef addr, gboolean is_faulting)
+{
+       emit_store_general (ctx, bb, builder_ref, size, value, addr, is_faulting, LLVM_BARRIER_NONE);
+}
+
 /*
  * emit_cond_system_exception:
  *
@@ -1539,7 +1674,7 @@ emit_cond_system_exception (EmitContext *ctx, MonoBasicBlock *bb, const char *ex
                         * - On x86, LLVM generated code doesn't push the arguments
                         * - The trampoline takes the throw address as an arguments, not a pc offset.
                         */
-                       LLVMAddGlobalMapping (ee, callee, resolve_patch (ctx->cfg, MONO_PATCH_INFO_INTERNAL_METHOD, icall_name));
+                       LLVMAddGlobalMapping (ctx->lmodule->ee, callee, resolve_patch (ctx->cfg, MONO_PATCH_INFO_INTERNAL_METHOD, icall_name));
                }
 
                mono_memory_barrier ();
@@ -1794,8 +1929,15 @@ emit_entry_bb (EmitContext *ctx, LLVMBuilderRef builder)
                                /* Treat these as normal values */
                                ctx->values [reg] = LLVMBuildLoad (builder, ctx->addresses [reg], "");
                        }
+               } else if (ainfo->storage == LLVMArgAsIArgs) {
+                       LLVMValueRef arg = LLVMGetParam (ctx->lmethod, ctx->pindexes [i]);
+
+                       ctx->addresses [reg] = build_alloca (ctx, sig->params [i]);
+
+                       /* The argument is received as an array of ints, store it into the real argument */
+                       LLVMBuildStore (ctx->builder, arg, convert (ctx, ctx->addresses [reg], LLVMPointerType (LLVMTypeOf (arg), 0)));
                } else {
-                       ctx->values [reg] = convert (ctx, ctx->values [reg], llvm_type_to_stack_type (type_to_llvm_type (ctx, sig->params [i])));
+                       ctx->values [reg] = convert_full (ctx, ctx->values [reg], llvm_type_to_stack_type (type_to_llvm_type (ctx, sig->params [i])), type_is_unsigned (ctx, sig->params [i]));
                }
        }
 
@@ -1818,7 +1960,7 @@ emit_entry_bb (EmitContext *ctx, LLVMBuilderRef builder)
                 */
                this_alloc = mono_llvm_build_alloca (builder, ThisType (), LLVMConstInt (LLVMInt32Type (), 1, FALSE), 0, "");
                /* This volatile store will keep the alloca alive */
-               mono_llvm_build_store (builder, ctx->values [cfg->args [0]->dreg], this_alloc, TRUE);
+               mono_llvm_build_store (builder, ctx->values [cfg->args [0]->dreg], this_alloc, TRUE, LLVM_BARRIER_NONE);
 
                set_metadata_flag (this_alloc, "mono.this");
        }
@@ -1832,7 +1974,7 @@ emit_entry_bb (EmitContext *ctx, LLVMBuilderRef builder)
                g_assert (ctx->addresses [cfg->rgctx_var->dreg]);
                rgctx_alloc = ctx->addresses [cfg->rgctx_var->dreg];
                /* This volatile store will keep the alloca alive */
-               store = mono_llvm_build_store (builder, convert (ctx, ctx->rgctx_arg, IntPtrType ()), rgctx_alloc, TRUE);
+               store = mono_llvm_build_store (builder, convert (ctx, ctx->rgctx_arg, IntPtrType ()), rgctx_alloc, TRUE, LLVM_BARRIER_NONE);
 
                set_metadata_flag (rgctx_alloc, "mono.this");
        }
@@ -1933,7 +2075,7 @@ process_call (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref,
                                target =
                                        mono_create_jit_trampoline_in_domain (mono_domain_get (),
                                                                                                                  call->method);
-                               LLVMAddGlobalMapping (ee, callee, target);
+                               LLVMAddGlobalMapping (ctx->lmodule->ee, callee, target);
                        }
                }
 
@@ -1961,7 +2103,7 @@ process_call (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref,
                        } else {
                                callee = LLVMAddFunction (module, "", llvm_sig);
                                target = (gpointer)mono_icall_get_wrapper (info);
-                               LLVMAddGlobalMapping (ee, callee, target);
+                               LLVMAddGlobalMapping (ctx->lmodule->ee, callee, target);
                        }
                } else {
                        if (cfg->compile_aot) {
@@ -1987,15 +2129,16 @@ process_call (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref,
                                                 * their own calling convention on some platforms.
                                                 */
 #ifndef TARGET_AMD64
-                                               if (abs_ji->type == MONO_PATCH_INFO_MONITOR_ENTER || abs_ji->type == MONO_PATCH_INFO_MONITOR_EXIT || abs_ji->type == MONO_PATCH_INFO_GENERIC_CLASS_INIT)
+                                               if (abs_ji->type == MONO_PATCH_INFO_MONITOR_ENTER || abs_ji->type == MONO_PATCH_INFO_MONITOR_ENTER_V4 ||
+                                                               abs_ji->type == MONO_PATCH_INFO_MONITOR_EXIT || abs_ji->type == MONO_PATCH_INFO_GENERIC_CLASS_INIT)
                                                        LLVM_FAILURE (ctx, "trampoline with own cconv");
 #endif
                                                target = mono_resolve_patch_target (cfg->method, cfg->domain, NULL, abs_ji, FALSE);
-                                               LLVMAddGlobalMapping (ee, callee, target);
+                                               LLVMAddGlobalMapping (ctx->lmodule->ee, callee, target);
                                        }
                                }
                                if (!target)
-                                       LLVMAddGlobalMapping (ee, callee, (gpointer)call->fptr);
+                                       LLVMAddGlobalMapping (ctx->lmodule->ee, callee, (gpointer)call->fptr);
                        }
                }
        }
@@ -2036,7 +2179,7 @@ process_call (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref,
                if (!ctx->imt_rgctx_loc)
                        ctx->imt_rgctx_loc = build_alloca_llvm_type (ctx, ctx->lmodule->ptr_type, sizeof (gpointer));
                LLVMBuildStore (builder, convert (ctx, ctx->values [call->rgctx_arg_reg], ctx->lmodule->ptr_type), ctx->imt_rgctx_loc);
-               args [sinfo.rgctx_arg_pindex] = mono_llvm_build_load (builder, ctx->imt_rgctx_loc, "", TRUE);
+               args [sinfo.rgctx_arg_pindex] = mono_llvm_build_load (builder, ctx->imt_rgctx_loc, "", TRUE, LLVM_BARRIER_NONE);
 #else
                args [sinfo.rgctx_arg_pindex] = convert (ctx, values [call->rgctx_arg_reg], ctx->lmodule->ptr_type);
 #endif
@@ -2048,7 +2191,7 @@ process_call (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref,
                if (!ctx->imt_rgctx_loc)
                        ctx->imt_rgctx_loc = build_alloca_llvm_type (ctx, ctx->lmodule->ptr_type, sizeof (gpointer));
                LLVMBuildStore (builder, convert (ctx, ctx->values [call->imt_arg_reg], ctx->lmodule->ptr_type), ctx->imt_rgctx_loc);
-               args [sinfo.imt_arg_pindex] = mono_llvm_build_load (builder, ctx->imt_rgctx_loc, "", TRUE);
+               args [sinfo.imt_arg_pindex] = mono_llvm_build_load (builder, ctx->imt_rgctx_loc, "", TRUE, LLVM_BARRIER_NONE);
 #else
                args [sinfo.imt_arg_pindex] = convert (ctx, values [call->imt_arg_reg], ctx->lmodule->ptr_type);
 #endif
@@ -2096,6 +2239,9 @@ process_call (EmitContext *ctx, MonoBasicBlock *bb, LLVMBuilderRef *builder_ref,
                } else if (ainfo->storage == LLVMArgVtypeByVal) {
                        g_assert (addresses [reg]);
                        args [pindex] = addresses [reg];
+               } else if (ainfo->storage == LLVMArgAsIArgs) {
+                       g_assert (addresses [reg]);
+                       args [pindex] = LLVMBuildLoad (ctx->builder, convert (ctx, addresses [reg], LLVMPointerType (LLVMArrayType (IntPtrType (), ainfo->nslots), 0)), "");
                } else {
                        g_assert (args [pindex]);
                        if (i == 0 && sig->hasthis)
@@ -2177,7 +2323,6 @@ process_bb (EmitContext *ctx, MonoBasicBlock *bb)
        LLVMValueRef method = ctx->lmethod;
        LLVMValueRef *values = ctx->values;
        LLVMValueRef *addresses = ctx->addresses;
-       int i;
        LLVMCallInfo *linfo = ctx->linfo;
        LLVMModuleRef module = ctx->module;
        BBInfo *bblocks = ctx->bblocks;
@@ -2228,7 +2373,7 @@ process_bb (EmitContext *ctx, MonoBasicBlock *bb)
                } else {
                        personality = LLVMGetNamedFunction (module, "mono_personality");
                        if (InterlockedCompareExchange (&mapping_inited, 1, 0) == 0)
-                               LLVMAddGlobalMapping (ee, personality, mono_personality);
+                               LLVMAddGlobalMapping (ctx->lmodule->ee, personality, mono_personality);
                }
 
                i8ptr = LLVMPointerType (LLVMInt8Type (), 0);
@@ -2271,7 +2416,7 @@ process_bb (EmitContext *ctx, MonoBasicBlock *bb)
 
                        type_info = LLVMAddGlobal (module, i8ptr, ti_name);
 
-                       LLVMAddGlobalMapping (ee, type_info, ti);
+                       LLVMAddGlobalMapping (ctx->lmodule->ee, type_info, ti);
                }
 
                {
@@ -2317,6 +2462,8 @@ process_bb (EmitContext *ctx, MonoBasicBlock *bb)
                char *dname = NULL;
                char dname_buf [128];
 
+               emit_dbg_loc (ctx, builder, ins->cil_code);
+
                nins ++;
                if (nins > 5000 && builder == starting_builder) {
                        /* some steps in llc are non-linear in the size of basic blocks, see #5714 */
@@ -2383,6 +2530,15 @@ process_bb (EmitContext *ctx, MonoBasicBlock *bb)
                case OP_R4CONST:
                        values [ins->dreg] = LLVMConstFPExt (LLVMConstReal (LLVMFloatType (), *(float*)ins->inst_p0), LLVMDoubleType ());
                        break;
+               case OP_DUMMY_ICONST:
+                       values [ins->dreg] = LLVMConstInt (LLVMInt32Type (), 0, FALSE);
+                       break;
+               case OP_DUMMY_I8CONST:
+                       values [ins->dreg] = LLVMConstInt (LLVMInt64Type (), 0, FALSE);
+                       break;
+               case OP_DUMMY_R8CONST:
+                       values [ins->dreg] = LLVMConstReal (LLVMDoubleType (), 0.0f);
+                       break;
                case OP_BR:
                        LLVMBuildBr (builder, get_bb (ctx, ins->inst_target_bb));
                        has_terminator = TRUE;
@@ -3137,7 +3293,7 @@ process_bb (EmitContext *ctx, MonoBasicBlock *bb)
                                index = LLVMConstInt (LLVMInt32Type (), ins->inst_offset / size, FALSE);                                
                                addr = LLVMBuildGEP (builder, convert (ctx, values [ins->inst_destbasereg], LLVMPointerType (t, 0)), &index, 1, "");
                        }
-                       emit_store (ctx, bb, &builder, size, convert (ctx, LLVMConstInt (IntPtrType (), ins->inst_imm, FALSE), t), addr, is_volatile);
+                       emit_store (ctx, bb, &builder, size, convert (ctx, LLVMConstInt (IntPtrType (), ins->inst_imm, FALSE), t), convert (ctx, addr, LLVMPointerType (t, 0)), is_volatile);
                        break;
                }
 
@@ -3186,6 +3342,7 @@ process_bb (EmitContext *ctx, MonoBasicBlock *bb)
                                   
                        //mono_add_patch_info (cfg, 0, (MonoJumpInfoType)ins->inst_i1, ins->inst_p0);
                        got_offset = mono_aot_get_got_offset (cfg->patch_info);
+                       ctx->lmodule->max_got_offset = MAX (ctx->lmodule->max_got_offset, got_offset);
  
                        indexes [0] = LLVMConstInt (LLVMInt32Type (), 0, FALSE);
                        indexes [1] = LLVMConstInt (LLVMInt32Type (), (gssize)got_offset, FALSE);
@@ -3309,12 +3466,12 @@ process_bb (EmitContext *ctx, MonoBasicBlock *bb)
                        values [ins->dreg] = mono_llvm_build_atomic_rmw (builder, LLVM_ATOMICRMW_OP_XCHG, args [0], args [1]);
                        break;
                }
-               case OP_ATOMIC_ADD_NEW_I4:
-               case OP_ATOMIC_ADD_NEW_I8: {
+               case OP_ATOMIC_ADD_I4:
+               case OP_ATOMIC_ADD_I8: {
                        LLVMValueRef args [2];
                        LLVMTypeRef t;
                                
-                       if (ins->opcode == OP_ATOMIC_ADD_NEW_I4)
+                       if (ins->opcode == OP_ATOMIC_ADD_I4)
                                t = LLVMInt32Type ();
                        else
                                t = LLVMInt64Type ();
@@ -3328,7 +3485,7 @@ process_bb (EmitContext *ctx, MonoBasicBlock *bb)
                }
                case OP_ATOMIC_CAS_I4:
                case OP_ATOMIC_CAS_I8: {
-                       LLVMValueRef args [3];
+                       LLVMValueRef args [3], val;
                        LLVMTypeRef t;
                                
                        if (ins->opcode == OP_ATOMIC_CAS_I4)
@@ -3341,11 +3498,94 @@ process_bb (EmitContext *ctx, MonoBasicBlock *bb)
                        args [1] = convert (ctx, values [ins->sreg3], t);
                        /* new value */
                        args [2] = convert (ctx, values [ins->sreg2], t);
-                       values [ins->dreg] = mono_llvm_build_cmpxchg (builder, args [0], args [1], args [2]);
+                       val = mono_llvm_build_cmpxchg (builder, args [0], args [1], args [2]);
+#if LLVM_API_VERSION >= 1
+                       /* cmpxchg returns a pair */
+                       values [ins->dreg] = LLVMBuildExtractValue (builder, val, 0, "");
+#else
+                       values [ins->dreg] = val;
+#endif
                        break;
                }
                case OP_MEMORY_BARRIER: {
-                       mono_llvm_build_fence (builder);
+                       mono_llvm_build_fence (builder, (BarrierKind) ins->backend.memory_barrier_kind);
+                       break;
+               }
+               case OP_ATOMIC_LOAD_I1:
+               case OP_ATOMIC_LOAD_I2:
+               case OP_ATOMIC_LOAD_I4:
+               case OP_ATOMIC_LOAD_I8:
+               case OP_ATOMIC_LOAD_U1:
+               case OP_ATOMIC_LOAD_U2:
+               case OP_ATOMIC_LOAD_U4:
+               case OP_ATOMIC_LOAD_U8:
+               case OP_ATOMIC_LOAD_R4:
+               case OP_ATOMIC_LOAD_R8: {
+#if LLVM_API_VERSION >= 4
+                       int size;
+                       gboolean sext, zext;
+                       LLVMTypeRef t;
+                       gboolean is_volatile = (ins->flags & MONO_INST_FAULT);
+                       BarrierKind barrier = (BarrierKind) ins->backend.memory_barrier_kind;
+                       LLVMValueRef index, addr;
+
+                       t = load_store_to_llvm_type (ins->opcode, &size, &sext, &zext);
+
+                       if (sext || zext)
+                               dname = (char *)"";
+
+                       if (ins->inst_offset != 0) {
+                               index = LLVMConstInt (LLVMInt32Type (), ins->inst_offset / size, FALSE);
+                               addr = LLVMBuildGEP (builder, convert (ctx, lhs, LLVMPointerType (t, 0)), &index, 1, "");
+                       } else {
+                               addr = lhs;
+                       }
+
+                       addr = convert (ctx, addr, LLVMPointerType (t, 0));
+
+                       values [ins->dreg] = emit_load_general (ctx, bb, &builder, size, addr, dname, is_volatile, barrier);
+
+                       if (sext)
+                               values [ins->dreg] = LLVMBuildSExt (builder, values [ins->dreg], LLVMInt32Type (), dname);
+                       else if (zext)
+                               values [ins->dreg] = LLVMBuildZExt (builder, values [ins->dreg], LLVMInt32Type (), dname);
+#else
+                       LLVM_FAILURE (ctx, "atomic mono.load intrinsic");
+#endif
+                       break;
+               }
+               case OP_ATOMIC_STORE_I1:
+               case OP_ATOMIC_STORE_I2:
+               case OP_ATOMIC_STORE_I4:
+               case OP_ATOMIC_STORE_I8:
+               case OP_ATOMIC_STORE_U1:
+               case OP_ATOMIC_STORE_U2:
+               case OP_ATOMIC_STORE_U4:
+               case OP_ATOMIC_STORE_U8:
+               case OP_ATOMIC_STORE_R4:
+               case OP_ATOMIC_STORE_R8: {
+#if LLVM_API_VERSION >= 4
+                       int size;
+                       gboolean sext, zext;
+                       LLVMTypeRef t;
+                       gboolean is_volatile = (ins->flags & MONO_INST_FAULT);
+                       BarrierKind barrier = (BarrierKind) ins->backend.memory_barrier_kind;
+                       LLVMValueRef index, addr, value;
+
+                       if (!values [ins->inst_destbasereg])
+                               LLVM_FAILURE (ctx, "inst_destbasereg");
+
+                       t = load_store_to_llvm_type (ins->opcode, &size, &sext, &zext);
+
+                       index = LLVMConstInt (LLVMInt32Type (), ins->inst_offset / size, FALSE);
+                       addr = LLVMBuildGEP (builder, convert (ctx, values [ins->inst_destbasereg], LLVMPointerType (t, 0)), &index, 1, "");
+                       value = convert (ctx, values [ins->sreg1], t);
+
+                       emit_store_general (ctx, bb, &builder, size, value, addr, is_volatile, barrier);
+                       break;
+#else
+                       LLVM_FAILURE (ctx, "atomic mono.store intrinsic");
+#endif
                        break;
                }
                case OP_RELAXED_NOP: {
@@ -3453,6 +3693,8 @@ process_bb (EmitContext *ctx, MonoBasicBlock *bb)
                        LLVMBuildCall (builder, LLVMGetNamedFunction (module, memset_func_name), args, memset_param_count, "");
                        break;
                }
+               case OP_DUMMY_VZERO:
+                       break;
 
                case OP_STOREV_MEMBASE:
                case OP_LOADV_MEMBASE:
@@ -3750,6 +3992,7 @@ process_bb (EmitContext *ctx, MonoBasicBlock *bb)
                case OP_EXPAND_R8: {
                        LLVMTypeRef t = simd_op_to_llvm_type (ins->opcode);
                        LLVMValueRef mask [16], v;
+                       int i;
 
                        for (i = 0; i < 16; ++i)
                                mask [i] = LLVMConstInt (LLVMInt32Type (), 0, FALSE);
@@ -4079,9 +4322,9 @@ process_bb (EmitContext *ctx, MonoBasicBlock *bb)
                                         * LLVM doesn't push the exception argument, so we need a different
                                         * trampoline.
                                         */
-                                       LLVMAddGlobalMapping (ee, callee, resolve_patch (cfg, MONO_PATCH_INFO_INTERNAL_METHOD, rethrow ? "llvm_rethrow_exception_trampoline" : "llvm_throw_exception_trampoline"));
+                                       LLVMAddGlobalMapping (ctx->lmodule->ee, callee, resolve_patch (cfg, MONO_PATCH_INFO_INTERNAL_METHOD, rethrow ? "llvm_rethrow_exception_trampoline" : "llvm_throw_exception_trampoline"));
 #else
-                                       LLVMAddGlobalMapping (ee, callee, resolve_patch (cfg, MONO_PATCH_INFO_INTERNAL_METHOD, icall_name));
+                                       LLVMAddGlobalMapping (ctx->lmodule->ee, callee, resolve_patch (cfg, MONO_PATCH_INFO_INTERNAL_METHOD, icall_name));
 #endif
                                }
 
@@ -4199,8 +4442,10 @@ process_bb (EmitContext *ctx, MonoBasicBlock *bb)
        if (!has_terminator && bb->next_bb && (bb == cfg->bb_entry || bb->in_count > 0))
                LLVMBuildBr (builder, get_bb (ctx, bb->next_bb));
 
-       if (bb == cfg->bb_exit && sig->ret->type == MONO_TYPE_VOID)
+       if (bb == cfg->bb_exit && sig->ret->type == MONO_TYPE_VOID) {
+               emit_dbg_loc (ctx, builder, cfg->header->code + cfg->header->code_size - 1);
                LLVMBuildRetVoid (builder);
+       }
 
        if (bb == cfg->bb_entry)
                ctx->last_alloca = LLVMGetLastInstruction (get_bb (ctx, cfg->bb_entry));
@@ -4228,6 +4473,8 @@ mono_llvm_check_method_supported (MonoCompile *cfg)
                cfg->exception_message = g_strdup ("lmf");
                cfg->disable_llvm = TRUE;
        }
+       if (cfg->disable_llvm)
+               return;
 
 #if 1
        for (i = 0; i < header->num_clauses; ++i) {
@@ -4239,8 +4486,11 @@ mono_llvm_check_method_supported (MonoCompile *cfg)
                         */
                        cfg->exception_message = g_strdup ("nested clauses");
                        cfg->disable_llvm = TRUE;
+                       break;
                }
        }
+       if (cfg->disable_llvm)
+               return;
 #endif
 
        /* FIXME: */
@@ -4248,6 +4498,8 @@ mono_llvm_check_method_supported (MonoCompile *cfg)
                cfg->exception_message = g_strdup ("dynamic.");
                cfg->disable_llvm = TRUE;
        }
+       if (cfg->disable_llvm)
+               return;
 }
 
 /*
@@ -4318,11 +4570,11 @@ mono_llvm_emit_method (MonoCompile *cfg)
                method_name = mono_aot_get_method_name (cfg);
                cfg->llvm_method_name = g_strdup (method_name);
        } else {
-               init_jit_module ();
-               ctx->lmodule = &jit_module;
+               init_jit_module (cfg->domain);
+               ctx->lmodule = domain_jit_info (cfg->domain)->llvm_module;
                method_name = mono_method_full_name (cfg->method, TRUE);
        }
-       
+
        module = ctx->module = ctx->lmodule->module;
 
        if (cfg->gsharedvt)
@@ -4373,7 +4625,14 @@ mono_llvm_emit_method (MonoCompile *cfg)
 
        if (cfg->compile_aot) {
                LLVMSetLinkage (method, LLVMInternalLinkage);
+#if LLVM_API_VERSION == 0
+               /* This causes an assertion in later LLVM versions */
                LLVMSetVisibility (method, LLVMHiddenVisibility);
+#endif
+               if (ctx->lmodule->external_symbols) {
+                       LLVMSetLinkage (method, LLVMExternalLinkage);
+                       LLVMSetVisibility (method, LLVMHiddenVisibility);
+               }
        } else {
                LLVMSetLinkage (method, LLVMPrivateLinkage);
        }
@@ -4428,6 +4687,11 @@ mono_llvm_emit_method (MonoCompile *cfg)
        }
        g_free (names);
 
+       if (ctx->lmodule->emit_dwarf && cfg->compile_aot && mono_debug_enabled ()) {
+               ctx->minfo = mono_debug_lookup_method (cfg->method);
+               ctx->dbg_md = emit_dbg_subprogram (ctx, cfg, method, method_name);
+       }
+
        max_block_num = 0;
        for (bb = cfg->bb_entry; bb; bb = bb->next_bb)
                max_block_num = MAX (max_block_num, bb->block_num);
@@ -4625,12 +4889,12 @@ mono_llvm_emit_method (MonoCompile *cfg)
 
                //LLVMVerifyFunction(method, 0);
        } else {
-               mono_llvm_optimize_method (method);
+               mono_llvm_optimize_method (ctx->lmodule->mono_ee, method);
 
                if (cfg->verbose_level > 1)
                        mono_llvm_dump_value (method);
 
-               cfg->native_code = LLVMGetPointerToGlobal (ee, method);
+               cfg->native_code = LLVMGetPointerToGlobal (ctx->lmodule->ee, method);
 
                /* Set by emit_cb */
                g_assert (cfg->code_len);
@@ -4638,6 +4902,9 @@ mono_llvm_emit_method (MonoCompile *cfg)
                /* FIXME: Free the LLVM IL for the function */
        }
 
+       if (ctx->lmodule->method_to_lmethod)
+               g_hash_table_insert (ctx->lmodule->method_to_lmethod, cfg->method, method);
+
        goto CLEANUP;
 
  FAILURE:
@@ -4725,10 +4992,15 @@ mono_llvm_emit_call (MonoCompile *cfg, MonoCallInst *call)
                case LLVMArgInIReg:
                case LLVMArgInFPReg: {
                        MonoType *t = (sig->hasthis && i == 0) ? &mono_get_intptr_class ()->byval_arg : sig->params [i - sig->hasthis];
+                       int opcode;
 
-                       if (!t->byref && (t->type == MONO_TYPE_R8 || t->type == MONO_TYPE_R4)) {
+                       opcode = mono_type_to_regmove (cfg, t);
+                       if (opcode == OP_FMOVE) {
                                MONO_INST_NEW (cfg, ins, OP_FMOVE);
                                ins->dreg = mono_alloc_freg (cfg);
+                       } else if (opcode == OP_LMOVE) {
+                               MONO_INST_NEW (cfg, ins, OP_LMOVE);
+                               ins->dreg = mono_alloc_lreg (cfg);
                        } else {
                                MONO_INST_NEW (cfg, ins, OP_MOVE);
                                ins->dreg = mono_alloc_ireg (cfg);
@@ -4738,6 +5010,7 @@ mono_llvm_emit_call (MonoCompile *cfg, MonoCallInst *call)
                }
                case LLVMArgVtypeByVal:
                case LLVMArgVtypeInReg:
+               case LLVMArgAsIArgs:
                        MONO_INST_NEW (cfg, ins, OP_LLVM_OUTARG_VT);
                        ins->dreg = mono_alloc_ireg (cfg);
                        ins->sreg1 = in->dreg;
@@ -4880,6 +5153,8 @@ dlsym_cb (const char *name, void **symbol)
                g_assert (current);
 
                err = mono_dl_symbol (current, name, symbol);
+
+               mono_dl_close (current);
        }
 #ifdef MONO_ARCH_HAVE_CREATE_LLVM_NATIVE_THUNK
        *symbol = (char*)mono_arch_create_llvm_native_thunk (mono_domain_get (), (guint8*)(*symbol));
@@ -5137,15 +5412,21 @@ add_intrinsics (LLVMModuleRef module)
                        arg_types [0] = LLVMPointerType (LLVMIntType (i * 8), 0);
                        arg_types [1] = LLVMInt32Type ();
                        arg_types [2] = LLVMInt1Type ();
+#if LLVM_API_VERSION >= 4
+                       arg_types [3] = LLVMInt32Type ();
+#endif
                        sprintf (name, "llvm.mono.load.i%d.p0i%d", i * 8, i * 8);
-                       LLVMAddFunction (module, name, LLVMFunctionType (LLVMIntType (i * 8), arg_types, 3, FALSE));
+                       LLVMAddFunction (module, name, LLVMFunctionType (LLVMIntType (i * 8), arg_types, 3 + EXTRA_MONO_LOAD_STORE_ARGS, FALSE));
 
                        arg_types [0] = LLVMIntType (i * 8);
                        arg_types [1] = LLVMPointerType (LLVMIntType (i * 8), 0);
                        arg_types [2] = LLVMInt32Type ();
                        arg_types [3] = LLVMInt1Type ();
+#if LLVM_API_VERSION >= 4
+                       arg_types [4] = LLVMInt32Type ();
+#endif
                        sprintf (name, "llvm.mono.store.i%d.p0i%d", i * 8, i * 8);
-                       LLVMAddFunction (module, name, LLVMFunctionType (LLVMVoidType (), arg_types, 4, FALSE));
+                       LLVMAddFunction (module, name, LLVMFunctionType (LLVMVoidType (), arg_types, 4 + EXTRA_MONO_LOAD_STORE_ARGS, FALSE));
                }
        }
 }
@@ -5163,34 +5444,43 @@ mono_llvm_init (void)
 }
 
 static void
-init_jit_module (void)
+init_jit_module (MonoDomain *domain)
 {
        MonoJitICallInfo *info;
+       MonoJitDomainInfo *dinfo;
+       MonoLLVMModule *module;
+       char *name;
 
-       if (jit_module_inited)
+       dinfo = domain_jit_info (domain);
+       if (dinfo->llvm_module)
                return;
 
        mono_loader_lock ();
 
-       if (jit_module_inited) {
+       if (dinfo->llvm_module) {
                mono_loader_unlock ();
                return;
        }
 
-       jit_module.module = LLVMModuleCreateWithName ("mono");
+       module = g_new0 (MonoLLVMModule, 1);
+
+       name = g_strdup_printf ("mono-%s", domain->friendly_name);
+       module->module = LLVMModuleCreateWithName (name);
 
-       ee = mono_llvm_create_ee (LLVMCreateModuleProviderForExistingModule (jit_module.module), alloc_cb, emitted_cb, exception_cb, dlsym_cb);
+       module->mono_ee = mono_llvm_create_ee (LLVMCreateModuleProviderForExistingModule (module->module), alloc_cb, emitted_cb, exception_cb, dlsym_cb, &module->ee);
 
-       add_intrinsics (jit_module.module);
-       add_types (&jit_module);
+       add_intrinsics (module->module);
+       add_types (module);
 
-       jit_module.llvm_types = g_hash_table_new (NULL, NULL);
+       module->llvm_types = g_hash_table_new (NULL, NULL);
 
        info = mono_find_jit_icall_by_name ("llvm_resume_unwind_trampoline");
        g_assert (info);
-       LLVMAddGlobalMapping (ee, LLVMGetNamedFunction (jit_module.module, "llvm_resume_unwind_trampoline"), (void*)info->func);
+       LLVMAddGlobalMapping (module->ee, LLVMGetNamedFunction (module->module, "llvm_resume_unwind_trampoline"), (void*)info->func);
 
-       jit_module_inited = TRUE;
+       mono_memory_barrier ();
+
+       dinfo->llvm_module = module;
 
        mono_loader_unlock ();
 }
@@ -5198,12 +5488,6 @@ init_jit_module (void)
 void
 mono_llvm_cleanup (void)
 {
-       if (ee)
-               mono_llvm_dispose_ee (ee);
-
-       if (jit_module.llvm_types)
-               g_hash_table_destroy (jit_module.llvm_types);
-
        if (aot_module.module)
                LLVMDisposeModule (aot_module.module);
 
@@ -5211,7 +5495,34 @@ mono_llvm_cleanup (void)
 }
 
 void
-mono_llvm_create_aot_module (const char *got_symbol)
+mono_llvm_free_domain_info (MonoDomain *domain)
+{
+       MonoJitDomainInfo *info = domain_jit_info (domain);
+       MonoLLVMModule *module = info->llvm_module;
+       int i;
+
+       if (!module)
+               return;
+
+       if (module->llvm_types)
+               g_hash_table_destroy (module->llvm_types);
+
+       mono_llvm_dispose_ee (module->mono_ee);
+
+       if (module->bb_names) {
+               for (i = 0; i < module->bb_names_len; ++i)
+                       g_free (module->bb_names [i]);
+               g_free (module->bb_names);
+       }
+       //LLVMDisposeModule (module->module);
+
+       g_free (module);
+
+       info->llvm_module = NULL;
+}
+
+void
+mono_llvm_create_aot_module (const char *got_symbol, gboolean external_symbols, gboolean emit_dwarf)
 {
        /* Delete previous module */
        if (aot_module.plt_entries)
@@ -5223,6 +5534,10 @@ mono_llvm_create_aot_module (const char *got_symbol)
 
        aot_module.module = LLVMModuleCreateWithName ("aot");
        aot_module.got_symbol = got_symbol;
+       aot_module.external_symbols = external_symbols;
+       aot_module.emit_dwarf = emit_dwarf;
+       /* The first few entries are reserved */
+       aot_module.max_got_offset = 16;
 
        add_intrinsics (aot_module.module);
        add_types (&aot_module);
@@ -5257,26 +5572,33 @@ mono_llvm_create_aot_module (const char *got_symbol)
 
        aot_module.llvm_types = g_hash_table_new (NULL, NULL);
        aot_module.plt_entries = g_hash_table_new (g_str_hash, g_str_equal);
+       aot_module.plt_entries_ji = g_hash_table_new (NULL, NULL);
+       aot_module.method_to_lmethod = g_hash_table_new (NULL, NULL);
 }
 
 /*
  * Emit the aot module into the LLVM bitcode file FILENAME.
  */
 void
-mono_llvm_emit_aot_module (const char *filename, int got_size)
+mono_llvm_emit_aot_module (const char *filename, const char *cu_name)
 {
        LLVMTypeRef got_type;
        LLVMValueRef real_got;
+       MonoLLVMModule *module = &aot_module;
 
        /* 
         * Create the real got variable and replace all uses of the dummy variable with
         * the real one.
         */
-       got_type = LLVMArrayType (aot_module.ptr_type, got_size);
+       got_type = LLVMArrayType (aot_module.ptr_type, module->max_got_offset + 1);
        real_got = LLVMAddGlobal (aot_module.module, got_type, aot_module.got_symbol);
        LLVMSetInitializer (real_got, LLVMConstNull (got_type));
-       LLVMSetLinkage (real_got, LLVMInternalLinkage);
-
+       if (module->external_symbols) {
+               LLVMSetLinkage (real_got, LLVMExternalLinkage);
+               LLVMSetVisibility (real_got, LLVMHiddenVisibility);
+       } else {
+               LLVMSetLinkage (real_got, LLVMInternalLinkage);
+       }
        mono_llvm_replace_uses_of (aot_module.got_var, real_got);
 
        mark_as_used (&aot_module, real_got);
@@ -5285,6 +5607,28 @@ mono_llvm_emit_aot_module (const char *filename, int got_size)
        LLVMDeleteGlobal (aot_module.got_var);
 
        emit_llvm_used (&aot_module);
+       emit_dbg_info (&aot_module, filename, cu_name);
+
+       /* Replace PLT entries for directly callable methods with the methods themselves */
+       {
+               GHashTableIter iter;
+               MonoJumpInfo *ji;
+               LLVMValueRef callee;
+
+               g_hash_table_iter_init (&iter, aot_module.plt_entries_ji);
+               while (g_hash_table_iter_next (&iter, (void**)&ji, (void**)&callee)) {
+                       if (mono_aot_is_direct_callable (ji)) {
+                               LLVMValueRef lmethod;
+
+                               lmethod = g_hash_table_lookup (module->method_to_lmethod, ji->data.method);
+                               /* The types might not match because the caller might pass an rgctx */
+                               if (lmethod && LLVMTypeOf (callee) == LLVMTypeOf (lmethod)) {
+                                       mono_llvm_replace_uses_of (callee, lmethod);
+                                       mono_aot_mark_unused_llvm_plt_entry (ji);
+                               }
+                       }
+               }
+       }
 
 #if 0
        {
@@ -5299,6 +5643,223 @@ mono_llvm_emit_aot_module (const char *filename, int got_size)
        LLVMWriteBitcodeToFile (aot_module.module, filename);
 }
 
+
+static LLVMValueRef
+md_string (const char *s)
+{
+       return LLVMMDString (s, strlen (s));
+}
+
+/* Debugging support */
+
+static void
+emit_dbg_info (MonoLLVMModule *lmodule, const char *filename, const char *cu_name)
+{
+       LLVMModuleRef module = lmodule->module;
+       LLVMValueRef args [16], cu_args [16], cu, ver;
+       int n_cuargs;
+       char *build_info, *s, *dir;
+
+       /*
+        * This can only be enabled when LLVM code is emitted into a separate object
+        * file, since the AOT compiler also emits dwarf info,
+        * and the abbrev indexes will not be correct since llvm has added its own
+        * abbrevs.
+        */
+       if (!lmodule->emit_dwarf)
+               return;
+
+       /*
+        * Emit dwarf info in the form of LLVM metadata. There is some
+        * out-of-date documentation at:
+        * http://llvm.org/docs/SourceLevelDebugging.html
+        * but most of this was gathered from the llvm and
+        * clang sources.
+        */
+
+       n_cuargs = 0;
+       cu_args [n_cuargs ++] = LLVMConstInt (LLVMInt32Type (), DW_TAG_compile_unit, FALSE);
+       /* CU name/compilation dir */
+       dir = g_path_get_dirname (filename);
+       args [0] = LLVMMDString (cu_name, strlen (cu_name));
+       args [1] = LLVMMDString (dir, strlen (dir));
+       cu_args [n_cuargs ++] = LLVMMDNode (args, 2);
+       g_free (dir);
+       /* Language */
+       cu_args [n_cuargs ++] = LLVMConstInt (LLVMInt32Type (), DW_LANG_C99, FALSE);
+       /* Producer */
+       build_info = mono_get_runtime_build_info ();
+       s = g_strdup_printf ("Mono AOT Compiler %s (LLVM)", build_info);
+       cu_args [n_cuargs ++] = LLVMMDString (s, strlen (s));
+       g_free (build_info);
+       /* Optimized */
+       cu_args [n_cuargs ++] = LLVMConstInt (LLVMInt32Type (), 1, FALSE);
+       /* Flags */
+       cu_args [n_cuargs ++] = LLVMMDString ("", strlen (""));
+       /* Runtime version */
+       cu_args [n_cuargs ++] = LLVMConstInt (LLVMInt32Type (), 0, FALSE);
+       /* Enums */
+       cu_args [n_cuargs ++] = LLVMMDNode (args, 0);
+       cu_args [n_cuargs ++] = LLVMMDNode (args, 0);
+       /* Subprograms */
+       if (lmodule->subprogram_mds) {
+               LLVMValueRef *mds;
+               int i;
+
+               mds = g_new0 (LLVMValueRef, lmodule->subprogram_mds->len);
+               for (i = 0; i < lmodule->subprogram_mds->len; ++i)
+                       mds [i] = g_ptr_array_index (lmodule->subprogram_mds, i);
+               cu_args [n_cuargs ++] = LLVMMDNode (mds, lmodule->subprogram_mds->len);
+       } else {
+               cu_args [n_cuargs ++] = LLVMMDNode (args, 0);
+       }
+       /* GVs */
+       cu_args [n_cuargs ++] = LLVMMDNode (args, 0);
+       /* Imported modules */
+       cu_args [n_cuargs ++] = LLVMMDNode (args, 0);
+       /* SplitName */
+       cu_args [n_cuargs ++] = LLVMMDString ("", strlen (""));
+       /* DebugEmissionKind = FullDebug */
+       cu_args [n_cuargs ++] = LLVMConstInt (LLVMInt32Type (), 1, FALSE);
+       cu = LLVMMDNode (cu_args, n_cuargs);
+       LLVMAddNamedMetadataOperand (module, "llvm.dbg.cu", cu);
+
+       args [0] = LLVMConstInt (LLVMInt32Type (), 1, FALSE);
+       args [1] = LLVMMDString ("Dwarf Version", strlen ("Dwarf Version"));
+       args [2] = LLVMConstInt (LLVMInt32Type (), 2, FALSE);
+       ver = LLVMMDNode (args, 3);
+       LLVMAddNamedMetadataOperand (module, "llvm.module.flags", ver);
+
+       args [0] = LLVMConstInt (LLVMInt32Type (), 1, FALSE);
+       args [1] = LLVMMDString ("Debug Info Version", strlen ("Debug Info Version"));
+       args [2] = LLVMConstInt (LLVMInt32Type (), 1, FALSE);
+       ver = LLVMMDNode (args, 3);
+       LLVMAddNamedMetadataOperand (module, "llvm.module.flags", ver);
+}
+
+static LLVMValueRef
+emit_dbg_subprogram (EmitContext *ctx, MonoCompile *cfg, LLVMValueRef method, const char *name)
+{
+       MonoLLVMModule *module = ctx->lmodule;
+       MonoDebugMethodInfo *minfo = ctx->minfo;
+       char *source_file, *dir, *filename;
+       LLVMValueRef md, args [16], ctx_args [16], md_args [64], type_args [16], ctx_md, type_md;
+       int n_il_offsets;
+       int *il_offsets;
+       int *line_numbers;
+
+       if (!minfo)
+               return NULL;
+
+       mono_debug_symfile_get_line_numbers_full (minfo, &source_file, NULL, &n_il_offsets, &il_offsets, &line_numbers, NULL, NULL, NULL, NULL);
+       if (!source_file)
+               source_file = g_strdup ("<unknown>");
+       dir = g_path_get_dirname (source_file);
+       filename = g_path_get_basename (source_file);
+
+       ctx_args [0] = LLVMConstInt (LLVMInt32Type (), 0x29, FALSE);
+       args [0] = md_string (filename);
+       args [1] = md_string (dir);
+       ctx_args [1] = LLVMMDNode (args, 2);
+       ctx_md = LLVMMDNode (ctx_args, 2);
+
+       type_args [0] = LLVMConstInt (LLVMInt32Type (), DW_TAG_subroutine_type, FALSE);
+       type_args [1] = NULL;
+       type_args [2] = NULL;
+       type_args [3] = LLVMMDString ("", 0);
+       type_args [4] = LLVMConstInt (LLVMInt32Type (), 0, FALSE);
+       type_args [5] = LLVMConstInt (LLVMInt64Type (), 0, FALSE);
+       type_args [6] = LLVMConstInt (LLVMInt64Type (), 0, FALSE);
+       type_args [7] = LLVMConstInt (LLVMInt64Type (), 0, FALSE);
+       type_args [8] = LLVMConstInt (LLVMInt32Type (), 0, FALSE);
+       type_args [9] = NULL;
+       type_args [10] = NULL;
+       type_args [11] = LLVMConstInt (LLVMInt32Type (), 0, FALSE);
+       type_args [12] = NULL;
+       type_args [13] = NULL;
+       type_args [14] = NULL;
+       type_md = LLVMMDNode (type_args, 14);
+
+       /* http://llvm.org/docs/SourceLevelDebugging.html#subprogram-descriptors */
+       md_args [0] = LLVMConstInt (LLVMInt32Type (), DW_TAG_subprogram, FALSE);
+       /* Source directory + file pair */
+       args [0] = md_string (filename);
+       args [1] = md_string (dir);
+       md_args [1] = LLVMMDNode (args ,2);
+       md_args [2] = ctx_md;
+       md_args [3] = md_string (cfg->method->name);
+       md_args [4] = md_string (name);
+       md_args [5] = md_string (name);
+       /* Line number */
+       if (n_il_offsets)
+               md_args [6] = LLVMConstInt (LLVMInt32Type (), line_numbers [0], FALSE);
+       else
+               md_args [6] = LLVMConstInt (LLVMInt32Type (), 1, FALSE);
+       /* Type */
+       md_args [7] = type_md;
+       /* static */
+       md_args [8] = LLVMConstInt (LLVMInt1Type (), 0, FALSE);
+       /* not extern */
+       md_args [9] = LLVMConstInt (LLVMInt1Type (), 1, FALSE);
+       /* Virtuality */
+       md_args [10] = LLVMConstInt (LLVMInt32Type (), 0, FALSE);
+       /* Index into a virtual function */
+       md_args [11] = NULL;
+       md_args [12] = NULL;
+       /* Flags */
+       md_args [13] = LLVMConstInt (LLVMInt1Type (), 0, FALSE);
+       /* isOptimized */
+       md_args [14] = LLVMConstInt (LLVMInt1Type (), 1, FALSE);
+       /* Pointer to LLVM function */
+       md_args [15] = method;
+       /* Function template parameter */
+       md_args [16] = NULL;
+       /* Function declaration descriptor */
+       md_args [17] = NULL;
+       /* List of function variables */
+       md_args [18] = LLVMMDNode (args, 0);
+       /* Line number */
+       md_args [19] = LLVMConstInt (LLVMInt32Type (), 1, FALSE);
+       md = LLVMMDNode (md_args, 20);
+
+       if (!module->subprogram_mds)
+               module->subprogram_mds = g_ptr_array_new ();
+       g_ptr_array_add (module->subprogram_mds, md);
+
+       g_free (dir);
+       g_free (filename);
+       g_free (source_file);
+       g_free (il_offsets);
+       g_free (line_numbers);
+
+       return md;
+}
+
+static void
+emit_dbg_loc (EmitContext *ctx, LLVMBuilderRef builder, const unsigned char *cil_code)
+{
+       MonoCompile *cfg = ctx->cfg;
+
+       if (ctx->minfo && cil_code && cil_code >= cfg->header->code && cil_code < cfg->header->code + cfg->header->code_size) {
+               MonoDebugSourceLocation *loc;
+               LLVMValueRef loc_md, md_args [16];
+               int nmd_args;
+
+               loc = mono_debug_symfile_lookup_location (ctx->minfo, cil_code - cfg->header->code);
+
+               if (loc) {
+                       nmd_args = 0;
+                       md_args [nmd_args ++] = LLVMConstInt (LLVMInt32Type (), loc->row, FALSE);
+                       md_args [nmd_args ++] = LLVMConstInt (LLVMInt32Type (), loc->column, FALSE);
+                       md_args [nmd_args ++] = ctx->dbg_md;
+                       md_args [nmd_args ++] = NULL;
+                       loc_md = LLVMMDNode (md_args, nmd_args);
+                       LLVMSetCurrentDebugLocation (builder, loc_md);
+                       mono_debug_symfile_free_location (loc);
+               }
+       }
+}
+
 /*
   DESIGN:
   - Emit LLVM IR from the mono IR using the LLVM C API.