mono/mini/mini.h

   1 /*
   2  * Copyright 2002-2003 Ximian Inc
   3  * Copyright 2003-2011 Novell Inc
   4  * Copyright 2011 Xamarin Inc
   5  */
   6 #ifndef __MONO_MINI_H__
   7 #define __MONO_MINI_H__
   8
   9 #include "config.h"
  10 #include <glib.h>
  11 #ifdef HAVE_SIGNAL_H
  12 #include <signal.h>
  13 #endif
  14 #ifdef HAVE_SYS_TYPES_H
  15 #include <sys/types.h>
  16 #endif
  17 #include <mono/metadata/loader.h>
  18 #include <mono/metadata/mempool.h>
  19 #include <mono/utils/monobitset.h>
  20 #include <mono/metadata/class.h>
  21 #include <mono/metadata/object.h>
  22 #include <mono/metadata/opcodes.h>
  23 #include <mono/metadata/tabledefs.h>
  24 #include <mono/metadata/domain-internals.h>
  25 #include "mono/metadata/class-internals.h"
  26 #include "mono/metadata/object-internals.h"
  27 #include <mono/metadata/profiler-private.h>
  28 #include <mono/metadata/debug-helpers.h>
  29 #include <mono/utils/mono-compiler.h>
  30 #include <mono/utils/mono-machine.h>
  31 #include <mono/utils/mono-stack-unwinding.h>
  32 #include <mono/utils/mono-threads.h>
  33 #include <mono/utils/mono-tls.h>
  34 #include <mono/utils/atomic.h>
  35 #include <mono/utils/mono-conc-hashtable.h>
  36 #include <mono/utils/mono-signal-handler.h>
  37
  38 #define MONO_BREAKPOINT_ARRAY_SIZE 64
  39
  40 #include "mini-arch.h"
  41 #include "regalloc.h"
  42 #include "declsec.h"
  43 #include "mini-unwind.h"
  44 #include "jit.h"
  45
  46 #ifdef __native_client_codegen__
  47 #include <nacl/nacl_dyncode.h>
  48 #endif
  49
  50
  51 /*
  52  * The mini code should not have any compile time dependencies on the GC being used, so the same object file from mini/
  53  * can be linked into both mono and mono-sgen.
  54  */
  55 #if defined(HAVE_BOEHM_GC) || defined(HAVE_SGEN_GC)
  56 #error "The code in mini/ should not depend on these defines."
  57 #endif
  58
  59 #ifndef __GNUC__
  60 /*#define __alignof__(a) sizeof(a)*/
  61 #define __alignof__(type) G_STRUCT_OFFSET(struct { char c; type x; }, x)
  62 #endif
  63
  64 #if DISABLE_LOGGING
  65 #define MINI_DEBUG(level,limit,code)
  66 #else
  67 #define MINI_DEBUG(level,limit,code) do {if (G_UNLIKELY ((level) >= (limit))) code} while (0)
  68 #endif
  69
  70 #if !defined(DISABLE_TASKLETS) && defined(MONO_ARCH_SUPPORT_TASKLETS) && defined(__GNUC__)
  71 #define MONO_SUPPORT_TASKLETS 1
  72 #endif
  73
  74 #if ENABLE_LLVM
  75 #define COMPILE_LLVM(cfg) ((cfg)->compile_llvm)
  76 #define LLVM_ENABLED TRUE
  77 #else
  78 #define COMPILE_LLVM(cfg) (0)
  79 #define LLVM_ENABLED FALSE
  80 #endif
  81
  82 #ifdef MONO_ARCH_SOFT_FLOAT_FALLBACK
  83 #define COMPILE_SOFT_FLOAT(cfg) (!COMPILE_LLVM ((cfg)) && mono_arch_is_soft_float ())
  84 #else
  85 #define COMPILE_SOFT_FLOAT(cfg) (0)
  86 #endif
  87
  88 #define NOT_IMPLEMENTED do { g_assert_not_reached (); } while (0)
  89
  90 /* for 32 bit systems */
  91 #if G_BYTE_ORDER == G_LITTLE_ENDIAN
  92 #define MINI_LS_WORD_IDX 0
  93 #define MINI_MS_WORD_IDX 1
  94 #else
  95 #define MINI_LS_WORD_IDX 1
  96 #define MINI_MS_WORD_IDX 0
  97 #endif
  98 #define MINI_LS_WORD_OFFSET (MINI_LS_WORD_IDX * 4)
  99 #define MINI_MS_WORD_OFFSET (MINI_MS_WORD_IDX * 4)
 100 #define inst_ls_word data.op[MINI_LS_WORD_IDX].const_val
 101 #define inst_ms_word data.op[MINI_MS_WORD_IDX].const_val
 102
 103 #ifndef DISABLE_AOT
 104 #define MONO_USE_AOT_COMPILER
 105 #endif
 106
 107 /* Version number of the AOT file format */
 108 #define MONO_AOT_FILE_VERSION 107
 109
 110 //TODO: This is x86/amd64 specific.
 111 #define mono_simd_shuffle_mask(a,b,c,d) ((a) | ((b) << 2) | ((c) << 4) | ((d) << 6))
 112
 113 /* Remap printf to g_print (we use a mix of these in the mini code) */
 114 #ifdef PLATFORM_ANDROID
 115 #define printf g_print
 116 #endif
 117
 118 #define MONO_TYPE_IS_PRIMITIVE(t) ((!(t)->byref && ((((t)->type >= MONO_TYPE_BOOLEAN && (t)->type <= MONO_TYPE_R8) || ((t)->type >= MONO_TYPE_I && (t)->type <= MONO_TYPE_U)))))
 119
 120 /* Constants used to encode different types of methods in AOT */
 121 enum {
 122         MONO_AOT_METHODREF_MIN = 240,
 123         /* Image index bigger than METHODREF_MIN */
 124         MONO_AOT_METHODREF_LARGE_IMAGE_INDEX = 249,
 125         /* Runtime provided methods on arrays */
 126         MONO_AOT_METHODREF_ARRAY = 250,
 127         MONO_AOT_METHODREF_NO_AOT_TRAMPOLINE = 251,
 128         /* Wrappers */
 129         MONO_AOT_METHODREF_WRAPPER = 252,
 130         /* Methods on generic instances */
 131         MONO_AOT_METHODREF_GINST = 253,
 132         /* Methods resolve using a METHODSPEC token */
 133         MONO_AOT_METHODREF_METHODSPEC = 254,
 134 };
 135
 136 /* Constants used to encode different types of types in AOT */
 137 enum {
 138         /* typedef index */
 139         MONO_AOT_TYPEREF_TYPEDEF_INDEX = 1,
 140         /* typedef index + image index */
 141         MONO_AOT_TYPEREF_TYPEDEF_INDEX_IMAGE = 2,
 142         /* typespec token */
 143         MONO_AOT_TYPEREF_TYPESPEC_TOKEN = 3,
 144         /* generic inst */
 145         MONO_AOT_TYPEREF_GINST = 4,
 146         /* type/method variable */
 147         MONO_AOT_TYPEREF_VAR = 5,
 148         /* array */
 149         MONO_AOT_TYPEREF_ARRAY = 6,
 150         /* blob index of the type encoding */
 151         MONO_AOT_TYPEREF_BLOB_INDEX = 7,
 152         /* ptr */
 153         MONO_AOT_TYPEREF_PTR = 8
 154 };
 155
 156 /* Trampolines which we have a lot of */
 157 typedef enum {
 158         MONO_AOT_TRAMP_SPECIFIC = 0,
 159         MONO_AOT_TRAMP_STATIC_RGCTX = 1,
 160         MONO_AOT_TRAMP_IMT_THUNK = 2,
 161         MONO_AOT_TRAMP_GSHAREDVT_ARG = 3,
 162         MONO_AOT_TRAMP_NUM = 4
 163 } MonoAotTrampoline;
 164
 165 typedef enum {
 166         MONO_AOT_FILE_FLAG_WITH_LLVM = 1,
 167         MONO_AOT_FILE_FLAG_FULL_AOT = 2,
 168         MONO_AOT_FILE_FLAG_DEBUG = 4,
 169 } MonoAotFileFlags;
 170
 171 /* This structure is stored in the AOT file */
 172 typedef struct MonoAotFileInfo
 173 {
 174         /* The version number of the AOT file format, should match MONO_AOT_FILE_VERSION */
 175         guint32 version;
 176         /* For alignment */
 177         guint32 dummy;
 178
 179         /* All the pointers should be at the start to avoid alignment problems */
 180
 181         /* Mono's Global Offset Table */
 182         gpointer got;
 183         /* Global Offset Table for LLVM code */
 184         gpointer llvm_got;
 185         /* Compiled code for methods */
 186         gpointer methods;
 187         gpointer jit_code_start;
 188         gpointer jit_code_end;
 189         /* Mono EH Frame created by llc when using LLVM */
 190         gpointer mono_eh_frame;
 191         /* Data blob */
 192         gpointer blob;
 193         gpointer class_name_table;
 194         gpointer class_info_offsets;
 195         gpointer method_info_offsets;
 196         gpointer ex_info_offsets;
 197         gpointer method_addresses;
 198         gpointer extra_method_info_offsets;
 199         gpointer extra_method_table;
 200         gpointer got_info_offsets;
 201         gpointer llvm_got_info_offsets;
 202         gpointer methods_end;
 203         gpointer unwind_info;
 204         gpointer mem_end;
 205         gpointer image_table;
 206         /* Start of Mono's Program Linkage Table */
 207         gpointer plt;
 208         /* End of Mono's Program Linkage Table */
 209         gpointer plt_end;
 210         /* The GUID of the assembly which the AOT image was generated from */
 211         gpointer assembly_guid;
 212         /*
 213          * The runtime version string for AOT images generated using 'bind-to-runtime-version',
 214          * NULL otherwise.
 215          */
 216         gpointer runtime_version;
 217         /* Blocks of various kinds of trampolines */
 218         gpointer specific_trampolines;
 219         gpointer static_rgctx_trampolines;
 220         gpointer imt_thunks;
 221         gpointer gsharedvt_arg_trampolines;
 222         /*
 223          * The end of LLVM generated thumb code, or NULL.
 224          */
 225         gpointer thumb_end;
 226         /* In static mode, points to a table of global symbols for trampolines etc */
 227         gpointer globals;
 228         /* Points to a string containing the assembly name*/
 229         gpointer assembly_name;
 230         /* Points to a table mapping methods to their unbox trampolines */
 231         gpointer unbox_trampolines;
 232         /* Points to the end of the previous table */
 233         gpointer unbox_trampolines_end;
 234         /* Points to a table of unbox trampoline addresses/offsets */
 235         gpointer unbox_trampoline_addresses;
 236
 237         /* The index of the first GOT slot used by the PLT */
 238         guint32 plt_got_offset_base;
 239         /* Number of entries in the GOT */
 240         guint32 got_size;
 241         /* Number of entries in the PLT */
 242         guint32 plt_size;
 243         /* Number of methods */
 244         guint32 nmethods;
 245         /* A union of MonoAotFileFlags */
 246         guint32 flags;
 247         /* Optimization flags used to compile the module */
 248         guint32 opts;
 249         /* SIMD flags used to compile the module */
 250         guint32 simd_opts;
 251         /* Index of the blob entry holding the GC used by this module */
 252         gint32 gc_name_index;
 253
 254         /* Number of trampolines */
 255         guint32 num_trampolines [MONO_AOT_TRAMP_NUM];
 256         /* The indexes of the first GOT slots used by the trampolines */
 257         guint32 trampoline_got_offset_base [MONO_AOT_TRAMP_NUM];
 258         /* The size of one trampoline */
 259         guint32 trampoline_size [MONO_AOT_TRAMP_NUM];
 260         guint32 num_rgctx_fetch_trampolines;
 261
 262         /* These are used for sanity checking object layout problems when cross-compiling */
 263         guint32 double_align, long_align, generic_tramp_num;
 264         /* The page size used by trampoline pages */
 265         guint32 tramp_page_size;
 266         /* The offset where the trampolines begin on a trampoline page */
 267         guint32 tramp_page_code_offsets [MONO_AOT_TRAMP_NUM];
 268 } MonoAotFileInfo;
 269
 270 typedef struct
 271 {
 272         MonoClass *klass;
 273         MonoMethod *method;
 274 } MonoClassMethodPair;
 275
 276 typedef struct
 277 {
 278         MonoClass *klass;
 279         MonoMethod *method;
 280         gboolean virtual;
 281 } MonoDelegateClassMethodPair;
 282
 283 /* Per-domain information maintained by the JIT */
 284 typedef struct
 285 {
 286         /* Maps MonoMethod's to a GSList of GOT slot addresses pointing to its code */
 287         GHashTable *jump_target_got_slot_hash;
 288         GHashTable *jump_target_hash;
 289         /* Maps methods/klasses to the address of the given type of trampoline */
 290         GHashTable *class_init_trampoline_hash;
 291         GHashTable *jump_trampoline_hash;
 292         GHashTable *jit_trampoline_hash;
 293         GHashTable *delegate_trampoline_hash;
 294         /* Maps ClassMethodPair -> MonoDelegateTrampInfo */
 295         GHashTable *static_rgctx_trampoline_hash;
 296         GHashTable *llvm_vcall_trampoline_hash;
 297         /* maps MonoMethod -> MonoJitDynamicMethodInfo */
 298         GHashTable *dynamic_code_hash;
 299         GHashTable *method_code_hash;
 300         /* Maps methods to a RuntimeInvokeInfo structure */
 301         MonoConcurrentHashTable *runtime_invoke_hash;
 302         /* Maps MonoMethod to a GPtrArray containing sequence point locations */
 303         GHashTable *seq_points;
 304         /* Debugger agent data */
 305         gpointer agent_info;
 306         /* Maps MonoMethod to an arch-specific structure */
 307         GHashTable *arch_seq_points;
 308         /* Maps a GSharedVtTrampInfo structure to a trampoline address */
 309         GHashTable *gsharedvt_arg_tramp_hash;
 310         /* memcpy/bzero methods specialized for small constant sizes */
 311         gpointer *memcpy_addr [17];
 312         gpointer *bzero_addr [17];
 313         gpointer llvm_module;
 314 } MonoJitDomainInfo;
 315
 316 typedef struct {
 317         MonoJitInfo *ji;
 318         MonoCodeManager *code_mp;
 319 } MonoJitDynamicMethodInfo;
 320
 321 #define domain_jit_info(domain) ((MonoJitDomainInfo*)((domain)->runtime_info))
 322
 323 /* Contains a list of ips which needs to be patched when a method is compiled */
 324 typedef struct {
 325         GSList *list;
 326 } MonoJumpList;
 327
 328 /* Arch-specific */
 329 typedef struct {
 330         int dummy;
 331 } MonoDynCallInfo;
 332
 333 /*
 334  * Information about a stack frame.
 335  * FIXME This typedef exists only to avoid tons of code rewriting
 336  */
 337 typedef MonoStackFrameInfo StackFrameInfo;
 338
 339 #if 0
 340 #define mono_bitset_foreach_bit(set,b,n) \
 341         for (b = 0; b < n; b++)\
 342                 if (mono_bitset_test_fast(set,b))
 343 #else
 344 #define mono_bitset_foreach_bit(set,b,n) \
 345         for (b = mono_bitset_find_start (set); b < n && b >= 0; b = mono_bitset_find_first (set, b))
 346 #endif
 347
 348 /*
 349  * Pull the list of opcodes
 350  */
 351 #define OPDEF(a,b,c,d,e,f,g,h,i,j) \
 352         a = i,
 353
 354 enum {
 355 #include "mono/cil/opcode.def"
 356         CEE_LASTOP
 357 };
 358 #undef OPDEF
 359
 360 #define MONO_VARINFO(cfg,varnum) (&(cfg)->vars [varnum])
 361
 362 #define MONO_INST_NULLIFY_SREGS(dest) do {                              \
 363                 (dest)->sreg1 = (dest)->sreg2 = (dest)->sreg3 = -1;     \
 364         } while (0)
 365
 366 #define MONO_INST_NEW(cfg,dest,op) do { \
 367                 (dest) = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));       \
 368                 (dest)->opcode = (op);  \
 369                 (dest)->dreg = -1;                          \
 370                 MONO_INST_NULLIFY_SREGS ((dest));           \
 371         (dest)->cil_code = (cfg)->ip;  \
 372         } while (0)
 373
 374 #define MONO_INST_NEW_CALL(cfg,dest,op) do {    \
 375                 (dest) = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoCallInst));   \
 376                 (dest)->inst.opcode = (op);     \
 377                 (dest)->inst.dreg = -1;                                 \
 378                 MONO_INST_NULLIFY_SREGS (&(dest)->inst);                \
 379         (dest)->inst.cil_code = (cfg)->ip;  \
 380         } while (0)
 381
 382 #define MONO_ADD_INS(b,inst) do {       \
 383                 if ((b)->last_ins) {    \
 384                         (b)->last_ins->next = (inst);   \
 385             (inst)->prev = (b)->last_ins;   \
 386                         (b)->last_ins = (inst); \
 387                 } else {        \
 388                         (b)->code = (b)->last_ins = (inst);     \
 389                 }       \
 390         } while (0)
 391
 392 #define NULLIFY_INS(ins) do { \
 393         (ins)->opcode = OP_NOP; \
 394         (ins)->dreg = -1;                               \
 395         MONO_INST_NULLIFY_SREGS ((ins));                \
 396     } while (0)
 397
 398 /* Remove INS from BB */
 399 #define MONO_REMOVE_INS(bb,ins) do { \
 400         if ((ins)->prev) \
 401             (ins)->prev->next = (ins)->next; \
 402         if ((ins)->next) \
 403             (ins)->next->prev = (ins)->prev; \
 404         if ((bb)->code == (ins)) \
 405             (bb)->code = (ins)->next; \
 406         if ((bb)->last_ins == (ins)) \
 407             (bb)->last_ins = (ins)->prev; \
 408     } while (0)
 409
 410 /* Remove INS from BB and nullify it */
 411 #define MONO_DELETE_INS(bb,ins) do { \
 412         MONO_REMOVE_INS ((bb), (ins)); \
 413         NULLIFY_INS ((ins)); \
 414     } while (0)
 415
 416 /*
 417  * this is used to determine when some branch optimizations are possible: we exclude FP compares
 418  * because they have weird semantics with NaNs.
 419  */
 420 #define MONO_IS_COND_BRANCH_OP(ins) (((ins)->opcode >= OP_LBEQ && (ins)->opcode <= OP_LBLT_UN) || ((ins)->opcode >= OP_FBEQ && (ins)->opcode <= OP_FBLT_UN) || ((ins)->opcode >= OP_IBEQ && (ins)->opcode <= OP_IBLT_UN))
 421 #define MONO_IS_COND_BRANCH_NOFP(ins) (MONO_IS_COND_BRANCH_OP(ins) && !(((ins)->opcode >= OP_FBEQ) && ((ins)->opcode <= OP_FBLT_UN)) && (!(ins)->inst_left || (ins)->inst_left->inst_left->type != STACK_R8))
 422
 423 #define MONO_IS_BRANCH_OP(ins) (MONO_IS_COND_BRANCH_OP(ins) || ((ins)->opcode == OP_BR) || ((ins)->opcode == OP_BR_REG) || ((ins)->opcode == OP_SWITCH))
 424
 425 #define MONO_IS_COND_EXC(ins) ((((ins)->opcode >= OP_COND_EXC_EQ) && ((ins)->opcode <= OP_COND_EXC_LT_UN)) || (((ins)->opcode >= OP_COND_EXC_IEQ) && ((ins)->opcode <= OP_COND_EXC_ILT_UN)))
 426
 427 #define MONO_IS_SETCC(ins) ((((ins)->opcode >= OP_CEQ) && ((ins)->opcode <= OP_CLT_UN)) || (((ins)->opcode >= OP_ICEQ) && ((ins)->opcode <= OP_ICLT_UN)) || (((ins)->opcode >= OP_LCEQ) && ((ins)->opcode <= OP_LCLT_UN)) || (((ins)->opcode >= OP_FCEQ) && ((ins)->opcode <= OP_FCLT_UN)))
 428
 429
 430 #define MONO_IS_LOAD_MEMBASE(ins) (((ins)->opcode >= OP_LOAD_MEMBASE && (ins)->opcode <= OP_LOADV_MEMBASE) || ((ins)->opcode >= OP_ATOMIC_LOAD_I1 && (ins)->opcode <= OP_ATOMIC_LOAD_R8))
 431 #define MONO_IS_STORE_MEMBASE(ins) (((ins)->opcode >= OP_STORE_MEMBASE_REG && (ins)->opcode <= OP_STOREV_MEMBASE) || ((ins)->opcode >= OP_ATOMIC_STORE_I1 && (ins)->opcode <= OP_ATOMIC_STORE_R8))
 432 #define MONO_IS_STORE_MEMINDEX(ins) (((ins)->opcode >= OP_STORE_MEMINDEX) && ((ins)->opcode <= OP_STORER8_MEMINDEX))
 433
 434 #define MONO_IS_CALL(ins) (((ins->opcode >= OP_VOIDCALL) && (ins->opcode <= OP_VOIDCALL_MEMBASE)) || ((ins->opcode >= OP_FCALL) && (ins->opcode <= OP_FCALL_MEMBASE)) || ((ins->opcode >= OP_LCALL) && (ins->opcode <= OP_LCALL_MEMBASE)) || ((ins->opcode >= OP_VCALL) && (ins->opcode <= OP_VCALL_MEMBASE)) || ((ins->opcode >= OP_CALL) && (ins->opcode <= OP_CALL_MEMBASE)) || ((ins->opcode >= OP_VCALL2) && (ins->opcode <= OP_VCALL2_MEMBASE)) || (ins->opcode == OP_TAILCALL))
 435
 436 #define MONO_IS_JUMP_TABLE(ins) (((ins)->opcode == OP_JUMP_TABLE) ? TRUE : ((((ins)->opcode == OP_AOTCONST) && (ins->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? TRUE : ((ins)->opcode == OP_SWITCH) ? TRUE : ((((ins)->opcode == OP_GOT_ENTRY) && ((ins)->inst_right->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? TRUE : FALSE)))
 437
 438 #define MONO_JUMP_TABLE_FROM_INS(ins) (((ins)->opcode == OP_JUMP_TABLE) ? (ins)->inst_p0 : (((ins)->opcode == OP_AOTCONST) && (ins->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH) ? (ins)->inst_p0 : (((ins)->opcode == OP_SWITCH) ? (ins)->inst_p0 : ((((ins)->opcode == OP_GOT_ENTRY) && ((ins)->inst_right->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? (ins)->inst_right->inst_p0 : NULL))))
 439
 440 /* FIXME: Add more instructions */
 441 /* INEG sets the condition codes, and the OP_LNEG decomposition depends on this on x86 */
 442 #define MONO_INS_HAS_NO_SIDE_EFFECT(ins) (MONO_IS_MOVE (ins) || (ins->opcode == OP_ICONST) || (ins->opcode == OP_I8CONST) || MONO_IS_ZERO (ins) || (ins->opcode == OP_ADD_IMM) || (ins->opcode == OP_R8CONST) || (ins->opcode == OP_LADD_IMM) || (ins->opcode == OP_ISUB_IMM) || (ins->opcode == OP_IADD_IMM) || (ins->opcode == OP_LNEG) || (ins->opcode == OP_ISUB) || (ins->opcode == OP_CMOV_IGE) || (ins->opcode == OP_ISHL_IMM) || (ins->opcode == OP_ISHR_IMM) || (ins->opcode == OP_ISHR_UN_IMM) || (ins->opcode == OP_IAND_IMM) || (ins->opcode == OP_ICONV_TO_U1) || (ins->opcode == OP_ICONV_TO_I1) || (ins->opcode == OP_SEXT_I4) || (ins->opcode == OP_LCONV_TO_U1) || (ins->opcode == OP_ICONV_TO_U2) || (ins->opcode == OP_ICONV_TO_I2) || (ins->opcode == OP_LCONV_TO_I2) || (ins->opcode == OP_LDADDR) || (ins->opcode == OP_PHI) || (ins->opcode == OP_NOP) || (ins->opcode == OP_ZEXT_I4) || (ins->opcode == OP_NOT_NULL) || (ins->opcode == OP_IL_SEQ_POINT))
 443
 444 #define MONO_METHOD_IS_FINAL(m) (((m)->flags & METHOD_ATTRIBUTE_FINAL) || ((m)->klass && ((m)->klass->flags & TYPE_ATTRIBUTE_SEALED)))
 445
 446
 447 #ifdef MONO_ARCH_SIMD_INTRINSICS
 448
 449 #define MONO_IS_PHI(ins) (((ins)->opcode == OP_PHI) || ((ins)->opcode == OP_FPHI) || ((ins)->opcode == OP_VPHI)  || ((ins)->opcode == OP_XPHI))
 450 #define MONO_IS_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_XMOVE))
 451 #define MONO_IS_NON_FP_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_XMOVE))
 452 #define MONO_IS_REAL_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_XMOVE))
 453 #define MONO_IS_ZERO(ins) (((ins)->opcode == OP_VZERO) || ((ins)->opcode == OP_XZERO))
 454
 455 #define MONO_CLASS_IS_SIMD(cfg, klass) (((cfg)->opt & MONO_OPT_SIMD) && (klass)->simd_type)
 456
 457 #else
 458
 459 #define MONO_IS_PHI(ins) (((ins)->opcode == OP_PHI) || ((ins)->opcode == OP_FPHI) || ((ins)->opcode == OP_VPHI))
 460 #define MONO_IS_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_VMOVE))
 461 #define MONO_IS_NON_FP_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_VMOVE))
 462 /*A real MOVE is one that isn't decomposed such as a VMOVE or LMOVE*/
 463 #define MONO_IS_REAL_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE))
 464 #define MONO_IS_ZERO(ins) ((ins)->opcode == OP_VZERO)
 465
 466 #define MONO_CLASS_IS_SIMD(cfg, klass) (0)
 467
 468 #endif
 469
 470 typedef struct MonoInstList MonoInstList;
 471 typedef struct MonoInst MonoInst;
 472 typedef struct MonoCallInst MonoCallInst;
 473 typedef struct MonoCallArgParm MonoCallArgParm;
 474 typedef struct MonoMethodVar MonoMethodVar;
 475 typedef struct MonoBasicBlock MonoBasicBlock;
 476 typedef struct MonoLMF MonoLMF;
 477 typedef struct MonoSpillInfo MonoSpillInfo;
 478 typedef struct MonoTraceSpec MonoTraceSpec;
 479
 480 extern MonoNativeTlsKey mono_jit_tls_id;
 481 extern MonoTraceSpec *mono_jit_trace_calls;
 482 extern gboolean mono_break_on_exc;
 483 extern int mono_exc_esp_offset;
 484 extern gboolean mono_compile_aot;
 485 extern gboolean mono_aot_only;
 486 extern gboolean mono_use_imt;
 487 extern MonoMethodDesc *mono_inject_async_exc_method;
 488 extern int mono_inject_async_exc_pos;
 489 extern MonoMethodDesc *mono_break_at_bb_method;
 490 extern int mono_break_at_bb_bb_num;
 491 extern gboolean check_for_pending_exc;
 492 extern gboolean disable_vtypes_in_regs;
 493 extern gboolean mono_verify_all;
 494 extern gboolean mono_do_x86_stack_align;
 495 extern const char *mono_build_date;
 496 extern gboolean mono_do_signal_chaining;
 497 extern gboolean mono_do_crash_chaining;
 498 extern gboolean mono_use_llvm;
 499 extern gboolean mono_do_single_method_regression;
 500 extern guint32 mono_single_method_regression_opt;
 501 extern MonoMethod *mono_current_single_method;
 502 extern GSList *mono_single_method_list;
 503 extern GHashTable *mono_single_method_hash;
 504
 505 #define INS_INFO(opcode) (&ins_info [((opcode) - OP_START - 1) * 4])
 506
 507 extern const char ins_info[];
 508 extern const gint8 ins_sreg_counts [];
 509
 510 #ifndef DISABLE_JIT
 511 #define mono_inst_get_num_src_registers(ins) (ins_sreg_counts [(ins)->opcode - OP_START - 1])
 512 #else
 513 #define mono_inst_get_num_src_registers(ins) 0
 514 #endif
 515
 516 #define mono_inst_get_src_registers(ins, regs) (((regs) [0] = (ins)->sreg1), ((regs) [1] = (ins)->sreg2), ((regs) [2] = (ins)->sreg3), mono_inst_get_num_src_registers ((ins)))
 517
 518 #define MONO_BB_FOR_EACH_INS(bb, ins) for ((ins) = (bb)->code; (ins); (ins) = (ins)->next)
 519
 520 #define MONO_BB_FOR_EACH_INS_SAFE(bb, n, ins) for ((ins) = (bb)->code, n = (ins) ? (ins)->next : NULL; (ins); (ins) = (n), (n) = (ins) ? (ins)->next : NULL)
 521
 522 #define MONO_BB_FOR_EACH_INS_REVERSE_SAFE(bb, p, ins) for ((ins) = (bb)->last_ins, p = (ins) ? (ins)->prev : NULL; (ins); (ins) = (p), (p) = (ins) ? (ins)->prev : NULL)
 523
 524 #define mono_bb_first_ins(bb) (bb)->code
 525
 526 struct MonoSpillInfo {
 527         int offset;
 528 };
 529
 530 /*
 531  * Information about a call site for the GC map creation code
 532  */
 533 typedef struct {
 534         /* The next offset after the call instruction */
 535         int pc_offset;
 536         /* The basic block containing the call site */
 537         MonoBasicBlock *bb;
 538         /*
 539          * The set of variables live at the call site.
 540          * Has length cfg->num_varinfo in bits.
 541          */
 542         guint8 *liveness;
 543         /*
 544          * List of OP_GC_PARAM_SLOT_LIVENESS_DEF instructions defining the param slots
 545          * used by this call.
 546          */
 547         GSList *param_slots;
 548 } GCCallSite;
 549
 550 /*
 551  * The IR-level extended basic block.
 552  *
 553  * A basic block can have multiple exits just fine, as long as the point of
 554  * 'departure' is the last instruction in the basic block. Extended basic
 555  * blocks, on the other hand, may have instructions that leave the block
 556  * midstream. The important thing is that they cannot be _entered_
 557  * midstream, ie, execution of a basic block (or extened bb) always start
 558  * at the beginning of the block, never in the middle.
 559  */
 560 struct MonoBasicBlock {
 561         MonoInst *last_ins;
 562
 563         /* the next basic block in the order it appears in IL */
 564         MonoBasicBlock *next_bb;
 565
 566         /*
 567          * Before instruction selection it is the first tree in the
 568          * forest and the first item in the list of trees. After
 569          * instruction selection it is the first instruction and the
 570          * first item in the list of instructions.
 571          */
 572         MonoInst *code;
 573
 574         /* unique block number identification */
 575         gint32 block_num;
 576
 577         gint32 dfn;
 578
 579         /* Basic blocks: incoming and outgoing counts and pointers */
 580         /* Each bb should only appear once in each array */
 581         gint16 out_count, in_count;
 582         MonoBasicBlock **in_bb;
 583         MonoBasicBlock **out_bb;
 584
 585         /* Points to the start of the CIL code that initiated this BB */
 586         unsigned char* cil_code;
 587
 588         /* Length of the CIL block */
 589         gint32 cil_length;
 590
 591         /* The offset of the generated code, used for fixups */
 592         int native_offset;
 593         /* The length of the generated code, doesn't include alignment padding */
 594         int native_length;
 595         /* The real native offset, which includes alignment padding too */
 596         int real_native_offset;
 597         int max_offset;
 598         int max_length;
 599
 600         /* Visited and reachable flags */
 601         guint32 flags;
 602
 603         /*
 604          * SSA and loop based flags
 605          */
 606         MonoBitSet *dominators;
 607         MonoBitSet *dfrontier;
 608         MonoBasicBlock *idom;
 609         GSList *dominated;
 610         /* fast dominator algorithm */
 611         MonoBasicBlock *df_parent, *ancestor, *child, *label;
 612         int size, sdom, idomn;
 613
 614         /* loop nesting and recognition */
 615         GList *loop_blocks;
 616         gint8  nesting;
 617         gint8  loop_body_start;
 618
 619         /*
 620          * Whenever the bblock is rarely executed so it should be emitted after
 621          * the function epilog.
 622          */
 623         guint out_of_line : 1;
 624         /* Caches the result of uselessness calculation during optimize_branches */
 625         guint not_useless : 1;
 626         /* Whenever the decompose_array_access_opts () pass needs to process this bblock */
 627         guint has_array_access : 1;
 628         /* Whenever this bblock is extended, ie. it has branches inside it */
 629         guint extended : 1;
 630         /* Whenever this bblock contains a OP_JUMP_TABLE instruction */
 631         guint has_jump_table : 1;
 632         /* Whenever this bblock contains an OP_CALL_HANDLER instruction */
 633         guint has_call_handler : 1;
 634         /* Whenever this bblock starts a try block */
 635         guint try_start : 1;
 636         /*
 637          * If this is set, extend the try range started by this bblock by an arch specific
 638          * number of bytes to encompass the end of the previous bblock (e.g. a Monitor.Enter
 639          * call).
 640          */
 641         guint extend_try_block : 1;
 642
 643         /* use for liveness analysis */
 644         MonoBitSet *gen_set;
 645         MonoBitSet *kill_set;
 646         MonoBitSet *live_in_set;
 647         MonoBitSet *live_out_set;
 648
 649         /* fields to deal with non-empty stack slots at bb boundary */
 650         guint16 out_scount, in_scount;
 651         MonoInst **out_stack;
 652         MonoInst **in_stack;
 653
 654         /* we use that to prevent merging of bblocks covered by different clauses*/
 655         guint real_offset;
 656
 657         GSList *seq_points;
 658         MonoInst *last_seq_point;
 659
 660         GSList *spill_slot_defs;
 661
 662         /* List of call sites in this bblock sorted by pc_offset */
 663         GSList *gc_callsites;
 664
 665         /*
 666          * The region encodes whether the basic block is inside
 667          * a finally, catch, filter or none of these.
 668          *
 669          * If the value is -1, then it is neither finally, catch nor filter
 670          *
 671          * Otherwise the format is:
 672          *
 673          *  Bits: |     0-3      |       4-7      |     8-31
 674          *        |              |                |
 675          *        | clause-flags |   MONO_REGION  | clause-index
 676          *
 677          */
 678         guint region;
 679
 680         /* The current symbolic register number, used in local register allocation. */
 681         guint32 max_vreg;
 682 };
 683
 684 /* BBlock flags */
 685 enum {
 686         BB_VISITED              = 1 << 0,
 687         BB_REACHABLE            = 1 << 1,
 688         BB_EXCEPTION_DEAD_OBJ   = 1 << 2,
 689         BB_EXCEPTION_UNSAFE     = 1 << 3,
 690         BB_EXCEPTION_HANDLER    = 1 << 4,
 691         /* for Native Client, mark the blocks that can be jumped to indirectly */
 692         BB_INDIRECT_JUMP_TARGET = 1 << 5
 693 };
 694
 695 typedef struct MonoMemcpyArgs {
 696         int size, align;
 697 } MonoMemcpyArgs;
 698
 699 typedef enum {
 700         LLVMArgNone,
 701         LLVMArgInIReg,
 702         LLVMArgInFPReg,
 703         LLVMArgVtypeInReg,
 704         LLVMArgVtypeByVal,
 705         LLVMArgVtypeRetAddr, /* On on cinfo->ret */
 706         LLVMArgGSharedVt,
 707 } LLVMArgStorage;
 708
 709 typedef struct {
 710         LLVMArgStorage storage;
 711
 712         /* Only if storage == ArgValuetypeInReg */
 713         LLVMArgStorage pair_storage [2];
 714 } LLVMArgInfo;
 715
 716 typedef struct {
 717         LLVMArgInfo ret;
 718         /* Whenever there is an rgctx argument */
 719         gboolean rgctx_arg;
 720         /* Whenever there is an IMT argument */
 721         gboolean imt_arg;
 722         /*
 723          * The position of the vret arg in the argument list.
 724          * Only if ret->storage == ArgVtypeRetAddr.
 725          * Should be 0 or 1.
 726          */
 727         int vret_arg_index;
 728         /* args [0] is for the this argument if it exists */
 729         LLVMArgInfo args [1];
 730 } LLVMCallInfo;
 731
 732 #define MONO_MAX_SRC_REGS       3
 733
 734 struct MonoInst {
 735         guint16 opcode;
 736         guint8  type; /* stack type */
 737         guint8  flags;
 738
 739         /* used by the register allocator */
 740         gint32 dreg, sreg1, sreg2, sreg3;
 741
 742         MonoInst *next, *prev;
 743
 744         union {
 745                 union {
 746                         MonoInst *src;
 747                         MonoMethodVar *var;
 748                         mgreg_t const_val;
 749 #if (SIZEOF_REGISTER > SIZEOF_VOID_P) && (G_BYTE_ORDER == G_BIG_ENDIAN)
 750                         struct {
 751                                 gpointer p[SIZEOF_REGISTER/SIZEOF_VOID_P];
 752                         } pdata;
 753 #else
 754                         gpointer p;
 755 #endif
 756                         MonoMethod *method;
 757                         MonoMethodSignature *signature;
 758                         MonoBasicBlock **many_blocks;
 759                         MonoBasicBlock *target_block;
 760                         MonoInst **args;
 761                         MonoType *vtype;
 762                         MonoClass *klass;
 763                         int *phi_args;
 764                         MonoCallInst *call_inst;
 765                         MonoExceptionClause *exception_clause;
 766                 } op [2];
 767                 gint64 i8const;
 768                 double r8const;
 769         } data;
 770
 771         const unsigned char* cil_code; /* for debugging and bblock splitting */
 772
 773         /* used mostly by the backend to store additional info it may need */
 774         union {
 775                 gint32 reg3;
 776                 gint32 arg_info;
 777                 gint32 size;
 778                 MonoMemcpyArgs *memcpy_args; /* in OP_MEMSET and OP_MEMCPY */
 779                 gpointer data;
 780                 gint shift_amount;
 781                 gboolean is_pinvoke; /* for variables in the unmanaged marshal format */
 782                 gboolean record_cast_details; /* For CEE_CASTCLASS */
 783                 MonoInst *spill_var; /* for OP_ICONV_TO_R8_RAW and OP_FCONV_TO_R8_X */
 784                 guint16 source_opcode; /*OP_XCONV_R8_TO_I4 needs to know which op was used to do proper widening*/
 785                 int pc_offset; /* OP_GC_LIVERANGE_START/END */
 786
 787                 /*
 788                  * memory_barrier: MONO_MEMORY_BARRIER_{ACQ,REL,SEQ}
 789                  * atomic_load_*: MONO_MEMORY_BARRIER_{ACQ,SEQ}
 790                  * atomic_store_*: MONO_MEMORY_BARRIER_{REL,SEQ}
 791                  */
 792                 int memory_barrier_kind;
 793         } backend;
 794
 795         MonoClass *klass;
 796 };
 797
 798 struct MonoCallInst {
 799         MonoInst inst;
 800         MonoMethodSignature *signature;
 801         MonoMethod *method;
 802         MonoInst **args;
 803         MonoInst *out_args;
 804         MonoInst *vret_var;
 805         gconstpointer fptr;
 806         guint stack_usage;
 807         guint stack_align_amount;
 808         guint virtual : 1;
 809         guint tail_call : 1;
 810         /* If this is TRUE, 'fptr' points to a MonoJumpInfo instead of an address. */
 811         guint fptr_is_patch : 1;
 812         /*
 813          * If this is true, then the call returns a vtype in a register using the same
 814          * calling convention as OP_CALL.
 815          */
 816         guint vret_in_reg : 1;
 817         /* Whenever vret_in_reg returns fp values */
 818         guint vret_in_reg_fp : 1;
 819         /* Whenever there is an IMT argument and it is dynamic */
 820         guint dynamic_imt_arg : 1;
 821         /* Whenever there is an RGCTX argument */
 822         guint32 rgctx_reg : 1;
 823         /* Whenever the call will need an unbox trampoline */
 824         guint need_unbox_trampoline : 1;
 825         regmask_t used_iregs;
 826         regmask_t used_fregs;
 827         GSList *out_ireg_args;
 828         GSList *out_freg_args;
 829         GSList *outarg_vts;
 830         gpointer call_info;
 831 #ifdef ENABLE_LLVM
 832         LLVMCallInfo *cinfo;
 833         int rgctx_arg_reg, imt_arg_reg;
 834 #endif
 835 #ifdef TARGET_ARM
 836         /* See the comment in mini-arm.c!mono_arch_emit_call for RegTypeFP. */
 837         GSList *float_args;
 838 #endif
 839 };
 840
 841 struct MonoCallArgParm {
 842         MonoInst ins;
 843         gint32 size;
 844         gint32 offset;
 845         gint32 offPrm;
 846 };
 847
 848 /*
 849  * flags for MonoInst
 850  * Note: some of the values overlap, because they can't appear
 851  * in the same MonoInst.
 852  */
 853 enum {
 854         MONO_INST_HAS_METHOD = 1,
 855         MONO_INST_INIT       = 1, /* in localloc */
 856         MONO_INST_SINGLE_STEP_LOC = 1, /* in SEQ_POINT */
 857         MONO_INST_IS_DEAD    = 2,
 858         MONO_INST_TAILCALL   = 4,
 859         MONO_INST_VOLATILE   = 4,
 860         MONO_INST_NOTYPECHECK    = 4,
 861         MONO_INST_NONEMPTY_STACK = 4, /* in SEQ_POINT */
 862         MONO_INST_UNALIGNED  = 8,
 863     MONO_INST_CFOLD_TAKEN = 8, /* On branches */
 864     MONO_INST_CFOLD_NOT_TAKEN = 16, /* On branches */
 865         MONO_INST_DEFINITION_HAS_SIDE_EFFECTS = 8,
 866         /* the address of the variable has been taken */
 867         MONO_INST_INDIRECT   = 16,
 868         MONO_INST_NORANGECHECK   = 16,
 869         /* On loads, the source address can be null */
 870         MONO_INST_FAULT = 32,
 871         /*
 872          * On variables, identifies LMF variables. These variables have a dummy type (int), but
 873          * require stack space for a MonoLMF struct.
 874          */
 875         MONO_INST_LMF = 32,
 876         /* On loads, the source address points to a constant value */
 877         MONO_INST_INVARIANT_LOAD = 64,
 878         /* On variables, the variable needs GC tracking */
 879         MONO_INST_GC_TRACK = 128,
 880         /*
 881          * Set on instructions during code emission which make calls, i.e. OP_CALL, OP_THROW.
 882          * backend.pc_offset will be set to the pc offset at the end of the native call instructions.
 883          */
 884         MONO_INST_GC_CALLSITE = 128
 885 };
 886
 887 #define inst_c0 data.op[0].const_val
 888 #define inst_c1 data.op[1].const_val
 889 #define inst_i0 data.op[0].src
 890 #define inst_i1 data.op[1].src
 891 #if (SIZEOF_REGISTER > SIZEOF_VOID_P) && (G_BYTE_ORDER == G_BIG_ENDIAN)
 892 #define inst_p0 data.op[0].pdata.p[SIZEOF_REGISTER/SIZEOF_VOID_P - 1]
 893 #define inst_p1 data.op[1].pdata.p[SIZEOF_REGISTER/SIZEOF_VOID_P - 1]
 894 #else
 895 #define inst_p0 data.op[0].p
 896 #define inst_p1 data.op[1].p
 897 #endif
 898 #define inst_l  data.i8const
 899 #define inst_r  data.r8const
 900 #define inst_left  data.op[0].src
 901 #define inst_right data.op[1].src
 902
 903 #define inst_newa_len   data.op[0].src
 904 #define inst_newa_class data.op[1].klass
 905
 906 #define inst_var    data.op[0].var
 907 #define inst_vtype  data.op[1].vtype
 908 /* in branch instructions */
 909 #define inst_many_bb   data.op[1].many_blocks
 910 #define inst_target_bb data.op[0].target_block
 911 #define inst_true_bb   data.op[1].many_blocks[0]
 912 #define inst_false_bb  data.op[1].many_blocks[1]
 913
 914 #define inst_basereg sreg1
 915 #define inst_indexreg sreg2
 916 #define inst_destbasereg dreg
 917 #define inst_offset data.op[0].const_val
 918 #define inst_imm    data.op[1].const_val
 919 #define inst_call   data.op[1].call_inst
 920
 921 #define inst_phi_args   data.op[1].phi_args
 922 #define inst_eh_block    data.op[1].exception_clause
 923
 924 static inline void
 925 mono_inst_set_src_registers (MonoInst *ins, int *regs)
 926 {
 927         ins->sreg1 = regs [0];
 928         ins->sreg2 = regs [1];
 929         ins->sreg3 = regs [2];
 930 }
 931
 932 /* instruction description for use in regalloc/scheduling */
 933 enum {
 934         MONO_INST_DEST,
 935         MONO_INST_SRC1,         /* we depend on the SRCs to be consecutive */
 936         MONO_INST_SRC2,
 937         MONO_INST_SRC3,
 938         MONO_INST_LEN,
 939         MONO_INST_CLOB,
 940         /* Unused, commented out to reduce the size of the mdesc tables
 941         MONO_INST_FLAGS,
 942         MONO_INST_COST,
 943         MONO_INST_DELAY,
 944         MONO_INST_RES,
 945         */
 946         MONO_INST_MAX
 947 };
 948
 949 typedef union {
 950         struct {
 951                 guint16 tid; /* tree number */
 952                 guint16 bid; /* block number */
 953         } pos ;
 954         guint32 abs_pos;
 955 } MonoPosition;
 956
 957 typedef struct {
 958         MonoPosition first_use, last_use;
 959 } MonoLiveRange;
 960
 961 typedef struct MonoLiveRange2 MonoLiveRange2;
 962
 963 struct MonoLiveRange2 {
 964         int from, to;
 965         MonoLiveRange2 *next;
 966 };
 967
 968 typedef struct {
 969         /* List of live ranges sorted by 'from' */
 970         MonoLiveRange2 *range;
 971         MonoLiveRange2 *last_range;
 972 } MonoLiveInterval;
 973
 974 /*
 975  * Additional information about a variable
 976  */
 977 struct MonoMethodVar {
 978         guint           idx; /* inside cfg->varinfo, cfg->vars */
 979         MonoLiveRange   range; /* generated by liveness analysis */
 980         MonoLiveInterval *interval; /* generated by liveness analysis */
 981         int             reg; /* != -1 if allocated into a register */
 982         int             spill_costs;
 983         MonoBitSet     *def_in; /* used by SSA */
 984         MonoInst       *def;    /* used by SSA */
 985         MonoBasicBlock *def_bb; /* used by SSA */
 986         GList          *uses;   /* used by SSA */
 987         char            cpstate;  /* used by SSA conditional  constant propagation */
 988         /* The native offsets corresponding to the live range of the variable */
 989         gint32         live_range_start, live_range_end;
 990         /*
 991          * cfg->varinfo [idx]->dreg could be replaced for OP_REGVAR, this contains the
 992          * original vreg.
 993          */
 994         gint32         vreg;
 995 };
 996
 997 /*
 998  * Stores state need to resume exception handling when using LLVM
 999  */
1000 typedef struct {
1001         MonoJitInfo *ji;
1002         int clause_index;
1003         MonoContext ctx, new_ctx;
1004         /* FIXME: GC */
1005         gpointer        ex_obj;
1006         MonoLMF *lmf;
1007         int first_filter_idx, filter_idx;
1008 } ResumeState;
1009
1010 typedef struct {
1011         gpointer          end_of_stack;
1012         guint32           stack_size;
1013         /* !defined(HAVE_KW_THREAD) || !defined(MONO_ARCH_ENABLE_MONO_LMF_VAR) */
1014         MonoLMF          *lmf;
1015         MonoLMF          *first_lmf;
1016         gpointer         restore_stack_prot;
1017         guint32          handling_stack_ovf;
1018         gpointer         signal_stack;
1019         guint32          signal_stack_size;
1020         gpointer         stack_ovf_guard_base;
1021         guint32          stack_ovf_guard_size;
1022         guint            stack_ovf_valloced : 1;
1023         void            (*abort_func) (MonoObject *object);
1024         /* Used to implement --debug=casts */
1025         MonoClass       *class_cast_from, *class_cast_to;
1026
1027         /* Stores state needed by handler block with a guard */
1028         MonoContext     ex_ctx;
1029         ResumeState resume_state;
1030
1031         /*Variabled use to implement handler blocks (finally/catch/etc) guards during interruption*/
1032         /* handler block return address */
1033         gpointer handler_block_return_address;
1034
1035         /* handler block been guarded. It's safe to store this even for dynamic methods since there
1036         is an activation on stack making sure it will remain alive.*/
1037         MonoJitExceptionInfo *handler_block;
1038
1039         /* context to be used by the guard trampoline when resuming interruption.*/
1040         MonoContext handler_block_context;
1041         /*
1042          * Stores the state at the exception throw site to be used by mono_stack_walk ()
1043          * when it is called from profiler functions during exception handling.
1044          */
1045         MonoContext orig_ex_ctx;
1046         gboolean orig_ex_ctx_set;
1047
1048         /*
1049          * Stores if we need to run a chained exception in Windows.
1050          */
1051         gboolean mono_win_chained_exception_needs_run;
1052 } MonoJitTlsData;
1053
1054 /*
1055  * This structure is an extension of MonoLMF and contains extra information.
1056  */
1057 typedef struct {
1058         struct MonoLMF lmf;
1059         gboolean debugger_invoke;
1060         MonoContext ctx; /* if debugger_invoke is TRUE */
1061 } MonoLMFExt;
1062
1063 /* Generic sharing */
1064 typedef enum {
1065         MONO_RGCTX_INFO_STATIC_DATA,
1066         MONO_RGCTX_INFO_KLASS,
1067         MONO_RGCTX_INFO_VTABLE,
1068         MONO_RGCTX_INFO_TYPE,
1069         MONO_RGCTX_INFO_REFLECTION_TYPE,
1070         MONO_RGCTX_INFO_METHOD,
1071         MONO_RGCTX_INFO_GENERIC_METHOD_CODE,
1072         MONO_RGCTX_INFO_CLASS_FIELD,
1073         MONO_RGCTX_INFO_METHOD_RGCTX,
1074         MONO_RGCTX_INFO_METHOD_CONTEXT,
1075         MONO_RGCTX_INFO_REMOTING_INVOKE_WITH_CHECK,
1076         MONO_RGCTX_INFO_METHOD_DELEGATE_CODE,
1077         MONO_RGCTX_INFO_CAST_CACHE,
1078         MONO_RGCTX_INFO_ARRAY_ELEMENT_SIZE,
1079         MONO_RGCTX_INFO_VALUE_SIZE,
1080         MONO_RGCTX_INFO_FIELD_OFFSET,
1081         /* Either the code for a gsharedvt method, or the address for a gsharedvt-out trampoline for the method */
1082         MONO_RGCTX_INFO_METHOD_GSHAREDVT_OUT_TRAMPOLINE,
1083         /* Same for virtual calls */
1084         MONO_RGCTX_INFO_METHOD_GSHAREDVT_OUT_TRAMPOLINE_VIRT,
1085         /* Same for calli, associated with a signature */
1086         MONO_RGCTX_INFO_SIG_GSHAREDVT_OUT_TRAMPOLINE_CALLI,
1087         /*
1088          * 0 - vtype
1089          * 1 - ref
1090          * 2 - gsharedvt type
1091          */
1092         MONO_RGCTX_INFO_CLASS_BOX_TYPE,
1093         /* Resolves to a MonoGSharedVtMethodRuntimeInfo */
1094         MONO_RGCTX_INFO_METHOD_GSHAREDVT_INFO,
1095         MONO_RGCTX_INFO_LOCAL_OFFSET,
1096         MONO_RGCTX_INFO_MEMCPY,
1097         MONO_RGCTX_INFO_BZERO,
1098         /* The address of Nullable<T>.Box () */
1099         MONO_RGCTX_INFO_NULLABLE_CLASS_BOX,
1100         MONO_RGCTX_INFO_NULLABLE_CLASS_UNBOX,
1101 } MonoRgctxInfoType;
1102
1103 typedef struct _MonoRuntimeGenericContextInfoTemplate {
1104         MonoRgctxInfoType info_type;
1105         gpointer data;
1106         struct _MonoRuntimeGenericContextInfoTemplate *next;
1107 } MonoRuntimeGenericContextInfoTemplate;
1108
1109 typedef struct {
1110         MonoClass *next_subclass;
1111         MonoRuntimeGenericContextInfoTemplate *infos;
1112         GSList *method_templates;
1113 } MonoRuntimeGenericContextTemplate;
1114
1115 typedef struct {
1116         MonoVTable *class_vtable; /* must be the first element */
1117         MonoGenericInst *method_inst;
1118         gpointer infos [MONO_ZERO_LEN_ARRAY];
1119 } MonoMethodRuntimeGenericContext;
1120
1121 #define MONO_SIZEOF_METHOD_RUNTIME_GENERIC_CONTEXT (sizeof (MonoMethodRuntimeGenericContext) - MONO_ZERO_LEN_ARRAY * SIZEOF_VOID_P)
1122
1123 #define MONO_RGCTX_SLOT_MAKE_RGCTX(i)   (i)
1124 #define MONO_RGCTX_SLOT_MAKE_MRGCTX(i)  ((i) | 0x80000000)
1125 #define MONO_RGCTX_SLOT_INDEX(s)        ((s) & 0x7fffffff)
1126 #define MONO_RGCTX_SLOT_IS_MRGCTX(s)    (((s) & 0x80000000) ? TRUE : FALSE)
1127
1128 #define MONO_GSHAREDVT_DEL_INVOKE_VT_OFFSET -2
1129
1130 typedef struct {
1131         MonoMethod *method;
1132         MonoRuntimeGenericContextInfoTemplate *entries;
1133         int num_entries, count_entries;
1134 } MonoGSharedVtMethodInfo;
1135
1136 /* This is used by gsharedvt methods to allocate locals and compute local offsets */
1137 typedef struct {
1138         int locals_size;
1139         /*
1140          * The results of resolving the entries in MOonGSharedVtMethodInfo->entries.
1141          * We use this instead of rgctx slots since these can be loaded using a load instead
1142          * of a call to an rgctx fetch trampoline.
1143          */
1144         gpointer entries [MONO_ZERO_LEN_ARRAY];
1145 } MonoGSharedVtMethodRuntimeInfo;
1146
1147 typedef struct
1148 {
1149         MonoMethod *invoke;
1150         MonoMethod *method;
1151         MonoMethodSignature *invoke_sig;
1152         MonoMethodSignature *sig;
1153         gpointer method_ptr;
1154         gpointer invoke_impl;
1155         gpointer impl_this;
1156         gpointer impl_nothis;
1157         gboolean need_rgctx_tramp;
1158 } MonoDelegateTrampInfo;
1159
1160 typedef enum {
1161 #define PATCH_INFO(a,b) MONO_PATCH_INFO_ ## a,
1162 #include "patch-info.h"
1163 #undef PATCH_INFO
1164         MONO_PATCH_INFO_NUM
1165 } MonoJumpInfoType;
1166
1167 /*
1168  * We need to store the image which the token refers to along with the token,
1169  * since the image might not be the same as the image of the method which
1170  * contains the relocation, because of inlining.
1171  */
1172 typedef struct MonoJumpInfoToken {
1173         MonoImage *image;
1174         guint32 token;
1175         gboolean has_context;
1176         MonoGenericContext context;
1177 } MonoJumpInfoToken;
1178
1179 typedef struct MonoJumpInfoBBTable {
1180         MonoBasicBlock **table;
1181         int table_size;
1182 } MonoJumpInfoBBTable;
1183
1184 typedef struct MonoJumpInfoRgctxEntry MonoJumpInfoRgctxEntry;
1185
1186 /* Contains information describing an LLVM IMT trampoline */
1187 typedef struct MonoJumpInfoImtTramp {
1188         MonoMethod *method;
1189         int vt_offset;
1190 } MonoJumpInfoImtTramp;
1191
1192 typedef struct MonoJumpInfoGSharedVtCall MonoJumpInfoGSharedVtCall;
1193
1194 typedef struct MonoJumpInfo MonoJumpInfo;
1195 struct MonoJumpInfo {
1196         MonoJumpInfo *next;
1197         /* Relocation type for patching */
1198         int relocation;
1199         union {
1200                 int i;
1201                 guint8 *p;
1202                 MonoInst *label;
1203         } ip;
1204
1205         MonoJumpInfoType type;
1206         union {
1207                 gconstpointer   target;
1208 #if SIZEOF_VOID_P == 8
1209                 gint64          offset;
1210 #else
1211                 int             offset;
1212 #endif
1213                 int index;
1214                 MonoBasicBlock *bb;
1215                 MonoInst       *inst;
1216                 MonoMethod     *method;
1217                 MonoClass      *klass;
1218                 MonoClassField *field;
1219                 MonoImage      *image;
1220                 MonoVTable     *vtable;
1221                 const char     *name;
1222                 MonoJumpInfoToken  *token;
1223                 MonoJumpInfoBBTable *table;
1224                 MonoJumpInfoRgctxEntry *rgctx_entry;
1225                 MonoJumpInfoImtTramp *imt_tramp;
1226                 MonoJumpInfoGSharedVtCall *gsharedvt;
1227                 MonoGSharedVtMethodInfo *gsharedvt_method;
1228                 MonoMethodSignature *sig;
1229                 MonoDelegateClassMethodPair *del_tramp;
1230         } data;
1231 };
1232
1233 /* Contains information describing an rgctx entry */
1234 struct MonoJumpInfoRgctxEntry {
1235         MonoMethod *method;
1236         gboolean in_mrgctx;
1237         MonoJumpInfo *data; /* describes the data to be loaded */
1238         MonoRgctxInfoType info_type;
1239 };
1240
1241 /* Contains information about a gsharedvt call */
1242 struct MonoJumpInfoGSharedVtCall {
1243         /* The original signature of the call */
1244         MonoMethodSignature *sig;
1245         /* The method which is called */
1246         MonoMethod *method;
1247 };
1248
1249 typedef enum {
1250         MONO_TRAMPOLINE_JIT,
1251         MONO_TRAMPOLINE_JUMP,
1252         MONO_TRAMPOLINE_CLASS_INIT,
1253         MONO_TRAMPOLINE_GENERIC_CLASS_INIT,
1254         MONO_TRAMPOLINE_RGCTX_LAZY_FETCH,
1255         MONO_TRAMPOLINE_AOT,
1256         MONO_TRAMPOLINE_AOT_PLT,
1257         MONO_TRAMPOLINE_DELEGATE,
1258         MONO_TRAMPOLINE_RESTORE_STACK_PROT,
1259         MONO_TRAMPOLINE_GENERIC_VIRTUAL_REMOTING,
1260         MONO_TRAMPOLINE_MONITOR_ENTER,
1261         MONO_TRAMPOLINE_MONITOR_ENTER_V4,
1262         MONO_TRAMPOLINE_MONITOR_EXIT,
1263         MONO_TRAMPOLINE_VCALL,
1264         MONO_TRAMPOLINE_HANDLER_BLOCK_GUARD,
1265         MONO_TRAMPOLINE_NUM
1266 } MonoTrampolineType;
1267
1268 /* These trampolines return normally to their caller */
1269 #define MONO_TRAMPOLINE_TYPE_MUST_RETURN(t)             \
1270         ((t) == MONO_TRAMPOLINE_CLASS_INIT ||           \
1271          (t) == MONO_TRAMPOLINE_GENERIC_CLASS_INIT ||   \
1272          (t) == MONO_TRAMPOLINE_RESTORE_STACK_PROT ||   \
1273          (t) == MONO_TRAMPOLINE_RGCTX_LAZY_FETCH ||     \
1274          (t) == MONO_TRAMPOLINE_MONITOR_ENTER ||        \
1275          (t) == MONO_TRAMPOLINE_MONITOR_ENTER_V4 ||     \
1276          (t) == MONO_TRAMPOLINE_MONITOR_EXIT)
1277
1278 /* These trampolines receive an argument directly in a register */
1279 #define MONO_TRAMPOLINE_TYPE_HAS_ARG(t)         \
1280         ((t) == MONO_TRAMPOLINE_GENERIC_CLASS_INIT ||   \
1281          (t) == MONO_TRAMPOLINE_MONITOR_ENTER ||                \
1282          (t) == MONO_TRAMPOLINE_MONITOR_ENTER_V4 ||             \
1283          (t) == MONO_TRAMPOLINE_MONITOR_EXIT ||                 \
1284          (t) == MONO_TRAMPOLINE_HANDLER_BLOCK_GUARD)
1285
1286 /* optimization flags */
1287 #define OPTFLAG(id,shift,name,descr) MONO_OPT_ ## id = 1 << shift,
1288 enum {
1289 #include "optflags-def.h"
1290         MONO_OPT_LAST
1291 };
1292
1293 /* Flags for mini_method_compile () */
1294 typedef enum {
1295         /* Whenever to run cctors during JITting */
1296         JIT_FLAG_RUN_CCTORS = (1 << 0),
1297         /* Whenever this is an AOT compilation */
1298         JIT_FLAG_AOT = (1 << 1),
1299         /* Whenever this is a full AOT compilation */
1300         JIT_FLAG_FULL_AOT = (1 << 2),
1301         /* Whenever to compile with LLVM */
1302         JIT_FLAG_LLVM = (1 << 3),
1303 } JitFlags;
1304
1305 /* Bit-fields in the MonoBasicBlock.region */
1306 #define MONO_REGION_TRY       0
1307 #define MONO_REGION_FINALLY  16
1308 #define MONO_REGION_CATCH    32
1309 #define MONO_REGION_FAULT    64         /* Currently unused */
1310 #define MONO_REGION_FILTER  128
1311
1312 #define MONO_BBLOCK_IS_IN_REGION(bblock, regtype) (((bblock)->region & (0xf << 4)) == (regtype))
1313
1314 #define MONO_REGION_FLAGS(region) ((region) & 0x7)
1315 #define MONO_REGION_CLAUSE_INDEX(region) (((region) >> 8) - 1)
1316
1317 #define get_vreg_to_inst(cfg, vreg) ((vreg) < (cfg)->vreg_to_inst_len ? (cfg)->vreg_to_inst [(vreg)] : NULL)
1318
1319 #define vreg_is_volatile(cfg, vreg) (G_UNLIKELY (get_vreg_to_inst ((cfg), (vreg)) && (get_vreg_to_inst ((cfg), (vreg))->flags & (MONO_INST_VOLATILE|MONO_INST_INDIRECT))))
1320
1321 #define vreg_is_ref(cfg, vreg) ((vreg) < (cfg)->vreg_is_ref_len ? (cfg)->vreg_is_ref [(vreg)] : 0)
1322 #define vreg_is_mp(cfg, vreg) ((vreg) < (cfg)->vreg_is_mp_len ? (cfg)->vreg_is_mp [(vreg)] : 0)
1323
1324 /*
1325  * Control Flow Graph and compilation unit information
1326  */
1327 typedef struct {
1328         MonoMethod      *method;
1329         MonoMethodHeader *header;
1330         MonoMemPool     *mempool;
1331         MonoInst       **varinfo;
1332         MonoMethodVar   *vars;
1333         MonoInst        *ret;
1334         MonoBasicBlock  *bb_entry;
1335         MonoBasicBlock  *bb_exit;
1336         MonoBasicBlock  *bb_init;
1337         MonoBasicBlock **bblocks;
1338         MonoBasicBlock **cil_offset_to_bb;
1339         MonoMemPool     *state_pool; /* used by instruction selection */
1340         MonoBasicBlock  *cbb;        /* used by instruction selection */
1341         MonoInst        *prev_ins;   /* in decompose */
1342         MonoJumpInfo    *patch_info;
1343         MonoJitInfo     *jit_info;
1344         MonoJitDynamicMethodInfo *dynamic_info;
1345         guint            num_bblocks, max_block_num;
1346         guint            locals_start;
1347         guint            num_varinfo; /* used items in varinfo */
1348         guint            varinfo_count; /* total storage in varinfo */
1349         gint             stack_offset;
1350         gint             max_ireg;
1351         gint             cil_offset_to_bb_len;
1352         MonoRegState    *rs;
1353         MonoSpillInfo   *spill_info [16]; /* machine register spills */
1354         gint             spill_count;
1355         gint             spill_info_len [16];
1356         /* unsigned char   *cil_code; */
1357         MonoMethod      *inlined_method; /* the method which is currently inlined */
1358         MonoInst        *domainvar; /* a cache for the current domain */
1359         MonoInst        *got_var; /* Global Offset Table variable */
1360         MonoInst        **locals;
1361         MonoInst        *rgctx_var; /* Runtime generic context variable (for static generic methods) */
1362         MonoInst        **args;
1363         MonoType        **arg_types;
1364         MonoMethod      *current_method; /* The method currently processed by method_to_ir () */
1365         MonoMethod      *method_to_register; /* The method to register in JIT info tables */
1366         MonoGenericContext *generic_context;
1367
1368         /*
1369          * This variable represents the hidden argument holding the vtype
1370          * return address. If the method returns something other than a vtype, or
1371          * the vtype is returned in registers this is NULL.
1372          */
1373         MonoInst        *vret_addr;
1374
1375         /*
1376          * This is used to initialize the cil_code field of MonoInst's.
1377          */
1378         const unsigned char *ip;
1379
1380         struct MonoAliasingInformation *aliasing_info;
1381
1382         /* A hashtable of region ID-> SP var mappings */
1383         /* An SP var is a place to store the stack pointer (used by handlers)*/
1384         GHashTable      *spvars;
1385
1386         /* A hashtable of region ID -> EX var mappings */
1387         /* An EX var stores the exception object passed to catch/filter blocks */
1388         GHashTable      *exvars;
1389
1390         GList           *ldstr_list; /* used by AOT */
1391
1392         MonoDomain      *domain;
1393
1394         guint            real_offset;
1395         GHashTable      *cbb_hash;
1396
1397         /* The current virtual register number */
1398         guint32 next_vreg;
1399
1400         MonoGenericSharingContext *generic_sharing_context;
1401
1402         MonoGenericSharingContext gsctx;
1403         MonoGenericContext *gsctx_context;
1404
1405         MonoGSharedVtMethodInfo *gsharedvt_info;
1406
1407         /* Points to the gsharedvt locals area at runtime */
1408         MonoInst *gsharedvt_locals_var;
1409
1410         /* The localloc instruction used to initialize gsharedvt_locals_var */
1411         MonoInst *gsharedvt_locals_var_ins;
1412
1413         /* Points to a MonoGSharedVtMethodRuntimeInfo at runtime */
1414         MonoInst *gsharedvt_info_var;
1415
1416         /* For native-to-managed wrappers, the saved old domain */
1417         MonoInst *orig_domain_var;
1418
1419         MonoInst *lmf_var;
1420         MonoInst *lmf_addr_var;
1421
1422         MonoInst *stack_inbalance_var;
1423
1424         unsigned char   *cil_start;
1425 #ifdef __native_client_codegen__
1426         /* this alloc is not aligned, native_code */
1427         /* is the 32-byte aligned version of this */
1428         unsigned char   *native_code_alloc;
1429 #endif
1430         unsigned char   *native_code;
1431         guint            code_size;
1432         guint            code_len;
1433         guint            prolog_end;
1434         guint            epilog_begin;
1435         guint            epilog_end;
1436         regmask_t        used_int_regs;
1437         guint32          opt;
1438         guint32          prof_options;
1439         guint32          flags;
1440         guint32          comp_done;
1441         guint32          verbose_level;
1442         guint32          stack_usage;
1443         guint32          param_area;
1444         guint32          frame_reg;
1445         gint32           sig_cookie;
1446         guint            disable_aot : 1;
1447         guint            disable_ssa : 1;
1448         guint            disable_llvm : 1;
1449         guint            enable_extended_bblocks : 1;
1450         guint            run_cctors : 1;
1451         guint            need_lmf_area : 1;
1452         guint            compile_aot : 1;
1453         guint            full_aot : 1;
1454         guint            compile_llvm : 1;
1455         guint            got_var_allocated : 1;
1456         guint            ret_var_is_local : 1;
1457         guint            ret_var_set : 1;
1458         guint            globalra : 1;
1459         guint            unverifiable : 1;
1460         guint            skip_visibility : 1;
1461         guint            disable_reuse_registers : 1;
1462         guint            disable_reuse_stack_slots : 1;
1463         guint            disable_reuse_ref_stack_slots : 1;
1464         guint            disable_ref_noref_stack_slot_share : 1;
1465         guint            disable_initlocals_opt : 1;
1466         guint            disable_initlocals_opt_refs : 1;
1467         guint            disable_omit_fp : 1;
1468         guint            disable_vreg_to_lvreg : 1;
1469         guint            disable_deadce_vars : 1;
1470         guint            disable_out_of_line_bblocks : 1;
1471         guint            create_lmf_var : 1;
1472         /*
1473          * When this is set, the code to push/pop the LMF from the LMF stack is generated as IR
1474          * instead of being generated in emit_prolog ()/emit_epilog ().
1475          */
1476         guint            lmf_ir : 1;
1477         /*
1478          * Whenever to use the mono_lmf TLS variable instead of indirection through the
1479          * mono_lmf_addr TLS variable.
1480          */
1481         guint            lmf_ir_mono_lmf : 1;
1482         guint            gen_write_barriers : 1;
1483         guint            init_ref_vars : 1;
1484         guint            extend_live_ranges : 1;
1485         guint            compute_precise_live_ranges : 1;
1486         guint            has_got_slots : 1;
1487         guint            uses_rgctx_reg : 1;
1488         guint            uses_vtable_reg : 1;
1489         guint            uses_simd_intrinsics : 1;
1490         guint            keep_cil_nops : 1;
1491         guint            gen_seq_points : 1;
1492         guint            gen_seq_points_debug_data : 1;
1493         guint            explicit_null_checks : 1;
1494         guint            compute_gc_maps : 1;
1495         guint            soft_breakpoints : 1;
1496         guint            arch_eh_jit_info : 1;
1497         guint            has_indirection : 1;
1498         guint            has_atomic_add_i4 : 1;
1499         guint            has_atomic_exchange_i4 : 1;
1500         guint            has_atomic_cas_i4 : 1;
1501         guint            check_pinvoke_callconv : 1;
1502         guint            has_unwind_info_for_epilog : 1;
1503         guint            disable_inline : 1;
1504         guint            gshared : 1;
1505         guint            gsharedvt : 1;
1506         gpointer         debug_info;
1507         guint32          lmf_offset;
1508     guint16          *intvars;
1509         MonoProfileCoverageInfo *coverage_info;
1510         GHashTable       *token_info_hash;
1511         MonoCompileArch  arch;
1512         guint32          inline_depth;
1513         guint32          exception_type;        /* MONO_EXCEPTION_* */
1514         guint32          exception_data;
1515         char*            exception_message;
1516         gpointer         exception_ptr;
1517
1518         guint8 *         encoded_unwind_ops;
1519         guint32          encoded_unwind_ops_len;
1520         GSList*          unwind_ops;
1521
1522         GList*           dont_inline;
1523
1524         /* Fields used by the local reg allocator */
1525         void*            reginfo;
1526         int              reginfo_len;
1527
1528         /* Maps vregs to their associated MonoInst's */
1529         /* vregs with an associated MonoInst are 'global' while others are 'local' */
1530         MonoInst **vreg_to_inst;
1531
1532         /* Size of above array */
1533         guint32 vreg_to_inst_len;
1534
1535         /* Marks vregs which hold a GC ref */
1536         /* FIXME: Use a bitmap */
1537         gboolean *vreg_is_ref;
1538
1539         /* Size of above array */
1540         guint32 vreg_is_ref_len;
1541
1542         /* Marks vregs which hold a managed pointer */
1543         /* FIXME: Use a bitmap */
1544         gboolean *vreg_is_mp;
1545
1546         /* Size of above array */
1547         guint32 vreg_is_mp_len;
1548
1549         /*
1550          * The original method to compile, differs from 'method' when doing generic
1551          * sharing.
1552          */
1553         MonoMethod *orig_method;
1554
1555         /* Patches which describe absolute addresses embedded into the native code */
1556         GHashTable *abs_patches;
1557
1558         /* If the arch passes valuetypes by address, then for methods
1559            which use JMP the arch code should use these local
1560            variables to store the addresses of incoming valuetypes.
1561            The addresses should be stored in mono_arch_emit_prolog()
1562            and can be used when emitting code for OP_JMP.  See
1563            mini-ppc.c. */
1564         MonoInst **tailcall_valuetype_addrs;
1565
1566         /* Used to implement iconv_to_r8_raw on archs that can't do raw
1567         copy between an ireg and a freg. This is an int32 var.*/
1568         MonoInst *iconv_raw_var;
1569
1570         /* Used to implement fconv_to_r8_x. This is a double (8 bytes) var.*/
1571         MonoInst *fconv_to_r8_x_var;
1572
1573         /*Use to implement simd constructors. This is a vector (16 bytes) var.*/
1574         MonoInst *simd_ctor_var;
1575
1576         /* Used to implement dyn_call */
1577         MonoInst *dyn_call_var;
1578
1579         /*
1580          * List of sequence points represented as IL offset+native offset pairs.
1581          * Allocated using glib.
1582          * IL offset can be -1 or 0xffffff to refer to the sequence points
1583          * inside the prolog and epilog used to implement method entry/exit events.
1584          */
1585         GPtrArray *seq_points;
1586
1587         /* The encoded sequence point info */
1588         struct MonoSeqPointInfo *seq_point_info;
1589
1590         /* Method headers which need to be freed after compilation */
1591         GSList *headers_to_free;
1592
1593         /* Used by AOT */
1594         guint32 got_offset, ex_info_offset, method_info_offset, method_index;
1595         /* Symbol used to refer to this method in generated assembly */
1596         char *asm_symbol;
1597         char *llvm_method_name;
1598         int castclass_cache_index;
1599
1600         MonoJitExceptionInfo *llvm_ex_info;
1601         guint32 llvm_ex_info_len;
1602         int llvm_this_reg, llvm_this_offset;
1603
1604         GSList *try_block_holes;
1605
1606         /* DWARF location list for 'this' */
1607         GSList *this_loclist;
1608
1609         /* DWARF location list for 'rgctx_var' */
1610         GSList *rgctx_loclist;
1611
1612         /* GC Maps */
1613
1614         /* The offsets of the locals area relative to the frame pointer */
1615         gint locals_min_stack_offset, locals_max_stack_offset;
1616
1617         /* The current CFA rule */
1618         int cur_cfa_reg, cur_cfa_offset;
1619
1620         /* The final CFA rule at the end of the prolog */
1621         int cfa_reg, cfa_offset;
1622
1623         /* Points to a MonoCompileGC */
1624         gpointer gc_info;
1625
1626         /*
1627          * The encoded GC map along with its size. This contains binary data so it can be saved in an AOT
1628          * image etc, but it requires a 4 byte alignment.
1629          */
1630         guint8 *gc_map;
1631         guint32 gc_map_size;
1632
1633         /* Error handling */
1634         MonoError error;
1635
1636         /* Stats */
1637         int stat_allocate_var;
1638         int stat_locals_stack_size;
1639         int stat_basic_blocks;
1640         int stat_cil_code_size;
1641         int stat_n_regvars;
1642         int stat_inlineable_methods;
1643         int stat_inlined_methods;
1644         int stat_cas_demand_generation;
1645         int stat_code_reallocs;
1646 } MonoCompile;
1647
1648 typedef enum {
1649         MONO_CFG_HAS_ALLOCA = 1 << 0,
1650         MONO_CFG_HAS_CALLS  = 1 << 1,
1651         MONO_CFG_HAS_LDELEMA  = 1 << 2,
1652         MONO_CFG_HAS_VARARGS  = 1 << 3,
1653         MONO_CFG_HAS_TAIL     = 1 << 4,
1654         MONO_CFG_HAS_FPOUT    = 1 << 5, /* there are fp values passed in int registers */
1655         MONO_CFG_HAS_SPILLUP  = 1 << 6, /* spill var slots are allocated from bottom to top */
1656         MONO_CFG_HAS_CHECK_THIS  = 1 << 7,
1657         MONO_CFG_HAS_ARRAY_ACCESS = 1 << 8
1658 } MonoCompileFlags;
1659
1660 typedef struct {
1661         gint32 methods_compiled;
1662         gint32 methods_aot;
1663         gint32 methods_lookups;
1664         gint32 allocate_var;
1665         gint32 cil_code_size;
1666         gint32 native_code_size;
1667         gint32 code_reallocs;
1668         gint32 max_code_size_ratio;
1669         gint32 biggest_method_size;
1670         gint32 allocated_code_size;
1671         gint32 allocated_seq_points_size;
1672         gint32 inlineable_methods;
1673         gint32 inlined_methods;
1674         gint32 basic_blocks;
1675         gint32 max_basic_blocks;
1676         gint32 locals_stack_size;
1677         gint32 regvars;
1678         gint32 cas_declsec_check;
1679         gint32 cas_linkdemand_icall;
1680         gint32 cas_linkdemand_pinvoke;
1681         gint32 cas_linkdemand_aptc;
1682         gint32 cas_linkdemand;
1683         gint32 cas_demand_generation;
1684         gint32 generic_virtual_invocations;
1685         gint32 alias_found;
1686         gint32 alias_removed;
1687         gint32 loads_eliminated;
1688         gint32 stores_eliminated;
1689         int methods_with_llvm;
1690         int methods_without_llvm;
1691         char *max_ratio_method;
1692         char *biggest_method;
1693         double jit_time;
1694         gboolean enabled;
1695 } MonoJitStats;
1696
1697 extern MonoJitStats mono_jit_stats;
1698
1699 /* opcodes: value assigned after all the CIL opcodes */
1700 #ifdef MINI_OP
1701 #undef MINI_OP
1702 #endif
1703 #ifdef MINI_OP3
1704 #undef MINI_OP3
1705 #endif
1706 #define MINI_OP(a,b,dest,src1,src2) a,
1707 #define MINI_OP3(a,b,dest,src1,src2,src3) a,
1708 enum {
1709         OP_START = MONO_CEE_LAST - 1,
1710 #include "mini-ops.h"
1711         OP_LAST
1712 };
1713 #undef MINI_OP
1714 #undef MINI_OP3
1715
1716 #if SIZEOF_VOID_P == 8
1717 #define OP_PCONST OP_I8CONST
1718 #define OP_DUMMY_PCONST OP_DUMMY_I8CONST
1719 #define OP_PADD OP_LADD
1720 #define OP_PADD_IMM OP_LADD_IMM
1721 #define OP_PAND_IMM OP_LAND_IMM
1722 #define OP_PSUB OP_LSUB
1723 #define OP_PMUL OP_LMUL
1724 #define OP_PMUL_IMM OP_LMUL_IMM
1725 #define OP_PNEG OP_LNEG
1726 #define OP_PCONV_TO_I1 OP_LCONV_TO_I1
1727 #define OP_PCONV_TO_U1 OP_LCONV_TO_U1
1728 #define OP_PCONV_TO_I2 OP_LCONV_TO_I2
1729 #define OP_PCONV_TO_U2 OP_LCONV_TO_U2
1730 #define OP_PCONV_TO_OVF_I1_UN OP_LCONV_TO_OVF_I1_UN
1731 #define OP_PCONV_TO_OVF_I1 OP_LCONV_TO_OVF_I1
1732 #define OP_PBEQ OP_LBEQ
1733 #define OP_PCEQ OP_LCEQ
1734 #define OP_PBNE_UN OP_LBNE_UN
1735 #define OP_PBGE_UN OP_LBGE_UN
1736 #define OP_PBLT_UN OP_LBLT_UN
1737 #define OP_PBGE OP_LBGE
1738 #define OP_STOREP_MEMBASE_REG OP_STOREI8_MEMBASE_REG
1739 #define OP_STOREP_MEMBASE_IMM OP_STOREI8_MEMBASE_IMM
1740 #else
1741 #define OP_PCONST OP_ICONST
1742 #define OP_DUMMY_PCONST OP_DUMMY_ICONST
1743 #define OP_PADD OP_IADD
1744 #define OP_PADD_IMM OP_IADD_IMM
1745 #define OP_PAND_IMM OP_IAND_IMM
1746 #define OP_PSUB OP_ISUB
1747 #define OP_PMUL OP_IMUL
1748 #define OP_PMUL_IMM OP_IMUL_IMM
1749 #define OP_PNEG OP_INEG
1750 #define OP_PCONV_TO_I1 OP_ICONV_TO_I1
1751 #define OP_PCONV_TO_U1 OP_ICONV_TO_U1
1752 #define OP_PCONV_TO_I2 OP_ICONV_TO_I2
1753 #define OP_PCONV_TO_U2 OP_ICONV_TO_U2
1754 #define OP_PCONV_TO_OVF_I1_UN OP_ICONV_TO_OVF_I1_UN
1755 #define OP_PCONV_TO_OVF_I1 OP_ICONV_TO_OVF_I1
1756 #define OP_PBEQ OP_IBEQ
1757 #define OP_PCEQ OP_ICEQ
1758 #define OP_PBNE_UN OP_IBNE_UN
1759 #define OP_PBGE_UN OP_IBGE_UN
1760 #define OP_PBLT_UN OP_IBLT_UN
1761 #define OP_PBGE OP_IBGE
1762 #define OP_STOREP_MEMBASE_REG OP_STOREI4_MEMBASE_REG
1763 #define OP_STOREP_MEMBASE_IMM OP_STOREI4_MEMBASE_IMM
1764 #endif
1765
1766 /* Opcodes to load/store regsize quantities */
1767 #if defined (__mono_ilp32__)
1768 #define OP_LOADR_MEMBASE OP_LOADI8_MEMBASE
1769 #define OP_STORER_MEMBASE_REG OP_STOREI8_MEMBASE_REG
1770 #else
1771 #define OP_LOADR_MEMBASE OP_LOAD_MEMBASE
1772 #define OP_STORER_MEMBASE_REG OP_STORE_MEMBASE_REG
1773 #endif
1774
1775 typedef enum {
1776         STACK_INV,
1777         STACK_I4,
1778         STACK_I8,
1779         STACK_PTR,
1780         STACK_R8,
1781         STACK_MP,
1782         STACK_OBJ,
1783         STACK_VTYPE,
1784         STACK_MAX
1785 } MonoStackType;
1786
1787 typedef struct {
1788         union {
1789                 double   r8;
1790                 gint32   i4;
1791                 gint64   i8;
1792                 gpointer p;
1793                 MonoClass *klass;
1794         } data;
1795         int type;
1796 } StackSlot;
1797
1798 #if HAVE_ARRAY_ELEM_INIT
1799 extern const guint8 mono_burg_arity [];
1800 #else
1801 extern guint8 mono_burg_arity [];
1802 #endif
1803
1804 extern const char MONO_ARCH_CPU_SPEC [] MONO_INTERNAL;
1805 #define MONO_ARCH_CPU_SPEC_IDX_COMBINE(a) a ## _idx
1806 #define MONO_ARCH_CPU_SPEC_IDX(a) MONO_ARCH_CPU_SPEC_IDX_COMBINE(a)
1807 extern const guint16 MONO_ARCH_CPU_SPEC_IDX(MONO_ARCH_CPU_SPEC) [] MONO_INTERNAL;
1808 #define ins_get_spec(op) ((const char*)&MONO_ARCH_CPU_SPEC + MONO_ARCH_CPU_SPEC_IDX(MONO_ARCH_CPU_SPEC)[(op) - OP_LOAD])
1809
1810 enum {
1811         MONO_COMP_DOM = 1,
1812         MONO_COMP_IDOM = 2,
1813         MONO_COMP_DFRONTIER = 4,
1814         MONO_COMP_DOM_REV = 8,
1815         MONO_COMP_LIVENESS = 16,
1816         MONO_COMP_SSA = 32,
1817         MONO_COMP_SSA_DEF_USE = 64,
1818         MONO_COMP_REACHABILITY = 128,
1819         MONO_COMP_LOOPS = 256
1820 };
1821
1822 typedef enum {
1823         MONO_GRAPH_CFG = 1,
1824         MONO_GRAPH_DTREE = 2,
1825         MONO_GRAPH_CFG_CODE = 4,
1826         MONO_GRAPH_CFG_SSA = 8,
1827         MONO_GRAPH_CFG_OPTCODE = 16
1828 } MonoGraphOptions;
1829
1830 typedef struct {
1831         guint16 size;
1832         guint16 offset;
1833         guint8  pad;
1834 } MonoJitArgumentInfo;
1835
1836 typedef struct {
1837         gboolean handle_sigint;
1838         gboolean keep_delegates;
1839         gboolean reverse_pinvoke_exceptions;
1840         gboolean collect_pagefault_stats;
1841         gboolean break_on_unverified;
1842         gboolean better_cast_details;
1843         gboolean mdb_optimizations;
1844         gboolean no_gdb_backtrace;
1845         gboolean suspend_on_sigsegv;
1846         gboolean suspend_on_exception;
1847         gboolean suspend_on_unhandled;
1848         gboolean dyn_runtime_invoke;
1849         gboolean gdb;
1850         /*
1851          * Whenever data such as next sequence points and flags is required.
1852          * Next sequence points and flags are required by the debugger agent.
1853          */
1854         gboolean gen_seq_points_debug_data;
1855         gboolean gen_seq_points_compact_data;
1856         gboolean explicit_null_checks;
1857         /*
1858          * Fill stack frames with 0x2a in method prologs. This helps with the
1859          * debugging of the stack marking code in the GC.
1860          */
1861         gboolean init_stacks;
1862
1863         /*
1864          * Whenever to implement single stepping and breakpoints without signals in the
1865          * soft debugger. This is useful on platforms without signals, like the ps3, or during
1866          * runtime debugging, since it avoids SIGSEGVs when a single step location or breakpoint
1867          * is hit.
1868          */
1869         gboolean soft_breakpoints;
1870         /*
1871          * Whenever to break in the debugger using G_BREAKPOINT on unhandled exceptions.
1872          */
1873         gboolean break_on_exc;
1874         /*
1875          * Load AOT JIT info eagerly.
1876          */
1877         gboolean load_aot_jit_info_eagerly;
1878         /*
1879          * Check for pinvoke calling convention mismatches.
1880          */
1881         gboolean check_pinvoke_callconv;
1882 } MonoDebugOptions;
1883
1884 enum {
1885         BRANCH_NOT_TAKEN,
1886         BRANCH_TAKEN,
1887         BRANCH_UNDEF
1888 };
1889
1890 typedef enum {
1891         CMP_EQ,
1892         CMP_NE,
1893         CMP_LE,
1894         CMP_GE,
1895         CMP_LT,
1896         CMP_GT,
1897         CMP_LE_UN,
1898         CMP_GE_UN,
1899         CMP_LT_UN,
1900         CMP_GT_UN
1901 } CompRelation;
1902
1903 typedef enum {
1904         CMP_TYPE_L,
1905         CMP_TYPE_I,
1906         CMP_TYPE_F
1907 } CompType;
1908
1909 /* Implicit exceptions */
1910 enum {
1911         MONO_EXC_INDEX_OUT_OF_RANGE,
1912         MONO_EXC_OVERFLOW,
1913         MONO_EXC_ARITHMETIC,
1914         MONO_EXC_DIVIDE_BY_ZERO,
1915         MONO_EXC_INVALID_CAST,
1916         MONO_EXC_NULL_REF,
1917         MONO_EXC_ARRAY_TYPE_MISMATCH,
1918         MONO_EXC_ARGUMENT,
1919         MONO_EXC_INTRINS_NUM
1920 };
1921
1922 enum {
1923         MINI_TOKEN_SOURCE_CLASS,
1924         MINI_TOKEN_SOURCE_METHOD,
1925         MINI_TOKEN_SOURCE_FIELD
1926 };
1927
1928  /*
1929   * Information about a trampoline function.
1930   */
1931  typedef struct
1932  {
1933         /*
1934          * The native code of the trampoline. Not owned by this structure.
1935          */
1936         guint8 *code;
1937         guint32 code_size;
1938         /*
1939          * The name of the trampoline which can be used in AOT/xdebug. Owned by this
1940          * structure.
1941          */
1942         char *name;
1943         /*
1944          * Patches required by the trampoline when aot-ing. Owned by this structure.
1945          */
1946         MonoJumpInfo *ji;
1947         /*
1948          * Unwind information. Owned by this structure.
1949          */
1950         GSList *unwind_ops;
1951
1952          /*
1953           * Encoded unwind info loaded from AOT images
1954           */
1955          guint8 *uw_info;
1956          guint32 uw_info_len;
1957 } MonoTrampInfo;
1958
1959 typedef void (*MonoInstFunc) (MonoInst *tree, gpointer data);
1960
1961 enum {
1962         FILTER_IL_SEQ_POINT = 1 << 0,
1963         FILTER_NOP          = 1 << 1,
1964 };
1965
1966 static inline gboolean
1967 mono_inst_filter (MonoInst *ins, int filter)
1968 {
1969         if (!ins || !filter)
1970                 return FALSE;
1971
1972         if ((filter & FILTER_IL_SEQ_POINT) && ins->opcode == OP_IL_SEQ_POINT)
1973                 return TRUE;
1974
1975         if ((filter & FILTER_NOP) && ins->opcode == OP_NOP)
1976                 return TRUE;
1977
1978         return FALSE;
1979 }
1980
1981 static inline MonoInst*
1982 mono_inst_next (MonoInst *ins, int filter)
1983 {
1984         do {
1985                 ins = ins->next;
1986         } while (mono_inst_filter (ins, filter));
1987
1988         return ins;
1989 }
1990
1991 static inline MonoInst*
1992 mono_inst_prev (MonoInst *ins, int filter)
1993 {
1994         do {
1995                 ins = ins->prev;
1996         } while (mono_inst_filter (ins, filter));
1997
1998         return ins;
1999 }
2000
2001 static inline MonoInst*
2002 mono_bb_first_inst (MonoBasicBlock *bb, int filter)
2003 {
2004         MonoInst *ins = bb->code;
2005         if (mono_inst_filter (ins, filter))
2006                 ins = mono_inst_next (ins, filter);
2007
2008         return ins;
2009 }
2010
2011 static inline MonoInst*
2012 mono_bb_last_inst (MonoBasicBlock *bb, int filter)
2013 {
2014         MonoInst *ins = bb->last_ins;
2015         if (mono_inst_filter (ins, filter))
2016                 ins = mono_inst_prev (ins, filter);
2017
2018         return ins;
2019 }
2020
2021 /* main function */
2022 MONO_API int         mono_main                      (int argc, char* argv[]);
2023 MONO_API void        mono_set_defaults              (int verbose_level, guint32 opts);
2024 MonoDomain* mini_init                      (const char *filename, const char *runtime_version) MONO_INTERNAL;
2025 void        mini_cleanup                   (MonoDomain *domain) MONO_INTERNAL;
2026 MonoDebugOptions *mini_get_debug_options   (void) MONO_INTERNAL;
2027
2028 /* helper methods */
2029 void      mono_disable_optimizations       (guint32 opts) MONO_INTERNAL;
2030 void      mono_set_optimizations           (guint32 opts) MONO_INTERNAL;
2031 guint32   mono_get_optimizations_for_method (MonoMethod *method, guint32 default_opt) MONO_INTERNAL;
2032 void      mono_set_verbose_level           (guint32 level) MONO_INTERNAL;
2033 MonoJumpInfoToken* mono_jump_info_token_new (MonoMemPool *mp, MonoImage *image, guint32 token) MONO_INTERNAL;
2034 MonoJumpInfoToken* mono_jump_info_token_new2 (MonoMemPool *mp, MonoImage *image, guint32 token, MonoGenericContext *context) MONO_INTERNAL;
2035 MonoInst* mono_find_spvar_for_region        (MonoCompile *cfg, int region) MONO_INTERNAL;
2036 MonoInst* mono_find_exvar_for_offset        (MonoCompile *cfg, int offset) MONO_INTERNAL;
2037 int       mono_get_block_region_notry       (MonoCompile *cfg, int region) MONO_LLVM_INTERNAL;
2038
2039 void      mono_precompile_assemblies        (void) MONO_INTERNAL;
2040 MONO_API int       mono_parse_default_optimizations  (const char* p);
2041 void      mono_bblock_add_inst              (MonoBasicBlock *bb, MonoInst *inst) MONO_LLVM_INTERNAL;
2042 void      mono_bblock_insert_after_ins      (MonoBasicBlock *bb, MonoInst *ins, MonoInst *ins_to_insert) MONO_INTERNAL;
2043 void      mono_bblock_insert_before_ins     (MonoBasicBlock *bb, MonoInst *ins, MonoInst *ins_to_insert) MONO_INTERNAL;
2044 void      mono_verify_bblock                (MonoBasicBlock *bb) MONO_INTERNAL;
2045 void      mono_verify_cfg                   (MonoCompile *cfg) MONO_INTERNAL;
2046 void      mono_constant_fold                (MonoCompile *cfg) MONO_INTERNAL;
2047 MonoInst* mono_constant_fold_ins            (MonoCompile *cfg, MonoInst *ins, MonoInst *arg1, MonoInst *arg2, gboolean overwrite) MONO_INTERNAL;
2048 int       mono_eval_cond_branch             (MonoInst *branch) MONO_INTERNAL;
2049 int       mono_is_power_of_two              (guint32 val) MONO_LLVM_INTERNAL;
2050 void      mono_cprop_local                  (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst **acp, int acp_size) MONO_INTERNAL;
2051 MonoInst* mono_compile_create_var           (MonoCompile *cfg, MonoType *type, int opcode) MONO_INTERNAL;
2052 MonoInst* mono_compile_create_var_for_vreg  (MonoCompile *cfg, MonoType *type, int opcode, int vreg) MONO_INTERNAL;
2053 void      mono_compile_make_var_load        (MonoCompile *cfg, MonoInst *dest, gssize var_index) MONO_INTERNAL;
2054 MonoInst* mono_compile_create_var_load      (MonoCompile *cfg, gssize var_index) MONO_INTERNAL;
2055 MonoInst* mono_compile_create_var_store     (MonoCompile *cfg, gssize var_index, MonoInst *value) MONO_INTERNAL;
2056 MonoType* mono_type_from_stack_type         (MonoInst *ins) MONO_INTERNAL;
2057 guint32   mono_alloc_ireg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2058 guint32   mono_alloc_lreg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2059 guint32   mono_alloc_freg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2060 guint32   mono_alloc_preg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2061 guint32   mono_alloc_dreg                   (MonoCompile *cfg, MonoStackType stack_type) MONO_INTERNAL;
2062 guint32   mono_alloc_ireg_ref               (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2063 guint32   mono_alloc_ireg_mp                (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2064 guint32   mono_alloc_ireg_copy              (MonoCompile *cfg, guint32 vreg) MONO_LLVM_INTERNAL;
2065 void      mono_mark_vreg_as_ref             (MonoCompile *cfg, int vreg) MONO_INTERNAL;
2066 void      mono_mark_vreg_as_mp              (MonoCompile *cfg, int vreg) MONO_INTERNAL;
2067
2068 void      mono_link_bblock                  (MonoCompile *cfg, MonoBasicBlock *from, MonoBasicBlock* to) MONO_INTERNAL;
2069 void      mono_unlink_bblock                (MonoCompile *cfg, MonoBasicBlock *from, MonoBasicBlock* to) MONO_INTERNAL;
2070 gboolean  mono_bblocks_linked               (MonoBasicBlock *bb1, MonoBasicBlock *bb2) MONO_INTERNAL;
2071 void      mono_remove_bblock                (MonoCompile *cfg, MonoBasicBlock *bb) MONO_INTERNAL;
2072 void      mono_nullify_basic_block          (MonoBasicBlock *bb) MONO_INTERNAL;
2073 void      mono_merge_basic_blocks           (MonoCompile *cfg, MonoBasicBlock *bb, MonoBasicBlock *bbn) MONO_INTERNAL;
2074 void      mono_optimize_branches            (MonoCompile *cfg) MONO_INTERNAL;
2075
2076 void      mono_blockset_print               (MonoCompile *cfg, MonoBitSet *set, const char *name, guint idom) MONO_INTERNAL;
2077 void      mono_print_ji                     (const MonoJumpInfo *ji) MONO_INTERNAL;
2078 void      mono_print_ins_index              (int i, MonoInst *ins) MONO_INTERNAL;
2079 void      mono_print_ins                    (MonoInst *ins) MONO_INTERNAL;
2080 void      mono_print_bb                     (MonoBasicBlock *bb, const char *msg) MONO_INTERNAL;
2081 void      mono_print_code                   (MonoCompile *cfg, const char *msg) MONO_INTERNAL;
2082 MONO_API void      mono_print_method_from_ip         (void *ip);
2083 MONO_API char     *mono_pmip                         (void *ip);
2084 gboolean  mono_debug_count                  (void) MONO_INTERNAL;
2085 MONO_API const char* mono_inst_name                  (int op);
2086 int       mono_op_to_op_imm                 (int opcode) MONO_INTERNAL;
2087 int       mono_op_imm_to_op                 (int opcode) MONO_INTERNAL;
2088 int       mono_load_membase_to_load_mem     (int opcode) MONO_INTERNAL;
2089 guint     mono_type_to_load_membase         (MonoCompile *cfg, MonoType *type) MONO_INTERNAL;
2090 guint     mono_type_to_store_membase        (MonoCompile *cfg, MonoType *type) MONO_INTERNAL;
2091 guint     mini_type_to_stind                (MonoCompile* cfg, MonoType *type) MONO_INTERNAL;
2092 guint32   mono_reverse_branch_op            (guint32 opcode) MONO_INTERNAL;
2093 void      mono_disassemble_code             (MonoCompile *cfg, guint8 *code, int size, char *id) MONO_INTERNAL;
2094 void      mono_add_patch_info               (MonoCompile *cfg, int ip, MonoJumpInfoType type, gconstpointer target) MONO_LLVM_INTERNAL;
2095 void      mono_add_patch_info_rel           (MonoCompile *cfg, int ip, MonoJumpInfoType type, gconstpointer target, int relocation) MONO_LLVM_INTERNAL;
2096 void      mono_remove_patch_info            (MonoCompile *cfg, int ip) MONO_INTERNAL;
2097 MonoJumpInfo* mono_patch_info_dup_mp        (MonoMemPool *mp, MonoJumpInfo *patch_info) MONO_INTERNAL;
2098 guint     mono_patch_info_hash (gconstpointer data) MONO_INTERNAL;
2099 gint      mono_patch_info_equal (gconstpointer ka, gconstpointer kb) MONO_INTERNAL;
2100 MonoJumpInfo *mono_patch_info_list_prepend  (MonoJumpInfo *list, int ip, MonoJumpInfoType type, gconstpointer target) MONO_INTERNAL;
2101 gpointer  mono_resolve_patch_target         (MonoMethod *method, MonoDomain *domain, guint8 *code, MonoJumpInfo *patch_info, gboolean run_cctors) MONO_LLVM_INTERNAL;
2102 gpointer  mono_jit_find_compiled_method_with_jit_info (MonoDomain *domain, MonoMethod *method, MonoJitInfo **ji) MONO_INTERNAL;
2103 gpointer  mono_jit_find_compiled_method     (MonoDomain *domain, MonoMethod *method) MONO_INTERNAL;
2104 gpointer  mono_jit_compile_method           (MonoMethod *method) MONO_INTERNAL;
2105 MonoLMF * mono_get_lmf                      (void) MONO_INTERNAL;
2106 MonoLMF** mono_get_lmf_addr                 (void) MONO_INTERNAL;
2107 void      mono_set_lmf                      (MonoLMF *lmf) MONO_INTERNAL;
2108 MonoJitTlsData* mono_get_jit_tls            (void) MONO_INTERNAL;
2109 MONO_API MonoDomain *mono_jit_thread_attach          (MonoDomain *domain);
2110 MONO_API void      mono_jit_set_domain               (MonoDomain *domain);
2111 gint32    mono_get_jit_tls_offset           (void) MONO_INTERNAL;
2112 gint32    mono_get_lmf_tls_offset           (void) MONO_INTERNAL;
2113 gint32    mono_get_lmf_addr_tls_offset      (void) MONO_INTERNAL;
2114 int       mini_get_tls_offset               (MonoTlsKey key) MONO_INTERNAL;
2115 gboolean  mini_tls_get_supported            (MonoCompile *cfg, MonoTlsKey key) MONO_INTERNAL;
2116 MonoInst* mono_create_tls_get               (MonoCompile *cfg, MonoTlsKey key) MONO_INTERNAL;
2117 MonoInst* mono_get_jit_tls_intrinsic        (MonoCompile *cfg) MONO_INTERNAL;
2118 MonoInst* mono_get_domain_intrinsic         (MonoCompile* cfg) MONO_INTERNAL;
2119 MonoInst* mono_get_thread_intrinsic         (MonoCompile* cfg) MONO_INTERNAL;
2120 MonoInst* mono_get_lmf_intrinsic            (MonoCompile* cfg) MONO_INTERNAL;
2121 MonoInst* mono_get_lmf_addr_intrinsic       (MonoCompile* cfg) MONO_INTERNAL;
2122 GList    *mono_varlist_insert_sorted        (MonoCompile *cfg, GList *list, MonoMethodVar *mv, int sort_type) MONO_INTERNAL;
2123 GList    *mono_varlist_sort                 (MonoCompile *cfg, GList *list, int sort_type) MONO_INTERNAL;
2124 void      mono_analyze_liveness             (MonoCompile *cfg) MONO_INTERNAL;
2125 void      mono_analyze_liveness_gc          (MonoCompile *cfg) MONO_INTERNAL;
2126 void      mono_linear_scan                  (MonoCompile *cfg, GList *vars, GList *regs, regmask_t *used_mask) MONO_INTERNAL;
2127 void      mono_global_regalloc              (MonoCompile *cfg) MONO_INTERNAL;
2128 void      mono_create_jump_table            (MonoCompile *cfg, MonoInst *label, MonoBasicBlock **bbs, int num_blocks) MONO_INTERNAL;
2129 int       mono_compile_assembly             (MonoAssembly *ass, guint32 opts, const char *aot_options) MONO_INTERNAL;
2130 MonoCompile *mini_method_compile            (MonoMethod *method, guint32 opts, MonoDomain *domain, JitFlags flags, int parts) MONO_INTERNAL;
2131 void      mono_destroy_compile              (MonoCompile *cfg) MONO_INTERNAL;
2132 MonoJitICallInfo *mono_find_jit_opcode_emulation (int opcode) MONO_INTERNAL;
2133 void      mono_print_ins_index (int i, MonoInst *ins) MONO_INTERNAL;
2134 void      mono_print_ins (MonoInst *ins) MONO_INTERNAL;
2135 gboolean  mini_assembly_can_skip_verification (MonoDomain *domain, MonoMethod *method) MONO_INTERNAL;
2136 gboolean mono_compile_is_broken (MonoCompile *cfg, MonoMethod *method, gboolean fail_compile) MONO_INTERNAL;
2137 MonoInst *mono_get_got_var (MonoCompile *cfg) MONO_INTERNAL;
2138 void      mono_add_seq_point (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins, int native_offset) MONO_INTERNAL;
2139 void      mono_add_var_location (MonoCompile *cfg, MonoInst *var, gboolean is_reg, int reg, int offset, int from, int to) MONO_INTERNAL;
2140 MonoInst* mono_emit_jit_icall (MonoCompile *cfg, gconstpointer func, MonoInst **args) MONO_INTERNAL;
2141 MonoInst* mono_emit_method_call (MonoCompile *cfg, MonoMethod *method, MonoInst **args, MonoInst *this) MONO_INTERNAL;
2142 void      mono_create_helper_signatures (void) MONO_INTERNAL;
2143
2144 gboolean  mini_class_is_system_array (MonoClass *klass) MONO_INTERNAL;
2145 MonoMethodSignature *mono_get_element_address_signature (int arity) MONO_INTERNAL;
2146 MonoJitICallInfo    *mono_get_element_address_icall (int rank) MONO_INTERNAL;
2147 MonoJitICallInfo    *mono_get_array_new_va_icall (int rank) MONO_INTERNAL;
2148
2149 void      mono_linterval_add_range          (MonoCompile *cfg, MonoLiveInterval *interval, int from, int to) MONO_INTERNAL;
2150 void      mono_linterval_print              (MonoLiveInterval *interval) MONO_INTERNAL;
2151 void      mono_linterval_print_nl (MonoLiveInterval *interval) MONO_INTERNAL;
2152 gboolean  mono_linterval_covers             (MonoLiveInterval *interval, int pos) MONO_INTERNAL;
2153 gint32    mono_linterval_get_intersect_pos  (MonoLiveInterval *i1, MonoLiveInterval *i2) MONO_INTERNAL;
2154 void      mono_linterval_split              (MonoCompile *cfg, MonoLiveInterval *interval, MonoLiveInterval **i1, MonoLiveInterval **i2, int pos) MONO_INTERNAL;
2155 void      mono_liveness_handle_exception_clauses (MonoCompile *cfg) MONO_INTERNAL;
2156
2157 /* Native Client functions */
2158 gpointer mono_realloc_native_code(MonoCompile *cfg);
2159 #ifdef __native_client_codegen__
2160 void mono_nacl_align_inst(guint8 **pcode, int instlen);
2161 void mono_nacl_align_call(guint8 **start, guint8 **pcode);
2162 guint8 *mono_nacl_pad_call(guint8 *code, guint8 ilength);
2163 guint8 *mono_nacl_align(guint8 *code);
2164 void mono_nacl_fix_patches(const guint8 *code, MonoJumpInfo *ji);
2165 /* Defined for each arch */
2166 guint8 *mono_arch_nacl_pad(guint8 *code, int pad);
2167 guint8 *mono_arch_nacl_skip_nops(guint8 *code);
2168
2169 #if defined(TARGET_X86)
2170 #define kNaClAlignment kNaClAlignmentX86
2171 #define kNaClAlignmentMask kNaClAlignmentMaskX86
2172 #elif defined(TARGET_AMD64)
2173 #define kNaClAlignment kNaClAlignmentAMD64
2174 #define kNaClAlignmentMask kNaClAlignmentMaskAMD64
2175 #elif defined(TARGET_ARM)
2176 #define kNaClAlignment kNaClAlignmentARM
2177 #define kNaClAlignmentMask kNaClAlignmentMaskARM
2178 #endif
2179
2180 #define NACL_BUNDLE_ALIGN_UP(p) ((((p)+kNaClAlignmentMask)) & ~kNaClAlignmentMask)
2181 #endif
2182
2183 #if defined(__native_client__) || defined(__native_client_codegen__)
2184 extern volatile int __nacl_thread_suspension_needed;
2185 void __nacl_suspend_thread_if_needed(void);
2186 void mono_nacl_gc(void);
2187 #endif
2188
2189 #if defined(__native_client_codegen__) || defined(__native_client__)
2190 #define NACL_SIZE(a, b) (b)
2191 #else
2192 #define NACL_SIZE(a, b) (a)
2193 #endif
2194
2195 static inline MonoMethod*
2196 jinfo_get_method (MonoJitInfo *ji)
2197 {
2198         return mono_jit_info_get_method (ji);
2199 }
2200
2201 /* AOT */
2202 void      mono_aot_init                     (void) MONO_INTERNAL;
2203 void      mono_aot_cleanup                  (void) MONO_INTERNAL;
2204 gpointer  mono_aot_get_method               (MonoDomain *domain,
2205                                                                                          MonoMethod *method) MONO_INTERNAL;
2206 gpointer  mono_aot_get_method_from_token    (MonoDomain *domain, MonoImage *image, guint32 token) MONO_INTERNAL;
2207 gboolean  mono_aot_is_got_entry             (guint8 *code, guint8 *addr) MONO_INTERNAL;
2208 guint8*   mono_aot_get_plt_entry            (guint8 *code) MONO_INTERNAL;
2209 guint32   mono_aot_get_plt_info_offset      (mgreg_t *regs, guint8 *code) MONO_INTERNAL;
2210 gboolean  mono_aot_get_cached_class_info    (MonoClass *klass, MonoCachedClassInfo *res) MONO_INTERNAL;
2211 gboolean  mono_aot_get_class_from_name      (MonoImage *image, const char *name_space, const char *name, MonoClass **klass) MONO_INTERNAL;
2212 MonoJitInfo* mono_aot_find_jit_info         (MonoDomain *domain, MonoImage *image, gpointer addr) MONO_INTERNAL;
2213 gpointer mono_aot_plt_resolve               (gpointer aot_module, guint32 plt_info_offset, guint8 *code) MONO_INTERNAL;
2214 void     mono_aot_patch_plt_entry           (guint8 *code, guint8 *plt_entry, gpointer *got, mgreg_t *regs, guint8 *addr) MONO_INTERNAL;
2215 gpointer mono_aot_get_method_from_vt_slot   (MonoDomain *domain, MonoVTable *vtable, int slot) MONO_INTERNAL;
2216 gpointer mono_aot_create_specific_trampoline   (MonoImage *image, gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len) MONO_INTERNAL;
2217 gpointer mono_aot_get_trampoline            (const char *name) MONO_INTERNAL;
2218 gpointer mono_aot_get_trampoline_full       (const char *name, MonoTrampInfo **out_tinfo) MONO_INTERNAL;
2219 gpointer mono_aot_get_unbox_trampoline      (MonoMethod *method) MONO_INTERNAL;
2220 gpointer mono_aot_get_lazy_fetch_trampoline (guint32 slot) MONO_INTERNAL;
2221 gpointer mono_aot_get_static_rgctx_trampoline (gpointer ctx, gpointer addr) MONO_INTERNAL;
2222 gpointer mono_aot_get_imt_thunk             (MonoVTable *vtable, MonoDomain *domain, MonoIMTCheckItem **imt_entries, int count, gpointer fail_tramp) MONO_INTERNAL;
2223 gpointer mono_aot_get_gsharedvt_arg_trampoline(gpointer arg, gpointer addr) MONO_INTERNAL;
2224 guint8*  mono_aot_get_unwind_info           (MonoJitInfo *ji, guint32 *unwind_info_len) MONO_INTERNAL;
2225 guint32  mono_aot_method_hash               (MonoMethod *method) MONO_INTERNAL;
2226 MonoMethod* mono_aot_get_array_helper_from_wrapper (MonoMethod *method) MONO_INTERNAL;
2227 guint32  mono_aot_get_got_offset            (MonoJumpInfo *ji) MONO_LLVM_INTERNAL;
2228 char*    mono_aot_get_method_name           (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2229 gboolean mono_aot_is_direct_callable        (MonoJumpInfo *patch_info) MONO_LLVM_INTERNAL;
2230 void     mono_aot_mark_unused_llvm_plt_entry(MonoJumpInfo *patch_info) MONO_LLVM_INTERNAL;
2231 char*    mono_aot_get_plt_symbol            (MonoJumpInfoType type, gconstpointer data) MONO_LLVM_INTERNAL;
2232 int      mono_aot_get_method_index          (MonoMethod *method) MONO_LLVM_INTERNAL;
2233 MonoJumpInfo* mono_aot_patch_info_dup       (MonoJumpInfo* ji) MONO_LLVM_INTERNAL;
2234 void     mono_aot_set_make_unreadable       (gboolean unreadable) MONO_INTERNAL;
2235 gboolean mono_aot_is_pagefault              (void *ptr) MONO_INTERNAL;
2236 void     mono_aot_handle_pagefault          (void *ptr) MONO_INTERNAL;
2237 void     mono_aot_register_jit_icall        (const char *name, gpointer addr) MONO_INTERNAL;
2238 void*    mono_aot_readonly_field_override   (MonoClassField *field) MONO_INTERNAL;
2239
2240 /* This is an exported function */
2241 MONO_API void     mono_aot_register_globals          (gpointer *globals);
2242 /* This too */
2243 MONO_API void     mono_aot_register_module           (gpointer *aot_info);
2244
2245 void     mono_xdebug_init                   (const char *xdebug_opts) MONO_INTERNAL;
2246 void     mono_save_xdebug_info              (MonoCompile *cfg) MONO_INTERNAL;
2247 void     mono_save_trampoline_xdebug_info   (MonoTrampInfo *info) MONO_INTERNAL;
2248 /* This is an exported function */
2249 void     mono_xdebug_flush                  (void);
2250
2251 /* LLVM backend */
2252 void     mono_llvm_init                     (void) MONO_LLVM_INTERNAL;
2253 void     mono_llvm_cleanup                  (void) MONO_LLVM_INTERNAL;
2254 void     mono_llvm_emit_method              (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2255 void     mono_llvm_emit_call                (MonoCompile *cfg, MonoCallInst *call) MONO_LLVM_INTERNAL;
2256 void     mono_llvm_create_aot_module        (const char *got_symbol, gboolean external_symbols, gboolean emit_dwarf) MONO_LLVM_INTERNAL;
2257 void     mono_llvm_emit_aot_module          (const char *filename, const char *cu_name) MONO_LLVM_INTERNAL;
2258 void     mono_llvm_check_method_supported   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2259 void     mono_llvm_free_domain_info         (MonoDomain *domain) MONO_LLVM_INTERNAL;
2260
2261 gboolean mini_llvm_init                     (void);
2262
2263 gboolean  mono_method_blittable             (MonoMethod *method) MONO_INTERNAL;
2264 gboolean  mono_method_same_domain           (MonoJitInfo *caller, MonoJitInfo *callee) MONO_INTERNAL;
2265
2266 void      mono_register_opcode_emulation    (int opcode, const char* name, const char *sigstr, gpointer func, gboolean no_throw) MONO_INTERNAL;
2267 void      mono_draw_graph                   (MonoCompile *cfg, MonoGraphOptions draw_options) MONO_INTERNAL;
2268 void      mono_add_ins_to_end               (MonoBasicBlock *bb, MonoInst *inst) MONO_INTERNAL;
2269 gpointer  mono_create_ftnptr                (MonoDomain *domain, gpointer addr) MONO_INTERNAL;
2270
2271 MONO_API void      mono_replace_ins                  (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins, MonoInst **prev, MonoBasicBlock *first_bb, MonoBasicBlock *last_bb);
2272
2273 int               mono_find_method_opcode      (MonoMethod *method) MONO_INTERNAL;
2274 MonoJitICallInfo *mono_register_jit_icall      (gconstpointer func, const char *name, MonoMethodSignature *sig, gboolean is_save) MONO_INTERNAL;
2275 gconstpointer     mono_icall_get_wrapper       (MonoJitICallInfo* callinfo) MONO_LLVM_INTERNAL;
2276
2277 void              mono_trampolines_init (void) MONO_INTERNAL;
2278 void              mono_trampolines_cleanup (void) MONO_INTERNAL;
2279 guint8 *          mono_get_trampoline_code (MonoTrampolineType tramp_type) MONO_INTERNAL;
2280 gpointer          mono_create_specific_trampoline (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len) MONO_INTERNAL;
2281 gpointer          mono_create_jump_trampoline (MonoDomain *domain,
2282                                                                                            MonoMethod *method,
2283                                                                                            gboolean add_sync_wrapper) MONO_INTERNAL;
2284 gpointer          mono_create_class_init_trampoline (MonoVTable *vtable) MONO_INTERNAL;
2285 gpointer          mono_create_generic_class_init_trampoline (void) MONO_INTERNAL;
2286 gpointer          mono_create_jit_trampoline (MonoMethod *method) MONO_INTERNAL;
2287 gpointer          mono_create_jit_trampoline_from_token (MonoImage *image, guint32 token) MONO_INTERNAL;
2288 gpointer          mono_create_jit_trampoline_in_domain (MonoDomain *domain, MonoMethod *method) MONO_LLVM_INTERNAL;
2289 gpointer          mono_create_delegate_trampoline (MonoDomain *domain, MonoClass *klass) MONO_INTERNAL;
2290 MonoDelegateTrampInfo* mono_create_delegate_trampoline_info (MonoDomain *domain, MonoClass *klass, MonoMethod *method) MONO_INTERNAL;
2291 gpointer          mono_create_delegate_virtual_trampoline (MonoDomain *domain, MonoClass *klass, MonoMethod *method) MONO_INTERNAL;
2292 gpointer          mono_create_rgctx_lazy_fetch_trampoline (guint32 offset) MONO_INTERNAL;
2293 gpointer          mono_create_monitor_enter_trampoline (void) MONO_INTERNAL;
2294 gpointer          mono_create_monitor_enter_v4_trampoline (void) MONO_INTERNAL;
2295 gpointer          mono_create_monitor_exit_trampoline (void) MONO_INTERNAL;
2296 gpointer          mono_create_static_rgctx_trampoline (MonoMethod *m, gpointer addr) MONO_INTERNAL;
2297 gpointer          mono_create_llvm_imt_trampoline (MonoDomain *domain, MonoMethod *m, int vt_offset) MONO_LLVM_INTERNAL;
2298 MonoVTable*       mono_find_class_init_trampoline_by_addr (gconstpointer addr) MONO_INTERNAL;
2299 guint32           mono_find_rgctx_lazy_fetch_trampoline_by_addr (gconstpointer addr) MONO_INTERNAL;
2300 gpointer          mono_magic_trampoline (mgreg_t *regs, guint8 *code, gpointer arg, guint8* tramp) MONO_INTERNAL;
2301 #ifndef DISABLE_REMOTING
2302 gpointer          mono_generic_virtual_remoting_trampoline (mgreg_t *regs, guint8 *code, MonoMethod *m, guint8 *tramp) MONO_INTERNAL;
2303 #endif
2304 gpointer          mono_delegate_trampoline (mgreg_t *regs, guint8 *code, gpointer *tramp_data, guint8* tramp) MONO_INTERNAL;
2305 gpointer          mono_aot_trampoline (mgreg_t *regs, guint8 *code, guint8 *token_info,
2306                                                                            guint8* tramp) MONO_INTERNAL;
2307 gpointer          mono_aot_plt_trampoline (mgreg_t *regs, guint8 *code, guint8 *token_info,
2308                                                                                    guint8* tramp) MONO_INTERNAL;
2309 void              mono_class_init_trampoline (mgreg_t *regs, guint8 *code, MonoVTable *vtable, guint8 *tramp) MONO_INTERNAL;
2310 void              mono_generic_class_init_trampoline (mgreg_t *regs, guint8 *code, MonoVTable *vtable, guint8 *tramp) MONO_INTERNAL;
2311 void              mono_monitor_enter_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp) MONO_INTERNAL;
2312 void              mono_monitor_enter_v4_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp) MONO_INTERNAL;
2313 void              mono_monitor_exit_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp) MONO_INTERNAL;
2314 gconstpointer     mono_get_trampoline_func (MonoTrampolineType tramp_type);
2315 gpointer          mini_get_vtable_trampoline (int slot_index) MONO_INTERNAL;
2316 const char*       mono_get_generic_trampoline_simple_name (MonoTrampolineType tramp_type) MONO_INTERNAL;
2317 char*             mono_get_generic_trampoline_name (MonoTrampolineType tramp_type) MONO_INTERNAL;
2318 char*             mono_get_rgctx_fetch_trampoline_name (int slot) MONO_INTERNAL;
2319 gpointer          mini_get_nullified_class_init_trampoline (void) MONO_INTERNAL;
2320 gpointer          mini_add_method_trampoline (MonoMethod *orig_method, MonoMethod *m, gpointer compiled_method, gboolean add_static_rgctx_tramp, gboolean add_unbox_tramp) MONO_INTERNAL;
2321 gboolean          mini_jit_info_is_gsharedvt (MonoJitInfo *ji) MONO_INTERNAL;
2322
2323 gboolean          mono_running_on_valgrind (void) MONO_INTERNAL;
2324 void*             mono_global_codeman_reserve (int size) MONO_INTERNAL;
2325 void*             nacl_global_codeman_get_dest(void *data) MONO_INTERNAL;
2326 void              mono_global_codeman_commit(void *data, int size, int newsize) MONO_INTERNAL;
2327 void              nacl_global_codeman_validate(guint8 **buf_base, int buf_size, guint8 **code_end) MONO_INTERNAL;
2328 const char       *mono_regname_full (int reg, int bank) MONO_INTERNAL;
2329 gint32*           mono_allocate_stack_slots (MonoCompile *cfg, gboolean backward, guint32 *stack_size, guint32 *stack_align) MONO_INTERNAL;
2330 void              mono_local_regalloc (MonoCompile *cfg, MonoBasicBlock *bb) MONO_INTERNAL;
2331 MonoInst         *mono_branch_optimize_exception_target (MonoCompile *cfg, MonoBasicBlock *bb, const char * exname) MONO_INTERNAL;
2332 void              mono_remove_critical_edges (MonoCompile *cfg) MONO_INTERNAL;
2333 gboolean          mono_is_regsize_var (MonoType *t) MONO_INTERNAL;
2334 void              mini_emit_memcpy (MonoCompile *cfg, int destreg, int doffset, int srcreg, int soffset, int size, int align) MONO_INTERNAL;
2335 void              mini_emit_stobj (MonoCompile *cfg, MonoInst *dest, MonoInst *src, MonoClass *klass, gboolean native) MONO_INTERNAL;
2336 void              mini_emit_initobj (MonoCompile *cfg, MonoInst *dest, const guchar *ip, MonoClass *klass) MONO_INTERNAL;
2337 CompRelation      mono_opcode_to_cond (int opcode) MONO_LLVM_INTERNAL;
2338 CompType          mono_opcode_to_type (int opcode, int cmp_opcode) MONO_INTERNAL;
2339 CompRelation      mono_negate_cond (CompRelation cond) MONO_INTERNAL;
2340 int               mono_op_imm_to_op (int opcode) MONO_INTERNAL;
2341 void              mono_decompose_op_imm (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins) MONO_INTERNAL;
2342 void              mono_peephole_ins (MonoBasicBlock *bb, MonoInst *ins) MONO_INTERNAL;
2343 MonoUnwindOp     *mono_create_unwind_op (int when,
2344                                                                                  int tag, int reg,
2345                                                                                  int val) MONO_INTERNAL;
2346 void              mono_emit_unwind_op (MonoCompile *cfg, int when,
2347                                                                            int tag, int reg,
2348                                                                            int val) MONO_INTERNAL;
2349 MonoTrampInfo*    mono_tramp_info_create (const char *name, guint8 *code, guint32 code_size, MonoJumpInfo *ji, GSList *unwind_ops) MONO_INTERNAL;
2350 void              mono_tramp_info_free (MonoTrampInfo *info) MONO_INTERNAL;
2351 void              mono_tramp_info_register (MonoTrampInfo *info) MONO_INTERNAL;
2352 int               mini_exception_id_by_name (const char *name) MONO_INTERNAL;
2353
2354 int               mono_method_to_ir (MonoCompile *cfg, MonoMethod *method, MonoBasicBlock *start_bblock, MonoBasicBlock *end_bblock,
2355                                                                          MonoInst *return_var, MonoInst **inline_args,
2356                                                                          guint inline_offset, gboolean is_virtual_call) MONO_INTERNAL;
2357
2358 MonoInst         *mono_decompose_opcode (MonoCompile *cfg, MonoInst *ins) MONO_INTERNAL;
2359 void              mono_decompose_long_opts (MonoCompile *cfg) MONO_INTERNAL;
2360 void              mono_decompose_vtype_opts (MonoCompile *cfg) MONO_INTERNAL;
2361 void              mono_decompose_vtype_opts_llvm (MonoCompile *cfg) MONO_INTERNAL;
2362 void              mono_decompose_array_access_opts (MonoCompile *cfg) MONO_INTERNAL;
2363 void              mono_decompose_soft_float (MonoCompile *cfg) MONO_INTERNAL;
2364 void              mono_handle_global_vregs (MonoCompile *cfg) MONO_INTERNAL;
2365 void              mono_spill_global_vars (MonoCompile *cfg, gboolean *need_local_opts) MONO_INTERNAL;
2366 void              mono_if_conversion (MonoCompile *cfg) MONO_INTERNAL;
2367
2368 /* virtual function delegate */
2369 gpointer          mono_get_delegate_virtual_invoke_impl  (MonoMethodSignature *sig, MonoMethod *method) MONO_INTERNAL;
2370
2371 /* methods that must be provided by the arch-specific port */
2372 void      mono_arch_init                        (void) MONO_INTERNAL;
2373 void      mono_arch_finish_init                 (void) MONO_INTERNAL;
2374 void      mono_arch_cleanup                     (void) MONO_INTERNAL;
2375 void      mono_arch_cpu_init                    (void) MONO_INTERNAL;
2376 guint32   mono_arch_cpu_optimizations           (guint32 *exclude_mask) MONO_INTERNAL;
2377 void      mono_arch_instrument_mem_needs        (MonoMethod *method, int *stack, int *code) MONO_INTERNAL;
2378 void     *mono_arch_instrument_prolog           (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments) MONO_INTERNAL;
2379 void     *mono_arch_instrument_epilog           (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments) MONO_INTERNAL;
2380 void     *mono_arch_instrument_epilog_full     (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments, gboolean preserve_argument_registers) MONO_INTERNAL;
2381 void      mono_codegen                          (MonoCompile *cfg) MONO_INTERNAL;
2382 void      mono_call_inst_add_outarg_reg         (MonoCompile *cfg, MonoCallInst *call, int vreg, int hreg, int bank) MONO_LLVM_INTERNAL;
2383 void      mono_call_inst_add_outarg_vt          (MonoCompile *cfg, MonoCallInst *call, MonoInst *outarg_vt) MONO_INTERNAL;
2384 const char *mono_arch_regname                   (int reg) MONO_INTERNAL;
2385 const char *mono_arch_fregname                  (int reg) MONO_INTERNAL;
2386 void      mono_arch_exceptions_init             (void) MONO_INTERNAL;
2387 guchar*   mono_arch_create_generic_trampoline   (MonoTrampolineType tramp_type, MonoTrampInfo **info, gboolean aot) MONO_INTERNAL;
2388 gpointer  mono_arch_create_rgctx_lazy_fetch_trampoline (guint32 slot, MonoTrampInfo **info, gboolean aot) MONO_INTERNAL;
2389 gpointer  mono_arch_create_general_rgctx_lazy_fetch_trampoline (MonoTrampInfo **info, gboolean aot) MONO_INTERNAL;
2390 gpointer  mono_arch_create_generic_class_init_trampoline (MonoTrampInfo **info, gboolean aot) MONO_INTERNAL;
2391 gpointer  mono_arch_get_nullified_class_init_trampoline (MonoTrampInfo **info) MONO_INTERNAL;
2392 gpointer  mono_arch_create_monitor_enter_trampoline (MonoTrampInfo **info, gboolean is_v4, gboolean aot) MONO_INTERNAL;
2393 gpointer  mono_arch_create_monitor_exit_trampoline (MonoTrampInfo **info, gboolean aot) MONO_INTERNAL;
2394 guint8   *mono_arch_create_llvm_native_thunk     (MonoDomain *domain, guint8* addr) MONO_LLVM_INTERNAL;
2395 GList    *mono_arch_get_allocatable_int_vars    (MonoCompile *cfg) MONO_INTERNAL;
2396 GList    *mono_arch_get_global_int_regs         (MonoCompile *cfg) MONO_INTERNAL;
2397 GList    *mono_arch_get_global_fp_regs          (MonoCompile *cfg) MONO_INTERNAL;
2398 GList    *mono_arch_get_iregs_clobbered_by_call (MonoCallInst *call) MONO_INTERNAL;
2399 GList    *mono_arch_get_fregs_clobbered_by_call (MonoCallInst *call) MONO_INTERNAL;
2400 guint32   mono_arch_regalloc_cost               (MonoCompile *cfg, MonoMethodVar *vmv) MONO_INTERNAL;
2401 void      mono_arch_patch_code                  (MonoMethod *method, MonoDomain *domain, guint8 *code, MonoJumpInfo *ji, MonoCodeManager *dyn_code_mp, gboolean run_cctors) MONO_INTERNAL;
2402 void      mono_arch_flush_icache                (guint8 *code, gint size) MONO_INTERNAL;
2403 int       mono_arch_max_epilog_size             (MonoCompile *cfg) MONO_INTERNAL;
2404 guint8   *mono_arch_emit_prolog                 (MonoCompile *cfg) MONO_INTERNAL;
2405 void      mono_arch_emit_epilog                 (MonoCompile *cfg) MONO_INTERNAL;
2406 void      mono_arch_emit_exceptions             (MonoCompile *cfg) MONO_INTERNAL;
2407 void      mono_arch_lowering_pass               (MonoCompile *cfg, MonoBasicBlock *bb) MONO_INTERNAL;
2408 void      mono_arch_peephole_pass_1             (MonoCompile *cfg, MonoBasicBlock *bb) MONO_INTERNAL;
2409 void      mono_arch_peephole_pass_2             (MonoCompile *cfg, MonoBasicBlock *bb) MONO_INTERNAL;
2410 void      mono_arch_output_basic_block          (MonoCompile *cfg, MonoBasicBlock *bb) MONO_INTERNAL;
2411 void      mono_arch_free_jit_tls_data           (MonoJitTlsData *tls) MONO_INTERNAL;
2412 void      mono_arch_fill_argument_info          (MonoCompile *cfg) MONO_INTERNAL;
2413 void      mono_arch_allocate_vars               (MonoCompile *m) MONO_INTERNAL;
2414 int       mono_arch_get_argument_info           (MonoGenericSharingContext *gsctx, MonoMethodSignature *csig, int param_count, MonoJitArgumentInfo *arg_info) MONO_INTERNAL;
2415 gboolean  mono_arch_print_tree                  (MonoInst *tree, int arity) MONO_INTERNAL;
2416 void      mono_arch_emit_call                   (MonoCompile *cfg, MonoCallInst *call) MONO_INTERNAL;
2417 void      mono_arch_emit_outarg_vt              (MonoCompile *cfg, MonoInst *ins, MonoInst *src) MONO_INTERNAL;
2418 void      mono_arch_emit_setret                 (MonoCompile *cfg, MonoMethod *method, MonoInst *val) MONO_INTERNAL;
2419 MonoDynCallInfo *mono_arch_dyn_call_prepare     (MonoMethodSignature *sig) MONO_INTERNAL;
2420 void      mono_arch_dyn_call_free               (MonoDynCallInfo *info) MONO_INTERNAL;
2421 void      mono_arch_start_dyn_call              (MonoDynCallInfo *info, gpointer **args, guint8 *ret, guint8 *buf, int buf_len) MONO_INTERNAL;
2422 void      mono_arch_finish_dyn_call             (MonoDynCallInfo *info, guint8 *buf) MONO_INTERNAL;
2423 MonoInst *mono_arch_emit_inst_for_method        (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args) MONO_INTERNAL;
2424 void      mono_arch_decompose_opts              (MonoCompile *cfg, MonoInst *ins) MONO_INTERNAL;
2425 void      mono_arch_decompose_long_opts         (MonoCompile *cfg, MonoInst *ins) MONO_INTERNAL;
2426 GSList*   mono_arch_get_delegate_invoke_impls   (void) MONO_INTERNAL;
2427 LLVMCallInfo* mono_arch_get_llvm_call_info      (MonoCompile *cfg, MonoMethodSignature *sig) MONO_LLVM_INTERNAL;
2428 guint8*   mono_arch_emit_load_got_addr          (guint8 *start, guint8 *code, MonoCompile *cfg, MonoJumpInfo **ji) MONO_INTERNAL;
2429 guint8*   mono_arch_emit_load_aotconst          (guint8 *start, guint8 *code, MonoJumpInfo **ji, int tramp_type, gconstpointer target) MONO_INTERNAL;
2430 GSList*   mono_arch_get_cie_program             (void) MONO_INTERNAL;
2431 void      mono_arch_set_target                  (char *mtriple) MONO_INTERNAL;
2432 gboolean  mono_arch_gsharedvt_sig_supported     (MonoMethodSignature *sig) MONO_INTERNAL;
2433 gpointer  mono_arch_get_gsharedvt_trampoline    (MonoTrampInfo **info, gboolean aot) MONO_INTERNAL;
2434 gpointer  mono_arch_get_gsharedvt_call_info     (gpointer addr, MonoMethodSignature *normal_sig, MonoMethodSignature *gsharedvt_sig, MonoGenericSharingContext *gsctx, gboolean gsharedvt_in, gint32 vcall_offset, gboolean calli) MONO_INTERNAL;
2435 gboolean  mono_arch_opcode_needs_emulation      (MonoCompile *cfg, int opcode) MONO_INTERNAL;
2436 gboolean  mono_arch_tail_call_supported         (MonoCompile *cfg, MonoMethodSignature *caller_sig, MonoMethodSignature *callee_sig) MONO_INTERNAL;
2437 int       mono_arch_translate_tls_offset        (int offset) MONO_INTERNAL;
2438 gboolean  mono_arch_opcode_supported            (int opcode) MONO_INTERNAL;
2439
2440 #ifdef MONO_ARCH_SOFT_FLOAT_FALLBACK
2441 gboolean  mono_arch_is_soft_float               (void) MONO_INTERNAL;
2442 #else
2443 static inline MONO_ALWAYS_INLINE gboolean
2444 mono_arch_is_soft_float (void)
2445 {
2446         return FALSE;
2447 }
2448 #endif
2449
2450 /* Soft Debug support */
2451 #ifdef MONO_ARCH_SOFT_DEBUG_SUPPORTED
2452 void      mono_arch_set_breakpoint              (MonoJitInfo *ji, guint8 *ip) MONO_INTERNAL;
2453 void      mono_arch_clear_breakpoint            (MonoJitInfo *ji, guint8 *ip) MONO_INTERNAL;
2454 void      mono_arch_start_single_stepping       (void) MONO_INTERNAL;
2455 void      mono_arch_stop_single_stepping        (void) MONO_INTERNAL;
2456 gboolean  mono_arch_is_single_step_event        (void *info, void *sigctx) MONO_INTERNAL;
2457 gboolean  mono_arch_is_breakpoint_event         (void *info, void *sigctx) MONO_INTERNAL;
2458 void     mono_arch_skip_breakpoint              (MonoContext *ctx, MonoJitInfo *ji) MONO_INTERNAL;
2459 void     mono_arch_skip_single_step             (MonoContext *ctx) MONO_INTERNAL;
2460 gpointer mono_arch_get_seq_point_info           (MonoDomain *domain, guint8 *code) MONO_INTERNAL;
2461 void     mono_arch_setup_resume_sighandler_ctx  (MonoContext *ctx, gpointer func) MONO_INTERNAL;
2462 void     mono_arch_init_lmf_ext                 (MonoLMFExt *ext, gpointer prev_lmf) MONO_INTERNAL;
2463 #endif
2464
2465 #ifdef USE_JUMP_TABLES
2466 void
2467 mono_jumptable_init  (void) MONO_INTERNAL;
2468 gpointer*
2469 mono_jumptable_add_entry (void) MONO_INTERNAL;
2470 gpointer*
2471 mono_jumptable_add_entries (guint32 entries) MONO_INTERNAL;
2472 void
2473 mono_jumptable_cleanup  (void) MONO_INTERNAL;
2474 gpointer*
2475 mono_arch_jumptable_entry_from_code (guint8 *code);
2476 gpointer*
2477 mono_jumptable_get_entry (guint8 *code);
2478 #endif
2479
2480 gboolean
2481 mono_arch_find_jit_info (MonoDomain *domain, MonoJitTlsData *jit_tls,
2482                                                  MonoJitInfo *ji, MonoContext *ctx,
2483                                                  MonoContext *new_ctx, MonoLMF **lmf,
2484                                                  mgreg_t **save_locations,
2485                                                  StackFrameInfo *frame_info) MONO_INTERNAL;
2486 gpointer  mono_arch_get_throw_exception_by_name (void) MONO_INTERNAL;
2487 gpointer mono_arch_get_call_filter              (MonoTrampInfo **info, gboolean aot) MONO_INTERNAL;
2488 gpointer mono_arch_get_restore_context          (MonoTrampInfo **info, gboolean aot) MONO_INTERNAL;
2489 gpointer  mono_arch_get_throw_exception         (MonoTrampInfo **info, gboolean aot) MONO_INTERNAL;
2490 gpointer  mono_arch_get_rethrow_exception       (MonoTrampInfo **info, gboolean aot) MONO_INTERNAL;
2491 gpointer  mono_arch_get_throw_corlib_exception  (MonoTrampInfo **info, gboolean aot) MONO_INTERNAL;
2492 gpointer  mono_arch_get_throw_pending_exception (MonoTrampInfo **info, gboolean aot) MONO_INTERNAL;
2493 gboolean mono_arch_handle_exception             (void *sigctx, gpointer obj) MONO_INTERNAL;
2494 void     mono_arch_handle_altstack_exception    (void *sigctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo, gpointer fault_addr, gboolean stack_ovf) MONO_INTERNAL;
2495 gboolean mono_handle_soft_stack_ovf             (MonoJitTlsData *jit_tls, MonoJitInfo *ji, void *ctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo, guint8* fault_addr) MONO_INTERNAL;
2496 void     mono_handle_hard_stack_ovf             (MonoJitTlsData *jit_tls, MonoJitInfo *ji, void *ctx, guint8* fault_addr) MONO_INTERNAL;
2497 gpointer mono_arch_ip_from_context              (void *sigctx) MONO_INTERNAL;
2498 mgreg_t mono_arch_context_get_int_reg               (MonoContext *ctx, int reg) MONO_INTERNAL;
2499 void     mono_arch_context_set_int_reg              (MonoContext *ctx, int reg, mgreg_t val) MONO_INTERNAL;
2500 void     mono_arch_flush_register_windows       (void) MONO_INTERNAL;
2501 gboolean mono_arch_is_inst_imm                  (gint64 imm) MONO_INTERNAL;
2502 gboolean mono_arch_is_int_overflow              (void *sigctx, void *info) MONO_INTERNAL;
2503 void     mono_arch_invalidate_method            (MonoJitInfo *ji, void *func, gpointer func_arg) MONO_INTERNAL;
2504 guint32  mono_arch_get_patch_offset             (guint8 *code) MONO_INTERNAL;
2505 gpointer*mono_arch_get_delegate_method_ptr_addr (guint8* code, mgreg_t *regs) MONO_INTERNAL;
2506 void     mono_arch_create_vars                  (MonoCompile *cfg) MONO_INTERNAL;
2507 void     mono_arch_save_unwind_info             (MonoCompile *cfg) MONO_INTERNAL;
2508 void     mono_arch_register_lowlevel_calls      (void) MONO_INTERNAL;
2509 gpointer mono_arch_get_unbox_trampoline         (MonoMethod *m, gpointer addr) MONO_INTERNAL;
2510 gpointer mono_arch_get_static_rgctx_trampoline  (MonoMethod *m, MonoMethodRuntimeGenericContext *mrgctx, gpointer addr) MONO_INTERNAL;
2511 gpointer  mono_arch_get_llvm_imt_trampoline     (MonoDomain *domain, MonoMethod *method, int vt_offset) MONO_INTERNAL;
2512 gpointer mono_arch_get_gsharedvt_arg_trampoline (MonoDomain *domain, gpointer arg, gpointer addr) MONO_INTERNAL;
2513 void     mono_arch_patch_callsite               (guint8 *method_start, guint8 *code, guint8 *addr) MONO_INTERNAL;
2514 void     mono_arch_patch_plt_entry              (guint8 *code, gpointer *got, mgreg_t *regs, guint8 *addr) MONO_INTERNAL;
2515 void     mono_arch_nullify_class_init_trampoline(guint8 *code, mgreg_t *regs) MONO_INTERNAL;
2516 int      mono_arch_get_this_arg_reg             (guint8 *code) MONO_INTERNAL;
2517 gpointer mono_arch_get_this_arg_from_call       (mgreg_t *regs, guint8 *code) MONO_INTERNAL;
2518 gpointer mono_arch_get_delegate_invoke_impl     (MonoMethodSignature *sig, gboolean has_target) MONO_INTERNAL;
2519 gpointer mono_arch_get_delegate_virtual_invoke_impl (MonoMethodSignature *sig, MonoMethod *method, int offset, gboolean load_imt_reg) MONO_INTERNAL;
2520 gpointer mono_arch_create_specific_trampoline   (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len) MONO_INTERNAL;
2521 void        mono_arch_emit_imt_argument         (MonoCompile *cfg, MonoCallInst *call, MonoInst *imt_arg) MONO_INTERNAL;
2522 MonoMethod* mono_arch_find_imt_method           (mgreg_t *regs, guint8 *code) MONO_INTERNAL;
2523 MonoVTable* mono_arch_find_static_call_vtable   (mgreg_t *regs, guint8 *code) MONO_INTERNAL;
2524 gpointer    mono_arch_build_imt_thunk           (MonoVTable *vtable, MonoDomain *domain, MonoIMTCheckItem **imt_entries, int count, gpointer fail_tramp) MONO_INTERNAL;
2525 void    mono_arch_notify_pending_exc            (MonoThreadInfo *info) MONO_INTERNAL;
2526 guint8* mono_arch_get_call_target               (guint8 *code) MONO_INTERNAL;
2527 guint32 mono_arch_get_plt_info_offset           (guint8 *plt_entry, mgreg_t *regs, guint8 *code) MONO_INTERNAL;
2528 GSList *mono_arch_get_trampolines               (gboolean aot) MONO_INTERNAL;
2529
2530 /* Handle block guard */
2531 gpointer mono_arch_install_handler_block_guard (MonoJitInfo *ji, MonoJitExceptionInfo *clause, MonoContext *ctx, gpointer new_value) MONO_INTERNAL;
2532 gpointer mono_arch_create_handler_block_trampoline (MonoTrampInfo **info, gboolean aot) MONO_INTERNAL;
2533 gpointer mono_create_handler_block_trampoline (void) MONO_INTERNAL;
2534 gboolean mono_install_handler_block_guard (MonoThreadUnwindState *ctx) MONO_INTERNAL;
2535
2536 /*New interruption machinery */
2537 void
2538 mono_setup_async_callback (MonoContext *ctx, void (*async_cb)(void *fun), gpointer user_data) MONO_INTERNAL;
2539
2540 void
2541 mono_arch_setup_async_callback (MonoContext *ctx, void (*async_cb)(void *fun), gpointer user_data) MONO_INTERNAL;
2542
2543 gboolean
2544 mono_thread_state_init_from_handle (MonoThreadUnwindState *tctx, MonoThreadInfo *info) MONO_INTERNAL;
2545
2546
2547 /* Exception handling */
2548 typedef gboolean (*MonoJitStackWalk)            (StackFrameInfo *frame, MonoContext *ctx, gpointer data);
2549
2550 void     mono_exceptions_init                   (void) MONO_INTERNAL;
2551 gboolean mono_handle_exception                  (MonoContext *ctx, gpointer obj) MONO_INTERNAL;
2552 void     mono_handle_native_sigsegv             (int signal, void *sigctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo) MONO_INTERNAL;
2553 MONO_API void     mono_print_thread_dump                 (void *sigctx);
2554 MONO_API void     mono_print_thread_dump_from_ctx        (MonoContext *ctx);
2555 void     mono_walk_stack_with_ctx               (MonoJitStackWalk func, MonoContext *start_ctx, MonoUnwindOptions unwind_options, void *user_data) MONO_INTERNAL;
2556 void     mono_walk_stack_with_state             (MonoJitStackWalk func, MonoThreadUnwindState *state, MonoUnwindOptions unwind_options, void *user_data) MONO_INTERNAL;
2557 void     mono_walk_stack                        (MonoJitStackWalk func, MonoUnwindOptions options, void *user_data) MONO_INTERNAL;
2558 gboolean mono_thread_state_init_from_sigctx     (MonoThreadUnwindState *ctx, void *sigctx) MONO_INTERNAL;
2559 gboolean mono_thread_state_init_from_current    (MonoThreadUnwindState *ctx) MONO_INTERNAL;
2560 gboolean mono_thread_state_init_from_monoctx    (MonoThreadUnwindState *ctx, MonoContext *mctx) MONO_INTERNAL;
2561
2562 void     mono_setup_altstack                    (MonoJitTlsData *tls) MONO_INTERNAL;
2563 void     mono_free_altstack                     (MonoJitTlsData *tls) MONO_INTERNAL;
2564 gpointer mono_altstack_restore_prot             (mgreg_t *regs, guint8 *code, gpointer *tramp_data, guint8* tramp) MONO_INTERNAL;
2565 MonoJitInfo* mini_jit_info_table_find           (MonoDomain *domain, char *addr, MonoDomain **out_domain) MONO_INTERNAL;
2566 void     mono_resume_unwind                     (MonoContext *ctx) MONO_LLVM_INTERNAL;
2567
2568 MonoJitInfo * mono_find_jit_info                (MonoDomain *domain, MonoJitTlsData *jit_tls, MonoJitInfo *res, MonoJitInfo *prev_ji, MonoContext *ctx, MonoContext *new_ctx, char **trace, MonoLMF **lmf, int *native_offset, gboolean *managed) MONO_INTERNAL;
2569
2570 typedef gboolean (*MonoExceptionFrameWalk)      (MonoMethod *method, gpointer ip, size_t native_offset, gboolean managed, gpointer user_data);
2571 gboolean mono_exception_walk_trace              (MonoException *ex, MonoExceptionFrameWalk func, gpointer user_data);
2572 void mono_restore_context                       (MonoContext *ctx) MONO_INTERNAL;
2573 guint8* mono_jinfo_get_unwind_info              (MonoJitInfo *ji, guint32 *unwind_info_len) MONO_INTERNAL;
2574 int  mono_jinfo_get_epilog_size                 (MonoJitInfo *ji) MONO_INTERNAL;
2575
2576 gboolean
2577 mono_find_jit_info_ext (MonoDomain *domain, MonoJitTlsData *jit_tls,
2578                                                 MonoJitInfo *prev_ji, MonoContext *ctx,
2579                                                 MonoContext *new_ctx, char **trace, MonoLMF **lmf,
2580                                                 mgreg_t **save_locations,
2581                                                 StackFrameInfo *frame) MONO_INTERNAL;
2582
2583 gpointer mono_get_throw_exception               (void) MONO_INTERNAL;
2584 gpointer mono_get_rethrow_exception             (void) MONO_INTERNAL;
2585 gpointer mono_get_call_filter                   (void) MONO_INTERNAL;
2586 gpointer mono_get_restore_context               (void) MONO_INTERNAL;
2587 gpointer mono_get_throw_exception_by_name       (void) MONO_INTERNAL;
2588 gpointer mono_get_throw_corlib_exception        (void) MONO_INTERNAL;
2589
2590 MonoArray *ves_icall_get_trace                  (MonoException *exc, gint32 skip, MonoBoolean need_file_info) MONO_INTERNAL;
2591 MonoBoolean ves_icall_get_frame_info            (gint32 skip, MonoBoolean need_file_info,
2592                                                  MonoReflectionMethod **method,
2593                                                  gint32 *iloffset, gint32 *native_offset,
2594                                                  MonoString **file, gint32 *line, gint32 *column) MONO_INTERNAL;
2595 MonoString *ves_icall_System_Exception_get_trace (MonoException *exc) MONO_INTERNAL;
2596 void mono_set_cast_details                      (MonoClass *from, MonoClass *to) MONO_INTERNAL;
2597
2598 /* Installs a function which is called when the runtime encounters an unhandled exception.
2599  * This hook isn't expected to return.
2600  * If no hook has been installed, the runtime will print a message before aborting.
2601  */
2602 typedef void  (*MonoUnhandledExceptionFunc)         (MonoObject *exc, gpointer user_data);
2603 void          mono_install_unhandled_exception_hook (MonoUnhandledExceptionFunc func, gpointer user_data);
2604 void          mono_invoke_unhandled_exception_hook  (MonoObject *exc);
2605
2606 /* Dominator/SSA methods */
2607 void        mono_compile_dominator_info         (MonoCompile *cfg, int dom_flags) MONO_INTERNAL;
2608 void        mono_compute_natural_loops          (MonoCompile *cfg) MONO_INTERNAL;
2609 MonoBitSet* mono_compile_iterated_dfrontier     (MonoCompile *cfg, MonoBitSet *set) MONO_INTERNAL;
2610 void        mono_ssa_compute                    (MonoCompile *cfg) MONO_INTERNAL;
2611 void        mono_ssa_remove                     (MonoCompile *cfg) MONO_INTERNAL;
2612 void        mono_ssa_cprop                      (MonoCompile *cfg) MONO_INTERNAL;
2613 void        mono_ssa_deadce                     (MonoCompile *cfg) MONO_INTERNAL;
2614 void        mono_ssa_strength_reduction         (MonoCompile *cfg) MONO_INTERNAL;
2615 void        mono_free_loop_info                 (MonoCompile *cfg) MONO_INTERNAL;
2616 void        mono_ssa_loop_invariant_code_motion (MonoCompile *cfg) MONO_INTERNAL;
2617
2618 void        mono_ssa_compute2                   (MonoCompile *cfg);
2619 void        mono_ssa_remove2                    (MonoCompile *cfg);
2620 void        mono_ssa_cprop2                     (MonoCompile *cfg);
2621 void        mono_ssa_deadce2                    (MonoCompile *cfg);
2622
2623 /* debugging support */
2624 void      mono_debug_init_method                (MonoCompile *cfg, MonoBasicBlock *start_block,
2625                                                  guint32 breakpoint_id) MONO_INTERNAL;
2626 void      mono_debug_open_method                (MonoCompile *cfg) MONO_INTERNAL;
2627 void      mono_debug_close_method               (MonoCompile *cfg) MONO_INTERNAL;
2628 void      mono_debug_free_method                (MonoCompile *cfg) MONO_INTERNAL;
2629 void      mono_debug_open_block                 (MonoCompile *cfg, MonoBasicBlock *bb, guint32 address) MONO_INTERNAL;
2630 void      mono_debug_record_line_number         (MonoCompile *cfg, MonoInst *ins, guint32 address) MONO_INTERNAL;
2631 void      mono_debug_serialize_debug_info       (MonoCompile *cfg, guint8 **out_buf, guint32 *buf_len) MONO_INTERNAL;
2632 void      mono_debug_add_aot_method             (MonoDomain *domain,
2633                                                  MonoMethod *method, guint8 *code_start,
2634                                                  guint8 *debug_info, guint32 debug_info_len) MONO_INTERNAL;
2635 MONO_API void      mono_debug_print_vars                 (gpointer ip, gboolean only_arguments);
2636 MONO_API void      mono_debugger_run_finally             (MonoContext *start_ctx);
2637
2638 extern gssize mono_breakpoint_info_index [MONO_BREAKPOINT_ARRAY_SIZE];
2639
2640 MONO_API gboolean mono_breakpoint_clean_code (guint8 *method_start, guint8 *code, int offset, guint8 *buf, int size);
2641
2642 /* Tracing */
2643 MonoTraceSpec *mono_trace_parse_options         (const char *options) MONO_INTERNAL;
2644 void           mono_trace_set_assembly          (MonoAssembly *assembly) MONO_INTERNAL;
2645 gboolean       mono_trace_eval                  (MonoMethod *method) MONO_INTERNAL;
2646
2647 extern void
2648 mono_perform_abc_removal (MonoCompile *cfg) MONO_INTERNAL;
2649 extern void
2650 mono_perform_abc_removal (MonoCompile *cfg) MONO_INTERNAL;
2651 extern void
2652 mono_perform_ssapre (MonoCompile *cfg) MONO_INTERNAL;
2653 extern void
2654 mono_local_cprop (MonoCompile *cfg) MONO_INTERNAL;
2655 extern void
2656 mono_local_cprop (MonoCompile *cfg);
2657 extern void
2658 mono_local_deadce (MonoCompile *cfg);
2659 void
2660 mono_local_alias_analysis (MonoCompile *cfg) MONO_INTERNAL;
2661
2662 /* CAS - stack walk */
2663 MonoSecurityFrame* ves_icall_System_Security_SecurityFrame_GetSecurityFrame (gint32 skip) MONO_INTERNAL;
2664 MonoArray* ves_icall_System_Security_SecurityFrame_GetSecurityStack (gint32 skip) MONO_INTERNAL;
2665
2666 /* Generic sharing */
2667
2668 void
2669 mono_set_generic_sharing_supported (gboolean supported) MONO_INTERNAL;
2670
2671 void
2672 mono_set_generic_sharing_vt_supported (gboolean supported) MONO_INTERNAL;
2673
2674 void
2675 mono_set_partial_sharing_supported (gboolean supported) MONO_INTERNAL;
2676
2677 gboolean
2678 mono_class_generic_sharing_enabled (MonoClass *class) MONO_INTERNAL;
2679
2680 gpointer
2681 mono_class_fill_runtime_generic_context (MonoVTable *class_vtable, guint8 *caller, guint32 slot) MONO_INTERNAL;
2682
2683 gpointer
2684 mono_method_fill_runtime_generic_context (MonoMethodRuntimeGenericContext *mrgctx, guint8 *caller, guint32 slot) MONO_INTERNAL;
2685
2686 MonoMethodRuntimeGenericContext*
2687 mono_method_lookup_rgctx (MonoVTable *class_vtable, MonoGenericInst *method_inst) MONO_INTERNAL;
2688
2689 const char*
2690 mono_rgctx_info_type_to_str (MonoRgctxInfoType type) MONO_INTERNAL;
2691
2692 MonoJumpInfoType
2693 mini_rgctx_info_type_to_patch_info_type (MonoRgctxInfoType info_type) MONO_INTERNAL;
2694
2695 gboolean
2696 mono_method_needs_static_rgctx_invoke (MonoMethod *method, gboolean allow_type_vars) MONO_INTERNAL;
2697
2698 int
2699 mono_class_rgctx_get_array_size (int n, gboolean mrgctx) MONO_INTERNAL;
2700
2701 guint32
2702 mono_method_lookup_or_register_info (MonoMethod *method, gboolean in_mrgctx, gpointer data,
2703         MonoRgctxInfoType info_type, MonoGenericContext *generic_context) MONO_INTERNAL;
2704
2705 MonoGenericContext
2706 mono_method_construct_object_context (MonoMethod *method) MONO_INTERNAL;
2707
2708 MonoMethod*
2709 mono_method_get_declaring_generic_method (MonoMethod *method) MONO_INTERNAL;
2710
2711 int
2712 mono_generic_context_check_used (MonoGenericContext *context) MONO_INTERNAL;
2713
2714 int
2715 mono_class_check_context_used (MonoClass *class) MONO_INTERNAL;
2716
2717 gboolean
2718 mono_generic_context_is_sharable (MonoGenericContext *context, gboolean allow_type_vars) MONO_INTERNAL;
2719
2720 gboolean
2721 mono_generic_context_is_sharable_full (MonoGenericContext *context, gboolean allow_type_vars, gboolean allow_partial) MONO_INTERNAL;
2722
2723 gboolean
2724 mono_method_is_generic_impl (MonoMethod *method) MONO_INTERNAL;
2725
2726 gboolean
2727 mono_method_is_generic_sharable (MonoMethod *method, gboolean allow_type_vars) MONO_INTERNAL;
2728
2729 gboolean
2730 mono_method_is_generic_sharable_full (MonoMethod *method, gboolean allow_type_vars, gboolean allow_partial, gboolean allow_gsharedvt) MONO_INTERNAL;
2731
2732 gboolean
2733 mini_class_is_generic_sharable (MonoClass *klass) MONO_INTERNAL;
2734
2735 gboolean
2736 mono_is_partially_sharable_inst (MonoGenericInst *inst) MONO_INTERNAL;
2737
2738 MonoGenericSharingContext* mono_get_generic_context_from_code (guint8 *code) MONO_INTERNAL;
2739
2740 MonoGenericContext* mini_method_get_context (MonoMethod *method) MONO_INTERNAL;
2741
2742 int mono_method_check_context_used (MonoMethod *method) MONO_INTERNAL;
2743
2744 gboolean mono_generic_context_equal_deep (MonoGenericContext *context1, MonoGenericContext *context2) MONO_INTERNAL;
2745
2746 gpointer mono_helper_get_rgctx_other_ptr (MonoClass *caller_class, MonoVTable *vtable,
2747                                           guint32 token, guint32 token_source, guint32 rgctx_type,
2748                                           gint32 rgctx_index) MONO_INTERNAL;
2749
2750 void mono_generic_sharing_init (void) MONO_INTERNAL;
2751 void mono_generic_sharing_cleanup (void) MONO_INTERNAL;
2752
2753 MonoClass* mini_class_get_container_class (MonoClass *class) MONO_INTERNAL;
2754 MonoGenericContext* mini_class_get_context (MonoClass *class) MONO_INTERNAL;
2755
2756 MonoType* mini_replace_type (MonoType *type) MONO_LLVM_INTERNAL;
2757 MonoType* mini_get_basic_type_from_generic (MonoGenericSharingContext *gsctx, MonoType *type) MONO_INTERNAL;
2758 MonoType* mini_type_get_underlying_type (MonoGenericSharingContext *gsctx, MonoType *type) MONO_INTERNAL;
2759 MonoMethod* mini_get_shared_method (MonoMethod *method) MONO_INTERNAL;
2760 MonoMethod* mini_get_shared_method_to_register (MonoMethod *method) MONO_INTERNAL;
2761 MonoMethod* mini_get_shared_method_full (MonoMethod *method, gboolean all_vt, gboolean is_gsharedvt) MONO_INTERNAL;
2762
2763 int mini_type_stack_size (MonoGenericSharingContext *gsctx, MonoType *t, int *align) MONO_INTERNAL;
2764 int mini_type_stack_size_full (MonoGenericSharingContext *gsctx, MonoType *t, guint32 *align, gboolean pinvoke) MONO_INTERNAL;
2765 void type_to_eval_stack_type (MonoCompile *cfg, MonoType *type, MonoInst *inst) MONO_INTERNAL;
2766 guint mono_type_to_regmove (MonoCompile *cfg, MonoType *type) MONO_LLVM_INTERNAL;
2767
2768 void mono_cfg_add_try_hole (MonoCompile *cfg, MonoExceptionClause *clause, guint8 *start, MonoBasicBlock *bb) MONO_INTERNAL;
2769
2770 void mono_cfg_set_exception (MonoCompile *cfg, int type) MONO_INTERNAL;
2771 gboolean mini_type_is_reference (MonoCompile *cfg, MonoType *type) MONO_INTERNAL;
2772 gboolean mini_type_is_vtype (MonoCompile *cfg, MonoType *t); /* should be internal but it's used by llvm */
2773 gboolean mini_type_var_is_vt (MonoCompile *cfg, MonoType *type); /* should be internal but it's used by llvm */
2774 gboolean mini_is_gsharedvt_klass (MonoCompile *cfg, MonoClass *klass); /* should be internal but it's used by llvm */
2775 gboolean mini_is_gsharedvt_type (MonoCompile *cfg, MonoType *t) MONO_INTERNAL;
2776 gboolean mini_is_gsharedvt_signature (MonoCompile *cfg, MonoMethodSignature *sig) MONO_INTERNAL;
2777 gboolean mini_is_gsharedvt_type_gsctx (MonoGenericSharingContext *gsctx, MonoType *t) MONO_INTERNAL;
2778 gboolean mini_is_gsharedvt_variable_type (MonoCompile *cfg, MonoType *t) MONO_LLVM_INTERNAL;
2779 gboolean mini_is_gsharedvt_variable_klass (MonoCompile *cfg, MonoClass *klass) MONO_LLVM_INTERNAL;
2780 gboolean mini_is_gsharedvt_sharable_method (MonoMethod *method) MONO_INTERNAL;
2781 gboolean mini_is_gsharedvt_variable_signature (MonoMethodSignature *sig) MONO_INTERNAL;
2782 gboolean mini_is_gsharedvt_sharable_inst (MonoGenericInst *inst) MONO_INTERNAL;
2783 gpointer mini_method_get_rgctx (MonoMethod *m) MONO_INTERNAL;
2784 void mini_init_gsctx (MonoDomain *domain, MonoMemPool *mp, MonoGenericContext *context, MonoGenericSharingContext *gsctx) MONO_INTERNAL;
2785
2786 gpointer mini_get_gsharedvt_wrapper (gboolean gsharedvt_in, gpointer addr, MonoMethodSignature *normal_sig, MonoMethodSignature *gsharedvt_sig, MonoGenericSharingContext *gsctx,
2787                                                                          gint32 vcall_offset, gboolean calli) MONO_INTERNAL;
2788
2789 /* wapihandles.c */
2790 int mini_wapi_hps (int argc, char **argv) MONO_INTERNAL;
2791
2792 int mini_wapi_semdel (int argc, char **argv) MONO_INTERNAL;
2793
2794 int mini_wapi_seminfo (int argc, char **argv) MONO_INTERNAL;
2795
2796 /* SIMD support */
2797
2798 /*
2799 This enum MUST be kept in sync with its managed mirror Mono.Simd.AccelMode.
2800  */
2801 enum {
2802         SIMD_VERSION_SSE1       = 1 << 0,
2803         SIMD_VERSION_SSE2       = 1 << 1,
2804         SIMD_VERSION_SSE3       = 1 << 2,
2805         SIMD_VERSION_SSSE3      = 1 << 3,
2806         SIMD_VERSION_SSE41      = 1 << 4,
2807         SIMD_VERSION_SSE42      = 1 << 5,
2808         SIMD_VERSION_SSE4a      = 1 << 6,
2809         SIMD_VERSION_ALL        = SIMD_VERSION_SSE1 | SIMD_VERSION_SSE2 |
2810                           SIMD_VERSION_SSE3 | SIMD_VERSION_SSSE3 |
2811                           SIMD_VERSION_SSE41 | SIMD_VERSION_SSE42 |
2812                           SIMD_VERSION_SSE4a,
2813
2814         /* this value marks the end of the bit indexes used in
2815          * this emum.
2816          */
2817         SIMD_VERSION_INDEX_END = 6
2818 };
2819
2820 enum {
2821         SIMD_COMP_EQ,
2822         SIMD_COMP_LT,
2823         SIMD_COMP_LE,
2824         SIMD_COMP_UNORD,
2825         SIMD_COMP_NEQ,
2826         SIMD_COMP_NLT,
2827         SIMD_COMP_NLE,
2828         SIMD_COMP_ORD
2829 };
2830
2831 enum {
2832         SIMD_PREFETCH_MODE_NTA,
2833         SIMD_PREFETCH_MODE_0,
2834         SIMD_PREFETCH_MODE_1,
2835         SIMD_PREFETCH_MODE_2,
2836 };
2837
2838 const char *mono_arch_xregname (int reg) MONO_INTERNAL;
2839 void        mono_simd_simplify_indirection (MonoCompile *cfg) MONO_INTERNAL;
2840 MonoInst*   mono_emit_simd_intrinsics (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args) MONO_INTERNAL;
2841 guint32     mono_arch_cpu_enumerate_simd_versions (void) MONO_INTERNAL;
2842 void        mono_simd_intrinsics_init (void) MONO_INTERNAL;
2843
2844 MonoInst*   mono_emit_native_types_intrinsics (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args) MONO_INTERNAL;
2845 MonoType*   mini_native_type_replace_type (MonoType *type) MONO_INTERNAL;
2846
2847 #ifdef __linux__
2848 /* maybe enable also for other systems? */
2849 #define ENABLE_JIT_MAP 1
2850 void mono_enable_jit_map (void) MONO_INTERNAL;
2851 void mono_emit_jit_map   (MonoJitInfo *jinfo) MONO_INTERNAL;
2852 void mono_emit_jit_tramp (void *start, int size, const char *desc) MONO_INTERNAL;
2853 gboolean mono_jit_map_is_enabled (void) MONO_INTERNAL;
2854 #else
2855 #define mono_enable_jit_map()
2856 #define mono_emit_jit_map(ji)
2857 #define mono_emit_jit_tramp(s,z,d)
2858 #define mono_jit_map_is_enabled() (0)
2859 #endif
2860
2861 /*
2862  * Per-OS implementation functions.
2863  */
2864 void mono_runtime_install_handlers (void) MONO_INTERNAL;
2865 void mono_runtime_cleanup_handlers (void) MONO_INTERNAL;
2866 void mono_runtime_setup_stat_profiler (void) MONO_INTERNAL;
2867 void mono_runtime_shutdown_stat_profiler (void) MONO_INTERNAL;
2868 void mono_runtime_posix_install_handlers (void) MONO_INTERNAL;
2869 pid_t mono_runtime_syscall_fork (void) MONO_INTERNAL;
2870 void mono_gdb_render_native_backtraces (pid_t crashed_pid) MONO_INTERNAL;
2871
2872 void mono_cross_helpers_run (void) MONO_INTERNAL;
2873
2874 /*
2875  * Signal handling
2876  */
2877
2878 void MONO_SIG_HANDLER_SIGNATURE (mono_sigfpe_signal_handler)  MONO_INTERNAL;
2879 void MONO_SIG_HANDLER_SIGNATURE (mono_sigill_signal_handler)  MONO_INTERNAL;
2880 void MONO_SIG_HANDLER_SIGNATURE (mono_sigsegv_signal_handler) MONO_INTERNAL;
2881 void MONO_SIG_HANDLER_SIGNATURE (mono_sigint_signal_handler)  MONO_INTERNAL;
2882 gboolean MONO_SIG_HANDLER_SIGNATURE (mono_chain_signal) MONO_INTERNAL;
2883
2884 #ifdef MONO_ARCH_HAVE_CREATE_DELEGATE_TRAMPOLINE
2885 #define ARCH_HAVE_DELEGATE_TRAMPOLINES 1
2886 #else
2887 #define ARCH_HAVE_DELEGATE_TRAMPOLINES 0
2888 #endif
2889
2890 #ifdef MONO_ARCH_HAVE_OP_TAIL_CALL
2891 #define ARCH_HAVE_OP_TAIL_CALL 1
2892 #else
2893 #define ARCH_HAVE_OP_TAIL_CALL 0
2894 #endif
2895
2896 #ifndef MONO_ARCH_HAVE_TLS_GET
2897 #define MONO_ARCH_HAVE_TLS_GET 0
2898 #endif
2899
2900 #ifdef MONO_ARCH_HAVE_TLS_GET_REG
2901 #define ARCH_HAVE_TLS_GET_REG 1
2902 #else
2903 #define ARCH_HAVE_TLS_GET_REG 0
2904 #endif
2905
2906 #ifdef MONO_ARCH_EMULATE_MUL_DIV
2907 #define ARCH_EMULATE_MUL_DIV 1
2908 #else
2909 #define ARCH_EMULATE_MUL_DIV 0
2910 #endif
2911
2912 #ifndef MONO_ARCH_MONITOR_ENTER_ADJUSTMENT
2913 #define MONO_ARCH_MONITOR_ENTER_ADJUSTMENT 1
2914 #endif
2915
2916 #ifndef MONO_ARCH_DYN_CALL_PARAM_AREA
2917 #define MONO_ARCH_DYN_CALL_PARAM_AREA 0
2918 #endif
2919
2920 #ifdef MONO_ARCH_VARARG_ICALLS
2921 #define ARCH_VARARG_ICALLS 1
2922 #else
2923 #define ARCH_VARARG_ICALLS 0
2924 #endif
2925
2926 #ifdef MONO_ARCH_HAVE_DUMMY_INIT
2927 #define ARCH_HAVE_DUMMY_INIT 1
2928 #else
2929 #define ARCH_HAVE_DUMMY_INIT 0
2930 #endif
2931
2932 #ifdef MONO_CROSS_COMPILE
2933 #define MONO_IS_CROSS_COMPILE 1
2934 #else
2935 #define MONO_IS_CROSS_COMPILE 0
2936 #endif
2937
2938 #if defined(__mono_ilp32__)
2939 #define MONO_IS_ILP32 1
2940 #else
2941 #define MONO_IS_ILP32 0
2942 #endif
2943
2944 #endif /* __MONO_MINI_H__ */