mono/mini/mini.h

   1 /*
   2  * Copyright 2002-2003 Ximian Inc
   3  * Copyright 2003-2011 Novell Inc
   4  * Copyright 2011 Xamarin Inc
   5  */
   6 #ifndef __MONO_MINI_H__
   7 #define __MONO_MINI_H__
   8
   9 #include "config.h"
  10 #include <glib.h>
  11 #ifdef HAVE_SIGNAL_H
  12 #include <signal.h>
  13 #endif
  14 #ifdef HAVE_SYS_TYPES_H
  15 #include <sys/types.h>
  16 #endif
  17 #include <mono/metadata/loader.h>
  18 #include <mono/metadata/mempool.h>
  19 #include <mono/utils/monobitset.h>
  20 #include <mono/metadata/class.h>
  21 #include <mono/metadata/object.h>
  22 #include <mono/metadata/opcodes.h>
  23 #include <mono/metadata/tabledefs.h>
  24 #include <mono/metadata/domain-internals.h>
  25 #include "mono/metadata/class-internals.h"
  26 #include "mono/metadata/object-internals.h"
  27 #include <mono/metadata/profiler-private.h>
  28 #include <mono/metadata/debug-helpers.h>
  29 #include <mono/utils/mono-compiler.h>
  30 #include <mono/utils/mono-machine.h>
  31 #include <mono/utils/mono-stack-unwinding.h>
  32 #include <mono/utils/mono-threads.h>
  33 #include <mono/utils/mono-tls.h>
  34 #include <mono/utils/atomic.h>
  35 #include <mono/utils/mono-conc-hashtable.h>
  36 #include <mono/utils/mono-signal-handler.h>
  37
  38 #include "mini-arch.h"
  39 #include "regalloc.h"
  40 #include "mini-unwind.h"
  41 #include "jit.h"
  42
  43 #include "mono/metadata/class-internals.h"
  44 #include "mono/metadata/domain-internals.h"
  45 #include "mono/metadata/object.h"
  46 #include "mono/metadata/tabledefs.h"
  47 #include "mono/metadata/marshal.h"
  48 #include "mono/metadata/security-manager.h"
  49 #include "mono/metadata/exception.h"
  50 #include "mono/utils/mono-compiler.h"
  51
  52 #ifdef __native_client_codegen__
  53 #include <nacl/nacl_dyncode.h>
  54 #endif
  55
  56
  57 /*
  58  * The mini code should not have any compile time dependencies on the GC being used, so the same object file from mini/
  59  * can be linked into both mono and mono-sgen.
  60  */
  61 #if defined(HAVE_BOEHM_GC) || defined(HAVE_SGEN_GC)
  62 #error "The code in mini/ should not depend on these defines."
  63 #endif
  64
  65 #ifndef __GNUC__
  66 /*#define __alignof__(a) sizeof(a)*/
  67 #define __alignof__(type) G_STRUCT_OFFSET(struct { char c; type x; }, x)
  68 #endif
  69
  70 #if DISABLE_LOGGING
  71 #define MINI_DEBUG(level,limit,code)
  72 #else
  73 #define MINI_DEBUG(level,limit,code) do {if (G_UNLIKELY ((level) >= (limit))) code} while (0)
  74 #endif
  75
  76 #if !defined(DISABLE_TASKLETS) && defined(MONO_ARCH_SUPPORT_TASKLETS) && defined(__GNUC__)
  77 #define MONO_SUPPORT_TASKLETS 1
  78 #endif
  79
  80 #if ENABLE_LLVM
  81 #define COMPILE_LLVM(cfg) ((cfg)->compile_llvm)
  82 #define LLVM_ENABLED TRUE
  83 #else
  84 #define COMPILE_LLVM(cfg) (0)
  85 #define LLVM_ENABLED FALSE
  86 #endif
  87
  88 #ifdef MONO_ARCH_SOFT_FLOAT_FALLBACK
  89 #define COMPILE_SOFT_FLOAT(cfg) (!COMPILE_LLVM ((cfg)) && mono_arch_is_soft_float ())
  90 #else
  91 #define COMPILE_SOFT_FLOAT(cfg) (0)
  92 #endif
  93
  94 #define NOT_IMPLEMENTED do { g_assert_not_reached (); } while (0)
  95
  96 /* for 32 bit systems */
  97 #if G_BYTE_ORDER == G_LITTLE_ENDIAN
  98 #define MINI_LS_WORD_IDX 0
  99 #define MINI_MS_WORD_IDX 1
 100 #else
 101 #define MINI_LS_WORD_IDX 1
 102 #define MINI_MS_WORD_IDX 0
 103 #endif
 104 #define MINI_LS_WORD_OFFSET (MINI_LS_WORD_IDX * 4)
 105 #define MINI_MS_WORD_OFFSET (MINI_MS_WORD_IDX * 4)
 106 #define inst_ls_word data.op[MINI_LS_WORD_IDX].const_val
 107 #define inst_ms_word data.op[MINI_MS_WORD_IDX].const_val
 108
 109 #ifndef DISABLE_AOT
 110 #define MONO_USE_AOT_COMPILER
 111 #endif
 112
 113 /* Version number of the AOT file format */
 114 #define MONO_AOT_FILE_VERSION 129
 115
 116 //TODO: This is x86/amd64 specific.
 117 #define mono_simd_shuffle_mask(a,b,c,d) ((a) | ((b) << 2) | ((c) << 4) | ((d) << 6))
 118
 119 /* Remap printf to g_print (we use a mix of these in the mini code) */
 120 #ifdef PLATFORM_ANDROID
 121 #define printf g_print
 122 #endif
 123
 124 #define MONO_TYPE_IS_PRIMITIVE(t) ((!(t)->byref && ((((t)->type >= MONO_TYPE_BOOLEAN && (t)->type <= MONO_TYPE_R8) || ((t)->type >= MONO_TYPE_I && (t)->type <= MONO_TYPE_U)))))
 125
 126 #define MONO_AOT_TRAMP_PAGE_SIZE 16384
 127
 128 /* Constants used to encode different types of methods in AOT */
 129 enum {
 130         MONO_AOT_METHODREF_MIN = 240,
 131         /* Image index bigger than METHODREF_MIN */
 132         MONO_AOT_METHODREF_LARGE_IMAGE_INDEX = 249,
 133         /* Runtime provided methods on arrays */
 134         MONO_AOT_METHODREF_ARRAY = 250,
 135         MONO_AOT_METHODREF_NO_AOT_TRAMPOLINE = 251,
 136         /* Wrappers */
 137         MONO_AOT_METHODREF_WRAPPER = 252,
 138         /* Methods on generic instances */
 139         MONO_AOT_METHODREF_GINST = 253,
 140         /* Methods resolve using a METHODSPEC token */
 141         MONO_AOT_METHODREF_METHODSPEC = 254,
 142 };
 143
 144 /* Constants used to encode different types of types in AOT */
 145 enum {
 146         /* typedef index */
 147         MONO_AOT_TYPEREF_TYPEDEF_INDEX = 1,
 148         /* typedef index + image index */
 149         MONO_AOT_TYPEREF_TYPEDEF_INDEX_IMAGE = 2,
 150         /* typespec token */
 151         MONO_AOT_TYPEREF_TYPESPEC_TOKEN = 3,
 152         /* generic inst */
 153         MONO_AOT_TYPEREF_GINST = 4,
 154         /* type/method variable */
 155         MONO_AOT_TYPEREF_VAR = 5,
 156         /* array */
 157         MONO_AOT_TYPEREF_ARRAY = 6,
 158         /* blob index of the type encoding */
 159         MONO_AOT_TYPEREF_BLOB_INDEX = 7,
 160         /* ptr */
 161         MONO_AOT_TYPEREF_PTR = 8
 162 };
 163
 164 /* Trampolines which we have a lot of */
 165 typedef enum {
 166         MONO_AOT_TRAMP_SPECIFIC = 0,
 167         MONO_AOT_TRAMP_STATIC_RGCTX = 1,
 168         MONO_AOT_TRAMP_IMT_THUNK = 2,
 169         MONO_AOT_TRAMP_GSHAREDVT_ARG = 3,
 170         MONO_AOT_TRAMP_NUM = 4
 171 } MonoAotTrampoline;
 172
 173 typedef enum {
 174         MONO_AOT_FILE_FLAG_WITH_LLVM = 1,
 175         MONO_AOT_FILE_FLAG_FULL_AOT = 2,
 176         MONO_AOT_FILE_FLAG_DEBUG = 4,
 177         MONO_AOT_FILE_FLAG_LLVM_THUMB = 8,
 178         MONO_AOT_FILE_FLAG_LLVM_ONLY = 16,
 179         MONO_AOT_FILE_FLAG_SAFEPOINTS = 32,
 180         MONO_AOT_FILE_FLAG_SEPARATE_DATA = 64,
 181 } MonoAotFileFlags;
 182
 183 typedef enum {
 184         MONO_AOT_TABLE_BLOB,
 185         MONO_AOT_TABLE_IMAGE_TABLE,
 186         MONO_AOT_TABLE_CLASS_NAME,
 187         MONO_AOT_TABLE_METHOD_INFO_OFFSETS,
 188         MONO_AOT_TABLE_EX_INFO_OFFSETS,
 189         MONO_AOT_TABLE_CLASS_INFO_OFFSETS,
 190         MONO_AOT_TABLE_GOT_INFO_OFFSETS,
 191         MONO_AOT_TABLE_LLVM_GOT_INFO_OFFSETS,
 192         MONO_AOT_TABLE_EXTRA_METHOD_INFO_OFFSETS,
 193         MONO_AOT_TABLE_EXTRA_METHOD_TABLE,
 194         MONO_AOT_TABLE_NUM
 195 } MonoAotFileTable;
 196
 197 /* This structure is stored in the AOT file */
 198 typedef struct MonoAotFileInfo
 199 {
 200         /* The version number of the AOT file format, should match MONO_AOT_FILE_VERSION */
 201         guint32 version;
 202         /* For alignment */
 203         guint32 dummy;
 204
 205         /* All the pointers should be at the start to avoid alignment problems */
 206         /* Symbols */
 207 #define MONO_AOT_FILE_INFO_FIRST_SYMBOL jit_got
 208         /* Global Offset Table for JITted code */
 209         gpointer jit_got;
 210         /* Global Offset Table for LLVM code */
 211         gpointer llvm_got;
 212         /* Mono EH Frame created by llc when using LLVM */
 213         gpointer mono_eh_frame;
 214         /* Points to the get_method () function in the LLVM image or NULL */
 215         gpointer llvm_get_method;
 216         /* Points to the get_unbox_tramp () function in the LLVM image or NULL */
 217         gpointer llvm_get_unbox_tramp;
 218         gpointer jit_code_start;
 219         gpointer jit_code_end;
 220         gpointer method_addresses;
 221         /* Data blob */
 222         gpointer blob;
 223         gpointer class_name_table;
 224         gpointer class_info_offsets;
 225         gpointer method_info_offsets;
 226         gpointer ex_info_offsets;
 227         gpointer extra_method_info_offsets;
 228         gpointer extra_method_table;
 229         gpointer got_info_offsets;
 230         gpointer llvm_got_info_offsets;
 231         gpointer image_table;
 232         gpointer mem_end;
 233         /* The GUID of the assembly which the AOT image was generated from */
 234         gpointer assembly_guid;
 235         /*
 236          * The runtime version string for AOT images generated using 'bind-to-runtime-version',
 237          * NULL otherwise.
 238          */
 239         gpointer runtime_version;
 240         /* Blocks of various kinds of trampolines */
 241         gpointer specific_trampolines;
 242         gpointer static_rgctx_trampolines;
 243         gpointer imt_thunks;
 244         gpointer gsharedvt_arg_trampolines;
 245         /* In static mode, points to a table of global symbols for trampolines etc */
 246         gpointer globals;
 247         /* Points to a string containing the assembly name*/
 248         gpointer assembly_name;
 249         /* Start of Mono's Program Linkage Table */
 250         gpointer plt;
 251         /* End of Mono's Program Linkage Table */
 252         gpointer plt_end;
 253         gpointer unwind_info;
 254         /* Points to a table mapping methods to their unbox trampolines */
 255         gpointer unbox_trampolines;
 256         /* Points to the end of the previous table */
 257         gpointer unbox_trampolines_end;
 258         /* Points to a table of unbox trampoline addresses/offsets */
 259         gpointer unbox_trampoline_addresses;
 260 #define MONO_AOT_FILE_INFO_LAST_SYMBOL unbox_trampoline_addresses
 261
 262         /* Scalars */
 263         /* The index of the first GOT slot used by the PLT */
 264         guint32 plt_got_offset_base;
 265         /* Number of entries in the GOT */
 266         guint32 got_size;
 267         /* Number of entries in the PLT */
 268         guint32 plt_size;
 269         /* Number of methods */
 270         guint32 nmethods;
 271         /* A union of MonoAotFileFlags */
 272         guint32 flags;
 273         /* Optimization flags used to compile the module */
 274         guint32 opts;
 275         /* SIMD flags used to compile the module */
 276         guint32 simd_opts;
 277         /* Index of the blob entry holding the GC used by this module */
 278         gint32 gc_name_index;
 279         guint32 num_rgctx_fetch_trampolines;
 280         /* These are used for sanity checking object layout problems when cross-compiling */
 281         guint32 double_align, long_align, generic_tramp_num;
 282         /* The page size used by trampoline pages */
 283         guint32 tramp_page_size;
 284         /*
 285          * The number of GOT entries which need to be preinitialized when the
 286          * module is loaded.
 287          */
 288         guint32 nshared_got_entries;
 289         /* The size of the data file, if MONO_AOT_FILE_FLAG_SEPARATE_DATA is set */
 290         guint32 datafile_size;
 291
 292         /* Arrays */
 293         /* Offsets for tables inside the data file if MONO_AOT_FILE_FLAG_SEPARATE_DATA is set */
 294         // FIXME: Sync with AOT
 295         guint32 table_offsets [MONO_AOT_TABLE_NUM];
 296         /* Number of trampolines */
 297         guint32 num_trampolines [MONO_AOT_TRAMP_NUM];
 298         /* The indexes of the first GOT slots used by the trampolines */
 299         guint32 trampoline_got_offset_base [MONO_AOT_TRAMP_NUM];
 300         /* The size of one trampoline */
 301         guint32 trampoline_size [MONO_AOT_TRAMP_NUM];
 302         /* The offset where the trampolines begin on a trampoline page */
 303         guint32 tramp_page_code_offsets [MONO_AOT_TRAMP_NUM];
 304 } MonoAotFileInfo;
 305
 306 /* Number of symbols in the MonoAotFileInfo structure */
 307 #define MONO_AOT_FILE_INFO_NUM_SYMBOLS (((G_STRUCT_OFFSET (MonoAotFileInfo, MONO_AOT_FILE_INFO_LAST_SYMBOL) - G_STRUCT_OFFSET (MonoAotFileInfo, MONO_AOT_FILE_INFO_FIRST_SYMBOL)) / sizeof (gpointer)) + 1)
 308
 309 typedef struct
 310 {
 311         MonoClass *klass;
 312         MonoMethod *method;
 313 } MonoClassMethodPair;
 314
 315 typedef struct
 316 {
 317         MonoClass *klass;
 318         MonoMethod *method;
 319         gboolean is_virtual;
 320 } MonoDelegateClassMethodPair;
 321
 322 /* Per-domain information maintained by the JIT */
 323 typedef struct
 324 {
 325         /* Maps MonoMethod's to a GSList of GOT slot addresses pointing to its code */
 326         GHashTable *jump_target_got_slot_hash;
 327         GHashTable *jump_target_hash;
 328         /* Maps methods/klasses to the address of the given type of trampoline */
 329         GHashTable *class_init_trampoline_hash;
 330         GHashTable *jump_trampoline_hash;
 331         GHashTable *jit_trampoline_hash;
 332         GHashTable *delegate_trampoline_hash;
 333         /* Maps ClassMethodPair -> MonoDelegateTrampInfo */
 334         GHashTable *static_rgctx_trampoline_hash;
 335         GHashTable *llvm_vcall_trampoline_hash;
 336         /* maps MonoMethod -> MonoJitDynamicMethodInfo */
 337         GHashTable *dynamic_code_hash;
 338         GHashTable *method_code_hash;
 339         /* Maps methods to a RuntimeInvokeInfo structure, protected by the associated MonoDomain lock */
 340         MonoConcurrentHashTable *runtime_invoke_hash;
 341         /* Maps MonoMethod to a GPtrArray containing sequence point locations */
 342         /* Protected by the domain lock */
 343         GHashTable *seq_points;
 344         /* Debugger agent data */
 345         gpointer agent_info;
 346         /* Maps MonoMethod to an arch-specific structure */
 347         GHashTable *arch_seq_points;
 348         /* Maps a GSharedVtTrampInfo structure to a trampoline address */
 349         GHashTable *gsharedvt_arg_tramp_hash;
 350         /* memcpy/bzero methods specialized for small constant sizes */
 351         gpointer *memcpy_addr [17];
 352         gpointer *bzero_addr [17];
 353         gpointer llvm_module;
 354 } MonoJitDomainInfo;
 355
 356 typedef struct {
 357         MonoJitInfo *ji;
 358         MonoCodeManager *code_mp;
 359 } MonoJitDynamicMethodInfo;
 360
 361 /* An extension of MonoGenericParamFull used in generic sharing */
 362 typedef struct {
 363         MonoGenericParamFull param;
 364         MonoGenericParam *parent;
 365 } MonoGSharedGenericParam;
 366
 367 #define domain_jit_info(domain) ((MonoJitDomainInfo*)((domain)->runtime_info))
 368
 369 /* Contains a list of ips which needs to be patched when a method is compiled */
 370 typedef struct {
 371         GSList *list;
 372 } MonoJumpList;
 373
 374 /* Arch-specific */
 375 typedef struct {
 376         int dummy;
 377 } MonoDynCallInfo;
 378
 379 /*
 380  * Information about a stack frame.
 381  * FIXME This typedef exists only to avoid tons of code rewriting
 382  */
 383 typedef MonoStackFrameInfo StackFrameInfo;
 384
 385 #if 0
 386 #define mono_bitset_foreach_bit(set,b,n) \
 387         for (b = 0; b < n; b++)\
 388                 if (mono_bitset_test_fast(set,b))
 389 #else
 390 #define mono_bitset_foreach_bit(set,b,n) \
 391         for (b = mono_bitset_find_start (set); b < n && b >= 0; b = mono_bitset_find_first (set, b))
 392 #endif
 393
 394 /*
 395  * Pull the list of opcodes
 396  */
 397 #define OPDEF(a,b,c,d,e,f,g,h,i,j) \
 398         a = i,
 399
 400 enum {
 401 #include "mono/cil/opcode.def"
 402         CEE_LASTOP
 403 };
 404 #undef OPDEF
 405
 406 #define MONO_VARINFO(cfg,varnum) (&(cfg)->vars [varnum])
 407
 408 #define MONO_INST_NULLIFY_SREGS(dest) do {                              \
 409                 (dest)->sreg1 = (dest)->sreg2 = (dest)->sreg3 = -1;     \
 410         } while (0)
 411
 412 #define MONO_INST_NEW(cfg,dest,op) do { \
 413                 (dest) = (MonoInst *)mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));   \
 414                 (dest)->opcode = (op);  \
 415                 (dest)->dreg = -1;                          \
 416                 MONO_INST_NULLIFY_SREGS ((dest));           \
 417         (dest)->cil_code = (cfg)->ip;  \
 418         } while (0)
 419
 420 #define MONO_INST_NEW_CALL(cfg,dest,op) do {    \
 421                 (dest) = (MonoCallInst *)mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoCallInst));   \
 422                 (dest)->inst.opcode = (op);     \
 423                 (dest)->inst.dreg = -1;                                 \
 424                 MONO_INST_NULLIFY_SREGS (&(dest)->inst);                \
 425         (dest)->inst.cil_code = (cfg)->ip;  \
 426         } while (0)
 427
 428 #define MONO_ADD_INS(b,inst) do {       \
 429                 if ((b)->last_ins) {    \
 430                         (b)->last_ins->next = (inst);   \
 431             (inst)->prev = (b)->last_ins;   \
 432                         (b)->last_ins = (inst); \
 433                 } else {        \
 434                         (b)->code = (b)->last_ins = (inst);     \
 435                 }       \
 436         } while (0)
 437
 438 #define NULLIFY_INS(ins) do { \
 439         (ins)->opcode = OP_NOP; \
 440         (ins)->dreg = -1;                               \
 441         MONO_INST_NULLIFY_SREGS ((ins));                \
 442     } while (0)
 443
 444 /* Remove INS from BB */
 445 #define MONO_REMOVE_INS(bb,ins) do { \
 446         if ((ins)->prev) \
 447             (ins)->prev->next = (ins)->next; \
 448         if ((ins)->next) \
 449             (ins)->next->prev = (ins)->prev; \
 450         if ((bb)->code == (ins)) \
 451             (bb)->code = (ins)->next; \
 452         if ((bb)->last_ins == (ins)) \
 453             (bb)->last_ins = (ins)->prev; \
 454     } while (0)
 455
 456 /* Remove INS from BB and nullify it */
 457 #define MONO_DELETE_INS(bb,ins) do { \
 458         MONO_REMOVE_INS ((bb), (ins)); \
 459         NULLIFY_INS ((ins)); \
 460     } while (0)
 461
 462 /*
 463  * this is used to determine when some branch optimizations are possible: we exclude FP compares
 464  * because they have weird semantics with NaNs.
 465  */
 466 #define MONO_IS_COND_BRANCH_OP(ins) (((ins)->opcode >= OP_LBEQ && (ins)->opcode <= OP_LBLT_UN) || ((ins)->opcode >= OP_FBEQ && (ins)->opcode <= OP_FBLT_UN) || ((ins)->opcode >= OP_IBEQ && (ins)->opcode <= OP_IBLT_UN))
 467 #define MONO_IS_COND_BRANCH_NOFP(ins) (MONO_IS_COND_BRANCH_OP(ins) && !(((ins)->opcode >= OP_FBEQ) && ((ins)->opcode <= OP_FBLT_UN)) && (!(ins)->inst_left || (ins)->inst_left->inst_left->type != STACK_R8))
 468
 469 #define MONO_IS_BRANCH_OP(ins) (MONO_IS_COND_BRANCH_OP(ins) || ((ins)->opcode == OP_BR) || ((ins)->opcode == OP_BR_REG) || ((ins)->opcode == OP_SWITCH))
 470
 471 #define MONO_IS_COND_EXC(ins) ((((ins)->opcode >= OP_COND_EXC_EQ) && ((ins)->opcode <= OP_COND_EXC_LT_UN)) || (((ins)->opcode >= OP_COND_EXC_IEQ) && ((ins)->opcode <= OP_COND_EXC_ILT_UN)))
 472
 473 #define MONO_IS_SETCC(ins) ((((ins)->opcode >= OP_CEQ) && ((ins)->opcode <= OP_CLT_UN)) || (((ins)->opcode >= OP_ICEQ) && ((ins)->opcode <= OP_ICLT_UN)) || (((ins)->opcode >= OP_LCEQ) && ((ins)->opcode <= OP_LCLT_UN)) || (((ins)->opcode >= OP_FCEQ) && ((ins)->opcode <= OP_FCLT_UN)))
 474
 475
 476 #define MONO_IS_LOAD_MEMBASE(ins) (((ins)->opcode >= OP_LOAD_MEMBASE && (ins)->opcode <= OP_LOADV_MEMBASE) || ((ins)->opcode >= OP_ATOMIC_LOAD_I1 && (ins)->opcode <= OP_ATOMIC_LOAD_R8))
 477 #define MONO_IS_STORE_MEMBASE(ins) (((ins)->opcode >= OP_STORE_MEMBASE_REG && (ins)->opcode <= OP_STOREV_MEMBASE) || ((ins)->opcode >= OP_ATOMIC_STORE_I1 && (ins)->opcode <= OP_ATOMIC_STORE_R8))
 478 #define MONO_IS_STORE_MEMINDEX(ins) (((ins)->opcode >= OP_STORE_MEMINDEX) && ((ins)->opcode <= OP_STORER8_MEMINDEX))
 479
 480 #define MONO_IS_CALL(ins) (((ins->opcode >= OP_VOIDCALL) && (ins->opcode <= OP_VOIDCALL_MEMBASE)) || ((ins->opcode >= OP_FCALL) && (ins->opcode <= OP_FCALL_MEMBASE)) || ((ins->opcode >= OP_LCALL) && (ins->opcode <= OP_LCALL_MEMBASE)) || ((ins->opcode >= OP_VCALL) && (ins->opcode <= OP_VCALL_MEMBASE)) || ((ins->opcode >= OP_CALL) && (ins->opcode <= OP_CALL_MEMBASE)) || ((ins->opcode >= OP_VCALL2) && (ins->opcode <= OP_VCALL2_MEMBASE)) || (ins->opcode == OP_TAILCALL) || ((ins->opcode >= OP_RCALL) && (ins->opcode <= OP_RCALL_MEMBASE)))
 481
 482 #define MONO_IS_JUMP_TABLE(ins) (((ins)->opcode == OP_JUMP_TABLE) ? TRUE : ((((ins)->opcode == OP_AOTCONST) && (ins->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? TRUE : ((ins)->opcode == OP_SWITCH) ? TRUE : ((((ins)->opcode == OP_GOT_ENTRY) && ((ins)->inst_right->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? TRUE : FALSE)))
 483
 484 #define MONO_JUMP_TABLE_FROM_INS(ins) (((ins)->opcode == OP_JUMP_TABLE) ? (ins)->inst_p0 : (((ins)->opcode == OP_AOTCONST) && (ins->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH) ? (ins)->inst_p0 : (((ins)->opcode == OP_SWITCH) ? (ins)->inst_p0 : ((((ins)->opcode == OP_GOT_ENTRY) && ((ins)->inst_right->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? (ins)->inst_right->inst_p0 : NULL))))
 485
 486 /* FIXME: Add more instructions */
 487 /* INEG sets the condition codes, and the OP_LNEG decomposition depends on this on x86 */
 488 #define MONO_INS_HAS_NO_SIDE_EFFECT(ins) (MONO_IS_MOVE (ins) || (ins->opcode == OP_ICONST) || (ins->opcode == OP_I8CONST) || MONO_IS_ZERO (ins) || (ins->opcode == OP_ADD_IMM) || (ins->opcode == OP_R8CONST) || (ins->opcode == OP_LADD_IMM) || (ins->opcode == OP_ISUB_IMM) || (ins->opcode == OP_IADD_IMM) || (ins->opcode == OP_LNEG) || (ins->opcode == OP_ISUB) || (ins->opcode == OP_CMOV_IGE) || (ins->opcode == OP_ISHL_IMM) || (ins->opcode == OP_ISHR_IMM) || (ins->opcode == OP_ISHR_UN_IMM) || (ins->opcode == OP_IAND_IMM) || (ins->opcode == OP_ICONV_TO_U1) || (ins->opcode == OP_ICONV_TO_I1) || (ins->opcode == OP_SEXT_I4) || (ins->opcode == OP_LCONV_TO_U1) || (ins->opcode == OP_ICONV_TO_U2) || (ins->opcode == OP_ICONV_TO_I2) || (ins->opcode == OP_LCONV_TO_I2) || (ins->opcode == OP_LDADDR) || (ins->opcode == OP_PHI) || (ins->opcode == OP_NOP) || (ins->opcode == OP_ZEXT_I4) || (ins->opcode == OP_NOT_NULL) || (ins->opcode == OP_IL_SEQ_POINT))
 489
 490 #define MONO_METHOD_IS_FINAL(m) (((m)->flags & METHOD_ATTRIBUTE_FINAL) || ((m)->klass && ((m)->klass->flags & TYPE_ATTRIBUTE_SEALED)))
 491
 492
 493 #ifdef MONO_ARCH_SIMD_INTRINSICS
 494
 495 #define MONO_IS_PHI(ins) (((ins)->opcode == OP_PHI) || ((ins)->opcode == OP_FPHI) || ((ins)->opcode == OP_VPHI)  || ((ins)->opcode == OP_XPHI))
 496 #define MONO_IS_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_XMOVE) || ((ins)->opcode == OP_RMOVE))
 497 #define MONO_IS_NON_FP_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_XMOVE))
 498 #define MONO_IS_REAL_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_XMOVE) || ((ins)->opcode == OP_RMOVE))
 499 #define MONO_IS_ZERO(ins) (((ins)->opcode == OP_VZERO) || ((ins)->opcode == OP_XZERO))
 500
 501 #define MONO_CLASS_IS_SIMD(cfg, klass) (((cfg)->opt & MONO_OPT_SIMD) && (klass)->simd_type)
 502
 503 #else
 504
 505 #define MONO_IS_PHI(ins) (((ins)->opcode == OP_PHI) || ((ins)->opcode == OP_FPHI) || ((ins)->opcode == OP_VPHI))
 506 #define MONO_IS_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_RMOVE))
 507 #define MONO_IS_NON_FP_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_VMOVE))
 508 /*A real MOVE is one that isn't decomposed such as a VMOVE or LMOVE*/
 509 #define MONO_IS_REAL_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_RMOVE))
 510 #define MONO_IS_ZERO(ins) ((ins)->opcode == OP_VZERO)
 511
 512 #define MONO_CLASS_IS_SIMD(cfg, klass) (0)
 513
 514 #endif
 515
 516 typedef struct MonoInstList MonoInstList;
 517 typedef struct MonoInst MonoInst;
 518 typedef struct MonoCallInst MonoCallInst;
 519 typedef struct MonoCallArgParm MonoCallArgParm;
 520 typedef struct MonoMethodVar MonoMethodVar;
 521 typedef struct MonoBasicBlock MonoBasicBlock;
 522 typedef struct MonoLMF MonoLMF;
 523 typedef struct MonoSpillInfo MonoSpillInfo;
 524 typedef struct MonoTraceSpec MonoTraceSpec;
 525
 526 extern MonoNativeTlsKey mono_jit_tls_id;
 527 extern MonoTraceSpec *mono_jit_trace_calls;
 528 extern gboolean mono_break_on_exc;
 529 extern int mono_exc_esp_offset;
 530 extern gboolean mono_compile_aot;
 531 extern gboolean mono_aot_only;
 532 extern gboolean mono_llvm_only;
 533 extern MonoAotMode mono_aot_mode;
 534 extern MonoMethodDesc *mono_inject_async_exc_method;
 535 extern int mono_inject_async_exc_pos;
 536 extern MonoMethodDesc *mono_break_at_bb_method;
 537 extern int mono_break_at_bb_bb_num;
 538 extern gboolean mono_verify_all;
 539 extern gboolean mono_do_x86_stack_align;
 540 extern const char *mono_build_date;
 541 extern gboolean mono_do_signal_chaining;
 542 extern gboolean mono_do_crash_chaining;
 543 extern MONO_API gboolean mono_use_llvm;
 544 extern gboolean mono_do_single_method_regression;
 545 extern guint32 mono_single_method_regression_opt;
 546 extern MonoMethod *mono_current_single_method;
 547 extern GSList *mono_single_method_list;
 548 extern GHashTable *mono_single_method_hash;
 549 extern gboolean mono_using_xdebug;
 550 extern int mini_verbose;
 551 extern int valgrind_register;
 552
 553 #define INS_INFO(opcode) (&ins_info [((opcode) - OP_START - 1) * 4])
 554
 555 extern const char ins_info[];
 556 extern const gint8 ins_sreg_counts [];
 557
 558 #ifndef DISABLE_JIT
 559 #define mono_inst_get_num_src_registers(ins) (ins_sreg_counts [(ins)->opcode - OP_START - 1])
 560 #else
 561 #define mono_inst_get_num_src_registers(ins) 0
 562 #endif
 563
 564 #define mono_inst_get_src_registers(ins, regs) (((regs) [0] = (ins)->sreg1), ((regs) [1] = (ins)->sreg2), ((regs) [2] = (ins)->sreg3), mono_inst_get_num_src_registers ((ins)))
 565
 566 #define MONO_BB_FOR_EACH_INS(bb, ins) for ((ins) = (bb)->code; (ins); (ins) = (ins)->next)
 567
 568 #define MONO_BB_FOR_EACH_INS_SAFE(bb, n, ins) for ((ins) = (bb)->code, n = (ins) ? (ins)->next : NULL; (ins); (ins) = (n), (n) = (ins) ? (ins)->next : NULL)
 569
 570 #define MONO_BB_FOR_EACH_INS_REVERSE_SAFE(bb, p, ins) for ((ins) = (bb)->last_ins, p = (ins) ? (ins)->prev : NULL; (ins); (ins) = (p), (p) = (ins) ? (ins)->prev : NULL)
 571
 572 #define mono_bb_first_ins(bb) (bb)->code
 573
 574 struct MonoSpillInfo {
 575         int offset;
 576 };
 577
 578 /*
 579  * Information about a call site for the GC map creation code
 580  */
 581 typedef struct {
 582         /* The next offset after the call instruction */
 583         int pc_offset;
 584         /* The basic block containing the call site */
 585         MonoBasicBlock *bb;
 586         /*
 587          * The set of variables live at the call site.
 588          * Has length cfg->num_varinfo in bits.
 589          */
 590         guint8 *liveness;
 591         /*
 592          * List of OP_GC_PARAM_SLOT_LIVENESS_DEF instructions defining the param slots
 593          * used by this call.
 594          */
 595         GSList *param_slots;
 596 } GCCallSite;
 597
 598 /*
 599  * The IR-level extended basic block.
 600  *
 601  * A basic block can have multiple exits just fine, as long as the point of
 602  * 'departure' is the last instruction in the basic block. Extended basic
 603  * blocks, on the other hand, may have instructions that leave the block
 604  * midstream. The important thing is that they cannot be _entered_
 605  * midstream, ie, execution of a basic block (or extened bb) always start
 606  * at the beginning of the block, never in the middle.
 607  */
 608 struct MonoBasicBlock {
 609         MonoInst *last_ins;
 610
 611         /* the next basic block in the order it appears in IL */
 612         MonoBasicBlock *next_bb;
 613
 614         /*
 615          * Before instruction selection it is the first tree in the
 616          * forest and the first item in the list of trees. After
 617          * instruction selection it is the first instruction and the
 618          * first item in the list of instructions.
 619          */
 620         MonoInst *code;
 621
 622         /* unique block number identification */
 623         gint32 block_num;
 624
 625         gint32 dfn;
 626
 627         /* Basic blocks: incoming and outgoing counts and pointers */
 628         /* Each bb should only appear once in each array */
 629         gint16 out_count, in_count;
 630         MonoBasicBlock **in_bb;
 631         MonoBasicBlock **out_bb;
 632
 633         /* Points to the start of the CIL code that initiated this BB */
 634         unsigned char* cil_code;
 635
 636         /* Length of the CIL block */
 637         gint32 cil_length;
 638
 639         /* The offset of the generated code, used for fixups */
 640         int native_offset;
 641         /* The length of the generated code, doesn't include alignment padding */
 642         int native_length;
 643         /* The real native offset, which includes alignment padding too */
 644         int real_native_offset;
 645         int max_offset;
 646         int max_length;
 647
 648         /* Visited and reachable flags */
 649         guint32 flags;
 650
 651         /*
 652          * SSA and loop based flags
 653          */
 654         MonoBitSet *dominators;
 655         MonoBitSet *dfrontier;
 656         MonoBasicBlock *idom;
 657         GSList *dominated;
 658         /* fast dominator algorithm */
 659         MonoBasicBlock *df_parent, *ancestor, *child, *label;
 660         int size, sdom, idomn;
 661
 662         /* loop nesting and recognition */
 663         GList *loop_blocks;
 664         gint8  nesting;
 665         gint8  loop_body_start;
 666
 667         /*
 668          * Whenever the bblock is rarely executed so it should be emitted after
 669          * the function epilog.
 670          */
 671         guint out_of_line : 1;
 672         /* Caches the result of uselessness calculation during optimize_branches */
 673         guint not_useless : 1;
 674         /* Whenever the decompose_array_access_opts () pass needs to process this bblock */
 675         guint has_array_access : 1;
 676         /* Whenever this bblock is extended, ie. it has branches inside it */
 677         guint extended : 1;
 678         /* Whenever this bblock contains a OP_JUMP_TABLE instruction */
 679         guint has_jump_table : 1;
 680         /* Whenever this bblock contains an OP_CALL_HANDLER instruction */
 681         guint has_call_handler : 1;
 682         /* Whenever this bblock starts a try block */
 683         guint try_start : 1;
 684
 685 #ifdef ENABLE_LLVM
 686         /* The offset of the CIL instruction in this bblock which ends a try block */
 687         intptr_t try_end;
 688 #endif
 689
 690         /*
 691          * If this is set, extend the try range started by this bblock by an arch specific
 692          * number of bytes to encompass the end of the previous bblock (e.g. a Monitor.Enter
 693          * call).
 694          */
 695         guint extend_try_block : 1;
 696
 697         /* use for liveness analysis */
 698         MonoBitSet *gen_set;
 699         MonoBitSet *kill_set;
 700         MonoBitSet *live_in_set;
 701         MonoBitSet *live_out_set;
 702
 703         /* fields to deal with non-empty stack slots at bb boundary */
 704         guint16 out_scount, in_scount;
 705         MonoInst **out_stack;
 706         MonoInst **in_stack;
 707
 708         /* we use that to prevent merging of bblocks covered by different clauses*/
 709         guint real_offset;
 710
 711         GSList *seq_points;
 712         MonoInst *last_seq_point;
 713
 714         GSList *spill_slot_defs;
 715
 716         /* List of call sites in this bblock sorted by pc_offset */
 717         GSList *gc_callsites;
 718
 719         /*
 720          * The region encodes whether the basic block is inside
 721          * a finally, catch, filter or none of these.
 722          *
 723          * If the value is -1, then it is neither finally, catch nor filter
 724          *
 725          * Otherwise the format is:
 726          *
 727          *  Bits: |     0-3      |       4-7      |     8-31
 728          *        |              |                |
 729          *        | clause-flags |   MONO_REGION  | clause-index
 730          *
 731          */
 732         guint region;
 733
 734         /* The current symbolic register number, used in local register allocation. */
 735         guint32 max_vreg;
 736 };
 737
 738 /* BBlock flags */
 739 enum {
 740         BB_VISITED              = 1 << 0,
 741         BB_REACHABLE            = 1 << 1,
 742         BB_EXCEPTION_DEAD_OBJ   = 1 << 2,
 743         BB_EXCEPTION_UNSAFE     = 1 << 3,
 744         BB_EXCEPTION_HANDLER    = 1 << 4,
 745         /* for Native Client, mark the blocks that can be jumped to indirectly */
 746         BB_INDIRECT_JUMP_TARGET = 1 << 5
 747 };
 748
 749 typedef struct MonoMemcpyArgs {
 750         int size, align;
 751 } MonoMemcpyArgs;
 752
 753 typedef enum {
 754         LLVMArgNone,
 755         /* Scalar argument passed by value */
 756         LLVMArgNormal,
 757         /* Only in ainfo->pair_storage */
 758         LLVMArgInIReg,
 759         /* Only in ainfo->pair_storage */
 760         LLVMArgInFPReg,
 761         LLVMArgVtypeInReg,
 762         LLVMArgVtypeByVal,
 763         LLVMArgVtypeRetAddr, /* On on cinfo->ret */
 764         LLVMArgGSharedVt,
 765         /* Fixed size argument passed to/returned from gsharedvt method by ref */
 766         LLVMArgGsharedvtFixed,
 767         /* Fixed size vtype argument passed to/returned from gsharedvt method by ref */
 768         LLVMArgGsharedvtFixedVtype,
 769         /* Variable sized argument passed to/returned from gsharedvt method by ref */
 770         LLVMArgGsharedvtVariable,
 771         /* Vtype passed as one int array argument */
 772         LLVMArgAsIArgs,
 773         /* Vtype passed as a set of fp arguments */
 774         LLVMArgAsFpArgs,
 775         /*
 776          * Only for returns, a structure which
 777          * consists of floats/doubles.
 778          */
 779         LLVMArgFpStruct,
 780         LLVMArgVtypeByRef,
 781         /* Vtype returned as an int */
 782         LLVMArgVtypeAsScalar,
 783         /* Scalar returned by ref using an additional argument */
 784         LLVMArgScalarRetAddr,
 785         /* Scalar passed by ref */
 786         LLVMArgScalarByRef
 787 } LLVMArgStorage;
 788
 789 typedef struct {
 790         LLVMArgStorage storage;
 791
 792         /*
 793          * Only if storage == ArgValuetypeInReg/LLVMArgAsFpArgs.
 794          * This contains how the parts of the vtype are passed.
 795          */
 796         LLVMArgStorage pair_storage [8];
 797         /*
 798          * Only if storage == LLVMArgAsIArgs/LLVMArgAsFpArgs/LLVMArgFpStruct.
 799          * If storage == LLVMArgAsFpArgs, this is the number of arguments
 800          * used to pass the value.
 801          * If storage == LLVMArgFpStruct, this is the number of fields
 802          * in the structure.
 803          */
 804         int nslots;
 805         /* Only if storage == LLVMArgAsFpArgs/LLVMArgFpStruct (4/8) */
 806         int esize;
 807         /* Parameter index in the LLVM signature */
 808         int pindex;
 809         MonoType *type;
 810         /* Only if storage == LLVMArgAsFpArgs. Dummy fp args to insert before this arg */
 811         int ndummy_fpargs;
 812 } LLVMArgInfo;
 813
 814 typedef struct {
 815         LLVMArgInfo ret;
 816         /* Whenever there is an rgctx argument */
 817         gboolean rgctx_arg;
 818         /* Whenever there is an IMT argument */
 819         gboolean imt_arg;
 820         /*
 821          * The position of the vret arg in the argument list.
 822          * Only if ret->storage == ArgVtypeRetAddr.
 823          * Should be 0 or 1.
 824          */
 825         int vret_arg_index;
 826         /* The indexes of various special arguments in the LLVM signature */
 827         int vret_arg_pindex, this_arg_pindex, rgctx_arg_pindex, imt_arg_pindex;
 828
 829         /* Inline array of argument info */
 830         /* args [0] is for the this argument if it exists */
 831         LLVMArgInfo args [1];
 832 } LLVMCallInfo;
 833
 834 #define MONO_MAX_SRC_REGS       3
 835
 836 struct MonoInst {
 837         guint16 opcode;
 838         guint8  type; /* stack type */
 839         guint8  flags;
 840
 841         /* used by the register allocator */
 842         gint32 dreg, sreg1, sreg2, sreg3;
 843
 844         MonoInst *next, *prev;
 845
 846         union {
 847                 union {
 848                         MonoInst *src;
 849                         MonoMethodVar *var;
 850                         mgreg_t const_val;
 851 #if (SIZEOF_REGISTER > SIZEOF_VOID_P) && (G_BYTE_ORDER == G_BIG_ENDIAN)
 852                         struct {
 853                                 gpointer p[SIZEOF_REGISTER/SIZEOF_VOID_P];
 854                         } pdata;
 855 #else
 856                         gpointer p;
 857 #endif
 858                         MonoMethod *method;
 859                         MonoMethodSignature *signature;
 860                         MonoBasicBlock **many_blocks;
 861                         MonoBasicBlock *target_block;
 862                         MonoInst **args;
 863                         MonoType *vtype;
 864                         MonoClass *klass;
 865                         int *phi_args;
 866                         MonoCallInst *call_inst;
 867                         MonoExceptionClause *exception_clause;
 868                 } op [2];
 869                 gint64 i8const;
 870                 double r8const;
 871         } data;
 872
 873         const unsigned char* cil_code; /* for debugging and bblock splitting */
 874
 875         /* used mostly by the backend to store additional info it may need */
 876         union {
 877                 gint32 reg3;
 878                 gint32 arg_info;
 879                 gint32 size;
 880                 MonoMemcpyArgs *memcpy_args; /* in OP_MEMSET and OP_MEMCPY */
 881                 gpointer data;
 882                 gint shift_amount;
 883                 gboolean is_pinvoke; /* for variables in the unmanaged marshal format */
 884                 gboolean record_cast_details; /* For CEE_CASTCLASS */
 885                 MonoInst *spill_var; /* for OP_MOVE_I4_TO_F/F_TO_I4 and OP_FCONV_TO_R8_X */
 886                 guint16 source_opcode; /*OP_XCONV_R8_TO_I4 needs to know which op was used to do proper widening*/
 887                 int pc_offset; /* OP_GC_LIVERANGE_START/END */
 888
 889                 /*
 890                  * memory_barrier: MONO_MEMORY_BARRIER_{ACQ,REL,SEQ}
 891                  * atomic_load_*: MONO_MEMORY_BARRIER_{ACQ,SEQ}
 892                  * atomic_store_*: MONO_MEMORY_BARRIER_{REL,SEQ}
 893                  */
 894                 int memory_barrier_kind;
 895         } backend;
 896
 897         MonoClass *klass;
 898 };
 899
 900 struct MonoCallInst {
 901         MonoInst inst;
 902         MonoMethodSignature *signature;
 903         MonoMethod *method;
 904         MonoInst **args;
 905         MonoInst *out_args;
 906         MonoInst *vret_var;
 907         gconstpointer fptr;
 908         guint stack_usage;
 909         guint stack_align_amount;
 910         guint is_virtual : 1;
 911         guint tail_call : 1;
 912         /* If this is TRUE, 'fptr' points to a MonoJumpInfo instead of an address. */
 913         guint fptr_is_patch : 1;
 914         /*
 915          * If this is true, then the call returns a vtype in a register using the same
 916          * calling convention as OP_CALL.
 917          */
 918         guint vret_in_reg : 1;
 919         /* Whenever vret_in_reg returns fp values */
 920         guint vret_in_reg_fp : 1;
 921         /* Whenever there is an IMT argument and it is dynamic */
 922         guint dynamic_imt_arg : 1;
 923         /* Whenever there is an RGCTX argument */
 924         guint32 rgctx_reg : 1;
 925         /* Whenever the call will need an unbox trampoline */
 926         guint need_unbox_trampoline : 1;
 927         regmask_t used_iregs;
 928         regmask_t used_fregs;
 929         GSList *out_ireg_args;
 930         GSList *out_freg_args;
 931         GSList *outarg_vts;
 932         gpointer call_info;
 933 #ifdef ENABLE_LLVM
 934         LLVMCallInfo *cinfo;
 935         int rgctx_arg_reg, imt_arg_reg;
 936 #endif
 937 #ifdef TARGET_ARM
 938         /* See the comment in mini-arm.c!mono_arch_emit_call for RegTypeFP. */
 939         GSList *float_args;
 940 #endif
 941 };
 942
 943 struct MonoCallArgParm {
 944         MonoInst ins;
 945         gint32 size;
 946         gint32 offset;
 947         gint32 offPrm;
 948 };
 949
 950 /*
 951  * flags for MonoInst
 952  * Note: some of the values overlap, because they can't appear
 953  * in the same MonoInst.
 954  */
 955 enum {
 956         MONO_INST_HAS_METHOD = 1,
 957         MONO_INST_INIT       = 1, /* in localloc */
 958         MONO_INST_SINGLE_STEP_LOC = 1, /* in SEQ_POINT */
 959         MONO_INST_IS_DEAD    = 2,
 960         MONO_INST_TAILCALL   = 4,
 961         MONO_INST_VOLATILE   = 4,
 962         MONO_INST_NOTYPECHECK    = 4,
 963         MONO_INST_NONEMPTY_STACK = 4, /* in SEQ_POINT */
 964         MONO_INST_UNALIGNED  = 8,
 965     MONO_INST_CFOLD_TAKEN = 8, /* On branches */
 966     MONO_INST_CFOLD_NOT_TAKEN = 16, /* On branches */
 967         MONO_INST_DEFINITION_HAS_SIDE_EFFECTS = 8,
 968         /* the address of the variable has been taken */
 969         MONO_INST_INDIRECT   = 16,
 970         MONO_INST_NORANGECHECK   = 16,
 971         /* On loads, the source address can be null */
 972         MONO_INST_FAULT = 32,
 973         /*
 974          * On variables, identifies LMF variables. These variables have a dummy type (int), but
 975          * require stack space for a MonoLMF struct.
 976          */
 977         MONO_INST_LMF = 32,
 978         /* On loads, the source address points to a constant value */
 979         MONO_INST_INVARIANT_LOAD = 64,
 980         /* On variables, the variable needs GC tracking */
 981         MONO_INST_GC_TRACK = 128,
 982         /*
 983          * Set on instructions during code emission which make calls, i.e. OP_CALL, OP_THROW.
 984          * backend.pc_offset will be set to the pc offset at the end of the native call instructions.
 985          */
 986         MONO_INST_GC_CALLSITE = 128,
 987         /* On comparisons, mark the branch following the condition as likely to be taken */
 988         MONO_INST_LIKELY = 128,
 989 };
 990
 991 #define inst_c0 data.op[0].const_val
 992 #define inst_c1 data.op[1].const_val
 993 #define inst_i0 data.op[0].src
 994 #define inst_i1 data.op[1].src
 995 #if (SIZEOF_REGISTER > SIZEOF_VOID_P) && (G_BYTE_ORDER == G_BIG_ENDIAN)
 996 #define inst_p0 data.op[0].pdata.p[SIZEOF_REGISTER/SIZEOF_VOID_P - 1]
 997 #define inst_p1 data.op[1].pdata.p[SIZEOF_REGISTER/SIZEOF_VOID_P - 1]
 998 #else
 999 #define inst_p0 data.op[0].p
1000 #define inst_p1 data.op[1].p
1001 #endif
1002 #define inst_l  data.i8const
1003 #define inst_r  data.r8const
1004 #define inst_left  data.op[0].src
1005 #define inst_right data.op[1].src
1006
1007 #define inst_newa_len   data.op[0].src
1008 #define inst_newa_class data.op[1].klass
1009
1010 #define inst_var    data.op[0].var
1011 #define inst_vtype  data.op[1].vtype
1012 /* in branch instructions */
1013 #define inst_many_bb   data.op[1].many_blocks
1014 #define inst_target_bb data.op[0].target_block
1015 #define inst_true_bb   data.op[1].many_blocks[0]
1016 #define inst_false_bb  data.op[1].many_blocks[1]
1017
1018 #define inst_basereg sreg1
1019 #define inst_indexreg sreg2
1020 #define inst_destbasereg dreg
1021 #define inst_offset data.op[0].const_val
1022 #define inst_imm    data.op[1].const_val
1023 #define inst_call   data.op[1].call_inst
1024
1025 #define inst_phi_args   data.op[1].phi_args
1026 #define inst_eh_block    data.op[1].exception_clause
1027
1028 static inline void
1029 mono_inst_set_src_registers (MonoInst *ins, int *regs)
1030 {
1031         ins->sreg1 = regs [0];
1032         ins->sreg2 = regs [1];
1033         ins->sreg3 = regs [2];
1034 }
1035
1036 /* instruction description for use in regalloc/scheduling */
1037 enum {
1038         MONO_INST_DEST,
1039         MONO_INST_SRC1,         /* we depend on the SRCs to be consecutive */
1040         MONO_INST_SRC2,
1041         MONO_INST_SRC3,
1042         MONO_INST_LEN,
1043         MONO_INST_CLOB,
1044         /* Unused, commented out to reduce the size of the mdesc tables
1045         MONO_INST_FLAGS,
1046         MONO_INST_COST,
1047         MONO_INST_DELAY,
1048         MONO_INST_RES,
1049         */
1050         MONO_INST_MAX
1051 };
1052
1053 typedef union {
1054         struct {
1055                 guint16 tid; /* tree number */
1056                 guint16 bid; /* block number */
1057         } pos ;
1058         guint32 abs_pos;
1059 } MonoPosition;
1060
1061 typedef struct {
1062         MonoPosition first_use, last_use;
1063 } MonoLiveRange;
1064
1065 typedef struct MonoLiveRange2 MonoLiveRange2;
1066
1067 struct MonoLiveRange2 {
1068         int from, to;
1069         MonoLiveRange2 *next;
1070 };
1071
1072 typedef struct {
1073         /* List of live ranges sorted by 'from' */
1074         MonoLiveRange2 *range;
1075         MonoLiveRange2 *last_range;
1076 } MonoLiveInterval;
1077
1078 /*
1079  * Additional information about a variable
1080  */
1081 struct MonoMethodVar {
1082         guint           idx; /* inside cfg->varinfo, cfg->vars */
1083         MonoLiveRange   range; /* generated by liveness analysis */
1084         MonoLiveInterval *interval; /* generated by liveness analysis */
1085         int             reg; /* != -1 if allocated into a register */
1086         int             spill_costs;
1087         MonoBitSet     *def_in; /* used by SSA */
1088         MonoInst       *def;    /* used by SSA */
1089         MonoBasicBlock *def_bb; /* used by SSA */
1090         GList          *uses;   /* used by SSA */
1091         char            cpstate;  /* used by SSA conditional  constant propagation */
1092         /* The native offsets corresponding to the live range of the variable */
1093         gint32         live_range_start, live_range_end;
1094         /*
1095          * cfg->varinfo [idx]->dreg could be replaced for OP_REGVAR, this contains the
1096          * original vreg.
1097          */
1098         gint32         vreg;
1099 };
1100
1101 /*
1102  * Stores state need to resume exception handling when using LLVM
1103  */
1104 typedef struct {
1105         MonoJitInfo *ji;
1106         int clause_index;
1107         MonoContext ctx, new_ctx;
1108         /* FIXME: GC */
1109         gpointer        ex_obj;
1110         MonoLMF *lmf;
1111         int first_filter_idx, filter_idx;
1112 } ResumeState;
1113
1114 typedef struct {
1115         gpointer          end_of_stack;
1116         guint32           stack_size;
1117         /* !defined(HAVE_KW_THREAD) || !defined(MONO_ARCH_ENABLE_MONO_LMF_VAR) */
1118         MonoLMF          *lmf;
1119         MonoLMF          *first_lmf;
1120         gpointer         restore_stack_prot;
1121         guint32          handling_stack_ovf;
1122         gpointer         signal_stack;
1123         guint32          signal_stack_size;
1124         gpointer         stack_ovf_guard_base;
1125         guint32          stack_ovf_guard_size;
1126         guint            stack_ovf_valloced : 1;
1127         void            (*abort_func) (MonoObject *object);
1128         /* Used to implement --debug=casts */
1129         MonoClass       *class_cast_from, *class_cast_to;
1130
1131         /* Stores state needed by handler block with a guard */
1132         MonoContext     ex_ctx;
1133         ResumeState resume_state;
1134
1135         /*Variabled use to implement handler blocks (finally/catch/etc) guards during interruption*/
1136         /* handler block return address */
1137         gpointer handler_block_return_address;
1138
1139         /* handler block been guarded. It's safe to store this even for dynamic methods since there
1140         is an activation on stack making sure it will remain alive.*/
1141         MonoJitExceptionInfo *handler_block;
1142
1143         /* context to be used by the guard trampoline when resuming interruption.*/
1144         MonoContext handler_block_context;
1145         /*
1146          * Stores the state at the exception throw site to be used by mono_stack_walk ()
1147          * when it is called from profiler functions during exception handling.
1148          */
1149         MonoContext orig_ex_ctx;
1150         gboolean orig_ex_ctx_set;
1151
1152         /*
1153          * Stores if we need to run a chained exception in Windows.
1154          */
1155         gboolean mono_win_chained_exception_needs_run;
1156
1157         /*
1158          * The current exception in flight
1159          */
1160         guint32 thrown_exc;
1161 } MonoJitTlsData;
1162
1163 /*
1164  * This structure is an extension of MonoLMF and contains extra information.
1165  */
1166 typedef struct {
1167         struct MonoLMF lmf;
1168         gboolean debugger_invoke;
1169         MonoContext ctx; /* if debugger_invoke is TRUE */
1170 } MonoLMFExt;
1171
1172 /* Generic sharing */
1173
1174 /*
1175  * Flags for which contexts were used in inflating a generic.
1176  */
1177 enum {
1178         MONO_GENERIC_CONTEXT_USED_CLASS = 1,
1179         MONO_GENERIC_CONTEXT_USED_METHOD = 2
1180 };
1181
1182 enum {
1183         /* Cannot be 0 since this is stored in rgctx slots, and 0 means an unitialized rgctx slot */
1184         MONO_GSHAREDVT_BOX_TYPE_VTYPE = 1,
1185         MONO_GSHAREDVT_BOX_TYPE_REF = 2,
1186         MONO_GSHAREDVT_BOX_TYPE_NULLABLE = 3
1187 };
1188
1189 typedef enum {
1190         MONO_RGCTX_INFO_STATIC_DATA,
1191         MONO_RGCTX_INFO_KLASS,
1192         MONO_RGCTX_INFO_ELEMENT_KLASS,
1193         MONO_RGCTX_INFO_VTABLE,
1194         MONO_RGCTX_INFO_TYPE,
1195         MONO_RGCTX_INFO_REFLECTION_TYPE,
1196         MONO_RGCTX_INFO_METHOD,
1197         /* In llvmonly mode, this is a function descriptor */
1198         MONO_RGCTX_INFO_GENERIC_METHOD_CODE,
1199         MONO_RGCTX_INFO_CLASS_FIELD,
1200         MONO_RGCTX_INFO_METHOD_RGCTX,
1201         MONO_RGCTX_INFO_METHOD_CONTEXT,
1202         MONO_RGCTX_INFO_REMOTING_INVOKE_WITH_CHECK,
1203         MONO_RGCTX_INFO_METHOD_DELEGATE_CODE,
1204         MONO_RGCTX_INFO_CAST_CACHE,
1205         MONO_RGCTX_INFO_ARRAY_ELEMENT_SIZE,
1206         MONO_RGCTX_INFO_VALUE_SIZE,
1207         /* +1 to avoid zero values in rgctx slots */
1208         MONO_RGCTX_INFO_FIELD_OFFSET,
1209         /* Either the code for a gsharedvt method, or the address for a gsharedvt-out trampoline for the method */
1210         /* In llvmonly mode, this is a function descriptor */
1211         MONO_RGCTX_INFO_METHOD_GSHAREDVT_OUT_TRAMPOLINE,
1212         /* Same for virtual calls */
1213         /* In llvmonly mode, this is a function descriptor */
1214         MONO_RGCTX_INFO_METHOD_GSHAREDVT_OUT_TRAMPOLINE_VIRT,
1215         /* Same for calli, associated with a signature */
1216         MONO_RGCTX_INFO_SIG_GSHAREDVT_OUT_TRAMPOLINE_CALLI,
1217         /* One of MONO_GSHAREDVT_BOX_TYPE */
1218         MONO_RGCTX_INFO_CLASS_BOX_TYPE,
1219         /* Resolves to a MonoGSharedVtMethodRuntimeInfo */
1220         MONO_RGCTX_INFO_METHOD_GSHAREDVT_INFO,
1221         MONO_RGCTX_INFO_LOCAL_OFFSET,
1222         MONO_RGCTX_INFO_MEMCPY,
1223         MONO_RGCTX_INFO_BZERO,
1224         /* The address of Nullable<T>.Box () */
1225         /* In llvmonly mode, this is a function descriptor */
1226         MONO_RGCTX_INFO_NULLABLE_CLASS_BOX,
1227         MONO_RGCTX_INFO_NULLABLE_CLASS_UNBOX,
1228         /* MONO_PATCH_INFO_VCALL_METHOD */
1229         MONO_RGCTX_INFO_VIRT_METHOD_CODE,
1230         /*
1231          * MONO_PATCH_INFO_VCALL_METHOD
1232          * Same as MONO_RGCTX_INFO_CLASS_BOX_TYPE, but for the class
1233          * which implements the method.
1234          */
1235         MONO_RGCTX_INFO_VIRT_METHOD_BOX_TYPE
1236 } MonoRgctxInfoType;
1237
1238 typedef struct _MonoRuntimeGenericContextInfoTemplate {
1239         MonoRgctxInfoType info_type;
1240         gpointer data;
1241         struct _MonoRuntimeGenericContextInfoTemplate *next;
1242 } MonoRuntimeGenericContextInfoTemplate;
1243
1244 typedef struct {
1245         MonoClass *next_subclass;
1246         MonoRuntimeGenericContextInfoTemplate *infos;
1247         GSList *method_templates;
1248 } MonoRuntimeGenericContextTemplate;
1249
1250 typedef struct {
1251         MonoVTable *class_vtable; /* must be the first element */
1252         MonoGenericInst *method_inst;
1253         gpointer infos [MONO_ZERO_LEN_ARRAY];
1254 } MonoMethodRuntimeGenericContext;
1255
1256 #define MONO_SIZEOF_METHOD_RUNTIME_GENERIC_CONTEXT (sizeof (MonoMethodRuntimeGenericContext) - MONO_ZERO_LEN_ARRAY * SIZEOF_VOID_P)
1257
1258 #define MONO_RGCTX_SLOT_MAKE_RGCTX(i)   (i)
1259 #define MONO_RGCTX_SLOT_MAKE_MRGCTX(i)  ((i) | 0x80000000)
1260 #define MONO_RGCTX_SLOT_INDEX(s)        ((s) & 0x7fffffff)
1261 #define MONO_RGCTX_SLOT_IS_MRGCTX(s)    (((s) & 0x80000000) ? TRUE : FALSE)
1262
1263 #define MONO_GSHAREDVT_DEL_INVOKE_VT_OFFSET -2
1264
1265 typedef struct {
1266         MonoMethod *method;
1267         MonoRuntimeGenericContextInfoTemplate *entries;
1268         int num_entries, count_entries;
1269 } MonoGSharedVtMethodInfo;
1270
1271 /* This is used by gsharedvt methods to allocate locals and compute local offsets */
1272 typedef struct {
1273         int locals_size;
1274         /*
1275          * The results of resolving the entries in MOonGSharedVtMethodInfo->entries.
1276          * We use this instead of rgctx slots since these can be loaded using a load instead
1277          * of a call to an rgctx fetch trampoline.
1278          */
1279         gpointer entries [MONO_ZERO_LEN_ARRAY];
1280 } MonoGSharedVtMethodRuntimeInfo;
1281
1282 typedef struct
1283 {
1284         MonoMethod *invoke;
1285         MonoMethod *method;
1286         MonoMethodSignature *invoke_sig;
1287         MonoMethodSignature *sig;
1288         gpointer method_ptr;
1289         gpointer invoke_impl;
1290         gpointer impl_this;
1291         gpointer impl_nothis;
1292         gboolean need_rgctx_tramp;
1293 } MonoDelegateTrampInfo;
1294
1295 /*
1296  * A function descriptor, which is a function address + argument pair.
1297  * In llvm-only mode, these are used instead of trampolines to pass
1298  * extra arguments to runtime functions/methods.
1299  */
1300 typedef struct
1301 {
1302         gpointer addr;
1303         gpointer arg;
1304 } MonoFtnDesc;
1305
1306 typedef enum {
1307 #define PATCH_INFO(a,b) MONO_PATCH_INFO_ ## a,
1308 #include "patch-info.h"
1309 #undef PATCH_INFO
1310         MONO_PATCH_INFO_NUM
1311 } MonoJumpInfoType;
1312
1313 /*
1314  * We need to store the image which the token refers to along with the token,
1315  * since the image might not be the same as the image of the method which
1316  * contains the relocation, because of inlining.
1317  */
1318 typedef struct MonoJumpInfoToken {
1319         MonoImage *image;
1320         guint32 token;
1321         gboolean has_context;
1322         MonoGenericContext context;
1323 } MonoJumpInfoToken;
1324
1325 typedef struct MonoJumpInfoBBTable {
1326         MonoBasicBlock **table;
1327         int table_size;
1328 } MonoJumpInfoBBTable;
1329
1330 typedef struct MonoJumpInfoRgctxEntry MonoJumpInfoRgctxEntry;
1331
1332 /* Contains information describing an LLVM IMT trampoline */
1333 typedef struct MonoJumpInfoImtTramp {
1334         MonoMethod *method;
1335         int vt_offset;
1336 } MonoJumpInfoImtTramp;
1337
1338 typedef struct MonoJumpInfoGSharedVtCall MonoJumpInfoGSharedVtCall;
1339
1340 /*
1341  * Represents the method which is called when a virtual call is made to METHOD
1342  * on a receiver of type KLASS.
1343  */
1344 typedef struct {
1345         /* Receiver class */
1346         MonoClass *klass;
1347         /* Virtual method */
1348         MonoMethod *method;
1349 } MonoJumpInfoVirtMethod;
1350
1351 typedef struct MonoJumpInfo MonoJumpInfo;
1352 struct MonoJumpInfo {
1353         MonoJumpInfo *next;
1354         /* Relocation type for patching */
1355         int relocation;
1356         union {
1357                 int i;
1358                 guint8 *p;
1359                 MonoInst *label;
1360         } ip;
1361
1362         MonoJumpInfoType type;
1363         union {
1364                 gconstpointer   target;
1365 #if SIZEOF_VOID_P == 8
1366                 gint64          offset;
1367 #else
1368                 int             offset;
1369 #endif
1370                 int index;
1371                 MonoBasicBlock *bb;
1372                 MonoInst       *inst;
1373                 MonoMethod     *method;
1374                 MonoClass      *klass;
1375                 MonoClassField *field;
1376                 MonoImage      *image;
1377                 MonoVTable     *vtable;
1378                 const char     *name;
1379                 MonoJumpInfoToken  *token;
1380                 MonoJumpInfoBBTable *table;
1381                 MonoJumpInfoRgctxEntry *rgctx_entry;
1382                 MonoJumpInfoImtTramp *imt_tramp;
1383                 MonoJumpInfoGSharedVtCall *gsharedvt;
1384                 MonoGSharedVtMethodInfo *gsharedvt_method;
1385                 MonoMethodSignature *sig;
1386                 MonoDelegateClassMethodPair *del_tramp;
1387                 /* MONO_PATCH_INFO_VIRT_METHOD */
1388                 MonoJumpInfoVirtMethod *virt_method;
1389         } data;
1390 };
1391
1392 /*
1393  * Contains information for computing the
1394  * property given by INFO_TYPE of the runtime
1395  * object described by DATA.
1396  */
1397 struct MonoJumpInfoRgctxEntry {
1398         MonoMethod *method;
1399         gboolean in_mrgctx;
1400         MonoJumpInfo *data; /* describes the data to be loaded */
1401         MonoRgctxInfoType info_type;
1402 };
1403
1404 /* Contains information about a gsharedvt call */
1405 struct MonoJumpInfoGSharedVtCall {
1406         /* The original signature of the call */
1407         MonoMethodSignature *sig;
1408         /* The method which is called */
1409         MonoMethod *method;
1410 };
1411
1412 typedef enum {
1413         MONO_TRAMPOLINE_JIT,
1414         MONO_TRAMPOLINE_JUMP,
1415         MONO_TRAMPOLINE_RGCTX_LAZY_FETCH,
1416         MONO_TRAMPOLINE_AOT,
1417         MONO_TRAMPOLINE_AOT_PLT,
1418         MONO_TRAMPOLINE_DELEGATE,
1419         MONO_TRAMPOLINE_RESTORE_STACK_PROT,
1420         MONO_TRAMPOLINE_GENERIC_VIRTUAL_REMOTING,
1421         MONO_TRAMPOLINE_VCALL,
1422         MONO_TRAMPOLINE_HANDLER_BLOCK_GUARD,
1423         MONO_TRAMPOLINE_NUM
1424 } MonoTrampolineType;
1425
1426 /* These trampolines return normally to their caller */
1427 #define MONO_TRAMPOLINE_TYPE_MUST_RETURN(t)             \
1428         ((t) == MONO_TRAMPOLINE_RESTORE_STACK_PROT ||   \
1429          (t) == MONO_TRAMPOLINE_RGCTX_LAZY_FETCH)
1430
1431 /* These trampolines receive an argument directly in a register */
1432 #define MONO_TRAMPOLINE_TYPE_HAS_ARG(t)         \
1433         ((t) == MONO_TRAMPOLINE_HANDLER_BLOCK_GUARD)
1434
1435 /* optimization flags */
1436 #define OPTFLAG(id,shift,name,descr) MONO_OPT_ ## id = 1 << shift,
1437 enum {
1438 #include "optflags-def.h"
1439         MONO_OPT_LAST
1440 };
1441
1442 /*
1443  * This structure represents a JIT backend.
1444  */
1445 typedef struct {
1446         guint            have_card_table_wb : 1;
1447         guint            have_op_generic_class_init : 1;
1448         guint            emulate_mul_div : 1;
1449         guint            emulate_div : 1;
1450         guint            emulate_long_shift_opts : 1;
1451         guint            have_objc_get_selector : 1;
1452         guint            have_generalized_imt_thunk : 1;
1453         guint            have_tls_get : 1;
1454         guint            have_tls_get_reg : 1;
1455         guint            have_liverange_ops: 1;
1456         guint            have_op_tail_call : 1;
1457         guint            have_dummy_init : 1;
1458         guint            gshared_supported : 1;
1459         guint            use_fpstack : 1;
1460         guint            ilp32 : 1;
1461         guint            need_got_var : 1;
1462         guint            need_div_check : 1;
1463         guint            no_unaligned_access : 1;
1464         int              monitor_enter_adjustment;
1465         int              dyn_call_param_area;
1466 } MonoBackend;
1467
1468 /* Flags for mini_method_compile () */
1469 typedef enum {
1470         /* Whenever to run cctors during JITting */
1471         JIT_FLAG_RUN_CCTORS = (1 << 0),
1472         /* Whenever this is an AOT compilation */
1473         JIT_FLAG_AOT = (1 << 1),
1474         /* Whenever this is a full AOT compilation */
1475         JIT_FLAG_FULL_AOT = (1 << 2),
1476         /* Whenever to compile with LLVM */
1477         JIT_FLAG_LLVM = (1 << 3),
1478         /* Whenever to disable direct calls to direct calls to icall functions */
1479         JIT_FLAG_NO_DIRECT_ICALLS = (1 << 4),
1480         /* Emit explicit null checks */
1481         JIT_FLAG_EXPLICIT_NULL_CHECKS = (1 << 5),
1482         /* Whenever to compile in llvm-only mode */
1483         JIT_FLAG_LLVM_ONLY = (1 << 6),
1484 } JitFlags;
1485
1486 /* Bit-fields in the MonoBasicBlock.region */
1487 #define MONO_REGION_TRY       0
1488 #define MONO_REGION_FINALLY  16
1489 #define MONO_REGION_CATCH    32
1490 #define MONO_REGION_FAULT    64         /* Currently unused */
1491 #define MONO_REGION_FILTER  128
1492
1493 #define MONO_BBLOCK_IS_IN_REGION(bblock, regtype) (((bblock)->region & (0xf << 4)) == (regtype))
1494
1495 #define MONO_REGION_FLAGS(region) ((region) & 0x7)
1496 #define MONO_REGION_CLAUSE_INDEX(region) (((region) >> 8) - 1)
1497
1498 #define get_vreg_to_inst(cfg, vreg) ((vreg) < (cfg)->vreg_to_inst_len ? (cfg)->vreg_to_inst [(vreg)] : NULL)
1499
1500 #define vreg_is_volatile(cfg, vreg) (G_UNLIKELY (get_vreg_to_inst ((cfg), (vreg)) && (get_vreg_to_inst ((cfg), (vreg))->flags & (MONO_INST_VOLATILE|MONO_INST_INDIRECT))))
1501
1502 #define vreg_is_ref(cfg, vreg) ((vreg) < (cfg)->vreg_is_ref_len ? (cfg)->vreg_is_ref [(vreg)] : 0)
1503 #define vreg_is_mp(cfg, vreg) ((vreg) < (cfg)->vreg_is_mp_len ? (cfg)->vreg_is_mp [(vreg)] : 0)
1504
1505 /*
1506  * Control Flow Graph and compilation unit information
1507  */
1508 typedef struct {
1509         MonoMethod      *method;
1510         MonoMethodHeader *header;
1511         MonoMemPool     *mempool;
1512         MonoInst       **varinfo;
1513         MonoMethodVar   *vars;
1514         MonoInst        *ret;
1515         MonoBasicBlock  *bb_entry;
1516         MonoBasicBlock  *bb_exit;
1517         MonoBasicBlock  *bb_init;
1518         MonoBasicBlock **bblocks;
1519         MonoBasicBlock **cil_offset_to_bb;
1520         MonoMemPool     *state_pool; /* used by instruction selection */
1521         MonoBasicBlock  *cbb;        /* used by instruction selection */
1522         MonoInst        *prev_ins;   /* in decompose */
1523         MonoJumpInfo    *patch_info;
1524         MonoJitInfo     *jit_info;
1525         MonoJitDynamicMethodInfo *dynamic_info;
1526         guint            num_bblocks, max_block_num;
1527         guint            locals_start;
1528         guint            num_varinfo; /* used items in varinfo */
1529         guint            varinfo_count; /* total storage in varinfo */
1530         gint             stack_offset;
1531         gint             max_ireg;
1532         gint             cil_offset_to_bb_len;
1533         MonoRegState    *rs;
1534         MonoSpillInfo   *spill_info [16]; /* machine register spills */
1535         gint             spill_count;
1536         gint             spill_info_len [16];
1537         /* unsigned char   *cil_code; */
1538         MonoMethod      *inlined_method; /* the method which is currently inlined */
1539         MonoInst        *domainvar; /* a cache for the current domain */
1540         MonoInst        *got_var; /* Global Offset Table variable */
1541         MonoInst        **locals;
1542         MonoInst        *rgctx_var; /* Runtime generic context variable (for static generic methods) */
1543         MonoInst        **args;
1544         MonoType        **arg_types;
1545         MonoMethod      *current_method; /* The method currently processed by method_to_ir () */
1546         MonoMethod      *method_to_register; /* The method to register in JIT info tables */
1547         MonoGenericContext *generic_context;
1548
1549         MonoBackend *backend;
1550
1551         /*
1552          * This variable represents the hidden argument holding the vtype
1553          * return address. If the method returns something other than a vtype, or
1554          * the vtype is returned in registers this is NULL.
1555          */
1556         MonoInst        *vret_addr;
1557
1558         /*
1559          * This is used to initialize the cil_code field of MonoInst's.
1560          */
1561         const unsigned char *ip;
1562
1563         struct MonoAliasingInformation *aliasing_info;
1564
1565         /* A hashtable of region ID-> SP var mappings */
1566         /* An SP var is a place to store the stack pointer (used by handlers)*/
1567         GHashTable      *spvars;
1568
1569         /* A hashtable of region ID -> EX var mappings */
1570         /* An EX var stores the exception object passed to catch/filter blocks */
1571         GHashTable      *exvars;
1572
1573         GList           *ldstr_list; /* used by AOT */
1574
1575         MonoDomain      *domain;
1576
1577         guint            real_offset;
1578         GHashTable      *cbb_hash;
1579
1580         /* The current virtual register number */
1581         guint32 next_vreg;
1582
1583         MonoGenericSharingContext gsctx;
1584         MonoGenericContext *gsctx_context;
1585
1586         MonoGSharedVtMethodInfo *gsharedvt_info;
1587
1588         /* Points to the gsharedvt locals area at runtime */
1589         MonoInst *gsharedvt_locals_var;
1590
1591         /* The localloc instruction used to initialize gsharedvt_locals_var */
1592         MonoInst *gsharedvt_locals_var_ins;
1593
1594         /* Points to a MonoGSharedVtMethodRuntimeInfo at runtime */
1595         MonoInst *gsharedvt_info_var;
1596
1597         /* For native-to-managed wrappers, the saved old domain */
1598         MonoInst *orig_domain_var;
1599
1600         MonoInst *lmf_var;
1601         MonoInst *lmf_addr_var;
1602
1603         MonoInst *stack_inbalance_var;
1604
1605         unsigned char   *cil_start;
1606 #ifdef __native_client_codegen__
1607         /* this alloc is not aligned, native_code */
1608         /* is the 32-byte aligned version of this */
1609         unsigned char   *native_code_alloc;
1610 #endif
1611         unsigned char   *native_code;
1612         guint            code_size;
1613         guint            code_len;
1614         guint            prolog_end;
1615         guint            epilog_begin;
1616         guint            epilog_end;
1617         regmask_t        used_int_regs;
1618         guint32          opt;
1619         guint32          prof_options;
1620         guint32          flags;
1621         guint32          comp_done;
1622         guint32          verbose_level;
1623         guint32          stack_usage;
1624         guint32          param_area;
1625         guint32          frame_reg;
1626         gint32           sig_cookie;
1627         guint            disable_aot : 1;
1628         guint            disable_ssa : 1;
1629         guint            disable_llvm : 1;
1630         guint            enable_extended_bblocks : 1;
1631         guint            run_cctors : 1;
1632         guint            need_lmf_area : 1;
1633         guint            compile_aot : 1;
1634         guint            full_aot : 1;
1635         guint            compile_llvm : 1;
1636         guint            got_var_allocated : 1;
1637         guint            ret_var_is_local : 1;
1638         guint            ret_var_set : 1;
1639         guint            unverifiable : 1;
1640         guint            skip_visibility : 1;
1641         guint            disable_reuse_registers : 1;
1642         guint            disable_reuse_stack_slots : 1;
1643         guint            disable_reuse_ref_stack_slots : 1;
1644         guint            disable_ref_noref_stack_slot_share : 1;
1645         guint            disable_initlocals_opt : 1;
1646         guint            disable_initlocals_opt_refs : 1;
1647         guint            disable_omit_fp : 1;
1648         guint            disable_vreg_to_lvreg : 1;
1649         guint            disable_deadce_vars : 1;
1650         guint            disable_out_of_line_bblocks : 1;
1651         guint            disable_direct_icalls : 1;
1652         guint            create_lmf_var : 1;
1653         /*
1654          * When this is set, the code to push/pop the LMF from the LMF stack is generated as IR
1655          * instead of being generated in emit_prolog ()/emit_epilog ().
1656          */
1657         guint            lmf_ir : 1;
1658         /*
1659          * Whenever to use the mono_lmf TLS variable instead of indirection through the
1660          * mono_lmf_addr TLS variable.
1661          */
1662         guint            lmf_ir_mono_lmf : 1;
1663         guint            gen_write_barriers : 1;
1664         guint            init_ref_vars : 1;
1665         guint            extend_live_ranges : 1;
1666         guint            compute_precise_live_ranges : 1;
1667         guint            has_got_slots : 1;
1668         guint            uses_rgctx_reg : 1;
1669         guint            uses_vtable_reg : 1;
1670         guint            uses_simd_intrinsics : 1;
1671         guint            keep_cil_nops : 1;
1672         guint            gen_seq_points : 1;
1673         /* Generate seq points for use by the debugger */
1674         guint            gen_sdb_seq_points : 1;
1675         guint            explicit_null_checks : 1;
1676         guint            compute_gc_maps : 1;
1677         guint            soft_breakpoints : 1;
1678         guint            arch_eh_jit_info : 1;
1679         guint            has_indirection : 1;
1680         guint            has_atomic_add_i4 : 1;
1681         guint            has_atomic_exchange_i4 : 1;
1682         guint            has_atomic_cas_i4 : 1;
1683         guint            check_pinvoke_callconv : 1;
1684         guint            has_unwind_info_for_epilog : 1;
1685         guint            disable_inline : 1;
1686         guint            gshared : 1;
1687         guint            gsharedvt : 1;
1688         guint            r4fp : 1;
1689         guint            llvm_only : 1;
1690         int              r4_stack_type;
1691         gpointer         debug_info;
1692         guint32          lmf_offset;
1693     guint16          *intvars;
1694         MonoProfileCoverageInfo *coverage_info;
1695         GHashTable       *token_info_hash;
1696         MonoCompileArch  arch;
1697         guint32          inline_depth;
1698         /* Size of memory reserved for thunks */
1699         int              thunk_area;
1700         /* Thunks */
1701         guint8          *thunks;
1702         /* Offset between the start of code and the thunks area */
1703         int              thunks_offset;
1704         guint32          exception_type;        /* MONO_EXCEPTION_* */
1705         guint32          exception_data;
1706         char*            exception_message;
1707         gpointer         exception_ptr;
1708
1709         guint8 *         encoded_unwind_ops;
1710         guint32          encoded_unwind_ops_len;
1711         GSList*          unwind_ops;
1712
1713         GList*           dont_inline;
1714
1715         /* Fields used by the local reg allocator */
1716         void*            reginfo;
1717         int              reginfo_len;
1718
1719         /* Maps vregs to their associated MonoInst's */
1720         /* vregs with an associated MonoInst are 'global' while others are 'local' */
1721         MonoInst **vreg_to_inst;
1722
1723         /* Size of above array */
1724         guint32 vreg_to_inst_len;
1725
1726         /* Marks vregs which hold a GC ref */
1727         /* FIXME: Use a bitmap */
1728         gboolean *vreg_is_ref;
1729
1730         /* Size of above array */
1731         guint32 vreg_is_ref_len;
1732
1733         /* Marks vregs which hold a managed pointer */
1734         /* FIXME: Use a bitmap */
1735         gboolean *vreg_is_mp;
1736
1737         /* Size of above array */
1738         guint32 vreg_is_mp_len;
1739
1740         /*
1741          * The original method to compile, differs from 'method' when doing generic
1742          * sharing.
1743          */
1744         MonoMethod *orig_method;
1745
1746         /* Patches which describe absolute addresses embedded into the native code */
1747         GHashTable *abs_patches;
1748
1749         /* If the arch passes valuetypes by address, then for methods
1750            which use JMP the arch code should use these local
1751            variables to store the addresses of incoming valuetypes.
1752            The addresses should be stored in mono_arch_emit_prolog()
1753            and can be used when emitting code for OP_JMP.  See
1754            mini-ppc.c. */
1755         MonoInst **tailcall_valuetype_addrs;
1756
1757         /* Used to implement move_i4_to_f on archs that can't do raw
1758         copy between an ireg and a freg. This is an int32 var.*/
1759         MonoInst *iconv_raw_var;
1760
1761         /* Used to implement fconv_to_r8_x. This is a double (8 bytes) var.*/
1762         MonoInst *fconv_to_r8_x_var;
1763
1764         /*Use to implement simd constructors. This is a vector (16 bytes) var.*/
1765         MonoInst *simd_ctor_var;
1766
1767         /* Used to implement dyn_call */
1768         MonoInst *dyn_call_var;
1769
1770         /*
1771          * List of sequence points represented as IL offset+native offset pairs.
1772          * Allocated using glib.
1773          * IL offset can be -1 or 0xffffff to refer to the sequence points
1774          * inside the prolog and epilog used to implement method entry/exit events.
1775          */
1776         GPtrArray *seq_points;
1777
1778         /* The encoded sequence point info */
1779         struct MonoSeqPointInfo *seq_point_info;
1780
1781         /* Method headers which need to be freed after compilation */
1782         GSList *headers_to_free;
1783
1784         /* Used by AOT */
1785         guint32 got_offset, ex_info_offset, method_info_offset, method_index;
1786         /* Symbol used to refer to this method in generated assembly */
1787         char *asm_symbol;
1788         char *asm_debug_symbol;
1789         char *llvm_method_name;
1790         int castclass_cache_index;
1791
1792         MonoJitExceptionInfo *llvm_ex_info;
1793         guint32 llvm_ex_info_len;
1794         int llvm_this_reg, llvm_this_offset;
1795
1796         GSList *try_block_holes;
1797
1798         /* DWARF location list for 'this' */
1799         GSList *this_loclist;
1800
1801         /* DWARF location list for 'rgctx_var' */
1802         GSList *rgctx_loclist;
1803
1804         int *gsharedvt_vreg_to_idx;
1805
1806         GSList *signatures;
1807
1808         /* GC Maps */
1809
1810         /* The offsets of the locals area relative to the frame pointer */
1811         gint locals_min_stack_offset, locals_max_stack_offset;
1812
1813         /* The current CFA rule */
1814         int cur_cfa_reg, cur_cfa_offset;
1815
1816         /* The final CFA rule at the end of the prolog */
1817         int cfa_reg, cfa_offset;
1818
1819         /* Points to a MonoCompileGC */
1820         gpointer gc_info;
1821
1822         /*
1823          * The encoded GC map along with its size. This contains binary data so it can be saved in an AOT
1824          * image etc, but it requires a 4 byte alignment.
1825          */
1826         guint8 *gc_map;
1827         guint32 gc_map_size;
1828
1829         /* Error handling */
1830         MonoError error;
1831
1832         /* Stats */
1833         int stat_allocate_var;
1834         int stat_locals_stack_size;
1835         int stat_basic_blocks;
1836         int stat_cil_code_size;
1837         int stat_n_regvars;
1838         int stat_inlineable_methods;
1839         int stat_inlined_methods;
1840         int stat_code_reallocs;
1841 } MonoCompile;
1842
1843 typedef enum {
1844         MONO_CFG_HAS_ALLOCA = 1 << 0,
1845         MONO_CFG_HAS_CALLS  = 1 << 1,
1846         MONO_CFG_HAS_LDELEMA  = 1 << 2,
1847         MONO_CFG_HAS_VARARGS  = 1 << 3,
1848         MONO_CFG_HAS_TAIL     = 1 << 4,
1849         MONO_CFG_HAS_FPOUT    = 1 << 5, /* there are fp values passed in int registers */
1850         MONO_CFG_HAS_SPILLUP  = 1 << 6, /* spill var slots are allocated from bottom to top */
1851         MONO_CFG_HAS_CHECK_THIS  = 1 << 7,
1852         MONO_CFG_HAS_ARRAY_ACCESS = 1 << 8
1853 } MonoCompileFlags;
1854
1855 typedef struct {
1856         gint32 methods_compiled;
1857         gint32 methods_aot;
1858         gint32 methods_lookups;
1859         gint32 allocate_var;
1860         gint32 cil_code_size;
1861         gint32 native_code_size;
1862         gint32 code_reallocs;
1863         gint32 max_code_size_ratio;
1864         gint32 biggest_method_size;
1865         gint32 allocated_code_size;
1866         gint32 allocated_seq_points_size;
1867         gint32 inlineable_methods;
1868         gint32 inlined_methods;
1869         gint32 basic_blocks;
1870         gint32 max_basic_blocks;
1871         gint32 locals_stack_size;
1872         gint32 regvars;
1873         gint32 generic_virtual_invocations;
1874         gint32 alias_found;
1875         gint32 alias_removed;
1876         gint32 loads_eliminated;
1877         gint32 stores_eliminated;
1878         int methods_with_llvm;
1879         int methods_without_llvm;
1880         char *max_ratio_method;
1881         char *biggest_method;
1882         double jit_time;
1883         gboolean enabled;
1884 } MonoJitStats;
1885
1886 extern MonoJitStats mono_jit_stats;
1887
1888 /* opcodes: value assigned after all the CIL opcodes */
1889 #ifdef MINI_OP
1890 #undef MINI_OP
1891 #endif
1892 #ifdef MINI_OP3
1893 #undef MINI_OP3
1894 #endif
1895 #define MINI_OP(a,b,dest,src1,src2) a,
1896 #define MINI_OP3(a,b,dest,src1,src2,src3) a,
1897 enum {
1898         OP_START = MONO_CEE_LAST - 1,
1899 #include "mini-ops.h"
1900         OP_LAST
1901 };
1902 #undef MINI_OP
1903 #undef MINI_OP3
1904
1905 #if SIZEOF_VOID_P == 8
1906 #define OP_PCONST OP_I8CONST
1907 #define OP_DUMMY_PCONST OP_DUMMY_I8CONST
1908 #define OP_PADD OP_LADD
1909 #define OP_PADD_IMM OP_LADD_IMM
1910 #define OP_PSUB_IMM OP_LSUB_IMM
1911 #define OP_PAND_IMM OP_LAND_IMM
1912 #define OP_PXOR_IMM OP_LXOR_IMM
1913 #define OP_PSUB OP_LSUB
1914 #define OP_PMUL OP_LMUL
1915 #define OP_PMUL_IMM OP_LMUL_IMM
1916 #define OP_PNEG OP_LNEG
1917 #define OP_PCONV_TO_I1 OP_LCONV_TO_I1
1918 #define OP_PCONV_TO_U1 OP_LCONV_TO_U1
1919 #define OP_PCONV_TO_I2 OP_LCONV_TO_I2
1920 #define OP_PCONV_TO_U2 OP_LCONV_TO_U2
1921 #define OP_PCONV_TO_OVF_I1_UN OP_LCONV_TO_OVF_I1_UN
1922 #define OP_PCONV_TO_OVF_I1 OP_LCONV_TO_OVF_I1
1923 #define OP_PBEQ OP_LBEQ
1924 #define OP_PCEQ OP_LCEQ
1925 #define OP_PBNE_UN OP_LBNE_UN
1926 #define OP_PBGE_UN OP_LBGE_UN
1927 #define OP_PBLT_UN OP_LBLT_UN
1928 #define OP_PBGE OP_LBGE
1929 #define OP_STOREP_MEMBASE_REG OP_STOREI8_MEMBASE_REG
1930 #define OP_STOREP_MEMBASE_IMM OP_STOREI8_MEMBASE_IMM
1931 #else
1932 #define OP_PCONST OP_ICONST
1933 #define OP_DUMMY_PCONST OP_DUMMY_ICONST
1934 #define OP_PADD OP_IADD
1935 #define OP_PADD_IMM OP_IADD_IMM
1936 #define OP_PSUB_IMM OP_ISUB_IMM
1937 #define OP_PAND_IMM OP_IAND_IMM
1938 #define OP_PXOR_IMM OP_IXOR_IMM
1939 #define OP_PSUB OP_ISUB
1940 #define OP_PMUL OP_IMUL
1941 #define OP_PMUL_IMM OP_IMUL_IMM
1942 #define OP_PNEG OP_INEG
1943 #define OP_PCONV_TO_I1 OP_ICONV_TO_I1
1944 #define OP_PCONV_TO_U1 OP_ICONV_TO_U1
1945 #define OP_PCONV_TO_I2 OP_ICONV_TO_I2
1946 #define OP_PCONV_TO_U2 OP_ICONV_TO_U2
1947 #define OP_PCONV_TO_OVF_I1_UN OP_ICONV_TO_OVF_I1_UN
1948 #define OP_PCONV_TO_OVF_I1 OP_ICONV_TO_OVF_I1
1949 #define OP_PBEQ OP_IBEQ
1950 #define OP_PCEQ OP_ICEQ
1951 #define OP_PBNE_UN OP_IBNE_UN
1952 #define OP_PBGE_UN OP_IBGE_UN
1953 #define OP_PBLT_UN OP_IBLT_UN
1954 #define OP_PBGE OP_IBGE
1955 #define OP_STOREP_MEMBASE_REG OP_STOREI4_MEMBASE_REG
1956 #define OP_STOREP_MEMBASE_IMM OP_STOREI4_MEMBASE_IMM
1957 #endif
1958
1959 /* Opcodes to load/store regsize quantities */
1960 #if defined (__mono_ilp32__)
1961 #define OP_LOADR_MEMBASE OP_LOADI8_MEMBASE
1962 #define OP_STORER_MEMBASE_REG OP_STOREI8_MEMBASE_REG
1963 #else
1964 #define OP_LOADR_MEMBASE OP_LOAD_MEMBASE
1965 #define OP_STORER_MEMBASE_REG OP_STORE_MEMBASE_REG
1966 #endif
1967
1968 typedef enum {
1969         STACK_INV,
1970         STACK_I4,
1971         STACK_I8,
1972         STACK_PTR,
1973         STACK_R8,
1974         STACK_MP,
1975         STACK_OBJ,
1976         STACK_VTYPE,
1977         STACK_R4,
1978         STACK_MAX
1979 } MonoStackType;
1980
1981 typedef struct {
1982         union {
1983                 double   r8;
1984                 gint32   i4;
1985                 gint64   i8;
1986                 gpointer p;
1987                 MonoClass *klass;
1988         } data;
1989         int type;
1990 } StackSlot;
1991
1992 #if HAVE_ARRAY_ELEM_INIT
1993 extern const guint8 mono_burg_arity [];
1994 #else
1995 extern guint8 mono_burg_arity [];
1996 #endif
1997
1998 extern const char MONO_ARCH_CPU_SPEC [];
1999 #define MONO_ARCH_CPU_SPEC_IDX_COMBINE(a) a ## _idx
2000 #define MONO_ARCH_CPU_SPEC_IDX(a) MONO_ARCH_CPU_SPEC_IDX_COMBINE(a)
2001 extern const guint16 MONO_ARCH_CPU_SPEC_IDX(MONO_ARCH_CPU_SPEC) [];
2002 #define ins_get_spec(op) ((const char*)&MONO_ARCH_CPU_SPEC + MONO_ARCH_CPU_SPEC_IDX(MONO_ARCH_CPU_SPEC)[(op) - OP_LOAD])
2003
2004 enum {
2005         MONO_COMP_DOM = 1,
2006         MONO_COMP_IDOM = 2,
2007         MONO_COMP_DFRONTIER = 4,
2008         MONO_COMP_DOM_REV = 8,
2009         MONO_COMP_LIVENESS = 16,
2010         MONO_COMP_SSA = 32,
2011         MONO_COMP_SSA_DEF_USE = 64,
2012         MONO_COMP_REACHABILITY = 128,
2013         MONO_COMP_LOOPS = 256
2014 };
2015
2016 typedef enum {
2017         MONO_GRAPH_CFG = 1,
2018         MONO_GRAPH_DTREE = 2,
2019         MONO_GRAPH_CFG_CODE = 4,
2020         MONO_GRAPH_CFG_SSA = 8,
2021         MONO_GRAPH_CFG_OPTCODE = 16
2022 } MonoGraphOptions;
2023
2024 typedef struct {
2025         guint16 size;
2026         guint16 offset;
2027         guint8  pad;
2028 } MonoJitArgumentInfo;
2029
2030 typedef struct {
2031         gboolean handle_sigint;
2032         gboolean keep_delegates;
2033         gboolean reverse_pinvoke_exceptions;
2034         gboolean collect_pagefault_stats;
2035         gboolean break_on_unverified;
2036         gboolean better_cast_details;
2037         gboolean mdb_optimizations;
2038         gboolean no_gdb_backtrace;
2039         gboolean suspend_on_sigsegv;
2040         gboolean suspend_on_exception;
2041         gboolean suspend_on_unhandled;
2042         gboolean dyn_runtime_invoke;
2043         gboolean gdb;
2044         gboolean arm_use_fallback_tls;
2045         /*
2046          * Whenever data such as next sequence points and flags is required.
2047          * Next sequence points and flags are required by the debugger agent.
2048          */
2049         gboolean gen_sdb_seq_points;
2050         gboolean gen_seq_points_compact_data;
2051         /*
2052          * Setting single_imm_size should guarantee that each time managed code is compiled
2053          * the same instructions and registers are used, regardless of the size of used values.
2054          */
2055         gboolean single_imm_size;
2056         gboolean explicit_null_checks;
2057         /*
2058          * Fill stack frames with 0x2a in method prologs. This helps with the
2059          * debugging of the stack marking code in the GC.
2060          */
2061         gboolean init_stacks;
2062
2063         /*
2064          * Whenever to implement single stepping and breakpoints without signals in the
2065          * soft debugger. This is useful on platforms without signals, like the ps3, or during
2066          * runtime debugging, since it avoids SIGSEGVs when a single step location or breakpoint
2067          * is hit.
2068          */
2069         gboolean soft_breakpoints;
2070         /*
2071          * Whenever to break in the debugger using G_BREAKPOINT on unhandled exceptions.
2072          */
2073         gboolean break_on_exc;
2074         /*
2075          * Load AOT JIT info eagerly.
2076          */
2077         gboolean load_aot_jit_info_eagerly;
2078         /*
2079          * Check for pinvoke calling convention mismatches.
2080          */
2081         gboolean check_pinvoke_callconv;
2082         /*
2083          * Translate Debugger.Break () into a native breakpoint signal
2084          */
2085         gboolean native_debugger_break;
2086 } MonoDebugOptions;
2087
2088 enum {
2089         BRANCH_NOT_TAKEN,
2090         BRANCH_TAKEN,
2091         BRANCH_UNDEF
2092 };
2093
2094 typedef enum {
2095         CMP_EQ,
2096         CMP_NE,
2097         CMP_LE,
2098         CMP_GE,
2099         CMP_LT,
2100         CMP_GT,
2101         CMP_LE_UN,
2102         CMP_GE_UN,
2103         CMP_LT_UN,
2104         CMP_GT_UN
2105 } CompRelation;
2106
2107 typedef enum {
2108         CMP_TYPE_L,
2109         CMP_TYPE_I,
2110         CMP_TYPE_F
2111 } CompType;
2112
2113 /* Implicit exceptions */
2114 enum {
2115         MONO_EXC_INDEX_OUT_OF_RANGE,
2116         MONO_EXC_OVERFLOW,
2117         MONO_EXC_ARITHMETIC,
2118         MONO_EXC_DIVIDE_BY_ZERO,
2119         MONO_EXC_INVALID_CAST,
2120         MONO_EXC_NULL_REF,
2121         MONO_EXC_ARRAY_TYPE_MISMATCH,
2122         MONO_EXC_ARGUMENT,
2123         MONO_EXC_INTRINS_NUM
2124 };
2125
2126 enum {
2127         MINI_TOKEN_SOURCE_CLASS,
2128         MINI_TOKEN_SOURCE_METHOD,
2129         MINI_TOKEN_SOURCE_FIELD
2130 };
2131
2132  /*
2133   * Information about a trampoline function.
2134   */
2135  typedef struct
2136  {
2137         /*
2138          * The native code of the trampoline. Not owned by this structure.
2139          */
2140         guint8 *code;
2141         guint32 code_size;
2142         /*
2143          * The name of the trampoline which can be used in AOT/xdebug. Owned by this
2144          * structure.
2145          */
2146         char *name;
2147         /*
2148          * Patches required by the trampoline when aot-ing. Owned by this structure.
2149          */
2150         MonoJumpInfo *ji;
2151         /*
2152          * Unwind information. Owned by this structure.
2153          */
2154         GSList *unwind_ops;
2155
2156          /*
2157           * Encoded unwind info loaded from AOT images
2158           */
2159          guint8 *uw_info;
2160          guint32 uw_info_len;
2161 } MonoTrampInfo;
2162
2163 typedef void (*MonoInstFunc) (MonoInst *tree, gpointer data);
2164
2165 enum {
2166         FILTER_IL_SEQ_POINT = 1 << 0,
2167         FILTER_NOP          = 1 << 1,
2168 };
2169
2170 static inline gboolean
2171 mono_inst_filter (MonoInst *ins, int filter)
2172 {
2173         if (!ins || !filter)
2174                 return FALSE;
2175
2176         if ((filter & FILTER_IL_SEQ_POINT) && ins->opcode == OP_IL_SEQ_POINT)
2177                 return TRUE;
2178
2179         if ((filter & FILTER_NOP) && ins->opcode == OP_NOP)
2180                 return TRUE;
2181
2182         return FALSE;
2183 }
2184
2185 static inline MonoInst*
2186 mono_inst_next (MonoInst *ins, int filter)
2187 {
2188         do {
2189                 ins = ins->next;
2190         } while (mono_inst_filter (ins, filter));
2191
2192         return ins;
2193 }
2194
2195 static inline MonoInst*
2196 mono_inst_prev (MonoInst *ins, int filter)
2197 {
2198         do {
2199                 ins = ins->prev;
2200         } while (mono_inst_filter (ins, filter));
2201
2202         return ins;
2203 }
2204
2205 static inline MonoInst*
2206 mono_bb_first_inst (MonoBasicBlock *bb, int filter)
2207 {
2208         MonoInst *ins = bb->code;
2209         if (mono_inst_filter (ins, filter))
2210                 ins = mono_inst_next (ins, filter);
2211
2212         return ins;
2213 }
2214
2215 static inline MonoInst*
2216 mono_bb_last_inst (MonoBasicBlock *bb, int filter)
2217 {
2218         MonoInst *ins = bb->last_ins;
2219         if (mono_inst_filter (ins, filter))
2220                 ins = mono_inst_prev (ins, filter);
2221
2222         return ins;
2223 }
2224
2225 /* main function */
2226 MONO_API int         mono_main                      (int argc, char* argv[]);
2227 MONO_API void        mono_set_defaults              (int verbose_level, guint32 opts);
2228 MONO_API void        mono_parse_env_options         (int *ref_argc, char **ref_argv []);
2229 MonoDomain* mini_init                      (const char *filename, const char *runtime_version);
2230 void        mini_cleanup                   (MonoDomain *domain);
2231 MONO_API MonoDebugOptions *mini_get_debug_options   (void);
2232
2233 /* helper methods */
2234 void      mini_jit_init                    (void);
2235 void      mini_jit_cleanup                 (void);
2236 void      mono_disable_optimizations       (guint32 opts);
2237 void      mono_set_optimizations           (guint32 opts);
2238 guint32   mono_get_optimizations_for_method (MonoMethod *method, guint32 default_opt);
2239 void      mono_set_verbose_level           (guint32 level);
2240 MonoJumpInfoToken* mono_jump_info_token_new (MonoMemPool *mp, MonoImage *image, guint32 token);
2241 MonoJumpInfoToken* mono_jump_info_token_new2 (MonoMemPool *mp, MonoImage *image, guint32 token, MonoGenericContext *context);
2242 MonoInst* mono_find_spvar_for_region        (MonoCompile *cfg, int region);
2243 MonoInst* mono_find_exvar_for_offset        (MonoCompile *cfg, int offset);
2244 int       mono_get_block_region_notry       (MonoCompile *cfg, int region) MONO_LLVM_INTERNAL;
2245
2246 void      mono_precompile_assemblies        (void);
2247 MONO_API int       mono_parse_default_optimizations  (const char* p);
2248 void      mono_bblock_add_inst              (MonoBasicBlock *bb, MonoInst *inst) MONO_LLVM_INTERNAL;
2249 void      mono_bblock_insert_after_ins      (MonoBasicBlock *bb, MonoInst *ins, MonoInst *ins_to_insert);
2250 void      mono_bblock_insert_before_ins     (MonoBasicBlock *bb, MonoInst *ins, MonoInst *ins_to_insert);
2251 void      mono_verify_bblock                (MonoBasicBlock *bb);
2252 void      mono_verify_cfg                   (MonoCompile *cfg);
2253 void      mono_constant_fold                (MonoCompile *cfg);
2254 MonoInst* mono_constant_fold_ins            (MonoCompile *cfg, MonoInst *ins, MonoInst *arg1, MonoInst *arg2, gboolean overwrite);
2255 int       mono_eval_cond_branch             (MonoInst *branch);
2256 int       mono_is_power_of_two              (guint32 val) MONO_LLVM_INTERNAL;
2257 void      mono_cprop_local                  (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst **acp, int acp_size);
2258 MonoInst* mono_compile_create_var           (MonoCompile *cfg, MonoType *type, int opcode);
2259 MonoInst* mono_compile_create_var_for_vreg  (MonoCompile *cfg, MonoType *type, int opcode, int vreg);
2260 void      mono_compile_make_var_load        (MonoCompile *cfg, MonoInst *dest, gssize var_index);
2261 MonoInst* mini_get_int_to_float_spill_area  (MonoCompile *cfg);
2262 MonoType* mono_type_from_stack_type         (MonoInst *ins);
2263 guint32   mono_alloc_ireg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2264 guint32   mono_alloc_lreg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2265 guint32   mono_alloc_freg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2266 guint32   mono_alloc_preg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2267 guint32   mono_alloc_dreg                   (MonoCompile *cfg, MonoStackType stack_type);
2268 guint32   mono_alloc_ireg_ref               (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2269 guint32   mono_alloc_ireg_mp                (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2270 guint32   mono_alloc_ireg_copy              (MonoCompile *cfg, guint32 vreg) MONO_LLVM_INTERNAL;
2271 void      mono_mark_vreg_as_ref             (MonoCompile *cfg, int vreg);
2272 void      mono_mark_vreg_as_mp              (MonoCompile *cfg, int vreg);
2273
2274 void      mono_link_bblock                  (MonoCompile *cfg, MonoBasicBlock *from, MonoBasicBlock* to);
2275 void      mono_unlink_bblock                (MonoCompile *cfg, MonoBasicBlock *from, MonoBasicBlock* to);
2276 gboolean  mono_bblocks_linked               (MonoBasicBlock *bb1, MonoBasicBlock *bb2);
2277 void      mono_remove_bblock                (MonoCompile *cfg, MonoBasicBlock *bb);
2278 void      mono_nullify_basic_block          (MonoBasicBlock *bb);
2279 void      mono_merge_basic_blocks           (MonoCompile *cfg, MonoBasicBlock *bb, MonoBasicBlock *bbn);
2280 void      mono_optimize_branches            (MonoCompile *cfg);
2281
2282 void      mono_blockset_print               (MonoCompile *cfg, MonoBitSet *set, const char *name, guint idom);
2283 const char*mono_ji_type_to_string           (MonoJumpInfoType type);
2284 void      mono_print_ji                     (const MonoJumpInfo *ji);
2285 void      mono_print_ins_index              (int i, MonoInst *ins);
2286 void      mono_print_ins                    (MonoInst *ins);
2287 void      mono_print_bb                     (MonoBasicBlock *bb, const char *msg);
2288 void      mono_print_code                   (MonoCompile *cfg, const char *msg);
2289 MONO_API void      mono_print_method_from_ip         (void *ip);
2290 MONO_API char     *mono_pmip                         (void *ip);
2291 gboolean  mono_debug_count                  (void);
2292 MONO_API const char* mono_inst_name                  (int op);
2293 int       mono_op_to_op_imm                 (int opcode);
2294 int       mono_op_imm_to_op                 (int opcode);
2295 int       mono_load_membase_to_load_mem     (int opcode);
2296 guint     mono_type_to_load_membase         (MonoCompile *cfg, MonoType *type);
2297 guint     mono_type_to_store_membase        (MonoCompile *cfg, MonoType *type);
2298 guint     mini_type_to_stind                (MonoCompile* cfg, MonoType *type);
2299 MonoJitInfo* mini_lookup_method             (MonoDomain *domain, MonoMethod *method, MonoMethod *shared);
2300 guint32   mono_reverse_branch_op            (guint32 opcode);
2301 void      mono_disassemble_code             (MonoCompile *cfg, guint8 *code, int size, char *id);
2302 void      mono_add_patch_info               (MonoCompile *cfg, int ip, MonoJumpInfoType type, gconstpointer target) MONO_LLVM_INTERNAL;
2303 void      mono_add_patch_info_rel           (MonoCompile *cfg, int ip, MonoJumpInfoType type, gconstpointer target, int relocation) MONO_LLVM_INTERNAL;
2304 void      mono_remove_patch_info            (MonoCompile *cfg, int ip);
2305 MonoJumpInfo* mono_patch_info_dup_mp        (MonoMemPool *mp, MonoJumpInfo *patch_info);
2306 guint     mono_patch_info_hash (gconstpointer data);
2307 gint      mono_patch_info_equal (gconstpointer ka, gconstpointer kb);
2308 MonoJumpInfo *mono_patch_info_list_prepend  (MonoJumpInfo *list, int ip, MonoJumpInfoType type, gconstpointer target);
2309 gpointer  mono_resolve_patch_target         (MonoMethod *method, MonoDomain *domain, guint8 *code, MonoJumpInfo *patch_info, gboolean run_cctors) MONO_LLVM_INTERNAL;
2310 gpointer  mono_jit_find_compiled_method_with_jit_info (MonoDomain *domain, MonoMethod *method, MonoJitInfo **ji);
2311 gpointer  mono_jit_find_compiled_method     (MonoDomain *domain, MonoMethod *method);
2312 gpointer  mono_jit_compile_method           (MonoMethod *method);
2313 gpointer  mono_jit_compile_method_inner     (MonoMethod *method, MonoDomain *target_domain, int opt, MonoException **jit_ex);
2314 MonoLMF * mono_get_lmf                      (void);
2315 MonoLMF** mono_get_lmf_addr                 (void);
2316 void      mono_set_lmf                      (MonoLMF *lmf);
2317 MonoJitTlsData* mono_get_jit_tls            (void);
2318 MONO_API MonoDomain *mono_jit_thread_attach          (MonoDomain *domain);
2319 MONO_API void      mono_jit_set_domain               (MonoDomain *domain);
2320 gint32    mono_get_jit_tls_offset           (void);
2321 gint32    mono_get_lmf_tls_offset           (void);
2322 gint32    mono_get_lmf_addr_tls_offset      (void);
2323 int       mini_get_tls_offset               (MonoTlsKey key);
2324 gboolean  mini_tls_get_supported            (MonoCompile *cfg, MonoTlsKey key);
2325 MonoInst* mono_create_tls_get               (MonoCompile *cfg, MonoTlsKey key);
2326 MonoInst* mono_get_jit_tls_intrinsic        (MonoCompile *cfg);
2327 MonoInst* mono_get_domain_intrinsic         (MonoCompile* cfg);
2328 MonoInst* mono_get_thread_intrinsic         (MonoCompile* cfg);
2329 MonoInst* mono_get_lmf_intrinsic            (MonoCompile* cfg);
2330 MonoInst* mono_get_lmf_addr_intrinsic       (MonoCompile* cfg);
2331 GList    *mono_varlist_insert_sorted        (MonoCompile *cfg, GList *list, MonoMethodVar *mv, int sort_type);
2332 GList    *mono_varlist_sort                 (MonoCompile *cfg, GList *list, int sort_type);
2333 void      mono_analyze_liveness             (MonoCompile *cfg);
2334 void      mono_analyze_liveness_gc          (MonoCompile *cfg);
2335 void      mono_linear_scan                  (MonoCompile *cfg, GList *vars, GList *regs, regmask_t *used_mask);
2336 void      mono_global_regalloc              (MonoCompile *cfg);
2337 void      mono_create_jump_table            (MonoCompile *cfg, MonoInst *label, MonoBasicBlock **bbs, int num_blocks);
2338 MonoCompile *mini_method_compile            (MonoMethod *method, guint32 opts, MonoDomain *domain, JitFlags flags, int parts, int aot_method_index);
2339 void      mono_destroy_compile              (MonoCompile *cfg);
2340 MonoJitICallInfo *mono_find_jit_opcode_emulation (int opcode);
2341 void      mono_print_ins_index (int i, MonoInst *ins);
2342 void      mono_print_ins (MonoInst *ins);
2343 gboolean  mini_assembly_can_skip_verification (MonoDomain *domain, MonoMethod *method);
2344 gboolean mono_compile_is_broken (MonoCompile *cfg, MonoMethod *method, gboolean fail_compile);
2345 MonoInst *mono_get_got_var (MonoCompile *cfg);
2346 void      mono_add_seq_point (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins, int native_offset);
2347 void      mono_add_var_location (MonoCompile *cfg, MonoInst *var, gboolean is_reg, int reg, int offset, int from, int to);
2348 MonoInst* mono_emit_jit_icall (MonoCompile *cfg, gconstpointer func, MonoInst **args);
2349 MonoInst* mono_emit_jit_icall_by_info (MonoCompile *cfg, MonoJitICallInfo *info, MonoInst **args);
2350 MonoInst* mono_emit_method_call (MonoCompile *cfg, MonoMethod *method, MonoInst **args, MonoInst *this_ins);
2351 void      mono_create_helper_signatures (void);
2352
2353 gboolean  mini_class_is_system_array (MonoClass *klass);
2354 MonoMethodSignature *mono_get_element_address_signature (int arity);
2355 MonoJitICallInfo    *mono_get_element_address_icall (int rank);
2356 MonoJitICallInfo    *mono_get_array_new_va_icall (int rank);
2357
2358 void      mono_linterval_add_range          (MonoCompile *cfg, MonoLiveInterval *interval, int from, int to);
2359 void      mono_linterval_print              (MonoLiveInterval *interval);
2360 void      mono_linterval_print_nl (MonoLiveInterval *interval);
2361 gboolean  mono_linterval_covers             (MonoLiveInterval *interval, int pos);
2362 gint32    mono_linterval_get_intersect_pos  (MonoLiveInterval *i1, MonoLiveInterval *i2);
2363 void      mono_linterval_split              (MonoCompile *cfg, MonoLiveInterval *interval, MonoLiveInterval **i1, MonoLiveInterval **i2, int pos);
2364 void      mono_liveness_handle_exception_clauses (MonoCompile *cfg);
2365
2366 /* Native Client functions */
2367 gpointer mono_realloc_native_code(MonoCompile *cfg);
2368 #ifdef __native_client_codegen__
2369 void mono_nacl_align_inst(guint8 **pcode, int instlen);
2370 void mono_nacl_align_call(guint8 **start, guint8 **pcode);
2371 guint8 *mono_nacl_pad_call(guint8 *code, guint8 ilength);
2372 guint8 *mono_nacl_align(guint8 *code);
2373 void mono_nacl_fix_patches(const guint8 *code, MonoJumpInfo *ji);
2374 /* Defined for each arch */
2375 guint8 *mono_arch_nacl_pad(guint8 *code, int pad);
2376 guint8 *mono_arch_nacl_skip_nops(guint8 *code);
2377
2378 #if defined(TARGET_X86)
2379 #define kNaClAlignment kNaClAlignmentX86
2380 #define kNaClAlignmentMask kNaClAlignmentMaskX86
2381 #elif defined(TARGET_AMD64)
2382 #define kNaClAlignment kNaClAlignmentAMD64
2383 #define kNaClAlignmentMask kNaClAlignmentMaskAMD64
2384 #elif defined(TARGET_ARM)
2385 #define kNaClAlignment kNaClAlignmentARM
2386 #define kNaClAlignmentMask kNaClAlignmentMaskARM
2387 #endif
2388
2389 #define NACL_BUNDLE_ALIGN_UP(p) ((((p)+kNaClAlignmentMask)) & ~kNaClAlignmentMask)
2390 #endif
2391
2392 #if defined(__native_client__) || defined(__native_client_codegen__)
2393 extern volatile int __nacl_thread_suspension_needed;
2394 void __nacl_suspend_thread_if_needed(void);
2395 void mono_nacl_gc(void);
2396 #endif
2397
2398 #if defined(__native_client_codegen__) || defined(__native_client__)
2399 #define NACL_SIZE(a, b) (b)
2400 #else
2401 #define NACL_SIZE(a, b) (a)
2402 #endif
2403
2404 extern MonoDebugOptions debug_options;
2405
2406 static inline MonoMethod*
2407 jinfo_get_method (MonoJitInfo *ji)
2408 {
2409         return mono_jit_info_get_method (ji);
2410 }
2411
2412 /* AOT */
2413 void      mono_aot_init                     (void);
2414 void      mono_aot_cleanup                  (void);
2415 gpointer  mono_aot_get_method               (MonoDomain *domain,
2416                                                                                          MonoMethod *method);
2417 gpointer  mono_aot_get_method_from_token    (MonoDomain *domain, MonoImage *image, guint32 token);
2418 gboolean  mono_aot_is_got_entry             (guint8 *code, guint8 *addr);
2419 guint8*   mono_aot_get_plt_entry            (guint8 *code);
2420 guint32   mono_aot_get_plt_info_offset      (mgreg_t *regs, guint8 *code);
2421 gboolean  mono_aot_get_cached_class_info    (MonoClass *klass, MonoCachedClassInfo *res);
2422 gboolean  mono_aot_get_class_from_name      (MonoImage *image, const char *name_space, const char *name, MonoClass **klass);
2423 MonoJitInfo* mono_aot_find_jit_info         (MonoDomain *domain, MonoImage *image, gpointer addr);
2424 gpointer mono_aot_plt_resolve               (gpointer aot_module, guint32 plt_info_offset, guint8 *code);
2425 void     mono_aot_patch_plt_entry           (guint8 *code, guint8 *plt_entry, gpointer *got, mgreg_t *regs, guint8 *addr);
2426 gpointer mono_aot_get_method_from_vt_slot   (MonoDomain *domain, MonoVTable *vtable, int slot);
2427 gpointer mono_aot_create_specific_trampoline   (MonoImage *image, gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2428 gpointer mono_aot_get_trampoline            (const char *name);
2429 gpointer mono_aot_get_trampoline_full       (const char *name, MonoTrampInfo **out_tinfo);
2430 gpointer mono_aot_get_unbox_trampoline      (MonoMethod *method);
2431 gpointer mono_aot_get_lazy_fetch_trampoline (guint32 slot);
2432 gpointer mono_aot_get_static_rgctx_trampoline (gpointer ctx, gpointer addr);
2433 gpointer mono_aot_get_imt_thunk             (MonoVTable *vtable, MonoDomain *domain, MonoIMTCheckItem **imt_entries, int count, gpointer fail_tramp);
2434 gpointer mono_aot_get_gsharedvt_arg_trampoline(gpointer arg, gpointer addr);
2435 guint8*  mono_aot_get_unwind_info           (MonoJitInfo *ji, guint32 *unwind_info_len);
2436 guint32  mono_aot_method_hash               (MonoMethod *method);
2437 MonoMethod* mono_aot_get_array_helper_from_wrapper (MonoMethod *method);
2438 void     mono_aot_set_make_unreadable       (gboolean unreadable);
2439 gboolean mono_aot_is_pagefault              (void *ptr);
2440 void     mono_aot_handle_pagefault          (void *ptr);
2441 void     mono_aot_register_jit_icall        (const char *name, gpointer addr);
2442 guint32  mono_aot_find_method_index         (MonoMethod *method);
2443 void     mono_aot_init_llvm_method          (gpointer aot_module, guint32 method_index);
2444 void     mono_aot_init_gshared_method_this  (gpointer aot_module, guint32 method_index, MonoObject *this_ins);
2445 void     mono_aot_init_gshared_method_rgctx  (gpointer aot_module, guint32 method_index, MonoMethodRuntimeGenericContext *rgctx);
2446
2447 /* This is an exported function */
2448 MONO_API void     mono_aot_register_module           (gpointer *aot_info);
2449
2450 /* These are used to load the AOT data for aot images compiled with MONO_AOT_FILE_FLAG_SEPARATE_DATA */
2451 /*
2452  * Return the AOT data for ASSEMBLY. SIZE is the size of the data. OUT_HANDLE should be set to a handle which is later
2453  * passed to the free function.
2454  */
2455 typedef unsigned char* (*MonoLoadAotDataFunc)          (MonoAssembly *assembly, int size, gpointer user_data, void **out_handle);
2456 /* Not yet used */
2457 typedef void  (*MonoFreeAotDataFunc)          (MonoAssembly *assembly, int size, gpointer user_data, void *handle);
2458 MONO_API void mono_install_load_aot_data_hook (MonoLoadAotDataFunc load_func, MonoFreeAotDataFunc free_func, gpointer user_data);
2459
2460 void     mono_xdebug_init                   (const char *xdebug_opts);
2461 void     mono_save_xdebug_info              (MonoCompile *cfg);
2462 void     mono_save_trampoline_xdebug_info   (MonoTrampInfo *info);
2463 /* This is an exported function */
2464 void     mono_xdebug_flush                  (void);
2465
2466 gboolean  mono_method_blittable             (MonoMethod *method);
2467 gboolean  mono_method_same_domain           (MonoJitInfo *caller, MonoJitInfo *callee);
2468
2469 void      mono_register_opcode_emulation    (int opcode, const char* name, const char *sigstr, gpointer func, gboolean no_throw);
2470 void      mono_draw_graph                   (MonoCompile *cfg, MonoGraphOptions draw_options);
2471 void      mono_add_ins_to_end               (MonoBasicBlock *bb, MonoInst *inst);
2472 gpointer  mono_create_ftnptr                (MonoDomain *domain, gpointer addr);
2473
2474 MONO_API void      mono_replace_ins                  (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins, MonoInst **prev, MonoBasicBlock *first_bb, MonoBasicBlock *last_bb);
2475
2476 int               mono_find_method_opcode      (MonoMethod *method);
2477 MonoJitICallInfo *mono_register_jit_icall      (gconstpointer func, const char *name, MonoMethodSignature *sig, gboolean is_save);
2478 gconstpointer     mono_icall_get_wrapper       (MonoJitICallInfo* callinfo) MONO_LLVM_INTERNAL;
2479 gconstpointer     mono_icall_get_wrapper_full  (MonoJitICallInfo* callinfo, gboolean do_compile);
2480 void              mini_register_opcode_emulation (int opcode, const char *name, const char *sigstr, gpointer func, const char *symbol, gboolean no_throw);
2481
2482 void              mono_trampolines_init (void);
2483 void              mono_trampolines_cleanup (void);
2484 guint8 *          mono_get_trampoline_code (MonoTrampolineType tramp_type);
2485 gpointer          mono_create_specific_trampoline (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2486 gpointer          mono_create_jump_trampoline (MonoDomain *domain,
2487                                                                                            MonoMethod *method,
2488                                                                                            gboolean add_sync_wrapper);
2489 gpointer          mono_create_class_init_trampoline (MonoVTable *vtable);
2490 gpointer          mono_create_jit_trampoline (MonoMethod *method);
2491 gpointer          mono_create_jit_trampoline_from_token (MonoImage *image, guint32 token);
2492 gpointer          mono_create_jit_trampoline_in_domain (MonoDomain *domain, MonoMethod *method) MONO_LLVM_INTERNAL;
2493 gpointer          mono_create_delegate_trampoline (MonoDomain *domain, MonoClass *klass);
2494 MonoDelegateTrampInfo* mono_create_delegate_trampoline_info (MonoDomain *domain, MonoClass *klass, MonoMethod *method);
2495 gpointer          mono_create_delegate_virtual_trampoline (MonoDomain *domain, MonoClass *klass, MonoMethod *method);
2496 gpointer          mono_create_rgctx_lazy_fetch_trampoline (guint32 offset);
2497 gpointer          mono_create_monitor_enter_trampoline (void);
2498 gpointer          mono_create_monitor_enter_v4_trampoline (void);
2499 gpointer          mono_create_monitor_exit_trampoline (void);
2500 gpointer          mono_create_static_rgctx_trampoline (MonoMethod *m, gpointer addr);
2501 MonoVTable*       mono_find_class_init_trampoline_by_addr (gconstpointer addr);
2502 guint32           mono_find_rgctx_lazy_fetch_trampoline_by_addr (gconstpointer addr);
2503 gpointer          mono_magic_trampoline (mgreg_t *regs, guint8 *code, gpointer arg, guint8* tramp);
2504 #ifndef DISABLE_REMOTING
2505 gpointer          mono_generic_virtual_remoting_trampoline (mgreg_t *regs, guint8 *code, MonoMethod *m, guint8 *tramp);
2506 #endif
2507 gpointer          mono_delegate_trampoline (mgreg_t *regs, guint8 *code, gpointer *tramp_data, guint8* tramp);
2508 gpointer          mono_aot_trampoline (mgreg_t *regs, guint8 *code, guint8 *token_info,
2509                                                                            guint8* tramp);
2510 gpointer          mono_aot_plt_trampoline (mgreg_t *regs, guint8 *code, guint8 *token_info,
2511                                                                                    guint8* tramp);
2512 void              mono_class_init_trampoline (mgreg_t *regs, guint8 *code, MonoVTable *vtable, guint8 *tramp);
2513 void              mono_generic_class_init_trampoline (mgreg_t *regs, guint8 *code, MonoVTable *vtable, guint8 *tramp);
2514 void              mono_monitor_enter_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2515 void              mono_monitor_enter_v4_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2516 void              mono_monitor_exit_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2517 gconstpointer     mono_get_trampoline_func (MonoTrampolineType tramp_type);
2518 gpointer          mini_get_vtable_trampoline (MonoVTable *vt, int slot_index);
2519 const char*       mono_get_generic_trampoline_simple_name (MonoTrampolineType tramp_type);
2520 char*             mono_get_generic_trampoline_name (MonoTrampolineType tramp_type);
2521 char*             mono_get_rgctx_fetch_trampoline_name (int slot);
2522 gpointer          mini_get_nullified_class_init_trampoline (void);
2523 gpointer          mini_get_single_step_trampoline (void);
2524 gpointer          mini_get_breakpoint_trampoline (void);
2525 gpointer          mini_add_method_trampoline (MonoMethod *m, gpointer compiled_method, gboolean add_static_rgctx_tramp, gboolean add_unbox_tramp);
2526 gpointer          mini_add_method_wrappers_llvmonly (MonoMethod *m, gpointer compiled_method, gboolean caller_gsharedvt, gboolean add_unbox_tramp, gpointer *out_arg);
2527 gboolean          mini_jit_info_is_gsharedvt (MonoJitInfo *ji);
2528 gpointer*         mini_resolve_imt_method (MonoVTable *vt, gpointer *vtable_slot, MonoMethod *imt_method, MonoMethod **impl_method, gpointer *out_aot_addr,
2529                                                                                    gboolean *out_need_rgctx_tramp, MonoMethod **variant_iface);
2530 MonoFtnDesc      *mini_create_llvmonly_ftndesc (MonoDomain *domain, gpointer addr, gpointer arg);
2531
2532 gboolean          mono_running_on_valgrind (void);
2533 void*             mono_global_codeman_reserve (int size);
2534 void*             nacl_global_codeman_get_dest(void *data);
2535 void              mono_global_codeman_commit(void *data, int size, int newsize);
2536 void              nacl_global_codeman_validate(guint8 **buf_base, int buf_size, guint8 **code_end);
2537 const char       *mono_regname_full (int reg, int bank);
2538 gint32*           mono_allocate_stack_slots (MonoCompile *cfg, gboolean backward, guint32 *stack_size, guint32 *stack_align);
2539 void              mono_local_regalloc (MonoCompile *cfg, MonoBasicBlock *bb);
2540 MonoInst         *mono_branch_optimize_exception_target (MonoCompile *cfg, MonoBasicBlock *bb, const char * exname);
2541 void              mono_remove_critical_edges (MonoCompile *cfg);
2542 gboolean          mono_is_regsize_var (MonoType *t);
2543 void              mini_emit_memcpy (MonoCompile *cfg, int destreg, int doffset, int srcreg, int soffset, int size, int align);
2544 void              mini_emit_stobj (MonoCompile *cfg, MonoInst *dest, MonoInst *src, MonoClass *klass, gboolean native);
2545 void              mini_emit_initobj (MonoCompile *cfg, MonoInst *dest, const guchar *ip, MonoClass *klass);
2546 CompRelation      mono_opcode_to_cond (int opcode) MONO_LLVM_INTERNAL;
2547 CompType          mono_opcode_to_type (int opcode, int cmp_opcode);
2548 CompRelation      mono_negate_cond (CompRelation cond);
2549 int               mono_op_imm_to_op (int opcode);
2550 void              mono_decompose_op_imm (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins);
2551 void              mono_peephole_ins (MonoBasicBlock *bb, MonoInst *ins);
2552 MonoUnwindOp     *mono_create_unwind_op (int when,
2553                                                                                  int tag, int reg,
2554                                                                                  int val);
2555 void              mono_emit_unwind_op (MonoCompile *cfg, int when,
2556                                                                            int tag, int reg,
2557                                                                            int val);
2558 MonoTrampInfo*    mono_tramp_info_create (const char *name, guint8 *code, guint32 code_size, MonoJumpInfo *ji, GSList *unwind_ops);
2559 void              mono_tramp_info_free (MonoTrampInfo *info);
2560 void              mono_tramp_info_register (MonoTrampInfo *info, MonoDomain *domain);
2561 int               mini_exception_id_by_name (const char *name);
2562 gboolean          mini_type_is_hfa (MonoType *t, int *out_nfields, int *out_esize) MONO_LLVM_INTERNAL;
2563
2564 int               mono_method_to_ir (MonoCompile *cfg, MonoMethod *method, MonoBasicBlock *start_bblock, MonoBasicBlock *end_bblock,
2565                                                                          MonoInst *return_var, MonoInst **inline_args,
2566                                                                          guint inline_offset, gboolean is_virtual_call);
2567
2568 MonoInst         *mono_decompose_opcode (MonoCompile *cfg, MonoInst *ins);
2569 void              mono_decompose_long_opts (MonoCompile *cfg);
2570 void              mono_decompose_vtype_opts (MonoCompile *cfg);
2571 void              mono_decompose_array_access_opts (MonoCompile *cfg);
2572 void              mono_decompose_soft_float (MonoCompile *cfg);
2573 void              mono_handle_global_vregs (MonoCompile *cfg);
2574 void              mono_spill_global_vars (MonoCompile *cfg, gboolean *need_local_opts);
2575 void              mono_allocate_gsharedvt_vars (MonoCompile *cfg);
2576 void              mono_if_conversion (MonoCompile *cfg);
2577
2578 /* virtual function delegate */
2579 gpointer          mono_get_delegate_virtual_invoke_impl  (MonoMethodSignature *sig, MonoMethod *method);
2580
2581 /* methods that must be provided by the arch-specific port */
2582 void      mono_arch_init                        (void);
2583 void      mono_arch_finish_init                 (void);
2584 void      mono_arch_cleanup                     (void);
2585 void      mono_arch_cpu_init                    (void);
2586 guint32   mono_arch_cpu_optimizations           (guint32 *exclude_mask);
2587 void      mono_arch_instrument_mem_needs        (MonoMethod *method, int *stack, int *code);
2588 void     *mono_arch_instrument_prolog           (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments);
2589 void     *mono_arch_instrument_epilog           (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments);
2590 void     *mono_arch_instrument_epilog_full     (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments, gboolean preserve_argument_registers);
2591 void      mono_codegen                          (MonoCompile *cfg);
2592 void      mono_call_inst_add_outarg_reg         (MonoCompile *cfg, MonoCallInst *call, int vreg, int hreg, int bank) MONO_LLVM_INTERNAL;
2593 void      mono_call_inst_add_outarg_vt          (MonoCompile *cfg, MonoCallInst *call, MonoInst *outarg_vt);
2594 const char *mono_arch_regname                   (int reg);
2595 const char *mono_arch_fregname                  (int reg);
2596 void      mono_arch_exceptions_init             (void);
2597 guchar*   mono_arch_create_generic_trampoline   (MonoTrampolineType tramp_type, MonoTrampInfo **info, gboolean aot);
2598 gpointer  mono_arch_create_rgctx_lazy_fetch_trampoline (guint32 slot, MonoTrampInfo **info, gboolean aot);
2599 gpointer  mono_arch_create_general_rgctx_lazy_fetch_trampoline (MonoTrampInfo **info, gboolean aot);
2600 gpointer  mono_arch_get_nullified_class_init_trampoline (MonoTrampInfo **info);
2601 guint8*   mono_arch_create_sdb_trampoline (gboolean single_step, MonoTrampInfo **info, gboolean aot);
2602 gpointer  mono_arch_create_monitor_enter_trampoline (MonoTrampInfo **info, gboolean is_v4, gboolean aot);
2603 gpointer  mono_arch_create_monitor_exit_trampoline (MonoTrampInfo **info, gboolean aot);
2604 guint8   *mono_arch_create_llvm_native_thunk     (MonoDomain *domain, guint8* addr) MONO_LLVM_INTERNAL;
2605 GList    *mono_arch_get_allocatable_int_vars    (MonoCompile *cfg);
2606 GList    *mono_arch_get_global_int_regs         (MonoCompile *cfg);
2607 GList    *mono_arch_get_global_fp_regs          (MonoCompile *cfg);
2608 GList    *mono_arch_get_iregs_clobbered_by_call (MonoCallInst *call);
2609 GList    *mono_arch_get_fregs_clobbered_by_call (MonoCallInst *call);
2610 guint32   mono_arch_regalloc_cost               (MonoCompile *cfg, MonoMethodVar *vmv);
2611 void      mono_arch_patch_code                  (MonoCompile *cfg, MonoMethod *method, MonoDomain *domain, guint8 *code, MonoJumpInfo *ji, gboolean run_cctors);
2612 void      mono_arch_patch_code_new              (MonoCompile *cfg, MonoDomain *domain, guint8 *code, MonoJumpInfo *ji, gpointer target);
2613 void      mono_arch_flush_icache                (guint8 *code, gint size);
2614 int       mono_arch_max_epilog_size             (MonoCompile *cfg);
2615 guint8   *mono_arch_emit_prolog                 (MonoCompile *cfg);
2616 void      mono_arch_emit_epilog                 (MonoCompile *cfg);
2617 void      mono_arch_emit_exceptions             (MonoCompile *cfg);
2618 void      mono_arch_lowering_pass               (MonoCompile *cfg, MonoBasicBlock *bb);
2619 void      mono_arch_peephole_pass_1             (MonoCompile *cfg, MonoBasicBlock *bb);
2620 void      mono_arch_peephole_pass_2             (MonoCompile *cfg, MonoBasicBlock *bb);
2621 void      mono_arch_output_basic_block          (MonoCompile *cfg, MonoBasicBlock *bb);
2622 void      mono_arch_free_jit_tls_data           (MonoJitTlsData *tls);
2623 void      mono_arch_fill_argument_info          (MonoCompile *cfg);
2624 void      mono_arch_allocate_vars               (MonoCompile *m);
2625 int       mono_arch_get_argument_info           (MonoMethodSignature *csig, int param_count, MonoJitArgumentInfo *arg_info);
2626 gboolean  mono_arch_print_tree                          (MonoInst *tree, int arity);
2627 void      mono_arch_emit_call                   (MonoCompile *cfg, MonoCallInst *call);
2628 void      mono_arch_emit_outarg_vt              (MonoCompile *cfg, MonoInst *ins, MonoInst *src);
2629 void      mono_arch_emit_setret                 (MonoCompile *cfg, MonoMethod *method, MonoInst *val);
2630 MonoDynCallInfo *mono_arch_dyn_call_prepare     (MonoMethodSignature *sig);
2631 void      mono_arch_dyn_call_free               (MonoDynCallInfo *info);
2632 void      mono_arch_start_dyn_call              (MonoDynCallInfo *info, gpointer **args, guint8 *ret, guint8 *buf, int buf_len);
2633 void      mono_arch_finish_dyn_call             (MonoDynCallInfo *info, guint8 *buf);
2634 MonoInst *mono_arch_emit_inst_for_method        (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
2635 void      mono_arch_decompose_opts              (MonoCompile *cfg, MonoInst *ins);
2636 void      mono_arch_decompose_long_opts         (MonoCompile *cfg, MonoInst *ins);
2637 GSList*   mono_arch_get_delegate_invoke_impls   (void);
2638 LLVMCallInfo* mono_arch_get_llvm_call_info      (MonoCompile *cfg, MonoMethodSignature *sig) MONO_LLVM_INTERNAL;
2639 guint8*   mono_arch_emit_load_got_addr          (guint8 *start, guint8 *code, MonoCompile *cfg, MonoJumpInfo **ji);
2640 guint8*   mono_arch_emit_load_aotconst          (guint8 *start, guint8 *code, MonoJumpInfo **ji, MonoJumpInfoType tramp_type, gconstpointer target);
2641 GSList*   mono_arch_get_cie_program             (void);
2642 void      mono_arch_set_target                  (char *mtriple);
2643 gboolean  mono_arch_gsharedvt_sig_supported     (MonoMethodSignature *sig);
2644 gpointer  mono_arch_get_gsharedvt_trampoline    (MonoTrampInfo **info, gboolean aot);
2645 gpointer  mono_arch_get_gsharedvt_call_info     (gpointer addr, MonoMethodSignature *normal_sig, MonoMethodSignature *gsharedvt_sig, gboolean gsharedvt_in, gint32 vcall_offset, gboolean calli);
2646 gboolean  mono_arch_opcode_needs_emulation      (MonoCompile *cfg, int opcode);
2647 gboolean  mono_arch_tail_call_supported         (MonoCompile *cfg, MonoMethodSignature *caller_sig, MonoMethodSignature *callee_sig);
2648 int       mono_arch_translate_tls_offset        (int offset);
2649 gboolean  mono_arch_opcode_supported            (int opcode);
2650 void     mono_arch_setup_resume_sighandler_ctx  (MonoContext *ctx, gpointer func);
2651
2652 #ifdef MONO_ARCH_SOFT_FLOAT_FALLBACK
2653 gboolean  mono_arch_is_soft_float               (void);
2654 #else
2655 static inline MONO_ALWAYS_INLINE gboolean
2656 mono_arch_is_soft_float (void)
2657 {
2658         return FALSE;
2659 }
2660 #endif
2661
2662 /* Soft Debug support */
2663 #ifdef MONO_ARCH_SOFT_DEBUG_SUPPORTED
2664 void      mono_arch_set_breakpoint              (MonoJitInfo *ji, guint8 *ip);
2665 void      mono_arch_clear_breakpoint            (MonoJitInfo *ji, guint8 *ip);
2666 void      mono_arch_start_single_stepping       (void);
2667 void      mono_arch_stop_single_stepping        (void);
2668 gboolean  mono_arch_is_single_step_event        (void *info, void *sigctx);
2669 gboolean  mono_arch_is_breakpoint_event         (void *info, void *sigctx);
2670 void     mono_arch_skip_breakpoint              (MonoContext *ctx, MonoJitInfo *ji);
2671 void     mono_arch_skip_single_step             (MonoContext *ctx);
2672 gpointer mono_arch_get_seq_point_info           (MonoDomain *domain, guint8 *code);
2673 void     mono_arch_init_lmf_ext                 (MonoLMFExt *ext, gpointer prev_lmf);
2674 #endif
2675
2676 #ifdef USE_JUMP_TABLES
2677 void
2678 mono_jumptable_init  (void);
2679 gpointer*
2680 mono_jumptable_add_entry (void);
2681 gpointer*
2682 mono_jumptable_add_entries (guint32 entries);
2683 void
2684 mono_jumptable_cleanup  (void);
2685 gpointer*
2686 mono_arch_jumptable_entry_from_code (guint8 *code);
2687 gpointer*
2688 mono_jumptable_get_entry (guint8 *code);
2689 #endif
2690
2691 gboolean
2692 mono_arch_unwind_frame (MonoDomain *domain, MonoJitTlsData *jit_tls,
2693                                                 MonoJitInfo *ji, MonoContext *ctx,
2694                                                 MonoContext *new_ctx, MonoLMF **lmf,
2695                                                 mgreg_t **save_locations,
2696                                                 StackFrameInfo *frame_info);
2697 gpointer  mono_arch_get_throw_exception_by_name (void);
2698 gpointer mono_arch_get_call_filter              (MonoTrampInfo **info, gboolean aot);
2699 gpointer mono_arch_get_restore_context          (MonoTrampInfo **info, gboolean aot);
2700 gpointer  mono_arch_get_throw_exception         (MonoTrampInfo **info, gboolean aot);
2701 gpointer  mono_arch_get_rethrow_exception       (MonoTrampInfo **info, gboolean aot);
2702 gpointer  mono_arch_get_throw_corlib_exception  (MonoTrampInfo **info, gboolean aot);
2703 gpointer  mono_arch_get_throw_pending_exception (MonoTrampInfo **info, gboolean aot);
2704 gboolean mono_arch_handle_exception             (void *sigctx, gpointer obj);
2705 void     mono_arch_handle_altstack_exception    (void *sigctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo, gpointer fault_addr, gboolean stack_ovf);
2706 gboolean mono_handle_soft_stack_ovf             (MonoJitTlsData *jit_tls, MonoJitInfo *ji, void *ctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo, guint8* fault_addr);
2707 void     mono_handle_hard_stack_ovf             (MonoJitTlsData *jit_tls, MonoJitInfo *ji, void *ctx, guint8* fault_addr);
2708 gpointer mono_arch_ip_from_context              (void *sigctx);
2709 mgreg_t mono_arch_context_get_int_reg               (MonoContext *ctx, int reg);
2710 void     mono_arch_context_set_int_reg              (MonoContext *ctx, int reg, mgreg_t val);
2711 void     mono_arch_flush_register_windows       (void);
2712 gboolean mono_arch_is_inst_imm                  (gint64 imm);
2713 gboolean mono_arch_is_int_overflow              (void *sigctx, void *info);
2714 void     mono_arch_invalidate_method            (MonoJitInfo *ji, void *func, gpointer func_arg);
2715 guint32  mono_arch_get_patch_offset             (guint8 *code);
2716 gpointer*mono_arch_get_delegate_method_ptr_addr (guint8* code, mgreg_t *regs);
2717 void     mono_arch_create_vars                  (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2718 void     mono_arch_save_unwind_info             (MonoCompile *cfg);
2719 void     mono_arch_register_lowlevel_calls      (void);
2720 gpointer mono_arch_get_unbox_trampoline         (MonoMethod *m, gpointer addr);
2721 gpointer mono_arch_get_static_rgctx_trampoline  (MonoMethod *m, MonoMethodRuntimeGenericContext *mrgctx, gpointer addr);
2722 gpointer  mono_arch_get_llvm_imt_trampoline     (MonoDomain *domain, MonoMethod *method, int vt_offset);
2723 gpointer mono_arch_get_gsharedvt_arg_trampoline (MonoDomain *domain, gpointer arg, gpointer addr);
2724 void     mono_arch_patch_callsite               (guint8 *method_start, guint8 *code, guint8 *addr);
2725 void     mono_arch_patch_plt_entry              (guint8 *code, gpointer *got, mgreg_t *regs, guint8 *addr);
2726 void     mono_arch_nullify_class_init_trampoline(guint8 *code, mgreg_t *regs);
2727 int      mono_arch_get_this_arg_reg             (guint8 *code);
2728 gpointer mono_arch_get_this_arg_from_call       (mgreg_t *regs, guint8 *code);
2729 gpointer mono_arch_get_delegate_invoke_impl     (MonoMethodSignature *sig, gboolean has_target);
2730 gpointer mono_arch_get_delegate_virtual_invoke_impl (MonoMethodSignature *sig, MonoMethod *method, int offset, gboolean load_imt_reg);
2731 gpointer mono_arch_create_specific_trampoline   (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2732 MonoMethod* mono_arch_find_imt_method           (mgreg_t *regs, guint8 *code);
2733 MonoVTable* mono_arch_find_static_call_vtable   (mgreg_t *regs, guint8 *code);
2734 gpointer    mono_arch_build_imt_thunk           (MonoVTable *vtable, MonoDomain *domain, MonoIMTCheckItem **imt_entries, int count, gpointer fail_tramp);
2735 void    mono_arch_notify_pending_exc            (MonoThreadInfo *info);
2736 guint8* mono_arch_get_call_target               (guint8 *code);
2737 guint32 mono_arch_get_plt_info_offset           (guint8 *plt_entry, mgreg_t *regs, guint8 *code);
2738 GSList *mono_arch_get_trampolines               (gboolean aot);
2739
2740 /* Handle block guard */
2741 gpointer mono_arch_install_handler_block_guard (MonoJitInfo *ji, MonoJitExceptionInfo *clause, MonoContext *ctx, gpointer new_value);
2742 gpointer mono_arch_create_handler_block_trampoline (MonoTrampInfo **info, gboolean aot);
2743 gpointer mono_create_handler_block_trampoline (void);
2744 gboolean mono_install_handler_block_guard (MonoThreadUnwindState *ctx);
2745
2746 /*New interruption machinery */
2747 void
2748 mono_setup_async_callback (MonoContext *ctx, void (*async_cb)(void *fun), gpointer user_data);
2749
2750 void
2751 mono_arch_setup_async_callback (MonoContext *ctx, void (*async_cb)(void *fun), gpointer user_data);
2752
2753 gboolean
2754 mono_thread_state_init_from_handle (MonoThreadUnwindState *tctx, MonoThreadInfo *info);
2755
2756
2757 /* Exception handling */
2758 typedef gboolean (*MonoJitStackWalk)            (StackFrameInfo *frame, MonoContext *ctx, gpointer data);
2759
2760 void     mono_exceptions_init                   (void);
2761 gboolean mono_handle_exception                  (MonoContext *ctx, MonoObject *obj);
2762 void     mono_handle_native_sigsegv             (int signal, void *sigctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo);
2763 MONO_API void     mono_print_thread_dump                 (void *sigctx);
2764 MONO_API void     mono_print_thread_dump_from_ctx        (MonoContext *ctx);
2765 void     mono_walk_stack_with_ctx               (MonoJitStackWalk func, MonoContext *start_ctx, MonoUnwindOptions unwind_options, void *user_data);
2766 void     mono_walk_stack_with_state             (MonoJitStackWalk func, MonoThreadUnwindState *state, MonoUnwindOptions unwind_options, void *user_data);
2767 void     mono_walk_stack                        (MonoJitStackWalk func, MonoUnwindOptions options, void *user_data);
2768 gboolean mono_thread_state_init_from_sigctx     (MonoThreadUnwindState *ctx, void *sigctx);
2769 void     mono_thread_state_init                 (MonoThreadUnwindState *ctx);
2770 gboolean mono_thread_state_init_from_current    (MonoThreadUnwindState *ctx);
2771 gboolean mono_thread_state_init_from_monoctx    (MonoThreadUnwindState *ctx, MonoContext *mctx);
2772
2773 void     mono_setup_altstack                    (MonoJitTlsData *tls);
2774 void     mono_free_altstack                     (MonoJitTlsData *tls);
2775 gpointer mono_altstack_restore_prot             (mgreg_t *regs, guint8 *code, gpointer *tramp_data, guint8* tramp);
2776 MonoJitInfo* mini_jit_info_table_find           (MonoDomain *domain, char *addr, MonoDomain **out_domain);
2777 MonoJitInfo* mini_jit_info_table_find_ext       (MonoDomain *domain, char *addr, gboolean allow_trampolines, MonoDomain **out_domain);
2778 void     mono_resume_unwind                     (MonoContext *ctx) MONO_LLVM_INTERNAL;
2779
2780 MonoJitInfo * mono_find_jit_info                (MonoDomain *domain, MonoJitTlsData *jit_tls, MonoJitInfo *res, MonoJitInfo *prev_ji, MonoContext *ctx, MonoContext *new_ctx, char **trace, MonoLMF **lmf, int *native_offset, gboolean *managed);
2781
2782 typedef gboolean (*MonoExceptionFrameWalk)      (MonoMethod *method, gpointer ip, size_t native_offset, gboolean managed, gpointer user_data);
2783 MONO_API gboolean mono_exception_walk_trace     (MonoException *ex, MonoExceptionFrameWalk func, gpointer user_data);
2784 void mono_restore_context                       (MonoContext *ctx);
2785 guint8* mono_jinfo_get_unwind_info              (MonoJitInfo *ji, guint32 *unwind_info_len);
2786 int  mono_jinfo_get_epilog_size                 (MonoJitInfo *ji);
2787
2788 gboolean
2789 mono_find_jit_info_ext (MonoDomain *domain, MonoJitTlsData *jit_tls,
2790                                                 MonoJitInfo *prev_ji, MonoContext *ctx,
2791                                                 MonoContext *new_ctx, char **trace, MonoLMF **lmf,
2792                                                 mgreg_t **save_locations,
2793                                                 StackFrameInfo *frame);
2794
2795 gpointer mono_get_throw_exception               (void);
2796 gpointer mono_get_rethrow_exception             (void);
2797 gpointer mono_get_call_filter                   (void);
2798 gpointer mono_get_restore_context               (void);
2799 gpointer mono_get_throw_exception_by_name       (void);
2800 gpointer mono_get_throw_corlib_exception        (void);
2801
2802 MonoArray *ves_icall_get_trace                  (MonoException *exc, gint32 skip, MonoBoolean need_file_info);
2803 MonoBoolean ves_icall_get_frame_info            (gint32 skip, MonoBoolean need_file_info,
2804                                                  MonoReflectionMethod **method,
2805                                                  gint32 *iloffset, gint32 *native_offset,
2806                                                  MonoString **file, gint32 *line, gint32 *column);
2807 void mono_set_cast_details                      (MonoClass *from, MonoClass *to);
2808
2809 /* Installs a function which is called when the runtime encounters an unhandled exception.
2810  * This hook isn't expected to return.
2811  * If no hook has been installed, the runtime will print a message before aborting.
2812  */
2813 typedef void  (*MonoUnhandledExceptionFunc)         (MonoObject *exc, gpointer user_data);
2814 MONO_API void mono_install_unhandled_exception_hook (MonoUnhandledExceptionFunc func, gpointer user_data);
2815 void          mono_invoke_unhandled_exception_hook  (MonoObject *exc);
2816
2817 /* Dominator/SSA methods */
2818 void        mono_compile_dominator_info         (MonoCompile *cfg, int dom_flags);
2819 void        mono_compute_natural_loops          (MonoCompile *cfg);
2820 MonoBitSet* mono_compile_iterated_dfrontier     (MonoCompile *cfg, MonoBitSet *set);
2821 void        mono_ssa_compute                    (MonoCompile *cfg);
2822 void        mono_ssa_remove                     (MonoCompile *cfg);
2823 void        mono_ssa_remove_gsharedvt           (MonoCompile *cfg);
2824 void        mono_ssa_cprop                      (MonoCompile *cfg);
2825 void        mono_ssa_deadce                     (MonoCompile *cfg);
2826 void        mono_ssa_strength_reduction         (MonoCompile *cfg);
2827 void        mono_free_loop_info                 (MonoCompile *cfg);
2828 void        mono_ssa_loop_invariant_code_motion (MonoCompile *cfg);
2829
2830 void        mono_ssa_compute2                   (MonoCompile *cfg);
2831 void        mono_ssa_remove2                    (MonoCompile *cfg);
2832 void        mono_ssa_cprop2                     (MonoCompile *cfg);
2833 void        mono_ssa_deadce2                    (MonoCompile *cfg);
2834
2835 /* debugging support */
2836 void      mono_debug_init_method                (MonoCompile *cfg, MonoBasicBlock *start_block,
2837                                                  guint32 breakpoint_id);
2838 void      mono_debug_open_method                (MonoCompile *cfg);
2839 void      mono_debug_close_method               (MonoCompile *cfg);
2840 void      mono_debug_free_method                (MonoCompile *cfg);
2841 void      mono_debug_open_block                 (MonoCompile *cfg, MonoBasicBlock *bb, guint32 address);
2842 void      mono_debug_record_line_number         (MonoCompile *cfg, MonoInst *ins, guint32 address);
2843 void      mono_debug_serialize_debug_info       (MonoCompile *cfg, guint8 **out_buf, guint32 *buf_len);
2844 void      mono_debug_add_aot_method             (MonoDomain *domain,
2845                                                  MonoMethod *method, guint8 *code_start,
2846                                                  guint8 *debug_info, guint32 debug_info_len);
2847 MONO_API void      mono_debug_print_vars                 (gpointer ip, gboolean only_arguments);
2848 MONO_API void      mono_debugger_run_finally             (MonoContext *start_ctx);
2849
2850 MONO_API gboolean mono_breakpoint_clean_code (guint8 *method_start, guint8 *code, int offset, guint8 *buf, int size);
2851
2852 /* Tracing */
2853 MonoTraceSpec *mono_trace_parse_options         (const char *options);
2854 void           mono_trace_set_assembly          (MonoAssembly *assembly);
2855 gboolean       mono_trace_eval                  (MonoMethod *method);
2856
2857 extern void
2858 mono_perform_abc_removal (MonoCompile *cfg);
2859 extern void
2860 mono_perform_abc_removal (MonoCompile *cfg);
2861 extern void
2862 mono_perform_ssapre (MonoCompile *cfg);
2863 extern void
2864 mono_local_cprop (MonoCompile *cfg);
2865 extern void
2866 mono_local_cprop (MonoCompile *cfg);
2867 extern void
2868 mono_local_deadce (MonoCompile *cfg);
2869 void
2870 mono_local_alias_analysis (MonoCompile *cfg);
2871
2872 /* Generic sharing */
2873
2874 void
2875 mono_set_generic_sharing_supported (gboolean supported);
2876
2877 void
2878 mono_set_generic_sharing_vt_supported (gboolean supported);
2879
2880 void
2881 mono_set_partial_sharing_supported (gboolean supported);
2882
2883 gboolean
2884 mono_class_generic_sharing_enabled (MonoClass *klass);
2885
2886 gpointer
2887 mono_class_fill_runtime_generic_context (MonoVTable *class_vtable, guint32 slot);
2888
2889 gpointer
2890 mono_method_fill_runtime_generic_context (MonoMethodRuntimeGenericContext *mrgctx, guint32 slot);
2891
2892 MonoMethodRuntimeGenericContext*
2893 mono_method_lookup_rgctx (MonoVTable *class_vtable, MonoGenericInst *method_inst);
2894
2895 const char*
2896 mono_rgctx_info_type_to_str (MonoRgctxInfoType type);
2897
2898 MonoJumpInfoType
2899 mini_rgctx_info_type_to_patch_info_type (MonoRgctxInfoType info_type);
2900
2901 gboolean
2902 mono_method_needs_static_rgctx_invoke (MonoMethod *method, gboolean allow_type_vars);
2903
2904 int
2905 mono_class_rgctx_get_array_size (int n, gboolean mrgctx);
2906
2907 guint32
2908 mono_method_lookup_or_register_info (MonoMethod *method, gboolean in_mrgctx, gpointer data,
2909         MonoRgctxInfoType info_type, MonoGenericContext *generic_context);
2910
2911 MonoGenericContext
2912 mono_method_construct_object_context (MonoMethod *method);
2913
2914 MonoMethod*
2915 mono_method_get_declaring_generic_method (MonoMethod *method);
2916
2917 int
2918 mono_generic_context_check_used (MonoGenericContext *context);
2919
2920 int
2921 mono_class_check_context_used (MonoClass *klass);
2922
2923 gboolean
2924 mono_generic_context_is_sharable (MonoGenericContext *context, gboolean allow_type_vars);
2925
2926 gboolean
2927 mono_generic_context_is_sharable_full (MonoGenericContext *context, gboolean allow_type_vars, gboolean allow_partial);
2928
2929 gboolean
2930 mono_method_is_generic_impl (MonoMethod *method);
2931
2932 gboolean
2933 mono_method_is_generic_sharable (MonoMethod *method, gboolean allow_type_vars);
2934
2935 gboolean
2936 mono_method_is_generic_sharable_full (MonoMethod *method, gboolean allow_type_vars, gboolean allow_partial, gboolean allow_gsharedvt);
2937
2938 gboolean
2939 mini_class_is_generic_sharable (MonoClass *klass);
2940
2941 gboolean
2942 mono_is_partially_sharable_inst (MonoGenericInst *inst);
2943
2944 gboolean
2945 mini_is_gsharedvt_gparam (MonoType *t);
2946
2947 MonoGenericContext* mini_method_get_context (MonoMethod *method);
2948
2949 int mono_method_check_context_used (MonoMethod *method);
2950
2951 gboolean mono_generic_context_equal_deep (MonoGenericContext *context1, MonoGenericContext *context2);
2952
2953 gpointer mono_helper_get_rgctx_other_ptr (MonoClass *caller_class, MonoVTable *vtable,
2954                                           guint32 token, guint32 token_source, guint32 rgctx_type,
2955                                           gint32 rgctx_index);
2956
2957 void mono_generic_sharing_init (void);
2958 void mono_generic_sharing_cleanup (void);
2959
2960 MonoClass* mini_class_get_container_class (MonoClass *klass);
2961 MonoGenericContext* mini_class_get_context (MonoClass *klass);
2962
2963 MonoType* mini_get_underlying_type (MonoType *type) MONO_LLVM_INTERNAL;
2964 MonoType* mini_type_get_underlying_type (MonoType *type);
2965 MonoMethod* mini_get_shared_method (MonoMethod *method);
2966 MonoMethod* mini_get_shared_method_to_register (MonoMethod *method);
2967 MonoMethod* mini_get_shared_method_full (MonoMethod *method, gboolean all_vt, gboolean is_gsharedvt);
2968 MonoType* mini_get_shared_gparam (MonoType *t, MonoType *constraint);
2969 int mini_get_rgctx_entry_slot (MonoJumpInfoRgctxEntry *entry);
2970
2971 int mini_type_stack_size (MonoType *t, int *align);
2972 int mini_type_stack_size_full (MonoType *t, guint32 *align, gboolean pinvoke);
2973 void type_to_eval_stack_type (MonoCompile *cfg, MonoType *type, MonoInst *inst);
2974 guint mono_type_to_regmove (MonoCompile *cfg, MonoType *type) MONO_LLVM_INTERNAL;
2975
2976 void mono_cfg_add_try_hole (MonoCompile *cfg, MonoExceptionClause *clause, guint8 *start, MonoBasicBlock *bb);
2977
2978 void mono_cfg_set_exception (MonoCompile *cfg, int type);
2979
2980 gboolean mini_type_is_reference (MonoType *type);
2981 gboolean mini_type_is_vtype (MonoType *t) MONO_LLVM_INTERNAL;
2982 gboolean mini_type_var_is_vt (MonoType *type) MONO_LLVM_INTERNAL;
2983 gboolean mini_is_gsharedvt_type (MonoType *t);
2984 gboolean mini_is_gsharedvt_klass (MonoClass *klass) MONO_LLVM_INTERNAL;
2985 gboolean mini_is_gsharedvt_signature (MonoMethodSignature *sig);
2986 gboolean mini_is_gsharedvt_variable_type (MonoType *t) MONO_LLVM_INTERNAL;
2987 gboolean mini_is_gsharedvt_variable_klass (MonoClass *klass) MONO_LLVM_INTERNAL;
2988 gboolean mini_is_gsharedvt_sharable_method (MonoMethod *method);
2989 gboolean mini_is_gsharedvt_variable_signature (MonoMethodSignature *sig);
2990 gboolean mini_is_gsharedvt_sharable_inst (MonoGenericInst *inst);
2991 gpointer mini_method_get_rgctx (MonoMethod *m);
2992 void mini_init_gsctx (MonoDomain *domain, MonoMemPool *mp, MonoGenericContext *context, MonoGenericSharingContext *gsctx);
2993
2994 gpointer mini_get_gsharedvt_wrapper (gboolean gsharedvt_in, gpointer addr, MonoMethodSignature *normal_sig, MonoMethodSignature *gsharedvt_sig,
2995                                                                          gint32 vcall_offset, gboolean calli);
2996 MonoMethod* mini_get_gsharedvt_in_sig_wrapper (MonoMethodSignature *sig);
2997 MonoMethod* mini_get_gsharedvt_out_sig_wrapper (MonoMethodSignature *sig);
2998 MonoMethodSignature* mini_get_gsharedvt_out_sig_wrapper_signature (gboolean has_this, gboolean has_ret, int param_count);
2999 gboolean mini_gsharedvt_runtime_invoke_supported (MonoMethodSignature *sig);
3000
3001 /* SIMD support */
3002
3003 /*
3004 This enum MUST be kept in sync with its managed mirror Mono.Simd.AccelMode.
3005  */
3006 enum {
3007         SIMD_VERSION_SSE1       = 1 << 0,
3008         SIMD_VERSION_SSE2       = 1 << 1,
3009         SIMD_VERSION_SSE3       = 1 << 2,
3010         SIMD_VERSION_SSSE3      = 1 << 3,
3011         SIMD_VERSION_SSE41      = 1 << 4,
3012         SIMD_VERSION_SSE42      = 1 << 5,
3013         SIMD_VERSION_SSE4a      = 1 << 6,
3014         SIMD_VERSION_ALL        = SIMD_VERSION_SSE1 | SIMD_VERSION_SSE2 |
3015                           SIMD_VERSION_SSE3 | SIMD_VERSION_SSSE3 |
3016                           SIMD_VERSION_SSE41 | SIMD_VERSION_SSE42 |
3017                           SIMD_VERSION_SSE4a,
3018
3019         /* this value marks the end of the bit indexes used in
3020          * this emum.
3021          */
3022         SIMD_VERSION_INDEX_END = 6
3023 };
3024
3025 enum {
3026         SIMD_COMP_EQ,
3027         SIMD_COMP_LT,
3028         SIMD_COMP_LE,
3029         SIMD_COMP_UNORD,
3030         SIMD_COMP_NEQ,
3031         SIMD_COMP_NLT,
3032         SIMD_COMP_NLE,
3033         SIMD_COMP_ORD
3034 };
3035
3036 enum {
3037         SIMD_PREFETCH_MODE_NTA,
3038         SIMD_PREFETCH_MODE_0,
3039         SIMD_PREFETCH_MODE_1,
3040         SIMD_PREFETCH_MODE_2,
3041 };
3042
3043 const char *mono_arch_xregname (int reg);
3044 void        mono_simd_simplify_indirection (MonoCompile *cfg);
3045 MonoInst*   mono_emit_simd_intrinsics (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
3046 guint32     mono_arch_cpu_enumerate_simd_versions (void);
3047 void        mono_simd_intrinsics_init (void);
3048
3049 MonoInst*   mono_emit_native_types_intrinsics (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
3050 MonoType*   mini_native_type_replace_type (MonoType *type) MONO_LLVM_INTERNAL;
3051
3052 #ifdef __linux__
3053 #define XDEBUG_ENABLED 1
3054 #endif
3055
3056 #ifdef __linux__
3057 /* maybe enable also for other systems? */
3058 #define ENABLE_JIT_MAP 1
3059 void mono_enable_jit_map (void);
3060 void mono_emit_jit_map   (MonoJitInfo *jinfo);
3061 void mono_emit_jit_tramp (void *start, int size, const char *desc);
3062 gboolean mono_jit_map_is_enabled (void);
3063 #else
3064 #define mono_enable_jit_map()
3065 #define mono_emit_jit_map(ji)
3066 #define mono_emit_jit_tramp(s,z,d)
3067 #define mono_jit_map_is_enabled() (0)
3068 #endif
3069
3070 /*
3071  * Per-OS implementation functions.
3072  */
3073 void mono_runtime_install_handlers (void);
3074 void mono_runtime_cleanup_handlers (void);
3075 void mono_runtime_setup_stat_profiler (void);
3076 void mono_runtime_shutdown_stat_profiler (void);
3077 void mono_runtime_posix_install_handlers (void);
3078 pid_t mono_runtime_syscall_fork (void);
3079 void mono_gdb_render_native_backtraces (pid_t crashed_pid);
3080
3081 void mono_cross_helpers_run (void);
3082
3083 /*
3084  * Signal handling
3085  */
3086
3087 void MONO_SIG_HANDLER_SIGNATURE (mono_sigfpe_signal_handler) ;
3088 void MONO_SIG_HANDLER_SIGNATURE (mono_sigill_signal_handler) ;
3089 void MONO_SIG_HANDLER_SIGNATURE (mono_sigsegv_signal_handler);
3090 void MONO_SIG_HANDLER_SIGNATURE (mono_sigint_signal_handler) ;
3091 gboolean MONO_SIG_HANDLER_SIGNATURE (mono_chain_signal);
3092
3093 #ifndef MONO_ARCH_HAVE_TLS_GET
3094 #define MONO_ARCH_HAVE_TLS_GET 0
3095 #endif
3096
3097 #ifdef MONO_ARCH_VARARG_ICALLS
3098 #define ARCH_VARARG_ICALLS 1
3099 #else
3100 #define ARCH_VARARG_ICALLS 0
3101 #endif
3102
3103 #endif /* __MONO_MINI_H__ */