mono/mini/mini.h

   1 /*
   2  * Copyright 2002-2003 Ximian Inc
   3  * Copyright 2003-2011 Novell Inc
   4  * Copyright 2011 Xamarin Inc
   5  * Licensed under the MIT license. See LICENSE file in the project root for full license information.
   6  */
   7 #ifndef __MONO_MINI_H__
   8 #define __MONO_MINI_H__
   9
  10 #include "config.h"
  11 #include <glib.h>
  12 #ifdef HAVE_SIGNAL_H
  13 #include <signal.h>
  14 #endif
  15 #ifdef HAVE_SYS_TYPES_H
  16 #include <sys/types.h>
  17 #endif
  18 #include <mono/metadata/loader.h>
  19 #include <mono/metadata/mempool.h>
  20 #include <mono/utils/monobitset.h>
  21 #include <mono/metadata/class.h>
  22 #include <mono/metadata/object.h>
  23 #include <mono/metadata/opcodes.h>
  24 #include <mono/metadata/tabledefs.h>
  25 #include <mono/metadata/domain-internals.h>
  26 #include "mono/metadata/class-internals.h"
  27 #include "mono/metadata/object-internals.h"
  28 #include <mono/metadata/profiler-private.h>
  29 #include <mono/metadata/debug-helpers.h>
  30 #include <mono/utils/mono-compiler.h>
  31 #include <mono/utils/mono-machine.h>
  32 #include <mono/utils/mono-stack-unwinding.h>
  33 #include <mono/utils/mono-threads.h>
  34 #include <mono/utils/mono-tls.h>
  35 #include <mono/utils/atomic.h>
  36 #include <mono/utils/mono-conc-hashtable.h>
  37 #include <mono/utils/mono-signal-handler.h>
  38
  39 #include "mini-arch.h"
  40 #include "regalloc.h"
  41 #include "mini-unwind.h"
  42 #include "jit.h"
  43 #include "cfgdump.h"
  44
  45 #include "mono/metadata/class-internals.h"
  46 #include "mono/metadata/domain-internals.h"
  47 #include "mono/metadata/object.h"
  48 #include "mono/metadata/tabledefs.h"
  49 #include "mono/metadata/marshal.h"
  50 #include "mono/metadata/security-manager.h"
  51 #include "mono/metadata/exception.h"
  52 #include "mono/utils/mono-compiler.h"
  53
  54 #ifdef __native_client_codegen__
  55 #include <nacl/nacl_dyncode.h>
  56 #endif
  57
  58
  59 /*
  60  * The mini code should not have any compile time dependencies on the GC being used, so the same object file from mini/
  61  * can be linked into both mono and mono-sgen.
  62  */
  63 #if defined(HAVE_BOEHM_GC) || defined(HAVE_SGEN_GC)
  64 #error "The code in mini/ should not depend on these defines."
  65 #endif
  66
  67 #ifndef __GNUC__
  68 /*#define __alignof__(a) sizeof(a)*/
  69 #define __alignof__(type) G_STRUCT_OFFSET(struct { char c; type x; }, x)
  70 #endif
  71
  72 #if DISABLE_LOGGING
  73 #define MINI_DEBUG(level,limit,code)
  74 #else
  75 #define MINI_DEBUG(level,limit,code) do {if (G_UNLIKELY ((level) >= (limit))) code} while (0)
  76 #endif
  77
  78 #if !defined(DISABLE_TASKLETS) && defined(MONO_ARCH_SUPPORT_TASKLETS)
  79 #if defined(__GNUC__)
  80 #define MONO_SUPPORT_TASKLETS 1
  81 #elif defined(HOST_WIN32)
  82 #define MONO_SUPPORT_TASKLETS 1
  83 // Replace some gnu intrinsics needed for tasklets with MSVC equivalents.
  84 #define __builtin_extract_return_addr(x) x
  85 #define __builtin_return_address(x) _ReturnAddress()
  86 #define __builtin_frame_address(x) _AddressOfReturnAddress()
  87 #endif
  88 #endif
  89
  90 #if ENABLE_LLVM
  91 #define COMPILE_LLVM(cfg) ((cfg)->compile_llvm)
  92 #define LLVM_ENABLED TRUE
  93 #else
  94 #define COMPILE_LLVM(cfg) (0)
  95 #define LLVM_ENABLED FALSE
  96 #endif
  97
  98 #ifdef MONO_ARCH_SOFT_FLOAT_FALLBACK
  99 #define COMPILE_SOFT_FLOAT(cfg) (!COMPILE_LLVM ((cfg)) && mono_arch_is_soft_float ())
 100 #else
 101 #define COMPILE_SOFT_FLOAT(cfg) (0)
 102 #endif
 103
 104 #define NOT_IMPLEMENTED do { g_assert_not_reached (); } while (0)
 105
 106 /* for 32 bit systems */
 107 #if G_BYTE_ORDER == G_LITTLE_ENDIAN
 108 #define MINI_LS_WORD_IDX 0
 109 #define MINI_MS_WORD_IDX 1
 110 #else
 111 #define MINI_LS_WORD_IDX 1
 112 #define MINI_MS_WORD_IDX 0
 113 #endif
 114 #define MINI_LS_WORD_OFFSET (MINI_LS_WORD_IDX * 4)
 115 #define MINI_MS_WORD_OFFSET (MINI_MS_WORD_IDX * 4)
 116 #define inst_ls_word data.op[MINI_LS_WORD_IDX].const_val
 117 #define inst_ms_word data.op[MINI_MS_WORD_IDX].const_val
 118
 119 #define MONO_LVREG_LS(lvreg)    ((lvreg) + 1)
 120 #define MONO_LVREG_MS(lvreg)    ((lvreg) + 2)
 121
 122 #ifndef DISABLE_AOT
 123 #define MONO_USE_AOT_COMPILER
 124 #endif
 125
 126 /* Version number of the AOT file format */
 127 #define MONO_AOT_FILE_VERSION 133
 128
 129 //TODO: This is x86/amd64 specific.
 130 #define mono_simd_shuffle_mask(a,b,c,d) ((a) | ((b) << 2) | ((c) << 4) | ((d) << 6))
 131
 132 /* Remap printf to g_print (we use a mix of these in the mini code) */
 133 #ifdef PLATFORM_ANDROID
 134 #define printf g_print
 135 #endif
 136
 137 #define MONO_TYPE_IS_PRIMITIVE(t) ((!(t)->byref && ((((t)->type >= MONO_TYPE_BOOLEAN && (t)->type <= MONO_TYPE_R8) || ((t)->type >= MONO_TYPE_I && (t)->type <= MONO_TYPE_U)))))
 138
 139 #define MONO_AOT_TRAMP_PAGE_SIZE 16384
 140
 141 /* Constants used to encode different types of methods in AOT */
 142 enum {
 143         MONO_AOT_METHODREF_MIN = 240,
 144         /* Image index bigger than METHODREF_MIN */
 145         MONO_AOT_METHODREF_LARGE_IMAGE_INDEX = 249,
 146         /* Runtime provided methods on arrays */
 147         MONO_AOT_METHODREF_ARRAY = 250,
 148         MONO_AOT_METHODREF_NO_AOT_TRAMPOLINE = 251,
 149         /* Wrappers */
 150         MONO_AOT_METHODREF_WRAPPER = 252,
 151         /* Methods on generic instances */
 152         MONO_AOT_METHODREF_GINST = 253,
 153         /* Methods resolve using a METHODSPEC token */
 154         MONO_AOT_METHODREF_METHODSPEC = 254,
 155 };
 156
 157 /* Constants used to encode different types of types in AOT */
 158 enum {
 159         /* typedef index */
 160         MONO_AOT_TYPEREF_TYPEDEF_INDEX = 1,
 161         /* typedef index + image index */
 162         MONO_AOT_TYPEREF_TYPEDEF_INDEX_IMAGE = 2,
 163         /* typespec token */
 164         MONO_AOT_TYPEREF_TYPESPEC_TOKEN = 3,
 165         /* generic inst */
 166         MONO_AOT_TYPEREF_GINST = 4,
 167         /* type/method variable */
 168         MONO_AOT_TYPEREF_VAR = 5,
 169         /* array */
 170         MONO_AOT_TYPEREF_ARRAY = 6,
 171         /* blob index of the type encoding */
 172         MONO_AOT_TYPEREF_BLOB_INDEX = 7,
 173         /* ptr */
 174         MONO_AOT_TYPEREF_PTR = 8
 175 };
 176
 177 /* Trampolines which we have a lot of */
 178 typedef enum {
 179         MONO_AOT_TRAMP_SPECIFIC = 0,
 180         MONO_AOT_TRAMP_STATIC_RGCTX = 1,
 181         MONO_AOT_TRAMP_IMT_THUNK = 2,
 182         MONO_AOT_TRAMP_GSHAREDVT_ARG = 3,
 183         MONO_AOT_TRAMP_NUM = 4
 184 } MonoAotTrampoline;
 185
 186 typedef enum {
 187         MONO_AOT_FILE_FLAG_WITH_LLVM = 1,
 188         MONO_AOT_FILE_FLAG_FULL_AOT = 2,
 189         MONO_AOT_FILE_FLAG_DEBUG = 4,
 190         MONO_AOT_FILE_FLAG_LLVM_THUMB = 8,
 191         MONO_AOT_FILE_FLAG_LLVM_ONLY = 16,
 192         MONO_AOT_FILE_FLAG_SAFEPOINTS = 32,
 193         MONO_AOT_FILE_FLAG_SEPARATE_DATA = 64,
 194 } MonoAotFileFlags;
 195
 196 typedef enum {
 197         MONO_AOT_TABLE_BLOB,
 198         MONO_AOT_TABLE_IMAGE_TABLE,
 199         MONO_AOT_TABLE_CLASS_NAME,
 200         MONO_AOT_TABLE_METHOD_INFO_OFFSETS,
 201         MONO_AOT_TABLE_EX_INFO_OFFSETS,
 202         MONO_AOT_TABLE_CLASS_INFO_OFFSETS,
 203         MONO_AOT_TABLE_GOT_INFO_OFFSETS,
 204         MONO_AOT_TABLE_LLVM_GOT_INFO_OFFSETS,
 205         MONO_AOT_TABLE_EXTRA_METHOD_INFO_OFFSETS,
 206         MONO_AOT_TABLE_EXTRA_METHOD_TABLE,
 207         MONO_AOT_TABLE_NUM
 208 } MonoAotFileTable;
 209
 210 /* This structure is stored in the AOT file */
 211 typedef struct MonoAotFileInfo
 212 {
 213         /* The version number of the AOT file format, should match MONO_AOT_FILE_VERSION */
 214         guint32 version;
 215         /* For alignment */
 216         guint32 dummy;
 217
 218         /* All the pointers should be at the start to avoid alignment problems */
 219         /* Symbols */
 220 #define MONO_AOT_FILE_INFO_FIRST_SYMBOL jit_got
 221         /* Global Offset Table for JITted code */
 222         gpointer jit_got;
 223         /* Global Offset Table for LLVM code */
 224         gpointer llvm_got;
 225         /* Mono EH Frame created by llc when using LLVM */
 226         gpointer mono_eh_frame;
 227         /* Points to the get_method () function in the LLVM image or NULL */
 228         gpointer llvm_get_method;
 229         /* Points to the get_unbox_tramp () function in the LLVM image or NULL */
 230         gpointer llvm_get_unbox_tramp;
 231         gpointer jit_code_start;
 232         gpointer jit_code_end;
 233         gpointer method_addresses;
 234         /* Data blob */
 235         gpointer blob;
 236         gpointer class_name_table;
 237         gpointer class_info_offsets;
 238         gpointer method_info_offsets;
 239         gpointer ex_info_offsets;
 240         gpointer extra_method_info_offsets;
 241         gpointer extra_method_table;
 242         gpointer got_info_offsets;
 243         gpointer llvm_got_info_offsets;
 244         gpointer image_table;
 245         gpointer mem_end;
 246         /* The GUID of the assembly which the AOT image was generated from */
 247         gpointer assembly_guid;
 248         /*
 249          * The runtime version string for AOT images generated using 'bind-to-runtime-version',
 250          * NULL otherwise.
 251          */
 252         gpointer runtime_version;
 253         /* Blocks of various kinds of trampolines */
 254         gpointer specific_trampolines;
 255         gpointer static_rgctx_trampolines;
 256         gpointer imt_thunks;
 257         gpointer gsharedvt_arg_trampolines;
 258         /* In static mode, points to a table of global symbols for trampolines etc */
 259         gpointer globals;
 260         /* Points to a string containing the assembly name*/
 261         gpointer assembly_name;
 262         /* Start of Mono's Program Linkage Table */
 263         gpointer plt;
 264         /* End of Mono's Program Linkage Table */
 265         gpointer plt_end;
 266         gpointer unwind_info;
 267         /* Points to a table mapping methods to their unbox trampolines */
 268         gpointer unbox_trampolines;
 269         /* Points to the end of the previous table */
 270         gpointer unbox_trampolines_end;
 271         /* Points to a table of unbox trampoline addresses/offsets */
 272         gpointer unbox_trampoline_addresses;
 273 #define MONO_AOT_FILE_INFO_LAST_SYMBOL unbox_trampoline_addresses
 274
 275         /* Scalars */
 276         /* The index of the first GOT slot used by the PLT */
 277         guint32 plt_got_offset_base;
 278         /* Number of entries in the GOT */
 279         guint32 got_size;
 280         /* Number of entries in the PLT */
 281         guint32 plt_size;
 282         /* Number of methods */
 283         guint32 nmethods;
 284         /* A union of MonoAotFileFlags */
 285         guint32 flags;
 286         /* Optimization flags used to compile the module */
 287         guint32 opts;
 288         /* SIMD flags used to compile the module */
 289         guint32 simd_opts;
 290         /* Index of the blob entry holding the GC used by this module */
 291         gint32 gc_name_index;
 292         guint32 num_rgctx_fetch_trampolines;
 293         /* These are used for sanity checking object layout problems when cross-compiling */
 294         guint32 double_align, long_align, generic_tramp_num;
 295         /* The page size used by trampoline pages */
 296         guint32 tramp_page_size;
 297         /*
 298          * The number of GOT entries which need to be preinitialized when the
 299          * module is loaded.
 300          */
 301         guint32 nshared_got_entries;
 302         /* The size of the data file, if MONO_AOT_FILE_FLAG_SEPARATE_DATA is set */
 303         guint32 datafile_size;
 304
 305         /* Arrays */
 306         /* Offsets for tables inside the data file if MONO_AOT_FILE_FLAG_SEPARATE_DATA is set */
 307         // FIXME: Sync with AOT
 308         guint32 table_offsets [MONO_AOT_TABLE_NUM];
 309         /* Number of trampolines */
 310         guint32 num_trampolines [MONO_AOT_TRAMP_NUM];
 311         /* The indexes of the first GOT slots used by the trampolines */
 312         guint32 trampoline_got_offset_base [MONO_AOT_TRAMP_NUM];
 313         /* The size of one trampoline */
 314         guint32 trampoline_size [MONO_AOT_TRAMP_NUM];
 315         /* The offset where the trampolines begin on a trampoline page */
 316         guint32 tramp_page_code_offsets [MONO_AOT_TRAMP_NUM];
 317 } MonoAotFileInfo;
 318
 319 /* Number of symbols in the MonoAotFileInfo structure */
 320 #define MONO_AOT_FILE_INFO_NUM_SYMBOLS (((G_STRUCT_OFFSET (MonoAotFileInfo, MONO_AOT_FILE_INFO_LAST_SYMBOL) - G_STRUCT_OFFSET (MonoAotFileInfo, MONO_AOT_FILE_INFO_FIRST_SYMBOL)) / sizeof (gpointer)) + 1)
 321
 322 typedef struct
 323 {
 324         MonoClass *klass;
 325         MonoMethod *method;
 326 } MonoClassMethodPair;
 327
 328 typedef struct
 329 {
 330         MonoClass *klass;
 331         MonoMethod *method;
 332         gboolean is_virtual;
 333 } MonoDelegateClassMethodPair;
 334
 335 /* Per-domain information maintained by the JIT */
 336 typedef struct
 337 {
 338         /* Maps MonoMethod's to a GSList of GOT slot addresses pointing to its code */
 339         GHashTable *jump_target_got_slot_hash;
 340         GHashTable *jump_target_hash;
 341         /* Maps methods/klasses to the address of the given type of trampoline */
 342         GHashTable *class_init_trampoline_hash;
 343         GHashTable *jump_trampoline_hash;
 344         GHashTable *jit_trampoline_hash;
 345         GHashTable *delegate_trampoline_hash;
 346         /* Maps ClassMethodPair -> MonoDelegateTrampInfo */
 347         GHashTable *static_rgctx_trampoline_hash;
 348         GHashTable *llvm_vcall_trampoline_hash;
 349         /* maps MonoMethod -> MonoJitDynamicMethodInfo */
 350         GHashTable *dynamic_code_hash;
 351         GHashTable *method_code_hash;
 352         /* Maps methods to a RuntimeInvokeInfo structure, protected by the associated MonoDomain lock */
 353         MonoConcurrentHashTable *runtime_invoke_hash;
 354         /* Maps MonoMethod to a GPtrArray containing sequence point locations */
 355         /* Protected by the domain lock */
 356         GHashTable *seq_points;
 357         /* Debugger agent data */
 358         gpointer agent_info;
 359         /* Maps MonoMethod to an arch-specific structure */
 360         GHashTable *arch_seq_points;
 361         /* Maps a GSharedVtTrampInfo structure to a trampoline address */
 362         GHashTable *gsharedvt_arg_tramp_hash;
 363         /* memcpy/bzero methods specialized for small constant sizes */
 364         gpointer *memcpy_addr [17];
 365         gpointer *bzero_addr [17];
 366         gpointer llvm_module;
 367         /* Maps MonoMethod -> GSlist of addresses */
 368         GHashTable *llvm_jit_callees;
 369 } MonoJitDomainInfo;
 370
 371 typedef struct {
 372         MonoJitInfo *ji;
 373         MonoCodeManager *code_mp;
 374 } MonoJitDynamicMethodInfo;
 375
 376 /* An extension of MonoGenericParamFull used in generic sharing */
 377 typedef struct {
 378         MonoGenericParamFull param;
 379         MonoGenericParam *parent;
 380 } MonoGSharedGenericParam;
 381
 382 #define domain_jit_info(domain) ((MonoJitDomainInfo*)((domain)->runtime_info))
 383
 384 /* Contains a list of ips which needs to be patched when a method is compiled */
 385 typedef struct {
 386         GSList *list;
 387 } MonoJumpList;
 388
 389 /* Arch-specific */
 390 typedef struct {
 391         int dummy;
 392 } MonoDynCallInfo;
 393
 394 /*
 395  * Information about a stack frame.
 396  * FIXME This typedef exists only to avoid tons of code rewriting
 397  */
 398 typedef MonoStackFrameInfo StackFrameInfo;
 399
 400 #if 0
 401 #define mono_bitset_foreach_bit(set,b,n) \
 402         for (b = 0; b < n; b++)\
 403                 if (mono_bitset_test_fast(set,b))
 404 #else
 405 #define mono_bitset_foreach_bit(set,b,n) \
 406         for (b = mono_bitset_find_start (set); b < n && b >= 0; b = mono_bitset_find_first (set, b))
 407 #endif
 408
 409 /*
 410  * Pull the list of opcodes
 411  */
 412 #define OPDEF(a,b,c,d,e,f,g,h,i,j) \
 413         a = i,
 414
 415 enum {
 416 #include "mono/cil/opcode.def"
 417         CEE_LASTOP
 418 };
 419 #undef OPDEF
 420
 421 #define MONO_VARINFO(cfg,varnum) (&(cfg)->vars [varnum])
 422
 423 #define MONO_INST_NULLIFY_SREGS(dest) do {                              \
 424                 (dest)->sreg1 = (dest)->sreg2 = (dest)->sreg3 = -1;     \
 425         } while (0)
 426
 427 #define MONO_INST_NEW(cfg,dest,op) do { \
 428                 (dest) = (MonoInst *)mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));   \
 429                 (dest)->opcode = (op);  \
 430                 (dest)->dreg = -1;                          \
 431                 MONO_INST_NULLIFY_SREGS ((dest));           \
 432         (dest)->cil_code = (cfg)->ip;  \
 433         } while (0)
 434
 435 #define MONO_INST_NEW_CALL(cfg,dest,op) do {    \
 436                 (dest) = (MonoCallInst *)mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoCallInst));   \
 437                 (dest)->inst.opcode = (op);     \
 438                 (dest)->inst.dreg = -1;                                 \
 439                 MONO_INST_NULLIFY_SREGS (&(dest)->inst);                \
 440         (dest)->inst.cil_code = (cfg)->ip;  \
 441         } while (0)
 442
 443 #define MONO_ADD_INS(b,inst) do {       \
 444                 if ((b)->last_ins) {    \
 445                         (b)->last_ins->next = (inst);   \
 446             (inst)->prev = (b)->last_ins;   \
 447                         (b)->last_ins = (inst); \
 448                 } else {        \
 449                         (b)->code = (b)->last_ins = (inst);     \
 450                 }       \
 451         } while (0)
 452
 453 #define NULLIFY_INS(ins) do { \
 454         (ins)->opcode = OP_NOP; \
 455         (ins)->dreg = -1;                               \
 456         MONO_INST_NULLIFY_SREGS ((ins));                \
 457     } while (0)
 458
 459 /* Remove INS from BB */
 460 #define MONO_REMOVE_INS(bb,ins) do { \
 461         if ((ins)->prev) \
 462             (ins)->prev->next = (ins)->next; \
 463         if ((ins)->next) \
 464             (ins)->next->prev = (ins)->prev; \
 465         if ((bb)->code == (ins)) \
 466             (bb)->code = (ins)->next; \
 467         if ((bb)->last_ins == (ins)) \
 468             (bb)->last_ins = (ins)->prev; \
 469     } while (0)
 470
 471 /* Remove INS from BB and nullify it */
 472 #define MONO_DELETE_INS(bb,ins) do { \
 473         MONO_REMOVE_INS ((bb), (ins)); \
 474         NULLIFY_INS ((ins)); \
 475     } while (0)
 476
 477 /*
 478  * this is used to determine when some branch optimizations are possible: we exclude FP compares
 479  * because they have weird semantics with NaNs.
 480  */
 481 #define MONO_IS_COND_BRANCH_OP(ins) (((ins)->opcode >= OP_LBEQ && (ins)->opcode <= OP_LBLT_UN) || ((ins)->opcode >= OP_FBEQ && (ins)->opcode <= OP_FBLT_UN) || ((ins)->opcode >= OP_IBEQ && (ins)->opcode <= OP_IBLT_UN))
 482 #define MONO_IS_COND_BRANCH_NOFP(ins) (MONO_IS_COND_BRANCH_OP(ins) && !(((ins)->opcode >= OP_FBEQ) && ((ins)->opcode <= OP_FBLT_UN)) && (!(ins)->inst_left || (ins)->inst_left->inst_left->type != STACK_R8))
 483
 484 #define MONO_IS_BRANCH_OP(ins) (MONO_IS_COND_BRANCH_OP(ins) || ((ins)->opcode == OP_BR) || ((ins)->opcode == OP_BR_REG) || ((ins)->opcode == OP_SWITCH))
 485
 486 #define MONO_IS_COND_EXC(ins) ((((ins)->opcode >= OP_COND_EXC_EQ) && ((ins)->opcode <= OP_COND_EXC_LT_UN)) || (((ins)->opcode >= OP_COND_EXC_IEQ) && ((ins)->opcode <= OP_COND_EXC_ILT_UN)))
 487
 488 #define MONO_IS_SETCC(ins) ((((ins)->opcode >= OP_CEQ) && ((ins)->opcode <= OP_CLT_UN)) || (((ins)->opcode >= OP_ICEQ) && ((ins)->opcode <= OP_ICLT_UN)) || (((ins)->opcode >= OP_LCEQ) && ((ins)->opcode <= OP_LCLT_UN)) || (((ins)->opcode >= OP_FCEQ) && ((ins)->opcode <= OP_FCLT_UN)))
 489
 490
 491 #define MONO_IS_LOAD_MEMBASE(ins) (((ins)->opcode >= OP_LOAD_MEMBASE && (ins)->opcode <= OP_LOADV_MEMBASE) || ((ins)->opcode >= OP_ATOMIC_LOAD_I1 && (ins)->opcode <= OP_ATOMIC_LOAD_R8))
 492 #define MONO_IS_STORE_MEMBASE(ins) (((ins)->opcode >= OP_STORE_MEMBASE_REG && (ins)->opcode <= OP_STOREV_MEMBASE) || ((ins)->opcode >= OP_ATOMIC_STORE_I1 && (ins)->opcode <= OP_ATOMIC_STORE_R8))
 493 #define MONO_IS_STORE_MEMINDEX(ins) (((ins)->opcode >= OP_STORE_MEMINDEX) && ((ins)->opcode <= OP_STORER8_MEMINDEX))
 494
 495 #define MONO_IS_CALL(ins) (((ins->opcode >= OP_VOIDCALL) && (ins->opcode <= OP_VOIDCALL_MEMBASE)) || ((ins->opcode >= OP_FCALL) && (ins->opcode <= OP_FCALL_MEMBASE)) || ((ins->opcode >= OP_LCALL) && (ins->opcode <= OP_LCALL_MEMBASE)) || ((ins->opcode >= OP_VCALL) && (ins->opcode <= OP_VCALL_MEMBASE)) || ((ins->opcode >= OP_CALL) && (ins->opcode <= OP_CALL_MEMBASE)) || ((ins->opcode >= OP_VCALL2) && (ins->opcode <= OP_VCALL2_MEMBASE)) || (ins->opcode == OP_TAILCALL) || ((ins->opcode >= OP_RCALL) && (ins->opcode <= OP_RCALL_MEMBASE)))
 496
 497 #define MONO_IS_JUMP_TABLE(ins) (((ins)->opcode == OP_JUMP_TABLE) ? TRUE : ((((ins)->opcode == OP_AOTCONST) && (ins->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? TRUE : ((ins)->opcode == OP_SWITCH) ? TRUE : ((((ins)->opcode == OP_GOT_ENTRY) && ((ins)->inst_right->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? TRUE : FALSE)))
 498
 499 #define MONO_JUMP_TABLE_FROM_INS(ins) (((ins)->opcode == OP_JUMP_TABLE) ? (ins)->inst_p0 : (((ins)->opcode == OP_AOTCONST) && (ins->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH) ? (ins)->inst_p0 : (((ins)->opcode == OP_SWITCH) ? (ins)->inst_p0 : ((((ins)->opcode == OP_GOT_ENTRY) && ((ins)->inst_right->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? (ins)->inst_right->inst_p0 : NULL))))
 500
 501 /* FIXME: Add more instructions */
 502 /* INEG sets the condition codes, and the OP_LNEG decomposition depends on this on x86 */
 503 #define MONO_INS_HAS_NO_SIDE_EFFECT(ins) (MONO_IS_MOVE (ins) || (ins->opcode == OP_ICONST) || (ins->opcode == OP_I8CONST) || MONO_IS_ZERO (ins) || (ins->opcode == OP_ADD_IMM) || (ins->opcode == OP_R8CONST) || (ins->opcode == OP_LADD_IMM) || (ins->opcode == OP_ISUB_IMM) || (ins->opcode == OP_IADD_IMM) || (ins->opcode == OP_LNEG) || (ins->opcode == OP_ISUB) || (ins->opcode == OP_CMOV_IGE) || (ins->opcode == OP_ISHL_IMM) || (ins->opcode == OP_ISHR_IMM) || (ins->opcode == OP_ISHR_UN_IMM) || (ins->opcode == OP_IAND_IMM) || (ins->opcode == OP_ICONV_TO_U1) || (ins->opcode == OP_ICONV_TO_I1) || (ins->opcode == OP_SEXT_I4) || (ins->opcode == OP_LCONV_TO_U1) || (ins->opcode == OP_ICONV_TO_U2) || (ins->opcode == OP_ICONV_TO_I2) || (ins->opcode == OP_LCONV_TO_I2) || (ins->opcode == OP_LDADDR) || (ins->opcode == OP_PHI) || (ins->opcode == OP_NOP) || (ins->opcode == OP_ZEXT_I4) || (ins->opcode == OP_NOT_NULL) || (ins->opcode == OP_IL_SEQ_POINT))
 504
 505 #define MONO_METHOD_IS_FINAL(m) (((m)->flags & METHOD_ATTRIBUTE_FINAL) || ((m)->klass && ((m)->klass->flags & TYPE_ATTRIBUTE_SEALED)))
 506
 507
 508 #ifdef MONO_ARCH_SIMD_INTRINSICS
 509
 510 #define MONO_IS_PHI(ins) (((ins)->opcode == OP_PHI) || ((ins)->opcode == OP_FPHI) || ((ins)->opcode == OP_VPHI)  || ((ins)->opcode == OP_XPHI))
 511 #define MONO_IS_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_XMOVE) || ((ins)->opcode == OP_RMOVE))
 512 #define MONO_IS_NON_FP_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_XMOVE))
 513 #define MONO_IS_REAL_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_XMOVE) || ((ins)->opcode == OP_RMOVE))
 514 #define MONO_IS_ZERO(ins) (((ins)->opcode == OP_VZERO) || ((ins)->opcode == OP_XZERO))
 515
 516 #define MONO_CLASS_IS_SIMD(cfg, klass) (((cfg)->opt & MONO_OPT_SIMD) && (klass)->simd_type)
 517
 518 #else
 519
 520 #define MONO_IS_PHI(ins) (((ins)->opcode == OP_PHI) || ((ins)->opcode == OP_FPHI) || ((ins)->opcode == OP_VPHI))
 521 #define MONO_IS_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_RMOVE))
 522 #define MONO_IS_NON_FP_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_VMOVE))
 523 /*A real MOVE is one that isn't decomposed such as a VMOVE or LMOVE*/
 524 #define MONO_IS_REAL_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_RMOVE))
 525 #define MONO_IS_ZERO(ins) ((ins)->opcode == OP_VZERO)
 526
 527 #define MONO_CLASS_IS_SIMD(cfg, klass) (0)
 528
 529 #endif
 530
 531 typedef struct MonoInstList MonoInstList;
 532 typedef struct MonoInst MonoInst;
 533 typedef struct MonoCallInst MonoCallInst;
 534 typedef struct MonoCallArgParm MonoCallArgParm;
 535 typedef struct MonoMethodVar MonoMethodVar;
 536 typedef struct MonoBasicBlock MonoBasicBlock;
 537 typedef struct MonoLMF MonoLMF;
 538 typedef struct MonoSpillInfo MonoSpillInfo;
 539 typedef struct MonoTraceSpec MonoTraceSpec;
 540
 541 extern MonoNativeTlsKey mono_jit_tls_id;
 542 extern MonoTraceSpec *mono_jit_trace_calls;
 543 extern gboolean mono_break_on_exc;
 544 extern int mono_exc_esp_offset;
 545 extern gboolean mono_compile_aot;
 546 extern gboolean mono_aot_only;
 547 extern gboolean mono_llvm_only;
 548 extern MonoAotMode mono_aot_mode;
 549 extern MonoMethodDesc *mono_inject_async_exc_method;
 550 extern int mono_inject_async_exc_pos;
 551 extern MonoMethodDesc *mono_break_at_bb_method;
 552 extern int mono_break_at_bb_bb_num;
 553 extern gboolean mono_verify_all;
 554 extern gboolean mono_do_x86_stack_align;
 555 extern const char *mono_build_date;
 556 extern gboolean mono_do_signal_chaining;
 557 extern gboolean mono_do_crash_chaining;
 558 extern MONO_API gboolean mono_use_llvm;
 559 extern gboolean mono_do_single_method_regression;
 560 extern guint32 mono_single_method_regression_opt;
 561 extern MonoMethod *mono_current_single_method;
 562 extern GSList *mono_single_method_list;
 563 extern GHashTable *mono_single_method_hash;
 564 extern gboolean mono_using_xdebug;
 565 extern int mini_verbose;
 566 extern int valgrind_register;
 567
 568 #define INS_INFO(opcode) (&ins_info [((opcode) - OP_START - 1) * 4])
 569
 570 extern const char ins_info[];
 571 extern const gint8 ins_sreg_counts [];
 572
 573 #ifndef DISABLE_JIT
 574 #define mono_inst_get_num_src_registers(ins) (ins_sreg_counts [(ins)->opcode - OP_START - 1])
 575 #else
 576 #define mono_inst_get_num_src_registers(ins) 0
 577 #endif
 578
 579 #define mono_inst_get_src_registers(ins, regs) (((regs) [0] = (ins)->sreg1), ((regs) [1] = (ins)->sreg2), ((regs) [2] = (ins)->sreg3), mono_inst_get_num_src_registers ((ins)))
 580
 581 #define MONO_BB_FOR_EACH_INS(bb, ins) for ((ins) = (bb)->code; (ins); (ins) = (ins)->next)
 582
 583 #define MONO_BB_FOR_EACH_INS_SAFE(bb, n, ins) for ((ins) = (bb)->code, n = (ins) ? (ins)->next : NULL; (ins); (ins) = (n), (n) = (ins) ? (ins)->next : NULL)
 584
 585 #define MONO_BB_FOR_EACH_INS_REVERSE_SAFE(bb, p, ins) for ((ins) = (bb)->last_ins, p = (ins) ? (ins)->prev : NULL; (ins); (ins) = (p), (p) = (ins) ? (ins)->prev : NULL)
 586
 587 #define mono_bb_first_ins(bb) (bb)->code
 588
 589 struct MonoSpillInfo {
 590         int offset;
 591 };
 592
 593 /*
 594  * Information about a call site for the GC map creation code
 595  */
 596 typedef struct {
 597         /* The next offset after the call instruction */
 598         int pc_offset;
 599         /* The basic block containing the call site */
 600         MonoBasicBlock *bb;
 601         /*
 602          * The set of variables live at the call site.
 603          * Has length cfg->num_varinfo in bits.
 604          */
 605         guint8 *liveness;
 606         /*
 607          * List of OP_GC_PARAM_SLOT_LIVENESS_DEF instructions defining the param slots
 608          * used by this call.
 609          */
 610         GSList *param_slots;
 611 } GCCallSite;
 612
 613 /*
 614  * The IR-level extended basic block.
 615  *
 616  * A basic block can have multiple exits just fine, as long as the point of
 617  * 'departure' is the last instruction in the basic block. Extended basic
 618  * blocks, on the other hand, may have instructions that leave the block
 619  * midstream. The important thing is that they cannot be _entered_
 620  * midstream, ie, execution of a basic block (or extened bb) always start
 621  * at the beginning of the block, never in the middle.
 622  */
 623 struct MonoBasicBlock {
 624         MonoInst *last_ins;
 625
 626         /* the next basic block in the order it appears in IL */
 627         MonoBasicBlock *next_bb;
 628
 629         /*
 630          * Before instruction selection it is the first tree in the
 631          * forest and the first item in the list of trees. After
 632          * instruction selection it is the first instruction and the
 633          * first item in the list of instructions.
 634          */
 635         MonoInst *code;
 636
 637         /* unique block number identification */
 638         gint32 block_num;
 639
 640         gint32 dfn;
 641
 642         /* Basic blocks: incoming and outgoing counts and pointers */
 643         /* Each bb should only appear once in each array */
 644         gint16 out_count, in_count;
 645         MonoBasicBlock **in_bb;
 646         MonoBasicBlock **out_bb;
 647
 648         /* Points to the start of the CIL code that initiated this BB */
 649         unsigned char* cil_code;
 650
 651         /* Length of the CIL block */
 652         gint32 cil_length;
 653
 654         /* The offset of the generated code, used for fixups */
 655         int native_offset;
 656         /* The length of the generated code, doesn't include alignment padding */
 657         int native_length;
 658         /* The real native offset, which includes alignment padding too */
 659         int real_native_offset;
 660         int max_offset;
 661         int max_length;
 662
 663         /* Visited and reachable flags */
 664         guint32 flags;
 665
 666         /*
 667          * SSA and loop based flags
 668          */
 669         MonoBitSet *dominators;
 670         MonoBitSet *dfrontier;
 671         MonoBasicBlock *idom;
 672         GSList *dominated;
 673         /* fast dominator algorithm */
 674         MonoBasicBlock *df_parent, *ancestor, *child, *label;
 675         int size, sdom, idomn;
 676
 677         /* loop nesting and recognition */
 678         GList *loop_blocks;
 679         gint8  nesting;
 680         gint8  loop_body_start;
 681
 682         /*
 683          * Whenever the bblock is rarely executed so it should be emitted after
 684          * the function epilog.
 685          */
 686         guint out_of_line : 1;
 687         /* Caches the result of uselessness calculation during optimize_branches */
 688         guint not_useless : 1;
 689         /* Whenever the decompose_array_access_opts () pass needs to process this bblock */
 690         guint has_array_access : 1;
 691         /* Whenever this bblock is extended, ie. it has branches inside it */
 692         guint extended : 1;
 693         /* Whenever this bblock contains a OP_JUMP_TABLE instruction */
 694         guint has_jump_table : 1;
 695         /* Whenever this bblock contains an OP_CALL_HANDLER instruction */
 696         guint has_call_handler : 1;
 697         /* Whenever this bblock starts a try block */
 698         guint try_start : 1;
 699
 700 #ifdef ENABLE_LLVM
 701         /* The offset of the CIL instruction in this bblock which ends a try block */
 702         intptr_t try_end;
 703 #endif
 704
 705         /*
 706          * If this is set, extend the try range started by this bblock by an arch specific
 707          * number of bytes to encompass the end of the previous bblock (e.g. a Monitor.Enter
 708          * call).
 709          */
 710         guint extend_try_block : 1;
 711
 712         /* use for liveness analysis */
 713         MonoBitSet *gen_set;
 714         MonoBitSet *kill_set;
 715         MonoBitSet *live_in_set;
 716         MonoBitSet *live_out_set;
 717
 718         /* fields to deal with non-empty stack slots at bb boundary */
 719         guint16 out_scount, in_scount;
 720         MonoInst **out_stack;
 721         MonoInst **in_stack;
 722
 723         /* we use that to prevent merging of bblocks covered by different clauses*/
 724         guint real_offset;
 725
 726         GSList *seq_points;
 727         MonoInst *last_seq_point;
 728
 729         GSList *spill_slot_defs;
 730
 731         /* List of call sites in this bblock sorted by pc_offset */
 732         GSList *gc_callsites;
 733
 734         /*
 735          * The region encodes whether the basic block is inside
 736          * a finally, catch, filter or none of these.
 737          *
 738          * If the value is -1, then it is neither finally, catch nor filter
 739          *
 740          * Otherwise the format is:
 741          *
 742          *  Bits: |     0-3      |       4-7      |     8-31
 743          *        |              |                |
 744          *        | clause-flags |   MONO_REGION  | clause-index
 745          *
 746          */
 747         guint region;
 748
 749         /* The current symbolic register number, used in local register allocation. */
 750         guint32 max_vreg;
 751 };
 752
 753 /* BBlock flags */
 754 enum {
 755         BB_VISITED              = 1 << 0,
 756         BB_REACHABLE            = 1 << 1,
 757         BB_EXCEPTION_DEAD_OBJ   = 1 << 2,
 758         BB_EXCEPTION_UNSAFE     = 1 << 3,
 759         BB_EXCEPTION_HANDLER    = 1 << 4,
 760         /* for Native Client, mark the blocks that can be jumped to indirectly */
 761         BB_INDIRECT_JUMP_TARGET = 1 << 5
 762 };
 763
 764 typedef struct MonoMemcpyArgs {
 765         int size, align;
 766 } MonoMemcpyArgs;
 767
 768 typedef enum {
 769         LLVMArgNone,
 770         /* Scalar argument passed by value */
 771         LLVMArgNormal,
 772         /* Only in ainfo->pair_storage */
 773         LLVMArgInIReg,
 774         /* Only in ainfo->pair_storage */
 775         LLVMArgInFPReg,
 776         /* Valuetype passed in 1-2 consecutive register */
 777         LLVMArgVtypeInReg,
 778         LLVMArgVtypeByVal,
 779         LLVMArgVtypeRetAddr, /* On on cinfo->ret */
 780         LLVMArgGSharedVt,
 781         /* Fixed size argument passed to/returned from gsharedvt method by ref */
 782         LLVMArgGsharedvtFixed,
 783         /* Fixed size vtype argument passed to/returned from gsharedvt method by ref */
 784         LLVMArgGsharedvtFixedVtype,
 785         /* Variable sized argument passed to/returned from gsharedvt method by ref */
 786         LLVMArgGsharedvtVariable,
 787         /* Vtype passed as one int array argument */
 788         LLVMArgAsIArgs,
 789         /* Vtype passed as a set of fp arguments */
 790         LLVMArgAsFpArgs,
 791         /*
 792          * Only for returns, a structure which
 793          * consists of floats/doubles.
 794          */
 795         LLVMArgFpStruct,
 796         LLVMArgVtypeByRef,
 797         /* Vtype returned as an int */
 798         LLVMArgVtypeAsScalar
 799 } LLVMArgStorage;
 800
 801 typedef struct {
 802         LLVMArgStorage storage;
 803
 804         /*
 805          * Only if storage == ArgValuetypeInReg/LLVMArgAsFpArgs.
 806          * This contains how the parts of the vtype are passed.
 807          */
 808         LLVMArgStorage pair_storage [8];
 809         /*
 810          * Only if storage == LLVMArgAsIArgs/LLVMArgAsFpArgs/LLVMArgFpStruct.
 811          * If storage == LLVMArgAsFpArgs, this is the number of arguments
 812          * used to pass the value.
 813          * If storage == LLVMArgFpStruct, this is the number of fields
 814          * in the structure.
 815          */
 816         int nslots;
 817         /* Only if storage == LLVMArgAsFpArgs/LLVMArgFpStruct (4/8) */
 818         int esize;
 819         /* Parameter index in the LLVM signature */
 820         int pindex;
 821         MonoType *type;
 822         /* Only if storage == LLVMArgAsFpArgs. Dummy fp args to insert before this arg */
 823         int ndummy_fpargs;
 824 } LLVMArgInfo;
 825
 826 typedef struct {
 827         LLVMArgInfo ret;
 828         /* Whenever there is an rgctx argument */
 829         gboolean rgctx_arg;
 830         /* Whenever there is an IMT argument */
 831         gboolean imt_arg;
 832         /*
 833          * The position of the vret arg in the argument list.
 834          * Only if ret->storage == ArgVtypeRetAddr.
 835          * Should be 0 or 1.
 836          */
 837         int vret_arg_index;
 838         /* The indexes of various special arguments in the LLVM signature */
 839         int vret_arg_pindex, this_arg_pindex, rgctx_arg_pindex, imt_arg_pindex;
 840
 841         /* Inline array of argument info */
 842         /* args [0] is for the this argument if it exists */
 843         LLVMArgInfo args [1];
 844 } LLVMCallInfo;
 845
 846 #define MONO_MAX_SRC_REGS       3
 847
 848 struct MonoInst {
 849         guint16 opcode;
 850         guint8  type; /* stack type */
 851         guint8  flags;
 852
 853         /* used by the register allocator */
 854         gint32 dreg, sreg1, sreg2, sreg3;
 855
 856         MonoInst *next, *prev;
 857
 858         union {
 859                 union {
 860                         MonoInst *src;
 861                         MonoMethodVar *var;
 862                         mgreg_t const_val;
 863 #if (SIZEOF_REGISTER > SIZEOF_VOID_P) && (G_BYTE_ORDER == G_BIG_ENDIAN)
 864                         struct {
 865                                 gpointer p[SIZEOF_REGISTER/SIZEOF_VOID_P];
 866                         } pdata;
 867 #else
 868                         gpointer p;
 869 #endif
 870                         MonoMethod *method;
 871                         MonoMethodSignature *signature;
 872                         MonoBasicBlock **many_blocks;
 873                         MonoBasicBlock *target_block;
 874                         MonoInst **args;
 875                         MonoType *vtype;
 876                         MonoClass *klass;
 877                         int *phi_args;
 878                         MonoCallInst *call_inst;
 879                         MonoExceptionClause *exception_clause;
 880                 } op [2];
 881                 gint64 i8const;
 882                 double r8const;
 883         } data;
 884
 885         const unsigned char* cil_code; /* for debugging and bblock splitting */
 886
 887         /* used mostly by the backend to store additional info it may need */
 888         union {
 889                 gint32 reg3;
 890                 gint32 arg_info;
 891                 gint32 size;
 892                 MonoMemcpyArgs *memcpy_args; /* in OP_MEMSET and OP_MEMCPY */
 893                 gpointer data;
 894                 gint shift_amount;
 895                 gboolean is_pinvoke; /* for variables in the unmanaged marshal format */
 896                 gboolean record_cast_details; /* For CEE_CASTCLASS */
 897                 MonoInst *spill_var; /* for OP_MOVE_I4_TO_F/F_TO_I4 and OP_FCONV_TO_R8_X */
 898                 guint16 source_opcode; /*OP_XCONV_R8_TO_I4 needs to know which op was used to do proper widening*/
 899                 int pc_offset; /* OP_GC_LIVERANGE_START/END */
 900
 901                 /*
 902                  * memory_barrier: MONO_MEMORY_BARRIER_{ACQ,REL,SEQ}
 903                  * atomic_load_*: MONO_MEMORY_BARRIER_{ACQ,SEQ}
 904                  * atomic_store_*: MONO_MEMORY_BARRIER_{REL,SEQ}
 905                  */
 906                 int memory_barrier_kind;
 907         } backend;
 908
 909         MonoClass *klass;
 910 };
 911
 912 struct MonoCallInst {
 913         MonoInst inst;
 914         MonoMethodSignature *signature;
 915         MonoMethod *method;
 916         MonoInst **args;
 917         MonoInst *out_args;
 918         MonoInst *vret_var;
 919         gconstpointer fptr;
 920         guint stack_usage;
 921         guint stack_align_amount;
 922         guint is_virtual : 1;
 923         guint tail_call : 1;
 924         /* If this is TRUE, 'fptr' points to a MonoJumpInfo instead of an address. */
 925         guint fptr_is_patch : 1;
 926         /*
 927          * If this is true, then the call returns a vtype in a register using the same
 928          * calling convention as OP_CALL.
 929          */
 930         guint vret_in_reg : 1;
 931         /* Whenever vret_in_reg returns fp values */
 932         guint vret_in_reg_fp : 1;
 933         /* Whenever there is an IMT argument and it is dynamic */
 934         guint dynamic_imt_arg : 1;
 935         /* Whenever there is an RGCTX argument */
 936         guint32 rgctx_reg : 1;
 937         /* Whenever the call will need an unbox trampoline */
 938         guint need_unbox_trampoline : 1;
 939         regmask_t used_iregs;
 940         regmask_t used_fregs;
 941         GSList *out_ireg_args;
 942         GSList *out_freg_args;
 943         GSList *outarg_vts;
 944         gpointer call_info;
 945 #ifdef ENABLE_LLVM
 946         LLVMCallInfo *cinfo;
 947         int rgctx_arg_reg, imt_arg_reg;
 948 #endif
 949 #ifdef TARGET_ARM
 950         /* See the comment in mini-arm.c!mono_arch_emit_call for RegTypeFP. */
 951         GSList *float_args;
 952 #endif
 953 };
 954
 955 struct MonoCallArgParm {
 956         MonoInst ins;
 957         gint32 size;
 958         gint32 offset;
 959         gint32 offPrm;
 960 };
 961
 962 /*
 963  * flags for MonoInst
 964  * Note: some of the values overlap, because they can't appear
 965  * in the same MonoInst.
 966  */
 967 enum {
 968         MONO_INST_HAS_METHOD = 1,
 969         MONO_INST_INIT       = 1, /* in localloc */
 970         MONO_INST_SINGLE_STEP_LOC = 1, /* in SEQ_POINT */
 971         MONO_INST_IS_DEAD    = 2,
 972         MONO_INST_TAILCALL   = 4,
 973         MONO_INST_VOLATILE   = 4,
 974         MONO_INST_NOTYPECHECK    = 4,
 975         MONO_INST_NONEMPTY_STACK = 4, /* in SEQ_POINT */
 976         MONO_INST_UNALIGNED  = 8,
 977     MONO_INST_CFOLD_TAKEN = 8, /* On branches */
 978     MONO_INST_CFOLD_NOT_TAKEN = 16, /* On branches */
 979         MONO_INST_DEFINITION_HAS_SIDE_EFFECTS = 8,
 980         /* the address of the variable has been taken */
 981         MONO_INST_INDIRECT   = 16,
 982         MONO_INST_NORANGECHECK   = 16,
 983         /* On loads, the source address can be null */
 984         MONO_INST_FAULT = 32,
 985         /*
 986          * On variables, identifies LMF variables. These variables have a dummy type (int), but
 987          * require stack space for a MonoLMF struct.
 988          */
 989         MONO_INST_LMF = 32,
 990         /* On loads, the source address points to a constant value */
 991         MONO_INST_INVARIANT_LOAD = 64,
 992         /* On variables, the variable needs GC tracking */
 993         MONO_INST_GC_TRACK = 128,
 994         /*
 995          * Set on instructions during code emission which make calls, i.e. OP_CALL, OP_THROW.
 996          * backend.pc_offset will be set to the pc offset at the end of the native call instructions.
 997          */
 998         MONO_INST_GC_CALLSITE = 128,
 999         /* On comparisons, mark the branch following the condition as likely to be taken */
1000         MONO_INST_LIKELY = 128,
1001 };
1002
1003 #define inst_c0 data.op[0].const_val
1004 #define inst_c1 data.op[1].const_val
1005 #define inst_i0 data.op[0].src
1006 #define inst_i1 data.op[1].src
1007 #if (SIZEOF_REGISTER > SIZEOF_VOID_P) && (G_BYTE_ORDER == G_BIG_ENDIAN)
1008 #define inst_p0 data.op[0].pdata.p[SIZEOF_REGISTER/SIZEOF_VOID_P - 1]
1009 #define inst_p1 data.op[1].pdata.p[SIZEOF_REGISTER/SIZEOF_VOID_P - 1]
1010 #else
1011 #define inst_p0 data.op[0].p
1012 #define inst_p1 data.op[1].p
1013 #endif
1014 #define inst_l  data.i8const
1015 #define inst_r  data.r8const
1016 #define inst_left  data.op[0].src
1017 #define inst_right data.op[1].src
1018
1019 #define inst_newa_len   data.op[0].src
1020 #define inst_newa_class data.op[1].klass
1021
1022 #define inst_var    data.op[0].var
1023 #define inst_vtype  data.op[1].vtype
1024 /* in branch instructions */
1025 #define inst_many_bb   data.op[1].many_blocks
1026 #define inst_target_bb data.op[0].target_block
1027 #define inst_true_bb   data.op[1].many_blocks[0]
1028 #define inst_false_bb  data.op[1].many_blocks[1]
1029
1030 #define inst_basereg sreg1
1031 #define inst_indexreg sreg2
1032 #define inst_destbasereg dreg
1033 #define inst_offset data.op[0].const_val
1034 #define inst_imm    data.op[1].const_val
1035 #define inst_call   data.op[1].call_inst
1036
1037 #define inst_phi_args   data.op[1].phi_args
1038 #define inst_eh_block    data.op[1].exception_clause
1039
1040 static inline void
1041 mono_inst_set_src_registers (MonoInst *ins, int *regs)
1042 {
1043         ins->sreg1 = regs [0];
1044         ins->sreg2 = regs [1];
1045         ins->sreg3 = regs [2];
1046 }
1047
1048 /* instruction description for use in regalloc/scheduling */
1049 enum {
1050         MONO_INST_DEST,
1051         MONO_INST_SRC1,         /* we depend on the SRCs to be consecutive */
1052         MONO_INST_SRC2,
1053         MONO_INST_SRC3,
1054         MONO_INST_LEN,
1055         MONO_INST_CLOB,
1056         /* Unused, commented out to reduce the size of the mdesc tables
1057         MONO_INST_FLAGS,
1058         MONO_INST_COST,
1059         MONO_INST_DELAY,
1060         MONO_INST_RES,
1061         */
1062         MONO_INST_MAX
1063 };
1064
1065 typedef union {
1066         struct {
1067                 guint16 tid; /* tree number */
1068                 guint16 bid; /* block number */
1069         } pos ;
1070         guint32 abs_pos;
1071 } MonoPosition;
1072
1073 typedef struct {
1074         MonoPosition first_use, last_use;
1075 } MonoLiveRange;
1076
1077 typedef struct MonoLiveRange2 MonoLiveRange2;
1078
1079 struct MonoLiveRange2 {
1080         int from, to;
1081         MonoLiveRange2 *next;
1082 };
1083
1084 typedef struct {
1085         /* List of live ranges sorted by 'from' */
1086         MonoLiveRange2 *range;
1087         MonoLiveRange2 *last_range;
1088 } MonoLiveInterval;
1089
1090 /*
1091  * Additional information about a variable
1092  */
1093 struct MonoMethodVar {
1094         guint           idx; /* inside cfg->varinfo, cfg->vars */
1095         MonoLiveRange   range; /* generated by liveness analysis */
1096         MonoLiveInterval *interval; /* generated by liveness analysis */
1097         int             reg; /* != -1 if allocated into a register */
1098         int             spill_costs;
1099         MonoBitSet     *def_in; /* used by SSA */
1100         MonoInst       *def;    /* used by SSA */
1101         MonoBasicBlock *def_bb; /* used by SSA */
1102         GList          *uses;   /* used by SSA */
1103         char            cpstate;  /* used by SSA conditional  constant propagation */
1104         /* The native offsets corresponding to the live range of the variable */
1105         gint32         live_range_start, live_range_end;
1106         /*
1107          * cfg->varinfo [idx]->dreg could be replaced for OP_REGVAR, this contains the
1108          * original vreg.
1109          */
1110         gint32         vreg;
1111 };
1112
1113 /*
1114  * Stores state need to resume exception handling when using LLVM
1115  */
1116 typedef struct {
1117         MonoJitInfo *ji;
1118         int clause_index;
1119         MonoContext ctx, new_ctx;
1120         /* FIXME: GC */
1121         gpointer        ex_obj;
1122         MonoLMF *lmf;
1123         int first_filter_idx, filter_idx;
1124 } ResumeState;
1125
1126 typedef struct {
1127         gpointer          end_of_stack;
1128         guint32           stack_size;
1129         /* !defined(HAVE_KW_THREAD) || !defined(MONO_ARCH_ENABLE_MONO_LMF_VAR) */
1130         MonoLMF          *lmf;
1131         MonoLMF          *first_lmf;
1132         gpointer         restore_stack_prot;
1133         guint32          handling_stack_ovf;
1134         gpointer         signal_stack;
1135         guint32          signal_stack_size;
1136         gpointer         stack_ovf_guard_base;
1137         guint32          stack_ovf_guard_size;
1138         guint            stack_ovf_valloced : 1;
1139         void            (*abort_func) (MonoObject *object);
1140         /* Used to implement --debug=casts */
1141         MonoClass       *class_cast_from, *class_cast_to;
1142
1143         /* Stores state needed by handler block with a guard */
1144         MonoContext     ex_ctx;
1145         ResumeState resume_state;
1146
1147         /*Variabled use to implement handler blocks (finally/catch/etc) guards during interruption*/
1148         /* handler block return address */
1149         gpointer handler_block_return_address;
1150
1151         /* handler block been guarded. It's safe to store this even for dynamic methods since there
1152         is an activation on stack making sure it will remain alive.*/
1153         MonoJitExceptionInfo *handler_block;
1154
1155         /* context to be used by the guard trampoline when resuming interruption.*/
1156         MonoContext handler_block_context;
1157         /*
1158          * Stores the state at the exception throw site to be used by mono_stack_walk ()
1159          * when it is called from profiler functions during exception handling.
1160          */
1161         MonoContext orig_ex_ctx;
1162         gboolean orig_ex_ctx_set;
1163
1164         /*
1165          * Stores if we need to run a chained exception in Windows.
1166          */
1167         gboolean mono_win_chained_exception_needs_run;
1168
1169         /*
1170          * The current exception in flight
1171          */
1172         guint32 thrown_exc;
1173
1174         /*
1175          * The calling assembly in llvmonly mode.
1176          */
1177         MonoImage *calling_image;
1178 } MonoJitTlsData;
1179
1180 /*
1181  * This structure is an extension of MonoLMF and contains extra information.
1182  */
1183 typedef struct {
1184         struct MonoLMF lmf;
1185         gboolean debugger_invoke;
1186         MonoContext ctx; /* if debugger_invoke is TRUE */
1187 } MonoLMFExt;
1188
1189 /* Generic sharing */
1190
1191 /*
1192  * Flags for which contexts were used in inflating a generic.
1193  */
1194 enum {
1195         MONO_GENERIC_CONTEXT_USED_CLASS = 1,
1196         MONO_GENERIC_CONTEXT_USED_METHOD = 2
1197 };
1198
1199 enum {
1200         /* Cannot be 0 since this is stored in rgctx slots, and 0 means an unitialized rgctx slot */
1201         MONO_GSHAREDVT_BOX_TYPE_VTYPE = 1,
1202         MONO_GSHAREDVT_BOX_TYPE_REF = 2,
1203         MONO_GSHAREDVT_BOX_TYPE_NULLABLE = 3
1204 };
1205
1206 typedef enum {
1207         MONO_RGCTX_INFO_STATIC_DATA,
1208         MONO_RGCTX_INFO_KLASS,
1209         MONO_RGCTX_INFO_ELEMENT_KLASS,
1210         MONO_RGCTX_INFO_VTABLE,
1211         MONO_RGCTX_INFO_TYPE,
1212         MONO_RGCTX_INFO_REFLECTION_TYPE,
1213         MONO_RGCTX_INFO_METHOD,
1214         /* In llvmonly mode, this is a function descriptor */
1215         MONO_RGCTX_INFO_GENERIC_METHOD_CODE,
1216         MONO_RGCTX_INFO_GSHAREDVT_OUT_WRAPPER,
1217         MONO_RGCTX_INFO_CLASS_FIELD,
1218         MONO_RGCTX_INFO_METHOD_RGCTX,
1219         MONO_RGCTX_INFO_METHOD_CONTEXT,
1220         MONO_RGCTX_INFO_REMOTING_INVOKE_WITH_CHECK,
1221         MONO_RGCTX_INFO_METHOD_DELEGATE_CODE,
1222         MONO_RGCTX_INFO_CAST_CACHE,
1223         MONO_RGCTX_INFO_ARRAY_ELEMENT_SIZE,
1224         MONO_RGCTX_INFO_VALUE_SIZE,
1225         /* +1 to avoid zero values in rgctx slots */
1226         MONO_RGCTX_INFO_FIELD_OFFSET,
1227         /* Either the code for a gsharedvt method, or the address for a gsharedvt-out trampoline for the method */
1228         /* In llvmonly mode, this is a function descriptor */
1229         MONO_RGCTX_INFO_METHOD_GSHAREDVT_OUT_TRAMPOLINE,
1230         /* Same for virtual calls */
1231         /* In llvmonly mode, this is a function descriptor */
1232         MONO_RGCTX_INFO_METHOD_GSHAREDVT_OUT_TRAMPOLINE_VIRT,
1233         /* Same for calli, associated with a signature */
1234         MONO_RGCTX_INFO_SIG_GSHAREDVT_OUT_TRAMPOLINE_CALLI,
1235         MONO_RGCTX_INFO_SIG_GSHAREDVT_IN_TRAMPOLINE_CALLI,
1236         /* One of MONO_GSHAREDVT_BOX_TYPE */
1237         MONO_RGCTX_INFO_CLASS_BOX_TYPE,
1238         /* Resolves to a MonoGSharedVtMethodRuntimeInfo */
1239         MONO_RGCTX_INFO_METHOD_GSHAREDVT_INFO,
1240         MONO_RGCTX_INFO_LOCAL_OFFSET,
1241         MONO_RGCTX_INFO_MEMCPY,
1242         MONO_RGCTX_INFO_BZERO,
1243         /* The address of Nullable<T>.Box () */
1244         /* In llvmonly mode, this is a function descriptor */
1245         MONO_RGCTX_INFO_NULLABLE_CLASS_BOX,
1246         MONO_RGCTX_INFO_NULLABLE_CLASS_UNBOX,
1247         /* MONO_PATCH_INFO_VCALL_METHOD */
1248         MONO_RGCTX_INFO_VIRT_METHOD_CODE,
1249         /*
1250          * MONO_PATCH_INFO_VCALL_METHOD
1251          * Same as MONO_RGCTX_INFO_CLASS_BOX_TYPE, but for the class
1252          * which implements the method.
1253          */
1254         MONO_RGCTX_INFO_VIRT_METHOD_BOX_TYPE,
1255 } MonoRgctxInfoType;
1256
1257 typedef struct _MonoRuntimeGenericContextInfoTemplate {
1258         MonoRgctxInfoType info_type;
1259         gpointer data;
1260         struct _MonoRuntimeGenericContextInfoTemplate *next;
1261 } MonoRuntimeGenericContextInfoTemplate;
1262
1263 typedef struct {
1264         MonoClass *next_subclass;
1265         MonoRuntimeGenericContextInfoTemplate *infos;
1266         GSList *method_templates;
1267 } MonoRuntimeGenericContextTemplate;
1268
1269 typedef struct {
1270         MonoVTable *class_vtable; /* must be the first element */
1271         MonoGenericInst *method_inst;
1272         gpointer infos [MONO_ZERO_LEN_ARRAY];
1273 } MonoMethodRuntimeGenericContext;
1274
1275 #define MONO_SIZEOF_METHOD_RUNTIME_GENERIC_CONTEXT (sizeof (MonoMethodRuntimeGenericContext) - MONO_ZERO_LEN_ARRAY * SIZEOF_VOID_P)
1276
1277 #define MONO_RGCTX_SLOT_MAKE_RGCTX(i)   (i)
1278 #define MONO_RGCTX_SLOT_MAKE_MRGCTX(i)  ((i) | 0x80000000)
1279 #define MONO_RGCTX_SLOT_INDEX(s)        ((s) & 0x7fffffff)
1280 #define MONO_RGCTX_SLOT_IS_MRGCTX(s)    (((s) & 0x80000000) ? TRUE : FALSE)
1281
1282 #define MONO_GSHAREDVT_DEL_INVOKE_VT_OFFSET -2
1283
1284 typedef struct {
1285         MonoMethod *method;
1286         MonoRuntimeGenericContextInfoTemplate *entries;
1287         int num_entries, count_entries;
1288 } MonoGSharedVtMethodInfo;
1289
1290 /* This is used by gsharedvt methods to allocate locals and compute local offsets */
1291 typedef struct {
1292         int locals_size;
1293         /*
1294          * The results of resolving the entries in MOonGSharedVtMethodInfo->entries.
1295          * We use this instead of rgctx slots since these can be loaded using a load instead
1296          * of a call to an rgctx fetch trampoline.
1297          */
1298         gpointer entries [MONO_ZERO_LEN_ARRAY];
1299 } MonoGSharedVtMethodRuntimeInfo;
1300
1301 typedef struct
1302 {
1303         MonoMethod *invoke;
1304         MonoMethod *method;
1305         MonoMethodSignature *invoke_sig;
1306         MonoMethodSignature *sig;
1307         gpointer method_ptr;
1308         gpointer invoke_impl;
1309         gpointer impl_this;
1310         gpointer impl_nothis;
1311         gboolean need_rgctx_tramp;
1312 } MonoDelegateTrampInfo;
1313
1314 /*
1315  * A function descriptor, which is a function address + argument pair.
1316  * In llvm-only mode, these are used instead of trampolines to pass
1317  * extra arguments to runtime functions/methods.
1318  */
1319 typedef struct
1320 {
1321         gpointer addr;
1322         gpointer arg;
1323 } MonoFtnDesc;
1324
1325 typedef enum {
1326 #define PATCH_INFO(a,b) MONO_PATCH_INFO_ ## a,
1327 #include "patch-info.h"
1328 #undef PATCH_INFO
1329         MONO_PATCH_INFO_NUM
1330 } MonoJumpInfoType;
1331
1332 /*
1333  * We need to store the image which the token refers to along with the token,
1334  * since the image might not be the same as the image of the method which
1335  * contains the relocation, because of inlining.
1336  */
1337 typedef struct MonoJumpInfoToken {
1338         MonoImage *image;
1339         guint32 token;
1340         gboolean has_context;
1341         MonoGenericContext context;
1342 } MonoJumpInfoToken;
1343
1344 typedef struct MonoJumpInfoBBTable {
1345         MonoBasicBlock **table;
1346         int table_size;
1347 } MonoJumpInfoBBTable;
1348
1349 typedef struct MonoJumpInfoRgctxEntry MonoJumpInfoRgctxEntry;
1350
1351 /* Contains information describing an LLVM IMT trampoline */
1352 typedef struct MonoJumpInfoImtTramp {
1353         MonoMethod *method;
1354         int vt_offset;
1355 } MonoJumpInfoImtTramp;
1356
1357 typedef struct MonoJumpInfoGSharedVtCall MonoJumpInfoGSharedVtCall;
1358
1359 /*
1360  * Represents the method which is called when a virtual call is made to METHOD
1361  * on a receiver of type KLASS.
1362  */
1363 typedef struct {
1364         /* Receiver class */
1365         MonoClass *klass;
1366         /* Virtual method */
1367         MonoMethod *method;
1368 } MonoJumpInfoVirtMethod;
1369
1370 typedef struct MonoJumpInfo MonoJumpInfo;
1371 struct MonoJumpInfo {
1372         MonoJumpInfo *next;
1373         /* Relocation type for patching */
1374         int relocation;
1375         union {
1376                 int i;
1377                 guint8 *p;
1378                 MonoInst *label;
1379         } ip;
1380
1381         MonoJumpInfoType type;
1382         union {
1383                 gconstpointer   target;
1384 #if SIZEOF_VOID_P == 8
1385                 gint64          offset;
1386 #else
1387                 int             offset;
1388 #endif
1389                 int index;
1390                 MonoBasicBlock *bb;
1391                 MonoInst       *inst;
1392                 MonoMethod     *method;
1393                 MonoClass      *klass;
1394                 MonoClassField *field;
1395                 MonoImage      *image;
1396                 MonoVTable     *vtable;
1397                 const char     *name;
1398                 MonoJumpInfoToken  *token;
1399                 MonoJumpInfoBBTable *table;
1400                 MonoJumpInfoRgctxEntry *rgctx_entry;
1401                 MonoJumpInfoImtTramp *imt_tramp;
1402                 MonoJumpInfoGSharedVtCall *gsharedvt;
1403                 MonoGSharedVtMethodInfo *gsharedvt_method;
1404                 MonoMethodSignature *sig;
1405                 MonoDelegateClassMethodPair *del_tramp;
1406                 /* MONO_PATCH_INFO_VIRT_METHOD */
1407                 MonoJumpInfoVirtMethod *virt_method;
1408         } data;
1409 };
1410
1411 /*
1412  * Contains information for computing the
1413  * property given by INFO_TYPE of the runtime
1414  * object described by DATA.
1415  */
1416 struct MonoJumpInfoRgctxEntry {
1417         MonoMethod *method;
1418         gboolean in_mrgctx;
1419         MonoJumpInfo *data; /* describes the data to be loaded */
1420         MonoRgctxInfoType info_type;
1421 };
1422
1423 /* Contains information about a gsharedvt call */
1424 struct MonoJumpInfoGSharedVtCall {
1425         /* The original signature of the call */
1426         MonoMethodSignature *sig;
1427         /* The method which is called */
1428         MonoMethod *method;
1429 };
1430
1431 typedef enum {
1432         MONO_TRAMPOLINE_JIT,
1433         MONO_TRAMPOLINE_JUMP,
1434         MONO_TRAMPOLINE_RGCTX_LAZY_FETCH,
1435         MONO_TRAMPOLINE_AOT,
1436         MONO_TRAMPOLINE_AOT_PLT,
1437         MONO_TRAMPOLINE_DELEGATE,
1438         MONO_TRAMPOLINE_RESTORE_STACK_PROT,
1439         MONO_TRAMPOLINE_GENERIC_VIRTUAL_REMOTING,
1440         MONO_TRAMPOLINE_VCALL,
1441         MONO_TRAMPOLINE_HANDLER_BLOCK_GUARD,
1442         MONO_TRAMPOLINE_NUM
1443 } MonoTrampolineType;
1444
1445 /* These trampolines return normally to their caller */
1446 #define MONO_TRAMPOLINE_TYPE_MUST_RETURN(t)             \
1447         ((t) == MONO_TRAMPOLINE_RESTORE_STACK_PROT ||   \
1448          (t) == MONO_TRAMPOLINE_RGCTX_LAZY_FETCH)
1449
1450 /* These trampolines receive an argument directly in a register */
1451 #define MONO_TRAMPOLINE_TYPE_HAS_ARG(t)         \
1452         ((t) == MONO_TRAMPOLINE_HANDLER_BLOCK_GUARD)
1453
1454 /* optimization flags */
1455 #define OPTFLAG(id,shift,name,descr) MONO_OPT_ ## id = 1 << shift,
1456 enum {
1457 #include "optflags-def.h"
1458         MONO_OPT_LAST
1459 };
1460
1461 /*
1462  * This structure represents a JIT backend.
1463  */
1464 typedef struct {
1465         guint            have_card_table_wb : 1;
1466         guint            have_op_generic_class_init : 1;
1467         guint            emulate_mul_div : 1;
1468         guint            emulate_div : 1;
1469         guint            emulate_long_shift_opts : 1;
1470         guint            have_objc_get_selector : 1;
1471         guint            have_generalized_imt_thunk : 1;
1472         guint            have_tls_get : 1;
1473         guint            have_tls_get_reg : 1;
1474         guint            have_liverange_ops: 1;
1475         guint            have_op_tail_call : 1;
1476         guint            have_dummy_init : 1;
1477         guint            gshared_supported : 1;
1478         guint            use_fpstack : 1;
1479         guint            ilp32 : 1;
1480         guint            need_got_var : 1;
1481         guint            need_div_check : 1;
1482         guint            no_unaligned_access : 1;
1483         int              monitor_enter_adjustment;
1484         int              dyn_call_param_area;
1485 } MonoBackend;
1486
1487 /* Flags for mini_method_compile () */
1488 typedef enum {
1489         /* Whenever to run cctors during JITting */
1490         JIT_FLAG_RUN_CCTORS = (1 << 0),
1491         /* Whenever this is an AOT compilation */
1492         JIT_FLAG_AOT = (1 << 1),
1493         /* Whenever this is a full AOT compilation */
1494         JIT_FLAG_FULL_AOT = (1 << 2),
1495         /* Whenever to compile with LLVM */
1496         JIT_FLAG_LLVM = (1 << 3),
1497         /* Whenever to disable direct calls to direct calls to icall functions */
1498         JIT_FLAG_NO_DIRECT_ICALLS = (1 << 4),
1499         /* Emit explicit null checks */
1500         JIT_FLAG_EXPLICIT_NULL_CHECKS = (1 << 5),
1501         /* Whenever to compile in llvm-only mode */
1502         JIT_FLAG_LLVM_ONLY = (1 << 6),
1503 } JitFlags;
1504
1505 /* Bit-fields in the MonoBasicBlock.region */
1506 #define MONO_REGION_TRY       0
1507 #define MONO_REGION_FINALLY  16
1508 #define MONO_REGION_CATCH    32
1509 #define MONO_REGION_FAULT    64         /* Currently unused */
1510 #define MONO_REGION_FILTER  128
1511
1512 #define MONO_BBLOCK_IS_IN_REGION(bblock, regtype) (((bblock)->region & (0xf << 4)) == (regtype))
1513
1514 #define MONO_REGION_FLAGS(region) ((region) & 0x7)
1515 #define MONO_REGION_CLAUSE_INDEX(region) (((region) >> 8) - 1)
1516
1517 #define get_vreg_to_inst(cfg, vreg) ((vreg) < (cfg)->vreg_to_inst_len ? (cfg)->vreg_to_inst [(vreg)] : NULL)
1518
1519 #define vreg_is_volatile(cfg, vreg) (G_UNLIKELY (get_vreg_to_inst ((cfg), (vreg)) && (get_vreg_to_inst ((cfg), (vreg))->flags & (MONO_INST_VOLATILE|MONO_INST_INDIRECT))))
1520
1521 #define vreg_is_ref(cfg, vreg) ((vreg) < (cfg)->vreg_is_ref_len ? (cfg)->vreg_is_ref [(vreg)] : 0)
1522 #define vreg_is_mp(cfg, vreg) ((vreg) < (cfg)->vreg_is_mp_len ? (cfg)->vreg_is_mp [(vreg)] : 0)
1523
1524 /*
1525  * Control Flow Graph and compilation unit information
1526  */
1527 typedef struct {
1528         MonoMethod      *method;
1529         MonoMethodHeader *header;
1530         MonoMemPool     *mempool;
1531         MonoInst       **varinfo;
1532         MonoMethodVar   *vars;
1533         MonoInst        *ret;
1534         MonoBasicBlock  *bb_entry;
1535         MonoBasicBlock  *bb_exit;
1536         MonoBasicBlock  *bb_init;
1537         MonoBasicBlock **bblocks;
1538         MonoBasicBlock **cil_offset_to_bb;
1539         MonoMemPool     *state_pool; /* used by instruction selection */
1540         MonoBasicBlock  *cbb;        /* used by instruction selection */
1541         MonoInst        *prev_ins;   /* in decompose */
1542         MonoJumpInfo    *patch_info;
1543         MonoJitInfo     *jit_info;
1544         MonoJitDynamicMethodInfo *dynamic_info;
1545         guint            num_bblocks, max_block_num;
1546         guint            locals_start;
1547         guint            num_varinfo; /* used items in varinfo */
1548         guint            varinfo_count; /* total storage in varinfo */
1549         gint             stack_offset;
1550         gint             max_ireg;
1551         gint             cil_offset_to_bb_len;
1552         MonoRegState    *rs;
1553         MonoSpillInfo   *spill_info [16]; /* machine register spills */
1554         gint             spill_count;
1555         gint             spill_info_len [16];
1556         /* unsigned char   *cil_code; */
1557         MonoMethod      *inlined_method; /* the method which is currently inlined */
1558         MonoInst        *domainvar; /* a cache for the current domain */
1559         MonoInst        *got_var; /* Global Offset Table variable */
1560         MonoInst        **locals;
1561         MonoInst        *rgctx_var; /* Runtime generic context variable (for static generic methods) */
1562         MonoInst        **args;
1563         MonoType        **arg_types;
1564         MonoMethod      *current_method; /* The method currently processed by method_to_ir () */
1565         MonoMethod      *method_to_register; /* The method to register in JIT info tables */
1566         MonoGenericContext *generic_context;
1567
1568         MonoBackend *backend;
1569
1570         /*
1571          * This variable represents the hidden argument holding the vtype
1572          * return address. If the method returns something other than a vtype, or
1573          * the vtype is returned in registers this is NULL.
1574          */
1575         MonoInst        *vret_addr;
1576
1577         /*
1578          * This is used to initialize the cil_code field of MonoInst's.
1579          */
1580         const unsigned char *ip;
1581
1582         struct MonoAliasingInformation *aliasing_info;
1583
1584         /* A hashtable of region ID-> SP var mappings */
1585         /* An SP var is a place to store the stack pointer (used by handlers)*/
1586         GHashTable      *spvars;
1587
1588         /* A hashtable of region ID -> EX var mappings */
1589         /* An EX var stores the exception object passed to catch/filter blocks */
1590         GHashTable      *exvars;
1591
1592         GList           *ldstr_list; /* used by AOT */
1593
1594         MonoDomain      *domain;
1595
1596         guint            real_offset;
1597         GHashTable      *cbb_hash;
1598
1599         /* The current virtual register number */
1600         guint32 next_vreg;
1601
1602         MonoGenericSharingContext gsctx;
1603         MonoGenericContext *gsctx_context;
1604
1605         MonoGSharedVtMethodInfo *gsharedvt_info;
1606
1607         /* Points to the gsharedvt locals area at runtime */
1608         MonoInst *gsharedvt_locals_var;
1609
1610         /* The localloc instruction used to initialize gsharedvt_locals_var */
1611         MonoInst *gsharedvt_locals_var_ins;
1612
1613         /* Points to a MonoGSharedVtMethodRuntimeInfo at runtime */
1614         MonoInst *gsharedvt_info_var;
1615
1616         /* For native-to-managed wrappers, CEE_MONO_JIT_(AT|DE)TACH opcodes */
1617         MonoInst *attach_cookie;
1618         MonoInst *attach_dummy;
1619
1620         MonoInst *lmf_var;
1621         MonoInst *lmf_addr_var;
1622
1623         MonoInst *stack_inbalance_var;
1624
1625         unsigned char   *cil_start;
1626 #ifdef __native_client_codegen__
1627         /* this alloc is not aligned, native_code */
1628         /* is the 32-byte aligned version of this */
1629         unsigned char   *native_code_alloc;
1630 #endif
1631         unsigned char   *native_code;
1632         guint            code_size;
1633         guint            code_len;
1634         guint            prolog_end;
1635         guint            epilog_begin;
1636         guint            epilog_end;
1637         regmask_t        used_int_regs;
1638         guint32          opt;
1639         guint32          prof_options;
1640         guint32          flags;
1641         guint32          comp_done;
1642         guint32          verbose_level;
1643         guint32          stack_usage;
1644         guint32          param_area;
1645         guint32          frame_reg;
1646         gint32           sig_cookie;
1647         guint            disable_aot : 1;
1648         guint            disable_ssa : 1;
1649         guint            disable_llvm : 1;
1650         guint            enable_extended_bblocks : 1;
1651         guint            run_cctors : 1;
1652         guint            need_lmf_area : 1;
1653         guint            compile_aot : 1;
1654         guint            full_aot : 1;
1655         guint            compile_llvm : 1;
1656         guint            got_var_allocated : 1;
1657         guint            ret_var_is_local : 1;
1658         guint            ret_var_set : 1;
1659         guint            unverifiable : 1;
1660         guint            skip_visibility : 1;
1661         guint            disable_reuse_registers : 1;
1662         guint            disable_reuse_stack_slots : 1;
1663         guint            disable_reuse_ref_stack_slots : 1;
1664         guint            disable_ref_noref_stack_slot_share : 1;
1665         guint            disable_initlocals_opt : 1;
1666         guint            disable_initlocals_opt_refs : 1;
1667         guint            disable_omit_fp : 1;
1668         guint            disable_vreg_to_lvreg : 1;
1669         guint            disable_deadce_vars : 1;
1670         guint            disable_out_of_line_bblocks : 1;
1671         guint            disable_direct_icalls : 1;
1672         guint            create_lmf_var : 1;
1673         /*
1674          * When this is set, the code to push/pop the LMF from the LMF stack is generated as IR
1675          * instead of being generated in emit_prolog ()/emit_epilog ().
1676          */
1677         guint            lmf_ir : 1;
1678         /*
1679          * Whenever to use the mono_lmf TLS variable instead of indirection through the
1680          * mono_lmf_addr TLS variable.
1681          */
1682         guint            lmf_ir_mono_lmf : 1;
1683         guint            gen_write_barriers : 1;
1684         guint            init_ref_vars : 1;
1685         guint            extend_live_ranges : 1;
1686         guint            compute_precise_live_ranges : 1;
1687         guint            has_got_slots : 1;
1688         guint            uses_rgctx_reg : 1;
1689         guint            uses_vtable_reg : 1;
1690         guint            uses_simd_intrinsics : 1;
1691         guint            keep_cil_nops : 1;
1692         guint            gen_seq_points : 1;
1693         /* Generate seq points for use by the debugger */
1694         guint            gen_sdb_seq_points : 1;
1695         guint            explicit_null_checks : 1;
1696         guint            compute_gc_maps : 1;
1697         guint            soft_breakpoints : 1;
1698         guint            arch_eh_jit_info : 1;
1699         guint            has_emulated_ops : 1;
1700         guint            has_indirection : 1;
1701         guint            has_atomic_add_i4 : 1;
1702         guint            has_atomic_exchange_i4 : 1;
1703         guint            has_atomic_cas_i4 : 1;
1704         guint            check_pinvoke_callconv : 1;
1705         guint            has_unwind_info_for_epilog : 1;
1706         guint            disable_inline : 1;
1707         /* Disable inlining into caller */
1708         guint            no_inline : 1;
1709         guint            gshared : 1;
1710         guint            gsharedvt : 1;
1711         guint            r4fp : 1;
1712         guint            llvm_only : 1;
1713         int              r4_stack_type;
1714         gpointer         debug_info;
1715         guint32          lmf_offset;
1716     guint16          *intvars;
1717         MonoProfileCoverageInfo *coverage_info;
1718         GHashTable       *token_info_hash;
1719         MonoCompileArch  arch;
1720         guint32          inline_depth;
1721         /* Size of memory reserved for thunks */
1722         int              thunk_area;
1723         /* Thunks */
1724         guint8          *thunks;
1725         /* Offset between the start of code and the thunks area */
1726         int              thunks_offset;
1727         guint32          exception_type;        /* MONO_EXCEPTION_* */
1728         guint32          exception_data;
1729         char*            exception_message;
1730         gpointer         exception_ptr;
1731
1732         guint8 *         encoded_unwind_ops;
1733         guint32          encoded_unwind_ops_len;
1734         GSList*          unwind_ops;
1735
1736         GList*           dont_inline;
1737
1738         /* Fields used by the local reg allocator */
1739         void*            reginfo;
1740         int              reginfo_len;
1741
1742         /* Maps vregs to their associated MonoInst's */
1743         /* vregs with an associated MonoInst are 'global' while others are 'local' */
1744         MonoInst **vreg_to_inst;
1745
1746         /* Size of above array */
1747         guint32 vreg_to_inst_len;
1748
1749         /* Marks vregs which hold a GC ref */
1750         /* FIXME: Use a bitmap */
1751         gboolean *vreg_is_ref;
1752
1753         /* Size of above array */
1754         guint32 vreg_is_ref_len;
1755
1756         /* Marks vregs which hold a managed pointer */
1757         /* FIXME: Use a bitmap */
1758         gboolean *vreg_is_mp;
1759
1760         /* Size of above array */
1761         guint32 vreg_is_mp_len;
1762
1763         /*
1764          * The original method to compile, differs from 'method' when doing generic
1765          * sharing.
1766          */
1767         MonoMethod *orig_method;
1768
1769         /* Patches which describe absolute addresses embedded into the native code */
1770         GHashTable *abs_patches;
1771
1772         /* If the arch passes valuetypes by address, then for methods
1773            which use JMP the arch code should use these local
1774            variables to store the addresses of incoming valuetypes.
1775            The addresses should be stored in mono_arch_emit_prolog()
1776            and can be used when emitting code for OP_JMP.  See
1777            mini-ppc.c. */
1778         MonoInst **tailcall_valuetype_addrs;
1779
1780         /* Used to implement move_i4_to_f on archs that can't do raw
1781         copy between an ireg and a freg. This is an int32 var.*/
1782         MonoInst *iconv_raw_var;
1783
1784         /* Used to implement fconv_to_r8_x. This is a double (8 bytes) var.*/
1785         MonoInst *fconv_to_r8_x_var;
1786
1787         /*Use to implement simd constructors. This is a vector (16 bytes) var.*/
1788         MonoInst *simd_ctor_var;
1789
1790         /* Used to implement dyn_call */
1791         MonoInst *dyn_call_var;
1792
1793         /*
1794          * List of sequence points represented as IL offset+native offset pairs.
1795          * Allocated using glib.
1796          * IL offset can be -1 or 0xffffff to refer to the sequence points
1797          * inside the prolog and epilog used to implement method entry/exit events.
1798          */
1799         GPtrArray *seq_points;
1800
1801         /* The encoded sequence point info */
1802         struct MonoSeqPointInfo *seq_point_info;
1803
1804         /* Method headers which need to be freed after compilation */
1805         GSList *headers_to_free;
1806
1807         /* Used by AOT */
1808         guint32 got_offset, ex_info_offset, method_info_offset, method_index;
1809         /* Symbol used to refer to this method in generated assembly */
1810         char *asm_symbol;
1811         char *asm_debug_symbol;
1812         char *llvm_method_name;
1813         int castclass_cache_index;
1814
1815         MonoJitExceptionInfo *llvm_ex_info;
1816         guint32 llvm_ex_info_len;
1817         int llvm_this_reg, llvm_this_offset;
1818
1819         GSList *try_block_holes;
1820
1821         /* DWARF location list for 'this' */
1822         GSList *this_loclist;
1823
1824         /* DWARF location list for 'rgctx_var' */
1825         GSList *rgctx_loclist;
1826
1827         int *gsharedvt_vreg_to_idx;
1828
1829         GSList *signatures;
1830
1831         /* GC Maps */
1832
1833         /* The offsets of the locals area relative to the frame pointer */
1834         gint locals_min_stack_offset, locals_max_stack_offset;
1835
1836         /* The current CFA rule */
1837         int cur_cfa_reg, cur_cfa_offset;
1838
1839         /* The final CFA rule at the end of the prolog */
1840         int cfa_reg, cfa_offset;
1841
1842         /* Points to a MonoCompileGC */
1843         gpointer gc_info;
1844
1845         /*
1846          * The encoded GC map along with its size. This contains binary data so it can be saved in an AOT
1847          * image etc, but it requires a 4 byte alignment.
1848          */
1849         guint8 *gc_map;
1850         guint32 gc_map_size;
1851
1852         /* Error handling */
1853         MonoError error;
1854
1855         /* pointer to context datastructure used for graph dumping */
1856         MonoGraphDumper *gdump_ctx;
1857
1858         /* Stats */
1859         int stat_allocate_var;
1860         int stat_locals_stack_size;
1861         int stat_basic_blocks;
1862         int stat_cil_code_size;
1863         int stat_n_regvars;
1864         int stat_inlineable_methods;
1865         int stat_inlined_methods;
1866         int stat_code_reallocs;
1867 } MonoCompile;
1868
1869 typedef enum {
1870         MONO_CFG_HAS_ALLOCA = 1 << 0,
1871         MONO_CFG_HAS_CALLS  = 1 << 1,
1872         MONO_CFG_HAS_LDELEMA  = 1 << 2,
1873         MONO_CFG_HAS_VARARGS  = 1 << 3,
1874         MONO_CFG_HAS_TAIL     = 1 << 4,
1875         MONO_CFG_HAS_FPOUT    = 1 << 5, /* there are fp values passed in int registers */
1876         MONO_CFG_HAS_SPILLUP  = 1 << 6, /* spill var slots are allocated from bottom to top */
1877         MONO_CFG_HAS_CHECK_THIS  = 1 << 7,
1878         MONO_CFG_HAS_ARRAY_ACCESS = 1 << 8
1879 } MonoCompileFlags;
1880
1881 typedef struct {
1882         gint32 methods_compiled;
1883         gint32 methods_aot;
1884         gint32 methods_lookups;
1885         gint32 allocate_var;
1886         gint32 cil_code_size;
1887         gint32 native_code_size;
1888         gint32 code_reallocs;
1889         gint32 max_code_size_ratio;
1890         gint32 biggest_method_size;
1891         gint32 allocated_code_size;
1892         gint32 allocated_seq_points_size;
1893         gint32 inlineable_methods;
1894         gint32 inlined_methods;
1895         gint32 basic_blocks;
1896         gint32 max_basic_blocks;
1897         gint32 locals_stack_size;
1898         gint32 regvars;
1899         gint32 generic_virtual_invocations;
1900         gint32 alias_found;
1901         gint32 alias_removed;
1902         gint32 loads_eliminated;
1903         gint32 stores_eliminated;
1904         int methods_with_llvm;
1905         int methods_without_llvm;
1906         char *max_ratio_method;
1907         char *biggest_method;
1908         double jit_method_to_ir;
1909         double jit_liveness_handle_exception_clauses;
1910         double jit_handle_out_of_line_bblock;
1911         double jit_decompose_long_opts;
1912         double jit_local_cprop;
1913         double jit_local_emulate_ops;
1914         double jit_optimize_branches;
1915         double jit_handle_global_vregs;
1916         double jit_local_deadce;
1917         double jit_local_alias_analysis;
1918         double jit_if_conversion;
1919         double jit_bb_ordering;
1920         double jit_compile_dominator_info;
1921         double jit_compute_natural_loops;
1922         double jit_insert_safepoints;
1923         double jit_ssa_compute;
1924         double jit_ssa_cprop;
1925         double jit_ssa_deadce;
1926         double jit_perform_abc_removal;
1927         double jit_ssa_remove;
1928         double jit_local_cprop2;
1929         double jit_handle_global_vregs2;
1930         double jit_local_deadce2;
1931         double jit_optimize_branches2;
1932         double jit_decompose_vtype_opts;
1933         double jit_decompose_array_access_opts;
1934         double jit_liveness_handle_exception_clauses2;
1935         double jit_analyze_liveness;
1936         double jit_linear_scan;
1937         double jit_arch_allocate_vars;
1938         double jit_spill_global_vars;
1939         double jit_local_cprop3;
1940         double jit_local_deadce3;
1941         double jit_codegen;
1942         double jit_create_jit_info;
1943         double jit_gc_create_gc_map;
1944         double jit_save_seq_point_info;
1945         double jit_time;
1946         gboolean enabled;
1947 } MonoJitStats;
1948
1949 extern MonoJitStats mono_jit_stats;
1950
1951 /* opcodes: value assigned after all the CIL opcodes */
1952 #ifdef MINI_OP
1953 #undef MINI_OP
1954 #endif
1955 #ifdef MINI_OP3
1956 #undef MINI_OP3
1957 #endif
1958 #define MINI_OP(a,b,dest,src1,src2) a,
1959 #define MINI_OP3(a,b,dest,src1,src2,src3) a,
1960 enum {
1961         OP_START = MONO_CEE_LAST - 1,
1962 #include "mini-ops.h"
1963         OP_LAST
1964 };
1965 #undef MINI_OP
1966 #undef MINI_OP3
1967
1968 #if SIZEOF_VOID_P == 8
1969 #define OP_PCONST OP_I8CONST
1970 #define OP_DUMMY_PCONST OP_DUMMY_I8CONST
1971 #define OP_PADD OP_LADD
1972 #define OP_PADD_IMM OP_LADD_IMM
1973 #define OP_PSUB_IMM OP_LSUB_IMM
1974 #define OP_PAND_IMM OP_LAND_IMM
1975 #define OP_PXOR_IMM OP_LXOR_IMM
1976 #define OP_PSUB OP_LSUB
1977 #define OP_PMUL OP_LMUL
1978 #define OP_PMUL_IMM OP_LMUL_IMM
1979 #define OP_PNEG OP_LNEG
1980 #define OP_PCONV_TO_I1 OP_LCONV_TO_I1
1981 #define OP_PCONV_TO_U1 OP_LCONV_TO_U1
1982 #define OP_PCONV_TO_I2 OP_LCONV_TO_I2
1983 #define OP_PCONV_TO_U2 OP_LCONV_TO_U2
1984 #define OP_PCONV_TO_OVF_I1_UN OP_LCONV_TO_OVF_I1_UN
1985 #define OP_PCONV_TO_OVF_I1 OP_LCONV_TO_OVF_I1
1986 #define OP_PBEQ OP_LBEQ
1987 #define OP_PCEQ OP_LCEQ
1988 #define OP_PBNE_UN OP_LBNE_UN
1989 #define OP_PBGE_UN OP_LBGE_UN
1990 #define OP_PBLT_UN OP_LBLT_UN
1991 #define OP_PBGE OP_LBGE
1992 #define OP_STOREP_MEMBASE_REG OP_STOREI8_MEMBASE_REG
1993 #define OP_STOREP_MEMBASE_IMM OP_STOREI8_MEMBASE_IMM
1994 #else
1995 #define OP_PCONST OP_ICONST
1996 #define OP_DUMMY_PCONST OP_DUMMY_ICONST
1997 #define OP_PADD OP_IADD
1998 #define OP_PADD_IMM OP_IADD_IMM
1999 #define OP_PSUB_IMM OP_ISUB_IMM
2000 #define OP_PAND_IMM OP_IAND_IMM
2001 #define OP_PXOR_IMM OP_IXOR_IMM
2002 #define OP_PSUB OP_ISUB
2003 #define OP_PMUL OP_IMUL
2004 #define OP_PMUL_IMM OP_IMUL_IMM
2005 #define OP_PNEG OP_INEG
2006 #define OP_PCONV_TO_I1 OP_ICONV_TO_I1
2007 #define OP_PCONV_TO_U1 OP_ICONV_TO_U1
2008 #define OP_PCONV_TO_I2 OP_ICONV_TO_I2
2009 #define OP_PCONV_TO_U2 OP_ICONV_TO_U2
2010 #define OP_PCONV_TO_OVF_I1_UN OP_ICONV_TO_OVF_I1_UN
2011 #define OP_PCONV_TO_OVF_I1 OP_ICONV_TO_OVF_I1
2012 #define OP_PBEQ OP_IBEQ
2013 #define OP_PCEQ OP_ICEQ
2014 #define OP_PBNE_UN OP_IBNE_UN
2015 #define OP_PBGE_UN OP_IBGE_UN
2016 #define OP_PBLT_UN OP_IBLT_UN
2017 #define OP_PBGE OP_IBGE
2018 #define OP_STOREP_MEMBASE_REG OP_STOREI4_MEMBASE_REG
2019 #define OP_STOREP_MEMBASE_IMM OP_STOREI4_MEMBASE_IMM
2020 #endif
2021
2022 /* Opcodes to load/store regsize quantities */
2023 #if defined (__mono_ilp32__)
2024 #define OP_LOADR_MEMBASE OP_LOADI8_MEMBASE
2025 #define OP_STORER_MEMBASE_REG OP_STOREI8_MEMBASE_REG
2026 #else
2027 #define OP_LOADR_MEMBASE OP_LOAD_MEMBASE
2028 #define OP_STORER_MEMBASE_REG OP_STORE_MEMBASE_REG
2029 #endif
2030
2031 typedef enum {
2032         STACK_INV,
2033         STACK_I4,
2034         STACK_I8,
2035         STACK_PTR,
2036         STACK_R8,
2037         STACK_MP,
2038         STACK_OBJ,
2039         STACK_VTYPE,
2040         STACK_R4,
2041         STACK_MAX
2042 } MonoStackType;
2043
2044 typedef struct {
2045         union {
2046                 double   r8;
2047                 gint32   i4;
2048                 gint64   i8;
2049                 gpointer p;
2050                 MonoClass *klass;
2051         } data;
2052         int type;
2053 } StackSlot;
2054
2055 #if HAVE_ARRAY_ELEM_INIT
2056 extern const guint8 mono_burg_arity [];
2057 #else
2058 extern guint8 mono_burg_arity [];
2059 #endif
2060
2061 extern const char MONO_ARCH_CPU_SPEC [];
2062 #define MONO_ARCH_CPU_SPEC_IDX_COMBINE(a) a ## _idx
2063 #define MONO_ARCH_CPU_SPEC_IDX(a) MONO_ARCH_CPU_SPEC_IDX_COMBINE(a)
2064 extern const guint16 MONO_ARCH_CPU_SPEC_IDX(MONO_ARCH_CPU_SPEC) [];
2065 #define ins_get_spec(op) ((const char*)&MONO_ARCH_CPU_SPEC + MONO_ARCH_CPU_SPEC_IDX(MONO_ARCH_CPU_SPEC)[(op) - OP_LOAD])
2066
2067 enum {
2068         MONO_COMP_DOM = 1,
2069         MONO_COMP_IDOM = 2,
2070         MONO_COMP_DFRONTIER = 4,
2071         MONO_COMP_DOM_REV = 8,
2072         MONO_COMP_LIVENESS = 16,
2073         MONO_COMP_SSA = 32,
2074         MONO_COMP_SSA_DEF_USE = 64,
2075         MONO_COMP_REACHABILITY = 128,
2076         MONO_COMP_LOOPS = 256
2077 };
2078
2079 typedef enum {
2080         MONO_GRAPH_CFG = 1,
2081         MONO_GRAPH_DTREE = 2,
2082         MONO_GRAPH_CFG_CODE = 4,
2083         MONO_GRAPH_CFG_SSA = 8,
2084         MONO_GRAPH_CFG_OPTCODE = 16
2085 } MonoGraphOptions;
2086
2087 typedef struct {
2088         guint16 size;
2089         guint16 offset;
2090         guint8  pad;
2091 } MonoJitArgumentInfo;
2092
2093 typedef struct {
2094         gboolean handle_sigint;
2095         gboolean keep_delegates;
2096         gboolean reverse_pinvoke_exceptions;
2097         gboolean collect_pagefault_stats;
2098         gboolean break_on_unverified;
2099         gboolean better_cast_details;
2100         gboolean mdb_optimizations;
2101         gboolean no_gdb_backtrace;
2102         gboolean suspend_on_sigsegv;
2103         gboolean suspend_on_exception;
2104         gboolean suspend_on_unhandled;
2105         gboolean dyn_runtime_invoke;
2106         gboolean gdb;
2107         gboolean arm_use_fallback_tls;
2108         /*
2109          * Whenever data such as next sequence points and flags is required.
2110          * Next sequence points and flags are required by the debugger agent.
2111          */
2112         gboolean gen_sdb_seq_points;
2113         gboolean gen_seq_points_compact_data;
2114         /*
2115          * Setting single_imm_size should guarantee that each time managed code is compiled
2116          * the same instructions and registers are used, regardless of the size of used values.
2117          */
2118         gboolean single_imm_size;
2119         gboolean explicit_null_checks;
2120         /*
2121          * Fill stack frames with 0x2a in method prologs. This helps with the
2122          * debugging of the stack marking code in the GC.
2123          */
2124         gboolean init_stacks;
2125
2126         /*
2127          * Whenever to implement single stepping and breakpoints without signals in the
2128          * soft debugger. This is useful on platforms without signals, like the ps3, or during
2129          * runtime debugging, since it avoids SIGSEGVs when a single step location or breakpoint
2130          * is hit.
2131          */
2132         gboolean soft_breakpoints;
2133         /*
2134          * Whenever to break in the debugger using G_BREAKPOINT on unhandled exceptions.
2135          */
2136         gboolean break_on_exc;
2137         /*
2138          * Load AOT JIT info eagerly.
2139          */
2140         gboolean load_aot_jit_info_eagerly;
2141         /*
2142          * Check for pinvoke calling convention mismatches.
2143          */
2144         gboolean check_pinvoke_callconv;
2145         /*
2146          * Translate Debugger.Break () into a native breakpoint signal
2147          */
2148         gboolean native_debugger_break;
2149         /*
2150          * Disabling the frame pointer emit optimization can allow debuggers to more easily
2151          * identify the stack on some platforms
2152          */
2153         gboolean disable_omit_fp;
2154 } MonoDebugOptions;
2155
2156 enum {
2157         BRANCH_NOT_TAKEN,
2158         BRANCH_TAKEN,
2159         BRANCH_UNDEF
2160 };
2161
2162 typedef enum {
2163         CMP_EQ,
2164         CMP_NE,
2165         CMP_LE,
2166         CMP_GE,
2167         CMP_LT,
2168         CMP_GT,
2169         CMP_LE_UN,
2170         CMP_GE_UN,
2171         CMP_LT_UN,
2172         CMP_GT_UN
2173 } CompRelation;
2174
2175 typedef enum {
2176         CMP_TYPE_L,
2177         CMP_TYPE_I,
2178         CMP_TYPE_F
2179 } CompType;
2180
2181 /* Implicit exceptions */
2182 enum {
2183         MONO_EXC_INDEX_OUT_OF_RANGE,
2184         MONO_EXC_OVERFLOW,
2185         MONO_EXC_ARITHMETIC,
2186         MONO_EXC_DIVIDE_BY_ZERO,
2187         MONO_EXC_INVALID_CAST,
2188         MONO_EXC_NULL_REF,
2189         MONO_EXC_ARRAY_TYPE_MISMATCH,
2190         MONO_EXC_ARGUMENT,
2191         MONO_EXC_INTRINS_NUM
2192 };
2193
2194 enum {
2195         MINI_TOKEN_SOURCE_CLASS,
2196         MINI_TOKEN_SOURCE_METHOD,
2197         MINI_TOKEN_SOURCE_FIELD
2198 };
2199
2200  /*
2201   * Information about a trampoline function.
2202   */
2203  typedef struct
2204  {
2205         /*
2206          * The native code of the trampoline. Not owned by this structure.
2207          */
2208         guint8 *code;
2209         guint32 code_size;
2210         /*
2211          * The name of the trampoline which can be used in AOT/xdebug. Owned by this
2212          * structure.
2213          */
2214         char *name;
2215         /*
2216          * Patches required by the trampoline when aot-ing. Owned by this structure.
2217          */
2218         MonoJumpInfo *ji;
2219         /*
2220          * Unwind information. Owned by this structure.
2221          */
2222         GSList *unwind_ops;
2223
2224          /*
2225           * Encoded unwind info loaded from AOT images
2226           */
2227          guint8 *uw_info;
2228          guint32 uw_info_len;
2229 } MonoTrampInfo;
2230
2231 typedef void (*MonoInstFunc) (MonoInst *tree, gpointer data);
2232
2233 enum {
2234         FILTER_IL_SEQ_POINT = 1 << 0,
2235         FILTER_NOP          = 1 << 1,
2236 };
2237
2238 static inline gboolean
2239 mono_inst_filter (MonoInst *ins, int filter)
2240 {
2241         if (!ins || !filter)
2242                 return FALSE;
2243
2244         if ((filter & FILTER_IL_SEQ_POINT) && ins->opcode == OP_IL_SEQ_POINT)
2245                 return TRUE;
2246
2247         if ((filter & FILTER_NOP) && ins->opcode == OP_NOP)
2248                 return TRUE;
2249
2250         return FALSE;
2251 }
2252
2253 static inline MonoInst*
2254 mono_inst_next (MonoInst *ins, int filter)
2255 {
2256         do {
2257                 ins = ins->next;
2258         } while (mono_inst_filter (ins, filter));
2259
2260         return ins;
2261 }
2262
2263 static inline MonoInst*
2264 mono_inst_prev (MonoInst *ins, int filter)
2265 {
2266         do {
2267                 ins = ins->prev;
2268         } while (mono_inst_filter (ins, filter));
2269
2270         return ins;
2271 }
2272
2273 static inline MonoInst*
2274 mono_bb_first_inst (MonoBasicBlock *bb, int filter)
2275 {
2276         MonoInst *ins = bb->code;
2277         if (mono_inst_filter (ins, filter))
2278                 ins = mono_inst_next (ins, filter);
2279
2280         return ins;
2281 }
2282
2283 static inline MonoInst*
2284 mono_bb_last_inst (MonoBasicBlock *bb, int filter)
2285 {
2286         MonoInst *ins = bb->last_ins;
2287         if (mono_inst_filter (ins, filter))
2288                 ins = mono_inst_prev (ins, filter);
2289
2290         return ins;
2291 }
2292
2293 /* main function */
2294 MONO_API int         mono_main                      (int argc, char* argv[]);
2295 MONO_API void        mono_set_defaults              (int verbose_level, guint32 opts);
2296 MONO_API void        mono_parse_env_options         (int *ref_argc, char **ref_argv []);
2297 MONO_API char       *mono_parse_options_from        (const char *options, int *ref_argc, char **ref_argv []);
2298
2299 MonoDomain* mini_init                      (const char *filename, const char *runtime_version);
2300 void        mini_cleanup                   (MonoDomain *domain);
2301 MONO_API MonoDebugOptions *mini_get_debug_options   (void);
2302 MONO_API gboolean    mini_parse_debug_option (const char *option);
2303
2304 /* graph dumping */
2305 void mono_cfg_dump_create_context (MonoCompile *cfg);
2306 void mono_cfg_dump_begin_group (MonoCompile *cfg);
2307 void mono_cfg_dump_close_group (MonoCompile *cfg);
2308 void mono_cfg_dump_ir (MonoCompile *cfg, const char *phase_name);
2309
2310 /* helper methods */
2311 void      mini_jit_init                    (void);
2312 void      mini_jit_cleanup                 (void);
2313 void      mono_disable_optimizations       (guint32 opts);
2314 void      mono_set_optimizations           (guint32 opts);
2315 void      mono_set_bisect_methods          (guint32 opt, const char *method_list_filename);
2316 guint32   mono_get_optimizations_for_method (MonoMethod *method, guint32 default_opt);
2317 char*     mono_opt_descr                   (guint32 flags);
2318 void      mono_set_verbose_level           (guint32 level);
2319 MonoJumpInfoToken* mono_jump_info_token_new (MonoMemPool *mp, MonoImage *image, guint32 token);
2320 MonoJumpInfoToken* mono_jump_info_token_new2 (MonoMemPool *mp, MonoImage *image, guint32 token, MonoGenericContext *context);
2321 MonoInst* mono_find_spvar_for_region        (MonoCompile *cfg, int region);
2322 MonoInst* mono_find_exvar_for_offset        (MonoCompile *cfg, int offset);
2323 int       mono_get_block_region_notry       (MonoCompile *cfg, int region) MONO_LLVM_INTERNAL;
2324
2325 void      mono_precompile_assemblies        (void);
2326 MONO_API int       mono_parse_default_optimizations  (const char* p);
2327 void      mono_bblock_add_inst              (MonoBasicBlock *bb, MonoInst *inst) MONO_LLVM_INTERNAL;
2328 void      mono_bblock_insert_after_ins      (MonoBasicBlock *bb, MonoInst *ins, MonoInst *ins_to_insert);
2329 void      mono_bblock_insert_before_ins     (MonoBasicBlock *bb, MonoInst *ins, MonoInst *ins_to_insert);
2330 void      mono_verify_bblock                (MonoBasicBlock *bb);
2331 void      mono_verify_cfg                   (MonoCompile *cfg);
2332 void      mono_constant_fold                (MonoCompile *cfg);
2333 MonoInst* mono_constant_fold_ins            (MonoCompile *cfg, MonoInst *ins, MonoInst *arg1, MonoInst *arg2, gboolean overwrite);
2334 int       mono_eval_cond_branch             (MonoInst *branch);
2335 int       mono_is_power_of_two              (guint32 val) MONO_LLVM_INTERNAL;
2336 void      mono_cprop_local                  (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst **acp, int acp_size);
2337 MonoInst* mono_compile_create_var           (MonoCompile *cfg, MonoType *type, int opcode);
2338 MonoInst* mono_compile_create_var_for_vreg  (MonoCompile *cfg, MonoType *type, int opcode, int vreg);
2339 void      mono_compile_make_var_load        (MonoCompile *cfg, MonoInst *dest, gssize var_index);
2340 MonoInst* mini_get_int_to_float_spill_area  (MonoCompile *cfg);
2341 MonoType* mono_type_from_stack_type         (MonoInst *ins);
2342 guint32   mono_alloc_ireg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2343 guint32   mono_alloc_lreg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2344 guint32   mono_alloc_freg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2345 guint32   mono_alloc_preg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2346 guint32   mono_alloc_dreg                   (MonoCompile *cfg, MonoStackType stack_type);
2347 guint32   mono_alloc_ireg_ref               (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2348 guint32   mono_alloc_ireg_mp                (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2349 guint32   mono_alloc_ireg_copy              (MonoCompile *cfg, guint32 vreg) MONO_LLVM_INTERNAL;
2350 void      mono_mark_vreg_as_ref             (MonoCompile *cfg, int vreg);
2351 void      mono_mark_vreg_as_mp              (MonoCompile *cfg, int vreg);
2352
2353 void      mono_link_bblock                  (MonoCompile *cfg, MonoBasicBlock *from, MonoBasicBlock* to);
2354 void      mono_unlink_bblock                (MonoCompile *cfg, MonoBasicBlock *from, MonoBasicBlock* to);
2355 gboolean  mono_bblocks_linked               (MonoBasicBlock *bb1, MonoBasicBlock *bb2);
2356 void      mono_remove_bblock                (MonoCompile *cfg, MonoBasicBlock *bb);
2357 void      mono_nullify_basic_block          (MonoBasicBlock *bb);
2358 void      mono_merge_basic_blocks           (MonoCompile *cfg, MonoBasicBlock *bb, MonoBasicBlock *bbn);
2359 void      mono_optimize_branches            (MonoCompile *cfg);
2360
2361 void      mono_blockset_print               (MonoCompile *cfg, MonoBitSet *set, const char *name, guint idom);
2362 const char*mono_ji_type_to_string           (MonoJumpInfoType type);
2363 void      mono_print_ji                     (const MonoJumpInfo *ji);
2364 void      mono_print_ins_index              (int i, MonoInst *ins);
2365 GString  *mono_print_ins_index_strbuf       (int i, MonoInst *ins);
2366 void      mono_print_ins                    (MonoInst *ins);
2367 void      mono_print_bb                     (MonoBasicBlock *bb, const char *msg);
2368 void      mono_print_code                   (MonoCompile *cfg, const char *msg);
2369 MONO_API void      mono_print_method_from_ip         (void *ip);
2370 MONO_API char     *mono_pmip                         (void *ip);
2371 gboolean  mono_debug_count                  (void);
2372 MONO_API const char* mono_inst_name                  (int op);
2373 int       mono_op_to_op_imm                 (int opcode);
2374 int       mono_op_imm_to_op                 (int opcode);
2375 int       mono_load_membase_to_load_mem     (int opcode);
2376 guint     mono_type_to_load_membase         (MonoCompile *cfg, MonoType *type);
2377 guint     mono_type_to_store_membase        (MonoCompile *cfg, MonoType *type);
2378 guint     mini_type_to_stind                (MonoCompile* cfg, MonoType *type);
2379 MonoJitInfo* mini_lookup_method             (MonoDomain *domain, MonoMethod *method, MonoMethod *shared);
2380 guint32   mono_reverse_branch_op            (guint32 opcode);
2381 void      mono_disassemble_code             (MonoCompile *cfg, guint8 *code, int size, char *id);
2382 void      mono_add_patch_info               (MonoCompile *cfg, int ip, MonoJumpInfoType type, gconstpointer target) MONO_LLVM_INTERNAL;
2383 void      mono_add_patch_info_rel           (MonoCompile *cfg, int ip, MonoJumpInfoType type, gconstpointer target, int relocation) MONO_LLVM_INTERNAL;
2384 void      mono_remove_patch_info            (MonoCompile *cfg, int ip);
2385 MonoJumpInfo* mono_patch_info_dup_mp        (MonoMemPool *mp, MonoJumpInfo *patch_info);
2386 guint     mono_patch_info_hash (gconstpointer data);
2387 gint      mono_patch_info_equal (gconstpointer ka, gconstpointer kb);
2388 MonoJumpInfo *mono_patch_info_list_prepend  (MonoJumpInfo *list, int ip, MonoJumpInfoType type, gconstpointer target);
2389 gpointer  mono_resolve_patch_target         (MonoMethod *method, MonoDomain *domain, guint8 *code, MonoJumpInfo *patch_info, gboolean run_cctors, MonoError *error) MONO_LLVM_INTERNAL;
2390 gpointer  mono_jit_find_compiled_method_with_jit_info (MonoDomain *domain, MonoMethod *method, MonoJitInfo **ji);
2391 gpointer  mono_jit_find_compiled_method     (MonoDomain *domain, MonoMethod *method);
2392 gpointer  mono_jit_compile_method           (MonoMethod *method, MonoError *error);
2393 gpointer  mono_jit_compile_method_inner     (MonoMethod *method, MonoDomain *target_domain, int opt, MonoError *error);
2394 MonoLMF * mono_get_lmf                      (void);
2395 MonoLMF** mono_get_lmf_addr                 (void);
2396 void      mono_set_lmf                      (MonoLMF *lmf);
2397 MonoJitTlsData* mono_get_jit_tls            (void);
2398 MONO_API gpointer  mono_jit_thread_attach            (MonoDomain *domain, gpointer *dummy);
2399 MONO_API void      mono_jit_thread_detach            (gpointer cookie, gpointer *dummy);
2400 gint32    mono_get_jit_tls_offset           (void);
2401 gint32    mono_get_lmf_tls_offset           (void);
2402 gint32    mono_get_lmf_addr_tls_offset      (void);
2403 int       mini_get_tls_offset               (MonoTlsKey key);
2404 gboolean  mini_tls_get_supported            (MonoCompile *cfg, MonoTlsKey key);
2405 MonoInst* mono_create_tls_get               (MonoCompile *cfg, MonoTlsKey key);
2406 MonoInst* mono_get_jit_tls_intrinsic        (MonoCompile *cfg);
2407 MonoInst* mono_get_domain_intrinsic         (MonoCompile* cfg);
2408 MonoInst* mono_get_thread_intrinsic         (MonoCompile* cfg);
2409 MonoInst* mono_get_lmf_intrinsic            (MonoCompile* cfg);
2410 MonoInst* mono_get_lmf_addr_intrinsic       (MonoCompile* cfg);
2411 GList    *mono_varlist_insert_sorted        (MonoCompile *cfg, GList *list, MonoMethodVar *mv, int sort_type);
2412 GList    *mono_varlist_sort                 (MonoCompile *cfg, GList *list, int sort_type);
2413 void      mono_analyze_liveness             (MonoCompile *cfg);
2414 void      mono_analyze_liveness_gc          (MonoCompile *cfg);
2415 void      mono_linear_scan                  (MonoCompile *cfg, GList *vars, GList *regs, regmask_t *used_mask);
2416 void      mono_global_regalloc              (MonoCompile *cfg);
2417 void      mono_create_jump_table            (MonoCompile *cfg, MonoInst *label, MonoBasicBlock **bbs, int num_blocks);
2418 MonoCompile *mini_method_compile            (MonoMethod *method, guint32 opts, MonoDomain *domain, JitFlags flags, int parts, int aot_method_index);
2419 void      mono_destroy_compile              (MonoCompile *cfg);
2420 MonoJitICallInfo *mono_find_jit_opcode_emulation (int opcode);
2421 void      mono_print_ins_index (int i, MonoInst *ins);
2422 void      mono_print_ins (MonoInst *ins);
2423 gboolean  mini_assembly_can_skip_verification (MonoDomain *domain, MonoMethod *method);
2424 gboolean mono_compile_is_broken (MonoCompile *cfg, MonoMethod *method, gboolean fail_compile);
2425 MonoInst *mono_get_got_var (MonoCompile *cfg);
2426 void      mono_add_seq_point (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins, int native_offset);
2427 void      mono_add_var_location (MonoCompile *cfg, MonoInst *var, gboolean is_reg, int reg, int offset, int from, int to);
2428 MonoInst* mono_emit_jit_icall (MonoCompile *cfg, gconstpointer func, MonoInst **args);
2429 MonoInst* mono_emit_jit_icall_by_info (MonoCompile *cfg, MonoJitICallInfo *info, MonoInst **args);
2430 MonoInst* mono_emit_method_call (MonoCompile *cfg, MonoMethod *method, MonoInst **args, MonoInst *this_ins);
2431 void      mono_create_helper_signatures (void);
2432
2433 gboolean  mini_class_is_system_array (MonoClass *klass);
2434 MonoMethodSignature *mono_get_element_address_signature (int arity);
2435 MonoJitICallInfo    *mono_get_element_address_icall (int rank);
2436 MonoJitICallInfo    *mono_get_array_new_va_icall (int rank);
2437
2438 void      mono_linterval_add_range          (MonoCompile *cfg, MonoLiveInterval *interval, int from, int to);
2439 void      mono_linterval_print              (MonoLiveInterval *interval);
2440 void      mono_linterval_print_nl (MonoLiveInterval *interval);
2441 gboolean  mono_linterval_covers             (MonoLiveInterval *interval, int pos);
2442 gint32    mono_linterval_get_intersect_pos  (MonoLiveInterval *i1, MonoLiveInterval *i2);
2443 void      mono_linterval_split              (MonoCompile *cfg, MonoLiveInterval *interval, MonoLiveInterval **i1, MonoLiveInterval **i2, int pos);
2444 void      mono_liveness_handle_exception_clauses (MonoCompile *cfg);
2445
2446 /* Native Client functions */
2447 gpointer mono_realloc_native_code(MonoCompile *cfg);
2448 #ifdef __native_client_codegen__
2449 void mono_nacl_align_inst(guint8 **pcode, int instlen);
2450 void mono_nacl_align_call(guint8 **start, guint8 **pcode);
2451 guint8 *mono_nacl_pad_call(guint8 *code, guint8 ilength);
2452 guint8 *mono_nacl_align(guint8 *code);
2453 void mono_nacl_fix_patches(const guint8 *code, MonoJumpInfo *ji);
2454 /* Defined for each arch */
2455 guint8 *mono_arch_nacl_pad(guint8 *code, int pad);
2456 guint8 *mono_arch_nacl_skip_nops(guint8 *code);
2457
2458 #if defined(TARGET_X86)
2459 #define kNaClAlignment kNaClAlignmentX86
2460 #define kNaClAlignmentMask kNaClAlignmentMaskX86
2461 #elif defined(TARGET_AMD64)
2462 #define kNaClAlignment kNaClAlignmentAMD64
2463 #define kNaClAlignmentMask kNaClAlignmentMaskAMD64
2464 #elif defined(TARGET_ARM)
2465 #define kNaClAlignment kNaClAlignmentARM
2466 #define kNaClAlignmentMask kNaClAlignmentMaskARM
2467 #endif
2468
2469 #define NACL_BUNDLE_ALIGN_UP(p) ((((p)+kNaClAlignmentMask)) & ~kNaClAlignmentMask)
2470 #endif
2471
2472 #if defined(__native_client__) || defined(__native_client_codegen__)
2473 extern volatile int __nacl_thread_suspension_needed;
2474 void __nacl_suspend_thread_if_needed(void);
2475 void mono_nacl_gc(void);
2476 #endif
2477
2478 #if defined(__native_client_codegen__) || defined(__native_client__)
2479 #define NACL_SIZE(a, b) (b)
2480 #else
2481 #define NACL_SIZE(a, b) (a)
2482 #endif
2483
2484 extern MonoDebugOptions debug_options;
2485
2486 static inline MonoMethod*
2487 jinfo_get_method (MonoJitInfo *ji)
2488 {
2489         return mono_jit_info_get_method (ji);
2490 }
2491
2492 /* AOT */
2493 void      mono_aot_init                     (void);
2494 void      mono_aot_cleanup                  (void);
2495 gpointer  mono_aot_get_method               (MonoDomain *domain,
2496                                                                                          MonoMethod *method);
2497 gpointer  mono_aot_get_method_from_token    (MonoDomain *domain, MonoImage *image, guint32 token);
2498 gboolean  mono_aot_is_got_entry             (guint8 *code, guint8 *addr);
2499 guint8*   mono_aot_get_plt_entry            (guint8 *code);
2500 guint32   mono_aot_get_plt_info_offset      (mgreg_t *regs, guint8 *code);
2501 gboolean  mono_aot_get_cached_class_info    (MonoClass *klass, MonoCachedClassInfo *res);
2502 gboolean  mono_aot_get_class_from_name      (MonoImage *image, const char *name_space, const char *name, MonoClass **klass);
2503 MonoJitInfo* mono_aot_find_jit_info         (MonoDomain *domain, MonoImage *image, gpointer addr);
2504 gpointer mono_aot_plt_resolve               (gpointer aot_module, guint32 plt_info_offset, guint8 *code, MonoError *error);
2505 void     mono_aot_patch_plt_entry           (guint8 *code, guint8 *plt_entry, gpointer *got, mgreg_t *regs, guint8 *addr);
2506 gpointer mono_aot_get_method_from_vt_slot   (MonoDomain *domain, MonoVTable *vtable, int slot);
2507 gpointer mono_aot_create_specific_trampoline   (MonoImage *image, gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2508 gpointer mono_aot_get_trampoline            (const char *name);
2509 gpointer mono_aot_get_trampoline_full       (const char *name, MonoTrampInfo **out_tinfo);
2510 gpointer mono_aot_get_unbox_trampoline      (MonoMethod *method);
2511 gpointer mono_aot_get_lazy_fetch_trampoline (guint32 slot);
2512 gpointer mono_aot_get_static_rgctx_trampoline (gpointer ctx, gpointer addr);
2513 gpointer mono_aot_get_imt_thunk             (MonoVTable *vtable, MonoDomain *domain, MonoIMTCheckItem **imt_entries, int count, gpointer fail_tramp);
2514 gpointer mono_aot_get_gsharedvt_arg_trampoline(gpointer arg, gpointer addr);
2515 guint8*  mono_aot_get_unwind_info           (MonoJitInfo *ji, guint32 *unwind_info_len);
2516 guint32  mono_aot_method_hash               (MonoMethod *method);
2517 MonoMethod* mono_aot_get_array_helper_from_wrapper (MonoMethod *method);
2518 void     mono_aot_set_make_unreadable       (gboolean unreadable);
2519 gboolean mono_aot_is_pagefault              (void *ptr);
2520 void     mono_aot_handle_pagefault          (void *ptr);
2521 void     mono_aot_register_jit_icall        (const char *name, gpointer addr);
2522 guint32  mono_aot_find_method_index         (MonoMethod *method);
2523 void     mono_aot_init_llvm_method          (gpointer aot_module, guint32 method_index);
2524 void     mono_aot_init_gshared_method_this  (gpointer aot_module, guint32 method_index, MonoObject *this_ins);
2525 void     mono_aot_init_gshared_method_mrgctx  (gpointer aot_module, guint32 method_index, MonoMethodRuntimeGenericContext *rgctx);
2526 void     mono_aot_init_gshared_method_vtable  (gpointer aot_module, guint32 method_index, MonoVTable *vtable);
2527
2528 /* This is an exported function */
2529 MONO_API void     mono_aot_register_module           (gpointer *aot_info);
2530
2531 /* These are used to load the AOT data for aot images compiled with MONO_AOT_FILE_FLAG_SEPARATE_DATA */
2532 /*
2533  * Return the AOT data for ASSEMBLY. SIZE is the size of the data. OUT_HANDLE should be set to a handle which is later
2534  * passed to the free function.
2535  */
2536 typedef unsigned char* (*MonoLoadAotDataFunc)          (MonoAssembly *assembly, int size, gpointer user_data, void **out_handle);
2537 /* Not yet used */
2538 typedef void  (*MonoFreeAotDataFunc)          (MonoAssembly *assembly, int size, gpointer user_data, void *handle);
2539 MONO_API void mono_install_load_aot_data_hook (MonoLoadAotDataFunc load_func, MonoFreeAotDataFunc free_func, gpointer user_data);
2540
2541 void     mono_xdebug_init                   (const char *xdebug_opts);
2542 void     mono_save_xdebug_info              (MonoCompile *cfg);
2543 void     mono_save_trampoline_xdebug_info   (MonoTrampInfo *info);
2544 /* This is an exported function */
2545 void     mono_xdebug_flush                  (void);
2546
2547 gboolean  mono_method_blittable             (MonoMethod *method);
2548 gboolean  mono_method_same_domain           (MonoJitInfo *caller, MonoJitInfo *callee);
2549
2550 void      mono_register_opcode_emulation    (int opcode, const char* name, const char *sigstr, gpointer func, gboolean no_throw);
2551 void      mono_draw_graph                   (MonoCompile *cfg, MonoGraphOptions draw_options);
2552 void      mono_add_ins_to_end               (MonoBasicBlock *bb, MonoInst *inst);
2553 gpointer  mono_create_ftnptr                (MonoDomain *domain, gpointer addr);
2554
2555 MONO_API void      mono_replace_ins                  (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins, MonoInst **prev, MonoBasicBlock *first_bb, MonoBasicBlock *last_bb);
2556
2557 int               mono_find_method_opcode      (MonoMethod *method);
2558 MonoJitICallInfo *mono_register_jit_icall      (gconstpointer func, const char *name, MonoMethodSignature *sig, gboolean is_save);
2559 gconstpointer     mono_icall_get_wrapper       (MonoJitICallInfo* callinfo) MONO_LLVM_INTERNAL;
2560 gconstpointer     mono_icall_get_wrapper_full  (MonoJitICallInfo* callinfo, gboolean do_compile);
2561 void              mini_register_opcode_emulation (int opcode, const char *name, const char *sigstr, gpointer func, const char *symbol, gboolean no_throw);
2562
2563 void              mono_trampolines_init (void);
2564 void              mono_trampolines_cleanup (void);
2565 guint8 *          mono_get_trampoline_code (MonoTrampolineType tramp_type);
2566 gpointer          mono_create_specific_trampoline (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2567 gpointer          mono_create_jump_trampoline (MonoDomain *domain,
2568                                                                                            MonoMethod *method,
2569                                                                                            gboolean add_sync_wrapper,
2570                                                                                            MonoError *error);
2571 gpointer          mono_create_class_init_trampoline (MonoVTable *vtable);
2572 gpointer          mono_create_jit_trampoline (MonoDomain *domain, MonoMethod *method, MonoError *error) MONO_LLVM_INTERNAL;
2573 gpointer          mono_create_jit_trampoline_from_token (MonoImage *image, guint32 token);
2574 gpointer          mono_create_delegate_trampoline (MonoDomain *domain, MonoClass *klass);
2575 MonoDelegateTrampInfo* mono_create_delegate_trampoline_info (MonoDomain *domain, MonoClass *klass, MonoMethod *method);
2576 gpointer          mono_create_delegate_virtual_trampoline (MonoDomain *domain, MonoClass *klass, MonoMethod *method);
2577 gpointer          mono_create_rgctx_lazy_fetch_trampoline (guint32 offset);
2578 gpointer          mono_create_monitor_enter_trampoline (void);
2579 gpointer          mono_create_monitor_enter_v4_trampoline (void);
2580 gpointer          mono_create_monitor_exit_trampoline (void);
2581 gpointer          mono_create_static_rgctx_trampoline (MonoMethod *m, gpointer addr);
2582 MonoVTable*       mono_find_class_init_trampoline_by_addr (gconstpointer addr);
2583 guint32           mono_find_rgctx_lazy_fetch_trampoline_by_addr (gconstpointer addr);
2584 gpointer          mono_magic_trampoline (mgreg_t *regs, guint8 *code, gpointer arg, guint8* tramp);
2585 #ifndef DISABLE_REMOTING
2586 gpointer          mono_generic_virtual_remoting_trampoline (mgreg_t *regs, guint8 *code, MonoMethod *m, guint8 *tramp);
2587 #endif
2588 gpointer          mono_delegate_trampoline (mgreg_t *regs, guint8 *code, gpointer *tramp_data, guint8* tramp);
2589 gpointer          mono_aot_trampoline (mgreg_t *regs, guint8 *code, guint8 *token_info,
2590                                                                            guint8* tramp);
2591 gpointer          mono_aot_plt_trampoline (mgreg_t *regs, guint8 *code, guint8 *token_info,
2592                                                                                    guint8* tramp);
2593 void              mono_class_init_trampoline (mgreg_t *regs, guint8 *code, MonoVTable *vtable, guint8 *tramp);
2594 void              mono_generic_class_init_trampoline (mgreg_t *regs, guint8 *code, MonoVTable *vtable, guint8 *tramp);
2595 void              mono_monitor_enter_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2596 void              mono_monitor_enter_v4_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2597 void              mono_monitor_exit_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2598 gconstpointer     mono_get_trampoline_func (MonoTrampolineType tramp_type);
2599 gpointer          mini_get_vtable_trampoline (MonoVTable *vt, int slot_index);
2600 const char*       mono_get_generic_trampoline_simple_name (MonoTrampolineType tramp_type);
2601 char*             mono_get_generic_trampoline_name (MonoTrampolineType tramp_type);
2602 char*             mono_get_rgctx_fetch_trampoline_name (int slot);
2603 gpointer          mini_get_nullified_class_init_trampoline (void);
2604 gpointer          mini_get_single_step_trampoline (void);
2605 gpointer          mini_get_breakpoint_trampoline (void);
2606 gpointer          mini_add_method_trampoline (MonoMethod *m, gpointer compiled_method, gboolean add_static_rgctx_tramp, gboolean add_unbox_tramp);
2607 gpointer          mini_add_method_wrappers_llvmonly (MonoMethod *m, gpointer compiled_method, gboolean caller_gsharedvt, gboolean add_unbox_tramp, gpointer *out_arg);
2608 gboolean          mini_jit_info_is_gsharedvt (MonoJitInfo *ji);
2609 gpointer*         mini_resolve_imt_method (MonoVTable *vt, gpointer *vtable_slot, MonoMethod *imt_method, MonoMethod **impl_method, gpointer *out_aot_addr,
2610                                                                                    gboolean *out_need_rgctx_tramp, MonoMethod **variant_iface);
2611 MonoFtnDesc      *mini_create_llvmonly_ftndesc (MonoDomain *domain, gpointer addr, gpointer arg);
2612
2613 gboolean          mono_running_on_valgrind (void);
2614 void*             mono_global_codeman_reserve (int size);
2615 void*             nacl_global_codeman_get_dest(void *data);
2616 void              mono_global_codeman_commit(void *data, int size, int newsize);
2617 void              nacl_global_codeman_validate(guint8 **buf_base, int buf_size, guint8 **code_end);
2618 const char       *mono_regname_full (int reg, int bank);
2619 gint32*           mono_allocate_stack_slots (MonoCompile *cfg, gboolean backward, guint32 *stack_size, guint32 *stack_align);
2620 void              mono_local_regalloc (MonoCompile *cfg, MonoBasicBlock *bb);
2621 MonoInst         *mono_branch_optimize_exception_target (MonoCompile *cfg, MonoBasicBlock *bb, const char * exname);
2622 void              mono_remove_critical_edges (MonoCompile *cfg);
2623 gboolean          mono_is_regsize_var (MonoType *t);
2624 void              mini_emit_memcpy (MonoCompile *cfg, int destreg, int doffset, int srcreg, int soffset, int size, int align);
2625 void              mini_emit_stobj (MonoCompile *cfg, MonoInst *dest, MonoInst *src, MonoClass *klass, gboolean native);
2626 void              mini_emit_initobj (MonoCompile *cfg, MonoInst *dest, const guchar *ip, MonoClass *klass);
2627 CompRelation      mono_opcode_to_cond (int opcode) MONO_LLVM_INTERNAL;
2628 CompType          mono_opcode_to_type (int opcode, int cmp_opcode);
2629 CompRelation      mono_negate_cond (CompRelation cond);
2630 int               mono_op_imm_to_op (int opcode);
2631 void              mono_decompose_op_imm (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins);
2632 void              mono_peephole_ins (MonoBasicBlock *bb, MonoInst *ins);
2633 MonoUnwindOp     *mono_create_unwind_op (int when,
2634                                                                                  int tag, int reg,
2635                                                                                  int val);
2636 void              mono_emit_unwind_op (MonoCompile *cfg, int when,
2637                                                                            int tag, int reg,
2638                                                                            int val);
2639 MonoTrampInfo*    mono_tramp_info_create (const char *name, guint8 *code, guint32 code_size, MonoJumpInfo *ji, GSList *unwind_ops);
2640 void              mono_tramp_info_free (MonoTrampInfo *info);
2641 void              mono_tramp_info_register (MonoTrampInfo *info, MonoDomain *domain);
2642 int               mini_exception_id_by_name (const char *name);
2643 gboolean          mini_type_is_hfa (MonoType *t, int *out_nfields, int *out_esize) MONO_LLVM_INTERNAL;
2644
2645 int               mono_method_to_ir (MonoCompile *cfg, MonoMethod *method, MonoBasicBlock *start_bblock, MonoBasicBlock *end_bblock,
2646                                                                          MonoInst *return_var, MonoInst **inline_args,
2647                                                                          guint inline_offset, gboolean is_virtual_call);
2648
2649 MonoInst         *mono_decompose_opcode (MonoCompile *cfg, MonoInst *ins);
2650 void              mono_decompose_long_opts (MonoCompile *cfg);
2651 void              mono_decompose_vtype_opts (MonoCompile *cfg);
2652 void              mono_decompose_array_access_opts (MonoCompile *cfg);
2653 void              mono_decompose_soft_float (MonoCompile *cfg);
2654 void              mono_local_emulate_ops (MonoCompile *cfg);
2655 void              mono_handle_global_vregs (MonoCompile *cfg);
2656 void              mono_spill_global_vars (MonoCompile *cfg, gboolean *need_local_opts);
2657 void              mono_allocate_gsharedvt_vars (MonoCompile *cfg);
2658 void              mono_if_conversion (MonoCompile *cfg);
2659
2660 /* Delegates */
2661 gpointer          mini_get_delegate_arg (MonoMethod *method, gpointer method_ptr);
2662 void              mini_init_delegate (MonoDelegate *del);
2663 gpointer          mono_get_delegate_virtual_invoke_impl  (MonoMethodSignature *sig, MonoMethod *method);
2664
2665 /* methods that must be provided by the arch-specific port */
2666 void      mono_arch_init                        (void);
2667 void      mono_arch_finish_init                 (void);
2668 void      mono_arch_cleanup                     (void);
2669 void      mono_arch_cpu_init                    (void);
2670 guint32   mono_arch_cpu_optimizations           (guint32 *exclude_mask);
2671 void      mono_arch_instrument_mem_needs        (MonoMethod *method, int *stack, int *code);
2672 void     *mono_arch_instrument_prolog           (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments);
2673 void     *mono_arch_instrument_epilog           (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments);
2674 void     *mono_arch_instrument_epilog_full     (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments, gboolean preserve_argument_registers);
2675 void      mono_codegen                          (MonoCompile *cfg);
2676 void      mono_call_inst_add_outarg_reg         (MonoCompile *cfg, MonoCallInst *call, int vreg, int hreg, int bank) MONO_LLVM_INTERNAL;
2677 void      mono_call_inst_add_outarg_vt          (MonoCompile *cfg, MonoCallInst *call, MonoInst *outarg_vt);
2678 const char *mono_arch_regname                   (int reg);
2679 const char *mono_arch_fregname                  (int reg);
2680 void      mono_arch_exceptions_init             (void);
2681 guchar*   mono_arch_create_generic_trampoline   (MonoTrampolineType tramp_type, MonoTrampInfo **info, gboolean aot);
2682 gpointer  mono_arch_create_rgctx_lazy_fetch_trampoline (guint32 slot, MonoTrampInfo **info, gboolean aot);
2683 gpointer  mono_arch_create_general_rgctx_lazy_fetch_trampoline (MonoTrampInfo **info, gboolean aot);
2684 gpointer  mono_arch_get_nullified_class_init_trampoline (MonoTrampInfo **info);
2685 guint8*   mono_arch_create_sdb_trampoline (gboolean single_step, MonoTrampInfo **info, gboolean aot);
2686 gpointer  mono_arch_create_monitor_enter_trampoline (MonoTrampInfo **info, gboolean is_v4, gboolean aot);
2687 gpointer  mono_arch_create_monitor_exit_trampoline (MonoTrampInfo **info, gboolean aot);
2688 guint8   *mono_arch_create_llvm_native_thunk     (MonoDomain *domain, guint8* addr) MONO_LLVM_INTERNAL;
2689 GList    *mono_arch_get_allocatable_int_vars    (MonoCompile *cfg);
2690 GList    *mono_arch_get_global_int_regs         (MonoCompile *cfg);
2691 GList    *mono_arch_get_global_fp_regs          (MonoCompile *cfg);
2692 GList    *mono_arch_get_iregs_clobbered_by_call (MonoCallInst *call);
2693 GList    *mono_arch_get_fregs_clobbered_by_call (MonoCallInst *call);
2694 guint32   mono_arch_regalloc_cost               (MonoCompile *cfg, MonoMethodVar *vmv);
2695 void      mono_arch_patch_code                  (MonoCompile *cfg, MonoMethod *method, MonoDomain *domain, guint8 *code, MonoJumpInfo *ji, gboolean run_cctors);
2696 void      mono_arch_patch_code_new              (MonoCompile *cfg, MonoDomain *domain, guint8 *code, MonoJumpInfo *ji, gpointer target);
2697 void      mono_arch_flush_icache                (guint8 *code, gint size);
2698 int       mono_arch_max_epilog_size             (MonoCompile *cfg);
2699 guint8   *mono_arch_emit_prolog                 (MonoCompile *cfg);
2700 void      mono_arch_emit_epilog                 (MonoCompile *cfg);
2701 void      mono_arch_emit_exceptions             (MonoCompile *cfg);
2702 void      mono_arch_lowering_pass               (MonoCompile *cfg, MonoBasicBlock *bb);
2703 void      mono_arch_peephole_pass_1             (MonoCompile *cfg, MonoBasicBlock *bb);
2704 void      mono_arch_peephole_pass_2             (MonoCompile *cfg, MonoBasicBlock *bb);
2705 void      mono_arch_output_basic_block          (MonoCompile *cfg, MonoBasicBlock *bb);
2706 void      mono_arch_free_jit_tls_data           (MonoJitTlsData *tls);
2707 void      mono_arch_fill_argument_info          (MonoCompile *cfg);
2708 void      mono_arch_allocate_vars               (MonoCompile *m);
2709 int       mono_arch_get_argument_info           (MonoMethodSignature *csig, int param_count, MonoJitArgumentInfo *arg_info);
2710 gboolean  mono_arch_print_tree                          (MonoInst *tree, int arity);
2711 void      mono_arch_emit_call                   (MonoCompile *cfg, MonoCallInst *call);
2712 void      mono_arch_emit_outarg_vt              (MonoCompile *cfg, MonoInst *ins, MonoInst *src);
2713 void      mono_arch_emit_setret                 (MonoCompile *cfg, MonoMethod *method, MonoInst *val);
2714 MonoDynCallInfo *mono_arch_dyn_call_prepare     (MonoMethodSignature *sig);
2715 void      mono_arch_dyn_call_free               (MonoDynCallInfo *info);
2716 void      mono_arch_start_dyn_call              (MonoDynCallInfo *info, gpointer **args, guint8 *ret, guint8 *buf, int buf_len);
2717 void      mono_arch_finish_dyn_call             (MonoDynCallInfo *info, guint8 *buf);
2718 MonoInst *mono_arch_emit_inst_for_method        (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
2719 void      mono_arch_decompose_opts              (MonoCompile *cfg, MonoInst *ins);
2720 void      mono_arch_decompose_long_opts         (MonoCompile *cfg, MonoInst *ins);
2721 GSList*   mono_arch_get_delegate_invoke_impls   (void);
2722 LLVMCallInfo* mono_arch_get_llvm_call_info      (MonoCompile *cfg, MonoMethodSignature *sig) MONO_LLVM_INTERNAL;
2723 guint8*   mono_arch_emit_load_got_addr          (guint8 *start, guint8 *code, MonoCompile *cfg, MonoJumpInfo **ji);
2724 guint8*   mono_arch_emit_load_aotconst          (guint8 *start, guint8 *code, MonoJumpInfo **ji, MonoJumpInfoType tramp_type, gconstpointer target);
2725 GSList*   mono_arch_get_cie_program             (void);
2726 void      mono_arch_set_target                  (char *mtriple);
2727 gboolean  mono_arch_gsharedvt_sig_supported     (MonoMethodSignature *sig);
2728 gpointer  mono_arch_get_gsharedvt_trampoline    (MonoTrampInfo **info, gboolean aot);
2729 gpointer  mono_arch_get_gsharedvt_call_info     (gpointer addr, MonoMethodSignature *normal_sig, MonoMethodSignature *gsharedvt_sig, gboolean gsharedvt_in, gint32 vcall_offset, gboolean calli);
2730 gboolean  mono_arch_opcode_needs_emulation      (MonoCompile *cfg, int opcode);
2731 gboolean  mono_arch_tail_call_supported         (MonoCompile *cfg, MonoMethodSignature *caller_sig, MonoMethodSignature *callee_sig);
2732 int       mono_arch_translate_tls_offset        (int offset);
2733 gboolean  mono_arch_opcode_supported            (int opcode);
2734 void     mono_arch_setup_resume_sighandler_ctx  (MonoContext *ctx, gpointer func);
2735
2736 #ifdef MONO_ARCH_SOFT_FLOAT_FALLBACK
2737 gboolean  mono_arch_is_soft_float               (void);
2738 #else
2739 static inline MONO_ALWAYS_INLINE gboolean
2740 mono_arch_is_soft_float (void)
2741 {
2742         return FALSE;
2743 }
2744 #endif
2745
2746 /* Soft Debug support */
2747 #ifdef MONO_ARCH_SOFT_DEBUG_SUPPORTED
2748 void      mono_arch_set_breakpoint              (MonoJitInfo *ji, guint8 *ip);
2749 void      mono_arch_clear_breakpoint            (MonoJitInfo *ji, guint8 *ip);
2750 void      mono_arch_start_single_stepping       (void);
2751 void      mono_arch_stop_single_stepping        (void);
2752 gboolean  mono_arch_is_single_step_event        (void *info, void *sigctx);
2753 gboolean  mono_arch_is_breakpoint_event         (void *info, void *sigctx);
2754 void     mono_arch_skip_breakpoint              (MonoContext *ctx, MonoJitInfo *ji);
2755 void     mono_arch_skip_single_step             (MonoContext *ctx);
2756 gpointer mono_arch_get_seq_point_info           (MonoDomain *domain, guint8 *code);
2757 void     mono_arch_init_lmf_ext                 (MonoLMFExt *ext, gpointer prev_lmf);
2758 #endif
2759
2760 #ifdef USE_JUMP_TABLES
2761 void
2762 mono_jumptable_init  (void);
2763 gpointer*
2764 mono_jumptable_add_entry (void);
2765 gpointer*
2766 mono_jumptable_add_entries (guint32 entries);
2767 void
2768 mono_jumptable_cleanup  (void);
2769 gpointer*
2770 mono_arch_jumptable_entry_from_code (guint8 *code);
2771 gpointer*
2772 mono_jumptable_get_entry (guint8 *code);
2773 #endif
2774
2775 gboolean
2776 mono_arch_unwind_frame (MonoDomain *domain, MonoJitTlsData *jit_tls,
2777                                                 MonoJitInfo *ji, MonoContext *ctx,
2778                                                 MonoContext *new_ctx, MonoLMF **lmf,
2779                                                 mgreg_t **save_locations,
2780                                                 StackFrameInfo *frame_info);
2781 gpointer  mono_arch_get_throw_exception_by_name (void);
2782 gpointer mono_arch_get_call_filter              (MonoTrampInfo **info, gboolean aot);
2783 gpointer mono_arch_get_restore_context          (MonoTrampInfo **info, gboolean aot);
2784 gpointer  mono_arch_get_throw_exception         (MonoTrampInfo **info, gboolean aot);
2785 gpointer  mono_arch_get_rethrow_exception       (MonoTrampInfo **info, gboolean aot);
2786 gpointer  mono_arch_get_throw_corlib_exception  (MonoTrampInfo **info, gboolean aot);
2787 gpointer  mono_arch_get_throw_pending_exception (MonoTrampInfo **info, gboolean aot);
2788 gboolean mono_arch_handle_exception             (void *sigctx, gpointer obj);
2789 void     mono_arch_handle_altstack_exception    (void *sigctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo, gpointer fault_addr, gboolean stack_ovf);
2790 gboolean mono_handle_soft_stack_ovf             (MonoJitTlsData *jit_tls, MonoJitInfo *ji, void *ctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo, guint8* fault_addr);
2791 void     mono_handle_hard_stack_ovf             (MonoJitTlsData *jit_tls, MonoJitInfo *ji, void *ctx, guint8* fault_addr);
2792 gpointer mono_arch_ip_from_context              (void *sigctx);
2793 mgreg_t mono_arch_context_get_int_reg               (MonoContext *ctx, int reg);
2794 void     mono_arch_context_set_int_reg              (MonoContext *ctx, int reg, mgreg_t val);
2795 void     mono_arch_flush_register_windows       (void);
2796 gboolean mono_arch_is_inst_imm                  (gint64 imm);
2797 gboolean mono_arch_is_int_overflow              (void *sigctx, void *info);
2798 void     mono_arch_invalidate_method            (MonoJitInfo *ji, void *func, gpointer func_arg);
2799 guint32  mono_arch_get_patch_offset             (guint8 *code);
2800 gpointer*mono_arch_get_delegate_method_ptr_addr (guint8* code, mgreg_t *regs);
2801 void     mono_arch_create_vars                  (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2802 void     mono_arch_save_unwind_info             (MonoCompile *cfg);
2803 void     mono_arch_register_lowlevel_calls      (void);
2804 gpointer mono_arch_get_unbox_trampoline         (MonoMethod *m, gpointer addr);
2805 gpointer mono_arch_get_static_rgctx_trampoline  (MonoMethod *m, MonoMethodRuntimeGenericContext *mrgctx, gpointer addr);
2806 gpointer  mono_arch_get_llvm_imt_trampoline     (MonoDomain *domain, MonoMethod *method, int vt_offset);
2807 gpointer mono_arch_get_gsharedvt_arg_trampoline (MonoDomain *domain, gpointer arg, gpointer addr);
2808 void     mono_arch_patch_callsite               (guint8 *method_start, guint8 *code, guint8 *addr);
2809 void     mono_arch_patch_plt_entry              (guint8 *code, gpointer *got, mgreg_t *regs, guint8 *addr);
2810 void     mono_arch_nullify_class_init_trampoline(guint8 *code, mgreg_t *regs);
2811 int      mono_arch_get_this_arg_reg             (guint8 *code);
2812 gpointer mono_arch_get_this_arg_from_call       (mgreg_t *regs, guint8 *code);
2813 gpointer mono_arch_get_delegate_invoke_impl     (MonoMethodSignature *sig, gboolean has_target);
2814 gpointer mono_arch_get_delegate_virtual_invoke_impl (MonoMethodSignature *sig, MonoMethod *method, int offset, gboolean load_imt_reg);
2815 gpointer mono_arch_create_specific_trampoline   (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2816 MonoMethod* mono_arch_find_imt_method           (mgreg_t *regs, guint8 *code);
2817 MonoVTable* mono_arch_find_static_call_vtable   (mgreg_t *regs, guint8 *code);
2818 gpointer    mono_arch_build_imt_thunk           (MonoVTable *vtable, MonoDomain *domain, MonoIMTCheckItem **imt_entries, int count, gpointer fail_tramp);
2819 void    mono_arch_notify_pending_exc            (MonoThreadInfo *info);
2820 guint8* mono_arch_get_call_target               (guint8 *code);
2821 guint32 mono_arch_get_plt_info_offset           (guint8 *plt_entry, mgreg_t *regs, guint8 *code);
2822 GSList *mono_arch_get_trampolines               (gboolean aot);
2823
2824 /* Handle block guard */
2825 gpointer mono_arch_install_handler_block_guard (MonoJitInfo *ji, MonoJitExceptionInfo *clause, MonoContext *ctx, gpointer new_value);
2826 gpointer mono_arch_create_handler_block_trampoline (MonoTrampInfo **info, gboolean aot);
2827 gpointer mono_create_handler_block_trampoline (void);
2828 gboolean mono_install_handler_block_guard (MonoThreadUnwindState *ctx);
2829
2830 /*New interruption machinery */
2831 void
2832 mono_setup_async_callback (MonoContext *ctx, void (*async_cb)(void *fun), gpointer user_data);
2833
2834 void
2835 mono_arch_setup_async_callback (MonoContext *ctx, void (*async_cb)(void *fun), gpointer user_data);
2836
2837 gboolean
2838 mono_thread_state_init_from_handle (MonoThreadUnwindState *tctx, MonoThreadInfo *info);
2839
2840
2841 /* Exception handling */
2842 typedef gboolean (*MonoJitStackWalk)            (StackFrameInfo *frame, MonoContext *ctx, gpointer data);
2843
2844 void     mono_exceptions_init                   (void);
2845 gboolean mono_handle_exception                  (MonoContext *ctx, MonoObject *obj);
2846 void     mono_handle_native_sigsegv             (int signal, void *sigctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo);
2847 MONO_API void     mono_print_thread_dump                 (void *sigctx);
2848 MONO_API void     mono_print_thread_dump_from_ctx        (MonoContext *ctx);
2849 void     mono_walk_stack_with_ctx               (MonoJitStackWalk func, MonoContext *start_ctx, MonoUnwindOptions unwind_options, void *user_data);
2850 void     mono_walk_stack_with_state             (MonoJitStackWalk func, MonoThreadUnwindState *state, MonoUnwindOptions unwind_options, void *user_data);
2851 void     mono_walk_stack                        (MonoJitStackWalk func, MonoUnwindOptions options, void *user_data);
2852 gboolean mono_thread_state_init_from_sigctx     (MonoThreadUnwindState *ctx, void *sigctx);
2853 void     mono_thread_state_init                 (MonoThreadUnwindState *ctx);
2854 gboolean mono_thread_state_init_from_current    (MonoThreadUnwindState *ctx);
2855 gboolean mono_thread_state_init_from_monoctx    (MonoThreadUnwindState *ctx, MonoContext *mctx);
2856
2857 void     mono_setup_altstack                    (MonoJitTlsData *tls);
2858 void     mono_free_altstack                     (MonoJitTlsData *tls);
2859 gpointer mono_altstack_restore_prot             (mgreg_t *regs, guint8 *code, gpointer *tramp_data, guint8* tramp);
2860 MonoJitInfo* mini_jit_info_table_find           (MonoDomain *domain, char *addr, MonoDomain **out_domain);
2861 MonoJitInfo* mini_jit_info_table_find_ext       (MonoDomain *domain, char *addr, gboolean allow_trampolines, MonoDomain **out_domain);
2862 void     mono_resume_unwind                     (MonoContext *ctx) MONO_LLVM_INTERNAL;
2863
2864 MonoJitInfo * mono_find_jit_info                (MonoDomain *domain, MonoJitTlsData *jit_tls, MonoJitInfo *res, MonoJitInfo *prev_ji, MonoContext *ctx, MonoContext *new_ctx, char **trace, MonoLMF **lmf, int *native_offset, gboolean *managed);
2865
2866 typedef gboolean (*MonoExceptionFrameWalk)      (MonoMethod *method, gpointer ip, size_t native_offset, gboolean managed, gpointer user_data);
2867 MONO_API gboolean mono_exception_walk_trace     (MonoException *ex, MonoExceptionFrameWalk func, gpointer user_data);
2868 void mono_restore_context                       (MonoContext *ctx);
2869 guint8* mono_jinfo_get_unwind_info              (MonoJitInfo *ji, guint32 *unwind_info_len);
2870 int  mono_jinfo_get_epilog_size                 (MonoJitInfo *ji);
2871 void     mono_llvm_rethrow_exception            (MonoObject *ex);
2872 void     mono_llvm_throw_exception              (MonoObject *ex);
2873 void     mono_llvm_throw_corlib_exception       (guint32 ex_token_index);
2874 void     mono_llvm_resume_exception             (void);
2875 void     mono_llvm_clear_exception              (void);
2876 MonoObject *mono_llvm_load_exception            (void);
2877 void     mono_llvm_reset_exception              (void);
2878 void     mono_llvm_raise_exception              (MonoException *e);
2879 gint32 mono_llvm_match_exception                (MonoJitInfo *jinfo, guint32 region_start, guint32 region_end, gpointer rgctx, MonoObject *this_obj);
2880
2881 gboolean
2882 mono_find_jit_info_ext (MonoDomain *domain, MonoJitTlsData *jit_tls,
2883                                                 MonoJitInfo *prev_ji, MonoContext *ctx,
2884                                                 MonoContext *new_ctx, char **trace, MonoLMF **lmf,
2885                                                 mgreg_t **save_locations,
2886                                                 StackFrameInfo *frame);
2887
2888 gpointer mono_get_throw_exception               (void);
2889 gpointer mono_get_rethrow_exception             (void);
2890 gpointer mono_get_call_filter                   (void);
2891 gpointer mono_get_restore_context               (void);
2892 gpointer mono_get_throw_exception_by_name       (void);
2893 gpointer mono_get_throw_corlib_exception        (void);
2894 gpointer mono_get_throw_exception_addr          (void);
2895 MonoArray *ves_icall_get_trace                  (MonoException *exc, gint32 skip, MonoBoolean need_file_info);
2896 MonoBoolean ves_icall_get_frame_info            (gint32 skip, MonoBoolean need_file_info,
2897                                                  MonoReflectionMethod **method,
2898                                                  gint32 *iloffset, gint32 *native_offset,
2899                                                  MonoString **file, gint32 *line, gint32 *column);
2900 void mono_set_cast_details                      (MonoClass *from, MonoClass *to);
2901
2902 /* Installs a function which is called when the runtime encounters an unhandled exception.
2903  * This hook isn't expected to return.
2904  * If no hook has been installed, the runtime will print a message before aborting.
2905  */
2906 typedef void  (*MonoUnhandledExceptionFunc)         (MonoObject *exc, gpointer user_data);
2907 MONO_API void mono_install_unhandled_exception_hook (MonoUnhandledExceptionFunc func, gpointer user_data);
2908 void          mono_invoke_unhandled_exception_hook  (MonoObject *exc);
2909
2910 /* Dominator/SSA methods */
2911 void        mono_compile_dominator_info         (MonoCompile *cfg, int dom_flags);
2912 void        mono_compute_natural_loops          (MonoCompile *cfg);
2913 MonoBitSet* mono_compile_iterated_dfrontier     (MonoCompile *cfg, MonoBitSet *set);
2914 void        mono_ssa_compute                    (MonoCompile *cfg);
2915 void        mono_ssa_remove                     (MonoCompile *cfg);
2916 void        mono_ssa_remove_gsharedvt           (MonoCompile *cfg);
2917 void        mono_ssa_cprop                      (MonoCompile *cfg);
2918 void        mono_ssa_deadce                     (MonoCompile *cfg);
2919 void        mono_ssa_strength_reduction         (MonoCompile *cfg);
2920 void        mono_free_loop_info                 (MonoCompile *cfg);
2921 void        mono_ssa_loop_invariant_code_motion (MonoCompile *cfg);
2922
2923 void        mono_ssa_compute2                   (MonoCompile *cfg);
2924 void        mono_ssa_remove2                    (MonoCompile *cfg);
2925 void        mono_ssa_cprop2                     (MonoCompile *cfg);
2926 void        mono_ssa_deadce2                    (MonoCompile *cfg);
2927
2928 /* debugging support */
2929 void      mono_debug_init_method                (MonoCompile *cfg, MonoBasicBlock *start_block,
2930                                                  guint32 breakpoint_id);
2931 void      mono_debug_open_method                (MonoCompile *cfg);
2932 void      mono_debug_close_method               (MonoCompile *cfg);
2933 void      mono_debug_free_method                (MonoCompile *cfg);
2934 void      mono_debug_open_block                 (MonoCompile *cfg, MonoBasicBlock *bb, guint32 address);
2935 void      mono_debug_record_line_number         (MonoCompile *cfg, MonoInst *ins, guint32 address);
2936 void      mono_debug_serialize_debug_info       (MonoCompile *cfg, guint8 **out_buf, guint32 *buf_len);
2937 void      mono_debug_add_aot_method             (MonoDomain *domain,
2938                                                  MonoMethod *method, guint8 *code_start,
2939                                                  guint8 *debug_info, guint32 debug_info_len);
2940 MONO_API void      mono_debug_print_vars                 (gpointer ip, gboolean only_arguments);
2941 MONO_API void      mono_debugger_run_finally             (MonoContext *start_ctx);
2942
2943 MONO_API gboolean mono_breakpoint_clean_code (guint8 *method_start, guint8 *code, int offset, guint8 *buf, int size);
2944
2945 /* Tracing */
2946 MonoTraceSpec *mono_trace_parse_options         (const char *options);
2947 void           mono_trace_set_assembly          (MonoAssembly *assembly);
2948 gboolean       mono_trace_eval                  (MonoMethod *method);
2949
2950 extern void
2951 mono_perform_abc_removal (MonoCompile *cfg);
2952 extern void
2953 mono_perform_abc_removal (MonoCompile *cfg);
2954 extern void
2955 mono_perform_ssapre (MonoCompile *cfg);
2956 extern void
2957 mono_local_cprop (MonoCompile *cfg);
2958 extern void
2959 mono_local_cprop (MonoCompile *cfg);
2960 extern void
2961 mono_local_deadce (MonoCompile *cfg);
2962 void
2963 mono_local_alias_analysis (MonoCompile *cfg);
2964
2965 /* Generic sharing */
2966
2967 void
2968 mono_set_generic_sharing_supported (gboolean supported);
2969
2970 void
2971 mono_set_generic_sharing_vt_supported (gboolean supported);
2972
2973 void
2974 mono_set_partial_sharing_supported (gboolean supported);
2975
2976 gboolean
2977 mono_class_generic_sharing_enabled (MonoClass *klass);
2978
2979 gpointer
2980 mono_class_fill_runtime_generic_context (MonoVTable *class_vtable, guint32 slot, MonoError *error);
2981
2982 gpointer
2983 mono_method_fill_runtime_generic_context (MonoMethodRuntimeGenericContext *mrgctx, guint32 slot, MonoError *error);
2984
2985 MonoMethodRuntimeGenericContext*
2986 mono_method_lookup_rgctx (MonoVTable *class_vtable, MonoGenericInst *method_inst);
2987
2988 const char*
2989 mono_rgctx_info_type_to_str (MonoRgctxInfoType type);
2990
2991 MonoJumpInfoType
2992 mini_rgctx_info_type_to_patch_info_type (MonoRgctxInfoType info_type);
2993
2994 gboolean
2995 mono_method_needs_static_rgctx_invoke (MonoMethod *method, gboolean allow_type_vars);
2996
2997 int
2998 mono_class_rgctx_get_array_size (int n, gboolean mrgctx);
2999
3000 guint32
3001 mono_method_lookup_or_register_info (MonoMethod *method, gboolean in_mrgctx, gpointer data,
3002         MonoRgctxInfoType info_type, MonoGenericContext *generic_context);
3003
3004 MonoGenericContext
3005 mono_method_construct_object_context (MonoMethod *method);
3006
3007 MonoMethod*
3008 mono_method_get_declaring_generic_method (MonoMethod *method);
3009
3010 int
3011 mono_generic_context_check_used (MonoGenericContext *context);
3012
3013 int
3014 mono_class_check_context_used (MonoClass *klass);
3015
3016 gboolean
3017 mono_generic_context_is_sharable (MonoGenericContext *context, gboolean allow_type_vars);
3018
3019 gboolean
3020 mono_generic_context_is_sharable_full (MonoGenericContext *context, gboolean allow_type_vars, gboolean allow_partial);
3021
3022 gboolean
3023 mono_method_is_generic_impl (MonoMethod *method);
3024
3025 gboolean
3026 mono_method_is_generic_sharable (MonoMethod *method, gboolean allow_type_vars);
3027
3028 gboolean
3029 mono_method_is_generic_sharable_full (MonoMethod *method, gboolean allow_type_vars, gboolean allow_partial, gboolean allow_gsharedvt);
3030
3031 gboolean
3032 mini_class_is_generic_sharable (MonoClass *klass);
3033
3034
3035 gboolean
3036 mini_generic_inst_is_sharable (MonoGenericInst *inst, gboolean allow_type_vars, gboolean allow_partial);
3037
3038 gboolean
3039 mono_is_partially_sharable_inst (MonoGenericInst *inst);
3040
3041 gboolean
3042 mini_is_gsharedvt_gparam (MonoType *t);
3043
3044 MonoGenericContext* mini_method_get_context (MonoMethod *method);
3045
3046 int mono_method_check_context_used (MonoMethod *method);
3047
3048 gboolean mono_generic_context_equal_deep (MonoGenericContext *context1, MonoGenericContext *context2);
3049
3050 gpointer mono_helper_get_rgctx_other_ptr (MonoClass *caller_class, MonoVTable *vtable,
3051                                           guint32 token, guint32 token_source, guint32 rgctx_type,
3052                                           gint32 rgctx_index);
3053
3054 void mono_generic_sharing_init (void);
3055 void mono_generic_sharing_cleanup (void);
3056
3057 MonoClass* mini_class_get_container_class (MonoClass *klass);
3058 MonoGenericContext* mini_class_get_context (MonoClass *klass);
3059
3060 MonoType* mini_get_underlying_type (MonoType *type) MONO_LLVM_INTERNAL;
3061 MonoType* mini_type_get_underlying_type (MonoType *type);
3062 MonoMethod* mini_get_shared_method (MonoMethod *method);
3063 MonoMethod* mini_get_shared_method_to_register (MonoMethod *method);
3064 MonoMethod* mini_get_shared_method_full (MonoMethod *method, gboolean all_vt, gboolean is_gsharedvt);
3065 MonoType* mini_get_shared_gparam (MonoType *t, MonoType *constraint);
3066 int mini_get_rgctx_entry_slot (MonoJumpInfoRgctxEntry *entry);
3067
3068 int mini_type_stack_size (MonoType *t, int *align);
3069 int mini_type_stack_size_full (MonoType *t, guint32 *align, gboolean pinvoke);
3070 void type_to_eval_stack_type (MonoCompile *cfg, MonoType *type, MonoInst *inst);
3071 guint mono_type_to_regmove (MonoCompile *cfg, MonoType *type) MONO_LLVM_INTERNAL;
3072
3073 void mono_cfg_add_try_hole (MonoCompile *cfg, MonoExceptionClause *clause, guint8 *start, MonoBasicBlock *bb);
3074
3075 void mono_cfg_set_exception (MonoCompile *cfg, int type);
3076 void mono_cfg_set_exception_invalid_program (MonoCompile *cfg, char *msg);
3077
3078 #define MONO_TIME_TRACK(a, phase) \
3079         { \
3080                 GTimer *timer = mono_time_track_start (); \
3081                 (phase) ; \
3082                 mono_time_track_end (&(a), timer); \
3083         }
3084
3085 GTimer *mono_time_track_start (void);
3086 void mono_time_track_end (double *time, GTimer *timer);
3087
3088 void mono_update_jit_stats (MonoCompile *cfg);
3089
3090 gboolean mini_type_is_reference (MonoType *type);
3091 gboolean mini_type_is_vtype (MonoType *t) MONO_LLVM_INTERNAL;
3092 gboolean mini_type_var_is_vt (MonoType *type) MONO_LLVM_INTERNAL;
3093 gboolean mini_is_gsharedvt_type (MonoType *t);
3094 gboolean mini_is_gsharedvt_klass (MonoClass *klass) MONO_LLVM_INTERNAL;
3095 gboolean mini_is_gsharedvt_signature (MonoMethodSignature *sig);
3096 gboolean mini_is_gsharedvt_variable_type (MonoType *t) MONO_LLVM_INTERNAL;
3097 gboolean mini_is_gsharedvt_variable_klass (MonoClass *klass) MONO_LLVM_INTERNAL;
3098 gboolean mini_is_gsharedvt_sharable_method (MonoMethod *method);
3099 gboolean mini_is_gsharedvt_variable_signature (MonoMethodSignature *sig);
3100 gboolean mini_is_gsharedvt_sharable_inst (MonoGenericInst *inst);
3101 gpointer mini_method_get_rgctx (MonoMethod *m);
3102 void mini_init_gsctx (MonoDomain *domain, MonoMemPool *mp, MonoGenericContext *context, MonoGenericSharingContext *gsctx);
3103
3104 gpointer mini_get_gsharedvt_wrapper (gboolean gsharedvt_in, gpointer addr, MonoMethodSignature *normal_sig, MonoMethodSignature *gsharedvt_sig,
3105                                                                          gint32 vcall_offset, gboolean calli);
3106 MonoMethod* mini_get_gsharedvt_in_sig_wrapper (MonoMethodSignature *sig);
3107 MonoMethod* mini_get_gsharedvt_out_sig_wrapper (MonoMethodSignature *sig);
3108 MonoMethodSignature* mini_get_gsharedvt_out_sig_wrapper_signature (gboolean has_this, gboolean has_ret, int param_count);
3109 gboolean mini_gsharedvt_runtime_invoke_supported (MonoMethodSignature *sig);
3110
3111 /* SIMD support */
3112
3113 /*
3114 This enum MUST be kept in sync with its managed mirror Mono.Simd.AccelMode.
3115  */
3116 enum {
3117         SIMD_VERSION_SSE1       = 1 << 0,
3118         SIMD_VERSION_SSE2       = 1 << 1,
3119         SIMD_VERSION_SSE3       = 1 << 2,
3120         SIMD_VERSION_SSSE3      = 1 << 3,
3121         SIMD_VERSION_SSE41      = 1 << 4,
3122         SIMD_VERSION_SSE42      = 1 << 5,
3123         SIMD_VERSION_SSE4a      = 1 << 6,
3124         SIMD_VERSION_ALL        = SIMD_VERSION_SSE1 | SIMD_VERSION_SSE2 |
3125                           SIMD_VERSION_SSE3 | SIMD_VERSION_SSSE3 |
3126                           SIMD_VERSION_SSE41 | SIMD_VERSION_SSE42 |
3127                           SIMD_VERSION_SSE4a,
3128
3129         /* this value marks the end of the bit indexes used in
3130          * this emum.
3131          */
3132         SIMD_VERSION_INDEX_END = 6
3133 };
3134
3135 enum {
3136         SIMD_COMP_EQ,
3137         SIMD_COMP_LT,
3138         SIMD_COMP_LE,
3139         SIMD_COMP_UNORD,
3140         SIMD_COMP_NEQ,
3141         SIMD_COMP_NLT,
3142         SIMD_COMP_NLE,
3143         SIMD_COMP_ORD
3144 };
3145
3146 enum {
3147         SIMD_PREFETCH_MODE_NTA,
3148         SIMD_PREFETCH_MODE_0,
3149         SIMD_PREFETCH_MODE_1,
3150         SIMD_PREFETCH_MODE_2,
3151 };
3152
3153 const char *mono_arch_xregname (int reg);
3154 void        mono_simd_simplify_indirection (MonoCompile *cfg);
3155 MonoInst*   mono_emit_simd_intrinsics (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
3156 guint32     mono_arch_cpu_enumerate_simd_versions (void);
3157 void        mono_simd_intrinsics_init (void);
3158
3159 MonoInst*   mono_emit_native_types_intrinsics (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
3160 MonoType*   mini_native_type_replace_type (MonoType *type) MONO_LLVM_INTERNAL;
3161
3162 #ifdef __linux__
3163 #define XDEBUG_ENABLED 1
3164 #endif
3165
3166 #ifdef __linux__
3167 /* maybe enable also for other systems? */
3168 #define ENABLE_JIT_MAP 1
3169 void mono_enable_jit_map (void);
3170 void mono_emit_jit_map   (MonoJitInfo *jinfo);
3171 void mono_emit_jit_tramp (void *start, int size, const char *desc);
3172 gboolean mono_jit_map_is_enabled (void);
3173 #else
3174 #define mono_enable_jit_map()
3175 #define mono_emit_jit_map(ji)
3176 #define mono_emit_jit_tramp(s,z,d)
3177 #define mono_jit_map_is_enabled() (0)
3178 #endif
3179
3180 /*
3181  * Per-OS implementation functions.
3182  */
3183 void mono_runtime_install_handlers (void);
3184 void mono_runtime_cleanup_handlers (void);
3185 void mono_runtime_setup_stat_profiler (void);
3186 void mono_runtime_shutdown_stat_profiler (void);
3187 void mono_runtime_posix_install_handlers (void);
3188 pid_t mono_runtime_syscall_fork (void);
3189 void mono_gdb_render_native_backtraces (pid_t crashed_pid);
3190
3191 void mono_cross_helpers_run (void);
3192
3193 /*
3194  * Signal handling
3195  */
3196
3197 #ifdef DISABLE_HW_TRAPS
3198  // Signal handlers not available
3199 #define MONO_ARCH_NEED_DIV_CHECK 1
3200 #endif
3201
3202 void MONO_SIG_HANDLER_SIGNATURE (mono_sigfpe_signal_handler) ;
3203 void MONO_SIG_HANDLER_SIGNATURE (mono_sigill_signal_handler) ;
3204 void MONO_SIG_HANDLER_SIGNATURE (mono_sigsegv_signal_handler);
3205 void MONO_SIG_HANDLER_SIGNATURE (mono_sigint_signal_handler) ;
3206 gboolean MONO_SIG_HANDLER_SIGNATURE (mono_chain_signal);
3207
3208 #ifndef MONO_ARCH_HAVE_TLS_GET
3209 #define MONO_ARCH_HAVE_TLS_GET 0
3210 #endif
3211
3212 #ifdef MONO_ARCH_VARARG_ICALLS
3213 #define ARCH_VARARG_ICALLS 1
3214 #else
3215 #define ARCH_VARARG_ICALLS 0
3216 #endif
3217
3218 /*
3219  * Native unwinder integration
3220  */
3221 void mono_exception_native_unwind (void *ctx, MONO_SIG_HANDLER_INFO_TYPE *info);
3222
3223
3224 #endif /* __MONO_MINI_H__ */