mono/mini/mini.h

   1 /*
   2  * Copyright 2002-2003 Ximian Inc
   3  * Copyright 2003-2011 Novell Inc
   4  * Copyright 2011 Xamarin Inc
   5  * Licensed under the MIT license. See LICENSE file in the project root for full license information.
   6  */
   7 #ifndef __MONO_MINI_H__
   8 #define __MONO_MINI_H__
   9
  10 #include "config.h"
  11 #include <glib.h>
  12 #ifdef HAVE_SIGNAL_H
  13 #include <signal.h>
  14 #endif
  15 #ifdef HAVE_SYS_TYPES_H
  16 #include <sys/types.h>
  17 #endif
  18 #include <mono/metadata/loader.h>
  19 #include <mono/metadata/mempool.h>
  20 #include <mono/utils/monobitset.h>
  21 #include <mono/metadata/class.h>
  22 #include <mono/metadata/object.h>
  23 #include <mono/metadata/opcodes.h>
  24 #include <mono/metadata/tabledefs.h>
  25 #include <mono/metadata/domain-internals.h>
  26 #include "mono/metadata/class-internals.h"
  27 #include "mono/metadata/object-internals.h"
  28 #include <mono/metadata/profiler-private.h>
  29 #include <mono/metadata/debug-helpers.h>
  30 #include <mono/utils/mono-compiler.h>
  31 #include <mono/utils/mono-machine.h>
  32 #include <mono/utils/mono-stack-unwinding.h>
  33 #include <mono/utils/mono-threads.h>
  34 #include <mono/utils/mono-tls.h>
  35 #include <mono/utils/atomic.h>
  36 #include <mono/utils/mono-conc-hashtable.h>
  37 #include <mono/utils/mono-signal-handler.h>
  38
  39 #include "mini-arch.h"
  40 #include "regalloc.h"
  41 #include "mini-unwind.h"
  42 #include "jit.h"
  43 #include "cfgdump.h"
  44
  45 #include "mono/metadata/class-internals.h"
  46 #include "mono/metadata/domain-internals.h"
  47 #include "mono/metadata/object.h"
  48 #include "mono/metadata/tabledefs.h"
  49 #include "mono/metadata/marshal.h"
  50 #include "mono/metadata/security-manager.h"
  51 #include "mono/metadata/exception.h"
  52 #include "mono/utils/mono-compiler.h"
  53
  54 #ifdef __native_client_codegen__
  55 #include <nacl/nacl_dyncode.h>
  56 #endif
  57
  58
  59 /*
  60  * The mini code should not have any compile time dependencies on the GC being used, so the same object file from mini/
  61  * can be linked into both mono and mono-sgen.
  62  */
  63 #if defined(HAVE_BOEHM_GC) || defined(HAVE_SGEN_GC)
  64 #error "The code in mini/ should not depend on these defines."
  65 #endif
  66
  67 #ifndef __GNUC__
  68 /*#define __alignof__(a) sizeof(a)*/
  69 #define __alignof__(type) G_STRUCT_OFFSET(struct { char c; type x; }, x)
  70 #endif
  71
  72 #if DISABLE_LOGGING
  73 #define MINI_DEBUG(level,limit,code)
  74 #else
  75 #define MINI_DEBUG(level,limit,code) do {if (G_UNLIKELY ((level) >= (limit))) code} while (0)
  76 #endif
  77
  78 #if !defined(DISABLE_TASKLETS) && defined(MONO_ARCH_SUPPORT_TASKLETS) && defined(__GNUC__)
  79 #define MONO_SUPPORT_TASKLETS 1
  80 #endif
  81
  82 #if ENABLE_LLVM
  83 #define COMPILE_LLVM(cfg) ((cfg)->compile_llvm)
  84 #define LLVM_ENABLED TRUE
  85 #else
  86 #define COMPILE_LLVM(cfg) (0)
  87 #define LLVM_ENABLED FALSE
  88 #endif
  89
  90 #ifdef MONO_ARCH_SOFT_FLOAT_FALLBACK
  91 #define COMPILE_SOFT_FLOAT(cfg) (!COMPILE_LLVM ((cfg)) && mono_arch_is_soft_float ())
  92 #else
  93 #define COMPILE_SOFT_FLOAT(cfg) (0)
  94 #endif
  95
  96 #define NOT_IMPLEMENTED do { g_assert_not_reached (); } while (0)
  97
  98 /* for 32 bit systems */
  99 #if G_BYTE_ORDER == G_LITTLE_ENDIAN
 100 #define MINI_LS_WORD_IDX 0
 101 #define MINI_MS_WORD_IDX 1
 102 #else
 103 #define MINI_LS_WORD_IDX 1
 104 #define MINI_MS_WORD_IDX 0
 105 #endif
 106 #define MINI_LS_WORD_OFFSET (MINI_LS_WORD_IDX * 4)
 107 #define MINI_MS_WORD_OFFSET (MINI_MS_WORD_IDX * 4)
 108 #define inst_ls_word data.op[MINI_LS_WORD_IDX].const_val
 109 #define inst_ms_word data.op[MINI_MS_WORD_IDX].const_val
 110
 111 #define MONO_LVREG_LS(lvreg)    ((lvreg) + 1)
 112 #define MONO_LVREG_MS(lvreg)    ((lvreg) + 2)
 113
 114 #ifndef DISABLE_AOT
 115 #define MONO_USE_AOT_COMPILER
 116 #endif
 117
 118 /* Version number of the AOT file format */
 119 #define MONO_AOT_FILE_VERSION 133
 120
 121 //TODO: This is x86/amd64 specific.
 122 #define mono_simd_shuffle_mask(a,b,c,d) ((a) | ((b) << 2) | ((c) << 4) | ((d) << 6))
 123
 124 /* Remap printf to g_print (we use a mix of these in the mini code) */
 125 #ifdef PLATFORM_ANDROID
 126 #define printf g_print
 127 #endif
 128
 129 #define MONO_TYPE_IS_PRIMITIVE(t) ((!(t)->byref && ((((t)->type >= MONO_TYPE_BOOLEAN && (t)->type <= MONO_TYPE_R8) || ((t)->type >= MONO_TYPE_I && (t)->type <= MONO_TYPE_U)))))
 130
 131 #define MONO_AOT_TRAMP_PAGE_SIZE 16384
 132
 133 /* Constants used to encode different types of methods in AOT */
 134 enum {
 135         MONO_AOT_METHODREF_MIN = 240,
 136         /* Image index bigger than METHODREF_MIN */
 137         MONO_AOT_METHODREF_LARGE_IMAGE_INDEX = 249,
 138         /* Runtime provided methods on arrays */
 139         MONO_AOT_METHODREF_ARRAY = 250,
 140         MONO_AOT_METHODREF_NO_AOT_TRAMPOLINE = 251,
 141         /* Wrappers */
 142         MONO_AOT_METHODREF_WRAPPER = 252,
 143         /* Methods on generic instances */
 144         MONO_AOT_METHODREF_GINST = 253,
 145         /* Methods resolve using a METHODSPEC token */
 146         MONO_AOT_METHODREF_METHODSPEC = 254,
 147 };
 148
 149 /* Constants used to encode different types of types in AOT */
 150 enum {
 151         /* typedef index */
 152         MONO_AOT_TYPEREF_TYPEDEF_INDEX = 1,
 153         /* typedef index + image index */
 154         MONO_AOT_TYPEREF_TYPEDEF_INDEX_IMAGE = 2,
 155         /* typespec token */
 156         MONO_AOT_TYPEREF_TYPESPEC_TOKEN = 3,
 157         /* generic inst */
 158         MONO_AOT_TYPEREF_GINST = 4,
 159         /* type/method variable */
 160         MONO_AOT_TYPEREF_VAR = 5,
 161         /* array */
 162         MONO_AOT_TYPEREF_ARRAY = 6,
 163         /* blob index of the type encoding */
 164         MONO_AOT_TYPEREF_BLOB_INDEX = 7,
 165         /* ptr */
 166         MONO_AOT_TYPEREF_PTR = 8
 167 };
 168
 169 /* Trampolines which we have a lot of */
 170 typedef enum {
 171         MONO_AOT_TRAMP_SPECIFIC = 0,
 172         MONO_AOT_TRAMP_STATIC_RGCTX = 1,
 173         MONO_AOT_TRAMP_IMT_THUNK = 2,
 174         MONO_AOT_TRAMP_GSHAREDVT_ARG = 3,
 175         MONO_AOT_TRAMP_NUM = 4
 176 } MonoAotTrampoline;
 177
 178 typedef enum {
 179         MONO_AOT_FILE_FLAG_WITH_LLVM = 1,
 180         MONO_AOT_FILE_FLAG_FULL_AOT = 2,
 181         MONO_AOT_FILE_FLAG_DEBUG = 4,
 182         MONO_AOT_FILE_FLAG_LLVM_THUMB = 8,
 183         MONO_AOT_FILE_FLAG_LLVM_ONLY = 16,
 184         MONO_AOT_FILE_FLAG_SAFEPOINTS = 32,
 185         MONO_AOT_FILE_FLAG_SEPARATE_DATA = 64,
 186 } MonoAotFileFlags;
 187
 188 typedef enum {
 189         MONO_AOT_TABLE_BLOB,
 190         MONO_AOT_TABLE_IMAGE_TABLE,
 191         MONO_AOT_TABLE_CLASS_NAME,
 192         MONO_AOT_TABLE_METHOD_INFO_OFFSETS,
 193         MONO_AOT_TABLE_EX_INFO_OFFSETS,
 194         MONO_AOT_TABLE_CLASS_INFO_OFFSETS,
 195         MONO_AOT_TABLE_GOT_INFO_OFFSETS,
 196         MONO_AOT_TABLE_LLVM_GOT_INFO_OFFSETS,
 197         MONO_AOT_TABLE_EXTRA_METHOD_INFO_OFFSETS,
 198         MONO_AOT_TABLE_EXTRA_METHOD_TABLE,
 199         MONO_AOT_TABLE_NUM
 200 } MonoAotFileTable;
 201
 202 /* This structure is stored in the AOT file */
 203 typedef struct MonoAotFileInfo
 204 {
 205         /* The version number of the AOT file format, should match MONO_AOT_FILE_VERSION */
 206         guint32 version;
 207         /* For alignment */
 208         guint32 dummy;
 209
 210         /* All the pointers should be at the start to avoid alignment problems */
 211         /* Symbols */
 212 #define MONO_AOT_FILE_INFO_FIRST_SYMBOL jit_got
 213         /* Global Offset Table for JITted code */
 214         gpointer jit_got;
 215         /* Global Offset Table for LLVM code */
 216         gpointer llvm_got;
 217         /* Mono EH Frame created by llc when using LLVM */
 218         gpointer mono_eh_frame;
 219         /* Points to the get_method () function in the LLVM image or NULL */
 220         gpointer llvm_get_method;
 221         /* Points to the get_unbox_tramp () function in the LLVM image or NULL */
 222         gpointer llvm_get_unbox_tramp;
 223         gpointer jit_code_start;
 224         gpointer jit_code_end;
 225         gpointer method_addresses;
 226         /* Data blob */
 227         gpointer blob;
 228         gpointer class_name_table;
 229         gpointer class_info_offsets;
 230         gpointer method_info_offsets;
 231         gpointer ex_info_offsets;
 232         gpointer extra_method_info_offsets;
 233         gpointer extra_method_table;
 234         gpointer got_info_offsets;
 235         gpointer llvm_got_info_offsets;
 236         gpointer image_table;
 237         gpointer mem_end;
 238         /* The GUID of the assembly which the AOT image was generated from */
 239         gpointer assembly_guid;
 240         /*
 241          * The runtime version string for AOT images generated using 'bind-to-runtime-version',
 242          * NULL otherwise.
 243          */
 244         gpointer runtime_version;
 245         /* Blocks of various kinds of trampolines */
 246         gpointer specific_trampolines;
 247         gpointer static_rgctx_trampolines;
 248         gpointer imt_thunks;
 249         gpointer gsharedvt_arg_trampolines;
 250         /* In static mode, points to a table of global symbols for trampolines etc */
 251         gpointer globals;
 252         /* Points to a string containing the assembly name*/
 253         gpointer assembly_name;
 254         /* Start of Mono's Program Linkage Table */
 255         gpointer plt;
 256         /* End of Mono's Program Linkage Table */
 257         gpointer plt_end;
 258         gpointer unwind_info;
 259         /* Points to a table mapping methods to their unbox trampolines */
 260         gpointer unbox_trampolines;
 261         /* Points to the end of the previous table */
 262         gpointer unbox_trampolines_end;
 263         /* Points to a table of unbox trampoline addresses/offsets */
 264         gpointer unbox_trampoline_addresses;
 265 #define MONO_AOT_FILE_INFO_LAST_SYMBOL unbox_trampoline_addresses
 266
 267         /* Scalars */
 268         /* The index of the first GOT slot used by the PLT */
 269         guint32 plt_got_offset_base;
 270         /* Number of entries in the GOT */
 271         guint32 got_size;
 272         /* Number of entries in the PLT */
 273         guint32 plt_size;
 274         /* Number of methods */
 275         guint32 nmethods;
 276         /* A union of MonoAotFileFlags */
 277         guint32 flags;
 278         /* Optimization flags used to compile the module */
 279         guint32 opts;
 280         /* SIMD flags used to compile the module */
 281         guint32 simd_opts;
 282         /* Index of the blob entry holding the GC used by this module */
 283         gint32 gc_name_index;
 284         guint32 num_rgctx_fetch_trampolines;
 285         /* These are used for sanity checking object layout problems when cross-compiling */
 286         guint32 double_align, long_align, generic_tramp_num;
 287         /* The page size used by trampoline pages */
 288         guint32 tramp_page_size;
 289         /*
 290          * The number of GOT entries which need to be preinitialized when the
 291          * module is loaded.
 292          */
 293         guint32 nshared_got_entries;
 294         /* The size of the data file, if MONO_AOT_FILE_FLAG_SEPARATE_DATA is set */
 295         guint32 datafile_size;
 296
 297         /* Arrays */
 298         /* Offsets for tables inside the data file if MONO_AOT_FILE_FLAG_SEPARATE_DATA is set */
 299         // FIXME: Sync with AOT
 300         guint32 table_offsets [MONO_AOT_TABLE_NUM];
 301         /* Number of trampolines */
 302         guint32 num_trampolines [MONO_AOT_TRAMP_NUM];
 303         /* The indexes of the first GOT slots used by the trampolines */
 304         guint32 trampoline_got_offset_base [MONO_AOT_TRAMP_NUM];
 305         /* The size of one trampoline */
 306         guint32 trampoline_size [MONO_AOT_TRAMP_NUM];
 307         /* The offset where the trampolines begin on a trampoline page */
 308         guint32 tramp_page_code_offsets [MONO_AOT_TRAMP_NUM];
 309 } MonoAotFileInfo;
 310
 311 /* Number of symbols in the MonoAotFileInfo structure */
 312 #define MONO_AOT_FILE_INFO_NUM_SYMBOLS (((G_STRUCT_OFFSET (MonoAotFileInfo, MONO_AOT_FILE_INFO_LAST_SYMBOL) - G_STRUCT_OFFSET (MonoAotFileInfo, MONO_AOT_FILE_INFO_FIRST_SYMBOL)) / sizeof (gpointer)) + 1)
 313
 314 typedef struct
 315 {
 316         MonoClass *klass;
 317         MonoMethod *method;
 318 } MonoClassMethodPair;
 319
 320 typedef struct
 321 {
 322         MonoClass *klass;
 323         MonoMethod *method;
 324         gboolean is_virtual;
 325 } MonoDelegateClassMethodPair;
 326
 327 /* Per-domain information maintained by the JIT */
 328 typedef struct
 329 {
 330         /* Maps MonoMethod's to a GSList of GOT slot addresses pointing to its code */
 331         GHashTable *jump_target_got_slot_hash;
 332         GHashTable *jump_target_hash;
 333         /* Maps methods/klasses to the address of the given type of trampoline */
 334         GHashTable *class_init_trampoline_hash;
 335         GHashTable *jump_trampoline_hash;
 336         GHashTable *jit_trampoline_hash;
 337         GHashTable *delegate_trampoline_hash;
 338         /* Maps ClassMethodPair -> MonoDelegateTrampInfo */
 339         GHashTable *static_rgctx_trampoline_hash;
 340         GHashTable *llvm_vcall_trampoline_hash;
 341         /* maps MonoMethod -> MonoJitDynamicMethodInfo */
 342         GHashTable *dynamic_code_hash;
 343         GHashTable *method_code_hash;
 344         /* Maps methods to a RuntimeInvokeInfo structure, protected by the associated MonoDomain lock */
 345         MonoConcurrentHashTable *runtime_invoke_hash;
 346         /* Maps MonoMethod to a GPtrArray containing sequence point locations */
 347         /* Protected by the domain lock */
 348         GHashTable *seq_points;
 349         /* Debugger agent data */
 350         gpointer agent_info;
 351         /* Maps MonoMethod to an arch-specific structure */
 352         GHashTable *arch_seq_points;
 353         /* Maps a GSharedVtTrampInfo structure to a trampoline address */
 354         GHashTable *gsharedvt_arg_tramp_hash;
 355         /* memcpy/bzero methods specialized for small constant sizes */
 356         gpointer *memcpy_addr [17];
 357         gpointer *bzero_addr [17];
 358         gpointer llvm_module;
 359         /* Maps MonoMethod -> GSlist of addresses */
 360         GHashTable *llvm_jit_callees;
 361 } MonoJitDomainInfo;
 362
 363 typedef struct {
 364         MonoJitInfo *ji;
 365         MonoCodeManager *code_mp;
 366 } MonoJitDynamicMethodInfo;
 367
 368 /* An extension of MonoGenericParamFull used in generic sharing */
 369 typedef struct {
 370         MonoGenericParamFull param;
 371         MonoGenericParam *parent;
 372 } MonoGSharedGenericParam;
 373
 374 #define domain_jit_info(domain) ((MonoJitDomainInfo*)((domain)->runtime_info))
 375
 376 /* Contains a list of ips which needs to be patched when a method is compiled */
 377 typedef struct {
 378         GSList *list;
 379 } MonoJumpList;
 380
 381 /* Arch-specific */
 382 typedef struct {
 383         int dummy;
 384 } MonoDynCallInfo;
 385
 386 /*
 387  * Information about a stack frame.
 388  * FIXME This typedef exists only to avoid tons of code rewriting
 389  */
 390 typedef MonoStackFrameInfo StackFrameInfo;
 391
 392 #if 0
 393 #define mono_bitset_foreach_bit(set,b,n) \
 394         for (b = 0; b < n; b++)\
 395                 if (mono_bitset_test_fast(set,b))
 396 #else
 397 #define mono_bitset_foreach_bit(set,b,n) \
 398         for (b = mono_bitset_find_start (set); b < n && b >= 0; b = mono_bitset_find_first (set, b))
 399 #endif
 400
 401 /*
 402  * Pull the list of opcodes
 403  */
 404 #define OPDEF(a,b,c,d,e,f,g,h,i,j) \
 405         a = i,
 406
 407 enum {
 408 #include "mono/cil/opcode.def"
 409         CEE_LASTOP
 410 };
 411 #undef OPDEF
 412
 413 #define MONO_VARINFO(cfg,varnum) (&(cfg)->vars [varnum])
 414
 415 #define MONO_INST_NULLIFY_SREGS(dest) do {                              \
 416                 (dest)->sreg1 = (dest)->sreg2 = (dest)->sreg3 = -1;     \
 417         } while (0)
 418
 419 #define MONO_INST_NEW(cfg,dest,op) do { \
 420                 (dest) = (MonoInst *)mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));   \
 421                 (dest)->opcode = (op);  \
 422                 (dest)->dreg = -1;                          \
 423                 MONO_INST_NULLIFY_SREGS ((dest));           \
 424         (dest)->cil_code = (cfg)->ip;  \
 425         } while (0)
 426
 427 #define MONO_INST_NEW_CALL(cfg,dest,op) do {    \
 428                 (dest) = (MonoCallInst *)mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoCallInst));   \
 429                 (dest)->inst.opcode = (op);     \
 430                 (dest)->inst.dreg = -1;                                 \
 431                 MONO_INST_NULLIFY_SREGS (&(dest)->inst);                \
 432         (dest)->inst.cil_code = (cfg)->ip;  \
 433         } while (0)
 434
 435 #define MONO_ADD_INS(b,inst) do {       \
 436                 if ((b)->last_ins) {    \
 437                         (b)->last_ins->next = (inst);   \
 438             (inst)->prev = (b)->last_ins;   \
 439                         (b)->last_ins = (inst); \
 440                 } else {        \
 441                         (b)->code = (b)->last_ins = (inst);     \
 442                 }       \
 443         } while (0)
 444
 445 #define NULLIFY_INS(ins) do { \
 446         (ins)->opcode = OP_NOP; \
 447         (ins)->dreg = -1;                               \
 448         MONO_INST_NULLIFY_SREGS ((ins));                \
 449     } while (0)
 450
 451 /* Remove INS from BB */
 452 #define MONO_REMOVE_INS(bb,ins) do { \
 453         if ((ins)->prev) \
 454             (ins)->prev->next = (ins)->next; \
 455         if ((ins)->next) \
 456             (ins)->next->prev = (ins)->prev; \
 457         if ((bb)->code == (ins)) \
 458             (bb)->code = (ins)->next; \
 459         if ((bb)->last_ins == (ins)) \
 460             (bb)->last_ins = (ins)->prev; \
 461     } while (0)
 462
 463 /* Remove INS from BB and nullify it */
 464 #define MONO_DELETE_INS(bb,ins) do { \
 465         MONO_REMOVE_INS ((bb), (ins)); \
 466         NULLIFY_INS ((ins)); \
 467     } while (0)
 468
 469 /*
 470  * this is used to determine when some branch optimizations are possible: we exclude FP compares
 471  * because they have weird semantics with NaNs.
 472  */
 473 #define MONO_IS_COND_BRANCH_OP(ins) (((ins)->opcode >= OP_LBEQ && (ins)->opcode <= OP_LBLT_UN) || ((ins)->opcode >= OP_FBEQ && (ins)->opcode <= OP_FBLT_UN) || ((ins)->opcode >= OP_IBEQ && (ins)->opcode <= OP_IBLT_UN))
 474 #define MONO_IS_COND_BRANCH_NOFP(ins) (MONO_IS_COND_BRANCH_OP(ins) && !(((ins)->opcode >= OP_FBEQ) && ((ins)->opcode <= OP_FBLT_UN)) && (!(ins)->inst_left || (ins)->inst_left->inst_left->type != STACK_R8))
 475
 476 #define MONO_IS_BRANCH_OP(ins) (MONO_IS_COND_BRANCH_OP(ins) || ((ins)->opcode == OP_BR) || ((ins)->opcode == OP_BR_REG) || ((ins)->opcode == OP_SWITCH))
 477
 478 #define MONO_IS_COND_EXC(ins) ((((ins)->opcode >= OP_COND_EXC_EQ) && ((ins)->opcode <= OP_COND_EXC_LT_UN)) || (((ins)->opcode >= OP_COND_EXC_IEQ) && ((ins)->opcode <= OP_COND_EXC_ILT_UN)))
 479
 480 #define MONO_IS_SETCC(ins) ((((ins)->opcode >= OP_CEQ) && ((ins)->opcode <= OP_CLT_UN)) || (((ins)->opcode >= OP_ICEQ) && ((ins)->opcode <= OP_ICLT_UN)) || (((ins)->opcode >= OP_LCEQ) && ((ins)->opcode <= OP_LCLT_UN)) || (((ins)->opcode >= OP_FCEQ) && ((ins)->opcode <= OP_FCLT_UN)))
 481
 482
 483 #define MONO_IS_LOAD_MEMBASE(ins) (((ins)->opcode >= OP_LOAD_MEMBASE && (ins)->opcode <= OP_LOADV_MEMBASE) || ((ins)->opcode >= OP_ATOMIC_LOAD_I1 && (ins)->opcode <= OP_ATOMIC_LOAD_R8))
 484 #define MONO_IS_STORE_MEMBASE(ins) (((ins)->opcode >= OP_STORE_MEMBASE_REG && (ins)->opcode <= OP_STOREV_MEMBASE) || ((ins)->opcode >= OP_ATOMIC_STORE_I1 && (ins)->opcode <= OP_ATOMIC_STORE_R8))
 485 #define MONO_IS_STORE_MEMINDEX(ins) (((ins)->opcode >= OP_STORE_MEMINDEX) && ((ins)->opcode <= OP_STORER8_MEMINDEX))
 486
 487 #define MONO_IS_CALL(ins) (((ins->opcode >= OP_VOIDCALL) && (ins->opcode <= OP_VOIDCALL_MEMBASE)) || ((ins->opcode >= OP_FCALL) && (ins->opcode <= OP_FCALL_MEMBASE)) || ((ins->opcode >= OP_LCALL) && (ins->opcode <= OP_LCALL_MEMBASE)) || ((ins->opcode >= OP_VCALL) && (ins->opcode <= OP_VCALL_MEMBASE)) || ((ins->opcode >= OP_CALL) && (ins->opcode <= OP_CALL_MEMBASE)) || ((ins->opcode >= OP_VCALL2) && (ins->opcode <= OP_VCALL2_MEMBASE)) || (ins->opcode == OP_TAILCALL) || ((ins->opcode >= OP_RCALL) && (ins->opcode <= OP_RCALL_MEMBASE)))
 488
 489 #define MONO_IS_JUMP_TABLE(ins) (((ins)->opcode == OP_JUMP_TABLE) ? TRUE : ((((ins)->opcode == OP_AOTCONST) && (ins->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? TRUE : ((ins)->opcode == OP_SWITCH) ? TRUE : ((((ins)->opcode == OP_GOT_ENTRY) && ((ins)->inst_right->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? TRUE : FALSE)))
 490
 491 #define MONO_JUMP_TABLE_FROM_INS(ins) (((ins)->opcode == OP_JUMP_TABLE) ? (ins)->inst_p0 : (((ins)->opcode == OP_AOTCONST) && (ins->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH) ? (ins)->inst_p0 : (((ins)->opcode == OP_SWITCH) ? (ins)->inst_p0 : ((((ins)->opcode == OP_GOT_ENTRY) && ((ins)->inst_right->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? (ins)->inst_right->inst_p0 : NULL))))
 492
 493 /* FIXME: Add more instructions */
 494 /* INEG sets the condition codes, and the OP_LNEG decomposition depends on this on x86 */
 495 #define MONO_INS_HAS_NO_SIDE_EFFECT(ins) (MONO_IS_MOVE (ins) || (ins->opcode == OP_ICONST) || (ins->opcode == OP_I8CONST) || MONO_IS_ZERO (ins) || (ins->opcode == OP_ADD_IMM) || (ins->opcode == OP_R8CONST) || (ins->opcode == OP_LADD_IMM) || (ins->opcode == OP_ISUB_IMM) || (ins->opcode == OP_IADD_IMM) || (ins->opcode == OP_LNEG) || (ins->opcode == OP_ISUB) || (ins->opcode == OP_CMOV_IGE) || (ins->opcode == OP_ISHL_IMM) || (ins->opcode == OP_ISHR_IMM) || (ins->opcode == OP_ISHR_UN_IMM) || (ins->opcode == OP_IAND_IMM) || (ins->opcode == OP_ICONV_TO_U1) || (ins->opcode == OP_ICONV_TO_I1) || (ins->opcode == OP_SEXT_I4) || (ins->opcode == OP_LCONV_TO_U1) || (ins->opcode == OP_ICONV_TO_U2) || (ins->opcode == OP_ICONV_TO_I2) || (ins->opcode == OP_LCONV_TO_I2) || (ins->opcode == OP_LDADDR) || (ins->opcode == OP_PHI) || (ins->opcode == OP_NOP) || (ins->opcode == OP_ZEXT_I4) || (ins->opcode == OP_NOT_NULL) || (ins->opcode == OP_IL_SEQ_POINT))
 496
 497 #define MONO_METHOD_IS_FINAL(m) (((m)->flags & METHOD_ATTRIBUTE_FINAL) || ((m)->klass && ((m)->klass->flags & TYPE_ATTRIBUTE_SEALED)))
 498
 499
 500 #ifdef MONO_ARCH_SIMD_INTRINSICS
 501
 502 #define MONO_IS_PHI(ins) (((ins)->opcode == OP_PHI) || ((ins)->opcode == OP_FPHI) || ((ins)->opcode == OP_VPHI)  || ((ins)->opcode == OP_XPHI))
 503 #define MONO_IS_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_XMOVE) || ((ins)->opcode == OP_RMOVE))
 504 #define MONO_IS_NON_FP_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_XMOVE))
 505 #define MONO_IS_REAL_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_XMOVE) || ((ins)->opcode == OP_RMOVE))
 506 #define MONO_IS_ZERO(ins) (((ins)->opcode == OP_VZERO) || ((ins)->opcode == OP_XZERO))
 507
 508 #define MONO_CLASS_IS_SIMD(cfg, klass) (((cfg)->opt & MONO_OPT_SIMD) && (klass)->simd_type)
 509
 510 #else
 511
 512 #define MONO_IS_PHI(ins) (((ins)->opcode == OP_PHI) || ((ins)->opcode == OP_FPHI) || ((ins)->opcode == OP_VPHI))
 513 #define MONO_IS_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_RMOVE))
 514 #define MONO_IS_NON_FP_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_VMOVE))
 515 /*A real MOVE is one that isn't decomposed such as a VMOVE or LMOVE*/
 516 #define MONO_IS_REAL_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_RMOVE))
 517 #define MONO_IS_ZERO(ins) ((ins)->opcode == OP_VZERO)
 518
 519 #define MONO_CLASS_IS_SIMD(cfg, klass) (0)
 520
 521 #endif
 522
 523 typedef struct MonoInstList MonoInstList;
 524 typedef struct MonoInst MonoInst;
 525 typedef struct MonoCallInst MonoCallInst;
 526 typedef struct MonoCallArgParm MonoCallArgParm;
 527 typedef struct MonoMethodVar MonoMethodVar;
 528 typedef struct MonoBasicBlock MonoBasicBlock;
 529 typedef struct MonoLMF MonoLMF;
 530 typedef struct MonoSpillInfo MonoSpillInfo;
 531 typedef struct MonoTraceSpec MonoTraceSpec;
 532
 533 extern MonoNativeTlsKey mono_jit_tls_id;
 534 extern MonoTraceSpec *mono_jit_trace_calls;
 535 extern gboolean mono_break_on_exc;
 536 extern int mono_exc_esp_offset;
 537 extern gboolean mono_compile_aot;
 538 extern gboolean mono_aot_only;
 539 extern gboolean mono_llvm_only;
 540 extern MonoAotMode mono_aot_mode;
 541 extern MonoMethodDesc *mono_inject_async_exc_method;
 542 extern int mono_inject_async_exc_pos;
 543 extern MonoMethodDesc *mono_break_at_bb_method;
 544 extern int mono_break_at_bb_bb_num;
 545 extern gboolean mono_verify_all;
 546 extern gboolean mono_do_x86_stack_align;
 547 extern const char *mono_build_date;
 548 extern gboolean mono_do_signal_chaining;
 549 extern gboolean mono_do_crash_chaining;
 550 extern MONO_API gboolean mono_use_llvm;
 551 extern gboolean mono_do_single_method_regression;
 552 extern guint32 mono_single_method_regression_opt;
 553 extern MonoMethod *mono_current_single_method;
 554 extern GSList *mono_single_method_list;
 555 extern GHashTable *mono_single_method_hash;
 556 extern gboolean mono_using_xdebug;
 557 extern int mini_verbose;
 558 extern int valgrind_register;
 559
 560 #define INS_INFO(opcode) (&ins_info [((opcode) - OP_START - 1) * 4])
 561
 562 extern const char ins_info[];
 563 extern const gint8 ins_sreg_counts [];
 564
 565 #ifndef DISABLE_JIT
 566 #define mono_inst_get_num_src_registers(ins) (ins_sreg_counts [(ins)->opcode - OP_START - 1])
 567 #else
 568 #define mono_inst_get_num_src_registers(ins) 0
 569 #endif
 570
 571 #define mono_inst_get_src_registers(ins, regs) (((regs) [0] = (ins)->sreg1), ((regs) [1] = (ins)->sreg2), ((regs) [2] = (ins)->sreg3), mono_inst_get_num_src_registers ((ins)))
 572
 573 #define MONO_BB_FOR_EACH_INS(bb, ins) for ((ins) = (bb)->code; (ins); (ins) = (ins)->next)
 574
 575 #define MONO_BB_FOR_EACH_INS_SAFE(bb, n, ins) for ((ins) = (bb)->code, n = (ins) ? (ins)->next : NULL; (ins); (ins) = (n), (n) = (ins) ? (ins)->next : NULL)
 576
 577 #define MONO_BB_FOR_EACH_INS_REVERSE_SAFE(bb, p, ins) for ((ins) = (bb)->last_ins, p = (ins) ? (ins)->prev : NULL; (ins); (ins) = (p), (p) = (ins) ? (ins)->prev : NULL)
 578
 579 #define mono_bb_first_ins(bb) (bb)->code
 580
 581 struct MonoSpillInfo {
 582         int offset;
 583 };
 584
 585 /*
 586  * Information about a call site for the GC map creation code
 587  */
 588 typedef struct {
 589         /* The next offset after the call instruction */
 590         int pc_offset;
 591         /* The basic block containing the call site */
 592         MonoBasicBlock *bb;
 593         /*
 594          * The set of variables live at the call site.
 595          * Has length cfg->num_varinfo in bits.
 596          */
 597         guint8 *liveness;
 598         /*
 599          * List of OP_GC_PARAM_SLOT_LIVENESS_DEF instructions defining the param slots
 600          * used by this call.
 601          */
 602         GSList *param_slots;
 603 } GCCallSite;
 604
 605 /*
 606  * The IR-level extended basic block.
 607  *
 608  * A basic block can have multiple exits just fine, as long as the point of
 609  * 'departure' is the last instruction in the basic block. Extended basic
 610  * blocks, on the other hand, may have instructions that leave the block
 611  * midstream. The important thing is that they cannot be _entered_
 612  * midstream, ie, execution of a basic block (or extened bb) always start
 613  * at the beginning of the block, never in the middle.
 614  */
 615 struct MonoBasicBlock {
 616         MonoInst *last_ins;
 617
 618         /* the next basic block in the order it appears in IL */
 619         MonoBasicBlock *next_bb;
 620
 621         /*
 622          * Before instruction selection it is the first tree in the
 623          * forest and the first item in the list of trees. After
 624          * instruction selection it is the first instruction and the
 625          * first item in the list of instructions.
 626          */
 627         MonoInst *code;
 628
 629         /* unique block number identification */
 630         gint32 block_num;
 631
 632         gint32 dfn;
 633
 634         /* Basic blocks: incoming and outgoing counts and pointers */
 635         /* Each bb should only appear once in each array */
 636         gint16 out_count, in_count;
 637         MonoBasicBlock **in_bb;
 638         MonoBasicBlock **out_bb;
 639
 640         /* Points to the start of the CIL code that initiated this BB */
 641         unsigned char* cil_code;
 642
 643         /* Length of the CIL block */
 644         gint32 cil_length;
 645
 646         /* The offset of the generated code, used for fixups */
 647         int native_offset;
 648         /* The length of the generated code, doesn't include alignment padding */
 649         int native_length;
 650         /* The real native offset, which includes alignment padding too */
 651         int real_native_offset;
 652         int max_offset;
 653         int max_length;
 654
 655         /* Visited and reachable flags */
 656         guint32 flags;
 657
 658         /*
 659          * SSA and loop based flags
 660          */
 661         MonoBitSet *dominators;
 662         MonoBitSet *dfrontier;
 663         MonoBasicBlock *idom;
 664         GSList *dominated;
 665         /* fast dominator algorithm */
 666         MonoBasicBlock *df_parent, *ancestor, *child, *label;
 667         int size, sdom, idomn;
 668
 669         /* loop nesting and recognition */
 670         GList *loop_blocks;
 671         gint8  nesting;
 672         gint8  loop_body_start;
 673
 674         /*
 675          * Whenever the bblock is rarely executed so it should be emitted after
 676          * the function epilog.
 677          */
 678         guint out_of_line : 1;
 679         /* Caches the result of uselessness calculation during optimize_branches */
 680         guint not_useless : 1;
 681         /* Whenever the decompose_array_access_opts () pass needs to process this bblock */
 682         guint has_array_access : 1;
 683         /* Whenever this bblock is extended, ie. it has branches inside it */
 684         guint extended : 1;
 685         /* Whenever this bblock contains a OP_JUMP_TABLE instruction */
 686         guint has_jump_table : 1;
 687         /* Whenever this bblock contains an OP_CALL_HANDLER instruction */
 688         guint has_call_handler : 1;
 689         /* Whenever this bblock starts a try block */
 690         guint try_start : 1;
 691
 692 #ifdef ENABLE_LLVM
 693         /* The offset of the CIL instruction in this bblock which ends a try block */
 694         intptr_t try_end;
 695 #endif
 696
 697         /*
 698          * If this is set, extend the try range started by this bblock by an arch specific
 699          * number of bytes to encompass the end of the previous bblock (e.g. a Monitor.Enter
 700          * call).
 701          */
 702         guint extend_try_block : 1;
 703
 704         /* use for liveness analysis */
 705         MonoBitSet *gen_set;
 706         MonoBitSet *kill_set;
 707         MonoBitSet *live_in_set;
 708         MonoBitSet *live_out_set;
 709
 710         /* fields to deal with non-empty stack slots at bb boundary */
 711         guint16 out_scount, in_scount;
 712         MonoInst **out_stack;
 713         MonoInst **in_stack;
 714
 715         /* we use that to prevent merging of bblocks covered by different clauses*/
 716         guint real_offset;
 717
 718         GSList *seq_points;
 719         MonoInst *last_seq_point;
 720
 721         GSList *spill_slot_defs;
 722
 723         /* List of call sites in this bblock sorted by pc_offset */
 724         GSList *gc_callsites;
 725
 726         /*
 727          * The region encodes whether the basic block is inside
 728          * a finally, catch, filter or none of these.
 729          *
 730          * If the value is -1, then it is neither finally, catch nor filter
 731          *
 732          * Otherwise the format is:
 733          *
 734          *  Bits: |     0-3      |       4-7      |     8-31
 735          *        |              |                |
 736          *        | clause-flags |   MONO_REGION  | clause-index
 737          *
 738          */
 739         guint region;
 740
 741         /* The current symbolic register number, used in local register allocation. */
 742         guint32 max_vreg;
 743 };
 744
 745 /* BBlock flags */
 746 enum {
 747         BB_VISITED              = 1 << 0,
 748         BB_REACHABLE            = 1 << 1,
 749         BB_EXCEPTION_DEAD_OBJ   = 1 << 2,
 750         BB_EXCEPTION_UNSAFE     = 1 << 3,
 751         BB_EXCEPTION_HANDLER    = 1 << 4,
 752         /* for Native Client, mark the blocks that can be jumped to indirectly */
 753         BB_INDIRECT_JUMP_TARGET = 1 << 5
 754 };
 755
 756 typedef struct MonoMemcpyArgs {
 757         int size, align;
 758 } MonoMemcpyArgs;
 759
 760 typedef enum {
 761         LLVMArgNone,
 762         /* Scalar argument passed by value */
 763         LLVMArgNormal,
 764         /* Only in ainfo->pair_storage */
 765         LLVMArgInIReg,
 766         /* Only in ainfo->pair_storage */
 767         LLVMArgInFPReg,
 768         /* Valuetype passed in 1-2 consecutive register */
 769         LLVMArgVtypeInReg,
 770         LLVMArgVtypeByVal,
 771         LLVMArgVtypeRetAddr, /* On on cinfo->ret */
 772         LLVMArgGSharedVt,
 773         /* Fixed size argument passed to/returned from gsharedvt method by ref */
 774         LLVMArgGsharedvtFixed,
 775         /* Fixed size vtype argument passed to/returned from gsharedvt method by ref */
 776         LLVMArgGsharedvtFixedVtype,
 777         /* Variable sized argument passed to/returned from gsharedvt method by ref */
 778         LLVMArgGsharedvtVariable,
 779         /* Vtype passed as one int array argument */
 780         LLVMArgAsIArgs,
 781         /* Vtype passed as a set of fp arguments */
 782         LLVMArgAsFpArgs,
 783         /*
 784          * Only for returns, a structure which
 785          * consists of floats/doubles.
 786          */
 787         LLVMArgFpStruct,
 788         LLVMArgVtypeByRef,
 789         /* Vtype returned as an int */
 790         LLVMArgVtypeAsScalar
 791 } LLVMArgStorage;
 792
 793 typedef struct {
 794         LLVMArgStorage storage;
 795
 796         /*
 797          * Only if storage == ArgValuetypeInReg/LLVMArgAsFpArgs.
 798          * This contains how the parts of the vtype are passed.
 799          */
 800         LLVMArgStorage pair_storage [8];
 801         /*
 802          * Only if storage == LLVMArgAsIArgs/LLVMArgAsFpArgs/LLVMArgFpStruct.
 803          * If storage == LLVMArgAsFpArgs, this is the number of arguments
 804          * used to pass the value.
 805          * If storage == LLVMArgFpStruct, this is the number of fields
 806          * in the structure.
 807          */
 808         int nslots;
 809         /* Only if storage == LLVMArgAsFpArgs/LLVMArgFpStruct (4/8) */
 810         int esize;
 811         /* Parameter index in the LLVM signature */
 812         int pindex;
 813         MonoType *type;
 814         /* Only if storage == LLVMArgAsFpArgs. Dummy fp args to insert before this arg */
 815         int ndummy_fpargs;
 816 } LLVMArgInfo;
 817
 818 typedef struct {
 819         LLVMArgInfo ret;
 820         /* Whenever there is an rgctx argument */
 821         gboolean rgctx_arg;
 822         /* Whenever there is an IMT argument */
 823         gboolean imt_arg;
 824         /*
 825          * The position of the vret arg in the argument list.
 826          * Only if ret->storage == ArgVtypeRetAddr.
 827          * Should be 0 or 1.
 828          */
 829         int vret_arg_index;
 830         /* The indexes of various special arguments in the LLVM signature */
 831         int vret_arg_pindex, this_arg_pindex, rgctx_arg_pindex, imt_arg_pindex;
 832
 833         /* Inline array of argument info */
 834         /* args [0] is for the this argument if it exists */
 835         LLVMArgInfo args [1];
 836 } LLVMCallInfo;
 837
 838 #define MONO_MAX_SRC_REGS       3
 839
 840 struct MonoInst {
 841         guint16 opcode;
 842         guint8  type; /* stack type */
 843         guint8  flags;
 844
 845         /* used by the register allocator */
 846         gint32 dreg, sreg1, sreg2, sreg3;
 847
 848         MonoInst *next, *prev;
 849
 850         union {
 851                 union {
 852                         MonoInst *src;
 853                         MonoMethodVar *var;
 854                         mgreg_t const_val;
 855 #if (SIZEOF_REGISTER > SIZEOF_VOID_P) && (G_BYTE_ORDER == G_BIG_ENDIAN)
 856                         struct {
 857                                 gpointer p[SIZEOF_REGISTER/SIZEOF_VOID_P];
 858                         } pdata;
 859 #else
 860                         gpointer p;
 861 #endif
 862                         MonoMethod *method;
 863                         MonoMethodSignature *signature;
 864                         MonoBasicBlock **many_blocks;
 865                         MonoBasicBlock *target_block;
 866                         MonoInst **args;
 867                         MonoType *vtype;
 868                         MonoClass *klass;
 869                         int *phi_args;
 870                         MonoCallInst *call_inst;
 871                         MonoExceptionClause *exception_clause;
 872                 } op [2];
 873                 gint64 i8const;
 874                 double r8const;
 875         } data;
 876
 877         const unsigned char* cil_code; /* for debugging and bblock splitting */
 878
 879         /* used mostly by the backend to store additional info it may need */
 880         union {
 881                 gint32 reg3;
 882                 gint32 arg_info;
 883                 gint32 size;
 884                 MonoMemcpyArgs *memcpy_args; /* in OP_MEMSET and OP_MEMCPY */
 885                 gpointer data;
 886                 gint shift_amount;
 887                 gboolean is_pinvoke; /* for variables in the unmanaged marshal format */
 888                 gboolean record_cast_details; /* For CEE_CASTCLASS */
 889                 MonoInst *spill_var; /* for OP_MOVE_I4_TO_F/F_TO_I4 and OP_FCONV_TO_R8_X */
 890                 guint16 source_opcode; /*OP_XCONV_R8_TO_I4 needs to know which op was used to do proper widening*/
 891                 int pc_offset; /* OP_GC_LIVERANGE_START/END */
 892
 893                 /*
 894                  * memory_barrier: MONO_MEMORY_BARRIER_{ACQ,REL,SEQ}
 895                  * atomic_load_*: MONO_MEMORY_BARRIER_{ACQ,SEQ}
 896                  * atomic_store_*: MONO_MEMORY_BARRIER_{REL,SEQ}
 897                  */
 898                 int memory_barrier_kind;
 899         } backend;
 900
 901         MonoClass *klass;
 902 };
 903
 904 struct MonoCallInst {
 905         MonoInst inst;
 906         MonoMethodSignature *signature;
 907         MonoMethod *method;
 908         MonoInst **args;
 909         MonoInst *out_args;
 910         MonoInst *vret_var;
 911         gconstpointer fptr;
 912         guint stack_usage;
 913         guint stack_align_amount;
 914         guint is_virtual : 1;
 915         guint tail_call : 1;
 916         /* If this is TRUE, 'fptr' points to a MonoJumpInfo instead of an address. */
 917         guint fptr_is_patch : 1;
 918         /*
 919          * If this is true, then the call returns a vtype in a register using the same
 920          * calling convention as OP_CALL.
 921          */
 922         guint vret_in_reg : 1;
 923         /* Whenever vret_in_reg returns fp values */
 924         guint vret_in_reg_fp : 1;
 925         /* Whenever there is an IMT argument and it is dynamic */
 926         guint dynamic_imt_arg : 1;
 927         /* Whenever there is an RGCTX argument */
 928         guint32 rgctx_reg : 1;
 929         /* Whenever the call will need an unbox trampoline */
 930         guint need_unbox_trampoline : 1;
 931         regmask_t used_iregs;
 932         regmask_t used_fregs;
 933         GSList *out_ireg_args;
 934         GSList *out_freg_args;
 935         GSList *outarg_vts;
 936         gpointer call_info;
 937 #ifdef ENABLE_LLVM
 938         LLVMCallInfo *cinfo;
 939         int rgctx_arg_reg, imt_arg_reg;
 940 #endif
 941 #ifdef TARGET_ARM
 942         /* See the comment in mini-arm.c!mono_arch_emit_call for RegTypeFP. */
 943         GSList *float_args;
 944 #endif
 945 };
 946
 947 struct MonoCallArgParm {
 948         MonoInst ins;
 949         gint32 size;
 950         gint32 offset;
 951         gint32 offPrm;
 952 };
 953
 954 /*
 955  * flags for MonoInst
 956  * Note: some of the values overlap, because they can't appear
 957  * in the same MonoInst.
 958  */
 959 enum {
 960         MONO_INST_HAS_METHOD = 1,
 961         MONO_INST_INIT       = 1, /* in localloc */
 962         MONO_INST_SINGLE_STEP_LOC = 1, /* in SEQ_POINT */
 963         MONO_INST_IS_DEAD    = 2,
 964         MONO_INST_TAILCALL   = 4,
 965         MONO_INST_VOLATILE   = 4,
 966         MONO_INST_NOTYPECHECK    = 4,
 967         MONO_INST_NONEMPTY_STACK = 4, /* in SEQ_POINT */
 968         MONO_INST_UNALIGNED  = 8,
 969     MONO_INST_CFOLD_TAKEN = 8, /* On branches */
 970     MONO_INST_CFOLD_NOT_TAKEN = 16, /* On branches */
 971         MONO_INST_DEFINITION_HAS_SIDE_EFFECTS = 8,
 972         /* the address of the variable has been taken */
 973         MONO_INST_INDIRECT   = 16,
 974         MONO_INST_NORANGECHECK   = 16,
 975         /* On loads, the source address can be null */
 976         MONO_INST_FAULT = 32,
 977         /*
 978          * On variables, identifies LMF variables. These variables have a dummy type (int), but
 979          * require stack space for a MonoLMF struct.
 980          */
 981         MONO_INST_LMF = 32,
 982         /* On loads, the source address points to a constant value */
 983         MONO_INST_INVARIANT_LOAD = 64,
 984         /* On variables, the variable needs GC tracking */
 985         MONO_INST_GC_TRACK = 128,
 986         /*
 987          * Set on instructions during code emission which make calls, i.e. OP_CALL, OP_THROW.
 988          * backend.pc_offset will be set to the pc offset at the end of the native call instructions.
 989          */
 990         MONO_INST_GC_CALLSITE = 128,
 991         /* On comparisons, mark the branch following the condition as likely to be taken */
 992         MONO_INST_LIKELY = 128,
 993 };
 994
 995 #define inst_c0 data.op[0].const_val
 996 #define inst_c1 data.op[1].const_val
 997 #define inst_i0 data.op[0].src
 998 #define inst_i1 data.op[1].src
 999 #if (SIZEOF_REGISTER > SIZEOF_VOID_P) && (G_BYTE_ORDER == G_BIG_ENDIAN)
1000 #define inst_p0 data.op[0].pdata.p[SIZEOF_REGISTER/SIZEOF_VOID_P - 1]
1001 #define inst_p1 data.op[1].pdata.p[SIZEOF_REGISTER/SIZEOF_VOID_P - 1]
1002 #else
1003 #define inst_p0 data.op[0].p
1004 #define inst_p1 data.op[1].p
1005 #endif
1006 #define inst_l  data.i8const
1007 #define inst_r  data.r8const
1008 #define inst_left  data.op[0].src
1009 #define inst_right data.op[1].src
1010
1011 #define inst_newa_len   data.op[0].src
1012 #define inst_newa_class data.op[1].klass
1013
1014 #define inst_var    data.op[0].var
1015 #define inst_vtype  data.op[1].vtype
1016 /* in branch instructions */
1017 #define inst_many_bb   data.op[1].many_blocks
1018 #define inst_target_bb data.op[0].target_block
1019 #define inst_true_bb   data.op[1].many_blocks[0]
1020 #define inst_false_bb  data.op[1].many_blocks[1]
1021
1022 #define inst_basereg sreg1
1023 #define inst_indexreg sreg2
1024 #define inst_destbasereg dreg
1025 #define inst_offset data.op[0].const_val
1026 #define inst_imm    data.op[1].const_val
1027 #define inst_call   data.op[1].call_inst
1028
1029 #define inst_phi_args   data.op[1].phi_args
1030 #define inst_eh_block    data.op[1].exception_clause
1031
1032 static inline void
1033 mono_inst_set_src_registers (MonoInst *ins, int *regs)
1034 {
1035         ins->sreg1 = regs [0];
1036         ins->sreg2 = regs [1];
1037         ins->sreg3 = regs [2];
1038 }
1039
1040 /* instruction description for use in regalloc/scheduling */
1041 enum {
1042         MONO_INST_DEST,
1043         MONO_INST_SRC1,         /* we depend on the SRCs to be consecutive */
1044         MONO_INST_SRC2,
1045         MONO_INST_SRC3,
1046         MONO_INST_LEN,
1047         MONO_INST_CLOB,
1048         /* Unused, commented out to reduce the size of the mdesc tables
1049         MONO_INST_FLAGS,
1050         MONO_INST_COST,
1051         MONO_INST_DELAY,
1052         MONO_INST_RES,
1053         */
1054         MONO_INST_MAX
1055 };
1056
1057 typedef union {
1058         struct {
1059                 guint16 tid; /* tree number */
1060                 guint16 bid; /* block number */
1061         } pos ;
1062         guint32 abs_pos;
1063 } MonoPosition;
1064
1065 typedef struct {
1066         MonoPosition first_use, last_use;
1067 } MonoLiveRange;
1068
1069 typedef struct MonoLiveRange2 MonoLiveRange2;
1070
1071 struct MonoLiveRange2 {
1072         int from, to;
1073         MonoLiveRange2 *next;
1074 };
1075
1076 typedef struct {
1077         /* List of live ranges sorted by 'from' */
1078         MonoLiveRange2 *range;
1079         MonoLiveRange2 *last_range;
1080 } MonoLiveInterval;
1081
1082 /*
1083  * Additional information about a variable
1084  */
1085 struct MonoMethodVar {
1086         guint           idx; /* inside cfg->varinfo, cfg->vars */
1087         MonoLiveRange   range; /* generated by liveness analysis */
1088         MonoLiveInterval *interval; /* generated by liveness analysis */
1089         int             reg; /* != -1 if allocated into a register */
1090         int             spill_costs;
1091         MonoBitSet     *def_in; /* used by SSA */
1092         MonoInst       *def;    /* used by SSA */
1093         MonoBasicBlock *def_bb; /* used by SSA */
1094         GList          *uses;   /* used by SSA */
1095         char            cpstate;  /* used by SSA conditional  constant propagation */
1096         /* The native offsets corresponding to the live range of the variable */
1097         gint32         live_range_start, live_range_end;
1098         /*
1099          * cfg->varinfo [idx]->dreg could be replaced for OP_REGVAR, this contains the
1100          * original vreg.
1101          */
1102         gint32         vreg;
1103 };
1104
1105 /*
1106  * Stores state need to resume exception handling when using LLVM
1107  */
1108 typedef struct {
1109         MonoJitInfo *ji;
1110         int clause_index;
1111         MonoContext ctx, new_ctx;
1112         /* FIXME: GC */
1113         gpointer        ex_obj;
1114         MonoLMF *lmf;
1115         int first_filter_idx, filter_idx;
1116 } ResumeState;
1117
1118 typedef struct {
1119         gpointer          end_of_stack;
1120         guint32           stack_size;
1121         /* !defined(HAVE_KW_THREAD) || !defined(MONO_ARCH_ENABLE_MONO_LMF_VAR) */
1122         MonoLMF          *lmf;
1123         MonoLMF          *first_lmf;
1124         gpointer         restore_stack_prot;
1125         guint32          handling_stack_ovf;
1126         gpointer         signal_stack;
1127         guint32          signal_stack_size;
1128         gpointer         stack_ovf_guard_base;
1129         guint32          stack_ovf_guard_size;
1130         guint            stack_ovf_valloced : 1;
1131         void            (*abort_func) (MonoObject *object);
1132         /* Used to implement --debug=casts */
1133         MonoClass       *class_cast_from, *class_cast_to;
1134
1135         /* Stores state needed by handler block with a guard */
1136         MonoContext     ex_ctx;
1137         ResumeState resume_state;
1138
1139         /*Variabled use to implement handler blocks (finally/catch/etc) guards during interruption*/
1140         /* handler block return address */
1141         gpointer handler_block_return_address;
1142
1143         /* handler block been guarded. It's safe to store this even for dynamic methods since there
1144         is an activation on stack making sure it will remain alive.*/
1145         MonoJitExceptionInfo *handler_block;
1146
1147         /* context to be used by the guard trampoline when resuming interruption.*/
1148         MonoContext handler_block_context;
1149         /*
1150          * Stores the state at the exception throw site to be used by mono_stack_walk ()
1151          * when it is called from profiler functions during exception handling.
1152          */
1153         MonoContext orig_ex_ctx;
1154         gboolean orig_ex_ctx_set;
1155
1156         /*
1157          * Stores if we need to run a chained exception in Windows.
1158          */
1159         gboolean mono_win_chained_exception_needs_run;
1160
1161         /*
1162          * The current exception in flight
1163          */
1164         guint32 thrown_exc;
1165
1166         /*
1167          * The calling assembly in llvmonly mode.
1168          */
1169         MonoImage *calling_image;
1170 } MonoJitTlsData;
1171
1172 /*
1173  * This structure is an extension of MonoLMF and contains extra information.
1174  */
1175 typedef struct {
1176         struct MonoLMF lmf;
1177         gboolean debugger_invoke;
1178         MonoContext ctx; /* if debugger_invoke is TRUE */
1179 } MonoLMFExt;
1180
1181 /* Generic sharing */
1182
1183 /*
1184  * Flags for which contexts were used in inflating a generic.
1185  */
1186 enum {
1187         MONO_GENERIC_CONTEXT_USED_CLASS = 1,
1188         MONO_GENERIC_CONTEXT_USED_METHOD = 2
1189 };
1190
1191 enum {
1192         /* Cannot be 0 since this is stored in rgctx slots, and 0 means an unitialized rgctx slot */
1193         MONO_GSHAREDVT_BOX_TYPE_VTYPE = 1,
1194         MONO_GSHAREDVT_BOX_TYPE_REF = 2,
1195         MONO_GSHAREDVT_BOX_TYPE_NULLABLE = 3
1196 };
1197
1198 typedef enum {
1199         MONO_RGCTX_INFO_STATIC_DATA,
1200         MONO_RGCTX_INFO_KLASS,
1201         MONO_RGCTX_INFO_ELEMENT_KLASS,
1202         MONO_RGCTX_INFO_VTABLE,
1203         MONO_RGCTX_INFO_TYPE,
1204         MONO_RGCTX_INFO_REFLECTION_TYPE,
1205         MONO_RGCTX_INFO_METHOD,
1206         /* In llvmonly mode, this is a function descriptor */
1207         MONO_RGCTX_INFO_GENERIC_METHOD_CODE,
1208         MONO_RGCTX_INFO_GSHAREDVT_OUT_WRAPPER,
1209         MONO_RGCTX_INFO_CLASS_FIELD,
1210         MONO_RGCTX_INFO_METHOD_RGCTX,
1211         MONO_RGCTX_INFO_METHOD_CONTEXT,
1212         MONO_RGCTX_INFO_REMOTING_INVOKE_WITH_CHECK,
1213         MONO_RGCTX_INFO_METHOD_DELEGATE_CODE,
1214         MONO_RGCTX_INFO_CAST_CACHE,
1215         MONO_RGCTX_INFO_ARRAY_ELEMENT_SIZE,
1216         MONO_RGCTX_INFO_VALUE_SIZE,
1217         /* +1 to avoid zero values in rgctx slots */
1218         MONO_RGCTX_INFO_FIELD_OFFSET,
1219         /* Either the code for a gsharedvt method, or the address for a gsharedvt-out trampoline for the method */
1220         /* In llvmonly mode, this is a function descriptor */
1221         MONO_RGCTX_INFO_METHOD_GSHAREDVT_OUT_TRAMPOLINE,
1222         /* Same for virtual calls */
1223         /* In llvmonly mode, this is a function descriptor */
1224         MONO_RGCTX_INFO_METHOD_GSHAREDVT_OUT_TRAMPOLINE_VIRT,
1225         /* Same for calli, associated with a signature */
1226         MONO_RGCTX_INFO_SIG_GSHAREDVT_OUT_TRAMPOLINE_CALLI,
1227         MONO_RGCTX_INFO_SIG_GSHAREDVT_IN_TRAMPOLINE_CALLI,
1228         /* One of MONO_GSHAREDVT_BOX_TYPE */
1229         MONO_RGCTX_INFO_CLASS_BOX_TYPE,
1230         /* Resolves to a MonoGSharedVtMethodRuntimeInfo */
1231         MONO_RGCTX_INFO_METHOD_GSHAREDVT_INFO,
1232         MONO_RGCTX_INFO_LOCAL_OFFSET,
1233         MONO_RGCTX_INFO_MEMCPY,
1234         MONO_RGCTX_INFO_BZERO,
1235         /* The address of Nullable<T>.Box () */
1236         /* In llvmonly mode, this is a function descriptor */
1237         MONO_RGCTX_INFO_NULLABLE_CLASS_BOX,
1238         MONO_RGCTX_INFO_NULLABLE_CLASS_UNBOX,
1239         /* MONO_PATCH_INFO_VCALL_METHOD */
1240         MONO_RGCTX_INFO_VIRT_METHOD_CODE,
1241         /*
1242          * MONO_PATCH_INFO_VCALL_METHOD
1243          * Same as MONO_RGCTX_INFO_CLASS_BOX_TYPE, but for the class
1244          * which implements the method.
1245          */
1246         MONO_RGCTX_INFO_VIRT_METHOD_BOX_TYPE,
1247 } MonoRgctxInfoType;
1248
1249 typedef struct _MonoRuntimeGenericContextInfoTemplate {
1250         MonoRgctxInfoType info_type;
1251         gpointer data;
1252         struct _MonoRuntimeGenericContextInfoTemplate *next;
1253 } MonoRuntimeGenericContextInfoTemplate;
1254
1255 typedef struct {
1256         MonoClass *next_subclass;
1257         MonoRuntimeGenericContextInfoTemplate *infos;
1258         GSList *method_templates;
1259 } MonoRuntimeGenericContextTemplate;
1260
1261 typedef struct {
1262         MonoVTable *class_vtable; /* must be the first element */
1263         MonoGenericInst *method_inst;
1264         gpointer infos [MONO_ZERO_LEN_ARRAY];
1265 } MonoMethodRuntimeGenericContext;
1266
1267 #define MONO_SIZEOF_METHOD_RUNTIME_GENERIC_CONTEXT (sizeof (MonoMethodRuntimeGenericContext) - MONO_ZERO_LEN_ARRAY * SIZEOF_VOID_P)
1268
1269 #define MONO_RGCTX_SLOT_MAKE_RGCTX(i)   (i)
1270 #define MONO_RGCTX_SLOT_MAKE_MRGCTX(i)  ((i) | 0x80000000)
1271 #define MONO_RGCTX_SLOT_INDEX(s)        ((s) & 0x7fffffff)
1272 #define MONO_RGCTX_SLOT_IS_MRGCTX(s)    (((s) & 0x80000000) ? TRUE : FALSE)
1273
1274 #define MONO_GSHAREDVT_DEL_INVOKE_VT_OFFSET -2
1275
1276 typedef struct {
1277         MonoMethod *method;
1278         MonoRuntimeGenericContextInfoTemplate *entries;
1279         int num_entries, count_entries;
1280 } MonoGSharedVtMethodInfo;
1281
1282 /* This is used by gsharedvt methods to allocate locals and compute local offsets */
1283 typedef struct {
1284         int locals_size;
1285         /*
1286          * The results of resolving the entries in MOonGSharedVtMethodInfo->entries.
1287          * We use this instead of rgctx slots since these can be loaded using a load instead
1288          * of a call to an rgctx fetch trampoline.
1289          */
1290         gpointer entries [MONO_ZERO_LEN_ARRAY];
1291 } MonoGSharedVtMethodRuntimeInfo;
1292
1293 typedef struct
1294 {
1295         MonoMethod *invoke;
1296         MonoMethod *method;
1297         MonoMethodSignature *invoke_sig;
1298         MonoMethodSignature *sig;
1299         gpointer method_ptr;
1300         gpointer invoke_impl;
1301         gpointer impl_this;
1302         gpointer impl_nothis;
1303         gboolean need_rgctx_tramp;
1304 } MonoDelegateTrampInfo;
1305
1306 /*
1307  * A function descriptor, which is a function address + argument pair.
1308  * In llvm-only mode, these are used instead of trampolines to pass
1309  * extra arguments to runtime functions/methods.
1310  */
1311 typedef struct
1312 {
1313         gpointer addr;
1314         gpointer arg;
1315 } MonoFtnDesc;
1316
1317 typedef enum {
1318 #define PATCH_INFO(a,b) MONO_PATCH_INFO_ ## a,
1319 #include "patch-info.h"
1320 #undef PATCH_INFO
1321         MONO_PATCH_INFO_NUM
1322 } MonoJumpInfoType;
1323
1324 /*
1325  * We need to store the image which the token refers to along with the token,
1326  * since the image might not be the same as the image of the method which
1327  * contains the relocation, because of inlining.
1328  */
1329 typedef struct MonoJumpInfoToken {
1330         MonoImage *image;
1331         guint32 token;
1332         gboolean has_context;
1333         MonoGenericContext context;
1334 } MonoJumpInfoToken;
1335
1336 typedef struct MonoJumpInfoBBTable {
1337         MonoBasicBlock **table;
1338         int table_size;
1339 } MonoJumpInfoBBTable;
1340
1341 typedef struct MonoJumpInfoRgctxEntry MonoJumpInfoRgctxEntry;
1342
1343 /* Contains information describing an LLVM IMT trampoline */
1344 typedef struct MonoJumpInfoImtTramp {
1345         MonoMethod *method;
1346         int vt_offset;
1347 } MonoJumpInfoImtTramp;
1348
1349 typedef struct MonoJumpInfoGSharedVtCall MonoJumpInfoGSharedVtCall;
1350
1351 /*
1352  * Represents the method which is called when a virtual call is made to METHOD
1353  * on a receiver of type KLASS.
1354  */
1355 typedef struct {
1356         /* Receiver class */
1357         MonoClass *klass;
1358         /* Virtual method */
1359         MonoMethod *method;
1360 } MonoJumpInfoVirtMethod;
1361
1362 typedef struct MonoJumpInfo MonoJumpInfo;
1363 struct MonoJumpInfo {
1364         MonoJumpInfo *next;
1365         /* Relocation type for patching */
1366         int relocation;
1367         union {
1368                 int i;
1369                 guint8 *p;
1370                 MonoInst *label;
1371         } ip;
1372
1373         MonoJumpInfoType type;
1374         union {
1375                 gconstpointer   target;
1376 #if SIZEOF_VOID_P == 8
1377                 gint64          offset;
1378 #else
1379                 int             offset;
1380 #endif
1381                 int index;
1382                 MonoBasicBlock *bb;
1383                 MonoInst       *inst;
1384                 MonoMethod     *method;
1385                 MonoClass      *klass;
1386                 MonoClassField *field;
1387                 MonoImage      *image;
1388                 MonoVTable     *vtable;
1389                 const char     *name;
1390                 MonoJumpInfoToken  *token;
1391                 MonoJumpInfoBBTable *table;
1392                 MonoJumpInfoRgctxEntry *rgctx_entry;
1393                 MonoJumpInfoImtTramp *imt_tramp;
1394                 MonoJumpInfoGSharedVtCall *gsharedvt;
1395                 MonoGSharedVtMethodInfo *gsharedvt_method;
1396                 MonoMethodSignature *sig;
1397                 MonoDelegateClassMethodPair *del_tramp;
1398                 /* MONO_PATCH_INFO_VIRT_METHOD */
1399                 MonoJumpInfoVirtMethod *virt_method;
1400         } data;
1401 };
1402
1403 /*
1404  * Contains information for computing the
1405  * property given by INFO_TYPE of the runtime
1406  * object described by DATA.
1407  */
1408 struct MonoJumpInfoRgctxEntry {
1409         MonoMethod *method;
1410         gboolean in_mrgctx;
1411         MonoJumpInfo *data; /* describes the data to be loaded */
1412         MonoRgctxInfoType info_type;
1413 };
1414
1415 /* Contains information about a gsharedvt call */
1416 struct MonoJumpInfoGSharedVtCall {
1417         /* The original signature of the call */
1418         MonoMethodSignature *sig;
1419         /* The method which is called */
1420         MonoMethod *method;
1421 };
1422
1423 typedef enum {
1424         MONO_TRAMPOLINE_JIT,
1425         MONO_TRAMPOLINE_JUMP,
1426         MONO_TRAMPOLINE_RGCTX_LAZY_FETCH,
1427         MONO_TRAMPOLINE_AOT,
1428         MONO_TRAMPOLINE_AOT_PLT,
1429         MONO_TRAMPOLINE_DELEGATE,
1430         MONO_TRAMPOLINE_RESTORE_STACK_PROT,
1431         MONO_TRAMPOLINE_GENERIC_VIRTUAL_REMOTING,
1432         MONO_TRAMPOLINE_VCALL,
1433         MONO_TRAMPOLINE_HANDLER_BLOCK_GUARD,
1434         MONO_TRAMPOLINE_NUM
1435 } MonoTrampolineType;
1436
1437 /* These trampolines return normally to their caller */
1438 #define MONO_TRAMPOLINE_TYPE_MUST_RETURN(t)             \
1439         ((t) == MONO_TRAMPOLINE_RESTORE_STACK_PROT ||   \
1440          (t) == MONO_TRAMPOLINE_RGCTX_LAZY_FETCH)
1441
1442 /* These trampolines receive an argument directly in a register */
1443 #define MONO_TRAMPOLINE_TYPE_HAS_ARG(t)         \
1444         ((t) == MONO_TRAMPOLINE_HANDLER_BLOCK_GUARD)
1445
1446 /* optimization flags */
1447 #define OPTFLAG(id,shift,name,descr) MONO_OPT_ ## id = 1 << shift,
1448 enum {
1449 #include "optflags-def.h"
1450         MONO_OPT_LAST
1451 };
1452
1453 /*
1454  * This structure represents a JIT backend.
1455  */
1456 typedef struct {
1457         guint            have_card_table_wb : 1;
1458         guint            have_op_generic_class_init : 1;
1459         guint            emulate_mul_div : 1;
1460         guint            emulate_div : 1;
1461         guint            emulate_long_shift_opts : 1;
1462         guint            have_objc_get_selector : 1;
1463         guint            have_generalized_imt_thunk : 1;
1464         guint            have_tls_get : 1;
1465         guint            have_tls_get_reg : 1;
1466         guint            have_liverange_ops: 1;
1467         guint            have_op_tail_call : 1;
1468         guint            have_dummy_init : 1;
1469         guint            gshared_supported : 1;
1470         guint            use_fpstack : 1;
1471         guint            ilp32 : 1;
1472         guint            need_got_var : 1;
1473         guint            need_div_check : 1;
1474         guint            no_unaligned_access : 1;
1475         int              monitor_enter_adjustment;
1476         int              dyn_call_param_area;
1477 } MonoBackend;
1478
1479 /* Flags for mini_method_compile () */
1480 typedef enum {
1481         /* Whenever to run cctors during JITting */
1482         JIT_FLAG_RUN_CCTORS = (1 << 0),
1483         /* Whenever this is an AOT compilation */
1484         JIT_FLAG_AOT = (1 << 1),
1485         /* Whenever this is a full AOT compilation */
1486         JIT_FLAG_FULL_AOT = (1 << 2),
1487         /* Whenever to compile with LLVM */
1488         JIT_FLAG_LLVM = (1 << 3),
1489         /* Whenever to disable direct calls to direct calls to icall functions */
1490         JIT_FLAG_NO_DIRECT_ICALLS = (1 << 4),
1491         /* Emit explicit null checks */
1492         JIT_FLAG_EXPLICIT_NULL_CHECKS = (1 << 5),
1493         /* Whenever to compile in llvm-only mode */
1494         JIT_FLAG_LLVM_ONLY = (1 << 6),
1495 } JitFlags;
1496
1497 /* Bit-fields in the MonoBasicBlock.region */
1498 #define MONO_REGION_TRY       0
1499 #define MONO_REGION_FINALLY  16
1500 #define MONO_REGION_CATCH    32
1501 #define MONO_REGION_FAULT    64         /* Currently unused */
1502 #define MONO_REGION_FILTER  128
1503
1504 #define MONO_BBLOCK_IS_IN_REGION(bblock, regtype) (((bblock)->region & (0xf << 4)) == (regtype))
1505
1506 #define MONO_REGION_FLAGS(region) ((region) & 0x7)
1507 #define MONO_REGION_CLAUSE_INDEX(region) (((region) >> 8) - 1)
1508
1509 #define get_vreg_to_inst(cfg, vreg) ((vreg) < (cfg)->vreg_to_inst_len ? (cfg)->vreg_to_inst [(vreg)] : NULL)
1510
1511 #define vreg_is_volatile(cfg, vreg) (G_UNLIKELY (get_vreg_to_inst ((cfg), (vreg)) && (get_vreg_to_inst ((cfg), (vreg))->flags & (MONO_INST_VOLATILE|MONO_INST_INDIRECT))))
1512
1513 #define vreg_is_ref(cfg, vreg) ((vreg) < (cfg)->vreg_is_ref_len ? (cfg)->vreg_is_ref [(vreg)] : 0)
1514 #define vreg_is_mp(cfg, vreg) ((vreg) < (cfg)->vreg_is_mp_len ? (cfg)->vreg_is_mp [(vreg)] : 0)
1515
1516 /*
1517  * Control Flow Graph and compilation unit information
1518  */
1519 typedef struct {
1520         MonoMethod      *method;
1521         MonoMethodHeader *header;
1522         MonoMemPool     *mempool;
1523         MonoInst       **varinfo;
1524         MonoMethodVar   *vars;
1525         MonoInst        *ret;
1526         MonoBasicBlock  *bb_entry;
1527         MonoBasicBlock  *bb_exit;
1528         MonoBasicBlock  *bb_init;
1529         MonoBasicBlock **bblocks;
1530         MonoBasicBlock **cil_offset_to_bb;
1531         MonoMemPool     *state_pool; /* used by instruction selection */
1532         MonoBasicBlock  *cbb;        /* used by instruction selection */
1533         MonoInst        *prev_ins;   /* in decompose */
1534         MonoJumpInfo    *patch_info;
1535         MonoJitInfo     *jit_info;
1536         MonoJitDynamicMethodInfo *dynamic_info;
1537         guint            num_bblocks, max_block_num;
1538         guint            locals_start;
1539         guint            num_varinfo; /* used items in varinfo */
1540         guint            varinfo_count; /* total storage in varinfo */
1541         gint             stack_offset;
1542         gint             max_ireg;
1543         gint             cil_offset_to_bb_len;
1544         MonoRegState    *rs;
1545         MonoSpillInfo   *spill_info [16]; /* machine register spills */
1546         gint             spill_count;
1547         gint             spill_info_len [16];
1548         /* unsigned char   *cil_code; */
1549         MonoMethod      *inlined_method; /* the method which is currently inlined */
1550         MonoInst        *domainvar; /* a cache for the current domain */
1551         MonoInst        *got_var; /* Global Offset Table variable */
1552         MonoInst        **locals;
1553         MonoInst        *rgctx_var; /* Runtime generic context variable (for static generic methods) */
1554         MonoInst        **args;
1555         MonoType        **arg_types;
1556         MonoMethod      *current_method; /* The method currently processed by method_to_ir () */
1557         MonoMethod      *method_to_register; /* The method to register in JIT info tables */
1558         MonoGenericContext *generic_context;
1559
1560         MonoBackend *backend;
1561
1562         /*
1563          * This variable represents the hidden argument holding the vtype
1564          * return address. If the method returns something other than a vtype, or
1565          * the vtype is returned in registers this is NULL.
1566          */
1567         MonoInst        *vret_addr;
1568
1569         /*
1570          * This is used to initialize the cil_code field of MonoInst's.
1571          */
1572         const unsigned char *ip;
1573
1574         struct MonoAliasingInformation *aliasing_info;
1575
1576         /* A hashtable of region ID-> SP var mappings */
1577         /* An SP var is a place to store the stack pointer (used by handlers)*/
1578         GHashTable      *spvars;
1579
1580         /* A hashtable of region ID -> EX var mappings */
1581         /* An EX var stores the exception object passed to catch/filter blocks */
1582         GHashTable      *exvars;
1583
1584         GList           *ldstr_list; /* used by AOT */
1585
1586         MonoDomain      *domain;
1587
1588         guint            real_offset;
1589         GHashTable      *cbb_hash;
1590
1591         /* The current virtual register number */
1592         guint32 next_vreg;
1593
1594         MonoGenericSharingContext gsctx;
1595         MonoGenericContext *gsctx_context;
1596
1597         MonoGSharedVtMethodInfo *gsharedvt_info;
1598
1599         /* Points to the gsharedvt locals area at runtime */
1600         MonoInst *gsharedvt_locals_var;
1601
1602         /* The localloc instruction used to initialize gsharedvt_locals_var */
1603         MonoInst *gsharedvt_locals_var_ins;
1604
1605         /* Points to a MonoGSharedVtMethodRuntimeInfo at runtime */
1606         MonoInst *gsharedvt_info_var;
1607
1608         /* For native-to-managed wrappers, CEE_MONO_JIT_(AT|DE)TACH opcodes */
1609         MonoInst *attach_cookie;
1610         MonoInst *attach_dummy;
1611
1612         MonoInst *lmf_var;
1613         MonoInst *lmf_addr_var;
1614
1615         MonoInst *stack_inbalance_var;
1616
1617         unsigned char   *cil_start;
1618 #ifdef __native_client_codegen__
1619         /* this alloc is not aligned, native_code */
1620         /* is the 32-byte aligned version of this */
1621         unsigned char   *native_code_alloc;
1622 #endif
1623         unsigned char   *native_code;
1624         guint            code_size;
1625         guint            code_len;
1626         guint            prolog_end;
1627         guint            epilog_begin;
1628         guint            epilog_end;
1629         regmask_t        used_int_regs;
1630         guint32          opt;
1631         guint32          prof_options;
1632         guint32          flags;
1633         guint32          comp_done;
1634         guint32          verbose_level;
1635         guint32          stack_usage;
1636         guint32          param_area;
1637         guint32          frame_reg;
1638         gint32           sig_cookie;
1639         guint            disable_aot : 1;
1640         guint            disable_ssa : 1;
1641         guint            disable_llvm : 1;
1642         guint            enable_extended_bblocks : 1;
1643         guint            run_cctors : 1;
1644         guint            need_lmf_area : 1;
1645         guint            compile_aot : 1;
1646         guint            full_aot : 1;
1647         guint            compile_llvm : 1;
1648         guint            got_var_allocated : 1;
1649         guint            ret_var_is_local : 1;
1650         guint            ret_var_set : 1;
1651         guint            unverifiable : 1;
1652         guint            skip_visibility : 1;
1653         guint            disable_reuse_registers : 1;
1654         guint            disable_reuse_stack_slots : 1;
1655         guint            disable_reuse_ref_stack_slots : 1;
1656         guint            disable_ref_noref_stack_slot_share : 1;
1657         guint            disable_initlocals_opt : 1;
1658         guint            disable_initlocals_opt_refs : 1;
1659         guint            disable_omit_fp : 1;
1660         guint            disable_vreg_to_lvreg : 1;
1661         guint            disable_deadce_vars : 1;
1662         guint            disable_out_of_line_bblocks : 1;
1663         guint            disable_direct_icalls : 1;
1664         guint            create_lmf_var : 1;
1665         /*
1666          * When this is set, the code to push/pop the LMF from the LMF stack is generated as IR
1667          * instead of being generated in emit_prolog ()/emit_epilog ().
1668          */
1669         guint            lmf_ir : 1;
1670         /*
1671          * Whenever to use the mono_lmf TLS variable instead of indirection through the
1672          * mono_lmf_addr TLS variable.
1673          */
1674         guint            lmf_ir_mono_lmf : 1;
1675         guint            gen_write_barriers : 1;
1676         guint            init_ref_vars : 1;
1677         guint            extend_live_ranges : 1;
1678         guint            compute_precise_live_ranges : 1;
1679         guint            has_got_slots : 1;
1680         guint            uses_rgctx_reg : 1;
1681         guint            uses_vtable_reg : 1;
1682         guint            uses_simd_intrinsics : 1;
1683         guint            keep_cil_nops : 1;
1684         guint            gen_seq_points : 1;
1685         /* Generate seq points for use by the debugger */
1686         guint            gen_sdb_seq_points : 1;
1687         guint            explicit_null_checks : 1;
1688         guint            compute_gc_maps : 1;
1689         guint            soft_breakpoints : 1;
1690         guint            arch_eh_jit_info : 1;
1691         guint            has_emulated_ops : 1;
1692         guint            has_indirection : 1;
1693         guint            has_atomic_add_i4 : 1;
1694         guint            has_atomic_exchange_i4 : 1;
1695         guint            has_atomic_cas_i4 : 1;
1696         guint            check_pinvoke_callconv : 1;
1697         guint            has_unwind_info_for_epilog : 1;
1698         guint            disable_inline : 1;
1699         /* Disable inlining into caller */
1700         guint            no_inline : 1;
1701         guint            gshared : 1;
1702         guint            gsharedvt : 1;
1703         guint            r4fp : 1;
1704         guint            llvm_only : 1;
1705         int              r4_stack_type;
1706         gpointer         debug_info;
1707         guint32          lmf_offset;
1708     guint16          *intvars;
1709         MonoProfileCoverageInfo *coverage_info;
1710         GHashTable       *token_info_hash;
1711         MonoCompileArch  arch;
1712         guint32          inline_depth;
1713         /* Size of memory reserved for thunks */
1714         int              thunk_area;
1715         /* Thunks */
1716         guint8          *thunks;
1717         /* Offset between the start of code and the thunks area */
1718         int              thunks_offset;
1719         guint32          exception_type;        /* MONO_EXCEPTION_* */
1720         guint32          exception_data;
1721         char*            exception_message;
1722         gpointer         exception_ptr;
1723
1724         guint8 *         encoded_unwind_ops;
1725         guint32          encoded_unwind_ops_len;
1726         GSList*          unwind_ops;
1727
1728         GList*           dont_inline;
1729
1730         /* Fields used by the local reg allocator */
1731         void*            reginfo;
1732         int              reginfo_len;
1733
1734         /* Maps vregs to their associated MonoInst's */
1735         /* vregs with an associated MonoInst are 'global' while others are 'local' */
1736         MonoInst **vreg_to_inst;
1737
1738         /* Size of above array */
1739         guint32 vreg_to_inst_len;
1740
1741         /* Marks vregs which hold a GC ref */
1742         /* FIXME: Use a bitmap */
1743         gboolean *vreg_is_ref;
1744
1745         /* Size of above array */
1746         guint32 vreg_is_ref_len;
1747
1748         /* Marks vregs which hold a managed pointer */
1749         /* FIXME: Use a bitmap */
1750         gboolean *vreg_is_mp;
1751
1752         /* Size of above array */
1753         guint32 vreg_is_mp_len;
1754
1755         /*
1756          * The original method to compile, differs from 'method' when doing generic
1757          * sharing.
1758          */
1759         MonoMethod *orig_method;
1760
1761         /* Patches which describe absolute addresses embedded into the native code */
1762         GHashTable *abs_patches;
1763
1764         /* If the arch passes valuetypes by address, then for methods
1765            which use JMP the arch code should use these local
1766            variables to store the addresses of incoming valuetypes.
1767            The addresses should be stored in mono_arch_emit_prolog()
1768            and can be used when emitting code for OP_JMP.  See
1769            mini-ppc.c. */
1770         MonoInst **tailcall_valuetype_addrs;
1771
1772         /* Used to implement move_i4_to_f on archs that can't do raw
1773         copy between an ireg and a freg. This is an int32 var.*/
1774         MonoInst *iconv_raw_var;
1775
1776         /* Used to implement fconv_to_r8_x. This is a double (8 bytes) var.*/
1777         MonoInst *fconv_to_r8_x_var;
1778
1779         /*Use to implement simd constructors. This is a vector (16 bytes) var.*/
1780         MonoInst *simd_ctor_var;
1781
1782         /* Used to implement dyn_call */
1783         MonoInst *dyn_call_var;
1784
1785         /*
1786          * List of sequence points represented as IL offset+native offset pairs.
1787          * Allocated using glib.
1788          * IL offset can be -1 or 0xffffff to refer to the sequence points
1789          * inside the prolog and epilog used to implement method entry/exit events.
1790          */
1791         GPtrArray *seq_points;
1792
1793         /* The encoded sequence point info */
1794         struct MonoSeqPointInfo *seq_point_info;
1795
1796         /* Method headers which need to be freed after compilation */
1797         GSList *headers_to_free;
1798
1799         /* Used by AOT */
1800         guint32 got_offset, ex_info_offset, method_info_offset, method_index;
1801         /* Symbol used to refer to this method in generated assembly */
1802         char *asm_symbol;
1803         char *asm_debug_symbol;
1804         char *llvm_method_name;
1805         int castclass_cache_index;
1806
1807         MonoJitExceptionInfo *llvm_ex_info;
1808         guint32 llvm_ex_info_len;
1809         int llvm_this_reg, llvm_this_offset;
1810
1811         GSList *try_block_holes;
1812
1813         /* DWARF location list for 'this' */
1814         GSList *this_loclist;
1815
1816         /* DWARF location list for 'rgctx_var' */
1817         GSList *rgctx_loclist;
1818
1819         int *gsharedvt_vreg_to_idx;
1820
1821         GSList *signatures;
1822
1823         /* GC Maps */
1824
1825         /* The offsets of the locals area relative to the frame pointer */
1826         gint locals_min_stack_offset, locals_max_stack_offset;
1827
1828         /* The current CFA rule */
1829         int cur_cfa_reg, cur_cfa_offset;
1830
1831         /* The final CFA rule at the end of the prolog */
1832         int cfa_reg, cfa_offset;
1833
1834         /* Points to a MonoCompileGC */
1835         gpointer gc_info;
1836
1837         /*
1838          * The encoded GC map along with its size. This contains binary data so it can be saved in an AOT
1839          * image etc, but it requires a 4 byte alignment.
1840          */
1841         guint8 *gc_map;
1842         guint32 gc_map_size;
1843
1844         /* Error handling */
1845         MonoError error;
1846
1847         /* pointer to context datastructure used for graph dumping */
1848         MonoGraphDumper *gdump_ctx;
1849
1850         /* Stats */
1851         int stat_allocate_var;
1852         int stat_locals_stack_size;
1853         int stat_basic_blocks;
1854         int stat_cil_code_size;
1855         int stat_n_regvars;
1856         int stat_inlineable_methods;
1857         int stat_inlined_methods;
1858         int stat_code_reallocs;
1859 } MonoCompile;
1860
1861 typedef enum {
1862         MONO_CFG_HAS_ALLOCA = 1 << 0,
1863         MONO_CFG_HAS_CALLS  = 1 << 1,
1864         MONO_CFG_HAS_LDELEMA  = 1 << 2,
1865         MONO_CFG_HAS_VARARGS  = 1 << 3,
1866         MONO_CFG_HAS_TAIL     = 1 << 4,
1867         MONO_CFG_HAS_FPOUT    = 1 << 5, /* there are fp values passed in int registers */
1868         MONO_CFG_HAS_SPILLUP  = 1 << 6, /* spill var slots are allocated from bottom to top */
1869         MONO_CFG_HAS_CHECK_THIS  = 1 << 7,
1870         MONO_CFG_HAS_ARRAY_ACCESS = 1 << 8
1871 } MonoCompileFlags;
1872
1873 typedef struct {
1874         gint32 methods_compiled;
1875         gint32 methods_aot;
1876         gint32 methods_lookups;
1877         gint32 allocate_var;
1878         gint32 cil_code_size;
1879         gint32 native_code_size;
1880         gint32 code_reallocs;
1881         gint32 max_code_size_ratio;
1882         gint32 biggest_method_size;
1883         gint32 allocated_code_size;
1884         gint32 allocated_seq_points_size;
1885         gint32 inlineable_methods;
1886         gint32 inlined_methods;
1887         gint32 basic_blocks;
1888         gint32 max_basic_blocks;
1889         gint32 locals_stack_size;
1890         gint32 regvars;
1891         gint32 generic_virtual_invocations;
1892         gint32 alias_found;
1893         gint32 alias_removed;
1894         gint32 loads_eliminated;
1895         gint32 stores_eliminated;
1896         int methods_with_llvm;
1897         int methods_without_llvm;
1898         char *max_ratio_method;
1899         char *biggest_method;
1900         double jit_method_to_ir;
1901         double jit_liveness_handle_exception_clauses;
1902         double jit_handle_out_of_line_bblock;
1903         double jit_decompose_long_opts;
1904         double jit_local_cprop;
1905         double jit_local_emulate_ops;
1906         double jit_optimize_branches;
1907         double jit_handle_global_vregs;
1908         double jit_local_deadce;
1909         double jit_local_alias_analysis;
1910         double jit_if_conversion;
1911         double jit_bb_ordering;
1912         double jit_compile_dominator_info;
1913         double jit_compute_natural_loops;
1914         double jit_insert_safepoints;
1915         double jit_ssa_compute;
1916         double jit_ssa_cprop;
1917         double jit_ssa_deadce;
1918         double jit_perform_abc_removal;
1919         double jit_ssa_remove;
1920         double jit_local_cprop2;
1921         double jit_handle_global_vregs2;
1922         double jit_local_deadce2;
1923         double jit_optimize_branches2;
1924         double jit_decompose_vtype_opts;
1925         double jit_decompose_array_access_opts;
1926         double jit_liveness_handle_exception_clauses2;
1927         double jit_analyze_liveness;
1928         double jit_linear_scan;
1929         double jit_arch_allocate_vars;
1930         double jit_spill_global_vars;
1931         double jit_local_cprop3;
1932         double jit_local_deadce3;
1933         double jit_codegen;
1934         double jit_create_jit_info;
1935         double jit_gc_create_gc_map;
1936         double jit_save_seq_point_info;
1937         double jit_time;
1938         gboolean enabled;
1939 } MonoJitStats;
1940
1941 extern MonoJitStats mono_jit_stats;
1942
1943 /* opcodes: value assigned after all the CIL opcodes */
1944 #ifdef MINI_OP
1945 #undef MINI_OP
1946 #endif
1947 #ifdef MINI_OP3
1948 #undef MINI_OP3
1949 #endif
1950 #define MINI_OP(a,b,dest,src1,src2) a,
1951 #define MINI_OP3(a,b,dest,src1,src2,src3) a,
1952 enum {
1953         OP_START = MONO_CEE_LAST - 1,
1954 #include "mini-ops.h"
1955         OP_LAST
1956 };
1957 #undef MINI_OP
1958 #undef MINI_OP3
1959
1960 #if SIZEOF_VOID_P == 8
1961 #define OP_PCONST OP_I8CONST
1962 #define OP_DUMMY_PCONST OP_DUMMY_I8CONST
1963 #define OP_PADD OP_LADD
1964 #define OP_PADD_IMM OP_LADD_IMM
1965 #define OP_PSUB_IMM OP_LSUB_IMM
1966 #define OP_PAND_IMM OP_LAND_IMM
1967 #define OP_PXOR_IMM OP_LXOR_IMM
1968 #define OP_PSUB OP_LSUB
1969 #define OP_PMUL OP_LMUL
1970 #define OP_PMUL_IMM OP_LMUL_IMM
1971 #define OP_PNEG OP_LNEG
1972 #define OP_PCONV_TO_I1 OP_LCONV_TO_I1
1973 #define OP_PCONV_TO_U1 OP_LCONV_TO_U1
1974 #define OP_PCONV_TO_I2 OP_LCONV_TO_I2
1975 #define OP_PCONV_TO_U2 OP_LCONV_TO_U2
1976 #define OP_PCONV_TO_OVF_I1_UN OP_LCONV_TO_OVF_I1_UN
1977 #define OP_PCONV_TO_OVF_I1 OP_LCONV_TO_OVF_I1
1978 #define OP_PBEQ OP_LBEQ
1979 #define OP_PCEQ OP_LCEQ
1980 #define OP_PBNE_UN OP_LBNE_UN
1981 #define OP_PBGE_UN OP_LBGE_UN
1982 #define OP_PBLT_UN OP_LBLT_UN
1983 #define OP_PBGE OP_LBGE
1984 #define OP_STOREP_MEMBASE_REG OP_STOREI8_MEMBASE_REG
1985 #define OP_STOREP_MEMBASE_IMM OP_STOREI8_MEMBASE_IMM
1986 #else
1987 #define OP_PCONST OP_ICONST
1988 #define OP_DUMMY_PCONST OP_DUMMY_ICONST
1989 #define OP_PADD OP_IADD
1990 #define OP_PADD_IMM OP_IADD_IMM
1991 #define OP_PSUB_IMM OP_ISUB_IMM
1992 #define OP_PAND_IMM OP_IAND_IMM
1993 #define OP_PXOR_IMM OP_IXOR_IMM
1994 #define OP_PSUB OP_ISUB
1995 #define OP_PMUL OP_IMUL
1996 #define OP_PMUL_IMM OP_IMUL_IMM
1997 #define OP_PNEG OP_INEG
1998 #define OP_PCONV_TO_I1 OP_ICONV_TO_I1
1999 #define OP_PCONV_TO_U1 OP_ICONV_TO_U1
2000 #define OP_PCONV_TO_I2 OP_ICONV_TO_I2
2001 #define OP_PCONV_TO_U2 OP_ICONV_TO_U2
2002 #define OP_PCONV_TO_OVF_I1_UN OP_ICONV_TO_OVF_I1_UN
2003 #define OP_PCONV_TO_OVF_I1 OP_ICONV_TO_OVF_I1
2004 #define OP_PBEQ OP_IBEQ
2005 #define OP_PCEQ OP_ICEQ
2006 #define OP_PBNE_UN OP_IBNE_UN
2007 #define OP_PBGE_UN OP_IBGE_UN
2008 #define OP_PBLT_UN OP_IBLT_UN
2009 #define OP_PBGE OP_IBGE
2010 #define OP_STOREP_MEMBASE_REG OP_STOREI4_MEMBASE_REG
2011 #define OP_STOREP_MEMBASE_IMM OP_STOREI4_MEMBASE_IMM
2012 #endif
2013
2014 /* Opcodes to load/store regsize quantities */
2015 #if defined (__mono_ilp32__)
2016 #define OP_LOADR_MEMBASE OP_LOADI8_MEMBASE
2017 #define OP_STORER_MEMBASE_REG OP_STOREI8_MEMBASE_REG
2018 #else
2019 #define OP_LOADR_MEMBASE OP_LOAD_MEMBASE
2020 #define OP_STORER_MEMBASE_REG OP_STORE_MEMBASE_REG
2021 #endif
2022
2023 typedef enum {
2024         STACK_INV,
2025         STACK_I4,
2026         STACK_I8,
2027         STACK_PTR,
2028         STACK_R8,
2029         STACK_MP,
2030         STACK_OBJ,
2031         STACK_VTYPE,
2032         STACK_R4,
2033         STACK_MAX
2034 } MonoStackType;
2035
2036 typedef struct {
2037         union {
2038                 double   r8;
2039                 gint32   i4;
2040                 gint64   i8;
2041                 gpointer p;
2042                 MonoClass *klass;
2043         } data;
2044         int type;
2045 } StackSlot;
2046
2047 #if HAVE_ARRAY_ELEM_INIT
2048 extern const guint8 mono_burg_arity [];
2049 #else
2050 extern guint8 mono_burg_arity [];
2051 #endif
2052
2053 extern const char MONO_ARCH_CPU_SPEC [];
2054 #define MONO_ARCH_CPU_SPEC_IDX_COMBINE(a) a ## _idx
2055 #define MONO_ARCH_CPU_SPEC_IDX(a) MONO_ARCH_CPU_SPEC_IDX_COMBINE(a)
2056 extern const guint16 MONO_ARCH_CPU_SPEC_IDX(MONO_ARCH_CPU_SPEC) [];
2057 #define ins_get_spec(op) ((const char*)&MONO_ARCH_CPU_SPEC + MONO_ARCH_CPU_SPEC_IDX(MONO_ARCH_CPU_SPEC)[(op) - OP_LOAD])
2058
2059 enum {
2060         MONO_COMP_DOM = 1,
2061         MONO_COMP_IDOM = 2,
2062         MONO_COMP_DFRONTIER = 4,
2063         MONO_COMP_DOM_REV = 8,
2064         MONO_COMP_LIVENESS = 16,
2065         MONO_COMP_SSA = 32,
2066         MONO_COMP_SSA_DEF_USE = 64,
2067         MONO_COMP_REACHABILITY = 128,
2068         MONO_COMP_LOOPS = 256
2069 };
2070
2071 typedef enum {
2072         MONO_GRAPH_CFG = 1,
2073         MONO_GRAPH_DTREE = 2,
2074         MONO_GRAPH_CFG_CODE = 4,
2075         MONO_GRAPH_CFG_SSA = 8,
2076         MONO_GRAPH_CFG_OPTCODE = 16
2077 } MonoGraphOptions;
2078
2079 typedef struct {
2080         guint16 size;
2081         guint16 offset;
2082         guint8  pad;
2083 } MonoJitArgumentInfo;
2084
2085 typedef struct {
2086         gboolean handle_sigint;
2087         gboolean keep_delegates;
2088         gboolean reverse_pinvoke_exceptions;
2089         gboolean collect_pagefault_stats;
2090         gboolean break_on_unverified;
2091         gboolean better_cast_details;
2092         gboolean mdb_optimizations;
2093         gboolean no_gdb_backtrace;
2094         gboolean suspend_on_sigsegv;
2095         gboolean suspend_on_exception;
2096         gboolean suspend_on_unhandled;
2097         gboolean dyn_runtime_invoke;
2098         gboolean gdb;
2099         gboolean arm_use_fallback_tls;
2100         /*
2101          * Whenever data such as next sequence points and flags is required.
2102          * Next sequence points and flags are required by the debugger agent.
2103          */
2104         gboolean gen_sdb_seq_points;
2105         gboolean gen_seq_points_compact_data;
2106         /*
2107          * Setting single_imm_size should guarantee that each time managed code is compiled
2108          * the same instructions and registers are used, regardless of the size of used values.
2109          */
2110         gboolean single_imm_size;
2111         gboolean explicit_null_checks;
2112         /*
2113          * Fill stack frames with 0x2a in method prologs. This helps with the
2114          * debugging of the stack marking code in the GC.
2115          */
2116         gboolean init_stacks;
2117
2118         /*
2119          * Whenever to implement single stepping and breakpoints without signals in the
2120          * soft debugger. This is useful on platforms without signals, like the ps3, or during
2121          * runtime debugging, since it avoids SIGSEGVs when a single step location or breakpoint
2122          * is hit.
2123          */
2124         gboolean soft_breakpoints;
2125         /*
2126          * Whenever to break in the debugger using G_BREAKPOINT on unhandled exceptions.
2127          */
2128         gboolean break_on_exc;
2129         /*
2130          * Load AOT JIT info eagerly.
2131          */
2132         gboolean load_aot_jit_info_eagerly;
2133         /*
2134          * Check for pinvoke calling convention mismatches.
2135          */
2136         gboolean check_pinvoke_callconv;
2137         /*
2138          * Translate Debugger.Break () into a native breakpoint signal
2139          */
2140         gboolean native_debugger_break;
2141         /*
2142          * Disabling the frame pointer emit optimization can allow debuggers to more easily
2143          * identify the stack on some platforms
2144          */
2145         gboolean disable_omit_fp;
2146 } MonoDebugOptions;
2147
2148 enum {
2149         BRANCH_NOT_TAKEN,
2150         BRANCH_TAKEN,
2151         BRANCH_UNDEF
2152 };
2153
2154 typedef enum {
2155         CMP_EQ,
2156         CMP_NE,
2157         CMP_LE,
2158         CMP_GE,
2159         CMP_LT,
2160         CMP_GT,
2161         CMP_LE_UN,
2162         CMP_GE_UN,
2163         CMP_LT_UN,
2164         CMP_GT_UN
2165 } CompRelation;
2166
2167 typedef enum {
2168         CMP_TYPE_L,
2169         CMP_TYPE_I,
2170         CMP_TYPE_F
2171 } CompType;
2172
2173 /* Implicit exceptions */
2174 enum {
2175         MONO_EXC_INDEX_OUT_OF_RANGE,
2176         MONO_EXC_OVERFLOW,
2177         MONO_EXC_ARITHMETIC,
2178         MONO_EXC_DIVIDE_BY_ZERO,
2179         MONO_EXC_INVALID_CAST,
2180         MONO_EXC_NULL_REF,
2181         MONO_EXC_ARRAY_TYPE_MISMATCH,
2182         MONO_EXC_ARGUMENT,
2183         MONO_EXC_INTRINS_NUM
2184 };
2185
2186 enum {
2187         MINI_TOKEN_SOURCE_CLASS,
2188         MINI_TOKEN_SOURCE_METHOD,
2189         MINI_TOKEN_SOURCE_FIELD
2190 };
2191
2192  /*
2193   * Information about a trampoline function.
2194   */
2195  typedef struct
2196  {
2197         /*
2198          * The native code of the trampoline. Not owned by this structure.
2199          */
2200         guint8 *code;
2201         guint32 code_size;
2202         /*
2203          * The name of the trampoline which can be used in AOT/xdebug. Owned by this
2204          * structure.
2205          */
2206         char *name;
2207         /*
2208          * Patches required by the trampoline when aot-ing. Owned by this structure.
2209          */
2210         MonoJumpInfo *ji;
2211         /*
2212          * Unwind information. Owned by this structure.
2213          */
2214         GSList *unwind_ops;
2215
2216          /*
2217           * Encoded unwind info loaded from AOT images
2218           */
2219          guint8 *uw_info;
2220          guint32 uw_info_len;
2221 } MonoTrampInfo;
2222
2223 typedef void (*MonoInstFunc) (MonoInst *tree, gpointer data);
2224
2225 enum {
2226         FILTER_IL_SEQ_POINT = 1 << 0,
2227         FILTER_NOP          = 1 << 1,
2228 };
2229
2230 static inline gboolean
2231 mono_inst_filter (MonoInst *ins, int filter)
2232 {
2233         if (!ins || !filter)
2234                 return FALSE;
2235
2236         if ((filter & FILTER_IL_SEQ_POINT) && ins->opcode == OP_IL_SEQ_POINT)
2237                 return TRUE;
2238
2239         if ((filter & FILTER_NOP) && ins->opcode == OP_NOP)
2240                 return TRUE;
2241
2242         return FALSE;
2243 }
2244
2245 static inline MonoInst*
2246 mono_inst_next (MonoInst *ins, int filter)
2247 {
2248         do {
2249                 ins = ins->next;
2250         } while (mono_inst_filter (ins, filter));
2251
2252         return ins;
2253 }
2254
2255 static inline MonoInst*
2256 mono_inst_prev (MonoInst *ins, int filter)
2257 {
2258         do {
2259                 ins = ins->prev;
2260         } while (mono_inst_filter (ins, filter));
2261
2262         return ins;
2263 }
2264
2265 static inline MonoInst*
2266 mono_bb_first_inst (MonoBasicBlock *bb, int filter)
2267 {
2268         MonoInst *ins = bb->code;
2269         if (mono_inst_filter (ins, filter))
2270                 ins = mono_inst_next (ins, filter);
2271
2272         return ins;
2273 }
2274
2275 static inline MonoInst*
2276 mono_bb_last_inst (MonoBasicBlock *bb, int filter)
2277 {
2278         MonoInst *ins = bb->last_ins;
2279         if (mono_inst_filter (ins, filter))
2280                 ins = mono_inst_prev (ins, filter);
2281
2282         return ins;
2283 }
2284
2285 /* main function */
2286 MONO_API int         mono_main                      (int argc, char* argv[]);
2287 MONO_API void        mono_set_defaults              (int verbose_level, guint32 opts);
2288 MONO_API void        mono_parse_env_options         (int *ref_argc, char **ref_argv []);
2289 MONO_API char       *mono_parse_options_from        (const char *options, int *ref_argc, char **ref_argv []);
2290
2291 MonoDomain* mini_init                      (const char *filename, const char *runtime_version);
2292 void        mini_cleanup                   (MonoDomain *domain);
2293 MONO_API MonoDebugOptions *mini_get_debug_options   (void);
2294 MONO_API gboolean    mini_parse_debug_option (const char *option);
2295
2296 /* graph dumping */
2297 void mono_cfg_dump_create_context (MonoCompile *cfg);
2298 void mono_cfg_dump_begin_group (MonoCompile *cfg);
2299 void mono_cfg_dump_close_group (MonoCompile *cfg);
2300 void mono_cfg_dump_ir (MonoCompile *cfg, const char *phase_name);
2301
2302 /* helper methods */
2303 void      mini_jit_init                    (void);
2304 void      mini_jit_cleanup                 (void);
2305 void      mono_disable_optimizations       (guint32 opts);
2306 void      mono_set_optimizations           (guint32 opts);
2307 void      mono_set_bisect_methods          (guint32 opt, const char *method_list_filename);
2308 guint32   mono_get_optimizations_for_method (MonoMethod *method, guint32 default_opt);
2309 char*     mono_opt_descr                   (guint32 flags);
2310 void      mono_set_verbose_level           (guint32 level);
2311 MonoJumpInfoToken* mono_jump_info_token_new (MonoMemPool *mp, MonoImage *image, guint32 token);
2312 MonoJumpInfoToken* mono_jump_info_token_new2 (MonoMemPool *mp, MonoImage *image, guint32 token, MonoGenericContext *context);
2313 MonoInst* mono_find_spvar_for_region        (MonoCompile *cfg, int region);
2314 MonoInst* mono_find_exvar_for_offset        (MonoCompile *cfg, int offset);
2315 int       mono_get_block_region_notry       (MonoCompile *cfg, int region) MONO_LLVM_INTERNAL;
2316
2317 void      mono_precompile_assemblies        (void);
2318 MONO_API int       mono_parse_default_optimizations  (const char* p);
2319 void      mono_bblock_add_inst              (MonoBasicBlock *bb, MonoInst *inst) MONO_LLVM_INTERNAL;
2320 void      mono_bblock_insert_after_ins      (MonoBasicBlock *bb, MonoInst *ins, MonoInst *ins_to_insert);
2321 void      mono_bblock_insert_before_ins     (MonoBasicBlock *bb, MonoInst *ins, MonoInst *ins_to_insert);
2322 void      mono_verify_bblock                (MonoBasicBlock *bb);
2323 void      mono_verify_cfg                   (MonoCompile *cfg);
2324 void      mono_constant_fold                (MonoCompile *cfg);
2325 MonoInst* mono_constant_fold_ins            (MonoCompile *cfg, MonoInst *ins, MonoInst *arg1, MonoInst *arg2, gboolean overwrite);
2326 int       mono_eval_cond_branch             (MonoInst *branch);
2327 int       mono_is_power_of_two              (guint32 val) MONO_LLVM_INTERNAL;
2328 void      mono_cprop_local                  (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst **acp, int acp_size);
2329 MonoInst* mono_compile_create_var           (MonoCompile *cfg, MonoType *type, int opcode);
2330 MonoInst* mono_compile_create_var_for_vreg  (MonoCompile *cfg, MonoType *type, int opcode, int vreg);
2331 void      mono_compile_make_var_load        (MonoCompile *cfg, MonoInst *dest, gssize var_index);
2332 MonoInst* mini_get_int_to_float_spill_area  (MonoCompile *cfg);
2333 MonoType* mono_type_from_stack_type         (MonoInst *ins);
2334 guint32   mono_alloc_ireg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2335 guint32   mono_alloc_lreg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2336 guint32   mono_alloc_freg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2337 guint32   mono_alloc_preg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2338 guint32   mono_alloc_dreg                   (MonoCompile *cfg, MonoStackType stack_type);
2339 guint32   mono_alloc_ireg_ref               (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2340 guint32   mono_alloc_ireg_mp                (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2341 guint32   mono_alloc_ireg_copy              (MonoCompile *cfg, guint32 vreg) MONO_LLVM_INTERNAL;
2342 void      mono_mark_vreg_as_ref             (MonoCompile *cfg, int vreg);
2343 void      mono_mark_vreg_as_mp              (MonoCompile *cfg, int vreg);
2344
2345 void      mono_link_bblock                  (MonoCompile *cfg, MonoBasicBlock *from, MonoBasicBlock* to);
2346 void      mono_unlink_bblock                (MonoCompile *cfg, MonoBasicBlock *from, MonoBasicBlock* to);
2347 gboolean  mono_bblocks_linked               (MonoBasicBlock *bb1, MonoBasicBlock *bb2);
2348 void      mono_remove_bblock                (MonoCompile *cfg, MonoBasicBlock *bb);
2349 void      mono_nullify_basic_block          (MonoBasicBlock *bb);
2350 void      mono_merge_basic_blocks           (MonoCompile *cfg, MonoBasicBlock *bb, MonoBasicBlock *bbn);
2351 void      mono_optimize_branches            (MonoCompile *cfg);
2352
2353 void      mono_blockset_print               (MonoCompile *cfg, MonoBitSet *set, const char *name, guint idom);
2354 const char*mono_ji_type_to_string           (MonoJumpInfoType type);
2355 void      mono_print_ji                     (const MonoJumpInfo *ji);
2356 void      mono_print_ins_index              (int i, MonoInst *ins);
2357 GString  *mono_print_ins_index_strbuf       (int i, MonoInst *ins);
2358 void      mono_print_ins                    (MonoInst *ins);
2359 void      mono_print_bb                     (MonoBasicBlock *bb, const char *msg);
2360 void      mono_print_code                   (MonoCompile *cfg, const char *msg);
2361 MONO_API void      mono_print_method_from_ip         (void *ip);
2362 MONO_API char     *mono_pmip                         (void *ip);
2363 gboolean  mono_debug_count                  (void);
2364 MONO_API const char* mono_inst_name                  (int op);
2365 int       mono_op_to_op_imm                 (int opcode);
2366 int       mono_op_imm_to_op                 (int opcode);
2367 int       mono_load_membase_to_load_mem     (int opcode);
2368 guint     mono_type_to_load_membase         (MonoCompile *cfg, MonoType *type);
2369 guint     mono_type_to_store_membase        (MonoCompile *cfg, MonoType *type);
2370 guint     mini_type_to_stind                (MonoCompile* cfg, MonoType *type);
2371 MonoJitInfo* mini_lookup_method             (MonoDomain *domain, MonoMethod *method, MonoMethod *shared);
2372 guint32   mono_reverse_branch_op            (guint32 opcode);
2373 void      mono_disassemble_code             (MonoCompile *cfg, guint8 *code, int size, char *id);
2374 void      mono_add_patch_info               (MonoCompile *cfg, int ip, MonoJumpInfoType type, gconstpointer target) MONO_LLVM_INTERNAL;
2375 void      mono_add_patch_info_rel           (MonoCompile *cfg, int ip, MonoJumpInfoType type, gconstpointer target, int relocation) MONO_LLVM_INTERNAL;
2376 void      mono_remove_patch_info            (MonoCompile *cfg, int ip);
2377 MonoJumpInfo* mono_patch_info_dup_mp        (MonoMemPool *mp, MonoJumpInfo *patch_info);
2378 guint     mono_patch_info_hash (gconstpointer data);
2379 gint      mono_patch_info_equal (gconstpointer ka, gconstpointer kb);
2380 MonoJumpInfo *mono_patch_info_list_prepend  (MonoJumpInfo *list, int ip, MonoJumpInfoType type, gconstpointer target);
2381 gpointer  mono_resolve_patch_target         (MonoMethod *method, MonoDomain *domain, guint8 *code, MonoJumpInfo *patch_info, gboolean run_cctors, MonoError *error) MONO_LLVM_INTERNAL;
2382 gpointer  mono_jit_find_compiled_method_with_jit_info (MonoDomain *domain, MonoMethod *method, MonoJitInfo **ji);
2383 gpointer  mono_jit_find_compiled_method     (MonoDomain *domain, MonoMethod *method);
2384 gpointer  mono_jit_compile_method           (MonoMethod *method, MonoError *error);
2385 gpointer  mono_jit_compile_method_inner     (MonoMethod *method, MonoDomain *target_domain, int opt, MonoError *error);
2386 MonoLMF * mono_get_lmf                      (void);
2387 MonoLMF** mono_get_lmf_addr                 (void);
2388 void      mono_set_lmf                      (MonoLMF *lmf);
2389 MonoJitTlsData* mono_get_jit_tls            (void);
2390 MONO_API gpointer  mono_jit_thread_attach            (MonoDomain *domain, gpointer *dummy);
2391 MONO_API void      mono_jit_thread_detach            (gpointer cookie, gpointer *dummy);
2392 gint32    mono_get_jit_tls_offset           (void);
2393 gint32    mono_get_lmf_tls_offset           (void);
2394 gint32    mono_get_lmf_addr_tls_offset      (void);
2395 int       mini_get_tls_offset               (MonoTlsKey key);
2396 gboolean  mini_tls_get_supported            (MonoCompile *cfg, MonoTlsKey key);
2397 MonoInst* mono_create_tls_get               (MonoCompile *cfg, MonoTlsKey key);
2398 MonoInst* mono_get_jit_tls_intrinsic        (MonoCompile *cfg);
2399 MonoInst* mono_get_domain_intrinsic         (MonoCompile* cfg);
2400 MonoInst* mono_get_thread_intrinsic         (MonoCompile* cfg);
2401 MonoInst* mono_get_lmf_intrinsic            (MonoCompile* cfg);
2402 MonoInst* mono_get_lmf_addr_intrinsic       (MonoCompile* cfg);
2403 GList    *mono_varlist_insert_sorted        (MonoCompile *cfg, GList *list, MonoMethodVar *mv, int sort_type);
2404 GList    *mono_varlist_sort                 (MonoCompile *cfg, GList *list, int sort_type);
2405 void      mono_analyze_liveness             (MonoCompile *cfg);
2406 void      mono_analyze_liveness_gc          (MonoCompile *cfg);
2407 void      mono_linear_scan                  (MonoCompile *cfg, GList *vars, GList *regs, regmask_t *used_mask);
2408 void      mono_global_regalloc              (MonoCompile *cfg);
2409 void      mono_create_jump_table            (MonoCompile *cfg, MonoInst *label, MonoBasicBlock **bbs, int num_blocks);
2410 MonoCompile *mini_method_compile            (MonoMethod *method, guint32 opts, MonoDomain *domain, JitFlags flags, int parts, int aot_method_index);
2411 void      mono_destroy_compile              (MonoCompile *cfg);
2412 MonoJitICallInfo *mono_find_jit_opcode_emulation (int opcode);
2413 void      mono_print_ins_index (int i, MonoInst *ins);
2414 void      mono_print_ins (MonoInst *ins);
2415 gboolean  mini_assembly_can_skip_verification (MonoDomain *domain, MonoMethod *method);
2416 gboolean mono_compile_is_broken (MonoCompile *cfg, MonoMethod *method, gboolean fail_compile);
2417 MonoInst *mono_get_got_var (MonoCompile *cfg);
2418 void      mono_add_seq_point (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins, int native_offset);
2419 void      mono_add_var_location (MonoCompile *cfg, MonoInst *var, gboolean is_reg, int reg, int offset, int from, int to);
2420 MonoInst* mono_emit_jit_icall (MonoCompile *cfg, gconstpointer func, MonoInst **args);
2421 MonoInst* mono_emit_jit_icall_by_info (MonoCompile *cfg, MonoJitICallInfo *info, MonoInst **args);
2422 MonoInst* mono_emit_method_call (MonoCompile *cfg, MonoMethod *method, MonoInst **args, MonoInst *this_ins);
2423 void      mono_create_helper_signatures (void);
2424
2425 gboolean  mini_class_is_system_array (MonoClass *klass);
2426 MonoMethodSignature *mono_get_element_address_signature (int arity);
2427 MonoJitICallInfo    *mono_get_element_address_icall (int rank);
2428 MonoJitICallInfo    *mono_get_array_new_va_icall (int rank);
2429
2430 void      mono_linterval_add_range          (MonoCompile *cfg, MonoLiveInterval *interval, int from, int to);
2431 void      mono_linterval_print              (MonoLiveInterval *interval);
2432 void      mono_linterval_print_nl (MonoLiveInterval *interval);
2433 gboolean  mono_linterval_covers             (MonoLiveInterval *interval, int pos);
2434 gint32    mono_linterval_get_intersect_pos  (MonoLiveInterval *i1, MonoLiveInterval *i2);
2435 void      mono_linterval_split              (MonoCompile *cfg, MonoLiveInterval *interval, MonoLiveInterval **i1, MonoLiveInterval **i2, int pos);
2436 void      mono_liveness_handle_exception_clauses (MonoCompile *cfg);
2437
2438 /* Native Client functions */
2439 gpointer mono_realloc_native_code(MonoCompile *cfg);
2440 #ifdef __native_client_codegen__
2441 void mono_nacl_align_inst(guint8 **pcode, int instlen);
2442 void mono_nacl_align_call(guint8 **start, guint8 **pcode);
2443 guint8 *mono_nacl_pad_call(guint8 *code, guint8 ilength);
2444 guint8 *mono_nacl_align(guint8 *code);
2445 void mono_nacl_fix_patches(const guint8 *code, MonoJumpInfo *ji);
2446 /* Defined for each arch */
2447 guint8 *mono_arch_nacl_pad(guint8 *code, int pad);
2448 guint8 *mono_arch_nacl_skip_nops(guint8 *code);
2449
2450 #if defined(TARGET_X86)
2451 #define kNaClAlignment kNaClAlignmentX86
2452 #define kNaClAlignmentMask kNaClAlignmentMaskX86
2453 #elif defined(TARGET_AMD64)
2454 #define kNaClAlignment kNaClAlignmentAMD64
2455 #define kNaClAlignmentMask kNaClAlignmentMaskAMD64
2456 #elif defined(TARGET_ARM)
2457 #define kNaClAlignment kNaClAlignmentARM
2458 #define kNaClAlignmentMask kNaClAlignmentMaskARM
2459 #endif
2460
2461 #define NACL_BUNDLE_ALIGN_UP(p) ((((p)+kNaClAlignmentMask)) & ~kNaClAlignmentMask)
2462 #endif
2463
2464 #if defined(__native_client__) || defined(__native_client_codegen__)
2465 extern volatile int __nacl_thread_suspension_needed;
2466 void __nacl_suspend_thread_if_needed(void);
2467 void mono_nacl_gc(void);
2468 #endif
2469
2470 #if defined(__native_client_codegen__) || defined(__native_client__)
2471 #define NACL_SIZE(a, b) (b)
2472 #else
2473 #define NACL_SIZE(a, b) (a)
2474 #endif
2475
2476 extern MonoDebugOptions debug_options;
2477
2478 static inline MonoMethod*
2479 jinfo_get_method (MonoJitInfo *ji)
2480 {
2481         return mono_jit_info_get_method (ji);
2482 }
2483
2484 /* AOT */
2485 void      mono_aot_init                     (void);
2486 void      mono_aot_cleanup                  (void);
2487 gpointer  mono_aot_get_method               (MonoDomain *domain,
2488                                                                                          MonoMethod *method);
2489 gpointer  mono_aot_get_method_from_token    (MonoDomain *domain, MonoImage *image, guint32 token);
2490 gboolean  mono_aot_is_got_entry             (guint8 *code, guint8 *addr);
2491 guint8*   mono_aot_get_plt_entry            (guint8 *code);
2492 guint32   mono_aot_get_plt_info_offset      (mgreg_t *regs, guint8 *code);
2493 gboolean  mono_aot_get_cached_class_info    (MonoClass *klass, MonoCachedClassInfo *res);
2494 gboolean  mono_aot_get_class_from_name      (MonoImage *image, const char *name_space, const char *name, MonoClass **klass);
2495 MonoJitInfo* mono_aot_find_jit_info         (MonoDomain *domain, MonoImage *image, gpointer addr);
2496 gpointer mono_aot_plt_resolve               (gpointer aot_module, guint32 plt_info_offset, guint8 *code, MonoError *error);
2497 void     mono_aot_patch_plt_entry           (guint8 *code, guint8 *plt_entry, gpointer *got, mgreg_t *regs, guint8 *addr);
2498 gpointer mono_aot_get_method_from_vt_slot   (MonoDomain *domain, MonoVTable *vtable, int slot);
2499 gpointer mono_aot_create_specific_trampoline   (MonoImage *image, gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2500 gpointer mono_aot_get_trampoline            (const char *name);
2501 gpointer mono_aot_get_trampoline_full       (const char *name, MonoTrampInfo **out_tinfo);
2502 gpointer mono_aot_get_unbox_trampoline      (MonoMethod *method);
2503 gpointer mono_aot_get_lazy_fetch_trampoline (guint32 slot);
2504 gpointer mono_aot_get_static_rgctx_trampoline (gpointer ctx, gpointer addr);
2505 gpointer mono_aot_get_imt_thunk             (MonoVTable *vtable, MonoDomain *domain, MonoIMTCheckItem **imt_entries, int count, gpointer fail_tramp);
2506 gpointer mono_aot_get_gsharedvt_arg_trampoline(gpointer arg, gpointer addr);
2507 guint8*  mono_aot_get_unwind_info           (MonoJitInfo *ji, guint32 *unwind_info_len);
2508 guint32  mono_aot_method_hash               (MonoMethod *method);
2509 MonoMethod* mono_aot_get_array_helper_from_wrapper (MonoMethod *method);
2510 void     mono_aot_set_make_unreadable       (gboolean unreadable);
2511 gboolean mono_aot_is_pagefault              (void *ptr);
2512 void     mono_aot_handle_pagefault          (void *ptr);
2513 void     mono_aot_register_jit_icall        (const char *name, gpointer addr);
2514 guint32  mono_aot_find_method_index         (MonoMethod *method);
2515 void     mono_aot_init_llvm_method          (gpointer aot_module, guint32 method_index);
2516 void     mono_aot_init_gshared_method_this  (gpointer aot_module, guint32 method_index, MonoObject *this_ins);
2517 void     mono_aot_init_gshared_method_mrgctx  (gpointer aot_module, guint32 method_index, MonoMethodRuntimeGenericContext *rgctx);
2518 void     mono_aot_init_gshared_method_vtable  (gpointer aot_module, guint32 method_index, MonoVTable *vtable);
2519
2520 /* This is an exported function */
2521 MONO_API void     mono_aot_register_module           (gpointer *aot_info);
2522
2523 /* These are used to load the AOT data for aot images compiled with MONO_AOT_FILE_FLAG_SEPARATE_DATA */
2524 /*
2525  * Return the AOT data for ASSEMBLY. SIZE is the size of the data. OUT_HANDLE should be set to a handle which is later
2526  * passed to the free function.
2527  */
2528 typedef unsigned char* (*MonoLoadAotDataFunc)          (MonoAssembly *assembly, int size, gpointer user_data, void **out_handle);
2529 /* Not yet used */
2530 typedef void  (*MonoFreeAotDataFunc)          (MonoAssembly *assembly, int size, gpointer user_data, void *handle);
2531 MONO_API void mono_install_load_aot_data_hook (MonoLoadAotDataFunc load_func, MonoFreeAotDataFunc free_func, gpointer user_data);
2532
2533 void     mono_xdebug_init                   (const char *xdebug_opts);
2534 void     mono_save_xdebug_info              (MonoCompile *cfg);
2535 void     mono_save_trampoline_xdebug_info   (MonoTrampInfo *info);
2536 /* This is an exported function */
2537 void     mono_xdebug_flush                  (void);
2538
2539 gboolean  mono_method_blittable             (MonoMethod *method);
2540 gboolean  mono_method_same_domain           (MonoJitInfo *caller, MonoJitInfo *callee);
2541
2542 void      mono_register_opcode_emulation    (int opcode, const char* name, const char *sigstr, gpointer func, gboolean no_throw);
2543 void      mono_draw_graph                   (MonoCompile *cfg, MonoGraphOptions draw_options);
2544 void      mono_add_ins_to_end               (MonoBasicBlock *bb, MonoInst *inst);
2545 gpointer  mono_create_ftnptr                (MonoDomain *domain, gpointer addr);
2546
2547 MONO_API void      mono_replace_ins                  (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins, MonoInst **prev, MonoBasicBlock *first_bb, MonoBasicBlock *last_bb);
2548
2549 int               mono_find_method_opcode      (MonoMethod *method);
2550 MonoJitICallInfo *mono_register_jit_icall      (gconstpointer func, const char *name, MonoMethodSignature *sig, gboolean is_save);
2551 gconstpointer     mono_icall_get_wrapper       (MonoJitICallInfo* callinfo) MONO_LLVM_INTERNAL;
2552 gconstpointer     mono_icall_get_wrapper_full  (MonoJitICallInfo* callinfo, gboolean do_compile);
2553 void              mini_register_opcode_emulation (int opcode, const char *name, const char *sigstr, gpointer func, const char *symbol, gboolean no_throw);
2554
2555 void              mono_trampolines_init (void);
2556 void              mono_trampolines_cleanup (void);
2557 guint8 *          mono_get_trampoline_code (MonoTrampolineType tramp_type);
2558 gpointer          mono_create_specific_trampoline (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2559 gpointer          mono_create_jump_trampoline (MonoDomain *domain,
2560                                                                                            MonoMethod *method,
2561                                                                                            gboolean add_sync_wrapper,
2562                                                                                            MonoError *error);
2563 gpointer          mono_create_class_init_trampoline (MonoVTable *vtable);
2564 gpointer          mono_create_jit_trampoline (MonoDomain *domain, MonoMethod *method, MonoError *error) MONO_LLVM_INTERNAL;
2565 gpointer          mono_create_jit_trampoline_from_token (MonoImage *image, guint32 token);
2566 gpointer          mono_create_delegate_trampoline (MonoDomain *domain, MonoClass *klass);
2567 MonoDelegateTrampInfo* mono_create_delegate_trampoline_info (MonoDomain *domain, MonoClass *klass, MonoMethod *method);
2568 gpointer          mono_create_delegate_virtual_trampoline (MonoDomain *domain, MonoClass *klass, MonoMethod *method);
2569 gpointer          mono_create_rgctx_lazy_fetch_trampoline (guint32 offset);
2570 gpointer          mono_create_monitor_enter_trampoline (void);
2571 gpointer          mono_create_monitor_enter_v4_trampoline (void);
2572 gpointer          mono_create_monitor_exit_trampoline (void);
2573 gpointer          mono_create_static_rgctx_trampoline (MonoMethod *m, gpointer addr);
2574 MonoVTable*       mono_find_class_init_trampoline_by_addr (gconstpointer addr);
2575 guint32           mono_find_rgctx_lazy_fetch_trampoline_by_addr (gconstpointer addr);
2576 gpointer          mono_magic_trampoline (mgreg_t *regs, guint8 *code, gpointer arg, guint8* tramp);
2577 #ifndef DISABLE_REMOTING
2578 gpointer          mono_generic_virtual_remoting_trampoline (mgreg_t *regs, guint8 *code, MonoMethod *m, guint8 *tramp);
2579 #endif
2580 gpointer          mono_delegate_trampoline (mgreg_t *regs, guint8 *code, gpointer *tramp_data, guint8* tramp);
2581 gpointer          mono_aot_trampoline (mgreg_t *regs, guint8 *code, guint8 *token_info,
2582                                                                            guint8* tramp);
2583 gpointer          mono_aot_plt_trampoline (mgreg_t *regs, guint8 *code, guint8 *token_info,
2584                                                                                    guint8* tramp);
2585 void              mono_class_init_trampoline (mgreg_t *regs, guint8 *code, MonoVTable *vtable, guint8 *tramp);
2586 void              mono_generic_class_init_trampoline (mgreg_t *regs, guint8 *code, MonoVTable *vtable, guint8 *tramp);
2587 void              mono_monitor_enter_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2588 void              mono_monitor_enter_v4_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2589 void              mono_monitor_exit_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2590 gconstpointer     mono_get_trampoline_func (MonoTrampolineType tramp_type);
2591 gpointer          mini_get_vtable_trampoline (MonoVTable *vt, int slot_index);
2592 const char*       mono_get_generic_trampoline_simple_name (MonoTrampolineType tramp_type);
2593 char*             mono_get_generic_trampoline_name (MonoTrampolineType tramp_type);
2594 char*             mono_get_rgctx_fetch_trampoline_name (int slot);
2595 gpointer          mini_get_nullified_class_init_trampoline (void);
2596 gpointer          mini_get_single_step_trampoline (void);
2597 gpointer          mini_get_breakpoint_trampoline (void);
2598 gpointer          mini_add_method_trampoline (MonoMethod *m, gpointer compiled_method, gboolean add_static_rgctx_tramp, gboolean add_unbox_tramp);
2599 gpointer          mini_add_method_wrappers_llvmonly (MonoMethod *m, gpointer compiled_method, gboolean caller_gsharedvt, gboolean add_unbox_tramp, gpointer *out_arg);
2600 gboolean          mini_jit_info_is_gsharedvt (MonoJitInfo *ji);
2601 gpointer*         mini_resolve_imt_method (MonoVTable *vt, gpointer *vtable_slot, MonoMethod *imt_method, MonoMethod **impl_method, gpointer *out_aot_addr,
2602                                                                                    gboolean *out_need_rgctx_tramp, MonoMethod **variant_iface);
2603 MonoFtnDesc      *mini_create_llvmonly_ftndesc (MonoDomain *domain, gpointer addr, gpointer arg);
2604
2605 gboolean          mono_running_on_valgrind (void);
2606 void*             mono_global_codeman_reserve (int size);
2607 void*             nacl_global_codeman_get_dest(void *data);
2608 void              mono_global_codeman_commit(void *data, int size, int newsize);
2609 void              nacl_global_codeman_validate(guint8 **buf_base, int buf_size, guint8 **code_end);
2610 const char       *mono_regname_full (int reg, int bank);
2611 gint32*           mono_allocate_stack_slots (MonoCompile *cfg, gboolean backward, guint32 *stack_size, guint32 *stack_align);
2612 void              mono_local_regalloc (MonoCompile *cfg, MonoBasicBlock *bb);
2613 MonoInst         *mono_branch_optimize_exception_target (MonoCompile *cfg, MonoBasicBlock *bb, const char * exname);
2614 void              mono_remove_critical_edges (MonoCompile *cfg);
2615 gboolean          mono_is_regsize_var (MonoType *t);
2616 void              mini_emit_memcpy (MonoCompile *cfg, int destreg, int doffset, int srcreg, int soffset, int size, int align);
2617 void              mini_emit_stobj (MonoCompile *cfg, MonoInst *dest, MonoInst *src, MonoClass *klass, gboolean native);
2618 void              mini_emit_initobj (MonoCompile *cfg, MonoInst *dest, const guchar *ip, MonoClass *klass);
2619 CompRelation      mono_opcode_to_cond (int opcode) MONO_LLVM_INTERNAL;
2620 CompType          mono_opcode_to_type (int opcode, int cmp_opcode);
2621 CompRelation      mono_negate_cond (CompRelation cond);
2622 int               mono_op_imm_to_op (int opcode);
2623 void              mono_decompose_op_imm (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins);
2624 void              mono_peephole_ins (MonoBasicBlock *bb, MonoInst *ins);
2625 MonoUnwindOp     *mono_create_unwind_op (int when,
2626                                                                                  int tag, int reg,
2627                                                                                  int val);
2628 void              mono_emit_unwind_op (MonoCompile *cfg, int when,
2629                                                                            int tag, int reg,
2630                                                                            int val);
2631 MonoTrampInfo*    mono_tramp_info_create (const char *name, guint8 *code, guint32 code_size, MonoJumpInfo *ji, GSList *unwind_ops);
2632 void              mono_tramp_info_free (MonoTrampInfo *info);
2633 void              mono_tramp_info_register (MonoTrampInfo *info, MonoDomain *domain);
2634 int               mini_exception_id_by_name (const char *name);
2635 gboolean          mini_type_is_hfa (MonoType *t, int *out_nfields, int *out_esize) MONO_LLVM_INTERNAL;
2636
2637 int               mono_method_to_ir (MonoCompile *cfg, MonoMethod *method, MonoBasicBlock *start_bblock, MonoBasicBlock *end_bblock,
2638                                                                          MonoInst *return_var, MonoInst **inline_args,
2639                                                                          guint inline_offset, gboolean is_virtual_call);
2640
2641 MonoInst         *mono_decompose_opcode (MonoCompile *cfg, MonoInst *ins);
2642 void              mono_decompose_long_opts (MonoCompile *cfg);
2643 void              mono_decompose_vtype_opts (MonoCompile *cfg);
2644 void              mono_decompose_array_access_opts (MonoCompile *cfg);
2645 void              mono_decompose_soft_float (MonoCompile *cfg);
2646 void              mono_local_emulate_ops (MonoCompile *cfg);
2647 void              mono_handle_global_vregs (MonoCompile *cfg);
2648 void              mono_spill_global_vars (MonoCompile *cfg, gboolean *need_local_opts);
2649 void              mono_allocate_gsharedvt_vars (MonoCompile *cfg);
2650 void              mono_if_conversion (MonoCompile *cfg);
2651
2652 /* Delegates */
2653 gpointer          mini_get_delegate_arg (MonoMethod *method, gpointer method_ptr);
2654 void              mini_init_delegate (MonoDelegate *del);
2655 gpointer          mono_get_delegate_virtual_invoke_impl  (MonoMethodSignature *sig, MonoMethod *method);
2656
2657 /* methods that must be provided by the arch-specific port */
2658 void      mono_arch_init                        (void);
2659 void      mono_arch_finish_init                 (void);
2660 void      mono_arch_cleanup                     (void);
2661 void      mono_arch_cpu_init                    (void);
2662 guint32   mono_arch_cpu_optimizations           (guint32 *exclude_mask);
2663 void      mono_arch_instrument_mem_needs        (MonoMethod *method, int *stack, int *code);
2664 void     *mono_arch_instrument_prolog           (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments);
2665 void     *mono_arch_instrument_epilog           (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments);
2666 void     *mono_arch_instrument_epilog_full     (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments, gboolean preserve_argument_registers);
2667 void      mono_codegen                          (MonoCompile *cfg);
2668 void      mono_call_inst_add_outarg_reg         (MonoCompile *cfg, MonoCallInst *call, int vreg, int hreg, int bank) MONO_LLVM_INTERNAL;
2669 void      mono_call_inst_add_outarg_vt          (MonoCompile *cfg, MonoCallInst *call, MonoInst *outarg_vt);
2670 const char *mono_arch_regname                   (int reg);
2671 const char *mono_arch_fregname                  (int reg);
2672 void      mono_arch_exceptions_init             (void);
2673 guchar*   mono_arch_create_generic_trampoline   (MonoTrampolineType tramp_type, MonoTrampInfo **info, gboolean aot);
2674 gpointer  mono_arch_create_rgctx_lazy_fetch_trampoline (guint32 slot, MonoTrampInfo **info, gboolean aot);
2675 gpointer  mono_arch_create_general_rgctx_lazy_fetch_trampoline (MonoTrampInfo **info, gboolean aot);
2676 gpointer  mono_arch_get_nullified_class_init_trampoline (MonoTrampInfo **info);
2677 guint8*   mono_arch_create_sdb_trampoline (gboolean single_step, MonoTrampInfo **info, gboolean aot);
2678 gpointer  mono_arch_create_monitor_enter_trampoline (MonoTrampInfo **info, gboolean is_v4, gboolean aot);
2679 gpointer  mono_arch_create_monitor_exit_trampoline (MonoTrampInfo **info, gboolean aot);
2680 guint8   *mono_arch_create_llvm_native_thunk     (MonoDomain *domain, guint8* addr) MONO_LLVM_INTERNAL;
2681 GList    *mono_arch_get_allocatable_int_vars    (MonoCompile *cfg);
2682 GList    *mono_arch_get_global_int_regs         (MonoCompile *cfg);
2683 GList    *mono_arch_get_global_fp_regs          (MonoCompile *cfg);
2684 GList    *mono_arch_get_iregs_clobbered_by_call (MonoCallInst *call);
2685 GList    *mono_arch_get_fregs_clobbered_by_call (MonoCallInst *call);
2686 guint32   mono_arch_regalloc_cost               (MonoCompile *cfg, MonoMethodVar *vmv);
2687 void      mono_arch_patch_code                  (MonoCompile *cfg, MonoMethod *method, MonoDomain *domain, guint8 *code, MonoJumpInfo *ji, gboolean run_cctors);
2688 void      mono_arch_patch_code_new              (MonoCompile *cfg, MonoDomain *domain, guint8 *code, MonoJumpInfo *ji, gpointer target);
2689 void      mono_arch_flush_icache                (guint8 *code, gint size);
2690 int       mono_arch_max_epilog_size             (MonoCompile *cfg);
2691 guint8   *mono_arch_emit_prolog                 (MonoCompile *cfg);
2692 void      mono_arch_emit_epilog                 (MonoCompile *cfg);
2693 void      mono_arch_emit_exceptions             (MonoCompile *cfg);
2694 void      mono_arch_lowering_pass               (MonoCompile *cfg, MonoBasicBlock *bb);
2695 void      mono_arch_peephole_pass_1             (MonoCompile *cfg, MonoBasicBlock *bb);
2696 void      mono_arch_peephole_pass_2             (MonoCompile *cfg, MonoBasicBlock *bb);
2697 void      mono_arch_output_basic_block          (MonoCompile *cfg, MonoBasicBlock *bb);
2698 void      mono_arch_free_jit_tls_data           (MonoJitTlsData *tls);
2699 void      mono_arch_fill_argument_info          (MonoCompile *cfg);
2700 void      mono_arch_allocate_vars               (MonoCompile *m);
2701 int       mono_arch_get_argument_info           (MonoMethodSignature *csig, int param_count, MonoJitArgumentInfo *arg_info);
2702 gboolean  mono_arch_print_tree                          (MonoInst *tree, int arity);
2703 void      mono_arch_emit_call                   (MonoCompile *cfg, MonoCallInst *call);
2704 void      mono_arch_emit_outarg_vt              (MonoCompile *cfg, MonoInst *ins, MonoInst *src);
2705 void      mono_arch_emit_setret                 (MonoCompile *cfg, MonoMethod *method, MonoInst *val);
2706 MonoDynCallInfo *mono_arch_dyn_call_prepare     (MonoMethodSignature *sig);
2707 void      mono_arch_dyn_call_free               (MonoDynCallInfo *info);
2708 void      mono_arch_start_dyn_call              (MonoDynCallInfo *info, gpointer **args, guint8 *ret, guint8 *buf, int buf_len);
2709 void      mono_arch_finish_dyn_call             (MonoDynCallInfo *info, guint8 *buf);
2710 MonoInst *mono_arch_emit_inst_for_method        (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
2711 void      mono_arch_decompose_opts              (MonoCompile *cfg, MonoInst *ins);
2712 void      mono_arch_decompose_long_opts         (MonoCompile *cfg, MonoInst *ins);
2713 GSList*   mono_arch_get_delegate_invoke_impls   (void);
2714 LLVMCallInfo* mono_arch_get_llvm_call_info      (MonoCompile *cfg, MonoMethodSignature *sig) MONO_LLVM_INTERNAL;
2715 guint8*   mono_arch_emit_load_got_addr          (guint8 *start, guint8 *code, MonoCompile *cfg, MonoJumpInfo **ji);
2716 guint8*   mono_arch_emit_load_aotconst          (guint8 *start, guint8 *code, MonoJumpInfo **ji, MonoJumpInfoType tramp_type, gconstpointer target);
2717 GSList*   mono_arch_get_cie_program             (void);
2718 void      mono_arch_set_target                  (char *mtriple);
2719 gboolean  mono_arch_gsharedvt_sig_supported     (MonoMethodSignature *sig);
2720 gpointer  mono_arch_get_gsharedvt_trampoline    (MonoTrampInfo **info, gboolean aot);
2721 gpointer  mono_arch_get_gsharedvt_call_info     (gpointer addr, MonoMethodSignature *normal_sig, MonoMethodSignature *gsharedvt_sig, gboolean gsharedvt_in, gint32 vcall_offset, gboolean calli);
2722 gboolean  mono_arch_opcode_needs_emulation      (MonoCompile *cfg, int opcode);
2723 gboolean  mono_arch_tail_call_supported         (MonoCompile *cfg, MonoMethodSignature *caller_sig, MonoMethodSignature *callee_sig);
2724 int       mono_arch_translate_tls_offset        (int offset);
2725 gboolean  mono_arch_opcode_supported            (int opcode);
2726 void     mono_arch_setup_resume_sighandler_ctx  (MonoContext *ctx, gpointer func);
2727
2728 #ifdef MONO_ARCH_SOFT_FLOAT_FALLBACK
2729 gboolean  mono_arch_is_soft_float               (void);
2730 #else
2731 static inline MONO_ALWAYS_INLINE gboolean
2732 mono_arch_is_soft_float (void)
2733 {
2734         return FALSE;
2735 }
2736 #endif
2737
2738 /* Soft Debug support */
2739 #ifdef MONO_ARCH_SOFT_DEBUG_SUPPORTED
2740 void      mono_arch_set_breakpoint              (MonoJitInfo *ji, guint8 *ip);
2741 void      mono_arch_clear_breakpoint            (MonoJitInfo *ji, guint8 *ip);
2742 void      mono_arch_start_single_stepping       (void);
2743 void      mono_arch_stop_single_stepping        (void);
2744 gboolean  mono_arch_is_single_step_event        (void *info, void *sigctx);
2745 gboolean  mono_arch_is_breakpoint_event         (void *info, void *sigctx);
2746 void     mono_arch_skip_breakpoint              (MonoContext *ctx, MonoJitInfo *ji);
2747 void     mono_arch_skip_single_step             (MonoContext *ctx);
2748 gpointer mono_arch_get_seq_point_info           (MonoDomain *domain, guint8 *code);
2749 void     mono_arch_init_lmf_ext                 (MonoLMFExt *ext, gpointer prev_lmf);
2750 #endif
2751
2752 #ifdef USE_JUMP_TABLES
2753 void
2754 mono_jumptable_init  (void);
2755 gpointer*
2756 mono_jumptable_add_entry (void);
2757 gpointer*
2758 mono_jumptable_add_entries (guint32 entries);
2759 void
2760 mono_jumptable_cleanup  (void);
2761 gpointer*
2762 mono_arch_jumptable_entry_from_code (guint8 *code);
2763 gpointer*
2764 mono_jumptable_get_entry (guint8 *code);
2765 #endif
2766
2767 gboolean
2768 mono_arch_unwind_frame (MonoDomain *domain, MonoJitTlsData *jit_tls,
2769                                                 MonoJitInfo *ji, MonoContext *ctx,
2770                                                 MonoContext *new_ctx, MonoLMF **lmf,
2771                                                 mgreg_t **save_locations,
2772                                                 StackFrameInfo *frame_info);
2773 gpointer  mono_arch_get_throw_exception_by_name (void);
2774 gpointer mono_arch_get_call_filter              (MonoTrampInfo **info, gboolean aot);
2775 gpointer mono_arch_get_restore_context          (MonoTrampInfo **info, gboolean aot);
2776 gpointer  mono_arch_get_throw_exception         (MonoTrampInfo **info, gboolean aot);
2777 gpointer  mono_arch_get_rethrow_exception       (MonoTrampInfo **info, gboolean aot);
2778 gpointer  mono_arch_get_throw_corlib_exception  (MonoTrampInfo **info, gboolean aot);
2779 gpointer  mono_arch_get_throw_pending_exception (MonoTrampInfo **info, gboolean aot);
2780 gboolean mono_arch_handle_exception             (void *sigctx, gpointer obj);
2781 void     mono_arch_handle_altstack_exception    (void *sigctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo, gpointer fault_addr, gboolean stack_ovf);
2782 gboolean mono_handle_soft_stack_ovf             (MonoJitTlsData *jit_tls, MonoJitInfo *ji, void *ctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo, guint8* fault_addr);
2783 void     mono_handle_hard_stack_ovf             (MonoJitTlsData *jit_tls, MonoJitInfo *ji, void *ctx, guint8* fault_addr);
2784 gpointer mono_arch_ip_from_context              (void *sigctx);
2785 mgreg_t mono_arch_context_get_int_reg               (MonoContext *ctx, int reg);
2786 void     mono_arch_context_set_int_reg              (MonoContext *ctx, int reg, mgreg_t val);
2787 void     mono_arch_flush_register_windows       (void);
2788 gboolean mono_arch_is_inst_imm                  (gint64 imm);
2789 gboolean mono_arch_is_int_overflow              (void *sigctx, void *info);
2790 void     mono_arch_invalidate_method            (MonoJitInfo *ji, void *func, gpointer func_arg);
2791 guint32  mono_arch_get_patch_offset             (guint8 *code);
2792 gpointer*mono_arch_get_delegate_method_ptr_addr (guint8* code, mgreg_t *regs);
2793 void     mono_arch_create_vars                  (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2794 void     mono_arch_save_unwind_info             (MonoCompile *cfg);
2795 void     mono_arch_register_lowlevel_calls      (void);
2796 gpointer mono_arch_get_unbox_trampoline         (MonoMethod *m, gpointer addr);
2797 gpointer mono_arch_get_static_rgctx_trampoline  (MonoMethod *m, MonoMethodRuntimeGenericContext *mrgctx, gpointer addr);
2798 gpointer  mono_arch_get_llvm_imt_trampoline     (MonoDomain *domain, MonoMethod *method, int vt_offset);
2799 gpointer mono_arch_get_gsharedvt_arg_trampoline (MonoDomain *domain, gpointer arg, gpointer addr);
2800 void     mono_arch_patch_callsite               (guint8 *method_start, guint8 *code, guint8 *addr);
2801 void     mono_arch_patch_plt_entry              (guint8 *code, gpointer *got, mgreg_t *regs, guint8 *addr);
2802 void     mono_arch_nullify_class_init_trampoline(guint8 *code, mgreg_t *regs);
2803 int      mono_arch_get_this_arg_reg             (guint8 *code);
2804 gpointer mono_arch_get_this_arg_from_call       (mgreg_t *regs, guint8 *code);
2805 gpointer mono_arch_get_delegate_invoke_impl     (MonoMethodSignature *sig, gboolean has_target);
2806 gpointer mono_arch_get_delegate_virtual_invoke_impl (MonoMethodSignature *sig, MonoMethod *method, int offset, gboolean load_imt_reg);
2807 gpointer mono_arch_create_specific_trampoline   (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2808 MonoMethod* mono_arch_find_imt_method           (mgreg_t *regs, guint8 *code);
2809 MonoVTable* mono_arch_find_static_call_vtable   (mgreg_t *regs, guint8 *code);
2810 gpointer    mono_arch_build_imt_thunk           (MonoVTable *vtable, MonoDomain *domain, MonoIMTCheckItem **imt_entries, int count, gpointer fail_tramp);
2811 void    mono_arch_notify_pending_exc            (MonoThreadInfo *info);
2812 guint8* mono_arch_get_call_target               (guint8 *code);
2813 guint32 mono_arch_get_plt_info_offset           (guint8 *plt_entry, mgreg_t *regs, guint8 *code);
2814 GSList *mono_arch_get_trampolines               (gboolean aot);
2815
2816 /* Handle block guard */
2817 gpointer mono_arch_install_handler_block_guard (MonoJitInfo *ji, MonoJitExceptionInfo *clause, MonoContext *ctx, gpointer new_value);
2818 gpointer mono_arch_create_handler_block_trampoline (MonoTrampInfo **info, gboolean aot);
2819 gpointer mono_create_handler_block_trampoline (void);
2820 gboolean mono_install_handler_block_guard (MonoThreadUnwindState *ctx);
2821
2822 /*New interruption machinery */
2823 void
2824 mono_setup_async_callback (MonoContext *ctx, void (*async_cb)(void *fun), gpointer user_data);
2825
2826 void
2827 mono_arch_setup_async_callback (MonoContext *ctx, void (*async_cb)(void *fun), gpointer user_data);
2828
2829 gboolean
2830 mono_thread_state_init_from_handle (MonoThreadUnwindState *tctx, MonoThreadInfo *info);
2831
2832
2833 /* Exception handling */
2834 typedef gboolean (*MonoJitStackWalk)            (StackFrameInfo *frame, MonoContext *ctx, gpointer data);
2835
2836 void     mono_exceptions_init                   (void);
2837 gboolean mono_handle_exception                  (MonoContext *ctx, MonoObject *obj);
2838 void     mono_handle_native_sigsegv             (int signal, void *sigctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo);
2839 MONO_API void     mono_print_thread_dump                 (void *sigctx);
2840 MONO_API void     mono_print_thread_dump_from_ctx        (MonoContext *ctx);
2841 void     mono_walk_stack_with_ctx               (MonoJitStackWalk func, MonoContext *start_ctx, MonoUnwindOptions unwind_options, void *user_data);
2842 void     mono_walk_stack_with_state             (MonoJitStackWalk func, MonoThreadUnwindState *state, MonoUnwindOptions unwind_options, void *user_data);
2843 void     mono_walk_stack                        (MonoJitStackWalk func, MonoUnwindOptions options, void *user_data);
2844 gboolean mono_thread_state_init_from_sigctx     (MonoThreadUnwindState *ctx, void *sigctx);
2845 void     mono_thread_state_init                 (MonoThreadUnwindState *ctx);
2846 gboolean mono_thread_state_init_from_current    (MonoThreadUnwindState *ctx);
2847 gboolean mono_thread_state_init_from_monoctx    (MonoThreadUnwindState *ctx, MonoContext *mctx);
2848
2849 void     mono_setup_altstack                    (MonoJitTlsData *tls);
2850 void     mono_free_altstack                     (MonoJitTlsData *tls);
2851 gpointer mono_altstack_restore_prot             (mgreg_t *regs, guint8 *code, gpointer *tramp_data, guint8* tramp);
2852 MonoJitInfo* mini_jit_info_table_find           (MonoDomain *domain, char *addr, MonoDomain **out_domain);
2853 MonoJitInfo* mini_jit_info_table_find_ext       (MonoDomain *domain, char *addr, gboolean allow_trampolines, MonoDomain **out_domain);
2854 void     mono_resume_unwind                     (MonoContext *ctx) MONO_LLVM_INTERNAL;
2855
2856 MonoJitInfo * mono_find_jit_info                (MonoDomain *domain, MonoJitTlsData *jit_tls, MonoJitInfo *res, MonoJitInfo *prev_ji, MonoContext *ctx, MonoContext *new_ctx, char **trace, MonoLMF **lmf, int *native_offset, gboolean *managed);
2857
2858 typedef gboolean (*MonoExceptionFrameWalk)      (MonoMethod *method, gpointer ip, size_t native_offset, gboolean managed, gpointer user_data);
2859 MONO_API gboolean mono_exception_walk_trace     (MonoException *ex, MonoExceptionFrameWalk func, gpointer user_data);
2860 void mono_restore_context                       (MonoContext *ctx);
2861 guint8* mono_jinfo_get_unwind_info              (MonoJitInfo *ji, guint32 *unwind_info_len);
2862 int  mono_jinfo_get_epilog_size                 (MonoJitInfo *ji);
2863 void     mono_llvm_rethrow_exception            (MonoObject *ex);
2864 void     mono_llvm_throw_exception              (MonoObject *ex);
2865 void     mono_llvm_throw_corlib_exception       (guint32 ex_token_index);
2866 void     mono_llvm_resume_exception             (void);
2867 void     mono_llvm_clear_exception              (void);
2868 MonoObject *mono_llvm_load_exception            (void);
2869 void     mono_llvm_reset_exception              (void);
2870 void     mono_llvm_raise_exception              (MonoException *e);
2871 gint32 mono_llvm_match_exception                (MonoJitInfo *jinfo, guint32 region_start, guint32 region_end, gpointer rgctx, MonoObject *this_obj);
2872
2873 gboolean
2874 mono_find_jit_info_ext (MonoDomain *domain, MonoJitTlsData *jit_tls,
2875                                                 MonoJitInfo *prev_ji, MonoContext *ctx,
2876                                                 MonoContext *new_ctx, char **trace, MonoLMF **lmf,
2877                                                 mgreg_t **save_locations,
2878                                                 StackFrameInfo *frame);
2879
2880 gpointer mono_get_throw_exception               (void);
2881 gpointer mono_get_rethrow_exception             (void);
2882 gpointer mono_get_call_filter                   (void);
2883 gpointer mono_get_restore_context               (void);
2884 gpointer mono_get_throw_exception_by_name       (void);
2885 gpointer mono_get_throw_corlib_exception        (void);
2886 gpointer mono_get_throw_exception_addr          (void);
2887 MonoArray *ves_icall_get_trace                  (MonoException *exc, gint32 skip, MonoBoolean need_file_info);
2888 MonoBoolean ves_icall_get_frame_info            (gint32 skip, MonoBoolean need_file_info,
2889                                                  MonoReflectionMethod **method,
2890                                                  gint32 *iloffset, gint32 *native_offset,
2891                                                  MonoString **file, gint32 *line, gint32 *column);
2892 void mono_set_cast_details                      (MonoClass *from, MonoClass *to);
2893
2894 /* Installs a function which is called when the runtime encounters an unhandled exception.
2895  * This hook isn't expected to return.
2896  * If no hook has been installed, the runtime will print a message before aborting.
2897  */
2898 typedef void  (*MonoUnhandledExceptionFunc)         (MonoObject *exc, gpointer user_data);
2899 MONO_API void mono_install_unhandled_exception_hook (MonoUnhandledExceptionFunc func, gpointer user_data);
2900 void          mono_invoke_unhandled_exception_hook  (MonoObject *exc);
2901
2902 /* Dominator/SSA methods */
2903 void        mono_compile_dominator_info         (MonoCompile *cfg, int dom_flags);
2904 void        mono_compute_natural_loops          (MonoCompile *cfg);
2905 MonoBitSet* mono_compile_iterated_dfrontier     (MonoCompile *cfg, MonoBitSet *set);
2906 void        mono_ssa_compute                    (MonoCompile *cfg);
2907 void        mono_ssa_remove                     (MonoCompile *cfg);
2908 void        mono_ssa_remove_gsharedvt           (MonoCompile *cfg);
2909 void        mono_ssa_cprop                      (MonoCompile *cfg);
2910 void        mono_ssa_deadce                     (MonoCompile *cfg);
2911 void        mono_ssa_strength_reduction         (MonoCompile *cfg);
2912 void        mono_free_loop_info                 (MonoCompile *cfg);
2913 void        mono_ssa_loop_invariant_code_motion (MonoCompile *cfg);
2914
2915 void        mono_ssa_compute2                   (MonoCompile *cfg);
2916 void        mono_ssa_remove2                    (MonoCompile *cfg);
2917 void        mono_ssa_cprop2                     (MonoCompile *cfg);
2918 void        mono_ssa_deadce2                    (MonoCompile *cfg);
2919
2920 /* debugging support */
2921 void      mono_debug_init_method                (MonoCompile *cfg, MonoBasicBlock *start_block,
2922                                                  guint32 breakpoint_id);
2923 void      mono_debug_open_method                (MonoCompile *cfg);
2924 void      mono_debug_close_method               (MonoCompile *cfg);
2925 void      mono_debug_free_method                (MonoCompile *cfg);
2926 void      mono_debug_open_block                 (MonoCompile *cfg, MonoBasicBlock *bb, guint32 address);
2927 void      mono_debug_record_line_number         (MonoCompile *cfg, MonoInst *ins, guint32 address);
2928 void      mono_debug_serialize_debug_info       (MonoCompile *cfg, guint8 **out_buf, guint32 *buf_len);
2929 void      mono_debug_add_aot_method             (MonoDomain *domain,
2930                                                  MonoMethod *method, guint8 *code_start,
2931                                                  guint8 *debug_info, guint32 debug_info_len);
2932 MONO_API void      mono_debug_print_vars                 (gpointer ip, gboolean only_arguments);
2933 MONO_API void      mono_debugger_run_finally             (MonoContext *start_ctx);
2934
2935 MONO_API gboolean mono_breakpoint_clean_code (guint8 *method_start, guint8 *code, int offset, guint8 *buf, int size);
2936
2937 /* Tracing */
2938 MonoTraceSpec *mono_trace_parse_options         (const char *options);
2939 void           mono_trace_set_assembly          (MonoAssembly *assembly);
2940 gboolean       mono_trace_eval                  (MonoMethod *method);
2941
2942 extern void
2943 mono_perform_abc_removal (MonoCompile *cfg);
2944 extern void
2945 mono_perform_abc_removal (MonoCompile *cfg);
2946 extern void
2947 mono_perform_ssapre (MonoCompile *cfg);
2948 extern void
2949 mono_local_cprop (MonoCompile *cfg);
2950 extern void
2951 mono_local_cprop (MonoCompile *cfg);
2952 extern void
2953 mono_local_deadce (MonoCompile *cfg);
2954 void
2955 mono_local_alias_analysis (MonoCompile *cfg);
2956
2957 /* Generic sharing */
2958
2959 void
2960 mono_set_generic_sharing_supported (gboolean supported);
2961
2962 void
2963 mono_set_generic_sharing_vt_supported (gboolean supported);
2964
2965 void
2966 mono_set_partial_sharing_supported (gboolean supported);
2967
2968 gboolean
2969 mono_class_generic_sharing_enabled (MonoClass *klass);
2970
2971 gpointer
2972 mono_class_fill_runtime_generic_context (MonoVTable *class_vtable, guint32 slot, MonoError *error);
2973
2974 gpointer
2975 mono_method_fill_runtime_generic_context (MonoMethodRuntimeGenericContext *mrgctx, guint32 slot, MonoError *error);
2976
2977 MonoMethodRuntimeGenericContext*
2978 mono_method_lookup_rgctx (MonoVTable *class_vtable, MonoGenericInst *method_inst);
2979
2980 const char*
2981 mono_rgctx_info_type_to_str (MonoRgctxInfoType type);
2982
2983 MonoJumpInfoType
2984 mini_rgctx_info_type_to_patch_info_type (MonoRgctxInfoType info_type);
2985
2986 gboolean
2987 mono_method_needs_static_rgctx_invoke (MonoMethod *method, gboolean allow_type_vars);
2988
2989 int
2990 mono_class_rgctx_get_array_size (int n, gboolean mrgctx);
2991
2992 guint32
2993 mono_method_lookup_or_register_info (MonoMethod *method, gboolean in_mrgctx, gpointer data,
2994         MonoRgctxInfoType info_type, MonoGenericContext *generic_context);
2995
2996 MonoGenericContext
2997 mono_method_construct_object_context (MonoMethod *method);
2998
2999 MonoMethod*
3000 mono_method_get_declaring_generic_method (MonoMethod *method);
3001
3002 int
3003 mono_generic_context_check_used (MonoGenericContext *context);
3004
3005 int
3006 mono_class_check_context_used (MonoClass *klass);
3007
3008 gboolean
3009 mono_generic_context_is_sharable (MonoGenericContext *context, gboolean allow_type_vars);
3010
3011 gboolean
3012 mono_generic_context_is_sharable_full (MonoGenericContext *context, gboolean allow_type_vars, gboolean allow_partial);
3013
3014 gboolean
3015 mono_method_is_generic_impl (MonoMethod *method);
3016
3017 gboolean
3018 mono_method_is_generic_sharable (MonoMethod *method, gboolean allow_type_vars);
3019
3020 gboolean
3021 mono_method_is_generic_sharable_full (MonoMethod *method, gboolean allow_type_vars, gboolean allow_partial, gboolean allow_gsharedvt);
3022
3023 gboolean
3024 mini_class_is_generic_sharable (MonoClass *klass);
3025
3026
3027 gboolean
3028 mini_generic_inst_is_sharable (MonoGenericInst *inst, gboolean allow_type_vars, gboolean allow_partial);
3029
3030 gboolean
3031 mono_is_partially_sharable_inst (MonoGenericInst *inst);
3032
3033 gboolean
3034 mini_is_gsharedvt_gparam (MonoType *t);
3035
3036 MonoGenericContext* mini_method_get_context (MonoMethod *method);
3037
3038 int mono_method_check_context_used (MonoMethod *method);
3039
3040 gboolean mono_generic_context_equal_deep (MonoGenericContext *context1, MonoGenericContext *context2);
3041
3042 gpointer mono_helper_get_rgctx_other_ptr (MonoClass *caller_class, MonoVTable *vtable,
3043                                           guint32 token, guint32 token_source, guint32 rgctx_type,
3044                                           gint32 rgctx_index);
3045
3046 void mono_generic_sharing_init (void);
3047 void mono_generic_sharing_cleanup (void);
3048
3049 MonoClass* mini_class_get_container_class (MonoClass *klass);
3050 MonoGenericContext* mini_class_get_context (MonoClass *klass);
3051
3052 MonoType* mini_get_underlying_type (MonoType *type) MONO_LLVM_INTERNAL;
3053 MonoType* mini_type_get_underlying_type (MonoType *type);
3054 MonoMethod* mini_get_shared_method (MonoMethod *method);
3055 MonoMethod* mini_get_shared_method_to_register (MonoMethod *method);
3056 MonoMethod* mini_get_shared_method_full (MonoMethod *method, gboolean all_vt, gboolean is_gsharedvt);
3057 MonoType* mini_get_shared_gparam (MonoType *t, MonoType *constraint);
3058 int mini_get_rgctx_entry_slot (MonoJumpInfoRgctxEntry *entry);
3059
3060 int mini_type_stack_size (MonoType *t, int *align);
3061 int mini_type_stack_size_full (MonoType *t, guint32 *align, gboolean pinvoke);
3062 void type_to_eval_stack_type (MonoCompile *cfg, MonoType *type, MonoInst *inst);
3063 guint mono_type_to_regmove (MonoCompile *cfg, MonoType *type) MONO_LLVM_INTERNAL;
3064
3065 void mono_cfg_add_try_hole (MonoCompile *cfg, MonoExceptionClause *clause, guint8 *start, MonoBasicBlock *bb);
3066
3067 void mono_cfg_set_exception (MonoCompile *cfg, int type);
3068 void mono_cfg_set_exception_invalid_program (MonoCompile *cfg, char *msg);
3069
3070 #define MONO_TIME_TRACK(a, phase) \
3071         { \
3072                 GTimer *timer = mono_time_track_start (); \
3073                 (phase) ; \
3074                 mono_time_track_end (&(a), timer); \
3075         }
3076
3077 GTimer *mono_time_track_start (void);
3078 void mono_time_track_end (double *time, GTimer *timer);
3079
3080 void mono_update_jit_stats (MonoCompile *cfg);
3081
3082 gboolean mini_type_is_reference (MonoType *type);
3083 gboolean mini_type_is_vtype (MonoType *t) MONO_LLVM_INTERNAL;
3084 gboolean mini_type_var_is_vt (MonoType *type) MONO_LLVM_INTERNAL;
3085 gboolean mini_is_gsharedvt_type (MonoType *t);
3086 gboolean mini_is_gsharedvt_klass (MonoClass *klass) MONO_LLVM_INTERNAL;
3087 gboolean mini_is_gsharedvt_signature (MonoMethodSignature *sig);
3088 gboolean mini_is_gsharedvt_variable_type (MonoType *t) MONO_LLVM_INTERNAL;
3089 gboolean mini_is_gsharedvt_variable_klass (MonoClass *klass) MONO_LLVM_INTERNAL;
3090 gboolean mini_is_gsharedvt_sharable_method (MonoMethod *method);
3091 gboolean mini_is_gsharedvt_variable_signature (MonoMethodSignature *sig);
3092 gboolean mini_is_gsharedvt_sharable_inst (MonoGenericInst *inst);
3093 gpointer mini_method_get_rgctx (MonoMethod *m);
3094 void mini_init_gsctx (MonoDomain *domain, MonoMemPool *mp, MonoGenericContext *context, MonoGenericSharingContext *gsctx);
3095
3096 gpointer mini_get_gsharedvt_wrapper (gboolean gsharedvt_in, gpointer addr, MonoMethodSignature *normal_sig, MonoMethodSignature *gsharedvt_sig,
3097                                                                          gint32 vcall_offset, gboolean calli);
3098 MonoMethod* mini_get_gsharedvt_in_sig_wrapper (MonoMethodSignature *sig);
3099 MonoMethod* mini_get_gsharedvt_out_sig_wrapper (MonoMethodSignature *sig);
3100 MonoMethodSignature* mini_get_gsharedvt_out_sig_wrapper_signature (gboolean has_this, gboolean has_ret, int param_count);
3101 gboolean mini_gsharedvt_runtime_invoke_supported (MonoMethodSignature *sig);
3102
3103 /* SIMD support */
3104
3105 /*
3106 This enum MUST be kept in sync with its managed mirror Mono.Simd.AccelMode.
3107  */
3108 enum {
3109         SIMD_VERSION_SSE1       = 1 << 0,
3110         SIMD_VERSION_SSE2       = 1 << 1,
3111         SIMD_VERSION_SSE3       = 1 << 2,
3112         SIMD_VERSION_SSSE3      = 1 << 3,
3113         SIMD_VERSION_SSE41      = 1 << 4,
3114         SIMD_VERSION_SSE42      = 1 << 5,
3115         SIMD_VERSION_SSE4a      = 1 << 6,
3116         SIMD_VERSION_ALL        = SIMD_VERSION_SSE1 | SIMD_VERSION_SSE2 |
3117                           SIMD_VERSION_SSE3 | SIMD_VERSION_SSSE3 |
3118                           SIMD_VERSION_SSE41 | SIMD_VERSION_SSE42 |
3119                           SIMD_VERSION_SSE4a,
3120
3121         /* this value marks the end of the bit indexes used in
3122          * this emum.
3123          */
3124         SIMD_VERSION_INDEX_END = 6
3125 };
3126
3127 enum {
3128         SIMD_COMP_EQ,
3129         SIMD_COMP_LT,
3130         SIMD_COMP_LE,
3131         SIMD_COMP_UNORD,
3132         SIMD_COMP_NEQ,
3133         SIMD_COMP_NLT,
3134         SIMD_COMP_NLE,
3135         SIMD_COMP_ORD
3136 };
3137
3138 enum {
3139         SIMD_PREFETCH_MODE_NTA,
3140         SIMD_PREFETCH_MODE_0,
3141         SIMD_PREFETCH_MODE_1,
3142         SIMD_PREFETCH_MODE_2,
3143 };
3144
3145 const char *mono_arch_xregname (int reg);
3146 void        mono_simd_simplify_indirection (MonoCompile *cfg);
3147 MonoInst*   mono_emit_simd_intrinsics (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
3148 guint32     mono_arch_cpu_enumerate_simd_versions (void);
3149 void        mono_simd_intrinsics_init (void);
3150
3151 MonoInst*   mono_emit_native_types_intrinsics (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
3152 MonoType*   mini_native_type_replace_type (MonoType *type) MONO_LLVM_INTERNAL;
3153
3154 #ifdef __linux__
3155 #define XDEBUG_ENABLED 1
3156 #endif
3157
3158 #ifdef __linux__
3159 /* maybe enable also for other systems? */
3160 #define ENABLE_JIT_MAP 1
3161 void mono_enable_jit_map (void);
3162 void mono_emit_jit_map   (MonoJitInfo *jinfo);
3163 void mono_emit_jit_tramp (void *start, int size, const char *desc);
3164 gboolean mono_jit_map_is_enabled (void);
3165 #else
3166 #define mono_enable_jit_map()
3167 #define mono_emit_jit_map(ji)
3168 #define mono_emit_jit_tramp(s,z,d)
3169 #define mono_jit_map_is_enabled() (0)
3170 #endif
3171
3172 /*
3173  * Per-OS implementation functions.
3174  */
3175 void mono_runtime_install_handlers (void);
3176 void mono_runtime_cleanup_handlers (void);
3177 void mono_runtime_setup_stat_profiler (void);
3178 void mono_runtime_shutdown_stat_profiler (void);
3179 void mono_runtime_posix_install_handlers (void);
3180 pid_t mono_runtime_syscall_fork (void);
3181 void mono_gdb_render_native_backtraces (pid_t crashed_pid);
3182
3183 void mono_cross_helpers_run (void);
3184
3185 /*
3186  * Signal handling
3187  */
3188
3189 #ifdef DISABLE_HW_TRAPS
3190  // Signal handlers not available
3191 #define MONO_ARCH_NEED_DIV_CHECK 1
3192 #endif
3193
3194 void MONO_SIG_HANDLER_SIGNATURE (mono_sigfpe_signal_handler) ;
3195 void MONO_SIG_HANDLER_SIGNATURE (mono_sigill_signal_handler) ;
3196 void MONO_SIG_HANDLER_SIGNATURE (mono_sigsegv_signal_handler);
3197 void MONO_SIG_HANDLER_SIGNATURE (mono_sigint_signal_handler) ;
3198 gboolean MONO_SIG_HANDLER_SIGNATURE (mono_chain_signal);
3199
3200 #ifndef MONO_ARCH_HAVE_TLS_GET
3201 #define MONO_ARCH_HAVE_TLS_GET 0
3202 #endif
3203
3204 #ifdef MONO_ARCH_VARARG_ICALLS
3205 #define ARCH_VARARG_ICALLS 1
3206 #else
3207 #define ARCH_VARARG_ICALLS 0
3208 #endif
3209
3210 /*
3211  * Native unwinder integration
3212  */
3213 void mono_exception_native_unwind (void *ctx, MONO_SIG_HANDLER_INFO_TYPE *info);
3214
3215
3216 #endif /* __MONO_MINI_H__ */