mono/mini/mini.h

   1 /*
   2  * Copyright 2002-2003 Ximian Inc
   3  * Copyright 2003-2011 Novell Inc
   4  * Copyright 2011 Xamarin Inc
   5  * Licensed under the MIT license. See LICENSE file in the project root for full license information.
   6  */
   7 #ifndef __MONO_MINI_H__
   8 #define __MONO_MINI_H__
   9
  10 #include "config.h"
  11 #include <glib.h>
  12 #ifdef HAVE_SIGNAL_H
  13 #include <signal.h>
  14 #endif
  15 #ifdef HAVE_SYS_TYPES_H
  16 #include <sys/types.h>
  17 #endif
  18 #include <mono/metadata/loader.h>
  19 #include <mono/metadata/mempool.h>
  20 #include <mono/utils/monobitset.h>
  21 #include <mono/metadata/class.h>
  22 #include <mono/metadata/object.h>
  23 #include <mono/metadata/opcodes.h>
  24 #include <mono/metadata/tabledefs.h>
  25 #include <mono/metadata/domain-internals.h>
  26 #include "mono/metadata/class-internals.h"
  27 #include "mono/metadata/object-internals.h"
  28 #include <mono/metadata/profiler-private.h>
  29 #include <mono/metadata/debug-helpers.h>
  30 #include <mono/utils/mono-compiler.h>
  31 #include <mono/utils/mono-machine.h>
  32 #include <mono/utils/mono-stack-unwinding.h>
  33 #include <mono/utils/mono-threads.h>
  34 #include <mono/utils/mono-threads-coop.h>
  35 #include <mono/utils/mono-tls.h>
  36 #include <mono/utils/atomic.h>
  37 #include <mono/utils/mono-conc-hashtable.h>
  38 #include <mono/utils/mono-signal-handler.h>
  39
  40 #include "mini-arch.h"
  41 #include "regalloc.h"
  42 #include "mini-unwind.h"
  43 #include "jit.h"
  44 #include "cfgdump.h"
  45
  46 #include "mono/metadata/class-internals.h"
  47 #include "mono/metadata/domain-internals.h"
  48 #include "mono/metadata/object.h"
  49 #include "mono/metadata/tabledefs.h"
  50 #include "mono/metadata/marshal.h"
  51 #include "mono/metadata/security-manager.h"
  52 #include "mono/metadata/exception.h"
  53 #include "mono/utils/mono-compiler.h"
  54
  55 #ifdef __native_client_codegen__
  56 #include <nacl/nacl_dyncode.h>
  57 #endif
  58
  59
  60 /*
  61  * The mini code should not have any compile time dependencies on the GC being used, so the same object file from mini/
  62  * can be linked into both mono and mono-sgen.
  63  */
  64 #if defined(HAVE_BOEHM_GC) || defined(HAVE_SGEN_GC)
  65 #error "The code in mini/ should not depend on these defines."
  66 #endif
  67
  68 #ifndef __GNUC__
  69 /*#define __alignof__(a) sizeof(a)*/
  70 #define __alignof__(type) G_STRUCT_OFFSET(struct { char c; type x; }, x)
  71 #endif
  72
  73 #if DISABLE_LOGGING
  74 #define MINI_DEBUG(level,limit,code)
  75 #else
  76 #define MINI_DEBUG(level,limit,code) do {if (G_UNLIKELY ((level) >= (limit))) code} while (0)
  77 #endif
  78
  79 #if !defined(DISABLE_TASKLETS) && defined(MONO_ARCH_SUPPORT_TASKLETS)
  80 #if defined(__GNUC__)
  81 #define MONO_SUPPORT_TASKLETS 1
  82 #elif defined(HOST_WIN32)
  83 #define MONO_SUPPORT_TASKLETS 1
  84 // Replace some gnu intrinsics needed for tasklets with MSVC equivalents.
  85 #define __builtin_extract_return_addr(x) x
  86 #define __builtin_return_address(x) _ReturnAddress()
  87 #define __builtin_frame_address(x) _AddressOfReturnAddress()
  88 #endif
  89 #endif
  90
  91 #if ENABLE_LLVM
  92 #define COMPILE_LLVM(cfg) ((cfg)->compile_llvm)
  93 #define LLVM_ENABLED TRUE
  94 #else
  95 #define COMPILE_LLVM(cfg) (0)
  96 #define LLVM_ENABLED FALSE
  97 #endif
  98
  99 #ifdef MONO_ARCH_SOFT_FLOAT_FALLBACK
 100 #define COMPILE_SOFT_FLOAT(cfg) (!COMPILE_LLVM ((cfg)) && mono_arch_is_soft_float ())
 101 #else
 102 #define COMPILE_SOFT_FLOAT(cfg) (0)
 103 #endif
 104
 105 #define NOT_IMPLEMENTED do { g_assert_not_reached (); } while (0)
 106
 107 /* for 32 bit systems */
 108 #if G_BYTE_ORDER == G_LITTLE_ENDIAN
 109 #define MINI_LS_WORD_IDX 0
 110 #define MINI_MS_WORD_IDX 1
 111 #else
 112 #define MINI_LS_WORD_IDX 1
 113 #define MINI_MS_WORD_IDX 0
 114 #endif
 115 #define MINI_LS_WORD_OFFSET (MINI_LS_WORD_IDX * 4)
 116 #define MINI_MS_WORD_OFFSET (MINI_MS_WORD_IDX * 4)
 117 #define inst_ls_word data.op[MINI_LS_WORD_IDX].const_val
 118 #define inst_ms_word data.op[MINI_MS_WORD_IDX].const_val
 119
 120 #define MONO_LVREG_LS(lvreg)    ((lvreg) + 1)
 121 #define MONO_LVREG_MS(lvreg)    ((lvreg) + 2)
 122
 123 #ifndef DISABLE_AOT
 124 #define MONO_USE_AOT_COMPILER
 125 #endif
 126
 127 /* Version number of the AOT file format */
 128 #define MONO_AOT_FILE_VERSION 137
 129
 130 //TODO: This is x86/amd64 specific.
 131 #define mono_simd_shuffle_mask(a,b,c,d) ((a) | ((b) << 2) | ((c) << 4) | ((d) << 6))
 132
 133 /* Remap printf to g_print (we use a mix of these in the mini code) */
 134 #ifdef PLATFORM_ANDROID
 135 #define printf g_print
 136 #endif
 137
 138 #define MONO_TYPE_IS_PRIMITIVE(t) ((!(t)->byref && ((((t)->type >= MONO_TYPE_BOOLEAN && (t)->type <= MONO_TYPE_R8) || ((t)->type >= MONO_TYPE_I && (t)->type <= MONO_TYPE_U)))))
 139
 140 #define MONO_AOT_TRAMP_PAGE_SIZE 16384
 141
 142 /* Constants used to encode different types of methods in AOT */
 143 enum {
 144         MONO_AOT_METHODREF_MIN = 240,
 145         /* Image index bigger than METHODREF_MIN */
 146         MONO_AOT_METHODREF_LARGE_IMAGE_INDEX = 249,
 147         /* Runtime provided methods on arrays */
 148         MONO_AOT_METHODREF_ARRAY = 250,
 149         MONO_AOT_METHODREF_NO_AOT_TRAMPOLINE = 251,
 150         /* Wrappers */
 151         MONO_AOT_METHODREF_WRAPPER = 252,
 152         /* Methods on generic instances */
 153         MONO_AOT_METHODREF_GINST = 253,
 154         /* Methods resolve using a METHODSPEC token */
 155         MONO_AOT_METHODREF_METHODSPEC = 254,
 156 };
 157
 158 /* Constants used to encode different types of types in AOT */
 159 enum {
 160         /* typedef index */
 161         MONO_AOT_TYPEREF_TYPEDEF_INDEX = 1,
 162         /* typedef index + image index */
 163         MONO_AOT_TYPEREF_TYPEDEF_INDEX_IMAGE = 2,
 164         /* typespec token */
 165         MONO_AOT_TYPEREF_TYPESPEC_TOKEN = 3,
 166         /* generic inst */
 167         MONO_AOT_TYPEREF_GINST = 4,
 168         /* type/method variable */
 169         MONO_AOT_TYPEREF_VAR = 5,
 170         /* array */
 171         MONO_AOT_TYPEREF_ARRAY = 6,
 172         /* blob index of the type encoding */
 173         MONO_AOT_TYPEREF_BLOB_INDEX = 7,
 174         /* ptr */
 175         MONO_AOT_TYPEREF_PTR = 8
 176 };
 177
 178 /* Trampolines which we have a lot of */
 179 typedef enum {
 180         MONO_AOT_TRAMP_SPECIFIC = 0,
 181         MONO_AOT_TRAMP_STATIC_RGCTX = 1,
 182         MONO_AOT_TRAMP_IMT = 2,
 183         MONO_AOT_TRAMP_GSHAREDVT_ARG = 3,
 184         MONO_AOT_TRAMP_NUM = 4
 185 } MonoAotTrampoline;
 186
 187 typedef enum {
 188         MONO_AOT_FILE_FLAG_WITH_LLVM = 1,
 189         MONO_AOT_FILE_FLAG_FULL_AOT = 2,
 190         MONO_AOT_FILE_FLAG_DEBUG = 4,
 191         MONO_AOT_FILE_FLAG_LLVM_THUMB = 8,
 192         MONO_AOT_FILE_FLAG_LLVM_ONLY = 16,
 193         MONO_AOT_FILE_FLAG_SAFEPOINTS = 32,
 194         MONO_AOT_FILE_FLAG_SEPARATE_DATA = 64,
 195 } MonoAotFileFlags;
 196
 197 typedef enum {
 198         MONO_AOT_TABLE_BLOB,
 199         MONO_AOT_TABLE_IMAGE_TABLE,
 200         MONO_AOT_TABLE_CLASS_NAME,
 201         MONO_AOT_TABLE_METHOD_INFO_OFFSETS,
 202         MONO_AOT_TABLE_EX_INFO_OFFSETS,
 203         MONO_AOT_TABLE_CLASS_INFO_OFFSETS,
 204         MONO_AOT_TABLE_GOT_INFO_OFFSETS,
 205         MONO_AOT_TABLE_LLVM_GOT_INFO_OFFSETS,
 206         MONO_AOT_TABLE_EXTRA_METHOD_INFO_OFFSETS,
 207         MONO_AOT_TABLE_EXTRA_METHOD_TABLE,
 208         MONO_AOT_TABLE_NUM
 209 } MonoAotFileTable;
 210
 211 /* This structure is stored in the AOT file */
 212 typedef struct MonoAotFileInfo
 213 {
 214         /* The version number of the AOT file format, should match MONO_AOT_FILE_VERSION */
 215         guint32 version;
 216         /* For alignment */
 217         guint32 dummy;
 218
 219         /* All the pointers should be at the start to avoid alignment problems */
 220         /* Symbols */
 221 #define MONO_AOT_FILE_INFO_FIRST_SYMBOL jit_got
 222         /* Global Offset Table for JITted code */
 223         gpointer jit_got;
 224         /* Global Offset Table for LLVM code */
 225         gpointer llvm_got;
 226         /* Mono EH Frame created by llc when using LLVM */
 227         gpointer mono_eh_frame;
 228         /* Points to the get_method () function in the LLVM image or NULL */
 229         gpointer llvm_get_method;
 230         /* Points to the get_unbox_tramp () function in the LLVM image or NULL */
 231         gpointer llvm_get_unbox_tramp;
 232         gpointer jit_code_start;
 233         gpointer jit_code_end;
 234         gpointer method_addresses;
 235         /* Data blob */
 236         gpointer blob;
 237         gpointer class_name_table;
 238         gpointer class_info_offsets;
 239         gpointer method_info_offsets;
 240         gpointer ex_info_offsets;
 241         gpointer extra_method_info_offsets;
 242         gpointer extra_method_table;
 243         gpointer got_info_offsets;
 244         gpointer llvm_got_info_offsets;
 245         gpointer image_table;
 246         gpointer mem_end;
 247         /* The GUID of the assembly which the AOT image was generated from */
 248         gpointer assembly_guid;
 249         /*
 250          * The runtime version string for AOT images generated using 'bind-to-runtime-version',
 251          * NULL otherwise.
 252          */
 253         gpointer runtime_version;
 254         /* Blocks of various kinds of trampolines */
 255         gpointer specific_trampolines;
 256         gpointer static_rgctx_trampolines;
 257         gpointer imt_trampolines;
 258         gpointer gsharedvt_arg_trampolines;
 259         /* In static mode, points to a table of global symbols for trampolines etc */
 260         gpointer globals;
 261         /* Points to a string containing the assembly name*/
 262         gpointer assembly_name;
 263         /* Start of Mono's Program Linkage Table */
 264         gpointer plt;
 265         /* End of Mono's Program Linkage Table */
 266         gpointer plt_end;
 267         gpointer unwind_info;
 268         /* Points to a table mapping methods to their unbox trampolines */
 269         gpointer unbox_trampolines;
 270         /* Points to the end of the previous table */
 271         gpointer unbox_trampolines_end;
 272         /* Points to a table of unbox trampoline addresses/offsets */
 273         gpointer unbox_trampoline_addresses;
 274 #define MONO_AOT_FILE_INFO_LAST_SYMBOL unbox_trampoline_addresses
 275
 276         /* Scalars */
 277         /* The index of the first GOT slot used by the PLT */
 278         guint32 plt_got_offset_base;
 279         /* Number of entries in the GOT */
 280         guint32 got_size;
 281         /* Number of entries in the PLT */
 282         guint32 plt_size;
 283         /* Number of methods */
 284         guint32 nmethods;
 285         /* A union of MonoAotFileFlags */
 286         guint32 flags;
 287         /* Optimization flags used to compile the module */
 288         guint32 opts;
 289         /* SIMD flags used to compile the module */
 290         guint32 simd_opts;
 291         /* Index of the blob entry holding the GC used by this module */
 292         gint32 gc_name_index;
 293         guint32 num_rgctx_fetch_trampolines;
 294         /* These are used for sanity checking object layout problems when cross-compiling */
 295         guint32 double_align, long_align, generic_tramp_num;
 296         /* The page size used by trampoline pages */
 297         guint32 tramp_page_size;
 298         /*
 299          * The number of GOT entries which need to be preinitialized when the
 300          * module is loaded.
 301          */
 302         guint32 nshared_got_entries;
 303         /* The size of the data file, if MONO_AOT_FILE_FLAG_SEPARATE_DATA is set */
 304         guint32 datafile_size;
 305
 306         /* Arrays */
 307         /* Offsets for tables inside the data file if MONO_AOT_FILE_FLAG_SEPARATE_DATA is set */
 308         // FIXME: Sync with AOT
 309         guint32 table_offsets [MONO_AOT_TABLE_NUM];
 310         /* Number of trampolines */
 311         guint32 num_trampolines [MONO_AOT_TRAMP_NUM];
 312         /* The indexes of the first GOT slots used by the trampolines */
 313         guint32 trampoline_got_offset_base [MONO_AOT_TRAMP_NUM];
 314         /* The size of one trampoline */
 315         guint32 trampoline_size [MONO_AOT_TRAMP_NUM];
 316         /* The offset where the trampolines begin on a trampoline page */
 317         guint32 tramp_page_code_offsets [MONO_AOT_TRAMP_NUM];
 318         /* GUID of aot compilation */
 319         guint8 aotid[16];
 320 } MonoAotFileInfo;
 321
 322 /* Number of symbols in the MonoAotFileInfo structure */
 323 #define MONO_AOT_FILE_INFO_NUM_SYMBOLS (((G_STRUCT_OFFSET (MonoAotFileInfo, MONO_AOT_FILE_INFO_LAST_SYMBOL) - G_STRUCT_OFFSET (MonoAotFileInfo, MONO_AOT_FILE_INFO_FIRST_SYMBOL)) / sizeof (gpointer)) + 1)
 324
 325 typedef struct
 326 {
 327         MonoClass *klass;
 328         MonoMethod *method;
 329 } MonoClassMethodPair;
 330
 331 typedef struct
 332 {
 333         MonoClass *klass;
 334         MonoMethod *method;
 335         gboolean is_virtual;
 336 } MonoDelegateClassMethodPair;
 337
 338 /* Per-domain information maintained by the JIT */
 339 typedef struct
 340 {
 341         /* Maps MonoMethod's to a GSList of GOT slot addresses pointing to its code */
 342         GHashTable *jump_target_got_slot_hash;
 343         GHashTable *jump_target_hash;
 344         /* Maps methods/klasses to the address of the given type of trampoline */
 345         GHashTable *class_init_trampoline_hash;
 346         GHashTable *jump_trampoline_hash;
 347         GHashTable *jit_trampoline_hash;
 348         GHashTable *delegate_trampoline_hash;
 349         /* Maps ClassMethodPair -> MonoDelegateTrampInfo */
 350         GHashTable *static_rgctx_trampoline_hash;
 351         GHashTable *llvm_vcall_trampoline_hash;
 352         /* maps MonoMethod -> MonoJitDynamicMethodInfo */
 353         GHashTable *dynamic_code_hash;
 354         GHashTable *method_code_hash;
 355         /* Maps methods to a RuntimeInvokeInfo structure, protected by the associated MonoDomain lock */
 356         MonoConcurrentHashTable *runtime_invoke_hash;
 357         /* Maps MonoMethod to a GPtrArray containing sequence point locations */
 358         /* Protected by the domain lock */
 359         GHashTable *seq_points;
 360         /* Debugger agent data */
 361         gpointer agent_info;
 362         /* Maps MonoMethod to an arch-specific structure */
 363         GHashTable *arch_seq_points;
 364         /* Maps a GSharedVtTrampInfo structure to a trampoline address */
 365         GHashTable *gsharedvt_arg_tramp_hash;
 366         /* memcpy/bzero methods specialized for small constant sizes */
 367         gpointer *memcpy_addr [17];
 368         gpointer *bzero_addr [17];
 369         gpointer llvm_module;
 370         /* Maps MonoMethod -> GSlist of addresses */
 371         GHashTable *llvm_jit_callees;
 372 } MonoJitDomainInfo;
 373
 374 typedef struct {
 375         MonoJitInfo *ji;
 376         MonoCodeManager *code_mp;
 377 } MonoJitDynamicMethodInfo;
 378
 379 /* An extension of MonoGenericParamFull used in generic sharing */
 380 typedef struct {
 381         MonoGenericParamFull param;
 382         MonoGenericParam *parent;
 383 } MonoGSharedGenericParam;
 384
 385 #define domain_jit_info(domain) ((MonoJitDomainInfo*)((domain)->runtime_info))
 386
 387 /* Contains a list of ips which needs to be patched when a method is compiled */
 388 typedef struct {
 389         GSList *list;
 390 } MonoJumpList;
 391
 392 /* Arch-specific */
 393 typedef struct {
 394         int dummy;
 395 } MonoDynCallInfo;
 396
 397 /*
 398  * Information about a stack frame.
 399  * FIXME This typedef exists only to avoid tons of code rewriting
 400  */
 401 typedef MonoStackFrameInfo StackFrameInfo;
 402
 403 #if 0
 404 #define mono_bitset_foreach_bit(set,b,n) \
 405         for (b = 0; b < n; b++)\
 406                 if (mono_bitset_test_fast(set,b))
 407 #else
 408 #define mono_bitset_foreach_bit(set,b,n) \
 409         for (b = mono_bitset_find_start (set); b < n && b >= 0; b = mono_bitset_find_first (set, b))
 410 #endif
 411
 412 /*
 413  * Pull the list of opcodes
 414  */
 415 #define OPDEF(a,b,c,d,e,f,g,h,i,j) \
 416         a = i,
 417
 418 enum {
 419 #include "mono/cil/opcode.def"
 420         CEE_LASTOP
 421 };
 422 #undef OPDEF
 423
 424 #define MONO_VARINFO(cfg,varnum) (&(cfg)->vars [varnum])
 425
 426 #define MONO_INST_NULLIFY_SREGS(dest) do {                              \
 427                 (dest)->sreg1 = (dest)->sreg2 = (dest)->sreg3 = -1;     \
 428         } while (0)
 429
 430 #define MONO_INST_NEW(cfg,dest,op) do { \
 431                 (dest) = (MonoInst *)mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));   \
 432                 (dest)->opcode = (op);  \
 433                 (dest)->dreg = -1;                          \
 434                 MONO_INST_NULLIFY_SREGS ((dest));           \
 435         (dest)->cil_code = (cfg)->ip;  \
 436         } while (0)
 437
 438 #define MONO_INST_NEW_CALL(cfg,dest,op) do {    \
 439                 (dest) = (MonoCallInst *)mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoCallInst));   \
 440                 (dest)->inst.opcode = (op);     \
 441                 (dest)->inst.dreg = -1;                                 \
 442                 MONO_INST_NULLIFY_SREGS (&(dest)->inst);                \
 443         (dest)->inst.cil_code = (cfg)->ip;  \
 444         } while (0)
 445
 446 #define MONO_ADD_INS(b,inst) do {       \
 447                 if ((b)->last_ins) {    \
 448                         (b)->last_ins->next = (inst);   \
 449             (inst)->prev = (b)->last_ins;   \
 450                         (b)->last_ins = (inst); \
 451                 } else {        \
 452                         (b)->code = (b)->last_ins = (inst);     \
 453                 }       \
 454         } while (0)
 455
 456 #define NULLIFY_INS(ins) do { \
 457         (ins)->opcode = OP_NOP; \
 458         (ins)->dreg = -1;                               \
 459         MONO_INST_NULLIFY_SREGS ((ins));                \
 460     } while (0)
 461
 462 /* Remove INS from BB */
 463 #define MONO_REMOVE_INS(bb,ins) do { \
 464         if ((ins)->prev) \
 465             (ins)->prev->next = (ins)->next; \
 466         if ((ins)->next) \
 467             (ins)->next->prev = (ins)->prev; \
 468         if ((bb)->code == (ins)) \
 469             (bb)->code = (ins)->next; \
 470         if ((bb)->last_ins == (ins)) \
 471             (bb)->last_ins = (ins)->prev; \
 472     } while (0)
 473
 474 /* Remove INS from BB and nullify it */
 475 #define MONO_DELETE_INS(bb,ins) do { \
 476         MONO_REMOVE_INS ((bb), (ins)); \
 477         NULLIFY_INS ((ins)); \
 478     } while (0)
 479
 480 /*
 481  * this is used to determine when some branch optimizations are possible: we exclude FP compares
 482  * because they have weird semantics with NaNs.
 483  */
 484 #define MONO_IS_COND_BRANCH_OP(ins) (((ins)->opcode >= OP_LBEQ && (ins)->opcode <= OP_LBLT_UN) || ((ins)->opcode >= OP_FBEQ && (ins)->opcode <= OP_FBLT_UN) || ((ins)->opcode >= OP_IBEQ && (ins)->opcode <= OP_IBLT_UN))
 485 #define MONO_IS_COND_BRANCH_NOFP(ins) (MONO_IS_COND_BRANCH_OP(ins) && !(((ins)->opcode >= OP_FBEQ) && ((ins)->opcode <= OP_FBLT_UN)) && (!(ins)->inst_left || (ins)->inst_left->inst_left->type != STACK_R8))
 486
 487 #define MONO_IS_BRANCH_OP(ins) (MONO_IS_COND_BRANCH_OP(ins) || ((ins)->opcode == OP_BR) || ((ins)->opcode == OP_BR_REG) || ((ins)->opcode == OP_SWITCH))
 488
 489 #define MONO_IS_COND_EXC(ins) ((((ins)->opcode >= OP_COND_EXC_EQ) && ((ins)->opcode <= OP_COND_EXC_LT_UN)) || (((ins)->opcode >= OP_COND_EXC_IEQ) && ((ins)->opcode <= OP_COND_EXC_ILT_UN)))
 490
 491 #define MONO_IS_SETCC(ins) ((((ins)->opcode >= OP_CEQ) && ((ins)->opcode <= OP_CLT_UN)) || (((ins)->opcode >= OP_ICEQ) && ((ins)->opcode <= OP_ICLE_UN)) || (((ins)->opcode >= OP_LCEQ) && ((ins)->opcode <= OP_LCLT_UN)) || (((ins)->opcode >= OP_FCEQ) && ((ins)->opcode <= OP_FCLT_UN)))
 492
 493 #define MONO_HAS_CUSTOM_EMULATION(ins) (((ins)->opcode >= OP_FBEQ && (ins)->opcode <= OP_FBLT_UN) || ((ins)->opcode >= OP_FCEQ && (ins)->opcode <= OP_FCLT_UN))
 494
 495 #define MONO_IS_LOAD_MEMBASE(ins) (((ins)->opcode >= OP_LOAD_MEMBASE && (ins)->opcode <= OP_LOADV_MEMBASE) || ((ins)->opcode >= OP_ATOMIC_LOAD_I1 && (ins)->opcode <= OP_ATOMIC_LOAD_R8))
 496 #define MONO_IS_STORE_MEMBASE(ins) (((ins)->opcode >= OP_STORE_MEMBASE_REG && (ins)->opcode <= OP_STOREV_MEMBASE) || ((ins)->opcode >= OP_ATOMIC_STORE_I1 && (ins)->opcode <= OP_ATOMIC_STORE_R8))
 497 #define MONO_IS_STORE_MEMINDEX(ins) (((ins)->opcode >= OP_STORE_MEMINDEX) && ((ins)->opcode <= OP_STORER8_MEMINDEX))
 498
 499 // OP_DYN_CALL is not a MonoCallInst
 500 #define MONO_IS_CALL(ins) (((ins->opcode >= OP_VOIDCALL) && (ins->opcode <= OP_VCALL2_MEMBASE)) || (ins->opcode == OP_TAILCALL))
 501
 502 #define MONO_IS_JUMP_TABLE(ins) (((ins)->opcode == OP_JUMP_TABLE) ? TRUE : ((((ins)->opcode == OP_AOTCONST) && (ins->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? TRUE : ((ins)->opcode == OP_SWITCH) ? TRUE : ((((ins)->opcode == OP_GOT_ENTRY) && ((ins)->inst_right->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? TRUE : FALSE)))
 503
 504 #define MONO_JUMP_TABLE_FROM_INS(ins) (((ins)->opcode == OP_JUMP_TABLE) ? (ins)->inst_p0 : (((ins)->opcode == OP_AOTCONST) && (ins->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH) ? (ins)->inst_p0 : (((ins)->opcode == OP_SWITCH) ? (ins)->inst_p0 : ((((ins)->opcode == OP_GOT_ENTRY) && ((ins)->inst_right->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? (ins)->inst_right->inst_p0 : NULL))))
 505
 506 /* FIXME: Add more instructions */
 507 /* INEG sets the condition codes, and the OP_LNEG decomposition depends on this on x86 */
 508 #define MONO_INS_HAS_NO_SIDE_EFFECT(ins) (MONO_IS_MOVE (ins) || (ins->opcode == OP_ICONST) || (ins->opcode == OP_I8CONST) || MONO_IS_ZERO (ins) || (ins->opcode == OP_ADD_IMM) || (ins->opcode == OP_R8CONST) || (ins->opcode == OP_LADD_IMM) || (ins->opcode == OP_ISUB_IMM) || (ins->opcode == OP_IADD_IMM) || (ins->opcode == OP_LNEG) || (ins->opcode == OP_ISUB) || (ins->opcode == OP_CMOV_IGE) || (ins->opcode == OP_ISHL_IMM) || (ins->opcode == OP_ISHR_IMM) || (ins->opcode == OP_ISHR_UN_IMM) || (ins->opcode == OP_IAND_IMM) || (ins->opcode == OP_ICONV_TO_U1) || (ins->opcode == OP_ICONV_TO_I1) || (ins->opcode == OP_SEXT_I4) || (ins->opcode == OP_LCONV_TO_U1) || (ins->opcode == OP_ICONV_TO_U2) || (ins->opcode == OP_ICONV_TO_I2) || (ins->opcode == OP_LCONV_TO_I2) || (ins->opcode == OP_LDADDR) || (ins->opcode == OP_PHI) || (ins->opcode == OP_NOP) || (ins->opcode == OP_ZEXT_I4) || (ins->opcode == OP_NOT_NULL) || (ins->opcode == OP_IL_SEQ_POINT))
 509
 510 #define MONO_METHOD_IS_FINAL(m) (((m)->flags & METHOD_ATTRIBUTE_FINAL) || ((m)->klass && ((m)->klass->flags & TYPE_ATTRIBUTE_SEALED)))
 511
 512
 513 #ifdef MONO_ARCH_SIMD_INTRINSICS
 514
 515 #define MONO_IS_PHI(ins) (((ins)->opcode == OP_PHI) || ((ins)->opcode == OP_FPHI) || ((ins)->opcode == OP_VPHI)  || ((ins)->opcode == OP_XPHI))
 516 #define MONO_IS_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_XMOVE) || ((ins)->opcode == OP_RMOVE))
 517 #define MONO_IS_NON_FP_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_XMOVE))
 518 #define MONO_IS_REAL_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_XMOVE) || ((ins)->opcode == OP_RMOVE))
 519 #define MONO_IS_ZERO(ins) (((ins)->opcode == OP_VZERO) || ((ins)->opcode == OP_XZERO))
 520
 521 #define MONO_CLASS_IS_SIMD(cfg, klass) (((cfg)->opt & MONO_OPT_SIMD) && (klass)->simd_type)
 522
 523 #else
 524
 525 #define MONO_IS_PHI(ins) (((ins)->opcode == OP_PHI) || ((ins)->opcode == OP_FPHI) || ((ins)->opcode == OP_VPHI))
 526 #define MONO_IS_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_RMOVE))
 527 #define MONO_IS_NON_FP_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_VMOVE))
 528 /*A real MOVE is one that isn't decomposed such as a VMOVE or LMOVE*/
 529 #define MONO_IS_REAL_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_RMOVE))
 530 #define MONO_IS_ZERO(ins) ((ins)->opcode == OP_VZERO)
 531
 532 #define MONO_CLASS_IS_SIMD(cfg, klass) (0)
 533
 534 #endif
 535
 536 typedef struct MonoInstList MonoInstList;
 537 typedef struct MonoInst MonoInst;
 538 typedef struct MonoCallInst MonoCallInst;
 539 typedef struct MonoCallArgParm MonoCallArgParm;
 540 typedef struct MonoMethodVar MonoMethodVar;
 541 typedef struct MonoBasicBlock MonoBasicBlock;
 542 typedef struct MonoLMF MonoLMF;
 543 typedef struct MonoSpillInfo MonoSpillInfo;
 544 typedef struct MonoTraceSpec MonoTraceSpec;
 545
 546 extern MonoNativeTlsKey mono_jit_tls_id;
 547 extern MonoTraceSpec *mono_jit_trace_calls;
 548 extern gboolean mono_break_on_exc;
 549 extern int mono_exc_esp_offset;
 550 extern gboolean mono_compile_aot;
 551 extern gboolean mono_aot_only;
 552 extern gboolean mono_llvm_only;
 553 extern MonoAotMode mono_aot_mode;
 554 extern MonoMethodDesc *mono_inject_async_exc_method;
 555 extern int mono_inject_async_exc_pos;
 556 extern MonoMethodDesc *mono_break_at_bb_method;
 557 extern int mono_break_at_bb_bb_num;
 558 extern gboolean mono_verify_all;
 559 extern gboolean mono_do_x86_stack_align;
 560 extern const char *mono_build_date;
 561 extern gboolean mono_do_signal_chaining;
 562 extern gboolean mono_do_crash_chaining;
 563 extern MONO_API gboolean mono_use_llvm;
 564 extern gboolean mono_do_single_method_regression;
 565 extern guint32 mono_single_method_regression_opt;
 566 extern MonoMethod *mono_current_single_method;
 567 extern GSList *mono_single_method_list;
 568 extern GHashTable *mono_single_method_hash;
 569 extern gboolean mono_using_xdebug;
 570 extern int mini_verbose;
 571 extern int valgrind_register;
 572
 573 #define INS_INFO(opcode) (&ins_info [((opcode) - OP_START - 1) * 4])
 574
 575 extern const char ins_info[];
 576 extern const gint8 ins_sreg_counts [];
 577
 578 #ifndef DISABLE_JIT
 579 #define mono_inst_get_num_src_registers(ins) (ins_sreg_counts [(ins)->opcode - OP_START - 1])
 580 #else
 581 #define mono_inst_get_num_src_registers(ins) 0
 582 #endif
 583
 584 #define mono_inst_get_src_registers(ins, regs) (((regs) [0] = (ins)->sreg1), ((regs) [1] = (ins)->sreg2), ((regs) [2] = (ins)->sreg3), mono_inst_get_num_src_registers ((ins)))
 585
 586 #define MONO_BB_FOR_EACH_INS(bb, ins) for ((ins) = (bb)->code; (ins); (ins) = (ins)->next)
 587
 588 #define MONO_BB_FOR_EACH_INS_SAFE(bb, n, ins) for ((ins) = (bb)->code, n = (ins) ? (ins)->next : NULL; (ins); (ins) = (n), (n) = (ins) ? (ins)->next : NULL)
 589
 590 #define MONO_BB_FOR_EACH_INS_REVERSE_SAFE(bb, p, ins) for ((ins) = (bb)->last_ins, p = (ins) ? (ins)->prev : NULL; (ins); (ins) = (p), (p) = (ins) ? (ins)->prev : NULL)
 591
 592 #define mono_bb_first_ins(bb) (bb)->code
 593
 594 struct MonoSpillInfo {
 595         int offset;
 596 };
 597
 598 /*
 599  * Information about a call site for the GC map creation code
 600  */
 601 typedef struct {
 602         /* The next offset after the call instruction */
 603         int pc_offset;
 604         /* The basic block containing the call site */
 605         MonoBasicBlock *bb;
 606         /*
 607          * The set of variables live at the call site.
 608          * Has length cfg->num_varinfo in bits.
 609          */
 610         guint8 *liveness;
 611         /*
 612          * List of OP_GC_PARAM_SLOT_LIVENESS_DEF instructions defining the param slots
 613          * used by this call.
 614          */
 615         GSList *param_slots;
 616 } GCCallSite;
 617
 618 /*
 619  * The IR-level extended basic block.
 620  *
 621  * A basic block can have multiple exits just fine, as long as the point of
 622  * 'departure' is the last instruction in the basic block. Extended basic
 623  * blocks, on the other hand, may have instructions that leave the block
 624  * midstream. The important thing is that they cannot be _entered_
 625  * midstream, ie, execution of a basic block (or extened bb) always start
 626  * at the beginning of the block, never in the middle.
 627  */
 628 struct MonoBasicBlock {
 629         MonoInst *last_ins;
 630
 631         /* the next basic block in the order it appears in IL */
 632         MonoBasicBlock *next_bb;
 633
 634         /*
 635          * Before instruction selection it is the first tree in the
 636          * forest and the first item in the list of trees. After
 637          * instruction selection it is the first instruction and the
 638          * first item in the list of instructions.
 639          */
 640         MonoInst *code;
 641
 642         /* unique block number identification */
 643         gint32 block_num;
 644
 645         gint32 dfn;
 646
 647         /* Basic blocks: incoming and outgoing counts and pointers */
 648         /* Each bb should only appear once in each array */
 649         gint16 out_count, in_count;
 650         MonoBasicBlock **in_bb;
 651         MonoBasicBlock **out_bb;
 652
 653         /* Points to the start of the CIL code that initiated this BB */
 654         unsigned char* cil_code;
 655
 656         /* Length of the CIL block */
 657         gint32 cil_length;
 658
 659         /* The offset of the generated code, used for fixups */
 660         int native_offset;
 661         /* The length of the generated code, doesn't include alignment padding */
 662         int native_length;
 663         /* The real native offset, which includes alignment padding too */
 664         int real_native_offset;
 665         int max_offset;
 666         int max_length;
 667
 668         /* Visited and reachable flags */
 669         guint32 flags;
 670
 671         /*
 672          * SSA and loop based flags
 673          */
 674         MonoBitSet *dominators;
 675         MonoBitSet *dfrontier;
 676         MonoBasicBlock *idom;
 677         GSList *dominated;
 678         /* fast dominator algorithm */
 679         MonoBasicBlock *df_parent, *ancestor, *child, *label;
 680         int size, sdom, idomn;
 681
 682         /* loop nesting and recognition */
 683         GList *loop_blocks;
 684         gint8  nesting;
 685         gint8  loop_body_start;
 686
 687         /*
 688          * Whenever the bblock is rarely executed so it should be emitted after
 689          * the function epilog.
 690          */
 691         guint out_of_line : 1;
 692         /* Caches the result of uselessness calculation during optimize_branches */
 693         guint not_useless : 1;
 694         /* Whenever the decompose_array_access_opts () pass needs to process this bblock */
 695         guint has_array_access : 1;
 696         /* Whenever this bblock is extended, ie. it has branches inside it */
 697         guint extended : 1;
 698         /* Whenever this bblock contains a OP_JUMP_TABLE instruction */
 699         guint has_jump_table : 1;
 700         /* Whenever this bblock contains an OP_CALL_HANDLER instruction */
 701         guint has_call_handler : 1;
 702         /* Whenever this bblock starts a try block */
 703         guint try_start : 1;
 704
 705 #ifdef ENABLE_LLVM
 706         /* The offset of the CIL instruction in this bblock which ends a try block */
 707         intptr_t try_end;
 708 #endif
 709
 710         /*
 711          * If this is set, extend the try range started by this bblock by an arch specific
 712          * number of bytes to encompass the end of the previous bblock (e.g. a Monitor.Enter
 713          * call).
 714          */
 715         guint extend_try_block : 1;
 716
 717         /* use for liveness analysis */
 718         MonoBitSet *gen_set;
 719         MonoBitSet *kill_set;
 720         MonoBitSet *live_in_set;
 721         MonoBitSet *live_out_set;
 722
 723         /* fields to deal with non-empty stack slots at bb boundary */
 724         guint16 out_scount, in_scount;
 725         MonoInst **out_stack;
 726         MonoInst **in_stack;
 727
 728         /* we use that to prevent merging of bblocks covered by different clauses*/
 729         guint real_offset;
 730
 731         GSList *seq_points;
 732
 733         // The MonoInst of the last sequence point for the current basic block.
 734         MonoInst *last_seq_point;
 735
 736         // This will hold a list of last sequence points of incoming basic blocks
 737         MonoInst **pred_seq_points;
 738         guint num_pred_seq_points;
 739
 740         GSList *spill_slot_defs;
 741
 742         /* List of call sites in this bblock sorted by pc_offset */
 743         GSList *gc_callsites;
 744
 745         /*
 746          * The region encodes whether the basic block is inside
 747          * a finally, catch, filter or none of these.
 748          *
 749          * If the value is -1, then it is neither finally, catch nor filter
 750          *
 751          * Otherwise the format is:
 752          *
 753          *  Bits: |     0-3      |       4-7      |     8-31
 754          *        |              |                |
 755          *        | clause-flags |   MONO_REGION  | clause-index
 756          *
 757          */
 758         guint region;
 759
 760         /* The current symbolic register number, used in local register allocation. */
 761         guint32 max_vreg;
 762 };
 763
 764 /* BBlock flags */
 765 enum {
 766         BB_VISITED              = 1 << 0,
 767         BB_REACHABLE            = 1 << 1,
 768         BB_EXCEPTION_DEAD_OBJ   = 1 << 2,
 769         BB_EXCEPTION_UNSAFE     = 1 << 3,
 770         BB_EXCEPTION_HANDLER    = 1 << 4,
 771         /* for Native Client, mark the blocks that can be jumped to indirectly */
 772         BB_INDIRECT_JUMP_TARGET = 1 << 5
 773 };
 774
 775 typedef struct MonoMemcpyArgs {
 776         int size, align;
 777 } MonoMemcpyArgs;
 778
 779 typedef enum {
 780         LLVMArgNone,
 781         /* Scalar argument passed by value */
 782         LLVMArgNormal,
 783         /* Only in ainfo->pair_storage */
 784         LLVMArgInIReg,
 785         /* Only in ainfo->pair_storage */
 786         LLVMArgInFPReg,
 787         /* Valuetype passed in 1-2 consecutive register */
 788         LLVMArgVtypeInReg,
 789         LLVMArgVtypeByVal,
 790         LLVMArgVtypeRetAddr, /* On on cinfo->ret */
 791         LLVMArgGSharedVt,
 792         /* Fixed size argument passed to/returned from gsharedvt method by ref */
 793         LLVMArgGsharedvtFixed,
 794         /* Fixed size vtype argument passed to/returned from gsharedvt method by ref */
 795         LLVMArgGsharedvtFixedVtype,
 796         /* Variable sized argument passed to/returned from gsharedvt method by ref */
 797         LLVMArgGsharedvtVariable,
 798         /* Vtype passed/returned as one int array argument */
 799         LLVMArgAsIArgs,
 800         /* Vtype passed as a set of fp arguments */
 801         LLVMArgAsFpArgs,
 802         /*
 803          * Only for returns, a structure which
 804          * consists of floats/doubles.
 805          */
 806         LLVMArgFpStruct,
 807         LLVMArgVtypeByRef,
 808         /* Vtype returned as an int */
 809         LLVMArgVtypeAsScalar
 810 } LLVMArgStorage;
 811
 812 typedef struct {
 813         LLVMArgStorage storage;
 814
 815         /*
 816          * Only if storage == ArgValuetypeInReg/LLVMArgAsFpArgs.
 817          * This contains how the parts of the vtype are passed.
 818          */
 819         LLVMArgStorage pair_storage [8];
 820         /*
 821          * Only if storage == LLVMArgAsIArgs/LLVMArgAsFpArgs/LLVMArgFpStruct.
 822          * If storage == LLVMArgAsFpArgs, this is the number of arguments
 823          * used to pass the value.
 824          * If storage == LLVMArgFpStruct, this is the number of fields
 825          * in the structure.
 826          */
 827         int nslots;
 828         /* Only if storage == LLVMArgAsFpArgs/LLVMArgFpStruct (4/8) */
 829         int esize;
 830         /* Parameter index in the LLVM signature */
 831         int pindex;
 832         MonoType *type;
 833         /* Only if storage == LLVMArgAsFpArgs. Dummy fp args to insert before this arg */
 834         int ndummy_fpargs;
 835 } LLVMArgInfo;
 836
 837 typedef struct {
 838         LLVMArgInfo ret;
 839         /* Whenever there is an rgctx argument */
 840         gboolean rgctx_arg;
 841         /* Whenever there is an IMT argument */
 842         gboolean imt_arg;
 843         /*
 844          * The position of the vret arg in the argument list.
 845          * Only if ret->storage == ArgVtypeRetAddr.
 846          * Should be 0 or 1.
 847          */
 848         int vret_arg_index;
 849         /* The indexes of various special arguments in the LLVM signature */
 850         int vret_arg_pindex, this_arg_pindex, rgctx_arg_pindex, imt_arg_pindex;
 851
 852         /* Inline array of argument info */
 853         /* args [0] is for the this argument if it exists */
 854         LLVMArgInfo args [1];
 855 } LLVMCallInfo;
 856
 857 #define MONO_MAX_SRC_REGS       3
 858
 859 struct MonoInst {
 860         guint16 opcode;
 861         guint8  type; /* stack type */
 862         guint8  flags;
 863
 864         /* used by the register allocator */
 865         gint32 dreg, sreg1, sreg2, sreg3;
 866
 867         MonoInst *next, *prev;
 868
 869         union {
 870                 union {
 871                         MonoInst *src;
 872                         MonoMethodVar *var;
 873                         mgreg_t const_val;
 874 #if (SIZEOF_REGISTER > SIZEOF_VOID_P) && (G_BYTE_ORDER == G_BIG_ENDIAN)
 875                         struct {
 876                                 gpointer p[SIZEOF_REGISTER/SIZEOF_VOID_P];
 877                         } pdata;
 878 #else
 879                         gpointer p;
 880 #endif
 881                         MonoMethod *method;
 882                         MonoMethodSignature *signature;
 883                         MonoBasicBlock **many_blocks;
 884                         MonoBasicBlock *target_block;
 885                         MonoInst **args;
 886                         MonoType *vtype;
 887                         MonoClass *klass;
 888                         int *phi_args;
 889                         MonoCallInst *call_inst;
 890                         MonoExceptionClause *exception_clause;
 891                 } op [2];
 892                 gint64 i8const;
 893                 double r8const;
 894         } data;
 895
 896         const unsigned char* cil_code; /* for debugging and bblock splitting */
 897
 898         /* used mostly by the backend to store additional info it may need */
 899         union {
 900                 gint32 reg3;
 901                 gint32 arg_info;
 902                 gint32 size;
 903                 MonoMemcpyArgs *memcpy_args; /* in OP_MEMSET and OP_MEMCPY */
 904                 gpointer data;
 905                 gint shift_amount;
 906                 gboolean is_pinvoke; /* for variables in the unmanaged marshal format */
 907                 gboolean record_cast_details; /* For CEE_CASTCLASS */
 908                 MonoInst *spill_var; /* for OP_MOVE_I4_TO_F/F_TO_I4 and OP_FCONV_TO_R8_X */
 909                 guint16 source_opcode; /*OP_XCONV_R8_TO_I4 needs to know which op was used to do proper widening*/
 910                 int pc_offset; /* OP_GC_LIVERANGE_START/END */
 911
 912                 /*
 913                  * memory_barrier: MONO_MEMORY_BARRIER_{ACQ,REL,SEQ}
 914                  * atomic_load_*: MONO_MEMORY_BARRIER_{ACQ,SEQ}
 915                  * atomic_store_*: MONO_MEMORY_BARRIER_{REL,SEQ}
 916                  */
 917                 int memory_barrier_kind;
 918         } backend;
 919
 920         MonoClass *klass;
 921 };
 922
 923 struct MonoCallInst {
 924         MonoInst inst;
 925         MonoMethodSignature *signature;
 926         MonoMethod *method;
 927         MonoInst **args;
 928         MonoInst *out_args;
 929         MonoInst *vret_var;
 930         gconstpointer fptr;
 931         guint stack_usage;
 932         guint stack_align_amount;
 933         guint is_virtual : 1;
 934         guint tail_call : 1;
 935         /* If this is TRUE, 'fptr' points to a MonoJumpInfo instead of an address. */
 936         guint fptr_is_patch : 1;
 937         /*
 938          * If this is true, then the call returns a vtype in a register using the same
 939          * calling convention as OP_CALL.
 940          */
 941         guint vret_in_reg : 1;
 942         /* Whenever vret_in_reg returns fp values */
 943         guint vret_in_reg_fp : 1;
 944         /* Whenever there is an IMT argument and it is dynamic */
 945         guint dynamic_imt_arg : 1;
 946         /* Whenever there is an RGCTX argument */
 947         guint32 rgctx_reg : 1;
 948         /* Whenever the call will need an unbox trampoline */
 949         guint need_unbox_trampoline : 1;
 950         regmask_t used_iregs;
 951         regmask_t used_fregs;
 952         GSList *out_ireg_args;
 953         GSList *out_freg_args;
 954         GSList *outarg_vts;
 955         gpointer call_info;
 956 #ifdef ENABLE_LLVM
 957         LLVMCallInfo *cinfo;
 958         int rgctx_arg_reg, imt_arg_reg;
 959 #endif
 960 #ifdef TARGET_ARM
 961         /* See the comment in mini-arm.c!mono_arch_emit_call for RegTypeFP. */
 962         GSList *float_args;
 963 #endif
 964 };
 965
 966 struct MonoCallArgParm {
 967         MonoInst ins;
 968         gint32 size;
 969         gint32 offset;
 970         gint32 offPrm;
 971 };
 972
 973 /*
 974  * flags for MonoInst
 975  * Note: some of the values overlap, because they can't appear
 976  * in the same MonoInst.
 977  */
 978 enum {
 979         MONO_INST_HAS_METHOD = 1,
 980         MONO_INST_INIT       = 1, /* in localloc */
 981         MONO_INST_SINGLE_STEP_LOC = 1, /* in SEQ_POINT */
 982         MONO_INST_IS_DEAD    = 2,
 983         MONO_INST_TAILCALL   = 4,
 984         MONO_INST_VOLATILE   = 4,
 985         MONO_INST_NOTYPECHECK    = 4,
 986         MONO_INST_NONEMPTY_STACK = 4, /* in SEQ_POINT */
 987         MONO_INST_UNALIGNED  = 8,
 988     MONO_INST_CFOLD_TAKEN = 8, /* On branches */
 989     MONO_INST_CFOLD_NOT_TAKEN = 16, /* On branches */
 990         MONO_INST_DEFINITION_HAS_SIDE_EFFECTS = 8,
 991         /* the address of the variable has been taken */
 992         MONO_INST_INDIRECT   = 16,
 993         MONO_INST_NORANGECHECK   = 16,
 994         /* On loads, the source address can be null */
 995         MONO_INST_FAULT = 32,
 996         /*
 997          * On variables, identifies LMF variables. These variables have a dummy type (int), but
 998          * require stack space for a MonoLMF struct.
 999          */
1000         MONO_INST_LMF = 32,
1001         /* On loads, the source address points to a constant value */
1002         MONO_INST_INVARIANT_LOAD = 64,
1003         /* On variables, the variable needs GC tracking */
1004         MONO_INST_GC_TRACK = 128,
1005         /*
1006          * Set on instructions during code emission which make calls, i.e. OP_CALL, OP_THROW.
1007          * backend.pc_offset will be set to the pc offset at the end of the native call instructions.
1008          */
1009         MONO_INST_GC_CALLSITE = 128,
1010         /* On comparisons, mark the branch following the condition as likely to be taken */
1011         MONO_INST_LIKELY = 128,
1012 };
1013
1014 #define inst_c0 data.op[0].const_val
1015 #define inst_c1 data.op[1].const_val
1016 #define inst_i0 data.op[0].src
1017 #define inst_i1 data.op[1].src
1018 #if (SIZEOF_REGISTER > SIZEOF_VOID_P) && (G_BYTE_ORDER == G_BIG_ENDIAN)
1019 #define inst_p0 data.op[0].pdata.p[SIZEOF_REGISTER/SIZEOF_VOID_P - 1]
1020 #define inst_p1 data.op[1].pdata.p[SIZEOF_REGISTER/SIZEOF_VOID_P - 1]
1021 #else
1022 #define inst_p0 data.op[0].p
1023 #define inst_p1 data.op[1].p
1024 #endif
1025 #define inst_l  data.i8const
1026 #define inst_r  data.r8const
1027 #define inst_left  data.op[0].src
1028 #define inst_right data.op[1].src
1029
1030 #define inst_newa_len   data.op[0].src
1031 #define inst_newa_class data.op[1].klass
1032
1033 #define inst_var    data.op[0].var
1034 #define inst_vtype  data.op[1].vtype
1035 /* in branch instructions */
1036 #define inst_many_bb   data.op[1].many_blocks
1037 #define inst_target_bb data.op[0].target_block
1038 #define inst_true_bb   data.op[1].many_blocks[0]
1039 #define inst_false_bb  data.op[1].many_blocks[1]
1040
1041 #define inst_basereg sreg1
1042 #define inst_indexreg sreg2
1043 #define inst_destbasereg dreg
1044 #define inst_offset data.op[0].const_val
1045 #define inst_imm    data.op[1].const_val
1046 #define inst_call   data.op[1].call_inst
1047
1048 #define inst_phi_args   data.op[1].phi_args
1049 #define inst_eh_block    data.op[1].exception_clause
1050
1051 static inline void
1052 mono_inst_set_src_registers (MonoInst *ins, int *regs)
1053 {
1054         ins->sreg1 = regs [0];
1055         ins->sreg2 = regs [1];
1056         ins->sreg3 = regs [2];
1057 }
1058
1059 /* instruction description for use in regalloc/scheduling */
1060 enum {
1061         MONO_INST_DEST,
1062         MONO_INST_SRC1,         /* we depend on the SRCs to be consecutive */
1063         MONO_INST_SRC2,
1064         MONO_INST_SRC3,
1065         MONO_INST_LEN,
1066         MONO_INST_CLOB,
1067         /* Unused, commented out to reduce the size of the mdesc tables
1068         MONO_INST_FLAGS,
1069         MONO_INST_COST,
1070         MONO_INST_DELAY,
1071         MONO_INST_RES,
1072         */
1073         MONO_INST_MAX
1074 };
1075
1076 typedef union {
1077         struct {
1078                 guint16 tid; /* tree number */
1079                 guint16 bid; /* block number */
1080         } pos ;
1081         guint32 abs_pos;
1082 } MonoPosition;
1083
1084 typedef struct {
1085         MonoPosition first_use, last_use;
1086 } MonoLiveRange;
1087
1088 typedef struct MonoLiveRange2 MonoLiveRange2;
1089
1090 struct MonoLiveRange2 {
1091         int from, to;
1092         MonoLiveRange2 *next;
1093 };
1094
1095 typedef struct {
1096         /* List of live ranges sorted by 'from' */
1097         MonoLiveRange2 *range;
1098         MonoLiveRange2 *last_range;
1099 } MonoLiveInterval;
1100
1101 /*
1102  * Additional information about a variable
1103  */
1104 struct MonoMethodVar {
1105         guint           idx; /* inside cfg->varinfo, cfg->vars */
1106         MonoLiveRange   range; /* generated by liveness analysis */
1107         MonoLiveInterval *interval; /* generated by liveness analysis */
1108         int             reg; /* != -1 if allocated into a register */
1109         int             spill_costs;
1110         MonoBitSet     *def_in; /* used by SSA */
1111         MonoInst       *def;    /* used by SSA */
1112         MonoBasicBlock *def_bb; /* used by SSA */
1113         GList          *uses;   /* used by SSA */
1114         char            cpstate;  /* used by SSA conditional  constant propagation */
1115         /* The native offsets corresponding to the live range of the variable */
1116         gint32         live_range_start, live_range_end;
1117         /*
1118          * cfg->varinfo [idx]->dreg could be replaced for OP_REGVAR, this contains the
1119          * original vreg.
1120          */
1121         gint32         vreg;
1122 };
1123
1124 /*
1125  * Stores state need to resume exception handling when using LLVM
1126  */
1127 typedef struct {
1128         MonoJitInfo *ji;
1129         int clause_index;
1130         MonoContext ctx, new_ctx;
1131         /* FIXME: GC */
1132         gpointer        ex_obj;
1133         MonoLMF *lmf;
1134         int first_filter_idx, filter_idx;
1135 } ResumeState;
1136
1137 typedef struct {
1138         gpointer          end_of_stack;
1139         guint32           stack_size;
1140         /* !defined(HAVE_KW_THREAD) || !defined(MONO_ARCH_ENABLE_MONO_LMF_VAR) */
1141         MonoLMF          *lmf;
1142         MonoLMF          *first_lmf;
1143         gpointer         restore_stack_prot;
1144         guint32          handling_stack_ovf;
1145         gpointer         signal_stack;
1146         guint32          signal_stack_size;
1147         gpointer         stack_ovf_guard_base;
1148         guint32          stack_ovf_guard_size;
1149         guint            stack_ovf_valloced : 1;
1150         void            (*abort_func) (MonoObject *object);
1151         /* Used to implement --debug=casts */
1152         MonoClass       *class_cast_from, *class_cast_to;
1153
1154         /* Stores state needed by handler block with a guard */
1155         MonoContext     ex_ctx;
1156         ResumeState resume_state;
1157
1158         /*Variabled use to implement handler blocks (finally/catch/etc) guards during interruption*/
1159         /* handler block return address */
1160         gpointer handler_block_return_address;
1161
1162         /* handler block been guarded. It's safe to store this even for dynamic methods since there
1163         is an activation on stack making sure it will remain alive.*/
1164         MonoJitExceptionInfo *handler_block;
1165
1166         /* context to be used by the guard trampoline when resuming interruption.*/
1167         MonoContext handler_block_context;
1168         /*
1169          * Stores the state at the exception throw site to be used by mono_stack_walk ()
1170          * when it is called from profiler functions during exception handling.
1171          */
1172         MonoContext orig_ex_ctx;
1173         gboolean orig_ex_ctx_set;
1174
1175         /*
1176          * Stores if we need to run a chained exception in Windows.
1177          */
1178         gboolean mono_win_chained_exception_needs_run;
1179
1180         /*
1181          * The current exception in flight
1182          */
1183         guint32 thrown_exc;
1184         /*
1185          * If the current exception is not a subclass of Exception,
1186          * the original exception.
1187          */
1188         guint32 thrown_non_exc;
1189
1190         /*
1191          * The calling assembly in llvmonly mode.
1192          */
1193         MonoImage *calling_image;
1194 } MonoJitTlsData;
1195
1196 /*
1197  * This structure is an extension of MonoLMF and contains extra information.
1198  */
1199 typedef struct {
1200         struct MonoLMF lmf;
1201         gboolean debugger_invoke;
1202         MonoContext ctx; /* if debugger_invoke is TRUE */
1203 } MonoLMFExt;
1204
1205 /* Generic sharing */
1206
1207 /*
1208  * Flags for which contexts were used in inflating a generic.
1209  */
1210 enum {
1211         MONO_GENERIC_CONTEXT_USED_CLASS = 1,
1212         MONO_GENERIC_CONTEXT_USED_METHOD = 2
1213 };
1214
1215 enum {
1216         /* Cannot be 0 since this is stored in rgctx slots, and 0 means an unitialized rgctx slot */
1217         MONO_GSHAREDVT_BOX_TYPE_VTYPE = 1,
1218         MONO_GSHAREDVT_BOX_TYPE_REF = 2,
1219         MONO_GSHAREDVT_BOX_TYPE_NULLABLE = 3
1220 };
1221
1222 typedef enum {
1223         MONO_RGCTX_INFO_STATIC_DATA,
1224         MONO_RGCTX_INFO_KLASS,
1225         MONO_RGCTX_INFO_ELEMENT_KLASS,
1226         MONO_RGCTX_INFO_VTABLE,
1227         MONO_RGCTX_INFO_TYPE,
1228         MONO_RGCTX_INFO_REFLECTION_TYPE,
1229         MONO_RGCTX_INFO_METHOD,
1230         /* In llvmonly mode, this is a function descriptor */
1231         MONO_RGCTX_INFO_GENERIC_METHOD_CODE,
1232         MONO_RGCTX_INFO_GSHAREDVT_OUT_WRAPPER,
1233         MONO_RGCTX_INFO_CLASS_FIELD,
1234         MONO_RGCTX_INFO_METHOD_RGCTX,
1235         MONO_RGCTX_INFO_METHOD_CONTEXT,
1236         MONO_RGCTX_INFO_REMOTING_INVOKE_WITH_CHECK,
1237         MONO_RGCTX_INFO_METHOD_DELEGATE_CODE,
1238         MONO_RGCTX_INFO_CAST_CACHE,
1239         MONO_RGCTX_INFO_ARRAY_ELEMENT_SIZE,
1240         MONO_RGCTX_INFO_VALUE_SIZE,
1241         /* +1 to avoid zero values in rgctx slots */
1242         MONO_RGCTX_INFO_FIELD_OFFSET,
1243         /* Either the code for a gsharedvt method, or the address for a gsharedvt-out trampoline for the method */
1244         /* In llvmonly mode, this is a function descriptor */
1245         MONO_RGCTX_INFO_METHOD_GSHAREDVT_OUT_TRAMPOLINE,
1246         /* Same for virtual calls */
1247         /* In llvmonly mode, this is a function descriptor */
1248         MONO_RGCTX_INFO_METHOD_GSHAREDVT_OUT_TRAMPOLINE_VIRT,
1249         /* Same for calli, associated with a signature */
1250         MONO_RGCTX_INFO_SIG_GSHAREDVT_OUT_TRAMPOLINE_CALLI,
1251         MONO_RGCTX_INFO_SIG_GSHAREDVT_IN_TRAMPOLINE_CALLI,
1252         /* One of MONO_GSHAREDVT_BOX_TYPE */
1253         MONO_RGCTX_INFO_CLASS_BOX_TYPE,
1254         /* Resolves to a MonoGSharedVtMethodRuntimeInfo */
1255         MONO_RGCTX_INFO_METHOD_GSHAREDVT_INFO,
1256         MONO_RGCTX_INFO_LOCAL_OFFSET,
1257         MONO_RGCTX_INFO_MEMCPY,
1258         MONO_RGCTX_INFO_BZERO,
1259         /* The address of Nullable<T>.Box () */
1260         /* In llvmonly mode, this is a function descriptor */
1261         MONO_RGCTX_INFO_NULLABLE_CLASS_BOX,
1262         MONO_RGCTX_INFO_NULLABLE_CLASS_UNBOX,
1263         /* MONO_PATCH_INFO_VCALL_METHOD */
1264         MONO_RGCTX_INFO_VIRT_METHOD_CODE,
1265         /*
1266          * MONO_PATCH_INFO_VCALL_METHOD
1267          * Same as MONO_RGCTX_INFO_CLASS_BOX_TYPE, but for the class
1268          * which implements the method.
1269          */
1270         MONO_RGCTX_INFO_VIRT_METHOD_BOX_TYPE,
1271 } MonoRgctxInfoType;
1272
1273 typedef struct _MonoRuntimeGenericContextInfoTemplate {
1274         MonoRgctxInfoType info_type;
1275         gpointer data;
1276         struct _MonoRuntimeGenericContextInfoTemplate *next;
1277 } MonoRuntimeGenericContextInfoTemplate;
1278
1279 typedef struct {
1280         MonoClass *next_subclass;
1281         MonoRuntimeGenericContextInfoTemplate *infos;
1282         GSList *method_templates;
1283 } MonoRuntimeGenericContextTemplate;
1284
1285 typedef struct {
1286         MonoVTable *class_vtable; /* must be the first element */
1287         MonoGenericInst *method_inst;
1288         gpointer infos [MONO_ZERO_LEN_ARRAY];
1289 } MonoMethodRuntimeGenericContext;
1290
1291 #define MONO_SIZEOF_METHOD_RUNTIME_GENERIC_CONTEXT (sizeof (MonoMethodRuntimeGenericContext) - MONO_ZERO_LEN_ARRAY * SIZEOF_VOID_P)
1292
1293 #define MONO_RGCTX_SLOT_MAKE_RGCTX(i)   (i)
1294 #define MONO_RGCTX_SLOT_MAKE_MRGCTX(i)  ((i) | 0x80000000)
1295 #define MONO_RGCTX_SLOT_INDEX(s)        ((s) & 0x7fffffff)
1296 #define MONO_RGCTX_SLOT_IS_MRGCTX(s)    (((s) & 0x80000000) ? TRUE : FALSE)
1297
1298 #define MONO_GSHAREDVT_DEL_INVOKE_VT_OFFSET -2
1299
1300 typedef struct {
1301         MonoMethod *method;
1302         MonoRuntimeGenericContextInfoTemplate *entries;
1303         int num_entries, count_entries;
1304 } MonoGSharedVtMethodInfo;
1305
1306 /* This is used by gsharedvt methods to allocate locals and compute local offsets */
1307 typedef struct {
1308         int locals_size;
1309         /*
1310          * The results of resolving the entries in MOonGSharedVtMethodInfo->entries.
1311          * We use this instead of rgctx slots since these can be loaded using a load instead
1312          * of a call to an rgctx fetch trampoline.
1313          */
1314         gpointer entries [MONO_ZERO_LEN_ARRAY];
1315 } MonoGSharedVtMethodRuntimeInfo;
1316
1317 typedef struct
1318 {
1319         MonoMethod *invoke;
1320         MonoMethod *method;
1321         MonoMethodSignature *invoke_sig;
1322         MonoMethodSignature *sig;
1323         gpointer method_ptr;
1324         gpointer invoke_impl;
1325         gpointer impl_this;
1326         gpointer impl_nothis;
1327         gboolean need_rgctx_tramp;
1328 } MonoDelegateTrampInfo;
1329
1330 /*
1331  * A function descriptor, which is a function address + argument pair.
1332  * In llvm-only mode, these are used instead of trampolines to pass
1333  * extra arguments to runtime functions/methods.
1334  */
1335 typedef struct
1336 {
1337         gpointer addr;
1338         gpointer arg;
1339 } MonoFtnDesc;
1340
1341 typedef enum {
1342 #define PATCH_INFO(a,b) MONO_PATCH_INFO_ ## a,
1343 #include "patch-info.h"
1344 #undef PATCH_INFO
1345         MONO_PATCH_INFO_NUM
1346 } MonoJumpInfoType;
1347
1348 /*
1349  * We need to store the image which the token refers to along with the token,
1350  * since the image might not be the same as the image of the method which
1351  * contains the relocation, because of inlining.
1352  */
1353 typedef struct MonoJumpInfoToken {
1354         MonoImage *image;
1355         guint32 token;
1356         gboolean has_context;
1357         MonoGenericContext context;
1358 } MonoJumpInfoToken;
1359
1360 typedef struct MonoJumpInfoBBTable {
1361         MonoBasicBlock **table;
1362         int table_size;
1363 } MonoJumpInfoBBTable;
1364
1365 typedef struct MonoJumpInfoRgctxEntry MonoJumpInfoRgctxEntry;
1366
1367 /* Contains information describing an LLVM IMT trampoline */
1368 typedef struct MonoJumpInfoImtTramp {
1369         MonoMethod *method;
1370         int vt_offset;
1371 } MonoJumpInfoImtTramp;
1372
1373 typedef struct MonoJumpInfoGSharedVtCall MonoJumpInfoGSharedVtCall;
1374
1375 /*
1376  * Represents the method which is called when a virtual call is made to METHOD
1377  * on a receiver of type KLASS.
1378  */
1379 typedef struct {
1380         /* Receiver class */
1381         MonoClass *klass;
1382         /* Virtual method */
1383         MonoMethod *method;
1384 } MonoJumpInfoVirtMethod;
1385
1386 typedef struct MonoJumpInfo MonoJumpInfo;
1387 struct MonoJumpInfo {
1388         MonoJumpInfo *next;
1389         /* Relocation type for patching */
1390         int relocation;
1391         union {
1392                 int i;
1393                 guint8 *p;
1394                 MonoInst *label;
1395         } ip;
1396
1397         MonoJumpInfoType type;
1398         union {
1399                 gconstpointer   target;
1400 #if SIZEOF_VOID_P == 8
1401                 gint64          offset;
1402 #else
1403                 int             offset;
1404 #endif
1405                 int index;
1406                 MonoBasicBlock *bb;
1407                 MonoInst       *inst;
1408                 MonoMethod     *method;
1409                 MonoClass      *klass;
1410                 MonoClassField *field;
1411                 MonoImage      *image;
1412                 MonoVTable     *vtable;
1413                 const char     *name;
1414                 MonoJumpInfoToken  *token;
1415                 MonoJumpInfoBBTable *table;
1416                 MonoJumpInfoRgctxEntry *rgctx_entry;
1417                 MonoJumpInfoImtTramp *imt_tramp;
1418                 MonoJumpInfoGSharedVtCall *gsharedvt;
1419                 MonoGSharedVtMethodInfo *gsharedvt_method;
1420                 MonoMethodSignature *sig;
1421                 MonoDelegateClassMethodPair *del_tramp;
1422                 /* MONO_PATCH_INFO_VIRT_METHOD */
1423                 MonoJumpInfoVirtMethod *virt_method;
1424         } data;
1425 };
1426
1427 /*
1428  * Contains information for computing the
1429  * property given by INFO_TYPE of the runtime
1430  * object described by DATA.
1431  */
1432 struct MonoJumpInfoRgctxEntry {
1433         MonoMethod *method;
1434         gboolean in_mrgctx;
1435         MonoJumpInfo *data; /* describes the data to be loaded */
1436         MonoRgctxInfoType info_type;
1437 };
1438
1439 /* Contains information about a gsharedvt call */
1440 struct MonoJumpInfoGSharedVtCall {
1441         /* The original signature of the call */
1442         MonoMethodSignature *sig;
1443         /* The method which is called */
1444         MonoMethod *method;
1445 };
1446
1447 typedef enum {
1448         MONO_TRAMPOLINE_JIT,
1449         MONO_TRAMPOLINE_JUMP,
1450         MONO_TRAMPOLINE_RGCTX_LAZY_FETCH,
1451         MONO_TRAMPOLINE_AOT,
1452         MONO_TRAMPOLINE_AOT_PLT,
1453         MONO_TRAMPOLINE_DELEGATE,
1454         MONO_TRAMPOLINE_RESTORE_STACK_PROT,
1455         MONO_TRAMPOLINE_GENERIC_VIRTUAL_REMOTING,
1456         MONO_TRAMPOLINE_VCALL,
1457         MONO_TRAMPOLINE_HANDLER_BLOCK_GUARD,
1458         MONO_TRAMPOLINE_NUM
1459 } MonoTrampolineType;
1460
1461 /* These trampolines return normally to their caller */
1462 #define MONO_TRAMPOLINE_TYPE_MUST_RETURN(t)             \
1463         ((t) == MONO_TRAMPOLINE_RESTORE_STACK_PROT ||   \
1464          (t) == MONO_TRAMPOLINE_RGCTX_LAZY_FETCH)
1465
1466 /* These trampolines receive an argument directly in a register */
1467 #define MONO_TRAMPOLINE_TYPE_HAS_ARG(t)         \
1468         ((t) == MONO_TRAMPOLINE_HANDLER_BLOCK_GUARD)
1469
1470 /* optimization flags */
1471 #define OPTFLAG(id,shift,name,descr) MONO_OPT_ ## id = 1 << shift,
1472 enum {
1473 #include "optflags-def.h"
1474         MONO_OPT_LAST
1475 };
1476
1477 /*
1478  * This structure represents a JIT backend.
1479  */
1480 typedef struct {
1481         guint            have_card_table_wb : 1;
1482         guint            have_op_generic_class_init : 1;
1483         guint            emulate_mul_div : 1;
1484         guint            emulate_div : 1;
1485         guint            emulate_long_shift_opts : 1;
1486         guint            have_objc_get_selector : 1;
1487         guint            have_generalized_imt_trampoline : 1;
1488         guint            have_tls_get : 1;
1489         guint            have_tls_get_reg : 1;
1490         guint            have_liverange_ops: 1;
1491         guint            have_op_tail_call : 1;
1492         guint            have_dummy_init : 1;
1493         guint            gshared_supported : 1;
1494         guint            use_fpstack : 1;
1495         guint            ilp32 : 1;
1496         guint            need_got_var : 1;
1497         guint            need_div_check : 1;
1498         guint            no_unaligned_access : 1;
1499         guint            disable_div_with_mul : 1;
1500         int              monitor_enter_adjustment;
1501         int              dyn_call_param_area;
1502 } MonoBackend;
1503
1504 /* Flags for mini_method_compile () */
1505 typedef enum {
1506         /* Whenever to run cctors during JITting */
1507         JIT_FLAG_RUN_CCTORS = (1 << 0),
1508         /* Whenever this is an AOT compilation */
1509         JIT_FLAG_AOT = (1 << 1),
1510         /* Whenever this is a full AOT compilation */
1511         JIT_FLAG_FULL_AOT = (1 << 2),
1512         /* Whenever to compile with LLVM */
1513         JIT_FLAG_LLVM = (1 << 3),
1514         /* Whenever to disable direct calls to direct calls to icall functions */
1515         JIT_FLAG_NO_DIRECT_ICALLS = (1 << 4),
1516         /* Emit explicit null checks */
1517         JIT_FLAG_EXPLICIT_NULL_CHECKS = (1 << 5),
1518         /* Whenever to compile in llvm-only mode */
1519         JIT_FLAG_LLVM_ONLY = (1 << 6),
1520 } JitFlags;
1521
1522 /* Bit-fields in the MonoBasicBlock.region */
1523 #define MONO_REGION_TRY       0
1524 #define MONO_REGION_FINALLY  16
1525 #define MONO_REGION_CATCH    32
1526 #define MONO_REGION_FAULT    64         /* Currently unused */
1527 #define MONO_REGION_FILTER  128
1528
1529 #define MONO_BBLOCK_IS_IN_REGION(bblock, regtype) (((bblock)->region & (0xf << 4)) == (regtype))
1530
1531 #define MONO_REGION_FLAGS(region) ((region) & 0x7)
1532 #define MONO_REGION_CLAUSE_INDEX(region) (((region) >> 8) - 1)
1533
1534 #define get_vreg_to_inst(cfg, vreg) ((vreg) < (cfg)->vreg_to_inst_len ? (cfg)->vreg_to_inst [(vreg)] : NULL)
1535
1536 #define vreg_is_volatile(cfg, vreg) (G_UNLIKELY (get_vreg_to_inst ((cfg), (vreg)) && (get_vreg_to_inst ((cfg), (vreg))->flags & (MONO_INST_VOLATILE|MONO_INST_INDIRECT))))
1537
1538 #define vreg_is_ref(cfg, vreg) ((vreg) < (cfg)->vreg_is_ref_len ? (cfg)->vreg_is_ref [(vreg)] : 0)
1539 #define vreg_is_mp(cfg, vreg) ((vreg) < (cfg)->vreg_is_mp_len ? (cfg)->vreg_is_mp [(vreg)] : 0)
1540
1541 /*
1542  * Control Flow Graph and compilation unit information
1543  */
1544 typedef struct {
1545         MonoMethod      *method;
1546         MonoMethodHeader *header;
1547         MonoMemPool     *mempool;
1548         MonoInst       **varinfo;
1549         MonoMethodVar   *vars;
1550         MonoInst        *ret;
1551         MonoBasicBlock  *bb_entry;
1552         MonoBasicBlock  *bb_exit;
1553         MonoBasicBlock  *bb_init;
1554         MonoBasicBlock **bblocks;
1555         MonoBasicBlock **cil_offset_to_bb;
1556         MonoMemPool     *state_pool; /* used by instruction selection */
1557         MonoBasicBlock  *cbb;        /* used by instruction selection */
1558         MonoInst        *prev_ins;   /* in decompose */
1559         MonoJumpInfo    *patch_info;
1560         MonoJitInfo     *jit_info;
1561         MonoJitDynamicMethodInfo *dynamic_info;
1562         guint            num_bblocks, max_block_num;
1563         guint            locals_start;
1564         guint            num_varinfo; /* used items in varinfo */
1565         guint            varinfo_count; /* total storage in varinfo */
1566         gint             stack_offset;
1567         gint             max_ireg;
1568         gint             cil_offset_to_bb_len;
1569         MonoRegState    *rs;
1570         MonoSpillInfo   *spill_info [16]; /* machine register spills */
1571         gint             spill_count;
1572         gint             spill_info_len [16];
1573         /* unsigned char   *cil_code; */
1574         MonoMethod      *inlined_method; /* the method which is currently inlined */
1575         MonoInst        *domainvar; /* a cache for the current domain */
1576         MonoInst        *got_var; /* Global Offset Table variable */
1577         MonoInst        **locals;
1578         MonoInst        *rgctx_var; /* Runtime generic context variable (for static generic methods) */
1579         MonoInst        **args;
1580         MonoType        **arg_types;
1581         MonoMethod      *current_method; /* The method currently processed by method_to_ir () */
1582         MonoMethod      *method_to_register; /* The method to register in JIT info tables */
1583         MonoGenericContext *generic_context;
1584
1585         MonoBackend *backend;
1586
1587         /*
1588          * This variable represents the hidden argument holding the vtype
1589          * return address. If the method returns something other than a vtype, or
1590          * the vtype is returned in registers this is NULL.
1591          */
1592         MonoInst        *vret_addr;
1593
1594         /*
1595          * This is used to initialize the cil_code field of MonoInst's.
1596          */
1597         const unsigned char *ip;
1598
1599         struct MonoAliasingInformation *aliasing_info;
1600
1601         /* A hashtable of region ID-> SP var mappings */
1602         /* An SP var is a place to store the stack pointer (used by handlers)*/
1603         GHashTable      *spvars;
1604
1605         /* A hashtable of region ID -> EX var mappings */
1606         /* An EX var stores the exception object passed to catch/filter blocks */
1607         GHashTable      *exvars;
1608
1609         GList           *ldstr_list; /* used by AOT */
1610
1611         MonoDomain      *domain;
1612
1613         guint            real_offset;
1614         GHashTable      *cbb_hash;
1615
1616         /* The current virtual register number */
1617         guint32 next_vreg;
1618
1619         MonoGenericSharingContext gsctx;
1620         MonoGenericContext *gsctx_context;
1621
1622         MonoGSharedVtMethodInfo *gsharedvt_info;
1623
1624         /* Points to the gsharedvt locals area at runtime */
1625         MonoInst *gsharedvt_locals_var;
1626
1627         /* The localloc instruction used to initialize gsharedvt_locals_var */
1628         MonoInst *gsharedvt_locals_var_ins;
1629
1630         /* Points to a MonoGSharedVtMethodRuntimeInfo at runtime */
1631         MonoInst *gsharedvt_info_var;
1632
1633         /* For native-to-managed wrappers, CEE_MONO_JIT_(AT|DE)TACH opcodes */
1634         MonoInst *orig_domain_var;
1635
1636         MonoInst *lmf_var;
1637         MonoInst *lmf_addr_var;
1638
1639         MonoInst *stack_inbalance_var;
1640
1641         unsigned char   *cil_start;
1642 #ifdef __native_client_codegen__
1643         /* this alloc is not aligned, native_code */
1644         /* is the 32-byte aligned version of this */
1645         unsigned char   *native_code_alloc;
1646 #endif
1647         unsigned char   *native_code;
1648         guint            code_size;
1649         guint            code_len;
1650         guint            prolog_end;
1651         guint            epilog_begin;
1652         guint            epilog_end;
1653         regmask_t        used_int_regs;
1654         guint32          opt;
1655         guint32          prof_options;
1656         guint32          flags;
1657         guint32          comp_done;
1658         guint32          verbose_level;
1659         guint32          stack_usage;
1660         guint32          param_area;
1661         guint32          frame_reg;
1662         gint32           sig_cookie;
1663         guint            disable_aot : 1;
1664         guint            disable_ssa : 1;
1665         guint            disable_llvm : 1;
1666         guint            enable_extended_bblocks : 1;
1667         guint            run_cctors : 1;
1668         guint            need_lmf_area : 1;
1669         guint            compile_aot : 1;
1670         guint            full_aot : 1;
1671         guint            compile_llvm : 1;
1672         guint            got_var_allocated : 1;
1673         guint            ret_var_is_local : 1;
1674         guint            ret_var_set : 1;
1675         guint            unverifiable : 1;
1676         guint            skip_visibility : 1;
1677         guint            disable_reuse_registers : 1;
1678         guint            disable_reuse_stack_slots : 1;
1679         guint            disable_reuse_ref_stack_slots : 1;
1680         guint            disable_ref_noref_stack_slot_share : 1;
1681         guint            disable_initlocals_opt : 1;
1682         guint            disable_initlocals_opt_refs : 1;
1683         guint            disable_omit_fp : 1;
1684         guint            disable_vreg_to_lvreg : 1;
1685         guint            disable_deadce_vars : 1;
1686         guint            disable_out_of_line_bblocks : 1;
1687         guint            disable_direct_icalls : 1;
1688         guint            disable_gc_safe_points : 1;
1689         guint            create_lmf_var : 1;
1690         /*
1691          * When this is set, the code to push/pop the LMF from the LMF stack is generated as IR
1692          * instead of being generated in emit_prolog ()/emit_epilog ().
1693          */
1694         guint            lmf_ir : 1;
1695         /*
1696          * Whenever to use the mono_lmf TLS variable instead of indirection through the
1697          * mono_lmf_addr TLS variable.
1698          */
1699         guint            lmf_ir_mono_lmf : 1;
1700         guint            gen_write_barriers : 1;
1701         guint            init_ref_vars : 1;
1702         guint            extend_live_ranges : 1;
1703         guint            compute_precise_live_ranges : 1;
1704         guint            has_got_slots : 1;
1705         guint            uses_rgctx_reg : 1;
1706         guint            uses_vtable_reg : 1;
1707         guint            uses_simd_intrinsics : 1;
1708         guint            keep_cil_nops : 1;
1709         guint            gen_seq_points : 1;
1710         /* Generate seq points for use by the debugger */
1711         guint            gen_sdb_seq_points : 1;
1712         guint            explicit_null_checks : 1;
1713         guint            compute_gc_maps : 1;
1714         guint            soft_breakpoints : 1;
1715         guint            arch_eh_jit_info : 1;
1716         guint            has_emulated_ops : 1;
1717         guint            has_indirection : 1;
1718         guint            has_atomic_add_i4 : 1;
1719         guint            has_atomic_exchange_i4 : 1;
1720         guint            has_atomic_cas_i4 : 1;
1721         guint            check_pinvoke_callconv : 1;
1722         guint            has_unwind_info_for_epilog : 1;
1723         guint            disable_inline : 1;
1724         /* Disable inlining into caller */
1725         guint            no_inline : 1;
1726         guint            gshared : 1;
1727         guint            gsharedvt : 1;
1728         guint            r4fp : 1;
1729         guint            llvm_only : 1;
1730         int              r4_stack_type;
1731         gpointer         debug_info;
1732         guint32          lmf_offset;
1733     guint16          *intvars;
1734         MonoProfileCoverageInfo *coverage_info;
1735         GHashTable       *token_info_hash;
1736         MonoCompileArch  arch;
1737         guint32          inline_depth;
1738         /* Size of memory reserved for thunks */
1739         int              thunk_area;
1740         /* Thunks */
1741         guint8          *thunks;
1742         /* Offset between the start of code and the thunks area */
1743         int              thunks_offset;
1744         guint32          exception_type;        /* MONO_EXCEPTION_* */
1745         guint32          exception_data;
1746         char*            exception_message;
1747         gpointer         exception_ptr;
1748
1749         guint8 *         encoded_unwind_ops;
1750         guint32          encoded_unwind_ops_len;
1751         GSList*          unwind_ops;
1752
1753         GList*           dont_inline;
1754
1755         /* Fields used by the local reg allocator */
1756         void*            reginfo;
1757         int              reginfo_len;
1758
1759         /* Maps vregs to their associated MonoInst's */
1760         /* vregs with an associated MonoInst are 'global' while others are 'local' */
1761         MonoInst **vreg_to_inst;
1762
1763         /* Size of above array */
1764         guint32 vreg_to_inst_len;
1765
1766         /* Marks vregs which hold a GC ref */
1767         /* FIXME: Use a bitmap */
1768         gboolean *vreg_is_ref;
1769
1770         /* Size of above array */
1771         guint32 vreg_is_ref_len;
1772
1773         /* Marks vregs which hold a managed pointer */
1774         /* FIXME: Use a bitmap */
1775         gboolean *vreg_is_mp;
1776
1777         /* Size of above array */
1778         guint32 vreg_is_mp_len;
1779
1780         /*
1781          * The original method to compile, differs from 'method' when doing generic
1782          * sharing.
1783          */
1784         MonoMethod *orig_method;
1785
1786         /* Patches which describe absolute addresses embedded into the native code */
1787         GHashTable *abs_patches;
1788
1789         /* If the arch passes valuetypes by address, then for methods
1790            which use JMP the arch code should use these local
1791            variables to store the addresses of incoming valuetypes.
1792            The addresses should be stored in mono_arch_emit_prolog()
1793            and can be used when emitting code for OP_JMP.  See
1794            mini-ppc.c. */
1795         MonoInst **tailcall_valuetype_addrs;
1796
1797         /* Used to implement move_i4_to_f on archs that can't do raw
1798         copy between an ireg and a freg. This is an int32 var.*/
1799         MonoInst *iconv_raw_var;
1800
1801         /* Used to implement fconv_to_r8_x. This is a double (8 bytes) var.*/
1802         MonoInst *fconv_to_r8_x_var;
1803
1804         /*Use to implement simd constructors. This is a vector (16 bytes) var.*/
1805         MonoInst *simd_ctor_var;
1806
1807         /* Used to implement dyn_call */
1808         MonoInst *dyn_call_var;
1809
1810         /*
1811          * List of sequence points represented as IL offset+native offset pairs.
1812          * Allocated using glib.
1813          * IL offset can be -1 or 0xffffff to refer to the sequence points
1814          * inside the prolog and epilog used to implement method entry/exit events.
1815          */
1816         GPtrArray *seq_points;
1817
1818         /* The encoded sequence point info */
1819         struct MonoSeqPointInfo *seq_point_info;
1820
1821         /* Method headers which need to be freed after compilation */
1822         GSList *headers_to_free;
1823
1824         /* Used by AOT */
1825         guint32 got_offset, ex_info_offset, method_info_offset, method_index;
1826         /* Symbol used to refer to this method in generated assembly */
1827         char *asm_symbol;
1828         char *asm_debug_symbol;
1829         char *llvm_method_name;
1830         int castclass_cache_index;
1831
1832         MonoJitExceptionInfo *llvm_ex_info;
1833         guint32 llvm_ex_info_len;
1834         int llvm_this_reg, llvm_this_offset;
1835
1836         GSList *try_block_holes;
1837
1838         /* DWARF location list for 'this' */
1839         GSList *this_loclist;
1840
1841         /* DWARF location list for 'rgctx_var' */
1842         GSList *rgctx_loclist;
1843
1844         int *gsharedvt_vreg_to_idx;
1845
1846         GSList *signatures;
1847
1848         /* GC Maps */
1849
1850         /* The offsets of the locals area relative to the frame pointer */
1851         gint locals_min_stack_offset, locals_max_stack_offset;
1852
1853         /* The current CFA rule */
1854         int cur_cfa_reg, cur_cfa_offset;
1855
1856         /* The final CFA rule at the end of the prolog */
1857         int cfa_reg, cfa_offset;
1858
1859         /* Points to a MonoCompileGC */
1860         gpointer gc_info;
1861
1862         /*
1863          * The encoded GC map along with its size. This contains binary data so it can be saved in an AOT
1864          * image etc, but it requires a 4 byte alignment.
1865          */
1866         guint8 *gc_map;
1867         guint32 gc_map_size;
1868
1869         /* Error handling */
1870         MonoError error;
1871
1872         /* pointer to context datastructure used for graph dumping */
1873         MonoGraphDumper *gdump_ctx;
1874
1875         /* Stats */
1876         int stat_allocate_var;
1877         int stat_locals_stack_size;
1878         int stat_basic_blocks;
1879         int stat_cil_code_size;
1880         int stat_n_regvars;
1881         int stat_inlineable_methods;
1882         int stat_inlined_methods;
1883         int stat_code_reallocs;
1884 } MonoCompile;
1885
1886 typedef enum {
1887         MONO_CFG_HAS_ALLOCA = 1 << 0,
1888         MONO_CFG_HAS_CALLS  = 1 << 1,
1889         MONO_CFG_HAS_LDELEMA  = 1 << 2,
1890         MONO_CFG_HAS_VARARGS  = 1 << 3,
1891         MONO_CFG_HAS_TAIL     = 1 << 4,
1892         MONO_CFG_HAS_FPOUT    = 1 << 5, /* there are fp values passed in int registers */
1893         MONO_CFG_HAS_SPILLUP  = 1 << 6, /* spill var slots are allocated from bottom to top */
1894         MONO_CFG_HAS_CHECK_THIS  = 1 << 7,
1895         MONO_CFG_HAS_ARRAY_ACCESS = 1 << 8,
1896         MONO_CFG_HAS_TYPE_CHECK = 1 << 9
1897 } MonoCompileFlags;
1898
1899 typedef struct {
1900         gint32 methods_compiled;
1901         gint32 methods_aot;
1902         gint32 methods_lookups;
1903         gint32 allocate_var;
1904         gint32 cil_code_size;
1905         gint32 native_code_size;
1906         gint32 code_reallocs;
1907         gint32 max_code_size_ratio;
1908         gint32 biggest_method_size;
1909         gint32 allocated_code_size;
1910         gint32 allocated_seq_points_size;
1911         gint32 inlineable_methods;
1912         gint32 inlined_methods;
1913         gint32 basic_blocks;
1914         gint32 max_basic_blocks;
1915         gint32 locals_stack_size;
1916         gint32 regvars;
1917         gint32 generic_virtual_invocations;
1918         gint32 alias_found;
1919         gint32 alias_removed;
1920         gint32 loads_eliminated;
1921         gint32 stores_eliminated;
1922         gint32 optimized_divisions;
1923         int methods_with_llvm;
1924         int methods_without_llvm;
1925         char *max_ratio_method;
1926         char *biggest_method;
1927         double jit_method_to_ir;
1928         double jit_liveness_handle_exception_clauses;
1929         double jit_handle_out_of_line_bblock;
1930         double jit_decompose_long_opts;
1931         double jit_decompose_typechecks;
1932         double jit_local_cprop;
1933         double jit_local_emulate_ops;
1934         double jit_optimize_branches;
1935         double jit_handle_global_vregs;
1936         double jit_local_deadce;
1937         double jit_local_alias_analysis;
1938         double jit_if_conversion;
1939         double jit_bb_ordering;
1940         double jit_compile_dominator_info;
1941         double jit_compute_natural_loops;
1942         double jit_insert_safepoints;
1943         double jit_ssa_compute;
1944         double jit_ssa_cprop;
1945         double jit_ssa_deadce;
1946         double jit_perform_abc_removal;
1947         double jit_ssa_remove;
1948         double jit_local_cprop2;
1949         double jit_handle_global_vregs2;
1950         double jit_local_deadce2;
1951         double jit_optimize_branches2;
1952         double jit_decompose_vtype_opts;
1953         double jit_decompose_array_access_opts;
1954         double jit_liveness_handle_exception_clauses2;
1955         double jit_analyze_liveness;
1956         double jit_linear_scan;
1957         double jit_arch_allocate_vars;
1958         double jit_spill_global_vars;
1959         double jit_local_cprop3;
1960         double jit_local_deadce3;
1961         double jit_codegen;
1962         double jit_create_jit_info;
1963         double jit_gc_create_gc_map;
1964         double jit_save_seq_point_info;
1965         double jit_time;
1966         gboolean enabled;
1967 } MonoJitStats;
1968
1969 extern MonoJitStats mono_jit_stats;
1970
1971 /* opcodes: value assigned after all the CIL opcodes */
1972 #ifdef MINI_OP
1973 #undef MINI_OP
1974 #endif
1975 #ifdef MINI_OP3
1976 #undef MINI_OP3
1977 #endif
1978 #define MINI_OP(a,b,dest,src1,src2) a,
1979 #define MINI_OP3(a,b,dest,src1,src2,src3) a,
1980 enum {
1981         OP_START = MONO_CEE_LAST - 1,
1982 #include "mini-ops.h"
1983         OP_LAST
1984 };
1985 #undef MINI_OP
1986 #undef MINI_OP3
1987
1988 #if SIZEOF_VOID_P == 8
1989 #define OP_PCONST OP_I8CONST
1990 #define OP_DUMMY_PCONST OP_DUMMY_I8CONST
1991 #define OP_PADD OP_LADD
1992 #define OP_PADD_IMM OP_LADD_IMM
1993 #define OP_PSUB_IMM OP_LSUB_IMM
1994 #define OP_PAND_IMM OP_LAND_IMM
1995 #define OP_PXOR_IMM OP_LXOR_IMM
1996 #define OP_PSUB OP_LSUB
1997 #define OP_PMUL OP_LMUL
1998 #define OP_PMUL_IMM OP_LMUL_IMM
1999 #define OP_PNEG OP_LNEG
2000 #define OP_PCONV_TO_I1 OP_LCONV_TO_I1
2001 #define OP_PCONV_TO_U1 OP_LCONV_TO_U1
2002 #define OP_PCONV_TO_I2 OP_LCONV_TO_I2
2003 #define OP_PCONV_TO_U2 OP_LCONV_TO_U2
2004 #define OP_PCONV_TO_OVF_I1_UN OP_LCONV_TO_OVF_I1_UN
2005 #define OP_PCONV_TO_OVF_I1 OP_LCONV_TO_OVF_I1
2006 #define OP_PBEQ OP_LBEQ
2007 #define OP_PCEQ OP_LCEQ
2008 #define OP_PBNE_UN OP_LBNE_UN
2009 #define OP_PBGE_UN OP_LBGE_UN
2010 #define OP_PBLT_UN OP_LBLT_UN
2011 #define OP_PBGE OP_LBGE
2012 #define OP_STOREP_MEMBASE_REG OP_STOREI8_MEMBASE_REG
2013 #define OP_STOREP_MEMBASE_IMM OP_STOREI8_MEMBASE_IMM
2014 #else
2015 #define OP_PCONST OP_ICONST
2016 #define OP_DUMMY_PCONST OP_DUMMY_ICONST
2017 #define OP_PADD OP_IADD
2018 #define OP_PADD_IMM OP_IADD_IMM
2019 #define OP_PSUB_IMM OP_ISUB_IMM
2020 #define OP_PAND_IMM OP_IAND_IMM
2021 #define OP_PXOR_IMM OP_IXOR_IMM
2022 #define OP_PSUB OP_ISUB
2023 #define OP_PMUL OP_IMUL
2024 #define OP_PMUL_IMM OP_IMUL_IMM
2025 #define OP_PNEG OP_INEG
2026 #define OP_PCONV_TO_I1 OP_ICONV_TO_I1
2027 #define OP_PCONV_TO_U1 OP_ICONV_TO_U1
2028 #define OP_PCONV_TO_I2 OP_ICONV_TO_I2
2029 #define OP_PCONV_TO_U2 OP_ICONV_TO_U2
2030 #define OP_PCONV_TO_OVF_I1_UN OP_ICONV_TO_OVF_I1_UN
2031 #define OP_PCONV_TO_OVF_I1 OP_ICONV_TO_OVF_I1
2032 #define OP_PBEQ OP_IBEQ
2033 #define OP_PCEQ OP_ICEQ
2034 #define OP_PBNE_UN OP_IBNE_UN
2035 #define OP_PBGE_UN OP_IBGE_UN
2036 #define OP_PBLT_UN OP_IBLT_UN
2037 #define OP_PBGE OP_IBGE
2038 #define OP_STOREP_MEMBASE_REG OP_STOREI4_MEMBASE_REG
2039 #define OP_STOREP_MEMBASE_IMM OP_STOREI4_MEMBASE_IMM
2040 #endif
2041
2042 /* Opcodes to load/store regsize quantities */
2043 #if defined (__mono_ilp32__)
2044 #define OP_LOADR_MEMBASE OP_LOADI8_MEMBASE
2045 #define OP_STORER_MEMBASE_REG OP_STOREI8_MEMBASE_REG
2046 #else
2047 #define OP_LOADR_MEMBASE OP_LOAD_MEMBASE
2048 #define OP_STORER_MEMBASE_REG OP_STORE_MEMBASE_REG
2049 #endif
2050
2051 typedef enum {
2052         STACK_INV,
2053         STACK_I4,
2054         STACK_I8,
2055         STACK_PTR,
2056         STACK_R8,
2057         STACK_MP,
2058         STACK_OBJ,
2059         STACK_VTYPE,
2060         STACK_R4,
2061         STACK_MAX
2062 } MonoStackType;
2063
2064 typedef struct {
2065         union {
2066                 double   r8;
2067                 gint32   i4;
2068                 gint64   i8;
2069                 gpointer p;
2070                 MonoClass *klass;
2071         } data;
2072         int type;
2073 } StackSlot;
2074
2075 #if HAVE_ARRAY_ELEM_INIT
2076 extern const guint8 mono_burg_arity [];
2077 #else
2078 extern guint8 mono_burg_arity [];
2079 #endif
2080
2081 extern const char MONO_ARCH_CPU_SPEC [];
2082 #define MONO_ARCH_CPU_SPEC_IDX_COMBINE(a) a ## _idx
2083 #define MONO_ARCH_CPU_SPEC_IDX(a) MONO_ARCH_CPU_SPEC_IDX_COMBINE(a)
2084 extern const guint16 MONO_ARCH_CPU_SPEC_IDX(MONO_ARCH_CPU_SPEC) [];
2085 #define ins_get_spec(op) ((const char*)&MONO_ARCH_CPU_SPEC + MONO_ARCH_CPU_SPEC_IDX(MONO_ARCH_CPU_SPEC)[(op) - OP_LOAD])
2086
2087 enum {
2088         MONO_COMP_DOM = 1,
2089         MONO_COMP_IDOM = 2,
2090         MONO_COMP_DFRONTIER = 4,
2091         MONO_COMP_DOM_REV = 8,
2092         MONO_COMP_LIVENESS = 16,
2093         MONO_COMP_SSA = 32,
2094         MONO_COMP_SSA_DEF_USE = 64,
2095         MONO_COMP_REACHABILITY = 128,
2096         MONO_COMP_LOOPS = 256
2097 };
2098
2099 typedef enum {
2100         MONO_GRAPH_CFG = 1,
2101         MONO_GRAPH_DTREE = 2,
2102         MONO_GRAPH_CFG_CODE = 4,
2103         MONO_GRAPH_CFG_SSA = 8,
2104         MONO_GRAPH_CFG_OPTCODE = 16
2105 } MonoGraphOptions;
2106
2107 typedef struct {
2108         guint16 size;
2109         guint16 offset;
2110         guint8  pad;
2111 } MonoJitArgumentInfo;
2112
2113 typedef struct {
2114         gboolean handle_sigint;
2115         gboolean keep_delegates;
2116         gboolean reverse_pinvoke_exceptions;
2117         gboolean collect_pagefault_stats;
2118         gboolean break_on_unverified;
2119         gboolean better_cast_details;
2120         gboolean mdb_optimizations;
2121         gboolean no_gdb_backtrace;
2122         gboolean suspend_on_sigsegv;
2123         gboolean suspend_on_exception;
2124         gboolean suspend_on_unhandled;
2125         gboolean dyn_runtime_invoke;
2126         gboolean gdb;
2127         gboolean arm_use_fallback_tls;
2128         /*
2129          * Whenever data such as next sequence points and flags is required.
2130          * Next sequence points and flags are required by the debugger agent.
2131          */
2132         gboolean gen_sdb_seq_points;
2133         gboolean no_seq_points_compact_data;
2134         /*
2135          * Setting single_imm_size should guarantee that each time managed code is compiled
2136          * the same instructions and registers are used, regardless of the size of used values.
2137          */
2138         gboolean single_imm_size;
2139         gboolean explicit_null_checks;
2140         /*
2141          * Fill stack frames with 0x2a in method prologs. This helps with the
2142          * debugging of the stack marking code in the GC.
2143          */
2144         gboolean init_stacks;
2145
2146         /*
2147          * Whenever to implement single stepping and breakpoints without signals in the
2148          * soft debugger. This is useful on platforms without signals, like the ps3, or during
2149          * runtime debugging, since it avoids SIGSEGVs when a single step location or breakpoint
2150          * is hit.
2151          */
2152         gboolean soft_breakpoints;
2153         /*
2154          * Whenever to break in the debugger using G_BREAKPOINT on unhandled exceptions.
2155          */
2156         gboolean break_on_exc;
2157         /*
2158          * Load AOT JIT info eagerly.
2159          */
2160         gboolean load_aot_jit_info_eagerly;
2161         /*
2162          * Check for pinvoke calling convention mismatches.
2163          */
2164         gboolean check_pinvoke_callconv;
2165         /*
2166          * Translate Debugger.Break () into a native breakpoint signal
2167          */
2168         gboolean native_debugger_break;
2169         /*
2170          * Disabling the frame pointer emit optimization can allow debuggers to more easily
2171          * identify the stack on some platforms
2172          */
2173         gboolean disable_omit_fp;
2174 } MonoDebugOptions;
2175
2176 enum {
2177         BRANCH_NOT_TAKEN,
2178         BRANCH_TAKEN,
2179         BRANCH_UNDEF
2180 };
2181
2182 typedef enum {
2183         CMP_EQ,
2184         CMP_NE,
2185         CMP_LE,
2186         CMP_GE,
2187         CMP_LT,
2188         CMP_GT,
2189         CMP_LE_UN,
2190         CMP_GE_UN,
2191         CMP_LT_UN,
2192         CMP_GT_UN
2193 } CompRelation;
2194
2195 typedef enum {
2196         CMP_TYPE_L,
2197         CMP_TYPE_I,
2198         CMP_TYPE_F
2199 } CompType;
2200
2201 /* Implicit exceptions */
2202 enum {
2203         MONO_EXC_INDEX_OUT_OF_RANGE,
2204         MONO_EXC_OVERFLOW,
2205         MONO_EXC_ARITHMETIC,
2206         MONO_EXC_DIVIDE_BY_ZERO,
2207         MONO_EXC_INVALID_CAST,
2208         MONO_EXC_NULL_REF,
2209         MONO_EXC_ARRAY_TYPE_MISMATCH,
2210         MONO_EXC_ARGUMENT,
2211         MONO_EXC_INTRINS_NUM
2212 };
2213
2214 enum {
2215         MINI_TOKEN_SOURCE_CLASS,
2216         MINI_TOKEN_SOURCE_METHOD,
2217         MINI_TOKEN_SOURCE_FIELD
2218 };
2219
2220  /*
2221   * Information about a trampoline function.
2222   */
2223  typedef struct
2224  {
2225         /*
2226          * The native code of the trampoline. Not owned by this structure.
2227          */
2228         guint8 *code;
2229         guint32 code_size;
2230         /*
2231          * The name of the trampoline which can be used in AOT/xdebug. Owned by this
2232          * structure.
2233          */
2234         char *name;
2235         /*
2236          * Patches required by the trampoline when aot-ing. Owned by this structure.
2237          */
2238         MonoJumpInfo *ji;
2239         /*
2240          * Unwind information. Owned by this structure.
2241          */
2242         GSList *unwind_ops;
2243
2244          /*
2245           * Encoded unwind info loaded from AOT images
2246           */
2247          guint8 *uw_info;
2248          guint32 uw_info_len;
2249 } MonoTrampInfo;
2250
2251 typedef void (*MonoInstFunc) (MonoInst *tree, gpointer data);
2252
2253 enum {
2254         FILTER_IL_SEQ_POINT = 1 << 0,
2255         FILTER_NOP          = 1 << 1,
2256 };
2257
2258 static inline gboolean
2259 mono_inst_filter (MonoInst *ins, int filter)
2260 {
2261         if (!ins || !filter)
2262                 return FALSE;
2263
2264         if ((filter & FILTER_IL_SEQ_POINT) && ins->opcode == OP_IL_SEQ_POINT)
2265                 return TRUE;
2266
2267         if ((filter & FILTER_NOP) && ins->opcode == OP_NOP)
2268                 return TRUE;
2269
2270         return FALSE;
2271 }
2272
2273 static inline MonoInst*
2274 mono_inst_next (MonoInst *ins, int filter)
2275 {
2276         do {
2277                 ins = ins->next;
2278         } while (mono_inst_filter (ins, filter));
2279
2280         return ins;
2281 }
2282
2283 static inline MonoInst*
2284 mono_inst_prev (MonoInst *ins, int filter)
2285 {
2286         do {
2287                 ins = ins->prev;
2288         } while (mono_inst_filter (ins, filter));
2289
2290         return ins;
2291 }
2292
2293 static inline MonoInst*
2294 mono_bb_first_inst (MonoBasicBlock *bb, int filter)
2295 {
2296         MonoInst *ins = bb->code;
2297         if (mono_inst_filter (ins, filter))
2298                 ins = mono_inst_next (ins, filter);
2299
2300         return ins;
2301 }
2302
2303 static inline MonoInst*
2304 mono_bb_last_inst (MonoBasicBlock *bb, int filter)
2305 {
2306         MonoInst *ins = bb->last_ins;
2307         if (mono_inst_filter (ins, filter))
2308                 ins = mono_inst_prev (ins, filter);
2309
2310         return ins;
2311 }
2312
2313 /* main function */
2314 MONO_API int         mono_main                      (int argc, char* argv[]);
2315 MONO_API void        mono_set_defaults              (int verbose_level, guint32 opts);
2316 MONO_API void        mono_parse_env_options         (int *ref_argc, char **ref_argv []);
2317 MONO_API char       *mono_parse_options_from        (const char *options, int *ref_argc, char **ref_argv []);
2318
2319 MonoDomain* mini_init                      (const char *filename, const char *runtime_version);
2320 void        mini_cleanup                   (MonoDomain *domain);
2321 MONO_API MonoDebugOptions *mini_get_debug_options   (void);
2322 MONO_API gboolean    mini_parse_debug_option (const char *option);
2323
2324 /* graph dumping */
2325 void mono_cfg_dump_create_context (MonoCompile *cfg);
2326 void mono_cfg_dump_begin_group (MonoCompile *cfg);
2327 void mono_cfg_dump_close_group (MonoCompile *cfg);
2328 void mono_cfg_dump_ir (MonoCompile *cfg, const char *phase_name);
2329
2330 /* helper methods */
2331 void      mini_jit_init                    (void);
2332 void      mini_jit_cleanup                 (void);
2333 void      mono_disable_optimizations       (guint32 opts);
2334 void      mono_set_optimizations           (guint32 opts);
2335 void      mono_set_bisect_methods          (guint32 opt, const char *method_list_filename);
2336 guint32   mono_get_optimizations_for_method (MonoMethod *method, guint32 default_opt);
2337 char*     mono_opt_descr                   (guint32 flags);
2338 void      mono_set_verbose_level           (guint32 level);
2339 MonoJumpInfoToken* mono_jump_info_token_new (MonoMemPool *mp, MonoImage *image, guint32 token);
2340 MonoJumpInfoToken* mono_jump_info_token_new2 (MonoMemPool *mp, MonoImage *image, guint32 token, MonoGenericContext *context);
2341 MonoInst* mono_find_spvar_for_region        (MonoCompile *cfg, int region);
2342 MonoInst* mono_find_exvar_for_offset        (MonoCompile *cfg, int offset);
2343 int       mono_get_block_region_notry       (MonoCompile *cfg, int region) MONO_LLVM_INTERNAL;
2344
2345 void      mono_precompile_assemblies        (void);
2346 MONO_API int       mono_parse_default_optimizations  (const char* p);
2347 void      mono_bblock_add_inst              (MonoBasicBlock *bb, MonoInst *inst) MONO_LLVM_INTERNAL;
2348 void      mono_bblock_insert_after_ins      (MonoBasicBlock *bb, MonoInst *ins, MonoInst *ins_to_insert);
2349 void      mono_bblock_insert_before_ins     (MonoBasicBlock *bb, MonoInst *ins, MonoInst *ins_to_insert);
2350 void      mono_verify_bblock                (MonoBasicBlock *bb);
2351 void      mono_verify_cfg                   (MonoCompile *cfg);
2352 void      mono_constant_fold                (MonoCompile *cfg);
2353 MonoInst* mono_constant_fold_ins            (MonoCompile *cfg, MonoInst *ins, MonoInst *arg1, MonoInst *arg2, gboolean overwrite);
2354 int       mono_eval_cond_branch             (MonoInst *branch);
2355 int       mono_is_power_of_two              (guint32 val) MONO_LLVM_INTERNAL;
2356 void      mono_cprop_local                  (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst **acp, int acp_size);
2357 MonoInst* mono_compile_create_var           (MonoCompile *cfg, MonoType *type, int opcode);
2358 MonoInst* mono_compile_create_var_for_vreg  (MonoCompile *cfg, MonoType *type, int opcode, int vreg);
2359 void      mono_compile_make_var_load        (MonoCompile *cfg, MonoInst *dest, gssize var_index);
2360 MonoInst* mini_get_int_to_float_spill_area  (MonoCompile *cfg);
2361 MonoType* mono_type_from_stack_type         (MonoInst *ins);
2362 guint32   mono_alloc_ireg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2363 guint32   mono_alloc_lreg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2364 guint32   mono_alloc_freg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2365 guint32   mono_alloc_preg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2366 guint32   mono_alloc_dreg                   (MonoCompile *cfg, MonoStackType stack_type);
2367 guint32   mono_alloc_ireg_ref               (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2368 guint32   mono_alloc_ireg_mp                (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2369 guint32   mono_alloc_ireg_copy              (MonoCompile *cfg, guint32 vreg) MONO_LLVM_INTERNAL;
2370 void      mono_mark_vreg_as_ref             (MonoCompile *cfg, int vreg);
2371 void      mono_mark_vreg_as_mp              (MonoCompile *cfg, int vreg);
2372
2373 void      mono_link_bblock                  (MonoCompile *cfg, MonoBasicBlock *from, MonoBasicBlock* to);
2374 void      mono_unlink_bblock                (MonoCompile *cfg, MonoBasicBlock *from, MonoBasicBlock* to);
2375 gboolean  mono_bblocks_linked               (MonoBasicBlock *bb1, MonoBasicBlock *bb2);
2376 void      mono_remove_bblock                (MonoCompile *cfg, MonoBasicBlock *bb);
2377 void      mono_nullify_basic_block          (MonoBasicBlock *bb);
2378 void      mono_merge_basic_blocks           (MonoCompile *cfg, MonoBasicBlock *bb, MonoBasicBlock *bbn);
2379 void      mono_optimize_branches            (MonoCompile *cfg);
2380
2381 void      mono_blockset_print               (MonoCompile *cfg, MonoBitSet *set, const char *name, guint idom);
2382 const char*mono_ji_type_to_string           (MonoJumpInfoType type);
2383 void      mono_print_ji                     (const MonoJumpInfo *ji);
2384 void      mono_print_ins_index              (int i, MonoInst *ins);
2385 GString  *mono_print_ins_index_strbuf       (int i, MonoInst *ins);
2386 void      mono_print_ins                    (MonoInst *ins);
2387 void      mono_print_bb                     (MonoBasicBlock *bb, const char *msg);
2388 void      mono_print_code                   (MonoCompile *cfg, const char *msg);
2389 MONO_API void      mono_print_method_from_ip         (void *ip);
2390 MONO_API char     *mono_pmip                         (void *ip);
2391 gboolean  mono_debug_count                  (void);
2392 MONO_API const char* mono_inst_name                  (int op);
2393 int       mono_op_to_op_imm                 (int opcode);
2394 int       mono_op_imm_to_op                 (int opcode);
2395 int       mono_load_membase_to_load_mem     (int opcode);
2396 guint     mono_type_to_load_membase         (MonoCompile *cfg, MonoType *type);
2397 guint     mono_type_to_store_membase        (MonoCompile *cfg, MonoType *type);
2398 guint     mini_type_to_stind                (MonoCompile* cfg, MonoType *type);
2399 MonoJitInfo* mini_lookup_method             (MonoDomain *domain, MonoMethod *method, MonoMethod *shared);
2400 guint32   mono_reverse_branch_op            (guint32 opcode);
2401 void      mono_disassemble_code             (MonoCompile *cfg, guint8 *code, int size, char *id);
2402 void      mono_add_patch_info               (MonoCompile *cfg, int ip, MonoJumpInfoType type, gconstpointer target) MONO_LLVM_INTERNAL;
2403 void      mono_add_patch_info_rel           (MonoCompile *cfg, int ip, MonoJumpInfoType type, gconstpointer target, int relocation) MONO_LLVM_INTERNAL;
2404 void      mono_remove_patch_info            (MonoCompile *cfg, int ip);
2405 MonoJumpInfo* mono_patch_info_dup_mp        (MonoMemPool *mp, MonoJumpInfo *patch_info);
2406 guint     mono_patch_info_hash (gconstpointer data);
2407 gint      mono_patch_info_equal (gconstpointer ka, gconstpointer kb);
2408 MonoJumpInfo *mono_patch_info_list_prepend  (MonoJumpInfo *list, int ip, MonoJumpInfoType type, gconstpointer target);
2409 gpointer  mono_resolve_patch_target         (MonoMethod *method, MonoDomain *domain, guint8 *code, MonoJumpInfo *patch_info, gboolean run_cctors, MonoError *error) MONO_LLVM_INTERNAL;
2410 gpointer  mono_jit_find_compiled_method_with_jit_info (MonoDomain *domain, MonoMethod *method, MonoJitInfo **ji);
2411 gpointer  mono_jit_find_compiled_method     (MonoDomain *domain, MonoMethod *method);
2412 gpointer  mono_jit_compile_method           (MonoMethod *method, MonoError *error);
2413 gpointer  mono_jit_compile_method_inner     (MonoMethod *method, MonoDomain *target_domain, int opt, MonoError *error);
2414 MonoLMF * mono_get_lmf                      (void);
2415 MonoLMF** mono_get_lmf_addr                 (void);
2416 void      mono_set_lmf                      (MonoLMF *lmf);
2417 MonoJitTlsData* mono_get_jit_tls            (void);
2418 MONO_API MonoDomain* mono_jit_thread_attach (MonoDomain *domain);
2419 MONO_API void      mono_jit_set_domain      (MonoDomain *domain);
2420 gint32    mono_get_jit_tls_offset           (void);
2421 gint32    mono_get_lmf_tls_offset           (void);
2422 gint32    mono_get_lmf_addr_tls_offset      (void);
2423 int       mini_get_tls_offset               (MonoTlsKey key);
2424 gboolean  mini_tls_get_supported            (MonoCompile *cfg, MonoTlsKey key);
2425 MonoInst* mono_create_tls_get               (MonoCompile *cfg, MonoTlsKey key);
2426 MonoInst* mono_get_jit_tls_intrinsic        (MonoCompile *cfg);
2427 MonoInst* mono_get_domain_intrinsic         (MonoCompile* cfg);
2428 MonoInst* mono_get_thread_intrinsic         (MonoCompile* cfg);
2429 MonoInst* mono_get_lmf_intrinsic            (MonoCompile* cfg);
2430 MonoInst* mono_get_lmf_addr_intrinsic       (MonoCompile* cfg);
2431 GList    *mono_varlist_insert_sorted        (MonoCompile *cfg, GList *list, MonoMethodVar *mv, int sort_type);
2432 GList    *mono_varlist_sort                 (MonoCompile *cfg, GList *list, int sort_type);
2433 void      mono_analyze_liveness             (MonoCompile *cfg);
2434 void      mono_analyze_liveness_gc          (MonoCompile *cfg);
2435 void      mono_linear_scan                  (MonoCompile *cfg, GList *vars, GList *regs, regmask_t *used_mask);
2436 void      mono_global_regalloc              (MonoCompile *cfg);
2437 void      mono_create_jump_table            (MonoCompile *cfg, MonoInst *label, MonoBasicBlock **bbs, int num_blocks);
2438 MonoCompile *mini_method_compile            (MonoMethod *method, guint32 opts, MonoDomain *domain, JitFlags flags, int parts, int aot_method_index);
2439 void      mono_destroy_compile              (MonoCompile *cfg);
2440 void      mono_empty_compile              (MonoCompile *cfg);
2441 MonoJitICallInfo *mono_find_jit_opcode_emulation (int opcode);
2442 void      mono_print_ins_index (int i, MonoInst *ins);
2443 void      mono_print_ins (MonoInst *ins);
2444 gboolean  mini_assembly_can_skip_verification (MonoDomain *domain, MonoMethod *method);
2445 gboolean mono_compile_is_broken (MonoCompile *cfg, MonoMethod *method, gboolean fail_compile);
2446 MonoInst *mono_get_got_var (MonoCompile *cfg);
2447 void      mono_add_seq_point (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins, int native_offset);
2448 void      mono_add_var_location (MonoCompile *cfg, MonoInst *var, gboolean is_reg, int reg, int offset, int from, int to);
2449 MonoInst* mono_emit_jit_icall (MonoCompile *cfg, gconstpointer func, MonoInst **args);
2450 MonoInst* mono_emit_jit_icall_by_info (MonoCompile *cfg, int il_offset, MonoJitICallInfo *info, MonoInst **args);
2451 MonoInst* mono_emit_method_call (MonoCompile *cfg, MonoMethod *method, MonoInst **args, MonoInst *this_ins);
2452 void      mono_create_helper_signatures (void);
2453
2454 gboolean  mini_class_is_system_array (MonoClass *klass);
2455 MonoMethodSignature *mono_get_element_address_signature (int arity);
2456 MonoJitICallInfo    *mono_get_element_address_icall (int rank);
2457 MonoJitICallInfo    *mono_get_array_new_va_icall (int rank);
2458
2459 void      mono_linterval_add_range          (MonoCompile *cfg, MonoLiveInterval *interval, int from, int to);
2460 void      mono_linterval_print              (MonoLiveInterval *interval);
2461 void      mono_linterval_print_nl (MonoLiveInterval *interval);
2462 gboolean  mono_linterval_covers             (MonoLiveInterval *interval, int pos);
2463 gint32    mono_linterval_get_intersect_pos  (MonoLiveInterval *i1, MonoLiveInterval *i2);
2464 void      mono_linterval_split              (MonoCompile *cfg, MonoLiveInterval *interval, MonoLiveInterval **i1, MonoLiveInterval **i2, int pos);
2465 void      mono_liveness_handle_exception_clauses (MonoCompile *cfg);
2466
2467 /* Native Client functions */
2468 gpointer mono_realloc_native_code(MonoCompile *cfg);
2469
2470 #if defined(__native_client__) || defined(__native_client_codegen__)
2471 extern volatile int __nacl_thread_suspension_needed;
2472 void __nacl_suspend_thread_if_needed(void);
2473 void mono_nacl_gc(void);
2474 #endif
2475
2476 extern MonoDebugOptions debug_options;
2477
2478 static inline MonoMethod*
2479 jinfo_get_method (MonoJitInfo *ji)
2480 {
2481         return mono_jit_info_get_method (ji);
2482 }
2483
2484 /* AOT */
2485 void      mono_aot_init                     (void);
2486 void      mono_aot_cleanup                  (void);
2487 gpointer  mono_aot_get_method_checked       (MonoDomain *domain,
2488                                                                                          MonoMethod *method, MonoError *error);
2489 gpointer  mono_aot_get_method_from_token    (MonoDomain *domain, MonoImage *image, guint32 token, MonoError *error);
2490 gboolean  mono_aot_is_got_entry             (guint8 *code, guint8 *addr);
2491 guint8*   mono_aot_get_plt_entry            (guint8 *code);
2492 guint32   mono_aot_get_plt_info_offset      (mgreg_t *regs, guint8 *code);
2493 gboolean  mono_aot_get_cached_class_info    (MonoClass *klass, MonoCachedClassInfo *res);
2494 gboolean  mono_aot_get_class_from_name      (MonoImage *image, const char *name_space, const char *name, MonoClass **klass);
2495 MonoJitInfo* mono_aot_find_jit_info         (MonoDomain *domain, MonoImage *image, gpointer addr);
2496 gpointer mono_aot_plt_resolve               (gpointer aot_module, guint32 plt_info_offset, guint8 *code, MonoError *error);
2497 void     mono_aot_patch_plt_entry           (guint8 *code, guint8 *plt_entry, gpointer *got, mgreg_t *regs, guint8 *addr);
2498 gpointer mono_aot_get_method_from_vt_slot   (MonoDomain *domain, MonoVTable *vtable, int slot, MonoError *error);
2499 gpointer mono_aot_create_specific_trampoline   (MonoImage *image, gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2500 gpointer mono_aot_get_trampoline            (const char *name);
2501 gpointer mono_aot_get_trampoline_full       (const char *name, MonoTrampInfo **out_tinfo);
2502 gpointer mono_aot_get_unbox_trampoline      (MonoMethod *method);
2503 gpointer mono_aot_get_lazy_fetch_trampoline (guint32 slot);
2504 gpointer mono_aot_get_static_rgctx_trampoline (gpointer ctx, gpointer addr);
2505 gpointer mono_aot_get_imt_trampoline        (MonoVTable *vtable, MonoDomain *domain, MonoIMTCheckItem **imt_entries, int count, gpointer fail_tramp);
2506 gpointer mono_aot_get_gsharedvt_arg_trampoline(gpointer arg, gpointer addr);
2507 guint8*  mono_aot_get_unwind_info           (MonoJitInfo *ji, guint32 *unwind_info_len);
2508 guint32  mono_aot_method_hash               (MonoMethod *method);
2509 MonoMethod* mono_aot_get_array_helper_from_wrapper (MonoMethod *method);
2510 void     mono_aot_set_make_unreadable       (gboolean unreadable);
2511 gboolean mono_aot_is_pagefault              (void *ptr);
2512 void     mono_aot_handle_pagefault          (void *ptr);
2513 void     mono_aot_register_jit_icall        (const char *name, gpointer addr);
2514 guint32  mono_aot_find_method_index         (MonoMethod *method);
2515 void     mono_aot_init_llvm_method          (gpointer aot_module, guint32 method_index);
2516 void     mono_aot_init_gshared_method_this  (gpointer aot_module, guint32 method_index, MonoObject *this_ins);
2517 void     mono_aot_init_gshared_method_mrgctx  (gpointer aot_module, guint32 method_index, MonoMethodRuntimeGenericContext *rgctx);
2518 void     mono_aot_init_gshared_method_vtable  (gpointer aot_module, guint32 method_index, MonoVTable *vtable);
2519
2520 /* This is an exported function */
2521 MONO_API void     mono_aot_register_module           (gpointer *aot_info);
2522
2523 /* These are used to load the AOT data for aot images compiled with MONO_AOT_FILE_FLAG_SEPARATE_DATA */
2524 /*
2525  * Return the AOT data for ASSEMBLY. SIZE is the size of the data. OUT_HANDLE should be set to a handle which is later
2526  * passed to the free function.
2527  */
2528 typedef unsigned char* (*MonoLoadAotDataFunc)          (MonoAssembly *assembly, int size, gpointer user_data, void **out_handle);
2529 /* Not yet used */
2530 typedef void  (*MonoFreeAotDataFunc)          (MonoAssembly *assembly, int size, gpointer user_data, void *handle);
2531 MONO_API void mono_install_load_aot_data_hook (MonoLoadAotDataFunc load_func, MonoFreeAotDataFunc free_func, gpointer user_data);
2532
2533 void     mono_xdebug_init                   (const char *xdebug_opts);
2534 void     mono_save_xdebug_info              (MonoCompile *cfg);
2535 void     mono_save_trampoline_xdebug_info   (MonoTrampInfo *info);
2536 /* This is an exported function */
2537 void     mono_xdebug_flush                  (void);
2538
2539 gboolean  mono_method_blittable             (MonoMethod *method);
2540 gboolean  mono_method_same_domain           (MonoJitInfo *caller, MonoJitInfo *callee);
2541
2542 void      mono_register_opcode_emulation    (int opcode, const char* name, const char *sigstr, gpointer func, gboolean no_throw);
2543 void      mono_draw_graph                   (MonoCompile *cfg, MonoGraphOptions draw_options);
2544 void      mono_add_ins_to_end               (MonoBasicBlock *bb, MonoInst *inst);
2545 gpointer  mono_create_ftnptr                (MonoDomain *domain, gpointer addr);
2546
2547 MONO_API void      mono_replace_ins                  (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins, MonoInst **prev, MonoBasicBlock *first_bb, MonoBasicBlock *last_bb);
2548
2549 int               mono_find_method_opcode      (MonoMethod *method);
2550 MonoJitICallInfo *mono_register_jit_icall      (gconstpointer func, const char *name, MonoMethodSignature *sig, gboolean is_save);
2551 gconstpointer     mono_icall_get_wrapper       (MonoJitICallInfo* callinfo) MONO_LLVM_INTERNAL;
2552 gconstpointer     mono_icall_get_wrapper_full  (MonoJitICallInfo* callinfo, gboolean do_compile);
2553 void              mini_register_opcode_emulation (int opcode, const char *name, const char *sigstr, gpointer func, const char *symbol, gboolean no_throw);
2554
2555 void              mono_trampolines_init (void);
2556 void              mono_trampolines_cleanup (void);
2557 guint8 *          mono_get_trampoline_code (MonoTrampolineType tramp_type);
2558 gpointer          mono_create_specific_trampoline (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2559 gpointer          mono_create_jump_trampoline (MonoDomain *domain,
2560                                                                                            MonoMethod *method,
2561                                                                                            gboolean add_sync_wrapper,
2562                                                                                            MonoError *error);
2563 gpointer          mono_create_class_init_trampoline (MonoVTable *vtable);
2564 gpointer          mono_create_jit_trampoline (MonoDomain *domain, MonoMethod *method, MonoError *error) MONO_LLVM_INTERNAL;
2565 gpointer          mono_create_jit_trampoline_from_token (MonoImage *image, guint32 token);
2566 gpointer          mono_create_delegate_trampoline (MonoDomain *domain, MonoClass *klass);
2567 MonoDelegateTrampInfo* mono_create_delegate_trampoline_info (MonoDomain *domain, MonoClass *klass, MonoMethod *method);
2568 gpointer          mono_create_delegate_virtual_trampoline (MonoDomain *domain, MonoClass *klass, MonoMethod *method);
2569 gpointer          mono_create_rgctx_lazy_fetch_trampoline (guint32 offset);
2570 gpointer          mono_create_monitor_enter_trampoline (void);
2571 gpointer          mono_create_monitor_enter_v4_trampoline (void);
2572 gpointer          mono_create_monitor_exit_trampoline (void);
2573 gpointer          mono_create_static_rgctx_trampoline (MonoMethod *m, gpointer addr);
2574 MonoVTable*       mono_find_class_init_trampoline_by_addr (gconstpointer addr);
2575 guint32           mono_find_rgctx_lazy_fetch_trampoline_by_addr (gconstpointer addr);
2576 gpointer          mono_magic_trampoline (mgreg_t *regs, guint8 *code, gpointer arg, guint8* tramp);
2577 #ifndef DISABLE_REMOTING
2578 gpointer          mono_generic_virtual_remoting_trampoline (mgreg_t *regs, guint8 *code, MonoMethod *m, guint8 *tramp);
2579 #endif
2580 gpointer          mono_delegate_trampoline (mgreg_t *regs, guint8 *code, gpointer *tramp_data, guint8* tramp);
2581 gpointer          mono_aot_trampoline (mgreg_t *regs, guint8 *code, guint8 *token_info,
2582                                                                            guint8* tramp);
2583 gpointer          mono_aot_plt_trampoline (mgreg_t *regs, guint8 *code, guint8 *token_info,
2584                                                                                    guint8* tramp);
2585 void              mono_class_init_trampoline (mgreg_t *regs, guint8 *code, MonoVTable *vtable, guint8 *tramp);
2586 void              mono_generic_class_init_trampoline (mgreg_t *regs, guint8 *code, MonoVTable *vtable, guint8 *tramp);
2587 void              mono_monitor_enter_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2588 void              mono_monitor_enter_v4_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2589 void              mono_monitor_exit_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2590 gconstpointer     mono_get_trampoline_func (MonoTrampolineType tramp_type);
2591 gpointer          mini_get_vtable_trampoline (MonoVTable *vt, int slot_index);
2592 const char*       mono_get_generic_trampoline_simple_name (MonoTrampolineType tramp_type);
2593 char*             mono_get_generic_trampoline_name (MonoTrampolineType tramp_type);
2594 char*             mono_get_rgctx_fetch_trampoline_name (int slot);
2595 gpointer          mini_get_nullified_class_init_trampoline (void);
2596 gpointer          mini_get_single_step_trampoline (void);
2597 gpointer          mini_get_breakpoint_trampoline (void);
2598 gpointer          mini_add_method_trampoline (MonoMethod *m, gpointer compiled_method, gboolean add_static_rgctx_tramp, gboolean add_unbox_tramp);
2599 gpointer          mini_add_method_wrappers_llvmonly (MonoMethod *m, gpointer compiled_method, gboolean caller_gsharedvt, gboolean add_unbox_tramp, gpointer *out_arg);
2600 gboolean          mini_jit_info_is_gsharedvt (MonoJitInfo *ji);
2601 gpointer*         mini_resolve_imt_method (MonoVTable *vt, gpointer *vtable_slot, MonoMethod *imt_method, MonoMethod **impl_method, gpointer *out_aot_addr,
2602                                            gboolean *out_need_rgctx_tramp, MonoMethod **variant_iface,
2603                                            MonoError *error);
2604 MonoFtnDesc      *mini_create_llvmonly_ftndesc (MonoDomain *domain, gpointer addr, gpointer arg);
2605
2606 gboolean          mono_running_on_valgrind (void);
2607 void*             mono_global_codeman_reserve (int size);
2608 const char       *mono_regname_full (int reg, int bank);
2609 gint32*           mono_allocate_stack_slots (MonoCompile *cfg, gboolean backward, guint32 *stack_size, guint32 *stack_align);
2610 void              mono_local_regalloc (MonoCompile *cfg, MonoBasicBlock *bb);
2611 MonoInst         *mono_branch_optimize_exception_target (MonoCompile *cfg, MonoBasicBlock *bb, const char * exname);
2612 void              mono_remove_critical_edges (MonoCompile *cfg);
2613 gboolean          mono_is_regsize_var (MonoType *t);
2614 void              mini_emit_memcpy (MonoCompile *cfg, int destreg, int doffset, int srcreg, int soffset, int size, int align);
2615 void              mini_emit_stobj (MonoCompile *cfg, MonoInst *dest, MonoInst *src, MonoClass *klass, gboolean native);
2616 void              mini_emit_initobj (MonoCompile *cfg, MonoInst *dest, const guchar *ip, MonoClass *klass);
2617 CompRelation      mono_opcode_to_cond (int opcode) MONO_LLVM_INTERNAL;
2618 CompType          mono_opcode_to_type (int opcode, int cmp_opcode);
2619 CompRelation      mono_negate_cond (CompRelation cond);
2620 int               mono_op_imm_to_op (int opcode);
2621 void              mono_decompose_op_imm (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins);
2622 void              mono_peephole_ins (MonoBasicBlock *bb, MonoInst *ins);
2623 MonoUnwindOp     *mono_create_unwind_op (int when,
2624                                                                                  int tag, int reg,
2625                                                                                  int val);
2626 void              mono_emit_unwind_op (MonoCompile *cfg, int when,
2627                                                                            int tag, int reg,
2628                                                                            int val);
2629 MonoTrampInfo*    mono_tramp_info_create (const char *name, guint8 *code, guint32 code_size, MonoJumpInfo *ji, GSList *unwind_ops);
2630 void              mono_tramp_info_free (MonoTrampInfo *info);
2631 void              mono_tramp_info_register (MonoTrampInfo *info, MonoDomain *domain);
2632 int               mini_exception_id_by_name (const char *name);
2633 gboolean          mini_type_is_hfa (MonoType *t, int *out_nfields, int *out_esize) MONO_LLVM_INTERNAL;
2634
2635 int               mono_method_to_ir (MonoCompile *cfg, MonoMethod *method, MonoBasicBlock *start_bblock, MonoBasicBlock *end_bblock,
2636                                                                          MonoInst *return_var, MonoInst **inline_args,
2637                                                                          guint inline_offset, gboolean is_virtual_call);
2638
2639 MonoInst         *mono_decompose_opcode (MonoCompile *cfg, MonoInst *ins);
2640 void              mono_decompose_long_opts (MonoCompile *cfg);
2641 void              mono_decompose_vtype_opts (MonoCompile *cfg);
2642 void              mono_decompose_array_access_opts (MonoCompile *cfg);
2643 void              mono_decompose_soft_float (MonoCompile *cfg);
2644 void              mono_local_emulate_ops (MonoCompile *cfg);
2645 void              mono_handle_global_vregs (MonoCompile *cfg);
2646 void              mono_spill_global_vars (MonoCompile *cfg, gboolean *need_local_opts);
2647 void              mono_allocate_gsharedvt_vars (MonoCompile *cfg);
2648 void              mono_if_conversion (MonoCompile *cfg);
2649
2650 /* Delegates */
2651 gpointer          mini_get_delegate_arg (MonoMethod *method, gpointer method_ptr);
2652 void              mini_init_delegate (MonoDelegate *del);
2653 char*             mono_get_delegate_virtual_invoke_impl_name (gboolean load_imt_reg, int offset);
2654 gpointer          mono_get_delegate_virtual_invoke_impl  (MonoMethodSignature *sig, MonoMethod *method);
2655
2656 /* methods that must be provided by the arch-specific port */
2657 void      mono_arch_init                        (void);
2658 void      mono_arch_finish_init                 (void);
2659 void      mono_arch_cleanup                     (void);
2660 void      mono_arch_cpu_init                    (void);
2661 guint32   mono_arch_cpu_optimizations           (guint32 *exclude_mask);
2662 void      mono_arch_instrument_mem_needs        (MonoMethod *method, int *stack, int *code);
2663 void     *mono_arch_instrument_prolog           (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments);
2664 void     *mono_arch_instrument_epilog           (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments);
2665 void     *mono_arch_instrument_epilog_full     (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments, gboolean preserve_argument_registers);
2666 void      mono_codegen                          (MonoCompile *cfg);
2667 void      mono_call_inst_add_outarg_reg         (MonoCompile *cfg, MonoCallInst *call, int vreg, int hreg, int bank) MONO_LLVM_INTERNAL;
2668 void      mono_call_inst_add_outarg_vt          (MonoCompile *cfg, MonoCallInst *call, MonoInst *outarg_vt);
2669 const char *mono_arch_regname                   (int reg);
2670 const char *mono_arch_fregname                  (int reg);
2671 void      mono_arch_exceptions_init             (void);
2672 guchar*   mono_arch_create_generic_trampoline   (MonoTrampolineType tramp_type, MonoTrampInfo **info, gboolean aot);
2673 gpointer  mono_arch_create_rgctx_lazy_fetch_trampoline (guint32 slot, MonoTrampInfo **info, gboolean aot);
2674 gpointer  mono_arch_create_general_rgctx_lazy_fetch_trampoline (MonoTrampInfo **info, gboolean aot);
2675 gpointer  mono_arch_get_nullified_class_init_trampoline (MonoTrampInfo **info);
2676 guint8*   mono_arch_create_sdb_trampoline (gboolean single_step, MonoTrampInfo **info, gboolean aot);
2677 gpointer  mono_arch_create_monitor_enter_trampoline (MonoTrampInfo **info, gboolean is_v4, gboolean aot);
2678 gpointer  mono_arch_create_monitor_exit_trampoline (MonoTrampInfo **info, gboolean aot);
2679 guint8   *mono_arch_create_llvm_native_thunk     (MonoDomain *domain, guint8* addr) MONO_LLVM_INTERNAL;
2680 GList    *mono_arch_get_allocatable_int_vars    (MonoCompile *cfg);
2681 GList    *mono_arch_get_global_int_regs         (MonoCompile *cfg);
2682 GList    *mono_arch_get_global_fp_regs          (MonoCompile *cfg);
2683 GList    *mono_arch_get_iregs_clobbered_by_call (MonoCallInst *call);
2684 GList    *mono_arch_get_fregs_clobbered_by_call (MonoCallInst *call);
2685 guint32   mono_arch_regalloc_cost               (MonoCompile *cfg, MonoMethodVar *vmv);
2686 void      mono_arch_patch_code                  (MonoCompile *cfg, MonoMethod *method, MonoDomain *domain, guint8 *code, MonoJumpInfo *ji, gboolean run_cctors, MonoError *error);
2687 void      mono_arch_patch_code_new              (MonoCompile *cfg, MonoDomain *domain, guint8 *code, MonoJumpInfo *ji, gpointer target);
2688 void      mono_arch_flush_icache                (guint8 *code, gint size);
2689 int       mono_arch_max_epilog_size             (MonoCompile *cfg);
2690 guint8   *mono_arch_emit_prolog                 (MonoCompile *cfg);
2691 void      mono_arch_emit_epilog                 (MonoCompile *cfg);
2692 void      mono_arch_emit_exceptions             (MonoCompile *cfg);
2693 void      mono_arch_lowering_pass               (MonoCompile *cfg, MonoBasicBlock *bb);
2694 void      mono_arch_peephole_pass_1             (MonoCompile *cfg, MonoBasicBlock *bb);
2695 void      mono_arch_peephole_pass_2             (MonoCompile *cfg, MonoBasicBlock *bb);
2696 void      mono_arch_output_basic_block          (MonoCompile *cfg, MonoBasicBlock *bb);
2697 void      mono_arch_free_jit_tls_data           (MonoJitTlsData *tls);
2698 void      mono_arch_fill_argument_info          (MonoCompile *cfg);
2699 void      mono_arch_allocate_vars               (MonoCompile *m);
2700 int       mono_arch_get_argument_info           (MonoMethodSignature *csig, int param_count, MonoJitArgumentInfo *arg_info);
2701 gboolean  mono_arch_print_tree                          (MonoInst *tree, int arity);
2702 void      mono_arch_emit_call                   (MonoCompile *cfg, MonoCallInst *call);
2703 void      mono_arch_emit_outarg_vt              (MonoCompile *cfg, MonoInst *ins, MonoInst *src);
2704 void      mono_arch_emit_setret                 (MonoCompile *cfg, MonoMethod *method, MonoInst *val);
2705 MonoDynCallInfo *mono_arch_dyn_call_prepare     (MonoMethodSignature *sig);
2706 void      mono_arch_dyn_call_free               (MonoDynCallInfo *info);
2707 void      mono_arch_start_dyn_call              (MonoDynCallInfo *info, gpointer **args, guint8 *ret, guint8 *buf, int buf_len);
2708 void      mono_arch_finish_dyn_call             (MonoDynCallInfo *info, guint8 *buf);
2709 MonoInst *mono_arch_emit_inst_for_method        (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
2710 void      mono_arch_decompose_opts              (MonoCompile *cfg, MonoInst *ins);
2711 void      mono_arch_decompose_long_opts         (MonoCompile *cfg, MonoInst *ins);
2712 GSList*   mono_arch_get_delegate_invoke_impls   (void);
2713 LLVMCallInfo* mono_arch_get_llvm_call_info      (MonoCompile *cfg, MonoMethodSignature *sig) MONO_LLVM_INTERNAL;
2714 guint8*   mono_arch_emit_load_got_addr          (guint8 *start, guint8 *code, MonoCompile *cfg, MonoJumpInfo **ji);
2715 guint8*   mono_arch_emit_load_aotconst          (guint8 *start, guint8 *code, MonoJumpInfo **ji, MonoJumpInfoType tramp_type, gconstpointer target);
2716 GSList*   mono_arch_get_cie_program             (void);
2717 void      mono_arch_set_target                  (char *mtriple);
2718 gboolean  mono_arch_gsharedvt_sig_supported     (MonoMethodSignature *sig);
2719 gpointer  mono_arch_get_gsharedvt_trampoline    (MonoTrampInfo **info, gboolean aot);
2720 gpointer  mono_arch_get_gsharedvt_call_info     (gpointer addr, MonoMethodSignature *normal_sig, MonoMethodSignature *gsharedvt_sig, gboolean gsharedvt_in, gint32 vcall_offset, gboolean calli);
2721 gboolean  mono_arch_opcode_needs_emulation      (MonoCompile *cfg, int opcode);
2722 gboolean  mono_arch_tail_call_supported         (MonoCompile *cfg, MonoMethodSignature *caller_sig, MonoMethodSignature *callee_sig);
2723 int       mono_arch_translate_tls_offset        (int offset);
2724 gboolean  mono_arch_opcode_supported            (int opcode);
2725 void     mono_arch_setup_resume_sighandler_ctx  (MonoContext *ctx, gpointer func);
2726
2727 #ifdef MONO_ARCH_SOFT_FLOAT_FALLBACK
2728 gboolean  mono_arch_is_soft_float               (void);
2729 #else
2730 static inline MONO_ALWAYS_INLINE gboolean
2731 mono_arch_is_soft_float (void)
2732 {
2733         return FALSE;
2734 }
2735 #endif
2736
2737 /* Soft Debug support */
2738 #ifdef MONO_ARCH_SOFT_DEBUG_SUPPORTED
2739 void      mono_arch_set_breakpoint              (MonoJitInfo *ji, guint8 *ip);
2740 void      mono_arch_clear_breakpoint            (MonoJitInfo *ji, guint8 *ip);
2741 void      mono_arch_start_single_stepping       (void);
2742 void      mono_arch_stop_single_stepping        (void);
2743 gboolean  mono_arch_is_single_step_event        (void *info, void *sigctx);
2744 gboolean  mono_arch_is_breakpoint_event         (void *info, void *sigctx);
2745 void     mono_arch_skip_breakpoint              (MonoContext *ctx, MonoJitInfo *ji);
2746 void     mono_arch_skip_single_step             (MonoContext *ctx);
2747 gpointer mono_arch_get_seq_point_info           (MonoDomain *domain, guint8 *code);
2748 void     mono_arch_init_lmf_ext                 (MonoLMFExt *ext, gpointer prev_lmf);
2749 #endif
2750
2751 gboolean
2752 mono_arch_unwind_frame (MonoDomain *domain, MonoJitTlsData *jit_tls,
2753                                                 MonoJitInfo *ji, MonoContext *ctx,
2754                                                 MonoContext *new_ctx, MonoLMF **lmf,
2755                                                 mgreg_t **save_locations,
2756                                                 StackFrameInfo *frame_info);
2757 gpointer  mono_arch_get_throw_exception_by_name (void);
2758 gpointer mono_arch_get_call_filter              (MonoTrampInfo **info, gboolean aot);
2759 gpointer mono_arch_get_restore_context          (MonoTrampInfo **info, gboolean aot);
2760 gpointer  mono_arch_get_throw_exception         (MonoTrampInfo **info, gboolean aot);
2761 gpointer  mono_arch_get_rethrow_exception       (MonoTrampInfo **info, gboolean aot);
2762 gpointer  mono_arch_get_throw_corlib_exception  (MonoTrampInfo **info, gboolean aot);
2763 gpointer  mono_arch_get_throw_pending_exception (MonoTrampInfo **info, gboolean aot);
2764 gboolean mono_arch_handle_exception             (void *sigctx, gpointer obj);
2765 void     mono_arch_handle_altstack_exception    (void *sigctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo, gpointer fault_addr, gboolean stack_ovf);
2766 gboolean mono_handle_soft_stack_ovf             (MonoJitTlsData *jit_tls, MonoJitInfo *ji, void *ctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo, guint8* fault_addr);
2767 void     mono_handle_hard_stack_ovf             (MonoJitTlsData *jit_tls, MonoJitInfo *ji, void *ctx, guint8* fault_addr);
2768 gpointer mono_arch_ip_from_context              (void *sigctx);
2769 mgreg_t mono_arch_context_get_int_reg               (MonoContext *ctx, int reg);
2770 void     mono_arch_context_set_int_reg              (MonoContext *ctx, int reg, mgreg_t val);
2771 void     mono_arch_flush_register_windows       (void);
2772 gboolean mono_arch_is_inst_imm                  (gint64 imm);
2773 gboolean mono_arch_is_int_overflow              (void *sigctx, void *info);
2774 void     mono_arch_invalidate_method            (MonoJitInfo *ji, void *func, gpointer func_arg);
2775 guint32  mono_arch_get_patch_offset             (guint8 *code);
2776 gpointer*mono_arch_get_delegate_method_ptr_addr (guint8* code, mgreg_t *regs);
2777 void     mono_arch_create_vars                  (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2778 void     mono_arch_save_unwind_info             (MonoCompile *cfg);
2779 void     mono_arch_register_lowlevel_calls      (void);
2780 gpointer mono_arch_get_unbox_trampoline         (MonoMethod *m, gpointer addr);
2781 gpointer mono_arch_get_static_rgctx_trampoline  (MonoMethod *m, MonoMethodRuntimeGenericContext *mrgctx, gpointer addr);
2782 gpointer  mono_arch_get_llvm_imt_trampoline     (MonoDomain *domain, MonoMethod *method, int vt_offset);
2783 gpointer mono_arch_get_gsharedvt_arg_trampoline (MonoDomain *domain, gpointer arg, gpointer addr);
2784 void     mono_arch_patch_callsite               (guint8 *method_start, guint8 *code, guint8 *addr);
2785 void     mono_arch_patch_plt_entry              (guint8 *code, gpointer *got, mgreg_t *regs, guint8 *addr);
2786 void     mono_arch_nullify_class_init_trampoline(guint8 *code, mgreg_t *regs);
2787 int      mono_arch_get_this_arg_reg             (guint8 *code);
2788 gpointer mono_arch_get_this_arg_from_call       (mgreg_t *regs, guint8 *code);
2789 gpointer mono_arch_get_delegate_invoke_impl     (MonoMethodSignature *sig, gboolean has_target);
2790 gpointer mono_arch_get_delegate_virtual_invoke_impl (MonoMethodSignature *sig, MonoMethod *method, int offset, gboolean load_imt_reg);
2791 gpointer mono_arch_create_specific_trampoline   (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2792 MonoMethod* mono_arch_find_imt_method           (mgreg_t *regs, guint8 *code);
2793 MonoVTable* mono_arch_find_static_call_vtable   (mgreg_t *regs, guint8 *code);
2794 gpointer    mono_arch_build_imt_trampoline      (MonoVTable *vtable, MonoDomain *domain, MonoIMTCheckItem **imt_entries, int count, gpointer fail_tramp);
2795 void    mono_arch_notify_pending_exc            (MonoThreadInfo *info);
2796 guint8* mono_arch_get_call_target               (guint8 *code);
2797 guint32 mono_arch_get_plt_info_offset           (guint8 *plt_entry, mgreg_t *regs, guint8 *code);
2798 GSList *mono_arch_get_trampolines               (gboolean aot);
2799
2800 /* Handle block guard */
2801 gpointer mono_arch_install_handler_block_guard (MonoJitInfo *ji, MonoJitExceptionInfo *clause, MonoContext *ctx, gpointer new_value);
2802 gpointer mono_arch_create_handler_block_trampoline (MonoTrampInfo **info, gboolean aot);
2803 gpointer mono_create_handler_block_trampoline (void);
2804 gboolean mono_install_handler_block_guard (MonoThreadUnwindState *ctx);
2805
2806 /*New interruption machinery */
2807 void
2808 mono_setup_async_callback (MonoContext *ctx, void (*async_cb)(void *fun), gpointer user_data);
2809
2810 void
2811 mono_arch_setup_async_callback (MonoContext *ctx, void (*async_cb)(void *fun), gpointer user_data);
2812
2813 gboolean
2814 mono_thread_state_init_from_handle (MonoThreadUnwindState *tctx, MonoThreadInfo *info);
2815
2816
2817 /* Exception handling */
2818 typedef gboolean (*MonoJitStackWalk)            (StackFrameInfo *frame, MonoContext *ctx, gpointer data);
2819
2820 void     mono_exceptions_init                   (void);
2821 gboolean mono_handle_exception                  (MonoContext *ctx, MonoObject *obj);
2822 void     mono_handle_native_sigsegv             (int signal, void *sigctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo);
2823 MONO_API void     mono_print_thread_dump                 (void *sigctx);
2824 MONO_API void     mono_print_thread_dump_from_ctx        (MonoContext *ctx);
2825 void     mono_walk_stack_with_ctx               (MonoJitStackWalk func, MonoContext *start_ctx, MonoUnwindOptions unwind_options, void *user_data);
2826 void     mono_walk_stack_with_state             (MonoJitStackWalk func, MonoThreadUnwindState *state, MonoUnwindOptions unwind_options, void *user_data);
2827 void     mono_walk_stack                        (MonoJitStackWalk func, MonoUnwindOptions options, void *user_data);
2828 gboolean mono_thread_state_init_from_sigctx     (MonoThreadUnwindState *ctx, void *sigctx);
2829 void     mono_thread_state_init                 (MonoThreadUnwindState *ctx);
2830 gboolean mono_thread_state_init_from_current    (MonoThreadUnwindState *ctx);
2831 gboolean mono_thread_state_init_from_monoctx    (MonoThreadUnwindState *ctx, MonoContext *mctx);
2832
2833 void     mono_setup_altstack                    (MonoJitTlsData *tls);
2834 void     mono_free_altstack                     (MonoJitTlsData *tls);
2835 gpointer mono_altstack_restore_prot             (mgreg_t *regs, guint8 *code, gpointer *tramp_data, guint8* tramp);
2836 MonoJitInfo* mini_jit_info_table_find           (MonoDomain *domain, char *addr, MonoDomain **out_domain);
2837 MonoJitInfo* mini_jit_info_table_find_ext       (MonoDomain *domain, char *addr, gboolean allow_trampolines, MonoDomain **out_domain);
2838 void     mono_resume_unwind                     (MonoContext *ctx) MONO_LLVM_INTERNAL;
2839
2840 MonoJitInfo * mono_find_jit_info                (MonoDomain *domain, MonoJitTlsData *jit_tls, MonoJitInfo *res, MonoJitInfo *prev_ji, MonoContext *ctx, MonoContext *new_ctx, char **trace, MonoLMF **lmf, int *native_offset, gboolean *managed);
2841
2842 typedef gboolean (*MonoExceptionFrameWalk)      (MonoMethod *method, gpointer ip, size_t native_offset, gboolean managed, gpointer user_data);
2843 MONO_API gboolean mono_exception_walk_trace     (MonoException *ex, MonoExceptionFrameWalk func, gpointer user_data);
2844 void mono_restore_context                       (MonoContext *ctx);
2845 guint8* mono_jinfo_get_unwind_info              (MonoJitInfo *ji, guint32 *unwind_info_len);
2846 int  mono_jinfo_get_epilog_size                 (MonoJitInfo *ji);
2847 void     mono_llvm_rethrow_exception            (MonoObject *ex);
2848 void     mono_llvm_throw_exception              (MonoObject *ex);
2849 void     mono_llvm_throw_corlib_exception       (guint32 ex_token_index);
2850 void     mono_llvm_resume_exception             (void);
2851 void     mono_llvm_clear_exception              (void);
2852 MonoObject *mono_llvm_load_exception            (void);
2853 void     mono_llvm_reset_exception              (void);
2854 void     mono_llvm_raise_exception              (MonoException *e);
2855 gint32 mono_llvm_match_exception                (MonoJitInfo *jinfo, guint32 region_start, guint32 region_end, gpointer rgctx, MonoObject *this_obj);
2856
2857 gboolean
2858 mono_find_jit_info_ext (MonoDomain *domain, MonoJitTlsData *jit_tls,
2859                                                 MonoJitInfo *prev_ji, MonoContext *ctx,
2860                                                 MonoContext *new_ctx, char **trace, MonoLMF **lmf,
2861                                                 mgreg_t **save_locations,
2862                                                 StackFrameInfo *frame);
2863
2864 gpointer mono_get_throw_exception               (void);
2865 gpointer mono_get_rethrow_exception             (void);
2866 gpointer mono_get_call_filter                   (void);
2867 gpointer mono_get_restore_context               (void);
2868 gpointer mono_get_throw_exception_by_name       (void);
2869 gpointer mono_get_throw_corlib_exception        (void);
2870 gpointer mono_get_throw_exception_addr          (void);
2871 MonoArray *ves_icall_get_trace                  (MonoException *exc, gint32 skip, MonoBoolean need_file_info);
2872 MonoBoolean ves_icall_get_frame_info            (gint32 skip, MonoBoolean need_file_info,
2873                                                  MonoReflectionMethod **method,
2874                                                  gint32 *iloffset, gint32 *native_offset,
2875                                                  MonoString **file, gint32 *line, gint32 *column);
2876 void mono_set_cast_details                      (MonoClass *from, MonoClass *to);
2877
2878 void mono_decompose_typechecks (MonoCompile *cfg);
2879 /* Dominator/SSA methods */
2880 void        mono_compile_dominator_info         (MonoCompile *cfg, int dom_flags);
2881 void        mono_compute_natural_loops          (MonoCompile *cfg);
2882 MonoBitSet* mono_compile_iterated_dfrontier     (MonoCompile *cfg, MonoBitSet *set);
2883 void        mono_ssa_compute                    (MonoCompile *cfg);
2884 void        mono_ssa_remove                     (MonoCompile *cfg);
2885 void        mono_ssa_remove_gsharedvt           (MonoCompile *cfg);
2886 void        mono_ssa_cprop                      (MonoCompile *cfg);
2887 void        mono_ssa_deadce                     (MonoCompile *cfg);
2888 void        mono_ssa_strength_reduction         (MonoCompile *cfg);
2889 void        mono_free_loop_info                 (MonoCompile *cfg);
2890 void        mono_ssa_loop_invariant_code_motion (MonoCompile *cfg);
2891
2892 void        mono_ssa_compute2                   (MonoCompile *cfg);
2893 void        mono_ssa_remove2                    (MonoCompile *cfg);
2894 void        mono_ssa_cprop2                     (MonoCompile *cfg);
2895 void        mono_ssa_deadce2                    (MonoCompile *cfg);
2896
2897 /* debugging support */
2898 void      mono_debug_init_method                (MonoCompile *cfg, MonoBasicBlock *start_block,
2899                                                  guint32 breakpoint_id);
2900 void      mono_debug_open_method                (MonoCompile *cfg);
2901 void      mono_debug_close_method               (MonoCompile *cfg);
2902 void      mono_debug_free_method                (MonoCompile *cfg);
2903 void      mono_debug_open_block                 (MonoCompile *cfg, MonoBasicBlock *bb, guint32 address);
2904 void      mono_debug_record_line_number         (MonoCompile *cfg, MonoInst *ins, guint32 address);
2905 void      mono_debug_serialize_debug_info       (MonoCompile *cfg, guint8 **out_buf, guint32 *buf_len);
2906 void      mono_debug_add_aot_method             (MonoDomain *domain,
2907                                                  MonoMethod *method, guint8 *code_start,
2908                                                  guint8 *debug_info, guint32 debug_info_len);
2909 MONO_API void      mono_debug_print_vars                 (gpointer ip, gboolean only_arguments);
2910 MONO_API void      mono_debugger_run_finally             (MonoContext *start_ctx);
2911
2912 MONO_API gboolean mono_breakpoint_clean_code (guint8 *method_start, guint8 *code, int offset, guint8 *buf, int size);
2913
2914 /* Tracing */
2915 MonoTraceSpec *mono_trace_parse_options         (const char *options);
2916 void           mono_trace_set_assembly          (MonoAssembly *assembly);
2917 gboolean       mono_trace_eval                  (MonoMethod *method);
2918
2919 extern void
2920 mono_perform_abc_removal (MonoCompile *cfg);
2921 extern void
2922 mono_perform_abc_removal (MonoCompile *cfg);
2923 extern void
2924 mono_perform_ssapre (MonoCompile *cfg);
2925 extern void
2926 mono_local_cprop (MonoCompile *cfg);
2927 extern void
2928 mono_local_cprop (MonoCompile *cfg);
2929 extern void
2930 mono_local_deadce (MonoCompile *cfg);
2931 void
2932 mono_local_alias_analysis (MonoCompile *cfg);
2933
2934 /* Generic sharing */
2935
2936 void
2937 mono_set_generic_sharing_supported (gboolean supported);
2938
2939 void
2940 mono_set_generic_sharing_vt_supported (gboolean supported);
2941
2942 void
2943 mono_set_partial_sharing_supported (gboolean supported);
2944
2945 gboolean
2946 mono_class_generic_sharing_enabled (MonoClass *klass);
2947
2948 gpointer
2949 mono_class_fill_runtime_generic_context (MonoVTable *class_vtable, guint32 slot, MonoError *error);
2950
2951 gpointer
2952 mono_method_fill_runtime_generic_context (MonoMethodRuntimeGenericContext *mrgctx, guint32 slot, MonoError *error);
2953
2954 MonoMethodRuntimeGenericContext*
2955 mono_method_lookup_rgctx (MonoVTable *class_vtable, MonoGenericInst *method_inst);
2956
2957 const char*
2958 mono_rgctx_info_type_to_str (MonoRgctxInfoType type);
2959
2960 MonoJumpInfoType
2961 mini_rgctx_info_type_to_patch_info_type (MonoRgctxInfoType info_type);
2962
2963 gboolean
2964 mono_method_needs_static_rgctx_invoke (MonoMethod *method, gboolean allow_type_vars);
2965
2966 int
2967 mono_class_rgctx_get_array_size (int n, gboolean mrgctx);
2968
2969 guint32
2970 mono_method_lookup_or_register_info (MonoMethod *method, gboolean in_mrgctx, gpointer data,
2971         MonoRgctxInfoType info_type, MonoGenericContext *generic_context);
2972
2973 MonoGenericContext
2974 mono_method_construct_object_context (MonoMethod *method);
2975
2976 MonoMethod*
2977 mono_method_get_declaring_generic_method (MonoMethod *method);
2978
2979 int
2980 mono_generic_context_check_used (MonoGenericContext *context);
2981
2982 int
2983 mono_class_check_context_used (MonoClass *klass);
2984
2985 gboolean
2986 mono_generic_context_is_sharable (MonoGenericContext *context, gboolean allow_type_vars);
2987
2988 gboolean
2989 mono_generic_context_is_sharable_full (MonoGenericContext *context, gboolean allow_type_vars, gboolean allow_partial);
2990
2991 gboolean
2992 mono_method_is_generic_impl (MonoMethod *method);
2993
2994 gboolean
2995 mono_method_is_generic_sharable (MonoMethod *method, gboolean allow_type_vars);
2996
2997 gboolean
2998 mono_method_is_generic_sharable_full (MonoMethod *method, gboolean allow_type_vars, gboolean allow_partial, gboolean allow_gsharedvt);
2999
3000 gboolean
3001 mini_class_is_generic_sharable (MonoClass *klass);
3002
3003
3004 gboolean
3005 mini_generic_inst_is_sharable (MonoGenericInst *inst, gboolean allow_type_vars, gboolean allow_partial);
3006
3007 gboolean
3008 mono_is_partially_sharable_inst (MonoGenericInst *inst);
3009
3010 gboolean
3011 mini_is_gsharedvt_gparam (MonoType *t);
3012
3013 MonoGenericContext* mini_method_get_context (MonoMethod *method);
3014
3015 int mono_method_check_context_used (MonoMethod *method);
3016
3017 gboolean mono_generic_context_equal_deep (MonoGenericContext *context1, MonoGenericContext *context2);
3018
3019 gpointer mono_helper_get_rgctx_other_ptr (MonoClass *caller_class, MonoVTable *vtable,
3020                                           guint32 token, guint32 token_source, guint32 rgctx_type,
3021                                           gint32 rgctx_index);
3022
3023 void mono_generic_sharing_init (void);
3024 void mono_generic_sharing_cleanup (void);
3025
3026 MonoClass* mini_class_get_container_class (MonoClass *klass);
3027 MonoGenericContext* mini_class_get_context (MonoClass *klass);
3028
3029 MonoType* mini_get_underlying_type (MonoType *type) MONO_LLVM_INTERNAL;
3030 MonoType* mini_type_get_underlying_type (MonoType *type);
3031 MonoMethod* mini_get_shared_method (MonoMethod *method);
3032 MonoMethod* mini_get_shared_method_to_register (MonoMethod *method);
3033 MonoMethod* mini_get_shared_method_full (MonoMethod *method, gboolean all_vt, gboolean is_gsharedvt);
3034 MonoType* mini_get_shared_gparam (MonoType *t, MonoType *constraint);
3035 int mini_get_rgctx_entry_slot (MonoJumpInfoRgctxEntry *entry);
3036
3037 int mini_type_stack_size (MonoType *t, int *align);
3038 int mini_type_stack_size_full (MonoType *t, guint32 *align, gboolean pinvoke);
3039 void type_to_eval_stack_type (MonoCompile *cfg, MonoType *type, MonoInst *inst);
3040 guint mono_type_to_regmove (MonoCompile *cfg, MonoType *type) MONO_LLVM_INTERNAL;
3041
3042 void mono_cfg_add_try_hole (MonoCompile *cfg, MonoExceptionClause *clause, guint8 *start, MonoBasicBlock *bb);
3043
3044 void mono_cfg_set_exception (MonoCompile *cfg, int type);
3045 void mono_cfg_set_exception_invalid_program (MonoCompile *cfg, char *msg);
3046
3047 #define MONO_TIME_TRACK(a, phase) \
3048         { \
3049                 GTimer *timer = mono_time_track_start (); \
3050                 (phase) ; \
3051                 mono_time_track_end (&(a), timer); \
3052         }
3053
3054 GTimer *mono_time_track_start (void);
3055 void mono_time_track_end (double *time, GTimer *timer);
3056
3057 void mono_update_jit_stats (MonoCompile *cfg);
3058
3059 gboolean mini_type_is_reference (MonoType *type);
3060 gboolean mini_type_is_vtype (MonoType *t) MONO_LLVM_INTERNAL;
3061 gboolean mini_type_var_is_vt (MonoType *type) MONO_LLVM_INTERNAL;
3062 gboolean mini_is_gsharedvt_type (MonoType *t);
3063 gboolean mini_is_gsharedvt_klass (MonoClass *klass) MONO_LLVM_INTERNAL;
3064 gboolean mini_is_gsharedvt_signature (MonoMethodSignature *sig);
3065 gboolean mini_is_gsharedvt_variable_type (MonoType *t) MONO_LLVM_INTERNAL;
3066 gboolean mini_is_gsharedvt_variable_klass (MonoClass *klass) MONO_LLVM_INTERNAL;
3067 gboolean mini_is_gsharedvt_sharable_method (MonoMethod *method);
3068 gboolean mini_is_gsharedvt_variable_signature (MonoMethodSignature *sig);
3069 gboolean mini_is_gsharedvt_sharable_inst (MonoGenericInst *inst);
3070 gpointer mini_method_get_rgctx (MonoMethod *m);
3071 void mini_init_gsctx (MonoDomain *domain, MonoMemPool *mp, MonoGenericContext *context, MonoGenericSharingContext *gsctx);
3072
3073 gpointer mini_get_gsharedvt_wrapper (gboolean gsharedvt_in, gpointer addr, MonoMethodSignature *normal_sig, MonoMethodSignature *gsharedvt_sig,
3074                                                                          gint32 vcall_offset, gboolean calli);
3075 MonoMethod* mini_get_gsharedvt_in_sig_wrapper (MonoMethodSignature *sig);
3076 MonoMethod* mini_get_gsharedvt_out_sig_wrapper (MonoMethodSignature *sig);
3077 MonoMethodSignature* mini_get_gsharedvt_out_sig_wrapper_signature (gboolean has_this, gboolean has_ret, int param_count);
3078 gboolean mini_gsharedvt_runtime_invoke_supported (MonoMethodSignature *sig);
3079
3080 /* SIMD support */
3081
3082 /*
3083 This enum MUST be kept in sync with its managed mirror Mono.Simd.AccelMode.
3084  */
3085 enum {
3086         SIMD_VERSION_SSE1       = 1 << 0,
3087         SIMD_VERSION_SSE2       = 1 << 1,
3088         SIMD_VERSION_SSE3       = 1 << 2,
3089         SIMD_VERSION_SSSE3      = 1 << 3,
3090         SIMD_VERSION_SSE41      = 1 << 4,
3091         SIMD_VERSION_SSE42      = 1 << 5,
3092         SIMD_VERSION_SSE4a      = 1 << 6,
3093         SIMD_VERSION_ALL        = SIMD_VERSION_SSE1 | SIMD_VERSION_SSE2 |
3094                           SIMD_VERSION_SSE3 | SIMD_VERSION_SSSE3 |
3095                           SIMD_VERSION_SSE41 | SIMD_VERSION_SSE42 |
3096                           SIMD_VERSION_SSE4a,
3097
3098         /* this value marks the end of the bit indexes used in
3099          * this emum.
3100          */
3101         SIMD_VERSION_INDEX_END = 6
3102 };
3103
3104 enum {
3105         SIMD_COMP_EQ,
3106         SIMD_COMP_LT,
3107         SIMD_COMP_LE,
3108         SIMD_COMP_UNORD,
3109         SIMD_COMP_NEQ,
3110         SIMD_COMP_NLT,
3111         SIMD_COMP_NLE,
3112         SIMD_COMP_ORD
3113 };
3114
3115 enum {
3116         SIMD_PREFETCH_MODE_NTA,
3117         SIMD_PREFETCH_MODE_0,
3118         SIMD_PREFETCH_MODE_1,
3119         SIMD_PREFETCH_MODE_2,
3120 };
3121
3122 const char *mono_arch_xregname (int reg);
3123 void        mono_simd_simplify_indirection (MonoCompile *cfg);
3124 MonoInst*   mono_emit_simd_intrinsics (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
3125 guint32     mono_arch_cpu_enumerate_simd_versions (void);
3126 void        mono_simd_intrinsics_init (void);
3127
3128 MonoInst*   mono_emit_native_types_intrinsics (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
3129 MonoType*   mini_native_type_replace_type (MonoType *type) MONO_LLVM_INTERNAL;
3130
3131 #ifdef __linux__
3132 #define XDEBUG_ENABLED 1
3133 #endif
3134
3135 #ifdef __linux__
3136 /* maybe enable also for other systems? */
3137 #define ENABLE_JIT_MAP 1
3138 void mono_enable_jit_map (void);
3139 void mono_emit_jit_map   (MonoJitInfo *jinfo);
3140 void mono_emit_jit_tramp (void *start, int size, const char *desc);
3141 gboolean mono_jit_map_is_enabled (void);
3142 #else
3143 #define mono_enable_jit_map()
3144 #define mono_emit_jit_map(ji)
3145 #define mono_emit_jit_tramp(s,z,d)
3146 #define mono_jit_map_is_enabled() (0)
3147 #endif
3148
3149 /*
3150  * Per-OS implementation functions.
3151  */
3152 void mono_runtime_install_handlers (void);
3153 void mono_runtime_cleanup_handlers (void);
3154 void mono_runtime_setup_stat_profiler (void);
3155 void mono_runtime_shutdown_stat_profiler (void);
3156 void mono_runtime_posix_install_handlers (void);
3157 pid_t mono_runtime_syscall_fork (void);
3158 void mono_gdb_render_native_backtraces (pid_t crashed_pid);
3159
3160 void mono_cross_helpers_run (void);
3161
3162 /*
3163  * Signal handling
3164  */
3165
3166 #if defined(DISABLE_HW_TRAPS) || defined(MONO_ARCH_DISABLE_HW_TRAPS)
3167  // Signal handlers not available
3168 #define MONO_ARCH_NEED_DIV_CHECK 1
3169 #endif
3170
3171 void MONO_SIG_HANDLER_SIGNATURE (mono_sigfpe_signal_handler) ;
3172 void MONO_SIG_HANDLER_SIGNATURE (mono_sigill_signal_handler) ;
3173 void MONO_SIG_HANDLER_SIGNATURE (mono_sigsegv_signal_handler);
3174 void MONO_SIG_HANDLER_SIGNATURE (mono_sigint_signal_handler) ;
3175 gboolean MONO_SIG_HANDLER_SIGNATURE (mono_chain_signal);
3176
3177 #ifndef MONO_ARCH_HAVE_TLS_GET
3178 #define MONO_ARCH_HAVE_TLS_GET 0
3179 #endif
3180
3181 #ifdef MONO_ARCH_VARARG_ICALLS
3182 #define ARCH_VARARG_ICALLS 1
3183 #else
3184 #define ARCH_VARARG_ICALLS 0
3185 #endif
3186
3187 /*
3188  * Native unwinder integration
3189  */
3190 void mono_exception_native_unwind (void *ctx, MONO_SIG_HANDLER_INFO_TYPE *info);
3191
3192 /*
3193  * Coop support for trampolines
3194  */
3195 void mono_interruption_checkpoint_from_trampoline (void);
3196
3197 #endif /* __MONO_MINI_H__ */