mono/mini/mini.h

   1 /*
   2  * Copyright 2002-2003 Ximian Inc
   3  * Copyright 2003-2011 Novell Inc
   4  * Copyright 2011 Xamarin Inc
   5  * Licensed under the MIT license. See LICENSE file in the project root for full license information.
   6  */
   7 #ifndef __MONO_MINI_H__
   8 #define __MONO_MINI_H__
   9
  10 #include "config.h"
  11 #include <glib.h>
  12 #ifdef HAVE_SIGNAL_H
  13 #include <signal.h>
  14 #endif
  15 #ifdef HAVE_SYS_TYPES_H
  16 #include <sys/types.h>
  17 #endif
  18 #include <mono/metadata/loader.h>
  19 #include <mono/metadata/mempool.h>
  20 #include <mono/utils/monobitset.h>
  21 #include <mono/metadata/class.h>
  22 #include <mono/metadata/object.h>
  23 #include <mono/metadata/opcodes.h>
  24 #include <mono/metadata/tabledefs.h>
  25 #include <mono/metadata/domain-internals.h>
  26 #include "mono/metadata/class-internals.h"
  27 #include "mono/metadata/object-internals.h"
  28 #include <mono/metadata/profiler-private.h>
  29 #include <mono/metadata/debug-helpers.h>
  30 #include <mono/utils/mono-compiler.h>
  31 #include <mono/utils/mono-machine.h>
  32 #include <mono/utils/mono-stack-unwinding.h>
  33 #include <mono/utils/mono-threads.h>
  34 #include <mono/utils/mono-threads-coop.h>
  35 #include <mono/utils/mono-tls.h>
  36 #include <mono/utils/atomic.h>
  37 #include <mono/utils/mono-conc-hashtable.h>
  38 #include <mono/utils/mono-signal-handler.h>
  39
  40 #include "mini-arch.h"
  41 #include "regalloc.h"
  42 #include "mini-unwind.h"
  43 #include "jit.h"
  44 #include "cfgdump.h"
  45
  46 #include "mono/metadata/class-internals.h"
  47 #include "mono/metadata/domain-internals.h"
  48 #include "mono/metadata/object.h"
  49 #include "mono/metadata/tabledefs.h"
  50 #include "mono/metadata/marshal.h"
  51 #include "mono/metadata/security-manager.h"
  52 #include "mono/metadata/exception.h"
  53 #include "mono/utils/mono-compiler.h"
  54
  55 #ifdef __native_client_codegen__
  56 #include <nacl/nacl_dyncode.h>
  57 #endif
  58
  59
  60 /*
  61  * The mini code should not have any compile time dependencies on the GC being used, so the same object file from mini/
  62  * can be linked into both mono and mono-sgen.
  63  */
  64 #if defined(HAVE_BOEHM_GC) || defined(HAVE_SGEN_GC)
  65 #error "The code in mini/ should not depend on these defines."
  66 #endif
  67
  68 #ifndef __GNUC__
  69 /*#define __alignof__(a) sizeof(a)*/
  70 #define __alignof__(type) G_STRUCT_OFFSET(struct { char c; type x; }, x)
  71 #endif
  72
  73 #if DISABLE_LOGGING
  74 #define MINI_DEBUG(level,limit,code)
  75 #else
  76 #define MINI_DEBUG(level,limit,code) do {if (G_UNLIKELY ((level) >= (limit))) code} while (0)
  77 #endif
  78
  79 #if !defined(DISABLE_TASKLETS) && defined(MONO_ARCH_SUPPORT_TASKLETS)
  80 #if defined(__GNUC__)
  81 #define MONO_SUPPORT_TASKLETS 1
  82 #elif defined(HOST_WIN32)
  83 #define MONO_SUPPORT_TASKLETS 1
  84 // Replace some gnu intrinsics needed for tasklets with MSVC equivalents.
  85 #define __builtin_extract_return_addr(x) x
  86 #define __builtin_return_address(x) _ReturnAddress()
  87 #define __builtin_frame_address(x) _AddressOfReturnAddress()
  88 #endif
  89 #endif
  90
  91 #if ENABLE_LLVM
  92 #define COMPILE_LLVM(cfg) ((cfg)->compile_llvm)
  93 #define LLVM_ENABLED TRUE
  94 #else
  95 #define COMPILE_LLVM(cfg) (0)
  96 #define LLVM_ENABLED FALSE
  97 #endif
  98
  99 #ifdef MONO_ARCH_SOFT_FLOAT_FALLBACK
 100 #define COMPILE_SOFT_FLOAT(cfg) (!COMPILE_LLVM ((cfg)) && mono_arch_is_soft_float ())
 101 #else
 102 #define COMPILE_SOFT_FLOAT(cfg) (0)
 103 #endif
 104
 105 #define NOT_IMPLEMENTED do { g_assert_not_reached (); } while (0)
 106
 107 /* for 32 bit systems */
 108 #if G_BYTE_ORDER == G_LITTLE_ENDIAN
 109 #define MINI_LS_WORD_IDX 0
 110 #define MINI_MS_WORD_IDX 1
 111 #else
 112 #define MINI_LS_WORD_IDX 1
 113 #define MINI_MS_WORD_IDX 0
 114 #endif
 115 #define MINI_LS_WORD_OFFSET (MINI_LS_WORD_IDX * 4)
 116 #define MINI_MS_WORD_OFFSET (MINI_MS_WORD_IDX * 4)
 117 #define inst_ls_word data.op[MINI_LS_WORD_IDX].const_val
 118 #define inst_ms_word data.op[MINI_MS_WORD_IDX].const_val
 119
 120 #define MONO_LVREG_LS(lvreg)    ((lvreg) + 1)
 121 #define MONO_LVREG_MS(lvreg)    ((lvreg) + 2)
 122
 123 #ifndef DISABLE_AOT
 124 #define MONO_USE_AOT_COMPILER
 125 #endif
 126
 127 /* Version number of the AOT file format */
 128 #define MONO_AOT_FILE_VERSION 139
 129
 130 //TODO: This is x86/amd64 specific.
 131 #define mono_simd_shuffle_mask(a,b,c,d) ((a) | ((b) << 2) | ((c) << 4) | ((d) << 6))
 132
 133 /* Remap printf to g_print (we use a mix of these in the mini code) */
 134 #ifdef PLATFORM_ANDROID
 135 #define printf g_print
 136 #endif
 137
 138 #define MONO_TYPE_IS_PRIMITIVE(t) ((!(t)->byref && ((((t)->type >= MONO_TYPE_BOOLEAN && (t)->type <= MONO_TYPE_R8) || ((t)->type >= MONO_TYPE_I && (t)->type <= MONO_TYPE_U)))))
 139
 140 #define MONO_AOT_TRAMP_PAGE_SIZE 16384
 141
 142 /* Constants used to encode different types of methods in AOT */
 143 enum {
 144         MONO_AOT_METHODREF_MIN = 240,
 145         /* Image index bigger than METHODREF_MIN */
 146         MONO_AOT_METHODREF_LARGE_IMAGE_INDEX = 249,
 147         /* Runtime provided methods on arrays */
 148         MONO_AOT_METHODREF_ARRAY = 250,
 149         MONO_AOT_METHODREF_NO_AOT_TRAMPOLINE = 251,
 150         /* Wrappers */
 151         MONO_AOT_METHODREF_WRAPPER = 252,
 152         /* Methods on generic instances */
 153         MONO_AOT_METHODREF_GINST = 253,
 154         /* Methods resolve using a METHODSPEC token */
 155         MONO_AOT_METHODREF_METHODSPEC = 254,
 156 };
 157
 158 /* Constants used to encode different types of types in AOT */
 159 enum {
 160         /* typedef index */
 161         MONO_AOT_TYPEREF_TYPEDEF_INDEX = 1,
 162         /* typedef index + image index */
 163         MONO_AOT_TYPEREF_TYPEDEF_INDEX_IMAGE = 2,
 164         /* typespec token */
 165         MONO_AOT_TYPEREF_TYPESPEC_TOKEN = 3,
 166         /* generic inst */
 167         MONO_AOT_TYPEREF_GINST = 4,
 168         /* type/method variable */
 169         MONO_AOT_TYPEREF_VAR = 5,
 170         /* array */
 171         MONO_AOT_TYPEREF_ARRAY = 6,
 172         /* blob index of the type encoding */
 173         MONO_AOT_TYPEREF_BLOB_INDEX = 7,
 174         /* ptr */
 175         MONO_AOT_TYPEREF_PTR = 8
 176 };
 177
 178 /* Trampolines which we have a lot of */
 179 typedef enum {
 180         MONO_AOT_TRAMP_SPECIFIC = 0,
 181         MONO_AOT_TRAMP_STATIC_RGCTX = 1,
 182         MONO_AOT_TRAMP_IMT = 2,
 183         MONO_AOT_TRAMP_GSHAREDVT_ARG = 3,
 184         MONO_AOT_TRAMP_NUM = 4
 185 } MonoAotTrampoline;
 186
 187 typedef enum {
 188         MONO_AOT_FILE_FLAG_WITH_LLVM = 1,
 189         MONO_AOT_FILE_FLAG_FULL_AOT = 2,
 190         MONO_AOT_FILE_FLAG_DEBUG = 4,
 191         MONO_AOT_FILE_FLAG_LLVM_THUMB = 8,
 192         MONO_AOT_FILE_FLAG_LLVM_ONLY = 16,
 193         MONO_AOT_FILE_FLAG_SAFEPOINTS = 32,
 194         MONO_AOT_FILE_FLAG_SEPARATE_DATA = 64,
 195 } MonoAotFileFlags;
 196
 197 typedef enum {
 198         MONO_AOT_TABLE_BLOB,
 199         MONO_AOT_TABLE_IMAGE_TABLE,
 200         MONO_AOT_TABLE_CLASS_NAME,
 201         MONO_AOT_TABLE_METHOD_INFO_OFFSETS,
 202         MONO_AOT_TABLE_EX_INFO_OFFSETS,
 203         MONO_AOT_TABLE_CLASS_INFO_OFFSETS,
 204         MONO_AOT_TABLE_GOT_INFO_OFFSETS,
 205         MONO_AOT_TABLE_LLVM_GOT_INFO_OFFSETS,
 206         MONO_AOT_TABLE_EXTRA_METHOD_INFO_OFFSETS,
 207         MONO_AOT_TABLE_EXTRA_METHOD_TABLE,
 208         MONO_AOT_TABLE_NUM
 209 } MonoAotFileTable;
 210
 211 /* This structure is stored in the AOT file */
 212 typedef struct MonoAotFileInfo
 213 {
 214         /* The version number of the AOT file format, should match MONO_AOT_FILE_VERSION */
 215         guint32 version;
 216         /* For alignment */
 217         guint32 dummy;
 218
 219         /* All the pointers should be at the start to avoid alignment problems */
 220         /* Symbols */
 221 #define MONO_AOT_FILE_INFO_FIRST_SYMBOL jit_got
 222         /* Global Offset Table for JITted code */
 223         gpointer jit_got;
 224         /* Global Offset Table for LLVM code */
 225         gpointer llvm_got;
 226         /* Mono EH Frame created by llc when using LLVM */
 227         gpointer mono_eh_frame;
 228         /* Points to the get_method () function in the LLVM image or NULL */
 229         gpointer llvm_get_method;
 230         /* Points to the get_unbox_tramp () function in the LLVM image or NULL */
 231         gpointer llvm_get_unbox_tramp;
 232         gpointer jit_code_start;
 233         gpointer jit_code_end;
 234         gpointer method_addresses;
 235         /* Data blob */
 236         gpointer blob;
 237         gpointer class_name_table;
 238         gpointer class_info_offsets;
 239         gpointer method_info_offsets;
 240         gpointer ex_info_offsets;
 241         gpointer extra_method_info_offsets;
 242         gpointer extra_method_table;
 243         gpointer got_info_offsets;
 244         gpointer llvm_got_info_offsets;
 245         gpointer image_table;
 246         gpointer mem_end;
 247         /* The GUID of the assembly which the AOT image was generated from */
 248         gpointer assembly_guid;
 249         /*
 250          * The runtime version string for AOT images generated using 'bind-to-runtime-version',
 251          * NULL otherwise.
 252          */
 253         gpointer runtime_version;
 254         /* Blocks of various kinds of trampolines */
 255         gpointer specific_trampolines;
 256         gpointer static_rgctx_trampolines;
 257         gpointer imt_trampolines;
 258         gpointer gsharedvt_arg_trampolines;
 259         /* In static mode, points to a table of global symbols for trampolines etc */
 260         gpointer globals;
 261         /* Points to a string containing the assembly name*/
 262         gpointer assembly_name;
 263         /* Start of Mono's Program Linkage Table */
 264         gpointer plt;
 265         /* End of Mono's Program Linkage Table */
 266         gpointer plt_end;
 267         gpointer unwind_info;
 268         /* Points to a table mapping methods to their unbox trampolines */
 269         gpointer unbox_trampolines;
 270         /* Points to the end of the previous table */
 271         gpointer unbox_trampolines_end;
 272         /* Points to a table of unbox trampoline addresses/offsets */
 273         gpointer unbox_trampoline_addresses;
 274 #define MONO_AOT_FILE_INFO_LAST_SYMBOL unbox_trampoline_addresses
 275
 276         /* Scalars */
 277         /* The index of the first GOT slot used by the PLT */
 278         guint32 plt_got_offset_base;
 279         /* Number of entries in the GOT */
 280         guint32 got_size;
 281         /* Number of entries in the PLT */
 282         guint32 plt_size;
 283         /* Number of methods */
 284         guint32 nmethods;
 285         /* A union of MonoAotFileFlags */
 286         guint32 flags;
 287         /* Optimization flags used to compile the module */
 288         guint32 opts;
 289         /* SIMD flags used to compile the module */
 290         guint32 simd_opts;
 291         /* Index of the blob entry holding the GC used by this module */
 292         gint32 gc_name_index;
 293         guint32 num_rgctx_fetch_trampolines;
 294         /* These are used for sanity checking object layout problems when cross-compiling */
 295         guint32 double_align, long_align, generic_tramp_num;
 296         /* The page size used by trampoline pages */
 297         guint32 tramp_page_size;
 298         /*
 299          * The number of GOT entries which need to be preinitialized when the
 300          * module is loaded.
 301          */
 302         guint32 nshared_got_entries;
 303         /* The size of the data file, if MONO_AOT_FILE_FLAG_SEPARATE_DATA is set */
 304         guint32 datafile_size;
 305
 306         /* Arrays */
 307         /* Offsets for tables inside the data file if MONO_AOT_FILE_FLAG_SEPARATE_DATA is set */
 308         // FIXME: Sync with AOT
 309         guint32 table_offsets [MONO_AOT_TABLE_NUM];
 310         /* Number of trampolines */
 311         guint32 num_trampolines [MONO_AOT_TRAMP_NUM];
 312         /* The indexes of the first GOT slots used by the trampolines */
 313         guint32 trampoline_got_offset_base [MONO_AOT_TRAMP_NUM];
 314         /* The size of one trampoline */
 315         guint32 trampoline_size [MONO_AOT_TRAMP_NUM];
 316         /* The offset where the trampolines begin on a trampoline page */
 317         guint32 tramp_page_code_offsets [MONO_AOT_TRAMP_NUM];
 318         /* GUID of aot compilation */
 319         guint8 aotid[16];
 320 } MonoAotFileInfo;
 321
 322 /* Number of symbols in the MonoAotFileInfo structure */
 323 #define MONO_AOT_FILE_INFO_NUM_SYMBOLS (((G_STRUCT_OFFSET (MonoAotFileInfo, MONO_AOT_FILE_INFO_LAST_SYMBOL) - G_STRUCT_OFFSET (MonoAotFileInfo, MONO_AOT_FILE_INFO_FIRST_SYMBOL)) / sizeof (gpointer)) + 1)
 324
 325 typedef struct
 326 {
 327         MonoClass *klass;
 328         MonoMethod *method;
 329 } MonoClassMethodPair;
 330
 331 typedef struct
 332 {
 333         MonoClass *klass;
 334         MonoMethod *method;
 335         gboolean is_virtual;
 336 } MonoDelegateClassMethodPair;
 337
 338 /* Per-domain information maintained by the JIT */
 339 typedef struct
 340 {
 341         /* Maps MonoMethod's to a GSList of GOT slot addresses pointing to its code */
 342         GHashTable *jump_target_got_slot_hash;
 343         GHashTable *jump_target_hash;
 344         /* Maps methods/klasses to the address of the given type of trampoline */
 345         GHashTable *class_init_trampoline_hash;
 346         GHashTable *jump_trampoline_hash;
 347         GHashTable *jit_trampoline_hash;
 348         GHashTable *delegate_trampoline_hash;
 349         /* Maps ClassMethodPair -> MonoDelegateTrampInfo */
 350         GHashTable *static_rgctx_trampoline_hash;
 351         GHashTable *llvm_vcall_trampoline_hash;
 352         /* maps MonoMethod -> MonoJitDynamicMethodInfo */
 353         GHashTable *dynamic_code_hash;
 354         GHashTable *method_code_hash;
 355         /* Maps methods to a RuntimeInvokeInfo structure, protected by the associated MonoDomain lock */
 356         MonoConcurrentHashTable *runtime_invoke_hash;
 357         /* Maps MonoMethod to a GPtrArray containing sequence point locations */
 358         /* Protected by the domain lock */
 359         GHashTable *seq_points;
 360         /* Debugger agent data */
 361         gpointer agent_info;
 362         /* Maps MonoMethod to an arch-specific structure */
 363         GHashTable *arch_seq_points;
 364         /* Maps a GSharedVtTrampInfo structure to a trampoline address */
 365         GHashTable *gsharedvt_arg_tramp_hash;
 366         /* memcpy/bzero methods specialized for small constant sizes */
 367         gpointer *memcpy_addr [17];
 368         gpointer *bzero_addr [17];
 369         gpointer llvm_module;
 370         /* Maps MonoMethod -> GSlist of addresses */
 371         GHashTable *llvm_jit_callees;
 372 } MonoJitDomainInfo;
 373
 374 typedef struct {
 375         MonoJitInfo *ji;
 376         MonoCodeManager *code_mp;
 377 } MonoJitDynamicMethodInfo;
 378
 379 /* An extension of MonoGenericParamFull used in generic sharing */
 380 typedef struct {
 381         MonoGenericParamFull param;
 382         MonoGenericParam *parent;
 383 } MonoGSharedGenericParam;
 384
 385 #define domain_jit_info(domain) ((MonoJitDomainInfo*)((domain)->runtime_info))
 386
 387 /* Contains a list of ips which needs to be patched when a method is compiled */
 388 typedef struct {
 389         GSList *list;
 390 } MonoJumpList;
 391
 392 /* Arch-specific */
 393 typedef struct {
 394         int dummy;
 395 } MonoDynCallInfo;
 396
 397 /*
 398  * Information about a stack frame.
 399  * FIXME This typedef exists only to avoid tons of code rewriting
 400  */
 401 typedef MonoStackFrameInfo StackFrameInfo;
 402
 403 #if 0
 404 #define mono_bitset_foreach_bit(set,b,n) \
 405         for (b = 0; b < n; b++)\
 406                 if (mono_bitset_test_fast(set,b))
 407 #else
 408 #define mono_bitset_foreach_bit(set,b,n) \
 409         for (b = mono_bitset_find_start (set); b < n && b >= 0; b = mono_bitset_find_first (set, b))
 410 #endif
 411
 412 /*
 413  * Pull the list of opcodes
 414  */
 415 #define OPDEF(a,b,c,d,e,f,g,h,i,j) \
 416         a = i,
 417
 418 enum {
 419 #include "mono/cil/opcode.def"
 420         CEE_LASTOP
 421 };
 422 #undef OPDEF
 423
 424 #define MONO_VARINFO(cfg,varnum) (&(cfg)->vars [varnum])
 425
 426 #define MONO_INST_NULLIFY_SREGS(dest) do {                              \
 427                 (dest)->sreg1 = (dest)->sreg2 = (dest)->sreg3 = -1;     \
 428         } while (0)
 429
 430 #define MONO_INST_NEW(cfg,dest,op) do { \
 431                 (dest) = (MonoInst *)mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));   \
 432                 (dest)->opcode = (op);  \
 433                 (dest)->dreg = -1;                          \
 434                 MONO_INST_NULLIFY_SREGS ((dest));           \
 435         (dest)->cil_code = (cfg)->ip;  \
 436         } while (0)
 437
 438 #define MONO_INST_NEW_CALL(cfg,dest,op) do {    \
 439                 (dest) = (MonoCallInst *)mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoCallInst));   \
 440                 (dest)->inst.opcode = (op);     \
 441                 (dest)->inst.dreg = -1;                                 \
 442                 MONO_INST_NULLIFY_SREGS (&(dest)->inst);                \
 443         (dest)->inst.cil_code = (cfg)->ip;  \
 444         } while (0)
 445
 446 #define MONO_ADD_INS(b,inst) do {       \
 447                 if ((b)->last_ins) {    \
 448                         (b)->last_ins->next = (inst);   \
 449             (inst)->prev = (b)->last_ins;   \
 450                         (b)->last_ins = (inst); \
 451                 } else {        \
 452                         (b)->code = (b)->last_ins = (inst);     \
 453                 }       \
 454         } while (0)
 455
 456 #define NULLIFY_INS(ins) do { \
 457         (ins)->opcode = OP_NOP; \
 458         (ins)->dreg = -1;                               \
 459         MONO_INST_NULLIFY_SREGS ((ins));                \
 460     } while (0)
 461
 462 /* Remove INS from BB */
 463 #define MONO_REMOVE_INS(bb,ins) do { \
 464         if ((ins)->prev) \
 465             (ins)->prev->next = (ins)->next; \
 466         if ((ins)->next) \
 467             (ins)->next->prev = (ins)->prev; \
 468         if ((bb)->code == (ins)) \
 469             (bb)->code = (ins)->next; \
 470         if ((bb)->last_ins == (ins)) \
 471             (bb)->last_ins = (ins)->prev; \
 472     } while (0)
 473
 474 /* Remove INS from BB and nullify it */
 475 #define MONO_DELETE_INS(bb,ins) do { \
 476         MONO_REMOVE_INS ((bb), (ins)); \
 477         NULLIFY_INS ((ins)); \
 478     } while (0)
 479
 480 /*
 481  * this is used to determine when some branch optimizations are possible: we exclude FP compares
 482  * because they have weird semantics with NaNs.
 483  */
 484 #define MONO_IS_COND_BRANCH_OP(ins) (((ins)->opcode >= OP_LBEQ && (ins)->opcode <= OP_LBLT_UN) || ((ins)->opcode >= OP_FBEQ && (ins)->opcode <= OP_FBLT_UN) || ((ins)->opcode >= OP_IBEQ && (ins)->opcode <= OP_IBLT_UN))
 485 #define MONO_IS_COND_BRANCH_NOFP(ins) (MONO_IS_COND_BRANCH_OP(ins) && !(((ins)->opcode >= OP_FBEQ) && ((ins)->opcode <= OP_FBLT_UN)) && (!(ins)->inst_left || (ins)->inst_left->inst_left->type != STACK_R8))
 486
 487 #define MONO_IS_BRANCH_OP(ins) (MONO_IS_COND_BRANCH_OP(ins) || ((ins)->opcode == OP_BR) || ((ins)->opcode == OP_BR_REG) || ((ins)->opcode == OP_SWITCH))
 488
 489 #define MONO_IS_COND_EXC(ins) ((((ins)->opcode >= OP_COND_EXC_EQ) && ((ins)->opcode <= OP_COND_EXC_LT_UN)) || (((ins)->opcode >= OP_COND_EXC_IEQ) && ((ins)->opcode <= OP_COND_EXC_ILT_UN)))
 490
 491 #define MONO_IS_SETCC(ins) ((((ins)->opcode >= OP_CEQ) && ((ins)->opcode <= OP_CLT_UN)) || (((ins)->opcode >= OP_ICEQ) && ((ins)->opcode <= OP_ICLE_UN)) || (((ins)->opcode >= OP_LCEQ) && ((ins)->opcode <= OP_LCLT_UN)) || (((ins)->opcode >= OP_FCEQ) && ((ins)->opcode <= OP_FCLT_UN)))
 492
 493 #define MONO_HAS_CUSTOM_EMULATION(ins) (((ins)->opcode >= OP_FBEQ && (ins)->opcode <= OP_FBLT_UN) || ((ins)->opcode >= OP_FCEQ && (ins)->opcode <= OP_FCLT_UN))
 494
 495 #define MONO_IS_LOAD_MEMBASE(ins) (((ins)->opcode >= OP_LOAD_MEMBASE && (ins)->opcode <= OP_LOADV_MEMBASE) || ((ins)->opcode >= OP_ATOMIC_LOAD_I1 && (ins)->opcode <= OP_ATOMIC_LOAD_R8))
 496 #define MONO_IS_STORE_MEMBASE(ins) (((ins)->opcode >= OP_STORE_MEMBASE_REG && (ins)->opcode <= OP_STOREV_MEMBASE) || ((ins)->opcode >= OP_ATOMIC_STORE_I1 && (ins)->opcode <= OP_ATOMIC_STORE_R8))
 497 #define MONO_IS_STORE_MEMINDEX(ins) (((ins)->opcode >= OP_STORE_MEMINDEX) && ((ins)->opcode <= OP_STORER8_MEMINDEX))
 498
 499 // OP_DYN_CALL is not a MonoCallInst
 500 #define MONO_IS_CALL(ins) (((ins->opcode >= OP_VOIDCALL) && (ins->opcode <= OP_VCALL2_MEMBASE)) || (ins->opcode == OP_TAILCALL))
 501
 502 #define MONO_IS_JUMP_TABLE(ins) (((ins)->opcode == OP_JUMP_TABLE) ? TRUE : ((((ins)->opcode == OP_AOTCONST) && (ins->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? TRUE : ((ins)->opcode == OP_SWITCH) ? TRUE : ((((ins)->opcode == OP_GOT_ENTRY) && ((ins)->inst_right->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? TRUE : FALSE)))
 503
 504 #define MONO_JUMP_TABLE_FROM_INS(ins) (((ins)->opcode == OP_JUMP_TABLE) ? (ins)->inst_p0 : (((ins)->opcode == OP_AOTCONST) && (ins->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH) ? (ins)->inst_p0 : (((ins)->opcode == OP_SWITCH) ? (ins)->inst_p0 : ((((ins)->opcode == OP_GOT_ENTRY) && ((ins)->inst_right->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? (ins)->inst_right->inst_p0 : NULL))))
 505
 506 /* FIXME: Add more instructions */
 507 /* INEG sets the condition codes, and the OP_LNEG decomposition depends on this on x86 */
 508 #define MONO_INS_HAS_NO_SIDE_EFFECT(ins) (MONO_IS_MOVE (ins) || (ins->opcode == OP_ICONST) || (ins->opcode == OP_I8CONST) || MONO_IS_ZERO (ins) || (ins->opcode == OP_ADD_IMM) || (ins->opcode == OP_R8CONST) || (ins->opcode == OP_LADD_IMM) || (ins->opcode == OP_ISUB_IMM) || (ins->opcode == OP_IADD_IMM) || (ins->opcode == OP_LNEG) || (ins->opcode == OP_ISUB) || (ins->opcode == OP_CMOV_IGE) || (ins->opcode == OP_ISHL_IMM) || (ins->opcode == OP_ISHR_IMM) || (ins->opcode == OP_ISHR_UN_IMM) || (ins->opcode == OP_IAND_IMM) || (ins->opcode == OP_ICONV_TO_U1) || (ins->opcode == OP_ICONV_TO_I1) || (ins->opcode == OP_SEXT_I4) || (ins->opcode == OP_LCONV_TO_U1) || (ins->opcode == OP_ICONV_TO_U2) || (ins->opcode == OP_ICONV_TO_I2) || (ins->opcode == OP_LCONV_TO_I2) || (ins->opcode == OP_LDADDR) || (ins->opcode == OP_PHI) || (ins->opcode == OP_NOP) || (ins->opcode == OP_ZEXT_I4) || (ins->opcode == OP_NOT_NULL) || (ins->opcode == OP_IL_SEQ_POINT) || (ins->opcode == OP_XZERO))
 509
 510 #define MONO_INS_IS_PCONST_NULL(ins) ((ins)->opcode == OP_PCONST && (ins)->inst_p0 == 0)
 511
 512 #define MONO_METHOD_IS_FINAL(m) (((m)->flags & METHOD_ATTRIBUTE_FINAL) || ((m)->klass && (mono_class_get_flags ((m)->klass) & TYPE_ATTRIBUTE_SEALED)))
 513
 514
 515 #ifdef MONO_ARCH_SIMD_INTRINSICS
 516
 517 #define MONO_IS_PHI(ins) (((ins)->opcode == OP_PHI) || ((ins)->opcode == OP_FPHI) || ((ins)->opcode == OP_VPHI)  || ((ins)->opcode == OP_XPHI))
 518 #define MONO_IS_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_XMOVE) || ((ins)->opcode == OP_RMOVE))
 519 #define MONO_IS_NON_FP_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_XMOVE))
 520 #define MONO_IS_REAL_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_XMOVE) || ((ins)->opcode == OP_RMOVE))
 521 #define MONO_IS_ZERO(ins) (((ins)->opcode == OP_VZERO) || ((ins)->opcode == OP_XZERO))
 522
 523 #define MONO_CLASS_IS_SIMD(cfg, klass) (((cfg)->opt & MONO_OPT_SIMD) && (klass)->simd_type)
 524
 525 #else
 526
 527 #define MONO_IS_PHI(ins) (((ins)->opcode == OP_PHI) || ((ins)->opcode == OP_FPHI) || ((ins)->opcode == OP_VPHI))
 528 #define MONO_IS_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_RMOVE))
 529 #define MONO_IS_NON_FP_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_VMOVE))
 530 /*A real MOVE is one that isn't decomposed such as a VMOVE or LMOVE*/
 531 #define MONO_IS_REAL_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_RMOVE))
 532 #define MONO_IS_ZERO(ins) ((ins)->opcode == OP_VZERO)
 533
 534 #define MONO_CLASS_IS_SIMD(cfg, klass) (0)
 535
 536 #endif
 537
 538 typedef struct MonoInstList MonoInstList;
 539 typedef struct MonoInst MonoInst;
 540 typedef struct MonoCallInst MonoCallInst;
 541 typedef struct MonoCallArgParm MonoCallArgParm;
 542 typedef struct MonoMethodVar MonoMethodVar;
 543 typedef struct MonoBasicBlock MonoBasicBlock;
 544 typedef struct MonoLMF MonoLMF;
 545 typedef struct MonoSpillInfo MonoSpillInfo;
 546 typedef struct MonoTraceSpec MonoTraceSpec;
 547
 548 extern MonoTraceSpec *mono_jit_trace_calls;
 549 extern gboolean mono_break_on_exc;
 550 extern int mono_exc_esp_offset;
 551 extern gboolean mono_compile_aot;
 552 extern gboolean mono_aot_only;
 553 extern gboolean mono_llvm_only;
 554 extern MonoAotMode mono_aot_mode;
 555 extern MonoMethodDesc *mono_inject_async_exc_method;
 556 extern int mono_inject_async_exc_pos;
 557 extern MonoMethodDesc *mono_break_at_bb_method;
 558 extern int mono_break_at_bb_bb_num;
 559 extern gboolean mono_verify_all;
 560 extern gboolean mono_do_x86_stack_align;
 561 extern const char *mono_build_date;
 562 extern gboolean mono_do_signal_chaining;
 563 extern gboolean mono_do_crash_chaining;
 564 extern MONO_API gboolean mono_use_llvm;
 565 extern MONO_API gboolean mono_use_interpreter;
 566 extern gboolean mono_do_single_method_regression;
 567 extern guint32 mono_single_method_regression_opt;
 568 extern MonoMethod *mono_current_single_method;
 569 extern GSList *mono_single_method_list;
 570 extern GHashTable *mono_single_method_hash;
 571 extern gboolean mono_using_xdebug;
 572 extern int mini_verbose;
 573 extern int valgrind_register;
 574 extern GList* mono_aot_paths;
 575
 576 #define INS_INFO(opcode) (&ins_info [((opcode) - OP_START - 1) * 4])
 577
 578 extern const char ins_info[];
 579 extern const gint8 ins_sreg_counts [];
 580
 581 #ifndef DISABLE_JIT
 582 #define mono_inst_get_num_src_registers(ins) (ins_sreg_counts [(ins)->opcode - OP_START - 1])
 583 #else
 584 #define mono_inst_get_num_src_registers(ins) 0
 585 #endif
 586
 587 #define mono_inst_get_src_registers(ins, regs) (((regs) [0] = (ins)->sreg1), ((regs) [1] = (ins)->sreg2), ((regs) [2] = (ins)->sreg3), mono_inst_get_num_src_registers ((ins)))
 588
 589 #define MONO_BB_FOR_EACH_INS(bb, ins) for ((ins) = (bb)->code; (ins); (ins) = (ins)->next)
 590
 591 #define MONO_BB_FOR_EACH_INS_SAFE(bb, n, ins) for ((ins) = (bb)->code, n = (ins) ? (ins)->next : NULL; (ins); (ins) = (n), (n) = (ins) ? (ins)->next : NULL)
 592
 593 #define MONO_BB_FOR_EACH_INS_REVERSE_SAFE(bb, p, ins) for ((ins) = (bb)->last_ins, p = (ins) ? (ins)->prev : NULL; (ins); (ins) = (p), (p) = (ins) ? (ins)->prev : NULL)
 594
 595 #define mono_bb_first_ins(bb) (bb)->code
 596
 597 struct MonoSpillInfo {
 598         int offset;
 599 };
 600
 601 /*
 602  * Information about a call site for the GC map creation code
 603  */
 604 typedef struct {
 605         /* The next offset after the call instruction */
 606         int pc_offset;
 607         /* The basic block containing the call site */
 608         MonoBasicBlock *bb;
 609         /*
 610          * The set of variables live at the call site.
 611          * Has length cfg->num_varinfo in bits.
 612          */
 613         guint8 *liveness;
 614         /*
 615          * List of OP_GC_PARAM_SLOT_LIVENESS_DEF instructions defining the param slots
 616          * used by this call.
 617          */
 618         GSList *param_slots;
 619 } GCCallSite;
 620
 621 /*
 622  * The IR-level extended basic block.
 623  *
 624  * A basic block can have multiple exits just fine, as long as the point of
 625  * 'departure' is the last instruction in the basic block. Extended basic
 626  * blocks, on the other hand, may have instructions that leave the block
 627  * midstream. The important thing is that they cannot be _entered_
 628  * midstream, ie, execution of a basic block (or extened bb) always start
 629  * at the beginning of the block, never in the middle.
 630  */
 631 struct MonoBasicBlock {
 632         MonoInst *last_ins;
 633
 634         /* the next basic block in the order it appears in IL */
 635         MonoBasicBlock *next_bb;
 636
 637         /*
 638          * Before instruction selection it is the first tree in the
 639          * forest and the first item in the list of trees. After
 640          * instruction selection it is the first instruction and the
 641          * first item in the list of instructions.
 642          */
 643         MonoInst *code;
 644
 645         /* unique block number identification */
 646         gint32 block_num;
 647
 648         gint32 dfn;
 649
 650         /* Basic blocks: incoming and outgoing counts and pointers */
 651         /* Each bb should only appear once in each array */
 652         gint16 out_count, in_count;
 653         MonoBasicBlock **in_bb;
 654         MonoBasicBlock **out_bb;
 655
 656         /* Points to the start of the CIL code that initiated this BB */
 657         unsigned char* cil_code;
 658
 659         /* Length of the CIL block */
 660         gint32 cil_length;
 661
 662         /* The offset of the generated code, used for fixups */
 663         int native_offset;
 664         /* The length of the generated code, doesn't include alignment padding */
 665         int native_length;
 666         /* The real native offset, which includes alignment padding too */
 667         int real_native_offset;
 668         int max_offset;
 669         int max_length;
 670
 671         /* Visited and reachable flags */
 672         guint32 flags;
 673
 674         /*
 675          * SSA and loop based flags
 676          */
 677         MonoBitSet *dominators;
 678         MonoBitSet *dfrontier;
 679         MonoBasicBlock *idom;
 680         GSList *dominated;
 681         /* fast dominator algorithm */
 682         MonoBasicBlock *df_parent, *ancestor, *child, *label;
 683         int size, sdom, idomn;
 684
 685         /* loop nesting and recognition */
 686         GList *loop_blocks;
 687         gint8  nesting;
 688         gint8  loop_body_start;
 689
 690         /*
 691          * Whenever the bblock is rarely executed so it should be emitted after
 692          * the function epilog.
 693          */
 694         guint out_of_line : 1;
 695         /* Caches the result of uselessness calculation during optimize_branches */
 696         guint not_useless : 1;
 697         /* Whenever the decompose_array_access_opts () pass needs to process this bblock */
 698         guint has_array_access : 1;
 699         /* Whenever this bblock is extended, ie. it has branches inside it */
 700         guint extended : 1;
 701         /* Whenever this bblock contains a OP_JUMP_TABLE instruction */
 702         guint has_jump_table : 1;
 703         /* Whenever this bblock contains an OP_CALL_HANDLER instruction */
 704         guint has_call_handler : 1;
 705         /* Whenever this bblock starts a try block */
 706         guint try_start : 1;
 707
 708 #ifdef ENABLE_LLVM
 709         /* The offset of the CIL instruction in this bblock which ends a try block */
 710         intptr_t try_end;
 711 #endif
 712
 713         /*
 714          * If this is set, extend the try range started by this bblock by an arch specific
 715          * number of bytes to encompass the end of the previous bblock (e.g. a Monitor.Enter
 716          * call).
 717          */
 718         guint extend_try_block : 1;
 719
 720         /* use for liveness analysis */
 721         MonoBitSet *gen_set;
 722         MonoBitSet *kill_set;
 723         MonoBitSet *live_in_set;
 724         MonoBitSet *live_out_set;
 725
 726         /* fields to deal with non-empty stack slots at bb boundary */
 727         guint16 out_scount, in_scount;
 728         MonoInst **out_stack;
 729         MonoInst **in_stack;
 730
 731         /* we use that to prevent merging of bblocks covered by different clauses*/
 732         guint real_offset;
 733
 734         GSList *seq_points;
 735
 736         // The MonoInst of the last sequence point for the current basic block.
 737         MonoInst *last_seq_point;
 738
 739         // This will hold a list of last sequence points of incoming basic blocks
 740         MonoInst **pred_seq_points;
 741         guint num_pred_seq_points;
 742
 743         GSList *spill_slot_defs;
 744
 745         /* List of call sites in this bblock sorted by pc_offset */
 746         GSList *gc_callsites;
 747
 748         /*
 749          * The region encodes whether the basic block is inside
 750          * a finally, catch, filter or none of these.
 751          *
 752          * If the value is -1, then it is neither finally, catch nor filter
 753          *
 754          * Otherwise the format is:
 755          *
 756          *  Bits: |     0-3      |       4-7      |     8-31
 757          *        |              |                |
 758          *        | clause-flags |   MONO_REGION  | clause-index
 759          *
 760          */
 761         guint region;
 762
 763         /* The current symbolic register number, used in local register allocation. */
 764         guint32 max_vreg;
 765 };
 766
 767 /* BBlock flags */
 768 enum {
 769         BB_VISITED              = 1 << 0,
 770         BB_REACHABLE            = 1 << 1,
 771         BB_EXCEPTION_DEAD_OBJ   = 1 << 2,
 772         BB_EXCEPTION_UNSAFE     = 1 << 3,
 773         BB_EXCEPTION_HANDLER    = 1 << 4,
 774         /* for Native Client, mark the blocks that can be jumped to indirectly */
 775         BB_INDIRECT_JUMP_TARGET = 1 << 5
 776 };
 777
 778 typedef struct MonoMemcpyArgs {
 779         int size, align;
 780 } MonoMemcpyArgs;
 781
 782 typedef enum {
 783         LLVMArgNone,
 784         /* Scalar argument passed by value */
 785         LLVMArgNormal,
 786         /* Only in ainfo->pair_storage */
 787         LLVMArgInIReg,
 788         /* Only in ainfo->pair_storage */
 789         LLVMArgInFPReg,
 790         /* Valuetype passed in 1-2 consecutive register */
 791         LLVMArgVtypeInReg,
 792         LLVMArgVtypeByVal,
 793         LLVMArgVtypeRetAddr, /* On on cinfo->ret */
 794         LLVMArgGSharedVt,
 795         /* Fixed size argument passed to/returned from gsharedvt method by ref */
 796         LLVMArgGsharedvtFixed,
 797         /* Fixed size vtype argument passed to/returned from gsharedvt method by ref */
 798         LLVMArgGsharedvtFixedVtype,
 799         /* Variable sized argument passed to/returned from gsharedvt method by ref */
 800         LLVMArgGsharedvtVariable,
 801         /* Vtype passed/returned as one int array argument */
 802         LLVMArgAsIArgs,
 803         /* Vtype passed as a set of fp arguments */
 804         LLVMArgAsFpArgs,
 805         /*
 806          * Only for returns, a structure which
 807          * consists of floats/doubles.
 808          */
 809         LLVMArgFpStruct,
 810         LLVMArgVtypeByRef,
 811         /* Vtype returned as an int */
 812         LLVMArgVtypeAsScalar
 813 } LLVMArgStorage;
 814
 815 typedef struct {
 816         LLVMArgStorage storage;
 817
 818         /*
 819          * Only if storage == ArgValuetypeInReg/LLVMArgAsFpArgs.
 820          * This contains how the parts of the vtype are passed.
 821          */
 822         LLVMArgStorage pair_storage [8];
 823         /*
 824          * Only if storage == LLVMArgAsIArgs/LLVMArgAsFpArgs/LLVMArgFpStruct.
 825          * If storage == LLVMArgAsFpArgs, this is the number of arguments
 826          * used to pass the value.
 827          * If storage == LLVMArgFpStruct, this is the number of fields
 828          * in the structure.
 829          */
 830         int nslots;
 831         /* Only if storage == LLVMArgAsFpArgs/LLVMArgFpStruct (4/8) */
 832         int esize;
 833         /* Parameter index in the LLVM signature */
 834         int pindex;
 835         MonoType *type;
 836         /* Only if storage == LLVMArgAsFpArgs. Dummy fp args to insert before this arg */
 837         int ndummy_fpargs;
 838 } LLVMArgInfo;
 839
 840 typedef struct {
 841         LLVMArgInfo ret;
 842         /* Whenever there is an rgctx argument */
 843         gboolean rgctx_arg;
 844         /* Whenever there is an IMT argument */
 845         gboolean imt_arg;
 846         /*
 847          * The position of the vret arg in the argument list.
 848          * Only if ret->storage == ArgVtypeRetAddr.
 849          * Should be 0 or 1.
 850          */
 851         int vret_arg_index;
 852         /* The indexes of various special arguments in the LLVM signature */
 853         int vret_arg_pindex, this_arg_pindex, rgctx_arg_pindex, imt_arg_pindex;
 854
 855         /* Inline array of argument info */
 856         /* args [0] is for the this argument if it exists */
 857         LLVMArgInfo args [1];
 858 } LLVMCallInfo;
 859
 860 #define MONO_MAX_SRC_REGS       3
 861
 862 struct MonoInst {
 863         guint16 opcode;
 864         guint8  type; /* stack type */
 865         guint8  flags;
 866
 867         /* used by the register allocator */
 868         gint32 dreg, sreg1, sreg2, sreg3;
 869
 870         MonoInst *next, *prev;
 871
 872         union {
 873                 union {
 874                         MonoInst *src;
 875                         MonoMethodVar *var;
 876                         mgreg_t const_val;
 877 #if (SIZEOF_REGISTER > SIZEOF_VOID_P) && (G_BYTE_ORDER == G_BIG_ENDIAN)
 878                         struct {
 879                                 gpointer p[SIZEOF_REGISTER/SIZEOF_VOID_P];
 880                         } pdata;
 881 #else
 882                         gpointer p;
 883 #endif
 884                         MonoMethod *method;
 885                         MonoMethodSignature *signature;
 886                         MonoBasicBlock **many_blocks;
 887                         MonoBasicBlock *target_block;
 888                         MonoInst **args;
 889                         MonoType *vtype;
 890                         MonoClass *klass;
 891                         int *phi_args;
 892                         MonoCallInst *call_inst;
 893                         MonoExceptionClause *exception_clause;
 894                 } op [2];
 895                 gint64 i8const;
 896                 double r8const;
 897         } data;
 898
 899         const unsigned char* cil_code; /* for debugging and bblock splitting */
 900
 901         /* used mostly by the backend to store additional info it may need */
 902         union {
 903                 gint32 reg3;
 904                 gint32 arg_info;
 905                 gint32 size;
 906                 MonoMemcpyArgs *memcpy_args; /* in OP_MEMSET and OP_MEMCPY */
 907                 gpointer data;
 908                 gint shift_amount;
 909                 gboolean is_pinvoke; /* for variables in the unmanaged marshal format */
 910                 gboolean record_cast_details; /* For CEE_CASTCLASS */
 911                 MonoInst *spill_var; /* for OP_MOVE_I4_TO_F/F_TO_I4 and OP_FCONV_TO_R8_X */
 912                 guint16 source_opcode; /*OP_XCONV_R8_TO_I4 needs to know which op was used to do proper widening*/
 913                 int pc_offset; /* OP_GC_LIVERANGE_START/END */
 914
 915                 /*
 916                  * memory_barrier: MONO_MEMORY_BARRIER_{ACQ,REL,SEQ}
 917                  * atomic_load_*: MONO_MEMORY_BARRIER_{ACQ,SEQ}
 918                  * atomic_store_*: MONO_MEMORY_BARRIER_{REL,SEQ}
 919                  */
 920                 int memory_barrier_kind;
 921         } backend;
 922
 923         MonoClass *klass;
 924 };
 925
 926 struct MonoCallInst {
 927         MonoInst inst;
 928         MonoMethodSignature *signature;
 929         MonoMethod *method;
 930         MonoInst **args;
 931         MonoInst *out_args;
 932         MonoInst *vret_var;
 933         gconstpointer fptr;
 934         guint stack_usage;
 935         guint stack_align_amount;
 936         guint is_virtual : 1;
 937         guint tail_call : 1;
 938         /* If this is TRUE, 'fptr' points to a MonoJumpInfo instead of an address. */
 939         guint fptr_is_patch : 1;
 940         /*
 941          * If this is true, then the call returns a vtype in a register using the same
 942          * calling convention as OP_CALL.
 943          */
 944         guint vret_in_reg : 1;
 945         /* Whenever vret_in_reg returns fp values */
 946         guint vret_in_reg_fp : 1;
 947         /* Whenever there is an IMT argument and it is dynamic */
 948         guint dynamic_imt_arg : 1;
 949         /* Whenever there is an RGCTX argument */
 950         guint32 rgctx_reg : 1;
 951         /* Whenever the call will need an unbox trampoline */
 952         guint need_unbox_trampoline : 1;
 953         regmask_t used_iregs;
 954         regmask_t used_fregs;
 955         GSList *out_ireg_args;
 956         GSList *out_freg_args;
 957         GSList *outarg_vts;
 958         gpointer call_info;
 959 #ifdef ENABLE_LLVM
 960         LLVMCallInfo *cinfo;
 961         int rgctx_arg_reg, imt_arg_reg;
 962 #endif
 963 #ifdef TARGET_ARM
 964         /* See the comment in mini-arm.c!mono_arch_emit_call for RegTypeFP. */
 965         GSList *float_args;
 966 #endif
 967 };
 968
 969 struct MonoCallArgParm {
 970         MonoInst ins;
 971         gint32 size;
 972         gint32 offset;
 973         gint32 offPrm;
 974 };
 975
 976 /*
 977  * flags for MonoInst
 978  * Note: some of the values overlap, because they can't appear
 979  * in the same MonoInst.
 980  */
 981 enum {
 982         MONO_INST_HAS_METHOD = 1,
 983         MONO_INST_INIT       = 1, /* in localloc */
 984         MONO_INST_SINGLE_STEP_LOC = 1, /* in SEQ_POINT */
 985         MONO_INST_IS_DEAD    = 2,
 986         MONO_INST_TAILCALL   = 4,
 987         MONO_INST_VOLATILE   = 4,
 988         MONO_INST_NOTYPECHECK    = 4,
 989         MONO_INST_NONEMPTY_STACK = 4, /* in SEQ_POINT */
 990         MONO_INST_UNALIGNED  = 8,
 991     MONO_INST_CFOLD_TAKEN = 8, /* On branches */
 992     MONO_INST_CFOLD_NOT_TAKEN = 16, /* On branches */
 993         MONO_INST_DEFINITION_HAS_SIDE_EFFECTS = 8,
 994         /* the address of the variable has been taken */
 995         MONO_INST_INDIRECT   = 16,
 996         MONO_INST_NORANGECHECK   = 16,
 997         /* On loads, the source address can be null */
 998         MONO_INST_FAULT = 32,
 999         /*
1000          * On variables, identifies LMF variables. These variables have a dummy type (int), but
1001          * require stack space for a MonoLMF struct.
1002          */
1003         MONO_INST_LMF = 32,
1004         /* On loads, the source address points to a constant value */
1005         MONO_INST_INVARIANT_LOAD = 64,
1006         /* On variables, the variable needs GC tracking */
1007         MONO_INST_GC_TRACK = 128,
1008         /*
1009          * Set on instructions during code emission which make calls, i.e. OP_CALL, OP_THROW.
1010          * backend.pc_offset will be set to the pc offset at the end of the native call instructions.
1011          */
1012         MONO_INST_GC_CALLSITE = 128,
1013         /* On comparisons, mark the branch following the condition as likely to be taken */
1014         MONO_INST_LIKELY = 128,
1015 };
1016
1017 #define inst_c0 data.op[0].const_val
1018 #define inst_c1 data.op[1].const_val
1019 #define inst_i0 data.op[0].src
1020 #define inst_i1 data.op[1].src
1021 #if (SIZEOF_REGISTER > SIZEOF_VOID_P) && (G_BYTE_ORDER == G_BIG_ENDIAN)
1022 #define inst_p0 data.op[0].pdata.p[SIZEOF_REGISTER/SIZEOF_VOID_P - 1]
1023 #define inst_p1 data.op[1].pdata.p[SIZEOF_REGISTER/SIZEOF_VOID_P - 1]
1024 #else
1025 #define inst_p0 data.op[0].p
1026 #define inst_p1 data.op[1].p
1027 #endif
1028 #define inst_l  data.i8const
1029 #define inst_r  data.r8const
1030 #define inst_left  data.op[0].src
1031 #define inst_right data.op[1].src
1032
1033 #define inst_newa_len   data.op[0].src
1034 #define inst_newa_class data.op[1].klass
1035
1036 #define inst_var    data.op[0].var
1037 #define inst_vtype  data.op[1].vtype
1038 /* in branch instructions */
1039 #define inst_many_bb   data.op[1].many_blocks
1040 #define inst_target_bb data.op[0].target_block
1041 #define inst_true_bb   data.op[1].many_blocks[0]
1042 #define inst_false_bb  data.op[1].many_blocks[1]
1043
1044 #define inst_basereg sreg1
1045 #define inst_indexreg sreg2
1046 #define inst_destbasereg dreg
1047 #define inst_offset data.op[0].const_val
1048 #define inst_imm    data.op[1].const_val
1049 #define inst_call   data.op[1].call_inst
1050
1051 #define inst_phi_args   data.op[1].phi_args
1052 #define inst_eh_block    data.op[1].exception_clause
1053
1054 static inline void
1055 mono_inst_set_src_registers (MonoInst *ins, int *regs)
1056 {
1057         ins->sreg1 = regs [0];
1058         ins->sreg2 = regs [1];
1059         ins->sreg3 = regs [2];
1060 }
1061
1062 /* instruction description for use in regalloc/scheduling */
1063 enum {
1064         MONO_INST_DEST,
1065         MONO_INST_SRC1,         /* we depend on the SRCs to be consecutive */
1066         MONO_INST_SRC2,
1067         MONO_INST_SRC3,
1068         MONO_INST_LEN,
1069         MONO_INST_CLOB,
1070         /* Unused, commented out to reduce the size of the mdesc tables
1071         MONO_INST_FLAGS,
1072         MONO_INST_COST,
1073         MONO_INST_DELAY,
1074         MONO_INST_RES,
1075         */
1076         MONO_INST_MAX
1077 };
1078
1079 typedef union {
1080         struct {
1081                 guint16 tid; /* tree number */
1082                 guint16 bid; /* block number */
1083         } pos ;
1084         guint32 abs_pos;
1085 } MonoPosition;
1086
1087 typedef struct {
1088         MonoPosition first_use, last_use;
1089 } MonoLiveRange;
1090
1091 typedef struct MonoLiveRange2 MonoLiveRange2;
1092
1093 struct MonoLiveRange2 {
1094         int from, to;
1095         MonoLiveRange2 *next;
1096 };
1097
1098 typedef struct {
1099         /* List of live ranges sorted by 'from' */
1100         MonoLiveRange2 *range;
1101         MonoLiveRange2 *last_range;
1102 } MonoLiveInterval;
1103
1104 /*
1105  * Additional information about a variable
1106  */
1107 struct MonoMethodVar {
1108         guint           idx; /* inside cfg->varinfo, cfg->vars */
1109         MonoLiveRange   range; /* generated by liveness analysis */
1110         MonoLiveInterval *interval; /* generated by liveness analysis */
1111         int             reg; /* != -1 if allocated into a register */
1112         int             spill_costs;
1113         MonoBitSet     *def_in; /* used by SSA */
1114         MonoInst       *def;    /* used by SSA */
1115         MonoBasicBlock *def_bb; /* used by SSA */
1116         GList          *uses;   /* used by SSA */
1117         char            cpstate;  /* used by SSA conditional  constant propagation */
1118         /* The native offsets corresponding to the live range of the variable */
1119         gint32         live_range_start, live_range_end;
1120         /*
1121          * cfg->varinfo [idx]->dreg could be replaced for OP_REGVAR, this contains the
1122          * original vreg.
1123          */
1124         gint32         vreg;
1125 };
1126
1127 /*
1128  * Stores state need to resume exception handling when using LLVM
1129  */
1130 typedef struct {
1131         MonoJitInfo *ji;
1132         int clause_index;
1133         MonoContext ctx, new_ctx;
1134         /* FIXME: GC */
1135         gpointer        ex_obj;
1136         MonoLMF *lmf;
1137         int first_filter_idx, filter_idx;
1138 } ResumeState;
1139
1140 typedef struct {
1141         gpointer          end_of_stack;
1142         guint32           stack_size;
1143         /* !defined(HAVE_KW_THREAD) || !defined(MONO_ARCH_ENABLE_MONO_LMF_VAR) */
1144         MonoLMF          *lmf;
1145         MonoLMF          *first_lmf;
1146         gpointer         restore_stack_prot;
1147         guint32          handling_stack_ovf;
1148         gpointer         signal_stack;
1149         guint32          signal_stack_size;
1150         gpointer         stack_ovf_guard_base;
1151         guint32          stack_ovf_guard_size;
1152         guint            stack_ovf_valloced : 1;
1153         void            (*abort_func) (MonoObject *object);
1154         /* Used to implement --debug=casts */
1155         MonoClass       *class_cast_from, *class_cast_to;
1156
1157         /* Stores state needed by handler block with a guard */
1158         MonoContext     ex_ctx;
1159         ResumeState resume_state;
1160
1161         /*Variabled use to implement handler blocks (finally/catch/etc) guards during interruption*/
1162         /* handler block return address */
1163         gpointer handler_block_return_address;
1164
1165         /* handler block been guarded. It's safe to store this even for dynamic methods since there
1166         is an activation on stack making sure it will remain alive.*/
1167         MonoJitExceptionInfo *handler_block;
1168
1169         /* context to be used by the guard trampoline when resuming interruption.*/
1170         MonoContext handler_block_context;
1171         /*
1172          * Stores the state at the exception throw site to be used by mono_stack_walk ()
1173          * when it is called from profiler functions during exception handling.
1174          */
1175         MonoContext orig_ex_ctx;
1176         gboolean orig_ex_ctx_set;
1177
1178         /*
1179          * Stores if we need to run a chained exception in Windows.
1180          */
1181         gboolean mono_win_chained_exception_needs_run;
1182
1183         /*
1184          * The current exception in flight
1185          */
1186         guint32 thrown_exc;
1187         /*
1188          * If the current exception is not a subclass of Exception,
1189          * the original exception.
1190          */
1191         guint32 thrown_non_exc;
1192
1193         /*
1194          * The calling assembly in llvmonly mode.
1195          */
1196         MonoImage *calling_image;
1197
1198         /*
1199          * The stack frame "high water mark" for ThreadAbortExceptions.
1200          * We will rethrow the exception upon exiting a catch clause that's
1201          * in a function stack frame above the water mark(isn't being called by
1202          * the catch block that caught the ThreadAbortException).
1203          */
1204         gpointer abort_exc_stack_threshold;
1205 } MonoJitTlsData;
1206
1207 /*
1208  * This structure is an extension of MonoLMF and contains extra information.
1209  */
1210 typedef struct {
1211         struct MonoLMF lmf;
1212         gboolean debugger_invoke;
1213         MonoContext ctx; /* if debugger_invoke is TRUE */
1214 } MonoLMFExt;
1215
1216 /* Generic sharing */
1217
1218 /*
1219  * Flags for which contexts were used in inflating a generic.
1220  */
1221 enum {
1222         MONO_GENERIC_CONTEXT_USED_CLASS = 1,
1223         MONO_GENERIC_CONTEXT_USED_METHOD = 2
1224 };
1225
1226 enum {
1227         /* Cannot be 0 since this is stored in rgctx slots, and 0 means an unitialized rgctx slot */
1228         MONO_GSHAREDVT_BOX_TYPE_VTYPE = 1,
1229         MONO_GSHAREDVT_BOX_TYPE_REF = 2,
1230         MONO_GSHAREDVT_BOX_TYPE_NULLABLE = 3
1231 };
1232
1233 typedef enum {
1234         MONO_RGCTX_INFO_STATIC_DATA,
1235         MONO_RGCTX_INFO_KLASS,
1236         MONO_RGCTX_INFO_ELEMENT_KLASS,
1237         MONO_RGCTX_INFO_VTABLE,
1238         MONO_RGCTX_INFO_TYPE,
1239         MONO_RGCTX_INFO_REFLECTION_TYPE,
1240         MONO_RGCTX_INFO_METHOD,
1241         /* In llvmonly mode, this is a function descriptor */
1242         MONO_RGCTX_INFO_GENERIC_METHOD_CODE,
1243         MONO_RGCTX_INFO_GSHAREDVT_OUT_WRAPPER,
1244         MONO_RGCTX_INFO_CLASS_FIELD,
1245         MONO_RGCTX_INFO_METHOD_RGCTX,
1246         MONO_RGCTX_INFO_METHOD_CONTEXT,
1247         MONO_RGCTX_INFO_REMOTING_INVOKE_WITH_CHECK,
1248         MONO_RGCTX_INFO_METHOD_DELEGATE_CODE,
1249         MONO_RGCTX_INFO_CAST_CACHE,
1250         MONO_RGCTX_INFO_ARRAY_ELEMENT_SIZE,
1251         MONO_RGCTX_INFO_VALUE_SIZE,
1252         /* +1 to avoid zero values in rgctx slots */
1253         MONO_RGCTX_INFO_FIELD_OFFSET,
1254         /* Either the code for a gsharedvt method, or the address for a gsharedvt-out trampoline for the method */
1255         /* In llvmonly mode, this is a function descriptor */
1256         MONO_RGCTX_INFO_METHOD_GSHAREDVT_OUT_TRAMPOLINE,
1257         /* Same for virtual calls */
1258         /* In llvmonly mode, this is a function descriptor */
1259         MONO_RGCTX_INFO_METHOD_GSHAREDVT_OUT_TRAMPOLINE_VIRT,
1260         /* Same for calli, associated with a signature */
1261         MONO_RGCTX_INFO_SIG_GSHAREDVT_OUT_TRAMPOLINE_CALLI,
1262         MONO_RGCTX_INFO_SIG_GSHAREDVT_IN_TRAMPOLINE_CALLI,
1263         /* One of MONO_GSHAREDVT_BOX_TYPE */
1264         MONO_RGCTX_INFO_CLASS_BOX_TYPE,
1265         /* Resolves to a MonoGSharedVtMethodRuntimeInfo */
1266         MONO_RGCTX_INFO_METHOD_GSHAREDVT_INFO,
1267         MONO_RGCTX_INFO_LOCAL_OFFSET,
1268         MONO_RGCTX_INFO_MEMCPY,
1269         MONO_RGCTX_INFO_BZERO,
1270         /* The address of Nullable<T>.Box () */
1271         /* In llvmonly mode, this is a function descriptor */
1272         MONO_RGCTX_INFO_NULLABLE_CLASS_BOX,
1273         MONO_RGCTX_INFO_NULLABLE_CLASS_UNBOX,
1274         /* MONO_PATCH_INFO_VCALL_METHOD */
1275         MONO_RGCTX_INFO_VIRT_METHOD_CODE,
1276         /*
1277          * MONO_PATCH_INFO_VCALL_METHOD
1278          * Same as MONO_RGCTX_INFO_CLASS_BOX_TYPE, but for the class
1279          * which implements the method.
1280          */
1281         MONO_RGCTX_INFO_VIRT_METHOD_BOX_TYPE,
1282 } MonoRgctxInfoType;
1283
1284 typedef struct _MonoRuntimeGenericContextInfoTemplate {
1285         MonoRgctxInfoType info_type;
1286         gpointer data;
1287         struct _MonoRuntimeGenericContextInfoTemplate *next;
1288 } MonoRuntimeGenericContextInfoTemplate;
1289
1290 typedef struct {
1291         MonoClass *next_subclass;
1292         MonoRuntimeGenericContextInfoTemplate *infos;
1293         GSList *method_templates;
1294 } MonoRuntimeGenericContextTemplate;
1295
1296 typedef struct {
1297         MonoVTable *class_vtable; /* must be the first element */
1298         MonoGenericInst *method_inst;
1299         gpointer infos [MONO_ZERO_LEN_ARRAY];
1300 } MonoMethodRuntimeGenericContext;
1301
1302 #define MONO_SIZEOF_METHOD_RUNTIME_GENERIC_CONTEXT (sizeof (MonoMethodRuntimeGenericContext) - MONO_ZERO_LEN_ARRAY * SIZEOF_VOID_P)
1303
1304 #define MONO_RGCTX_SLOT_MAKE_RGCTX(i)   (i)
1305 #define MONO_RGCTX_SLOT_MAKE_MRGCTX(i)  ((i) | 0x80000000)
1306 #define MONO_RGCTX_SLOT_INDEX(s)        ((s) & 0x7fffffff)
1307 #define MONO_RGCTX_SLOT_IS_MRGCTX(s)    (((s) & 0x80000000) ? TRUE : FALSE)
1308
1309 #define MONO_GSHAREDVT_DEL_INVOKE_VT_OFFSET -2
1310
1311 typedef struct {
1312         MonoMethod *method;
1313         MonoRuntimeGenericContextInfoTemplate *entries;
1314         int num_entries, count_entries;
1315 } MonoGSharedVtMethodInfo;
1316
1317 /* This is used by gsharedvt methods to allocate locals and compute local offsets */
1318 typedef struct {
1319         int locals_size;
1320         /*
1321          * The results of resolving the entries in MOonGSharedVtMethodInfo->entries.
1322          * We use this instead of rgctx slots since these can be loaded using a load instead
1323          * of a call to an rgctx fetch trampoline.
1324          */
1325         gpointer entries [MONO_ZERO_LEN_ARRAY];
1326 } MonoGSharedVtMethodRuntimeInfo;
1327
1328 typedef struct
1329 {
1330         MonoMethod *invoke;
1331         MonoMethod *method;
1332         MonoMethodSignature *invoke_sig;
1333         MonoMethodSignature *sig;
1334         gpointer method_ptr;
1335         gpointer invoke_impl;
1336         gpointer impl_this;
1337         gpointer impl_nothis;
1338         gboolean need_rgctx_tramp;
1339 } MonoDelegateTrampInfo;
1340
1341 /*
1342  * A function descriptor, which is a function address + argument pair.
1343  * In llvm-only mode, these are used instead of trampolines to pass
1344  * extra arguments to runtime functions/methods.
1345  */
1346 typedef struct
1347 {
1348         gpointer addr;
1349         gpointer arg;
1350 } MonoFtnDesc;
1351
1352 typedef enum {
1353 #define PATCH_INFO(a,b) MONO_PATCH_INFO_ ## a,
1354 #include "patch-info.h"
1355 #undef PATCH_INFO
1356         MONO_PATCH_INFO_NUM
1357 } MonoJumpInfoType;
1358
1359 /*
1360  * We need to store the image which the token refers to along with the token,
1361  * since the image might not be the same as the image of the method which
1362  * contains the relocation, because of inlining.
1363  */
1364 typedef struct MonoJumpInfoToken {
1365         MonoImage *image;
1366         guint32 token;
1367         gboolean has_context;
1368         MonoGenericContext context;
1369 } MonoJumpInfoToken;
1370
1371 typedef struct MonoJumpInfoBBTable {
1372         MonoBasicBlock **table;
1373         int table_size;
1374 } MonoJumpInfoBBTable;
1375
1376 typedef struct MonoJumpInfoRgctxEntry MonoJumpInfoRgctxEntry;
1377
1378 /* Contains information describing an LLVM IMT trampoline */
1379 typedef struct MonoJumpInfoImtTramp {
1380         MonoMethod *method;
1381         int vt_offset;
1382 } MonoJumpInfoImtTramp;
1383
1384 typedef struct MonoJumpInfoGSharedVtCall MonoJumpInfoGSharedVtCall;
1385
1386 /*
1387  * Represents the method which is called when a virtual call is made to METHOD
1388  * on a receiver of type KLASS.
1389  */
1390 typedef struct {
1391         /* Receiver class */
1392         MonoClass *klass;
1393         /* Virtual method */
1394         MonoMethod *method;
1395 } MonoJumpInfoVirtMethod;
1396
1397 typedef struct MonoJumpInfo MonoJumpInfo;
1398 struct MonoJumpInfo {
1399         MonoJumpInfo *next;
1400         /* Relocation type for patching */
1401         int relocation;
1402         union {
1403                 int i;
1404                 guint8 *p;
1405                 MonoInst *label;
1406         } ip;
1407
1408         MonoJumpInfoType type;
1409         union {
1410                 gconstpointer   target;
1411 #if SIZEOF_VOID_P == 8
1412                 gint64          offset;
1413 #else
1414                 int             offset;
1415 #endif
1416                 int index;
1417                 MonoBasicBlock *bb;
1418                 MonoInst       *inst;
1419                 MonoMethod     *method;
1420                 MonoClass      *klass;
1421                 MonoClassField *field;
1422                 MonoImage      *image;
1423                 MonoVTable     *vtable;
1424                 const char     *name;
1425                 MonoJumpInfoToken  *token;
1426                 MonoJumpInfoBBTable *table;
1427                 MonoJumpInfoRgctxEntry *rgctx_entry;
1428                 MonoJumpInfoImtTramp *imt_tramp;
1429                 MonoJumpInfoGSharedVtCall *gsharedvt;
1430                 MonoGSharedVtMethodInfo *gsharedvt_method;
1431                 MonoMethodSignature *sig;
1432                 MonoDelegateClassMethodPair *del_tramp;
1433                 /* MONO_PATCH_INFO_VIRT_METHOD */
1434                 MonoJumpInfoVirtMethod *virt_method;
1435         } data;
1436 };
1437
1438 /*
1439  * Contains information for computing the
1440  * property given by INFO_TYPE of the runtime
1441  * object described by DATA.
1442  */
1443 struct MonoJumpInfoRgctxEntry {
1444         MonoMethod *method;
1445         gboolean in_mrgctx;
1446         MonoJumpInfo *data; /* describes the data to be loaded */
1447         MonoRgctxInfoType info_type;
1448 };
1449
1450 /* Contains information about a gsharedvt call */
1451 struct MonoJumpInfoGSharedVtCall {
1452         /* The original signature of the call */
1453         MonoMethodSignature *sig;
1454         /* The method which is called */
1455         MonoMethod *method;
1456 };
1457
1458 typedef enum {
1459         MONO_TRAMPOLINE_JIT,
1460         MONO_TRAMPOLINE_JUMP,
1461         MONO_TRAMPOLINE_RGCTX_LAZY_FETCH,
1462         MONO_TRAMPOLINE_AOT,
1463         MONO_TRAMPOLINE_AOT_PLT,
1464         MONO_TRAMPOLINE_DELEGATE,
1465         MONO_TRAMPOLINE_RESTORE_STACK_PROT,
1466         MONO_TRAMPOLINE_GENERIC_VIRTUAL_REMOTING,
1467         MONO_TRAMPOLINE_VCALL,
1468         MONO_TRAMPOLINE_HANDLER_BLOCK_GUARD,
1469         MONO_TRAMPOLINE_NUM
1470 } MonoTrampolineType;
1471
1472 /* These trampolines return normally to their caller */
1473 #define MONO_TRAMPOLINE_TYPE_MUST_RETURN(t)             \
1474         ((t) == MONO_TRAMPOLINE_RESTORE_STACK_PROT ||   \
1475          (t) == MONO_TRAMPOLINE_RGCTX_LAZY_FETCH)
1476
1477 /* These trampolines receive an argument directly in a register */
1478 #define MONO_TRAMPOLINE_TYPE_HAS_ARG(t)         \
1479         ((t) == MONO_TRAMPOLINE_HANDLER_BLOCK_GUARD)
1480
1481 /* optimization flags */
1482 #define OPTFLAG(id,shift,name,descr) MONO_OPT_ ## id = 1 << shift,
1483 enum {
1484 #include "optflags-def.h"
1485         MONO_OPT_LAST
1486 };
1487
1488 /*
1489  * This structure represents a JIT backend.
1490  */
1491 typedef struct {
1492         guint            have_card_table_wb : 1;
1493         guint            have_op_generic_class_init : 1;
1494         guint            emulate_mul_div : 1;
1495         guint            emulate_div : 1;
1496         guint            emulate_long_shift_opts : 1;
1497         guint            have_objc_get_selector : 1;
1498         guint            have_generalized_imt_trampoline : 1;
1499         guint            have_liverange_ops: 1;
1500         guint            have_op_tail_call : 1;
1501         guint            have_dummy_init : 1;
1502         guint            gshared_supported : 1;
1503         guint            use_fpstack : 1;
1504         guint            ilp32 : 1;
1505         guint            need_got_var : 1;
1506         guint            need_div_check : 1;
1507         guint            no_unaligned_access : 1;
1508         guint            disable_div_with_mul : 1;
1509         int              monitor_enter_adjustment;
1510         int              dyn_call_param_area;
1511 } MonoBackend;
1512
1513 /* Flags for mini_method_compile () */
1514 typedef enum {
1515         /* Whenever to run cctors during JITting */
1516         JIT_FLAG_RUN_CCTORS = (1 << 0),
1517         /* Whenever this is an AOT compilation */
1518         JIT_FLAG_AOT = (1 << 1),
1519         /* Whenever this is a full AOT compilation */
1520         JIT_FLAG_FULL_AOT = (1 << 2),
1521         /* Whenever to compile with LLVM */
1522         JIT_FLAG_LLVM = (1 << 3),
1523         /* Whenever to disable direct calls to icall functions */
1524         JIT_FLAG_NO_DIRECT_ICALLS = (1 << 4),
1525         /* Emit explicit null checks */
1526         JIT_FLAG_EXPLICIT_NULL_CHECKS = (1 << 5),
1527         /* Whenever to compile in llvm-only mode */
1528         JIT_FLAG_LLVM_ONLY = (1 << 6),
1529         /* Whenever calls to pinvoke functions are made directly */
1530         JIT_FLAG_DIRECT_PINVOKE = (1 << 7),
1531         /* Whenever this is a compile-all run and the result should be discarded */
1532         JIT_FLAG_DISCARD_RESULTS = (1 << 8),
1533 } JitFlags;
1534
1535 /* Bit-fields in the MonoBasicBlock.region */
1536 #define MONO_REGION_TRY       0
1537 #define MONO_REGION_FINALLY  16
1538 #define MONO_REGION_CATCH    32
1539 #define MONO_REGION_FAULT    64         /* Currently unused */
1540 #define MONO_REGION_FILTER  128
1541
1542 #define MONO_BBLOCK_IS_IN_REGION(bblock, regtype) (((bblock)->region & (0xf << 4)) == (regtype))
1543
1544 #define MONO_REGION_FLAGS(region) ((region) & 0x7)
1545 #define MONO_REGION_CLAUSE_INDEX(region) (((region) >> 8) - 1)
1546
1547 #define get_vreg_to_inst(cfg, vreg) ((vreg) < (cfg)->vreg_to_inst_len ? (cfg)->vreg_to_inst [(vreg)] : NULL)
1548
1549 #define vreg_is_volatile(cfg, vreg) (G_UNLIKELY (get_vreg_to_inst ((cfg), (vreg)) && (get_vreg_to_inst ((cfg), (vreg))->flags & (MONO_INST_VOLATILE|MONO_INST_INDIRECT))))
1550
1551 #define vreg_is_ref(cfg, vreg) ((vreg) < (cfg)->vreg_is_ref_len ? (cfg)->vreg_is_ref [(vreg)] : 0)
1552 #define vreg_is_mp(cfg, vreg) ((vreg) < (cfg)->vreg_is_mp_len ? (cfg)->vreg_is_mp [(vreg)] : 0)
1553
1554 /*
1555  * Control Flow Graph and compilation unit information
1556  */
1557 typedef struct {
1558         MonoMethod      *method;
1559         MonoMethodHeader *header;
1560         MonoMemPool     *mempool;
1561         MonoInst       **varinfo;
1562         MonoMethodVar   *vars;
1563         MonoInst        *ret;
1564         MonoBasicBlock  *bb_entry;
1565         MonoBasicBlock  *bb_exit;
1566         MonoBasicBlock  *bb_init;
1567         MonoBasicBlock **bblocks;
1568         MonoBasicBlock **cil_offset_to_bb;
1569         MonoMemPool     *state_pool; /* used by instruction selection */
1570         MonoBasicBlock  *cbb;        /* used by instruction selection */
1571         MonoInst        *prev_ins;   /* in decompose */
1572         MonoJumpInfo    *patch_info;
1573         MonoJitInfo     *jit_info;
1574         MonoJitDynamicMethodInfo *dynamic_info;
1575         guint            num_bblocks, max_block_num;
1576         guint            locals_start;
1577         guint            num_varinfo; /* used items in varinfo */
1578         guint            varinfo_count; /* total storage in varinfo */
1579         gint             stack_offset;
1580         gint             max_ireg;
1581         gint             cil_offset_to_bb_len;
1582         MonoRegState    *rs;
1583         MonoSpillInfo   *spill_info [16]; /* machine register spills */
1584         gint             spill_count;
1585         gint             spill_info_len [16];
1586         /* unsigned char   *cil_code; */
1587         MonoMethod      *inlined_method; /* the method which is currently inlined */
1588         MonoInst        *domainvar; /* a cache for the current domain */
1589         MonoInst        *got_var; /* Global Offset Table variable */
1590         MonoInst        **locals;
1591         MonoInst        *rgctx_var; /* Runtime generic context variable (for static generic methods) */
1592         MonoInst        **args;
1593         MonoType        **arg_types;
1594         MonoMethod      *current_method; /* The method currently processed by method_to_ir () */
1595         MonoMethod      *method_to_register; /* The method to register in JIT info tables */
1596         MonoGenericContext *generic_context;
1597         MonoInst        *this_arg;
1598
1599         MonoBackend *backend;
1600
1601         /*
1602          * This variable represents the hidden argument holding the vtype
1603          * return address. If the method returns something other than a vtype, or
1604          * the vtype is returned in registers this is NULL.
1605          */
1606         MonoInst        *vret_addr;
1607
1608         /*
1609          * This is used to initialize the cil_code field of MonoInst's.
1610          */
1611         const unsigned char *ip;
1612
1613         struct MonoAliasingInformation *aliasing_info;
1614
1615         /* A hashtable of region ID-> SP var mappings */
1616         /* An SP var is a place to store the stack pointer (used by handlers)*/
1617         GHashTable      *spvars;
1618
1619         /* A hashtable of region ID -> EX var mappings */
1620         /* An EX var stores the exception object passed to catch/filter blocks */
1621         GHashTable      *exvars;
1622
1623         GList           *ldstr_list; /* used by AOT */
1624
1625         MonoDomain      *domain;
1626
1627         guint            real_offset;
1628         GHashTable      *cbb_hash;
1629
1630         /* The current virtual register number */
1631         guint32 next_vreg;
1632
1633         MonoGenericSharingContext gsctx;
1634         MonoGenericContext *gsctx_context;
1635
1636         MonoGSharedVtMethodInfo *gsharedvt_info;
1637
1638         /* Points to the gsharedvt locals area at runtime */
1639         MonoInst *gsharedvt_locals_var;
1640
1641         /* The localloc instruction used to initialize gsharedvt_locals_var */
1642         MonoInst *gsharedvt_locals_var_ins;
1643
1644         /* Points to a MonoGSharedVtMethodRuntimeInfo at runtime */
1645         MonoInst *gsharedvt_info_var;
1646
1647         /* For native-to-managed wrappers, CEE_MONO_JIT_(AT|DE)TACH opcodes */
1648         MonoInst *orig_domain_var;
1649
1650         MonoInst *lmf_var;
1651         MonoInst *lmf_addr_var;
1652
1653         MonoInst *stack_inbalance_var;
1654
1655         unsigned char   *cil_start;
1656 #ifdef __native_client_codegen__
1657         /* this alloc is not aligned, native_code */
1658         /* is the 32-byte aligned version of this */
1659         unsigned char   *native_code_alloc;
1660 #endif
1661         unsigned char   *native_code;
1662         guint            code_size;
1663         guint            code_len;
1664         guint            prolog_end;
1665         guint            epilog_begin;
1666         guint            epilog_end;
1667         regmask_t        used_int_regs;
1668         guint32          opt;
1669         guint32          prof_options;
1670         guint32          flags;
1671         guint32          comp_done;
1672         guint32          verbose_level;
1673         guint32          stack_usage;
1674         guint32          param_area;
1675         guint32          frame_reg;
1676         gint32           sig_cookie;
1677         guint            disable_aot : 1;
1678         guint            disable_ssa : 1;
1679         guint            disable_llvm : 1;
1680         guint            enable_extended_bblocks : 1;
1681         guint            run_cctors : 1;
1682         guint            need_lmf_area : 1;
1683         guint            compile_aot : 1;
1684         guint            full_aot : 1;
1685         guint            compile_llvm : 1;
1686         guint            got_var_allocated : 1;
1687         guint            ret_var_is_local : 1;
1688         guint            ret_var_set : 1;
1689         guint            unverifiable : 1;
1690         guint            skip_visibility : 1;
1691         guint            disable_reuse_registers : 1;
1692         guint            disable_reuse_stack_slots : 1;
1693         guint            disable_reuse_ref_stack_slots : 1;
1694         guint            disable_ref_noref_stack_slot_share : 1;
1695         guint            disable_initlocals_opt : 1;
1696         guint            disable_initlocals_opt_refs : 1;
1697         guint            disable_omit_fp : 1;
1698         guint            disable_vreg_to_lvreg : 1;
1699         guint            disable_deadce_vars : 1;
1700         guint            disable_out_of_line_bblocks : 1;
1701         guint            disable_direct_icalls : 1;
1702         guint            disable_gc_safe_points : 1;
1703         guint            direct_pinvoke : 1;
1704         guint            create_lmf_var : 1;
1705         /*
1706          * When this is set, the code to push/pop the LMF from the LMF stack is generated as IR
1707          * instead of being generated in emit_prolog ()/emit_epilog ().
1708          */
1709         guint            lmf_ir : 1;
1710         /*
1711          * Whenever to use the mono_lmf TLS variable instead of indirection through the
1712          * mono_lmf_addr TLS variable.
1713          */
1714         guint            lmf_ir_mono_lmf : 1;
1715         guint            gen_write_barriers : 1;
1716         guint            init_ref_vars : 1;
1717         guint            extend_live_ranges : 1;
1718         guint            compute_precise_live_ranges : 1;
1719         guint            has_got_slots : 1;
1720         guint            uses_rgctx_reg : 1;
1721         guint            uses_vtable_reg : 1;
1722         guint            uses_simd_intrinsics : 1;
1723         guint            keep_cil_nops : 1;
1724         guint            gen_seq_points : 1;
1725         /* Generate seq points for use by the debugger */
1726         guint            gen_sdb_seq_points : 1;
1727         guint            explicit_null_checks : 1;
1728         guint            compute_gc_maps : 1;
1729         guint            soft_breakpoints : 1;
1730         guint            arch_eh_jit_info : 1;
1731         guint            has_emulated_ops : 1;
1732         guint            has_indirection : 1;
1733         guint            has_atomic_add_i4 : 1;
1734         guint            has_atomic_exchange_i4 : 1;
1735         guint            has_atomic_cas_i4 : 1;
1736         guint            check_pinvoke_callconv : 1;
1737         guint            has_unwind_info_for_epilog : 1;
1738         guint            disable_inline : 1;
1739         /* Disable inlining into caller */
1740         guint            no_inline : 1;
1741         guint            gshared : 1;
1742         guint            gsharedvt : 1;
1743         guint            r4fp : 1;
1744         guint            llvm_only : 1;
1745         int              r4_stack_type;
1746         gpointer         debug_info;
1747         guint32          lmf_offset;
1748     guint16          *intvars;
1749         MonoProfileCoverageInfo *coverage_info;
1750         GHashTable       *token_info_hash;
1751         MonoCompileArch  arch;
1752         guint32          inline_depth;
1753         /* Size of memory reserved for thunks */
1754         int              thunk_area;
1755         /* Thunks */
1756         guint8          *thunks;
1757         /* Offset between the start of code and the thunks area */
1758         int              thunks_offset;
1759         MonoExceptionType exception_type;       /* MONO_EXCEPTION_* */
1760         guint32          exception_data;
1761         char*            exception_message;
1762         gpointer         exception_ptr;
1763
1764         guint8 *         encoded_unwind_ops;
1765         guint32          encoded_unwind_ops_len;
1766         GSList*          unwind_ops;
1767
1768         GList*           dont_inline;
1769
1770         /* Fields used by the local reg allocator */
1771         void*            reginfo;
1772         int              reginfo_len;
1773
1774         /* Maps vregs to their associated MonoInst's */
1775         /* vregs with an associated MonoInst are 'global' while others are 'local' */
1776         MonoInst **vreg_to_inst;
1777
1778         /* Size of above array */
1779         guint32 vreg_to_inst_len;
1780
1781         /* Marks vregs which hold a GC ref */
1782         /* FIXME: Use a bitmap */
1783         gboolean *vreg_is_ref;
1784
1785         /* Size of above array */
1786         guint32 vreg_is_ref_len;
1787
1788         /* Marks vregs which hold a managed pointer */
1789         /* FIXME: Use a bitmap */
1790         gboolean *vreg_is_mp;
1791
1792         /* Size of above array */
1793         guint32 vreg_is_mp_len;
1794
1795         /*
1796          * The original method to compile, differs from 'method' when doing generic
1797          * sharing.
1798          */
1799         MonoMethod *orig_method;
1800
1801         /* Patches which describe absolute addresses embedded into the native code */
1802         GHashTable *abs_patches;
1803
1804         /* If the arch passes valuetypes by address, then for methods
1805            which use JMP the arch code should use these local
1806            variables to store the addresses of incoming valuetypes.
1807            The addresses should be stored in mono_arch_emit_prolog()
1808            and can be used when emitting code for OP_JMP.  See
1809            mini-ppc.c. */
1810         MonoInst **tailcall_valuetype_addrs;
1811
1812         /* Used to implement move_i4_to_f on archs that can't do raw
1813         copy between an ireg and a freg. This is an int32 var.*/
1814         MonoInst *iconv_raw_var;
1815
1816         /* Used to implement fconv_to_r8_x. This is a double (8 bytes) var.*/
1817         MonoInst *fconv_to_r8_x_var;
1818
1819         /*Use to implement simd constructors. This is a vector (16 bytes) var.*/
1820         MonoInst *simd_ctor_var;
1821
1822         /* Used to implement dyn_call */
1823         MonoInst *dyn_call_var;
1824
1825         /*
1826          * List of sequence points represented as IL offset+native offset pairs.
1827          * Allocated using glib.
1828          * IL offset can be -1 or 0xffffff to refer to the sequence points
1829          * inside the prolog and epilog used to implement method entry/exit events.
1830          */
1831         GPtrArray *seq_points;
1832
1833         /* The encoded sequence point info */
1834         struct MonoSeqPointInfo *seq_point_info;
1835
1836         /* Method headers which need to be freed after compilation */
1837         GSList *headers_to_free;
1838
1839         /* Used by AOT */
1840         guint32 got_offset, ex_info_offset, method_info_offset, method_index;
1841         /* Symbol used to refer to this method in generated assembly */
1842         char *asm_symbol;
1843         char *asm_debug_symbol;
1844         char *llvm_method_name;
1845         int castclass_cache_index;
1846
1847         MonoJitExceptionInfo *llvm_ex_info;
1848         guint32 llvm_ex_info_len;
1849         int llvm_this_reg, llvm_this_offset;
1850
1851         GSList *try_block_holes;
1852
1853         /* DWARF location list for 'this' */
1854         GSList *this_loclist;
1855
1856         /* DWARF location list for 'rgctx_var' */
1857         GSList *rgctx_loclist;
1858
1859         int *gsharedvt_vreg_to_idx;
1860
1861         GSList *signatures;
1862
1863         /* GC Maps */
1864
1865         /* The offsets of the locals area relative to the frame pointer */
1866         gint locals_min_stack_offset, locals_max_stack_offset;
1867
1868         /* The current CFA rule */
1869         int cur_cfa_reg, cur_cfa_offset;
1870
1871         /* The final CFA rule at the end of the prolog */
1872         int cfa_reg, cfa_offset;
1873
1874         /* Points to a MonoCompileGC */
1875         gpointer gc_info;
1876
1877         /*
1878          * The encoded GC map along with its size. This contains binary data so it can be saved in an AOT
1879          * image etc, but it requires a 4 byte alignment.
1880          */
1881         guint8 *gc_map;
1882         guint32 gc_map_size;
1883
1884         /* Error handling */
1885         MonoError error;
1886
1887         /* pointer to context datastructure used for graph dumping */
1888         MonoGraphDumper *gdump_ctx;
1889
1890         /* Stats */
1891         int stat_allocate_var;
1892         int stat_locals_stack_size;
1893         int stat_basic_blocks;
1894         int stat_cil_code_size;
1895         int stat_n_regvars;
1896         int stat_inlineable_methods;
1897         int stat_inlined_methods;
1898         int stat_code_reallocs;
1899 } MonoCompile;
1900
1901 typedef enum {
1902         MONO_CFG_HAS_ALLOCA = 1 << 0,
1903         MONO_CFG_HAS_CALLS  = 1 << 1,
1904         MONO_CFG_HAS_LDELEMA  = 1 << 2,
1905         MONO_CFG_HAS_VARARGS  = 1 << 3,
1906         MONO_CFG_HAS_TAIL     = 1 << 4,
1907         MONO_CFG_HAS_FPOUT    = 1 << 5, /* there are fp values passed in int registers */
1908         MONO_CFG_HAS_SPILLUP  = 1 << 6, /* spill var slots are allocated from bottom to top */
1909         MONO_CFG_HAS_CHECK_THIS  = 1 << 7,
1910         MONO_CFG_HAS_ARRAY_ACCESS = 1 << 8,
1911         MONO_CFG_HAS_TYPE_CHECK = 1 << 9
1912 } MonoCompileFlags;
1913
1914 typedef struct {
1915         gint32 methods_compiled;
1916         gint32 methods_aot;
1917         gint32 methods_lookups;
1918         gint32 allocate_var;
1919         gint32 cil_code_size;
1920         gint32 native_code_size;
1921         gint32 code_reallocs;
1922         gint32 max_code_size_ratio;
1923         gint32 biggest_method_size;
1924         gint32 allocated_code_size;
1925         gint32 allocated_seq_points_size;
1926         gint32 inlineable_methods;
1927         gint32 inlined_methods;
1928         gint32 basic_blocks;
1929         gint32 max_basic_blocks;
1930         gint32 locals_stack_size;
1931         gint32 regvars;
1932         gint32 generic_virtual_invocations;
1933         gint32 alias_found;
1934         gint32 alias_removed;
1935         gint32 loads_eliminated;
1936         gint32 stores_eliminated;
1937         gint32 optimized_divisions;
1938         int methods_with_llvm;
1939         int methods_without_llvm;
1940         char *max_ratio_method;
1941         char *biggest_method;
1942         double jit_method_to_ir;
1943         double jit_liveness_handle_exception_clauses;
1944         double jit_handle_out_of_line_bblock;
1945         double jit_decompose_long_opts;
1946         double jit_decompose_typechecks;
1947         double jit_local_cprop;
1948         double jit_local_emulate_ops;
1949         double jit_optimize_branches;
1950         double jit_handle_global_vregs;
1951         double jit_local_deadce;
1952         double jit_local_alias_analysis;
1953         double jit_if_conversion;
1954         double jit_bb_ordering;
1955         double jit_compile_dominator_info;
1956         double jit_compute_natural_loops;
1957         double jit_insert_safepoints;
1958         double jit_ssa_compute;
1959         double jit_ssa_cprop;
1960         double jit_ssa_deadce;
1961         double jit_perform_abc_removal;
1962         double jit_ssa_remove;
1963         double jit_local_cprop2;
1964         double jit_handle_global_vregs2;
1965         double jit_local_deadce2;
1966         double jit_optimize_branches2;
1967         double jit_decompose_vtype_opts;
1968         double jit_decompose_array_access_opts;
1969         double jit_liveness_handle_exception_clauses2;
1970         double jit_analyze_liveness;
1971         double jit_linear_scan;
1972         double jit_arch_allocate_vars;
1973         double jit_spill_global_vars;
1974         double jit_local_cprop3;
1975         double jit_local_deadce3;
1976         double jit_codegen;
1977         double jit_create_jit_info;
1978         double jit_gc_create_gc_map;
1979         double jit_save_seq_point_info;
1980         double jit_time;
1981         gboolean enabled;
1982 } MonoJitStats;
1983
1984 extern MonoJitStats mono_jit_stats;
1985
1986 /* opcodes: value assigned after all the CIL opcodes */
1987 #ifdef MINI_OP
1988 #undef MINI_OP
1989 #endif
1990 #ifdef MINI_OP3
1991 #undef MINI_OP3
1992 #endif
1993 #define MINI_OP(a,b,dest,src1,src2) a,
1994 #define MINI_OP3(a,b,dest,src1,src2,src3) a,
1995 enum {
1996         OP_START = MONO_CEE_LAST - 1,
1997 #include "mini-ops.h"
1998         OP_LAST
1999 };
2000 #undef MINI_OP
2001 #undef MINI_OP3
2002
2003 #if SIZEOF_VOID_P == 8
2004 #define OP_PCONST OP_I8CONST
2005 #define OP_DUMMY_PCONST OP_DUMMY_I8CONST
2006 #define OP_PADD OP_LADD
2007 #define OP_PADD_IMM OP_LADD_IMM
2008 #define OP_PSUB_IMM OP_LSUB_IMM
2009 #define OP_PAND_IMM OP_LAND_IMM
2010 #define OP_PXOR_IMM OP_LXOR_IMM
2011 #define OP_PSUB OP_LSUB
2012 #define OP_PMUL OP_LMUL
2013 #define OP_PMUL_IMM OP_LMUL_IMM
2014 #define OP_PNEG OP_LNEG
2015 #define OP_PCONV_TO_I1 OP_LCONV_TO_I1
2016 #define OP_PCONV_TO_U1 OP_LCONV_TO_U1
2017 #define OP_PCONV_TO_I2 OP_LCONV_TO_I2
2018 #define OP_PCONV_TO_U2 OP_LCONV_TO_U2
2019 #define OP_PCONV_TO_OVF_I1_UN OP_LCONV_TO_OVF_I1_UN
2020 #define OP_PCONV_TO_OVF_I1 OP_LCONV_TO_OVF_I1
2021 #define OP_PBEQ OP_LBEQ
2022 #define OP_PCEQ OP_LCEQ
2023 #define OP_PBNE_UN OP_LBNE_UN
2024 #define OP_PBGE_UN OP_LBGE_UN
2025 #define OP_PBLT_UN OP_LBLT_UN
2026 #define OP_PBGE OP_LBGE
2027 #define OP_STOREP_MEMBASE_REG OP_STOREI8_MEMBASE_REG
2028 #define OP_STOREP_MEMBASE_IMM OP_STOREI8_MEMBASE_IMM
2029 #else
2030 #define OP_PCONST OP_ICONST
2031 #define OP_DUMMY_PCONST OP_DUMMY_ICONST
2032 #define OP_PADD OP_IADD
2033 #define OP_PADD_IMM OP_IADD_IMM
2034 #define OP_PSUB_IMM OP_ISUB_IMM
2035 #define OP_PAND_IMM OP_IAND_IMM
2036 #define OP_PXOR_IMM OP_IXOR_IMM
2037 #define OP_PSUB OP_ISUB
2038 #define OP_PMUL OP_IMUL
2039 #define OP_PMUL_IMM OP_IMUL_IMM
2040 #define OP_PNEG OP_INEG
2041 #define OP_PCONV_TO_I1 OP_ICONV_TO_I1
2042 #define OP_PCONV_TO_U1 OP_ICONV_TO_U1
2043 #define OP_PCONV_TO_I2 OP_ICONV_TO_I2
2044 #define OP_PCONV_TO_U2 OP_ICONV_TO_U2
2045 #define OP_PCONV_TO_OVF_I1_UN OP_ICONV_TO_OVF_I1_UN
2046 #define OP_PCONV_TO_OVF_I1 OP_ICONV_TO_OVF_I1
2047 #define OP_PBEQ OP_IBEQ
2048 #define OP_PCEQ OP_ICEQ
2049 #define OP_PBNE_UN OP_IBNE_UN
2050 #define OP_PBGE_UN OP_IBGE_UN
2051 #define OP_PBLT_UN OP_IBLT_UN
2052 #define OP_PBGE OP_IBGE
2053 #define OP_STOREP_MEMBASE_REG OP_STOREI4_MEMBASE_REG
2054 #define OP_STOREP_MEMBASE_IMM OP_STOREI4_MEMBASE_IMM
2055 #endif
2056
2057 /* Opcodes to load/store regsize quantities */
2058 #if defined (__mono_ilp32__)
2059 #define OP_LOADR_MEMBASE OP_LOADI8_MEMBASE
2060 #define OP_STORER_MEMBASE_REG OP_STOREI8_MEMBASE_REG
2061 #else
2062 #define OP_LOADR_MEMBASE OP_LOAD_MEMBASE
2063 #define OP_STORER_MEMBASE_REG OP_STORE_MEMBASE_REG
2064 #endif
2065
2066 typedef enum {
2067         STACK_INV,
2068         STACK_I4,
2069         STACK_I8,
2070         STACK_PTR,
2071         STACK_R8,
2072         STACK_MP,
2073         STACK_OBJ,
2074         STACK_VTYPE,
2075         STACK_R4,
2076         STACK_MAX
2077 } MonoStackType;
2078
2079 typedef struct {
2080         union {
2081                 double   r8;
2082                 gint32   i4;
2083                 gint64   i8;
2084                 gpointer p;
2085                 MonoClass *klass;
2086         } data;
2087         int type;
2088 } StackSlot;
2089
2090 #if HAVE_ARRAY_ELEM_INIT
2091 extern const guint8 mono_burg_arity [];
2092 #else
2093 extern guint8 mono_burg_arity [];
2094 #endif
2095
2096 extern const char MONO_ARCH_CPU_SPEC [];
2097 #define MONO_ARCH_CPU_SPEC_IDX_COMBINE(a) a ## _idx
2098 #define MONO_ARCH_CPU_SPEC_IDX(a) MONO_ARCH_CPU_SPEC_IDX_COMBINE(a)
2099 extern const guint16 MONO_ARCH_CPU_SPEC_IDX(MONO_ARCH_CPU_SPEC) [];
2100 #define ins_get_spec(op) ((const char*)&MONO_ARCH_CPU_SPEC + MONO_ARCH_CPU_SPEC_IDX(MONO_ARCH_CPU_SPEC)[(op) - OP_LOAD])
2101
2102 enum {
2103         MONO_COMP_DOM = 1,
2104         MONO_COMP_IDOM = 2,
2105         MONO_COMP_DFRONTIER = 4,
2106         MONO_COMP_DOM_REV = 8,
2107         MONO_COMP_LIVENESS = 16,
2108         MONO_COMP_SSA = 32,
2109         MONO_COMP_SSA_DEF_USE = 64,
2110         MONO_COMP_REACHABILITY = 128,
2111         MONO_COMP_LOOPS = 256
2112 };
2113
2114 typedef enum {
2115         MONO_GRAPH_CFG = 1,
2116         MONO_GRAPH_DTREE = 2,
2117         MONO_GRAPH_CFG_CODE = 4,
2118         MONO_GRAPH_CFG_SSA = 8,
2119         MONO_GRAPH_CFG_OPTCODE = 16
2120 } MonoGraphOptions;
2121
2122 typedef struct {
2123         guint16 size;
2124         guint16 offset;
2125         guint8  pad;
2126 } MonoJitArgumentInfo;
2127
2128 typedef struct {
2129         gboolean handle_sigint;
2130         gboolean keep_delegates;
2131         gboolean reverse_pinvoke_exceptions;
2132         gboolean collect_pagefault_stats;
2133         gboolean break_on_unverified;
2134         gboolean better_cast_details;
2135         gboolean mdb_optimizations;
2136         gboolean no_gdb_backtrace;
2137         gboolean suspend_on_sigsegv;
2138         gboolean suspend_on_exception;
2139         gboolean suspend_on_unhandled;
2140         gboolean dyn_runtime_invoke;
2141         gboolean gdb;
2142         gboolean lldb;
2143         gboolean use_fallback_tls;
2144         /*
2145          * Whenever data such as next sequence points and flags is required.
2146          * Next sequence points and flags are required by the debugger agent.
2147          */
2148         gboolean gen_sdb_seq_points;
2149         gboolean no_seq_points_compact_data;
2150         /*
2151          * Setting single_imm_size should guarantee that each time managed code is compiled
2152          * the same instructions and registers are used, regardless of the size of used values.
2153          */
2154         gboolean single_imm_size;
2155         gboolean explicit_null_checks;
2156         /*
2157          * Fill stack frames with 0x2a in method prologs. This helps with the
2158          * debugging of the stack marking code in the GC.
2159          */
2160         gboolean init_stacks;
2161
2162         /*
2163          * Whenever to implement single stepping and breakpoints without signals in the
2164          * soft debugger. This is useful on platforms without signals, like the ps3, or during
2165          * runtime debugging, since it avoids SIGSEGVs when a single step location or breakpoint
2166          * is hit.
2167          */
2168         gboolean soft_breakpoints;
2169         /*
2170          * Whenever to break in the debugger using G_BREAKPOINT on unhandled exceptions.
2171          */
2172         gboolean break_on_exc;
2173         /*
2174          * Load AOT JIT info eagerly.
2175          */
2176         gboolean load_aot_jit_info_eagerly;
2177         /*
2178          * Check for pinvoke calling convention mismatches.
2179          */
2180         gboolean check_pinvoke_callconv;
2181         /*
2182          * Translate Debugger.Break () into a native breakpoint signal
2183          */
2184         gboolean native_debugger_break;
2185         /*
2186          * Disabling the frame pointer emit optimization can allow debuggers to more easily
2187          * identify the stack on some platforms
2188          */
2189         gboolean disable_omit_fp;
2190 } MonoDebugOptions;
2191
2192 enum {
2193         BRANCH_NOT_TAKEN,
2194         BRANCH_TAKEN,
2195         BRANCH_UNDEF
2196 };
2197
2198 typedef enum {
2199         CMP_EQ,
2200         CMP_NE,
2201         CMP_LE,
2202         CMP_GE,
2203         CMP_LT,
2204         CMP_GT,
2205         CMP_LE_UN,
2206         CMP_GE_UN,
2207         CMP_LT_UN,
2208         CMP_GT_UN
2209 } CompRelation;
2210
2211 typedef enum {
2212         CMP_TYPE_L,
2213         CMP_TYPE_I,
2214         CMP_TYPE_F
2215 } CompType;
2216
2217 /* Implicit exceptions */
2218 enum {
2219         MONO_EXC_INDEX_OUT_OF_RANGE,
2220         MONO_EXC_OVERFLOW,
2221         MONO_EXC_ARITHMETIC,
2222         MONO_EXC_DIVIDE_BY_ZERO,
2223         MONO_EXC_INVALID_CAST,
2224         MONO_EXC_NULL_REF,
2225         MONO_EXC_ARRAY_TYPE_MISMATCH,
2226         MONO_EXC_ARGUMENT,
2227         MONO_EXC_INTRINS_NUM
2228 };
2229
2230 enum {
2231         MINI_TOKEN_SOURCE_CLASS,
2232         MINI_TOKEN_SOURCE_METHOD,
2233         MINI_TOKEN_SOURCE_FIELD
2234 };
2235
2236  /*
2237   * Information about a trampoline function.
2238   */
2239  typedef struct
2240  {
2241         /*
2242          * The native code of the trampoline. Not owned by this structure.
2243          */
2244         guint8 *code;
2245         guint32 code_size;
2246         /*
2247          * The name of the trampoline which can be used in AOT/xdebug. Owned by this
2248          * structure.
2249          */
2250         char *name;
2251         /*
2252          * Patches required by the trampoline when aot-ing. Owned by this structure.
2253          */
2254         MonoJumpInfo *ji;
2255         /*
2256          * Unwind information. Owned by this structure.
2257          */
2258         GSList *unwind_ops;
2259
2260          /*
2261           * Encoded unwind info loaded from AOT images
2262           */
2263          guint8 *uw_info;
2264          guint32 uw_info_len;
2265 } MonoTrampInfo;
2266
2267 typedef void (*MonoInstFunc) (MonoInst *tree, gpointer data);
2268
2269 enum {
2270         FILTER_IL_SEQ_POINT = 1 << 0,
2271         FILTER_NOP          = 1 << 1,
2272 };
2273
2274 static inline gboolean
2275 mono_inst_filter (MonoInst *ins, int filter)
2276 {
2277         if (!ins || !filter)
2278                 return FALSE;
2279
2280         if ((filter & FILTER_IL_SEQ_POINT) && ins->opcode == OP_IL_SEQ_POINT)
2281                 return TRUE;
2282
2283         if ((filter & FILTER_NOP) && ins->opcode == OP_NOP)
2284                 return TRUE;
2285
2286         return FALSE;
2287 }
2288
2289 static inline MonoInst*
2290 mono_inst_next (MonoInst *ins, int filter)
2291 {
2292         do {
2293                 ins = ins->next;
2294         } while (mono_inst_filter (ins, filter));
2295
2296         return ins;
2297 }
2298
2299 static inline MonoInst*
2300 mono_inst_prev (MonoInst *ins, int filter)
2301 {
2302         do {
2303                 ins = ins->prev;
2304         } while (mono_inst_filter (ins, filter));
2305
2306         return ins;
2307 }
2308
2309 static inline MonoInst*
2310 mono_bb_first_inst (MonoBasicBlock *bb, int filter)
2311 {
2312         MonoInst *ins = bb->code;
2313         if (mono_inst_filter (ins, filter))
2314                 ins = mono_inst_next (ins, filter);
2315
2316         return ins;
2317 }
2318
2319 static inline MonoInst*
2320 mono_bb_last_inst (MonoBasicBlock *bb, int filter)
2321 {
2322         MonoInst *ins = bb->last_ins;
2323         if (mono_inst_filter (ins, filter))
2324                 ins = mono_inst_prev (ins, filter);
2325
2326         return ins;
2327 }
2328
2329 /* main function */
2330 MONO_API int         mono_main                      (int argc, char* argv[]);
2331 MONO_API void        mono_set_defaults              (int verbose_level, guint32 opts);
2332 MONO_API void        mono_parse_env_options         (int *ref_argc, char **ref_argv []);
2333 MONO_API char       *mono_parse_options_from        (const char *options, int *ref_argc, char **ref_argv []);
2334
2335 MonoDomain* mini_init                      (const char *filename, const char *runtime_version);
2336 void        mini_cleanup                   (MonoDomain *domain);
2337 MONO_API MonoDebugOptions *mini_get_debug_options   (void);
2338 MONO_API gboolean    mini_parse_debug_option (const char *option);
2339 void        mini_profiler_enable_with_options (const char *profile_options);
2340
2341 /* graph dumping */
2342 void mono_cfg_dump_create_context (MonoCompile *cfg);
2343 void mono_cfg_dump_begin_group (MonoCompile *cfg);
2344 void mono_cfg_dump_close_group (MonoCompile *cfg);
2345 void mono_cfg_dump_ir (MonoCompile *cfg, const char *phase_name);
2346
2347 /* helper methods */
2348 void      mini_jit_init                    (void);
2349 void      mini_jit_cleanup                 (void);
2350 void      mono_disable_optimizations       (guint32 opts);
2351 void      mono_set_optimizations           (guint32 opts);
2352 void      mono_set_bisect_methods          (guint32 opt, const char *method_list_filename);
2353 guint32   mono_get_optimizations_for_method (MonoMethod *method, guint32 default_opt);
2354 char*     mono_opt_descr                   (guint32 flags);
2355 void      mono_set_verbose_level           (guint32 level);
2356 MonoJumpInfoToken* mono_jump_info_token_new (MonoMemPool *mp, MonoImage *image, guint32 token);
2357 MonoJumpInfoToken* mono_jump_info_token_new2 (MonoMemPool *mp, MonoImage *image, guint32 token, MonoGenericContext *context);
2358 MonoInst* mono_find_spvar_for_region        (MonoCompile *cfg, int region);
2359 MonoInst* mono_find_exvar_for_offset        (MonoCompile *cfg, int offset);
2360 int       mono_get_block_region_notry       (MonoCompile *cfg, int region) MONO_LLVM_INTERNAL;
2361
2362 void      mono_precompile_assemblies        (void);
2363 MONO_API int       mono_parse_default_optimizations  (const char* p);
2364 void      mono_bblock_add_inst              (MonoBasicBlock *bb, MonoInst *inst) MONO_LLVM_INTERNAL;
2365 void      mono_bblock_insert_after_ins      (MonoBasicBlock *bb, MonoInst *ins, MonoInst *ins_to_insert);
2366 void      mono_bblock_insert_before_ins     (MonoBasicBlock *bb, MonoInst *ins, MonoInst *ins_to_insert);
2367 void      mono_verify_bblock                (MonoBasicBlock *bb);
2368 void      mono_verify_cfg                   (MonoCompile *cfg);
2369 void      mono_constant_fold                (MonoCompile *cfg);
2370 MonoInst* mono_constant_fold_ins            (MonoCompile *cfg, MonoInst *ins, MonoInst *arg1, MonoInst *arg2, gboolean overwrite);
2371 int       mono_eval_cond_branch             (MonoInst *branch);
2372 int       mono_is_power_of_two              (guint32 val) MONO_LLVM_INTERNAL;
2373 void      mono_cprop_local                  (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst **acp, int acp_size);
2374 MonoInst* mono_compile_create_var           (MonoCompile *cfg, MonoType *type, int opcode);
2375 MonoInst* mono_compile_create_var_for_vreg  (MonoCompile *cfg, MonoType *type, int opcode, int vreg);
2376 void      mono_compile_make_var_load        (MonoCompile *cfg, MonoInst *dest, gssize var_index);
2377 MonoInst* mini_get_int_to_float_spill_area  (MonoCompile *cfg);
2378 MonoType* mono_type_from_stack_type         (MonoInst *ins);
2379 guint32   mono_alloc_ireg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2380 guint32   mono_alloc_lreg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2381 guint32   mono_alloc_freg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2382 guint32   mono_alloc_preg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2383 guint32   mono_alloc_dreg                   (MonoCompile *cfg, MonoStackType stack_type);
2384 guint32   mono_alloc_ireg_ref               (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2385 guint32   mono_alloc_ireg_mp                (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2386 guint32   mono_alloc_ireg_copy              (MonoCompile *cfg, guint32 vreg) MONO_LLVM_INTERNAL;
2387 void      mono_mark_vreg_as_ref             (MonoCompile *cfg, int vreg);
2388 void      mono_mark_vreg_as_mp              (MonoCompile *cfg, int vreg);
2389
2390 void      mono_link_bblock                  (MonoCompile *cfg, MonoBasicBlock *from, MonoBasicBlock* to);
2391 void      mono_unlink_bblock                (MonoCompile *cfg, MonoBasicBlock *from, MonoBasicBlock* to);
2392 gboolean  mono_bblocks_linked               (MonoBasicBlock *bb1, MonoBasicBlock *bb2);
2393 void      mono_remove_bblock                (MonoCompile *cfg, MonoBasicBlock *bb);
2394 void      mono_nullify_basic_block          (MonoBasicBlock *bb);
2395 void      mono_merge_basic_blocks           (MonoCompile *cfg, MonoBasicBlock *bb, MonoBasicBlock *bbn);
2396 void      mono_optimize_branches            (MonoCompile *cfg);
2397
2398 void      mono_blockset_print               (MonoCompile *cfg, MonoBitSet *set, const char *name, guint idom);
2399 const char*mono_ji_type_to_string           (MonoJumpInfoType type) MONO_LLVM_INTERNAL;
2400 void      mono_print_ji                     (const MonoJumpInfo *ji);
2401 void      mono_print_ins_index              (int i, MonoInst *ins);
2402 GString  *mono_print_ins_index_strbuf       (int i, MonoInst *ins);
2403 void      mono_print_ins                    (MonoInst *ins);
2404 void      mono_print_bb                     (MonoBasicBlock *bb, const char *msg);
2405 void      mono_print_code                   (MonoCompile *cfg, const char *msg);
2406 MONO_API void      mono_print_method_from_ip         (void *ip);
2407 MONO_API char     *mono_pmip                         (void *ip);
2408 gboolean  mono_debug_count                  (void);
2409 MONO_API const char* mono_inst_name                  (int op);
2410 int       mono_op_to_op_imm                 (int opcode);
2411 int       mono_op_imm_to_op                 (int opcode);
2412 int       mono_load_membase_to_load_mem     (int opcode);
2413 guint     mono_type_to_load_membase         (MonoCompile *cfg, MonoType *type);
2414 guint     mono_type_to_store_membase        (MonoCompile *cfg, MonoType *type);
2415 guint     mini_type_to_stind                (MonoCompile* cfg, MonoType *type);
2416 MonoJitInfo* mini_lookup_method             (MonoDomain *domain, MonoMethod *method, MonoMethod *shared);
2417 guint32   mono_reverse_branch_op            (guint32 opcode);
2418 void      mono_disassemble_code             (MonoCompile *cfg, guint8 *code, int size, char *id);
2419 void      mono_add_patch_info               (MonoCompile *cfg, int ip, MonoJumpInfoType type, gconstpointer target) MONO_LLVM_INTERNAL;
2420 void      mono_add_patch_info_rel           (MonoCompile *cfg, int ip, MonoJumpInfoType type, gconstpointer target, int relocation) MONO_LLVM_INTERNAL;
2421 void      mono_remove_patch_info            (MonoCompile *cfg, int ip);
2422 MonoJumpInfo* mono_patch_info_dup_mp        (MonoMemPool *mp, MonoJumpInfo *patch_info);
2423 guint     mono_patch_info_hash (gconstpointer data);
2424 gint      mono_patch_info_equal (gconstpointer ka, gconstpointer kb);
2425 MonoJumpInfo *mono_patch_info_list_prepend  (MonoJumpInfo *list, int ip, MonoJumpInfoType type, gconstpointer target);
2426 gpointer  mono_resolve_patch_target         (MonoMethod *method, MonoDomain *domain, guint8 *code, MonoJumpInfo *patch_info, gboolean run_cctors, MonoError *error) MONO_LLVM_INTERNAL;
2427 gpointer  mono_jit_find_compiled_method_with_jit_info (MonoDomain *domain, MonoMethod *method, MonoJitInfo **ji);
2428 gpointer  mono_jit_find_compiled_method     (MonoDomain *domain, MonoMethod *method);
2429 gpointer  mono_jit_compile_method           (MonoMethod *method, MonoError *error);
2430 gpointer  mono_jit_compile_method_inner     (MonoMethod *method, MonoDomain *target_domain, int opt, MonoError *error);
2431 MonoLMF * mono_get_lmf                      (void);
2432 MonoLMF** mono_get_lmf_addr                 (void);
2433 void      mono_set_lmf                      (MonoLMF *lmf);
2434 MonoJitTlsData* mono_get_jit_tls            (void);
2435 MONO_API MonoDomain* mono_jit_thread_attach (MonoDomain *domain);
2436 MONO_API void      mono_jit_set_domain      (MonoDomain *domain);
2437 MonoInst* mono_create_tls_get               (MonoCompile *cfg, MonoTlsKey key);
2438 GList    *mono_varlist_insert_sorted        (MonoCompile *cfg, GList *list, MonoMethodVar *mv, int sort_type);
2439 GList    *mono_varlist_sort                 (MonoCompile *cfg, GList *list, int sort_type);
2440 void      mono_analyze_liveness             (MonoCompile *cfg);
2441 void      mono_analyze_liveness_gc          (MonoCompile *cfg);
2442 void      mono_linear_scan                  (MonoCompile *cfg, GList *vars, GList *regs, regmask_t *used_mask);
2443 void      mono_global_regalloc              (MonoCompile *cfg);
2444 void      mono_create_jump_table            (MonoCompile *cfg, MonoInst *label, MonoBasicBlock **bbs, int num_blocks);
2445 MonoCompile *mini_method_compile            (MonoMethod *method, guint32 opts, MonoDomain *domain, JitFlags flags, int parts, int aot_method_index);
2446 void      mono_destroy_compile              (MonoCompile *cfg);
2447 void      mono_empty_compile              (MonoCompile *cfg);
2448 MonoJitICallInfo *mono_find_jit_opcode_emulation (int opcode);
2449 void      mono_print_ins_index (int i, MonoInst *ins);
2450 void      mono_print_ins (MonoInst *ins);
2451 gboolean  mini_assembly_can_skip_verification (MonoDomain *domain, MonoMethod *method);
2452 gboolean mono_compile_is_broken (MonoCompile *cfg, MonoMethod *method, gboolean fail_compile);
2453 MonoInst *mono_get_got_var (MonoCompile *cfg);
2454 void      mono_add_seq_point (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins, int native_offset);
2455 void      mono_add_var_location (MonoCompile *cfg, MonoInst *var, gboolean is_reg, int reg, int offset, int from, int to);
2456 MonoInst* mono_emit_jit_icall (MonoCompile *cfg, gconstpointer func, MonoInst **args);
2457 MonoInst* mono_emit_jit_icall_by_info (MonoCompile *cfg, int il_offset, MonoJitICallInfo *info, MonoInst **args);
2458 MonoInst* mono_emit_method_call (MonoCompile *cfg, MonoMethod *method, MonoInst **args, MonoInst *this_ins);
2459 void      mono_create_helper_signatures (void);
2460
2461 gboolean  mini_class_is_system_array (MonoClass *klass);
2462 MonoMethodSignature *mono_get_element_address_signature (int arity);
2463 MonoJitICallInfo    *mono_get_element_address_icall (int rank);
2464 MonoJitICallInfo    *mono_get_array_new_va_icall (int rank);
2465
2466 void      mono_linterval_add_range          (MonoCompile *cfg, MonoLiveInterval *interval, int from, int to);
2467 void      mono_linterval_print              (MonoLiveInterval *interval);
2468 void      mono_linterval_print_nl (MonoLiveInterval *interval);
2469 gboolean  mono_linterval_covers             (MonoLiveInterval *interval, int pos);
2470 gint32    mono_linterval_get_intersect_pos  (MonoLiveInterval *i1, MonoLiveInterval *i2);
2471 void      mono_linterval_split              (MonoCompile *cfg, MonoLiveInterval *interval, MonoLiveInterval **i1, MonoLiveInterval **i2, int pos);
2472 void      mono_liveness_handle_exception_clauses (MonoCompile *cfg);
2473
2474 /* Native Client functions */
2475 gpointer mono_realloc_native_code(MonoCompile *cfg);
2476
2477 #if defined(__native_client__) || defined(__native_client_codegen__)
2478 extern volatile int __nacl_thread_suspension_needed;
2479 void __nacl_suspend_thread_if_needed(void);
2480 void mono_nacl_gc(void);
2481 #endif
2482
2483 extern MonoDebugOptions debug_options;
2484
2485 static inline MonoMethod*
2486 jinfo_get_method (MonoJitInfo *ji)
2487 {
2488         return mono_jit_info_get_method (ji);
2489 }
2490
2491 /* AOT */
2492 void      mono_aot_init                     (void);
2493 void      mono_aot_cleanup                  (void);
2494 gpointer  mono_aot_get_method_checked       (MonoDomain *domain,
2495                                                                                          MonoMethod *method, MonoError *error);
2496 gpointer  mono_aot_get_method_from_token    (MonoDomain *domain, MonoImage *image, guint32 token, MonoError *error);
2497 gboolean  mono_aot_is_got_entry             (guint8 *code, guint8 *addr);
2498 guint8*   mono_aot_get_plt_entry            (guint8 *code);
2499 guint32   mono_aot_get_plt_info_offset      (mgreg_t *regs, guint8 *code);
2500 gboolean  mono_aot_get_cached_class_info    (MonoClass *klass, MonoCachedClassInfo *res);
2501 gboolean  mono_aot_get_class_from_name      (MonoImage *image, const char *name_space, const char *name, MonoClass **klass);
2502 MonoJitInfo* mono_aot_find_jit_info         (MonoDomain *domain, MonoImage *image, gpointer addr);
2503 gpointer mono_aot_plt_resolve               (gpointer aot_module, guint32 plt_info_offset, guint8 *code, MonoError *error);
2504 void     mono_aot_patch_plt_entry           (guint8 *code, guint8 *plt_entry, gpointer *got, mgreg_t *regs, guint8 *addr);
2505 gpointer mono_aot_get_method_from_vt_slot   (MonoDomain *domain, MonoVTable *vtable, int slot, MonoError *error);
2506 gpointer mono_aot_create_specific_trampoline   (MonoImage *image, gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2507 gpointer mono_aot_get_trampoline            (const char *name);
2508 gpointer mono_aot_get_trampoline_full       (const char *name, MonoTrampInfo **out_tinfo);
2509 gpointer mono_aot_get_unbox_trampoline      (MonoMethod *method);
2510 gpointer mono_aot_get_lazy_fetch_trampoline (guint32 slot);
2511 gpointer mono_aot_get_static_rgctx_trampoline (gpointer ctx, gpointer addr);
2512 gpointer mono_aot_get_imt_trampoline        (MonoVTable *vtable, MonoDomain *domain, MonoIMTCheckItem **imt_entries, int count, gpointer fail_tramp);
2513 gpointer mono_aot_get_gsharedvt_arg_trampoline(gpointer arg, gpointer addr);
2514 guint8*  mono_aot_get_unwind_info           (MonoJitInfo *ji, guint32 *unwind_info_len);
2515 guint32  mono_aot_method_hash               (MonoMethod *method);
2516 MonoMethod* mono_aot_get_array_helper_from_wrapper (MonoMethod *method);
2517 void     mono_aot_set_make_unreadable       (gboolean unreadable);
2518 gboolean mono_aot_is_pagefault              (void *ptr);
2519 void     mono_aot_handle_pagefault          (void *ptr);
2520 void     mono_aot_register_jit_icall        (const char *name, gpointer addr);
2521 guint32  mono_aot_find_method_index         (MonoMethod *method);
2522 void     mono_aot_init_llvm_method          (gpointer aot_module, guint32 method_index);
2523 void     mono_aot_init_gshared_method_this  (gpointer aot_module, guint32 method_index, MonoObject *this_ins);
2524 void     mono_aot_init_gshared_method_mrgctx  (gpointer aot_module, guint32 method_index, MonoMethodRuntimeGenericContext *rgctx);
2525 void     mono_aot_init_gshared_method_vtable  (gpointer aot_module, guint32 method_index, MonoVTable *vtable);
2526
2527 /* This is an exported function */
2528 MONO_API void     mono_aot_register_module           (gpointer *aot_info);
2529
2530 /* These are used to load the AOT data for aot images compiled with MONO_AOT_FILE_FLAG_SEPARATE_DATA */
2531 /*
2532  * Return the AOT data for ASSEMBLY. SIZE is the size of the data. OUT_HANDLE should be set to a handle which is later
2533  * passed to the free function.
2534  */
2535 typedef unsigned char* (*MonoLoadAotDataFunc)          (MonoAssembly *assembly, int size, gpointer user_data, void **out_handle);
2536 /* Not yet used */
2537 typedef void  (*MonoFreeAotDataFunc)          (MonoAssembly *assembly, int size, gpointer user_data, void *handle);
2538 MONO_API void mono_install_load_aot_data_hook (MonoLoadAotDataFunc load_func, MonoFreeAotDataFunc free_func, gpointer user_data);
2539
2540 void     mono_xdebug_init                   (const char *xdebug_opts);
2541 void     mono_save_xdebug_info              (MonoCompile *cfg);
2542 void     mono_save_trampoline_xdebug_info   (MonoTrampInfo *info);
2543 /* This is an exported function */
2544 void     mono_xdebug_flush                  (void);
2545
2546 gboolean  mono_method_blittable             (MonoMethod *method);
2547 gboolean  mono_method_same_domain           (MonoJitInfo *caller, MonoJitInfo *callee);
2548
2549 void      mono_register_opcode_emulation    (int opcode, const char* name, const char *sigstr, gpointer func, gboolean no_throw);
2550 void      mono_draw_graph                   (MonoCompile *cfg, MonoGraphOptions draw_options);
2551 void      mono_add_ins_to_end               (MonoBasicBlock *bb, MonoInst *inst);
2552 gpointer  mono_create_ftnptr                (MonoDomain *domain, gpointer addr);
2553
2554 MONO_API void      mono_replace_ins                  (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins, MonoInst **prev, MonoBasicBlock *first_bb, MonoBasicBlock *last_bb);
2555
2556 int               mono_find_method_opcode      (MonoMethod *method);
2557 MonoJitICallInfo *mono_register_jit_icall      (gconstpointer func, const char *name, MonoMethodSignature *sig, gboolean is_save);
2558 gconstpointer     mono_icall_get_wrapper       (MonoJitICallInfo* callinfo) MONO_LLVM_INTERNAL;
2559 gconstpointer     mono_icall_get_wrapper_full  (MonoJitICallInfo* callinfo, gboolean do_compile);
2560 void              mini_register_opcode_emulation (int opcode, const char *name, const char *sigstr, gpointer func, const char *symbol, gboolean no_throw);
2561
2562 void              mono_trampolines_init (void);
2563 void              mono_trampolines_cleanup (void);
2564 guint8 *          mono_get_trampoline_code (MonoTrampolineType tramp_type);
2565 gpointer          mono_create_specific_trampoline (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2566 gpointer          mono_create_jump_trampoline (MonoDomain *domain,
2567                                                                                            MonoMethod *method,
2568                                                                                            gboolean add_sync_wrapper,
2569                                                                                            MonoError *error);
2570 gpointer          mono_create_class_init_trampoline (MonoVTable *vtable);
2571 gpointer          mono_create_jit_trampoline (MonoDomain *domain, MonoMethod *method, MonoError *error) MONO_LLVM_INTERNAL;
2572 gpointer          mono_create_jit_trampoline_from_token (MonoImage *image, guint32 token);
2573 gpointer          mono_create_delegate_trampoline (MonoDomain *domain, MonoClass *klass);
2574 MonoDelegateTrampInfo* mono_create_delegate_trampoline_info (MonoDomain *domain, MonoClass *klass, MonoMethod *method);
2575 gpointer          mono_create_delegate_virtual_trampoline (MonoDomain *domain, MonoClass *klass, MonoMethod *method);
2576 gpointer          mono_create_rgctx_lazy_fetch_trampoline (guint32 offset);
2577 gpointer          mono_create_monitor_enter_trampoline (void);
2578 gpointer          mono_create_monitor_enter_v4_trampoline (void);
2579 gpointer          mono_create_monitor_exit_trampoline (void);
2580 gpointer          mono_create_static_rgctx_trampoline (MonoMethod *m, gpointer addr);
2581 MonoVTable*       mono_find_class_init_trampoline_by_addr (gconstpointer addr);
2582 guint32           mono_find_rgctx_lazy_fetch_trampoline_by_addr (gconstpointer addr);
2583 gpointer          mono_magic_trampoline (mgreg_t *regs, guint8 *code, gpointer arg, guint8* tramp);
2584 #ifndef DISABLE_REMOTING
2585 gpointer          mono_generic_virtual_remoting_trampoline (mgreg_t *regs, guint8 *code, MonoMethod *m, guint8 *tramp);
2586 #endif
2587 gpointer          mono_delegate_trampoline (mgreg_t *regs, guint8 *code, gpointer *tramp_data, guint8* tramp);
2588 gpointer          mono_aot_trampoline (mgreg_t *regs, guint8 *code, guint8 *token_info,
2589                                                                            guint8* tramp);
2590 gpointer          mono_aot_plt_trampoline (mgreg_t *regs, guint8 *code, guint8 *token_info,
2591                                                                                    guint8* tramp);
2592 void              mono_class_init_trampoline (mgreg_t *regs, guint8 *code, MonoVTable *vtable, guint8 *tramp);
2593 void              mono_generic_class_init_trampoline (mgreg_t *regs, guint8 *code, MonoVTable *vtable, guint8 *tramp);
2594 void              mono_monitor_enter_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2595 void              mono_monitor_enter_v4_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2596 void              mono_monitor_exit_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2597 gconstpointer     mono_get_trampoline_func (MonoTrampolineType tramp_type);
2598 gpointer          mini_get_vtable_trampoline (MonoVTable *vt, int slot_index);
2599 const char*       mono_get_generic_trampoline_simple_name (MonoTrampolineType tramp_type);
2600 char*             mono_get_generic_trampoline_name (MonoTrampolineType tramp_type);
2601 char*             mono_get_rgctx_fetch_trampoline_name (int slot);
2602 gpointer          mini_get_nullified_class_init_trampoline (void);
2603 gpointer          mini_get_single_step_trampoline (void);
2604 gpointer          mini_get_breakpoint_trampoline (void);
2605 gpointer          mini_add_method_trampoline (MonoMethod *m, gpointer compiled_method, gboolean add_static_rgctx_tramp, gboolean add_unbox_tramp);
2606 gpointer          mini_add_method_wrappers_llvmonly (MonoMethod *m, gpointer compiled_method, gboolean caller_gsharedvt, gboolean add_unbox_tramp, gpointer *out_arg);
2607 gboolean          mini_jit_info_is_gsharedvt (MonoJitInfo *ji);
2608 gpointer*         mini_resolve_imt_method (MonoVTable *vt, gpointer *vtable_slot, MonoMethod *imt_method, MonoMethod **impl_method, gpointer *out_aot_addr,
2609                                            gboolean *out_need_rgctx_tramp, MonoMethod **variant_iface,
2610                                            MonoError *error);
2611 MonoFtnDesc      *mini_create_llvmonly_ftndesc (MonoDomain *domain, gpointer addr, gpointer arg);
2612
2613 gboolean          mono_running_on_valgrind (void);
2614 void*             mono_global_codeman_reserve (int size);
2615 void              mono_global_codeman_foreach (MonoCodeManagerFunc func, void *user_data);
2616 const char       *mono_regname_full (int reg, int bank);
2617 gint32*           mono_allocate_stack_slots (MonoCompile *cfg, gboolean backward, guint32 *stack_size, guint32 *stack_align);
2618 void              mono_local_regalloc (MonoCompile *cfg, MonoBasicBlock *bb);
2619 MonoInst         *mono_branch_optimize_exception_target (MonoCompile *cfg, MonoBasicBlock *bb, const char * exname);
2620 void              mono_remove_critical_edges (MonoCompile *cfg);
2621 gboolean          mono_is_regsize_var (MonoType *t);
2622 void              mini_emit_memcpy (MonoCompile *cfg, int destreg, int doffset, int srcreg, int soffset, int size, int align);
2623 void              mini_emit_stobj (MonoCompile *cfg, MonoInst *dest, MonoInst *src, MonoClass *klass, gboolean native);
2624 void              mini_emit_initobj (MonoCompile *cfg, MonoInst *dest, const guchar *ip, MonoClass *klass);
2625 MonoInst*         mini_emit_ldelema_1_ins (MonoCompile *cfg, MonoClass *klass, MonoInst *arr, MonoInst *index, gboolean bcheck);
2626 CompRelation      mono_opcode_to_cond (int opcode) MONO_LLVM_INTERNAL;
2627 CompType          mono_opcode_to_type (int opcode, int cmp_opcode);
2628 CompRelation      mono_negate_cond (CompRelation cond);
2629 int               mono_op_imm_to_op (int opcode);
2630 void              mono_decompose_op_imm (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins);
2631 void              mono_peephole_ins (MonoBasicBlock *bb, MonoInst *ins);
2632 MonoUnwindOp     *mono_create_unwind_op (int when,
2633                                                                                  int tag, int reg,
2634                                                                                  int val);
2635 void              mono_emit_unwind_op (MonoCompile *cfg, int when,
2636                                                                            int tag, int reg,
2637                                                                            int val);
2638 MonoTrampInfo*    mono_tramp_info_create (const char *name, guint8 *code, guint32 code_size, MonoJumpInfo *ji, GSList *unwind_ops);
2639 void              mono_tramp_info_free (MonoTrampInfo *info);
2640 void              mono_tramp_info_register (MonoTrampInfo *info, MonoDomain *domain);
2641 int               mini_exception_id_by_name (const char *name);
2642 gboolean          mini_type_is_hfa (MonoType *t, int *out_nfields, int *out_esize) MONO_LLVM_INTERNAL;
2643
2644 int               mono_method_to_ir (MonoCompile *cfg, MonoMethod *method, MonoBasicBlock *start_bblock, MonoBasicBlock *end_bblock,
2645                                                                          MonoInst *return_var, MonoInst **inline_args,
2646                                                                          guint inline_offset, gboolean is_virtual_call);
2647
2648 //the following methods could just be renamed/moved from method-to-ir.c
2649 int               mini_inline_method (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **sp, guchar *ip,
2650                                                                           guint real_offset, gboolean inline_always);
2651
2652 MonoInst*         mini_emit_get_rgctx_klass (MonoCompile *cfg, int context_used, MonoClass *klass, MonoRgctxInfoType rgctx_type);
2653 MonoInst*         mini_emit_runtime_constant (MonoCompile *cfg, MonoJumpInfoType patch_type, gpointer data);
2654 void              mini_save_cast_details (MonoCompile *cfg, MonoClass *klass, int obj_reg, gboolean null_check);
2655 void              mini_reset_cast_details (MonoCompile *cfg);
2656 void              mini_emit_class_check (MonoCompile *cfg, int klass_reg, MonoClass *klass);
2657
2658 gboolean          mini_class_has_reference_variant_generic_argument (MonoCompile *cfg, MonoClass *klass, int context_used);
2659
2660
2661 MonoInst         *mono_decompose_opcode (MonoCompile *cfg, MonoInst *ins);
2662 void              mono_decompose_long_opts (MonoCompile *cfg);
2663 void              mono_decompose_vtype_opts (MonoCompile *cfg);
2664 void              mono_decompose_array_access_opts (MonoCompile *cfg);
2665 void              mono_decompose_soft_float (MonoCompile *cfg);
2666 void              mono_local_emulate_ops (MonoCompile *cfg);
2667 void              mono_handle_global_vregs (MonoCompile *cfg);
2668 void              mono_spill_global_vars (MonoCompile *cfg, gboolean *need_local_opts);
2669 void              mono_allocate_gsharedvt_vars (MonoCompile *cfg);
2670 void              mono_if_conversion (MonoCompile *cfg);
2671
2672
2673
2674 /* Delegates */
2675 gpointer          mini_get_delegate_arg (MonoMethod *method, gpointer method_ptr);
2676 void              mini_init_delegate (MonoDelegate *del);
2677 char*             mono_get_delegate_virtual_invoke_impl_name (gboolean load_imt_reg, int offset);
2678 gpointer          mono_get_delegate_virtual_invoke_impl  (MonoMethodSignature *sig, MonoMethod *method);
2679
2680 /* methods that must be provided by the arch-specific port */
2681 void      mono_arch_init                        (void);
2682 void      mono_arch_finish_init                 (void);
2683 void      mono_arch_cleanup                     (void);
2684 void      mono_arch_cpu_init                    (void);
2685 guint32   mono_arch_cpu_optimizations           (guint32 *exclude_mask);
2686 void      mono_arch_instrument_mem_needs        (MonoMethod *method, int *stack, int *code);
2687 void     *mono_arch_instrument_prolog           (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments);
2688 void     *mono_arch_instrument_epilog           (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments);
2689 void     *mono_arch_instrument_epilog_full     (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments, gboolean preserve_argument_registers);
2690 void      mono_codegen                          (MonoCompile *cfg);
2691 void      mono_call_inst_add_outarg_reg         (MonoCompile *cfg, MonoCallInst *call, int vreg, int hreg, int bank) MONO_LLVM_INTERNAL;
2692 void      mono_call_inst_add_outarg_vt          (MonoCompile *cfg, MonoCallInst *call, MonoInst *outarg_vt);
2693 const char *mono_arch_regname                   (int reg);
2694 const char *mono_arch_fregname                  (int reg);
2695 void      mono_arch_exceptions_init             (void);
2696 guchar*   mono_arch_create_generic_trampoline   (MonoTrampolineType tramp_type, MonoTrampInfo **info, gboolean aot);
2697 gpointer  mono_arch_create_rgctx_lazy_fetch_trampoline (guint32 slot, MonoTrampInfo **info, gboolean aot);
2698 gpointer  mono_arch_create_general_rgctx_lazy_fetch_trampoline (MonoTrampInfo **info, gboolean aot);
2699 gpointer  mono_arch_get_nullified_class_init_trampoline (MonoTrampInfo **info);
2700 guint8*   mono_arch_create_sdb_trampoline (gboolean single_step, MonoTrampInfo **info, gboolean aot);
2701 gpointer  mono_arch_create_monitor_enter_trampoline (MonoTrampInfo **info, gboolean is_v4, gboolean aot);
2702 gpointer  mono_arch_create_monitor_exit_trampoline (MonoTrampInfo **info, gboolean aot);
2703 guint8   *mono_arch_create_llvm_native_thunk     (MonoDomain *domain, guint8* addr) MONO_LLVM_INTERNAL;
2704 gpointer  mono_arch_get_get_tls_tramp (void);
2705 GList    *mono_arch_get_allocatable_int_vars    (MonoCompile *cfg);
2706 GList    *mono_arch_get_global_int_regs         (MonoCompile *cfg);
2707 GList    *mono_arch_get_global_fp_regs          (MonoCompile *cfg);
2708 GList    *mono_arch_get_iregs_clobbered_by_call (MonoCallInst *call);
2709 GList    *mono_arch_get_fregs_clobbered_by_call (MonoCallInst *call);
2710 guint32   mono_arch_regalloc_cost               (MonoCompile *cfg, MonoMethodVar *vmv);
2711 void      mono_arch_patch_code                  (MonoCompile *cfg, MonoMethod *method, MonoDomain *domain, guint8 *code, MonoJumpInfo *ji, gboolean run_cctors, MonoError *error);
2712 void      mono_arch_patch_code_new              (MonoCompile *cfg, MonoDomain *domain, guint8 *code, MonoJumpInfo *ji, gpointer target);
2713 void      mono_arch_flush_icache                (guint8 *code, gint size);
2714 int       mono_arch_max_epilog_size             (MonoCompile *cfg);
2715 guint8   *mono_arch_emit_prolog                 (MonoCompile *cfg);
2716 void      mono_arch_emit_epilog                 (MonoCompile *cfg);
2717 void      mono_arch_emit_exceptions             (MonoCompile *cfg);
2718 void      mono_arch_lowering_pass               (MonoCompile *cfg, MonoBasicBlock *bb);
2719 void      mono_arch_peephole_pass_1             (MonoCompile *cfg, MonoBasicBlock *bb);
2720 void      mono_arch_peephole_pass_2             (MonoCompile *cfg, MonoBasicBlock *bb);
2721 void      mono_arch_output_basic_block          (MonoCompile *cfg, MonoBasicBlock *bb);
2722 void      mono_arch_free_jit_tls_data           (MonoJitTlsData *tls);
2723 void      mono_arch_fill_argument_info          (MonoCompile *cfg);
2724 void      mono_arch_allocate_vars               (MonoCompile *m);
2725 int       mono_arch_get_argument_info           (MonoMethodSignature *csig, int param_count, MonoJitArgumentInfo *arg_info);
2726 gboolean  mono_arch_print_tree                          (MonoInst *tree, int arity);
2727 void      mono_arch_emit_call                   (MonoCompile *cfg, MonoCallInst *call);
2728 void      mono_arch_emit_outarg_vt              (MonoCompile *cfg, MonoInst *ins, MonoInst *src);
2729 void      mono_arch_emit_setret                 (MonoCompile *cfg, MonoMethod *method, MonoInst *val);
2730 MonoDynCallInfo *mono_arch_dyn_call_prepare     (MonoMethodSignature *sig);
2731 void      mono_arch_dyn_call_free               (MonoDynCallInfo *info);
2732 void      mono_arch_start_dyn_call              (MonoDynCallInfo *info, gpointer **args, guint8 *ret, guint8 *buf, int buf_len);
2733 void      mono_arch_finish_dyn_call             (MonoDynCallInfo *info, guint8 *buf);
2734 MonoInst *mono_arch_emit_inst_for_method        (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
2735 void      mono_arch_decompose_opts              (MonoCompile *cfg, MonoInst *ins);
2736 void      mono_arch_decompose_long_opts         (MonoCompile *cfg, MonoInst *ins);
2737 GSList*   mono_arch_get_delegate_invoke_impls   (void);
2738 LLVMCallInfo* mono_arch_get_llvm_call_info      (MonoCompile *cfg, MonoMethodSignature *sig) MONO_LLVM_INTERNAL;
2739 guint8*   mono_arch_emit_load_got_addr          (guint8 *start, guint8 *code, MonoCompile *cfg, MonoJumpInfo **ji);
2740 guint8*   mono_arch_emit_load_aotconst          (guint8 *start, guint8 *code, MonoJumpInfo **ji, MonoJumpInfoType tramp_type, gconstpointer target);
2741 GSList*   mono_arch_get_cie_program             (void);
2742 void      mono_arch_set_target                  (char *mtriple);
2743 gboolean  mono_arch_gsharedvt_sig_supported     (MonoMethodSignature *sig);
2744 gpointer  mono_arch_get_gsharedvt_trampoline    (MonoTrampInfo **info, gboolean aot);
2745 gpointer  mono_arch_get_gsharedvt_call_info     (gpointer addr, MonoMethodSignature *normal_sig, MonoMethodSignature *gsharedvt_sig, gboolean gsharedvt_in, gint32 vcall_offset, gboolean calli);
2746 gboolean  mono_arch_opcode_needs_emulation      (MonoCompile *cfg, int opcode);
2747 gboolean  mono_arch_tail_call_supported         (MonoCompile *cfg, MonoMethodSignature *caller_sig, MonoMethodSignature *callee_sig);
2748 int       mono_arch_translate_tls_offset        (int offset);
2749 gboolean  mono_arch_opcode_supported            (int opcode);
2750 void     mono_arch_setup_resume_sighandler_ctx  (MonoContext *ctx, gpointer func);
2751 gboolean  mono_arch_have_fast_tls               (void);
2752
2753 #ifdef MONO_ARCH_SOFT_FLOAT_FALLBACK
2754 gboolean  mono_arch_is_soft_float               (void);
2755 #else
2756 static inline MONO_ALWAYS_INLINE gboolean
2757 mono_arch_is_soft_float (void)
2758 {
2759         return FALSE;
2760 }
2761 #endif
2762
2763 /* Soft Debug support */
2764 #ifdef MONO_ARCH_SOFT_DEBUG_SUPPORTED
2765 void      mono_arch_set_breakpoint              (MonoJitInfo *ji, guint8 *ip);
2766 void      mono_arch_clear_breakpoint            (MonoJitInfo *ji, guint8 *ip);
2767 void      mono_arch_start_single_stepping       (void);
2768 void      mono_arch_stop_single_stepping        (void);
2769 gboolean  mono_arch_is_single_step_event        (void *info, void *sigctx);
2770 gboolean  mono_arch_is_breakpoint_event         (void *info, void *sigctx);
2771 void     mono_arch_skip_breakpoint              (MonoContext *ctx, MonoJitInfo *ji);
2772 void     mono_arch_skip_single_step             (MonoContext *ctx);
2773 gpointer mono_arch_get_seq_point_info           (MonoDomain *domain, guint8 *code);
2774 void     mono_arch_init_lmf_ext                 (MonoLMFExt *ext, gpointer prev_lmf);
2775 #endif
2776
2777 gboolean
2778 mono_arch_unwind_frame (MonoDomain *domain, MonoJitTlsData *jit_tls,
2779                                                 MonoJitInfo *ji, MonoContext *ctx,
2780                                                 MonoContext *new_ctx, MonoLMF **lmf,
2781                                                 mgreg_t **save_locations,
2782                                                 StackFrameInfo *frame_info);
2783 gpointer  mono_arch_get_throw_exception_by_name (void);
2784 gpointer mono_arch_get_call_filter              (MonoTrampInfo **info, gboolean aot);
2785 gpointer mono_arch_get_restore_context          (MonoTrampInfo **info, gboolean aot);
2786 gpointer  mono_arch_get_throw_exception         (MonoTrampInfo **info, gboolean aot);
2787 gpointer  mono_arch_get_rethrow_exception       (MonoTrampInfo **info, gboolean aot);
2788 gpointer  mono_arch_get_throw_corlib_exception  (MonoTrampInfo **info, gboolean aot);
2789 gpointer  mono_arch_get_throw_pending_exception (MonoTrampInfo **info, gboolean aot);
2790 gboolean mono_arch_handle_exception             (void *sigctx, gpointer obj);
2791 void     mono_arch_handle_altstack_exception    (void *sigctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo, gpointer fault_addr, gboolean stack_ovf);
2792 gboolean mono_handle_soft_stack_ovf             (MonoJitTlsData *jit_tls, MonoJitInfo *ji, void *ctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo, guint8* fault_addr);
2793 void     mono_handle_hard_stack_ovf             (MonoJitTlsData *jit_tls, MonoJitInfo *ji, void *ctx, guint8* fault_addr);
2794 gpointer mono_arch_ip_from_context              (void *sigctx);
2795 mgreg_t mono_arch_context_get_int_reg               (MonoContext *ctx, int reg);
2796 void     mono_arch_context_set_int_reg              (MonoContext *ctx, int reg, mgreg_t val);
2797 void     mono_arch_flush_register_windows       (void);
2798 gboolean mono_arch_is_inst_imm                  (gint64 imm);
2799 gboolean mono_arch_is_int_overflow              (void *sigctx, void *info);
2800 void     mono_arch_invalidate_method            (MonoJitInfo *ji, void *func, gpointer func_arg);
2801 guint32  mono_arch_get_patch_offset             (guint8 *code);
2802 gpointer*mono_arch_get_delegate_method_ptr_addr (guint8* code, mgreg_t *regs);
2803 void     mono_arch_create_vars                  (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2804 void     mono_arch_save_unwind_info             (MonoCompile *cfg);
2805 void     mono_arch_register_lowlevel_calls      (void);
2806 gpointer mono_arch_get_unbox_trampoline         (MonoMethod *m, gpointer addr);
2807 gpointer mono_arch_get_static_rgctx_trampoline  (MonoMethod *m, MonoMethodRuntimeGenericContext *mrgctx, gpointer addr);
2808 gpointer  mono_arch_get_llvm_imt_trampoline     (MonoDomain *domain, MonoMethod *method, int vt_offset);
2809 gpointer mono_arch_get_gsharedvt_arg_trampoline (MonoDomain *domain, gpointer arg, gpointer addr);
2810 void     mono_arch_patch_callsite               (guint8 *method_start, guint8 *code, guint8 *addr);
2811 void     mono_arch_patch_plt_entry              (guint8 *code, gpointer *got, mgreg_t *regs, guint8 *addr);
2812 void     mono_arch_nullify_class_init_trampoline(guint8 *code, mgreg_t *regs);
2813 int      mono_arch_get_this_arg_reg             (guint8 *code);
2814 gpointer mono_arch_get_this_arg_from_call       (mgreg_t *regs, guint8 *code);
2815 gpointer mono_arch_get_delegate_invoke_impl     (MonoMethodSignature *sig, gboolean has_target);
2816 gpointer mono_arch_get_delegate_virtual_invoke_impl (MonoMethodSignature *sig, MonoMethod *method, int offset, gboolean load_imt_reg);
2817 gpointer mono_arch_create_specific_trampoline   (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2818 MonoMethod* mono_arch_find_imt_method           (mgreg_t *regs, guint8 *code);
2819 MonoVTable* mono_arch_find_static_call_vtable   (mgreg_t *regs, guint8 *code);
2820 gpointer    mono_arch_build_imt_trampoline      (MonoVTable *vtable, MonoDomain *domain, MonoIMTCheckItem **imt_entries, int count, gpointer fail_tramp);
2821 void    mono_arch_notify_pending_exc            (MonoThreadInfo *info);
2822 guint8* mono_arch_get_call_target               (guint8 *code);
2823 guint32 mono_arch_get_plt_info_offset           (guint8 *plt_entry, mgreg_t *regs, guint8 *code);
2824 GSList *mono_arch_get_trampolines               (gboolean aot);
2825 #ifdef ENABLE_INTERPRETER
2826 gpointer mono_arch_get_enter_icall_trampoline (MonoTrampInfo **info);
2827 void mono_interp_init (void);
2828 gpointer interp_create_method_pointer (MonoMethod *method, MonoError *error);
2829 MonoObject* interp_mono_runtime_invoke (MonoMethod *method, void *obj, void **params, MonoObject **exc, MonoError *error);
2830 #endif
2831
2832 /* Handle block guard */
2833 gpointer mono_arch_install_handler_block_guard (MonoJitInfo *ji, MonoJitExceptionInfo *clause, MonoContext *ctx, gpointer new_value);
2834 gpointer mono_arch_create_handler_block_trampoline (MonoTrampInfo **info, gboolean aot);
2835 gpointer mono_create_handler_block_trampoline (void);
2836 gboolean mono_install_handler_block_guard (MonoThreadUnwindState *ctx);
2837
2838 /*New interruption machinery */
2839 void
2840 mono_setup_async_callback (MonoContext *ctx, void (*async_cb)(void *fun), gpointer user_data);
2841
2842 void
2843 mono_arch_setup_async_callback (MonoContext *ctx, void (*async_cb)(void *fun), gpointer user_data);
2844
2845 gboolean
2846 mono_thread_state_init_from_handle (MonoThreadUnwindState *tctx, MonoThreadInfo *info);
2847
2848
2849 /* Exception handling */
2850 typedef gboolean (*MonoJitStackWalk)            (StackFrameInfo *frame, MonoContext *ctx, gpointer data);
2851
2852 void     mono_exceptions_init                   (void);
2853 gboolean mono_handle_exception                  (MonoContext *ctx, MonoObject *obj);
2854 void     mono_handle_native_crash               (const char *signal, void *sigctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo);
2855 MONO_API void     mono_print_thread_dump                 (void *sigctx);
2856 MONO_API void     mono_print_thread_dump_from_ctx        (MonoContext *ctx);
2857 void     mono_walk_stack_with_ctx               (MonoJitStackWalk func, MonoContext *start_ctx, MonoUnwindOptions unwind_options, void *user_data);
2858 void     mono_walk_stack_with_state             (MonoJitStackWalk func, MonoThreadUnwindState *state, MonoUnwindOptions unwind_options, void *user_data);
2859 void     mono_walk_stack                        (MonoJitStackWalk func, MonoUnwindOptions options, void *user_data);
2860 gboolean mono_thread_state_init_from_sigctx     (MonoThreadUnwindState *ctx, void *sigctx);
2861 void     mono_thread_state_init                 (MonoThreadUnwindState *ctx);
2862 gboolean mono_thread_state_init_from_current    (MonoThreadUnwindState *ctx);
2863 gboolean mono_thread_state_init_from_monoctx    (MonoThreadUnwindState *ctx, MonoContext *mctx);
2864
2865 void     mono_setup_altstack                    (MonoJitTlsData *tls);
2866 void     mono_free_altstack                     (MonoJitTlsData *tls);
2867 gpointer mono_altstack_restore_prot             (mgreg_t *regs, guint8 *code, gpointer *tramp_data, guint8* tramp);
2868 MonoJitInfo* mini_jit_info_table_find           (MonoDomain *domain, char *addr, MonoDomain **out_domain);
2869 MonoJitInfo* mini_jit_info_table_find_ext       (MonoDomain *domain, char *addr, gboolean allow_trampolines, MonoDomain **out_domain);
2870 void     mono_resume_unwind                     (MonoContext *ctx) MONO_LLVM_INTERNAL;
2871
2872 MonoJitInfo * mono_find_jit_info                (MonoDomain *domain, MonoJitTlsData *jit_tls, MonoJitInfo *res, MonoJitInfo *prev_ji, MonoContext *ctx, MonoContext *new_ctx, char **trace, MonoLMF **lmf, int *native_offset, gboolean *managed);
2873
2874 typedef gboolean (*MonoExceptionFrameWalk)      (MonoMethod *method, gpointer ip, size_t native_offset, gboolean managed, gpointer user_data);
2875 MONO_API gboolean mono_exception_walk_trace     (MonoException *ex, MonoExceptionFrameWalk func, gpointer user_data);
2876 void mono_restore_context                       (MonoContext *ctx);
2877 guint8* mono_jinfo_get_unwind_info              (MonoJitInfo *ji, guint32 *unwind_info_len);
2878 int  mono_jinfo_get_epilog_size                 (MonoJitInfo *ji);
2879 void     mono_llvm_rethrow_exception            (MonoObject *ex);
2880 void     mono_llvm_throw_exception              (MonoObject *ex);
2881 void     mono_llvm_throw_corlib_exception       (guint32 ex_token_index);
2882 void     mono_llvm_resume_exception             (void);
2883 void     mono_llvm_clear_exception              (void);
2884 MonoObject *mono_llvm_load_exception            (void);
2885 void     mono_llvm_reset_exception              (void);
2886 void     mono_llvm_raise_exception              (MonoException *e);
2887 gint32 mono_llvm_match_exception                (MonoJitInfo *jinfo, guint32 region_start, guint32 region_end, gpointer rgctx, MonoObject *this_obj);
2888
2889 gboolean
2890 mono_find_jit_info_ext (MonoDomain *domain, MonoJitTlsData *jit_tls,
2891                                                 MonoJitInfo *prev_ji, MonoContext *ctx,
2892                                                 MonoContext *new_ctx, char **trace, MonoLMF **lmf,
2893                                                 mgreg_t **save_locations,
2894                                                 StackFrameInfo *frame);
2895
2896 gpointer mono_get_throw_exception               (void);
2897 gpointer mono_get_rethrow_exception             (void);
2898 gpointer mono_get_call_filter                   (void);
2899 gpointer mono_get_restore_context               (void);
2900 gpointer mono_get_throw_exception_by_name       (void);
2901 gpointer mono_get_throw_corlib_exception        (void);
2902 gpointer mono_get_throw_exception_addr          (void);
2903 MonoArray *ves_icall_get_trace                  (MonoException *exc, gint32 skip, MonoBoolean need_file_info);
2904 MonoBoolean ves_icall_get_frame_info            (gint32 skip, MonoBoolean need_file_info,
2905                                                  MonoReflectionMethod **method,
2906                                                  gint32 *iloffset, gint32 *native_offset,
2907                                                  MonoString **file, gint32 *line, gint32 *column);
2908 void mono_set_cast_details                      (MonoClass *from, MonoClass *to);
2909
2910 void mono_decompose_typechecks (MonoCompile *cfg);
2911 /* Dominator/SSA methods */
2912 void        mono_compile_dominator_info         (MonoCompile *cfg, int dom_flags);
2913 void        mono_compute_natural_loops          (MonoCompile *cfg);
2914 MonoBitSet* mono_compile_iterated_dfrontier     (MonoCompile *cfg, MonoBitSet *set);
2915 void        mono_ssa_compute                    (MonoCompile *cfg);
2916 void        mono_ssa_remove                     (MonoCompile *cfg);
2917 void        mono_ssa_remove_gsharedvt           (MonoCompile *cfg);
2918 void        mono_ssa_cprop                      (MonoCompile *cfg);
2919 void        mono_ssa_deadce                     (MonoCompile *cfg);
2920 void        mono_ssa_strength_reduction         (MonoCompile *cfg);
2921 void        mono_free_loop_info                 (MonoCompile *cfg);
2922 void        mono_ssa_loop_invariant_code_motion (MonoCompile *cfg);
2923
2924 void        mono_ssa_compute2                   (MonoCompile *cfg);
2925 void        mono_ssa_remove2                    (MonoCompile *cfg);
2926 void        mono_ssa_cprop2                     (MonoCompile *cfg);
2927 void        mono_ssa_deadce2                    (MonoCompile *cfg);
2928
2929 /* debugging support */
2930 void      mono_debug_init_method                (MonoCompile *cfg, MonoBasicBlock *start_block,
2931                                                  guint32 breakpoint_id);
2932 void      mono_debug_open_method                (MonoCompile *cfg);
2933 void      mono_debug_close_method               (MonoCompile *cfg);
2934 void      mono_debug_free_method                (MonoCompile *cfg);
2935 void      mono_debug_open_block                 (MonoCompile *cfg, MonoBasicBlock *bb, guint32 address);
2936 void      mono_debug_record_line_number         (MonoCompile *cfg, MonoInst *ins, guint32 address);
2937 void      mono_debug_serialize_debug_info       (MonoCompile *cfg, guint8 **out_buf, guint32 *buf_len);
2938 void      mono_debug_add_aot_method             (MonoDomain *domain,
2939                                                  MonoMethod *method, guint8 *code_start,
2940                                                  guint8 *debug_info, guint32 debug_info_len);
2941 MONO_API void      mono_debug_print_vars                 (gpointer ip, gboolean only_arguments);
2942 MONO_API void      mono_debugger_run_finally             (MonoContext *start_ctx);
2943
2944 MONO_API gboolean mono_breakpoint_clean_code (guint8 *method_start, guint8 *code, int offset, guint8 *buf, int size);
2945
2946 /* Tracing */
2947 MonoTraceSpec *mono_trace_parse_options         (const char *options);
2948 void           mono_trace_set_assembly          (MonoAssembly *assembly);
2949 gboolean       mono_trace_eval                  (MonoMethod *method);
2950
2951 extern void
2952 mono_perform_abc_removal (MonoCompile *cfg);
2953 extern void
2954 mono_perform_abc_removal (MonoCompile *cfg);
2955 extern void
2956 mono_perform_ssapre (MonoCompile *cfg);
2957 extern void
2958 mono_local_cprop (MonoCompile *cfg);
2959 extern void
2960 mono_local_cprop (MonoCompile *cfg);
2961 extern void
2962 mono_local_deadce (MonoCompile *cfg);
2963 void
2964 mono_local_alias_analysis (MonoCompile *cfg);
2965
2966 /* Generic sharing */
2967
2968 void
2969 mono_set_generic_sharing_supported (gboolean supported);
2970
2971 void
2972 mono_set_generic_sharing_vt_supported (gboolean supported);
2973
2974 void
2975 mono_set_partial_sharing_supported (gboolean supported);
2976
2977 gboolean
2978 mono_class_generic_sharing_enabled (MonoClass *klass);
2979
2980 gpointer
2981 mono_class_fill_runtime_generic_context (MonoVTable *class_vtable, guint32 slot, MonoError *error);
2982
2983 gpointer
2984 mono_method_fill_runtime_generic_context (MonoMethodRuntimeGenericContext *mrgctx, guint32 slot, MonoError *error);
2985
2986 MonoMethodRuntimeGenericContext*
2987 mono_method_lookup_rgctx (MonoVTable *class_vtable, MonoGenericInst *method_inst);
2988
2989 const char*
2990 mono_rgctx_info_type_to_str (MonoRgctxInfoType type);
2991
2992 MonoJumpInfoType
2993 mini_rgctx_info_type_to_patch_info_type (MonoRgctxInfoType info_type);
2994
2995 gboolean
2996 mono_method_needs_static_rgctx_invoke (MonoMethod *method, gboolean allow_type_vars);
2997
2998 int
2999 mono_class_rgctx_get_array_size (int n, gboolean mrgctx);
3000
3001 guint32
3002 mono_method_lookup_or_register_info (MonoMethod *method, gboolean in_mrgctx, gpointer data,
3003         MonoRgctxInfoType info_type, MonoGenericContext *generic_context);
3004
3005 MonoGenericContext
3006 mono_method_construct_object_context (MonoMethod *method);
3007
3008 MonoMethod*
3009 mono_method_get_declaring_generic_method (MonoMethod *method);
3010
3011 int
3012 mono_generic_context_check_used (MonoGenericContext *context);
3013
3014 int
3015 mono_class_check_context_used (MonoClass *klass);
3016
3017 gboolean
3018 mono_generic_context_is_sharable (MonoGenericContext *context, gboolean allow_type_vars);
3019
3020 gboolean
3021 mono_generic_context_is_sharable_full (MonoGenericContext *context, gboolean allow_type_vars, gboolean allow_partial);
3022
3023 gboolean
3024 mono_method_is_generic_impl (MonoMethod *method);
3025
3026 gboolean
3027 mono_method_is_generic_sharable (MonoMethod *method, gboolean allow_type_vars);
3028
3029 gboolean
3030 mono_method_is_generic_sharable_full (MonoMethod *method, gboolean allow_type_vars, gboolean allow_partial, gboolean allow_gsharedvt);
3031
3032 gboolean
3033 mini_class_is_generic_sharable (MonoClass *klass);
3034
3035
3036 gboolean
3037 mini_generic_inst_is_sharable (MonoGenericInst *inst, gboolean allow_type_vars, gboolean allow_partial);
3038
3039 gboolean
3040 mono_is_partially_sharable_inst (MonoGenericInst *inst);
3041
3042 gboolean
3043 mini_is_gsharedvt_gparam (MonoType *t);
3044
3045 MonoGenericContext* mini_method_get_context (MonoMethod *method);
3046
3047 int mono_method_check_context_used (MonoMethod *method);
3048
3049 gboolean mono_generic_context_equal_deep (MonoGenericContext *context1, MonoGenericContext *context2);
3050
3051 gpointer mono_helper_get_rgctx_other_ptr (MonoClass *caller_class, MonoVTable *vtable,
3052                                           guint32 token, guint32 token_source, guint32 rgctx_type,
3053                                           gint32 rgctx_index);
3054
3055 void mono_generic_sharing_init (void);
3056 void mono_generic_sharing_cleanup (void);
3057
3058 MonoClass* mini_class_get_container_class (MonoClass *klass);
3059 MonoGenericContext* mini_class_get_context (MonoClass *klass);
3060
3061 MonoType* mini_get_underlying_type (MonoType *type) MONO_LLVM_INTERNAL;
3062 MonoType* mini_type_get_underlying_type (MonoType *type);
3063 MonoMethod* mini_get_shared_method (MonoMethod *method);
3064 MonoMethod* mini_get_shared_method_to_register (MonoMethod *method);
3065 MonoMethod* mini_get_shared_method_full (MonoMethod *method, gboolean all_vt, gboolean is_gsharedvt);
3066 MonoType* mini_get_shared_gparam (MonoType *t, MonoType *constraint);
3067 int mini_get_rgctx_entry_slot (MonoJumpInfoRgctxEntry *entry);
3068
3069 int mini_type_stack_size (MonoType *t, int *align);
3070 int mini_type_stack_size_full (MonoType *t, guint32 *align, gboolean pinvoke);
3071 void type_to_eval_stack_type (MonoCompile *cfg, MonoType *type, MonoInst *inst);
3072 guint mono_type_to_regmove (MonoCompile *cfg, MonoType *type) MONO_LLVM_INTERNAL;
3073
3074 void mono_cfg_add_try_hole (MonoCompile *cfg, MonoExceptionClause *clause, guint8 *start, MonoBasicBlock *bb);
3075
3076 void mono_cfg_set_exception (MonoCompile *cfg, int type);
3077 void mono_cfg_set_exception_invalid_program (MonoCompile *cfg, char *msg);
3078
3079 #define MONO_TIME_TRACK(a, phase) \
3080         { \
3081                 GTimer *timer = mono_time_track_start (); \
3082                 (phase) ; \
3083                 mono_time_track_end (&(a), timer); \
3084         }
3085
3086 GTimer *mono_time_track_start (void);
3087 void mono_time_track_end (double *time, GTimer *timer);
3088
3089 void mono_update_jit_stats (MonoCompile *cfg);
3090
3091 gboolean mini_type_is_reference (MonoType *type);
3092 gboolean mini_type_is_vtype (MonoType *t) MONO_LLVM_INTERNAL;
3093 gboolean mini_type_var_is_vt (MonoType *type) MONO_LLVM_INTERNAL;
3094 gboolean mini_is_gsharedvt_type (MonoType *t);
3095 gboolean mini_is_gsharedvt_klass (MonoClass *klass) MONO_LLVM_INTERNAL;
3096 gboolean mini_is_gsharedvt_signature (MonoMethodSignature *sig);
3097 gboolean mini_is_gsharedvt_variable_type (MonoType *t) MONO_LLVM_INTERNAL;
3098 gboolean mini_is_gsharedvt_variable_klass (MonoClass *klass) MONO_LLVM_INTERNAL;
3099 gboolean mini_is_gsharedvt_sharable_method (MonoMethod *method);
3100 gboolean mini_is_gsharedvt_variable_signature (MonoMethodSignature *sig);
3101 gboolean mini_is_gsharedvt_sharable_inst (MonoGenericInst *inst);
3102 gpointer mini_method_get_rgctx (MonoMethod *m);
3103 void mini_init_gsctx (MonoDomain *domain, MonoMemPool *mp, MonoGenericContext *context, MonoGenericSharingContext *gsctx);
3104
3105 gpointer mini_get_gsharedvt_wrapper (gboolean gsharedvt_in, gpointer addr, MonoMethodSignature *normal_sig, MonoMethodSignature *gsharedvt_sig,
3106                                                                          gint32 vcall_offset, gboolean calli);
3107 MonoMethod* mini_get_gsharedvt_in_sig_wrapper (MonoMethodSignature *sig);
3108 MonoMethod* mini_get_gsharedvt_out_sig_wrapper (MonoMethodSignature *sig);
3109 MonoMethodSignature* mini_get_gsharedvt_out_sig_wrapper_signature (gboolean has_this, gboolean has_ret, int param_count);
3110 gboolean mini_gsharedvt_runtime_invoke_supported (MonoMethodSignature *sig);
3111
3112 /* SIMD support */
3113
3114 /*
3115 This enum MUST be kept in sync with its managed mirror Mono.Simd.AccelMode.
3116  */
3117 enum {
3118         SIMD_VERSION_SSE1       = 1 << 0,
3119         SIMD_VERSION_SSE2       = 1 << 1,
3120         SIMD_VERSION_SSE3       = 1 << 2,
3121         SIMD_VERSION_SSSE3      = 1 << 3,
3122         SIMD_VERSION_SSE41      = 1 << 4,
3123         SIMD_VERSION_SSE42      = 1 << 5,
3124         SIMD_VERSION_SSE4a      = 1 << 6,
3125         SIMD_VERSION_ALL        = SIMD_VERSION_SSE1 | SIMD_VERSION_SSE2 |
3126                           SIMD_VERSION_SSE3 | SIMD_VERSION_SSSE3 |
3127                           SIMD_VERSION_SSE41 | SIMD_VERSION_SSE42 |
3128                           SIMD_VERSION_SSE4a,
3129
3130         /* this value marks the end of the bit indexes used in
3131          * this emum.
3132          */
3133         SIMD_VERSION_INDEX_END = 6
3134 };
3135
3136 enum {
3137         SIMD_COMP_EQ,
3138         SIMD_COMP_LT,
3139         SIMD_COMP_LE,
3140         SIMD_COMP_UNORD,
3141         SIMD_COMP_NEQ,
3142         SIMD_COMP_NLT,
3143         SIMD_COMP_NLE,
3144         SIMD_COMP_ORD
3145 };
3146
3147 enum {
3148         SIMD_PREFETCH_MODE_NTA,
3149         SIMD_PREFETCH_MODE_0,
3150         SIMD_PREFETCH_MODE_1,
3151         SIMD_PREFETCH_MODE_2,
3152 };
3153
3154 const char *mono_arch_xregname (int reg);
3155 void        mono_simd_simplify_indirection (MonoCompile *cfg);
3156 MonoInst*   mono_emit_simd_intrinsics (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
3157 MonoInst*   mono_emit_simd_field_load (MonoCompile *cfg, MonoClassField *field, MonoInst *addr);
3158 guint32     mono_arch_cpu_enumerate_simd_versions (void);
3159 void        mono_simd_intrinsics_init (void);
3160
3161 MonoInst*   mono_emit_native_types_intrinsics (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
3162 MonoType*   mini_native_type_replace_type (MonoType *type) MONO_LLVM_INTERNAL;
3163
3164 #ifdef __linux__
3165 #define XDEBUG_ENABLED 1
3166 #endif
3167
3168 #ifdef __linux__
3169 /* maybe enable also for other systems? */
3170 #define ENABLE_JIT_MAP 1
3171 void mono_enable_jit_map (void);
3172 void mono_emit_jit_map   (MonoJitInfo *jinfo);
3173 void mono_emit_jit_tramp (void *start, int size, const char *desc);
3174 gboolean mono_jit_map_is_enabled (void);
3175 #else
3176 #define mono_enable_jit_map()
3177 #define mono_emit_jit_map(ji)
3178 #define mono_emit_jit_tramp(s,z,d)
3179 #define mono_jit_map_is_enabled() (0)
3180 #endif
3181
3182 /*
3183  * Per-OS implementation functions.
3184  */
3185 void mono_runtime_install_handlers (void);
3186 gboolean mono_runtime_install_custom_handlers (const char *handlers);
3187 void mono_runtime_install_custom_handlers_usage (void);
3188 void mono_runtime_cleanup_handlers (void);
3189 void mono_runtime_setup_stat_profiler (void);
3190 void mono_runtime_shutdown_stat_profiler (void);
3191 void mono_runtime_posix_install_handlers (void);
3192 void mono_gdb_render_native_backtraces (pid_t crashed_pid);
3193
3194 void mono_cross_helpers_run (void);
3195
3196 /*
3197  * Signal handling
3198  */
3199
3200 #if defined(DISABLE_HW_TRAPS) || defined(MONO_ARCH_DISABLE_HW_TRAPS)
3201  // Signal handlers not available
3202 #define MONO_ARCH_NEED_DIV_CHECK 1
3203 #endif
3204
3205 void MONO_SIG_HANDLER_SIGNATURE (mono_sigfpe_signal_handler) ;
3206 void MONO_SIG_HANDLER_SIGNATURE (mono_sigill_signal_handler) ;
3207 void MONO_SIG_HANDLER_SIGNATURE (mono_sigsegv_signal_handler);
3208 void MONO_SIG_HANDLER_SIGNATURE (mono_sigint_signal_handler) ;
3209 gboolean MONO_SIG_HANDLER_SIGNATURE (mono_chain_signal);
3210
3211 #ifdef MONO_ARCH_VARARG_ICALLS
3212 #define ARCH_VARARG_ICALLS 1
3213 #else
3214 #define ARCH_VARARG_ICALLS 0
3215 #endif
3216
3217 /*
3218  * Coop support for trampolines
3219  */
3220 void mono_interruption_checkpoint_from_trampoline (void);
3221
3222 #endif /* __MONO_MINI_H__ */