Merge pull request #3258 from lindenlab/mono4-continuations_fix
[mono.git] / mono / mini / mini.h
1 /*
2  * Copyright 2002-2003 Ximian Inc
3  * Copyright 2003-2011 Novell Inc
4  * Copyright 2011 Xamarin Inc
5  * Licensed under the MIT license. See LICENSE file in the project root for full license information.
6  */
7 #ifndef __MONO_MINI_H__
8 #define __MONO_MINI_H__
9
10 #include "config.h"
11 #include <glib.h>
12 #ifdef HAVE_SIGNAL_H
13 #include <signal.h>
14 #endif
15 #ifdef HAVE_SYS_TYPES_H
16 #include <sys/types.h>
17 #endif
18 #include <mono/metadata/loader.h>
19 #include <mono/metadata/mempool.h>
20 #include <mono/utils/monobitset.h>
21 #include <mono/metadata/class.h>
22 #include <mono/metadata/object.h>
23 #include <mono/metadata/opcodes.h>
24 #include <mono/metadata/tabledefs.h>
25 #include <mono/metadata/domain-internals.h>
26 #include "mono/metadata/class-internals.h"
27 #include "mono/metadata/object-internals.h"
28 #include <mono/metadata/profiler-private.h>
29 #include <mono/metadata/debug-helpers.h>
30 #include <mono/utils/mono-compiler.h>
31 #include <mono/utils/mono-machine.h>
32 #include <mono/utils/mono-stack-unwinding.h>
33 #include <mono/utils/mono-threads.h>
34 #include <mono/utils/mono-threads-coop.h>
35 #include <mono/utils/mono-tls.h>
36 #include <mono/utils/atomic.h>
37 #include <mono/utils/mono-conc-hashtable.h>
38 #include <mono/utils/mono-signal-handler.h>
39
40 #include "mini-arch.h"
41 #include "regalloc.h"
42 #include "mini-unwind.h"
43 #include "jit.h"
44 #include "cfgdump.h"
45
46 #include "mono/metadata/class-internals.h"
47 #include "mono/metadata/domain-internals.h"
48 #include "mono/metadata/object.h"
49 #include "mono/metadata/tabledefs.h"
50 #include "mono/metadata/marshal.h"
51 #include "mono/metadata/security-manager.h"
52 #include "mono/metadata/exception.h"
53 #include "mono/utils/mono-compiler.h"
54
55 #ifdef __native_client_codegen__
56 #include <nacl/nacl_dyncode.h>
57 #endif
58
59
60 /*
61  * The mini code should not have any compile time dependencies on the GC being used, so the same object file from mini/
62  * can be linked into both mono and mono-sgen.
63  */
64 #if defined(HAVE_BOEHM_GC) || defined(HAVE_SGEN_GC)
65 #error "The code in mini/ should not depend on these defines."
66 #endif
67
68 #ifndef __GNUC__
69 /*#define __alignof__(a) sizeof(a)*/
70 #define __alignof__(type) G_STRUCT_OFFSET(struct { char c; type x; }, x)
71 #endif
72
73 #if DISABLE_LOGGING
74 #define MINI_DEBUG(level,limit,code)
75 #else
76 #define MINI_DEBUG(level,limit,code) do {if (G_UNLIKELY ((level) >= (limit))) code} while (0)
77 #endif
78
79 #if !defined(DISABLE_TASKLETS) && defined(MONO_ARCH_SUPPORT_TASKLETS)
80 #if defined(__GNUC__)
81 #define MONO_SUPPORT_TASKLETS 1
82 #elif defined(HOST_WIN32)
83 #define MONO_SUPPORT_TASKLETS 1
84 // Replace some gnu intrinsics needed for tasklets with MSVC equivalents.
85 #define __builtin_extract_return_addr(x) x
86 #define __builtin_return_address(x) _ReturnAddress()
87 #define __builtin_frame_address(x) _AddressOfReturnAddress()
88 #endif
89 #endif
90
91 #if ENABLE_LLVM
92 #define COMPILE_LLVM(cfg) ((cfg)->compile_llvm)
93 #define LLVM_ENABLED TRUE
94 #else
95 #define COMPILE_LLVM(cfg) (0)
96 #define LLVM_ENABLED FALSE
97 #endif
98
99 #ifdef MONO_ARCH_SOFT_FLOAT_FALLBACK
100 #define COMPILE_SOFT_FLOAT(cfg) (!COMPILE_LLVM ((cfg)) && mono_arch_is_soft_float ())
101 #else
102 #define COMPILE_SOFT_FLOAT(cfg) (0)
103 #endif
104
105 #define NOT_IMPLEMENTED do { g_assert_not_reached (); } while (0)
106
107 /* for 32 bit systems */
108 #if G_BYTE_ORDER == G_LITTLE_ENDIAN
109 #define MINI_LS_WORD_IDX 0
110 #define MINI_MS_WORD_IDX 1
111 #else
112 #define MINI_LS_WORD_IDX 1
113 #define MINI_MS_WORD_IDX 0
114 #endif
115 #define MINI_LS_WORD_OFFSET (MINI_LS_WORD_IDX * 4)
116 #define MINI_MS_WORD_OFFSET (MINI_MS_WORD_IDX * 4)
117 #define inst_ls_word data.op[MINI_LS_WORD_IDX].const_val
118 #define inst_ms_word data.op[MINI_MS_WORD_IDX].const_val
119
120 #define MONO_LVREG_LS(lvreg)    ((lvreg) + 1)
121 #define MONO_LVREG_MS(lvreg)    ((lvreg) + 2)
122
123 #ifndef DISABLE_AOT
124 #define MONO_USE_AOT_COMPILER
125 #endif
126
127 /* Version number of the AOT file format */
128 #define MONO_AOT_FILE_VERSION 134
129
130 //TODO: This is x86/amd64 specific.
131 #define mono_simd_shuffle_mask(a,b,c,d) ((a) | ((b) << 2) | ((c) << 4) | ((d) << 6))
132
133 /* Remap printf to g_print (we use a mix of these in the mini code) */
134 #ifdef PLATFORM_ANDROID
135 #define printf g_print
136 #endif
137
138 #define MONO_TYPE_IS_PRIMITIVE(t) ((!(t)->byref && ((((t)->type >= MONO_TYPE_BOOLEAN && (t)->type <= MONO_TYPE_R8) || ((t)->type >= MONO_TYPE_I && (t)->type <= MONO_TYPE_U)))))
139
140 #define MONO_AOT_TRAMP_PAGE_SIZE 16384
141
142 /* Constants used to encode different types of methods in AOT */
143 enum {
144         MONO_AOT_METHODREF_MIN = 240,
145         /* Image index bigger than METHODREF_MIN */
146         MONO_AOT_METHODREF_LARGE_IMAGE_INDEX = 249,
147         /* Runtime provided methods on arrays */
148         MONO_AOT_METHODREF_ARRAY = 250,
149         MONO_AOT_METHODREF_NO_AOT_TRAMPOLINE = 251,
150         /* Wrappers */
151         MONO_AOT_METHODREF_WRAPPER = 252,
152         /* Methods on generic instances */
153         MONO_AOT_METHODREF_GINST = 253,
154         /* Methods resolve using a METHODSPEC token */
155         MONO_AOT_METHODREF_METHODSPEC = 254,
156 };
157
158 /* Constants used to encode different types of types in AOT */
159 enum {
160         /* typedef index */
161         MONO_AOT_TYPEREF_TYPEDEF_INDEX = 1,
162         /* typedef index + image index */
163         MONO_AOT_TYPEREF_TYPEDEF_INDEX_IMAGE = 2,
164         /* typespec token */
165         MONO_AOT_TYPEREF_TYPESPEC_TOKEN = 3,
166         /* generic inst */
167         MONO_AOT_TYPEREF_GINST = 4,
168         /* type/method variable */
169         MONO_AOT_TYPEREF_VAR = 5,
170         /* array */
171         MONO_AOT_TYPEREF_ARRAY = 6,
172         /* blob index of the type encoding */
173         MONO_AOT_TYPEREF_BLOB_INDEX = 7,
174         /* ptr */
175         MONO_AOT_TYPEREF_PTR = 8
176 };
177
178 /* Trampolines which we have a lot of */
179 typedef enum {
180         MONO_AOT_TRAMP_SPECIFIC = 0,
181         MONO_AOT_TRAMP_STATIC_RGCTX = 1,
182         MONO_AOT_TRAMP_IMT_THUNK = 2,
183         MONO_AOT_TRAMP_GSHAREDVT_ARG = 3,
184         MONO_AOT_TRAMP_NUM = 4
185 } MonoAotTrampoline;
186
187 typedef enum {
188         MONO_AOT_FILE_FLAG_WITH_LLVM = 1,
189         MONO_AOT_FILE_FLAG_FULL_AOT = 2,
190         MONO_AOT_FILE_FLAG_DEBUG = 4,
191         MONO_AOT_FILE_FLAG_LLVM_THUMB = 8,
192         MONO_AOT_FILE_FLAG_LLVM_ONLY = 16,
193         MONO_AOT_FILE_FLAG_SAFEPOINTS = 32,
194         MONO_AOT_FILE_FLAG_SEPARATE_DATA = 64,
195 } MonoAotFileFlags;
196
197 typedef enum {
198         MONO_AOT_TABLE_BLOB,
199         MONO_AOT_TABLE_IMAGE_TABLE,
200         MONO_AOT_TABLE_CLASS_NAME,
201         MONO_AOT_TABLE_METHOD_INFO_OFFSETS,
202         MONO_AOT_TABLE_EX_INFO_OFFSETS,
203         MONO_AOT_TABLE_CLASS_INFO_OFFSETS,
204         MONO_AOT_TABLE_GOT_INFO_OFFSETS,
205         MONO_AOT_TABLE_LLVM_GOT_INFO_OFFSETS,
206         MONO_AOT_TABLE_EXTRA_METHOD_INFO_OFFSETS,
207         MONO_AOT_TABLE_EXTRA_METHOD_TABLE,
208         MONO_AOT_TABLE_NUM
209 } MonoAotFileTable;
210
211 /* This structure is stored in the AOT file */
212 typedef struct MonoAotFileInfo
213 {
214         /* The version number of the AOT file format, should match MONO_AOT_FILE_VERSION */
215         guint32 version;
216         /* For alignment */
217         guint32 dummy;
218
219         /* All the pointers should be at the start to avoid alignment problems */
220         /* Symbols */
221 #define MONO_AOT_FILE_INFO_FIRST_SYMBOL jit_got
222         /* Global Offset Table for JITted code */
223         gpointer jit_got;
224         /* Global Offset Table for LLVM code */
225         gpointer llvm_got;
226         /* Mono EH Frame created by llc when using LLVM */
227         gpointer mono_eh_frame;
228         /* Points to the get_method () function in the LLVM image or NULL */
229         gpointer llvm_get_method;
230         /* Points to the get_unbox_tramp () function in the LLVM image or NULL */
231         gpointer llvm_get_unbox_tramp;
232         gpointer jit_code_start;
233         gpointer jit_code_end;
234         gpointer method_addresses;
235         /* Data blob */
236         gpointer blob;
237         gpointer class_name_table;
238         gpointer class_info_offsets;
239         gpointer method_info_offsets;
240         gpointer ex_info_offsets;
241         gpointer extra_method_info_offsets;
242         gpointer extra_method_table;
243         gpointer got_info_offsets;
244         gpointer llvm_got_info_offsets;
245         gpointer image_table;
246         gpointer mem_end;
247         /* The GUID of the assembly which the AOT image was generated from */
248         gpointer assembly_guid;
249         /*
250          * The runtime version string for AOT images generated using 'bind-to-runtime-version',
251          * NULL otherwise.
252          */
253         gpointer runtime_version;
254         /* Blocks of various kinds of trampolines */
255         gpointer specific_trampolines;
256         gpointer static_rgctx_trampolines;
257         gpointer imt_thunks;
258         gpointer gsharedvt_arg_trampolines;
259         /* In static mode, points to a table of global symbols for trampolines etc */
260         gpointer globals;
261         /* Points to a string containing the assembly name*/
262         gpointer assembly_name;
263         /* Start of Mono's Program Linkage Table */
264         gpointer plt;
265         /* End of Mono's Program Linkage Table */
266         gpointer plt_end;
267         gpointer unwind_info;
268         /* Points to a table mapping methods to their unbox trampolines */
269         gpointer unbox_trampolines;
270         /* Points to the end of the previous table */
271         gpointer unbox_trampolines_end;
272         /* Points to a table of unbox trampoline addresses/offsets */
273         gpointer unbox_trampoline_addresses;
274 #define MONO_AOT_FILE_INFO_LAST_SYMBOL unbox_trampoline_addresses
275
276         /* Scalars */
277         /* The index of the first GOT slot used by the PLT */
278         guint32 plt_got_offset_base;
279         /* Number of entries in the GOT */
280         guint32 got_size;
281         /* Number of entries in the PLT */
282         guint32 plt_size;
283         /* Number of methods */
284         guint32 nmethods;
285         /* A union of MonoAotFileFlags */
286         guint32 flags;
287         /* Optimization flags used to compile the module */
288         guint32 opts;
289         /* SIMD flags used to compile the module */
290         guint32 simd_opts;
291         /* Index of the blob entry holding the GC used by this module */
292         gint32 gc_name_index;
293         guint32 num_rgctx_fetch_trampolines;
294         /* These are used for sanity checking object layout problems when cross-compiling */
295         guint32 double_align, long_align, generic_tramp_num;
296         /* The page size used by trampoline pages */
297         guint32 tramp_page_size;
298         /*
299          * The number of GOT entries which need to be preinitialized when the
300          * module is loaded.
301          */
302         guint32 nshared_got_entries;
303         /* The size of the data file, if MONO_AOT_FILE_FLAG_SEPARATE_DATA is set */
304         guint32 datafile_size;
305
306         /* Arrays */
307         /* Offsets for tables inside the data file if MONO_AOT_FILE_FLAG_SEPARATE_DATA is set */
308         // FIXME: Sync with AOT
309         guint32 table_offsets [MONO_AOT_TABLE_NUM];
310         /* Number of trampolines */
311         guint32 num_trampolines [MONO_AOT_TRAMP_NUM];
312         /* The indexes of the first GOT slots used by the trampolines */
313         guint32 trampoline_got_offset_base [MONO_AOT_TRAMP_NUM];
314         /* The size of one trampoline */
315         guint32 trampoline_size [MONO_AOT_TRAMP_NUM];
316         /* The offset where the trampolines begin on a trampoline page */
317         guint32 tramp_page_code_offsets [MONO_AOT_TRAMP_NUM];
318 } MonoAotFileInfo;
319
320 /* Number of symbols in the MonoAotFileInfo structure */
321 #define MONO_AOT_FILE_INFO_NUM_SYMBOLS (((G_STRUCT_OFFSET (MonoAotFileInfo, MONO_AOT_FILE_INFO_LAST_SYMBOL) - G_STRUCT_OFFSET (MonoAotFileInfo, MONO_AOT_FILE_INFO_FIRST_SYMBOL)) / sizeof (gpointer)) + 1)
322
323 typedef struct
324 {
325         MonoClass *klass;
326         MonoMethod *method;
327 } MonoClassMethodPair;
328
329 typedef struct
330 {
331         MonoClass *klass;
332         MonoMethod *method;
333         gboolean is_virtual;
334 } MonoDelegateClassMethodPair;
335
336 /* Per-domain information maintained by the JIT */
337 typedef struct
338 {
339         /* Maps MonoMethod's to a GSList of GOT slot addresses pointing to its code */
340         GHashTable *jump_target_got_slot_hash;
341         GHashTable *jump_target_hash;
342         /* Maps methods/klasses to the address of the given type of trampoline */
343         GHashTable *class_init_trampoline_hash;
344         GHashTable *jump_trampoline_hash;
345         GHashTable *jit_trampoline_hash;
346         GHashTable *delegate_trampoline_hash;
347         /* Maps ClassMethodPair -> MonoDelegateTrampInfo */
348         GHashTable *static_rgctx_trampoline_hash;
349         GHashTable *llvm_vcall_trampoline_hash;
350         /* maps MonoMethod -> MonoJitDynamicMethodInfo */
351         GHashTable *dynamic_code_hash;
352         GHashTable *method_code_hash;
353         /* Maps methods to a RuntimeInvokeInfo structure, protected by the associated MonoDomain lock */
354         MonoConcurrentHashTable *runtime_invoke_hash;
355         /* Maps MonoMethod to a GPtrArray containing sequence point locations */
356         /* Protected by the domain lock */
357         GHashTable *seq_points;
358         /* Debugger agent data */
359         gpointer agent_info;
360         /* Maps MonoMethod to an arch-specific structure */
361         GHashTable *arch_seq_points;
362         /* Maps a GSharedVtTrampInfo structure to a trampoline address */
363         GHashTable *gsharedvt_arg_tramp_hash;
364         /* memcpy/bzero methods specialized for small constant sizes */
365         gpointer *memcpy_addr [17];
366         gpointer *bzero_addr [17];
367         gpointer llvm_module;
368         /* Maps MonoMethod -> GSlist of addresses */
369         GHashTable *llvm_jit_callees;
370 } MonoJitDomainInfo;
371
372 typedef struct {
373         MonoJitInfo *ji;
374         MonoCodeManager *code_mp;
375 } MonoJitDynamicMethodInfo;
376
377 /* An extension of MonoGenericParamFull used in generic sharing */
378 typedef struct {
379         MonoGenericParamFull param;
380         MonoGenericParam *parent;
381 } MonoGSharedGenericParam;
382
383 #define domain_jit_info(domain) ((MonoJitDomainInfo*)((domain)->runtime_info))
384
385 /* Contains a list of ips which needs to be patched when a method is compiled */
386 typedef struct {
387         GSList *list;
388 } MonoJumpList;
389
390 /* Arch-specific */
391 typedef struct {
392         int dummy;
393 } MonoDynCallInfo;
394
395 /*
396  * Information about a stack frame.
397  * FIXME This typedef exists only to avoid tons of code rewriting
398  */
399 typedef MonoStackFrameInfo StackFrameInfo;
400
401 #if 0
402 #define mono_bitset_foreach_bit(set,b,n) \
403         for (b = 0; b < n; b++)\
404                 if (mono_bitset_test_fast(set,b))
405 #else
406 #define mono_bitset_foreach_bit(set,b,n) \
407         for (b = mono_bitset_find_start (set); b < n && b >= 0; b = mono_bitset_find_first (set, b))
408 #endif
409
410 /*
411  * Pull the list of opcodes
412  */
413 #define OPDEF(a,b,c,d,e,f,g,h,i,j) \
414         a = i,
415
416 enum {
417 #include "mono/cil/opcode.def"
418         CEE_LASTOP
419 };
420 #undef OPDEF
421
422 #define MONO_VARINFO(cfg,varnum) (&(cfg)->vars [varnum])
423
424 #define MONO_INST_NULLIFY_SREGS(dest) do {                              \
425                 (dest)->sreg1 = (dest)->sreg2 = (dest)->sreg3 = -1;     \
426         } while (0)
427
428 #define MONO_INST_NEW(cfg,dest,op) do { \
429                 (dest) = (MonoInst *)mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));   \
430                 (dest)->opcode = (op);  \
431                 (dest)->dreg = -1;                          \
432                 MONO_INST_NULLIFY_SREGS ((dest));           \
433         (dest)->cil_code = (cfg)->ip;  \
434         } while (0)
435
436 #define MONO_INST_NEW_CALL(cfg,dest,op) do {    \
437                 (dest) = (MonoCallInst *)mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoCallInst));   \
438                 (dest)->inst.opcode = (op);     \
439                 (dest)->inst.dreg = -1;                                 \
440                 MONO_INST_NULLIFY_SREGS (&(dest)->inst);                \
441         (dest)->inst.cil_code = (cfg)->ip;  \
442         } while (0)
443
444 #define MONO_ADD_INS(b,inst) do {       \
445                 if ((b)->last_ins) {    \
446                         (b)->last_ins->next = (inst);   \
447             (inst)->prev = (b)->last_ins;   \
448                         (b)->last_ins = (inst); \
449                 } else {        \
450                         (b)->code = (b)->last_ins = (inst);     \
451                 }       \
452         } while (0)
453
454 #define NULLIFY_INS(ins) do { \
455         (ins)->opcode = OP_NOP; \
456         (ins)->dreg = -1;                               \
457         MONO_INST_NULLIFY_SREGS ((ins));                \
458     } while (0)
459
460 /* Remove INS from BB */
461 #define MONO_REMOVE_INS(bb,ins) do { \
462         if ((ins)->prev) \
463             (ins)->prev->next = (ins)->next; \
464         if ((ins)->next) \
465             (ins)->next->prev = (ins)->prev; \
466         if ((bb)->code == (ins)) \
467             (bb)->code = (ins)->next; \
468         if ((bb)->last_ins == (ins)) \
469             (bb)->last_ins = (ins)->prev; \
470     } while (0)
471
472 /* Remove INS from BB and nullify it */
473 #define MONO_DELETE_INS(bb,ins) do { \
474         MONO_REMOVE_INS ((bb), (ins)); \
475         NULLIFY_INS ((ins)); \
476     } while (0)
477
478 /* 
479  * this is used to determine when some branch optimizations are possible: we exclude FP compares
480  * because they have weird semantics with NaNs.
481  */
482 #define MONO_IS_COND_BRANCH_OP(ins) (((ins)->opcode >= OP_LBEQ && (ins)->opcode <= OP_LBLT_UN) || ((ins)->opcode >= OP_FBEQ && (ins)->opcode <= OP_FBLT_UN) || ((ins)->opcode >= OP_IBEQ && (ins)->opcode <= OP_IBLT_UN))
483 #define MONO_IS_COND_BRANCH_NOFP(ins) (MONO_IS_COND_BRANCH_OP(ins) && !(((ins)->opcode >= OP_FBEQ) && ((ins)->opcode <= OP_FBLT_UN)) && (!(ins)->inst_left || (ins)->inst_left->inst_left->type != STACK_R8))
484
485 #define MONO_IS_BRANCH_OP(ins) (MONO_IS_COND_BRANCH_OP(ins) || ((ins)->opcode == OP_BR) || ((ins)->opcode == OP_BR_REG) || ((ins)->opcode == OP_SWITCH))
486
487 #define MONO_IS_COND_EXC(ins) ((((ins)->opcode >= OP_COND_EXC_EQ) && ((ins)->opcode <= OP_COND_EXC_LT_UN)) || (((ins)->opcode >= OP_COND_EXC_IEQ) && ((ins)->opcode <= OP_COND_EXC_ILT_UN)))
488
489 #define MONO_IS_SETCC(ins) ((((ins)->opcode >= OP_CEQ) && ((ins)->opcode <= OP_CLT_UN)) || (((ins)->opcode >= OP_ICEQ) && ((ins)->opcode <= OP_ICLE_UN)) || (((ins)->opcode >= OP_LCEQ) && ((ins)->opcode <= OP_LCLT_UN)) || (((ins)->opcode >= OP_FCEQ) && ((ins)->opcode <= OP_FCLT_UN)))
490
491
492 #define MONO_IS_LOAD_MEMBASE(ins) (((ins)->opcode >= OP_LOAD_MEMBASE && (ins)->opcode <= OP_LOADV_MEMBASE) || ((ins)->opcode >= OP_ATOMIC_LOAD_I1 && (ins)->opcode <= OP_ATOMIC_LOAD_R8))
493 #define MONO_IS_STORE_MEMBASE(ins) (((ins)->opcode >= OP_STORE_MEMBASE_REG && (ins)->opcode <= OP_STOREV_MEMBASE) || ((ins)->opcode >= OP_ATOMIC_STORE_I1 && (ins)->opcode <= OP_ATOMIC_STORE_R8))
494 #define MONO_IS_STORE_MEMINDEX(ins) (((ins)->opcode >= OP_STORE_MEMINDEX) && ((ins)->opcode <= OP_STORER8_MEMINDEX))
495
496 // OP_DYN_CALL is not a MonoCallInst
497 #define MONO_IS_CALL(ins) (((ins->opcode >= OP_VOIDCALL) && (ins->opcode <= OP_VCALL2_MEMBASE)) || (ins->opcode == OP_TAILCALL))
498
499 #define MONO_IS_JUMP_TABLE(ins) (((ins)->opcode == OP_JUMP_TABLE) ? TRUE : ((((ins)->opcode == OP_AOTCONST) && (ins->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? TRUE : ((ins)->opcode == OP_SWITCH) ? TRUE : ((((ins)->opcode == OP_GOT_ENTRY) && ((ins)->inst_right->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? TRUE : FALSE)))
500
501 #define MONO_JUMP_TABLE_FROM_INS(ins) (((ins)->opcode == OP_JUMP_TABLE) ? (ins)->inst_p0 : (((ins)->opcode == OP_AOTCONST) && (ins->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH) ? (ins)->inst_p0 : (((ins)->opcode == OP_SWITCH) ? (ins)->inst_p0 : ((((ins)->opcode == OP_GOT_ENTRY) && ((ins)->inst_right->inst_i1 == (gpointer)MONO_PATCH_INFO_SWITCH)) ? (ins)->inst_right->inst_p0 : NULL))))
502
503 /* FIXME: Add more instructions */
504 /* INEG sets the condition codes, and the OP_LNEG decomposition depends on this on x86 */
505 #define MONO_INS_HAS_NO_SIDE_EFFECT(ins) (MONO_IS_MOVE (ins) || (ins->opcode == OP_ICONST) || (ins->opcode == OP_I8CONST) || MONO_IS_ZERO (ins) || (ins->opcode == OP_ADD_IMM) || (ins->opcode == OP_R8CONST) || (ins->opcode == OP_LADD_IMM) || (ins->opcode == OP_ISUB_IMM) || (ins->opcode == OP_IADD_IMM) || (ins->opcode == OP_LNEG) || (ins->opcode == OP_ISUB) || (ins->opcode == OP_CMOV_IGE) || (ins->opcode == OP_ISHL_IMM) || (ins->opcode == OP_ISHR_IMM) || (ins->opcode == OP_ISHR_UN_IMM) || (ins->opcode == OP_IAND_IMM) || (ins->opcode == OP_ICONV_TO_U1) || (ins->opcode == OP_ICONV_TO_I1) || (ins->opcode == OP_SEXT_I4) || (ins->opcode == OP_LCONV_TO_U1) || (ins->opcode == OP_ICONV_TO_U2) || (ins->opcode == OP_ICONV_TO_I2) || (ins->opcode == OP_LCONV_TO_I2) || (ins->opcode == OP_LDADDR) || (ins->opcode == OP_PHI) || (ins->opcode == OP_NOP) || (ins->opcode == OP_ZEXT_I4) || (ins->opcode == OP_NOT_NULL) || (ins->opcode == OP_IL_SEQ_POINT))
506
507 #define MONO_METHOD_IS_FINAL(m) (((m)->flags & METHOD_ATTRIBUTE_FINAL) || ((m)->klass && ((m)->klass->flags & TYPE_ATTRIBUTE_SEALED)))
508
509
510 #ifdef MONO_ARCH_SIMD_INTRINSICS
511
512 #define MONO_IS_PHI(ins) (((ins)->opcode == OP_PHI) || ((ins)->opcode == OP_FPHI) || ((ins)->opcode == OP_VPHI)  || ((ins)->opcode == OP_XPHI))
513 #define MONO_IS_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_XMOVE) || ((ins)->opcode == OP_RMOVE))
514 #define MONO_IS_NON_FP_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_XMOVE))
515 #define MONO_IS_REAL_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_XMOVE) || ((ins)->opcode == OP_RMOVE))
516 #define MONO_IS_ZERO(ins) (((ins)->opcode == OP_VZERO) || ((ins)->opcode == OP_XZERO))
517
518 #define MONO_CLASS_IS_SIMD(cfg, klass) (((cfg)->opt & MONO_OPT_SIMD) && (klass)->simd_type)
519
520 #else
521
522 #define MONO_IS_PHI(ins) (((ins)->opcode == OP_PHI) || ((ins)->opcode == OP_FPHI) || ((ins)->opcode == OP_VPHI))
523 #define MONO_IS_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_VMOVE) || ((ins)->opcode == OP_RMOVE))
524 #define MONO_IS_NON_FP_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_VMOVE))
525 /*A real MOVE is one that isn't decomposed such as a VMOVE or LMOVE*/
526 #define MONO_IS_REAL_MOVE(ins) (((ins)->opcode == OP_MOVE) || ((ins)->opcode == OP_FMOVE) || ((ins)->opcode == OP_RMOVE))
527 #define MONO_IS_ZERO(ins) ((ins)->opcode == OP_VZERO)
528
529 #define MONO_CLASS_IS_SIMD(cfg, klass) (0)
530
531 #endif
532
533 typedef struct MonoInstList MonoInstList;
534 typedef struct MonoInst MonoInst;
535 typedef struct MonoCallInst MonoCallInst;
536 typedef struct MonoCallArgParm MonoCallArgParm;
537 typedef struct MonoMethodVar MonoMethodVar;
538 typedef struct MonoBasicBlock MonoBasicBlock;
539 typedef struct MonoLMF MonoLMF;
540 typedef struct MonoSpillInfo MonoSpillInfo;
541 typedef struct MonoTraceSpec MonoTraceSpec;
542
543 extern MonoNativeTlsKey mono_jit_tls_id;
544 extern MonoTraceSpec *mono_jit_trace_calls;
545 extern gboolean mono_break_on_exc;
546 extern int mono_exc_esp_offset;
547 extern gboolean mono_compile_aot;
548 extern gboolean mono_aot_only;
549 extern gboolean mono_llvm_only;
550 extern MonoAotMode mono_aot_mode;
551 extern MonoMethodDesc *mono_inject_async_exc_method;
552 extern int mono_inject_async_exc_pos;
553 extern MonoMethodDesc *mono_break_at_bb_method;
554 extern int mono_break_at_bb_bb_num;
555 extern gboolean mono_verify_all;
556 extern gboolean mono_do_x86_stack_align;
557 extern const char *mono_build_date;
558 extern gboolean mono_do_signal_chaining;
559 extern gboolean mono_do_crash_chaining;
560 extern MONO_API gboolean mono_use_llvm;
561 extern gboolean mono_do_single_method_regression;
562 extern guint32 mono_single_method_regression_opt;
563 extern MonoMethod *mono_current_single_method;
564 extern GSList *mono_single_method_list;
565 extern GHashTable *mono_single_method_hash;
566 extern gboolean mono_using_xdebug;
567 extern int mini_verbose;
568 extern int valgrind_register;
569
570 #define INS_INFO(opcode) (&ins_info [((opcode) - OP_START - 1) * 4])
571
572 extern const char ins_info[];
573 extern const gint8 ins_sreg_counts [];
574
575 #ifndef DISABLE_JIT
576 #define mono_inst_get_num_src_registers(ins) (ins_sreg_counts [(ins)->opcode - OP_START - 1])
577 #else
578 #define mono_inst_get_num_src_registers(ins) 0
579 #endif
580
581 #define mono_inst_get_src_registers(ins, regs) (((regs) [0] = (ins)->sreg1), ((regs) [1] = (ins)->sreg2), ((regs) [2] = (ins)->sreg3), mono_inst_get_num_src_registers ((ins)))
582
583 #define MONO_BB_FOR_EACH_INS(bb, ins) for ((ins) = (bb)->code; (ins); (ins) = (ins)->next)
584
585 #define MONO_BB_FOR_EACH_INS_SAFE(bb, n, ins) for ((ins) = (bb)->code, n = (ins) ? (ins)->next : NULL; (ins); (ins) = (n), (n) = (ins) ? (ins)->next : NULL)
586
587 #define MONO_BB_FOR_EACH_INS_REVERSE_SAFE(bb, p, ins) for ((ins) = (bb)->last_ins, p = (ins) ? (ins)->prev : NULL; (ins); (ins) = (p), (p) = (ins) ? (ins)->prev : NULL)
588
589 #define mono_bb_first_ins(bb) (bb)->code
590
591 struct MonoSpillInfo {
592         int offset;
593 };
594
595 /*
596  * Information about a call site for the GC map creation code
597  */
598 typedef struct {
599         /* The next offset after the call instruction */
600         int pc_offset;
601         /* The basic block containing the call site */
602         MonoBasicBlock *bb;
603         /* 
604          * The set of variables live at the call site.
605          * Has length cfg->num_varinfo in bits.
606          */
607         guint8 *liveness;
608         /*
609          * List of OP_GC_PARAM_SLOT_LIVENESS_DEF instructions defining the param slots
610          * used by this call.
611          */
612         GSList *param_slots;
613 } GCCallSite;
614
615 /*
616  * The IR-level extended basic block.  
617  *
618  * A basic block can have multiple exits just fine, as long as the point of
619  * 'departure' is the last instruction in the basic block. Extended basic
620  * blocks, on the other hand, may have instructions that leave the block
621  * midstream. The important thing is that they cannot be _entered_
622  * midstream, ie, execution of a basic block (or extened bb) always start
623  * at the beginning of the block, never in the middle.
624  */
625 struct MonoBasicBlock {
626         MonoInst *last_ins;
627
628         /* the next basic block in the order it appears in IL */
629         MonoBasicBlock *next_bb;
630
631         /*
632          * Before instruction selection it is the first tree in the
633          * forest and the first item in the list of trees. After
634          * instruction selection it is the first instruction and the
635          * first item in the list of instructions.
636          */
637         MonoInst *code;
638
639         /* unique block number identification */
640         gint32 block_num;
641         
642         gint32 dfn;
643
644         /* Basic blocks: incoming and outgoing counts and pointers */
645         /* Each bb should only appear once in each array */
646         gint16 out_count, in_count;
647         MonoBasicBlock **in_bb;
648         MonoBasicBlock **out_bb;
649
650         /* Points to the start of the CIL code that initiated this BB */
651         unsigned char* cil_code;
652
653         /* Length of the CIL block */
654         gint32 cil_length;
655
656         /* The offset of the generated code, used for fixups */
657         int native_offset;
658         /* The length of the generated code, doesn't include alignment padding */
659         int native_length;
660         /* The real native offset, which includes alignment padding too */
661         int real_native_offset;
662         int max_offset;
663         int max_length;
664
665         /* Visited and reachable flags */
666         guint32 flags;
667
668         /*
669          * SSA and loop based flags
670          */
671         MonoBitSet *dominators;
672         MonoBitSet *dfrontier;
673         MonoBasicBlock *idom;
674         GSList *dominated;
675         /* fast dominator algorithm */
676         MonoBasicBlock *df_parent, *ancestor, *child, *label;
677         int size, sdom, idomn;
678         
679         /* loop nesting and recognition */
680         GList *loop_blocks;
681         gint8  nesting;
682         gint8  loop_body_start;
683
684         /* 
685          * Whenever the bblock is rarely executed so it should be emitted after
686          * the function epilog.
687          */
688         guint out_of_line : 1;
689         /* Caches the result of uselessness calculation during optimize_branches */
690         guint not_useless : 1;
691         /* Whenever the decompose_array_access_opts () pass needs to process this bblock */
692         guint has_array_access : 1;
693         /* Whenever this bblock is extended, ie. it has branches inside it */
694         guint extended : 1;
695         /* Whenever this bblock contains a OP_JUMP_TABLE instruction */
696         guint has_jump_table : 1;
697         /* Whenever this bblock contains an OP_CALL_HANDLER instruction */
698         guint has_call_handler : 1;
699         /* Whenever this bblock starts a try block */
700         guint try_start : 1;
701
702 #ifdef ENABLE_LLVM
703         /* The offset of the CIL instruction in this bblock which ends a try block */
704         intptr_t try_end;
705 #endif
706
707         /*
708          * If this is set, extend the try range started by this bblock by an arch specific
709          * number of bytes to encompass the end of the previous bblock (e.g. a Monitor.Enter
710          * call).
711          */
712         guint extend_try_block : 1;
713         
714         /* use for liveness analysis */
715         MonoBitSet *gen_set;
716         MonoBitSet *kill_set;
717         MonoBitSet *live_in_set;
718         MonoBitSet *live_out_set;
719
720         /* fields to deal with non-empty stack slots at bb boundary */
721         guint16 out_scount, in_scount;
722         MonoInst **out_stack;
723         MonoInst **in_stack;
724
725         /* we use that to prevent merging of bblocks covered by different clauses*/
726         guint real_offset;
727
728         GSList *seq_points;
729         MonoInst *last_seq_point;
730
731         GSList *spill_slot_defs;
732
733         /* List of call sites in this bblock sorted by pc_offset */
734         GSList *gc_callsites;
735
736         /*
737          * The region encodes whether the basic block is inside
738          * a finally, catch, filter or none of these.
739          *
740          * If the value is -1, then it is neither finally, catch nor filter
741          *
742          * Otherwise the format is:
743          *
744          *  Bits: |     0-3      |       4-7      |     8-31
745          *        |              |                |
746          *        | clause-flags |   MONO_REGION  | clause-index 
747          *
748          */
749         guint region;
750
751         /* The current symbolic register number, used in local register allocation. */
752         guint32 max_vreg;
753 };
754
755 /* BBlock flags */
756 enum {
757         BB_VISITED              = 1 << 0,
758         BB_REACHABLE            = 1 << 1,
759         BB_EXCEPTION_DEAD_OBJ   = 1 << 2,
760         BB_EXCEPTION_UNSAFE     = 1 << 3,
761         BB_EXCEPTION_HANDLER    = 1 << 4,
762         /* for Native Client, mark the blocks that can be jumped to indirectly */
763         BB_INDIRECT_JUMP_TARGET = 1 << 5 
764 };
765
766 typedef struct MonoMemcpyArgs {
767         int size, align;
768 } MonoMemcpyArgs;
769
770 typedef enum {
771         LLVMArgNone,
772         /* Scalar argument passed by value */
773         LLVMArgNormal,
774         /* Only in ainfo->pair_storage */
775         LLVMArgInIReg,
776         /* Only in ainfo->pair_storage */
777         LLVMArgInFPReg,
778         /* Valuetype passed in 1-2 consecutive register */
779         LLVMArgVtypeInReg,
780         LLVMArgVtypeByVal,
781         LLVMArgVtypeRetAddr, /* On on cinfo->ret */
782         LLVMArgGSharedVt,
783         /* Fixed size argument passed to/returned from gsharedvt method by ref */
784         LLVMArgGsharedvtFixed,
785         /* Fixed size vtype argument passed to/returned from gsharedvt method by ref */
786         LLVMArgGsharedvtFixedVtype,
787         /* Variable sized argument passed to/returned from gsharedvt method by ref */
788         LLVMArgGsharedvtVariable,
789         /* Vtype passed/returned as one int array argument */
790         LLVMArgAsIArgs,
791         /* Vtype passed as a set of fp arguments */
792         LLVMArgAsFpArgs,
793         /*
794          * Only for returns, a structure which
795          * consists of floats/doubles.
796          */
797         LLVMArgFpStruct,
798         LLVMArgVtypeByRef,
799         /* Vtype returned as an int */
800         LLVMArgVtypeAsScalar
801 } LLVMArgStorage;
802
803 typedef struct {
804         LLVMArgStorage storage;
805
806         /*
807          * Only if storage == ArgValuetypeInReg/LLVMArgAsFpArgs.
808          * This contains how the parts of the vtype are passed.
809          */
810         LLVMArgStorage pair_storage [8];
811         /*
812          * Only if storage == LLVMArgAsIArgs/LLVMArgAsFpArgs/LLVMArgFpStruct.
813          * If storage == LLVMArgAsFpArgs, this is the number of arguments
814          * used to pass the value.
815          * If storage == LLVMArgFpStruct, this is the number of fields
816          * in the structure.
817          */
818         int nslots;
819         /* Only if storage == LLVMArgAsFpArgs/LLVMArgFpStruct (4/8) */
820         int esize;
821         /* Parameter index in the LLVM signature */
822         int pindex;
823         MonoType *type;
824         /* Only if storage == LLVMArgAsFpArgs. Dummy fp args to insert before this arg */
825         int ndummy_fpargs;
826 } LLVMArgInfo;
827
828 typedef struct {
829         LLVMArgInfo ret;
830         /* Whenever there is an rgctx argument */
831         gboolean rgctx_arg;
832         /* Whenever there is an IMT argument */
833         gboolean imt_arg;
834         /* 
835          * The position of the vret arg in the argument list.
836          * Only if ret->storage == ArgVtypeRetAddr.
837          * Should be 0 or 1.
838          */
839         int vret_arg_index;
840         /* The indexes of various special arguments in the LLVM signature */
841         int vret_arg_pindex, this_arg_pindex, rgctx_arg_pindex, imt_arg_pindex;
842
843         /* Inline array of argument info */
844         /* args [0] is for the this argument if it exists */
845         LLVMArgInfo args [1];
846 } LLVMCallInfo;
847
848 #define MONO_MAX_SRC_REGS       3
849
850 struct MonoInst {
851         guint16 opcode;
852         guint8  type; /* stack type */
853         guint8  flags;
854         
855         /* used by the register allocator */
856         gint32 dreg, sreg1, sreg2, sreg3;
857
858         MonoInst *next, *prev;
859
860         union {
861                 union {
862                         MonoInst *src;
863                         MonoMethodVar *var;
864                         mgreg_t const_val;
865 #if (SIZEOF_REGISTER > SIZEOF_VOID_P) && (G_BYTE_ORDER == G_BIG_ENDIAN)
866                         struct {
867                                 gpointer p[SIZEOF_REGISTER/SIZEOF_VOID_P];
868                         } pdata;
869 #else
870                         gpointer p;
871 #endif
872                         MonoMethod *method;
873                         MonoMethodSignature *signature;
874                         MonoBasicBlock **many_blocks;
875                         MonoBasicBlock *target_block;
876                         MonoInst **args;
877                         MonoType *vtype;
878                         MonoClass *klass;
879                         int *phi_args;
880                         MonoCallInst *call_inst;
881                         MonoExceptionClause *exception_clause;
882                 } op [2];
883                 gint64 i8const;
884                 double r8const;
885         } data;
886
887         const unsigned char* cil_code; /* for debugging and bblock splitting */
888
889         /* used mostly by the backend to store additional info it may need */
890         union {
891                 gint32 reg3;
892                 gint32 arg_info;
893                 gint32 size;
894                 MonoMemcpyArgs *memcpy_args; /* in OP_MEMSET and OP_MEMCPY */
895                 gpointer data;
896                 gint shift_amount;
897                 gboolean is_pinvoke; /* for variables in the unmanaged marshal format */
898                 gboolean record_cast_details; /* For CEE_CASTCLASS */
899                 MonoInst *spill_var; /* for OP_MOVE_I4_TO_F/F_TO_I4 and OP_FCONV_TO_R8_X */
900                 guint16 source_opcode; /*OP_XCONV_R8_TO_I4 needs to know which op was used to do proper widening*/
901                 int pc_offset; /* OP_GC_LIVERANGE_START/END */
902
903                 /*
904                  * memory_barrier: MONO_MEMORY_BARRIER_{ACQ,REL,SEQ}
905                  * atomic_load_*: MONO_MEMORY_BARRIER_{ACQ,SEQ}
906                  * atomic_store_*: MONO_MEMORY_BARRIER_{REL,SEQ}
907                  */
908                 int memory_barrier_kind;
909         } backend;
910         
911         MonoClass *klass;
912 };
913         
914 struct MonoCallInst {
915         MonoInst inst;
916         MonoMethodSignature *signature;
917         MonoMethod *method;
918         MonoInst **args;
919         MonoInst *out_args;
920         MonoInst *vret_var;
921         gconstpointer fptr;
922         guint stack_usage;
923         guint stack_align_amount;
924         guint is_virtual : 1;
925         guint tail_call : 1;
926         /* If this is TRUE, 'fptr' points to a MonoJumpInfo instead of an address. */
927         guint fptr_is_patch : 1;
928         /*
929          * If this is true, then the call returns a vtype in a register using the same 
930          * calling convention as OP_CALL.
931          */
932         guint vret_in_reg : 1;
933         /* Whenever vret_in_reg returns fp values */
934         guint vret_in_reg_fp : 1;
935         /* Whenever there is an IMT argument and it is dynamic */
936         guint dynamic_imt_arg : 1;
937         /* Whenever there is an RGCTX argument */
938         guint32 rgctx_reg : 1;
939         /* Whenever the call will need an unbox trampoline */
940         guint need_unbox_trampoline : 1;
941         regmask_t used_iregs;
942         regmask_t used_fregs;
943         GSList *out_ireg_args;
944         GSList *out_freg_args;
945         GSList *outarg_vts;
946         gpointer call_info;
947 #ifdef ENABLE_LLVM
948         LLVMCallInfo *cinfo;
949         int rgctx_arg_reg, imt_arg_reg;
950 #endif
951 #ifdef TARGET_ARM
952         /* See the comment in mini-arm.c!mono_arch_emit_call for RegTypeFP. */
953         GSList *float_args;
954 #endif
955 };
956
957 struct MonoCallArgParm {
958         MonoInst ins;
959         gint32 size;
960         gint32 offset;
961         gint32 offPrm;
962 };
963
964 /* 
965  * flags for MonoInst
966  * Note: some of the values overlap, because they can't appear
967  * in the same MonoInst.
968  */
969 enum {
970         MONO_INST_HAS_METHOD = 1,
971         MONO_INST_INIT       = 1, /* in localloc */
972         MONO_INST_SINGLE_STEP_LOC = 1, /* in SEQ_POINT */
973         MONO_INST_IS_DEAD    = 2,
974         MONO_INST_TAILCALL   = 4,
975         MONO_INST_VOLATILE   = 4,
976         MONO_INST_NOTYPECHECK    = 4,
977         MONO_INST_NONEMPTY_STACK = 4, /* in SEQ_POINT */
978         MONO_INST_UNALIGNED  = 8,
979     MONO_INST_CFOLD_TAKEN = 8, /* On branches */
980     MONO_INST_CFOLD_NOT_TAKEN = 16, /* On branches */
981         MONO_INST_DEFINITION_HAS_SIDE_EFFECTS = 8,
982         /* the address of the variable has been taken */
983         MONO_INST_INDIRECT   = 16,
984         MONO_INST_NORANGECHECK   = 16,
985         /* On loads, the source address can be null */
986         MONO_INST_FAULT = 32,
987         /* 
988          * On variables, identifies LMF variables. These variables have a dummy type (int), but
989          * require stack space for a MonoLMF struct.
990          */
991         MONO_INST_LMF = 32,
992         /* On loads, the source address points to a constant value */
993         MONO_INST_INVARIANT_LOAD = 64,
994         /* On variables, the variable needs GC tracking */
995         MONO_INST_GC_TRACK = 128,
996         /*
997          * Set on instructions during code emission which make calls, i.e. OP_CALL, OP_THROW.
998          * backend.pc_offset will be set to the pc offset at the end of the native call instructions.
999          */
1000         MONO_INST_GC_CALLSITE = 128,
1001         /* On comparisons, mark the branch following the condition as likely to be taken */
1002         MONO_INST_LIKELY = 128,
1003 };
1004
1005 #define inst_c0 data.op[0].const_val
1006 #define inst_c1 data.op[1].const_val
1007 #define inst_i0 data.op[0].src
1008 #define inst_i1 data.op[1].src
1009 #if (SIZEOF_REGISTER > SIZEOF_VOID_P) && (G_BYTE_ORDER == G_BIG_ENDIAN)
1010 #define inst_p0 data.op[0].pdata.p[SIZEOF_REGISTER/SIZEOF_VOID_P - 1]
1011 #define inst_p1 data.op[1].pdata.p[SIZEOF_REGISTER/SIZEOF_VOID_P - 1]
1012 #else
1013 #define inst_p0 data.op[0].p
1014 #define inst_p1 data.op[1].p
1015 #endif
1016 #define inst_l  data.i8const
1017 #define inst_r  data.r8const
1018 #define inst_left  data.op[0].src
1019 #define inst_right data.op[1].src
1020
1021 #define inst_newa_len   data.op[0].src
1022 #define inst_newa_class data.op[1].klass
1023
1024 #define inst_var    data.op[0].var
1025 #define inst_vtype  data.op[1].vtype
1026 /* in branch instructions */
1027 #define inst_many_bb   data.op[1].many_blocks
1028 #define inst_target_bb data.op[0].target_block
1029 #define inst_true_bb   data.op[1].many_blocks[0]
1030 #define inst_false_bb  data.op[1].many_blocks[1]
1031
1032 #define inst_basereg sreg1
1033 #define inst_indexreg sreg2
1034 #define inst_destbasereg dreg
1035 #define inst_offset data.op[0].const_val
1036 #define inst_imm    data.op[1].const_val
1037 #define inst_call   data.op[1].call_inst
1038
1039 #define inst_phi_args   data.op[1].phi_args
1040 #define inst_eh_block    data.op[1].exception_clause
1041
1042 static inline void
1043 mono_inst_set_src_registers (MonoInst *ins, int *regs)
1044 {
1045         ins->sreg1 = regs [0];
1046         ins->sreg2 = regs [1];
1047         ins->sreg3 = regs [2];
1048 }
1049
1050 /* instruction description for use in regalloc/scheduling */
1051 enum {
1052         MONO_INST_DEST,
1053         MONO_INST_SRC1,         /* we depend on the SRCs to be consecutive */
1054         MONO_INST_SRC2,
1055         MONO_INST_SRC3,
1056         MONO_INST_LEN,
1057         MONO_INST_CLOB,
1058         /* Unused, commented out to reduce the size of the mdesc tables
1059         MONO_INST_FLAGS,
1060         MONO_INST_COST,
1061         MONO_INST_DELAY,
1062         MONO_INST_RES,
1063         */
1064         MONO_INST_MAX
1065 };
1066
1067 typedef union {
1068         struct {
1069                 guint16 tid; /* tree number */
1070                 guint16 bid; /* block number */
1071         } pos ;
1072         guint32 abs_pos; 
1073 } MonoPosition;
1074
1075 typedef struct {
1076         MonoPosition first_use, last_use;
1077 } MonoLiveRange;
1078
1079 typedef struct MonoLiveRange2 MonoLiveRange2;
1080
1081 struct MonoLiveRange2 {
1082         int from, to;
1083         MonoLiveRange2 *next;
1084 };
1085
1086 typedef struct {
1087         /* List of live ranges sorted by 'from' */
1088         MonoLiveRange2 *range;
1089         MonoLiveRange2 *last_range;
1090 } MonoLiveInterval;
1091
1092 /*
1093  * Additional information about a variable
1094  */
1095 struct MonoMethodVar {
1096         guint           idx; /* inside cfg->varinfo, cfg->vars */
1097         MonoLiveRange   range; /* generated by liveness analysis */
1098         MonoLiveInterval *interval; /* generated by liveness analysis */
1099         int             reg; /* != -1 if allocated into a register */
1100         int             spill_costs;
1101         MonoBitSet     *def_in; /* used by SSA */
1102         MonoInst       *def;    /* used by SSA */
1103         MonoBasicBlock *def_bb; /* used by SSA */
1104         GList          *uses;   /* used by SSA */
1105         char            cpstate;  /* used by SSA conditional  constant propagation */
1106         /* The native offsets corresponding to the live range of the variable */
1107         gint32         live_range_start, live_range_end;
1108         /* 
1109          * cfg->varinfo [idx]->dreg could be replaced for OP_REGVAR, this contains the 
1110          * original vreg.
1111          */
1112         gint32         vreg;
1113 };
1114
1115 /*
1116  * Stores state need to resume exception handling when using LLVM
1117  */
1118 typedef struct {
1119         MonoJitInfo *ji;
1120         int clause_index;
1121         MonoContext ctx, new_ctx;
1122         /* FIXME: GC */
1123         gpointer        ex_obj;
1124         MonoLMF *lmf;
1125         int first_filter_idx, filter_idx;
1126 } ResumeState;
1127
1128 typedef struct {
1129         gpointer          end_of_stack;
1130         guint32           stack_size;
1131         /* !defined(HAVE_KW_THREAD) || !defined(MONO_ARCH_ENABLE_MONO_LMF_VAR) */
1132         MonoLMF          *lmf;
1133         MonoLMF          *first_lmf;
1134         gpointer         restore_stack_prot;
1135         guint32          handling_stack_ovf;
1136         gpointer         signal_stack;
1137         guint32          signal_stack_size;
1138         gpointer         stack_ovf_guard_base;
1139         guint32          stack_ovf_guard_size;
1140         guint            stack_ovf_valloced : 1;
1141         void            (*abort_func) (MonoObject *object);
1142         /* Used to implement --debug=casts */
1143         MonoClass       *class_cast_from, *class_cast_to;
1144
1145         /* Stores state needed by handler block with a guard */
1146         MonoContext     ex_ctx;
1147         ResumeState resume_state;
1148
1149         /*Variabled use to implement handler blocks (finally/catch/etc) guards during interruption*/
1150         /* handler block return address */
1151         gpointer handler_block_return_address;
1152
1153         /* handler block been guarded. It's safe to store this even for dynamic methods since there
1154         is an activation on stack making sure it will remain alive.*/
1155         MonoJitExceptionInfo *handler_block;
1156
1157         /* context to be used by the guard trampoline when resuming interruption.*/
1158         MonoContext handler_block_context;
1159         /* 
1160          * Stores the state at the exception throw site to be used by mono_stack_walk ()
1161          * when it is called from profiler functions during exception handling.
1162          */
1163         MonoContext orig_ex_ctx;
1164         gboolean orig_ex_ctx_set;
1165
1166         /* 
1167          * Stores if we need to run a chained exception in Windows.
1168          */
1169         gboolean mono_win_chained_exception_needs_run;
1170
1171         /* 
1172          * The current exception in flight
1173          */
1174         guint32 thrown_exc;
1175         /*
1176          * If the current exception is not a subclass of Exception,
1177          * the original exception.
1178          */
1179         guint32 thrown_non_exc;
1180
1181         /*
1182          * The calling assembly in llvmonly mode.
1183          */
1184         MonoImage *calling_image;
1185 } MonoJitTlsData;
1186
1187 /*
1188  * This structure is an extension of MonoLMF and contains extra information.
1189  */
1190 typedef struct {
1191         struct MonoLMF lmf;
1192         gboolean debugger_invoke;
1193         MonoContext ctx; /* if debugger_invoke is TRUE */
1194 } MonoLMFExt;
1195
1196 /* Generic sharing */
1197
1198 /*
1199  * Flags for which contexts were used in inflating a generic.
1200  */
1201 enum {
1202         MONO_GENERIC_CONTEXT_USED_CLASS = 1,
1203         MONO_GENERIC_CONTEXT_USED_METHOD = 2
1204 };
1205
1206 enum {
1207         /* Cannot be 0 since this is stored in rgctx slots, and 0 means an unitialized rgctx slot */
1208         MONO_GSHAREDVT_BOX_TYPE_VTYPE = 1,
1209         MONO_GSHAREDVT_BOX_TYPE_REF = 2,
1210         MONO_GSHAREDVT_BOX_TYPE_NULLABLE = 3
1211 };
1212
1213 typedef enum {
1214         MONO_RGCTX_INFO_STATIC_DATA,
1215         MONO_RGCTX_INFO_KLASS,
1216         MONO_RGCTX_INFO_ELEMENT_KLASS,
1217         MONO_RGCTX_INFO_VTABLE,
1218         MONO_RGCTX_INFO_TYPE,
1219         MONO_RGCTX_INFO_REFLECTION_TYPE,
1220         MONO_RGCTX_INFO_METHOD,
1221         /* In llvmonly mode, this is a function descriptor */
1222         MONO_RGCTX_INFO_GENERIC_METHOD_CODE,
1223         MONO_RGCTX_INFO_GSHAREDVT_OUT_WRAPPER,
1224         MONO_RGCTX_INFO_CLASS_FIELD,
1225         MONO_RGCTX_INFO_METHOD_RGCTX,
1226         MONO_RGCTX_INFO_METHOD_CONTEXT,
1227         MONO_RGCTX_INFO_REMOTING_INVOKE_WITH_CHECK,
1228         MONO_RGCTX_INFO_METHOD_DELEGATE_CODE,
1229         MONO_RGCTX_INFO_CAST_CACHE,
1230         MONO_RGCTX_INFO_ARRAY_ELEMENT_SIZE,
1231         MONO_RGCTX_INFO_VALUE_SIZE,
1232         /* +1 to avoid zero values in rgctx slots */
1233         MONO_RGCTX_INFO_FIELD_OFFSET,
1234         /* Either the code for a gsharedvt method, or the address for a gsharedvt-out trampoline for the method */
1235         /* In llvmonly mode, this is a function descriptor */
1236         MONO_RGCTX_INFO_METHOD_GSHAREDVT_OUT_TRAMPOLINE,
1237         /* Same for virtual calls */
1238         /* In llvmonly mode, this is a function descriptor */
1239         MONO_RGCTX_INFO_METHOD_GSHAREDVT_OUT_TRAMPOLINE_VIRT,
1240         /* Same for calli, associated with a signature */
1241         MONO_RGCTX_INFO_SIG_GSHAREDVT_OUT_TRAMPOLINE_CALLI,
1242         MONO_RGCTX_INFO_SIG_GSHAREDVT_IN_TRAMPOLINE_CALLI,
1243         /* One of MONO_GSHAREDVT_BOX_TYPE */
1244         MONO_RGCTX_INFO_CLASS_BOX_TYPE,
1245         /* Resolves to a MonoGSharedVtMethodRuntimeInfo */
1246         MONO_RGCTX_INFO_METHOD_GSHAREDVT_INFO,
1247         MONO_RGCTX_INFO_LOCAL_OFFSET,
1248         MONO_RGCTX_INFO_MEMCPY,
1249         MONO_RGCTX_INFO_BZERO,
1250         /* The address of Nullable<T>.Box () */
1251         /* In llvmonly mode, this is a function descriptor */
1252         MONO_RGCTX_INFO_NULLABLE_CLASS_BOX,
1253         MONO_RGCTX_INFO_NULLABLE_CLASS_UNBOX,
1254         /* MONO_PATCH_INFO_VCALL_METHOD */
1255         MONO_RGCTX_INFO_VIRT_METHOD_CODE,
1256         /*
1257          * MONO_PATCH_INFO_VCALL_METHOD
1258          * Same as MONO_RGCTX_INFO_CLASS_BOX_TYPE, but for the class
1259          * which implements the method.
1260          */
1261         MONO_RGCTX_INFO_VIRT_METHOD_BOX_TYPE,
1262 } MonoRgctxInfoType;
1263
1264 typedef struct _MonoRuntimeGenericContextInfoTemplate {
1265         MonoRgctxInfoType info_type;
1266         gpointer data;
1267         struct _MonoRuntimeGenericContextInfoTemplate *next;
1268 } MonoRuntimeGenericContextInfoTemplate;
1269
1270 typedef struct {
1271         MonoClass *next_subclass;
1272         MonoRuntimeGenericContextInfoTemplate *infos;
1273         GSList *method_templates;
1274 } MonoRuntimeGenericContextTemplate;
1275
1276 typedef struct {
1277         MonoVTable *class_vtable; /* must be the first element */
1278         MonoGenericInst *method_inst;
1279         gpointer infos [MONO_ZERO_LEN_ARRAY];
1280 } MonoMethodRuntimeGenericContext;
1281
1282 #define MONO_SIZEOF_METHOD_RUNTIME_GENERIC_CONTEXT (sizeof (MonoMethodRuntimeGenericContext) - MONO_ZERO_LEN_ARRAY * SIZEOF_VOID_P)
1283
1284 #define MONO_RGCTX_SLOT_MAKE_RGCTX(i)   (i)
1285 #define MONO_RGCTX_SLOT_MAKE_MRGCTX(i)  ((i) | 0x80000000)
1286 #define MONO_RGCTX_SLOT_INDEX(s)        ((s) & 0x7fffffff)
1287 #define MONO_RGCTX_SLOT_IS_MRGCTX(s)    (((s) & 0x80000000) ? TRUE : FALSE)
1288
1289 #define MONO_GSHAREDVT_DEL_INVOKE_VT_OFFSET -2
1290
1291 typedef struct {
1292         MonoMethod *method;
1293         MonoRuntimeGenericContextInfoTemplate *entries;
1294         int num_entries, count_entries;
1295 } MonoGSharedVtMethodInfo;
1296
1297 /* This is used by gsharedvt methods to allocate locals and compute local offsets */
1298 typedef struct {
1299         int locals_size;
1300         /*
1301          * The results of resolving the entries in MOonGSharedVtMethodInfo->entries.
1302          * We use this instead of rgctx slots since these can be loaded using a load instead
1303          * of a call to an rgctx fetch trampoline.
1304          */
1305         gpointer entries [MONO_ZERO_LEN_ARRAY];
1306 } MonoGSharedVtMethodRuntimeInfo;
1307
1308 typedef struct
1309 {
1310         MonoMethod *invoke;
1311         MonoMethod *method;
1312         MonoMethodSignature *invoke_sig;
1313         MonoMethodSignature *sig;
1314         gpointer method_ptr;
1315         gpointer invoke_impl;
1316         gpointer impl_this;
1317         gpointer impl_nothis;
1318         gboolean need_rgctx_tramp;
1319 } MonoDelegateTrampInfo;
1320
1321 /*
1322  * A function descriptor, which is a function address + argument pair.
1323  * In llvm-only mode, these are used instead of trampolines to pass
1324  * extra arguments to runtime functions/methods.
1325  */
1326 typedef struct
1327 {
1328         gpointer addr;
1329         gpointer arg;
1330 } MonoFtnDesc;
1331
1332 typedef enum {
1333 #define PATCH_INFO(a,b) MONO_PATCH_INFO_ ## a,
1334 #include "patch-info.h"
1335 #undef PATCH_INFO
1336         MONO_PATCH_INFO_NUM
1337 } MonoJumpInfoType;
1338
1339 /*
1340  * We need to store the image which the token refers to along with the token,
1341  * since the image might not be the same as the image of the method which
1342  * contains the relocation, because of inlining.
1343  */
1344 typedef struct MonoJumpInfoToken {
1345         MonoImage *image;
1346         guint32 token;
1347         gboolean has_context;
1348         MonoGenericContext context;
1349 } MonoJumpInfoToken;
1350
1351 typedef struct MonoJumpInfoBBTable {
1352         MonoBasicBlock **table;
1353         int table_size;
1354 } MonoJumpInfoBBTable;
1355
1356 typedef struct MonoJumpInfoRgctxEntry MonoJumpInfoRgctxEntry;
1357
1358 /* Contains information describing an LLVM IMT trampoline */
1359 typedef struct MonoJumpInfoImtTramp {
1360         MonoMethod *method;
1361         int vt_offset;
1362 } MonoJumpInfoImtTramp;
1363
1364 typedef struct MonoJumpInfoGSharedVtCall MonoJumpInfoGSharedVtCall;
1365
1366 /*
1367  * Represents the method which is called when a virtual call is made to METHOD
1368  * on a receiver of type KLASS.
1369  */
1370 typedef struct {
1371         /* Receiver class */
1372         MonoClass *klass;
1373         /* Virtual method */
1374         MonoMethod *method;
1375 } MonoJumpInfoVirtMethod;
1376
1377 typedef struct MonoJumpInfo MonoJumpInfo;
1378 struct MonoJumpInfo {
1379         MonoJumpInfo *next;
1380         /* Relocation type for patching */
1381         int relocation;
1382         union {
1383                 int i;
1384                 guint8 *p;
1385                 MonoInst *label;
1386         } ip;
1387
1388         MonoJumpInfoType type;
1389         union {
1390                 gconstpointer   target;
1391 #if SIZEOF_VOID_P == 8
1392                 gint64          offset;
1393 #else
1394                 int             offset;
1395 #endif
1396                 int index;
1397                 MonoBasicBlock *bb;
1398                 MonoInst       *inst;
1399                 MonoMethod     *method;
1400                 MonoClass      *klass;
1401                 MonoClassField *field;
1402                 MonoImage      *image;
1403                 MonoVTable     *vtable;
1404                 const char     *name;
1405                 MonoJumpInfoToken  *token;
1406                 MonoJumpInfoBBTable *table;
1407                 MonoJumpInfoRgctxEntry *rgctx_entry;
1408                 MonoJumpInfoImtTramp *imt_tramp;
1409                 MonoJumpInfoGSharedVtCall *gsharedvt;
1410                 MonoGSharedVtMethodInfo *gsharedvt_method;
1411                 MonoMethodSignature *sig;
1412                 MonoDelegateClassMethodPair *del_tramp;
1413                 /* MONO_PATCH_INFO_VIRT_METHOD */
1414                 MonoJumpInfoVirtMethod *virt_method;
1415         } data;
1416 };
1417  
1418 /*
1419  * Contains information for computing the
1420  * property given by INFO_TYPE of the runtime
1421  * object described by DATA.
1422  */
1423 struct MonoJumpInfoRgctxEntry {
1424         MonoMethod *method;
1425         gboolean in_mrgctx;
1426         MonoJumpInfo *data; /* describes the data to be loaded */
1427         MonoRgctxInfoType info_type;
1428 };
1429
1430 /* Contains information about a gsharedvt call */
1431 struct MonoJumpInfoGSharedVtCall {
1432         /* The original signature of the call */
1433         MonoMethodSignature *sig;
1434         /* The method which is called */
1435         MonoMethod *method;
1436 };
1437
1438 typedef enum {
1439         MONO_TRAMPOLINE_JIT,
1440         MONO_TRAMPOLINE_JUMP,
1441         MONO_TRAMPOLINE_RGCTX_LAZY_FETCH,
1442         MONO_TRAMPOLINE_AOT,
1443         MONO_TRAMPOLINE_AOT_PLT,
1444         MONO_TRAMPOLINE_DELEGATE,
1445         MONO_TRAMPOLINE_RESTORE_STACK_PROT,
1446         MONO_TRAMPOLINE_GENERIC_VIRTUAL_REMOTING,
1447         MONO_TRAMPOLINE_VCALL,
1448         MONO_TRAMPOLINE_HANDLER_BLOCK_GUARD,
1449         MONO_TRAMPOLINE_NUM
1450 } MonoTrampolineType;
1451
1452 /* These trampolines return normally to their caller */
1453 #define MONO_TRAMPOLINE_TYPE_MUST_RETURN(t)             \
1454         ((t) == MONO_TRAMPOLINE_RESTORE_STACK_PROT ||   \
1455          (t) == MONO_TRAMPOLINE_RGCTX_LAZY_FETCH)
1456
1457 /* These trampolines receive an argument directly in a register */
1458 #define MONO_TRAMPOLINE_TYPE_HAS_ARG(t)         \
1459         ((t) == MONO_TRAMPOLINE_HANDLER_BLOCK_GUARD)
1460
1461 /* optimization flags */
1462 #define OPTFLAG(id,shift,name,descr) MONO_OPT_ ## id = 1 << shift,
1463 enum {
1464 #include "optflags-def.h"
1465         MONO_OPT_LAST
1466 };
1467
1468 /*
1469  * This structure represents a JIT backend.
1470  */
1471 typedef struct {
1472         guint            have_card_table_wb : 1;
1473         guint            have_op_generic_class_init : 1;
1474         guint            emulate_mul_div : 1;
1475         guint            emulate_div : 1;
1476         guint            emulate_long_shift_opts : 1;
1477         guint            have_objc_get_selector : 1;
1478         guint            have_generalized_imt_thunk : 1;
1479         guint            have_tls_get : 1;
1480         guint            have_tls_get_reg : 1;
1481         guint            have_liverange_ops: 1;
1482         guint            have_op_tail_call : 1;
1483         guint            have_dummy_init : 1;
1484         guint            gshared_supported : 1;
1485         guint            use_fpstack : 1;
1486         guint            ilp32 : 1;
1487         guint            need_got_var : 1;
1488         guint            need_div_check : 1;
1489         guint            no_unaligned_access : 1;
1490         int              monitor_enter_adjustment;
1491         int              dyn_call_param_area;
1492 } MonoBackend;
1493
1494 /* Flags for mini_method_compile () */
1495 typedef enum {
1496         /* Whenever to run cctors during JITting */
1497         JIT_FLAG_RUN_CCTORS = (1 << 0),
1498         /* Whenever this is an AOT compilation */
1499         JIT_FLAG_AOT = (1 << 1),
1500         /* Whenever this is a full AOT compilation */
1501         JIT_FLAG_FULL_AOT = (1 << 2),
1502         /* Whenever to compile with LLVM */
1503         JIT_FLAG_LLVM = (1 << 3),
1504         /* Whenever to disable direct calls to direct calls to icall functions */
1505         JIT_FLAG_NO_DIRECT_ICALLS = (1 << 4),
1506         /* Emit explicit null checks */
1507         JIT_FLAG_EXPLICIT_NULL_CHECKS = (1 << 5),
1508         /* Whenever to compile in llvm-only mode */
1509         JIT_FLAG_LLVM_ONLY = (1 << 6),
1510 } JitFlags;
1511
1512 /* Bit-fields in the MonoBasicBlock.region */
1513 #define MONO_REGION_TRY       0
1514 #define MONO_REGION_FINALLY  16
1515 #define MONO_REGION_CATCH    32
1516 #define MONO_REGION_FAULT    64         /* Currently unused */
1517 #define MONO_REGION_FILTER  128
1518
1519 #define MONO_BBLOCK_IS_IN_REGION(bblock, regtype) (((bblock)->region & (0xf << 4)) == (regtype))
1520
1521 #define MONO_REGION_FLAGS(region) ((region) & 0x7)
1522 #define MONO_REGION_CLAUSE_INDEX(region) (((region) >> 8) - 1)
1523
1524 #define get_vreg_to_inst(cfg, vreg) ((vreg) < (cfg)->vreg_to_inst_len ? (cfg)->vreg_to_inst [(vreg)] : NULL)
1525
1526 #define vreg_is_volatile(cfg, vreg) (G_UNLIKELY (get_vreg_to_inst ((cfg), (vreg)) && (get_vreg_to_inst ((cfg), (vreg))->flags & (MONO_INST_VOLATILE|MONO_INST_INDIRECT))))
1527
1528 #define vreg_is_ref(cfg, vreg) ((vreg) < (cfg)->vreg_is_ref_len ? (cfg)->vreg_is_ref [(vreg)] : 0)
1529 #define vreg_is_mp(cfg, vreg) ((vreg) < (cfg)->vreg_is_mp_len ? (cfg)->vreg_is_mp [(vreg)] : 0)
1530
1531 /*
1532  * Control Flow Graph and compilation unit information
1533  */
1534 typedef struct {
1535         MonoMethod      *method;
1536         MonoMethodHeader *header;
1537         MonoMemPool     *mempool;
1538         MonoInst       **varinfo;
1539         MonoMethodVar   *vars;
1540         MonoInst        *ret;
1541         MonoBasicBlock  *bb_entry;
1542         MonoBasicBlock  *bb_exit;
1543         MonoBasicBlock  *bb_init;
1544         MonoBasicBlock **bblocks;
1545         MonoBasicBlock **cil_offset_to_bb;
1546         MonoMemPool     *state_pool; /* used by instruction selection */
1547         MonoBasicBlock  *cbb;        /* used by instruction selection */
1548         MonoInst        *prev_ins;   /* in decompose */
1549         MonoJumpInfo    *patch_info;
1550         MonoJitInfo     *jit_info;
1551         MonoJitDynamicMethodInfo *dynamic_info;
1552         guint            num_bblocks, max_block_num;
1553         guint            locals_start;
1554         guint            num_varinfo; /* used items in varinfo */
1555         guint            varinfo_count; /* total storage in varinfo */
1556         gint             stack_offset;
1557         gint             max_ireg;
1558         gint             cil_offset_to_bb_len;
1559         MonoRegState    *rs;
1560         MonoSpillInfo   *spill_info [16]; /* machine register spills */
1561         gint             spill_count;
1562         gint             spill_info_len [16];
1563         /* unsigned char   *cil_code; */
1564         MonoMethod      *inlined_method; /* the method which is currently inlined */
1565         MonoInst        *domainvar; /* a cache for the current domain */
1566         MonoInst        *got_var; /* Global Offset Table variable */
1567         MonoInst        **locals;
1568         MonoInst        *rgctx_var; /* Runtime generic context variable (for static generic methods) */
1569         MonoInst        **args;
1570         MonoType        **arg_types;
1571         MonoMethod      *current_method; /* The method currently processed by method_to_ir () */
1572         MonoMethod      *method_to_register; /* The method to register in JIT info tables */
1573         MonoGenericContext *generic_context;
1574
1575         MonoBackend *backend;
1576
1577         /* 
1578          * This variable represents the hidden argument holding the vtype
1579          * return address. If the method returns something other than a vtype, or
1580          * the vtype is returned in registers this is NULL.
1581          */
1582         MonoInst        *vret_addr;
1583
1584         /*
1585          * This is used to initialize the cil_code field of MonoInst's.
1586          */
1587         const unsigned char *ip;
1588         
1589         struct MonoAliasingInformation *aliasing_info;
1590
1591         /* A hashtable of region ID-> SP var mappings */
1592         /* An SP var is a place to store the stack pointer (used by handlers)*/
1593         GHashTable      *spvars;
1594
1595         /* A hashtable of region ID -> EX var mappings */
1596         /* An EX var stores the exception object passed to catch/filter blocks */
1597         GHashTable      *exvars;
1598
1599         GList           *ldstr_list; /* used by AOT */
1600         
1601         MonoDomain      *domain;
1602
1603         guint            real_offset;
1604         GHashTable      *cbb_hash;
1605
1606         /* The current virtual register number */
1607         guint32 next_vreg;
1608
1609         MonoGenericSharingContext gsctx;
1610         MonoGenericContext *gsctx_context;
1611
1612         MonoGSharedVtMethodInfo *gsharedvt_info;
1613
1614         /* Points to the gsharedvt locals area at runtime */
1615         MonoInst *gsharedvt_locals_var;
1616
1617         /* The localloc instruction used to initialize gsharedvt_locals_var */
1618         MonoInst *gsharedvt_locals_var_ins;
1619
1620         /* Points to a MonoGSharedVtMethodRuntimeInfo at runtime */
1621         MonoInst *gsharedvt_info_var;
1622
1623         /* For native-to-managed wrappers, CEE_MONO_JIT_(AT|DE)TACH opcodes */
1624         MonoInst *orig_domain_var;
1625
1626         MonoInst *lmf_var;
1627         MonoInst *lmf_addr_var;
1628
1629         MonoInst *stack_inbalance_var;
1630
1631         unsigned char   *cil_start;
1632 #ifdef __native_client_codegen__
1633         /* this alloc is not aligned, native_code */
1634         /* is the 32-byte aligned version of this */
1635         unsigned char   *native_code_alloc;
1636 #endif
1637         unsigned char   *native_code;
1638         guint            code_size;
1639         guint            code_len;
1640         guint            prolog_end;
1641         guint            epilog_begin;
1642         guint            epilog_end;
1643         regmask_t        used_int_regs;
1644         guint32          opt;
1645         guint32          prof_options;
1646         guint32          flags;
1647         guint32          comp_done;
1648         guint32          verbose_level;
1649         guint32          stack_usage;
1650         guint32          param_area;
1651         guint32          frame_reg;
1652         gint32           sig_cookie;
1653         guint            disable_aot : 1;
1654         guint            disable_ssa : 1;
1655         guint            disable_llvm : 1;
1656         guint            enable_extended_bblocks : 1;
1657         guint            run_cctors : 1;
1658         guint            need_lmf_area : 1;
1659         guint            compile_aot : 1;
1660         guint            full_aot : 1;
1661         guint            compile_llvm : 1;
1662         guint            got_var_allocated : 1;
1663         guint            ret_var_is_local : 1;
1664         guint            ret_var_set : 1;
1665         guint            unverifiable : 1;
1666         guint            skip_visibility : 1;
1667         guint            disable_reuse_registers : 1;
1668         guint            disable_reuse_stack_slots : 1;
1669         guint            disable_reuse_ref_stack_slots : 1;
1670         guint            disable_ref_noref_stack_slot_share : 1;
1671         guint            disable_initlocals_opt : 1;
1672         guint            disable_initlocals_opt_refs : 1;
1673         guint            disable_omit_fp : 1;
1674         guint            disable_vreg_to_lvreg : 1;
1675         guint            disable_deadce_vars : 1;
1676         guint            disable_out_of_line_bblocks : 1;
1677         guint            disable_direct_icalls : 1;
1678         guint            disable_gc_safe_points : 1;
1679         guint            create_lmf_var : 1;
1680         /*
1681          * When this is set, the code to push/pop the LMF from the LMF stack is generated as IR
1682          * instead of being generated in emit_prolog ()/emit_epilog ().
1683          */
1684         guint            lmf_ir : 1;
1685         /*
1686          * Whenever to use the mono_lmf TLS variable instead of indirection through the
1687          * mono_lmf_addr TLS variable.
1688          */
1689         guint            lmf_ir_mono_lmf : 1;
1690         guint            gen_write_barriers : 1;
1691         guint            init_ref_vars : 1;
1692         guint            extend_live_ranges : 1;
1693         guint            compute_precise_live_ranges : 1;
1694         guint            has_got_slots : 1;
1695         guint            uses_rgctx_reg : 1;
1696         guint            uses_vtable_reg : 1;
1697         guint            uses_simd_intrinsics : 1;
1698         guint            keep_cil_nops : 1;
1699         guint            gen_seq_points : 1;
1700         /* Generate seq points for use by the debugger */
1701         guint            gen_sdb_seq_points : 1;
1702         guint            explicit_null_checks : 1;
1703         guint            compute_gc_maps : 1;
1704         guint            soft_breakpoints : 1;
1705         guint            arch_eh_jit_info : 1;
1706         guint            has_emulated_ops : 1;
1707         guint            has_indirection : 1;
1708         guint            has_atomic_add_i4 : 1;
1709         guint            has_atomic_exchange_i4 : 1;
1710         guint            has_atomic_cas_i4 : 1;
1711         guint            check_pinvoke_callconv : 1;
1712         guint            has_unwind_info_for_epilog : 1;
1713         guint            disable_inline : 1;
1714         /* Disable inlining into caller */
1715         guint            no_inline : 1;
1716         guint            gshared : 1;
1717         guint            gsharedvt : 1;
1718         guint            r4fp : 1;
1719         guint            llvm_only : 1;
1720         int              r4_stack_type;
1721         gpointer         debug_info;
1722         guint32          lmf_offset;
1723     guint16          *intvars;
1724         MonoProfileCoverageInfo *coverage_info;
1725         GHashTable       *token_info_hash;
1726         MonoCompileArch  arch;
1727         guint32          inline_depth;
1728         /* Size of memory reserved for thunks */
1729         int              thunk_area;
1730         /* Thunks */
1731         guint8          *thunks;
1732         /* Offset between the start of code and the thunks area */
1733         int              thunks_offset;
1734         guint32          exception_type;        /* MONO_EXCEPTION_* */
1735         guint32          exception_data;
1736         char*            exception_message;
1737         gpointer         exception_ptr;
1738
1739         guint8 *         encoded_unwind_ops;
1740         guint32          encoded_unwind_ops_len;
1741         GSList*          unwind_ops;
1742
1743         GList*           dont_inline;
1744
1745         /* Fields used by the local reg allocator */
1746         void*            reginfo;
1747         int              reginfo_len;
1748
1749         /* Maps vregs to their associated MonoInst's */
1750         /* vregs with an associated MonoInst are 'global' while others are 'local' */
1751         MonoInst **vreg_to_inst;
1752
1753         /* Size of above array */
1754         guint32 vreg_to_inst_len;
1755
1756         /* Marks vregs which hold a GC ref */
1757         /* FIXME: Use a bitmap */
1758         gboolean *vreg_is_ref;
1759
1760         /* Size of above array */
1761         guint32 vreg_is_ref_len;
1762
1763         /* Marks vregs which hold a managed pointer */
1764         /* FIXME: Use a bitmap */
1765         gboolean *vreg_is_mp;
1766
1767         /* Size of above array */
1768         guint32 vreg_is_mp_len;
1769
1770         /* 
1771          * The original method to compile, differs from 'method' when doing generic
1772          * sharing.
1773          */
1774         MonoMethod *orig_method;
1775
1776         /* Patches which describe absolute addresses embedded into the native code */
1777         GHashTable *abs_patches;
1778
1779         /* If the arch passes valuetypes by address, then for methods
1780            which use JMP the arch code should use these local
1781            variables to store the addresses of incoming valuetypes.
1782            The addresses should be stored in mono_arch_emit_prolog()
1783            and can be used when emitting code for OP_JMP.  See
1784            mini-ppc.c. */
1785         MonoInst **tailcall_valuetype_addrs;
1786
1787         /* Used to implement move_i4_to_f on archs that can't do raw
1788         copy between an ireg and a freg. This is an int32 var.*/
1789         MonoInst *iconv_raw_var;
1790
1791         /* Used to implement fconv_to_r8_x. This is a double (8 bytes) var.*/
1792         MonoInst *fconv_to_r8_x_var;
1793
1794         /*Use to implement simd constructors. This is a vector (16 bytes) var.*/
1795         MonoInst *simd_ctor_var;
1796
1797         /* Used to implement dyn_call */
1798         MonoInst *dyn_call_var;
1799
1800         /*
1801          * List of sequence points represented as IL offset+native offset pairs.
1802          * Allocated using glib.
1803          * IL offset can be -1 or 0xffffff to refer to the sequence points
1804          * inside the prolog and epilog used to implement method entry/exit events.
1805          */
1806         GPtrArray *seq_points;
1807
1808         /* The encoded sequence point info */
1809         struct MonoSeqPointInfo *seq_point_info;
1810
1811         /* Method headers which need to be freed after compilation */
1812         GSList *headers_to_free;
1813
1814         /* Used by AOT */
1815         guint32 got_offset, ex_info_offset, method_info_offset, method_index;
1816         /* Symbol used to refer to this method in generated assembly */
1817         char *asm_symbol;
1818         char *asm_debug_symbol;
1819         char *llvm_method_name;
1820         int castclass_cache_index;
1821
1822         MonoJitExceptionInfo *llvm_ex_info;
1823         guint32 llvm_ex_info_len;
1824         int llvm_this_reg, llvm_this_offset;
1825
1826         GSList *try_block_holes;
1827
1828         /* DWARF location list for 'this' */
1829         GSList *this_loclist;
1830
1831         /* DWARF location list for 'rgctx_var' */
1832         GSList *rgctx_loclist;
1833
1834         int *gsharedvt_vreg_to_idx;
1835
1836         GSList *signatures;
1837
1838         /* GC Maps */
1839    
1840         /* The offsets of the locals area relative to the frame pointer */
1841         gint locals_min_stack_offset, locals_max_stack_offset;
1842
1843         /* The current CFA rule */
1844         int cur_cfa_reg, cur_cfa_offset;
1845
1846         /* The final CFA rule at the end of the prolog */
1847         int cfa_reg, cfa_offset;
1848
1849         /* Points to a MonoCompileGC */
1850         gpointer gc_info;
1851
1852         /*
1853          * The encoded GC map along with its size. This contains binary data so it can be saved in an AOT
1854          * image etc, but it requires a 4 byte alignment.
1855          */
1856         guint8 *gc_map;
1857         guint32 gc_map_size;
1858
1859         /* Error handling */
1860         MonoError error;
1861
1862         /* pointer to context datastructure used for graph dumping */
1863         MonoGraphDumper *gdump_ctx;
1864
1865         /* Stats */
1866         int stat_allocate_var;
1867         int stat_locals_stack_size;
1868         int stat_basic_blocks;
1869         int stat_cil_code_size;
1870         int stat_n_regvars;
1871         int stat_inlineable_methods;
1872         int stat_inlined_methods;
1873         int stat_code_reallocs;
1874 } MonoCompile;
1875
1876 typedef enum {
1877         MONO_CFG_HAS_ALLOCA = 1 << 0,
1878         MONO_CFG_HAS_CALLS  = 1 << 1,
1879         MONO_CFG_HAS_LDELEMA  = 1 << 2,
1880         MONO_CFG_HAS_VARARGS  = 1 << 3,
1881         MONO_CFG_HAS_TAIL     = 1 << 4,
1882         MONO_CFG_HAS_FPOUT    = 1 << 5, /* there are fp values passed in int registers */
1883         MONO_CFG_HAS_SPILLUP  = 1 << 6, /* spill var slots are allocated from bottom to top */
1884         MONO_CFG_HAS_CHECK_THIS  = 1 << 7,
1885         MONO_CFG_HAS_ARRAY_ACCESS = 1 << 8,
1886         MONO_CFG_HAS_TYPE_CHECK = 1 << 9
1887 } MonoCompileFlags;
1888
1889 typedef struct {
1890         gint32 methods_compiled;
1891         gint32 methods_aot;
1892         gint32 methods_lookups;
1893         gint32 allocate_var;
1894         gint32 cil_code_size;
1895         gint32 native_code_size;
1896         gint32 code_reallocs;
1897         gint32 max_code_size_ratio;
1898         gint32 biggest_method_size;
1899         gint32 allocated_code_size;
1900         gint32 allocated_seq_points_size;
1901         gint32 inlineable_methods;
1902         gint32 inlined_methods;
1903         gint32 basic_blocks;
1904         gint32 max_basic_blocks;
1905         gint32 locals_stack_size;
1906         gint32 regvars;
1907         gint32 generic_virtual_invocations;
1908         gint32 alias_found;
1909         gint32 alias_removed;
1910         gint32 loads_eliminated;
1911         gint32 stores_eliminated;
1912         int methods_with_llvm;
1913         int methods_without_llvm;
1914         char *max_ratio_method;
1915         char *biggest_method;
1916         double jit_method_to_ir;
1917         double jit_liveness_handle_exception_clauses;
1918         double jit_handle_out_of_line_bblock;
1919         double jit_decompose_long_opts;
1920         double jit_decompose_typechecks;
1921         double jit_local_cprop;
1922         double jit_local_emulate_ops;
1923         double jit_optimize_branches;
1924         double jit_handle_global_vregs;
1925         double jit_local_deadce;
1926         double jit_local_alias_analysis;
1927         double jit_if_conversion;
1928         double jit_bb_ordering;
1929         double jit_compile_dominator_info;
1930         double jit_compute_natural_loops;
1931         double jit_insert_safepoints;
1932         double jit_ssa_compute;
1933         double jit_ssa_cprop;
1934         double jit_ssa_deadce;
1935         double jit_perform_abc_removal;
1936         double jit_ssa_remove;
1937         double jit_local_cprop2;
1938         double jit_handle_global_vregs2;
1939         double jit_local_deadce2;
1940         double jit_optimize_branches2;
1941         double jit_decompose_vtype_opts;
1942         double jit_decompose_array_access_opts;
1943         double jit_liveness_handle_exception_clauses2;
1944         double jit_analyze_liveness;
1945         double jit_linear_scan;
1946         double jit_arch_allocate_vars;
1947         double jit_spill_global_vars;
1948         double jit_local_cprop3;
1949         double jit_local_deadce3;
1950         double jit_codegen;
1951         double jit_create_jit_info;
1952         double jit_gc_create_gc_map;
1953         double jit_save_seq_point_info;
1954         double jit_time;
1955         gboolean enabled;
1956 } MonoJitStats;
1957
1958 extern MonoJitStats mono_jit_stats;
1959
1960 /* opcodes: value assigned after all the CIL opcodes */
1961 #ifdef MINI_OP
1962 #undef MINI_OP
1963 #endif
1964 #ifdef MINI_OP3
1965 #undef MINI_OP3
1966 #endif
1967 #define MINI_OP(a,b,dest,src1,src2) a,
1968 #define MINI_OP3(a,b,dest,src1,src2,src3) a,
1969 enum {
1970         OP_START = MONO_CEE_LAST - 1,
1971 #include "mini-ops.h"
1972         OP_LAST
1973 };
1974 #undef MINI_OP
1975 #undef MINI_OP3
1976
1977 #if SIZEOF_VOID_P == 8
1978 #define OP_PCONST OP_I8CONST
1979 #define OP_DUMMY_PCONST OP_DUMMY_I8CONST
1980 #define OP_PADD OP_LADD
1981 #define OP_PADD_IMM OP_LADD_IMM
1982 #define OP_PSUB_IMM OP_LSUB_IMM
1983 #define OP_PAND_IMM OP_LAND_IMM
1984 #define OP_PXOR_IMM OP_LXOR_IMM
1985 #define OP_PSUB OP_LSUB
1986 #define OP_PMUL OP_LMUL
1987 #define OP_PMUL_IMM OP_LMUL_IMM
1988 #define OP_PNEG OP_LNEG
1989 #define OP_PCONV_TO_I1 OP_LCONV_TO_I1
1990 #define OP_PCONV_TO_U1 OP_LCONV_TO_U1
1991 #define OP_PCONV_TO_I2 OP_LCONV_TO_I2
1992 #define OP_PCONV_TO_U2 OP_LCONV_TO_U2
1993 #define OP_PCONV_TO_OVF_I1_UN OP_LCONV_TO_OVF_I1_UN
1994 #define OP_PCONV_TO_OVF_I1 OP_LCONV_TO_OVF_I1
1995 #define OP_PBEQ OP_LBEQ
1996 #define OP_PCEQ OP_LCEQ
1997 #define OP_PBNE_UN OP_LBNE_UN
1998 #define OP_PBGE_UN OP_LBGE_UN
1999 #define OP_PBLT_UN OP_LBLT_UN
2000 #define OP_PBGE OP_LBGE
2001 #define OP_STOREP_MEMBASE_REG OP_STOREI8_MEMBASE_REG
2002 #define OP_STOREP_MEMBASE_IMM OP_STOREI8_MEMBASE_IMM
2003 #else
2004 #define OP_PCONST OP_ICONST
2005 #define OP_DUMMY_PCONST OP_DUMMY_ICONST
2006 #define OP_PADD OP_IADD
2007 #define OP_PADD_IMM OP_IADD_IMM
2008 #define OP_PSUB_IMM OP_ISUB_IMM
2009 #define OP_PAND_IMM OP_IAND_IMM
2010 #define OP_PXOR_IMM OP_IXOR_IMM
2011 #define OP_PSUB OP_ISUB
2012 #define OP_PMUL OP_IMUL
2013 #define OP_PMUL_IMM OP_IMUL_IMM
2014 #define OP_PNEG OP_INEG
2015 #define OP_PCONV_TO_I1 OP_ICONV_TO_I1
2016 #define OP_PCONV_TO_U1 OP_ICONV_TO_U1
2017 #define OP_PCONV_TO_I2 OP_ICONV_TO_I2
2018 #define OP_PCONV_TO_U2 OP_ICONV_TO_U2
2019 #define OP_PCONV_TO_OVF_I1_UN OP_ICONV_TO_OVF_I1_UN
2020 #define OP_PCONV_TO_OVF_I1 OP_ICONV_TO_OVF_I1
2021 #define OP_PBEQ OP_IBEQ
2022 #define OP_PCEQ OP_ICEQ
2023 #define OP_PBNE_UN OP_IBNE_UN
2024 #define OP_PBGE_UN OP_IBGE_UN
2025 #define OP_PBLT_UN OP_IBLT_UN
2026 #define OP_PBGE OP_IBGE
2027 #define OP_STOREP_MEMBASE_REG OP_STOREI4_MEMBASE_REG
2028 #define OP_STOREP_MEMBASE_IMM OP_STOREI4_MEMBASE_IMM
2029 #endif
2030
2031 /* Opcodes to load/store regsize quantities */
2032 #if defined (__mono_ilp32__)
2033 #define OP_LOADR_MEMBASE OP_LOADI8_MEMBASE
2034 #define OP_STORER_MEMBASE_REG OP_STOREI8_MEMBASE_REG
2035 #else
2036 #define OP_LOADR_MEMBASE OP_LOAD_MEMBASE
2037 #define OP_STORER_MEMBASE_REG OP_STORE_MEMBASE_REG
2038 #endif
2039
2040 typedef enum {
2041         STACK_INV,
2042         STACK_I4,
2043         STACK_I8,
2044         STACK_PTR,
2045         STACK_R8,
2046         STACK_MP,
2047         STACK_OBJ,
2048         STACK_VTYPE,
2049         STACK_R4,
2050         STACK_MAX
2051 } MonoStackType;
2052
2053 typedef struct {
2054         union {
2055                 double   r8;
2056                 gint32   i4;
2057                 gint64   i8;
2058                 gpointer p;
2059                 MonoClass *klass;
2060         } data;
2061         int type;
2062 } StackSlot;
2063
2064 #if HAVE_ARRAY_ELEM_INIT
2065 extern const guint8 mono_burg_arity [];
2066 #else
2067 extern guint8 mono_burg_arity [];
2068 #endif
2069
2070 extern const char MONO_ARCH_CPU_SPEC [];
2071 #define MONO_ARCH_CPU_SPEC_IDX_COMBINE(a) a ## _idx
2072 #define MONO_ARCH_CPU_SPEC_IDX(a) MONO_ARCH_CPU_SPEC_IDX_COMBINE(a)
2073 extern const guint16 MONO_ARCH_CPU_SPEC_IDX(MONO_ARCH_CPU_SPEC) [];
2074 #define ins_get_spec(op) ((const char*)&MONO_ARCH_CPU_SPEC + MONO_ARCH_CPU_SPEC_IDX(MONO_ARCH_CPU_SPEC)[(op) - OP_LOAD])
2075
2076 enum {
2077         MONO_COMP_DOM = 1,
2078         MONO_COMP_IDOM = 2,
2079         MONO_COMP_DFRONTIER = 4,
2080         MONO_COMP_DOM_REV = 8,
2081         MONO_COMP_LIVENESS = 16,
2082         MONO_COMP_SSA = 32,
2083         MONO_COMP_SSA_DEF_USE = 64,
2084         MONO_COMP_REACHABILITY = 128,
2085         MONO_COMP_LOOPS = 256
2086 };
2087
2088 typedef enum {
2089         MONO_GRAPH_CFG = 1,
2090         MONO_GRAPH_DTREE = 2,
2091         MONO_GRAPH_CFG_CODE = 4,
2092         MONO_GRAPH_CFG_SSA = 8,
2093         MONO_GRAPH_CFG_OPTCODE = 16
2094 } MonoGraphOptions;
2095
2096 typedef struct {
2097         guint16 size;
2098         guint16 offset;
2099         guint8  pad;
2100 } MonoJitArgumentInfo;
2101
2102 typedef struct {
2103         gboolean handle_sigint;
2104         gboolean keep_delegates;
2105         gboolean reverse_pinvoke_exceptions;
2106         gboolean collect_pagefault_stats;
2107         gboolean break_on_unverified;
2108         gboolean better_cast_details;
2109         gboolean mdb_optimizations;
2110         gboolean no_gdb_backtrace;
2111         gboolean suspend_on_sigsegv;
2112         gboolean suspend_on_exception;
2113         gboolean suspend_on_unhandled;
2114         gboolean dyn_runtime_invoke;
2115         gboolean gdb;
2116         gboolean arm_use_fallback_tls;
2117         /*
2118          * Whenever data such as next sequence points and flags is required.
2119          * Next sequence points and flags are required by the debugger agent.
2120          */
2121         gboolean gen_sdb_seq_points;
2122         gboolean gen_seq_points_compact_data;
2123         /*
2124          * Setting single_imm_size should guarantee that each time managed code is compiled
2125          * the same instructions and registers are used, regardless of the size of used values.
2126          */
2127         gboolean single_imm_size;
2128         gboolean explicit_null_checks;
2129         /*
2130          * Fill stack frames with 0x2a in method prologs. This helps with the
2131          * debugging of the stack marking code in the GC.
2132          */
2133         gboolean init_stacks;
2134
2135         /*
2136          * Whenever to implement single stepping and breakpoints without signals in the
2137          * soft debugger. This is useful on platforms without signals, like the ps3, or during
2138          * runtime debugging, since it avoids SIGSEGVs when a single step location or breakpoint
2139          * is hit.
2140          */
2141         gboolean soft_breakpoints;
2142         /*
2143          * Whenever to break in the debugger using G_BREAKPOINT on unhandled exceptions.
2144          */
2145         gboolean break_on_exc;
2146         /*
2147          * Load AOT JIT info eagerly.
2148          */
2149         gboolean load_aot_jit_info_eagerly;
2150         /*
2151          * Check for pinvoke calling convention mismatches.
2152          */
2153         gboolean check_pinvoke_callconv;
2154         /*
2155          * Translate Debugger.Break () into a native breakpoint signal
2156          */
2157         gboolean native_debugger_break;
2158         /*
2159          * Disabling the frame pointer emit optimization can allow debuggers to more easily
2160          * identify the stack on some platforms
2161          */
2162         gboolean disable_omit_fp;
2163 } MonoDebugOptions;
2164
2165 enum {
2166         BRANCH_NOT_TAKEN,
2167         BRANCH_TAKEN,
2168         BRANCH_UNDEF
2169 };
2170
2171 typedef enum {
2172         CMP_EQ,
2173         CMP_NE,
2174         CMP_LE,
2175         CMP_GE,
2176         CMP_LT,
2177         CMP_GT,
2178         CMP_LE_UN,
2179         CMP_GE_UN,
2180         CMP_LT_UN,
2181         CMP_GT_UN
2182 } CompRelation;
2183
2184 typedef enum {
2185         CMP_TYPE_L,
2186         CMP_TYPE_I,
2187         CMP_TYPE_F
2188 } CompType;
2189
2190 /* Implicit exceptions */
2191 enum {
2192         MONO_EXC_INDEX_OUT_OF_RANGE,
2193         MONO_EXC_OVERFLOW,
2194         MONO_EXC_ARITHMETIC,
2195         MONO_EXC_DIVIDE_BY_ZERO,
2196         MONO_EXC_INVALID_CAST,
2197         MONO_EXC_NULL_REF,
2198         MONO_EXC_ARRAY_TYPE_MISMATCH,
2199         MONO_EXC_ARGUMENT,
2200         MONO_EXC_INTRINS_NUM
2201 };
2202
2203 enum {
2204         MINI_TOKEN_SOURCE_CLASS,
2205         MINI_TOKEN_SOURCE_METHOD,
2206         MINI_TOKEN_SOURCE_FIELD
2207 };
2208
2209  /* 
2210   * Information about a trampoline function.
2211   */
2212  typedef struct
2213  {
2214         /* 
2215          * The native code of the trampoline. Not owned by this structure.
2216          */
2217         guint8 *code;
2218         guint32 code_size;
2219         /*
2220          * The name of the trampoline which can be used in AOT/xdebug. Owned by this
2221          * structure.
2222          */
2223         char *name;
2224         /* 
2225          * Patches required by the trampoline when aot-ing. Owned by this structure.
2226          */
2227         MonoJumpInfo *ji;
2228         /*
2229          * Unwind information. Owned by this structure.
2230          */
2231         GSList *unwind_ops;
2232
2233          /*
2234           * Encoded unwind info loaded from AOT images
2235           */
2236          guint8 *uw_info;
2237          guint32 uw_info_len;
2238 } MonoTrampInfo;
2239
2240 typedef void (*MonoInstFunc) (MonoInst *tree, gpointer data);
2241
2242 enum {
2243         FILTER_IL_SEQ_POINT = 1 << 0,
2244         FILTER_NOP          = 1 << 1,
2245 };
2246
2247 static inline gboolean
2248 mono_inst_filter (MonoInst *ins, int filter)
2249 {
2250         if (!ins || !filter)
2251                 return FALSE;
2252
2253         if ((filter & FILTER_IL_SEQ_POINT) && ins->opcode == OP_IL_SEQ_POINT)
2254                 return TRUE;
2255
2256         if ((filter & FILTER_NOP) && ins->opcode == OP_NOP)
2257                 return TRUE;
2258
2259         return FALSE;
2260 }
2261
2262 static inline MonoInst*
2263 mono_inst_next (MonoInst *ins, int filter)
2264 {
2265         do {
2266                 ins = ins->next;
2267         } while (mono_inst_filter (ins, filter));
2268
2269         return ins;
2270 }
2271
2272 static inline MonoInst*
2273 mono_inst_prev (MonoInst *ins, int filter)
2274 {
2275         do {
2276                 ins = ins->prev;
2277         } while (mono_inst_filter (ins, filter));
2278
2279         return ins;
2280 }
2281
2282 static inline MonoInst*
2283 mono_bb_first_inst (MonoBasicBlock *bb, int filter)
2284 {
2285         MonoInst *ins = bb->code;
2286         if (mono_inst_filter (ins, filter))
2287                 ins = mono_inst_next (ins, filter);
2288
2289         return ins;
2290 }
2291
2292 static inline MonoInst*
2293 mono_bb_last_inst (MonoBasicBlock *bb, int filter)
2294 {
2295         MonoInst *ins = bb->last_ins;
2296         if (mono_inst_filter (ins, filter))
2297                 ins = mono_inst_prev (ins, filter);
2298
2299         return ins;
2300 }
2301
2302 /* main function */
2303 MONO_API int         mono_main                      (int argc, char* argv[]);
2304 MONO_API void        mono_set_defaults              (int verbose_level, guint32 opts);
2305 MONO_API void        mono_parse_env_options         (int *ref_argc, char **ref_argv []);
2306 MONO_API char       *mono_parse_options_from        (const char *options, int *ref_argc, char **ref_argv []);
2307
2308 MonoDomain* mini_init                      (const char *filename, const char *runtime_version);
2309 void        mini_cleanup                   (MonoDomain *domain);
2310 MONO_API MonoDebugOptions *mini_get_debug_options   (void);
2311 MONO_API gboolean    mini_parse_debug_option (const char *option);
2312
2313 /* graph dumping */
2314 void mono_cfg_dump_create_context (MonoCompile *cfg);
2315 void mono_cfg_dump_begin_group (MonoCompile *cfg);
2316 void mono_cfg_dump_close_group (MonoCompile *cfg);
2317 void mono_cfg_dump_ir (MonoCompile *cfg, const char *phase_name);
2318
2319 /* helper methods */
2320 void      mini_jit_init                    (void);
2321 void      mini_jit_cleanup                 (void);
2322 void      mono_disable_optimizations       (guint32 opts);
2323 void      mono_set_optimizations           (guint32 opts);
2324 void      mono_set_bisect_methods          (guint32 opt, const char *method_list_filename);
2325 guint32   mono_get_optimizations_for_method (MonoMethod *method, guint32 default_opt);
2326 char*     mono_opt_descr                   (guint32 flags);
2327 void      mono_set_verbose_level           (guint32 level);
2328 MonoJumpInfoToken* mono_jump_info_token_new (MonoMemPool *mp, MonoImage *image, guint32 token);
2329 MonoJumpInfoToken* mono_jump_info_token_new2 (MonoMemPool *mp, MonoImage *image, guint32 token, MonoGenericContext *context);
2330 MonoInst* mono_find_spvar_for_region        (MonoCompile *cfg, int region);
2331 MonoInst* mono_find_exvar_for_offset        (MonoCompile *cfg, int offset);
2332 int       mono_get_block_region_notry       (MonoCompile *cfg, int region) MONO_LLVM_INTERNAL;
2333
2334 void      mono_precompile_assemblies        (void);
2335 MONO_API int       mono_parse_default_optimizations  (const char* p);
2336 void      mono_bblock_add_inst              (MonoBasicBlock *bb, MonoInst *inst) MONO_LLVM_INTERNAL;
2337 void      mono_bblock_insert_after_ins      (MonoBasicBlock *bb, MonoInst *ins, MonoInst *ins_to_insert);
2338 void      mono_bblock_insert_before_ins     (MonoBasicBlock *bb, MonoInst *ins, MonoInst *ins_to_insert);
2339 void      mono_verify_bblock                (MonoBasicBlock *bb);
2340 void      mono_verify_cfg                   (MonoCompile *cfg);
2341 void      mono_constant_fold                (MonoCompile *cfg);
2342 MonoInst* mono_constant_fold_ins            (MonoCompile *cfg, MonoInst *ins, MonoInst *arg1, MonoInst *arg2, gboolean overwrite);
2343 int       mono_eval_cond_branch             (MonoInst *branch);
2344 int       mono_is_power_of_two              (guint32 val) MONO_LLVM_INTERNAL;
2345 void      mono_cprop_local                  (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst **acp, int acp_size);
2346 MonoInst* mono_compile_create_var           (MonoCompile *cfg, MonoType *type, int opcode);
2347 MonoInst* mono_compile_create_var_for_vreg  (MonoCompile *cfg, MonoType *type, int opcode, int vreg);
2348 void      mono_compile_make_var_load        (MonoCompile *cfg, MonoInst *dest, gssize var_index);
2349 MonoInst* mini_get_int_to_float_spill_area  (MonoCompile *cfg);
2350 MonoType* mono_type_from_stack_type         (MonoInst *ins);
2351 guint32   mono_alloc_ireg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2352 guint32   mono_alloc_lreg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2353 guint32   mono_alloc_freg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2354 guint32   mono_alloc_preg                   (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2355 guint32   mono_alloc_dreg                   (MonoCompile *cfg, MonoStackType stack_type);
2356 guint32   mono_alloc_ireg_ref               (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2357 guint32   mono_alloc_ireg_mp                (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2358 guint32   mono_alloc_ireg_copy              (MonoCompile *cfg, guint32 vreg) MONO_LLVM_INTERNAL;
2359 void      mono_mark_vreg_as_ref             (MonoCompile *cfg, int vreg);
2360 void      mono_mark_vreg_as_mp              (MonoCompile *cfg, int vreg);
2361
2362 void      mono_link_bblock                  (MonoCompile *cfg, MonoBasicBlock *from, MonoBasicBlock* to);
2363 void      mono_unlink_bblock                (MonoCompile *cfg, MonoBasicBlock *from, MonoBasicBlock* to);
2364 gboolean  mono_bblocks_linked               (MonoBasicBlock *bb1, MonoBasicBlock *bb2);
2365 void      mono_remove_bblock                (MonoCompile *cfg, MonoBasicBlock *bb);
2366 void      mono_nullify_basic_block          (MonoBasicBlock *bb);
2367 void      mono_merge_basic_blocks           (MonoCompile *cfg, MonoBasicBlock *bb, MonoBasicBlock *bbn);
2368 void      mono_optimize_branches            (MonoCompile *cfg);
2369
2370 void      mono_blockset_print               (MonoCompile *cfg, MonoBitSet *set, const char *name, guint idom);
2371 const char*mono_ji_type_to_string           (MonoJumpInfoType type);
2372 void      mono_print_ji                     (const MonoJumpInfo *ji);
2373 void      mono_print_ins_index              (int i, MonoInst *ins);
2374 GString  *mono_print_ins_index_strbuf       (int i, MonoInst *ins);
2375 void      mono_print_ins                    (MonoInst *ins);
2376 void      mono_print_bb                     (MonoBasicBlock *bb, const char *msg);
2377 void      mono_print_code                   (MonoCompile *cfg, const char *msg);
2378 MONO_API void      mono_print_method_from_ip         (void *ip);
2379 MONO_API char     *mono_pmip                         (void *ip);
2380 gboolean  mono_debug_count                  (void);
2381 MONO_API const char* mono_inst_name                  (int op);
2382 int       mono_op_to_op_imm                 (int opcode);
2383 int       mono_op_imm_to_op                 (int opcode);
2384 int       mono_load_membase_to_load_mem     (int opcode);
2385 guint     mono_type_to_load_membase         (MonoCompile *cfg, MonoType *type);
2386 guint     mono_type_to_store_membase        (MonoCompile *cfg, MonoType *type);
2387 guint     mini_type_to_stind                (MonoCompile* cfg, MonoType *type);
2388 MonoJitInfo* mini_lookup_method             (MonoDomain *domain, MonoMethod *method, MonoMethod *shared);
2389 guint32   mono_reverse_branch_op            (guint32 opcode);
2390 void      mono_disassemble_code             (MonoCompile *cfg, guint8 *code, int size, char *id);
2391 void      mono_add_patch_info               (MonoCompile *cfg, int ip, MonoJumpInfoType type, gconstpointer target) MONO_LLVM_INTERNAL;
2392 void      mono_add_patch_info_rel           (MonoCompile *cfg, int ip, MonoJumpInfoType type, gconstpointer target, int relocation) MONO_LLVM_INTERNAL;
2393 void      mono_remove_patch_info            (MonoCompile *cfg, int ip);
2394 MonoJumpInfo* mono_patch_info_dup_mp        (MonoMemPool *mp, MonoJumpInfo *patch_info);
2395 guint     mono_patch_info_hash (gconstpointer data);
2396 gint      mono_patch_info_equal (gconstpointer ka, gconstpointer kb);
2397 MonoJumpInfo *mono_patch_info_list_prepend  (MonoJumpInfo *list, int ip, MonoJumpInfoType type, gconstpointer target);
2398 gpointer  mono_resolve_patch_target         (MonoMethod *method, MonoDomain *domain, guint8 *code, MonoJumpInfo *patch_info, gboolean run_cctors, MonoError *error) MONO_LLVM_INTERNAL;
2399 gpointer  mono_jit_find_compiled_method_with_jit_info (MonoDomain *domain, MonoMethod *method, MonoJitInfo **ji);
2400 gpointer  mono_jit_find_compiled_method     (MonoDomain *domain, MonoMethod *method);
2401 gpointer  mono_jit_compile_method           (MonoMethod *method, MonoError *error);
2402 gpointer  mono_jit_compile_method_inner     (MonoMethod *method, MonoDomain *target_domain, int opt, MonoError *error);
2403 MonoLMF * mono_get_lmf                      (void);
2404 MonoLMF** mono_get_lmf_addr                 (void);
2405 void      mono_set_lmf                      (MonoLMF *lmf);
2406 MonoJitTlsData* mono_get_jit_tls            (void);
2407 MONO_API MonoDomain* mono_jit_thread_attach (MonoDomain *domain);
2408 MONO_API void      mono_jit_set_domain      (MonoDomain *domain);
2409 gint32    mono_get_jit_tls_offset           (void);
2410 gint32    mono_get_lmf_tls_offset           (void);
2411 gint32    mono_get_lmf_addr_tls_offset      (void);
2412 int       mini_get_tls_offset               (MonoTlsKey key);
2413 gboolean  mini_tls_get_supported            (MonoCompile *cfg, MonoTlsKey key);
2414 MonoInst* mono_create_tls_get               (MonoCompile *cfg, MonoTlsKey key);
2415 MonoInst* mono_get_jit_tls_intrinsic        (MonoCompile *cfg);
2416 MonoInst* mono_get_domain_intrinsic         (MonoCompile* cfg);
2417 MonoInst* mono_get_thread_intrinsic         (MonoCompile* cfg);
2418 MonoInst* mono_get_lmf_intrinsic            (MonoCompile* cfg);
2419 MonoInst* mono_get_lmf_addr_intrinsic       (MonoCompile* cfg);
2420 GList    *mono_varlist_insert_sorted        (MonoCompile *cfg, GList *list, MonoMethodVar *mv, int sort_type);
2421 GList    *mono_varlist_sort                 (MonoCompile *cfg, GList *list, int sort_type);
2422 void      mono_analyze_liveness             (MonoCompile *cfg);
2423 void      mono_analyze_liveness_gc          (MonoCompile *cfg);
2424 void      mono_linear_scan                  (MonoCompile *cfg, GList *vars, GList *regs, regmask_t *used_mask);
2425 void      mono_global_regalloc              (MonoCompile *cfg);
2426 void      mono_create_jump_table            (MonoCompile *cfg, MonoInst *label, MonoBasicBlock **bbs, int num_blocks);
2427 MonoCompile *mini_method_compile            (MonoMethod *method, guint32 opts, MonoDomain *domain, JitFlags flags, int parts, int aot_method_index);
2428 void      mono_destroy_compile              (MonoCompile *cfg);
2429 MonoJitICallInfo *mono_find_jit_opcode_emulation (int opcode);
2430 void      mono_print_ins_index (int i, MonoInst *ins);
2431 void      mono_print_ins (MonoInst *ins);
2432 gboolean  mini_assembly_can_skip_verification (MonoDomain *domain, MonoMethod *method);
2433 gboolean mono_compile_is_broken (MonoCompile *cfg, MonoMethod *method, gboolean fail_compile);
2434 MonoInst *mono_get_got_var (MonoCompile *cfg);
2435 void      mono_add_seq_point (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins, int native_offset);
2436 void      mono_add_var_location (MonoCompile *cfg, MonoInst *var, gboolean is_reg, int reg, int offset, int from, int to);
2437 MonoInst* mono_emit_jit_icall (MonoCompile *cfg, gconstpointer func, MonoInst **args);
2438 MonoInst* mono_emit_jit_icall_by_info (MonoCompile *cfg, int il_offset, MonoJitICallInfo *info, MonoInst **args);
2439 MonoInst* mono_emit_method_call (MonoCompile *cfg, MonoMethod *method, MonoInst **args, MonoInst *this_ins);
2440 void      mono_create_helper_signatures (void);
2441
2442 gboolean  mini_class_is_system_array (MonoClass *klass);
2443 MonoMethodSignature *mono_get_element_address_signature (int arity);
2444 MonoJitICallInfo    *mono_get_element_address_icall (int rank);
2445 MonoJitICallInfo    *mono_get_array_new_va_icall (int rank);
2446
2447 void      mono_linterval_add_range          (MonoCompile *cfg, MonoLiveInterval *interval, int from, int to);
2448 void      mono_linterval_print              (MonoLiveInterval *interval);
2449 void      mono_linterval_print_nl (MonoLiveInterval *interval);
2450 gboolean  mono_linterval_covers             (MonoLiveInterval *interval, int pos);
2451 gint32    mono_linterval_get_intersect_pos  (MonoLiveInterval *i1, MonoLiveInterval *i2);
2452 void      mono_linterval_split              (MonoCompile *cfg, MonoLiveInterval *interval, MonoLiveInterval **i1, MonoLiveInterval **i2, int pos);
2453 void      mono_liveness_handle_exception_clauses (MonoCompile *cfg);
2454
2455 /* Native Client functions */
2456 gpointer mono_realloc_native_code(MonoCompile *cfg);
2457
2458 #if defined(__native_client__) || defined(__native_client_codegen__)
2459 extern volatile int __nacl_thread_suspension_needed;
2460 void __nacl_suspend_thread_if_needed(void);
2461 void mono_nacl_gc(void);
2462 #endif
2463
2464 extern MonoDebugOptions debug_options;
2465
2466 static inline MonoMethod*
2467 jinfo_get_method (MonoJitInfo *ji)
2468 {
2469         return mono_jit_info_get_method (ji);
2470 }
2471
2472 /* AOT */
2473 void      mono_aot_init                     (void);
2474 void      mono_aot_cleanup                  (void);
2475 gpointer  mono_aot_get_method_checked       (MonoDomain *domain,
2476                                                                                          MonoMethod *method, MonoError *error);
2477 gpointer  mono_aot_get_method_from_token    (MonoDomain *domain, MonoImage *image, guint32 token, MonoError *error);
2478 gboolean  mono_aot_is_got_entry             (guint8 *code, guint8 *addr);
2479 guint8*   mono_aot_get_plt_entry            (guint8 *code);
2480 guint32   mono_aot_get_plt_info_offset      (mgreg_t *regs, guint8 *code);
2481 gboolean  mono_aot_get_cached_class_info    (MonoClass *klass, MonoCachedClassInfo *res);
2482 gboolean  mono_aot_get_class_from_name      (MonoImage *image, const char *name_space, const char *name, MonoClass **klass);
2483 MonoJitInfo* mono_aot_find_jit_info         (MonoDomain *domain, MonoImage *image, gpointer addr);
2484 gpointer mono_aot_plt_resolve               (gpointer aot_module, guint32 plt_info_offset, guint8 *code, MonoError *error);
2485 void     mono_aot_patch_plt_entry           (guint8 *code, guint8 *plt_entry, gpointer *got, mgreg_t *regs, guint8 *addr);
2486 gpointer mono_aot_get_method_from_vt_slot   (MonoDomain *domain, MonoVTable *vtable, int slot, MonoError *error);
2487 gpointer mono_aot_create_specific_trampoline   (MonoImage *image, gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2488 gpointer mono_aot_get_trampoline            (const char *name);
2489 gpointer mono_aot_get_trampoline_full       (const char *name, MonoTrampInfo **out_tinfo);
2490 gpointer mono_aot_get_unbox_trampoline      (MonoMethod *method);
2491 gpointer mono_aot_get_lazy_fetch_trampoline (guint32 slot);
2492 gpointer mono_aot_get_static_rgctx_trampoline (gpointer ctx, gpointer addr);
2493 gpointer mono_aot_get_imt_thunk             (MonoVTable *vtable, MonoDomain *domain, MonoIMTCheckItem **imt_entries, int count, gpointer fail_tramp);
2494 gpointer mono_aot_get_gsharedvt_arg_trampoline(gpointer arg, gpointer addr);
2495 guint8*  mono_aot_get_unwind_info           (MonoJitInfo *ji, guint32 *unwind_info_len);
2496 guint32  mono_aot_method_hash               (MonoMethod *method);
2497 MonoMethod* mono_aot_get_array_helper_from_wrapper (MonoMethod *method);
2498 void     mono_aot_set_make_unreadable       (gboolean unreadable);
2499 gboolean mono_aot_is_pagefault              (void *ptr);
2500 void     mono_aot_handle_pagefault          (void *ptr);
2501 void     mono_aot_register_jit_icall        (const char *name, gpointer addr);
2502 guint32  mono_aot_find_method_index         (MonoMethod *method);
2503 void     mono_aot_init_llvm_method          (gpointer aot_module, guint32 method_index);
2504 void     mono_aot_init_gshared_method_this  (gpointer aot_module, guint32 method_index, MonoObject *this_ins);
2505 void     mono_aot_init_gshared_method_mrgctx  (gpointer aot_module, guint32 method_index, MonoMethodRuntimeGenericContext *rgctx);
2506 void     mono_aot_init_gshared_method_vtable  (gpointer aot_module, guint32 method_index, MonoVTable *vtable);
2507
2508 /* This is an exported function */
2509 MONO_API void     mono_aot_register_module           (gpointer *aot_info);
2510
2511 /* These are used to load the AOT data for aot images compiled with MONO_AOT_FILE_FLAG_SEPARATE_DATA */
2512 /*
2513  * Return the AOT data for ASSEMBLY. SIZE is the size of the data. OUT_HANDLE should be set to a handle which is later
2514  * passed to the free function.
2515  */
2516 typedef unsigned char* (*MonoLoadAotDataFunc)          (MonoAssembly *assembly, int size, gpointer user_data, void **out_handle);
2517 /* Not yet used */
2518 typedef void  (*MonoFreeAotDataFunc)          (MonoAssembly *assembly, int size, gpointer user_data, void *handle);
2519 MONO_API void mono_install_load_aot_data_hook (MonoLoadAotDataFunc load_func, MonoFreeAotDataFunc free_func, gpointer user_data);
2520
2521 void     mono_xdebug_init                   (const char *xdebug_opts);
2522 void     mono_save_xdebug_info              (MonoCompile *cfg);
2523 void     mono_save_trampoline_xdebug_info   (MonoTrampInfo *info);
2524 /* This is an exported function */
2525 void     mono_xdebug_flush                  (void);
2526
2527 gboolean  mono_method_blittable             (MonoMethod *method);
2528 gboolean  mono_method_same_domain           (MonoJitInfo *caller, MonoJitInfo *callee);
2529
2530 void      mono_register_opcode_emulation    (int opcode, const char* name, const char *sigstr, gpointer func, gboolean no_throw);
2531 void      mono_draw_graph                   (MonoCompile *cfg, MonoGraphOptions draw_options);
2532 void      mono_add_ins_to_end               (MonoBasicBlock *bb, MonoInst *inst);
2533 gpointer  mono_create_ftnptr                (MonoDomain *domain, gpointer addr);
2534
2535 MONO_API void      mono_replace_ins                  (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins, MonoInst **prev, MonoBasicBlock *first_bb, MonoBasicBlock *last_bb);
2536
2537 int               mono_find_method_opcode      (MonoMethod *method);
2538 MonoJitICallInfo *mono_register_jit_icall      (gconstpointer func, const char *name, MonoMethodSignature *sig, gboolean is_save);
2539 gconstpointer     mono_icall_get_wrapper       (MonoJitICallInfo* callinfo) MONO_LLVM_INTERNAL;
2540 gconstpointer     mono_icall_get_wrapper_full  (MonoJitICallInfo* callinfo, gboolean do_compile);
2541 void              mini_register_opcode_emulation (int opcode, const char *name, const char *sigstr, gpointer func, const char *symbol, gboolean no_throw);
2542
2543 void              mono_trampolines_init (void);
2544 void              mono_trampolines_cleanup (void);
2545 guint8 *          mono_get_trampoline_code (MonoTrampolineType tramp_type);
2546 gpointer          mono_create_specific_trampoline (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2547 gpointer          mono_create_jump_trampoline (MonoDomain *domain, 
2548                                                                                            MonoMethod *method, 
2549                                                                                            gboolean add_sync_wrapper,
2550                                                                                            MonoError *error);
2551 gpointer          mono_create_class_init_trampoline (MonoVTable *vtable);
2552 gpointer          mono_create_jit_trampoline (MonoDomain *domain, MonoMethod *method, MonoError *error) MONO_LLVM_INTERNAL;
2553 gpointer          mono_create_jit_trampoline_from_token (MonoImage *image, guint32 token);
2554 gpointer          mono_create_delegate_trampoline (MonoDomain *domain, MonoClass *klass);
2555 MonoDelegateTrampInfo* mono_create_delegate_trampoline_info (MonoDomain *domain, MonoClass *klass, MonoMethod *method);
2556 gpointer          mono_create_delegate_virtual_trampoline (MonoDomain *domain, MonoClass *klass, MonoMethod *method);
2557 gpointer          mono_create_rgctx_lazy_fetch_trampoline (guint32 offset);
2558 gpointer          mono_create_monitor_enter_trampoline (void);
2559 gpointer          mono_create_monitor_enter_v4_trampoline (void);
2560 gpointer          mono_create_monitor_exit_trampoline (void);
2561 gpointer          mono_create_static_rgctx_trampoline (MonoMethod *m, gpointer addr);
2562 MonoVTable*       mono_find_class_init_trampoline_by_addr (gconstpointer addr);
2563 guint32           mono_find_rgctx_lazy_fetch_trampoline_by_addr (gconstpointer addr);
2564 gpointer          mono_magic_trampoline (mgreg_t *regs, guint8 *code, gpointer arg, guint8* tramp);
2565 #ifndef DISABLE_REMOTING
2566 gpointer          mono_generic_virtual_remoting_trampoline (mgreg_t *regs, guint8 *code, MonoMethod *m, guint8 *tramp);
2567 #endif
2568 gpointer          mono_delegate_trampoline (mgreg_t *regs, guint8 *code, gpointer *tramp_data, guint8* tramp);
2569 gpointer          mono_aot_trampoline (mgreg_t *regs, guint8 *code, guint8 *token_info, 
2570                                                                            guint8* tramp);
2571 gpointer          mono_aot_plt_trampoline (mgreg_t *regs, guint8 *code, guint8 *token_info, 
2572                                                                                    guint8* tramp);
2573 void              mono_class_init_trampoline (mgreg_t *regs, guint8 *code, MonoVTable *vtable, guint8 *tramp);
2574 void              mono_generic_class_init_trampoline (mgreg_t *regs, guint8 *code, MonoVTable *vtable, guint8 *tramp);
2575 void              mono_monitor_enter_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2576 void              mono_monitor_enter_v4_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2577 void              mono_monitor_exit_trampoline (mgreg_t *regs, guint8 *code, MonoObject *obj, guint8 *tramp);
2578 gconstpointer     mono_get_trampoline_func (MonoTrampolineType tramp_type);
2579 gpointer          mini_get_vtable_trampoline (MonoVTable *vt, int slot_index);
2580 const char*       mono_get_generic_trampoline_simple_name (MonoTrampolineType tramp_type);
2581 char*             mono_get_generic_trampoline_name (MonoTrampolineType tramp_type);
2582 char*             mono_get_rgctx_fetch_trampoline_name (int slot);
2583 gpointer          mini_get_nullified_class_init_trampoline (void);
2584 gpointer          mini_get_single_step_trampoline (void);
2585 gpointer          mini_get_breakpoint_trampoline (void);
2586 gpointer          mini_add_method_trampoline (MonoMethod *m, gpointer compiled_method, gboolean add_static_rgctx_tramp, gboolean add_unbox_tramp);
2587 gpointer          mini_add_method_wrappers_llvmonly (MonoMethod *m, gpointer compiled_method, gboolean caller_gsharedvt, gboolean add_unbox_tramp, gpointer *out_arg);
2588 gboolean          mini_jit_info_is_gsharedvt (MonoJitInfo *ji);
2589 gpointer*         mini_resolve_imt_method (MonoVTable *vt, gpointer *vtable_slot, MonoMethod *imt_method, MonoMethod **impl_method, gpointer *out_aot_addr,
2590                                            gboolean *out_need_rgctx_tramp, MonoMethod **variant_iface,
2591                                            MonoError *error);
2592 MonoFtnDesc      *mini_create_llvmonly_ftndesc (MonoDomain *domain, gpointer addr, gpointer arg);
2593
2594 gboolean          mono_running_on_valgrind (void);
2595 void*             mono_global_codeman_reserve (int size);
2596 const char       *mono_regname_full (int reg, int bank);
2597 gint32*           mono_allocate_stack_slots (MonoCompile *cfg, gboolean backward, guint32 *stack_size, guint32 *stack_align);
2598 void              mono_local_regalloc (MonoCompile *cfg, MonoBasicBlock *bb);
2599 MonoInst         *mono_branch_optimize_exception_target (MonoCompile *cfg, MonoBasicBlock *bb, const char * exname);
2600 void              mono_remove_critical_edges (MonoCompile *cfg);
2601 gboolean          mono_is_regsize_var (MonoType *t);
2602 void              mini_emit_memcpy (MonoCompile *cfg, int destreg, int doffset, int srcreg, int soffset, int size, int align);
2603 void              mini_emit_stobj (MonoCompile *cfg, MonoInst *dest, MonoInst *src, MonoClass *klass, gboolean native);
2604 void              mini_emit_initobj (MonoCompile *cfg, MonoInst *dest, const guchar *ip, MonoClass *klass);
2605 CompRelation      mono_opcode_to_cond (int opcode) MONO_LLVM_INTERNAL;
2606 CompType          mono_opcode_to_type (int opcode, int cmp_opcode);
2607 CompRelation      mono_negate_cond (CompRelation cond);
2608 int               mono_op_imm_to_op (int opcode);
2609 void              mono_decompose_op_imm (MonoCompile *cfg, MonoBasicBlock *bb, MonoInst *ins);
2610 void              mono_peephole_ins (MonoBasicBlock *bb, MonoInst *ins);
2611 MonoUnwindOp     *mono_create_unwind_op (int when, 
2612                                                                                  int tag, int reg, 
2613                                                                                  int val);
2614 void              mono_emit_unwind_op (MonoCompile *cfg, int when, 
2615                                                                            int tag, int reg, 
2616                                                                            int val);
2617 MonoTrampInfo*    mono_tramp_info_create (const char *name, guint8 *code, guint32 code_size, MonoJumpInfo *ji, GSList *unwind_ops);
2618 void              mono_tramp_info_free (MonoTrampInfo *info);
2619 void              mono_tramp_info_register (MonoTrampInfo *info, MonoDomain *domain);
2620 int               mini_exception_id_by_name (const char *name);
2621 gboolean          mini_type_is_hfa (MonoType *t, int *out_nfields, int *out_esize) MONO_LLVM_INTERNAL;
2622
2623 int               mono_method_to_ir (MonoCompile *cfg, MonoMethod *method, MonoBasicBlock *start_bblock, MonoBasicBlock *end_bblock, 
2624                                                                          MonoInst *return_var, MonoInst **inline_args,
2625                                                                          guint inline_offset, gboolean is_virtual_call);
2626
2627 MonoInst         *mono_decompose_opcode (MonoCompile *cfg, MonoInst *ins);
2628 void              mono_decompose_long_opts (MonoCompile *cfg);
2629 void              mono_decompose_vtype_opts (MonoCompile *cfg);
2630 void              mono_decompose_array_access_opts (MonoCompile *cfg);
2631 void              mono_decompose_soft_float (MonoCompile *cfg);
2632 void              mono_local_emulate_ops (MonoCompile *cfg);
2633 void              mono_handle_global_vregs (MonoCompile *cfg);
2634 void              mono_spill_global_vars (MonoCompile *cfg, gboolean *need_local_opts);
2635 void              mono_allocate_gsharedvt_vars (MonoCompile *cfg);
2636 void              mono_if_conversion (MonoCompile *cfg);
2637
2638 /* Delegates */
2639 gpointer          mini_get_delegate_arg (MonoMethod *method, gpointer method_ptr);
2640 void              mini_init_delegate (MonoDelegate *del);
2641 gpointer          mono_get_delegate_virtual_invoke_impl  (MonoMethodSignature *sig, MonoMethod *method);
2642
2643 /* methods that must be provided by the arch-specific port */
2644 void      mono_arch_init                        (void);
2645 void      mono_arch_finish_init                 (void);
2646 void      mono_arch_cleanup                     (void);
2647 void      mono_arch_cpu_init                    (void);
2648 guint32   mono_arch_cpu_optimizations           (guint32 *exclude_mask);
2649 void      mono_arch_instrument_mem_needs        (MonoMethod *method, int *stack, int *code);
2650 void     *mono_arch_instrument_prolog           (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments);
2651 void     *mono_arch_instrument_epilog           (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments);
2652 void     *mono_arch_instrument_epilog_full     (MonoCompile *cfg, void *func, void *p, gboolean enable_arguments, gboolean preserve_argument_registers);
2653 void      mono_codegen                          (MonoCompile *cfg);
2654 void      mono_call_inst_add_outarg_reg         (MonoCompile *cfg, MonoCallInst *call, int vreg, int hreg, int bank) MONO_LLVM_INTERNAL;
2655 void      mono_call_inst_add_outarg_vt          (MonoCompile *cfg, MonoCallInst *call, MonoInst *outarg_vt);
2656 const char *mono_arch_regname                   (int reg);
2657 const char *mono_arch_fregname                  (int reg);
2658 void      mono_arch_exceptions_init             (void);
2659 guchar*   mono_arch_create_generic_trampoline   (MonoTrampolineType tramp_type, MonoTrampInfo **info, gboolean aot);
2660 gpointer  mono_arch_create_rgctx_lazy_fetch_trampoline (guint32 slot, MonoTrampInfo **info, gboolean aot);
2661 gpointer  mono_arch_create_general_rgctx_lazy_fetch_trampoline (MonoTrampInfo **info, gboolean aot);
2662 gpointer  mono_arch_get_nullified_class_init_trampoline (MonoTrampInfo **info);
2663 guint8*   mono_arch_create_sdb_trampoline (gboolean single_step, MonoTrampInfo **info, gboolean aot);
2664 gpointer  mono_arch_create_monitor_enter_trampoline (MonoTrampInfo **info, gboolean is_v4, gboolean aot);
2665 gpointer  mono_arch_create_monitor_exit_trampoline (MonoTrampInfo **info, gboolean aot);
2666 guint8   *mono_arch_create_llvm_native_thunk     (MonoDomain *domain, guint8* addr) MONO_LLVM_INTERNAL;
2667 GList    *mono_arch_get_allocatable_int_vars    (MonoCompile *cfg);
2668 GList    *mono_arch_get_global_int_regs         (MonoCompile *cfg);
2669 GList    *mono_arch_get_global_fp_regs          (MonoCompile *cfg);
2670 GList    *mono_arch_get_iregs_clobbered_by_call (MonoCallInst *call);
2671 GList    *mono_arch_get_fregs_clobbered_by_call (MonoCallInst *call);
2672 guint32   mono_arch_regalloc_cost               (MonoCompile *cfg, MonoMethodVar *vmv);
2673 void      mono_arch_patch_code                  (MonoCompile *cfg, MonoMethod *method, MonoDomain *domain, guint8 *code, MonoJumpInfo *ji, gboolean run_cctors, MonoError *error);
2674 void      mono_arch_patch_code_new              (MonoCompile *cfg, MonoDomain *domain, guint8 *code, MonoJumpInfo *ji, gpointer target);
2675 void      mono_arch_flush_icache                (guint8 *code, gint size);
2676 int       mono_arch_max_epilog_size             (MonoCompile *cfg);
2677 guint8   *mono_arch_emit_prolog                 (MonoCompile *cfg);
2678 void      mono_arch_emit_epilog                 (MonoCompile *cfg);
2679 void      mono_arch_emit_exceptions             (MonoCompile *cfg);
2680 void      mono_arch_lowering_pass               (MonoCompile *cfg, MonoBasicBlock *bb);
2681 void      mono_arch_peephole_pass_1             (MonoCompile *cfg, MonoBasicBlock *bb);
2682 void      mono_arch_peephole_pass_2             (MonoCompile *cfg, MonoBasicBlock *bb);
2683 void      mono_arch_output_basic_block          (MonoCompile *cfg, MonoBasicBlock *bb);
2684 void      mono_arch_free_jit_tls_data           (MonoJitTlsData *tls);
2685 void      mono_arch_fill_argument_info          (MonoCompile *cfg);
2686 void      mono_arch_allocate_vars               (MonoCompile *m);
2687 int       mono_arch_get_argument_info           (MonoMethodSignature *csig, int param_count, MonoJitArgumentInfo *arg_info);
2688 gboolean  mono_arch_print_tree                          (MonoInst *tree, int arity);
2689 void      mono_arch_emit_call                   (MonoCompile *cfg, MonoCallInst *call);
2690 void      mono_arch_emit_outarg_vt              (MonoCompile *cfg, MonoInst *ins, MonoInst *src);
2691 void      mono_arch_emit_setret                 (MonoCompile *cfg, MonoMethod *method, MonoInst *val);
2692 MonoDynCallInfo *mono_arch_dyn_call_prepare     (MonoMethodSignature *sig);
2693 void      mono_arch_dyn_call_free               (MonoDynCallInfo *info);
2694 void      mono_arch_start_dyn_call              (MonoDynCallInfo *info, gpointer **args, guint8 *ret, guint8 *buf, int buf_len);
2695 void      mono_arch_finish_dyn_call             (MonoDynCallInfo *info, guint8 *buf);
2696 MonoInst *mono_arch_emit_inst_for_method        (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
2697 void      mono_arch_decompose_opts              (MonoCompile *cfg, MonoInst *ins);
2698 void      mono_arch_decompose_long_opts         (MonoCompile *cfg, MonoInst *ins);
2699 GSList*   mono_arch_get_delegate_invoke_impls   (void);
2700 LLVMCallInfo* mono_arch_get_llvm_call_info      (MonoCompile *cfg, MonoMethodSignature *sig) MONO_LLVM_INTERNAL;
2701 guint8*   mono_arch_emit_load_got_addr          (guint8 *start, guint8 *code, MonoCompile *cfg, MonoJumpInfo **ji);
2702 guint8*   mono_arch_emit_load_aotconst          (guint8 *start, guint8 *code, MonoJumpInfo **ji, MonoJumpInfoType tramp_type, gconstpointer target);
2703 GSList*   mono_arch_get_cie_program             (void);
2704 void      mono_arch_set_target                  (char *mtriple);
2705 gboolean  mono_arch_gsharedvt_sig_supported     (MonoMethodSignature *sig);
2706 gpointer  mono_arch_get_gsharedvt_trampoline    (MonoTrampInfo **info, gboolean aot);
2707 gpointer  mono_arch_get_gsharedvt_call_info     (gpointer addr, MonoMethodSignature *normal_sig, MonoMethodSignature *gsharedvt_sig, gboolean gsharedvt_in, gint32 vcall_offset, gboolean calli);
2708 gboolean  mono_arch_opcode_needs_emulation      (MonoCompile *cfg, int opcode);
2709 gboolean  mono_arch_tail_call_supported         (MonoCompile *cfg, MonoMethodSignature *caller_sig, MonoMethodSignature *callee_sig);
2710 int       mono_arch_translate_tls_offset        (int offset);
2711 gboolean  mono_arch_opcode_supported            (int opcode);
2712 void     mono_arch_setup_resume_sighandler_ctx  (MonoContext *ctx, gpointer func);
2713
2714 #ifdef MONO_ARCH_SOFT_FLOAT_FALLBACK
2715 gboolean  mono_arch_is_soft_float               (void);
2716 #else
2717 static inline MONO_ALWAYS_INLINE gboolean
2718 mono_arch_is_soft_float (void)
2719 {
2720         return FALSE;
2721 }
2722 #endif
2723
2724 /* Soft Debug support */
2725 #ifdef MONO_ARCH_SOFT_DEBUG_SUPPORTED
2726 void      mono_arch_set_breakpoint              (MonoJitInfo *ji, guint8 *ip);
2727 void      mono_arch_clear_breakpoint            (MonoJitInfo *ji, guint8 *ip);
2728 void      mono_arch_start_single_stepping       (void);
2729 void      mono_arch_stop_single_stepping        (void);
2730 gboolean  mono_arch_is_single_step_event        (void *info, void *sigctx);
2731 gboolean  mono_arch_is_breakpoint_event         (void *info, void *sigctx);
2732 void     mono_arch_skip_breakpoint              (MonoContext *ctx, MonoJitInfo *ji);
2733 void     mono_arch_skip_single_step             (MonoContext *ctx);
2734 gpointer mono_arch_get_seq_point_info           (MonoDomain *domain, guint8 *code);
2735 void     mono_arch_init_lmf_ext                 (MonoLMFExt *ext, gpointer prev_lmf);
2736 #endif
2737
2738 gboolean
2739 mono_arch_unwind_frame (MonoDomain *domain, MonoJitTlsData *jit_tls, 
2740                                                 MonoJitInfo *ji, MonoContext *ctx, 
2741                                                 MonoContext *new_ctx, MonoLMF **lmf,
2742                                                 mgreg_t **save_locations,
2743                                                 StackFrameInfo *frame_info);
2744 gpointer  mono_arch_get_throw_exception_by_name (void);
2745 gpointer mono_arch_get_call_filter              (MonoTrampInfo **info, gboolean aot);
2746 gpointer mono_arch_get_restore_context          (MonoTrampInfo **info, gboolean aot);
2747 gpointer  mono_arch_get_throw_exception         (MonoTrampInfo **info, gboolean aot);
2748 gpointer  mono_arch_get_rethrow_exception       (MonoTrampInfo **info, gboolean aot);
2749 gpointer  mono_arch_get_throw_corlib_exception  (MonoTrampInfo **info, gboolean aot);
2750 gpointer  mono_arch_get_throw_pending_exception (MonoTrampInfo **info, gboolean aot);
2751 gboolean mono_arch_handle_exception             (void *sigctx, gpointer obj);
2752 void     mono_arch_handle_altstack_exception    (void *sigctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo, gpointer fault_addr, gboolean stack_ovf);
2753 gboolean mono_handle_soft_stack_ovf             (MonoJitTlsData *jit_tls, MonoJitInfo *ji, void *ctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo, guint8* fault_addr);
2754 void     mono_handle_hard_stack_ovf             (MonoJitTlsData *jit_tls, MonoJitInfo *ji, void *ctx, guint8* fault_addr);
2755 gpointer mono_arch_ip_from_context              (void *sigctx);
2756 mgreg_t mono_arch_context_get_int_reg               (MonoContext *ctx, int reg);
2757 void     mono_arch_context_set_int_reg              (MonoContext *ctx, int reg, mgreg_t val);
2758 void     mono_arch_flush_register_windows       (void);
2759 gboolean mono_arch_is_inst_imm                  (gint64 imm);
2760 gboolean mono_arch_is_int_overflow              (void *sigctx, void *info);
2761 void     mono_arch_invalidate_method            (MonoJitInfo *ji, void *func, gpointer func_arg);
2762 guint32  mono_arch_get_patch_offset             (guint8 *code);
2763 gpointer*mono_arch_get_delegate_method_ptr_addr (guint8* code, mgreg_t *regs);
2764 void     mono_arch_create_vars                  (MonoCompile *cfg) MONO_LLVM_INTERNAL;
2765 void     mono_arch_save_unwind_info             (MonoCompile *cfg);
2766 void     mono_arch_register_lowlevel_calls      (void);
2767 gpointer mono_arch_get_unbox_trampoline         (MonoMethod *m, gpointer addr);
2768 gpointer mono_arch_get_static_rgctx_trampoline  (MonoMethod *m, MonoMethodRuntimeGenericContext *mrgctx, gpointer addr);
2769 gpointer  mono_arch_get_llvm_imt_trampoline     (MonoDomain *domain, MonoMethod *method, int vt_offset);
2770 gpointer mono_arch_get_gsharedvt_arg_trampoline (MonoDomain *domain, gpointer arg, gpointer addr);
2771 void     mono_arch_patch_callsite               (guint8 *method_start, guint8 *code, guint8 *addr);
2772 void     mono_arch_patch_plt_entry              (guint8 *code, gpointer *got, mgreg_t *regs, guint8 *addr);
2773 void     mono_arch_nullify_class_init_trampoline(guint8 *code, mgreg_t *regs);
2774 int      mono_arch_get_this_arg_reg             (guint8 *code);
2775 gpointer mono_arch_get_this_arg_from_call       (mgreg_t *regs, guint8 *code);
2776 gpointer mono_arch_get_delegate_invoke_impl     (MonoMethodSignature *sig, gboolean has_target);
2777 gpointer mono_arch_get_delegate_virtual_invoke_impl (MonoMethodSignature *sig, MonoMethod *method, int offset, gboolean load_imt_reg);
2778 gpointer mono_arch_create_specific_trampoline   (gpointer arg1, MonoTrampolineType tramp_type, MonoDomain *domain, guint32 *code_len);
2779 MonoMethod* mono_arch_find_imt_method           (mgreg_t *regs, guint8 *code);
2780 MonoVTable* mono_arch_find_static_call_vtable   (mgreg_t *regs, guint8 *code);
2781 gpointer    mono_arch_build_imt_thunk           (MonoVTable *vtable, MonoDomain *domain, MonoIMTCheckItem **imt_entries, int count, gpointer fail_tramp);
2782 void    mono_arch_notify_pending_exc            (MonoThreadInfo *info);
2783 guint8* mono_arch_get_call_target               (guint8 *code);
2784 guint32 mono_arch_get_plt_info_offset           (guint8 *plt_entry, mgreg_t *regs, guint8 *code);
2785 GSList *mono_arch_get_trampolines               (gboolean aot);
2786
2787 /* Handle block guard */
2788 gpointer mono_arch_install_handler_block_guard (MonoJitInfo *ji, MonoJitExceptionInfo *clause, MonoContext *ctx, gpointer new_value);
2789 gpointer mono_arch_create_handler_block_trampoline (MonoTrampInfo **info, gboolean aot);
2790 gpointer mono_create_handler_block_trampoline (void);
2791 gboolean mono_install_handler_block_guard (MonoThreadUnwindState *ctx);
2792
2793 /*New interruption machinery */
2794 void
2795 mono_setup_async_callback (MonoContext *ctx, void (*async_cb)(void *fun), gpointer user_data);
2796
2797 void
2798 mono_arch_setup_async_callback (MonoContext *ctx, void (*async_cb)(void *fun), gpointer user_data);
2799
2800 gboolean
2801 mono_thread_state_init_from_handle (MonoThreadUnwindState *tctx, MonoThreadInfo *info);
2802
2803
2804 /* Exception handling */
2805 typedef gboolean (*MonoJitStackWalk)            (StackFrameInfo *frame, MonoContext *ctx, gpointer data);
2806
2807 void     mono_exceptions_init                   (void);
2808 gboolean mono_handle_exception                  (MonoContext *ctx, MonoObject *obj);
2809 void     mono_handle_native_sigsegv             (int signal, void *sigctx, MONO_SIG_HANDLER_INFO_TYPE *siginfo);
2810 MONO_API void     mono_print_thread_dump                 (void *sigctx);
2811 MONO_API void     mono_print_thread_dump_from_ctx        (MonoContext *ctx);
2812 void     mono_walk_stack_with_ctx               (MonoJitStackWalk func, MonoContext *start_ctx, MonoUnwindOptions unwind_options, void *user_data);
2813 void     mono_walk_stack_with_state             (MonoJitStackWalk func, MonoThreadUnwindState *state, MonoUnwindOptions unwind_options, void *user_data);
2814 void     mono_walk_stack                        (MonoJitStackWalk func, MonoUnwindOptions options, void *user_data);
2815 gboolean mono_thread_state_init_from_sigctx     (MonoThreadUnwindState *ctx, void *sigctx);
2816 void     mono_thread_state_init                 (MonoThreadUnwindState *ctx);
2817 gboolean mono_thread_state_init_from_current    (MonoThreadUnwindState *ctx);
2818 gboolean mono_thread_state_init_from_monoctx    (MonoThreadUnwindState *ctx, MonoContext *mctx);
2819
2820 void     mono_setup_altstack                    (MonoJitTlsData *tls);
2821 void     mono_free_altstack                     (MonoJitTlsData *tls);
2822 gpointer mono_altstack_restore_prot             (mgreg_t *regs, guint8 *code, gpointer *tramp_data, guint8* tramp);
2823 MonoJitInfo* mini_jit_info_table_find           (MonoDomain *domain, char *addr, MonoDomain **out_domain);
2824 MonoJitInfo* mini_jit_info_table_find_ext       (MonoDomain *domain, char *addr, gboolean allow_trampolines, MonoDomain **out_domain);
2825 void     mono_resume_unwind                     (MonoContext *ctx) MONO_LLVM_INTERNAL;
2826
2827 MonoJitInfo * mono_find_jit_info                (MonoDomain *domain, MonoJitTlsData *jit_tls, MonoJitInfo *res, MonoJitInfo *prev_ji, MonoContext *ctx, MonoContext *new_ctx, char **trace, MonoLMF **lmf, int *native_offset, gboolean *managed);
2828
2829 typedef gboolean (*MonoExceptionFrameWalk)      (MonoMethod *method, gpointer ip, size_t native_offset, gboolean managed, gpointer user_data);
2830 MONO_API gboolean mono_exception_walk_trace     (MonoException *ex, MonoExceptionFrameWalk func, gpointer user_data);
2831 void mono_restore_context                       (MonoContext *ctx);
2832 guint8* mono_jinfo_get_unwind_info              (MonoJitInfo *ji, guint32 *unwind_info_len);
2833 int  mono_jinfo_get_epilog_size                 (MonoJitInfo *ji);
2834 void     mono_llvm_rethrow_exception            (MonoObject *ex);
2835 void     mono_llvm_throw_exception              (MonoObject *ex);
2836 void     mono_llvm_throw_corlib_exception       (guint32 ex_token_index);
2837 void     mono_llvm_resume_exception             (void);
2838 void     mono_llvm_clear_exception              (void);
2839 MonoObject *mono_llvm_load_exception            (void);
2840 void     mono_llvm_reset_exception              (void);
2841 void     mono_llvm_raise_exception              (MonoException *e);
2842 gint32 mono_llvm_match_exception                (MonoJitInfo *jinfo, guint32 region_start, guint32 region_end, gpointer rgctx, MonoObject *this_obj);
2843
2844 gboolean
2845 mono_find_jit_info_ext (MonoDomain *domain, MonoJitTlsData *jit_tls, 
2846                                                 MonoJitInfo *prev_ji, MonoContext *ctx,
2847                                                 MonoContext *new_ctx, char **trace, MonoLMF **lmf,
2848                                                 mgreg_t **save_locations,
2849                                                 StackFrameInfo *frame);
2850
2851 gpointer mono_get_throw_exception               (void);
2852 gpointer mono_get_rethrow_exception             (void);
2853 gpointer mono_get_call_filter                   (void);
2854 gpointer mono_get_restore_context               (void);
2855 gpointer mono_get_throw_exception_by_name       (void);
2856 gpointer mono_get_throw_corlib_exception        (void);
2857 gpointer mono_get_throw_exception_addr          (void);
2858 MonoArray *ves_icall_get_trace                  (MonoException *exc, gint32 skip, MonoBoolean need_file_info);
2859 MonoBoolean ves_icall_get_frame_info            (gint32 skip, MonoBoolean need_file_info, 
2860                                                  MonoReflectionMethod **method, 
2861                                                  gint32 *iloffset, gint32 *native_offset,
2862                                                  MonoString **file, gint32 *line, gint32 *column);
2863 void mono_set_cast_details                      (MonoClass *from, MonoClass *to);
2864
2865 /* Installs a function which is called when the runtime encounters an unhandled exception.
2866  * This hook isn't expected to return.
2867  * If no hook has been installed, the runtime will print a message before aborting.
2868  */
2869 typedef void  (*MonoUnhandledExceptionFunc)         (MonoObject *exc, gpointer user_data);
2870 MONO_API void mono_install_unhandled_exception_hook (MonoUnhandledExceptionFunc func, gpointer user_data);
2871 void          mono_invoke_unhandled_exception_hook  (MonoObject *exc);
2872
2873 void mono_decompose_typechecks (MonoCompile *cfg);
2874 /* Dominator/SSA methods */
2875 void        mono_compile_dominator_info         (MonoCompile *cfg, int dom_flags);
2876 void        mono_compute_natural_loops          (MonoCompile *cfg);
2877 MonoBitSet* mono_compile_iterated_dfrontier     (MonoCompile *cfg, MonoBitSet *set);
2878 void        mono_ssa_compute                    (MonoCompile *cfg);
2879 void        mono_ssa_remove                     (MonoCompile *cfg);
2880 void        mono_ssa_remove_gsharedvt           (MonoCompile *cfg);
2881 void        mono_ssa_cprop                      (MonoCompile *cfg);
2882 void        mono_ssa_deadce                     (MonoCompile *cfg);
2883 void        mono_ssa_strength_reduction         (MonoCompile *cfg);
2884 void        mono_free_loop_info                 (MonoCompile *cfg);
2885 void        mono_ssa_loop_invariant_code_motion (MonoCompile *cfg);
2886
2887 void        mono_ssa_compute2                   (MonoCompile *cfg);
2888 void        mono_ssa_remove2                    (MonoCompile *cfg);
2889 void        mono_ssa_cprop2                     (MonoCompile *cfg);
2890 void        mono_ssa_deadce2                    (MonoCompile *cfg);
2891
2892 /* debugging support */
2893 void      mono_debug_init_method                (MonoCompile *cfg, MonoBasicBlock *start_block,
2894                                                  guint32 breakpoint_id);
2895 void      mono_debug_open_method                (MonoCompile *cfg);
2896 void      mono_debug_close_method               (MonoCompile *cfg);
2897 void      mono_debug_free_method                (MonoCompile *cfg);
2898 void      mono_debug_open_block                 (MonoCompile *cfg, MonoBasicBlock *bb, guint32 address);
2899 void      mono_debug_record_line_number         (MonoCompile *cfg, MonoInst *ins, guint32 address);
2900 void      mono_debug_serialize_debug_info       (MonoCompile *cfg, guint8 **out_buf, guint32 *buf_len);
2901 void      mono_debug_add_aot_method             (MonoDomain *domain,
2902                                                  MonoMethod *method, guint8 *code_start, 
2903                                                  guint8 *debug_info, guint32 debug_info_len);
2904 MONO_API void      mono_debug_print_vars                 (gpointer ip, gboolean only_arguments);
2905 MONO_API void      mono_debugger_run_finally             (MonoContext *start_ctx);
2906
2907 MONO_API gboolean mono_breakpoint_clean_code (guint8 *method_start, guint8 *code, int offset, guint8 *buf, int size);
2908
2909 /* Tracing */
2910 MonoTraceSpec *mono_trace_parse_options         (const char *options);
2911 void           mono_trace_set_assembly          (MonoAssembly *assembly);
2912 gboolean       mono_trace_eval                  (MonoMethod *method);
2913
2914 extern void
2915 mono_perform_abc_removal (MonoCompile *cfg);
2916 extern void
2917 mono_perform_abc_removal (MonoCompile *cfg);
2918 extern void
2919 mono_perform_ssapre (MonoCompile *cfg);
2920 extern void
2921 mono_local_cprop (MonoCompile *cfg);
2922 extern void
2923 mono_local_cprop (MonoCompile *cfg);
2924 extern void
2925 mono_local_deadce (MonoCompile *cfg);
2926 void
2927 mono_local_alias_analysis (MonoCompile *cfg);
2928
2929 /* Generic sharing */
2930
2931 void
2932 mono_set_generic_sharing_supported (gboolean supported);
2933
2934 void
2935 mono_set_generic_sharing_vt_supported (gboolean supported);
2936
2937 void
2938 mono_set_partial_sharing_supported (gboolean supported);
2939
2940 gboolean
2941 mono_class_generic_sharing_enabled (MonoClass *klass);
2942
2943 gpointer
2944 mono_class_fill_runtime_generic_context (MonoVTable *class_vtable, guint32 slot, MonoError *error);
2945
2946 gpointer
2947 mono_method_fill_runtime_generic_context (MonoMethodRuntimeGenericContext *mrgctx, guint32 slot, MonoError *error);
2948
2949 MonoMethodRuntimeGenericContext*
2950 mono_method_lookup_rgctx (MonoVTable *class_vtable, MonoGenericInst *method_inst);
2951
2952 const char*
2953 mono_rgctx_info_type_to_str (MonoRgctxInfoType type);
2954
2955 MonoJumpInfoType
2956 mini_rgctx_info_type_to_patch_info_type (MonoRgctxInfoType info_type);
2957
2958 gboolean
2959 mono_method_needs_static_rgctx_invoke (MonoMethod *method, gboolean allow_type_vars);
2960
2961 int
2962 mono_class_rgctx_get_array_size (int n, gboolean mrgctx);
2963
2964 guint32
2965 mono_method_lookup_or_register_info (MonoMethod *method, gboolean in_mrgctx, gpointer data,
2966         MonoRgctxInfoType info_type, MonoGenericContext *generic_context);
2967
2968 MonoGenericContext
2969 mono_method_construct_object_context (MonoMethod *method);
2970
2971 MonoMethod*
2972 mono_method_get_declaring_generic_method (MonoMethod *method);
2973
2974 int
2975 mono_generic_context_check_used (MonoGenericContext *context);
2976
2977 int
2978 mono_class_check_context_used (MonoClass *klass);
2979
2980 gboolean
2981 mono_generic_context_is_sharable (MonoGenericContext *context, gboolean allow_type_vars);
2982
2983 gboolean
2984 mono_generic_context_is_sharable_full (MonoGenericContext *context, gboolean allow_type_vars, gboolean allow_partial);
2985
2986 gboolean
2987 mono_method_is_generic_impl (MonoMethod *method);
2988
2989 gboolean
2990 mono_method_is_generic_sharable (MonoMethod *method, gboolean allow_type_vars);
2991
2992 gboolean
2993 mono_method_is_generic_sharable_full (MonoMethod *method, gboolean allow_type_vars, gboolean allow_partial, gboolean allow_gsharedvt);
2994
2995 gboolean
2996 mini_class_is_generic_sharable (MonoClass *klass);
2997
2998
2999 gboolean
3000 mini_generic_inst_is_sharable (MonoGenericInst *inst, gboolean allow_type_vars, gboolean allow_partial);
3001
3002 gboolean
3003 mono_is_partially_sharable_inst (MonoGenericInst *inst);
3004
3005 gboolean
3006 mini_is_gsharedvt_gparam (MonoType *t);
3007
3008 MonoGenericContext* mini_method_get_context (MonoMethod *method);
3009
3010 int mono_method_check_context_used (MonoMethod *method);
3011
3012 gboolean mono_generic_context_equal_deep (MonoGenericContext *context1, MonoGenericContext *context2);
3013
3014 gpointer mono_helper_get_rgctx_other_ptr (MonoClass *caller_class, MonoVTable *vtable,
3015                                           guint32 token, guint32 token_source, guint32 rgctx_type,
3016                                           gint32 rgctx_index);
3017
3018 void mono_generic_sharing_init (void);
3019 void mono_generic_sharing_cleanup (void);
3020
3021 MonoClass* mini_class_get_container_class (MonoClass *klass);
3022 MonoGenericContext* mini_class_get_context (MonoClass *klass);
3023
3024 MonoType* mini_get_underlying_type (MonoType *type) MONO_LLVM_INTERNAL;
3025 MonoType* mini_type_get_underlying_type (MonoType *type);
3026 MonoMethod* mini_get_shared_method (MonoMethod *method);
3027 MonoMethod* mini_get_shared_method_to_register (MonoMethod *method);
3028 MonoMethod* mini_get_shared_method_full (MonoMethod *method, gboolean all_vt, gboolean is_gsharedvt);
3029 MonoType* mini_get_shared_gparam (MonoType *t, MonoType *constraint);
3030 int mini_get_rgctx_entry_slot (MonoJumpInfoRgctxEntry *entry);
3031
3032 int mini_type_stack_size (MonoType *t, int *align);
3033 int mini_type_stack_size_full (MonoType *t, guint32 *align, gboolean pinvoke);
3034 void type_to_eval_stack_type (MonoCompile *cfg, MonoType *type, MonoInst *inst);
3035 guint mono_type_to_regmove (MonoCompile *cfg, MonoType *type) MONO_LLVM_INTERNAL;
3036
3037 void mono_cfg_add_try_hole (MonoCompile *cfg, MonoExceptionClause *clause, guint8 *start, MonoBasicBlock *bb);
3038
3039 void mono_cfg_set_exception (MonoCompile *cfg, int type);
3040 void mono_cfg_set_exception_invalid_program (MonoCompile *cfg, char *msg);
3041
3042 #define MONO_TIME_TRACK(a, phase) \
3043         { \
3044                 GTimer *timer = mono_time_track_start (); \
3045                 (phase) ; \
3046                 mono_time_track_end (&(a), timer); \
3047         }
3048
3049 GTimer *mono_time_track_start (void);
3050 void mono_time_track_end (double *time, GTimer *timer);
3051
3052 void mono_update_jit_stats (MonoCompile *cfg);
3053
3054 gboolean mini_type_is_reference (MonoType *type);
3055 gboolean mini_type_is_vtype (MonoType *t) MONO_LLVM_INTERNAL;
3056 gboolean mini_type_var_is_vt (MonoType *type) MONO_LLVM_INTERNAL;
3057 gboolean mini_is_gsharedvt_type (MonoType *t);
3058 gboolean mini_is_gsharedvt_klass (MonoClass *klass) MONO_LLVM_INTERNAL;
3059 gboolean mini_is_gsharedvt_signature (MonoMethodSignature *sig);
3060 gboolean mini_is_gsharedvt_variable_type (MonoType *t) MONO_LLVM_INTERNAL;
3061 gboolean mini_is_gsharedvt_variable_klass (MonoClass *klass) MONO_LLVM_INTERNAL;
3062 gboolean mini_is_gsharedvt_sharable_method (MonoMethod *method);
3063 gboolean mini_is_gsharedvt_variable_signature (MonoMethodSignature *sig);
3064 gboolean mini_is_gsharedvt_sharable_inst (MonoGenericInst *inst);
3065 gpointer mini_method_get_rgctx (MonoMethod *m);
3066 void mini_init_gsctx (MonoDomain *domain, MonoMemPool *mp, MonoGenericContext *context, MonoGenericSharingContext *gsctx);
3067
3068 gpointer mini_get_gsharedvt_wrapper (gboolean gsharedvt_in, gpointer addr, MonoMethodSignature *normal_sig, MonoMethodSignature *gsharedvt_sig,
3069                                                                          gint32 vcall_offset, gboolean calli);
3070 MonoMethod* mini_get_gsharedvt_in_sig_wrapper (MonoMethodSignature *sig);
3071 MonoMethod* mini_get_gsharedvt_out_sig_wrapper (MonoMethodSignature *sig);
3072 MonoMethodSignature* mini_get_gsharedvt_out_sig_wrapper_signature (gboolean has_this, gboolean has_ret, int param_count);
3073 gboolean mini_gsharedvt_runtime_invoke_supported (MonoMethodSignature *sig);
3074
3075 /* SIMD support */
3076
3077 /*
3078 This enum MUST be kept in sync with its managed mirror Mono.Simd.AccelMode.
3079  */
3080 enum {
3081         SIMD_VERSION_SSE1       = 1 << 0,
3082         SIMD_VERSION_SSE2       = 1 << 1,
3083         SIMD_VERSION_SSE3       = 1 << 2,
3084         SIMD_VERSION_SSSE3      = 1 << 3,
3085         SIMD_VERSION_SSE41      = 1 << 4,
3086         SIMD_VERSION_SSE42      = 1 << 5,
3087         SIMD_VERSION_SSE4a      = 1 << 6,
3088         SIMD_VERSION_ALL        = SIMD_VERSION_SSE1 | SIMD_VERSION_SSE2 |
3089                           SIMD_VERSION_SSE3 | SIMD_VERSION_SSSE3 |
3090                           SIMD_VERSION_SSE41 | SIMD_VERSION_SSE42 |
3091                           SIMD_VERSION_SSE4a,
3092
3093         /* this value marks the end of the bit indexes used in 
3094          * this emum.
3095          */
3096         SIMD_VERSION_INDEX_END = 6 
3097 };
3098
3099 enum {
3100         SIMD_COMP_EQ,
3101         SIMD_COMP_LT,
3102         SIMD_COMP_LE,
3103         SIMD_COMP_UNORD,
3104         SIMD_COMP_NEQ,
3105         SIMD_COMP_NLT,
3106         SIMD_COMP_NLE,
3107         SIMD_COMP_ORD
3108 };
3109
3110 enum {
3111         SIMD_PREFETCH_MODE_NTA,
3112         SIMD_PREFETCH_MODE_0,
3113         SIMD_PREFETCH_MODE_1,
3114         SIMD_PREFETCH_MODE_2,
3115 };
3116
3117 const char *mono_arch_xregname (int reg);
3118 void        mono_simd_simplify_indirection (MonoCompile *cfg);
3119 MonoInst*   mono_emit_simd_intrinsics (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
3120 guint32     mono_arch_cpu_enumerate_simd_versions (void);
3121 void        mono_simd_intrinsics_init (void);
3122
3123 MonoInst*   mono_emit_native_types_intrinsics (MonoCompile *cfg, MonoMethod *cmethod, MonoMethodSignature *fsig, MonoInst **args);
3124 MonoType*   mini_native_type_replace_type (MonoType *type) MONO_LLVM_INTERNAL;
3125
3126 #ifdef __linux__
3127 #define XDEBUG_ENABLED 1
3128 #endif
3129
3130 #ifdef __linux__
3131 /* maybe enable also for other systems? */
3132 #define ENABLE_JIT_MAP 1
3133 void mono_enable_jit_map (void);
3134 void mono_emit_jit_map   (MonoJitInfo *jinfo);
3135 void mono_emit_jit_tramp (void *start, int size, const char *desc);
3136 gboolean mono_jit_map_is_enabled (void);
3137 #else
3138 #define mono_enable_jit_map()
3139 #define mono_emit_jit_map(ji)
3140 #define mono_emit_jit_tramp(s,z,d)
3141 #define mono_jit_map_is_enabled() (0)
3142 #endif
3143
3144 /*
3145  * Per-OS implementation functions.
3146  */
3147 void mono_runtime_install_handlers (void);
3148 void mono_runtime_cleanup_handlers (void);
3149 void mono_runtime_setup_stat_profiler (void);
3150 void mono_runtime_shutdown_stat_profiler (void);
3151 void mono_runtime_posix_install_handlers (void);
3152 pid_t mono_runtime_syscall_fork (void);
3153 void mono_gdb_render_native_backtraces (pid_t crashed_pid);
3154
3155 void mono_cross_helpers_run (void);
3156
3157 /*
3158  * Signal handling
3159  */
3160
3161 #if defined(DISABLE_HW_TRAPS) || defined(MONO_ARCH_DISABLE_HW_TRAPS)
3162  // Signal handlers not available
3163 #define MONO_ARCH_NEED_DIV_CHECK 1
3164 #endif
3165
3166 void MONO_SIG_HANDLER_SIGNATURE (mono_sigfpe_signal_handler) ;
3167 void MONO_SIG_HANDLER_SIGNATURE (mono_sigill_signal_handler) ;
3168 void MONO_SIG_HANDLER_SIGNATURE (mono_sigsegv_signal_handler);
3169 void MONO_SIG_HANDLER_SIGNATURE (mono_sigint_signal_handler) ;
3170 gboolean MONO_SIG_HANDLER_SIGNATURE (mono_chain_signal);
3171
3172 #ifndef MONO_ARCH_HAVE_TLS_GET
3173 #define MONO_ARCH_HAVE_TLS_GET 0
3174 #endif
3175
3176 #ifdef MONO_ARCH_VARARG_ICALLS
3177 #define ARCH_VARARG_ICALLS 1
3178 #else
3179 #define ARCH_VARARG_ICALLS 0
3180 #endif
3181
3182 /*
3183  * Native unwinder integration
3184  */
3185 void mono_exception_native_unwind (void *ctx, MONO_SIG_HANDLER_INFO_TYPE *info);
3186
3187 /*
3188  * Coop support for trampolines
3189  */
3190 void mono_interruption_checkpoint_from_trampoline (void);
3191
3192 #endif /* __MONO_MINI_H__ */