mono/mini/inssel.brg

   1 /*
   2  * inssel.brg: instruction selection
   3  *
   4  * Author:
   5  *   Dietmar Maurer (dietmar@ximian.com)
   6  *   Paolo Molaro (lupus@ximian.com)
   7  *
   8  * (C) 2002 Ximian, Inc.
   9  *
  10  */
  11 #include <config.h>
  12 #include <string.h>
  13
  14 #include "mini.h"
  15 #include <mono/metadata/marshal.h>
  16 #include <mono/metadata/debug-helpers.h>
  17
  18 #define MBTREE_TYPE  MonoInst
  19 #define MBCGEN_TYPE  MonoCompile
  20 #define MBCOST_DATA  MonoCompile
  21 #define MBALLOC_STATE mono_mempool_alloc (data->state_pool, sizeof (MBState))
  22 #define MBMAX_OPCODES OP_LAST
  23 #define MBGET_OP_NAME(op) mono_inst_name (op)
  24
  25 #define MBTREE_OP(t) ((t)->opcode)
  26 #define MBTREE_LEFT(t) ((t)->inst_left)
  27 #define MBTREE_RIGHT(t) ((t)->inst_right)
  28
  29 #define MONO_EMIT_UNALU(cfg,inst,op,dr,sr1) do { \
  30                 (inst)->opcode = op; \
  31                 (inst)->dreg = dr; \
  32                 (inst)->sreg1 = sr1; \
  33                 mono_bblock_add_inst (cfg->cbb, inst); \
  34         } while (0)
  35
  36 #define MONO_EMIT_NEW_UNALU(cfg,op,dr,sr1) do { \
  37                 MonoInst *inst; \
  38                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  39                 inst->opcode = op; \
  40                 inst->dreg = dr; \
  41                 inst->sreg1 = sr1; \
  42                 mono_bblock_add_inst (cfg->cbb, inst); \
  43         } while (0)
  44
  45 #define MONO_EMIT_BIALU(cfg,inst,op,dr,sr1,sr2) do { \
  46                 (inst)->opcode = op; \
  47                 (inst)->dreg = dr; \
  48                 (inst)->sreg1 = sr1; \
  49                 (inst)->sreg2 = sr2; \
  50                 mono_bblock_add_inst (cfg->cbb, inst); \
  51         } while (0)
  52
  53 #define MONO_EMIT_NEW_BIALU(cfg,op,dr,sr1,sr2) do { \
  54                 MonoInst *inst; \
  55                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  56                 inst->opcode = op; \
  57                 inst->dreg = dr; \
  58                 inst->sreg1 = sr1; \
  59                 inst->sreg2 = sr2; \
  60                 mono_bblock_add_inst (cfg->cbb, inst); \
  61         } while (0)
  62
  63 #define MONO_EMIT_BIALU_IMM(cfg,inst,op,dr,sr,imm) do { \
  64                 (inst)->opcode = op; \
  65                 (inst)->dreg = dr; \
  66                 (inst)->sreg1 = sr; \
  67                 (inst)->inst_p1 = (gpointer)(gssize)(imm); \
  68                 mono_bblock_add_inst (cfg->cbb, inst); \
  69         } while (0)
  70
  71 #define MONO_EMIT_NEW_BIALU_IMM(cfg,op,dr,sr,imm) do { \
  72                 MonoInst *inst; \
  73                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  74                 inst->opcode = op; \
  75                 inst->dreg = dr; \
  76                 inst->sreg1 = sr; \
  77                 inst->inst_p1 = (gpointer)(gssize)(imm); \
  78                 mono_bblock_add_inst (cfg->cbb, inst); \
  79         } while (0)
  80
  81 #define MONO_EMIT_BIALU_MEMBASE(cfg,tree,op,dr,sr,basereg,offset) do { \
  82                                 tree->opcode = op; \
  83                                 tree->dreg = dr; \
  84                                 tree->sreg1 = sr; \
  85                                 tree->sreg2 = basereg; \
  86                                 tree->inst_offset = offset; \
  87                                 mono_bblock_add_inst (s->cbb, tree); \
  88         } while (0)
  89
  90 #define MONO_EMIT_LOAD_MEMBASE(cfg,inst,dr,base,offset) do { \
  91                 (inst)->opcode = OP_LOAD_MEMBASE; \
  92                 (inst)->dreg = dr; \
  93                 (inst)->inst_basereg = base; \
  94                 (inst)->inst_offset = offset; \
  95                 mono_bblock_add_inst (cfg->cbb, inst); \
  96         } while (0)
  97
  98 #define MONO_EMIT_LOAD_MEMBASE_OP(cfg,inst,op,dr,base,offset) do { \
  99                 (inst)->opcode = op; \
 100                 (inst)->dreg = dr; \
 101                 (inst)->inst_basereg = base; \
 102                 (inst)->inst_offset = offset; \
 103                 mono_bblock_add_inst (cfg->cbb, inst); \
 104         } while (0)
 105
 106 #define MONO_EMIT_NEW_LOAD_MEM(cfg,dr,addr) do { \
 107                 MonoInst *inst; \
 108                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 109                 inst->opcode = OP_LOADU4_MEM; \
 110                 inst->dreg = dr; \
 111                 inst->inst_p0 = addr; \
 112                 mono_bblock_add_inst (cfg->cbb, inst); \
 113         } while (0)
 114
 115 #define MONO_EMIT_NEW_LOAD_MEMBASE(cfg,dr,base,offset) do { \
 116                 MonoInst *inst; \
 117                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 118                 inst->opcode = OP_LOAD_MEMBASE; \
 119                 inst->dreg = dr; \
 120                 inst->inst_basereg = base; \
 121                 inst->inst_offset = offset; \
 122                 mono_bblock_add_inst (cfg->cbb, inst); \
 123         } while (0)
 124
 125 #define MONO_EMIT_NEW_LOAD_MEMBASE_OP(cfg,op,dr,base,offset) do { \
 126                 MonoInst *inst; \
 127                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 128                 inst->opcode = op; \
 129                 inst->dreg = dr; \
 130                 inst->inst_basereg = base; \
 131                 inst->inst_offset = offset; \
 132                 mono_bblock_add_inst (cfg->cbb, inst); \
 133         } while (0)
 134
 135 #define MONO_EMIT_STORE_MEMBASE(cfg,inst,op,base,offset,sr) do { \
 136                 (inst)->opcode = op; \
 137                 (inst)->sreg1 = sr; \
 138                 (inst)->inst_destbasereg = base; \
 139                 (inst)->inst_offset = offset; \
 140                 mono_bblock_add_inst (cfg->cbb, inst); \
 141         } while (0)
 142
 143 #define MONO_EMIT_NEW_STORE_MEMBASE(cfg,op,base,offset,sr) do { \
 144                 MonoInst *inst; \
 145                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 146                 inst->opcode = op; \
 147                 inst->sreg1 = sr; \
 148                 inst->inst_destbasereg = base; \
 149                 inst->inst_offset = offset; \
 150                 mono_bblock_add_inst (cfg->cbb, inst); \
 151         } while (0)
 152
 153 #define MONO_EMIT_STORE_MEMBASE_IMM(cfg,inst,op,base,offset,imm) do { \
 154                 (inst)->opcode = op; \
 155                 (inst)->inst_destbasereg = base; \
 156                 (inst)->inst_offset = offset; \
 157                 (inst)->inst_p1 = (gpointer)imm; \
 158                 mono_bblock_add_inst (cfg->cbb, inst); \
 159         } while (0)
 160
 161 #define MONO_EMIT_NEW_STORE_MEMBASE_IMM(cfg,op,base,offset,imm) do { \
 162                 MonoInst *inst; \
 163                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 164                 inst->opcode = op; \
 165                 inst->inst_destbasereg = base; \
 166                 inst->inst_offset = offset; \
 167                 inst->inst_p1 = (gpointer)imm; \
 168                 mono_bblock_add_inst (cfg->cbb, inst); \
 169         } while (0)
 170
 171 #define MONO_EMIT_NEW_COMPARE_IMM(cfg,sr1,imm) do { \
 172                 MonoInst *inst; \
 173                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 174                 inst->opcode = OP_COMPARE_IMM;  \
 175                 inst->sreg1 = sr1; \
 176                 inst->inst_p1 = (gpointer)imm; \
 177                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 178         } while (0)
 179
 180 #define MONO_EMIT_NEW_ICOMPARE_IMM(cfg,sr1,imm) do { \
 181                 MonoInst *inst; \
 182                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 183                 inst->opcode = sizeof (void*) == 8 ? OP_ICOMPARE_IMM : OP_COMPARE_IMM;  \
 184                 inst->sreg1 = sr1; \
 185                 inst->inst_p1 = (gpointer)imm; \
 186                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 187         } while (0)
 188
 189 #define MONO_EMIT_NEW_COND_EXC(cfg,cond,name) do { \
 190                 MonoInst *inst; \
 191                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 192                 inst->opcode = OP_COND_EXC_##cond;  \
 193                 inst->inst_p1 = (char*)name; \
 194                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 195         } while (0)
 196
 197 #define MONO_EMIT_NEW_ICONST(cfg,dr,imm) do { \
 198                 MonoInst *inst; \
 199                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 200                 inst->opcode = OP_ICONST;       \
 201                 inst->dreg = dr; \
 202                 inst->inst_c0 = imm; \
 203                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 204         } while (0)
 205
 206 #define MONO_EMIT_NEW_I8CONST(cfg,dr,imm) do { \
 207                 MonoInst *inst; \
 208                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 209                 inst->opcode = OP_I8CONST;      \
 210                 inst->dreg = dr; \
 211                 inst->inst_l = imm; \
 212                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 213         } while (0)
 214
 215 #define MONO_EMIT_NEW_PCONST(cfg,dr,imm) do { \
 216                 MonoInst *inst; \
 217                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 218                 inst->opcode = OP_ICONST;       \
 219                 inst->dreg = dr; \
 220                 inst->inst_p0 = (gpointer) imm; \
 221                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 222         } while (0)
 223
 224
 225 #ifdef MONO_ARCH_NEED_GOT_VAR
 226
 227 #define MONO_EMIT_NEW_AOTCONST(cfg,dr,cons,patch_type) do { \
 228                 mini_emit_aotconst ((cfg), (dr), (patch_type), (cons)); \
 229     } while (0)
 230
 231 #else
 232
 233 #define MONO_EMIT_NEW_AOTCONST(cfg,dr,imm,type) do { \
 234                 MonoInst *inst; \
 235                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 236                 inst->opcode = OP_AOTCONST;     \
 237                 inst->dreg = dr; \
 238                 inst->inst_p0 = imm; \
 239                 inst->inst_c1 = type; \
 240                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 241         } while (0)
 242
 243 #endif
 244
 245 #define MONO_EMIT_NEW_CLASSCONST(cfg,dr,imm) MONO_EMIT_NEW_AOTCONST(cfg,dr,imm,MONO_PATCH_INFO_CLASS)
 246 #define MONO_EMIT_NEW_VTABLECONST(cfg,dest,vtable) MONO_EMIT_NEW_AOTCONST ((cfg), (dest), (cfg)->compile_aot ? (gpointer)((vtable)->klass) : (vtable), MONO_PATCH_INFO_VTABLE)
 247
 248 #define MONO_EMIT_NEW_BRANCH_BLOCK(cfg,op,targetbb) do { \
 249                 MonoInst *inst; \
 250                 MonoInst *target_label; \
 251                 target_label = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 252                 target_label->opcode = OP_LABEL;        \
 253                 target_label->next = (targetbb)->code; \
 254                 target_label->inst_c0 = (targetbb)->native_offset; \
 255                 (targetbb)->code = target_label; \
 256                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 257                 inst->opcode = op;      \
 258                 inst->inst_i0 = target_label;   \
 259                 inst->flags = MONO_INST_BRLABEL;        \
 260                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 261         } while (0)
 262
 263 #define MONO_EMIT_NEW_BRANCH_LABEL(cfg,op,label) do { \
 264                 MonoInst *inst; \
 265                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 266                 inst->opcode = op;      \
 267                 inst->inst_i0 = label;  \
 268                 inst->flags = MONO_INST_BRLABEL;        \
 269                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 270         } while (0)
 271
 272 #define MONO_NEW_LABEL(cfg,inst) do { \
 273                 (inst) = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));       \
 274                 (inst)->opcode = OP_LABEL;      \
 275         } while (0)
 276
 277 #define MONO_EMIT_BOUNDS_CHECK(cfg, array_reg, array_type, array_length_field, index_reg) do { \
 278                 if (! (state->tree->flags & MONO_INST_NORANGECHECK)) { \
 279                         int _length_reg = mono_regstate_next_int (cfg->rs); \
 280                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (cfg, OP_LOADI4_MEMBASE, _length_reg, array_reg, G_STRUCT_OFFSET (array_type, array_length_field)); \
 281                         MONO_EMIT_NEW_BIALU (cfg, OP_COMPARE, -1, _length_reg, index_reg); \
 282                         MONO_EMIT_NEW_COND_EXC (cfg, LE_UN, "IndexOutOfRangeException"); \
 283                 } \
 284         } while (0)
 285
 286 #define MONO_EMIT_BOUNDS_CHECK_IMM(cfg, array_reg, array_type, array_length_field, index_imm) do { \
 287                 if (! (state->tree->flags & MONO_INST_NORANGECHECK)) { \
 288                         int _length_reg = mono_regstate_next_int (cfg->rs); \
 289                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (cfg, OP_LOADI4_MEMBASE, _length_reg, array_reg, G_STRUCT_OFFSET (array_type, array_length_field)); \
 290                         MONO_EMIT_NEW_BIALU_IMM (cfg, OP_COMPARE_IMM, -1, _length_reg, index_imm); \
 291                         MONO_EMIT_NEW_COND_EXC (cfg, LE_UN, "IndexOutOfRangeException"); \
 292                 } \
 293         } while (0)
 294
 295 /* we need to kludge state because monoburg puts this stuff before the definition of MBState */
 296 void mini_emit_virtual_call (MonoCompile *s, void *state, MonoInst *tree, int novirt_op, int virtop);
 297 void mini_emit_isninst_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target);
 298 void mini_emit_isninst_iface_cast (MonoCompile *s, int vtable_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target);
 299 void mini_emit_isninst_iface_class_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target);
 300 void mini_emit_castclass (MonoCompile *s, int klass_reg, MonoClass *klass);
 301 void mini_emit_castclass_iface (MonoCompile *s, int vtable_reg, MonoClass *klass);
 302 void mini_emit_castclass_iface_class (MonoCompile *s, int klass_reg, MonoClass *klass);
 303
 304 void mini_emit_memcpy (MonoCompile *s, int destreg, int doffset, int srcreg, int soffset, int size, int align);
 305 void mini_emit_memset (MonoCompile *s, int destreg, int offset, int size, int val, int align);
 306 int ldind_to_load_membase (int opcode);
 307 void mini_emit_aotconst (MonoCompile *cfg, int dreg, MonoJumpInfoType patch_type, gpointer cons);
 308
 309 %%
 310
 311 %termprefix OP_ CEE_
 312
 313 %start stmt
 314
 315 #
 316 # base addressing mode
 317 #
 318
 319 base: reg "0" {
 320         /* we create a new MonoInst in chain rules and set state->tree to it
 321          * since a MBState (and hence state->tree) is reused in chain rules and
 322          * normal rules.
 323          */
 324         MonoInst *inst;
 325         inst = mono_mempool_alloc0 (s->mempool, sizeof (MonoInst));
 326         inst->opcode = OP_ICONST; /* doesn't matter */
 327         inst->inst_basereg = state->reg1;
 328         inst->inst_offset = 0;
 329         state->tree = inst;
 330         //g_print ("mybase: (assigned R%d from R%d - R%d)\n", state->reg1, tree->dreg, state->reg2);
 331         //tree->inst_offset = 0;
 332         //tree->inst_basereg = state->reg1;
 333 }
 334
 335 base: CEE_LDIND_I (OP_REGVAR) "0" {
 336         tree->inst_offset = 0;
 337         tree->inst_basereg = state->left->tree->dreg;
 338 }
 339
 340 base: OP_REGOFFSET "0" {
 341         /* nothing to do */
 342 }
 343
 344 base: OP_LDADDR (OP_REGOFFSET),
 345 base: CEE_LDOBJ (OP_REGOFFSET) "0" {
 346         tree->inst_offset = state->left->tree->inst_offset;
 347         tree->inst_basereg = state->left->tree->inst_basereg;
 348 }
 349
 350 base: CEE_ADD (base, OP_ICONST) "0" {
 351         tree->inst_offset = state->left->tree->inst_offset + state->right->tree->inst_c0;
 352         tree->inst_basereg = state->left->tree->inst_basereg;
 353 }
 354
 355 base: CEE_ADD (CEE_LDIND_REF (OP_REGVAR), OP_ICONST),
 356 base: CEE_ADD (CEE_LDIND_I (OP_REGVAR), OP_ICONST) "0" {
 357         tree->inst_offset = state->right->tree->inst_c0;
 358         tree->inst_basereg = state->left->left->tree->dreg;
 359 }
 360
 361 #
 362 # helpers
 363 #
 364
 365 reg: OP_ICONST {
 366         MONO_EMIT_NEW_ICONST (s, state->reg1, tree->inst_c0);
 367 }
 368
 369 reg: OP_AOTCONST {
 370         MONO_EMIT_NEW_AOTCONST (s, state->reg1, tree->inst_p0, tree->inst_c1);
 371 }
 372
 373 reg: OP_LOAD_GOTADDR {
 374         tree->dreg = state->reg1;
 375         mono_bblock_add_inst (s->cbb, tree);
 376 }
 377
 378 stmt: CEE_STIND_I (OP_REGVAR, OP_LOAD_GOTADDR) {
 379         tree->opcode = OP_LOAD_GOTADDR;
 380         tree->dreg = state->left->tree->dreg;
 381         mono_bblock_add_inst (s->cbb, tree);
 382 }
 383
 384 reg: OP_GOT_ENTRY (reg, OP_PATCH_INFO) {
 385         tree->inst_basereg = state->left->tree->dreg;
 386         tree->dreg = state->reg1;
 387         mono_bblock_add_inst (s->cbb, tree);
 388 }
 389
 390 reg: OP_GOT_ENTRY (CEE_LDIND_I (OP_REGVAR), OP_PATCH_INFO) {
 391         tree->inst_basereg = state->left->left->tree->dreg;
 392         tree->dreg = state->reg1;
 393         mono_bblock_add_inst (s->cbb, tree);
 394 }
 395
 396 stmt: OP_DUMMY_USE (CEE_LDIND_I (OP_REGVAR)) {
 397 }
 398
 399 stmt: OP_DUMMY_USE (CEE_LDIND_I (OP_REGOFFSET)) {
 400 }
 401
 402 stmt: OP_DUMMY_USE (CEE_LDIND_REF (OP_REGOFFSET)) {
 403 }
 404
 405 stmt: OP_DUMMY_STORE {
 406 }
 407
 408 stmt: OP_NOT_REACHED {
 409 }
 410
 411 #
 412 # load/store operations
 413 #
 414
 415 reg: CEE_LDIND_I (base),
 416 reg: CEE_LDIND_REF (base),
 417 reg: CEE_LDIND_I1 (base),
 418 reg: CEE_LDIND_U1 (base),
 419 reg: CEE_LDIND_I2 (base),
 420 reg: CEE_LDIND_U2 (base),
 421 reg: CEE_LDIND_I4 (base),
 422 reg: CEE_LDIND_U4 (base) {
 423         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, ldind_to_load_membase (tree->opcode),
 424                                    state->reg1, state->left->tree->inst_basereg, state->left->tree->inst_offset);
 425 }
 426
 427 reg: OP_LDADDR (OP_REGOFFSET),
 428 reg: CEE_LDOBJ (OP_REGOFFSET) "2" {
 429         /* use LEA */
 430         tree->opcode = OP_MOVE;
 431         tree->sreg1 = state->left->tree->inst_basereg;
 432         tree->dreg = state->reg1;
 433         mono_bblock_add_inst (s->cbb, tree);
 434         if (state->left->tree->inst_offset)
 435                 MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, tree->dreg, tree->dreg, state->left->tree->inst_offset);
 436 }
 437
 438 reg: CEE_LDOBJ (reg),
 439 reg: OP_OBJADDR (reg),
 440 reg: OP_VTADDR (reg) {
 441         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 442 }
 443
 444 reg: CEE_LDIND_U1 (OP_REGVAR) {
 445         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->tree->dreg, 0xff);
 446 }
 447
 448 reg: CEE_LDIND_U2 (OP_REGVAR) {
 449         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->tree->dreg, 0xffff);
 450 }
 451
 452 stmt: CEE_STIND_REF (base, CEE_LDIND_REF (OP_REGVAR)),
 453 stmt: CEE_STIND_REF (base, CEE_LDIND_I (OP_REGVAR)),
 454 stmt: CEE_STIND_I (base, CEE_LDIND_REF (OP_REGVAR)),
 455 stmt: CEE_STIND_I (base, CEE_LDIND_I (OP_REGVAR)) {
 456         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STORE_MEMBASE_REG, state->left->tree->inst_basereg,
 457                                  state->left->tree->inst_offset, state->right->left->tree->dreg);
 458 }
 459
 460 stmt: CEE_STIND_REF (OP_REGVAR, CEE_LDIND_REF (OP_REGVAR)),
 461 stmt: CEE_STIND_REF (OP_REGVAR, CEE_LDIND_I (OP_REGVAR)),
 462 stmt: CEE_STIND_I (OP_REGVAR, CEE_LDIND_REF (OP_REGVAR)),
 463 stmt: CEE_STIND_I (OP_REGVAR, CEE_LDIND_I (OP_REGVAR)),
 464 stmt: CEE_STIND_I4 (OP_REGVAR, CEE_LDIND_I4 (OP_REGVAR)) {
 465         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->left->tree->dreg, state->right->left->tree->dreg);
 466 }
 467
 468
 469 stmt: CEE_STIND_I (base, reg),
 470 stmt: CEE_STIND_REF (base, reg) {
 471         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STORE_MEMBASE_REG, state->left->tree->inst_basereg,
 472                                  state->left->tree->inst_offset, state->right->reg1);
 473 }
 474
 475 stmt: CEE_STIND_I (base, OP_ICONST),
 476 stmt: CEE_STIND_REF (base, OP_ICONST) {
 477         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STORE_MEMBASE_IMM, state->left->tree->inst_basereg,
 478                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 479 }
 480
 481 reg: CEE_LDIND_REF (OP_REGVAR),
 482 reg: CEE_LDIND_I (OP_REGVAR),
 483 reg: CEE_LDIND_I4 (OP_REGVAR),
 484 reg: CEE_LDIND_U4 (OP_REGVAR) {
 485         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->tree->dreg);
 486 }
 487
 488 stmt: CEE_STIND_I4 (base, reg) {
 489         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI4_MEMBASE_REG, state->left->tree->inst_basereg,
 490                                  state->left->tree->inst_offset, state->right->reg1);
 491 }
 492
 493 stmt: CEE_STIND_I4 (base, CEE_LDIND_I4 (OP_REGVAR)) {
 494         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI4_MEMBASE_REG, state->left->tree->inst_basereg,
 495                                  state->left->tree->inst_offset, state->right->left->tree->dreg);
 496 }
 497
 498 stmt: CEE_STIND_I4 (base, OP_ICONST) {
 499         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI4_MEMBASE_IMM, state->left->tree->inst_basereg,
 500                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 501 }
 502
 503 stmt: CEE_STIND_I4 (OP_REGVAR, CEE_LDIND_I4 (base)) {
 504         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->left->tree->dreg,
 505                                    state->right->left->tree->inst_basereg,
 506                                    state->right->left->tree->inst_offset);
 507 }
 508
 509 stmt: CEE_STIND_I1 (base, reg) {
 510         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI1_MEMBASE_REG, state->left->tree->inst_basereg,
 511                                  state->left->tree->inst_offset, state->right->reg1);
 512 }
 513
 514 stmt: CEE_STIND_I1 (base, OP_ICONST) {
 515         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI1_MEMBASE_IMM, state->left->tree->inst_basereg,
 516                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 517 }
 518
 519 stmt: CEE_STIND_I2 (base, reg) {
 520         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI2_MEMBASE_REG, state->left->tree->inst_basereg,
 521                                  state->left->tree->inst_offset, state->right->reg1);
 522 }
 523
 524 stmt: CEE_STIND_I2 (base, OP_ICONST) {
 525         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI2_MEMBASE_IMM, state->left->tree->inst_basereg,
 526                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 527 }
 528
 529 stmt: CEE_STIND_I2 (OP_REGVAR, reg) {
 530         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->reg1, 0xffff);
 531 }
 532
 533 stmt: CEE_STIND_I1 (OP_REGVAR, reg) {
 534         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->reg1, 0xff);
 535 }
 536
 537 stmt: CEE_STIND_I1 (OP_REGVAR, CEE_LDIND_U1 (OP_REGVAR)),
 538 stmt: CEE_STIND_I1 (OP_REGVAR, CEE_LDIND_I1 (OP_REGVAR)) {
 539         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->left->tree->dreg, 0xff);
 540 }
 541
 542 stmt: CEE_STIND_I2 (OP_REGVAR, CEE_LDIND_U2 (OP_REGVAR)),
 543 stmt: CEE_STIND_I2 (OP_REGVAR, CEE_LDIND_I2 (OP_REGVAR)) {
 544         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->left->tree->dreg, 0xffff);
 545 }
 546
 547 stmt: CEE_STIND_I4 (OP_REGVAR, OP_ICONST),
 548 stmt: CEE_STIND_I2 (OP_REGVAR, OP_ICONST),
 549 stmt: CEE_STIND_I1 (OP_REGVAR, OP_ICONST),
 550 stmt: CEE_STIND_REF (OP_REGVAR, OP_ICONST),
 551 stmt: CEE_STIND_I (OP_REGVAR, OP_ICONST) {
 552         tree->inst_c0 = state->right->tree->inst_c0;
 553         if (tree->opcode == CEE_STIND_I2)
 554                 tree->inst_c0 &= 0xffff;
 555         if (tree->opcode == CEE_STIND_I1)
 556                 tree->inst_c0 &= 0xff;
 557
 558         tree->opcode = OP_ICONST;
 559         tree->dreg = state->left->tree->dreg;
 560         mono_bblock_add_inst (s->cbb, tree);
 561 }
 562
 563 stmt: CEE_STIND_I4 (OP_REGVAR, reg),
 564 stmt: CEE_STIND_REF (OP_REGVAR, reg),
 565 stmt: CEE_STIND_I (OP_REGVAR, reg) {
 566         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->left->tree->dreg, state->right->reg1);
 567 }
 568
 569 stmt: OP_MEMCPY (base, base) {
 570         int size = tree->unused;
 571         if (size > 0)
 572                 mini_emit_memcpy (s, state->left->tree->inst_basereg, state->left->tree->inst_offset,
 573                                   state->right->tree->inst_basereg, state->right->tree->inst_offset, size, 0);
 574 }
 575
 576 stmt: OP_MEMSET (base) {
 577         int size = tree->unused;
 578         if (size > 0)
 579                 mini_emit_memset (s, state->left->tree->inst_basereg, state->left->tree->inst_offset, size, tree->inst_imm, 0);
 580 }
 581
 582 reg: OP_LDELEMA2D (reg, OP_GROUP (reg, reg)) "20" {
 583         int bounds_reg = mono_regstate_next_int (s->rs);
 584         int add_reg = mono_regstate_next_int (s->rs);
 585         int mult_reg = mono_regstate_next_int (s->rs);
 586         int mult2_reg = mono_regstate_next_int (s->rs);
 587         int low1_reg = mono_regstate_next_int (s->rs);
 588         int low2_reg = mono_regstate_next_int (s->rs);
 589         int high1_reg = mono_regstate_next_int (s->rs);
 590         int high2_reg = mono_regstate_next_int (s->rs);
 591         int realidx1_reg = mono_regstate_next_int (s->rs);
 592         int realidx2_reg = mono_regstate_next_int (s->rs);
 593         int sum_reg = mono_regstate_next_int (s->rs);
 594         int index1, index2;
 595         guint32 size = mono_array_element_size (tree->klass);
 596
 597         index1 = state->right->left->reg1;
 598         index2 = state->right->right->reg1;
 599
 600         /* range checking */
 601         MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg,
 602                                        state->left->reg1, G_STRUCT_OFFSET (MonoArray, bounds));
 603
 604         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, low1_reg,
 605                                        bounds_reg, G_STRUCT_OFFSET (MonoArrayBounds, lower_bound));
 606         MONO_EMIT_NEW_BIALU (s, CEE_SUB, realidx1_reg, index1, low1_reg);
 607         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, high1_reg,
 608                                        bounds_reg, G_STRUCT_OFFSET (MonoArrayBounds, length));
 609         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, high1_reg, realidx1_reg);
 610         MONO_EMIT_NEW_COND_EXC (s, LE_UN, "IndexOutOfRangeException");
 611
 612         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, low2_reg,
 613                                        bounds_reg, sizeof (MonoArrayBounds) + G_STRUCT_OFFSET (MonoArrayBounds, lower_bound));
 614         MONO_EMIT_NEW_BIALU (s, CEE_SUB, realidx2_reg, index2, low2_reg);
 615         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, high2_reg,
 616                                        bounds_reg, sizeof (MonoArrayBounds) + G_STRUCT_OFFSET (MonoArrayBounds, length));
 617         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, high2_reg, realidx2_reg);
 618         MONO_EMIT_NEW_COND_EXC (s, LE_UN, "IndexOutOfRangeException");
 619
 620         MONO_EMIT_NEW_BIALU (s, CEE_MUL, mult_reg, high2_reg, realidx1_reg);
 621         MONO_EMIT_NEW_BIALU (s, CEE_ADD, sum_reg, mult_reg, realidx2_reg);
 622         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, mult2_reg, sum_reg, size);
 623         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult2_reg, state->left->reg1);
 624         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, add_reg, G_STRUCT_OFFSET (MonoArray, vector));
 625 }
 626
 627 #
 628 # conversions: conv_u can be implemented with AND, also all _ovf conversions?
 629 #
 630
 631 reg: CEE_CONV_I1 (reg),
 632 reg: CEE_CONV_I2 (reg),
 633 reg: CEE_CONV_I4 (reg) {
 634         MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 635 }
 636
 637 reg: CEE_CONV_U1 (reg) {
 638         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xff);
 639 }
 640
 641 reg: CEE_CONV_U2 (reg) {
 642         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xffff);
 643 }
 644
 645 reg: CEE_CONV_U4 (reg),
 646 reg: CEE_CONV_U (reg),
 647 reg: CEE_CONV_I (reg) {
 648         if (sizeof (void *) == 8)
 649                 MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 650         else
 651                 MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 652 }
 653
 654 reg: CEE_CONV_OVF_I4 (reg) {
 655         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 656 }
 657
 658 reg: CEE_CONV_OVF_U4 (reg),
 659 reg: CEE_CONV_OVF_I4_UN (reg) {
 660         if (sizeof (void *) == 8) {
 661                 MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 662         } else {
 663                 MONO_EMIT_NEW_COMPARE_IMM (s, state->left->reg1, 0);
 664                 MONO_EMIT_NEW_COND_EXC (s, LT, "OverflowException");
 665                 MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 666         }
 667 }
 668
 669 reg: CEE_CONV_OVF_I1 (reg) {
 670         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 127);
 671         MONO_EMIT_NEW_COND_EXC (s, GT, "OverflowException");
 672         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, -128);
 673         MONO_EMIT_NEW_COND_EXC (s, LT, "OverflowException");
 674         MONO_EMIT_UNALU (s, tree, CEE_CONV_I1, state->reg1, state->left->reg1);
 675 }
 676
 677 reg: CEE_CONV_OVF_I1_UN (reg) {
 678         /* probe values between 0 to 127 */
 679         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 127);
 680         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 681         MONO_EMIT_UNALU (s, tree, CEE_CONV_I1, state->reg1, state->left->reg1);
 682 }
 683
 684 reg: CEE_CONV_OVF_U1 (reg),
 685 reg: CEE_CONV_OVF_U1_UN (reg) {
 686         /* probe value to be within 0 to 255 */
 687         MONO_EMIT_NEW_COMPARE_IMM (s, state->left->reg1, 255);
 688         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 689         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xff);
 690 }
 691
 692 reg: CEE_CONV_OVF_I2 (reg) {
 693         /* Probe value to be within -32768 and 32767 */
 694         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 32767);
 695         MONO_EMIT_NEW_COND_EXC (s, GT, "OverflowException");
 696         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, -32768);
 697         MONO_EMIT_NEW_COND_EXC (s, LT, "OverflowException");
 698         MONO_EMIT_UNALU (s, tree, CEE_CONV_I2, state->reg1, state->left->reg1);
 699 }
 700
 701 reg: CEE_CONV_OVF_I2_UN (reg) {
 702         /* Convert uint value into short, value within 0 and 32767 */
 703         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 32767);
 704         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 705         MONO_EMIT_UNALU (s, tree, CEE_CONV_I2, state->reg1, state->left->reg1);
 706 }
 707
 708 reg: CEE_CONV_OVF_U2 (reg),
 709 reg: CEE_CONV_OVF_U2_UN (reg) {
 710         /* Probe value to be within 0 and 65535 */
 711         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 0xffff);
 712         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 713         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xffff);
 714 }
 715
 716 #
 717 # other alu operations
 718 #
 719
 720 reg: OP_CEQ (cflags),
 721 reg: OP_CLT (cflags),
 722 reg: OP_CLT_UN (cflags),
 723 reg: OP_CGT (cflags),
 724 reg: OP_CGT_UN (cflags) {
 725         tree->dreg = state->reg1;
 726         mono_bblock_add_inst (s->cbb, tree);
 727 }
 728
 729 #
 730 # control flow commands
 731 #
 732
 733 stmt: OP_LABEL {
 734         mono_bblock_add_inst (s->cbb, tree);
 735 }
 736
 737 stmt: CEE_NOP "0" {
 738 }
 739
 740 stmt: CEE_BREAK "0" {
 741         mono_bblock_add_inst (s->cbb, tree);
 742 }
 743
 744 reg: OP_TLS_GET {
 745         tree->dreg = state->reg1;
 746         mono_bblock_add_inst (s->cbb, tree);
 747 }
 748
 749 stmt: CEE_SWITCH (reg) {
 750         MonoInst *label;
 751         int offset_reg = mono_regstate_next_int (s->rs);
 752         int target_reg = mono_regstate_next_int (s->rs);
 753         int n = GPOINTER_TO_INT (tree->klass);
 754
 755         MONO_NEW_LABEL (s, label);
 756
 757         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, state->left->reg1, n);
 758         MONO_EMIT_NEW_BRANCH_BLOCK (s, CEE_BGE_UN, tree->inst_many_bb [n]);
 759         if (sizeof (gpointer) == 8)
 760                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, offset_reg, state->left->reg1, 3);
 761         else
 762                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, offset_reg, state->left->reg1, 2);
 763         mono_bblock_add_inst (s->cbb, label);
 764         if (s->compile_aot) {
 765                 int table_reg = mono_regstate_next_int (s->rs);
 766                 int sum_reg = mono_regstate_next_int (s->rs);
 767                 MonoJumpInfoBBTable *table;
 768
 769                 table = mono_mempool_alloc (s->mempool, sizeof (MonoJumpInfoBBTable));
 770                 table->table = tree->inst_many_bb;
 771                 table->table_size = n;
 772
 773                 MONO_EMIT_NEW_AOTCONST (s, table_reg, table, MONO_PATCH_INFO_SWITCH);
 774
 775                 MONO_EMIT_NEW_BIALU (s, CEE_ADD, sum_reg, table_reg, offset_reg);
 776                 MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, sum_reg, 0);
 777         } else {
 778                 mono_create_jump_table (s, label, tree->inst_many_bb, n);
 779
 780                  /* the backend must patch the address. we use 0xf0f0f0f0 to avoid the usage
 781                   * of special (short) opcodes on x86 */
 782                 if (sizeof (gpointer) == 8)
 783                         MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, offset_reg, (long)0xf0f0f0f0f0f0f0f1LL);
 784                 else
 785                         MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, offset_reg, 0xf0f0f0f0);
 786         }
 787         MONO_EMIT_UNALU (s, tree, OP_BR_REG, -1, target_reg);
 788 }
 789
 790 stmt: CEE_BR "0" {
 791         mono_bblock_add_inst (s->cbb, tree);
 792 }
 793
 794 stmt: OP_ARGLIST (reg) {
 795         tree->sreg1 = state->left->reg1;
 796         mono_bblock_add_inst (s->cbb, tree);
 797 }
 798
 799 reg: CEE_CALL {
 800         tree->dreg = state->reg1;
 801         mono_bblock_add_inst (s->cbb, tree);
 802 }
 803
 804 reg: CEE_CALLVIRT (reg) {
 805         mini_emit_virtual_call (s, state, tree, CEE_CALL, OP_CALL_MEMBASE);
 806 }
 807
 808 stmt: OP_VOIDCALLVIRT (reg) {
 809         mini_emit_virtual_call (s, state, tree, OP_VOIDCALL, OP_VOIDCALL_MEMBASE);
 810 }
 811
 812 freg: OP_FCALLVIRT (reg) {
 813         mini_emit_virtual_call (s, state, tree, OP_FCALL, OP_FCALL_MEMBASE);
 814 }
 815
 816 stmt: OP_VCALLVIRT (reg, reg) {
 817         mini_emit_virtual_call (s, state, tree, OP_VCALL, OP_VCALL_MEMBASE);
 818 }
 819
 820 reg: OP_CALL_REG (reg) {
 821         tree->sreg1 = state->left->reg1;
 822         tree->dreg = state->reg1;
 823         mono_bblock_add_inst (s->cbb, tree);
 824 }
 825
 826 stmt: OP_VOIDCALL {
 827         mono_bblock_add_inst (s->cbb, tree);
 828 }
 829
 830 stmt: OP_VOIDCALL_REG (reg) {
 831         tree->sreg1 = state->left->reg1;
 832         mono_bblock_add_inst (s->cbb, tree);
 833 }
 834
 835 freg: OP_FCALL {
 836         tree->dreg = state->reg1;
 837         mono_bblock_add_inst (s->cbb, tree);
 838 }
 839
 840 freg: OP_FCALL_REG (reg) {
 841         tree->sreg1 = state->left->reg1;
 842         tree->dreg = state->reg1;
 843         mono_bblock_add_inst (s->cbb, tree);
 844 }
 845
 846 stmt: OP_VCALL (reg) {
 847         mono_arch_emit_this_vret_args (s, (MonoCallInst*)tree, -1, -1, state->left->reg1);
 848         mono_bblock_add_inst (s->cbb, tree);
 849 }
 850
 851 stmt: OP_VCALL_REG (reg, reg) {
 852         mono_arch_emit_this_vret_args (s, (MonoCallInst*)tree, -1, -1, state->right->reg1);
 853
 854         tree->sreg1 = state->left->reg1;
 855         mono_bblock_add_inst (s->cbb, tree);
 856 }
 857
 858 stmt: OP_SAVE_LMF,
 859 stmt: OP_RESTORE_LMF {
 860         mono_bblock_add_inst (s->cbb, tree);
 861 }
 862
 863 #
 864 # Optimized call instructions
 865 #
 866
 867 reg: OP_CALL_REG (OP_ICONST),
 868 reg: OP_CALL_REG (OP_I8CONST) {
 869         tree->opcode = CEE_CALL;
 870         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 871         tree->dreg = state->reg1;
 872         mono_bblock_add_inst (s->cbb, tree);
 873 }
 874
 875 stmt: OP_VOIDCALL_REG (OP_ICONST),
 876 stmt: OP_VOIDCALL_REG (OP_I8CONST) {
 877         tree->opcode = OP_VOIDCALL;
 878         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 879         mono_bblock_add_inst (s->cbb, tree);
 880 }
 881
 882 freg: OP_FCALL_REG (OP_ICONST),
 883 freg: OP_FCALL_REG (OP_I8CONST) {
 884         tree->opcode = OP_FCALL;
 885         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 886         tree->dreg = state->reg1;
 887         mono_bblock_add_inst (s->cbb, tree);
 888 }
 889
 890 stmt: CEE_RET "0" {
 891         mono_bblock_add_inst (s->cbb, tree);
 892 }
 893
 894 stmt: CEE_POP (reg)
 895
 896 # remove some common pops without side effects
 897 stmt: CEE_POP (OP_ICONST)
 898 stmt: CEE_POP (CEE_LDIND_I1 (base))
 899 stmt: CEE_POP (CEE_LDIND_U1 (base))
 900 stmt: CEE_POP (CEE_LDIND_I2 (base))
 901 stmt: CEE_POP (CEE_LDIND_U2 (base))
 902 stmt: CEE_POP (CEE_LDIND_I4 (base))
 903 stmt: CEE_POP (CEE_LDIND_U4 (base))
 904 stmt: CEE_POP (CEE_LDIND_I (base))
 905 stmt: CEE_POP (CEE_LDIND_REF (base))
 906 stmt: CEE_POP (CEE_LDIND_I1 (OP_REGVAR))
 907 stmt: CEE_POP (CEE_LDIND_U1 (OP_REGVAR))
 908 stmt: CEE_POP (CEE_LDIND_I2 (OP_REGVAR))
 909 stmt: CEE_POP (CEE_LDIND_U2 (OP_REGVAR))
 910 stmt: CEE_POP (CEE_LDIND_I4 (OP_REGVAR))
 911 stmt: CEE_POP (CEE_LDIND_U4 (OP_REGVAR))
 912 stmt: CEE_POP (CEE_LDIND_I (OP_REGVAR))
 913 stmt: CEE_POP (CEE_LDIND_REF (OP_REGVAR))
 914
 915 stmt: CEE_JMP "0" {
 916         mono_bblock_add_inst (s->cbb, tree);
 917 }
 918
 919 # exception handling
 920
 921 stmt: CEE_THROW (reg) {
 922         MONO_EMIT_UNALU (s, tree, CEE_THROW, -1, state->left->reg1);
 923 }
 924
 925 stmt: OP_RETHROW (reg) {
 926         MONO_EMIT_UNALU (s, tree, OP_RETHROW, -1, state->left->reg1);
 927 }
 928
 929 stmt: OP_THROW_OR_NULL (reg, reg) {
 930         MonoInst *dont_throw;
 931
 932         MONO_NEW_LABEL (s, dont_throw);
 933
 934         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, 0, state->left->reg1, state->right->reg1);
 935         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, dont_throw);
 936         MONO_EMIT_UNALU (s, tree, CEE_THROW, -1, state->left->reg1);
 937         mono_bblock_add_inst (s->cbb, dont_throw);
 938 }
 939
 940 stmt: CEE_THROW (CEE_LDIND_REF (OP_REGVAR)) {
 941         MONO_EMIT_UNALU (s, tree, CEE_THROW, -1, state->left->left->tree->dreg);
 942 }
 943
 944 stmt: OP_CALL_HANDLER {
 945         mono_bblock_add_inst (s->cbb, tree);
 946 }
 947
 948 stmt: OP_START_HANDLER "2" {
 949         mono_bblock_add_inst (s->cbb, tree);
 950 }
 951
 952 stmt: CEE_ENDFINALLY "2" {
 953         mono_bblock_add_inst (s->cbb, tree);
 954 }
 955
 956 stmt: OP_ENDFILTER (reg) "2" {
 957         MONO_EMIT_UNALU (s, tree, OP_ENDFILTER, -1, state->left->reg1);
 958 }
 959
 960 stmt: OP_CHECK_THIS (reg) {
 961         tree->sreg1 = state->left->reg1;
 962         tree->dreg = state->reg1;
 963         mono_bblock_add_inst (s->cbb, tree);
 964 }
 965
 966 # object related opcodes
 967
 968 reg: CEE_ISINST (reg) {
 969         MonoClass *klass = tree->inst_newa_class;
 970         MonoInst *object_is_null, *end_label, *false_label;
 971         int obj_reg = state->left->reg1;
 972         int vtable_reg = mono_regstate_next_int (s->rs);
 973
 974         MONO_NEW_LABEL (s, object_is_null);
 975         MONO_NEW_LABEL (s, end_label);
 976         MONO_NEW_LABEL (s, false_label);
 977
 978         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, obj_reg, 0);
 979         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
 980
 981         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
 982                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
 983                 /* the object_is_null target simply copies the input register to the output */
 984                 mini_emit_isninst_iface_cast (s, vtable_reg, klass, false_label, object_is_null);
 985         } else {
 986                 int klass_reg = mono_regstate_next_int (s->rs);
 987
 988                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
 989
 990                 if (klass->rank) {
 991                         int rank_reg = mono_regstate_next_int (s->rs);
 992                         int eclass_reg = mono_regstate_next_int (s->rs);
 993
 994                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, rank_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
 995                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, rank_reg, klass->rank);
 996                         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false_label);
 997                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
 998                         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, cast_class));
 999                         if (klass->cast_class == mono_defaults.object_class) {
1000                                 int parent_reg = mono_regstate_next_int (s->rs);
1001                                 int const_reg;
1002                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, parent_reg, eclass_reg, G_STRUCT_OFFSET (MonoClass, parent));
1003                                 if (s->compile_aot) {
1004                                         const_reg = mono_regstate_next_int (s->rs);
1005                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1006                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, parent_reg, const_reg);
1007                                 } else {
1008                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, parent_reg, mono_defaults.enum_class->parent);
1009                                 }
1010                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, object_is_null);
1011                                 if (s->compile_aot) {
1012                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1013                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1014                                 } else {
1015                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1016                                 }
1017                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1018                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false_label);
1019                         } else if (klass->cast_class == mono_defaults.enum_class->parent) {
1020                                 int const_reg;
1021
1022                                 if (s->compile_aot) {
1023                                         const_reg = mono_regstate_next_int (s->rs);
1024                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1025                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1026                                 } else {
1027                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class->parent);
1028                                 }
1029                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1030                                 if (s->compile_aot) {
1031                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1032                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1033                                 } else {
1034                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1035                                 }
1036                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1037                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false_label);
1038                         } else if (klass->cast_class == mono_defaults.enum_class) {
1039                                 if (s->compile_aot) {
1040                                         int const_reg = mono_regstate_next_int (s->rs);
1041                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1042                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1043                                 } else {
1044                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1045                                 }
1046                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1047                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false_label);
1048                         } else if (klass->cast_class->flags & TYPE_ATTRIBUTE_INTERFACE) {
1049                                 mini_emit_isninst_iface_class_cast (s, eclass_reg, klass->cast_class, false_label, object_is_null);
1050                         } else {
1051                                 if ((klass->rank == 1) && (klass->byval_arg.type == MONO_TYPE_SZARRAY)) {
1052                                         /* Check that the object is a vector too */
1053                                         int bounds_reg = mono_regstate_next_int (s->rs);
1054                                         MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg, obj_reg, G_STRUCT_OFFSET (MonoArray, bounds));
1055                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, bounds_reg, 0);
1056                                         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false_label);
1057                                 }
1058
1059                                 /* the object_is_null target simply copies the input register to the output */
1060                                 mini_emit_isninst_cast (s, eclass_reg, klass->cast_class, false_label, object_is_null);
1061                         }
1062                 } else {
1063                         if (!s->compile_aot && !(s->opt & MONO_OPT_SHARED) && (klass->flags & TYPE_ATTRIBUTE_SEALED)) {
1064                                 /* the remoting code is broken, access the class for now */
1065                                 if (0) {
1066                                         MonoVTable *vt = mono_class_vtable (s->domain, klass);
1067                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, vtable_reg, vt);
1068                                 } else {
1069                                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1070                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, klass);
1071                                 }
1072                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false_label);
1073                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, object_is_null);
1074                         } else {
1075                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1076                                 /* the object_is_null target simply copies the input register to the output */
1077                                 mini_emit_isninst_cast (s, klass_reg, klass, false_label, object_is_null);
1078                         }
1079                 }
1080         }
1081
1082         mono_bblock_add_inst (s->cbb, false_label);
1083         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1084         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1085         mono_bblock_add_inst (s->cbb, object_is_null);
1086         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1087         mono_bblock_add_inst (s->cbb, end_label);
1088 }
1089
1090 reg: OP_CISINST (reg) {
1091         /* This opcode takes as input an object reference and a class, and returns:
1092         0) if the object is an instance of the class,
1093         1) if the object is not instance of the class,
1094         2) if the object is a proxy whose type cannot be determined */
1095
1096     MonoClass *klass = tree->inst_newa_class;
1097         MonoInst *end_label, *true_label, *false_label, *false2_label;
1098         MonoInst *no_proxy_label, *interface_fail_label;
1099         int obj_reg = state->left->reg1;
1100         int tmp_reg = mono_regstate_next_int (s->rs);
1101         int klass_reg = mono_regstate_next_int (s->rs);
1102
1103         MONO_NEW_LABEL (s, end_label);
1104         MONO_NEW_LABEL (s, true_label);
1105         MONO_NEW_LABEL (s, false_label);
1106         MONO_NEW_LABEL (s, false2_label);
1107
1108         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, obj_reg, 0);
1109         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, false_label);
1110
1111         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1112                 MONO_NEW_LABEL (s, interface_fail_label);
1113                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1114                 mini_emit_isninst_iface_cast (s, tmp_reg, klass, interface_fail_label, true_label);
1115
1116                 mono_bblock_add_inst (s->cbb, interface_fail_label);
1117                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1118
1119                 if (s->compile_aot) {
1120                         int tproxy_reg = mono_regstate_next_int (s->rs);
1121                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1122                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1123                 } else {
1124                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1125                 }
1126                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false_label);
1127
1128                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1129                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1130                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false2_label);
1131
1132         } else {
1133                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1134                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1135
1136                 MONO_NEW_LABEL (s, no_proxy_label);
1137
1138                 if (s->compile_aot) {
1139                         int tproxy_reg = mono_regstate_next_int (s->rs);
1140                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1141                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1142                 } else {
1143                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1144                 }
1145                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, no_proxy_label);
1146                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1147                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1148
1149                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1150                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1151                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, no_proxy_label);
1152
1153                 mini_emit_isninst_cast (s, klass_reg, klass, false2_label, true_label);
1154                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false2_label);
1155
1156                 mono_bblock_add_inst (s->cbb, no_proxy_label);
1157                 mini_emit_isninst_cast (s, klass_reg, klass, false_label, true_label);
1158         }
1159
1160         mono_bblock_add_inst (s->cbb, false_label);
1161         MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1162         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1163         mono_bblock_add_inst (s->cbb, false2_label);
1164         MONO_EMIT_NEW_ICONST (s, state->reg1, 2);
1165         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1166         mono_bblock_add_inst (s->cbb, true_label);
1167         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1168         mono_bblock_add_inst (s->cbb, end_label);
1169 }
1170
1171 reg: OP_UNBOXCAST (reg) {
1172         MonoClass *klass = tree->inst_newa_class;
1173         int obj_reg = state->left->reg1;
1174         int vtable_reg = mono_regstate_next_int (s->rs);
1175         int klass_reg = mono_regstate_next_int (s->rs);
1176         int eclass_reg = mono_regstate_next_int (s->rs);
1177         int rank_reg = mono_regstate_next_int (s->rs);
1178
1179         MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1180         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, rank_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1181
1182         /* FIXME: generics */
1183         g_assert (klass->rank == 0);
1184
1185         // Check rank == 0
1186         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, rank_reg, 0);
1187         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1188
1189         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1190         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, element_class));
1191
1192         if (s->compile_aot) {
1193                 int const_reg = mono_regstate_next_int (s->rs);
1194                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass->element_class);
1195                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1196         } else {
1197                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, klass->element_class);
1198         }
1199
1200         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1201         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1202 }
1203
1204 reg: CEE_CASTCLASS (reg) {
1205         MonoClass *klass = tree->inst_newa_class;
1206         MonoInst *object_is_null;
1207         int obj_reg = state->left->reg1;
1208         int vtable_reg = mono_regstate_next_int (s->rs);
1209
1210         MONO_NEW_LABEL (s, object_is_null);
1211
1212         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, obj_reg, 0);
1213         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1214
1215         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1216                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1217                 mini_emit_castclass_iface (s, vtable_reg, klass);
1218         } else {
1219                 int klass_reg = mono_regstate_next_int (s->rs);
1220
1221                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1222
1223                 if (klass->rank) {
1224                         int rank_reg = mono_regstate_next_int (s->rs);
1225                         int eclass_reg = mono_regstate_next_int (s->rs);
1226
1227                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, rank_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1228                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, rank_reg, klass->rank);
1229                         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1230                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1231                         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, cast_class));
1232                         if (klass->cast_class == mono_defaults.object_class) {
1233                                 int parent_reg = mono_regstate_next_int (s->rs);
1234                                 int const_reg;
1235                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, parent_reg, eclass_reg, G_STRUCT_OFFSET (MonoClass, parent));
1236                                 if (s->compile_aot) {
1237                                         const_reg = mono_regstate_next_int (s->rs);
1238                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1239                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, parent_reg, const_reg);
1240                                 } else {
1241                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, parent_reg, mono_defaults.enum_class->parent);
1242                                 }
1243                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, object_is_null);
1244                                 if (s->compile_aot) {
1245                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1246                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1247                                 } else {
1248                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1249                                 }
1250                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1251                         } else if (klass->cast_class == mono_defaults.enum_class->parent) {
1252                                 int const_reg = mono_regstate_next_int (s->rs);
1253                                 if (s->compile_aot) {
1254                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1255                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1256                                 } else {
1257                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class->parent);
1258                                 }
1259                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1260                                 if (s->compile_aot) {
1261                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1262                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1263                                 } else {
1264                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1265                                 }
1266                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1267                         } else if (klass->cast_class == mono_defaults.enum_class) {
1268                                 if (s->compile_aot) {
1269                                         int const_reg = mono_regstate_next_int (s->rs);
1270                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1271                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1272                                 } else {
1273                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1274                                 }
1275                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1276                         } else if (klass->cast_class->flags & TYPE_ATTRIBUTE_INTERFACE) {
1277                                 mini_emit_castclass_iface_class (s, eclass_reg, klass->cast_class);
1278                         } else {
1279                                 mini_emit_castclass (s, eclass_reg, klass->cast_class);
1280                         }
1281
1282                         if ((klass->rank == 1) && (klass->byval_arg.type == MONO_TYPE_SZARRAY)) {
1283                                 /* Check that the object is a vector too */
1284                                 int bounds_reg = mono_regstate_next_int (s->rs);
1285                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg, obj_reg, G_STRUCT_OFFSET (MonoArray, bounds));
1286                                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, bounds_reg, 0);
1287                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1288                         }
1289                 } else {
1290                         if (!s->compile_aot && !(s->opt & MONO_OPT_SHARED) && (klass->flags & TYPE_ATTRIBUTE_SEALED)) {
1291                                 /* the remoting code is broken, access the class for now */
1292                                 if (0) {
1293                                         MonoVTable *vt = mono_class_vtable (s->domain, klass);
1294                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, vtable_reg, vt);
1295                                 } else {
1296                                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1297                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, klass);
1298                                 }
1299                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1300                         } else {
1301                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1302                                 mini_emit_castclass (s, klass_reg, klass);
1303                         }
1304                 }
1305         }
1306
1307         mono_bblock_add_inst (s->cbb, object_is_null);
1308         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1309 }
1310
1311 reg: OP_CCASTCLASS (reg) {
1312         /* This opcode takes as input an object reference and a class, and returns:
1313         0) if the object is an instance of the class,
1314         1) if the object is a proxy whose type cannot be determined
1315         an InvalidCastException exception is thrown otherwhise*/
1316
1317         MonoClass *klass = tree->inst_newa_class;
1318         MonoInst *end_label, *fail_label, *no_proxy_label, *ok_result_label;
1319         int obj_reg = state->left->reg1;
1320         int tmp_reg = mono_regstate_next_int (s->rs);
1321         int klass_reg = mono_regstate_next_int (s->rs);
1322
1323         MONO_NEW_LABEL (s, end_label);
1324         MONO_NEW_LABEL (s, ok_result_label);
1325
1326         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, obj_reg, 0);
1327         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, ok_result_label);
1328
1329         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1330
1331                 MONO_NEW_LABEL (s, fail_label);
1332
1333                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1334                 mini_emit_isninst_iface_cast (s, tmp_reg, klass, fail_label, ok_result_label);
1335
1336                 mono_bblock_add_inst (s->cbb, fail_label);
1337                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1338
1339                 if (s->compile_aot) {
1340                         int tproxy_reg = mono_regstate_next_int (s->rs);
1341                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1342                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1343                 } else {
1344                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1345                 }
1346
1347                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1348
1349                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1350                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1351
1352                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1353                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1354                 MONO_EMIT_NEW_COND_EXC (s, EQ, "InvalidCastException");
1355
1356                 MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1357                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1358
1359         } else {
1360
1361                 MONO_NEW_LABEL (s, no_proxy_label);
1362                 MONO_NEW_LABEL (s, fail_label);
1363
1364                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1365                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1366
1367                 if (s->compile_aot) {
1368                         int tproxy_reg = mono_regstate_next_int (s->rs);
1369                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1370                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1371                 } else {
1372                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1373                 }
1374                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, no_proxy_label);
1375
1376                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1377                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1378
1379                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1380                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1381                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, no_proxy_label);
1382
1383                 mini_emit_isninst_cast (s, klass_reg, klass, fail_label, ok_result_label);
1384                 mono_bblock_add_inst (s->cbb, fail_label);
1385                 MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1386                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1387
1388                 mono_bblock_add_inst (s->cbb, no_proxy_label);
1389                 mini_emit_castclass (s, klass_reg, klass);
1390         }
1391
1392         mono_bblock_add_inst (s->cbb, ok_result_label);
1393         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1394         mono_bblock_add_inst (s->cbb, end_label);
1395 }
1396
1397 stmt: CEE_STELEM_REF (OP_GROUP (reg, reg), reg),
1398 reg: OP_GROUP (reg, reg),
1399 reg: CEE_NEWARR (reg),
1400 lreg: OP_LMUL (lreg, lreg),
1401 lreg: OP_LMUL_OVF (lreg, lreg),
1402 lreg: OP_LMUL_OVF_UN (lreg, lreg),
1403 lreg: OP_LDIV (lreg, lreg),
1404 lreg: OP_LDIV_UN (lreg, lreg),
1405 lreg: OP_LREM (lreg, lreg),
1406 lreg: OP_LREM_UN (lreg, lreg),
1407 lreg: OP_LSHL (lreg, reg),
1408 lreg: OP_LSHR (lreg, reg),
1409 lreg: OP_LSHR_UN (lreg, reg) {
1410         g_assert_not_reached ();
1411 }
1412
1413 #
1414 # string support
1415 #
1416 reg: OP_GETCHR (reg, reg) {
1417         int mult_reg = mono_regstate_next_int (s->rs);
1418         int add_reg = mono_regstate_next_int (s->rs);
1419
1420         MONO_EMIT_BOUNDS_CHECK (s, state->left->reg1, MonoString, length, state->right->reg1);
1421         MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, mult_reg, state->right->reg1, 1);
1422         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult_reg, state->left->reg1);
1423         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADU2_MEMBASE, state->reg1,
1424                                    add_reg, G_STRUCT_OFFSET (MonoString, chars));
1425 }
1426
1427 reg: OP_GETCHR (reg, OP_ICONST) {
1428         int ind = 2 * state->right->tree->inst_c0 + G_STRUCT_OFFSET (MonoString, chars);
1429
1430         MONO_EMIT_BOUNDS_CHECK_IMM (s, state->left->reg1, MonoString, length, state->right->tree->inst_c0);
1431         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADU2_MEMBASE, state->reg1, state->left->reg1, ind);
1432 }
1433
1434 reg: OP_STRLEN (reg) {
1435         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->reg1,
1436                                    state->left->reg1, G_STRUCT_OFFSET (MonoString, length));
1437 }
1438
1439 reg: OP_GETTYPE (reg) {
1440         int vt_reg = mono_regstate_next_int (s->rs);
1441         MONO_EMIT_NEW_LOAD_MEMBASE (s, vt_reg, state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1442         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOAD_MEMBASE, state->reg1, vt_reg, G_STRUCT_OFFSET (MonoVTable, type));
1443 }
1444
1445 reg: OP_GETHASHCODE (reg) {
1446         int t1 = mono_regstate_next_int (s->rs);
1447
1448         #define MONO_OBJECT_ALIGNMENT_SHIFT     3
1449
1450         /* return (GPOINTER_TO_UINT (this) >> MONO_OBJECT_ALIGNMENT_SHIFT) * 2654435761u; */
1451
1452         MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, t1, state->left->reg1, MONO_OBJECT_ALIGNMENT_SHIFT);
1453         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, state->reg1, t1, 2654435761u);
1454 }
1455
1456 #
1457 # array support
1458 #
1459 reg: CEE_LDLEN (reg) {
1460         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->reg1,
1461                                    state->left->reg1, G_STRUCT_OFFSET (MonoArray, max_length));
1462 }
1463
1464 reg: OP_ARRAY_RANK (reg) {
1465         int vtable_reg = mono_regstate_next_int (s->rs);
1466         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, vtable_reg,
1467                                        state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1468         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, state->reg1,
1469                                        vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1470 }
1471
1472 reg: OP_CHECK_ARRAY_TYPE (reg) {
1473
1474         MonoClass* array_class = mono_array_class_get (tree->klass, 1);
1475
1476         int vtable_reg = mono_regstate_next_int (s->rs);
1477
1478         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, vtable_reg,
1479                                        state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1480
1481         if (s->opt & MONO_OPT_SHARED) {
1482                 int class_reg = mono_regstate_next_int (s->rs);
1483                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, class_reg,
1484                                                vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1485                 if (s->compile_aot) {
1486                         int klass_reg = mono_regstate_next_int (s->rs);
1487                         MONO_EMIT_NEW_CLASSCONST (s, klass_reg, array_class);
1488                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, class_reg, klass_reg);
1489                 } else {
1490                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, class_reg, array_class);
1491                 }
1492         } else {
1493                 if (s->compile_aot) {
1494                         int vt_reg = mono_regstate_next_int (s->rs);
1495                         MONO_EMIT_NEW_VTABLECONST (s, vt_reg, mono_class_vtable (s->domain, array_class));
1496                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, vtable_reg, vt_reg);
1497                 } else {
1498                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, vtable_reg, mono_class_vtable (s->domain, array_class));
1499                 }
1500         }
1501
1502         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "ArrayTypeMismatchException");
1503         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
1504 }
1505
1506 reg: CEE_LDELEMA (reg, OP_ICONST) "15" {
1507         guint32 size = mono_class_array_element_size (tree->klass);
1508
1509         int ind = size * state->right->tree->inst_c0 + G_STRUCT_OFFSET (MonoArray, vector);
1510
1511         MONO_EMIT_BOUNDS_CHECK_IMM (s, state->left->reg1, MonoArray, max_length, state->right->tree->inst_c0);
1512         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, state->left->reg1, ind);
1513 }
1514
1515 reg: CEE_LDELEMA (reg, reg) "20" {
1516         int mult_reg = mono_regstate_next_int (s->rs);
1517         int add_reg = mono_regstate_next_int (s->rs);
1518         guint32 size = mono_class_array_element_size (tree->klass);
1519
1520         MONO_EMIT_BOUNDS_CHECK (s, state->left->reg1, MonoArray, max_length, state->right->reg1);
1521         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, mult_reg, state->right->reg1, size);
1522         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult_reg, state->left->reg1);
1523         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, add_reg, G_STRUCT_OFFSET (MonoArray, vector));
1524 }
1525
1526 reg: CEE_REFANYVAL (reg) {
1527         int klass_reg = mono_regstate_next_int (s->rs);
1528         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass));
1529         if (s->compile_aot) {
1530                 int const_reg = mono_regstate_next_int (s->rs);
1531                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, tree->inst_newa_class);
1532                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, const_reg);
1533         } else {
1534                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, tree->inst_newa_class);
1535         }
1536         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1537         MONO_EMIT_NEW_LOAD_MEMBASE (s, state->reg1, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, value));
1538 }
1539
1540 reg: OP_REFANYTYPE (reg) {
1541         MONO_EMIT_NEW_LOAD_MEMBASE (s, state->reg1, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, type));
1542 }
1543
1544 stmt: CEE_MKREFANY (OP_GROUP (reg, OP_ICONST), reg),
1545 stmt: CEE_MKREFANY (OP_GROUP (reg, OP_I8CONST), reg) {
1546         MonoClass *klass = (MonoClass*)(tree->inst_left->inst_right->inst_p0);
1547         if (s->compile_aot) {
1548                 int const_reg = mono_regstate_next_int (s->rs);
1549                 int type_reg = mono_regstate_next_int (s->rs);
1550                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1551                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass), const_reg);
1552                 MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, type_reg, const_reg, G_STRUCT_OFFSET (MonoClass, byval_arg));
1553                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, type), type_reg);
1554         }
1555         else {
1556                 MONO_EMIT_NEW_STORE_MEMBASE_IMM (s, OP_STOREP_MEMBASE_IMM, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, type), &klass->byval_arg);
1557                 MONO_EMIT_NEW_STORE_MEMBASE_IMM (s, OP_STOREP_MEMBASE_IMM, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass), klass);
1558         }
1559         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, value), state->left->left->reg1);
1560 }
1561
1562 %%
1563
1564 /*
1565  * Emit code which checks whenever the interface id of @klass is smaller than
1566  * than the value given by max_iid_reg.
1567 */
1568 static void
1569 mini_emit_max_iid_check (MonoCompile *s, int max_iid_reg, MonoClass *klass,
1570                                                  MonoInst *false_target)
1571 {
1572         if (s->compile_aot) {
1573                 int iid_reg = mono_regstate_next_int (s->rs);
1574                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_IID);
1575                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, max_iid_reg, iid_reg);
1576         }
1577         else
1578                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, max_iid_reg, klass->interface_id);
1579         if (false_target)
1580                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BLT_UN, false_target);
1581         else
1582                 MONO_EMIT_NEW_COND_EXC (s, LT_UN, "InvalidCastException");
1583 }
1584
1585 /* Same as above, but obtains max_iid from a vtable */
1586 static void
1587 mini_emit_max_iid_check_vtable (MonoCompile *s, int vtable_reg, MonoClass *klass,
1588                                                                  MonoInst *false_target)
1589 {
1590         int max_iid_reg = mono_regstate_next_int (s->rs);
1591
1592         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, max_iid_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, max_interface_id));
1593         mini_emit_max_iid_check (s, max_iid_reg, klass, false_target);
1594 }
1595
1596 /* Same as above, but obtains max_iid from a klass */
1597 static void
1598 mini_emit_max_iid_check_class (MonoCompile *s, int klass_reg, MonoClass *klass,
1599                                                                  MonoInst *false_target)
1600 {
1601         int max_iid_reg = mono_regstate_next_int (s->rs);
1602
1603         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, max_iid_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, max_interface_id));
1604         mini_emit_max_iid_check (s, max_iid_reg, klass, false_target);
1605 }
1606
1607 static void
1608 mini_emit_load_intf_reg (MonoCompile *s, int intf_reg, int ioffset_reg, MonoClass *klass)
1609 {
1610         if (s->compile_aot) {
1611                 int iid_reg = mono_regstate_next_int (s->rs);
1612                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_IID);
1613 #if SIZEOF_VOID_P == 8
1614                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, iid_reg, iid_reg, 3);
1615 #else
1616                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, iid_reg, iid_reg, 2);
1617 #endif
1618                 MONO_EMIT_NEW_BIALU (s, CEE_ADD, ioffset_reg, ioffset_reg, iid_reg);
1619                 MONO_EMIT_NEW_LOAD_MEMBASE (s, intf_reg, ioffset_reg, 0);
1620         }
1621         else
1622                 MONO_EMIT_NEW_LOAD_MEMBASE (s, intf_reg, ioffset_reg, klass->interface_id * SIZEOF_VOID_P);
1623 }
1624
1625 /* Emit code which loads <vtable_reg>->interface_offsets [klass->interface_id] */
1626 static void
1627 mini_emit_load_intf_reg_vtable (MonoCompile *s, int intf_reg, int vtable_reg, MonoClass *klass)
1628 {
1629         int ioffset_reg = mono_regstate_next_int (s->rs);
1630
1631         MONO_EMIT_NEW_LOAD_MEMBASE (s, ioffset_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, interface_offsets));
1632         mini_emit_load_intf_reg (s, intf_reg, ioffset_reg, klass);
1633 }
1634
1635 /* Emit code which loads <klass_reg>->interface_offsets [klass->interface_id] */
1636 static void
1637 mini_emit_load_intf_reg_class (MonoCompile *s, int intf_reg, int klass_reg, MonoClass *klass)
1638 {
1639         int ioffset_reg = mono_regstate_next_int (s->rs);
1640
1641         MONO_EMIT_NEW_LOAD_MEMBASE (s, ioffset_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, interface_offsets));
1642
1643         if (s->compile_aot) {
1644                 int iid_reg = mono_regstate_next_int (s->rs);
1645                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_IID);
1646                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, iid_reg, iid_reg, 2);
1647                 MONO_EMIT_NEW_BIALU (s, CEE_ADD, ioffset_reg, ioffset_reg, iid_reg);
1648                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, intf_reg, ioffset_reg, 0);
1649         }
1650         else
1651                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, intf_reg, ioffset_reg, klass->interface_id * sizeof (int));
1652 }
1653
1654 void
1655 mini_emit_virtual_call (MonoCompile *cfg, void *st, MonoInst *tree, int novirtop, int virtop)
1656 {
1657         MonoMethod *method = ((MonoCallInst*)tree)->method;
1658         int vtable_reg, slot_reg, this_reg;
1659         MBState *state = st;
1660         gboolean enable_for_aot = TRUE;
1661
1662         this_reg = state->left->reg1;
1663         mono_arch_emit_this_vret_args (cfg, (MonoCallInst*)tree, this_reg, state->left->tree->type, novirtop == OP_VCALL? state->right->reg1: -1);
1664
1665 #ifdef MONO_ARCH_NEED_GOT_VAR
1666         /* Can't create a got var at this point */
1667         enable_for_aot = cfg->got_var != NULL;
1668 #else
1669         enable_for_aot = TRUE;
1670 #endif
1671
1672         if ((!cfg->compile_aot || enable_for_aot) &&
1673                 (!(method->flags & METHOD_ATTRIBUTE_VIRTUAL) ||
1674              ((method->flags & METHOD_ATTRIBUTE_FINAL) &&
1675              method->wrapper_type != MONO_WRAPPER_REMOTING_INVOKE_WITH_CHECK))) {
1676                 /*
1677                  * the method is not virtual, we just need to ensure this is not null
1678                  * and then we can call the method directly.
1679                  */
1680                 if (method->klass->marshalbyref || method->klass == mono_defaults.object_class) {
1681                         method = ((MonoCallInst*)tree)->method = mono_marshal_get_remoting_invoke_with_check (method);
1682                 }
1683
1684                 if (!method->string_ctor)
1685                         MONO_EMIT_NEW_UNALU (cfg, OP_CHECK_THIS, -1, this_reg);
1686
1687                 tree->dreg = state->reg1;
1688                 tree->opcode = novirtop;
1689                 mono_bblock_add_inst (cfg->cbb, tree);
1690                 return;
1691         }
1692
1693         /* Initialize method->slot */
1694         mono_class_setup_vtable (method->klass);
1695
1696         vtable_reg = mono_regstate_next_int (cfg->rs);
1697         MONO_EMIT_NEW_LOAD_MEMBASE (cfg, vtable_reg, this_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1698         if (method->klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1699                 slot_reg = mono_regstate_next_int (cfg->rs);
1700                 mini_emit_load_intf_reg_vtable (cfg, slot_reg, vtable_reg, method->klass);
1701                 tree->inst_offset = method->slot * SIZEOF_VOID_P;
1702         } else {
1703                 slot_reg = vtable_reg;
1704                 tree->inst_offset = G_STRUCT_OFFSET (MonoVTable, vtable) + (method->slot * SIZEOF_VOID_P);
1705         }
1706
1707         tree->dreg = state->reg1;
1708         tree->opcode = virtop;
1709         tree->sreg1 = slot_reg;
1710         ((MonoCallInst*)tree)->virtual = TRUE;
1711         mono_bblock_add_inst (cfg->cbb, tree);
1712 }
1713
1714 void
1715 mini_emit_isninst_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1716 {
1717         int idepth_reg = mono_regstate_next_int (s->rs);
1718         int stypes_reg = mono_regstate_next_int (s->rs);
1719         int stype = mono_regstate_next_int (s->rs);
1720
1721         if (klass->idepth > MONO_DEFAULT_SUPERTABLE_SIZE) {
1722                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, idepth_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, idepth));
1723                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, idepth_reg, klass->idepth);
1724                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BLT_UN, false_target);
1725         }
1726         MONO_EMIT_NEW_LOAD_MEMBASE (s, stypes_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, supertypes));
1727         MONO_EMIT_NEW_LOAD_MEMBASE (s, stype, stypes_reg, ((klass->idepth - 1) * SIZEOF_VOID_P));
1728         if (s->compile_aot) {
1729                 int const_reg = mono_regstate_next_int (s->rs);
1730                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1731                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, stype, const_reg);
1732         } else {
1733                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, stype, klass);
1734         }
1735         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, true_target);
1736 }
1737
1738 void
1739 mini_emit_isninst_iface_cast (MonoCompile *s, int vtable_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1740 {
1741         int intf_reg = mono_regstate_next_int (s->rs);
1742
1743         mini_emit_max_iid_check_vtable (s, vtable_reg, klass, false_target);
1744         mini_emit_load_intf_reg_vtable (s, intf_reg, vtable_reg, klass);
1745         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, 0);
1746         /* the object_is_null target simply copies the input register to the output */
1747         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, true_target);
1748 }
1749
1750 /*
1751  * Variant of the above that takes a register to the class, not the vtable.
1752  * Note that inside interfaces_offsets the empty value is -1, not NULL, in this case.
1753  */
1754 void
1755 mini_emit_isninst_iface_class_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1756 {
1757         int intf_reg = mono_regstate_next_int (s->rs);
1758
1759         mini_emit_max_iid_check_class (s, klass_reg, klass, false_target);
1760         mini_emit_load_intf_reg_class (s, intf_reg, klass_reg, klass);
1761         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, -1);
1762         /* the object_is_null target simply copies the input register to the output */
1763         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BGE, true_target);
1764 }
1765
1766 void
1767 mini_emit_castclass (MonoCompile *s, int klass_reg, MonoClass *klass)
1768 {
1769         int idepth_reg = mono_regstate_next_int (s->rs);
1770         int stypes_reg = mono_regstate_next_int (s->rs);
1771         int stype = mono_regstate_next_int (s->rs);
1772
1773         if (klass->idepth > MONO_DEFAULT_SUPERTABLE_SIZE) {
1774                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, idepth_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, idepth));
1775                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, idepth_reg, klass->idepth);
1776                 MONO_EMIT_NEW_COND_EXC (s, LT_UN, "InvalidCastException");
1777         }
1778         MONO_EMIT_NEW_LOAD_MEMBASE (s, stypes_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, supertypes));
1779         MONO_EMIT_NEW_LOAD_MEMBASE (s, stype, stypes_reg, ((klass->idepth - 1) * SIZEOF_VOID_P));
1780         if (s->compile_aot) {
1781                 int const_reg = mono_regstate_next_int (s->rs);
1782                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1783                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, stype, const_reg);
1784         } else {
1785                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, stype, klass);
1786         }
1787         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1788 }
1789
1790 void
1791 mini_emit_castclass_iface (MonoCompile *s, int vtable_reg, MonoClass *klass)
1792 {
1793         int intf_reg = mono_regstate_next_int (s->rs);
1794
1795         mini_emit_max_iid_check_vtable (s, vtable_reg, klass, NULL);
1796         mini_emit_load_intf_reg_vtable (s, intf_reg, vtable_reg, klass);
1797         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, 0);
1798         MONO_EMIT_NEW_COND_EXC (s, EQ, "InvalidCastException");
1799 }
1800
1801 /*
1802  * Variant of the aboce that takes a register to the class, not the vtable.
1803  * Note that inside interfaces_offsets the empty value is -1, not NULL, in this case.
1804  */
1805 void
1806 mini_emit_castclass_iface_class (MonoCompile *s, int klass_reg, MonoClass *klass)
1807 {
1808         int intf_reg = mono_regstate_next_int (s->rs);
1809
1810         mini_emit_max_iid_check_class (s, klass_reg, klass, NULL);
1811         mini_emit_load_intf_reg_class (s, intf_reg, klass_reg, klass);
1812         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, -1);
1813         MONO_EMIT_NEW_COND_EXC (s, EQ, "InvalidCastException");
1814 }
1815
1816 void
1817 mini_emit_memcpy (MonoCompile *s, int destreg, int doffset, int srcreg, int soffset, int size, int align)
1818 {
1819         int cur_reg;
1820
1821         /* FIXME: consider alignment for archs that need it. */
1822 #if !NO_UNALIGNED_ACCESS
1823         if (sizeof (gpointer) == 8) {
1824                 while (size >= 8) {
1825                         cur_reg = mono_regstate_next_int (s->rs);
1826                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI8_MEMBASE, cur_reg, srcreg, soffset);
1827                         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI8_MEMBASE_REG, destreg, doffset, cur_reg);
1828                         doffset += 8;
1829                         soffset += 8;
1830                         size -= 8;
1831                 }
1832         }
1833 #endif
1834
1835         while (size >= 4) {
1836                 cur_reg = mono_regstate_next_int (s->rs);
1837                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, cur_reg, srcreg, soffset);
1838                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI4_MEMBASE_REG, destreg, doffset, cur_reg);
1839                 doffset += 4;
1840                 soffset += 4;
1841                 size -= 4;
1842         }
1843         while (size >= 2) {
1844                 cur_reg = mono_regstate_next_int (s->rs);
1845                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI2_MEMBASE, cur_reg, srcreg, soffset);
1846                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI2_MEMBASE_REG, destreg, doffset, cur_reg);
1847                 doffset += 2;
1848                 soffset += 2;
1849                 size -= 2;
1850         }
1851         while (size >= 1) {
1852                 cur_reg = mono_regstate_next_int (s->rs);
1853                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI1_MEMBASE, cur_reg, srcreg, soffset);
1854                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI1_MEMBASE_REG, destreg, doffset, cur_reg);
1855                 doffset += 1;
1856                 soffset += 1;
1857                 size -= 1;
1858         }
1859 }
1860
1861 void
1862 mini_emit_memset (MonoCompile *s, int destreg, int offset, int size, int val, int alignl)
1863 {
1864         int val_reg = mono_regstate_next_int (s->rs);
1865
1866         if (sizeof (gpointer) == 8)
1867                 MONO_EMIT_NEW_I8CONST (s, val_reg, val);
1868         else
1869                 MONO_EMIT_NEW_ICONST (s, val_reg, val);
1870
1871         if (sizeof (gpointer) == 8) {
1872                 while (size >= 8) {
1873                         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI8_MEMBASE_REG, destreg, offset, val_reg);
1874                         offset += 8;
1875                         size -= 8;
1876                 }
1877         }
1878
1879         while (size >= 4) {
1880                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI4_MEMBASE_REG, destreg, offset, val_reg);
1881                 offset += 4;
1882                 size -= 4;
1883         }
1884         while (size >= 2) {
1885                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI2_MEMBASE_REG, destreg, offset, val_reg);
1886                 offset += 2;
1887                 size -= 2;
1888         }
1889         while (size >= 1) {
1890                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI1_MEMBASE_REG, destreg, offset, val_reg);
1891                 offset += 1;
1892                 size -= 1;
1893         }
1894 }
1895
1896 /* This is similar to NEW_AOTCONST in mini.c, but generates linear IL */
1897 void
1898 mini_emit_aotconst (MonoCompile *cfg, int dreg, MonoJumpInfoType patch_type, gpointer cons)
1899 {
1900         MonoInst *dest, *pinfo;
1901         int got_var_reg;
1902
1903         dest = mono_mempool_alloc0 (cfg->mempool, sizeof (MonoInst));
1904         dest->opcode = OP_GOT_ENTRY;
1905
1906         g_assert (cfg->got_var);
1907
1908         pinfo = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));
1909         pinfo->opcode = OP_PATCH_INFO;
1910         pinfo->inst_left = cons;
1911         pinfo->inst_right = (gpointer)(patch_type);
1912
1913         if (cfg->got_var->opcode == OP_REGOFFSET) {
1914                 got_var_reg = mono_regstate_next_int (cfg->rs);
1915                 MONO_EMIT_NEW_LOAD_MEMBASE (cfg, got_var_reg, cfg->got_var->inst_basereg, cfg->got_var->inst_offset);
1916         }
1917         else {
1918                 g_assert (cfg->got_var->opcode == OP_REGVAR);
1919                 got_var_reg = cfg->got_var->dreg;
1920         }
1921
1922         dest = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));
1923         dest->opcode = OP_GOT_ENTRY;
1924         dest->inst_left = cfg->got_var; /* not used */
1925         dest->inst_right = pinfo;
1926
1927         dest->inst_basereg = got_var_reg;
1928         dest->dreg = dreg;
1929         mono_bblock_add_inst (cfg->cbb, dest);
1930 }
1931
1932 int
1933 ldind_to_load_membase (int opcode)
1934 {
1935         switch (opcode) {
1936         case CEE_LDIND_I1:
1937                 return OP_LOADI1_MEMBASE;
1938         case CEE_LDIND_U1:
1939                 return OP_LOADU1_MEMBASE;
1940         case CEE_LDIND_I2:
1941                 return OP_LOADI2_MEMBASE;
1942         case CEE_LDIND_U2:
1943                 return OP_LOADU2_MEMBASE;
1944         case CEE_LDIND_I4:
1945                 return OP_LOADI4_MEMBASE;
1946         case CEE_LDIND_U4:
1947                 return OP_LOADU4_MEMBASE;
1948         case CEE_LDIND_I:
1949                 return OP_LOAD_MEMBASE;
1950         case CEE_LDIND_REF:
1951                 return OP_LOAD_MEMBASE;
1952         case CEE_LDIND_I8:
1953                 return OP_LOADI8_MEMBASE;
1954         default:
1955                 g_assert_not_reached ();
1956         }
1957
1958         return -1;
1959 }
1960