mono/mini/inssel.brg

   1 /*
   2  * inssel.brg: instruction selection
   3  *
   4  * Author:
   5  *   Dietmar Maurer (dietmar@ximian.com)
   6  *   Paolo Molaro (lupus@ximian.com)
   7  *
   8  * (C) 2002 Ximian, Inc.
   9  *
  10  */
  11 #include <config.h>
  12 #include <string.h>
  13
  14 #include "mini.h"
  15 #include <mono/metadata/marshal.h>
  16 #include <mono/metadata/debug-helpers.h>
  17
  18 #define MBTREE_TYPE  MonoInst
  19 #define MBCGEN_TYPE  MonoCompile
  20 #define MBCOST_DATA  MonoCompile
  21 #define MBALLOC_STATE mono_mempool_alloc (data->state_pool, sizeof (MBState))
  22 #define MBMAX_OPCODES OP_LAST
  23 #define MBGET_OP_NAME(op) mono_inst_name (op)
  24
  25 #define MBTREE_OP(t) ((t)->opcode)
  26 #define MBTREE_LEFT(t) ((t)->inst_left)
  27 #define MBTREE_RIGHT(t) ((t)->inst_right)
  28
  29 #define MONO_EMIT_UNALU(cfg,inst,op,dr,sr1) do { \
  30                 (inst)->opcode = op; \
  31                 (inst)->dreg = dr; \
  32                 (inst)->sreg1 = sr1; \
  33                 mono_bblock_add_inst (cfg->cbb, inst); \
  34         } while (0)
  35
  36 #define MONO_EMIT_NEW_UNALU(cfg,op,dr,sr1) do { \
  37                 MonoInst *inst; \
  38                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  39                 inst->opcode = op; \
  40                 inst->dreg = dr; \
  41                 inst->sreg1 = sr1; \
  42                 mono_bblock_add_inst (cfg->cbb, inst); \
  43         } while (0)
  44
  45 #define MONO_EMIT_BIALU(cfg,inst,op,dr,sr1,sr2) do { \
  46                 (inst)->opcode = op; \
  47                 (inst)->dreg = dr; \
  48                 (inst)->sreg1 = sr1; \
  49                 (inst)->sreg2 = sr2; \
  50                 mono_bblock_add_inst (cfg->cbb, inst); \
  51         } while (0)
  52
  53 #define MONO_EMIT_NEW_BIALU(cfg,op,dr,sr1,sr2) do { \
  54                 MonoInst *inst; \
  55                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  56                 inst->opcode = op; \
  57                 inst->dreg = dr; \
  58                 inst->sreg1 = sr1; \
  59                 inst->sreg2 = sr2; \
  60                 mono_bblock_add_inst (cfg->cbb, inst); \
  61         } while (0)
  62
  63 #define MONO_EMIT_BIALU_IMM(cfg,inst,op,dr,sr,imm) do { \
  64                 (inst)->opcode = op; \
  65                 (inst)->dreg = dr; \
  66                 (inst)->sreg1 = sr; \
  67                 (inst)->inst_p1 = (gpointer)(gssize)(imm); \
  68                 mono_bblock_add_inst (cfg->cbb, inst); \
  69         } while (0)
  70
  71 #define MONO_EMIT_NEW_BIALU_IMM(cfg,op,dr,sr,imm) do { \
  72                 MonoInst *inst; \
  73                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  74                 inst->opcode = op; \
  75                 inst->dreg = dr; \
  76                 inst->sreg1 = sr; \
  77                 inst->inst_p1 = (gpointer)(gssize)(imm); \
  78                 mono_bblock_add_inst (cfg->cbb, inst); \
  79         } while (0)
  80
  81 #define MONO_EMIT_BIALU_MEMBASE(cfg,tree,op,dr,sr,basereg,offset) do { \
  82                                 tree->opcode = op; \
  83                                 tree->dreg = dr; \
  84                                 tree->sreg1 = sr; \
  85                                 tree->sreg2 = basereg; \
  86                                 tree->inst_offset = offset; \
  87                                 mono_bblock_add_inst (s->cbb, tree); \
  88         } while (0)
  89
  90 #define MONO_EMIT_LOAD_MEMBASE(cfg,inst,dr,base,offset) do { \
  91                 (inst)->opcode = OP_LOAD_MEMBASE; \
  92                 (inst)->dreg = dr; \
  93                 (inst)->inst_basereg = base; \
  94                 (inst)->inst_offset = offset; \
  95                 mono_bblock_add_inst (cfg->cbb, inst); \
  96         } while (0)
  97
  98 #define MONO_EMIT_LOAD_MEMBASE_OP(cfg,inst,op,dr,base,offset) do { \
  99                 (inst)->opcode = op; \
 100                 (inst)->dreg = dr; \
 101                 (inst)->inst_basereg = base; \
 102                 (inst)->inst_offset = offset; \
 103                 mono_bblock_add_inst (cfg->cbb, inst); \
 104         } while (0)
 105
 106 #define MONO_EMIT_NEW_LOAD_MEM(cfg,dr,addr) do { \
 107                 MonoInst *inst; \
 108                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 109                 inst->opcode = OP_LOADU4_MEM; \
 110                 inst->dreg = dr; \
 111                 inst->inst_p0 = addr; \
 112                 mono_bblock_add_inst (cfg->cbb, inst); \
 113         } while (0)
 114
 115 #define MONO_EMIT_NEW_LOAD_MEMBASE(cfg,dr,base,offset) do { \
 116                 MonoInst *inst; \
 117                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 118                 inst->opcode = OP_LOAD_MEMBASE; \
 119                 inst->dreg = dr; \
 120                 inst->inst_basereg = base; \
 121                 inst->inst_offset = offset; \
 122                 mono_bblock_add_inst (cfg->cbb, inst); \
 123         } while (0)
 124
 125 #define MONO_EMIT_NEW_LOAD_MEMBASE_OP(cfg,op,dr,base,offset) do { \
 126                 MonoInst *inst; \
 127                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 128                 inst->opcode = op; \
 129                 inst->dreg = dr; \
 130                 inst->inst_basereg = base; \
 131                 inst->inst_offset = offset; \
 132                 mono_bblock_add_inst (cfg->cbb, inst); \
 133         } while (0)
 134
 135 #define MONO_EMIT_STORE_MEMBASE(cfg,inst,op,base,offset,sr) do { \
 136                 (inst)->opcode = op; \
 137                 (inst)->sreg1 = sr; \
 138                 (inst)->inst_destbasereg = base; \
 139                 (inst)->inst_offset = offset; \
 140                 mono_bblock_add_inst (cfg->cbb, inst); \
 141         } while (0)
 142
 143 #define MONO_EMIT_NEW_STORE_MEMBASE(cfg,op,base,offset,sr) do { \
 144                 MonoInst *inst; \
 145                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 146                 inst->opcode = op; \
 147                 inst->sreg1 = sr; \
 148                 inst->inst_destbasereg = base; \
 149                 inst->inst_offset = offset; \
 150                 mono_bblock_add_inst (cfg->cbb, inst); \
 151         } while (0)
 152
 153 #define MONO_EMIT_STORE_MEMBASE_IMM(cfg,inst,op,base,offset,imm) do { \
 154                 (inst)->opcode = op; \
 155                 (inst)->inst_destbasereg = base; \
 156                 (inst)->inst_offset = offset; \
 157                 (inst)->inst_p1 = (gpointer)imm; \
 158                 mono_bblock_add_inst (cfg->cbb, inst); \
 159         } while (0)
 160
 161 #define MONO_EMIT_NEW_STORE_MEMBASE_IMM(cfg,op,base,offset,imm) do { \
 162                 MonoInst *inst; \
 163                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 164                 inst->opcode = op; \
 165                 inst->inst_destbasereg = base; \
 166                 inst->inst_offset = offset; \
 167                 inst->inst_p1 = (gpointer)imm; \
 168                 mono_bblock_add_inst (cfg->cbb, inst); \
 169         } while (0)
 170
 171 #define MONO_EMIT_NEW_COMPARE_IMM(cfg,sr1,imm) do { \
 172                 MonoInst *inst; \
 173                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 174                 inst->opcode = OP_COMPARE_IMM;  \
 175                 inst->sreg1 = sr1; \
 176                 inst->inst_p1 = (gpointer)imm; \
 177                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 178         } while (0)
 179
 180 #define MONO_EMIT_NEW_ICOMPARE_IMM(cfg,sr1,imm) do { \
 181                 MonoInst *inst; \
 182                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 183                 inst->opcode = sizeof (void*) == 8 ? OP_ICOMPARE_IMM : OP_COMPARE_IMM;  \
 184                 inst->sreg1 = sr1; \
 185                 inst->inst_p1 = (gpointer)imm; \
 186                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 187         } while (0)
 188
 189 #define MONO_EMIT_NEW_COND_EXC(cfg,cond,name) do { \
 190                 MonoInst *inst; \
 191                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 192                 inst->opcode = OP_COND_EXC_##cond;  \
 193                 inst->inst_p1 = (char*)name; \
 194                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 195         } while (0)
 196
 197 #define MONO_EMIT_NEW_ICONST(cfg,dr,imm) do { \
 198                 MonoInst *inst; \
 199                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 200                 inst->opcode = OP_ICONST;       \
 201                 inst->dreg = dr; \
 202                 inst->inst_c0 = imm; \
 203                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 204         } while (0)
 205
 206 #define MONO_EMIT_NEW_I8CONST(cfg,dr,imm) do { \
 207                 MonoInst *inst; \
 208                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 209                 inst->opcode = OP_I8CONST;      \
 210                 inst->dreg = dr; \
 211                 inst->inst_l = imm; \
 212                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 213         } while (0)
 214
 215 #define MONO_EMIT_NEW_PCONST(cfg,dr,imm) do { \
 216                 MonoInst *inst; \
 217                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 218                 inst->opcode = OP_ICONST;       \
 219                 inst->dreg = dr; \
 220                 inst->inst_p0 = (gpointer) imm; \
 221                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 222         } while (0)
 223
 224
 225 #ifdef MONO_ARCH_NEED_GOT_VAR
 226
 227 #define MONO_EMIT_NEW_AOTCONST(cfg,dr,cons,patch_type) do { \
 228                 mini_emit_aotconst ((cfg), (dr), (patch_type), (cons)); \
 229     } while (0)
 230
 231 #else
 232
 233 #define MONO_EMIT_NEW_AOTCONST(cfg,dr,imm,type) do { \
 234                 MonoInst *inst; \
 235                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 236                 inst->opcode = OP_AOTCONST;     \
 237                 inst->dreg = dr; \
 238                 inst->inst_p0 = imm; \
 239                 inst->inst_c1 = type; \
 240                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 241         } while (0)
 242
 243 #endif
 244
 245 #define MONO_EMIT_NEW_CLASSCONST(cfg,dr,imm) MONO_EMIT_NEW_AOTCONST(cfg,dr,imm,MONO_PATCH_INFO_CLASS)
 246 #define MONO_EMIT_NEW_VTABLECONST(cfg,dest,vtable) MONO_EMIT_NEW_AOTCONST ((cfg), (dest), (cfg)->compile_aot ? (gpointer)((vtable)->klass) : (vtable), MONO_PATCH_INFO_VTABLE)
 247
 248 #define MONO_EMIT_NEW_BRANCH_BLOCK(cfg,op,targetbb) do { \
 249                 MonoInst *inst; \
 250                 MonoInst *target_label; \
 251                 target_label = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 252                 target_label->opcode = OP_LABEL;        \
 253                 target_label->next = (targetbb)->code; \
 254                 target_label->inst_c0 = (targetbb)->native_offset; \
 255                 (targetbb)->code = target_label; \
 256                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 257                 inst->opcode = op;      \
 258                 inst->inst_i0 = target_label;   \
 259                 inst->flags = MONO_INST_BRLABEL;        \
 260                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 261         } while (0)
 262
 263 #define MONO_EMIT_NEW_BRANCH_LABEL(cfg,op,label) do { \
 264                 MonoInst *inst; \
 265                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 266                 inst->opcode = op;      \
 267                 inst->inst_i0 = label;  \
 268                 inst->flags = MONO_INST_BRLABEL;        \
 269                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 270         } while (0)
 271
 272 #define MONO_NEW_LABEL(cfg,inst) do { \
 273                 (inst) = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));       \
 274                 (inst)->opcode = OP_LABEL;      \
 275         } while (0)
 276
 277 #define MONO_EMIT_BOUNDS_CHECK(cfg, array_reg, array_type, array_length_field, index_reg) do { \
 278                 if (! (state->tree->flags & MONO_INST_NORANGECHECK)) { \
 279                         int _length_reg = mono_regstate_next_int (cfg->rs); \
 280                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (cfg, OP_LOADI4_MEMBASE, _length_reg, array_reg, G_STRUCT_OFFSET (array_type, array_length_field)); \
 281                         MONO_EMIT_NEW_BIALU (cfg, OP_COMPARE, -1, _length_reg, index_reg); \
 282                         MONO_EMIT_NEW_COND_EXC (cfg, LE_UN, "IndexOutOfRangeException"); \
 283                 } \
 284         } while (0)
 285
 286 #define MONO_EMIT_BOUNDS_CHECK_IMM(cfg, array_reg, array_type, array_length_field, index_imm) do { \
 287                 if (! (state->tree->flags & MONO_INST_NORANGECHECK)) { \
 288                         int _length_reg = mono_regstate_next_int (cfg->rs); \
 289                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (cfg, OP_LOADI4_MEMBASE, _length_reg, array_reg, G_STRUCT_OFFSET (array_type, array_length_field)); \
 290                         MONO_EMIT_NEW_BIALU_IMM (cfg, OP_COMPARE_IMM, -1, _length_reg, index_imm); \
 291                         MONO_EMIT_NEW_COND_EXC (cfg, LE_UN, "IndexOutOfRangeException"); \
 292                 } \
 293         } while (0)
 294
 295 #ifndef MONO_EMIT_NEW_COMPARE_BRANCH_LABEL
 296 #define MONO_EMIT_NEW_COMPARE_BRANCH_LABEL(cfg, cmp_op, sreg1, sreg2, label) \
 297         do { \
 298                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, (sreg1), (sreg2)); \
 299                 MONO_EMIT_NEW_BRANCH_LABEL (s, (cmp_op), (label)); \
 300         } while (0)
 301 #endif
 302
 303 #ifndef MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL
 304 #define MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL(cfg, cmp_op, sreg1, imm, label) \
 305         do { \
 306                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, (sreg1), (imm)); \
 307                 MONO_EMIT_NEW_BRANCH_LABEL (s, (cmp_op), (label)); \
 308         } while (0)
 309 #endif
 310
 311 #ifndef MONO_EMIT_NEW_COMPARE_BRANCH_BLOCK
 312 #define MONO_EMIT_NEW_COMPARE_BRANCH_BLOCK(cfg, cmp_op, sreg1, sreg2, block) \
 313         do { \
 314                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, (sreg1), (sreg2)); \
 315                 MONO_EMIT_NEW_BRANCH_BLOCK (s, (cmp_op), (block)); \
 316         } while (0)
 317 #endif
 318
 319 #ifndef MONO_EMIT_NEW_COMPARE_IMM_BRANCH_BLOCK
 320 #define MONO_EMIT_NEW_COMPARE_IMM_BRANCH_BLOCK(cfg, cmp_op, sreg1, imm, block) \
 321         do { \
 322                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, (sreg1), (imm)); \
 323                 MONO_EMIT_NEW_BRANCH_BLOCK (s, (cmp_op), (block)); \
 324         } while (0)
 325 #endif
 326
 327 %%
 328
 329 %termprefix OP_ CEE_
 330
 331 %start stmt
 332
 333 #
 334 # base addressing mode
 335 #
 336
 337 base: reg "0" {
 338         /* we create a new MonoInst in chain rules and set state->tree to it
 339          * since a MBState (and hence state->tree) is reused in chain rules and
 340          * normal rules.
 341          */
 342         MonoInst *inst;
 343         inst = mono_mempool_alloc0 (s->mempool, sizeof (MonoInst));
 344         inst->opcode = OP_ICONST; /* doesn't matter */
 345         inst->inst_basereg = state->reg1;
 346         inst->inst_offset = 0;
 347         state->tree = inst;
 348         //g_print ("mybase: (assigned R%d from R%d - R%d)\n", state->reg1, tree->dreg, state->reg2);
 349         //tree->inst_offset = 0;
 350         //tree->inst_basereg = state->reg1;
 351 }
 352
 353 base: CEE_LDIND_I (OP_REGVAR) "0" {
 354         tree->inst_offset = 0;
 355         tree->inst_basereg = state->left->tree->dreg;
 356 }
 357
 358 base: OP_REGOFFSET "0" {
 359         /* nothing to do */
 360 }
 361
 362 base: OP_LDADDR (OP_REGOFFSET),
 363 base: CEE_LDOBJ (OP_REGOFFSET) "0" {
 364         tree->inst_offset = state->left->tree->inst_offset;
 365         tree->inst_basereg = state->left->tree->inst_basereg;
 366 }
 367
 368 base: CEE_ADD (base, OP_ICONST) "0" {
 369         tree->inst_offset = state->left->tree->inst_offset + state->right->tree->inst_c0;
 370         tree->inst_basereg = state->left->tree->inst_basereg;
 371 }
 372
 373 base: CEE_ADD (CEE_LDIND_REF (OP_REGVAR), OP_ICONST),
 374 base: CEE_ADD (CEE_LDIND_I (OP_REGVAR), OP_ICONST) "0" {
 375         tree->inst_offset = state->right->tree->inst_c0;
 376         tree->inst_basereg = state->left->left->tree->dreg;
 377 }
 378
 379 #
 380 # helpers
 381 #
 382
 383 reg: OP_ICONST {
 384         tree->dreg = state->reg1;
 385         MONO_EMIT_NEW_ICONST (s, state->reg1, tree->inst_c0);
 386 }
 387
 388 reg: OP_AOTCONST {
 389         MONO_EMIT_NEW_AOTCONST (s, state->reg1, tree->inst_p0, tree->inst_c1);
 390 }
 391
 392 reg: OP_LOAD_GOTADDR {
 393         tree->dreg = state->reg1;
 394         mono_bblock_add_inst (s->cbb, tree);
 395 }
 396
 397 stmt: CEE_STIND_I (OP_REGVAR, OP_LOAD_GOTADDR) {
 398         tree->opcode = OP_LOAD_GOTADDR;
 399         tree->dreg = state->left->tree->dreg;
 400         mono_bblock_add_inst (s->cbb, tree);
 401 }
 402
 403 reg: OP_GOT_ENTRY (reg, OP_PATCH_INFO) {
 404         tree->inst_basereg = state->left->tree->dreg;
 405         tree->dreg = state->reg1;
 406         mono_bblock_add_inst (s->cbb, tree);
 407 }
 408
 409 reg: OP_GOT_ENTRY (CEE_LDIND_I (OP_REGVAR), OP_PATCH_INFO) {
 410         tree->inst_basereg = state->left->left->tree->dreg;
 411         tree->dreg = state->reg1;
 412         mono_bblock_add_inst (s->cbb, tree);
 413 }
 414
 415 stmt: OP_DUMMY_USE (CEE_LDIND_I (OP_REGVAR)) {
 416 }
 417
 418 stmt: OP_DUMMY_USE (CEE_LDIND_I (OP_REGOFFSET)) {
 419 }
 420
 421 stmt: OP_DUMMY_USE (CEE_LDIND_REF (OP_REGOFFSET)) {
 422 }
 423
 424 stmt: OP_DUMMY_STORE {
 425 }
 426
 427 stmt: OP_NOT_REACHED {
 428 }
 429
 430 stmt: OP_MEMORY_BARRIER {
 431         mono_bblock_add_inst (s->cbb, tree);
 432 }
 433
 434 #
 435 # load/store operations
 436 #
 437
 438 reg: CEE_LDIND_I (base),
 439 reg: CEE_LDIND_REF (base),
 440 reg: CEE_LDIND_I1 (base),
 441 reg: CEE_LDIND_U1 (base),
 442 reg: CEE_LDIND_I2 (base),
 443 reg: CEE_LDIND_U2 (base),
 444 reg: CEE_LDIND_I4 (base),
 445 reg: CEE_LDIND_U4 (base) {
 446         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, ldind_to_load_membase (tree->opcode),
 447                                    state->reg1, state->left->tree->inst_basereg, state->left->tree->inst_offset);
 448 }
 449
 450 reg: OP_LDADDR (OP_REGOFFSET),
 451 reg: CEE_LDOBJ (OP_REGOFFSET) "2" {
 452         /* use LEA */
 453         tree->opcode = OP_MOVE;
 454         tree->sreg1 = state->left->tree->inst_basereg;
 455         tree->dreg = state->reg1;
 456         mono_bblock_add_inst (s->cbb, tree);
 457         if (state->left->tree->inst_offset)
 458                 MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, tree->dreg, tree->dreg, state->left->tree->inst_offset);
 459 }
 460
 461 reg: CEE_LDOBJ (reg),
 462 reg: OP_OBJADDR (reg),
 463 reg: OP_VTADDR (reg) {
 464         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 465 }
 466
 467 reg: CEE_LDIND_U1 (OP_REGVAR) {
 468         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->tree->dreg, 0xff);
 469 }
 470
 471 reg: CEE_LDIND_U2 (OP_REGVAR) {
 472         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->tree->dreg, 0xffff);
 473 }
 474
 475 stmt: CEE_STIND_REF (base, CEE_LDIND_REF (OP_REGVAR)),
 476 stmt: CEE_STIND_REF (base, CEE_LDIND_I (OP_REGVAR)),
 477 stmt: CEE_STIND_I (base, CEE_LDIND_REF (OP_REGVAR)),
 478 stmt: CEE_STIND_I (base, CEE_LDIND_I (OP_REGVAR)) {
 479         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STORE_MEMBASE_REG, state->left->tree->inst_basereg,
 480                                  state->left->tree->inst_offset, state->right->left->tree->dreg);
 481 }
 482
 483 stmt: CEE_STIND_REF (OP_REGVAR, CEE_LDIND_REF (OP_REGVAR)),
 484 stmt: CEE_STIND_REF (OP_REGVAR, CEE_LDIND_I (OP_REGVAR)),
 485 stmt: CEE_STIND_I (OP_REGVAR, CEE_LDIND_REF (OP_REGVAR)),
 486 stmt: CEE_STIND_I (OP_REGVAR, CEE_LDIND_I (OP_REGVAR)),
 487 stmt: CEE_STIND_I4 (OP_REGVAR, CEE_LDIND_I4 (OP_REGVAR)) {
 488         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->left->tree->dreg, state->right->left->tree->dreg);
 489 }
 490
 491
 492 stmt: CEE_STIND_I (base, reg),
 493 stmt: CEE_STIND_REF (base, reg) {
 494         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STORE_MEMBASE_REG, state->left->tree->inst_basereg,
 495                                  state->left->tree->inst_offset, state->right->reg1);
 496 }
 497
 498 stmt: CEE_STIND_I (base, OP_ICONST),
 499 stmt: CEE_STIND_REF (base, OP_ICONST) {
 500         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STORE_MEMBASE_IMM, state->left->tree->inst_basereg,
 501                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 502 }
 503
 504 reg: CEE_LDIND_REF (OP_REGVAR),
 505 reg: CEE_LDIND_I (OP_REGVAR),
 506 reg: CEE_LDIND_I4 (OP_REGVAR),
 507 reg: CEE_LDIND_U4 (OP_REGVAR) {
 508         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->tree->dreg);
 509 }
 510
 511 stmt: CEE_STIND_I4 (base, reg) {
 512         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI4_MEMBASE_REG, state->left->tree->inst_basereg,
 513                                  state->left->tree->inst_offset, state->right->reg1);
 514 }
 515
 516 stmt: CEE_STIND_I4 (base, CEE_LDIND_I4 (OP_REGVAR)) {
 517         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI4_MEMBASE_REG, state->left->tree->inst_basereg,
 518                                  state->left->tree->inst_offset, state->right->left->tree->dreg);
 519 }
 520
 521 stmt: CEE_STIND_I4 (base, OP_ICONST) {
 522         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI4_MEMBASE_IMM, state->left->tree->inst_basereg,
 523                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 524 }
 525
 526 stmt: CEE_STIND_I4 (OP_REGVAR, CEE_LDIND_I4 (base)) {
 527         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->left->tree->dreg,
 528                                    state->right->left->tree->inst_basereg,
 529                                    state->right->left->tree->inst_offset);
 530 }
 531
 532 stmt: CEE_STIND_I1 (base, reg) {
 533         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI1_MEMBASE_REG, state->left->tree->inst_basereg,
 534                                  state->left->tree->inst_offset, state->right->reg1);
 535 }
 536
 537 stmt: CEE_STIND_I1 (base, OP_ICONST) {
 538         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI1_MEMBASE_IMM, state->left->tree->inst_basereg,
 539                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 540 }
 541
 542 stmt: CEE_STIND_I2 (base, reg) {
 543         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI2_MEMBASE_REG, state->left->tree->inst_basereg,
 544                                  state->left->tree->inst_offset, state->right->reg1);
 545 }
 546
 547 stmt: CEE_STIND_I2 (base, OP_ICONST) {
 548         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI2_MEMBASE_IMM, state->left->tree->inst_basereg,
 549                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 550 }
 551
 552 stmt: CEE_STIND_I2 (OP_REGVAR, reg) {
 553         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->reg1, 0xffff);
 554 }
 555
 556 stmt: CEE_STIND_I1 (OP_REGVAR, reg) {
 557         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->reg1, 0xff);
 558 }
 559
 560 stmt: CEE_STIND_I1 (OP_REGVAR, CEE_LDIND_U1 (OP_REGVAR)),
 561 stmt: CEE_STIND_I1 (OP_REGVAR, CEE_LDIND_I1 (OP_REGVAR)) {
 562         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->left->tree->dreg, 0xff);
 563 }
 564
 565 stmt: CEE_STIND_I2 (OP_REGVAR, CEE_LDIND_U2 (OP_REGVAR)),
 566 stmt: CEE_STIND_I2 (OP_REGVAR, CEE_LDIND_I2 (OP_REGVAR)) {
 567         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->left->tree->dreg, 0xffff);
 568 }
 569
 570 stmt: CEE_STIND_I4 (OP_REGVAR, OP_ICONST),
 571 stmt: CEE_STIND_I2 (OP_REGVAR, OP_ICONST),
 572 stmt: CEE_STIND_I1 (OP_REGVAR, OP_ICONST),
 573 stmt: CEE_STIND_REF (OP_REGVAR, OP_ICONST),
 574 stmt: CEE_STIND_I (OP_REGVAR, OP_ICONST) {
 575         tree->inst_c0 = state->right->tree->inst_c0;
 576         if (tree->opcode == CEE_STIND_I2)
 577                 tree->inst_c0 &= 0xffff;
 578         if (tree->opcode == CEE_STIND_I1)
 579                 tree->inst_c0 &= 0xff;
 580
 581         tree->opcode = OP_ICONST;
 582         tree->dreg = state->left->tree->dreg;
 583         mono_bblock_add_inst (s->cbb, tree);
 584 }
 585
 586 stmt: CEE_STIND_I4 (OP_REGVAR, reg),
 587 stmt: CEE_STIND_REF (OP_REGVAR, reg),
 588 stmt: CEE_STIND_I (OP_REGVAR, reg) {
 589         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->left->tree->dreg, state->right->reg1);
 590 }
 591
 592 stmt: OP_MEMCPY (base, base) {
 593         int size = tree->backend.size;
 594         if (size > 0)
 595                 mini_emit_memcpy (s, state->left->tree->inst_basereg, state->left->tree->inst_offset,
 596                                   state->right->tree->inst_basereg, state->right->tree->inst_offset, size, 0);
 597 }
 598
 599 stmt: OP_MEMSET (base) {
 600         int size = tree->backend.size;
 601         if (size > 0)
 602                 mini_emit_memset (s, state->left->tree->inst_basereg, state->left->tree->inst_offset, size, tree->inst_imm, 0);
 603 }
 604
 605 reg: OP_LDELEMA2D (reg, OP_GROUP (reg, reg)) "20" {
 606         int bounds_reg = mono_regstate_next_int (s->rs);
 607         int add_reg = mono_regstate_next_int (s->rs);
 608         int mult_reg = mono_regstate_next_int (s->rs);
 609         int mult2_reg = mono_regstate_next_int (s->rs);
 610         int low1_reg = mono_regstate_next_int (s->rs);
 611         int low2_reg = mono_regstate_next_int (s->rs);
 612         int high1_reg = mono_regstate_next_int (s->rs);
 613         int high2_reg = mono_regstate_next_int (s->rs);
 614         int realidx1_reg = mono_regstate_next_int (s->rs);
 615         int realidx2_reg = mono_regstate_next_int (s->rs);
 616         int sum_reg = mono_regstate_next_int (s->rs);
 617         int index1, index2;
 618         guint32 size = mono_class_array_element_size (tree->klass);
 619
 620         index1 = state->right->left->reg1;
 621         index2 = state->right->right->reg1;
 622
 623         /* range checking */
 624         MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg,
 625                                        state->left->reg1, G_STRUCT_OFFSET (MonoArray, bounds));
 626
 627         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, low1_reg,
 628                                        bounds_reg, G_STRUCT_OFFSET (MonoArrayBounds, lower_bound));
 629         MONO_EMIT_NEW_BIALU (s, CEE_SUB, realidx1_reg, index1, low1_reg);
 630         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, high1_reg,
 631                                        bounds_reg, G_STRUCT_OFFSET (MonoArrayBounds, length));
 632         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, high1_reg, realidx1_reg);
 633         MONO_EMIT_NEW_COND_EXC (s, LE_UN, "IndexOutOfRangeException");
 634
 635         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, low2_reg,
 636                                        bounds_reg, sizeof (MonoArrayBounds) + G_STRUCT_OFFSET (MonoArrayBounds, lower_bound));
 637         MONO_EMIT_NEW_BIALU (s, CEE_SUB, realidx2_reg, index2, low2_reg);
 638         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, high2_reg,
 639                                        bounds_reg, sizeof (MonoArrayBounds) + G_STRUCT_OFFSET (MonoArrayBounds, length));
 640         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, high2_reg, realidx2_reg);
 641         MONO_EMIT_NEW_COND_EXC (s, LE_UN, "IndexOutOfRangeException");
 642
 643         MONO_EMIT_NEW_BIALU (s, CEE_MUL, mult_reg, high2_reg, realidx1_reg);
 644         MONO_EMIT_NEW_BIALU (s, CEE_ADD, sum_reg, mult_reg, realidx2_reg);
 645         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, mult2_reg, sum_reg, size);
 646         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult2_reg, state->left->reg1);
 647         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, add_reg, G_STRUCT_OFFSET (MonoArray, vector));
 648 }
 649
 650 #
 651 # conversions: conv_u can be implemented with AND, also all _ovf conversions?
 652 #
 653
 654 reg: CEE_CONV_I1 (reg),
 655 reg: CEE_CONV_I2 (reg),
 656 reg: CEE_CONV_I4 (reg) {
 657         MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 658 }
 659
 660 reg: CEE_CONV_U1 (reg) {
 661         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xff);
 662 }
 663
 664 reg: CEE_CONV_U2 (reg) {
 665         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xffff);
 666 }
 667
 668 reg: CEE_CONV_U4 (reg),
 669 reg: CEE_CONV_U (reg),
 670 reg: CEE_CONV_I (reg) {
 671         if (sizeof (void *) == 8)
 672                 MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 673         else
 674                 MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 675 }
 676
 677 reg: CEE_CONV_OVF_I4 (reg) {
 678         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 679 }
 680
 681 reg: CEE_CONV_OVF_U4 (reg),
 682 reg: CEE_CONV_OVF_I4_UN (reg) {
 683         if (sizeof (void *) == 8) {
 684                 MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 685         } else {
 686                 MONO_EMIT_NEW_COMPARE_IMM (s, state->left->reg1, 0);
 687                 MONO_EMIT_NEW_COND_EXC (s, LT, "OverflowException");
 688                 MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 689         }
 690 }
 691
 692 reg: CEE_CONV_OVF_I1 (reg) {
 693         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 127);
 694         MONO_EMIT_NEW_COND_EXC (s, GT, "OverflowException");
 695         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, -128);
 696         MONO_EMIT_NEW_COND_EXC (s, LT, "OverflowException");
 697         MONO_EMIT_UNALU (s, tree, CEE_CONV_I1, state->reg1, state->left->reg1);
 698 }
 699
 700 reg: CEE_CONV_OVF_I1_UN (reg) {
 701         /* probe values between 0 to 127 */
 702         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 127);
 703         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 704         MONO_EMIT_UNALU (s, tree, CEE_CONV_I1, state->reg1, state->left->reg1);
 705 }
 706
 707 reg: CEE_CONV_OVF_U1 (reg),
 708 reg: CEE_CONV_OVF_U1_UN (reg) {
 709         /* probe value to be within 0 to 255 */
 710         MONO_EMIT_NEW_COMPARE_IMM (s, state->left->reg1, 255);
 711         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 712         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xff);
 713 }
 714
 715 reg: CEE_CONV_OVF_I2 (reg) {
 716         /* Probe value to be within -32768 and 32767 */
 717         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 32767);
 718         MONO_EMIT_NEW_COND_EXC (s, GT, "OverflowException");
 719         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, -32768);
 720         MONO_EMIT_NEW_COND_EXC (s, LT, "OverflowException");
 721         MONO_EMIT_UNALU (s, tree, CEE_CONV_I2, state->reg1, state->left->reg1);
 722 }
 723
 724 reg: CEE_CONV_OVF_I2_UN (reg) {
 725         /* Convert uint value into short, value within 0 and 32767 */
 726         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 32767);
 727         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 728         MONO_EMIT_UNALU (s, tree, CEE_CONV_I2, state->reg1, state->left->reg1);
 729 }
 730
 731 reg: CEE_CONV_OVF_U2 (reg),
 732 reg: CEE_CONV_OVF_U2_UN (reg) {
 733         /* Probe value to be within 0 and 65535 */
 734         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 0xffff);
 735         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 736         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xffff);
 737 }
 738
 739 #
 740 # other alu operations
 741 #
 742
 743 reg: OP_CEQ (cflags),
 744 reg: OP_CLT (cflags),
 745 reg: OP_CLT_UN (cflags),
 746 reg: OP_CGT (cflags),
 747 reg: OP_CGT_UN (cflags) {
 748         tree->dreg = state->reg1;
 749         mono_bblock_add_inst (s->cbb, tree);
 750 }
 751
 752 #
 753 # control flow commands
 754 #
 755
 756 stmt: OP_LABEL {
 757         mono_bblock_add_inst (s->cbb, tree);
 758 }
 759
 760 stmt: CEE_NOP "0" {
 761 }
 762
 763 stmt: CEE_BREAK "0" {
 764         mono_bblock_add_inst (s->cbb, tree);
 765 }
 766
 767 reg: OP_TLS_GET {
 768         tree->dreg = state->reg1;
 769         mono_bblock_add_inst (s->cbb, tree);
 770 }
 771
 772 stmt: CEE_SWITCH (reg) "2" {
 773         MonoInst *label;
 774         int offset_reg = mono_regstate_next_int (s->rs);
 775         int target_reg = mono_regstate_next_int (s->rs);
 776         int n = GPOINTER_TO_INT (tree->klass);
 777
 778         MONO_NEW_LABEL (s, label);
 779
 780         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, state->left->reg1, n);
 781         MONO_EMIT_NEW_BRANCH_BLOCK (s, CEE_BGE_UN, tree->inst_many_bb [n]);
 782         if (sizeof (gpointer) == 8)
 783                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, offset_reg, state->left->reg1, 3);
 784         else
 785                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, offset_reg, state->left->reg1, 2);
 786         mono_bblock_add_inst (s->cbb, label);
 787         if (s->compile_aot) {
 788                 int table_reg = mono_regstate_next_int (s->rs);
 789                 int sum_reg = mono_regstate_next_int (s->rs);
 790                 MonoJumpInfoBBTable *table;
 791
 792                 table = mono_mempool_alloc (s->mempool, sizeof (MonoJumpInfoBBTable));
 793                 table->table = tree->inst_many_bb;
 794                 table->table_size = n;
 795
 796                 MONO_EMIT_NEW_AOTCONST (s, table_reg, table, MONO_PATCH_INFO_SWITCH);
 797
 798                 MONO_EMIT_NEW_BIALU (s, CEE_ADD, sum_reg, table_reg, offset_reg);
 799                 MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, sum_reg, 0);
 800         } else {
 801                 mono_create_jump_table (s, label, tree->inst_many_bb, n);
 802
 803                  /* the backend must patch the address. we use 0xf0f0f0f0 to avoid the usage
 804                   * of special (short) opcodes on x86 */
 805                 if (sizeof (gpointer) == 8)
 806                         MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, offset_reg, (long)0xf0f0f0f0f0f0f0f1LL);
 807                 else
 808                         MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, offset_reg, 0xf0f0f0f0);
 809         }
 810         MONO_EMIT_UNALU (s, tree, OP_BR_REG, -1, target_reg);
 811 }
 812
 813 stmt: CEE_BR "0" {
 814         mono_bblock_add_inst (s->cbb, tree);
 815 }
 816
 817 stmt: OP_ARGLIST (reg) {
 818         tree->sreg1 = state->left->reg1;
 819         mono_bblock_add_inst (s->cbb, tree);
 820 }
 821
 822 reg: CEE_CALL {
 823         tree->dreg = state->reg1;
 824         mono_bblock_add_inst (s->cbb, tree);
 825 }
 826
 827 reg: CEE_CALLVIRT (reg) {
 828         mini_emit_virtual_call (s, state, tree, CEE_CALL, OP_CALL_MEMBASE);
 829 }
 830
 831 stmt: OP_VOIDCALLVIRT (reg) {
 832         mini_emit_virtual_call (s, state, tree, OP_VOIDCALL, OP_VOIDCALL_MEMBASE);
 833 }
 834
 835 freg: OP_FCALLVIRT (reg) {
 836         mini_emit_virtual_call (s, state, tree, OP_FCALL, OP_FCALL_MEMBASE);
 837 }
 838
 839 stmt: OP_VCALLVIRT (reg, reg) {
 840         mini_emit_virtual_call (s, state, tree, OP_VCALL, OP_VCALL_MEMBASE);
 841 }
 842
 843 reg: OP_CALL_REG (reg) {
 844         tree->sreg1 = state->left->reg1;
 845         tree->dreg = state->reg1;
 846         mono_bblock_add_inst (s->cbb, tree);
 847 }
 848
 849 stmt: OP_VOIDCALL {
 850         mono_bblock_add_inst (s->cbb, tree);
 851 }
 852
 853 stmt: OP_VOIDCALL_REG (reg) {
 854         tree->sreg1 = state->left->reg1;
 855         mono_bblock_add_inst (s->cbb, tree);
 856 }
 857
 858 freg: OP_FCALL {
 859         tree->dreg = state->reg1;
 860         mono_bblock_add_inst (s->cbb, tree);
 861 }
 862
 863 freg: OP_FCALL_REG (reg) {
 864         tree->sreg1 = state->left->reg1;
 865         tree->dreg = state->reg1;
 866         mono_bblock_add_inst (s->cbb, tree);
 867 }
 868
 869 stmt: OP_VCALL (reg) {
 870         mono_arch_emit_this_vret_args (s, (MonoCallInst*)tree, -1, -1, state->left->reg1);
 871         mono_bblock_add_inst (s->cbb, tree);
 872 }
 873
 874 stmt: OP_VCALL_REG (reg, reg) {
 875         mono_arch_emit_this_vret_args (s, (MonoCallInst*)tree, -1, -1, state->right->reg1);
 876
 877         tree->sreg1 = state->left->reg1;
 878         mono_bblock_add_inst (s->cbb, tree);
 879 }
 880
 881 stmt: OP_SAVE_LMF,
 882 stmt: OP_RESTORE_LMF {
 883         mono_bblock_add_inst (s->cbb, tree);
 884 }
 885
 886 #
 887 # Optimized call instructions
 888 #
 889
 890 reg: OP_CALL_REG (OP_ICONST),
 891 reg: OP_CALL_REG (OP_I8CONST) {
 892         tree->opcode = CEE_CALL;
 893         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 894         tree->dreg = state->reg1;
 895         mono_bblock_add_inst (s->cbb, tree);
 896 }
 897
 898 stmt: OP_VOIDCALL_REG (OP_ICONST),
 899 stmt: OP_VOIDCALL_REG (OP_I8CONST) {
 900         tree->opcode = OP_VOIDCALL;
 901         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 902         mono_bblock_add_inst (s->cbb, tree);
 903 }
 904
 905 freg: OP_FCALL_REG (OP_ICONST),
 906 freg: OP_FCALL_REG (OP_I8CONST) {
 907         tree->opcode = OP_FCALL;
 908         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 909         tree->dreg = state->reg1;
 910         mono_bblock_add_inst (s->cbb, tree);
 911 }
 912
 913 stmt: CEE_RET "0" {
 914         mono_bblock_add_inst (s->cbb, tree);
 915 }
 916
 917 stmt: CEE_POP (reg)
 918
 919 # remove some common pops without side effects
 920 stmt: CEE_POP (OP_ICONST)
 921 stmt: CEE_POP (CEE_LDIND_I1 (base))
 922 stmt: CEE_POP (CEE_LDIND_U1 (base))
 923 stmt: CEE_POP (CEE_LDIND_I2 (base))
 924 stmt: CEE_POP (CEE_LDIND_U2 (base))
 925 stmt: CEE_POP (CEE_LDIND_I4 (base))
 926 stmt: CEE_POP (CEE_LDIND_U4 (base))
 927 stmt: CEE_POP (CEE_LDIND_I (base))
 928 stmt: CEE_POP (CEE_LDIND_REF (base))
 929 stmt: CEE_POP (CEE_LDIND_I1 (OP_REGVAR))
 930 stmt: CEE_POP (CEE_LDIND_U1 (OP_REGVAR))
 931 stmt: CEE_POP (CEE_LDIND_I2 (OP_REGVAR))
 932 stmt: CEE_POP (CEE_LDIND_U2 (OP_REGVAR))
 933 stmt: CEE_POP (CEE_LDIND_I4 (OP_REGVAR))
 934 stmt: CEE_POP (CEE_LDIND_U4 (OP_REGVAR))
 935 stmt: CEE_POP (CEE_LDIND_I (OP_REGVAR))
 936 stmt: CEE_POP (CEE_LDIND_REF (OP_REGVAR))
 937
 938 stmt: CEE_JMP "0" {
 939         mono_bblock_add_inst (s->cbb, tree);
 940 }
 941
 942 # exception handling
 943
 944 stmt: CEE_THROW (reg) {
 945         MONO_EMIT_UNALU (s, tree, CEE_THROW, -1, state->left->reg1);
 946 }
 947
 948 stmt: OP_RETHROW (reg) {
 949         MONO_EMIT_UNALU (s, tree, OP_RETHROW, -1, state->left->reg1);
 950 }
 951
 952 stmt: OP_THROW_OR_NULL (reg, reg) {
 953         MonoInst *dont_throw;
 954
 955         MONO_NEW_LABEL (s, dont_throw);
 956
 957         /*
 958          * Currently, we allways rethrow the abort exception, despite the fact
 959          * that this is not correct. See thread6.cs for an example. But propagating
 960          * the abort exception is more important than getting the sematics right.
 961          */
 962         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, state->left->reg1, 0, dont_throw);
 963         MONO_EMIT_UNALU (s, tree, CEE_THROW, -1, state->left->reg1);
 964         mono_bblock_add_inst (s->cbb, dont_throw);
 965 }
 966
 967 stmt: CEE_THROW (CEE_LDIND_REF (OP_REGVAR)) {
 968         MONO_EMIT_UNALU (s, tree, CEE_THROW, -1, state->left->left->tree->dreg);
 969 }
 970
 971 stmt: OP_CALL_HANDLER {
 972         mono_bblock_add_inst (s->cbb, tree);
 973 }
 974
 975 stmt: OP_START_HANDLER "2" {
 976         mono_bblock_add_inst (s->cbb, tree);
 977 }
 978
 979 stmt: CEE_ENDFINALLY "2" {
 980         mono_bblock_add_inst (s->cbb, tree);
 981 }
 982
 983 stmt: OP_ENDFILTER (reg) "2" {
 984         MONO_EMIT_UNALU (s, tree, OP_ENDFILTER, -1, state->left->reg1);
 985 }
 986
 987 stmt: OP_CHECK_THIS (reg) {
 988         tree->sreg1 = state->left->reg1;
 989         tree->dreg = state->reg1;
 990         mono_bblock_add_inst (s->cbb, tree);
 991 }
 992
 993 # object related opcodes
 994
 995 reg: CEE_ISINST (reg) {
 996         MonoClass *klass = tree->inst_newa_class;
 997         MonoInst *object_is_null, *end_label, *false_label;
 998         int obj_reg = state->left->reg1;
 999         int vtable_reg = mono_regstate_next_int (s->rs);
1000
1001         MONO_NEW_LABEL (s, object_is_null);
1002         MONO_NEW_LABEL (s, end_label);
1003         MONO_NEW_LABEL (s, false_label);
1004
1005         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, obj_reg, 0, object_is_null);
1006
1007         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1008                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1009                 /* the object_is_null target simply copies the input register to the output */
1010                 mini_emit_isninst_iface_cast (s, vtable_reg, klass, false_label, object_is_null);
1011         } else {
1012                 int klass_reg = mono_regstate_next_int (s->rs);
1013
1014                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1015
1016                 if (klass->rank) {
1017                         int rank_reg = mono_regstate_next_int (s->rs);
1018                         int eclass_reg = mono_regstate_next_int (s->rs);
1019
1020                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, rank_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1021                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, rank_reg, klass->rank, false_label);
1022                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1023                         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, cast_class));
1024                         if (klass->cast_class == mono_defaults.object_class) {
1025                                 int parent_reg = mono_regstate_next_int (s->rs);
1026                                 int const_reg = -1;
1027                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, parent_reg, eclass_reg, G_STRUCT_OFFSET (MonoClass, parent));
1028                                 if (s->compile_aot) {
1029                                         const_reg = mono_regstate_next_int (s->rs);
1030                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1031                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, parent_reg, const_reg);
1032                                 } else {
1033                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, parent_reg, mono_defaults.enum_class->parent);
1034                                 }
1035                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, object_is_null);
1036                                 if (s->compile_aot) {
1037                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1038                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1039                                 } else {
1040                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1041                                 }
1042                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1043                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false_label);
1044                         } else if (klass->cast_class == mono_defaults.enum_class->parent) {
1045                                 int const_reg = -1;
1046
1047                                 if (s->compile_aot) {
1048                                         const_reg = mono_regstate_next_int (s->rs);
1049                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1050                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1051                                 } else {
1052                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class->parent);
1053                                 }
1054                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1055                                 if (s->compile_aot) {
1056                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1057                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1058                                 } else {
1059                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1060                                 }
1061                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1062                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false_label);
1063                         } else if (klass->cast_class == mono_defaults.enum_class) {
1064                                 if (s->compile_aot) {
1065                                         int const_reg = mono_regstate_next_int (s->rs);
1066                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1067                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1068                                 } else {
1069                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1070                                 }
1071                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1072                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false_label);
1073                         } else if (klass->cast_class->flags & TYPE_ATTRIBUTE_INTERFACE) {
1074                                 mini_emit_isninst_iface_class_cast (s, eclass_reg, klass->cast_class, false_label, object_is_null);
1075                         } else {
1076                                 if ((klass->rank == 1) && (klass->byval_arg.type == MONO_TYPE_SZARRAY)) {
1077                                         /* Check that the object is a vector too */
1078                                         int bounds_reg = mono_regstate_next_int (s->rs);
1079                                         MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg, obj_reg, G_STRUCT_OFFSET (MonoArray, bounds));
1080                                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, bounds_reg, 0, false_label);
1081                                 }
1082
1083                                 /* the object_is_null target simply copies the input register to the output */
1084                                 mini_emit_isninst_cast (s, eclass_reg, klass->cast_class, false_label, object_is_null);
1085                         }
1086                 } else if (mono_class_is_nullable (klass)) {
1087                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1088                         /* the object_is_null target simply copies the input register to the output */
1089                         mini_emit_isninst_cast (s, klass_reg, klass->cast_class, false_label, object_is_null);
1090                 } else {
1091                         if (!s->compile_aot && !(s->opt & MONO_OPT_SHARED) && (klass->flags & TYPE_ATTRIBUTE_SEALED)) {
1092                                 /* the remoting code is broken, access the class for now */
1093                                 if (0) {
1094                                         MonoVTable *vt = mono_class_vtable (s->domain, klass);
1095                                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, vtable_reg, vt, false_label);
1096                                 } else {
1097                                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1098                                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, klass_reg, klass, false_label);
1099                                 }
1100                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, object_is_null);
1101                         } else {
1102                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1103                                 /* the object_is_null target simply copies the input register to the output */
1104                                 mini_emit_isninst_cast (s, klass_reg, klass, false_label, object_is_null);
1105                         }
1106                 }
1107         }
1108
1109         mono_bblock_add_inst (s->cbb, false_label);
1110         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1111         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1112         mono_bblock_add_inst (s->cbb, object_is_null);
1113         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1114         mono_bblock_add_inst (s->cbb, end_label);
1115 }
1116
1117 reg: OP_CISINST (reg) {
1118         /* This opcode takes as input an object reference and a class, and returns:
1119         0) if the object is an instance of the class,
1120         1) if the object is not instance of the class,
1121         2) if the object is a proxy whose type cannot be determined */
1122
1123         MonoClass *klass = tree->inst_newa_class;
1124         MonoInst *end_label, *true_label, *false_label, *false2_label;
1125         MonoInst *no_proxy_label, *interface_fail_label;
1126         int obj_reg = state->left->reg1;
1127         int tmp_reg = mono_regstate_next_int (s->rs);
1128         int klass_reg = mono_regstate_next_int (s->rs);
1129
1130         MONO_NEW_LABEL (s, end_label);
1131         MONO_NEW_LABEL (s, true_label);
1132         MONO_NEW_LABEL (s, false_label);
1133         MONO_NEW_LABEL (s, false2_label);
1134
1135         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, obj_reg, 0, false_label);
1136
1137         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1138                 MONO_NEW_LABEL (s, interface_fail_label);
1139                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1140                 mini_emit_isninst_iface_cast (s, tmp_reg, klass, interface_fail_label, true_label);
1141
1142                 mono_bblock_add_inst (s->cbb, interface_fail_label);
1143                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1144
1145                 if (s->compile_aot) {
1146                         int tproxy_reg = mono_regstate_next_int (s->rs);
1147                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1148                         MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BNE_UN, klass_reg, tproxy_reg, false_label);
1149                 } else {
1150                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, klass_reg,
1151                                 mono_defaults.transparent_proxy_class, false_label);
1152                 }
1153
1154                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1155                 MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, tmp_reg, 0, false2_label);
1156
1157         } else {
1158                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1159                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1160
1161                 MONO_NEW_LABEL (s, no_proxy_label);
1162
1163                 if (s->compile_aot) {
1164                         int tproxy_reg = mono_regstate_next_int (s->rs);
1165                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1166                         MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BNE_UN, klass_reg, tproxy_reg, no_proxy_label);
1167                 } else {
1168                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, klass_reg,
1169                                 mono_defaults.transparent_proxy_class, no_proxy_label);
1170                 }
1171                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1172                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1173
1174                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1175                 MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, tmp_reg, 0, no_proxy_label);
1176
1177                 mini_emit_isninst_cast (s, klass_reg, klass, false2_label, true_label);
1178                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false2_label);
1179
1180                 mono_bblock_add_inst (s->cbb, no_proxy_label);
1181                 mini_emit_isninst_cast (s, klass_reg, klass, false_label, true_label);
1182         }
1183
1184         mono_bblock_add_inst (s->cbb, false_label);
1185         MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1186         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1187         mono_bblock_add_inst (s->cbb, false2_label);
1188         MONO_EMIT_NEW_ICONST (s, state->reg1, 2);
1189         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1190         mono_bblock_add_inst (s->cbb, true_label);
1191         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1192         mono_bblock_add_inst (s->cbb, end_label);
1193 }
1194
1195 reg: OP_UNBOXCAST (reg) {
1196         MonoClass *klass = tree->inst_newa_class;
1197         int obj_reg = state->left->reg1;
1198         int vtable_reg = mono_regstate_next_int (s->rs);
1199         int klass_reg = mono_regstate_next_int (s->rs);
1200         int eclass_reg = mono_regstate_next_int (s->rs);
1201         int rank_reg = mono_regstate_next_int (s->rs);
1202
1203         MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1204         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, rank_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1205
1206         /* FIXME: generics */
1207         g_assert (klass->rank == 0);
1208
1209         // Check rank == 0
1210         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, rank_reg, 0);
1211         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1212
1213         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1214         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, element_class));
1215
1216         if (s->compile_aot) {
1217                 int const_reg = mono_regstate_next_int (s->rs);
1218                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass->element_class);
1219                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1220         } else {
1221                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, klass->element_class);
1222         }
1223
1224         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1225         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1226 }
1227
1228 reg: CEE_CASTCLASS (reg) {
1229         MonoClass *klass = tree->inst_newa_class;
1230         MonoInst *object_is_null;
1231         int obj_reg = state->left->reg1;
1232         int vtable_reg = mono_regstate_next_int (s->rs);
1233
1234         MONO_NEW_LABEL (s, object_is_null);
1235
1236         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, obj_reg, 0, object_is_null);
1237
1238         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1239                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1240                 mini_emit_castclass_iface (s, vtable_reg, klass);
1241         } else {
1242                 int klass_reg = mono_regstate_next_int (s->rs);
1243
1244                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1245
1246                 if (klass->rank) {
1247                         int rank_reg = mono_regstate_next_int (s->rs);
1248                         int eclass_reg = mono_regstate_next_int (s->rs);
1249
1250                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, rank_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1251                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, rank_reg, klass->rank);
1252                         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1253                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1254                         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, cast_class));
1255                         if (klass->cast_class == mono_defaults.object_class) {
1256                                 int parent_reg = mono_regstate_next_int (s->rs);
1257                                 int const_reg = -1;
1258                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, parent_reg, eclass_reg, G_STRUCT_OFFSET (MonoClass, parent));
1259                                 if (s->compile_aot) {
1260                                         const_reg = mono_regstate_next_int (s->rs);
1261                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1262                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, parent_reg, const_reg);
1263                                 } else {
1264                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, parent_reg, mono_defaults.enum_class->parent);
1265                                 }
1266                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, object_is_null);
1267                                 if (s->compile_aot) {
1268                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1269                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1270                                 } else {
1271                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1272                                 }
1273                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1274                         } else if (klass->cast_class == mono_defaults.enum_class->parent) {
1275                                 int const_reg = mono_regstate_next_int (s->rs);
1276                                 if (s->compile_aot) {
1277                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1278                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1279                                 } else {
1280                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class->parent);
1281                                 }
1282                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1283                                 if (s->compile_aot) {
1284                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1285                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1286                                 } else {
1287                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1288                                 }
1289                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1290                         } else if (klass->cast_class == mono_defaults.enum_class) {
1291                                 if (s->compile_aot) {
1292                                         int const_reg = mono_regstate_next_int (s->rs);
1293                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1294                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1295                                 } else {
1296                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1297                                 }
1298                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1299                         } else if (klass->cast_class->flags & TYPE_ATTRIBUTE_INTERFACE) {
1300                                 mini_emit_castclass_iface_class (s, eclass_reg, klass->cast_class);
1301                         } else {
1302                                 mini_emit_castclass (s, eclass_reg, klass->cast_class);
1303                         }
1304
1305                         if ((klass->rank == 1) && (klass->byval_arg.type == MONO_TYPE_SZARRAY)) {
1306                                 /* Check that the object is a vector too */
1307                                 int bounds_reg = mono_regstate_next_int (s->rs);
1308                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg, obj_reg, G_STRUCT_OFFSET (MonoArray, bounds));
1309                                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, bounds_reg, 0);
1310                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1311                         }
1312                 } else {
1313                         if (!s->compile_aot && !(s->opt & MONO_OPT_SHARED) && (klass->flags & TYPE_ATTRIBUTE_SEALED)) {
1314                                 /* the remoting code is broken, access the class for now */
1315                                 if (0) {
1316                                         MonoVTable *vt = mono_class_vtable (s->domain, klass);
1317                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, vtable_reg, vt);
1318                                 } else {
1319                                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1320                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, klass);
1321                                 }
1322                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1323                         } else {
1324                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1325                                 mini_emit_castclass (s, klass_reg, klass);
1326                         }
1327                 }
1328         }
1329
1330         mono_bblock_add_inst (s->cbb, object_is_null);
1331         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1332 }
1333
1334 reg: OP_CCASTCLASS (reg) {
1335         /* This opcode takes as input an object reference and a class, and returns:
1336         0) if the object is an instance of the class,
1337         1) if the object is a proxy whose type cannot be determined
1338         an InvalidCastException exception is thrown otherwhise*/
1339
1340         MonoClass *klass = tree->inst_newa_class;
1341         MonoInst *end_label, *fail_label, *no_proxy_label, *ok_result_label;
1342         int obj_reg = state->left->reg1;
1343         int tmp_reg = mono_regstate_next_int (s->rs);
1344         int klass_reg = mono_regstate_next_int (s->rs);
1345
1346         MONO_NEW_LABEL (s, end_label);
1347         MONO_NEW_LABEL (s, ok_result_label);
1348
1349         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, obj_reg, 0, ok_result_label);
1350
1351         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1352
1353                 MONO_NEW_LABEL (s, fail_label);
1354
1355                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1356                 mini_emit_isninst_iface_cast (s, tmp_reg, klass, fail_label, ok_result_label);
1357
1358                 mono_bblock_add_inst (s->cbb, fail_label);
1359                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1360
1361                 if (s->compile_aot) {
1362                         int tproxy_reg = mono_regstate_next_int (s->rs);
1363                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1364                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1365                 } else {
1366                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1367                 }
1368
1369                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1370
1371                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1372                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1373
1374                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1375                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1376                 MONO_EMIT_NEW_COND_EXC (s, EQ, "InvalidCastException");
1377
1378                 MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1379                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1380
1381         } else {
1382
1383                 MONO_NEW_LABEL (s, no_proxy_label);
1384                 MONO_NEW_LABEL (s, fail_label);
1385
1386                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1387                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1388
1389                 if (s->compile_aot) {
1390                         int tproxy_reg = mono_regstate_next_int (s->rs);
1391                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1392                         MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BNE_UN, klass_reg, tproxy_reg, no_proxy_label);
1393                 } else {
1394                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, klass_reg,
1395                                 mono_defaults.transparent_proxy_class, no_proxy_label);
1396                 }
1397
1398                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1399                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1400
1401                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1402                 MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, tmp_reg, 0, no_proxy_label);
1403
1404                 mini_emit_isninst_cast (s, klass_reg, klass, fail_label, ok_result_label);
1405                 mono_bblock_add_inst (s->cbb, fail_label);
1406                 MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1407                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1408
1409                 mono_bblock_add_inst (s->cbb, no_proxy_label);
1410                 mini_emit_castclass (s, klass_reg, klass);
1411         }
1412
1413         mono_bblock_add_inst (s->cbb, ok_result_label);
1414         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1415         mono_bblock_add_inst (s->cbb, end_label);
1416 }
1417
1418 stmt: CEE_STELEM_REF (OP_GROUP (reg, reg), reg),
1419 reg: OP_GROUP (reg, reg),
1420 reg: CEE_NEWARR (reg),
1421 lreg: OP_LMUL (lreg, lreg),
1422 lreg: OP_LMUL_OVF (lreg, lreg),
1423 lreg: OP_LMUL_OVF_UN (lreg, lreg),
1424 lreg: OP_LDIV (lreg, lreg),
1425 lreg: OP_LDIV_UN (lreg, lreg),
1426 lreg: OP_LREM (lreg, lreg),
1427 lreg: OP_LREM_UN (lreg, lreg),
1428 lreg: OP_LSHL (lreg, reg),
1429 lreg: OP_LSHR (lreg, reg),
1430 lreg: OP_LSHR_UN (lreg, reg) {
1431         g_assert_not_reached ();
1432 }
1433
1434 #
1435 # string support
1436 #
1437 reg: OP_GETCHR (reg, reg) "4" {
1438         int mult_reg = mono_regstate_next_int (s->rs);
1439         int add_reg = mono_regstate_next_int (s->rs);
1440
1441         MONO_EMIT_BOUNDS_CHECK (s, state->left->reg1, MonoString, length, state->right->reg1);
1442         MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, mult_reg, state->right->reg1, 1);
1443         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult_reg, state->left->reg1);
1444         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADU2_MEMBASE, state->reg1,
1445                                    add_reg, G_STRUCT_OFFSET (MonoString, chars));
1446 }
1447
1448 reg: OP_GETCHR (reg, OP_ICONST) {
1449         int ind = 2 * state->right->tree->inst_c0 + G_STRUCT_OFFSET (MonoString, chars);
1450
1451         MONO_EMIT_BOUNDS_CHECK_IMM (s, state->left->reg1, MonoString, length, state->right->tree->inst_c0);
1452         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADU2_MEMBASE, state->reg1, state->left->reg1, ind);
1453 }
1454
1455 reg: OP_STR_CHAR_ADDR (reg, reg) "4" {
1456         int mult_reg = mono_regstate_next_int (s->rs);
1457         int add_reg = mono_regstate_next_int (s->rs);
1458
1459         /*
1460          * The corlib functions check for oob already.
1461          * MONO_EMIT_BOUNDS_CHECK (s, state->left->reg1, MonoString, length, state->right->reg1);
1462          */
1463         MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, mult_reg, state->right->reg1, 1);
1464         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult_reg, state->left->reg1);
1465         MONO_EMIT_BIALU_IMM (s, tree, OP_ADD_IMM, state->reg1, add_reg, G_STRUCT_OFFSET (MonoString, chars));
1466 }
1467
1468 reg: OP_STRLEN (reg) {
1469         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->reg1,
1470                                    state->left->reg1, G_STRUCT_OFFSET (MonoString, length));
1471 }
1472
1473 reg: OP_GETTYPE (reg) {
1474         int vt_reg = mono_regstate_next_int (s->rs);
1475         MONO_EMIT_NEW_LOAD_MEMBASE (s, vt_reg, state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1476         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOAD_MEMBASE, state->reg1, vt_reg, G_STRUCT_OFFSET (MonoVTable, type));
1477 }
1478
1479 reg: OP_GETHASHCODE (reg) {
1480         int t1 = mono_regstate_next_int (s->rs);
1481
1482         #define MONO_OBJECT_ALIGNMENT_SHIFT     3
1483
1484         /* return (GPOINTER_TO_UINT (this) >> MONO_OBJECT_ALIGNMENT_SHIFT) * 2654435761u; */
1485
1486         MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, t1, state->left->reg1, MONO_OBJECT_ALIGNMENT_SHIFT);
1487         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, state->reg1, t1, 2654435761u);
1488 }
1489
1490 #
1491 # array support
1492 #
1493 reg: CEE_LDLEN (reg) {
1494         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->reg1,
1495                                    state->left->reg1, G_STRUCT_OFFSET (MonoArray, max_length));
1496 }
1497
1498 reg: OP_ARRAY_RANK (reg) {
1499         int vtable_reg = mono_regstate_next_int (s->rs);
1500         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, vtable_reg,
1501                                        state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1502         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, state->reg1,
1503                                        vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1504 }
1505
1506 reg: OP_CHECK_ARRAY_TYPE (reg) {
1507
1508         MonoClass* array_class = mono_array_class_get (tree->klass, 1);
1509
1510         int vtable_reg = mono_regstate_next_int (s->rs);
1511
1512         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, vtable_reg,
1513                                        state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1514
1515         if (s->opt & MONO_OPT_SHARED) {
1516                 int class_reg = mono_regstate_next_int (s->rs);
1517                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, class_reg,
1518                                                vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1519                 if (s->compile_aot) {
1520                         int klass_reg = mono_regstate_next_int (s->rs);
1521                         MONO_EMIT_NEW_CLASSCONST (s, klass_reg, array_class);
1522                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, class_reg, klass_reg);
1523                 } else {
1524                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, class_reg, array_class);
1525                 }
1526         } else {
1527                 if (s->compile_aot) {
1528                         int vt_reg = mono_regstate_next_int (s->rs);
1529                         MONO_EMIT_NEW_VTABLECONST (s, vt_reg, mono_class_vtable (s->domain, array_class));
1530                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, vtable_reg, vt_reg);
1531                 } else {
1532                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, vtable_reg, mono_class_vtable (s->domain, array_class));
1533                 }
1534         }
1535
1536         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "ArrayTypeMismatchException");
1537         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
1538 }
1539
1540 reg: CEE_LDELEMA (reg, OP_ICONST) "15" {
1541         guint32 size = mono_class_array_element_size (tree->klass);
1542
1543         int ind = size * state->right->tree->inst_c0 + G_STRUCT_OFFSET (MonoArray, vector);
1544
1545         MONO_EMIT_BOUNDS_CHECK_IMM (s, state->left->reg1, MonoArray, max_length, state->right->tree->inst_c0);
1546         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, state->left->reg1, ind);
1547 }
1548
1549 reg: CEE_LDELEMA (reg, reg) "20" {
1550         int mult_reg = mono_regstate_next_int (s->rs);
1551         int add_reg = mono_regstate_next_int (s->rs);
1552         guint32 size = mono_class_array_element_size (tree->klass);
1553
1554         MONO_EMIT_BOUNDS_CHECK (s, state->left->reg1, MonoArray, max_length, state->right->reg1);
1555         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, mult_reg, state->right->reg1, size);
1556         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult_reg, state->left->reg1);
1557         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, add_reg, G_STRUCT_OFFSET (MonoArray, vector));
1558 }
1559
1560 reg: CEE_REFANYVAL (reg) {
1561         int klass_reg = mono_regstate_next_int (s->rs);
1562         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass));
1563         if (s->compile_aot) {
1564                 int const_reg = mono_regstate_next_int (s->rs);
1565                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, tree->inst_newa_class);
1566                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, const_reg);
1567         } else {
1568                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, tree->inst_newa_class);
1569         }
1570         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1571         MONO_EMIT_NEW_LOAD_MEMBASE (s, state->reg1, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, value));
1572 }
1573
1574 reg: OP_REFANYTYPE (reg) {
1575         MONO_EMIT_NEW_LOAD_MEMBASE (s, state->reg1, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, type));
1576 }
1577
1578 stmt: CEE_MKREFANY (OP_GROUP (reg, OP_ICONST), reg),
1579 stmt: CEE_MKREFANY (OP_GROUP (reg, OP_I8CONST), reg) {
1580         MonoClass *klass = (MonoClass*)(tree->inst_left->inst_right->inst_p0);
1581         if (s->compile_aot) {
1582                 int const_reg = mono_regstate_next_int (s->rs);
1583                 int type_reg = mono_regstate_next_int (s->rs);
1584                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1585                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass), const_reg);
1586                 MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, type_reg, const_reg, G_STRUCT_OFFSET (MonoClass, byval_arg));
1587                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, type), type_reg);
1588         }
1589         else {
1590                 MONO_EMIT_NEW_STORE_MEMBASE_IMM (s, OP_STOREP_MEMBASE_IMM, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, type), &klass->byval_arg);
1591                 MONO_EMIT_NEW_STORE_MEMBASE_IMM (s, OP_STOREP_MEMBASE_IMM, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass), klass);
1592         }
1593         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, value), state->left->left->reg1);
1594 }
1595
1596 %%
1597
1598 static void mini_emit_aotconst (MonoCompile *cfg, int dreg, MonoJumpInfoType patch_type, gpointer cons);
1599
1600 /*
1601  * Emit code which checks whenever the interface id of @klass is smaller than
1602  * than the value given by max_iid_reg.
1603 */
1604 static void
1605 mini_emit_max_iid_check (MonoCompile *s, int max_iid_reg, MonoClass *klass,
1606                                                  MonoInst *false_target)
1607 {
1608         if (s->compile_aot) {
1609                 int iid_reg = mono_regstate_next_int (s->rs);
1610                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_IID);
1611                 if (false_target)
1612                         MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BLT_UN, max_iid_reg, iid_reg, false_target);
1613                 else
1614                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, max_iid_reg, iid_reg);
1615         } else {
1616                 if (false_target)
1617                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BLT_UN, max_iid_reg, klass->interface_id, false_target);
1618                 else
1619                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, max_iid_reg, klass->interface_id);
1620         }
1621         if (!false_target)
1622                 MONO_EMIT_NEW_COND_EXC (s, LT_UN, "InvalidCastException");
1623 }
1624
1625 /* Same as above, but obtains max_iid from a vtable */
1626 static void
1627 mini_emit_max_iid_check_vtable (MonoCompile *s, int vtable_reg, MonoClass *klass,
1628                                                                  MonoInst *false_target)
1629 {
1630         int max_iid_reg = mono_regstate_next_int (s->rs);
1631
1632         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, max_iid_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, max_interface_id));
1633         mini_emit_max_iid_check (s, max_iid_reg, klass, false_target);
1634 }
1635
1636 /* Same as above, but obtains max_iid from a klass */
1637 static void
1638 mini_emit_max_iid_check_class (MonoCompile *s, int klass_reg, MonoClass *klass,
1639                                                                  MonoInst *false_target)
1640 {
1641         int max_iid_reg = mono_regstate_next_int (s->rs);
1642
1643         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, max_iid_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, max_interface_id));
1644         mini_emit_max_iid_check (s, max_iid_reg, klass, false_target);
1645 }
1646
1647 /* Emit code which loads interface_offsets [klass->interface_id]
1648  * The array is stored in memory before vtable.
1649  */
1650 static void
1651 mini_emit_load_intf_reg_vtable (MonoCompile *s, int intf_reg, int vtable_reg, MonoClass *klass)
1652 {
1653         if (s->compile_aot) {
1654                 int ioffset_reg = mono_regstate_next_int (s->rs);
1655                 int iid_reg = mono_regstate_next_int (s->rs);
1656                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_ADJUSTED_IID);
1657                 MONO_EMIT_NEW_BIALU (s, OP_PADD, ioffset_reg, iid_reg, vtable_reg);
1658                 MONO_EMIT_NEW_LOAD_MEMBASE (s, intf_reg, ioffset_reg, 0);
1659         } else {
1660                 MONO_EMIT_NEW_LOAD_MEMBASE (s, intf_reg, vtable_reg, -((klass->interface_id + 1) * SIZEOF_VOID_P));
1661         }
1662 }
1663
1664 /* Emit code which loads <klass_reg>->interface_offsets [klass->interface_id] */
1665 static void
1666 mini_emit_load_intf_reg_class (MonoCompile *s, int intf_reg, int klass_reg, MonoClass *klass)
1667 {
1668         int ioffset_reg = mono_regstate_next_int (s->rs);
1669
1670         MONO_EMIT_NEW_LOAD_MEMBASE (s, ioffset_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, interface_offsets));
1671
1672         if (s->compile_aot) {
1673                 int iid_reg = mono_regstate_next_int (s->rs);
1674                 int shifted_iid_reg = mono_regstate_next_int (s->rs);
1675                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_IID);
1676                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, shifted_iid_reg, iid_reg, 2);
1677                 MONO_EMIT_NEW_BIALU (s, CEE_ADD, ioffset_reg, ioffset_reg, shifted_iid_reg);
1678                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, intf_reg, ioffset_reg, 0);
1679         } else {
1680                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, intf_reg, ioffset_reg, klass->interface_id * sizeof (int));
1681         }
1682 }
1683
1684 static void
1685 mini_emit_virtual_call (MonoCompile *cfg, void *st, MonoInst *tree, int novirtop, int virtop)
1686 {
1687         MonoMethod *method = ((MonoCallInst*)tree)->method;
1688         int vtable_reg, slot_reg, this_reg;
1689         MBState *state = st;
1690
1691         this_reg = state->left->reg1;
1692         mono_arch_emit_this_vret_args (cfg, (MonoCallInst*)tree, this_reg, state->left->tree->type, novirtop == OP_VCALL? state->right->reg1: -1);
1693
1694         if (!(method->flags & METHOD_ATTRIBUTE_VIRTUAL) ||
1695              ((method->flags & METHOD_ATTRIBUTE_FINAL) &&
1696              method->wrapper_type != MONO_WRAPPER_REMOTING_INVOKE_WITH_CHECK)) {
1697                 /*
1698                  * the method is not virtual, we just need to ensure this is not null
1699                  * and then we can call the method directly.
1700                  */
1701                 if (method->klass->marshalbyref || method->klass == mono_defaults.object_class) {
1702                         method = ((MonoCallInst*)tree)->method = mono_marshal_get_remoting_invoke_with_check (method);
1703                 }
1704
1705                 if (!method->string_ctor)
1706                         MONO_EMIT_NEW_UNALU (cfg, OP_CHECK_THIS, -1, this_reg);
1707
1708                 tree->dreg = state->reg1;
1709                 tree->opcode = novirtop;
1710                 mono_bblock_add_inst (cfg->cbb, tree);
1711                 return;
1712         }
1713
1714         /* Initialize method->slot */
1715         mono_class_setup_vtable (method->klass);
1716
1717         vtable_reg = mono_regstate_next_int (cfg->rs);
1718         MONO_EMIT_NEW_LOAD_MEMBASE (cfg, vtable_reg, this_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1719         if (method->klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1720                 slot_reg = mono_regstate_next_int (cfg->rs);
1721                 mini_emit_load_intf_reg_vtable (cfg, slot_reg, vtable_reg, method->klass);
1722                 tree->inst_offset = method->slot * SIZEOF_VOID_P;
1723         } else {
1724                 slot_reg = vtable_reg;
1725                 tree->inst_offset = G_STRUCT_OFFSET (MonoVTable, vtable) + (method->slot * SIZEOF_VOID_P);
1726         }
1727
1728         tree->dreg = state->reg1;
1729         tree->opcode = virtop;
1730         tree->sreg1 = slot_reg;
1731         ((MonoCallInst*)tree)->virtual = TRUE;
1732         mono_bblock_add_inst (cfg->cbb, tree);
1733 }
1734
1735 static void
1736 mini_emit_isninst_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1737 {
1738         int idepth_reg = mono_regstate_next_int (s->rs);
1739         int stypes_reg = mono_regstate_next_int (s->rs);
1740         int stype = mono_regstate_next_int (s->rs);
1741
1742         if (klass->idepth > MONO_DEFAULT_SUPERTABLE_SIZE) {
1743                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, idepth_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, idepth));
1744                 MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BLT_UN, idepth_reg, klass->idepth, false_target);
1745         }
1746         MONO_EMIT_NEW_LOAD_MEMBASE (s, stypes_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, supertypes));
1747         MONO_EMIT_NEW_LOAD_MEMBASE (s, stype, stypes_reg, ((klass->idepth - 1) * SIZEOF_VOID_P));
1748         if (s->compile_aot) {
1749                 int const_reg = mono_regstate_next_int (s->rs);
1750                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1751                 MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BEQ, stype, const_reg, true_target);
1752         } else {
1753                 MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, stype, klass, true_target);
1754         }
1755 }
1756
1757 static void
1758 mini_emit_isninst_iface_cast (MonoCompile *s, int vtable_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1759 {
1760         int intf_reg = mono_regstate_next_int (s->rs);
1761
1762         mini_emit_max_iid_check_vtable (s, vtable_reg, klass, false_target);
1763         mini_emit_load_intf_reg_vtable (s, intf_reg, vtable_reg, klass);
1764         /* the object_is_null target simply copies the input register to the output */
1765         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, intf_reg, 0, true_target);
1766 }
1767
1768 /*
1769  * Variant of the above that takes a register to the class, not the vtable.
1770  * Note that inside interfaces_offsets the empty value is -1, not NULL, in this case.
1771  */
1772 static void
1773 mini_emit_isninst_iface_class_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1774 {
1775         int intf_reg = mono_regstate_next_int (s->rs);
1776
1777         mini_emit_max_iid_check_class (s, klass_reg, klass, false_target);
1778         mini_emit_load_intf_reg_class (s, intf_reg, klass_reg, klass);
1779         /* the object_is_null target simply copies the input register to the output */
1780         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, intf_reg, -1, true_target);
1781 }
1782
1783 static void
1784 mini_emit_castclass (MonoCompile *s, int klass_reg, MonoClass *klass)
1785 {
1786         int idepth_reg = mono_regstate_next_int (s->rs);
1787         int stypes_reg = mono_regstate_next_int (s->rs);
1788         int stype = mono_regstate_next_int (s->rs);
1789
1790         if (klass->idepth > MONO_DEFAULT_SUPERTABLE_SIZE) {
1791                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, idepth_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, idepth));
1792                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, idepth_reg, klass->idepth);
1793                 MONO_EMIT_NEW_COND_EXC (s, LT_UN, "InvalidCastException");
1794         }
1795         MONO_EMIT_NEW_LOAD_MEMBASE (s, stypes_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, supertypes));
1796         MONO_EMIT_NEW_LOAD_MEMBASE (s, stype, stypes_reg, ((klass->idepth - 1) * SIZEOF_VOID_P));
1797         if (s->compile_aot) {
1798                 int const_reg = mono_regstate_next_int (s->rs);
1799                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1800                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, stype, const_reg);
1801         } else {
1802                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, stype, klass);
1803         }
1804         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1805 }
1806
1807 static void
1808 mini_emit_castclass_iface (MonoCompile *s, int vtable_reg, MonoClass *klass)
1809 {
1810         int intf_reg = mono_regstate_next_int (s->rs);
1811
1812         mini_emit_max_iid_check_vtable (s, vtable_reg, klass, NULL);
1813         mini_emit_load_intf_reg_vtable (s, intf_reg, vtable_reg, klass);
1814         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, 0);
1815         MONO_EMIT_NEW_COND_EXC (s, EQ, "InvalidCastException");
1816 }
1817
1818 /*
1819  * Variant of the aboce that takes a register to the class, not the vtable.
1820  * Note that inside interfaces_offsets the empty value is -1, not NULL, in this case.
1821  */
1822 static void
1823 mini_emit_castclass_iface_class (MonoCompile *s, int klass_reg, MonoClass *klass)
1824 {
1825         int intf_reg = mono_regstate_next_int (s->rs);
1826
1827         mini_emit_max_iid_check_class (s, klass_reg, klass, NULL);
1828         mini_emit_load_intf_reg_class (s, intf_reg, klass_reg, klass);
1829         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, -1);
1830         MONO_EMIT_NEW_COND_EXC (s, EQ, "InvalidCastException");
1831 }
1832
1833 static void
1834 mini_emit_memcpy (MonoCompile *s, int destreg, int doffset, int srcreg, int soffset, int size, int align)
1835 {
1836         int cur_reg;
1837
1838         /* FIXME: consider alignment for archs that need it. */
1839 #if !NO_UNALIGNED_ACCESS
1840         if (sizeof (gpointer) == 8) {
1841                 while (size >= 8) {
1842                         cur_reg = mono_regstate_next_int (s->rs);
1843                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI8_MEMBASE, cur_reg, srcreg, soffset);
1844                         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI8_MEMBASE_REG, destreg, doffset, cur_reg);
1845                         doffset += 8;
1846                         soffset += 8;
1847                         size -= 8;
1848                 }
1849         }
1850 #endif
1851
1852         while (size >= 4) {
1853                 cur_reg = mono_regstate_next_int (s->rs);
1854                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, cur_reg, srcreg, soffset);
1855                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI4_MEMBASE_REG, destreg, doffset, cur_reg);
1856                 doffset += 4;
1857                 soffset += 4;
1858                 size -= 4;
1859         }
1860         while (size >= 2) {
1861                 cur_reg = mono_regstate_next_int (s->rs);
1862                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI2_MEMBASE, cur_reg, srcreg, soffset);
1863                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI2_MEMBASE_REG, destreg, doffset, cur_reg);
1864                 doffset += 2;
1865                 soffset += 2;
1866                 size -= 2;
1867         }
1868         while (size >= 1) {
1869                 cur_reg = mono_regstate_next_int (s->rs);
1870                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI1_MEMBASE, cur_reg, srcreg, soffset);
1871                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI1_MEMBASE_REG, destreg, doffset, cur_reg);
1872                 doffset += 1;
1873                 soffset += 1;
1874                 size -= 1;
1875         }
1876 }
1877
1878 static void
1879 mini_emit_memset (MonoCompile *s, int destreg, int offset, int size, int val, int align)
1880 {
1881         int val_reg = mono_regstate_next_int (s->rs);
1882
1883         if (sizeof (gpointer) == 8)
1884                 MONO_EMIT_NEW_I8CONST (s, val_reg, val);
1885         else
1886                 MONO_EMIT_NEW_ICONST (s, val_reg, val);
1887
1888         /* FIXME: consider alignment for archs that need it. */
1889 #if !NO_UNALIGNED_ACCESS
1890         if (sizeof (gpointer) == 8) {
1891                 if (offset % 8) {
1892                         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI4_MEMBASE_REG, destreg, offset, val_reg);
1893                         offset += 4;
1894                         size -= 4;
1895                 }
1896                 while (size >= 8) {
1897                         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI8_MEMBASE_REG, destreg, offset, val_reg);
1898                         offset += 8;
1899                         size -= 8;
1900                 }
1901         }
1902 #endif
1903
1904         while (size >= 4) {
1905                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI4_MEMBASE_REG, destreg, offset, val_reg);
1906                 offset += 4;
1907                 size -= 4;
1908         }
1909         while (size >= 2) {
1910                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI2_MEMBASE_REG, destreg, offset, val_reg);
1911                 offset += 2;
1912                 size -= 2;
1913         }
1914         while (size >= 1) {
1915                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI1_MEMBASE_REG, destreg, offset, val_reg);
1916                 offset += 1;
1917                 size -= 1;
1918         }
1919 }
1920
1921 /* This is similar to NEW_AOTCONST in mini.c, but generates linear IL */
1922 static void
1923 mini_emit_aotconst (MonoCompile *cfg, int dreg, MonoJumpInfoType patch_type, gpointer cons)
1924 {
1925         MonoInst *dest, *pinfo;
1926         int got_var_reg;
1927
1928         dest = mono_mempool_alloc0 (cfg->mempool, sizeof (MonoInst));
1929         dest->opcode = OP_GOT_ENTRY;
1930
1931         g_assert (cfg->got_var);
1932
1933         pinfo = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));
1934         pinfo->opcode = OP_PATCH_INFO;
1935         pinfo->inst_left = cons;
1936         pinfo->inst_right = (gpointer)(patch_type);
1937
1938         if (cfg->got_var->opcode == OP_REGOFFSET) {
1939                 got_var_reg = mono_regstate_next_int (cfg->rs);
1940                 MONO_EMIT_NEW_LOAD_MEMBASE (cfg, got_var_reg, cfg->got_var->inst_basereg, cfg->got_var->inst_offset);
1941         } else {
1942                 g_assert (cfg->got_var->opcode == OP_REGVAR);
1943                 got_var_reg = cfg->got_var->dreg;
1944         }
1945
1946         dest = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));
1947         dest->opcode = OP_GOT_ENTRY;
1948         dest->inst_left = cfg->got_var; /* not used */
1949         dest->inst_right = pinfo;
1950
1951         dest->inst_basereg = got_var_reg;
1952         dest->dreg = dreg;
1953         mono_bblock_add_inst (cfg->cbb, dest);
1954 }
1955
1956 static int
1957 ldind_to_load_membase (int opcode)
1958 {
1959         switch (opcode) {
1960         case CEE_LDIND_I1:
1961                 return OP_LOADI1_MEMBASE;
1962         case CEE_LDIND_U1:
1963                 return OP_LOADU1_MEMBASE;
1964         case CEE_LDIND_I2:
1965                 return OP_LOADI2_MEMBASE;
1966         case CEE_LDIND_U2:
1967                 return OP_LOADU2_MEMBASE;
1968         case CEE_LDIND_I4:
1969                 return OP_LOADI4_MEMBASE;
1970         case CEE_LDIND_U4:
1971                 return OP_LOADU4_MEMBASE;
1972         case CEE_LDIND_I:
1973                 return OP_LOAD_MEMBASE;
1974         case CEE_LDIND_REF:
1975                 return OP_LOAD_MEMBASE;
1976         case CEE_LDIND_I8:
1977                 return OP_LOADI8_MEMBASE;
1978         default:
1979                 g_assert_not_reached ();
1980         }
1981
1982         return -1;
1983 }
1984