mono/mini/inssel.brg

   1 /*
   2  * inssel.brg: instruction selection
   3  *
   4  * Author:
   5  *   Dietmar Maurer (dietmar@ximian.com)
   6  *   Paolo Molaro (lupus@ximian.com)
   7  *
   8  * (C) 2002 Ximian, Inc.
   9  *
  10  */
  11 #include <config.h>
  12 #include <string.h>
  13
  14 #include "mini.h"
  15 #include <mono/metadata/marshal.h>
  16 #include <mono/metadata/debug-helpers.h>
  17
  18 #define MBTREE_TYPE  MonoInst
  19 #define MBCGEN_TYPE  MonoCompile
  20 #define MBCOST_DATA  MonoCompile
  21 #define MBALLOC_STATE mono_mempool_alloc (data->state_pool, sizeof (MBState))
  22 #define MBMAX_OPCODES OP_LAST
  23 #define MBGET_OP_NAME(op) mono_inst_name (op)
  24
  25 #define MBTREE_OP(t) ((t)->opcode)
  26 #define MBTREE_LEFT(t) ((t)->inst_left)
  27 #define MBTREE_RIGHT(t) ((t)->inst_right)
  28
  29 #define MONO_EMIT_UNALU(cfg,inst,op,dr,sr1) do { \
  30                 (inst)->opcode = op; \
  31                 (inst)->dreg = dr; \
  32                 (inst)->sreg1 = sr1; \
  33                 mono_bblock_add_inst (cfg->cbb, inst); \
  34         } while (0)
  35
  36 #define MONO_EMIT_NEW_UNALU(cfg,op,dr,sr1) do { \
  37                 MonoInst *inst; \
  38                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  39                 inst->opcode = op; \
  40                 inst->dreg = dr; \
  41                 inst->sreg1 = sr1; \
  42                 mono_bblock_add_inst (cfg->cbb, inst); \
  43         } while (0)
  44
  45 #define MONO_EMIT_BIALU(cfg,inst,op,dr,sr1,sr2) do { \
  46                 (inst)->opcode = op; \
  47                 (inst)->dreg = dr; \
  48                 (inst)->sreg1 = sr1; \
  49                 (inst)->sreg2 = sr2; \
  50                 mono_bblock_add_inst (cfg->cbb, inst); \
  51         } while (0)
  52
  53 #define MONO_EMIT_NEW_BIALU(cfg,op,dr,sr1,sr2) do { \
  54                 MonoInst *inst; \
  55                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  56                 inst->opcode = op; \
  57                 inst->dreg = dr; \
  58                 inst->sreg1 = sr1; \
  59                 inst->sreg2 = sr2; \
  60                 mono_bblock_add_inst (cfg->cbb, inst); \
  61         } while (0)
  62
  63 #define MONO_EMIT_BIALU_IMM(cfg,inst,op,dr,sr,imm) do { \
  64                 (inst)->opcode = op; \
  65                 (inst)->dreg = dr; \
  66                 (inst)->sreg1 = sr; \
  67                 (inst)->inst_p1 = (gpointer)(gssize)(imm); \
  68                 mono_bblock_add_inst (cfg->cbb, inst); \
  69         } while (0)
  70
  71 #define MONO_EMIT_NEW_BIALU_IMM(cfg,op,dr,sr,imm) do { \
  72                 MonoInst *inst; \
  73                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  74                 inst->opcode = op; \
  75                 inst->dreg = dr; \
  76                 inst->sreg1 = sr; \
  77                 inst->inst_p1 = (gpointer)(gssize)(imm); \
  78                 mono_bblock_add_inst (cfg->cbb, inst); \
  79         } while (0)
  80
  81 #define MONO_EMIT_BIALU_MEMBASE(cfg,tree,op,dr,sr,basereg,offset) do { \
  82                                 tree->opcode = op; \
  83                                 tree->dreg = dr; \
  84                                 tree->sreg1 = sr; \
  85                                 tree->sreg2 = basereg; \
  86                                 tree->inst_offset = offset; \
  87                                 mono_bblock_add_inst (s->cbb, tree); \
  88         } while (0)
  89
  90 #define MONO_EMIT_LOAD_MEMBASE(cfg,inst,dr,base,offset) do { \
  91                 (inst)->opcode = OP_LOAD_MEMBASE; \
  92                 (inst)->dreg = dr; \
  93                 (inst)->inst_basereg = base; \
  94                 (inst)->inst_offset = offset; \
  95                 mono_bblock_add_inst (cfg->cbb, inst); \
  96         } while (0)
  97
  98 #define MONO_EMIT_LOAD_MEMBASE_OP(cfg,inst,op,dr,base,offset) do { \
  99                 (inst)->opcode = op; \
 100                 (inst)->dreg = dr; \
 101                 (inst)->inst_basereg = base; \
 102                 (inst)->inst_offset = offset; \
 103                 mono_bblock_add_inst (cfg->cbb, inst); \
 104         } while (0)
 105
 106 #define MONO_EMIT_NEW_LOAD_MEM(cfg,dr,addr) do { \
 107                 MonoInst *inst; \
 108                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 109                 inst->opcode = OP_LOADU4_MEM; \
 110                 inst->dreg = dr; \
 111                 inst->inst_p0 = addr; \
 112                 mono_bblock_add_inst (cfg->cbb, inst); \
 113         } while (0)
 114
 115 #define MONO_EMIT_NEW_LOAD_MEMBASE(cfg,dr,base,offset) do { \
 116                 MonoInst *inst; \
 117                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 118                 inst->opcode = OP_LOAD_MEMBASE; \
 119                 inst->dreg = dr; \
 120                 inst->inst_basereg = base; \
 121                 inst->inst_offset = offset; \
 122                 mono_bblock_add_inst (cfg->cbb, inst); \
 123         } while (0)
 124
 125 #define MONO_EMIT_NEW_LOAD_MEMBASE_OP(cfg,op,dr,base,offset) do { \
 126                 MonoInst *inst; \
 127                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 128                 inst->opcode = op; \
 129                 inst->dreg = dr; \
 130                 inst->inst_basereg = base; \
 131                 inst->inst_offset = offset; \
 132                 mono_bblock_add_inst (cfg->cbb, inst); \
 133         } while (0)
 134
 135 #define MONO_EMIT_STORE_MEMBASE(cfg,inst,op,base,offset,sr) do { \
 136                 (inst)->opcode = op; \
 137                 (inst)->sreg1 = sr; \
 138                 (inst)->inst_destbasereg = base; \
 139                 (inst)->inst_offset = offset; \
 140                 mono_bblock_add_inst (cfg->cbb, inst); \
 141         } while (0)
 142
 143 #define MONO_EMIT_NEW_STORE_MEMBASE(cfg,op,base,offset,sr) do { \
 144                 MonoInst *inst; \
 145                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 146                 inst->opcode = op; \
 147                 inst->sreg1 = sr; \
 148                 inst->inst_destbasereg = base; \
 149                 inst->inst_offset = offset; \
 150                 mono_bblock_add_inst (cfg->cbb, inst); \
 151         } while (0)
 152
 153 #define MONO_EMIT_STORE_MEMBASE_IMM(cfg,inst,op,base,offset,imm) do { \
 154                 (inst)->opcode = op; \
 155                 (inst)->inst_destbasereg = base; \
 156                 (inst)->inst_offset = offset; \
 157                 (inst)->inst_p1 = (gpointer)imm; \
 158                 mono_bblock_add_inst (cfg->cbb, inst); \
 159         } while (0)
 160
 161 #define MONO_EMIT_NEW_STORE_MEMBASE_IMM(cfg,op,base,offset,imm) do { \
 162                 MonoInst *inst; \
 163                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 164                 inst->opcode = op; \
 165                 inst->inst_destbasereg = base; \
 166                 inst->inst_offset = offset; \
 167                 inst->inst_p1 = (gpointer)imm; \
 168                 mono_bblock_add_inst (cfg->cbb, inst); \
 169         } while (0)
 170
 171 #define MONO_EMIT_NEW_COMPARE_IMM(cfg,sr1,imm) do { \
 172                 MonoInst *inst; \
 173                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 174                 inst->opcode = OP_COMPARE_IMM;  \
 175                 inst->sreg1 = sr1; \
 176                 inst->inst_p1 = (gpointer)imm; \
 177                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 178         } while (0)
 179
 180 #define MONO_EMIT_NEW_ICOMPARE_IMM(cfg,sr1,imm) do { \
 181                 MonoInst *inst; \
 182                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 183                 inst->opcode = sizeof (void*) == 8 ? OP_ICOMPARE_IMM : OP_COMPARE_IMM;  \
 184                 inst->sreg1 = sr1; \
 185                 inst->inst_p1 = (gpointer)imm; \
 186                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 187         } while (0)
 188
 189 #define MONO_EMIT_NEW_COND_EXC(cfg,cond,name) do { \
 190                 MonoInst *inst; \
 191                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 192                 inst->opcode = OP_COND_EXC_##cond;  \
 193                 inst->inst_p1 = (char*)name; \
 194                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 195         } while (0)
 196
 197 #define MONO_EMIT_NEW_ICONST(cfg,dr,imm) do { \
 198                 MonoInst *inst; \
 199                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 200                 inst->opcode = OP_ICONST;       \
 201                 inst->dreg = dr; \
 202                 inst->inst_c0 = imm; \
 203                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 204         } while (0)
 205
 206 #define MONO_EMIT_NEW_I8CONST(cfg,dr,imm) do { \
 207                 MonoInst *inst; \
 208                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 209                 inst->opcode = OP_I8CONST;      \
 210                 inst->dreg = dr; \
 211                 inst->inst_l = imm; \
 212                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 213         } while (0)
 214
 215 #define MONO_EMIT_NEW_PCONST(cfg,dr,imm) do { \
 216                 MonoInst *inst; \
 217                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 218                 inst->opcode = OP_ICONST;       \
 219                 inst->dreg = dr; \
 220                 inst->inst_p0 = (gpointer) imm; \
 221                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 222         } while (0)
 223
 224
 225 #ifdef MONO_ARCH_NEED_GOT_VAR
 226
 227 #define MONO_EMIT_NEW_AOTCONST(cfg,dr,cons,patch_type) do { \
 228                 mini_emit_aotconst ((cfg), (dr), (patch_type), (cons)); \
 229     } while (0)
 230
 231 #else
 232
 233 #define MONO_EMIT_NEW_AOTCONST(cfg,dr,imm,type) do { \
 234                 MonoInst *inst; \
 235                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 236                 inst->opcode = OP_AOTCONST;     \
 237                 inst->dreg = dr; \
 238                 inst->inst_p0 = imm; \
 239                 inst->inst_c1 = type; \
 240                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 241         } while (0)
 242
 243 #endif
 244
 245 #define MONO_EMIT_NEW_CLASSCONST(cfg,dr,imm) MONO_EMIT_NEW_AOTCONST(cfg,dr,imm,MONO_PATCH_INFO_CLASS)
 246 #define MONO_EMIT_NEW_VTABLECONST(cfg,dest,vtable) MONO_EMIT_NEW_AOTCONST ((cfg), (dest), (cfg)->compile_aot ? (gpointer)((vtable)->klass) : (vtable), MONO_PATCH_INFO_VTABLE)
 247
 248 #define MONO_EMIT_NEW_BRANCH_BLOCK(cfg,op,targetbb) do { \
 249                 MonoInst *inst; \
 250                 MonoInst *target_label; \
 251                 target_label = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 252                 target_label->opcode = OP_LABEL;        \
 253                 target_label->next = (targetbb)->code; \
 254                 target_label->inst_c0 = (targetbb)->native_offset; \
 255                 (targetbb)->code = target_label; \
 256                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 257                 inst->opcode = op;      \
 258                 inst->inst_i0 = target_label;   \
 259                 inst->flags = MONO_INST_BRLABEL;        \
 260                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 261         } while (0)
 262
 263 #define MONO_EMIT_NEW_BRANCH_LABEL(cfg,op,label) do { \
 264                 MonoInst *inst; \
 265                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 266                 inst->opcode = op;      \
 267                 inst->inst_i0 = label;  \
 268                 inst->flags = MONO_INST_BRLABEL;        \
 269                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 270         } while (0)
 271
 272 #define MONO_NEW_LABEL(cfg,inst) do { \
 273                 (inst) = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));       \
 274                 (inst)->opcode = OP_LABEL;      \
 275         } while (0)
 276
 277 #define MONO_EMIT_BOUNDS_CHECK(cfg, array_reg, array_type, array_length_field, index_reg) do { \
 278                 if (! (state->tree->flags & MONO_INST_NORANGECHECK)) { \
 279                         int _length_reg = mono_regstate_next_int (cfg->rs); \
 280                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (cfg, OP_LOADI4_MEMBASE, _length_reg, array_reg, G_STRUCT_OFFSET (array_type, array_length_field)); \
 281                         MONO_EMIT_NEW_BIALU (cfg, OP_COMPARE, -1, _length_reg, index_reg); \
 282                         MONO_EMIT_NEW_COND_EXC (cfg, LE_UN, "IndexOutOfRangeException"); \
 283                 } \
 284         } while (0)
 285
 286 #define MONO_EMIT_BOUNDS_CHECK_IMM(cfg, array_reg, array_type, array_length_field, index_imm) do { \
 287                 if (! (state->tree->flags & MONO_INST_NORANGECHECK)) { \
 288                         int _length_reg = mono_regstate_next_int (cfg->rs); \
 289                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (cfg, OP_LOADI4_MEMBASE, _length_reg, array_reg, G_STRUCT_OFFSET (array_type, array_length_field)); \
 290                         MONO_EMIT_NEW_BIALU_IMM (cfg, OP_COMPARE_IMM, -1, _length_reg, index_imm); \
 291                         MONO_EMIT_NEW_COND_EXC (cfg, LE_UN, "IndexOutOfRangeException"); \
 292                 } \
 293         } while (0)
 294
 295 /* we need to kludge state because monoburg puts this stuff before the definition of MBState */
 296 void mini_emit_virtual_call (MonoCompile *s, void *state, MonoInst *tree, int novirt_op, int virtop);
 297 void mini_emit_isninst_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target);
 298 void mini_emit_isninst_iface_cast (MonoCompile *s, int vtable_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target);
 299 void mini_emit_isninst_iface_class_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target);
 300 void mini_emit_castclass (MonoCompile *s, int klass_reg, MonoClass *klass);
 301 void mini_emit_castclass_iface (MonoCompile *s, int vtable_reg, MonoClass *klass);
 302 void mini_emit_castclass_iface_class (MonoCompile *s, int klass_reg, MonoClass *klass);
 303
 304 void mini_emit_memcpy (MonoCompile *s, int destreg, int doffset, int srcreg, int soffset, int size, int align);
 305 void mini_emit_memset (MonoCompile *s, int destreg, int offset, int size, int val, int align);
 306 int ldind_to_load_membase (int opcode);
 307 void mini_emit_aotconst (MonoCompile *cfg, int dreg, MonoJumpInfoType patch_type, gpointer cons);
 308
 309 %%
 310
 311 %termprefix OP_ CEE_
 312
 313 %start stmt
 314
 315 #
 316 # base addressing mode
 317 #
 318
 319 base: reg "0" {
 320         /* we create a new MonoInst in chain rules and set state->tree to it
 321          * since a MBState (and hence state->tree) is reused in chain rules and
 322          * normal rules.
 323          */
 324         MonoInst *inst;
 325         inst = mono_mempool_alloc0 (s->mempool, sizeof (MonoInst));
 326         inst->opcode = OP_ICONST; /* doesn't matter */
 327         inst->inst_basereg = state->reg1;
 328         inst->inst_offset = 0;
 329         state->tree = inst;
 330         //g_print ("mybase: (assigned R%d from R%d - R%d)\n", state->reg1, tree->dreg, state->reg2);
 331         //tree->inst_offset = 0;
 332         //tree->inst_basereg = state->reg1;
 333 }
 334
 335 base: CEE_LDIND_I (OP_REGVAR) "0" {
 336         tree->inst_offset = 0;
 337         tree->inst_basereg = state->left->tree->dreg;
 338 }
 339
 340 base: OP_REGOFFSET "0" {
 341         /* nothing to do */
 342 }
 343
 344 base: OP_LDADDR (OP_REGOFFSET),
 345 base: CEE_LDOBJ (OP_REGOFFSET) "0" {
 346         tree->inst_offset = state->left->tree->inst_offset;
 347         tree->inst_basereg = state->left->tree->inst_basereg;
 348 }
 349
 350 base: CEE_ADD (base, OP_ICONST) "0" {
 351         tree->inst_offset = state->left->tree->inst_offset + state->right->tree->inst_c0;
 352         tree->inst_basereg = state->left->tree->inst_basereg;
 353 }
 354
 355 base: CEE_ADD (CEE_LDIND_REF (OP_REGVAR), OP_ICONST),
 356 base: CEE_ADD (CEE_LDIND_I (OP_REGVAR), OP_ICONST) "0" {
 357         tree->inst_offset = state->right->tree->inst_c0;
 358         tree->inst_basereg = state->left->left->tree->dreg;
 359 }
 360
 361 #
 362 # helpers
 363 #
 364
 365 reg: OP_ICONST {
 366         MONO_EMIT_NEW_ICONST (s, state->reg1, tree->inst_c0);
 367 }
 368
 369 reg: OP_AOTCONST {
 370         MONO_EMIT_NEW_AOTCONST (s, state->reg1, tree->inst_p0, tree->inst_c1);
 371 }
 372
 373 reg: OP_LOAD_GOTADDR {
 374         tree->dreg = state->reg1;
 375         mono_bblock_add_inst (s->cbb, tree);
 376 }
 377
 378 stmt: CEE_STIND_I (OP_REGVAR, OP_LOAD_GOTADDR) {
 379         tree->opcode = OP_LOAD_GOTADDR;
 380         tree->dreg = state->left->tree->dreg;
 381         mono_bblock_add_inst (s->cbb, tree);
 382 }
 383
 384 reg: OP_GOT_ENTRY (reg, OP_PATCH_INFO) {
 385         tree->inst_basereg = state->left->tree->dreg;
 386         tree->dreg = state->reg1;
 387         mono_bblock_add_inst (s->cbb, tree);
 388 }
 389
 390 reg: OP_GOT_ENTRY (CEE_LDIND_I (OP_REGVAR), OP_PATCH_INFO) {
 391         tree->inst_basereg = state->left->left->tree->dreg;
 392         tree->dreg = state->reg1;
 393         mono_bblock_add_inst (s->cbb, tree);
 394 }
 395
 396 stmt: OP_DUMMY_USE (CEE_LDIND_I (OP_REGVAR)) {
 397 }
 398
 399 stmt: OP_DUMMY_USE (CEE_LDIND_I (OP_REGOFFSET)) {
 400 }
 401
 402 stmt: OP_DUMMY_USE (CEE_LDIND_REF (OP_REGOFFSET)) {
 403 }
 404
 405 stmt: OP_DUMMY_STORE {
 406 }
 407
 408 stmt: OP_NOT_REACHED {
 409 }
 410
 411 stmt: OP_MEMORY_BARRIER {
 412         mono_bblock_add_inst (s->cbb, tree);
 413 }
 414
 415 #
 416 # load/store operations
 417 #
 418
 419 reg: CEE_LDIND_I (base),
 420 reg: CEE_LDIND_REF (base),
 421 reg: CEE_LDIND_I1 (base),
 422 reg: CEE_LDIND_U1 (base),
 423 reg: CEE_LDIND_I2 (base),
 424 reg: CEE_LDIND_U2 (base),
 425 reg: CEE_LDIND_I4 (base),
 426 reg: CEE_LDIND_U4 (base) {
 427         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, ldind_to_load_membase (tree->opcode),
 428                                    state->reg1, state->left->tree->inst_basereg, state->left->tree->inst_offset);
 429 }
 430
 431 reg: OP_LDADDR (OP_REGOFFSET),
 432 reg: CEE_LDOBJ (OP_REGOFFSET) "2" {
 433         /* use LEA */
 434         tree->opcode = OP_MOVE;
 435         tree->sreg1 = state->left->tree->inst_basereg;
 436         tree->dreg = state->reg1;
 437         mono_bblock_add_inst (s->cbb, tree);
 438         if (state->left->tree->inst_offset)
 439                 MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, tree->dreg, tree->dreg, state->left->tree->inst_offset);
 440 }
 441
 442 reg: CEE_LDOBJ (reg),
 443 reg: OP_OBJADDR (reg),
 444 reg: OP_VTADDR (reg) {
 445         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 446 }
 447
 448 reg: CEE_LDIND_U1 (OP_REGVAR) {
 449         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->tree->dreg, 0xff);
 450 }
 451
 452 reg: CEE_LDIND_U2 (OP_REGVAR) {
 453         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->tree->dreg, 0xffff);
 454 }
 455
 456 stmt: CEE_STIND_REF (base, CEE_LDIND_REF (OP_REGVAR)),
 457 stmt: CEE_STIND_REF (base, CEE_LDIND_I (OP_REGVAR)),
 458 stmt: CEE_STIND_I (base, CEE_LDIND_REF (OP_REGVAR)),
 459 stmt: CEE_STIND_I (base, CEE_LDIND_I (OP_REGVAR)) {
 460         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STORE_MEMBASE_REG, state->left->tree->inst_basereg,
 461                                  state->left->tree->inst_offset, state->right->left->tree->dreg);
 462 }
 463
 464 stmt: CEE_STIND_REF (OP_REGVAR, CEE_LDIND_REF (OP_REGVAR)),
 465 stmt: CEE_STIND_REF (OP_REGVAR, CEE_LDIND_I (OP_REGVAR)),
 466 stmt: CEE_STIND_I (OP_REGVAR, CEE_LDIND_REF (OP_REGVAR)),
 467 stmt: CEE_STIND_I (OP_REGVAR, CEE_LDIND_I (OP_REGVAR)),
 468 stmt: CEE_STIND_I4 (OP_REGVAR, CEE_LDIND_I4 (OP_REGVAR)) {
 469         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->left->tree->dreg, state->right->left->tree->dreg);
 470 }
 471
 472
 473 stmt: CEE_STIND_I (base, reg),
 474 stmt: CEE_STIND_REF (base, reg) {
 475         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STORE_MEMBASE_REG, state->left->tree->inst_basereg,
 476                                  state->left->tree->inst_offset, state->right->reg1);
 477 }
 478
 479 stmt: CEE_STIND_I (base, OP_ICONST),
 480 stmt: CEE_STIND_REF (base, OP_ICONST) {
 481         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STORE_MEMBASE_IMM, state->left->tree->inst_basereg,
 482                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 483 }
 484
 485 reg: CEE_LDIND_REF (OP_REGVAR),
 486 reg: CEE_LDIND_I (OP_REGVAR),
 487 reg: CEE_LDIND_I4 (OP_REGVAR),
 488 reg: CEE_LDIND_U4 (OP_REGVAR) {
 489         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->tree->dreg);
 490 }
 491
 492 stmt: CEE_STIND_I4 (base, reg) {
 493         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI4_MEMBASE_REG, state->left->tree->inst_basereg,
 494                                  state->left->tree->inst_offset, state->right->reg1);
 495 }
 496
 497 stmt: CEE_STIND_I4 (base, CEE_LDIND_I4 (OP_REGVAR)) {
 498         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI4_MEMBASE_REG, state->left->tree->inst_basereg,
 499                                  state->left->tree->inst_offset, state->right->left->tree->dreg);
 500 }
 501
 502 stmt: CEE_STIND_I4 (base, OP_ICONST) {
 503         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI4_MEMBASE_IMM, state->left->tree->inst_basereg,
 504                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 505 }
 506
 507 stmt: CEE_STIND_I4 (OP_REGVAR, CEE_LDIND_I4 (base)) {
 508         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->left->tree->dreg,
 509                                    state->right->left->tree->inst_basereg,
 510                                    state->right->left->tree->inst_offset);
 511 }
 512
 513 stmt: CEE_STIND_I1 (base, reg) {
 514         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI1_MEMBASE_REG, state->left->tree->inst_basereg,
 515                                  state->left->tree->inst_offset, state->right->reg1);
 516 }
 517
 518 stmt: CEE_STIND_I1 (base, OP_ICONST) {
 519         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI1_MEMBASE_IMM, state->left->tree->inst_basereg,
 520                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 521 }
 522
 523 stmt: CEE_STIND_I2 (base, reg) {
 524         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI2_MEMBASE_REG, state->left->tree->inst_basereg,
 525                                  state->left->tree->inst_offset, state->right->reg1);
 526 }
 527
 528 stmt: CEE_STIND_I2 (base, OP_ICONST) {
 529         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI2_MEMBASE_IMM, state->left->tree->inst_basereg,
 530                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 531 }
 532
 533 stmt: CEE_STIND_I2 (OP_REGVAR, reg) {
 534         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->reg1, 0xffff);
 535 }
 536
 537 stmt: CEE_STIND_I1 (OP_REGVAR, reg) {
 538         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->reg1, 0xff);
 539 }
 540
 541 stmt: CEE_STIND_I1 (OP_REGVAR, CEE_LDIND_U1 (OP_REGVAR)),
 542 stmt: CEE_STIND_I1 (OP_REGVAR, CEE_LDIND_I1 (OP_REGVAR)) {
 543         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->left->tree->dreg, 0xff);
 544 }
 545
 546 stmt: CEE_STIND_I2 (OP_REGVAR, CEE_LDIND_U2 (OP_REGVAR)),
 547 stmt: CEE_STIND_I2 (OP_REGVAR, CEE_LDIND_I2 (OP_REGVAR)) {
 548         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->left->tree->dreg, 0xffff);
 549 }
 550
 551 stmt: CEE_STIND_I4 (OP_REGVAR, OP_ICONST),
 552 stmt: CEE_STIND_I2 (OP_REGVAR, OP_ICONST),
 553 stmt: CEE_STIND_I1 (OP_REGVAR, OP_ICONST),
 554 stmt: CEE_STIND_REF (OP_REGVAR, OP_ICONST),
 555 stmt: CEE_STIND_I (OP_REGVAR, OP_ICONST) {
 556         tree->inst_c0 = state->right->tree->inst_c0;
 557         if (tree->opcode == CEE_STIND_I2)
 558                 tree->inst_c0 &= 0xffff;
 559         if (tree->opcode == CEE_STIND_I1)
 560                 tree->inst_c0 &= 0xff;
 561
 562         tree->opcode = OP_ICONST;
 563         tree->dreg = state->left->tree->dreg;
 564         mono_bblock_add_inst (s->cbb, tree);
 565 }
 566
 567 stmt: CEE_STIND_I4 (OP_REGVAR, reg),
 568 stmt: CEE_STIND_REF (OP_REGVAR, reg),
 569 stmt: CEE_STIND_I (OP_REGVAR, reg) {
 570         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->left->tree->dreg, state->right->reg1);
 571 }
 572
 573 stmt: OP_MEMCPY (base, base) {
 574         int size = tree->unused;
 575         if (size > 0)
 576                 mini_emit_memcpy (s, state->left->tree->inst_basereg, state->left->tree->inst_offset,
 577                                   state->right->tree->inst_basereg, state->right->tree->inst_offset, size, 0);
 578 }
 579
 580 stmt: OP_MEMSET (base) {
 581         int size = tree->unused;
 582         if (size > 0)
 583                 mini_emit_memset (s, state->left->tree->inst_basereg, state->left->tree->inst_offset, size, tree->inst_imm, 0);
 584 }
 585
 586 reg: OP_LDELEMA2D (reg, OP_GROUP (reg, reg)) "20" {
 587         int bounds_reg = mono_regstate_next_int (s->rs);
 588         int add_reg = mono_regstate_next_int (s->rs);
 589         int mult_reg = mono_regstate_next_int (s->rs);
 590         int mult2_reg = mono_regstate_next_int (s->rs);
 591         int low1_reg = mono_regstate_next_int (s->rs);
 592         int low2_reg = mono_regstate_next_int (s->rs);
 593         int high1_reg = mono_regstate_next_int (s->rs);
 594         int high2_reg = mono_regstate_next_int (s->rs);
 595         int realidx1_reg = mono_regstate_next_int (s->rs);
 596         int realidx2_reg = mono_regstate_next_int (s->rs);
 597         int sum_reg = mono_regstate_next_int (s->rs);
 598         int index1, index2;
 599         guint32 size = mono_array_element_size (tree->klass);
 600
 601         index1 = state->right->left->reg1;
 602         index2 = state->right->right->reg1;
 603
 604         /* range checking */
 605         MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg,
 606                                        state->left->reg1, G_STRUCT_OFFSET (MonoArray, bounds));
 607
 608         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, low1_reg,
 609                                        bounds_reg, G_STRUCT_OFFSET (MonoArrayBounds, lower_bound));
 610         MONO_EMIT_NEW_BIALU (s, CEE_SUB, realidx1_reg, index1, low1_reg);
 611         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, high1_reg,
 612                                        bounds_reg, G_STRUCT_OFFSET (MonoArrayBounds, length));
 613         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, high1_reg, realidx1_reg);
 614         MONO_EMIT_NEW_COND_EXC (s, LE_UN, "IndexOutOfRangeException");
 615
 616         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, low2_reg,
 617                                        bounds_reg, sizeof (MonoArrayBounds) + G_STRUCT_OFFSET (MonoArrayBounds, lower_bound));
 618         MONO_EMIT_NEW_BIALU (s, CEE_SUB, realidx2_reg, index2, low2_reg);
 619         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, high2_reg,
 620                                        bounds_reg, sizeof (MonoArrayBounds) + G_STRUCT_OFFSET (MonoArrayBounds, length));
 621         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, high2_reg, realidx2_reg);
 622         MONO_EMIT_NEW_COND_EXC (s, LE_UN, "IndexOutOfRangeException");
 623
 624         MONO_EMIT_NEW_BIALU (s, CEE_MUL, mult_reg, high2_reg, realidx1_reg);
 625         MONO_EMIT_NEW_BIALU (s, CEE_ADD, sum_reg, mult_reg, realidx2_reg);
 626         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, mult2_reg, sum_reg, size);
 627         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult2_reg, state->left->reg1);
 628         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, add_reg, G_STRUCT_OFFSET (MonoArray, vector));
 629 }
 630
 631 #
 632 # conversions: conv_u can be implemented with AND, also all _ovf conversions?
 633 #
 634
 635 reg: CEE_CONV_I1 (reg),
 636 reg: CEE_CONV_I2 (reg),
 637 reg: CEE_CONV_I4 (reg) {
 638         MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 639 }
 640
 641 reg: CEE_CONV_U1 (reg) {
 642         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xff);
 643 }
 644
 645 reg: CEE_CONV_U2 (reg) {
 646         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xffff);
 647 }
 648
 649 reg: CEE_CONV_U4 (reg),
 650 reg: CEE_CONV_U (reg),
 651 reg: CEE_CONV_I (reg) {
 652         if (sizeof (void *) == 8)
 653                 MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 654         else
 655                 MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 656 }
 657
 658 reg: CEE_CONV_OVF_I4 (reg) {
 659         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 660 }
 661
 662 reg: CEE_CONV_OVF_U4 (reg),
 663 reg: CEE_CONV_OVF_I4_UN (reg) {
 664         if (sizeof (void *) == 8) {
 665                 MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 666         } else {
 667                 MONO_EMIT_NEW_COMPARE_IMM (s, state->left->reg1, 0);
 668                 MONO_EMIT_NEW_COND_EXC (s, LT, "OverflowException");
 669                 MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 670         }
 671 }
 672
 673 reg: CEE_CONV_OVF_I1 (reg) {
 674         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 127);
 675         MONO_EMIT_NEW_COND_EXC (s, GT, "OverflowException");
 676         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, -128);
 677         MONO_EMIT_NEW_COND_EXC (s, LT, "OverflowException");
 678         MONO_EMIT_UNALU (s, tree, CEE_CONV_I1, state->reg1, state->left->reg1);
 679 }
 680
 681 reg: CEE_CONV_OVF_I1_UN (reg) {
 682         /* probe values between 0 to 127 */
 683         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 127);
 684         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 685         MONO_EMIT_UNALU (s, tree, CEE_CONV_I1, state->reg1, state->left->reg1);
 686 }
 687
 688 reg: CEE_CONV_OVF_U1 (reg),
 689 reg: CEE_CONV_OVF_U1_UN (reg) {
 690         /* probe value to be within 0 to 255 */
 691         MONO_EMIT_NEW_COMPARE_IMM (s, state->left->reg1, 255);
 692         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 693         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xff);
 694 }
 695
 696 reg: CEE_CONV_OVF_I2 (reg) {
 697         /* Probe value to be within -32768 and 32767 */
 698         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 32767);
 699         MONO_EMIT_NEW_COND_EXC (s, GT, "OverflowException");
 700         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, -32768);
 701         MONO_EMIT_NEW_COND_EXC (s, LT, "OverflowException");
 702         MONO_EMIT_UNALU (s, tree, CEE_CONV_I2, state->reg1, state->left->reg1);
 703 }
 704
 705 reg: CEE_CONV_OVF_I2_UN (reg) {
 706         /* Convert uint value into short, value within 0 and 32767 */
 707         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 32767);
 708         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 709         MONO_EMIT_UNALU (s, tree, CEE_CONV_I2, state->reg1, state->left->reg1);
 710 }
 711
 712 reg: CEE_CONV_OVF_U2 (reg),
 713 reg: CEE_CONV_OVF_U2_UN (reg) {
 714         /* Probe value to be within 0 and 65535 */
 715         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 0xffff);
 716         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 717         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xffff);
 718 }
 719
 720 #
 721 # other alu operations
 722 #
 723
 724 reg: OP_CEQ (cflags),
 725 reg: OP_CLT (cflags),
 726 reg: OP_CLT_UN (cflags),
 727 reg: OP_CGT (cflags),
 728 reg: OP_CGT_UN (cflags) {
 729         tree->dreg = state->reg1;
 730         mono_bblock_add_inst (s->cbb, tree);
 731 }
 732
 733 #
 734 # control flow commands
 735 #
 736
 737 stmt: OP_LABEL {
 738         mono_bblock_add_inst (s->cbb, tree);
 739 }
 740
 741 stmt: CEE_NOP "0" {
 742 }
 743
 744 stmt: CEE_BREAK "0" {
 745         mono_bblock_add_inst (s->cbb, tree);
 746 }
 747
 748 reg: OP_TLS_GET {
 749         tree->dreg = state->reg1;
 750         mono_bblock_add_inst (s->cbb, tree);
 751 }
 752
 753 stmt: CEE_SWITCH (reg) "2" {
 754         MonoInst *label;
 755         int offset_reg = mono_regstate_next_int (s->rs);
 756         int target_reg = mono_regstate_next_int (s->rs);
 757         int n = GPOINTER_TO_INT (tree->klass);
 758
 759         MONO_NEW_LABEL (s, label);
 760
 761         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, state->left->reg1, n);
 762         MONO_EMIT_NEW_BRANCH_BLOCK (s, CEE_BGE_UN, tree->inst_many_bb [n]);
 763         if (sizeof (gpointer) == 8)
 764                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, offset_reg, state->left->reg1, 3);
 765         else
 766                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, offset_reg, state->left->reg1, 2);
 767         mono_bblock_add_inst (s->cbb, label);
 768         if (s->compile_aot) {
 769                 int table_reg = mono_regstate_next_int (s->rs);
 770                 int sum_reg = mono_regstate_next_int (s->rs);
 771                 MonoJumpInfoBBTable *table;
 772
 773                 table = mono_mempool_alloc (s->mempool, sizeof (MonoJumpInfoBBTable));
 774                 table->table = tree->inst_many_bb;
 775                 table->table_size = n;
 776
 777                 MONO_EMIT_NEW_AOTCONST (s, table_reg, table, MONO_PATCH_INFO_SWITCH);
 778
 779                 MONO_EMIT_NEW_BIALU (s, CEE_ADD, sum_reg, table_reg, offset_reg);
 780                 MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, sum_reg, 0);
 781         } else {
 782                 mono_create_jump_table (s, label, tree->inst_many_bb, n);
 783
 784                  /* the backend must patch the address. we use 0xf0f0f0f0 to avoid the usage
 785                   * of special (short) opcodes on x86 */
 786                 if (sizeof (gpointer) == 8)
 787                         MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, offset_reg, (long)0xf0f0f0f0f0f0f0f1LL);
 788                 else
 789                         MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, offset_reg, 0xf0f0f0f0);
 790         }
 791         MONO_EMIT_UNALU (s, tree, OP_BR_REG, -1, target_reg);
 792 }
 793
 794 stmt: CEE_BR "0" {
 795         mono_bblock_add_inst (s->cbb, tree);
 796 }
 797
 798 stmt: OP_ARGLIST (reg) {
 799         tree->sreg1 = state->left->reg1;
 800         mono_bblock_add_inst (s->cbb, tree);
 801 }
 802
 803 reg: CEE_CALL {
 804         tree->dreg = state->reg1;
 805         mono_bblock_add_inst (s->cbb, tree);
 806 }
 807
 808 reg: CEE_CALLVIRT (reg) {
 809         mini_emit_virtual_call (s, state, tree, CEE_CALL, OP_CALL_MEMBASE);
 810 }
 811
 812 stmt: OP_VOIDCALLVIRT (reg) {
 813         mini_emit_virtual_call (s, state, tree, OP_VOIDCALL, OP_VOIDCALL_MEMBASE);
 814 }
 815
 816 freg: OP_FCALLVIRT (reg) {
 817         mini_emit_virtual_call (s, state, tree, OP_FCALL, OP_FCALL_MEMBASE);
 818 }
 819
 820 stmt: OP_VCALLVIRT (reg, reg) {
 821         mini_emit_virtual_call (s, state, tree, OP_VCALL, OP_VCALL_MEMBASE);
 822 }
 823
 824 reg: OP_CALL_REG (reg) {
 825         tree->sreg1 = state->left->reg1;
 826         tree->dreg = state->reg1;
 827         mono_bblock_add_inst (s->cbb, tree);
 828 }
 829
 830 stmt: OP_VOIDCALL {
 831         mono_bblock_add_inst (s->cbb, tree);
 832 }
 833
 834 stmt: OP_VOIDCALL_REG (reg) {
 835         tree->sreg1 = state->left->reg1;
 836         mono_bblock_add_inst (s->cbb, tree);
 837 }
 838
 839 freg: OP_FCALL {
 840         tree->dreg = state->reg1;
 841         mono_bblock_add_inst (s->cbb, tree);
 842 }
 843
 844 freg: OP_FCALL_REG (reg) {
 845         tree->sreg1 = state->left->reg1;
 846         tree->dreg = state->reg1;
 847         mono_bblock_add_inst (s->cbb, tree);
 848 }
 849
 850 stmt: OP_VCALL (reg) {
 851         mono_arch_emit_this_vret_args (s, (MonoCallInst*)tree, -1, -1, state->left->reg1);
 852         mono_bblock_add_inst (s->cbb, tree);
 853 }
 854
 855 stmt: OP_VCALL_REG (reg, reg) {
 856         mono_arch_emit_this_vret_args (s, (MonoCallInst*)tree, -1, -1, state->right->reg1);
 857
 858         tree->sreg1 = state->left->reg1;
 859         mono_bblock_add_inst (s->cbb, tree);
 860 }
 861
 862 stmt: OP_SAVE_LMF,
 863 stmt: OP_RESTORE_LMF {
 864         mono_bblock_add_inst (s->cbb, tree);
 865 }
 866
 867 #
 868 # Optimized call instructions
 869 #
 870
 871 reg: OP_CALL_REG (OP_ICONST),
 872 reg: OP_CALL_REG (OP_I8CONST) {
 873         tree->opcode = CEE_CALL;
 874         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 875         tree->dreg = state->reg1;
 876         mono_bblock_add_inst (s->cbb, tree);
 877 }
 878
 879 stmt: OP_VOIDCALL_REG (OP_ICONST),
 880 stmt: OP_VOIDCALL_REG (OP_I8CONST) {
 881         tree->opcode = OP_VOIDCALL;
 882         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 883         mono_bblock_add_inst (s->cbb, tree);
 884 }
 885
 886 freg: OP_FCALL_REG (OP_ICONST),
 887 freg: OP_FCALL_REG (OP_I8CONST) {
 888         tree->opcode = OP_FCALL;
 889         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 890         tree->dreg = state->reg1;
 891         mono_bblock_add_inst (s->cbb, tree);
 892 }
 893
 894 stmt: CEE_RET "0" {
 895         mono_bblock_add_inst (s->cbb, tree);
 896 }
 897
 898 stmt: CEE_POP (reg)
 899
 900 # remove some common pops without side effects
 901 stmt: CEE_POP (OP_ICONST)
 902 stmt: CEE_POP (CEE_LDIND_I1 (base))
 903 stmt: CEE_POP (CEE_LDIND_U1 (base))
 904 stmt: CEE_POP (CEE_LDIND_I2 (base))
 905 stmt: CEE_POP (CEE_LDIND_U2 (base))
 906 stmt: CEE_POP (CEE_LDIND_I4 (base))
 907 stmt: CEE_POP (CEE_LDIND_U4 (base))
 908 stmt: CEE_POP (CEE_LDIND_I (base))
 909 stmt: CEE_POP (CEE_LDIND_REF (base))
 910 stmt: CEE_POP (CEE_LDIND_I1 (OP_REGVAR))
 911 stmt: CEE_POP (CEE_LDIND_U1 (OP_REGVAR))
 912 stmt: CEE_POP (CEE_LDIND_I2 (OP_REGVAR))
 913 stmt: CEE_POP (CEE_LDIND_U2 (OP_REGVAR))
 914 stmt: CEE_POP (CEE_LDIND_I4 (OP_REGVAR))
 915 stmt: CEE_POP (CEE_LDIND_U4 (OP_REGVAR))
 916 stmt: CEE_POP (CEE_LDIND_I (OP_REGVAR))
 917 stmt: CEE_POP (CEE_LDIND_REF (OP_REGVAR))
 918
 919 stmt: CEE_JMP "0" {
 920         mono_bblock_add_inst (s->cbb, tree);
 921 }
 922
 923 # exception handling
 924
 925 stmt: CEE_THROW (reg) {
 926         MONO_EMIT_UNALU (s, tree, CEE_THROW, -1, state->left->reg1);
 927 }
 928
 929 stmt: OP_RETHROW (reg) {
 930         MONO_EMIT_UNALU (s, tree, OP_RETHROW, -1, state->left->reg1);
 931 }
 932
 933 stmt: OP_THROW_OR_NULL (reg, reg) {
 934         MonoInst *dont_throw;
 935
 936         MONO_NEW_LABEL (s, dont_throw);
 937
 938         /*
 939          * Currently, we allways rethrow the abort exception, despite the fact
 940          * that this is not correct. See thread6.cs for an example. But propagating
 941          * the abort exception is more important than getting the sematics right.
 942      */
 943         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, state->left->reg1, 0);
 944         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, dont_throw);
 945         MONO_EMIT_UNALU (s, tree, CEE_THROW, -1, state->left->reg1);
 946         mono_bblock_add_inst (s->cbb, dont_throw);
 947 }
 948
 949 stmt: CEE_THROW (CEE_LDIND_REF (OP_REGVAR)) {
 950         MONO_EMIT_UNALU (s, tree, CEE_THROW, -1, state->left->left->tree->dreg);
 951 }
 952
 953 stmt: OP_CALL_HANDLER {
 954         mono_bblock_add_inst (s->cbb, tree);
 955 }
 956
 957 stmt: OP_START_HANDLER "2" {
 958         mono_bblock_add_inst (s->cbb, tree);
 959 }
 960
 961 stmt: CEE_ENDFINALLY "2" {
 962         mono_bblock_add_inst (s->cbb, tree);
 963 }
 964
 965 stmt: OP_ENDFILTER (reg) "2" {
 966         MONO_EMIT_UNALU (s, tree, OP_ENDFILTER, -1, state->left->reg1);
 967 }
 968
 969 stmt: OP_CHECK_THIS (reg) {
 970         tree->sreg1 = state->left->reg1;
 971         tree->dreg = state->reg1;
 972         mono_bblock_add_inst (s->cbb, tree);
 973 }
 974
 975 # object related opcodes
 976
 977 reg: CEE_ISINST (reg) {
 978         MonoClass *klass = tree->inst_newa_class;
 979         MonoInst *object_is_null, *end_label, *false_label;
 980         int obj_reg = state->left->reg1;
 981         int vtable_reg = mono_regstate_next_int (s->rs);
 982
 983         MONO_NEW_LABEL (s, object_is_null);
 984         MONO_NEW_LABEL (s, end_label);
 985         MONO_NEW_LABEL (s, false_label);
 986
 987         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, obj_reg, 0);
 988         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
 989
 990         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
 991                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
 992                 /* the object_is_null target simply copies the input register to the output */
 993                 mini_emit_isninst_iface_cast (s, vtable_reg, klass, false_label, object_is_null);
 994         } else {
 995                 int klass_reg = mono_regstate_next_int (s->rs);
 996
 997                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
 998
 999                 if (klass->rank) {
1000                         int rank_reg = mono_regstate_next_int (s->rs);
1001                         int eclass_reg = mono_regstate_next_int (s->rs);
1002
1003                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, rank_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1004                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, rank_reg, klass->rank);
1005                         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false_label);
1006                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1007                         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, cast_class));
1008                         if (klass->cast_class == mono_defaults.object_class) {
1009                                 int parent_reg = mono_regstate_next_int (s->rs);
1010                                 int const_reg = -1;
1011                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, parent_reg, eclass_reg, G_STRUCT_OFFSET (MonoClass, parent));
1012                                 if (s->compile_aot) {
1013                                         const_reg = mono_regstate_next_int (s->rs);
1014                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1015                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, parent_reg, const_reg);
1016                                 } else {
1017                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, parent_reg, mono_defaults.enum_class->parent);
1018                                 }
1019                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, object_is_null);
1020                                 if (s->compile_aot) {
1021                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1022                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1023                                 } else {
1024                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1025                                 }
1026                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1027                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false_label);
1028                         } else if (klass->cast_class == mono_defaults.enum_class->parent) {
1029                                 int const_reg = -1;
1030
1031                                 if (s->compile_aot) {
1032                                         const_reg = mono_regstate_next_int (s->rs);
1033                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1034                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1035                                 } else {
1036                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class->parent);
1037                                 }
1038                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1039                                 if (s->compile_aot) {
1040                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1041                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1042                                 } else {
1043                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1044                                 }
1045                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1046                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false_label);
1047                         } else if (klass->cast_class == mono_defaults.enum_class) {
1048                                 if (s->compile_aot) {
1049                                         int const_reg = mono_regstate_next_int (s->rs);
1050                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1051                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1052                                 } else {
1053                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1054                                 }
1055                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1056                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false_label);
1057                         } else if (klass->cast_class->flags & TYPE_ATTRIBUTE_INTERFACE) {
1058                                 mini_emit_isninst_iface_class_cast (s, eclass_reg, klass->cast_class, false_label, object_is_null);
1059                         } else {
1060                                 if ((klass->rank == 1) && (klass->byval_arg.type == MONO_TYPE_SZARRAY)) {
1061                                         /* Check that the object is a vector too */
1062                                         int bounds_reg = mono_regstate_next_int (s->rs);
1063                                         MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg, obj_reg, G_STRUCT_OFFSET (MonoArray, bounds));
1064                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, bounds_reg, 0);
1065                                         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false_label);
1066                                 }
1067
1068                                 /* the object_is_null target simply copies the input register to the output */
1069                                 mini_emit_isninst_cast (s, eclass_reg, klass->cast_class, false_label, object_is_null);
1070                         }
1071                 } else {
1072                         if (!s->compile_aot && !(s->opt & MONO_OPT_SHARED) && (klass->flags & TYPE_ATTRIBUTE_SEALED)) {
1073                                 /* the remoting code is broken, access the class for now */
1074                                 if (0) {
1075                                         MonoVTable *vt = mono_class_vtable (s->domain, klass);
1076                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, vtable_reg, vt);
1077                                 } else {
1078                                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1079                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, klass);
1080                                 }
1081                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false_label);
1082                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, object_is_null);
1083                         } else {
1084                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1085                                 /* the object_is_null target simply copies the input register to the output */
1086                                 mini_emit_isninst_cast (s, klass_reg, klass, false_label, object_is_null);
1087                         }
1088                 }
1089         }
1090
1091         mono_bblock_add_inst (s->cbb, false_label);
1092         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1093         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1094         mono_bblock_add_inst (s->cbb, object_is_null);
1095         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1096         mono_bblock_add_inst (s->cbb, end_label);
1097 }
1098
1099 reg: OP_CISINST (reg) {
1100         /* This opcode takes as input an object reference and a class, and returns:
1101         0) if the object is an instance of the class,
1102         1) if the object is not instance of the class,
1103         2) if the object is a proxy whose type cannot be determined */
1104
1105     MonoClass *klass = tree->inst_newa_class;
1106         MonoInst *end_label, *true_label, *false_label, *false2_label;
1107         MonoInst *no_proxy_label, *interface_fail_label;
1108         int obj_reg = state->left->reg1;
1109         int tmp_reg = mono_regstate_next_int (s->rs);
1110         int klass_reg = mono_regstate_next_int (s->rs);
1111
1112         MONO_NEW_LABEL (s, end_label);
1113         MONO_NEW_LABEL (s, true_label);
1114         MONO_NEW_LABEL (s, false_label);
1115         MONO_NEW_LABEL (s, false2_label);
1116
1117         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, obj_reg, 0);
1118         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, false_label);
1119
1120         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1121                 MONO_NEW_LABEL (s, interface_fail_label);
1122                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1123                 mini_emit_isninst_iface_cast (s, tmp_reg, klass, interface_fail_label, true_label);
1124
1125                 mono_bblock_add_inst (s->cbb, interface_fail_label);
1126                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1127
1128                 if (s->compile_aot) {
1129                         int tproxy_reg = mono_regstate_next_int (s->rs);
1130                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1131                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1132                 } else {
1133                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1134                 }
1135                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false_label);
1136
1137                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1138                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1139                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false2_label);
1140
1141         } else {
1142                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1143                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1144
1145                 MONO_NEW_LABEL (s, no_proxy_label);
1146
1147                 if (s->compile_aot) {
1148                         int tproxy_reg = mono_regstate_next_int (s->rs);
1149                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1150                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1151                 } else {
1152                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1153                 }
1154                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, no_proxy_label);
1155                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1156                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1157
1158                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1159                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1160                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, no_proxy_label);
1161
1162                 mini_emit_isninst_cast (s, klass_reg, klass, false2_label, true_label);
1163                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false2_label);
1164
1165                 mono_bblock_add_inst (s->cbb, no_proxy_label);
1166                 mini_emit_isninst_cast (s, klass_reg, klass, false_label, true_label);
1167         }
1168
1169         mono_bblock_add_inst (s->cbb, false_label);
1170         MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1171         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1172         mono_bblock_add_inst (s->cbb, false2_label);
1173         MONO_EMIT_NEW_ICONST (s, state->reg1, 2);
1174         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1175         mono_bblock_add_inst (s->cbb, true_label);
1176         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1177         mono_bblock_add_inst (s->cbb, end_label);
1178 }
1179
1180 reg: OP_UNBOXCAST (reg) {
1181         MonoClass *klass = tree->inst_newa_class;
1182         int obj_reg = state->left->reg1;
1183         int vtable_reg = mono_regstate_next_int (s->rs);
1184         int klass_reg = mono_regstate_next_int (s->rs);
1185         int eclass_reg = mono_regstate_next_int (s->rs);
1186         int rank_reg = mono_regstate_next_int (s->rs);
1187
1188         MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1189         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, rank_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1190
1191         /* FIXME: generics */
1192         g_assert (klass->rank == 0);
1193
1194         // Check rank == 0
1195         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, rank_reg, 0);
1196         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1197
1198         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1199         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, element_class));
1200
1201         if (s->compile_aot) {
1202                 int const_reg = mono_regstate_next_int (s->rs);
1203                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass->element_class);
1204                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1205         } else {
1206                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, klass->element_class);
1207         }
1208
1209         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1210         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1211 }
1212
1213 reg: CEE_CASTCLASS (reg) {
1214         MonoClass *klass = tree->inst_newa_class;
1215         MonoInst *object_is_null;
1216         int obj_reg = state->left->reg1;
1217         int vtable_reg = mono_regstate_next_int (s->rs);
1218
1219         MONO_NEW_LABEL (s, object_is_null);
1220
1221         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, obj_reg, 0);
1222         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1223
1224         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1225                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1226                 mini_emit_castclass_iface (s, vtable_reg, klass);
1227         } else {
1228                 int klass_reg = mono_regstate_next_int (s->rs);
1229
1230                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1231
1232                 if (klass->rank) {
1233                         int rank_reg = mono_regstate_next_int (s->rs);
1234                         int eclass_reg = mono_regstate_next_int (s->rs);
1235
1236                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, rank_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1237                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, rank_reg, klass->rank);
1238                         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1239                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1240                         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, cast_class));
1241                         if (klass->cast_class == mono_defaults.object_class) {
1242                                 int parent_reg = mono_regstate_next_int (s->rs);
1243                                 int const_reg = -1;
1244                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, parent_reg, eclass_reg, G_STRUCT_OFFSET (MonoClass, parent));
1245                                 if (s->compile_aot) {
1246                                         const_reg = mono_regstate_next_int (s->rs);
1247                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1248                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, parent_reg, const_reg);
1249                                 } else {
1250                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, parent_reg, mono_defaults.enum_class->parent);
1251                                 }
1252                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, object_is_null);
1253                                 if (s->compile_aot) {
1254                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1255                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1256                                 } else {
1257                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1258                                 }
1259                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1260                         } else if (klass->cast_class == mono_defaults.enum_class->parent) {
1261                                 int const_reg = mono_regstate_next_int (s->rs);
1262                                 if (s->compile_aot) {
1263                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1264                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1265                                 } else {
1266                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class->parent);
1267                                 }
1268                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1269                                 if (s->compile_aot) {
1270                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1271                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1272                                 } else {
1273                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1274                                 }
1275                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1276                         } else if (klass->cast_class == mono_defaults.enum_class) {
1277                                 if (s->compile_aot) {
1278                                         int const_reg = mono_regstate_next_int (s->rs);
1279                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1280                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1281                                 } else {
1282                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1283                                 }
1284                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1285                         } else if (klass->cast_class->flags & TYPE_ATTRIBUTE_INTERFACE) {
1286                                 mini_emit_castclass_iface_class (s, eclass_reg, klass->cast_class);
1287                         } else {
1288                                 mini_emit_castclass (s, eclass_reg, klass->cast_class);
1289                         }
1290
1291                         if ((klass->rank == 1) && (klass->byval_arg.type == MONO_TYPE_SZARRAY)) {
1292                                 /* Check that the object is a vector too */
1293                                 int bounds_reg = mono_regstate_next_int (s->rs);
1294                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg, obj_reg, G_STRUCT_OFFSET (MonoArray, bounds));
1295                                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, bounds_reg, 0);
1296                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1297                         }
1298                 } else {
1299                         if (!s->compile_aot && !(s->opt & MONO_OPT_SHARED) && (klass->flags & TYPE_ATTRIBUTE_SEALED)) {
1300                                 /* the remoting code is broken, access the class for now */
1301                                 if (0) {
1302                                         MonoVTable *vt = mono_class_vtable (s->domain, klass);
1303                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, vtable_reg, vt);
1304                                 } else {
1305                                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1306                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, klass);
1307                                 }
1308                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1309                         } else {
1310                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1311                                 mini_emit_castclass (s, klass_reg, klass);
1312                         }
1313                 }
1314         }
1315
1316         mono_bblock_add_inst (s->cbb, object_is_null);
1317         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1318 }
1319
1320 reg: OP_CCASTCLASS (reg) {
1321         /* This opcode takes as input an object reference and a class, and returns:
1322         0) if the object is an instance of the class,
1323         1) if the object is a proxy whose type cannot be determined
1324         an InvalidCastException exception is thrown otherwhise*/
1325
1326         MonoClass *klass = tree->inst_newa_class;
1327         MonoInst *end_label, *fail_label, *no_proxy_label, *ok_result_label;
1328         int obj_reg = state->left->reg1;
1329         int tmp_reg = mono_regstate_next_int (s->rs);
1330         int klass_reg = mono_regstate_next_int (s->rs);
1331
1332         MONO_NEW_LABEL (s, end_label);
1333         MONO_NEW_LABEL (s, ok_result_label);
1334
1335         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, obj_reg, 0);
1336         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, ok_result_label);
1337
1338         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1339
1340                 MONO_NEW_LABEL (s, fail_label);
1341
1342                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1343                 mini_emit_isninst_iface_cast (s, tmp_reg, klass, fail_label, ok_result_label);
1344
1345                 mono_bblock_add_inst (s->cbb, fail_label);
1346                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1347
1348                 if (s->compile_aot) {
1349                         int tproxy_reg = mono_regstate_next_int (s->rs);
1350                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1351                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1352                 } else {
1353                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1354                 }
1355
1356                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1357
1358                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1359                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1360
1361                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1362                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1363                 MONO_EMIT_NEW_COND_EXC (s, EQ, "InvalidCastException");
1364
1365                 MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1366                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1367
1368         } else {
1369
1370                 MONO_NEW_LABEL (s, no_proxy_label);
1371                 MONO_NEW_LABEL (s, fail_label);
1372
1373                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1374                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1375
1376                 if (s->compile_aot) {
1377                         int tproxy_reg = mono_regstate_next_int (s->rs);
1378                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1379                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1380                 } else {
1381                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1382                 }
1383                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, no_proxy_label);
1384
1385                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1386                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1387
1388                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1389                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1390                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, no_proxy_label);
1391
1392                 mini_emit_isninst_cast (s, klass_reg, klass, fail_label, ok_result_label);
1393                 mono_bblock_add_inst (s->cbb, fail_label);
1394                 MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1395                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1396
1397                 mono_bblock_add_inst (s->cbb, no_proxy_label);
1398                 mini_emit_castclass (s, klass_reg, klass);
1399         }
1400
1401         mono_bblock_add_inst (s->cbb, ok_result_label);
1402         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1403         mono_bblock_add_inst (s->cbb, end_label);
1404 }
1405
1406 stmt: CEE_STELEM_REF (OP_GROUP (reg, reg), reg),
1407 reg: OP_GROUP (reg, reg),
1408 reg: CEE_NEWARR (reg),
1409 lreg: OP_LMUL (lreg, lreg),
1410 lreg: OP_LMUL_OVF (lreg, lreg),
1411 lreg: OP_LMUL_OVF_UN (lreg, lreg),
1412 lreg: OP_LDIV (lreg, lreg),
1413 lreg: OP_LDIV_UN (lreg, lreg),
1414 lreg: OP_LREM (lreg, lreg),
1415 lreg: OP_LREM_UN (lreg, lreg),
1416 lreg: OP_LSHL (lreg, reg),
1417 lreg: OP_LSHR (lreg, reg),
1418 lreg: OP_LSHR_UN (lreg, reg) {
1419         g_assert_not_reached ();
1420 }
1421
1422 #
1423 # string support
1424 #
1425 reg: OP_GETCHR (reg, reg) {
1426         int mult_reg = mono_regstate_next_int (s->rs);
1427         int add_reg = mono_regstate_next_int (s->rs);
1428
1429         MONO_EMIT_BOUNDS_CHECK (s, state->left->reg1, MonoString, length, state->right->reg1);
1430         MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, mult_reg, state->right->reg1, 1);
1431         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult_reg, state->left->reg1);
1432         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADU2_MEMBASE, state->reg1,
1433                                    add_reg, G_STRUCT_OFFSET (MonoString, chars));
1434 }
1435
1436 reg: OP_GETCHR (reg, OP_ICONST) {
1437         int ind = 2 * state->right->tree->inst_c0 + G_STRUCT_OFFSET (MonoString, chars);
1438
1439         MONO_EMIT_BOUNDS_CHECK_IMM (s, state->left->reg1, MonoString, length, state->right->tree->inst_c0);
1440         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADU2_MEMBASE, state->reg1, state->left->reg1, ind);
1441 }
1442
1443 reg: OP_STRLEN (reg) {
1444         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->reg1,
1445                                    state->left->reg1, G_STRUCT_OFFSET (MonoString, length));
1446 }
1447
1448 reg: OP_GETTYPE (reg) {
1449         int vt_reg = mono_regstate_next_int (s->rs);
1450         MONO_EMIT_NEW_LOAD_MEMBASE (s, vt_reg, state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1451         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOAD_MEMBASE, state->reg1, vt_reg, G_STRUCT_OFFSET (MonoVTable, type));
1452 }
1453
1454 reg: OP_GETHASHCODE (reg) {
1455         int t1 = mono_regstate_next_int (s->rs);
1456
1457         #define MONO_OBJECT_ALIGNMENT_SHIFT     3
1458
1459         /* return (GPOINTER_TO_UINT (this) >> MONO_OBJECT_ALIGNMENT_SHIFT) * 2654435761u; */
1460
1461         MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, t1, state->left->reg1, MONO_OBJECT_ALIGNMENT_SHIFT);
1462         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, state->reg1, t1, 2654435761u);
1463 }
1464
1465 #
1466 # array support
1467 #
1468 reg: CEE_LDLEN (reg) {
1469         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->reg1,
1470                                    state->left->reg1, G_STRUCT_OFFSET (MonoArray, max_length));
1471 }
1472
1473 reg: OP_ARRAY_RANK (reg) {
1474         int vtable_reg = mono_regstate_next_int (s->rs);
1475         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, vtable_reg,
1476                                        state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1477         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, state->reg1,
1478                                        vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1479 }
1480
1481 reg: OP_CHECK_ARRAY_TYPE (reg) {
1482
1483         MonoClass* array_class = mono_array_class_get (tree->klass, 1);
1484
1485         int vtable_reg = mono_regstate_next_int (s->rs);
1486
1487         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, vtable_reg,
1488                                        state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1489
1490         if (s->opt & MONO_OPT_SHARED) {
1491                 int class_reg = mono_regstate_next_int (s->rs);
1492                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, class_reg,
1493                                                vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1494                 if (s->compile_aot) {
1495                         int klass_reg = mono_regstate_next_int (s->rs);
1496                         MONO_EMIT_NEW_CLASSCONST (s, klass_reg, array_class);
1497                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, class_reg, klass_reg);
1498                 } else {
1499                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, class_reg, array_class);
1500                 }
1501         } else {
1502                 if (s->compile_aot) {
1503                         int vt_reg = mono_regstate_next_int (s->rs);
1504                         MONO_EMIT_NEW_VTABLECONST (s, vt_reg, mono_class_vtable (s->domain, array_class));
1505                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, vtable_reg, vt_reg);
1506                 } else {
1507                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, vtable_reg, mono_class_vtable (s->domain, array_class));
1508                 }
1509         }
1510
1511         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "ArrayTypeMismatchException");
1512         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
1513 }
1514
1515 reg: CEE_LDELEMA (reg, OP_ICONST) "15" {
1516         guint32 size = mono_class_array_element_size (tree->klass);
1517
1518         int ind = size * state->right->tree->inst_c0 + G_STRUCT_OFFSET (MonoArray, vector);
1519
1520         MONO_EMIT_BOUNDS_CHECK_IMM (s, state->left->reg1, MonoArray, max_length, state->right->tree->inst_c0);
1521         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, state->left->reg1, ind);
1522 }
1523
1524 reg: CEE_LDELEMA (reg, reg) "20" {
1525         int mult_reg = mono_regstate_next_int (s->rs);
1526         int add_reg = mono_regstate_next_int (s->rs);
1527         guint32 size = mono_class_array_element_size (tree->klass);
1528
1529         MONO_EMIT_BOUNDS_CHECK (s, state->left->reg1, MonoArray, max_length, state->right->reg1);
1530         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, mult_reg, state->right->reg1, size);
1531         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult_reg, state->left->reg1);
1532         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, add_reg, G_STRUCT_OFFSET (MonoArray, vector));
1533 }
1534
1535 reg: CEE_REFANYVAL (reg) {
1536         int klass_reg = mono_regstate_next_int (s->rs);
1537         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass));
1538         if (s->compile_aot) {
1539                 int const_reg = mono_regstate_next_int (s->rs);
1540                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, tree->inst_newa_class);
1541                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, const_reg);
1542         } else {
1543                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, tree->inst_newa_class);
1544         }
1545         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1546         MONO_EMIT_NEW_LOAD_MEMBASE (s, state->reg1, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, value));
1547 }
1548
1549 reg: OP_REFANYTYPE (reg) {
1550         MONO_EMIT_NEW_LOAD_MEMBASE (s, state->reg1, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, type));
1551 }
1552
1553 stmt: CEE_MKREFANY (OP_GROUP (reg, OP_ICONST), reg),
1554 stmt: CEE_MKREFANY (OP_GROUP (reg, OP_I8CONST), reg) {
1555         MonoClass *klass = (MonoClass*)(tree->inst_left->inst_right->inst_p0);
1556         if (s->compile_aot) {
1557                 int const_reg = mono_regstate_next_int (s->rs);
1558                 int type_reg = mono_regstate_next_int (s->rs);
1559                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1560                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass), const_reg);
1561                 MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, type_reg, const_reg, G_STRUCT_OFFSET (MonoClass, byval_arg));
1562                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, type), type_reg);
1563         }
1564         else {
1565                 MONO_EMIT_NEW_STORE_MEMBASE_IMM (s, OP_STOREP_MEMBASE_IMM, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, type), &klass->byval_arg);
1566                 MONO_EMIT_NEW_STORE_MEMBASE_IMM (s, OP_STOREP_MEMBASE_IMM, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass), klass);
1567         }
1568         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, value), state->left->left->reg1);
1569 }
1570
1571 %%
1572
1573 /*
1574  * Emit code which checks whenever the interface id of @klass is smaller than
1575  * than the value given by max_iid_reg.
1576 */
1577 static void
1578 mini_emit_max_iid_check (MonoCompile *s, int max_iid_reg, MonoClass *klass,
1579                                                  MonoInst *false_target)
1580 {
1581         if (s->compile_aot) {
1582                 int iid_reg = mono_regstate_next_int (s->rs);
1583                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_IID);
1584                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, max_iid_reg, iid_reg);
1585         }
1586         else
1587                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, max_iid_reg, klass->interface_id);
1588         if (false_target)
1589                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BLT_UN, false_target);
1590         else
1591                 MONO_EMIT_NEW_COND_EXC (s, LT_UN, "InvalidCastException");
1592 }
1593
1594 /* Same as above, but obtains max_iid from a vtable */
1595 static void
1596 mini_emit_max_iid_check_vtable (MonoCompile *s, int vtable_reg, MonoClass *klass,
1597                                                                  MonoInst *false_target)
1598 {
1599         int max_iid_reg = mono_regstate_next_int (s->rs);
1600
1601         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, max_iid_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, max_interface_id));
1602         mini_emit_max_iid_check (s, max_iid_reg, klass, false_target);
1603 }
1604
1605 /* Same as above, but obtains max_iid from a klass */
1606 static void
1607 mini_emit_max_iid_check_class (MonoCompile *s, int klass_reg, MonoClass *klass,
1608                                                                  MonoInst *false_target)
1609 {
1610         int max_iid_reg = mono_regstate_next_int (s->rs);
1611
1612         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, max_iid_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, max_interface_id));
1613         mini_emit_max_iid_check (s, max_iid_reg, klass, false_target);
1614 }
1615
1616 static void
1617 mini_emit_load_intf_reg (MonoCompile *s, int intf_reg, int ioffset_reg, MonoClass *klass)
1618 {
1619         if (s->compile_aot) {
1620                 int iid_reg = mono_regstate_next_int (s->rs);
1621                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_IID);
1622 #if SIZEOF_VOID_P == 8
1623                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, iid_reg, iid_reg, 3);
1624 #else
1625                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, iid_reg, iid_reg, 2);
1626 #endif
1627                 MONO_EMIT_NEW_BIALU (s, CEE_ADD, ioffset_reg, ioffset_reg, iid_reg);
1628                 MONO_EMIT_NEW_LOAD_MEMBASE (s, intf_reg, ioffset_reg, 0);
1629         }
1630         else
1631                 MONO_EMIT_NEW_LOAD_MEMBASE (s, intf_reg, ioffset_reg, klass->interface_id * SIZEOF_VOID_P);
1632 }
1633
1634 /* Emit code which loads <vtable_reg>->interface_offsets [klass->interface_id] */
1635 static void
1636 mini_emit_load_intf_reg_vtable (MonoCompile *s, int intf_reg, int vtable_reg, MonoClass *klass)
1637 {
1638         int ioffset_reg = mono_regstate_next_int (s->rs);
1639
1640         MONO_EMIT_NEW_LOAD_MEMBASE (s, ioffset_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, interface_offsets));
1641         mini_emit_load_intf_reg (s, intf_reg, ioffset_reg, klass);
1642 }
1643
1644 /* Emit code which loads <klass_reg>->interface_offsets [klass->interface_id] */
1645 static void
1646 mini_emit_load_intf_reg_class (MonoCompile *s, int intf_reg, int klass_reg, MonoClass *klass)
1647 {
1648         int ioffset_reg = mono_regstate_next_int (s->rs);
1649
1650         MONO_EMIT_NEW_LOAD_MEMBASE (s, ioffset_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, interface_offsets));
1651
1652         if (s->compile_aot) {
1653                 int iid_reg = mono_regstate_next_int (s->rs);
1654                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_IID);
1655                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, iid_reg, iid_reg, 2);
1656                 MONO_EMIT_NEW_BIALU (s, CEE_ADD, ioffset_reg, ioffset_reg, iid_reg);
1657                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, intf_reg, ioffset_reg, 0);
1658         }
1659         else
1660                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, intf_reg, ioffset_reg, klass->interface_id * sizeof (int));
1661 }
1662
1663 void
1664 mini_emit_virtual_call (MonoCompile *cfg, void *st, MonoInst *tree, int novirtop, int virtop)
1665 {
1666         MonoMethod *method = ((MonoCallInst*)tree)->method;
1667         int vtable_reg, slot_reg, this_reg;
1668         MBState *state = st;
1669         gboolean enable_for_aot = TRUE;
1670
1671         this_reg = state->left->reg1;
1672         mono_arch_emit_this_vret_args (cfg, (MonoCallInst*)tree, this_reg, state->left->tree->type, novirtop == OP_VCALL? state->right->reg1: -1);
1673
1674 #ifdef MONO_ARCH_NEED_GOT_VAR
1675         /* Can't create a got var at this point */
1676         enable_for_aot = cfg->got_var != NULL;
1677 #else
1678         enable_for_aot = TRUE;
1679 #endif
1680
1681         if ((!cfg->compile_aot || enable_for_aot) &&
1682                 (!(method->flags & METHOD_ATTRIBUTE_VIRTUAL) ||
1683              ((method->flags & METHOD_ATTRIBUTE_FINAL) &&
1684              method->wrapper_type != MONO_WRAPPER_REMOTING_INVOKE_WITH_CHECK))) {
1685                 /*
1686                  * the method is not virtual, we just need to ensure this is not null
1687                  * and then we can call the method directly.
1688                  */
1689                 if (method->klass->marshalbyref || method->klass == mono_defaults.object_class) {
1690                         method = ((MonoCallInst*)tree)->method = mono_marshal_get_remoting_invoke_with_check (method);
1691                 }
1692
1693                 if (!method->string_ctor)
1694                         MONO_EMIT_NEW_UNALU (cfg, OP_CHECK_THIS, -1, this_reg);
1695
1696                 tree->dreg = state->reg1;
1697                 tree->opcode = novirtop;
1698                 mono_bblock_add_inst (cfg->cbb, tree);
1699                 return;
1700         }
1701
1702         /* Initialize method->slot */
1703         mono_class_setup_vtable (method->klass);
1704
1705         vtable_reg = mono_regstate_next_int (cfg->rs);
1706         MONO_EMIT_NEW_LOAD_MEMBASE (cfg, vtable_reg, this_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1707         if (method->klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1708                 slot_reg = mono_regstate_next_int (cfg->rs);
1709                 mini_emit_load_intf_reg_vtable (cfg, slot_reg, vtable_reg, method->klass);
1710                 tree->inst_offset = method->slot * SIZEOF_VOID_P;
1711         } else {
1712                 slot_reg = vtable_reg;
1713                 tree->inst_offset = G_STRUCT_OFFSET (MonoVTable, vtable) + (method->slot * SIZEOF_VOID_P);
1714         }
1715
1716         tree->dreg = state->reg1;
1717         tree->opcode = virtop;
1718         tree->sreg1 = slot_reg;
1719         ((MonoCallInst*)tree)->virtual = TRUE;
1720         mono_bblock_add_inst (cfg->cbb, tree);
1721 }
1722
1723 void
1724 mini_emit_isninst_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1725 {
1726         int idepth_reg = mono_regstate_next_int (s->rs);
1727         int stypes_reg = mono_regstate_next_int (s->rs);
1728         int stype = mono_regstate_next_int (s->rs);
1729
1730         if (klass->idepth > MONO_DEFAULT_SUPERTABLE_SIZE) {
1731                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, idepth_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, idepth));
1732                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, idepth_reg, klass->idepth);
1733                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BLT_UN, false_target);
1734         }
1735         MONO_EMIT_NEW_LOAD_MEMBASE (s, stypes_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, supertypes));
1736         MONO_EMIT_NEW_LOAD_MEMBASE (s, stype, stypes_reg, ((klass->idepth - 1) * SIZEOF_VOID_P));
1737         if (s->compile_aot) {
1738                 int const_reg = mono_regstate_next_int (s->rs);
1739                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1740                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, stype, const_reg);
1741         } else {
1742                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, stype, klass);
1743         }
1744         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, true_target);
1745 }
1746
1747 void
1748 mini_emit_isninst_iface_cast (MonoCompile *s, int vtable_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1749 {
1750         int intf_reg = mono_regstate_next_int (s->rs);
1751
1752         mini_emit_max_iid_check_vtable (s, vtable_reg, klass, false_target);
1753         mini_emit_load_intf_reg_vtable (s, intf_reg, vtable_reg, klass);
1754         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, 0);
1755         /* the object_is_null target simply copies the input register to the output */
1756         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, true_target);
1757 }
1758
1759 /*
1760  * Variant of the above that takes a register to the class, not the vtable.
1761  * Note that inside interfaces_offsets the empty value is -1, not NULL, in this case.
1762  */
1763 void
1764 mini_emit_isninst_iface_class_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1765 {
1766         int intf_reg = mono_regstate_next_int (s->rs);
1767
1768         mini_emit_max_iid_check_class (s, klass_reg, klass, false_target);
1769         mini_emit_load_intf_reg_class (s, intf_reg, klass_reg, klass);
1770         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, -1);
1771         /* the object_is_null target simply copies the input register to the output */
1772         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BGE, true_target);
1773 }
1774
1775 void
1776 mini_emit_castclass (MonoCompile *s, int klass_reg, MonoClass *klass)
1777 {
1778         int idepth_reg = mono_regstate_next_int (s->rs);
1779         int stypes_reg = mono_regstate_next_int (s->rs);
1780         int stype = mono_regstate_next_int (s->rs);
1781
1782         if (klass->idepth > MONO_DEFAULT_SUPERTABLE_SIZE) {
1783                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, idepth_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, idepth));
1784                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, idepth_reg, klass->idepth);
1785                 MONO_EMIT_NEW_COND_EXC (s, LT_UN, "InvalidCastException");
1786         }
1787         MONO_EMIT_NEW_LOAD_MEMBASE (s, stypes_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, supertypes));
1788         MONO_EMIT_NEW_LOAD_MEMBASE (s, stype, stypes_reg, ((klass->idepth - 1) * SIZEOF_VOID_P));
1789         if (s->compile_aot) {
1790                 int const_reg = mono_regstate_next_int (s->rs);
1791                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1792                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, stype, const_reg);
1793         } else {
1794                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, stype, klass);
1795         }
1796         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1797 }
1798
1799 void
1800 mini_emit_castclass_iface (MonoCompile *s, int vtable_reg, MonoClass *klass)
1801 {
1802         int intf_reg = mono_regstate_next_int (s->rs);
1803
1804         mini_emit_max_iid_check_vtable (s, vtable_reg, klass, NULL);
1805         mini_emit_load_intf_reg_vtable (s, intf_reg, vtable_reg, klass);
1806         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, 0);
1807         MONO_EMIT_NEW_COND_EXC (s, EQ, "InvalidCastException");
1808 }
1809
1810 /*
1811  * Variant of the aboce that takes a register to the class, not the vtable.
1812  * Note that inside interfaces_offsets the empty value is -1, not NULL, in this case.
1813  */
1814 void
1815 mini_emit_castclass_iface_class (MonoCompile *s, int klass_reg, MonoClass *klass)
1816 {
1817         int intf_reg = mono_regstate_next_int (s->rs);
1818
1819         mini_emit_max_iid_check_class (s, klass_reg, klass, NULL);
1820         mini_emit_load_intf_reg_class (s, intf_reg, klass_reg, klass);
1821         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, -1);
1822         MONO_EMIT_NEW_COND_EXC (s, EQ, "InvalidCastException");
1823 }
1824
1825 static int
1826 size_to_load_u_membase (int size)
1827 {
1828         switch (size) {
1829         case 1:
1830                 return OP_LOADU1_MEMBASE;
1831         case 2:
1832                 return OP_LOADU2_MEMBASE;
1833         case 4:
1834                 return OP_LOADU4_MEMBASE;
1835         case 8:
1836                 return OP_LOADI8_MEMBASE;
1837         default:
1838                 g_assert_not_reached ();
1839                 return -1;
1840         }
1841 }
1842
1843 static int
1844 size_to_store_membase_reg (int size)
1845 {
1846         switch (size) {
1847         case 1:
1848                 return OP_STOREI1_MEMBASE_REG;
1849         case 2:
1850                 return OP_STOREI2_MEMBASE_REG;
1851         case 4:
1852                 return OP_STOREI4_MEMBASE_REG;
1853         case 8:
1854                 return OP_STOREI8_MEMBASE_REG;
1855         default:
1856                 g_assert_not_reached ();
1857                 return -1;
1858         }
1859 }
1860
1861 void
1862 mini_emit_memcpy (MonoCompile *s, int destreg, int doffset, int srcreg, int soffset, int size, int align)
1863 {
1864         int cur_reg;
1865
1866         /* FIXME: consider alignment for archs that need it. */
1867 #if !NO_UNALIGNED_ACCESS
1868         if (sizeof (gpointer) == 8) {
1869                 while (size >= 8) {
1870                         cur_reg = mono_regstate_next_int (s->rs);
1871                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI8_MEMBASE, cur_reg, srcreg, soffset);
1872                         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI8_MEMBASE_REG, destreg, doffset, cur_reg);
1873                         doffset += 8;
1874                         soffset += 8;
1875                         size -= 8;
1876                 }
1877         }
1878 #endif
1879
1880         while (size >= 4) {
1881                 cur_reg = mono_regstate_next_int (s->rs);
1882                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, cur_reg, srcreg, soffset);
1883                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI4_MEMBASE_REG, destreg, doffset, cur_reg);
1884                 doffset += 4;
1885                 soffset += 4;
1886                 size -= 4;
1887         }
1888         while (size >= 2) {
1889                 cur_reg = mono_regstate_next_int (s->rs);
1890                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI2_MEMBASE, cur_reg, srcreg, soffset);
1891                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI2_MEMBASE_REG, destreg, doffset, cur_reg);
1892                 doffset += 2;
1893                 soffset += 2;
1894                 size -= 2;
1895         }
1896         while (size >= 1) {
1897                 cur_reg = mono_regstate_next_int (s->rs);
1898                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI1_MEMBASE, cur_reg, srcreg, soffset);
1899                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI1_MEMBASE_REG, destreg, doffset, cur_reg);
1900                 doffset += 1;
1901                 soffset += 1;
1902                 size -= 1;
1903         }
1904 }
1905
1906 void
1907 mini_emit_memset (MonoCompile *s, int destreg, int offset, int size, int val, int align)
1908 {
1909         int val_reg = mono_regstate_next_int (s->rs);
1910
1911         if (sizeof (gpointer) == 8)
1912                 MONO_EMIT_NEW_I8CONST (s, val_reg, val);
1913         else
1914                 MONO_EMIT_NEW_ICONST (s, val_reg, val);
1915
1916         /* FIXME: consider alignment for archs that need it. */
1917 #if !NO_UNALIGNED_ACCESS
1918         if (sizeof (gpointer) == 8) {
1919                 if (offset % 8) {
1920                         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI4_MEMBASE_REG, destreg, offset, val_reg);
1921                         offset += 4;
1922                         size -= 4;
1923                 }
1924                 while (size >= 8) {
1925                         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI8_MEMBASE_REG, destreg, offset, val_reg);
1926                         offset += 8;
1927                         size -= 8;
1928                 }
1929         }
1930 #endif
1931
1932         while (size >= 4) {
1933                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI4_MEMBASE_REG, destreg, offset, val_reg);
1934                 offset += 4;
1935                 size -= 4;
1936         }
1937         while (size >= 2) {
1938                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI2_MEMBASE_REG, destreg, offset, val_reg);
1939                 offset += 2;
1940                 size -= 2;
1941         }
1942         while (size >= 1) {
1943                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI1_MEMBASE_REG, destreg, offset, val_reg);
1944                 offset += 1;
1945                 size -= 1;
1946         }
1947 }
1948
1949 /* This is similar to NEW_AOTCONST in mini.c, but generates linear IL */
1950 void
1951 mini_emit_aotconst (MonoCompile *cfg, int dreg, MonoJumpInfoType patch_type, gpointer cons)
1952 {
1953         MonoInst *dest, *pinfo;
1954         int got_var_reg;
1955
1956         dest = mono_mempool_alloc0 (cfg->mempool, sizeof (MonoInst));
1957         dest->opcode = OP_GOT_ENTRY;
1958
1959         g_assert (cfg->got_var);
1960
1961         pinfo = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));
1962         pinfo->opcode = OP_PATCH_INFO;
1963         pinfo->inst_left = cons;
1964         pinfo->inst_right = (gpointer)(patch_type);
1965
1966         if (cfg->got_var->opcode == OP_REGOFFSET) {
1967                 got_var_reg = mono_regstate_next_int (cfg->rs);
1968                 MONO_EMIT_NEW_LOAD_MEMBASE (cfg, got_var_reg, cfg->got_var->inst_basereg, cfg->got_var->inst_offset);
1969         }
1970         else {
1971                 g_assert (cfg->got_var->opcode == OP_REGVAR);
1972                 got_var_reg = cfg->got_var->dreg;
1973         }
1974
1975         dest = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));
1976         dest->opcode = OP_GOT_ENTRY;
1977         dest->inst_left = cfg->got_var; /* not used */
1978         dest->inst_right = pinfo;
1979
1980         dest->inst_basereg = got_var_reg;
1981         dest->dreg = dreg;
1982         mono_bblock_add_inst (cfg->cbb, dest);
1983 }
1984
1985 int
1986 ldind_to_load_membase (int opcode)
1987 {
1988         switch (opcode) {
1989         case CEE_LDIND_I1:
1990                 return OP_LOADI1_MEMBASE;
1991         case CEE_LDIND_U1:
1992                 return OP_LOADU1_MEMBASE;
1993         case CEE_LDIND_I2:
1994                 return OP_LOADI2_MEMBASE;
1995         case CEE_LDIND_U2:
1996                 return OP_LOADU2_MEMBASE;
1997         case CEE_LDIND_I4:
1998                 return OP_LOADI4_MEMBASE;
1999         case CEE_LDIND_U4:
2000                 return OP_LOADU4_MEMBASE;
2001         case CEE_LDIND_I:
2002                 return OP_LOAD_MEMBASE;
2003         case CEE_LDIND_REF:
2004                 return OP_LOAD_MEMBASE;
2005         case CEE_LDIND_I8:
2006                 return OP_LOADI8_MEMBASE;
2007         default:
2008                 g_assert_not_reached ();
2009         }
2010
2011         return -1;
2012 }
2013