mono/mini/inssel.brg

   1 /*
   2  * inssel.brg: instruction selection
   3  *
   4  * Author:
   5  *   Dietmar Maurer (dietmar@ximian.com)
   6  *   Paolo Molaro (lupus@ximian.com)
   7  *
   8  * (C) 2002 Ximian, Inc.
   9  *
  10  */
  11 #include <config.h>
  12 #include <string.h>
  13
  14 #include "mini.h"
  15 #include <mono/metadata/marshal.h>
  16 #include <mono/metadata/debug-helpers.h>
  17
  18 #define MBTREE_TYPE  MonoInst
  19 #define MBCGEN_TYPE  MonoCompile
  20 #define MBCOST_DATA  MonoCompile
  21 #define MBALLOC_STATE mono_mempool_alloc (data->state_pool, sizeof (MBState))
  22 #define MBMAX_OPCODES OP_LAST
  23 #define MBGET_OP_NAME(op) mono_inst_name (op)
  24
  25 #define MBTREE_OP(t) ((t)->opcode)
  26 #define MBTREE_LEFT(t) ((t)->inst_left)
  27 #define MBTREE_RIGHT(t) ((t)->inst_right)
  28
  29 #define MONO_EMIT_UNALU(cfg,inst,op,dr,sr1) do { \
  30                 (inst)->opcode = op; \
  31                 (inst)->dreg = dr; \
  32                 (inst)->sreg1 = sr1; \
  33                 mono_bblock_add_inst (cfg->cbb, inst); \
  34         } while (0)
  35
  36 #define MONO_EMIT_NEW_UNALU(cfg,op,dr,sr1) do { \
  37                 MonoInst *inst; \
  38                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  39                 inst->opcode = op; \
  40                 inst->dreg = dr; \
  41                 inst->sreg1 = sr1; \
  42                 mono_bblock_add_inst (cfg->cbb, inst); \
  43         } while (0)
  44
  45 #define MONO_EMIT_BIALU(cfg,inst,op,dr,sr1,sr2) do { \
  46                 (inst)->opcode = op; \
  47                 (inst)->dreg = dr; \
  48                 (inst)->sreg1 = sr1; \
  49                 (inst)->sreg2 = sr2; \
  50                 mono_bblock_add_inst (cfg->cbb, inst); \
  51         } while (0)
  52
  53 #define MONO_EMIT_NEW_BIALU(cfg,op,dr,sr1,sr2) do { \
  54                 MonoInst *inst; \
  55                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  56                 inst->opcode = op; \
  57                 inst->dreg = dr; \
  58                 inst->sreg1 = sr1; \
  59                 inst->sreg2 = sr2; \
  60                 mono_bblock_add_inst (cfg->cbb, inst); \
  61         } while (0)
  62
  63 #define MONO_EMIT_BIALU_IMM(cfg,inst,op,dr,sr,imm) do { \
  64                 (inst)->opcode = op; \
  65                 (inst)->dreg = dr; \
  66                 (inst)->sreg1 = sr; \
  67                 (inst)->inst_p1 = GINT_TO_POINTER (imm); \
  68                 mono_bblock_add_inst (cfg->cbb, inst); \
  69         } while (0)
  70
  71 #define MONO_EMIT_NEW_BIALU_IMM(cfg,op,dr,sr,imm) do { \
  72                 MonoInst *inst; \
  73                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  74                 inst->opcode = op; \
  75                 inst->dreg = dr; \
  76                 inst->sreg1 = sr; \
  77                 inst->inst_p1 = GINT_TO_POINTER (imm); \
  78                 mono_bblock_add_inst (cfg->cbb, inst); \
  79         } while (0)
  80
  81 #define MONO_EMIT_LOAD_MEMBASE(cfg,inst,dr,base,offset) do { \
  82                 (inst)->opcode = OP_LOAD_MEMBASE; \
  83                 (inst)->dreg = dr; \
  84                 (inst)->inst_basereg = base; \
  85                 (inst)->inst_offset = offset; \
  86                 mono_bblock_add_inst (cfg->cbb, inst); \
  87         } while (0)
  88
  89 #define MONO_EMIT_LOAD_MEMBASE_OP(cfg,inst,op,dr,base,offset) do { \
  90                 (inst)->opcode = op; \
  91                 (inst)->dreg = dr; \
  92                 (inst)->inst_basereg = base; \
  93                 (inst)->inst_offset = offset; \
  94                 mono_bblock_add_inst (cfg->cbb, inst); \
  95         } while (0)
  96
  97 #define MONO_EMIT_NEW_LOAD_MEM(cfg,dr,addr) do { \
  98                 MonoInst *inst; \
  99                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 100                 inst->opcode = OP_LOADU4_MEM; \
 101                 inst->dreg = dr; \
 102                 inst->inst_p0 = addr; \
 103                 mono_bblock_add_inst (cfg->cbb, inst); \
 104         } while (0)
 105
 106 #define MONO_EMIT_NEW_LOAD_MEMBASE(cfg,dr,base,offset) do { \
 107                 MonoInst *inst; \
 108                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 109                 inst->opcode = OP_LOAD_MEMBASE; \
 110                 inst->dreg = dr; \
 111                 inst->inst_basereg = base; \
 112                 inst->inst_offset = offset; \
 113                 mono_bblock_add_inst (cfg->cbb, inst); \
 114         } while (0)
 115
 116 #define MONO_EMIT_NEW_LOAD_MEMBASE_OP(cfg,op,dr,base,offset) do { \
 117                 MonoInst *inst; \
 118                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 119                 inst->opcode = op; \
 120                 inst->dreg = dr; \
 121                 inst->inst_basereg = base; \
 122                 inst->inst_offset = offset; \
 123                 mono_bblock_add_inst (cfg->cbb, inst); \
 124         } while (0)
 125
 126 #define MONO_EMIT_STORE_MEMBASE(cfg,inst,op,base,offset,sr) do { \
 127                 (inst)->opcode = op; \
 128                 (inst)->sreg1 = sr; \
 129                 (inst)->inst_destbasereg = base; \
 130                 (inst)->inst_offset = offset; \
 131                 mono_bblock_add_inst (cfg->cbb, inst); \
 132         } while (0)
 133
 134 #define MONO_EMIT_NEW_STORE_MEMBASE(cfg,op,base,offset,sr) do { \
 135                 MonoInst *inst; \
 136                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 137                 inst->opcode = op; \
 138                 inst->sreg1 = sr; \
 139                 inst->inst_destbasereg = base; \
 140                 inst->inst_offset = offset; \
 141                 mono_bblock_add_inst (cfg->cbb, inst); \
 142         } while (0)
 143
 144 #define MONO_EMIT_STORE_MEMBASE_IMM(cfg,inst,op,base,offset,imm) do { \
 145                 (inst)->opcode = op; \
 146                 (inst)->inst_destbasereg = base; \
 147                 (inst)->inst_offset = offset; \
 148                 (inst)->inst_p1 = (gpointer)imm; \
 149                 mono_bblock_add_inst (cfg->cbb, inst); \
 150         } while (0)
 151
 152 #define MONO_EMIT_NEW_STORE_MEMBASE_IMM(cfg,op,base,offset,imm) do { \
 153                 MonoInst *inst; \
 154                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 155                 inst->opcode = op; \
 156                 inst->inst_destbasereg = base; \
 157                 inst->inst_offset = offset; \
 158                 inst->inst_p1 = (gpointer)imm; \
 159                 mono_bblock_add_inst (cfg->cbb, inst); \
 160         } while (0)
 161
 162 #define MONO_EMIT_NEW_COMPARE_IMM(cfg,sr1,imm) do { \
 163                 MonoInst *inst; \
 164                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 165                 inst->opcode = OP_COMPARE_IMM;  \
 166                 inst->sreg1 = sr1; \
 167                 inst->inst_p1 = (gpointer)imm; \
 168                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 169         } while (0)
 170
 171 #define MONO_EMIT_NEW_ICOMPARE_IMM(cfg,sr1,imm) do { \
 172                 MonoInst *inst; \
 173                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 174                 inst->opcode = sizeof (void*) == 8 ? OP_ICOMPARE_IMM : OP_COMPARE_IMM;  \
 175                 inst->sreg1 = sr1; \
 176                 inst->inst_p1 = (gpointer)imm; \
 177                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 178         } while (0)
 179
 180 #define MONO_EMIT_NEW_COND_EXC(cfg,cond,name) do { \
 181                 MonoInst *inst; \
 182                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 183                 inst->opcode = OP_COND_EXC_##cond;  \
 184                 inst->inst_p1 = (char*)name; \
 185                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 186         } while (0)
 187
 188 #define MONO_EMIT_NEW_ICONST(cfg,dr,imm) do { \
 189                 MonoInst *inst; \
 190                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 191                 inst->opcode = OP_ICONST;       \
 192                 inst->dreg = dr; \
 193                 inst->inst_c0 = imm; \
 194                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 195         } while (0)
 196
 197 #define MONO_EMIT_NEW_I8CONST(cfg,dr,imm) do { \
 198                 MonoInst *inst; \
 199                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 200                 inst->opcode = OP_I8CONST;      \
 201                 inst->dreg = dr; \
 202                 inst->inst_l = imm; \
 203                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 204         } while (0)
 205
 206 #define MONO_EMIT_NEW_PCONST(cfg,dr,imm) do { \
 207                 MonoInst *inst; \
 208                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 209                 inst->opcode = OP_ICONST;       \
 210                 inst->dreg = dr; \
 211                 inst->inst_p0 = (gpointer) imm; \
 212                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 213         } while (0)
 214
 215
 216 #ifdef MONO_ARCH_NEED_GOT_VAR
 217
 218 #define MONO_EMIT_NEW_AOTCONST(cfg,dr,cons,patch_type) do { \
 219                 mini_emit_aotconst ((cfg), (dr), (patch_type), (cons)); \
 220     } while (0)
 221
 222 #else
 223
 224 #define MONO_EMIT_NEW_AOTCONST(cfg,dr,imm,type) do { \
 225                 MonoInst *inst; \
 226                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 227                 inst->opcode = OP_AOTCONST;     \
 228                 inst->dreg = dr; \
 229                 inst->inst_p0 = imm; \
 230                 inst->inst_c1 = type; \
 231                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 232         } while (0)
 233
 234 #endif
 235
 236 #define MONO_EMIT_NEW_CLASSCONST(cfg,dr,imm) MONO_EMIT_NEW_AOTCONST(cfg,dr,imm,MONO_PATCH_INFO_CLASS)
 237 #define MONO_EMIT_NEW_VTABLECONST(cfg,dest,vtable) MONO_EMIT_NEW_AOTCONST ((cfg), (dest), (cfg)->compile_aot ? (gpointer)((vtable)->klass) : (vtable), MONO_PATCH_INFO_VTABLE)
 238
 239 #define MONO_EMIT_NEW_BRANCH_BLOCK(cfg,op,targetbb) do { \
 240                 MonoInst *inst; \
 241                 MonoInst *target_label; \
 242                 target_label = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 243                 target_label->opcode = OP_LABEL;        \
 244                 target_label->next = (targetbb)->code; \
 245                 target_label->inst_c0 = (targetbb)->native_offset; \
 246                 (targetbb)->code = target_label; \
 247                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 248                 inst->opcode = op;      \
 249                 inst->inst_i0 = target_label;   \
 250                 inst->flags = MONO_INST_BRLABEL;        \
 251                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 252         } while (0)
 253
 254 #define MONO_EMIT_NEW_BRANCH_LABEL(cfg,op,label) do { \
 255                 MonoInst *inst; \
 256                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 257                 inst->opcode = op;      \
 258                 inst->inst_i0 = label;  \
 259                 inst->flags = MONO_INST_BRLABEL;        \
 260                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 261         } while (0)
 262
 263 #define MONO_NEW_LABEL(cfg,inst) do { \
 264                 (inst) = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));       \
 265                 (inst)->opcode = OP_LABEL;      \
 266         } while (0)
 267
 268 #define MONO_EMIT_BOUNDS_CHECK(cfg, array_reg, array_type, array_length_field, index_reg) do { \
 269                 if (! (state->tree->flags & MONO_INST_NORANGECHECK)) { \
 270                         int _length_reg = mono_regstate_next_int (cfg->rs); \
 271                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (cfg, OP_LOADI4_MEMBASE, _length_reg, array_reg, G_STRUCT_OFFSET (array_type, array_length_field)); \
 272                         MONO_EMIT_NEW_BIALU (cfg, OP_COMPARE, -1, _length_reg, index_reg); \
 273                         MONO_EMIT_NEW_COND_EXC (cfg, LE_UN, "IndexOutOfRangeException"); \
 274                 } \
 275         } while (0)
 276
 277 #define MONO_EMIT_BOUNDS_CHECK_IMM(cfg, array_reg, array_type, array_length_field, index_imm) do { \
 278                 if (! (state->tree->flags & MONO_INST_NORANGECHECK)) { \
 279                         int _length_reg = mono_regstate_next_int (cfg->rs); \
 280                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (cfg, OP_LOADI4_MEMBASE, _length_reg, array_reg, G_STRUCT_OFFSET (array_type, array_length_field)); \
 281                         MONO_EMIT_NEW_BIALU_IMM (cfg, OP_COMPARE_IMM, -1, _length_reg, index_imm); \
 282                         MONO_EMIT_NEW_COND_EXC (cfg, LE_UN, "IndexOutOfRangeException"); \
 283                 } \
 284         } while (0)
 285
 286 /* we need to kludge state because monoburg puts this stuff before the definition of MBState */
 287 void mini_emit_virtual_call (MonoCompile *s, void *state, MonoInst *tree, int novirt_op, int virtop);
 288 void mini_emit_isninst_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target);
 289 void mini_emit_isninst_iface_cast (MonoCompile *s, int vtable_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target);
 290 void mini_emit_isninst_iface_class_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target);
 291 void mini_emit_castclass (MonoCompile *s, int klass_reg, MonoClass *klass);
 292 void mini_emit_castclass_iface (MonoCompile *s, int vtable_reg, MonoClass *klass);
 293 void mini_emit_castclass_iface_class (MonoCompile *s, int klass_reg, MonoClass *klass);
 294
 295 void mini_emit_memcpy (MonoCompile *s, int destreg, int doffset, int srcreg, int soffset, int size, int align);
 296 void mini_emit_memset (MonoCompile *s, int destreg, int offset, int size, int val, int align);
 297 int ldind_to_load_membase (int opcode);
 298 void mini_emit_aotconst (MonoCompile *cfg, int dreg, MonoJumpInfoType patch_type, gpointer cons);
 299
 300 %%
 301
 302 %termprefix OP_ CEE_
 303
 304 %start stmt
 305
 306 #
 307 # base addressing mode
 308 #
 309
 310 base: reg "0" {
 311         /* we create a new MonoInst in chain rules and set state->tree to it
 312          * since a MBState (and hence state->tree) is reused in chain rules and
 313          * normal rules.
 314          */
 315         MonoInst *inst;
 316         inst = mono_mempool_alloc0 (s->mempool, sizeof (MonoInst));
 317         inst->opcode = OP_ICONST; /* doesn't matter */
 318         inst->inst_basereg = state->reg1;
 319         inst->inst_offset = 0;
 320         state->tree = inst;
 321         //g_print ("mybase: (assigned R%d from R%d - R%d)\n", state->reg1, tree->dreg, state->reg2);
 322         //tree->inst_offset = 0;
 323         //tree->inst_basereg = state->reg1;
 324 }
 325
 326 base: CEE_LDIND_I (OP_REGVAR) "0" {
 327         tree->inst_offset = 0;
 328         tree->inst_basereg = state->left->tree->dreg;
 329 }
 330
 331 base: OP_REGOFFSET "0" {
 332         /* nothing to do */
 333 }
 334
 335 base: OP_LDADDR (OP_REGOFFSET),
 336 base: CEE_LDOBJ (OP_REGOFFSET) "0" {
 337         tree->inst_offset = state->left->tree->inst_offset;
 338         tree->inst_basereg = state->left->tree->inst_basereg;
 339 }
 340
 341 base: CEE_ADD (base, OP_ICONST) "0" {
 342         tree->inst_offset = state->left->tree->inst_offset + state->right->tree->inst_c0;
 343         tree->inst_basereg = state->left->tree->inst_basereg;
 344 }
 345
 346 base: CEE_ADD (CEE_LDIND_REF (OP_REGVAR), OP_ICONST),
 347 base: CEE_ADD (CEE_LDIND_I (OP_REGVAR), OP_ICONST) "0" {
 348         tree->inst_offset = state->right->tree->inst_c0;
 349         tree->inst_basereg = state->left->left->tree->dreg;
 350 }
 351
 352 #
 353 # helpers
 354 #
 355
 356 reg: OP_ICONST {
 357         MONO_EMIT_NEW_ICONST (s, state->reg1, tree->inst_c0);
 358 }
 359
 360 reg: OP_AOTCONST {
 361         MONO_EMIT_NEW_AOTCONST (s, state->reg1, tree->inst_p0, tree->inst_c1);
 362 }
 363
 364 reg: OP_LOAD_GOTADDR {
 365         tree->dreg = state->reg1;
 366         mono_bblock_add_inst (s->cbb, tree);
 367 }
 368
 369 stmt: CEE_STIND_I (OP_REGVAR, OP_LOAD_GOTADDR) {
 370         tree->opcode = OP_LOAD_GOTADDR;
 371         tree->dreg = state->left->tree->dreg;
 372         mono_bblock_add_inst (s->cbb, tree);
 373 }
 374
 375 reg: OP_GOT_ENTRY (reg, OP_PATCH_INFO) {
 376         tree->inst_basereg = state->left->tree->dreg;
 377         tree->dreg = state->reg1;
 378         mono_bblock_add_inst (s->cbb, tree);
 379 }
 380
 381 reg: OP_GOT_ENTRY (CEE_LDIND_I (OP_REGVAR), OP_PATCH_INFO) {
 382         tree->inst_basereg = state->left->left->tree->dreg;
 383         tree->dreg = state->reg1;
 384         mono_bblock_add_inst (s->cbb, tree);
 385 }
 386
 387 stmt: OP_DUMMY_USE (CEE_LDIND_I (OP_REGVAR)) {
 388 }
 389
 390 stmt: OP_DUMMY_USE (CEE_LDIND_I (OP_REGOFFSET)) {
 391 }
 392
 393 stmt: OP_DUMMY_USE (CEE_LDIND_REF (OP_REGOFFSET)) {
 394 }
 395
 396 stmt: OP_DUMMY_STORE {
 397 }
 398
 399 #
 400 # load/store operations
 401 #
 402
 403 reg: CEE_LDIND_I (base),
 404 reg: CEE_LDIND_REF (base),
 405 reg: CEE_LDIND_I1 (base),
 406 reg: CEE_LDIND_U1 (base),
 407 reg: CEE_LDIND_I2 (base),
 408 reg: CEE_LDIND_U2 (base),
 409 reg: CEE_LDIND_I4 (base),
 410 reg: CEE_LDIND_U4 (base) {
 411         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, ldind_to_load_membase (tree->opcode),
 412                                    state->reg1, state->left->tree->inst_basereg, state->left->tree->inst_offset);
 413 }
 414
 415 reg: OP_LDADDR (OP_REGOFFSET),
 416 reg: CEE_LDOBJ (OP_REGOFFSET) "2" {
 417         /* use LEA */
 418         tree->opcode = OP_MOVE;
 419         tree->sreg1 = state->left->tree->inst_basereg;
 420         tree->dreg = state->reg1;
 421         mono_bblock_add_inst (s->cbb, tree);
 422         if (state->left->tree->inst_offset)
 423                 MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, tree->dreg, tree->dreg, state->left->tree->inst_offset);
 424 }
 425
 426 reg: CEE_LDOBJ (reg),
 427 reg: OP_OBJADDR (reg),
 428 reg: OP_VTADDR (reg) {
 429         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 430 }
 431
 432 reg: CEE_LDIND_U1 (OP_REGVAR) {
 433         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->tree->dreg, 0xff);
 434 }
 435
 436 reg: CEE_LDIND_U2 (OP_REGVAR) {
 437         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->tree->dreg, 0xffff);
 438 }
 439
 440 stmt: CEE_STIND_REF (base, CEE_LDIND_REF (OP_REGVAR)),
 441 stmt: CEE_STIND_REF (base, CEE_LDIND_I (OP_REGVAR)),
 442 stmt: CEE_STIND_I (base, CEE_LDIND_REF (OP_REGVAR)),
 443 stmt: CEE_STIND_I (base, CEE_LDIND_I (OP_REGVAR)) {
 444         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STORE_MEMBASE_REG, state->left->tree->inst_basereg,
 445                                  state->left->tree->inst_offset, state->right->left->tree->dreg);
 446 }
 447
 448 stmt: CEE_STIND_REF (OP_REGVAR, CEE_LDIND_REF (OP_REGVAR)),
 449 stmt: CEE_STIND_REF (OP_REGVAR, CEE_LDIND_I (OP_REGVAR)),
 450 stmt: CEE_STIND_I (OP_REGVAR, CEE_LDIND_REF (OP_REGVAR)),
 451 stmt: CEE_STIND_I (OP_REGVAR, CEE_LDIND_I (OP_REGVAR)),
 452 stmt: CEE_STIND_I4 (OP_REGVAR, CEE_LDIND_I4 (OP_REGVAR)) {
 453         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->left->tree->dreg, state->right->left->tree->dreg);
 454 }
 455
 456
 457 stmt: CEE_STIND_I (base, reg),
 458 stmt: CEE_STIND_REF (base, reg) {
 459         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STORE_MEMBASE_REG, state->left->tree->inst_basereg,
 460                                  state->left->tree->inst_offset, state->right->reg1);
 461 }
 462
 463 stmt: CEE_STIND_I (base, OP_ICONST),
 464 stmt: CEE_STIND_REF (base, OP_ICONST) {
 465         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STORE_MEMBASE_IMM, state->left->tree->inst_basereg,
 466                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 467 }
 468
 469 reg: CEE_LDIND_REF (OP_REGVAR),
 470 reg: CEE_LDIND_I (OP_REGVAR),
 471 reg: CEE_LDIND_I4 (OP_REGVAR),
 472 reg: CEE_LDIND_U4 (OP_REGVAR) {
 473         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->tree->dreg);
 474 }
 475
 476 stmt: CEE_STIND_I4 (base, reg) {
 477         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI4_MEMBASE_REG, state->left->tree->inst_basereg,
 478                                  state->left->tree->inst_offset, state->right->reg1);
 479 }
 480
 481 stmt: CEE_STIND_I4 (base, CEE_LDIND_I4 (OP_REGVAR)) {
 482         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI4_MEMBASE_REG, state->left->tree->inst_basereg,
 483                                  state->left->tree->inst_offset, state->right->left->tree->dreg);
 484 }
 485
 486 stmt: CEE_STIND_I4 (base, OP_ICONST) {
 487         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI4_MEMBASE_IMM, state->left->tree->inst_basereg,
 488                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 489 }
 490
 491 stmt: CEE_STIND_I4 (OP_REGVAR, CEE_LDIND_I4 (base)) {
 492         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->left->tree->dreg,
 493                                    state->right->left->tree->inst_basereg,
 494                                    state->right->left->tree->inst_offset);
 495 }
 496
 497 stmt: CEE_STIND_I1 (base, reg) {
 498         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI1_MEMBASE_REG, state->left->tree->inst_basereg,
 499                                  state->left->tree->inst_offset, state->right->reg1);
 500 }
 501
 502 stmt: CEE_STIND_I1 (base, OP_ICONST) {
 503         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI1_MEMBASE_IMM, state->left->tree->inst_basereg,
 504                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 505 }
 506
 507 stmt: CEE_STIND_I2 (base, reg) {
 508         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI2_MEMBASE_REG, state->left->tree->inst_basereg,
 509                                  state->left->tree->inst_offset, state->right->reg1);
 510 }
 511
 512 stmt: CEE_STIND_I2 (base, OP_ICONST) {
 513         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI2_MEMBASE_IMM, state->left->tree->inst_basereg,
 514                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 515 }
 516
 517 stmt: CEE_STIND_I2 (OP_REGVAR, reg) {
 518         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->reg1, 0xffff);
 519 }
 520
 521 stmt: CEE_STIND_I1 (OP_REGVAR, reg) {
 522         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->reg1, 0xff);
 523 }
 524
 525 stmt: CEE_STIND_I1 (OP_REGVAR, CEE_LDIND_U1 (OP_REGVAR)),
 526 stmt: CEE_STIND_I1 (OP_REGVAR, CEE_LDIND_I1 (OP_REGVAR)) {
 527         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->left->tree->dreg, 0xff);
 528 }
 529
 530 stmt: CEE_STIND_I2 (OP_REGVAR, CEE_LDIND_U2 (OP_REGVAR)),
 531 stmt: CEE_STIND_I2 (OP_REGVAR, CEE_LDIND_I2 (OP_REGVAR)) {
 532         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->left->tree->dreg, 0xffff);
 533 }
 534
 535 stmt: CEE_STIND_I4 (OP_REGVAR, OP_ICONST),
 536 stmt: CEE_STIND_I2 (OP_REGVAR, OP_ICONST),
 537 stmt: CEE_STIND_I1 (OP_REGVAR, OP_ICONST),
 538 stmt: CEE_STIND_REF (OP_REGVAR, OP_ICONST),
 539 stmt: CEE_STIND_I (OP_REGVAR, OP_ICONST) {
 540         tree->inst_c0 = state->right->tree->inst_c0;
 541         if (tree->opcode == CEE_STIND_I2)
 542                 tree->inst_c0 &= 0xffff;
 543         if (tree->opcode == CEE_STIND_I1)
 544                 tree->inst_c0 &= 0xff;
 545
 546         tree->opcode = OP_ICONST;
 547         tree->dreg = state->left->tree->dreg;
 548         mono_bblock_add_inst (s->cbb, tree);
 549 }
 550
 551 stmt: CEE_STIND_I4 (OP_REGVAR, reg),
 552 stmt: CEE_STIND_REF (OP_REGVAR, reg),
 553 stmt: CEE_STIND_I (OP_REGVAR, reg) {
 554         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->left->tree->dreg, state->right->reg1);
 555 }
 556
 557 stmt: OP_MEMCPY (base, base) {
 558         int size = tree->unused;
 559         if (size > 0)
 560                 mini_emit_memcpy (s, state->left->tree->inst_basereg, state->left->tree->inst_offset,
 561                                   state->right->tree->inst_basereg, state->right->tree->inst_offset, size, 0);
 562 }
 563
 564 stmt: OP_MEMSET (base) {
 565         int size = tree->unused;
 566         if (size > 0)
 567                 mini_emit_memset (s, state->left->tree->inst_basereg, state->left->tree->inst_offset, size, tree->inst_imm, 0);
 568 }
 569
 570 reg: OP_LDELEMA2D (reg, OP_GROUP (reg, reg)) "20" {
 571         int bounds_reg = mono_regstate_next_int (s->rs);
 572         int add_reg = mono_regstate_next_int (s->rs);
 573         int mult_reg = mono_regstate_next_int (s->rs);
 574         int mult2_reg = mono_regstate_next_int (s->rs);
 575         int low1_reg = mono_regstate_next_int (s->rs);
 576         int low2_reg = mono_regstate_next_int (s->rs);
 577         int high1_reg = mono_regstate_next_int (s->rs);
 578         int high2_reg = mono_regstate_next_int (s->rs);
 579         int realidx1_reg = mono_regstate_next_int (s->rs);
 580         int realidx2_reg = mono_regstate_next_int (s->rs);
 581         int sum_reg = mono_regstate_next_int (s->rs);
 582         int index1, index2;
 583         guint32 size = mono_array_element_size (tree->klass);
 584
 585         index1 = state->right->left->reg1;
 586         index2 = state->right->right->reg1;
 587
 588         /* range checking */
 589         MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg,
 590                                        state->left->reg1, G_STRUCT_OFFSET (MonoArray, bounds));
 591
 592         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, low1_reg,
 593                                        bounds_reg, G_STRUCT_OFFSET (MonoArrayBounds, lower_bound));
 594         MONO_EMIT_NEW_BIALU (s, CEE_SUB, realidx1_reg, index1, low1_reg);
 595         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, high1_reg,
 596                                        bounds_reg, G_STRUCT_OFFSET (MonoArrayBounds, length));
 597         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, high1_reg, realidx1_reg);
 598         MONO_EMIT_NEW_COND_EXC (s, LE_UN, "IndexOutOfRangeException");
 599
 600         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, low2_reg,
 601                                        bounds_reg, sizeof (MonoArrayBounds) + G_STRUCT_OFFSET (MonoArrayBounds, lower_bound));
 602         MONO_EMIT_NEW_BIALU (s, CEE_SUB, realidx2_reg, index2, low2_reg);
 603         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, high2_reg,
 604                                        bounds_reg, sizeof (MonoArrayBounds) + G_STRUCT_OFFSET (MonoArrayBounds, length));
 605         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, high2_reg, realidx2_reg);
 606         MONO_EMIT_NEW_COND_EXC (s, LE_UN, "IndexOutOfRangeException");
 607
 608         MONO_EMIT_NEW_BIALU (s, CEE_MUL, mult_reg, high2_reg, realidx1_reg);
 609         MONO_EMIT_NEW_BIALU (s, CEE_ADD, sum_reg, mult_reg, realidx2_reg);
 610         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, mult2_reg, sum_reg, size);
 611         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult2_reg, state->left->reg1);
 612         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, add_reg, G_STRUCT_OFFSET (MonoArray, vector));
 613 }
 614
 615 #
 616 # conversions: conv_u can be implemented with AND, also all _ovf conversions?
 617 #
 618
 619 reg: CEE_CONV_I1 (reg),
 620 reg: CEE_CONV_I2 (reg),
 621 reg: CEE_CONV_I4 (reg) {
 622         MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 623 }
 624
 625 reg: CEE_CONV_U1 (reg) {
 626         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xff);
 627 }
 628
 629 reg: CEE_CONV_U2 (reg) {
 630         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xffff);
 631 }
 632
 633 reg: CEE_CONV_U4 (reg),
 634 reg: CEE_CONV_U (reg),
 635 reg: CEE_CONV_I (reg) {
 636         if (sizeof (void *) == 8)
 637                 MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 638         else
 639                 MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 640 }
 641
 642 reg: CEE_CONV_OVF_I4 (reg) {
 643         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 644 }
 645
 646 reg: CEE_CONV_OVF_U4 (reg),
 647 reg: CEE_CONV_OVF_I4_UN (reg) {
 648         if (sizeof (void *) == 8) {
 649                 MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 650         } else {
 651                 MONO_EMIT_NEW_COMPARE_IMM (s, state->left->reg1, 0);
 652                 MONO_EMIT_NEW_COND_EXC (s, LT, "OverflowException");
 653                 MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 654         }
 655 }
 656
 657 reg: CEE_CONV_OVF_I1 (reg) {
 658         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 127);
 659         MONO_EMIT_NEW_COND_EXC (s, GT, "OverflowException");
 660         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, -128);
 661         MONO_EMIT_NEW_COND_EXC (s, LT, "OverflowException");
 662         MONO_EMIT_UNALU (s, tree, CEE_CONV_I1, state->reg1, state->left->reg1);
 663 }
 664
 665 reg: CEE_CONV_OVF_I1_UN (reg) {
 666         /* probe values between 0 to 127 */
 667         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 127);
 668         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 669         MONO_EMIT_UNALU (s, tree, CEE_CONV_I1, state->reg1, state->left->reg1);
 670 }
 671
 672 reg: CEE_CONV_OVF_U1 (reg),
 673 reg: CEE_CONV_OVF_U1_UN (reg) {
 674         /* probe value to be within 0 to 255 */
 675         MONO_EMIT_NEW_COMPARE_IMM (s, state->left->reg1, 255);
 676         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 677         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xff);
 678 }
 679
 680 reg: CEE_CONV_OVF_I2 (reg) {
 681         /* Probe value to be within -32768 and 32767 */
 682         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 32767);
 683         MONO_EMIT_NEW_COND_EXC (s, GT, "OverflowException");
 684         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, -32768);
 685         MONO_EMIT_NEW_COND_EXC (s, LT, "OverflowException");
 686         MONO_EMIT_UNALU (s, tree, CEE_CONV_I2, state->reg1, state->left->reg1);
 687 }
 688
 689 reg: CEE_CONV_OVF_I2_UN (reg) {
 690         /* Convert uint value into short, value within 0 and 32767 */
 691         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 32767);
 692         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 693         MONO_EMIT_UNALU (s, tree, CEE_CONV_I2, state->reg1, state->left->reg1);
 694 }
 695
 696 reg: CEE_CONV_OVF_U2 (reg),
 697 reg: CEE_CONV_OVF_U2_UN (reg) {
 698         /* Probe value to be within 0 and 65535 */
 699         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 0xffff);
 700         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 701         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xffff);
 702 }
 703
 704 #
 705 # other alu operations
 706 #
 707
 708 reg: OP_CEQ (cflags),
 709 reg: OP_CLT (cflags),
 710 reg: OP_CLT_UN (cflags),
 711 reg: OP_CGT (cflags),
 712 reg: OP_CGT_UN (cflags) {
 713         tree->dreg = state->reg1;
 714         mono_bblock_add_inst (s->cbb, tree);
 715 }
 716
 717 #
 718 # control flow commands
 719 #
 720
 721 stmt: OP_LABEL {
 722         mono_bblock_add_inst (s->cbb, tree);
 723 }
 724
 725 stmt: CEE_NOP "0" {
 726 }
 727
 728 stmt: CEE_BREAK "0" {
 729         mono_bblock_add_inst (s->cbb, tree);
 730 }
 731
 732 reg: OP_TLS_GET {
 733         tree->dreg = state->reg1;
 734         mono_bblock_add_inst (s->cbb, tree);
 735 }
 736
 737 stmt: CEE_SWITCH (reg) {
 738         MonoInst *label;
 739         int offset_reg = mono_regstate_next_int (s->rs);
 740         int target_reg = mono_regstate_next_int (s->rs);
 741         int n = GPOINTER_TO_INT (tree->klass);
 742
 743         MONO_NEW_LABEL (s, label);
 744
 745         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, state->left->reg1, n);
 746         MONO_EMIT_NEW_BRANCH_BLOCK (s, CEE_BGE_UN, tree->inst_many_bb [n]);
 747         if (sizeof (gpointer) == 8)
 748                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, offset_reg, state->left->reg1, 3);
 749         else
 750                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, offset_reg, state->left->reg1, 2);
 751         mono_bblock_add_inst (s->cbb, label);
 752         if (s->compile_aot) {
 753                 int table_reg = mono_regstate_next_int (s->rs);
 754                 int sum_reg = mono_regstate_next_int (s->rs);
 755                 MonoJumpInfoBBTable *table;
 756
 757                 table = mono_mempool_alloc (s->mempool, sizeof (MonoJumpInfoBBTable));
 758                 table->table = tree->inst_many_bb;
 759                 table->table_size = n;
 760
 761                 MONO_EMIT_NEW_AOTCONST (s, table_reg, table, MONO_PATCH_INFO_SWITCH);
 762
 763                 MONO_EMIT_NEW_BIALU (s, CEE_ADD, sum_reg, table_reg, offset_reg);
 764                 MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, sum_reg, 0);
 765         } else {
 766                 mono_create_jump_table (s, label, tree->inst_many_bb, n);
 767
 768                  /* the backend must patch the address. we use 0xf0f0f0f0 to avoid the usage
 769                   * of special (short) opcodes on x86 */
 770                 if (sizeof (gpointer) == 8)
 771                         MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, offset_reg, (long)0xf0f0f0f0f0f0f0f1LL);
 772                 else
 773                         MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, offset_reg, 0xf0f0f0f0);
 774         }
 775         MONO_EMIT_UNALU (s, tree, OP_BR_REG, -1, target_reg);
 776 }
 777
 778 stmt: CEE_BR "0" {
 779         mono_bblock_add_inst (s->cbb, tree);
 780 }
 781
 782 stmt: OP_ARGLIST (reg) {
 783         tree->sreg1 = state->left->reg1;
 784         mono_bblock_add_inst (s->cbb, tree);
 785 }
 786
 787 reg: CEE_CALL {
 788         tree->dreg = state->reg1;
 789         mono_bblock_add_inst (s->cbb, tree);
 790 }
 791
 792 reg: CEE_CALLVIRT (reg) {
 793         mini_emit_virtual_call (s, state, tree, CEE_CALL, OP_CALL_MEMBASE);
 794 }
 795
 796 stmt: OP_VOIDCALLVIRT (reg) {
 797         mini_emit_virtual_call (s, state, tree, OP_VOIDCALL, OP_VOIDCALL_MEMBASE);
 798 }
 799
 800 freg: OP_FCALLVIRT (reg) {
 801         mini_emit_virtual_call (s, state, tree, OP_FCALL, OP_FCALL_MEMBASE);
 802 }
 803
 804 stmt: OP_VCALLVIRT (reg, reg) {
 805         mini_emit_virtual_call (s, state, tree, OP_VCALL, OP_VCALL_MEMBASE);
 806 }
 807
 808 reg: OP_CALL_REG (reg) {
 809         tree->sreg1 = state->left->reg1;
 810         tree->dreg = state->reg1;
 811         mono_bblock_add_inst (s->cbb, tree);
 812 }
 813
 814 stmt: OP_VOIDCALL {
 815         mono_bblock_add_inst (s->cbb, tree);
 816 }
 817
 818 stmt: OP_VOIDCALL_REG (reg) {
 819         tree->sreg1 = state->left->reg1;
 820         mono_bblock_add_inst (s->cbb, tree);
 821 }
 822
 823 freg: OP_FCALL {
 824         tree->dreg = state->reg1;
 825         mono_bblock_add_inst (s->cbb, tree);
 826 }
 827
 828 freg: OP_FCALL_REG (reg) {
 829         tree->sreg1 = state->left->reg1;
 830         tree->dreg = state->reg1;
 831         mono_bblock_add_inst (s->cbb, tree);
 832 }
 833
 834 stmt: OP_VCALL (reg) {
 835         mono_arch_emit_this_vret_args (s, (MonoCallInst*)tree, -1, -1, state->left->reg1);
 836         mono_bblock_add_inst (s->cbb, tree);
 837 }
 838
 839 stmt: OP_VCALL_REG (reg, reg) {
 840         mono_arch_emit_this_vret_args (s, (MonoCallInst*)tree, -1, -1, state->right->reg1);
 841
 842         tree->sreg1 = state->left->reg1;
 843         mono_bblock_add_inst (s->cbb, tree);
 844 }
 845
 846 stmt: OP_SAVE_LMF,
 847 stmt: OP_RESTORE_LMF {
 848         mono_bblock_add_inst (s->cbb, tree);
 849 }
 850
 851 #
 852 # Optimized call instructions
 853 #
 854
 855 reg: OP_CALL_REG (OP_ICONST),
 856 reg: OP_CALL_REG (OP_I8CONST) {
 857         tree->opcode = CEE_CALL;
 858         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 859         tree->dreg = state->reg1;
 860         mono_bblock_add_inst (s->cbb, tree);
 861 }
 862
 863 stmt: OP_VOIDCALL_REG (OP_ICONST),
 864 stmt: OP_VOIDCALL_REG (OP_I8CONST) {
 865         tree->opcode = OP_VOIDCALL;
 866         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 867         mono_bblock_add_inst (s->cbb, tree);
 868 }
 869
 870 freg: OP_FCALL_REG (OP_ICONST),
 871 freg: OP_FCALL_REG (OP_I8CONST) {
 872         tree->opcode = OP_FCALL;
 873         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 874         tree->dreg = state->reg1;
 875         mono_bblock_add_inst (s->cbb, tree);
 876 }
 877
 878 stmt: CEE_RET "0" {
 879         mono_bblock_add_inst (s->cbb, tree);
 880 }
 881
 882 stmt: CEE_POP (reg)
 883
 884 # remove some common pops without side effects
 885 stmt: CEE_POP (OP_ICONST)
 886 stmt: CEE_POP (CEE_LDIND_I1 (base))
 887 stmt: CEE_POP (CEE_LDIND_U1 (base))
 888 stmt: CEE_POP (CEE_LDIND_I2 (base))
 889 stmt: CEE_POP (CEE_LDIND_U2 (base))
 890 stmt: CEE_POP (CEE_LDIND_I4 (base))
 891 stmt: CEE_POP (CEE_LDIND_U4 (base))
 892 stmt: CEE_POP (CEE_LDIND_I (base))
 893 stmt: CEE_POP (CEE_LDIND_REF (base))
 894 stmt: CEE_POP (CEE_LDIND_I1 (OP_REGVAR))
 895 stmt: CEE_POP (CEE_LDIND_U1 (OP_REGVAR))
 896 stmt: CEE_POP (CEE_LDIND_I2 (OP_REGVAR))
 897 stmt: CEE_POP (CEE_LDIND_U2 (OP_REGVAR))
 898 stmt: CEE_POP (CEE_LDIND_I4 (OP_REGVAR))
 899 stmt: CEE_POP (CEE_LDIND_U4 (OP_REGVAR))
 900 stmt: CEE_POP (CEE_LDIND_I (OP_REGVAR))
 901 stmt: CEE_POP (CEE_LDIND_REF (OP_REGVAR))
 902
 903 stmt: CEE_JMP "0" {
 904         mono_bblock_add_inst (s->cbb, tree);
 905 }
 906
 907 # exception handling
 908
 909 stmt: CEE_THROW (reg) {
 910         MONO_EMIT_UNALU (s, tree, CEE_THROW, -1, state->left->reg1);
 911 }
 912
 913 stmt: OP_RETHROW (reg) {
 914         MONO_EMIT_UNALU (s, tree, OP_RETHROW, -1, state->left->reg1);
 915 }
 916
 917 stmt: OP_THROW_OR_NULL (reg, reg) {
 918         MonoInst *dont_throw;
 919
 920         MONO_NEW_LABEL (s, dont_throw);
 921
 922         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, 0, state->left->reg1, state->right->reg1);
 923         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, dont_throw);
 924         MONO_EMIT_UNALU (s, tree, CEE_THROW, -1, state->left->reg1);
 925         mono_bblock_add_inst (s->cbb, dont_throw);
 926 }
 927
 928 stmt: CEE_THROW (CEE_LDIND_REF (OP_REGVAR)) {
 929         MONO_EMIT_UNALU (s, tree, CEE_THROW, -1, state->left->left->tree->dreg);
 930 }
 931
 932 stmt: OP_CALL_HANDLER {
 933         mono_bblock_add_inst (s->cbb, tree);
 934 }
 935
 936 stmt: OP_START_HANDLER "2" {
 937         mono_bblock_add_inst (s->cbb, tree);
 938 }
 939
 940 stmt: CEE_ENDFINALLY "2" {
 941         mono_bblock_add_inst (s->cbb, tree);
 942 }
 943
 944 stmt: OP_ENDFILTER (reg) "2" {
 945         MONO_EMIT_UNALU (s, tree, OP_ENDFILTER, -1, state->left->reg1);
 946 }
 947
 948 stmt: OP_CHECK_THIS (reg) {
 949         tree->sreg1 = state->left->reg1;
 950         tree->dreg = state->reg1;
 951         mono_bblock_add_inst (s->cbb, tree);
 952 }
 953
 954 # object related opcodes
 955
 956 reg: CEE_ISINST (reg) {
 957         MonoClass *klass = tree->inst_newa_class;
 958         MonoInst *object_is_null, *end_label, *false_label;
 959         int obj_reg = state->left->reg1;
 960         int vtable_reg = mono_regstate_next_int (s->rs);
 961
 962         MONO_NEW_LABEL (s, object_is_null);
 963         MONO_NEW_LABEL (s, end_label);
 964         MONO_NEW_LABEL (s, false_label);
 965
 966         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, obj_reg, 0);
 967         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
 968
 969         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
 970                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
 971                 /* the object_is_null target simply copies the input register to the output */
 972                 mini_emit_isninst_iface_cast (s, vtable_reg, klass, false_label, object_is_null);
 973         } else {
 974                 int klass_reg = mono_regstate_next_int (s->rs);
 975
 976                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
 977
 978                 if (klass->rank) {
 979                         int rank_reg = mono_regstate_next_int (s->rs);
 980                         int eclass_reg = mono_regstate_next_int (s->rs);
 981
 982                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, rank_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
 983                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, rank_reg, klass->rank);
 984                         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false_label);
 985                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
 986                         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, cast_class));
 987                         if (klass->cast_class == mono_defaults.object_class) {
 988                                 int parent_reg = mono_regstate_next_int (s->rs);
 989                                 int const_reg;
 990                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, parent_reg, eclass_reg, G_STRUCT_OFFSET (MonoClass, parent));
 991                                 if (s->compile_aot) {
 992                                         const_reg = mono_regstate_next_int (s->rs);
 993                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
 994                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, parent_reg, const_reg);
 995                                 } else {
 996                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, parent_reg, mono_defaults.enum_class->parent);
 997                                 }
 998                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, object_is_null);
 999                                 if (s->compile_aot) {
1000                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1001                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1002                                 } else {
1003                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1004                                 }
1005                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1006                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false_label);
1007                         } else if (klass->cast_class == mono_defaults.enum_class->parent) {
1008                                 int const_reg;
1009
1010                                 if (s->compile_aot) {
1011                                         const_reg = mono_regstate_next_int (s->rs);
1012                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1013                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1014                                 } else {
1015                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class->parent);
1016                                 }
1017                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1018                                 if (s->compile_aot) {
1019                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1020                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1021                                 } else {
1022                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1023                                 }
1024                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1025                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false_label);
1026                         } else if (klass->cast_class == mono_defaults.enum_class) {
1027                                 if (s->compile_aot) {
1028                                         int const_reg = mono_regstate_next_int (s->rs);
1029                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1030                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1031                                 } else {
1032                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1033                                 }
1034                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1035                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false_label);
1036                         } else if (klass->cast_class->flags & TYPE_ATTRIBUTE_INTERFACE) {
1037                                 mini_emit_isninst_iface_class_cast (s, eclass_reg, klass->cast_class, false_label, object_is_null);
1038                         } else {
1039                                 if ((klass->rank == 1) && (klass->byval_arg.type == MONO_TYPE_SZARRAY)) {
1040                                         /* Check that the object is a vector too */
1041                                         int bounds_reg = mono_regstate_next_int (s->rs);
1042                                         MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg, obj_reg, G_STRUCT_OFFSET (MonoArray, bounds));
1043                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, bounds_reg, 0);
1044                                         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false_label);
1045                                 }
1046
1047                                 /* the object_is_null target simply copies the input register to the output */
1048                                 mini_emit_isninst_cast (s, eclass_reg, klass->cast_class, false_label, object_is_null);
1049                         }
1050                 } else {
1051                         if (!s->compile_aot && !(s->opt & MONO_OPT_SHARED) && (klass->flags & TYPE_ATTRIBUTE_SEALED)) {
1052                                 /* the remoting code is broken, access the class for now */
1053                                 if (0) {
1054                                         MonoVTable *vt = mono_class_vtable (s->domain, klass);
1055                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, vtable_reg, vt);
1056                                 } else {
1057                                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1058                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, klass);
1059                                 }
1060                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false_label);
1061                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, object_is_null);
1062                         } else {
1063                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1064                                 /* the object_is_null target simply copies the input register to the output */
1065                                 mini_emit_isninst_cast (s, klass_reg, klass, false_label, object_is_null);
1066                         }
1067                 }
1068         }
1069
1070         mono_bblock_add_inst (s->cbb, false_label);
1071         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1072         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1073         mono_bblock_add_inst (s->cbb, object_is_null);
1074         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1075         mono_bblock_add_inst (s->cbb, end_label);
1076 }
1077
1078 reg: OP_CISINST (reg) {
1079         /* This opcode takes as input an object reference and a class, and returns:
1080         0) if the object is an instance of the class,
1081         1) if the object is not instance of the class,
1082         2) if the object is a proxy whose type cannot be determined */
1083
1084     MonoClass *klass = tree->inst_newa_class;
1085         MonoInst *end_label, *true_label, *false_label, *false2_label;
1086         MonoInst *no_proxy_label, *interface_fail_label;
1087         int obj_reg = state->left->reg1;
1088         int tmp_reg = mono_regstate_next_int (s->rs);
1089         int klass_reg = mono_regstate_next_int (s->rs);
1090
1091         MONO_NEW_LABEL (s, end_label);
1092         MONO_NEW_LABEL (s, true_label);
1093         MONO_NEW_LABEL (s, false_label);
1094         MONO_NEW_LABEL (s, false2_label);
1095
1096         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, obj_reg, 0);
1097         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, false_label);
1098
1099         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1100                 MONO_NEW_LABEL (s, interface_fail_label);
1101                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1102                 mini_emit_isninst_iface_cast (s, tmp_reg, klass, interface_fail_label, true_label);
1103
1104                 mono_bblock_add_inst (s->cbb, interface_fail_label);
1105                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1106
1107                 if (s->compile_aot) {
1108                         int tproxy_reg = mono_regstate_next_int (s->rs);
1109                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1110                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1111                 } else {
1112                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1113                 }
1114                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false_label);
1115
1116                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1117                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1118                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false2_label);
1119
1120         } else {
1121                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1122                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1123
1124                 MONO_NEW_LABEL (s, no_proxy_label);
1125
1126                 if (s->compile_aot) {
1127                         int tproxy_reg = mono_regstate_next_int (s->rs);
1128                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1129                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1130                 } else {
1131                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1132                 }
1133                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, no_proxy_label);
1134                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1135                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1136
1137                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1138                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1139                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, no_proxy_label);
1140
1141                 mini_emit_isninst_cast (s, klass_reg, klass, false2_label, true_label);
1142                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false2_label);
1143
1144                 mono_bblock_add_inst (s->cbb, no_proxy_label);
1145                 mini_emit_isninst_cast (s, klass_reg, klass, false_label, true_label);
1146         }
1147
1148         mono_bblock_add_inst (s->cbb, false_label);
1149         MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1150         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1151         mono_bblock_add_inst (s->cbb, false2_label);
1152         MONO_EMIT_NEW_ICONST (s, state->reg1, 2);
1153         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1154         mono_bblock_add_inst (s->cbb, true_label);
1155         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1156         mono_bblock_add_inst (s->cbb, end_label);
1157 }
1158
1159 reg: OP_UNBOXCAST (reg) {
1160         MonoClass *klass = tree->inst_newa_class;
1161         int obj_reg = state->left->reg1;
1162         int vtable_reg = mono_regstate_next_int (s->rs);
1163         int klass_reg = mono_regstate_next_int (s->rs);
1164         int eclass_reg = mono_regstate_next_int (s->rs);
1165         int rank_reg = mono_regstate_next_int (s->rs);
1166
1167         MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1168         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, rank_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1169
1170         /* FIXME: generics */
1171         g_assert (klass->rank == 0);
1172
1173         // Check rank == 0
1174         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, rank_reg, 0);
1175         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1176
1177         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1178         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, element_class));
1179
1180         if (s->compile_aot) {
1181                 int const_reg = mono_regstate_next_int (s->rs);
1182                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass->element_class);
1183                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1184         } else {
1185                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, klass->element_class);
1186         }
1187
1188         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1189         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1190 }
1191
1192 reg: CEE_CASTCLASS (reg) {
1193         MonoClass *klass = tree->inst_newa_class;
1194         MonoInst *object_is_null;
1195         int obj_reg = state->left->reg1;
1196         int vtable_reg = mono_regstate_next_int (s->rs);
1197
1198         MONO_NEW_LABEL (s, object_is_null);
1199
1200         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, obj_reg, 0);
1201         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1202
1203         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1204                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1205                 mini_emit_castclass_iface (s, vtable_reg, klass);
1206         } else {
1207                 int klass_reg = mono_regstate_next_int (s->rs);
1208
1209                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1210
1211                 if (klass->rank) {
1212                         int rank_reg = mono_regstate_next_int (s->rs);
1213                         int eclass_reg = mono_regstate_next_int (s->rs);
1214
1215                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, rank_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1216                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, rank_reg, klass->rank);
1217                         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1218                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1219                         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, cast_class));
1220                         if (klass->cast_class == mono_defaults.object_class) {
1221                                 int parent_reg = mono_regstate_next_int (s->rs);
1222                                 int const_reg;
1223                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, parent_reg, eclass_reg, G_STRUCT_OFFSET (MonoClass, parent));
1224                                 if (s->compile_aot) {
1225                                         const_reg = mono_regstate_next_int (s->rs);
1226                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1227                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, parent_reg, const_reg);
1228                                 } else {
1229                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, parent_reg, mono_defaults.enum_class->parent);
1230                                 }
1231                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, object_is_null);
1232                                 if (s->compile_aot) {
1233                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1234                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1235                                 } else {
1236                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1237                                 }
1238                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1239                         } else if (klass->cast_class == mono_defaults.enum_class->parent) {
1240                                 int const_reg = mono_regstate_next_int (s->rs);
1241                                 if (s->compile_aot) {
1242                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1243                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1244                                 } else {
1245                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class->parent);
1246                                 }
1247                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1248                                 if (s->compile_aot) {
1249                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1250                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1251                                 } else {
1252                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1253                                 }
1254                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1255                         } else if (klass->cast_class == mono_defaults.enum_class) {
1256                                 if (s->compile_aot) {
1257                                         int const_reg = mono_regstate_next_int (s->rs);
1258                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1259                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1260                                 } else {
1261                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1262                                 }
1263                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1264                         } else if (klass->cast_class->flags & TYPE_ATTRIBUTE_INTERFACE) {
1265                                 mini_emit_castclass_iface_class (s, eclass_reg, klass->cast_class);
1266                         } else {
1267                                 mini_emit_castclass (s, eclass_reg, klass->cast_class);
1268                         }
1269
1270                         if ((klass->rank == 1) && (klass->byval_arg.type == MONO_TYPE_SZARRAY)) {
1271                                 /* Check that the object is a vector too */
1272                                 int bounds_reg = mono_regstate_next_int (s->rs);
1273                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg, obj_reg, G_STRUCT_OFFSET (MonoArray, bounds));
1274                                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, bounds_reg, 0);
1275                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1276                         }
1277                 } else {
1278                         if (!s->compile_aot && !(s->opt & MONO_OPT_SHARED) && (klass->flags & TYPE_ATTRIBUTE_SEALED)) {
1279                                 /* the remoting code is broken, access the class for now */
1280                                 if (0) {
1281                                         MonoVTable *vt = mono_class_vtable (s->domain, klass);
1282                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, vtable_reg, vt);
1283                                 } else {
1284                                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1285                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, klass);
1286                                 }
1287                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1288                         } else {
1289                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1290                                 mini_emit_castclass (s, klass_reg, klass);
1291                         }
1292                 }
1293         }
1294
1295         mono_bblock_add_inst (s->cbb, object_is_null);
1296         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1297 }
1298
1299 reg: OP_CCASTCLASS (reg) {
1300         /* This opcode takes as input an object reference and a class, and returns:
1301         0) if the object is an instance of the class,
1302         1) if the object is a proxy whose type cannot be determined
1303         an InvalidCastException exception is thrown otherwhise*/
1304
1305         MonoClass *klass = tree->inst_newa_class;
1306         MonoInst *end_label, *fail_label, *no_proxy_label, *ok_result_label;
1307         int obj_reg = state->left->reg1;
1308         int tmp_reg = mono_regstate_next_int (s->rs);
1309         int klass_reg = mono_regstate_next_int (s->rs);
1310
1311         MONO_NEW_LABEL (s, end_label);
1312         MONO_NEW_LABEL (s, ok_result_label);
1313
1314         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, obj_reg, 0);
1315         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, ok_result_label);
1316
1317         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1318
1319                 MONO_NEW_LABEL (s, fail_label);
1320
1321                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1322                 mini_emit_isninst_iface_cast (s, tmp_reg, klass, fail_label, ok_result_label);
1323
1324                 mono_bblock_add_inst (s->cbb, fail_label);
1325                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1326
1327                 if (s->compile_aot) {
1328                         int tproxy_reg = mono_regstate_next_int (s->rs);
1329                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1330                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1331                 } else {
1332                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1333                 }
1334
1335                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1336
1337                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1338                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1339
1340                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1341                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1342                 MONO_EMIT_NEW_COND_EXC (s, EQ, "InvalidCastException");
1343
1344                 MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1345                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1346
1347         } else {
1348
1349                 MONO_NEW_LABEL (s, no_proxy_label);
1350                 MONO_NEW_LABEL (s, fail_label);
1351
1352                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1353                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1354
1355                 if (s->compile_aot) {
1356                         int tproxy_reg = mono_regstate_next_int (s->rs);
1357                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1358                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1359                 } else {
1360                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1361                 }
1362                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, no_proxy_label);
1363
1364                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1365                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1366
1367                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1368                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1369                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, no_proxy_label);
1370
1371                 mini_emit_isninst_cast (s, klass_reg, klass, fail_label, ok_result_label);
1372                 mono_bblock_add_inst (s->cbb, fail_label);
1373                 MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1374                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1375
1376                 mono_bblock_add_inst (s->cbb, no_proxy_label);
1377                 mini_emit_castclass (s, klass_reg, klass);
1378         }
1379
1380         mono_bblock_add_inst (s->cbb, ok_result_label);
1381         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1382         mono_bblock_add_inst (s->cbb, end_label);
1383 }
1384
1385 stmt: CEE_STELEM_REF (OP_GROUP (reg, reg), reg),
1386 reg: OP_GROUP (reg, reg),
1387 reg: CEE_NEWARR (reg),
1388 lreg: OP_LMUL (lreg, lreg),
1389 lreg: OP_LMUL_OVF (lreg, lreg),
1390 lreg: OP_LMUL_OVF_UN (lreg, lreg),
1391 lreg: OP_LDIV (lreg, lreg),
1392 lreg: OP_LDIV_UN (lreg, lreg),
1393 lreg: OP_LREM (lreg, lreg),
1394 lreg: OP_LREM_UN (lreg, lreg),
1395 lreg: OP_LSHL (lreg, reg),
1396 lreg: OP_LSHR (lreg, reg),
1397 lreg: OP_LSHR_UN (lreg, reg) {
1398         g_assert_not_reached ();
1399 }
1400
1401 #
1402 # string support
1403 #
1404 reg: OP_GETCHR (reg, reg) {
1405         int mult_reg = mono_regstate_next_int (s->rs);
1406         int add_reg = mono_regstate_next_int (s->rs);
1407
1408         MONO_EMIT_BOUNDS_CHECK (s, state->left->reg1, MonoString, length, state->right->reg1);
1409         MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, mult_reg, state->right->reg1, 1);
1410         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult_reg, state->left->reg1);
1411         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADU2_MEMBASE, state->reg1,
1412                                    add_reg, G_STRUCT_OFFSET (MonoString, chars));
1413 }
1414
1415 reg: OP_GETCHR (reg, OP_ICONST) {
1416         int ind = 2 * state->right->tree->inst_c0 + G_STRUCT_OFFSET (MonoString, chars);
1417
1418         MONO_EMIT_BOUNDS_CHECK_IMM (s, state->left->reg1, MonoString, length, state->right->tree->inst_c0);
1419         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADU2_MEMBASE, state->reg1, state->left->reg1, ind);
1420 }
1421
1422 reg: OP_STRLEN (reg) {
1423         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->reg1,
1424                                    state->left->reg1, G_STRUCT_OFFSET (MonoString, length));
1425 }
1426
1427 reg: OP_GETTYPE (reg) {
1428         int vt_reg = mono_regstate_next_int (s->rs);
1429         MONO_EMIT_NEW_LOAD_MEMBASE (s, vt_reg, state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1430         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOAD_MEMBASE, state->reg1, vt_reg, G_STRUCT_OFFSET (MonoVTable, type));
1431 }
1432
1433 reg: OP_GETHASHCODE (reg) {
1434         int t1 = mono_regstate_next_int (s->rs);
1435
1436         #define MONO_OBJECT_ALIGNMENT_SHIFT     3
1437
1438         /* return (GPOINTER_TO_UINT (this) >> MONO_OBJECT_ALIGNMENT_SHIFT) * 2654435761u; */
1439
1440         MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, t1, state->left->reg1, MONO_OBJECT_ALIGNMENT_SHIFT);
1441         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, state->reg1, t1, 2654435761u);
1442 }
1443
1444 #
1445 # array support
1446 #
1447 reg: CEE_LDLEN (reg) {
1448         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->reg1,
1449                                    state->left->reg1, G_STRUCT_OFFSET (MonoArray, max_length));
1450 }
1451
1452 reg: OP_ARRAY_RANK (reg) {
1453         int vtable_reg = mono_regstate_next_int (s->rs);
1454         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, vtable_reg,
1455                                        state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1456         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, state->reg1,
1457                                        vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1458 }
1459
1460 reg: OP_CHECK_ARRAY_TYPE (reg) {
1461
1462         MonoClass* array_class = mono_array_class_get (tree->klass, 1);
1463
1464         int vtable_reg = mono_regstate_next_int (s->rs);
1465
1466         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, vtable_reg,
1467                                        state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1468
1469         if (s->opt & MONO_OPT_SHARED) {
1470                 int class_reg = mono_regstate_next_int (s->rs);
1471                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, class_reg,
1472                                                vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1473                 if (s->compile_aot) {
1474                         int klass_reg = mono_regstate_next_int (s->rs);
1475                         MONO_EMIT_NEW_CLASSCONST (s, klass_reg, array_class);
1476                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, class_reg, klass_reg);
1477                 } else {
1478                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, class_reg, array_class);
1479                 }
1480         } else {
1481                 if (s->compile_aot) {
1482                         int vt_reg = mono_regstate_next_int (s->rs);
1483                         MONO_EMIT_NEW_VTABLECONST (s, vt_reg, mono_class_vtable (s->domain, array_class));
1484                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, vtable_reg, vt_reg);
1485                 } else {
1486                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, vtable_reg, mono_class_vtable (s->domain, array_class));
1487                 }
1488         }
1489
1490         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "ArrayTypeMismatchException");
1491         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
1492 }
1493
1494 reg: CEE_LDELEMA (reg, OP_ICONST) "15" {
1495         guint32 size = mono_class_array_element_size (tree->klass);
1496
1497         int ind = size * state->right->tree->inst_c0 + G_STRUCT_OFFSET (MonoArray, vector);
1498
1499         MONO_EMIT_BOUNDS_CHECK_IMM (s, state->left->reg1, MonoArray, max_length, state->right->tree->inst_c0);
1500         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, state->left->reg1, ind);
1501 }
1502
1503 reg: CEE_LDELEMA (reg, reg) "20" {
1504         int mult_reg = mono_regstate_next_int (s->rs);
1505         int add_reg = mono_regstate_next_int (s->rs);
1506         guint32 size = mono_class_array_element_size (tree->klass);
1507
1508         MONO_EMIT_BOUNDS_CHECK (s, state->left->reg1, MonoArray, max_length, state->right->reg1);
1509         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, mult_reg, state->right->reg1, size);
1510         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult_reg, state->left->reg1);
1511         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, add_reg, G_STRUCT_OFFSET (MonoArray, vector));
1512 }
1513
1514 reg: CEE_REFANYVAL (reg) {
1515         int klass_reg = mono_regstate_next_int (s->rs);
1516         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass));
1517         if (s->compile_aot) {
1518                 int const_reg = mono_regstate_next_int (s->rs);
1519                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, tree->inst_newa_class);
1520                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, const_reg);
1521         } else {
1522                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, tree->inst_newa_class);
1523         }
1524         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1525         MONO_EMIT_NEW_LOAD_MEMBASE (s, state->reg1, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, value));
1526 }
1527
1528 reg: OP_REFANYTYPE (reg) {
1529         MONO_EMIT_NEW_LOAD_MEMBASE (s, state->reg1, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, type));
1530 }
1531
1532 stmt: CEE_MKREFANY (OP_GROUP (reg, OP_ICONST), reg),
1533 stmt: CEE_MKREFANY (OP_GROUP (reg, OP_I8CONST), reg) {
1534         MonoClass *klass = (MonoClass*)(tree->inst_left->inst_right->inst_p0);
1535         if (s->compile_aot) {
1536                 int const_reg = mono_regstate_next_int (s->rs);
1537                 int type_reg = mono_regstate_next_int (s->rs);
1538                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1539                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass), const_reg);
1540                 MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, type_reg, const_reg, G_STRUCT_OFFSET (MonoClass, byval_arg));
1541                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, type), type_reg);
1542         }
1543         else {
1544                 MONO_EMIT_NEW_STORE_MEMBASE_IMM (s, OP_STOREP_MEMBASE_IMM, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, type), &klass->byval_arg);
1545                 MONO_EMIT_NEW_STORE_MEMBASE_IMM (s, OP_STOREP_MEMBASE_IMM, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass), klass);
1546         }
1547         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, value), state->left->left->reg1);
1548 }
1549
1550 %%
1551
1552 /*
1553  * Emit code which checks whenever the interface id of @klass is smaller than
1554  * than the value given by max_iid_reg.
1555 */
1556 static void
1557 mini_emit_max_iid_check (MonoCompile *s, int max_iid_reg, MonoClass *klass,
1558                                                  MonoInst *false_target)
1559 {
1560         if (s->compile_aot) {
1561                 int iid_reg = mono_regstate_next_int (s->rs);
1562                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_IID);
1563                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, max_iid_reg, iid_reg);
1564         }
1565         else
1566                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, max_iid_reg, klass->interface_id);
1567         if (false_target)
1568                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BLT_UN, false_target);
1569         else
1570                 MONO_EMIT_NEW_COND_EXC (s, LT_UN, "InvalidCastException");
1571 }
1572
1573 /* Same as above, but obtains max_iid from a vtable */
1574 static void
1575 mini_emit_max_iid_check_vtable (MonoCompile *s, int vtable_reg, MonoClass *klass,
1576                                                                  MonoInst *false_target)
1577 {
1578         int max_iid_reg = mono_regstate_next_int (s->rs);
1579
1580         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, max_iid_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, max_interface_id));
1581         mini_emit_max_iid_check (s, max_iid_reg, klass, false_target);
1582 }
1583
1584 /* Same as above, but obtains max_iid from a klass */
1585 static void
1586 mini_emit_max_iid_check_class (MonoCompile *s, int klass_reg, MonoClass *klass,
1587                                                                  MonoInst *false_target)
1588 {
1589         int max_iid_reg = mono_regstate_next_int (s->rs);
1590
1591         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, max_iid_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, max_interface_id));
1592         mini_emit_max_iid_check (s, max_iid_reg, klass, false_target);
1593 }
1594
1595 static void
1596 mini_emit_load_intf_reg (MonoCompile *s, int intf_reg, int ioffset_reg, MonoClass *klass)
1597 {
1598         if (s->compile_aot) {
1599                 int iid_reg = mono_regstate_next_int (s->rs);
1600                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_IID);
1601                 /* FIXME: Do a shift instead */
1602 #if SIZEOF_VOID_P == 8
1603                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, iid_reg, iid_reg, 3);
1604 #else
1605                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, iid_reg, iid_reg, 2);
1606 #endif
1607                 MONO_EMIT_NEW_BIALU (s, CEE_ADD, ioffset_reg, ioffset_reg, iid_reg);
1608                 MONO_EMIT_NEW_LOAD_MEMBASE (s, intf_reg, ioffset_reg, 0);
1609         }
1610         else
1611                 MONO_EMIT_NEW_LOAD_MEMBASE (s, intf_reg, ioffset_reg, klass->interface_id * SIZEOF_VOID_P);
1612 }
1613
1614 /* Emit code which loads <vtable_reg>->interface_offsets [klass->interface_id] */
1615 static void
1616 mini_emit_load_intf_reg_vtable (MonoCompile *s, int intf_reg, int vtable_reg, MonoClass *klass)
1617 {
1618         int ioffset_reg = mono_regstate_next_int (s->rs);
1619
1620         MONO_EMIT_NEW_LOAD_MEMBASE (s, ioffset_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, interface_offsets));
1621         mini_emit_load_intf_reg (s, intf_reg, ioffset_reg, klass);
1622 }
1623
1624 /* Emit code which loads <klass_reg>->interface_offsets [klass->interface_id] */
1625 static void
1626 mini_emit_load_intf_reg_class (MonoCompile *s, int intf_reg, int klass_reg, MonoClass *klass)
1627 {
1628         int ioffset_reg = mono_regstate_next_int (s->rs);
1629
1630         MONO_EMIT_NEW_LOAD_MEMBASE (s, ioffset_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, interface_offsets));
1631         mini_emit_load_intf_reg (s, intf_reg, ioffset_reg, klass);
1632 }
1633
1634 void
1635 mini_emit_virtual_call (MonoCompile *cfg, void *st, MonoInst *tree, int novirtop, int virtop)
1636 {
1637         MonoMethod *method = ((MonoCallInst*)tree)->method;
1638         int vtable_reg, slot_reg, this_reg;
1639         MBState *state = st;
1640
1641         this_reg = state->left->reg1;
1642         mono_arch_emit_this_vret_args (cfg, (MonoCallInst*)tree, this_reg, state->left->tree->type, novirtop == OP_VCALL? state->right->reg1: -1);
1643
1644         if (!(method->flags & METHOD_ATTRIBUTE_VIRTUAL) ||
1645             ((method->flags & METHOD_ATTRIBUTE_FINAL) &&
1646              method->wrapper_type != MONO_WRAPPER_REMOTING_INVOKE_WITH_CHECK)) {
1647                 /*
1648                  * the method is not virtual, we just need to ensure this is not null
1649                  * and then we can call the method directly.
1650                  */
1651                 if (method->klass->marshalbyref || method->klass == mono_defaults.object_class) {
1652                         method = ((MonoCallInst*)tree)->method = mono_marshal_get_remoting_invoke_with_check (method);
1653                 }
1654
1655                 if (!method->string_ctor)
1656                         MONO_EMIT_NEW_UNALU (cfg, OP_CHECK_THIS, -1, this_reg);
1657
1658                 tree->dreg = state->reg1;
1659                 tree->opcode = novirtop;
1660                 mono_bblock_add_inst (cfg->cbb, tree);
1661                 return;
1662         }
1663
1664         vtable_reg = mono_regstate_next_int (cfg->rs);
1665         MONO_EMIT_NEW_LOAD_MEMBASE (cfg, vtable_reg, this_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1666         if (method->klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1667                 slot_reg = mono_regstate_next_int (cfg->rs);
1668                 mini_emit_load_intf_reg_vtable (cfg, slot_reg, vtable_reg, method->klass);
1669                 tree->inst_offset = method->slot * SIZEOF_VOID_P;
1670         } else {
1671                 slot_reg = vtable_reg;
1672                 tree->inst_offset = G_STRUCT_OFFSET (MonoVTable, vtable) + (method->slot * SIZEOF_VOID_P);
1673         }
1674
1675         tree->dreg = state->reg1;
1676         tree->opcode = virtop;
1677         tree->sreg1 = slot_reg;
1678         ((MonoCallInst*)tree)->virtual = TRUE;
1679         mono_bblock_add_inst (cfg->cbb, tree);
1680 }
1681
1682 void
1683 mini_emit_isninst_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1684 {
1685         int idepth_reg = mono_regstate_next_int (s->rs);
1686         int stypes_reg = mono_regstate_next_int (s->rs);
1687         int stype = mono_regstate_next_int (s->rs);
1688
1689         if (klass->idepth > MONO_DEFAULT_SUPERTABLE_SIZE) {
1690                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, idepth_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, idepth));
1691                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, idepth_reg, klass->idepth);
1692                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BLT_UN, false_target);
1693         }
1694         MONO_EMIT_NEW_LOAD_MEMBASE (s, stypes_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, supertypes));
1695         MONO_EMIT_NEW_LOAD_MEMBASE (s, stype, stypes_reg, ((klass->idepth - 1) * SIZEOF_VOID_P));
1696         if (s->compile_aot) {
1697                 int const_reg = mono_regstate_next_int (s->rs);
1698                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1699                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, stype, const_reg);
1700         } else {
1701                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, stype, klass);
1702         }
1703         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, true_target);
1704 }
1705
1706 void
1707 mini_emit_isninst_iface_cast (MonoCompile *s, int vtable_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1708 {
1709         int intf_reg = mono_regstate_next_int (s->rs);
1710
1711         mini_emit_max_iid_check_vtable (s, vtable_reg, klass, false_target);
1712         mini_emit_load_intf_reg_vtable (s, intf_reg, vtable_reg, klass);
1713         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, 0);
1714         /* the object_is_null target simply copies the input register to the output */
1715         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, true_target);
1716 }
1717
1718 /*
1719  * Variant of the above that takes a register to the class, not the vtable.
1720  * Note that inside interfaces_offsets the empty value is -1, not NULL, in this case.
1721  */
1722 void
1723 mini_emit_isninst_iface_class_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1724 {
1725         int intf_reg = mono_regstate_next_int (s->rs);
1726
1727         mini_emit_max_iid_check_class (s, klass_reg, klass, false_target);
1728         mini_emit_load_intf_reg_class (s, intf_reg, klass_reg, klass);
1729         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, -1);
1730         /* the object_is_null target simply copies the input register to the output */
1731         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BGE, true_target);
1732 }
1733
1734 void
1735 mini_emit_castclass (MonoCompile *s, int klass_reg, MonoClass *klass)
1736 {
1737         int idepth_reg = mono_regstate_next_int (s->rs);
1738         int stypes_reg = mono_regstate_next_int (s->rs);
1739         int stype = mono_regstate_next_int (s->rs);
1740
1741         if (klass->idepth > MONO_DEFAULT_SUPERTABLE_SIZE) {
1742                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, idepth_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, idepth));
1743                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, idepth_reg, klass->idepth);
1744                 MONO_EMIT_NEW_COND_EXC (s, LT_UN, "InvalidCastException");
1745         }
1746         MONO_EMIT_NEW_LOAD_MEMBASE (s, stypes_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, supertypes));
1747         MONO_EMIT_NEW_LOAD_MEMBASE (s, stype, stypes_reg, ((klass->idepth - 1) * SIZEOF_VOID_P));
1748         if (s->compile_aot) {
1749                 int const_reg = mono_regstate_next_int (s->rs);
1750                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1751                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, stype, const_reg);
1752         } else {
1753                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, stype, klass);
1754         }
1755         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1756 }
1757
1758 void
1759 mini_emit_castclass_iface (MonoCompile *s, int vtable_reg, MonoClass *klass)
1760 {
1761         int intf_reg = mono_regstate_next_int (s->rs);
1762
1763         mini_emit_max_iid_check_vtable (s, vtable_reg, klass, NULL);
1764         mini_emit_load_intf_reg_vtable (s, intf_reg, vtable_reg, klass);
1765         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, 0);
1766         MONO_EMIT_NEW_COND_EXC (s, EQ, "InvalidCastException");
1767 }
1768
1769 /*
1770  * Variant of the aboce that takes a register to the class, not the vtable.
1771  * Note that inside interfaces_offsets the empty value is -1, not NULL, in this case.
1772  */
1773 void
1774 mini_emit_castclass_iface_class (MonoCompile *s, int klass_reg, MonoClass *klass)
1775 {
1776         int intf_reg = mono_regstate_next_int (s->rs);
1777
1778         mini_emit_max_iid_check_class (s, klass_reg, klass, NULL);
1779         mini_emit_load_intf_reg_class (s, intf_reg, klass_reg, klass);
1780         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, -1);
1781         MONO_EMIT_NEW_COND_EXC (s, EQ, "InvalidCastException");
1782 }
1783
1784 void
1785 mini_emit_memcpy (MonoCompile *s, int destreg, int doffset, int srcreg, int soffset, int size, int align)
1786 {
1787         int cur_reg;
1788
1789         /* FIXME: consider alignment for archs that need it. */
1790 #if !NO_UNALIGNED_ACCESS
1791         if (sizeof (gpointer) == 8) {
1792                 while (size >= 8) {
1793                         cur_reg = mono_regstate_next_int (s->rs);
1794                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI8_MEMBASE, cur_reg, srcreg, soffset);
1795                         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI8_MEMBASE_REG, destreg, doffset, cur_reg);
1796                         doffset += 8;
1797                         soffset += 8;
1798                         size -= 8;
1799                 }
1800         }
1801 #endif
1802
1803         while (size >= 4) {
1804                 cur_reg = mono_regstate_next_int (s->rs);
1805                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, cur_reg, srcreg, soffset);
1806                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI4_MEMBASE_REG, destreg, doffset, cur_reg);
1807                 doffset += 4;
1808                 soffset += 4;
1809                 size -= 4;
1810         }
1811         while (size >= 2) {
1812                 cur_reg = mono_regstate_next_int (s->rs);
1813                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI2_MEMBASE, cur_reg, srcreg, soffset);
1814                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI2_MEMBASE_REG, destreg, doffset, cur_reg);
1815                 doffset += 2;
1816                 soffset += 2;
1817                 size -= 2;
1818         }
1819         while (size >= 1) {
1820                 cur_reg = mono_regstate_next_int (s->rs);
1821                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI1_MEMBASE, cur_reg, srcreg, soffset);
1822                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI1_MEMBASE_REG, destreg, doffset, cur_reg);
1823                 doffset += 1;
1824                 soffset += 1;
1825                 size -= 1;
1826         }
1827 }
1828
1829 void
1830 mini_emit_memset (MonoCompile *s, int destreg, int offset, int size, int val, int alignl)
1831 {
1832         int val_reg = mono_regstate_next_int (s->rs);
1833
1834         if (sizeof (gpointer) == 8)
1835                 MONO_EMIT_NEW_I8CONST (s, val_reg, val);
1836         else
1837                 MONO_EMIT_NEW_ICONST (s, val_reg, val);
1838
1839         if (sizeof (gpointer) == 8) {
1840                 while (size >= 8) {
1841                         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI8_MEMBASE_REG, destreg, offset, val_reg);
1842                         offset += 8;
1843                         size -= 8;
1844                 }
1845         }
1846
1847         while (size >= 4) {
1848                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI4_MEMBASE_REG, destreg, offset, val_reg);
1849                 offset += 4;
1850                 size -= 4;
1851         }
1852         while (size >= 2) {
1853                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI2_MEMBASE_REG, destreg, offset, val_reg);
1854                 offset += 2;
1855                 size -= 2;
1856         }
1857         while (size >= 1) {
1858                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI1_MEMBASE_REG, destreg, offset, val_reg);
1859                 offset += 1;
1860                 size -= 1;
1861         }
1862 }
1863
1864 /* This is similar to NEW_AOTCONST in mini.c, but generates linear IL */
1865 void
1866 mini_emit_aotconst (MonoCompile *cfg, int dreg, MonoJumpInfoType patch_type, gpointer cons)
1867 {
1868         MonoInst *dest, *pinfo;
1869         int got_var_reg;
1870
1871         dest = mono_mempool_alloc0 (cfg->mempool, sizeof (MonoInst));
1872         dest->opcode = OP_GOT_ENTRY;
1873
1874         g_assert (cfg->got_var);
1875
1876         pinfo = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));
1877         pinfo->opcode = OP_PATCH_INFO;
1878         pinfo->inst_left = cons;
1879         pinfo->inst_right = (gpointer)(patch_type);
1880
1881         if (cfg->got_var->opcode == OP_REGOFFSET) {
1882                 got_var_reg = mono_regstate_next_int (cfg->rs);
1883                 MONO_EMIT_NEW_LOAD_MEMBASE (cfg, got_var_reg, cfg->got_var->inst_basereg, cfg->got_var->inst_offset);
1884         }
1885         else {
1886                 g_assert (cfg->got_var->opcode == OP_REGVAR);
1887                 got_var_reg = cfg->got_var->dreg;
1888         }
1889
1890         dest = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));
1891         dest->opcode = OP_GOT_ENTRY;
1892         dest->inst_left = cfg->got_var; /* not used */
1893         dest->inst_right = pinfo;
1894
1895         dest->inst_basereg = got_var_reg;
1896         dest->dreg = dreg;
1897         mono_bblock_add_inst (cfg->cbb, dest);
1898 }
1899
1900 int
1901 ldind_to_load_membase (int opcode)
1902 {
1903         switch (opcode) {
1904         case CEE_LDIND_I1:
1905                 return OP_LOADI1_MEMBASE;
1906         case CEE_LDIND_U1:
1907                 return OP_LOADU1_MEMBASE;
1908         case CEE_LDIND_I2:
1909                 return OP_LOADI2_MEMBASE;
1910         case CEE_LDIND_U2:
1911                 return OP_LOADU2_MEMBASE;
1912         case CEE_LDIND_I4:
1913                 return OP_LOADI4_MEMBASE;
1914         case CEE_LDIND_U4:
1915                 return OP_LOADU4_MEMBASE;
1916         case CEE_LDIND_I:
1917                 return OP_LOAD_MEMBASE;
1918         case CEE_LDIND_REF:
1919                 return OP_LOAD_MEMBASE;
1920         case CEE_LDIND_I8:
1921                 return OP_LOADI8_MEMBASE;
1922         default:
1923                 g_assert_not_reached ();
1924         }
1925
1926         return -1;
1927 }
1928