mono/mini/inssel.brg

   1 /*
   2  * inssel.brg: instruction selection
   3  *
   4  * Author:
   5  *   Dietmar Maurer (dietmar@ximian.com)
   6  *   Paolo Molaro (lupus@ximian.com)
   7  *
   8  * (C) 2002 Ximian, Inc.
   9  *
  10  */
  11 #include <config.h>
  12 #include <string.h>
  13
  14 #include "mini.h"
  15 #include <mono/metadata/marshal.h>
  16 #include <mono/metadata/debug-helpers.h>
  17
  18 #define MBTREE_TYPE  MonoInst
  19 #define MBCGEN_TYPE  MonoCompile
  20 #define MBCOST_DATA  MonoCompile
  21 #define MBALLOC_STATE mono_mempool_alloc (data->state_pool, sizeof (MBState))
  22 #define MBMAX_OPCODES OP_LAST
  23 #define MBGET_OP_NAME(op) mono_inst_name (op)
  24
  25 #define MBTREE_OP(t) ((t)->opcode)
  26 #define MBTREE_LEFT(t) ((t)->inst_left)
  27 #define MBTREE_RIGHT(t) ((t)->inst_right)
  28
  29 #define MONO_EMIT_UNALU(cfg,inst,op,dr,sr1) do { \
  30                 (inst)->opcode = op; \
  31                 (inst)->dreg = dr; \
  32                 (inst)->sreg1 = sr1; \
  33                 mono_bblock_add_inst (cfg->cbb, inst); \
  34         } while (0)
  35
  36 #define MONO_EMIT_NEW_UNALU(cfg,op,dr,sr1) do { \
  37                 MonoInst *inst; \
  38                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  39                 inst->opcode = op; \
  40                 inst->dreg = dr; \
  41                 inst->sreg1 = sr1; \
  42                 mono_bblock_add_inst (cfg->cbb, inst); \
  43         } while (0)
  44
  45 #define MONO_EMIT_BIALU(cfg,inst,op,dr,sr1,sr2) do { \
  46                 (inst)->opcode = op; \
  47                 (inst)->dreg = dr; \
  48                 (inst)->sreg1 = sr1; \
  49                 (inst)->sreg2 = sr2; \
  50                 mono_bblock_add_inst (cfg->cbb, inst); \
  51         } while (0)
  52
  53 #define MONO_EMIT_NEW_BIALU(cfg,op,dr,sr1,sr2) do { \
  54                 MonoInst *inst; \
  55                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  56                 inst->opcode = op; \
  57                 inst->dreg = dr; \
  58                 inst->sreg1 = sr1; \
  59                 inst->sreg2 = sr2; \
  60                 mono_bblock_add_inst (cfg->cbb, inst); \
  61         } while (0)
  62
  63 #define MONO_EMIT_BIALU_IMM(cfg,inst,op,dr,sr,imm) do { \
  64                 (inst)->opcode = op; \
  65                 (inst)->dreg = dr; \
  66                 (inst)->sreg1 = sr; \
  67                 (inst)->inst_p1 = (gpointer)imm; \
  68                 mono_bblock_add_inst (cfg->cbb, inst); \
  69         } while (0)
  70
  71 #define MONO_EMIT_NEW_BIALU_IMM(cfg,op,dr,sr,imm) do { \
  72                 MonoInst *inst; \
  73                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  74                 inst->opcode = op; \
  75                 inst->dreg = dr; \
  76                 inst->sreg1 = sr; \
  77                 inst->inst_p1 = (gpointer)imm; \
  78                 mono_bblock_add_inst (cfg->cbb, inst); \
  79         } while (0)
  80
  81 #define MONO_EMIT_LOAD_MEMBASE(cfg,inst,dr,base,offset) do { \
  82                 (inst)->opcode = OP_LOAD_MEMBASE; \
  83                 (inst)->dreg = dr; \
  84                 (inst)->inst_basereg = base; \
  85                 (inst)->inst_offset = offset; \
  86                 mono_bblock_add_inst (cfg->cbb, inst); \
  87         } while (0)
  88
  89 #define MONO_EMIT_LOAD_MEMBASE_OP(cfg,inst,op,dr,base,offset) do { \
  90                 (inst)->opcode = op; \
  91                 (inst)->dreg = dr; \
  92                 (inst)->inst_basereg = base; \
  93                 (inst)->inst_offset = offset; \
  94                 mono_bblock_add_inst (cfg->cbb, inst); \
  95         } while (0)
  96
  97 #define MONO_EMIT_NEW_LOAD_MEM(cfg,dr,addr) do { \
  98                 MonoInst *inst; \
  99                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 100                 inst->opcode = OP_LOADU4_MEM; \
 101                 inst->dreg = dr; \
 102                 inst->inst_p0 = addr; \
 103                 mono_bblock_add_inst (cfg->cbb, inst); \
 104         } while (0)
 105
 106 #define MONO_EMIT_NEW_LOAD_MEMBASE(cfg,dr,base,offset) do { \
 107                 MonoInst *inst; \
 108                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 109                 inst->opcode = OP_LOAD_MEMBASE; \
 110                 inst->dreg = dr; \
 111                 inst->inst_basereg = base; \
 112                 inst->inst_offset = offset; \
 113                 mono_bblock_add_inst (cfg->cbb, inst); \
 114         } while (0)
 115
 116 #define MONO_EMIT_NEW_LOAD_MEMBASE_OP(cfg,op,dr,base,offset) do { \
 117                 MonoInst *inst; \
 118                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 119                 inst->opcode = op; \
 120                 inst->dreg = dr; \
 121                 inst->inst_basereg = base; \
 122                 inst->inst_offset = offset; \
 123                 mono_bblock_add_inst (cfg->cbb, inst); \
 124         } while (0)
 125
 126 #define MONO_EMIT_STORE_MEMBASE(cfg,inst,op,base,offset,sr) do { \
 127                 (inst)->opcode = op; \
 128                 (inst)->sreg1 = sr; \
 129                 (inst)->inst_destbasereg = base; \
 130                 (inst)->inst_offset = offset; \
 131                 mono_bblock_add_inst (cfg->cbb, inst); \
 132         } while (0)
 133
 134 #define MONO_EMIT_NEW_STORE_MEMBASE(cfg,op,base,offset,sr) do { \
 135                 MonoInst *inst; \
 136                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 137                 inst->opcode = op; \
 138                 inst->sreg1 = sr; \
 139                 inst->inst_destbasereg = base; \
 140                 inst->inst_offset = offset; \
 141                 mono_bblock_add_inst (cfg->cbb, inst); \
 142         } while (0)
 143
 144 #define MONO_EMIT_STORE_MEMBASE_IMM(cfg,inst,op,base,offset,imm) do { \
 145                 (inst)->opcode = op; \
 146                 (inst)->inst_destbasereg = base; \
 147                 (inst)->inst_offset = offset; \
 148                 (inst)->inst_p1 = (gpointer)imm; \
 149                 mono_bblock_add_inst (cfg->cbb, inst); \
 150         } while (0)
 151
 152 #define MONO_EMIT_NEW_STORE_MEMBASE_IMM(cfg,op,base,offset,imm) do { \
 153                 MonoInst *inst; \
 154                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 155                 inst->opcode = op; \
 156                 inst->inst_destbasereg = base; \
 157                 inst->inst_offset = offset; \
 158                 inst->inst_p1 = (gpointer)imm; \
 159                 mono_bblock_add_inst (cfg->cbb, inst); \
 160         } while (0)
 161
 162 #define MONO_EMIT_NEW_COMPARE_IMM(cfg,sr1,imm) do { \
 163                 MonoInst *inst; \
 164                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 165                 inst->opcode = OP_COMPARE_IMM;  \
 166                 inst->sreg1 = sr1; \
 167                 inst->inst_p1 = (gpointer)imm; \
 168                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 169         } while (0)
 170
 171 #define MONO_EMIT_NEW_ICOMPARE_IMM(cfg,sr1,imm) do { \
 172                 MonoInst *inst; \
 173                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 174                 inst->opcode = sizeof (void*) == 8 ? OP_ICOMPARE_IMM : OP_COMPARE_IMM;  \
 175                 inst->sreg1 = sr1; \
 176                 inst->inst_p1 = (gpointer)imm; \
 177                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 178         } while (0)
 179
 180 #define MONO_EMIT_NEW_COND_EXC(cfg,cond,name) do { \
 181                 MonoInst *inst; \
 182                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 183                 inst->opcode = OP_COND_EXC_##cond;  \
 184                 inst->inst_p1 = (char*)name; \
 185                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 186         } while (0)
 187
 188 #define MONO_EMIT_NEW_ICONST(cfg,dr,imm) do { \
 189                 MonoInst *inst; \
 190                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 191                 inst->opcode = OP_ICONST;       \
 192                 inst->dreg = dr; \
 193                 inst->inst_c0 = imm; \
 194                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 195         } while (0)
 196
 197 #define MONO_EMIT_NEW_I8CONST(cfg,dr,imm) do { \
 198                 MonoInst *inst; \
 199                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 200                 inst->opcode = OP_I8CONST;      \
 201                 inst->dreg = dr; \
 202                 inst->inst_l = imm; \
 203                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 204         } while (0)
 205
 206 #define MONO_EMIT_NEW_PCONST(cfg,dr,imm) do { \
 207                 MonoInst *inst; \
 208                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 209                 inst->opcode = OP_ICONST;       \
 210                 inst->dreg = dr; \
 211                 inst->inst_p0 = (gpointer) imm; \
 212                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 213         } while (0)
 214
 215 #define MONO_EMIT_NEW_AOTCONST(cfg,dr,imm,type) do { \
 216                 MonoInst *inst; \
 217                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 218                 inst->opcode = OP_AOTCONST;     \
 219                 inst->dreg = dr; \
 220                 inst->inst_p0 = imm; \
 221                 inst->inst_c1 = type; \
 222                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 223         } while (0)
 224
 225 #define MONO_EMIT_NEW_CLASSCONST(cfg,dr,imm) MONO_EMIT_NEW_AOTCONST(cfg,dr,imm,MONO_PATCH_INFO_CLASS)
 226
 227 #define MONO_EMIT_NEW_BRANCH_BLOCK(cfg,op,targetbb) do { \
 228                 MonoInst *inst; \
 229                 MonoInst *target_label; \
 230                 target_label = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 231                 target_label->opcode = OP_LABEL;        \
 232                 target_label->next = (targetbb)->code; \
 233                 target_label->inst_c0 = (targetbb)->native_offset; \
 234                 (targetbb)->code = target_label; \
 235                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 236                 inst->opcode = op;      \
 237                 inst->inst_i0 = target_label;   \
 238                 inst->flags = MONO_INST_BRLABEL;        \
 239                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 240         } while (0)
 241
 242 #define MONO_EMIT_NEW_BRANCH_LABEL(cfg,op,label) do { \
 243                 MonoInst *inst; \
 244                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 245                 inst->opcode = op;      \
 246                 inst->inst_i0 = label;  \
 247                 inst->flags = MONO_INST_BRLABEL;        \
 248                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 249         } while (0)
 250
 251 #define MONO_NEW_LABEL(cfg,inst) do { \
 252                 (inst) = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));       \
 253                 (inst)->opcode = OP_LABEL;      \
 254         } while (0)
 255
 256 #define MONO_EMIT_BOUNDS_CHECK(cfg, array_reg, array_type, array_length_field, index_reg) do { \
 257                 if (! (state->tree->flags & MONO_INST_NORANGECHECK)) { \
 258                         int _length_reg = mono_regstate_next_int (cfg->rs); \
 259                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (cfg, OP_LOADI4_MEMBASE, _length_reg, array_reg, G_STRUCT_OFFSET (array_type, array_length_field)); \
 260                         MONO_EMIT_NEW_BIALU (cfg, OP_COMPARE, -1, _length_reg, index_reg); \
 261                         MONO_EMIT_NEW_COND_EXC (cfg, LE_UN, "IndexOutOfRangeException"); \
 262                 } \
 263         } while (0)
 264
 265 #define MONO_EMIT_BOUNDS_CHECK_IMM(cfg, array_reg, array_type, array_length_field, index_imm) do { \
 266                 if (! (state->tree->flags & MONO_INST_NORANGECHECK)) { \
 267                         int _length_reg = mono_regstate_next_int (cfg->rs); \
 268                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (cfg, OP_LOADI4_MEMBASE, _length_reg, array_reg, G_STRUCT_OFFSET (array_type, array_length_field)); \
 269                         MONO_EMIT_NEW_BIALU_IMM (cfg, OP_COMPARE_IMM, -1, _length_reg, index_imm); \
 270                         MONO_EMIT_NEW_COND_EXC (cfg, LE_UN, "IndexOutOfRangeException"); \
 271                 } \
 272         } while (0)
 273
 274 /* we need to kludge state because monoburg puts this stuff before the definition of MBState */
 275 void mini_emit_virtual_call (MonoCompile *s, void *state, MonoInst *tree, int novirt_op, int virtop);
 276 void mini_emit_isninst_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target);
 277 void mini_emit_isninst_iface_cast (MonoCompile *s, int vtable_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target);
 278 void mini_emit_isninst_iface_class_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target);
 279 void mini_emit_castclass (MonoCompile *s, int klass_reg, MonoClass *klass);
 280 void mini_emit_castclass_iface (MonoCompile *s, int vtable_reg, MonoClass *klass);
 281 void mini_emit_castclass_iface_class (MonoCompile *s, int klass_reg, MonoClass *klass);
 282
 283 void mini_emit_memcpy (MonoCompile *s, int destreg, int doffset, int srcreg, int soffset, int size, int align);
 284 void mini_emit_memset (MonoCompile *s, int destreg, int offset, int size, int val, int align);
 285
 286 int ldind_to_load_membase (int opcode);
 287
 288 %%
 289
 290 %termprefix OP_ CEE_
 291
 292 %start stmt
 293
 294 #
 295 # base addressing mode
 296 #
 297
 298 base: reg "0" {
 299         /* we create a new MonoInst in chain rules and set state->tree to it
 300          * since a MBState (and hence state->tree) is reused in chain rules and
 301          * normal rules.
 302          */
 303         MonoInst *inst;
 304         inst = mono_mempool_alloc0 (s->mempool, sizeof (MonoInst));
 305         inst->opcode = OP_ICONST; /* doesn't matter */
 306         inst->inst_basereg = state->reg1;
 307         inst->inst_offset = 0;
 308         state->tree = inst;
 309         //g_print ("mybase: (assigned R%d from R%d - R%d)\n", state->reg1, tree->dreg, state->reg2);
 310         //tree->inst_offset = 0;
 311         //tree->inst_basereg = state->reg1;
 312 }
 313
 314 base: CEE_LDIND_I (OP_REGVAR) "0" {
 315         tree->inst_offset = 0;
 316         tree->inst_basereg = state->left->tree->dreg;
 317 }
 318
 319 base: OP_REGOFFSET "0" {
 320         /* nothing to do */
 321 }
 322
 323 base: OP_LDADDR (OP_REGOFFSET) "0" {
 324         tree->inst_offset = state->left->tree->inst_offset;
 325         tree->inst_basereg = state->left->tree->inst_basereg;
 326 }
 327
 328 base: CEE_LDOBJ (OP_REGOFFSET) "0" {
 329         tree->inst_offset = state->left->tree->inst_offset;
 330         tree->inst_basereg = state->left->tree->inst_basereg;
 331 }
 332
 333 base: CEE_ADD (base, OP_ICONST) "0" {
 334         tree->inst_offset = state->left->tree->inst_offset + state->right->tree->inst_c0;
 335         tree->inst_basereg = state->left->tree->inst_basereg;
 336 }
 337
 338 base: CEE_ADD (CEE_LDIND_REF (OP_REGVAR), OP_ICONST) "0" {
 339         tree->inst_offset = state->right->tree->inst_c0;
 340         tree->inst_basereg = state->left->left->tree->dreg;
 341 }
 342
 343 base: CEE_ADD (CEE_LDIND_I (OP_REGVAR), OP_ICONST) "0" {
 344         tree->inst_offset = state->right->tree->inst_c0;
 345         tree->inst_basereg = state->left->left->tree->dreg;
 346 }
 347
 348 #
 349 # helpers
 350 #
 351
 352 reg: OP_ICONST {
 353         MONO_EMIT_NEW_ICONST (s, state->reg1, tree->inst_c0);
 354 }
 355
 356 reg: OP_AOTCONST {
 357         MONO_EMIT_NEW_AOTCONST (s, state->reg1, tree->inst_p0, tree->inst_c1);
 358 }
 359
 360 #
 361 # load/store operations
 362 #
 363
 364 reg: CEE_LDIND_I (base),
 365 reg: CEE_LDIND_REF (base),
 366 reg: CEE_LDIND_I1 (base),
 367 reg: CEE_LDIND_U1 (base),
 368 reg: CEE_LDIND_I2 (base),
 369 reg: CEE_LDIND_U2 (base) {
 370         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, ldind_to_load_membase (tree->opcode),
 371                                    state->reg1, state->left->tree->inst_basereg, state->left->tree->inst_offset);
 372 }
 373
 374 reg: OP_LDADDR (OP_REGOFFSET) "2" {
 375         /* use LEA */
 376         tree->opcode = OP_MOVE;
 377         tree->sreg1 = state->left->tree->inst_basereg;
 378         tree->dreg = state->reg1;
 379         mono_bblock_add_inst (s->cbb, tree);
 380         if (state->left->tree->inst_offset) {
 381                 MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, tree->dreg, tree->dreg, state->left->tree->inst_offset);
 382         }
 383 }
 384
 385 reg: CEE_LDOBJ (OP_REGOFFSET) "2" {
 386         /* use LEA */
 387         /* FIXME: this is just an hack */
 388         tree->opcode = OP_MOVE;
 389         tree->sreg1 = state->left->tree->inst_basereg;
 390         tree->dreg = state->reg1;
 391         mono_bblock_add_inst (s->cbb, tree);
 392         if (state->left->tree->inst_offset) {
 393                 MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, tree->dreg, tree->dreg, state->left->tree->inst_offset);
 394         }
 395 }
 396
 397 reg: CEE_LDOBJ (reg) {
 398         tree->opcode = OP_MOVE;
 399         tree->sreg1 = state->left->reg1;
 400         tree->dreg = state->reg1;
 401         mono_bblock_add_inst (s->cbb, tree);
 402 }
 403
 404 reg: OP_OBJADDR (reg) {
 405         tree->opcode = OP_MOVE;
 406         tree->sreg1 = state->left->reg1;
 407         tree->dreg = state->reg1;
 408         mono_bblock_add_inst (s->cbb, tree);
 409 }
 410
 411 reg: OP_VTADDR (reg) {
 412         tree->opcode = OP_MOVE;
 413         tree->sreg1 = state->left->reg1;
 414         tree->dreg = state->reg1;
 415         mono_bblock_add_inst (s->cbb, tree);
 416 }
 417
 418 reg: CEE_LDIND_U1 (OP_REGVAR) {
 419         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->tree->dreg, 0xff);
 420 }
 421
 422 reg: CEE_LDIND_U2 (OP_REGVAR) {
 423         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->tree->dreg, 0xffff);
 424 }
 425
 426 stmt: CEE_STIND_REF (base, reg) {
 427         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STORE_MEMBASE_REG, state->left->tree->inst_basereg,
 428                                  state->left->tree->inst_offset, state->right->reg1);
 429 }
 430
 431 stmt: CEE_STIND_REF (base, CEE_LDIND_REF (OP_REGVAR)),
 432 stmt: CEE_STIND_REF (base, CEE_LDIND_I (OP_REGVAR)),
 433 stmt: CEE_STIND_I (base, CEE_LDIND_REF (OP_REGVAR)),
 434 stmt: CEE_STIND_I (base, CEE_LDIND_I (OP_REGVAR)) {
 435         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STORE_MEMBASE_REG, state->left->tree->inst_basereg,
 436                                  state->left->tree->inst_offset, state->right->left->tree->dreg);
 437 }
 438
 439 stmt: CEE_STIND_REF (base, OP_ICONST) {
 440         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STORE_MEMBASE_IMM, state->left->tree->inst_basereg,
 441                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 442 }
 443
 444 stmt: CEE_STIND_REF (OP_REGVAR, CEE_LDIND_REF (OP_REGVAR)),
 445 stmt: CEE_STIND_REF (OP_REGVAR, CEE_LDIND_I (OP_REGVAR)),
 446 stmt: CEE_STIND_I (OP_REGVAR, CEE_LDIND_REF (OP_REGVAR)),
 447 stmt: CEE_STIND_I (OP_REGVAR, CEE_LDIND_I (OP_REGVAR)) {
 448         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->left->tree->dreg, state->right->left->tree->dreg);
 449 }
 450
 451
 452 stmt: CEE_STIND_I (base, reg) {
 453         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STORE_MEMBASE_REG, state->left->tree->inst_basereg,
 454                                  state->left->tree->inst_offset, state->right->reg1);
 455 }
 456
 457 stmt: CEE_STIND_I (base, OP_ICONST) {
 458         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STORE_MEMBASE_IMM, state->left->tree->inst_basereg,
 459                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 460 }
 461
 462 reg: CEE_LDIND_I4 (base) {
 463         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->reg1,
 464                                    state->left->tree->inst_basereg, state->left->tree->inst_offset);
 465 }
 466
 467 reg: CEE_LDIND_U4 (base) {
 468         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADU4_MEMBASE, state->reg1,
 469                                    state->left->tree->inst_basereg, state->left->tree->inst_offset);
 470 }
 471
 472 reg: CEE_LDIND_REF (OP_REGVAR),
 473 reg: CEE_LDIND_I (OP_REGVAR),
 474 reg: CEE_LDIND_I4 (OP_REGVAR),
 475 reg: CEE_LDIND_U4 (OP_REGVAR) {
 476         tree->opcode = OP_MOVE;
 477         tree->sreg1 = state->left->tree->dreg;
 478         tree->dreg = state->reg1;
 479         mono_bblock_add_inst (s->cbb, tree);
 480 }
 481
 482 stmt: CEE_STIND_I4 (base, reg) {
 483         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI4_MEMBASE_REG, state->left->tree->inst_basereg,
 484                                  state->left->tree->inst_offset, state->right->reg1);
 485 }
 486
 487 stmt: CEE_STIND_I4 (base, CEE_LDIND_I4 (OP_REGVAR)) {
 488         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI4_MEMBASE_REG, state->left->tree->inst_basereg,
 489                                  state->left->tree->inst_offset, state->right->left->tree->dreg);
 490 }
 491
 492 stmt: CEE_STIND_I4 (base, OP_ICONST) {
 493         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI4_MEMBASE_IMM, state->left->tree->inst_basereg,
 494                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 495 }
 496
 497 stmt: CEE_STIND_I4 (OP_REGVAR, OP_ICONST) {
 498         tree->inst_c0 = state->right->tree->inst_c0;
 499         tree->opcode = OP_ICONST;
 500         tree->dreg = state->left->tree->dreg;
 501         mono_bblock_add_inst (s->cbb, tree);
 502 }
 503
 504 stmt: CEE_STIND_I4 (OP_REGVAR, reg) {
 505         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->left->tree->dreg, state->right->reg1);
 506 }
 507
 508 stmt: CEE_STIND_I4 (OP_REGVAR, CEE_LDIND_I4 (OP_REGVAR)) {
 509         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->left->tree->dreg, state->right->left->tree->dreg);
 510 }
 511
 512 stmt: CEE_STIND_I4 (OP_REGVAR, CEE_LDIND_I4 (base)) {
 513         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->left->tree->dreg,
 514                                    state->right->left->tree->inst_basereg,
 515                                    state->right->left->tree->inst_offset);
 516 }
 517
 518 stmt: CEE_STIND_I1 (base, reg) {
 519         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI1_MEMBASE_REG, state->left->tree->inst_basereg,
 520                                  state->left->tree->inst_offset, state->right->reg1);
 521 }
 522
 523 stmt: CEE_STIND_I1 (base, OP_ICONST) {
 524         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI1_MEMBASE_IMM, state->left->tree->inst_basereg,
 525                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 526 }
 527
 528 stmt: CEE_STIND_I2 (base, reg) {
 529         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI2_MEMBASE_REG, state->left->tree->inst_basereg,
 530                                  state->left->tree->inst_offset, state->right->reg1);
 531 }
 532
 533 stmt: CEE_STIND_I2 (base, OP_ICONST) {
 534         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI2_MEMBASE_IMM, state->left->tree->inst_basereg,
 535                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 536 }
 537
 538 stmt: CEE_STIND_I2 (OP_REGVAR, reg) {
 539         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->reg1, 0xffff);
 540 }
 541
 542 stmt: CEE_STIND_I1 (OP_REGVAR, reg) {
 543         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->reg1, 0xff);
 544 }
 545
 546 stmt: CEE_STIND_I1 (OP_REGVAR, CEE_LDIND_U1 (OP_REGVAR)) {
 547         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->left->tree->dreg, 0xff);
 548 }
 549
 550 stmt: CEE_STIND_I1 (OP_REGVAR, CEE_LDIND_I1 (OP_REGVAR)) {
 551         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->left->tree->dreg, 0xff);
 552 }
 553
 554 stmt: CEE_STIND_I2 (OP_REGVAR, CEE_LDIND_U2 (OP_REGVAR)) {
 555         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->left->tree->dreg, 0xffff);
 556 }
 557
 558 stmt: CEE_STIND_I2 (OP_REGVAR, CEE_LDIND_I2 (OP_REGVAR)) {
 559         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->left->tree->dreg, 0xffff);
 560 }
 561
 562 stmt: CEE_STIND_I2 (OP_REGVAR, OP_ICONST),
 563 stmt: CEE_STIND_I1 (OP_REGVAR, OP_ICONST),
 564 stmt: CEE_STIND_REF (OP_REGVAR, OP_ICONST),
 565 stmt: CEE_STIND_I (OP_REGVAR, OP_ICONST) {
 566         tree->inst_c0 = state->right->tree->inst_c0;
 567         if (tree->opcode == CEE_STIND_I2)
 568                 tree->inst_c0 &= 0xffff;
 569         if (tree->opcode == CEE_STIND_I1)
 570                 tree->inst_c0 &= 0xff;
 571
 572         tree->opcode = OP_ICONST;
 573         tree->dreg = state->left->tree->dreg;
 574         mono_bblock_add_inst (s->cbb, tree);
 575 }
 576
 577 stmt: CEE_STIND_REF (OP_REGVAR, reg) {
 578         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->left->tree->dreg, state->right->reg1);
 579 }
 580
 581 stmt: CEE_STIND_I (OP_REGVAR, reg) {
 582         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->left->tree->dreg, state->right->reg1);
 583 }
 584
 585 stmt: CEE_STELEM_REF (OP_GROUP (reg, reg), reg) {
 586
 587         g_assert_not_reached ();
 588 }
 589
 590 reg: OP_GROUP (reg, reg) {
 591         g_assert_not_reached ();
 592 }
 593
 594 stmt: OP_MEMCPY (base, base) {
 595         int size = tree->unused;
 596         if (size > 0)
 597                 mini_emit_memcpy (s, state->left->tree->inst_basereg, state->left->tree->inst_offset,
 598                                   state->right->tree->inst_basereg, state->right->tree->inst_offset, size, 0);
 599 }
 600
 601 stmt: OP_MEMSET (base) {
 602         int size = tree->unused;
 603         if (size > 0)
 604                 mini_emit_memset (s, state->left->tree->inst_basereg, state->left->tree->inst_offset, size, tree->inst_imm, 0);
 605 }
 606
 607 reg: OP_LDELEMA2D (reg, OP_GROUP (reg, reg)) "20" {
 608         int bounds_reg = mono_regstate_next_int (s->rs);
 609         int add_reg = mono_regstate_next_int (s->rs);
 610         int mult_reg = mono_regstate_next_int (s->rs);
 611         int mult2_reg = mono_regstate_next_int (s->rs);
 612         int low1_reg = mono_regstate_next_int (s->rs);
 613         int low2_reg = mono_regstate_next_int (s->rs);
 614         int high1_reg = mono_regstate_next_int (s->rs);
 615         int high2_reg = mono_regstate_next_int (s->rs);
 616         int realidx1_reg = mono_regstate_next_int (s->rs);
 617         int realidx2_reg = mono_regstate_next_int (s->rs);
 618         int sum_reg = mono_regstate_next_int (s->rs);
 619         int index1, index2;
 620         guint32 size = mono_array_element_size (tree->klass);
 621
 622         index1 = state->right->left->reg1;
 623         index2 = state->right->right->reg1;
 624
 625         /* range checking */
 626         MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg,
 627                                        state->left->reg1, G_STRUCT_OFFSET (MonoArray, bounds));
 628
 629         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, low1_reg,
 630                                        bounds_reg, G_STRUCT_OFFSET (MonoArrayBounds, lower_bound));
 631         MONO_EMIT_NEW_BIALU (s, CEE_SUB, realidx1_reg, index1, low1_reg);
 632         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, high1_reg,
 633                                        bounds_reg, G_STRUCT_OFFSET (MonoArrayBounds, length));
 634         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, high1_reg, realidx1_reg);
 635         MONO_EMIT_NEW_COND_EXC (s, LE_UN, "IndexOutOfRangeException");
 636
 637         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, low2_reg,
 638                                        bounds_reg, sizeof (MonoArrayBounds) + G_STRUCT_OFFSET (MonoArrayBounds, lower_bound));
 639         MONO_EMIT_NEW_BIALU (s, CEE_SUB, realidx2_reg, index2, low2_reg);
 640         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, high2_reg,
 641                                        bounds_reg, sizeof (MonoArrayBounds) + G_STRUCT_OFFSET (MonoArrayBounds, length));
 642         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, high2_reg, realidx2_reg);
 643         MONO_EMIT_NEW_COND_EXC (s, LE_UN, "IndexOutOfRangeException");
 644
 645         MONO_EMIT_NEW_BIALU (s, CEE_MUL, mult_reg, high2_reg, realidx1_reg);
 646         MONO_EMIT_NEW_BIALU (s, CEE_ADD, sum_reg, mult_reg, realidx2_reg);
 647         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, mult2_reg, sum_reg, size);
 648         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult2_reg, state->left->reg1);
 649         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, add_reg, G_STRUCT_OFFSET (MonoArray, vector));
 650 }
 651
 652 #
 653 # conversions: conv_u can be implemented with AND, also all _ovf conversions?
 654 #
 655
 656 reg: CEE_CONV_I1 (reg) {
 657         MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 658 }
 659
 660 reg: CEE_CONV_I2 (reg) {
 661         MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 662 }
 663
 664 reg: CEE_CONV_I4 (reg) {
 665         MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 666 }
 667
 668 reg: CEE_CONV_U1 (reg) {
 669         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xff);
 670 }
 671
 672 reg: CEE_CONV_U2 (reg) {
 673         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xffff);
 674 }
 675
 676 reg: CEE_CONV_U4 (reg) {
 677         if (sizeof (void *) == 8) {
 678                 MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 679         } else {
 680                 MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 681         }
 682 }
 683
 684 reg: CEE_CONV_U (reg) {
 685         if (sizeof (void *) == 8) {
 686                 MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 687         } else {
 688                 MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 689         }
 690 }
 691
 692 reg: CEE_CONV_I (reg) {
 693         if (sizeof (void *) == 8) {
 694                 MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 695         } else {
 696                 MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 697         }
 698 }
 699
 700 reg: CEE_CONV_OVF_I4 (reg) {
 701         if (sizeof (void *) == 8) {
 702                 MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 703         } else {
 704                 MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 705         }
 706 }
 707
 708 reg: CEE_CONV_OVF_U4 (reg) {
 709         if (sizeof (void *) == 8) {
 710                 MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 711         } else {
 712                 /* Keep in sync with CONV_OVF_I4_UN below, they are the same on 32-bit machines */
 713                 MONO_EMIT_NEW_COMPARE_IMM (s, state->left->reg1, 0);
 714                 MONO_EMIT_NEW_COND_EXC (s, LT, "OverflowException");
 715                 MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 716         }
 717 }
 718
 719 reg: CEE_CONV_OVF_I4_UN (reg) {
 720         if (sizeof (void *) == 8) {
 721                 MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 722         } else {
 723                 /* Keep in sync with CONV_OVF_U4 above, they are the same on 32-bit machines */
 724                 MONO_EMIT_NEW_COMPARE_IMM (s, state->left->reg1, 0);
 725                 MONO_EMIT_NEW_COND_EXC (s, LT, "OverflowException");
 726                 MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 727         }
 728 }
 729
 730 reg: CEE_CONV_OVF_I1 (reg) {
 731         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 127);
 732         MONO_EMIT_NEW_COND_EXC (s, GT, "OverflowException");
 733         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, -128);
 734         MONO_EMIT_NEW_COND_EXC (s, LT, "OverflowException");
 735         MONO_EMIT_UNALU (s, tree, CEE_CONV_I1, state->reg1, state->left->reg1);
 736 }
 737
 738 reg: CEE_CONV_OVF_I1_UN (reg) {
 739         /* probe values between 0 to 127 */
 740         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 127);
 741         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 742         MONO_EMIT_UNALU (s, tree, CEE_CONV_I1, state->reg1, state->left->reg1);
 743 }
 744
 745 reg: CEE_CONV_OVF_U1 (reg) {
 746         /* probe value to be within 0 to 255 */
 747         MONO_EMIT_NEW_COMPARE_IMM (s, state->left->reg1, 255);
 748         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 749         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xff);
 750 }
 751
 752 reg: CEE_CONV_OVF_U1_UN (reg) {
 753         /* probe value to be within 0 to 255 */
 754         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 255);
 755         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 756         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xff);
 757 }
 758
 759 reg: CEE_CONV_OVF_I2 (reg) {
 760         /* Probe value to be within -32768 and 32767 */
 761         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 32767);
 762         MONO_EMIT_NEW_COND_EXC (s, GT, "OverflowException");
 763         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, -32768);
 764         MONO_EMIT_NEW_COND_EXC (s, LT, "OverflowException");
 765         MONO_EMIT_UNALU (s, tree, CEE_CONV_I2, state->reg1, state->left->reg1);
 766 }
 767
 768 reg: CEE_CONV_OVF_I2_UN (reg) {
 769         /* Convert uint value into short, value within 0 and 32767 */
 770         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 32767);
 771         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 772         MONO_EMIT_UNALU (s, tree, CEE_CONV_I2, state->reg1, state->left->reg1);
 773 }
 774
 775 reg: CEE_CONV_OVF_U2 (reg) {
 776         /* Probe value to be within 0 and 65535 */
 777         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 0xffff);
 778         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 779         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xffff);
 780 }
 781
 782 reg: CEE_CONV_OVF_U2_UN (reg) {
 783         /* Probe value to be within 0 and 65535 */
 784         MONO_EMIT_NEW_ICOMPARE_IMM (s, state->left->reg1, 0xffff);
 785         MONO_EMIT_NEW_COND_EXC (s, GT_UN, "OverflowException");
 786         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xffff);
 787 }
 788
 789 #
 790 # other alu operations
 791 #
 792
 793 reg: OP_CEQ (cflags) {
 794         tree->dreg = state->reg1;
 795         mono_bblock_add_inst (s->cbb, tree);
 796 }
 797
 798 reg: OP_CLT (cflags) {
 799         tree->dreg = state->reg1;
 800         mono_bblock_add_inst (s->cbb, tree);
 801 }
 802
 803 reg: OP_CLT_UN (cflags) {
 804         tree->dreg = state->reg1;
 805         mono_bblock_add_inst (s->cbb, tree);
 806 }
 807
 808 reg: OP_CGT (cflags) {
 809         tree->dreg = state->reg1;
 810         mono_bblock_add_inst (s->cbb, tree);
 811 }
 812
 813 reg: OP_CGT_UN (cflags) {
 814         tree->dreg = state->reg1;
 815         mono_bblock_add_inst (s->cbb, tree);
 816 }
 817
 818 #
 819 # control flow commands
 820 #
 821
 822 stmt: OP_LABEL {
 823         mono_bblock_add_inst (s->cbb, tree);
 824 }
 825
 826 stmt: CEE_NOP "0" {
 827 }
 828
 829 stmt: CEE_BREAK "0" {
 830         mono_bblock_add_inst (s->cbb, tree);
 831 }
 832
 833 stmt: CEE_SWITCH (reg) {
 834         MonoInst *label;
 835         int offset_reg = mono_regstate_next_int (s->rs);
 836         int target_reg = mono_regstate_next_int (s->rs);
 837         int n = GPOINTER_TO_INT (tree->klass);
 838
 839         MONO_NEW_LABEL (s, label);
 840         mono_create_jump_table (s, label, tree->inst_many_bb, n);
 841
 842         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, state->left->reg1, n);
 843         MONO_EMIT_NEW_BRANCH_BLOCK (s, CEE_BGE_UN, tree->inst_many_bb [n]);
 844         if (sizeof (gpointer) == 8)
 845                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, offset_reg, state->left->reg1, 3);
 846         else
 847                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, offset_reg, state->left->reg1, 2);
 848         mono_bblock_add_inst (s->cbb, label);
 849          /* the backend must patch the address. we use 0xf0f0f0f0 to avoid the usage
 850           * of special (short) opcodes on x86 */
 851         if (sizeof (gpointer) == 8) {
 852                 MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, offset_reg, (long)0xf0f0f0f0f0f0f0f1LL);
 853         }
 854         else {
 855                 MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, offset_reg, 0xf0f0f0f0);
 856         }
 857         MONO_EMIT_UNALU (s, tree, OP_BR_REG, -1, target_reg);
 858 }
 859
 860 stmt: CEE_BR "0" {
 861         mono_bblock_add_inst (s->cbb, tree);
 862 }
 863
 864 stmt: OP_ARGLIST (reg) {
 865         tree->sreg1 = state->left->reg1;
 866         mono_bblock_add_inst (s->cbb, tree);
 867 }
 868
 869 reg: CEE_CALL {
 870         tree->dreg = state->reg1;
 871         mono_bblock_add_inst (s->cbb, tree);
 872 }
 873
 874 reg: CEE_CALLVIRT (reg) {
 875         mini_emit_virtual_call (s, state, tree, CEE_CALL, OP_CALL_MEMBASE);
 876 }
 877
 878 stmt: OP_VOIDCALLVIRT (reg) {
 879         mini_emit_virtual_call (s, state, tree, OP_VOIDCALL, OP_VOIDCALL_MEMBASE);
 880 }
 881
 882 freg: OP_FCALLVIRT (reg) {
 883         mini_emit_virtual_call (s, state, tree, OP_FCALL, OP_FCALL_MEMBASE);
 884 }
 885
 886 stmt: OP_VCALLVIRT (reg, reg) {
 887         mini_emit_virtual_call (s, state, tree, OP_VCALL, OP_VCALL_MEMBASE);
 888 }
 889
 890 reg: OP_CALL_REG (reg) {
 891         tree->sreg1 = state->left->reg1;
 892         tree->dreg = state->reg1;
 893         mono_bblock_add_inst (s->cbb, tree);
 894 }
 895
 896 stmt: OP_VOIDCALL {
 897         mono_bblock_add_inst (s->cbb, tree);
 898 }
 899
 900 stmt: OP_VOIDCALL_REG (reg) {
 901         tree->sreg1 = state->left->reg1;
 902         mono_bblock_add_inst (s->cbb, tree);
 903 }
 904
 905 freg: OP_FCALL {
 906         tree->dreg = state->reg1;
 907         mono_bblock_add_inst (s->cbb, tree);
 908 }
 909
 910 freg: OP_FCALL_REG (reg) {
 911         tree->sreg1 = state->left->reg1;
 912         tree->dreg = state->reg1;
 913         mono_bblock_add_inst (s->cbb, tree);
 914 }
 915
 916 stmt: OP_VCALL (reg) {
 917         mono_arch_emit_this_vret_args (s, (MonoCallInst*)tree, -1, -1, state->left->reg1);
 918         mono_bblock_add_inst (s->cbb, tree);
 919 }
 920
 921 stmt: OP_VCALL_REG (reg, reg) {
 922         mono_arch_emit_this_vret_args (s, (MonoCallInst*)tree, -1, -1, state->right->reg1);
 923
 924         tree->sreg1 = state->left->reg1;
 925         mono_bblock_add_inst (s->cbb, tree);
 926 }
 927
 928 stmt: OP_SAVE_LMF,
 929 stmt: OP_RESTORE_LMF {
 930         mono_bblock_add_inst (s->cbb, tree);
 931 }
 932
 933 #
 934 # Optimized call instructions
 935 #
 936
 937 reg: OP_CALL_REG (OP_ICONST) {
 938         tree->opcode = CEE_CALL;
 939         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 940         tree->dreg = state->reg1;
 941         mono_bblock_add_inst (s->cbb, tree);
 942 }
 943
 944 stmt: OP_VOIDCALL_REG (OP_ICONST) {
 945         tree->opcode = OP_VOIDCALL;
 946         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 947         mono_bblock_add_inst (s->cbb, tree);
 948 }
 949
 950 freg: OP_FCALL_REG (OP_ICONST) {
 951         tree->opcode = OP_FCALL;
 952         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 953         tree->dreg = state->reg1;
 954         mono_bblock_add_inst (s->cbb, tree);
 955 }
 956
 957 # 64 bit versions
 958 reg: OP_CALL_REG (OP_I8CONST) {
 959         tree->opcode = CEE_CALL;
 960         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 961         tree->dreg = state->reg1;
 962         mono_bblock_add_inst (s->cbb, tree);
 963 }
 964
 965 stmt: OP_VOIDCALL_REG (OP_I8CONST) {
 966         tree->opcode = OP_VOIDCALL;
 967         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 968         mono_bblock_add_inst (s->cbb, tree);
 969 }
 970
 971 freg: OP_FCALL_REG (OP_I8CONST) {
 972         tree->opcode = OP_FCALL;
 973         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 974         tree->dreg = state->reg1;
 975         mono_bblock_add_inst (s->cbb, tree);
 976 }
 977
 978 stmt: CEE_RET "0" {
 979         mono_bblock_add_inst (s->cbb, tree);
 980 }
 981
 982 stmt: CEE_POP (reg)
 983
 984 # remove some common pops without side effects
 985 stmt: CEE_POP (OP_ICONST)
 986 stmt: CEE_POP (CEE_LDIND_I1 (base))
 987 stmt: CEE_POP (CEE_LDIND_U1 (base))
 988 stmt: CEE_POP (CEE_LDIND_I2 (base))
 989 stmt: CEE_POP (CEE_LDIND_U2 (base))
 990 stmt: CEE_POP (CEE_LDIND_I4 (base))
 991 stmt: CEE_POP (CEE_LDIND_U4 (base))
 992 stmt: CEE_POP (CEE_LDIND_I (base))
 993 stmt: CEE_POP (CEE_LDIND_REF (base))
 994 stmt: CEE_POP (CEE_LDIND_I1 (OP_REGVAR))
 995 stmt: CEE_POP (CEE_LDIND_U1 (OP_REGVAR))
 996 stmt: CEE_POP (CEE_LDIND_I2 (OP_REGVAR))
 997 stmt: CEE_POP (CEE_LDIND_U2 (OP_REGVAR))
 998 stmt: CEE_POP (CEE_LDIND_I4 (OP_REGVAR))
 999 stmt: CEE_POP (CEE_LDIND_U4 (OP_REGVAR))
1000 stmt: CEE_POP (CEE_LDIND_I (OP_REGVAR))
1001 stmt: CEE_POP (CEE_LDIND_REF (OP_REGVAR))
1002
1003 stmt: CEE_JMP "0" {
1004         mono_bblock_add_inst (s->cbb, tree);
1005 }
1006
1007 # exception handling
1008
1009 stmt: CEE_THROW (reg) {
1010         MONO_EMIT_UNALU (s, tree, CEE_THROW, -1, state->left->reg1);
1011 }
1012
1013 stmt: OP_THROW_OR_NULL (reg) {
1014         MonoInst *object_is_null;
1015
1016         MONO_NEW_LABEL (s, object_is_null);
1017
1018         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, 0, state->left->reg1, 0);
1019         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1020         MONO_EMIT_UNALU (s, tree, CEE_THROW, -1, state->left->reg1);
1021         mono_bblock_add_inst (s->cbb, object_is_null);
1022 }
1023
1024 stmt: CEE_THROW (CEE_LDIND_REF (OP_REGVAR)) {
1025         MONO_EMIT_UNALU (s, tree, CEE_THROW, -1, state->left->left->tree->dreg);
1026 }
1027
1028 stmt: OP_CALL_HANDLER {
1029         mono_bblock_add_inst (s->cbb, tree);
1030 }
1031
1032 stmt: OP_START_HANDLER "2" {
1033         mono_bblock_add_inst (s->cbb, tree);
1034 }
1035
1036 stmt: CEE_ENDFINALLY "2" {
1037         mono_bblock_add_inst (s->cbb, tree);
1038 }
1039
1040 stmt: OP_ENDFILTER (reg) "2" {
1041         MONO_EMIT_UNALU (s, tree, OP_ENDFILTER, -1, state->left->reg1);
1042 }
1043
1044 stmt: OP_CHECK_THIS (reg) {
1045         tree->sreg1 = state->left->reg1;
1046         tree->dreg = state->reg1;
1047         mono_bblock_add_inst (s->cbb, tree);
1048 }
1049
1050 # object related opcodes
1051
1052 reg: CEE_ISINST (reg) {
1053         MonoClass *klass = tree->inst_newa_class;
1054         MonoInst *object_is_null, *end_label, *false_label;
1055         int obj_reg = state->left->reg1;
1056         int vtable_reg = mono_regstate_next_int (s->rs);
1057
1058         MONO_NEW_LABEL (s, object_is_null);
1059         MONO_NEW_LABEL (s, end_label);
1060         MONO_NEW_LABEL (s, false_label);
1061
1062         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, obj_reg, 0);
1063         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1064
1065         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1066                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1067                 /* the object_is_null target simply copies the input register to the output */
1068                 mini_emit_isninst_iface_cast (s, vtable_reg, klass, false_label, object_is_null);
1069         } else {
1070                 int klass_reg = mono_regstate_next_int (s->rs);
1071
1072                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1073                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1074
1075                 if (klass->rank) {
1076                         int rank_reg = mono_regstate_next_int (s->rs);
1077                         int eclass_reg = mono_regstate_next_int (s->rs);
1078
1079                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, rank_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, rank));
1080                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, rank_reg, klass->rank);
1081                         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false_label);
1082                         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, cast_class));
1083                         if (klass->cast_class == mono_defaults.object_class) {
1084                                 int parent_reg = mono_regstate_next_int (s->rs);
1085                                 int const_reg;
1086                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, parent_reg, eclass_reg, G_STRUCT_OFFSET (MonoClass, parent));
1087                                 if (mono_compile_aot) {
1088                                         const_reg = mono_regstate_next_int (s->rs);
1089                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1090                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, parent_reg, const_reg);
1091                                 } else {
1092                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, parent_reg, mono_defaults.enum_class->parent);
1093                                 }
1094                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, object_is_null);
1095                                 if (mono_compile_aot) {
1096                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1097                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1098                                 } else {
1099                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1100                                 }
1101                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1102                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false_label);
1103                         } else if (klass->cast_class == mono_defaults.enum_class->parent) {
1104                                 int const_reg;
1105
1106                                 if (mono_compile_aot) {
1107                                         const_reg = mono_regstate_next_int (s->rs);
1108                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1109                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1110                                 } else {
1111                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class->parent);
1112                                 }
1113                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1114                                 if (mono_compile_aot) {
1115                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1116                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1117                                 } else {
1118                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1119                                 }
1120                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1121                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false_label);
1122                         } else if (klass->cast_class == mono_defaults.enum_class) {
1123                                 if (mono_compile_aot) {
1124                                         int const_reg = mono_regstate_next_int (s->rs);
1125                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1126                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1127                                 } else {
1128                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1129                                 }
1130                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1131                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false_label);
1132                         } else if (klass->cast_class->flags & TYPE_ATTRIBUTE_INTERFACE) {
1133                                 mini_emit_isninst_iface_class_cast (s, eclass_reg, klass->cast_class, false_label, object_is_null);
1134                         } else {
1135                                 if ((klass->rank == 1) && (klass->byval_arg.type == MONO_TYPE_SZARRAY)) {
1136                                         /* Check that the object is a vector too */
1137                                         int bounds_reg = mono_regstate_next_int (s->rs);
1138                                         MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg, obj_reg, G_STRUCT_OFFSET (MonoArray, bounds));
1139                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, bounds_reg, 0);
1140                                         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false_label);
1141                                 }
1142
1143                                 /* the object_is_null target simply copies the input register to the output */
1144                                 mini_emit_isninst_cast (s, eclass_reg, klass->cast_class, false_label, object_is_null);
1145                         }
1146                 } else {
1147                         /* the object_is_null target simply copies the input register to the output */
1148                         mini_emit_isninst_cast (s, klass_reg, klass, false_label, object_is_null);
1149                 }
1150         }
1151
1152         mono_bblock_add_inst (s->cbb, false_label);
1153         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1154         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1155         mono_bblock_add_inst (s->cbb, object_is_null);
1156         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1157         mono_bblock_add_inst (s->cbb, end_label);
1158 }
1159
1160 reg: OP_CISINST (reg) {
1161         /* This opcode takes as input an object reference and a class, and returns:
1162         0) if the object is an instance of the class,
1163         1) if the object is not instance of the class,
1164         2) if the object is a proxy whose type cannot be determined */
1165
1166     MonoClass *klass = tree->inst_newa_class;
1167         MonoInst *end_label, *true_label, *false_label, *false2_label;
1168         MonoInst *no_proxy_label, *interface_fail_label;
1169         int obj_reg = state->left->reg1;
1170         int tmp_reg = mono_regstate_next_int (s->rs);
1171         int klass_reg = mono_regstate_next_int (s->rs);
1172
1173         MONO_NEW_LABEL (s, end_label);
1174         MONO_NEW_LABEL (s, true_label);
1175         MONO_NEW_LABEL (s, false_label);
1176         MONO_NEW_LABEL (s, false2_label);
1177
1178         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, obj_reg, 0);
1179         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, false_label);
1180
1181         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1182                 MONO_NEW_LABEL (s, interface_fail_label);
1183                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1184                 mini_emit_isninst_iface_cast (s, tmp_reg, klass, interface_fail_label, true_label);
1185
1186                 mono_bblock_add_inst (s->cbb, interface_fail_label);
1187                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1188
1189                 if (mono_compile_aot) {
1190                         int tproxy_reg = mono_regstate_next_int (s->rs);
1191                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1192                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1193                 } else {
1194                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1195                 }
1196                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false_label);
1197
1198                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1199                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1200                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, false2_label);
1201
1202         } else {
1203                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1204                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1205
1206                 MONO_NEW_LABEL (s, no_proxy_label);
1207
1208                 if (mono_compile_aot) {
1209                         int tproxy_reg = mono_regstate_next_int (s->rs);
1210                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1211                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1212                 } else {
1213                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1214                 }
1215                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, no_proxy_label);
1216                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1217                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1218
1219                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1220                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1221                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, no_proxy_label);
1222
1223                 mini_emit_isninst_cast (s, klass_reg, klass, false2_label, true_label);
1224                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, false2_label);
1225
1226                 mono_bblock_add_inst (s->cbb, no_proxy_label);
1227                 mini_emit_isninst_cast (s, klass_reg, klass, false_label, true_label);
1228         }
1229
1230         mono_bblock_add_inst (s->cbb, false_label);
1231         MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1232         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1233         mono_bblock_add_inst (s->cbb, false2_label);
1234         MONO_EMIT_NEW_ICONST (s, state->reg1, 2);
1235         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1236         mono_bblock_add_inst (s->cbb, true_label);
1237         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1238         mono_bblock_add_inst (s->cbb, end_label);
1239 }
1240
1241 reg: OP_UNBOXCAST (reg) {
1242         MonoClass *klass = tree->inst_newa_class;
1243         int obj_reg = state->left->reg1;
1244         int vtable_reg = mono_regstate_next_int (s->rs);
1245         int klass_reg = mono_regstate_next_int (s->rs);
1246         int eclass_reg = mono_regstate_next_int (s->rs);
1247         int rank_reg = mono_regstate_next_int (s->rs);
1248
1249         MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1250         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1251         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, rank_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, rank));
1252         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, element_class));
1253
1254         /* FIXME: generics */
1255         g_assert (klass->rank == 0);
1256
1257         // Check rank == 0
1258         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, rank_reg, 0);
1259         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1260
1261         if (mono_compile_aot) {
1262                 int const_reg = mono_regstate_next_int (s->rs);
1263                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass->element_class);
1264                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1265         }
1266         else {
1267                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, klass->element_class);
1268         }
1269
1270         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1271         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1272 }
1273
1274 reg: CEE_CASTCLASS (reg) {
1275         MonoClass *klass = tree->inst_newa_class;
1276         MonoInst *object_is_null;
1277         int obj_reg = state->left->reg1;
1278         int vtable_reg = mono_regstate_next_int (s->rs);
1279
1280         MONO_NEW_LABEL (s, object_is_null);
1281
1282         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, obj_reg, 0);
1283         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1284
1285         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1286                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1287                 mini_emit_castclass_iface (s, vtable_reg, klass);
1288         } else {
1289                 int klass_reg = mono_regstate_next_int (s->rs);
1290
1291                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1292                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1293
1294                 if (klass->rank) {
1295                         int rank_reg = mono_regstate_next_int (s->rs);
1296                         int eclass_reg = mono_regstate_next_int (s->rs);
1297
1298                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, rank_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, rank));
1299                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, rank_reg, klass->rank);
1300                         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1301                         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, cast_class));
1302                         if (klass->cast_class == mono_defaults.object_class) {
1303                                 int parent_reg = mono_regstate_next_int (s->rs);
1304                                 int const_reg;
1305                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, parent_reg, eclass_reg, G_STRUCT_OFFSET (MonoClass, parent));
1306                                 if (mono_compile_aot) {
1307                                         const_reg = mono_regstate_next_int (s->rs);
1308                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1309                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, parent_reg, const_reg);
1310                                 } else {
1311                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, parent_reg, mono_defaults.enum_class->parent);
1312                                 }
1313                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, object_is_null);
1314                                 if (mono_compile_aot) {
1315                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1316                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1317                                 } else {
1318                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1319                                 }
1320                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1321                         } else if (klass->cast_class == mono_defaults.enum_class->parent) {
1322                                 int const_reg = mono_regstate_next_int (s->rs);
1323                                 if (mono_compile_aot) {
1324                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1325                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1326                                 } else {
1327                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class->parent);
1328                                 }
1329                                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, object_is_null);
1330                                 if (mono_compile_aot) {
1331                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1332                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1333                                 } else {
1334                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1335                                 }
1336                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1337                         } else if (klass->cast_class == mono_defaults.enum_class) {
1338                                 if (mono_compile_aot) {
1339                                         int const_reg = mono_regstate_next_int (s->rs);
1340                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1341                                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, eclass_reg, const_reg);
1342                                 } else {
1343                                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, eclass_reg, mono_defaults.enum_class);
1344                                 }
1345                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1346                         } else if (klass->cast_class->flags & TYPE_ATTRIBUTE_INTERFACE) {
1347                                 mini_emit_castclass_iface_class (s, eclass_reg, klass->cast_class);
1348                         } else {
1349                                 mini_emit_castclass (s, eclass_reg, klass->cast_class);
1350                         }
1351
1352                         if ((klass->rank == 1) && (klass->byval_arg.type == MONO_TYPE_SZARRAY)) {
1353                                 /* Check that the object is a vector too */
1354                                 int bounds_reg = mono_regstate_next_int (s->rs);
1355                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg, obj_reg, G_STRUCT_OFFSET (MonoArray, bounds));
1356                                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, bounds_reg, 0);
1357                                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1358                         }
1359                 } else {
1360                         mini_emit_castclass (s, klass_reg, klass);
1361                 }
1362         }
1363
1364         mono_bblock_add_inst (s->cbb, object_is_null);
1365         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1366 }
1367
1368 reg: OP_CCASTCLASS (reg) {
1369         /* This opcode takes as input an object reference and a class, and returns:
1370         0) if the object is an instance of the class,
1371         1) if the object is a proxy whose type cannot be determined
1372         an InvalidCastException exception is thrown otherwhise*/
1373
1374         MonoClass *klass = tree->inst_newa_class;
1375         MonoInst *end_label, *fail_label, *no_proxy_label, *ok_result_label;
1376         int obj_reg = state->left->reg1;
1377         int tmp_reg = mono_regstate_next_int (s->rs);
1378         int klass_reg = mono_regstate_next_int (s->rs);
1379
1380         MONO_NEW_LABEL (s, end_label);
1381         MONO_NEW_LABEL (s, ok_result_label);
1382
1383         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, obj_reg, 0);
1384         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, ok_result_label);
1385
1386         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1387
1388                 MONO_NEW_LABEL (s, fail_label);
1389
1390                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1391                 mini_emit_isninst_iface_cast (s, tmp_reg, klass, fail_label, ok_result_label);
1392
1393                 mono_bblock_add_inst (s->cbb, fail_label);
1394                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1395
1396                 if (mono_compile_aot) {
1397                         int tproxy_reg = mono_regstate_next_int (s->rs);
1398                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1399                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1400                 } else {
1401                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1402                 }
1403
1404                 MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1405
1406                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1407                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1408
1409                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1410                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1411                 MONO_EMIT_NEW_COND_EXC (s, EQ, "InvalidCastException");
1412
1413                 MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1414                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1415
1416         } else {
1417
1418                 MONO_NEW_LABEL (s, no_proxy_label);
1419                 MONO_NEW_LABEL (s, fail_label);
1420
1421                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1422                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1423
1424                 if (mono_compile_aot) {
1425                         int tproxy_reg = mono_regstate_next_int (s->rs);
1426                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1427                         MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, tproxy_reg);
1428                 } else {
1429                         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, mono_defaults.transparent_proxy_class);
1430                 }
1431                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, no_proxy_label);
1432
1433                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1434                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1435
1436                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1437                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, tmp_reg, 0);
1438                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, no_proxy_label);
1439
1440                 mini_emit_isninst_cast (s, klass_reg, klass, fail_label, ok_result_label);
1441                 mono_bblock_add_inst (s->cbb, fail_label);
1442                 MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1443                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BR, end_label);
1444
1445                 mono_bblock_add_inst (s->cbb, no_proxy_label);
1446                 mini_emit_castclass (s, klass_reg, klass);
1447         }
1448
1449         mono_bblock_add_inst (s->cbb, ok_result_label);
1450         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1451         mono_bblock_add_inst (s->cbb, end_label);
1452 }
1453
1454 reg: CEE_NEWARR (reg),
1455
1456 lreg: OP_LMUL (lreg, lreg),
1457 lreg: OP_LMUL_OVF (lreg, lreg),
1458 lreg: OP_LMUL_OVF_UN (lreg, lreg),
1459 lreg: OP_LDIV (lreg, lreg),
1460 lreg: OP_LDIV_UN (lreg, lreg),
1461 lreg: OP_LREM (lreg, lreg),
1462 lreg: OP_LREM_UN (lreg, lreg),
1463 lreg: OP_LSHL (lreg, reg),
1464 lreg: OP_LSHR (lreg, reg),
1465 lreg: OP_LSHR_UN (lreg, reg) {
1466         g_assert_not_reached ();
1467 }
1468
1469 #
1470 # string support
1471 #
1472 reg: OP_GETCHR (reg, reg) {
1473         int mult_reg = mono_regstate_next_int (s->rs);
1474         int add_reg = mono_regstate_next_int (s->rs);
1475
1476         MONO_EMIT_BOUNDS_CHECK (s, state->left->reg1, MonoString, length, state->right->reg1);
1477         MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, mult_reg, state->right->reg1, 1);
1478         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult_reg, state->left->reg1);
1479         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADU2_MEMBASE, state->reg1,
1480                                    add_reg, G_STRUCT_OFFSET (MonoString, chars));
1481 }
1482
1483 reg: OP_GETCHR (reg, OP_ICONST) {
1484         int ind = 2 * state->right->tree->inst_c0 + G_STRUCT_OFFSET (MonoString, chars);
1485
1486         MONO_EMIT_BOUNDS_CHECK_IMM (s, state->left->reg1, MonoString, length, state->right->tree->inst_c0);
1487         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADU2_MEMBASE, state->reg1, state->left->reg1, ind);
1488 }
1489
1490 reg: OP_STRLEN (reg) {
1491         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->reg1,
1492                                    state->left->reg1, G_STRUCT_OFFSET (MonoString, length));
1493 }
1494
1495 reg: OP_GETTYPE (reg) {
1496         int vt_reg = mono_regstate_next_int (s->rs);
1497         MONO_EMIT_NEW_LOAD_MEMBASE (s, vt_reg, state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1498         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOAD_MEMBASE, state->reg1, vt_reg, G_STRUCT_OFFSET (MonoVTable, type));
1499 }
1500
1501 #
1502 # array support
1503 #
1504 reg: CEE_LDLEN (reg) {
1505         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->reg1,
1506                                    state->left->reg1, G_STRUCT_OFFSET (MonoArray, max_length));
1507 }
1508
1509 reg: OP_ARRAY_RANK (reg) {
1510         int vtable_reg = mono_regstate_next_int (s->rs);
1511         int class_reg = mono_regstate_next_int (s->rs);
1512         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, vtable_reg,
1513                                        state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1514         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, class_reg,
1515                                        vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1516         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, state->reg1,
1517                                        class_reg, G_STRUCT_OFFSET (MonoClass, rank));
1518 }
1519
1520 reg: OP_CHECK_ARRAY_TYPE (reg) {
1521         int vtable_reg = mono_regstate_next_int (s->rs);
1522         int class_reg = mono_regstate_next_int (s->rs);
1523         int elclass_reg = mono_regstate_next_int (s->rs);
1524
1525         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, vtable_reg,
1526                                        state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1527         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, class_reg,
1528                                        vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1529         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, elclass_reg,
1530                                        class_reg, G_STRUCT_OFFSET (MonoClass, element_class));
1531         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, elclass_reg, tree->klass);
1532         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "ArrayTypeMismatchException");
1533         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
1534 }
1535
1536 reg: CEE_LDELEMA (reg, OP_ICONST) "15" {
1537         guint32 size = mono_class_array_element_size (tree->klass);
1538
1539         int ind = size * state->right->tree->inst_c0 + G_STRUCT_OFFSET (MonoArray, vector);
1540
1541         MONO_EMIT_BOUNDS_CHECK_IMM (s, state->left->reg1, MonoArray, max_length, state->right->tree->inst_c0);
1542         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, state->left->reg1, ind);
1543 }
1544
1545 reg: CEE_LDELEMA (reg, reg) "20" {
1546         int mult_reg = mono_regstate_next_int (s->rs);
1547         int add_reg = mono_regstate_next_int (s->rs);
1548         guint32 size = mono_class_array_element_size (tree->klass);
1549
1550         MONO_EMIT_BOUNDS_CHECK (s, state->left->reg1, MonoArray, max_length, state->right->reg1);
1551         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, mult_reg, state->right->reg1, size);
1552         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult_reg, state->left->reg1);
1553         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, add_reg, G_STRUCT_OFFSET (MonoArray, vector));
1554 }
1555
1556 reg: CEE_REFANYVAL (reg) {
1557         int klass_reg = mono_regstate_next_int (s->rs);
1558         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass));
1559         if (mono_compile_aot) {
1560                 int const_reg = mono_regstate_next_int (s->rs);
1561                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, tree->inst_newa_class);
1562                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, klass_reg, const_reg);
1563         } else {
1564                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, klass_reg, tree->inst_newa_class);
1565         }
1566         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1567         MONO_EMIT_NEW_LOAD_MEMBASE (s, state->reg1, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, value));
1568 }
1569
1570 reg: OP_REFANYTYPE (reg) {
1571         MONO_EMIT_NEW_LOAD_MEMBASE (s, state->reg1, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, type));
1572 }
1573
1574 stmt: CEE_MKREFANY (OP_GROUP (reg, OP_ICONST), reg),
1575 stmt: CEE_MKREFANY (OP_GROUP (reg, OP_I8CONST), reg) {
1576         MonoClass *klass = (MonoClass*)(tree->inst_left->inst_right->inst_p0);
1577         if (mono_compile_aot) {
1578                 int const_reg = mono_regstate_next_int (s->rs);
1579                 int type_reg = mono_regstate_next_int (s->rs);
1580                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1581                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass), const_reg);
1582                 MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, type_reg, const_reg, G_STRUCT_OFFSET (MonoClass, byval_arg));
1583                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, type), type_reg);
1584         }
1585         else {
1586                 MONO_EMIT_NEW_STORE_MEMBASE_IMM (s, OP_STOREP_MEMBASE_IMM, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, type), &klass->byval_arg);
1587                 MONO_EMIT_NEW_STORE_MEMBASE_IMM (s, OP_STOREP_MEMBASE_IMM, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass), klass);
1588         }
1589         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, value), state->left->left->reg1);
1590 }
1591
1592 %%
1593
1594 /*
1595  * Emit code which checks whenever the interface id of @klass is smaller than
1596  * than the value given by max_iid_reg.
1597 */
1598 static void
1599 mini_emit_max_iid_check (MonoCompile *s, int max_iid_reg, MonoClass *klass,
1600                                                  MonoInst *false_target)
1601 {
1602         if (mono_compile_aot) {
1603                 int iid_reg = mono_regstate_next_int (s->rs);
1604                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_IID);
1605                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, max_iid_reg, iid_reg);
1606         }
1607         else
1608                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, max_iid_reg, klass->interface_id);
1609         if (false_target)
1610                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BLT_UN, false_target);
1611         else
1612                 MONO_EMIT_NEW_COND_EXC (s, LT_UN, "InvalidCastException");
1613 }
1614
1615 /* Same as above, but obtains max_iid from a vtable */
1616 static void
1617 mini_emit_max_iid_check_vtable (MonoCompile *s, int vtable_reg, MonoClass *klass,
1618                                                                  MonoInst *false_target)
1619 {
1620         int max_iid_reg = mono_regstate_next_int (s->rs);
1621
1622         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, max_iid_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, max_interface_id));
1623         mini_emit_max_iid_check (s, max_iid_reg, klass, false_target);
1624 }
1625
1626 /* Same as above, but obtains max_iid from a klass */
1627 static void
1628 mini_emit_max_iid_check_class (MonoCompile *s, int klass_reg, MonoClass *klass,
1629                                                                  MonoInst *false_target)
1630 {
1631         int max_iid_reg = mono_regstate_next_int (s->rs);
1632
1633         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, max_iid_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, max_interface_id));
1634         mini_emit_max_iid_check (s, max_iid_reg, klass, false_target);
1635 }
1636
1637 static void
1638 mini_emit_load_intf_reg (MonoCompile *s, int intf_reg, int ioffset_reg, MonoClass *klass)
1639 {
1640         if (mono_compile_aot) {
1641                 int iid_reg = mono_regstate_next_int (s->rs);
1642                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_IID);
1643                 /* FIXME: Do a shift instead */
1644 #if SIZEOF_VOID_P == 8
1645                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, iid_reg, iid_reg, 3);
1646 #else
1647                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, iid_reg, iid_reg, 2);
1648 #endif
1649                 MONO_EMIT_NEW_BIALU (s, CEE_ADD, ioffset_reg, ioffset_reg, iid_reg);
1650                 MONO_EMIT_NEW_LOAD_MEMBASE (s, intf_reg, ioffset_reg, 0);
1651         }
1652         else
1653                 MONO_EMIT_NEW_LOAD_MEMBASE (s, intf_reg, ioffset_reg, klass->interface_id * SIZEOF_VOID_P);
1654 }
1655
1656 /* Emit code which loads <vtable_reg>->interface_offsets [klass->interface_id] */
1657 static void
1658 mini_emit_load_intf_reg_vtable (MonoCompile *s, int intf_reg, int vtable_reg, MonoClass *klass)
1659 {
1660         int ioffset_reg = mono_regstate_next_int (s->rs);
1661
1662         MONO_EMIT_NEW_LOAD_MEMBASE (s, ioffset_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, interface_offsets));
1663         mini_emit_load_intf_reg (s, intf_reg, ioffset_reg, klass);
1664 }
1665
1666 /* Emit code which loads <klass_reg>->interface_offsets [klass->interface_id] */
1667 static void
1668 mini_emit_load_intf_reg_class (MonoCompile *s, int intf_reg, int klass_reg, MonoClass *klass)
1669 {
1670         int ioffset_reg = mono_regstate_next_int (s->rs);
1671
1672         MONO_EMIT_NEW_LOAD_MEMBASE (s, ioffset_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, interface_offsets));
1673         mini_emit_load_intf_reg (s, intf_reg, ioffset_reg, klass);
1674 }
1675
1676 void
1677 mini_emit_virtual_call (MonoCompile *cfg, void *st, MonoInst *tree, int novirtop, int virtop)
1678 {
1679         MonoMethod *method = ((MonoCallInst*)tree)->method;
1680         int vtable_reg, slot_reg, this_reg;
1681         MBState *state = st;
1682
1683         this_reg = state->left->reg1;
1684         mono_arch_emit_this_vret_args (cfg, (MonoCallInst*)tree, this_reg, state->left->tree->type, novirtop == OP_VCALL? state->right->reg1: -1);
1685
1686         if (!(method->flags & METHOD_ATTRIBUTE_VIRTUAL) ||
1687             ((method->flags & METHOD_ATTRIBUTE_FINAL) &&
1688              method->wrapper_type != MONO_WRAPPER_REMOTING_INVOKE_WITH_CHECK)) {
1689                 /*
1690                  * the method is not virtual, we just need to ensure this is not null
1691                  * and then we can call the method directly.
1692                  */
1693                 if (method->klass->marshalbyref || method->klass == mono_defaults.object_class) {
1694                         method = ((MonoCallInst*)tree)->method = mono_marshal_get_remoting_invoke_with_check (method);
1695                 }
1696
1697                 if (!method->string_ctor)
1698                         MONO_EMIT_NEW_UNALU (cfg, OP_CHECK_THIS, -1, this_reg);
1699
1700                 tree->dreg = state->reg1;
1701                 tree->opcode = novirtop;
1702                 mono_bblock_add_inst (cfg->cbb, tree);
1703                 return;
1704         }
1705
1706         vtable_reg = mono_regstate_next_int (cfg->rs);
1707         MONO_EMIT_NEW_LOAD_MEMBASE (cfg, vtable_reg, this_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1708         if (method->klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1709                 slot_reg = mono_regstate_next_int (cfg->rs);
1710                 mini_emit_load_intf_reg_vtable (cfg, slot_reg, vtable_reg, method->klass);
1711                 tree->inst_offset = method->slot * SIZEOF_VOID_P;
1712         } else {
1713                 slot_reg = vtable_reg;
1714                 tree->inst_offset = G_STRUCT_OFFSET (MonoVTable, vtable) + (method->slot * SIZEOF_VOID_P);
1715         }
1716
1717         tree->dreg = state->reg1;
1718         tree->opcode = virtop;
1719         tree->sreg1 = slot_reg;
1720         ((MonoCallInst*)tree)->virtual = TRUE;
1721         mono_bblock_add_inst (cfg->cbb, tree);
1722 }
1723
1724 void
1725 mini_emit_isninst_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1726 {
1727         int idepth_reg = mono_regstate_next_int (s->rs);
1728         int stypes_reg = mono_regstate_next_int (s->rs);
1729         int stype = mono_regstate_next_int (s->rs);
1730
1731         if (klass->idepth > MONO_DEFAULT_SUPERTABLE_SIZE) {
1732                 MONO_EMIT_NEW_LOAD_MEMBASE (s, idepth_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, idepth));
1733                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, idepth_reg, klass->idepth);
1734                 MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BLT_UN, false_target);
1735         }
1736         MONO_EMIT_NEW_LOAD_MEMBASE (s, stypes_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, supertypes));
1737         MONO_EMIT_NEW_LOAD_MEMBASE (s, stype, stypes_reg, ((klass->idepth - 1) * SIZEOF_VOID_P));
1738         if (mono_compile_aot) {
1739                 int const_reg = mono_regstate_next_int (s->rs);
1740                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1741                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, stype, const_reg);
1742         } else {
1743                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, stype, klass);
1744         }
1745         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BEQ, true_target);
1746 }
1747
1748 void
1749 mini_emit_isninst_iface_cast (MonoCompile *s, int vtable_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1750 {
1751         int intf_reg = mono_regstate_next_int (s->rs);
1752
1753         mini_emit_max_iid_check_vtable (s, vtable_reg, klass, false_target);
1754         mini_emit_load_intf_reg_vtable (s, intf_reg, vtable_reg, klass);
1755         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, 0);
1756         /* the object_is_null target simply copies the input register to the output */
1757         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BNE_UN, true_target);
1758 }
1759
1760 /*
1761  * Variant of the above that takes a register to the class, not the vtable.
1762  * Note that inside interfaces_offsets the empty value is -1, not NULL, in this case.
1763  */
1764 void
1765 mini_emit_isninst_iface_class_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1766 {
1767         int intf_reg = mono_regstate_next_int (s->rs);
1768
1769         mini_emit_max_iid_check_class (s, klass_reg, klass, false_target);
1770         mini_emit_load_intf_reg_class (s, intf_reg, klass_reg, klass);
1771         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, -1);
1772         /* the object_is_null target simply copies the input register to the output */
1773         MONO_EMIT_NEW_BRANCH_LABEL (s, CEE_BGE, true_target);
1774 }
1775
1776 void
1777 mini_emit_castclass (MonoCompile *s, int klass_reg, MonoClass *klass)
1778 {
1779         int idepth_reg = mono_regstate_next_int (s->rs);
1780         int stypes_reg = mono_regstate_next_int (s->rs);
1781         int stype = mono_regstate_next_int (s->rs);
1782
1783         if (klass->idepth > MONO_DEFAULT_SUPERTABLE_SIZE) {
1784                 MONO_EMIT_NEW_LOAD_MEMBASE (s, idepth_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, idepth));
1785                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, idepth_reg, klass->idepth);
1786                 MONO_EMIT_NEW_COND_EXC (s, LT_UN, "InvalidCastException");
1787         }
1788         MONO_EMIT_NEW_LOAD_MEMBASE (s, stypes_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, supertypes));
1789         MONO_EMIT_NEW_LOAD_MEMBASE (s, stype, stypes_reg, ((klass->idepth - 1) * SIZEOF_VOID_P));
1790         if (mono_compile_aot) {
1791                 int const_reg = mono_regstate_next_int (s->rs);
1792                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1793                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, stype, const_reg);
1794         } else {
1795                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, stype, klass);
1796         }
1797         MONO_EMIT_NEW_COND_EXC (s, NE_UN, "InvalidCastException");
1798 }
1799
1800 void
1801 mini_emit_castclass_iface (MonoCompile *s, int vtable_reg, MonoClass *klass)
1802 {
1803         int intf_reg = mono_regstate_next_int (s->rs);
1804
1805         mini_emit_max_iid_check_vtable (s, vtable_reg, klass, NULL);
1806         mini_emit_load_intf_reg_vtable (s, intf_reg, vtable_reg, klass);
1807         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, 0);
1808         MONO_EMIT_NEW_COND_EXC (s, EQ, "InvalidCastException");
1809 }
1810
1811 /*
1812  * Variant of the aboce that takes a register to the class, not the vtable.
1813  * Note that inside interfaces_offsets the empty value is -1, not NULL, in this case.
1814  */
1815 void
1816 mini_emit_castclass_iface_class (MonoCompile *s, int klass_reg, MonoClass *klass)
1817 {
1818         int intf_reg = mono_regstate_next_int (s->rs);
1819
1820         mini_emit_max_iid_check_class (s, klass_reg, klass, NULL);
1821         mini_emit_load_intf_reg_class (s, intf_reg, klass_reg, klass);
1822         MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, intf_reg, -1);
1823         MONO_EMIT_NEW_COND_EXC (s, EQ, "InvalidCastException");
1824 }
1825
1826 void
1827 mini_emit_memcpy (MonoCompile *s, int destreg, int doffset, int srcreg, int soffset, int size, int align)
1828 {
1829         int cur_reg;
1830
1831         /* FIXME: consider alignment for archs that need it. */
1832         if (sizeof (gpointer) == 8) {
1833                 while (size >= 8) {
1834                         cur_reg = mono_regstate_next_int (s->rs);
1835                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI8_MEMBASE, cur_reg, srcreg, soffset);
1836                         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI8_MEMBASE_REG, destreg, doffset, cur_reg);
1837                         doffset += 8;
1838                         soffset += 8;
1839                         size -= 8;
1840                 }
1841         }
1842
1843         while (size >= 4) {
1844                 cur_reg = mono_regstate_next_int (s->rs);
1845                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, cur_reg, srcreg, soffset);
1846                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI4_MEMBASE_REG, destreg, doffset, cur_reg);
1847                 doffset += 4;
1848                 soffset += 4;
1849                 size -= 4;
1850         }
1851         while (size >= 2) {
1852                 cur_reg = mono_regstate_next_int (s->rs);
1853                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI2_MEMBASE, cur_reg, srcreg, soffset);
1854                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI2_MEMBASE_REG, destreg, doffset, cur_reg);
1855                 doffset += 2;
1856                 soffset += 2;
1857                 size -= 2;
1858         }
1859         while (size >= 1) {
1860                 cur_reg = mono_regstate_next_int (s->rs);
1861                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI1_MEMBASE, cur_reg, srcreg, soffset);
1862                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI1_MEMBASE_REG, destreg, doffset, cur_reg);
1863                 doffset += 1;
1864                 soffset += 1;
1865                 size -= 1;
1866         }
1867 }
1868
1869 void
1870 mini_emit_memset (MonoCompile *s, int destreg, int offset, int size, int val, int alignl)
1871 {
1872         int val_reg = mono_regstate_next_int (s->rs);
1873
1874         if (sizeof (gpointer) == 8)
1875                 MONO_EMIT_NEW_I8CONST (s, val_reg, val);
1876         else
1877                 MONO_EMIT_NEW_ICONST (s, val_reg, val);
1878
1879         if (sizeof (gpointer) == 8) {
1880                 while (size >= 8) {
1881                         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI8_MEMBASE_REG, destreg, offset, val_reg);
1882                         offset += 8;
1883                         size -= 8;
1884                 }
1885         }
1886
1887         while (size >= 4) {
1888                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI4_MEMBASE_REG, destreg, offset, val_reg);
1889                 offset += 4;
1890                 size -= 4;
1891         }
1892         while (size >= 2) {
1893                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI2_MEMBASE_REG, destreg, offset, val_reg);
1894                 offset += 2;
1895                 size -= 2;
1896         }
1897         while (size >= 1) {
1898                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI1_MEMBASE_REG, destreg, offset, val_reg);
1899                 offset += 1;
1900                 size -= 1;
1901         }
1902 }
1903
1904 int
1905 ldind_to_load_membase (int opcode)
1906 {
1907         switch (opcode) {
1908         case CEE_LDIND_I1:
1909                 return OP_LOADI1_MEMBASE;
1910         case CEE_LDIND_U1:
1911                 return OP_LOADU1_MEMBASE;
1912         case CEE_LDIND_I2:
1913                 return OP_LOADI2_MEMBASE;
1914         case CEE_LDIND_U2:
1915                 return OP_LOADU2_MEMBASE;
1916         case CEE_LDIND_I4:
1917                 return OP_LOADI4_MEMBASE;
1918         case CEE_LDIND_U4:
1919                 return OP_LOADU4_MEMBASE;
1920         case CEE_LDIND_I:
1921                 return OP_LOAD_MEMBASE;
1922         case CEE_LDIND_REF:
1923                 return OP_LOAD_MEMBASE;
1924         default:
1925                 g_assert_not_reached ();
1926         }
1927
1928         return -1;
1929 }
1930