mono/mini/inssel.brg

   1 /*
   2  * inssel.brg: instruction selection
   3  *
   4  * Author:
   5  *   Dietmar Maurer (dietmar@ximian.com)
   6  *   Paolo Molaro (lupus@ximian.com)
   7  *
   8  * (C) 2002 Ximian, Inc.
   9  *
  10  */
  11 #include <config.h>
  12 #include <string.h>
  13
  14 #include "mini.h"
  15 #include <mono/metadata/marshal.h>
  16 #include <mono/metadata/debug-helpers.h>
  17
  18 #define MBTREE_TYPE  MonoInst
  19 #define MBCGEN_TYPE  MonoCompile
  20 #define MBCOST_DATA  MonoCompile
  21 #define MBALLOC_STATE mono_mempool_alloc (data->state_pool, sizeof (MBState))
  22 #define MBMAX_OPCODES OP_LAST
  23 #define MBGET_OP_NAME(op) mono_inst_name (op)
  24
  25 #define MBTREE_OP(t) ((t)->opcode)
  26 #define MBTREE_LEFT(t) ((t)->inst_left)
  27 #define MBTREE_RIGHT(t) ((t)->inst_right)
  28
  29 #define MONO_EMIT_UNALU(cfg,inst,op,dr,sr1) do { \
  30                 (inst)->opcode = op; \
  31                 (inst)->dreg = dr; \
  32                 (inst)->sreg1 = sr1; \
  33                 mono_bblock_add_inst (cfg->cbb, inst); \
  34         } while (0)
  35
  36 #define MONO_EMIT_NEW_UNALU(cfg,op,dr,sr1) do { \
  37                 MonoInst *inst; \
  38                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  39                 inst->opcode = op; \
  40                 inst->dreg = dr; \
  41                 inst->sreg1 = sr1; \
  42                 mono_bblock_add_inst (cfg->cbb, inst); \
  43         } while (0)
  44
  45 #define MONO_EMIT_BIALU(cfg,inst,op,dr,sr1,sr2) do { \
  46                 (inst)->opcode = op; \
  47                 (inst)->dreg = dr; \
  48                 (inst)->sreg1 = sr1; \
  49                 (inst)->sreg2 = sr2; \
  50                 mono_bblock_add_inst (cfg->cbb, inst); \
  51         } while (0)
  52
  53 #define MONO_EMIT_NEW_BIALU(cfg,op,dr,sr1,sr2) do { \
  54                 MonoInst *inst; \
  55                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  56                 inst->opcode = op; \
  57                 inst->dreg = dr; \
  58                 inst->sreg1 = sr1; \
  59                 inst->sreg2 = sr2; \
  60                 mono_bblock_add_inst (cfg->cbb, inst); \
  61         } while (0)
  62
  63 #define MONO_EMIT_BIALU_IMM(cfg,inst,op,dr,sr,imm) do { \
  64                 (inst)->opcode = op; \
  65                 (inst)->dreg = dr; \
  66                 (inst)->sreg1 = sr; \
  67                 (inst)->inst_p1 = (gpointer)(gssize)(imm); \
  68                 mono_bblock_add_inst (cfg->cbb, inst); \
  69         } while (0)
  70
  71 #define MONO_EMIT_NEW_BIALU_IMM(cfg,op,dr,sr,imm) do { \
  72                 MonoInst *inst; \
  73                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
  74                 inst->opcode = op; \
  75                 inst->dreg = dr; \
  76                 inst->sreg1 = sr; \
  77                 inst->inst_p1 = (gpointer)(gssize)(imm); \
  78                 mono_bblock_add_inst (cfg->cbb, inst); \
  79         } while (0)
  80
  81 #define MONO_EMIT_BIALU_MEMBASE(cfg,tree,op,dr,sr,basereg,offset) do { \
  82                                 tree->opcode = op; \
  83                                 tree->dreg = dr; \
  84                                 tree->sreg1 = sr; \
  85                                 tree->sreg2 = basereg; \
  86                                 tree->inst_offset = offset; \
  87                                 mono_bblock_add_inst (s->cbb, tree); \
  88         } while (0)
  89
  90 #define MONO_EMIT_LOAD_MEMBASE(cfg,inst,dr,base,offset) do { \
  91                 (inst)->opcode = OP_LOAD_MEMBASE; \
  92                 (inst)->dreg = dr; \
  93                 (inst)->inst_basereg = base; \
  94                 (inst)->inst_offset = offset; \
  95                 mono_bblock_add_inst (cfg->cbb, inst); \
  96         } while (0)
  97
  98 #define MONO_EMIT_LOAD_MEMBASE_OP(cfg,inst,op,dr,base,offset) do { \
  99                 (inst)->opcode = op; \
 100                 (inst)->dreg = dr; \
 101                 (inst)->inst_basereg = base; \
 102                 (inst)->inst_offset = offset; \
 103                 mono_bblock_add_inst (cfg->cbb, inst); \
 104         } while (0)
 105
 106 #define MONO_EMIT_NEW_LOAD_MEM(cfg,dr,addr) do { \
 107                 MonoInst *inst; \
 108                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 109                 inst->opcode = OP_LOADU4_MEM; \
 110                 inst->dreg = dr; \
 111                 inst->inst_p0 = addr; \
 112                 mono_bblock_add_inst (cfg->cbb, inst); \
 113         } while (0)
 114
 115 #define MONO_EMIT_NEW_LOAD_MEMBASE(cfg,dr,base,offset) do { \
 116                 MonoInst *inst; \
 117                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 118                 inst->opcode = OP_LOAD_MEMBASE; \
 119                 inst->dreg = dr; \
 120                 inst->inst_basereg = base; \
 121                 inst->inst_offset = offset; \
 122                 mono_bblock_add_inst (cfg->cbb, inst); \
 123         } while (0)
 124
 125 #define MONO_EMIT_NEW_LOAD_MEMBASE_OP(cfg,op,dr,base,offset) do { \
 126                 MonoInst *inst; \
 127                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 128                 inst->opcode = op; \
 129                 inst->dreg = dr; \
 130                 inst->inst_basereg = base; \
 131                 inst->inst_offset = offset; \
 132                 mono_bblock_add_inst (cfg->cbb, inst); \
 133         } while (0)
 134
 135 #define MONO_EMIT_STORE_MEMBASE(cfg,inst,op,base,offset,sr) do { \
 136                 (inst)->opcode = op; \
 137                 (inst)->sreg1 = sr; \
 138                 (inst)->inst_destbasereg = base; \
 139                 (inst)->inst_offset = offset; \
 140                 mono_bblock_add_inst (cfg->cbb, inst); \
 141         } while (0)
 142
 143 #define MONO_EMIT_NEW_STORE_MEMBASE(cfg,op,base,offset,sr) do { \
 144                 MonoInst *inst; \
 145                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 146                 inst->opcode = op; \
 147                 inst->sreg1 = sr; \
 148                 inst->inst_destbasereg = base; \
 149                 inst->inst_offset = offset; \
 150                 mono_bblock_add_inst (cfg->cbb, inst); \
 151         } while (0)
 152
 153 #define MONO_EMIT_STORE_MEMBASE_IMM(cfg,inst,op,base,offset,imm) do { \
 154                 (inst)->opcode = op; \
 155                 (inst)->inst_destbasereg = base; \
 156                 (inst)->inst_offset = offset; \
 157                 (inst)->inst_p1 = (gpointer)imm; \
 158                 mono_bblock_add_inst (cfg->cbb, inst); \
 159         } while (0)
 160
 161 #define MONO_EMIT_NEW_STORE_MEMBASE_IMM(cfg,op,base,offset,imm) do { \
 162                 MonoInst *inst; \
 163                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 164                 inst->opcode = op; \
 165                 inst->inst_destbasereg = base; \
 166                 inst->inst_offset = offset; \
 167                 inst->inst_p1 = (gpointer)imm; \
 168                 mono_bblock_add_inst (cfg->cbb, inst); \
 169         } while (0)
 170
 171 #define MONO_EMIT_NEW_COMPARE_IMM(cfg,sr1,imm) do { \
 172                 MonoInst *inst; \
 173                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 174                 inst->opcode = OP_COMPARE_IMM;  \
 175                 inst->sreg1 = sr1; \
 176                 inst->inst_p1 = (gpointer)imm; \
 177                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 178         } while (0)
 179
 180 #define MONO_EMIT_NEW_ICOMPARE_IMM(cfg,sr1,imm) do { \
 181                 MonoInst *inst; \
 182                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 183                 inst->opcode = sizeof (void*) == 8 ? OP_ICOMPARE_IMM : OP_COMPARE_IMM;  \
 184                 inst->sreg1 = sr1; \
 185                 inst->inst_p1 = (gpointer)imm; \
 186                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 187         } while (0)
 188
 189 #define MONO_EMIT_NEW_COND_EXC(cfg,cond,name) do { \
 190                 MonoInst *inst; \
 191                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 192                 inst->opcode = OP_COND_EXC_##cond;  \
 193                 inst->inst_p1 = (char*)name; \
 194                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 195         } while (0)
 196
 197 #define MONO_EMIT_NEW_ICONST(cfg,dr,imm) do { \
 198                 MonoInst *inst; \
 199                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 200                 inst->opcode = OP_ICONST;       \
 201                 inst->dreg = dr; \
 202                 inst->inst_c0 = imm; \
 203                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 204         } while (0)
 205
 206 #define MONO_EMIT_NEW_I8CONST(cfg,dr,imm) do { \
 207                 MonoInst *inst; \
 208                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 209                 inst->opcode = OP_I8CONST;      \
 210                 inst->dreg = dr; \
 211                 inst->inst_l = imm; \
 212                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 213         } while (0)
 214
 215 #define MONO_EMIT_NEW_PCONST(cfg,dr,imm) do { \
 216                 MonoInst *inst; \
 217                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 218                 inst->opcode = OP_ICONST;       \
 219                 inst->dreg = dr; \
 220                 inst->inst_p0 = (gpointer) imm; \
 221                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 222         } while (0)
 223
 224
 225 #ifdef MONO_ARCH_NEED_GOT_VAR
 226
 227 #define MONO_EMIT_NEW_AOTCONST(cfg,dr,cons,patch_type) do { \
 228                 mini_emit_aotconst ((cfg), (dr), (patch_type), (cons)); \
 229     } while (0)
 230
 231 #else
 232
 233 #define MONO_EMIT_NEW_AOTCONST(cfg,dr,imm,type) do { \
 234                 MonoInst *inst; \
 235                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 236                 inst->opcode = OP_AOTCONST;     \
 237                 inst->dreg = dr; \
 238                 inst->inst_p0 = imm; \
 239                 inst->inst_c1 = type; \
 240                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 241         } while (0)
 242
 243 #endif
 244
 245 #define MONO_EMIT_NEW_CLASSCONST(cfg,dr,imm) MONO_EMIT_NEW_AOTCONST(cfg,dr,imm,MONO_PATCH_INFO_CLASS)
 246 #define MONO_EMIT_NEW_VTABLECONST(cfg,dest,vtable) MONO_EMIT_NEW_AOTCONST ((cfg), (dest), (cfg)->compile_aot ? (gpointer)((vtable)->klass) : (vtable), MONO_PATCH_INFO_VTABLE)
 247
 248 #define MONO_EMIT_NEW_BRANCH_BLOCK(cfg,op,targetbb) do { \
 249                 MonoInst *inst; \
 250                 MonoInst *target_label; \
 251                 target_label = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 252                 target_label->opcode = OP_LABEL;        \
 253                 target_label->next = (targetbb)->code; \
 254                 target_label->inst_c0 = (targetbb)->native_offset; \
 255                 (targetbb)->code = target_label; \
 256                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 257                 inst->opcode = op;      \
 258                 inst->inst_i0 = target_label;   \
 259                 inst->flags = MONO_INST_BRLABEL;        \
 260                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 261         } while (0)
 262
 263 #define MONO_EMIT_NEW_BRANCH_LABEL(cfg,op,label) do { \
 264                 MonoInst *inst; \
 265                 inst = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst)); \
 266                 inst->opcode = op;      \
 267                 inst->inst_i0 = label;  \
 268                 inst->flags = MONO_INST_BRLABEL;        \
 269                 mono_bblock_add_inst ((cfg)->cbb, inst); \
 270         } while (0)
 271
 272 #define MONO_NEW_LABEL(cfg,inst) do { \
 273                 (inst) = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));       \
 274                 (inst)->opcode = OP_LABEL;      \
 275         } while (0)
 276
 277 #define MONO_EMIT_BOUNDS_CHECK(cfg, array_reg, array_type, array_length_field, index_reg) do { \
 278                 if (! (state->tree->flags & MONO_INST_NORANGECHECK)) { \
 279                         int _length_reg = mono_regstate_next_int (cfg->rs); \
 280                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (cfg, OP_LOADI4_MEMBASE, _length_reg, array_reg, G_STRUCT_OFFSET (array_type, array_length_field)); \
 281                         MONO_EMIT_NEW_COMPARE_EXC (cfg, LE_UN, _length_reg, index_reg, "IndexOutOfRangeException"); \
 282                 } \
 283         } while (0)
 284
 285 #define MONO_EMIT_BOUNDS_CHECK_IMM(cfg, array_reg, array_type, array_length_field, index_imm) do { \
 286                 if (! (state->tree->flags & MONO_INST_NORANGECHECK)) { \
 287                         int _length_reg = mono_regstate_next_int (cfg->rs); \
 288                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (cfg, OP_LOADI4_MEMBASE, _length_reg, array_reg, G_STRUCT_OFFSET (array_type, array_length_field)); \
 289                         MONO_EMIT_NEW_COMPARE_IMM_EXC (cfg, LE_UN, _length_reg, index_imm, "IndexOutOfRangeException"); \
 290                 } \
 291         } while (0)
 292
 293 #ifndef MONO_EMIT_NEW_COMPARE_EXC
 294 #define MONO_EMIT_NEW_COMPARE_EXC(cfg, cmp_op, sreg1, sreg2, exc) do { \
 295                 MONO_EMIT_NEW_BIALU (cfg, OP_COMPARE, -1, sreg1, sreg2); \
 296                 MONO_EMIT_NEW_COND_EXC (cfg, cmp_op, exc); \
 297         } while (0)
 298 #endif
 299
 300 #ifndef MONO_EMIT_NEW_COMPARE_IMM_EXC
 301 #define MONO_EMIT_NEW_COMPARE_IMM_EXC(cfg, cmp_op, sreg1, imm, exc) do { \
 302                 MONO_EMIT_NEW_BIALU_IMM (cfg, OP_COMPARE_IMM, -1, sreg1, imm); \
 303                 MONO_EMIT_NEW_COND_EXC (cfg, cmp_op, exc); \
 304         } while (0)
 305 #endif
 306
 307 #ifndef MONO_EMIT_NEW_ICOMPARE_IMM_EXC
 308 #define MONO_EMIT_NEW_ICOMPARE_IMM_EXC(cfg, cmp_op, sreg1, imm, exc) do { \
 309                 MONO_EMIT_NEW_ICOMPARE_IMM(cfg, sreg1, imm); \
 310                 MONO_EMIT_NEW_COND_EXC (cfg, cmp_op, exc); \
 311         } while (0)
 312 #endif
 313
 314 #ifndef MONO_EMIT_NEW_COMPARE_BRANCH_LABEL
 315 #define MONO_EMIT_NEW_COMPARE_BRANCH_LABEL(cfg, cmp_op, sreg1, sreg2, label) \
 316         do { \
 317                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, (sreg1), (sreg2)); \
 318                 MONO_EMIT_NEW_BRANCH_LABEL (s, (cmp_op), (label)); \
 319         } while (0)
 320 #endif
 321
 322 #ifndef MONO_EMIT_NEW_COMPARE_BRANCH_LABEL_CHAINED
 323 #define MONO_EMIT_NEW_COMPARE_BRANCH_LABEL_CHAINED(cfg, cmp_op, sreg1, sreg2, label) \
 324         do { \
 325                 MONO_EMIT_NEW_BRANCH_LABEL (s, (cmp_op), (label)); \
 326 } while (0)
 327 #endif
 328
 329 #ifndef MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL
 330 #define MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL(cfg, cmp_op, sreg1, imm, label) \
 331         do { \
 332                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, (sreg1), (imm)); \
 333                 MONO_EMIT_NEW_BRANCH_LABEL (s, (cmp_op), (label)); \
 334         } while (0)
 335 #endif
 336
 337 #ifndef MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL_CHAINED
 338 #define MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL_CHAINED(cfg, cmp_op, sreg1, imm, label) \
 339         do { \
 340                 MONO_EMIT_NEW_BRANCH_LABEL (s, (cmp_op), (label)); \
 341 } while (0)
 342 #endif
 343
 344 #ifndef MONO_EMIT_NEW_COMPARE_BRANCH_BLOCK
 345 #define MONO_EMIT_NEW_COMPARE_BRANCH_BLOCK(cfg, cmp_op, sreg1, sreg2, block) \
 346         do { \
 347                 MONO_EMIT_NEW_BIALU (s, OP_COMPARE, -1, (sreg1), (sreg2)); \
 348                 MONO_EMIT_NEW_BRANCH_BLOCK (s, (cmp_op), (block)); \
 349         } while (0)
 350 #endif
 351
 352 #ifndef MONO_EMIT_NEW_COMPARE_BRANCH_BLOCK_CHAINED
 353 #define MONO_EMIT_NEW_COMPARE_BRANCH_BLOCK_CHAINED(cfg, cmp_op, sreg1, sreg2, block) \
 354         do { \
 355                 MONO_EMIT_NEW_BRANCH_BLOCK (s, (cmp_op), (block)); \
 356 } while (0)
 357 #endif
 358
 359 #ifndef MONO_EMIT_NEW_COMPARE_IMM_BRANCH_BLOCK
 360 #define MONO_EMIT_NEW_COMPARE_IMM_BRANCH_BLOCK(cfg, cmp_op, sreg1, imm, block) \
 361         do { \
 362                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, (sreg1), (imm)); \
 363                 MONO_EMIT_NEW_BRANCH_BLOCK (s, (cmp_op), (block)); \
 364         } while (0)
 365 #endif
 366
 367 #ifndef MONO_EMIT_NEW_COMPARE_IMM_BRANCH_BLOCK_CHAINED
 368 #define MONO_EMIT_NEW_COMPARE_IMM_BRANCH_BLOCK_CHAINED(cfg, cmp_op, sreg1, imm, block) \
 369         do { \
 370                 MONO_EMIT_NEW_BRANCH_BLOCK (s, (cmp_op), (block)); \
 371 } while (0)
 372 #endif
 373
 374 %%
 375
 376 %termprefix OP_ CEE_
 377
 378 %start stmt
 379
 380 #
 381 # base addressing mode
 382 #
 383
 384 base: reg "0" {
 385         /* we create a new MonoInst in chain rules and set state->tree to it
 386          * since a MBState (and hence state->tree) is reused in chain rules and
 387          * normal rules.
 388          */
 389         MonoInst *inst;
 390         inst = mono_mempool_alloc0 (s->mempool, sizeof (MonoInst));
 391         inst->opcode = OP_ICONST; /* doesn't matter */
 392         inst->inst_basereg = state->reg1;
 393         inst->inst_offset = 0;
 394         state->tree = inst;
 395         //g_print ("mybase: (assigned R%d from R%d - R%d)\n", state->reg1, tree->dreg, state->reg2);
 396         //tree->inst_offset = 0;
 397         //tree->inst_basereg = state->reg1;
 398 }
 399
 400 base: CEE_LDIND_I (OP_REGVAR) "0" {
 401         tree->inst_offset = 0;
 402         tree->inst_basereg = state->left->tree->dreg;
 403 }
 404
 405 base: OP_REGOFFSET "0" {
 406         /* nothing to do */
 407 }
 408
 409 base: OP_LDADDR (OP_REGOFFSET),
 410 base: CEE_LDOBJ (OP_REGOFFSET) "0" {
 411         tree->inst_offset = state->left->tree->inst_offset;
 412         tree->inst_basereg = state->left->tree->inst_basereg;
 413 }
 414
 415 base: CEE_ADD (base, OP_ICONST) "0" {
 416         tree->inst_offset = state->left->tree->inst_offset + state->right->tree->inst_c0;
 417         tree->inst_basereg = state->left->tree->inst_basereg;
 418 }
 419
 420 base: CEE_ADD (CEE_LDIND_REF (OP_REGVAR), OP_ICONST),
 421 base: CEE_ADD (CEE_LDIND_I (OP_REGVAR), OP_ICONST) "0" {
 422         tree->inst_offset = state->right->tree->inst_c0;
 423         tree->inst_basereg = state->left->left->tree->dreg;
 424 }
 425
 426 #
 427 # helpers
 428 #
 429
 430 reg: OP_ICONST {
 431         tree->dreg = state->reg1;
 432         MONO_EMIT_NEW_ICONST (s, state->reg1, tree->inst_c0);
 433 }
 434
 435 reg: OP_AOTCONST {
 436         MONO_EMIT_NEW_AOTCONST (s, state->reg1, tree->inst_p0, tree->inst_c1);
 437 }
 438
 439 reg: OP_LOAD_GOTADDR {
 440         tree->dreg = state->reg1;
 441         mono_bblock_add_inst (s->cbb, tree);
 442 }
 443
 444 stmt: CEE_STIND_I (OP_REGVAR, OP_LOAD_GOTADDR) {
 445         tree->opcode = OP_LOAD_GOTADDR;
 446         tree->dreg = state->left->tree->dreg;
 447         mono_bblock_add_inst (s->cbb, tree);
 448 }
 449
 450 reg: OP_GOT_ENTRY (reg, OP_PATCH_INFO) {
 451         tree->inst_basereg = state->left->tree->dreg;
 452         tree->dreg = state->reg1;
 453         mono_bblock_add_inst (s->cbb, tree);
 454 }
 455
 456 reg: OP_GOT_ENTRY (CEE_LDIND_I (OP_REGVAR), OP_PATCH_INFO) {
 457         tree->inst_basereg = state->left->left->tree->dreg;
 458         tree->dreg = state->reg1;
 459         mono_bblock_add_inst (s->cbb, tree);
 460 }
 461
 462 stmt: OP_DUMMY_USE (CEE_LDIND_I (OP_REGVAR)) {
 463 }
 464
 465 stmt: OP_DUMMY_USE (CEE_LDIND_I (OP_REGOFFSET)) {
 466 }
 467
 468 stmt: OP_DUMMY_USE (CEE_LDIND_REF (OP_REGOFFSET)) {
 469 }
 470
 471 stmt: OP_DUMMY_STORE {
 472 }
 473
 474 stmt: OP_NOT_REACHED {
 475 }
 476
 477 stmt: OP_MEMORY_BARRIER {
 478         mono_bblock_add_inst (s->cbb, tree);
 479 }
 480
 481 #
 482 # load/store operations
 483 #
 484
 485 reg: CEE_LDIND_I (base),
 486 reg: CEE_LDIND_REF (base),
 487 reg: CEE_LDIND_I1 (base),
 488 reg: CEE_LDIND_U1 (base),
 489 reg: CEE_LDIND_I2 (base),
 490 reg: CEE_LDIND_U2 (base),
 491 reg: CEE_LDIND_I4 (base),
 492 reg: CEE_LDIND_U4 (base) {
 493         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, ldind_to_load_membase (tree->opcode),
 494                                    state->reg1, state->left->tree->inst_basereg, state->left->tree->inst_offset);
 495 }
 496
 497 reg: OP_LDADDR (OP_REGOFFSET),
 498 reg: CEE_LDOBJ (OP_REGOFFSET) "2" {
 499         /* use LEA */
 500         tree->opcode = OP_MOVE;
 501         tree->sreg1 = state->left->tree->inst_basereg;
 502         tree->dreg = state->reg1;
 503         mono_bblock_add_inst (s->cbb, tree);
 504         if (state->left->tree->inst_offset)
 505                 MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, tree->dreg, tree->dreg, state->left->tree->inst_offset);
 506 }
 507
 508 reg: CEE_LDOBJ (reg),
 509 reg: OP_OBJADDR (reg),
 510 reg: OP_VTADDR (reg) {
 511         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 512 }
 513
 514 reg: CEE_LDIND_U1 (OP_REGVAR) {
 515         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->tree->dreg, 0xff);
 516 }
 517
 518 reg: CEE_LDIND_U2 (OP_REGVAR) {
 519         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->tree->dreg, 0xffff);
 520 }
 521
 522 stmt: CEE_STIND_REF (base, CEE_LDIND_REF (OP_REGVAR)),
 523 stmt: CEE_STIND_REF (base, CEE_LDIND_I (OP_REGVAR)),
 524 stmt: CEE_STIND_I (base, CEE_LDIND_REF (OP_REGVAR)),
 525 stmt: CEE_STIND_I (base, CEE_LDIND_I (OP_REGVAR)) {
 526         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STORE_MEMBASE_REG, state->left->tree->inst_basereg,
 527                                  state->left->tree->inst_offset, state->right->left->tree->dreg);
 528 }
 529
 530 stmt: CEE_STIND_REF (OP_REGVAR, CEE_LDIND_REF (OP_REGVAR)),
 531 stmt: CEE_STIND_REF (OP_REGVAR, CEE_LDIND_I (OP_REGVAR)),
 532 stmt: CEE_STIND_I (OP_REGVAR, CEE_LDIND_REF (OP_REGVAR)),
 533 stmt: CEE_STIND_I (OP_REGVAR, CEE_LDIND_I (OP_REGVAR)),
 534 stmt: CEE_STIND_I4 (OP_REGVAR, CEE_LDIND_I4 (OP_REGVAR)) {
 535         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->left->tree->dreg, state->right->left->tree->dreg);
 536 }
 537
 538
 539 stmt: CEE_STIND_I (base, reg),
 540 stmt: CEE_STIND_REF (base, reg) {
 541         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STORE_MEMBASE_REG, state->left->tree->inst_basereg,
 542                                  state->left->tree->inst_offset, state->right->reg1);
 543 }
 544
 545 stmt: CEE_STIND_I (base, OP_ICONST),
 546 stmt: CEE_STIND_REF (base, OP_ICONST) {
 547         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STORE_MEMBASE_IMM, state->left->tree->inst_basereg,
 548                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 549 }
 550
 551 reg: CEE_LDIND_REF (OP_REGVAR),
 552 reg: CEE_LDIND_I (OP_REGVAR),
 553 reg: CEE_LDIND_I4 (OP_REGVAR),
 554 reg: CEE_LDIND_U4 (OP_REGVAR) {
 555         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->tree->dreg);
 556 }
 557
 558 stmt: CEE_STIND_I4 (base, reg) {
 559         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI4_MEMBASE_REG, state->left->tree->inst_basereg,
 560                                  state->left->tree->inst_offset, state->right->reg1);
 561 }
 562
 563 stmt: CEE_STIND_I4 (base, CEE_LDIND_I4 (OP_REGVAR)) {
 564         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI4_MEMBASE_REG, state->left->tree->inst_basereg,
 565                                  state->left->tree->inst_offset, state->right->left->tree->dreg);
 566 }
 567
 568 stmt: CEE_STIND_I4 (base, OP_ICONST) {
 569         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI4_MEMBASE_IMM, state->left->tree->inst_basereg,
 570                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 571 }
 572
 573 stmt: CEE_STIND_I4 (OP_REGVAR, CEE_LDIND_I4 (base)) {
 574         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->left->tree->dreg,
 575                                    state->right->left->tree->inst_basereg,
 576                                    state->right->left->tree->inst_offset);
 577 }
 578
 579 stmt: CEE_STIND_I1 (base, reg) {
 580         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI1_MEMBASE_REG, state->left->tree->inst_basereg,
 581                                  state->left->tree->inst_offset, state->right->reg1);
 582 }
 583
 584 stmt: CEE_STIND_I1 (base, OP_ICONST) {
 585         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI1_MEMBASE_IMM, state->left->tree->inst_basereg,
 586                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 587 }
 588
 589 stmt: CEE_STIND_I2 (base, reg) {
 590         MONO_EMIT_STORE_MEMBASE (s, tree, OP_STOREI2_MEMBASE_REG, state->left->tree->inst_basereg,
 591                                  state->left->tree->inst_offset, state->right->reg1);
 592 }
 593
 594 stmt: CEE_STIND_I2 (base, OP_ICONST) {
 595         MONO_EMIT_STORE_MEMBASE_IMM (s, tree, OP_STOREI2_MEMBASE_IMM, state->left->tree->inst_basereg,
 596                                      state->left->tree->inst_offset, state->right->tree->inst_c0);
 597 }
 598
 599 stmt: CEE_STIND_I2 (OP_REGVAR, reg) {
 600         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->reg1, 0xffff);
 601 }
 602
 603 stmt: CEE_STIND_I1 (OP_REGVAR, reg) {
 604         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->reg1, 0xff);
 605 }
 606
 607 stmt: CEE_STIND_I1 (OP_REGVAR, CEE_LDIND_U1 (OP_REGVAR)),
 608 stmt: CEE_STIND_I1 (OP_REGVAR, CEE_LDIND_I1 (OP_REGVAR)) {
 609         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->left->tree->dreg, 0xff);
 610 }
 611
 612 stmt: CEE_STIND_I2 (OP_REGVAR, CEE_LDIND_U2 (OP_REGVAR)),
 613 stmt: CEE_STIND_I2 (OP_REGVAR, CEE_LDIND_I2 (OP_REGVAR)) {
 614         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->left->tree->dreg, state->right->left->tree->dreg, 0xffff);
 615 }
 616
 617 stmt: CEE_STIND_I4 (OP_REGVAR, OP_ICONST),
 618 stmt: CEE_STIND_I2 (OP_REGVAR, OP_ICONST),
 619 stmt: CEE_STIND_I1 (OP_REGVAR, OP_ICONST),
 620 stmt: CEE_STIND_REF (OP_REGVAR, OP_ICONST),
 621 stmt: CEE_STIND_I (OP_REGVAR, OP_ICONST) {
 622         tree->inst_c0 = state->right->tree->inst_c0;
 623         if (tree->opcode == CEE_STIND_I2)
 624                 tree->inst_c0 &= 0xffff;
 625         if (tree->opcode == CEE_STIND_I1)
 626                 tree->inst_c0 &= 0xff;
 627
 628         tree->opcode = OP_ICONST;
 629         tree->dreg = state->left->tree->dreg;
 630         mono_bblock_add_inst (s->cbb, tree);
 631 }
 632
 633 stmt: CEE_STIND_I4 (OP_REGVAR, reg),
 634 stmt: CEE_STIND_REF (OP_REGVAR, reg),
 635 stmt: CEE_STIND_I (OP_REGVAR, reg) {
 636         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->left->tree->dreg, state->right->reg1);
 637 }
 638
 639 stmt: OP_MEMCPY (base, base) {
 640         int size = tree->backend.size;
 641         if (size > 0)
 642                 mini_emit_memcpy (s, state->left->tree->inst_basereg, state->left->tree->inst_offset,
 643                                   state->right->tree->inst_basereg, state->right->tree->inst_offset, size, 0);
 644 }
 645
 646 stmt: OP_MEMSET (base) {
 647         int size = tree->backend.size;
 648         if (size > 0)
 649                 mini_emit_memset (s, state->left->tree->inst_basereg, state->left->tree->inst_offset, size, tree->inst_imm, 0);
 650 }
 651
 652 reg: OP_LDELEMA2D (reg, OP_GROUP (reg, reg)) "20" {
 653         int bounds_reg = mono_regstate_next_int (s->rs);
 654         int add_reg = mono_regstate_next_int (s->rs);
 655         int mult_reg = mono_regstate_next_int (s->rs);
 656         int mult2_reg = mono_regstate_next_int (s->rs);
 657         int low1_reg = mono_regstate_next_int (s->rs);
 658         int low2_reg = mono_regstate_next_int (s->rs);
 659         int high1_reg = mono_regstate_next_int (s->rs);
 660         int high2_reg = mono_regstate_next_int (s->rs);
 661         int realidx1_reg = mono_regstate_next_int (s->rs);
 662         int realidx2_reg = mono_regstate_next_int (s->rs);
 663         int sum_reg = mono_regstate_next_int (s->rs);
 664         int index1, index2;
 665         guint32 size = mono_class_array_element_size (tree->klass);
 666
 667         index1 = state->right->left->reg1;
 668         index2 = state->right->right->reg1;
 669
 670         /* range checking */
 671         MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg,
 672                                        state->left->reg1, G_STRUCT_OFFSET (MonoArray, bounds));
 673
 674         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, low1_reg,
 675                                        bounds_reg, G_STRUCT_OFFSET (MonoArrayBounds, lower_bound));
 676         MONO_EMIT_NEW_BIALU (s, CEE_SUB, realidx1_reg, index1, low1_reg);
 677         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, high1_reg,
 678                                        bounds_reg, G_STRUCT_OFFSET (MonoArrayBounds, length));
 679         MONO_EMIT_NEW_COMPARE_EXC (s, LE_UN, high1_reg, realidx1_reg, "IndexOutOfRangeException");
 680
 681         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, low2_reg,
 682                                        bounds_reg, sizeof (MonoArrayBounds) + G_STRUCT_OFFSET (MonoArrayBounds, lower_bound));
 683         MONO_EMIT_NEW_BIALU (s, CEE_SUB, realidx2_reg, index2, low2_reg);
 684         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, high2_reg,
 685                                        bounds_reg, sizeof (MonoArrayBounds) + G_STRUCT_OFFSET (MonoArrayBounds, length));
 686         MONO_EMIT_NEW_COMPARE_EXC (s, LE_UN, high2_reg, realidx2_reg, "IndexOutOfRangeException");
 687
 688         MONO_EMIT_NEW_BIALU (s, CEE_MUL, mult_reg, high2_reg, realidx1_reg);
 689         MONO_EMIT_NEW_BIALU (s, CEE_ADD, sum_reg, mult_reg, realidx2_reg);
 690         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, mult2_reg, sum_reg, size);
 691         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult2_reg, state->left->reg1);
 692         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, add_reg, G_STRUCT_OFFSET (MonoArray, vector));
 693 }
 694
 695 #
 696 # conversions: conv_u can be implemented with AND, also all _ovf conversions?
 697 #
 698
 699 reg: CEE_CONV_I1 (reg),
 700 reg: CEE_CONV_I2 (reg),
 701 reg: CEE_CONV_I4 (reg) {
 702         MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 703 }
 704
 705 reg: CEE_CONV_U1 (reg) {
 706         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xff);
 707 }
 708
 709 reg: CEE_CONV_U2 (reg) {
 710         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xffff);
 711 }
 712
 713 reg: CEE_CONV_U4 (reg),
 714 reg: CEE_CONV_U (reg),
 715 reg: CEE_CONV_I (reg) {
 716         if (sizeof (void *) == 8)
 717                 MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 718         else
 719                 MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 720 }
 721
 722 reg: CEE_CONV_OVF_I4 (reg) {
 723         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 724 }
 725
 726 reg: CEE_CONV_OVF_U4 (reg),
 727 reg: CEE_CONV_OVF_I4_UN (reg) {
 728         if (sizeof (void *) == 8) {
 729                 MONO_EMIT_UNALU (s, tree, tree->opcode, state->reg1, state->left->reg1);
 730         } else {
 731                 MONO_EMIT_NEW_COMPARE_IMM_EXC (s, LT, state->left->reg1, 0, "OverflowException");
 732                 MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
 733         }
 734 }
 735
 736 reg: CEE_CONV_OVF_I1 (reg) {
 737         MONO_EMIT_NEW_ICOMPARE_IMM_EXC (s, GT, state->left->reg1, 127, "OverflowException");
 738         MONO_EMIT_NEW_ICOMPARE_IMM_EXC (s, LT, state->left->reg1, -128, "OverflowException");
 739         MONO_EMIT_UNALU (s, tree, CEE_CONV_I1, state->reg1, state->left->reg1);
 740 }
 741
 742 reg: CEE_CONV_OVF_I1_UN (reg) {
 743         /* probe values between 0 to 127 */
 744         MONO_EMIT_NEW_ICOMPARE_IMM_EXC (s, GT_UN, state->left->reg1, 127, "OverflowException");
 745         MONO_EMIT_UNALU (s, tree, CEE_CONV_I1, state->reg1, state->left->reg1);
 746 }
 747
 748 reg: CEE_CONV_OVF_U1 (reg),
 749 reg: CEE_CONV_OVF_U1_UN (reg) {
 750         /* probe value to be within 0 to 255 */
 751         MONO_EMIT_NEW_COMPARE_IMM_EXC (s, GT_UN, state->left->reg1, 255, "OverflowException");
 752         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xff);
 753 }
 754
 755 reg: CEE_CONV_OVF_I2 (reg) {
 756         /* Probe value to be within -32768 and 32767 */
 757         MONO_EMIT_NEW_ICOMPARE_IMM_EXC (s, GT, state->left->reg1, 32767, "OverflowException");
 758         MONO_EMIT_NEW_ICOMPARE_IMM_EXC (s, LT, state->left->reg1, -32768, "OverflowException");
 759         MONO_EMIT_UNALU (s, tree, CEE_CONV_I2, state->reg1, state->left->reg1);
 760 }
 761
 762 reg: CEE_CONV_OVF_I2_UN (reg) {
 763         /* Convert uint value into short, value within 0 and 32767 */
 764         MONO_EMIT_NEW_ICOMPARE_IMM_EXC (s, GT_UN, state->left->reg1, 32767, "OverflowException");
 765         MONO_EMIT_UNALU (s, tree, CEE_CONV_I2, state->reg1, state->left->reg1);
 766 }
 767
 768 reg: CEE_CONV_OVF_U2 (reg),
 769 reg: CEE_CONV_OVF_U2_UN (reg) {
 770         /* Probe value to be within 0 and 65535 */
 771         MONO_EMIT_NEW_ICOMPARE_IMM_EXC (s, GT_UN, state->left->reg1, 0xffff, "OverflowException");
 772         MONO_EMIT_BIALU_IMM (s, tree, OP_AND_IMM, state->reg1, state->left->reg1, 0xffff);
 773 }
 774
 775 #
 776 # other alu operations
 777 #
 778
 779 reg: OP_CEQ (cflags),
 780 reg: OP_CLT (cflags),
 781 reg: OP_CLT_UN (cflags),
 782 reg: OP_CGT (cflags),
 783 reg: OP_CGT_UN (cflags) "2" {
 784         tree->dreg = state->reg1;
 785         mono_bblock_add_inst (s->cbb, tree);
 786 }
 787
 788 #
 789 # control flow commands
 790 #
 791
 792 stmt: OP_LABEL {
 793         mono_bblock_add_inst (s->cbb, tree);
 794 }
 795
 796 stmt: OP_NOP "0" {
 797 }
 798
 799 stmt: OP_BREAK "0" {
 800         mono_bblock_add_inst (s->cbb, tree);
 801 }
 802
 803 reg: OP_TLS_GET {
 804         tree->dreg = state->reg1;
 805         mono_bblock_add_inst (s->cbb, tree);
 806 }
 807
 808 stmt: CEE_SWITCH (reg) "2" {
 809         MonoInst *label;
 810         int offset_reg = mono_regstate_next_int (s->rs);
 811         int target_reg = mono_regstate_next_int (s->rs);
 812         int n = GPOINTER_TO_INT (tree->klass);
 813
 814         MONO_NEW_LABEL (s, label);
 815
 816         if (sizeof (gpointer) == 8) {
 817                 MONO_EMIT_NEW_BIALU_IMM (s, OP_ICOMPARE_IMM, -1, state->left->reg1, n);
 818                 MONO_EMIT_NEW_BRANCH_BLOCK (s, OP_IBGE_UN, tree->inst_many_bb [n]);
 819                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, offset_reg, state->left->reg1, 3);
 820                 /* The upper word might not be zero, and we add it to a 64 bit address later */
 821                 MONO_EMIT_NEW_UNALU (s, CEE_CONV_U8, offset_reg, offset_reg);
 822         } else {
 823                 MONO_EMIT_NEW_BIALU_IMM (s, OP_COMPARE_IMM, -1, state->left->reg1, n);
 824                 MONO_EMIT_NEW_BRANCH_BLOCK (s, CEE_BGE_UN, tree->inst_many_bb [n]);
 825                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, offset_reg, state->left->reg1, 2);
 826         }
 827         mono_bblock_add_inst (s->cbb, label);
 828         if (s->compile_aot) {
 829                 int table_reg = mono_regstate_next_int (s->rs);
 830                 int sum_reg = mono_regstate_next_int (s->rs);
 831                 MonoJumpInfoBBTable *table;
 832
 833                 table = mono_mempool_alloc (s->mempool, sizeof (MonoJumpInfoBBTable));
 834                 table->table = tree->inst_many_bb;
 835                 table->table_size = n;
 836
 837                 MONO_EMIT_NEW_AOTCONST (s, table_reg, table, MONO_PATCH_INFO_SWITCH);
 838
 839                 MONO_EMIT_NEW_BIALU (s, CEE_ADD, sum_reg, table_reg, offset_reg);
 840                 MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, sum_reg, 0);
 841         } else {
 842                 mono_create_jump_table (s, label, tree->inst_many_bb, n);
 843
 844                  /* the backend must patch the address. we use 0xf0f0f0f0 to avoid the usage
 845                   * of special (short) opcodes on x86 */
 846                 if (sizeof (gpointer) == 8)
 847                         MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, offset_reg, (long)0xf0f0f0f0f0f0f0f1LL);
 848                 else
 849                         MONO_EMIT_NEW_LOAD_MEMBASE (s, target_reg, offset_reg, 0xf0f0f0f0);
 850         }
 851         MONO_EMIT_UNALU (s, tree, OP_BR_REG, -1, target_reg);
 852 }
 853
 854 stmt: OP_BR "0" {
 855         mono_bblock_add_inst (s->cbb, tree);
 856 }
 857
 858 stmt: OP_ARGLIST (reg) {
 859         tree->sreg1 = state->left->reg1;
 860         mono_bblock_add_inst (s->cbb, tree);
 861 }
 862
 863 reg: CEE_CALL {
 864         tree->dreg = state->reg1;
 865         mono_bblock_add_inst (s->cbb, tree);
 866 }
 867
 868 reg: CEE_CALLVIRT (reg) {
 869         mini_emit_virtual_call (s, state, tree, CEE_CALL, OP_CALL_MEMBASE);
 870 }
 871
 872 stmt: OP_VOIDCALLVIRT (reg) {
 873         mini_emit_virtual_call (s, state, tree, OP_VOIDCALL, OP_VOIDCALL_MEMBASE);
 874 }
 875
 876 freg: OP_FCALLVIRT (reg) {
 877         mini_emit_virtual_call (s, state, tree, OP_FCALL, OP_FCALL_MEMBASE);
 878 }
 879
 880 stmt: OP_VCALLVIRT (reg, reg) {
 881         mini_emit_virtual_call (s, state, tree, OP_VCALL, OP_VCALL_MEMBASE);
 882 }
 883
 884 reg: OP_CALL_REG (reg) {
 885         tree->sreg1 = state->left->reg1;
 886         tree->dreg = state->reg1;
 887         mono_bblock_add_inst (s->cbb, tree);
 888 }
 889
 890 stmt: OP_VOIDCALL {
 891         mono_bblock_add_inst (s->cbb, tree);
 892 }
 893
 894 stmt: OP_VOIDCALL_REG (reg) {
 895         tree->sreg1 = state->left->reg1;
 896         mono_bblock_add_inst (s->cbb, tree);
 897 }
 898
 899 freg: OP_FCALL {
 900         tree->dreg = state->reg1;
 901         mono_bblock_add_inst (s->cbb, tree);
 902 }
 903
 904 freg: OP_FCALL_REG (reg) {
 905         tree->sreg1 = state->left->reg1;
 906         tree->dreg = state->reg1;
 907         mono_bblock_add_inst (s->cbb, tree);
 908 }
 909
 910 stmt: OP_VCALL (reg) {
 911         mono_arch_emit_this_vret_args (s, (MonoCallInst*)tree, -1, -1, state->left->reg1);
 912         mono_bblock_add_inst (s->cbb, tree);
 913 }
 914
 915 stmt: OP_VCALL_REG (reg, reg) {
 916         mono_arch_emit_this_vret_args (s, (MonoCallInst*)tree, -1, -1, state->right->reg1);
 917
 918         tree->sreg1 = state->left->reg1;
 919         mono_bblock_add_inst (s->cbb, tree);
 920 }
 921
 922 stmt: OP_SAVE_LMF,
 923 stmt: OP_RESTORE_LMF {
 924         mono_bblock_add_inst (s->cbb, tree);
 925 }
 926
 927 #
 928 # Optimized call instructions
 929 #
 930
 931 reg: OP_CALL_REG (OP_ICONST),
 932 reg: OP_CALL_REG (OP_I8CONST) {
 933         tree->opcode = CEE_CALL;
 934         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 935         tree->dreg = state->reg1;
 936         mono_bblock_add_inst (s->cbb, tree);
 937 }
 938
 939 stmt: OP_VOIDCALL_REG (OP_ICONST),
 940 stmt: OP_VOIDCALL_REG (OP_I8CONST) {
 941         tree->opcode = OP_VOIDCALL;
 942         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 943         mono_bblock_add_inst (s->cbb, tree);
 944 }
 945
 946 freg: OP_FCALL_REG (OP_ICONST),
 947 freg: OP_FCALL_REG (OP_I8CONST) {
 948         tree->opcode = OP_FCALL;
 949         ((MonoCallInst*)tree)->fptr = state->left->tree->inst_p0;
 950         tree->dreg = state->reg1;
 951         mono_bblock_add_inst (s->cbb, tree);
 952 }
 953
 954 stmt: CEE_RET "0" {
 955         mono_bblock_add_inst (s->cbb, tree);
 956 }
 957
 958 stmt: CEE_POP (reg)
 959
 960 # remove some common pops without side effects
 961 stmt: CEE_POP (OP_ICONST)
 962 stmt: CEE_POP (CEE_LDIND_I1 (base))
 963 stmt: CEE_POP (CEE_LDIND_U1 (base))
 964 stmt: CEE_POP (CEE_LDIND_I2 (base))
 965 stmt: CEE_POP (CEE_LDIND_U2 (base))
 966 stmt: CEE_POP (CEE_LDIND_I4 (base))
 967 stmt: CEE_POP (CEE_LDIND_U4 (base))
 968 stmt: CEE_POP (CEE_LDIND_I (base))
 969 stmt: CEE_POP (CEE_LDIND_REF (base))
 970 stmt: CEE_POP (CEE_LDIND_I1 (OP_REGVAR))
 971 stmt: CEE_POP (CEE_LDIND_U1 (OP_REGVAR))
 972 stmt: CEE_POP (CEE_LDIND_I2 (OP_REGVAR))
 973 stmt: CEE_POP (CEE_LDIND_U2 (OP_REGVAR))
 974 stmt: CEE_POP (CEE_LDIND_I4 (OP_REGVAR))
 975 stmt: CEE_POP (CEE_LDIND_U4 (OP_REGVAR))
 976 stmt: CEE_POP (CEE_LDIND_I (OP_REGVAR))
 977 stmt: CEE_POP (CEE_LDIND_REF (OP_REGVAR))
 978
 979 stmt: OP_JMP "0" {
 980         mono_bblock_add_inst (s->cbb, tree);
 981 }
 982
 983 # exception handling
 984
 985 stmt: OP_THROW (reg) {
 986         MONO_EMIT_UNALU (s, tree, OP_THROW, -1, state->left->reg1);
 987 }
 988
 989 stmt: OP_RETHROW (reg) {
 990         MONO_EMIT_UNALU (s, tree, OP_RETHROW, -1, state->left->reg1);
 991 }
 992
 993 stmt: OP_THROW_OR_NULL (reg, reg) {
 994         MonoInst *dont_throw;
 995
 996         MONO_NEW_LABEL (s, dont_throw);
 997
 998         /*
 999          * Currently, we allways rethrow the abort exception, despite the fact
1000          * that this is not correct. See thread6.cs for an example. But propagating
1001          * the abort exception is more important than getting the sematics right.
1002          */
1003         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, state->left->reg1, 0, dont_throw);
1004         MONO_EMIT_UNALU (s, tree, OP_THROW, -1, state->left->reg1);
1005         mono_bblock_add_inst (s->cbb, dont_throw);
1006 }
1007
1008 stmt: OP_THROW (CEE_LDIND_REF (OP_REGVAR)) {
1009         MONO_EMIT_UNALU (s, tree, OP_THROW, -1, state->left->left->tree->dreg);
1010 }
1011
1012 stmt: OP_CALL_HANDLER {
1013         mono_bblock_add_inst (s->cbb, tree);
1014 }
1015
1016 stmt: OP_START_HANDLER "2" {
1017         mono_bblock_add_inst (s->cbb, tree);
1018 }
1019
1020 stmt: OP_ENDFINALLY "2" {
1021         mono_bblock_add_inst (s->cbb, tree);
1022 }
1023
1024 stmt: OP_ENDFILTER (reg) "2" {
1025         MONO_EMIT_UNALU (s, tree, OP_ENDFILTER, -1, state->left->reg1);
1026 }
1027
1028 stmt: OP_CHECK_THIS (reg) {
1029         tree->sreg1 = state->left->reg1;
1030         tree->dreg = state->reg1;
1031         mono_bblock_add_inst (s->cbb, tree);
1032 }
1033
1034 # object related opcodes
1035
1036 reg: CEE_ISINST (reg) {
1037         MonoClass *klass = tree->inst_newa_class;
1038         MonoInst *object_is_null, *end_label, *false_label;
1039         int obj_reg = state->left->reg1;
1040         int vtable_reg = mono_regstate_next_int (s->rs);
1041
1042         MONO_NEW_LABEL (s, object_is_null);
1043         MONO_NEW_LABEL (s, end_label);
1044         MONO_NEW_LABEL (s, false_label);
1045
1046         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, obj_reg, 0, object_is_null);
1047
1048         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1049                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1050                 /* the object_is_null target simply copies the input register to the output */
1051                 mini_emit_isninst_iface_cast (s, vtable_reg, klass, false_label, object_is_null);
1052         } else {
1053                 int klass_reg = mono_regstate_next_int (s->rs);
1054
1055                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1056
1057                 if (klass->rank) {
1058                         int rank_reg = mono_regstate_next_int (s->rs);
1059                         int eclass_reg = mono_regstate_next_int (s->rs);
1060
1061                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, rank_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1062                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, rank_reg, klass->rank, false_label);
1063                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1064                         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, cast_class));
1065                         if (klass->cast_class == mono_defaults.object_class) {
1066                                 int parent_reg = mono_regstate_next_int (s->rs);
1067                                 int const_reg = -1;
1068                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, parent_reg, eclass_reg, G_STRUCT_OFFSET (MonoClass, parent));
1069                                 if (s->compile_aot) {
1070                                         const_reg = mono_regstate_next_int (s->rs);
1071                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1072                                         MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BNE_UN, parent_reg,
1073                                                         const_reg, object_is_null);
1074                                 } else {
1075                                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, parent_reg,
1076                                                         mono_defaults.enum_class->parent, object_is_null);
1077                                 }
1078                                 if (s->compile_aot) {
1079                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1080                                         MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BEQ, eclass_reg, const_reg, object_is_null);
1081                                 } else {
1082                                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, eclass_reg,
1083                                                 mono_defaults.enum_class, object_is_null);
1084                                 }
1085                                 MONO_EMIT_NEW_BRANCH_LABEL (s, OP_BR, false_label);
1086                         } else if (klass->cast_class == mono_defaults.enum_class->parent) {
1087                                 int const_reg = -1;
1088
1089                                 if (s->compile_aot) {
1090                                         const_reg = mono_regstate_next_int (s->rs);
1091                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1092                                         MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BEQ, eclass_reg, const_reg, object_is_null);
1093                                 } else {
1094                                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, eclass_reg,
1095                                                 mono_defaults.enum_class->parent, object_is_null);
1096                                 }
1097                                 if (s->compile_aot) {
1098                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1099                                         MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BEQ, eclass_reg, const_reg, object_is_null);
1100                                 } else {
1101                                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, eclass_reg,
1102                                                 mono_defaults.enum_class, object_is_null);
1103                                 }
1104                                 MONO_EMIT_NEW_BRANCH_LABEL (s, OP_BR, false_label);
1105                         } else if (klass->cast_class == mono_defaults.enum_class) {
1106                                 if (s->compile_aot) {
1107                                         int const_reg = mono_regstate_next_int (s->rs);
1108                                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1109                                         MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BEQ, eclass_reg, const_reg, object_is_null);
1110                                 } else {
1111                                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, eclass_reg,
1112                                                 mono_defaults.enum_class, object_is_null);
1113                                 }
1114                                 MONO_EMIT_NEW_BRANCH_LABEL (s, OP_BR, false_label);
1115                         } else if (klass->cast_class->flags & TYPE_ATTRIBUTE_INTERFACE) {
1116                                 mini_emit_isninst_iface_class_cast (s, eclass_reg, klass->cast_class, false_label, object_is_null);
1117                         } else {
1118                                 if ((klass->rank == 1) && (klass->byval_arg.type == MONO_TYPE_SZARRAY)) {
1119                                         /* Check that the object is a vector too */
1120                                         int bounds_reg = mono_regstate_next_int (s->rs);
1121                                         MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg, obj_reg, G_STRUCT_OFFSET (MonoArray, bounds));
1122                                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, bounds_reg, 0, false_label);
1123                                 }
1124
1125                                 /* the object_is_null target simply copies the input register to the output */
1126                                 mini_emit_isninst_cast (s, eclass_reg, klass->cast_class, false_label, object_is_null);
1127                         }
1128                 } else if (mono_class_is_nullable (klass)) {
1129                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1130                         /* the object_is_null target simply copies the input register to the output */
1131                         mini_emit_isninst_cast (s, klass_reg, klass->cast_class, false_label, object_is_null);
1132                 } else {
1133                         if (!s->compile_aot && !(s->opt & MONO_OPT_SHARED) && (klass->flags & TYPE_ATTRIBUTE_SEALED)) {
1134                                 /* the remoting code is broken, access the class for now */
1135                                 if (0) {
1136                                         MonoVTable *vt = mono_class_vtable (s->domain, klass);
1137                                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, vtable_reg, vt, false_label);
1138                                 } else {
1139                                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1140                                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, klass_reg, klass, false_label);
1141                                 }
1142                                 MONO_EMIT_NEW_BRANCH_LABEL (s, OP_BR, object_is_null);
1143                         } else {
1144                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1145                                 /* the object_is_null target simply copies the input register to the output */
1146                                 mini_emit_isninst_cast (s, klass_reg, klass, false_label, object_is_null);
1147                         }
1148                 }
1149         }
1150
1151         mono_bblock_add_inst (s->cbb, false_label);
1152         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1153         MONO_EMIT_NEW_BRANCH_LABEL (s, OP_BR, end_label);
1154         mono_bblock_add_inst (s->cbb, object_is_null);
1155         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1156         mono_bblock_add_inst (s->cbb, end_label);
1157 }
1158
1159 reg: OP_CISINST (reg) {
1160         /* This opcode takes as input an object reference and a class, and returns:
1161         0) if the object is an instance of the class,
1162         1) if the object is not instance of the class,
1163         2) if the object is a proxy whose type cannot be determined */
1164
1165         MonoClass *klass = tree->inst_newa_class;
1166         MonoInst *end_label, *true_label, *false_label, *false2_label;
1167         MonoInst *no_proxy_label, *interface_fail_label;
1168         int obj_reg = state->left->reg1;
1169         int tmp_reg = mono_regstate_next_int (s->rs);
1170         int klass_reg = mono_regstate_next_int (s->rs);
1171
1172         MONO_NEW_LABEL (s, end_label);
1173         MONO_NEW_LABEL (s, true_label);
1174         MONO_NEW_LABEL (s, false_label);
1175         MONO_NEW_LABEL (s, false2_label);
1176
1177         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, obj_reg, 0, false_label);
1178
1179         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1180                 MONO_NEW_LABEL (s, interface_fail_label);
1181                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1182                 mini_emit_isninst_iface_cast (s, tmp_reg, klass, interface_fail_label, true_label);
1183
1184                 mono_bblock_add_inst (s->cbb, interface_fail_label);
1185                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1186
1187                 if (s->compile_aot) {
1188                         int tproxy_reg = mono_regstate_next_int (s->rs);
1189                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1190                         MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BNE_UN, klass_reg, tproxy_reg, false_label);
1191                 } else {
1192                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, klass_reg,
1193                                 mono_defaults.transparent_proxy_class, false_label);
1194                 }
1195
1196                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1197                 MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, tmp_reg, 0, false2_label);
1198
1199         } else {
1200                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1201                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1202
1203                 MONO_NEW_LABEL (s, no_proxy_label);
1204
1205                 if (s->compile_aot) {
1206                         int tproxy_reg = mono_regstate_next_int (s->rs);
1207                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1208                         MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BNE_UN, klass_reg, tproxy_reg, no_proxy_label);
1209                 } else {
1210                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, klass_reg,
1211                                 mono_defaults.transparent_proxy_class, no_proxy_label);
1212                 }
1213                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1214                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1215
1216                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1217                 MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, tmp_reg, 0, no_proxy_label);
1218
1219                 mini_emit_isninst_cast (s, klass_reg, klass, false2_label, true_label);
1220                 MONO_EMIT_NEW_BRANCH_LABEL (s, OP_BR, false2_label);
1221
1222                 mono_bblock_add_inst (s->cbb, no_proxy_label);
1223                 mini_emit_isninst_cast (s, klass_reg, klass, false_label, true_label);
1224         }
1225
1226         mono_bblock_add_inst (s->cbb, false_label);
1227         MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1228         MONO_EMIT_NEW_BRANCH_LABEL (s, OP_BR, end_label);
1229         mono_bblock_add_inst (s->cbb, false2_label);
1230         MONO_EMIT_NEW_ICONST (s, state->reg1, 2);
1231         MONO_EMIT_NEW_BRANCH_LABEL (s, OP_BR, end_label);
1232         mono_bblock_add_inst (s->cbb, true_label);
1233         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1234         mono_bblock_add_inst (s->cbb, end_label);
1235 }
1236
1237 reg: OP_UNBOXCAST (reg) {
1238         MonoClass *klass = tree->inst_newa_class;
1239         int obj_reg = state->left->reg1;
1240         int vtable_reg = mono_regstate_next_int (s->rs);
1241         int klass_reg = mono_regstate_next_int (s->rs);
1242         int eclass_reg = mono_regstate_next_int (s->rs);
1243         int rank_reg = mono_regstate_next_int (s->rs);
1244
1245         MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1246         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, rank_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1247
1248         /* FIXME: generics */
1249         g_assert (klass->rank == 0);
1250
1251         // Check rank == 0
1252         MONO_EMIT_NEW_COMPARE_IMM_EXC (s, NE_UN, rank_reg, 0, "InvalidCastException");
1253
1254         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1255         MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, element_class));
1256
1257         if (s->compile_aot) {
1258                 int const_reg = mono_regstate_next_int (s->rs);
1259                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass->element_class);
1260                 MONO_EMIT_NEW_COMPARE_EXC (s, NE_UN, eclass_reg, const_reg, "InvalidCastException");
1261         } else {
1262                 MONO_EMIT_NEW_COMPARE_IMM_EXC (s, NE_UN, eclass_reg, klass->element_class, "InvalidCastException");
1263         }
1264
1265         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1266 }
1267
1268 reg: CEE_CASTCLASS (reg) {
1269         MonoClass *klass = tree->inst_newa_class;
1270         MonoInst *object_is_null;
1271         int obj_reg = state->left->reg1;
1272         int vtable_reg = mono_regstate_next_int (s->rs);
1273
1274         MONO_NEW_LABEL (s, object_is_null);
1275
1276         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, obj_reg, 0, object_is_null);
1277
1278         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1279                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1280                 mini_emit_castclass_iface (s, vtable_reg, klass);
1281         } else {
1282                 int klass_reg = mono_regstate_next_int (s->rs);
1283
1284                 MONO_EMIT_NEW_LOAD_MEMBASE (s, vtable_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1285
1286                 if (!klass->rank && !s->compile_aot && !(s->opt & MONO_OPT_SHARED) && (klass->flags & TYPE_ATTRIBUTE_SEALED)) {
1287                         /* the remoting code is broken, access the class for now */
1288                         if (0) {
1289                                 MonoVTable *vt = mono_class_vtable (s->domain, klass);
1290                                 MONO_EMIT_NEW_COMPARE_IMM_EXC (s, NE_UN, vtable_reg, vt, "InvalidCastException");
1291                         } else {
1292                                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1293                                 MONO_EMIT_NEW_COMPARE_IMM_EXC (s, NE_UN, klass_reg, klass, "InvalidCastException");
1294                         }
1295                 } else {
1296                         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1297                         mini_emit_castclass (s, obj_reg, klass_reg, klass, object_is_null);
1298                 }
1299         }
1300
1301         mono_bblock_add_inst (s->cbb, object_is_null);
1302         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, obj_reg);
1303 }
1304
1305 reg: OP_CCASTCLASS (reg) {
1306         /* This opcode takes as input an object reference and a class, and returns:
1307         0) if the object is an instance of the class,
1308         1) if the object is a proxy whose type cannot be determined
1309         an InvalidCastException exception is thrown otherwhise*/
1310
1311         MonoClass *klass = tree->inst_newa_class;
1312         MonoInst *end_label, *fail_label, *no_proxy_label, *ok_result_label;
1313         int obj_reg = state->left->reg1;
1314         int tmp_reg = mono_regstate_next_int (s->rs);
1315         int klass_reg = mono_regstate_next_int (s->rs);
1316
1317         MONO_NEW_LABEL (s, end_label);
1318         MONO_NEW_LABEL (s, ok_result_label);
1319
1320         /* Return 0 if the object is null */
1321         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, obj_reg, 0, ok_result_label);
1322
1323         if (klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1324
1325                 MONO_NEW_LABEL (s, fail_label);
1326
1327                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1328                 mini_emit_isninst_iface_cast (s, tmp_reg, klass, fail_label, ok_result_label);
1329
1330                 mono_bblock_add_inst (s->cbb, fail_label);
1331                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1332
1333                 if (s->compile_aot) {
1334                         int tproxy_reg = mono_regstate_next_int (s->rs);
1335                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1336                         MONO_EMIT_NEW_COMPARE_EXC (s, NE_UN, klass_reg, tproxy_reg, "InvalidCastException");
1337                 } else {
1338                         MONO_EMIT_NEW_COMPARE_IMM_EXC (s, NE_UN, klass_reg, mono_defaults.transparent_proxy_class, "InvalidCastException");
1339                 }
1340
1341
1342                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1343                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1344
1345                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1346                 MONO_EMIT_NEW_COMPARE_IMM_EXC (s, EQ, tmp_reg, 0, "InvalidCastException");
1347
1348                 MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1349                 MONO_EMIT_NEW_BRANCH_LABEL (s, OP_BR, end_label);
1350
1351         } else {
1352
1353                 MONO_NEW_LABEL (s, no_proxy_label);
1354                 MONO_NEW_LABEL (s, fail_label);
1355
1356                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1357                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1358
1359                 if (s->compile_aot) {
1360                         int tproxy_reg = mono_regstate_next_int (s->rs);
1361                         MONO_EMIT_NEW_CLASSCONST (s, tproxy_reg, mono_defaults.transparent_proxy_class);
1362                         MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BNE_UN, klass_reg, tproxy_reg, no_proxy_label);
1363                 } else {
1364                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, klass_reg,
1365                                 mono_defaults.transparent_proxy_class, no_proxy_label);
1366                 }
1367
1368                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, remote_class));
1369                 MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, tmp_reg, G_STRUCT_OFFSET (MonoRemoteClass, proxy_class));
1370
1371                 MONO_EMIT_NEW_LOAD_MEMBASE (s, tmp_reg, obj_reg, G_STRUCT_OFFSET (MonoTransparentProxy, custom_type_info));
1372                 MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, tmp_reg, 0, no_proxy_label);
1373
1374                 mini_emit_isninst_cast (s, klass_reg, klass, fail_label, ok_result_label);
1375                 mono_bblock_add_inst (s->cbb, fail_label);
1376                 MONO_EMIT_NEW_ICONST (s, state->reg1, 1);
1377                 MONO_EMIT_NEW_BRANCH_LABEL (s, OP_BR, end_label);
1378
1379                 mono_bblock_add_inst (s->cbb, no_proxy_label);
1380                 /* Again, use ok_result_label as "object_is_null" */
1381                 mini_emit_castclass (s, obj_reg, klass_reg, klass, ok_result_label);
1382         }
1383
1384         mono_bblock_add_inst (s->cbb, ok_result_label);
1385         MONO_EMIT_NEW_ICONST (s, state->reg1, 0);
1386         mono_bblock_add_inst (s->cbb, end_label);
1387 }
1388
1389 stmt: CEE_STELEM_REF (OP_GROUP (reg, reg), reg),
1390 reg: OP_GROUP (reg, reg),
1391 reg: CEE_NEWARR (reg),
1392 lreg: OP_LMUL (lreg, lreg),
1393 lreg: OP_LMUL_OVF (lreg, lreg),
1394 lreg: OP_LMUL_OVF_UN (lreg, lreg),
1395 lreg: OP_LDIV (lreg, lreg),
1396 lreg: OP_LDIV_UN (lreg, lreg),
1397 lreg: OP_LREM (lreg, lreg),
1398 lreg: OP_LREM_UN (lreg, lreg),
1399 lreg: OP_LSHL (lreg, reg),
1400 lreg: OP_LSHR (lreg, reg),
1401 lreg: OP_LSHR_UN (lreg, reg) {
1402         g_assert_not_reached ();
1403 }
1404
1405 #
1406 # string support
1407 #
1408 reg: OP_GETCHR (reg, reg) "4" {
1409         int mult_reg = mono_regstate_next_int (s->rs);
1410         int add_reg = mono_regstate_next_int (s->rs);
1411
1412         MONO_EMIT_BOUNDS_CHECK (s, state->left->reg1, MonoString, length, state->right->reg1);
1413         MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, mult_reg, state->right->reg1, 1);
1414         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult_reg, state->left->reg1);
1415         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADU2_MEMBASE, state->reg1,
1416                                    add_reg, G_STRUCT_OFFSET (MonoString, chars));
1417 }
1418
1419 reg: OP_GETCHR (reg, OP_ICONST) {
1420         int ind = 2 * state->right->tree->inst_c0 + G_STRUCT_OFFSET (MonoString, chars);
1421
1422         MONO_EMIT_BOUNDS_CHECK_IMM (s, state->left->reg1, MonoString, length, state->right->tree->inst_c0);
1423         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADU2_MEMBASE, state->reg1, state->left->reg1, ind);
1424 }
1425
1426 reg: OP_STR_CHAR_ADDR (reg, reg) "4" {
1427         int mult_reg = mono_regstate_next_int (s->rs);
1428         int add_reg = mono_regstate_next_int (s->rs);
1429
1430         /*
1431          * The corlib functions check for oob already.
1432          * MONO_EMIT_BOUNDS_CHECK (s, state->left->reg1, MonoString, length, state->right->reg1);
1433          */
1434         MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, mult_reg, state->right->reg1, 1);
1435         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult_reg, state->left->reg1);
1436         MONO_EMIT_BIALU_IMM (s, tree, OP_ADD_IMM, state->reg1, add_reg, G_STRUCT_OFFSET (MonoString, chars));
1437 }
1438
1439 reg: OP_STRLEN (reg) {
1440         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->reg1,
1441                                    state->left->reg1, G_STRUCT_OFFSET (MonoString, length));
1442 }
1443
1444 reg: OP_GETTYPE (reg) {
1445         int vt_reg = mono_regstate_next_int (s->rs);
1446         MONO_EMIT_NEW_LOAD_MEMBASE (s, vt_reg, state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1447         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOAD_MEMBASE, state->reg1, vt_reg, G_STRUCT_OFFSET (MonoVTable, type));
1448 }
1449
1450 reg: OP_GETHASHCODE (reg) {
1451         int t1 = mono_regstate_next_int (s->rs);
1452
1453         #define MONO_OBJECT_ALIGNMENT_SHIFT     3
1454
1455         /* return (GPOINTER_TO_UINT (this) >> MONO_OBJECT_ALIGNMENT_SHIFT) * 2654435761u; */
1456
1457         MONO_EMIT_NEW_BIALU_IMM (s, OP_SHL_IMM, t1, state->left->reg1, MONO_OBJECT_ALIGNMENT_SHIFT);
1458         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, state->reg1, t1, 2654435761u);
1459 }
1460
1461 #
1462 # array support
1463 #
1464 reg: CEE_LDLEN (reg) {
1465         MONO_EMIT_LOAD_MEMBASE_OP (s, tree, OP_LOADI4_MEMBASE, state->reg1,
1466                                    state->left->reg1, G_STRUCT_OFFSET (MonoArray, max_length));
1467 }
1468
1469 reg: OP_ARRAY_RANK (reg) {
1470         int vtable_reg = mono_regstate_next_int (s->rs);
1471         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, vtable_reg,
1472                                        state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1473         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, state->reg1,
1474                                        vtable_reg, G_STRUCT_OFFSET (MonoVTable, rank));
1475 }
1476
1477 reg: OP_CHECK_ARRAY_TYPE (reg) {
1478
1479         MonoClass* array_class = mono_array_class_get (tree->klass, 1);
1480
1481         int vtable_reg = mono_regstate_next_int (s->rs);
1482
1483         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, vtable_reg,
1484                                        state->left->reg1, G_STRUCT_OFFSET (MonoObject, vtable));
1485
1486         if (s->opt & MONO_OPT_SHARED) {
1487                 int class_reg = mono_regstate_next_int (s->rs);
1488                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOAD_MEMBASE, class_reg,
1489                                                vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1490                 if (s->compile_aot) {
1491                         int klass_reg = mono_regstate_next_int (s->rs);
1492                         MONO_EMIT_NEW_CLASSCONST (s, klass_reg, array_class);
1493                         MONO_EMIT_NEW_COMPARE_EXC (s, NE_UN, class_reg, klass_reg, "ArrayTypeMismatchException");
1494                 } else {
1495                         MONO_EMIT_NEW_COMPARE_IMM_EXC (s, NE_UN, class_reg, array_class, "ArrayTypeMismatchException");
1496                 }
1497         } else {
1498                 if (s->compile_aot) {
1499                         int vt_reg = mono_regstate_next_int (s->rs);
1500                         MONO_EMIT_NEW_VTABLECONST (s, vt_reg, mono_class_vtable (s->domain, array_class));
1501                         MONO_EMIT_NEW_COMPARE_EXC (s, NE_UN, vtable_reg, vt_reg, "ArrayTypeMismatchException");
1502                 } else {
1503                         MONO_EMIT_NEW_COMPARE_IMM_EXC (s, NE_UN, vtable_reg, mono_class_vtable (s->domain, array_class), "ArrayTypeMismatchException");
1504                 }
1505         }
1506
1507         MONO_EMIT_UNALU (s, tree, OP_MOVE, state->reg1, state->left->reg1);
1508 }
1509
1510 reg: CEE_LDELEMA (reg, OP_ICONST) "15" {
1511         guint32 size = mono_class_array_element_size (tree->klass);
1512
1513         int ind = size * state->right->tree->inst_c0 + G_STRUCT_OFFSET (MonoArray, vector);
1514
1515         MONO_EMIT_BOUNDS_CHECK_IMM (s, state->left->reg1, MonoArray, max_length, state->right->tree->inst_c0);
1516         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, state->left->reg1, ind);
1517 }
1518
1519 reg: CEE_LDELEMA (reg, reg) "20" {
1520         int mult_reg = mono_regstate_next_int (s->rs);
1521         int add_reg = mono_regstate_next_int (s->rs);
1522         guint32 size = mono_class_array_element_size (tree->klass);
1523
1524         MONO_EMIT_BOUNDS_CHECK (s, state->left->reg1, MonoArray, max_length, state->right->reg1);
1525         MONO_EMIT_NEW_BIALU_IMM (s, OP_MUL_IMM, mult_reg, state->right->reg1, size);
1526         MONO_EMIT_NEW_BIALU (s, CEE_ADD, add_reg, mult_reg, state->left->reg1);
1527         MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, state->reg1, add_reg, G_STRUCT_OFFSET (MonoArray, vector));
1528 }
1529
1530 reg: CEE_REFANYVAL (reg) {
1531         int klass_reg = mono_regstate_next_int (s->rs);
1532         MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass));
1533         if (s->compile_aot) {
1534                 int const_reg = mono_regstate_next_int (s->rs);
1535                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, tree->inst_newa_class);
1536                 MONO_EMIT_NEW_COMPARE_EXC (s, NE_UN, klass_reg, const_reg, "InvalidCastException");
1537         } else {
1538                 MONO_EMIT_NEW_COMPARE_IMM_EXC (s, NE_UN, klass_reg, tree->inst_newa_class, "InvalidCastException");
1539         }
1540         MONO_EMIT_NEW_LOAD_MEMBASE (s, state->reg1, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, value));
1541 }
1542
1543 reg: OP_REFANYTYPE (reg) {
1544         MONO_EMIT_NEW_LOAD_MEMBASE (s, state->reg1, state->left->reg1, G_STRUCT_OFFSET (MonoTypedRef, type));
1545 }
1546
1547 stmt: CEE_MKREFANY (OP_GROUP (reg, OP_ICONST), reg),
1548 stmt: CEE_MKREFANY (OP_GROUP (reg, OP_I8CONST), reg) {
1549         MonoClass *klass = (MonoClass*)(tree->inst_left->inst_right->inst_p0);
1550         if (s->compile_aot) {
1551                 int const_reg = mono_regstate_next_int (s->rs);
1552                 int type_reg = mono_regstate_next_int (s->rs);
1553                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1554                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass), const_reg);
1555                 MONO_EMIT_NEW_BIALU_IMM (s, OP_ADD_IMM, type_reg, const_reg, G_STRUCT_OFFSET (MonoClass, byval_arg));
1556                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, type), type_reg);
1557         }
1558         else {
1559                 MONO_EMIT_NEW_STORE_MEMBASE_IMM (s, OP_STOREP_MEMBASE_IMM, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, type), &klass->byval_arg);
1560                 MONO_EMIT_NEW_STORE_MEMBASE_IMM (s, OP_STOREP_MEMBASE_IMM, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, klass), klass);
1561         }
1562         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREP_MEMBASE_REG, state->right->reg1, G_STRUCT_OFFSET (MonoTypedRef, value), state->left->left->reg1);
1563 }
1564
1565 reg: OP_MIN (reg, reg) "2" {
1566         /* min (x,y) = y + (((x-y)>>31)&(x-y)); */
1567         int diff = mono_regstate_next_int (s->rs);
1568         int shifted = mono_regstate_next_int (s->rs);
1569         int anded = mono_regstate_next_int (s->rs);
1570         MONO_EMIT_NEW_BIALU (s, CEE_SUB, diff, state->left->reg1, state->right->reg1);
1571         MONO_EMIT_NEW_BIALU_IMM (s, OP_SHR_IMM, shifted, diff, (sizeof(void*)*8-1));
1572         MONO_EMIT_NEW_BIALU (s, CEE_AND, anded, shifted, diff);
1573         MONO_EMIT_NEW_BIALU (s, CEE_ADD, state->reg1, anded, state->right->reg1);
1574 }
1575
1576 reg: OP_MAX (reg, reg) "2" {
1577         /* max (x,y) = x - (((x-y)>>31)&(x-y)); */
1578         int diff = mono_regstate_next_int (s->rs);
1579         int shifted = mono_regstate_next_int (s->rs);
1580         int anded = mono_regstate_next_int (s->rs);
1581         MONO_EMIT_NEW_BIALU (s, CEE_SUB, diff, state->left->reg1, state->right->reg1);
1582         MONO_EMIT_NEW_BIALU_IMM (s, OP_SHR_IMM, shifted, diff, (sizeof(void*)*8-1));
1583         MONO_EMIT_NEW_BIALU (s, CEE_AND, anded, shifted, diff);
1584         MONO_EMIT_NEW_BIALU (s, CEE_SUB, state->reg1, state->left->reg1, anded);
1585 }
1586
1587 %%
1588
1589 #ifdef MONO_ARCH_NEED_GOT_VAR
1590
1591 static void mini_emit_aotconst (MonoCompile *cfg, int dreg, MonoJumpInfoType patch_type, gpointer cons);
1592
1593 #endif
1594
1595 /*
1596  * Emit code which checks whenever the interface id of @klass is smaller than
1597  * than the value given by max_iid_reg.
1598 */
1599 static void
1600 mini_emit_max_iid_check (MonoCompile *s, int max_iid_reg, MonoClass *klass,
1601                                                  MonoInst *false_target)
1602 {
1603         if (s->compile_aot) {
1604                 int iid_reg = mono_regstate_next_int (s->rs);
1605                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_IID);
1606                 if (false_target)
1607                         MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BLT_UN, max_iid_reg, iid_reg, false_target);
1608                 else
1609                         MONO_EMIT_NEW_COMPARE_EXC (s, LT_UN, max_iid_reg, iid_reg, "InvalidCastException");
1610         } else {
1611                 if (false_target)
1612                         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BLT_UN, max_iid_reg, klass->interface_id, false_target);
1613                 else
1614                         MONO_EMIT_NEW_COMPARE_IMM_EXC (s, LT_UN, max_iid_reg, klass->interface_id, "InvalidCastException");
1615         }
1616 }
1617
1618 /* Same as above, but obtains max_iid from a vtable */
1619 static void
1620 mini_emit_max_iid_check_vtable (MonoCompile *s, int vtable_reg, MonoClass *klass,
1621                                                                  MonoInst *false_target)
1622 {
1623         int max_iid_reg = mono_regstate_next_int (s->rs);
1624
1625         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, max_iid_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, max_interface_id));
1626         mini_emit_max_iid_check (s, max_iid_reg, klass, false_target);
1627 }
1628
1629 /* Same as above, but obtains max_iid from a klass */
1630 static void
1631 mini_emit_max_iid_check_class (MonoCompile *s, int klass_reg, MonoClass *klass,
1632                                                                  MonoInst *false_target)
1633 {
1634         int max_iid_reg = mono_regstate_next_int (s->rs);
1635
1636         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, max_iid_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, max_interface_id));
1637         mini_emit_max_iid_check (s, max_iid_reg, klass, false_target);
1638 }
1639
1640 /* Emit code which loads interface_offsets [klass->interface_id]
1641  * The array is stored in memory before vtable.
1642  */
1643 static void
1644 mini_emit_load_intf_reg_vtable (MonoCompile *s, int intf_reg, int vtable_reg, MonoClass *klass)
1645 {
1646         if (s->compile_aot) {
1647                 int ioffset_reg = mono_regstate_next_int (s->rs);
1648                 int iid_reg = mono_regstate_next_int (s->rs);
1649                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_ADJUSTED_IID);
1650                 MONO_EMIT_NEW_BIALU (s, OP_PADD, ioffset_reg, iid_reg, vtable_reg);
1651                 MONO_EMIT_NEW_LOAD_MEMBASE (s, intf_reg, ioffset_reg, 0);
1652         } else {
1653                 MONO_EMIT_NEW_LOAD_MEMBASE (s, intf_reg, vtable_reg, -((klass->interface_id + 1) * SIZEOF_VOID_P));
1654         }
1655 }
1656
1657 /*
1658  * Emit code which loads into "intf_bit_reg" a nonzero value if the MonoClass
1659  * stored in "klass_reg" implements the interface "klass".
1660  */
1661 static void
1662 mini_emit_load_intf_bit_reg_class (MonoCompile *s, int intf_bit_reg, int klass_reg, MonoClass *klass)
1663 {
1664         int ibitmap_reg = mono_regstate_next_int (s->rs);
1665         int ibitmap_byte_reg = mono_regstate_next_int (s->rs);
1666
1667         MONO_EMIT_NEW_LOAD_MEMBASE (s, ibitmap_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, interface_bitmap));
1668
1669         if (s->compile_aot) {
1670                 int iid_reg = mono_regstate_next_int (s->rs);
1671                 int shifted_iid_reg = mono_regstate_next_int (s->rs);
1672                 int ibitmap_byte_address_reg = mono_regstate_next_int (s->rs);
1673                 int masked_iid_reg = mono_regstate_next_int (s->rs);
1674                 int iid_one_bit_reg = mono_regstate_next_int (s->rs);
1675                 int iid_bit_reg = mono_regstate_next_int (s->rs);
1676                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_IID);
1677                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHR_IMM, shifted_iid_reg, iid_reg, 3);
1678                 MONO_EMIT_NEW_BIALU (s, CEE_ADD, ibitmap_byte_address_reg, ibitmap_reg, shifted_iid_reg);
1679                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, ibitmap_byte_reg, ibitmap_byte_address_reg, 0);
1680                 MONO_EMIT_NEW_BIALU_IMM (s, OP_AND_IMM, masked_iid_reg, iid_reg, 7);
1681                 MONO_EMIT_NEW_ICONST (s, iid_one_bit_reg, 1);
1682                 MONO_EMIT_NEW_BIALU (s, CEE_SHL, iid_bit_reg, iid_one_bit_reg, masked_iid_reg);
1683                 MONO_EMIT_NEW_BIALU (s, CEE_AND, intf_bit_reg, ibitmap_byte_reg, iid_bit_reg);
1684         } else {
1685                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI1_MEMBASE, ibitmap_byte_reg, ibitmap_reg, klass->interface_id >> 3);
1686                 MONO_EMIT_NEW_BIALU_IMM (s, OP_AND_IMM, intf_bit_reg, ibitmap_byte_reg, 1 << (klass->interface_id & 7));
1687         }
1688 }
1689 /*
1690  * Emit code which loads into "intf_bit_reg" a nonzero value if the MonoVTable
1691  * stored in "vtable_reg" implements the interface "klass".
1692  */
1693 static void
1694 mini_emit_load_intf_bit_reg_vtable (MonoCompile *s, int intf_bit_reg, int vtable_reg, MonoClass *klass)
1695 {
1696         int ibitmap_reg = mono_regstate_next_int (s->rs);
1697         int ibitmap_byte_reg = mono_regstate_next_int (s->rs);
1698
1699         MONO_EMIT_NEW_LOAD_MEMBASE (s, ibitmap_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, interface_bitmap));
1700
1701         if (s->compile_aot) {
1702                 int iid_reg = mono_regstate_next_int (s->rs);
1703                 int shifted_iid_reg = mono_regstate_next_int (s->rs);
1704                 int ibitmap_byte_address_reg = mono_regstate_next_int (s->rs);
1705                 int masked_iid_reg = mono_regstate_next_int (s->rs);
1706                 int iid_one_bit_reg = mono_regstate_next_int (s->rs);
1707                 int iid_bit_reg = mono_regstate_next_int (s->rs);
1708                 MONO_EMIT_NEW_AOTCONST (s, iid_reg, klass, MONO_PATCH_INFO_IID);
1709                 MONO_EMIT_NEW_BIALU_IMM (s, OP_SHR_IMM, shifted_iid_reg, iid_reg, 3);
1710                 MONO_EMIT_NEW_BIALU (s, CEE_ADD, ibitmap_byte_address_reg, ibitmap_reg, shifted_iid_reg);
1711                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, ibitmap_byte_reg, ibitmap_byte_address_reg, 0);
1712                 MONO_EMIT_NEW_BIALU_IMM (s, OP_AND_IMM, masked_iid_reg, iid_reg, 7);
1713                 MONO_EMIT_NEW_ICONST (s, iid_one_bit_reg, 1);
1714                 MONO_EMIT_NEW_BIALU (s, CEE_SHL, iid_bit_reg, iid_one_bit_reg, masked_iid_reg);
1715                 MONO_EMIT_NEW_BIALU (s, CEE_AND, intf_bit_reg, ibitmap_byte_reg, iid_bit_reg);
1716         } else {
1717                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI1_MEMBASE, ibitmap_byte_reg, ibitmap_reg, klass->interface_id >> 3);
1718                 MONO_EMIT_NEW_BIALU_IMM (s, OP_AND_IMM, intf_bit_reg, ibitmap_byte_reg, 1 << (klass->interface_id & 7));
1719         }
1720 }
1721
1722 static void
1723 mini_emit_virtual_call (MonoCompile *cfg, void *st, MonoInst *tree, int novirtop, int virtop)
1724 {
1725         MonoMethod *method = ((MonoCallInst*)tree)->method;
1726         int vtable_reg, slot_reg, this_reg;
1727         MBState *state = st;
1728
1729         this_reg = state->left->reg1;
1730         mono_arch_emit_this_vret_args (cfg, (MonoCallInst*)tree, this_reg, state->left->tree->type, novirtop == OP_VCALL? state->right->reg1: -1);
1731
1732         if (!(method->flags & METHOD_ATTRIBUTE_VIRTUAL) ||
1733              ((method->flags & METHOD_ATTRIBUTE_FINAL) &&
1734              method->wrapper_type != MONO_WRAPPER_REMOTING_INVOKE_WITH_CHECK)) {
1735                 /*
1736                  * the method is not virtual, we just need to ensure this is not null
1737                  * and then we can call the method directly.
1738                  */
1739                 if (method->klass->marshalbyref || method->klass == mono_defaults.object_class) {
1740                         method = ((MonoCallInst*)tree)->method = mono_marshal_get_remoting_invoke_with_check (method);
1741                 }
1742
1743                 if (!method->string_ctor)
1744                         MONO_EMIT_NEW_UNALU (cfg, OP_CHECK_THIS, -1, this_reg);
1745
1746                 tree->dreg = state->reg1;
1747                 tree->opcode = novirtop;
1748                 mono_bblock_add_inst (cfg->cbb, tree);
1749                 return;
1750         }
1751
1752 #ifdef MONO_ARCH_HAVE_CREATE_DELEGATE_TRAMPOLINE
1753         if ((method->klass->parent == mono_defaults.multicastdelegate_class) && (!strcmp (method->name, "Invoke"))) {
1754                 /* Make a call to delegate->invoke_impl */
1755                 tree->dreg = state->reg1;
1756                 tree->opcode = virtop;
1757                 tree->inst_basereg = this_reg;
1758                 tree->inst_offset = G_STRUCT_OFFSET (MonoDelegate, invoke_impl);
1759                 mono_bblock_add_inst (cfg->cbb, tree);
1760                 return;
1761         }
1762 #endif
1763
1764         if ((method->flags & METHOD_ATTRIBUTE_VIRTUAL) &&
1765                 ((method->flags &  METHOD_ATTRIBUTE_FINAL) ||
1766                         (method->klass && method->klass->flags & TYPE_ATTRIBUTE_SEALED))) {
1767                 /*
1768                  * the method is virtual, but we can statically dispatch since either
1769                  * it's class or the method itself are sealed.
1770                  * But first we need to ensure it's not a null reference.
1771                  */
1772                 MONO_EMIT_NEW_UNALU (cfg, OP_CHECK_THIS, -1, this_reg);
1773
1774                 tree->dreg = state->reg1;
1775                 tree->opcode = novirtop;
1776                 mono_bblock_add_inst (cfg->cbb, tree);
1777                 return;
1778         }
1779
1780         /* Initialize method->slot */
1781         mono_class_setup_vtable (method->klass);
1782
1783         vtable_reg = mono_regstate_next_int (cfg->rs);
1784         MONO_EMIT_NEW_LOAD_MEMBASE (cfg, vtable_reg, this_reg, G_STRUCT_OFFSET (MonoObject, vtable));
1785         if (method->klass->flags & TYPE_ATTRIBUTE_INTERFACE) {
1786                 slot_reg = mono_regstate_next_int (cfg->rs);
1787                 mini_emit_load_intf_reg_vtable (cfg, slot_reg, vtable_reg, method->klass);
1788                 tree->inst_offset = method->slot * SIZEOF_VOID_P;
1789         } else {
1790                 slot_reg = vtable_reg;
1791                 tree->inst_offset = G_STRUCT_OFFSET (MonoVTable, vtable) + (method->slot * SIZEOF_VOID_P);
1792         }
1793
1794         tree->dreg = state->reg1;
1795         tree->opcode = virtop;
1796         tree->sreg1 = slot_reg;
1797         ((MonoCallInst*)tree)->virtual = TRUE;
1798         mono_bblock_add_inst (cfg->cbb, tree);
1799 }
1800
1801 static void
1802 mini_emit_isninst_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1803 {
1804         int idepth_reg = mono_regstate_next_int (s->rs);
1805         int stypes_reg = mono_regstate_next_int (s->rs);
1806         int stype = mono_regstate_next_int (s->rs);
1807
1808         if (klass->idepth > MONO_DEFAULT_SUPERTABLE_SIZE) {
1809                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, idepth_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, idepth));
1810                 MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BLT_UN, idepth_reg, klass->idepth, false_target);
1811         }
1812         MONO_EMIT_NEW_LOAD_MEMBASE (s, stypes_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, supertypes));
1813         MONO_EMIT_NEW_LOAD_MEMBASE (s, stype, stypes_reg, ((klass->idepth - 1) * SIZEOF_VOID_P));
1814         if (s->compile_aot) {
1815                 int const_reg = mono_regstate_next_int (s->rs);
1816                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1817                 MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BEQ, stype, const_reg, true_target);
1818         } else {
1819                 MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, stype, klass, true_target);
1820         }
1821 }
1822
1823 static void
1824 mini_emit_isninst_iface_cast (MonoCompile *s, int vtable_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1825 {
1826         int intf_reg = mono_regstate_next_int (s->rs);
1827
1828         mini_emit_max_iid_check_vtable (s, vtable_reg, klass, false_target);
1829         mini_emit_load_intf_bit_reg_vtable (s, intf_reg, vtable_reg, klass);
1830         /* the object_is_null target simply copies the input register to the output */
1831         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, intf_reg, 0, true_target);
1832 }
1833
1834 /*
1835  * Variant of the above that takes a register to the class, not the vtable.
1836  */
1837 static void
1838 mini_emit_isninst_iface_class_cast (MonoCompile *s, int klass_reg, MonoClass *klass, MonoInst *false_target, MonoInst *true_target)
1839 {
1840         int intf_bit_reg = mono_regstate_next_int (s->rs);
1841
1842         mini_emit_max_iid_check_class (s, klass_reg, klass, false_target);
1843         mini_emit_load_intf_bit_reg_class (s, intf_bit_reg, klass_reg, klass);
1844         /* the object_is_null target simply copies the input register to the output */
1845         MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, intf_bit_reg, 0, true_target);
1846 }
1847
1848 static void
1849 mini_emit_castclass_iface (MonoCompile *s, int vtable_reg, MonoClass *klass)
1850 {
1851         int intf_reg = mono_regstate_next_int (s->rs);
1852
1853         mini_emit_max_iid_check_vtable (s, vtable_reg, klass, NULL);
1854         mini_emit_load_intf_bit_reg_vtable (s, intf_reg, vtable_reg, klass);
1855         MONO_EMIT_NEW_COMPARE_IMM_EXC (s, EQ, intf_reg, 0, "InvalidCastException");
1856 }
1857
1858 /*
1859  * Variant of the aboce that takes a register to the class, not the vtable.
1860  */
1861 static void
1862 mini_emit_castclass_iface_class (MonoCompile *s, int klass_reg, MonoClass *klass)
1863 {
1864         int intf_bit_reg = mono_regstate_next_int (s->rs);
1865
1866         mini_emit_max_iid_check_class (s, klass_reg, klass, NULL);
1867         mini_emit_load_intf_bit_reg_class (s, intf_bit_reg, klass_reg, klass);
1868         MONO_EMIT_NEW_COMPARE_IMM_EXC (s, EQ, intf_bit_reg, 0, "InvalidCastException");
1869 }
1870
1871 static void
1872 mini_emit_castclass (MonoCompile *s, int obj_reg, int klass_reg, MonoClass *klass, MonoInst *object_is_null)
1873 {
1874         if (klass->rank) {
1875                 int rank_reg = mono_regstate_next_int (s->rs);
1876                 int eclass_reg = mono_regstate_next_int (s->rs);
1877
1878                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU1_MEMBASE, rank_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, rank));
1879                 MONO_EMIT_NEW_COMPARE_IMM_EXC (s, NE_UN, rank_reg, klass->rank, "InvalidCastException");
1880 //              MONO_EMIT_NEW_LOAD_MEMBASE (s, klass_reg, vtable_reg, G_STRUCT_OFFSET (MonoVTable, klass));
1881                 MONO_EMIT_NEW_LOAD_MEMBASE (s, eclass_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, cast_class));
1882                 if (klass->cast_class == mono_defaults.object_class) {
1883                         int parent_reg = mono_regstate_next_int (s->rs);
1884                         int const_reg = -1;
1885                         MONO_EMIT_NEW_LOAD_MEMBASE (s, parent_reg, eclass_reg, G_STRUCT_OFFSET (MonoClass, parent));
1886                         if (s->compile_aot) {
1887                                 const_reg = mono_regstate_next_int (s->rs);
1888                                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1889                                 MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BNE_UN, parent_reg, const_reg, object_is_null);
1890                         } else {
1891                                 MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BNE_UN, parent_reg,
1892                                         mono_defaults.enum_class->parent, object_is_null);
1893                         }
1894                         if (s->compile_aot) {
1895                                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1896                                 MONO_EMIT_NEW_COMPARE_EXC (s, NE_UN, eclass_reg, const_reg, "InvalidCastException");
1897                         } else {
1898                                 MONO_EMIT_NEW_COMPARE_IMM_EXC (s, NE_UN, eclass_reg, mono_defaults.enum_class, "InvalidCastException");
1899                         }
1900                 } else if (klass->cast_class == mono_defaults.enum_class->parent) {
1901                         int const_reg = mono_regstate_next_int (s->rs);
1902                         if (s->compile_aot) {
1903                                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class->parent);
1904                                 MONO_EMIT_NEW_COMPARE_BRANCH_LABEL (s, CEE_BEQ, eclass_reg, const_reg, object_is_null);
1905                         } else {
1906                                 MONO_EMIT_NEW_COMPARE_IMM_BRANCH_LABEL (s, CEE_BEQ, eclass_reg,
1907                                         mono_defaults.enum_class->parent, object_is_null);
1908                         }
1909                         if (s->compile_aot) {
1910                                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1911                                 MONO_EMIT_NEW_COMPARE_EXC (s, NE_UN, eclass_reg, const_reg, "InvalidCastException");
1912                         } else {
1913                                 MONO_EMIT_NEW_COMPARE_IMM_EXC (s, NE_UN, eclass_reg, mono_defaults.enum_class, "InvalidCastException");
1914                         }
1915                 } else if (klass->cast_class == mono_defaults.enum_class) {
1916                         if (s->compile_aot) {
1917                                 int const_reg = mono_regstate_next_int (s->rs);
1918                                 MONO_EMIT_NEW_CLASSCONST (s, const_reg, mono_defaults.enum_class);
1919                                 MONO_EMIT_NEW_COMPARE_EXC (s, NE_UN, eclass_reg, const_reg, "InvalidCastException");
1920                         } else {
1921                                 MONO_EMIT_NEW_COMPARE_IMM_EXC (s, NE_UN, eclass_reg, mono_defaults.enum_class, "InvalidCastException");
1922                         }
1923                 } else if (klass->cast_class->flags & TYPE_ATTRIBUTE_INTERFACE) {
1924                         mini_emit_castclass_iface_class (s, eclass_reg, klass->cast_class);
1925                 } else {
1926                         mini_emit_castclass (s, obj_reg, eclass_reg, klass->cast_class, object_is_null);
1927                 }
1928
1929                 if ((klass->rank == 1) && (klass->byval_arg.type == MONO_TYPE_SZARRAY)) {
1930                         /* Check that the object is a vector too */
1931                         int bounds_reg = mono_regstate_next_int (s->rs);
1932                         MONO_EMIT_NEW_LOAD_MEMBASE (s, bounds_reg, obj_reg, G_STRUCT_OFFSET (MonoArray, bounds));
1933                         MONO_EMIT_NEW_COMPARE_IMM_EXC (s, NE_UN, bounds_reg, 0, "InvalidCastException");
1934                 }
1935         } else {
1936                 int idepth_reg = mono_regstate_next_int (s->rs);
1937                 int stypes_reg = mono_regstate_next_int (s->rs);
1938                 int stype = mono_regstate_next_int (s->rs);
1939
1940                 if (klass->idepth > MONO_DEFAULT_SUPERTABLE_SIZE) {
1941                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADU2_MEMBASE, idepth_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, idepth));
1942                         MONO_EMIT_NEW_COMPARE_IMM_EXC (s, LT_UN, idepth_reg, klass->idepth, "InvalidCastException");
1943                 }
1944                 MONO_EMIT_NEW_LOAD_MEMBASE (s, stypes_reg, klass_reg, G_STRUCT_OFFSET (MonoClass, supertypes));
1945                 MONO_EMIT_NEW_LOAD_MEMBASE (s, stype, stypes_reg, ((klass->idepth - 1) * SIZEOF_VOID_P));
1946                 if (s->compile_aot) {
1947                         int const_reg = mono_regstate_next_int (s->rs);
1948                         MONO_EMIT_NEW_CLASSCONST (s, const_reg, klass);
1949                         MONO_EMIT_NEW_COMPARE_EXC (s, NE_UN, stype, const_reg, "InvalidCastException");
1950                 } else {
1951                         MONO_EMIT_NEW_COMPARE_IMM_EXC (s, NE_UN, stype, klass, "InvalidCastException");
1952                 }
1953         }
1954 }
1955
1956 static void
1957 mini_emit_memcpy (MonoCompile *s, int destreg, int doffset, int srcreg, int soffset, int size, int align)
1958 {
1959         int cur_reg;
1960
1961         /* FIXME: consider alignment for archs that need it. */
1962 #if !NO_UNALIGNED_ACCESS
1963         if (sizeof (gpointer) == 8) {
1964                 while (size >= 8) {
1965                         cur_reg = mono_regstate_next_int (s->rs);
1966                         MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI8_MEMBASE, cur_reg, srcreg, soffset);
1967                         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI8_MEMBASE_REG, destreg, doffset, cur_reg);
1968                         doffset += 8;
1969                         soffset += 8;
1970                         size -= 8;
1971                 }
1972         }
1973 #endif
1974
1975         while (size >= 4) {
1976                 cur_reg = mono_regstate_next_int (s->rs);
1977                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI4_MEMBASE, cur_reg, srcreg, soffset);
1978                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI4_MEMBASE_REG, destreg, doffset, cur_reg);
1979                 doffset += 4;
1980                 soffset += 4;
1981                 size -= 4;
1982         }
1983         while (size >= 2) {
1984                 cur_reg = mono_regstate_next_int (s->rs);
1985                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI2_MEMBASE, cur_reg, srcreg, soffset);
1986                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI2_MEMBASE_REG, destreg, doffset, cur_reg);
1987                 doffset += 2;
1988                 soffset += 2;
1989                 size -= 2;
1990         }
1991         while (size >= 1) {
1992                 cur_reg = mono_regstate_next_int (s->rs);
1993                 MONO_EMIT_NEW_LOAD_MEMBASE_OP (s, OP_LOADI1_MEMBASE, cur_reg, srcreg, soffset);
1994                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI1_MEMBASE_REG, destreg, doffset, cur_reg);
1995                 doffset += 1;
1996                 soffset += 1;
1997                 size -= 1;
1998         }
1999 }
2000
2001 static void
2002 mini_emit_memset (MonoCompile *s, int destreg, int offset, int size, int val, int align)
2003 {
2004         int val_reg = mono_regstate_next_int (s->rs);
2005
2006         if (sizeof (gpointer) == 8)
2007                 MONO_EMIT_NEW_I8CONST (s, val_reg, val);
2008         else
2009                 MONO_EMIT_NEW_ICONST (s, val_reg, val);
2010
2011         /* FIXME: consider alignment for archs that need it. */
2012 #if !NO_UNALIGNED_ACCESS
2013         if (sizeof (gpointer) == 8) {
2014                 if (offset % 8) {
2015                         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI4_MEMBASE_REG, destreg, offset, val_reg);
2016                         offset += 4;
2017                         size -= 4;
2018                 }
2019                 while (size >= 8) {
2020                         MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI8_MEMBASE_REG, destreg, offset, val_reg);
2021                         offset += 8;
2022                         size -= 8;
2023                 }
2024         }
2025 #endif
2026
2027         while (size >= 4) {
2028                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI4_MEMBASE_REG, destreg, offset, val_reg);
2029                 offset += 4;
2030                 size -= 4;
2031         }
2032         while (size >= 2) {
2033                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI2_MEMBASE_REG, destreg, offset, val_reg);
2034                 offset += 2;
2035                 size -= 2;
2036         }
2037         while (size >= 1) {
2038                 MONO_EMIT_NEW_STORE_MEMBASE (s, OP_STOREI1_MEMBASE_REG, destreg, offset, val_reg);
2039                 offset += 1;
2040                 size -= 1;
2041         }
2042 }
2043
2044 #ifdef MONO_ARCH_NEED_GOT_VAR
2045
2046 /* This is similar to NEW_AOTCONST in mini.c, but generates linear IL */
2047 static void
2048 mini_emit_aotconst (MonoCompile *cfg, int dreg, MonoJumpInfoType patch_type, gpointer cons)
2049 {
2050         MonoInst *dest, *pinfo;
2051         int got_var_reg;
2052
2053         dest = mono_mempool_alloc0 (cfg->mempool, sizeof (MonoInst));
2054         dest->opcode = OP_GOT_ENTRY;
2055
2056         g_assert (cfg->got_var);
2057
2058         pinfo = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));
2059         pinfo->opcode = OP_PATCH_INFO;
2060         pinfo->inst_left = cons;
2061         pinfo->inst_right = (gpointer)(patch_type);
2062
2063         if (cfg->got_var->opcode == OP_REGOFFSET) {
2064                 got_var_reg = mono_regstate_next_int (cfg->rs);
2065                 MONO_EMIT_NEW_LOAD_MEMBASE (cfg, got_var_reg, cfg->got_var->inst_basereg, cfg->got_var->inst_offset);
2066         } else {
2067                 g_assert (cfg->got_var->opcode == OP_REGVAR);
2068                 got_var_reg = cfg->got_var->dreg;
2069         }
2070
2071         dest = mono_mempool_alloc0 ((cfg)->mempool, sizeof (MonoInst));
2072         dest->opcode = OP_GOT_ENTRY;
2073         dest->inst_left = cfg->got_var; /* not used */
2074         dest->inst_right = pinfo;
2075
2076         dest->inst_basereg = got_var_reg;
2077         dest->dreg = dreg;
2078         mono_bblock_add_inst (cfg->cbb, dest);
2079 }
2080
2081 #endif
2082
2083 static int
2084 ldind_to_load_membase (int opcode)
2085 {
2086         switch (opcode) {
2087         case CEE_LDIND_I1:
2088                 return OP_LOADI1_MEMBASE;
2089         case CEE_LDIND_U1:
2090                 return OP_LOADU1_MEMBASE;
2091         case CEE_LDIND_I2:
2092                 return OP_LOADI2_MEMBASE;
2093         case CEE_LDIND_U2:
2094                 return OP_LOADU2_MEMBASE;
2095         case CEE_LDIND_I4:
2096                 return OP_LOADI4_MEMBASE;
2097         case CEE_LDIND_U4:
2098                 return OP_LOADU4_MEMBASE;
2099         case CEE_LDIND_I:
2100                 return OP_LOAD_MEMBASE;
2101         case CEE_LDIND_REF:
2102                 return OP_LOAD_MEMBASE;
2103         case CEE_LDIND_I8:
2104                 return OP_LOADI8_MEMBASE;
2105         default:
2106                 g_assert_not_reached ();
2107         }
2108
2109         return -1;
2110 }
2111