mono/mini/aot-compiler.c

   1 /*
   2  * aot.c: mono Ahead of Time compiler
   3  *
   4  * Author:
   5  *   Dietmar Maurer (dietmar@ximian.com)
   6  *   Zoltan Varga (vargaz@gmail.com)
   7  *
   8  * (C) 2002 Ximian, Inc.
   9  */
  10
  11 #include "config.h"
  12 #include <sys/types.h>
  13 #ifdef HAVE_UNISTD_H
  14 #include <unistd.h>
  15 #endif
  16 #include <fcntl.h>
  17 #include <string.h>
  18 #ifndef PLATFORM_WIN32
  19 #include <sys/mman.h>
  20 #else
  21 #include <winsock2.h>
  22 #include <windows.h>
  23 #endif
  24
  25 #include <errno.h>
  26 #include <sys/stat.h>
  27 #include <limits.h>    /* for PAGESIZE */
  28 #ifndef PAGESIZE
  29 #define PAGESIZE 4096
  30 #endif
  31
  32 #include <mono/metadata/tabledefs.h>
  33 #include <mono/metadata/class.h>
  34 #include <mono/metadata/object.h>
  35 #include <mono/metadata/tokentype.h>
  36 #include <mono/metadata/appdomain.h>
  37 #include <mono/metadata/debug-helpers.h>
  38 #include <mono/metadata/assembly.h>
  39 #include <mono/metadata/metadata-internals.h>
  40 #include <mono/metadata/marshal.h>
  41 #include <mono/metadata/gc-internal.h>
  42 #include <mono/utils/mono-logger.h>
  43 #include "mono/utils/mono-compiler.h"
  44
  45 #include "mini.h"
  46 #include "version.h"
  47
  48 #ifndef DISABLE_AOT
  49
  50 #ifdef PLATFORM_WIN32
  51 #define SHARED_EXT ".dll"
  52 #elif defined(__ppc__) && defined(__MACH__)
  53 #define SHARED_EXT ".dylib"
  54 #else
  55 #define SHARED_EXT ".so"
  56 #endif
  57
  58 #if defined(sparc) || defined(__ppc__)
  59 #define AS_STRING_DIRECTIVE ".asciz"
  60 #else
  61 /* GNU as */
  62 #define AS_STRING_DIRECTIVE ".string"
  63 #endif
  64
  65 #define ALIGN_PTR_TO(ptr,align) (gpointer)((((gssize)(ptr)) + (align - 1)) & (~(align - 1)))
  66 #define ROUND_DOWN(VALUE,SIZE)  ((VALUE) & ~((SIZE) - 1))
  67
  68 typedef struct MonoAotOptions {
  69         char *outfile;
  70         gboolean save_temps;
  71         gboolean write_symbols;
  72         gboolean metadata_only;
  73         gboolean bind_to_runtime_version;
  74 } MonoAotOptions;
  75
  76 typedef struct MonoAotStats {
  77         int ccount, mcount, lmfcount, abscount, wrappercount, gcount, ocount, genericcount;
  78         int code_size, info_size, ex_info_size, got_size, class_info_size, got_info_size, got_info_offsets_size;
  79         int methods_without_got_slots, direct_calls, all_calls;
  80         int got_slots;
  81         int got_slot_types [MONO_PATCH_INFO_NONE];
  82 } MonoAotStats;
  83
  84 /*#define USE_ELF_WRITER 1*/
  85
  86 #if defined(USE_ELF_WRITER)
  87 #define USE_BIN_WRITER 1
  88 #endif
  89
  90 #ifdef USE_BIN_WRITER
  91
  92 typedef struct _BinSymbol BinSymbol;
  93 typedef struct _BinReloc BinReloc;
  94 typedef struct _BinSection BinSection;
  95
  96 #else
  97
  98 /* emit mode */
  99 enum {
 100         EMIT_NONE,
 101         EMIT_BYTE,
 102         EMIT_WORD,
 103         EMIT_LONG
 104 };
 105
 106 #endif
 107
 108 typedef struct MonoAotCompile {
 109         MonoImage *image;
 110         MonoCompile **cfgs;
 111         GHashTable *patch_to_plt_offset;
 112         GHashTable **patch_to_plt_offset_wrapper;
 113         GHashTable *plt_offset_to_patch;
 114         GHashTable *patch_to_shared_got_offset;
 115         GPtrArray *shared_patches;
 116         GHashTable *image_hash;
 117         GHashTable *method_to_cfg;
 118         GHashTable *wrapper_to_method;
 119         GHashTable *token_info_hash;
 120         GPtrArray *image_table;
 121         GList *method_order;
 122         guint32 got_offset, plt_offset;
 123         guint32 *method_got_offsets;
 124         gboolean *has_got_slots;
 125         MonoAotOptions aot_opts;
 126         guint32 nmethods;
 127         guint32 opts;
 128         MonoMemPool *mempool;
 129         MonoAotStats stats;
 130 #ifdef USE_BIN_WRITER
 131         BinSymbol *symbols;
 132         BinSection *sections;
 133         BinSection *cur_section;
 134         BinReloc *relocations;
 135         GHashTable *labels;
 136         int num_relocs;
 137 #else
 138         FILE *fp;
 139         char *tmpfname;
 140         int mode; /* emit mode */
 141         int col_count; /* bytes emitted per .byte line */
 142 #endif
 143 } MonoAotCompile;
 144
 145 #ifdef HAVE_ARRAY_ELEM_INIT
 146 #define MSGSTRFIELD(line) MSGSTRFIELD1(line)
 147 #define MSGSTRFIELD1(line) str##line
 148 static const struct msgstr_t {
 149 #define PATCH_INFO(a,b) char MSGSTRFIELD(__LINE__) [sizeof (b)];
 150 #include "patch-info.h"
 151 #undef PATCH_INFO
 152 } opstr = {
 153 #define PATCH_INFO(a,b) b,
 154 #include "patch-info.h"
 155 #undef PATCH_INFO
 156 };
 157 static const gint16 opidx [] = {
 158 #define PATCH_INFO(a,b) [MONO_PATCH_INFO_ ## a] = offsetof (struct msgstr_t, MSGSTRFIELD(__LINE__)),
 159 #include "patch-info.h"
 160 #undef PATCH_INFO
 161 };
 162
 163 static const char*
 164 get_patch_name (int info)
 165 {
 166         return (const char*)&opstr + opidx [info];
 167 }
 168
 169 #else
 170 #define PATCH_INFO(a,b) b,
 171 static const char* const
 172 patch_types [MONO_PATCH_INFO_NUM + 1] = {
 173 #include "patch-info.h"
 174         NULL
 175 };
 176
 177 static const char*
 178 get_patch_name (int info)
 179 {
 180         return patch_types [info];
 181 }
 182
 183 #endif
 184
 185 static gboolean
 186 is_got_patch (MonoJumpInfoType patch_type)
 187 {
 188         return TRUE;
 189 }
 190
 191 static G_GNUC_UNUSED int
 192 ilog2(register int value)
 193 {
 194         int count = -1;
 195         while (value & ~0xf) count += 4, value >>= 4;
 196         while (value) count++, value >>= 1;
 197         return count;
 198 }
 199
 200 #ifdef USE_BIN_WRITER
 201
 202 typedef struct _BinLabel BinLabel;
 203 struct _BinLabel {
 204         char *name;
 205         BinSection *section;
 206         int offset;
 207 };
 208
 209 struct _BinReloc {
 210         BinReloc *next;
 211         char *val1;
 212         char *val2;
 213         BinSection *val2_section;
 214         int val2_offset;
 215         int offset;
 216         BinSection *section;
 217         int section_offset;
 218 };
 219
 220 struct _BinSymbol {
 221         BinSymbol *next;
 222         char *name;
 223         BinSection *section;
 224         int offset;
 225         gboolean is_function;
 226         gboolean is_global;
 227 };
 228
 229 struct _BinSection {
 230         BinSection *next;
 231         BinSection *parent;
 232         char *name;
 233         int subsection;
 234         guint8 *data;
 235         int data_len;
 236         int cur_offset;
 237         int file_offset;
 238         int virt_offset;
 239         int shidx;
 240 };
 241
 242 static void
 243 emit_start (MonoAotCompile *acfg)
 244 {
 245         acfg->labels = g_hash_table_new (g_str_hash, g_str_equal);
 246 }
 247
 248 static void
 249 emit_section_change (MonoAotCompile *acfg, const char *section_name, int subsection_index)
 250 {
 251         BinSection *section;
 252
 253         if (acfg->cur_section && acfg->cur_section->subsection == subsection_index
 254                         && strcmp (acfg->cur_section->name, section_name) == 0)
 255                 return;
 256         for (section = acfg->sections; section; section = section->next) {
 257                 if (section->subsection == subsection_index && strcmp (section->name, section_name) == 0) {
 258                         acfg->cur_section = section;
 259                         return;
 260                 }
 261         }
 262         if (!section) {
 263                 section = g_new0 (BinSection, 1);
 264                 section->name = g_strdup (section_name);
 265                 section->subsection = subsection_index;
 266                 section->next = acfg->sections;
 267                 acfg->sections = section;
 268                 acfg->cur_section = section;
 269         }
 270 }
 271
 272 static void
 273 emit_global (MonoAotCompile *acfg, const char *name, gboolean func)
 274 {
 275         BinSymbol *symbol = g_new0 (BinSymbol, 1);
 276         symbol->name = g_strdup (name);
 277         symbol->is_function = func;
 278         symbol->is_global = TRUE;
 279         symbol->section = acfg->cur_section;
 280         /* FIXME: we align after this call... */
 281         symbol->offset = symbol->section->cur_offset;
 282         symbol->next = acfg->symbols;
 283         acfg->symbols = symbol;
 284 }
 285
 286 static void
 287 emit_label (MonoAotCompile *acfg, const char *name)
 288 {
 289         BinLabel *label = g_new0 (BinLabel, 1);
 290         label->name = g_strdup (name);
 291         label->section = acfg->cur_section;
 292         label->offset = acfg->cur_section->cur_offset;
 293         g_hash_table_insert (acfg->labels, label->name, label);
 294 }
 295
 296 static void
 297 emit_ensure_buffer (BinSection *section, int size)
 298 {
 299         int new_offset = section->cur_offset + size;
 300         if (new_offset >= section->data_len) {
 301                 int new_size = section->data_len? section->data_len * 2: 256;
 302                 guint8 *data;
 303                 while (new_size <= new_offset)
 304                         new_size *= 2;
 305                 data = g_malloc0 (new_size);
 306                 memcpy (data, section->data, section->data_len);
 307                 g_free (section->data);
 308                 section->data = data;
 309                 section->data_len = new_size;
 310         }
 311 }
 312
 313 static void
 314 emit_bytes (MonoAotCompile *acfg, const guint8* buf, int size)
 315 {
 316         emit_ensure_buffer (acfg->cur_section, size);
 317         memcpy (acfg->cur_section->data + acfg->cur_section->cur_offset, buf, size);
 318         acfg->cur_section->cur_offset += size;
 319 }
 320
 321 static void
 322 emit_string (MonoAotCompile *acfg, const char *value)
 323 {
 324         int size = strlen (value) + 1;
 325         emit_bytes (acfg, (const guint8*)value, size);
 326 }
 327
 328 static void
 329 emit_line (MonoAotCompile *acfg)
 330 {
 331         /* Nothing to do in binary writer */
 332 }
 333
 334 static void
 335 emit_string_symbol (MonoAotCompile *acfg, const char *name, const char *value)
 336 {
 337         emit_section_change (acfg, ".text", 1);
 338         emit_global (acfg, name, FALSE);
 339         emit_label (acfg, name);
 340         emit_string (acfg, value);
 341 }
 342
 343 static void
 344 emit_alignment (MonoAotCompile *acfg, int size)
 345 {
 346         int offset = acfg->cur_section->cur_offset;
 347         int add;
 348         offset += (size - 1);
 349         offset &= ~(size - 1);
 350         add = offset - acfg->cur_section->cur_offset;
 351         if (add) {
 352                 emit_ensure_buffer (acfg->cur_section, add);
 353                 acfg->cur_section->cur_offset += add;
 354         }
 355 }
 356
 357 static void
 358 emit_pointer (MonoAotCompile *acfg, const char *target)
 359 {
 360         BinReloc *reloc;
 361         emit_alignment (acfg, sizeof (gpointer));
 362         reloc = g_new0 (BinReloc, 1);
 363         reloc->val1 = g_strdup (target);
 364         reloc->section = acfg->cur_section;
 365         reloc->section_offset = acfg->cur_section->cur_offset;
 366         reloc->next = acfg->relocations;
 367         acfg->relocations = reloc;
 368         if (strcmp (reloc->section->name, ".data") == 0) {
 369                 acfg->num_relocs++;
 370                 g_print ("reloc: %s at %d\n", target, acfg->cur_section->cur_offset);
 371         }
 372         acfg->cur_section->cur_offset += sizeof (gpointer);
 373 }
 374
 375 static void
 376 emit_int16 (MonoAotCompile *acfg, int value)
 377 {
 378         guint8 *data;
 379         emit_ensure_buffer (acfg->cur_section, 2);
 380         data = acfg->cur_section->data + acfg->cur_section->cur_offset;
 381         acfg->cur_section->cur_offset += 2;
 382         /* FIXME: little endian */
 383         data [0] = value;
 384         data [1] = value >> 8;
 385 }
 386
 387 static void
 388 emit_int32 (MonoAotCompile *acfg, int value)
 389 {
 390         guint8 *data;
 391         emit_ensure_buffer (acfg->cur_section, 4);
 392         data = acfg->cur_section->data + acfg->cur_section->cur_offset;
 393         acfg->cur_section->cur_offset += 4;
 394         /* FIXME: little endian */
 395         data [0] = value;
 396         data [1] = value >> 8;
 397         data [2] = value >> 16;
 398         data [3] = value >> 24;
 399 }
 400
 401 static void
 402 emit_symbol_diff (MonoAotCompile *acfg, const char *end, const char* start, int offset)
 403 {
 404         BinReloc *reloc;
 405         reloc = g_new0 (BinReloc, 1);
 406         reloc->val1 = g_strdup (end);
 407         if (strcmp (start, ".") == 0) {
 408                 reloc->val2_section = acfg->cur_section;
 409                 reloc->val2_offset = acfg->cur_section->cur_offset;
 410         } else {
 411                 reloc->val2 = g_strdup (start);
 412         }
 413         reloc->offset = offset;
 414         reloc->section = acfg->cur_section;
 415         reloc->section_offset = acfg->cur_section->cur_offset;
 416         reloc->next = acfg->relocations;
 417         acfg->relocations = reloc;
 418         acfg->cur_section->cur_offset += 4;
 419         /*if (strcmp (reloc->section->name, ".data") == 0) {
 420                 acfg->num_relocs++;
 421                 g_print ("reloc: %s - %s + %d at %d\n", end, start, offset, acfg->cur_section->cur_offset - 4);
 422         }*/
 423 }
 424
 425 static void
 426 emit_zero_bytes (MonoAotCompile *acfg, int num)
 427 {
 428         emit_ensure_buffer (acfg->cur_section, num);
 429         acfg->cur_section->cur_offset += num;
 430 }
 431
 432 #ifdef USE_ELF_WRITER
 433 enum {
 434         SYM_LOCAL = 0 << 4,
 435         SYM_GLOBAL = 1 << 4,
 436         SYM_OBJECT = 1,
 437         SYM_FUNC = 2,
 438         SYM_SECTION = 3
 439 };
 440
 441 enum {
 442         SECT_NULL,
 443         SECT_HASH,
 444         SECT_DYNSYM,
 445         SECT_DYNSTR,
 446         SECT_REL_DYN,
 447         SECT_TEXT,
 448         SECT_DYNAMIC,
 449         SECT_GOT_PLT,
 450         SECT_DATA,
 451         SECT_BSS,
 452         SECT_SHSTRTAB,
 453         SECT_SYMTAB,
 454         SECT_STRTAB,
 455         SECT_NUM
 456 };
 457
 458 enum {
 459         DYN_HASH = 4,
 460         DYN_STRTAB = 5,
 461         DYN_SYMTAB = 6,
 462         DYN_STRSZ = 10,
 463         DYN_SYMENT = 11,
 464         DYN_REL = 17,
 465         DYN_RELSZ = 18,
 466         DYN_RELENT = 19,
 467         DYN_RELCOUNT = 0x6ffffffa
 468 };
 469
 470 static const char* section_names [] = {
 471         "",
 472         ".hash",
 473         ".dynsym",
 474         ".dynstr",
 475         ".rel.dyn",
 476         ".text",
 477         ".dynamic",
 478         ".got.plt",
 479         ".data",
 480         ".bss",
 481         ".shstrtab",
 482         ".symtab",
 483         ".strtab"
 484 };
 485
 486 static const guint8 section_type [] = {
 487         0, 5, 11, 3, 9, 1,
 488         6, 1, 1, 8, 3, 2, 3
 489 };
 490
 491 static const guint8 section_link [] = {
 492         0, 2, 3, 0, 2, 0, 3, 0, 0, 0, 0, 12, 0
 493 };
 494
 495 static const guint8 section_esize [] = {
 496         0, 4, 16, 0, 8, 0, 8, 4, 0, 0, 0, 16, 0
 497 };
 498
 499 static const guint8 section_flags [] = {
 500         0, 2, 2, 2, 2, 6, 3, 3, 3, 3, 0, 0, 0
 501 };
 502
 503 static const guint16 section_align [] = {
 504         0, 4, 4, 1, 4, 4096, 4, 4, 8, 8, 1, 4, 1
 505 };
 506
 507 struct ElfHeader {
 508         guint8  e_ident [16];
 509         guint16 e_type;
 510         guint16 e_machine;
 511         guint32 e_version;
 512         gsize   e_entry;
 513         gsize   e_phoff;
 514         gsize   e_shoff;
 515         guint32 e_flags;
 516         guint16 e_ehsize;
 517         guint16 e_phentsize;
 518         guint16 e_phnum;
 519         guint16 e_shentsize;
 520         guint16 e_shnum;
 521         guint16 e_shstrndx;
 522 };
 523
 524 struct ElfSectHeader {
 525         guint32 sh_name;
 526         guint32 sh_type;
 527         gsize   sh_flags;
 528         gsize   sh_addr;
 529         gsize   sh_offset;
 530         gsize   sh_size;
 531         guint32 sh_link;
 532         guint32 sh_info;
 533         gsize   sh_addralign;
 534         gsize   sh_entsize;
 535 };
 536
 537 #if SIZEOF_VOID_P == 4
 538
 539 struct ElfProgHeader {
 540         guint32 p_type;
 541         guint32 p_offset;
 542         guint32 p_vaddr;
 543         guint32 p_paddr;
 544         guint32 p_filesz;
 545         guint32 p_memsz;
 546         guint32 p_flags;
 547         guint32 p_align;
 548 };
 549
 550 typedef struct {
 551         guint32 st_name;
 552         guint32 st_value;
 553         guint32 st_size;
 554         guint8  st_info;
 555         guint8  st_other;
 556         guint16 st_shndx;
 557 } ElfSymbol;
 558
 559 typedef struct {
 560         guint32 addr;
 561         guint32 value;
 562 } ElfReloc;
 563
 564 typedef struct {
 565         guint32 d_tag;
 566         guint32 d_val;
 567 } ElfDynamic;
 568
 569 #else
 570
 571 struct ElfProgHeader {
 572         guint32 p_type;
 573         guint32 p_flags;
 574         guint64 p_offset;
 575         guint64 p_vaddr;
 576         guint64 p_paddr;
 577         guint64 p_filesz;
 578         guint64 p_memsz;
 579         guint64 p_align;
 580 };
 581
 582 typedef struct {
 583         guint32 st_name;
 584         guint8  st_info;
 585         guint8  st_other;
 586         guint16 st_shndx;
 587         guint64 st_value;
 588         guint64 st_size;
 589 } ElfSymbol;
 590
 591 typedef struct {
 592         guint64 addr;
 593         guint64 value;
 594 } ElfReloc;
 595
 596 typedef struct {
 597         guint64 addr;
 598         guint64 value;
 599         guint64 addend;
 600 } ElfRelocA;
 601
 602 typedef struct {
 603         guint64 d_tag;
 604         guint64 d_val;
 605 } ElfDynamic;
 606
 607 #endif
 608
 609 typedef struct {
 610         GString *data;
 611         GHashTable *hash;
 612 } ElfStrTable;
 613
 614 static int
 615 str_table_add (ElfStrTable *table, const char* value)
 616 {
 617         int idx;
 618         if (!table->data) {
 619                 table->data = g_string_new_len ("", 1);
 620                 table->hash = g_hash_table_new (g_str_hash, g_str_equal);
 621         }
 622         idx = GPOINTER_TO_UINT (g_hash_table_lookup (table->hash, value));
 623         if (idx)
 624                 return idx;
 625         idx = table->data->len;
 626         g_string_append (table->data, value);
 627         g_string_append_c (table->data, 0);
 628         g_hash_table_insert (table->hash, (void*)value, GUINT_TO_POINTER (idx));
 629         return idx;
 630 }
 631
 632 static void
 633 append_subsection (MonoAotCompile *acfg, struct ElfSectHeader *sheaders, BinSection *sect, BinSection *add)
 634 {
 635         int offset = sect->cur_offset;
 636         /*offset += (sheaders [sect->shidx].sh_addralign - 1);
 637         offset &= ~(sheaders [sect->shidx].sh_addralign - 1);*/
 638         offset += (8 - 1);
 639         offset &= ~(8 - 1);
 640         emit_ensure_buffer (sect, offset);
 641         g_print ("section %s aligned to %d from %d\n", sect->name, offset, sect->cur_offset);
 642         sect->cur_offset = offset;
 643
 644         emit_ensure_buffer (sect, add->cur_offset);
 645         memcpy (sect->data + sect->cur_offset, add->data, add->cur_offset);
 646         add->parent = sect;
 647         sect->cur_offset += add->cur_offset;
 648         add->cur_offset = offset; /* it becomes the offset in the parent section */
 649         g_print ("subsection %d of %s added at offset %d (align: %d)\n", add->subsection, sect->name, add->cur_offset, sheaders [sect->shidx].sh_addralign);
 650         add->data = NULL;
 651         add->data_len = 0;
 652 }
 653
 654 /* merge the subsections */
 655 static int
 656 collect_sections (MonoAotCompile *acfg, struct ElfSectHeader *sheaders, BinSection **out, int num)
 657 {
 658         int i, j, maxs, num_sections;
 659         BinSection *sect;
 660
 661         num_sections = 0;
 662         maxs = 0;
 663         for (sect = acfg->sections; sect; sect = sect->next) {
 664                 if (sect->subsection == 0) {
 665                         out [num_sections++] = sect;
 666                         g_assert (num_sections < num);
 667                         if (strcmp (sect->name, ".text") == 0) {
 668                                 sect->shidx = SECT_TEXT;
 669                         } else if (strcmp (sect->name, ".data") == 0) {
 670                                 sect->shidx = SECT_DATA;
 671                         } else if (strcmp (sect->name, ".bss") == 0) {
 672                                 sect->shidx = SECT_BSS;
 673                         }
 674                 }
 675                 maxs = MAX (maxs, sect->subsection);
 676         }
 677         for (i = 0; i < num_sections; i++) {
 678                 for (j = 1; j <= maxs; ++j) {
 679                         for (sect = acfg->sections; sect; sect = sect->next) {
 680                                 if (sect->subsection == j && strcmp (out [i]->name, sect->name) == 0) {
 681                                         append_subsection (acfg, sheaders, out [i], sect);
 682                                 }
 683                         }
 684                 }
 685         }
 686         return num_sections;
 687 }
 688
 689 static unsigned long
 690 elf_hash (const unsigned char *name)
 691 {
 692         unsigned long h = 0, g;
 693         while (*name) {
 694                 h = (h << 4) + *name++;
 695                 if ((g = h & 0xf0000000))
 696                         h ^= g >> 24;
 697                 h &= ~g;
 698         }
 699         return h;
 700 }
 701
 702 #define NUM_BUCKETS 17
 703
 704 static int*
 705 build_hash (MonoAotCompile *acfg, int num_sections, ElfStrTable *dynstr)
 706 {
 707         int *data;
 708         int num_symbols = 1 + num_sections + 3;
 709         BinSymbol *symbol;
 710
 711         for (symbol = acfg->symbols; symbol; symbol = symbol->next) {
 712                 if (!symbol->is_global)
 713                         continue;
 714                 num_symbols++;
 715                 str_table_add (dynstr, symbol->name);
 716                 /*g_print ("adding sym: %s\n", symbol->name);*/
 717         }
 718         str_table_add (dynstr, "__bss_start");
 719         str_table_add (dynstr, "_edata");
 720         str_table_add (dynstr, "_end");
 721
 722         data = g_new0 (int, num_symbols + 2 + NUM_BUCKETS);
 723         data [0] = NUM_BUCKETS;
 724         data [1] = num_symbols;
 725
 726         return data;
 727 }
 728
 729 static gsize
 730 get_label_addr (MonoAotCompile *acfg, const char *name)
 731 {
 732         int offset;
 733         BinLabel *lab;
 734         BinSection *section;
 735         gsize value;
 736
 737         lab = g_hash_table_lookup (acfg->labels, name);
 738         section = lab->section;
 739         offset = lab->offset;
 740         if (section->parent) {
 741                 value = section->parent->file_offset + section->cur_offset + offset;
 742         } else {
 743                 value = section->file_offset + offset;
 744         }
 745         return value;
 746 }
 747
 748 static ElfSymbol*
 749 collect_syms (MonoAotCompile *acfg, int *hash, ElfStrTable *strtab, struct ElfSectHeader *sheaders, int *num_syms)
 750 {
 751         ElfSymbol *symbols;
 752         BinSymbol *symbol;
 753         BinSection *section;
 754         int i;
 755         int *bucket;
 756         int *chain;
 757         unsigned long hashc;
 758
 759         if (hash)
 760                 symbols = g_new0 (ElfSymbol, hash [1]);
 761         else
 762                 symbols = g_new0 (ElfSymbol, *num_syms + SECT_NUM + 10); /* FIXME */
 763
 764         /* the first symbol is undef, all zeroes */
 765         i = 1;
 766         if (sheaders) {
 767                 int j;
 768                 for (j = 1; j < SECT_NUM; ++j) {
 769                         symbols [i].st_info = SYM_LOCAL | SYM_SECTION;
 770                         symbols [i].st_shndx = j;
 771                         symbols [i].st_value = sheaders [j].sh_addr;
 772                         ++i;
 773                 }
 774         } else {
 775                 for (section = acfg->sections; section; section = section->next) {
 776                         if (section->parent)
 777                                 continue;
 778                         symbols [i].st_info = SYM_LOCAL | SYM_SECTION;
 779                         if (strcmp (section->name, ".text") == 0) {
 780                                 symbols [i].st_shndx = SECT_TEXT;
 781                                 section->shidx = SECT_TEXT;
 782                                 section->file_offset = 4096;
 783                                 symbols [i].st_value = section->file_offset;
 784                         } else if (strcmp (section->name, ".data") == 0) {
 785                                 symbols [i].st_shndx = SECT_DATA;
 786                                 section->shidx = SECT_DATA;
 787                                 section->file_offset = 4096 + 28; /* FIXME */
 788                                 symbols [i].st_value = section->file_offset;
 789                         } else if (strcmp (section->name, ".bss") == 0) {
 790                                 symbols [i].st_shndx = SECT_BSS;
 791                                 section->shidx = SECT_BSS;
 792                                 section->file_offset = 4096 + 28 + 8; /* FIXME */
 793                                 symbols [i].st_value = section->file_offset;
 794                         }
 795                         ++i;
 796                 }
 797         }
 798         for (symbol = acfg->symbols; symbol; symbol = symbol->next) {
 799                 int offset;
 800                 BinLabel *lab;
 801                 if (!symbol->is_global)
 802                         continue;
 803                 symbols [i].st_info = (symbol->is_function? SYM_FUNC : SYM_OBJECT) | SYM_GLOBAL;
 804                 symbols [i].st_name = str_table_add (strtab, symbol->name);
 805                 /*g_print ("sym name %s tabled to %d\n", symbol->name, symbols [i].st_name);*/
 806                 section = symbol->section;
 807                 symbols [i].st_shndx = section->parent? section->parent->shidx: section->shidx;
 808                 lab = g_hash_table_lookup (acfg->labels, symbol->name);
 809                 offset = lab->offset;
 810                 if (section->parent) {
 811                         symbols [i].st_value = section->parent->file_offset + section->cur_offset + offset;
 812                 } else {
 813                         symbols [i].st_value = section->file_offset + offset;
 814                 }
 815                 ++i;
 816         }
 817         /* add special symbols */
 818         symbols [i].st_name = str_table_add (strtab, "__bss_start");
 819         symbols [i].st_shndx = 0xfff1;
 820         symbols [i].st_info = SYM_GLOBAL;
 821         ++i;
 822         symbols [i].st_name = str_table_add (strtab, "_edata");
 823         symbols [i].st_shndx = 0xfff1;
 824         symbols [i].st_info = SYM_GLOBAL;
 825         ++i;
 826         symbols [i].st_name = str_table_add (strtab, "_end");
 827         symbols [i].st_shndx = 0xfff1;
 828         symbols [i].st_info = SYM_GLOBAL;
 829         ++i;
 830
 831         if (num_syms)
 832                 *num_syms = i;
 833
 834         /* add to hash table */
 835         if (hash) {
 836                 bucket = hash + 2;
 837                 chain = hash + 2 + hash [0];
 838                 for (i = 0; i < hash [1]; ++i) {
 839                         int slot;
 840                         /*g_print ("checking %d '%s' (sym %d)\n", symbols [i].st_name, strtab->data->str + symbols [i].st_name, i);*/
 841                         if (!symbols [i].st_name)
 842                                 continue;
 843                         hashc = elf_hash ((guint8*)strtab->data->str + symbols [i].st_name);
 844                         slot = hashc % hash [0];
 845                         /*g_print ("hashing '%s' at slot %d (sym %d)\n", strtab->data->str + symbols [i].st_name, slot, i);*/
 846                         if (bucket [slot]) {
 847                                 chain [i] = bucket [slot];
 848                                 bucket [slot] = i;
 849                         } else {
 850                                 bucket [slot] = i;
 851                         }
 852                 }
 853         }
 854         return symbols;
 855 }
 856
 857 static void
 858 reloc_symbols (MonoAotCompile *acfg, ElfSymbol *symbols, struct ElfSectHeader *sheaders, ElfStrTable *strtab, gboolean dynamic)
 859 {
 860         BinSection *section;
 861         BinSymbol *symbol;
 862         int i;
 863
 864         i = 1;
 865         if (dynamic) {
 866                 for (section = acfg->sections; section; section = section->next) {
 867                         if (section->parent)
 868                                 continue;
 869                         symbols [i].st_value = sheaders [section->shidx].sh_addr;
 870                         ++i;
 871                 }
 872         } else {
 873                 for (i = 1; i < SECT_NUM; ++i) {
 874                         symbols [i].st_value = sheaders [i].sh_addr;
 875                 }
 876         }
 877         for (symbol = acfg->symbols; symbol; symbol = symbol->next) {
 878                 int offset;
 879                 BinLabel *lab;
 880                 if (dynamic && !symbol->is_global)
 881                         continue;
 882                 section = symbol->section;
 883                 lab = g_hash_table_lookup (acfg->labels, symbol->name);
 884                 offset = lab->offset;
 885                 if (section->parent) {
 886                         symbols [i].st_value = sheaders [section->parent->shidx].sh_addr + section->cur_offset + offset;
 887                 } else {
 888                         symbols [i].st_value = sheaders [section->shidx].sh_addr + offset;
 889                 }
 890                 ++i;
 891         }
 892         /* __bss_start */
 893         symbols [i].st_value = sheaders [SECT_BSS].sh_addr;
 894         ++i;
 895         /* _edata */
 896         symbols [i].st_value = sheaders [SECT_DATA].sh_addr + sheaders [SECT_DATA].sh_size;
 897         ++i;
 898         /* _end */
 899         symbols [i].st_value = sheaders [SECT_BSS].sh_addr + sheaders [SECT_BSS].sh_size;
 900         ++i;
 901 }
 902
 903 static ElfReloc*
 904 resolve_relocations (MonoAotCompile *acfg)
 905 {
 906         BinReloc *reloc;
 907         guint8 *data;
 908         gsize end_val, start_val;
 909         ElfReloc *rr;
 910         int i;
 911         gsize vaddr;
 912
 913         rr = g_new0 (ElfReloc, acfg->num_relocs);
 914         i = 0;
 915
 916         for (reloc = acfg->relocations; reloc; reloc = reloc->next) {
 917                 end_val = get_label_addr (acfg, reloc->val1);
 918                 if (reloc->val2) {
 919                         start_val = get_label_addr (acfg, reloc->val2);
 920                 } else if (reloc->val2_section) {
 921                         start_val = reloc->val2_offset;
 922                         if (reloc->val2_section->parent)
 923                                 start_val += reloc->val2_section->parent->file_offset + reloc->val2_section->cur_offset;
 924                         else
 925                                 start_val += reloc->val2_section->file_offset;
 926                 } else {
 927                         start_val = 0;
 928                 }
 929                 end_val = end_val - start_val + reloc->offset;
 930                 if (reloc->section->parent) {
 931                         data = reloc->section->parent->data;
 932                         data += reloc->section->cur_offset;
 933                         data += reloc->section_offset;
 934                         vaddr = reloc->section->parent->file_offset;
 935                         vaddr += reloc->section->cur_offset;
 936                         vaddr += reloc->section_offset;
 937                 } else {
 938                         data = reloc->section->data;
 939                         data += reloc->section_offset;
 940                         vaddr = reloc->section->file_offset;
 941                         vaddr += reloc->section_offset;
 942                 }
 943                 /* FIXME: little endian */
 944                 data [0] = end_val;
 945                 data [1] = end_val >> 8;
 946                 data [2] = end_val >> 16;
 947                 data [3] = end_val >> 24;
 948                 if (start_val == 0) {
 949                         rr [i].addr = vaddr;
 950                         rr [i].value = 8; /* FIXME: 386_RELATIVE */
 951                         ++i;
 952                         g_assert (i <= acfg->num_relocs);
 953                 }
 954         }
 955         return rr;
 956 }
 957
 958 static void
 959 emit_writeout (MonoAotCompile *acfg)
 960 {
 961         char *outfile_name, *tmp_outfile_name;
 962         FILE *file;
 963         struct ElfHeader header;
 964         struct ElfProgHeader progh [3];
 965         struct ElfSectHeader secth [SECT_NUM];
 966         ElfReloc *relocs;
 967         ElfStrTable str_table = {NULL, NULL};
 968         ElfStrTable sh_str_table = {NULL, NULL};
 969         ElfStrTable dyn_str_table = {NULL, NULL};
 970         BinSection* sections [6];
 971         BinSection *text_section = NULL, *data_section = NULL, *bss_section = NULL;
 972         ElfSymbol *dynsym;
 973         ElfSymbol *symtab;
 974         ElfDynamic dynamic [14];
 975         int *hash;
 976         int i, num_sections, file_offset, virt_offset, size, num_symtab;
 977         int num_local_syms;
 978
 979         if (acfg->aot_opts.outfile)
 980                 outfile_name = g_strdup_printf ("%s", acfg->aot_opts.outfile);
 981         else
 982                 outfile_name = g_strdup_printf ("%s%s", acfg->image->name, SHARED_EXT);
 983
 984         tmp_outfile_name = g_strdup_printf ("%s.tmp", outfile_name);
 985
 986         unlink (tmp_outfile_name);
 987         file = fopen (tmp_outfile_name, "w");
 988         g_assert (file);
 989
 990         /* Section headers */
 991         memset (&secth, 0, sizeof (secth));
 992         memset (&dynamic, 0, sizeof (dynamic));
 993         memset (&header, 0, sizeof (header));
 994
 995         for (i = 1; i < SECT_NUM; ++i) {
 996                 secth [i].sh_name = str_table_add (&sh_str_table, section_names [i]);
 997                 secth [i].sh_type = section_type [i];
 998                 secth [i].sh_link = section_link [i];
 999                 secth [i].sh_addralign = section_align [i];
1000                 secth [i].sh_flags = section_flags [i];
1001                 secth [i].sh_entsize = section_esize [i];
1002         }
1003         secth [SECT_DYNSYM].sh_info = 4;
1004         secth [SECT_SYMTAB].sh_info = 20;
1005
1006         num_sections = collect_sections (acfg, secth, sections, 6);
1007         hash = build_hash (acfg, num_sections, &dyn_str_table);
1008         num_symtab = hash [1]; /* FIXME */
1009         g_print ("num_sections: %d\n", num_sections);
1010         g_print ("dynsym: %d, dynstr size: %d\n", hash [1], dyn_str_table.data->len);
1011         for (i = 0; i < num_sections; ++i) {
1012                 g_print ("section %s, size: %d, %x\n", sections [i]->name, sections [i]->cur_offset, sections [i]->cur_offset);
1013         }
1014
1015         /* at this point we know where in the file the first segment sections go */
1016         dynsym = collect_syms (acfg, hash, &dyn_str_table, NULL, NULL);
1017         num_local_syms = hash [1];
1018         symtab = collect_syms (acfg, NULL, &str_table, secth, &num_local_syms);
1019
1020         for (i = 0; i < num_sections; ++i) {
1021                 if (sections [i]->shidx == SECT_TEXT) {
1022                         text_section = sections [i];
1023                 } else if (sections [i]->shidx == SECT_DATA) {
1024                         data_section = sections [i];
1025                 } else if (sections [i]->shidx == SECT_BSS) {
1026                         bss_section = sections [i];
1027                 }
1028         }
1029
1030         file_offset = virt_offset = sizeof (header) + sizeof (progh);
1031         secth [SECT_HASH].sh_addr = secth [SECT_HASH].sh_offset = file_offset;
1032         size = sizeof (int) * (2 + hash [0] + hash [1]);
1033         virt_offset = (file_offset += size);
1034         secth [SECT_HASH].sh_size = size;
1035         secth [SECT_DYNSYM].sh_addr = secth [SECT_DYNSYM].sh_offset = file_offset;
1036         size = sizeof (ElfSymbol) * hash [1];
1037         virt_offset = (file_offset += size);
1038         secth [SECT_DYNSYM].sh_size = size;
1039         secth [SECT_DYNSTR].sh_addr = secth [SECT_DYNSTR].sh_offset = file_offset;
1040         size = dyn_str_table.data->len;
1041         virt_offset = (file_offset += size);
1042         secth [SECT_DYNSTR].sh_size = size;
1043         file_offset += 4-1;
1044         file_offset &= ~(4-1);
1045         secth [SECT_REL_DYN].sh_addr = secth [SECT_REL_DYN].sh_offset = file_offset;
1046         size = sizeof (ElfReloc) * acfg->num_relocs;
1047         secth [SECT_REL_DYN].sh_size = size;
1048         virt_offset = (file_offset += size);
1049         secth [SECT_REL_DYN].sh_size = size;
1050         file_offset += 4096-1;
1051         file_offset &= ~(4096-1);
1052         virt_offset = file_offset;
1053         secth [SECT_TEXT].sh_addr = secth [SECT_TEXT].sh_offset = file_offset;
1054         size = text_section->cur_offset;
1055         secth [SECT_TEXT].sh_size = size;
1056         file_offset += size;
1057         file_offset += 4-1;
1058         file_offset &= ~(4-1);
1059         virt_offset = file_offset;
1060         /* .dynamic, .got.plt, .data, .bss here */
1061         secth [SECT_DYNAMIC].sh_addr = virt_offset;
1062         secth [SECT_DYNAMIC].sh_offset = file_offset;
1063         size = sizeof (dynamic);
1064         secth [SECT_DYNAMIC].sh_size = size;
1065         size += 4-1;
1066         size &= ~(4-1);
1067         file_offset += size;
1068         virt_offset += size;
1069         secth [SECT_GOT_PLT].sh_addr = virt_offset;
1070         secth [SECT_GOT_PLT].sh_offset = file_offset;
1071         size = 12;
1072         secth [SECT_GOT_PLT].sh_size = size;
1073         size += 8-1;
1074         size &= ~(8-1);
1075         file_offset += size;
1076         virt_offset += size;
1077         secth [SECT_DATA].sh_addr = virt_offset;
1078         secth [SECT_DATA].sh_offset = file_offset;
1079         size = data_section->cur_offset;
1080         secth [SECT_DATA].sh_size = size;
1081         size += 8-1;
1082         size &= ~(8-1);
1083         file_offset += size;
1084         virt_offset += size;
1085         secth [SECT_BSS].sh_addr = virt_offset;
1086         secth [SECT_BSS].sh_offset = file_offset;
1087         size = bss_section->cur_offset;
1088         secth [SECT_BSS].sh_size = size;
1089
1090         /* virtual doesn't matter anymore */
1091         secth [SECT_SHSTRTAB].sh_offset = file_offset;
1092         size = sh_str_table.data->len;
1093         secth [SECT_SHSTRTAB].sh_size = size;
1094         size += 4-1;
1095         size &= ~(4-1);
1096         file_offset += size;
1097         secth [SECT_SYMTAB].sh_offset = file_offset;
1098         size = sizeof (ElfSymbol) * num_local_syms;
1099         secth [SECT_SYMTAB].sh_size = size;
1100         file_offset += size;
1101         secth [SECT_STRTAB].sh_offset = file_offset;
1102         size = str_table.data->len;
1103         secth [SECT_STRTAB].sh_size = size;
1104         file_offset += size;
1105         file_offset += 4-1;
1106         file_offset &= ~(4-1);
1107
1108         text_section->file_offset = secth [SECT_TEXT].sh_offset;
1109         data_section->file_offset = secth [SECT_DATA].sh_offset;
1110         bss_section->file_offset = secth [SECT_BSS].sh_offset;
1111
1112         header.e_ident [0] = 0x7f; header.e_ident [1] = 'E';
1113         header.e_ident [2] = 'L'; header.e_ident [3] = 'F';
1114         header.e_ident [4] = SIZEOF_VOID_P == 4? 1: 2;
1115         header.e_ident [5] = 1; /* FIXME: little endian, bigendian is 2 */
1116         header.e_ident [6] = 1; /* version */
1117         header.e_ident [7] = 0; /* FIXME: */
1118         header.e_ident [8] = 0; /* FIXME: */
1119         for (i = 9; i < 16; ++i)
1120                 header.e_ident [i] = 0;
1121
1122         header.e_type = 3; /* shared library */
1123         header.e_machine = 3; /* FIXME: 386 */
1124         header.e_version = 1; /* FIXME:  */
1125
1126         header.e_phoff = sizeof (header);
1127         header.e_ehsize = sizeof (header);
1128         header.e_phentsize = sizeof (struct ElfProgHeader);
1129         header.e_phnum = 3;
1130         header.e_entry = secth [SECT_TEXT].sh_addr;
1131         header.e_shstrndx = 10;
1132         header.e_shentsize = sizeof (struct ElfSectHeader);
1133         header.e_shnum = SECT_NUM;
1134         header.e_shoff = file_offset;
1135
1136         /* dynamic data */
1137         i = 0;
1138         dynamic [i].d_tag = DYN_HASH;
1139         dynamic [i].d_val = secth [SECT_HASH].sh_offset;
1140         ++i;
1141         dynamic [i].d_tag = DYN_STRTAB;
1142         dynamic [i].d_val = secth [SECT_DYNSTR].sh_offset;
1143         ++i;
1144         dynamic [i].d_tag = DYN_SYMTAB;
1145         dynamic [i].d_val = secth [SECT_DYNSYM].sh_offset;
1146         ++i;
1147         dynamic [i].d_tag = DYN_STRSZ;
1148         dynamic [i].d_val = dyn_str_table.data->len;
1149         ++i;
1150         dynamic [i].d_tag = DYN_SYMENT;
1151         dynamic [i].d_val = sizeof (ElfSymbol);
1152         ++i;
1153         dynamic [i].d_tag = DYN_REL;
1154         dynamic [i].d_val = secth [SECT_REL_DYN].sh_offset;
1155         ++i;
1156         dynamic [i].d_tag = DYN_RELSZ;
1157         dynamic [i].d_val = secth [SECT_REL_DYN].sh_size;
1158         ++i;
1159         dynamic [i].d_tag = DYN_RELENT;
1160         dynamic [i].d_val = sizeof (ElfReloc);
1161         ++i;
1162         dynamic [i].d_tag = DYN_RELCOUNT;
1163         dynamic [i].d_val = acfg->num_relocs;
1164         ++i;
1165
1166         /* Program header */
1167         memset (&progh, 0, sizeof (progh));
1168         progh [0].p_type = 1; /* LOAD */
1169         progh [0].p_filesz = progh [0].p_memsz = secth [SECT_DYNAMIC].sh_offset;
1170         progh [0].p_align = 4096;
1171         progh [0].p_flags = 5;
1172
1173         progh [1].p_type = 1;
1174         progh [1].p_offset = secth [SECT_DYNAMIC].sh_offset;
1175         progh [1].p_vaddr = progh [1].p_paddr = secth [SECT_DYNAMIC].sh_addr;
1176         progh [1].p_filesz = secth [SECT_BSS].sh_offset  - secth [SECT_DYNAMIC].sh_offset;
1177         progh [1].p_memsz = secth [SECT_BSS].sh_addr + secth [SECT_BSS].sh_size - secth [SECT_DYNAMIC].sh_addr;
1178         progh [1].p_align = 4096;
1179         progh [1].p_flags = 6;
1180
1181         progh [2].p_type = 2; /* DYNAMIC */
1182         progh [2].p_offset = secth [SECT_DYNAMIC].sh_offset;
1183         progh [2].p_vaddr = progh [2].p_paddr = secth [SECT_DYNAMIC].sh_addr;
1184         progh [2].p_filesz = progh [2].p_memsz = secth [SECT_DYNAMIC].sh_size;
1185         progh [2].p_align = 4;
1186         progh [2].p_flags = 6;
1187
1188         reloc_symbols (acfg, dynsym, secth, &dyn_str_table, TRUE);
1189         reloc_symbols (acfg, symtab, secth, &str_table, FALSE);
1190         relocs = resolve_relocations (acfg);
1191
1192         fwrite (&header, sizeof (header), 1, file);
1193         fwrite (&progh, sizeof (progh), 1, file);
1194         fwrite (hash, sizeof (int) * (hash [0] + hash [1] + 2), 1, file);
1195         fwrite (dynsym, sizeof (ElfSymbol) * hash [1], 1, file);
1196         fwrite (dyn_str_table.data->str, dyn_str_table.data->len, 1, file);
1197         /* .rel.dyn */
1198         fseek (file, secth [SECT_REL_DYN].sh_offset, SEEK_SET);
1199         fwrite (relocs, sizeof (ElfReloc), acfg->num_relocs, file);
1200
1201         fseek (file, secth [SECT_TEXT].sh_offset, SEEK_SET);
1202         /* write .text, .data, .bss sections */
1203         fwrite (text_section->data, text_section->cur_offset, 1, file);
1204
1205         /* .dynamic */
1206         fwrite (dynamic, sizeof (dynamic), 1, file);
1207         /* .got.plt */
1208         size = secth [SECT_DYNAMIC].sh_addr;
1209         fwrite (&size, sizeof (size), 1, file);
1210         fseek (file, secth [SECT_DATA].sh_offset, SEEK_SET);
1211         fwrite (data_section->data, data_section->cur_offset, 1, file);
1212
1213         fseek (file, secth [SECT_SHSTRTAB].sh_offset, SEEK_SET);
1214         fwrite (sh_str_table.data->str, sh_str_table.data->len, 1, file);
1215         fseek (file, secth [SECT_SYMTAB].sh_offset, SEEK_SET);
1216         fwrite (symtab, sizeof (ElfSymbol) * num_local_syms, 1, file);
1217         fseek (file, secth [SECT_STRTAB].sh_offset, SEEK_SET);
1218         fwrite (str_table.data->str, str_table.data->len, 1, file);
1219         /*g_print ("file_offset %d vs %d\n", file_offset, ftell (file));*/
1220         /*g_assert (file_offset >= ftell (file));*/
1221         fseek (file, file_offset, SEEK_SET);
1222         fwrite (&secth, sizeof (secth), 1, file);
1223         fclose (file);
1224         rename (tmp_outfile_name, outfile_name);
1225
1226         g_free (tmp_outfile_name);
1227         g_free (outfile_name);
1228 }
1229
1230 #endif /* USE_ELF_WRITER */
1231
1232 #else
1233
1234 static void
1235 emit_start (MonoAotCompile *acfg)
1236 {
1237         int i = g_file_open_tmp ("mono_aot_XXXXXX", &acfg->tmpfname, NULL);
1238         acfg->fp = fdopen (i, "w+");
1239         g_assert (acfg->fp);
1240 }
1241
1242 static void
1243 emit_unset_mode (MonoAotCompile *acfg)
1244 {
1245         if (acfg->mode == EMIT_NONE)
1246                 return;
1247         fprintf (acfg->fp, "\n");
1248         acfg->mode = EMIT_NONE;
1249 }
1250
1251 static void
1252 emit_section_change (MonoAotCompile *acfg, const char *section_name, int subsection_index)
1253 {
1254         emit_unset_mode (acfg);
1255 #if defined(PLATFORM_WIN32)
1256         fprintf (acfg->fp, ".section %s\n", section_name);
1257 #elif defined(sparc) || defined(__arm__)
1258         /* For solaris as, GNU as should accept the same */
1259         fprintf (acfg->fp, ".section \"%s\"\n", section_name);
1260 #elif defined(__ppc__) && defined(__MACH__)
1261         /* This needs to be made more precise on mach. */
1262         fprintf (acfg->fp, "%s\n", subsection_index == 0 ? ".text" : ".data");
1263 #else
1264         fprintf (acfg->fp, "%s %d\n", section_name, subsection_index);
1265 #endif
1266 }
1267
1268 static void
1269 emit_symbol_type (MonoAotCompile *acfg, const char *name, gboolean func)
1270 {
1271         const char *stype;
1272
1273         if (func)
1274                 stype = "function";
1275         else
1276                 stype = "object";
1277
1278         emit_unset_mode (acfg);
1279 #if defined(sparc) || defined(__arm__)
1280         fprintf (acfg->fp, "\t.type %s,#%s\n", name, stype);
1281 #elif defined(PLATFORM_WIN32)
1282
1283 #elif !(defined(__ppc__) && defined(__MACH__))
1284         fprintf (acfg->fp, "\t.type %s,@%s\n", name, stype);
1285 #elif defined(__x86_64__) || defined(__i386__)
1286         fprintf (acfg->fp, "\t.type %s,@%s\n", name, stype);
1287 #endif
1288 }
1289
1290 static void
1291 emit_global (MonoAotCompile *acfg, const char *name, gboolean func)
1292 {
1293         emit_unset_mode (acfg);
1294 #if  (defined(__ppc__) && defined(__MACH__)) || defined(PLATFORM_WIN32)
1295     // mach-o always uses a '_' prefix.
1296         fprintf (acfg->fp, "\t.globl _%s\n", name);
1297 #else
1298         fprintf (acfg->fp, "\t.globl %s\n", name);
1299 #endif
1300
1301         emit_symbol_type (acfg, name, func);
1302 }
1303
1304 static void
1305 emit_label (MonoAotCompile *acfg, const char *name)
1306 {
1307         emit_unset_mode (acfg);
1308 #if (defined(__ppc__) && defined(__MACH__)) || defined(PLATFORM_WIN32)
1309     // mach-o always uses a '_' prefix.
1310         fprintf (acfg->fp, "_%s:\n", name);
1311 #else
1312         fprintf (acfg->fp, "%s:\n", name);
1313 #endif
1314
1315 #if defined(PLATFORM_WIN32)
1316         /* Emit a normal label too */
1317         fprintf (acfg->fp, "%s:\n", name);
1318 #endif
1319 }
1320
1321 static void
1322 emit_string (MonoAotCompile *acfg, const char *value)
1323 {
1324         emit_unset_mode (acfg);
1325         fprintf (acfg->fp, "\t%s \"%s\"\n", AS_STRING_DIRECTIVE, value);
1326 }
1327
1328 static void
1329 emit_line (MonoAotCompile *acfg)
1330 {
1331         emit_unset_mode (acfg);
1332         fprintf (acfg->fp, "\n");
1333 }
1334
1335 static void
1336 emit_string_symbol (MonoAotCompile *acfg, const char *name, const char *value)
1337 {
1338         emit_unset_mode (acfg);
1339         emit_section_change (acfg, ".text", 1);
1340         emit_global (acfg, name, FALSE);
1341         emit_label (acfg, name);
1342         emit_string (acfg, value);
1343 }
1344
1345 static void
1346 emit_alignment (MonoAotCompile *acfg, int size)
1347 {
1348         emit_unset_mode (acfg);
1349 #if defined(__arm__)
1350         fprintf (acfg->fp, "\t.align %d\n", ilog2 (size));
1351 #elif defined(__ppc__) && defined(__MACH__)
1352         // the mach-o assembler specifies alignments as powers of 2.
1353         fprintf (acfg->fp, "\t.align %d\t; ilog2\n", ilog2(size));
1354 #elif defined(__powerpc__)
1355         /* ignore on linux/ppc */
1356 #else
1357         fprintf (acfg->fp, "\t.align %d\n", size);
1358 #endif
1359 }
1360
1361 static void
1362 emit_pointer (MonoAotCompile *acfg, const char *target)
1363 {
1364         emit_unset_mode (acfg);
1365         emit_alignment (acfg, sizeof (gpointer));
1366 #if defined(__x86_64__)
1367         fprintf (acfg->fp, "\t.quad %s\n", target);
1368 #elif defined(sparc) && SIZEOF_VOID_P == 8
1369         fprintf (acfg->fp, "\t.xword %s\n", target);
1370 #else
1371         fprintf (acfg->fp, "\t.long %s\n", target);
1372 #endif
1373 }
1374
1375 static void
1376 emit_bytes (MonoAotCompile *acfg, const guint8* buf, int size)
1377 {
1378         int i;
1379         if (acfg->mode != EMIT_BYTE) {
1380                 acfg->mode = EMIT_BYTE;
1381                 acfg->col_count = 0;
1382         }
1383         for (i = 0; i < size; ++i, ++acfg->col_count) {
1384                 if ((acfg->col_count % 32) == 0)
1385                         fprintf (acfg->fp, "\n\t.byte ");
1386                 else
1387                         fprintf (acfg->fp, ", ");
1388                 fprintf (acfg->fp, "0x%x", buf [i]);
1389         }
1390 }
1391
1392 static inline void
1393 emit_int16 (MonoAotCompile *acfg, int value)
1394 {
1395         if (acfg->mode != EMIT_WORD) {
1396                 acfg->mode = EMIT_WORD;
1397                 acfg->col_count = 0;
1398         }
1399         if ((acfg->col_count++ % 8) == 0)
1400 #if defined(__arm__)
1401                 /* FIXME: Use .hword on other archs as well */
1402                 fprintf (acfg->fp, "\n\t.hword ");
1403 #else
1404                 fprintf (acfg->fp, "\n\t.word ");
1405 #endif
1406         else
1407                 fprintf (acfg->fp, ", ");
1408         fprintf (acfg->fp, "%d", value);
1409 }
1410
1411 static inline void
1412 emit_int32 (MonoAotCompile *acfg, int value)
1413 {
1414         if (acfg->mode != EMIT_LONG) {
1415                 acfg->mode = EMIT_LONG;
1416                 acfg->col_count = 0;
1417         }
1418         if ((acfg->col_count++ % 8) == 0)
1419                 fprintf (acfg->fp, "\n\t.long ");
1420         else
1421                 fprintf (acfg->fp, ", ");
1422         fprintf (acfg->fp, "%d", value);
1423 }
1424
1425 static void
1426 emit_symbol_diff (MonoAotCompile *acfg, const char *end, const char* start, int offset)
1427 {
1428         if (acfg->mode != EMIT_LONG) {
1429                 acfg->mode = EMIT_LONG;
1430                 acfg->col_count = 0;
1431         }
1432         if ((acfg->col_count++ % 8) == 0)
1433                 fprintf (acfg->fp, "\n\t.long ");
1434         else
1435                 fprintf (acfg->fp, ", ");
1436         if (offset)
1437                 fprintf (acfg->fp, "%s - %s %c %d", end, start, offset < 0? ' ': '+', offset);
1438         else
1439                 fprintf (acfg->fp, "%s - %s", end, start);
1440 }
1441
1442 static void
1443 emit_zero_bytes (MonoAotCompile *acfg, int num)
1444 {
1445         emit_unset_mode (acfg);
1446         fprintf (acfg->fp, "\t.skip %d\n", num);
1447 }
1448
1449 static void
1450 emit_writeout (MonoAotCompile *acfg)
1451 {
1452         char *command, *objfile;
1453         char *outfile_name, *tmp_outfile_name;
1454
1455         fclose (acfg->fp);
1456
1457 #if defined(__x86_64__)
1458 #define AS_OPTIONS "--64"
1459 #elif defined(sparc) && SIZEOF_VOID_P == 8
1460 #define AS_OPTIONS "-xarch=v9"
1461 #else
1462 #define AS_OPTIONS ""
1463 #endif
1464         command = g_strdup_printf ("as %s %s -o %s.o", AS_OPTIONS, acfg->tmpfname, acfg->tmpfname);
1465         printf ("Executing the native assembler: %s\n", command);
1466         if (system (command) != 0) {
1467                 g_free (command);
1468                 return;
1469         }
1470
1471         g_free (command);
1472
1473         if (acfg->aot_opts.outfile)
1474                 outfile_name = g_strdup_printf ("%s", acfg->aot_opts.outfile);
1475         else
1476                 outfile_name = g_strdup_printf ("%s%s", acfg->image->name, SHARED_EXT);
1477
1478         tmp_outfile_name = g_strdup_printf ("%s.tmp", outfile_name);
1479
1480 #if defined(sparc)
1481         command = g_strdup_printf ("ld -shared -G -o %s %s.o", outfile_name, acfg->tmpfname);
1482 #elif defined(__ppc__) && defined(__MACH__)
1483         command = g_strdup_printf ("gcc -dynamiclib -o %s %s.o", outfile_name, acfg->tmpfname);
1484 #elif defined(PLATFORM_WIN32)
1485         command = g_strdup_printf ("gcc -shared --dll -mno-cygwin -o %s %s.o", outfile_name, acfg->tmpfname);
1486 #else
1487         command = g_strdup_printf ("ld -shared -o %s %s.o", outfile_name, acfg->tmpfname);
1488 #endif
1489         printf ("Executing the native linker: %s\n", command);
1490         if (system (command) != 0) {
1491                 g_free (tmp_outfile_name);
1492                 g_free (outfile_name);
1493                 g_free (command);
1494                 return;
1495         }
1496
1497         g_free (command);
1498         objfile = g_strdup_printf ("%s.o", acfg->tmpfname);
1499         unlink (objfile);
1500         g_free (objfile);
1501         /*com = g_strdup_printf ("strip --strip-unneeded %s%s", acfg->image->name, SHARED_EXT);
1502         printf ("Stripping the binary: %s\n", com);
1503         system (com);
1504         g_free (com);*/
1505
1506         rename (tmp_outfile_name, outfile_name);
1507
1508         g_free (tmp_outfile_name);
1509         g_free (outfile_name);
1510
1511         if (acfg->aot_opts.save_temps)
1512                 printf ("Retained input file.\n");
1513         else
1514                 unlink (acfg->tmpfname);
1515
1516 }
1517
1518 #endif /* ASM_WRITER */
1519
1520 static void
1521 emit_byte (MonoAotCompile *acfg, guint8 val)
1522 {
1523         emit_bytes (acfg, &val, 1);
1524 }
1525
1526 static guint32
1527 mono_get_field_token (MonoClassField *field)
1528 {
1529         MonoClass *klass = field->parent;
1530         int i;
1531
1532         for (i = 0; i < klass->field.count; ++i) {
1533                 if (field == &klass->fields [i])
1534                         return MONO_TOKEN_FIELD_DEF | (klass->field.first + 1 + i);
1535         }
1536
1537         g_assert_not_reached ();
1538         return 0;
1539 }
1540
1541 static inline void
1542 encode_value (gint32 value, guint8 *buf, guint8 **endbuf)
1543 {
1544         guint8 *p = buf;
1545
1546         //printf ("ENCODE: %d 0x%x.\n", value, value);
1547
1548         /*
1549          * Same encoding as the one used in the metadata, extended to handle values
1550          * greater than 0x1fffffff.
1551          */
1552         if ((value >= 0) && (value <= 127))
1553                 *p++ = value;
1554         else if ((value >= 0) && (value <= 16383)) {
1555                 p [0] = 0x80 | (value >> 8);
1556                 p [1] = value & 0xff;
1557                 p += 2;
1558         } else if ((value >= 0) && (value <= 0x1fffffff)) {
1559                 p [0] = (value >> 24) | 0xc0;
1560                 p [1] = (value >> 16) & 0xff;
1561                 p [2] = (value >> 8) & 0xff;
1562                 p [3] = value & 0xff;
1563                 p += 4;
1564         }
1565         else {
1566                 p [0] = 0xff;
1567                 p [1] = (value >> 24) & 0xff;
1568                 p [2] = (value >> 16) & 0xff;
1569                 p [3] = (value >> 8) & 0xff;
1570                 p [4] = value & 0xff;
1571                 p += 5;
1572         }
1573         if (endbuf)
1574                 *endbuf = p;
1575 }
1576
1577 static guint32
1578 get_image_index (MonoAotCompile *cfg, MonoImage *image)
1579 {
1580         guint32 index;
1581
1582         index = GPOINTER_TO_UINT (g_hash_table_lookup (cfg->image_hash, image));
1583         if (index)
1584                 return index - 1;
1585         else {
1586                 index = g_hash_table_size (cfg->image_hash);
1587                 g_hash_table_insert (cfg->image_hash, image, GUINT_TO_POINTER (index + 1));
1588                 g_ptr_array_add (cfg->image_table, image);
1589                 return index;
1590         }
1591 }
1592
1593 static guint32
1594 find_typespec_for_class (MonoAotCompile *acfg, MonoClass *klass)
1595 {
1596         int i;
1597         MonoClass *k = NULL;
1598
1599         /* FIXME: Search referenced images as well */
1600         for (i = 0; i < acfg->image->tables [MONO_TABLE_TYPESPEC].rows; ++i) {
1601                 k = mono_class_get_full (acfg->image, MONO_TOKEN_TYPE_SPEC | (i + 1), NULL);
1602                 if (k == klass)
1603                         break;
1604         }
1605
1606         if (i < acfg->image->tables [MONO_TABLE_TYPESPEC].rows)
1607                 return MONO_TOKEN_TYPE_SPEC | (i + 1);
1608         else
1609                 return 0;
1610 }
1611
1612 static void
1613 encode_klass_ref (MonoAotCompile *acfg, MonoClass *klass, guint8 *buf, guint8 **endbuf)
1614 {
1615         if (klass->generic_class) {
1616                 guint32 token;
1617                 g_assert (klass->type_token);
1618
1619                 /* Find a typespec for a class if possible */
1620                 token = find_typespec_for_class (acfg, klass);
1621                 if (token) {
1622                         encode_value (token, buf, &buf);
1623                         encode_value (get_image_index (acfg, acfg->image), buf, &buf);
1624                 } else {
1625                         MonoClass *gclass = klass->generic_class->container_class;
1626                         MonoGenericInst *inst = klass->generic_class->context.class_inst;
1627                         int i;
1628
1629                         /* Encode it ourselves */
1630                         /* Marker */
1631                         encode_value (MONO_TOKEN_TYPE_SPEC, buf, &buf);
1632                         encode_klass_ref (acfg, gclass, buf, &buf);
1633                         encode_value (inst->type_argc, buf, &buf);
1634                         for (i = 0; i < inst->type_argc; ++i)
1635                                 encode_klass_ref (acfg, mono_class_from_mono_type (inst->type_argv [i]), buf, &buf);
1636                 }
1637         } else if (klass->type_token) {
1638                 g_assert (mono_metadata_token_code (klass->type_token) == MONO_TOKEN_TYPE_DEF);
1639                 encode_value (klass->type_token - MONO_TOKEN_TYPE_DEF, buf, &buf);
1640                 encode_value (get_image_index (acfg, klass->image), buf, &buf);
1641         } else {
1642                 /* Array class */
1643                 g_assert (klass->rank > 0);
1644                 encode_value (MONO_TOKEN_TYPE_DEF, buf, &buf);
1645                 encode_value (get_image_index (acfg, klass->image), buf, &buf);
1646                 encode_value (klass->rank, buf, &buf);
1647                 encode_klass_ref (acfg, klass->element_class, buf, &buf);
1648         }
1649         *endbuf = buf;
1650 }
1651
1652 static void
1653 encode_field_info (MonoAotCompile *cfg, MonoClassField *field, guint8 *buf, guint8 **endbuf)
1654 {
1655         guint32 token = mono_get_field_token (field);
1656
1657         encode_klass_ref (cfg, field->parent, buf, &buf);
1658         g_assert (mono_metadata_token_code (token) == MONO_TOKEN_FIELD_DEF);
1659         encode_value (token - MONO_TOKEN_FIELD_DEF, buf, &buf);
1660         *endbuf = buf;
1661 }
1662
1663 #if 0
1664 static guint32
1665 find_methodspec_for_method (MonoAotCompile *acfg, MonoMethod *method)
1666 {
1667         int i;
1668         MonoMethod *m = NULL;
1669
1670         /* FIXME: Search referenced images as well */
1671         for (i = 0; i < acfg->image->tables [MONO_TABLE_METHODSPEC].rows; ++i) {
1672                 /* Since we don't compile generic methods, the context is empty */
1673                 m = mono_get_method_full (acfg->image, MONO_TOKEN_METHOD_SPEC | (i + 1), NULL, NULL);
1674                 if (m == method)
1675                         break;
1676         }
1677
1678         g_assert (i < acfg->image->tables [MONO_TABLE_METHODSPEC].rows);
1679
1680         return MONO_TOKEN_METHOD_SPEC | (i + 1);
1681 }
1682 #endif
1683
1684 static void
1685 encode_method_ref (MonoAotCompile *acfg, MonoMethod *method, guint8 *buf, guint8 **endbuf)
1686 {
1687         guint32 image_index = get_image_index (acfg, method->klass->image);
1688         guint32 token = method->token;
1689         MonoJumpInfoToken *ji;
1690
1691         g_assert (image_index < 255);
1692
1693         if (mono_method_signature (method)->is_inflated) {
1694                 /*
1695                  * This is a generic method, find the original token which referenced it and
1696                  * encode that.
1697                  */
1698                 /* This doesn't work for some reason */
1699                 /*
1700                 image_index = get_image_index (acfg, acfg->image);
1701                 g_assert (image_index < 255);
1702                 token = find_methodspec_for_method (acfg, method);
1703                 */
1704                 /* Obtain the token from information recorded by the JIT */
1705                 ji = g_hash_table_lookup (acfg->token_info_hash, method);
1706                 g_assert (ji);
1707                 image_index = get_image_index (acfg, ji->image);
1708                 g_assert (image_index < 255);
1709                 token = ji->token;
1710
1711                 /* Marker */
1712                 encode_value ((255 << 24), buf, &buf);
1713                 encode_value (image_index, buf, &buf);
1714                 encode_value (token, buf, &buf);
1715         } else {
1716                 g_assert (mono_metadata_token_table (token) == MONO_TABLE_METHOD);
1717                 encode_value ((image_index << 24) | mono_metadata_token_index (token), buf, &buf);
1718         }
1719         *endbuf = buf;
1720 }
1721
1722 static gint
1723 compare_patches (gconstpointer a, gconstpointer b)
1724 {
1725         int i, j;
1726
1727         i = (*(MonoJumpInfo**)a)->ip.i;
1728         j = (*(MonoJumpInfo**)b)->ip.i;
1729
1730         if (i < j)
1731                 return -1;
1732         else
1733                 if (i > j)
1734                         return 1;
1735         else
1736                 return 0;
1737 }
1738
1739 static int
1740 get_plt_index (MonoAotCompile *acfg, MonoJumpInfo *patch_info)
1741 {
1742         int res = -1;
1743         int idx;
1744         GHashTable *hash = acfg->patch_to_plt_offset;
1745
1746         switch (patch_info->type) {
1747         case MONO_PATCH_INFO_METHOD:
1748         case MONO_PATCH_INFO_WRAPPER:
1749         case MONO_PATCH_INFO_INTERNAL_METHOD:
1750         case MONO_PATCH_INFO_CLASS_INIT: {
1751                 MonoJumpInfo *new_ji = mono_patch_info_dup_mp (acfg->mempool, patch_info);
1752                 gpointer patch_id = NULL;
1753
1754                 /* First check for an existing patch */
1755                 switch (patch_info->type) {
1756                 case MONO_PATCH_INFO_METHOD:
1757                         patch_id = patch_info->data.method;
1758                         break;
1759                 case MONO_PATCH_INFO_INTERNAL_METHOD:
1760                         patch_id = (gpointer)patch_info->data.name;
1761                         break;
1762                 case MONO_PATCH_INFO_CLASS_INIT:
1763                         patch_id = patch_info->data.klass;
1764                         break;
1765                 case MONO_PATCH_INFO_WRAPPER:
1766                         hash = acfg->patch_to_plt_offset_wrapper [patch_info->data.method->wrapper_type];
1767                         if (!hash) {
1768                                 acfg->patch_to_plt_offset_wrapper [patch_info->data.method->wrapper_type] = g_hash_table_new (NULL, NULL);
1769                                 hash = acfg->patch_to_plt_offset_wrapper [patch_info->data.method->wrapper_type];
1770                         }
1771                         patch_id = patch_info->data.method;
1772                         break;
1773                 default:
1774                         g_assert_not_reached ();
1775                 }
1776
1777                 if (patch_id) {
1778                         idx = GPOINTER_TO_UINT (g_hash_table_lookup (hash, patch_id));
1779                         if (idx)
1780                                 res = idx;
1781                         else
1782                                 g_hash_table_insert (hash, patch_id, GUINT_TO_POINTER (acfg->plt_offset));
1783                 }
1784
1785                 if (res == -1) {
1786                         res = acfg->plt_offset;
1787                         g_hash_table_insert (acfg->plt_offset_to_patch, GUINT_TO_POINTER (acfg->plt_offset), new_ji);
1788                         acfg->plt_offset ++;
1789                 }
1790
1791                 /* Nullify the patch */
1792                 patch_info->type = MONO_PATCH_INFO_NONE;
1793
1794                 return res;
1795         }
1796         default:
1797                 return -1;
1798         }
1799 }
1800
1801 /**
1802  * get_got_offset:
1803  *
1804  *   Returns the offset of the GOT slot where the runtime object resulting from resolving
1805  * JI could be found if it exists, otherwise allocates a new one.
1806  */
1807 static guint32
1808 get_got_offset (MonoAotCompile *acfg, MonoJumpInfo *ji)
1809 {
1810         guint32 got_offset;
1811
1812         got_offset = GPOINTER_TO_UINT (g_hash_table_lookup (acfg->patch_to_shared_got_offset, ji));
1813         if (got_offset)
1814                 return got_offset - 1;
1815
1816         got_offset = acfg->got_offset;
1817         acfg->got_offset ++;
1818
1819         acfg->stats.got_slots ++;
1820         acfg->stats.got_slot_types [ji->type] ++;
1821
1822         return got_offset;
1823 }
1824
1825 static guint32
1826 get_shared_got_offset (MonoAotCompile *acfg, MonoJumpInfo *ji)
1827 {
1828         MonoJumpInfo *copy;
1829         guint32 got_offset;
1830
1831         if (!g_hash_table_lookup (acfg->patch_to_shared_got_offset, ji)) {
1832                 got_offset = get_got_offset (acfg, ji);
1833                 copy = mono_patch_info_dup_mp (acfg->mempool, ji);
1834                 g_hash_table_insert (acfg->patch_to_shared_got_offset, copy, GUINT_TO_POINTER (got_offset + 1));
1835                 g_ptr_array_add (acfg->shared_patches, copy);
1836         }
1837
1838         return get_got_offset (acfg, ji);
1839 }
1840
1841 static guint32
1842 get_method_index (MonoAotCompile *acfg, MonoMethod *method)
1843 {
1844         int method_index = mono_metadata_token_index (method->token);
1845
1846         if (method_index == 0) {
1847                 MonoMethod *wrapped = g_hash_table_lookup (acfg->wrapper_to_method, method);
1848                 g_assert (wrapped);
1849                 method_index = mono_metadata_token_index (wrapped->token);
1850         }
1851
1852         return method_index;
1853 }
1854
1855 static void
1856 emit_method_code (MonoAotCompile *acfg, MonoCompile *cfg)
1857 {
1858         MonoMethod *method;
1859         int i, pindex, start_index, method_index;
1860         guint8 *code;
1861         char *symbol;
1862         int func_alignment = 16;
1863         GPtrArray *patches;
1864         MonoJumpInfo *patch_info;
1865         MonoMethodHeader *header;
1866         gboolean skip;
1867         guint32 got_slot;
1868
1869         method = cfg->method;
1870         code = cfg->native_code;
1871         header = mono_method_get_header (method);
1872
1873         method_index = get_method_index (acfg, method);
1874
1875         /* Make the labels local */
1876         symbol = g_strdup_printf (".Lm_%x", method_index);
1877
1878         emit_alignment (acfg, func_alignment);
1879         emit_label (acfg, symbol);
1880         if (acfg->aot_opts.write_symbols)
1881                 emit_global (acfg, symbol, TRUE);
1882
1883         if (cfg->verbose_level > 0)
1884                 g_print ("Method %s emitted as %s\n", mono_method_full_name (method, TRUE), symbol);
1885
1886         acfg->stats.code_size += cfg->code_len;
1887
1888         /* Collect and sort relocations */
1889         patches = g_ptr_array_new ();
1890         for (patch_info = cfg->patch_info; patch_info; patch_info = patch_info->next)
1891                 g_ptr_array_add (patches, patch_info);
1892         g_ptr_array_sort (patches, compare_patches);
1893
1894         acfg->method_got_offsets [method_index] = acfg->got_offset;
1895         start_index = 0;
1896         for (i = 0; i < cfg->code_len; i++) {
1897                 patch_info = NULL;
1898                 for (pindex = start_index; pindex < patches->len; ++pindex) {
1899                         patch_info = g_ptr_array_index (patches, pindex);
1900                         if (patch_info->ip.i >= i)
1901                                 break;
1902                 }
1903
1904 #ifdef MONO_ARCH_AOT_SUPPORTED
1905                 skip = FALSE;
1906                 if (patch_info && (patch_info->ip.i == i) && (pindex < patches->len)) {
1907                         start_index = pindex;
1908
1909                         switch (patch_info->type) {
1910                         case MONO_PATCH_INFO_LABEL:
1911                         case MONO_PATCH_INFO_BB:
1912                         case MONO_PATCH_INFO_NONE:
1913                                 break;
1914                         case MONO_PATCH_INFO_GOT_OFFSET: {
1915                                 guint32 offset = mono_arch_get_patch_offset (code + i);
1916                                 emit_bytes (acfg, code + i, offset);
1917                                 emit_symbol_diff (acfg, "got", ".", offset);
1918
1919                                 i += offset + 4 - 1;
1920                                 skip = TRUE;
1921                                 break;
1922                         }
1923                         default: {
1924                                 int plt_index;
1925                                 char *direct_call_target;
1926
1927                                 if (!is_got_patch (patch_info->type))
1928                                         break;
1929
1930                                 /*
1931                                  * If this patch is a call, try emitting a direct call instead of
1932                                  * through a PLT entry. This is possible if the called method is in
1933                                  * the same assembly and requires no initialization.
1934                                  */
1935                                 direct_call_target = NULL;
1936                                 if ((patch_info->type == MONO_PATCH_INFO_METHOD) && (patch_info->data.method->klass->image == cfg->method->klass->image)) {
1937                                         MonoCompile *callee_cfg = g_hash_table_lookup (acfg->method_to_cfg, patch_info->data.method);
1938                                         if (callee_cfg) {
1939                                                 guint32 callee_idx = mono_metadata_token_index (callee_cfg->method->token);
1940                                                 if (!acfg->has_got_slots [callee_idx] && (callee_cfg->method->klass->flags & TYPE_ATTRIBUTE_BEFORE_FIELD_INIT)) {
1941                                                         //printf ("DIRECT: %s %s\n", mono_method_full_name (cfg->method, TRUE), mono_method_full_name (callee_cfg->method, TRUE));
1942                                                         direct_call_target = g_strdup_printf (".Lm_%x", mono_metadata_token_index (callee_cfg->method->token));
1943                                                         patch_info->type = MONO_PATCH_INFO_NONE;
1944                                                         acfg->stats.direct_calls ++;
1945                                                 }
1946                                         }
1947
1948                                         acfg->stats.all_calls ++;
1949                                 }
1950
1951                                 if (!direct_call_target) {
1952                                         plt_index = get_plt_index (acfg, patch_info);
1953                                         if (plt_index != -1) {
1954                                                 /* This patch has a PLT entry, so we must emit a call to the PLT entry */
1955                                                 direct_call_target = g_strdup_printf (".Lp_%d", plt_index);
1956                                         }
1957                                 }
1958
1959                                 if (direct_call_target) {
1960 #if defined(__i386__) || defined(__x86_64__)
1961                                         g_assert (code [i] == 0xe8);
1962                                         /* Need to make sure this is exactly 5 bytes long */
1963                                         emit_byte (acfg, '\xe8');
1964                                         emit_symbol_diff (acfg, direct_call_target, ".", -4);
1965                                         i += 4;
1966 #elif defined(__arm__)
1967 #ifdef USE_BIN_WRITER
1968                                         /* FIXME: Can't encode this using the current symbol writer functions */
1969                                         g_assert_not_reached ();
1970 #else
1971                                         emit_unset_mode (acfg);
1972                                         fprintf (acfg->fp, "bl %s\n", direct_call_target);
1973                                         i += 4 - 1;
1974 #endif
1975 #endif
1976                                 } else {
1977                                         got_slot = get_got_offset (acfg, patch_info);
1978
1979                                         emit_bytes (acfg, code + i, mono_arch_get_patch_offset (code + i));
1980 #ifdef __x86_64__
1981                                         emit_symbol_diff (acfg, "got", ".", (unsigned int) ((got_slot * sizeof (gpointer)) - 4));
1982 #elif defined(__i386__)
1983                                         emit_int32 (acfg, (unsigned int) ((got_slot * sizeof (gpointer))));
1984 #elif defined(__arm__)
1985                                         emit_symbol_diff (acfg, "got", ".", (unsigned int) ((got_slot * sizeof (gpointer))) - 12);
1986 #else
1987                                         g_assert_not_reached ();
1988 #endif
1989
1990                                         i += mono_arch_get_patch_offset (code + i) + 4 - 1;
1991                                 }
1992                                 skip = TRUE;
1993                         }
1994                         }
1995                 }
1996 #endif /* MONO_ARCH_AOT_SUPPORTED */
1997
1998                 if (!skip)
1999                         emit_bytes (acfg, code + i, 1);
2000         }
2001         emit_line (acfg);
2002 }
2003
2004 /**
2005  * encode_patch:
2006  *
2007  *  Encode PATCH_INFO into its disk representation. If SHARED is true, encode some types
2008  * of patches by allocating a GOT entry for them, and encode the GOT offset instead.
2009  */
2010 static void
2011 encode_patch (MonoAotCompile *acfg, MonoJumpInfo *patch_info, guint8 *buf, guint8 **endbuf, gboolean shared)
2012 {
2013         guint8 *p = buf;
2014
2015         switch (patch_info->type) {
2016         case MONO_PATCH_INFO_NONE:
2017                 break;
2018         case MONO_PATCH_INFO_IMAGE:
2019                 encode_value (get_image_index (acfg, patch_info->data.image), p, &p);
2020                 break;
2021         case MONO_PATCH_INFO_METHOD_REL:
2022                 encode_value ((gint)patch_info->data.offset, p, &p);
2023                 break;
2024         case MONO_PATCH_INFO_SWITCH: {
2025                 gpointer *table = (gpointer *)patch_info->data.table->table;
2026                 int k;
2027
2028                 encode_value (patch_info->data.table->table_size, p, &p);
2029                 for (k = 0; k < patch_info->data.table->table_size; k++)
2030                         encode_value ((int)(gssize)table [k], p, &p);
2031                 break;
2032         }
2033         case MONO_PATCH_INFO_METHODCONST:
2034         case MONO_PATCH_INFO_METHOD:
2035         case MONO_PATCH_INFO_METHOD_JUMP:
2036         case MONO_PATCH_INFO_ICALL_ADDR:
2037                 encode_method_ref (acfg, patch_info->data.method, p, &p);
2038                 break;
2039         case MONO_PATCH_INFO_INTERNAL_METHOD: {
2040                 guint32 len = strlen (patch_info->data.name);
2041
2042                 encode_value (len, p, &p);
2043
2044                 memcpy (p, patch_info->data.name, len);
2045                 p += len;
2046                 *p++ = '\0';
2047                 break;
2048         }
2049         case MONO_PATCH_INFO_LDSTR: {
2050                 guint32 image_index = get_image_index (acfg, patch_info->data.token->image);
2051                 guint32 token = patch_info->data.token->token;
2052                 g_assert (mono_metadata_token_code (token) == MONO_TOKEN_STRING);
2053                 encode_value (image_index, p, &p);
2054                 encode_value (patch_info->data.token->token - MONO_TOKEN_STRING, p, &p);
2055                 break;
2056         }
2057         case MONO_PATCH_INFO_RVA:
2058         case MONO_PATCH_INFO_DECLSEC:
2059         case MONO_PATCH_INFO_LDTOKEN:
2060         case MONO_PATCH_INFO_TYPE_FROM_HANDLE:
2061                 if (shared) {
2062                         guint32 offset = get_got_offset (acfg, patch_info);
2063                         encode_value (offset, p, &p);
2064                 } else {
2065                         encode_value (get_image_index (acfg, patch_info->data.token->image), p, &p);
2066                         encode_value (patch_info->data.token->token, p, &p);
2067                 }
2068                 break;
2069         case MONO_PATCH_INFO_EXC_NAME: {
2070                 MonoClass *ex_class;
2071
2072                 ex_class =
2073                         mono_class_from_name (mono_defaults.exception_class->image,
2074                                                                   "System", patch_info->data.target);
2075                 g_assert (ex_class);
2076                 encode_klass_ref (acfg, ex_class, p, &p);
2077                 break;
2078         }
2079         case MONO_PATCH_INFO_R4:
2080                 encode_value (*((guint32 *)patch_info->data.target), p, &p);
2081                 break;
2082         case MONO_PATCH_INFO_R8:
2083                 encode_value (*((guint32 *)patch_info->data.target), p, &p);
2084                 encode_value (*(((guint32 *)patch_info->data.target) + 1), p, &p);
2085                 break;
2086         case MONO_PATCH_INFO_VTABLE:
2087         case MONO_PATCH_INFO_CLASS:
2088         case MONO_PATCH_INFO_IID:
2089         case MONO_PATCH_INFO_ADJUSTED_IID:
2090                 if (shared) {
2091                         guint32 offset = get_got_offset (acfg, patch_info);
2092                         encode_value (offset, p, &p);
2093                 } else {
2094                         encode_klass_ref (acfg, patch_info->data.klass, p, &p);
2095                 }
2096                 break;
2097         case MONO_PATCH_INFO_CLASS_INIT:
2098         case MONO_PATCH_INFO_DELEGATE_TRAMPOLINE:
2099                 encode_klass_ref (acfg, patch_info->data.klass, p, &p);
2100                 break;
2101         case MONO_PATCH_INFO_FIELD:
2102         case MONO_PATCH_INFO_SFLDA:
2103                 if (shared) {
2104                         guint32 offset = get_got_offset (acfg, patch_info);
2105                         encode_value (offset, p, &p);
2106                 } else {
2107                         encode_field_info (acfg, patch_info->data.field, p, &p);
2108                 }
2109                 break;
2110         case MONO_PATCH_INFO_WRAPPER:
2111                 encode_value (patch_info->data.method->wrapper_type, p, &p);
2112
2113                 switch (patch_info->data.method->wrapper_type) {
2114                 case MONO_WRAPPER_REMOTING_INVOKE_WITH_CHECK: {
2115                         MonoMethod *m;
2116                         guint32 image_index;
2117                         guint32 token;
2118
2119                         m = mono_marshal_method_from_wrapper (patch_info->data.method);
2120                         image_index = get_image_index (acfg, m->klass->image);
2121                         token = m->token;
2122                         g_assert (image_index < 256);
2123                         g_assert (mono_metadata_token_table (token) == MONO_TABLE_METHOD);
2124
2125                         encode_value ((image_index << 24) + (mono_metadata_token_index (token)), p, &p);
2126                         break;
2127                 }
2128                 case MONO_WRAPPER_PROXY_ISINST:
2129                 case MONO_WRAPPER_LDFLD:
2130                 case MONO_WRAPPER_LDFLDA:
2131                 case MONO_WRAPPER_STFLD:
2132                 case MONO_WRAPPER_ISINST: {
2133                         MonoClass *proxy_class = (MonoClass*)mono_marshal_method_from_wrapper (patch_info->data.method);
2134                         encode_klass_ref (acfg, proxy_class, p, &p);
2135                         break;
2136                 }
2137                 case MONO_WRAPPER_LDFLD_REMOTE:
2138                 case MONO_WRAPPER_STFLD_REMOTE:
2139                         break;
2140                 case MONO_WRAPPER_ALLOC: {
2141                         int alloc_type = mono_gc_get_managed_allocator_type (patch_info->data.method);
2142                         g_assert (alloc_type != -1);
2143                         encode_value (alloc_type, p, &p);
2144                         break;
2145                 }
2146                 case MONO_WRAPPER_STELEMREF:
2147                         break;
2148                 default:
2149                         g_assert_not_reached ();
2150                 }
2151                 break;
2152         default:
2153                 g_warning ("unable to handle jump info %d", patch_info->type);
2154                 g_assert_not_reached ();
2155         }
2156
2157         *endbuf = p;
2158 }
2159
2160 static void
2161 emit_method_info (MonoAotCompile *acfg, MonoCompile *cfg)
2162 {
2163         MonoMethod *method;
2164         GList *l;
2165         int j, pindex, buf_size, n_patches;
2166         guint8 *code;
2167         char *symbol;
2168         GPtrArray *patches;
2169         MonoJumpInfo *patch_info;
2170         MonoMethodHeader *header;
2171         guint32 last_offset, method_index;
2172         guint8 *p, *buf;
2173         guint32 first_got_offset;
2174
2175         method = cfg->method;
2176         code = cfg->native_code;
2177         header = mono_method_get_header (method);
2178
2179         method_index = get_method_index (acfg, method);
2180
2181         /* Make the labels local */
2182         symbol = g_strdup_printf (".Lm_%x_p", method_index);
2183
2184         /* Sort relocations */
2185         patches = g_ptr_array_new ();
2186         for (patch_info = cfg->patch_info; patch_info; patch_info = patch_info->next)
2187                 g_ptr_array_add (patches, patch_info);
2188         g_ptr_array_sort (patches, compare_patches);
2189
2190         first_got_offset = acfg->method_got_offsets [method_index];
2191
2192         /**********************/
2193         /* Encode method info */
2194         /**********************/
2195
2196         buf_size = (patches->len < 1000) ? 40960 : 40960 + (patches->len * 64);
2197         p = buf = g_malloc (buf_size);
2198
2199         if (mono_class_get_cctor (method->klass))
2200                 encode_klass_ref (acfg, method->klass, p, &p);
2201         else
2202                 /* Not needed when loading the method */
2203                 encode_value (0, p, &p);
2204
2205         /* String table */
2206         if (cfg->opt & MONO_OPT_SHARED) {
2207                 encode_value (g_list_length (cfg->ldstr_list), p, &p);
2208                 for (l = cfg->ldstr_list; l; l = l->next) {
2209                         encode_value ((long)l->data, p, &p);
2210                 }
2211         }
2212         else
2213                 /* Used only in shared mode */
2214                 g_assert (!cfg->ldstr_list);
2215
2216         n_patches = 0;
2217         for (pindex = 0; pindex < patches->len; ++pindex) {
2218                 patch_info = g_ptr_array_index (patches, pindex);
2219
2220                 if ((patch_info->type == MONO_PATCH_INFO_LABEL) ||
2221                         (patch_info->type == MONO_PATCH_INFO_BB) ||
2222                         (patch_info->type == MONO_PATCH_INFO_GOT_OFFSET) ||
2223                         (patch_info->type == MONO_PATCH_INFO_NONE)) {
2224                         patch_info->type = MONO_PATCH_INFO_NONE;
2225                         /* Nothing to do */
2226                         continue;
2227                 }
2228
2229                 if ((patch_info->type == MONO_PATCH_INFO_IMAGE) && (patch_info->data.image == acfg->image)) {
2230                         /* Stored in a GOT slot initialized at module load time */
2231                         patch_info->type = MONO_PATCH_INFO_NONE;
2232                         continue;
2233                 }
2234
2235                 if ((patch_info->type == MONO_PATCH_INFO_METHOD) ||
2236                         (patch_info->type == MONO_PATCH_INFO_INTERNAL_METHOD) ||
2237                         (patch_info->type == MONO_PATCH_INFO_WRAPPER) ||
2238                         (patch_info->type == MONO_PATCH_INFO_CLASS_INIT)) {
2239                         /* Calls are made through the PLT */
2240                         patch_info->type = MONO_PATCH_INFO_NONE;
2241                         continue;
2242                 }
2243
2244                 n_patches ++;
2245         }
2246
2247         if (n_patches)
2248                 g_assert (acfg->has_got_slots [method_index]);
2249
2250         encode_value (n_patches, p, &p);
2251
2252         if (n_patches)
2253                 encode_value (first_got_offset, p, &p);
2254
2255         /* First encode the type+position table */
2256         last_offset = 0;
2257         j = 0;
2258         for (pindex = 0; pindex < patches->len; ++pindex) {
2259                 guint32 offset;
2260                 patch_info = g_ptr_array_index (patches, pindex);
2261
2262                 if (patch_info->type == MONO_PATCH_INFO_NONE)
2263                         /* Nothing to do */
2264                         continue;
2265
2266                 j ++;
2267                 //printf ("T: %d O: %d.\n", patch_info->type, patch_info->ip.i);
2268                 offset = patch_info->ip.i - last_offset;
2269                 last_offset = patch_info->ip.i;
2270
2271                 /* Only the type is needed */
2272                 *p = patch_info->type;
2273                 p++;
2274         }
2275
2276         /*
2277         if (n_patches) {
2278                 printf ("%s:\n", mono_method_full_name (cfg->method, TRUE));
2279                 for (pindex = 0; pindex < patches->len; ++pindex) {
2280                         patch_info = g_ptr_array_index (patches, pindex);
2281                         if (patch_info->type != MONO_PATCH_INFO_NONE) {
2282                                 printf ("\t%s", get_patch_name (patch_info->type));
2283                                 if (patch_info->type == MONO_PATCH_INFO_VTABLE)
2284                                         printf (": %s\n", patch_info->data.klass->name);
2285                                 else
2286                                         printf ("\n");
2287                         }
2288                 }
2289         }
2290         */
2291
2292         /* Then encode the other info */
2293         for (pindex = 0; pindex < patches->len; ++pindex) {
2294                 patch_info = g_ptr_array_index (patches, pindex);
2295
2296                 encode_patch (acfg, patch_info, p, &p, TRUE);
2297         }
2298
2299         acfg->stats.info_size += p - buf;
2300
2301         /* Emit method info */
2302
2303         emit_label (acfg, symbol);
2304
2305         g_assert (p - buf < buf_size);
2306         emit_bytes (acfg, buf, p - buf);
2307         g_free (buf);
2308
2309         g_free (symbol);
2310 }
2311
2312 static void
2313 emit_exception_debug_info (MonoAotCompile *acfg, MonoCompile *cfg)
2314 {
2315         MonoMethod *method;
2316         int k, buf_size, method_index;
2317         guint32 debug_info_size;
2318         guint8 *code;
2319         char *symbol;
2320         MonoMethodHeader *header;
2321         guint8 *p, *buf, *debug_info;
2322
2323         method = cfg->method;
2324         code = cfg->native_code;
2325         header = mono_method_get_header (method);
2326
2327         method_index = get_method_index (acfg, method);
2328
2329         /* Make the labels local */
2330         symbol = g_strdup_printf (".Le_%x_p", method_index);
2331
2332         buf_size = header->num_clauses * 256 + 128;
2333         p = buf = g_malloc (buf_size);
2334
2335         encode_value (cfg->code_len, p, &p);
2336         encode_value (cfg->used_int_regs, p, &p);
2337
2338         /* Exception table */
2339         if (header->num_clauses) {
2340                 MonoJitInfo *jinfo = cfg->jit_info;
2341
2342                 for (k = 0; k < header->num_clauses; ++k) {
2343                         MonoJitExceptionInfo *ei = &jinfo->clauses [k];
2344
2345                         encode_value (ei->exvar_offset, p, &p);
2346
2347                         if (ei->flags == MONO_EXCEPTION_CLAUSE_FILTER)
2348                                 encode_value ((gint)((guint8*)ei->data.filter - code), p, &p);
2349
2350                         encode_value ((gint)((guint8*)ei->try_start - code), p, &p);
2351                         encode_value ((gint)((guint8*)ei->try_end - code), p, &p);
2352                         encode_value ((gint)((guint8*)ei->handler_start - code), p, &p);
2353                 }
2354         }
2355
2356         mono_debug_serialize_debug_info (cfg, &debug_info, &debug_info_size);
2357
2358         encode_value (debug_info_size, p, &p);
2359         if (debug_info_size) {
2360                 memcpy (p, debug_info, debug_info_size);
2361                 p += debug_info_size;
2362                 g_free (debug_info);
2363         }
2364
2365         acfg->stats.ex_info_size += p - buf;
2366
2367         /* Emit info */
2368
2369         emit_label (acfg, symbol);
2370
2371         g_assert (p - buf < buf_size);
2372         emit_bytes (acfg, buf, p - buf);
2373         g_free (buf);
2374
2375         g_free (symbol);
2376 }
2377
2378 static void
2379 emit_klass_info (MonoAotCompile *acfg, guint32 token)
2380 {
2381         MonoClass *klass = mono_class_get (acfg->image, token);
2382         guint8 *p, *buf;
2383         int i, buf_size;
2384         char *label;
2385         gboolean no_special_static, cant_encode;
2386
2387         buf_size = 10240 + (klass->vtable_size * 16);
2388         p = buf = g_malloc (buf_size);
2389
2390         g_assert (klass);
2391
2392         mono_class_init (klass);
2393
2394         /*
2395          * Emit all the information which is required for creating vtables so
2396          * the runtime does not need to create the MonoMethod structures which
2397          * take up a lot of space.
2398          */
2399
2400         no_special_static = !mono_class_has_special_static_fields (klass);
2401
2402         /* Check whenever we have enough info to encode the vtable */
2403         cant_encode = FALSE;
2404         for (i = 0; i < klass->vtable_size; ++i) {
2405                 MonoMethod *cm = klass->vtable [i];
2406
2407                 if (cm && mono_method_signature (cm)->is_inflated && !g_hash_table_lookup (acfg->token_info_hash, cm))
2408                         cant_encode = TRUE;
2409         }
2410
2411         if (klass->generic_container || cant_encode) {
2412                 encode_value (-1, p, &p);
2413         } else {
2414                 encode_value (klass->vtable_size, p, &p);
2415                 encode_value ((no_special_static << 7) | (klass->has_static_refs << 6) | (klass->has_references << 5) | ((klass->blittable << 4) | (klass->nested_classes ? 1 : 0) << 3) | (klass->has_cctor << 2) | (klass->has_finalize << 1) | klass->ghcimpl, p, &p);
2416                 if (klass->has_cctor)
2417                         encode_method_ref (acfg, mono_class_get_cctor (klass), p, &p);
2418                 if (klass->has_finalize)
2419                         encode_method_ref (acfg, mono_class_get_finalizer (klass), p, &p);
2420
2421                 encode_value (klass->instance_size, p, &p);
2422                 encode_value (mono_class_data_size (klass), p, &p);
2423                 encode_value (klass->packing_size, p, &p);
2424                 encode_value (klass->min_align, p, &p);
2425
2426                 for (i = 0; i < klass->vtable_size; ++i) {
2427                         MonoMethod *cm = klass->vtable [i];
2428
2429                         if (cm)
2430                                 encode_method_ref (acfg, cm, p, &p);
2431                         else
2432                                 encode_value (0, p, &p);
2433                 }
2434         }
2435
2436         acfg->stats.class_info_size += p - buf;
2437
2438         /* Emit the info */
2439         label = g_strdup_printf (".LK_I_%x", token - MONO_TOKEN_TYPE_DEF - 1);
2440         emit_label (acfg, label);
2441
2442         g_assert (p - buf < buf_size);
2443         emit_bytes (acfg, buf, p - buf);
2444         g_free (buf);
2445 }
2446
2447 /*
2448  * Calls made from AOTed code are routed through a table of jumps similar to the
2449  * ELF PLT (Program Linkage Table). The differences are the following:
2450  * - the ELF PLT entries make an indirect jump though the GOT so they expect the
2451  *   GOT pointer to be in EBX. We want to avoid this, so our table contains direct
2452  *   jumps. This means the jumps need to be patched when the address of the callee is
2453  *   known. Initially the PLT entries jump to code which transfers control to the
2454  *   AOT runtime through the first PLT entry.
2455  */
2456 static void
2457 emit_plt (MonoAotCompile *acfg)
2458 {
2459         char *symbol;
2460         int i, buf_size;
2461         guint8 *p, *buf;
2462         guint32 *plt_info_offsets;
2463
2464         /*
2465          * Encode info need to resolve PLT entries.
2466          */
2467         buf_size = acfg->plt_offset * 128;
2468         p = buf = g_malloc (buf_size);
2469
2470         plt_info_offsets = g_new0 (guint32, acfg->plt_offset);
2471
2472         for (i = 1; i < acfg->plt_offset; ++i) {
2473                 MonoJumpInfo *patch_info = g_hash_table_lookup (acfg->plt_offset_to_patch, GUINT_TO_POINTER (i));
2474
2475                 plt_info_offsets [i] = p - buf;
2476                 encode_value (patch_info->type, p, &p);
2477                 encode_patch (acfg, patch_info, p, &p, FALSE);
2478         }
2479
2480         emit_line (acfg);
2481         symbol = g_strdup_printf ("plt");
2482
2483         /* This section will be made read-write by the AOT loader */
2484         emit_section_change (acfg, ".text", 0);
2485         emit_global (acfg, symbol, TRUE);
2486         emit_alignment (acfg, PAGESIZE);
2487         emit_label (acfg, symbol);
2488
2489 #if defined(USE_BIN_WRITER) && defined(__arm__)
2490         /* FIXME: */
2491         g_assert_not_reached ();
2492 #endif
2493
2494         /*
2495          * The first plt entry is used to transfer code to the AOT loader.
2496          */
2497         emit_label (acfg, ".Lp_0");
2498 #if defined(__i386__)
2499         /* It is filled up during loading by the AOT loader. */
2500         emit_zero_bytes (acfg, 16);
2501 #elif defined(__x86_64__)
2502         /* This should be exactly 16 bytes long */
2503         /* jmpq *<offset>(%rip) */
2504         emit_byte (acfg, '\xff');
2505         emit_byte (acfg, '\x25');
2506         emit_symbol_diff (acfg, "plt_jump_table", ".", -4);
2507         emit_zero_bytes (acfg, 10);
2508 #elif defined(__arm__)
2509         /* This is 8 bytes long, init_plt () depends on this */
2510         emit_unset_mode (acfg);
2511         fprintf (acfg->fp, "\tldr pc, [pc, #-4]\n");
2512         /* This is filled up during loading by the AOT loader */
2513         fprintf (acfg->fp, "\t.word 0\n");
2514 #else
2515         g_assert_not_reached ();
2516 #endif
2517
2518         for (i = 1; i < acfg->plt_offset; ++i) {
2519                 char *label;
2520
2521                 label = g_strdup_printf (".Lp_%d", i);
2522                 emit_label (acfg, label);
2523                 g_free (label);
2524 #if defined(__i386__)
2525                 /* Need to make sure this is 5 bytes long */
2526                 emit_byte (acfg, '\xe9');
2527                 label = g_strdup_printf (".Lpd_%d", i);
2528                 emit_symbol_diff (acfg, label, ".", -4);
2529                 g_free (label);
2530 #elif defined(__x86_64__)
2531                 /*
2532                  * We can't emit jumps because they are 32 bits only so they can't be patched.
2533                  * So we emit a jump table instead whose entries are patched by the AOT loader to
2534                  * point to .Lpd entries. ELF stores these in the GOT too, but we don't, since
2535                  * methods with GOT entries can't be called directly.
2536                  * We also emit the default PLT code here since the PLT code will not be patched.
2537                  * An x86_64 plt entry is 16 bytes long, init_plt () depends on this.
2538                  */
2539                 /* jmpq *<offset>(%rip) */
2540                 emit_byte (acfg, '\xff');
2541                 emit_byte (acfg, '\x25');
2542                 emit_symbol_diff (acfg, "plt_jump_table", ".", (i * sizeof (gpointer)) -4);
2543                 /* mov <plt info offset>, %eax */
2544                 emit_byte (acfg, '\xb8');
2545                 emit_int32 (acfg, plt_info_offsets [i]);
2546                 /* jmp .Lp_0 */
2547                 emit_byte (acfg, '\xe9');
2548                 emit_symbol_diff (acfg, ".Lp_0", ".", -4);
2549 #elif defined(__arm__)
2550                 /*
2551                  * Emit an indirect call since branch displacements are limited to 24 bits on
2552                  * ARM. Put the jump table entries inline since offsets are even smaller on
2553                  * ARM.
2554                  * FIXME:
2555                  * - optimize OP_AOTCONST implementation
2556                  * - optimize the PLT entries
2557                  * - optimize SWITCH AOT implementation
2558                  * - implement IMT support
2559                  */
2560                 /* This is 8 bytes long, init_plt () depends on this */
2561                 emit_unset_mode (acfg);
2562                 fprintf (acfg->fp, "\tldr pc, [pc, #-4]\n");
2563                 /* This is filled up during loading by the AOT loader */
2564                 fprintf (acfg->fp, "\t.word 0\n");
2565 #else
2566                 g_assert_not_reached ();
2567 #endif
2568         }
2569
2570         symbol = g_strdup_printf ("plt_end");
2571         emit_global (acfg, symbol, TRUE);
2572         emit_label (acfg, symbol);
2573
2574         /*
2575          * Emit the default targets for the PLT entries separately since these will not
2576          * be modified at runtime.
2577          */
2578         for (i = 1; i < acfg->plt_offset; ++i) {
2579                 char *label;
2580
2581                 label = g_strdup_printf (".Lpd_%d", i);
2582                 emit_label (acfg, label);
2583                 g_free (label);
2584
2585                 /* Put the offset into the register expected by mono_aot_plt_trampoline */
2586 #if defined(__i386__)
2587                 /* movl $const, %eax */
2588                 emit_byte (acfg, '\xb8');
2589                 emit_int32 (acfg, plt_info_offsets [i]);
2590                 /* jmp .Lp_0 */
2591                 emit_byte (acfg, '\xe9');
2592                 emit_symbol_diff (acfg, ".Lp_0", ".", -4);
2593 #elif defined(__x86_64__)
2594                 /* Emitted along with the PLT entries since they will not be patched */
2595 #elif defined(__arm__)
2596                 /* This is 12 bytes long, init_plt () depends on this */
2597                 emit_unset_mode (acfg);
2598                 fprintf (acfg->fp, "\tldr ip, [pc, #0]\n");
2599                 fprintf (acfg->fp, "\tb .Lp_0\n");
2600                 fprintf (acfg->fp, "\t.word %d\n", plt_info_offsets [i]);
2601 #else
2602                 g_assert_not_reached ();
2603 #endif
2604         }
2605
2606         /* Emit PLT info */
2607         symbol = g_strdup_printf ("plt_info");
2608         emit_global (acfg, symbol, FALSE);
2609         emit_label (acfg, symbol);
2610
2611         g_assert (p - buf < buf_size);
2612         emit_bytes (acfg, buf, p - buf);
2613         g_free (buf);
2614
2615         symbol = g_strdup_printf ("plt_jump_table_addr");
2616         emit_section_change (acfg, ".data", 0);
2617         emit_global (acfg, symbol, FALSE);
2618         emit_alignment (acfg, 8);
2619         emit_label (acfg, symbol);
2620         emit_pointer (acfg, "plt_jump_table");
2621
2622         symbol = g_strdup_printf ("plt_jump_table_size");
2623         emit_section_change (acfg, ".data", 0);
2624         emit_global (acfg, symbol, FALSE);
2625         emit_alignment (acfg, 8);
2626         emit_label (acfg, symbol);
2627         emit_symbol_diff (acfg, "plt_jump_table_end", "plt_jump_table", 0);
2628
2629         /* Don't make this a global so accesses don't need relocations */
2630         symbol = g_strdup_printf ("plt_jump_table");
2631         emit_section_change (acfg, ".bss", 0);
2632         emit_label (acfg, symbol);
2633
2634 #ifdef __x86_64__
2635         emit_zero_bytes (acfg, (int)(acfg->plt_offset * sizeof (gpointer)));
2636 #endif
2637
2638         symbol = g_strdup_printf ("plt_jump_table_end");
2639         emit_label (acfg, symbol);
2640 }
2641
2642 static gboolean
2643 str_begins_with (const char *str1, const char *str2)
2644 {
2645         int len = strlen (str2);
2646         return strncmp (str1, str2, len) == 0;
2647 }
2648
2649 static void
2650 mono_aot_parse_options (const char *aot_options, MonoAotOptions *opts)
2651 {
2652         gchar **args, **ptr;
2653
2654         memset (opts, 0, sizeof (*opts));
2655
2656         args = g_strsplit (aot_options ? aot_options : "", ",", -1);
2657         for (ptr = args; ptr && *ptr; ptr ++) {
2658                 const char *arg = *ptr;
2659
2660                 if (str_begins_with (arg, "outfile=")) {
2661                         opts->outfile = g_strdup (arg + strlen ("outfile="));
2662                 } else if (str_begins_with (arg, "save-temps")) {
2663                         opts->save_temps = TRUE;
2664                 } else if (str_begins_with (arg, "keep-temps")) {
2665                         opts->save_temps = TRUE;
2666                 } else if (str_begins_with (arg, "write-symbols")) {
2667                         opts->write_symbols = TRUE;
2668                 } else if (str_begins_with (arg, "metadata-only")) {
2669                         opts->metadata_only = TRUE;
2670                 } else if (str_begins_with (arg, "bind-to-runtime-version")) {
2671                         opts->bind_to_runtime_version = TRUE;
2672                 } else {
2673                         fprintf (stderr, "AOT : Unknown argument '%s'.\n", arg);
2674                         exit (1);
2675                 }
2676         }
2677 }
2678
2679 static void
2680 add_token_info_hash (gpointer key, gpointer value, gpointer user_data)
2681 {
2682         MonoMethod *method = (MonoMethod*)key;
2683         MonoJumpInfoToken *ji = (MonoJumpInfoToken*)value;
2684         MonoJumpInfoToken *new_ji = g_new0 (MonoJumpInfoToken, 1);
2685         MonoAotCompile *acfg = user_data;
2686
2687         new_ji->image = ji->image;
2688         new_ji->token = ji->token;
2689         g_hash_table_insert (acfg->token_info_hash, method, new_ji);
2690 }
2691
2692 static void
2693 compile_method (MonoAotCompile *acfg, int index)
2694 {
2695         MonoCompile *cfg;
2696         MonoMethod *method;
2697         MonoJumpInfo *patch_info;
2698         gboolean skip;
2699         guint32 token = MONO_TOKEN_METHOD_DEF | (index + 1);
2700         guint32 method_idx;
2701
2702         if (acfg->aot_opts.metadata_only)
2703                 return;
2704
2705         method = mono_get_method (acfg->image, token, NULL);
2706
2707         method_idx = mono_metadata_token_index (method->token);
2708
2709         /* fixme: maybe we can also precompile wrapper methods */
2710         if ((method->flags & METHOD_ATTRIBUTE_PINVOKE_IMPL) ||
2711                 (method->iflags & METHOD_IMPL_ATTRIBUTE_RUNTIME) ||
2712                 (method->flags & METHOD_ATTRIBUTE_ABSTRACT)) {
2713                 //printf ("Skip (impossible): %s\n", mono_method_full_name (method, TRUE));
2714                 return;
2715         }
2716
2717         if (method->iflags & METHOD_IMPL_ATTRIBUTE_INTERNAL_CALL)
2718                 return;
2719
2720 #if 0
2721         if (method->iflags & METHOD_IMPL_ATTRIBUTE_INTERNAL_CALL) {
2722                 /* Compile the wrapper instead */
2723                 MonoMethod *wrapper = mono_marshal_get_native_wrapper (method, check_for_pending_exc);
2724                 g_hash_table_insert (acfg->wrapper_to_method, wrapper, method);
2725                 method = wrapper;
2726         }
2727 #endif
2728
2729         acfg->stats.mcount++;
2730
2731         if (method->iflags & METHOD_IMPL_ATTRIBUTE_SYNCHRONIZED) {
2732                 /*
2733                  * FIXME: Enabling this causes virtual-sync.exe to fail, since the trampoline
2734                  * code can't determine that it needs to insert a sync wrapper in the AOT case.
2735                  */
2736                 return;
2737         }
2738
2739         //acfg->opts &= ~MONO_OPT_GSHARED;
2740
2741         if (!(acfg->opts & MONO_OPT_GSHARED)) {
2742                 if (method->generic_container || method->klass->generic_container) {
2743                         acfg->stats.genericcount ++;
2744                         return;
2745                 }
2746         }
2747
2748         /*
2749          * Since these methods are the only ones which are compiled with
2750          * AOT support, and they are not used by runtime startup/shutdown code,
2751          * the runtime will not see AOT methods during AOT compilation,so it
2752          * does not need to support them by creating a fake GOT etc.
2753          */
2754         cfg = mini_method_compile (method, acfg->opts, mono_get_root_domain (), FALSE, TRUE, 0);
2755         if (cfg->exception_type == MONO_EXCEPTION_GENERIC_SHARING_FAILED) {
2756                 //printf ("F: %s\n", mono_method_full_name (method, TRUE));
2757                 acfg->stats.genericcount ++;
2758                 return;
2759         }
2760         if (cfg->exception_type != MONO_EXCEPTION_NONE) {
2761                 /* Let the exception happen at runtime */
2762                 return;
2763         }
2764
2765         if (cfg->disable_aot) {
2766                 //printf ("Skip (other): %s\n", mono_method_full_name (method, TRUE));
2767                 acfg->stats.ocount++;
2768                 mono_destroy_compile (cfg);
2769                 return;
2770         }
2771
2772         /* Collect method->token associations from the cfg */
2773         g_hash_table_foreach (cfg->token_info_hash, add_token_info_hash, acfg);
2774
2775         skip = FALSE;
2776         for (patch_info = cfg->patch_info; patch_info; patch_info = patch_info->next) {
2777                 switch (patch_info->type) {
2778                 case MONO_PATCH_INFO_ABS:
2779                         /* unable to handle this */
2780                         //printf ("Skip (abs addr):   %s %d\n", mono_method_full_name (method, TRUE), patch_info->type);
2781                         skip = TRUE;
2782                         break;
2783                 default:
2784                         break;
2785                 }
2786         }
2787
2788         if (skip) {
2789                 acfg->stats.abscount++;
2790                 mono_destroy_compile (cfg);
2791                 return;
2792         }
2793
2794         skip = FALSE;
2795         for (patch_info = cfg->patch_info; patch_info; patch_info = patch_info->next) {
2796                 if (patch_info->type == MONO_PATCH_INFO_METHOD_JUMP) {
2797                         /*
2798                          * FIXME: We can't handle this because mono_jit_compile_method_inner will try
2799                          * to patch the AOT code when the target of the jump is compiled.
2800                          */
2801                         skip = TRUE;
2802                         break;
2803                 }
2804         }
2805
2806         if (skip) {
2807                 acfg->stats.ocount++;
2808                 mono_destroy_compile (cfg);
2809                 return;
2810         }
2811
2812         /* some wrappers are very common */
2813         for (patch_info = cfg->patch_info; patch_info; patch_info = patch_info->next) {
2814                 if (patch_info->type == MONO_PATCH_INFO_METHODCONST) {
2815                         switch (patch_info->data.method->wrapper_type) {
2816                         case MONO_WRAPPER_PROXY_ISINST:
2817                                 patch_info->type = MONO_PATCH_INFO_WRAPPER;
2818                         }
2819                 }
2820
2821                 if (patch_info->type == MONO_PATCH_INFO_METHOD) {
2822                         switch (patch_info->data.method->wrapper_type) {
2823                         case MONO_WRAPPER_REMOTING_INVOKE_WITH_CHECK:
2824                         case MONO_WRAPPER_STFLD:
2825                         case MONO_WRAPPER_LDFLD:
2826                         case MONO_WRAPPER_LDFLDA:
2827                         case MONO_WRAPPER_LDFLD_REMOTE:
2828                         case MONO_WRAPPER_STFLD_REMOTE:
2829                         case MONO_WRAPPER_STELEMREF:
2830                         case MONO_WRAPPER_ISINST:
2831                         case MONO_WRAPPER_PROXY_ISINST:
2832                         case MONO_WRAPPER_ALLOC:
2833                                 patch_info->type = MONO_PATCH_INFO_WRAPPER;
2834                                 break;
2835                         }
2836                 }
2837         }
2838
2839         skip = FALSE;
2840         for (patch_info = cfg->patch_info; patch_info; patch_info = patch_info->next) {
2841                 switch (patch_info->type) {
2842                 case MONO_PATCH_INFO_METHOD:
2843                 case MONO_PATCH_INFO_METHODCONST:
2844                         if (patch_info->data.method->wrapper_type) {
2845                                 /* unable to handle this */
2846                                 //printf ("Skip (wrapper call):   %s %d -> %s\n", mono_method_full_name (method, TRUE), patch_info->type, mono_method_full_name (patch_info->data.method, TRUE));
2847                                 skip = TRUE;
2848                                 break;
2849                         }
2850                         if (!patch_info->data.method->token)
2851                                 /*
2852                                  * The method is part of a constructed type like Int[,].Set (). It doesn't
2853                                  * have a token, and we can't make one, since the parent type is part of
2854                                  * assembly which contains the element type, and not the assembly which
2855                                  * referenced this type.
2856                                  */
2857                                 skip = TRUE;
2858                         if (patch_info->data.method->is_inflated && !g_hash_table_lookup (acfg->token_info_hash, patch_info->data.method))
2859                                 /* FIXME: Can't encode these */
2860                                 skip = TRUE;
2861                         break;
2862                 case MONO_PATCH_INFO_VTABLE:
2863                 case MONO_PATCH_INFO_CLASS_INIT:
2864                 case MONO_PATCH_INFO_DELEGATE_TRAMPOLINE:
2865                 case MONO_PATCH_INFO_CLASS:
2866                 case MONO_PATCH_INFO_IID:
2867                 case MONO_PATCH_INFO_ADJUSTED_IID:
2868                         if (!patch_info->data.klass->type_token)
2869                                 if (!patch_info->data.klass->element_class->type_token && !(patch_info->data.klass->element_class->rank && patch_info->data.klass->element_class->element_class->type_token))
2870                                         skip = TRUE;
2871                         break;
2872                 default:
2873                         break;
2874                 }
2875         }
2876
2877         if (skip) {
2878                 acfg->stats.wrappercount++;
2879                 mono_destroy_compile (cfg);
2880                 return;
2881         }
2882
2883         /* Determine whenever the method has GOT slots */
2884         for (patch_info = cfg->patch_info; patch_info; patch_info = patch_info->next) {
2885                 switch (patch_info->type) {
2886                 case MONO_PATCH_INFO_LABEL:
2887                 case MONO_PATCH_INFO_BB:
2888                 case MONO_PATCH_INFO_GOT_OFFSET:
2889                 case MONO_PATCH_INFO_NONE:
2890                 case MONO_PATCH_INFO_METHOD:
2891                 case MONO_PATCH_INFO_INTERNAL_METHOD:
2892                 case MONO_PATCH_INFO_WRAPPER:
2893                         break;
2894                 case MONO_PATCH_INFO_IMAGE:
2895                         if (patch_info->data.image == acfg->image)
2896                                 /* Stored in GOT slot 0 */
2897                                 break;
2898                         /* Fall through */
2899                 default:
2900                         acfg->has_got_slots [method_idx] = TRUE;
2901                         break;
2902                 }
2903         }
2904
2905         if (!acfg->has_got_slots [method_idx])
2906                 acfg->stats.methods_without_got_slots ++;
2907
2908         /* Make a copy of the patch info which is in the mempool */
2909         {
2910                 MonoJumpInfo *patches = NULL, *patches_end = NULL;
2911
2912                 for (patch_info = cfg->patch_info; patch_info; patch_info = patch_info->next) {
2913                         MonoJumpInfo *new_patch_info = mono_patch_info_dup_mp (acfg->mempool, patch_info);
2914
2915                         if (!patches)
2916                                 patches = new_patch_info;
2917                         else
2918                                 patches_end->next = new_patch_info;
2919                         patches_end = new_patch_info;
2920                 }
2921                 cfg->patch_info = patches;
2922         }
2923
2924         /* Free some fields used by cfg to conserve memory */
2925         mono_mempool_destroy (cfg->mempool);
2926         cfg->mempool = NULL;
2927         g_free (cfg->varinfo);
2928         cfg->varinfo = NULL;
2929         g_free (cfg->vars);
2930         cfg->vars = NULL;
2931         if (cfg->rs) {
2932                 mono_regstate_free (cfg->rs);
2933                 cfg->rs = NULL;
2934         }
2935
2936         //printf ("Compile:           %s\n", mono_method_full_name (method, TRUE));
2937
2938         acfg->cfgs [index] = cfg;
2939
2940         g_hash_table_insert (acfg->method_to_cfg, cfg->method, cfg);
2941
2942         acfg->stats.ccount++;
2943 }
2944
2945 static void
2946 load_profile_files (MonoAotCompile *acfg)
2947 {
2948         FILE *infile;
2949         char *tmp;
2950         int file_index, res, method_index, i;
2951         char ver [256];
2952         guint32 token;
2953         GList *unordered;
2954
2955         file_index = 0;
2956         while (TRUE) {
2957                 tmp = g_strdup_printf ("%s/.mono/aot-profile-data/%s-%s-%d", g_get_home_dir (), acfg->image->assembly_name, acfg->image->guid, file_index);
2958
2959                 if (!g_file_test (tmp, G_FILE_TEST_IS_REGULAR))
2960                         break;
2961
2962                 infile = fopen (tmp, "r");
2963                 g_assert (infile);
2964
2965                 printf ("Using profile data file '%s'\n", tmp);
2966
2967                 file_index ++;
2968
2969                 res = fscanf (infile, "%32s\n", ver);
2970                 if ((res != 1) || strcmp (ver, "#VER:1") != 0) {
2971                         printf ("Profile file has wrong version or invalid.\n");
2972                         fclose (infile);
2973                         continue;
2974                 }
2975
2976                 while (TRUE) {
2977                         res = fscanf (infile, "%d\n", &token);
2978                         if (res < 1)
2979                                 break;
2980
2981                         method_index = mono_metadata_token_index (token) - 1;
2982
2983                         if (!g_list_find (acfg->method_order, GUINT_TO_POINTER (method_index)))
2984                                 acfg->method_order = g_list_append (acfg->method_order, GUINT_TO_POINTER (method_index));
2985                 }
2986                 fclose (infile);
2987         }
2988
2989         /* Add missing methods */
2990         unordered = NULL;
2991         for (i = 0; i < acfg->image->tables [MONO_TABLE_METHOD].rows; ++i) {
2992                 if (!g_list_find (acfg->method_order, GUINT_TO_POINTER (i)))
2993                         unordered = g_list_prepend (unordered, GUINT_TO_POINTER (i));
2994         }
2995         unordered = g_list_reverse (unordered);
2996         if (acfg->method_order)
2997                 g_list_last (acfg->method_order)->next = unordered;
2998         else
2999                 acfg->method_order = unordered;
3000 }
3001
3002 /**
3003  * alloc_got_slots:
3004  *
3005  *  Collect all patches which have shared GOT entries and alloc entries for them. The
3006  * rest will get entries allocated during emit_code ().
3007  */
3008 static void
3009 alloc_got_slots (MonoAotCompile *acfg)
3010 {
3011         int i;
3012         GList *l;
3013         MonoJumpInfo *ji;
3014
3015         /* Slot 0 is reserved for the address of the current assembly */
3016         ji = mono_mempool_alloc0 (acfg->mempool, sizeof (MonoAotCompile));
3017         ji->type = MONO_PATCH_INFO_IMAGE;
3018         ji->data.image = acfg->image;
3019
3020         get_shared_got_offset (acfg, ji);
3021
3022         for (l = acfg->method_order; l != NULL; l = l->next) {
3023                 i = GPOINTER_TO_UINT (l->data);
3024
3025                 if (acfg->cfgs [i]) {
3026                         MonoCompile *cfg = acfg->cfgs [i];
3027
3028                         for (ji = cfg->patch_info; ji; ji = ji->next) {
3029                                 switch (ji->type) {
3030                                 case MONO_PATCH_INFO_VTABLE:
3031                                 case MONO_PATCH_INFO_CLASS:
3032                                 case MONO_PATCH_INFO_IID:
3033                                 case MONO_PATCH_INFO_ADJUSTED_IID:
3034                                 case MONO_PATCH_INFO_FIELD:
3035                                 case MONO_PATCH_INFO_SFLDA:
3036                                 case MONO_PATCH_INFO_DECLSEC:
3037                                 case MONO_PATCH_INFO_LDTOKEN:
3038                                 case MONO_PATCH_INFO_TYPE_FROM_HANDLE:
3039                                 case MONO_PATCH_INFO_RVA:
3040                                         get_shared_got_offset (acfg, ji);
3041                                         break;
3042                                 default:
3043                                         break;
3044                                 }
3045                         }
3046                 }
3047         }
3048 }
3049
3050 static void
3051 emit_code (MonoAotCompile *acfg)
3052 {
3053         int i;
3054         char *symbol;
3055         GList *l;
3056
3057         symbol = g_strdup_printf ("methods");
3058         emit_section_change (acfg, ".text", 0);
3059         emit_global (acfg, symbol, TRUE);
3060         emit_alignment (acfg, 8);
3061         emit_label (acfg, symbol);
3062
3063         for (l = acfg->method_order; l != NULL; l = l->next) {
3064                 i = GPOINTER_TO_UINT (l->data);
3065
3066                 if (acfg->cfgs [i])
3067                         emit_method_code (acfg, acfg->cfgs [i]);
3068         }
3069
3070         symbol = g_strdup_printf ("methods_end");
3071         emit_section_change (acfg, ".text", 0);
3072         emit_global (acfg, symbol, FALSE);
3073         emit_alignment (acfg, 8);
3074         emit_label (acfg, symbol);
3075
3076         symbol = g_strdup_printf ("method_offsets");
3077         emit_section_change (acfg, ".text", 1);
3078         emit_global (acfg, symbol, FALSE);
3079         emit_alignment (acfg, 8);
3080         emit_label (acfg, symbol);
3081
3082         for (i = 0; i < acfg->image->tables [MONO_TABLE_METHOD].rows; ++i) {
3083                 if (acfg->cfgs [i]) {
3084                         symbol = g_strdup_printf (".Lm_%x", i + 1);
3085                         emit_symbol_diff (acfg, symbol, "methods", 0);
3086                 } else {
3087                         emit_int32 (acfg, 0xffffffff);
3088                 }
3089         }
3090         emit_line (acfg);
3091 }
3092
3093 static void
3094 emit_info (MonoAotCompile *acfg)
3095 {
3096         int i;
3097         char *symbol;
3098         GList *l;
3099
3100         /* Emit method info */
3101         symbol = g_strdup_printf ("method_info");
3102         emit_section_change (acfg, ".text", 1);
3103         emit_global (acfg, symbol, FALSE);
3104         emit_alignment (acfg, 8);
3105         emit_label (acfg, symbol);
3106
3107         /* To reduce size of generated assembly code */
3108         symbol = g_strdup_printf ("mi");
3109         emit_label (acfg, symbol);
3110
3111         for (l = acfg->method_order; l != NULL; l = l->next) {
3112                 i = GPOINTER_TO_UINT (l->data);
3113
3114                 if (acfg->cfgs [i])
3115                         emit_method_info (acfg, acfg->cfgs [i]);
3116         }
3117
3118         symbol = g_strdup_printf ("method_info_offsets");
3119         emit_section_change (acfg, ".text", 1);
3120         emit_global (acfg, symbol, FALSE);
3121         emit_alignment (acfg, 8);
3122         emit_label (acfg, symbol);
3123
3124         for (i = 0; i < acfg->image->tables [MONO_TABLE_METHOD].rows; ++i) {
3125                 if (acfg->cfgs [i]) {
3126                         symbol = g_strdup_printf (".Lm_%x_p", i + 1);
3127                         emit_symbol_diff (acfg, symbol, "mi", 0);
3128                 } else {
3129                         emit_int32 (acfg, 0);
3130                 }
3131         }
3132         emit_line (acfg);
3133 }
3134
3135 static void
3136 emit_method_order (MonoAotCompile *acfg)
3137 {
3138         int i, index, len;
3139         char *symbol;
3140         GList *l;
3141
3142         symbol = g_strdup_printf ("method_order");
3143         emit_section_change (acfg, ".text", 1);
3144         emit_global (acfg, symbol, FALSE);
3145         emit_alignment (acfg, 8);
3146         emit_label (acfg, symbol);
3147
3148         /* First emit an index table */
3149         index = 0;
3150         len = 0;
3151         for (l = acfg->method_order; l != NULL; l = l->next) {
3152                 i = GPOINTER_TO_UINT (l->data);
3153
3154                 if (acfg->cfgs [i]) {
3155                         if ((index % 1024) == 0) {
3156                                 emit_int32 (acfg, i);
3157                         }
3158
3159                         index ++;
3160                 }
3161
3162                 len ++;
3163         }
3164         emit_int32 (acfg, 0xffffff);
3165
3166         /* Then emit the whole method order */
3167         for (l = acfg->method_order; l != NULL; l = l->next) {
3168                 i = GPOINTER_TO_UINT (l->data);
3169
3170                 if (acfg->cfgs [i]) {
3171                         emit_int32 (acfg, i);
3172                 }
3173         }
3174         emit_line (acfg);
3175
3176         symbol = g_strdup_printf ("method_order_end");
3177         emit_section_change (acfg, ".text", 1);
3178         emit_global (acfg, symbol, FALSE);
3179         emit_label (acfg, symbol);
3180 }
3181
3182 static void
3183 emit_exception_info (MonoAotCompile *acfg)
3184 {
3185         int i;
3186         char *symbol;
3187
3188         symbol = g_strdup_printf ("ex_info");
3189         emit_section_change (acfg, ".text", 1);
3190         emit_global (acfg, symbol, FALSE);
3191         emit_alignment (acfg, 8);
3192         emit_label (acfg, symbol);
3193
3194         /* To reduce size of generated assembly */
3195         symbol = g_strdup_printf ("ex");
3196         emit_label (acfg, symbol);
3197
3198         for (i = 0; i < acfg->image->tables [MONO_TABLE_METHOD].rows; ++i) {
3199                 if (acfg->cfgs [i])
3200                         emit_exception_debug_info (acfg, acfg->cfgs [i]);
3201         }
3202
3203         symbol = g_strdup_printf ("ex_info_offsets");
3204         emit_section_change (acfg, ".text", 1);
3205         emit_global (acfg, symbol, FALSE);
3206         emit_alignment (acfg, 8);
3207         emit_label (acfg, symbol);
3208
3209         for (i = 0; i < acfg->image->tables [MONO_TABLE_METHOD].rows; ++i) {
3210                 if (acfg->cfgs [i]) {
3211                         symbol = g_strdup_printf (".Le_%x_p", i + 1);
3212                         emit_symbol_diff (acfg, symbol, "ex", 0);
3213                 } else {
3214                         emit_int32 (acfg, 0);
3215                 }
3216         }
3217         emit_line (acfg);
3218 }
3219
3220 static void
3221 emit_class_info (MonoAotCompile *acfg)
3222 {
3223         int i;
3224         char *symbol;
3225
3226         symbol = g_strdup_printf ("class_info");
3227         emit_section_change (acfg, ".text", 1);
3228         emit_global (acfg, symbol, FALSE);
3229         emit_alignment (acfg, 8);
3230         emit_label (acfg, symbol);
3231
3232         for (i = 0; i < acfg->image->tables [MONO_TABLE_TYPEDEF].rows; ++i)
3233                 emit_klass_info (acfg, MONO_TOKEN_TYPE_DEF | (i + 1));
3234
3235         symbol = g_strdup_printf ("class_info_offsets");
3236         emit_section_change (acfg, ".text", 1);
3237         emit_global (acfg, symbol, FALSE);
3238         emit_alignment (acfg, 8);
3239         emit_label (acfg, symbol);
3240
3241         for (i = 0; i < acfg->image->tables [MONO_TABLE_TYPEDEF].rows; ++i) {
3242                 symbol = g_strdup_printf (".LK_I_%x", i);
3243                 emit_symbol_diff (acfg, symbol, "class_info", 0);
3244         }
3245         emit_line (acfg);
3246 }
3247
3248 typedef struct ClassNameTableEntry {
3249         guint32 token, index;
3250         struct ClassNameTableEntry *next;
3251 } ClassNameTableEntry;
3252
3253 static void
3254 emit_class_name_table (MonoAotCompile *acfg)
3255 {
3256         int i, table_size;
3257         guint32 token, hash;
3258         MonoClass *klass;
3259         GPtrArray *table;
3260         char *full_name;
3261         char *symbol;
3262         ClassNameTableEntry *entry, *new_entry;
3263
3264         /*
3265          * Construct a chained hash table for mapping class names to typedef tokens.
3266          */
3267         table_size = g_spaced_primes_closest ((int)(acfg->image->tables [MONO_TABLE_TYPEDEF].rows * 1.5));
3268         table = g_ptr_array_sized_new (table_size);
3269         for (i = 0; i < table_size; ++i)
3270                 g_ptr_array_add (table, NULL);
3271         for (i = 0; i < acfg->image->tables [MONO_TABLE_TYPEDEF].rows; ++i) {
3272                 token = MONO_TOKEN_TYPE_DEF | (i + 1);
3273                 klass = mono_class_get (acfg->image, token);
3274                 full_name = mono_type_get_name_full (mono_class_get_type (klass), MONO_TYPE_NAME_FORMAT_FULL_NAME);
3275                 hash = g_str_hash (full_name) % table_size;
3276                 g_free (full_name);
3277
3278                 /* FIXME: Allocate from the mempool */
3279                 new_entry = g_new0 (ClassNameTableEntry, 1);
3280                 new_entry->token = token;
3281
3282                 entry = g_ptr_array_index (table, hash);
3283                 if (entry == NULL) {
3284                         new_entry->index = hash;
3285                         g_ptr_array_index (table, hash) = new_entry;
3286                 } else {
3287                         while (entry->next)
3288                                 entry = entry->next;
3289
3290                         entry->next = new_entry;
3291                         new_entry->index = table->len;
3292                         g_ptr_array_add (table, new_entry);
3293                 }
3294         }
3295
3296         /* Emit the table */
3297         symbol = g_strdup_printf ("class_name_table");
3298         emit_section_change (acfg, ".text", 0);
3299         emit_global (acfg, symbol, FALSE);
3300         emit_alignment (acfg, 8);
3301         emit_label (acfg, symbol);
3302
3303         /* FIXME: Optimize memory usage */
3304         g_assert (table_size < 65000);
3305         emit_int16 (acfg, table_size);
3306         g_assert (table->len < 65000);
3307         for (i = 0; i < table->len; ++i) {
3308                 ClassNameTableEntry *entry = g_ptr_array_index (table, i);
3309
3310                 if (entry == NULL) {
3311                         emit_int16 (acfg, 0);
3312                         emit_int16 (acfg, 0);
3313                 } else {
3314                         emit_int16 (acfg, mono_metadata_token_index (entry->token));
3315                         if (entry->next)
3316                                 emit_int16 (acfg, entry->next->index);
3317                         else
3318                                 emit_int16 (acfg, 0);
3319                 }
3320         }
3321 }
3322
3323 static void
3324 emit_image_table (MonoAotCompile *acfg)
3325 {
3326         int i;
3327         char *symbol;
3328
3329         /*
3330          * The image table is small but referenced in a lot of places.
3331          * So we emit it at once, and reference its elements by an index.
3332          */
3333
3334         symbol = g_strdup_printf ("mono_image_table");
3335         emit_section_change (acfg, ".text", 1);
3336         emit_global (acfg, symbol, FALSE);
3337         emit_alignment (acfg, 8);
3338         emit_label (acfg, symbol);
3339         emit_int32 (acfg, acfg->image_table->len);
3340         for (i = 0; i < acfg->image_table->len; i++) {
3341                 MonoImage *image = (MonoImage*)g_ptr_array_index (acfg->image_table, i);
3342                 MonoAssemblyName *aname = &image->assembly->aname;
3343
3344                 /* FIXME: Support multi-module assemblies */
3345                 g_assert (image->assembly->image == image);
3346
3347                 emit_string (acfg, image->assembly_name);
3348                 emit_string (acfg, image->guid);
3349                 emit_string (acfg, aname->culture ? aname->culture : "");
3350                 emit_string (acfg, (const char*)aname->public_key_token);
3351
3352                 emit_alignment (acfg, 8);
3353                 emit_int32 (acfg, aname->flags);
3354                 emit_int32 (acfg, aname->major);
3355                 emit_int32 (acfg, aname->minor);
3356                 emit_int32 (acfg, aname->build);
3357                 emit_int32 (acfg, aname->revision);
3358         }
3359 }
3360
3361 static void
3362 emit_got_info (MonoAotCompile *acfg)
3363 {
3364         char *symbol;
3365         int i, buf_size;
3366         guint8 *p, *buf;
3367         guint32 *got_info_offsets;
3368
3369         /**
3370          * FIXME:
3371          * - optimize offsets table.
3372          * - reduce number of exported symbols.
3373          * - emit info for a klass only once.
3374          * - determine when a method uses a GOT slot which is guaranteed to be already
3375          *   initialized.
3376          * - clean up and document the code.
3377          * - use String.Empty in class libs.
3378          */
3379
3380         /* Encode info required to decode shared GOT entries */
3381         buf_size = acfg->shared_patches->len * 64;
3382         p = buf = mono_mempool_alloc (acfg->mempool, buf_size);
3383         got_info_offsets = mono_mempool_alloc (acfg->mempool, acfg->shared_patches->len * sizeof (guint32));
3384         for (i = 0; i < acfg->shared_patches->len; ++i) {
3385                 MonoJumpInfo *ji = g_ptr_array_index (acfg->shared_patches, i);
3386
3387                 /* No need to encode the patch type */
3388                 got_info_offsets [i] = p - buf;
3389                 encode_patch (acfg, ji, p, &p, FALSE);
3390         }
3391
3392         g_assert (p - buf <= buf_size);
3393
3394         acfg->stats.got_info_size = p - buf;
3395
3396         /* Emit got_info table */
3397         symbol = g_strdup_printf ("got_info");
3398         emit_section_change (acfg, ".text", 1);
3399         emit_global (acfg, symbol, FALSE);
3400         emit_alignment (acfg, 8);
3401         emit_label (acfg, symbol);
3402
3403         emit_bytes (acfg, buf, p - buf);
3404
3405         /* Emit got_info_offsets table */
3406         symbol = g_strdup_printf ("got_info_offsets");
3407         emit_section_change (acfg, ".text", 1);
3408         emit_global (acfg, symbol, FALSE);
3409         emit_alignment (acfg, 8);
3410         emit_label (acfg, symbol);
3411
3412         for (i = 0; i < acfg->shared_patches->len; ++i)
3413                 emit_int32 (acfg, got_info_offsets [i]);
3414
3415         acfg->stats.got_info_offsets_size = acfg->shared_patches->len * 4;
3416 }
3417
3418 static void
3419 emit_got (MonoAotCompile *acfg)
3420 {
3421         char *symbol;
3422
3423         /* Don't make GOT global so accesses to it don't need relocations */
3424         symbol = g_strdup_printf ("got");
3425         emit_section_change (acfg, ".bss", 1);
3426         emit_alignment (acfg, 8);
3427         emit_label (acfg, symbol);
3428         if (acfg->got_offset > 0)
3429                 emit_zero_bytes (acfg, (int)(acfg->got_offset * sizeof (gpointer)));
3430
3431         symbol = g_strdup_printf ("got_addr");
3432         emit_section_change (acfg, ".data", 1);
3433         emit_global (acfg, symbol, FALSE);
3434         emit_alignment (acfg, 8);
3435         emit_label (acfg, symbol);
3436         emit_pointer (acfg, "got");
3437
3438         symbol = g_strdup_printf ("got_size");
3439         emit_section_change (acfg, ".data", 1);
3440         emit_global (acfg, symbol, FALSE);
3441         emit_alignment (acfg, 8);
3442         emit_label (acfg, symbol);
3443         emit_int32 (acfg, (int)(acfg->got_offset * sizeof (gpointer)));
3444 }
3445
3446 static void
3447 emit_globals (MonoAotCompile *acfg)
3448 {
3449         char *opts_str;
3450
3451         emit_string_symbol (acfg, "mono_assembly_guid" , acfg->image->guid);
3452
3453         emit_string_symbol (acfg, "mono_aot_version", MONO_AOT_FILE_VERSION);
3454
3455         opts_str = g_strdup_printf ("%d", acfg->opts);
3456         emit_string_symbol (acfg, "mono_aot_opt_flags", opts_str);
3457         g_free (opts_str);
3458
3459         if (acfg->aot_opts.bind_to_runtime_version)
3460                 emit_string_symbol (acfg, "mono_runtime_version", FULL_VERSION);
3461         else
3462                 emit_string_symbol (acfg, "mono_runtime_version", "");
3463 }
3464
3465 int
3466 mono_compile_assembly (MonoAssembly *ass, guint32 opts, const char *aot_options)
3467 {
3468         MonoImage *image = ass->image;
3469         char *symbol;
3470         int i;
3471         MonoAotCompile *acfg;
3472         MonoCompile **cfgs;
3473
3474         printf ("Mono Ahead of Time compiler - compiling assembly %s\n", image->name);
3475
3476         acfg = g_new0 (MonoAotCompile, 1);
3477         acfg->plt_offset_to_patch = g_hash_table_new (NULL, NULL);
3478         acfg->patch_to_plt_offset = g_hash_table_new (NULL, NULL);
3479         acfg->patch_to_plt_offset_wrapper = g_malloc0 (sizeof (GHashTable*) * 128);
3480         acfg->patch_to_shared_got_offset = g_hash_table_new (mono_patch_info_hash, mono_patch_info_equal);
3481         acfg->shared_patches = g_ptr_array_new ();
3482         acfg->method_to_cfg = g_hash_table_new (NULL, NULL);
3483         acfg->wrapper_to_method = g_hash_table_new (NULL, NULL);
3484         acfg->token_info_hash = g_hash_table_new (NULL, NULL);
3485         acfg->image_hash = g_hash_table_new (NULL, NULL);
3486         acfg->image_table = g_ptr_array_new ();
3487         acfg->image = image;
3488         acfg->opts = opts;
3489         acfg->mempool = mono_mempool_new ();
3490
3491         mono_aot_parse_options (aot_options, &acfg->aot_opts);
3492
3493         load_profile_files (acfg);
3494
3495         emit_start (acfg);
3496
3497         cfgs = g_new0 (MonoCompile*, image->tables [MONO_TABLE_METHOD].rows + 32);
3498         acfg->cfgs = cfgs;
3499         acfg->nmethods = image->tables [MONO_TABLE_METHOD].rows;
3500         acfg->method_got_offsets = g_new0 (guint32, image->tables [MONO_TABLE_METHOD].rows + 32);
3501         acfg->has_got_slots = g_new0 (gboolean, image->tables [MONO_TABLE_METHOD].rows + 32);
3502
3503         /* PLT offset 0 is reserved for the PLT trampoline */
3504         acfg->plt_offset = 1;
3505
3506         /* Compile methods */
3507         for (i = 0; i < acfg->nmethods; ++i)
3508                 compile_method (acfg, i);
3509
3510         alloc_got_slots (acfg);
3511
3512         emit_code (acfg);
3513
3514         emit_info (acfg);
3515
3516         emit_method_order (acfg);
3517
3518         emit_class_name_table (acfg);
3519
3520         emit_got_info (acfg);
3521
3522         emit_exception_info (acfg);
3523
3524         emit_class_info (acfg);
3525
3526         emit_plt (acfg);
3527
3528         emit_image_table (acfg);
3529
3530         emit_got (acfg);
3531
3532         emit_globals (acfg);
3533
3534         symbol = g_strdup_printf ("mem_end");
3535         emit_section_change (acfg, ".text", 1);
3536         emit_global (acfg, symbol, FALSE);
3537         emit_alignment (acfg, 8);
3538         emit_label (acfg, symbol);
3539
3540         printf ("Code: %d Info: %d Ex Info: %d Class Info: %d PLT: %d GOT Info: %d GOT Info Offsets: %d GOT: %d\n", acfg->stats.code_size, acfg->stats.info_size, acfg->stats.ex_info_size, acfg->stats.class_info_size, acfg->plt_offset, acfg->stats.got_info_size, acfg->stats.got_info_offsets_size, (int)(acfg->got_offset * sizeof (gpointer)));
3541
3542         emit_writeout (acfg);
3543
3544         printf ("Compiled %d out of %d methods (%d%%)\n", acfg->stats.ccount, acfg->stats.mcount, acfg->stats.mcount ? (acfg->stats.ccount * 100) / acfg->stats.mcount : 100);
3545         printf ("%d methods are generic (%d%%)\n", acfg->stats.genericcount, acfg->stats.mcount ? (acfg->stats.genericcount * 100) / acfg->stats.mcount : 100);
3546         printf ("%d methods contain absolute addresses (%d%%)\n", acfg->stats.abscount, acfg->stats.mcount ? (acfg->stats.abscount * 100) / acfg->stats.mcount : 100);
3547         printf ("%d methods contain wrapper references (%d%%)\n", acfg->stats.wrappercount, acfg->stats.mcount ? (acfg->stats.wrappercount * 100) / acfg->stats.mcount : 100);
3548         printf ("%d methods contain lmf pointers (%d%%)\n", acfg->stats.lmfcount, acfg->stats.mcount ? (acfg->stats.lmfcount * 100) / acfg->stats.mcount : 100);
3549         printf ("%d methods have other problems (%d%%)\n", acfg->stats.ocount, acfg->stats.mcount ? (acfg->stats.ocount * 100) / acfg->stats.mcount : 100);
3550         printf ("Methods without GOT slots: %d (%d%%)\n", acfg->stats.methods_without_got_slots, acfg->stats.mcount ? (acfg->stats.methods_without_got_slots * 100) / acfg->stats.mcount : 100);
3551         printf ("Direct calls: %d (%d%%)\n", acfg->stats.direct_calls, acfg->stats.all_calls ? (acfg->stats.direct_calls * 100) / acfg->stats.all_calls : 100);
3552
3553         printf ("GOT slot distribution:\n");
3554         for (i = 0; i < MONO_PATCH_INFO_NONE; ++i)
3555                 if (acfg->stats.got_slot_types [i])
3556                         printf ("\t%s: %d\n", get_patch_name (i), acfg->stats.got_slot_types [i]);
3557
3558         return 0;
3559 }
3560
3561 #else
3562
3563 /* AOT disabled */
3564
3565 int
3566 mono_compile_assembly (MonoAssembly *ass, guint32 opts, const char *aot_options)
3567 {
3568         return 0;
3569 }
3570
3571 #endif