cd331384c20c5005ad26f56ac16302bdf20b6c7c
[mono.git] / mono / metadata / boehm-gc.c
1 /*
2  * boehm-gc.c: GC implementation using either the installed or included Boehm GC.
3  *
4  * Copyright 2001-2003 Ximian, Inc (http://www.ximian.com)
5  * Copyright 2004-2011 Novell, Inc (http://www.novell.com)
6  * Copyright 2011-2012 Xamarin, Inc (http://www.xamarin.com)
7  */
8
9 #include "config.h"
10
11 #include <string.h>
12
13 #define GC_I_HIDE_POINTERS
14 #include <mono/metadata/gc-internal.h>
15 #include <mono/metadata/mono-gc.h>
16 #include <mono/metadata/profiler-private.h>
17 #include <mono/metadata/class-internals.h>
18 #include <mono/metadata/method-builder.h>
19 #include <mono/metadata/opcodes.h>
20 #include <mono/metadata/domain-internals.h>
21 #include <mono/metadata/metadata-internals.h>
22 #include <mono/metadata/marshal.h>
23 #include <mono/metadata/runtime.h>
24 #include <mono/metadata/sgen-toggleref.h>
25 #include <mono/utils/atomic.h>
26 #include <mono/utils/mono-logger-internal.h>
27 #include <mono/utils/mono-memory-model.h>
28 #include <mono/utils/mono-time.h>
29 #include <mono/utils/mono-threads.h>
30 #include <mono/utils/dtrace.h>
31 #include <mono/utils/gc_wrapper.h>
32 #include <mono/utils/mono-mutex.h>
33
34 #if HAVE_BOEHM_GC
35
36 #ifdef USE_INCLUDED_LIBGC
37 #undef TRUE
38 #undef FALSE
39 #define THREAD_LOCAL_ALLOC 1
40 #include "private/pthread_support.h"
41 #endif
42
43 #if defined(PLATFORM_MACOSX) && defined(HAVE_PTHREAD_GET_STACKADDR_NP)
44 void *pthread_get_stackaddr_np(pthread_t);
45 #endif
46
47 #define GC_NO_DESCRIPTOR ((gpointer)(0 | GC_DS_LENGTH))
48 /*Boehm max heap cannot be smaller than 16MB*/
49 #define MIN_BOEHM_MAX_HEAP_SIZE_IN_MB 16
50 #define MIN_BOEHM_MAX_HEAP_SIZE (MIN_BOEHM_MAX_HEAP_SIZE_IN_MB << 20)
51
52 static gboolean gc_initialized = FALSE;
53 static mono_mutex_t mono_gc_lock;
54
55 static void*
56 boehm_thread_register (MonoThreadInfo* info, void *baseptr);
57 static void
58 boehm_thread_unregister (MonoThreadInfo *p);
59 static void
60 register_test_toggleref_callback (void);
61
62 static void
63 mono_gc_warning (char *msg, GC_word arg)
64 {
65         mono_trace (G_LOG_LEVEL_WARNING, MONO_TRACE_GC, msg, (unsigned long)arg);
66 }
67
68 void
69 mono_gc_base_init (void)
70 {
71         MonoThreadInfoCallbacks cb;
72         const char *env;
73         int dummy;
74
75         if (gc_initialized)
76                 return;
77
78         /*
79          * Handle the case when we are called from a thread different from the main thread,
80          * confusing libgc.
81          * FIXME: Move this to libgc where it belongs.
82          *
83          * we used to do this only when running on valgrind,
84          * but it happens also in other setups.
85          */
86 #if defined(HAVE_PTHREAD_GETATTR_NP) && defined(HAVE_PTHREAD_ATTR_GETSTACK) && !defined(__native_client__)
87         {
88                 size_t size;
89                 void *sstart;
90                 pthread_attr_t attr;
91                 pthread_getattr_np (pthread_self (), &attr);
92                 pthread_attr_getstack (&attr, &sstart, &size);
93                 pthread_attr_destroy (&attr); 
94                 /*g_print ("stackbottom pth is: %p\n", (char*)sstart + size);*/
95 #ifdef __ia64__
96                 /*
97                  * The calculation above doesn't seem to work on ia64, also we need to set
98                  * GC_register_stackbottom as well, but don't know how.
99                  */
100 #else
101                 /* apparently with some linuxthreads implementations sstart can be NULL,
102                  * fallback to the more imprecise method (bug# 78096).
103                  */
104                 if (sstart) {
105                         GC_stackbottom = (char*)sstart + size;
106                 } else {
107                         int dummy;
108                         gsize stack_bottom = (gsize)&dummy;
109                         stack_bottom += 4095;
110                         stack_bottom &= ~4095;
111                         GC_stackbottom = (char*)stack_bottom;
112                 }
113 #endif
114         }
115 #elif defined(HAVE_PTHREAD_GET_STACKSIZE_NP) && defined(HAVE_PTHREAD_GET_STACKADDR_NP)
116                 GC_stackbottom = (char*)pthread_get_stackaddr_np (pthread_self ());
117 #elif defined(__OpenBSD__)
118 #  include <pthread_np.h>
119         {
120                 stack_t ss;
121                 int rslt;
122
123                 rslt = pthread_stackseg_np(pthread_self(), &ss);
124                 g_assert (rslt == 0);
125
126                 GC_stackbottom = (char*)ss.ss_sp;
127         }
128 #elif defined(__native_client__)
129         /* Do nothing, GC_stackbottom is set correctly in libgc */
130 #else
131         {
132                 int dummy;
133                 gsize stack_bottom = (gsize)&dummy;
134                 stack_bottom += 4095;
135                 stack_bottom &= ~4095;
136                 /*g_print ("stackbottom is: %p\n", (char*)stack_bottom);*/
137                 GC_stackbottom = (char*)stack_bottom;
138         }
139 #endif
140
141 #if !defined(PLATFORM_ANDROID)
142         /* If GC_no_dls is set to true, GC_find_limit is not called. This causes a seg fault on Android. */
143         GC_no_dls = TRUE;
144 #endif
145         GC_init ();
146         GC_oom_fn = mono_gc_out_of_memory;
147         GC_set_warn_proc (mono_gc_warning);
148         GC_finalize_on_demand = 1;
149         GC_finalizer_notifier = mono_gc_finalize_notify;
150
151 #ifdef HAVE_GC_GCJ_MALLOC
152         GC_init_gcj_malloc (5, NULL);
153 #endif
154
155 #ifdef HAVE_GC_ALLOW_REGISTER_THREADS
156         GC_allow_register_threads();
157 #endif
158
159         if ((env = g_getenv ("MONO_GC_PARAMS"))) {
160                 char **ptr, **opts = g_strsplit (env, ",", -1);
161                 for (ptr = opts; *ptr; ++ptr) {
162                         char *opt = *ptr;
163                         if (g_str_has_prefix (opt, "max-heap-size=")) {
164                                 glong max_heap;
165
166                                 opt = strchr (opt, '=') + 1;
167                                 if (*opt && mono_gc_parse_environment_string_extract_number (opt, &max_heap)) {
168                                         if (max_heap < MIN_BOEHM_MAX_HEAP_SIZE) {
169                                                 fprintf (stderr, "max-heap-size must be at least %dMb.\n", MIN_BOEHM_MAX_HEAP_SIZE_IN_MB);
170                                                 exit (1);
171                                         }
172                                         GC_set_max_heap_size (max_heap);
173                                 } else {
174                                         fprintf (stderr, "max-heap-size must be an integer.\n");
175                                         exit (1);
176                                 }
177                                 continue;
178                         } else if (g_str_has_prefix (opt, "toggleref-test")) {
179                                 register_test_toggleref_callback ();
180                                 continue;
181                         } else {
182                                 /* Could be a parameter for sgen */
183                                 /*
184                                 fprintf (stderr, "MONO_GC_PARAMS must be a comma-delimited list of one or more of the following:\n");
185                                 fprintf (stderr, "  max-heap-size=N (where N is an integer, possibly with a k, m or a g suffix)\n");
186                                 exit (1);
187                                 */
188                         }
189                 }
190                 g_strfreev (opts);
191         }
192
193         memset (&cb, 0, sizeof (cb));
194         cb.thread_register = boehm_thread_register;
195         cb.thread_unregister = boehm_thread_unregister;
196         cb.mono_method_is_critical = (gpointer)mono_runtime_is_critical_method;
197 #ifndef HOST_WIN32
198         cb.thread_exit = mono_gc_pthread_exit;
199         cb.mono_gc_pthread_create = (gpointer)mono_gc_pthread_create;
200 #endif
201         
202         mono_threads_init (&cb, sizeof (MonoThreadInfo));
203         mono_mutex_init (&mono_gc_lock);
204
205         mono_thread_info_attach (&dummy);
206
207         mono_gc_enable_events ();
208         gc_initialized = TRUE;
209 }
210
211 /**
212  * mono_gc_collect:
213  * @generation: GC generation identifier
214  *
215  * Perform a garbage collection for the given generation, higher numbers
216  * mean usually older objects. Collecting a high-numbered generation
217  * implies collecting also the lower-numbered generations.
218  * The maximum value for @generation can be retrieved with a call to
219  * mono_gc_max_generation(), so this function is usually called as:
220  *
221  *      mono_gc_collect (mono_gc_max_generation ());
222  */
223 void
224 mono_gc_collect (int generation)
225 {
226 #ifndef DISABLE_PERFCOUNTERS
227         mono_perfcounters->gc_induced++;
228 #endif
229         GC_gcollect ();
230 }
231
232 /**
233  * mono_gc_max_generation:
234  *
235  * Get the maximum generation number used by the current garbage
236  * collector. The value will be 0 for the Boehm collector, 1 or more
237  * for the generational collectors.
238  *
239  * Returns: the maximum generation number.
240  */
241 int
242 mono_gc_max_generation (void)
243 {
244         return 0;
245 }
246
247 /**
248  * mono_gc_get_generation:
249  * @object: a managed object
250  *
251  * Get the garbage collector's generation that @object belongs to.
252  * Use this has a hint only.
253  *
254  * Returns: a garbage collector generation number
255  */
256 int
257 mono_gc_get_generation  (MonoObject *object)
258 {
259         return 0;
260 }
261
262 /**
263  * mono_gc_collection_count:
264  * @generation: a GC generation number
265  *
266  * Get how many times a garbage collection has been performed
267  * for the given @generation number.
268  *
269  * Returns: the number of garbage collections
270  */
271 int
272 mono_gc_collection_count (int generation)
273 {
274         return GC_gc_no;
275 }
276
277 /**
278  * mono_gc_add_memory_pressure:
279  * @value: amount of bytes
280  *
281  * Adjust the garbage collector's view of how many bytes of memory
282  * are indirectly referenced by managed objects (for example unmanaged
283  * memory holding image or other binary data).
284  * This is a hint only to the garbage collector algorithm.
285  * Note that negative amounts of @value will decrease the memory
286  * pressure.
287  */
288 void
289 mono_gc_add_memory_pressure (gint64 value)
290 {
291 }
292
293 /**
294  * mono_gc_get_used_size:
295  *
296  * Get the approximate amount of memory used by managed objects.
297  *
298  * Returns: the amount of memory used in bytes
299  */
300 int64_t
301 mono_gc_get_used_size (void)
302 {
303         return GC_get_heap_size () - GC_get_free_bytes ();
304 }
305
306 /**
307  * mono_gc_get_heap_size:
308  *
309  * Get the amount of memory used by the garbage collector.
310  *
311  * Returns: the size of the heap in bytes
312  */
313 int64_t
314 mono_gc_get_heap_size (void)
315 {
316         return GC_get_heap_size ();
317 }
318
319 gboolean
320 mono_gc_is_gc_thread (void)
321 {
322 #if GC_VERSION_MAJOR >= 7
323         return TRUE;
324 #elif defined(USE_INCLUDED_LIBGC)
325         return GC_thread_is_registered ();
326 #else
327         return TRUE;
328 #endif
329 }
330
331 extern int GC_thread_register_foreign (void *base_addr);
332
333 gboolean
334 mono_gc_register_thread (void *baseptr)
335 {
336         return mono_thread_info_attach (baseptr) != NULL;
337 }
338
339 static void*
340 boehm_thread_register (MonoThreadInfo* info, void *baseptr)
341 {
342 #if GC_VERSION_MAJOR >= 7
343         struct GC_stack_base sb;
344         int res;
345
346         res = GC_get_stack_base (&sb);
347         if (res != GC_SUCCESS) {
348                 sb.mem_base = baseptr;
349 #ifdef __ia64__
350                 /* Can't determine the register stack bounds */
351                 g_error ("mono_gc_register_thread failed ().\n");
352 #endif
353         }
354         res = GC_register_my_thread (&sb);
355         if ((res != GC_SUCCESS) && (res != GC_DUPLICATE)) {
356                 g_warning ("GC_register_my_thread () failed.\n");
357                 return NULL;
358         }
359         return info;
360 #else
361         if (mono_gc_is_gc_thread())
362                 return info;
363 #if defined(USE_INCLUDED_LIBGC) && !defined(HOST_WIN32)
364         return GC_thread_register_foreign (baseptr) ? info : NULL;
365 #else
366         return NULL;
367 #endif
368 #endif
369 }
370
371 static void
372 boehm_thread_unregister (MonoThreadInfo *p)
373 {
374         MonoNativeThreadId tid;
375
376         tid = mono_thread_info_get_tid (p);
377
378         mono_threads_add_joinable_thread ((gpointer)tid);
379 }
380
381 gboolean
382 mono_object_is_alive (MonoObject* o)
383 {
384 #ifdef USE_INCLUDED_LIBGC
385         return GC_is_marked ((gpointer)o);
386 #else
387         return TRUE;
388 #endif
389 }
390
391 int
392 mono_gc_walk_heap (int flags, MonoGCReferences callback, void *data)
393 {
394         return 1;
395 }
396
397 #ifdef USE_INCLUDED_LIBGC
398
399 static gint64 gc_start_time;
400
401 static void
402 on_gc_notification (GCEventType event)
403 {
404         MonoGCEvent e = (MonoGCEvent)event;
405
406         switch (e) {
407         case MONO_GC_EVENT_PRE_STOP_WORLD:
408                 MONO_GC_WORLD_STOP_BEGIN ();
409                 mono_thread_info_suspend_lock ();
410                 break;
411
412         case MONO_GC_EVENT_POST_STOP_WORLD:
413                 MONO_GC_WORLD_STOP_END ();
414                 break;
415
416         case MONO_GC_EVENT_PRE_START_WORLD:
417                 MONO_GC_WORLD_RESTART_BEGIN (1);
418                 break;
419
420         case MONO_GC_EVENT_POST_START_WORLD:
421                 MONO_GC_WORLD_RESTART_END (1);
422                 mono_thread_info_suspend_unlock ();
423                 break;
424
425         case MONO_GC_EVENT_START:
426                 MONO_GC_BEGIN (1);
427 #ifndef DISABLE_PERFCOUNTERS
428                 if (mono_perfcounters)
429                         mono_perfcounters->gc_collections0++;
430 #endif
431                 gc_stats.major_gc_count ++;
432                 gc_start_time = mono_100ns_ticks ();
433                 break;
434
435         case MONO_GC_EVENT_END:
436                 MONO_GC_END (1);
437 #if defined(ENABLE_DTRACE) && defined(__sun__)
438                 /* This works around a dtrace -G problem on Solaris.
439                    Limit its actual use to when the probe is enabled. */
440                 if (MONO_GC_END_ENABLED ())
441                         sleep(0);
442 #endif
443
444 #ifndef DISABLE_PERFCOUNTERS
445                 if (mono_perfcounters) {
446                         guint64 heap_size = GC_get_heap_size ();
447                         guint64 used_size = heap_size - GC_get_free_bytes ();
448                         mono_perfcounters->gc_total_bytes = used_size;
449                         mono_perfcounters->gc_committed_bytes = heap_size;
450                         mono_perfcounters->gc_reserved_bytes = heap_size;
451                         mono_perfcounters->gc_gen0size = heap_size;
452                 }
453 #endif
454                 gc_stats.major_gc_time_usecs += (mono_100ns_ticks () - gc_start_time) / 10;
455                 mono_trace_message (MONO_TRACE_GC, "gc took %d usecs", (mono_100ns_ticks () - gc_start_time) / 10);
456                 break;
457         }
458
459         mono_profiler_gc_event (e, 0);
460 }
461  
462 static void
463 on_gc_heap_resize (size_t new_size)
464 {
465         guint64 heap_size = GC_get_heap_size ();
466 #ifndef DISABLE_PERFCOUNTERS
467         if (mono_perfcounters) {
468                 mono_perfcounters->gc_committed_bytes = heap_size;
469                 mono_perfcounters->gc_reserved_bytes = heap_size;
470                 mono_perfcounters->gc_gen0size = heap_size;
471         }
472 #endif
473         mono_profiler_gc_heap_resize (new_size);
474 }
475
476 void
477 mono_gc_enable_events (void)
478 {
479         GC_notify_event = on_gc_notification;
480         GC_on_heap_resize = on_gc_heap_resize;
481 }
482
483 #else
484
485 void
486 mono_gc_enable_events (void)
487 {
488 }
489
490 #endif
491
492 int
493 mono_gc_register_root (char *start, size_t size, void *descr)
494 {
495         /* for some strange reason, they want one extra byte on the end */
496         GC_add_roots (start, start + size + 1);
497
498         return TRUE;
499 }
500
501 void
502 mono_gc_deregister_root (char* addr)
503 {
504 #ifndef HOST_WIN32
505         /* FIXME: libgc doesn't define this work win32 for some reason */
506         /* FIXME: No size info */
507         GC_remove_roots (addr, addr + sizeof (gpointer) + 1);
508 #endif
509 }
510
511 void
512 mono_gc_weak_link_add (void **link_addr, MonoObject *obj, gboolean track)
513 {
514         /* libgc requires that we use HIDE_POINTER... */
515         *link_addr = (void*)HIDE_POINTER (obj);
516         if (track)
517                 GC_REGISTER_LONG_LINK (link_addr, obj);
518         else
519                 GC_GENERAL_REGISTER_DISAPPEARING_LINK (link_addr, obj);
520 }
521
522 void
523 mono_gc_weak_link_remove (void **link_addr, gboolean track)
524 {
525         if (track)
526                 GC_unregister_long_link (link_addr);
527         else
528                 GC_unregister_disappearing_link (link_addr);
529         *link_addr = NULL;
530 }
531
532 static gpointer
533 reveal_link (gpointer link_addr)
534 {
535         void **link_a = link_addr;
536         return REVEAL_POINTER (*link_a);
537 }
538
539 MonoObject*
540 mono_gc_weak_link_get (void **link_addr)
541 {
542         MonoObject *obj = GC_call_with_alloc_lock (reveal_link, link_addr);
543         if (obj == (MonoObject *) -1)
544                 return NULL;
545         return obj;
546 }
547
548 void*
549 mono_gc_make_descr_for_string (gsize *bitmap, int numbits)
550 {
551         return mono_gc_make_descr_from_bitmap (bitmap, numbits);
552 }
553
554 void*
555 mono_gc_make_descr_for_object (gsize *bitmap, int numbits, size_t obj_size)
556 {
557         return mono_gc_make_descr_from_bitmap (bitmap, numbits);
558 }
559
560 void*
561 mono_gc_make_descr_for_array (int vector, gsize *elem_bitmap, int numbits, size_t elem_size)
562 {
563         /* libgc has no usable support for arrays... */
564         return GC_NO_DESCRIPTOR;
565 }
566
567 void*
568 mono_gc_make_descr_from_bitmap (gsize *bitmap, int numbits)
569 {
570 #ifdef HAVE_GC_GCJ_MALLOC
571         /* It seems there are issues when the bitmap doesn't fit: play it safe */
572         if (numbits >= 30)
573                 return GC_NO_DESCRIPTOR;
574         else
575                 return (gpointer)GC_make_descriptor ((GC_bitmap)bitmap, numbits);
576 #else
577         return NULL;
578 #endif
579 }
580
581 void*
582 mono_gc_make_root_descr_all_refs (int numbits)
583 {
584         return NULL;
585 }
586
587 void*
588 mono_gc_alloc_fixed (size_t size, void *descr)
589 {
590         /* To help track down typed allocation bugs */
591         /*
592         static int count;
593         count ++;
594         if (count == atoi (g_getenv ("COUNT2")))
595                 printf ("HIT!\n");
596         if (count > atoi (g_getenv ("COUNT2")))
597                 return GC_MALLOC (size);
598         */
599
600         if (descr)
601                 return GC_MALLOC_EXPLICITLY_TYPED (size, (GC_descr)descr);
602         else
603                 return GC_MALLOC (size);
604 }
605
606 void
607 mono_gc_free_fixed (void* addr)
608 {
609 }
610
611 int
612 mono_gc_invoke_finalizers (void)
613 {
614         /* There is a bug in GC_invoke_finalizer () in versions <= 6.2alpha4:
615          * the 'mem_freed' variable is not initialized when there are no
616          * objects to finalize, which leads to strange behavior later on.
617          * The check is necessary to work around that bug.
618          */
619         if (GC_should_invoke_finalizers ())
620                 return GC_invoke_finalizers ();
621         return 0;
622 }
623
624 gboolean
625 mono_gc_pending_finalizers (void)
626 {
627         return GC_should_invoke_finalizers ();
628 }
629
630 void
631 mono_gc_wbarrier_set_field (MonoObject *obj, gpointer field_ptr, MonoObject* value)
632 {
633         *(void**)field_ptr = value;
634 }
635
636 void
637 mono_gc_wbarrier_set_arrayref (MonoArray *arr, gpointer slot_ptr, MonoObject* value)
638 {
639         *(void**)slot_ptr = value;
640 }
641
642 void
643 mono_gc_wbarrier_arrayref_copy (gpointer dest_ptr, gpointer src_ptr, int count)
644 {
645         mono_gc_memmove_aligned (dest_ptr, src_ptr, count * sizeof (gpointer));
646 }
647
648 void
649 mono_gc_wbarrier_generic_store (gpointer ptr, MonoObject* value)
650 {
651         *(void**)ptr = value;
652 }
653
654 void
655 mono_gc_wbarrier_generic_store_atomic (gpointer ptr, MonoObject *value)
656 {
657         InterlockedWritePointer (ptr, value);
658 }
659
660 void
661 mono_gc_wbarrier_generic_nostore (gpointer ptr)
662 {
663 }
664
665 void
666 mono_gc_wbarrier_value_copy (gpointer dest, gpointer src, int count, MonoClass *klass)
667 {
668         mono_gc_memmove_atomic (dest, src, count * mono_class_value_size (klass, NULL));
669 }
670
671 void
672 mono_gc_wbarrier_object_copy (MonoObject* obj, MonoObject *src)
673 {
674         /* do not copy the sync state */
675         mono_gc_memmove_aligned ((char*)obj + sizeof (MonoObject), (char*)src + sizeof (MonoObject),
676                         mono_object_class (obj)->instance_size - sizeof (MonoObject));
677 }
678
679 void
680 mono_gc_clear_domain (MonoDomain *domain)
681 {
682 }
683
684 int
685 mono_gc_get_suspend_signal (void)
686 {
687 #ifdef USE_INCLUDED_GC
688         return GC_get_suspend_signal ();
689 #else
690         return -1;
691 #endif
692 }
693
694 #if defined(USE_INCLUDED_LIBGC) && defined(USE_COMPILER_TLS) && defined(__linux__) && (defined(__i386__) || defined(__x86_64__))
695 extern __thread MONO_TLS_FAST void* GC_thread_tls;
696 #include "metadata-internals.h"
697
698 static int
699 shift_amount (int v)
700 {
701         int i = 0;
702         while (!(v & (1 << i)))
703                 i++;
704         return i;
705 }
706
707 enum {
708         ATYPE_FREEPTR,
709         ATYPE_FREEPTR_FOR_BOX,
710         ATYPE_NORMAL,
711         ATYPE_GCJ,
712         ATYPE_STRING,
713         ATYPE_NUM
714 };
715
716 static MonoMethod*
717 create_allocator (int atype, int tls_key)
718 {
719         int index_var, bytes_var, my_fl_var, my_entry_var;
720         guint32 no_freelist_branch, not_small_enough_branch = 0;
721         guint32 size_overflow_branch = 0;
722         MonoMethodBuilder *mb;
723         MonoMethod *res;
724         MonoMethodSignature *csig;
725         AllocatorWrapperInfo *info;
726
727         if (atype == ATYPE_STRING) {
728                 csig = mono_metadata_signature_alloc (mono_defaults.corlib, 2);
729                 csig->ret = &mono_defaults.string_class->byval_arg;
730                 csig->params [0] = &mono_defaults.int_class->byval_arg;
731                 csig->params [1] = &mono_defaults.int32_class->byval_arg;
732         } else {
733                 csig = mono_metadata_signature_alloc (mono_defaults.corlib, 1);
734                 csig->ret = &mono_defaults.object_class->byval_arg;
735                 csig->params [0] = &mono_defaults.int_class->byval_arg;
736         }
737
738         mb = mono_mb_new (mono_defaults.object_class, "Alloc", MONO_WRAPPER_ALLOC);
739         bytes_var = mono_mb_add_local (mb, &mono_defaults.int32_class->byval_arg);
740         if (atype == ATYPE_STRING) {
741                 /* a string alloator method takes the args: (vtable, len) */
742                 /* bytes = (sizeof (MonoString) + ((len + 1) * 2)); */
743                 mono_mb_emit_ldarg (mb, 1);
744                 mono_mb_emit_icon (mb, 1);
745                 mono_mb_emit_byte (mb, MONO_CEE_ADD);
746                 mono_mb_emit_icon (mb, 1);
747                 mono_mb_emit_byte (mb, MONO_CEE_SHL);
748                 // sizeof (MonoString) might include padding
749                 mono_mb_emit_icon (mb, G_STRUCT_OFFSET (MonoString, chars));
750                 mono_mb_emit_byte (mb, MONO_CEE_ADD);
751                 mono_mb_emit_stloc (mb, bytes_var);
752         } else {
753                 /* bytes = vtable->klass->instance_size */
754                 mono_mb_emit_ldarg (mb, 0);
755                 mono_mb_emit_icon (mb, G_STRUCT_OFFSET (MonoVTable, klass));
756                 mono_mb_emit_byte (mb, MONO_CEE_ADD);
757                 mono_mb_emit_byte (mb, MONO_CEE_LDIND_I);
758                 mono_mb_emit_icon (mb, G_STRUCT_OFFSET (MonoClass, instance_size));
759                 mono_mb_emit_byte (mb, MONO_CEE_ADD);
760                 /* FIXME: assert instance_size stays a 4 byte integer */
761                 mono_mb_emit_byte (mb, MONO_CEE_LDIND_U4);
762                 mono_mb_emit_stloc (mb, bytes_var);
763         }
764
765         /* this is needed for strings/arrays only as the other big types are never allocated with this method */
766         if (atype == ATYPE_STRING) {
767                 /* check for size */
768                 /* if (!SMALL_ENOUGH (bytes)) jump slow_path;*/
769                 mono_mb_emit_ldloc (mb, bytes_var);
770                 mono_mb_emit_icon (mb, (NFREELISTS-1) * GRANULARITY);
771                 not_small_enough_branch = mono_mb_emit_short_branch (mb, MONO_CEE_BGT_UN_S);
772                 /* check for overflow */
773                 mono_mb_emit_ldloc (mb, bytes_var);
774                 mono_mb_emit_icon (mb, sizeof (MonoString));
775                 size_overflow_branch = mono_mb_emit_short_branch (mb, MONO_CEE_BLE_UN_S);
776         }
777
778         /* int index = INDEX_FROM_BYTES(bytes); */
779         index_var = mono_mb_add_local (mb, &mono_defaults.int32_class->byval_arg);
780         
781         mono_mb_emit_ldloc (mb, bytes_var);
782         mono_mb_emit_icon (mb, GRANULARITY - 1);
783         mono_mb_emit_byte (mb, MONO_CEE_ADD);
784         mono_mb_emit_icon (mb, shift_amount (GRANULARITY));
785         mono_mb_emit_byte (mb, MONO_CEE_SHR_UN);
786         mono_mb_emit_icon (mb, shift_amount (sizeof (gpointer)));
787         mono_mb_emit_byte (mb, MONO_CEE_SHL);
788         /* index var is already adjusted into bytes */
789         mono_mb_emit_stloc (mb, index_var);
790
791         my_fl_var = mono_mb_add_local (mb, &mono_defaults.int_class->byval_arg);
792         my_entry_var = mono_mb_add_local (mb, &mono_defaults.int_class->byval_arg);
793         /* my_fl = ((GC_thread)tsd) -> ptrfree_freelists + index; */
794         mono_mb_emit_byte (mb, MONO_CUSTOM_PREFIX);
795         mono_mb_emit_byte (mb, 0x0D); /* CEE_MONO_TLS */
796         mono_mb_emit_i4 (mb, tls_key);
797         if (atype == ATYPE_FREEPTR || atype == ATYPE_FREEPTR_FOR_BOX || atype == ATYPE_STRING)
798                 mono_mb_emit_icon (mb, G_STRUCT_OFFSET (struct GC_Thread_Rep, ptrfree_freelists));
799         else if (atype == ATYPE_NORMAL)
800                 mono_mb_emit_icon (mb, G_STRUCT_OFFSET (struct GC_Thread_Rep, normal_freelists));
801         else if (atype == ATYPE_GCJ)
802                 mono_mb_emit_icon (mb, G_STRUCT_OFFSET (struct GC_Thread_Rep, gcj_freelists));
803         else
804                 g_assert_not_reached ();
805         mono_mb_emit_byte (mb, MONO_CEE_ADD);
806         mono_mb_emit_ldloc (mb, index_var);
807         mono_mb_emit_byte (mb, MONO_CEE_ADD);
808         mono_mb_emit_stloc (mb, my_fl_var);
809
810         /* my_entry = *my_fl; */
811         mono_mb_emit_ldloc (mb, my_fl_var);
812         mono_mb_emit_byte (mb, MONO_CEE_LDIND_I);
813         mono_mb_emit_stloc (mb, my_entry_var);
814
815         /* if (EXPECT((word)my_entry >= HBLKSIZE, 1)) { */
816         mono_mb_emit_ldloc (mb, my_entry_var);
817         mono_mb_emit_icon (mb, HBLKSIZE);
818         no_freelist_branch = mono_mb_emit_short_branch (mb, MONO_CEE_BLT_UN_S);
819
820         /* ptr_t next = obj_link(my_entry); *my_fl = next; */
821         mono_mb_emit_ldloc (mb, my_fl_var);
822         mono_mb_emit_ldloc (mb, my_entry_var);
823         mono_mb_emit_byte (mb, MONO_CEE_LDIND_I);
824         mono_mb_emit_byte (mb, MONO_CEE_STIND_I);
825
826         /* set the vtable and clear the words in the object */
827         mono_mb_emit_ldloc (mb, my_entry_var);
828         mono_mb_emit_ldarg (mb, 0);
829         mono_mb_emit_byte (mb, MONO_CEE_STIND_I);
830
831         if (atype == ATYPE_FREEPTR) {
832                 int start_var, end_var, start_loop;
833                 /* end = my_entry + bytes; start = my_entry + sizeof (gpointer);
834                  */
835                 start_var = mono_mb_add_local (mb, &mono_defaults.int_class->byval_arg);
836                 end_var = mono_mb_add_local (mb, &mono_defaults.int_class->byval_arg);
837                 mono_mb_emit_ldloc (mb, my_entry_var);
838                 mono_mb_emit_ldloc (mb, bytes_var);
839                 mono_mb_emit_byte (mb, MONO_CEE_ADD);
840                 mono_mb_emit_stloc (mb, end_var);
841                 mono_mb_emit_ldloc (mb, my_entry_var);
842                 mono_mb_emit_icon (mb, G_STRUCT_OFFSET (MonoObject, synchronisation));
843                 mono_mb_emit_byte (mb, MONO_CEE_ADD);
844                 mono_mb_emit_stloc (mb, start_var);
845                 /*
846                  * do {
847                  *      *start++ = NULL;
848                  * } while (start < end);
849                  */
850                 start_loop = mono_mb_get_label (mb);
851                 mono_mb_emit_ldloc (mb, start_var);
852                 mono_mb_emit_icon (mb, 0);
853                 mono_mb_emit_byte (mb, MONO_CEE_STIND_I);
854                 mono_mb_emit_ldloc (mb, start_var);
855                 mono_mb_emit_icon (mb, sizeof (gpointer));
856                 mono_mb_emit_byte (mb, MONO_CEE_ADD);
857                 mono_mb_emit_stloc (mb, start_var);
858
859                 mono_mb_emit_ldloc (mb, start_var);
860                 mono_mb_emit_ldloc (mb, end_var);
861                 mono_mb_emit_byte (mb, MONO_CEE_BLT_UN_S);
862                 mono_mb_emit_byte (mb, start_loop - (mono_mb_get_label (mb) + 1));
863         } else if (atype == ATYPE_FREEPTR_FOR_BOX || atype == ATYPE_STRING) {
864                 /* need to clear just the sync pointer */
865                 mono_mb_emit_ldloc (mb, my_entry_var);
866                 mono_mb_emit_icon (mb, G_STRUCT_OFFSET (MonoObject, synchronisation));
867                 mono_mb_emit_byte (mb, MONO_CEE_ADD);
868                 mono_mb_emit_icon (mb, 0);
869                 mono_mb_emit_byte (mb, MONO_CEE_STIND_I);
870         }
871
872         if (atype == ATYPE_STRING) {
873                 /* need to set length and clear the last char */
874                 /* s->length = len; */
875                 mono_mb_emit_ldloc (mb, my_entry_var);
876                 mono_mb_emit_icon (mb, G_STRUCT_OFFSET (MonoString, length));
877                 mono_mb_emit_byte (mb, MONO_CEE_ADD);
878                 mono_mb_emit_ldarg (mb, 1);
879                 mono_mb_emit_byte (mb, MONO_CEE_STIND_I4);
880                 /* s->chars [len] = 0; */
881                 mono_mb_emit_ldloc (mb, my_entry_var);
882                 mono_mb_emit_ldloc (mb, bytes_var);
883                 mono_mb_emit_icon (mb, 2);
884                 mono_mb_emit_byte (mb, MONO_CEE_SUB);
885                 mono_mb_emit_byte (mb, MONO_CEE_ADD);
886                 mono_mb_emit_icon (mb, 0);
887                 mono_mb_emit_byte (mb, MONO_CEE_STIND_I2);
888         }
889
890         /* return my_entry; */
891         mono_mb_emit_ldloc (mb, my_entry_var);
892         mono_mb_emit_byte (mb, MONO_CEE_RET);
893         
894         mono_mb_patch_short_branch (mb, no_freelist_branch);
895         if (not_small_enough_branch > 0)
896                 mono_mb_patch_short_branch (mb, not_small_enough_branch);
897         if (size_overflow_branch > 0)
898                 mono_mb_patch_short_branch (mb, size_overflow_branch);
899         /* the slow path: we just call back into the runtime */
900         if (atype == ATYPE_STRING) {
901                 mono_mb_emit_ldarg (mb, 1);
902                 mono_mb_emit_icall (mb, mono_string_alloc);
903         } else {
904                 mono_mb_emit_ldarg (mb, 0);
905                 mono_mb_emit_icall (mb, mono_object_new_specific);
906         }
907
908         mono_mb_emit_byte (mb, MONO_CEE_RET);
909
910         res = mono_mb_create_method (mb, csig, 8);
911         mono_mb_free (mb);
912         mono_method_get_header (res)->init_locals = FALSE;
913
914         info = mono_image_alloc0 (mono_defaults.corlib, sizeof (AllocatorWrapperInfo));
915         info->gc_name = "boehm";
916         info->alloc_type = atype;
917         mono_marshal_set_wrapper_info (res, info);
918
919         return res;
920 }
921
922 static MonoMethod* alloc_method_cache [ATYPE_NUM];
923
924 static G_GNUC_UNUSED gboolean
925 mono_gc_is_critical_method (MonoMethod *method)
926 {
927         int i;
928
929         for (i = 0; i < ATYPE_NUM; ++i)
930                 if (method == alloc_method_cache [i])
931                         return TRUE;
932
933         return FALSE;
934 }
935
936 /*
937  * If possible, generate a managed method that can quickly allocate objects in class
938  * @klass. The method will typically have an thread-local inline allocation sequence.
939  * The signature of the called method is:
940  *      object allocate (MonoVTable *vtable)
941  * Some of the logic here is similar to mono_class_get_allocation_ftn () i object.c,
942  * keep in sync.
943  * The thread local alloc logic is taken from libgc/pthread_support.c.
944  */
945
946 MonoMethod*
947 mono_gc_get_managed_allocator (MonoClass *klass, gboolean for_box)
948 {
949         int offset = -1;
950         int atype;
951         MONO_THREAD_VAR_OFFSET (GC_thread_tls, offset);
952
953         /*g_print ("thread tls: %d\n", offset);*/
954         if (offset == -1)
955                 return NULL;
956         if (!SMALL_ENOUGH (klass->instance_size))
957                 return NULL;
958         if (mono_class_has_finalizer (klass) || mono_class_is_marshalbyref (klass) || (mono_profiler_get_events () & MONO_PROFILE_ALLOCATIONS))
959                 return NULL;
960         if (klass->rank)
961                 return NULL;
962         if (mono_class_is_open_constructed_type (&klass->byval_arg))
963                 return NULL;
964         if (klass->byval_arg.type == MONO_TYPE_STRING) {
965                 atype = ATYPE_STRING;
966         } else if (!klass->has_references) {
967                 if (for_box)
968                         atype = ATYPE_FREEPTR_FOR_BOX;
969                 else
970                         atype = ATYPE_FREEPTR;
971         } else {
972                 return NULL;
973                 /*
974                  * disabled because we currently do a runtime choice anyway, to
975                  * deal with multiple appdomains.
976                 if (vtable->gc_descr != GC_NO_DESCRIPTOR)
977                         atype = ATYPE_GCJ;
978                 else
979                         atype = ATYPE_NORMAL;
980                 */
981         }
982         return mono_gc_get_managed_allocator_by_type (atype);
983 }
984
985 MonoMethod*
986 mono_gc_get_managed_array_allocator (MonoClass *klass)
987 {
988         return NULL;
989 }
990
991 /**
992  * mono_gc_get_managed_allocator_by_type:
993  *
994  *   Return a managed allocator method corresponding to allocator type ATYPE.
995  */
996 MonoMethod*
997 mono_gc_get_managed_allocator_by_type (int atype)
998 {
999         int offset = -1;
1000         MonoMethod *res;
1001         MONO_THREAD_VAR_OFFSET (GC_thread_tls, offset);
1002
1003         mono_tls_key_set_offset (TLS_KEY_BOEHM_GC_THREAD, offset);
1004
1005         res = alloc_method_cache [atype];
1006         if (res)
1007                 return res;
1008
1009         res = create_allocator (atype, TLS_KEY_BOEHM_GC_THREAD);
1010         mono_mutex_lock (&mono_gc_lock);
1011         if (alloc_method_cache [atype]) {
1012                 mono_free_method (res);
1013                 res = alloc_method_cache [atype];
1014         } else {
1015                 mono_memory_barrier ();
1016                 alloc_method_cache [atype] = res;
1017         }
1018         mono_mutex_unlock (&mono_gc_lock);
1019         return res;
1020 }
1021
1022 guint32
1023 mono_gc_get_managed_allocator_types (void)
1024 {
1025         return ATYPE_NUM;
1026 }
1027
1028 MonoMethod*
1029 mono_gc_get_write_barrier (void)
1030 {
1031         g_assert_not_reached ();
1032         return NULL;
1033 }
1034
1035 #else
1036
1037 static G_GNUC_UNUSED gboolean
1038 mono_gc_is_critical_method (MonoMethod *method)
1039 {
1040         return FALSE;
1041 }
1042
1043 MonoMethod*
1044 mono_gc_get_managed_allocator (MonoClass *klass, gboolean for_box)
1045 {
1046         return NULL;
1047 }
1048
1049 MonoMethod*
1050 mono_gc_get_managed_array_allocator (MonoClass *klass)
1051 {
1052         return NULL;
1053 }
1054
1055 MonoMethod*
1056 mono_gc_get_managed_allocator_by_type (int atype)
1057 {
1058         return NULL;
1059 }
1060
1061 guint32
1062 mono_gc_get_managed_allocator_types (void)
1063 {
1064         return 0;
1065 }
1066
1067 MonoMethod*
1068 mono_gc_get_write_barrier (void)
1069 {
1070         g_assert_not_reached ();
1071         return NULL;
1072 }
1073
1074 #endif
1075
1076 const char *
1077 mono_gc_get_gc_name (void)
1078 {
1079         return "boehm";
1080 }
1081
1082 void*
1083 mono_gc_invoke_with_gc_lock (MonoGCLockedCallbackFunc func, void *data)
1084 {
1085         return GC_call_with_alloc_lock (func, data);
1086 }
1087
1088 char*
1089 mono_gc_get_description (void)
1090 {
1091         return g_strdup (DEFAULT_GC_NAME);
1092 }
1093
1094 void
1095 mono_gc_set_desktop_mode (void)
1096 {
1097         GC_dont_expand = 1;
1098 }
1099
1100 gboolean
1101 mono_gc_is_moving (void)
1102 {
1103         return FALSE;
1104 }
1105
1106 gboolean
1107 mono_gc_is_disabled (void)
1108 {
1109         if (GC_dont_gc || g_getenv ("GC_DONT_GC"))
1110                 return TRUE;
1111         else
1112                 return FALSE;
1113 }
1114
1115 void
1116 mono_gc_wbarrier_value_copy_bitmap (gpointer _dest, gpointer _src, int size, unsigned bitmap)
1117 {
1118         g_assert_not_reached ();
1119 }
1120
1121
1122 guint8*
1123 mono_gc_get_card_table (int *shift_bits, gpointer *card_mask)
1124 {
1125         g_assert_not_reached ();
1126         return NULL;
1127 }
1128
1129 gboolean
1130 mono_gc_card_table_nursery_check (void)
1131 {
1132         g_assert_not_reached ();
1133         return TRUE;
1134 }
1135
1136 void*
1137 mono_gc_get_nursery (int *shift_bits, size_t *size)
1138 {
1139         return NULL;
1140 }
1141
1142 void
1143 mono_gc_set_current_thread_appdomain (MonoDomain *domain)
1144 {
1145 }
1146
1147 gboolean
1148 mono_gc_precise_stack_mark_enabled (void)
1149 {
1150         return FALSE;
1151 }
1152
1153 FILE *
1154 mono_gc_get_logfile (void)
1155 {
1156         return NULL;
1157 }
1158
1159 void
1160 mono_gc_conservatively_scan_area (void *start, void *end)
1161 {
1162         g_assert_not_reached ();
1163 }
1164
1165 void *
1166 mono_gc_scan_object (void *obj)
1167 {
1168         g_assert_not_reached ();
1169         return NULL;
1170 }
1171
1172 gsize*
1173 mono_gc_get_bitmap_for_descr (void *descr, int *numbits)
1174 {
1175         g_assert_not_reached ();
1176         return NULL;
1177 }
1178
1179 void
1180 mono_gc_set_gc_callbacks (MonoGCCallbacks *callbacks)
1181 {
1182 }
1183
1184 void
1185 mono_gc_set_stack_end (void *stack_end)
1186 {
1187 }
1188
1189 void mono_gc_set_skip_thread (gboolean value)
1190 {
1191 }
1192
1193 void
1194 mono_gc_register_for_finalization (MonoObject *obj, void *user_data)
1195 {
1196         guint offset = 0;
1197
1198 #ifndef GC_DEBUG
1199         /* This assertion is not valid when GC_DEBUG is defined */
1200         g_assert (GC_base (obj) == (char*)obj - offset);
1201 #endif
1202
1203         GC_REGISTER_FINALIZER_NO_ORDER ((char*)obj - offset, user_data, GUINT_TO_POINTER (offset), NULL, NULL);
1204 }
1205
1206 /*
1207  * These will call the redefined versions in libgc.
1208  */
1209
1210 #ifndef HOST_WIN32
1211
1212 int
1213 mono_gc_pthread_create (pthread_t *new_thread, const pthread_attr_t *attr, void *(*start_routine)(void *), void *arg)
1214 {
1215         return pthread_create (new_thread, attr, start_routine, arg);
1216 }
1217
1218 int
1219 mono_gc_pthread_join (pthread_t thread, void **retval)
1220 {
1221         return pthread_join (thread, retval);
1222 }
1223
1224 int
1225 mono_gc_pthread_detach (pthread_t thread)
1226 {
1227         return pthread_detach (thread);
1228 }
1229
1230 void
1231 mono_gc_pthread_exit (void *retval)
1232 {
1233         pthread_exit (retval);
1234 }
1235
1236 #endif
1237
1238 #ifdef HOST_WIN32
1239 BOOL APIENTRY mono_gc_dllmain (HMODULE module_handle, DWORD reason, LPVOID reserved)
1240 {
1241 #ifdef USE_INCLUDED_LIBGC
1242         return GC_DllMain (module_handle, reason, reserved);
1243 #else
1244         return TRUE;
1245 #endif
1246 }
1247 #endif
1248
1249 guint
1250 mono_gc_get_vtable_bits (MonoClass *class)
1251 {
1252         return 0;
1253 }
1254
1255 /*
1256  * mono_gc_register_altstack:
1257  *
1258  *   Register the dimensions of the normal stack and altstack with the collector.
1259  * Currently, STACK/STACK_SIZE is only used when the thread is suspended while it is on an altstack.
1260  */
1261 void
1262 mono_gc_register_altstack (gpointer stack, gint32 stack_size, gpointer altstack, gint32 altstack_size)
1263 {
1264 #ifdef USE_INCLUDED_LIBGC
1265         GC_register_altstack (stack, stack_size, altstack, altstack_size);
1266 #endif
1267 }
1268
1269 int
1270 mono_gc_get_los_limit (void)
1271 {
1272         return G_MAXINT;
1273 }
1274
1275 gboolean
1276 mono_gc_user_markers_supported (void)
1277 {
1278         return FALSE;
1279 }
1280
1281 void *
1282 mono_gc_make_root_descr_user (MonoGCRootMarkFunc marker)
1283 {
1284         g_assert_not_reached ();
1285         return NULL;
1286 }
1287
1288 gboolean
1289 mono_gc_set_allow_synchronous_major (gboolean flag)
1290 {
1291         return flag;
1292 }
1293 /* Toggleref support */
1294
1295 void
1296 mono_gc_toggleref_add (MonoObject *object, mono_bool strong_ref)
1297 {
1298         GC_toggleref_add ((GC_PTR)object, (int)strong_ref);
1299 }
1300
1301 void
1302 mono_gc_toggleref_register_callback (MonoToggleRefStatus (*proccess_toggleref) (MonoObject *obj))
1303 {
1304         GC_toggleref_register_callback ((int (*) (GC_PTR obj)) proccess_toggleref);
1305 }
1306
1307 /* Test support code */
1308
1309 static MonoToggleRefStatus
1310 test_toggleref_callback (MonoObject *obj)
1311 {
1312         static MonoClassField *mono_toggleref_test_field;
1313         int status = MONO_TOGGLE_REF_DROP;
1314
1315         if (!mono_toggleref_test_field) {
1316                 mono_toggleref_test_field = mono_class_get_field_from_name (mono_object_get_class (obj), "__test");
1317                 g_assert (mono_toggleref_test_field);
1318         }
1319
1320         mono_field_get_value (obj, mono_toggleref_test_field, &status);
1321         printf ("toggleref-cb obj %d\n", status);
1322         return status;
1323 }
1324
1325 static void
1326 register_test_toggleref_callback (void)
1327 {
1328         mono_gc_toggleref_register_callback (test_toggleref_callback);
1329 }
1330
1331 #endif /* no Boehm GC */