[threads] Fix "[threads] Fix leaking threads: SGen Worker and Finalizer (#5284)"...
[mono.git] / mono / metadata / threads.c
1 /**
2  * \file
3  * Thread support internal calls
4  *
5  * Author:
6  *      Dick Porter (dick@ximian.com)
7  *      Paolo Molaro (lupus@ximian.com)
8  *      Patrik Torstensson (patrik.torstensson@labs2.com)
9  *
10  * Copyright 2001-2003 Ximian, Inc (http://www.ximian.com)
11  * Copyright 2004-2009 Novell, Inc (http://www.novell.com)
12  * Copyright 2011 Xamarin, Inc (http://www.xamarin.com)
13  * Licensed under the MIT license. See LICENSE file in the project root for full license information.
14  */
15
16 #include <config.h>
17
18 #include <glib.h>
19 #include <string.h>
20
21 #include <mono/metadata/object.h>
22 #include <mono/metadata/domain-internals.h>
23 #include <mono/metadata/profiler-private.h>
24 #include <mono/metadata/threads.h>
25 #include <mono/metadata/threads-types.h>
26 #include <mono/metadata/exception.h>
27 #include <mono/metadata/environment.h>
28 #include <mono/metadata/monitor.h>
29 #include <mono/metadata/gc-internals.h>
30 #include <mono/metadata/marshal.h>
31 #include <mono/metadata/runtime.h>
32 #include <mono/metadata/object-internals.h>
33 #include <mono/metadata/debug-internals.h>
34 #include <mono/utils/monobitset.h>
35 #include <mono/utils/mono-compiler.h>
36 #include <mono/utils/mono-mmap.h>
37 #include <mono/utils/mono-membar.h>
38 #include <mono/utils/mono-time.h>
39 #include <mono/utils/mono-threads.h>
40 #include <mono/utils/mono-threads-coop.h>
41 #include <mono/utils/hazard-pointer.h>
42 #include <mono/utils/mono-tls.h>
43 #include <mono/utils/atomic.h>
44 #include <mono/utils/mono-memory-model.h>
45 #include <mono/utils/mono-error-internals.h>
46 #include <mono/utils/os-event.h>
47 #include <mono/utils/mono-threads-debug.h>
48 #include <mono/utils/unlocked.h>
49 #include <mono/metadata/w32handle.h>
50 #include <mono/metadata/w32event.h>
51 #include <mono/metadata/w32mutex.h>
52
53 #include <mono/metadata/reflection-internals.h>
54 #include <mono/metadata/abi-details.h>
55 #include <mono/metadata/w32error.h>
56 #include <mono/utils/w32api.h>
57
58 #ifdef HAVE_SIGNAL_H
59 #include <signal.h>
60 #endif
61
62 #if defined(HOST_WIN32)
63 #include <objbase.h>
64 #endif
65
66 #if defined(HOST_ANDROID) && !defined(TARGET_ARM64) && !defined(TARGET_AMD64)
67 #define USE_TKILL_ON_ANDROID 1
68 #endif
69
70 #ifdef HOST_ANDROID
71 #include <errno.h>
72
73 #ifdef USE_TKILL_ON_ANDROID
74 extern int tkill (pid_t tid, int signal);
75 #endif
76 #endif
77
78 /*#define THREAD_DEBUG(a) do { a; } while (0)*/
79 #define THREAD_DEBUG(a)
80 /*#define THREAD_WAIT_DEBUG(a) do { a; } while (0)*/
81 #define THREAD_WAIT_DEBUG(a)
82 /*#define LIBGC_DEBUG(a) do { a; } while (0)*/
83 #define LIBGC_DEBUG(a)
84
85 #define SPIN_TRYLOCK(i) (InterlockedCompareExchange (&(i), 1, 0) == 0)
86 #define SPIN_LOCK(i) do { \
87                                 if (SPIN_TRYLOCK (i)) \
88                                         break; \
89                         } while (1)
90
91 #define SPIN_UNLOCK(i) i = 0
92
93 #define LOCK_THREAD(thread) lock_thread((thread))
94 #define UNLOCK_THREAD(thread) unlock_thread((thread))
95
96 typedef union {
97         gint32 ival;
98         gfloat fval;
99 } IntFloatUnion;
100
101 typedef union {
102         gint64 ival;
103         gdouble fval;
104 } LongDoubleUnion;
105  
106 typedef struct _StaticDataFreeList StaticDataFreeList;
107 struct _StaticDataFreeList {
108         StaticDataFreeList *next;
109         guint32 offset;
110         guint32 size;
111 };
112
113 typedef struct {
114         int idx;
115         int offset;
116         StaticDataFreeList *freelist;
117 } StaticDataInfo;
118
119 /* Controls access to the 'threads' hash table */
120 static void mono_threads_lock (void);
121 static void mono_threads_unlock (void);
122 static MonoCoopMutex threads_mutex;
123
124 /* Controls access to the 'joinable_threads' hash table */
125 #define joinable_threads_lock() mono_os_mutex_lock (&joinable_threads_mutex)
126 #define joinable_threads_unlock() mono_os_mutex_unlock (&joinable_threads_mutex)
127 static mono_mutex_t joinable_threads_mutex;
128
129 /* Holds current status of static data heap */
130 static StaticDataInfo thread_static_info;
131 static StaticDataInfo context_static_info;
132
133 /* The hash of existing threads (key is thread ID, value is
134  * MonoInternalThread*) that need joining before exit
135  */
136 static MonoGHashTable *threads=NULL;
137
138 /* List of app context GC handles.
139  * Added to from mono_threads_register_app_context ().
140  */
141 static GHashTable *contexts = NULL;
142
143 /* Cleanup queue for contexts. */
144 static MonoReferenceQueue *context_queue;
145
146 /*
147  * Threads which are starting up and they are not in the 'threads' hash yet.
148  * When mono_thread_attach_internal is called for a thread, it will be removed from this hash table.
149  * Protected by mono_threads_lock ().
150  */
151 static MonoGHashTable *threads_starting_up = NULL;
152
153 /* Contains tids */
154 /* Protected by the threads lock */
155 static GHashTable *joinable_threads;
156 static gint32 joinable_thread_count;
157
158 #define SET_CURRENT_OBJECT(x) mono_tls_set_thread (x)
159 #define GET_CURRENT_OBJECT() (MonoInternalThread*) mono_tls_get_thread ()
160
161 /* function called at thread start */
162 static MonoThreadStartCB mono_thread_start_cb = NULL;
163
164 /* function called at thread attach */
165 static MonoThreadAttachCB mono_thread_attach_cb = NULL;
166
167 /* function called at thread cleanup */
168 static MonoThreadCleanupFunc mono_thread_cleanup_fn = NULL;
169
170 /* The default stack size for each thread */
171 static guint32 default_stacksize = 0;
172 #define default_stacksize_for_thread(thread) ((thread)->stack_size? (thread)->stack_size: default_stacksize)
173
174 static void context_adjust_static_data (MonoAppContext *ctx);
175 static void mono_free_static_data (gpointer* static_data);
176 static void mono_init_static_data_info (StaticDataInfo *static_data);
177 static guint32 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align);
178 static gboolean mono_thread_resume (MonoInternalThread* thread);
179 static void async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort);
180 static void self_abort_internal (MonoError *error);
181 static void async_suspend_internal (MonoInternalThread *thread, gboolean interrupt);
182 static void self_suspend_internal (void);
183
184 static MonoException* mono_thread_execute_interruption (void);
185 static void ref_stack_destroy (gpointer rs);
186
187 /* Spin lock for InterlockedXXX 64 bit functions */
188 #define mono_interlocked_lock() mono_os_mutex_lock (&interlocked_mutex)
189 #define mono_interlocked_unlock() mono_os_mutex_unlock (&interlocked_mutex)
190 static mono_mutex_t interlocked_mutex;
191
192 /* global count of thread interruptions requested */
193 static gint32 thread_interruption_requested = 0;
194
195 /* Event signaled when a thread changes its background mode */
196 static MonoOSEvent background_change_event;
197
198 static gboolean shutting_down = FALSE;
199
200 static gint32 managed_thread_id_counter = 0;
201
202 /* Class lazy loading functions */
203 static GENERATE_GET_CLASS_WITH_CACHE (appdomain_unloaded_exception, "System", "AppDomainUnloadedException")
204
205 static void
206 mono_threads_lock (void)
207 {
208         mono_locks_coop_acquire (&threads_mutex, ThreadsLock);
209 }
210
211 static void
212 mono_threads_unlock (void)
213 {
214         mono_locks_coop_release (&threads_mutex, ThreadsLock);
215 }
216
217
218 static guint32
219 get_next_managed_thread_id (void)
220 {
221         return InterlockedIncrement (&managed_thread_id_counter);
222 }
223
224 /*
225  * We separate interruptions/exceptions into either sync (they can be processed anytime,
226  * normally as soon as they are set, and are set by the same thread) and async (they can't
227  * be processed inside abort protected blocks and are normally set by other threads). We
228  * can have both a pending sync and async interruption. In this case, the sync exception is
229  * processed first. Since we clean sync flag first, mono_thread_execute_interruption must
230  * also handle all sync type exceptions before the async type exceptions.
231  */
232 enum {
233         INTERRUPT_SYNC_REQUESTED_BIT = 0x1,
234         INTERRUPT_ASYNC_REQUESTED_BIT = 0x2,
235         INTERRUPT_REQUESTED_MASK = 0x3,
236         ABORT_PROT_BLOCK_SHIFT = 2,
237         ABORT_PROT_BLOCK_BITS = 8,
238         ABORT_PROT_BLOCK_MASK = (((1 << ABORT_PROT_BLOCK_BITS) - 1) << ABORT_PROT_BLOCK_SHIFT)
239 };
240
241 static int
242 mono_thread_get_abort_prot_block_count (MonoInternalThread *thread)
243 {
244         gsize state = thread->thread_state;
245         return (state & ABORT_PROT_BLOCK_MASK) >> ABORT_PROT_BLOCK_SHIFT;
246 }
247
248 void
249 mono_threads_begin_abort_protected_block (void)
250 {
251         MonoInternalThread *thread = mono_thread_internal_current ();
252         gsize old_state, new_state;
253         int new_val;
254         do {
255                 old_state = thread->thread_state;
256
257                 new_val = ((old_state & ABORT_PROT_BLOCK_MASK) >> ABORT_PROT_BLOCK_SHIFT) + 1;
258                 //bounds check abort_prot_count
259                 g_assert (new_val > 0);
260                 g_assert (new_val < (1 << ABORT_PROT_BLOCK_BITS));
261
262                 new_state = old_state + (1 << ABORT_PROT_BLOCK_SHIFT);
263         } while (InterlockedCompareExchangePointer ((volatile gpointer)&thread->thread_state, (gpointer)new_state, (gpointer)old_state) != (gpointer)old_state);
264
265         /* Defer async request since we won't be able to process until exiting the block */
266         if (new_val == 1 && (new_state & INTERRUPT_ASYNC_REQUESTED_BIT)) {
267                 InterlockedDecrement (&thread_interruption_requested);
268                 THREADS_INTERRUPT_DEBUG ("[%d] begin abort protected block old_state %ld new_state %ld, defer tir %d\n", thread->small_id, old_state, new_state, thread_interruption_requested);
269                 if (thread_interruption_requested < 0)
270                         g_warning ("bad thread_interruption_requested state");
271         } else {
272                 THREADS_INTERRUPT_DEBUG ("[%d] begin abort protected block old_state %ld new_state %ld, tir %d\n", thread->small_id, old_state, new_state, thread_interruption_requested);
273         }
274 }
275
276 static gboolean
277 mono_thread_state_has_interruption (gsize state)
278 {
279         /* pending exception, self abort */
280         if (state & INTERRUPT_SYNC_REQUESTED_BIT)
281                 return TRUE;
282
283         /* abort, interruption, suspend */
284         if ((state & INTERRUPT_ASYNC_REQUESTED_BIT) && !(state & ABORT_PROT_BLOCK_MASK))
285                 return TRUE;
286
287         return FALSE;
288 }
289
290 gboolean
291 mono_threads_end_abort_protected_block (void)
292 {
293         MonoInternalThread *thread = mono_thread_internal_current ();
294         gsize old_state, new_state;
295         int new_val;
296         do {
297                 old_state = thread->thread_state;
298
299                 //bounds check abort_prot_count
300                 new_val = ((old_state & ABORT_PROT_BLOCK_MASK) >> ABORT_PROT_BLOCK_SHIFT) - 1;
301                 g_assert (new_val >= 0);
302                 g_assert (new_val < (1 << ABORT_PROT_BLOCK_BITS));
303
304                 new_state = old_state - (1 << ABORT_PROT_BLOCK_SHIFT);
305         } while (InterlockedCompareExchangePointer ((volatile gpointer)&thread->thread_state, (gpointer)new_state, (gpointer)old_state) != (gpointer)old_state);
306
307         if (new_val == 0 && (new_state & INTERRUPT_ASYNC_REQUESTED_BIT)) {
308                 InterlockedIncrement (&thread_interruption_requested);
309                 THREADS_INTERRUPT_DEBUG ("[%d] end abort protected block old_state %ld new_state %ld, restore tir %d\n", thread->small_id, old_state, new_state, thread_interruption_requested);
310         } else {
311                 THREADS_INTERRUPT_DEBUG ("[%d] end abort protected block old_state %ld new_state %ld, tir %d\n", thread->small_id, old_state, new_state, thread_interruption_requested);
312         }
313
314         return mono_thread_state_has_interruption (new_state);
315 }
316
317 static gboolean
318 mono_thread_get_interruption_requested (MonoInternalThread *thread)
319 {
320         gsize state = thread->thread_state;
321
322         return mono_thread_state_has_interruption (state);
323 }
324
325 /*
326  * Returns TRUE is there was a state change
327  * We clear a single interruption request, sync has priority.
328  */
329 static gboolean
330 mono_thread_clear_interruption_requested (MonoInternalThread *thread)
331 {
332         gsize old_state, new_state;
333         do {
334                 old_state = thread->thread_state;
335
336                 // no interruption to process
337                 if (!(old_state & INTERRUPT_SYNC_REQUESTED_BIT) &&
338                                 (!(old_state & INTERRUPT_ASYNC_REQUESTED_BIT) || (old_state & ABORT_PROT_BLOCK_MASK)))
339                         return FALSE;
340
341                 if (old_state & INTERRUPT_SYNC_REQUESTED_BIT)
342                         new_state = old_state & ~INTERRUPT_SYNC_REQUESTED_BIT;
343                 else
344                         new_state = old_state & ~INTERRUPT_ASYNC_REQUESTED_BIT;
345         } while (InterlockedCompareExchangePointer ((volatile gpointer)&thread->thread_state, (gpointer)new_state, (gpointer)old_state) != (gpointer)old_state);
346
347         InterlockedDecrement (&thread_interruption_requested);
348         THREADS_INTERRUPT_DEBUG ("[%d] clear interruption old_state %ld new_state %ld, tir %d\n", thread->small_id, old_state, new_state, thread_interruption_requested);
349         if (thread_interruption_requested < 0)
350                 g_warning ("bad thread_interruption_requested state");
351         return TRUE;
352 }
353
354 /* Returns TRUE is there was a state change and the interruption can be processed */
355 static gboolean
356 mono_thread_set_interruption_requested (MonoInternalThread *thread)
357 {
358         //always force when the current thread is doing it to itself.
359         gboolean sync = thread == mono_thread_internal_current ();
360         gsize old_state, new_state;
361         do {
362                 old_state = thread->thread_state;
363
364                 //Already set
365                 if ((sync && (old_state & INTERRUPT_SYNC_REQUESTED_BIT)) ||
366                                 (!sync && (old_state & INTERRUPT_ASYNC_REQUESTED_BIT)))
367                         return FALSE;
368
369                 if (sync)
370                         new_state = old_state | INTERRUPT_SYNC_REQUESTED_BIT;
371                 else
372                         new_state = old_state | INTERRUPT_ASYNC_REQUESTED_BIT;
373         } while (InterlockedCompareExchangePointer ((volatile gpointer)&thread->thread_state, (gpointer)new_state, (gpointer)old_state) != (gpointer)old_state);
374
375         if (sync || !(new_state & ABORT_PROT_BLOCK_MASK)) {
376                 InterlockedIncrement (&thread_interruption_requested);
377                 THREADS_INTERRUPT_DEBUG ("[%d] set interruption on [%d] old_state %ld new_state %ld, tir %d\n", mono_thread_internal_current ()->small_id, thread->small_id, old_state, new_state, thread_interruption_requested);
378         } else {
379                 THREADS_INTERRUPT_DEBUG ("[%d] set interruption on [%d] old_state %ld new_state %ld, tir deferred %d\n", mono_thread_internal_current ()->small_id, thread->small_id, old_state, new_state, thread_interruption_requested);
380         }
381
382         return sync || !(new_state & ABORT_PROT_BLOCK_MASK);
383 }
384
385 static inline MonoNativeThreadId
386 thread_get_tid (MonoInternalThread *thread)
387 {
388         /* We store the tid as a guint64 to keep the object layout constant between platforms */
389         return MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid);
390 }
391
392 static void ensure_synch_cs_set (MonoInternalThread *thread)
393 {
394         MonoCoopMutex *synch_cs;
395
396         if (thread->synch_cs != NULL) {
397                 return;
398         }
399
400         synch_cs = g_new0 (MonoCoopMutex, 1);
401         mono_coop_mutex_init_recursive (synch_cs);
402
403         if (InterlockedCompareExchangePointer ((gpointer *)&thread->synch_cs,
404                                                synch_cs, NULL) != NULL) {
405                 /* Another thread must have installed this CS */
406                 mono_coop_mutex_destroy (synch_cs);
407                 g_free (synch_cs);
408         }
409 }
410
411 static inline void
412 lock_thread (MonoInternalThread *thread)
413 {
414         if (!thread->synch_cs)
415                 ensure_synch_cs_set (thread);
416
417         g_assert (thread->synch_cs);
418
419         mono_coop_mutex_lock (thread->synch_cs);
420 }
421
422 static inline void
423 unlock_thread (MonoInternalThread *thread)
424 {
425         mono_coop_mutex_unlock (thread->synch_cs);
426 }
427
428 static inline gboolean
429 is_appdomainunloaded_exception (MonoClass *klass)
430 {
431         return klass == mono_class_get_appdomain_unloaded_exception_class ();
432 }
433
434 static inline gboolean
435 is_threadabort_exception (MonoClass *klass)
436 {
437         return klass == mono_defaults.threadabortexception_class;
438 }
439
440 /*
441  * A special static data offset (guint32) consists of 3 parts:
442  *
443  * [0]   6-bit index into the array of chunks.
444  * [6]   25-bit offset into the array.
445  * [31]  Bit indicating thread or context static.
446  */
447
448 typedef union {
449         struct {
450 #if G_BYTE_ORDER != G_LITTLE_ENDIAN
451                 guint32 type : 1;
452                 guint32 offset : 25;
453                 guint32 index : 6;
454 #else
455                 guint32 index : 6;
456                 guint32 offset : 25;
457                 guint32 type : 1;
458 #endif
459         } fields;
460         guint32 raw;
461 } SpecialStaticOffset;
462
463 #define SPECIAL_STATIC_OFFSET_TYPE_THREAD 0
464 #define SPECIAL_STATIC_OFFSET_TYPE_CONTEXT 1
465
466 #define MAKE_SPECIAL_STATIC_OFFSET(idx, off, ty) \
467         ((SpecialStaticOffset) { .fields = { .index = (idx), .offset = (off), .type = (ty) } }.raw)
468 #define ACCESS_SPECIAL_STATIC_OFFSET(x,f) \
469         (((SpecialStaticOffset *) &(x))->fields.f)
470
471 static gpointer
472 get_thread_static_data (MonoInternalThread *thread, guint32 offset)
473 {
474         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_THREAD);
475
476         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
477         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
478
479         return ((char *) thread->static_data [idx]) + off;
480 }
481
482 static gpointer
483 get_context_static_data (MonoAppContext *ctx, guint32 offset)
484 {
485         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_CONTEXT);
486
487         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
488         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
489
490         return ((char *) ctx->static_data [idx]) + off;
491 }
492
493 static MonoThread**
494 get_current_thread_ptr_for_domain (MonoDomain *domain, MonoInternalThread *thread)
495 {
496         static MonoClassField *current_thread_field = NULL;
497
498         guint32 offset;
499
500         if (!current_thread_field) {
501                 current_thread_field = mono_class_get_field_from_name (mono_defaults.thread_class, "current_thread");
502                 g_assert (current_thread_field);
503         }
504
505         mono_class_vtable (domain, mono_defaults.thread_class);
506         mono_domain_lock (domain);
507         offset = GPOINTER_TO_UINT (g_hash_table_lookup (domain->special_static_fields, current_thread_field));
508         mono_domain_unlock (domain);
509         g_assert (offset);
510
511         return (MonoThread **)get_thread_static_data (thread, offset);
512 }
513
514 static void
515 set_current_thread_for_domain (MonoDomain *domain, MonoInternalThread *thread, MonoThread *current)
516 {
517         MonoThread **current_thread_ptr = get_current_thread_ptr_for_domain (domain, thread);
518
519         g_assert (current->obj.vtable->domain == domain);
520
521         g_assert (!*current_thread_ptr);
522         *current_thread_ptr = current;
523 }
524
525 static MonoThread*
526 create_thread_object (MonoDomain *domain, MonoInternalThread *internal)
527 {
528         MonoThread *thread;
529         MonoVTable *vtable;
530         MonoError error;
531
532         vtable = mono_class_vtable (domain, mono_defaults.thread_class);
533         g_assert (vtable);
534
535         thread = (MonoThread*)mono_object_new_mature (vtable, &error);
536         /* only possible failure mode is OOM, from which we don't expect to recover. */
537         mono_error_assert_ok (&error);
538
539         MONO_OBJECT_SETREF (thread, internal_thread, internal);
540
541         return thread;
542 }
543
544 static MonoInternalThread*
545 create_internal_thread_object (void)
546 {
547         MonoError error;
548         MonoInternalThread *thread;
549         MonoVTable *vt;
550
551         vt = mono_class_vtable (mono_get_root_domain (), mono_defaults.internal_thread_class);
552         thread = (MonoInternalThread*) mono_object_new_mature (vt, &error);
553         /* only possible failure mode is OOM, from which we don't exect to recover */
554         mono_error_assert_ok (&error);
555
556         thread->synch_cs = g_new0 (MonoCoopMutex, 1);
557         mono_coop_mutex_init_recursive (thread->synch_cs);
558
559         thread->apartment_state = ThreadApartmentState_Unknown;
560         thread->managed_id = get_next_managed_thread_id ();
561         if (mono_gc_is_moving ()) {
562                 thread->thread_pinning_ref = thread;
563                 MONO_GC_REGISTER_ROOT_PINNING (thread->thread_pinning_ref, MONO_ROOT_SOURCE_THREADING, "thread pinning reference");
564         }
565
566         thread->priority = MONO_THREAD_PRIORITY_NORMAL;
567
568         thread->suspended = g_new0 (MonoOSEvent, 1);
569         mono_os_event_init (thread->suspended, TRUE);
570
571         return thread;
572 }
573
574 static void
575 mono_thread_internal_set_priority (MonoInternalThread *internal, MonoThreadPriority priority)
576 {
577         g_assert (internal);
578
579         g_assert (priority >= MONO_THREAD_PRIORITY_LOWEST);
580         g_assert (priority <= MONO_THREAD_PRIORITY_HIGHEST);
581         g_assert (MONO_THREAD_PRIORITY_LOWEST < MONO_THREAD_PRIORITY_HIGHEST);
582
583 #ifdef HOST_WIN32
584         BOOL res;
585
586         g_assert (internal->native_handle);
587
588         res = SetThreadPriority (internal->native_handle, priority - 2);
589         if (!res)
590                 g_error ("%s: SetThreadPriority failed, error %d", __func__, GetLastError ());
591 #else /* HOST_WIN32 */
592         pthread_t tid;
593         int policy;
594         struct sched_param param;
595         gint res;
596
597         tid = thread_get_tid (internal);
598
599         res = pthread_getschedparam (tid, &policy, &param);
600         if (res != 0)
601                 g_error ("%s: pthread_getschedparam failed, error: \"%s\" (%d)", __func__, g_strerror (res), res);
602
603 #ifdef _POSIX_PRIORITY_SCHEDULING
604         int max, min;
605
606         /* Necessary to get valid priority range */
607
608         min = sched_get_priority_min (policy);
609         max = sched_get_priority_max (policy);
610
611         if (max > 0 && min >= 0 && max > min) {
612                 double srange, drange, sposition, dposition;
613                 srange = MONO_THREAD_PRIORITY_HIGHEST - MONO_THREAD_PRIORITY_LOWEST;
614                 drange = max - min;
615                 sposition = priority - MONO_THREAD_PRIORITY_LOWEST;
616                 dposition = (sposition / srange) * drange;
617                 param.sched_priority = (int)(dposition + min);
618         } else
619 #endif
620         {
621                 switch (policy) {
622                 case SCHED_FIFO:
623                 case SCHED_RR:
624                         param.sched_priority = 50;
625                         break;
626 #ifdef SCHED_BATCH
627                 case SCHED_BATCH:
628 #endif
629                 case SCHED_OTHER:
630                         param.sched_priority = 0;
631                         break;
632                 default:
633                         g_warning ("%s: unknown policy %d", __func__, policy);
634                         return;
635                 }
636         }
637
638         res = pthread_setschedparam (tid, policy, &param);
639         if (res != 0) {
640                 if (res == EPERM) {
641                         g_warning ("%s: pthread_setschedparam failed, error: \"%s\" (%d)", __func__, g_strerror (res), res);
642                         return;
643                 }
644                 g_error ("%s: pthread_setschedparam failed, error: \"%s\" (%d)", __func__, g_strerror (res), res);
645         }
646 #endif /* HOST_WIN32 */
647 }
648
649 static void 
650 mono_alloc_static_data (gpointer **static_data_ptr, guint32 offset, gboolean threadlocal);
651
652 static gboolean
653 mono_thread_attach_internal (MonoThread *thread, gboolean force_attach, gboolean force_domain)
654 {
655         MonoThreadInfo *info;
656         MonoInternalThread *internal;
657         MonoDomain *domain, *root_domain;
658
659         g_assert (thread);
660
661         info = mono_thread_info_current ();
662         g_assert (info);
663
664         internal = thread->internal_thread;
665         g_assert (internal);
666
667         /* It is needed to store the MonoInternalThread on the MonoThreadInfo, because of the following case:
668          *  - the MonoInternalThread TLS key is destroyed: set it to NULL
669          *  - the MonoThreadInfo TLS key is destroyed: calls mono_thread_info_detach
670          *    - it calls MonoThreadInfoCallbacks.thread_detach
671          *      - mono_thread_internal_current returns NULL -> fails to detach the MonoInternalThread. */
672         mono_thread_info_set_internal_thread_gchandle (info, mono_gchandle_new ((MonoObject*) internal, FALSE));
673
674         internal->handle = mono_threads_open_thread_handle (info->handle);
675 #ifdef HOST_WIN32
676         internal->native_handle = OpenThread (THREAD_ALL_ACCESS, FALSE, GetCurrentThreadId ());
677 #endif
678         internal->tid = MONO_NATIVE_THREAD_ID_TO_UINT (mono_native_thread_id_get ());
679         internal->thread_info = info;
680         internal->small_id = info->small_id;
681
682         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Setting current_object_key to %p", __func__, mono_native_thread_id_get (), internal));
683
684         SET_CURRENT_OBJECT (internal);
685
686         domain = mono_object_domain (thread);
687
688         mono_thread_push_appdomain_ref (domain);
689         if (!mono_domain_set (domain, force_domain)) {
690                 mono_thread_pop_appdomain_ref ();
691                 return FALSE;
692         }
693
694         mono_threads_lock ();
695
696         if (threads_starting_up)
697                 mono_g_hash_table_remove (threads_starting_up, thread);
698
699         if (shutting_down && !force_attach) {
700                 mono_threads_unlock ();
701                 mono_thread_pop_appdomain_ref ();
702                 return FALSE;
703         }
704
705         if (!threads) {
706                 threads = mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "threads table");
707         }
708
709         /* We don't need to duplicate thread->handle, because it is
710          * only closed when the thread object is finalized by the GC. */
711         mono_g_hash_table_insert (threads, (gpointer)(gsize)(internal->tid), internal);
712
713         /* We have to do this here because mono_thread_start_cb
714          * requires that root_domain_thread is set up. */
715         if (thread_static_info.offset || thread_static_info.idx > 0) {
716                 /* get the current allocated size */
717                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (thread_static_info.idx, thread_static_info.offset, 0);
718                 mono_alloc_static_data (&internal->static_data, offset, TRUE);
719         }
720
721         mono_threads_unlock ();
722
723         root_domain = mono_get_root_domain ();
724
725         g_assert (!internal->root_domain_thread);
726         if (domain != root_domain)
727                 MONO_OBJECT_SETREF (internal, root_domain_thread, create_thread_object (root_domain, internal));
728         else
729                 MONO_OBJECT_SETREF (internal, root_domain_thread, thread);
730
731         if (domain != root_domain)
732                 set_current_thread_for_domain (root_domain, internal, internal->root_domain_thread);
733
734         set_current_thread_for_domain (domain, internal, thread);
735
736         THREAD_DEBUG (g_message ("%s: Attached thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, internal->tid, internal->handle));
737
738         return TRUE;
739 }
740
741 static void
742 mono_thread_detach_internal (MonoInternalThread *thread)
743 {
744         gboolean removed;
745
746         g_assert (thread != NULL);
747         SET_CURRENT_OBJECT (thread);
748
749         THREAD_DEBUG (g_message ("%s: mono_thread_detach for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
750
751 #ifndef HOST_WIN32
752         mono_w32mutex_abandon ();
753 #endif
754
755         if (thread->abort_state_handle) {
756                 mono_gchandle_free (thread->abort_state_handle);
757                 thread->abort_state_handle = 0;
758         }
759
760         thread->abort_exc = NULL;
761         thread->current_appcontext = NULL;
762
763         /*
764          * thread->synch_cs can be NULL if this was called after
765          * ves_icall_System_Threading_InternalThread_Thread_free_internal.
766          * This can happen only during shutdown.
767          * The shutting_down flag is not always set, so we can't assert on it.
768          */
769         if (thread->synch_cs)
770                 LOCK_THREAD (thread);
771
772         thread->state |= ThreadState_Stopped;
773         thread->state &= ~ThreadState_Background;
774
775         if (thread->synch_cs)
776                 UNLOCK_THREAD (thread);
777
778         /*
779         An interruption request has leaked to cleanup. Adjust the global counter.
780
781         This can happen is the abort source thread finds the abortee (this) thread
782         in unmanaged code. If this thread never trips back to managed code or check
783         the local flag it will be left set and positively unbalance the global counter.
784
785         Leaving the counter unbalanced will cause a performance degradation since all threads
786         will now keep checking their local flags all the time.
787         */
788         mono_thread_clear_interruption_requested (thread);
789
790         mono_threads_lock ();
791
792         if (!threads) {
793                 removed = FALSE;
794         } else if (mono_g_hash_table_lookup (threads, (gpointer)thread->tid) != thread) {
795                 /* We have to check whether the thread object for the
796                  * tid is still the same in the table because the
797                  * thread might have been destroyed and the tid reused
798                  * in the meantime, in which case the tid would be in
799                  * the table, but with another thread object.
800                  */
801                 removed = FALSE;
802         } else {
803                 mono_g_hash_table_remove (threads, (gpointer)thread->tid);
804                 removed = TRUE;
805         }
806
807         mono_threads_unlock ();
808
809         /* Don't close the handle here, wait for the object finalizer
810          * to do it. Otherwise, the following race condition applies:
811          *
812          * 1) Thread exits (and mono_thread_detach_internal() closes the handle)
813          *
814          * 2) Some other handle is reassigned the same slot
815          *
816          * 3) Another thread tries to join the first thread, and
817          * blocks waiting for the reassigned handle to be signalled
818          * (which might never happen).  This is possible, because the
819          * thread calling Join() still has a reference to the first
820          * thread's object.
821          */
822
823         /* if the thread is not in the hash it has been removed already */
824         if (!removed) {
825                 mono_domain_unset ();
826                 mono_memory_barrier ();
827
828                 if (mono_thread_cleanup_fn)
829                         mono_thread_cleanup_fn (thread_get_tid (thread));
830
831                 goto done;
832         }
833
834         mono_release_type_locks (thread);
835
836         /* Can happen when we attach the profiler helper thread in order to heapshot. */
837         if (!mono_thread_info_lookup (MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid))->tools_thread)
838                 MONO_PROFILER_RAISE (thread_stopped, (thread->tid));
839
840         mono_hazard_pointer_clear (mono_hazard_pointer_get (), 1);
841
842         /*
843          * This will signal async signal handlers that the thread has exited.
844          * The profiler callback needs this to be set, so it cannot be done earlier.
845          */
846         mono_domain_unset ();
847         mono_memory_barrier ();
848
849         if (thread == mono_thread_internal_current ())
850                 mono_thread_pop_appdomain_ref ();
851
852         mono_free_static_data (thread->static_data);
853         thread->static_data = NULL;
854         ref_stack_destroy (thread->appdomain_refs);
855         thread->appdomain_refs = NULL;
856
857         g_assert (thread->suspended);
858         mono_os_event_destroy (thread->suspended);
859         g_free (thread->suspended);
860         thread->suspended = NULL;
861
862         if (mono_thread_cleanup_fn)
863                 mono_thread_cleanup_fn (thread_get_tid (thread));
864
865         mono_memory_barrier ();
866
867         if (mono_gc_is_moving ()) {
868                 MONO_GC_UNREGISTER_ROOT (thread->thread_pinning_ref);
869                 thread->thread_pinning_ref = NULL;
870         }
871
872 done:
873         SET_CURRENT_OBJECT (NULL);
874         mono_domain_unset ();
875
876         mono_thread_info_unset_internal_thread_gchandle ((MonoThreadInfo*) thread->thread_info);
877
878         /* Don't need to close the handle to this thread, even though we took a
879          * reference in mono_thread_attach (), because the GC will do it
880          * when the Thread object is finalised.
881          */
882 }
883
884 typedef struct {
885         gint32 ref;
886         MonoThread *thread;
887         MonoObject *start_delegate;
888         MonoObject *start_delegate_arg;
889         MonoThreadStart start_func;
890         gpointer start_func_arg;
891         gboolean force_attach;
892         gboolean failed;
893         MonoCoopSem registered;
894 } StartInfo;
895
896 static guint32 WINAPI start_wrapper_internal(StartInfo *start_info, gsize *stack_ptr)
897 {
898         MonoError error;
899         MonoThreadStart start_func;
900         void *start_func_arg;
901         gsize tid;
902         /* 
903          * We don't create a local to hold start_info->thread, so hopefully it won't get pinned during a
904          * GC stack walk.
905          */
906         MonoThread *thread;
907         MonoInternalThread *internal;
908         MonoObject *start_delegate;
909         MonoObject *start_delegate_arg;
910         MonoDomain *domain;
911
912         thread = start_info->thread;
913         internal = thread->internal_thread;
914         domain = mono_object_domain (start_info->thread);
915
916         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper", __func__, mono_native_thread_id_get ()));
917
918         if (!mono_thread_attach_internal (thread, start_info->force_attach, FALSE)) {
919                 start_info->failed = TRUE;
920
921                 mono_coop_sem_post (&start_info->registered);
922
923                 if (InterlockedDecrement (&start_info->ref) == 0) {
924                         mono_coop_sem_destroy (&start_info->registered);
925                         g_free (start_info);
926                 }
927
928                 return 0;
929         }
930
931         mono_thread_internal_set_priority (internal, internal->priority);
932
933         tid = internal->tid;
934
935         start_delegate = start_info->start_delegate;
936         start_delegate_arg = start_info->start_delegate_arg;
937         start_func = start_info->start_func;
938         start_func_arg = start_info->start_func_arg;
939
940         /* This MUST be called before any managed code can be
941          * executed, as it calls the callback function that (for the
942          * jit) sets the lmf marker.
943          */
944
945         if (mono_thread_start_cb)
946                 mono_thread_start_cb (tid, stack_ptr, start_func);
947
948         /* On 2.0 profile (and higher), set explicitly since state might have been
949            Unknown */
950         if (internal->apartment_state == ThreadApartmentState_Unknown)
951                 internal->apartment_state = ThreadApartmentState_MTA;
952
953         mono_thread_init_apartment_state ();
954
955         /* Let the thread that called Start() know we're ready */
956         mono_coop_sem_post (&start_info->registered);
957
958         if (InterlockedDecrement (&start_info->ref) == 0) {
959                 mono_coop_sem_destroy (&start_info->registered);
960                 g_free (start_info);
961         }
962
963         /* start_info is not valid anymore */
964         start_info = NULL;
965
966         /* 
967          * Call this after calling start_notify, since the profiler callback might want
968          * to lock the thread, and the lock is held by thread_start () which waits for
969          * start_notify.
970          */
971         MONO_PROFILER_RAISE (thread_started, (tid));
972
973         /* if the name was set before starting, we didn't invoke the profiler callback */
974         if (internal->name) {
975                 char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
976                 MONO_PROFILER_RAISE (thread_name, (internal->tid, tname));
977                 mono_native_thread_set_name (MONO_UINT_TO_NATIVE_THREAD_ID (internal->tid), tname);
978                 g_free (tname);
979         }
980
981         /* start_func is set only for unmanaged start functions */
982         if (start_func) {
983                 start_func (start_func_arg);
984         } else {
985                 void *args [1];
986
987                 g_assert (start_delegate != NULL);
988
989                 /* we may want to handle the exception here. See comment below on unhandled exceptions */
990                 args [0] = (gpointer) start_delegate_arg;
991                 mono_runtime_delegate_invoke_checked (start_delegate, args, &error);
992
993                 if (!mono_error_ok (&error)) {
994                         MonoException *ex = mono_error_convert_to_exception (&error);
995
996                         g_assert (ex != NULL);
997                         MonoClass *klass = mono_object_get_class (&ex->object);
998                         if ((mono_runtime_unhandled_exception_policy_get () != MONO_UNHANDLED_POLICY_LEGACY) &&
999                             !is_threadabort_exception (klass)) {
1000                                 mono_unhandled_exception (&ex->object);
1001                                 mono_invoke_unhandled_exception_hook (&ex->object);
1002                                 g_assert_not_reached ();
1003                         }
1004                 } else {
1005                         mono_error_cleanup (&error);
1006                 }
1007         }
1008
1009         /* If the thread calls ExitThread at all, this remaining code
1010          * will not be executed, but the main thread will eventually
1011          * call mono_thread_detach_internal() on this thread's behalf.
1012          */
1013
1014         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper terminating", __func__, mono_native_thread_id_get ()));
1015
1016         /* Do any cleanup needed for apartment state. This
1017          * cannot be done in mono_thread_detach_internal since
1018          * mono_thread_detach_internal could be  called for a
1019          * thread other than the current thread.
1020          * mono_thread_cleanup_apartment_state cleans up apartment
1021          * for the current thead */
1022         mono_thread_cleanup_apartment_state ();
1023
1024         mono_thread_detach_internal (internal);
1025
1026         internal->tid = 0;
1027
1028         return(0);
1029 }
1030
1031 static gsize WINAPI
1032 start_wrapper (gpointer data)
1033 {
1034         StartInfo *start_info;
1035         MonoThreadInfo *info;
1036         gsize res;
1037
1038         start_info = (StartInfo*) data;
1039         g_assert (start_info);
1040
1041         info = mono_thread_info_attach ();
1042         info->runtime_thread = TRUE;
1043
1044         /* Run the actual main function of the thread */
1045         res = start_wrapper_internal (start_info, info->stack_end);
1046
1047         mono_thread_info_exit (res);
1048
1049         g_assert_not_reached ();
1050 }
1051
1052 /*
1053  * create_thread:
1054  *
1055  *   Common thread creation code.
1056  * LOCKING: Acquires the threads lock.
1057  */
1058 static gboolean
1059 create_thread (MonoThread *thread, MonoInternalThread *internal, MonoObject *start_delegate, MonoThreadStart start_func, gpointer start_func_arg,
1060         MonoThreadCreateFlags flags, MonoError *error)
1061 {
1062         StartInfo *start_info = NULL;
1063         MonoNativeThreadId tid;
1064         gboolean ret;
1065         gsize stack_set_size;
1066
1067         if (start_delegate)
1068                 g_assert (!start_func && !start_func_arg);
1069         if (start_func)
1070                 g_assert (!start_delegate);
1071
1072         if (flags & MONO_THREAD_CREATE_FLAGS_THREADPOOL) {
1073                 g_assert (!(flags & MONO_THREAD_CREATE_FLAGS_DEBUGGER));
1074                 g_assert (!(flags & MONO_THREAD_CREATE_FLAGS_FORCE_CREATE));
1075         }
1076         if (flags & MONO_THREAD_CREATE_FLAGS_DEBUGGER) {
1077                 g_assert (!(flags & MONO_THREAD_CREATE_FLAGS_THREADPOOL));
1078                 g_assert (!(flags & MONO_THREAD_CREATE_FLAGS_FORCE_CREATE));
1079         }
1080
1081         /*
1082          * Join joinable threads to prevent running out of threads since the finalizer
1083          * thread might be blocked/backlogged.
1084          */
1085         mono_threads_join_threads ();
1086
1087         error_init (error);
1088
1089         mono_threads_lock ();
1090         if (shutting_down && !(flags & MONO_THREAD_CREATE_FLAGS_FORCE_CREATE)) {
1091                 mono_threads_unlock ();
1092                 return FALSE;
1093         }
1094         if (threads_starting_up == NULL) {
1095                 threads_starting_up = mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_KEY_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "starting threads table");
1096         }
1097         mono_g_hash_table_insert (threads_starting_up, thread, thread);
1098         mono_threads_unlock ();
1099
1100         internal->threadpool_thread = flags & MONO_THREAD_CREATE_FLAGS_THREADPOOL;
1101         if (internal->threadpool_thread)
1102                 mono_thread_set_state (internal, ThreadState_Background);
1103
1104         internal->debugger_thread = flags & MONO_THREAD_CREATE_FLAGS_DEBUGGER;
1105
1106         start_info = g_new0 (StartInfo, 1);
1107         start_info->ref = 2;
1108         start_info->thread = thread;
1109         start_info->start_delegate = start_delegate;
1110         start_info->start_delegate_arg = thread->start_obj;
1111         start_info->start_func = start_func;
1112         start_info->start_func_arg = start_func_arg;
1113         start_info->force_attach = flags & MONO_THREAD_CREATE_FLAGS_FORCE_CREATE;
1114         start_info->failed = FALSE;
1115         mono_coop_sem_init (&start_info->registered, 0);
1116
1117         if (flags != MONO_THREAD_CREATE_FLAGS_SMALL_STACK)
1118                 stack_set_size = default_stacksize_for_thread (internal);
1119         else
1120                 stack_set_size = 0;
1121
1122         if (!mono_thread_platform_create_thread (start_wrapper, start_info, &stack_set_size, &tid)) {
1123                 /* The thread couldn't be created, so set an exception */
1124                 mono_threads_lock ();
1125                 mono_g_hash_table_remove (threads_starting_up, thread);
1126                 mono_threads_unlock ();
1127                 mono_error_set_execution_engine (error, "Couldn't create thread. Error 0x%x", mono_w32error_get_last());
1128                 /* ref is not going to be decremented in start_wrapper_internal */
1129                 InterlockedDecrement (&start_info->ref);
1130                 ret = FALSE;
1131                 goto done;
1132         }
1133
1134         internal->stack_size = (int) stack_set_size;
1135
1136         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
1137
1138         /*
1139          * Wait for the thread to set up its TLS data etc, so
1140          * theres no potential race condition if someone tries
1141          * to look up the data believing the thread has
1142          * started
1143          */
1144
1145         mono_coop_sem_wait (&start_info->registered, MONO_SEM_FLAGS_NONE);
1146
1147         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Done launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
1148
1149         ret = !start_info->failed;
1150
1151 done:
1152         if (InterlockedDecrement (&start_info->ref) == 0) {
1153                 mono_coop_sem_destroy (&start_info->registered);
1154                 g_free (start_info);
1155         }
1156
1157         return ret;
1158 }
1159
1160 /**
1161  * mono_thread_new_init:
1162  */
1163 void
1164 mono_thread_new_init (intptr_t tid, gpointer stack_start, gpointer func)
1165 {
1166         if (mono_thread_start_cb) {
1167                 mono_thread_start_cb (tid, stack_start, func);
1168         }
1169 }
1170
1171 /**
1172  * mono_threads_set_default_stacksize:
1173  */
1174 void
1175 mono_threads_set_default_stacksize (guint32 stacksize)
1176 {
1177         default_stacksize = stacksize;
1178 }
1179
1180 /**
1181  * mono_threads_get_default_stacksize:
1182  */
1183 guint32
1184 mono_threads_get_default_stacksize (void)
1185 {
1186         return default_stacksize;
1187 }
1188
1189 /*
1190  * mono_thread_create_internal:
1191  *
1192  *   ARG should not be a GC reference.
1193  */
1194 MonoInternalThread*
1195 mono_thread_create_internal (MonoDomain *domain, gpointer func, gpointer arg, MonoThreadCreateFlags flags, MonoError *error)
1196 {
1197         MonoThread *thread;
1198         MonoInternalThread *internal;
1199         gboolean res;
1200
1201         error_init (error);
1202
1203         internal = create_internal_thread_object ();
1204
1205         thread = create_thread_object (domain, internal);
1206
1207         LOCK_THREAD (internal);
1208
1209         res = create_thread (thread, internal, NULL, (MonoThreadStart) func, arg, flags, error);
1210
1211         UNLOCK_THREAD (internal);
1212
1213         return_val_if_nok (error, NULL);
1214         return internal;
1215 }
1216
1217 /**
1218  * mono_thread_create:
1219  */
1220 void
1221 mono_thread_create (MonoDomain *domain, gpointer func, gpointer arg)
1222 {
1223         MonoError error;
1224         if (!mono_thread_create_checked (domain, func, arg, &error))
1225                 mono_error_cleanup (&error);
1226 }
1227
1228 gboolean
1229 mono_thread_create_checked (MonoDomain *domain, gpointer func, gpointer arg, MonoError *error)
1230 {
1231         return (NULL != mono_thread_create_internal (domain, func, arg, MONO_THREAD_CREATE_FLAGS_NONE, error));
1232 }
1233
1234 static MonoThread *
1235 mono_thread_attach_full (MonoDomain *domain, gboolean force_attach)
1236 {
1237         MonoInternalThread *internal;
1238         MonoThread *thread;
1239         MonoThreadInfo *info;
1240         MonoNativeThreadId tid;
1241
1242         if (mono_thread_internal_current_is_attached ()) {
1243                 if (domain != mono_domain_get ())
1244                         mono_domain_set (domain, TRUE);
1245                 /* Already attached */
1246                 return mono_thread_current ();
1247         }
1248
1249         info = mono_thread_info_attach ();
1250         g_assert (info);
1251
1252         tid=mono_native_thread_id_get ();
1253
1254         internal = create_internal_thread_object ();
1255
1256         thread = create_thread_object (domain, internal);
1257
1258         if (!mono_thread_attach_internal (thread, force_attach, TRUE)) {
1259                 /* Mono is shutting down, so just wait for the end */
1260                 for (;;)
1261                         mono_thread_info_sleep (10000, NULL);
1262         }
1263
1264         THREAD_DEBUG (g_message ("%s: Attached thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, internal->handle));
1265
1266         if (mono_thread_attach_cb)
1267                 mono_thread_attach_cb (MONO_NATIVE_THREAD_ID_TO_UINT (tid), info->stack_end);
1268
1269         /* Can happen when we attach the profiler helper thread in order to heapshot. */
1270         if (!mono_thread_info_current ()->tools_thread)
1271                 MONO_PROFILER_RAISE (thread_started, (MONO_NATIVE_THREAD_ID_TO_UINT (tid)));
1272
1273         return thread;
1274 }
1275
1276 /**
1277  * mono_thread_attach:
1278  */
1279 MonoThread *
1280 mono_thread_attach (MonoDomain *domain)
1281 {
1282         return mono_thread_attach_full (domain, FALSE);
1283 }
1284
1285 /**
1286  * mono_thread_detach:
1287  */
1288 void
1289 mono_thread_detach (MonoThread *thread)
1290 {
1291         if (thread)
1292                 mono_thread_detach_internal (thread->internal_thread);
1293 }
1294
1295 /**
1296  * mono_thread_detach_if_exiting:
1297  *
1298  * Detach the current thread from the runtime if it is exiting, i.e. it is running pthread dtors.
1299  * This should be used at the end of embedding code which calls into managed code, and which
1300  * can be called from pthread dtors, like <code>dealloc:</code> implementations in Objective-C.
1301  */
1302 mono_bool
1303 mono_thread_detach_if_exiting (void)
1304 {
1305         if (mono_thread_info_is_exiting ()) {
1306                 MonoInternalThread *thread;
1307
1308                 thread = mono_thread_internal_current ();
1309                 if (thread) {
1310                         mono_thread_detach_internal (thread);
1311                         mono_thread_info_detach ();
1312                         return TRUE;
1313                 }
1314         }
1315         return FALSE;
1316 }
1317
1318 gboolean
1319 mono_thread_internal_current_is_attached (void)
1320 {
1321         MonoInternalThread *internal;
1322
1323         internal = GET_CURRENT_OBJECT ();
1324         if (!internal)
1325                 return FALSE;
1326
1327         return TRUE;
1328 }
1329
1330 /**
1331  * mono_thread_exit:
1332  */
1333 void
1334 mono_thread_exit (void)
1335 {
1336         MonoInternalThread *thread = mono_thread_internal_current ();
1337
1338         THREAD_DEBUG (g_message ("%s: mono_thread_exit for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1339
1340         mono_thread_detach_internal (thread);
1341
1342         /* we could add a callback here for embedders to use. */
1343         if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread))
1344                 exit (mono_environment_exitcode_get ());
1345
1346         mono_thread_info_exit (0);
1347 }
1348
1349 void
1350 ves_icall_System_Threading_Thread_ConstructInternalThread (MonoThread *this_obj)
1351 {
1352         MonoInternalThread *internal;
1353
1354         internal = create_internal_thread_object ();
1355
1356         internal->state = ThreadState_Unstarted;
1357
1358         InterlockedCompareExchangePointer ((volatile gpointer *)&this_obj->internal_thread, internal, NULL);
1359 }
1360
1361 MonoThread *
1362 ves_icall_System_Threading_Thread_GetCurrentThread (void)
1363 {
1364         return mono_thread_current ();
1365 }
1366
1367 HANDLE
1368 ves_icall_System_Threading_Thread_Thread_internal (MonoThread *this_obj,
1369                                                                                                    MonoObject *start)
1370 {
1371         MonoError error;
1372         MonoInternalThread *internal;
1373         gboolean res;
1374
1375         THREAD_DEBUG (g_message("%s: Trying to start a new thread: this (%p) start (%p)", __func__, this_obj, start));
1376
1377         if (!this_obj->internal_thread)
1378                 ves_icall_System_Threading_Thread_ConstructInternalThread (this_obj);
1379         internal = this_obj->internal_thread;
1380
1381         LOCK_THREAD (internal);
1382
1383         if ((internal->state & ThreadState_Unstarted) == 0) {
1384                 UNLOCK_THREAD (internal);
1385                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has already been started."));
1386                 return NULL;
1387         }
1388
1389         if ((internal->state & ThreadState_Aborted) != 0) {
1390                 UNLOCK_THREAD (internal);
1391                 return this_obj;
1392         }
1393
1394         res = create_thread (this_obj, internal, start, NULL, NULL, MONO_THREAD_CREATE_FLAGS_NONE, &error);
1395         if (!res) {
1396                 mono_error_cleanup (&error);
1397                 UNLOCK_THREAD (internal);
1398                 return NULL;
1399         }
1400
1401         internal->state &= ~ThreadState_Unstarted;
1402
1403         THREAD_DEBUG (g_message ("%s: Started thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread));
1404
1405         UNLOCK_THREAD (internal);
1406         return internal->handle;
1407 }
1408
1409 /*
1410  * This is called from the finalizer of the internal thread object.
1411  */
1412 void
1413 ves_icall_System_Threading_InternalThread_Thread_free_internal (MonoInternalThread *this_obj)
1414 {
1415         THREAD_DEBUG (g_message ("%s: Closing thread %p, handle %p", __func__, this, this_obj->handle));
1416
1417         /*
1418          * Since threads keep a reference to their thread object while running, by
1419          * the time this function is called, the thread has already exited/detached,
1420          * i.e. mono_thread_detach_internal () has ran. The exception is during
1421          * shutdown, when mono_thread_detach_internal () can be called after this.
1422          */
1423         if (this_obj->handle) {
1424                 mono_threads_close_thread_handle (this_obj->handle);
1425                 this_obj->handle = NULL;
1426         }
1427
1428 #if HOST_WIN32
1429         CloseHandle (this_obj->native_handle);
1430 #endif
1431
1432         if (this_obj->synch_cs) {
1433                 MonoCoopMutex *synch_cs = this_obj->synch_cs;
1434                 this_obj->synch_cs = NULL;
1435                 mono_coop_mutex_destroy (synch_cs);
1436                 g_free (synch_cs);
1437         }
1438
1439         if (this_obj->name) {
1440                 void *name = this_obj->name;
1441                 this_obj->name = NULL;
1442                 g_free (name);
1443         }
1444 }
1445
1446 void
1447 ves_icall_System_Threading_Thread_Sleep_internal(gint32 ms)
1448 {
1449         guint32 res;
1450         MonoInternalThread *thread = mono_thread_internal_current ();
1451
1452         THREAD_DEBUG (g_message ("%s: Sleeping for %d ms", __func__, ms));
1453
1454         if (mono_thread_current_check_pending_interrupt ())
1455                 return;
1456
1457         while (TRUE) {
1458                 gboolean alerted = FALSE;
1459
1460                 mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1461
1462                 res = mono_thread_info_sleep (ms, &alerted);
1463
1464                 mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1465
1466                 if (alerted) {
1467                         MonoException* exc = mono_thread_execute_interruption ();
1468                         if (exc) {
1469                                 mono_raise_exception (exc);
1470                         } else {
1471                                 // FIXME: !MONO_INFINITE_WAIT
1472                                 if (ms != MONO_INFINITE_WAIT)
1473                                         break;
1474                         }
1475                 } else {
1476                         break;
1477                 }
1478         }
1479 }
1480
1481 void ves_icall_System_Threading_Thread_SpinWait_nop (void)
1482 {
1483 }
1484
1485 gint32
1486 ves_icall_System_Threading_Thread_GetDomainID (void) 
1487 {
1488         return mono_domain_get()->domain_id;
1489 }
1490
1491 gboolean 
1492 ves_icall_System_Threading_Thread_Yield (void)
1493 {
1494         return mono_thread_info_yield ();
1495 }
1496
1497 /*
1498  * mono_thread_get_name:
1499  *
1500  *   Return the name of the thread. NAME_LEN is set to the length of the name.
1501  * Return NULL if the thread has no name. The returned memory is owned by the
1502  * caller.
1503  */
1504 gunichar2*
1505 mono_thread_get_name (MonoInternalThread *this_obj, guint32 *name_len)
1506 {
1507         gunichar2 *res;
1508
1509         LOCK_THREAD (this_obj);
1510         
1511         if (!this_obj->name) {
1512                 *name_len = 0;
1513                 res = NULL;
1514         } else {
1515                 *name_len = this_obj->name_len;
1516                 res = g_new (gunichar2, this_obj->name_len);
1517                 memcpy (res, this_obj->name, sizeof (gunichar2) * this_obj->name_len);
1518         }
1519         
1520         UNLOCK_THREAD (this_obj);
1521
1522         return res;
1523 }
1524
1525 /**
1526  * mono_thread_get_name_utf8:
1527  * \returns the name of the thread in UTF-8.
1528  * Return NULL if the thread has no name.
1529  * The returned memory is owned by the caller.
1530  */
1531 char *
1532 mono_thread_get_name_utf8 (MonoThread *thread)
1533 {
1534         if (thread == NULL)
1535                 return NULL;
1536
1537         MonoInternalThread *internal = thread->internal_thread;
1538         if (internal == NULL)
1539                 return NULL;
1540
1541         LOCK_THREAD (internal);
1542
1543         char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
1544
1545         UNLOCK_THREAD (internal);
1546
1547         return tname;
1548 }
1549
1550 /**
1551  * mono_thread_get_managed_id:
1552  * \returns the \c Thread.ManagedThreadId value of \p thread.
1553  * Returns \c -1 if \p thread is NULL.
1554  */
1555 int32_t
1556 mono_thread_get_managed_id (MonoThread *thread)
1557 {
1558         if (thread == NULL)
1559                 return -1;
1560
1561         MonoInternalThread *internal = thread->internal_thread;
1562         if (internal == NULL)
1563                 return -1;
1564
1565         int32_t id = internal->managed_id;
1566
1567         return id;
1568 }
1569
1570 MonoString* 
1571 ves_icall_System_Threading_Thread_GetName_internal (MonoInternalThread *this_obj)
1572 {
1573         MonoError error;
1574         MonoString* str;
1575
1576         error_init (&error);
1577
1578         LOCK_THREAD (this_obj);
1579         
1580         if (!this_obj->name)
1581                 str = NULL;
1582         else
1583                 str = mono_string_new_utf16_checked (mono_domain_get (), this_obj->name, this_obj->name_len, &error);
1584         
1585         UNLOCK_THREAD (this_obj);
1586
1587         if (mono_error_set_pending_exception (&error))
1588                 return NULL;
1589         
1590         return str;
1591 }
1592
1593 void 
1594 mono_thread_set_name_internal (MonoInternalThread *this_obj, MonoString *name, gboolean permanent, gboolean reset, MonoError *error)
1595 {
1596         LOCK_THREAD (this_obj);
1597
1598         error_init (error);
1599
1600         if (reset) {
1601                 this_obj->flags &= ~MONO_THREAD_FLAG_NAME_SET;
1602         } else if (this_obj->flags & MONO_THREAD_FLAG_NAME_SET) {
1603                 UNLOCK_THREAD (this_obj);
1604                 
1605                 mono_error_set_invalid_operation (error, "Thread.Name can only be set once.");
1606                 return;
1607         }
1608         if (this_obj->name) {
1609                 g_free (this_obj->name);
1610                 this_obj->name_len = 0;
1611         }
1612         if (name) {
1613                 this_obj->name = g_memdup (mono_string_chars (name), mono_string_length (name) * sizeof (gunichar2));
1614                 this_obj->name_len = mono_string_length (name);
1615
1616                 if (permanent)
1617                         this_obj->flags |= MONO_THREAD_FLAG_NAME_SET;
1618         }
1619         else
1620                 this_obj->name = NULL;
1621
1622         
1623         UNLOCK_THREAD (this_obj);
1624
1625         if (this_obj->name && this_obj->tid) {
1626                 char *tname = mono_string_to_utf8_checked (name, error);
1627                 return_if_nok (error);
1628                 MONO_PROFILER_RAISE (thread_name, (this_obj->tid, tname));
1629                 mono_native_thread_set_name (thread_get_tid (this_obj), tname);
1630                 mono_free (tname);
1631         }
1632 }
1633
1634 void 
1635 ves_icall_System_Threading_Thread_SetName_internal (MonoInternalThread *this_obj, MonoString *name)
1636 {
1637         MonoError error;
1638         mono_thread_set_name_internal (this_obj, name, TRUE, FALSE, &error);
1639         mono_error_set_pending_exception (&error);
1640 }
1641
1642 /*
1643  * ves_icall_System_Threading_Thread_GetPriority_internal:
1644  * @param this_obj: The MonoInternalThread on which to operate.
1645  *
1646  * Gets the priority of the given thread.
1647  * @return: The priority of the given thread.
1648  */
1649 int
1650 ves_icall_System_Threading_Thread_GetPriority (MonoThread *this_obj)
1651 {
1652         gint32 priority;
1653         MonoInternalThread *internal = this_obj->internal_thread;
1654
1655         LOCK_THREAD (internal);
1656         priority = internal->priority;
1657         UNLOCK_THREAD (internal);
1658
1659         return priority;
1660 }
1661
1662 /* 
1663  * ves_icall_System_Threading_Thread_SetPriority_internal:
1664  * @param this_obj: The MonoInternalThread on which to operate.
1665  * @param priority: The priority to set.
1666  *
1667  * Sets the priority of the given thread.
1668  */
1669 void
1670 ves_icall_System_Threading_Thread_SetPriority (MonoThread *this_obj, int priority)
1671 {
1672         MonoInternalThread *internal = this_obj->internal_thread;
1673
1674         LOCK_THREAD (internal);
1675         internal->priority = priority;
1676         if (internal->thread_info != NULL)
1677                 mono_thread_internal_set_priority (internal, priority);
1678         UNLOCK_THREAD (internal);
1679 }
1680
1681 /* If the array is already in the requested domain, we just return it,
1682    otherwise we return a copy in that domain. */
1683 static MonoArray*
1684 byte_array_to_domain (MonoArray *arr, MonoDomain *domain, MonoError *error)
1685 {
1686         MonoArray *copy;
1687
1688         error_init (error);
1689         if (!arr)
1690                 return NULL;
1691
1692         if (mono_object_domain (arr) == domain)
1693                 return arr;
1694
1695         copy = mono_array_new_checked (domain, mono_defaults.byte_class, arr->max_length, error);
1696         memmove (mono_array_addr (copy, guint8, 0), mono_array_addr (arr, guint8, 0), arr->max_length);
1697         return copy;
1698 }
1699
1700 MonoArray*
1701 ves_icall_System_Threading_Thread_ByteArrayToRootDomain (MonoArray *arr)
1702 {
1703         MonoError error;
1704         MonoArray *result = byte_array_to_domain (arr, mono_get_root_domain (), &error);
1705         mono_error_set_pending_exception (&error);
1706         return result;
1707 }
1708
1709 MonoArray*
1710 ves_icall_System_Threading_Thread_ByteArrayToCurrentDomain (MonoArray *arr)
1711 {
1712         MonoError error;
1713         MonoArray *result = byte_array_to_domain (arr, mono_domain_get (), &error);
1714         mono_error_set_pending_exception (&error);
1715         return result;
1716 }
1717
1718 /**
1719  * mono_thread_current:
1720  */
1721 MonoThread *
1722 mono_thread_current (void)
1723 {
1724         MonoDomain *domain = mono_domain_get ();
1725         MonoInternalThread *internal = mono_thread_internal_current ();
1726         MonoThread **current_thread_ptr;
1727
1728         g_assert (internal);
1729         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1730
1731         if (!*current_thread_ptr) {
1732                 g_assert (domain != mono_get_root_domain ());
1733                 *current_thread_ptr = create_thread_object (domain, internal);
1734         }
1735         return *current_thread_ptr;
1736 }
1737
1738 /* Return the thread object belonging to INTERNAL in the current domain */
1739 static MonoThread *
1740 mono_thread_current_for_thread (MonoInternalThread *internal)
1741 {
1742         MonoDomain *domain = mono_domain_get ();
1743         MonoThread **current_thread_ptr;
1744
1745         g_assert (internal);
1746         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1747
1748         if (!*current_thread_ptr) {
1749                 g_assert (domain != mono_get_root_domain ());
1750                 *current_thread_ptr = create_thread_object (domain, internal);
1751         }
1752         return *current_thread_ptr;
1753 }
1754
1755 MonoInternalThread*
1756 mono_thread_internal_current (void)
1757 {
1758         MonoInternalThread *res = GET_CURRENT_OBJECT ();
1759         THREAD_DEBUG (g_message ("%s: returning %p", __func__, res));
1760         return res;
1761 }
1762
1763 static MonoThreadInfoWaitRet
1764 mono_join_uninterrupted (MonoThreadHandle* thread_to_join, gint32 ms, MonoError *error)
1765 {
1766         MonoException *exc;
1767         MonoThreadInfoWaitRet ret;
1768         gint64 start;
1769         gint32 diff_ms;
1770         gint32 wait = ms;
1771
1772         error_init (error);
1773
1774         start = (ms == -1) ? 0 : mono_msec_ticks ();
1775         for (;;) {
1776                 MONO_ENTER_GC_SAFE;
1777                 ret = mono_thread_info_wait_one_handle (thread_to_join, ms, TRUE);
1778                 MONO_EXIT_GC_SAFE;
1779
1780                 if (ret != MONO_THREAD_INFO_WAIT_RET_ALERTED)
1781                         return ret;
1782
1783                 exc = mono_thread_execute_interruption ();
1784                 if (exc) {
1785                         mono_error_set_exception_instance (error, exc);
1786                         return ret;
1787                 }
1788
1789                 if (ms == -1)
1790                         continue;
1791
1792                 /* Re-calculate ms according to the time passed */
1793                 diff_ms = (gint32)(mono_msec_ticks () - start);
1794                 if (diff_ms >= ms) {
1795                         ret = MONO_THREAD_INFO_WAIT_RET_TIMEOUT;
1796                         return ret;
1797                 }
1798                 wait = ms - diff_ms;
1799         }
1800
1801         return ret;
1802 }
1803
1804 gboolean
1805 ves_icall_System_Threading_Thread_Join_internal(MonoThread *this_obj, int ms)
1806 {
1807         MonoInternalThread *thread = this_obj->internal_thread;
1808         MonoThreadHandle *handle = thread->handle;
1809         MonoInternalThread *cur_thread = mono_thread_internal_current ();
1810         gboolean ret;
1811         MonoError error;
1812
1813         if (mono_thread_current_check_pending_interrupt ())
1814                 return FALSE;
1815
1816         LOCK_THREAD (thread);
1817         
1818         if ((thread->state & ThreadState_Unstarted) != 0) {
1819                 UNLOCK_THREAD (thread);
1820                 
1821                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started."));
1822                 return FALSE;
1823         }
1824
1825         UNLOCK_THREAD (thread);
1826
1827         if(ms== -1) {
1828                 ms=MONO_INFINITE_WAIT;
1829         }
1830         THREAD_DEBUG (g_message ("%s: joining thread handle %p, %d ms", __func__, handle, ms));
1831         
1832         mono_thread_set_state (cur_thread, ThreadState_WaitSleepJoin);
1833
1834         ret=mono_join_uninterrupted (handle, ms, &error);
1835
1836         mono_thread_clr_state (cur_thread, ThreadState_WaitSleepJoin);
1837
1838         mono_error_set_pending_exception (&error);
1839
1840         if(ret==MONO_THREAD_INFO_WAIT_RET_SUCCESS_0) {
1841                 THREAD_DEBUG (g_message ("%s: join successful", __func__));
1842
1843                 return(TRUE);
1844         }
1845         
1846         THREAD_DEBUG (g_message ("%s: join failed", __func__));
1847
1848         return(FALSE);
1849 }
1850
1851 #define MANAGED_WAIT_FAILED 0x7fffffff
1852
1853 static gint32
1854 map_native_wait_result_to_managed (MonoW32HandleWaitRet val, gsize numobjects)
1855 {
1856         if (val >= MONO_W32HANDLE_WAIT_RET_SUCCESS_0 && val < MONO_W32HANDLE_WAIT_RET_SUCCESS_0 + numobjects) {
1857                 return WAIT_OBJECT_0 + (val - MONO_W32HANDLE_WAIT_RET_SUCCESS_0);
1858         } else if (val >= MONO_W32HANDLE_WAIT_RET_ABANDONED_0 && val < MONO_W32HANDLE_WAIT_RET_ABANDONED_0 + numobjects) {
1859                 return WAIT_ABANDONED_0 + (val - MONO_W32HANDLE_WAIT_RET_ABANDONED_0);
1860         } else if (val == MONO_W32HANDLE_WAIT_RET_ALERTED) {
1861                 return WAIT_IO_COMPLETION;
1862         } else if (val == MONO_W32HANDLE_WAIT_RET_TIMEOUT) {
1863                 return WAIT_TIMEOUT;
1864         } else if (val == MONO_W32HANDLE_WAIT_RET_FAILED) {
1865                 /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1866                 return MANAGED_WAIT_FAILED;
1867         } else {
1868                 g_error ("%s: unknown val value %d", __func__, val);
1869         }
1870 }
1871
1872 gint32
1873 ves_icall_System_Threading_WaitHandle_Wait_internal (gpointer *handles, gint32 numhandles, MonoBoolean waitall, gint32 timeout, MonoError *error)
1874 {
1875         MonoW32HandleWaitRet ret;
1876         MonoInternalThread *thread;
1877         MonoException *exc;
1878         gint64 start;
1879         guint32 timeoutLeft;
1880
1881         /* Do this WaitSleepJoin check before creating objects */
1882         if (mono_thread_current_check_pending_interrupt ())
1883                 return map_native_wait_result_to_managed (MONO_W32HANDLE_WAIT_RET_FAILED, 0);
1884
1885         thread = mono_thread_internal_current ();
1886
1887         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1888
1889         if (timeout == -1)
1890                 timeout = MONO_INFINITE_WAIT;
1891         if (timeout != MONO_INFINITE_WAIT)
1892                 start = mono_msec_ticks ();
1893
1894         timeoutLeft = timeout;
1895
1896         for (;;) {
1897                 MONO_ENTER_GC_SAFE;
1898 #ifdef HOST_WIN32
1899                 if (numhandles != 1)
1900                         ret = mono_w32handle_convert_wait_ret (WaitForMultipleObjectsEx (numhandles, handles, waitall, timeoutLeft, TRUE), numhandles);
1901                 else
1902                         ret = mono_w32handle_convert_wait_ret (WaitForSingleObjectEx (handles [0], timeoutLeft, TRUE), 1);
1903 #else
1904                 /* mono_w32handle_wait_multiple optimizes the case for numhandles == 1 */
1905                 ret = mono_w32handle_wait_multiple (handles, numhandles, waitall, timeoutLeft, TRUE);
1906 #endif /* HOST_WIN32 */
1907                 MONO_EXIT_GC_SAFE;
1908
1909                 if (ret != MONO_W32HANDLE_WAIT_RET_ALERTED)
1910                         break;
1911
1912                 exc = mono_thread_execute_interruption ();
1913                 if (exc) {
1914                         mono_error_set_exception_instance (error, exc);
1915                         break;
1916                 }
1917
1918                 if (timeout != MONO_INFINITE_WAIT) {
1919                         gint64 elapsed;
1920
1921                         elapsed = mono_msec_ticks () - start;
1922                         if (elapsed >= timeout) {
1923                                 ret = MONO_W32HANDLE_WAIT_RET_TIMEOUT;
1924                                 break;
1925                         }
1926
1927                         timeoutLeft = timeout - elapsed;
1928                 }
1929         }
1930
1931         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1932
1933         return map_native_wait_result_to_managed (ret, numhandles);
1934 }
1935
1936 gint32
1937 ves_icall_System_Threading_WaitHandle_SignalAndWait_Internal (gpointer toSignal, gpointer toWait, gint32 ms, MonoError *error)
1938 {
1939         MonoW32HandleWaitRet ret;
1940         MonoInternalThread *thread = mono_thread_internal_current ();
1941
1942         if (ms == -1)
1943                 ms = MONO_INFINITE_WAIT;
1944
1945         if (mono_thread_current_check_pending_interrupt ())
1946                 return map_native_wait_result_to_managed (MONO_W32HANDLE_WAIT_RET_FAILED, 0);
1947
1948         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1949         
1950         MONO_ENTER_GC_SAFE;
1951 #ifdef HOST_WIN32
1952         ret = mono_w32handle_convert_wait_ret (SignalObjectAndWait (toSignal, toWait, ms, TRUE), 1);
1953 #else
1954         ret = mono_w32handle_signal_and_wait (toSignal, toWait, ms, TRUE);
1955 #endif
1956         MONO_EXIT_GC_SAFE;
1957         
1958         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1959
1960         return map_native_wait_result_to_managed (ret, 1);
1961 }
1962
1963 gint32 ves_icall_System_Threading_Interlocked_Increment_Int (gint32 *location)
1964 {
1965         return InterlockedIncrement (location);
1966 }
1967
1968 gint64 ves_icall_System_Threading_Interlocked_Increment_Long (gint64 *location)
1969 {
1970 #if SIZEOF_VOID_P == 4
1971         if (G_UNLIKELY ((size_t)location & 0x7)) {
1972                 gint64 ret;
1973                 mono_interlocked_lock ();
1974                 (*location)++;
1975                 ret = *location;
1976                 mono_interlocked_unlock ();
1977                 return ret;
1978         }
1979 #endif
1980         return InterlockedIncrement64 (location);
1981 }
1982
1983 gint32 ves_icall_System_Threading_Interlocked_Decrement_Int (gint32 *location)
1984 {
1985         return InterlockedDecrement(location);
1986 }
1987
1988 gint64 ves_icall_System_Threading_Interlocked_Decrement_Long (gint64 * location)
1989 {
1990 #if SIZEOF_VOID_P == 4
1991         if (G_UNLIKELY ((size_t)location & 0x7)) {
1992                 gint64 ret;
1993                 mono_interlocked_lock ();
1994                 (*location)--;
1995                 ret = *location;
1996                 mono_interlocked_unlock ();
1997                 return ret;
1998         }
1999 #endif
2000         return InterlockedDecrement64 (location);
2001 }
2002
2003 gint32 ves_icall_System_Threading_Interlocked_Exchange_Int (gint32 *location, gint32 value)
2004 {
2005         return InterlockedExchange(location, value);
2006 }
2007
2008 MonoObject * ves_icall_System_Threading_Interlocked_Exchange_Object (MonoObject **location, MonoObject *value)
2009 {
2010         MonoObject *res;
2011         res = (MonoObject *) InterlockedExchangePointer((gpointer *) location, value);
2012         mono_gc_wbarrier_generic_nostore (location);
2013         return res;
2014 }
2015
2016 gpointer ves_icall_System_Threading_Interlocked_Exchange_IntPtr (gpointer *location, gpointer value)
2017 {
2018         return InterlockedExchangePointer(location, value);
2019 }
2020
2021 gfloat ves_icall_System_Threading_Interlocked_Exchange_Single (gfloat *location, gfloat value)
2022 {
2023         IntFloatUnion val, ret;
2024
2025         val.fval = value;
2026         ret.ival = InterlockedExchange((gint32 *) location, val.ival);
2027
2028         return ret.fval;
2029 }
2030
2031 gint64 
2032 ves_icall_System_Threading_Interlocked_Exchange_Long (gint64 *location, gint64 value)
2033 {
2034 #if SIZEOF_VOID_P == 4
2035         if (G_UNLIKELY ((size_t)location & 0x7)) {
2036                 gint64 ret;
2037                 mono_interlocked_lock ();
2038                 ret = *location;
2039                 *location = value;
2040                 mono_interlocked_unlock ();
2041                 return ret;
2042         }
2043 #endif
2044         return InterlockedExchange64 (location, value);
2045 }
2046
2047 gdouble 
2048 ves_icall_System_Threading_Interlocked_Exchange_Double (gdouble *location, gdouble value)
2049 {
2050         LongDoubleUnion val, ret;
2051
2052         val.fval = value;
2053         ret.ival = (gint64)InterlockedExchange64((gint64 *) location, val.ival);
2054
2055         return ret.fval;
2056 }
2057
2058 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int(gint32 *location, gint32 value, gint32 comparand)
2059 {
2060         return InterlockedCompareExchange(location, value, comparand);
2061 }
2062
2063 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int_Success(gint32 *location, gint32 value, gint32 comparand, MonoBoolean *success)
2064 {
2065         gint32 r = InterlockedCompareExchange(location, value, comparand);
2066         *success = r == comparand;
2067         return r;
2068 }
2069
2070 MonoObject * ves_icall_System_Threading_Interlocked_CompareExchange_Object (MonoObject **location, MonoObject *value, MonoObject *comparand)
2071 {
2072         MonoObject *res;
2073         res = (MonoObject *) InterlockedCompareExchangePointer((gpointer *) location, value, comparand);
2074         mono_gc_wbarrier_generic_nostore (location);
2075         return res;
2076 }
2077
2078 gpointer ves_icall_System_Threading_Interlocked_CompareExchange_IntPtr(gpointer *location, gpointer value, gpointer comparand)
2079 {
2080         return InterlockedCompareExchangePointer(location, value, comparand);
2081 }
2082
2083 gfloat ves_icall_System_Threading_Interlocked_CompareExchange_Single (gfloat *location, gfloat value, gfloat comparand)
2084 {
2085         IntFloatUnion val, ret, cmp;
2086
2087         val.fval = value;
2088         cmp.fval = comparand;
2089         ret.ival = InterlockedCompareExchange((gint32 *) location, val.ival, cmp.ival);
2090
2091         return ret.fval;
2092 }
2093
2094 gdouble
2095 ves_icall_System_Threading_Interlocked_CompareExchange_Double (gdouble *location, gdouble value, gdouble comparand)
2096 {
2097 #if SIZEOF_VOID_P == 8
2098         LongDoubleUnion val, comp, ret;
2099
2100         val.fval = value;
2101         comp.fval = comparand;
2102         ret.ival = (gint64)InterlockedCompareExchangePointer((gpointer *) location, (gpointer)val.ival, (gpointer)comp.ival);
2103
2104         return ret.fval;
2105 #else
2106         gdouble old;
2107
2108         mono_interlocked_lock ();
2109         old = *location;
2110         if (old == comparand)
2111                 *location = value;
2112         mono_interlocked_unlock ();
2113
2114         return old;
2115 #endif
2116 }
2117
2118 gint64 
2119 ves_icall_System_Threading_Interlocked_CompareExchange_Long (gint64 *location, gint64 value, gint64 comparand)
2120 {
2121 #if SIZEOF_VOID_P == 4
2122         if (G_UNLIKELY ((size_t)location & 0x7)) {
2123                 gint64 old;
2124                 mono_interlocked_lock ();
2125                 old = *location;
2126                 if (old == comparand)
2127                         *location = value;
2128                 mono_interlocked_unlock ();
2129                 return old;
2130         }
2131 #endif
2132         return InterlockedCompareExchange64 (location, value, comparand);
2133 }
2134
2135 MonoObject*
2136 ves_icall_System_Threading_Interlocked_CompareExchange_T (MonoObject **location, MonoObject *value, MonoObject *comparand)
2137 {
2138         MonoObject *res;
2139         res = (MonoObject *)InterlockedCompareExchangePointer ((volatile gpointer *)location, value, comparand);
2140         mono_gc_wbarrier_generic_nostore (location);
2141         return res;
2142 }
2143
2144 MonoObject*
2145 ves_icall_System_Threading_Interlocked_Exchange_T (MonoObject **location, MonoObject *value)
2146 {
2147         MonoObject *res;
2148         MONO_CHECK_NULL (location, NULL);
2149         res = (MonoObject *)InterlockedExchangePointer ((volatile gpointer *)location, value);
2150         mono_gc_wbarrier_generic_nostore (location);
2151         return res;
2152 }
2153
2154 gint32 
2155 ves_icall_System_Threading_Interlocked_Add_Int (gint32 *location, gint32 value)
2156 {
2157         return InterlockedAdd (location, value);
2158 }
2159
2160 gint64 
2161 ves_icall_System_Threading_Interlocked_Add_Long (gint64 *location, gint64 value)
2162 {
2163 #if SIZEOF_VOID_P == 4
2164         if (G_UNLIKELY ((size_t)location & 0x7)) {
2165                 gint64 ret;
2166                 mono_interlocked_lock ();
2167                 *location += value;
2168                 ret = *location;
2169                 mono_interlocked_unlock ();
2170                 return ret;
2171         }
2172 #endif
2173         return InterlockedAdd64 (location, value);
2174 }
2175
2176 gint64 
2177 ves_icall_System_Threading_Interlocked_Read_Long (gint64 *location)
2178 {
2179 #if SIZEOF_VOID_P == 4
2180         if (G_UNLIKELY ((size_t)location & 0x7)) {
2181                 gint64 ret;
2182                 mono_interlocked_lock ();
2183                 ret = *location;
2184                 mono_interlocked_unlock ();
2185                 return ret;
2186         }
2187 #endif
2188         return InterlockedRead64 (location);
2189 }
2190
2191 void
2192 ves_icall_System_Threading_Thread_MemoryBarrier (void)
2193 {
2194         mono_memory_barrier ();
2195 }
2196
2197 void
2198 ves_icall_System_Threading_Thread_ClrState (MonoInternalThread* this_obj, guint32 state)
2199 {
2200         mono_thread_clr_state (this_obj, (MonoThreadState)state);
2201
2202         if (state & ThreadState_Background) {
2203                 /* If the thread changes the background mode, the main thread has to
2204                  * be notified, since it has to rebuild the list of threads to
2205                  * wait for.
2206                  */
2207                 mono_os_event_set (&background_change_event);
2208         }
2209 }
2210
2211 void
2212 ves_icall_System_Threading_Thread_SetState (MonoInternalThread* this_obj, guint32 state)
2213 {
2214         mono_thread_set_state (this_obj, (MonoThreadState)state);
2215         
2216         if (state & ThreadState_Background) {
2217                 /* If the thread changes the background mode, the main thread has to
2218                  * be notified, since it has to rebuild the list of threads to
2219                  * wait for.
2220                  */
2221                 mono_os_event_set (&background_change_event);
2222         }
2223 }
2224
2225 guint32
2226 ves_icall_System_Threading_Thread_GetState (MonoInternalThread* this_obj)
2227 {
2228         guint32 state;
2229
2230         LOCK_THREAD (this_obj);
2231         
2232         state = this_obj->state;
2233
2234         UNLOCK_THREAD (this_obj);
2235         
2236         return state;
2237 }
2238
2239 void ves_icall_System_Threading_Thread_Interrupt_internal (MonoThread *this_obj)
2240 {
2241         MonoInternalThread *current;
2242         gboolean throw_;
2243         MonoInternalThread *thread = this_obj->internal_thread;
2244
2245         LOCK_THREAD (thread);
2246
2247         current = mono_thread_internal_current ();
2248
2249         thread->thread_interrupt_requested = TRUE;
2250         throw_ = current != thread && (thread->state & ThreadState_WaitSleepJoin);
2251
2252         UNLOCK_THREAD (thread);
2253
2254         if (throw_) {
2255                 async_abort_internal (thread, FALSE);
2256         }
2257 }
2258
2259 /**
2260  * mono_thread_current_check_pending_interrupt:
2261  * Checks if there's a interruption request and set the pending exception if so.
2262  * \returns true if a pending exception was set
2263  */
2264 gboolean
2265 mono_thread_current_check_pending_interrupt (void)
2266 {
2267         MonoInternalThread *thread = mono_thread_internal_current ();
2268         gboolean throw_ = FALSE;
2269
2270         LOCK_THREAD (thread);
2271         
2272         if (thread->thread_interrupt_requested) {
2273                 throw_ = TRUE;
2274                 thread->thread_interrupt_requested = FALSE;
2275         }
2276         
2277         UNLOCK_THREAD (thread);
2278
2279         if (throw_)
2280                 mono_set_pending_exception (mono_get_exception_thread_interrupted ());
2281         return throw_;
2282 }
2283
2284 static gboolean
2285 request_thread_abort (MonoInternalThread *thread, MonoObject *state)
2286 {
2287         LOCK_THREAD (thread);
2288         
2289         if (thread->state & (ThreadState_AbortRequested | ThreadState_Stopped))
2290         {
2291                 UNLOCK_THREAD (thread);
2292                 return FALSE;
2293         }
2294
2295         if ((thread->state & ThreadState_Unstarted) != 0) {
2296                 thread->state |= ThreadState_Aborted;
2297                 UNLOCK_THREAD (thread);
2298                 return FALSE;
2299         }
2300
2301         thread->state |= ThreadState_AbortRequested;
2302         if (thread->abort_state_handle)
2303                 mono_gchandle_free (thread->abort_state_handle);
2304         if (state) {
2305                 thread->abort_state_handle = mono_gchandle_new (state, FALSE);
2306                 g_assert (thread->abort_state_handle);
2307         } else {
2308                 thread->abort_state_handle = 0;
2309         }
2310         thread->abort_exc = NULL;
2311
2312         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Abort requested for %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), thread, (gsize)thread->tid));
2313
2314         /* During shutdown, we can't wait for other threads */
2315         if (!shutting_down)
2316                 /* Make sure the thread is awake */
2317                 mono_thread_resume (thread);
2318
2319         UNLOCK_THREAD (thread);
2320         return TRUE;
2321 }
2322
2323 void
2324 ves_icall_System_Threading_Thread_Abort (MonoInternalThread *thread, MonoObject *state)
2325 {
2326         if (!request_thread_abort (thread, state))
2327                 return;
2328
2329         if (thread == mono_thread_internal_current ()) {
2330                 MonoError error;
2331                 self_abort_internal (&error);
2332                 mono_error_set_pending_exception (&error);
2333         } else {
2334                 async_abort_internal (thread, TRUE);
2335         }
2336 }
2337
2338 /**
2339  * mono_thread_internal_abort:
2340  * Request thread \p thread to be aborted.
2341  * \p thread MUST NOT be the current thread.
2342  */
2343 void
2344 mono_thread_internal_abort (MonoInternalThread *thread)
2345 {
2346         g_assert (thread != mono_thread_internal_current ());
2347
2348         if (!request_thread_abort (thread, NULL))
2349                 return;
2350         async_abort_internal (thread, TRUE);
2351 }
2352
2353 void
2354 ves_icall_System_Threading_Thread_ResetAbort (MonoThread *this_obj)
2355 {
2356         MonoInternalThread *thread = mono_thread_internal_current ();
2357         gboolean was_aborting;
2358
2359         LOCK_THREAD (thread);
2360         was_aborting = thread->state & ThreadState_AbortRequested;
2361         thread->state &= ~ThreadState_AbortRequested;
2362         UNLOCK_THREAD (thread);
2363
2364         if (!was_aborting) {
2365                 const char *msg = "Unable to reset abort because no abort was requested";
2366                 mono_set_pending_exception (mono_get_exception_thread_state (msg));
2367                 return;
2368         }
2369
2370         mono_get_eh_callbacks ()->mono_clear_abort_threshold ();
2371         thread->abort_exc = NULL;
2372         if (thread->abort_state_handle) {
2373                 mono_gchandle_free (thread->abort_state_handle);
2374                 /* This is actually not necessary - the handle
2375                    only counts if the exception is set */
2376                 thread->abort_state_handle = 0;
2377         }
2378 }
2379
2380 void
2381 mono_thread_internal_reset_abort (MonoInternalThread *thread)
2382 {
2383         LOCK_THREAD (thread);
2384
2385         thread->state &= ~ThreadState_AbortRequested;
2386
2387         if (thread->abort_exc) {
2388                 mono_get_eh_callbacks ()->mono_clear_abort_threshold ();
2389                 thread->abort_exc = NULL;
2390                 if (thread->abort_state_handle) {
2391                         mono_gchandle_free (thread->abort_state_handle);
2392                         /* This is actually not necessary - the handle
2393                            only counts if the exception is set */
2394                         thread->abort_state_handle = 0;
2395                 }
2396         }
2397
2398         UNLOCK_THREAD (thread);
2399 }
2400
2401 MonoObject*
2402 ves_icall_System_Threading_Thread_GetAbortExceptionState (MonoThread *this_obj)
2403 {
2404         MonoError error;
2405         MonoInternalThread *thread = this_obj->internal_thread;
2406         MonoObject *state, *deserialized = NULL;
2407         MonoDomain *domain;
2408
2409         if (!thread->abort_state_handle)
2410                 return NULL;
2411
2412         state = mono_gchandle_get_target (thread->abort_state_handle);
2413         g_assert (state);
2414
2415         domain = mono_domain_get ();
2416         if (mono_object_domain (state) == domain)
2417                 return state;
2418
2419         deserialized = mono_object_xdomain_representation (state, domain, &error);
2420
2421         if (!deserialized) {
2422                 MonoException *invalid_op_exc = mono_get_exception_invalid_operation ("Thread.ExceptionState cannot access an ExceptionState from a different AppDomain");
2423                 if (!is_ok (&error)) {
2424                         MonoObject *exc = (MonoObject*)mono_error_convert_to_exception (&error);
2425                         MONO_OBJECT_SETREF (invalid_op_exc, inner_ex, exc);
2426                 }
2427                 mono_set_pending_exception (invalid_op_exc);
2428                 return NULL;
2429         }
2430
2431         return deserialized;
2432 }
2433
2434 static gboolean
2435 mono_thread_suspend (MonoInternalThread *thread)
2436 {
2437         LOCK_THREAD (thread);
2438
2439         if (thread->state & (ThreadState_Unstarted | ThreadState_Aborted | ThreadState_Stopped))
2440         {
2441                 UNLOCK_THREAD (thread);
2442                 return FALSE;
2443         }
2444
2445         if (thread->state & (ThreadState_Suspended | ThreadState_SuspendRequested | ThreadState_AbortRequested))
2446         {
2447                 UNLOCK_THREAD (thread);
2448                 return TRUE;
2449         }
2450         
2451         thread->state |= ThreadState_SuspendRequested;
2452         mono_os_event_reset (thread->suspended);
2453
2454         if (thread == mono_thread_internal_current ()) {
2455                 /* calls UNLOCK_THREAD (thread) */
2456                 self_suspend_internal ();
2457         } else {
2458                 /* calls UNLOCK_THREAD (thread) */
2459                 async_suspend_internal (thread, FALSE);
2460         }
2461
2462         return TRUE;
2463 }
2464
2465 void
2466 ves_icall_System_Threading_Thread_Suspend (MonoThread *this_obj)
2467 {
2468         if (!mono_thread_suspend (this_obj->internal_thread)) {
2469                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2470                 return;
2471         }
2472 }
2473
2474 /* LOCKING: LOCK_THREAD(thread) must be held */
2475 static gboolean
2476 mono_thread_resume (MonoInternalThread *thread)
2477 {
2478         if ((thread->state & ThreadState_SuspendRequested) != 0) {
2479                 // MOSTLY_ASYNC_SAFE_PRINTF ("RESUME (1) thread %p\n", thread_get_tid (thread));
2480                 thread->state &= ~ThreadState_SuspendRequested;
2481                 mono_os_event_set (thread->suspended);
2482                 return TRUE;
2483         }
2484
2485         if ((thread->state & ThreadState_Suspended) == 0 ||
2486                 (thread->state & ThreadState_Unstarted) != 0 || 
2487                 (thread->state & ThreadState_Aborted) != 0 || 
2488                 (thread->state & ThreadState_Stopped) != 0)
2489         {
2490                 // MOSTLY_ASYNC_SAFE_PRINTF ("RESUME (2) thread %p\n", thread_get_tid (thread));
2491                 return FALSE;
2492         }
2493
2494         // MOSTLY_ASYNC_SAFE_PRINTF ("RESUME (3) thread %p\n", thread_get_tid (thread));
2495
2496         mono_os_event_set (thread->suspended);
2497
2498         if (!thread->self_suspended) {
2499                 UNLOCK_THREAD (thread);
2500
2501                 /* Awake the thread */
2502                 if (!mono_thread_info_resume (thread_get_tid (thread)))
2503                         return FALSE;
2504
2505                 LOCK_THREAD (thread);
2506         }
2507
2508         thread->state &= ~ThreadState_Suspended;
2509
2510         return TRUE;
2511 }
2512
2513 void
2514 ves_icall_System_Threading_Thread_Resume (MonoThread *thread)
2515 {
2516         if (!thread->internal_thread) {
2517                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2518         } else {
2519                 LOCK_THREAD (thread->internal_thread);
2520                 if (!mono_thread_resume (thread->internal_thread))
2521                         mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2522                 UNLOCK_THREAD (thread->internal_thread);
2523         }
2524 }
2525
2526 static gboolean
2527 mono_threads_is_critical_method (MonoMethod *method)
2528 {
2529         switch (method->wrapper_type) {
2530         case MONO_WRAPPER_RUNTIME_INVOKE:
2531         case MONO_WRAPPER_XDOMAIN_INVOKE:
2532         case MONO_WRAPPER_XDOMAIN_DISPATCH:     
2533                 return TRUE;
2534         }
2535         return FALSE;
2536 }
2537
2538 static gboolean
2539 find_wrapper (MonoMethod *m, gint no, gint ilo, gboolean managed, gpointer data)
2540 {
2541         if (managed)
2542                 return TRUE;
2543
2544         if (mono_threads_is_critical_method (m)) {
2545                 *((gboolean*)data) = TRUE;
2546                 return TRUE;
2547         }
2548         return FALSE;
2549 }
2550
2551 static gboolean 
2552 is_running_protected_wrapper (void)
2553 {
2554         gboolean found = FALSE;
2555         mono_stack_walk (find_wrapper, &found);
2556         return found;
2557 }
2558
2559 /**
2560  * mono_thread_stop:
2561  */
2562 void
2563 mono_thread_stop (MonoThread *thread)
2564 {
2565         MonoInternalThread *internal = thread->internal_thread;
2566
2567         if (!request_thread_abort (internal, NULL))
2568                 return;
2569
2570         if (internal == mono_thread_internal_current ()) {
2571                 MonoError error;
2572                 self_abort_internal (&error);
2573                 /*
2574                 This function is part of the embeding API and has no way to return the exception
2575                 to be thrown. So what we do is keep the old behavior and raise the exception.
2576                 */
2577                 mono_error_raise_exception (&error); /* OK to throw, see note */
2578         } else {
2579                 async_abort_internal (internal, TRUE);
2580         }
2581 }
2582
2583 gint8
2584 ves_icall_System_Threading_Thread_VolatileRead1 (void *ptr)
2585 {
2586         gint8 tmp = *(volatile gint8 *)ptr;
2587         mono_memory_barrier ();
2588         return tmp;
2589 }
2590
2591 gint16
2592 ves_icall_System_Threading_Thread_VolatileRead2 (void *ptr)
2593 {
2594         gint16 tmp = *(volatile gint16 *)ptr;
2595         mono_memory_barrier ();
2596         return tmp;
2597 }
2598
2599 gint32
2600 ves_icall_System_Threading_Thread_VolatileRead4 (void *ptr)
2601 {
2602         gint32 tmp = *(volatile gint32 *)ptr;
2603         mono_memory_barrier ();
2604         return tmp;
2605 }
2606
2607 gint64
2608 ves_icall_System_Threading_Thread_VolatileRead8 (void *ptr)
2609 {
2610         gint64 tmp = *(volatile gint64 *)ptr;
2611         mono_memory_barrier ();
2612         return tmp;
2613 }
2614
2615 void *
2616 ves_icall_System_Threading_Thread_VolatileReadIntPtr (void *ptr)
2617 {
2618         volatile void *tmp = *(volatile void **)ptr;
2619         mono_memory_barrier ();
2620         return (void *) tmp;
2621 }
2622
2623 void *
2624 ves_icall_System_Threading_Thread_VolatileReadObject (void *ptr)
2625 {
2626         volatile MonoObject *tmp = *(volatile MonoObject **)ptr;
2627         mono_memory_barrier ();
2628         return (MonoObject *) tmp;
2629 }
2630
2631 double
2632 ves_icall_System_Threading_Thread_VolatileReadDouble (void *ptr)
2633 {
2634         double tmp = *(volatile double *)ptr;
2635         mono_memory_barrier ();
2636         return tmp;
2637 }
2638
2639 float
2640 ves_icall_System_Threading_Thread_VolatileReadFloat (void *ptr)
2641 {
2642         float tmp = *(volatile float *)ptr;
2643         mono_memory_barrier ();
2644         return tmp;
2645 }
2646
2647 gint8
2648 ves_icall_System_Threading_Volatile_Read1 (void *ptr)
2649 {
2650         return InterlockedRead8 ((volatile gint8 *)ptr);
2651 }
2652
2653 gint16
2654 ves_icall_System_Threading_Volatile_Read2 (void *ptr)
2655 {
2656         return InterlockedRead16 ((volatile gint16 *)ptr);
2657 }
2658
2659 gint32
2660 ves_icall_System_Threading_Volatile_Read4 (void *ptr)
2661 {
2662         return InterlockedRead ((volatile gint32 *)ptr);
2663 }
2664
2665 gint64
2666 ves_icall_System_Threading_Volatile_Read8 (void *ptr)
2667 {
2668 #if SIZEOF_VOID_P == 4
2669         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2670                 gint64 val;
2671                 mono_interlocked_lock ();
2672                 val = *(gint64*)ptr;
2673                 mono_interlocked_unlock ();
2674                 return val;
2675         }
2676 #endif
2677         return InterlockedRead64 ((volatile gint64 *)ptr);
2678 }
2679
2680 void *
2681 ves_icall_System_Threading_Volatile_ReadIntPtr (void *ptr)
2682 {
2683         return InterlockedReadPointer ((volatile gpointer *)ptr);
2684 }
2685
2686 double
2687 ves_icall_System_Threading_Volatile_ReadDouble (void *ptr)
2688 {
2689         LongDoubleUnion u;
2690
2691 #if SIZEOF_VOID_P == 4
2692         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2693                 double val;
2694                 mono_interlocked_lock ();
2695                 val = *(double*)ptr;
2696                 mono_interlocked_unlock ();
2697                 return val;
2698         }
2699 #endif
2700
2701         u.ival = InterlockedRead64 ((volatile gint64 *)ptr);
2702
2703         return u.fval;
2704 }
2705
2706 float
2707 ves_icall_System_Threading_Volatile_ReadFloat (void *ptr)
2708 {
2709         IntFloatUnion u;
2710
2711         u.ival = InterlockedRead ((volatile gint32 *)ptr);
2712
2713         return u.fval;
2714 }
2715
2716 MonoObject*
2717 ves_icall_System_Threading_Volatile_Read_T (void *ptr)
2718 {
2719         return (MonoObject *)InterlockedReadPointer ((volatile gpointer *)ptr);
2720 }
2721
2722 void
2723 ves_icall_System_Threading_Thread_VolatileWrite1 (void *ptr, gint8 value)
2724 {
2725         mono_memory_barrier ();
2726         *(volatile gint8 *)ptr = value;
2727 }
2728
2729 void
2730 ves_icall_System_Threading_Thread_VolatileWrite2 (void *ptr, gint16 value)
2731 {
2732         mono_memory_barrier ();
2733         *(volatile gint16 *)ptr = value;
2734 }
2735
2736 void
2737 ves_icall_System_Threading_Thread_VolatileWrite4 (void *ptr, gint32 value)
2738 {
2739         mono_memory_barrier ();
2740         *(volatile gint32 *)ptr = value;
2741 }
2742
2743 void
2744 ves_icall_System_Threading_Thread_VolatileWrite8 (void *ptr, gint64 value)
2745 {
2746         mono_memory_barrier ();
2747         *(volatile gint64 *)ptr = value;
2748 }
2749
2750 void
2751 ves_icall_System_Threading_Thread_VolatileWriteIntPtr (void *ptr, void *value)
2752 {
2753         mono_memory_barrier ();
2754         *(volatile void **)ptr = value;
2755 }
2756
2757 void
2758 ves_icall_System_Threading_Thread_VolatileWriteObject (void *ptr, MonoObject *value)
2759 {
2760         mono_memory_barrier ();
2761         mono_gc_wbarrier_generic_store (ptr, value);
2762 }
2763
2764 void
2765 ves_icall_System_Threading_Thread_VolatileWriteDouble (void *ptr, double value)
2766 {
2767         mono_memory_barrier ();
2768         *(volatile double *)ptr = value;
2769 }
2770
2771 void
2772 ves_icall_System_Threading_Thread_VolatileWriteFloat (void *ptr, float value)
2773 {
2774         mono_memory_barrier ();
2775         *(volatile float *)ptr = value;
2776 }
2777
2778 void
2779 ves_icall_System_Threading_Volatile_Write1 (void *ptr, gint8 value)
2780 {
2781         InterlockedWrite8 ((volatile gint8 *)ptr, value);
2782 }
2783
2784 void
2785 ves_icall_System_Threading_Volatile_Write2 (void *ptr, gint16 value)
2786 {
2787         InterlockedWrite16 ((volatile gint16 *)ptr, value);
2788 }
2789
2790 void
2791 ves_icall_System_Threading_Volatile_Write4 (void *ptr, gint32 value)
2792 {
2793         InterlockedWrite ((volatile gint32 *)ptr, value);
2794 }
2795
2796 void
2797 ves_icall_System_Threading_Volatile_Write8 (void *ptr, gint64 value)
2798 {
2799 #if SIZEOF_VOID_P == 4
2800         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2801                 mono_interlocked_lock ();
2802                 *(gint64*)ptr = value;
2803                 mono_interlocked_unlock ();
2804                 return;
2805         }
2806 #endif
2807
2808         InterlockedWrite64 ((volatile gint64 *)ptr, value);
2809 }
2810
2811 void
2812 ves_icall_System_Threading_Volatile_WriteIntPtr (void *ptr, void *value)
2813 {
2814         InterlockedWritePointer ((volatile gpointer *)ptr, value);
2815 }
2816
2817 void
2818 ves_icall_System_Threading_Volatile_WriteDouble (void *ptr, double value)
2819 {
2820         LongDoubleUnion u;
2821
2822 #if SIZEOF_VOID_P == 4
2823         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2824                 mono_interlocked_lock ();
2825                 *(double*)ptr = value;
2826                 mono_interlocked_unlock ();
2827                 return;
2828         }
2829 #endif
2830
2831         u.fval = value;
2832
2833         InterlockedWrite64 ((volatile gint64 *)ptr, u.ival);
2834 }
2835
2836 void
2837 ves_icall_System_Threading_Volatile_WriteFloat (void *ptr, float value)
2838 {
2839         IntFloatUnion u;
2840
2841         u.fval = value;
2842
2843         InterlockedWrite ((volatile gint32 *)ptr, u.ival);
2844 }
2845
2846 void
2847 ves_icall_System_Threading_Volatile_Write_T (void *ptr, MonoObject *value)
2848 {
2849         mono_gc_wbarrier_generic_store_atomic (ptr, value);
2850 }
2851
2852 static void
2853 free_context (void *user_data)
2854 {
2855         ContextStaticData *data = user_data;
2856
2857         mono_threads_lock ();
2858
2859         /*
2860          * There is no guarantee that, by the point this reference queue callback
2861          * has been invoked, the GC handle associated with the object will fail to
2862          * resolve as one might expect. So if we don't free and remove the GC
2863          * handle here, free_context_static_data_helper () could end up resolving
2864          * a GC handle to an actually-dead context which would contain a pointer
2865          * to an already-freed static data segment, resulting in a crash when
2866          * accessing it.
2867          */
2868         g_hash_table_remove (contexts, GUINT_TO_POINTER (data->gc_handle));
2869
2870         mono_threads_unlock ();
2871
2872         mono_gchandle_free (data->gc_handle);
2873         mono_free_static_data (data->static_data);
2874         g_free (data);
2875 }
2876
2877 void
2878 mono_threads_register_app_context (MonoAppContext *ctx, MonoError *error)
2879 {
2880         error_init (error);
2881         mono_threads_lock ();
2882
2883         //g_print ("Registering context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2884
2885         if (!contexts)
2886                 contexts = g_hash_table_new (NULL, NULL);
2887
2888         if (!context_queue)
2889                 context_queue = mono_gc_reference_queue_new (free_context);
2890
2891         gpointer gch = GUINT_TO_POINTER (mono_gchandle_new_weakref (&ctx->obj, FALSE));
2892         g_hash_table_insert (contexts, gch, gch);
2893
2894         /*
2895          * We use this intermediate structure to contain a duplicate pointer to
2896          * the static data because we can't rely on being able to resolve the GC
2897          * handle in the reference queue callback.
2898          */
2899         ContextStaticData *data = g_new0 (ContextStaticData, 1);
2900         data->gc_handle = GPOINTER_TO_UINT (gch);
2901         ctx->data = data;
2902
2903         context_adjust_static_data (ctx);
2904         mono_gc_reference_queue_add (context_queue, &ctx->obj, data);
2905
2906         mono_threads_unlock ();
2907
2908         MONO_PROFILER_RAISE (context_loaded, (ctx));
2909 }
2910
2911 void
2912 ves_icall_System_Runtime_Remoting_Contexts_Context_RegisterContext (MonoAppContextHandle ctx, MonoError *error)
2913 {
2914         error_init (error);
2915         mono_threads_register_app_context (MONO_HANDLE_RAW (ctx), error); /* FIXME use handles in mono_threads_register_app_context */
2916 }
2917
2918 void
2919 mono_threads_release_app_context (MonoAppContext* ctx, MonoError *error)
2920 {
2921         /*
2922          * NOTE: Since finalizers are unreliable for the purposes of ensuring
2923          * cleanup in exceptional circumstances, we don't actually do any
2924          * cleanup work here. We instead do this via a reference queue.
2925          */
2926
2927         //g_print ("Releasing context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2928
2929         MONO_PROFILER_RAISE (context_unloaded, (ctx));
2930 }
2931
2932 void
2933 ves_icall_System_Runtime_Remoting_Contexts_Context_ReleaseContext (MonoAppContextHandle ctx, MonoError *error)
2934 {
2935         error_init (error);
2936         mono_threads_release_app_context (MONO_HANDLE_RAW (ctx), error); /* FIXME use handles in mono_threads_release_app_context */
2937 }
2938
2939 void mono_thread_init (MonoThreadStartCB start_cb,
2940                        MonoThreadAttachCB attach_cb)
2941 {
2942         mono_coop_mutex_init_recursive (&threads_mutex);
2943
2944         mono_os_mutex_init_recursive(&interlocked_mutex);
2945         mono_os_mutex_init_recursive(&joinable_threads_mutex);
2946         
2947         mono_os_event_init (&background_change_event, FALSE);
2948         
2949         mono_init_static_data_info (&thread_static_info);
2950         mono_init_static_data_info (&context_static_info);
2951
2952         mono_thread_start_cb = start_cb;
2953         mono_thread_attach_cb = attach_cb;
2954 }
2955
2956 static gpointer
2957 thread_attach (MonoThreadInfo *info)
2958 {
2959         return mono_gc_thread_attach (info);
2960 }
2961
2962 static void
2963 thread_detach (MonoThreadInfo *info)
2964 {
2965         MonoInternalThread *internal;
2966         guint32 gchandle;
2967
2968         /* If a delegate is passed to native code and invoked on a thread we dont
2969          * know about, marshal will register it with mono_threads_attach_coop, but
2970          * we have no way of knowing when that thread goes away.  SGen has a TSD
2971          * so we assume that if the domain is still registered, we can detach
2972          * the thread */
2973
2974         g_assert (info);
2975
2976         if (!mono_thread_info_try_get_internal_thread_gchandle (info, &gchandle))
2977                 return;
2978
2979         internal = (MonoInternalThread*) mono_gchandle_get_target (gchandle);
2980         g_assert (internal);
2981
2982         mono_gchandle_free (gchandle);
2983
2984         mono_thread_detach_internal (internal);
2985 }
2986
2987 static void
2988 thread_detach_with_lock (MonoThreadInfo *info)
2989 {
2990         return mono_gc_thread_detach_with_lock (info);
2991 }
2992
2993 static gboolean
2994 thread_in_critical_region (MonoThreadInfo *info)
2995 {
2996         return mono_gc_thread_in_critical_region (info);
2997 }
2998
2999 static gboolean
3000 ip_in_critical_region (MonoDomain *domain, gpointer ip)
3001 {
3002         MonoJitInfo *ji;
3003         MonoMethod *method;
3004
3005         /*
3006          * We pass false for 'try_aot' so this becomes async safe.
3007          * It won't find aot methods whose jit info is not yet loaded,
3008          * so we preload their jit info in the JIT.
3009          */
3010         ji = mono_jit_info_table_find_internal (domain, ip, FALSE, FALSE);
3011         if (!ji)
3012                 return FALSE;
3013
3014         method = mono_jit_info_get_method (ji);
3015         g_assert (method);
3016
3017         return mono_gc_is_critical_method (method);
3018 }
3019
3020 void
3021 mono_thread_callbacks_init (void)
3022 {
3023         MonoThreadInfoCallbacks cb;
3024
3025         memset (&cb, 0, sizeof(cb));
3026         cb.thread_attach = thread_attach;
3027         cb.thread_detach = thread_detach;
3028         cb.thread_detach_with_lock = thread_detach_with_lock;
3029         cb.ip_in_critical_region = ip_in_critical_region;
3030         cb.thread_in_critical_region = thread_in_critical_region;
3031         mono_thread_info_callbacks_init (&cb);
3032 }
3033
3034 /**
3035  * mono_thread_cleanup:
3036  */
3037 void
3038 mono_thread_cleanup (void)
3039 {
3040         mono_threads_join_threads ();
3041
3042 #if !defined(RUN_IN_SUBTHREAD) && !defined(HOST_WIN32)
3043         /* The main thread must abandon any held mutexes (particularly
3044          * important for named mutexes as they are shared across
3045          * processes, see bug 74680.)  This will happen when the
3046          * thread exits, but if it's not running in a subthread it
3047          * won't exit in time.
3048          */
3049         mono_w32mutex_abandon ();
3050 #endif
3051
3052 #if 0
3053         /* This stuff needs more testing, it seems one of these
3054          * critical sections can be locked when mono_thread_cleanup is
3055          * called.
3056          */
3057         mono_coop_mutex_destroy (&threads_mutex);
3058         mono_os_mutex_destroy (&interlocked_mutex);
3059         mono_os_mutex_destroy (&delayed_free_table_mutex);
3060         mono_os_mutex_destroy (&small_id_mutex);
3061         mono_os_event_destroy (&background_change_event);
3062 #endif
3063 }
3064
3065 void
3066 mono_threads_install_cleanup (MonoThreadCleanupFunc func)
3067 {
3068         mono_thread_cleanup_fn = func;
3069 }
3070
3071 /**
3072  * mono_thread_set_manage_callback:
3073  */
3074 void
3075 mono_thread_set_manage_callback (MonoThread *thread, MonoThreadManageCallback func)
3076 {
3077         thread->internal_thread->manage_callback = func;
3078 }
3079
3080 G_GNUC_UNUSED
3081 static void print_tids (gpointer key, gpointer value, gpointer user)
3082 {
3083         /* GPOINTER_TO_UINT breaks horribly if sizeof(void *) >
3084          * sizeof(uint) and a cast to uint would overflow
3085          */
3086         /* Older versions of glib don't have G_GSIZE_FORMAT, so just
3087          * print this as a pointer.
3088          */
3089         g_message ("Waiting for: %p", key);
3090 }
3091
3092 struct wait_data 
3093 {
3094         MonoThreadHandle *handles[MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS];
3095         MonoInternalThread *threads[MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS];
3096         guint32 num;
3097 };
3098
3099 static void
3100 wait_for_tids (struct wait_data *wait, guint32 timeout, gboolean check_state_change)
3101 {
3102         guint32 i;
3103         MonoThreadInfoWaitRet ret;
3104         
3105         THREAD_DEBUG (g_message("%s: %d threads to wait for in this batch", __func__, wait->num));
3106
3107         /* Add the thread state change event, so it wakes
3108          * up if a thread changes to background mode. */
3109
3110         MONO_ENTER_GC_SAFE;
3111         if (check_state_change)
3112                 ret = mono_thread_info_wait_multiple_handle (wait->handles, wait->num, &background_change_event, FALSE, timeout, TRUE);
3113         else
3114                 ret = mono_thread_info_wait_multiple_handle (wait->handles, wait->num, NULL, TRUE, timeout, TRUE);
3115         MONO_EXIT_GC_SAFE;
3116
3117         if (ret == MONO_THREAD_INFO_WAIT_RET_FAILED) {
3118                 /* See the comment in build_wait_tids() */
3119                 THREAD_DEBUG (g_message ("%s: Wait failed", __func__));
3120                 return;
3121         }
3122         
3123         for( i = 0; i < wait->num; i++)
3124                 mono_threads_close_thread_handle (wait->handles [i]);
3125
3126         if (ret == MONO_THREAD_INFO_WAIT_RET_TIMEOUT)
3127                 return;
3128         
3129         if (ret < wait->num) {
3130                 MonoInternalThread *internal;
3131
3132                 internal = wait->threads [ret];
3133
3134                 mono_threads_lock ();
3135                 if (mono_g_hash_table_lookup (threads, (gpointer) internal->tid) == internal)
3136                         g_error ("%s: failed to call mono_thread_detach_internal on thread %p, InternalThread: %p", __func__, internal->tid, internal);
3137                 mono_threads_unlock ();
3138         }
3139 }
3140
3141 static void build_wait_tids (gpointer key, gpointer value, gpointer user)
3142 {
3143         struct wait_data *wait=(struct wait_data *)user;
3144
3145         if(wait->num<MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS - 1) {
3146                 MonoInternalThread *thread=(MonoInternalThread *)value;
3147
3148                 /* Ignore background threads, we abort them later */
3149                 /* Do not lock here since it is not needed and the caller holds threads_lock */
3150                 if (thread->state & ThreadState_Background) {
3151                         THREAD_DEBUG (g_message ("%s: ignoring background thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3152                         return; /* just leave, ignore */
3153                 }
3154                 
3155                 if (mono_gc_is_finalizer_internal_thread (thread)) {
3156                         THREAD_DEBUG (g_message ("%s: ignoring finalizer thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3157                         return;
3158                 }
3159
3160                 if (thread == mono_thread_internal_current ()) {
3161                         THREAD_DEBUG (g_message ("%s: ignoring current thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3162                         return;
3163                 }
3164
3165                 if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread)) {
3166                         THREAD_DEBUG (g_message ("%s: ignoring main thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3167                         return;
3168                 }
3169
3170                 if (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE) {
3171                         THREAD_DEBUG (g_message ("%s: ignoring thread %" G_GSIZE_FORMAT "with DONT_MANAGE flag set.", __func__, (gsize)thread->tid));
3172                         return;
3173                 }
3174
3175                 THREAD_DEBUG (g_message ("%s: Invoking mono_thread_manage callback on thread %p", __func__, thread));
3176                 if ((thread->manage_callback == NULL) || (thread->manage_callback (thread->root_domain_thread) == TRUE)) {
3177                         wait->handles[wait->num]=mono_threads_open_thread_handle (thread->handle);
3178                         wait->threads[wait->num]=thread;
3179                         wait->num++;
3180
3181                         THREAD_DEBUG (g_message ("%s: adding thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3182                 } else {
3183                         THREAD_DEBUG (g_message ("%s: ignoring (because of callback) thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3184                 }
3185                 
3186                 
3187         } else {
3188                 /* Just ignore the rest, we can't do anything with
3189                  * them yet
3190                  */
3191         }
3192 }
3193
3194 static gboolean
3195 remove_and_abort_threads (gpointer key, gpointer value, gpointer user)
3196 {
3197         struct wait_data *wait=(struct wait_data *)user;
3198         MonoNativeThreadId self = mono_native_thread_id_get ();
3199         MonoInternalThread *thread = (MonoInternalThread *)value;
3200
3201         if (wait->num >= MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS)
3202                 return FALSE;
3203
3204         if (mono_native_thread_id_equals (thread_get_tid (thread), self))
3205                 return FALSE;
3206         if (mono_gc_is_finalizer_internal_thread (thread))
3207                 return FALSE;
3208
3209         if ((thread->state & ThreadState_Background) && !(thread->flags & MONO_THREAD_FLAG_DONT_MANAGE)) {
3210                 wait->handles[wait->num] = mono_threads_open_thread_handle (thread->handle);
3211                 wait->threads[wait->num] = thread;
3212                 wait->num++;
3213
3214                 THREAD_DEBUG (g_print ("%s: Aborting id: %"G_GSIZE_FORMAT"\n", __func__, (gsize)thread->tid));
3215                 mono_thread_internal_abort (thread);
3216         }
3217
3218         return TRUE;
3219 }
3220
3221 /** 
3222  * mono_threads_set_shutting_down:
3223  *
3224  * Is called by a thread that wants to shut down Mono. If the runtime is already
3225  * shutting down, the calling thread is suspended/stopped, and this function never
3226  * returns.
3227  */
3228 void
3229 mono_threads_set_shutting_down (void)
3230 {
3231         MonoInternalThread *current_thread = mono_thread_internal_current ();
3232
3233         mono_threads_lock ();
3234
3235         if (shutting_down) {
3236                 mono_threads_unlock ();
3237
3238                 /* Make sure we're properly suspended/stopped */
3239
3240                 LOCK_THREAD (current_thread);
3241
3242                 if (current_thread->state & (ThreadState_SuspendRequested | ThreadState_AbortRequested)) {
3243                         UNLOCK_THREAD (current_thread);
3244                         mono_thread_execute_interruption ();
3245                 } else {
3246                         UNLOCK_THREAD (current_thread);
3247                 }
3248
3249                 /*since we're killing the thread, detach it.*/
3250                 mono_thread_detach_internal (current_thread);
3251
3252                 /* Wake up other threads potentially waiting for us */
3253                 mono_thread_info_exit (0);
3254         } else {
3255                 shutting_down = TRUE;
3256
3257                 /* Not really a background state change, but this will
3258                  * interrupt the main thread if it is waiting for all
3259                  * the other threads.
3260                  */
3261                 mono_os_event_set (&background_change_event);
3262                 
3263                 mono_threads_unlock ();
3264         }
3265 }
3266
3267 /**
3268  * mono_thread_manage:
3269  */
3270 void
3271 mono_thread_manage (void)
3272 {
3273         struct wait_data wait_data;
3274         struct wait_data *wait = &wait_data;
3275
3276         memset (wait, 0, sizeof (struct wait_data));
3277         /* join each thread that's still running */
3278         THREAD_DEBUG (g_message ("%s: Joining each running thread...", __func__));
3279         
3280         mono_threads_lock ();
3281         if(threads==NULL) {
3282                 THREAD_DEBUG (g_message("%s: No threads", __func__));
3283                 mono_threads_unlock ();
3284                 return;
3285         }
3286         mono_threads_unlock ();
3287         
3288         do {
3289                 mono_threads_lock ();
3290                 if (shutting_down) {
3291                         /* somebody else is shutting down */
3292                         mono_threads_unlock ();
3293                         break;
3294                 }
3295                 THREAD_DEBUG (g_message ("%s: There are %d threads to join", __func__, mono_g_hash_table_size (threads));
3296                         mono_g_hash_table_foreach (threads, print_tids, NULL));
3297         
3298                 mono_os_event_reset (&background_change_event);
3299                 wait->num=0;
3300                 /* We must zero all InternalThread pointers to avoid making the GC unhappy. */
3301                 memset (wait->threads, 0, MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3302                 mono_g_hash_table_foreach (threads, build_wait_tids, wait);
3303                 mono_threads_unlock ();
3304                 if (wait->num > 0)
3305                         /* Something to wait for */
3306                         wait_for_tids (wait, MONO_INFINITE_WAIT, TRUE);
3307                 THREAD_DEBUG (g_message ("%s: I have %d threads after waiting.", __func__, wait->num));
3308         } while(wait->num>0);
3309
3310         /* Mono is shutting down, so just wait for the end */
3311         if (!mono_runtime_try_shutdown ()) {
3312                 /*FIXME mono_thread_suspend probably should call mono_thread_execute_interruption when self interrupting. */
3313                 mono_thread_suspend (mono_thread_internal_current ());
3314                 mono_thread_execute_interruption ();
3315         }
3316
3317         /* 
3318          * Remove everything but the finalizer thread and self.
3319          * Also abort all the background threads
3320          * */
3321         do {
3322                 mono_threads_lock ();
3323
3324                 wait->num = 0;
3325                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3326                 memset (wait->threads, 0, MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3327                 mono_g_hash_table_foreach_remove (threads, remove_and_abort_threads, wait);
3328
3329                 mono_threads_unlock ();
3330
3331                 THREAD_DEBUG (g_message ("%s: wait->num is now %d", __func__, wait->num));
3332                 if (wait->num > 0) {
3333                         /* Something to wait for */
3334                         wait_for_tids (wait, MONO_INFINITE_WAIT, FALSE);
3335                 }
3336         } while (wait->num > 0);
3337         
3338         /* 
3339          * give the subthreads a chance to really quit (this is mainly needed
3340          * to get correct user and system times from getrusage/wait/time(1)).
3341          * This could be removed if we avoid pthread_detach() and use pthread_join().
3342          */
3343         mono_thread_info_yield ();
3344 }
3345
3346 static void
3347 collect_threads_for_suspend (gpointer key, gpointer value, gpointer user_data)
3348 {
3349         MonoInternalThread *thread = (MonoInternalThread*)value;
3350         struct wait_data *wait = (struct wait_data*)user_data;
3351
3352         /* 
3353          * We try to exclude threads early, to avoid running into the MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS
3354          * limitation.
3355          * This needs no locking.
3356          */
3357         if ((thread->state & ThreadState_Suspended) != 0 || 
3358                 (thread->state & ThreadState_Stopped) != 0)
3359                 return;
3360
3361         if (wait->num<MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS) {
3362                 wait->handles [wait->num] = mono_threads_open_thread_handle (thread->handle);
3363                 wait->threads [wait->num] = thread;
3364                 wait->num++;
3365         }
3366 }
3367
3368 /*
3369  * mono_thread_suspend_all_other_threads:
3370  *
3371  *  Suspend all managed threads except the finalizer thread and this thread. It is
3372  * not possible to resume them later.
3373  */
3374 void mono_thread_suspend_all_other_threads (void)
3375 {
3376         struct wait_data wait_data;
3377         struct wait_data *wait = &wait_data;
3378         int i;
3379         MonoNativeThreadId self = mono_native_thread_id_get ();
3380         guint32 eventidx = 0;
3381         gboolean starting, finished;
3382
3383         memset (wait, 0, sizeof (struct wait_data));
3384         /*
3385          * The other threads could be in an arbitrary state at this point, i.e.
3386          * they could be starting up, shutting down etc. This means that there could be
3387          * threads which are not even in the threads hash table yet.
3388          */
3389
3390         /* 
3391          * First we set a barrier which will be checked by all threads before they
3392          * are added to the threads hash table, and they will exit if the flag is set.
3393          * This ensures that no threads could be added to the hash later.
3394          * We will use shutting_down as the barrier for now.
3395          */
3396         g_assert (shutting_down);
3397
3398         /*
3399          * We make multiple calls to WaitForMultipleObjects since:
3400          * - we can only wait for MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS threads
3401          * - some threads could exit without becoming suspended
3402          */
3403         finished = FALSE;
3404         while (!finished) {
3405                 /*
3406                  * Make a copy of the hashtable since we can't do anything with
3407                  * threads while threads_mutex is held.
3408                  */
3409                 wait->num = 0;
3410                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3411                 memset (wait->threads, 0, MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3412                 mono_threads_lock ();
3413                 mono_g_hash_table_foreach (threads, collect_threads_for_suspend, wait);
3414                 mono_threads_unlock ();
3415
3416                 eventidx = 0;
3417                 /* Get the suspended events that we'll be waiting for */
3418                 for (i = 0; i < wait->num; ++i) {
3419                         MonoInternalThread *thread = wait->threads [i];
3420
3421                         if (mono_native_thread_id_equals (thread_get_tid (thread), self)
3422                              || mono_gc_is_finalizer_internal_thread (thread)
3423                              || (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE)
3424                         ) {
3425                                 mono_threads_close_thread_handle (wait->handles [i]);
3426                                 wait->threads [i] = NULL;
3427                                 continue;
3428                         }
3429
3430                         LOCK_THREAD (thread);
3431
3432                         if (thread->state & (ThreadState_Suspended | ThreadState_Stopped)) {
3433                                 UNLOCK_THREAD (thread);
3434                                 mono_threads_close_thread_handle (wait->handles [i]);
3435                                 wait->threads [i] = NULL;
3436                                 continue;
3437                         }
3438
3439                         ++eventidx;
3440
3441                         /* Convert abort requests into suspend requests */
3442                         if ((thread->state & ThreadState_AbortRequested) != 0)
3443                                 thread->state &= ~ThreadState_AbortRequested;
3444                         
3445                         thread->state |= ThreadState_SuspendRequested;
3446                         mono_os_event_reset (thread->suspended);
3447
3448                         /* Signal the thread to suspend + calls UNLOCK_THREAD (thread) */
3449                         async_suspend_internal (thread, TRUE);
3450
3451                         mono_threads_close_thread_handle (wait->handles [i]);
3452                         wait->threads [i] = NULL;
3453                 }
3454                 if (eventidx <= 0) {
3455                         /* 
3456                          * If there are threads which are starting up, we wait until they
3457                          * are suspended when they try to register in the threads hash.
3458                          * This is guaranteed to finish, since the threads which can create new
3459                          * threads get suspended after a while.
3460                          * FIXME: The finalizer thread can still create new threads.
3461                          */
3462                         mono_threads_lock ();
3463                         if (threads_starting_up)
3464                                 starting = mono_g_hash_table_size (threads_starting_up) > 0;
3465                         else
3466                                 starting = FALSE;
3467                         mono_threads_unlock ();
3468                         if (starting)
3469                                 mono_thread_info_sleep (100, NULL);
3470                         else
3471                                 finished = TRUE;
3472                 }
3473         }
3474 }
3475
3476 typedef struct {
3477         MonoInternalThread *thread;
3478         MonoStackFrameInfo *frames;
3479         int nframes, max_frames;
3480         int nthreads, max_threads;
3481         MonoInternalThread **threads;
3482 } ThreadDumpUserData;
3483
3484 static gboolean thread_dump_requested;
3485
3486 /* This needs to be async safe */
3487 static gboolean
3488 collect_frame (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
3489 {
3490         ThreadDumpUserData *ud = (ThreadDumpUserData *)data;
3491
3492         if (ud->nframes < ud->max_frames) {
3493                 memcpy (&ud->frames [ud->nframes], frame, sizeof (MonoStackFrameInfo));
3494                 ud->nframes ++;
3495         }
3496
3497         return FALSE;
3498 }
3499
3500 /* This needs to be async safe */
3501 static SuspendThreadResult
3502 get_thread_dump (MonoThreadInfo *info, gpointer ud)
3503 {
3504         ThreadDumpUserData *user_data = (ThreadDumpUserData *)ud;
3505         MonoInternalThread *thread = user_data->thread;
3506
3507 #if 0
3508 /* This no longer works with remote unwinding */
3509         g_string_append_printf (text, " tid=0x%p this=0x%p ", (gpointer)(gsize)thread->tid, thread);
3510         mono_thread_internal_describe (thread, text);
3511         g_string_append (text, "\n");
3512 #endif
3513
3514         if (thread == mono_thread_internal_current ())
3515                 mono_get_eh_callbacks ()->mono_walk_stack_with_ctx (collect_frame, NULL, MONO_UNWIND_SIGNAL_SAFE, ud);
3516         else
3517                 mono_get_eh_callbacks ()->mono_walk_stack_with_state (collect_frame, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, ud);
3518
3519         return MonoResumeThread;
3520 }
3521
3522 typedef struct {
3523         int nthreads, max_threads;
3524         MonoInternalThread **threads;
3525 } CollectThreadsUserData;
3526
3527 static void
3528 collect_thread (gpointer key, gpointer value, gpointer user)
3529 {
3530         CollectThreadsUserData *ud = (CollectThreadsUserData *)user;
3531         MonoInternalThread *thread = (MonoInternalThread *)value;
3532
3533         if (ud->nthreads < ud->max_threads)
3534                 ud->threads [ud->nthreads ++] = thread;
3535 }
3536
3537 /*
3538  * Collect running threads into the THREADS array.
3539  * THREADS should be an array allocated on the stack.
3540  */
3541 static int
3542 collect_threads (MonoInternalThread **thread_array, int max_threads)
3543 {
3544         CollectThreadsUserData ud;
3545
3546         memset (&ud, 0, sizeof (ud));
3547         /* This array contains refs, but its on the stack, so its ok */
3548         ud.threads = thread_array;
3549         ud.max_threads = max_threads;
3550
3551         mono_threads_lock ();
3552         mono_g_hash_table_foreach (threads, collect_thread, &ud);
3553         mono_threads_unlock ();
3554
3555         return ud.nthreads;
3556 }
3557
3558 static void
3559 dump_thread (MonoInternalThread *thread, ThreadDumpUserData *ud)
3560 {
3561         GString* text = g_string_new (0);
3562         char *name;
3563         GError *error = NULL;
3564         int i;
3565
3566         ud->thread = thread;
3567         ud->nframes = 0;
3568
3569         /* Collect frames for the thread */
3570         if (thread == mono_thread_internal_current ()) {
3571                 get_thread_dump (mono_thread_info_current (), ud);
3572         } else {
3573                 mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, ud);
3574         }
3575
3576         /*
3577          * Do all the non async-safe work outside of get_thread_dump.
3578          */
3579         if (thread->name) {
3580                 name = g_utf16_to_utf8 (thread->name, thread->name_len, NULL, NULL, &error);
3581                 g_assert (!error);
3582                 g_string_append_printf (text, "\n\"%s\"", name);
3583                 g_free (name);
3584         }
3585         else if (thread->threadpool_thread) {
3586                 g_string_append (text, "\n\"<threadpool thread>\"");
3587         } else {
3588                 g_string_append (text, "\n\"<unnamed thread>\"");
3589         }
3590
3591         for (i = 0; i < ud->nframes; ++i) {
3592                 MonoStackFrameInfo *frame = &ud->frames [i];
3593                 MonoMethod *method = NULL;
3594
3595                 if (frame->type == FRAME_TYPE_MANAGED)
3596                         method = mono_jit_info_get_method (frame->ji);
3597
3598                 if (method) {
3599                         gchar *location = mono_debug_print_stack_frame (method, frame->native_offset, frame->domain);
3600                         g_string_append_printf (text, "  %s\n", location);
3601                         g_free (location);
3602                 } else {
3603                         g_string_append_printf (text, "  at <unknown> <0x%05x>\n", frame->native_offset);
3604                 }
3605         }
3606
3607         fprintf (stdout, "%s", text->str);
3608
3609 #if PLATFORM_WIN32 && TARGET_WIN32 && _DEBUG
3610         OutputDebugStringA(text->str);
3611 #endif
3612
3613         g_string_free (text, TRUE);
3614         fflush (stdout);
3615 }
3616
3617 void
3618 mono_threads_perform_thread_dump (void)
3619 {
3620         ThreadDumpUserData ud;
3621         MonoInternalThread *thread_array [128];
3622         int tindex, nthreads;
3623
3624         if (!thread_dump_requested)
3625                 return;
3626
3627         printf ("Full thread dump:\n");
3628
3629         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3630         nthreads = collect_threads (thread_array, 128);
3631
3632         memset (&ud, 0, sizeof (ud));
3633         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3634         ud.max_frames = 256;
3635
3636         for (tindex = 0; tindex < nthreads; ++tindex)
3637                 dump_thread (thread_array [tindex], &ud);
3638
3639         g_free (ud.frames);
3640
3641         thread_dump_requested = FALSE;
3642 }
3643
3644 /* Obtain the thread dump of all threads */
3645 static gboolean
3646 mono_threads_get_thread_dump (MonoArray **out_threads, MonoArray **out_stack_frames, MonoError *error)
3647 {
3648
3649         ThreadDumpUserData ud;
3650         MonoInternalThread *thread_array [128];
3651         MonoDomain *domain = mono_domain_get ();
3652         MonoDebugSourceLocation *location;
3653         int tindex, nthreads;
3654
3655         error_init (error);
3656         
3657         *out_threads = NULL;
3658         *out_stack_frames = NULL;
3659
3660         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3661         nthreads = collect_threads (thread_array, 128);
3662
3663         memset (&ud, 0, sizeof (ud));
3664         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3665         ud.max_frames = 256;
3666
3667         *out_threads = mono_array_new_checked (domain, mono_defaults.thread_class, nthreads, error);
3668         if (!is_ok (error))
3669                 goto leave;
3670         *out_stack_frames = mono_array_new_checked (domain, mono_defaults.array_class, nthreads, error);
3671         if (!is_ok (error))
3672                 goto leave;
3673
3674         for (tindex = 0; tindex < nthreads; ++tindex) {
3675                 MonoInternalThread *thread = thread_array [tindex];
3676                 MonoArray *thread_frames;
3677                 int i;
3678
3679                 ud.thread = thread;
3680                 ud.nframes = 0;
3681
3682                 /* Collect frames for the thread */
3683                 if (thread == mono_thread_internal_current ()) {
3684                         get_thread_dump (mono_thread_info_current (), &ud);
3685                 } else {
3686                         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, &ud);
3687                 }
3688
3689                 mono_array_setref_fast (*out_threads, tindex, mono_thread_current_for_thread (thread));
3690
3691                 thread_frames = mono_array_new_checked (domain, mono_defaults.stack_frame_class, ud.nframes, error);
3692                 if (!is_ok (error))
3693                         goto leave;
3694                 mono_array_setref_fast (*out_stack_frames, tindex, thread_frames);
3695
3696                 for (i = 0; i < ud.nframes; ++i) {
3697                         MonoStackFrameInfo *frame = &ud.frames [i];
3698                         MonoMethod *method = NULL;
3699                         MonoStackFrame *sf = (MonoStackFrame *)mono_object_new_checked (domain, mono_defaults.stack_frame_class, error);
3700                         if (!is_ok (error))
3701                                 goto leave;
3702
3703                         sf->native_offset = frame->native_offset;
3704
3705                         if (frame->type == FRAME_TYPE_MANAGED)
3706                                 method = mono_jit_info_get_method (frame->ji);
3707
3708                         if (method) {
3709                                 sf->method_address = (gsize) frame->ji->code_start;
3710
3711                                 MonoReflectionMethod *rm = mono_method_get_object_checked (domain, method, NULL, error);
3712                                 if (!is_ok (error))
3713                                         goto leave;
3714                                 MONO_OBJECT_SETREF (sf, method, rm);
3715
3716                                 location = mono_debug_lookup_source_location (method, frame->native_offset, domain);
3717                                 if (location) {
3718                                         sf->il_offset = location->il_offset;
3719
3720                                         if (location && location->source_file) {
3721                                                 MonoString *filename = mono_string_new_checked (domain, location->source_file, error);
3722                                                 if (!is_ok (error))
3723                                                         goto leave;
3724                                                 MONO_OBJECT_SETREF (sf, filename, filename);
3725                                                 sf->line = location->row;
3726                                                 sf->column = location->column;
3727                                         }
3728                                         mono_debug_free_source_location (location);
3729                                 } else {
3730                                         sf->il_offset = -1;
3731                                 }
3732                         }
3733                         mono_array_setref (thread_frames, i, sf);
3734                 }
3735         }
3736
3737 leave:
3738         g_free (ud.frames);
3739         return is_ok (error);
3740 }
3741
3742 /**
3743  * mono_threads_request_thread_dump:
3744  *
3745  *   Ask all threads except the current to print their stacktrace to stdout.
3746  */
3747 void
3748 mono_threads_request_thread_dump (void)
3749 {
3750         /*The new thread dump code runs out of the finalizer thread. */
3751         thread_dump_requested = TRUE;
3752         mono_gc_finalize_notify ();
3753 }
3754
3755 struct ref_stack {
3756         gpointer *refs;
3757         gint allocated; /* +1 so that refs [allocated] == NULL */
3758         gint bottom;
3759 };
3760
3761 typedef struct ref_stack RefStack;
3762
3763 static RefStack *
3764 ref_stack_new (gint initial_size)
3765 {
3766         RefStack *rs;
3767
3768         initial_size = MAX (initial_size, 16) + 1;
3769         rs = g_new0 (RefStack, 1);
3770         rs->refs = g_new0 (gpointer, initial_size);
3771         rs->allocated = initial_size;
3772         return rs;
3773 }
3774
3775 static void
3776 ref_stack_destroy (gpointer ptr)
3777 {
3778         RefStack *rs = (RefStack *)ptr;
3779
3780         if (rs != NULL) {
3781                 g_free (rs->refs);
3782                 g_free (rs);
3783         }
3784 }
3785
3786 static void
3787 ref_stack_push (RefStack *rs, gpointer ptr)
3788 {
3789         g_assert (rs != NULL);
3790
3791         if (rs->bottom >= rs->allocated) {
3792                 rs->refs = (void **)g_realloc (rs->refs, rs->allocated * 2 * sizeof (gpointer) + 1);
3793                 rs->allocated <<= 1;
3794                 rs->refs [rs->allocated] = NULL;
3795         }
3796         rs->refs [rs->bottom++] = ptr;
3797 }
3798
3799 static void
3800 ref_stack_pop (RefStack *rs)
3801 {
3802         if (rs == NULL || rs->bottom == 0)
3803                 return;
3804
3805         rs->bottom--;
3806         rs->refs [rs->bottom] = NULL;
3807 }
3808
3809 static gboolean
3810 ref_stack_find (RefStack *rs, gpointer ptr)
3811 {
3812         gpointer *refs;
3813
3814         if (rs == NULL)
3815                 return FALSE;
3816
3817         for (refs = rs->refs; refs && *refs; refs++) {
3818                 if (*refs == ptr)
3819                         return TRUE;
3820         }
3821         return FALSE;
3822 }
3823
3824 /*
3825  * mono_thread_push_appdomain_ref:
3826  *
3827  *   Register that the current thread may have references to objects in domain 
3828  * @domain on its stack. Each call to this function should be paired with a 
3829  * call to pop_appdomain_ref.
3830  */
3831 void 
3832 mono_thread_push_appdomain_ref (MonoDomain *domain)
3833 {
3834         MonoInternalThread *thread = mono_thread_internal_current ();
3835
3836         if (thread) {
3837                 /* printf ("PUSH REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, domain->friendly_name); */
3838                 SPIN_LOCK (thread->lock_thread_id);
3839                 if (thread->appdomain_refs == NULL)
3840                         thread->appdomain_refs = ref_stack_new (16);
3841                 ref_stack_push ((RefStack *)thread->appdomain_refs, domain);
3842                 SPIN_UNLOCK (thread->lock_thread_id);
3843         }
3844 }
3845
3846 void
3847 mono_thread_pop_appdomain_ref (void)
3848 {
3849         MonoInternalThread *thread = mono_thread_internal_current ();
3850
3851         if (thread) {
3852                 /* printf ("POP REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, ((MonoDomain*)(thread->appdomain_refs->data))->friendly_name); */
3853                 SPIN_LOCK (thread->lock_thread_id);
3854                 ref_stack_pop ((RefStack *)thread->appdomain_refs);
3855                 SPIN_UNLOCK (thread->lock_thread_id);
3856         }
3857 }
3858
3859 gboolean
3860 mono_thread_internal_has_appdomain_ref (MonoInternalThread *thread, MonoDomain *domain)
3861 {
3862         gboolean res;
3863         SPIN_LOCK (thread->lock_thread_id);
3864         res = ref_stack_find ((RefStack *)thread->appdomain_refs, domain);
3865         SPIN_UNLOCK (thread->lock_thread_id);
3866         return res;
3867 }
3868
3869 gboolean
3870 mono_thread_has_appdomain_ref (MonoThread *thread, MonoDomain *domain)
3871 {
3872         return mono_thread_internal_has_appdomain_ref (thread->internal_thread, domain);
3873 }
3874
3875 typedef struct abort_appdomain_data {
3876         struct wait_data wait;
3877         MonoDomain *domain;
3878 } abort_appdomain_data;
3879
3880 static void
3881 collect_appdomain_thread (gpointer key, gpointer value, gpointer user_data)
3882 {
3883         MonoInternalThread *thread = (MonoInternalThread*)value;
3884         abort_appdomain_data *data = (abort_appdomain_data*)user_data;
3885         MonoDomain *domain = data->domain;
3886
3887         if (mono_thread_internal_has_appdomain_ref (thread, domain)) {
3888                 /* printf ("ABORTING THREAD %p BECAUSE IT REFERENCES DOMAIN %s.\n", thread->tid, domain->friendly_name); */
3889
3890                 if(data->wait.num<MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS) {
3891                         data->wait.handles [data->wait.num] = mono_threads_open_thread_handle (thread->handle);
3892                         data->wait.threads [data->wait.num] = thread;
3893                         data->wait.num++;
3894                 } else {
3895                         /* Just ignore the rest, we can't do anything with
3896                          * them yet
3897                          */
3898                 }
3899         }
3900 }
3901
3902 /*
3903  * mono_threads_abort_appdomain_threads:
3904  *
3905  *   Abort threads which has references to the given appdomain.
3906  */
3907 gboolean
3908 mono_threads_abort_appdomain_threads (MonoDomain *domain, int timeout)
3909 {
3910         abort_appdomain_data user_data;
3911         gint64 start_time;
3912         int orig_timeout = timeout;
3913         int i;
3914
3915         THREAD_DEBUG (g_message ("%s: starting abort", __func__));
3916
3917         start_time = mono_msec_ticks ();
3918         do {
3919                 mono_threads_lock ();
3920
3921                 user_data.domain = domain;
3922                 user_data.wait.num = 0;
3923                 /* This shouldn't take any locks */
3924                 mono_g_hash_table_foreach (threads, collect_appdomain_thread, &user_data);
3925                 mono_threads_unlock ();
3926
3927                 if (user_data.wait.num > 0) {
3928                         /* Abort the threads outside the threads lock */
3929                         for (i = 0; i < user_data.wait.num; ++i)
3930                                 mono_thread_internal_abort (user_data.wait.threads [i]);
3931
3932                         /*
3933                          * We should wait for the threads either to abort, or to leave the
3934                          * domain. We can't do the latter, so we wait with a timeout.
3935                          */
3936                         wait_for_tids (&user_data.wait, 100, FALSE);
3937                 }
3938
3939                 /* Update remaining time */
3940                 timeout -= mono_msec_ticks () - start_time;
3941                 start_time = mono_msec_ticks ();
3942
3943                 if (orig_timeout != -1 && timeout < 0)
3944                         return FALSE;
3945         }
3946         while (user_data.wait.num > 0);
3947
3948         THREAD_DEBUG (g_message ("%s: abort done", __func__));
3949
3950         return TRUE;
3951 }
3952
3953 void
3954 mono_thread_self_abort (void)
3955 {
3956         MonoError error;
3957         self_abort_internal (&error);
3958         mono_error_set_pending_exception (&error);
3959 }
3960
3961 /*
3962  * mono_thread_get_undeniable_exception:
3963  *
3964  *   Return an exception which needs to be raised when leaving a catch clause.
3965  * This is used for undeniable exception propagation.
3966  */
3967 MonoException*
3968 mono_thread_get_undeniable_exception (void)
3969 {
3970         MonoInternalThread *thread = mono_thread_internal_current ();
3971
3972         if (!(thread && thread->abort_exc && !is_running_protected_wrapper ()))
3973                 return NULL;
3974
3975         // We don't want to have our exception effect calls made by
3976         // the catching block
3977
3978         if (!mono_get_eh_callbacks ()->mono_above_abort_threshold ())
3979                 return NULL;
3980
3981         /*
3982          * FIXME: Clear the abort exception and return an AppDomainUnloaded 
3983          * exception if the thread no longer references a dying appdomain.
3984          */ 
3985         thread->abort_exc->trace_ips = NULL;
3986         thread->abort_exc->stack_trace = NULL;
3987         return thread->abort_exc;
3988 }
3989
3990 #if MONO_SMALL_CONFIG
3991 #define NUM_STATIC_DATA_IDX 4
3992 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3993         64, 256, 1024, 4096
3994 };
3995 #else
3996 #define NUM_STATIC_DATA_IDX 8
3997 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3998         1024, 4096, 16384, 65536, 262144, 1048576, 4194304, 16777216
3999 };
4000 #endif
4001
4002 static MonoBitSet *thread_reference_bitmaps [NUM_STATIC_DATA_IDX];
4003 static MonoBitSet *context_reference_bitmaps [NUM_STATIC_DATA_IDX];
4004
4005 static void
4006 mark_slots (void *addr, MonoBitSet **bitmaps, MonoGCMarkFunc mark_func, void *gc_data)
4007 {
4008         gpointer *static_data = (gpointer *)addr;
4009
4010         for (int i = 0; i < NUM_STATIC_DATA_IDX; ++i) {
4011                 void **ptr = (void **)static_data [i];
4012
4013                 if (!ptr)
4014                         continue;
4015
4016                 MONO_BITSET_FOREACH (bitmaps [i], idx, {
4017                         void **p = ptr + idx;
4018
4019                         if (*p)
4020                                 mark_func ((MonoObject**)p, gc_data);
4021                 });
4022         }
4023 }
4024
4025 static void
4026 mark_tls_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
4027 {
4028         mark_slots (addr, thread_reference_bitmaps, mark_func, gc_data);
4029 }
4030
4031 static void
4032 mark_ctx_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
4033 {
4034         mark_slots (addr, context_reference_bitmaps, mark_func, gc_data);
4035 }
4036
4037 /*
4038  *  mono_alloc_static_data
4039  *
4040  *   Allocate memory blocks for storing threads or context static data
4041  */
4042 static void 
4043 mono_alloc_static_data (gpointer **static_data_ptr, guint32 offset, gboolean threadlocal)
4044 {
4045         guint idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4046         int i;
4047
4048         gpointer* static_data = *static_data_ptr;
4049         if (!static_data) {
4050                 static MonoGCDescriptor tls_desc = MONO_GC_DESCRIPTOR_NULL;
4051                 static MonoGCDescriptor ctx_desc = MONO_GC_DESCRIPTOR_NULL;
4052
4053                 if (mono_gc_user_markers_supported ()) {
4054                         if (tls_desc == MONO_GC_DESCRIPTOR_NULL)
4055                                 tls_desc = mono_gc_make_root_descr_user (mark_tls_slots);
4056
4057                         if (ctx_desc == MONO_GC_DESCRIPTOR_NULL)
4058                                 ctx_desc = mono_gc_make_root_descr_user (mark_ctx_slots);
4059                 }
4060
4061                 static_data = (void **)mono_gc_alloc_fixed (static_data_size [0], threadlocal ? tls_desc : ctx_desc,
4062                         threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
4063                         threadlocal ? "managed thread-static variables" : "managed context-static variables");
4064                 *static_data_ptr = static_data;
4065                 static_data [0] = static_data;
4066         }
4067
4068         for (i = 1; i <= idx; ++i) {
4069                 if (static_data [i])
4070                         continue;
4071
4072                 if (mono_gc_user_markers_supported ())
4073                         static_data [i] = g_malloc0 (static_data_size [i]);
4074                 else
4075                         static_data [i] = mono_gc_alloc_fixed (static_data_size [i], MONO_GC_DESCRIPTOR_NULL,
4076                                 threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
4077                                 threadlocal ? "managed thread-static variables" : "managed context-static variables");
4078         }
4079 }
4080
4081 static void 
4082 mono_free_static_data (gpointer* static_data)
4083 {
4084         int i;
4085         for (i = 1; i < NUM_STATIC_DATA_IDX; ++i) {
4086                 gpointer p = static_data [i];
4087                 if (!p)
4088                         continue;
4089                 /*
4090                  * At this point, the static data pointer array is still registered with the
4091                  * GC, so must ensure that mark_tls_slots() will not encounter any invalid
4092                  * data.  Freeing the individual arrays without first nulling their slots
4093                  * would make it possible for mark_tls/ctx_slots() to encounter a pointer to
4094                  * such an already freed array.  See bug #13813.
4095                  */
4096                 static_data [i] = NULL;
4097                 mono_memory_write_barrier ();
4098                 if (mono_gc_user_markers_supported ())
4099                         g_free (p);
4100                 else
4101                         mono_gc_free_fixed (p);
4102         }
4103         mono_gc_free_fixed (static_data);
4104 }
4105
4106 /*
4107  *  mono_init_static_data_info
4108  *
4109  *   Initializes static data counters
4110  */
4111 static void mono_init_static_data_info (StaticDataInfo *static_data)
4112 {
4113         static_data->idx = 0;
4114         static_data->offset = 0;
4115         static_data->freelist = NULL;
4116 }
4117
4118 /*
4119  *  mono_alloc_static_data_slot
4120  *
4121  *   Generates an offset for static data. static_data contains the counters
4122  *  used to generate it.
4123  */
4124 static guint32
4125 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align)
4126 {
4127         if (!static_data->idx && !static_data->offset) {
4128                 /* 
4129                  * we use the first chunk of the first allocation also as
4130                  * an array for the rest of the data 
4131                  */
4132                 static_data->offset = sizeof (gpointer) * NUM_STATIC_DATA_IDX;
4133         }
4134         static_data->offset += align - 1;
4135         static_data->offset &= ~(align - 1);
4136         if (static_data->offset + size >= static_data_size [static_data->idx]) {
4137                 static_data->idx ++;
4138                 g_assert (size <= static_data_size [static_data->idx]);
4139                 g_assert (static_data->idx < NUM_STATIC_DATA_IDX);
4140                 static_data->offset = 0;
4141         }
4142         guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (static_data->idx, static_data->offset, 0);
4143         static_data->offset += size;
4144         return offset;
4145 }
4146
4147 /*
4148  * LOCKING: requires that threads_mutex is held
4149  */
4150 static void
4151 context_adjust_static_data (MonoAppContext *ctx)
4152 {
4153         if (context_static_info.offset || context_static_info.idx > 0) {
4154                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (context_static_info.idx, context_static_info.offset, 0);
4155                 mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4156                 ctx->data->static_data = ctx->static_data;
4157         }
4158 }
4159
4160 /*
4161  * LOCKING: requires that threads_mutex is held
4162  */
4163 static void 
4164 alloc_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4165 {
4166         MonoInternalThread *thread = (MonoInternalThread *)value;
4167         guint32 offset = GPOINTER_TO_UINT (user);
4168
4169         mono_alloc_static_data (&(thread->static_data), offset, TRUE);
4170 }
4171
4172 /*
4173  * LOCKING: requires that threads_mutex is held
4174  */
4175 static void
4176 alloc_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4177 {
4178         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4179
4180         if (!ctx)
4181                 return;
4182
4183         guint32 offset = GPOINTER_TO_UINT (user);
4184         mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4185         ctx->data->static_data = ctx->static_data;
4186 }
4187
4188 static StaticDataFreeList*
4189 search_slot_in_freelist (StaticDataInfo *static_data, guint32 size, guint32 align)
4190 {
4191         StaticDataFreeList* prev = NULL;
4192         StaticDataFreeList* tmp = static_data->freelist;
4193         while (tmp) {
4194                 if (tmp->size == size) {
4195                         if (prev)
4196                                 prev->next = tmp->next;
4197                         else
4198                                 static_data->freelist = tmp->next;
4199                         return tmp;
4200                 }
4201                 prev = tmp;
4202                 tmp = tmp->next;
4203         }
4204         return NULL;
4205 }
4206
4207 #if SIZEOF_VOID_P == 4
4208 #define ONE_P 1
4209 #else
4210 #define ONE_P 1ll
4211 #endif
4212
4213 static void
4214 update_reference_bitmap (MonoBitSet **sets, guint32 offset, uintptr_t *bitmap, int numbits)
4215 {
4216         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4217         if (!sets [idx])
4218                 sets [idx] = mono_bitset_new (static_data_size [idx] / sizeof (uintptr_t), 0);
4219         MonoBitSet *rb = sets [idx];
4220         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4221         offset /= sizeof (uintptr_t);
4222         /* offset is now the bitmap offset */
4223         for (int i = 0; i < numbits; ++i) {
4224                 if (bitmap [i / sizeof (uintptr_t)] & (ONE_P << (i & (sizeof (uintptr_t) * 8 -1))))
4225                         mono_bitset_set_fast (rb, offset + i);
4226         }
4227 }
4228
4229 static void
4230 clear_reference_bitmap (MonoBitSet **sets, guint32 offset, guint32 size)
4231 {
4232         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4233         MonoBitSet *rb = sets [idx];
4234         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4235         offset /= sizeof (uintptr_t);
4236         /* offset is now the bitmap offset */
4237         for (int i = 0; i < size / sizeof (uintptr_t); i++)
4238                 mono_bitset_clear_fast (rb, offset + i);
4239 }
4240
4241 guint32
4242 mono_alloc_special_static_data (guint32 static_type, guint32 size, guint32 align, uintptr_t *bitmap, int numbits)
4243 {
4244         g_assert (static_type == SPECIAL_STATIC_THREAD || static_type == SPECIAL_STATIC_CONTEXT);
4245
4246         StaticDataInfo *info;
4247         MonoBitSet **sets;
4248
4249         if (static_type == SPECIAL_STATIC_THREAD) {
4250                 info = &thread_static_info;
4251                 sets = thread_reference_bitmaps;
4252         } else {
4253                 info = &context_static_info;
4254                 sets = context_reference_bitmaps;
4255         }
4256
4257         mono_threads_lock ();
4258
4259         StaticDataFreeList *item = search_slot_in_freelist (info, size, align);
4260         guint32 offset;
4261
4262         if (item) {
4263                 offset = item->offset;
4264                 g_free (item);
4265         } else {
4266                 offset = mono_alloc_static_data_slot (info, size, align);
4267         }
4268
4269         update_reference_bitmap (sets, offset, bitmap, numbits);
4270
4271         if (static_type == SPECIAL_STATIC_THREAD) {
4272                 /* This can be called during startup */
4273                 if (threads != NULL)
4274                         mono_g_hash_table_foreach (threads, alloc_thread_static_data_helper, GUINT_TO_POINTER (offset));
4275         } else {
4276                 if (contexts != NULL)
4277                         g_hash_table_foreach (contexts, alloc_context_static_data_helper, GUINT_TO_POINTER (offset));
4278
4279                 ACCESS_SPECIAL_STATIC_OFFSET (offset, type) = SPECIAL_STATIC_OFFSET_TYPE_CONTEXT;
4280         }
4281
4282         mono_threads_unlock ();
4283
4284         return offset;
4285 }
4286
4287 gpointer
4288 mono_get_special_static_data_for_thread (MonoInternalThread *thread, guint32 offset)
4289 {
4290         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4291
4292         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4293                 return get_thread_static_data (thread, offset);
4294         } else {
4295                 return get_context_static_data (thread->current_appcontext, offset);
4296         }
4297 }
4298
4299 gpointer
4300 mono_get_special_static_data (guint32 offset)
4301 {
4302         return mono_get_special_static_data_for_thread (mono_thread_internal_current (), offset);
4303 }
4304
4305 typedef struct {
4306         guint32 offset;
4307         guint32 size;
4308 } OffsetSize;
4309
4310 /*
4311  * LOCKING: requires that threads_mutex is held
4312  */
4313 static void 
4314 free_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4315 {
4316         MonoInternalThread *thread = (MonoInternalThread *)value;
4317         OffsetSize *data = (OffsetSize *)user;
4318         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4319         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4320         char *ptr;
4321
4322         if (!thread->static_data || !thread->static_data [idx])
4323                 return;
4324         ptr = ((char*) thread->static_data [idx]) + off;
4325         mono_gc_bzero_atomic (ptr, data->size);
4326 }
4327
4328 /*
4329  * LOCKING: requires that threads_mutex is held
4330  */
4331 static void
4332 free_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4333 {
4334         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4335
4336         if (!ctx)
4337                 return;
4338
4339         OffsetSize *data = (OffsetSize *)user;
4340         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4341         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4342         char *ptr;
4343
4344         if (!ctx->static_data || !ctx->static_data [idx])
4345                 return;
4346
4347         ptr = ((char*) ctx->static_data [idx]) + off;
4348         mono_gc_bzero_atomic (ptr, data->size);
4349 }
4350
4351 static void
4352 do_free_special_slot (guint32 offset, guint32 size)
4353 {
4354         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4355         MonoBitSet **sets;
4356         StaticDataInfo *info;
4357
4358         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4359                 info = &thread_static_info;
4360                 sets = thread_reference_bitmaps;
4361         } else {
4362                 info = &context_static_info;
4363                 sets = context_reference_bitmaps;
4364         }
4365
4366         guint32 data_offset = offset;
4367         ACCESS_SPECIAL_STATIC_OFFSET (data_offset, type) = 0;
4368         OffsetSize data = { data_offset, size };
4369
4370         clear_reference_bitmap (sets, data.offset, data.size);
4371
4372         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4373                 if (threads != NULL)
4374                         mono_g_hash_table_foreach (threads, free_thread_static_data_helper, &data);
4375         } else {
4376                 if (contexts != NULL)
4377                         g_hash_table_foreach (contexts, free_context_static_data_helper, &data);
4378         }
4379
4380         if (!mono_runtime_is_shutting_down ()) {
4381                 StaticDataFreeList *item = g_new0 (StaticDataFreeList, 1);
4382
4383                 item->offset = offset;
4384                 item->size = size;
4385
4386                 item->next = info->freelist;
4387                 info->freelist = item;
4388         }
4389 }
4390
4391 static void
4392 do_free_special (gpointer key, gpointer value, gpointer data)
4393 {
4394         MonoClassField *field = (MonoClassField *)key;
4395         guint32 offset = GPOINTER_TO_UINT (value);
4396         gint32 align;
4397         guint32 size;
4398         size = mono_type_size (field->type, &align);
4399         do_free_special_slot (offset, size);
4400 }
4401
4402 void
4403 mono_alloc_special_static_data_free (GHashTable *special_static_fields)
4404 {
4405         mono_threads_lock ();
4406
4407         g_hash_table_foreach (special_static_fields, do_free_special, NULL);
4408
4409         mono_threads_unlock ();
4410 }
4411
4412 #ifdef HOST_WIN32
4413 static void CALLBACK dummy_apc (ULONG_PTR param)
4414 {
4415 }
4416 #endif
4417
4418 /*
4419  * mono_thread_execute_interruption
4420  * 
4421  * Performs the operation that the requested thread state requires (abort,
4422  * suspend or stop)
4423  */
4424 static MonoException*
4425 mono_thread_execute_interruption (void)
4426 {
4427         MonoInternalThread *thread = mono_thread_internal_current ();
4428         MonoThread *sys_thread = mono_thread_current ();
4429
4430         LOCK_THREAD (thread);
4431
4432         /* MonoThread::interruption_requested can only be changed with atomics */
4433         if (!mono_thread_clear_interruption_requested (thread)) {
4434                 UNLOCK_THREAD (thread);
4435                 return NULL;
4436         }
4437
4438         /* this will consume pending APC calls */
4439 #ifdef HOST_WIN32
4440         WaitForSingleObjectEx (GetCurrentThread(), 0, TRUE);
4441 #endif
4442         /* Clear the interrupted flag of the thread so it can wait again */
4443         mono_thread_info_clear_self_interrupt ();
4444
4445         /* If there's a pending exception and an AbortRequested, the pending exception takes precedence */
4446         if (sys_thread->pending_exception) {
4447                 MonoException *exc;
4448
4449                 exc = sys_thread->pending_exception;
4450                 sys_thread->pending_exception = NULL;
4451
4452                 UNLOCK_THREAD (thread);
4453                 return exc;
4454         } else if (thread->state & (ThreadState_AbortRequested)) {
4455                 UNLOCK_THREAD (thread);
4456                 g_assert (sys_thread->pending_exception == NULL);
4457                 if (thread->abort_exc == NULL) {
4458                         /* 
4459                          * This might be racy, but it has to be called outside the lock
4460                          * since it calls managed code.
4461                          */
4462                         MONO_OBJECT_SETREF (thread, abort_exc, mono_get_exception_thread_abort ());
4463                 }
4464                 return thread->abort_exc;
4465         } else if (thread->state & (ThreadState_SuspendRequested)) {
4466                 /* calls UNLOCK_THREAD (thread) */
4467                 self_suspend_internal ();
4468                 return NULL;
4469         } else if (thread->thread_interrupt_requested) {
4470
4471                 thread->thread_interrupt_requested = FALSE;
4472                 UNLOCK_THREAD (thread);
4473                 
4474                 return(mono_get_exception_thread_interrupted ());
4475         }
4476         
4477         UNLOCK_THREAD (thread);
4478         
4479         return NULL;
4480 }
4481
4482 /*
4483  * mono_thread_request_interruption
4484  *
4485  * A signal handler can call this method to request the interruption of a
4486  * thread. The result of the interruption will depend on the current state of
4487  * the thread. If the result is an exception that needs to be throw, it is 
4488  * provided as return value.
4489  */
4490 MonoException*
4491 mono_thread_request_interruption (gboolean running_managed)
4492 {
4493         MonoInternalThread *thread = mono_thread_internal_current ();
4494
4495         /* The thread may already be stopping */
4496         if (thread == NULL) 
4497                 return NULL;
4498
4499         if (!mono_thread_set_interruption_requested (thread))
4500                 return NULL;
4501
4502         if (!running_managed || is_running_protected_wrapper ()) {
4503                 /* Can't stop while in unmanaged code. Increase the global interruption
4504                    request count. When exiting the unmanaged method the count will be
4505                    checked and the thread will be interrupted. */
4506
4507                 /* this will awake the thread if it is in WaitForSingleObject 
4508                    or similar */
4509                 /* Our implementation of this function ignores the func argument */
4510 #ifdef HOST_WIN32
4511                 QueueUserAPC ((PAPCFUNC)dummy_apc, thread->native_handle, (ULONG_PTR)NULL);
4512 #else
4513                 mono_thread_info_self_interrupt ();
4514 #endif
4515                 return NULL;
4516         }
4517         else {
4518                 return mono_thread_execute_interruption ();
4519         }
4520 }
4521
4522 /*This function should be called by a thread after it has exited all of
4523  * its handle blocks at interruption time.*/
4524 MonoException*
4525 mono_thread_resume_interruption (gboolean exec)
4526 {
4527         MonoInternalThread *thread = mono_thread_internal_current ();
4528         gboolean still_aborting;
4529
4530         /* The thread may already be stopping */
4531         if (thread == NULL)
4532                 return NULL;
4533
4534         LOCK_THREAD (thread);
4535         still_aborting = (thread->state & (ThreadState_AbortRequested)) != 0;
4536         UNLOCK_THREAD (thread);
4537
4538         /*This can happen if the protected block called Thread::ResetAbort*/
4539         if (!still_aborting)
4540                 return NULL;
4541
4542         if (!mono_thread_set_interruption_requested (thread))
4543                 return NULL;
4544
4545         mono_thread_info_self_interrupt ();
4546
4547         if (exec)
4548                 return mono_thread_execute_interruption ();
4549         else
4550                 return NULL;
4551 }
4552
4553 gboolean mono_thread_interruption_requested ()
4554 {
4555         if (thread_interruption_requested) {
4556                 MonoInternalThread *thread = mono_thread_internal_current ();
4557                 /* The thread may already be stopping */
4558                 if (thread != NULL) 
4559                         return mono_thread_get_interruption_requested (thread);
4560         }
4561         return FALSE;
4562 }
4563
4564 static MonoException*
4565 mono_thread_interruption_checkpoint_request (gboolean bypass_abort_protection)
4566 {
4567         MonoInternalThread *thread = mono_thread_internal_current ();
4568
4569         /* The thread may already be stopping */
4570         if (!thread)
4571                 return NULL;
4572         if (!mono_thread_get_interruption_requested (thread))
4573                 return NULL;
4574         if (!bypass_abort_protection && is_running_protected_wrapper ())
4575                 return NULL;
4576
4577         return mono_thread_execute_interruption ();
4578 }
4579
4580 /*
4581  * Performs the interruption of the current thread, if one has been requested,
4582  * and the thread is not running a protected wrapper.
4583  * Return the exception which needs to be thrown, if any.
4584  */
4585 MonoException*
4586 mono_thread_interruption_checkpoint (void)
4587 {
4588         return mono_thread_interruption_checkpoint_request (FALSE);
4589 }
4590
4591 /*
4592  * Performs the interruption of the current thread, if one has been requested.
4593  * Return the exception which needs to be thrown, if any.
4594  */
4595 MonoException*
4596 mono_thread_force_interruption_checkpoint_noraise (void)
4597 {
4598         return mono_thread_interruption_checkpoint_request (TRUE);
4599 }
4600
4601 /*
4602  * mono_set_pending_exception:
4603  *
4604  *   Set the pending exception of the current thread to EXC.
4605  * The exception will be thrown when execution returns to managed code.
4606  */
4607 void
4608 mono_set_pending_exception (MonoException *exc)
4609 {
4610         MonoThread *thread = mono_thread_current ();
4611
4612         /* The thread may already be stopping */
4613         if (thread == NULL)
4614                 return;
4615
4616         MONO_OBJECT_SETREF (thread, pending_exception, exc);
4617
4618     mono_thread_request_interruption (FALSE);
4619 }
4620
4621 /**
4622  * mono_thread_interruption_request_flag:
4623  *
4624  * Returns the address of a flag that will be non-zero if an interruption has
4625  * been requested for a thread. The thread to interrupt may not be the current
4626  * thread, so an additional call to mono_thread_interruption_requested() or
4627  * mono_thread_interruption_checkpoint() is allways needed if the flag is not
4628  * zero.
4629  */
4630 gint32* mono_thread_interruption_request_flag ()
4631 {
4632         return &thread_interruption_requested;
4633 }
4634
4635 void 
4636 mono_thread_init_apartment_state (void)
4637 {
4638 #ifdef HOST_WIN32
4639         MonoInternalThread* thread = mono_thread_internal_current ();
4640
4641         /* Positive return value indicates success, either
4642          * S_OK if this is first CoInitialize call, or
4643          * S_FALSE if CoInitialize already called, but with same
4644          * threading model. A negative value indicates failure,
4645          * probably due to trying to change the threading model.
4646          */
4647         if (CoInitializeEx(NULL, (thread->apartment_state == ThreadApartmentState_STA) 
4648                         ? COINIT_APARTMENTTHREADED 
4649                         : COINIT_MULTITHREADED) < 0) {
4650                 thread->apartment_state = ThreadApartmentState_Unknown;
4651         }
4652 #endif
4653 }
4654
4655 void 
4656 mono_thread_cleanup_apartment_state (void)
4657 {
4658 #ifdef HOST_WIN32
4659         MonoInternalThread* thread = mono_thread_internal_current ();
4660
4661         if (thread && thread->apartment_state != ThreadApartmentState_Unknown) {
4662                 CoUninitialize ();
4663         }
4664 #endif
4665 }
4666
4667 void
4668 mono_thread_set_state (MonoInternalThread *thread, MonoThreadState state)
4669 {
4670         LOCK_THREAD (thread);
4671         thread->state |= state;
4672         UNLOCK_THREAD (thread);
4673 }
4674
4675 /**
4676  * mono_thread_test_and_set_state:
4677  * Test if current state of \p thread include \p test. If it does not, OR \p set into the state.
4678  * \returns TRUE if \p set was OR'd in.
4679  */
4680 gboolean
4681 mono_thread_test_and_set_state (MonoInternalThread *thread, MonoThreadState test, MonoThreadState set)
4682 {
4683         LOCK_THREAD (thread);
4684
4685         if ((thread->state & test) != 0) {
4686                 UNLOCK_THREAD (thread);
4687                 return FALSE;
4688         }
4689
4690         thread->state |= set;
4691         UNLOCK_THREAD (thread);
4692
4693         return TRUE;
4694 }
4695
4696 void
4697 mono_thread_clr_state (MonoInternalThread *thread, MonoThreadState state)
4698 {
4699         LOCK_THREAD (thread);
4700         thread->state &= ~state;
4701         UNLOCK_THREAD (thread);
4702 }
4703
4704 gboolean
4705 mono_thread_test_state (MonoInternalThread *thread, MonoThreadState test)
4706 {
4707         gboolean ret = FALSE;
4708
4709         LOCK_THREAD (thread);
4710
4711         if ((thread->state & test) != 0) {
4712                 ret = TRUE;
4713         }
4714         
4715         UNLOCK_THREAD (thread);
4716         
4717         return ret;
4718 }
4719
4720 static void
4721 self_interrupt_thread (void *_unused)
4722 {
4723         MonoException *exc;
4724         MonoThreadInfo *info;
4725
4726         exc = mono_thread_execute_interruption ();
4727         if (!exc) {
4728                 if (mono_threads_is_coop_enabled ()) {
4729                         /* We can return from an async call in coop, as
4730                          * it's simply called when exiting the safepoint */
4731                         return;
4732                 }
4733
4734                 g_error ("%s: we can't resume from an async call", __func__);
4735         }
4736
4737         info = mono_thread_info_current ();
4738
4739         /* We must use _with_context since we didn't trampoline into the runtime */
4740         mono_raise_exception_with_context (exc, &info->thread_saved_state [ASYNC_SUSPEND_STATE_INDEX].ctx); /* FIXME using thread_saved_state [ASYNC_SUSPEND_STATE_INDEX] can race with another suspend coming in. */
4741 }
4742
4743 static gboolean
4744 mono_jit_info_match (MonoJitInfo *ji, gpointer ip)
4745 {
4746         if (!ji)
4747                 return FALSE;
4748         return ji->code_start <= ip && (char*)ip < (char*)ji->code_start + ji->code_size;
4749 }
4750
4751 static gboolean
4752 last_managed (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
4753 {
4754         MonoJitInfo **dest = (MonoJitInfo **)data;
4755         *dest = frame->ji;
4756         return TRUE;
4757 }
4758
4759 static MonoJitInfo*
4760 mono_thread_info_get_last_managed (MonoThreadInfo *info)
4761 {
4762         MonoJitInfo *ji = NULL;
4763         if (!info)
4764                 return NULL;
4765
4766         /*
4767          * The suspended thread might be holding runtime locks. Make sure we don't try taking
4768          * any runtime locks while unwinding. In coop case we shouldn't safepoint in regions
4769          * where we hold runtime locks.
4770          */
4771         if (!mono_threads_is_coop_enabled ())
4772                 mono_thread_info_set_is_async_context (TRUE);
4773         mono_get_eh_callbacks ()->mono_walk_stack_with_state (last_managed, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, &ji);
4774         if (!mono_threads_is_coop_enabled ())
4775                 mono_thread_info_set_is_async_context (FALSE);
4776         return ji;
4777 }
4778
4779 typedef struct {
4780         MonoInternalThread *thread;
4781         gboolean install_async_abort;
4782         MonoThreadInfoInterruptToken *interrupt_token;
4783 } AbortThreadData;
4784
4785 static SuspendThreadResult
4786 async_abort_critical (MonoThreadInfo *info, gpointer ud)
4787 {
4788         AbortThreadData *data = (AbortThreadData *)ud;
4789         MonoInternalThread *thread = data->thread;
4790         MonoJitInfo *ji = NULL;
4791         gboolean protected_wrapper;
4792         gboolean running_managed;
4793
4794         if (mono_get_eh_callbacks ()->mono_install_handler_block_guard (mono_thread_info_get_suspend_state (info)))
4795                 return MonoResumeThread;
4796
4797         /*someone is already interrupting it*/
4798         if (!mono_thread_set_interruption_requested (thread))
4799                 return MonoResumeThread;
4800
4801         ji = mono_thread_info_get_last_managed (info);
4802         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4803         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4804
4805         if (!protected_wrapper && running_managed) {
4806                 /*We are in managed code*/
4807                 /*Set the thread to call */
4808                 if (data->install_async_abort)
4809                         mono_thread_info_setup_async_call (info, self_interrupt_thread, NULL);
4810                 return MonoResumeThread;
4811         } else {
4812                 /* 
4813                  * This will cause waits to be broken.
4814                  * It will also prevent the thread from entering a wait, so if the thread returns
4815                  * from the wait before it receives the abort signal, it will just spin in the wait
4816                  * functions in the io-layer until the signal handler calls QueueUserAPC which will
4817                  * make it return.
4818                  */
4819                 data->interrupt_token = mono_thread_info_prepare_interrupt (info);
4820
4821                 return MonoResumeThread;
4822         }
4823 }
4824
4825 static void
4826 async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort)
4827 {
4828         AbortThreadData data;
4829
4830         g_assert (thread != mono_thread_internal_current ());
4831
4832         data.thread = thread;
4833         data.install_async_abort = install_async_abort;
4834         data.interrupt_token = NULL;
4835
4836         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), TRUE, async_abort_critical, &data);
4837         if (data.interrupt_token)
4838                 mono_thread_info_finish_interrupt (data.interrupt_token);
4839         /*FIXME we need to wait for interruption to complete -- figure out how much into interruption we should wait for here*/
4840 }
4841
4842 static void
4843 self_abort_internal (MonoError *error)
4844 {
4845         MonoException *exc;
4846
4847         error_init (error);
4848
4849         /* FIXME this is insanely broken, it doesn't cause interruption to happen synchronously
4850          * since passing FALSE to mono_thread_request_interruption makes sure it returns NULL */
4851
4852         /*
4853         Self aborts ignore the protected block logic and raise the TAE regardless. This is verified by one of the tests in mono/tests/abort-cctor.cs.
4854         */
4855         exc = mono_thread_request_interruption (TRUE);
4856         if (exc)
4857                 mono_error_set_exception_instance (error, exc);
4858         else
4859                 mono_thread_info_self_interrupt ();
4860 }
4861
4862 typedef struct {
4863         MonoInternalThread *thread;
4864         gboolean interrupt;
4865         MonoThreadInfoInterruptToken *interrupt_token;
4866 } SuspendThreadData;
4867
4868 static SuspendThreadResult
4869 async_suspend_critical (MonoThreadInfo *info, gpointer ud)
4870 {
4871         SuspendThreadData *data = (SuspendThreadData *)ud;
4872         MonoInternalThread *thread = data->thread;
4873         MonoJitInfo *ji = NULL;
4874         gboolean protected_wrapper;
4875         gboolean running_managed;
4876
4877         ji = mono_thread_info_get_last_managed (info);
4878         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4879         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4880
4881         if (running_managed && !protected_wrapper) {
4882                 if (mono_threads_is_coop_enabled ()) {
4883                         mono_thread_info_setup_async_call (info, self_interrupt_thread, NULL);
4884                         return MonoResumeThread;
4885                 } else {
4886                         thread->state &= ~ThreadState_SuspendRequested;
4887                         thread->state |= ThreadState_Suspended;
4888                         return KeepSuspended;
4889                 }
4890         } else {
4891                 mono_thread_set_interruption_requested (thread);
4892                 if (data->interrupt)
4893                         data->interrupt_token = mono_thread_info_prepare_interrupt ((MonoThreadInfo *)thread->thread_info);
4894
4895                 return MonoResumeThread;
4896         }
4897 }
4898
4899 /* LOCKING: called with @thread synch_cs held, and releases it */
4900 static void
4901 async_suspend_internal (MonoInternalThread *thread, gboolean interrupt)
4902 {
4903         SuspendThreadData data;
4904
4905         g_assert (thread != mono_thread_internal_current ());
4906
4907         // MOSTLY_ASYNC_SAFE_PRINTF ("ASYNC SUSPEND thread %p\n", thread_get_tid (thread));
4908
4909         thread->self_suspended = FALSE;
4910
4911         data.thread = thread;
4912         data.interrupt = interrupt;
4913         data.interrupt_token = NULL;
4914
4915         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), interrupt, async_suspend_critical, &data);
4916         if (data.interrupt_token)
4917                 mono_thread_info_finish_interrupt (data.interrupt_token);
4918
4919         UNLOCK_THREAD (thread);
4920 }
4921
4922 /* LOCKING: called with @thread synch_cs held, and releases it */
4923 static void
4924 self_suspend_internal (void)
4925 {
4926         MonoInternalThread *thread;
4927         MonoOSEvent *event;
4928         MonoOSEventWaitRet res;
4929
4930         thread = mono_thread_internal_current ();
4931
4932         // MOSTLY_ASYNC_SAFE_PRINTF ("SELF SUSPEND thread %p\n", thread_get_tid (thread));
4933
4934         thread->self_suspended = TRUE;
4935
4936         thread->state &= ~ThreadState_SuspendRequested;
4937         thread->state |= ThreadState_Suspended;
4938
4939         UNLOCK_THREAD (thread);
4940
4941         event = thread->suspended;
4942
4943         MONO_ENTER_GC_SAFE;
4944         res = mono_os_event_wait_one (event, MONO_INFINITE_WAIT, TRUE);
4945         g_assert (res == MONO_OS_EVENT_WAIT_RET_SUCCESS_0 || res == MONO_OS_EVENT_WAIT_RET_ALERTED);
4946         MONO_EXIT_GC_SAFE;
4947 }
4948
4949 static void
4950 suspend_for_shutdown_async_call (gpointer unused)
4951 {
4952         for (;;)
4953                 mono_thread_info_yield ();
4954 }
4955
4956 static SuspendThreadResult
4957 suspend_for_shutdown_critical (MonoThreadInfo *info, gpointer unused)
4958 {
4959         mono_thread_info_setup_async_call (info, suspend_for_shutdown_async_call, NULL);
4960         return MonoResumeThread;
4961 }
4962
4963 void
4964 mono_thread_internal_suspend_for_shutdown (MonoInternalThread *thread)
4965 {
4966         g_assert (thread != mono_thread_internal_current ());
4967
4968         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, suspend_for_shutdown_critical, NULL);
4969 }
4970
4971 /**
4972  * mono_thread_is_foreign:
4973  * \param thread the thread to query
4974  *
4975  * This function allows one to determine if a thread was created by the mono runtime and has
4976  * a well defined lifecycle or it's a foreign one, created by the native environment.
4977  *
4978  * \returns TRUE if \p thread was not created by the runtime.
4979  */
4980 mono_bool
4981 mono_thread_is_foreign (MonoThread *thread)
4982 {
4983         MonoThreadInfo *info = (MonoThreadInfo *)thread->internal_thread->thread_info;
4984         return info->runtime_thread == FALSE;
4985 }
4986
4987 /*
4988  * mono_add_joinable_thread:
4989  *
4990  *   Add TID to the list of joinable threads.
4991  * LOCKING: Acquires the threads lock.
4992  */
4993 void
4994 mono_threads_add_joinable_thread (gpointer tid)
4995 {
4996 #ifndef HOST_WIN32
4997         /*
4998          * We cannot detach from threads because it causes problems like
4999          * 2fd16f60/r114307. So we collect them and join them when
5000          * we have time (in he finalizer thread).
5001          */
5002         joinable_threads_lock ();
5003         if (!joinable_threads)
5004                 joinable_threads = g_hash_table_new (NULL, NULL);
5005         g_hash_table_insert (joinable_threads, tid, tid);
5006         UnlockedIncrement (&joinable_thread_count);
5007         joinable_threads_unlock ();
5008
5009         mono_gc_finalize_notify ();
5010 #endif
5011 }
5012
5013 /*
5014  * mono_threads_join_threads:
5015  *
5016  *   Join all joinable threads. This is called from the finalizer thread.
5017  * LOCKING: Acquires the threads lock.
5018  */
5019 void
5020 mono_threads_join_threads (void)
5021 {
5022 #ifndef HOST_WIN32
5023         GHashTableIter iter;
5024         gpointer key;
5025         gpointer tid;
5026         pthread_t thread;
5027         gboolean found;
5028
5029         /* Fastpath */
5030         if (!UnlockedRead (&joinable_thread_count))
5031                 return;
5032
5033         while (TRUE) {
5034                 joinable_threads_lock ();
5035                 found = FALSE;
5036                 if (g_hash_table_size (joinable_threads)) {
5037                         g_hash_table_iter_init (&iter, joinable_threads);
5038                         g_hash_table_iter_next (&iter, &key, (void**)&tid);
5039                         thread = (pthread_t)tid;
5040                         g_hash_table_remove (joinable_threads, key);
5041                         UnlockedDecrement (&joinable_thread_count);
5042                         found = TRUE;
5043                 }
5044                 joinable_threads_unlock ();
5045                 if (found) {
5046                         if (thread != pthread_self ()) {
5047                                 MONO_ENTER_GC_SAFE;
5048                                 /* This shouldn't block */
5049                                 mono_threads_join_lock ();
5050                                 mono_native_thread_join (thread);
5051                                 mono_threads_join_unlock ();
5052                                 MONO_EXIT_GC_SAFE;
5053                         }
5054                 } else {
5055                         break;
5056                 }
5057         }
5058 #endif
5059 }
5060
5061 /*
5062  * mono_thread_join:
5063  *
5064  *   Wait for thread TID to exit.
5065  * LOCKING: Acquires the threads lock.
5066  */
5067 void
5068 mono_thread_join (gpointer tid)
5069 {
5070 #ifndef HOST_WIN32
5071         pthread_t thread;
5072         gboolean found = FALSE;
5073
5074         joinable_threads_lock ();
5075         if (!joinable_threads)
5076                 joinable_threads = g_hash_table_new (NULL, NULL);
5077         if (g_hash_table_lookup (joinable_threads, tid)) {
5078                 g_hash_table_remove (joinable_threads, tid);
5079                 UnlockedDecrement (&joinable_thread_count);
5080                 found = TRUE;
5081         }
5082         joinable_threads_unlock ();
5083         if (!found)
5084                 return;
5085         thread = (pthread_t)tid;
5086         MONO_ENTER_GC_SAFE;
5087         mono_native_thread_join (thread);
5088         MONO_EXIT_GC_SAFE;
5089 #endif
5090 }
5091
5092 void
5093 mono_thread_internal_unhandled_exception (MonoObject* exc)
5094 {
5095         MonoClass *klass = exc->vtable->klass;
5096         if (is_threadabort_exception (klass)) {
5097                 mono_thread_internal_reset_abort (mono_thread_internal_current ());
5098         } else if (!is_appdomainunloaded_exception (klass)
5099                 && mono_runtime_unhandled_exception_policy_get () == MONO_UNHANDLED_POLICY_CURRENT) {
5100                 mono_unhandled_exception (exc);
5101                 if (mono_environment_exitcode_get () == 1) {
5102                         mono_environment_exitcode_set (255);
5103                         mono_invoke_unhandled_exception_hook (exc);
5104                         g_assert_not_reached ();
5105                 }
5106         }
5107 }
5108
5109 void
5110 ves_icall_System_Threading_Thread_GetStackTraces (MonoArray **out_threads, MonoArray **out_stack_traces)
5111 {
5112         MonoError error;
5113         mono_threads_get_thread_dump (out_threads, out_stack_traces, &error);
5114         mono_error_set_pending_exception (&error);
5115 }
5116
5117 /*
5118  * mono_threads_attach_coop: called by native->managed wrappers
5119  *
5120  *  - @dummy:
5121  *    - blocking mode: contains gc unsafe transition cookie
5122  *    - non-blocking mode: contains random data
5123  *  - @return: the original domain which needs to be restored, or NULL.
5124  */
5125 gpointer
5126 mono_threads_attach_coop (MonoDomain *domain, gpointer *dummy)
5127 {
5128         MonoDomain *orig;
5129         MonoThreadInfo *info;
5130         gboolean external;
5131
5132         orig = mono_domain_get ();
5133
5134         if (!domain) {
5135                 /* Happens when called from AOTed code which is only used in the root domain. */
5136                 domain = mono_get_root_domain ();
5137                 g_assert (domain);
5138         }
5139
5140         /* On coop, when we detached, we moved the thread from  RUNNING->BLOCKING.
5141          * If we try to reattach we do a BLOCKING->RUNNING transition.  If the thread
5142          * is fresh, mono_thread_attach() will do a STARTING->RUNNING transition so
5143          * we're only responsible for making the cookie. */
5144         if (mono_threads_is_blocking_transition_enabled ())
5145                 external = !(info = mono_thread_info_current_unchecked ()) || !mono_thread_info_is_live (info);
5146
5147         if (!mono_thread_internal_current ()) {
5148                 mono_thread_attach_full (domain, FALSE);
5149
5150                 // #678164
5151                 mono_thread_set_state (mono_thread_internal_current (), ThreadState_Background);
5152         }
5153
5154         if (orig != domain)
5155                 mono_domain_set (domain, TRUE);
5156
5157         if (mono_threads_is_blocking_transition_enabled ()) {
5158                 if (external) {
5159                         /* mono_thread_attach put the thread in RUNNING mode from STARTING, but we need to
5160                          * return the right cookie. */
5161                         *dummy = mono_threads_enter_gc_unsafe_region_cookie ();
5162                 } else {
5163                         /* thread state (BLOCKING|RUNNING) -> RUNNING */
5164                         *dummy = mono_threads_enter_gc_unsafe_region (dummy);
5165                 }
5166         }
5167
5168         return orig;
5169 }
5170
5171 /*
5172  * mono_threads_detach_coop: called by native->managed wrappers
5173  *
5174  *  - @cookie: the original domain which needs to be restored, or NULL.
5175  *  - @dummy:
5176  *    - blocking mode: contains gc unsafe transition cookie
5177  *    - non-blocking mode: contains random data
5178  */
5179 void
5180 mono_threads_detach_coop (gpointer cookie, gpointer *dummy)
5181 {
5182         MonoDomain *domain, *orig;
5183
5184         orig = (MonoDomain*) cookie;
5185
5186         domain = mono_domain_get ();
5187         g_assert (domain);
5188
5189         if (mono_threads_is_blocking_transition_enabled ()) {
5190                 /* it won't do anything if cookie is NULL
5191                  * thread state RUNNING -> (RUNNING|BLOCKING) */
5192                 mono_threads_exit_gc_unsafe_region (*dummy, dummy);
5193         }
5194
5195         if (orig != domain) {
5196                 if (!orig)
5197                         mono_domain_unset ();
5198                 else
5199                         mono_domain_set (orig, TRUE);
5200         }
5201 }
5202
5203 #if 0
5204 /* Returns TRUE if the current thread is ready to be interrupted. */
5205 gboolean
5206 mono_threads_is_ready_to_be_interrupted (void)
5207 {
5208         MonoInternalThread *thread;
5209
5210         thread = mono_thread_internal_current ();
5211         LOCK_THREAD (thread);
5212         if (thread->state & (ThreadState_SuspendRequested | ThreadState_AbortRequested)) {
5213                 UNLOCK_THREAD (thread);
5214                 return FALSE;
5215         }
5216
5217         if (mono_thread_get_abort_prot_block_count (thread) || mono_get_eh_callbacks ()->mono_current_thread_has_handle_block_guard ()) {
5218                 UNLOCK_THREAD (thread);
5219                 return FALSE;
5220         }
5221
5222         UNLOCK_THREAD (thread);
5223         return TRUE;
5224 }
5225 #endif
5226
5227 void
5228 mono_thread_internal_describe (MonoInternalThread *internal, GString *text)
5229 {
5230         g_string_append_printf (text, ", thread handle : %p", internal->handle);
5231
5232         if (internal->thread_info) {
5233                 g_string_append (text, ", state : ");
5234                 mono_thread_info_describe_interrupt_token ((MonoThreadInfo*) internal->thread_info, text);
5235         }
5236
5237         if (internal->owned_mutexes) {
5238                 int i;
5239
5240                 g_string_append (text, ", owns : [");
5241                 for (i = 0; i < internal->owned_mutexes->len; i++)
5242                         g_string_append_printf (text, i == 0 ? "%p" : ", %p", g_ptr_array_index (internal->owned_mutexes, i));
5243                 g_string_append (text, "]");
5244         }
5245 }
5246
5247 gboolean
5248 mono_thread_internal_is_current (MonoInternalThread *internal)
5249 {
5250         g_assert (internal);
5251         return mono_native_thread_id_equals (mono_native_thread_id_get (), MONO_UINT_TO_NATIVE_THREAD_ID (internal->tid));
5252 }