[w32handle] Unify WaitHandle.Wait{One,Any,All} icalls (#5051)
[mono.git] / mono / metadata / threads.c
1 /**
2  * \file
3  * Thread support internal calls
4  *
5  * Author:
6  *      Dick Porter (dick@ximian.com)
7  *      Paolo Molaro (lupus@ximian.com)
8  *      Patrik Torstensson (patrik.torstensson@labs2.com)
9  *
10  * Copyright 2001-2003 Ximian, Inc (http://www.ximian.com)
11  * Copyright 2004-2009 Novell, Inc (http://www.novell.com)
12  * Copyright 2011 Xamarin, Inc (http://www.xamarin.com)
13  * Licensed under the MIT license. See LICENSE file in the project root for full license information.
14  */
15
16 #include <config.h>
17
18 #include <glib.h>
19 #include <string.h>
20
21 #include <mono/metadata/object.h>
22 #include <mono/metadata/domain-internals.h>
23 #include <mono/metadata/profiler-private.h>
24 #include <mono/metadata/threads.h>
25 #include <mono/metadata/threads-types.h>
26 #include <mono/metadata/exception.h>
27 #include <mono/metadata/environment.h>
28 #include <mono/metadata/monitor.h>
29 #include <mono/metadata/gc-internals.h>
30 #include <mono/metadata/marshal.h>
31 #include <mono/metadata/runtime.h>
32 #include <mono/metadata/object-internals.h>
33 #include <mono/metadata/debug-internals.h>
34 #include <mono/utils/monobitset.h>
35 #include <mono/utils/mono-compiler.h>
36 #include <mono/utils/mono-mmap.h>
37 #include <mono/utils/mono-membar.h>
38 #include <mono/utils/mono-time.h>
39 #include <mono/utils/mono-threads.h>
40 #include <mono/utils/mono-threads-coop.h>
41 #include <mono/utils/hazard-pointer.h>
42 #include <mono/utils/mono-tls.h>
43 #include <mono/utils/atomic.h>
44 #include <mono/utils/mono-memory-model.h>
45 #include <mono/utils/mono-error-internals.h>
46 #include <mono/utils/os-event.h>
47 #include <mono/utils/mono-threads-debug.h>
48 #include <mono/metadata/w32handle.h>
49 #include <mono/metadata/w32event.h>
50 #include <mono/metadata/w32mutex.h>
51
52 #include <mono/metadata/reflection-internals.h>
53 #include <mono/metadata/abi-details.h>
54 #include <mono/metadata/w32error.h>
55 #include <mono/utils/w32api.h>
56
57 #ifdef HAVE_SIGNAL_H
58 #include <signal.h>
59 #endif
60
61 #if defined(HOST_WIN32)
62 #include <objbase.h>
63 #endif
64
65 #if defined(PLATFORM_ANDROID) && !defined(TARGET_ARM64) && !defined(TARGET_AMD64)
66 #define USE_TKILL_ON_ANDROID 1
67 #endif
68
69 #ifdef PLATFORM_ANDROID
70 #include <errno.h>
71
72 #ifdef USE_TKILL_ON_ANDROID
73 extern int tkill (pid_t tid, int signal);
74 #endif
75 #endif
76
77 /*#define THREAD_DEBUG(a) do { a; } while (0)*/
78 #define THREAD_DEBUG(a)
79 /*#define THREAD_WAIT_DEBUG(a) do { a; } while (0)*/
80 #define THREAD_WAIT_DEBUG(a)
81 /*#define LIBGC_DEBUG(a) do { a; } while (0)*/
82 #define LIBGC_DEBUG(a)
83
84 #define SPIN_TRYLOCK(i) (InterlockedCompareExchange (&(i), 1, 0) == 0)
85 #define SPIN_LOCK(i) do { \
86                                 if (SPIN_TRYLOCK (i)) \
87                                         break; \
88                         } while (1)
89
90 #define SPIN_UNLOCK(i) i = 0
91
92 #define LOCK_THREAD(thread) lock_thread((thread))
93 #define UNLOCK_THREAD(thread) unlock_thread((thread))
94
95 typedef union {
96         gint32 ival;
97         gfloat fval;
98 } IntFloatUnion;
99
100 typedef union {
101         gint64 ival;
102         gdouble fval;
103 } LongDoubleUnion;
104  
105 typedef struct _StaticDataFreeList StaticDataFreeList;
106 struct _StaticDataFreeList {
107         StaticDataFreeList *next;
108         guint32 offset;
109         guint32 size;
110 };
111
112 typedef struct {
113         int idx;
114         int offset;
115         StaticDataFreeList *freelist;
116 } StaticDataInfo;
117
118 /* Controls access to the 'threads' hash table */
119 static void mono_threads_lock (void);
120 static void mono_threads_unlock (void);
121 static MonoCoopMutex threads_mutex;
122
123 /* Controls access to the 'joinable_threads' hash table */
124 #define joinable_threads_lock() mono_os_mutex_lock (&joinable_threads_mutex)
125 #define joinable_threads_unlock() mono_os_mutex_unlock (&joinable_threads_mutex)
126 static mono_mutex_t joinable_threads_mutex;
127
128 /* Holds current status of static data heap */
129 static StaticDataInfo thread_static_info;
130 static StaticDataInfo context_static_info;
131
132 /* The hash of existing threads (key is thread ID, value is
133  * MonoInternalThread*) that need joining before exit
134  */
135 static MonoGHashTable *threads=NULL;
136
137 /* List of app context GC handles.
138  * Added to from mono_threads_register_app_context ().
139  */
140 static GHashTable *contexts = NULL;
141
142 /* Cleanup queue for contexts. */
143 static MonoReferenceQueue *context_queue;
144
145 /*
146  * Threads which are starting up and they are not in the 'threads' hash yet.
147  * When mono_thread_attach_internal is called for a thread, it will be removed from this hash table.
148  * Protected by mono_threads_lock ().
149  */
150 static MonoGHashTable *threads_starting_up = NULL;
151
152 /* Contains tids */
153 /* Protected by the threads lock */
154 static GHashTable *joinable_threads;
155 static int joinable_thread_count;
156
157 #define SET_CURRENT_OBJECT(x) mono_tls_set_thread (x)
158 #define GET_CURRENT_OBJECT() (MonoInternalThread*) mono_tls_get_thread ()
159
160 /* function called at thread start */
161 static MonoThreadStartCB mono_thread_start_cb = NULL;
162
163 /* function called at thread attach */
164 static MonoThreadAttachCB mono_thread_attach_cb = NULL;
165
166 /* function called at thread cleanup */
167 static MonoThreadCleanupFunc mono_thread_cleanup_fn = NULL;
168
169 /* The default stack size for each thread */
170 static guint32 default_stacksize = 0;
171 #define default_stacksize_for_thread(thread) ((thread)->stack_size? (thread)->stack_size: default_stacksize)
172
173 static void context_adjust_static_data (MonoAppContext *ctx);
174 static void mono_free_static_data (gpointer* static_data);
175 static void mono_init_static_data_info (StaticDataInfo *static_data);
176 static guint32 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align);
177 static gboolean mono_thread_resume (MonoInternalThread* thread);
178 static void async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort);
179 static void self_abort_internal (MonoError *error);
180 static void async_suspend_internal (MonoInternalThread *thread, gboolean interrupt);
181 static void self_suspend_internal (void);
182
183 static MonoException* mono_thread_execute_interruption (void);
184 static void ref_stack_destroy (gpointer rs);
185
186 /* Spin lock for InterlockedXXX 64 bit functions */
187 #define mono_interlocked_lock() mono_os_mutex_lock (&interlocked_mutex)
188 #define mono_interlocked_unlock() mono_os_mutex_unlock (&interlocked_mutex)
189 static mono_mutex_t interlocked_mutex;
190
191 /* global count of thread interruptions requested */
192 static gint32 thread_interruption_requested = 0;
193
194 /* Event signaled when a thread changes its background mode */
195 static MonoOSEvent background_change_event;
196
197 static gboolean shutting_down = FALSE;
198
199 static gint32 managed_thread_id_counter = 0;
200
201 /* Class lazy loading functions */
202 static GENERATE_GET_CLASS_WITH_CACHE (appdomain_unloaded_exception, "System", "AppDomainUnloadedException")
203
204 static void
205 mono_threads_lock (void)
206 {
207         mono_locks_coop_acquire (&threads_mutex, ThreadsLock);
208 }
209
210 static void
211 mono_threads_unlock (void)
212 {
213         mono_locks_coop_release (&threads_mutex, ThreadsLock);
214 }
215
216
217 static guint32
218 get_next_managed_thread_id (void)
219 {
220         return InterlockedIncrement (&managed_thread_id_counter);
221 }
222
223 /*
224  * We separate interruptions/exceptions into either sync (they can be processed anytime,
225  * normally as soon as they are set, and are set by the same thread) and async (they can't
226  * be processed inside abort protected blocks and are normally set by other threads). We
227  * can have both a pending sync and async interruption. In this case, the sync exception is
228  * processed first. Since we clean sync flag first, mono_thread_execute_interruption must
229  * also handle all sync type exceptions before the async type exceptions.
230  */
231 enum {
232         INTERRUPT_SYNC_REQUESTED_BIT = 0x1,
233         INTERRUPT_ASYNC_REQUESTED_BIT = 0x2,
234         INTERRUPT_REQUESTED_MASK = 0x3,
235         ABORT_PROT_BLOCK_SHIFT = 2,
236         ABORT_PROT_BLOCK_BITS = 8,
237         ABORT_PROT_BLOCK_MASK = (((1 << ABORT_PROT_BLOCK_BITS) - 1) << ABORT_PROT_BLOCK_SHIFT)
238 };
239
240 static int
241 mono_thread_get_abort_prot_block_count (MonoInternalThread *thread)
242 {
243         gsize state = thread->thread_state;
244         return (state & ABORT_PROT_BLOCK_MASK) >> ABORT_PROT_BLOCK_SHIFT;
245 }
246
247 void
248 mono_threads_begin_abort_protected_block (void)
249 {
250         MonoInternalThread *thread = mono_thread_internal_current ();
251         gsize old_state, new_state;
252         int new_val;
253         do {
254                 old_state = thread->thread_state;
255
256                 new_val = ((old_state & ABORT_PROT_BLOCK_MASK) >> ABORT_PROT_BLOCK_SHIFT) + 1;
257                 //bounds check abort_prot_count
258                 g_assert (new_val > 0);
259                 g_assert (new_val < (1 << ABORT_PROT_BLOCK_BITS));
260
261                 new_state = old_state + (1 << ABORT_PROT_BLOCK_SHIFT);
262         } while (InterlockedCompareExchangePointer ((volatile gpointer)&thread->thread_state, (gpointer)new_state, (gpointer)old_state) != (gpointer)old_state);
263
264         /* Defer async request since we won't be able to process until exiting the block */
265         if (new_val == 1 && (new_state & INTERRUPT_ASYNC_REQUESTED_BIT)) {
266                 InterlockedDecrement (&thread_interruption_requested);
267                 THREADS_INTERRUPT_DEBUG ("[%d] begin abort protected block old_state %ld new_state %ld, defer tir %d\n", thread->small_id, old_state, new_state, thread_interruption_requested);
268                 if (thread_interruption_requested < 0)
269                         g_warning ("bad thread_interruption_requested state");
270         } else {
271                 THREADS_INTERRUPT_DEBUG ("[%d] begin abort protected block old_state %ld new_state %ld, tir %d\n", thread->small_id, old_state, new_state, thread_interruption_requested);
272         }
273 }
274
275 static gboolean
276 mono_thread_state_has_interruption (gsize state)
277 {
278         /* pending exception, self abort */
279         if (state & INTERRUPT_SYNC_REQUESTED_BIT)
280                 return TRUE;
281
282         /* abort, interruption, suspend */
283         if ((state & INTERRUPT_ASYNC_REQUESTED_BIT) && !(state & ABORT_PROT_BLOCK_MASK))
284                 return TRUE;
285
286         return FALSE;
287 }
288
289 gboolean
290 mono_threads_end_abort_protected_block (void)
291 {
292         MonoInternalThread *thread = mono_thread_internal_current ();
293         gsize old_state, new_state;
294         int new_val;
295         do {
296                 old_state = thread->thread_state;
297
298                 //bounds check abort_prot_count
299                 new_val = ((old_state & ABORT_PROT_BLOCK_MASK) >> ABORT_PROT_BLOCK_SHIFT) - 1;
300                 g_assert (new_val >= 0);
301                 g_assert (new_val < (1 << ABORT_PROT_BLOCK_BITS));
302
303                 new_state = old_state - (1 << ABORT_PROT_BLOCK_SHIFT);
304         } while (InterlockedCompareExchangePointer ((volatile gpointer)&thread->thread_state, (gpointer)new_state, (gpointer)old_state) != (gpointer)old_state);
305
306         if (new_val == 0 && (new_state & INTERRUPT_ASYNC_REQUESTED_BIT)) {
307                 InterlockedIncrement (&thread_interruption_requested);
308                 THREADS_INTERRUPT_DEBUG ("[%d] end abort protected block old_state %ld new_state %ld, restore tir %d\n", thread->small_id, old_state, new_state, thread_interruption_requested);
309         } else {
310                 THREADS_INTERRUPT_DEBUG ("[%d] end abort protected block old_state %ld new_state %ld, tir %d\n", thread->small_id, old_state, new_state, thread_interruption_requested);
311         }
312
313         return mono_thread_state_has_interruption (new_state);
314 }
315
316 static gboolean
317 mono_thread_get_interruption_requested (MonoInternalThread *thread)
318 {
319         gsize state = thread->thread_state;
320
321         return mono_thread_state_has_interruption (state);
322 }
323
324 /*
325  * Returns TRUE is there was a state change
326  * We clear a single interruption request, sync has priority.
327  */
328 static gboolean
329 mono_thread_clear_interruption_requested (MonoInternalThread *thread)
330 {
331         gsize old_state, new_state;
332         do {
333                 old_state = thread->thread_state;
334
335                 // no interruption to process
336                 if (!(old_state & INTERRUPT_SYNC_REQUESTED_BIT) &&
337                                 (!(old_state & INTERRUPT_ASYNC_REQUESTED_BIT) || (old_state & ABORT_PROT_BLOCK_MASK)))
338                         return FALSE;
339
340                 if (old_state & INTERRUPT_SYNC_REQUESTED_BIT)
341                         new_state = old_state & ~INTERRUPT_SYNC_REQUESTED_BIT;
342                 else
343                         new_state = old_state & ~INTERRUPT_ASYNC_REQUESTED_BIT;
344         } while (InterlockedCompareExchangePointer ((volatile gpointer)&thread->thread_state, (gpointer)new_state, (gpointer)old_state) != (gpointer)old_state);
345
346         InterlockedDecrement (&thread_interruption_requested);
347         THREADS_INTERRUPT_DEBUG ("[%d] clear interruption old_state %ld new_state %ld, tir %d\n", thread->small_id, old_state, new_state, thread_interruption_requested);
348         if (thread_interruption_requested < 0)
349                 g_warning ("bad thread_interruption_requested state");
350         return TRUE;
351 }
352
353 /* Returns TRUE is there was a state change and the interruption can be processed */
354 static gboolean
355 mono_thread_set_interruption_requested (MonoInternalThread *thread)
356 {
357         //always force when the current thread is doing it to itself.
358         gboolean sync = thread == mono_thread_internal_current ();
359         gsize old_state, new_state;
360         do {
361                 old_state = thread->thread_state;
362
363                 //Already set
364                 if ((sync && (old_state & INTERRUPT_SYNC_REQUESTED_BIT)) ||
365                                 (!sync && (old_state & INTERRUPT_ASYNC_REQUESTED_BIT)))
366                         return FALSE;
367
368                 if (sync)
369                         new_state = old_state | INTERRUPT_SYNC_REQUESTED_BIT;
370                 else
371                         new_state = old_state | INTERRUPT_ASYNC_REQUESTED_BIT;
372         } while (InterlockedCompareExchangePointer ((volatile gpointer)&thread->thread_state, (gpointer)new_state, (gpointer)old_state) != (gpointer)old_state);
373
374         if (sync || !(new_state & ABORT_PROT_BLOCK_MASK)) {
375                 InterlockedIncrement (&thread_interruption_requested);
376                 THREADS_INTERRUPT_DEBUG ("[%d] set interruption on [%d] old_state %ld new_state %ld, tir %d\n", mono_thread_internal_current ()->small_id, thread->small_id, old_state, new_state, thread_interruption_requested);
377         } else {
378                 THREADS_INTERRUPT_DEBUG ("[%d] set interruption on [%d] old_state %ld new_state %ld, tir deferred %d\n", mono_thread_internal_current ()->small_id, thread->small_id, old_state, new_state, thread_interruption_requested);
379         }
380
381         return sync || !(new_state & ABORT_PROT_BLOCK_MASK);
382 }
383
384 static inline MonoNativeThreadId
385 thread_get_tid (MonoInternalThread *thread)
386 {
387         /* We store the tid as a guint64 to keep the object layout constant between platforms */
388         return MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid);
389 }
390
391 static void ensure_synch_cs_set (MonoInternalThread *thread)
392 {
393         MonoCoopMutex *synch_cs;
394
395         if (thread->synch_cs != NULL) {
396                 return;
397         }
398
399         synch_cs = g_new0 (MonoCoopMutex, 1);
400         mono_coop_mutex_init_recursive (synch_cs);
401
402         if (InterlockedCompareExchangePointer ((gpointer *)&thread->synch_cs,
403                                                synch_cs, NULL) != NULL) {
404                 /* Another thread must have installed this CS */
405                 mono_coop_mutex_destroy (synch_cs);
406                 g_free (synch_cs);
407         }
408 }
409
410 static inline void
411 lock_thread (MonoInternalThread *thread)
412 {
413         if (!thread->synch_cs)
414                 ensure_synch_cs_set (thread);
415
416         g_assert (thread->synch_cs);
417
418         mono_coop_mutex_lock (thread->synch_cs);
419 }
420
421 static inline void
422 unlock_thread (MonoInternalThread *thread)
423 {
424         mono_coop_mutex_unlock (thread->synch_cs);
425 }
426
427 static inline gboolean
428 is_appdomainunloaded_exception (MonoClass *klass)
429 {
430         return klass == mono_class_get_appdomain_unloaded_exception_class ();
431 }
432
433 static inline gboolean
434 is_threadabort_exception (MonoClass *klass)
435 {
436         return klass == mono_defaults.threadabortexception_class;
437 }
438
439 /*
440  * A special static data offset (guint32) consists of 3 parts:
441  *
442  * [0]   6-bit index into the array of chunks.
443  * [6]   25-bit offset into the array.
444  * [31]  Bit indicating thread or context static.
445  */
446
447 typedef union {
448         struct {
449 #if G_BYTE_ORDER != G_LITTLE_ENDIAN
450                 guint32 type : 1;
451                 guint32 offset : 25;
452                 guint32 index : 6;
453 #else
454                 guint32 index : 6;
455                 guint32 offset : 25;
456                 guint32 type : 1;
457 #endif
458         } fields;
459         guint32 raw;
460 } SpecialStaticOffset;
461
462 #define SPECIAL_STATIC_OFFSET_TYPE_THREAD 0
463 #define SPECIAL_STATIC_OFFSET_TYPE_CONTEXT 1
464
465 #define MAKE_SPECIAL_STATIC_OFFSET(index, offset, type) \
466         ((SpecialStaticOffset) { .fields = { (index), (offset), (type) } }.raw)
467 #define ACCESS_SPECIAL_STATIC_OFFSET(x,f) \
468         (((SpecialStaticOffset *) &(x))->fields.f)
469
470 static gpointer
471 get_thread_static_data (MonoInternalThread *thread, guint32 offset)
472 {
473         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_THREAD);
474
475         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
476         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
477
478         return ((char *) thread->static_data [idx]) + off;
479 }
480
481 static gpointer
482 get_context_static_data (MonoAppContext *ctx, guint32 offset)
483 {
484         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_CONTEXT);
485
486         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
487         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
488
489         return ((char *) ctx->static_data [idx]) + off;
490 }
491
492 static MonoThread**
493 get_current_thread_ptr_for_domain (MonoDomain *domain, MonoInternalThread *thread)
494 {
495         static MonoClassField *current_thread_field = NULL;
496
497         guint32 offset;
498
499         if (!current_thread_field) {
500                 current_thread_field = mono_class_get_field_from_name (mono_defaults.thread_class, "current_thread");
501                 g_assert (current_thread_field);
502         }
503
504         mono_class_vtable (domain, mono_defaults.thread_class);
505         mono_domain_lock (domain);
506         offset = GPOINTER_TO_UINT (g_hash_table_lookup (domain->special_static_fields, current_thread_field));
507         mono_domain_unlock (domain);
508         g_assert (offset);
509
510         return (MonoThread **)get_thread_static_data (thread, offset);
511 }
512
513 static void
514 set_current_thread_for_domain (MonoDomain *domain, MonoInternalThread *thread, MonoThread *current)
515 {
516         MonoThread **current_thread_ptr = get_current_thread_ptr_for_domain (domain, thread);
517
518         g_assert (current->obj.vtable->domain == domain);
519
520         g_assert (!*current_thread_ptr);
521         *current_thread_ptr = current;
522 }
523
524 static MonoThread*
525 create_thread_object (MonoDomain *domain, MonoInternalThread *internal)
526 {
527         MonoThread *thread;
528         MonoVTable *vtable;
529         MonoError error;
530
531         vtable = mono_class_vtable (domain, mono_defaults.thread_class);
532         g_assert (vtable);
533
534         thread = (MonoThread*)mono_object_new_mature (vtable, &error);
535         /* only possible failure mode is OOM, from which we don't expect to recover. */
536         mono_error_assert_ok (&error);
537
538         MONO_OBJECT_SETREF (thread, internal_thread, internal);
539
540         return thread;
541 }
542
543 static MonoInternalThread*
544 create_internal_thread_object (void)
545 {
546         MonoError error;
547         MonoInternalThread *thread;
548         MonoVTable *vt;
549
550         vt = mono_class_vtable (mono_get_root_domain (), mono_defaults.internal_thread_class);
551         thread = (MonoInternalThread*) mono_object_new_mature (vt, &error);
552         /* only possible failure mode is OOM, from which we don't exect to recover */
553         mono_error_assert_ok (&error);
554
555         thread->synch_cs = g_new0 (MonoCoopMutex, 1);
556         mono_coop_mutex_init_recursive (thread->synch_cs);
557
558         thread->apartment_state = ThreadApartmentState_Unknown;
559         thread->managed_id = get_next_managed_thread_id ();
560         if (mono_gc_is_moving ()) {
561                 thread->thread_pinning_ref = thread;
562                 MONO_GC_REGISTER_ROOT_PINNING (thread->thread_pinning_ref, MONO_ROOT_SOURCE_THREADING, "thread pinning reference");
563         }
564
565         thread->priority = MONO_THREAD_PRIORITY_NORMAL;
566
567         thread->suspended = g_new0 (MonoOSEvent, 1);
568         mono_os_event_init (thread->suspended, TRUE);
569
570         return thread;
571 }
572
573 static void
574 mono_thread_internal_set_priority (MonoInternalThread *internal, MonoThreadPriority priority)
575 {
576         g_assert (internal);
577
578         g_assert (priority >= MONO_THREAD_PRIORITY_LOWEST);
579         g_assert (priority <= MONO_THREAD_PRIORITY_HIGHEST);
580         g_assert (MONO_THREAD_PRIORITY_LOWEST < MONO_THREAD_PRIORITY_HIGHEST);
581
582 #ifdef HOST_WIN32
583         BOOL res;
584
585         g_assert (internal->native_handle);
586
587         res = SetThreadPriority (internal->native_handle, priority - 2);
588         if (!res)
589                 g_error ("%s: SetThreadPriority failed, error %d", __func__, GetLastError ());
590 #else /* HOST_WIN32 */
591         pthread_t tid;
592         int policy;
593         struct sched_param param;
594         gint res;
595
596         tid = thread_get_tid (internal);
597
598         res = pthread_getschedparam (tid, &policy, &param);
599         if (res != 0)
600                 g_error ("%s: pthread_getschedparam failed, error: \"%s\" (%d)", __func__, g_strerror (res), res);
601
602 #ifdef _POSIX_PRIORITY_SCHEDULING
603         int max, min;
604
605         /* Necessary to get valid priority range */
606
607         min = sched_get_priority_min (policy);
608         max = sched_get_priority_max (policy);
609
610         if (max > 0 && min >= 0 && max > min) {
611                 double srange, drange, sposition, dposition;
612                 srange = MONO_THREAD_PRIORITY_HIGHEST - MONO_THREAD_PRIORITY_LOWEST;
613                 drange = max - min;
614                 sposition = priority - MONO_THREAD_PRIORITY_LOWEST;
615                 dposition = (sposition / srange) * drange;
616                 param.sched_priority = (int)(dposition + min);
617         } else
618 #endif
619         {
620                 switch (policy) {
621                 case SCHED_FIFO:
622                 case SCHED_RR:
623                         param.sched_priority = 50;
624                         break;
625 #ifdef SCHED_BATCH
626                 case SCHED_BATCH:
627 #endif
628                 case SCHED_OTHER:
629                         param.sched_priority = 0;
630                         break;
631                 default:
632                         g_warning ("%s: unknown policy %d", __func__, policy);
633                         return;
634                 }
635         }
636
637         res = pthread_setschedparam (tid, policy, &param);
638         if (res != 0) {
639                 if (res == EPERM) {
640                         g_warning ("%s: pthread_setschedparam failed, error: \"%s\" (%d)", __func__, g_strerror (res), res);
641                         return;
642                 }
643                 g_error ("%s: pthread_setschedparam failed, error: \"%s\" (%d)", __func__, g_strerror (res), res);
644         }
645 #endif /* HOST_WIN32 */
646 }
647
648 static void 
649 mono_alloc_static_data (gpointer **static_data_ptr, guint32 offset, gboolean threadlocal);
650
651 static gboolean
652 mono_thread_attach_internal (MonoThread *thread, gboolean force_attach, gboolean force_domain)
653 {
654         MonoThreadInfo *info;
655         MonoInternalThread *internal;
656         MonoDomain *domain, *root_domain;
657
658         g_assert (thread);
659
660         info = mono_thread_info_current ();
661
662         internal = thread->internal_thread;
663         internal->handle = mono_threads_open_thread_handle (info->handle);
664 #ifdef HOST_WIN32
665         internal->native_handle = OpenThread (THREAD_ALL_ACCESS, FALSE, GetCurrentThreadId ());
666 #endif
667         internal->tid = MONO_NATIVE_THREAD_ID_TO_UINT (mono_native_thread_id_get ());
668         internal->thread_info = info;
669         internal->small_id = info->small_id;
670
671         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Setting current_object_key to %p", __func__, mono_native_thread_id_get (), internal));
672
673         SET_CURRENT_OBJECT (internal);
674
675         domain = mono_object_domain (thread);
676
677         mono_thread_push_appdomain_ref (domain);
678         if (!mono_domain_set (domain, force_domain)) {
679                 mono_thread_pop_appdomain_ref ();
680                 return FALSE;
681         }
682
683         mono_threads_lock ();
684
685         if (threads_starting_up)
686                 mono_g_hash_table_remove (threads_starting_up, thread);
687
688         if (shutting_down && !force_attach) {
689                 mono_threads_unlock ();
690                 mono_thread_pop_appdomain_ref ();
691                 return FALSE;
692         }
693
694         if (!threads) {
695                 threads = mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "threads table");
696         }
697
698         /* We don't need to duplicate thread->handle, because it is
699          * only closed when the thread object is finalized by the GC. */
700         mono_g_hash_table_insert (threads, (gpointer)(gsize)(internal->tid), internal);
701
702         /* We have to do this here because mono_thread_start_cb
703          * requires that root_domain_thread is set up. */
704         if (thread_static_info.offset || thread_static_info.idx > 0) {
705                 /* get the current allocated size */
706                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (thread_static_info.idx, thread_static_info.offset, 0);
707                 mono_alloc_static_data (&internal->static_data, offset, TRUE);
708         }
709
710         mono_threads_unlock ();
711
712         root_domain = mono_get_root_domain ();
713
714         g_assert (!internal->root_domain_thread);
715         if (domain != root_domain)
716                 MONO_OBJECT_SETREF (internal, root_domain_thread, create_thread_object (root_domain, internal));
717         else
718                 MONO_OBJECT_SETREF (internal, root_domain_thread, thread);
719
720         if (domain != root_domain)
721                 set_current_thread_for_domain (root_domain, internal, internal->root_domain_thread);
722
723         set_current_thread_for_domain (domain, internal, thread);
724
725         THREAD_DEBUG (g_message ("%s: Attached thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, internal->tid, internal->handle));
726
727         return TRUE;
728 }
729
730 typedef struct {
731         gint32 ref;
732         MonoThread *thread;
733         MonoObject *start_delegate;
734         MonoObject *start_delegate_arg;
735         MonoThreadStart start_func;
736         gpointer start_func_arg;
737         gboolean force_attach;
738         gboolean failed;
739         MonoCoopSem registered;
740 } StartInfo;
741
742 static guint32 WINAPI start_wrapper_internal(StartInfo *start_info, gsize *stack_ptr)
743 {
744         MonoError error;
745         MonoThreadStart start_func;
746         void *start_func_arg;
747         gsize tid;
748         /* 
749          * We don't create a local to hold start_info->thread, so hopefully it won't get pinned during a
750          * GC stack walk.
751          */
752         MonoThread *thread;
753         MonoInternalThread *internal;
754         MonoObject *start_delegate;
755         MonoObject *start_delegate_arg;
756         MonoDomain *domain;
757
758         thread = start_info->thread;
759         internal = thread->internal_thread;
760         domain = mono_object_domain (start_info->thread);
761
762         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper", __func__, mono_native_thread_id_get ()));
763
764         if (!mono_thread_attach_internal (thread, start_info->force_attach, FALSE)) {
765                 start_info->failed = TRUE;
766
767                 mono_coop_sem_post (&start_info->registered);
768
769                 if (InterlockedDecrement (&start_info->ref) == 0) {
770                         mono_coop_sem_destroy (&start_info->registered);
771                         g_free (start_info);
772                 }
773
774                 return 0;
775         }
776
777         mono_thread_internal_set_priority (internal, internal->priority);
778
779         tid = internal->tid;
780
781         start_delegate = start_info->start_delegate;
782         start_delegate_arg = start_info->start_delegate_arg;
783         start_func = start_info->start_func;
784         start_func_arg = start_info->start_func_arg;
785
786         /* This MUST be called before any managed code can be
787          * executed, as it calls the callback function that (for the
788          * jit) sets the lmf marker.
789          */
790
791         if (mono_thread_start_cb)
792                 mono_thread_start_cb (tid, stack_ptr, start_func);
793
794         /* On 2.0 profile (and higher), set explicitly since state might have been
795            Unknown */
796         if (internal->apartment_state == ThreadApartmentState_Unknown)
797                 internal->apartment_state = ThreadApartmentState_MTA;
798
799         mono_thread_init_apartment_state ();
800
801         /* Let the thread that called Start() know we're ready */
802         mono_coop_sem_post (&start_info->registered);
803
804         if (InterlockedDecrement (&start_info->ref) == 0) {
805                 mono_coop_sem_destroy (&start_info->registered);
806                 g_free (start_info);
807         }
808
809         /* start_info is not valid anymore */
810         start_info = NULL;
811
812         /* 
813          * Call this after calling start_notify, since the profiler callback might want
814          * to lock the thread, and the lock is held by thread_start () which waits for
815          * start_notify.
816          */
817         mono_profiler_thread_start (tid);
818
819         /* if the name was set before starting, we didn't invoke the profiler callback */
820         if (internal->name) {
821                 char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
822                 mono_profiler_thread_name (internal->tid, tname);
823                 mono_native_thread_set_name (MONO_UINT_TO_NATIVE_THREAD_ID (internal->tid), tname);
824                 g_free (tname);
825         }
826
827         /* start_func is set only for unmanaged start functions */
828         if (start_func) {
829                 start_func (start_func_arg);
830         } else {
831                 void *args [1];
832
833                 g_assert (start_delegate != NULL);
834
835                 /* we may want to handle the exception here. See comment below on unhandled exceptions */
836                 args [0] = (gpointer) start_delegate_arg;
837                 mono_runtime_delegate_invoke_checked (start_delegate, args, &error);
838
839                 if (!mono_error_ok (&error)) {
840                         MonoException *ex = mono_error_convert_to_exception (&error);
841
842                         g_assert (ex != NULL);
843                         MonoClass *klass = mono_object_get_class (&ex->object);
844                         if ((mono_runtime_unhandled_exception_policy_get () != MONO_UNHANDLED_POLICY_LEGACY) &&
845                             !is_threadabort_exception (klass)) {
846                                 mono_unhandled_exception (&ex->object);
847                                 mono_invoke_unhandled_exception_hook (&ex->object);
848                                 g_assert_not_reached ();
849                         }
850                 } else {
851                         mono_error_cleanup (&error);
852                 }
853         }
854
855         /* If the thread calls ExitThread at all, this remaining code
856          * will not be executed, but the main thread will eventually
857          * call mono_thread_detach_internal() on this thread's behalf.
858          */
859
860         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper terminating", __func__, mono_native_thread_id_get ()));
861
862         /* Do any cleanup needed for apartment state. This
863          * cannot be done in mono_thread_detach_internal since
864          * mono_thread_detach_internal could be  called for a
865          * thread other than the current thread.
866          * mono_thread_cleanup_apartment_state cleans up apartment
867          * for the current thead */
868         mono_thread_cleanup_apartment_state ();
869
870         mono_thread_detach_internal (internal);
871
872         internal->tid = 0;
873
874         return(0);
875 }
876
877 static gsize WINAPI
878 start_wrapper (gpointer data)
879 {
880         StartInfo *start_info;
881         MonoThreadInfo *info;
882         gsize res;
883
884         start_info = (StartInfo*) data;
885         g_assert (start_info);
886
887         info = mono_thread_info_attach ();
888         info->runtime_thread = TRUE;
889
890         /* Run the actual main function of the thread */
891         res = start_wrapper_internal (start_info, info->stack_end);
892
893         mono_thread_info_exit (res);
894
895         g_assert_not_reached ();
896 }
897
898 /*
899  * create_thread:
900  *
901  *   Common thread creation code.
902  * LOCKING: Acquires the threads lock.
903  */
904 static gboolean
905 create_thread (MonoThread *thread, MonoInternalThread *internal, MonoObject *start_delegate, MonoThreadStart start_func, gpointer start_func_arg,
906         MonoThreadCreateFlags flags, MonoError *error)
907 {
908         StartInfo *start_info = NULL;
909         MonoNativeThreadId tid;
910         gboolean ret;
911         gsize stack_set_size;
912
913         if (start_delegate)
914                 g_assert (!start_func && !start_func_arg);
915         if (start_func)
916                 g_assert (!start_delegate);
917
918         if (flags & MONO_THREAD_CREATE_FLAGS_THREADPOOL) {
919                 g_assert (!(flags & MONO_THREAD_CREATE_FLAGS_DEBUGGER));
920                 g_assert (!(flags & MONO_THREAD_CREATE_FLAGS_FORCE_CREATE));
921         }
922         if (flags & MONO_THREAD_CREATE_FLAGS_DEBUGGER) {
923                 g_assert (!(flags & MONO_THREAD_CREATE_FLAGS_THREADPOOL));
924                 g_assert (!(flags & MONO_THREAD_CREATE_FLAGS_FORCE_CREATE));
925         }
926
927         /*
928          * Join joinable threads to prevent running out of threads since the finalizer
929          * thread might be blocked/backlogged.
930          */
931         mono_threads_join_threads ();
932
933         error_init (error);
934
935         mono_threads_lock ();
936         if (shutting_down && !(flags & MONO_THREAD_CREATE_FLAGS_FORCE_CREATE)) {
937                 mono_threads_unlock ();
938                 return FALSE;
939         }
940         if (threads_starting_up == NULL) {
941                 threads_starting_up = mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_KEY_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "starting threads table");
942         }
943         mono_g_hash_table_insert (threads_starting_up, thread, thread);
944         mono_threads_unlock ();
945
946         internal->threadpool_thread = flags & MONO_THREAD_CREATE_FLAGS_THREADPOOL;
947         if (internal->threadpool_thread)
948                 mono_thread_set_state (internal, ThreadState_Background);
949
950         internal->debugger_thread = flags & MONO_THREAD_CREATE_FLAGS_DEBUGGER;
951
952         start_info = g_new0 (StartInfo, 1);
953         start_info->ref = 2;
954         start_info->thread = thread;
955         start_info->start_delegate = start_delegate;
956         start_info->start_delegate_arg = thread->start_obj;
957         start_info->start_func = start_func;
958         start_info->start_func_arg = start_func_arg;
959         start_info->force_attach = flags & MONO_THREAD_CREATE_FLAGS_FORCE_CREATE;
960         start_info->failed = FALSE;
961         mono_coop_sem_init (&start_info->registered, 0);
962
963         if (flags != MONO_THREAD_CREATE_FLAGS_SMALL_STACK)
964                 stack_set_size = default_stacksize_for_thread (internal);
965         else
966                 stack_set_size = 0;
967
968         if (!mono_thread_platform_create_thread (start_wrapper, start_info, &stack_set_size, &tid)) {
969                 /* The thread couldn't be created, so set an exception */
970                 mono_threads_lock ();
971                 mono_g_hash_table_remove (threads_starting_up, thread);
972                 mono_threads_unlock ();
973                 mono_error_set_execution_engine (error, "Couldn't create thread. Error 0x%x", mono_w32error_get_last());
974                 /* ref is not going to be decremented in start_wrapper_internal */
975                 InterlockedDecrement (&start_info->ref);
976                 ret = FALSE;
977                 goto done;
978         }
979
980         internal->stack_size = (int) stack_set_size;
981
982         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
983
984         /*
985          * Wait for the thread to set up its TLS data etc, so
986          * theres no potential race condition if someone tries
987          * to look up the data believing the thread has
988          * started
989          */
990
991         mono_coop_sem_wait (&start_info->registered, MONO_SEM_FLAGS_NONE);
992
993         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Done launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
994
995         ret = !start_info->failed;
996
997 done:
998         if (InterlockedDecrement (&start_info->ref) == 0) {
999                 mono_coop_sem_destroy (&start_info->registered);
1000                 g_free (start_info);
1001         }
1002
1003         return ret;
1004 }
1005
1006 /**
1007  * mono_thread_new_init:
1008  */
1009 void
1010 mono_thread_new_init (intptr_t tid, gpointer stack_start, gpointer func)
1011 {
1012         if (mono_thread_start_cb) {
1013                 mono_thread_start_cb (tid, stack_start, func);
1014         }
1015 }
1016
1017 /**
1018  * mono_threads_set_default_stacksize:
1019  */
1020 void
1021 mono_threads_set_default_stacksize (guint32 stacksize)
1022 {
1023         default_stacksize = stacksize;
1024 }
1025
1026 /**
1027  * mono_threads_get_default_stacksize:
1028  */
1029 guint32
1030 mono_threads_get_default_stacksize (void)
1031 {
1032         return default_stacksize;
1033 }
1034
1035 /*
1036  * mono_thread_create_internal:
1037  *
1038  *   ARG should not be a GC reference.
1039  */
1040 MonoInternalThread*
1041 mono_thread_create_internal (MonoDomain *domain, gpointer func, gpointer arg, MonoThreadCreateFlags flags, MonoError *error)
1042 {
1043         MonoThread *thread;
1044         MonoInternalThread *internal;
1045         gboolean res;
1046
1047         error_init (error);
1048
1049         internal = create_internal_thread_object ();
1050
1051         thread = create_thread_object (domain, internal);
1052
1053         LOCK_THREAD (internal);
1054
1055         res = create_thread (thread, internal, NULL, (MonoThreadStart) func, arg, flags, error);
1056
1057         UNLOCK_THREAD (internal);
1058
1059         return_val_if_nok (error, NULL);
1060         return internal;
1061 }
1062
1063 /**
1064  * mono_thread_create:
1065  */
1066 void
1067 mono_thread_create (MonoDomain *domain, gpointer func, gpointer arg)
1068 {
1069         MonoError error;
1070         if (!mono_thread_create_checked (domain, func, arg, &error))
1071                 mono_error_cleanup (&error);
1072 }
1073
1074 gboolean
1075 mono_thread_create_checked (MonoDomain *domain, gpointer func, gpointer arg, MonoError *error)
1076 {
1077         return (NULL != mono_thread_create_internal (domain, func, arg, MONO_THREAD_CREATE_FLAGS_NONE, error));
1078 }
1079
1080 /**
1081  * mono_thread_attach:
1082  */
1083 MonoThread *
1084 mono_thread_attach (MonoDomain *domain)
1085 {
1086         MonoThread *thread = mono_thread_attach_full (domain, FALSE);
1087
1088         return thread;
1089 }
1090
1091 MonoThread *
1092 mono_thread_attach_full (MonoDomain *domain, gboolean force_attach)
1093 {
1094         MonoInternalThread *internal;
1095         MonoThread *thread;
1096         MonoThreadInfo *info;
1097         MonoNativeThreadId tid;
1098
1099         if (mono_thread_internal_current_is_attached ()) {
1100                 if (domain != mono_domain_get ())
1101                         mono_domain_set (domain, TRUE);
1102                 /* Already attached */
1103                 return mono_thread_current ();
1104         }
1105
1106         info = mono_thread_info_attach ();
1107         g_assert (info);
1108
1109         tid=mono_native_thread_id_get ();
1110
1111         internal = create_internal_thread_object ();
1112
1113         thread = create_thread_object (domain, internal);
1114
1115         if (!mono_thread_attach_internal (thread, force_attach, TRUE)) {
1116                 /* Mono is shutting down, so just wait for the end */
1117                 for (;;)
1118                         mono_thread_info_sleep (10000, NULL);
1119         }
1120
1121         THREAD_DEBUG (g_message ("%s: Attached thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, internal->handle));
1122
1123         if (mono_thread_attach_cb)
1124                 mono_thread_attach_cb (MONO_NATIVE_THREAD_ID_TO_UINT (tid), info->stack_end);
1125
1126         /* Can happen when we attach the profiler helper thread in order to heapshot. */
1127         if (!mono_thread_info_current ()->tools_thread)
1128                 // FIXME: Need a separate callback
1129                 mono_profiler_thread_start (MONO_NATIVE_THREAD_ID_TO_UINT (tid));
1130
1131         return thread;
1132 }
1133
1134 void
1135 mono_thread_detach_internal (MonoInternalThread *thread)
1136 {
1137         gboolean removed;
1138
1139         g_assert (thread != NULL);
1140
1141         THREAD_DEBUG (g_message ("%s: mono_thread_detach for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1142
1143 #ifndef HOST_WIN32
1144         mono_w32mutex_abandon ();
1145 #endif
1146
1147         if (thread->abort_state_handle) {
1148                 mono_gchandle_free (thread->abort_state_handle);
1149                 thread->abort_state_handle = 0;
1150         }
1151
1152         thread->abort_exc = NULL;
1153         thread->current_appcontext = NULL;
1154
1155         /*
1156          * thread->synch_cs can be NULL if this was called after
1157          * ves_icall_System_Threading_InternalThread_Thread_free_internal.
1158          * This can happen only during shutdown.
1159          * The shutting_down flag is not always set, so we can't assert on it.
1160          */
1161         if (thread->synch_cs)
1162                 LOCK_THREAD (thread);
1163
1164         thread->state |= ThreadState_Stopped;
1165         thread->state &= ~ThreadState_Background;
1166
1167         if (thread->synch_cs)
1168                 UNLOCK_THREAD (thread);
1169
1170         /*
1171         An interruption request has leaked to cleanup. Adjust the global counter.
1172
1173         This can happen is the abort source thread finds the abortee (this) thread
1174         in unmanaged code. If this thread never trips back to managed code or check
1175         the local flag it will be left set and positively unbalance the global counter.
1176         
1177         Leaving the counter unbalanced will cause a performance degradation since all threads
1178         will now keep checking their local flags all the time.
1179         */
1180         mono_thread_clear_interruption_requested (thread);
1181
1182         mono_threads_lock ();
1183
1184         if (!threads) {
1185                 removed = FALSE;
1186         } else if (mono_g_hash_table_lookup (threads, (gpointer)thread->tid) != thread) {
1187                 /* We have to check whether the thread object for the
1188                  * tid is still the same in the table because the
1189                  * thread might have been destroyed and the tid reused
1190                  * in the meantime, in which case the tid would be in
1191                  * the table, but with another thread object.
1192                  */
1193                 removed = FALSE;
1194         } else {
1195                 mono_g_hash_table_remove (threads, (gpointer)thread->tid);
1196                 removed = TRUE;
1197         }
1198
1199         mono_threads_unlock ();
1200
1201         /* Don't close the handle here, wait for the object finalizer
1202          * to do it. Otherwise, the following race condition applies:
1203          *
1204          * 1) Thread exits (and mono_thread_detach_internal() closes the handle)
1205          *
1206          * 2) Some other handle is reassigned the same slot
1207          *
1208          * 3) Another thread tries to join the first thread, and
1209          * blocks waiting for the reassigned handle to be signalled
1210          * (which might never happen).  This is possible, because the
1211          * thread calling Join() still has a reference to the first
1212          * thread's object.
1213          */
1214
1215         /* if the thread is not in the hash it has been removed already */
1216         if (!removed) {
1217                 mono_domain_unset ();
1218                 mono_memory_barrier ();
1219
1220                 if (mono_thread_cleanup_fn)
1221                         mono_thread_cleanup_fn (thread_get_tid (thread));
1222
1223                 goto done;
1224         }
1225
1226         mono_release_type_locks (thread);
1227
1228         /* Can happen when we attach the profiler helper thread in order to heapshot. */
1229         if (!mono_thread_info_lookup (MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid))->tools_thread)
1230                 mono_profiler_thread_end (thread->tid);
1231
1232         mono_hazard_pointer_clear (mono_hazard_pointer_get (), 1);
1233
1234         /*
1235          * This will signal async signal handlers that the thread has exited.
1236          * The profiler callback needs this to be set, so it cannot be done earlier.
1237          */
1238         mono_domain_unset ();
1239         mono_memory_barrier ();
1240
1241         if (thread == mono_thread_internal_current ())
1242                 mono_thread_pop_appdomain_ref ();
1243
1244         mono_free_static_data (thread->static_data);
1245         thread->static_data = NULL;
1246         ref_stack_destroy (thread->appdomain_refs);
1247         thread->appdomain_refs = NULL;
1248
1249         g_assert (thread->suspended);
1250         mono_os_event_destroy (thread->suspended);
1251         g_free (thread->suspended);
1252         thread->suspended = NULL;
1253
1254         if (mono_thread_cleanup_fn)
1255                 mono_thread_cleanup_fn (thread_get_tid (thread));
1256
1257         mono_memory_barrier ();
1258
1259         if (mono_gc_is_moving ()) {
1260                 MONO_GC_UNREGISTER_ROOT (thread->thread_pinning_ref);
1261                 thread->thread_pinning_ref = NULL;
1262         }
1263
1264 done:
1265         SET_CURRENT_OBJECT (NULL);
1266         mono_domain_unset ();
1267
1268         /* Don't need to close the handle to this thread, even though we took a
1269          * reference in mono_thread_attach (), because the GC will do it
1270          * when the Thread object is finalised.
1271          */
1272 }
1273
1274 /**
1275  * mono_thread_detach:
1276  */
1277 void
1278 mono_thread_detach (MonoThread *thread)
1279 {
1280         if (thread)
1281                 mono_thread_detach_internal (thread->internal_thread);
1282 }
1283
1284 /**
1285  * mono_thread_detach_if_exiting:
1286  *
1287  * Detach the current thread from the runtime if it is exiting, i.e. it is running pthread dtors.
1288  * This should be used at the end of embedding code which calls into managed code, and which
1289  * can be called from pthread dtors, like <code>dealloc:</code> implementations in Objective-C.
1290  */
1291 mono_bool
1292 mono_thread_detach_if_exiting (void)
1293 {
1294         if (mono_thread_info_is_exiting ()) {
1295                 MonoInternalThread *thread;
1296
1297                 thread = mono_thread_internal_current ();
1298                 if (thread) {
1299                         mono_thread_detach_internal (thread);
1300                         mono_thread_info_detach ();
1301                         return TRUE;
1302                 }
1303         }
1304         return FALSE;
1305 }
1306
1307 gboolean
1308 mono_thread_internal_current_is_attached (void)
1309 {
1310         MonoInternalThread *internal;
1311
1312         internal = GET_CURRENT_OBJECT ();
1313         if (!internal)
1314                 return FALSE;
1315
1316         return TRUE;
1317 }
1318
1319 /**
1320  * mono_thread_exit:
1321  */
1322 void
1323 mono_thread_exit (void)
1324 {
1325         MonoInternalThread *thread = mono_thread_internal_current ();
1326
1327         THREAD_DEBUG (g_message ("%s: mono_thread_exit for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1328
1329         mono_thread_detach_internal (thread);
1330
1331         /* we could add a callback here for embedders to use. */
1332         if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread))
1333                 exit (mono_environment_exitcode_get ());
1334
1335         mono_thread_info_exit (0);
1336 }
1337
1338 void
1339 ves_icall_System_Threading_Thread_ConstructInternalThread (MonoThread *this_obj)
1340 {
1341         MonoInternalThread *internal;
1342
1343         internal = create_internal_thread_object ();
1344
1345         internal->state = ThreadState_Unstarted;
1346
1347         InterlockedCompareExchangePointer ((volatile gpointer *)&this_obj->internal_thread, internal, NULL);
1348 }
1349
1350 MonoThread *
1351 ves_icall_System_Threading_Thread_GetCurrentThread (void)
1352 {
1353         return mono_thread_current ();
1354 }
1355
1356 HANDLE
1357 ves_icall_System_Threading_Thread_Thread_internal (MonoThread *this_obj,
1358                                                                                                    MonoObject *start)
1359 {
1360         MonoError error;
1361         MonoInternalThread *internal;
1362         gboolean res;
1363
1364         THREAD_DEBUG (g_message("%s: Trying to start a new thread: this (%p) start (%p)", __func__, this_obj, start));
1365
1366         if (!this_obj->internal_thread)
1367                 ves_icall_System_Threading_Thread_ConstructInternalThread (this_obj);
1368         internal = this_obj->internal_thread;
1369
1370         LOCK_THREAD (internal);
1371
1372         if ((internal->state & ThreadState_Unstarted) == 0) {
1373                 UNLOCK_THREAD (internal);
1374                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has already been started."));
1375                 return NULL;
1376         }
1377
1378         if ((internal->state & ThreadState_Aborted) != 0) {
1379                 UNLOCK_THREAD (internal);
1380                 return this_obj;
1381         }
1382
1383         res = create_thread (this_obj, internal, start, NULL, NULL, MONO_THREAD_CREATE_FLAGS_NONE, &error);
1384         if (!res) {
1385                 mono_error_cleanup (&error);
1386                 UNLOCK_THREAD (internal);
1387                 return NULL;
1388         }
1389
1390         internal->state &= ~ThreadState_Unstarted;
1391
1392         THREAD_DEBUG (g_message ("%s: Started thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread));
1393
1394         UNLOCK_THREAD (internal);
1395         return internal->handle;
1396 }
1397
1398 /*
1399  * This is called from the finalizer of the internal thread object.
1400  */
1401 void
1402 ves_icall_System_Threading_InternalThread_Thread_free_internal (MonoInternalThread *this_obj)
1403 {
1404         THREAD_DEBUG (g_message ("%s: Closing thread %p, handle %p", __func__, this, this_obj->handle));
1405
1406         /*
1407          * Since threads keep a reference to their thread object while running, by
1408          * the time this function is called, the thread has already exited/detached,
1409          * i.e. mono_thread_detach_internal () has ran. The exception is during
1410          * shutdown, when mono_thread_detach_internal () can be called after this.
1411          */
1412         if (this_obj->handle) {
1413                 mono_threads_close_thread_handle (this_obj->handle);
1414                 this_obj->handle = NULL;
1415         }
1416
1417 #if HOST_WIN32
1418         CloseHandle (this_obj->native_handle);
1419 #endif
1420
1421         if (this_obj->synch_cs) {
1422                 MonoCoopMutex *synch_cs = this_obj->synch_cs;
1423                 this_obj->synch_cs = NULL;
1424                 mono_coop_mutex_destroy (synch_cs);
1425                 g_free (synch_cs);
1426         }
1427
1428         if (this_obj->name) {
1429                 void *name = this_obj->name;
1430                 this_obj->name = NULL;
1431                 g_free (name);
1432         }
1433 }
1434
1435 void
1436 ves_icall_System_Threading_Thread_Sleep_internal(gint32 ms)
1437 {
1438         guint32 res;
1439         MonoInternalThread *thread = mono_thread_internal_current ();
1440
1441         THREAD_DEBUG (g_message ("%s: Sleeping for %d ms", __func__, ms));
1442
1443         if (mono_thread_current_check_pending_interrupt ())
1444                 return;
1445
1446         while (TRUE) {
1447                 gboolean alerted = FALSE;
1448
1449                 mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1450
1451                 res = mono_thread_info_sleep (ms, &alerted);
1452
1453                 mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1454
1455                 if (alerted) {
1456                         MonoException* exc = mono_thread_execute_interruption ();
1457                         if (exc) {
1458                                 mono_raise_exception (exc);
1459                         } else {
1460                                 // FIXME: !MONO_INFINITE_WAIT
1461                                 if (ms != MONO_INFINITE_WAIT)
1462                                         break;
1463                         }
1464                 } else {
1465                         break;
1466                 }
1467         }
1468 }
1469
1470 void ves_icall_System_Threading_Thread_SpinWait_nop (void)
1471 {
1472 }
1473
1474 gint32
1475 ves_icall_System_Threading_Thread_GetDomainID (void) 
1476 {
1477         return mono_domain_get()->domain_id;
1478 }
1479
1480 gboolean 
1481 ves_icall_System_Threading_Thread_Yield (void)
1482 {
1483         return mono_thread_info_yield ();
1484 }
1485
1486 /*
1487  * mono_thread_get_name:
1488  *
1489  *   Return the name of the thread. NAME_LEN is set to the length of the name.
1490  * Return NULL if the thread has no name. The returned memory is owned by the
1491  * caller.
1492  */
1493 gunichar2*
1494 mono_thread_get_name (MonoInternalThread *this_obj, guint32 *name_len)
1495 {
1496         gunichar2 *res;
1497
1498         LOCK_THREAD (this_obj);
1499         
1500         if (!this_obj->name) {
1501                 *name_len = 0;
1502                 res = NULL;
1503         } else {
1504                 *name_len = this_obj->name_len;
1505                 res = g_new (gunichar2, this_obj->name_len);
1506                 memcpy (res, this_obj->name, sizeof (gunichar2) * this_obj->name_len);
1507         }
1508         
1509         UNLOCK_THREAD (this_obj);
1510
1511         return res;
1512 }
1513
1514 /**
1515  * mono_thread_get_name_utf8:
1516  * \returns the name of the thread in UTF-8.
1517  * Return NULL if the thread has no name.
1518  * The returned memory is owned by the caller.
1519  */
1520 char *
1521 mono_thread_get_name_utf8 (MonoThread *thread)
1522 {
1523         if (thread == NULL)
1524                 return NULL;
1525
1526         MonoInternalThread *internal = thread->internal_thread;
1527         if (internal == NULL)
1528                 return NULL;
1529
1530         LOCK_THREAD (internal);
1531
1532         char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
1533
1534         UNLOCK_THREAD (internal);
1535
1536         return tname;
1537 }
1538
1539 /**
1540  * mono_thread_get_managed_id:
1541  * \returns the \c Thread.ManagedThreadId value of \p thread.
1542  * Returns \c -1 if \p thread is NULL.
1543  */
1544 int32_t
1545 mono_thread_get_managed_id (MonoThread *thread)
1546 {
1547         if (thread == NULL)
1548                 return -1;
1549
1550         MonoInternalThread *internal = thread->internal_thread;
1551         if (internal == NULL)
1552                 return -1;
1553
1554         int32_t id = internal->managed_id;
1555
1556         return id;
1557 }
1558
1559 MonoString* 
1560 ves_icall_System_Threading_Thread_GetName_internal (MonoInternalThread *this_obj)
1561 {
1562         MonoError error;
1563         MonoString* str;
1564
1565         error_init (&error);
1566
1567         LOCK_THREAD (this_obj);
1568         
1569         if (!this_obj->name)
1570                 str = NULL;
1571         else
1572                 str = mono_string_new_utf16_checked (mono_domain_get (), this_obj->name, this_obj->name_len, &error);
1573         
1574         UNLOCK_THREAD (this_obj);
1575
1576         if (mono_error_set_pending_exception (&error))
1577                 return NULL;
1578         
1579         return str;
1580 }
1581
1582 void 
1583 mono_thread_set_name_internal (MonoInternalThread *this_obj, MonoString *name, gboolean permanent, gboolean reset, MonoError *error)
1584 {
1585         LOCK_THREAD (this_obj);
1586
1587         error_init (error);
1588
1589         if (reset) {
1590                 this_obj->flags &= ~MONO_THREAD_FLAG_NAME_SET;
1591         } else if (this_obj->flags & MONO_THREAD_FLAG_NAME_SET) {
1592                 UNLOCK_THREAD (this_obj);
1593                 
1594                 mono_error_set_invalid_operation (error, "Thread.Name can only be set once.");
1595                 return;
1596         }
1597         if (this_obj->name) {
1598                 g_free (this_obj->name);
1599                 this_obj->name_len = 0;
1600         }
1601         if (name) {
1602                 this_obj->name = g_memdup (mono_string_chars (name), mono_string_length (name) * sizeof (gunichar2));
1603                 this_obj->name_len = mono_string_length (name);
1604
1605                 if (permanent)
1606                         this_obj->flags |= MONO_THREAD_FLAG_NAME_SET;
1607         }
1608         else
1609                 this_obj->name = NULL;
1610
1611         
1612         UNLOCK_THREAD (this_obj);
1613
1614         if (this_obj->name && this_obj->tid) {
1615                 char *tname = mono_string_to_utf8_checked (name, error);
1616                 return_if_nok (error);
1617                 mono_profiler_thread_name (this_obj->tid, tname);
1618                 mono_native_thread_set_name (thread_get_tid (this_obj), tname);
1619                 mono_free (tname);
1620         }
1621 }
1622
1623 void 
1624 ves_icall_System_Threading_Thread_SetName_internal (MonoInternalThread *this_obj, MonoString *name)
1625 {
1626         MonoError error;
1627         mono_thread_set_name_internal (this_obj, name, TRUE, FALSE, &error);
1628         mono_error_set_pending_exception (&error);
1629 }
1630
1631 /*
1632  * ves_icall_System_Threading_Thread_GetPriority_internal:
1633  * @param this_obj: The MonoInternalThread on which to operate.
1634  *
1635  * Gets the priority of the given thread.
1636  * @return: The priority of the given thread.
1637  */
1638 int
1639 ves_icall_System_Threading_Thread_GetPriority (MonoThread *this_obj)
1640 {
1641         gint32 priority;
1642         MonoInternalThread *internal = this_obj->internal_thread;
1643
1644         LOCK_THREAD (internal);
1645         priority = internal->priority;
1646         UNLOCK_THREAD (internal);
1647
1648         return priority;
1649 }
1650
1651 /* 
1652  * ves_icall_System_Threading_Thread_SetPriority_internal:
1653  * @param this_obj: The MonoInternalThread on which to operate.
1654  * @param priority: The priority to set.
1655  *
1656  * Sets the priority of the given thread.
1657  */
1658 void
1659 ves_icall_System_Threading_Thread_SetPriority (MonoThread *this_obj, int priority)
1660 {
1661         MonoInternalThread *internal = this_obj->internal_thread;
1662
1663         LOCK_THREAD (internal);
1664         internal->priority = priority;
1665         if (internal->thread_info != NULL)
1666                 mono_thread_internal_set_priority (internal, priority);
1667         UNLOCK_THREAD (internal);
1668 }
1669
1670 /* If the array is already in the requested domain, we just return it,
1671    otherwise we return a copy in that domain. */
1672 static MonoArray*
1673 byte_array_to_domain (MonoArray *arr, MonoDomain *domain, MonoError *error)
1674 {
1675         MonoArray *copy;
1676
1677         error_init (error);
1678         if (!arr)
1679                 return NULL;
1680
1681         if (mono_object_domain (arr) == domain)
1682                 return arr;
1683
1684         copy = mono_array_new_checked (domain, mono_defaults.byte_class, arr->max_length, error);
1685         memmove (mono_array_addr (copy, guint8, 0), mono_array_addr (arr, guint8, 0), arr->max_length);
1686         return copy;
1687 }
1688
1689 MonoArray*
1690 ves_icall_System_Threading_Thread_ByteArrayToRootDomain (MonoArray *arr)
1691 {
1692         MonoError error;
1693         MonoArray *result = byte_array_to_domain (arr, mono_get_root_domain (), &error);
1694         mono_error_set_pending_exception (&error);
1695         return result;
1696 }
1697
1698 MonoArray*
1699 ves_icall_System_Threading_Thread_ByteArrayToCurrentDomain (MonoArray *arr)
1700 {
1701         MonoError error;
1702         MonoArray *result = byte_array_to_domain (arr, mono_domain_get (), &error);
1703         mono_error_set_pending_exception (&error);
1704         return result;
1705 }
1706
1707 /**
1708  * mono_thread_current:
1709  */
1710 MonoThread *
1711 mono_thread_current (void)
1712 {
1713         MonoDomain *domain = mono_domain_get ();
1714         MonoInternalThread *internal = mono_thread_internal_current ();
1715         MonoThread **current_thread_ptr;
1716
1717         g_assert (internal);
1718         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1719
1720         if (!*current_thread_ptr) {
1721                 g_assert (domain != mono_get_root_domain ());
1722                 *current_thread_ptr = create_thread_object (domain, internal);
1723         }
1724         return *current_thread_ptr;
1725 }
1726
1727 /* Return the thread object belonging to INTERNAL in the current domain */
1728 static MonoThread *
1729 mono_thread_current_for_thread (MonoInternalThread *internal)
1730 {
1731         MonoDomain *domain = mono_domain_get ();
1732         MonoThread **current_thread_ptr;
1733
1734         g_assert (internal);
1735         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1736
1737         if (!*current_thread_ptr) {
1738                 g_assert (domain != mono_get_root_domain ());
1739                 *current_thread_ptr = create_thread_object (domain, internal);
1740         }
1741         return *current_thread_ptr;
1742 }
1743
1744 MonoInternalThread*
1745 mono_thread_internal_current (void)
1746 {
1747         MonoInternalThread *res = GET_CURRENT_OBJECT ();
1748         THREAD_DEBUG (g_message ("%s: returning %p", __func__, res));
1749         return res;
1750 }
1751
1752 static MonoThreadInfoWaitRet
1753 mono_join_uninterrupted (MonoThreadHandle* thread_to_join, gint32 ms, MonoError *error)
1754 {
1755         MonoException *exc;
1756         MonoThreadInfoWaitRet ret;
1757         gint64 start;
1758         gint32 diff_ms;
1759         gint32 wait = ms;
1760
1761         error_init (error);
1762
1763         start = (ms == -1) ? 0 : mono_msec_ticks ();
1764         for (;;) {
1765                 MONO_ENTER_GC_SAFE;
1766                 ret = mono_thread_info_wait_one_handle (thread_to_join, ms, TRUE);
1767                 MONO_EXIT_GC_SAFE;
1768
1769                 if (ret != MONO_THREAD_INFO_WAIT_RET_ALERTED)
1770                         return ret;
1771
1772                 exc = mono_thread_execute_interruption ();
1773                 if (exc) {
1774                         mono_error_set_exception_instance (error, exc);
1775                         return ret;
1776                 }
1777
1778                 if (ms == -1)
1779                         continue;
1780
1781                 /* Re-calculate ms according to the time passed */
1782                 diff_ms = (gint32)(mono_msec_ticks () - start);
1783                 if (diff_ms >= ms) {
1784                         ret = MONO_THREAD_INFO_WAIT_RET_TIMEOUT;
1785                         return ret;
1786                 }
1787                 wait = ms - diff_ms;
1788         }
1789
1790         return ret;
1791 }
1792
1793 gboolean
1794 ves_icall_System_Threading_Thread_Join_internal(MonoThread *this_obj, int ms)
1795 {
1796         MonoInternalThread *thread = this_obj->internal_thread;
1797         MonoThreadHandle *handle = thread->handle;
1798         MonoInternalThread *cur_thread = mono_thread_internal_current ();
1799         gboolean ret;
1800         MonoError error;
1801
1802         if (mono_thread_current_check_pending_interrupt ())
1803                 return FALSE;
1804
1805         LOCK_THREAD (thread);
1806         
1807         if ((thread->state & ThreadState_Unstarted) != 0) {
1808                 UNLOCK_THREAD (thread);
1809                 
1810                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started."));
1811                 return FALSE;
1812         }
1813
1814         UNLOCK_THREAD (thread);
1815
1816         if(ms== -1) {
1817                 ms=MONO_INFINITE_WAIT;
1818         }
1819         THREAD_DEBUG (g_message ("%s: joining thread handle %p, %d ms", __func__, handle, ms));
1820         
1821         mono_thread_set_state (cur_thread, ThreadState_WaitSleepJoin);
1822
1823         ret=mono_join_uninterrupted (handle, ms, &error);
1824
1825         mono_thread_clr_state (cur_thread, ThreadState_WaitSleepJoin);
1826
1827         mono_error_set_pending_exception (&error);
1828
1829         if(ret==MONO_THREAD_INFO_WAIT_RET_SUCCESS_0) {
1830                 THREAD_DEBUG (g_message ("%s: join successful", __func__));
1831
1832                 return(TRUE);
1833         }
1834         
1835         THREAD_DEBUG (g_message ("%s: join failed", __func__));
1836
1837         return(FALSE);
1838 }
1839
1840 #define MANAGED_WAIT_FAILED 0x7fffffff
1841
1842 static gint32
1843 map_native_wait_result_to_managed (MonoW32HandleWaitRet val, gsize numobjects)
1844 {
1845         if (val >= MONO_W32HANDLE_WAIT_RET_SUCCESS_0 && val < MONO_W32HANDLE_WAIT_RET_SUCCESS_0 + numobjects) {
1846                 return WAIT_OBJECT_0 + (val - MONO_W32HANDLE_WAIT_RET_SUCCESS_0);
1847         } else if (val >= MONO_W32HANDLE_WAIT_RET_ABANDONED_0 && val < MONO_W32HANDLE_WAIT_RET_ABANDONED_0 + numobjects) {
1848                 return WAIT_ABANDONED_0 + (val - MONO_W32HANDLE_WAIT_RET_ABANDONED_0);
1849         } else if (val == MONO_W32HANDLE_WAIT_RET_ALERTED) {
1850                 return WAIT_IO_COMPLETION;
1851         } else if (val == MONO_W32HANDLE_WAIT_RET_TIMEOUT) {
1852                 return WAIT_TIMEOUT;
1853         } else if (val == MONO_W32HANDLE_WAIT_RET_FAILED) {
1854                 /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1855                 return MANAGED_WAIT_FAILED;
1856         } else {
1857                 g_error ("%s: unknown val value %d", __func__, val);
1858         }
1859 }
1860
1861 gint32
1862 ves_icall_System_Threading_WaitHandle_Wait_internal (gpointer *handles, gint32 numhandles, MonoBoolean waitall, gint32 timeout, MonoError *error)
1863 {
1864         MonoW32HandleWaitRet ret;
1865         MonoInternalThread *thread;
1866         MonoException *exc;
1867         gint64 start;
1868         guint32 timeoutLeft;
1869
1870         /* Do this WaitSleepJoin check before creating objects */
1871         if (mono_thread_current_check_pending_interrupt ())
1872                 return map_native_wait_result_to_managed (MONO_W32HANDLE_WAIT_RET_FAILED, 0);
1873
1874         thread = mono_thread_internal_current ();
1875
1876         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1877
1878         if (timeout == -1)
1879                 timeout = MONO_INFINITE_WAIT;
1880         if (timeout != MONO_INFINITE_WAIT)
1881                 start = mono_msec_ticks ();
1882
1883         timeoutLeft = timeout;
1884
1885         for (;;) {
1886                 MONO_ENTER_GC_SAFE;
1887 #ifdef HOST_WIN32
1888                 if (numhandles != 1)
1889                         ret = mono_w32handle_convert_wait_ret (WaitForMultipleObjectsEx (numhandles, handles, waitall, timeoutLeft, TRUE), numhandles);
1890                 else
1891                         ret = mono_w32handle_convert_wait_ret (WaitForSingleObjectEx (handles [0], timeoutLeft, TRUE), 1);
1892 #else
1893                 /* mono_w32handle_wait_multiple optimizes the case for numhandles == 1 */
1894                 ret = mono_w32handle_wait_multiple (handles, numhandles, waitall, timeoutLeft, TRUE);
1895 #endif /* HOST_WIN32 */
1896                 MONO_EXIT_GC_SAFE;
1897
1898                 if (ret != MONO_W32HANDLE_WAIT_RET_ALERTED)
1899                         break;
1900
1901                 exc = mono_thread_execute_interruption ();
1902                 if (exc) {
1903                         mono_error_set_exception_instance (error, exc);
1904                         break;
1905                 }
1906
1907                 if (timeout != MONO_INFINITE_WAIT) {
1908                         gint64 elapsed;
1909
1910                         elapsed = mono_msec_ticks () - start;
1911                         if (elapsed >= timeout) {
1912                                 ret = MONO_W32HANDLE_WAIT_RET_TIMEOUT;
1913                                 break;
1914                         }
1915
1916                         timeoutLeft = timeout - elapsed;
1917                 }
1918         }
1919
1920         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1921
1922         return map_native_wait_result_to_managed (ret, numhandles);
1923 }
1924
1925 gint32
1926 ves_icall_System_Threading_WaitHandle_SignalAndWait_Internal (gpointer toSignal, gpointer toWait, gint32 ms, MonoError *error)
1927 {
1928         MonoW32HandleWaitRet ret;
1929         MonoInternalThread *thread = mono_thread_internal_current ();
1930
1931         if (ms == -1)
1932                 ms = MONO_INFINITE_WAIT;
1933
1934         if (mono_thread_current_check_pending_interrupt ())
1935                 return map_native_wait_result_to_managed (MONO_W32HANDLE_WAIT_RET_FAILED, 0);
1936
1937         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1938         
1939         MONO_ENTER_GC_SAFE;
1940 #ifdef HOST_WIN32
1941         ret = mono_w32handle_convert_wait_ret (SignalObjectAndWait (toSignal, toWait, ms, TRUE), 1);
1942 #else
1943         ret = mono_w32handle_signal_and_wait (toSignal, toWait, ms, TRUE);
1944 #endif
1945         MONO_EXIT_GC_SAFE;
1946         
1947         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1948
1949         return map_native_wait_result_to_managed (ret, 1);
1950 }
1951
1952 gint32 ves_icall_System_Threading_Interlocked_Increment_Int (gint32 *location)
1953 {
1954         return InterlockedIncrement (location);
1955 }
1956
1957 gint64 ves_icall_System_Threading_Interlocked_Increment_Long (gint64 *location)
1958 {
1959 #if SIZEOF_VOID_P == 4
1960         if (G_UNLIKELY ((size_t)location & 0x7)) {
1961                 gint64 ret;
1962                 mono_interlocked_lock ();
1963                 (*location)++;
1964                 ret = *location;
1965                 mono_interlocked_unlock ();
1966                 return ret;
1967         }
1968 #endif
1969         return InterlockedIncrement64 (location);
1970 }
1971
1972 gint32 ves_icall_System_Threading_Interlocked_Decrement_Int (gint32 *location)
1973 {
1974         return InterlockedDecrement(location);
1975 }
1976
1977 gint64 ves_icall_System_Threading_Interlocked_Decrement_Long (gint64 * location)
1978 {
1979 #if SIZEOF_VOID_P == 4
1980         if (G_UNLIKELY ((size_t)location & 0x7)) {
1981                 gint64 ret;
1982                 mono_interlocked_lock ();
1983                 (*location)--;
1984                 ret = *location;
1985                 mono_interlocked_unlock ();
1986                 return ret;
1987         }
1988 #endif
1989         return InterlockedDecrement64 (location);
1990 }
1991
1992 gint32 ves_icall_System_Threading_Interlocked_Exchange_Int (gint32 *location, gint32 value)
1993 {
1994         return InterlockedExchange(location, value);
1995 }
1996
1997 MonoObject * ves_icall_System_Threading_Interlocked_Exchange_Object (MonoObject **location, MonoObject *value)
1998 {
1999         MonoObject *res;
2000         res = (MonoObject *) InterlockedExchangePointer((gpointer *) location, value);
2001         mono_gc_wbarrier_generic_nostore (location);
2002         return res;
2003 }
2004
2005 gpointer ves_icall_System_Threading_Interlocked_Exchange_IntPtr (gpointer *location, gpointer value)
2006 {
2007         return InterlockedExchangePointer(location, value);
2008 }
2009
2010 gfloat ves_icall_System_Threading_Interlocked_Exchange_Single (gfloat *location, gfloat value)
2011 {
2012         IntFloatUnion val, ret;
2013
2014         val.fval = value;
2015         ret.ival = InterlockedExchange((gint32 *) location, val.ival);
2016
2017         return ret.fval;
2018 }
2019
2020 gint64 
2021 ves_icall_System_Threading_Interlocked_Exchange_Long (gint64 *location, gint64 value)
2022 {
2023 #if SIZEOF_VOID_P == 4
2024         if (G_UNLIKELY ((size_t)location & 0x7)) {
2025                 gint64 ret;
2026                 mono_interlocked_lock ();
2027                 ret = *location;
2028                 *location = value;
2029                 mono_interlocked_unlock ();
2030                 return ret;
2031         }
2032 #endif
2033         return InterlockedExchange64 (location, value);
2034 }
2035
2036 gdouble 
2037 ves_icall_System_Threading_Interlocked_Exchange_Double (gdouble *location, gdouble value)
2038 {
2039         LongDoubleUnion val, ret;
2040
2041         val.fval = value;
2042         ret.ival = (gint64)InterlockedExchange64((gint64 *) location, val.ival);
2043
2044         return ret.fval;
2045 }
2046
2047 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int(gint32 *location, gint32 value, gint32 comparand)
2048 {
2049         return InterlockedCompareExchange(location, value, comparand);
2050 }
2051
2052 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int_Success(gint32 *location, gint32 value, gint32 comparand, MonoBoolean *success)
2053 {
2054         gint32 r = InterlockedCompareExchange(location, value, comparand);
2055         *success = r == comparand;
2056         return r;
2057 }
2058
2059 MonoObject * ves_icall_System_Threading_Interlocked_CompareExchange_Object (MonoObject **location, MonoObject *value, MonoObject *comparand)
2060 {
2061         MonoObject *res;
2062         res = (MonoObject *) InterlockedCompareExchangePointer((gpointer *) location, value, comparand);
2063         mono_gc_wbarrier_generic_nostore (location);
2064         return res;
2065 }
2066
2067 gpointer ves_icall_System_Threading_Interlocked_CompareExchange_IntPtr(gpointer *location, gpointer value, gpointer comparand)
2068 {
2069         return InterlockedCompareExchangePointer(location, value, comparand);
2070 }
2071
2072 gfloat ves_icall_System_Threading_Interlocked_CompareExchange_Single (gfloat *location, gfloat value, gfloat comparand)
2073 {
2074         IntFloatUnion val, ret, cmp;
2075
2076         val.fval = value;
2077         cmp.fval = comparand;
2078         ret.ival = InterlockedCompareExchange((gint32 *) location, val.ival, cmp.ival);
2079
2080         return ret.fval;
2081 }
2082
2083 gdouble
2084 ves_icall_System_Threading_Interlocked_CompareExchange_Double (gdouble *location, gdouble value, gdouble comparand)
2085 {
2086 #if SIZEOF_VOID_P == 8
2087         LongDoubleUnion val, comp, ret;
2088
2089         val.fval = value;
2090         comp.fval = comparand;
2091         ret.ival = (gint64)InterlockedCompareExchangePointer((gpointer *) location, (gpointer)val.ival, (gpointer)comp.ival);
2092
2093         return ret.fval;
2094 #else
2095         gdouble old;
2096
2097         mono_interlocked_lock ();
2098         old = *location;
2099         if (old == comparand)
2100                 *location = value;
2101         mono_interlocked_unlock ();
2102
2103         return old;
2104 #endif
2105 }
2106
2107 gint64 
2108 ves_icall_System_Threading_Interlocked_CompareExchange_Long (gint64 *location, gint64 value, gint64 comparand)
2109 {
2110 #if SIZEOF_VOID_P == 4
2111         if (G_UNLIKELY ((size_t)location & 0x7)) {
2112                 gint64 old;
2113                 mono_interlocked_lock ();
2114                 old = *location;
2115                 if (old == comparand)
2116                         *location = value;
2117                 mono_interlocked_unlock ();
2118                 return old;
2119         }
2120 #endif
2121         return InterlockedCompareExchange64 (location, value, comparand);
2122 }
2123
2124 MonoObject*
2125 ves_icall_System_Threading_Interlocked_CompareExchange_T (MonoObject **location, MonoObject *value, MonoObject *comparand)
2126 {
2127         MonoObject *res;
2128         res = (MonoObject *)InterlockedCompareExchangePointer ((volatile gpointer *)location, value, comparand);
2129         mono_gc_wbarrier_generic_nostore (location);
2130         return res;
2131 }
2132
2133 MonoObject*
2134 ves_icall_System_Threading_Interlocked_Exchange_T (MonoObject **location, MonoObject *value)
2135 {
2136         MonoObject *res;
2137         MONO_CHECK_NULL (location, NULL);
2138         res = (MonoObject *)InterlockedExchangePointer ((volatile gpointer *)location, value);
2139         mono_gc_wbarrier_generic_nostore (location);
2140         return res;
2141 }
2142
2143 gint32 
2144 ves_icall_System_Threading_Interlocked_Add_Int (gint32 *location, gint32 value)
2145 {
2146         return InterlockedAdd (location, value);
2147 }
2148
2149 gint64 
2150 ves_icall_System_Threading_Interlocked_Add_Long (gint64 *location, gint64 value)
2151 {
2152 #if SIZEOF_VOID_P == 4
2153         if (G_UNLIKELY ((size_t)location & 0x7)) {
2154                 gint64 ret;
2155                 mono_interlocked_lock ();
2156                 *location += value;
2157                 ret = *location;
2158                 mono_interlocked_unlock ();
2159                 return ret;
2160         }
2161 #endif
2162         return InterlockedAdd64 (location, value);
2163 }
2164
2165 gint64 
2166 ves_icall_System_Threading_Interlocked_Read_Long (gint64 *location)
2167 {
2168 #if SIZEOF_VOID_P == 4
2169         if (G_UNLIKELY ((size_t)location & 0x7)) {
2170                 gint64 ret;
2171                 mono_interlocked_lock ();
2172                 ret = *location;
2173                 mono_interlocked_unlock ();
2174                 return ret;
2175         }
2176 #endif
2177         return InterlockedRead64 (location);
2178 }
2179
2180 void
2181 ves_icall_System_Threading_Thread_MemoryBarrier (void)
2182 {
2183         mono_memory_barrier ();
2184 }
2185
2186 void
2187 ves_icall_System_Threading_Thread_ClrState (MonoInternalThread* this_obj, guint32 state)
2188 {
2189         mono_thread_clr_state (this_obj, (MonoThreadState)state);
2190
2191         if (state & ThreadState_Background) {
2192                 /* If the thread changes the background mode, the main thread has to
2193                  * be notified, since it has to rebuild the list of threads to
2194                  * wait for.
2195                  */
2196                 mono_os_event_set (&background_change_event);
2197         }
2198 }
2199
2200 void
2201 ves_icall_System_Threading_Thread_SetState (MonoInternalThread* this_obj, guint32 state)
2202 {
2203         mono_thread_set_state (this_obj, (MonoThreadState)state);
2204         
2205         if (state & ThreadState_Background) {
2206                 /* If the thread changes the background mode, the main thread has to
2207                  * be notified, since it has to rebuild the list of threads to
2208                  * wait for.
2209                  */
2210                 mono_os_event_set (&background_change_event);
2211         }
2212 }
2213
2214 guint32
2215 ves_icall_System_Threading_Thread_GetState (MonoInternalThread* this_obj)
2216 {
2217         guint32 state;
2218
2219         LOCK_THREAD (this_obj);
2220         
2221         state = this_obj->state;
2222
2223         UNLOCK_THREAD (this_obj);
2224         
2225         return state;
2226 }
2227
2228 void ves_icall_System_Threading_Thread_Interrupt_internal (MonoThread *this_obj)
2229 {
2230         MonoInternalThread *current;
2231         gboolean throw_;
2232         MonoInternalThread *thread = this_obj->internal_thread;
2233
2234         LOCK_THREAD (thread);
2235
2236         current = mono_thread_internal_current ();
2237
2238         thread->thread_interrupt_requested = TRUE;
2239         throw_ = current != thread && (thread->state & ThreadState_WaitSleepJoin);
2240
2241         UNLOCK_THREAD (thread);
2242
2243         if (throw_) {
2244                 async_abort_internal (thread, FALSE);
2245         }
2246 }
2247
2248 /**
2249  * mono_thread_current_check_pending_interrupt:
2250  * Checks if there's a interruption request and set the pending exception if so.
2251  * \returns true if a pending exception was set
2252  */
2253 gboolean
2254 mono_thread_current_check_pending_interrupt (void)
2255 {
2256         MonoInternalThread *thread = mono_thread_internal_current ();
2257         gboolean throw_ = FALSE;
2258
2259         LOCK_THREAD (thread);
2260         
2261         if (thread->thread_interrupt_requested) {
2262                 throw_ = TRUE;
2263                 thread->thread_interrupt_requested = FALSE;
2264         }
2265         
2266         UNLOCK_THREAD (thread);
2267
2268         if (throw_)
2269                 mono_set_pending_exception (mono_get_exception_thread_interrupted ());
2270         return throw_;
2271 }
2272
2273 static gboolean
2274 request_thread_abort (MonoInternalThread *thread, MonoObject *state)
2275 {
2276         LOCK_THREAD (thread);
2277         
2278         if (thread->state & (ThreadState_AbortRequested | ThreadState_Stopped))
2279         {
2280                 UNLOCK_THREAD (thread);
2281                 return FALSE;
2282         }
2283
2284         if ((thread->state & ThreadState_Unstarted) != 0) {
2285                 thread->state |= ThreadState_Aborted;
2286                 UNLOCK_THREAD (thread);
2287                 return FALSE;
2288         }
2289
2290         thread->state |= ThreadState_AbortRequested;
2291         if (thread->abort_state_handle)
2292                 mono_gchandle_free (thread->abort_state_handle);
2293         if (state) {
2294                 thread->abort_state_handle = mono_gchandle_new (state, FALSE);
2295                 g_assert (thread->abort_state_handle);
2296         } else {
2297                 thread->abort_state_handle = 0;
2298         }
2299         thread->abort_exc = NULL;
2300
2301         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Abort requested for %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), thread, (gsize)thread->tid));
2302
2303         /* During shutdown, we can't wait for other threads */
2304         if (!shutting_down)
2305                 /* Make sure the thread is awake */
2306                 mono_thread_resume (thread);
2307
2308         UNLOCK_THREAD (thread);
2309         return TRUE;
2310 }
2311
2312 void
2313 ves_icall_System_Threading_Thread_Abort (MonoInternalThread *thread, MonoObject *state)
2314 {
2315         if (!request_thread_abort (thread, state))
2316                 return;
2317
2318         if (thread == mono_thread_internal_current ()) {
2319                 MonoError error;
2320                 self_abort_internal (&error);
2321                 mono_error_set_pending_exception (&error);
2322         } else {
2323                 async_abort_internal (thread, TRUE);
2324         }
2325 }
2326
2327 /**
2328  * mono_thread_internal_abort:
2329  * Request thread \p thread to be aborted.
2330  * \p thread MUST NOT be the current thread.
2331  */
2332 void
2333 mono_thread_internal_abort (MonoInternalThread *thread)
2334 {
2335         g_assert (thread != mono_thread_internal_current ());
2336
2337         if (!request_thread_abort (thread, NULL))
2338                 return;
2339         async_abort_internal (thread, TRUE);
2340 }
2341
2342 void
2343 ves_icall_System_Threading_Thread_ResetAbort (MonoThread *this_obj)
2344 {
2345         MonoInternalThread *thread = mono_thread_internal_current ();
2346         gboolean was_aborting;
2347
2348         LOCK_THREAD (thread);
2349         was_aborting = thread->state & ThreadState_AbortRequested;
2350         thread->state &= ~ThreadState_AbortRequested;
2351         UNLOCK_THREAD (thread);
2352
2353         if (!was_aborting) {
2354                 const char *msg = "Unable to reset abort because no abort was requested";
2355                 mono_set_pending_exception (mono_get_exception_thread_state (msg));
2356                 return;
2357         }
2358
2359         mono_get_eh_callbacks ()->mono_clear_abort_threshold ();
2360         thread->abort_exc = NULL;
2361         if (thread->abort_state_handle) {
2362                 mono_gchandle_free (thread->abort_state_handle);
2363                 /* This is actually not necessary - the handle
2364                    only counts if the exception is set */
2365                 thread->abort_state_handle = 0;
2366         }
2367 }
2368
2369 void
2370 mono_thread_internal_reset_abort (MonoInternalThread *thread)
2371 {
2372         LOCK_THREAD (thread);
2373
2374         thread->state &= ~ThreadState_AbortRequested;
2375
2376         if (thread->abort_exc) {
2377                 mono_get_eh_callbacks ()->mono_clear_abort_threshold ();
2378                 thread->abort_exc = NULL;
2379                 if (thread->abort_state_handle) {
2380                         mono_gchandle_free (thread->abort_state_handle);
2381                         /* This is actually not necessary - the handle
2382                            only counts if the exception is set */
2383                         thread->abort_state_handle = 0;
2384                 }
2385         }
2386
2387         UNLOCK_THREAD (thread);
2388 }
2389
2390 MonoObject*
2391 ves_icall_System_Threading_Thread_GetAbortExceptionState (MonoThread *this_obj)
2392 {
2393         MonoError error;
2394         MonoInternalThread *thread = this_obj->internal_thread;
2395         MonoObject *state, *deserialized = NULL;
2396         MonoDomain *domain;
2397
2398         if (!thread->abort_state_handle)
2399                 return NULL;
2400
2401         state = mono_gchandle_get_target (thread->abort_state_handle);
2402         g_assert (state);
2403
2404         domain = mono_domain_get ();
2405         if (mono_object_domain (state) == domain)
2406                 return state;
2407
2408         deserialized = mono_object_xdomain_representation (state, domain, &error);
2409
2410         if (!deserialized) {
2411                 MonoException *invalid_op_exc = mono_get_exception_invalid_operation ("Thread.ExceptionState cannot access an ExceptionState from a different AppDomain");
2412                 if (!is_ok (&error)) {
2413                         MonoObject *exc = (MonoObject*)mono_error_convert_to_exception (&error);
2414                         MONO_OBJECT_SETREF (invalid_op_exc, inner_ex, exc);
2415                 }
2416                 mono_set_pending_exception (invalid_op_exc);
2417                 return NULL;
2418         }
2419
2420         return deserialized;
2421 }
2422
2423 static gboolean
2424 mono_thread_suspend (MonoInternalThread *thread)
2425 {
2426         LOCK_THREAD (thread);
2427
2428         if (thread->state & (ThreadState_Unstarted | ThreadState_Aborted | ThreadState_Stopped))
2429         {
2430                 UNLOCK_THREAD (thread);
2431                 return FALSE;
2432         }
2433
2434         if (thread->state & (ThreadState_Suspended | ThreadState_SuspendRequested | ThreadState_AbortRequested))
2435         {
2436                 UNLOCK_THREAD (thread);
2437                 return TRUE;
2438         }
2439         
2440         thread->state |= ThreadState_SuspendRequested;
2441         mono_os_event_reset (thread->suspended);
2442
2443         if (thread == mono_thread_internal_current ()) {
2444                 /* calls UNLOCK_THREAD (thread) */
2445                 self_suspend_internal ();
2446         } else {
2447                 /* calls UNLOCK_THREAD (thread) */
2448                 async_suspend_internal (thread, FALSE);
2449         }
2450
2451         return TRUE;
2452 }
2453
2454 void
2455 ves_icall_System_Threading_Thread_Suspend (MonoThread *this_obj)
2456 {
2457         if (!mono_thread_suspend (this_obj->internal_thread)) {
2458                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2459                 return;
2460         }
2461 }
2462
2463 /* LOCKING: LOCK_THREAD(thread) must be held */
2464 static gboolean
2465 mono_thread_resume (MonoInternalThread *thread)
2466 {
2467         if ((thread->state & ThreadState_SuspendRequested) != 0) {
2468                 // MOSTLY_ASYNC_SAFE_PRINTF ("RESUME (1) thread %p\n", thread_get_tid (thread));
2469                 thread->state &= ~ThreadState_SuspendRequested;
2470                 mono_os_event_set (thread->suspended);
2471                 return TRUE;
2472         }
2473
2474         if ((thread->state & ThreadState_Suspended) == 0 ||
2475                 (thread->state & ThreadState_Unstarted) != 0 || 
2476                 (thread->state & ThreadState_Aborted) != 0 || 
2477                 (thread->state & ThreadState_Stopped) != 0)
2478         {
2479                 // MOSTLY_ASYNC_SAFE_PRINTF ("RESUME (2) thread %p\n", thread_get_tid (thread));
2480                 return FALSE;
2481         }
2482
2483         // MOSTLY_ASYNC_SAFE_PRINTF ("RESUME (3) thread %p\n", thread_get_tid (thread));
2484
2485         mono_os_event_set (thread->suspended);
2486
2487         if (!thread->self_suspended) {
2488                 UNLOCK_THREAD (thread);
2489
2490                 /* Awake the thread */
2491                 if (!mono_thread_info_resume (thread_get_tid (thread)))
2492                         return FALSE;
2493
2494                 LOCK_THREAD (thread);
2495         }
2496
2497         thread->state &= ~ThreadState_Suspended;
2498
2499         return TRUE;
2500 }
2501
2502 void
2503 ves_icall_System_Threading_Thread_Resume (MonoThread *thread)
2504 {
2505         if (!thread->internal_thread) {
2506                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2507         } else {
2508                 LOCK_THREAD (thread->internal_thread);
2509                 if (!mono_thread_resume (thread->internal_thread))
2510                         mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2511                 UNLOCK_THREAD (thread->internal_thread);
2512         }
2513 }
2514
2515 static gboolean
2516 mono_threads_is_critical_method (MonoMethod *method)
2517 {
2518         switch (method->wrapper_type) {
2519         case MONO_WRAPPER_RUNTIME_INVOKE:
2520         case MONO_WRAPPER_XDOMAIN_INVOKE:
2521         case MONO_WRAPPER_XDOMAIN_DISPATCH:     
2522                 return TRUE;
2523         }
2524         return FALSE;
2525 }
2526
2527 static gboolean
2528 find_wrapper (MonoMethod *m, gint no, gint ilo, gboolean managed, gpointer data)
2529 {
2530         if (managed)
2531                 return TRUE;
2532
2533         if (mono_threads_is_critical_method (m)) {
2534                 *((gboolean*)data) = TRUE;
2535                 return TRUE;
2536         }
2537         return FALSE;
2538 }
2539
2540 static gboolean 
2541 is_running_protected_wrapper (void)
2542 {
2543         gboolean found = FALSE;
2544         mono_stack_walk (find_wrapper, &found);
2545         return found;
2546 }
2547
2548 /**
2549  * mono_thread_stop:
2550  */
2551 void
2552 mono_thread_stop (MonoThread *thread)
2553 {
2554         MonoInternalThread *internal = thread->internal_thread;
2555
2556         if (!request_thread_abort (internal, NULL))
2557                 return;
2558
2559         if (internal == mono_thread_internal_current ()) {
2560                 MonoError error;
2561                 self_abort_internal (&error);
2562                 /*
2563                 This function is part of the embeding API and has no way to return the exception
2564                 to be thrown. So what we do is keep the old behavior and raise the exception.
2565                 */
2566                 mono_error_raise_exception (&error); /* OK to throw, see note */
2567         } else {
2568                 async_abort_internal (internal, TRUE);
2569         }
2570 }
2571
2572 gint8
2573 ves_icall_System_Threading_Thread_VolatileRead1 (void *ptr)
2574 {
2575         gint8 tmp = *(volatile gint8 *)ptr;
2576         mono_memory_barrier ();
2577         return tmp;
2578 }
2579
2580 gint16
2581 ves_icall_System_Threading_Thread_VolatileRead2 (void *ptr)
2582 {
2583         gint16 tmp = *(volatile gint16 *)ptr;
2584         mono_memory_barrier ();
2585         return tmp;
2586 }
2587
2588 gint32
2589 ves_icall_System_Threading_Thread_VolatileRead4 (void *ptr)
2590 {
2591         gint32 tmp = *(volatile gint32 *)ptr;
2592         mono_memory_barrier ();
2593         return tmp;
2594 }
2595
2596 gint64
2597 ves_icall_System_Threading_Thread_VolatileRead8 (void *ptr)
2598 {
2599         gint64 tmp = *(volatile gint64 *)ptr;
2600         mono_memory_barrier ();
2601         return tmp;
2602 }
2603
2604 void *
2605 ves_icall_System_Threading_Thread_VolatileReadIntPtr (void *ptr)
2606 {
2607         volatile void *tmp = *(volatile void **)ptr;
2608         mono_memory_barrier ();
2609         return (void *) tmp;
2610 }
2611
2612 void *
2613 ves_icall_System_Threading_Thread_VolatileReadObject (void *ptr)
2614 {
2615         volatile MonoObject *tmp = *(volatile MonoObject **)ptr;
2616         mono_memory_barrier ();
2617         return (MonoObject *) tmp;
2618 }
2619
2620 double
2621 ves_icall_System_Threading_Thread_VolatileReadDouble (void *ptr)
2622 {
2623         double tmp = *(volatile double *)ptr;
2624         mono_memory_barrier ();
2625         return tmp;
2626 }
2627
2628 float
2629 ves_icall_System_Threading_Thread_VolatileReadFloat (void *ptr)
2630 {
2631         float tmp = *(volatile float *)ptr;
2632         mono_memory_barrier ();
2633         return tmp;
2634 }
2635
2636 gint8
2637 ves_icall_System_Threading_Volatile_Read1 (void *ptr)
2638 {
2639         return InterlockedRead8 ((volatile gint8 *)ptr);
2640 }
2641
2642 gint16
2643 ves_icall_System_Threading_Volatile_Read2 (void *ptr)
2644 {
2645         return InterlockedRead16 ((volatile gint16 *)ptr);
2646 }
2647
2648 gint32
2649 ves_icall_System_Threading_Volatile_Read4 (void *ptr)
2650 {
2651         return InterlockedRead ((volatile gint32 *)ptr);
2652 }
2653
2654 gint64
2655 ves_icall_System_Threading_Volatile_Read8 (void *ptr)
2656 {
2657 #if SIZEOF_VOID_P == 4
2658         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2659                 gint64 val;
2660                 mono_interlocked_lock ();
2661                 val = *(gint64*)ptr;
2662                 mono_interlocked_unlock ();
2663                 return val;
2664         }
2665 #endif
2666         return InterlockedRead64 ((volatile gint64 *)ptr);
2667 }
2668
2669 void *
2670 ves_icall_System_Threading_Volatile_ReadIntPtr (void *ptr)
2671 {
2672         return InterlockedReadPointer ((volatile gpointer *)ptr);
2673 }
2674
2675 double
2676 ves_icall_System_Threading_Volatile_ReadDouble (void *ptr)
2677 {
2678         LongDoubleUnion u;
2679
2680 #if SIZEOF_VOID_P == 4
2681         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2682                 double val;
2683                 mono_interlocked_lock ();
2684                 val = *(double*)ptr;
2685                 mono_interlocked_unlock ();
2686                 return val;
2687         }
2688 #endif
2689
2690         u.ival = InterlockedRead64 ((volatile gint64 *)ptr);
2691
2692         return u.fval;
2693 }
2694
2695 float
2696 ves_icall_System_Threading_Volatile_ReadFloat (void *ptr)
2697 {
2698         IntFloatUnion u;
2699
2700         u.ival = InterlockedRead ((volatile gint32 *)ptr);
2701
2702         return u.fval;
2703 }
2704
2705 MonoObject*
2706 ves_icall_System_Threading_Volatile_Read_T (void *ptr)
2707 {
2708         return (MonoObject *)InterlockedReadPointer ((volatile gpointer *)ptr);
2709 }
2710
2711 void
2712 ves_icall_System_Threading_Thread_VolatileWrite1 (void *ptr, gint8 value)
2713 {
2714         mono_memory_barrier ();
2715         *(volatile gint8 *)ptr = value;
2716 }
2717
2718 void
2719 ves_icall_System_Threading_Thread_VolatileWrite2 (void *ptr, gint16 value)
2720 {
2721         mono_memory_barrier ();
2722         *(volatile gint16 *)ptr = value;
2723 }
2724
2725 void
2726 ves_icall_System_Threading_Thread_VolatileWrite4 (void *ptr, gint32 value)
2727 {
2728         mono_memory_barrier ();
2729         *(volatile gint32 *)ptr = value;
2730 }
2731
2732 void
2733 ves_icall_System_Threading_Thread_VolatileWrite8 (void *ptr, gint64 value)
2734 {
2735         mono_memory_barrier ();
2736         *(volatile gint64 *)ptr = value;
2737 }
2738
2739 void
2740 ves_icall_System_Threading_Thread_VolatileWriteIntPtr (void *ptr, void *value)
2741 {
2742         mono_memory_barrier ();
2743         *(volatile void **)ptr = value;
2744 }
2745
2746 void
2747 ves_icall_System_Threading_Thread_VolatileWriteObject (void *ptr, MonoObject *value)
2748 {
2749         mono_memory_barrier ();
2750         mono_gc_wbarrier_generic_store (ptr, value);
2751 }
2752
2753 void
2754 ves_icall_System_Threading_Thread_VolatileWriteDouble (void *ptr, double value)
2755 {
2756         mono_memory_barrier ();
2757         *(volatile double *)ptr = value;
2758 }
2759
2760 void
2761 ves_icall_System_Threading_Thread_VolatileWriteFloat (void *ptr, float value)
2762 {
2763         mono_memory_barrier ();
2764         *(volatile float *)ptr = value;
2765 }
2766
2767 void
2768 ves_icall_System_Threading_Volatile_Write1 (void *ptr, gint8 value)
2769 {
2770         InterlockedWrite8 ((volatile gint8 *)ptr, value);
2771 }
2772
2773 void
2774 ves_icall_System_Threading_Volatile_Write2 (void *ptr, gint16 value)
2775 {
2776         InterlockedWrite16 ((volatile gint16 *)ptr, value);
2777 }
2778
2779 void
2780 ves_icall_System_Threading_Volatile_Write4 (void *ptr, gint32 value)
2781 {
2782         InterlockedWrite ((volatile gint32 *)ptr, value);
2783 }
2784
2785 void
2786 ves_icall_System_Threading_Volatile_Write8 (void *ptr, gint64 value)
2787 {
2788 #if SIZEOF_VOID_P == 4
2789         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2790                 mono_interlocked_lock ();
2791                 *(gint64*)ptr = value;
2792                 mono_interlocked_unlock ();
2793                 return;
2794         }
2795 #endif
2796
2797         InterlockedWrite64 ((volatile gint64 *)ptr, value);
2798 }
2799
2800 void
2801 ves_icall_System_Threading_Volatile_WriteIntPtr (void *ptr, void *value)
2802 {
2803         InterlockedWritePointer ((volatile gpointer *)ptr, value);
2804 }
2805
2806 void
2807 ves_icall_System_Threading_Volatile_WriteDouble (void *ptr, double value)
2808 {
2809         LongDoubleUnion u;
2810
2811 #if SIZEOF_VOID_P == 4
2812         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2813                 mono_interlocked_lock ();
2814                 *(double*)ptr = value;
2815                 mono_interlocked_unlock ();
2816                 return;
2817         }
2818 #endif
2819
2820         u.fval = value;
2821
2822         InterlockedWrite64 ((volatile gint64 *)ptr, u.ival);
2823 }
2824
2825 void
2826 ves_icall_System_Threading_Volatile_WriteFloat (void *ptr, float value)
2827 {
2828         IntFloatUnion u;
2829
2830         u.fval = value;
2831
2832         InterlockedWrite ((volatile gint32 *)ptr, u.ival);
2833 }
2834
2835 void
2836 ves_icall_System_Threading_Volatile_Write_T (void *ptr, MonoObject *value)
2837 {
2838         mono_gc_wbarrier_generic_store_atomic (ptr, value);
2839 }
2840
2841 static void
2842 free_context (void *user_data)
2843 {
2844         ContextStaticData *data = user_data;
2845
2846         mono_threads_lock ();
2847
2848         /*
2849          * There is no guarantee that, by the point this reference queue callback
2850          * has been invoked, the GC handle associated with the object will fail to
2851          * resolve as one might expect. So if we don't free and remove the GC
2852          * handle here, free_context_static_data_helper () could end up resolving
2853          * a GC handle to an actually-dead context which would contain a pointer
2854          * to an already-freed static data segment, resulting in a crash when
2855          * accessing it.
2856          */
2857         g_hash_table_remove (contexts, GUINT_TO_POINTER (data->gc_handle));
2858
2859         mono_threads_unlock ();
2860
2861         mono_gchandle_free (data->gc_handle);
2862         mono_free_static_data (data->static_data);
2863         g_free (data);
2864 }
2865
2866 void
2867 mono_threads_register_app_context (MonoAppContext *ctx, MonoError *error)
2868 {
2869         error_init (error);
2870         mono_threads_lock ();
2871
2872         //g_print ("Registering context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2873
2874         if (!contexts)
2875                 contexts = g_hash_table_new (NULL, NULL);
2876
2877         if (!context_queue)
2878                 context_queue = mono_gc_reference_queue_new (free_context);
2879
2880         gpointer gch = GUINT_TO_POINTER (mono_gchandle_new_weakref (&ctx->obj, FALSE));
2881         g_hash_table_insert (contexts, gch, gch);
2882
2883         /*
2884          * We use this intermediate structure to contain a duplicate pointer to
2885          * the static data because we can't rely on being able to resolve the GC
2886          * handle in the reference queue callback.
2887          */
2888         ContextStaticData *data = g_new0 (ContextStaticData, 1);
2889         data->gc_handle = GPOINTER_TO_UINT (gch);
2890         ctx->data = data;
2891
2892         context_adjust_static_data (ctx);
2893         mono_gc_reference_queue_add (context_queue, &ctx->obj, data);
2894
2895         mono_threads_unlock ();
2896
2897         mono_profiler_context_loaded (ctx);
2898 }
2899
2900 void
2901 ves_icall_System_Runtime_Remoting_Contexts_Context_RegisterContext (MonoAppContextHandle ctx, MonoError *error)
2902 {
2903         error_init (error);
2904         mono_threads_register_app_context (MONO_HANDLE_RAW (ctx), error); /* FIXME use handles in mono_threads_register_app_context */
2905 }
2906
2907 void
2908 mono_threads_release_app_context (MonoAppContext* ctx, MonoError *error)
2909 {
2910         /*
2911          * NOTE: Since finalizers are unreliable for the purposes of ensuring
2912          * cleanup in exceptional circumstances, we don't actually do any
2913          * cleanup work here. We instead do this via a reference queue.
2914          */
2915
2916         //g_print ("Releasing context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2917
2918         mono_profiler_context_unloaded (ctx);
2919 }
2920
2921 void
2922 ves_icall_System_Runtime_Remoting_Contexts_Context_ReleaseContext (MonoAppContextHandle ctx, MonoError *error)
2923 {
2924         error_init (error);
2925         mono_threads_release_app_context (MONO_HANDLE_RAW (ctx), error); /* FIXME use handles in mono_threads_release_app_context */
2926 }
2927
2928 void mono_thread_init (MonoThreadStartCB start_cb,
2929                        MonoThreadAttachCB attach_cb)
2930 {
2931         mono_coop_mutex_init_recursive (&threads_mutex);
2932
2933         mono_os_mutex_init_recursive(&interlocked_mutex);
2934         mono_os_mutex_init_recursive(&joinable_threads_mutex);
2935         
2936         mono_os_event_init (&background_change_event, FALSE);
2937         
2938         mono_init_static_data_info (&thread_static_info);
2939         mono_init_static_data_info (&context_static_info);
2940
2941         mono_thread_start_cb = start_cb;
2942         mono_thread_attach_cb = attach_cb;
2943 }
2944
2945 /**
2946  * mono_thread_cleanup:
2947  */
2948 void
2949 mono_thread_cleanup (void)
2950 {
2951 #if !defined(RUN_IN_SUBTHREAD) && !defined(HOST_WIN32)
2952         /* The main thread must abandon any held mutexes (particularly
2953          * important for named mutexes as they are shared across
2954          * processes, see bug 74680.)  This will happen when the
2955          * thread exits, but if it's not running in a subthread it
2956          * won't exit in time.
2957          */
2958         mono_w32mutex_abandon ();
2959 #endif
2960
2961 #if 0
2962         /* This stuff needs more testing, it seems one of these
2963          * critical sections can be locked when mono_thread_cleanup is
2964          * called.
2965          */
2966         mono_coop_mutex_destroy (&threads_mutex);
2967         mono_os_mutex_destroy (&interlocked_mutex);
2968         mono_os_mutex_destroy (&delayed_free_table_mutex);
2969         mono_os_mutex_destroy (&small_id_mutex);
2970         mono_os_event_destroy (&background_change_event);
2971 #endif
2972 }
2973
2974 void
2975 mono_threads_install_cleanup (MonoThreadCleanupFunc func)
2976 {
2977         mono_thread_cleanup_fn = func;
2978 }
2979
2980 /**
2981  * mono_thread_set_manage_callback:
2982  */
2983 void
2984 mono_thread_set_manage_callback (MonoThread *thread, MonoThreadManageCallback func)
2985 {
2986         thread->internal_thread->manage_callback = func;
2987 }
2988
2989 G_GNUC_UNUSED
2990 static void print_tids (gpointer key, gpointer value, gpointer user)
2991 {
2992         /* GPOINTER_TO_UINT breaks horribly if sizeof(void *) >
2993          * sizeof(uint) and a cast to uint would overflow
2994          */
2995         /* Older versions of glib don't have G_GSIZE_FORMAT, so just
2996          * print this as a pointer.
2997          */
2998         g_message ("Waiting for: %p", key);
2999 }
3000
3001 struct wait_data 
3002 {
3003         MonoThreadHandle *handles[MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS];
3004         MonoInternalThread *threads[MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS];
3005         guint32 num;
3006 };
3007
3008 static void
3009 wait_for_tids (struct wait_data *wait, guint32 timeout, gboolean check_state_change)
3010 {
3011         guint32 i;
3012         MonoThreadInfoWaitRet ret;
3013         
3014         THREAD_DEBUG (g_message("%s: %d threads to wait for in this batch", __func__, wait->num));
3015
3016         /* Add the thread state change event, so it wakes
3017          * up if a thread changes to background mode. */
3018
3019         MONO_ENTER_GC_SAFE;
3020         if (check_state_change)
3021                 ret = mono_thread_info_wait_multiple_handle (wait->handles, wait->num, &background_change_event, FALSE, timeout, TRUE);
3022         else
3023                 ret = mono_thread_info_wait_multiple_handle (wait->handles, wait->num, NULL, TRUE, timeout, TRUE);
3024         MONO_EXIT_GC_SAFE;
3025
3026         if (ret == MONO_THREAD_INFO_WAIT_RET_FAILED) {
3027                 /* See the comment in build_wait_tids() */
3028                 THREAD_DEBUG (g_message ("%s: Wait failed", __func__));
3029                 return;
3030         }
3031         
3032         for( i = 0; i < wait->num; i++)
3033                 mono_threads_close_thread_handle (wait->handles [i]);
3034
3035         if (ret == MONO_THREAD_INFO_WAIT_RET_TIMEOUT)
3036                 return;
3037         
3038         if (ret < wait->num) {
3039                 MonoInternalThread *internal;
3040
3041                 internal = wait->threads [ret];
3042
3043                 mono_threads_lock ();
3044                 if (mono_g_hash_table_lookup (threads, (gpointer) internal->tid) == internal)
3045                         g_error ("%s: failed to call mono_thread_detach_internal on thread %p, InternalThread: %p", __func__, internal->tid, internal);
3046                 mono_threads_unlock ();
3047         }
3048 }
3049
3050 static void build_wait_tids (gpointer key, gpointer value, gpointer user)
3051 {
3052         struct wait_data *wait=(struct wait_data *)user;
3053
3054         if(wait->num<MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS - 1) {
3055                 MonoInternalThread *thread=(MonoInternalThread *)value;
3056
3057                 /* Ignore background threads, we abort them later */
3058                 /* Do not lock here since it is not needed and the caller holds threads_lock */
3059                 if (thread->state & ThreadState_Background) {
3060                         THREAD_DEBUG (g_message ("%s: ignoring background thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3061                         return; /* just leave, ignore */
3062                 }
3063                 
3064                 if (mono_gc_is_finalizer_internal_thread (thread)) {
3065                         THREAD_DEBUG (g_message ("%s: ignoring finalizer thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3066                         return;
3067                 }
3068
3069                 if (thread == mono_thread_internal_current ()) {
3070                         THREAD_DEBUG (g_message ("%s: ignoring current thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3071                         return;
3072                 }
3073
3074                 if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread)) {
3075                         THREAD_DEBUG (g_message ("%s: ignoring main thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3076                         return;
3077                 }
3078
3079                 if (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE) {
3080                         THREAD_DEBUG (g_message ("%s: ignoring thread %" G_GSIZE_FORMAT "with DONT_MANAGE flag set.", __func__, (gsize)thread->tid));
3081                         return;
3082                 }
3083
3084                 THREAD_DEBUG (g_message ("%s: Invoking mono_thread_manage callback on thread %p", __func__, thread));
3085                 if ((thread->manage_callback == NULL) || (thread->manage_callback (thread->root_domain_thread) == TRUE)) {
3086                         wait->handles[wait->num]=mono_threads_open_thread_handle (thread->handle);
3087                         wait->threads[wait->num]=thread;
3088                         wait->num++;
3089
3090                         THREAD_DEBUG (g_message ("%s: adding thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3091                 } else {
3092                         THREAD_DEBUG (g_message ("%s: ignoring (because of callback) thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3093                 }
3094                 
3095                 
3096         } else {
3097                 /* Just ignore the rest, we can't do anything with
3098                  * them yet
3099                  */
3100         }
3101 }
3102
3103 static gboolean
3104 remove_and_abort_threads (gpointer key, gpointer value, gpointer user)
3105 {
3106         struct wait_data *wait=(struct wait_data *)user;
3107         MonoNativeThreadId self = mono_native_thread_id_get ();
3108         MonoInternalThread *thread = (MonoInternalThread *)value;
3109
3110         if (wait->num >= MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS)
3111                 return FALSE;
3112
3113         if (mono_native_thread_id_equals (thread_get_tid (thread), self))
3114                 return FALSE;
3115         if (mono_gc_is_finalizer_internal_thread (thread))
3116                 return FALSE;
3117
3118         if ((thread->state & ThreadState_Background) && !(thread->flags & MONO_THREAD_FLAG_DONT_MANAGE)) {
3119                 wait->handles[wait->num] = mono_threads_open_thread_handle (thread->handle);
3120                 wait->threads[wait->num] = thread;
3121                 wait->num++;
3122
3123                 THREAD_DEBUG (g_print ("%s: Aborting id: %"G_GSIZE_FORMAT"\n", __func__, (gsize)thread->tid));
3124                 mono_thread_internal_abort (thread);
3125         }
3126
3127         return TRUE;
3128 }
3129
3130 /** 
3131  * mono_threads_set_shutting_down:
3132  *
3133  * Is called by a thread that wants to shut down Mono. If the runtime is already
3134  * shutting down, the calling thread is suspended/stopped, and this function never
3135  * returns.
3136  */
3137 void
3138 mono_threads_set_shutting_down (void)
3139 {
3140         MonoInternalThread *current_thread = mono_thread_internal_current ();
3141
3142         mono_threads_lock ();
3143
3144         if (shutting_down) {
3145                 mono_threads_unlock ();
3146
3147                 /* Make sure we're properly suspended/stopped */
3148
3149                 LOCK_THREAD (current_thread);
3150
3151                 if (current_thread->state & (ThreadState_SuspendRequested | ThreadState_AbortRequested)) {
3152                         UNLOCK_THREAD (current_thread);
3153                         mono_thread_execute_interruption ();
3154                 } else {
3155                         UNLOCK_THREAD (current_thread);
3156                 }
3157
3158                 /*since we're killing the thread, detach it.*/
3159                 mono_thread_detach_internal (current_thread);
3160
3161                 /* Wake up other threads potentially waiting for us */
3162                 mono_thread_info_exit (0);
3163         } else {
3164                 shutting_down = TRUE;
3165
3166                 /* Not really a background state change, but this will
3167                  * interrupt the main thread if it is waiting for all
3168                  * the other threads.
3169                  */
3170                 mono_os_event_set (&background_change_event);
3171                 
3172                 mono_threads_unlock ();
3173         }
3174 }
3175
3176 /**
3177  * mono_thread_manage:
3178  */
3179 void
3180 mono_thread_manage (void)
3181 {
3182         struct wait_data wait_data;
3183         struct wait_data *wait = &wait_data;
3184
3185         memset (wait, 0, sizeof (struct wait_data));
3186         /* join each thread that's still running */
3187         THREAD_DEBUG (g_message ("%s: Joining each running thread...", __func__));
3188         
3189         mono_threads_lock ();
3190         if(threads==NULL) {
3191                 THREAD_DEBUG (g_message("%s: No threads", __func__));
3192                 mono_threads_unlock ();
3193                 return;
3194         }
3195         mono_threads_unlock ();
3196         
3197         do {
3198                 mono_threads_lock ();
3199                 if (shutting_down) {
3200                         /* somebody else is shutting down */
3201                         mono_threads_unlock ();
3202                         break;
3203                 }
3204                 THREAD_DEBUG (g_message ("%s: There are %d threads to join", __func__, mono_g_hash_table_size (threads));
3205                         mono_g_hash_table_foreach (threads, print_tids, NULL));
3206         
3207                 mono_os_event_reset (&background_change_event);
3208                 wait->num=0;
3209                 /* We must zero all InternalThread pointers to avoid making the GC unhappy. */
3210                 memset (wait->threads, 0, MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3211                 mono_g_hash_table_foreach (threads, build_wait_tids, wait);
3212                 mono_threads_unlock ();
3213                 if (wait->num > 0)
3214                         /* Something to wait for */
3215                         wait_for_tids (wait, MONO_INFINITE_WAIT, TRUE);
3216                 THREAD_DEBUG (g_message ("%s: I have %d threads after waiting.", __func__, wait->num));
3217         } while(wait->num>0);
3218
3219         /* Mono is shutting down, so just wait for the end */
3220         if (!mono_runtime_try_shutdown ()) {
3221                 /*FIXME mono_thread_suspend probably should call mono_thread_execute_interruption when self interrupting. */
3222                 mono_thread_suspend (mono_thread_internal_current ());
3223                 mono_thread_execute_interruption ();
3224         }
3225
3226         /* 
3227          * Remove everything but the finalizer thread and self.
3228          * Also abort all the background threads
3229          * */
3230         do {
3231                 mono_threads_lock ();
3232
3233                 wait->num = 0;
3234                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3235                 memset (wait->threads, 0, MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3236                 mono_g_hash_table_foreach_remove (threads, remove_and_abort_threads, wait);
3237
3238                 mono_threads_unlock ();
3239
3240                 THREAD_DEBUG (g_message ("%s: wait->num is now %d", __func__, wait->num));
3241                 if (wait->num > 0) {
3242                         /* Something to wait for */
3243                         wait_for_tids (wait, MONO_INFINITE_WAIT, FALSE);
3244                 }
3245         } while (wait->num > 0);
3246         
3247         /* 
3248          * give the subthreads a chance to really quit (this is mainly needed
3249          * to get correct user and system times from getrusage/wait/time(1)).
3250          * This could be removed if we avoid pthread_detach() and use pthread_join().
3251          */
3252         mono_thread_info_yield ();
3253 }
3254
3255 static void
3256 collect_threads_for_suspend (gpointer key, gpointer value, gpointer user_data)
3257 {
3258         MonoInternalThread *thread = (MonoInternalThread*)value;
3259         struct wait_data *wait = (struct wait_data*)user_data;
3260
3261         /* 
3262          * We try to exclude threads early, to avoid running into the MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS
3263          * limitation.
3264          * This needs no locking.
3265          */
3266         if ((thread->state & ThreadState_Suspended) != 0 || 
3267                 (thread->state & ThreadState_Stopped) != 0)
3268                 return;
3269
3270         if (wait->num<MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS) {
3271                 wait->handles [wait->num] = mono_threads_open_thread_handle (thread->handle);
3272                 wait->threads [wait->num] = thread;
3273                 wait->num++;
3274         }
3275 }
3276
3277 /*
3278  * mono_thread_suspend_all_other_threads:
3279  *
3280  *  Suspend all managed threads except the finalizer thread and this thread. It is
3281  * not possible to resume them later.
3282  */
3283 void mono_thread_suspend_all_other_threads (void)
3284 {
3285         struct wait_data wait_data;
3286         struct wait_data *wait = &wait_data;
3287         int i;
3288         MonoNativeThreadId self = mono_native_thread_id_get ();
3289         guint32 eventidx = 0;
3290         gboolean starting, finished;
3291
3292         memset (wait, 0, sizeof (struct wait_data));
3293         /*
3294          * The other threads could be in an arbitrary state at this point, i.e.
3295          * they could be starting up, shutting down etc. This means that there could be
3296          * threads which are not even in the threads hash table yet.
3297          */
3298
3299         /* 
3300          * First we set a barrier which will be checked by all threads before they
3301          * are added to the threads hash table, and they will exit if the flag is set.
3302          * This ensures that no threads could be added to the hash later.
3303          * We will use shutting_down as the barrier for now.
3304          */
3305         g_assert (shutting_down);
3306
3307         /*
3308          * We make multiple calls to WaitForMultipleObjects since:
3309          * - we can only wait for MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS threads
3310          * - some threads could exit without becoming suspended
3311          */
3312         finished = FALSE;
3313         while (!finished) {
3314                 /*
3315                  * Make a copy of the hashtable since we can't do anything with
3316                  * threads while threads_mutex is held.
3317                  */
3318                 wait->num = 0;
3319                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3320                 memset (wait->threads, 0, MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3321                 mono_threads_lock ();
3322                 mono_g_hash_table_foreach (threads, collect_threads_for_suspend, wait);
3323                 mono_threads_unlock ();
3324
3325                 eventidx = 0;
3326                 /* Get the suspended events that we'll be waiting for */
3327                 for (i = 0; i < wait->num; ++i) {
3328                         MonoInternalThread *thread = wait->threads [i];
3329
3330                         if (mono_native_thread_id_equals (thread_get_tid (thread), self)
3331                              || mono_gc_is_finalizer_internal_thread (thread)
3332                              || (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE)
3333                         ) {
3334                                 mono_threads_close_thread_handle (wait->handles [i]);
3335                                 wait->threads [i] = NULL;
3336                                 continue;
3337                         }
3338
3339                         LOCK_THREAD (thread);
3340
3341                         if (thread->state & (ThreadState_Suspended | ThreadState_Stopped)) {
3342                                 UNLOCK_THREAD (thread);
3343                                 mono_threads_close_thread_handle (wait->handles [i]);
3344                                 wait->threads [i] = NULL;
3345                                 continue;
3346                         }
3347
3348                         ++eventidx;
3349
3350                         /* Convert abort requests into suspend requests */
3351                         if ((thread->state & ThreadState_AbortRequested) != 0)
3352                                 thread->state &= ~ThreadState_AbortRequested;
3353                         
3354                         thread->state |= ThreadState_SuspendRequested;
3355                         mono_os_event_reset (thread->suspended);
3356
3357                         /* Signal the thread to suspend + calls UNLOCK_THREAD (thread) */
3358                         async_suspend_internal (thread, TRUE);
3359
3360                         mono_threads_close_thread_handle (wait->handles [i]);
3361                         wait->threads [i] = NULL;
3362                 }
3363                 if (eventidx <= 0) {
3364                         /* 
3365                          * If there are threads which are starting up, we wait until they
3366                          * are suspended when they try to register in the threads hash.
3367                          * This is guaranteed to finish, since the threads which can create new
3368                          * threads get suspended after a while.
3369                          * FIXME: The finalizer thread can still create new threads.
3370                          */
3371                         mono_threads_lock ();
3372                         if (threads_starting_up)
3373                                 starting = mono_g_hash_table_size (threads_starting_up) > 0;
3374                         else
3375                                 starting = FALSE;
3376                         mono_threads_unlock ();
3377                         if (starting)
3378                                 mono_thread_info_sleep (100, NULL);
3379                         else
3380                                 finished = TRUE;
3381                 }
3382         }
3383 }
3384
3385 typedef struct {
3386         MonoInternalThread *thread;
3387         MonoStackFrameInfo *frames;
3388         int nframes, max_frames;
3389         int nthreads, max_threads;
3390         MonoInternalThread **threads;
3391 } ThreadDumpUserData;
3392
3393 static gboolean thread_dump_requested;
3394
3395 /* This needs to be async safe */
3396 static gboolean
3397 collect_frame (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
3398 {
3399         ThreadDumpUserData *ud = (ThreadDumpUserData *)data;
3400
3401         if (ud->nframes < ud->max_frames) {
3402                 memcpy (&ud->frames [ud->nframes], frame, sizeof (MonoStackFrameInfo));
3403                 ud->nframes ++;
3404         }
3405
3406         return FALSE;
3407 }
3408
3409 /* This needs to be async safe */
3410 static SuspendThreadResult
3411 get_thread_dump (MonoThreadInfo *info, gpointer ud)
3412 {
3413         ThreadDumpUserData *user_data = (ThreadDumpUserData *)ud;
3414         MonoInternalThread *thread = user_data->thread;
3415
3416 #if 0
3417 /* This no longer works with remote unwinding */
3418         g_string_append_printf (text, " tid=0x%p this=0x%p ", (gpointer)(gsize)thread->tid, thread);
3419         mono_thread_internal_describe (thread, text);
3420         g_string_append (text, "\n");
3421 #endif
3422
3423         if (thread == mono_thread_internal_current ())
3424                 mono_get_eh_callbacks ()->mono_walk_stack_with_ctx (collect_frame, NULL, MONO_UNWIND_SIGNAL_SAFE, ud);
3425         else
3426                 mono_get_eh_callbacks ()->mono_walk_stack_with_state (collect_frame, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, ud);
3427
3428         return MonoResumeThread;
3429 }
3430
3431 typedef struct {
3432         int nthreads, max_threads;
3433         MonoInternalThread **threads;
3434 } CollectThreadsUserData;
3435
3436 static void
3437 collect_thread (gpointer key, gpointer value, gpointer user)
3438 {
3439         CollectThreadsUserData *ud = (CollectThreadsUserData *)user;
3440         MonoInternalThread *thread = (MonoInternalThread *)value;
3441
3442         if (ud->nthreads < ud->max_threads)
3443                 ud->threads [ud->nthreads ++] = thread;
3444 }
3445
3446 /*
3447  * Collect running threads into the THREADS array.
3448  * THREADS should be an array allocated on the stack.
3449  */
3450 static int
3451 collect_threads (MonoInternalThread **thread_array, int max_threads)
3452 {
3453         CollectThreadsUserData ud;
3454
3455         memset (&ud, 0, sizeof (ud));
3456         /* This array contains refs, but its on the stack, so its ok */
3457         ud.threads = thread_array;
3458         ud.max_threads = max_threads;
3459
3460         mono_threads_lock ();
3461         mono_g_hash_table_foreach (threads, collect_thread, &ud);
3462         mono_threads_unlock ();
3463
3464         return ud.nthreads;
3465 }
3466
3467 static void
3468 dump_thread (MonoInternalThread *thread, ThreadDumpUserData *ud)
3469 {
3470         GString* text = g_string_new (0);
3471         char *name;
3472         GError *error = NULL;
3473         int i;
3474
3475         ud->thread = thread;
3476         ud->nframes = 0;
3477
3478         /* Collect frames for the thread */
3479         if (thread == mono_thread_internal_current ()) {
3480                 get_thread_dump (mono_thread_info_current (), ud);
3481         } else {
3482                 mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, ud);
3483         }
3484
3485         /*
3486          * Do all the non async-safe work outside of get_thread_dump.
3487          */
3488         if (thread->name) {
3489                 name = g_utf16_to_utf8 (thread->name, thread->name_len, NULL, NULL, &error);
3490                 g_assert (!error);
3491                 g_string_append_printf (text, "\n\"%s\"", name);
3492                 g_free (name);
3493         }
3494         else if (thread->threadpool_thread) {
3495                 g_string_append (text, "\n\"<threadpool thread>\"");
3496         } else {
3497                 g_string_append (text, "\n\"<unnamed thread>\"");
3498         }
3499
3500         for (i = 0; i < ud->nframes; ++i) {
3501                 MonoStackFrameInfo *frame = &ud->frames [i];
3502                 MonoMethod *method = NULL;
3503
3504                 if (frame->type == FRAME_TYPE_MANAGED)
3505                         method = mono_jit_info_get_method (frame->ji);
3506
3507                 if (method) {
3508                         gchar *location = mono_debug_print_stack_frame (method, frame->native_offset, frame->domain);
3509                         g_string_append_printf (text, "  %s\n", location);
3510                         g_free (location);
3511                 } else {
3512                         g_string_append_printf (text, "  at <unknown> <0x%05x>\n", frame->native_offset);
3513                 }
3514         }
3515
3516         fprintf (stdout, "%s", text->str);
3517
3518 #if PLATFORM_WIN32 && TARGET_WIN32 && _DEBUG
3519         OutputDebugStringA(text->str);
3520 #endif
3521
3522         g_string_free (text, TRUE);
3523         fflush (stdout);
3524 }
3525
3526 void
3527 mono_threads_perform_thread_dump (void)
3528 {
3529         ThreadDumpUserData ud;
3530         MonoInternalThread *thread_array [128];
3531         int tindex, nthreads;
3532
3533         if (!thread_dump_requested)
3534                 return;
3535
3536         printf ("Full thread dump:\n");
3537
3538         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3539         nthreads = collect_threads (thread_array, 128);
3540
3541         memset (&ud, 0, sizeof (ud));
3542         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3543         ud.max_frames = 256;
3544
3545         for (tindex = 0; tindex < nthreads; ++tindex)
3546                 dump_thread (thread_array [tindex], &ud);
3547
3548         g_free (ud.frames);
3549
3550         thread_dump_requested = FALSE;
3551 }
3552
3553 /* Obtain the thread dump of all threads */
3554 static gboolean
3555 mono_threads_get_thread_dump (MonoArray **out_threads, MonoArray **out_stack_frames, MonoError *error)
3556 {
3557
3558         ThreadDumpUserData ud;
3559         MonoInternalThread *thread_array [128];
3560         MonoDomain *domain = mono_domain_get ();
3561         MonoDebugSourceLocation *location;
3562         int tindex, nthreads;
3563
3564         error_init (error);
3565         
3566         *out_threads = NULL;
3567         *out_stack_frames = NULL;
3568
3569         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3570         nthreads = collect_threads (thread_array, 128);
3571
3572         memset (&ud, 0, sizeof (ud));
3573         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3574         ud.max_frames = 256;
3575
3576         *out_threads = mono_array_new_checked (domain, mono_defaults.thread_class, nthreads, error);
3577         if (!is_ok (error))
3578                 goto leave;
3579         *out_stack_frames = mono_array_new_checked (domain, mono_defaults.array_class, nthreads, error);
3580         if (!is_ok (error))
3581                 goto leave;
3582
3583         for (tindex = 0; tindex < nthreads; ++tindex) {
3584                 MonoInternalThread *thread = thread_array [tindex];
3585                 MonoArray *thread_frames;
3586                 int i;
3587
3588                 ud.thread = thread;
3589                 ud.nframes = 0;
3590
3591                 /* Collect frames for the thread */
3592                 if (thread == mono_thread_internal_current ()) {
3593                         get_thread_dump (mono_thread_info_current (), &ud);
3594                 } else {
3595                         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, &ud);
3596                 }
3597
3598                 mono_array_setref_fast (*out_threads, tindex, mono_thread_current_for_thread (thread));
3599
3600                 thread_frames = mono_array_new_checked (domain, mono_defaults.stack_frame_class, ud.nframes, error);
3601                 if (!is_ok (error))
3602                         goto leave;
3603                 mono_array_setref_fast (*out_stack_frames, tindex, thread_frames);
3604
3605                 for (i = 0; i < ud.nframes; ++i) {
3606                         MonoStackFrameInfo *frame = &ud.frames [i];
3607                         MonoMethod *method = NULL;
3608                         MonoStackFrame *sf = (MonoStackFrame *)mono_object_new_checked (domain, mono_defaults.stack_frame_class, error);
3609                         if (!is_ok (error))
3610                                 goto leave;
3611
3612                         sf->native_offset = frame->native_offset;
3613
3614                         if (frame->type == FRAME_TYPE_MANAGED)
3615                                 method = mono_jit_info_get_method (frame->ji);
3616
3617                         if (method) {
3618                                 sf->method_address = (gsize) frame->ji->code_start;
3619
3620                                 MonoReflectionMethod *rm = mono_method_get_object_checked (domain, method, NULL, error);
3621                                 if (!is_ok (error))
3622                                         goto leave;
3623                                 MONO_OBJECT_SETREF (sf, method, rm);
3624
3625                                 location = mono_debug_lookup_source_location (method, frame->native_offset, domain);
3626                                 if (location) {
3627                                         sf->il_offset = location->il_offset;
3628
3629                                         if (location && location->source_file) {
3630                                                 MonoString *filename = mono_string_new_checked (domain, location->source_file, error);
3631                                                 if (!is_ok (error))
3632                                                         goto leave;
3633                                                 MONO_OBJECT_SETREF (sf, filename, filename);
3634                                                 sf->line = location->row;
3635                                                 sf->column = location->column;
3636                                         }
3637                                         mono_debug_free_source_location (location);
3638                                 } else {
3639                                         sf->il_offset = -1;
3640                                 }
3641                         }
3642                         mono_array_setref (thread_frames, i, sf);
3643                 }
3644         }
3645
3646 leave:
3647         g_free (ud.frames);
3648         return is_ok (error);
3649 }
3650
3651 /**
3652  * mono_threads_request_thread_dump:
3653  *
3654  *   Ask all threads except the current to print their stacktrace to stdout.
3655  */
3656 void
3657 mono_threads_request_thread_dump (void)
3658 {
3659         /*The new thread dump code runs out of the finalizer thread. */
3660         thread_dump_requested = TRUE;
3661         mono_gc_finalize_notify ();
3662 }
3663
3664 struct ref_stack {
3665         gpointer *refs;
3666         gint allocated; /* +1 so that refs [allocated] == NULL */
3667         gint bottom;
3668 };
3669
3670 typedef struct ref_stack RefStack;
3671
3672 static RefStack *
3673 ref_stack_new (gint initial_size)
3674 {
3675         RefStack *rs;
3676
3677         initial_size = MAX (initial_size, 16) + 1;
3678         rs = g_new0 (RefStack, 1);
3679         rs->refs = g_new0 (gpointer, initial_size);
3680         rs->allocated = initial_size;
3681         return rs;
3682 }
3683
3684 static void
3685 ref_stack_destroy (gpointer ptr)
3686 {
3687         RefStack *rs = (RefStack *)ptr;
3688
3689         if (rs != NULL) {
3690                 g_free (rs->refs);
3691                 g_free (rs);
3692         }
3693 }
3694
3695 static void
3696 ref_stack_push (RefStack *rs, gpointer ptr)
3697 {
3698         g_assert (rs != NULL);
3699
3700         if (rs->bottom >= rs->allocated) {
3701                 rs->refs = (void **)g_realloc (rs->refs, rs->allocated * 2 * sizeof (gpointer) + 1);
3702                 rs->allocated <<= 1;
3703                 rs->refs [rs->allocated] = NULL;
3704         }
3705         rs->refs [rs->bottom++] = ptr;
3706 }
3707
3708 static void
3709 ref_stack_pop (RefStack *rs)
3710 {
3711         if (rs == NULL || rs->bottom == 0)
3712                 return;
3713
3714         rs->bottom--;
3715         rs->refs [rs->bottom] = NULL;
3716 }
3717
3718 static gboolean
3719 ref_stack_find (RefStack *rs, gpointer ptr)
3720 {
3721         gpointer *refs;
3722
3723         if (rs == NULL)
3724                 return FALSE;
3725
3726         for (refs = rs->refs; refs && *refs; refs++) {
3727                 if (*refs == ptr)
3728                         return TRUE;
3729         }
3730         return FALSE;
3731 }
3732
3733 /*
3734  * mono_thread_push_appdomain_ref:
3735  *
3736  *   Register that the current thread may have references to objects in domain 
3737  * @domain on its stack. Each call to this function should be paired with a 
3738  * call to pop_appdomain_ref.
3739  */
3740 void 
3741 mono_thread_push_appdomain_ref (MonoDomain *domain)
3742 {
3743         MonoInternalThread *thread = mono_thread_internal_current ();
3744
3745         if (thread) {
3746                 /* printf ("PUSH REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, domain->friendly_name); */
3747                 SPIN_LOCK (thread->lock_thread_id);
3748                 if (thread->appdomain_refs == NULL)
3749                         thread->appdomain_refs = ref_stack_new (16);
3750                 ref_stack_push ((RefStack *)thread->appdomain_refs, domain);
3751                 SPIN_UNLOCK (thread->lock_thread_id);
3752         }
3753 }
3754
3755 void
3756 mono_thread_pop_appdomain_ref (void)
3757 {
3758         MonoInternalThread *thread = mono_thread_internal_current ();
3759
3760         if (thread) {
3761                 /* printf ("POP REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, ((MonoDomain*)(thread->appdomain_refs->data))->friendly_name); */
3762                 SPIN_LOCK (thread->lock_thread_id);
3763                 ref_stack_pop ((RefStack *)thread->appdomain_refs);
3764                 SPIN_UNLOCK (thread->lock_thread_id);
3765         }
3766 }
3767
3768 gboolean
3769 mono_thread_internal_has_appdomain_ref (MonoInternalThread *thread, MonoDomain *domain)
3770 {
3771         gboolean res;
3772         SPIN_LOCK (thread->lock_thread_id);
3773         res = ref_stack_find ((RefStack *)thread->appdomain_refs, domain);
3774         SPIN_UNLOCK (thread->lock_thread_id);
3775         return res;
3776 }
3777
3778 gboolean
3779 mono_thread_has_appdomain_ref (MonoThread *thread, MonoDomain *domain)
3780 {
3781         return mono_thread_internal_has_appdomain_ref (thread->internal_thread, domain);
3782 }
3783
3784 typedef struct abort_appdomain_data {
3785         struct wait_data wait;
3786         MonoDomain *domain;
3787 } abort_appdomain_data;
3788
3789 static void
3790 collect_appdomain_thread (gpointer key, gpointer value, gpointer user_data)
3791 {
3792         MonoInternalThread *thread = (MonoInternalThread*)value;
3793         abort_appdomain_data *data = (abort_appdomain_data*)user_data;
3794         MonoDomain *domain = data->domain;
3795
3796         if (mono_thread_internal_has_appdomain_ref (thread, domain)) {
3797                 /* printf ("ABORTING THREAD %p BECAUSE IT REFERENCES DOMAIN %s.\n", thread->tid, domain->friendly_name); */
3798
3799                 if(data->wait.num<MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS) {
3800                         data->wait.handles [data->wait.num] = mono_threads_open_thread_handle (thread->handle);
3801                         data->wait.threads [data->wait.num] = thread;
3802                         data->wait.num++;
3803                 } else {
3804                         /* Just ignore the rest, we can't do anything with
3805                          * them yet
3806                          */
3807                 }
3808         }
3809 }
3810
3811 /*
3812  * mono_threads_abort_appdomain_threads:
3813  *
3814  *   Abort threads which has references to the given appdomain.
3815  */
3816 gboolean
3817 mono_threads_abort_appdomain_threads (MonoDomain *domain, int timeout)
3818 {
3819         abort_appdomain_data user_data;
3820         gint64 start_time;
3821         int orig_timeout = timeout;
3822         int i;
3823
3824         THREAD_DEBUG (g_message ("%s: starting abort", __func__));
3825
3826         start_time = mono_msec_ticks ();
3827         do {
3828                 mono_threads_lock ();
3829
3830                 user_data.domain = domain;
3831                 user_data.wait.num = 0;
3832                 /* This shouldn't take any locks */
3833                 mono_g_hash_table_foreach (threads, collect_appdomain_thread, &user_data);
3834                 mono_threads_unlock ();
3835
3836                 if (user_data.wait.num > 0) {
3837                         /* Abort the threads outside the threads lock */
3838                         for (i = 0; i < user_data.wait.num; ++i)
3839                                 mono_thread_internal_abort (user_data.wait.threads [i]);
3840
3841                         /*
3842                          * We should wait for the threads either to abort, or to leave the
3843                          * domain. We can't do the latter, so we wait with a timeout.
3844                          */
3845                         wait_for_tids (&user_data.wait, 100, FALSE);
3846                 }
3847
3848                 /* Update remaining time */
3849                 timeout -= mono_msec_ticks () - start_time;
3850                 start_time = mono_msec_ticks ();
3851
3852                 if (orig_timeout != -1 && timeout < 0)
3853                         return FALSE;
3854         }
3855         while (user_data.wait.num > 0);
3856
3857         THREAD_DEBUG (g_message ("%s: abort done", __func__));
3858
3859         return TRUE;
3860 }
3861
3862 /*
3863  * mono_thread_get_undeniable_exception:
3864  *
3865  *   Return an exception which needs to be raised when leaving a catch clause.
3866  * This is used for undeniable exception propagation.
3867  */
3868 MonoException*
3869 mono_thread_get_undeniable_exception (void)
3870 {
3871         MonoInternalThread *thread = mono_thread_internal_current ();
3872
3873         if (!(thread && thread->abort_exc && !is_running_protected_wrapper ()))
3874                 return NULL;
3875
3876         // We don't want to have our exception effect calls made by
3877         // the catching block
3878
3879         if (!mono_get_eh_callbacks ()->mono_above_abort_threshold ())
3880                 return NULL;
3881
3882         /*
3883          * FIXME: Clear the abort exception and return an AppDomainUnloaded 
3884          * exception if the thread no longer references a dying appdomain.
3885          */ 
3886         thread->abort_exc->trace_ips = NULL;
3887         thread->abort_exc->stack_trace = NULL;
3888         return thread->abort_exc;
3889 }
3890
3891 #if MONO_SMALL_CONFIG
3892 #define NUM_STATIC_DATA_IDX 4
3893 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3894         64, 256, 1024, 4096
3895 };
3896 #else
3897 #define NUM_STATIC_DATA_IDX 8
3898 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3899         1024, 4096, 16384, 65536, 262144, 1048576, 4194304, 16777216
3900 };
3901 #endif
3902
3903 static MonoBitSet *thread_reference_bitmaps [NUM_STATIC_DATA_IDX];
3904 static MonoBitSet *context_reference_bitmaps [NUM_STATIC_DATA_IDX];
3905
3906 static void
3907 mark_slots (void *addr, MonoBitSet **bitmaps, MonoGCMarkFunc mark_func, void *gc_data)
3908 {
3909         gpointer *static_data = (gpointer *)addr;
3910
3911         for (int i = 0; i < NUM_STATIC_DATA_IDX; ++i) {
3912                 void **ptr = (void **)static_data [i];
3913
3914                 if (!ptr)
3915                         continue;
3916
3917                 MONO_BITSET_FOREACH (bitmaps [i], idx, {
3918                         void **p = ptr + idx;
3919
3920                         if (*p)
3921                                 mark_func ((MonoObject**)p, gc_data);
3922                 });
3923         }
3924 }
3925
3926 static void
3927 mark_tls_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
3928 {
3929         mark_slots (addr, thread_reference_bitmaps, mark_func, gc_data);
3930 }
3931
3932 static void
3933 mark_ctx_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
3934 {
3935         mark_slots (addr, context_reference_bitmaps, mark_func, gc_data);
3936 }
3937
3938 /*
3939  *  mono_alloc_static_data
3940  *
3941  *   Allocate memory blocks for storing threads or context static data
3942  */
3943 static void 
3944 mono_alloc_static_data (gpointer **static_data_ptr, guint32 offset, gboolean threadlocal)
3945 {
3946         guint idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
3947         int i;
3948
3949         gpointer* static_data = *static_data_ptr;
3950         if (!static_data) {
3951                 static MonoGCDescriptor tls_desc = MONO_GC_DESCRIPTOR_NULL;
3952                 static MonoGCDescriptor ctx_desc = MONO_GC_DESCRIPTOR_NULL;
3953
3954                 if (mono_gc_user_markers_supported ()) {
3955                         if (tls_desc == MONO_GC_DESCRIPTOR_NULL)
3956                                 tls_desc = mono_gc_make_root_descr_user (mark_tls_slots);
3957
3958                         if (ctx_desc == MONO_GC_DESCRIPTOR_NULL)
3959                                 ctx_desc = mono_gc_make_root_descr_user (mark_ctx_slots);
3960                 }
3961
3962                 static_data = (void **)mono_gc_alloc_fixed (static_data_size [0], threadlocal ? tls_desc : ctx_desc,
3963                         threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
3964                         threadlocal ? "managed thread-static variables" : "managed context-static variables");
3965                 *static_data_ptr = static_data;
3966                 static_data [0] = static_data;
3967         }
3968
3969         for (i = 1; i <= idx; ++i) {
3970                 if (static_data [i])
3971                         continue;
3972
3973                 if (mono_gc_user_markers_supported ())
3974                         static_data [i] = g_malloc0 (static_data_size [i]);
3975                 else
3976                         static_data [i] = mono_gc_alloc_fixed (static_data_size [i], MONO_GC_DESCRIPTOR_NULL,
3977                                 threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
3978                                 threadlocal ? "managed thread-static variables" : "managed context-static variables");
3979         }
3980 }
3981
3982 static void 
3983 mono_free_static_data (gpointer* static_data)
3984 {
3985         int i;
3986         for (i = 1; i < NUM_STATIC_DATA_IDX; ++i) {
3987                 gpointer p = static_data [i];
3988                 if (!p)
3989                         continue;
3990                 /*
3991                  * At this point, the static data pointer array is still registered with the
3992                  * GC, so must ensure that mark_tls_slots() will not encounter any invalid
3993                  * data.  Freeing the individual arrays without first nulling their slots
3994                  * would make it possible for mark_tls/ctx_slots() to encounter a pointer to
3995                  * such an already freed array.  See bug #13813.
3996                  */
3997                 static_data [i] = NULL;
3998                 mono_memory_write_barrier ();
3999                 if (mono_gc_user_markers_supported ())
4000                         g_free (p);
4001                 else
4002                         mono_gc_free_fixed (p);
4003         }
4004         mono_gc_free_fixed (static_data);
4005 }
4006
4007 /*
4008  *  mono_init_static_data_info
4009  *
4010  *   Initializes static data counters
4011  */
4012 static void mono_init_static_data_info (StaticDataInfo *static_data)
4013 {
4014         static_data->idx = 0;
4015         static_data->offset = 0;
4016         static_data->freelist = NULL;
4017 }
4018
4019 /*
4020  *  mono_alloc_static_data_slot
4021  *
4022  *   Generates an offset for static data. static_data contains the counters
4023  *  used to generate it.
4024  */
4025 static guint32
4026 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align)
4027 {
4028         if (!static_data->idx && !static_data->offset) {
4029                 /* 
4030                  * we use the first chunk of the first allocation also as
4031                  * an array for the rest of the data 
4032                  */
4033                 static_data->offset = sizeof (gpointer) * NUM_STATIC_DATA_IDX;
4034         }
4035         static_data->offset += align - 1;
4036         static_data->offset &= ~(align - 1);
4037         if (static_data->offset + size >= static_data_size [static_data->idx]) {
4038                 static_data->idx ++;
4039                 g_assert (size <= static_data_size [static_data->idx]);
4040                 g_assert (static_data->idx < NUM_STATIC_DATA_IDX);
4041                 static_data->offset = 0;
4042         }
4043         guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (static_data->idx, static_data->offset, 0);
4044         static_data->offset += size;
4045         return offset;
4046 }
4047
4048 /*
4049  * LOCKING: requires that threads_mutex is held
4050  */
4051 static void
4052 context_adjust_static_data (MonoAppContext *ctx)
4053 {
4054         if (context_static_info.offset || context_static_info.idx > 0) {
4055                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (context_static_info.idx, context_static_info.offset, 0);
4056                 mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4057                 ctx->data->static_data = ctx->static_data;
4058         }
4059 }
4060
4061 /*
4062  * LOCKING: requires that threads_mutex is held
4063  */
4064 static void 
4065 alloc_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4066 {
4067         MonoInternalThread *thread = (MonoInternalThread *)value;
4068         guint32 offset = GPOINTER_TO_UINT (user);
4069
4070         mono_alloc_static_data (&(thread->static_data), offset, TRUE);
4071 }
4072
4073 /*
4074  * LOCKING: requires that threads_mutex is held
4075  */
4076 static void
4077 alloc_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4078 {
4079         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4080
4081         if (!ctx)
4082                 return;
4083
4084         guint32 offset = GPOINTER_TO_UINT (user);
4085         mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4086         ctx->data->static_data = ctx->static_data;
4087 }
4088
4089 static StaticDataFreeList*
4090 search_slot_in_freelist (StaticDataInfo *static_data, guint32 size, guint32 align)
4091 {
4092         StaticDataFreeList* prev = NULL;
4093         StaticDataFreeList* tmp = static_data->freelist;
4094         while (tmp) {
4095                 if (tmp->size == size) {
4096                         if (prev)
4097                                 prev->next = tmp->next;
4098                         else
4099                                 static_data->freelist = tmp->next;
4100                         return tmp;
4101                 }
4102                 prev = tmp;
4103                 tmp = tmp->next;
4104         }
4105         return NULL;
4106 }
4107
4108 #if SIZEOF_VOID_P == 4
4109 #define ONE_P 1
4110 #else
4111 #define ONE_P 1ll
4112 #endif
4113
4114 static void
4115 update_reference_bitmap (MonoBitSet **sets, guint32 offset, uintptr_t *bitmap, int numbits)
4116 {
4117         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4118         if (!sets [idx])
4119                 sets [idx] = mono_bitset_new (static_data_size [idx] / sizeof (uintptr_t), 0);
4120         MonoBitSet *rb = sets [idx];
4121         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4122         offset /= sizeof (uintptr_t);
4123         /* offset is now the bitmap offset */
4124         for (int i = 0; i < numbits; ++i) {
4125                 if (bitmap [i / sizeof (uintptr_t)] & (ONE_P << (i & (sizeof (uintptr_t) * 8 -1))))
4126                         mono_bitset_set_fast (rb, offset + i);
4127         }
4128 }
4129
4130 static void
4131 clear_reference_bitmap (MonoBitSet **sets, guint32 offset, guint32 size)
4132 {
4133         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4134         MonoBitSet *rb = sets [idx];
4135         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4136         offset /= sizeof (uintptr_t);
4137         /* offset is now the bitmap offset */
4138         for (int i = 0; i < size / sizeof (uintptr_t); i++)
4139                 mono_bitset_clear_fast (rb, offset + i);
4140 }
4141
4142 guint32
4143 mono_alloc_special_static_data (guint32 static_type, guint32 size, guint32 align, uintptr_t *bitmap, int numbits)
4144 {
4145         g_assert (static_type == SPECIAL_STATIC_THREAD || static_type == SPECIAL_STATIC_CONTEXT);
4146
4147         StaticDataInfo *info;
4148         MonoBitSet **sets;
4149
4150         if (static_type == SPECIAL_STATIC_THREAD) {
4151                 info = &thread_static_info;
4152                 sets = thread_reference_bitmaps;
4153         } else {
4154                 info = &context_static_info;
4155                 sets = context_reference_bitmaps;
4156         }
4157
4158         mono_threads_lock ();
4159
4160         StaticDataFreeList *item = search_slot_in_freelist (info, size, align);
4161         guint32 offset;
4162
4163         if (item) {
4164                 offset = item->offset;
4165                 g_free (item);
4166         } else {
4167                 offset = mono_alloc_static_data_slot (info, size, align);
4168         }
4169
4170         update_reference_bitmap (sets, offset, bitmap, numbits);
4171
4172         if (static_type == SPECIAL_STATIC_THREAD) {
4173                 /* This can be called during startup */
4174                 if (threads != NULL)
4175                         mono_g_hash_table_foreach (threads, alloc_thread_static_data_helper, GUINT_TO_POINTER (offset));
4176         } else {
4177                 if (contexts != NULL)
4178                         g_hash_table_foreach (contexts, alloc_context_static_data_helper, GUINT_TO_POINTER (offset));
4179
4180                 ACCESS_SPECIAL_STATIC_OFFSET (offset, type) = SPECIAL_STATIC_OFFSET_TYPE_CONTEXT;
4181         }
4182
4183         mono_threads_unlock ();
4184
4185         return offset;
4186 }
4187
4188 gpointer
4189 mono_get_special_static_data_for_thread (MonoInternalThread *thread, guint32 offset)
4190 {
4191         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4192
4193         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4194                 return get_thread_static_data (thread, offset);
4195         } else {
4196                 return get_context_static_data (thread->current_appcontext, offset);
4197         }
4198 }
4199
4200 gpointer
4201 mono_get_special_static_data (guint32 offset)
4202 {
4203         return mono_get_special_static_data_for_thread (mono_thread_internal_current (), offset);
4204 }
4205
4206 typedef struct {
4207         guint32 offset;
4208         guint32 size;
4209 } OffsetSize;
4210
4211 /*
4212  * LOCKING: requires that threads_mutex is held
4213  */
4214 static void 
4215 free_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4216 {
4217         MonoInternalThread *thread = (MonoInternalThread *)value;
4218         OffsetSize *data = (OffsetSize *)user;
4219         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4220         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4221         char *ptr;
4222
4223         if (!thread->static_data || !thread->static_data [idx])
4224                 return;
4225         ptr = ((char*) thread->static_data [idx]) + off;
4226         mono_gc_bzero_atomic (ptr, data->size);
4227 }
4228
4229 /*
4230  * LOCKING: requires that threads_mutex is held
4231  */
4232 static void
4233 free_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4234 {
4235         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4236
4237         if (!ctx)
4238                 return;
4239
4240         OffsetSize *data = (OffsetSize *)user;
4241         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4242         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4243         char *ptr;
4244
4245         if (!ctx->static_data || !ctx->static_data [idx])
4246                 return;
4247
4248         ptr = ((char*) ctx->static_data [idx]) + off;
4249         mono_gc_bzero_atomic (ptr, data->size);
4250 }
4251
4252 static void
4253 do_free_special_slot (guint32 offset, guint32 size)
4254 {
4255         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4256         MonoBitSet **sets;
4257         StaticDataInfo *info;
4258
4259         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4260                 info = &thread_static_info;
4261                 sets = thread_reference_bitmaps;
4262         } else {
4263                 info = &context_static_info;
4264                 sets = context_reference_bitmaps;
4265         }
4266
4267         guint32 data_offset = offset;
4268         ACCESS_SPECIAL_STATIC_OFFSET (data_offset, type) = 0;
4269         OffsetSize data = { data_offset, size };
4270
4271         clear_reference_bitmap (sets, data.offset, data.size);
4272
4273         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4274                 if (threads != NULL)
4275                         mono_g_hash_table_foreach (threads, free_thread_static_data_helper, &data);
4276         } else {
4277                 if (contexts != NULL)
4278                         g_hash_table_foreach (contexts, free_context_static_data_helper, &data);
4279         }
4280
4281         if (!mono_runtime_is_shutting_down ()) {
4282                 StaticDataFreeList *item = g_new0 (StaticDataFreeList, 1);
4283
4284                 item->offset = offset;
4285                 item->size = size;
4286
4287                 item->next = info->freelist;
4288                 info->freelist = item;
4289         }
4290 }
4291
4292 static void
4293 do_free_special (gpointer key, gpointer value, gpointer data)
4294 {
4295         MonoClassField *field = (MonoClassField *)key;
4296         guint32 offset = GPOINTER_TO_UINT (value);
4297         gint32 align;
4298         guint32 size;
4299         size = mono_type_size (field->type, &align);
4300         do_free_special_slot (offset, size);
4301 }
4302
4303 void
4304 mono_alloc_special_static_data_free (GHashTable *special_static_fields)
4305 {
4306         mono_threads_lock ();
4307
4308         g_hash_table_foreach (special_static_fields, do_free_special, NULL);
4309
4310         mono_threads_unlock ();
4311 }
4312
4313 #ifdef HOST_WIN32
4314 static void CALLBACK dummy_apc (ULONG_PTR param)
4315 {
4316 }
4317 #endif
4318
4319 /*
4320  * mono_thread_execute_interruption
4321  * 
4322  * Performs the operation that the requested thread state requires (abort,
4323  * suspend or stop)
4324  */
4325 static MonoException*
4326 mono_thread_execute_interruption (void)
4327 {
4328         MonoInternalThread *thread = mono_thread_internal_current ();
4329         MonoThread *sys_thread = mono_thread_current ();
4330
4331         LOCK_THREAD (thread);
4332
4333         /* MonoThread::interruption_requested can only be changed with atomics */
4334         if (!mono_thread_clear_interruption_requested (thread)) {
4335                 UNLOCK_THREAD (thread);
4336                 return NULL;
4337         }
4338
4339         /* this will consume pending APC calls */
4340 #ifdef HOST_WIN32
4341         WaitForSingleObjectEx (GetCurrentThread(), 0, TRUE);
4342 #endif
4343         /* Clear the interrupted flag of the thread so it can wait again */
4344         mono_thread_info_clear_self_interrupt ();
4345
4346         /* If there's a pending exception and an AbortRequested, the pending exception takes precedence */
4347         if (sys_thread->pending_exception) {
4348                 MonoException *exc;
4349
4350                 exc = sys_thread->pending_exception;
4351                 sys_thread->pending_exception = NULL;
4352
4353                 UNLOCK_THREAD (thread);
4354                 return exc;
4355         } else if (thread->state & (ThreadState_AbortRequested)) {
4356                 UNLOCK_THREAD (thread);
4357                 g_assert (sys_thread->pending_exception == NULL);
4358                 if (thread->abort_exc == NULL) {
4359                         /* 
4360                          * This might be racy, but it has to be called outside the lock
4361                          * since it calls managed code.
4362                          */
4363                         MONO_OBJECT_SETREF (thread, abort_exc, mono_get_exception_thread_abort ());
4364                 }
4365                 return thread->abort_exc;
4366         } else if (thread->state & (ThreadState_SuspendRequested)) {
4367                 /* calls UNLOCK_THREAD (thread) */
4368                 self_suspend_internal ();
4369                 return NULL;
4370         } else if (thread->thread_interrupt_requested) {
4371
4372                 thread->thread_interrupt_requested = FALSE;
4373                 UNLOCK_THREAD (thread);
4374                 
4375                 return(mono_get_exception_thread_interrupted ());
4376         }
4377         
4378         UNLOCK_THREAD (thread);
4379         
4380         return NULL;
4381 }
4382
4383 /*
4384  * mono_thread_request_interruption
4385  *
4386  * A signal handler can call this method to request the interruption of a
4387  * thread. The result of the interruption will depend on the current state of
4388  * the thread. If the result is an exception that needs to be throw, it is 
4389  * provided as return value.
4390  */
4391 MonoException*
4392 mono_thread_request_interruption (gboolean running_managed)
4393 {
4394         MonoInternalThread *thread = mono_thread_internal_current ();
4395
4396         /* The thread may already be stopping */
4397         if (thread == NULL) 
4398                 return NULL;
4399
4400         if (!mono_thread_set_interruption_requested (thread))
4401                 return NULL;
4402
4403         if (!running_managed || is_running_protected_wrapper ()) {
4404                 /* Can't stop while in unmanaged code. Increase the global interruption
4405                    request count. When exiting the unmanaged method the count will be
4406                    checked and the thread will be interrupted. */
4407
4408                 /* this will awake the thread if it is in WaitForSingleObject 
4409                    or similar */
4410                 /* Our implementation of this function ignores the func argument */
4411 #ifdef HOST_WIN32
4412                 QueueUserAPC ((PAPCFUNC)dummy_apc, thread->native_handle, (ULONG_PTR)NULL);
4413 #else
4414                 mono_thread_info_self_interrupt ();
4415 #endif
4416                 return NULL;
4417         }
4418         else {
4419                 return mono_thread_execute_interruption ();
4420         }
4421 }
4422
4423 /*This function should be called by a thread after it has exited all of
4424  * its handle blocks at interruption time.*/
4425 MonoException*
4426 mono_thread_resume_interruption (gboolean exec)
4427 {
4428         MonoInternalThread *thread = mono_thread_internal_current ();
4429         gboolean still_aborting;
4430
4431         /* The thread may already be stopping */
4432         if (thread == NULL)
4433                 return NULL;
4434
4435         LOCK_THREAD (thread);
4436         still_aborting = (thread->state & (ThreadState_AbortRequested)) != 0;
4437         UNLOCK_THREAD (thread);
4438
4439         /*This can happen if the protected block called Thread::ResetAbort*/
4440         if (!still_aborting)
4441                 return NULL;
4442
4443         if (!mono_thread_set_interruption_requested (thread))
4444                 return NULL;
4445
4446         mono_thread_info_self_interrupt ();
4447
4448         if (exec)
4449                 return mono_thread_execute_interruption ();
4450         else
4451                 return NULL;
4452 }
4453
4454 gboolean mono_thread_interruption_requested ()
4455 {
4456         if (thread_interruption_requested) {
4457                 MonoInternalThread *thread = mono_thread_internal_current ();
4458                 /* The thread may already be stopping */
4459                 if (thread != NULL) 
4460                         return mono_thread_get_interruption_requested (thread);
4461         }
4462         return FALSE;
4463 }
4464
4465 static MonoException*
4466 mono_thread_interruption_checkpoint_request (gboolean bypass_abort_protection)
4467 {
4468         MonoInternalThread *thread = mono_thread_internal_current ();
4469
4470         /* The thread may already be stopping */
4471         if (!thread)
4472                 return NULL;
4473         if (!mono_thread_get_interruption_requested (thread))
4474                 return NULL;
4475         if (!bypass_abort_protection && is_running_protected_wrapper ())
4476                 return NULL;
4477
4478         return mono_thread_execute_interruption ();
4479 }
4480
4481 /*
4482  * Performs the interruption of the current thread, if one has been requested,
4483  * and the thread is not running a protected wrapper.
4484  * Return the exception which needs to be thrown, if any.
4485  */
4486 MonoException*
4487 mono_thread_interruption_checkpoint (void)
4488 {
4489         return mono_thread_interruption_checkpoint_request (FALSE);
4490 }
4491
4492 /*
4493  * Performs the interruption of the current thread, if one has been requested.
4494  * Return the exception which needs to be thrown, if any.
4495  */
4496 MonoException*
4497 mono_thread_force_interruption_checkpoint_noraise (void)
4498 {
4499         return mono_thread_interruption_checkpoint_request (TRUE);
4500 }
4501
4502 /*
4503  * mono_set_pending_exception:
4504  *
4505  *   Set the pending exception of the current thread to EXC.
4506  * The exception will be thrown when execution returns to managed code.
4507  */
4508 void
4509 mono_set_pending_exception (MonoException *exc)
4510 {
4511         MonoThread *thread = mono_thread_current ();
4512
4513         /* The thread may already be stopping */
4514         if (thread == NULL)
4515                 return;
4516
4517         MONO_OBJECT_SETREF (thread, pending_exception, exc);
4518
4519     mono_thread_request_interruption (FALSE);
4520 }
4521
4522 /**
4523  * mono_thread_interruption_request_flag:
4524  *
4525  * Returns the address of a flag that will be non-zero if an interruption has
4526  * been requested for a thread. The thread to interrupt may not be the current
4527  * thread, so an additional call to mono_thread_interruption_requested() or
4528  * mono_thread_interruption_checkpoint() is allways needed if the flag is not
4529  * zero.
4530  */
4531 gint32* mono_thread_interruption_request_flag ()
4532 {
4533         return &thread_interruption_requested;
4534 }
4535
4536 void 
4537 mono_thread_init_apartment_state (void)
4538 {
4539 #ifdef HOST_WIN32
4540         MonoInternalThread* thread = mono_thread_internal_current ();
4541
4542         /* Positive return value indicates success, either
4543          * S_OK if this is first CoInitialize call, or
4544          * S_FALSE if CoInitialize already called, but with same
4545          * threading model. A negative value indicates failure,
4546          * probably due to trying to change the threading model.
4547          */
4548         if (CoInitializeEx(NULL, (thread->apartment_state == ThreadApartmentState_STA) 
4549                         ? COINIT_APARTMENTTHREADED 
4550                         : COINIT_MULTITHREADED) < 0) {
4551                 thread->apartment_state = ThreadApartmentState_Unknown;
4552         }
4553 #endif
4554 }
4555
4556 void 
4557 mono_thread_cleanup_apartment_state (void)
4558 {
4559 #ifdef HOST_WIN32
4560         MonoInternalThread* thread = mono_thread_internal_current ();
4561
4562         if (thread && thread->apartment_state != ThreadApartmentState_Unknown) {
4563                 CoUninitialize ();
4564         }
4565 #endif
4566 }
4567
4568 void
4569 mono_thread_set_state (MonoInternalThread *thread, MonoThreadState state)
4570 {
4571         LOCK_THREAD (thread);
4572         thread->state |= state;
4573         UNLOCK_THREAD (thread);
4574 }
4575
4576 /**
4577  * mono_thread_test_and_set_state:
4578  * Test if current state of \p thread include \p test. If it does not, OR \p set into the state.
4579  * \returns TRUE if \p set was OR'd in.
4580  */
4581 gboolean
4582 mono_thread_test_and_set_state (MonoInternalThread *thread, MonoThreadState test, MonoThreadState set)
4583 {
4584         LOCK_THREAD (thread);
4585
4586         if ((thread->state & test) != 0) {
4587                 UNLOCK_THREAD (thread);
4588                 return FALSE;
4589         }
4590
4591         thread->state |= set;
4592         UNLOCK_THREAD (thread);
4593
4594         return TRUE;
4595 }
4596
4597 void
4598 mono_thread_clr_state (MonoInternalThread *thread, MonoThreadState state)
4599 {
4600         LOCK_THREAD (thread);
4601         thread->state &= ~state;
4602         UNLOCK_THREAD (thread);
4603 }
4604
4605 gboolean
4606 mono_thread_test_state (MonoInternalThread *thread, MonoThreadState test)
4607 {
4608         gboolean ret = FALSE;
4609
4610         LOCK_THREAD (thread);
4611
4612         if ((thread->state & test) != 0) {
4613                 ret = TRUE;
4614         }
4615         
4616         UNLOCK_THREAD (thread);
4617         
4618         return ret;
4619 }
4620
4621 static void
4622 self_interrupt_thread (void *_unused)
4623 {
4624         MonoException *exc;
4625         MonoThreadInfo *info;
4626
4627         exc = mono_thread_execute_interruption ();
4628         if (!exc) {
4629                 if (mono_threads_is_coop_enabled ()) {
4630                         /* We can return from an async call in coop, as
4631                          * it's simply called when exiting the safepoint */
4632                         return;
4633                 }
4634
4635                 g_error ("%s: we can't resume from an async call", __func__);
4636         }
4637
4638         info = mono_thread_info_current ();
4639
4640         /* We must use _with_context since we didn't trampoline into the runtime */
4641         mono_raise_exception_with_context (exc, &info->thread_saved_state [ASYNC_SUSPEND_STATE_INDEX].ctx); /* FIXME using thread_saved_state [ASYNC_SUSPEND_STATE_INDEX] can race with another suspend coming in. */
4642 }
4643
4644 static gboolean
4645 mono_jit_info_match (MonoJitInfo *ji, gpointer ip)
4646 {
4647         if (!ji)
4648                 return FALSE;
4649         return ji->code_start <= ip && (char*)ip < (char*)ji->code_start + ji->code_size;
4650 }
4651
4652 static gboolean
4653 last_managed (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
4654 {
4655         MonoJitInfo **dest = (MonoJitInfo **)data;
4656         *dest = frame->ji;
4657         return TRUE;
4658 }
4659
4660 static MonoJitInfo*
4661 mono_thread_info_get_last_managed (MonoThreadInfo *info)
4662 {
4663         MonoJitInfo *ji = NULL;
4664         if (!info)
4665                 return NULL;
4666
4667         /*
4668          * The suspended thread might be holding runtime locks. Make sure we don't try taking
4669          * any runtime locks while unwinding. In coop case we shouldn't safepoint in regions
4670          * where we hold runtime locks.
4671          */
4672         if (!mono_threads_is_coop_enabled ())
4673                 mono_thread_info_set_is_async_context (TRUE);
4674         mono_get_eh_callbacks ()->mono_walk_stack_with_state (last_managed, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, &ji);
4675         if (!mono_threads_is_coop_enabled ())
4676                 mono_thread_info_set_is_async_context (FALSE);
4677         return ji;
4678 }
4679
4680 typedef struct {
4681         MonoInternalThread *thread;
4682         gboolean install_async_abort;
4683         MonoThreadInfoInterruptToken *interrupt_token;
4684 } AbortThreadData;
4685
4686 static SuspendThreadResult
4687 async_abort_critical (MonoThreadInfo *info, gpointer ud)
4688 {
4689         AbortThreadData *data = (AbortThreadData *)ud;
4690         MonoInternalThread *thread = data->thread;
4691         MonoJitInfo *ji = NULL;
4692         gboolean protected_wrapper;
4693         gboolean running_managed;
4694
4695         if (mono_get_eh_callbacks ()->mono_install_handler_block_guard (mono_thread_info_get_suspend_state (info)))
4696                 return MonoResumeThread;
4697
4698         /*someone is already interrupting it*/
4699         if (!mono_thread_set_interruption_requested (thread))
4700                 return MonoResumeThread;
4701
4702         ji = mono_thread_info_get_last_managed (info);
4703         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4704         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4705
4706         if (!protected_wrapper && running_managed) {
4707                 /*We are in managed code*/
4708                 /*Set the thread to call */
4709                 if (data->install_async_abort)
4710                         mono_thread_info_setup_async_call (info, self_interrupt_thread, NULL);
4711                 return MonoResumeThread;
4712         } else {
4713                 /* 
4714                  * This will cause waits to be broken.
4715                  * It will also prevent the thread from entering a wait, so if the thread returns
4716                  * from the wait before it receives the abort signal, it will just spin in the wait
4717                  * functions in the io-layer until the signal handler calls QueueUserAPC which will
4718                  * make it return.
4719                  */
4720                 data->interrupt_token = mono_thread_info_prepare_interrupt (info);
4721
4722                 return MonoResumeThread;
4723         }
4724 }
4725
4726 static void
4727 async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort)
4728 {
4729         AbortThreadData data;
4730
4731         g_assert (thread != mono_thread_internal_current ());
4732
4733         data.thread = thread;
4734         data.install_async_abort = install_async_abort;
4735         data.interrupt_token = NULL;
4736
4737         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), TRUE, async_abort_critical, &data);
4738         if (data.interrupt_token)
4739                 mono_thread_info_finish_interrupt (data.interrupt_token);
4740         /*FIXME we need to wait for interruption to complete -- figure out how much into interruption we should wait for here*/
4741 }
4742
4743 static void
4744 self_abort_internal (MonoError *error)
4745 {
4746         MonoException *exc;
4747
4748         error_init (error);
4749
4750         /* FIXME this is insanely broken, it doesn't cause interruption to happen synchronously
4751          * since passing FALSE to mono_thread_request_interruption makes sure it returns NULL */
4752
4753         /*
4754         Self aborts ignore the protected block logic and raise the TAE regardless. This is verified by one of the tests in mono/tests/abort-cctor.cs.
4755         */
4756         exc = mono_thread_request_interruption (TRUE);
4757         if (exc)
4758                 mono_error_set_exception_instance (error, exc);
4759         else
4760                 mono_thread_info_self_interrupt ();
4761 }
4762
4763 typedef struct {
4764         MonoInternalThread *thread;
4765         gboolean interrupt;
4766         MonoThreadInfoInterruptToken *interrupt_token;
4767 } SuspendThreadData;
4768
4769 static SuspendThreadResult
4770 async_suspend_critical (MonoThreadInfo *info, gpointer ud)
4771 {
4772         SuspendThreadData *data = (SuspendThreadData *)ud;
4773         MonoInternalThread *thread = data->thread;
4774         MonoJitInfo *ji = NULL;
4775         gboolean protected_wrapper;
4776         gboolean running_managed;
4777
4778         ji = mono_thread_info_get_last_managed (info);
4779         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4780         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4781
4782         if (running_managed && !protected_wrapper) {
4783                 if (mono_threads_is_coop_enabled ()) {
4784                         mono_thread_info_setup_async_call (info, self_interrupt_thread, NULL);
4785                         return MonoResumeThread;
4786                 } else {
4787                         thread->state &= ~ThreadState_SuspendRequested;
4788                         thread->state |= ThreadState_Suspended;
4789                         return KeepSuspended;
4790                 }
4791         } else {
4792                 mono_thread_set_interruption_requested (thread);
4793                 if (data->interrupt)
4794                         data->interrupt_token = mono_thread_info_prepare_interrupt ((MonoThreadInfo *)thread->thread_info);
4795
4796                 return MonoResumeThread;
4797         }
4798 }
4799
4800 /* LOCKING: called with @thread synch_cs held, and releases it */
4801 static void
4802 async_suspend_internal (MonoInternalThread *thread, gboolean interrupt)
4803 {
4804         SuspendThreadData data;
4805
4806         g_assert (thread != mono_thread_internal_current ());
4807
4808         // MOSTLY_ASYNC_SAFE_PRINTF ("ASYNC SUSPEND thread %p\n", thread_get_tid (thread));
4809
4810         thread->self_suspended = FALSE;
4811
4812         data.thread = thread;
4813         data.interrupt = interrupt;
4814         data.interrupt_token = NULL;
4815
4816         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), interrupt, async_suspend_critical, &data);
4817         if (data.interrupt_token)
4818                 mono_thread_info_finish_interrupt (data.interrupt_token);
4819
4820         UNLOCK_THREAD (thread);
4821 }
4822
4823 /* LOCKING: called with @thread synch_cs held, and releases it */
4824 static void
4825 self_suspend_internal (void)
4826 {
4827         MonoInternalThread *thread;
4828         MonoOSEvent *event;
4829         MonoOSEventWaitRet res;
4830
4831         thread = mono_thread_internal_current ();
4832
4833         // MOSTLY_ASYNC_SAFE_PRINTF ("SELF SUSPEND thread %p\n", thread_get_tid (thread));
4834
4835         thread->self_suspended = TRUE;
4836
4837         thread->state &= ~ThreadState_SuspendRequested;
4838         thread->state |= ThreadState_Suspended;
4839
4840         UNLOCK_THREAD (thread);
4841
4842         event = thread->suspended;
4843
4844         MONO_ENTER_GC_SAFE;
4845         res = mono_os_event_wait_one (event, MONO_INFINITE_WAIT, TRUE);
4846         g_assert (res == MONO_OS_EVENT_WAIT_RET_SUCCESS_0 || res == MONO_OS_EVENT_WAIT_RET_ALERTED);
4847         MONO_EXIT_GC_SAFE;
4848 }
4849
4850 static void
4851 suspend_for_shutdown_async_call (gpointer unused)
4852 {
4853         for (;;)
4854                 mono_thread_info_yield ();
4855 }
4856
4857 static SuspendThreadResult
4858 suspend_for_shutdown_critical (MonoThreadInfo *info, gpointer unused)
4859 {
4860         mono_thread_info_setup_async_call (info, suspend_for_shutdown_async_call, NULL);
4861         return MonoResumeThread;
4862 }
4863
4864 void
4865 mono_thread_internal_suspend_for_shutdown (MonoInternalThread *thread)
4866 {
4867         g_assert (thread != mono_thread_internal_current ());
4868
4869         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, suspend_for_shutdown_critical, NULL);
4870 }
4871
4872 /**
4873  * mono_thread_is_foreign:
4874  * \param thread the thread to query
4875  *
4876  * This function allows one to determine if a thread was created by the mono runtime and has
4877  * a well defined lifecycle or it's a foreign one, created by the native environment.
4878  *
4879  * \returns TRUE if \p thread was not created by the runtime.
4880  */
4881 mono_bool
4882 mono_thread_is_foreign (MonoThread *thread)
4883 {
4884         MonoThreadInfo *info = (MonoThreadInfo *)thread->internal_thread->thread_info;
4885         return info->runtime_thread == FALSE;
4886 }
4887
4888 /*
4889  * mono_add_joinable_thread:
4890  *
4891  *   Add TID to the list of joinable threads.
4892  * LOCKING: Acquires the threads lock.
4893  */
4894 void
4895 mono_threads_add_joinable_thread (gpointer tid)
4896 {
4897 #ifndef HOST_WIN32
4898         /*
4899          * We cannot detach from threads because it causes problems like
4900          * 2fd16f60/r114307. So we collect them and join them when
4901          * we have time (in he finalizer thread).
4902          */
4903         joinable_threads_lock ();
4904         if (!joinable_threads)
4905                 joinable_threads = g_hash_table_new (NULL, NULL);
4906         g_hash_table_insert (joinable_threads, tid, tid);
4907         joinable_thread_count ++;
4908         joinable_threads_unlock ();
4909
4910         mono_gc_finalize_notify ();
4911 #endif
4912 }
4913
4914 /*
4915  * mono_threads_join_threads:
4916  *
4917  *   Join all joinable threads. This is called from the finalizer thread.
4918  * LOCKING: Acquires the threads lock.
4919  */
4920 void
4921 mono_threads_join_threads (void)
4922 {
4923 #ifndef HOST_WIN32
4924         GHashTableIter iter;
4925         gpointer key;
4926         gpointer tid;
4927         pthread_t thread;
4928         gboolean found;
4929
4930         /* Fastpath */
4931         if (!joinable_thread_count)
4932                 return;
4933
4934         while (TRUE) {
4935                 joinable_threads_lock ();
4936                 found = FALSE;
4937                 if (g_hash_table_size (joinable_threads)) {
4938                         g_hash_table_iter_init (&iter, joinable_threads);
4939                         g_hash_table_iter_next (&iter, &key, (void**)&tid);
4940                         thread = (pthread_t)tid;
4941                         g_hash_table_remove (joinable_threads, key);
4942                         joinable_thread_count --;
4943                         found = TRUE;
4944                 }
4945                 joinable_threads_unlock ();
4946                 if (found) {
4947                         if (thread != pthread_self ()) {
4948                                 MONO_ENTER_GC_SAFE;
4949                                 /* This shouldn't block */
4950                                 mono_threads_join_lock ();
4951                                 mono_native_thread_join (thread);
4952                                 mono_threads_join_unlock ();
4953                                 MONO_EXIT_GC_SAFE;
4954                         }
4955                 } else {
4956                         break;
4957                 }
4958         }
4959 #endif
4960 }
4961
4962 /*
4963  * mono_thread_join:
4964  *
4965  *   Wait for thread TID to exit.
4966  * LOCKING: Acquires the threads lock.
4967  */
4968 void
4969 mono_thread_join (gpointer tid)
4970 {
4971 #ifndef HOST_WIN32
4972         pthread_t thread;
4973         gboolean found = FALSE;
4974
4975         joinable_threads_lock ();
4976         if (!joinable_threads)
4977                 joinable_threads = g_hash_table_new (NULL, NULL);
4978         if (g_hash_table_lookup (joinable_threads, tid)) {
4979                 g_hash_table_remove (joinable_threads, tid);
4980                 joinable_thread_count --;
4981                 found = TRUE;
4982         }
4983         joinable_threads_unlock ();
4984         if (!found)
4985                 return;
4986         thread = (pthread_t)tid;
4987         MONO_ENTER_GC_SAFE;
4988         mono_native_thread_join (thread);
4989         MONO_EXIT_GC_SAFE;
4990 #endif
4991 }
4992
4993 void
4994 mono_thread_internal_unhandled_exception (MonoObject* exc)
4995 {
4996         MonoClass *klass = exc->vtable->klass;
4997         if (is_threadabort_exception (klass)) {
4998                 mono_thread_internal_reset_abort (mono_thread_internal_current ());
4999         } else if (!is_appdomainunloaded_exception (klass)
5000                 && mono_runtime_unhandled_exception_policy_get () == MONO_UNHANDLED_POLICY_CURRENT) {
5001                 mono_unhandled_exception (exc);
5002                 if (mono_environment_exitcode_get () == 1) {
5003                         mono_environment_exitcode_set (255);
5004                         mono_invoke_unhandled_exception_hook (exc);
5005                         g_assert_not_reached ();
5006                 }
5007         }
5008 }
5009
5010 void
5011 ves_icall_System_Threading_Thread_GetStackTraces (MonoArray **out_threads, MonoArray **out_stack_traces)
5012 {
5013         MonoError error;
5014         mono_threads_get_thread_dump (out_threads, out_stack_traces, &error);
5015         mono_error_set_pending_exception (&error);
5016 }
5017
5018 /*
5019  * mono_threads_attach_coop: called by native->managed wrappers
5020  *
5021  * In non-coop mode:
5022  *  - @dummy: is NULL
5023  *  - @return: the original domain which needs to be restored, or NULL.
5024  *
5025  * In coop mode:
5026  *  - @dummy: contains the original domain
5027  *  - @return: a cookie containing current MonoThreadInfo*.
5028  */
5029 gpointer
5030 mono_threads_attach_coop (MonoDomain *domain, gpointer *dummy)
5031 {
5032         MonoDomain *orig;
5033         gboolean fresh_thread = FALSE;
5034
5035         if (!domain) {
5036                 /* Happens when called from AOTed code which is only used in the root domain. */
5037                 domain = mono_get_root_domain ();
5038         }
5039
5040         g_assert (domain);
5041
5042         /* On coop, when we detached, we moved the thread from  RUNNING->BLOCKING.
5043          * If we try to reattach we do a BLOCKING->RUNNING transition.  If the thread
5044          * is fresh, mono_thread_attach() will do a STARTING->RUNNING transition so
5045          * we're only responsible for making the cookie. */
5046         if (mono_threads_is_coop_enabled ()) {
5047                 MonoThreadInfo *info = mono_thread_info_current_unchecked ();
5048                 fresh_thread = !info || !mono_thread_info_is_live (info);
5049         }
5050
5051         if (!mono_thread_internal_current ()) {
5052                 mono_thread_attach_full (domain, FALSE);
5053
5054                 // #678164
5055                 mono_thread_set_state (mono_thread_internal_current (), ThreadState_Background);
5056         }
5057
5058         orig = mono_domain_get ();
5059         if (orig != domain)
5060                 mono_domain_set (domain, TRUE);
5061
5062         if (!mono_threads_is_coop_enabled ())
5063                 return orig != domain ? orig : NULL;
5064
5065         if (fresh_thread) {
5066                 *dummy = NULL;
5067                 /* mono_thread_attach put the thread in RUNNING mode from STARTING, but we need to
5068                  * return the right cookie. */
5069                 return mono_threads_enter_gc_unsafe_region_cookie ();
5070         } else {
5071                 *dummy = orig;
5072                 /* thread state (BLOCKING|RUNNING) -> RUNNING */
5073                 return mono_threads_enter_gc_unsafe_region (dummy);
5074         }
5075 }
5076
5077 /*
5078  * mono_threads_detach_coop: called by native->managed wrappers
5079  *
5080  * In non-coop mode:
5081  *  - @cookie: the original domain which needs to be restored, or NULL.
5082  *  - @dummy: is NULL
5083  *
5084  * In coop mode:
5085  *  - @cookie: contains current MonoThreadInfo* if it was in BLOCKING mode, NULL otherwise
5086  *  - @dummy: contains the original domain
5087  */
5088 void
5089 mono_threads_detach_coop (gpointer cookie, gpointer *dummy)
5090 {
5091         MonoDomain *domain, *orig;
5092
5093         if (!mono_threads_is_coop_enabled ()) {
5094                 orig = (MonoDomain*) cookie;
5095                 if (orig)
5096                         mono_domain_set (orig, TRUE);
5097         } else {
5098                 orig = (MonoDomain*) *dummy;
5099
5100                 domain = mono_domain_get ();
5101                 g_assert (domain);
5102
5103                 /* it won't do anything if cookie is NULL
5104                  * thread state RUNNING -> (RUNNING|BLOCKING) */
5105                 mono_threads_exit_gc_unsafe_region (cookie, dummy);
5106
5107                 if (orig != domain) {
5108                         if (!orig)
5109                                 mono_domain_unset ();
5110                         else
5111                                 mono_domain_set (orig, TRUE);
5112                 }
5113         }
5114 }
5115
5116 #if 0
5117 /* Returns TRUE if the current thread is ready to be interrupted. */
5118 gboolean
5119 mono_threads_is_ready_to_be_interrupted (void)
5120 {
5121         MonoInternalThread *thread;
5122
5123         thread = mono_thread_internal_current ();
5124         LOCK_THREAD (thread);
5125         if (thread->state & (ThreadState_SuspendRequested | ThreadState_AbortRequested)) {
5126                 UNLOCK_THREAD (thread);
5127                 return FALSE;
5128         }
5129
5130         if (mono_thread_get_abort_prot_block_count (thread) || mono_get_eh_callbacks ()->mono_current_thread_has_handle_block_guard ()) {
5131                 UNLOCK_THREAD (thread);
5132                 return FALSE;
5133         }
5134
5135         UNLOCK_THREAD (thread);
5136         return TRUE;
5137 }
5138 #endif
5139
5140 void
5141 mono_thread_internal_describe (MonoInternalThread *internal, GString *text)
5142 {
5143         g_string_append_printf (text, ", thread handle : %p", internal->handle);
5144
5145         if (internal->thread_info) {
5146                 g_string_append (text, ", state : ");
5147                 mono_thread_info_describe_interrupt_token ((MonoThreadInfo*) internal->thread_info, text);
5148         }
5149
5150         if (internal->owned_mutexes) {
5151                 int i;
5152
5153                 g_string_append (text, ", owns : [");
5154                 for (i = 0; i < internal->owned_mutexes->len; i++)
5155                         g_string_append_printf (text, i == 0 ? "%p" : ", %p", g_ptr_array_index (internal->owned_mutexes, i));
5156                 g_string_append (text, "]");
5157         }
5158 }
5159
5160 gboolean
5161 mono_thread_internal_is_current (MonoInternalThread *internal)
5162 {
5163         g_assert (internal);
5164         return mono_native_thread_id_equals (mono_native_thread_id_get (), MONO_UINT_TO_NATIVE_THREAD_ID (internal->tid));
5165 }