mono/metadata/threads.c

   1 /*
   2  * threads.c: Thread support internal calls
   3  *
   4  * Author:
   5  *      Dick Porter (dick@ximian.com)
   6  *      Paolo Molaro (lupus@ximian.com)
   7  *      Patrik Torstensson (patrik.torstensson@labs2.com)
   8  *
   9  * Copyright 2001-2003 Ximian, Inc (http://www.ximian.com)
  10  * Copyright 2004-2009 Novell, Inc (http://www.novell.com)
  11  * Copyright 2011 Xamarin, Inc (http://www.xamarin.com)
  12  * Licensed under the MIT license. See LICENSE file in the project root for full license information.
  13  */
  14
  15 #include <config.h>
  16
  17 #include <glib.h>
  18 #include <string.h>
  19
  20 #include <mono/metadata/object.h>
  21 #include <mono/metadata/domain-internals.h>
  22 #include <mono/metadata/profiler-private.h>
  23 #include <mono/metadata/threads.h>
  24 #include <mono/metadata/threads-types.h>
  25 #include <mono/metadata/exception.h>
  26 #include <mono/metadata/environment.h>
  27 #include <mono/metadata/monitor.h>
  28 #include <mono/metadata/gc-internals.h>
  29 #include <mono/metadata/marshal.h>
  30 #include <mono/metadata/runtime.h>
  31 #include <mono/io-layer/io-layer.h>
  32 #include <mono/metadata/object-internals.h>
  33 #include <mono/metadata/mono-debug-debugger.h>
  34 #include <mono/utils/monobitset.h>
  35 #include <mono/utils/mono-compiler.h>
  36 #include <mono/utils/mono-mmap.h>
  37 #include <mono/utils/mono-membar.h>
  38 #include <mono/utils/mono-time.h>
  39 #include <mono/utils/mono-threads.h>
  40 #include <mono/utils/hazard-pointer.h>
  41 #include <mono/utils/mono-tls.h>
  42 #include <mono/utils/atomic.h>
  43 #include <mono/utils/mono-memory-model.h>
  44 #include <mono/utils/mono-threads-coop.h>
  45 #include <mono/utils/mono-error-internals.h>
  46
  47 #include <mono/metadata/gc-internals.h>
  48 #include <mono/metadata/reflection-internals.h>
  49
  50 #ifdef HAVE_SIGNAL_H
  51 #include <signal.h>
  52 #endif
  53
  54 #if defined(PLATFORM_ANDROID) && !defined(TARGET_ARM64) && !defined(TARGET_AMD64)
  55 #define USE_TKILL_ON_ANDROID 1
  56 #endif
  57
  58 #ifdef PLATFORM_ANDROID
  59 #include <errno.h>
  60
  61 #ifdef USE_TKILL_ON_ANDROID
  62 extern int tkill (pid_t tid, int signal);
  63 #endif
  64 #endif
  65
  66 /*#define THREAD_DEBUG(a) do { a; } while (0)*/
  67 #define THREAD_DEBUG(a)
  68 /*#define THREAD_WAIT_DEBUG(a) do { a; } while (0)*/
  69 #define THREAD_WAIT_DEBUG(a)
  70 /*#define LIBGC_DEBUG(a) do { a; } while (0)*/
  71 #define LIBGC_DEBUG(a)
  72
  73 #define SPIN_TRYLOCK(i) (InterlockedCompareExchange (&(i), 1, 0) == 0)
  74 #define SPIN_LOCK(i) do { \
  75                                 if (SPIN_TRYLOCK (i)) \
  76                                         break; \
  77                         } while (1)
  78
  79 #define SPIN_UNLOCK(i) i = 0
  80
  81 #define LOCK_THREAD(thread) lock_thread((thread))
  82 #define UNLOCK_THREAD(thread) unlock_thread((thread))
  83
  84 typedef struct
  85 {
  86         guint32 (*func)(void *);
  87         MonoThread *obj;
  88         MonoObject *delegate;
  89         void *start_arg;
  90 } StartInfo;
  91
  92 typedef union {
  93         gint32 ival;
  94         gfloat fval;
  95 } IntFloatUnion;
  96
  97 typedef union {
  98         gint64 ival;
  99         gdouble fval;
 100 } LongDoubleUnion;
 101
 102 typedef struct _StaticDataFreeList StaticDataFreeList;
 103 struct _StaticDataFreeList {
 104         StaticDataFreeList *next;
 105         guint32 offset;
 106         guint32 size;
 107 };
 108
 109 typedef struct {
 110         int idx;
 111         int offset;
 112         StaticDataFreeList *freelist;
 113 } StaticDataInfo;
 114
 115 /* Number of cached culture objects in the MonoThread->cached_culture_info array
 116  * (per-type): we use the first NUM entries for CultureInfo and the last for
 117  * UICultureInfo. So the size of the array is really NUM_CACHED_CULTURES * 2.
 118  */
 119 #define NUM_CACHED_CULTURES 4
 120 #define CULTURES_START_IDX 0
 121 #define UICULTURES_START_IDX NUM_CACHED_CULTURES
 122
 123 /* Controls access to the 'threads' hash table */
 124 static void mono_threads_lock (void);
 125 static void mono_threads_unlock (void);
 126 static MonoCoopMutex threads_mutex;
 127
 128 /* Controls access to the 'joinable_threads' hash table */
 129 #define joinable_threads_lock() mono_os_mutex_lock (&joinable_threads_mutex)
 130 #define joinable_threads_unlock() mono_os_mutex_unlock (&joinable_threads_mutex)
 131 static mono_mutex_t joinable_threads_mutex;
 132
 133 /* Holds current status of static data heap */
 134 static StaticDataInfo thread_static_info;
 135 static StaticDataInfo context_static_info;
 136
 137 /* The hash of existing threads (key is thread ID, value is
 138  * MonoInternalThread*) that need joining before exit
 139  */
 140 static MonoGHashTable *threads=NULL;
 141
 142 /* List of app context GC handles.
 143  * Added to from ves_icall_System_Runtime_Remoting_Contexts_Context_RegisterContext ().
 144  */
 145 static GHashTable *contexts = NULL;
 146
 147 /* Cleanup queue for contexts. */
 148 static MonoReferenceQueue *context_queue;
 149
 150 /*
 151  * Threads which are starting up and they are not in the 'threads' hash yet.
 152  * When handle_store is called for a thread, it will be removed from this hash table.
 153  * Protected by mono_threads_lock ().
 154  */
 155 static MonoGHashTable *threads_starting_up = NULL;
 156
 157 /* The TLS key that holds the MonoObject assigned to each thread */
 158 static MonoNativeTlsKey current_object_key;
 159
 160 /* Contains tids */
 161 /* Protected by the threads lock */
 162 static GHashTable *joinable_threads;
 163 static int joinable_thread_count;
 164
 165 #ifdef MONO_HAVE_FAST_TLS
 166 /* we need to use both the Tls* functions and __thread because
 167  * the gc needs to see all the threads
 168  */
 169 MONO_FAST_TLS_DECLARE(tls_current_object);
 170 #define SET_CURRENT_OBJECT(x) do { \
 171         MONO_FAST_TLS_SET (tls_current_object, x); \
 172         mono_native_tls_set_value (current_object_key, x); \
 173 } while (FALSE)
 174 #define GET_CURRENT_OBJECT() ((MonoInternalThread*) MONO_FAST_TLS_GET (tls_current_object))
 175 #else
 176 #define SET_CURRENT_OBJECT(x) mono_native_tls_set_value (current_object_key, x)
 177 #define GET_CURRENT_OBJECT() (MonoInternalThread*) mono_native_tls_get_value (current_object_key)
 178 #endif
 179
 180 /* function called at thread start */
 181 static MonoThreadStartCB mono_thread_start_cb = NULL;
 182
 183 /* function called at thread attach */
 184 static MonoThreadAttachCB mono_thread_attach_cb = NULL;
 185
 186 /* function called at thread cleanup */
 187 static MonoThreadCleanupFunc mono_thread_cleanup_fn = NULL;
 188
 189 /* The default stack size for each thread */
 190 static guint32 default_stacksize = 0;
 191 #define default_stacksize_for_thread(thread) ((thread)->stack_size? (thread)->stack_size: default_stacksize)
 192
 193 static void thread_adjust_static_data (MonoInternalThread *thread);
 194 static void context_adjust_static_data (MonoAppContext *ctx);
 195 static void mono_free_static_data (gpointer* static_data);
 196 static void mono_init_static_data_info (StaticDataInfo *static_data);
 197 static guint32 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align);
 198 static gboolean mono_thread_resume (MonoInternalThread* thread);
 199 static void async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort);
 200 static void self_abort_internal (void);
 201 static void async_suspend_internal (MonoInternalThread *thread, gboolean interrupt);
 202 static void self_suspend_internal (void);
 203
 204 static MonoException* mono_thread_execute_interruption (void);
 205 static void ref_stack_destroy (gpointer rs);
 206
 207 /* Spin lock for InterlockedXXX 64 bit functions */
 208 #define mono_interlocked_lock() mono_os_mutex_lock (&interlocked_mutex)
 209 #define mono_interlocked_unlock() mono_os_mutex_unlock (&interlocked_mutex)
 210 static mono_mutex_t interlocked_mutex;
 211
 212 /* global count of thread interruptions requested */
 213 static gint32 thread_interruption_requested = 0;
 214
 215 /* Event signaled when a thread changes its background mode */
 216 static HANDLE background_change_event;
 217
 218 static gboolean shutting_down = FALSE;
 219
 220 static gint32 managed_thread_id_counter = 0;
 221
 222 /* Class lazy loading functions */
 223 static GENERATE_GET_CLASS_WITH_CACHE (appdomain_unloaded_exception, System, AppDomainUnloadedException)
 224
 225 static void
 226 mono_threads_lock (void)
 227 {
 228         mono_locks_coop_acquire (&threads_mutex, ThreadsLock);
 229 }
 230
 231 static void
 232 mono_threads_unlock (void)
 233 {
 234         mono_locks_coop_release (&threads_mutex, ThreadsLock);
 235 }
 236
 237
 238 static guint32
 239 get_next_managed_thread_id (void)
 240 {
 241         return InterlockedIncrement (&managed_thread_id_counter);
 242 }
 243
 244 MonoNativeTlsKey
 245 mono_thread_get_tls_key (void)
 246 {
 247         return current_object_key;
 248 }
 249
 250 gint32
 251 mono_thread_get_tls_offset (void)
 252 {
 253         int offset = -1;
 254
 255 #ifdef HOST_WIN32
 256         if (current_object_key)
 257                 offset = current_object_key;
 258 #else
 259         MONO_THREAD_VAR_OFFSET (tls_current_object,offset);
 260 #endif
 261         return offset;
 262 }
 263
 264 static inline MonoNativeThreadId
 265 thread_get_tid (MonoInternalThread *thread)
 266 {
 267         /* We store the tid as a guint64 to keep the object layout constant between platforms */
 268         return MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid);
 269 }
 270
 271 /* handle_store() and handle_remove() manage the array of threads that
 272  * still need to be waited for when the main thread exits.
 273  *
 274  * If handle_store() returns FALSE the thread must not be started
 275  * because Mono is shutting down.
 276  */
 277 static gboolean handle_store(MonoThread *thread, gboolean force_attach)
 278 {
 279         mono_threads_lock ();
 280
 281         THREAD_DEBUG (g_message ("%s: thread %p ID %"G_GSIZE_FORMAT, __func__, thread, (gsize)thread->internal_thread->tid));
 282
 283         if (threads_starting_up)
 284                 mono_g_hash_table_remove (threads_starting_up, thread);
 285
 286         if (shutting_down && !force_attach) {
 287                 mono_threads_unlock ();
 288                 return FALSE;
 289         }
 290
 291         if(threads==NULL) {
 292                 MONO_GC_REGISTER_ROOT_FIXED (threads, MONO_ROOT_SOURCE_THREADING, "threads table");
 293                 threads=mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "threads table");
 294         }
 295
 296         /* We don't need to duplicate thread->handle, because it is
 297          * only closed when the thread object is finalized by the GC.
 298          */
 299         g_assert (thread->internal_thread);
 300         mono_g_hash_table_insert(threads, (gpointer)(gsize)(thread->internal_thread->tid),
 301                                  thread->internal_thread);
 302
 303         mono_threads_unlock ();
 304
 305         return TRUE;
 306 }
 307
 308 static gboolean handle_remove(MonoInternalThread *thread)
 309 {
 310         gboolean ret;
 311         gsize tid = thread->tid;
 312
 313         THREAD_DEBUG (g_message ("%s: thread ID %"G_GSIZE_FORMAT, __func__, tid));
 314
 315         mono_threads_lock ();
 316
 317         if (threads) {
 318                 /* We have to check whether the thread object for the
 319                  * tid is still the same in the table because the
 320                  * thread might have been destroyed and the tid reused
 321                  * in the meantime, in which case the tid would be in
 322                  * the table, but with another thread object.
 323                  */
 324                 if (mono_g_hash_table_lookup (threads, (gpointer)tid) == thread) {
 325                         mono_g_hash_table_remove (threads, (gpointer)tid);
 326                         ret = TRUE;
 327                 } else {
 328                         ret = FALSE;
 329                 }
 330         }
 331         else
 332                 ret = FALSE;
 333
 334         mono_threads_unlock ();
 335
 336         /* Don't close the handle here, wait for the object finalizer
 337          * to do it. Otherwise, the following race condition applies:
 338          *
 339          * 1) Thread exits (and handle_remove() closes the handle)
 340          *
 341          * 2) Some other handle is reassigned the same slot
 342          *
 343          * 3) Another thread tries to join the first thread, and
 344          * blocks waiting for the reassigned handle to be signalled
 345          * (which might never happen).  This is possible, because the
 346          * thread calling Join() still has a reference to the first
 347          * thread's object.
 348          */
 349         return ret;
 350 }
 351
 352 static void ensure_synch_cs_set (MonoInternalThread *thread)
 353 {
 354         MonoCoopMutex *synch_cs;
 355
 356         if (thread->synch_cs != NULL) {
 357                 return;
 358         }
 359
 360         synch_cs = g_new0 (MonoCoopMutex, 1);
 361         mono_coop_mutex_init_recursive (synch_cs);
 362
 363         if (InterlockedCompareExchangePointer ((gpointer *)&thread->synch_cs,
 364                                                synch_cs, NULL) != NULL) {
 365                 /* Another thread must have installed this CS */
 366                 mono_coop_mutex_destroy (synch_cs);
 367                 g_free (synch_cs);
 368         }
 369 }
 370
 371 static inline void
 372 lock_thread (MonoInternalThread *thread)
 373 {
 374         if (!thread->synch_cs)
 375                 ensure_synch_cs_set (thread);
 376
 377         g_assert (thread->synch_cs);
 378
 379         mono_coop_mutex_lock (thread->synch_cs);
 380 }
 381
 382 static inline void
 383 unlock_thread (MonoInternalThread *thread)
 384 {
 385         mono_coop_mutex_unlock (thread->synch_cs);
 386 }
 387
 388 /*
 389  * NOTE: this function can be called also for threads different from the current one:
 390  * make sure no code called from it will ever assume it is run on the thread that is
 391  * getting cleaned up.
 392  */
 393 static void thread_cleanup (MonoInternalThread *thread)
 394 {
 395         g_assert (thread != NULL);
 396
 397         if (thread->abort_state_handle) {
 398                 mono_gchandle_free (thread->abort_state_handle);
 399                 thread->abort_state_handle = 0;
 400         }
 401         thread->abort_exc = NULL;
 402         thread->current_appcontext = NULL;
 403
 404         /*
 405          * This is necessary because otherwise we might have
 406          * cross-domain references which will not get cleaned up when
 407          * the target domain is unloaded.
 408          */
 409         if (thread->cached_culture_info) {
 410                 int i;
 411                 for (i = 0; i < NUM_CACHED_CULTURES * 2; ++i)
 412                         mono_array_set (thread->cached_culture_info, MonoObject*, i, NULL);
 413         }
 414
 415         /*
 416          * thread->synch_cs can be NULL if this was called after
 417          * ves_icall_System_Threading_InternalThread_Thread_free_internal.
 418          * This can happen only during shutdown.
 419          * The shutting_down flag is not always set, so we can't assert on it.
 420          */
 421         if (thread->synch_cs)
 422                 LOCK_THREAD (thread);
 423
 424         thread->state |= ThreadState_Stopped;
 425         thread->state &= ~ThreadState_Background;
 426
 427         if (thread->synch_cs)
 428                 UNLOCK_THREAD (thread);
 429
 430         /*
 431         An interruption request has leaked to cleanup. Adjust the global counter.
 432
 433         This can happen is the abort source thread finds the abortee (this) thread
 434         in unmanaged code. If this thread never trips back to managed code or check
 435         the local flag it will be left set and positively unbalance the global counter.
 436
 437         Leaving the counter unbalanced will cause a performance degradation since all threads
 438         will now keep checking their local flags all the time.
 439         */
 440         if (InterlockedExchange (&thread->interruption_requested, 0))
 441                 InterlockedDecrement (&thread_interruption_requested);
 442
 443         /* if the thread is not in the hash it has been removed already */
 444         if (!handle_remove (thread)) {
 445                 if (thread == mono_thread_internal_current ()) {
 446                         mono_domain_unset ();
 447                         mono_memory_barrier ();
 448                 }
 449                 /* This needs to be called even if handle_remove () fails */
 450                 if (mono_thread_cleanup_fn)
 451                         mono_thread_cleanup_fn (thread_get_tid (thread));
 452                 return;
 453         }
 454         mono_release_type_locks (thread);
 455
 456         /* Can happen when we attach the profiler helper thread in order to heapshot. */
 457         if (!mono_thread_info_lookup (MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid))->tools_thread)
 458                 mono_profiler_thread_end (thread->tid);
 459
 460         mono_hazard_pointer_clear (mono_hazard_pointer_get (), 1);
 461
 462         if (thread == mono_thread_internal_current ()) {
 463                 /*
 464                  * This will signal async signal handlers that the thread has exited.
 465                  * The profiler callback needs this to be set, so it cannot be done earlier.
 466                  */
 467                 mono_domain_unset ();
 468                 mono_memory_barrier ();
 469         }
 470
 471         if (thread == mono_thread_internal_current ())
 472                 mono_thread_pop_appdomain_ref ();
 473
 474         thread->cached_culture_info = NULL;
 475
 476         mono_free_static_data (thread->static_data);
 477         thread->static_data = NULL;
 478         ref_stack_destroy (thread->appdomain_refs);
 479         thread->appdomain_refs = NULL;
 480
 481         if (mono_thread_cleanup_fn)
 482                 mono_thread_cleanup_fn (thread_get_tid (thread));
 483
 484         if (mono_gc_is_moving ()) {
 485                 MONO_GC_UNREGISTER_ROOT (thread->thread_pinning_ref);
 486                 thread->thread_pinning_ref = NULL;
 487         }
 488
 489 }
 490
 491 /*
 492  * A special static data offset (guint32) consists of 3 parts:
 493  *
 494  * [0]   6-bit index into the array of chunks.
 495  * [6]   25-bit offset into the array.
 496  * [31]  Bit indicating thread or context static.
 497  */
 498
 499 typedef union {
 500         struct {
 501 #if G_BYTE_ORDER != G_LITTLE_ENDIAN
 502                 guint32 type : 1;
 503                 guint32 offset : 25;
 504                 guint32 index : 6;
 505 #else
 506                 guint32 index : 6;
 507                 guint32 offset : 25;
 508                 guint32 type : 1;
 509 #endif
 510         } fields;
 511         guint32 raw;
 512 } SpecialStaticOffset;
 513
 514 #define SPECIAL_STATIC_OFFSET_TYPE_THREAD 0
 515 #define SPECIAL_STATIC_OFFSET_TYPE_CONTEXT 1
 516
 517 #define MAKE_SPECIAL_STATIC_OFFSET(index, offset, type) \
 518         ((SpecialStaticOffset) { .fields = { (index), (offset), (type) } }.raw)
 519 #define ACCESS_SPECIAL_STATIC_OFFSET(x,f) \
 520         (((SpecialStaticOffset *) &(x))->fields.f)
 521
 522 static gpointer
 523 get_thread_static_data (MonoInternalThread *thread, guint32 offset)
 524 {
 525         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_THREAD);
 526
 527         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
 528         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
 529
 530         return ((char *) thread->static_data [idx]) + off;
 531 }
 532
 533 static gpointer
 534 get_context_static_data (MonoAppContext *ctx, guint32 offset)
 535 {
 536         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_CONTEXT);
 537
 538         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
 539         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
 540
 541         return ((char *) ctx->static_data [idx]) + off;
 542 }
 543
 544 static MonoThread**
 545 get_current_thread_ptr_for_domain (MonoDomain *domain, MonoInternalThread *thread)
 546 {
 547         static MonoClassField *current_thread_field = NULL;
 548
 549         guint32 offset;
 550
 551         if (!current_thread_field) {
 552                 current_thread_field = mono_class_get_field_from_name (mono_defaults.thread_class, "current_thread");
 553                 g_assert (current_thread_field);
 554         }
 555
 556         mono_class_vtable (domain, mono_defaults.thread_class);
 557         mono_domain_lock (domain);
 558         offset = GPOINTER_TO_UINT (g_hash_table_lookup (domain->special_static_fields, current_thread_field));
 559         mono_domain_unlock (domain);
 560         g_assert (offset);
 561
 562         return (MonoThread **)get_thread_static_data (thread, offset);
 563 }
 564
 565 static void
 566 set_current_thread_for_domain (MonoDomain *domain, MonoInternalThread *thread, MonoThread *current)
 567 {
 568         MonoThread **current_thread_ptr = get_current_thread_ptr_for_domain (domain, thread);
 569
 570         g_assert (current->obj.vtable->domain == domain);
 571
 572         g_assert (!*current_thread_ptr);
 573         *current_thread_ptr = current;
 574 }
 575
 576 static MonoThread*
 577 create_thread_object (MonoDomain *domain, MonoError *error)
 578 {
 579         MonoVTable *vt = mono_class_vtable (domain, mono_defaults.thread_class);
 580         MonoThread *t = (MonoThread*)mono_object_new_mature (vt, error);
 581         return t;
 582 }
 583
 584 static MonoThread*
 585 new_thread_with_internal (MonoDomain *domain, MonoInternalThread *internal, MonoError *error)
 586 {
 587         MonoThread *thread;
 588
 589         thread = create_thread_object (domain, error);
 590         if (!mono_error_ok (error))
 591                 return NULL;
 592
 593         MONO_OBJECT_SETREF (thread, internal_thread, internal);
 594
 595         return thread;
 596 }
 597
 598 static MonoInternalThread*
 599 create_internal_thread (MonoError *error)
 600 {
 601         MonoInternalThread *thread;
 602         MonoVTable *vt;
 603
 604         vt = mono_class_vtable (mono_get_root_domain (), mono_defaults.internal_thread_class);
 605         thread = (MonoInternalThread*) mono_object_new_mature (vt, error);
 606         if (!mono_error_ok (error))
 607                 return NULL;
 608
 609         thread->synch_cs = g_new0 (MonoCoopMutex, 1);
 610         mono_coop_mutex_init_recursive (thread->synch_cs);
 611
 612         thread->apartment_state = ThreadApartmentState_Unknown;
 613         thread->managed_id = get_next_managed_thread_id ();
 614         if (mono_gc_is_moving ()) {
 615                 thread->thread_pinning_ref = thread;
 616                 MONO_GC_REGISTER_ROOT_PINNING (thread->thread_pinning_ref, MONO_ROOT_SOURCE_THREADING, "thread pinning reference");
 617         }
 618
 619         return thread;
 620 }
 621
 622 static gboolean
 623 init_root_domain_thread (MonoInternalThread *thread, MonoThread *candidate, MonoError *error)
 624 {
 625         MonoDomain *domain = mono_get_root_domain ();
 626
 627         mono_error_init (error);
 628         if (!candidate || candidate->obj.vtable->domain != domain) {
 629                 candidate = new_thread_with_internal (domain, thread, error);
 630                 return_val_if_nok (error, FALSE);
 631         }
 632         set_current_thread_for_domain (domain, thread, candidate);
 633         g_assert (!thread->root_domain_thread);
 634         MONO_OBJECT_SETREF (thread, root_domain_thread, candidate);
 635         return TRUE;
 636 }
 637
 638 static guint32 WINAPI start_wrapper_internal(void *data)
 639 {
 640         MonoError error;
 641         MonoThreadInfo *info;
 642         StartInfo *start_info = (StartInfo *)data;
 643         guint32 (*start_func)(void *);
 644         void *start_arg;
 645         gsize tid;
 646         /*
 647          * We don't create a local to hold start_info->obj, so hopefully it won't get pinned during a
 648          * GC stack walk.
 649          */
 650         MonoInternalThread *internal = start_info->obj->internal_thread;
 651         MonoObject *start_delegate = start_info->delegate;
 652         MonoDomain *domain = start_info->obj->obj.vtable->domain;
 653
 654         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper", __func__, mono_native_thread_id_get ()));
 655
 656         /* We can be sure start_info->obj->tid and
 657          * start_info->obj->handle have been set, because the thread
 658          * was created suspended, and these values were set before the
 659          * thread resumed
 660          */
 661
 662         info = mono_thread_info_current ();
 663         g_assert (info);
 664         internal->thread_info = info;
 665         internal->small_id = info->small_id;
 666
 667         tid = internal->tid;
 668
 669         SET_CURRENT_OBJECT (internal);
 670
 671         /* Every thread references the appdomain which created it */
 672         mono_thread_push_appdomain_ref (domain);
 673
 674         if (!mono_domain_set (domain, FALSE)) {
 675                 /* No point in raising an appdomain_unloaded exception here */
 676                 /* FIXME: Cleanup here */
 677                 mono_thread_pop_appdomain_ref ();
 678                 return 0;
 679         }
 680
 681         start_func = start_info->func;
 682         start_arg = start_info->obj->start_obj;
 683         if (!start_arg)
 684                 start_arg = start_info->start_arg;
 685
 686         /* We have to do this here because mono_thread_new_init()
 687            requires that root_domain_thread is set up. */
 688         thread_adjust_static_data (internal);
 689         init_root_domain_thread (internal, start_info->obj, &error);
 690         mono_error_raise_exception (&error); /* FIXME don't raise here */
 691
 692         /* This MUST be called before any managed code can be
 693          * executed, as it calls the callback function that (for the
 694          * jit) sets the lmf marker.
 695          */
 696         mono_thread_new_init (tid, &tid, start_func);
 697         internal->stack_ptr = &tid;
 698         if (domain != mono_get_root_domain ())
 699                 set_current_thread_for_domain (domain, internal, start_info->obj);
 700
 701         LIBGC_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT",%d) Setting thread stack to %p", __func__, mono_native_thread_id_get (), getpid (), thread->stack_ptr));
 702
 703         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Setting current_object_key to %p", __func__, mono_native_thread_id_get (), internal));
 704
 705         /* On 2.0 profile (and higher), set explicitly since state might have been
 706            Unknown */
 707         if (internal->apartment_state == ThreadApartmentState_Unknown)
 708                 internal->apartment_state = ThreadApartmentState_MTA;
 709
 710         mono_thread_init_apartment_state ();
 711
 712         if(internal->start_notify!=NULL) {
 713                 /* Let the thread that called Start() know we're
 714                  * ready
 715                  */
 716                 ReleaseSemaphore (internal->start_notify, 1, NULL);
 717         }
 718
 719         g_free (start_info);
 720         THREAD_DEBUG (g_message ("%s: start_wrapper for %"G_GSIZE_FORMAT, __func__,
 721                                                          internal->tid));
 722
 723         /*
 724          * Call this after calling start_notify, since the profiler callback might want
 725          * to lock the thread, and the lock is held by thread_start () which waits for
 726          * start_notify.
 727          */
 728         mono_profiler_thread_start (tid);
 729
 730         /* if the name was set before starting, we didn't invoke the profiler callback */
 731         if (internal->name) {
 732                 char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
 733                 mono_profiler_thread_name (internal->tid, tname);
 734                 mono_native_thread_set_name (MONO_UINT_TO_NATIVE_THREAD_ID (internal->tid), tname);
 735                 g_free (tname);
 736         }
 737
 738         /* start_func is set only for unmanaged start functions */
 739         if (start_func) {
 740                 start_func (start_arg);
 741         } else {
 742                 void *args [1];
 743                 g_assert (start_delegate != NULL);
 744                 args [0] = start_arg;
 745                 /* we may want to handle the exception here. See comment below on unhandled exceptions */
 746                 mono_runtime_delegate_invoke_checked (start_delegate, args, &error);
 747                 mono_error_raise_exception (&error); /* FIXME don't raise here */
 748         }
 749
 750         /* If the thread calls ExitThread at all, this remaining code
 751          * will not be executed, but the main thread will eventually
 752          * call thread_cleanup() on this thread's behalf.
 753          */
 754
 755         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper terminating", __func__, mono_native_thread_id_get ()));
 756
 757         /* Do any cleanup needed for apartment state. This
 758          * cannot be done in thread_cleanup since thread_cleanup could be
 759          * called for a thread other than the current thread.
 760          * mono_thread_cleanup_apartment_state cleans up apartment
 761          * for the current thead */
 762         mono_thread_cleanup_apartment_state ();
 763
 764         thread_cleanup (internal);
 765
 766         internal->tid = 0;
 767
 768         /* Remove the reference to the thread object in the TLS data,
 769          * so the thread object can be finalized.  This won't be
 770          * reached if the thread threw an uncaught exception, so those
 771          * thread handles will stay referenced :-( (This is due to
 772          * missing support for scanning thread-specific data in the
 773          * Boehm GC - the io-layer keeps a GC-visible hash of pointers
 774          * to TLS data.)
 775          */
 776         SET_CURRENT_OBJECT (NULL);
 777
 778         return(0);
 779 }
 780
 781 static guint32 WINAPI start_wrapper(void *data)
 782 {
 783         volatile int dummy;
 784
 785         /* Avoid scanning the frames above this frame during a GC */
 786         mono_gc_set_stack_end ((void*)&dummy);
 787
 788         return start_wrapper_internal (data);
 789 }
 790
 791 /*
 792  * create_thread:
 793  *
 794  *   Common thread creation code.
 795  * LOCKING: Acquires the threads lock.
 796  */
 797 static gboolean
 798 create_thread (MonoThread *thread, MonoInternalThread *internal, StartInfo *start_info, gboolean threadpool_thread, guint32 stack_size,
 799                            MonoError *error)
 800 {
 801         HANDLE thread_handle;
 802         MonoNativeThreadId tid;
 803         guint32 create_flags;
 804
 805         /*
 806          * Join joinable threads to prevent running out of threads since the finalizer
 807          * thread might be blocked/backlogged.
 808          */
 809         mono_threads_join_threads ();
 810
 811         mono_error_init (error);
 812
 813         mono_threads_lock ();
 814         if (shutting_down) {
 815                 g_free (start_info);
 816                 mono_threads_unlock ();
 817                 return FALSE;
 818         }
 819         if (threads_starting_up == NULL) {
 820                 MONO_GC_REGISTER_ROOT_FIXED (threads_starting_up, MONO_ROOT_SOURCE_THREADING, "starting threads table");
 821                 threads_starting_up = mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_KEY_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "starting threads table");
 822         }
 823         mono_g_hash_table_insert (threads_starting_up, thread, thread);
 824         mono_threads_unlock ();
 825
 826         internal->start_notify = CreateSemaphore (NULL, 0, 0x7fffffff, NULL);
 827         if (!internal->start_notify) {
 828                 mono_threads_lock ();
 829                 mono_g_hash_table_remove (threads_starting_up, thread);
 830                 mono_threads_unlock ();
 831                 g_warning ("%s: CreateSemaphore error 0x%x", __func__, GetLastError ());
 832                 g_free (start_info);
 833                 return FALSE;
 834         }
 835
 836         if (stack_size == 0)
 837                 stack_size = default_stacksize_for_thread (internal);
 838
 839         /* Create suspended, so we can do some housekeeping before the thread
 840          * starts
 841          */
 842         create_flags = CREATE_SUSPENDED;
 843
 844         thread_handle = mono_threads_create_thread ((LPTHREAD_START_ROUTINE)start_wrapper, start_info,
 845                                                                                                 stack_size, create_flags, &tid);
 846
 847         if (thread_handle == NULL) {
 848                 /* The thread couldn't be created, so set an exception */
 849                 mono_threads_lock ();
 850                 mono_g_hash_table_remove (threads_starting_up, thread);
 851                 mono_threads_unlock ();
 852                 g_free (start_info);
 853                 mono_error_set_execution_engine (error, "Couldn't create thread. Error 0x%x", GetLastError());
 854                 return FALSE;
 855         }
 856         THREAD_DEBUG (g_message ("%s: Started thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread_handle));
 857
 858         internal->handle = thread_handle;
 859         internal->tid = MONO_NATIVE_THREAD_ID_TO_UINT (tid);
 860
 861         internal->threadpool_thread = threadpool_thread;
 862         if (threadpool_thread)
 863                 mono_thread_set_state (internal, ThreadState_Background);
 864
 865         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 866
 867         /* Only store the handle when the thread is about to be
 868          * launched, to avoid the main thread deadlocking while trying
 869          * to clean up a thread that will never be signalled.
 870          */
 871         if (!handle_store (thread, FALSE))
 872                 return FALSE;
 873
 874         mono_thread_info_resume (tid);
 875
 876         if (internal->start_notify) {
 877                 /*
 878                  * Wait for the thread to set up its TLS data etc, so
 879                  * theres no potential race condition if someone tries
 880                  * to look up the data believing the thread has
 881                  * started
 882                  */
 883                 THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") waiting for thread %p (%"G_GSIZE_FORMAT") to start", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 884
 885                 MONO_ENTER_GC_SAFE;
 886                 WaitForSingleObjectEx (internal->start_notify, INFINITE, FALSE);
 887                 MONO_EXIT_GC_SAFE;
 888
 889                 CloseHandle (internal->start_notify);
 890                 internal->start_notify = NULL;
 891         }
 892
 893         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Done launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 894
 895         return TRUE;
 896 }
 897
 898 void mono_thread_new_init (intptr_t tid, gpointer stack_start, gpointer func)
 899 {
 900         if (mono_thread_start_cb) {
 901                 mono_thread_start_cb (tid, stack_start, func);
 902         }
 903 }
 904
 905 void mono_threads_set_default_stacksize (guint32 stacksize)
 906 {
 907         default_stacksize = stacksize;
 908 }
 909
 910 guint32 mono_threads_get_default_stacksize (void)
 911 {
 912         return default_stacksize;
 913 }
 914
 915 /*
 916  * mono_thread_create_internal:
 917  *
 918  *   ARG should not be a GC reference.
 919  */
 920 MonoInternalThread*
 921 mono_thread_create_internal (MonoDomain *domain, gpointer func, gpointer arg, gboolean threadpool_thread, guint32 stack_size, MonoError *error)
 922 {
 923         MonoThread *thread;
 924         MonoInternalThread *internal;
 925         StartInfo *start_info;
 926         gboolean res;
 927
 928         mono_error_init (error);
 929
 930         thread = create_thread_object (domain, error);
 931         return_val_if_nok (error, NULL);
 932
 933         internal = create_internal_thread (error);
 934         return_val_if_nok (error, NULL);
 935
 936         MONO_OBJECT_SETREF (thread, internal_thread, internal);
 937
 938         start_info = g_new0 (StartInfo, 1);
 939         start_info->func = (guint32 (*)(void *))func;
 940         start_info->obj = thread;
 941         start_info->start_arg = arg;
 942
 943         res = create_thread (thread, internal, start_info, threadpool_thread, stack_size, error);
 944         return_val_if_nok (error, NULL);
 945
 946         /* Check that the managed and unmanaged layout of MonoInternalThread matches */
 947 #ifndef MONO_CROSS_COMPILE
 948         if (mono_check_corlib_version () == NULL)
 949                 g_assert (((char*)&internal->unused2 - (char*)internal) == mono_defaults.internal_thread_class->fields [mono_defaults.internal_thread_class->field.count - 1].offset);
 950 #endif
 951
 952         return internal;
 953 }
 954
 955 void
 956 mono_thread_create (MonoDomain *domain, gpointer func, gpointer arg)
 957 {
 958         MonoError error;
 959         if (!mono_thread_create_checked (domain, func, arg, &error))
 960                 mono_error_cleanup (&error);
 961 }
 962
 963 gboolean
 964 mono_thread_create_checked (MonoDomain *domain, gpointer func, gpointer arg, MonoError *error)
 965 {
 966         return (NULL != mono_thread_create_internal (domain, func, arg, FALSE, 0, error));
 967 }
 968
 969 MonoThread *
 970 mono_thread_attach (MonoDomain *domain)
 971 {
 972         MonoError error;
 973         MonoThread *thread = mono_thread_attach_full (domain, FALSE, &error);
 974         mono_error_raise_exception (&error);
 975
 976         return thread;
 977 }
 978
 979 MonoThread *
 980 mono_thread_attach_full (MonoDomain *domain, gboolean force_attach, MonoError *error)
 981 {
 982         MonoThreadInfo *info;
 983         MonoInternalThread *thread;
 984         MonoThread *current_thread;
 985         HANDLE thread_handle;
 986         MonoNativeThreadId tid;
 987
 988         mono_error_init (error);
 989
 990         if ((thread = mono_thread_internal_current ())) {
 991                 if (domain != mono_domain_get ())
 992                         mono_domain_set (domain, TRUE);
 993                 /* Already attached */
 994                 return mono_thread_current ();
 995         }
 996
 997         if (!mono_gc_register_thread (&domain)) {
 998                 g_error ("Thread %"G_GSIZE_FORMAT" calling into managed code is not registered with the GC. On UNIX, this can be fixed by #include-ing <gc.h> before <pthread.h> in the file containing the thread creation code.", mono_native_thread_id_get ());
 999         }
1000
1001         thread = create_internal_thread (error);
1002         if (!mono_error_ok (error))
1003                 return NULL;
1004
1005         thread_handle = mono_thread_info_open_handle ();
1006         g_assert (thread_handle);
1007
1008         tid=mono_native_thread_id_get ();
1009
1010         thread->handle = thread_handle;
1011         thread->tid = MONO_NATIVE_THREAD_ID_TO_UINT (tid);
1012         thread->stack_ptr = &tid;
1013
1014         THREAD_DEBUG (g_message ("%s: Attached thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread_handle));
1015
1016         info = mono_thread_info_current ();
1017         g_assert (info);
1018         thread->thread_info = info;
1019         thread->small_id = info->small_id;
1020
1021         current_thread = new_thread_with_internal (domain, thread, error);
1022         if (!mono_error_ok (error))
1023                 return NULL;
1024
1025         if (!handle_store (current_thread, force_attach)) {
1026                 /* Mono is shutting down, so just wait for the end */
1027                 for (;;)
1028                         mono_thread_info_sleep (10000, NULL);
1029         }
1030
1031         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Setting current_object_key to %p", __func__, mono_native_thread_id_get (), thread));
1032
1033         SET_CURRENT_OBJECT (thread);
1034         mono_domain_set (domain, TRUE);
1035
1036         thread_adjust_static_data (thread);
1037
1038         init_root_domain_thread (thread, current_thread, error);
1039         return_val_if_nok (error, NULL);
1040
1041         if (domain != mono_get_root_domain ())
1042                 set_current_thread_for_domain (domain, thread, current_thread);
1043
1044
1045         if (mono_thread_attach_cb) {
1046                 guint8 *staddr;
1047                 size_t stsize;
1048
1049                 mono_thread_info_get_stack_bounds (&staddr, &stsize);
1050
1051                 if (staddr == NULL)
1052                         mono_thread_attach_cb (MONO_NATIVE_THREAD_ID_TO_UINT (tid), &tid);
1053                 else
1054                         mono_thread_attach_cb (MONO_NATIVE_THREAD_ID_TO_UINT (tid), staddr + stsize);
1055         }
1056
1057         /* Can happen when we attach the profiler helper thread in order to heapshot. */
1058         if (!info->tools_thread)
1059                 // FIXME: Need a separate callback
1060                 mono_profiler_thread_start (MONO_NATIVE_THREAD_ID_TO_UINT (tid));
1061
1062         return current_thread;
1063 }
1064
1065 void
1066 mono_thread_detach_internal (MonoInternalThread *thread)
1067 {
1068         g_return_if_fail (thread != NULL);
1069
1070         THREAD_DEBUG (g_message ("%s: mono_thread_detach for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1071
1072         thread_cleanup (thread);
1073
1074         SET_CURRENT_OBJECT (NULL);
1075         mono_domain_unset ();
1076
1077         /* Don't need to CloseHandle this thread, even though we took a
1078          * reference in mono_thread_attach (), because the GC will do it
1079          * when the Thread object is finalised.
1080          */
1081 }
1082
1083 void
1084 mono_thread_detach (MonoThread *thread)
1085 {
1086         if (thread)
1087                 mono_thread_detach_internal (thread->internal_thread);
1088 }
1089
1090 /*
1091  * mono_thread_detach_if_exiting:
1092  *
1093  *   Detach the current thread from the runtime if it is exiting, i.e. it is running pthread dtors.
1094  * This should be used at the end of embedding code which calls into managed code, and which
1095  * can be called from pthread dtors, like dealloc: implementations in objective-c.
1096  */
1097 void
1098 mono_thread_detach_if_exiting (void)
1099 {
1100         if (mono_thread_info_is_exiting ()) {
1101                 MonoInternalThread *thread;
1102
1103                 thread = mono_thread_internal_current ();
1104                 if (thread) {
1105                         mono_thread_detach_internal (thread);
1106                         mono_thread_info_detach ();
1107                 }
1108         }
1109 }
1110
1111 void
1112 mono_thread_exit ()
1113 {
1114         MonoInternalThread *thread = mono_thread_internal_current ();
1115
1116         THREAD_DEBUG (g_message ("%s: mono_thread_exit for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1117
1118         thread_cleanup (thread);
1119         SET_CURRENT_OBJECT (NULL);
1120         mono_domain_unset ();
1121
1122         /* we could add a callback here for embedders to use. */
1123         if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread))
1124                 exit (mono_environment_exitcode_get ());
1125         mono_thread_info_exit ();
1126 }
1127
1128 void
1129 ves_icall_System_Threading_Thread_ConstructInternalThread (MonoThread *this_obj)
1130 {
1131         MonoError error;
1132         MonoInternalThread *internal;
1133
1134         internal = create_internal_thread (&error);
1135         if (mono_error_set_pending_exception (&error))
1136                 return;
1137
1138         internal->state = ThreadState_Unstarted;
1139
1140         InterlockedCompareExchangePointer ((volatile gpointer *)&this_obj->internal_thread, internal, NULL);
1141 }
1142
1143 HANDLE
1144 ves_icall_System_Threading_Thread_Thread_internal (MonoThread *this_obj,
1145                                                                                                    MonoObject *start)
1146 {
1147         MonoError error;
1148         StartInfo *start_info;
1149         MonoInternalThread *internal;
1150         gboolean res;
1151
1152         THREAD_DEBUG (g_message("%s: Trying to start a new thread: this (%p) start (%p)", __func__, this_obj, start));
1153
1154         if (!this_obj->internal_thread)
1155                 ves_icall_System_Threading_Thread_ConstructInternalThread (this_obj);
1156         internal = this_obj->internal_thread;
1157
1158         LOCK_THREAD (internal);
1159
1160         if ((internal->state & ThreadState_Unstarted) == 0) {
1161                 UNLOCK_THREAD (internal);
1162                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has already been started."));
1163                 return NULL;
1164         }
1165
1166         if ((internal->state & ThreadState_Aborted) != 0) {
1167                 UNLOCK_THREAD (internal);
1168                 return this_obj;
1169         }
1170         /* This is freed in start_wrapper */
1171         start_info = g_new0 (StartInfo, 1);
1172         start_info->func = NULL;
1173         start_info->start_arg = NULL;
1174         start_info->delegate = start;
1175         start_info->obj = this_obj;
1176         g_assert (this_obj->obj.vtable->domain == mono_domain_get ());
1177
1178         res = create_thread (this_obj, internal, start_info, FALSE, 0, &error);
1179         if (!res) {
1180                 mono_error_cleanup (&error);
1181                 UNLOCK_THREAD (internal);
1182                 return NULL;
1183         }
1184
1185         internal->state &= ~ThreadState_Unstarted;
1186
1187         THREAD_DEBUG (g_message ("%s: Started thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread));
1188
1189         UNLOCK_THREAD (internal);
1190         return internal->handle;
1191 }
1192
1193 /*
1194  * This is called from the finalizer of the internal thread object.
1195  */
1196 void
1197 ves_icall_System_Threading_InternalThread_Thread_free_internal (MonoInternalThread *this_obj, HANDLE thread)
1198 {
1199         THREAD_DEBUG (g_message ("%s: Closing thread %p, handle %p", __func__, this, thread));
1200
1201         /*
1202          * Since threads keep a reference to their thread object while running, by the time this function is called,
1203          * the thread has already exited/detached, i.e. thread_cleanup () has ran. The exception is during shutdown,
1204          * when thread_cleanup () can be called after this.
1205          */
1206         if (thread)
1207                 CloseHandle (thread);
1208
1209         if (this_obj->synch_cs) {
1210                 MonoCoopMutex *synch_cs = this_obj->synch_cs;
1211                 this_obj->synch_cs = NULL;
1212                 mono_coop_mutex_destroy (synch_cs);
1213                 g_free (synch_cs);
1214         }
1215
1216         if (this_obj->name) {
1217                 void *name = this_obj->name;
1218                 this_obj->name = NULL;
1219                 g_free (name);
1220         }
1221 }
1222
1223 void
1224 ves_icall_System_Threading_Thread_Sleep_internal(gint32 ms)
1225 {
1226         guint32 res;
1227         MonoInternalThread *thread = mono_thread_internal_current ();
1228
1229         THREAD_DEBUG (g_message ("%s: Sleeping for %d ms", __func__, ms));
1230
1231         if (mono_thread_current_check_pending_interrupt ())
1232                 return;
1233
1234         while (TRUE) {
1235                 gboolean alerted = FALSE;
1236
1237                 mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1238
1239                 res = mono_thread_info_sleep (ms, &alerted);
1240
1241                 mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1242
1243                 if (alerted) {
1244                         MonoException* exc = mono_thread_execute_interruption ();
1245                         if (exc) {
1246                                 mono_raise_exception (exc);
1247                         } else {
1248                                 // FIXME: !INFINITE
1249                                 if (ms != INFINITE)
1250                                         break;
1251                         }
1252                 } else {
1253                         break;
1254                 }
1255         }
1256 }
1257
1258 void ves_icall_System_Threading_Thread_SpinWait_nop (void)
1259 {
1260 }
1261
1262 gint32
1263 ves_icall_System_Threading_Thread_GetDomainID (void)
1264 {
1265         return mono_domain_get()->domain_id;
1266 }
1267
1268 gboolean
1269 ves_icall_System_Threading_Thread_Yield (void)
1270 {
1271         return mono_thread_info_yield ();
1272 }
1273
1274 /*
1275  * mono_thread_get_name:
1276  *
1277  *   Return the name of the thread. NAME_LEN is set to the length of the name.
1278  * Return NULL if the thread has no name. The returned memory is owned by the
1279  * caller.
1280  */
1281 gunichar2*
1282 mono_thread_get_name (MonoInternalThread *this_obj, guint32 *name_len)
1283 {
1284         gunichar2 *res;
1285
1286         LOCK_THREAD (this_obj);
1287
1288         if (!this_obj->name) {
1289                 *name_len = 0;
1290                 res = NULL;
1291         } else {
1292                 *name_len = this_obj->name_len;
1293                 res = g_new (gunichar2, this_obj->name_len);
1294                 memcpy (res, this_obj->name, sizeof (gunichar2) * this_obj->name_len);
1295         }
1296
1297         UNLOCK_THREAD (this_obj);
1298
1299         return res;
1300 }
1301
1302 /*
1303  * mono_thread_get_name_utf8:
1304  *
1305  * Return the name of the thread in UTF-8.
1306  * Return NULL if the thread has no name.
1307  * The returned memory is owned by the caller.
1308  */
1309 char *
1310 mono_thread_get_name_utf8 (MonoThread *thread)
1311 {
1312         if (thread == NULL)
1313                 return NULL;
1314
1315         MonoInternalThread *internal = thread->internal_thread;
1316         if (internal == NULL)
1317                 return NULL;
1318
1319         LOCK_THREAD (internal);
1320
1321         char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
1322
1323         UNLOCK_THREAD (internal);
1324
1325         return tname;
1326 }
1327
1328 /*
1329  * mono_thread_get_managed_id:
1330  *
1331  * Return the Thread.ManagedThreadId value of `thread`.
1332  * Returns -1 if `thread` is NULL.
1333  */
1334 int32_t
1335 mono_thread_get_managed_id (MonoThread *thread)
1336 {
1337         if (thread == NULL)
1338                 return -1;
1339
1340         MonoInternalThread *internal = thread->internal_thread;
1341         if (internal == NULL)
1342                 return -1;
1343
1344         int32_t id = internal->managed_id;
1345
1346         return id;
1347 }
1348
1349 MonoString*
1350 ves_icall_System_Threading_Thread_GetName_internal (MonoInternalThread *this_obj)
1351 {
1352         MonoError error;
1353         MonoString* str;
1354
1355         mono_error_init (&error);
1356
1357         LOCK_THREAD (this_obj);
1358
1359         if (!this_obj->name)
1360                 str = NULL;
1361         else
1362                 str = mono_string_new_utf16_checked (mono_domain_get (), this_obj->name, this_obj->name_len, &error);
1363
1364         UNLOCK_THREAD (this_obj);
1365
1366         if (mono_error_set_pending_exception (&error))
1367                 return NULL;
1368
1369         return str;
1370 }
1371
1372 void
1373 mono_thread_set_name_internal (MonoInternalThread *this_obj, MonoString *name, gboolean permanent, MonoError *error)
1374 {
1375         LOCK_THREAD (this_obj);
1376
1377         mono_error_init (error);
1378
1379         if ((this_obj->flags & MONO_THREAD_FLAG_NAME_SET)) {
1380                 UNLOCK_THREAD (this_obj);
1381
1382                 mono_error_set_invalid_operation (error, "Thread.Name can only be set once.");
1383                 return;
1384         }
1385         if (this_obj->name) {
1386                 g_free (this_obj->name);
1387                 this_obj->name_len = 0;
1388         }
1389         if (name) {
1390                 this_obj->name = g_new (gunichar2, mono_string_length (name));
1391                 memcpy (this_obj->name, mono_string_chars (name), mono_string_length (name) * 2);
1392                 this_obj->name_len = mono_string_length (name);
1393
1394                 if (permanent)
1395                         this_obj->flags |= MONO_THREAD_FLAG_NAME_SET;
1396         }
1397         else
1398                 this_obj->name = NULL;
1399
1400
1401         UNLOCK_THREAD (this_obj);
1402
1403         if (this_obj->name && this_obj->tid) {
1404                 char *tname = mono_string_to_utf8 (name);
1405                 mono_profiler_thread_name (this_obj->tid, tname);
1406                 mono_native_thread_set_name (thread_get_tid (this_obj), tname);
1407                 mono_free (tname);
1408         }
1409 }
1410
1411 void
1412 ves_icall_System_Threading_Thread_SetName_internal (MonoInternalThread *this_obj, MonoString *name)
1413 {
1414         MonoError error;
1415         mono_thread_set_name_internal (this_obj, name, TRUE, &error);
1416         mono_error_set_pending_exception (&error);
1417 }
1418
1419 /*
1420  * ves_icall_System_Threading_Thread_GetPriority_internal:
1421  * @param this_obj: The MonoInternalThread on which to operate.
1422  *
1423  * Gets the priority of the given thread.
1424  * @return: The priority of the given thread.
1425  */
1426 int
1427 ves_icall_System_Threading_Thread_GetPriority (MonoThread *this_obj)
1428 {
1429         gint32 priority;
1430         MonoInternalThread *internal = this_obj->internal_thread;
1431
1432         LOCK_THREAD (internal);
1433         priority = GetThreadPriority (internal->handle) + 2;
1434         UNLOCK_THREAD (internal);
1435         return priority;
1436 }
1437
1438 /*
1439  * ves_icall_System_Threading_Thread_SetPriority_internal:
1440  * @param this_obj: The MonoInternalThread on which to operate.
1441  * @param priority: The priority to set.
1442  *
1443  * Sets the priority of the given thread.
1444  */
1445 void
1446 ves_icall_System_Threading_Thread_SetPriority (MonoThread *this_obj, int priority)
1447 {
1448         MonoInternalThread *internal = this_obj->internal_thread;
1449
1450         LOCK_THREAD (internal);
1451         SetThreadPriority (internal->handle, priority - 2);
1452         UNLOCK_THREAD (internal);
1453 }
1454
1455 /* If the array is already in the requested domain, we just return it,
1456    otherwise we return a copy in that domain. */
1457 static MonoArray*
1458 byte_array_to_domain (MonoArray *arr, MonoDomain *domain, MonoError *error)
1459 {
1460         MonoArray *copy;
1461
1462         mono_error_init (error);
1463         if (!arr)
1464                 return NULL;
1465
1466         if (mono_object_domain (arr) == domain)
1467                 return arr;
1468
1469         copy = mono_array_new_checked (domain, mono_defaults.byte_class, arr->max_length, error);
1470         memmove (mono_array_addr (copy, guint8, 0), mono_array_addr (arr, guint8, 0), arr->max_length);
1471         return copy;
1472 }
1473
1474 MonoArray*
1475 ves_icall_System_Threading_Thread_ByteArrayToRootDomain (MonoArray *arr)
1476 {
1477         MonoError error;
1478         MonoArray *result = byte_array_to_domain (arr, mono_get_root_domain (), &error);
1479         mono_error_set_pending_exception (&error);
1480         return result;
1481 }
1482
1483 MonoArray*
1484 ves_icall_System_Threading_Thread_ByteArrayToCurrentDomain (MonoArray *arr)
1485 {
1486         MonoError error;
1487         MonoArray *result = byte_array_to_domain (arr, mono_domain_get (), &error);
1488         mono_error_set_pending_exception (&error);
1489         return result;
1490 }
1491
1492 MonoThread *
1493 mono_thread_current (void)
1494 {
1495         MonoError error;
1496         MonoDomain *domain = mono_domain_get ();
1497         MonoInternalThread *internal = mono_thread_internal_current ();
1498         MonoThread **current_thread_ptr;
1499
1500         g_assert (internal);
1501         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1502
1503         if (!*current_thread_ptr) {
1504                 g_assert (domain != mono_get_root_domain ());
1505                 *current_thread_ptr = new_thread_with_internal (domain, internal, &error);
1506                 mono_error_raise_exception (&error); /* FIXME don't raise here */
1507         }
1508         return *current_thread_ptr;
1509 }
1510
1511 /* Return the thread object belonging to INTERNAL in the current domain */
1512 static MonoThread *
1513 mono_thread_current_for_thread (MonoInternalThread *internal)
1514 {
1515         MonoError error;
1516         MonoDomain *domain = mono_domain_get ();
1517         MonoThread **current_thread_ptr;
1518
1519         g_assert (internal);
1520         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1521
1522         if (!*current_thread_ptr) {
1523                 g_assert (domain != mono_get_root_domain ());
1524                 *current_thread_ptr = new_thread_with_internal (domain, internal, &error);
1525                 mono_error_raise_exception (&error); /* FIXME don't raise here */
1526         }
1527         return *current_thread_ptr;
1528 }
1529
1530 MonoInternalThread*
1531 mono_thread_internal_current (void)
1532 {
1533         MonoInternalThread *res = GET_CURRENT_OBJECT ();
1534         THREAD_DEBUG (g_message ("%s: returning %p", __func__, res));
1535         return res;
1536 }
1537
1538 gboolean
1539 ves_icall_System_Threading_Thread_Join_internal(MonoThread *this_obj, int ms)
1540 {
1541         MonoInternalThread *thread = this_obj->internal_thread;
1542         HANDLE handle = thread->handle;
1543         MonoInternalThread *cur_thread = mono_thread_internal_current ();
1544         gboolean ret;
1545
1546         if (mono_thread_current_check_pending_interrupt ())
1547                 return FALSE;
1548
1549         LOCK_THREAD (thread);
1550
1551         if ((thread->state & ThreadState_Unstarted) != 0) {
1552                 UNLOCK_THREAD (thread);
1553
1554                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started."));
1555                 return FALSE;
1556         }
1557
1558         UNLOCK_THREAD (thread);
1559
1560         if(ms== -1) {
1561                 ms=INFINITE;
1562         }
1563         THREAD_DEBUG (g_message ("%s: joining thread handle %p, %d ms", __func__, handle, ms));
1564
1565         mono_thread_set_state (cur_thread, ThreadState_WaitSleepJoin);
1566
1567         MONO_ENTER_GC_SAFE;
1568         ret=WaitForSingleObjectEx (handle, ms, TRUE);
1569         MONO_EXIT_GC_SAFE;
1570
1571         mono_thread_clr_state (cur_thread, ThreadState_WaitSleepJoin);
1572
1573         if(ret==WAIT_OBJECT_0) {
1574                 THREAD_DEBUG (g_message ("%s: join successful", __func__));
1575
1576                 return(TRUE);
1577         }
1578
1579         THREAD_DEBUG (g_message ("%s: join failed", __func__));
1580
1581         return(FALSE);
1582 }
1583
1584 static gint32
1585 mono_wait_uninterrupted (MonoInternalThread *thread, guint32 numhandles, gpointer *handles, gboolean waitall, gint32 ms, MonoError *error)
1586 {
1587         MonoException *exc;
1588         guint32 ret;
1589         gint64 start;
1590         gint32 diff_ms;
1591         gint32 wait = ms;
1592
1593         mono_error_init (error);
1594
1595         start = (ms == -1) ? 0 : mono_100ns_ticks ();
1596         do {
1597                 MONO_ENTER_GC_SAFE;
1598                 if (numhandles != 1)
1599                         ret = WaitForMultipleObjectsEx (numhandles, handles, waitall, wait, TRUE);
1600                 else
1601                         ret = WaitForSingleObjectEx (handles [0], ms, TRUE);
1602                 MONO_EXIT_GC_SAFE;
1603
1604                 if (ret != WAIT_IO_COMPLETION)
1605                         break;
1606
1607                 exc = mono_thread_execute_interruption ();
1608                 if (exc) {
1609                         mono_error_set_exception_instance (error, exc);
1610                         break;
1611                 }
1612
1613                 if (ms == -1)
1614                         continue;
1615
1616                 /* Re-calculate ms according to the time passed */
1617                 diff_ms = (gint32)((mono_100ns_ticks () - start) / 10000);
1618                 if (diff_ms >= ms) {
1619                         ret = WAIT_TIMEOUT;
1620                         break;
1621                 }
1622                 wait = ms - diff_ms;
1623         } while (TRUE);
1624
1625         return ret;
1626 }
1627
1628 gint32 ves_icall_System_Threading_WaitHandle_WaitAll_internal(MonoArray *mono_handles, gint32 ms)
1629 {
1630         MonoError error;
1631         HANDLE *handles;
1632         guint32 numhandles;
1633         guint32 ret;
1634         guint32 i;
1635         MonoObject *waitHandle;
1636         MonoInternalThread *thread = mono_thread_internal_current ();
1637
1638         /* Do this WaitSleepJoin check before creating objects */
1639         if (mono_thread_current_check_pending_interrupt ())
1640                 return WAIT_FAILED;
1641
1642         /* We fail in managed if the array has more than 64 elements */
1643         numhandles = (guint32)mono_array_length(mono_handles);
1644         handles = g_new0(HANDLE, numhandles);
1645
1646         for(i = 0; i < numhandles; i++) {
1647                 waitHandle = mono_array_get(mono_handles, MonoObject*, i);
1648                 handles [i] = mono_wait_handle_get_handle ((MonoWaitHandle *) waitHandle);
1649         }
1650
1651         if(ms== -1) {
1652                 ms=INFINITE;
1653         }
1654
1655         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1656
1657         ret = mono_wait_uninterrupted (thread, numhandles, handles, TRUE, ms, &error);
1658
1659         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1660
1661         g_free(handles);
1662
1663         mono_error_set_pending_exception (&error);
1664
1665         /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1666         return ret == WAIT_FAILED ? 0x7fffffff : ret;
1667 }
1668
1669 gint32 ves_icall_System_Threading_WaitHandle_WaitAny_internal(MonoArray *mono_handles, gint32 ms)
1670 {
1671         MonoError error;
1672         HANDLE handles [MAXIMUM_WAIT_OBJECTS];
1673         uintptr_t numhandles;
1674         guint32 ret;
1675         guint32 i;
1676         MonoObject *waitHandle;
1677         MonoInternalThread *thread = mono_thread_internal_current ();
1678
1679         /* Do this WaitSleepJoin check before creating objects */
1680         if (mono_thread_current_check_pending_interrupt ())
1681                 return WAIT_FAILED;
1682
1683         numhandles = mono_array_length(mono_handles);
1684         if (numhandles > MAXIMUM_WAIT_OBJECTS)
1685                 return WAIT_FAILED;
1686
1687         for(i = 0; i < numhandles; i++) {
1688                 waitHandle = mono_array_get(mono_handles, MonoObject*, i);
1689                 handles [i] = mono_wait_handle_get_handle ((MonoWaitHandle *) waitHandle);
1690         }
1691
1692         if(ms== -1) {
1693                 ms=INFINITE;
1694         }
1695
1696         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1697
1698         ret = mono_wait_uninterrupted (thread, numhandles, handles, FALSE, ms, &error);
1699
1700         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1701
1702         THREAD_WAIT_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") returning %d", __func__, mono_native_thread_id_get (), ret));
1703
1704         mono_error_set_pending_exception (&error);
1705         /*
1706          * These need to be here.  See MSDN dos on WaitForMultipleObjects.
1707          */
1708         if (ret >= WAIT_OBJECT_0 && ret <= WAIT_OBJECT_0 + numhandles - 1) {
1709                 return ret - WAIT_OBJECT_0;
1710         }
1711         else if (ret >= WAIT_ABANDONED_0 && ret <= WAIT_ABANDONED_0 + numhandles - 1) {
1712                 return ret - WAIT_ABANDONED_0;
1713         }
1714         else {
1715                 /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1716                 return ret == WAIT_FAILED ? 0x7fffffff : ret;
1717         }
1718 }
1719
1720 gint32 ves_icall_System_Threading_WaitHandle_WaitOne_internal(HANDLE handle, gint32 ms)
1721 {
1722         MonoError error;
1723         guint32 ret;
1724         MonoInternalThread *thread = mono_thread_internal_current ();
1725
1726         THREAD_WAIT_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") waiting for %p, %d ms", __func__, mono_native_thread_id_get (), handle, ms));
1727
1728         if(ms== -1) {
1729                 ms=INFINITE;
1730         }
1731
1732         if (mono_thread_current_check_pending_interrupt ())
1733                 return WAIT_FAILED;
1734
1735         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1736
1737         ret = mono_wait_uninterrupted (thread, 1, &handle, FALSE, ms, &error);
1738
1739         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1740
1741         mono_error_set_pending_exception (&error);
1742         /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1743         return ret == WAIT_FAILED ? 0x7fffffff : ret;
1744 }
1745
1746 gint32
1747 ves_icall_System_Threading_WaitHandle_SignalAndWait_Internal (HANDLE toSignal, HANDLE toWait, gint32 ms)
1748 {
1749         guint32 ret;
1750         MonoInternalThread *thread = mono_thread_internal_current ();
1751
1752         if (ms == -1)
1753                 ms = INFINITE;
1754
1755         if (mono_thread_current_check_pending_interrupt ())
1756                 return WAIT_FAILED;
1757
1758         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1759
1760         MONO_ENTER_GC_SAFE;
1761         ret = SignalObjectAndWait (toSignal, toWait, ms, TRUE);
1762         MONO_EXIT_GC_SAFE;
1763
1764         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1765
1766         /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1767         return ret == WAIT_FAILED ? 0x7fffffff : ret;
1768 }
1769
1770 HANDLE ves_icall_System_Threading_Mutex_CreateMutex_internal (MonoBoolean owned, MonoString *name, MonoBoolean *created)
1771 {
1772         HANDLE mutex;
1773
1774         *created = TRUE;
1775
1776         if (name == NULL) {
1777                 mutex = CreateMutex (NULL, owned, NULL);
1778         } else {
1779                 mutex = CreateMutex (NULL, owned, mono_string_chars (name));
1780
1781                 if (GetLastError () == ERROR_ALREADY_EXISTS) {
1782                         *created = FALSE;
1783                 }
1784         }
1785
1786         return(mutex);
1787 }
1788
1789 MonoBoolean ves_icall_System_Threading_Mutex_ReleaseMutex_internal (HANDLE handle ) {
1790         return(ReleaseMutex (handle));
1791 }
1792
1793 HANDLE ves_icall_System_Threading_Mutex_OpenMutex_internal (MonoString *name,
1794                                                             gint32 rights,
1795                                                             gint32 *error)
1796 {
1797         HANDLE ret;
1798
1799         *error = ERROR_SUCCESS;
1800
1801         ret = OpenMutex (rights, FALSE, mono_string_chars (name));
1802         if (ret == NULL) {
1803                 *error = GetLastError ();
1804         }
1805
1806         return(ret);
1807 }
1808
1809
1810 HANDLE ves_icall_System_Threading_Semaphore_CreateSemaphore_internal (gint32 initialCount, gint32 maximumCount, MonoString *name, MonoBoolean *created)
1811 {
1812         HANDLE sem;
1813
1814         *created = TRUE;
1815
1816         if (name == NULL) {
1817                 sem = CreateSemaphore (NULL, initialCount, maximumCount, NULL);
1818         } else {
1819                 sem = CreateSemaphore (NULL, initialCount, maximumCount,
1820                                        mono_string_chars (name));
1821
1822                 if (GetLastError () == ERROR_ALREADY_EXISTS) {
1823                         *created = FALSE;
1824                 }
1825         }
1826
1827         return(sem);
1828 }
1829
1830 gint32 ves_icall_System_Threading_Semaphore_ReleaseSemaphore_internal (HANDLE handle, gint32 releaseCount, MonoBoolean *fail)
1831 {
1832         gint32 prevcount;
1833
1834         *fail = !ReleaseSemaphore (handle, releaseCount, &prevcount);
1835
1836         return (prevcount);
1837 }
1838
1839 HANDLE ves_icall_System_Threading_Semaphore_OpenSemaphore_internal (MonoString *name, gint32 rights, gint32 *error)
1840 {
1841         HANDLE ret;
1842
1843         *error = ERROR_SUCCESS;
1844
1845         ret = OpenSemaphore (rights, FALSE, mono_string_chars (name));
1846         if (ret == NULL) {
1847                 *error = GetLastError ();
1848         }
1849
1850         return(ret);
1851 }
1852
1853 HANDLE ves_icall_System_Threading_Events_CreateEvent_internal (MonoBoolean manual, MonoBoolean initial, MonoString *name, MonoBoolean *created)
1854 {
1855         HANDLE event;
1856
1857         *created = TRUE;
1858
1859         if (name == NULL) {
1860                 event = CreateEvent (NULL, manual, initial, NULL);
1861         } else {
1862                 event = CreateEvent (NULL, manual, initial,
1863                                      mono_string_chars (name));
1864
1865                 if (GetLastError () == ERROR_ALREADY_EXISTS) {
1866                         *created = FALSE;
1867                 }
1868         }
1869
1870         return(event);
1871 }
1872
1873 gboolean ves_icall_System_Threading_Events_SetEvent_internal (HANDLE handle) {
1874         return (SetEvent(handle));
1875 }
1876
1877 gboolean ves_icall_System_Threading_Events_ResetEvent_internal (HANDLE handle) {
1878         return (ResetEvent(handle));
1879 }
1880
1881 void
1882 ves_icall_System_Threading_Events_CloseEvent_internal (HANDLE handle) {
1883         CloseHandle (handle);
1884 }
1885
1886 HANDLE ves_icall_System_Threading_Events_OpenEvent_internal (MonoString *name,
1887                                                              gint32 rights,
1888                                                              gint32 *error)
1889 {
1890         HANDLE ret;
1891
1892         *error = ERROR_SUCCESS;
1893
1894         ret = OpenEvent (rights, FALSE, mono_string_chars (name));
1895         if (ret == NULL) {
1896                 *error = GetLastError ();
1897         }
1898
1899         return(ret);
1900 }
1901
1902 gint32 ves_icall_System_Threading_Interlocked_Increment_Int (gint32 *location)
1903 {
1904         return InterlockedIncrement (location);
1905 }
1906
1907 gint64 ves_icall_System_Threading_Interlocked_Increment_Long (gint64 *location)
1908 {
1909 #if SIZEOF_VOID_P == 4
1910         if (G_UNLIKELY ((size_t)location & 0x7)) {
1911                 gint64 ret;
1912                 mono_interlocked_lock ();
1913                 (*location)++;
1914                 ret = *location;
1915                 mono_interlocked_unlock ();
1916                 return ret;
1917         }
1918 #endif
1919         return InterlockedIncrement64 (location);
1920 }
1921
1922 gint32 ves_icall_System_Threading_Interlocked_Decrement_Int (gint32 *location)
1923 {
1924         return InterlockedDecrement(location);
1925 }
1926
1927 gint64 ves_icall_System_Threading_Interlocked_Decrement_Long (gint64 * location)
1928 {
1929 #if SIZEOF_VOID_P == 4
1930         if (G_UNLIKELY ((size_t)location & 0x7)) {
1931                 gint64 ret;
1932                 mono_interlocked_lock ();
1933                 (*location)--;
1934                 ret = *location;
1935                 mono_interlocked_unlock ();
1936                 return ret;
1937         }
1938 #endif
1939         return InterlockedDecrement64 (location);
1940 }
1941
1942 gint32 ves_icall_System_Threading_Interlocked_Exchange_Int (gint32 *location, gint32 value)
1943 {
1944         return InterlockedExchange(location, value);
1945 }
1946
1947 MonoObject * ves_icall_System_Threading_Interlocked_Exchange_Object (MonoObject **location, MonoObject *value)
1948 {
1949         MonoObject *res;
1950         res = (MonoObject *) InterlockedExchangePointer((gpointer *) location, value);
1951         mono_gc_wbarrier_generic_nostore (location);
1952         return res;
1953 }
1954
1955 gpointer ves_icall_System_Threading_Interlocked_Exchange_IntPtr (gpointer *location, gpointer value)
1956 {
1957         return InterlockedExchangePointer(location, value);
1958 }
1959
1960 gfloat ves_icall_System_Threading_Interlocked_Exchange_Single (gfloat *location, gfloat value)
1961 {
1962         IntFloatUnion val, ret;
1963
1964         val.fval = value;
1965         ret.ival = InterlockedExchange((gint32 *) location, val.ival);
1966
1967         return ret.fval;
1968 }
1969
1970 gint64
1971 ves_icall_System_Threading_Interlocked_Exchange_Long (gint64 *location, gint64 value)
1972 {
1973 #if SIZEOF_VOID_P == 4
1974         if (G_UNLIKELY ((size_t)location & 0x7)) {
1975                 gint64 ret;
1976                 mono_interlocked_lock ();
1977                 ret = *location;
1978                 *location = value;
1979                 mono_interlocked_unlock ();
1980                 return ret;
1981         }
1982 #endif
1983         return InterlockedExchange64 (location, value);
1984 }
1985
1986 gdouble
1987 ves_icall_System_Threading_Interlocked_Exchange_Double (gdouble *location, gdouble value)
1988 {
1989         LongDoubleUnion val, ret;
1990
1991         val.fval = value;
1992         ret.ival = (gint64)InterlockedExchange64((gint64 *) location, val.ival);
1993
1994         return ret.fval;
1995 }
1996
1997 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int(gint32 *location, gint32 value, gint32 comparand)
1998 {
1999         return InterlockedCompareExchange(location, value, comparand);
2000 }
2001
2002 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int_Success(gint32 *location, gint32 value, gint32 comparand, MonoBoolean *success)
2003 {
2004         gint32 r = InterlockedCompareExchange(location, value, comparand);
2005         *success = r == comparand;
2006         return r;
2007 }
2008
2009 MonoObject * ves_icall_System_Threading_Interlocked_CompareExchange_Object (MonoObject **location, MonoObject *value, MonoObject *comparand)
2010 {
2011         MonoObject *res;
2012         res = (MonoObject *) InterlockedCompareExchangePointer((gpointer *) location, value, comparand);
2013         mono_gc_wbarrier_generic_nostore (location);
2014         return res;
2015 }
2016
2017 gpointer ves_icall_System_Threading_Interlocked_CompareExchange_IntPtr(gpointer *location, gpointer value, gpointer comparand)
2018 {
2019         return InterlockedCompareExchangePointer(location, value, comparand);
2020 }
2021
2022 gfloat ves_icall_System_Threading_Interlocked_CompareExchange_Single (gfloat *location, gfloat value, gfloat comparand)
2023 {
2024         IntFloatUnion val, ret, cmp;
2025
2026         val.fval = value;
2027         cmp.fval = comparand;
2028         ret.ival = InterlockedCompareExchange((gint32 *) location, val.ival, cmp.ival);
2029
2030         return ret.fval;
2031 }
2032
2033 gdouble
2034 ves_icall_System_Threading_Interlocked_CompareExchange_Double (gdouble *location, gdouble value, gdouble comparand)
2035 {
2036 #if SIZEOF_VOID_P == 8
2037         LongDoubleUnion val, comp, ret;
2038
2039         val.fval = value;
2040         comp.fval = comparand;
2041         ret.ival = (gint64)InterlockedCompareExchangePointer((gpointer *) location, (gpointer)val.ival, (gpointer)comp.ival);
2042
2043         return ret.fval;
2044 #else
2045         gdouble old;
2046
2047         mono_interlocked_lock ();
2048         old = *location;
2049         if (old == comparand)
2050                 *location = value;
2051         mono_interlocked_unlock ();
2052
2053         return old;
2054 #endif
2055 }
2056
2057 gint64
2058 ves_icall_System_Threading_Interlocked_CompareExchange_Long (gint64 *location, gint64 value, gint64 comparand)
2059 {
2060 #if SIZEOF_VOID_P == 4
2061         if (G_UNLIKELY ((size_t)location & 0x7)) {
2062                 gint64 old;
2063                 mono_interlocked_lock ();
2064                 old = *location;
2065                 if (old == comparand)
2066                         *location = value;
2067                 mono_interlocked_unlock ();
2068                 return old;
2069         }
2070 #endif
2071         return InterlockedCompareExchange64 (location, value, comparand);
2072 }
2073
2074 MonoObject*
2075 ves_icall_System_Threading_Interlocked_CompareExchange_T (MonoObject **location, MonoObject *value, MonoObject *comparand)
2076 {
2077         MonoObject *res;
2078         res = (MonoObject *)InterlockedCompareExchangePointer ((volatile gpointer *)location, value, comparand);
2079         mono_gc_wbarrier_generic_nostore (location);
2080         return res;
2081 }
2082
2083 MonoObject*
2084 ves_icall_System_Threading_Interlocked_Exchange_T (MonoObject **location, MonoObject *value)
2085 {
2086         MonoObject *res;
2087         MONO_CHECK_NULL (location, NULL);
2088         res = (MonoObject *)InterlockedExchangePointer ((volatile gpointer *)location, value);
2089         mono_gc_wbarrier_generic_nostore (location);
2090         return res;
2091 }
2092
2093 gint32
2094 ves_icall_System_Threading_Interlocked_Add_Int (gint32 *location, gint32 value)
2095 {
2096         return InterlockedAdd (location, value);
2097 }
2098
2099 gint64
2100 ves_icall_System_Threading_Interlocked_Add_Long (gint64 *location, gint64 value)
2101 {
2102 #if SIZEOF_VOID_P == 4
2103         if (G_UNLIKELY ((size_t)location & 0x7)) {
2104                 gint64 ret;
2105                 mono_interlocked_lock ();
2106                 *location += value;
2107                 ret = *location;
2108                 mono_interlocked_unlock ();
2109                 return ret;
2110         }
2111 #endif
2112         return InterlockedAdd64 (location, value);
2113 }
2114
2115 gint64
2116 ves_icall_System_Threading_Interlocked_Read_Long (gint64 *location)
2117 {
2118 #if SIZEOF_VOID_P == 4
2119         if (G_UNLIKELY ((size_t)location & 0x7)) {
2120                 gint64 ret;
2121                 mono_interlocked_lock ();
2122                 ret = *location;
2123                 mono_interlocked_unlock ();
2124                 return ret;
2125         }
2126 #endif
2127         return InterlockedRead64 (location);
2128 }
2129
2130 void
2131 ves_icall_System_Threading_Thread_MemoryBarrier (void)
2132 {
2133         mono_memory_barrier ();
2134 }
2135
2136 void
2137 ves_icall_System_Threading_Thread_ClrState (MonoInternalThread* this_obj, guint32 state)
2138 {
2139         mono_thread_clr_state (this_obj, (MonoThreadState)state);
2140
2141         if (state & ThreadState_Background) {
2142                 /* If the thread changes the background mode, the main thread has to
2143                  * be notified, since it has to rebuild the list of threads to
2144                  * wait for.
2145                  */
2146                 SetEvent (background_change_event);
2147         }
2148 }
2149
2150 void
2151 ves_icall_System_Threading_Thread_SetState (MonoInternalThread* this_obj, guint32 state)
2152 {
2153         mono_thread_set_state (this_obj, (MonoThreadState)state);
2154
2155         if (state & ThreadState_Background) {
2156                 /* If the thread changes the background mode, the main thread has to
2157                  * be notified, since it has to rebuild the list of threads to
2158                  * wait for.
2159                  */
2160                 SetEvent (background_change_event);
2161         }
2162 }
2163
2164 guint32
2165 ves_icall_System_Threading_Thread_GetState (MonoInternalThread* this_obj)
2166 {
2167         guint32 state;
2168
2169         LOCK_THREAD (this_obj);
2170
2171         state = this_obj->state;
2172
2173         UNLOCK_THREAD (this_obj);
2174
2175         return state;
2176 }
2177
2178 void ves_icall_System_Threading_Thread_Interrupt_internal (MonoThread *this_obj)
2179 {
2180         MonoInternalThread *current;
2181         gboolean throw_;
2182         MonoInternalThread *thread = this_obj->internal_thread;
2183
2184         LOCK_THREAD (thread);
2185
2186         current = mono_thread_internal_current ();
2187
2188         thread->thread_interrupt_requested = TRUE;
2189         throw_ = current != thread && (thread->state & ThreadState_WaitSleepJoin);
2190
2191         UNLOCK_THREAD (thread);
2192
2193         if (throw_) {
2194                 async_abort_internal (thread, FALSE);
2195         }
2196 }
2197
2198 /**
2199  * mono_thread_current_check_pending_interrupt:
2200  *
2201  * Checks if there's a interruption request and set the pending exception if so.
2202  *
2203  * @returns true if a pending exception was set
2204  */
2205 gboolean
2206 mono_thread_current_check_pending_interrupt (void)
2207 {
2208         MonoInternalThread *thread = mono_thread_internal_current ();
2209         gboolean throw_ = FALSE;
2210
2211         LOCK_THREAD (thread);
2212
2213         if (thread->thread_interrupt_requested) {
2214                 throw_ = TRUE;
2215                 thread->thread_interrupt_requested = FALSE;
2216         }
2217
2218         UNLOCK_THREAD (thread);
2219
2220         if (throw_)
2221                 mono_set_pending_exception (mono_get_exception_thread_interrupted ());
2222         return throw_;
2223 }
2224
2225 static gboolean
2226 request_thread_abort (MonoInternalThread *thread, MonoObject *state)
2227 {
2228         LOCK_THREAD (thread);
2229
2230         if ((thread->state & ThreadState_AbortRequested) != 0 ||
2231                 (thread->state & ThreadState_StopRequested) != 0 ||
2232                 (thread->state & ThreadState_Stopped) != 0)
2233         {
2234                 UNLOCK_THREAD (thread);
2235                 return FALSE;
2236         }
2237
2238         if ((thread->state & ThreadState_Unstarted) != 0) {
2239                 thread->state |= ThreadState_Aborted;
2240                 UNLOCK_THREAD (thread);
2241                 return FALSE;
2242         }
2243
2244         thread->state |= ThreadState_AbortRequested;
2245         if (thread->abort_state_handle)
2246                 mono_gchandle_free (thread->abort_state_handle);
2247         if (state) {
2248                 thread->abort_state_handle = mono_gchandle_new (state, FALSE);
2249                 g_assert (thread->abort_state_handle);
2250         } else {
2251                 thread->abort_state_handle = 0;
2252         }
2253         thread->abort_exc = NULL;
2254
2255         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Abort requested for %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), thread, (gsize)thread->tid));
2256
2257         /* During shutdown, we can't wait for other threads */
2258         if (!shutting_down)
2259                 /* Make sure the thread is awake */
2260                 mono_thread_resume (thread);
2261
2262         UNLOCK_THREAD (thread);
2263         return TRUE;
2264 }
2265
2266 void
2267 ves_icall_System_Threading_Thread_Abort (MonoInternalThread *thread, MonoObject *state)
2268 {
2269         if (!request_thread_abort (thread, state))
2270                 return;
2271
2272         if (thread == mono_thread_internal_current ())
2273                 self_abort_internal ();
2274         else
2275                 async_abort_internal (thread, TRUE);
2276 }
2277
2278 /**
2279  * mono_thread_internal_abort:
2280  *
2281  * Request thread @thread to be aborted.
2282  *
2283  * @thread MUST NOT be the current thread.
2284  */
2285 void
2286 mono_thread_internal_abort (MonoInternalThread *thread)
2287 {
2288         g_assert (thread != mono_thread_internal_current ());
2289
2290         if (!request_thread_abort (thread, NULL))
2291                 return;
2292         async_abort_internal (thread, TRUE);
2293 }
2294
2295 void
2296 ves_icall_System_Threading_Thread_ResetAbort (MonoThread *this_obj)
2297 {
2298         MonoInternalThread *thread = mono_thread_internal_current ();
2299         gboolean was_aborting;
2300
2301         LOCK_THREAD (thread);
2302         was_aborting = thread->state & ThreadState_AbortRequested;
2303         thread->state &= ~ThreadState_AbortRequested;
2304         UNLOCK_THREAD (thread);
2305
2306         if (!was_aborting) {
2307                 const char *msg = "Unable to reset abort because no abort was requested";
2308                 mono_set_pending_exception (mono_get_exception_thread_state (msg));
2309                 return;
2310         }
2311         thread->abort_exc = NULL;
2312         if (thread->abort_state_handle) {
2313                 mono_gchandle_free (thread->abort_state_handle);
2314                 /* This is actually not necessary - the handle
2315                    only counts if the exception is set */
2316                 thread->abort_state_handle = 0;
2317         }
2318 }
2319
2320 void
2321 mono_thread_internal_reset_abort (MonoInternalThread *thread)
2322 {
2323         LOCK_THREAD (thread);
2324
2325         thread->state &= ~ThreadState_AbortRequested;
2326
2327         if (thread->abort_exc) {
2328                 thread->abort_exc = NULL;
2329                 if (thread->abort_state_handle) {
2330                         mono_gchandle_free (thread->abort_state_handle);
2331                         /* This is actually not necessary - the handle
2332                            only counts if the exception is set */
2333                         thread->abort_state_handle = 0;
2334                 }
2335         }
2336
2337         UNLOCK_THREAD (thread);
2338 }
2339
2340 MonoObject*
2341 ves_icall_System_Threading_Thread_GetAbortExceptionState (MonoThread *this_obj)
2342 {
2343         MonoError error;
2344         MonoInternalThread *thread = this_obj->internal_thread;
2345         MonoObject *state, *deserialized = NULL;
2346         MonoDomain *domain;
2347
2348         if (!thread->abort_state_handle)
2349                 return NULL;
2350
2351         state = mono_gchandle_get_target (thread->abort_state_handle);
2352         g_assert (state);
2353
2354         domain = mono_domain_get ();
2355         if (mono_object_domain (state) == domain)
2356                 return state;
2357
2358         deserialized = mono_object_xdomain_representation (state, domain, &error);
2359
2360         if (!deserialized) {
2361                 MonoException *invalid_op_exc = mono_get_exception_invalid_operation ("Thread.ExceptionState cannot access an ExceptionState from a different AppDomain");
2362                 if (!is_ok (&error)) {
2363                         MonoObject *exc = (MonoObject*)mono_error_convert_to_exception (&error);
2364                         MONO_OBJECT_SETREF (invalid_op_exc, inner_ex, exc);
2365                 }
2366                 mono_set_pending_exception (invalid_op_exc);
2367                 return NULL;
2368         }
2369
2370         return deserialized;
2371 }
2372
2373 static gboolean
2374 mono_thread_suspend (MonoInternalThread *thread)
2375 {
2376         LOCK_THREAD (thread);
2377
2378         if ((thread->state & ThreadState_Unstarted) != 0 ||
2379                 (thread->state & ThreadState_Aborted) != 0 ||
2380                 (thread->state & ThreadState_Stopped) != 0)
2381         {
2382                 UNLOCK_THREAD (thread);
2383                 return FALSE;
2384         }
2385
2386         if ((thread->state & ThreadState_Suspended) != 0 ||
2387                 (thread->state & ThreadState_SuspendRequested) != 0 ||
2388                 (thread->state & ThreadState_StopRequested) != 0)
2389         {
2390                 UNLOCK_THREAD (thread);
2391                 return TRUE;
2392         }
2393
2394         thread->state |= ThreadState_SuspendRequested;
2395
2396         if (thread == mono_thread_internal_current ()) {
2397                 /* calls UNLOCK_THREAD (thread) */
2398                 self_suspend_internal ();
2399         } else {
2400                 /* calls UNLOCK_THREAD (thread) */
2401                 async_suspend_internal (thread, FALSE);
2402         }
2403
2404         return TRUE;
2405 }
2406
2407 void
2408 ves_icall_System_Threading_Thread_Suspend (MonoThread *this_obj)
2409 {
2410         if (!mono_thread_suspend (this_obj->internal_thread)) {
2411                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2412                 return;
2413         }
2414 }
2415
2416 /* LOCKING: LOCK_THREAD(thread) must be held */
2417 static gboolean
2418 mono_thread_resume (MonoInternalThread *thread)
2419 {
2420         if ((thread->state & ThreadState_SuspendRequested) != 0) {
2421                 thread->state &= ~ThreadState_SuspendRequested;
2422                 return TRUE;
2423         }
2424
2425         if ((thread->state & ThreadState_Suspended) == 0 ||
2426                 (thread->state & ThreadState_Unstarted) != 0 ||
2427                 (thread->state & ThreadState_Aborted) != 0 ||
2428                 (thread->state & ThreadState_Stopped) != 0)
2429         {
2430                 return FALSE;
2431         }
2432
2433         UNLOCK_THREAD (thread);
2434
2435         /* Awake the thread */
2436         if (!mono_thread_info_resume (thread_get_tid (thread)))
2437                 return FALSE;
2438
2439         LOCK_THREAD (thread);
2440
2441         thread->state &= ~ThreadState_Suspended;
2442
2443         return TRUE;
2444 }
2445
2446 void
2447 ves_icall_System_Threading_Thread_Resume (MonoThread *thread)
2448 {
2449         if (!thread->internal_thread) {
2450                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2451         } else {
2452                 LOCK_THREAD (thread->internal_thread);
2453                 if (!mono_thread_resume (thread->internal_thread))
2454                         mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2455                 UNLOCK_THREAD (thread->internal_thread);
2456         }
2457 }
2458
2459 static gboolean
2460 mono_threads_is_critical_method (MonoMethod *method)
2461 {
2462         switch (method->wrapper_type) {
2463         case MONO_WRAPPER_RUNTIME_INVOKE:
2464         case MONO_WRAPPER_XDOMAIN_INVOKE:
2465         case MONO_WRAPPER_XDOMAIN_DISPATCH:
2466                 return TRUE;
2467         }
2468         return FALSE;
2469 }
2470
2471 static gboolean
2472 find_wrapper (MonoMethod *m, gint no, gint ilo, gboolean managed, gpointer data)
2473 {
2474         if (managed)
2475                 return TRUE;
2476
2477         if (mono_threads_is_critical_method (m)) {
2478                 *((gboolean*)data) = TRUE;
2479                 return TRUE;
2480         }
2481         return FALSE;
2482 }
2483
2484 static gboolean
2485 is_running_protected_wrapper (void)
2486 {
2487         gboolean found = FALSE;
2488         mono_stack_walk (find_wrapper, &found);
2489         return found;
2490 }
2491
2492 static gboolean
2493 request_thread_stop (MonoInternalThread *thread)
2494 {
2495         LOCK_THREAD (thread);
2496
2497         if ((thread->state & ThreadState_StopRequested) != 0 ||
2498                 (thread->state & ThreadState_Stopped) != 0)
2499         {
2500                 UNLOCK_THREAD (thread);
2501                 return FALSE;
2502         }
2503
2504         /* Make sure the thread is awake */
2505         mono_thread_resume (thread);
2506
2507         thread->state |= ThreadState_StopRequested;
2508         thread->state &= ~ThreadState_AbortRequested;
2509
2510         UNLOCK_THREAD (thread);
2511         return TRUE;
2512 }
2513
2514 /**
2515  * mono_thread_internal_stop:
2516  *
2517  * Request thread @thread to stop.
2518  *
2519  * @thread MUST NOT be the current thread.
2520  */
2521 void
2522 mono_thread_internal_stop (MonoInternalThread *thread)
2523 {
2524         g_assert (thread != mono_thread_internal_current ());
2525
2526         if (!request_thread_stop (thread))
2527                 return;
2528
2529         async_abort_internal (thread, TRUE);
2530 }
2531
2532 void mono_thread_stop (MonoThread *thread)
2533 {
2534         MonoInternalThread *internal = thread->internal_thread;
2535
2536         if (!request_thread_stop (internal))
2537                 return;
2538
2539         if (internal == mono_thread_internal_current ())
2540                 self_abort_internal ();
2541         else
2542                 async_abort_internal (internal, TRUE);
2543 }
2544
2545 gint8
2546 ves_icall_System_Threading_Thread_VolatileRead1 (void *ptr)
2547 {
2548         gint8 tmp = *(volatile gint8 *)ptr;
2549         mono_memory_barrier ();
2550         return tmp;
2551 }
2552
2553 gint16
2554 ves_icall_System_Threading_Thread_VolatileRead2 (void *ptr)
2555 {
2556         gint16 tmp = *(volatile gint16 *)ptr;
2557         mono_memory_barrier ();
2558         return tmp;
2559 }
2560
2561 gint32
2562 ves_icall_System_Threading_Thread_VolatileRead4 (void *ptr)
2563 {
2564         gint32 tmp = *(volatile gint32 *)ptr;
2565         mono_memory_barrier ();
2566         return tmp;
2567 }
2568
2569 gint64
2570 ves_icall_System_Threading_Thread_VolatileRead8 (void *ptr)
2571 {
2572         gint64 tmp = *(volatile gint64 *)ptr;
2573         mono_memory_barrier ();
2574         return tmp;
2575 }
2576
2577 void *
2578 ves_icall_System_Threading_Thread_VolatileReadIntPtr (void *ptr)
2579 {
2580         volatile void *tmp = *(volatile void **)ptr;
2581         mono_memory_barrier ();
2582         return (void *) tmp;
2583 }
2584
2585 void *
2586 ves_icall_System_Threading_Thread_VolatileReadObject (void *ptr)
2587 {
2588         volatile MonoObject *tmp = *(volatile MonoObject **)ptr;
2589         mono_memory_barrier ();
2590         return (MonoObject *) tmp;
2591 }
2592
2593 double
2594 ves_icall_System_Threading_Thread_VolatileReadDouble (void *ptr)
2595 {
2596         double tmp = *(volatile double *)ptr;
2597         mono_memory_barrier ();
2598         return tmp;
2599 }
2600
2601 float
2602 ves_icall_System_Threading_Thread_VolatileReadFloat (void *ptr)
2603 {
2604         float tmp = *(volatile float *)ptr;
2605         mono_memory_barrier ();
2606         return tmp;
2607 }
2608
2609 gint8
2610 ves_icall_System_Threading_Volatile_Read1 (void *ptr)
2611 {
2612         return InterlockedRead8 ((volatile gint8 *)ptr);
2613 }
2614
2615 gint16
2616 ves_icall_System_Threading_Volatile_Read2 (void *ptr)
2617 {
2618         return InterlockedRead16 ((volatile gint16 *)ptr);
2619 }
2620
2621 gint32
2622 ves_icall_System_Threading_Volatile_Read4 (void *ptr)
2623 {
2624         return InterlockedRead ((volatile gint32 *)ptr);
2625 }
2626
2627 gint64
2628 ves_icall_System_Threading_Volatile_Read8 (void *ptr)
2629 {
2630 #if SIZEOF_VOID_P == 4
2631         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2632                 gint64 val;
2633                 mono_interlocked_lock ();
2634                 val = *(gint64*)ptr;
2635                 mono_interlocked_unlock ();
2636                 return val;
2637         }
2638 #endif
2639         return InterlockedRead64 ((volatile gint64 *)ptr);
2640 }
2641
2642 void *
2643 ves_icall_System_Threading_Volatile_ReadIntPtr (void *ptr)
2644 {
2645         return InterlockedReadPointer ((volatile gpointer *)ptr);
2646 }
2647
2648 double
2649 ves_icall_System_Threading_Volatile_ReadDouble (void *ptr)
2650 {
2651         LongDoubleUnion u;
2652
2653 #if SIZEOF_VOID_P == 4
2654         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2655                 double val;
2656                 mono_interlocked_lock ();
2657                 val = *(double*)ptr;
2658                 mono_interlocked_unlock ();
2659                 return val;
2660         }
2661 #endif
2662
2663         u.ival = InterlockedRead64 ((volatile gint64 *)ptr);
2664
2665         return u.fval;
2666 }
2667
2668 float
2669 ves_icall_System_Threading_Volatile_ReadFloat (void *ptr)
2670 {
2671         IntFloatUnion u;
2672
2673         u.ival = InterlockedRead ((volatile gint32 *)ptr);
2674
2675         return u.fval;
2676 }
2677
2678 MonoObject*
2679 ves_icall_System_Threading_Volatile_Read_T (void *ptr)
2680 {
2681         return (MonoObject *)InterlockedReadPointer ((volatile gpointer *)ptr);
2682 }
2683
2684 void
2685 ves_icall_System_Threading_Thread_VolatileWrite1 (void *ptr, gint8 value)
2686 {
2687         mono_memory_barrier ();
2688         *(volatile gint8 *)ptr = value;
2689 }
2690
2691 void
2692 ves_icall_System_Threading_Thread_VolatileWrite2 (void *ptr, gint16 value)
2693 {
2694         mono_memory_barrier ();
2695         *(volatile gint16 *)ptr = value;
2696 }
2697
2698 void
2699 ves_icall_System_Threading_Thread_VolatileWrite4 (void *ptr, gint32 value)
2700 {
2701         mono_memory_barrier ();
2702         *(volatile gint32 *)ptr = value;
2703 }
2704
2705 void
2706 ves_icall_System_Threading_Thread_VolatileWrite8 (void *ptr, gint64 value)
2707 {
2708         mono_memory_barrier ();
2709         *(volatile gint64 *)ptr = value;
2710 }
2711
2712 void
2713 ves_icall_System_Threading_Thread_VolatileWriteIntPtr (void *ptr, void *value)
2714 {
2715         mono_memory_barrier ();
2716         *(volatile void **)ptr = value;
2717 }
2718
2719 void
2720 ves_icall_System_Threading_Thread_VolatileWriteObject (void *ptr, MonoObject *value)
2721 {
2722         mono_memory_barrier ();
2723         mono_gc_wbarrier_generic_store (ptr, value);
2724 }
2725
2726 void
2727 ves_icall_System_Threading_Thread_VolatileWriteDouble (void *ptr, double value)
2728 {
2729         mono_memory_barrier ();
2730         *(volatile double *)ptr = value;
2731 }
2732
2733 void
2734 ves_icall_System_Threading_Thread_VolatileWriteFloat (void *ptr, float value)
2735 {
2736         mono_memory_barrier ();
2737         *(volatile float *)ptr = value;
2738 }
2739
2740 void
2741 ves_icall_System_Threading_Volatile_Write1 (void *ptr, gint8 value)
2742 {
2743         InterlockedWrite8 ((volatile gint8 *)ptr, value);
2744 }
2745
2746 void
2747 ves_icall_System_Threading_Volatile_Write2 (void *ptr, gint16 value)
2748 {
2749         InterlockedWrite16 ((volatile gint16 *)ptr, value);
2750 }
2751
2752 void
2753 ves_icall_System_Threading_Volatile_Write4 (void *ptr, gint32 value)
2754 {
2755         InterlockedWrite ((volatile gint32 *)ptr, value);
2756 }
2757
2758 void
2759 ves_icall_System_Threading_Volatile_Write8 (void *ptr, gint64 value)
2760 {
2761 #if SIZEOF_VOID_P == 4
2762         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2763                 mono_interlocked_lock ();
2764                 *(gint64*)ptr = value;
2765                 mono_interlocked_unlock ();
2766                 return;
2767         }
2768 #endif
2769
2770         InterlockedWrite64 ((volatile gint64 *)ptr, value);
2771 }
2772
2773 void
2774 ves_icall_System_Threading_Volatile_WriteIntPtr (void *ptr, void *value)
2775 {
2776         InterlockedWritePointer ((volatile gpointer *)ptr, value);
2777 }
2778
2779 void
2780 ves_icall_System_Threading_Volatile_WriteDouble (void *ptr, double value)
2781 {
2782         LongDoubleUnion u;
2783
2784 #if SIZEOF_VOID_P == 4
2785         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2786                 mono_interlocked_lock ();
2787                 *(double*)ptr = value;
2788                 mono_interlocked_unlock ();
2789                 return;
2790         }
2791 #endif
2792
2793         u.fval = value;
2794
2795         InterlockedWrite64 ((volatile gint64 *)ptr, u.ival);
2796 }
2797
2798 void
2799 ves_icall_System_Threading_Volatile_WriteFloat (void *ptr, float value)
2800 {
2801         IntFloatUnion u;
2802
2803         u.fval = value;
2804
2805         InterlockedWrite ((volatile gint32 *)ptr, u.ival);
2806 }
2807
2808 void
2809 ves_icall_System_Threading_Volatile_Write_T (void *ptr, MonoObject *value)
2810 {
2811         mono_gc_wbarrier_generic_store_atomic (ptr, value);
2812 }
2813
2814 static void
2815 free_context (void *user_data)
2816 {
2817         ContextStaticData *data = user_data;
2818
2819         mono_threads_lock ();
2820
2821         /*
2822          * There is no guarantee that, by the point this reference queue callback
2823          * has been invoked, the GC handle associated with the object will fail to
2824          * resolve as one might expect. So if we don't free and remove the GC
2825          * handle here, free_context_static_data_helper () could end up resolving
2826          * a GC handle to an actually-dead context which would contain a pointer
2827          * to an already-freed static data segment, resulting in a crash when
2828          * accessing it.
2829          */
2830         g_hash_table_remove (contexts, GUINT_TO_POINTER (data->gc_handle));
2831
2832         mono_threads_unlock ();
2833
2834         mono_gchandle_free (data->gc_handle);
2835         mono_free_static_data (data->static_data);
2836         g_free (data);
2837 }
2838
2839 void
2840 ves_icall_System_Runtime_Remoting_Contexts_Context_RegisterContext (MonoAppContext *ctx)
2841 {
2842         mono_threads_lock ();
2843
2844         //g_print ("Registering context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2845
2846         if (!contexts)
2847                 contexts = g_hash_table_new (NULL, NULL);
2848
2849         if (!context_queue)
2850                 context_queue = mono_gc_reference_queue_new (free_context);
2851
2852         gpointer gch = GUINT_TO_POINTER (mono_gchandle_new_weakref (&ctx->obj, FALSE));
2853         g_hash_table_insert (contexts, gch, gch);
2854
2855         /*
2856          * We use this intermediate structure to contain a duplicate pointer to
2857          * the static data because we can't rely on being able to resolve the GC
2858          * handle in the reference queue callback.
2859          */
2860         ContextStaticData *data = g_new0 (ContextStaticData, 1);
2861         data->gc_handle = GPOINTER_TO_UINT (gch);
2862         ctx->data = data;
2863
2864         context_adjust_static_data (ctx);
2865         mono_gc_reference_queue_add (context_queue, &ctx->obj, data);
2866
2867         mono_threads_unlock ();
2868
2869         mono_profiler_context_loaded (ctx);
2870 }
2871
2872 void
2873 ves_icall_System_Runtime_Remoting_Contexts_Context_ReleaseContext (MonoAppContext *ctx)
2874 {
2875         /*
2876          * NOTE: Since finalizers are unreliable for the purposes of ensuring
2877          * cleanup in exceptional circumstances, we don't actually do any
2878          * cleanup work here. We instead do this via a reference queue.
2879          */
2880
2881         //g_print ("Releasing context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2882
2883         mono_profiler_context_unloaded (ctx);
2884 }
2885
2886 void
2887 mono_thread_init_tls (void)
2888 {
2889         MONO_FAST_TLS_INIT (tls_current_object);
2890         mono_native_tls_alloc (&current_object_key, NULL);
2891 }
2892
2893 void mono_thread_init (MonoThreadStartCB start_cb,
2894                        MonoThreadAttachCB attach_cb)
2895 {
2896         mono_coop_mutex_init_recursive (&threads_mutex);
2897
2898         mono_os_mutex_init_recursive(&interlocked_mutex);
2899         mono_os_mutex_init_recursive(&joinable_threads_mutex);
2900
2901         background_change_event = CreateEvent (NULL, TRUE, FALSE, NULL);
2902         g_assert(background_change_event != NULL);
2903
2904         mono_init_static_data_info (&thread_static_info);
2905         mono_init_static_data_info (&context_static_info);
2906
2907         THREAD_DEBUG (g_message ("%s: Allocated current_object_key %d", __func__, current_object_key));
2908
2909         mono_thread_start_cb = start_cb;
2910         mono_thread_attach_cb = attach_cb;
2911
2912         /* Get a pseudo handle to the current process.  This is just a
2913          * kludge so that wapi can build a process handle if needed.
2914          * As a pseudo handle is returned, we don't need to clean
2915          * anything up.
2916          */
2917         GetCurrentProcess ();
2918 }
2919
2920 void mono_thread_cleanup (void)
2921 {
2922 #if !defined(HOST_WIN32) && !defined(RUN_IN_SUBTHREAD)
2923         MonoThreadInfo *info;
2924
2925         /* The main thread must abandon any held mutexes (particularly
2926          * important for named mutexes as they are shared across
2927          * processes, see bug 74680.)  This will happen when the
2928          * thread exits, but if it's not running in a subthread it
2929          * won't exit in time.
2930          */
2931         info = mono_thread_info_current ();
2932         wapi_thread_handle_set_exited (info->handle, mono_environment_exitcode_get ());
2933 #endif
2934
2935 #if 0
2936         /* This stuff needs more testing, it seems one of these
2937          * critical sections can be locked when mono_thread_cleanup is
2938          * called.
2939          */
2940         mono_coop_mutex_destroy (&threads_mutex);
2941         mono_os_mutex_destroy (&interlocked_mutex);
2942         mono_os_mutex_destroy (&delayed_free_table_mutex);
2943         mono_os_mutex_destroy (&small_id_mutex);
2944         CloseHandle (background_change_event);
2945 #endif
2946
2947         mono_native_tls_free (current_object_key);
2948 }
2949
2950 void
2951 mono_threads_install_cleanup (MonoThreadCleanupFunc func)
2952 {
2953         mono_thread_cleanup_fn = func;
2954 }
2955
2956 void
2957 mono_thread_set_manage_callback (MonoThread *thread, MonoThreadManageCallback func)
2958 {
2959         thread->internal_thread->manage_callback = func;
2960 }
2961
2962 G_GNUC_UNUSED
2963 static void print_tids (gpointer key, gpointer value, gpointer user)
2964 {
2965         /* GPOINTER_TO_UINT breaks horribly if sizeof(void *) >
2966          * sizeof(uint) and a cast to uint would overflow
2967          */
2968         /* Older versions of glib don't have G_GSIZE_FORMAT, so just
2969          * print this as a pointer.
2970          */
2971         g_message ("Waiting for: %p", key);
2972 }
2973
2974 struct wait_data
2975 {
2976         HANDLE handles[MAXIMUM_WAIT_OBJECTS];
2977         MonoInternalThread *threads[MAXIMUM_WAIT_OBJECTS];
2978         guint32 num;
2979 };
2980
2981 static void wait_for_tids (struct wait_data *wait, guint32 timeout)
2982 {
2983         guint32 i, ret;
2984
2985         THREAD_DEBUG (g_message("%s: %d threads to wait for in this batch", __func__, wait->num));
2986
2987         MONO_ENTER_GC_SAFE;
2988         ret=WaitForMultipleObjectsEx(wait->num, wait->handles, TRUE, timeout, TRUE);
2989         MONO_EXIT_GC_SAFE;
2990
2991         if(ret==WAIT_FAILED) {
2992                 /* See the comment in build_wait_tids() */
2993                 THREAD_DEBUG (g_message ("%s: Wait failed", __func__));
2994                 return;
2995         }
2996
2997         for(i=0; i<wait->num; i++)
2998                 CloseHandle (wait->handles[i]);
2999
3000         if (ret == WAIT_TIMEOUT)
3001                 return;
3002
3003         for(i=0; i<wait->num; i++) {
3004                 gsize tid = wait->threads[i]->tid;
3005
3006                 /*
3007                  * On !win32, when the thread handle becomes signalled, it just means the thread has exited user code,
3008                  * it can still run io-layer etc. code. So wait for it to really exit.
3009                  * FIXME: This won't join threads which are not in the joinable_hash yet.
3010                  */
3011                 mono_thread_join ((gpointer)tid);
3012
3013                 mono_threads_lock ();
3014                 if(mono_g_hash_table_lookup (threads, (gpointer)tid)!=NULL) {
3015                         /* This thread must have been killed, because
3016                          * it hasn't cleaned itself up. (It's just
3017                          * possible that the thread exited before the
3018                          * parent thread had a chance to store the
3019                          * handle, and now there is another pointer to
3020                          * the already-exited thread stored.  In this
3021                          * case, we'll just get two
3022                          * mono_profiler_thread_end() calls for the
3023                          * same thread.)
3024                          */
3025
3026                         mono_threads_unlock ();
3027                         THREAD_DEBUG (g_message ("%s: cleaning up after thread %p (%"G_GSIZE_FORMAT")", __func__, wait->threads[i], tid));
3028                         thread_cleanup (wait->threads[i]);
3029                 } else {
3030                         mono_threads_unlock ();
3031                 }
3032         }
3033 }
3034
3035 static void wait_for_tids_or_state_change (struct wait_data *wait, guint32 timeout)
3036 {
3037         guint32 i, ret, count;
3038
3039         THREAD_DEBUG (g_message("%s: %d threads to wait for in this batch", __func__, wait->num));
3040
3041         /* Add the thread state change event, so it wakes up if a thread changes
3042          * to background mode.
3043          */
3044         count = wait->num;
3045         if (count < MAXIMUM_WAIT_OBJECTS) {
3046                 wait->handles [count] = background_change_event;
3047                 count++;
3048         }
3049
3050         MONO_ENTER_GC_SAFE;
3051         ret=WaitForMultipleObjectsEx (count, wait->handles, FALSE, timeout, TRUE);
3052         MONO_EXIT_GC_SAFE;
3053
3054         if(ret==WAIT_FAILED) {
3055                 /* See the comment in build_wait_tids() */
3056                 THREAD_DEBUG (g_message ("%s: Wait failed", __func__));
3057                 return;
3058         }
3059
3060         for(i=0; i<wait->num; i++)
3061                 CloseHandle (wait->handles[i]);
3062
3063         if (ret == WAIT_TIMEOUT)
3064                 return;
3065
3066         if (ret < wait->num) {
3067                 gsize tid = wait->threads[ret]->tid;
3068                 mono_threads_lock ();
3069                 if (mono_g_hash_table_lookup (threads, (gpointer)tid)!=NULL) {
3070                         /* See comment in wait_for_tids about thread cleanup */
3071                         mono_threads_unlock ();
3072                         THREAD_DEBUG (g_message ("%s: cleaning up after thread %"G_GSIZE_FORMAT, __func__, tid));
3073                         thread_cleanup (wait->threads [ret]);
3074                 } else
3075                         mono_threads_unlock ();
3076         }
3077 }
3078
3079 static void build_wait_tids (gpointer key, gpointer value, gpointer user)
3080 {
3081         struct wait_data *wait=(struct wait_data *)user;
3082
3083         if(wait->num<MAXIMUM_WAIT_OBJECTS) {
3084                 HANDLE handle;
3085                 MonoInternalThread *thread=(MonoInternalThread *)value;
3086
3087                 /* Ignore background threads, we abort them later */
3088                 /* Do not lock here since it is not needed and the caller holds threads_lock */
3089                 if (thread->state & ThreadState_Background) {
3090                         THREAD_DEBUG (g_message ("%s: ignoring background thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3091                         return; /* just leave, ignore */
3092                 }
3093
3094                 if (mono_gc_is_finalizer_internal_thread (thread)) {
3095                         THREAD_DEBUG (g_message ("%s: ignoring finalizer thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3096                         return;
3097                 }
3098
3099                 if (thread == mono_thread_internal_current ()) {
3100                         THREAD_DEBUG (g_message ("%s: ignoring current thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3101                         return;
3102                 }
3103
3104                 if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread)) {
3105                         THREAD_DEBUG (g_message ("%s: ignoring main thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3106                         return;
3107                 }
3108
3109                 if (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE) {
3110                         THREAD_DEBUG (g_message ("%s: ignoring thread %" G_GSIZE_FORMAT "with DONT_MANAGE flag set.", __func__, (gsize)thread->tid));
3111                         return;
3112                 }
3113
3114                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3115                 if (handle == NULL) {
3116                         THREAD_DEBUG (g_message ("%s: ignoring unopenable thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3117                         return;
3118                 }
3119
3120                 THREAD_DEBUG (g_message ("%s: Invoking mono_thread_manage callback on thread %p", __func__, thread));
3121                 if ((thread->manage_callback == NULL) || (thread->manage_callback (thread->root_domain_thread) == TRUE)) {
3122                         wait->handles[wait->num]=handle;
3123                         wait->threads[wait->num]=thread;
3124                         wait->num++;
3125
3126                         THREAD_DEBUG (g_message ("%s: adding thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3127                 } else {
3128                         THREAD_DEBUG (g_message ("%s: ignoring (because of callback) thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3129                 }
3130
3131
3132         } else {
3133                 /* Just ignore the rest, we can't do anything with
3134                  * them yet
3135                  */
3136         }
3137 }
3138
3139 static gboolean
3140 remove_and_abort_threads (gpointer key, gpointer value, gpointer user)
3141 {
3142         struct wait_data *wait=(struct wait_data *)user;
3143         MonoNativeThreadId self = mono_native_thread_id_get ();
3144         MonoInternalThread *thread = (MonoInternalThread *)value;
3145         HANDLE handle;
3146
3147         if (wait->num >= MAXIMUM_WAIT_OBJECTS)
3148                 return FALSE;
3149
3150         /* The finalizer thread is not a background thread */
3151         if (!mono_native_thread_id_equals (thread_get_tid (thread), self)
3152              && (thread->state & ThreadState_Background) != 0
3153              && (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE) == 0
3154         ) {
3155                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3156                 if (handle == NULL)
3157                         return FALSE;
3158
3159                 wait->handles[wait->num] = handle;
3160                 wait->threads[wait->num] = thread;
3161                 wait->num++;
3162
3163                 THREAD_DEBUG (g_print ("%s: Aborting id: %"G_GSIZE_FORMAT"\n", __func__, (gsize)thread->tid));
3164                 mono_thread_internal_stop (thread);
3165                 return TRUE;
3166         }
3167
3168         return !mono_native_thread_id_equals (thread_get_tid (thread), self)
3169                 && !mono_gc_is_finalizer_internal_thread (thread);
3170 }
3171
3172 /**
3173  * mono_threads_set_shutting_down:
3174  *
3175  * Is called by a thread that wants to shut down Mono. If the runtime is already
3176  * shutting down, the calling thread is suspended/stopped, and this function never
3177  * returns.
3178  */
3179 void
3180 mono_threads_set_shutting_down (void)
3181 {
3182         MonoInternalThread *current_thread = mono_thread_internal_current ();
3183
3184         mono_threads_lock ();
3185
3186         if (shutting_down) {
3187                 mono_threads_unlock ();
3188
3189                 /* Make sure we're properly suspended/stopped */
3190
3191                 LOCK_THREAD (current_thread);
3192
3193                 if ((current_thread->state & ThreadState_SuspendRequested) ||
3194                     (current_thread->state & ThreadState_AbortRequested) ||
3195                     (current_thread->state & ThreadState_StopRequested)) {
3196                         UNLOCK_THREAD (current_thread);
3197                         mono_thread_execute_interruption ();
3198                 } else {
3199                         current_thread->state |= ThreadState_Stopped;
3200                         UNLOCK_THREAD (current_thread);
3201                 }
3202
3203                 /*since we're killing the thread, unset the current domain.*/
3204                 mono_domain_unset ();
3205
3206                 /* Wake up other threads potentially waiting for us */
3207                 mono_thread_info_exit ();
3208         } else {
3209                 shutting_down = TRUE;
3210
3211                 /* Not really a background state change, but this will
3212                  * interrupt the main thread if it is waiting for all
3213                  * the other threads.
3214                  */
3215                 SetEvent (background_change_event);
3216
3217                 mono_threads_unlock ();
3218         }
3219 }
3220
3221 void mono_thread_manage (void)
3222 {
3223         struct wait_data wait_data;
3224         struct wait_data *wait = &wait_data;
3225
3226         memset (wait, 0, sizeof (struct wait_data));
3227         /* join each thread that's still running */
3228         THREAD_DEBUG (g_message ("%s: Joining each running thread...", __func__));
3229
3230         mono_threads_lock ();
3231         if(threads==NULL) {
3232                 THREAD_DEBUG (g_message("%s: No threads", __func__));
3233                 mono_threads_unlock ();
3234                 return;
3235         }
3236         mono_threads_unlock ();
3237
3238         do {
3239                 mono_threads_lock ();
3240                 if (shutting_down) {
3241                         /* somebody else is shutting down */
3242                         mono_threads_unlock ();
3243                         break;
3244                 }
3245                 THREAD_DEBUG (g_message ("%s: There are %d threads to join", __func__, mono_g_hash_table_size (threads));
3246                         mono_g_hash_table_foreach (threads, print_tids, NULL));
3247
3248                 ResetEvent (background_change_event);
3249                 wait->num=0;
3250                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3251                 memset (wait->threads, 0, MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3252                 mono_g_hash_table_foreach (threads, build_wait_tids, wait);
3253                 mono_threads_unlock ();
3254                 if(wait->num>0) {
3255                         /* Something to wait for */
3256                         wait_for_tids_or_state_change (wait, INFINITE);
3257                 }
3258                 THREAD_DEBUG (g_message ("%s: I have %d threads after waiting.", __func__, wait->num));
3259         } while(wait->num>0);
3260
3261         /* Mono is shutting down, so just wait for the end */
3262         if (!mono_runtime_try_shutdown ()) {
3263                 /*FIXME mono_thread_suspend probably should call mono_thread_execute_interruption when self interrupting. */
3264                 mono_thread_suspend (mono_thread_internal_current ());
3265                 mono_thread_execute_interruption ();
3266         }
3267
3268         /*
3269          * Remove everything but the finalizer thread and self.
3270          * Also abort all the background threads
3271          * */
3272         do {
3273                 mono_threads_lock ();
3274
3275                 wait->num = 0;
3276                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3277                 memset (wait->threads, 0, MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3278                 mono_g_hash_table_foreach_remove (threads, remove_and_abort_threads, wait);
3279
3280                 mono_threads_unlock ();
3281
3282                 THREAD_DEBUG (g_message ("%s: wait->num is now %d", __func__, wait->num));
3283                 if(wait->num>0) {
3284                         /* Something to wait for */
3285                         wait_for_tids (wait, INFINITE);
3286                 }
3287         } while (wait->num > 0);
3288
3289         /*
3290          * give the subthreads a chance to really quit (this is mainly needed
3291          * to get correct user and system times from getrusage/wait/time(1)).
3292          * This could be removed if we avoid pthread_detach() and use pthread_join().
3293          */
3294         mono_thread_info_yield ();
3295 }
3296
3297 static void
3298 collect_threads_for_suspend (gpointer key, gpointer value, gpointer user_data)
3299 {
3300         MonoInternalThread *thread = (MonoInternalThread*)value;
3301         struct wait_data *wait = (struct wait_data*)user_data;
3302         HANDLE handle;
3303
3304         /*
3305          * We try to exclude threads early, to avoid running into the MAXIMUM_WAIT_OBJECTS
3306          * limitation.
3307          * This needs no locking.
3308          */
3309         if ((thread->state & ThreadState_Suspended) != 0 ||
3310                 (thread->state & ThreadState_Stopped) != 0)
3311                 return;
3312
3313         if (wait->num<MAXIMUM_WAIT_OBJECTS) {
3314                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3315                 if (handle == NULL)
3316                         return;
3317
3318                 wait->handles [wait->num] = handle;
3319                 wait->threads [wait->num] = thread;
3320                 wait->num++;
3321         }
3322 }
3323
3324 /*
3325  * mono_thread_suspend_all_other_threads:
3326  *
3327  *  Suspend all managed threads except the finalizer thread and this thread. It is
3328  * not possible to resume them later.
3329  */
3330 void mono_thread_suspend_all_other_threads (void)
3331 {
3332         struct wait_data wait_data;
3333         struct wait_data *wait = &wait_data;
3334         int i;
3335         MonoNativeThreadId self = mono_native_thread_id_get ();
3336         guint32 eventidx = 0;
3337         gboolean starting, finished;
3338
3339         memset (wait, 0, sizeof (struct wait_data));
3340         /*
3341          * The other threads could be in an arbitrary state at this point, i.e.
3342          * they could be starting up, shutting down etc. This means that there could be
3343          * threads which are not even in the threads hash table yet.
3344          */
3345
3346         /*
3347          * First we set a barrier which will be checked by all threads before they
3348          * are added to the threads hash table, and they will exit if the flag is set.
3349          * This ensures that no threads could be added to the hash later.
3350          * We will use shutting_down as the barrier for now.
3351          */
3352         g_assert (shutting_down);
3353
3354         /*
3355          * We make multiple calls to WaitForMultipleObjects since:
3356          * - we can only wait for MAXIMUM_WAIT_OBJECTS threads
3357          * - some threads could exit without becoming suspended
3358          */
3359         finished = FALSE;
3360         while (!finished) {
3361                 /*
3362                  * Make a copy of the hashtable since we can't do anything with
3363                  * threads while threads_mutex is held.
3364                  */
3365                 wait->num = 0;
3366                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3367                 memset (wait->threads, 0, MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3368                 mono_threads_lock ();
3369                 mono_g_hash_table_foreach (threads, collect_threads_for_suspend, wait);
3370                 mono_threads_unlock ();
3371
3372                 eventidx = 0;
3373                 /* Get the suspended events that we'll be waiting for */
3374                 for (i = 0; i < wait->num; ++i) {
3375                         MonoInternalThread *thread = wait->threads [i];
3376
3377                         if (mono_native_thread_id_equals (thread_get_tid (thread), self)
3378                              || mono_gc_is_finalizer_internal_thread (thread)
3379                              || (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE)
3380                         ) {
3381                                 //CloseHandle (wait->handles [i]);
3382                                 wait->threads [i] = NULL; /* ignore this thread in next loop */
3383                                 continue;
3384                         }
3385
3386                         LOCK_THREAD (thread);
3387
3388                         if ((thread->state & ThreadState_Suspended) != 0 ||
3389                                 (thread->state & ThreadState_StopRequested) != 0 ||
3390                                 (thread->state & ThreadState_Stopped) != 0) {
3391                                 UNLOCK_THREAD (thread);
3392                                 CloseHandle (wait->handles [i]);
3393                                 wait->threads [i] = NULL; /* ignore this thread in next loop */
3394                                 continue;
3395                         }
3396
3397                         ++eventidx;
3398
3399                         /* Convert abort requests into suspend requests */
3400                         if ((thread->state & ThreadState_AbortRequested) != 0)
3401                                 thread->state &= ~ThreadState_AbortRequested;
3402
3403                         thread->state |= ThreadState_SuspendRequested;
3404
3405                         /* Signal the thread to suspend + calls UNLOCK_THREAD (thread) */
3406                         async_suspend_internal (thread, TRUE);
3407                 }
3408                 if (eventidx <= 0) {
3409                         /*
3410                          * If there are threads which are starting up, we wait until they
3411                          * are suspended when they try to register in the threads hash.
3412                          * This is guaranteed to finish, since the threads which can create new
3413                          * threads get suspended after a while.
3414                          * FIXME: The finalizer thread can still create new threads.
3415                          */
3416                         mono_threads_lock ();
3417                         if (threads_starting_up)
3418                                 starting = mono_g_hash_table_size (threads_starting_up) > 0;
3419                         else
3420                                 starting = FALSE;
3421                         mono_threads_unlock ();
3422                         if (starting)
3423                                 mono_thread_info_sleep (100, NULL);
3424                         else
3425                                 finished = TRUE;
3426                 }
3427         }
3428 }
3429
3430 typedef struct {
3431         MonoInternalThread *thread;
3432         MonoStackFrameInfo *frames;
3433         int nframes, max_frames;
3434         int nthreads, max_threads;
3435         MonoInternalThread **threads;
3436 } ThreadDumpUserData;
3437
3438 static gboolean thread_dump_requested;
3439
3440 /* This needs to be async safe */
3441 static gboolean
3442 collect_frame (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
3443 {
3444         ThreadDumpUserData *ud = (ThreadDumpUserData *)data;
3445
3446         if (ud->nframes < ud->max_frames) {
3447                 memcpy (&ud->frames [ud->nframes], frame, sizeof (MonoStackFrameInfo));
3448                 ud->nframes ++;
3449         }
3450
3451         return FALSE;
3452 }
3453
3454 /* This needs to be async safe */
3455 static SuspendThreadResult
3456 get_thread_dump (MonoThreadInfo *info, gpointer ud)
3457 {
3458         ThreadDumpUserData *user_data = (ThreadDumpUserData *)ud;
3459         MonoInternalThread *thread = user_data->thread;
3460
3461 #if 0
3462 /* This no longer works with remote unwinding */
3463 #ifndef HOST_WIN32
3464         wapi_desc = wapi_current_thread_desc ();
3465         g_string_append_printf (text, " tid=0x%p this=0x%p %s\n", (gpointer)(gsize)thread->tid, thread,  wapi_desc);
3466         free (wapi_desc);
3467 #endif
3468 #endif
3469
3470         if (thread == mono_thread_internal_current ())
3471                 mono_get_eh_callbacks ()->mono_walk_stack_with_ctx (collect_frame, NULL, MONO_UNWIND_SIGNAL_SAFE, ud);
3472         else
3473                 mono_get_eh_callbacks ()->mono_walk_stack_with_state (collect_frame, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, ud);
3474
3475         return MonoResumeThread;
3476 }
3477
3478 typedef struct {
3479         int nthreads, max_threads;
3480         MonoInternalThread **threads;
3481 } CollectThreadsUserData;
3482
3483 static void
3484 collect_thread (gpointer key, gpointer value, gpointer user)
3485 {
3486         CollectThreadsUserData *ud = (CollectThreadsUserData *)user;
3487         MonoInternalThread *thread = (MonoInternalThread *)value;
3488
3489         if (ud->nthreads < ud->max_threads)
3490                 ud->threads [ud->nthreads ++] = thread;
3491 }
3492
3493 /*
3494  * Collect running threads into the THREADS array.
3495  * THREADS should be an array allocated on the stack.
3496  */
3497 static int
3498 collect_threads (MonoInternalThread **thread_array, int max_threads)
3499 {
3500         CollectThreadsUserData ud;
3501
3502         memset (&ud, 0, sizeof (ud));
3503         /* This array contains refs, but its on the stack, so its ok */
3504         ud.threads = thread_array;
3505         ud.max_threads = max_threads;
3506
3507         mono_threads_lock ();
3508         mono_g_hash_table_foreach (threads, collect_thread, &ud);
3509         mono_threads_unlock ();
3510
3511         return ud.nthreads;
3512 }
3513
3514 static void
3515 dump_thread (MonoInternalThread *thread, ThreadDumpUserData *ud)
3516 {
3517         GString* text = g_string_new (0);
3518         char *name;
3519         GError *error = NULL;
3520         int i;
3521
3522         ud->thread = thread;
3523         ud->nframes = 0;
3524
3525         /* Collect frames for the thread */
3526         if (thread == mono_thread_internal_current ()) {
3527                 get_thread_dump (mono_thread_info_current (), ud);
3528         } else {
3529                 mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, ud);
3530         }
3531
3532         /*
3533          * Do all the non async-safe work outside of get_thread_dump.
3534          */
3535         if (thread->name) {
3536                 name = g_utf16_to_utf8 (thread->name, thread->name_len, NULL, NULL, &error);
3537                 g_assert (!error);
3538                 g_string_append_printf (text, "\n\"%s\"", name);
3539                 g_free (name);
3540         }
3541         else if (thread->threadpool_thread) {
3542                 g_string_append (text, "\n\"<threadpool thread>\"");
3543         } else {
3544                 g_string_append (text, "\n\"<unnamed thread>\"");
3545         }
3546
3547         for (i = 0; i < ud->nframes; ++i) {
3548                 MonoStackFrameInfo *frame = &ud->frames [i];
3549                 MonoMethod *method = NULL;
3550
3551                 if (frame->type == FRAME_TYPE_MANAGED)
3552                         method = mono_jit_info_get_method (frame->ji);
3553
3554                 if (method) {
3555                         gchar *location = mono_debug_print_stack_frame (method, frame->native_offset, frame->domain);
3556                         g_string_append_printf (text, "  %s\n", location);
3557                         g_free (location);
3558                 } else {
3559                         g_string_append_printf (text, "  at <unknown> <0x%05x>\n", frame->native_offset);
3560                 }
3561         }
3562
3563         fprintf (stdout, "%s", text->str);
3564
3565 #if PLATFORM_WIN32 && TARGET_WIN32 && _DEBUG
3566         OutputDebugStringA(text->str);
3567 #endif
3568
3569         g_string_free (text, TRUE);
3570         fflush (stdout);
3571 }
3572
3573 void
3574 mono_threads_perform_thread_dump (void)
3575 {
3576         ThreadDumpUserData ud;
3577         MonoInternalThread *thread_array [128];
3578         int tindex, nthreads;
3579
3580         if (!thread_dump_requested)
3581                 return;
3582
3583         printf ("Full thread dump:\n");
3584
3585         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3586         nthreads = collect_threads (thread_array, 128);
3587
3588         memset (&ud, 0, sizeof (ud));
3589         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3590         ud.max_frames = 256;
3591
3592         for (tindex = 0; tindex < nthreads; ++tindex)
3593                 dump_thread (thread_array [tindex], &ud);
3594
3595         g_free (ud.frames);
3596
3597         thread_dump_requested = FALSE;
3598 }
3599
3600 /* Obtain the thread dump of all threads */
3601 static void
3602 mono_threads_get_thread_dump (MonoArray **out_threads, MonoArray **out_stack_frames)
3603 {
3604         MonoError error;
3605
3606         ThreadDumpUserData ud;
3607         MonoInternalThread *thread_array [128];
3608         MonoDomain *domain = mono_domain_get ();
3609         MonoDebugSourceLocation *location;
3610         int tindex, nthreads;
3611
3612         mono_error_init (&error);
3613
3614         *out_threads = NULL;
3615         *out_stack_frames = NULL;
3616
3617         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3618         nthreads = collect_threads (thread_array, 128);
3619
3620         memset (&ud, 0, sizeof (ud));
3621         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3622         ud.max_frames = 256;
3623
3624         *out_threads = mono_array_new_checked (domain, mono_defaults.thread_class, nthreads, &error);
3625         if (!is_ok (&error))
3626                 goto leave;
3627         *out_stack_frames = mono_array_new_checked (domain, mono_defaults.array_class, nthreads, &error);
3628         if (!is_ok (&error))
3629                 goto leave;
3630
3631         for (tindex = 0; tindex < nthreads; ++tindex) {
3632                 MonoInternalThread *thread = thread_array [tindex];
3633                 MonoArray *thread_frames;
3634                 int i;
3635
3636                 ud.thread = thread;
3637                 ud.nframes = 0;
3638
3639                 /* Collect frames for the thread */
3640                 if (thread == mono_thread_internal_current ()) {
3641                         get_thread_dump (mono_thread_info_current (), &ud);
3642                 } else {
3643                         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, &ud);
3644                 }
3645
3646                 mono_array_setref_fast (*out_threads, tindex, mono_thread_current_for_thread (thread));
3647
3648                 thread_frames = mono_array_new_checked (domain, mono_defaults.stack_frame_class, ud.nframes, &error);
3649                 if (!is_ok (&error))
3650                         goto leave;
3651                 mono_array_setref_fast (*out_stack_frames, tindex, thread_frames);
3652
3653                 for (i = 0; i < ud.nframes; ++i) {
3654                         MonoStackFrameInfo *frame = &ud.frames [i];
3655                         MonoMethod *method = NULL;
3656                         MonoStackFrame *sf = (MonoStackFrame *)mono_object_new_checked (domain, mono_defaults.stack_frame_class, &error);
3657                         if (!mono_error_ok (&error))
3658                                 goto leave;
3659
3660                         sf->native_offset = frame->native_offset;
3661
3662                         if (frame->type == FRAME_TYPE_MANAGED)
3663                                 method = mono_jit_info_get_method (frame->ji);
3664
3665                         if (method) {
3666                                 sf->method_address = (gsize) frame->ji->code_start;
3667
3668                                 MonoReflectionMethod *rm = mono_method_get_object_checked (domain, method, NULL, &error);
3669                                 mono_error_raise_exception (&error); /* FIXME don't raise here */
3670                                 MONO_OBJECT_SETREF (sf, method, rm);
3671
3672                                 location = mono_debug_lookup_source_location (method, frame->native_offset, domain);
3673                                 if (location) {
3674                                         sf->il_offset = location->il_offset;
3675
3676                                         if (location && location->source_file) {
3677                                                 MONO_OBJECT_SETREF (sf, filename, mono_string_new (domain, location->source_file));
3678                                                 sf->line = location->row;
3679                                                 sf->column = location->column;
3680                                         }
3681                                         mono_debug_free_source_location (location);
3682                                 } else {
3683                                         sf->il_offset = -1;
3684                                 }
3685                         }
3686                         mono_array_setref (thread_frames, i, sf);
3687                 }
3688         }
3689
3690 leave:
3691         g_free (ud.frames);
3692         mono_error_raise_exception (&error); /* FIXME don't raise here */
3693 }
3694
3695 /**
3696  * mono_threads_request_thread_dump:
3697  *
3698  *   Ask all threads except the current to print their stacktrace to stdout.
3699  */
3700 void
3701 mono_threads_request_thread_dump (void)
3702 {
3703         /*The new thread dump code runs out of the finalizer thread. */
3704         thread_dump_requested = TRUE;
3705         mono_gc_finalize_notify ();
3706 }
3707
3708 struct ref_stack {
3709         gpointer *refs;
3710         gint allocated; /* +1 so that refs [allocated] == NULL */
3711         gint bottom;
3712 };
3713
3714 typedef struct ref_stack RefStack;
3715
3716 static RefStack *
3717 ref_stack_new (gint initial_size)
3718 {
3719         RefStack *rs;
3720
3721         initial_size = MAX (initial_size, 16) + 1;
3722         rs = g_new0 (RefStack, 1);
3723         rs->refs = g_new0 (gpointer, initial_size);
3724         rs->allocated = initial_size;
3725         return rs;
3726 }
3727
3728 static void
3729 ref_stack_destroy (gpointer ptr)
3730 {
3731         RefStack *rs = (RefStack *)ptr;
3732
3733         if (rs != NULL) {
3734                 g_free (rs->refs);
3735                 g_free (rs);
3736         }
3737 }
3738
3739 static void
3740 ref_stack_push (RefStack *rs, gpointer ptr)
3741 {
3742         g_assert (rs != NULL);
3743
3744         if (rs->bottom >= rs->allocated) {
3745                 rs->refs = (void **)g_realloc (rs->refs, rs->allocated * 2 * sizeof (gpointer) + 1);
3746                 rs->allocated <<= 1;
3747                 rs->refs [rs->allocated] = NULL;
3748         }
3749         rs->refs [rs->bottom++] = ptr;
3750 }
3751
3752 static void
3753 ref_stack_pop (RefStack *rs)
3754 {
3755         if (rs == NULL || rs->bottom == 0)
3756                 return;
3757
3758         rs->bottom--;
3759         rs->refs [rs->bottom] = NULL;
3760 }
3761
3762 static gboolean
3763 ref_stack_find (RefStack *rs, gpointer ptr)
3764 {
3765         gpointer *refs;
3766
3767         if (rs == NULL)
3768                 return FALSE;
3769
3770         for (refs = rs->refs; refs && *refs; refs++) {
3771                 if (*refs == ptr)
3772                         return TRUE;
3773         }
3774         return FALSE;
3775 }
3776
3777 /*
3778  * mono_thread_push_appdomain_ref:
3779  *
3780  *   Register that the current thread may have references to objects in domain
3781  * @domain on its stack. Each call to this function should be paired with a
3782  * call to pop_appdomain_ref.
3783  */
3784 void
3785 mono_thread_push_appdomain_ref (MonoDomain *domain)
3786 {
3787         MonoInternalThread *thread = mono_thread_internal_current ();
3788
3789         if (thread) {
3790                 /* printf ("PUSH REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, domain->friendly_name); */
3791                 SPIN_LOCK (thread->lock_thread_id);
3792                 if (thread->appdomain_refs == NULL)
3793                         thread->appdomain_refs = ref_stack_new (16);
3794                 ref_stack_push ((RefStack *)thread->appdomain_refs, domain);
3795                 SPIN_UNLOCK (thread->lock_thread_id);
3796         }
3797 }
3798
3799 void
3800 mono_thread_pop_appdomain_ref (void)
3801 {
3802         MonoInternalThread *thread = mono_thread_internal_current ();
3803
3804         if (thread) {
3805                 /* printf ("POP REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, ((MonoDomain*)(thread->appdomain_refs->data))->friendly_name); */
3806                 SPIN_LOCK (thread->lock_thread_id);
3807                 ref_stack_pop ((RefStack *)thread->appdomain_refs);
3808                 SPIN_UNLOCK (thread->lock_thread_id);
3809         }
3810 }
3811
3812 gboolean
3813 mono_thread_internal_has_appdomain_ref (MonoInternalThread *thread, MonoDomain *domain)
3814 {
3815         gboolean res;
3816         SPIN_LOCK (thread->lock_thread_id);
3817         res = ref_stack_find ((RefStack *)thread->appdomain_refs, domain);
3818         SPIN_UNLOCK (thread->lock_thread_id);
3819         return res;
3820 }
3821
3822 gboolean
3823 mono_thread_has_appdomain_ref (MonoThread *thread, MonoDomain *domain)
3824 {
3825         return mono_thread_internal_has_appdomain_ref (thread->internal_thread, domain);
3826 }
3827
3828 typedef struct abort_appdomain_data {
3829         struct wait_data wait;
3830         MonoDomain *domain;
3831 } abort_appdomain_data;
3832
3833 static void
3834 collect_appdomain_thread (gpointer key, gpointer value, gpointer user_data)
3835 {
3836         MonoInternalThread *thread = (MonoInternalThread*)value;
3837         abort_appdomain_data *data = (abort_appdomain_data*)user_data;
3838         MonoDomain *domain = data->domain;
3839
3840         if (mono_thread_internal_has_appdomain_ref (thread, domain)) {
3841                 /* printf ("ABORTING THREAD %p BECAUSE IT REFERENCES DOMAIN %s.\n", thread->tid, domain->friendly_name); */
3842
3843                 if(data->wait.num<MAXIMUM_WAIT_OBJECTS) {
3844                         HANDLE handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3845                         if (handle == NULL)
3846                                 return;
3847                         data->wait.handles [data->wait.num] = handle;
3848                         data->wait.threads [data->wait.num] = thread;
3849                         data->wait.num++;
3850                 } else {
3851                         /* Just ignore the rest, we can't do anything with
3852                          * them yet
3853                          */
3854                 }
3855         }
3856 }
3857
3858 /*
3859  * mono_threads_abort_appdomain_threads:
3860  *
3861  *   Abort threads which has references to the given appdomain.
3862  */
3863 gboolean
3864 mono_threads_abort_appdomain_threads (MonoDomain *domain, int timeout)
3865 {
3866 #ifdef __native_client__
3867         return FALSE;
3868 #endif
3869
3870         abort_appdomain_data user_data;
3871         gint64 start_time;
3872         int orig_timeout = timeout;
3873         int i;
3874
3875         THREAD_DEBUG (g_message ("%s: starting abort", __func__));
3876
3877         start_time = mono_msec_ticks ();
3878         do {
3879                 mono_threads_lock ();
3880
3881                 user_data.domain = domain;
3882                 user_data.wait.num = 0;
3883                 /* This shouldn't take any locks */
3884                 mono_g_hash_table_foreach (threads, collect_appdomain_thread, &user_data);
3885                 mono_threads_unlock ();
3886
3887                 if (user_data.wait.num > 0) {
3888                         /* Abort the threads outside the threads lock */
3889                         for (i = 0; i < user_data.wait.num; ++i)
3890                                 mono_thread_internal_abort (user_data.wait.threads [i]);
3891
3892                         /*
3893                          * We should wait for the threads either to abort, or to leave the
3894                          * domain. We can't do the latter, so we wait with a timeout.
3895                          */
3896                         wait_for_tids (&user_data.wait, 100);
3897                 }
3898
3899                 /* Update remaining time */
3900                 timeout -= mono_msec_ticks () - start_time;
3901                 start_time = mono_msec_ticks ();
3902
3903                 if (orig_timeout != -1 && timeout < 0)
3904                         return FALSE;
3905         }
3906         while (user_data.wait.num > 0);
3907
3908         THREAD_DEBUG (g_message ("%s: abort done", __func__));
3909
3910         return TRUE;
3911 }
3912
3913 static void
3914 clear_cached_culture (gpointer key, gpointer value, gpointer user_data)
3915 {
3916         MonoInternalThread *thread = (MonoInternalThread*)value;
3917         MonoDomain *domain = (MonoDomain*)user_data;
3918         int i;
3919
3920         /* No locking needed here */
3921         /* FIXME: why no locking? writes to the cache are protected with synch_cs above */
3922
3923         if (thread->cached_culture_info) {
3924                 for (i = 0; i < NUM_CACHED_CULTURES * 2; ++i) {
3925                         MonoObject *obj = mono_array_get (thread->cached_culture_info, MonoObject*, i);
3926                         if (obj && obj->vtable->domain == domain)
3927                                 mono_array_set (thread->cached_culture_info, MonoObject*, i, NULL);
3928                 }
3929         }
3930 }
3931
3932 /*
3933  * mono_threads_clear_cached_culture:
3934  *
3935  *   Clear the cached_current_culture from all threads if it is in the
3936  * given appdomain.
3937  */
3938 void
3939 mono_threads_clear_cached_culture (MonoDomain *domain)
3940 {
3941         mono_threads_lock ();
3942         mono_g_hash_table_foreach (threads, clear_cached_culture, domain);
3943         mono_threads_unlock ();
3944 }
3945
3946 /*
3947  * mono_thread_get_undeniable_exception:
3948  *
3949  *   Return an exception which needs to be raised when leaving a catch clause.
3950  * This is used for undeniable exception propagation.
3951  */
3952 MonoException*
3953 mono_thread_get_undeniable_exception (void)
3954 {
3955         MonoInternalThread *thread = mono_thread_internal_current ();
3956
3957         if (thread && thread->abort_exc && !is_running_protected_wrapper ()) {
3958                 /*
3959                  * FIXME: Clear the abort exception and return an AppDomainUnloaded
3960                  * exception if the thread no longer references a dying appdomain.
3961                  */
3962                 thread->abort_exc->trace_ips = NULL;
3963                 thread->abort_exc->stack_trace = NULL;
3964                 return thread->abort_exc;
3965         }
3966
3967         return NULL;
3968 }
3969
3970 #if MONO_SMALL_CONFIG
3971 #define NUM_STATIC_DATA_IDX 4
3972 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3973         64, 256, 1024, 4096
3974 };
3975 #else
3976 #define NUM_STATIC_DATA_IDX 8
3977 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3978         1024, 4096, 16384, 65536, 262144, 1048576, 4194304, 16777216
3979 };
3980 #endif
3981
3982 static MonoBitSet *thread_reference_bitmaps [NUM_STATIC_DATA_IDX];
3983 static MonoBitSet *context_reference_bitmaps [NUM_STATIC_DATA_IDX];
3984
3985 static void
3986 mark_slots (void *addr, MonoBitSet **bitmaps, MonoGCMarkFunc mark_func, void *gc_data)
3987 {
3988         gpointer *static_data = (gpointer *)addr;
3989
3990         for (int i = 0; i < NUM_STATIC_DATA_IDX; ++i) {
3991                 void **ptr = (void **)static_data [i];
3992
3993                 if (!ptr)
3994                         continue;
3995
3996                 MONO_BITSET_FOREACH (bitmaps [i], idx, {
3997                         void **p = ptr + idx;
3998
3999                         if (*p)
4000                                 mark_func ((MonoObject**)p, gc_data);
4001                 });
4002         }
4003 }
4004
4005 static void
4006 mark_tls_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
4007 {
4008         mark_slots (addr, thread_reference_bitmaps, mark_func, gc_data);
4009 }
4010
4011 static void
4012 mark_ctx_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
4013 {
4014         mark_slots (addr, context_reference_bitmaps, mark_func, gc_data);
4015 }
4016
4017 /*
4018  *  mono_alloc_static_data
4019  *
4020  *   Allocate memory blocks for storing threads or context static data
4021  */
4022 static void
4023 mono_alloc_static_data (gpointer **static_data_ptr, guint32 offset, gboolean threadlocal)
4024 {
4025         guint idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4026         int i;
4027
4028         gpointer* static_data = *static_data_ptr;
4029         if (!static_data) {
4030                 static MonoGCDescriptor tls_desc = MONO_GC_DESCRIPTOR_NULL;
4031                 static MonoGCDescriptor ctx_desc = MONO_GC_DESCRIPTOR_NULL;
4032
4033                 if (mono_gc_user_markers_supported ()) {
4034                         if (tls_desc == MONO_GC_DESCRIPTOR_NULL)
4035                                 tls_desc = mono_gc_make_root_descr_user (mark_tls_slots);
4036
4037                         if (ctx_desc == MONO_GC_DESCRIPTOR_NULL)
4038                                 ctx_desc = mono_gc_make_root_descr_user (mark_ctx_slots);
4039                 }
4040
4041                 static_data = (void **)mono_gc_alloc_fixed (static_data_size [0], threadlocal ? tls_desc : ctx_desc,
4042                         threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
4043                         threadlocal ? "managed thread-static variables" : "managed context-static variables");
4044                 *static_data_ptr = static_data;
4045                 static_data [0] = static_data;
4046         }
4047
4048         for (i = 1; i <= idx; ++i) {
4049                 if (static_data [i])
4050                         continue;
4051
4052                 if (mono_gc_user_markers_supported ())
4053                         static_data [i] = g_malloc0 (static_data_size [i]);
4054                 else
4055                         static_data [i] = mono_gc_alloc_fixed (static_data_size [i], MONO_GC_DESCRIPTOR_NULL,
4056                                 threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
4057                                 threadlocal ? "managed thread-static variables" : "managed context-static variables");
4058         }
4059 }
4060
4061 static void
4062 mono_free_static_data (gpointer* static_data)
4063 {
4064         int i;
4065         for (i = 1; i < NUM_STATIC_DATA_IDX; ++i) {
4066                 gpointer p = static_data [i];
4067                 if (!p)
4068                         continue;
4069                 /*
4070                  * At this point, the static data pointer array is still registered with the
4071                  * GC, so must ensure that mark_tls_slots() will not encounter any invalid
4072                  * data.  Freeing the individual arrays without first nulling their slots
4073                  * would make it possible for mark_tls/ctx_slots() to encounter a pointer to
4074                  * such an already freed array.  See bug #13813.
4075                  */
4076                 static_data [i] = NULL;
4077                 mono_memory_write_barrier ();
4078                 if (mono_gc_user_markers_supported ())
4079                         g_free (p);
4080                 else
4081                         mono_gc_free_fixed (p);
4082         }
4083         mono_gc_free_fixed (static_data);
4084 }
4085
4086 /*
4087  *  mono_init_static_data_info
4088  *
4089  *   Initializes static data counters
4090  */
4091 static void mono_init_static_data_info (StaticDataInfo *static_data)
4092 {
4093         static_data->idx = 0;
4094         static_data->offset = 0;
4095         static_data->freelist = NULL;
4096 }
4097
4098 /*
4099  *  mono_alloc_static_data_slot
4100  *
4101  *   Generates an offset for static data. static_data contains the counters
4102  *  used to generate it.
4103  */
4104 static guint32
4105 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align)
4106 {
4107         if (!static_data->idx && !static_data->offset) {
4108                 /*
4109                  * we use the first chunk of the first allocation also as
4110                  * an array for the rest of the data
4111                  */
4112                 static_data->offset = sizeof (gpointer) * NUM_STATIC_DATA_IDX;
4113         }
4114         static_data->offset += align - 1;
4115         static_data->offset &= ~(align - 1);
4116         if (static_data->offset + size >= static_data_size [static_data->idx]) {
4117                 static_data->idx ++;
4118                 g_assert (size <= static_data_size [static_data->idx]);
4119                 g_assert (static_data->idx < NUM_STATIC_DATA_IDX);
4120                 static_data->offset = 0;
4121         }
4122         guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (static_data->idx, static_data->offset, 0);
4123         static_data->offset += size;
4124         return offset;
4125 }
4126
4127 /*
4128  * ensure thread static fields already allocated are valid for thread
4129  * This function is called when a thread is created or on thread attach.
4130  */
4131 static void
4132 thread_adjust_static_data (MonoInternalThread *thread)
4133 {
4134         mono_threads_lock ();
4135         if (thread_static_info.offset || thread_static_info.idx > 0) {
4136                 /* get the current allocated size */
4137                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (thread_static_info.idx, thread_static_info.offset, 0);
4138                 mono_alloc_static_data (&thread->static_data, offset, TRUE);
4139         }
4140         mono_threads_unlock ();
4141 }
4142
4143 /*
4144  * LOCKING: requires that threads_mutex is held
4145  */
4146 static void
4147 context_adjust_static_data (MonoAppContext *ctx)
4148 {
4149         if (context_static_info.offset || context_static_info.idx > 0) {
4150                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (context_static_info.idx, context_static_info.offset, 0);
4151                 mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4152                 ctx->data->static_data = ctx->static_data;
4153         }
4154 }
4155
4156 /*
4157  * LOCKING: requires that threads_mutex is held
4158  */
4159 static void
4160 alloc_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4161 {
4162         MonoInternalThread *thread = (MonoInternalThread *)value;
4163         guint32 offset = GPOINTER_TO_UINT (user);
4164
4165         mono_alloc_static_data (&(thread->static_data), offset, TRUE);
4166 }
4167
4168 /*
4169  * LOCKING: requires that threads_mutex is held
4170  */
4171 static void
4172 alloc_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4173 {
4174         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4175
4176         if (!ctx)
4177                 return;
4178
4179         guint32 offset = GPOINTER_TO_UINT (user);
4180         mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4181         ctx->data->static_data = ctx->static_data;
4182 }
4183
4184 static StaticDataFreeList*
4185 search_slot_in_freelist (StaticDataInfo *static_data, guint32 size, guint32 align)
4186 {
4187         StaticDataFreeList* prev = NULL;
4188         StaticDataFreeList* tmp = static_data->freelist;
4189         while (tmp) {
4190                 if (tmp->size == size) {
4191                         if (prev)
4192                                 prev->next = tmp->next;
4193                         else
4194                                 static_data->freelist = tmp->next;
4195                         return tmp;
4196                 }
4197                 prev = tmp;
4198                 tmp = tmp->next;
4199         }
4200         return NULL;
4201 }
4202
4203 #if SIZEOF_VOID_P == 4
4204 #define ONE_P 1
4205 #else
4206 #define ONE_P 1ll
4207 #endif
4208
4209 static void
4210 update_reference_bitmap (MonoBitSet **sets, guint32 offset, uintptr_t *bitmap, int numbits)
4211 {
4212         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4213         if (!sets [idx])
4214                 sets [idx] = mono_bitset_new (static_data_size [idx] / sizeof (uintptr_t), 0);
4215         MonoBitSet *rb = sets [idx];
4216         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4217         offset /= sizeof (uintptr_t);
4218         /* offset is now the bitmap offset */
4219         for (int i = 0; i < numbits; ++i) {
4220                 if (bitmap [i / sizeof (uintptr_t)] & (ONE_P << (i & (sizeof (uintptr_t) * 8 -1))))
4221                         mono_bitset_set_fast (rb, offset + i);
4222         }
4223 }
4224
4225 static void
4226 clear_reference_bitmap (MonoBitSet **sets, guint32 offset, guint32 size)
4227 {
4228         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4229         MonoBitSet *rb = sets [idx];
4230         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4231         offset /= sizeof (uintptr_t);
4232         /* offset is now the bitmap offset */
4233         for (int i = 0; i < size / sizeof (uintptr_t); i++)
4234                 mono_bitset_clear_fast (rb, offset + i);
4235 }
4236
4237 guint32
4238 mono_alloc_special_static_data (guint32 static_type, guint32 size, guint32 align, uintptr_t *bitmap, int numbits)
4239 {
4240         g_assert (static_type == SPECIAL_STATIC_THREAD || static_type == SPECIAL_STATIC_CONTEXT);
4241
4242         StaticDataInfo *info;
4243         MonoBitSet **sets;
4244
4245         if (static_type == SPECIAL_STATIC_THREAD) {
4246                 info = &thread_static_info;
4247                 sets = thread_reference_bitmaps;
4248         } else {
4249                 info = &context_static_info;
4250                 sets = context_reference_bitmaps;
4251         }
4252
4253         mono_threads_lock ();
4254
4255         StaticDataFreeList *item = search_slot_in_freelist (info, size, align);
4256         guint32 offset;
4257
4258         if (item) {
4259                 offset = item->offset;
4260                 g_free (item);
4261         } else {
4262                 offset = mono_alloc_static_data_slot (info, size, align);
4263         }
4264
4265         update_reference_bitmap (sets, offset, bitmap, numbits);
4266
4267         if (static_type == SPECIAL_STATIC_THREAD) {
4268                 /* This can be called during startup */
4269                 if (threads != NULL)
4270                         mono_g_hash_table_foreach (threads, alloc_thread_static_data_helper, GUINT_TO_POINTER (offset));
4271         } else {
4272                 if (contexts != NULL)
4273                         g_hash_table_foreach (contexts, alloc_context_static_data_helper, GUINT_TO_POINTER (offset));
4274
4275                 ACCESS_SPECIAL_STATIC_OFFSET (offset, type) = SPECIAL_STATIC_OFFSET_TYPE_CONTEXT;
4276         }
4277
4278         mono_threads_unlock ();
4279
4280         return offset;
4281 }
4282
4283 gpointer
4284 mono_get_special_static_data_for_thread (MonoInternalThread *thread, guint32 offset)
4285 {
4286         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4287
4288         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4289                 return get_thread_static_data (thread, offset);
4290         } else {
4291                 return get_context_static_data (thread->current_appcontext, offset);
4292         }
4293 }
4294
4295 gpointer
4296 mono_get_special_static_data (guint32 offset)
4297 {
4298         return mono_get_special_static_data_for_thread (mono_thread_internal_current (), offset);
4299 }
4300
4301 typedef struct {
4302         guint32 offset;
4303         guint32 size;
4304 } OffsetSize;
4305
4306 /*
4307  * LOCKING: requires that threads_mutex is held
4308  */
4309 static void
4310 free_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4311 {
4312         MonoInternalThread *thread = (MonoInternalThread *)value;
4313         OffsetSize *data = (OffsetSize *)user;
4314         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4315         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4316         char *ptr;
4317
4318         if (!thread->static_data || !thread->static_data [idx])
4319                 return;
4320         ptr = ((char*) thread->static_data [idx]) + off;
4321         mono_gc_bzero_atomic (ptr, data->size);
4322 }
4323
4324 /*
4325  * LOCKING: requires that threads_mutex is held
4326  */
4327 static void
4328 free_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4329 {
4330         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4331
4332         if (!ctx)
4333                 return;
4334
4335         OffsetSize *data = (OffsetSize *)user;
4336         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4337         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4338         char *ptr;
4339
4340         if (!ctx->static_data || !ctx->static_data [idx])
4341                 return;
4342
4343         ptr = ((char*) ctx->static_data [idx]) + off;
4344         mono_gc_bzero_atomic (ptr, data->size);
4345 }
4346
4347 static void
4348 do_free_special_slot (guint32 offset, guint32 size)
4349 {
4350         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4351         MonoBitSet **sets;
4352         StaticDataInfo *info;
4353
4354         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4355                 info = &thread_static_info;
4356                 sets = thread_reference_bitmaps;
4357         } else {
4358                 info = &context_static_info;
4359                 sets = context_reference_bitmaps;
4360         }
4361
4362         guint32 data_offset = offset;
4363         ACCESS_SPECIAL_STATIC_OFFSET (data_offset, type) = 0;
4364         OffsetSize data = { data_offset, size };
4365
4366         clear_reference_bitmap (sets, data.offset, data.size);
4367
4368         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4369                 if (threads != NULL)
4370                         mono_g_hash_table_foreach (threads, free_thread_static_data_helper, &data);
4371         } else {
4372                 if (contexts != NULL)
4373                         g_hash_table_foreach (contexts, free_context_static_data_helper, &data);
4374         }
4375
4376         if (!mono_runtime_is_shutting_down ()) {
4377                 StaticDataFreeList *item = g_new0 (StaticDataFreeList, 1);
4378
4379                 item->offset = offset;
4380                 item->size = size;
4381
4382                 item->next = info->freelist;
4383                 info->freelist = item;
4384         }
4385 }
4386
4387 static void
4388 do_free_special (gpointer key, gpointer value, gpointer data)
4389 {
4390         MonoClassField *field = (MonoClassField *)key;
4391         guint32 offset = GPOINTER_TO_UINT (value);
4392         gint32 align;
4393         guint32 size;
4394         size = mono_type_size (field->type, &align);
4395         do_free_special_slot (offset, size);
4396 }
4397
4398 void
4399 mono_alloc_special_static_data_free (GHashTable *special_static_fields)
4400 {
4401         mono_threads_lock ();
4402
4403         g_hash_table_foreach (special_static_fields, do_free_special, NULL);
4404
4405         mono_threads_unlock ();
4406 }
4407
4408 static void
4409 mono_special_static_data_free_slot (guint32 offset, guint32 size)
4410 {
4411         /* Only ever called for ThreadLocal instances */
4412         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_THREAD);
4413
4414         mono_threads_lock ();
4415         do_free_special_slot (offset, size);
4416         mono_threads_unlock ();
4417 }
4418
4419 #ifdef HOST_WIN32
4420 static void CALLBACK dummy_apc (ULONG_PTR param)
4421 {
4422 }
4423 #endif
4424
4425 /*
4426  * mono_thread_execute_interruption
4427  *
4428  * Performs the operation that the requested thread state requires (abort,
4429  * suspend or stop)
4430  */
4431 static MonoException*
4432 mono_thread_execute_interruption (void)
4433 {
4434         MonoInternalThread *thread = mono_thread_internal_current ();
4435         MonoThread *sys_thread = mono_thread_current ();
4436
4437         LOCK_THREAD (thread);
4438
4439         /* MonoThread::interruption_requested can only be changed with atomics */
4440         if (InterlockedCompareExchange (&thread->interruption_requested, FALSE, TRUE)) {
4441                 /* this will consume pending APC calls */
4442 #ifdef HOST_WIN32
4443                 WaitForSingleObjectEx (GetCurrentThread(), 0, TRUE);
4444 #endif
4445                 InterlockedDecrement (&thread_interruption_requested);
4446
4447                 /* Clear the interrupted flag of the thread so it can wait again */
4448                 mono_thread_info_clear_self_interrupt ();
4449         }
4450
4451         /* If there's a pending exception and an AbortRequested, the pending exception takes precedence */
4452         if (sys_thread->pending_exception) {
4453                 MonoException *exc;
4454
4455                 exc = sys_thread->pending_exception;
4456                 sys_thread->pending_exception = NULL;
4457
4458                 UNLOCK_THREAD (thread);
4459                 return exc;
4460         } else if ((thread->state & ThreadState_AbortRequested) != 0) {
4461                 UNLOCK_THREAD (thread);
4462                 g_assert (sys_thread->pending_exception == NULL);
4463                 if (thread->abort_exc == NULL) {
4464                         /*
4465                          * This might be racy, but it has to be called outside the lock
4466                          * since it calls managed code.
4467                          */
4468                         MONO_OBJECT_SETREF (thread, abort_exc, mono_get_exception_thread_abort ());
4469                 }
4470                 return thread->abort_exc;
4471         }
4472         else if ((thread->state & ThreadState_SuspendRequested) != 0) {
4473                 /* calls UNLOCK_THREAD (thread) */
4474                 self_suspend_internal ();
4475                 return NULL;
4476         }
4477         else if ((thread->state & ThreadState_StopRequested) != 0) {
4478                 /* FIXME: do this through the JIT? */
4479
4480                 UNLOCK_THREAD (thread);
4481
4482                 mono_thread_exit ();
4483                 return NULL;
4484         } else if (thread->thread_interrupt_requested) {
4485
4486                 thread->thread_interrupt_requested = FALSE;
4487                 UNLOCK_THREAD (thread);
4488
4489                 return(mono_get_exception_thread_interrupted ());
4490         }
4491
4492         UNLOCK_THREAD (thread);
4493
4494         return NULL;
4495 }
4496
4497 /*
4498  * mono_thread_request_interruption
4499  *
4500  * A signal handler can call this method to request the interruption of a
4501  * thread. The result of the interruption will depend on the current state of
4502  * the thread. If the result is an exception that needs to be throw, it is
4503  * provided as return value.
4504  */
4505 MonoException*
4506 mono_thread_request_interruption (gboolean running_managed)
4507 {
4508         MonoInternalThread *thread = mono_thread_internal_current ();
4509
4510         /* The thread may already be stopping */
4511         if (thread == NULL)
4512                 return NULL;
4513
4514 #ifdef HOST_WIN32
4515         if (thread->interrupt_on_stop &&
4516                 thread->state & ThreadState_StopRequested &&
4517                 thread->state & ThreadState_Background)
4518                 ExitThread (1);
4519 #endif
4520
4521         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4522                 return NULL;
4523         InterlockedIncrement (&thread_interruption_requested);
4524
4525         if (!running_managed || is_running_protected_wrapper ()) {
4526                 /* Can't stop while in unmanaged code. Increase the global interruption
4527                    request count. When exiting the unmanaged method the count will be
4528                    checked and the thread will be interrupted. */
4529
4530                 /* this will awake the thread if it is in WaitForSingleObject
4531                    or similar */
4532                 /* Our implementation of this function ignores the func argument */
4533 #ifdef HOST_WIN32
4534                 QueueUserAPC ((PAPCFUNC)dummy_apc, thread->handle, (ULONG_PTR)NULL);
4535 #else
4536                 mono_thread_info_self_interrupt ();
4537 #endif
4538                 return NULL;
4539         }
4540         else {
4541                 return mono_thread_execute_interruption ();
4542         }
4543 }
4544
4545 /*This function should be called by a thread after it has exited all of
4546  * its handle blocks at interruption time.*/
4547 MonoException*
4548 mono_thread_resume_interruption (void)
4549 {
4550         MonoInternalThread *thread = mono_thread_internal_current ();
4551         gboolean still_aborting;
4552
4553         /* The thread may already be stopping */
4554         if (thread == NULL)
4555                 return NULL;
4556
4557         LOCK_THREAD (thread);
4558         still_aborting = (thread->state & ThreadState_AbortRequested) != 0;
4559         UNLOCK_THREAD (thread);
4560
4561         /*This can happen if the protected block called Thread::ResetAbort*/
4562         if (!still_aborting)
4563                 return FALSE;
4564
4565         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4566                 return NULL;
4567         InterlockedIncrement (&thread_interruption_requested);
4568
4569         mono_thread_info_self_interrupt ();
4570
4571         return mono_thread_execute_interruption ();
4572 }
4573
4574 gboolean mono_thread_interruption_requested ()
4575 {
4576         if (thread_interruption_requested) {
4577                 MonoInternalThread *thread = mono_thread_internal_current ();
4578                 /* The thread may already be stopping */
4579                 if (thread != NULL)
4580                         return (thread->interruption_requested);
4581         }
4582         return FALSE;
4583 }
4584
4585 static MonoException*
4586 mono_thread_interruption_checkpoint_request (gboolean bypass_abort_protection)
4587 {
4588         MonoInternalThread *thread = mono_thread_internal_current ();
4589
4590         /* The thread may already be stopping */
4591         if (thread == NULL)
4592                 return NULL;
4593
4594         if (thread->interruption_requested && (bypass_abort_protection || !is_running_protected_wrapper ())) {
4595                 MonoException* exc = mono_thread_execute_interruption ();
4596                 if (exc)
4597                         return exc;
4598         }
4599         return NULL;
4600 }
4601
4602 /*
4603  * Performs the interruption of the current thread, if one has been requested,
4604  * and the thread is not running a protected wrapper.
4605  * Return the exception which needs to be thrown, if any.
4606  */
4607 MonoException*
4608 mono_thread_interruption_checkpoint (void)
4609 {
4610         return mono_thread_interruption_checkpoint_request (FALSE);
4611 }
4612
4613 /*
4614  * Performs the interruption of the current thread, if one has been requested.
4615  * Return the exception which needs to be thrown, if any.
4616  */
4617 MonoException*
4618 mono_thread_force_interruption_checkpoint_noraise (void)
4619 {
4620         return mono_thread_interruption_checkpoint_request (TRUE);
4621 }
4622
4623 /*
4624  * mono_set_pending_exception:
4625  *
4626  *   Set the pending exception of the current thread to EXC.
4627  * The exception will be thrown when execution returns to managed code.
4628  */
4629 void
4630 mono_set_pending_exception (MonoException *exc)
4631 {
4632         MonoThread *thread = mono_thread_current ();
4633
4634         /* The thread may already be stopping */
4635         if (thread == NULL)
4636                 return;
4637
4638         MONO_OBJECT_SETREF (thread, pending_exception, exc);
4639
4640     mono_thread_request_interruption (FALSE);
4641 }
4642
4643 /**
4644  * mono_thread_interruption_request_flag:
4645  *
4646  * Returns the address of a flag that will be non-zero if an interruption has
4647  * been requested for a thread. The thread to interrupt may not be the current
4648  * thread, so an additional call to mono_thread_interruption_requested() or
4649  * mono_thread_interruption_checkpoint() is allways needed if the flag is not
4650  * zero.
4651  */
4652 gint32* mono_thread_interruption_request_flag ()
4653 {
4654         return &thread_interruption_requested;
4655 }
4656
4657 void
4658 mono_thread_init_apartment_state (void)
4659 {
4660 #ifdef HOST_WIN32
4661         MonoInternalThread* thread = mono_thread_internal_current ();
4662
4663         /* Positive return value indicates success, either
4664          * S_OK if this is first CoInitialize call, or
4665          * S_FALSE if CoInitialize already called, but with same
4666          * threading model. A negative value indicates failure,
4667          * probably due to trying to change the threading model.
4668          */
4669         if (CoInitializeEx(NULL, (thread->apartment_state == ThreadApartmentState_STA)
4670                         ? COINIT_APARTMENTTHREADED
4671                         : COINIT_MULTITHREADED) < 0) {
4672                 thread->apartment_state = ThreadApartmentState_Unknown;
4673         }
4674 #endif
4675 }
4676
4677 void
4678 mono_thread_cleanup_apartment_state (void)
4679 {
4680 #ifdef HOST_WIN32
4681         MonoInternalThread* thread = mono_thread_internal_current ();
4682
4683         if (thread && thread->apartment_state != ThreadApartmentState_Unknown) {
4684                 CoUninitialize ();
4685         }
4686 #endif
4687 }
4688
4689 void
4690 mono_thread_set_state (MonoInternalThread *thread, MonoThreadState state)
4691 {
4692         LOCK_THREAD (thread);
4693         thread->state |= state;
4694         UNLOCK_THREAD (thread);
4695 }
4696
4697 void
4698 mono_thread_clr_state (MonoInternalThread *thread, MonoThreadState state)
4699 {
4700         LOCK_THREAD (thread);
4701         thread->state &= ~state;
4702         UNLOCK_THREAD (thread);
4703 }
4704
4705 gboolean
4706 mono_thread_test_state (MonoInternalThread *thread, MonoThreadState test)
4707 {
4708         gboolean ret = FALSE;
4709
4710         LOCK_THREAD (thread);
4711
4712         if ((thread->state & test) != 0) {
4713                 ret = TRUE;
4714         }
4715
4716         UNLOCK_THREAD (thread);
4717
4718         return ret;
4719 }
4720
4721 static gboolean has_tls_get = FALSE;
4722
4723 void
4724 mono_runtime_set_has_tls_get (gboolean val)
4725 {
4726         has_tls_get = val;
4727 }
4728
4729 gboolean
4730 mono_runtime_has_tls_get (void)
4731 {
4732         return has_tls_get;
4733 }
4734
4735 static void
4736 self_interrupt_thread (void *_unused)
4737 {
4738         MonoThreadInfo *info = mono_thread_info_current ();
4739         MonoException *exc = mono_thread_execute_interruption ();
4740         if (exc) /*We must use _with_context since we didn't trampoline into the runtime*/
4741                 mono_raise_exception_with_context (exc, &info->thread_saved_state [ASYNC_SUSPEND_STATE_INDEX].ctx); /* FIXME using thread_saved_state [ASYNC_SUSPEND_STATE_INDEX] can race with another suspend coming in. */
4742         g_assert_not_reached (); /*this MUST not happen since we can't resume from an async call*/
4743 }
4744
4745 static gboolean
4746 mono_jit_info_match (MonoJitInfo *ji, gpointer ip)
4747 {
4748         if (!ji)
4749                 return FALSE;
4750         return ji->code_start <= ip && (char*)ip < (char*)ji->code_start + ji->code_size;
4751 }
4752
4753 static gboolean
4754 last_managed (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
4755 {
4756         MonoJitInfo **dest = (MonoJitInfo **)data;
4757         *dest = frame->ji;
4758         return TRUE;
4759 }
4760
4761 static MonoJitInfo*
4762 mono_thread_info_get_last_managed (MonoThreadInfo *info)
4763 {
4764         MonoJitInfo *ji = NULL;
4765         if (!info)
4766                 return NULL;
4767
4768         /*
4769          * The suspended thread might be holding runtime locks. Make sure we don't try taking
4770          * any runtime locks while unwinding. In coop case we shouldn't safepoint in regions
4771          * where we hold runtime locks.
4772          */
4773         if (!mono_threads_is_coop_enabled ())
4774                 mono_thread_info_set_is_async_context (TRUE);
4775         mono_get_eh_callbacks ()->mono_walk_stack_with_state (last_managed, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, &ji);
4776         if (!mono_threads_is_coop_enabled ())
4777                 mono_thread_info_set_is_async_context (FALSE);
4778         return ji;
4779 }
4780
4781 typedef struct {
4782         MonoInternalThread *thread;
4783         gboolean install_async_abort;
4784         MonoThreadInfoInterruptToken *interrupt_token;
4785 } AbortThreadData;
4786
4787 static SuspendThreadResult
4788 async_abort_critical (MonoThreadInfo *info, gpointer ud)
4789 {
4790         AbortThreadData *data = (AbortThreadData *)ud;
4791         MonoInternalThread *thread = data->thread;
4792         MonoJitInfo *ji = NULL;
4793         gboolean protected_wrapper;
4794         gboolean running_managed;
4795
4796         if (mono_get_eh_callbacks ()->mono_install_handler_block_guard (mono_thread_info_get_suspend_state (info)))
4797                 return MonoResumeThread;
4798
4799         /*someone is already interrupting it*/
4800         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4801                 return MonoResumeThread;
4802
4803         InterlockedIncrement (&thread_interruption_requested);
4804
4805         ji = mono_thread_info_get_last_managed (info);
4806         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4807         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4808
4809         if (!protected_wrapper && running_managed) {
4810                 /*We are in managed code*/
4811                 /*Set the thread to call */
4812                 if (data->install_async_abort)
4813                         mono_thread_info_setup_async_call (info, self_interrupt_thread, NULL);
4814                 return MonoResumeThread;
4815         } else {
4816                 /*
4817                  * This will cause waits to be broken.
4818                  * It will also prevent the thread from entering a wait, so if the thread returns
4819                  * from the wait before it receives the abort signal, it will just spin in the wait
4820                  * functions in the io-layer until the signal handler calls QueueUserAPC which will
4821                  * make it return.
4822                  */
4823                 data->interrupt_token = mono_thread_info_prepare_interrupt (info);
4824
4825                 return MonoResumeThread;
4826         }
4827 }
4828
4829 static void
4830 async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort)
4831 {
4832         AbortThreadData data;
4833
4834         g_assert (thread != mono_thread_internal_current ());
4835
4836         data.thread = thread;
4837         data.install_async_abort = install_async_abort;
4838         data.interrupt_token = NULL;
4839
4840         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), TRUE, async_abort_critical, &data);
4841         if (data.interrupt_token)
4842                 mono_thread_info_finish_interrupt (data.interrupt_token);
4843         /*FIXME we need to wait for interruption to complete -- figure out how much into interruption we should wait for here*/
4844 }
4845
4846 static void
4847 self_abort_internal (void)
4848 {
4849         MonoException *exc;
4850
4851         /* FIXME this is insanely broken, it doesn't cause interruption to happen synchronously
4852          * since passing FALSE to mono_thread_request_interruption makes sure it returns NULL */
4853
4854         exc = mono_thread_request_interruption (TRUE);
4855         if (exc)
4856                 mono_raise_exception (exc);
4857
4858         mono_thread_info_self_interrupt ();
4859 }
4860
4861 typedef struct {
4862         MonoInternalThread *thread;
4863         gboolean interrupt;
4864         MonoThreadInfoInterruptToken *interrupt_token;
4865 } SuspendThreadData;
4866
4867 static SuspendThreadResult
4868 async_suspend_critical (MonoThreadInfo *info, gpointer ud)
4869 {
4870         SuspendThreadData *data = (SuspendThreadData *)ud;
4871         MonoInternalThread *thread = data->thread;
4872         MonoJitInfo *ji = NULL;
4873         gboolean protected_wrapper;
4874         gboolean running_managed;
4875
4876         ji = mono_thread_info_get_last_managed (info);
4877         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4878         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4879
4880         if (running_managed && !protected_wrapper) {
4881                 thread->state &= ~ThreadState_SuspendRequested;
4882                 thread->state |= ThreadState_Suspended;
4883                 return KeepSuspended;
4884         } else {
4885                 if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 0)
4886                         InterlockedIncrement (&thread_interruption_requested);
4887                 if (data->interrupt)
4888                         data->interrupt_token = mono_thread_info_prepare_interrupt ((MonoThreadInfo *)thread->thread_info);
4889
4890                 return MonoResumeThread;
4891         }
4892 }
4893
4894 /* LOCKING: called with @thread synch_cs held, and releases it */
4895 static void
4896 async_suspend_internal (MonoInternalThread *thread, gboolean interrupt)
4897 {
4898         SuspendThreadData data;
4899
4900         g_assert (thread != mono_thread_internal_current ());
4901
4902         data.thread = thread;
4903         data.interrupt = interrupt;
4904         data.interrupt_token = NULL;
4905
4906         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), interrupt, async_suspend_critical, &data);
4907         if (data.interrupt_token)
4908                 mono_thread_info_finish_interrupt (data.interrupt_token);
4909
4910         UNLOCK_THREAD (thread);
4911 }
4912
4913 /* LOCKING: called with @thread synch_cs held, and releases it */
4914 static void
4915 self_suspend_internal (void)
4916 {
4917         MonoInternalThread *thread;
4918
4919         thread = mono_thread_internal_current ();
4920
4921         mono_thread_info_begin_self_suspend ();
4922         thread->state &= ~ThreadState_SuspendRequested;
4923         thread->state |= ThreadState_Suspended;
4924
4925         UNLOCK_THREAD (thread);
4926
4927         mono_thread_info_end_self_suspend ();
4928 }
4929
4930 /*
4931  * mono_thread_is_foreign:
4932  * @thread: the thread to query
4933  *
4934  * This function allows one to determine if a thread was created by the mono runtime and has
4935  * a well defined lifecycle or it's a foreigh one, created by the native environment.
4936  *
4937  * Returns: TRUE if @thread was not created by the runtime.
4938  */
4939 mono_bool
4940 mono_thread_is_foreign (MonoThread *thread)
4941 {
4942         MonoThreadInfo *info = (MonoThreadInfo *)thread->internal_thread->thread_info;
4943         return info->runtime_thread == FALSE;
4944 }
4945
4946 /*
4947  * mono_add_joinable_thread:
4948  *
4949  *   Add TID to the list of joinable threads.
4950  * LOCKING: Acquires the threads lock.
4951  */
4952 void
4953 mono_threads_add_joinable_thread (gpointer tid)
4954 {
4955 #ifndef HOST_WIN32
4956         /*
4957          * We cannot detach from threads because it causes problems like
4958          * 2fd16f60/r114307. So we collect them and join them when
4959          * we have time (in he finalizer thread).
4960          */
4961         joinable_threads_lock ();
4962         if (!joinable_threads)
4963                 joinable_threads = g_hash_table_new (NULL, NULL);
4964         g_hash_table_insert (joinable_threads, tid, tid);
4965         joinable_thread_count ++;
4966         joinable_threads_unlock ();
4967
4968         mono_gc_finalize_notify ();
4969 #endif
4970 }
4971
4972 /*
4973  * mono_threads_join_threads:
4974  *
4975  *   Join all joinable threads. This is called from the finalizer thread.
4976  * LOCKING: Acquires the threads lock.
4977  */
4978 void
4979 mono_threads_join_threads (void)
4980 {
4981 #ifndef HOST_WIN32
4982         GHashTableIter iter;
4983         gpointer key;
4984         gpointer tid;
4985         pthread_t thread;
4986         gboolean found;
4987
4988         /* Fastpath */
4989         if (!joinable_thread_count)
4990                 return;
4991
4992         while (TRUE) {
4993                 joinable_threads_lock ();
4994                 found = FALSE;
4995                 if (g_hash_table_size (joinable_threads)) {
4996                         g_hash_table_iter_init (&iter, joinable_threads);
4997                         g_hash_table_iter_next (&iter, &key, (void**)&tid);
4998                         thread = (pthread_t)tid;
4999                         g_hash_table_remove (joinable_threads, key);
5000                         joinable_thread_count --;
5001                         found = TRUE;
5002                 }
5003                 joinable_threads_unlock ();
5004                 if (found) {
5005                         if (thread != pthread_self ())
5006                                 /* This shouldn't block */
5007                                 pthread_join (thread, NULL);
5008                 } else {
5009                         break;
5010                 }
5011         }
5012 #endif
5013 }
5014
5015 /*
5016  * mono_thread_join:
5017  *
5018  *   Wait for thread TID to exit.
5019  * LOCKING: Acquires the threads lock.
5020  */
5021 void
5022 mono_thread_join (gpointer tid)
5023 {
5024 #ifndef HOST_WIN32
5025         pthread_t thread;
5026         gboolean found = FALSE;
5027
5028         joinable_threads_lock ();
5029         if (!joinable_threads)
5030                 joinable_threads = g_hash_table_new (NULL, NULL);
5031         if (g_hash_table_lookup (joinable_threads, tid)) {
5032                 g_hash_table_remove (joinable_threads, tid);
5033                 joinable_thread_count --;
5034                 found = TRUE;
5035         }
5036         joinable_threads_unlock ();
5037         if (!found)
5038                 return;
5039         thread = (pthread_t)tid;
5040         pthread_join (thread, NULL);
5041 #endif
5042 }
5043
5044 void
5045 mono_thread_internal_check_for_interruption_critical (MonoInternalThread *thread)
5046 {
5047         if ((thread->state & (ThreadState_StopRequested | ThreadState_SuspendRequested)) != 0)
5048                 mono_thread_interruption_checkpoint ();
5049 }
5050
5051 static inline gboolean
5052 is_appdomainunloaded_exception (MonoClass *klass)
5053 {
5054         return klass == mono_class_get_appdomain_unloaded_exception_class ();
5055 }
5056
5057 static inline gboolean
5058 is_threadabort_exception (MonoClass *klass)
5059 {
5060         return klass == mono_defaults.threadabortexception_class;
5061 }
5062
5063 void
5064 mono_thread_internal_unhandled_exception (MonoObject* exc)
5065 {
5066         if (mono_runtime_unhandled_exception_policy_get () == MONO_UNHANDLED_POLICY_CURRENT) {
5067                 MonoClass *klass = exc->vtable->klass;
5068                 if (is_threadabort_exception (klass)) {
5069                         mono_thread_internal_reset_abort (mono_thread_internal_current ());
5070                 } else if (!is_appdomainunloaded_exception (klass)) {
5071                         mono_unhandled_exception (exc);
5072                         if (mono_environment_exitcode_get () == 1)
5073                                 exit (255);
5074                 }
5075         }
5076 }
5077
5078 void
5079 ves_icall_System_Threading_Thread_GetStackTraces (MonoArray **out_threads, MonoArray **out_stack_traces)
5080 {
5081         mono_threads_get_thread_dump (out_threads, out_stack_traces);
5082 }
5083
5084 /*
5085  * mono_threads_attach_coop: called by native->managed wrappers
5086  *
5087  * In non-coop mode:
5088  *  - @dummy: is NULL
5089  *  - @return: the original domain which needs to be restored, or NULL.
5090  *
5091  * In coop mode:
5092  *  - @dummy: contains the original domain
5093  *  - @return: a cookie containing current MonoThreadInfo*.
5094  */
5095 gpointer
5096 mono_threads_attach_coop (MonoDomain *domain, gpointer *dummy)
5097 {
5098         MonoError error;
5099         MonoDomain *orig;
5100         gboolean fresh_thread;
5101
5102         if (!domain) {
5103                 /* Happens when called from AOTed code which is only used in the root domain. */
5104                 domain = mono_get_root_domain ();
5105         }
5106
5107         g_assert (domain);
5108
5109         /* On coop, when we detached, we moved the thread from  RUNNING->BLOCKING.
5110          * If we try to reattach we do a BLOCKING->RUNNING transition.  If the thread
5111          * is fresh, mono_thread_attach() will do a STARTING->RUNNING transition so
5112          * we're only responsible for making the cookie. */
5113         if (mono_threads_is_coop_enabled ()) {
5114                 MonoThreadInfo *info = mono_thread_info_current_unchecked ();
5115                 fresh_thread = !info || !mono_thread_info_is_live (info);
5116         }
5117
5118         if (!mono_thread_internal_current ()) {
5119                 mono_thread_attach_full (domain, FALSE, &error);
5120                 mono_error_assert_ok (&error);
5121
5122                 // #678164
5123                 mono_thread_set_state (mono_thread_internal_current (), ThreadState_Background);
5124         }
5125
5126         orig = mono_domain_get ();
5127         if (orig != domain)
5128                 mono_domain_set (domain, TRUE);
5129
5130         if (!mono_threads_is_coop_enabled ())
5131                 return orig != domain ? orig : NULL;
5132
5133         if (fresh_thread) {
5134                 *dummy = NULL;
5135                 /* mono_thread_attach put the thread in RUNNING mode from STARTING, but we need to
5136                  * return the right cookie. */
5137                 return mono_threads_enter_gc_unsafe_region_cookie (mono_thread_info_current ());
5138         } else {
5139                 *dummy = orig;
5140                 /* thread state (BLOCKING|RUNNING) -> RUNNING */
5141                 return mono_threads_enter_gc_unsafe_region (dummy);
5142         }
5143 }
5144
5145 /*
5146  * mono_threads_detach_coop: called by native->managed wrappers
5147  *
5148  * In non-coop mode:
5149  *  - @cookie: the original domain which needs to be restored, or NULL.
5150  *  - @dummy: is NULL
5151  *
5152  * In coop mode:
5153  *  - @cookie: contains current MonoThreadInfo* if it was in BLOCKING mode, NULL otherwise
5154  *  - @dummy: contains the original domain
5155  */
5156 void
5157 mono_threads_detach_coop (gpointer cookie, gpointer *dummy)
5158 {
5159         MonoDomain *domain, *orig;
5160
5161         if (!mono_threads_is_coop_enabled ()) {
5162                 orig = (MonoDomain*) cookie;
5163                 if (orig)
5164                         mono_domain_set (orig, TRUE);
5165         } else {
5166                 orig = (MonoDomain*) *dummy;
5167
5168                 domain = mono_domain_get ();
5169                 g_assert (domain);
5170
5171                 /* it won't do anything if cookie is NULL
5172                  * thread state RUNNING -> (RUNNING|BLOCKING) */
5173                 mono_threads_exit_gc_unsafe_region (cookie, dummy);
5174
5175                 if (orig != domain) {
5176                         if (!orig)
5177                                 mono_domain_unset ();
5178                         else
5179                                 mono_domain_set (orig, TRUE);
5180                 }
5181         }
5182 }