mono/metadata/threads.c

   1 /*
   2  * threads.c: Thread support internal calls
   3  *
   4  * Author:
   5  *      Dick Porter (dick@ximian.com)
   6  *      Paolo Molaro (lupus@ximian.com)
   7  *      Patrik Torstensson (patrik.torstensson@labs2.com)
   8  *
   9  * Copyright 2001-2003 Ximian, Inc (http://www.ximian.com)
  10  * Copyright 2004-2009 Novell, Inc (http://www.novell.com)
  11  * Copyright 2011 Xamarin, Inc (http://www.xamarin.com)
  12  * Licensed under the MIT license. See LICENSE file in the project root for full license information.
  13  */
  14
  15 #include <config.h>
  16
  17 #include <glib.h>
  18 #include <string.h>
  19
  20 #include <mono/metadata/object.h>
  21 #include <mono/metadata/domain-internals.h>
  22 #include <mono/metadata/profiler-private.h>
  23 #include <mono/metadata/threads.h>
  24 #include <mono/metadata/threads-types.h>
  25 #include <mono/metadata/exception.h>
  26 #include <mono/metadata/environment.h>
  27 #include <mono/metadata/monitor.h>
  28 #include <mono/metadata/gc-internals.h>
  29 #include <mono/metadata/marshal.h>
  30 #include <mono/metadata/runtime.h>
  31 #include <mono/io-layer/io-layer.h>
  32 #include <mono/metadata/object-internals.h>
  33 #include <mono/metadata/mono-debug-debugger.h>
  34 #include <mono/utils/monobitset.h>
  35 #include <mono/utils/mono-compiler.h>
  36 #include <mono/utils/mono-mmap.h>
  37 #include <mono/utils/mono-membar.h>
  38 #include <mono/utils/mono-time.h>
  39 #include <mono/utils/mono-threads.h>
  40 #include <mono/utils/mono-threads-coop.h>
  41 #include <mono/utils/hazard-pointer.h>
  42 #include <mono/utils/mono-tls.h>
  43 #include <mono/utils/atomic.h>
  44 #include <mono/utils/mono-memory-model.h>
  45 #include <mono/utils/mono-threads-coop.h>
  46 #include <mono/utils/mono-error-internals.h>
  47 #include <mono/utils/w32handle.h>
  48
  49 #include <mono/metadata/gc-internals.h>
  50 #include <mono/metadata/reflection-internals.h>
  51
  52 #ifdef HAVE_SIGNAL_H
  53 #include <signal.h>
  54 #endif
  55
  56 #if defined(PLATFORM_ANDROID) && !defined(TARGET_ARM64) && !defined(TARGET_AMD64)
  57 #define USE_TKILL_ON_ANDROID 1
  58 #endif
  59
  60 #ifdef PLATFORM_ANDROID
  61 #include <errno.h>
  62
  63 #ifdef USE_TKILL_ON_ANDROID
  64 extern int tkill (pid_t tid, int signal);
  65 #endif
  66 #endif
  67
  68 /*#define THREAD_DEBUG(a) do { a; } while (0)*/
  69 #define THREAD_DEBUG(a)
  70 /*#define THREAD_WAIT_DEBUG(a) do { a; } while (0)*/
  71 #define THREAD_WAIT_DEBUG(a)
  72 /*#define LIBGC_DEBUG(a) do { a; } while (0)*/
  73 #define LIBGC_DEBUG(a)
  74
  75 #define SPIN_TRYLOCK(i) (InterlockedCompareExchange (&(i), 1, 0) == 0)
  76 #define SPIN_LOCK(i) do { \
  77                                 if (SPIN_TRYLOCK (i)) \
  78                                         break; \
  79                         } while (1)
  80
  81 #define SPIN_UNLOCK(i) i = 0
  82
  83 #define LOCK_THREAD(thread) lock_thread((thread))
  84 #define UNLOCK_THREAD(thread) unlock_thread((thread))
  85
  86 typedef struct
  87 {
  88         guint32 (*func)(void *);
  89         MonoThread *obj;
  90         MonoObject *delegate;
  91         void *start_arg;
  92 } StartInfo;
  93
  94 typedef union {
  95         gint32 ival;
  96         gfloat fval;
  97 } IntFloatUnion;
  98
  99 typedef union {
 100         gint64 ival;
 101         gdouble fval;
 102 } LongDoubleUnion;
 103
 104 typedef struct _StaticDataFreeList StaticDataFreeList;
 105 struct _StaticDataFreeList {
 106         StaticDataFreeList *next;
 107         guint32 offset;
 108         guint32 size;
 109 };
 110
 111 typedef struct {
 112         int idx;
 113         int offset;
 114         StaticDataFreeList *freelist;
 115 } StaticDataInfo;
 116
 117 /* Number of cached culture objects in the MonoThread->cached_culture_info array
 118  * (per-type): we use the first NUM entries for CultureInfo and the last for
 119  * UICultureInfo. So the size of the array is really NUM_CACHED_CULTURES * 2.
 120  */
 121 #define NUM_CACHED_CULTURES 4
 122 #define CULTURES_START_IDX 0
 123 #define UICULTURES_START_IDX NUM_CACHED_CULTURES
 124
 125 /* Controls access to the 'threads' hash table */
 126 static void mono_threads_lock (void);
 127 static void mono_threads_unlock (void);
 128 static MonoCoopMutex threads_mutex;
 129
 130 /* Controls access to the 'joinable_threads' hash table */
 131 #define joinable_threads_lock() mono_os_mutex_lock (&joinable_threads_mutex)
 132 #define joinable_threads_unlock() mono_os_mutex_unlock (&joinable_threads_mutex)
 133 static mono_mutex_t joinable_threads_mutex;
 134
 135 /* Holds current status of static data heap */
 136 static StaticDataInfo thread_static_info;
 137 static StaticDataInfo context_static_info;
 138
 139 /* The hash of existing threads (key is thread ID, value is
 140  * MonoInternalThread*) that need joining before exit
 141  */
 142 static MonoGHashTable *threads=NULL;
 143
 144 /* List of app context GC handles.
 145  * Added to from ves_icall_System_Runtime_Remoting_Contexts_Context_RegisterContext ().
 146  */
 147 static GHashTable *contexts = NULL;
 148
 149 /* Cleanup queue for contexts. */
 150 static MonoReferenceQueue *context_queue;
 151
 152 /*
 153  * Threads which are starting up and they are not in the 'threads' hash yet.
 154  * When handle_store is called for a thread, it will be removed from this hash table.
 155  * Protected by mono_threads_lock ().
 156  */
 157 static MonoGHashTable *threads_starting_up = NULL;
 158
 159 /* The TLS key that holds the MonoObject assigned to each thread */
 160 static MonoNativeTlsKey current_object_key;
 161
 162 /* Contains tids */
 163 /* Protected by the threads lock */
 164 static GHashTable *joinable_threads;
 165 static int joinable_thread_count;
 166
 167 #ifdef MONO_HAVE_FAST_TLS
 168 /* we need to use both the Tls* functions and __thread because
 169  * the gc needs to see all the threads
 170  */
 171 MONO_FAST_TLS_DECLARE(tls_current_object);
 172 #define SET_CURRENT_OBJECT(x) do { \
 173         MONO_FAST_TLS_SET (tls_current_object, x); \
 174         mono_native_tls_set_value (current_object_key, x); \
 175 } while (FALSE)
 176 #define GET_CURRENT_OBJECT() ((MonoInternalThread*) MONO_FAST_TLS_GET (tls_current_object))
 177 #else
 178 #define SET_CURRENT_OBJECT(x) mono_native_tls_set_value (current_object_key, x)
 179 #define GET_CURRENT_OBJECT() (MonoInternalThread*) mono_native_tls_get_value (current_object_key)
 180 #endif
 181
 182 /* function called at thread start */
 183 static MonoThreadStartCB mono_thread_start_cb = NULL;
 184
 185 /* function called at thread attach */
 186 static MonoThreadAttachCB mono_thread_attach_cb = NULL;
 187
 188 /* function called at thread cleanup */
 189 static MonoThreadCleanupFunc mono_thread_cleanup_fn = NULL;
 190
 191 /* The default stack size for each thread */
 192 static guint32 default_stacksize = 0;
 193 #define default_stacksize_for_thread(thread) ((thread)->stack_size? (thread)->stack_size: default_stacksize)
 194
 195 static void thread_adjust_static_data (MonoInternalThread *thread);
 196 static void context_adjust_static_data (MonoAppContext *ctx);
 197 static void mono_free_static_data (gpointer* static_data);
 198 static void mono_init_static_data_info (StaticDataInfo *static_data);
 199 static guint32 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align);
 200 static gboolean mono_thread_resume (MonoInternalThread* thread);
 201 static void async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort);
 202 static void self_abort_internal (MonoError *error);
 203 static void async_suspend_internal (MonoInternalThread *thread, gboolean interrupt);
 204 static void self_suspend_internal (void);
 205
 206 static MonoException* mono_thread_execute_interruption (void);
 207 static void ref_stack_destroy (gpointer rs);
 208
 209 /* Spin lock for InterlockedXXX 64 bit functions */
 210 #define mono_interlocked_lock() mono_os_mutex_lock (&interlocked_mutex)
 211 #define mono_interlocked_unlock() mono_os_mutex_unlock (&interlocked_mutex)
 212 static mono_mutex_t interlocked_mutex;
 213
 214 /* global count of thread interruptions requested */
 215 static gint32 thread_interruption_requested = 0;
 216
 217 /* Event signaled when a thread changes its background mode */
 218 static HANDLE background_change_event;
 219
 220 static gboolean shutting_down = FALSE;
 221
 222 static gint32 managed_thread_id_counter = 0;
 223
 224 /* Class lazy loading functions */
 225 static GENERATE_GET_CLASS_WITH_CACHE (appdomain_unloaded_exception, System, AppDomainUnloadedException)
 226
 227 static void
 228 mono_threads_lock (void)
 229 {
 230         mono_locks_coop_acquire (&threads_mutex, ThreadsLock);
 231 }
 232
 233 static void
 234 mono_threads_unlock (void)
 235 {
 236         mono_locks_coop_release (&threads_mutex, ThreadsLock);
 237 }
 238
 239
 240 static guint32
 241 get_next_managed_thread_id (void)
 242 {
 243         return InterlockedIncrement (&managed_thread_id_counter);
 244 }
 245
 246 MonoNativeTlsKey
 247 mono_thread_get_tls_key (void)
 248 {
 249         return current_object_key;
 250 }
 251
 252 gint32
 253 mono_thread_get_tls_offset (void)
 254 {
 255         int offset = -1;
 256
 257 #ifdef HOST_WIN32
 258         if (current_object_key)
 259                 offset = current_object_key;
 260 #else
 261         MONO_THREAD_VAR_OFFSET (tls_current_object,offset);
 262 #endif
 263         return offset;
 264 }
 265
 266 static inline MonoNativeThreadId
 267 thread_get_tid (MonoInternalThread *thread)
 268 {
 269         /* We store the tid as a guint64 to keep the object layout constant between platforms */
 270         return MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid);
 271 }
 272
 273 /* handle_store() and handle_remove() manage the array of threads that
 274  * still need to be waited for when the main thread exits.
 275  *
 276  * If handle_store() returns FALSE the thread must not be started
 277  * because Mono is shutting down.
 278  */
 279 static gboolean handle_store(MonoThread *thread, gboolean force_attach)
 280 {
 281         mono_threads_lock ();
 282
 283         THREAD_DEBUG (g_message ("%s: thread %p ID %"G_GSIZE_FORMAT, __func__, thread, (gsize)thread->internal_thread->tid));
 284
 285         if (threads_starting_up)
 286                 mono_g_hash_table_remove (threads_starting_up, thread);
 287
 288         if (shutting_down && !force_attach) {
 289                 mono_threads_unlock ();
 290                 return FALSE;
 291         }
 292
 293         if(threads==NULL) {
 294                 MONO_GC_REGISTER_ROOT_FIXED (threads, MONO_ROOT_SOURCE_THREADING, "threads table");
 295                 threads=mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "threads table");
 296         }
 297
 298         /* We don't need to duplicate thread->handle, because it is
 299          * only closed when the thread object is finalized by the GC.
 300          */
 301         g_assert (thread->internal_thread);
 302         mono_g_hash_table_insert(threads, (gpointer)(gsize)(thread->internal_thread->tid),
 303                                  thread->internal_thread);
 304
 305         mono_threads_unlock ();
 306
 307         return TRUE;
 308 }
 309
 310 static gboolean handle_remove(MonoInternalThread *thread)
 311 {
 312         gboolean ret;
 313         gsize tid = thread->tid;
 314
 315         THREAD_DEBUG (g_message ("%s: thread ID %"G_GSIZE_FORMAT, __func__, tid));
 316
 317         mono_threads_lock ();
 318
 319         if (threads) {
 320                 /* We have to check whether the thread object for the
 321                  * tid is still the same in the table because the
 322                  * thread might have been destroyed and the tid reused
 323                  * in the meantime, in which case the tid would be in
 324                  * the table, but with another thread object.
 325                  */
 326                 if (mono_g_hash_table_lookup (threads, (gpointer)tid) == thread) {
 327                         mono_g_hash_table_remove (threads, (gpointer)tid);
 328                         ret = TRUE;
 329                 } else {
 330                         ret = FALSE;
 331                 }
 332         }
 333         else
 334                 ret = FALSE;
 335
 336         mono_threads_unlock ();
 337
 338         /* Don't close the handle here, wait for the object finalizer
 339          * to do it. Otherwise, the following race condition applies:
 340          *
 341          * 1) Thread exits (and handle_remove() closes the handle)
 342          *
 343          * 2) Some other handle is reassigned the same slot
 344          *
 345          * 3) Another thread tries to join the first thread, and
 346          * blocks waiting for the reassigned handle to be signalled
 347          * (which might never happen).  This is possible, because the
 348          * thread calling Join() still has a reference to the first
 349          * thread's object.
 350          */
 351         return ret;
 352 }
 353
 354 static void ensure_synch_cs_set (MonoInternalThread *thread)
 355 {
 356         MonoCoopMutex *synch_cs;
 357
 358         if (thread->synch_cs != NULL) {
 359                 return;
 360         }
 361
 362         synch_cs = g_new0 (MonoCoopMutex, 1);
 363         mono_coop_mutex_init_recursive (synch_cs);
 364
 365         if (InterlockedCompareExchangePointer ((gpointer *)&thread->synch_cs,
 366                                                synch_cs, NULL) != NULL) {
 367                 /* Another thread must have installed this CS */
 368                 mono_coop_mutex_destroy (synch_cs);
 369                 g_free (synch_cs);
 370         }
 371 }
 372
 373 static inline void
 374 lock_thread (MonoInternalThread *thread)
 375 {
 376         if (!thread->synch_cs)
 377                 ensure_synch_cs_set (thread);
 378
 379         g_assert (thread->synch_cs);
 380
 381         mono_coop_mutex_lock (thread->synch_cs);
 382 }
 383
 384 static inline void
 385 unlock_thread (MonoInternalThread *thread)
 386 {
 387         mono_coop_mutex_unlock (thread->synch_cs);
 388 }
 389
 390 static inline gboolean
 391 is_appdomainunloaded_exception (MonoClass *klass)
 392 {
 393         return klass == mono_class_get_appdomain_unloaded_exception_class ();
 394 }
 395
 396 static inline gboolean
 397 is_threadabort_exception (MonoClass *klass)
 398 {
 399         return klass == mono_defaults.threadabortexception_class;
 400 }
 401
 402 /*
 403  * NOTE: this function can be called also for threads different from the current one:
 404  * make sure no code called from it will ever assume it is run on the thread that is
 405  * getting cleaned up.
 406  */
 407 static void thread_cleanup (MonoInternalThread *thread)
 408 {
 409         g_assert (thread != NULL);
 410
 411         if (thread->abort_state_handle) {
 412                 mono_gchandle_free (thread->abort_state_handle);
 413                 thread->abort_state_handle = 0;
 414         }
 415         thread->abort_exc = NULL;
 416         thread->current_appcontext = NULL;
 417
 418         /*
 419          * This is necessary because otherwise we might have
 420          * cross-domain references which will not get cleaned up when
 421          * the target domain is unloaded.
 422          */
 423         if (thread->cached_culture_info) {
 424                 int i;
 425                 for (i = 0; i < NUM_CACHED_CULTURES * 2; ++i)
 426                         mono_array_set (thread->cached_culture_info, MonoObject*, i, NULL);
 427         }
 428
 429         /*
 430          * thread->synch_cs can be NULL if this was called after
 431          * ves_icall_System_Threading_InternalThread_Thread_free_internal.
 432          * This can happen only during shutdown.
 433          * The shutting_down flag is not always set, so we can't assert on it.
 434          */
 435         if (thread->synch_cs)
 436                 LOCK_THREAD (thread);
 437
 438         thread->state |= ThreadState_Stopped;
 439         thread->state &= ~ThreadState_Background;
 440
 441         if (thread->synch_cs)
 442                 UNLOCK_THREAD (thread);
 443
 444         /*
 445         An interruption request has leaked to cleanup. Adjust the global counter.
 446
 447         This can happen is the abort source thread finds the abortee (this) thread
 448         in unmanaged code. If this thread never trips back to managed code or check
 449         the local flag it will be left set and positively unbalance the global counter.
 450
 451         Leaving the counter unbalanced will cause a performance degradation since all threads
 452         will now keep checking their local flags all the time.
 453         */
 454         if (InterlockedExchange (&thread->interruption_requested, 0))
 455                 InterlockedDecrement (&thread_interruption_requested);
 456
 457         /* if the thread is not in the hash it has been removed already */
 458         if (!handle_remove (thread)) {
 459                 if (thread == mono_thread_internal_current ()) {
 460                         mono_domain_unset ();
 461                         mono_memory_barrier ();
 462                 }
 463                 /* This needs to be called even if handle_remove () fails */
 464                 if (mono_thread_cleanup_fn)
 465                         mono_thread_cleanup_fn (thread_get_tid (thread));
 466                 return;
 467         }
 468         mono_release_type_locks (thread);
 469
 470         /* Can happen when we attach the profiler helper thread in order to heapshot. */
 471         if (!mono_thread_info_lookup (MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid))->tools_thread)
 472                 mono_profiler_thread_end (thread->tid);
 473
 474         mono_hazard_pointer_clear (mono_hazard_pointer_get (), 1);
 475
 476         if (thread == mono_thread_internal_current ()) {
 477                 /*
 478                  * This will signal async signal handlers that the thread has exited.
 479                  * The profiler callback needs this to be set, so it cannot be done earlier.
 480                  */
 481                 mono_domain_unset ();
 482                 mono_memory_barrier ();
 483         }
 484
 485         if (thread == mono_thread_internal_current ())
 486                 mono_thread_pop_appdomain_ref ();
 487
 488         thread->cached_culture_info = NULL;
 489
 490         mono_free_static_data (thread->static_data);
 491         thread->static_data = NULL;
 492         ref_stack_destroy (thread->appdomain_refs);
 493         thread->appdomain_refs = NULL;
 494
 495         if (mono_thread_cleanup_fn)
 496                 mono_thread_cleanup_fn (thread_get_tid (thread));
 497
 498         if (mono_gc_is_moving ()) {
 499                 MONO_GC_UNREGISTER_ROOT (thread->thread_pinning_ref);
 500                 thread->thread_pinning_ref = NULL;
 501         }
 502
 503 }
 504
 505 /*
 506  * A special static data offset (guint32) consists of 3 parts:
 507  *
 508  * [0]   6-bit index into the array of chunks.
 509  * [6]   25-bit offset into the array.
 510  * [31]  Bit indicating thread or context static.
 511  */
 512
 513 typedef union {
 514         struct {
 515 #if G_BYTE_ORDER != G_LITTLE_ENDIAN
 516                 guint32 type : 1;
 517                 guint32 offset : 25;
 518                 guint32 index : 6;
 519 #else
 520                 guint32 index : 6;
 521                 guint32 offset : 25;
 522                 guint32 type : 1;
 523 #endif
 524         } fields;
 525         guint32 raw;
 526 } SpecialStaticOffset;
 527
 528 #define SPECIAL_STATIC_OFFSET_TYPE_THREAD 0
 529 #define SPECIAL_STATIC_OFFSET_TYPE_CONTEXT 1
 530
 531 #define MAKE_SPECIAL_STATIC_OFFSET(index, offset, type) \
 532         ((SpecialStaticOffset) { .fields = { (index), (offset), (type) } }.raw)
 533 #define ACCESS_SPECIAL_STATIC_OFFSET(x,f) \
 534         (((SpecialStaticOffset *) &(x))->fields.f)
 535
 536 static gpointer
 537 get_thread_static_data (MonoInternalThread *thread, guint32 offset)
 538 {
 539         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_THREAD);
 540
 541         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
 542         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
 543
 544         return ((char *) thread->static_data [idx]) + off;
 545 }
 546
 547 static gpointer
 548 get_context_static_data (MonoAppContext *ctx, guint32 offset)
 549 {
 550         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_CONTEXT);
 551
 552         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
 553         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
 554
 555         return ((char *) ctx->static_data [idx]) + off;
 556 }
 557
 558 static MonoThread**
 559 get_current_thread_ptr_for_domain (MonoDomain *domain, MonoInternalThread *thread)
 560 {
 561         static MonoClassField *current_thread_field = NULL;
 562
 563         guint32 offset;
 564
 565         if (!current_thread_field) {
 566                 current_thread_field = mono_class_get_field_from_name (mono_defaults.thread_class, "current_thread");
 567                 g_assert (current_thread_field);
 568         }
 569
 570         mono_class_vtable (domain, mono_defaults.thread_class);
 571         mono_domain_lock (domain);
 572         offset = GPOINTER_TO_UINT (g_hash_table_lookup (domain->special_static_fields, current_thread_field));
 573         mono_domain_unlock (domain);
 574         g_assert (offset);
 575
 576         return (MonoThread **)get_thread_static_data (thread, offset);
 577 }
 578
 579 static void
 580 set_current_thread_for_domain (MonoDomain *domain, MonoInternalThread *thread, MonoThread *current)
 581 {
 582         MonoThread **current_thread_ptr = get_current_thread_ptr_for_domain (domain, thread);
 583
 584         g_assert (current->obj.vtable->domain == domain);
 585
 586         g_assert (!*current_thread_ptr);
 587         *current_thread_ptr = current;
 588 }
 589
 590 static MonoThread*
 591 create_thread_object (MonoDomain *domain)
 592 {
 593         MonoError error;
 594         MonoVTable *vt = mono_class_vtable (domain, mono_defaults.thread_class);
 595         MonoThread *t = (MonoThread*)mono_object_new_mature (vt, &error);
 596         /* only possible failure mode is OOM, from which we don't expect to recover. */
 597         mono_error_assert_ok (&error);
 598         return t;
 599 }
 600
 601 static MonoThread*
 602 new_thread_with_internal (MonoDomain *domain, MonoInternalThread *internal)
 603 {
 604         MonoThread *thread;
 605
 606         thread = create_thread_object (domain);
 607         thread->priority = MONO_THREAD_PRIORITY_NORMAL;
 608
 609         MONO_OBJECT_SETREF (thread, internal_thread, internal);
 610
 611         return thread;
 612 }
 613
 614 static MonoInternalThread*
 615 create_internal_thread (void)
 616 {
 617         MonoError error;
 618         MonoInternalThread *thread;
 619         MonoVTable *vt;
 620
 621         vt = mono_class_vtable (mono_get_root_domain (), mono_defaults.internal_thread_class);
 622         thread = (MonoInternalThread*) mono_object_new_mature (vt, &error);
 623         /* only possible failure mode is OOM, from which we don't exect to recover */
 624         mono_error_assert_ok (&error);
 625
 626         thread->synch_cs = g_new0 (MonoCoopMutex, 1);
 627         mono_coop_mutex_init_recursive (thread->synch_cs);
 628
 629         thread->apartment_state = ThreadApartmentState_Unknown;
 630         thread->managed_id = get_next_managed_thread_id ();
 631         if (mono_gc_is_moving ()) {
 632                 thread->thread_pinning_ref = thread;
 633                 MONO_GC_REGISTER_ROOT_PINNING (thread->thread_pinning_ref, MONO_ROOT_SOURCE_THREADING, "thread pinning reference");
 634         }
 635
 636         return thread;
 637 }
 638
 639 static gboolean
 640 init_root_domain_thread (MonoInternalThread *thread, MonoThread *candidate)
 641 {
 642         MonoDomain *domain = mono_get_root_domain ();
 643
 644         if (!candidate || candidate->obj.vtable->domain != domain) {
 645                 candidate = new_thread_with_internal (domain, thread);
 646         }
 647         set_current_thread_for_domain (domain, thread, candidate);
 648         g_assert (!thread->root_domain_thread);
 649         MONO_OBJECT_SETREF (thread, root_domain_thread, candidate);
 650         return TRUE;
 651 }
 652
 653 static guint32 WINAPI start_wrapper_internal(void *data)
 654 {
 655         MonoError error;
 656         MonoThreadInfo *info;
 657         StartInfo *start_info = (StartInfo *)data;
 658         guint32 (*start_func)(void *);
 659         void *start_arg;
 660         gsize tid;
 661         /*
 662          * We don't create a local to hold start_info->obj, so hopefully it won't get pinned during a
 663          * GC stack walk.
 664          */
 665         MonoInternalThread *internal = start_info->obj->internal_thread;
 666         MonoObject *start_delegate = start_info->delegate;
 667         MonoDomain *domain = start_info->obj->obj.vtable->domain;
 668
 669         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper", __func__, mono_native_thread_id_get ()));
 670
 671         /* We can be sure start_info->obj->tid and
 672          * start_info->obj->handle have been set, because the thread
 673          * was created suspended, and these values were set before the
 674          * thread resumed
 675          */
 676
 677         info = mono_thread_info_current ();
 678         g_assert (info);
 679         internal->thread_info = info;
 680         internal->small_id = info->small_id;
 681
 682         tid = internal->tid;
 683
 684         SET_CURRENT_OBJECT (internal);
 685
 686         /* Every thread references the appdomain which created it */
 687         mono_thread_push_appdomain_ref (domain);
 688
 689         if (!mono_domain_set (domain, FALSE)) {
 690                 /* No point in raising an appdomain_unloaded exception here */
 691                 /* FIXME: Cleanup here */
 692                 mono_thread_pop_appdomain_ref ();
 693                 return 0;
 694         }
 695
 696         start_func = start_info->func;
 697         start_arg = start_info->obj->start_obj;
 698         if (!start_arg)
 699                 start_arg = start_info->start_arg;
 700
 701         /* We have to do this here because mono_thread_new_init()
 702            requires that root_domain_thread is set up. */
 703         thread_adjust_static_data (internal);
 704         init_root_domain_thread (internal, start_info->obj);
 705
 706         /* This MUST be called before any managed code can be
 707          * executed, as it calls the callback function that (for the
 708          * jit) sets the lmf marker.
 709          */
 710         mono_thread_new_init (tid, &tid, start_func);
 711         internal->stack_ptr = &tid;
 712         if (domain != mono_get_root_domain ())
 713                 set_current_thread_for_domain (domain, internal, start_info->obj);
 714
 715         LIBGC_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT",%d) Setting thread stack to %p", __func__, mono_native_thread_id_get (), getpid (), thread->stack_ptr));
 716
 717         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Setting current_object_key to %p", __func__, mono_native_thread_id_get (), internal));
 718
 719         /* On 2.0 profile (and higher), set explicitly since state might have been
 720            Unknown */
 721         if (internal->apartment_state == ThreadApartmentState_Unknown)
 722                 internal->apartment_state = ThreadApartmentState_MTA;
 723
 724         mono_thread_init_apartment_state ();
 725
 726         if (internal->start_notify)
 727                 /* Let the thread that called Start() know we're
 728                  * ready
 729                  */
 730                 mono_coop_sem_post (internal->start_notify);
 731
 732         if (InterlockedDecrement ((gint32*)&internal->start_notify_refcount) == 0) {
 733                 mono_coop_sem_destroy (internal->start_notify);
 734                 g_free (internal->start_notify);
 735                 internal->start_notify = NULL;
 736         }
 737
 738         g_free (start_info);
 739         THREAD_DEBUG (g_message ("%s: start_wrapper for %"G_GSIZE_FORMAT, __func__,
 740                                                          internal->tid));
 741
 742         /*
 743          * Call this after calling start_notify, since the profiler callback might want
 744          * to lock the thread, and the lock is held by thread_start () which waits for
 745          * start_notify.
 746          */
 747         mono_profiler_thread_start (tid);
 748
 749         /* if the name was set before starting, we didn't invoke the profiler callback */
 750         if (internal->name) {
 751                 char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
 752                 mono_profiler_thread_name (internal->tid, tname);
 753                 mono_native_thread_set_name (MONO_UINT_TO_NATIVE_THREAD_ID (internal->tid), tname);
 754                 g_free (tname);
 755         }
 756
 757         /* start_func is set only for unmanaged start functions */
 758         if (start_func) {
 759                 start_func (start_arg);
 760         } else {
 761                 void *args [1];
 762                 g_assert (start_delegate != NULL);
 763                 args [0] = start_arg;
 764                 /* we may want to handle the exception here. See comment below on unhandled exceptions */
 765                 mono_runtime_delegate_invoke_checked (start_delegate, args, &error);
 766
 767                 if (!mono_error_ok (&error)) {
 768                         MonoException *ex = mono_error_convert_to_exception (&error);
 769
 770                         g_assert (ex != NULL);
 771                         MonoClass *klass = mono_object_get_class (&ex->object);
 772                         if ((mono_runtime_unhandled_exception_policy_get () != MONO_UNHANDLED_POLICY_LEGACY) &&
 773                             !is_threadabort_exception (klass)) {
 774                                 mono_unhandled_exception (&ex->object);
 775                                 mono_invoke_unhandled_exception_hook (&ex->object);
 776                                 g_assert_not_reached ();
 777                         }
 778                 } else {
 779                         mono_error_cleanup (&error);
 780                 }
 781         }
 782
 783         /* If the thread calls ExitThread at all, this remaining code
 784          * will not be executed, but the main thread will eventually
 785          * call thread_cleanup() on this thread's behalf.
 786          */
 787
 788         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper terminating", __func__, mono_native_thread_id_get ()));
 789
 790         /* Do any cleanup needed for apartment state. This
 791          * cannot be done in thread_cleanup since thread_cleanup could be
 792          * called for a thread other than the current thread.
 793          * mono_thread_cleanup_apartment_state cleans up apartment
 794          * for the current thead */
 795         mono_thread_cleanup_apartment_state ();
 796
 797         thread_cleanup (internal);
 798
 799         internal->tid = 0;
 800
 801         /* Remove the reference to the thread object in the TLS data,
 802          * so the thread object can be finalized.  This won't be
 803          * reached if the thread threw an uncaught exception, so those
 804          * thread handles will stay referenced :-( (This is due to
 805          * missing support for scanning thread-specific data in the
 806          * Boehm GC - the io-layer keeps a GC-visible hash of pointers
 807          * to TLS data.)
 808          */
 809         SET_CURRENT_OBJECT (NULL);
 810
 811         return(0);
 812 }
 813
 814 static gsize WINAPI start_wrapper(void *data)
 815 {
 816         volatile int dummy;
 817
 818         /* Avoid scanning the frames above this frame during a GC */
 819         mono_gc_set_stack_end ((void*)&dummy);
 820
 821         return start_wrapper_internal (data);
 822 }
 823
 824 /*
 825  * create_thread:
 826  *
 827  *   Common thread creation code.
 828  * LOCKING: Acquires the threads lock.
 829  */
 830 static gboolean
 831 create_thread (MonoThread *thread, MonoInternalThread *internal, StartInfo *start_info, gboolean threadpool_thread, guint32 stack_size,
 832                            MonoError *error)
 833 {
 834         HANDLE thread_handle;
 835         MonoNativeThreadId tid;
 836         MonoThreadParm tp;
 837
 838         /*
 839          * Join joinable threads to prevent running out of threads since the finalizer
 840          * thread might be blocked/backlogged.
 841          */
 842         mono_threads_join_threads ();
 843
 844         mono_error_init (error);
 845
 846         mono_threads_lock ();
 847         if (shutting_down) {
 848                 g_free (start_info);
 849                 mono_threads_unlock ();
 850                 return FALSE;
 851         }
 852         if (threads_starting_up == NULL) {
 853                 MONO_GC_REGISTER_ROOT_FIXED (threads_starting_up, MONO_ROOT_SOURCE_THREADING, "starting threads table");
 854                 threads_starting_up = mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_KEY_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "starting threads table");
 855         }
 856         mono_g_hash_table_insert (threads_starting_up, thread, thread);
 857         mono_threads_unlock ();
 858
 859         internal->start_notify = g_new0 (MonoCoopSem, 1);
 860         mono_coop_sem_init (internal->start_notify, 0);
 861         internal->start_notify_refcount = 2;
 862
 863         if (stack_size == 0)
 864                 stack_size = default_stacksize_for_thread (internal);
 865
 866         /* Create suspended, so we can do some housekeeping before the thread
 867          * starts
 868          */
 869         tp.priority = thread->priority;
 870         tp.stack_size = stack_size;
 871         tp.creation_flags = CREATE_SUSPENDED;
 872
 873         thread_handle = mono_threads_create_thread (start_wrapper, start_info, &tp, &tid);
 874
 875         if (thread_handle == NULL) {
 876                 /* The thread couldn't be created, so set an exception */
 877                 mono_threads_lock ();
 878                 mono_g_hash_table_remove (threads_starting_up, thread);
 879                 mono_threads_unlock ();
 880                 g_free (start_info);
 881                 mono_error_set_execution_engine (error, "Couldn't create thread. Error 0x%x", GetLastError());
 882                 return FALSE;
 883         }
 884         THREAD_DEBUG (g_message ("%s: Started thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread_handle));
 885
 886         internal->handle = thread_handle;
 887         internal->tid = MONO_NATIVE_THREAD_ID_TO_UINT (tid);
 888
 889         internal->threadpool_thread = threadpool_thread;
 890         if (threadpool_thread)
 891                 mono_thread_set_state (internal, ThreadState_Background);
 892
 893         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 894
 895         /* Only store the handle when the thread is about to be
 896          * launched, to avoid the main thread deadlocking while trying
 897          * to clean up a thread that will never be signalled.
 898          */
 899         if (!handle_store (thread, FALSE))
 900                 return FALSE;
 901
 902         mono_thread_info_resume (tid);
 903
 904         /*
 905          * Wait for the thread to set up its TLS data etc, so
 906          * theres no potential race condition if someone tries
 907          * to look up the data believing the thread has
 908          * started
 909          */
 910         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") waiting for thread %p (%"G_GSIZE_FORMAT") to start", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 911
 912         mono_coop_sem_wait (internal->start_notify, MONO_SEM_FLAGS_NONE);
 913         if (InterlockedDecrement ((gint32*)&internal->start_notify_refcount) == 0) {
 914                 mono_coop_sem_destroy (internal->start_notify);
 915                 g_free (internal->start_notify);
 916                 internal->start_notify = NULL;
 917         }
 918
 919         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Done launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 920
 921         return TRUE;
 922 }
 923
 924 void mono_thread_new_init (intptr_t tid, gpointer stack_start, gpointer func)
 925 {
 926         if (mono_thread_start_cb) {
 927                 mono_thread_start_cb (tid, stack_start, func);
 928         }
 929 }
 930
 931 void mono_threads_set_default_stacksize (guint32 stacksize)
 932 {
 933         default_stacksize = stacksize;
 934 }
 935
 936 guint32 mono_threads_get_default_stacksize (void)
 937 {
 938         return default_stacksize;
 939 }
 940
 941 /*
 942  * mono_thread_create_internal:
 943  *
 944  *   ARG should not be a GC reference.
 945  */
 946 MonoInternalThread*
 947 mono_thread_create_internal (MonoDomain *domain, gpointer func, gpointer arg, gboolean threadpool_thread, guint32 stack_size, MonoError *error)
 948 {
 949         MonoThread *thread;
 950         MonoInternalThread *internal;
 951         StartInfo *start_info;
 952         gboolean res;
 953
 954         mono_error_init (error);
 955
 956         thread = create_thread_object (domain);
 957         thread->priority = MONO_THREAD_PRIORITY_NORMAL;
 958
 959         internal = create_internal_thread ();
 960
 961         MONO_OBJECT_SETREF (thread, internal_thread, internal);
 962
 963         start_info = g_new0 (StartInfo, 1);
 964         start_info->func = (guint32 (*)(void *))func;
 965         start_info->obj = thread;
 966         start_info->start_arg = arg;
 967
 968         res = create_thread (thread, internal, start_info, threadpool_thread, stack_size, error);
 969         return_val_if_nok (error, NULL);
 970
 971         /* Check that the managed and unmanaged layout of MonoInternalThread matches */
 972 #ifndef MONO_CROSS_COMPILE
 973         if (mono_check_corlib_version () == NULL)
 974                 g_assert (((char*)&internal->unused2 - (char*)internal) == mono_defaults.internal_thread_class->fields [mono_defaults.internal_thread_class->field.count - 1].offset);
 975 #endif
 976
 977         return internal;
 978 }
 979
 980 void
 981 mono_thread_create (MonoDomain *domain, gpointer func, gpointer arg)
 982 {
 983         MonoError error;
 984         if (!mono_thread_create_checked (domain, func, arg, &error))
 985                 mono_error_cleanup (&error);
 986 }
 987
 988 gboolean
 989 mono_thread_create_checked (MonoDomain *domain, gpointer func, gpointer arg, MonoError *error)
 990 {
 991         return (NULL != mono_thread_create_internal (domain, func, arg, FALSE, 0, error));
 992 }
 993
 994 MonoThread *
 995 mono_thread_attach (MonoDomain *domain)
 996 {
 997         MonoThread *thread = mono_thread_attach_full (domain, FALSE);
 998
 999         return thread;
1000 }
1001
1002 MonoThread *
1003 mono_thread_attach_full (MonoDomain *domain, gboolean force_attach)
1004 {
1005         MonoThreadInfo *info;
1006         MonoInternalThread *thread;
1007         MonoThread *current_thread;
1008         MonoNativeThreadId tid;
1009
1010         if ((thread = mono_thread_internal_current ())) {
1011                 if (domain != mono_domain_get ())
1012                         mono_domain_set (domain, TRUE);
1013                 /* Already attached */
1014                 return mono_thread_current ();
1015         }
1016
1017         if (!mono_gc_register_thread (&domain)) {
1018                 g_error ("Thread %"G_GSIZE_FORMAT" calling into managed code is not registered with the GC. On UNIX, this can be fixed by #include-ing <gc.h> before <pthread.h> in the file containing the thread creation code.", mono_native_thread_id_get ());
1019         }
1020
1021         info = mono_thread_info_current ();
1022
1023         tid=mono_native_thread_id_get ();
1024
1025         thread = create_internal_thread ();
1026         thread->handle = mono_thread_info_get_handle (info);
1027         thread->tid = MONO_NATIVE_THREAD_ID_TO_UINT (tid);
1028         thread->stack_ptr = &tid;
1029
1030         THREAD_DEBUG (g_message ("%s: Attached thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread->handle));
1031
1032         thread->thread_info = info;
1033         thread->small_id = info->small_id;
1034
1035         current_thread = new_thread_with_internal (domain, thread);
1036
1037         if (!handle_store (current_thread, force_attach)) {
1038                 /* Mono is shutting down, so just wait for the end */
1039                 for (;;)
1040                         mono_thread_info_sleep (10000, NULL);
1041         }
1042
1043         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Setting current_object_key to %p", __func__, mono_native_thread_id_get (), thread));
1044
1045         SET_CURRENT_OBJECT (thread);
1046         mono_domain_set (domain, TRUE);
1047
1048         thread_adjust_static_data (thread);
1049
1050         init_root_domain_thread (thread, current_thread);
1051
1052         if (domain != mono_get_root_domain ())
1053                 set_current_thread_for_domain (domain, thread, current_thread);
1054
1055
1056         if (mono_thread_attach_cb) {
1057                 guint8 *staddr;
1058                 size_t stsize;
1059
1060                 mono_thread_info_get_stack_bounds (&staddr, &stsize);
1061
1062                 if (staddr == NULL)
1063                         mono_thread_attach_cb (MONO_NATIVE_THREAD_ID_TO_UINT (tid), &tid);
1064                 else
1065                         mono_thread_attach_cb (MONO_NATIVE_THREAD_ID_TO_UINT (tid), staddr + stsize);
1066         }
1067
1068         /* Can happen when we attach the profiler helper thread in order to heapshot. */
1069         if (!info->tools_thread)
1070                 // FIXME: Need a separate callback
1071                 mono_profiler_thread_start (MONO_NATIVE_THREAD_ID_TO_UINT (tid));
1072
1073         return current_thread;
1074 }
1075
1076 void
1077 mono_thread_detach_internal (MonoInternalThread *thread)
1078 {
1079         g_return_if_fail (thread != NULL);
1080
1081         THREAD_DEBUG (g_message ("%s: mono_thread_detach for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1082
1083         thread_cleanup (thread);
1084
1085         SET_CURRENT_OBJECT (NULL);
1086         mono_domain_unset ();
1087
1088         /* Don't need to CloseHandle this thread, even though we took a
1089          * reference in mono_thread_attach (), because the GC will do it
1090          * when the Thread object is finalised.
1091          */
1092 }
1093
1094 void
1095 mono_thread_detach (MonoThread *thread)
1096 {
1097         if (thread)
1098                 mono_thread_detach_internal (thread->internal_thread);
1099 }
1100
1101 /*
1102  * mono_thread_detach_if_exiting:
1103  *
1104  *   Detach the current thread from the runtime if it is exiting, i.e. it is running pthread dtors.
1105  * This should be used at the end of embedding code which calls into managed code, and which
1106  * can be called from pthread dtors, like dealloc: implementations in objective-c.
1107  */
1108 mono_bool
1109 mono_thread_detach_if_exiting (void)
1110 {
1111         if (mono_thread_info_is_exiting ()) {
1112                 MonoInternalThread *thread;
1113
1114                 thread = mono_thread_internal_current ();
1115                 if (thread) {
1116                         mono_thread_detach_internal (thread);
1117                         mono_thread_info_detach ();
1118                         return TRUE;
1119                 }
1120         }
1121         return FALSE;
1122 }
1123
1124 void
1125 mono_thread_exit (void)
1126 {
1127         MonoInternalThread *thread = mono_thread_internal_current ();
1128
1129         THREAD_DEBUG (g_message ("%s: mono_thread_exit for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1130
1131         thread_cleanup (thread);
1132         SET_CURRENT_OBJECT (NULL);
1133         mono_domain_unset ();
1134
1135         /* we could add a callback here for embedders to use. */
1136         if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread))
1137                 exit (mono_environment_exitcode_get ());
1138         mono_thread_info_exit ();
1139 }
1140
1141 void
1142 ves_icall_System_Threading_Thread_ConstructInternalThread (MonoThread *this_obj)
1143 {
1144         MonoInternalThread *internal;
1145
1146         internal = create_internal_thread ();
1147
1148         internal->state = ThreadState_Unstarted;
1149
1150         InterlockedCompareExchangePointer ((volatile gpointer *)&this_obj->internal_thread, internal, NULL);
1151 }
1152
1153 HANDLE
1154 ves_icall_System_Threading_Thread_Thread_internal (MonoThread *this_obj,
1155                                                                                                    MonoObject *start)
1156 {
1157         MonoError error;
1158         StartInfo *start_info;
1159         MonoInternalThread *internal;
1160         gboolean res;
1161
1162         THREAD_DEBUG (g_message("%s: Trying to start a new thread: this (%p) start (%p)", __func__, this_obj, start));
1163
1164         if (!this_obj->internal_thread)
1165                 ves_icall_System_Threading_Thread_ConstructInternalThread (this_obj);
1166         internal = this_obj->internal_thread;
1167
1168         LOCK_THREAD (internal);
1169
1170         if ((internal->state & ThreadState_Unstarted) == 0) {
1171                 UNLOCK_THREAD (internal);
1172                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has already been started."));
1173                 return NULL;
1174         }
1175
1176         if ((internal->state & ThreadState_Aborted) != 0) {
1177                 UNLOCK_THREAD (internal);
1178                 return this_obj;
1179         }
1180         /* This is freed in start_wrapper */
1181         start_info = g_new0 (StartInfo, 1);
1182         start_info->func = NULL;
1183         start_info->start_arg = NULL;
1184         start_info->delegate = start;
1185         start_info->obj = this_obj;
1186         g_assert (this_obj->obj.vtable->domain == mono_domain_get ());
1187
1188         res = create_thread (this_obj, internal, start_info, FALSE, 0, &error);
1189         if (!res) {
1190                 mono_error_cleanup (&error);
1191                 UNLOCK_THREAD (internal);
1192                 return NULL;
1193         }
1194
1195         internal->state &= ~ThreadState_Unstarted;
1196
1197         THREAD_DEBUG (g_message ("%s: Started thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread));
1198
1199         UNLOCK_THREAD (internal);
1200         return internal->handle;
1201 }
1202
1203 /*
1204  * This is called from the finalizer of the internal thread object.
1205  */
1206 void
1207 ves_icall_System_Threading_InternalThread_Thread_free_internal (MonoInternalThread *this_obj, HANDLE thread)
1208 {
1209         THREAD_DEBUG (g_message ("%s: Closing thread %p, handle %p", __func__, this, thread));
1210
1211         /*
1212          * Since threads keep a reference to their thread object while running, by the time this function is called,
1213          * the thread has already exited/detached, i.e. thread_cleanup () has ran. The exception is during shutdown,
1214          * when thread_cleanup () can be called after this.
1215          */
1216         if (thread)
1217                 CloseHandle (thread);
1218
1219         if (this_obj->synch_cs) {
1220                 MonoCoopMutex *synch_cs = this_obj->synch_cs;
1221                 this_obj->synch_cs = NULL;
1222                 mono_coop_mutex_destroy (synch_cs);
1223                 g_free (synch_cs);
1224         }
1225
1226         if (this_obj->name) {
1227                 void *name = this_obj->name;
1228                 this_obj->name = NULL;
1229                 g_free (name);
1230         }
1231 }
1232
1233 void
1234 ves_icall_System_Threading_Thread_Sleep_internal(gint32 ms)
1235 {
1236         guint32 res;
1237         MonoInternalThread *thread = mono_thread_internal_current ();
1238
1239         THREAD_DEBUG (g_message ("%s: Sleeping for %d ms", __func__, ms));
1240
1241         if (mono_thread_current_check_pending_interrupt ())
1242                 return;
1243
1244         while (TRUE) {
1245                 gboolean alerted = FALSE;
1246
1247                 mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1248
1249                 res = mono_thread_info_sleep (ms, &alerted);
1250
1251                 mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1252
1253                 if (alerted) {
1254                         MonoException* exc = mono_thread_execute_interruption ();
1255                         if (exc) {
1256                                 mono_raise_exception (exc);
1257                         } else {
1258                                 // FIXME: !INFINITE
1259                                 if (ms != INFINITE)
1260                                         break;
1261                         }
1262                 } else {
1263                         break;
1264                 }
1265         }
1266 }
1267
1268 void ves_icall_System_Threading_Thread_SpinWait_nop (void)
1269 {
1270 }
1271
1272 gint32
1273 ves_icall_System_Threading_Thread_GetDomainID (void)
1274 {
1275         return mono_domain_get()->domain_id;
1276 }
1277
1278 gboolean
1279 ves_icall_System_Threading_Thread_Yield (void)
1280 {
1281         return mono_thread_info_yield ();
1282 }
1283
1284 /*
1285  * mono_thread_get_name:
1286  *
1287  *   Return the name of the thread. NAME_LEN is set to the length of the name.
1288  * Return NULL if the thread has no name. The returned memory is owned by the
1289  * caller.
1290  */
1291 gunichar2*
1292 mono_thread_get_name (MonoInternalThread *this_obj, guint32 *name_len)
1293 {
1294         gunichar2 *res;
1295
1296         LOCK_THREAD (this_obj);
1297
1298         if (!this_obj->name) {
1299                 *name_len = 0;
1300                 res = NULL;
1301         } else {
1302                 *name_len = this_obj->name_len;
1303                 res = g_new (gunichar2, this_obj->name_len);
1304                 memcpy (res, this_obj->name, sizeof (gunichar2) * this_obj->name_len);
1305         }
1306
1307         UNLOCK_THREAD (this_obj);
1308
1309         return res;
1310 }
1311
1312 /*
1313  * mono_thread_get_name_utf8:
1314  *
1315  * Return the name of the thread in UTF-8.
1316  * Return NULL if the thread has no name.
1317  * The returned memory is owned by the caller.
1318  */
1319 char *
1320 mono_thread_get_name_utf8 (MonoThread *thread)
1321 {
1322         if (thread == NULL)
1323                 return NULL;
1324
1325         MonoInternalThread *internal = thread->internal_thread;
1326         if (internal == NULL)
1327                 return NULL;
1328
1329         LOCK_THREAD (internal);
1330
1331         char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
1332
1333         UNLOCK_THREAD (internal);
1334
1335         return tname;
1336 }
1337
1338 /*
1339  * mono_thread_get_managed_id:
1340  *
1341  * Return the Thread.ManagedThreadId value of `thread`.
1342  * Returns -1 if `thread` is NULL.
1343  */
1344 int32_t
1345 mono_thread_get_managed_id (MonoThread *thread)
1346 {
1347         if (thread == NULL)
1348                 return -1;
1349
1350         MonoInternalThread *internal = thread->internal_thread;
1351         if (internal == NULL)
1352                 return -1;
1353
1354         int32_t id = internal->managed_id;
1355
1356         return id;
1357 }
1358
1359 MonoString*
1360 ves_icall_System_Threading_Thread_GetName_internal (MonoInternalThread *this_obj)
1361 {
1362         MonoError error;
1363         MonoString* str;
1364
1365         mono_error_init (&error);
1366
1367         LOCK_THREAD (this_obj);
1368
1369         if (!this_obj->name)
1370                 str = NULL;
1371         else
1372                 str = mono_string_new_utf16_checked (mono_domain_get (), this_obj->name, this_obj->name_len, &error);
1373
1374         UNLOCK_THREAD (this_obj);
1375
1376         if (mono_error_set_pending_exception (&error))
1377                 return NULL;
1378
1379         return str;
1380 }
1381
1382 void
1383 mono_thread_set_name_internal (MonoInternalThread *this_obj, MonoString *name, gboolean permanent, MonoError *error)
1384 {
1385         LOCK_THREAD (this_obj);
1386
1387         mono_error_init (error);
1388
1389         if ((this_obj->flags & MONO_THREAD_FLAG_NAME_SET)) {
1390                 UNLOCK_THREAD (this_obj);
1391
1392                 mono_error_set_invalid_operation (error, "Thread.Name can only be set once.");
1393                 return;
1394         }
1395         if (this_obj->name) {
1396                 g_free (this_obj->name);
1397                 this_obj->name_len = 0;
1398         }
1399         if (name) {
1400                 this_obj->name = g_new (gunichar2, mono_string_length (name));
1401                 memcpy (this_obj->name, mono_string_chars (name), mono_string_length (name) * 2);
1402                 this_obj->name_len = mono_string_length (name);
1403
1404                 if (permanent)
1405                         this_obj->flags |= MONO_THREAD_FLAG_NAME_SET;
1406         }
1407         else
1408                 this_obj->name = NULL;
1409
1410
1411         UNLOCK_THREAD (this_obj);
1412
1413         if (this_obj->name && this_obj->tid) {
1414                 char *tname = mono_string_to_utf8_checked (name, error);
1415                 return_if_nok (error);
1416                 mono_profiler_thread_name (this_obj->tid, tname);
1417                 mono_native_thread_set_name (thread_get_tid (this_obj), tname);
1418                 mono_free (tname);
1419         }
1420 }
1421
1422 void
1423 ves_icall_System_Threading_Thread_SetName_internal (MonoInternalThread *this_obj, MonoString *name)
1424 {
1425         MonoError error;
1426         mono_thread_set_name_internal (this_obj, name, TRUE, &error);
1427         mono_error_set_pending_exception (&error);
1428 }
1429
1430 /*
1431  * ves_icall_System_Threading_Thread_GetPriority_internal:
1432  * @param this_obj: The MonoInternalThread on which to operate.
1433  *
1434  * Gets the priority of the given thread.
1435  * @return: The priority of the given thread.
1436  */
1437 int
1438 ves_icall_System_Threading_Thread_GetPriority (MonoThread *this_obj)
1439 {
1440         gint32 priority;
1441         MonoInternalThread *internal = this_obj->internal_thread;
1442
1443         LOCK_THREAD (internal);
1444         if (internal->handle != NULL)
1445                 priority = mono_thread_info_get_priority ((MonoThreadInfo*) internal->thread_info);
1446         else
1447                 priority = this_obj->priority;
1448         UNLOCK_THREAD (internal);
1449         return priority;
1450 }
1451
1452 /*
1453  * ves_icall_System_Threading_Thread_SetPriority_internal:
1454  * @param this_obj: The MonoInternalThread on which to operate.
1455  * @param priority: The priority to set.
1456  *
1457  * Sets the priority of the given thread.
1458  */
1459 void
1460 ves_icall_System_Threading_Thread_SetPriority (MonoThread *this_obj, int priority)
1461 {
1462         MonoInternalThread *internal = this_obj->internal_thread;
1463
1464         LOCK_THREAD (internal);
1465         this_obj->priority = priority;
1466         if (internal->handle != NULL)
1467                 mono_thread_info_set_priority ((MonoThreadInfo*) internal->thread_info, this_obj->priority);
1468         UNLOCK_THREAD (internal);
1469 }
1470
1471 /* If the array is already in the requested domain, we just return it,
1472    otherwise we return a copy in that domain. */
1473 static MonoArray*
1474 byte_array_to_domain (MonoArray *arr, MonoDomain *domain, MonoError *error)
1475 {
1476         MonoArray *copy;
1477
1478         mono_error_init (error);
1479         if (!arr)
1480                 return NULL;
1481
1482         if (mono_object_domain (arr) == domain)
1483                 return arr;
1484
1485         copy = mono_array_new_checked (domain, mono_defaults.byte_class, arr->max_length, error);
1486         memmove (mono_array_addr (copy, guint8, 0), mono_array_addr (arr, guint8, 0), arr->max_length);
1487         return copy;
1488 }
1489
1490 MonoArray*
1491 ves_icall_System_Threading_Thread_ByteArrayToRootDomain (MonoArray *arr)
1492 {
1493         MonoError error;
1494         MonoArray *result = byte_array_to_domain (arr, mono_get_root_domain (), &error);
1495         mono_error_set_pending_exception (&error);
1496         return result;
1497 }
1498
1499 MonoArray*
1500 ves_icall_System_Threading_Thread_ByteArrayToCurrentDomain (MonoArray *arr)
1501 {
1502         MonoError error;
1503         MonoArray *result = byte_array_to_domain (arr, mono_domain_get (), &error);
1504         mono_error_set_pending_exception (&error);
1505         return result;
1506 }
1507
1508 MonoThread *
1509 mono_thread_current (void)
1510 {
1511         MonoDomain *domain = mono_domain_get ();
1512         MonoInternalThread *internal = mono_thread_internal_current ();
1513         MonoThread **current_thread_ptr;
1514
1515         g_assert (internal);
1516         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1517
1518         if (!*current_thread_ptr) {
1519                 g_assert (domain != mono_get_root_domain ());
1520                 *current_thread_ptr = new_thread_with_internal (domain, internal);
1521         }
1522         return *current_thread_ptr;
1523 }
1524
1525 /* Return the thread object belonging to INTERNAL in the current domain */
1526 static MonoThread *
1527 mono_thread_current_for_thread (MonoInternalThread *internal)
1528 {
1529         MonoDomain *domain = mono_domain_get ();
1530         MonoThread **current_thread_ptr;
1531
1532         g_assert (internal);
1533         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1534
1535         if (!*current_thread_ptr) {
1536                 g_assert (domain != mono_get_root_domain ());
1537                 *current_thread_ptr = new_thread_with_internal (domain, internal);
1538         }
1539         return *current_thread_ptr;
1540 }
1541
1542 MonoInternalThread*
1543 mono_thread_internal_current (void)
1544 {
1545         MonoInternalThread *res = GET_CURRENT_OBJECT ();
1546         THREAD_DEBUG (g_message ("%s: returning %p", __func__, res));
1547         return res;
1548 }
1549
1550 gboolean
1551 ves_icall_System_Threading_Thread_Join_internal(MonoThread *this_obj, int ms)
1552 {
1553         MonoInternalThread *thread = this_obj->internal_thread;
1554         HANDLE handle = thread->handle;
1555         MonoInternalThread *cur_thread = mono_thread_internal_current ();
1556         gboolean ret;
1557
1558         if (mono_thread_current_check_pending_interrupt ())
1559                 return FALSE;
1560
1561         LOCK_THREAD (thread);
1562
1563         if ((thread->state & ThreadState_Unstarted) != 0) {
1564                 UNLOCK_THREAD (thread);
1565
1566                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started."));
1567                 return FALSE;
1568         }
1569
1570         UNLOCK_THREAD (thread);
1571
1572         if(ms== -1) {
1573                 ms=INFINITE;
1574         }
1575         THREAD_DEBUG (g_message ("%s: joining thread handle %p, %d ms", __func__, handle, ms));
1576
1577         mono_thread_set_state (cur_thread, ThreadState_WaitSleepJoin);
1578
1579         MONO_ENTER_GC_SAFE;
1580         ret=WaitForSingleObjectEx (handle, ms, TRUE);
1581         MONO_EXIT_GC_SAFE;
1582
1583         mono_thread_clr_state (cur_thread, ThreadState_WaitSleepJoin);
1584
1585         if(ret==WAIT_OBJECT_0) {
1586                 THREAD_DEBUG (g_message ("%s: join successful", __func__));
1587
1588                 return(TRUE);
1589         }
1590
1591         THREAD_DEBUG (g_message ("%s: join failed", __func__));
1592
1593         return(FALSE);
1594 }
1595
1596 #define MANAGED_WAIT_FAILED 0x7fffffff
1597
1598 static gint32
1599 map_native_wait_result_to_managed (gint32 val)
1600 {
1601         /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1602         return val == WAIT_FAILED ? MANAGED_WAIT_FAILED : val;
1603 }
1604
1605 static gint32
1606 mono_wait_uninterrupted (MonoInternalThread *thread, guint32 numhandles, gpointer *handles, gboolean waitall, gint32 ms, MonoError *error)
1607 {
1608         MonoException *exc;
1609         guint32 ret;
1610         gint64 start;
1611         gint32 diff_ms;
1612         gint32 wait = ms;
1613
1614         mono_error_init (error);
1615
1616         start = (ms == -1) ? 0 : mono_100ns_ticks ();
1617         do {
1618                 MONO_ENTER_GC_SAFE;
1619                 if (numhandles != 1)
1620                         ret = WaitForMultipleObjectsEx (numhandles, handles, waitall, wait, TRUE);
1621                 else
1622                         ret = WaitForSingleObjectEx (handles [0], ms, TRUE);
1623                 MONO_EXIT_GC_SAFE;
1624
1625                 if (ret != WAIT_IO_COMPLETION)
1626                         break;
1627
1628                 exc = mono_thread_execute_interruption ();
1629                 if (exc) {
1630                         mono_error_set_exception_instance (error, exc);
1631                         break;
1632                 }
1633
1634                 if (ms == -1)
1635                         continue;
1636
1637                 /* Re-calculate ms according to the time passed */
1638                 diff_ms = (gint32)((mono_100ns_ticks () - start) / 10000);
1639                 if (diff_ms >= ms) {
1640                         ret = WAIT_TIMEOUT;
1641                         break;
1642                 }
1643                 wait = ms - diff_ms;
1644         } while (TRUE);
1645
1646         return ret;
1647 }
1648
1649 gint32 ves_icall_System_Threading_WaitHandle_WaitAll_internal(MonoArray *mono_handles, gint32 ms)
1650 {
1651         MonoError error;
1652         HANDLE *handles;
1653         guint32 numhandles;
1654         guint32 ret;
1655         guint32 i;
1656         MonoObject *waitHandle;
1657         MonoInternalThread *thread = mono_thread_internal_current ();
1658
1659         /* Do this WaitSleepJoin check before creating objects */
1660         if (mono_thread_current_check_pending_interrupt ())
1661                 return map_native_wait_result_to_managed (WAIT_FAILED);
1662
1663         /* We fail in managed if the array has more than 64 elements */
1664         numhandles = (guint32)mono_array_length(mono_handles);
1665         handles = g_new0(HANDLE, numhandles);
1666
1667         for(i = 0; i < numhandles; i++) {
1668                 waitHandle = mono_array_get(mono_handles, MonoObject*, i);
1669                 handles [i] = mono_wait_handle_get_handle ((MonoWaitHandle *) waitHandle);
1670         }
1671
1672         if(ms== -1) {
1673                 ms=INFINITE;
1674         }
1675
1676         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1677
1678         ret = mono_wait_uninterrupted (thread, numhandles, handles, TRUE, ms, &error);
1679
1680         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1681
1682         g_free(handles);
1683
1684         mono_error_set_pending_exception (&error);
1685
1686         /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1687         return map_native_wait_result_to_managed (ret);
1688 }
1689
1690 gint32 ves_icall_System_Threading_WaitHandle_WaitAny_internal(MonoArray *mono_handles, gint32 ms)
1691 {
1692         MonoError error;
1693         HANDLE handles [MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS];
1694         uintptr_t numhandles;
1695         guint32 ret;
1696         guint32 i;
1697         MonoObject *waitHandle;
1698         MonoInternalThread *thread = mono_thread_internal_current ();
1699
1700         /* Do this WaitSleepJoin check before creating objects */
1701         if (mono_thread_current_check_pending_interrupt ())
1702                 return map_native_wait_result_to_managed (WAIT_FAILED);
1703
1704         numhandles = mono_array_length(mono_handles);
1705         if (numhandles > MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS)
1706                 return map_native_wait_result_to_managed (WAIT_FAILED);
1707
1708         for(i = 0; i < numhandles; i++) {
1709                 waitHandle = mono_array_get(mono_handles, MonoObject*, i);
1710                 handles [i] = mono_wait_handle_get_handle ((MonoWaitHandle *) waitHandle);
1711         }
1712
1713         if(ms== -1) {
1714                 ms=INFINITE;
1715         }
1716
1717         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1718
1719         ret = mono_wait_uninterrupted (thread, numhandles, handles, FALSE, ms, &error);
1720
1721         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1722
1723         THREAD_WAIT_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") returning %d", __func__, mono_native_thread_id_get (), ret));
1724
1725         mono_error_set_pending_exception (&error);
1726         /*
1727          * These need to be here.  See MSDN dos on WaitForMultipleObjects.
1728          */
1729         if (ret >= WAIT_OBJECT_0 && ret <= WAIT_OBJECT_0 + numhandles - 1) {
1730                 return map_native_wait_result_to_managed (ret - WAIT_OBJECT_0);
1731         }
1732         else if (ret >= WAIT_ABANDONED_0 && ret <= WAIT_ABANDONED_0 + numhandles - 1) {
1733                 return map_native_wait_result_to_managed (ret - WAIT_ABANDONED_0);
1734         }
1735         else {
1736                 /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1737                 return map_native_wait_result_to_managed (ret);
1738         }
1739 }
1740
1741 gint32 ves_icall_System_Threading_WaitHandle_WaitOne_internal(HANDLE handle, gint32 ms)
1742 {
1743         MonoError error;
1744         guint32 ret;
1745         MonoInternalThread *thread = mono_thread_internal_current ();
1746
1747         THREAD_WAIT_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") waiting for %p, %d ms", __func__, mono_native_thread_id_get (), handle, ms));
1748
1749         if(ms== -1) {
1750                 ms=INFINITE;
1751         }
1752
1753         if (mono_thread_current_check_pending_interrupt ())
1754                 return map_native_wait_result_to_managed (WAIT_FAILED);
1755
1756         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1757
1758         ret = mono_wait_uninterrupted (thread, 1, &handle, FALSE, ms, &error);
1759
1760         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1761
1762         mono_error_set_pending_exception (&error);
1763         return map_native_wait_result_to_managed (ret);
1764 }
1765
1766 gint32
1767 ves_icall_System_Threading_WaitHandle_SignalAndWait_Internal (HANDLE toSignal, HANDLE toWait, gint32 ms)
1768 {
1769         guint32 ret;
1770         MonoInternalThread *thread = mono_thread_internal_current ();
1771
1772         if (ms == -1)
1773                 ms = INFINITE;
1774
1775         if (mono_thread_current_check_pending_interrupt ())
1776                 return map_native_wait_result_to_managed (WAIT_FAILED);
1777
1778         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1779
1780         MONO_ENTER_GC_SAFE;
1781         ret = SignalObjectAndWait (toSignal, toWait, ms, TRUE);
1782         MONO_EXIT_GC_SAFE;
1783
1784         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1785
1786         return map_native_wait_result_to_managed (ret);
1787 }
1788
1789 HANDLE ves_icall_System_Threading_Mutex_CreateMutex_internal (MonoBoolean owned, MonoString *name, MonoBoolean *created)
1790 {
1791         HANDLE mutex;
1792
1793         *created = TRUE;
1794
1795         if (name == NULL) {
1796                 mutex = CreateMutex (NULL, owned, NULL);
1797         } else {
1798                 mutex = CreateMutex (NULL, owned, mono_string_chars (name));
1799
1800                 if (GetLastError () == ERROR_ALREADY_EXISTS) {
1801                         *created = FALSE;
1802                 }
1803         }
1804
1805         return(mutex);
1806 }
1807
1808 MonoBoolean ves_icall_System_Threading_Mutex_ReleaseMutex_internal (HANDLE handle ) {
1809         return(ReleaseMutex (handle));
1810 }
1811
1812 HANDLE ves_icall_System_Threading_Mutex_OpenMutex_internal (MonoString *name,
1813                                                             gint32 rights,
1814                                                             gint32 *error)
1815 {
1816         HANDLE ret;
1817
1818         *error = ERROR_SUCCESS;
1819
1820         ret = OpenMutex (rights, FALSE, mono_string_chars (name));
1821         if (ret == NULL) {
1822                 *error = GetLastError ();
1823         }
1824
1825         return(ret);
1826 }
1827
1828
1829 HANDLE ves_icall_System_Threading_Semaphore_CreateSemaphore_internal (gint32 initialCount, gint32 maximumCount, MonoString *name, gint32 *error)
1830 {
1831         HANDLE sem;
1832
1833         if (name == NULL) {
1834                 sem = CreateSemaphore (NULL, initialCount, maximumCount, NULL);
1835         } else {
1836                 sem = CreateSemaphore (NULL, initialCount, maximumCount,
1837                                        mono_string_chars (name));
1838         }
1839
1840         *error = GetLastError ();
1841
1842         return(sem);
1843 }
1844
1845 MonoBoolean ves_icall_System_Threading_Semaphore_ReleaseSemaphore_internal (HANDLE handle, gint32 releaseCount, gint32 *prevcount)
1846 {
1847         return ReleaseSemaphore (handle, releaseCount, prevcount);
1848 }
1849
1850 HANDLE ves_icall_System_Threading_Semaphore_OpenSemaphore_internal (MonoString *name, gint32 rights, gint32 *error)
1851 {
1852         HANDLE sem;
1853
1854         sem = OpenSemaphore (rights, FALSE, mono_string_chars (name));
1855
1856         *error = GetLastError ();
1857
1858         return(sem);
1859 }
1860
1861 HANDLE ves_icall_System_Threading_Events_CreateEvent_internal (MonoBoolean manual, MonoBoolean initial, MonoString *name, gint32 *error)
1862 {
1863         HANDLE event;
1864
1865         if (name == NULL) {
1866                 event = CreateEvent (NULL, manual, initial, NULL);
1867         } else {
1868                 event = CreateEvent (NULL, manual, initial,
1869                                      mono_string_chars (name));
1870         }
1871
1872         *error = GetLastError ();
1873
1874         return(event);
1875 }
1876
1877 gboolean ves_icall_System_Threading_Events_SetEvent_internal (HANDLE handle) {
1878         return (SetEvent(handle));
1879 }
1880
1881 gboolean ves_icall_System_Threading_Events_ResetEvent_internal (HANDLE handle) {
1882         return (ResetEvent(handle));
1883 }
1884
1885 void
1886 ves_icall_System_Threading_Events_CloseEvent_internal (HANDLE handle) {
1887         CloseHandle (handle);
1888 }
1889
1890 HANDLE ves_icall_System_Threading_Events_OpenEvent_internal (MonoString *name,
1891                                                              gint32 rights,
1892                                                              gint32 *error)
1893 {
1894         HANDLE ret;
1895
1896         ret = OpenEvent (rights, FALSE, mono_string_chars (name));
1897         if (ret == NULL) {
1898                 *error = GetLastError ();
1899         } else {
1900                 *error = ERROR_SUCCESS;
1901         }
1902
1903         return(ret);
1904 }
1905
1906 gint32 ves_icall_System_Threading_Interlocked_Increment_Int (gint32 *location)
1907 {
1908         return InterlockedIncrement (location);
1909 }
1910
1911 gint64 ves_icall_System_Threading_Interlocked_Increment_Long (gint64 *location)
1912 {
1913 #if SIZEOF_VOID_P == 4
1914         if (G_UNLIKELY ((size_t)location & 0x7)) {
1915                 gint64 ret;
1916                 mono_interlocked_lock ();
1917                 (*location)++;
1918                 ret = *location;
1919                 mono_interlocked_unlock ();
1920                 return ret;
1921         }
1922 #endif
1923         return InterlockedIncrement64 (location);
1924 }
1925
1926 gint32 ves_icall_System_Threading_Interlocked_Decrement_Int (gint32 *location)
1927 {
1928         return InterlockedDecrement(location);
1929 }
1930
1931 gint64 ves_icall_System_Threading_Interlocked_Decrement_Long (gint64 * location)
1932 {
1933 #if SIZEOF_VOID_P == 4
1934         if (G_UNLIKELY ((size_t)location & 0x7)) {
1935                 gint64 ret;
1936                 mono_interlocked_lock ();
1937                 (*location)--;
1938                 ret = *location;
1939                 mono_interlocked_unlock ();
1940                 return ret;
1941         }
1942 #endif
1943         return InterlockedDecrement64 (location);
1944 }
1945
1946 gint32 ves_icall_System_Threading_Interlocked_Exchange_Int (gint32 *location, gint32 value)
1947 {
1948         return InterlockedExchange(location, value);
1949 }
1950
1951 MonoObject * ves_icall_System_Threading_Interlocked_Exchange_Object (MonoObject **location, MonoObject *value)
1952 {
1953         MonoObject *res;
1954         res = (MonoObject *) InterlockedExchangePointer((gpointer *) location, value);
1955         mono_gc_wbarrier_generic_nostore (location);
1956         return res;
1957 }
1958
1959 gpointer ves_icall_System_Threading_Interlocked_Exchange_IntPtr (gpointer *location, gpointer value)
1960 {
1961         return InterlockedExchangePointer(location, value);
1962 }
1963
1964 gfloat ves_icall_System_Threading_Interlocked_Exchange_Single (gfloat *location, gfloat value)
1965 {
1966         IntFloatUnion val, ret;
1967
1968         val.fval = value;
1969         ret.ival = InterlockedExchange((gint32 *) location, val.ival);
1970
1971         return ret.fval;
1972 }
1973
1974 gint64
1975 ves_icall_System_Threading_Interlocked_Exchange_Long (gint64 *location, gint64 value)
1976 {
1977 #if SIZEOF_VOID_P == 4
1978         if (G_UNLIKELY ((size_t)location & 0x7)) {
1979                 gint64 ret;
1980                 mono_interlocked_lock ();
1981                 ret = *location;
1982                 *location = value;
1983                 mono_interlocked_unlock ();
1984                 return ret;
1985         }
1986 #endif
1987         return InterlockedExchange64 (location, value);
1988 }
1989
1990 gdouble
1991 ves_icall_System_Threading_Interlocked_Exchange_Double (gdouble *location, gdouble value)
1992 {
1993         LongDoubleUnion val, ret;
1994
1995         val.fval = value;
1996         ret.ival = (gint64)InterlockedExchange64((gint64 *) location, val.ival);
1997
1998         return ret.fval;
1999 }
2000
2001 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int(gint32 *location, gint32 value, gint32 comparand)
2002 {
2003         return InterlockedCompareExchange(location, value, comparand);
2004 }
2005
2006 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int_Success(gint32 *location, gint32 value, gint32 comparand, MonoBoolean *success)
2007 {
2008         gint32 r = InterlockedCompareExchange(location, value, comparand);
2009         *success = r == comparand;
2010         return r;
2011 }
2012
2013 MonoObject * ves_icall_System_Threading_Interlocked_CompareExchange_Object (MonoObject **location, MonoObject *value, MonoObject *comparand)
2014 {
2015         MonoObject *res;
2016         res = (MonoObject *) InterlockedCompareExchangePointer((gpointer *) location, value, comparand);
2017         mono_gc_wbarrier_generic_nostore (location);
2018         return res;
2019 }
2020
2021 gpointer ves_icall_System_Threading_Interlocked_CompareExchange_IntPtr(gpointer *location, gpointer value, gpointer comparand)
2022 {
2023         return InterlockedCompareExchangePointer(location, value, comparand);
2024 }
2025
2026 gfloat ves_icall_System_Threading_Interlocked_CompareExchange_Single (gfloat *location, gfloat value, gfloat comparand)
2027 {
2028         IntFloatUnion val, ret, cmp;
2029
2030         val.fval = value;
2031         cmp.fval = comparand;
2032         ret.ival = InterlockedCompareExchange((gint32 *) location, val.ival, cmp.ival);
2033
2034         return ret.fval;
2035 }
2036
2037 gdouble
2038 ves_icall_System_Threading_Interlocked_CompareExchange_Double (gdouble *location, gdouble value, gdouble comparand)
2039 {
2040 #if SIZEOF_VOID_P == 8
2041         LongDoubleUnion val, comp, ret;
2042
2043         val.fval = value;
2044         comp.fval = comparand;
2045         ret.ival = (gint64)InterlockedCompareExchangePointer((gpointer *) location, (gpointer)val.ival, (gpointer)comp.ival);
2046
2047         return ret.fval;
2048 #else
2049         gdouble old;
2050
2051         mono_interlocked_lock ();
2052         old = *location;
2053         if (old == comparand)
2054                 *location = value;
2055         mono_interlocked_unlock ();
2056
2057         return old;
2058 #endif
2059 }
2060
2061 gint64
2062 ves_icall_System_Threading_Interlocked_CompareExchange_Long (gint64 *location, gint64 value, gint64 comparand)
2063 {
2064 #if SIZEOF_VOID_P == 4
2065         if (G_UNLIKELY ((size_t)location & 0x7)) {
2066                 gint64 old;
2067                 mono_interlocked_lock ();
2068                 old = *location;
2069                 if (old == comparand)
2070                         *location = value;
2071                 mono_interlocked_unlock ();
2072                 return old;
2073         }
2074 #endif
2075         return InterlockedCompareExchange64 (location, value, comparand);
2076 }
2077
2078 MonoObject*
2079 ves_icall_System_Threading_Interlocked_CompareExchange_T (MonoObject **location, MonoObject *value, MonoObject *comparand)
2080 {
2081         MonoObject *res;
2082         res = (MonoObject *)InterlockedCompareExchangePointer ((volatile gpointer *)location, value, comparand);
2083         mono_gc_wbarrier_generic_nostore (location);
2084         return res;
2085 }
2086
2087 MonoObject*
2088 ves_icall_System_Threading_Interlocked_Exchange_T (MonoObject **location, MonoObject *value)
2089 {
2090         MonoObject *res;
2091         MONO_CHECK_NULL (location, NULL);
2092         res = (MonoObject *)InterlockedExchangePointer ((volatile gpointer *)location, value);
2093         mono_gc_wbarrier_generic_nostore (location);
2094         return res;
2095 }
2096
2097 gint32
2098 ves_icall_System_Threading_Interlocked_Add_Int (gint32 *location, gint32 value)
2099 {
2100         return InterlockedAdd (location, value);
2101 }
2102
2103 gint64
2104 ves_icall_System_Threading_Interlocked_Add_Long (gint64 *location, gint64 value)
2105 {
2106 #if SIZEOF_VOID_P == 4
2107         if (G_UNLIKELY ((size_t)location & 0x7)) {
2108                 gint64 ret;
2109                 mono_interlocked_lock ();
2110                 *location += value;
2111                 ret = *location;
2112                 mono_interlocked_unlock ();
2113                 return ret;
2114         }
2115 #endif
2116         return InterlockedAdd64 (location, value);
2117 }
2118
2119 gint64
2120 ves_icall_System_Threading_Interlocked_Read_Long (gint64 *location)
2121 {
2122 #if SIZEOF_VOID_P == 4
2123         if (G_UNLIKELY ((size_t)location & 0x7)) {
2124                 gint64 ret;
2125                 mono_interlocked_lock ();
2126                 ret = *location;
2127                 mono_interlocked_unlock ();
2128                 return ret;
2129         }
2130 #endif
2131         return InterlockedRead64 (location);
2132 }
2133
2134 void
2135 ves_icall_System_Threading_Thread_MemoryBarrier (void)
2136 {
2137         mono_memory_barrier ();
2138 }
2139
2140 void
2141 ves_icall_System_Threading_Thread_ClrState (MonoInternalThread* this_obj, guint32 state)
2142 {
2143         mono_thread_clr_state (this_obj, (MonoThreadState)state);
2144
2145         if (state & ThreadState_Background) {
2146                 /* If the thread changes the background mode, the main thread has to
2147                  * be notified, since it has to rebuild the list of threads to
2148                  * wait for.
2149                  */
2150                 SetEvent (background_change_event);
2151         }
2152 }
2153
2154 void
2155 ves_icall_System_Threading_Thread_SetState (MonoInternalThread* this_obj, guint32 state)
2156 {
2157         mono_thread_set_state (this_obj, (MonoThreadState)state);
2158
2159         if (state & ThreadState_Background) {
2160                 /* If the thread changes the background mode, the main thread has to
2161                  * be notified, since it has to rebuild the list of threads to
2162                  * wait for.
2163                  */
2164                 SetEvent (background_change_event);
2165         }
2166 }
2167
2168 guint32
2169 ves_icall_System_Threading_Thread_GetState (MonoInternalThread* this_obj)
2170 {
2171         guint32 state;
2172
2173         LOCK_THREAD (this_obj);
2174
2175         state = this_obj->state;
2176
2177         UNLOCK_THREAD (this_obj);
2178
2179         return state;
2180 }
2181
2182 void ves_icall_System_Threading_Thread_Interrupt_internal (MonoThread *this_obj)
2183 {
2184         MonoInternalThread *current;
2185         gboolean throw_;
2186         MonoInternalThread *thread = this_obj->internal_thread;
2187
2188         LOCK_THREAD (thread);
2189
2190         current = mono_thread_internal_current ();
2191
2192         thread->thread_interrupt_requested = TRUE;
2193         throw_ = current != thread && (thread->state & ThreadState_WaitSleepJoin);
2194
2195         UNLOCK_THREAD (thread);
2196
2197         if (throw_) {
2198                 async_abort_internal (thread, FALSE);
2199         }
2200 }
2201
2202 /**
2203  * mono_thread_current_check_pending_interrupt:
2204  *
2205  * Checks if there's a interruption request and set the pending exception if so.
2206  *
2207  * @returns true if a pending exception was set
2208  */
2209 gboolean
2210 mono_thread_current_check_pending_interrupt (void)
2211 {
2212         MonoInternalThread *thread = mono_thread_internal_current ();
2213         gboolean throw_ = FALSE;
2214
2215         LOCK_THREAD (thread);
2216
2217         if (thread->thread_interrupt_requested) {
2218                 throw_ = TRUE;
2219                 thread->thread_interrupt_requested = FALSE;
2220         }
2221
2222         UNLOCK_THREAD (thread);
2223
2224         if (throw_)
2225                 mono_set_pending_exception (mono_get_exception_thread_interrupted ());
2226         return throw_;
2227 }
2228
2229 static gboolean
2230 request_thread_abort (MonoInternalThread *thread, MonoObject *state)
2231 {
2232         LOCK_THREAD (thread);
2233
2234         if ((thread->state & ThreadState_AbortRequested) != 0 ||
2235                 (thread->state & ThreadState_StopRequested) != 0 ||
2236                 (thread->state & ThreadState_Stopped) != 0)
2237         {
2238                 UNLOCK_THREAD (thread);
2239                 return FALSE;
2240         }
2241
2242         if ((thread->state & ThreadState_Unstarted) != 0) {
2243                 thread->state |= ThreadState_Aborted;
2244                 UNLOCK_THREAD (thread);
2245                 return FALSE;
2246         }
2247
2248         thread->state |= ThreadState_AbortRequested;
2249         if (thread->abort_state_handle)
2250                 mono_gchandle_free (thread->abort_state_handle);
2251         if (state) {
2252                 thread->abort_state_handle = mono_gchandle_new (state, FALSE);
2253                 g_assert (thread->abort_state_handle);
2254         } else {
2255                 thread->abort_state_handle = 0;
2256         }
2257         thread->abort_exc = NULL;
2258
2259         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Abort requested for %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), thread, (gsize)thread->tid));
2260
2261         /* During shutdown, we can't wait for other threads */
2262         if (!shutting_down)
2263                 /* Make sure the thread is awake */
2264                 mono_thread_resume (thread);
2265
2266         UNLOCK_THREAD (thread);
2267         return TRUE;
2268 }
2269
2270 void
2271 ves_icall_System_Threading_Thread_Abort (MonoInternalThread *thread, MonoObject *state)
2272 {
2273         if (!request_thread_abort (thread, state))
2274                 return;
2275
2276         if (thread == mono_thread_internal_current ()) {
2277                 MonoError error;
2278                 self_abort_internal (&error);
2279                 mono_error_set_pending_exception (&error);
2280         } else {
2281                 async_abort_internal (thread, TRUE);
2282         }
2283 }
2284
2285 /**
2286  * mono_thread_internal_abort:
2287  *
2288  * Request thread @thread to be aborted.
2289  *
2290  * @thread MUST NOT be the current thread.
2291  */
2292 void
2293 mono_thread_internal_abort (MonoInternalThread *thread)
2294 {
2295         g_assert (thread != mono_thread_internal_current ());
2296
2297         if (!request_thread_abort (thread, NULL))
2298                 return;
2299         async_abort_internal (thread, TRUE);
2300 }
2301
2302 void
2303 ves_icall_System_Threading_Thread_ResetAbort (MonoThread *this_obj)
2304 {
2305         MonoInternalThread *thread = mono_thread_internal_current ();
2306         gboolean was_aborting;
2307
2308         LOCK_THREAD (thread);
2309         was_aborting = thread->state & ThreadState_AbortRequested;
2310         thread->state &= ~ThreadState_AbortRequested;
2311         UNLOCK_THREAD (thread);
2312
2313         if (!was_aborting) {
2314                 const char *msg = "Unable to reset abort because no abort was requested";
2315                 mono_set_pending_exception (mono_get_exception_thread_state (msg));
2316                 return;
2317         }
2318         thread->abort_exc = NULL;
2319         if (thread->abort_state_handle) {
2320                 mono_gchandle_free (thread->abort_state_handle);
2321                 /* This is actually not necessary - the handle
2322                    only counts if the exception is set */
2323                 thread->abort_state_handle = 0;
2324         }
2325 }
2326
2327 void
2328 mono_thread_internal_reset_abort (MonoInternalThread *thread)
2329 {
2330         LOCK_THREAD (thread);
2331
2332         thread->state &= ~ThreadState_AbortRequested;
2333
2334         if (thread->abort_exc) {
2335                 thread->abort_exc = NULL;
2336                 if (thread->abort_state_handle) {
2337                         mono_gchandle_free (thread->abort_state_handle);
2338                         /* This is actually not necessary - the handle
2339                            only counts if the exception is set */
2340                         thread->abort_state_handle = 0;
2341                 }
2342         }
2343
2344         UNLOCK_THREAD (thread);
2345 }
2346
2347 MonoObject*
2348 ves_icall_System_Threading_Thread_GetAbortExceptionState (MonoThread *this_obj)
2349 {
2350         MonoError error;
2351         MonoInternalThread *thread = this_obj->internal_thread;
2352         MonoObject *state, *deserialized = NULL;
2353         MonoDomain *domain;
2354
2355         if (!thread->abort_state_handle)
2356                 return NULL;
2357
2358         state = mono_gchandle_get_target (thread->abort_state_handle);
2359         g_assert (state);
2360
2361         domain = mono_domain_get ();
2362         if (mono_object_domain (state) == domain)
2363                 return state;
2364
2365         deserialized = mono_object_xdomain_representation (state, domain, &error);
2366
2367         if (!deserialized) {
2368                 MonoException *invalid_op_exc = mono_get_exception_invalid_operation ("Thread.ExceptionState cannot access an ExceptionState from a different AppDomain");
2369                 if (!is_ok (&error)) {
2370                         MonoObject *exc = (MonoObject*)mono_error_convert_to_exception (&error);
2371                         MONO_OBJECT_SETREF (invalid_op_exc, inner_ex, exc);
2372                 }
2373                 mono_set_pending_exception (invalid_op_exc);
2374                 return NULL;
2375         }
2376
2377         return deserialized;
2378 }
2379
2380 static gboolean
2381 mono_thread_suspend (MonoInternalThread *thread)
2382 {
2383         LOCK_THREAD (thread);
2384
2385         if ((thread->state & ThreadState_Unstarted) != 0 ||
2386                 (thread->state & ThreadState_Aborted) != 0 ||
2387                 (thread->state & ThreadState_Stopped) != 0)
2388         {
2389                 UNLOCK_THREAD (thread);
2390                 return FALSE;
2391         }
2392
2393         if ((thread->state & ThreadState_Suspended) != 0 ||
2394                 (thread->state & ThreadState_SuspendRequested) != 0 ||
2395                 (thread->state & ThreadState_StopRequested) != 0)
2396         {
2397                 UNLOCK_THREAD (thread);
2398                 return TRUE;
2399         }
2400
2401         thread->state |= ThreadState_SuspendRequested;
2402
2403         if (thread == mono_thread_internal_current ()) {
2404                 /* calls UNLOCK_THREAD (thread) */
2405                 self_suspend_internal ();
2406         } else {
2407                 /* calls UNLOCK_THREAD (thread) */
2408                 async_suspend_internal (thread, FALSE);
2409         }
2410
2411         return TRUE;
2412 }
2413
2414 void
2415 ves_icall_System_Threading_Thread_Suspend (MonoThread *this_obj)
2416 {
2417         if (!mono_thread_suspend (this_obj->internal_thread)) {
2418                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2419                 return;
2420         }
2421 }
2422
2423 /* LOCKING: LOCK_THREAD(thread) must be held */
2424 static gboolean
2425 mono_thread_resume (MonoInternalThread *thread)
2426 {
2427         if ((thread->state & ThreadState_SuspendRequested) != 0) {
2428                 thread->state &= ~ThreadState_SuspendRequested;
2429                 return TRUE;
2430         }
2431
2432         if ((thread->state & ThreadState_Suspended) == 0 ||
2433                 (thread->state & ThreadState_Unstarted) != 0 ||
2434                 (thread->state & ThreadState_Aborted) != 0 ||
2435                 (thread->state & ThreadState_Stopped) != 0)
2436         {
2437                 return FALSE;
2438         }
2439
2440         UNLOCK_THREAD (thread);
2441
2442         /* Awake the thread */
2443         if (!mono_thread_info_resume (thread_get_tid (thread)))
2444                 return FALSE;
2445
2446         LOCK_THREAD (thread);
2447
2448         thread->state &= ~ThreadState_Suspended;
2449
2450         return TRUE;
2451 }
2452
2453 void
2454 ves_icall_System_Threading_Thread_Resume (MonoThread *thread)
2455 {
2456         if (!thread->internal_thread) {
2457                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2458         } else {
2459                 LOCK_THREAD (thread->internal_thread);
2460                 if (!mono_thread_resume (thread->internal_thread))
2461                         mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2462                 UNLOCK_THREAD (thread->internal_thread);
2463         }
2464 }
2465
2466 static gboolean
2467 mono_threads_is_critical_method (MonoMethod *method)
2468 {
2469         switch (method->wrapper_type) {
2470         case MONO_WRAPPER_RUNTIME_INVOKE:
2471         case MONO_WRAPPER_XDOMAIN_INVOKE:
2472         case MONO_WRAPPER_XDOMAIN_DISPATCH:
2473                 return TRUE;
2474         }
2475         return FALSE;
2476 }
2477
2478 static gboolean
2479 find_wrapper (MonoMethod *m, gint no, gint ilo, gboolean managed, gpointer data)
2480 {
2481         if (managed)
2482                 return TRUE;
2483
2484         if (mono_threads_is_critical_method (m)) {
2485                 *((gboolean*)data) = TRUE;
2486                 return TRUE;
2487         }
2488         return FALSE;
2489 }
2490
2491 static gboolean
2492 is_running_protected_wrapper (void)
2493 {
2494         gboolean found = FALSE;
2495         mono_stack_walk (find_wrapper, &found);
2496         return found;
2497 }
2498
2499 static gboolean
2500 request_thread_stop (MonoInternalThread *thread)
2501 {
2502         LOCK_THREAD (thread);
2503
2504         if ((thread->state & ThreadState_StopRequested) != 0 ||
2505                 (thread->state & ThreadState_Stopped) != 0)
2506         {
2507                 UNLOCK_THREAD (thread);
2508                 return FALSE;
2509         }
2510
2511         /* Make sure the thread is awake */
2512         mono_thread_resume (thread);
2513
2514         thread->state |= ThreadState_StopRequested;
2515         thread->state &= ~ThreadState_AbortRequested;
2516
2517         UNLOCK_THREAD (thread);
2518         return TRUE;
2519 }
2520
2521 /**
2522  * mono_thread_internal_stop:
2523  *
2524  * Request thread @thread to stop.
2525  *
2526  * @thread MUST NOT be the current thread.
2527  */
2528 void
2529 mono_thread_internal_stop (MonoInternalThread *thread)
2530 {
2531         g_assert (thread != mono_thread_internal_current ());
2532
2533         if (!request_thread_stop (thread))
2534                 return;
2535
2536         async_abort_internal (thread, TRUE);
2537 }
2538
2539 void mono_thread_stop (MonoThread *thread)
2540 {
2541         MonoInternalThread *internal = thread->internal_thread;
2542
2543         if (!request_thread_stop (internal))
2544                 return;
2545
2546         if (internal == mono_thread_internal_current ()) {
2547                 MonoError error;
2548                 self_abort_internal (&error);
2549                 /*
2550                 This function is part of the embeding API and has no way to return the exception
2551                 to be thrown. So what we do is keep the old behavior and raise the exception.
2552                 */
2553                 mono_error_raise_exception (&error); /* OK to throw, see note */
2554         } else {
2555                 async_abort_internal (internal, TRUE);
2556         }
2557 }
2558
2559 gint8
2560 ves_icall_System_Threading_Thread_VolatileRead1 (void *ptr)
2561 {
2562         gint8 tmp = *(volatile gint8 *)ptr;
2563         mono_memory_barrier ();
2564         return tmp;
2565 }
2566
2567 gint16
2568 ves_icall_System_Threading_Thread_VolatileRead2 (void *ptr)
2569 {
2570         gint16 tmp = *(volatile gint16 *)ptr;
2571         mono_memory_barrier ();
2572         return tmp;
2573 }
2574
2575 gint32
2576 ves_icall_System_Threading_Thread_VolatileRead4 (void *ptr)
2577 {
2578         gint32 tmp = *(volatile gint32 *)ptr;
2579         mono_memory_barrier ();
2580         return tmp;
2581 }
2582
2583 gint64
2584 ves_icall_System_Threading_Thread_VolatileRead8 (void *ptr)
2585 {
2586         gint64 tmp = *(volatile gint64 *)ptr;
2587         mono_memory_barrier ();
2588         return tmp;
2589 }
2590
2591 void *
2592 ves_icall_System_Threading_Thread_VolatileReadIntPtr (void *ptr)
2593 {
2594         volatile void *tmp = *(volatile void **)ptr;
2595         mono_memory_barrier ();
2596         return (void *) tmp;
2597 }
2598
2599 void *
2600 ves_icall_System_Threading_Thread_VolatileReadObject (void *ptr)
2601 {
2602         volatile MonoObject *tmp = *(volatile MonoObject **)ptr;
2603         mono_memory_barrier ();
2604         return (MonoObject *) tmp;
2605 }
2606
2607 double
2608 ves_icall_System_Threading_Thread_VolatileReadDouble (void *ptr)
2609 {
2610         double tmp = *(volatile double *)ptr;
2611         mono_memory_barrier ();
2612         return tmp;
2613 }
2614
2615 float
2616 ves_icall_System_Threading_Thread_VolatileReadFloat (void *ptr)
2617 {
2618         float tmp = *(volatile float *)ptr;
2619         mono_memory_barrier ();
2620         return tmp;
2621 }
2622
2623 gint8
2624 ves_icall_System_Threading_Volatile_Read1 (void *ptr)
2625 {
2626         return InterlockedRead8 ((volatile gint8 *)ptr);
2627 }
2628
2629 gint16
2630 ves_icall_System_Threading_Volatile_Read2 (void *ptr)
2631 {
2632         return InterlockedRead16 ((volatile gint16 *)ptr);
2633 }
2634
2635 gint32
2636 ves_icall_System_Threading_Volatile_Read4 (void *ptr)
2637 {
2638         return InterlockedRead ((volatile gint32 *)ptr);
2639 }
2640
2641 gint64
2642 ves_icall_System_Threading_Volatile_Read8 (void *ptr)
2643 {
2644 #if SIZEOF_VOID_P == 4
2645         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2646                 gint64 val;
2647                 mono_interlocked_lock ();
2648                 val = *(gint64*)ptr;
2649                 mono_interlocked_unlock ();
2650                 return val;
2651         }
2652 #endif
2653         return InterlockedRead64 ((volatile gint64 *)ptr);
2654 }
2655
2656 void *
2657 ves_icall_System_Threading_Volatile_ReadIntPtr (void *ptr)
2658 {
2659         return InterlockedReadPointer ((volatile gpointer *)ptr);
2660 }
2661
2662 double
2663 ves_icall_System_Threading_Volatile_ReadDouble (void *ptr)
2664 {
2665         LongDoubleUnion u;
2666
2667 #if SIZEOF_VOID_P == 4
2668         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2669                 double val;
2670                 mono_interlocked_lock ();
2671                 val = *(double*)ptr;
2672                 mono_interlocked_unlock ();
2673                 return val;
2674         }
2675 #endif
2676
2677         u.ival = InterlockedRead64 ((volatile gint64 *)ptr);
2678
2679         return u.fval;
2680 }
2681
2682 float
2683 ves_icall_System_Threading_Volatile_ReadFloat (void *ptr)
2684 {
2685         IntFloatUnion u;
2686
2687         u.ival = InterlockedRead ((volatile gint32 *)ptr);
2688
2689         return u.fval;
2690 }
2691
2692 MonoObject*
2693 ves_icall_System_Threading_Volatile_Read_T (void *ptr)
2694 {
2695         return (MonoObject *)InterlockedReadPointer ((volatile gpointer *)ptr);
2696 }
2697
2698 void
2699 ves_icall_System_Threading_Thread_VolatileWrite1 (void *ptr, gint8 value)
2700 {
2701         mono_memory_barrier ();
2702         *(volatile gint8 *)ptr = value;
2703 }
2704
2705 void
2706 ves_icall_System_Threading_Thread_VolatileWrite2 (void *ptr, gint16 value)
2707 {
2708         mono_memory_barrier ();
2709         *(volatile gint16 *)ptr = value;
2710 }
2711
2712 void
2713 ves_icall_System_Threading_Thread_VolatileWrite4 (void *ptr, gint32 value)
2714 {
2715         mono_memory_barrier ();
2716         *(volatile gint32 *)ptr = value;
2717 }
2718
2719 void
2720 ves_icall_System_Threading_Thread_VolatileWrite8 (void *ptr, gint64 value)
2721 {
2722         mono_memory_barrier ();
2723         *(volatile gint64 *)ptr = value;
2724 }
2725
2726 void
2727 ves_icall_System_Threading_Thread_VolatileWriteIntPtr (void *ptr, void *value)
2728 {
2729         mono_memory_barrier ();
2730         *(volatile void **)ptr = value;
2731 }
2732
2733 void
2734 ves_icall_System_Threading_Thread_VolatileWriteObject (void *ptr, MonoObject *value)
2735 {
2736         mono_memory_barrier ();
2737         mono_gc_wbarrier_generic_store (ptr, value);
2738 }
2739
2740 void
2741 ves_icall_System_Threading_Thread_VolatileWriteDouble (void *ptr, double value)
2742 {
2743         mono_memory_barrier ();
2744         *(volatile double *)ptr = value;
2745 }
2746
2747 void
2748 ves_icall_System_Threading_Thread_VolatileWriteFloat (void *ptr, float value)
2749 {
2750         mono_memory_barrier ();
2751         *(volatile float *)ptr = value;
2752 }
2753
2754 void
2755 ves_icall_System_Threading_Volatile_Write1 (void *ptr, gint8 value)
2756 {
2757         InterlockedWrite8 ((volatile gint8 *)ptr, value);
2758 }
2759
2760 void
2761 ves_icall_System_Threading_Volatile_Write2 (void *ptr, gint16 value)
2762 {
2763         InterlockedWrite16 ((volatile gint16 *)ptr, value);
2764 }
2765
2766 void
2767 ves_icall_System_Threading_Volatile_Write4 (void *ptr, gint32 value)
2768 {
2769         InterlockedWrite ((volatile gint32 *)ptr, value);
2770 }
2771
2772 void
2773 ves_icall_System_Threading_Volatile_Write8 (void *ptr, gint64 value)
2774 {
2775 #if SIZEOF_VOID_P == 4
2776         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2777                 mono_interlocked_lock ();
2778                 *(gint64*)ptr = value;
2779                 mono_interlocked_unlock ();
2780                 return;
2781         }
2782 #endif
2783
2784         InterlockedWrite64 ((volatile gint64 *)ptr, value);
2785 }
2786
2787 void
2788 ves_icall_System_Threading_Volatile_WriteIntPtr (void *ptr, void *value)
2789 {
2790         InterlockedWritePointer ((volatile gpointer *)ptr, value);
2791 }
2792
2793 void
2794 ves_icall_System_Threading_Volatile_WriteDouble (void *ptr, double value)
2795 {
2796         LongDoubleUnion u;
2797
2798 #if SIZEOF_VOID_P == 4
2799         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2800                 mono_interlocked_lock ();
2801                 *(double*)ptr = value;
2802                 mono_interlocked_unlock ();
2803                 return;
2804         }
2805 #endif
2806
2807         u.fval = value;
2808
2809         InterlockedWrite64 ((volatile gint64 *)ptr, u.ival);
2810 }
2811
2812 void
2813 ves_icall_System_Threading_Volatile_WriteFloat (void *ptr, float value)
2814 {
2815         IntFloatUnion u;
2816
2817         u.fval = value;
2818
2819         InterlockedWrite ((volatile gint32 *)ptr, u.ival);
2820 }
2821
2822 void
2823 ves_icall_System_Threading_Volatile_Write_T (void *ptr, MonoObject *value)
2824 {
2825         mono_gc_wbarrier_generic_store_atomic (ptr, value);
2826 }
2827
2828 static void
2829 free_context (void *user_data)
2830 {
2831         ContextStaticData *data = user_data;
2832
2833         mono_threads_lock ();
2834
2835         /*
2836          * There is no guarantee that, by the point this reference queue callback
2837          * has been invoked, the GC handle associated with the object will fail to
2838          * resolve as one might expect. So if we don't free and remove the GC
2839          * handle here, free_context_static_data_helper () could end up resolving
2840          * a GC handle to an actually-dead context which would contain a pointer
2841          * to an already-freed static data segment, resulting in a crash when
2842          * accessing it.
2843          */
2844         g_hash_table_remove (contexts, GUINT_TO_POINTER (data->gc_handle));
2845
2846         mono_threads_unlock ();
2847
2848         mono_gchandle_free (data->gc_handle);
2849         mono_free_static_data (data->static_data);
2850         g_free (data);
2851 }
2852
2853 void
2854 ves_icall_System_Runtime_Remoting_Contexts_Context_RegisterContext (MonoAppContext *ctx)
2855 {
2856         mono_threads_lock ();
2857
2858         //g_print ("Registering context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2859
2860         if (!contexts)
2861                 contexts = g_hash_table_new (NULL, NULL);
2862
2863         if (!context_queue)
2864                 context_queue = mono_gc_reference_queue_new (free_context);
2865
2866         gpointer gch = GUINT_TO_POINTER (mono_gchandle_new_weakref (&ctx->obj, FALSE));
2867         g_hash_table_insert (contexts, gch, gch);
2868
2869         /*
2870          * We use this intermediate structure to contain a duplicate pointer to
2871          * the static data because we can't rely on being able to resolve the GC
2872          * handle in the reference queue callback.
2873          */
2874         ContextStaticData *data = g_new0 (ContextStaticData, 1);
2875         data->gc_handle = GPOINTER_TO_UINT (gch);
2876         ctx->data = data;
2877
2878         context_adjust_static_data (ctx);
2879         mono_gc_reference_queue_add (context_queue, &ctx->obj, data);
2880
2881         mono_threads_unlock ();
2882
2883         mono_profiler_context_loaded (ctx);
2884 }
2885
2886 void
2887 ves_icall_System_Runtime_Remoting_Contexts_Context_ReleaseContext (MonoAppContext *ctx)
2888 {
2889         /*
2890          * NOTE: Since finalizers are unreliable for the purposes of ensuring
2891          * cleanup in exceptional circumstances, we don't actually do any
2892          * cleanup work here. We instead do this via a reference queue.
2893          */
2894
2895         //g_print ("Releasing context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2896
2897         mono_profiler_context_unloaded (ctx);
2898 }
2899
2900 void
2901 mono_thread_init_tls (void)
2902 {
2903         MONO_FAST_TLS_INIT (tls_current_object);
2904         mono_native_tls_alloc (&current_object_key, NULL);
2905 }
2906
2907 void mono_thread_init (MonoThreadStartCB start_cb,
2908                        MonoThreadAttachCB attach_cb)
2909 {
2910         mono_coop_mutex_init_recursive (&threads_mutex);
2911
2912         mono_os_mutex_init_recursive(&interlocked_mutex);
2913         mono_os_mutex_init_recursive(&joinable_threads_mutex);
2914
2915         background_change_event = CreateEvent (NULL, TRUE, FALSE, NULL);
2916         g_assert(background_change_event != NULL);
2917
2918         mono_init_static_data_info (&thread_static_info);
2919         mono_init_static_data_info (&context_static_info);
2920
2921         THREAD_DEBUG (g_message ("%s: Allocated current_object_key %d", __func__, current_object_key));
2922
2923         mono_thread_start_cb = start_cb;
2924         mono_thread_attach_cb = attach_cb;
2925
2926         /* Get a pseudo handle to the current process.  This is just a
2927          * kludge so that wapi can build a process handle if needed.
2928          * As a pseudo handle is returned, we don't need to clean
2929          * anything up.
2930          */
2931         GetCurrentProcess ();
2932 }
2933
2934 void mono_thread_cleanup (void)
2935 {
2936 #if !defined(RUN_IN_SUBTHREAD)
2937         /* The main thread must abandon any held mutexes (particularly
2938          * important for named mutexes as they are shared across
2939          * processes, see bug 74680.)  This will happen when the
2940          * thread exits, but if it's not running in a subthread it
2941          * won't exit in time.
2942          */
2943         mono_thread_info_set_exited (mono_thread_info_current ());
2944 #endif
2945
2946 #if 0
2947         /* This stuff needs more testing, it seems one of these
2948          * critical sections can be locked when mono_thread_cleanup is
2949          * called.
2950          */
2951         mono_coop_mutex_destroy (&threads_mutex);
2952         mono_os_mutex_destroy (&interlocked_mutex);
2953         mono_os_mutex_destroy (&delayed_free_table_mutex);
2954         mono_os_mutex_destroy (&small_id_mutex);
2955         CloseHandle (background_change_event);
2956 #endif
2957
2958         mono_native_tls_free (current_object_key);
2959 }
2960
2961 void
2962 mono_threads_install_cleanup (MonoThreadCleanupFunc func)
2963 {
2964         mono_thread_cleanup_fn = func;
2965 }
2966
2967 void
2968 mono_thread_set_manage_callback (MonoThread *thread, MonoThreadManageCallback func)
2969 {
2970         thread->internal_thread->manage_callback = func;
2971 }
2972
2973 G_GNUC_UNUSED
2974 static void print_tids (gpointer key, gpointer value, gpointer user)
2975 {
2976         /* GPOINTER_TO_UINT breaks horribly if sizeof(void *) >
2977          * sizeof(uint) and a cast to uint would overflow
2978          */
2979         /* Older versions of glib don't have G_GSIZE_FORMAT, so just
2980          * print this as a pointer.
2981          */
2982         g_message ("Waiting for: %p", key);
2983 }
2984
2985 struct wait_data
2986 {
2987         HANDLE handles[MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS];
2988         MonoInternalThread *threads[MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS];
2989         guint32 num;
2990 };
2991
2992 static void wait_for_tids (struct wait_data *wait, guint32 timeout)
2993 {
2994         guint32 i, ret;
2995
2996         THREAD_DEBUG (g_message("%s: %d threads to wait for in this batch", __func__, wait->num));
2997
2998         MONO_ENTER_GC_SAFE;
2999         ret=WaitForMultipleObjectsEx(wait->num, wait->handles, TRUE, timeout, TRUE);
3000         MONO_EXIT_GC_SAFE;
3001
3002         if(ret==WAIT_FAILED) {
3003                 /* See the comment in build_wait_tids() */
3004                 THREAD_DEBUG (g_message ("%s: Wait failed", __func__));
3005                 return;
3006         }
3007
3008         for(i=0; i<wait->num; i++)
3009                 CloseHandle (wait->handles[i]);
3010
3011         if (ret == WAIT_TIMEOUT)
3012                 return;
3013
3014         for(i=0; i<wait->num; i++) {
3015                 gsize tid = wait->threads[i]->tid;
3016
3017                 /*
3018                  * On !win32, when the thread handle becomes signalled, it just means the thread has exited user code,
3019                  * it can still run io-layer etc. code. So wait for it to really exit.
3020                  * FIXME: This won't join threads which are not in the joinable_hash yet.
3021                  */
3022                 mono_thread_join ((gpointer)tid);
3023
3024                 mono_threads_lock ();
3025                 if(mono_g_hash_table_lookup (threads, (gpointer)tid)!=NULL) {
3026                         /* This thread must have been killed, because
3027                          * it hasn't cleaned itself up. (It's just
3028                          * possible that the thread exited before the
3029                          * parent thread had a chance to store the
3030                          * handle, and now there is another pointer to
3031                          * the already-exited thread stored.  In this
3032                          * case, we'll just get two
3033                          * mono_profiler_thread_end() calls for the
3034                          * same thread.)
3035                          */
3036
3037                         mono_threads_unlock ();
3038                         THREAD_DEBUG (g_message ("%s: cleaning up after thread %p (%"G_GSIZE_FORMAT")", __func__, wait->threads[i], tid));
3039                         thread_cleanup (wait->threads[i]);
3040                 } else {
3041                         mono_threads_unlock ();
3042                 }
3043         }
3044 }
3045
3046 static void wait_for_tids_or_state_change (struct wait_data *wait, guint32 timeout)
3047 {
3048         guint32 i, ret, count;
3049
3050         THREAD_DEBUG (g_message("%s: %d threads to wait for in this batch", __func__, wait->num));
3051
3052         /* Add the thread state change event, so it wakes up if a thread changes
3053          * to background mode.
3054          */
3055         count = wait->num;
3056         if (count < MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS) {
3057                 wait->handles [count] = background_change_event;
3058                 count++;
3059         }
3060
3061         MONO_ENTER_GC_SAFE;
3062         ret=WaitForMultipleObjectsEx (count, wait->handles, FALSE, timeout, TRUE);
3063         MONO_EXIT_GC_SAFE;
3064
3065         if(ret==WAIT_FAILED) {
3066                 /* See the comment in build_wait_tids() */
3067                 THREAD_DEBUG (g_message ("%s: Wait failed", __func__));
3068                 return;
3069         }
3070
3071         for(i=0; i<wait->num; i++)
3072                 CloseHandle (wait->handles[i]);
3073
3074         if (ret == WAIT_TIMEOUT)
3075                 return;
3076
3077         if (ret < wait->num) {
3078                 gsize tid = wait->threads[ret]->tid;
3079                 mono_threads_lock ();
3080                 if (mono_g_hash_table_lookup (threads, (gpointer)tid)!=NULL) {
3081                         /* See comment in wait_for_tids about thread cleanup */
3082                         mono_threads_unlock ();
3083                         THREAD_DEBUG (g_message ("%s: cleaning up after thread %"G_GSIZE_FORMAT, __func__, tid));
3084                         thread_cleanup (wait->threads [ret]);
3085                 } else
3086                         mono_threads_unlock ();
3087         }
3088 }
3089
3090 static void build_wait_tids (gpointer key, gpointer value, gpointer user)
3091 {
3092         struct wait_data *wait=(struct wait_data *)user;
3093
3094         if(wait->num<MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS) {
3095                 HANDLE handle;
3096                 MonoInternalThread *thread=(MonoInternalThread *)value;
3097
3098                 /* Ignore background threads, we abort them later */
3099                 /* Do not lock here since it is not needed and the caller holds threads_lock */
3100                 if (thread->state & ThreadState_Background) {
3101                         THREAD_DEBUG (g_message ("%s: ignoring background thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3102                         return; /* just leave, ignore */
3103                 }
3104
3105                 if (mono_gc_is_finalizer_internal_thread (thread)) {
3106                         THREAD_DEBUG (g_message ("%s: ignoring finalizer thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3107                         return;
3108                 }
3109
3110                 if (thread == mono_thread_internal_current ()) {
3111                         THREAD_DEBUG (g_message ("%s: ignoring current thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3112                         return;
3113                 }
3114
3115                 if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread)) {
3116                         THREAD_DEBUG (g_message ("%s: ignoring main thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3117                         return;
3118                 }
3119
3120                 if (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE) {
3121                         THREAD_DEBUG (g_message ("%s: ignoring thread %" G_GSIZE_FORMAT "with DONT_MANAGE flag set.", __func__, (gsize)thread->tid));
3122                         return;
3123                 }
3124
3125                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3126                 if (handle == NULL) {
3127                         THREAD_DEBUG (g_message ("%s: ignoring unopenable thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3128                         return;
3129                 }
3130
3131                 THREAD_DEBUG (g_message ("%s: Invoking mono_thread_manage callback on thread %p", __func__, thread));
3132                 if ((thread->manage_callback == NULL) || (thread->manage_callback (thread->root_domain_thread) == TRUE)) {
3133                         wait->handles[wait->num]=handle;
3134                         wait->threads[wait->num]=thread;
3135                         wait->num++;
3136
3137                         THREAD_DEBUG (g_message ("%s: adding thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3138                 } else {
3139                         THREAD_DEBUG (g_message ("%s: ignoring (because of callback) thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3140                 }
3141
3142
3143         } else {
3144                 /* Just ignore the rest, we can't do anything with
3145                  * them yet
3146                  */
3147         }
3148 }
3149
3150 static gboolean
3151 remove_and_abort_threads (gpointer key, gpointer value, gpointer user)
3152 {
3153         struct wait_data *wait=(struct wait_data *)user;
3154         MonoNativeThreadId self = mono_native_thread_id_get ();
3155         MonoInternalThread *thread = (MonoInternalThread *)value;
3156         HANDLE handle;
3157
3158         if (wait->num >= MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS)
3159                 return FALSE;
3160
3161         /* The finalizer thread is not a background thread */
3162         if (!mono_native_thread_id_equals (thread_get_tid (thread), self)
3163              && (thread->state & ThreadState_Background) != 0
3164              && (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE) == 0
3165         ) {
3166                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3167                 if (handle == NULL)
3168                         return FALSE;
3169
3170                 wait->handles[wait->num] = handle;
3171                 wait->threads[wait->num] = thread;
3172                 wait->num++;
3173
3174                 THREAD_DEBUG (g_print ("%s: Aborting id: %"G_GSIZE_FORMAT"\n", __func__, (gsize)thread->tid));
3175                 mono_thread_internal_abort (thread);
3176                 return TRUE;
3177         }
3178
3179         return !mono_native_thread_id_equals (thread_get_tid (thread), self)
3180                 && !mono_gc_is_finalizer_internal_thread (thread);
3181 }
3182
3183 /**
3184  * mono_threads_set_shutting_down:
3185  *
3186  * Is called by a thread that wants to shut down Mono. If the runtime is already
3187  * shutting down, the calling thread is suspended/stopped, and this function never
3188  * returns.
3189  */
3190 void
3191 mono_threads_set_shutting_down (void)
3192 {
3193         MonoInternalThread *current_thread = mono_thread_internal_current ();
3194
3195         mono_threads_lock ();
3196
3197         if (shutting_down) {
3198                 mono_threads_unlock ();
3199
3200                 /* Make sure we're properly suspended/stopped */
3201
3202                 LOCK_THREAD (current_thread);
3203
3204                 if ((current_thread->state & ThreadState_SuspendRequested) ||
3205                     (current_thread->state & ThreadState_AbortRequested) ||
3206                     (current_thread->state & ThreadState_StopRequested)) {
3207                         UNLOCK_THREAD (current_thread);
3208                         mono_thread_execute_interruption ();
3209                 } else {
3210                         current_thread->state |= ThreadState_Stopped;
3211                         UNLOCK_THREAD (current_thread);
3212                 }
3213
3214                 /*since we're killing the thread, unset the current domain.*/
3215                 mono_domain_unset ();
3216
3217                 /* Wake up other threads potentially waiting for us */
3218                 mono_thread_info_exit ();
3219         } else {
3220                 shutting_down = TRUE;
3221
3222                 /* Not really a background state change, but this will
3223                  * interrupt the main thread if it is waiting for all
3224                  * the other threads.
3225                  */
3226                 SetEvent (background_change_event);
3227
3228                 mono_threads_unlock ();
3229         }
3230 }
3231
3232 void mono_thread_manage (void)
3233 {
3234         struct wait_data wait_data;
3235         struct wait_data *wait = &wait_data;
3236
3237         memset (wait, 0, sizeof (struct wait_data));
3238         /* join each thread that's still running */
3239         THREAD_DEBUG (g_message ("%s: Joining each running thread...", __func__));
3240
3241         mono_threads_lock ();
3242         if(threads==NULL) {
3243                 THREAD_DEBUG (g_message("%s: No threads", __func__));
3244                 mono_threads_unlock ();
3245                 return;
3246         }
3247         mono_threads_unlock ();
3248
3249         do {
3250                 mono_threads_lock ();
3251                 if (shutting_down) {
3252                         /* somebody else is shutting down */
3253                         mono_threads_unlock ();
3254                         break;
3255                 }
3256                 THREAD_DEBUG (g_message ("%s: There are %d threads to join", __func__, mono_g_hash_table_size (threads));
3257                         mono_g_hash_table_foreach (threads, print_tids, NULL));
3258
3259                 ResetEvent (background_change_event);
3260                 wait->num=0;
3261                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3262                 memset (wait->threads, 0, MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3263                 mono_g_hash_table_foreach (threads, build_wait_tids, wait);
3264                 mono_threads_unlock ();
3265                 if(wait->num>0) {
3266                         /* Something to wait for */
3267                         wait_for_tids_or_state_change (wait, INFINITE);
3268                 }
3269                 THREAD_DEBUG (g_message ("%s: I have %d threads after waiting.", __func__, wait->num));
3270         } while(wait->num>0);
3271
3272         /* Mono is shutting down, so just wait for the end */
3273         if (!mono_runtime_try_shutdown ()) {
3274                 /*FIXME mono_thread_suspend probably should call mono_thread_execute_interruption when self interrupting. */
3275                 mono_thread_suspend (mono_thread_internal_current ());
3276                 mono_thread_execute_interruption ();
3277         }
3278
3279         /*
3280          * Remove everything but the finalizer thread and self.
3281          * Also abort all the background threads
3282          * */
3283         do {
3284                 mono_threads_lock ();
3285
3286                 wait->num = 0;
3287                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3288                 memset (wait->threads, 0, MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3289                 mono_g_hash_table_foreach_remove (threads, remove_and_abort_threads, wait);
3290
3291                 mono_threads_unlock ();
3292
3293                 THREAD_DEBUG (g_message ("%s: wait->num is now %d", __func__, wait->num));
3294                 if(wait->num>0) {
3295                         /* Something to wait for */
3296                         wait_for_tids (wait, INFINITE);
3297                 }
3298         } while (wait->num > 0);
3299
3300         /*
3301          * give the subthreads a chance to really quit (this is mainly needed
3302          * to get correct user and system times from getrusage/wait/time(1)).
3303          * This could be removed if we avoid pthread_detach() and use pthread_join().
3304          */
3305         mono_thread_info_yield ();
3306 }
3307
3308 static void
3309 collect_threads_for_suspend (gpointer key, gpointer value, gpointer user_data)
3310 {
3311         MonoInternalThread *thread = (MonoInternalThread*)value;
3312         struct wait_data *wait = (struct wait_data*)user_data;
3313         HANDLE handle;
3314
3315         /*
3316          * We try to exclude threads early, to avoid running into the MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS
3317          * limitation.
3318          * This needs no locking.
3319          */
3320         if ((thread->state & ThreadState_Suspended) != 0 ||
3321                 (thread->state & ThreadState_Stopped) != 0)
3322                 return;
3323
3324         if (wait->num<MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS) {
3325                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3326                 if (handle == NULL)
3327                         return;
3328
3329                 wait->handles [wait->num] = handle;
3330                 wait->threads [wait->num] = thread;
3331                 wait->num++;
3332         }
3333 }
3334
3335 /*
3336  * mono_thread_suspend_all_other_threads:
3337  *
3338  *  Suspend all managed threads except the finalizer thread and this thread. It is
3339  * not possible to resume them later.
3340  */
3341 void mono_thread_suspend_all_other_threads (void)
3342 {
3343         struct wait_data wait_data;
3344         struct wait_data *wait = &wait_data;
3345         int i;
3346         MonoNativeThreadId self = mono_native_thread_id_get ();
3347         guint32 eventidx = 0;
3348         gboolean starting, finished;
3349
3350         memset (wait, 0, sizeof (struct wait_data));
3351         /*
3352          * The other threads could be in an arbitrary state at this point, i.e.
3353          * they could be starting up, shutting down etc. This means that there could be
3354          * threads which are not even in the threads hash table yet.
3355          */
3356
3357         /*
3358          * First we set a barrier which will be checked by all threads before they
3359          * are added to the threads hash table, and they will exit if the flag is set.
3360          * This ensures that no threads could be added to the hash later.
3361          * We will use shutting_down as the barrier for now.
3362          */
3363         g_assert (shutting_down);
3364
3365         /*
3366          * We make multiple calls to WaitForMultipleObjects since:
3367          * - we can only wait for MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS threads
3368          * - some threads could exit without becoming suspended
3369          */
3370         finished = FALSE;
3371         while (!finished) {
3372                 /*
3373                  * Make a copy of the hashtable since we can't do anything with
3374                  * threads while threads_mutex is held.
3375                  */
3376                 wait->num = 0;
3377                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3378                 memset (wait->threads, 0, MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3379                 mono_threads_lock ();
3380                 mono_g_hash_table_foreach (threads, collect_threads_for_suspend, wait);
3381                 mono_threads_unlock ();
3382
3383                 eventidx = 0;
3384                 /* Get the suspended events that we'll be waiting for */
3385                 for (i = 0; i < wait->num; ++i) {
3386                         MonoInternalThread *thread = wait->threads [i];
3387
3388                         if (mono_native_thread_id_equals (thread_get_tid (thread), self)
3389                              || mono_gc_is_finalizer_internal_thread (thread)
3390                              || (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE)
3391                         ) {
3392                                 //CloseHandle (wait->handles [i]);
3393                                 wait->threads [i] = NULL; /* ignore this thread in next loop */
3394                                 continue;
3395                         }
3396
3397                         LOCK_THREAD (thread);
3398
3399                         if ((thread->state & ThreadState_Suspended) != 0 ||
3400                                 (thread->state & ThreadState_StopRequested) != 0 ||
3401                                 (thread->state & ThreadState_Stopped) != 0) {
3402                                 UNLOCK_THREAD (thread);
3403                                 CloseHandle (wait->handles [i]);
3404                                 wait->threads [i] = NULL; /* ignore this thread in next loop */
3405                                 continue;
3406                         }
3407
3408                         ++eventidx;
3409
3410                         /* Convert abort requests into suspend requests */
3411                         if ((thread->state & ThreadState_AbortRequested) != 0)
3412                                 thread->state &= ~ThreadState_AbortRequested;
3413
3414                         thread->state |= ThreadState_SuspendRequested;
3415
3416                         /* Signal the thread to suspend + calls UNLOCK_THREAD (thread) */
3417                         async_suspend_internal (thread, TRUE);
3418                 }
3419                 if (eventidx <= 0) {
3420                         /*
3421                          * If there are threads which are starting up, we wait until they
3422                          * are suspended when they try to register in the threads hash.
3423                          * This is guaranteed to finish, since the threads which can create new
3424                          * threads get suspended after a while.
3425                          * FIXME: The finalizer thread can still create new threads.
3426                          */
3427                         mono_threads_lock ();
3428                         if (threads_starting_up)
3429                                 starting = mono_g_hash_table_size (threads_starting_up) > 0;
3430                         else
3431                                 starting = FALSE;
3432                         mono_threads_unlock ();
3433                         if (starting)
3434                                 mono_thread_info_sleep (100, NULL);
3435                         else
3436                                 finished = TRUE;
3437                 }
3438         }
3439 }
3440
3441 typedef struct {
3442         MonoInternalThread *thread;
3443         MonoStackFrameInfo *frames;
3444         int nframes, max_frames;
3445         int nthreads, max_threads;
3446         MonoInternalThread **threads;
3447 } ThreadDumpUserData;
3448
3449 static gboolean thread_dump_requested;
3450
3451 /* This needs to be async safe */
3452 static gboolean
3453 collect_frame (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
3454 {
3455         ThreadDumpUserData *ud = (ThreadDumpUserData *)data;
3456
3457         if (ud->nframes < ud->max_frames) {
3458                 memcpy (&ud->frames [ud->nframes], frame, sizeof (MonoStackFrameInfo));
3459                 ud->nframes ++;
3460         }
3461
3462         return FALSE;
3463 }
3464
3465 /* This needs to be async safe */
3466 static SuspendThreadResult
3467 get_thread_dump (MonoThreadInfo *info, gpointer ud)
3468 {
3469         ThreadDumpUserData *user_data = (ThreadDumpUserData *)ud;
3470         MonoInternalThread *thread = user_data->thread;
3471
3472 #if 0
3473 /* This no longer works with remote unwinding */
3474         g_string_append_printf (text, " tid=0x%p this=0x%p ", (gpointer)(gsize)thread->tid, thread);
3475         mono_thread_info_describe (info, text);
3476         g_string_append (text, "\n");
3477 #endif
3478
3479         if (thread == mono_thread_internal_current ())
3480                 mono_get_eh_callbacks ()->mono_walk_stack_with_ctx (collect_frame, NULL, MONO_UNWIND_SIGNAL_SAFE, ud);
3481         else
3482                 mono_get_eh_callbacks ()->mono_walk_stack_with_state (collect_frame, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, ud);
3483
3484         return MonoResumeThread;
3485 }
3486
3487 typedef struct {
3488         int nthreads, max_threads;
3489         MonoInternalThread **threads;
3490 } CollectThreadsUserData;
3491
3492 static void
3493 collect_thread (gpointer key, gpointer value, gpointer user)
3494 {
3495         CollectThreadsUserData *ud = (CollectThreadsUserData *)user;
3496         MonoInternalThread *thread = (MonoInternalThread *)value;
3497
3498         if (ud->nthreads < ud->max_threads)
3499                 ud->threads [ud->nthreads ++] = thread;
3500 }
3501
3502 /*
3503  * Collect running threads into the THREADS array.
3504  * THREADS should be an array allocated on the stack.
3505  */
3506 static int
3507 collect_threads (MonoInternalThread **thread_array, int max_threads)
3508 {
3509         CollectThreadsUserData ud;
3510
3511         memset (&ud, 0, sizeof (ud));
3512         /* This array contains refs, but its on the stack, so its ok */
3513         ud.threads = thread_array;
3514         ud.max_threads = max_threads;
3515
3516         mono_threads_lock ();
3517         mono_g_hash_table_foreach (threads, collect_thread, &ud);
3518         mono_threads_unlock ();
3519
3520         return ud.nthreads;
3521 }
3522
3523 static void
3524 dump_thread (MonoInternalThread *thread, ThreadDumpUserData *ud)
3525 {
3526         GString* text = g_string_new (0);
3527         char *name;
3528         GError *error = NULL;
3529         int i;
3530
3531         ud->thread = thread;
3532         ud->nframes = 0;
3533
3534         /* Collect frames for the thread */
3535         if (thread == mono_thread_internal_current ()) {
3536                 get_thread_dump (mono_thread_info_current (), ud);
3537         } else {
3538                 mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, ud);
3539         }
3540
3541         /*
3542          * Do all the non async-safe work outside of get_thread_dump.
3543          */
3544         if (thread->name) {
3545                 name = g_utf16_to_utf8 (thread->name, thread->name_len, NULL, NULL, &error);
3546                 g_assert (!error);
3547                 g_string_append_printf (text, "\n\"%s\"", name);
3548                 g_free (name);
3549         }
3550         else if (thread->threadpool_thread) {
3551                 g_string_append (text, "\n\"<threadpool thread>\"");
3552         } else {
3553                 g_string_append (text, "\n\"<unnamed thread>\"");
3554         }
3555
3556         for (i = 0; i < ud->nframes; ++i) {
3557                 MonoStackFrameInfo *frame = &ud->frames [i];
3558                 MonoMethod *method = NULL;
3559
3560                 if (frame->type == FRAME_TYPE_MANAGED)
3561                         method = mono_jit_info_get_method (frame->ji);
3562
3563                 if (method) {
3564                         gchar *location = mono_debug_print_stack_frame (method, frame->native_offset, frame->domain);
3565                         g_string_append_printf (text, "  %s\n", location);
3566                         g_free (location);
3567                 } else {
3568                         g_string_append_printf (text, "  at <unknown> <0x%05x>\n", frame->native_offset);
3569                 }
3570         }
3571
3572         fprintf (stdout, "%s", text->str);
3573
3574 #if PLATFORM_WIN32 && TARGET_WIN32 && _DEBUG
3575         OutputDebugStringA(text->str);
3576 #endif
3577
3578         g_string_free (text, TRUE);
3579         fflush (stdout);
3580 }
3581
3582 void
3583 mono_threads_perform_thread_dump (void)
3584 {
3585         ThreadDumpUserData ud;
3586         MonoInternalThread *thread_array [128];
3587         int tindex, nthreads;
3588
3589         if (!thread_dump_requested)
3590                 return;
3591
3592         printf ("Full thread dump:\n");
3593
3594         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3595         nthreads = collect_threads (thread_array, 128);
3596
3597         memset (&ud, 0, sizeof (ud));
3598         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3599         ud.max_frames = 256;
3600
3601         for (tindex = 0; tindex < nthreads; ++tindex)
3602                 dump_thread (thread_array [tindex], &ud);
3603
3604         g_free (ud.frames);
3605
3606         thread_dump_requested = FALSE;
3607 }
3608
3609 /* Obtain the thread dump of all threads */
3610 static gboolean
3611 mono_threads_get_thread_dump (MonoArray **out_threads, MonoArray **out_stack_frames, MonoError *error)
3612 {
3613
3614         ThreadDumpUserData ud;
3615         MonoInternalThread *thread_array [128];
3616         MonoDomain *domain = mono_domain_get ();
3617         MonoDebugSourceLocation *location;
3618         int tindex, nthreads;
3619
3620         mono_error_init (error);
3621
3622         *out_threads = NULL;
3623         *out_stack_frames = NULL;
3624
3625         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3626         nthreads = collect_threads (thread_array, 128);
3627
3628         memset (&ud, 0, sizeof (ud));
3629         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3630         ud.max_frames = 256;
3631
3632         *out_threads = mono_array_new_checked (domain, mono_defaults.thread_class, nthreads, error);
3633         if (!is_ok (error))
3634                 goto leave;
3635         *out_stack_frames = mono_array_new_checked (domain, mono_defaults.array_class, nthreads, error);
3636         if (!is_ok (error))
3637                 goto leave;
3638
3639         for (tindex = 0; tindex < nthreads; ++tindex) {
3640                 MonoInternalThread *thread = thread_array [tindex];
3641                 MonoArray *thread_frames;
3642                 int i;
3643
3644                 ud.thread = thread;
3645                 ud.nframes = 0;
3646
3647                 /* Collect frames for the thread */
3648                 if (thread == mono_thread_internal_current ()) {
3649                         get_thread_dump (mono_thread_info_current (), &ud);
3650                 } else {
3651                         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, &ud);
3652                 }
3653
3654                 mono_array_setref_fast (*out_threads, tindex, mono_thread_current_for_thread (thread));
3655
3656                 thread_frames = mono_array_new_checked (domain, mono_defaults.stack_frame_class, ud.nframes, error);
3657                 if (!is_ok (error))
3658                         goto leave;
3659                 mono_array_setref_fast (*out_stack_frames, tindex, thread_frames);
3660
3661                 for (i = 0; i < ud.nframes; ++i) {
3662                         MonoStackFrameInfo *frame = &ud.frames [i];
3663                         MonoMethod *method = NULL;
3664                         MonoStackFrame *sf = (MonoStackFrame *)mono_object_new_checked (domain, mono_defaults.stack_frame_class, error);
3665                         if (!is_ok (error))
3666                                 goto leave;
3667
3668                         sf->native_offset = frame->native_offset;
3669
3670                         if (frame->type == FRAME_TYPE_MANAGED)
3671                                 method = mono_jit_info_get_method (frame->ji);
3672
3673                         if (method) {
3674                                 sf->method_address = (gsize) frame->ji->code_start;
3675
3676                                 MonoReflectionMethod *rm = mono_method_get_object_checked (domain, method, NULL, error);
3677                                 if (!is_ok (error))
3678                                         goto leave;
3679                                 MONO_OBJECT_SETREF (sf, method, rm);
3680
3681                                 location = mono_debug_lookup_source_location (method, frame->native_offset, domain);
3682                                 if (location) {
3683                                         sf->il_offset = location->il_offset;
3684
3685                                         if (location && location->source_file) {
3686                                                 MONO_OBJECT_SETREF (sf, filename, mono_string_new (domain, location->source_file));
3687                                                 sf->line = location->row;
3688                                                 sf->column = location->column;
3689                                         }
3690                                         mono_debug_free_source_location (location);
3691                                 } else {
3692                                         sf->il_offset = -1;
3693                                 }
3694                         }
3695                         mono_array_setref (thread_frames, i, sf);
3696                 }
3697         }
3698
3699 leave:
3700         g_free (ud.frames);
3701         return is_ok (error);
3702 }
3703
3704 /**
3705  * mono_threads_request_thread_dump:
3706  *
3707  *   Ask all threads except the current to print their stacktrace to stdout.
3708  */
3709 void
3710 mono_threads_request_thread_dump (void)
3711 {
3712         /*The new thread dump code runs out of the finalizer thread. */
3713         thread_dump_requested = TRUE;
3714         mono_gc_finalize_notify ();
3715 }
3716
3717 struct ref_stack {
3718         gpointer *refs;
3719         gint allocated; /* +1 so that refs [allocated] == NULL */
3720         gint bottom;
3721 };
3722
3723 typedef struct ref_stack RefStack;
3724
3725 static RefStack *
3726 ref_stack_new (gint initial_size)
3727 {
3728         RefStack *rs;
3729
3730         initial_size = MAX (initial_size, 16) + 1;
3731         rs = g_new0 (RefStack, 1);
3732         rs->refs = g_new0 (gpointer, initial_size);
3733         rs->allocated = initial_size;
3734         return rs;
3735 }
3736
3737 static void
3738 ref_stack_destroy (gpointer ptr)
3739 {
3740         RefStack *rs = (RefStack *)ptr;
3741
3742         if (rs != NULL) {
3743                 g_free (rs->refs);
3744                 g_free (rs);
3745         }
3746 }
3747
3748 static void
3749 ref_stack_push (RefStack *rs, gpointer ptr)
3750 {
3751         g_assert (rs != NULL);
3752
3753         if (rs->bottom >= rs->allocated) {
3754                 rs->refs = (void **)g_realloc (rs->refs, rs->allocated * 2 * sizeof (gpointer) + 1);
3755                 rs->allocated <<= 1;
3756                 rs->refs [rs->allocated] = NULL;
3757         }
3758         rs->refs [rs->bottom++] = ptr;
3759 }
3760
3761 static void
3762 ref_stack_pop (RefStack *rs)
3763 {
3764         if (rs == NULL || rs->bottom == 0)
3765                 return;
3766
3767         rs->bottom--;
3768         rs->refs [rs->bottom] = NULL;
3769 }
3770
3771 static gboolean
3772 ref_stack_find (RefStack *rs, gpointer ptr)
3773 {
3774         gpointer *refs;
3775
3776         if (rs == NULL)
3777                 return FALSE;
3778
3779         for (refs = rs->refs; refs && *refs; refs++) {
3780                 if (*refs == ptr)
3781                         return TRUE;
3782         }
3783         return FALSE;
3784 }
3785
3786 /*
3787  * mono_thread_push_appdomain_ref:
3788  *
3789  *   Register that the current thread may have references to objects in domain
3790  * @domain on its stack. Each call to this function should be paired with a
3791  * call to pop_appdomain_ref.
3792  */
3793 void
3794 mono_thread_push_appdomain_ref (MonoDomain *domain)
3795 {
3796         MonoInternalThread *thread = mono_thread_internal_current ();
3797
3798         if (thread) {
3799                 /* printf ("PUSH REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, domain->friendly_name); */
3800                 SPIN_LOCK (thread->lock_thread_id);
3801                 if (thread->appdomain_refs == NULL)
3802                         thread->appdomain_refs = ref_stack_new (16);
3803                 ref_stack_push ((RefStack *)thread->appdomain_refs, domain);
3804                 SPIN_UNLOCK (thread->lock_thread_id);
3805         }
3806 }
3807
3808 void
3809 mono_thread_pop_appdomain_ref (void)
3810 {
3811         MonoInternalThread *thread = mono_thread_internal_current ();
3812
3813         if (thread) {
3814                 /* printf ("POP REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, ((MonoDomain*)(thread->appdomain_refs->data))->friendly_name); */
3815                 SPIN_LOCK (thread->lock_thread_id);
3816                 ref_stack_pop ((RefStack *)thread->appdomain_refs);
3817                 SPIN_UNLOCK (thread->lock_thread_id);
3818         }
3819 }
3820
3821 gboolean
3822 mono_thread_internal_has_appdomain_ref (MonoInternalThread *thread, MonoDomain *domain)
3823 {
3824         gboolean res;
3825         SPIN_LOCK (thread->lock_thread_id);
3826         res = ref_stack_find ((RefStack *)thread->appdomain_refs, domain);
3827         SPIN_UNLOCK (thread->lock_thread_id);
3828         return res;
3829 }
3830
3831 gboolean
3832 mono_thread_has_appdomain_ref (MonoThread *thread, MonoDomain *domain)
3833 {
3834         return mono_thread_internal_has_appdomain_ref (thread->internal_thread, domain);
3835 }
3836
3837 typedef struct abort_appdomain_data {
3838         struct wait_data wait;
3839         MonoDomain *domain;
3840 } abort_appdomain_data;
3841
3842 static void
3843 collect_appdomain_thread (gpointer key, gpointer value, gpointer user_data)
3844 {
3845         MonoInternalThread *thread = (MonoInternalThread*)value;
3846         abort_appdomain_data *data = (abort_appdomain_data*)user_data;
3847         MonoDomain *domain = data->domain;
3848
3849         if (mono_thread_internal_has_appdomain_ref (thread, domain)) {
3850                 /* printf ("ABORTING THREAD %p BECAUSE IT REFERENCES DOMAIN %s.\n", thread->tid, domain->friendly_name); */
3851
3852                 if(data->wait.num<MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS) {
3853                         HANDLE handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3854                         if (handle == NULL)
3855                                 return;
3856                         data->wait.handles [data->wait.num] = handle;
3857                         data->wait.threads [data->wait.num] = thread;
3858                         data->wait.num++;
3859                 } else {
3860                         /* Just ignore the rest, we can't do anything with
3861                          * them yet
3862                          */
3863                 }
3864         }
3865 }
3866
3867 /*
3868  * mono_threads_abort_appdomain_threads:
3869  *
3870  *   Abort threads which has references to the given appdomain.
3871  */
3872 gboolean
3873 mono_threads_abort_appdomain_threads (MonoDomain *domain, int timeout)
3874 {
3875 #ifdef __native_client__
3876         return FALSE;
3877 #endif
3878
3879         abort_appdomain_data user_data;
3880         gint64 start_time;
3881         int orig_timeout = timeout;
3882         int i;
3883
3884         THREAD_DEBUG (g_message ("%s: starting abort", __func__));
3885
3886         start_time = mono_msec_ticks ();
3887         do {
3888                 mono_threads_lock ();
3889
3890                 user_data.domain = domain;
3891                 user_data.wait.num = 0;
3892                 /* This shouldn't take any locks */
3893                 mono_g_hash_table_foreach (threads, collect_appdomain_thread, &user_data);
3894                 mono_threads_unlock ();
3895
3896                 if (user_data.wait.num > 0) {
3897                         /* Abort the threads outside the threads lock */
3898                         for (i = 0; i < user_data.wait.num; ++i)
3899                                 mono_thread_internal_abort (user_data.wait.threads [i]);
3900
3901                         /*
3902                          * We should wait for the threads either to abort, or to leave the
3903                          * domain. We can't do the latter, so we wait with a timeout.
3904                          */
3905                         wait_for_tids (&user_data.wait, 100);
3906                 }
3907
3908                 /* Update remaining time */
3909                 timeout -= mono_msec_ticks () - start_time;
3910                 start_time = mono_msec_ticks ();
3911
3912                 if (orig_timeout != -1 && timeout < 0)
3913                         return FALSE;
3914         }
3915         while (user_data.wait.num > 0);
3916
3917         THREAD_DEBUG (g_message ("%s: abort done", __func__));
3918
3919         return TRUE;
3920 }
3921
3922 static void
3923 clear_cached_culture (gpointer key, gpointer value, gpointer user_data)
3924 {
3925         MonoInternalThread *thread = (MonoInternalThread*)value;
3926         MonoDomain *domain = (MonoDomain*)user_data;
3927         int i;
3928
3929         /* No locking needed here */
3930         /* FIXME: why no locking? writes to the cache are protected with synch_cs above */
3931
3932         if (thread->cached_culture_info) {
3933                 for (i = 0; i < NUM_CACHED_CULTURES * 2; ++i) {
3934                         MonoObject *obj = mono_array_get (thread->cached_culture_info, MonoObject*, i);
3935                         if (obj && obj->vtable->domain == domain)
3936                                 mono_array_set (thread->cached_culture_info, MonoObject*, i, NULL);
3937                 }
3938         }
3939 }
3940
3941 /*
3942  * mono_threads_clear_cached_culture:
3943  *
3944  *   Clear the cached_current_culture from all threads if it is in the
3945  * given appdomain.
3946  */
3947 void
3948 mono_threads_clear_cached_culture (MonoDomain *domain)
3949 {
3950         mono_threads_lock ();
3951         mono_g_hash_table_foreach (threads, clear_cached_culture, domain);
3952         mono_threads_unlock ();
3953 }
3954
3955 /*
3956  * mono_thread_get_undeniable_exception:
3957  *
3958  *   Return an exception which needs to be raised when leaving a catch clause.
3959  * This is used for undeniable exception propagation.
3960  */
3961 MonoException*
3962 mono_thread_get_undeniable_exception (void)
3963 {
3964         MonoInternalThread *thread = mono_thread_internal_current ();
3965
3966         if (thread && thread->abort_exc && !is_running_protected_wrapper ()) {
3967                 /*
3968                  * FIXME: Clear the abort exception and return an AppDomainUnloaded
3969                  * exception if the thread no longer references a dying appdomain.
3970                  */
3971                 thread->abort_exc->trace_ips = NULL;
3972                 thread->abort_exc->stack_trace = NULL;
3973                 return thread->abort_exc;
3974         }
3975
3976         return NULL;
3977 }
3978
3979 #if MONO_SMALL_CONFIG
3980 #define NUM_STATIC_DATA_IDX 4
3981 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3982         64, 256, 1024, 4096
3983 };
3984 #else
3985 #define NUM_STATIC_DATA_IDX 8
3986 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3987         1024, 4096, 16384, 65536, 262144, 1048576, 4194304, 16777216
3988 };
3989 #endif
3990
3991 static MonoBitSet *thread_reference_bitmaps [NUM_STATIC_DATA_IDX];
3992 static MonoBitSet *context_reference_bitmaps [NUM_STATIC_DATA_IDX];
3993
3994 static void
3995 mark_slots (void *addr, MonoBitSet **bitmaps, MonoGCMarkFunc mark_func, void *gc_data)
3996 {
3997         gpointer *static_data = (gpointer *)addr;
3998
3999         for (int i = 0; i < NUM_STATIC_DATA_IDX; ++i) {
4000                 void **ptr = (void **)static_data [i];
4001
4002                 if (!ptr)
4003                         continue;
4004
4005                 MONO_BITSET_FOREACH (bitmaps [i], idx, {
4006                         void **p = ptr + idx;
4007
4008                         if (*p)
4009                                 mark_func ((MonoObject**)p, gc_data);
4010                 });
4011         }
4012 }
4013
4014 static void
4015 mark_tls_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
4016 {
4017         mark_slots (addr, thread_reference_bitmaps, mark_func, gc_data);
4018 }
4019
4020 static void
4021 mark_ctx_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
4022 {
4023         mark_slots (addr, context_reference_bitmaps, mark_func, gc_data);
4024 }
4025
4026 /*
4027  *  mono_alloc_static_data
4028  *
4029  *   Allocate memory blocks for storing threads or context static data
4030  */
4031 static void
4032 mono_alloc_static_data (gpointer **static_data_ptr, guint32 offset, gboolean threadlocal)
4033 {
4034         guint idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4035         int i;
4036
4037         gpointer* static_data = *static_data_ptr;
4038         if (!static_data) {
4039                 static MonoGCDescriptor tls_desc = MONO_GC_DESCRIPTOR_NULL;
4040                 static MonoGCDescriptor ctx_desc = MONO_GC_DESCRIPTOR_NULL;
4041
4042                 if (mono_gc_user_markers_supported ()) {
4043                         if (tls_desc == MONO_GC_DESCRIPTOR_NULL)
4044                                 tls_desc = mono_gc_make_root_descr_user (mark_tls_slots);
4045
4046                         if (ctx_desc == MONO_GC_DESCRIPTOR_NULL)
4047                                 ctx_desc = mono_gc_make_root_descr_user (mark_ctx_slots);
4048                 }
4049
4050                 static_data = (void **)mono_gc_alloc_fixed (static_data_size [0], threadlocal ? tls_desc : ctx_desc,
4051                         threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
4052                         threadlocal ? "managed thread-static variables" : "managed context-static variables");
4053                 *static_data_ptr = static_data;
4054                 static_data [0] = static_data;
4055         }
4056
4057         for (i = 1; i <= idx; ++i) {
4058                 if (static_data [i])
4059                         continue;
4060
4061                 if (mono_gc_user_markers_supported ())
4062                         static_data [i] = g_malloc0 (static_data_size [i]);
4063                 else
4064                         static_data [i] = mono_gc_alloc_fixed (static_data_size [i], MONO_GC_DESCRIPTOR_NULL,
4065                                 threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
4066                                 threadlocal ? "managed thread-static variables" : "managed context-static variables");
4067         }
4068 }
4069
4070 static void
4071 mono_free_static_data (gpointer* static_data)
4072 {
4073         int i;
4074         for (i = 1; i < NUM_STATIC_DATA_IDX; ++i) {
4075                 gpointer p = static_data [i];
4076                 if (!p)
4077                         continue;
4078                 /*
4079                  * At this point, the static data pointer array is still registered with the
4080                  * GC, so must ensure that mark_tls_slots() will not encounter any invalid
4081                  * data.  Freeing the individual arrays without first nulling their slots
4082                  * would make it possible for mark_tls/ctx_slots() to encounter a pointer to
4083                  * such an already freed array.  See bug #13813.
4084                  */
4085                 static_data [i] = NULL;
4086                 mono_memory_write_barrier ();
4087                 if (mono_gc_user_markers_supported ())
4088                         g_free (p);
4089                 else
4090                         mono_gc_free_fixed (p);
4091         }
4092         mono_gc_free_fixed (static_data);
4093 }
4094
4095 /*
4096  *  mono_init_static_data_info
4097  *
4098  *   Initializes static data counters
4099  */
4100 static void mono_init_static_data_info (StaticDataInfo *static_data)
4101 {
4102         static_data->idx = 0;
4103         static_data->offset = 0;
4104         static_data->freelist = NULL;
4105 }
4106
4107 /*
4108  *  mono_alloc_static_data_slot
4109  *
4110  *   Generates an offset for static data. static_data contains the counters
4111  *  used to generate it.
4112  */
4113 static guint32
4114 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align)
4115 {
4116         if (!static_data->idx && !static_data->offset) {
4117                 /*
4118                  * we use the first chunk of the first allocation also as
4119                  * an array for the rest of the data
4120                  */
4121                 static_data->offset = sizeof (gpointer) * NUM_STATIC_DATA_IDX;
4122         }
4123         static_data->offset += align - 1;
4124         static_data->offset &= ~(align - 1);
4125         if (static_data->offset + size >= static_data_size [static_data->idx]) {
4126                 static_data->idx ++;
4127                 g_assert (size <= static_data_size [static_data->idx]);
4128                 g_assert (static_data->idx < NUM_STATIC_DATA_IDX);
4129                 static_data->offset = 0;
4130         }
4131         guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (static_data->idx, static_data->offset, 0);
4132         static_data->offset += size;
4133         return offset;
4134 }
4135
4136 /*
4137  * ensure thread static fields already allocated are valid for thread
4138  * This function is called when a thread is created or on thread attach.
4139  */
4140 static void
4141 thread_adjust_static_data (MonoInternalThread *thread)
4142 {
4143         mono_threads_lock ();
4144         if (thread_static_info.offset || thread_static_info.idx > 0) {
4145                 /* get the current allocated size */
4146                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (thread_static_info.idx, thread_static_info.offset, 0);
4147                 mono_alloc_static_data (&thread->static_data, offset, TRUE);
4148         }
4149         mono_threads_unlock ();
4150 }
4151
4152 /*
4153  * LOCKING: requires that threads_mutex is held
4154  */
4155 static void
4156 context_adjust_static_data (MonoAppContext *ctx)
4157 {
4158         if (context_static_info.offset || context_static_info.idx > 0) {
4159                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (context_static_info.idx, context_static_info.offset, 0);
4160                 mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4161                 ctx->data->static_data = ctx->static_data;
4162         }
4163 }
4164
4165 /*
4166  * LOCKING: requires that threads_mutex is held
4167  */
4168 static void
4169 alloc_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4170 {
4171         MonoInternalThread *thread = (MonoInternalThread *)value;
4172         guint32 offset = GPOINTER_TO_UINT (user);
4173
4174         mono_alloc_static_data (&(thread->static_data), offset, TRUE);
4175 }
4176
4177 /*
4178  * LOCKING: requires that threads_mutex is held
4179  */
4180 static void
4181 alloc_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4182 {
4183         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4184
4185         if (!ctx)
4186                 return;
4187
4188         guint32 offset = GPOINTER_TO_UINT (user);
4189         mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4190         ctx->data->static_data = ctx->static_data;
4191 }
4192
4193 static StaticDataFreeList*
4194 search_slot_in_freelist (StaticDataInfo *static_data, guint32 size, guint32 align)
4195 {
4196         StaticDataFreeList* prev = NULL;
4197         StaticDataFreeList* tmp = static_data->freelist;
4198         while (tmp) {
4199                 if (tmp->size == size) {
4200                         if (prev)
4201                                 prev->next = tmp->next;
4202                         else
4203                                 static_data->freelist = tmp->next;
4204                         return tmp;
4205                 }
4206                 prev = tmp;
4207                 tmp = tmp->next;
4208         }
4209         return NULL;
4210 }
4211
4212 #if SIZEOF_VOID_P == 4
4213 #define ONE_P 1
4214 #else
4215 #define ONE_P 1ll
4216 #endif
4217
4218 static void
4219 update_reference_bitmap (MonoBitSet **sets, guint32 offset, uintptr_t *bitmap, int numbits)
4220 {
4221         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4222         if (!sets [idx])
4223                 sets [idx] = mono_bitset_new (static_data_size [idx] / sizeof (uintptr_t), 0);
4224         MonoBitSet *rb = sets [idx];
4225         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4226         offset /= sizeof (uintptr_t);
4227         /* offset is now the bitmap offset */
4228         for (int i = 0; i < numbits; ++i) {
4229                 if (bitmap [i / sizeof (uintptr_t)] & (ONE_P << (i & (sizeof (uintptr_t) * 8 -1))))
4230                         mono_bitset_set_fast (rb, offset + i);
4231         }
4232 }
4233
4234 static void
4235 clear_reference_bitmap (MonoBitSet **sets, guint32 offset, guint32 size)
4236 {
4237         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4238         MonoBitSet *rb = sets [idx];
4239         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4240         offset /= sizeof (uintptr_t);
4241         /* offset is now the bitmap offset */
4242         for (int i = 0; i < size / sizeof (uintptr_t); i++)
4243                 mono_bitset_clear_fast (rb, offset + i);
4244 }
4245
4246 guint32
4247 mono_alloc_special_static_data (guint32 static_type, guint32 size, guint32 align, uintptr_t *bitmap, int numbits)
4248 {
4249         g_assert (static_type == SPECIAL_STATIC_THREAD || static_type == SPECIAL_STATIC_CONTEXT);
4250
4251         StaticDataInfo *info;
4252         MonoBitSet **sets;
4253
4254         if (static_type == SPECIAL_STATIC_THREAD) {
4255                 info = &thread_static_info;
4256                 sets = thread_reference_bitmaps;
4257         } else {
4258                 info = &context_static_info;
4259                 sets = context_reference_bitmaps;
4260         }
4261
4262         mono_threads_lock ();
4263
4264         StaticDataFreeList *item = search_slot_in_freelist (info, size, align);
4265         guint32 offset;
4266
4267         if (item) {
4268                 offset = item->offset;
4269                 g_free (item);
4270         } else {
4271                 offset = mono_alloc_static_data_slot (info, size, align);
4272         }
4273
4274         update_reference_bitmap (sets, offset, bitmap, numbits);
4275
4276         if (static_type == SPECIAL_STATIC_THREAD) {
4277                 /* This can be called during startup */
4278                 if (threads != NULL)
4279                         mono_g_hash_table_foreach (threads, alloc_thread_static_data_helper, GUINT_TO_POINTER (offset));
4280         } else {
4281                 if (contexts != NULL)
4282                         g_hash_table_foreach (contexts, alloc_context_static_data_helper, GUINT_TO_POINTER (offset));
4283
4284                 ACCESS_SPECIAL_STATIC_OFFSET (offset, type) = SPECIAL_STATIC_OFFSET_TYPE_CONTEXT;
4285         }
4286
4287         mono_threads_unlock ();
4288
4289         return offset;
4290 }
4291
4292 gpointer
4293 mono_get_special_static_data_for_thread (MonoInternalThread *thread, guint32 offset)
4294 {
4295         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4296
4297         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4298                 return get_thread_static_data (thread, offset);
4299         } else {
4300                 return get_context_static_data (thread->current_appcontext, offset);
4301         }
4302 }
4303
4304 gpointer
4305 mono_get_special_static_data (guint32 offset)
4306 {
4307         return mono_get_special_static_data_for_thread (mono_thread_internal_current (), offset);
4308 }
4309
4310 typedef struct {
4311         guint32 offset;
4312         guint32 size;
4313 } OffsetSize;
4314
4315 /*
4316  * LOCKING: requires that threads_mutex is held
4317  */
4318 static void
4319 free_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4320 {
4321         MonoInternalThread *thread = (MonoInternalThread *)value;
4322         OffsetSize *data = (OffsetSize *)user;
4323         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4324         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4325         char *ptr;
4326
4327         if (!thread->static_data || !thread->static_data [idx])
4328                 return;
4329         ptr = ((char*) thread->static_data [idx]) + off;
4330         mono_gc_bzero_atomic (ptr, data->size);
4331 }
4332
4333 /*
4334  * LOCKING: requires that threads_mutex is held
4335  */
4336 static void
4337 free_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4338 {
4339         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4340
4341         if (!ctx)
4342                 return;
4343
4344         OffsetSize *data = (OffsetSize *)user;
4345         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4346         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4347         char *ptr;
4348
4349         if (!ctx->static_data || !ctx->static_data [idx])
4350                 return;
4351
4352         ptr = ((char*) ctx->static_data [idx]) + off;
4353         mono_gc_bzero_atomic (ptr, data->size);
4354 }
4355
4356 static void
4357 do_free_special_slot (guint32 offset, guint32 size)
4358 {
4359         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4360         MonoBitSet **sets;
4361         StaticDataInfo *info;
4362
4363         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4364                 info = &thread_static_info;
4365                 sets = thread_reference_bitmaps;
4366         } else {
4367                 info = &context_static_info;
4368                 sets = context_reference_bitmaps;
4369         }
4370
4371         guint32 data_offset = offset;
4372         ACCESS_SPECIAL_STATIC_OFFSET (data_offset, type) = 0;
4373         OffsetSize data = { data_offset, size };
4374
4375         clear_reference_bitmap (sets, data.offset, data.size);
4376
4377         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4378                 if (threads != NULL)
4379                         mono_g_hash_table_foreach (threads, free_thread_static_data_helper, &data);
4380         } else {
4381                 if (contexts != NULL)
4382                         g_hash_table_foreach (contexts, free_context_static_data_helper, &data);
4383         }
4384
4385         if (!mono_runtime_is_shutting_down ()) {
4386                 StaticDataFreeList *item = g_new0 (StaticDataFreeList, 1);
4387
4388                 item->offset = offset;
4389                 item->size = size;
4390
4391                 item->next = info->freelist;
4392                 info->freelist = item;
4393         }
4394 }
4395
4396 static void
4397 do_free_special (gpointer key, gpointer value, gpointer data)
4398 {
4399         MonoClassField *field = (MonoClassField *)key;
4400         guint32 offset = GPOINTER_TO_UINT (value);
4401         gint32 align;
4402         guint32 size;
4403         size = mono_type_size (field->type, &align);
4404         do_free_special_slot (offset, size);
4405 }
4406
4407 void
4408 mono_alloc_special_static_data_free (GHashTable *special_static_fields)
4409 {
4410         mono_threads_lock ();
4411
4412         g_hash_table_foreach (special_static_fields, do_free_special, NULL);
4413
4414         mono_threads_unlock ();
4415 }
4416
4417 #ifdef HOST_WIN32
4418 static void CALLBACK dummy_apc (ULONG_PTR param)
4419 {
4420 }
4421 #endif
4422
4423 /*
4424  * mono_thread_execute_interruption
4425  *
4426  * Performs the operation that the requested thread state requires (abort,
4427  * suspend or stop)
4428  */
4429 static MonoException*
4430 mono_thread_execute_interruption (void)
4431 {
4432         MonoInternalThread *thread = mono_thread_internal_current ();
4433         MonoThread *sys_thread = mono_thread_current ();
4434
4435         LOCK_THREAD (thread);
4436
4437         /* MonoThread::interruption_requested can only be changed with atomics */
4438         if (InterlockedCompareExchange (&thread->interruption_requested, FALSE, TRUE)) {
4439                 /* this will consume pending APC calls */
4440 #ifdef HOST_WIN32
4441                 WaitForSingleObjectEx (GetCurrentThread(), 0, TRUE);
4442 #endif
4443                 InterlockedDecrement (&thread_interruption_requested);
4444
4445                 /* Clear the interrupted flag of the thread so it can wait again */
4446                 mono_thread_info_clear_self_interrupt ();
4447         }
4448
4449         /* If there's a pending exception and an AbortRequested, the pending exception takes precedence */
4450         if (sys_thread->pending_exception) {
4451                 MonoException *exc;
4452
4453                 exc = sys_thread->pending_exception;
4454                 sys_thread->pending_exception = NULL;
4455
4456                 UNLOCK_THREAD (thread);
4457                 return exc;
4458         } else if ((thread->state & ThreadState_AbortRequested) != 0) {
4459                 UNLOCK_THREAD (thread);
4460                 g_assert (sys_thread->pending_exception == NULL);
4461                 if (thread->abort_exc == NULL) {
4462                         /*
4463                          * This might be racy, but it has to be called outside the lock
4464                          * since it calls managed code.
4465                          */
4466                         MONO_OBJECT_SETREF (thread, abort_exc, mono_get_exception_thread_abort ());
4467                 }
4468                 return thread->abort_exc;
4469         }
4470         else if ((thread->state & ThreadState_SuspendRequested) != 0) {
4471                 /* calls UNLOCK_THREAD (thread) */
4472                 self_suspend_internal ();
4473                 return NULL;
4474         }
4475         else if ((thread->state & ThreadState_StopRequested) != 0) {
4476                 /* FIXME: do this through the JIT? */
4477
4478                 UNLOCK_THREAD (thread);
4479
4480                 mono_thread_exit ();
4481                 return NULL;
4482         } else if (thread->thread_interrupt_requested) {
4483
4484                 thread->thread_interrupt_requested = FALSE;
4485                 UNLOCK_THREAD (thread);
4486
4487                 return(mono_get_exception_thread_interrupted ());
4488         }
4489
4490         UNLOCK_THREAD (thread);
4491
4492         return NULL;
4493 }
4494
4495 /*
4496  * mono_thread_request_interruption
4497  *
4498  * A signal handler can call this method to request the interruption of a
4499  * thread. The result of the interruption will depend on the current state of
4500  * the thread. If the result is an exception that needs to be throw, it is
4501  * provided as return value.
4502  */
4503 MonoException*
4504 mono_thread_request_interruption (gboolean running_managed)
4505 {
4506         MonoInternalThread *thread = mono_thread_internal_current ();
4507
4508         /* The thread may already be stopping */
4509         if (thread == NULL)
4510                 return NULL;
4511
4512 #ifdef HOST_WIN32
4513         if (thread->interrupt_on_stop &&
4514                 thread->state & ThreadState_StopRequested &&
4515                 thread->state & ThreadState_Background)
4516                 ExitThread (1);
4517 #endif
4518
4519         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4520                 return NULL;
4521         InterlockedIncrement (&thread_interruption_requested);
4522
4523         if (!running_managed || is_running_protected_wrapper ()) {
4524                 /* Can't stop while in unmanaged code. Increase the global interruption
4525                    request count. When exiting the unmanaged method the count will be
4526                    checked and the thread will be interrupted. */
4527
4528                 /* this will awake the thread if it is in WaitForSingleObject
4529                    or similar */
4530                 /* Our implementation of this function ignores the func argument */
4531 #ifdef HOST_WIN32
4532                 QueueUserAPC ((PAPCFUNC)dummy_apc, thread->handle, (ULONG_PTR)NULL);
4533 #else
4534                 mono_thread_info_self_interrupt ();
4535 #endif
4536                 return NULL;
4537         }
4538         else {
4539                 return mono_thread_execute_interruption ();
4540         }
4541 }
4542
4543 /*This function should be called by a thread after it has exited all of
4544  * its handle blocks at interruption time.*/
4545 MonoException*
4546 mono_thread_resume_interruption (void)
4547 {
4548         MonoInternalThread *thread = mono_thread_internal_current ();
4549         gboolean still_aborting;
4550
4551         /* The thread may already be stopping */
4552         if (thread == NULL)
4553                 return NULL;
4554
4555         LOCK_THREAD (thread);
4556         still_aborting = (thread->state & (ThreadState_AbortRequested|ThreadState_StopRequested)) != 0;
4557         UNLOCK_THREAD (thread);
4558
4559         /*This can happen if the protected block called Thread::ResetAbort*/
4560         if (!still_aborting)
4561                 return FALSE;
4562
4563         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4564                 return NULL;
4565         InterlockedIncrement (&thread_interruption_requested);
4566
4567         mono_thread_info_self_interrupt ();
4568
4569         return mono_thread_execute_interruption ();
4570 }
4571
4572 gboolean mono_thread_interruption_requested ()
4573 {
4574         if (thread_interruption_requested) {
4575                 MonoInternalThread *thread = mono_thread_internal_current ();
4576                 /* The thread may already be stopping */
4577                 if (thread != NULL)
4578                         return (thread->interruption_requested);
4579         }
4580         return FALSE;
4581 }
4582
4583 static MonoException*
4584 mono_thread_interruption_checkpoint_request (gboolean bypass_abort_protection)
4585 {
4586         MonoInternalThread *thread = mono_thread_internal_current ();
4587
4588         /* The thread may already be stopping */
4589         if (thread == NULL)
4590                 return NULL;
4591
4592         if (thread->interruption_requested && (bypass_abort_protection || !is_running_protected_wrapper ())) {
4593                 MonoException* exc = mono_thread_execute_interruption ();
4594                 if (exc)
4595                         return exc;
4596         }
4597         return NULL;
4598 }
4599
4600 /*
4601  * Performs the interruption of the current thread, if one has been requested,
4602  * and the thread is not running a protected wrapper.
4603  * Return the exception which needs to be thrown, if any.
4604  */
4605 MonoException*
4606 mono_thread_interruption_checkpoint (void)
4607 {
4608         return mono_thread_interruption_checkpoint_request (FALSE);
4609 }
4610
4611 /*
4612  * Performs the interruption of the current thread, if one has been requested.
4613  * Return the exception which needs to be thrown, if any.
4614  */
4615 MonoException*
4616 mono_thread_force_interruption_checkpoint_noraise (void)
4617 {
4618         return mono_thread_interruption_checkpoint_request (TRUE);
4619 }
4620
4621 /*
4622  * mono_set_pending_exception:
4623  *
4624  *   Set the pending exception of the current thread to EXC.
4625  * The exception will be thrown when execution returns to managed code.
4626  */
4627 void
4628 mono_set_pending_exception (MonoException *exc)
4629 {
4630         MonoThread *thread = mono_thread_current ();
4631
4632         /* The thread may already be stopping */
4633         if (thread == NULL)
4634                 return;
4635
4636         MONO_OBJECT_SETREF (thread, pending_exception, exc);
4637
4638     mono_thread_request_interruption (FALSE);
4639 }
4640
4641 /**
4642  * mono_thread_interruption_request_flag:
4643  *
4644  * Returns the address of a flag that will be non-zero if an interruption has
4645  * been requested for a thread. The thread to interrupt may not be the current
4646  * thread, so an additional call to mono_thread_interruption_requested() or
4647  * mono_thread_interruption_checkpoint() is allways needed if the flag is not
4648  * zero.
4649  */
4650 gint32* mono_thread_interruption_request_flag ()
4651 {
4652         return &thread_interruption_requested;
4653 }
4654
4655 void
4656 mono_thread_init_apartment_state (void)
4657 {
4658 #ifdef HOST_WIN32
4659         MonoInternalThread* thread = mono_thread_internal_current ();
4660
4661         /* Positive return value indicates success, either
4662          * S_OK if this is first CoInitialize call, or
4663          * S_FALSE if CoInitialize already called, but with same
4664          * threading model. A negative value indicates failure,
4665          * probably due to trying to change the threading model.
4666          */
4667         if (CoInitializeEx(NULL, (thread->apartment_state == ThreadApartmentState_STA)
4668                         ? COINIT_APARTMENTTHREADED
4669                         : COINIT_MULTITHREADED) < 0) {
4670                 thread->apartment_state = ThreadApartmentState_Unknown;
4671         }
4672 #endif
4673 }
4674
4675 void
4676 mono_thread_cleanup_apartment_state (void)
4677 {
4678 #ifdef HOST_WIN32
4679         MonoInternalThread* thread = mono_thread_internal_current ();
4680
4681         if (thread && thread->apartment_state != ThreadApartmentState_Unknown) {
4682                 CoUninitialize ();
4683         }
4684 #endif
4685 }
4686
4687 void
4688 mono_thread_set_state (MonoInternalThread *thread, MonoThreadState state)
4689 {
4690         LOCK_THREAD (thread);
4691         thread->state |= state;
4692         UNLOCK_THREAD (thread);
4693 }
4694
4695 void
4696 mono_thread_clr_state (MonoInternalThread *thread, MonoThreadState state)
4697 {
4698         LOCK_THREAD (thread);
4699         thread->state &= ~state;
4700         UNLOCK_THREAD (thread);
4701 }
4702
4703 gboolean
4704 mono_thread_test_state (MonoInternalThread *thread, MonoThreadState test)
4705 {
4706         gboolean ret = FALSE;
4707
4708         LOCK_THREAD (thread);
4709
4710         if ((thread->state & test) != 0) {
4711                 ret = TRUE;
4712         }
4713
4714         UNLOCK_THREAD (thread);
4715
4716         return ret;
4717 }
4718
4719 static gboolean has_tls_get = FALSE;
4720
4721 void
4722 mono_runtime_set_has_tls_get (gboolean val)
4723 {
4724         has_tls_get = val;
4725 }
4726
4727 gboolean
4728 mono_runtime_has_tls_get (void)
4729 {
4730         return has_tls_get;
4731 }
4732
4733 static void
4734 self_interrupt_thread (void *_unused)
4735 {
4736         MonoThreadInfo *info = mono_thread_info_current ();
4737         MonoException *exc = mono_thread_execute_interruption ();
4738         if (exc) /*We must use _with_context since we didn't trampoline into the runtime*/
4739                 mono_raise_exception_with_context (exc, &info->thread_saved_state [ASYNC_SUSPEND_STATE_INDEX].ctx); /* FIXME using thread_saved_state [ASYNC_SUSPEND_STATE_INDEX] can race with another suspend coming in. */
4740         g_assert_not_reached (); /*this MUST not happen since we can't resume from an async call*/
4741 }
4742
4743 static gboolean
4744 mono_jit_info_match (MonoJitInfo *ji, gpointer ip)
4745 {
4746         if (!ji)
4747                 return FALSE;
4748         return ji->code_start <= ip && (char*)ip < (char*)ji->code_start + ji->code_size;
4749 }
4750
4751 static gboolean
4752 last_managed (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
4753 {
4754         MonoJitInfo **dest = (MonoJitInfo **)data;
4755         *dest = frame->ji;
4756         return TRUE;
4757 }
4758
4759 static MonoJitInfo*
4760 mono_thread_info_get_last_managed (MonoThreadInfo *info)
4761 {
4762         MonoJitInfo *ji = NULL;
4763         if (!info)
4764                 return NULL;
4765
4766         /*
4767          * The suspended thread might be holding runtime locks. Make sure we don't try taking
4768          * any runtime locks while unwinding. In coop case we shouldn't safepoint in regions
4769          * where we hold runtime locks.
4770          */
4771         if (!mono_threads_is_coop_enabled ())
4772                 mono_thread_info_set_is_async_context (TRUE);
4773         mono_get_eh_callbacks ()->mono_walk_stack_with_state (last_managed, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, &ji);
4774         if (!mono_threads_is_coop_enabled ())
4775                 mono_thread_info_set_is_async_context (FALSE);
4776         return ji;
4777 }
4778
4779 typedef struct {
4780         MonoInternalThread *thread;
4781         gboolean install_async_abort;
4782         MonoThreadInfoInterruptToken *interrupt_token;
4783 } AbortThreadData;
4784
4785 static SuspendThreadResult
4786 async_abort_critical (MonoThreadInfo *info, gpointer ud)
4787 {
4788         AbortThreadData *data = (AbortThreadData *)ud;
4789         MonoInternalThread *thread = data->thread;
4790         MonoJitInfo *ji = NULL;
4791         gboolean protected_wrapper;
4792         gboolean running_managed;
4793
4794         if (mono_get_eh_callbacks ()->mono_install_handler_block_guard (mono_thread_info_get_suspend_state (info)))
4795                 return MonoResumeThread;
4796
4797         /*someone is already interrupting it*/
4798         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4799                 return MonoResumeThread;
4800
4801         InterlockedIncrement (&thread_interruption_requested);
4802
4803         ji = mono_thread_info_get_last_managed (info);
4804         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4805         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4806
4807         if (!protected_wrapper && running_managed) {
4808                 /*We are in managed code*/
4809                 /*Set the thread to call */
4810                 if (data->install_async_abort)
4811                         mono_thread_info_setup_async_call (info, self_interrupt_thread, NULL);
4812                 return MonoResumeThread;
4813         } else {
4814                 /*
4815                  * This will cause waits to be broken.
4816                  * It will also prevent the thread from entering a wait, so if the thread returns
4817                  * from the wait before it receives the abort signal, it will just spin in the wait
4818                  * functions in the io-layer until the signal handler calls QueueUserAPC which will
4819                  * make it return.
4820                  */
4821                 data->interrupt_token = mono_thread_info_prepare_interrupt (info);
4822
4823                 return MonoResumeThread;
4824         }
4825 }
4826
4827 static void
4828 async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort)
4829 {
4830         AbortThreadData data;
4831
4832         g_assert (thread != mono_thread_internal_current ());
4833
4834         data.thread = thread;
4835         data.install_async_abort = install_async_abort;
4836         data.interrupt_token = NULL;
4837
4838         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), TRUE, async_abort_critical, &data);
4839         if (data.interrupt_token)
4840                 mono_thread_info_finish_interrupt (data.interrupt_token);
4841         /*FIXME we need to wait for interruption to complete -- figure out how much into interruption we should wait for here*/
4842 }
4843
4844 static void
4845 self_abort_internal (MonoError *error)
4846 {
4847         MonoException *exc;
4848
4849         mono_error_init (error);
4850
4851         /* FIXME this is insanely broken, it doesn't cause interruption to happen synchronously
4852          * since passing FALSE to mono_thread_request_interruption makes sure it returns NULL */
4853
4854         exc = mono_thread_request_interruption (TRUE);
4855         if (exc)
4856                 mono_error_set_exception_instance (error, exc);
4857         else
4858                 mono_thread_info_self_interrupt ();
4859 }
4860
4861 typedef struct {
4862         MonoInternalThread *thread;
4863         gboolean interrupt;
4864         MonoThreadInfoInterruptToken *interrupt_token;
4865 } SuspendThreadData;
4866
4867 static SuspendThreadResult
4868 async_suspend_critical (MonoThreadInfo *info, gpointer ud)
4869 {
4870         SuspendThreadData *data = (SuspendThreadData *)ud;
4871         MonoInternalThread *thread = data->thread;
4872         MonoJitInfo *ji = NULL;
4873         gboolean protected_wrapper;
4874         gboolean running_managed;
4875
4876         ji = mono_thread_info_get_last_managed (info);
4877         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4878         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4879
4880         if (running_managed && !protected_wrapper) {
4881                 thread->state &= ~ThreadState_SuspendRequested;
4882                 thread->state |= ThreadState_Suspended;
4883                 return KeepSuspended;
4884         } else {
4885                 if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 0)
4886                         InterlockedIncrement (&thread_interruption_requested);
4887                 if (data->interrupt)
4888                         data->interrupt_token = mono_thread_info_prepare_interrupt ((MonoThreadInfo *)thread->thread_info);
4889
4890                 return MonoResumeThread;
4891         }
4892 }
4893
4894 /* LOCKING: called with @thread synch_cs held, and releases it */
4895 static void
4896 async_suspend_internal (MonoInternalThread *thread, gboolean interrupt)
4897 {
4898         SuspendThreadData data;
4899
4900         g_assert (thread != mono_thread_internal_current ());
4901
4902         data.thread = thread;
4903         data.interrupt = interrupt;
4904         data.interrupt_token = NULL;
4905
4906         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), interrupt, async_suspend_critical, &data);
4907         if (data.interrupt_token)
4908                 mono_thread_info_finish_interrupt (data.interrupt_token);
4909
4910         UNLOCK_THREAD (thread);
4911 }
4912
4913 /* LOCKING: called with @thread synch_cs held, and releases it */
4914 static void
4915 self_suspend_internal (void)
4916 {
4917         MonoInternalThread *thread;
4918
4919         thread = mono_thread_internal_current ();
4920
4921         mono_thread_info_begin_self_suspend ();
4922         thread->state &= ~ThreadState_SuspendRequested;
4923         thread->state |= ThreadState_Suspended;
4924
4925         UNLOCK_THREAD (thread);
4926
4927         mono_thread_info_end_self_suspend ();
4928 }
4929
4930 /*
4931  * mono_thread_is_foreign:
4932  * @thread: the thread to query
4933  *
4934  * This function allows one to determine if a thread was created by the mono runtime and has
4935  * a well defined lifecycle or it's a foreigh one, created by the native environment.
4936  *
4937  * Returns: TRUE if @thread was not created by the runtime.
4938  */
4939 mono_bool
4940 mono_thread_is_foreign (MonoThread *thread)
4941 {
4942         MonoThreadInfo *info = (MonoThreadInfo *)thread->internal_thread->thread_info;
4943         return info->runtime_thread == FALSE;
4944 }
4945
4946 /*
4947  * mono_add_joinable_thread:
4948  *
4949  *   Add TID to the list of joinable threads.
4950  * LOCKING: Acquires the threads lock.
4951  */
4952 void
4953 mono_threads_add_joinable_thread (gpointer tid)
4954 {
4955 #ifndef HOST_WIN32
4956         /*
4957          * We cannot detach from threads because it causes problems like
4958          * 2fd16f60/r114307. So we collect them and join them when
4959          * we have time (in he finalizer thread).
4960          */
4961         joinable_threads_lock ();
4962         if (!joinable_threads)
4963                 joinable_threads = g_hash_table_new (NULL, NULL);
4964         g_hash_table_insert (joinable_threads, tid, tid);
4965         joinable_thread_count ++;
4966         joinable_threads_unlock ();
4967
4968         mono_gc_finalize_notify ();
4969 #endif
4970 }
4971
4972 /*
4973  * mono_threads_join_threads:
4974  *
4975  *   Join all joinable threads. This is called from the finalizer thread.
4976  * LOCKING: Acquires the threads lock.
4977  */
4978 void
4979 mono_threads_join_threads (void)
4980 {
4981 #ifndef HOST_WIN32
4982         GHashTableIter iter;
4983         gpointer key;
4984         gpointer tid;
4985         pthread_t thread;
4986         gboolean found;
4987
4988         /* Fastpath */
4989         if (!joinable_thread_count)
4990                 return;
4991
4992         while (TRUE) {
4993                 joinable_threads_lock ();
4994                 found = FALSE;
4995                 if (g_hash_table_size (joinable_threads)) {
4996                         g_hash_table_iter_init (&iter, joinable_threads);
4997                         g_hash_table_iter_next (&iter, &key, (void**)&tid);
4998                         thread = (pthread_t)tid;
4999                         g_hash_table_remove (joinable_threads, key);
5000                         joinable_thread_count --;
5001                         found = TRUE;
5002                 }
5003                 joinable_threads_unlock ();
5004                 if (found) {
5005                         if (thread != pthread_self ()) {
5006                                 MONO_ENTER_GC_SAFE;
5007                                 /* This shouldn't block */
5008                                 pthread_join (thread, NULL);
5009                                 MONO_EXIT_GC_SAFE;
5010                         }
5011                 } else {
5012                         break;
5013                 }
5014         }
5015 #endif
5016 }
5017
5018 /*
5019  * mono_thread_join:
5020  *
5021  *   Wait for thread TID to exit.
5022  * LOCKING: Acquires the threads lock.
5023  */
5024 void
5025 mono_thread_join (gpointer tid)
5026 {
5027 #ifndef HOST_WIN32
5028         pthread_t thread;
5029         gboolean found = FALSE;
5030
5031         joinable_threads_lock ();
5032         if (!joinable_threads)
5033                 joinable_threads = g_hash_table_new (NULL, NULL);
5034         if (g_hash_table_lookup (joinable_threads, tid)) {
5035                 g_hash_table_remove (joinable_threads, tid);
5036                 joinable_thread_count --;
5037                 found = TRUE;
5038         }
5039         joinable_threads_unlock ();
5040         if (!found)
5041                 return;
5042         thread = (pthread_t)tid;
5043         MONO_ENTER_GC_SAFE;
5044         pthread_join (thread, NULL);
5045         MONO_EXIT_GC_SAFE;
5046 #endif
5047 }
5048
5049 void
5050 mono_thread_internal_check_for_interruption_critical (MonoInternalThread *thread)
5051 {
5052         if ((thread->state & (ThreadState_StopRequested | ThreadState_SuspendRequested)) != 0)
5053                 mono_thread_interruption_checkpoint ();
5054 }
5055
5056 void
5057 mono_thread_internal_unhandled_exception (MonoObject* exc)
5058 {
5059         if (mono_runtime_unhandled_exception_policy_get () == MONO_UNHANDLED_POLICY_CURRENT) {
5060                 MonoClass *klass = exc->vtable->klass;
5061                 if (is_threadabort_exception (klass)) {
5062                         mono_thread_internal_reset_abort (mono_thread_internal_current ());
5063                 } else if (!is_appdomainunloaded_exception (klass)) {
5064                         mono_unhandled_exception (exc);
5065                         if (mono_environment_exitcode_get () == 1) {
5066                                 mono_environment_exitcode_set (255);
5067                                 mono_invoke_unhandled_exception_hook (exc);
5068                                 g_assert_not_reached ();
5069                         }
5070                 }
5071         }
5072 }
5073
5074 void
5075 ves_icall_System_Threading_Thread_GetStackTraces (MonoArray **out_threads, MonoArray **out_stack_traces)
5076 {
5077         MonoError error;
5078         mono_threads_get_thread_dump (out_threads, out_stack_traces, &error);
5079         mono_error_set_pending_exception (&error);
5080 }
5081
5082 /*
5083  * mono_threads_attach_coop: called by native->managed wrappers
5084  *
5085  * In non-coop mode:
5086  *  - @dummy: is NULL
5087  *  - @return: the original domain which needs to be restored, or NULL.
5088  *
5089  * In coop mode:
5090  *  - @dummy: contains the original domain
5091  *  - @return: a cookie containing current MonoThreadInfo*.
5092  */
5093 gpointer
5094 mono_threads_attach_coop (MonoDomain *domain, gpointer *dummy)
5095 {
5096         MonoDomain *orig;
5097         gboolean fresh_thread = FALSE;
5098
5099         if (!domain) {
5100                 /* Happens when called from AOTed code which is only used in the root domain. */
5101                 domain = mono_get_root_domain ();
5102         }
5103
5104         g_assert (domain);
5105
5106         /* On coop, when we detached, we moved the thread from  RUNNING->BLOCKING.
5107          * If we try to reattach we do a BLOCKING->RUNNING transition.  If the thread
5108          * is fresh, mono_thread_attach() will do a STARTING->RUNNING transition so
5109          * we're only responsible for making the cookie. */
5110         if (mono_threads_is_coop_enabled ()) {
5111                 MonoThreadInfo *info = mono_thread_info_current_unchecked ();
5112                 fresh_thread = !info || !mono_thread_info_is_live (info);
5113         }
5114
5115         if (!mono_thread_internal_current ()) {
5116                 mono_thread_attach_full (domain, FALSE);
5117
5118                 // #678164
5119                 mono_thread_set_state (mono_thread_internal_current (), ThreadState_Background);
5120         }
5121
5122         orig = mono_domain_get ();
5123         if (orig != domain)
5124                 mono_domain_set (domain, TRUE);
5125
5126         if (!mono_threads_is_coop_enabled ())
5127                 return orig != domain ? orig : NULL;
5128
5129         if (fresh_thread) {
5130                 *dummy = NULL;
5131                 /* mono_thread_attach put the thread in RUNNING mode from STARTING, but we need to
5132                  * return the right cookie. */
5133                 return mono_threads_enter_gc_unsafe_region_cookie ();
5134         } else {
5135                 *dummy = orig;
5136                 /* thread state (BLOCKING|RUNNING) -> RUNNING */
5137                 return mono_threads_enter_gc_unsafe_region (dummy);
5138         }
5139 }
5140
5141 /*
5142  * mono_threads_detach_coop: called by native->managed wrappers
5143  *
5144  * In non-coop mode:
5145  *  - @cookie: the original domain which needs to be restored, or NULL.
5146  *  - @dummy: is NULL
5147  *
5148  * In coop mode:
5149  *  - @cookie: contains current MonoThreadInfo* if it was in BLOCKING mode, NULL otherwise
5150  *  - @dummy: contains the original domain
5151  */
5152 void
5153 mono_threads_detach_coop (gpointer cookie, gpointer *dummy)
5154 {
5155         MonoDomain *domain, *orig;
5156
5157         if (!mono_threads_is_coop_enabled ()) {
5158                 orig = (MonoDomain*) cookie;
5159                 if (orig)
5160                         mono_domain_set (orig, TRUE);
5161         } else {
5162                 orig = (MonoDomain*) *dummy;
5163
5164                 domain = mono_domain_get ();
5165                 g_assert (domain);
5166
5167                 /* it won't do anything if cookie is NULL
5168                  * thread state RUNNING -> (RUNNING|BLOCKING) */
5169                 mono_threads_exit_gc_unsafe_region (cookie, dummy);
5170
5171                 if (orig != domain) {
5172                         if (!orig)
5173                                 mono_domain_unset ();
5174                         else
5175                                 mono_domain_set (orig, TRUE);
5176                 }
5177         }
5178 }