mono/metadata/threads.c

   1 /*
   2  * threads.c: Thread support internal calls
   3  *
   4  * Author:
   5  *      Dick Porter (dick@ximian.com)
   6  *      Paolo Molaro (lupus@ximian.com)
   7  *      Patrik Torstensson (patrik.torstensson@labs2.com)
   8  *
   9  * Copyright 2001-2003 Ximian, Inc (http://www.ximian.com)
  10  * Copyright 2004-2009 Novell, Inc (http://www.novell.com)
  11  * Copyright 2011 Xamarin, Inc (http://www.xamarin.com)
  12  * Licensed under the MIT license. See LICENSE file in the project root for full license information.
  13  */
  14
  15 #include <config.h>
  16
  17 #include <glib.h>
  18 #include <string.h>
  19
  20 #include <mono/metadata/object.h>
  21 #include <mono/metadata/domain-internals.h>
  22 #include <mono/metadata/profiler-private.h>
  23 #include <mono/metadata/threads.h>
  24 #include <mono/metadata/threads-types.h>
  25 #include <mono/metadata/exception.h>
  26 #include <mono/metadata/environment.h>
  27 #include <mono/metadata/monitor.h>
  28 #include <mono/metadata/gc-internals.h>
  29 #include <mono/metadata/marshal.h>
  30 #include <mono/metadata/runtime.h>
  31 #include <mono/io-layer/io-layer.h>
  32 #include <mono/metadata/object-internals.h>
  33 #include <mono/metadata/mono-debug-debugger.h>
  34 #include <mono/utils/monobitset.h>
  35 #include <mono/utils/mono-compiler.h>
  36 #include <mono/utils/mono-mmap.h>
  37 #include <mono/utils/mono-membar.h>
  38 #include <mono/utils/mono-time.h>
  39 #include <mono/utils/mono-threads.h>
  40 #include <mono/utils/hazard-pointer.h>
  41 #include <mono/utils/mono-tls.h>
  42 #include <mono/utils/atomic.h>
  43 #include <mono/utils/mono-memory-model.h>
  44 #include <mono/utils/mono-threads-coop.h>
  45 #include <mono/utils/mono-error-internals.h>
  46
  47 #include <mono/metadata/gc-internals.h>
  48 #include <mono/metadata/reflection-internals.h>
  49
  50 #ifdef HAVE_SIGNAL_H
  51 #include <signal.h>
  52 #endif
  53
  54 #if defined(PLATFORM_ANDROID) && !defined(TARGET_ARM64) && !defined(TARGET_AMD64)
  55 #define USE_TKILL_ON_ANDROID 1
  56 #endif
  57
  58 #ifdef PLATFORM_ANDROID
  59 #include <errno.h>
  60
  61 #ifdef USE_TKILL_ON_ANDROID
  62 extern int tkill (pid_t tid, int signal);
  63 #endif
  64 #endif
  65
  66 /*#define THREAD_DEBUG(a) do { a; } while (0)*/
  67 #define THREAD_DEBUG(a)
  68 /*#define THREAD_WAIT_DEBUG(a) do { a; } while (0)*/
  69 #define THREAD_WAIT_DEBUG(a)
  70 /*#define LIBGC_DEBUG(a) do { a; } while (0)*/
  71 #define LIBGC_DEBUG(a)
  72
  73 #define SPIN_TRYLOCK(i) (InterlockedCompareExchange (&(i), 1, 0) == 0)
  74 #define SPIN_LOCK(i) do { \
  75                                 if (SPIN_TRYLOCK (i)) \
  76                                         break; \
  77                         } while (1)
  78
  79 #define SPIN_UNLOCK(i) i = 0
  80
  81 #define LOCK_THREAD(thread) lock_thread((thread))
  82 #define UNLOCK_THREAD(thread) unlock_thread((thread))
  83
  84 typedef struct
  85 {
  86         guint32 (*func)(void *);
  87         MonoThread *obj;
  88         MonoObject *delegate;
  89         void *start_arg;
  90 } StartInfo;
  91
  92 typedef union {
  93         gint32 ival;
  94         gfloat fval;
  95 } IntFloatUnion;
  96
  97 typedef union {
  98         gint64 ival;
  99         gdouble fval;
 100 } LongDoubleUnion;
 101
 102 typedef struct _StaticDataFreeList StaticDataFreeList;
 103 struct _StaticDataFreeList {
 104         StaticDataFreeList *next;
 105         guint32 offset;
 106         guint32 size;
 107 };
 108
 109 typedef struct {
 110         int idx;
 111         int offset;
 112         StaticDataFreeList *freelist;
 113 } StaticDataInfo;
 114
 115 /* Number of cached culture objects in the MonoThread->cached_culture_info array
 116  * (per-type): we use the first NUM entries for CultureInfo and the last for
 117  * UICultureInfo. So the size of the array is really NUM_CACHED_CULTURES * 2.
 118  */
 119 #define NUM_CACHED_CULTURES 4
 120 #define CULTURES_START_IDX 0
 121 #define UICULTURES_START_IDX NUM_CACHED_CULTURES
 122
 123 /* Controls access to the 'threads' hash table */
 124 static void mono_threads_lock (void);
 125 static void mono_threads_unlock (void);
 126 static MonoCoopMutex threads_mutex;
 127
 128 /* Controls access to the 'joinable_threads' hash table */
 129 #define joinable_threads_lock() mono_os_mutex_lock (&joinable_threads_mutex)
 130 #define joinable_threads_unlock() mono_os_mutex_unlock (&joinable_threads_mutex)
 131 static mono_mutex_t joinable_threads_mutex;
 132
 133 /* Holds current status of static data heap */
 134 static StaticDataInfo thread_static_info;
 135 static StaticDataInfo context_static_info;
 136
 137 /* The hash of existing threads (key is thread ID, value is
 138  * MonoInternalThread*) that need joining before exit
 139  */
 140 static MonoGHashTable *threads=NULL;
 141
 142 /* List of app context GC handles.
 143  * Added to from ves_icall_System_Runtime_Remoting_Contexts_Context_RegisterContext ().
 144  */
 145 static GHashTable *contexts = NULL;
 146
 147 /* Cleanup queue for contexts. */
 148 static MonoReferenceQueue *context_queue;
 149
 150 /*
 151  * Threads which are starting up and they are not in the 'threads' hash yet.
 152  * When handle_store is called for a thread, it will be removed from this hash table.
 153  * Protected by mono_threads_lock ().
 154  */
 155 static MonoGHashTable *threads_starting_up = NULL;
 156
 157 /* The TLS key that holds the MonoObject assigned to each thread */
 158 static MonoNativeTlsKey current_object_key;
 159
 160 /* Contains tids */
 161 /* Protected by the threads lock */
 162 static GHashTable *joinable_threads;
 163 static int joinable_thread_count;
 164
 165 #ifdef MONO_HAVE_FAST_TLS
 166 /* we need to use both the Tls* functions and __thread because
 167  * the gc needs to see all the threads
 168  */
 169 MONO_FAST_TLS_DECLARE(tls_current_object);
 170 #define SET_CURRENT_OBJECT(x) do { \
 171         MONO_FAST_TLS_SET (tls_current_object, x); \
 172         mono_native_tls_set_value (current_object_key, x); \
 173 } while (FALSE)
 174 #define GET_CURRENT_OBJECT() ((MonoInternalThread*) MONO_FAST_TLS_GET (tls_current_object))
 175 #else
 176 #define SET_CURRENT_OBJECT(x) mono_native_tls_set_value (current_object_key, x)
 177 #define GET_CURRENT_OBJECT() (MonoInternalThread*) mono_native_tls_get_value (current_object_key)
 178 #endif
 179
 180 /* function called at thread start */
 181 static MonoThreadStartCB mono_thread_start_cb = NULL;
 182
 183 /* function called at thread attach */
 184 static MonoThreadAttachCB mono_thread_attach_cb = NULL;
 185
 186 /* function called at thread cleanup */
 187 static MonoThreadCleanupFunc mono_thread_cleanup_fn = NULL;
 188
 189 /* The default stack size for each thread */
 190 static guint32 default_stacksize = 0;
 191 #define default_stacksize_for_thread(thread) ((thread)->stack_size? (thread)->stack_size: default_stacksize)
 192
 193 static void thread_adjust_static_data (MonoInternalThread *thread);
 194 static void context_adjust_static_data (MonoAppContext *ctx);
 195 static void mono_free_static_data (gpointer* static_data);
 196 static void mono_init_static_data_info (StaticDataInfo *static_data);
 197 static guint32 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align);
 198 static gboolean mono_thread_resume (MonoInternalThread* thread);
 199 static void async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort);
 200 static void self_abort_internal (MonoError *error);
 201 static void async_suspend_internal (MonoInternalThread *thread, gboolean interrupt);
 202 static void self_suspend_internal (void);
 203
 204 static MonoException* mono_thread_execute_interruption (void);
 205 static void ref_stack_destroy (gpointer rs);
 206
 207 /* Spin lock for InterlockedXXX 64 bit functions */
 208 #define mono_interlocked_lock() mono_os_mutex_lock (&interlocked_mutex)
 209 #define mono_interlocked_unlock() mono_os_mutex_unlock (&interlocked_mutex)
 210 static mono_mutex_t interlocked_mutex;
 211
 212 /* global count of thread interruptions requested */
 213 static gint32 thread_interruption_requested = 0;
 214
 215 /* Event signaled when a thread changes its background mode */
 216 static HANDLE background_change_event;
 217
 218 static gboolean shutting_down = FALSE;
 219
 220 static gint32 managed_thread_id_counter = 0;
 221
 222 /* Class lazy loading functions */
 223 static GENERATE_GET_CLASS_WITH_CACHE (appdomain_unloaded_exception, System, AppDomainUnloadedException)
 224
 225 static void
 226 mono_threads_lock (void)
 227 {
 228         mono_locks_coop_acquire (&threads_mutex, ThreadsLock);
 229 }
 230
 231 static void
 232 mono_threads_unlock (void)
 233 {
 234         mono_locks_coop_release (&threads_mutex, ThreadsLock);
 235 }
 236
 237
 238 static guint32
 239 get_next_managed_thread_id (void)
 240 {
 241         return InterlockedIncrement (&managed_thread_id_counter);
 242 }
 243
 244 MonoNativeTlsKey
 245 mono_thread_get_tls_key (void)
 246 {
 247         return current_object_key;
 248 }
 249
 250 gint32
 251 mono_thread_get_tls_offset (void)
 252 {
 253         int offset = -1;
 254
 255 #ifdef HOST_WIN32
 256         if (current_object_key)
 257                 offset = current_object_key;
 258 #else
 259         MONO_THREAD_VAR_OFFSET (tls_current_object,offset);
 260 #endif
 261         return offset;
 262 }
 263
 264 static inline MonoNativeThreadId
 265 thread_get_tid (MonoInternalThread *thread)
 266 {
 267         /* We store the tid as a guint64 to keep the object layout constant between platforms */
 268         return MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid);
 269 }
 270
 271 /* handle_store() and handle_remove() manage the array of threads that
 272  * still need to be waited for when the main thread exits.
 273  *
 274  * If handle_store() returns FALSE the thread must not be started
 275  * because Mono is shutting down.
 276  */
 277 static gboolean handle_store(MonoThread *thread, gboolean force_attach)
 278 {
 279         mono_threads_lock ();
 280
 281         THREAD_DEBUG (g_message ("%s: thread %p ID %"G_GSIZE_FORMAT, __func__, thread, (gsize)thread->internal_thread->tid));
 282
 283         if (threads_starting_up)
 284                 mono_g_hash_table_remove (threads_starting_up, thread);
 285
 286         if (shutting_down && !force_attach) {
 287                 mono_threads_unlock ();
 288                 return FALSE;
 289         }
 290
 291         if(threads==NULL) {
 292                 MONO_GC_REGISTER_ROOT_FIXED (threads, MONO_ROOT_SOURCE_THREADING, "threads table");
 293                 threads=mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "threads table");
 294         }
 295
 296         /* We don't need to duplicate thread->handle, because it is
 297          * only closed when the thread object is finalized by the GC.
 298          */
 299         g_assert (thread->internal_thread);
 300         mono_g_hash_table_insert(threads, (gpointer)(gsize)(thread->internal_thread->tid),
 301                                  thread->internal_thread);
 302
 303         mono_threads_unlock ();
 304
 305         return TRUE;
 306 }
 307
 308 static gboolean handle_remove(MonoInternalThread *thread)
 309 {
 310         gboolean ret;
 311         gsize tid = thread->tid;
 312
 313         THREAD_DEBUG (g_message ("%s: thread ID %"G_GSIZE_FORMAT, __func__, tid));
 314
 315         mono_threads_lock ();
 316
 317         if (threads) {
 318                 /* We have to check whether the thread object for the
 319                  * tid is still the same in the table because the
 320                  * thread might have been destroyed and the tid reused
 321                  * in the meantime, in which case the tid would be in
 322                  * the table, but with another thread object.
 323                  */
 324                 if (mono_g_hash_table_lookup (threads, (gpointer)tid) == thread) {
 325                         mono_g_hash_table_remove (threads, (gpointer)tid);
 326                         ret = TRUE;
 327                 } else {
 328                         ret = FALSE;
 329                 }
 330         }
 331         else
 332                 ret = FALSE;
 333
 334         mono_threads_unlock ();
 335
 336         /* Don't close the handle here, wait for the object finalizer
 337          * to do it. Otherwise, the following race condition applies:
 338          *
 339          * 1) Thread exits (and handle_remove() closes the handle)
 340          *
 341          * 2) Some other handle is reassigned the same slot
 342          *
 343          * 3) Another thread tries to join the first thread, and
 344          * blocks waiting for the reassigned handle to be signalled
 345          * (which might never happen).  This is possible, because the
 346          * thread calling Join() still has a reference to the first
 347          * thread's object.
 348          */
 349         return ret;
 350 }
 351
 352 static void ensure_synch_cs_set (MonoInternalThread *thread)
 353 {
 354         MonoCoopMutex *synch_cs;
 355
 356         if (thread->synch_cs != NULL) {
 357                 return;
 358         }
 359
 360         synch_cs = g_new0 (MonoCoopMutex, 1);
 361         mono_coop_mutex_init_recursive (synch_cs);
 362
 363         if (InterlockedCompareExchangePointer ((gpointer *)&thread->synch_cs,
 364                                                synch_cs, NULL) != NULL) {
 365                 /* Another thread must have installed this CS */
 366                 mono_coop_mutex_destroy (synch_cs);
 367                 g_free (synch_cs);
 368         }
 369 }
 370
 371 static inline void
 372 lock_thread (MonoInternalThread *thread)
 373 {
 374         if (!thread->synch_cs)
 375                 ensure_synch_cs_set (thread);
 376
 377         g_assert (thread->synch_cs);
 378
 379         mono_coop_mutex_lock (thread->synch_cs);
 380 }
 381
 382 static inline void
 383 unlock_thread (MonoInternalThread *thread)
 384 {
 385         mono_coop_mutex_unlock (thread->synch_cs);
 386 }
 387
 388 /*
 389  * NOTE: this function can be called also for threads different from the current one:
 390  * make sure no code called from it will ever assume it is run on the thread that is
 391  * getting cleaned up.
 392  */
 393 static void thread_cleanup (MonoInternalThread *thread)
 394 {
 395         g_assert (thread != NULL);
 396
 397         if (thread->abort_state_handle) {
 398                 mono_gchandle_free (thread->abort_state_handle);
 399                 thread->abort_state_handle = 0;
 400         }
 401         thread->abort_exc = NULL;
 402         thread->current_appcontext = NULL;
 403
 404         /*
 405          * This is necessary because otherwise we might have
 406          * cross-domain references which will not get cleaned up when
 407          * the target domain is unloaded.
 408          */
 409         if (thread->cached_culture_info) {
 410                 int i;
 411                 for (i = 0; i < NUM_CACHED_CULTURES * 2; ++i)
 412                         mono_array_set (thread->cached_culture_info, MonoObject*, i, NULL);
 413         }
 414
 415         /*
 416          * thread->synch_cs can be NULL if this was called after
 417          * ves_icall_System_Threading_InternalThread_Thread_free_internal.
 418          * This can happen only during shutdown.
 419          * The shutting_down flag is not always set, so we can't assert on it.
 420          */
 421         if (thread->synch_cs)
 422                 LOCK_THREAD (thread);
 423
 424         thread->state |= ThreadState_Stopped;
 425         thread->state &= ~ThreadState_Background;
 426
 427         if (thread->synch_cs)
 428                 UNLOCK_THREAD (thread);
 429
 430         /*
 431         An interruption request has leaked to cleanup. Adjust the global counter.
 432
 433         This can happen is the abort source thread finds the abortee (this) thread
 434         in unmanaged code. If this thread never trips back to managed code or check
 435         the local flag it will be left set and positively unbalance the global counter.
 436
 437         Leaving the counter unbalanced will cause a performance degradation since all threads
 438         will now keep checking their local flags all the time.
 439         */
 440         if (InterlockedExchange (&thread->interruption_requested, 0))
 441                 InterlockedDecrement (&thread_interruption_requested);
 442
 443         /* if the thread is not in the hash it has been removed already */
 444         if (!handle_remove (thread)) {
 445                 if (thread == mono_thread_internal_current ()) {
 446                         mono_domain_unset ();
 447                         mono_memory_barrier ();
 448                 }
 449                 /* This needs to be called even if handle_remove () fails */
 450                 if (mono_thread_cleanup_fn)
 451                         mono_thread_cleanup_fn (thread_get_tid (thread));
 452                 return;
 453         }
 454         mono_release_type_locks (thread);
 455
 456         /* Can happen when we attach the profiler helper thread in order to heapshot. */
 457         if (!mono_thread_info_lookup (MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid))->tools_thread)
 458                 mono_profiler_thread_end (thread->tid);
 459
 460         mono_hazard_pointer_clear (mono_hazard_pointer_get (), 1);
 461
 462         if (thread == mono_thread_internal_current ()) {
 463                 /*
 464                  * This will signal async signal handlers that the thread has exited.
 465                  * The profiler callback needs this to be set, so it cannot be done earlier.
 466                  */
 467                 mono_domain_unset ();
 468                 mono_memory_barrier ();
 469         }
 470
 471         if (thread == mono_thread_internal_current ())
 472                 mono_thread_pop_appdomain_ref ();
 473
 474         thread->cached_culture_info = NULL;
 475
 476         mono_free_static_data (thread->static_data);
 477         thread->static_data = NULL;
 478         ref_stack_destroy (thread->appdomain_refs);
 479         thread->appdomain_refs = NULL;
 480
 481         if (mono_thread_cleanup_fn)
 482                 mono_thread_cleanup_fn (thread_get_tid (thread));
 483
 484         if (mono_gc_is_moving ()) {
 485                 MONO_GC_UNREGISTER_ROOT (thread->thread_pinning_ref);
 486                 thread->thread_pinning_ref = NULL;
 487         }
 488
 489 }
 490
 491 /*
 492  * A special static data offset (guint32) consists of 3 parts:
 493  *
 494  * [0]   6-bit index into the array of chunks.
 495  * [6]   25-bit offset into the array.
 496  * [31]  Bit indicating thread or context static.
 497  */
 498
 499 typedef union {
 500         struct {
 501 #if G_BYTE_ORDER != G_LITTLE_ENDIAN
 502                 guint32 type : 1;
 503                 guint32 offset : 25;
 504                 guint32 index : 6;
 505 #else
 506                 guint32 index : 6;
 507                 guint32 offset : 25;
 508                 guint32 type : 1;
 509 #endif
 510         } fields;
 511         guint32 raw;
 512 } SpecialStaticOffset;
 513
 514 #define SPECIAL_STATIC_OFFSET_TYPE_THREAD 0
 515 #define SPECIAL_STATIC_OFFSET_TYPE_CONTEXT 1
 516
 517 #define MAKE_SPECIAL_STATIC_OFFSET(index, offset, type) \
 518         ((SpecialStaticOffset) { .fields = { (index), (offset), (type) } }.raw)
 519 #define ACCESS_SPECIAL_STATIC_OFFSET(x,f) \
 520         (((SpecialStaticOffset *) &(x))->fields.f)
 521
 522 static gpointer
 523 get_thread_static_data (MonoInternalThread *thread, guint32 offset)
 524 {
 525         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_THREAD);
 526
 527         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
 528         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
 529
 530         return ((char *) thread->static_data [idx]) + off;
 531 }
 532
 533 static gpointer
 534 get_context_static_data (MonoAppContext *ctx, guint32 offset)
 535 {
 536         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_CONTEXT);
 537
 538         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
 539         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
 540
 541         return ((char *) ctx->static_data [idx]) + off;
 542 }
 543
 544 static MonoThread**
 545 get_current_thread_ptr_for_domain (MonoDomain *domain, MonoInternalThread *thread)
 546 {
 547         static MonoClassField *current_thread_field = NULL;
 548
 549         guint32 offset;
 550
 551         if (!current_thread_field) {
 552                 current_thread_field = mono_class_get_field_from_name (mono_defaults.thread_class, "current_thread");
 553                 g_assert (current_thread_field);
 554         }
 555
 556         mono_class_vtable (domain, mono_defaults.thread_class);
 557         mono_domain_lock (domain);
 558         offset = GPOINTER_TO_UINT (g_hash_table_lookup (domain->special_static_fields, current_thread_field));
 559         mono_domain_unlock (domain);
 560         g_assert (offset);
 561
 562         return (MonoThread **)get_thread_static_data (thread, offset);
 563 }
 564
 565 static void
 566 set_current_thread_for_domain (MonoDomain *domain, MonoInternalThread *thread, MonoThread *current)
 567 {
 568         MonoThread **current_thread_ptr = get_current_thread_ptr_for_domain (domain, thread);
 569
 570         g_assert (current->obj.vtable->domain == domain);
 571
 572         g_assert (!*current_thread_ptr);
 573         *current_thread_ptr = current;
 574 }
 575
 576 static MonoThread*
 577 create_thread_object (MonoDomain *domain, MonoError *error)
 578 {
 579         MonoVTable *vt = mono_class_vtable (domain, mono_defaults.thread_class);
 580         MonoThread *t = (MonoThread*)mono_object_new_mature (vt, error);
 581         return t;
 582 }
 583
 584 static MonoThread*
 585 new_thread_with_internal (MonoDomain *domain, MonoInternalThread *internal, MonoError *error)
 586 {
 587         MonoThread *thread;
 588
 589         thread = create_thread_object (domain, error);
 590         if (!mono_error_ok (error))
 591                 return NULL;
 592
 593         MONO_OBJECT_SETREF (thread, internal_thread, internal);
 594
 595         return thread;
 596 }
 597
 598 static MonoInternalThread*
 599 create_internal_thread (MonoError *error)
 600 {
 601         MonoInternalThread *thread;
 602         MonoVTable *vt;
 603
 604         vt = mono_class_vtable (mono_get_root_domain (), mono_defaults.internal_thread_class);
 605         thread = (MonoInternalThread*) mono_object_new_mature (vt, error);
 606         if (!mono_error_ok (error))
 607                 return NULL;
 608
 609         thread->synch_cs = g_new0 (MonoCoopMutex, 1);
 610         mono_coop_mutex_init_recursive (thread->synch_cs);
 611
 612         thread->apartment_state = ThreadApartmentState_Unknown;
 613         thread->managed_id = get_next_managed_thread_id ();
 614         if (mono_gc_is_moving ()) {
 615                 thread->thread_pinning_ref = thread;
 616                 MONO_GC_REGISTER_ROOT_PINNING (thread->thread_pinning_ref, MONO_ROOT_SOURCE_THREADING, "thread pinning reference");
 617         }
 618
 619         return thread;
 620 }
 621
 622 static gboolean
 623 init_root_domain_thread (MonoInternalThread *thread, MonoThread *candidate, MonoError *error)
 624 {
 625         MonoDomain *domain = mono_get_root_domain ();
 626
 627         mono_error_init (error);
 628         if (!candidate || candidate->obj.vtable->domain != domain) {
 629                 candidate = new_thread_with_internal (domain, thread, error);
 630                 return_val_if_nok (error, FALSE);
 631         }
 632         set_current_thread_for_domain (domain, thread, candidate);
 633         g_assert (!thread->root_domain_thread);
 634         MONO_OBJECT_SETREF (thread, root_domain_thread, candidate);
 635         return TRUE;
 636 }
 637
 638 static guint32 WINAPI start_wrapper_internal(void *data)
 639 {
 640         MonoError error;
 641         MonoThreadInfo *info;
 642         StartInfo *start_info = (StartInfo *)data;
 643         guint32 (*start_func)(void *);
 644         void *start_arg;
 645         gsize tid;
 646         /*
 647          * We don't create a local to hold start_info->obj, so hopefully it won't get pinned during a
 648          * GC stack walk.
 649          */
 650         MonoInternalThread *internal = start_info->obj->internal_thread;
 651         MonoObject *start_delegate = start_info->delegate;
 652         MonoDomain *domain = start_info->obj->obj.vtable->domain;
 653
 654         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper", __func__, mono_native_thread_id_get ()));
 655
 656         /* We can be sure start_info->obj->tid and
 657          * start_info->obj->handle have been set, because the thread
 658          * was created suspended, and these values were set before the
 659          * thread resumed
 660          */
 661
 662         info = mono_thread_info_current ();
 663         g_assert (info);
 664         internal->thread_info = info;
 665         internal->small_id = info->small_id;
 666
 667         tid = internal->tid;
 668
 669         SET_CURRENT_OBJECT (internal);
 670
 671         /* Every thread references the appdomain which created it */
 672         mono_thread_push_appdomain_ref (domain);
 673
 674         if (!mono_domain_set (domain, FALSE)) {
 675                 /* No point in raising an appdomain_unloaded exception here */
 676                 /* FIXME: Cleanup here */
 677                 mono_thread_pop_appdomain_ref ();
 678                 return 0;
 679         }
 680
 681         start_func = start_info->func;
 682         start_arg = start_info->obj->start_obj;
 683         if (!start_arg)
 684                 start_arg = start_info->start_arg;
 685
 686         /* We have to do this here because mono_thread_new_init()
 687            requires that root_domain_thread is set up. */
 688         thread_adjust_static_data (internal);
 689         init_root_domain_thread (internal, start_info->obj, &error);
 690         mono_error_raise_exception (&error); /* FIXME don't raise here */
 691
 692         /* This MUST be called before any managed code can be
 693          * executed, as it calls the callback function that (for the
 694          * jit) sets the lmf marker.
 695          */
 696         mono_thread_new_init (tid, &tid, start_func);
 697         internal->stack_ptr = &tid;
 698         if (domain != mono_get_root_domain ())
 699                 set_current_thread_for_domain (domain, internal, start_info->obj);
 700
 701         LIBGC_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT",%d) Setting thread stack to %p", __func__, mono_native_thread_id_get (), getpid (), thread->stack_ptr));
 702
 703         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Setting current_object_key to %p", __func__, mono_native_thread_id_get (), internal));
 704
 705         /* On 2.0 profile (and higher), set explicitly since state might have been
 706            Unknown */
 707         if (internal->apartment_state == ThreadApartmentState_Unknown)
 708                 internal->apartment_state = ThreadApartmentState_MTA;
 709
 710         mono_thread_init_apartment_state ();
 711
 712         if(internal->start_notify!=NULL) {
 713                 /* Let the thread that called Start() know we're
 714                  * ready
 715                  */
 716                 ReleaseSemaphore (internal->start_notify, 1, NULL);
 717         }
 718
 719         g_free (start_info);
 720         THREAD_DEBUG (g_message ("%s: start_wrapper for %"G_GSIZE_FORMAT, __func__,
 721                                                          internal->tid));
 722
 723         /*
 724          * Call this after calling start_notify, since the profiler callback might want
 725          * to lock the thread, and the lock is held by thread_start () which waits for
 726          * start_notify.
 727          */
 728         mono_profiler_thread_start (tid);
 729
 730         /* if the name was set before starting, we didn't invoke the profiler callback */
 731         if (internal->name) {
 732                 char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
 733                 mono_profiler_thread_name (internal->tid, tname);
 734                 mono_native_thread_set_name (MONO_UINT_TO_NATIVE_THREAD_ID (internal->tid), tname);
 735                 g_free (tname);
 736         }
 737
 738         /* start_func is set only for unmanaged start functions */
 739         if (start_func) {
 740                 start_func (start_arg);
 741         } else {
 742                 void *args [1];
 743                 g_assert (start_delegate != NULL);
 744                 args [0] = start_arg;
 745                 /* we may want to handle the exception here. See comment below on unhandled exceptions */
 746                 mono_runtime_delegate_invoke_checked (start_delegate, args, &error);
 747                 mono_error_raise_exception (&error); /* FIXME don't raise here */
 748         }
 749
 750         /* If the thread calls ExitThread at all, this remaining code
 751          * will not be executed, but the main thread will eventually
 752          * call thread_cleanup() on this thread's behalf.
 753          */
 754
 755         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper terminating", __func__, mono_native_thread_id_get ()));
 756
 757         /* Do any cleanup needed for apartment state. This
 758          * cannot be done in thread_cleanup since thread_cleanup could be
 759          * called for a thread other than the current thread.
 760          * mono_thread_cleanup_apartment_state cleans up apartment
 761          * for the current thead */
 762         mono_thread_cleanup_apartment_state ();
 763
 764         thread_cleanup (internal);
 765
 766         internal->tid = 0;
 767
 768         /* Remove the reference to the thread object in the TLS data,
 769          * so the thread object can be finalized.  This won't be
 770          * reached if the thread threw an uncaught exception, so those
 771          * thread handles will stay referenced :-( (This is due to
 772          * missing support for scanning thread-specific data in the
 773          * Boehm GC - the io-layer keeps a GC-visible hash of pointers
 774          * to TLS data.)
 775          */
 776         SET_CURRENT_OBJECT (NULL);
 777
 778         return(0);
 779 }
 780
 781 static guint32 WINAPI start_wrapper(void *data)
 782 {
 783         volatile int dummy;
 784
 785         /* Avoid scanning the frames above this frame during a GC */
 786         mono_gc_set_stack_end ((void*)&dummy);
 787
 788         return start_wrapper_internal (data);
 789 }
 790
 791 /*
 792  * create_thread:
 793  *
 794  *   Common thread creation code.
 795  * LOCKING: Acquires the threads lock.
 796  */
 797 static gboolean
 798 create_thread (MonoThread *thread, MonoInternalThread *internal, StartInfo *start_info, gboolean threadpool_thread, guint32 stack_size,
 799                            MonoError *error)
 800 {
 801         HANDLE thread_handle;
 802         MonoNativeThreadId tid;
 803         guint32 create_flags;
 804
 805         /*
 806          * Join joinable threads to prevent running out of threads since the finalizer
 807          * thread might be blocked/backlogged.
 808          */
 809         mono_threads_join_threads ();
 810
 811         mono_error_init (error);
 812
 813         mono_threads_lock ();
 814         if (shutting_down) {
 815                 g_free (start_info);
 816                 mono_threads_unlock ();
 817                 return FALSE;
 818         }
 819         if (threads_starting_up == NULL) {
 820                 MONO_GC_REGISTER_ROOT_FIXED (threads_starting_up, MONO_ROOT_SOURCE_THREADING, "starting threads table");
 821                 threads_starting_up = mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_KEY_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "starting threads table");
 822         }
 823         mono_g_hash_table_insert (threads_starting_up, thread, thread);
 824         mono_threads_unlock ();
 825
 826         internal->start_notify = CreateSemaphore (NULL, 0, 0x7fffffff, NULL);
 827         if (!internal->start_notify) {
 828                 mono_threads_lock ();
 829                 mono_g_hash_table_remove (threads_starting_up, thread);
 830                 mono_threads_unlock ();
 831                 g_warning ("%s: CreateSemaphore error 0x%x", __func__, GetLastError ());
 832                 g_free (start_info);
 833                 return FALSE;
 834         }
 835
 836         if (stack_size == 0)
 837                 stack_size = default_stacksize_for_thread (internal);
 838
 839         /* Create suspended, so we can do some housekeeping before the thread
 840          * starts
 841          */
 842         create_flags = CREATE_SUSPENDED;
 843
 844         thread_handle = mono_threads_create_thread ((LPTHREAD_START_ROUTINE)start_wrapper, start_info,
 845                                                                                                 stack_size, create_flags, &tid);
 846
 847         if (thread_handle == NULL) {
 848                 /* The thread couldn't be created, so set an exception */
 849                 mono_threads_lock ();
 850                 mono_g_hash_table_remove (threads_starting_up, thread);
 851                 mono_threads_unlock ();
 852                 g_free (start_info);
 853                 mono_error_set_execution_engine (error, "Couldn't create thread. Error 0x%x", GetLastError());
 854                 return FALSE;
 855         }
 856         THREAD_DEBUG (g_message ("%s: Started thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread_handle));
 857
 858         internal->handle = thread_handle;
 859         internal->tid = MONO_NATIVE_THREAD_ID_TO_UINT (tid);
 860
 861         internal->threadpool_thread = threadpool_thread;
 862         if (threadpool_thread)
 863                 mono_thread_set_state (internal, ThreadState_Background);
 864
 865         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 866
 867         /* Only store the handle when the thread is about to be
 868          * launched, to avoid the main thread deadlocking while trying
 869          * to clean up a thread that will never be signalled.
 870          */
 871         if (!handle_store (thread, FALSE))
 872                 return FALSE;
 873
 874         mono_thread_info_resume (tid);
 875
 876         if (internal->start_notify) {
 877                 /*
 878                  * Wait for the thread to set up its TLS data etc, so
 879                  * theres no potential race condition if someone tries
 880                  * to look up the data believing the thread has
 881                  * started
 882                  */
 883                 THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") waiting for thread %p (%"G_GSIZE_FORMAT") to start", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 884
 885                 MONO_ENTER_GC_SAFE;
 886                 WaitForSingleObjectEx (internal->start_notify, INFINITE, FALSE);
 887                 MONO_EXIT_GC_SAFE;
 888
 889                 CloseHandle (internal->start_notify);
 890                 internal->start_notify = NULL;
 891         }
 892
 893         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Done launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 894
 895         return TRUE;
 896 }
 897
 898 void mono_thread_new_init (intptr_t tid, gpointer stack_start, gpointer func)
 899 {
 900         if (mono_thread_start_cb) {
 901                 mono_thread_start_cb (tid, stack_start, func);
 902         }
 903 }
 904
 905 void mono_threads_set_default_stacksize (guint32 stacksize)
 906 {
 907         default_stacksize = stacksize;
 908 }
 909
 910 guint32 mono_threads_get_default_stacksize (void)
 911 {
 912         return default_stacksize;
 913 }
 914
 915 /*
 916  * mono_thread_create_internal:
 917  *
 918  *   ARG should not be a GC reference.
 919  */
 920 MonoInternalThread*
 921 mono_thread_create_internal (MonoDomain *domain, gpointer func, gpointer arg, gboolean threadpool_thread, guint32 stack_size, MonoError *error)
 922 {
 923         MonoThread *thread;
 924         MonoInternalThread *internal;
 925         StartInfo *start_info;
 926         gboolean res;
 927
 928         mono_error_init (error);
 929
 930         thread = create_thread_object (domain, error);
 931         return_val_if_nok (error, NULL);
 932
 933         internal = create_internal_thread (error);
 934         return_val_if_nok (error, NULL);
 935
 936         MONO_OBJECT_SETREF (thread, internal_thread, internal);
 937
 938         start_info = g_new0 (StartInfo, 1);
 939         start_info->func = (guint32 (*)(void *))func;
 940         start_info->obj = thread;
 941         start_info->start_arg = arg;
 942
 943         res = create_thread (thread, internal, start_info, threadpool_thread, stack_size, error);
 944         return_val_if_nok (error, NULL);
 945
 946         /* Check that the managed and unmanaged layout of MonoInternalThread matches */
 947 #ifndef MONO_CROSS_COMPILE
 948         if (mono_check_corlib_version () == NULL)
 949                 g_assert (((char*)&internal->unused2 - (char*)internal) == mono_defaults.internal_thread_class->fields [mono_defaults.internal_thread_class->field.count - 1].offset);
 950 #endif
 951
 952         return internal;
 953 }
 954
 955 void
 956 mono_thread_create (MonoDomain *domain, gpointer func, gpointer arg)
 957 {
 958         MonoError error;
 959         if (!mono_thread_create_checked (domain, func, arg, &error))
 960                 mono_error_cleanup (&error);
 961 }
 962
 963 gboolean
 964 mono_thread_create_checked (MonoDomain *domain, gpointer func, gpointer arg, MonoError *error)
 965 {
 966         return (NULL != mono_thread_create_internal (domain, func, arg, FALSE, 0, error));
 967 }
 968
 969 MonoThread *
 970 mono_thread_attach (MonoDomain *domain)
 971 {
 972         MonoError error;
 973         MonoThread *thread = mono_thread_attach_full (domain, FALSE, &error);
 974         mono_error_raise_exception (&error);
 975
 976         return thread;
 977 }
 978
 979 MonoThread *
 980 mono_thread_attach_full (MonoDomain *domain, gboolean force_attach, MonoError *error)
 981 {
 982         MonoThreadInfo *info;
 983         MonoInternalThread *thread;
 984         MonoThread *current_thread;
 985         HANDLE thread_handle;
 986         MonoNativeThreadId tid;
 987
 988         mono_error_init (error);
 989
 990         if ((thread = mono_thread_internal_current ())) {
 991                 if (domain != mono_domain_get ())
 992                         mono_domain_set (domain, TRUE);
 993                 /* Already attached */
 994                 return mono_thread_current ();
 995         }
 996
 997         if (!mono_gc_register_thread (&domain)) {
 998                 g_error ("Thread %"G_GSIZE_FORMAT" calling into managed code is not registered with the GC. On UNIX, this can be fixed by #include-ing <gc.h> before <pthread.h> in the file containing the thread creation code.", mono_native_thread_id_get ());
 999         }
1000
1001         thread = create_internal_thread (error);
1002         if (!mono_error_ok (error))
1003                 return NULL;
1004
1005         thread_handle = mono_thread_info_open_handle ();
1006         g_assert (thread_handle);
1007
1008         tid=mono_native_thread_id_get ();
1009
1010         thread->handle = thread_handle;
1011         thread->tid = MONO_NATIVE_THREAD_ID_TO_UINT (tid);
1012         thread->stack_ptr = &tid;
1013
1014         THREAD_DEBUG (g_message ("%s: Attached thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread_handle));
1015
1016         info = mono_thread_info_current ();
1017         g_assert (info);
1018         thread->thread_info = info;
1019         thread->small_id = info->small_id;
1020
1021         current_thread = new_thread_with_internal (domain, thread, error);
1022         if (!mono_error_ok (error))
1023                 return NULL;
1024
1025         if (!handle_store (current_thread, force_attach)) {
1026                 /* Mono is shutting down, so just wait for the end */
1027                 for (;;)
1028                         mono_thread_info_sleep (10000, NULL);
1029         }
1030
1031         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Setting current_object_key to %p", __func__, mono_native_thread_id_get (), thread));
1032
1033         SET_CURRENT_OBJECT (thread);
1034         mono_domain_set (domain, TRUE);
1035
1036         thread_adjust_static_data (thread);
1037
1038         init_root_domain_thread (thread, current_thread, error);
1039         return_val_if_nok (error, NULL);
1040
1041         if (domain != mono_get_root_domain ())
1042                 set_current_thread_for_domain (domain, thread, current_thread);
1043
1044
1045         if (mono_thread_attach_cb) {
1046                 guint8 *staddr;
1047                 size_t stsize;
1048
1049                 mono_thread_info_get_stack_bounds (&staddr, &stsize);
1050
1051                 if (staddr == NULL)
1052                         mono_thread_attach_cb (MONO_NATIVE_THREAD_ID_TO_UINT (tid), &tid);
1053                 else
1054                         mono_thread_attach_cb (MONO_NATIVE_THREAD_ID_TO_UINT (tid), staddr + stsize);
1055         }
1056
1057         /* Can happen when we attach the profiler helper thread in order to heapshot. */
1058         if (!info->tools_thread)
1059                 // FIXME: Need a separate callback
1060                 mono_profiler_thread_start (MONO_NATIVE_THREAD_ID_TO_UINT (tid));
1061
1062         return current_thread;
1063 }
1064
1065 void
1066 mono_thread_detach_internal (MonoInternalThread *thread)
1067 {
1068         g_return_if_fail (thread != NULL);
1069
1070         THREAD_DEBUG (g_message ("%s: mono_thread_detach for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1071
1072         thread_cleanup (thread);
1073
1074         SET_CURRENT_OBJECT (NULL);
1075         mono_domain_unset ();
1076
1077         /* Don't need to CloseHandle this thread, even though we took a
1078          * reference in mono_thread_attach (), because the GC will do it
1079          * when the Thread object is finalised.
1080          */
1081 }
1082
1083 void
1084 mono_thread_detach (MonoThread *thread)
1085 {
1086         if (thread)
1087                 mono_thread_detach_internal (thread->internal_thread);
1088 }
1089
1090 /*
1091  * mono_thread_detach_if_exiting:
1092  *
1093  *   Detach the current thread from the runtime if it is exiting, i.e. it is running pthread dtors.
1094  * This should be used at the end of embedding code which calls into managed code, and which
1095  * can be called from pthread dtors, like dealloc: implementations in objective-c.
1096  */
1097 void
1098 mono_thread_detach_if_exiting (void)
1099 {
1100         if (mono_thread_info_is_exiting ()) {
1101                 MonoInternalThread *thread;
1102
1103                 thread = mono_thread_internal_current ();
1104                 if (thread) {
1105                         mono_thread_detach_internal (thread);
1106                         mono_thread_info_detach ();
1107                 }
1108         }
1109 }
1110
1111 void
1112 mono_thread_exit ()
1113 {
1114         MonoInternalThread *thread = mono_thread_internal_current ();
1115
1116         THREAD_DEBUG (g_message ("%s: mono_thread_exit for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1117
1118         thread_cleanup (thread);
1119         SET_CURRENT_OBJECT (NULL);
1120         mono_domain_unset ();
1121
1122         /* we could add a callback here for embedders to use. */
1123         if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread))
1124                 exit (mono_environment_exitcode_get ());
1125         mono_thread_info_exit ();
1126 }
1127
1128 void
1129 ves_icall_System_Threading_Thread_ConstructInternalThread (MonoThread *this_obj)
1130 {
1131         MonoError error;
1132         MonoInternalThread *internal;
1133
1134         internal = create_internal_thread (&error);
1135         if (mono_error_set_pending_exception (&error))
1136                 return;
1137
1138         internal->state = ThreadState_Unstarted;
1139
1140         InterlockedCompareExchangePointer ((volatile gpointer *)&this_obj->internal_thread, internal, NULL);
1141 }
1142
1143 HANDLE
1144 ves_icall_System_Threading_Thread_Thread_internal (MonoThread *this_obj,
1145                                                                                                    MonoObject *start)
1146 {
1147         MonoError error;
1148         StartInfo *start_info;
1149         MonoInternalThread *internal;
1150         gboolean res;
1151
1152         THREAD_DEBUG (g_message("%s: Trying to start a new thread: this (%p) start (%p)", __func__, this_obj, start));
1153
1154         if (!this_obj->internal_thread)
1155                 ves_icall_System_Threading_Thread_ConstructInternalThread (this_obj);
1156         internal = this_obj->internal_thread;
1157
1158         LOCK_THREAD (internal);
1159
1160         if ((internal->state & ThreadState_Unstarted) == 0) {
1161                 UNLOCK_THREAD (internal);
1162                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has already been started."));
1163                 return NULL;
1164         }
1165
1166         if ((internal->state & ThreadState_Aborted) != 0) {
1167                 UNLOCK_THREAD (internal);
1168                 return this_obj;
1169         }
1170         /* This is freed in start_wrapper */
1171         start_info = g_new0 (StartInfo, 1);
1172         start_info->func = NULL;
1173         start_info->start_arg = NULL;
1174         start_info->delegate = start;
1175         start_info->obj = this_obj;
1176         g_assert (this_obj->obj.vtable->domain == mono_domain_get ());
1177
1178         res = create_thread (this_obj, internal, start_info, FALSE, 0, &error);
1179         if (!res) {
1180                 mono_error_cleanup (&error);
1181                 UNLOCK_THREAD (internal);
1182                 return NULL;
1183         }
1184
1185         internal->state &= ~ThreadState_Unstarted;
1186
1187         THREAD_DEBUG (g_message ("%s: Started thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread));
1188
1189         UNLOCK_THREAD (internal);
1190         return internal->handle;
1191 }
1192
1193 /*
1194  * This is called from the finalizer of the internal thread object.
1195  */
1196 void
1197 ves_icall_System_Threading_InternalThread_Thread_free_internal (MonoInternalThread *this_obj, HANDLE thread)
1198 {
1199         THREAD_DEBUG (g_message ("%s: Closing thread %p, handle %p", __func__, this, thread));
1200
1201         /*
1202          * Since threads keep a reference to their thread object while running, by the time this function is called,
1203          * the thread has already exited/detached, i.e. thread_cleanup () has ran. The exception is during shutdown,
1204          * when thread_cleanup () can be called after this.
1205          */
1206         if (thread)
1207                 CloseHandle (thread);
1208
1209         if (this_obj->synch_cs) {
1210                 MonoCoopMutex *synch_cs = this_obj->synch_cs;
1211                 this_obj->synch_cs = NULL;
1212                 mono_coop_mutex_destroy (synch_cs);
1213                 g_free (synch_cs);
1214         }
1215
1216         if (this_obj->name) {
1217                 void *name = this_obj->name;
1218                 this_obj->name = NULL;
1219                 g_free (name);
1220         }
1221 }
1222
1223 void
1224 ves_icall_System_Threading_Thread_Sleep_internal(gint32 ms)
1225 {
1226         guint32 res;
1227         MonoInternalThread *thread = mono_thread_internal_current ();
1228
1229         THREAD_DEBUG (g_message ("%s: Sleeping for %d ms", __func__, ms));
1230
1231         if (mono_thread_current_check_pending_interrupt ())
1232                 return;
1233
1234         while (TRUE) {
1235                 gboolean alerted = FALSE;
1236
1237                 mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1238
1239                 res = mono_thread_info_sleep (ms, &alerted);
1240
1241                 mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1242
1243                 if (alerted) {
1244                         MonoException* exc = mono_thread_execute_interruption ();
1245                         if (exc) {
1246                                 mono_raise_exception (exc);
1247                         } else {
1248                                 // FIXME: !INFINITE
1249                                 if (ms != INFINITE)
1250                                         break;
1251                         }
1252                 } else {
1253                         break;
1254                 }
1255         }
1256 }
1257
1258 void ves_icall_System_Threading_Thread_SpinWait_nop (void)
1259 {
1260 }
1261
1262 gint32
1263 ves_icall_System_Threading_Thread_GetDomainID (void)
1264 {
1265         return mono_domain_get()->domain_id;
1266 }
1267
1268 gboolean
1269 ves_icall_System_Threading_Thread_Yield (void)
1270 {
1271         return mono_thread_info_yield ();
1272 }
1273
1274 /*
1275  * mono_thread_get_name:
1276  *
1277  *   Return the name of the thread. NAME_LEN is set to the length of the name.
1278  * Return NULL if the thread has no name. The returned memory is owned by the
1279  * caller.
1280  */
1281 gunichar2*
1282 mono_thread_get_name (MonoInternalThread *this_obj, guint32 *name_len)
1283 {
1284         gunichar2 *res;
1285
1286         LOCK_THREAD (this_obj);
1287
1288         if (!this_obj->name) {
1289                 *name_len = 0;
1290                 res = NULL;
1291         } else {
1292                 *name_len = this_obj->name_len;
1293                 res = g_new (gunichar2, this_obj->name_len);
1294                 memcpy (res, this_obj->name, sizeof (gunichar2) * this_obj->name_len);
1295         }
1296
1297         UNLOCK_THREAD (this_obj);
1298
1299         return res;
1300 }
1301
1302 /*
1303  * mono_thread_get_name_utf8:
1304  *
1305  * Return the name of the thread in UTF-8.
1306  * Return NULL if the thread has no name.
1307  * The returned memory is owned by the caller.
1308  */
1309 char *
1310 mono_thread_get_name_utf8 (MonoThread *thread)
1311 {
1312         if (thread == NULL)
1313                 return NULL;
1314
1315         MonoInternalThread *internal = thread->internal_thread;
1316         if (internal == NULL)
1317                 return NULL;
1318
1319         LOCK_THREAD (internal);
1320
1321         char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
1322
1323         UNLOCK_THREAD (internal);
1324
1325         return tname;
1326 }
1327
1328 /*
1329  * mono_thread_get_managed_id:
1330  *
1331  * Return the Thread.ManagedThreadId value of `thread`.
1332  * Returns -1 if `thread` is NULL.
1333  */
1334 int32_t
1335 mono_thread_get_managed_id (MonoThread *thread)
1336 {
1337         if (thread == NULL)
1338                 return -1;
1339
1340         MonoInternalThread *internal = thread->internal_thread;
1341         if (internal == NULL)
1342                 return -1;
1343
1344         int32_t id = internal->managed_id;
1345
1346         return id;
1347 }
1348
1349 MonoString*
1350 ves_icall_System_Threading_Thread_GetName_internal (MonoInternalThread *this_obj)
1351 {
1352         MonoError error;
1353         MonoString* str;
1354
1355         mono_error_init (&error);
1356
1357         LOCK_THREAD (this_obj);
1358
1359         if (!this_obj->name)
1360                 str = NULL;
1361         else
1362                 str = mono_string_new_utf16_checked (mono_domain_get (), this_obj->name, this_obj->name_len, &error);
1363
1364         UNLOCK_THREAD (this_obj);
1365
1366         if (mono_error_set_pending_exception (&error))
1367                 return NULL;
1368
1369         return str;
1370 }
1371
1372 void
1373 mono_thread_set_name_internal (MonoInternalThread *this_obj, MonoString *name, gboolean permanent, MonoError *error)
1374 {
1375         LOCK_THREAD (this_obj);
1376
1377         mono_error_init (error);
1378
1379         if ((this_obj->flags & MONO_THREAD_FLAG_NAME_SET)) {
1380                 UNLOCK_THREAD (this_obj);
1381
1382                 mono_error_set_invalid_operation (error, "Thread.Name can only be set once.");
1383                 return;
1384         }
1385         if (this_obj->name) {
1386                 g_free (this_obj->name);
1387                 this_obj->name_len = 0;
1388         }
1389         if (name) {
1390                 this_obj->name = g_new (gunichar2, mono_string_length (name));
1391                 memcpy (this_obj->name, mono_string_chars (name), mono_string_length (name) * 2);
1392                 this_obj->name_len = mono_string_length (name);
1393
1394                 if (permanent)
1395                         this_obj->flags |= MONO_THREAD_FLAG_NAME_SET;
1396         }
1397         else
1398                 this_obj->name = NULL;
1399
1400
1401         UNLOCK_THREAD (this_obj);
1402
1403         if (this_obj->name && this_obj->tid) {
1404                 char *tname = mono_string_to_utf8 (name);
1405                 mono_profiler_thread_name (this_obj->tid, tname);
1406                 mono_native_thread_set_name (thread_get_tid (this_obj), tname);
1407                 mono_free (tname);
1408         }
1409 }
1410
1411 void
1412 ves_icall_System_Threading_Thread_SetName_internal (MonoInternalThread *this_obj, MonoString *name)
1413 {
1414         MonoError error;
1415         mono_thread_set_name_internal (this_obj, name, TRUE, &error);
1416         mono_error_set_pending_exception (&error);
1417 }
1418
1419 /*
1420  * ves_icall_System_Threading_Thread_GetPriority_internal:
1421  * @param this_obj: The MonoInternalThread on which to operate.
1422  *
1423  * Gets the priority of the given thread.
1424  * @return: The priority of the given thread.
1425  */
1426 int
1427 ves_icall_System_Threading_Thread_GetPriority (MonoThread *this_obj)
1428 {
1429         gint32 priority;
1430         MonoInternalThread *internal = this_obj->internal_thread;
1431
1432         LOCK_THREAD (internal);
1433         priority = GetThreadPriority (internal->handle) + 2;
1434         UNLOCK_THREAD (internal);
1435         return priority;
1436 }
1437
1438 /*
1439  * ves_icall_System_Threading_Thread_SetPriority_internal:
1440  * @param this_obj: The MonoInternalThread on which to operate.
1441  * @param priority: The priority to set.
1442  *
1443  * Sets the priority of the given thread.
1444  */
1445 void
1446 ves_icall_System_Threading_Thread_SetPriority (MonoThread *this_obj, int priority)
1447 {
1448         MonoInternalThread *internal = this_obj->internal_thread;
1449
1450         LOCK_THREAD (internal);
1451         SetThreadPriority (internal->handle, priority - 2);
1452         UNLOCK_THREAD (internal);
1453 }
1454
1455 /* If the array is already in the requested domain, we just return it,
1456    otherwise we return a copy in that domain. */
1457 static MonoArray*
1458 byte_array_to_domain (MonoArray *arr, MonoDomain *domain, MonoError *error)
1459 {
1460         MonoArray *copy;
1461
1462         mono_error_init (error);
1463         if (!arr)
1464                 return NULL;
1465
1466         if (mono_object_domain (arr) == domain)
1467                 return arr;
1468
1469         copy = mono_array_new_checked (domain, mono_defaults.byte_class, arr->max_length, error);
1470         memmove (mono_array_addr (copy, guint8, 0), mono_array_addr (arr, guint8, 0), arr->max_length);
1471         return copy;
1472 }
1473
1474 MonoArray*
1475 ves_icall_System_Threading_Thread_ByteArrayToRootDomain (MonoArray *arr)
1476 {
1477         MonoError error;
1478         MonoArray *result = byte_array_to_domain (arr, mono_get_root_domain (), &error);
1479         mono_error_set_pending_exception (&error);
1480         return result;
1481 }
1482
1483 MonoArray*
1484 ves_icall_System_Threading_Thread_ByteArrayToCurrentDomain (MonoArray *arr)
1485 {
1486         MonoError error;
1487         MonoArray *result = byte_array_to_domain (arr, mono_domain_get (), &error);
1488         mono_error_set_pending_exception (&error);
1489         return result;
1490 }
1491
1492 MonoThread *
1493 mono_thread_current (void)
1494 {
1495         MonoError error;
1496         MonoDomain *domain = mono_domain_get ();
1497         MonoInternalThread *internal = mono_thread_internal_current ();
1498         MonoThread **current_thread_ptr;
1499
1500         g_assert (internal);
1501         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1502
1503         if (!*current_thread_ptr) {
1504                 g_assert (domain != mono_get_root_domain ());
1505                 *current_thread_ptr = new_thread_with_internal (domain, internal, &error);
1506                 mono_error_raise_exception (&error); /* FIXME don't raise here */
1507         }
1508         return *current_thread_ptr;
1509 }
1510
1511 /* Return the thread object belonging to INTERNAL in the current domain */
1512 static MonoThread *
1513 mono_thread_current_for_thread (MonoInternalThread *internal)
1514 {
1515         MonoError error;
1516         MonoDomain *domain = mono_domain_get ();
1517         MonoThread **current_thread_ptr;
1518
1519         g_assert (internal);
1520         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1521
1522         if (!*current_thread_ptr) {
1523                 g_assert (domain != mono_get_root_domain ());
1524                 *current_thread_ptr = new_thread_with_internal (domain, internal, &error);
1525                 mono_error_raise_exception (&error); /* FIXME don't raise here */
1526         }
1527         return *current_thread_ptr;
1528 }
1529
1530 MonoInternalThread*
1531 mono_thread_internal_current (void)
1532 {
1533         MonoInternalThread *res = GET_CURRENT_OBJECT ();
1534         THREAD_DEBUG (g_message ("%s: returning %p", __func__, res));
1535         return res;
1536 }
1537
1538 gboolean
1539 ves_icall_System_Threading_Thread_Join_internal(MonoThread *this_obj, int ms)
1540 {
1541         MonoInternalThread *thread = this_obj->internal_thread;
1542         HANDLE handle = thread->handle;
1543         MonoInternalThread *cur_thread = mono_thread_internal_current ();
1544         gboolean ret;
1545
1546         if (mono_thread_current_check_pending_interrupt ())
1547                 return FALSE;
1548
1549         LOCK_THREAD (thread);
1550
1551         if ((thread->state & ThreadState_Unstarted) != 0) {
1552                 UNLOCK_THREAD (thread);
1553
1554                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started."));
1555                 return FALSE;
1556         }
1557
1558         UNLOCK_THREAD (thread);
1559
1560         if(ms== -1) {
1561                 ms=INFINITE;
1562         }
1563         THREAD_DEBUG (g_message ("%s: joining thread handle %p, %d ms", __func__, handle, ms));
1564
1565         mono_thread_set_state (cur_thread, ThreadState_WaitSleepJoin);
1566
1567         MONO_ENTER_GC_SAFE;
1568         ret=WaitForSingleObjectEx (handle, ms, TRUE);
1569         MONO_EXIT_GC_SAFE;
1570
1571         mono_thread_clr_state (cur_thread, ThreadState_WaitSleepJoin);
1572
1573         if(ret==WAIT_OBJECT_0) {
1574                 THREAD_DEBUG (g_message ("%s: join successful", __func__));
1575
1576                 return(TRUE);
1577         }
1578
1579         THREAD_DEBUG (g_message ("%s: join failed", __func__));
1580
1581         return(FALSE);
1582 }
1583
1584 #define MANAGED_WAIT_FAILED 0x7fffffff
1585
1586 static gint32
1587 map_native_wait_result_to_managed (gint32 val)
1588 {
1589         /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1590         return val == WAIT_FAILED ? MANAGED_WAIT_FAILED : val;
1591 }
1592
1593 static gint32
1594 mono_wait_uninterrupted (MonoInternalThread *thread, guint32 numhandles, gpointer *handles, gboolean waitall, gint32 ms, MonoError *error)
1595 {
1596         MonoException *exc;
1597         guint32 ret;
1598         gint64 start;
1599         gint32 diff_ms;
1600         gint32 wait = ms;
1601
1602         mono_error_init (error);
1603
1604         start = (ms == -1) ? 0 : mono_100ns_ticks ();
1605         do {
1606                 MONO_ENTER_GC_SAFE;
1607                 if (numhandles != 1)
1608                         ret = WaitForMultipleObjectsEx (numhandles, handles, waitall, wait, TRUE);
1609                 else
1610                         ret = WaitForSingleObjectEx (handles [0], ms, TRUE);
1611                 MONO_EXIT_GC_SAFE;
1612
1613                 if (ret != WAIT_IO_COMPLETION)
1614                         break;
1615
1616                 exc = mono_thread_execute_interruption ();
1617                 if (exc) {
1618                         mono_error_set_exception_instance (error, exc);
1619                         break;
1620                 }
1621
1622                 if (ms == -1)
1623                         continue;
1624
1625                 /* Re-calculate ms according to the time passed */
1626                 diff_ms = (gint32)((mono_100ns_ticks () - start) / 10000);
1627                 if (diff_ms >= ms) {
1628                         ret = WAIT_TIMEOUT;
1629                         break;
1630                 }
1631                 wait = ms - diff_ms;
1632         } while (TRUE);
1633
1634         return ret;
1635 }
1636
1637 gint32 ves_icall_System_Threading_WaitHandle_WaitAll_internal(MonoArray *mono_handles, gint32 ms)
1638 {
1639         MonoError error;
1640         HANDLE *handles;
1641         guint32 numhandles;
1642         guint32 ret;
1643         guint32 i;
1644         MonoObject *waitHandle;
1645         MonoInternalThread *thread = mono_thread_internal_current ();
1646
1647         /* Do this WaitSleepJoin check before creating objects */
1648         if (mono_thread_current_check_pending_interrupt ())
1649                 return map_native_wait_result_to_managed (WAIT_FAILED);
1650
1651         /* We fail in managed if the array has more than 64 elements */
1652         numhandles = (guint32)mono_array_length(mono_handles);
1653         handles = g_new0(HANDLE, numhandles);
1654
1655         for(i = 0; i < numhandles; i++) {
1656                 waitHandle = mono_array_get(mono_handles, MonoObject*, i);
1657                 handles [i] = mono_wait_handle_get_handle ((MonoWaitHandle *) waitHandle);
1658         }
1659
1660         if(ms== -1) {
1661                 ms=INFINITE;
1662         }
1663
1664         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1665
1666         ret = mono_wait_uninterrupted (thread, numhandles, handles, TRUE, ms, &error);
1667
1668         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1669
1670         g_free(handles);
1671
1672         mono_error_set_pending_exception (&error);
1673
1674         /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1675         return map_native_wait_result_to_managed (ret);
1676 }
1677
1678 gint32 ves_icall_System_Threading_WaitHandle_WaitAny_internal(MonoArray *mono_handles, gint32 ms)
1679 {
1680         MonoError error;
1681         HANDLE handles [MAXIMUM_WAIT_OBJECTS];
1682         uintptr_t numhandles;
1683         guint32 ret;
1684         guint32 i;
1685         MonoObject *waitHandle;
1686         MonoInternalThread *thread = mono_thread_internal_current ();
1687
1688         /* Do this WaitSleepJoin check before creating objects */
1689         if (mono_thread_current_check_pending_interrupt ())
1690                 return map_native_wait_result_to_managed (WAIT_FAILED);
1691
1692         numhandles = mono_array_length(mono_handles);
1693         if (numhandles > MAXIMUM_WAIT_OBJECTS)
1694                 return map_native_wait_result_to_managed (WAIT_FAILED);
1695
1696         for(i = 0; i < numhandles; i++) {
1697                 waitHandle = mono_array_get(mono_handles, MonoObject*, i);
1698                 handles [i] = mono_wait_handle_get_handle ((MonoWaitHandle *) waitHandle);
1699         }
1700
1701         if(ms== -1) {
1702                 ms=INFINITE;
1703         }
1704
1705         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1706
1707         ret = mono_wait_uninterrupted (thread, numhandles, handles, FALSE, ms, &error);
1708
1709         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1710
1711         THREAD_WAIT_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") returning %d", __func__, mono_native_thread_id_get (), ret));
1712
1713         mono_error_set_pending_exception (&error);
1714         /*
1715          * These need to be here.  See MSDN dos on WaitForMultipleObjects.
1716          */
1717         if (ret >= WAIT_OBJECT_0 && ret <= WAIT_OBJECT_0 + numhandles - 1) {
1718                 return map_native_wait_result_to_managed (ret - WAIT_OBJECT_0);
1719         }
1720         else if (ret >= WAIT_ABANDONED_0 && ret <= WAIT_ABANDONED_0 + numhandles - 1) {
1721                 return map_native_wait_result_to_managed (ret - WAIT_ABANDONED_0);
1722         }
1723         else {
1724                 /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1725                 return map_native_wait_result_to_managed (ret);
1726         }
1727 }
1728
1729 gint32 ves_icall_System_Threading_WaitHandle_WaitOne_internal(HANDLE handle, gint32 ms)
1730 {
1731         MonoError error;
1732         guint32 ret;
1733         MonoInternalThread *thread = mono_thread_internal_current ();
1734
1735         THREAD_WAIT_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") waiting for %p, %d ms", __func__, mono_native_thread_id_get (), handle, ms));
1736
1737         if(ms== -1) {
1738                 ms=INFINITE;
1739         }
1740
1741         if (mono_thread_current_check_pending_interrupt ())
1742                 return map_native_wait_result_to_managed (WAIT_FAILED);
1743
1744         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1745
1746         ret = mono_wait_uninterrupted (thread, 1, &handle, FALSE, ms, &error);
1747
1748         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1749
1750         mono_error_set_pending_exception (&error);
1751         return map_native_wait_result_to_managed (ret);
1752 }
1753
1754 gint32
1755 ves_icall_System_Threading_WaitHandle_SignalAndWait_Internal (HANDLE toSignal, HANDLE toWait, gint32 ms)
1756 {
1757         guint32 ret;
1758         MonoInternalThread *thread = mono_thread_internal_current ();
1759
1760         if (ms == -1)
1761                 ms = INFINITE;
1762
1763         if (mono_thread_current_check_pending_interrupt ())
1764                 return map_native_wait_result_to_managed (WAIT_FAILED);
1765
1766         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1767
1768         MONO_ENTER_GC_SAFE;
1769         ret = SignalObjectAndWait (toSignal, toWait, ms, TRUE);
1770         MONO_EXIT_GC_SAFE;
1771
1772         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1773
1774         return map_native_wait_result_to_managed (ret);
1775 }
1776
1777 HANDLE ves_icall_System_Threading_Mutex_CreateMutex_internal (MonoBoolean owned, MonoString *name, MonoBoolean *created)
1778 {
1779         HANDLE mutex;
1780
1781         *created = TRUE;
1782
1783         if (name == NULL) {
1784                 mutex = CreateMutex (NULL, owned, NULL);
1785         } else {
1786                 mutex = CreateMutex (NULL, owned, mono_string_chars (name));
1787
1788                 if (GetLastError () == ERROR_ALREADY_EXISTS) {
1789                         *created = FALSE;
1790                 }
1791         }
1792
1793         return(mutex);
1794 }
1795
1796 MonoBoolean ves_icall_System_Threading_Mutex_ReleaseMutex_internal (HANDLE handle ) {
1797         return(ReleaseMutex (handle));
1798 }
1799
1800 HANDLE ves_icall_System_Threading_Mutex_OpenMutex_internal (MonoString *name,
1801                                                             gint32 rights,
1802                                                             gint32 *error)
1803 {
1804         HANDLE ret;
1805
1806         *error = ERROR_SUCCESS;
1807
1808         ret = OpenMutex (rights, FALSE, mono_string_chars (name));
1809         if (ret == NULL) {
1810                 *error = GetLastError ();
1811         }
1812
1813         return(ret);
1814 }
1815
1816
1817 HANDLE ves_icall_System_Threading_Semaphore_CreateSemaphore_internal (gint32 initialCount, gint32 maximumCount, MonoString *name, MonoBoolean *created)
1818 {
1819         HANDLE sem;
1820
1821         *created = TRUE;
1822
1823         if (name == NULL) {
1824                 sem = CreateSemaphore (NULL, initialCount, maximumCount, NULL);
1825         } else {
1826                 sem = CreateSemaphore (NULL, initialCount, maximumCount,
1827                                        mono_string_chars (name));
1828
1829                 if (GetLastError () == ERROR_ALREADY_EXISTS) {
1830                         *created = FALSE;
1831                 }
1832         }
1833
1834         return(sem);
1835 }
1836
1837 gint32 ves_icall_System_Threading_Semaphore_ReleaseSemaphore_internal (HANDLE handle, gint32 releaseCount, MonoBoolean *fail)
1838 {
1839         gint32 prevcount;
1840
1841         *fail = !ReleaseSemaphore (handle, releaseCount, &prevcount);
1842
1843         return (prevcount);
1844 }
1845
1846 HANDLE ves_icall_System_Threading_Semaphore_OpenSemaphore_internal (MonoString *name, gint32 rights, gint32 *error)
1847 {
1848         HANDLE ret;
1849
1850         *error = ERROR_SUCCESS;
1851
1852         ret = OpenSemaphore (rights, FALSE, mono_string_chars (name));
1853         if (ret == NULL) {
1854                 *error = GetLastError ();
1855         }
1856
1857         return(ret);
1858 }
1859
1860 HANDLE ves_icall_System_Threading_Events_CreateEvent_internal (MonoBoolean manual, MonoBoolean initial, MonoString *name, MonoBoolean *created)
1861 {
1862         HANDLE event;
1863
1864         *created = TRUE;
1865
1866         if (name == NULL) {
1867                 event = CreateEvent (NULL, manual, initial, NULL);
1868         } else {
1869                 event = CreateEvent (NULL, manual, initial,
1870                                      mono_string_chars (name));
1871
1872                 if (GetLastError () == ERROR_ALREADY_EXISTS) {
1873                         *created = FALSE;
1874                 }
1875         }
1876
1877         return(event);
1878 }
1879
1880 gboolean ves_icall_System_Threading_Events_SetEvent_internal (HANDLE handle) {
1881         return (SetEvent(handle));
1882 }
1883
1884 gboolean ves_icall_System_Threading_Events_ResetEvent_internal (HANDLE handle) {
1885         return (ResetEvent(handle));
1886 }
1887
1888 void
1889 ves_icall_System_Threading_Events_CloseEvent_internal (HANDLE handle) {
1890         CloseHandle (handle);
1891 }
1892
1893 HANDLE ves_icall_System_Threading_Events_OpenEvent_internal (MonoString *name,
1894                                                              gint32 rights,
1895                                                              gint32 *error)
1896 {
1897         HANDLE ret;
1898
1899         *error = ERROR_SUCCESS;
1900
1901         ret = OpenEvent (rights, FALSE, mono_string_chars (name));
1902         if (ret == NULL) {
1903                 *error = GetLastError ();
1904         }
1905
1906         return(ret);
1907 }
1908
1909 gint32 ves_icall_System_Threading_Interlocked_Increment_Int (gint32 *location)
1910 {
1911         return InterlockedIncrement (location);
1912 }
1913
1914 gint64 ves_icall_System_Threading_Interlocked_Increment_Long (gint64 *location)
1915 {
1916 #if SIZEOF_VOID_P == 4
1917         if (G_UNLIKELY ((size_t)location & 0x7)) {
1918                 gint64 ret;
1919                 mono_interlocked_lock ();
1920                 (*location)++;
1921                 ret = *location;
1922                 mono_interlocked_unlock ();
1923                 return ret;
1924         }
1925 #endif
1926         return InterlockedIncrement64 (location);
1927 }
1928
1929 gint32 ves_icall_System_Threading_Interlocked_Decrement_Int (gint32 *location)
1930 {
1931         return InterlockedDecrement(location);
1932 }
1933
1934 gint64 ves_icall_System_Threading_Interlocked_Decrement_Long (gint64 * location)
1935 {
1936 #if SIZEOF_VOID_P == 4
1937         if (G_UNLIKELY ((size_t)location & 0x7)) {
1938                 gint64 ret;
1939                 mono_interlocked_lock ();
1940                 (*location)--;
1941                 ret = *location;
1942                 mono_interlocked_unlock ();
1943                 return ret;
1944         }
1945 #endif
1946         return InterlockedDecrement64 (location);
1947 }
1948
1949 gint32 ves_icall_System_Threading_Interlocked_Exchange_Int (gint32 *location, gint32 value)
1950 {
1951         return InterlockedExchange(location, value);
1952 }
1953
1954 MonoObject * ves_icall_System_Threading_Interlocked_Exchange_Object (MonoObject **location, MonoObject *value)
1955 {
1956         MonoObject *res;
1957         res = (MonoObject *) InterlockedExchangePointer((gpointer *) location, value);
1958         mono_gc_wbarrier_generic_nostore (location);
1959         return res;
1960 }
1961
1962 gpointer ves_icall_System_Threading_Interlocked_Exchange_IntPtr (gpointer *location, gpointer value)
1963 {
1964         return InterlockedExchangePointer(location, value);
1965 }
1966
1967 gfloat ves_icall_System_Threading_Interlocked_Exchange_Single (gfloat *location, gfloat value)
1968 {
1969         IntFloatUnion val, ret;
1970
1971         val.fval = value;
1972         ret.ival = InterlockedExchange((gint32 *) location, val.ival);
1973
1974         return ret.fval;
1975 }
1976
1977 gint64
1978 ves_icall_System_Threading_Interlocked_Exchange_Long (gint64 *location, gint64 value)
1979 {
1980 #if SIZEOF_VOID_P == 4
1981         if (G_UNLIKELY ((size_t)location & 0x7)) {
1982                 gint64 ret;
1983                 mono_interlocked_lock ();
1984                 ret = *location;
1985                 *location = value;
1986                 mono_interlocked_unlock ();
1987                 return ret;
1988         }
1989 #endif
1990         return InterlockedExchange64 (location, value);
1991 }
1992
1993 gdouble
1994 ves_icall_System_Threading_Interlocked_Exchange_Double (gdouble *location, gdouble value)
1995 {
1996         LongDoubleUnion val, ret;
1997
1998         val.fval = value;
1999         ret.ival = (gint64)InterlockedExchange64((gint64 *) location, val.ival);
2000
2001         return ret.fval;
2002 }
2003
2004 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int(gint32 *location, gint32 value, gint32 comparand)
2005 {
2006         return InterlockedCompareExchange(location, value, comparand);
2007 }
2008
2009 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int_Success(gint32 *location, gint32 value, gint32 comparand, MonoBoolean *success)
2010 {
2011         gint32 r = InterlockedCompareExchange(location, value, comparand);
2012         *success = r == comparand;
2013         return r;
2014 }
2015
2016 MonoObject * ves_icall_System_Threading_Interlocked_CompareExchange_Object (MonoObject **location, MonoObject *value, MonoObject *comparand)
2017 {
2018         MonoObject *res;
2019         res = (MonoObject *) InterlockedCompareExchangePointer((gpointer *) location, value, comparand);
2020         mono_gc_wbarrier_generic_nostore (location);
2021         return res;
2022 }
2023
2024 gpointer ves_icall_System_Threading_Interlocked_CompareExchange_IntPtr(gpointer *location, gpointer value, gpointer comparand)
2025 {
2026         return InterlockedCompareExchangePointer(location, value, comparand);
2027 }
2028
2029 gfloat ves_icall_System_Threading_Interlocked_CompareExchange_Single (gfloat *location, gfloat value, gfloat comparand)
2030 {
2031         IntFloatUnion val, ret, cmp;
2032
2033         val.fval = value;
2034         cmp.fval = comparand;
2035         ret.ival = InterlockedCompareExchange((gint32 *) location, val.ival, cmp.ival);
2036
2037         return ret.fval;
2038 }
2039
2040 gdouble
2041 ves_icall_System_Threading_Interlocked_CompareExchange_Double (gdouble *location, gdouble value, gdouble comparand)
2042 {
2043 #if SIZEOF_VOID_P == 8
2044         LongDoubleUnion val, comp, ret;
2045
2046         val.fval = value;
2047         comp.fval = comparand;
2048         ret.ival = (gint64)InterlockedCompareExchangePointer((gpointer *) location, (gpointer)val.ival, (gpointer)comp.ival);
2049
2050         return ret.fval;
2051 #else
2052         gdouble old;
2053
2054         mono_interlocked_lock ();
2055         old = *location;
2056         if (old == comparand)
2057                 *location = value;
2058         mono_interlocked_unlock ();
2059
2060         return old;
2061 #endif
2062 }
2063
2064 gint64
2065 ves_icall_System_Threading_Interlocked_CompareExchange_Long (gint64 *location, gint64 value, gint64 comparand)
2066 {
2067 #if SIZEOF_VOID_P == 4
2068         if (G_UNLIKELY ((size_t)location & 0x7)) {
2069                 gint64 old;
2070                 mono_interlocked_lock ();
2071                 old = *location;
2072                 if (old == comparand)
2073                         *location = value;
2074                 mono_interlocked_unlock ();
2075                 return old;
2076         }
2077 #endif
2078         return InterlockedCompareExchange64 (location, value, comparand);
2079 }
2080
2081 MonoObject*
2082 ves_icall_System_Threading_Interlocked_CompareExchange_T (MonoObject **location, MonoObject *value, MonoObject *comparand)
2083 {
2084         MonoObject *res;
2085         res = (MonoObject *)InterlockedCompareExchangePointer ((volatile gpointer *)location, value, comparand);
2086         mono_gc_wbarrier_generic_nostore (location);
2087         return res;
2088 }
2089
2090 MonoObject*
2091 ves_icall_System_Threading_Interlocked_Exchange_T (MonoObject **location, MonoObject *value)
2092 {
2093         MonoObject *res;
2094         MONO_CHECK_NULL (location, NULL);
2095         res = (MonoObject *)InterlockedExchangePointer ((volatile gpointer *)location, value);
2096         mono_gc_wbarrier_generic_nostore (location);
2097         return res;
2098 }
2099
2100 gint32
2101 ves_icall_System_Threading_Interlocked_Add_Int (gint32 *location, gint32 value)
2102 {
2103         return InterlockedAdd (location, value);
2104 }
2105
2106 gint64
2107 ves_icall_System_Threading_Interlocked_Add_Long (gint64 *location, gint64 value)
2108 {
2109 #if SIZEOF_VOID_P == 4
2110         if (G_UNLIKELY ((size_t)location & 0x7)) {
2111                 gint64 ret;
2112                 mono_interlocked_lock ();
2113                 *location += value;
2114                 ret = *location;
2115                 mono_interlocked_unlock ();
2116                 return ret;
2117         }
2118 #endif
2119         return InterlockedAdd64 (location, value);
2120 }
2121
2122 gint64
2123 ves_icall_System_Threading_Interlocked_Read_Long (gint64 *location)
2124 {
2125 #if SIZEOF_VOID_P == 4
2126         if (G_UNLIKELY ((size_t)location & 0x7)) {
2127                 gint64 ret;
2128                 mono_interlocked_lock ();
2129                 ret = *location;
2130                 mono_interlocked_unlock ();
2131                 return ret;
2132         }
2133 #endif
2134         return InterlockedRead64 (location);
2135 }
2136
2137 void
2138 ves_icall_System_Threading_Thread_MemoryBarrier (void)
2139 {
2140         mono_memory_barrier ();
2141 }
2142
2143 void
2144 ves_icall_System_Threading_Thread_ClrState (MonoInternalThread* this_obj, guint32 state)
2145 {
2146         mono_thread_clr_state (this_obj, (MonoThreadState)state);
2147
2148         if (state & ThreadState_Background) {
2149                 /* If the thread changes the background mode, the main thread has to
2150                  * be notified, since it has to rebuild the list of threads to
2151                  * wait for.
2152                  */
2153                 SetEvent (background_change_event);
2154         }
2155 }
2156
2157 void
2158 ves_icall_System_Threading_Thread_SetState (MonoInternalThread* this_obj, guint32 state)
2159 {
2160         mono_thread_set_state (this_obj, (MonoThreadState)state);
2161
2162         if (state & ThreadState_Background) {
2163                 /* If the thread changes the background mode, the main thread has to
2164                  * be notified, since it has to rebuild the list of threads to
2165                  * wait for.
2166                  */
2167                 SetEvent (background_change_event);
2168         }
2169 }
2170
2171 guint32
2172 ves_icall_System_Threading_Thread_GetState (MonoInternalThread* this_obj)
2173 {
2174         guint32 state;
2175
2176         LOCK_THREAD (this_obj);
2177
2178         state = this_obj->state;
2179
2180         UNLOCK_THREAD (this_obj);
2181
2182         return state;
2183 }
2184
2185 void ves_icall_System_Threading_Thread_Interrupt_internal (MonoThread *this_obj)
2186 {
2187         MonoInternalThread *current;
2188         gboolean throw_;
2189         MonoInternalThread *thread = this_obj->internal_thread;
2190
2191         LOCK_THREAD (thread);
2192
2193         current = mono_thread_internal_current ();
2194
2195         thread->thread_interrupt_requested = TRUE;
2196         throw_ = current != thread && (thread->state & ThreadState_WaitSleepJoin);
2197
2198         UNLOCK_THREAD (thread);
2199
2200         if (throw_) {
2201                 async_abort_internal (thread, FALSE);
2202         }
2203 }
2204
2205 /**
2206  * mono_thread_current_check_pending_interrupt:
2207  *
2208  * Checks if there's a interruption request and set the pending exception if so.
2209  *
2210  * @returns true if a pending exception was set
2211  */
2212 gboolean
2213 mono_thread_current_check_pending_interrupt (void)
2214 {
2215         MonoInternalThread *thread = mono_thread_internal_current ();
2216         gboolean throw_ = FALSE;
2217
2218         LOCK_THREAD (thread);
2219
2220         if (thread->thread_interrupt_requested) {
2221                 throw_ = TRUE;
2222                 thread->thread_interrupt_requested = FALSE;
2223         }
2224
2225         UNLOCK_THREAD (thread);
2226
2227         if (throw_)
2228                 mono_set_pending_exception (mono_get_exception_thread_interrupted ());
2229         return throw_;
2230 }
2231
2232 static gboolean
2233 request_thread_abort (MonoInternalThread *thread, MonoObject *state)
2234 {
2235         LOCK_THREAD (thread);
2236
2237         if ((thread->state & ThreadState_AbortRequested) != 0 ||
2238                 (thread->state & ThreadState_StopRequested) != 0 ||
2239                 (thread->state & ThreadState_Stopped) != 0)
2240         {
2241                 UNLOCK_THREAD (thread);
2242                 return FALSE;
2243         }
2244
2245         if ((thread->state & ThreadState_Unstarted) != 0) {
2246                 thread->state |= ThreadState_Aborted;
2247                 UNLOCK_THREAD (thread);
2248                 return FALSE;
2249         }
2250
2251         thread->state |= ThreadState_AbortRequested;
2252         if (thread->abort_state_handle)
2253                 mono_gchandle_free (thread->abort_state_handle);
2254         if (state) {
2255                 thread->abort_state_handle = mono_gchandle_new (state, FALSE);
2256                 g_assert (thread->abort_state_handle);
2257         } else {
2258                 thread->abort_state_handle = 0;
2259         }
2260         thread->abort_exc = NULL;
2261
2262         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Abort requested for %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), thread, (gsize)thread->tid));
2263
2264         /* During shutdown, we can't wait for other threads */
2265         if (!shutting_down)
2266                 /* Make sure the thread is awake */
2267                 mono_thread_resume (thread);
2268
2269         UNLOCK_THREAD (thread);
2270         return TRUE;
2271 }
2272
2273 void
2274 ves_icall_System_Threading_Thread_Abort (MonoInternalThread *thread, MonoObject *state)
2275 {
2276         if (!request_thread_abort (thread, state))
2277                 return;
2278
2279         if (thread == mono_thread_internal_current ()) {
2280                 MonoError error;
2281                 self_abort_internal (&error);
2282                 mono_error_set_pending_exception (&error);
2283         } else {
2284                 async_abort_internal (thread, TRUE);
2285         }
2286 }
2287
2288 /**
2289  * mono_thread_internal_abort:
2290  *
2291  * Request thread @thread to be aborted.
2292  *
2293  * @thread MUST NOT be the current thread.
2294  */
2295 void
2296 mono_thread_internal_abort (MonoInternalThread *thread)
2297 {
2298         g_assert (thread != mono_thread_internal_current ());
2299
2300         if (!request_thread_abort (thread, NULL))
2301                 return;
2302         async_abort_internal (thread, TRUE);
2303 }
2304
2305 void
2306 ves_icall_System_Threading_Thread_ResetAbort (MonoThread *this_obj)
2307 {
2308         MonoInternalThread *thread = mono_thread_internal_current ();
2309         gboolean was_aborting;
2310
2311         LOCK_THREAD (thread);
2312         was_aborting = thread->state & ThreadState_AbortRequested;
2313         thread->state &= ~ThreadState_AbortRequested;
2314         UNLOCK_THREAD (thread);
2315
2316         if (!was_aborting) {
2317                 const char *msg = "Unable to reset abort because no abort was requested";
2318                 mono_set_pending_exception (mono_get_exception_thread_state (msg));
2319                 return;
2320         }
2321         thread->abort_exc = NULL;
2322         if (thread->abort_state_handle) {
2323                 mono_gchandle_free (thread->abort_state_handle);
2324                 /* This is actually not necessary - the handle
2325                    only counts if the exception is set */
2326                 thread->abort_state_handle = 0;
2327         }
2328 }
2329
2330 void
2331 mono_thread_internal_reset_abort (MonoInternalThread *thread)
2332 {
2333         LOCK_THREAD (thread);
2334
2335         thread->state &= ~ThreadState_AbortRequested;
2336
2337         if (thread->abort_exc) {
2338                 thread->abort_exc = NULL;
2339                 if (thread->abort_state_handle) {
2340                         mono_gchandle_free (thread->abort_state_handle);
2341                         /* This is actually not necessary - the handle
2342                            only counts if the exception is set */
2343                         thread->abort_state_handle = 0;
2344                 }
2345         }
2346
2347         UNLOCK_THREAD (thread);
2348 }
2349
2350 MonoObject*
2351 ves_icall_System_Threading_Thread_GetAbortExceptionState (MonoThread *this_obj)
2352 {
2353         MonoError error;
2354         MonoInternalThread *thread = this_obj->internal_thread;
2355         MonoObject *state, *deserialized = NULL;
2356         MonoDomain *domain;
2357
2358         if (!thread->abort_state_handle)
2359                 return NULL;
2360
2361         state = mono_gchandle_get_target (thread->abort_state_handle);
2362         g_assert (state);
2363
2364         domain = mono_domain_get ();
2365         if (mono_object_domain (state) == domain)
2366                 return state;
2367
2368         deserialized = mono_object_xdomain_representation (state, domain, &error);
2369
2370         if (!deserialized) {
2371                 MonoException *invalid_op_exc = mono_get_exception_invalid_operation ("Thread.ExceptionState cannot access an ExceptionState from a different AppDomain");
2372                 if (!is_ok (&error)) {
2373                         MonoObject *exc = (MonoObject*)mono_error_convert_to_exception (&error);
2374                         MONO_OBJECT_SETREF (invalid_op_exc, inner_ex, exc);
2375                 }
2376                 mono_set_pending_exception (invalid_op_exc);
2377                 return NULL;
2378         }
2379
2380         return deserialized;
2381 }
2382
2383 static gboolean
2384 mono_thread_suspend (MonoInternalThread *thread)
2385 {
2386         LOCK_THREAD (thread);
2387
2388         if ((thread->state & ThreadState_Unstarted) != 0 ||
2389                 (thread->state & ThreadState_Aborted) != 0 ||
2390                 (thread->state & ThreadState_Stopped) != 0)
2391         {
2392                 UNLOCK_THREAD (thread);
2393                 return FALSE;
2394         }
2395
2396         if ((thread->state & ThreadState_Suspended) != 0 ||
2397                 (thread->state & ThreadState_SuspendRequested) != 0 ||
2398                 (thread->state & ThreadState_StopRequested) != 0)
2399         {
2400                 UNLOCK_THREAD (thread);
2401                 return TRUE;
2402         }
2403
2404         thread->state |= ThreadState_SuspendRequested;
2405
2406         if (thread == mono_thread_internal_current ()) {
2407                 /* calls UNLOCK_THREAD (thread) */
2408                 self_suspend_internal ();
2409         } else {
2410                 /* calls UNLOCK_THREAD (thread) */
2411                 async_suspend_internal (thread, FALSE);
2412         }
2413
2414         return TRUE;
2415 }
2416
2417 void
2418 ves_icall_System_Threading_Thread_Suspend (MonoThread *this_obj)
2419 {
2420         if (!mono_thread_suspend (this_obj->internal_thread)) {
2421                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2422                 return;
2423         }
2424 }
2425
2426 /* LOCKING: LOCK_THREAD(thread) must be held */
2427 static gboolean
2428 mono_thread_resume (MonoInternalThread *thread)
2429 {
2430         if ((thread->state & ThreadState_SuspendRequested) != 0) {
2431                 thread->state &= ~ThreadState_SuspendRequested;
2432                 return TRUE;
2433         }
2434
2435         if ((thread->state & ThreadState_Suspended) == 0 ||
2436                 (thread->state & ThreadState_Unstarted) != 0 ||
2437                 (thread->state & ThreadState_Aborted) != 0 ||
2438                 (thread->state & ThreadState_Stopped) != 0)
2439         {
2440                 return FALSE;
2441         }
2442
2443         UNLOCK_THREAD (thread);
2444
2445         /* Awake the thread */
2446         if (!mono_thread_info_resume (thread_get_tid (thread)))
2447                 return FALSE;
2448
2449         LOCK_THREAD (thread);
2450
2451         thread->state &= ~ThreadState_Suspended;
2452
2453         return TRUE;
2454 }
2455
2456 void
2457 ves_icall_System_Threading_Thread_Resume (MonoThread *thread)
2458 {
2459         if (!thread->internal_thread) {
2460                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2461         } else {
2462                 LOCK_THREAD (thread->internal_thread);
2463                 if (!mono_thread_resume (thread->internal_thread))
2464                         mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2465                 UNLOCK_THREAD (thread->internal_thread);
2466         }
2467 }
2468
2469 static gboolean
2470 mono_threads_is_critical_method (MonoMethod *method)
2471 {
2472         switch (method->wrapper_type) {
2473         case MONO_WRAPPER_RUNTIME_INVOKE:
2474         case MONO_WRAPPER_XDOMAIN_INVOKE:
2475         case MONO_WRAPPER_XDOMAIN_DISPATCH:
2476                 return TRUE;
2477         }
2478         return FALSE;
2479 }
2480
2481 static gboolean
2482 find_wrapper (MonoMethod *m, gint no, gint ilo, gboolean managed, gpointer data)
2483 {
2484         if (managed)
2485                 return TRUE;
2486
2487         if (mono_threads_is_critical_method (m)) {
2488                 *((gboolean*)data) = TRUE;
2489                 return TRUE;
2490         }
2491         return FALSE;
2492 }
2493
2494 static gboolean
2495 is_running_protected_wrapper (void)
2496 {
2497         gboolean found = FALSE;
2498         mono_stack_walk (find_wrapper, &found);
2499         return found;
2500 }
2501
2502 static gboolean
2503 request_thread_stop (MonoInternalThread *thread)
2504 {
2505         LOCK_THREAD (thread);
2506
2507         if ((thread->state & ThreadState_StopRequested) != 0 ||
2508                 (thread->state & ThreadState_Stopped) != 0)
2509         {
2510                 UNLOCK_THREAD (thread);
2511                 return FALSE;
2512         }
2513
2514         /* Make sure the thread is awake */
2515         mono_thread_resume (thread);
2516
2517         thread->state |= ThreadState_StopRequested;
2518         thread->state &= ~ThreadState_AbortRequested;
2519
2520         UNLOCK_THREAD (thread);
2521         return TRUE;
2522 }
2523
2524 /**
2525  * mono_thread_internal_stop:
2526  *
2527  * Request thread @thread to stop.
2528  *
2529  * @thread MUST NOT be the current thread.
2530  */
2531 void
2532 mono_thread_internal_stop (MonoInternalThread *thread)
2533 {
2534         g_assert (thread != mono_thread_internal_current ());
2535
2536         if (!request_thread_stop (thread))
2537                 return;
2538
2539         async_abort_internal (thread, TRUE);
2540 }
2541
2542 void mono_thread_stop (MonoThread *thread)
2543 {
2544         MonoInternalThread *internal = thread->internal_thread;
2545
2546         if (!request_thread_stop (internal))
2547                 return;
2548
2549         if (internal == mono_thread_internal_current ()) {
2550                 MonoError error;
2551                 self_abort_internal (&error);
2552                 /*
2553                 This function is part of the embeding API and has no way to return the exception
2554                 to be thrown. So what we do is keep the old behavior and raise the exception.
2555                 */
2556                 mono_error_raise_exception (&error);
2557         } else {
2558                 async_abort_internal (internal, TRUE);
2559         }
2560 }
2561
2562 gint8
2563 ves_icall_System_Threading_Thread_VolatileRead1 (void *ptr)
2564 {
2565         gint8 tmp = *(volatile gint8 *)ptr;
2566         mono_memory_barrier ();
2567         return tmp;
2568 }
2569
2570 gint16
2571 ves_icall_System_Threading_Thread_VolatileRead2 (void *ptr)
2572 {
2573         gint16 tmp = *(volatile gint16 *)ptr;
2574         mono_memory_barrier ();
2575         return tmp;
2576 }
2577
2578 gint32
2579 ves_icall_System_Threading_Thread_VolatileRead4 (void *ptr)
2580 {
2581         gint32 tmp = *(volatile gint32 *)ptr;
2582         mono_memory_barrier ();
2583         return tmp;
2584 }
2585
2586 gint64
2587 ves_icall_System_Threading_Thread_VolatileRead8 (void *ptr)
2588 {
2589         gint64 tmp = *(volatile gint64 *)ptr;
2590         mono_memory_barrier ();
2591         return tmp;
2592 }
2593
2594 void *
2595 ves_icall_System_Threading_Thread_VolatileReadIntPtr (void *ptr)
2596 {
2597         volatile void *tmp = *(volatile void **)ptr;
2598         mono_memory_barrier ();
2599         return (void *) tmp;
2600 }
2601
2602 void *
2603 ves_icall_System_Threading_Thread_VolatileReadObject (void *ptr)
2604 {
2605         volatile MonoObject *tmp = *(volatile MonoObject **)ptr;
2606         mono_memory_barrier ();
2607         return (MonoObject *) tmp;
2608 }
2609
2610 double
2611 ves_icall_System_Threading_Thread_VolatileReadDouble (void *ptr)
2612 {
2613         double tmp = *(volatile double *)ptr;
2614         mono_memory_barrier ();
2615         return tmp;
2616 }
2617
2618 float
2619 ves_icall_System_Threading_Thread_VolatileReadFloat (void *ptr)
2620 {
2621         float tmp = *(volatile float *)ptr;
2622         mono_memory_barrier ();
2623         return tmp;
2624 }
2625
2626 gint8
2627 ves_icall_System_Threading_Volatile_Read1 (void *ptr)
2628 {
2629         return InterlockedRead8 ((volatile gint8 *)ptr);
2630 }
2631
2632 gint16
2633 ves_icall_System_Threading_Volatile_Read2 (void *ptr)
2634 {
2635         return InterlockedRead16 ((volatile gint16 *)ptr);
2636 }
2637
2638 gint32
2639 ves_icall_System_Threading_Volatile_Read4 (void *ptr)
2640 {
2641         return InterlockedRead ((volatile gint32 *)ptr);
2642 }
2643
2644 gint64
2645 ves_icall_System_Threading_Volatile_Read8 (void *ptr)
2646 {
2647 #if SIZEOF_VOID_P == 4
2648         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2649                 gint64 val;
2650                 mono_interlocked_lock ();
2651                 val = *(gint64*)ptr;
2652                 mono_interlocked_unlock ();
2653                 return val;
2654         }
2655 #endif
2656         return InterlockedRead64 ((volatile gint64 *)ptr);
2657 }
2658
2659 void *
2660 ves_icall_System_Threading_Volatile_ReadIntPtr (void *ptr)
2661 {
2662         return InterlockedReadPointer ((volatile gpointer *)ptr);
2663 }
2664
2665 double
2666 ves_icall_System_Threading_Volatile_ReadDouble (void *ptr)
2667 {
2668         LongDoubleUnion u;
2669
2670 #if SIZEOF_VOID_P == 4
2671         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2672                 double val;
2673                 mono_interlocked_lock ();
2674                 val = *(double*)ptr;
2675                 mono_interlocked_unlock ();
2676                 return val;
2677         }
2678 #endif
2679
2680         u.ival = InterlockedRead64 ((volatile gint64 *)ptr);
2681
2682         return u.fval;
2683 }
2684
2685 float
2686 ves_icall_System_Threading_Volatile_ReadFloat (void *ptr)
2687 {
2688         IntFloatUnion u;
2689
2690         u.ival = InterlockedRead ((volatile gint32 *)ptr);
2691
2692         return u.fval;
2693 }
2694
2695 MonoObject*
2696 ves_icall_System_Threading_Volatile_Read_T (void *ptr)
2697 {
2698         return (MonoObject *)InterlockedReadPointer ((volatile gpointer *)ptr);
2699 }
2700
2701 void
2702 ves_icall_System_Threading_Thread_VolatileWrite1 (void *ptr, gint8 value)
2703 {
2704         mono_memory_barrier ();
2705         *(volatile gint8 *)ptr = value;
2706 }
2707
2708 void
2709 ves_icall_System_Threading_Thread_VolatileWrite2 (void *ptr, gint16 value)
2710 {
2711         mono_memory_barrier ();
2712         *(volatile gint16 *)ptr = value;
2713 }
2714
2715 void
2716 ves_icall_System_Threading_Thread_VolatileWrite4 (void *ptr, gint32 value)
2717 {
2718         mono_memory_barrier ();
2719         *(volatile gint32 *)ptr = value;
2720 }
2721
2722 void
2723 ves_icall_System_Threading_Thread_VolatileWrite8 (void *ptr, gint64 value)
2724 {
2725         mono_memory_barrier ();
2726         *(volatile gint64 *)ptr = value;
2727 }
2728
2729 void
2730 ves_icall_System_Threading_Thread_VolatileWriteIntPtr (void *ptr, void *value)
2731 {
2732         mono_memory_barrier ();
2733         *(volatile void **)ptr = value;
2734 }
2735
2736 void
2737 ves_icall_System_Threading_Thread_VolatileWriteObject (void *ptr, MonoObject *value)
2738 {
2739         mono_memory_barrier ();
2740         mono_gc_wbarrier_generic_store (ptr, value);
2741 }
2742
2743 void
2744 ves_icall_System_Threading_Thread_VolatileWriteDouble (void *ptr, double value)
2745 {
2746         mono_memory_barrier ();
2747         *(volatile double *)ptr = value;
2748 }
2749
2750 void
2751 ves_icall_System_Threading_Thread_VolatileWriteFloat (void *ptr, float value)
2752 {
2753         mono_memory_barrier ();
2754         *(volatile float *)ptr = value;
2755 }
2756
2757 void
2758 ves_icall_System_Threading_Volatile_Write1 (void *ptr, gint8 value)
2759 {
2760         InterlockedWrite8 ((volatile gint8 *)ptr, value);
2761 }
2762
2763 void
2764 ves_icall_System_Threading_Volatile_Write2 (void *ptr, gint16 value)
2765 {
2766         InterlockedWrite16 ((volatile gint16 *)ptr, value);
2767 }
2768
2769 void
2770 ves_icall_System_Threading_Volatile_Write4 (void *ptr, gint32 value)
2771 {
2772         InterlockedWrite ((volatile gint32 *)ptr, value);
2773 }
2774
2775 void
2776 ves_icall_System_Threading_Volatile_Write8 (void *ptr, gint64 value)
2777 {
2778 #if SIZEOF_VOID_P == 4
2779         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2780                 mono_interlocked_lock ();
2781                 *(gint64*)ptr = value;
2782                 mono_interlocked_unlock ();
2783                 return;
2784         }
2785 #endif
2786
2787         InterlockedWrite64 ((volatile gint64 *)ptr, value);
2788 }
2789
2790 void
2791 ves_icall_System_Threading_Volatile_WriteIntPtr (void *ptr, void *value)
2792 {
2793         InterlockedWritePointer ((volatile gpointer *)ptr, value);
2794 }
2795
2796 void
2797 ves_icall_System_Threading_Volatile_WriteDouble (void *ptr, double value)
2798 {
2799         LongDoubleUnion u;
2800
2801 #if SIZEOF_VOID_P == 4
2802         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2803                 mono_interlocked_lock ();
2804                 *(double*)ptr = value;
2805                 mono_interlocked_unlock ();
2806                 return;
2807         }
2808 #endif
2809
2810         u.fval = value;
2811
2812         InterlockedWrite64 ((volatile gint64 *)ptr, u.ival);
2813 }
2814
2815 void
2816 ves_icall_System_Threading_Volatile_WriteFloat (void *ptr, float value)
2817 {
2818         IntFloatUnion u;
2819
2820         u.fval = value;
2821
2822         InterlockedWrite ((volatile gint32 *)ptr, u.ival);
2823 }
2824
2825 void
2826 ves_icall_System_Threading_Volatile_Write_T (void *ptr, MonoObject *value)
2827 {
2828         mono_gc_wbarrier_generic_store_atomic (ptr, value);
2829 }
2830
2831 static void
2832 free_context (void *user_data)
2833 {
2834         ContextStaticData *data = user_data;
2835
2836         mono_threads_lock ();
2837
2838         /*
2839          * There is no guarantee that, by the point this reference queue callback
2840          * has been invoked, the GC handle associated with the object will fail to
2841          * resolve as one might expect. So if we don't free and remove the GC
2842          * handle here, free_context_static_data_helper () could end up resolving
2843          * a GC handle to an actually-dead context which would contain a pointer
2844          * to an already-freed static data segment, resulting in a crash when
2845          * accessing it.
2846          */
2847         g_hash_table_remove (contexts, GUINT_TO_POINTER (data->gc_handle));
2848
2849         mono_threads_unlock ();
2850
2851         mono_gchandle_free (data->gc_handle);
2852         mono_free_static_data (data->static_data);
2853         g_free (data);
2854 }
2855
2856 void
2857 ves_icall_System_Runtime_Remoting_Contexts_Context_RegisterContext (MonoAppContext *ctx)
2858 {
2859         mono_threads_lock ();
2860
2861         //g_print ("Registering context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2862
2863         if (!contexts)
2864                 contexts = g_hash_table_new (NULL, NULL);
2865
2866         if (!context_queue)
2867                 context_queue = mono_gc_reference_queue_new (free_context);
2868
2869         gpointer gch = GUINT_TO_POINTER (mono_gchandle_new_weakref (&ctx->obj, FALSE));
2870         g_hash_table_insert (contexts, gch, gch);
2871
2872         /*
2873          * We use this intermediate structure to contain a duplicate pointer to
2874          * the static data because we can't rely on being able to resolve the GC
2875          * handle in the reference queue callback.
2876          */
2877         ContextStaticData *data = g_new0 (ContextStaticData, 1);
2878         data->gc_handle = GPOINTER_TO_UINT (gch);
2879         ctx->data = data;
2880
2881         context_adjust_static_data (ctx);
2882         mono_gc_reference_queue_add (context_queue, &ctx->obj, data);
2883
2884         mono_threads_unlock ();
2885
2886         mono_profiler_context_loaded (ctx);
2887 }
2888
2889 void
2890 ves_icall_System_Runtime_Remoting_Contexts_Context_ReleaseContext (MonoAppContext *ctx)
2891 {
2892         /*
2893          * NOTE: Since finalizers are unreliable for the purposes of ensuring
2894          * cleanup in exceptional circumstances, we don't actually do any
2895          * cleanup work here. We instead do this via a reference queue.
2896          */
2897
2898         //g_print ("Releasing context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2899
2900         mono_profiler_context_unloaded (ctx);
2901 }
2902
2903 void
2904 mono_thread_init_tls (void)
2905 {
2906         MONO_FAST_TLS_INIT (tls_current_object);
2907         mono_native_tls_alloc (&current_object_key, NULL);
2908 }
2909
2910 void mono_thread_init (MonoThreadStartCB start_cb,
2911                        MonoThreadAttachCB attach_cb)
2912 {
2913         mono_coop_mutex_init_recursive (&threads_mutex);
2914
2915         mono_os_mutex_init_recursive(&interlocked_mutex);
2916         mono_os_mutex_init_recursive(&joinable_threads_mutex);
2917
2918         background_change_event = CreateEvent (NULL, TRUE, FALSE, NULL);
2919         g_assert(background_change_event != NULL);
2920
2921         mono_init_static_data_info (&thread_static_info);
2922         mono_init_static_data_info (&context_static_info);
2923
2924         THREAD_DEBUG (g_message ("%s: Allocated current_object_key %d", __func__, current_object_key));
2925
2926         mono_thread_start_cb = start_cb;
2927         mono_thread_attach_cb = attach_cb;
2928
2929         /* Get a pseudo handle to the current process.  This is just a
2930          * kludge so that wapi can build a process handle if needed.
2931          * As a pseudo handle is returned, we don't need to clean
2932          * anything up.
2933          */
2934         GetCurrentProcess ();
2935 }
2936
2937 void mono_thread_cleanup (void)
2938 {
2939 #if !defined(HOST_WIN32) && !defined(RUN_IN_SUBTHREAD)
2940         MonoThreadInfo *info;
2941
2942         /* The main thread must abandon any held mutexes (particularly
2943          * important for named mutexes as they are shared across
2944          * processes, see bug 74680.)  This will happen when the
2945          * thread exits, but if it's not running in a subthread it
2946          * won't exit in time.
2947          */
2948         info = mono_thread_info_current ();
2949         wapi_thread_handle_set_exited (info->handle, mono_environment_exitcode_get ());
2950 #endif
2951
2952 #if 0
2953         /* This stuff needs more testing, it seems one of these
2954          * critical sections can be locked when mono_thread_cleanup is
2955          * called.
2956          */
2957         mono_coop_mutex_destroy (&threads_mutex);
2958         mono_os_mutex_destroy (&interlocked_mutex);
2959         mono_os_mutex_destroy (&delayed_free_table_mutex);
2960         mono_os_mutex_destroy (&small_id_mutex);
2961         CloseHandle (background_change_event);
2962 #endif
2963
2964         mono_native_tls_free (current_object_key);
2965 }
2966
2967 void
2968 mono_threads_install_cleanup (MonoThreadCleanupFunc func)
2969 {
2970         mono_thread_cleanup_fn = func;
2971 }
2972
2973 void
2974 mono_thread_set_manage_callback (MonoThread *thread, MonoThreadManageCallback func)
2975 {
2976         thread->internal_thread->manage_callback = func;
2977 }
2978
2979 G_GNUC_UNUSED
2980 static void print_tids (gpointer key, gpointer value, gpointer user)
2981 {
2982         /* GPOINTER_TO_UINT breaks horribly if sizeof(void *) >
2983          * sizeof(uint) and a cast to uint would overflow
2984          */
2985         /* Older versions of glib don't have G_GSIZE_FORMAT, so just
2986          * print this as a pointer.
2987          */
2988         g_message ("Waiting for: %p", key);
2989 }
2990
2991 struct wait_data
2992 {
2993         HANDLE handles[MAXIMUM_WAIT_OBJECTS];
2994         MonoInternalThread *threads[MAXIMUM_WAIT_OBJECTS];
2995         guint32 num;
2996 };
2997
2998 static void wait_for_tids (struct wait_data *wait, guint32 timeout)
2999 {
3000         guint32 i, ret;
3001
3002         THREAD_DEBUG (g_message("%s: %d threads to wait for in this batch", __func__, wait->num));
3003
3004         MONO_ENTER_GC_SAFE;
3005         ret=WaitForMultipleObjectsEx(wait->num, wait->handles, TRUE, timeout, TRUE);
3006         MONO_EXIT_GC_SAFE;
3007
3008         if(ret==WAIT_FAILED) {
3009                 /* See the comment in build_wait_tids() */
3010                 THREAD_DEBUG (g_message ("%s: Wait failed", __func__));
3011                 return;
3012         }
3013
3014         for(i=0; i<wait->num; i++)
3015                 CloseHandle (wait->handles[i]);
3016
3017         if (ret == WAIT_TIMEOUT)
3018                 return;
3019
3020         for(i=0; i<wait->num; i++) {
3021                 gsize tid = wait->threads[i]->tid;
3022
3023                 /*
3024                  * On !win32, when the thread handle becomes signalled, it just means the thread has exited user code,
3025                  * it can still run io-layer etc. code. So wait for it to really exit.
3026                  * FIXME: This won't join threads which are not in the joinable_hash yet.
3027                  */
3028                 mono_thread_join ((gpointer)tid);
3029
3030                 mono_threads_lock ();
3031                 if(mono_g_hash_table_lookup (threads, (gpointer)tid)!=NULL) {
3032                         /* This thread must have been killed, because
3033                          * it hasn't cleaned itself up. (It's just
3034                          * possible that the thread exited before the
3035                          * parent thread had a chance to store the
3036                          * handle, and now there is another pointer to
3037                          * the already-exited thread stored.  In this
3038                          * case, we'll just get two
3039                          * mono_profiler_thread_end() calls for the
3040                          * same thread.)
3041                          */
3042
3043                         mono_threads_unlock ();
3044                         THREAD_DEBUG (g_message ("%s: cleaning up after thread %p (%"G_GSIZE_FORMAT")", __func__, wait->threads[i], tid));
3045                         thread_cleanup (wait->threads[i]);
3046                 } else {
3047                         mono_threads_unlock ();
3048                 }
3049         }
3050 }
3051
3052 static void wait_for_tids_or_state_change (struct wait_data *wait, guint32 timeout)
3053 {
3054         guint32 i, ret, count;
3055
3056         THREAD_DEBUG (g_message("%s: %d threads to wait for in this batch", __func__, wait->num));
3057
3058         /* Add the thread state change event, so it wakes up if a thread changes
3059          * to background mode.
3060          */
3061         count = wait->num;
3062         if (count < MAXIMUM_WAIT_OBJECTS) {
3063                 wait->handles [count] = background_change_event;
3064                 count++;
3065         }
3066
3067         MONO_ENTER_GC_SAFE;
3068         ret=WaitForMultipleObjectsEx (count, wait->handles, FALSE, timeout, TRUE);
3069         MONO_EXIT_GC_SAFE;
3070
3071         if(ret==WAIT_FAILED) {
3072                 /* See the comment in build_wait_tids() */
3073                 THREAD_DEBUG (g_message ("%s: Wait failed", __func__));
3074                 return;
3075         }
3076
3077         for(i=0; i<wait->num; i++)
3078                 CloseHandle (wait->handles[i]);
3079
3080         if (ret == WAIT_TIMEOUT)
3081                 return;
3082
3083         if (ret < wait->num) {
3084                 gsize tid = wait->threads[ret]->tid;
3085                 mono_threads_lock ();
3086                 if (mono_g_hash_table_lookup (threads, (gpointer)tid)!=NULL) {
3087                         /* See comment in wait_for_tids about thread cleanup */
3088                         mono_threads_unlock ();
3089                         THREAD_DEBUG (g_message ("%s: cleaning up after thread %"G_GSIZE_FORMAT, __func__, tid));
3090                         thread_cleanup (wait->threads [ret]);
3091                 } else
3092                         mono_threads_unlock ();
3093         }
3094 }
3095
3096 static void build_wait_tids (gpointer key, gpointer value, gpointer user)
3097 {
3098         struct wait_data *wait=(struct wait_data *)user;
3099
3100         if(wait->num<MAXIMUM_WAIT_OBJECTS) {
3101                 HANDLE handle;
3102                 MonoInternalThread *thread=(MonoInternalThread *)value;
3103
3104                 /* Ignore background threads, we abort them later */
3105                 /* Do not lock here since it is not needed and the caller holds threads_lock */
3106                 if (thread->state & ThreadState_Background) {
3107                         THREAD_DEBUG (g_message ("%s: ignoring background thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3108                         return; /* just leave, ignore */
3109                 }
3110
3111                 if (mono_gc_is_finalizer_internal_thread (thread)) {
3112                         THREAD_DEBUG (g_message ("%s: ignoring finalizer thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3113                         return;
3114                 }
3115
3116                 if (thread == mono_thread_internal_current ()) {
3117                         THREAD_DEBUG (g_message ("%s: ignoring current thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3118                         return;
3119                 }
3120
3121                 if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread)) {
3122                         THREAD_DEBUG (g_message ("%s: ignoring main thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3123                         return;
3124                 }
3125
3126                 if (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE) {
3127                         THREAD_DEBUG (g_message ("%s: ignoring thread %" G_GSIZE_FORMAT "with DONT_MANAGE flag set.", __func__, (gsize)thread->tid));
3128                         return;
3129                 }
3130
3131                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3132                 if (handle == NULL) {
3133                         THREAD_DEBUG (g_message ("%s: ignoring unopenable thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3134                         return;
3135                 }
3136
3137                 THREAD_DEBUG (g_message ("%s: Invoking mono_thread_manage callback on thread %p", __func__, thread));
3138                 if ((thread->manage_callback == NULL) || (thread->manage_callback (thread->root_domain_thread) == TRUE)) {
3139                         wait->handles[wait->num]=handle;
3140                         wait->threads[wait->num]=thread;
3141                         wait->num++;
3142
3143                         THREAD_DEBUG (g_message ("%s: adding thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3144                 } else {
3145                         THREAD_DEBUG (g_message ("%s: ignoring (because of callback) thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3146                 }
3147
3148
3149         } else {
3150                 /* Just ignore the rest, we can't do anything with
3151                  * them yet
3152                  */
3153         }
3154 }
3155
3156 static gboolean
3157 remove_and_abort_threads (gpointer key, gpointer value, gpointer user)
3158 {
3159         struct wait_data *wait=(struct wait_data *)user;
3160         MonoNativeThreadId self = mono_native_thread_id_get ();
3161         MonoInternalThread *thread = (MonoInternalThread *)value;
3162         HANDLE handle;
3163
3164         if (wait->num >= MAXIMUM_WAIT_OBJECTS)
3165                 return FALSE;
3166
3167         /* The finalizer thread is not a background thread */
3168         if (!mono_native_thread_id_equals (thread_get_tid (thread), self)
3169              && (thread->state & ThreadState_Background) != 0
3170              && (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE) == 0
3171         ) {
3172                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3173                 if (handle == NULL)
3174                         return FALSE;
3175
3176                 wait->handles[wait->num] = handle;
3177                 wait->threads[wait->num] = thread;
3178                 wait->num++;
3179
3180                 THREAD_DEBUG (g_print ("%s: Aborting id: %"G_GSIZE_FORMAT"\n", __func__, (gsize)thread->tid));
3181                 mono_thread_internal_stop (thread);
3182                 return TRUE;
3183         }
3184
3185         return !mono_native_thread_id_equals (thread_get_tid (thread), self)
3186                 && !mono_gc_is_finalizer_internal_thread (thread);
3187 }
3188
3189 /**
3190  * mono_threads_set_shutting_down:
3191  *
3192  * Is called by a thread that wants to shut down Mono. If the runtime is already
3193  * shutting down, the calling thread is suspended/stopped, and this function never
3194  * returns.
3195  */
3196 void
3197 mono_threads_set_shutting_down (void)
3198 {
3199         MonoInternalThread *current_thread = mono_thread_internal_current ();
3200
3201         mono_threads_lock ();
3202
3203         if (shutting_down) {
3204                 mono_threads_unlock ();
3205
3206                 /* Make sure we're properly suspended/stopped */
3207
3208                 LOCK_THREAD (current_thread);
3209
3210                 if ((current_thread->state & ThreadState_SuspendRequested) ||
3211                     (current_thread->state & ThreadState_AbortRequested) ||
3212                     (current_thread->state & ThreadState_StopRequested)) {
3213                         UNLOCK_THREAD (current_thread);
3214                         mono_thread_execute_interruption ();
3215                 } else {
3216                         current_thread->state |= ThreadState_Stopped;
3217                         UNLOCK_THREAD (current_thread);
3218                 }
3219
3220                 /*since we're killing the thread, unset the current domain.*/
3221                 mono_domain_unset ();
3222
3223                 /* Wake up other threads potentially waiting for us */
3224                 mono_thread_info_exit ();
3225         } else {
3226                 shutting_down = TRUE;
3227
3228                 /* Not really a background state change, but this will
3229                  * interrupt the main thread if it is waiting for all
3230                  * the other threads.
3231                  */
3232                 SetEvent (background_change_event);
3233
3234                 mono_threads_unlock ();
3235         }
3236 }
3237
3238 void mono_thread_manage (void)
3239 {
3240         struct wait_data wait_data;
3241         struct wait_data *wait = &wait_data;
3242
3243         memset (wait, 0, sizeof (struct wait_data));
3244         /* join each thread that's still running */
3245         THREAD_DEBUG (g_message ("%s: Joining each running thread...", __func__));
3246
3247         mono_threads_lock ();
3248         if(threads==NULL) {
3249                 THREAD_DEBUG (g_message("%s: No threads", __func__));
3250                 mono_threads_unlock ();
3251                 return;
3252         }
3253         mono_threads_unlock ();
3254
3255         do {
3256                 mono_threads_lock ();
3257                 if (shutting_down) {
3258                         /* somebody else is shutting down */
3259                         mono_threads_unlock ();
3260                         break;
3261                 }
3262                 THREAD_DEBUG (g_message ("%s: There are %d threads to join", __func__, mono_g_hash_table_size (threads));
3263                         mono_g_hash_table_foreach (threads, print_tids, NULL));
3264
3265                 ResetEvent (background_change_event);
3266                 wait->num=0;
3267                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3268                 memset (wait->threads, 0, MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3269                 mono_g_hash_table_foreach (threads, build_wait_tids, wait);
3270                 mono_threads_unlock ();
3271                 if(wait->num>0) {
3272                         /* Something to wait for */
3273                         wait_for_tids_or_state_change (wait, INFINITE);
3274                 }
3275                 THREAD_DEBUG (g_message ("%s: I have %d threads after waiting.", __func__, wait->num));
3276         } while(wait->num>0);
3277
3278         /* Mono is shutting down, so just wait for the end */
3279         if (!mono_runtime_try_shutdown ()) {
3280                 /*FIXME mono_thread_suspend probably should call mono_thread_execute_interruption when self interrupting. */
3281                 mono_thread_suspend (mono_thread_internal_current ());
3282                 mono_thread_execute_interruption ();
3283         }
3284
3285         /*
3286          * Remove everything but the finalizer thread and self.
3287          * Also abort all the background threads
3288          * */
3289         do {
3290                 mono_threads_lock ();
3291
3292                 wait->num = 0;
3293                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3294                 memset (wait->threads, 0, MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3295                 mono_g_hash_table_foreach_remove (threads, remove_and_abort_threads, wait);
3296
3297                 mono_threads_unlock ();
3298
3299                 THREAD_DEBUG (g_message ("%s: wait->num is now %d", __func__, wait->num));
3300                 if(wait->num>0) {
3301                         /* Something to wait for */
3302                         wait_for_tids (wait, INFINITE);
3303                 }
3304         } while (wait->num > 0);
3305
3306         /*
3307          * give the subthreads a chance to really quit (this is mainly needed
3308          * to get correct user and system times from getrusage/wait/time(1)).
3309          * This could be removed if we avoid pthread_detach() and use pthread_join().
3310          */
3311         mono_thread_info_yield ();
3312 }
3313
3314 static void
3315 collect_threads_for_suspend (gpointer key, gpointer value, gpointer user_data)
3316 {
3317         MonoInternalThread *thread = (MonoInternalThread*)value;
3318         struct wait_data *wait = (struct wait_data*)user_data;
3319         HANDLE handle;
3320
3321         /*
3322          * We try to exclude threads early, to avoid running into the MAXIMUM_WAIT_OBJECTS
3323          * limitation.
3324          * This needs no locking.
3325          */
3326         if ((thread->state & ThreadState_Suspended) != 0 ||
3327                 (thread->state & ThreadState_Stopped) != 0)
3328                 return;
3329
3330         if (wait->num<MAXIMUM_WAIT_OBJECTS) {
3331                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3332                 if (handle == NULL)
3333                         return;
3334
3335                 wait->handles [wait->num] = handle;
3336                 wait->threads [wait->num] = thread;
3337                 wait->num++;
3338         }
3339 }
3340
3341 /*
3342  * mono_thread_suspend_all_other_threads:
3343  *
3344  *  Suspend all managed threads except the finalizer thread and this thread. It is
3345  * not possible to resume them later.
3346  */
3347 void mono_thread_suspend_all_other_threads (void)
3348 {
3349         struct wait_data wait_data;
3350         struct wait_data *wait = &wait_data;
3351         int i;
3352         MonoNativeThreadId self = mono_native_thread_id_get ();
3353         guint32 eventidx = 0;
3354         gboolean starting, finished;
3355
3356         memset (wait, 0, sizeof (struct wait_data));
3357         /*
3358          * The other threads could be in an arbitrary state at this point, i.e.
3359          * they could be starting up, shutting down etc. This means that there could be
3360          * threads which are not even in the threads hash table yet.
3361          */
3362
3363         /*
3364          * First we set a barrier which will be checked by all threads before they
3365          * are added to the threads hash table, and they will exit if the flag is set.
3366          * This ensures that no threads could be added to the hash later.
3367          * We will use shutting_down as the barrier for now.
3368          */
3369         g_assert (shutting_down);
3370
3371         /*
3372          * We make multiple calls to WaitForMultipleObjects since:
3373          * - we can only wait for MAXIMUM_WAIT_OBJECTS threads
3374          * - some threads could exit without becoming suspended
3375          */
3376         finished = FALSE;
3377         while (!finished) {
3378                 /*
3379                  * Make a copy of the hashtable since we can't do anything with
3380                  * threads while threads_mutex is held.
3381                  */
3382                 wait->num = 0;
3383                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3384                 memset (wait->threads, 0, MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3385                 mono_threads_lock ();
3386                 mono_g_hash_table_foreach (threads, collect_threads_for_suspend, wait);
3387                 mono_threads_unlock ();
3388
3389                 eventidx = 0;
3390                 /* Get the suspended events that we'll be waiting for */
3391                 for (i = 0; i < wait->num; ++i) {
3392                         MonoInternalThread *thread = wait->threads [i];
3393
3394                         if (mono_native_thread_id_equals (thread_get_tid (thread), self)
3395                              || mono_gc_is_finalizer_internal_thread (thread)
3396                              || (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE)
3397                         ) {
3398                                 //CloseHandle (wait->handles [i]);
3399                                 wait->threads [i] = NULL; /* ignore this thread in next loop */
3400                                 continue;
3401                         }
3402
3403                         LOCK_THREAD (thread);
3404
3405                         if ((thread->state & ThreadState_Suspended) != 0 ||
3406                                 (thread->state & ThreadState_StopRequested) != 0 ||
3407                                 (thread->state & ThreadState_Stopped) != 0) {
3408                                 UNLOCK_THREAD (thread);
3409                                 CloseHandle (wait->handles [i]);
3410                                 wait->threads [i] = NULL; /* ignore this thread in next loop */
3411                                 continue;
3412                         }
3413
3414                         ++eventidx;
3415
3416                         /* Convert abort requests into suspend requests */
3417                         if ((thread->state & ThreadState_AbortRequested) != 0)
3418                                 thread->state &= ~ThreadState_AbortRequested;
3419
3420                         thread->state |= ThreadState_SuspendRequested;
3421
3422                         /* Signal the thread to suspend + calls UNLOCK_THREAD (thread) */
3423                         async_suspend_internal (thread, TRUE);
3424                 }
3425                 if (eventidx <= 0) {
3426                         /*
3427                          * If there are threads which are starting up, we wait until they
3428                          * are suspended when they try to register in the threads hash.
3429                          * This is guaranteed to finish, since the threads which can create new
3430                          * threads get suspended after a while.
3431                          * FIXME: The finalizer thread can still create new threads.
3432                          */
3433                         mono_threads_lock ();
3434                         if (threads_starting_up)
3435                                 starting = mono_g_hash_table_size (threads_starting_up) > 0;
3436                         else
3437                                 starting = FALSE;
3438                         mono_threads_unlock ();
3439                         if (starting)
3440                                 mono_thread_info_sleep (100, NULL);
3441                         else
3442                                 finished = TRUE;
3443                 }
3444         }
3445 }
3446
3447 typedef struct {
3448         MonoInternalThread *thread;
3449         MonoStackFrameInfo *frames;
3450         int nframes, max_frames;
3451         int nthreads, max_threads;
3452         MonoInternalThread **threads;
3453 } ThreadDumpUserData;
3454
3455 static gboolean thread_dump_requested;
3456
3457 /* This needs to be async safe */
3458 static gboolean
3459 collect_frame (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
3460 {
3461         ThreadDumpUserData *ud = (ThreadDumpUserData *)data;
3462
3463         if (ud->nframes < ud->max_frames) {
3464                 memcpy (&ud->frames [ud->nframes], frame, sizeof (MonoStackFrameInfo));
3465                 ud->nframes ++;
3466         }
3467
3468         return FALSE;
3469 }
3470
3471 /* This needs to be async safe */
3472 static SuspendThreadResult
3473 get_thread_dump (MonoThreadInfo *info, gpointer ud)
3474 {
3475         ThreadDumpUserData *user_data = (ThreadDumpUserData *)ud;
3476         MonoInternalThread *thread = user_data->thread;
3477
3478 #if 0
3479 /* This no longer works with remote unwinding */
3480 #ifndef HOST_WIN32
3481         wapi_desc = wapi_current_thread_desc ();
3482         g_string_append_printf (text, " tid=0x%p this=0x%p %s\n", (gpointer)(gsize)thread->tid, thread,  wapi_desc);
3483         free (wapi_desc);
3484 #endif
3485 #endif
3486
3487         if (thread == mono_thread_internal_current ())
3488                 mono_get_eh_callbacks ()->mono_walk_stack_with_ctx (collect_frame, NULL, MONO_UNWIND_SIGNAL_SAFE, ud);
3489         else
3490                 mono_get_eh_callbacks ()->mono_walk_stack_with_state (collect_frame, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, ud);
3491
3492         return MonoResumeThread;
3493 }
3494
3495 typedef struct {
3496         int nthreads, max_threads;
3497         MonoInternalThread **threads;
3498 } CollectThreadsUserData;
3499
3500 static void
3501 collect_thread (gpointer key, gpointer value, gpointer user)
3502 {
3503         CollectThreadsUserData *ud = (CollectThreadsUserData *)user;
3504         MonoInternalThread *thread = (MonoInternalThread *)value;
3505
3506         if (ud->nthreads < ud->max_threads)
3507                 ud->threads [ud->nthreads ++] = thread;
3508 }
3509
3510 /*
3511  * Collect running threads into the THREADS array.
3512  * THREADS should be an array allocated on the stack.
3513  */
3514 static int
3515 collect_threads (MonoInternalThread **thread_array, int max_threads)
3516 {
3517         CollectThreadsUserData ud;
3518
3519         memset (&ud, 0, sizeof (ud));
3520         /* This array contains refs, but its on the stack, so its ok */
3521         ud.threads = thread_array;
3522         ud.max_threads = max_threads;
3523
3524         mono_threads_lock ();
3525         mono_g_hash_table_foreach (threads, collect_thread, &ud);
3526         mono_threads_unlock ();
3527
3528         return ud.nthreads;
3529 }
3530
3531 static void
3532 dump_thread (MonoInternalThread *thread, ThreadDumpUserData *ud)
3533 {
3534         GString* text = g_string_new (0);
3535         char *name;
3536         GError *error = NULL;
3537         int i;
3538
3539         ud->thread = thread;
3540         ud->nframes = 0;
3541
3542         /* Collect frames for the thread */
3543         if (thread == mono_thread_internal_current ()) {
3544                 get_thread_dump (mono_thread_info_current (), ud);
3545         } else {
3546                 mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, ud);
3547         }
3548
3549         /*
3550          * Do all the non async-safe work outside of get_thread_dump.
3551          */
3552         if (thread->name) {
3553                 name = g_utf16_to_utf8 (thread->name, thread->name_len, NULL, NULL, &error);
3554                 g_assert (!error);
3555                 g_string_append_printf (text, "\n\"%s\"", name);
3556                 g_free (name);
3557         }
3558         else if (thread->threadpool_thread) {
3559                 g_string_append (text, "\n\"<threadpool thread>\"");
3560         } else {
3561                 g_string_append (text, "\n\"<unnamed thread>\"");
3562         }
3563
3564         for (i = 0; i < ud->nframes; ++i) {
3565                 MonoStackFrameInfo *frame = &ud->frames [i];
3566                 MonoMethod *method = NULL;
3567
3568                 if (frame->type == FRAME_TYPE_MANAGED)
3569                         method = mono_jit_info_get_method (frame->ji);
3570
3571                 if (method) {
3572                         gchar *location = mono_debug_print_stack_frame (method, frame->native_offset, frame->domain);
3573                         g_string_append_printf (text, "  %s\n", location);
3574                         g_free (location);
3575                 } else {
3576                         g_string_append_printf (text, "  at <unknown> <0x%05x>\n", frame->native_offset);
3577                 }
3578         }
3579
3580         fprintf (stdout, "%s", text->str);
3581
3582 #if PLATFORM_WIN32 && TARGET_WIN32 && _DEBUG
3583         OutputDebugStringA(text->str);
3584 #endif
3585
3586         g_string_free (text, TRUE);
3587         fflush (stdout);
3588 }
3589
3590 void
3591 mono_threads_perform_thread_dump (void)
3592 {
3593         ThreadDumpUserData ud;
3594         MonoInternalThread *thread_array [128];
3595         int tindex, nthreads;
3596
3597         if (!thread_dump_requested)
3598                 return;
3599
3600         printf ("Full thread dump:\n");
3601
3602         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3603         nthreads = collect_threads (thread_array, 128);
3604
3605         memset (&ud, 0, sizeof (ud));
3606         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3607         ud.max_frames = 256;
3608
3609         for (tindex = 0; tindex < nthreads; ++tindex)
3610                 dump_thread (thread_array [tindex], &ud);
3611
3612         g_free (ud.frames);
3613
3614         thread_dump_requested = FALSE;
3615 }
3616
3617 /* Obtain the thread dump of all threads */
3618 static void
3619 mono_threads_get_thread_dump (MonoArray **out_threads, MonoArray **out_stack_frames)
3620 {
3621         MonoError error;
3622
3623         ThreadDumpUserData ud;
3624         MonoInternalThread *thread_array [128];
3625         MonoDomain *domain = mono_domain_get ();
3626         MonoDebugSourceLocation *location;
3627         int tindex, nthreads;
3628
3629         mono_error_init (&error);
3630
3631         *out_threads = NULL;
3632         *out_stack_frames = NULL;
3633
3634         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3635         nthreads = collect_threads (thread_array, 128);
3636
3637         memset (&ud, 0, sizeof (ud));
3638         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3639         ud.max_frames = 256;
3640
3641         *out_threads = mono_array_new_checked (domain, mono_defaults.thread_class, nthreads, &error);
3642         if (!is_ok (&error))
3643                 goto leave;
3644         *out_stack_frames = mono_array_new_checked (domain, mono_defaults.array_class, nthreads, &error);
3645         if (!is_ok (&error))
3646                 goto leave;
3647
3648         for (tindex = 0; tindex < nthreads; ++tindex) {
3649                 MonoInternalThread *thread = thread_array [tindex];
3650                 MonoArray *thread_frames;
3651                 int i;
3652
3653                 ud.thread = thread;
3654                 ud.nframes = 0;
3655
3656                 /* Collect frames for the thread */
3657                 if (thread == mono_thread_internal_current ()) {
3658                         get_thread_dump (mono_thread_info_current (), &ud);
3659                 } else {
3660                         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, &ud);
3661                 }
3662
3663                 mono_array_setref_fast (*out_threads, tindex, mono_thread_current_for_thread (thread));
3664
3665                 thread_frames = mono_array_new_checked (domain, mono_defaults.stack_frame_class, ud.nframes, &error);
3666                 if (!is_ok (&error))
3667                         goto leave;
3668                 mono_array_setref_fast (*out_stack_frames, tindex, thread_frames);
3669
3670                 for (i = 0; i < ud.nframes; ++i) {
3671                         MonoStackFrameInfo *frame = &ud.frames [i];
3672                         MonoMethod *method = NULL;
3673                         MonoStackFrame *sf = (MonoStackFrame *)mono_object_new_checked (domain, mono_defaults.stack_frame_class, &error);
3674                         if (!mono_error_ok (&error))
3675                                 goto leave;
3676
3677                         sf->native_offset = frame->native_offset;
3678
3679                         if (frame->type == FRAME_TYPE_MANAGED)
3680                                 method = mono_jit_info_get_method (frame->ji);
3681
3682                         if (method) {
3683                                 sf->method_address = (gsize) frame->ji->code_start;
3684
3685                                 MonoReflectionMethod *rm = mono_method_get_object_checked (domain, method, NULL, &error);
3686                                 mono_error_raise_exception (&error); /* FIXME don't raise here */
3687                                 MONO_OBJECT_SETREF (sf, method, rm);
3688
3689                                 location = mono_debug_lookup_source_location (method, frame->native_offset, domain);
3690                                 if (location) {
3691                                         sf->il_offset = location->il_offset;
3692
3693                                         if (location && location->source_file) {
3694                                                 MONO_OBJECT_SETREF (sf, filename, mono_string_new (domain, location->source_file));
3695                                                 sf->line = location->row;
3696                                                 sf->column = location->column;
3697                                         }
3698                                         mono_debug_free_source_location (location);
3699                                 } else {
3700                                         sf->il_offset = -1;
3701                                 }
3702                         }
3703                         mono_array_setref (thread_frames, i, sf);
3704                 }
3705         }
3706
3707 leave:
3708         g_free (ud.frames);
3709         mono_error_raise_exception (&error); /* FIXME don't raise here */
3710 }
3711
3712 /**
3713  * mono_threads_request_thread_dump:
3714  *
3715  *   Ask all threads except the current to print their stacktrace to stdout.
3716  */
3717 void
3718 mono_threads_request_thread_dump (void)
3719 {
3720         /*The new thread dump code runs out of the finalizer thread. */
3721         thread_dump_requested = TRUE;
3722         mono_gc_finalize_notify ();
3723 }
3724
3725 struct ref_stack {
3726         gpointer *refs;
3727         gint allocated; /* +1 so that refs [allocated] == NULL */
3728         gint bottom;
3729 };
3730
3731 typedef struct ref_stack RefStack;
3732
3733 static RefStack *
3734 ref_stack_new (gint initial_size)
3735 {
3736         RefStack *rs;
3737
3738         initial_size = MAX (initial_size, 16) + 1;
3739         rs = g_new0 (RefStack, 1);
3740         rs->refs = g_new0 (gpointer, initial_size);
3741         rs->allocated = initial_size;
3742         return rs;
3743 }
3744
3745 static void
3746 ref_stack_destroy (gpointer ptr)
3747 {
3748         RefStack *rs = (RefStack *)ptr;
3749
3750         if (rs != NULL) {
3751                 g_free (rs->refs);
3752                 g_free (rs);
3753         }
3754 }
3755
3756 static void
3757 ref_stack_push (RefStack *rs, gpointer ptr)
3758 {
3759         g_assert (rs != NULL);
3760
3761         if (rs->bottom >= rs->allocated) {
3762                 rs->refs = (void **)g_realloc (rs->refs, rs->allocated * 2 * sizeof (gpointer) + 1);
3763                 rs->allocated <<= 1;
3764                 rs->refs [rs->allocated] = NULL;
3765         }
3766         rs->refs [rs->bottom++] = ptr;
3767 }
3768
3769 static void
3770 ref_stack_pop (RefStack *rs)
3771 {
3772         if (rs == NULL || rs->bottom == 0)
3773                 return;
3774
3775         rs->bottom--;
3776         rs->refs [rs->bottom] = NULL;
3777 }
3778
3779 static gboolean
3780 ref_stack_find (RefStack *rs, gpointer ptr)
3781 {
3782         gpointer *refs;
3783
3784         if (rs == NULL)
3785                 return FALSE;
3786
3787         for (refs = rs->refs; refs && *refs; refs++) {
3788                 if (*refs == ptr)
3789                         return TRUE;
3790         }
3791         return FALSE;
3792 }
3793
3794 /*
3795  * mono_thread_push_appdomain_ref:
3796  *
3797  *   Register that the current thread may have references to objects in domain
3798  * @domain on its stack. Each call to this function should be paired with a
3799  * call to pop_appdomain_ref.
3800  */
3801 void
3802 mono_thread_push_appdomain_ref (MonoDomain *domain)
3803 {
3804         MonoInternalThread *thread = mono_thread_internal_current ();
3805
3806         if (thread) {
3807                 /* printf ("PUSH REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, domain->friendly_name); */
3808                 SPIN_LOCK (thread->lock_thread_id);
3809                 if (thread->appdomain_refs == NULL)
3810                         thread->appdomain_refs = ref_stack_new (16);
3811                 ref_stack_push ((RefStack *)thread->appdomain_refs, domain);
3812                 SPIN_UNLOCK (thread->lock_thread_id);
3813         }
3814 }
3815
3816 void
3817 mono_thread_pop_appdomain_ref (void)
3818 {
3819         MonoInternalThread *thread = mono_thread_internal_current ();
3820
3821         if (thread) {
3822                 /* printf ("POP REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, ((MonoDomain*)(thread->appdomain_refs->data))->friendly_name); */
3823                 SPIN_LOCK (thread->lock_thread_id);
3824                 ref_stack_pop ((RefStack *)thread->appdomain_refs);
3825                 SPIN_UNLOCK (thread->lock_thread_id);
3826         }
3827 }
3828
3829 gboolean
3830 mono_thread_internal_has_appdomain_ref (MonoInternalThread *thread, MonoDomain *domain)
3831 {
3832         gboolean res;
3833         SPIN_LOCK (thread->lock_thread_id);
3834         res = ref_stack_find ((RefStack *)thread->appdomain_refs, domain);
3835         SPIN_UNLOCK (thread->lock_thread_id);
3836         return res;
3837 }
3838
3839 gboolean
3840 mono_thread_has_appdomain_ref (MonoThread *thread, MonoDomain *domain)
3841 {
3842         return mono_thread_internal_has_appdomain_ref (thread->internal_thread, domain);
3843 }
3844
3845 typedef struct abort_appdomain_data {
3846         struct wait_data wait;
3847         MonoDomain *domain;
3848 } abort_appdomain_data;
3849
3850 static void
3851 collect_appdomain_thread (gpointer key, gpointer value, gpointer user_data)
3852 {
3853         MonoInternalThread *thread = (MonoInternalThread*)value;
3854         abort_appdomain_data *data = (abort_appdomain_data*)user_data;
3855         MonoDomain *domain = data->domain;
3856
3857         if (mono_thread_internal_has_appdomain_ref (thread, domain)) {
3858                 /* printf ("ABORTING THREAD %p BECAUSE IT REFERENCES DOMAIN %s.\n", thread->tid, domain->friendly_name); */
3859
3860                 if(data->wait.num<MAXIMUM_WAIT_OBJECTS) {
3861                         HANDLE handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3862                         if (handle == NULL)
3863                                 return;
3864                         data->wait.handles [data->wait.num] = handle;
3865                         data->wait.threads [data->wait.num] = thread;
3866                         data->wait.num++;
3867                 } else {
3868                         /* Just ignore the rest, we can't do anything with
3869                          * them yet
3870                          */
3871                 }
3872         }
3873 }
3874
3875 /*
3876  * mono_threads_abort_appdomain_threads:
3877  *
3878  *   Abort threads which has references to the given appdomain.
3879  */
3880 gboolean
3881 mono_threads_abort_appdomain_threads (MonoDomain *domain, int timeout)
3882 {
3883 #ifdef __native_client__
3884         return FALSE;
3885 #endif
3886
3887         abort_appdomain_data user_data;
3888         gint64 start_time;
3889         int orig_timeout = timeout;
3890         int i;
3891
3892         THREAD_DEBUG (g_message ("%s: starting abort", __func__));
3893
3894         start_time = mono_msec_ticks ();
3895         do {
3896                 mono_threads_lock ();
3897
3898                 user_data.domain = domain;
3899                 user_data.wait.num = 0;
3900                 /* This shouldn't take any locks */
3901                 mono_g_hash_table_foreach (threads, collect_appdomain_thread, &user_data);
3902                 mono_threads_unlock ();
3903
3904                 if (user_data.wait.num > 0) {
3905                         /* Abort the threads outside the threads lock */
3906                         for (i = 0; i < user_data.wait.num; ++i)
3907                                 mono_thread_internal_abort (user_data.wait.threads [i]);
3908
3909                         /*
3910                          * We should wait for the threads either to abort, or to leave the
3911                          * domain. We can't do the latter, so we wait with a timeout.
3912                          */
3913                         wait_for_tids (&user_data.wait, 100);
3914                 }
3915
3916                 /* Update remaining time */
3917                 timeout -= mono_msec_ticks () - start_time;
3918                 start_time = mono_msec_ticks ();
3919
3920                 if (orig_timeout != -1 && timeout < 0)
3921                         return FALSE;
3922         }
3923         while (user_data.wait.num > 0);
3924
3925         THREAD_DEBUG (g_message ("%s: abort done", __func__));
3926
3927         return TRUE;
3928 }
3929
3930 static void
3931 clear_cached_culture (gpointer key, gpointer value, gpointer user_data)
3932 {
3933         MonoInternalThread *thread = (MonoInternalThread*)value;
3934         MonoDomain *domain = (MonoDomain*)user_data;
3935         int i;
3936
3937         /* No locking needed here */
3938         /* FIXME: why no locking? writes to the cache are protected with synch_cs above */
3939
3940         if (thread->cached_culture_info) {
3941                 for (i = 0; i < NUM_CACHED_CULTURES * 2; ++i) {
3942                         MonoObject *obj = mono_array_get (thread->cached_culture_info, MonoObject*, i);
3943                         if (obj && obj->vtable->domain == domain)
3944                                 mono_array_set (thread->cached_culture_info, MonoObject*, i, NULL);
3945                 }
3946         }
3947 }
3948
3949 /*
3950  * mono_threads_clear_cached_culture:
3951  *
3952  *   Clear the cached_current_culture from all threads if it is in the
3953  * given appdomain.
3954  */
3955 void
3956 mono_threads_clear_cached_culture (MonoDomain *domain)
3957 {
3958         mono_threads_lock ();
3959         mono_g_hash_table_foreach (threads, clear_cached_culture, domain);
3960         mono_threads_unlock ();
3961 }
3962
3963 /*
3964  * mono_thread_get_undeniable_exception:
3965  *
3966  *   Return an exception which needs to be raised when leaving a catch clause.
3967  * This is used for undeniable exception propagation.
3968  */
3969 MonoException*
3970 mono_thread_get_undeniable_exception (void)
3971 {
3972         MonoInternalThread *thread = mono_thread_internal_current ();
3973
3974         if (thread && thread->abort_exc && !is_running_protected_wrapper ()) {
3975                 /*
3976                  * FIXME: Clear the abort exception and return an AppDomainUnloaded
3977                  * exception if the thread no longer references a dying appdomain.
3978                  */
3979                 thread->abort_exc->trace_ips = NULL;
3980                 thread->abort_exc->stack_trace = NULL;
3981                 return thread->abort_exc;
3982         }
3983
3984         return NULL;
3985 }
3986
3987 #if MONO_SMALL_CONFIG
3988 #define NUM_STATIC_DATA_IDX 4
3989 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3990         64, 256, 1024, 4096
3991 };
3992 #else
3993 #define NUM_STATIC_DATA_IDX 8
3994 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3995         1024, 4096, 16384, 65536, 262144, 1048576, 4194304, 16777216
3996 };
3997 #endif
3998
3999 static MonoBitSet *thread_reference_bitmaps [NUM_STATIC_DATA_IDX];
4000 static MonoBitSet *context_reference_bitmaps [NUM_STATIC_DATA_IDX];
4001
4002 static void
4003 mark_slots (void *addr, MonoBitSet **bitmaps, MonoGCMarkFunc mark_func, void *gc_data)
4004 {
4005         gpointer *static_data = (gpointer *)addr;
4006
4007         for (int i = 0; i < NUM_STATIC_DATA_IDX; ++i) {
4008                 void **ptr = (void **)static_data [i];
4009
4010                 if (!ptr)
4011                         continue;
4012
4013                 MONO_BITSET_FOREACH (bitmaps [i], idx, {
4014                         void **p = ptr + idx;
4015
4016                         if (*p)
4017                                 mark_func ((MonoObject**)p, gc_data);
4018                 });
4019         }
4020 }
4021
4022 static void
4023 mark_tls_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
4024 {
4025         mark_slots (addr, thread_reference_bitmaps, mark_func, gc_data);
4026 }
4027
4028 static void
4029 mark_ctx_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
4030 {
4031         mark_slots (addr, context_reference_bitmaps, mark_func, gc_data);
4032 }
4033
4034 /*
4035  *  mono_alloc_static_data
4036  *
4037  *   Allocate memory blocks for storing threads or context static data
4038  */
4039 static void
4040 mono_alloc_static_data (gpointer **static_data_ptr, guint32 offset, gboolean threadlocal)
4041 {
4042         guint idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4043         int i;
4044
4045         gpointer* static_data = *static_data_ptr;
4046         if (!static_data) {
4047                 static MonoGCDescriptor tls_desc = MONO_GC_DESCRIPTOR_NULL;
4048                 static MonoGCDescriptor ctx_desc = MONO_GC_DESCRIPTOR_NULL;
4049
4050                 if (mono_gc_user_markers_supported ()) {
4051                         if (tls_desc == MONO_GC_DESCRIPTOR_NULL)
4052                                 tls_desc = mono_gc_make_root_descr_user (mark_tls_slots);
4053
4054                         if (ctx_desc == MONO_GC_DESCRIPTOR_NULL)
4055                                 ctx_desc = mono_gc_make_root_descr_user (mark_ctx_slots);
4056                 }
4057
4058                 static_data = (void **)mono_gc_alloc_fixed (static_data_size [0], threadlocal ? tls_desc : ctx_desc,
4059                         threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
4060                         threadlocal ? "managed thread-static variables" : "managed context-static variables");
4061                 *static_data_ptr = static_data;
4062                 static_data [0] = static_data;
4063         }
4064
4065         for (i = 1; i <= idx; ++i) {
4066                 if (static_data [i])
4067                         continue;
4068
4069                 if (mono_gc_user_markers_supported ())
4070                         static_data [i] = g_malloc0 (static_data_size [i]);
4071                 else
4072                         static_data [i] = mono_gc_alloc_fixed (static_data_size [i], MONO_GC_DESCRIPTOR_NULL,
4073                                 threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
4074                                 threadlocal ? "managed thread-static variables" : "managed context-static variables");
4075         }
4076 }
4077
4078 static void
4079 mono_free_static_data (gpointer* static_data)
4080 {
4081         int i;
4082         for (i = 1; i < NUM_STATIC_DATA_IDX; ++i) {
4083                 gpointer p = static_data [i];
4084                 if (!p)
4085                         continue;
4086                 /*
4087                  * At this point, the static data pointer array is still registered with the
4088                  * GC, so must ensure that mark_tls_slots() will not encounter any invalid
4089                  * data.  Freeing the individual arrays without first nulling their slots
4090                  * would make it possible for mark_tls/ctx_slots() to encounter a pointer to
4091                  * such an already freed array.  See bug #13813.
4092                  */
4093                 static_data [i] = NULL;
4094                 mono_memory_write_barrier ();
4095                 if (mono_gc_user_markers_supported ())
4096                         g_free (p);
4097                 else
4098                         mono_gc_free_fixed (p);
4099         }
4100         mono_gc_free_fixed (static_data);
4101 }
4102
4103 /*
4104  *  mono_init_static_data_info
4105  *
4106  *   Initializes static data counters
4107  */
4108 static void mono_init_static_data_info (StaticDataInfo *static_data)
4109 {
4110         static_data->idx = 0;
4111         static_data->offset = 0;
4112         static_data->freelist = NULL;
4113 }
4114
4115 /*
4116  *  mono_alloc_static_data_slot
4117  *
4118  *   Generates an offset for static data. static_data contains the counters
4119  *  used to generate it.
4120  */
4121 static guint32
4122 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align)
4123 {
4124         if (!static_data->idx && !static_data->offset) {
4125                 /*
4126                  * we use the first chunk of the first allocation also as
4127                  * an array for the rest of the data
4128                  */
4129                 static_data->offset = sizeof (gpointer) * NUM_STATIC_DATA_IDX;
4130         }
4131         static_data->offset += align - 1;
4132         static_data->offset &= ~(align - 1);
4133         if (static_data->offset + size >= static_data_size [static_data->idx]) {
4134                 static_data->idx ++;
4135                 g_assert (size <= static_data_size [static_data->idx]);
4136                 g_assert (static_data->idx < NUM_STATIC_DATA_IDX);
4137                 static_data->offset = 0;
4138         }
4139         guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (static_data->idx, static_data->offset, 0);
4140         static_data->offset += size;
4141         return offset;
4142 }
4143
4144 /*
4145  * ensure thread static fields already allocated are valid for thread
4146  * This function is called when a thread is created or on thread attach.
4147  */
4148 static void
4149 thread_adjust_static_data (MonoInternalThread *thread)
4150 {
4151         mono_threads_lock ();
4152         if (thread_static_info.offset || thread_static_info.idx > 0) {
4153                 /* get the current allocated size */
4154                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (thread_static_info.idx, thread_static_info.offset, 0);
4155                 mono_alloc_static_data (&thread->static_data, offset, TRUE);
4156         }
4157         mono_threads_unlock ();
4158 }
4159
4160 /*
4161  * LOCKING: requires that threads_mutex is held
4162  */
4163 static void
4164 context_adjust_static_data (MonoAppContext *ctx)
4165 {
4166         if (context_static_info.offset || context_static_info.idx > 0) {
4167                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (context_static_info.idx, context_static_info.offset, 0);
4168                 mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4169                 ctx->data->static_data = ctx->static_data;
4170         }
4171 }
4172
4173 /*
4174  * LOCKING: requires that threads_mutex is held
4175  */
4176 static void
4177 alloc_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4178 {
4179         MonoInternalThread *thread = (MonoInternalThread *)value;
4180         guint32 offset = GPOINTER_TO_UINT (user);
4181
4182         mono_alloc_static_data (&(thread->static_data), offset, TRUE);
4183 }
4184
4185 /*
4186  * LOCKING: requires that threads_mutex is held
4187  */
4188 static void
4189 alloc_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4190 {
4191         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4192
4193         if (!ctx)
4194                 return;
4195
4196         guint32 offset = GPOINTER_TO_UINT (user);
4197         mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4198         ctx->data->static_data = ctx->static_data;
4199 }
4200
4201 static StaticDataFreeList*
4202 search_slot_in_freelist (StaticDataInfo *static_data, guint32 size, guint32 align)
4203 {
4204         StaticDataFreeList* prev = NULL;
4205         StaticDataFreeList* tmp = static_data->freelist;
4206         while (tmp) {
4207                 if (tmp->size == size) {
4208                         if (prev)
4209                                 prev->next = tmp->next;
4210                         else
4211                                 static_data->freelist = tmp->next;
4212                         return tmp;
4213                 }
4214                 prev = tmp;
4215                 tmp = tmp->next;
4216         }
4217         return NULL;
4218 }
4219
4220 #if SIZEOF_VOID_P == 4
4221 #define ONE_P 1
4222 #else
4223 #define ONE_P 1ll
4224 #endif
4225
4226 static void
4227 update_reference_bitmap (MonoBitSet **sets, guint32 offset, uintptr_t *bitmap, int numbits)
4228 {
4229         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4230         if (!sets [idx])
4231                 sets [idx] = mono_bitset_new (static_data_size [idx] / sizeof (uintptr_t), 0);
4232         MonoBitSet *rb = sets [idx];
4233         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4234         offset /= sizeof (uintptr_t);
4235         /* offset is now the bitmap offset */
4236         for (int i = 0; i < numbits; ++i) {
4237                 if (bitmap [i / sizeof (uintptr_t)] & (ONE_P << (i & (sizeof (uintptr_t) * 8 -1))))
4238                         mono_bitset_set_fast (rb, offset + i);
4239         }
4240 }
4241
4242 static void
4243 clear_reference_bitmap (MonoBitSet **sets, guint32 offset, guint32 size)
4244 {
4245         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4246         MonoBitSet *rb = sets [idx];
4247         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4248         offset /= sizeof (uintptr_t);
4249         /* offset is now the bitmap offset */
4250         for (int i = 0; i < size / sizeof (uintptr_t); i++)
4251                 mono_bitset_clear_fast (rb, offset + i);
4252 }
4253
4254 guint32
4255 mono_alloc_special_static_data (guint32 static_type, guint32 size, guint32 align, uintptr_t *bitmap, int numbits)
4256 {
4257         g_assert (static_type == SPECIAL_STATIC_THREAD || static_type == SPECIAL_STATIC_CONTEXT);
4258
4259         StaticDataInfo *info;
4260         MonoBitSet **sets;
4261
4262         if (static_type == SPECIAL_STATIC_THREAD) {
4263                 info = &thread_static_info;
4264                 sets = thread_reference_bitmaps;
4265         } else {
4266                 info = &context_static_info;
4267                 sets = context_reference_bitmaps;
4268         }
4269
4270         mono_threads_lock ();
4271
4272         StaticDataFreeList *item = search_slot_in_freelist (info, size, align);
4273         guint32 offset;
4274
4275         if (item) {
4276                 offset = item->offset;
4277                 g_free (item);
4278         } else {
4279                 offset = mono_alloc_static_data_slot (info, size, align);
4280         }
4281
4282         update_reference_bitmap (sets, offset, bitmap, numbits);
4283
4284         if (static_type == SPECIAL_STATIC_THREAD) {
4285                 /* This can be called during startup */
4286                 if (threads != NULL)
4287                         mono_g_hash_table_foreach (threads, alloc_thread_static_data_helper, GUINT_TO_POINTER (offset));
4288         } else {
4289                 if (contexts != NULL)
4290                         g_hash_table_foreach (contexts, alloc_context_static_data_helper, GUINT_TO_POINTER (offset));
4291
4292                 ACCESS_SPECIAL_STATIC_OFFSET (offset, type) = SPECIAL_STATIC_OFFSET_TYPE_CONTEXT;
4293         }
4294
4295         mono_threads_unlock ();
4296
4297         return offset;
4298 }
4299
4300 gpointer
4301 mono_get_special_static_data_for_thread (MonoInternalThread *thread, guint32 offset)
4302 {
4303         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4304
4305         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4306                 return get_thread_static_data (thread, offset);
4307         } else {
4308                 return get_context_static_data (thread->current_appcontext, offset);
4309         }
4310 }
4311
4312 gpointer
4313 mono_get_special_static_data (guint32 offset)
4314 {
4315         return mono_get_special_static_data_for_thread (mono_thread_internal_current (), offset);
4316 }
4317
4318 typedef struct {
4319         guint32 offset;
4320         guint32 size;
4321 } OffsetSize;
4322
4323 /*
4324  * LOCKING: requires that threads_mutex is held
4325  */
4326 static void
4327 free_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4328 {
4329         MonoInternalThread *thread = (MonoInternalThread *)value;
4330         OffsetSize *data = (OffsetSize *)user;
4331         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4332         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4333         char *ptr;
4334
4335         if (!thread->static_data || !thread->static_data [idx])
4336                 return;
4337         ptr = ((char*) thread->static_data [idx]) + off;
4338         mono_gc_bzero_atomic (ptr, data->size);
4339 }
4340
4341 /*
4342  * LOCKING: requires that threads_mutex is held
4343  */
4344 static void
4345 free_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4346 {
4347         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4348
4349         if (!ctx)
4350                 return;
4351
4352         OffsetSize *data = (OffsetSize *)user;
4353         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4354         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4355         char *ptr;
4356
4357         if (!ctx->static_data || !ctx->static_data [idx])
4358                 return;
4359
4360         ptr = ((char*) ctx->static_data [idx]) + off;
4361         mono_gc_bzero_atomic (ptr, data->size);
4362 }
4363
4364 static void
4365 do_free_special_slot (guint32 offset, guint32 size)
4366 {
4367         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4368         MonoBitSet **sets;
4369         StaticDataInfo *info;
4370
4371         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4372                 info = &thread_static_info;
4373                 sets = thread_reference_bitmaps;
4374         } else {
4375                 info = &context_static_info;
4376                 sets = context_reference_bitmaps;
4377         }
4378
4379         guint32 data_offset = offset;
4380         ACCESS_SPECIAL_STATIC_OFFSET (data_offset, type) = 0;
4381         OffsetSize data = { data_offset, size };
4382
4383         clear_reference_bitmap (sets, data.offset, data.size);
4384
4385         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4386                 if (threads != NULL)
4387                         mono_g_hash_table_foreach (threads, free_thread_static_data_helper, &data);
4388         } else {
4389                 if (contexts != NULL)
4390                         g_hash_table_foreach (contexts, free_context_static_data_helper, &data);
4391         }
4392
4393         if (!mono_runtime_is_shutting_down ()) {
4394                 StaticDataFreeList *item = g_new0 (StaticDataFreeList, 1);
4395
4396                 item->offset = offset;
4397                 item->size = size;
4398
4399                 item->next = info->freelist;
4400                 info->freelist = item;
4401         }
4402 }
4403
4404 static void
4405 do_free_special (gpointer key, gpointer value, gpointer data)
4406 {
4407         MonoClassField *field = (MonoClassField *)key;
4408         guint32 offset = GPOINTER_TO_UINT (value);
4409         gint32 align;
4410         guint32 size;
4411         size = mono_type_size (field->type, &align);
4412         do_free_special_slot (offset, size);
4413 }
4414
4415 void
4416 mono_alloc_special_static_data_free (GHashTable *special_static_fields)
4417 {
4418         mono_threads_lock ();
4419
4420         g_hash_table_foreach (special_static_fields, do_free_special, NULL);
4421
4422         mono_threads_unlock ();
4423 }
4424
4425 static void
4426 mono_special_static_data_free_slot (guint32 offset, guint32 size)
4427 {
4428         /* Only ever called for ThreadLocal instances */
4429         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_THREAD);
4430
4431         mono_threads_lock ();
4432         do_free_special_slot (offset, size);
4433         mono_threads_unlock ();
4434 }
4435
4436 #ifdef HOST_WIN32
4437 static void CALLBACK dummy_apc (ULONG_PTR param)
4438 {
4439 }
4440 #endif
4441
4442 /*
4443  * mono_thread_execute_interruption
4444  *
4445  * Performs the operation that the requested thread state requires (abort,
4446  * suspend or stop)
4447  */
4448 static MonoException*
4449 mono_thread_execute_interruption (void)
4450 {
4451         MonoInternalThread *thread = mono_thread_internal_current ();
4452         MonoThread *sys_thread = mono_thread_current ();
4453
4454         LOCK_THREAD (thread);
4455
4456         /* MonoThread::interruption_requested can only be changed with atomics */
4457         if (InterlockedCompareExchange (&thread->interruption_requested, FALSE, TRUE)) {
4458                 /* this will consume pending APC calls */
4459 #ifdef HOST_WIN32
4460                 WaitForSingleObjectEx (GetCurrentThread(), 0, TRUE);
4461 #endif
4462                 InterlockedDecrement (&thread_interruption_requested);
4463
4464                 /* Clear the interrupted flag of the thread so it can wait again */
4465                 mono_thread_info_clear_self_interrupt ();
4466         }
4467
4468         /* If there's a pending exception and an AbortRequested, the pending exception takes precedence */
4469         if (sys_thread->pending_exception) {
4470                 MonoException *exc;
4471
4472                 exc = sys_thread->pending_exception;
4473                 sys_thread->pending_exception = NULL;
4474
4475                 UNLOCK_THREAD (thread);
4476                 return exc;
4477         } else if ((thread->state & ThreadState_AbortRequested) != 0) {
4478                 UNLOCK_THREAD (thread);
4479                 g_assert (sys_thread->pending_exception == NULL);
4480                 if (thread->abort_exc == NULL) {
4481                         /*
4482                          * This might be racy, but it has to be called outside the lock
4483                          * since it calls managed code.
4484                          */
4485                         MONO_OBJECT_SETREF (thread, abort_exc, mono_get_exception_thread_abort ());
4486                 }
4487                 return thread->abort_exc;
4488         }
4489         else if ((thread->state & ThreadState_SuspendRequested) != 0) {
4490                 /* calls UNLOCK_THREAD (thread) */
4491                 self_suspend_internal ();
4492                 return NULL;
4493         }
4494         else if ((thread->state & ThreadState_StopRequested) != 0) {
4495                 /* FIXME: do this through the JIT? */
4496
4497                 UNLOCK_THREAD (thread);
4498
4499                 mono_thread_exit ();
4500                 return NULL;
4501         } else if (thread->thread_interrupt_requested) {
4502
4503                 thread->thread_interrupt_requested = FALSE;
4504                 UNLOCK_THREAD (thread);
4505
4506                 return(mono_get_exception_thread_interrupted ());
4507         }
4508
4509         UNLOCK_THREAD (thread);
4510
4511         return NULL;
4512 }
4513
4514 /*
4515  * mono_thread_request_interruption
4516  *
4517  * A signal handler can call this method to request the interruption of a
4518  * thread. The result of the interruption will depend on the current state of
4519  * the thread. If the result is an exception that needs to be throw, it is
4520  * provided as return value.
4521  */
4522 MonoException*
4523 mono_thread_request_interruption (gboolean running_managed)
4524 {
4525         MonoInternalThread *thread = mono_thread_internal_current ();
4526
4527         /* The thread may already be stopping */
4528         if (thread == NULL)
4529                 return NULL;
4530
4531 #ifdef HOST_WIN32
4532         if (thread->interrupt_on_stop &&
4533                 thread->state & ThreadState_StopRequested &&
4534                 thread->state & ThreadState_Background)
4535                 ExitThread (1);
4536 #endif
4537
4538         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4539                 return NULL;
4540         InterlockedIncrement (&thread_interruption_requested);
4541
4542         if (!running_managed || is_running_protected_wrapper ()) {
4543                 /* Can't stop while in unmanaged code. Increase the global interruption
4544                    request count. When exiting the unmanaged method the count will be
4545                    checked and the thread will be interrupted. */
4546
4547                 /* this will awake the thread if it is in WaitForSingleObject
4548                    or similar */
4549                 /* Our implementation of this function ignores the func argument */
4550 #ifdef HOST_WIN32
4551                 QueueUserAPC ((PAPCFUNC)dummy_apc, thread->handle, (ULONG_PTR)NULL);
4552 #else
4553                 mono_thread_info_self_interrupt ();
4554 #endif
4555                 return NULL;
4556         }
4557         else {
4558                 return mono_thread_execute_interruption ();
4559         }
4560 }
4561
4562 /*This function should be called by a thread after it has exited all of
4563  * its handle blocks at interruption time.*/
4564 MonoException*
4565 mono_thread_resume_interruption (void)
4566 {
4567         MonoInternalThread *thread = mono_thread_internal_current ();
4568         gboolean still_aborting;
4569
4570         /* The thread may already be stopping */
4571         if (thread == NULL)
4572                 return NULL;
4573
4574         LOCK_THREAD (thread);
4575         still_aborting = (thread->state & ThreadState_AbortRequested) != 0;
4576         UNLOCK_THREAD (thread);
4577
4578         /*This can happen if the protected block called Thread::ResetAbort*/
4579         if (!still_aborting)
4580                 return FALSE;
4581
4582         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4583                 return NULL;
4584         InterlockedIncrement (&thread_interruption_requested);
4585
4586         mono_thread_info_self_interrupt ();
4587
4588         return mono_thread_execute_interruption ();
4589 }
4590
4591 gboolean mono_thread_interruption_requested ()
4592 {
4593         if (thread_interruption_requested) {
4594                 MonoInternalThread *thread = mono_thread_internal_current ();
4595                 /* The thread may already be stopping */
4596                 if (thread != NULL)
4597                         return (thread->interruption_requested);
4598         }
4599         return FALSE;
4600 }
4601
4602 static MonoException*
4603 mono_thread_interruption_checkpoint_request (gboolean bypass_abort_protection)
4604 {
4605         MonoInternalThread *thread = mono_thread_internal_current ();
4606
4607         /* The thread may already be stopping */
4608         if (thread == NULL)
4609                 return NULL;
4610
4611         if (thread->interruption_requested && (bypass_abort_protection || !is_running_protected_wrapper ())) {
4612                 MonoException* exc = mono_thread_execute_interruption ();
4613                 if (exc)
4614                         return exc;
4615         }
4616         return NULL;
4617 }
4618
4619 /*
4620  * Performs the interruption of the current thread, if one has been requested,
4621  * and the thread is not running a protected wrapper.
4622  * Return the exception which needs to be thrown, if any.
4623  */
4624 MonoException*
4625 mono_thread_interruption_checkpoint (void)
4626 {
4627         return mono_thread_interruption_checkpoint_request (FALSE);
4628 }
4629
4630 /*
4631  * Performs the interruption of the current thread, if one has been requested.
4632  * Return the exception which needs to be thrown, if any.
4633  */
4634 MonoException*
4635 mono_thread_force_interruption_checkpoint_noraise (void)
4636 {
4637         return mono_thread_interruption_checkpoint_request (TRUE);
4638 }
4639
4640 /*
4641  * mono_set_pending_exception:
4642  *
4643  *   Set the pending exception of the current thread to EXC.
4644  * The exception will be thrown when execution returns to managed code.
4645  */
4646 void
4647 mono_set_pending_exception (MonoException *exc)
4648 {
4649         MonoThread *thread = mono_thread_current ();
4650
4651         /* The thread may already be stopping */
4652         if (thread == NULL)
4653                 return;
4654
4655         MONO_OBJECT_SETREF (thread, pending_exception, exc);
4656
4657     mono_thread_request_interruption (FALSE);
4658 }
4659
4660 /**
4661  * mono_thread_interruption_request_flag:
4662  *
4663  * Returns the address of a flag that will be non-zero if an interruption has
4664  * been requested for a thread. The thread to interrupt may not be the current
4665  * thread, so an additional call to mono_thread_interruption_requested() or
4666  * mono_thread_interruption_checkpoint() is allways needed if the flag is not
4667  * zero.
4668  */
4669 gint32* mono_thread_interruption_request_flag ()
4670 {
4671         return &thread_interruption_requested;
4672 }
4673
4674 void
4675 mono_thread_init_apartment_state (void)
4676 {
4677 #ifdef HOST_WIN32
4678         MonoInternalThread* thread = mono_thread_internal_current ();
4679
4680         /* Positive return value indicates success, either
4681          * S_OK if this is first CoInitialize call, or
4682          * S_FALSE if CoInitialize already called, but with same
4683          * threading model. A negative value indicates failure,
4684          * probably due to trying to change the threading model.
4685          */
4686         if (CoInitializeEx(NULL, (thread->apartment_state == ThreadApartmentState_STA)
4687                         ? COINIT_APARTMENTTHREADED
4688                         : COINIT_MULTITHREADED) < 0) {
4689                 thread->apartment_state = ThreadApartmentState_Unknown;
4690         }
4691 #endif
4692 }
4693
4694 void
4695 mono_thread_cleanup_apartment_state (void)
4696 {
4697 #ifdef HOST_WIN32
4698         MonoInternalThread* thread = mono_thread_internal_current ();
4699
4700         if (thread && thread->apartment_state != ThreadApartmentState_Unknown) {
4701                 CoUninitialize ();
4702         }
4703 #endif
4704 }
4705
4706 void
4707 mono_thread_set_state (MonoInternalThread *thread, MonoThreadState state)
4708 {
4709         LOCK_THREAD (thread);
4710         thread->state |= state;
4711         UNLOCK_THREAD (thread);
4712 }
4713
4714 void
4715 mono_thread_clr_state (MonoInternalThread *thread, MonoThreadState state)
4716 {
4717         LOCK_THREAD (thread);
4718         thread->state &= ~state;
4719         UNLOCK_THREAD (thread);
4720 }
4721
4722 gboolean
4723 mono_thread_test_state (MonoInternalThread *thread, MonoThreadState test)
4724 {
4725         gboolean ret = FALSE;
4726
4727         LOCK_THREAD (thread);
4728
4729         if ((thread->state & test) != 0) {
4730                 ret = TRUE;
4731         }
4732
4733         UNLOCK_THREAD (thread);
4734
4735         return ret;
4736 }
4737
4738 static gboolean has_tls_get = FALSE;
4739
4740 void
4741 mono_runtime_set_has_tls_get (gboolean val)
4742 {
4743         has_tls_get = val;
4744 }
4745
4746 gboolean
4747 mono_runtime_has_tls_get (void)
4748 {
4749         return has_tls_get;
4750 }
4751
4752 static void
4753 self_interrupt_thread (void *_unused)
4754 {
4755         MonoThreadInfo *info = mono_thread_info_current ();
4756         MonoException *exc = mono_thread_execute_interruption ();
4757         if (exc) /*We must use _with_context since we didn't trampoline into the runtime*/
4758                 mono_raise_exception_with_context (exc, &info->thread_saved_state [ASYNC_SUSPEND_STATE_INDEX].ctx); /* FIXME using thread_saved_state [ASYNC_SUSPEND_STATE_INDEX] can race with another suspend coming in. */
4759         g_assert_not_reached (); /*this MUST not happen since we can't resume from an async call*/
4760 }
4761
4762 static gboolean
4763 mono_jit_info_match (MonoJitInfo *ji, gpointer ip)
4764 {
4765         if (!ji)
4766                 return FALSE;
4767         return ji->code_start <= ip && (char*)ip < (char*)ji->code_start + ji->code_size;
4768 }
4769
4770 static gboolean
4771 last_managed (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
4772 {
4773         MonoJitInfo **dest = (MonoJitInfo **)data;
4774         *dest = frame->ji;
4775         return TRUE;
4776 }
4777
4778 static MonoJitInfo*
4779 mono_thread_info_get_last_managed (MonoThreadInfo *info)
4780 {
4781         MonoJitInfo *ji = NULL;
4782         if (!info)
4783                 return NULL;
4784
4785         /*
4786          * The suspended thread might be holding runtime locks. Make sure we don't try taking
4787          * any runtime locks while unwinding. In coop case we shouldn't safepoint in regions
4788          * where we hold runtime locks.
4789          */
4790         if (!mono_threads_is_coop_enabled ())
4791                 mono_thread_info_set_is_async_context (TRUE);
4792         mono_get_eh_callbacks ()->mono_walk_stack_with_state (last_managed, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, &ji);
4793         if (!mono_threads_is_coop_enabled ())
4794                 mono_thread_info_set_is_async_context (FALSE);
4795         return ji;
4796 }
4797
4798 typedef struct {
4799         MonoInternalThread *thread;
4800         gboolean install_async_abort;
4801         MonoThreadInfoInterruptToken *interrupt_token;
4802 } AbortThreadData;
4803
4804 static SuspendThreadResult
4805 async_abort_critical (MonoThreadInfo *info, gpointer ud)
4806 {
4807         AbortThreadData *data = (AbortThreadData *)ud;
4808         MonoInternalThread *thread = data->thread;
4809         MonoJitInfo *ji = NULL;
4810         gboolean protected_wrapper;
4811         gboolean running_managed;
4812
4813         if (mono_get_eh_callbacks ()->mono_install_handler_block_guard (mono_thread_info_get_suspend_state (info)))
4814                 return MonoResumeThread;
4815
4816         /*someone is already interrupting it*/
4817         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4818                 return MonoResumeThread;
4819
4820         InterlockedIncrement (&thread_interruption_requested);
4821
4822         ji = mono_thread_info_get_last_managed (info);
4823         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4824         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4825
4826         if (!protected_wrapper && running_managed) {
4827                 /*We are in managed code*/
4828                 /*Set the thread to call */
4829                 if (data->install_async_abort)
4830                         mono_thread_info_setup_async_call (info, self_interrupt_thread, NULL);
4831                 return MonoResumeThread;
4832         } else {
4833                 /*
4834                  * This will cause waits to be broken.
4835                  * It will also prevent the thread from entering a wait, so if the thread returns
4836                  * from the wait before it receives the abort signal, it will just spin in the wait
4837                  * functions in the io-layer until the signal handler calls QueueUserAPC which will
4838                  * make it return.
4839                  */
4840                 data->interrupt_token = mono_thread_info_prepare_interrupt (info);
4841
4842                 return MonoResumeThread;
4843         }
4844 }
4845
4846 static void
4847 async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort)
4848 {
4849         AbortThreadData data;
4850
4851         g_assert (thread != mono_thread_internal_current ());
4852
4853         data.thread = thread;
4854         data.install_async_abort = install_async_abort;
4855         data.interrupt_token = NULL;
4856
4857         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), TRUE, async_abort_critical, &data);
4858         if (data.interrupt_token)
4859                 mono_thread_info_finish_interrupt (data.interrupt_token);
4860         /*FIXME we need to wait for interruption to complete -- figure out how much into interruption we should wait for here*/
4861 }
4862
4863 static void
4864 self_abort_internal (MonoError *error)
4865 {
4866         MonoException *exc;
4867
4868         mono_error_init (error);
4869
4870         /* FIXME this is insanely broken, it doesn't cause interruption to happen synchronously
4871          * since passing FALSE to mono_thread_request_interruption makes sure it returns NULL */
4872
4873         exc = mono_thread_request_interruption (TRUE);
4874         if (exc)
4875                 mono_error_set_exception_instance (error, exc);
4876         else
4877                 mono_thread_info_self_interrupt ();
4878 }
4879
4880 typedef struct {
4881         MonoInternalThread *thread;
4882         gboolean interrupt;
4883         MonoThreadInfoInterruptToken *interrupt_token;
4884 } SuspendThreadData;
4885
4886 static SuspendThreadResult
4887 async_suspend_critical (MonoThreadInfo *info, gpointer ud)
4888 {
4889         SuspendThreadData *data = (SuspendThreadData *)ud;
4890         MonoInternalThread *thread = data->thread;
4891         MonoJitInfo *ji = NULL;
4892         gboolean protected_wrapper;
4893         gboolean running_managed;
4894
4895         ji = mono_thread_info_get_last_managed (info);
4896         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4897         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4898
4899         if (running_managed && !protected_wrapper) {
4900                 thread->state &= ~ThreadState_SuspendRequested;
4901                 thread->state |= ThreadState_Suspended;
4902                 return KeepSuspended;
4903         } else {
4904                 if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 0)
4905                         InterlockedIncrement (&thread_interruption_requested);
4906                 if (data->interrupt)
4907                         data->interrupt_token = mono_thread_info_prepare_interrupt ((MonoThreadInfo *)thread->thread_info);
4908
4909                 return MonoResumeThread;
4910         }
4911 }
4912
4913 /* LOCKING: called with @thread synch_cs held, and releases it */
4914 static void
4915 async_suspend_internal (MonoInternalThread *thread, gboolean interrupt)
4916 {
4917         SuspendThreadData data;
4918
4919         g_assert (thread != mono_thread_internal_current ());
4920
4921         data.thread = thread;
4922         data.interrupt = interrupt;
4923         data.interrupt_token = NULL;
4924
4925         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), interrupt, async_suspend_critical, &data);
4926         if (data.interrupt_token)
4927                 mono_thread_info_finish_interrupt (data.interrupt_token);
4928
4929         UNLOCK_THREAD (thread);
4930 }
4931
4932 /* LOCKING: called with @thread synch_cs held, and releases it */
4933 static void
4934 self_suspend_internal (void)
4935 {
4936         MonoInternalThread *thread;
4937
4938         thread = mono_thread_internal_current ();
4939
4940         mono_thread_info_begin_self_suspend ();
4941         thread->state &= ~ThreadState_SuspendRequested;
4942         thread->state |= ThreadState_Suspended;
4943
4944         UNLOCK_THREAD (thread);
4945
4946         mono_thread_info_end_self_suspend ();
4947 }
4948
4949 /*
4950  * mono_thread_is_foreign:
4951  * @thread: the thread to query
4952  *
4953  * This function allows one to determine if a thread was created by the mono runtime and has
4954  * a well defined lifecycle or it's a foreigh one, created by the native environment.
4955  *
4956  * Returns: TRUE if @thread was not created by the runtime.
4957  */
4958 mono_bool
4959 mono_thread_is_foreign (MonoThread *thread)
4960 {
4961         MonoThreadInfo *info = (MonoThreadInfo *)thread->internal_thread->thread_info;
4962         return info->runtime_thread == FALSE;
4963 }
4964
4965 /*
4966  * mono_add_joinable_thread:
4967  *
4968  *   Add TID to the list of joinable threads.
4969  * LOCKING: Acquires the threads lock.
4970  */
4971 void
4972 mono_threads_add_joinable_thread (gpointer tid)
4973 {
4974 #ifndef HOST_WIN32
4975         /*
4976          * We cannot detach from threads because it causes problems like
4977          * 2fd16f60/r114307. So we collect them and join them when
4978          * we have time (in he finalizer thread).
4979          */
4980         joinable_threads_lock ();
4981         if (!joinable_threads)
4982                 joinable_threads = g_hash_table_new (NULL, NULL);
4983         g_hash_table_insert (joinable_threads, tid, tid);
4984         joinable_thread_count ++;
4985         joinable_threads_unlock ();
4986
4987         mono_gc_finalize_notify ();
4988 #endif
4989 }
4990
4991 /*
4992  * mono_threads_join_threads:
4993  *
4994  *   Join all joinable threads. This is called from the finalizer thread.
4995  * LOCKING: Acquires the threads lock.
4996  */
4997 void
4998 mono_threads_join_threads (void)
4999 {
5000 #ifndef HOST_WIN32
5001         GHashTableIter iter;
5002         gpointer key;
5003         gpointer tid;
5004         pthread_t thread;
5005         gboolean found;
5006
5007         /* Fastpath */
5008         if (!joinable_thread_count)
5009                 return;
5010
5011         while (TRUE) {
5012                 joinable_threads_lock ();
5013                 found = FALSE;
5014                 if (g_hash_table_size (joinable_threads)) {
5015                         g_hash_table_iter_init (&iter, joinable_threads);
5016                         g_hash_table_iter_next (&iter, &key, (void**)&tid);
5017                         thread = (pthread_t)tid;
5018                         g_hash_table_remove (joinable_threads, key);
5019                         joinable_thread_count --;
5020                         found = TRUE;
5021                 }
5022                 joinable_threads_unlock ();
5023                 if (found) {
5024                         if (thread != pthread_self ())
5025                                 /* This shouldn't block */
5026                                 pthread_join (thread, NULL);
5027                 } else {
5028                         break;
5029                 }
5030         }
5031 #endif
5032 }
5033
5034 /*
5035  * mono_thread_join:
5036  *
5037  *   Wait for thread TID to exit.
5038  * LOCKING: Acquires the threads lock.
5039  */
5040 void
5041 mono_thread_join (gpointer tid)
5042 {
5043 #ifndef HOST_WIN32
5044         pthread_t thread;
5045         gboolean found = FALSE;
5046
5047         joinable_threads_lock ();
5048         if (!joinable_threads)
5049                 joinable_threads = g_hash_table_new (NULL, NULL);
5050         if (g_hash_table_lookup (joinable_threads, tid)) {
5051                 g_hash_table_remove (joinable_threads, tid);
5052                 joinable_thread_count --;
5053                 found = TRUE;
5054         }
5055         joinable_threads_unlock ();
5056         if (!found)
5057                 return;
5058         thread = (pthread_t)tid;
5059         pthread_join (thread, NULL);
5060 #endif
5061 }
5062
5063 void
5064 mono_thread_internal_check_for_interruption_critical (MonoInternalThread *thread)
5065 {
5066         if ((thread->state & (ThreadState_StopRequested | ThreadState_SuspendRequested)) != 0)
5067                 mono_thread_interruption_checkpoint ();
5068 }
5069
5070 static inline gboolean
5071 is_appdomainunloaded_exception (MonoClass *klass)
5072 {
5073         return klass == mono_class_get_appdomain_unloaded_exception_class ();
5074 }
5075
5076 static inline gboolean
5077 is_threadabort_exception (MonoClass *klass)
5078 {
5079         return klass == mono_defaults.threadabortexception_class;
5080 }
5081
5082 void
5083 mono_thread_internal_unhandled_exception (MonoObject* exc)
5084 {
5085         if (mono_runtime_unhandled_exception_policy_get () == MONO_UNHANDLED_POLICY_CURRENT) {
5086                 MonoClass *klass = exc->vtable->klass;
5087                 if (is_threadabort_exception (klass)) {
5088                         mono_thread_internal_reset_abort (mono_thread_internal_current ());
5089                 } else if (!is_appdomainunloaded_exception (klass)) {
5090                         mono_unhandled_exception (exc);
5091                         if (mono_environment_exitcode_get () == 1)
5092                                 exit (255);
5093                 }
5094         }
5095 }
5096
5097 void
5098 ves_icall_System_Threading_Thread_GetStackTraces (MonoArray **out_threads, MonoArray **out_stack_traces)
5099 {
5100         mono_threads_get_thread_dump (out_threads, out_stack_traces);
5101 }
5102
5103 /*
5104  * mono_threads_attach_coop: called by native->managed wrappers
5105  *
5106  * In non-coop mode:
5107  *  - @dummy: is NULL
5108  *  - @return: the original domain which needs to be restored, or NULL.
5109  *
5110  * In coop mode:
5111  *  - @dummy: contains the original domain
5112  *  - @return: a cookie containing current MonoThreadInfo*.
5113  */
5114 gpointer
5115 mono_threads_attach_coop (MonoDomain *domain, gpointer *dummy)
5116 {
5117         MonoError error;
5118         MonoDomain *orig;
5119         gboolean fresh_thread;
5120
5121         if (!domain) {
5122                 /* Happens when called from AOTed code which is only used in the root domain. */
5123                 domain = mono_get_root_domain ();
5124         }
5125
5126         g_assert (domain);
5127
5128         /* On coop, when we detached, we moved the thread from  RUNNING->BLOCKING.
5129          * If we try to reattach we do a BLOCKING->RUNNING transition.  If the thread
5130          * is fresh, mono_thread_attach() will do a STARTING->RUNNING transition so
5131          * we're only responsible for making the cookie. */
5132         if (mono_threads_is_coop_enabled ()) {
5133                 MonoThreadInfo *info = mono_thread_info_current_unchecked ();
5134                 fresh_thread = !info || !mono_thread_info_is_live (info);
5135         }
5136
5137         if (!mono_thread_internal_current ()) {
5138                 mono_thread_attach_full (domain, FALSE, &error);
5139                 mono_error_assert_ok (&error);
5140
5141                 // #678164
5142                 mono_thread_set_state (mono_thread_internal_current (), ThreadState_Background);
5143         }
5144
5145         orig = mono_domain_get ();
5146         if (orig != domain)
5147                 mono_domain_set (domain, TRUE);
5148
5149         if (!mono_threads_is_coop_enabled ())
5150                 return orig != domain ? orig : NULL;
5151
5152         if (fresh_thread) {
5153                 *dummy = NULL;
5154                 /* mono_thread_attach put the thread in RUNNING mode from STARTING, but we need to
5155                  * return the right cookie. */
5156                 return mono_threads_enter_gc_unsafe_region_cookie (mono_thread_info_current ());
5157         } else {
5158                 *dummy = orig;
5159                 /* thread state (BLOCKING|RUNNING) -> RUNNING */
5160                 return mono_threads_enter_gc_unsafe_region (dummy);
5161         }
5162 }
5163
5164 /*
5165  * mono_threads_detach_coop: called by native->managed wrappers
5166  *
5167  * In non-coop mode:
5168  *  - @cookie: the original domain which needs to be restored, or NULL.
5169  *  - @dummy: is NULL
5170  *
5171  * In coop mode:
5172  *  - @cookie: contains current MonoThreadInfo* if it was in BLOCKING mode, NULL otherwise
5173  *  - @dummy: contains the original domain
5174  */
5175 void
5176 mono_threads_detach_coop (gpointer cookie, gpointer *dummy)
5177 {
5178         MonoDomain *domain, *orig;
5179
5180         if (!mono_threads_is_coop_enabled ()) {
5181                 orig = (MonoDomain*) cookie;
5182                 if (orig)
5183                         mono_domain_set (orig, TRUE);
5184         } else {
5185                 orig = (MonoDomain*) *dummy;
5186
5187                 domain = mono_domain_get ();
5188                 g_assert (domain);
5189
5190                 /* it won't do anything if cookie is NULL
5191                  * thread state RUNNING -> (RUNNING|BLOCKING) */
5192                 mono_threads_exit_gc_unsafe_region (cookie, dummy);
5193
5194                 if (orig != domain) {
5195                         if (!orig)
5196                                 mono_domain_unset ();
5197                         else
5198                                 mono_domain_set (orig, TRUE);
5199                 }
5200         }
5201 }