mono/metadata/threads.c

   1 /*
   2  * threads.c: Thread support internal calls
   3  *
   4  * Author:
   5  *      Dick Porter (dick@ximian.com)
   6  *      Paolo Molaro (lupus@ximian.com)
   7  *      Patrik Torstensson (patrik.torstensson@labs2.com)
   8  *
   9  * Copyright 2001-2003 Ximian, Inc (http://www.ximian.com)
  10  * Copyright 2004-2009 Novell, Inc (http://www.novell.com)
  11  * Copyright 2011 Xamarin, Inc (http://www.xamarin.com)
  12  * Licensed under the MIT license. See LICENSE file in the project root for full license information.
  13  */
  14
  15 #include <config.h>
  16
  17 #include <glib.h>
  18 #include <string.h>
  19
  20 #include <mono/metadata/object.h>
  21 #include <mono/metadata/domain-internals.h>
  22 #include <mono/metadata/profiler-private.h>
  23 #include <mono/metadata/threads.h>
  24 #include <mono/metadata/threads-types.h>
  25 #include <mono/metadata/exception.h>
  26 #include <mono/metadata/environment.h>
  27 #include <mono/metadata/monitor.h>
  28 #include <mono/metadata/gc-internals.h>
  29 #include <mono/metadata/marshal.h>
  30 #include <mono/metadata/runtime.h>
  31 #include <mono/io-layer/io-layer.h>
  32 #include <mono/metadata/object-internals.h>
  33 #include <mono/metadata/mono-debug-debugger.h>
  34 #include <mono/utils/monobitset.h>
  35 #include <mono/utils/mono-compiler.h>
  36 #include <mono/utils/mono-mmap.h>
  37 #include <mono/utils/mono-membar.h>
  38 #include <mono/utils/mono-time.h>
  39 #include <mono/utils/mono-threads.h>
  40 #include <mono/utils/hazard-pointer.h>
  41 #include <mono/utils/mono-tls.h>
  42 #include <mono/utils/atomic.h>
  43 #include <mono/utils/mono-memory-model.h>
  44
  45 #include <mono/metadata/gc-internals.h>
  46 #include <mono/metadata/reflection-internals.h>
  47
  48 #ifdef HAVE_SIGNAL_H
  49 #include <signal.h>
  50 #endif
  51
  52 #if defined(PLATFORM_ANDROID) && !defined(TARGET_ARM64) && !defined(TARGET_AMD64)
  53 #define USE_TKILL_ON_ANDROID 1
  54 #endif
  55
  56 #ifdef PLATFORM_ANDROID
  57 #include <errno.h>
  58
  59 #ifdef USE_TKILL_ON_ANDROID
  60 extern int tkill (pid_t tid, int signal);
  61 #endif
  62 #endif
  63
  64 /*#define THREAD_DEBUG(a) do { a; } while (0)*/
  65 #define THREAD_DEBUG(a)
  66 /*#define THREAD_WAIT_DEBUG(a) do { a; } while (0)*/
  67 #define THREAD_WAIT_DEBUG(a)
  68 /*#define LIBGC_DEBUG(a) do { a; } while (0)*/
  69 #define LIBGC_DEBUG(a)
  70
  71 #define SPIN_TRYLOCK(i) (InterlockedCompareExchange (&(i), 1, 0) == 0)
  72 #define SPIN_LOCK(i) do { \
  73                                 if (SPIN_TRYLOCK (i)) \
  74                                         break; \
  75                         } while (1)
  76
  77 #define SPIN_UNLOCK(i) i = 0
  78
  79 #define LOCK_THREAD(thread) lock_thread((thread))
  80 #define UNLOCK_THREAD(thread) unlock_thread((thread))
  81
  82 /* Provide this for systems with glib < 2.6 */
  83 #ifndef G_GSIZE_FORMAT
  84 #   if GLIB_SIZEOF_LONG == 8
  85 #       define G_GSIZE_FORMAT "lu"
  86 #   else
  87 #       define G_GSIZE_FORMAT "u"
  88 #   endif
  89 #endif
  90
  91 typedef struct
  92 {
  93         guint32 (*func)(void *);
  94         MonoThread *obj;
  95         MonoObject *delegate;
  96         void *start_arg;
  97 } StartInfo;
  98
  99 typedef union {
 100         gint32 ival;
 101         gfloat fval;
 102 } IntFloatUnion;
 103
 104 typedef union {
 105         gint64 ival;
 106         gdouble fval;
 107 } LongDoubleUnion;
 108
 109 typedef struct _StaticDataFreeList StaticDataFreeList;
 110 struct _StaticDataFreeList {
 111         StaticDataFreeList *next;
 112         guint32 offset;
 113         guint32 size;
 114 };
 115
 116 typedef struct {
 117         int idx;
 118         int offset;
 119         StaticDataFreeList *freelist;
 120 } StaticDataInfo;
 121
 122 /* Number of cached culture objects in the MonoThread->cached_culture_info array
 123  * (per-type): we use the first NUM entries for CultureInfo and the last for
 124  * UICultureInfo. So the size of the array is really NUM_CACHED_CULTURES * 2.
 125  */
 126 #define NUM_CACHED_CULTURES 4
 127 #define CULTURES_START_IDX 0
 128 #define UICULTURES_START_IDX NUM_CACHED_CULTURES
 129
 130 /* Controls access to the 'threads' hash table */
 131 static void mono_threads_lock (void);
 132 static void mono_threads_unlock (void);
 133 static MonoCoopMutex threads_mutex;
 134
 135 /* Controls access to the 'joinable_threads' hash table */
 136 #define joinable_threads_lock() mono_os_mutex_lock (&joinable_threads_mutex)
 137 #define joinable_threads_unlock() mono_os_mutex_unlock (&joinable_threads_mutex)
 138 static mono_mutex_t joinable_threads_mutex;
 139
 140 /* Holds current status of static data heap */
 141 static StaticDataInfo thread_static_info;
 142 static StaticDataInfo context_static_info;
 143
 144 /* The hash of existing threads (key is thread ID, value is
 145  * MonoInternalThread*) that need joining before exit
 146  */
 147 static MonoGHashTable *threads=NULL;
 148
 149 /* List of app context GC handles.
 150  * Added to from ves_icall_System_Runtime_Remoting_Contexts_Context_RegisterContext ().
 151  */
 152 static GHashTable *contexts = NULL;
 153
 154 /* Cleanup queue for contexts. */
 155 static MonoReferenceQueue *context_queue;
 156
 157 /*
 158  * Threads which are starting up and they are not in the 'threads' hash yet.
 159  * When handle_store is called for a thread, it will be removed from this hash table.
 160  * Protected by mono_threads_lock ().
 161  */
 162 static MonoGHashTable *threads_starting_up = NULL;
 163
 164 /* The TLS key that holds the MonoObject assigned to each thread */
 165 static MonoNativeTlsKey current_object_key;
 166
 167 /* Contains tids */
 168 /* Protected by the threads lock */
 169 static GHashTable *joinable_threads;
 170 static int joinable_thread_count;
 171
 172 #ifdef MONO_HAVE_FAST_TLS
 173 /* we need to use both the Tls* functions and __thread because
 174  * the gc needs to see all the threads
 175  */
 176 MONO_FAST_TLS_DECLARE(tls_current_object);
 177 #define SET_CURRENT_OBJECT(x) do { \
 178         MONO_FAST_TLS_SET (tls_current_object, x); \
 179         mono_native_tls_set_value (current_object_key, x); \
 180 } while (FALSE)
 181 #define GET_CURRENT_OBJECT() ((MonoInternalThread*) MONO_FAST_TLS_GET (tls_current_object))
 182 #else
 183 #define SET_CURRENT_OBJECT(x) mono_native_tls_set_value (current_object_key, x)
 184 #define GET_CURRENT_OBJECT() (MonoInternalThread*) mono_native_tls_get_value (current_object_key)
 185 #endif
 186
 187 /* function called at thread start */
 188 static MonoThreadStartCB mono_thread_start_cb = NULL;
 189
 190 /* function called at thread attach */
 191 static MonoThreadAttachCB mono_thread_attach_cb = NULL;
 192
 193 /* function called at thread cleanup */
 194 static MonoThreadCleanupFunc mono_thread_cleanup_fn = NULL;
 195
 196 /* The default stack size for each thread */
 197 static guint32 default_stacksize = 0;
 198 #define default_stacksize_for_thread(thread) ((thread)->stack_size? (thread)->stack_size: default_stacksize)
 199
 200 static void thread_adjust_static_data (MonoInternalThread *thread);
 201 static void context_adjust_static_data (MonoAppContext *ctx);
 202 static void mono_free_static_data (gpointer* static_data);
 203 static void mono_init_static_data_info (StaticDataInfo *static_data);
 204 static guint32 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align);
 205 static gboolean mono_thread_resume (MonoInternalThread* thread);
 206 static void async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort);
 207 static void self_abort_internal (void);
 208 static void async_suspend_internal (MonoInternalThread *thread, gboolean interrupt);
 209 static void self_suspend_internal (void);
 210
 211 static MonoException* mono_thread_execute_interruption (void);
 212 static void ref_stack_destroy (gpointer rs);
 213
 214 /* Spin lock for InterlockedXXX 64 bit functions */
 215 #define mono_interlocked_lock() mono_os_mutex_lock (&interlocked_mutex)
 216 #define mono_interlocked_unlock() mono_os_mutex_unlock (&interlocked_mutex)
 217 static mono_mutex_t interlocked_mutex;
 218
 219 /* global count of thread interruptions requested */
 220 static gint32 thread_interruption_requested = 0;
 221
 222 /* Event signaled when a thread changes its background mode */
 223 static HANDLE background_change_event;
 224
 225 static gboolean shutting_down = FALSE;
 226
 227 static gint32 managed_thread_id_counter = 0;
 228
 229 /* Class lazy loading functions */
 230 static GENERATE_GET_CLASS_WITH_CACHE (appdomain_unloaded_exception, System, AppDomainUnloadedException)
 231
 232 static void
 233 mono_threads_lock (void)
 234 {
 235         mono_locks_coop_acquire (&threads_mutex, ThreadsLock);
 236 }
 237
 238 static void
 239 mono_threads_unlock (void)
 240 {
 241         mono_locks_coop_release (&threads_mutex, ThreadsLock);
 242 }
 243
 244
 245 static guint32
 246 get_next_managed_thread_id (void)
 247 {
 248         return InterlockedIncrement (&managed_thread_id_counter);
 249 }
 250
 251 MonoNativeTlsKey
 252 mono_thread_get_tls_key (void)
 253 {
 254         return current_object_key;
 255 }
 256
 257 gint32
 258 mono_thread_get_tls_offset (void)
 259 {
 260         int offset;
 261         MONO_THREAD_VAR_OFFSET (tls_current_object,offset);
 262         return offset;
 263 }
 264
 265 static inline MonoNativeThreadId
 266 thread_get_tid (MonoInternalThread *thread)
 267 {
 268         /* We store the tid as a guint64 to keep the object layout constant between platforms */
 269         return MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid);
 270 }
 271
 272 /* handle_store() and handle_remove() manage the array of threads that
 273  * still need to be waited for when the main thread exits.
 274  *
 275  * If handle_store() returns FALSE the thread must not be started
 276  * because Mono is shutting down.
 277  */
 278 static gboolean handle_store(MonoThread *thread, gboolean force_attach)
 279 {
 280         mono_threads_lock ();
 281
 282         THREAD_DEBUG (g_message ("%s: thread %p ID %"G_GSIZE_FORMAT, __func__, thread, (gsize)thread->internal_thread->tid));
 283
 284         if (threads_starting_up)
 285                 mono_g_hash_table_remove (threads_starting_up, thread);
 286
 287         if (shutting_down && !force_attach) {
 288                 mono_threads_unlock ();
 289                 return FALSE;
 290         }
 291
 292         if(threads==NULL) {
 293                 MONO_GC_REGISTER_ROOT_FIXED (threads, MONO_ROOT_SOURCE_THREADING, "threads table");
 294                 threads=mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "threads table");
 295         }
 296
 297         /* We don't need to duplicate thread->handle, because it is
 298          * only closed when the thread object is finalized by the GC.
 299          */
 300         g_assert (thread->internal_thread);
 301         mono_g_hash_table_insert(threads, (gpointer)(gsize)(thread->internal_thread->tid),
 302                                  thread->internal_thread);
 303
 304         mono_threads_unlock ();
 305
 306         return TRUE;
 307 }
 308
 309 static gboolean handle_remove(MonoInternalThread *thread)
 310 {
 311         gboolean ret;
 312         gsize tid = thread->tid;
 313
 314         THREAD_DEBUG (g_message ("%s: thread ID %"G_GSIZE_FORMAT, __func__, tid));
 315
 316         mono_threads_lock ();
 317
 318         if (threads) {
 319                 /* We have to check whether the thread object for the
 320                  * tid is still the same in the table because the
 321                  * thread might have been destroyed and the tid reused
 322                  * in the meantime, in which case the tid would be in
 323                  * the table, but with another thread object.
 324                  */
 325                 if (mono_g_hash_table_lookup (threads, (gpointer)tid) == thread) {
 326                         mono_g_hash_table_remove (threads, (gpointer)tid);
 327                         ret = TRUE;
 328                 } else {
 329                         ret = FALSE;
 330                 }
 331         }
 332         else
 333                 ret = FALSE;
 334
 335         mono_threads_unlock ();
 336
 337         /* Don't close the handle here, wait for the object finalizer
 338          * to do it. Otherwise, the following race condition applies:
 339          *
 340          * 1) Thread exits (and handle_remove() closes the handle)
 341          *
 342          * 2) Some other handle is reassigned the same slot
 343          *
 344          * 3) Another thread tries to join the first thread, and
 345          * blocks waiting for the reassigned handle to be signalled
 346          * (which might never happen).  This is possible, because the
 347          * thread calling Join() still has a reference to the first
 348          * thread's object.
 349          */
 350         return ret;
 351 }
 352
 353 static void ensure_synch_cs_set (MonoInternalThread *thread)
 354 {
 355         MonoCoopMutex *synch_cs;
 356
 357         if (thread->synch_cs != NULL) {
 358                 return;
 359         }
 360
 361         synch_cs = g_new0 (MonoCoopMutex, 1);
 362         mono_coop_mutex_init_recursive (synch_cs);
 363
 364         if (InterlockedCompareExchangePointer ((gpointer *)&thread->synch_cs,
 365                                                synch_cs, NULL) != NULL) {
 366                 /* Another thread must have installed this CS */
 367                 mono_coop_mutex_destroy (synch_cs);
 368                 g_free (synch_cs);
 369         }
 370 }
 371
 372 static inline void
 373 lock_thread (MonoInternalThread *thread)
 374 {
 375         if (!thread->synch_cs)
 376                 ensure_synch_cs_set (thread);
 377
 378         g_assert (thread->synch_cs);
 379
 380         mono_coop_mutex_lock (thread->synch_cs);
 381 }
 382
 383 static inline void
 384 unlock_thread (MonoInternalThread *thread)
 385 {
 386         mono_coop_mutex_unlock (thread->synch_cs);
 387 }
 388
 389 /*
 390  * NOTE: this function can be called also for threads different from the current one:
 391  * make sure no code called from it will ever assume it is run on the thread that is
 392  * getting cleaned up.
 393  */
 394 static void thread_cleanup (MonoInternalThread *thread)
 395 {
 396         g_assert (thread != NULL);
 397
 398         if (thread->abort_state_handle) {
 399                 mono_gchandle_free (thread->abort_state_handle);
 400                 thread->abort_state_handle = 0;
 401         }
 402         thread->abort_exc = NULL;
 403         thread->current_appcontext = NULL;
 404
 405         /*
 406          * This is necessary because otherwise we might have
 407          * cross-domain references which will not get cleaned up when
 408          * the target domain is unloaded.
 409          */
 410         if (thread->cached_culture_info) {
 411                 int i;
 412                 for (i = 0; i < NUM_CACHED_CULTURES * 2; ++i)
 413                         mono_array_set (thread->cached_culture_info, MonoObject*, i, NULL);
 414         }
 415
 416         /*
 417          * thread->synch_cs can be NULL if this was called after
 418          * ves_icall_System_Threading_InternalThread_Thread_free_internal.
 419          * This can happen only during shutdown.
 420          * The shutting_down flag is not always set, so we can't assert on it.
 421          */
 422         if (thread->synch_cs)
 423                 LOCK_THREAD (thread);
 424
 425         thread->state |= ThreadState_Stopped;
 426         thread->state &= ~ThreadState_Background;
 427
 428         if (thread->synch_cs)
 429                 UNLOCK_THREAD (thread);
 430
 431         /*
 432         An interruption request has leaked to cleanup. Adjust the global counter.
 433
 434         This can happen is the abort source thread finds the abortee (this) thread
 435         in unmanaged code. If this thread never trips back to managed code or check
 436         the local flag it will be left set and positively unbalance the global counter.
 437
 438         Leaving the counter unbalanced will cause a performance degradation since all threads
 439         will now keep checking their local flags all the time.
 440         */
 441         if (InterlockedExchange (&thread->interruption_requested, 0))
 442                 InterlockedDecrement (&thread_interruption_requested);
 443
 444         /* if the thread is not in the hash it has been removed already */
 445         if (!handle_remove (thread)) {
 446                 if (thread == mono_thread_internal_current ()) {
 447                         mono_domain_unset ();
 448                         mono_memory_barrier ();
 449                 }
 450                 /* This needs to be called even if handle_remove () fails */
 451                 if (mono_thread_cleanup_fn)
 452                         mono_thread_cleanup_fn (thread_get_tid (thread));
 453                 return;
 454         }
 455         mono_release_type_locks (thread);
 456
 457         /* Can happen when we attach the profiler helper thread in order to heapshot. */
 458         if (!mono_thread_info_lookup (MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid))->tools_thread)
 459                 mono_profiler_thread_end (thread->tid);
 460
 461         mono_hazard_pointer_clear (mono_hazard_pointer_get (), 1);
 462
 463         if (thread == mono_thread_internal_current ()) {
 464                 /*
 465                  * This will signal async signal handlers that the thread has exited.
 466                  * The profiler callback needs this to be set, so it cannot be done earlier.
 467                  */
 468                 mono_domain_unset ();
 469                 mono_memory_barrier ();
 470         }
 471
 472         if (thread == mono_thread_internal_current ())
 473                 mono_thread_pop_appdomain_ref ();
 474
 475         thread->cached_culture_info = NULL;
 476
 477         mono_free_static_data (thread->static_data);
 478         thread->static_data = NULL;
 479         ref_stack_destroy (thread->appdomain_refs);
 480         thread->appdomain_refs = NULL;
 481
 482         if (mono_thread_cleanup_fn)
 483                 mono_thread_cleanup_fn (thread_get_tid (thread));
 484
 485         if (mono_gc_is_moving ()) {
 486                 MONO_GC_UNREGISTER_ROOT (thread->thread_pinning_ref);
 487                 thread->thread_pinning_ref = NULL;
 488         }
 489
 490 }
 491
 492 /*
 493  * A special static data offset (guint32) consists of 3 parts:
 494  *
 495  * [0]   6-bit index into the array of chunks.
 496  * [6]   25-bit offset into the array.
 497  * [31]  Bit indicating thread or context static.
 498  */
 499
 500 typedef union {
 501         struct {
 502 #if G_BYTE_ORDER != G_LITTLE_ENDIAN
 503                 guint32 type : 1;
 504                 guint32 offset : 25;
 505                 guint32 index : 6;
 506 #else
 507                 guint32 index : 6;
 508                 guint32 offset : 25;
 509                 guint32 type : 1;
 510 #endif
 511         } fields;
 512         guint32 raw;
 513 } SpecialStaticOffset;
 514
 515 #define SPECIAL_STATIC_OFFSET_TYPE_THREAD 0
 516 #define SPECIAL_STATIC_OFFSET_TYPE_CONTEXT 1
 517
 518 #define MAKE_SPECIAL_STATIC_OFFSET(index, offset, type) \
 519         ((SpecialStaticOffset) { .fields = { (index), (offset), (type) } }.raw)
 520 #define ACCESS_SPECIAL_STATIC_OFFSET(x,f) \
 521         (((SpecialStaticOffset *) &(x))->fields.f)
 522
 523 static gpointer
 524 get_thread_static_data (MonoInternalThread *thread, guint32 offset)
 525 {
 526         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_THREAD);
 527
 528         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
 529         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
 530
 531         return ((char *) thread->static_data [idx]) + off;
 532 }
 533
 534 static gpointer
 535 get_context_static_data (MonoAppContext *ctx, guint32 offset)
 536 {
 537         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_CONTEXT);
 538
 539         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
 540         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
 541
 542         return ((char *) ctx->static_data [idx]) + off;
 543 }
 544
 545 static MonoThread**
 546 get_current_thread_ptr_for_domain (MonoDomain *domain, MonoInternalThread *thread)
 547 {
 548         static MonoClassField *current_thread_field = NULL;
 549
 550         guint32 offset;
 551
 552         if (!current_thread_field) {
 553                 current_thread_field = mono_class_get_field_from_name (mono_defaults.thread_class, "current_thread");
 554                 g_assert (current_thread_field);
 555         }
 556
 557         mono_class_vtable (domain, mono_defaults.thread_class);
 558         mono_domain_lock (domain);
 559         offset = GPOINTER_TO_UINT (g_hash_table_lookup (domain->special_static_fields, current_thread_field));
 560         mono_domain_unlock (domain);
 561         g_assert (offset);
 562
 563         return (MonoThread **)get_thread_static_data (thread, offset);
 564 }
 565
 566 static void
 567 set_current_thread_for_domain (MonoDomain *domain, MonoInternalThread *thread, MonoThread *current)
 568 {
 569         MonoThread **current_thread_ptr = get_current_thread_ptr_for_domain (domain, thread);
 570
 571         g_assert (current->obj.vtable->domain == domain);
 572
 573         g_assert (!*current_thread_ptr);
 574         *current_thread_ptr = current;
 575 }
 576
 577 static MonoThread*
 578 create_thread_object (MonoDomain *domain, MonoError *error)
 579 {
 580         MonoVTable *vt = mono_class_vtable (domain, mono_defaults.thread_class);
 581         MonoThread *t = (MonoThread*)mono_object_new_mature (vt, error);
 582         return t;
 583 }
 584
 585 static MonoThread*
 586 new_thread_with_internal (MonoDomain *domain, MonoInternalThread *internal, MonoError *error)
 587 {
 588         MonoThread *thread;
 589
 590         thread = create_thread_object (domain, error);
 591         if (!mono_error_ok (error))
 592                 return NULL;
 593
 594         MONO_OBJECT_SETREF (thread, internal_thread, internal);
 595
 596         return thread;
 597 }
 598
 599 static MonoInternalThread*
 600 create_internal_thread (MonoError *error)
 601 {
 602         MonoInternalThread *thread;
 603         MonoVTable *vt;
 604
 605         vt = mono_class_vtable (mono_get_root_domain (), mono_defaults.internal_thread_class);
 606         thread = (MonoInternalThread*) mono_object_new_mature (vt, error);
 607         if (!mono_error_ok (error))
 608                 return NULL;
 609
 610         thread->synch_cs = g_new0 (MonoCoopMutex, 1);
 611         mono_coop_mutex_init_recursive (thread->synch_cs);
 612
 613         thread->apartment_state = ThreadApartmentState_Unknown;
 614         thread->managed_id = get_next_managed_thread_id ();
 615         if (mono_gc_is_moving ()) {
 616                 thread->thread_pinning_ref = thread;
 617                 MONO_GC_REGISTER_ROOT_PINNING (thread->thread_pinning_ref, MONO_ROOT_SOURCE_THREADING, "thread pinning reference");
 618         }
 619
 620         return thread;
 621 }
 622
 623 static gboolean
 624 init_root_domain_thread (MonoInternalThread *thread, MonoThread *candidate, MonoError *error)
 625 {
 626         MonoDomain *domain = mono_get_root_domain ();
 627
 628         mono_error_init (error);
 629         if (!candidate || candidate->obj.vtable->domain != domain) {
 630                 candidate = new_thread_with_internal (domain, thread, error);
 631                 return_val_if_nok (error, FALSE);
 632         }
 633         set_current_thread_for_domain (domain, thread, candidate);
 634         g_assert (!thread->root_domain_thread);
 635         MONO_OBJECT_SETREF (thread, root_domain_thread, candidate);
 636         return TRUE;
 637 }
 638
 639 static guint32 WINAPI start_wrapper_internal(void *data)
 640 {
 641         MonoError error;
 642         MonoThreadInfo *info;
 643         StartInfo *start_info = (StartInfo *)data;
 644         guint32 (*start_func)(void *);
 645         void *start_arg;
 646         gsize tid;
 647         /*
 648          * We don't create a local to hold start_info->obj, so hopefully it won't get pinned during a
 649          * GC stack walk.
 650          */
 651         MonoInternalThread *internal = start_info->obj->internal_thread;
 652         MonoObject *start_delegate = start_info->delegate;
 653         MonoDomain *domain = start_info->obj->obj.vtable->domain;
 654
 655         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper", __func__, mono_native_thread_id_get ()));
 656
 657         /* We can be sure start_info->obj->tid and
 658          * start_info->obj->handle have been set, because the thread
 659          * was created suspended, and these values were set before the
 660          * thread resumed
 661          */
 662
 663         info = mono_thread_info_current ();
 664         g_assert (info);
 665         internal->thread_info = info;
 666         internal->small_id = info->small_id;
 667
 668         tid = internal->tid;
 669
 670         SET_CURRENT_OBJECT (internal);
 671
 672         /* Every thread references the appdomain which created it */
 673         mono_thread_push_appdomain_ref (domain);
 674
 675         if (!mono_domain_set (domain, FALSE)) {
 676                 /* No point in raising an appdomain_unloaded exception here */
 677                 /* FIXME: Cleanup here */
 678                 mono_thread_pop_appdomain_ref ();
 679                 return 0;
 680         }
 681
 682         start_func = start_info->func;
 683         start_arg = start_info->obj->start_obj;
 684         if (!start_arg)
 685                 start_arg = start_info->start_arg;
 686
 687         /* We have to do this here because mono_thread_new_init()
 688            requires that root_domain_thread is set up. */
 689         thread_adjust_static_data (internal);
 690         init_root_domain_thread (internal, start_info->obj, &error);
 691         mono_error_raise_exception (&error); /* FIXME don't raise here */
 692
 693         /* This MUST be called before any managed code can be
 694          * executed, as it calls the callback function that (for the
 695          * jit) sets the lmf marker.
 696          */
 697         mono_thread_new_init (tid, &tid, start_func);
 698         internal->stack_ptr = &tid;
 699         if (domain != mono_get_root_domain ())
 700                 set_current_thread_for_domain (domain, internal, start_info->obj);
 701
 702         LIBGC_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT",%d) Setting thread stack to %p", __func__, mono_native_thread_id_get (), getpid (), thread->stack_ptr));
 703
 704         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Setting current_object_key to %p", __func__, mono_native_thread_id_get (), internal));
 705
 706         /* On 2.0 profile (and higher), set explicitly since state might have been
 707            Unknown */
 708         if (internal->apartment_state == ThreadApartmentState_Unknown)
 709                 internal->apartment_state = ThreadApartmentState_MTA;
 710
 711         mono_thread_init_apartment_state ();
 712
 713         if(internal->start_notify!=NULL) {
 714                 /* Let the thread that called Start() know we're
 715                  * ready
 716                  */
 717                 ReleaseSemaphore (internal->start_notify, 1, NULL);
 718         }
 719
 720         g_free (start_info);
 721         THREAD_DEBUG (g_message ("%s: start_wrapper for %"G_GSIZE_FORMAT, __func__,
 722                                                          internal->tid));
 723
 724         /*
 725          * Call this after calling start_notify, since the profiler callback might want
 726          * to lock the thread, and the lock is held by thread_start () which waits for
 727          * start_notify.
 728          */
 729         mono_profiler_thread_start (tid);
 730
 731         /* if the name was set before starting, we didn't invoke the profiler callback */
 732         if (internal->name) {
 733                 char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
 734                 mono_profiler_thread_name (internal->tid, tname);
 735                 mono_native_thread_set_name (MONO_UINT_TO_NATIVE_THREAD_ID (internal->tid), tname);
 736                 g_free (tname);
 737         }
 738
 739         /* start_func is set only for unmanaged start functions */
 740         if (start_func) {
 741                 start_func (start_arg);
 742         } else {
 743                 void *args [1];
 744                 g_assert (start_delegate != NULL);
 745                 args [0] = start_arg;
 746                 /* we may want to handle the exception here. See comment below on unhandled exceptions */
 747                 mono_runtime_delegate_invoke (start_delegate, args, NULL);
 748         }
 749
 750         /* If the thread calls ExitThread at all, this remaining code
 751          * will not be executed, but the main thread will eventually
 752          * call thread_cleanup() on this thread's behalf.
 753          */
 754
 755         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper terminating", __func__, mono_native_thread_id_get ()));
 756
 757         /* Do any cleanup needed for apartment state. This
 758          * cannot be done in thread_cleanup since thread_cleanup could be
 759          * called for a thread other than the current thread.
 760          * mono_thread_cleanup_apartment_state cleans up apartment
 761          * for the current thead */
 762         mono_thread_cleanup_apartment_state ();
 763
 764         thread_cleanup (internal);
 765
 766         internal->tid = 0;
 767
 768         /* Remove the reference to the thread object in the TLS data,
 769          * so the thread object can be finalized.  This won't be
 770          * reached if the thread threw an uncaught exception, so those
 771          * thread handles will stay referenced :-( (This is due to
 772          * missing support for scanning thread-specific data in the
 773          * Boehm GC - the io-layer keeps a GC-visible hash of pointers
 774          * to TLS data.)
 775          */
 776         SET_CURRENT_OBJECT (NULL);
 777
 778         return(0);
 779 }
 780
 781 static guint32 WINAPI start_wrapper(void *data)
 782 {
 783         volatile int dummy;
 784
 785         /* Avoid scanning the frames above this frame during a GC */
 786         mono_gc_set_stack_end ((void*)&dummy);
 787
 788         return start_wrapper_internal (data);
 789 }
 790
 791 /*
 792  * create_thread:
 793  *
 794  *   Common thread creation code.
 795  * LOCKING: Acquires the threads lock.
 796  */
 797 static gboolean
 798 create_thread (MonoThread *thread, MonoInternalThread *internal, StartInfo *start_info, gboolean threadpool_thread, guint32 stack_size,
 799                            MonoError *error)
 800 {
 801         HANDLE thread_handle;
 802         MonoNativeThreadId tid;
 803         guint32 create_flags;
 804
 805         /*
 806          * Join joinable threads to prevent running out of threads since the finalizer
 807          * thread might be blocked/backlogged.
 808          */
 809         mono_threads_join_threads ();
 810
 811         mono_error_init (error);
 812
 813         mono_threads_lock ();
 814         if (shutting_down) {
 815                 g_free (start_info);
 816                 mono_threads_unlock ();
 817                 return FALSE;
 818         }
 819         if (threads_starting_up == NULL) {
 820                 MONO_GC_REGISTER_ROOT_FIXED (threads_starting_up, MONO_ROOT_SOURCE_THREADING, "starting threads table");
 821                 threads_starting_up = mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_KEY_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "starting threads table");
 822         }
 823         mono_g_hash_table_insert (threads_starting_up, thread, thread);
 824         mono_threads_unlock ();
 825
 826         internal->start_notify = CreateSemaphore (NULL, 0, 0x7fffffff, NULL);
 827         if (!internal->start_notify) {
 828                 mono_threads_lock ();
 829                 mono_g_hash_table_remove (threads_starting_up, thread);
 830                 mono_threads_unlock ();
 831                 g_warning ("%s: CreateSemaphore error 0x%x", __func__, GetLastError ());
 832                 g_free (start_info);
 833                 return FALSE;
 834         }
 835
 836         if (stack_size == 0)
 837                 stack_size = default_stacksize_for_thread (internal);
 838
 839         /* Create suspended, so we can do some housekeeping before the thread
 840          * starts
 841          */
 842         create_flags = CREATE_SUSPENDED;
 843
 844         thread_handle = mono_threads_create_thread ((LPTHREAD_START_ROUTINE)start_wrapper, start_info,
 845                                                                                                 stack_size, create_flags, &tid);
 846
 847         if (thread_handle == NULL) {
 848                 /* The thread couldn't be created, so set an exception */
 849                 mono_threads_lock ();
 850                 mono_g_hash_table_remove (threads_starting_up, thread);
 851                 mono_threads_unlock ();
 852                 g_free (start_info);
 853                 mono_error_set_execution_engine (error, "Couldn't create thread. Error 0x%x", GetLastError());
 854                 return FALSE;
 855         }
 856         THREAD_DEBUG (g_message ("%s: Started thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread_handle));
 857
 858         internal->handle = thread_handle;
 859         internal->tid = MONO_NATIVE_THREAD_ID_TO_UINT (tid);
 860
 861         internal->threadpool_thread = threadpool_thread;
 862         if (threadpool_thread)
 863                 mono_thread_set_state (internal, ThreadState_Background);
 864
 865         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 866
 867         /* Only store the handle when the thread is about to be
 868          * launched, to avoid the main thread deadlocking while trying
 869          * to clean up a thread that will never be signalled.
 870          */
 871         if (!handle_store (thread, FALSE))
 872                 return FALSE;
 873
 874         mono_thread_info_resume (tid);
 875
 876         if (internal->start_notify) {
 877                 /*
 878                  * Wait for the thread to set up its TLS data etc, so
 879                  * theres no potential race condition if someone tries
 880                  * to look up the data believing the thread has
 881                  * started
 882                  */
 883                 THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") waiting for thread %p (%"G_GSIZE_FORMAT") to start", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 884
 885                 MONO_ENTER_GC_SAFE;
 886                 WaitForSingleObjectEx (internal->start_notify, INFINITE, FALSE);
 887                 MONO_EXIT_GC_SAFE;
 888
 889                 CloseHandle (internal->start_notify);
 890                 internal->start_notify = NULL;
 891         }
 892
 893         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Done launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 894
 895         return TRUE;
 896 }
 897
 898 void mono_thread_new_init (intptr_t tid, gpointer stack_start, gpointer func)
 899 {
 900         if (mono_thread_start_cb) {
 901                 mono_thread_start_cb (tid, stack_start, func);
 902         }
 903 }
 904
 905 void mono_threads_set_default_stacksize (guint32 stacksize)
 906 {
 907         default_stacksize = stacksize;
 908 }
 909
 910 guint32 mono_threads_get_default_stacksize (void)
 911 {
 912         return default_stacksize;
 913 }
 914
 915 /*
 916  * mono_thread_create_internal:
 917  *
 918  *   ARG should not be a GC reference.
 919  */
 920 MonoInternalThread*
 921 mono_thread_create_internal (MonoDomain *domain, gpointer func, gpointer arg, gboolean threadpool_thread, guint32 stack_size, MonoError *error)
 922 {
 923         MonoThread *thread;
 924         MonoInternalThread *internal;
 925         StartInfo *start_info;
 926         gboolean res;
 927
 928         mono_error_init (error);
 929
 930         thread = create_thread_object (domain, error);
 931         return_val_if_nok (error, NULL);
 932
 933         internal = create_internal_thread (error);
 934         return_val_if_nok (error, NULL);
 935
 936         MONO_OBJECT_SETREF (thread, internal_thread, internal);
 937
 938         start_info = g_new0 (StartInfo, 1);
 939         start_info->func = (guint32 (*)(void *))func;
 940         start_info->obj = thread;
 941         start_info->start_arg = arg;
 942
 943         res = create_thread (thread, internal, start_info, threadpool_thread, stack_size, error);
 944         return_val_if_nok (error, NULL);
 945
 946         /* Check that the managed and unmanaged layout of MonoInternalThread matches */
 947 #ifndef MONO_CROSS_COMPILE
 948         if (mono_check_corlib_version () == NULL)
 949                 g_assert (((char*)&internal->unused2 - (char*)internal) == mono_defaults.internal_thread_class->fields [mono_defaults.internal_thread_class->field.count - 1].offset);
 950 #endif
 951
 952         return internal;
 953 }
 954
 955 void
 956 mono_thread_create (MonoDomain *domain, gpointer func, gpointer arg)
 957 {
 958         MonoError error;
 959         if (!mono_thread_create_checked (domain, func, arg, &error))
 960                 mono_error_cleanup (&error);
 961 }
 962
 963 gboolean
 964 mono_thread_create_checked (MonoDomain *domain, gpointer func, gpointer arg, MonoError *error)
 965 {
 966         return (NULL != mono_thread_create_internal (domain, func, arg, FALSE, 0, error));
 967 }
 968
 969 MonoThread *
 970 mono_thread_attach (MonoDomain *domain)
 971 {
 972         MonoError error;
 973         MonoThread *thread = mono_thread_attach_full (domain, FALSE, &error);
 974         mono_error_raise_exception (&error);
 975
 976         return thread;
 977 }
 978
 979 MonoThread *
 980 mono_thread_attach_full (MonoDomain *domain, gboolean force_attach, MonoError *error)
 981 {
 982         MonoThreadInfo *info;
 983         MonoInternalThread *thread;
 984         MonoThread *current_thread;
 985         HANDLE thread_handle;
 986         MonoNativeThreadId tid;
 987
 988         mono_error_init (error);
 989
 990         if ((thread = mono_thread_internal_current ())) {
 991                 if (domain != mono_domain_get ())
 992                         mono_domain_set (domain, TRUE);
 993                 /* Already attached */
 994                 return mono_thread_current ();
 995         }
 996
 997         if (!mono_gc_register_thread (&domain)) {
 998                 g_error ("Thread %"G_GSIZE_FORMAT" calling into managed code is not registered with the GC. On UNIX, this can be fixed by #include-ing <gc.h> before <pthread.h> in the file containing the thread creation code.", mono_native_thread_id_get ());
 999         }
1000
1001         thread = create_internal_thread (error);
1002         if (!mono_error_ok (error))
1003                 return NULL;
1004
1005         thread_handle = mono_thread_info_open_handle ();
1006         g_assert (thread_handle);
1007
1008         tid=mono_native_thread_id_get ();
1009
1010         thread->handle = thread_handle;
1011         thread->tid = MONO_NATIVE_THREAD_ID_TO_UINT (tid);
1012         thread->stack_ptr = &tid;
1013
1014         THREAD_DEBUG (g_message ("%s: Attached thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread_handle));
1015
1016         info = mono_thread_info_current ();
1017         g_assert (info);
1018         thread->thread_info = info;
1019         thread->small_id = info->small_id;
1020
1021         current_thread = new_thread_with_internal (domain, thread, error);
1022         if (!mono_error_ok (error))
1023                 return NULL;
1024
1025         if (!handle_store (current_thread, force_attach)) {
1026                 /* Mono is shutting down, so just wait for the end */
1027                 for (;;)
1028                         mono_thread_info_sleep (10000, NULL);
1029         }
1030
1031         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Setting current_object_key to %p", __func__, mono_native_thread_id_get (), thread));
1032
1033         SET_CURRENT_OBJECT (thread);
1034         mono_domain_set (domain, TRUE);
1035
1036         thread_adjust_static_data (thread);
1037
1038         init_root_domain_thread (thread, current_thread, error);
1039         return_val_if_nok (error, NULL);
1040
1041         if (domain != mono_get_root_domain ())
1042                 set_current_thread_for_domain (domain, thread, current_thread);
1043
1044
1045         if (mono_thread_attach_cb) {
1046                 guint8 *staddr;
1047                 size_t stsize;
1048
1049                 mono_thread_info_get_stack_bounds (&staddr, &stsize);
1050
1051                 if (staddr == NULL)
1052                         mono_thread_attach_cb (MONO_NATIVE_THREAD_ID_TO_UINT (tid), &tid);
1053                 else
1054                         mono_thread_attach_cb (MONO_NATIVE_THREAD_ID_TO_UINT (tid), staddr + stsize);
1055         }
1056
1057         /* Can happen when we attach the profiler helper thread in order to heapshot. */
1058         if (!info->tools_thread)
1059                 // FIXME: Need a separate callback
1060                 mono_profiler_thread_start (MONO_NATIVE_THREAD_ID_TO_UINT (tid));
1061
1062         return current_thread;
1063 }
1064
1065 void
1066 mono_thread_detach_internal (MonoInternalThread *thread)
1067 {
1068         g_return_if_fail (thread != NULL);
1069
1070         THREAD_DEBUG (g_message ("%s: mono_thread_detach for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1071
1072         thread_cleanup (thread);
1073
1074         SET_CURRENT_OBJECT (NULL);
1075         mono_domain_unset ();
1076
1077         /* Don't need to CloseHandle this thread, even though we took a
1078          * reference in mono_thread_attach (), because the GC will do it
1079          * when the Thread object is finalised.
1080          */
1081 }
1082
1083 void
1084 mono_thread_detach (MonoThread *thread)
1085 {
1086         if (thread)
1087                 mono_thread_detach_internal (thread->internal_thread);
1088 }
1089
1090 /*
1091  * mono_thread_detach_if_exiting:
1092  *
1093  *   Detach the current thread from the runtime if it is exiting, i.e. it is running pthread dtors.
1094  * This should be used at the end of embedding code which calls into managed code, and which
1095  * can be called from pthread dtors, like dealloc: implementations in objective-c.
1096  */
1097 void
1098 mono_thread_detach_if_exiting (void)
1099 {
1100         if (mono_thread_info_is_exiting ()) {
1101                 MonoInternalThread *thread;
1102
1103                 thread = mono_thread_internal_current ();
1104                 if (thread) {
1105                         mono_thread_detach_internal (thread);
1106                         mono_thread_info_detach ();
1107                 }
1108         }
1109 }
1110
1111 void
1112 mono_thread_exit ()
1113 {
1114         MonoInternalThread *thread = mono_thread_internal_current ();
1115
1116         THREAD_DEBUG (g_message ("%s: mono_thread_exit for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1117
1118         thread_cleanup (thread);
1119         SET_CURRENT_OBJECT (NULL);
1120         mono_domain_unset ();
1121
1122         /* we could add a callback here for embedders to use. */
1123         if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread))
1124                 exit (mono_environment_exitcode_get ());
1125         mono_thread_info_exit ();
1126 }
1127
1128 void
1129 ves_icall_System_Threading_Thread_ConstructInternalThread (MonoThread *this_obj)
1130 {
1131         MonoError error;
1132         MonoInternalThread *internal;
1133
1134         internal = create_internal_thread (&error);
1135         mono_error_raise_exception (&error);
1136
1137         internal->state = ThreadState_Unstarted;
1138
1139         InterlockedCompareExchangePointer ((volatile gpointer *)&this_obj->internal_thread, internal, NULL);
1140 }
1141
1142 HANDLE
1143 ves_icall_System_Threading_Thread_Thread_internal (MonoThread *this_obj,
1144                                                                                                    MonoObject *start)
1145 {
1146         MonoError error;
1147         StartInfo *start_info;
1148         MonoInternalThread *internal;
1149         gboolean res;
1150
1151         THREAD_DEBUG (g_message("%s: Trying to start a new thread: this (%p) start (%p)", __func__, this_obj, start));
1152
1153         if (!this_obj->internal_thread)
1154                 ves_icall_System_Threading_Thread_ConstructInternalThread (this_obj);
1155         internal = this_obj->internal_thread;
1156
1157         LOCK_THREAD (internal);
1158
1159         if ((internal->state & ThreadState_Unstarted) == 0) {
1160                 UNLOCK_THREAD (internal);
1161                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has already been started."));
1162                 return NULL;
1163         }
1164
1165         if ((internal->state & ThreadState_Aborted) != 0) {
1166                 UNLOCK_THREAD (internal);
1167                 return this_obj;
1168         }
1169         /* This is freed in start_wrapper */
1170         start_info = g_new0 (StartInfo, 1);
1171         start_info->func = NULL;
1172         start_info->start_arg = NULL;
1173         start_info->delegate = start;
1174         start_info->obj = this_obj;
1175         g_assert (this_obj->obj.vtable->domain == mono_domain_get ());
1176
1177         res = create_thread (this_obj, internal, start_info, FALSE, 0, &error);
1178         if (!res) {
1179                 mono_error_cleanup (&error);
1180                 UNLOCK_THREAD (internal);
1181                 return NULL;
1182         }
1183
1184         internal->state &= ~ThreadState_Unstarted;
1185
1186         THREAD_DEBUG (g_message ("%s: Started thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread));
1187
1188         UNLOCK_THREAD (internal);
1189         return internal->handle;
1190 }
1191
1192 /*
1193  * This is called from the finalizer of the internal thread object.
1194  */
1195 void
1196 ves_icall_System_Threading_InternalThread_Thread_free_internal (MonoInternalThread *this_obj, HANDLE thread)
1197 {
1198         THREAD_DEBUG (g_message ("%s: Closing thread %p, handle %p", __func__, this, thread));
1199
1200         /*
1201          * Since threads keep a reference to their thread object while running, by the time this function is called,
1202          * the thread has already exited/detached, i.e. thread_cleanup () has ran. The exception is during shutdown,
1203          * when thread_cleanup () can be called after this.
1204          */
1205         if (thread)
1206                 CloseHandle (thread);
1207
1208         if (this_obj->synch_cs) {
1209                 MonoCoopMutex *synch_cs = this_obj->synch_cs;
1210                 this_obj->synch_cs = NULL;
1211                 mono_coop_mutex_destroy (synch_cs);
1212                 g_free (synch_cs);
1213         }
1214
1215         if (this_obj->name) {
1216                 void *name = this_obj->name;
1217                 this_obj->name = NULL;
1218                 g_free (name);
1219         }
1220 }
1221
1222 void
1223 ves_icall_System_Threading_Thread_Sleep_internal(gint32 ms)
1224 {
1225         guint32 res;
1226         MonoInternalThread *thread = mono_thread_internal_current ();
1227
1228         THREAD_DEBUG (g_message ("%s: Sleeping for %d ms", __func__, ms));
1229
1230         if (mono_thread_current_check_pending_interrupt ())
1231                 return;
1232
1233         while (TRUE) {
1234                 gboolean alerted = FALSE;
1235
1236                 mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1237
1238                 res = mono_thread_info_sleep (ms, &alerted);
1239
1240                 mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1241
1242                 if (alerted) {
1243                         MonoException* exc = mono_thread_execute_interruption ();
1244                         if (exc) {
1245                                 mono_set_pending_exception (exc);
1246                                 return;
1247                         } else {
1248                                 // FIXME: !INFINITE
1249                                 if (ms != INFINITE)
1250                                         break;
1251                         }
1252                 } else {
1253                         break;
1254                 }
1255         }
1256 }
1257
1258 void ves_icall_System_Threading_Thread_SpinWait_nop (void)
1259 {
1260 }
1261
1262 gint32
1263 ves_icall_System_Threading_Thread_GetDomainID (void)
1264 {
1265         return mono_domain_get()->domain_id;
1266 }
1267
1268 gboolean
1269 ves_icall_System_Threading_Thread_Yield (void)
1270 {
1271         return mono_thread_info_yield ();
1272 }
1273
1274 /*
1275  * mono_thread_get_name:
1276  *
1277  *   Return the name of the thread. NAME_LEN is set to the length of the name.
1278  * Return NULL if the thread has no name. The returned memory is owned by the
1279  * caller.
1280  */
1281 gunichar2*
1282 mono_thread_get_name (MonoInternalThread *this_obj, guint32 *name_len)
1283 {
1284         gunichar2 *res;
1285
1286         LOCK_THREAD (this_obj);
1287
1288         if (!this_obj->name) {
1289                 *name_len = 0;
1290                 res = NULL;
1291         } else {
1292                 *name_len = this_obj->name_len;
1293                 res = g_new (gunichar2, this_obj->name_len);
1294                 memcpy (res, this_obj->name, sizeof (gunichar2) * this_obj->name_len);
1295         }
1296
1297         UNLOCK_THREAD (this_obj);
1298
1299         return res;
1300 }
1301
1302 /*
1303  * mono_thread_get_name_utf8:
1304  *
1305  * Return the name of the thread in UTF-8.
1306  * Return NULL if the thread has no name.
1307  * The returned memory is owned by the caller.
1308  */
1309 char *
1310 mono_thread_get_name_utf8 (MonoThread *thread)
1311 {
1312         if (thread == NULL)
1313                 return NULL;
1314
1315         MonoInternalThread *internal = thread->internal_thread;
1316         if (internal == NULL)
1317                 return NULL;
1318
1319         LOCK_THREAD (internal);
1320
1321         char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
1322
1323         UNLOCK_THREAD (internal);
1324
1325         return tname;
1326 }
1327
1328 /*
1329  * mono_thread_get_managed_id:
1330  *
1331  * Return the Thread.ManagedThreadId value of `thread`.
1332  * Returns -1 if `thread` is NULL.
1333  */
1334 int32_t
1335 mono_thread_get_managed_id (MonoThread *thread)
1336 {
1337         if (thread == NULL)
1338                 return -1;
1339
1340         MonoInternalThread *internal = thread->internal_thread;
1341         if (internal == NULL)
1342                 return -1;
1343
1344         int32_t id = internal->managed_id;
1345
1346         return id;
1347 }
1348
1349 MonoString*
1350 ves_icall_System_Threading_Thread_GetName_internal (MonoInternalThread *this_obj)
1351 {
1352         MonoError error;
1353         MonoString* str;
1354
1355         mono_error_init (&error);
1356
1357         LOCK_THREAD (this_obj);
1358
1359         if (!this_obj->name)
1360                 str = NULL;
1361         else
1362                 str = mono_string_new_utf16_checked (mono_domain_get (), this_obj->name, this_obj->name_len, &error);
1363
1364         UNLOCK_THREAD (this_obj);
1365
1366         mono_error_raise_exception (&error);
1367
1368         return str;
1369 }
1370
1371 void
1372 mono_thread_set_name_internal (MonoInternalThread *this_obj, MonoString *name, gboolean permanent, MonoError *error)
1373 {
1374         LOCK_THREAD (this_obj);
1375
1376         mono_error_init (error);
1377
1378         if ((this_obj->flags & MONO_THREAD_FLAG_NAME_SET)) {
1379                 UNLOCK_THREAD (this_obj);
1380
1381                 mono_error_set_invalid_operation (error, "Thread.Name can only be set once.");
1382                 return;
1383         }
1384         if (this_obj->name) {
1385                 g_free (this_obj->name);
1386                 this_obj->name_len = 0;
1387         }
1388         if (name) {
1389                 this_obj->name = g_new (gunichar2, mono_string_length (name));
1390                 memcpy (this_obj->name, mono_string_chars (name), mono_string_length (name) * 2);
1391                 this_obj->name_len = mono_string_length (name);
1392
1393                 if (permanent)
1394                         this_obj->flags |= MONO_THREAD_FLAG_NAME_SET;
1395         }
1396         else
1397                 this_obj->name = NULL;
1398
1399
1400         UNLOCK_THREAD (this_obj);
1401
1402         if (this_obj->name && this_obj->tid) {
1403                 char *tname = mono_string_to_utf8 (name);
1404                 mono_profiler_thread_name (this_obj->tid, tname);
1405                 mono_native_thread_set_name (thread_get_tid (this_obj), tname);
1406                 mono_free (tname);
1407         }
1408 }
1409
1410 void
1411 ves_icall_System_Threading_Thread_SetName_internal (MonoInternalThread *this_obj, MonoString *name)
1412 {
1413         MonoError error;
1414         mono_thread_set_name_internal (this_obj, name, TRUE, &error);
1415         mono_error_set_pending_exception (&error);
1416 }
1417
1418 /*
1419  * ves_icall_System_Threading_Thread_GetPriority_internal:
1420  * @param this_obj: The MonoInternalThread on which to operate.
1421  *
1422  * Gets the priority of the given thread.
1423  * @return: The priority of the given thread.
1424  */
1425 int
1426 ves_icall_System_Threading_Thread_GetPriority (MonoThread *this_obj)
1427 {
1428         gint32 priority;
1429         MonoInternalThread *internal = this_obj->internal_thread;
1430
1431         LOCK_THREAD (internal);
1432         priority = GetThreadPriority (internal->handle) + 2;
1433         UNLOCK_THREAD (internal);
1434         return priority;
1435 }
1436
1437 /*
1438  * ves_icall_System_Threading_Thread_SetPriority_internal:
1439  * @param this_obj: The MonoInternalThread on which to operate.
1440  * @param priority: The priority to set.
1441  *
1442  * Sets the priority of the given thread.
1443  */
1444 void
1445 ves_icall_System_Threading_Thread_SetPriority (MonoThread *this_obj, int priority)
1446 {
1447         MonoInternalThread *internal = this_obj->internal_thread;
1448
1449         LOCK_THREAD (internal);
1450         SetThreadPriority (internal->handle, priority - 2);
1451         UNLOCK_THREAD (internal);
1452 }
1453
1454 /* If the array is already in the requested domain, we just return it,
1455    otherwise we return a copy in that domain. */
1456 static MonoArray*
1457 byte_array_to_domain (MonoArray *arr, MonoDomain *domain, MonoError *error)
1458 {
1459         MonoArray *copy;
1460
1461         mono_error_init (error);
1462         if (!arr)
1463                 return NULL;
1464
1465         if (mono_object_domain (arr) == domain)
1466                 return arr;
1467
1468         copy = mono_array_new_checked (domain, mono_defaults.byte_class, arr->max_length, error);
1469         memmove (mono_array_addr (copy, guint8, 0), mono_array_addr (arr, guint8, 0), arr->max_length);
1470         return copy;
1471 }
1472
1473 MonoArray*
1474 ves_icall_System_Threading_Thread_ByteArrayToRootDomain (MonoArray *arr)
1475 {
1476         MonoError error;
1477         MonoArray *result = byte_array_to_domain (arr, mono_get_root_domain (), &error);
1478         mono_error_set_pending_exception (&error);
1479         return result;
1480 }
1481
1482 MonoArray*
1483 ves_icall_System_Threading_Thread_ByteArrayToCurrentDomain (MonoArray *arr)
1484 {
1485         MonoError error;
1486         MonoArray *result = byte_array_to_domain (arr, mono_domain_get (), &error);
1487         mono_error_set_pending_exception (&error);
1488         return result;
1489 }
1490
1491 MonoThread *
1492 mono_thread_current (void)
1493 {
1494         MonoError error;
1495         MonoDomain *domain = mono_domain_get ();
1496         MonoInternalThread *internal = mono_thread_internal_current ();
1497         MonoThread **current_thread_ptr;
1498
1499         g_assert (internal);
1500         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1501
1502         if (!*current_thread_ptr) {
1503                 g_assert (domain != mono_get_root_domain ());
1504                 *current_thread_ptr = new_thread_with_internal (domain, internal, &error);
1505                 mono_error_raise_exception (&error); /* FIXME don't raise here */
1506         }
1507         return *current_thread_ptr;
1508 }
1509
1510 /* Return the thread object belonging to INTERNAL in the current domain */
1511 static MonoThread *
1512 mono_thread_current_for_thread (MonoInternalThread *internal)
1513 {
1514         MonoError error;
1515         MonoDomain *domain = mono_domain_get ();
1516         MonoThread **current_thread_ptr;
1517
1518         g_assert (internal);
1519         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1520
1521         if (!*current_thread_ptr) {
1522                 g_assert (domain != mono_get_root_domain ());
1523                 *current_thread_ptr = new_thread_with_internal (domain, internal, &error);
1524                 mono_error_raise_exception (&error); /* FIXME don't raise here */
1525         }
1526         return *current_thread_ptr;
1527 }
1528
1529 MonoInternalThread*
1530 mono_thread_internal_current (void)
1531 {
1532         MonoInternalThread *res = GET_CURRENT_OBJECT ();
1533         THREAD_DEBUG (g_message ("%s: returning %p", __func__, res));
1534         return res;
1535 }
1536
1537 gboolean
1538 ves_icall_System_Threading_Thread_Join_internal(MonoThread *this_obj, int ms)
1539 {
1540         MonoInternalThread *thread = this_obj->internal_thread;
1541         HANDLE handle = thread->handle;
1542         MonoInternalThread *cur_thread = mono_thread_internal_current ();
1543         gboolean ret;
1544
1545         if (mono_thread_current_check_pending_interrupt ())
1546                 return FALSE;
1547
1548         LOCK_THREAD (thread);
1549
1550         if ((thread->state & ThreadState_Unstarted) != 0) {
1551                 UNLOCK_THREAD (thread);
1552
1553                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started."));
1554                 return FALSE;
1555         }
1556
1557         UNLOCK_THREAD (thread);
1558
1559         if(ms== -1) {
1560                 ms=INFINITE;
1561         }
1562         THREAD_DEBUG (g_message ("%s: joining thread handle %p, %d ms", __func__, handle, ms));
1563
1564         mono_thread_set_state (cur_thread, ThreadState_WaitSleepJoin);
1565
1566         MONO_ENTER_GC_SAFE;
1567         ret=WaitForSingleObjectEx (handle, ms, TRUE);
1568         MONO_EXIT_GC_SAFE;
1569
1570         mono_thread_clr_state (cur_thread, ThreadState_WaitSleepJoin);
1571
1572         if(ret==WAIT_OBJECT_0) {
1573                 THREAD_DEBUG (g_message ("%s: join successful", __func__));
1574
1575                 return(TRUE);
1576         }
1577
1578         THREAD_DEBUG (g_message ("%s: join failed", __func__));
1579
1580         return(FALSE);
1581 }
1582
1583 static gint32
1584 mono_wait_uninterrupted (MonoInternalThread *thread, guint32 numhandles, gpointer *handles, gboolean waitall, gint32 ms, MonoError *error)
1585 {
1586         MonoException *exc;
1587         guint32 ret;
1588         gint64 start;
1589         gint32 diff_ms;
1590         gint32 wait = ms;
1591
1592         mono_error_init (error);
1593
1594         start = (ms == -1) ? 0 : mono_100ns_ticks ();
1595         do {
1596                 MONO_ENTER_GC_SAFE;
1597                 if (numhandles != 1)
1598                         ret = WaitForMultipleObjectsEx (numhandles, handles, waitall, wait, TRUE);
1599                 else
1600                         ret = WaitForSingleObjectEx (handles [0], ms, TRUE);
1601                 MONO_EXIT_GC_SAFE;
1602
1603                 if (ret != WAIT_IO_COMPLETION)
1604                         break;
1605
1606                 exc = mono_thread_execute_interruption ();
1607                 if (exc) {
1608                         mono_error_set_exception_instance (error, exc);
1609                         break;
1610                 }
1611
1612                 if (ms == -1)
1613                         continue;
1614
1615                 /* Re-calculate ms according to the time passed */
1616                 diff_ms = (gint32)((mono_100ns_ticks () - start) / 10000);
1617                 if (diff_ms >= ms) {
1618                         ret = WAIT_TIMEOUT;
1619                         break;
1620                 }
1621                 wait = ms - diff_ms;
1622         } while (TRUE);
1623
1624         return ret;
1625 }
1626
1627 gint32 ves_icall_System_Threading_WaitHandle_WaitAll_internal(MonoArray *mono_handles, gint32 ms)
1628 {
1629         MonoError error;
1630         HANDLE *handles;
1631         guint32 numhandles;
1632         guint32 ret;
1633         guint32 i;
1634         MonoObject *waitHandle;
1635         MonoInternalThread *thread = mono_thread_internal_current ();
1636
1637         /* Do this WaitSleepJoin check before creating objects */
1638         if (mono_thread_current_check_pending_interrupt ())
1639                 return WAIT_FAILED;
1640
1641         /* We fail in managed if the array has more than 64 elements */
1642         numhandles = (guint32)mono_array_length(mono_handles);
1643         handles = g_new0(HANDLE, numhandles);
1644
1645         for(i = 0; i < numhandles; i++) {
1646                 waitHandle = mono_array_get(mono_handles, MonoObject*, i);
1647                 handles [i] = mono_wait_handle_get_handle ((MonoWaitHandle *) waitHandle);
1648         }
1649
1650         if(ms== -1) {
1651                 ms=INFINITE;
1652         }
1653
1654         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1655
1656         ret = mono_wait_uninterrupted (thread, numhandles, handles, TRUE, ms, &error);
1657
1658         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1659
1660         g_free(handles);
1661
1662         mono_error_set_pending_exception (&error);
1663
1664         /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1665         return ret == WAIT_FAILED ? 0x7fffffff : ret;
1666 }
1667
1668 gint32 ves_icall_System_Threading_WaitHandle_WaitAny_internal(MonoArray *mono_handles, gint32 ms)
1669 {
1670         MonoError error;
1671         HANDLE handles [MAXIMUM_WAIT_OBJECTS];
1672         uintptr_t numhandles;
1673         guint32 ret;
1674         guint32 i;
1675         MonoObject *waitHandle;
1676         MonoInternalThread *thread = mono_thread_internal_current ();
1677
1678         /* Do this WaitSleepJoin check before creating objects */
1679         if (mono_thread_current_check_pending_interrupt ())
1680                 return WAIT_FAILED;
1681
1682         numhandles = mono_array_length(mono_handles);
1683         if (numhandles > MAXIMUM_WAIT_OBJECTS)
1684                 return WAIT_FAILED;
1685
1686         for(i = 0; i < numhandles; i++) {
1687                 waitHandle = mono_array_get(mono_handles, MonoObject*, i);
1688                 handles [i] = mono_wait_handle_get_handle ((MonoWaitHandle *) waitHandle);
1689         }
1690
1691         if(ms== -1) {
1692                 ms=INFINITE;
1693         }
1694
1695         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1696
1697         ret = mono_wait_uninterrupted (thread, numhandles, handles, FALSE, ms, &error);
1698
1699         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1700
1701         THREAD_WAIT_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") returning %d", __func__, mono_native_thread_id_get (), ret));
1702
1703         mono_error_set_pending_exception (&error);
1704         /*
1705          * These need to be here.  See MSDN dos on WaitForMultipleObjects.
1706          */
1707         if (ret >= WAIT_OBJECT_0 && ret <= WAIT_OBJECT_0 + numhandles - 1) {
1708                 return ret - WAIT_OBJECT_0;
1709         }
1710         else if (ret >= WAIT_ABANDONED_0 && ret <= WAIT_ABANDONED_0 + numhandles - 1) {
1711                 return ret - WAIT_ABANDONED_0;
1712         }
1713         else {
1714                 /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1715                 return ret == WAIT_FAILED ? 0x7fffffff : ret;
1716         }
1717 }
1718
1719 gint32 ves_icall_System_Threading_WaitHandle_WaitOne_internal(HANDLE handle, gint32 ms)
1720 {
1721         MonoError error;
1722         guint32 ret;
1723         MonoInternalThread *thread = mono_thread_internal_current ();
1724
1725         THREAD_WAIT_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") waiting for %p, %d ms", __func__, mono_native_thread_id_get (), handle, ms));
1726
1727         if(ms== -1) {
1728                 ms=INFINITE;
1729         }
1730
1731         if (mono_thread_current_check_pending_interrupt ())
1732                 return WAIT_FAILED;
1733
1734         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1735
1736         ret = mono_wait_uninterrupted (thread, 1, &handle, FALSE, ms, &error);
1737
1738         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1739
1740         mono_error_set_pending_exception (&error);
1741         /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1742         return ret == WAIT_FAILED ? 0x7fffffff : ret;
1743 }
1744
1745 gint32
1746 ves_icall_System_Threading_WaitHandle_SignalAndWait_Internal (HANDLE toSignal, HANDLE toWait, gint32 ms)
1747 {
1748         guint32 ret;
1749         MonoInternalThread *thread = mono_thread_internal_current ();
1750
1751         if (ms == -1)
1752                 ms = INFINITE;
1753
1754         if (mono_thread_current_check_pending_interrupt ())
1755                 return WAIT_FAILED;
1756
1757         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1758
1759         MONO_ENTER_GC_SAFE;
1760         ret = SignalObjectAndWait (toSignal, toWait, ms, TRUE);
1761         MONO_EXIT_GC_SAFE;
1762
1763         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1764
1765         /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1766         return ret == WAIT_FAILED ? 0x7fffffff : ret;
1767 }
1768
1769 HANDLE ves_icall_System_Threading_Mutex_CreateMutex_internal (MonoBoolean owned, MonoString *name, MonoBoolean *created)
1770 {
1771         HANDLE mutex;
1772
1773         *created = TRUE;
1774
1775         if (name == NULL) {
1776                 mutex = CreateMutex (NULL, owned, NULL);
1777         } else {
1778                 mutex = CreateMutex (NULL, owned, mono_string_chars (name));
1779
1780                 if (GetLastError () == ERROR_ALREADY_EXISTS) {
1781                         *created = FALSE;
1782                 }
1783         }
1784
1785         return(mutex);
1786 }
1787
1788 MonoBoolean ves_icall_System_Threading_Mutex_ReleaseMutex_internal (HANDLE handle ) {
1789         return(ReleaseMutex (handle));
1790 }
1791
1792 HANDLE ves_icall_System_Threading_Mutex_OpenMutex_internal (MonoString *name,
1793                                                             gint32 rights,
1794                                                             gint32 *error)
1795 {
1796         HANDLE ret;
1797
1798         *error = ERROR_SUCCESS;
1799
1800         ret = OpenMutex (rights, FALSE, mono_string_chars (name));
1801         if (ret == NULL) {
1802                 *error = GetLastError ();
1803         }
1804
1805         return(ret);
1806 }
1807
1808
1809 HANDLE ves_icall_System_Threading_Semaphore_CreateSemaphore_internal (gint32 initialCount, gint32 maximumCount, MonoString *name, MonoBoolean *created)
1810 {
1811         HANDLE sem;
1812
1813         *created = TRUE;
1814
1815         if (name == NULL) {
1816                 sem = CreateSemaphore (NULL, initialCount, maximumCount, NULL);
1817         } else {
1818                 sem = CreateSemaphore (NULL, initialCount, maximumCount,
1819                                        mono_string_chars (name));
1820
1821                 if (GetLastError () == ERROR_ALREADY_EXISTS) {
1822                         *created = FALSE;
1823                 }
1824         }
1825
1826         return(sem);
1827 }
1828
1829 gint32 ves_icall_System_Threading_Semaphore_ReleaseSemaphore_internal (HANDLE handle, gint32 releaseCount, MonoBoolean *fail)
1830 {
1831         gint32 prevcount;
1832
1833         *fail = !ReleaseSemaphore (handle, releaseCount, &prevcount);
1834
1835         return (prevcount);
1836 }
1837
1838 HANDLE ves_icall_System_Threading_Semaphore_OpenSemaphore_internal (MonoString *name, gint32 rights, gint32 *error)
1839 {
1840         HANDLE ret;
1841
1842         *error = ERROR_SUCCESS;
1843
1844         ret = OpenSemaphore (rights, FALSE, mono_string_chars (name));
1845         if (ret == NULL) {
1846                 *error = GetLastError ();
1847         }
1848
1849         return(ret);
1850 }
1851
1852 HANDLE ves_icall_System_Threading_Events_CreateEvent_internal (MonoBoolean manual, MonoBoolean initial, MonoString *name, MonoBoolean *created)
1853 {
1854         HANDLE event;
1855
1856         *created = TRUE;
1857
1858         if (name == NULL) {
1859                 event = CreateEvent (NULL, manual, initial, NULL);
1860         } else {
1861                 event = CreateEvent (NULL, manual, initial,
1862                                      mono_string_chars (name));
1863
1864                 if (GetLastError () == ERROR_ALREADY_EXISTS) {
1865                         *created = FALSE;
1866                 }
1867         }
1868
1869         return(event);
1870 }
1871
1872 gboolean ves_icall_System_Threading_Events_SetEvent_internal (HANDLE handle) {
1873         return (SetEvent(handle));
1874 }
1875
1876 gboolean ves_icall_System_Threading_Events_ResetEvent_internal (HANDLE handle) {
1877         return (ResetEvent(handle));
1878 }
1879
1880 void
1881 ves_icall_System_Threading_Events_CloseEvent_internal (HANDLE handle) {
1882         CloseHandle (handle);
1883 }
1884
1885 HANDLE ves_icall_System_Threading_Events_OpenEvent_internal (MonoString *name,
1886                                                              gint32 rights,
1887                                                              gint32 *error)
1888 {
1889         HANDLE ret;
1890
1891         *error = ERROR_SUCCESS;
1892
1893         ret = OpenEvent (rights, FALSE, mono_string_chars (name));
1894         if (ret == NULL) {
1895                 *error = GetLastError ();
1896         }
1897
1898         return(ret);
1899 }
1900
1901 gint32 ves_icall_System_Threading_Interlocked_Increment_Int (gint32 *location)
1902 {
1903         return InterlockedIncrement (location);
1904 }
1905
1906 gint64 ves_icall_System_Threading_Interlocked_Increment_Long (gint64 *location)
1907 {
1908 #if SIZEOF_VOID_P == 4
1909         if (G_UNLIKELY ((size_t)location & 0x7)) {
1910                 gint64 ret;
1911                 mono_interlocked_lock ();
1912                 (*location)++;
1913                 ret = *location;
1914                 mono_interlocked_unlock ();
1915                 return ret;
1916         }
1917 #endif
1918         return InterlockedIncrement64 (location);
1919 }
1920
1921 gint32 ves_icall_System_Threading_Interlocked_Decrement_Int (gint32 *location)
1922 {
1923         return InterlockedDecrement(location);
1924 }
1925
1926 gint64 ves_icall_System_Threading_Interlocked_Decrement_Long (gint64 * location)
1927 {
1928 #if SIZEOF_VOID_P == 4
1929         if (G_UNLIKELY ((size_t)location & 0x7)) {
1930                 gint64 ret;
1931                 mono_interlocked_lock ();
1932                 (*location)--;
1933                 ret = *location;
1934                 mono_interlocked_unlock ();
1935                 return ret;
1936         }
1937 #endif
1938         return InterlockedDecrement64 (location);
1939 }
1940
1941 gint32 ves_icall_System_Threading_Interlocked_Exchange_Int (gint32 *location, gint32 value)
1942 {
1943         return InterlockedExchange(location, value);
1944 }
1945
1946 MonoObject * ves_icall_System_Threading_Interlocked_Exchange_Object (MonoObject **location, MonoObject *value)
1947 {
1948         MonoObject *res;
1949         res = (MonoObject *) InterlockedExchangePointer((gpointer *) location, value);
1950         mono_gc_wbarrier_generic_nostore (location);
1951         return res;
1952 }
1953
1954 gpointer ves_icall_System_Threading_Interlocked_Exchange_IntPtr (gpointer *location, gpointer value)
1955 {
1956         return InterlockedExchangePointer(location, value);
1957 }
1958
1959 gfloat ves_icall_System_Threading_Interlocked_Exchange_Single (gfloat *location, gfloat value)
1960 {
1961         IntFloatUnion val, ret;
1962
1963         val.fval = value;
1964         ret.ival = InterlockedExchange((gint32 *) location, val.ival);
1965
1966         return ret.fval;
1967 }
1968
1969 gint64
1970 ves_icall_System_Threading_Interlocked_Exchange_Long (gint64 *location, gint64 value)
1971 {
1972 #if SIZEOF_VOID_P == 4
1973         if (G_UNLIKELY ((size_t)location & 0x7)) {
1974                 gint64 ret;
1975                 mono_interlocked_lock ();
1976                 ret = *location;
1977                 *location = value;
1978                 mono_interlocked_unlock ();
1979                 return ret;
1980         }
1981 #endif
1982         return InterlockedExchange64 (location, value);
1983 }
1984
1985 gdouble
1986 ves_icall_System_Threading_Interlocked_Exchange_Double (gdouble *location, gdouble value)
1987 {
1988         LongDoubleUnion val, ret;
1989
1990         val.fval = value;
1991         ret.ival = (gint64)InterlockedExchange64((gint64 *) location, val.ival);
1992
1993         return ret.fval;
1994 }
1995
1996 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int(gint32 *location, gint32 value, gint32 comparand)
1997 {
1998         return InterlockedCompareExchange(location, value, comparand);
1999 }
2000
2001 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int_Success(gint32 *location, gint32 value, gint32 comparand, MonoBoolean *success)
2002 {
2003         gint32 r = InterlockedCompareExchange(location, value, comparand);
2004         *success = r == comparand;
2005         return r;
2006 }
2007
2008 MonoObject * ves_icall_System_Threading_Interlocked_CompareExchange_Object (MonoObject **location, MonoObject *value, MonoObject *comparand)
2009 {
2010         MonoObject *res;
2011         res = (MonoObject *) InterlockedCompareExchangePointer((gpointer *) location, value, comparand);
2012         mono_gc_wbarrier_generic_nostore (location);
2013         return res;
2014 }
2015
2016 gpointer ves_icall_System_Threading_Interlocked_CompareExchange_IntPtr(gpointer *location, gpointer value, gpointer comparand)
2017 {
2018         return InterlockedCompareExchangePointer(location, value, comparand);
2019 }
2020
2021 gfloat ves_icall_System_Threading_Interlocked_CompareExchange_Single (gfloat *location, gfloat value, gfloat comparand)
2022 {
2023         IntFloatUnion val, ret, cmp;
2024
2025         val.fval = value;
2026         cmp.fval = comparand;
2027         ret.ival = InterlockedCompareExchange((gint32 *) location, val.ival, cmp.ival);
2028
2029         return ret.fval;
2030 }
2031
2032 gdouble
2033 ves_icall_System_Threading_Interlocked_CompareExchange_Double (gdouble *location, gdouble value, gdouble comparand)
2034 {
2035 #if SIZEOF_VOID_P == 8
2036         LongDoubleUnion val, comp, ret;
2037
2038         val.fval = value;
2039         comp.fval = comparand;
2040         ret.ival = (gint64)InterlockedCompareExchangePointer((gpointer *) location, (gpointer)val.ival, (gpointer)comp.ival);
2041
2042         return ret.fval;
2043 #else
2044         gdouble old;
2045
2046         mono_interlocked_lock ();
2047         old = *location;
2048         if (old == comparand)
2049                 *location = value;
2050         mono_interlocked_unlock ();
2051
2052         return old;
2053 #endif
2054 }
2055
2056 gint64
2057 ves_icall_System_Threading_Interlocked_CompareExchange_Long (gint64 *location, gint64 value, gint64 comparand)
2058 {
2059 #if SIZEOF_VOID_P == 4
2060         if (G_UNLIKELY ((size_t)location & 0x7)) {
2061                 gint64 old;
2062                 mono_interlocked_lock ();
2063                 old = *location;
2064                 if (old == comparand)
2065                         *location = value;
2066                 mono_interlocked_unlock ();
2067                 return old;
2068         }
2069 #endif
2070         return InterlockedCompareExchange64 (location, value, comparand);
2071 }
2072
2073 MonoObject*
2074 ves_icall_System_Threading_Interlocked_CompareExchange_T (MonoObject **location, MonoObject *value, MonoObject *comparand)
2075 {
2076         MonoObject *res;
2077         res = (MonoObject *)InterlockedCompareExchangePointer ((volatile gpointer *)location, value, comparand);
2078         mono_gc_wbarrier_generic_nostore (location);
2079         return res;
2080 }
2081
2082 MonoObject*
2083 ves_icall_System_Threading_Interlocked_Exchange_T (MonoObject **location, MonoObject *value)
2084 {
2085         MonoObject *res;
2086         MONO_CHECK_NULL (location, NULL);
2087         res = (MonoObject *)InterlockedExchangePointer ((volatile gpointer *)location, value);
2088         mono_gc_wbarrier_generic_nostore (location);
2089         return res;
2090 }
2091
2092 gint32
2093 ves_icall_System_Threading_Interlocked_Add_Int (gint32 *location, gint32 value)
2094 {
2095         return InterlockedAdd (location, value);
2096 }
2097
2098 gint64
2099 ves_icall_System_Threading_Interlocked_Add_Long (gint64 *location, gint64 value)
2100 {
2101 #if SIZEOF_VOID_P == 4
2102         if (G_UNLIKELY ((size_t)location & 0x7)) {
2103                 gint64 ret;
2104                 mono_interlocked_lock ();
2105                 *location += value;
2106                 ret = *location;
2107                 mono_interlocked_unlock ();
2108                 return ret;
2109         }
2110 #endif
2111         return InterlockedAdd64 (location, value);
2112 }
2113
2114 gint64
2115 ves_icall_System_Threading_Interlocked_Read_Long (gint64 *location)
2116 {
2117 #if SIZEOF_VOID_P == 4
2118         if (G_UNLIKELY ((size_t)location & 0x7)) {
2119                 gint64 ret;
2120                 mono_interlocked_lock ();
2121                 ret = *location;
2122                 mono_interlocked_unlock ();
2123                 return ret;
2124         }
2125 #endif
2126         return InterlockedRead64 (location);
2127 }
2128
2129 void
2130 ves_icall_System_Threading_Thread_MemoryBarrier (void)
2131 {
2132         mono_memory_barrier ();
2133 }
2134
2135 void
2136 ves_icall_System_Threading_Thread_ClrState (MonoInternalThread* this_obj, guint32 state)
2137 {
2138         mono_thread_clr_state (this_obj, (MonoThreadState)state);
2139
2140         if (state & ThreadState_Background) {
2141                 /* If the thread changes the background mode, the main thread has to
2142                  * be notified, since it has to rebuild the list of threads to
2143                  * wait for.
2144                  */
2145                 SetEvent (background_change_event);
2146         }
2147 }
2148
2149 void
2150 ves_icall_System_Threading_Thread_SetState (MonoInternalThread* this_obj, guint32 state)
2151 {
2152         mono_thread_set_state (this_obj, (MonoThreadState)state);
2153
2154         if (state & ThreadState_Background) {
2155                 /* If the thread changes the background mode, the main thread has to
2156                  * be notified, since it has to rebuild the list of threads to
2157                  * wait for.
2158                  */
2159                 SetEvent (background_change_event);
2160         }
2161 }
2162
2163 guint32
2164 ves_icall_System_Threading_Thread_GetState (MonoInternalThread* this_obj)
2165 {
2166         guint32 state;
2167
2168         LOCK_THREAD (this_obj);
2169
2170         state = this_obj->state;
2171
2172         UNLOCK_THREAD (this_obj);
2173
2174         return state;
2175 }
2176
2177 void ves_icall_System_Threading_Thread_Interrupt_internal (MonoThread *this_obj)
2178 {
2179         MonoInternalThread *current;
2180         gboolean throw_;
2181         MonoInternalThread *thread = this_obj->internal_thread;
2182
2183         LOCK_THREAD (thread);
2184
2185         current = mono_thread_internal_current ();
2186
2187         thread->thread_interrupt_requested = TRUE;
2188         throw_ = current != thread && (thread->state & ThreadState_WaitSleepJoin);
2189
2190         UNLOCK_THREAD (thread);
2191
2192         if (throw_) {
2193                 async_abort_internal (thread, FALSE);
2194         }
2195 }
2196
2197 /**
2198  * mono_thread_current_check_pending_interrupt:
2199  *
2200  * Checks if there's a interruption request and set the pending exception if so.
2201  *
2202  * @returns true if a pending exception was set
2203  */
2204 gboolean
2205 mono_thread_current_check_pending_interrupt (void)
2206 {
2207         MonoInternalThread *thread = mono_thread_internal_current ();
2208         gboolean throw_ = FALSE;
2209
2210         LOCK_THREAD (thread);
2211
2212         if (thread->thread_interrupt_requested) {
2213                 throw_ = TRUE;
2214                 thread->thread_interrupt_requested = FALSE;
2215         }
2216
2217         UNLOCK_THREAD (thread);
2218
2219         if (throw_)
2220                 mono_set_pending_exception (mono_get_exception_thread_interrupted ());
2221         return throw_;
2222 }
2223
2224 static gboolean
2225 request_thread_abort (MonoInternalThread *thread, MonoObject *state)
2226 {
2227         LOCK_THREAD (thread);
2228
2229         if ((thread->state & ThreadState_AbortRequested) != 0 ||
2230                 (thread->state & ThreadState_StopRequested) != 0 ||
2231                 (thread->state & ThreadState_Stopped) != 0)
2232         {
2233                 UNLOCK_THREAD (thread);
2234                 return FALSE;
2235         }
2236
2237         if ((thread->state & ThreadState_Unstarted) != 0) {
2238                 thread->state |= ThreadState_Aborted;
2239                 UNLOCK_THREAD (thread);
2240                 return FALSE;
2241         }
2242
2243         thread->state |= ThreadState_AbortRequested;
2244         if (thread->abort_state_handle)
2245                 mono_gchandle_free (thread->abort_state_handle);
2246         if (state) {
2247                 thread->abort_state_handle = mono_gchandle_new (state, FALSE);
2248                 g_assert (thread->abort_state_handle);
2249         } else {
2250                 thread->abort_state_handle = 0;
2251         }
2252         thread->abort_exc = NULL;
2253
2254         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Abort requested for %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), thread, (gsize)thread->tid));
2255
2256         /* During shutdown, we can't wait for other threads */
2257         if (!shutting_down)
2258                 /* Make sure the thread is awake */
2259                 mono_thread_resume (thread);
2260
2261         UNLOCK_THREAD (thread);
2262         return TRUE;
2263 }
2264
2265 void
2266 ves_icall_System_Threading_Thread_Abort (MonoInternalThread *thread, MonoObject *state)
2267 {
2268         if (!request_thread_abort (thread, state))
2269                 return;
2270
2271         if (thread == mono_thread_internal_current ())
2272                 self_abort_internal ();
2273         else
2274                 async_abort_internal (thread, TRUE);
2275 }
2276
2277 /**
2278  * mono_thread_internal_abort:
2279  *
2280  * Request thread @thread to be aborted.
2281  *
2282  * @thread MUST NOT be the current thread.
2283  */
2284 void
2285 mono_thread_internal_abort (MonoInternalThread *thread)
2286 {
2287         g_assert (thread != mono_thread_internal_current ());
2288
2289         if (!request_thread_abort (thread, NULL))
2290                 return;
2291         async_abort_internal (thread, TRUE);
2292 }
2293
2294 void
2295 ves_icall_System_Threading_Thread_ResetAbort (MonoThread *this_obj)
2296 {
2297         MonoInternalThread *thread = mono_thread_internal_current ();
2298         gboolean was_aborting;
2299
2300         LOCK_THREAD (thread);
2301         was_aborting = thread->state & ThreadState_AbortRequested;
2302         thread->state &= ~ThreadState_AbortRequested;
2303         UNLOCK_THREAD (thread);
2304
2305         if (!was_aborting) {
2306                 const char *msg = "Unable to reset abort because no abort was requested";
2307                 mono_set_pending_exception (mono_get_exception_thread_state (msg));
2308                 return;
2309         }
2310         thread->abort_exc = NULL;
2311         if (thread->abort_state_handle) {
2312                 mono_gchandle_free (thread->abort_state_handle);
2313                 /* This is actually not necessary - the handle
2314                    only counts if the exception is set */
2315                 thread->abort_state_handle = 0;
2316         }
2317 }
2318
2319 void
2320 mono_thread_internal_reset_abort (MonoInternalThread *thread)
2321 {
2322         LOCK_THREAD (thread);
2323
2324         thread->state &= ~ThreadState_AbortRequested;
2325
2326         if (thread->abort_exc) {
2327                 thread->abort_exc = NULL;
2328                 if (thread->abort_state_handle) {
2329                         mono_gchandle_free (thread->abort_state_handle);
2330                         /* This is actually not necessary - the handle
2331                            only counts if the exception is set */
2332                         thread->abort_state_handle = 0;
2333                 }
2334         }
2335
2336         UNLOCK_THREAD (thread);
2337 }
2338
2339 MonoObject*
2340 ves_icall_System_Threading_Thread_GetAbortExceptionState (MonoThread *this_obj)
2341 {
2342         MonoError error;
2343         MonoInternalThread *thread = this_obj->internal_thread;
2344         MonoObject *state, *deserialized = NULL;
2345         MonoDomain *domain;
2346
2347         if (!thread->abort_state_handle)
2348                 return NULL;
2349
2350         state = mono_gchandle_get_target (thread->abort_state_handle);
2351         g_assert (state);
2352
2353         domain = mono_domain_get ();
2354         if (mono_object_domain (state) == domain)
2355                 return state;
2356
2357         deserialized = mono_object_xdomain_representation (state, domain, &error);
2358
2359         if (!deserialized) {
2360                 MonoException *invalid_op_exc = mono_get_exception_invalid_operation ("Thread.ExceptionState cannot access an ExceptionState from a different AppDomain");
2361                 if (!is_ok (&error)) {
2362                         MonoObject *exc = (MonoObject*)mono_error_convert_to_exception (&error);
2363                         MONO_OBJECT_SETREF (invalid_op_exc, inner_ex, exc);
2364                 }
2365                 mono_set_pending_exception (invalid_op_exc);
2366                 return NULL;
2367         }
2368
2369         return deserialized;
2370 }
2371
2372 static gboolean
2373 mono_thread_suspend (MonoInternalThread *thread)
2374 {
2375         LOCK_THREAD (thread);
2376
2377         if ((thread->state & ThreadState_Unstarted) != 0 ||
2378                 (thread->state & ThreadState_Aborted) != 0 ||
2379                 (thread->state & ThreadState_Stopped) != 0)
2380         {
2381                 UNLOCK_THREAD (thread);
2382                 return FALSE;
2383         }
2384
2385         if ((thread->state & ThreadState_Suspended) != 0 ||
2386                 (thread->state & ThreadState_SuspendRequested) != 0 ||
2387                 (thread->state & ThreadState_StopRequested) != 0)
2388         {
2389                 UNLOCK_THREAD (thread);
2390                 return TRUE;
2391         }
2392
2393         thread->state |= ThreadState_SuspendRequested;
2394
2395         if (thread == mono_thread_internal_current ()) {
2396                 /* calls UNLOCK_THREAD (thread) */
2397                 self_suspend_internal ();
2398         } else {
2399                 /* calls UNLOCK_THREAD (thread) */
2400                 async_suspend_internal (thread, FALSE);
2401         }
2402
2403         return TRUE;
2404 }
2405
2406 void
2407 ves_icall_System_Threading_Thread_Suspend (MonoThread *this_obj)
2408 {
2409         if (!mono_thread_suspend (this_obj->internal_thread)) {
2410                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2411                 return;
2412         }
2413 }
2414
2415 /* LOCKING: LOCK_THREAD(thread) must be held */
2416 static gboolean
2417 mono_thread_resume (MonoInternalThread *thread)
2418 {
2419         if ((thread->state & ThreadState_SuspendRequested) != 0) {
2420                 thread->state &= ~ThreadState_SuspendRequested;
2421                 return TRUE;
2422         }
2423
2424         if ((thread->state & ThreadState_Suspended) == 0 ||
2425                 (thread->state & ThreadState_Unstarted) != 0 ||
2426                 (thread->state & ThreadState_Aborted) != 0 ||
2427                 (thread->state & ThreadState_Stopped) != 0)
2428         {
2429                 return FALSE;
2430         }
2431
2432         UNLOCK_THREAD (thread);
2433
2434         /* Awake the thread */
2435         if (!mono_thread_info_resume (thread_get_tid (thread)))
2436                 return FALSE;
2437
2438         LOCK_THREAD (thread);
2439
2440         thread->state &= ~ThreadState_Suspended;
2441
2442         return TRUE;
2443 }
2444
2445 void
2446 ves_icall_System_Threading_Thread_Resume (MonoThread *thread)
2447 {
2448         if (!thread->internal_thread) {
2449                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2450         } else {
2451                 LOCK_THREAD (thread->internal_thread);
2452                 if (!mono_thread_resume (thread->internal_thread))
2453                         mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2454                 UNLOCK_THREAD (thread->internal_thread);
2455         }
2456 }
2457
2458 static gboolean
2459 mono_threads_is_critical_method (MonoMethod *method)
2460 {
2461         switch (method->wrapper_type) {
2462         case MONO_WRAPPER_RUNTIME_INVOKE:
2463         case MONO_WRAPPER_XDOMAIN_INVOKE:
2464         case MONO_WRAPPER_XDOMAIN_DISPATCH:
2465                 return TRUE;
2466         }
2467         return FALSE;
2468 }
2469
2470 static gboolean
2471 find_wrapper (MonoMethod *m, gint no, gint ilo, gboolean managed, gpointer data)
2472 {
2473         if (managed)
2474                 return TRUE;
2475
2476         if (mono_threads_is_critical_method (m)) {
2477                 *((gboolean*)data) = TRUE;
2478                 return TRUE;
2479         }
2480         return FALSE;
2481 }
2482
2483 static gboolean
2484 is_running_protected_wrapper (void)
2485 {
2486         gboolean found = FALSE;
2487         mono_stack_walk (find_wrapper, &found);
2488         return found;
2489 }
2490
2491 void mono_thread_internal_stop (MonoInternalThread *thread)
2492 {
2493         LOCK_THREAD (thread);
2494
2495         if ((thread->state & ThreadState_StopRequested) != 0 ||
2496                 (thread->state & ThreadState_Stopped) != 0)
2497         {
2498                 UNLOCK_THREAD (thread);
2499                 return;
2500         }
2501
2502         /* Make sure the thread is awake */
2503         mono_thread_resume (thread);
2504
2505         thread->state |= ThreadState_StopRequested;
2506         thread->state &= ~ThreadState_AbortRequested;
2507
2508         UNLOCK_THREAD (thread);
2509
2510         if (thread == mono_thread_internal_current ())
2511                 self_abort_internal ();
2512         else
2513                 async_abort_internal (thread, TRUE);
2514 }
2515
2516 void mono_thread_stop (MonoThread *thread)
2517 {
2518         mono_thread_internal_stop (thread->internal_thread);
2519 }
2520
2521 gint8
2522 ves_icall_System_Threading_Thread_VolatileRead1 (void *ptr)
2523 {
2524         gint8 tmp = *(volatile gint8 *)ptr;
2525         mono_memory_barrier ();
2526         return tmp;
2527 }
2528
2529 gint16
2530 ves_icall_System_Threading_Thread_VolatileRead2 (void *ptr)
2531 {
2532         gint16 tmp = *(volatile gint16 *)ptr;
2533         mono_memory_barrier ();
2534         return tmp;
2535 }
2536
2537 gint32
2538 ves_icall_System_Threading_Thread_VolatileRead4 (void *ptr)
2539 {
2540         gint32 tmp = *(volatile gint32 *)ptr;
2541         mono_memory_barrier ();
2542         return tmp;
2543 }
2544
2545 gint64
2546 ves_icall_System_Threading_Thread_VolatileRead8 (void *ptr)
2547 {
2548         gint64 tmp = *(volatile gint64 *)ptr;
2549         mono_memory_barrier ();
2550         return tmp;
2551 }
2552
2553 void *
2554 ves_icall_System_Threading_Thread_VolatileReadIntPtr (void *ptr)
2555 {
2556         volatile void *tmp = *(volatile void **)ptr;
2557         mono_memory_barrier ();
2558         return (void *) tmp;
2559 }
2560
2561 void *
2562 ves_icall_System_Threading_Thread_VolatileReadObject (void *ptr)
2563 {
2564         volatile MonoObject *tmp = *(volatile MonoObject **)ptr;
2565         mono_memory_barrier ();
2566         return (MonoObject *) tmp;
2567 }
2568
2569 double
2570 ves_icall_System_Threading_Thread_VolatileReadDouble (void *ptr)
2571 {
2572         double tmp = *(volatile double *)ptr;
2573         mono_memory_barrier ();
2574         return tmp;
2575 }
2576
2577 float
2578 ves_icall_System_Threading_Thread_VolatileReadFloat (void *ptr)
2579 {
2580         float tmp = *(volatile float *)ptr;
2581         mono_memory_barrier ();
2582         return tmp;
2583 }
2584
2585 gint8
2586 ves_icall_System_Threading_Volatile_Read1 (void *ptr)
2587 {
2588         return InterlockedRead8 ((volatile gint8 *)ptr);
2589 }
2590
2591 gint16
2592 ves_icall_System_Threading_Volatile_Read2 (void *ptr)
2593 {
2594         return InterlockedRead16 ((volatile gint16 *)ptr);
2595 }
2596
2597 gint32
2598 ves_icall_System_Threading_Volatile_Read4 (void *ptr)
2599 {
2600         return InterlockedRead ((volatile gint32 *)ptr);
2601 }
2602
2603 gint64
2604 ves_icall_System_Threading_Volatile_Read8 (void *ptr)
2605 {
2606 #if SIZEOF_VOID_P == 4
2607         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2608                 gint64 val;
2609                 mono_interlocked_lock ();
2610                 val = *(gint64*)ptr;
2611                 mono_interlocked_unlock ();
2612                 return val;
2613         }
2614 #endif
2615         return InterlockedRead64 ((volatile gint64 *)ptr);
2616 }
2617
2618 void *
2619 ves_icall_System_Threading_Volatile_ReadIntPtr (void *ptr)
2620 {
2621         return InterlockedReadPointer ((volatile gpointer *)ptr);
2622 }
2623
2624 double
2625 ves_icall_System_Threading_Volatile_ReadDouble (void *ptr)
2626 {
2627         LongDoubleUnion u;
2628
2629 #if SIZEOF_VOID_P == 4
2630         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2631                 double val;
2632                 mono_interlocked_lock ();
2633                 val = *(double*)ptr;
2634                 mono_interlocked_unlock ();
2635                 return val;
2636         }
2637 #endif
2638
2639         u.ival = InterlockedRead64 ((volatile gint64 *)ptr);
2640
2641         return u.fval;
2642 }
2643
2644 float
2645 ves_icall_System_Threading_Volatile_ReadFloat (void *ptr)
2646 {
2647         IntFloatUnion u;
2648
2649         u.ival = InterlockedRead ((volatile gint32 *)ptr);
2650
2651         return u.fval;
2652 }
2653
2654 MonoObject*
2655 ves_icall_System_Threading_Volatile_Read_T (void *ptr)
2656 {
2657         return (MonoObject *)InterlockedReadPointer ((volatile gpointer *)ptr);
2658 }
2659
2660 void
2661 ves_icall_System_Threading_Thread_VolatileWrite1 (void *ptr, gint8 value)
2662 {
2663         mono_memory_barrier ();
2664         *(volatile gint8 *)ptr = value;
2665 }
2666
2667 void
2668 ves_icall_System_Threading_Thread_VolatileWrite2 (void *ptr, gint16 value)
2669 {
2670         mono_memory_barrier ();
2671         *(volatile gint16 *)ptr = value;
2672 }
2673
2674 void
2675 ves_icall_System_Threading_Thread_VolatileWrite4 (void *ptr, gint32 value)
2676 {
2677         mono_memory_barrier ();
2678         *(volatile gint32 *)ptr = value;
2679 }
2680
2681 void
2682 ves_icall_System_Threading_Thread_VolatileWrite8 (void *ptr, gint64 value)
2683 {
2684         mono_memory_barrier ();
2685         *(volatile gint64 *)ptr = value;
2686 }
2687
2688 void
2689 ves_icall_System_Threading_Thread_VolatileWriteIntPtr (void *ptr, void *value)
2690 {
2691         mono_memory_barrier ();
2692         *(volatile void **)ptr = value;
2693 }
2694
2695 void
2696 ves_icall_System_Threading_Thread_VolatileWriteObject (void *ptr, MonoObject *value)
2697 {
2698         mono_memory_barrier ();
2699         mono_gc_wbarrier_generic_store (ptr, value);
2700 }
2701
2702 void
2703 ves_icall_System_Threading_Thread_VolatileWriteDouble (void *ptr, double value)
2704 {
2705         mono_memory_barrier ();
2706         *(volatile double *)ptr = value;
2707 }
2708
2709 void
2710 ves_icall_System_Threading_Thread_VolatileWriteFloat (void *ptr, float value)
2711 {
2712         mono_memory_barrier ();
2713         *(volatile float *)ptr = value;
2714 }
2715
2716 void
2717 ves_icall_System_Threading_Volatile_Write1 (void *ptr, gint8 value)
2718 {
2719         InterlockedWrite8 ((volatile gint8 *)ptr, value);
2720 }
2721
2722 void
2723 ves_icall_System_Threading_Volatile_Write2 (void *ptr, gint16 value)
2724 {
2725         InterlockedWrite16 ((volatile gint16 *)ptr, value);
2726 }
2727
2728 void
2729 ves_icall_System_Threading_Volatile_Write4 (void *ptr, gint32 value)
2730 {
2731         InterlockedWrite ((volatile gint32 *)ptr, value);
2732 }
2733
2734 void
2735 ves_icall_System_Threading_Volatile_Write8 (void *ptr, gint64 value)
2736 {
2737 #if SIZEOF_VOID_P == 4
2738         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2739                 mono_interlocked_lock ();
2740                 *(gint64*)ptr = value;
2741                 mono_interlocked_unlock ();
2742                 return;
2743         }
2744 #endif
2745
2746         InterlockedWrite64 ((volatile gint64 *)ptr, value);
2747 }
2748
2749 void
2750 ves_icall_System_Threading_Volatile_WriteIntPtr (void *ptr, void *value)
2751 {
2752         InterlockedWritePointer ((volatile gpointer *)ptr, value);
2753 }
2754
2755 void
2756 ves_icall_System_Threading_Volatile_WriteDouble (void *ptr, double value)
2757 {
2758         LongDoubleUnion u;
2759
2760 #if SIZEOF_VOID_P == 4
2761         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2762                 mono_interlocked_lock ();
2763                 *(double*)ptr = value;
2764                 mono_interlocked_unlock ();
2765                 return;
2766         }
2767 #endif
2768
2769         u.fval = value;
2770
2771         InterlockedWrite64 ((volatile gint64 *)ptr, u.ival);
2772 }
2773
2774 void
2775 ves_icall_System_Threading_Volatile_WriteFloat (void *ptr, float value)
2776 {
2777         IntFloatUnion u;
2778
2779         u.fval = value;
2780
2781         InterlockedWrite ((volatile gint32 *)ptr, u.ival);
2782 }
2783
2784 void
2785 ves_icall_System_Threading_Volatile_Write_T (void *ptr, MonoObject *value)
2786 {
2787         mono_gc_wbarrier_generic_store_atomic (ptr, value);
2788 }
2789
2790 static void
2791 free_context (void *user_data)
2792 {
2793         ContextStaticData *data = user_data;
2794
2795         mono_threads_lock ();
2796
2797         /*
2798          * There is no guarantee that, by the point this reference queue callback
2799          * has been invoked, the GC handle associated with the object will fail to
2800          * resolve as one might expect. So if we don't free and remove the GC
2801          * handle here, free_context_static_data_helper () could end up resolving
2802          * a GC handle to an actually-dead context which would contain a pointer
2803          * to an already-freed static data segment, resulting in a crash when
2804          * accessing it.
2805          */
2806         g_hash_table_remove (contexts, GUINT_TO_POINTER (data->gc_handle));
2807
2808         mono_threads_unlock ();
2809
2810         mono_gchandle_free (data->gc_handle);
2811         mono_free_static_data (data->static_data);
2812         g_free (data);
2813 }
2814
2815 void
2816 ves_icall_System_Runtime_Remoting_Contexts_Context_RegisterContext (MonoAppContext *ctx)
2817 {
2818         mono_threads_lock ();
2819
2820         //g_print ("Registering context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2821
2822         if (!contexts)
2823                 contexts = g_hash_table_new (NULL, NULL);
2824
2825         if (!context_queue)
2826                 context_queue = mono_gc_reference_queue_new (free_context);
2827
2828         gpointer gch = GUINT_TO_POINTER (mono_gchandle_new_weakref (&ctx->obj, FALSE));
2829         g_hash_table_insert (contexts, gch, gch);
2830
2831         /*
2832          * We use this intermediate structure to contain a duplicate pointer to
2833          * the static data because we can't rely on being able to resolve the GC
2834          * handle in the reference queue callback.
2835          */
2836         ContextStaticData *data = g_new0 (ContextStaticData, 1);
2837         data->gc_handle = GPOINTER_TO_UINT (gch);
2838         ctx->data = data;
2839
2840         context_adjust_static_data (ctx);
2841         mono_gc_reference_queue_add (context_queue, &ctx->obj, data);
2842
2843         mono_threads_unlock ();
2844
2845         mono_profiler_context_loaded (ctx);
2846 }
2847
2848 void
2849 ves_icall_System_Runtime_Remoting_Contexts_Context_ReleaseContext (MonoAppContext *ctx)
2850 {
2851         /*
2852          * NOTE: Since finalizers are unreliable for the purposes of ensuring
2853          * cleanup in exceptional circumstances, we don't actually do any
2854          * cleanup work here. We instead do this via a reference queue.
2855          */
2856
2857         //g_print ("Releasing context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2858
2859         mono_profiler_context_unloaded (ctx);
2860 }
2861
2862 void
2863 mono_thread_init_tls (void)
2864 {
2865         MONO_FAST_TLS_INIT (tls_current_object);
2866         mono_native_tls_alloc (&current_object_key, NULL);
2867 }
2868
2869 void mono_thread_init (MonoThreadStartCB start_cb,
2870                        MonoThreadAttachCB attach_cb)
2871 {
2872         mono_coop_mutex_init_recursive (&threads_mutex);
2873
2874         mono_os_mutex_init_recursive(&interlocked_mutex);
2875         mono_os_mutex_init_recursive(&joinable_threads_mutex);
2876
2877         background_change_event = CreateEvent (NULL, TRUE, FALSE, NULL);
2878         g_assert(background_change_event != NULL);
2879
2880         mono_init_static_data_info (&thread_static_info);
2881         mono_init_static_data_info (&context_static_info);
2882
2883         THREAD_DEBUG (g_message ("%s: Allocated current_object_key %d", __func__, current_object_key));
2884
2885         mono_thread_start_cb = start_cb;
2886         mono_thread_attach_cb = attach_cb;
2887
2888         /* Get a pseudo handle to the current process.  This is just a
2889          * kludge so that wapi can build a process handle if needed.
2890          * As a pseudo handle is returned, we don't need to clean
2891          * anything up.
2892          */
2893         GetCurrentProcess ();
2894 }
2895
2896 void mono_thread_cleanup (void)
2897 {
2898 #if !defined(HOST_WIN32) && !defined(RUN_IN_SUBTHREAD)
2899         MonoThreadInfo *info;
2900
2901         /* The main thread must abandon any held mutexes (particularly
2902          * important for named mutexes as they are shared across
2903          * processes, see bug 74680.)  This will happen when the
2904          * thread exits, but if it's not running in a subthread it
2905          * won't exit in time.
2906          */
2907         info = mono_thread_info_current ();
2908         wapi_thread_handle_set_exited (info->handle, mono_environment_exitcode_get ());
2909 #endif
2910
2911 #if 0
2912         /* This stuff needs more testing, it seems one of these
2913          * critical sections can be locked when mono_thread_cleanup is
2914          * called.
2915          */
2916         mono_coop_mutex_destroy (&threads_mutex);
2917         mono_os_mutex_destroy (&interlocked_mutex);
2918         mono_os_mutex_destroy (&delayed_free_table_mutex);
2919         mono_os_mutex_destroy (&small_id_mutex);
2920         CloseHandle (background_change_event);
2921 #endif
2922
2923         mono_native_tls_free (current_object_key);
2924 }
2925
2926 void
2927 mono_threads_install_cleanup (MonoThreadCleanupFunc func)
2928 {
2929         mono_thread_cleanup_fn = func;
2930 }
2931
2932 void
2933 mono_thread_set_manage_callback (MonoThread *thread, MonoThreadManageCallback func)
2934 {
2935         thread->internal_thread->manage_callback = func;
2936 }
2937
2938 G_GNUC_UNUSED
2939 static void print_tids (gpointer key, gpointer value, gpointer user)
2940 {
2941         /* GPOINTER_TO_UINT breaks horribly if sizeof(void *) >
2942          * sizeof(uint) and a cast to uint would overflow
2943          */
2944         /* Older versions of glib don't have G_GSIZE_FORMAT, so just
2945          * print this as a pointer.
2946          */
2947         g_message ("Waiting for: %p", key);
2948 }
2949
2950 struct wait_data
2951 {
2952         HANDLE handles[MAXIMUM_WAIT_OBJECTS];
2953         MonoInternalThread *threads[MAXIMUM_WAIT_OBJECTS];
2954         guint32 num;
2955 };
2956
2957 static void wait_for_tids (struct wait_data *wait, guint32 timeout)
2958 {
2959         guint32 i, ret;
2960
2961         THREAD_DEBUG (g_message("%s: %d threads to wait for in this batch", __func__, wait->num));
2962
2963         MONO_ENTER_GC_SAFE;
2964         ret=WaitForMultipleObjectsEx(wait->num, wait->handles, TRUE, timeout, TRUE);
2965         MONO_EXIT_GC_SAFE;
2966
2967         if(ret==WAIT_FAILED) {
2968                 /* See the comment in build_wait_tids() */
2969                 THREAD_DEBUG (g_message ("%s: Wait failed", __func__));
2970                 return;
2971         }
2972
2973         for(i=0; i<wait->num; i++)
2974                 CloseHandle (wait->handles[i]);
2975
2976         if (ret == WAIT_TIMEOUT)
2977                 return;
2978
2979         for(i=0; i<wait->num; i++) {
2980                 gsize tid = wait->threads[i]->tid;
2981
2982                 /*
2983                  * On !win32, when the thread handle becomes signalled, it just means the thread has exited user code,
2984                  * it can still run io-layer etc. code. So wait for it to really exit.
2985                  * FIXME: This won't join threads which are not in the joinable_hash yet.
2986                  */
2987                 mono_thread_join ((gpointer)tid);
2988
2989                 mono_threads_lock ();
2990                 if(mono_g_hash_table_lookup (threads, (gpointer)tid)!=NULL) {
2991                         /* This thread must have been killed, because
2992                          * it hasn't cleaned itself up. (It's just
2993                          * possible that the thread exited before the
2994                          * parent thread had a chance to store the
2995                          * handle, and now there is another pointer to
2996                          * the already-exited thread stored.  In this
2997                          * case, we'll just get two
2998                          * mono_profiler_thread_end() calls for the
2999                          * same thread.)
3000                          */
3001
3002                         mono_threads_unlock ();
3003                         THREAD_DEBUG (g_message ("%s: cleaning up after thread %p (%"G_GSIZE_FORMAT")", __func__, wait->threads[i], tid));
3004                         thread_cleanup (wait->threads[i]);
3005                 } else {
3006                         mono_threads_unlock ();
3007                 }
3008         }
3009 }
3010
3011 static void wait_for_tids_or_state_change (struct wait_data *wait, guint32 timeout)
3012 {
3013         guint32 i, ret, count;
3014
3015         THREAD_DEBUG (g_message("%s: %d threads to wait for in this batch", __func__, wait->num));
3016
3017         /* Add the thread state change event, so it wakes up if a thread changes
3018          * to background mode.
3019          */
3020         count = wait->num;
3021         if (count < MAXIMUM_WAIT_OBJECTS) {
3022                 wait->handles [count] = background_change_event;
3023                 count++;
3024         }
3025
3026         MONO_ENTER_GC_SAFE;
3027         ret=WaitForMultipleObjectsEx (count, wait->handles, FALSE, timeout, TRUE);
3028         MONO_EXIT_GC_SAFE;
3029
3030         if(ret==WAIT_FAILED) {
3031                 /* See the comment in build_wait_tids() */
3032                 THREAD_DEBUG (g_message ("%s: Wait failed", __func__));
3033                 return;
3034         }
3035
3036         for(i=0; i<wait->num; i++)
3037                 CloseHandle (wait->handles[i]);
3038
3039         if (ret == WAIT_TIMEOUT)
3040                 return;
3041
3042         if (ret < wait->num) {
3043                 gsize tid = wait->threads[ret]->tid;
3044                 mono_threads_lock ();
3045                 if (mono_g_hash_table_lookup (threads, (gpointer)tid)!=NULL) {
3046                         /* See comment in wait_for_tids about thread cleanup */
3047                         mono_threads_unlock ();
3048                         THREAD_DEBUG (g_message ("%s: cleaning up after thread %"G_GSIZE_FORMAT, __func__, tid));
3049                         thread_cleanup (wait->threads [ret]);
3050                 } else
3051                         mono_threads_unlock ();
3052         }
3053 }
3054
3055 static void build_wait_tids (gpointer key, gpointer value, gpointer user)
3056 {
3057         struct wait_data *wait=(struct wait_data *)user;
3058
3059         if(wait->num<MAXIMUM_WAIT_OBJECTS) {
3060                 HANDLE handle;
3061                 MonoInternalThread *thread=(MonoInternalThread *)value;
3062
3063                 /* Ignore background threads, we abort them later */
3064                 /* Do not lock here since it is not needed and the caller holds threads_lock */
3065                 if (thread->state & ThreadState_Background) {
3066                         THREAD_DEBUG (g_message ("%s: ignoring background thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3067                         return; /* just leave, ignore */
3068                 }
3069
3070                 if (mono_gc_is_finalizer_internal_thread (thread)) {
3071                         THREAD_DEBUG (g_message ("%s: ignoring finalizer thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3072                         return;
3073                 }
3074
3075                 if (thread == mono_thread_internal_current ()) {
3076                         THREAD_DEBUG (g_message ("%s: ignoring current thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3077                         return;
3078                 }
3079
3080                 if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread)) {
3081                         THREAD_DEBUG (g_message ("%s: ignoring main thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3082                         return;
3083                 }
3084
3085                 if (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE) {
3086                         THREAD_DEBUG (g_message ("%s: ignoring thread %" G_GSIZE_FORMAT "with DONT_MANAGE flag set.", __func__, (gsize)thread->tid));
3087                         return;
3088                 }
3089
3090                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3091                 if (handle == NULL) {
3092                         THREAD_DEBUG (g_message ("%s: ignoring unopenable thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3093                         return;
3094                 }
3095
3096                 THREAD_DEBUG (g_message ("%s: Invoking mono_thread_manage callback on thread %p", __func__, thread));
3097                 if ((thread->manage_callback == NULL) || (thread->manage_callback (thread->root_domain_thread) == TRUE)) {
3098                         wait->handles[wait->num]=handle;
3099                         wait->threads[wait->num]=thread;
3100                         wait->num++;
3101
3102                         THREAD_DEBUG (g_message ("%s: adding thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3103                 } else {
3104                         THREAD_DEBUG (g_message ("%s: ignoring (because of callback) thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3105                 }
3106
3107
3108         } else {
3109                 /* Just ignore the rest, we can't do anything with
3110                  * them yet
3111                  */
3112         }
3113 }
3114
3115 static gboolean
3116 remove_and_abort_threads (gpointer key, gpointer value, gpointer user)
3117 {
3118         struct wait_data *wait=(struct wait_data *)user;
3119         MonoNativeThreadId self = mono_native_thread_id_get ();
3120         MonoInternalThread *thread = (MonoInternalThread *)value;
3121         HANDLE handle;
3122
3123         if (wait->num >= MAXIMUM_WAIT_OBJECTS)
3124                 return FALSE;
3125
3126         /* The finalizer thread is not a background thread */
3127         if (!mono_native_thread_id_equals (thread_get_tid (thread), self)
3128              && (thread->state & ThreadState_Background) != 0
3129              && (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE) == 0
3130         ) {
3131                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3132                 if (handle == NULL)
3133                         return FALSE;
3134
3135                 /* printf ("A: %d\n", wait->num); */
3136                 wait->handles[wait->num]=thread->handle;
3137                 wait->threads[wait->num]=thread;
3138                 wait->num++;
3139
3140                 THREAD_DEBUG (g_print ("%s: Aborting id: %"G_GSIZE_FORMAT"\n", __func__, (gsize)thread->tid));
3141                 mono_thread_internal_stop (thread);
3142                 return TRUE;
3143         }
3144
3145         return !mono_native_thread_id_equals (thread_get_tid (thread), self)
3146                 && !mono_gc_is_finalizer_internal_thread (thread);
3147 }
3148
3149 /**
3150  * mono_threads_set_shutting_down:
3151  *
3152  * Is called by a thread that wants to shut down Mono. If the runtime is already
3153  * shutting down, the calling thread is suspended/stopped, and this function never
3154  * returns.
3155  */
3156 void
3157 mono_threads_set_shutting_down (void)
3158 {
3159         MonoInternalThread *current_thread = mono_thread_internal_current ();
3160
3161         mono_threads_lock ();
3162
3163         if (shutting_down) {
3164                 mono_threads_unlock ();
3165
3166                 /* Make sure we're properly suspended/stopped */
3167
3168                 LOCK_THREAD (current_thread);
3169
3170                 if ((current_thread->state & ThreadState_SuspendRequested) ||
3171                     (current_thread->state & ThreadState_AbortRequested) ||
3172                     (current_thread->state & ThreadState_StopRequested)) {
3173                         UNLOCK_THREAD (current_thread);
3174                         mono_thread_execute_interruption ();
3175                 } else {
3176                         current_thread->state |= ThreadState_Stopped;
3177                         UNLOCK_THREAD (current_thread);
3178                 }
3179
3180                 /*since we're killing the thread, unset the current domain.*/
3181                 mono_domain_unset ();
3182
3183                 /* Wake up other threads potentially waiting for us */
3184                 mono_thread_info_exit ();
3185         } else {
3186                 shutting_down = TRUE;
3187
3188                 /* Not really a background state change, but this will
3189                  * interrupt the main thread if it is waiting for all
3190                  * the other threads.
3191                  */
3192                 SetEvent (background_change_event);
3193
3194                 mono_threads_unlock ();
3195         }
3196 }
3197
3198 void mono_thread_manage (void)
3199 {
3200         struct wait_data wait_data;
3201         struct wait_data *wait = &wait_data;
3202
3203         memset (wait, 0, sizeof (struct wait_data));
3204         /* join each thread that's still running */
3205         THREAD_DEBUG (g_message ("%s: Joining each running thread...", __func__));
3206
3207         mono_threads_lock ();
3208         if(threads==NULL) {
3209                 THREAD_DEBUG (g_message("%s: No threads", __func__));
3210                 mono_threads_unlock ();
3211                 return;
3212         }
3213         mono_threads_unlock ();
3214
3215         do {
3216                 mono_threads_lock ();
3217                 if (shutting_down) {
3218                         /* somebody else is shutting down */
3219                         mono_threads_unlock ();
3220                         break;
3221                 }
3222                 THREAD_DEBUG (g_message ("%s: There are %d threads to join", __func__, mono_g_hash_table_size (threads));
3223                         mono_g_hash_table_foreach (threads, print_tids, NULL));
3224
3225                 ResetEvent (background_change_event);
3226                 wait->num=0;
3227                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3228                 memset (wait->threads, 0, MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3229                 mono_g_hash_table_foreach (threads, build_wait_tids, wait);
3230                 mono_threads_unlock ();
3231                 if(wait->num>0) {
3232                         /* Something to wait for */
3233                         wait_for_tids_or_state_change (wait, INFINITE);
3234                 }
3235                 THREAD_DEBUG (g_message ("%s: I have %d threads after waiting.", __func__, wait->num));
3236         } while(wait->num>0);
3237
3238         /* Mono is shutting down, so just wait for the end */
3239         if (!mono_runtime_try_shutdown ()) {
3240                 /*FIXME mono_thread_suspend probably should call mono_thread_execute_interruption when self interrupting. */
3241                 mono_thread_suspend (mono_thread_internal_current ());
3242                 mono_thread_execute_interruption ();
3243         }
3244
3245         /*
3246          * Remove everything but the finalizer thread and self.
3247          * Also abort all the background threads
3248          * */
3249         do {
3250                 mono_threads_lock ();
3251
3252                 wait->num = 0;
3253                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3254                 memset (wait->threads, 0, MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3255                 mono_g_hash_table_foreach_remove (threads, remove_and_abort_threads, wait);
3256
3257                 mono_threads_unlock ();
3258
3259                 THREAD_DEBUG (g_message ("%s: wait->num is now %d", __func__, wait->num));
3260                 if(wait->num>0) {
3261                         /* Something to wait for */
3262                         wait_for_tids (wait, INFINITE);
3263                 }
3264         } while (wait->num > 0);
3265
3266         /*
3267          * give the subthreads a chance to really quit (this is mainly needed
3268          * to get correct user and system times from getrusage/wait/time(1)).
3269          * This could be removed if we avoid pthread_detach() and use pthread_join().
3270          */
3271         mono_thread_info_yield ();
3272 }
3273
3274 static void
3275 collect_threads_for_suspend (gpointer key, gpointer value, gpointer user_data)
3276 {
3277         MonoInternalThread *thread = (MonoInternalThread*)value;
3278         struct wait_data *wait = (struct wait_data*)user_data;
3279         HANDLE handle;
3280
3281         /*
3282          * We try to exclude threads early, to avoid running into the MAXIMUM_WAIT_OBJECTS
3283          * limitation.
3284          * This needs no locking.
3285          */
3286         if ((thread->state & ThreadState_Suspended) != 0 ||
3287                 (thread->state & ThreadState_Stopped) != 0)
3288                 return;
3289
3290         if (wait->num<MAXIMUM_WAIT_OBJECTS) {
3291                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3292                 if (handle == NULL)
3293                         return;
3294
3295                 wait->handles [wait->num] = handle;
3296                 wait->threads [wait->num] = thread;
3297                 wait->num++;
3298         }
3299 }
3300
3301 /*
3302  * mono_thread_suspend_all_other_threads:
3303  *
3304  *  Suspend all managed threads except the finalizer thread and this thread. It is
3305  * not possible to resume them later.
3306  */
3307 void mono_thread_suspend_all_other_threads (void)
3308 {
3309         struct wait_data wait_data;
3310         struct wait_data *wait = &wait_data;
3311         int i;
3312         MonoNativeThreadId self = mono_native_thread_id_get ();
3313         guint32 eventidx = 0;
3314         gboolean starting, finished;
3315
3316         memset (wait, 0, sizeof (struct wait_data));
3317         /*
3318          * The other threads could be in an arbitrary state at this point, i.e.
3319          * they could be starting up, shutting down etc. This means that there could be
3320          * threads which are not even in the threads hash table yet.
3321          */
3322
3323         /*
3324          * First we set a barrier which will be checked by all threads before they
3325          * are added to the threads hash table, and they will exit if the flag is set.
3326          * This ensures that no threads could be added to the hash later.
3327          * We will use shutting_down as the barrier for now.
3328          */
3329         g_assert (shutting_down);
3330
3331         /*
3332          * We make multiple calls to WaitForMultipleObjects since:
3333          * - we can only wait for MAXIMUM_WAIT_OBJECTS threads
3334          * - some threads could exit without becoming suspended
3335          */
3336         finished = FALSE;
3337         while (!finished) {
3338                 /*
3339                  * Make a copy of the hashtable since we can't do anything with
3340                  * threads while threads_mutex is held.
3341                  */
3342                 wait->num = 0;
3343                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3344                 memset (wait->threads, 0, MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3345                 mono_threads_lock ();
3346                 mono_g_hash_table_foreach (threads, collect_threads_for_suspend, wait);
3347                 mono_threads_unlock ();
3348
3349                 eventidx = 0;
3350                 /* Get the suspended events that we'll be waiting for */
3351                 for (i = 0; i < wait->num; ++i) {
3352                         MonoInternalThread *thread = wait->threads [i];
3353
3354                         if (mono_native_thread_id_equals (thread_get_tid (thread), self)
3355                              || mono_gc_is_finalizer_internal_thread (thread)
3356                              || (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE)
3357                         ) {
3358                                 //CloseHandle (wait->handles [i]);
3359                                 wait->threads [i] = NULL; /* ignore this thread in next loop */
3360                                 continue;
3361                         }
3362
3363                         LOCK_THREAD (thread);
3364
3365                         if ((thread->state & ThreadState_Suspended) != 0 ||
3366                                 (thread->state & ThreadState_StopRequested) != 0 ||
3367                                 (thread->state & ThreadState_Stopped) != 0) {
3368                                 UNLOCK_THREAD (thread);
3369                                 CloseHandle (wait->handles [i]);
3370                                 wait->threads [i] = NULL; /* ignore this thread in next loop */
3371                                 continue;
3372                         }
3373
3374                         ++eventidx;
3375
3376                         /* Convert abort requests into suspend requests */
3377                         if ((thread->state & ThreadState_AbortRequested) != 0)
3378                                 thread->state &= ~ThreadState_AbortRequested;
3379
3380                         thread->state |= ThreadState_SuspendRequested;
3381
3382                         /* Signal the thread to suspend + calls UNLOCK_THREAD (thread) */
3383                         async_suspend_internal (thread, TRUE);
3384                 }
3385                 if (eventidx <= 0) {
3386                         /*
3387                          * If there are threads which are starting up, we wait until they
3388                          * are suspended when they try to register in the threads hash.
3389                          * This is guaranteed to finish, since the threads which can create new
3390                          * threads get suspended after a while.
3391                          * FIXME: The finalizer thread can still create new threads.
3392                          */
3393                         mono_threads_lock ();
3394                         if (threads_starting_up)
3395                                 starting = mono_g_hash_table_size (threads_starting_up) > 0;
3396                         else
3397                                 starting = FALSE;
3398                         mono_threads_unlock ();
3399                         if (starting)
3400                                 mono_thread_info_sleep (100, NULL);
3401                         else
3402                                 finished = TRUE;
3403                 }
3404         }
3405 }
3406
3407 typedef struct {
3408         MonoInternalThread *thread;
3409         MonoStackFrameInfo *frames;
3410         int nframes, max_frames;
3411         int nthreads, max_threads;
3412         MonoInternalThread **threads;
3413 } ThreadDumpUserData;
3414
3415 static gboolean thread_dump_requested;
3416
3417 /* This needs to be async safe */
3418 static gboolean
3419 collect_frame (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
3420 {
3421         ThreadDumpUserData *ud = (ThreadDumpUserData *)data;
3422
3423         if (ud->nframes < ud->max_frames) {
3424                 memcpy (&ud->frames [ud->nframes], frame, sizeof (MonoStackFrameInfo));
3425                 ud->nframes ++;
3426         }
3427
3428         return FALSE;
3429 }
3430
3431 /* This needs to be async safe */
3432 static SuspendThreadResult
3433 get_thread_dump (MonoThreadInfo *info, gpointer ud)
3434 {
3435         ThreadDumpUserData *user_data = (ThreadDumpUserData *)ud;
3436         MonoInternalThread *thread = user_data->thread;
3437
3438 #if 0
3439 /* This no longer works with remote unwinding */
3440 #ifndef HOST_WIN32
3441         wapi_desc = wapi_current_thread_desc ();
3442         g_string_append_printf (text, " tid=0x%p this=0x%p %s\n", (gpointer)(gsize)thread->tid, thread,  wapi_desc);
3443         free (wapi_desc);
3444 #endif
3445 #endif
3446
3447         if (thread == mono_thread_internal_current ())
3448                 mono_get_eh_callbacks ()->mono_walk_stack_with_ctx (collect_frame, NULL, MONO_UNWIND_SIGNAL_SAFE, ud);
3449         else
3450                 mono_get_eh_callbacks ()->mono_walk_stack_with_state (collect_frame, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, ud);
3451
3452         return MonoResumeThread;
3453 }
3454
3455 typedef struct {
3456         int nthreads, max_threads;
3457         MonoInternalThread **threads;
3458 } CollectThreadsUserData;
3459
3460 static void
3461 collect_thread (gpointer key, gpointer value, gpointer user)
3462 {
3463         CollectThreadsUserData *ud = (CollectThreadsUserData *)user;
3464         MonoInternalThread *thread = (MonoInternalThread *)value;
3465
3466         if (ud->nthreads < ud->max_threads)
3467                 ud->threads [ud->nthreads ++] = thread;
3468 }
3469
3470 /*
3471  * Collect running threads into the THREADS array.
3472  * THREADS should be an array allocated on the stack.
3473  */
3474 static int
3475 collect_threads (MonoInternalThread **thread_array, int max_threads)
3476 {
3477         CollectThreadsUserData ud;
3478
3479         memset (&ud, 0, sizeof (ud));
3480         /* This array contains refs, but its on the stack, so its ok */
3481         ud.threads = thread_array;
3482         ud.max_threads = max_threads;
3483
3484         mono_threads_lock ();
3485         mono_g_hash_table_foreach (threads, collect_thread, &ud);
3486         mono_threads_unlock ();
3487
3488         return ud.nthreads;
3489 }
3490
3491 static void
3492 dump_thread (MonoInternalThread *thread, ThreadDumpUserData *ud)
3493 {
3494         GString* text = g_string_new (0);
3495         char *name;
3496         GError *error = NULL;
3497         int i;
3498
3499         ud->thread = thread;
3500         ud->nframes = 0;
3501
3502         /* Collect frames for the thread */
3503         if (thread == mono_thread_internal_current ()) {
3504                 get_thread_dump (mono_thread_info_current (), ud);
3505         } else {
3506                 mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, ud);
3507         }
3508
3509         /*
3510          * Do all the non async-safe work outside of get_thread_dump.
3511          */
3512         if (thread->name) {
3513                 name = g_utf16_to_utf8 (thread->name, thread->name_len, NULL, NULL, &error);
3514                 g_assert (!error);
3515                 g_string_append_printf (text, "\n\"%s\"", name);
3516                 g_free (name);
3517         }
3518         else if (thread->threadpool_thread) {
3519                 g_string_append (text, "\n\"<threadpool thread>\"");
3520         } else {
3521                 g_string_append (text, "\n\"<unnamed thread>\"");
3522         }
3523
3524         for (i = 0; i < ud->nframes; ++i) {
3525                 MonoStackFrameInfo *frame = &ud->frames [i];
3526                 MonoMethod *method = NULL;
3527
3528                 if (frame->type == FRAME_TYPE_MANAGED)
3529                         method = mono_jit_info_get_method (frame->ji);
3530
3531                 if (method) {
3532                         gchar *location = mono_debug_print_stack_frame (method, frame->native_offset, frame->domain);
3533                         g_string_append_printf (text, "  %s\n", location);
3534                         g_free (location);
3535                 } else {
3536                         g_string_append_printf (text, "  at <unknown> <0x%05x>\n", frame->native_offset);
3537                 }
3538         }
3539
3540         fprintf (stdout, "%s", text->str);
3541
3542 #if PLATFORM_WIN32 && TARGET_WIN32 && _DEBUG
3543         OutputDebugStringA(text->str);
3544 #endif
3545
3546         g_string_free (text, TRUE);
3547         fflush (stdout);
3548 }
3549
3550 void
3551 mono_threads_perform_thread_dump (void)
3552 {
3553         ThreadDumpUserData ud;
3554         MonoInternalThread *thread_array [128];
3555         int tindex, nthreads;
3556
3557         if (!thread_dump_requested)
3558                 return;
3559
3560         printf ("Full thread dump:\n");
3561
3562         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3563         nthreads = collect_threads (thread_array, 128);
3564
3565         memset (&ud, 0, sizeof (ud));
3566         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3567         ud.max_frames = 256;
3568
3569         for (tindex = 0; tindex < nthreads; ++tindex)
3570                 dump_thread (thread_array [tindex], &ud);
3571
3572         g_free (ud.frames);
3573
3574         thread_dump_requested = FALSE;
3575 }
3576
3577 /* Obtain the thread dump of all threads */
3578 static void
3579 mono_threads_get_thread_dump (MonoArray **out_threads, MonoArray **out_stack_frames)
3580 {
3581         MonoError error;
3582
3583         ThreadDumpUserData ud;
3584         MonoInternalThread *thread_array [128];
3585         MonoDomain *domain = mono_domain_get ();
3586         MonoDebugSourceLocation *location;
3587         int tindex, nthreads;
3588
3589         mono_error_init (&error);
3590
3591         *out_threads = NULL;
3592         *out_stack_frames = NULL;
3593
3594         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3595         nthreads = collect_threads (thread_array, 128);
3596
3597         memset (&ud, 0, sizeof (ud));
3598         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3599         ud.max_frames = 256;
3600
3601         *out_threads = mono_array_new_checked (domain, mono_defaults.thread_class, nthreads, &error);
3602         if (!is_ok (&error))
3603                 goto leave;
3604         *out_stack_frames = mono_array_new_checked (domain, mono_defaults.array_class, nthreads, &error);
3605         if (!is_ok (&error))
3606                 goto leave;
3607
3608         for (tindex = 0; tindex < nthreads; ++tindex) {
3609                 MonoInternalThread *thread = thread_array [tindex];
3610                 MonoArray *thread_frames;
3611                 int i;
3612
3613                 ud.thread = thread;
3614                 ud.nframes = 0;
3615
3616                 /* Collect frames for the thread */
3617                 if (thread == mono_thread_internal_current ()) {
3618                         get_thread_dump (mono_thread_info_current (), &ud);
3619                 } else {
3620                         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, &ud);
3621                 }
3622
3623                 mono_array_setref_fast (*out_threads, tindex, mono_thread_current_for_thread (thread));
3624
3625                 thread_frames = mono_array_new_checked (domain, mono_defaults.stack_frame_class, ud.nframes, &error);
3626                 if (!is_ok (&error))
3627                         goto leave;
3628                 mono_array_setref_fast (*out_stack_frames, tindex, thread_frames);
3629
3630                 for (i = 0; i < ud.nframes; ++i) {
3631                         MonoStackFrameInfo *frame = &ud.frames [i];
3632                         MonoMethod *method = NULL;
3633                         MonoStackFrame *sf = (MonoStackFrame *)mono_object_new_checked (domain, mono_defaults.stack_frame_class, &error);
3634                         if (!mono_error_ok (&error))
3635                                 goto leave;
3636
3637                         sf->native_offset = frame->native_offset;
3638
3639                         if (frame->type == FRAME_TYPE_MANAGED)
3640                                 method = mono_jit_info_get_method (frame->ji);
3641
3642                         if (method) {
3643                                 sf->method_address = (gsize) frame->ji->code_start;
3644
3645                                 MonoReflectionMethod *rm = mono_method_get_object_checked (domain, method, NULL, &error);
3646                                 mono_error_raise_exception (&error); /* FIXME don't raise here */
3647                                 MONO_OBJECT_SETREF (sf, method, rm);
3648
3649                                 location = mono_debug_lookup_source_location (method, frame->native_offset, domain);
3650                                 if (location) {
3651                                         sf->il_offset = location->il_offset;
3652
3653                                         if (location && location->source_file) {
3654                                                 MONO_OBJECT_SETREF (sf, filename, mono_string_new (domain, location->source_file));
3655                                                 sf->line = location->row;
3656                                                 sf->column = location->column;
3657                                         }
3658                                         mono_debug_free_source_location (location);
3659                                 } else {
3660                                         sf->il_offset = -1;
3661                                 }
3662                         }
3663                         mono_array_setref (thread_frames, i, sf);
3664                 }
3665         }
3666
3667 leave:
3668         g_free (ud.frames);
3669         mono_error_raise_exception (&error); /* FIXME don't raise here */
3670 }
3671
3672 /**
3673  * mono_threads_request_thread_dump:
3674  *
3675  *   Ask all threads except the current to print their stacktrace to stdout.
3676  */
3677 void
3678 mono_threads_request_thread_dump (void)
3679 {
3680         /*The new thread dump code runs out of the finalizer thread. */
3681         thread_dump_requested = TRUE;
3682         mono_gc_finalize_notify ();
3683 }
3684
3685 struct ref_stack {
3686         gpointer *refs;
3687         gint allocated; /* +1 so that refs [allocated] == NULL */
3688         gint bottom;
3689 };
3690
3691 typedef struct ref_stack RefStack;
3692
3693 static RefStack *
3694 ref_stack_new (gint initial_size)
3695 {
3696         RefStack *rs;
3697
3698         initial_size = MAX (initial_size, 16) + 1;
3699         rs = g_new0 (RefStack, 1);
3700         rs->refs = g_new0 (gpointer, initial_size);
3701         rs->allocated = initial_size;
3702         return rs;
3703 }
3704
3705 static void
3706 ref_stack_destroy (gpointer ptr)
3707 {
3708         RefStack *rs = (RefStack *)ptr;
3709
3710         if (rs != NULL) {
3711                 g_free (rs->refs);
3712                 g_free (rs);
3713         }
3714 }
3715
3716 static void
3717 ref_stack_push (RefStack *rs, gpointer ptr)
3718 {
3719         g_assert (rs != NULL);
3720
3721         if (rs->bottom >= rs->allocated) {
3722                 rs->refs = (void **)g_realloc (rs->refs, rs->allocated * 2 * sizeof (gpointer) + 1);
3723                 rs->allocated <<= 1;
3724                 rs->refs [rs->allocated] = NULL;
3725         }
3726         rs->refs [rs->bottom++] = ptr;
3727 }
3728
3729 static void
3730 ref_stack_pop (RefStack *rs)
3731 {
3732         if (rs == NULL || rs->bottom == 0)
3733                 return;
3734
3735         rs->bottom--;
3736         rs->refs [rs->bottom] = NULL;
3737 }
3738
3739 static gboolean
3740 ref_stack_find (RefStack *rs, gpointer ptr)
3741 {
3742         gpointer *refs;
3743
3744         if (rs == NULL)
3745                 return FALSE;
3746
3747         for (refs = rs->refs; refs && *refs; refs++) {
3748                 if (*refs == ptr)
3749                         return TRUE;
3750         }
3751         return FALSE;
3752 }
3753
3754 /*
3755  * mono_thread_push_appdomain_ref:
3756  *
3757  *   Register that the current thread may have references to objects in domain
3758  * @domain on its stack. Each call to this function should be paired with a
3759  * call to pop_appdomain_ref.
3760  */
3761 void
3762 mono_thread_push_appdomain_ref (MonoDomain *domain)
3763 {
3764         MonoInternalThread *thread = mono_thread_internal_current ();
3765
3766         if (thread) {
3767                 /* printf ("PUSH REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, domain->friendly_name); */
3768                 SPIN_LOCK (thread->lock_thread_id);
3769                 if (thread->appdomain_refs == NULL)
3770                         thread->appdomain_refs = ref_stack_new (16);
3771                 ref_stack_push ((RefStack *)thread->appdomain_refs, domain);
3772                 SPIN_UNLOCK (thread->lock_thread_id);
3773         }
3774 }
3775
3776 void
3777 mono_thread_pop_appdomain_ref (void)
3778 {
3779         MonoInternalThread *thread = mono_thread_internal_current ();
3780
3781         if (thread) {
3782                 /* printf ("POP REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, ((MonoDomain*)(thread->appdomain_refs->data))->friendly_name); */
3783                 SPIN_LOCK (thread->lock_thread_id);
3784                 ref_stack_pop ((RefStack *)thread->appdomain_refs);
3785                 SPIN_UNLOCK (thread->lock_thread_id);
3786         }
3787 }
3788
3789 gboolean
3790 mono_thread_internal_has_appdomain_ref (MonoInternalThread *thread, MonoDomain *domain)
3791 {
3792         gboolean res;
3793         SPIN_LOCK (thread->lock_thread_id);
3794         res = ref_stack_find ((RefStack *)thread->appdomain_refs, domain);
3795         SPIN_UNLOCK (thread->lock_thread_id);
3796         return res;
3797 }
3798
3799 gboolean
3800 mono_thread_has_appdomain_ref (MonoThread *thread, MonoDomain *domain)
3801 {
3802         return mono_thread_internal_has_appdomain_ref (thread->internal_thread, domain);
3803 }
3804
3805 typedef struct abort_appdomain_data {
3806         struct wait_data wait;
3807         MonoDomain *domain;
3808 } abort_appdomain_data;
3809
3810 static void
3811 collect_appdomain_thread (gpointer key, gpointer value, gpointer user_data)
3812 {
3813         MonoInternalThread *thread = (MonoInternalThread*)value;
3814         abort_appdomain_data *data = (abort_appdomain_data*)user_data;
3815         MonoDomain *domain = data->domain;
3816
3817         if (mono_thread_internal_has_appdomain_ref (thread, domain)) {
3818                 /* printf ("ABORTING THREAD %p BECAUSE IT REFERENCES DOMAIN %s.\n", thread->tid, domain->friendly_name); */
3819
3820                 if(data->wait.num<MAXIMUM_WAIT_OBJECTS) {
3821                         HANDLE handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3822                         if (handle == NULL)
3823                                 return;
3824                         data->wait.handles [data->wait.num] = handle;
3825                         data->wait.threads [data->wait.num] = thread;
3826                         data->wait.num++;
3827                 } else {
3828                         /* Just ignore the rest, we can't do anything with
3829                          * them yet
3830                          */
3831                 }
3832         }
3833 }
3834
3835 /*
3836  * mono_threads_abort_appdomain_threads:
3837  *
3838  *   Abort threads which has references to the given appdomain.
3839  */
3840 gboolean
3841 mono_threads_abort_appdomain_threads (MonoDomain *domain, int timeout)
3842 {
3843 #ifdef __native_client__
3844         return FALSE;
3845 #endif
3846
3847         abort_appdomain_data user_data;
3848         gint64 start_time;
3849         int orig_timeout = timeout;
3850         int i;
3851
3852         THREAD_DEBUG (g_message ("%s: starting abort", __func__));
3853
3854         start_time = mono_msec_ticks ();
3855         do {
3856                 mono_threads_lock ();
3857
3858                 user_data.domain = domain;
3859                 user_data.wait.num = 0;
3860                 /* This shouldn't take any locks */
3861                 mono_g_hash_table_foreach (threads, collect_appdomain_thread, &user_data);
3862                 mono_threads_unlock ();
3863
3864                 if (user_data.wait.num > 0) {
3865                         /* Abort the threads outside the threads lock */
3866                         for (i = 0; i < user_data.wait.num; ++i)
3867                                 mono_thread_internal_abort (user_data.wait.threads [i]);
3868
3869                         /*
3870                          * We should wait for the threads either to abort, or to leave the
3871                          * domain. We can't do the latter, so we wait with a timeout.
3872                          */
3873                         wait_for_tids (&user_data.wait, 100);
3874                 }
3875
3876                 /* Update remaining time */
3877                 timeout -= mono_msec_ticks () - start_time;
3878                 start_time = mono_msec_ticks ();
3879
3880                 if (orig_timeout != -1 && timeout < 0)
3881                         return FALSE;
3882         }
3883         while (user_data.wait.num > 0);
3884
3885         THREAD_DEBUG (g_message ("%s: abort done", __func__));
3886
3887         return TRUE;
3888 }
3889
3890 static void
3891 clear_cached_culture (gpointer key, gpointer value, gpointer user_data)
3892 {
3893         MonoInternalThread *thread = (MonoInternalThread*)value;
3894         MonoDomain *domain = (MonoDomain*)user_data;
3895         int i;
3896
3897         /* No locking needed here */
3898         /* FIXME: why no locking? writes to the cache are protected with synch_cs above */
3899
3900         if (thread->cached_culture_info) {
3901                 for (i = 0; i < NUM_CACHED_CULTURES * 2; ++i) {
3902                         MonoObject *obj = mono_array_get (thread->cached_culture_info, MonoObject*, i);
3903                         if (obj && obj->vtable->domain == domain)
3904                                 mono_array_set (thread->cached_culture_info, MonoObject*, i, NULL);
3905                 }
3906         }
3907 }
3908
3909 /*
3910  * mono_threads_clear_cached_culture:
3911  *
3912  *   Clear the cached_current_culture from all threads if it is in the
3913  * given appdomain.
3914  */
3915 void
3916 mono_threads_clear_cached_culture (MonoDomain *domain)
3917 {
3918         mono_threads_lock ();
3919         mono_g_hash_table_foreach (threads, clear_cached_culture, domain);
3920         mono_threads_unlock ();
3921 }
3922
3923 /*
3924  * mono_thread_get_undeniable_exception:
3925  *
3926  *   Return an exception which needs to be raised when leaving a catch clause.
3927  * This is used for undeniable exception propagation.
3928  */
3929 MonoException*
3930 mono_thread_get_undeniable_exception (void)
3931 {
3932         MonoInternalThread *thread = mono_thread_internal_current ();
3933
3934         if (thread && thread->abort_exc && !is_running_protected_wrapper ()) {
3935                 /*
3936                  * FIXME: Clear the abort exception and return an AppDomainUnloaded
3937                  * exception if the thread no longer references a dying appdomain.
3938                  */
3939                 thread->abort_exc->trace_ips = NULL;
3940                 thread->abort_exc->stack_trace = NULL;
3941                 return thread->abort_exc;
3942         }
3943
3944         return NULL;
3945 }
3946
3947 #if MONO_SMALL_CONFIG
3948 #define NUM_STATIC_DATA_IDX 4
3949 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3950         64, 256, 1024, 4096
3951 };
3952 #else
3953 #define NUM_STATIC_DATA_IDX 8
3954 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3955         1024, 4096, 16384, 65536, 262144, 1048576, 4194304, 16777216
3956 };
3957 #endif
3958
3959 static MonoBitSet *thread_reference_bitmaps [NUM_STATIC_DATA_IDX];
3960 static MonoBitSet *context_reference_bitmaps [NUM_STATIC_DATA_IDX];
3961
3962 static void
3963 mark_slots (void *addr, MonoBitSet **bitmaps, MonoGCMarkFunc mark_func, void *gc_data)
3964 {
3965         gpointer *static_data = (gpointer *)addr;
3966
3967         for (int i = 0; i < NUM_STATIC_DATA_IDX; ++i) {
3968                 void **ptr = (void **)static_data [i];
3969
3970                 if (!ptr)
3971                         continue;
3972
3973                 MONO_BITSET_FOREACH (bitmaps [i], idx, {
3974                         void **p = ptr + idx;
3975
3976                         if (*p)
3977                                 mark_func ((MonoObject**)p, gc_data);
3978                 });
3979         }
3980 }
3981
3982 static void
3983 mark_tls_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
3984 {
3985         mark_slots (addr, thread_reference_bitmaps, mark_func, gc_data);
3986 }
3987
3988 static void
3989 mark_ctx_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
3990 {
3991         mark_slots (addr, context_reference_bitmaps, mark_func, gc_data);
3992 }
3993
3994 /*
3995  *  mono_alloc_static_data
3996  *
3997  *   Allocate memory blocks for storing threads or context static data
3998  */
3999 static void
4000 mono_alloc_static_data (gpointer **static_data_ptr, guint32 offset, gboolean threadlocal)
4001 {
4002         guint idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4003         int i;
4004
4005         gpointer* static_data = *static_data_ptr;
4006         if (!static_data) {
4007                 static MonoGCDescriptor tls_desc = MONO_GC_DESCRIPTOR_NULL;
4008                 static MonoGCDescriptor ctx_desc = MONO_GC_DESCRIPTOR_NULL;
4009
4010                 if (mono_gc_user_markers_supported ()) {
4011                         if (tls_desc == MONO_GC_DESCRIPTOR_NULL)
4012                                 tls_desc = mono_gc_make_root_descr_user (mark_tls_slots);
4013
4014                         if (ctx_desc == MONO_GC_DESCRIPTOR_NULL)
4015                                 ctx_desc = mono_gc_make_root_descr_user (mark_ctx_slots);
4016                 }
4017
4018                 static_data = (void **)mono_gc_alloc_fixed (static_data_size [0], threadlocal ? tls_desc : ctx_desc,
4019                         threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
4020                         threadlocal ? "managed thread-static variables" : "managed context-static variables");
4021                 *static_data_ptr = static_data;
4022                 static_data [0] = static_data;
4023         }
4024
4025         for (i = 1; i <= idx; ++i) {
4026                 if (static_data [i])
4027                         continue;
4028
4029                 if (mono_gc_user_markers_supported ())
4030                         static_data [i] = g_malloc0 (static_data_size [i]);
4031                 else
4032                         static_data [i] = mono_gc_alloc_fixed (static_data_size [i], MONO_GC_DESCRIPTOR_NULL,
4033                                 threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
4034                                 threadlocal ? "managed thread-static variables" : "managed context-static variables");
4035         }
4036 }
4037
4038 static void
4039 mono_free_static_data (gpointer* static_data)
4040 {
4041         int i;
4042         for (i = 1; i < NUM_STATIC_DATA_IDX; ++i) {
4043                 gpointer p = static_data [i];
4044                 if (!p)
4045                         continue;
4046                 /*
4047                  * At this point, the static data pointer array is still registered with the
4048                  * GC, so must ensure that mark_tls_slots() will not encounter any invalid
4049                  * data.  Freeing the individual arrays without first nulling their slots
4050                  * would make it possible for mark_tls/ctx_slots() to encounter a pointer to
4051                  * such an already freed array.  See bug #13813.
4052                  */
4053                 static_data [i] = NULL;
4054                 mono_memory_write_barrier ();
4055                 if (mono_gc_user_markers_supported ())
4056                         g_free (p);
4057                 else
4058                         mono_gc_free_fixed (p);
4059         }
4060         mono_gc_free_fixed (static_data);
4061 }
4062
4063 /*
4064  *  mono_init_static_data_info
4065  *
4066  *   Initializes static data counters
4067  */
4068 static void mono_init_static_data_info (StaticDataInfo *static_data)
4069 {
4070         static_data->idx = 0;
4071         static_data->offset = 0;
4072         static_data->freelist = NULL;
4073 }
4074
4075 /*
4076  *  mono_alloc_static_data_slot
4077  *
4078  *   Generates an offset for static data. static_data contains the counters
4079  *  used to generate it.
4080  */
4081 static guint32
4082 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align)
4083 {
4084         if (!static_data->idx && !static_data->offset) {
4085                 /*
4086                  * we use the first chunk of the first allocation also as
4087                  * an array for the rest of the data
4088                  */
4089                 static_data->offset = sizeof (gpointer) * NUM_STATIC_DATA_IDX;
4090         }
4091         static_data->offset += align - 1;
4092         static_data->offset &= ~(align - 1);
4093         if (static_data->offset + size >= static_data_size [static_data->idx]) {
4094                 static_data->idx ++;
4095                 g_assert (size <= static_data_size [static_data->idx]);
4096                 g_assert (static_data->idx < NUM_STATIC_DATA_IDX);
4097                 static_data->offset = 0;
4098         }
4099         guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (static_data->idx, static_data->offset, 0);
4100         static_data->offset += size;
4101         return offset;
4102 }
4103
4104 /*
4105  * ensure thread static fields already allocated are valid for thread
4106  * This function is called when a thread is created or on thread attach.
4107  */
4108 static void
4109 thread_adjust_static_data (MonoInternalThread *thread)
4110 {
4111         mono_threads_lock ();
4112         if (thread_static_info.offset || thread_static_info.idx > 0) {
4113                 /* get the current allocated size */
4114                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (thread_static_info.idx, thread_static_info.offset, 0);
4115                 mono_alloc_static_data (&thread->static_data, offset, TRUE);
4116         }
4117         mono_threads_unlock ();
4118 }
4119
4120 /*
4121  * LOCKING: requires that threads_mutex is held
4122  */
4123 static void
4124 context_adjust_static_data (MonoAppContext *ctx)
4125 {
4126         if (context_static_info.offset || context_static_info.idx > 0) {
4127                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (context_static_info.idx, context_static_info.offset, 0);
4128                 mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4129                 ctx->data->static_data = ctx->static_data;
4130         }
4131 }
4132
4133 /*
4134  * LOCKING: requires that threads_mutex is held
4135  */
4136 static void
4137 alloc_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4138 {
4139         MonoInternalThread *thread = (MonoInternalThread *)value;
4140         guint32 offset = GPOINTER_TO_UINT (user);
4141
4142         mono_alloc_static_data (&(thread->static_data), offset, TRUE);
4143 }
4144
4145 /*
4146  * LOCKING: requires that threads_mutex is held
4147  */
4148 static void
4149 alloc_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4150 {
4151         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4152
4153         if (!ctx)
4154                 return;
4155
4156         guint32 offset = GPOINTER_TO_UINT (user);
4157         mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4158         ctx->data->static_data = ctx->static_data;
4159 }
4160
4161 static StaticDataFreeList*
4162 search_slot_in_freelist (StaticDataInfo *static_data, guint32 size, guint32 align)
4163 {
4164         StaticDataFreeList* prev = NULL;
4165         StaticDataFreeList* tmp = static_data->freelist;
4166         while (tmp) {
4167                 if (tmp->size == size) {
4168                         if (prev)
4169                                 prev->next = tmp->next;
4170                         else
4171                                 static_data->freelist = tmp->next;
4172                         return tmp;
4173                 }
4174                 prev = tmp;
4175                 tmp = tmp->next;
4176         }
4177         return NULL;
4178 }
4179
4180 #if SIZEOF_VOID_P == 4
4181 #define ONE_P 1
4182 #else
4183 #define ONE_P 1ll
4184 #endif
4185
4186 static void
4187 update_reference_bitmap (MonoBitSet **sets, guint32 offset, uintptr_t *bitmap, int numbits)
4188 {
4189         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4190         if (!sets [idx])
4191                 sets [idx] = mono_bitset_new (static_data_size [idx] / sizeof (uintptr_t), 0);
4192         MonoBitSet *rb = sets [idx];
4193         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4194         offset /= sizeof (uintptr_t);
4195         /* offset is now the bitmap offset */
4196         for (int i = 0; i < numbits; ++i) {
4197                 if (bitmap [i / sizeof (uintptr_t)] & (ONE_P << (i & (sizeof (uintptr_t) * 8 -1))))
4198                         mono_bitset_set_fast (rb, offset + i);
4199         }
4200 }
4201
4202 static void
4203 clear_reference_bitmap (MonoBitSet **sets, guint32 offset, guint32 size)
4204 {
4205         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4206         MonoBitSet *rb = sets [idx];
4207         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4208         offset /= sizeof (uintptr_t);
4209         /* offset is now the bitmap offset */
4210         for (int i = 0; i < size / sizeof (uintptr_t); i++)
4211                 mono_bitset_clear_fast (rb, offset + i);
4212 }
4213
4214 guint32
4215 mono_alloc_special_static_data (guint32 static_type, guint32 size, guint32 align, uintptr_t *bitmap, int numbits)
4216 {
4217         g_assert (static_type == SPECIAL_STATIC_THREAD || static_type == SPECIAL_STATIC_CONTEXT);
4218
4219         StaticDataInfo *info;
4220         MonoBitSet **sets;
4221
4222         if (static_type == SPECIAL_STATIC_THREAD) {
4223                 info = &thread_static_info;
4224                 sets = thread_reference_bitmaps;
4225         } else {
4226                 info = &context_static_info;
4227                 sets = context_reference_bitmaps;
4228         }
4229
4230         mono_threads_lock ();
4231
4232         StaticDataFreeList *item = search_slot_in_freelist (info, size, align);
4233         guint32 offset;
4234
4235         if (item) {
4236                 offset = item->offset;
4237                 g_free (item);
4238         } else {
4239                 offset = mono_alloc_static_data_slot (info, size, align);
4240         }
4241
4242         update_reference_bitmap (sets, offset, bitmap, numbits);
4243
4244         if (static_type == SPECIAL_STATIC_THREAD) {
4245                 /* This can be called during startup */
4246                 if (threads != NULL)
4247                         mono_g_hash_table_foreach (threads, alloc_thread_static_data_helper, GUINT_TO_POINTER (offset));
4248         } else {
4249                 if (contexts != NULL)
4250                         g_hash_table_foreach (contexts, alloc_context_static_data_helper, GUINT_TO_POINTER (offset));
4251
4252                 ACCESS_SPECIAL_STATIC_OFFSET (offset, type) = SPECIAL_STATIC_OFFSET_TYPE_CONTEXT;
4253         }
4254
4255         mono_threads_unlock ();
4256
4257         return offset;
4258 }
4259
4260 gpointer
4261 mono_get_special_static_data_for_thread (MonoInternalThread *thread, guint32 offset)
4262 {
4263         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4264
4265         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4266                 return get_thread_static_data (thread, offset);
4267         } else {
4268                 return get_context_static_data (thread->current_appcontext, offset);
4269         }
4270 }
4271
4272 gpointer
4273 mono_get_special_static_data (guint32 offset)
4274 {
4275         return mono_get_special_static_data_for_thread (mono_thread_internal_current (), offset);
4276 }
4277
4278 typedef struct {
4279         guint32 offset;
4280         guint32 size;
4281 } OffsetSize;
4282
4283 /*
4284  * LOCKING: requires that threads_mutex is held
4285  */
4286 static void
4287 free_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4288 {
4289         MonoInternalThread *thread = (MonoInternalThread *)value;
4290         OffsetSize *data = (OffsetSize *)user;
4291         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4292         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4293         char *ptr;
4294
4295         if (!thread->static_data || !thread->static_data [idx])
4296                 return;
4297         ptr = ((char*) thread->static_data [idx]) + off;
4298         mono_gc_bzero_atomic (ptr, data->size);
4299 }
4300
4301 /*
4302  * LOCKING: requires that threads_mutex is held
4303  */
4304 static void
4305 free_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4306 {
4307         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4308
4309         if (!ctx)
4310                 return;
4311
4312         OffsetSize *data = (OffsetSize *)user;
4313         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4314         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4315         char *ptr;
4316
4317         if (!ctx->static_data || !ctx->static_data [idx])
4318                 return;
4319
4320         ptr = ((char*) ctx->static_data [idx]) + off;
4321         mono_gc_bzero_atomic (ptr, data->size);
4322 }
4323
4324 static void
4325 do_free_special_slot (guint32 offset, guint32 size)
4326 {
4327         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4328         MonoBitSet **sets;
4329         StaticDataInfo *info;
4330
4331         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4332                 info = &thread_static_info;
4333                 sets = thread_reference_bitmaps;
4334         } else {
4335                 info = &context_static_info;
4336                 sets = context_reference_bitmaps;
4337         }
4338
4339         guint32 data_offset = offset;
4340         ACCESS_SPECIAL_STATIC_OFFSET (data_offset, type) = 0;
4341         OffsetSize data = { data_offset, size };
4342
4343         clear_reference_bitmap (sets, data.offset, data.size);
4344
4345         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4346                 if (threads != NULL)
4347                         mono_g_hash_table_foreach (threads, free_thread_static_data_helper, &data);
4348         } else {
4349                 if (contexts != NULL)
4350                         g_hash_table_foreach (contexts, free_context_static_data_helper, &data);
4351         }
4352
4353         if (!mono_runtime_is_shutting_down ()) {
4354                 StaticDataFreeList *item = g_new0 (StaticDataFreeList, 1);
4355
4356                 item->offset = offset;
4357                 item->size = size;
4358
4359                 item->next = info->freelist;
4360                 info->freelist = item;
4361         }
4362 }
4363
4364 static void
4365 do_free_special (gpointer key, gpointer value, gpointer data)
4366 {
4367         MonoClassField *field = (MonoClassField *)key;
4368         guint32 offset = GPOINTER_TO_UINT (value);
4369         gint32 align;
4370         guint32 size;
4371         size = mono_type_size (field->type, &align);
4372         do_free_special_slot (offset, size);
4373 }
4374
4375 void
4376 mono_alloc_special_static_data_free (GHashTable *special_static_fields)
4377 {
4378         mono_threads_lock ();
4379
4380         g_hash_table_foreach (special_static_fields, do_free_special, NULL);
4381
4382         mono_threads_unlock ();
4383 }
4384
4385 static void
4386 mono_special_static_data_free_slot (guint32 offset, guint32 size)
4387 {
4388         /* Only ever called for ThreadLocal instances */
4389         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_THREAD);
4390
4391         mono_threads_lock ();
4392         do_free_special_slot (offset, size);
4393         mono_threads_unlock ();
4394 }
4395
4396 #ifdef HOST_WIN32
4397 static void CALLBACK dummy_apc (ULONG_PTR param)
4398 {
4399 }
4400 #endif
4401
4402 /*
4403  * mono_thread_execute_interruption
4404  *
4405  * Performs the operation that the requested thread state requires (abort,
4406  * suspend or stop)
4407  */
4408 static MonoException*
4409 mono_thread_execute_interruption (void)
4410 {
4411         MonoInternalThread *thread = mono_thread_internal_current ();
4412         MonoThread *sys_thread = mono_thread_current ();
4413
4414         LOCK_THREAD (thread);
4415
4416         /* MonoThread::interruption_requested can only be changed with atomics */
4417         if (InterlockedCompareExchange (&thread->interruption_requested, FALSE, TRUE)) {
4418                 /* this will consume pending APC calls */
4419 #ifdef HOST_WIN32
4420                 WaitForSingleObjectEx (GetCurrentThread(), 0, TRUE);
4421 #endif
4422                 InterlockedDecrement (&thread_interruption_requested);
4423
4424                 /* Clear the interrupted flag of the thread so it can wait again */
4425                 mono_thread_info_clear_self_interrupt ();
4426         }
4427
4428         /* If there's a pending exception and an AbortRequested, the pending exception takes precedence */
4429         if (sys_thread->pending_exception) {
4430                 MonoException *exc;
4431
4432                 exc = sys_thread->pending_exception;
4433                 sys_thread->pending_exception = NULL;
4434
4435                 UNLOCK_THREAD (thread);
4436                 return exc;
4437         } else if ((thread->state & ThreadState_AbortRequested) != 0) {
4438                 UNLOCK_THREAD (thread);
4439                 g_assert (sys_thread->pending_exception == NULL);
4440                 if (thread->abort_exc == NULL) {
4441                         /*
4442                          * This might be racy, but it has to be called outside the lock
4443                          * since it calls managed code.
4444                          */
4445                         MONO_OBJECT_SETREF (thread, abort_exc, mono_get_exception_thread_abort ());
4446                 }
4447                 return thread->abort_exc;
4448         }
4449         else if ((thread->state & ThreadState_SuspendRequested) != 0) {
4450                 /* calls UNLOCK_THREAD (thread) */
4451                 self_suspend_internal ();
4452                 return NULL;
4453         }
4454         else if ((thread->state & ThreadState_StopRequested) != 0) {
4455                 /* FIXME: do this through the JIT? */
4456
4457                 UNLOCK_THREAD (thread);
4458
4459                 mono_thread_exit ();
4460                 return NULL;
4461         } else if (thread->thread_interrupt_requested) {
4462
4463                 thread->thread_interrupt_requested = FALSE;
4464                 UNLOCK_THREAD (thread);
4465
4466                 return(mono_get_exception_thread_interrupted ());
4467         }
4468
4469         UNLOCK_THREAD (thread);
4470
4471         return NULL;
4472 }
4473
4474 /*
4475  * mono_thread_request_interruption
4476  *
4477  * A signal handler can call this method to request the interruption of a
4478  * thread. The result of the interruption will depend on the current state of
4479  * the thread. If the result is an exception that needs to be throw, it is
4480  * provided as return value.
4481  */
4482 MonoException*
4483 mono_thread_request_interruption (gboolean running_managed)
4484 {
4485         MonoInternalThread *thread = mono_thread_internal_current ();
4486
4487         /* The thread may already be stopping */
4488         if (thread == NULL)
4489                 return NULL;
4490
4491 #ifdef HOST_WIN32
4492         if (thread->interrupt_on_stop &&
4493                 thread->state & ThreadState_StopRequested &&
4494                 thread->state & ThreadState_Background)
4495                 ExitThread (1);
4496 #endif
4497
4498         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4499                 return NULL;
4500         InterlockedIncrement (&thread_interruption_requested);
4501
4502         if (!running_managed || is_running_protected_wrapper ()) {
4503                 /* Can't stop while in unmanaged code. Increase the global interruption
4504                    request count. When exiting the unmanaged method the count will be
4505                    checked and the thread will be interrupted. */
4506
4507                 /* this will awake the thread if it is in WaitForSingleObject
4508                    or similar */
4509                 /* Our implementation of this function ignores the func argument */
4510 #ifdef HOST_WIN32
4511                 QueueUserAPC ((PAPCFUNC)dummy_apc, thread->handle, (ULONG_PTR)NULL);
4512 #else
4513                 mono_thread_info_self_interrupt ();
4514 #endif
4515                 return NULL;
4516         }
4517         else {
4518                 return mono_thread_execute_interruption ();
4519         }
4520 }
4521
4522 /*This function should be called by a thread after it has exited all of
4523  * its handle blocks at interruption time.*/
4524 MonoException*
4525 mono_thread_resume_interruption (void)
4526 {
4527         MonoInternalThread *thread = mono_thread_internal_current ();
4528         gboolean still_aborting;
4529
4530         /* The thread may already be stopping */
4531         if (thread == NULL)
4532                 return NULL;
4533
4534         LOCK_THREAD (thread);
4535         still_aborting = (thread->state & ThreadState_AbortRequested) != 0;
4536         UNLOCK_THREAD (thread);
4537
4538         /*This can happen if the protected block called Thread::ResetAbort*/
4539         if (!still_aborting)
4540                 return FALSE;
4541
4542         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4543                 return NULL;
4544         InterlockedIncrement (&thread_interruption_requested);
4545
4546         mono_thread_info_self_interrupt ();
4547
4548         return mono_thread_execute_interruption ();
4549 }
4550
4551 gboolean mono_thread_interruption_requested ()
4552 {
4553         if (thread_interruption_requested) {
4554                 MonoInternalThread *thread = mono_thread_internal_current ();
4555                 /* The thread may already be stopping */
4556                 if (thread != NULL)
4557                         return (thread->interruption_requested);
4558         }
4559         return FALSE;
4560 }
4561
4562 static MonoException*
4563 mono_thread_interruption_checkpoint_request (gboolean bypass_abort_protection)
4564 {
4565         MonoInternalThread *thread = mono_thread_internal_current ();
4566
4567         /* The thread may already be stopping */
4568         if (thread == NULL)
4569                 return NULL;
4570
4571         if (thread->interruption_requested && (bypass_abort_protection || !is_running_protected_wrapper ())) {
4572                 MonoException* exc = mono_thread_execute_interruption ();
4573                 if (exc)
4574                         return exc;
4575         }
4576         return NULL;
4577 }
4578
4579 /*
4580  * Performs the interruption of the current thread, if one has been requested,
4581  * and the thread is not running a protected wrapper.
4582  * Return the exception which needs to be thrown, if any.
4583  */
4584 MonoException*
4585 mono_thread_interruption_checkpoint (void)
4586 {
4587         return mono_thread_interruption_checkpoint_request (FALSE);
4588 }
4589
4590 /*
4591  * Performs the interruption of the current thread, if one has been requested.
4592  * Return the exception which needs to be thrown, if any.
4593  */
4594 MonoException*
4595 mono_thread_force_interruption_checkpoint_noraise (void)
4596 {
4597         return mono_thread_interruption_checkpoint_request (TRUE);
4598 }
4599
4600 /*
4601  * mono_set_pending_exception:
4602  *
4603  *   Set the pending exception of the current thread to EXC.
4604  * The exception will be thrown when execution returns to managed code.
4605  */
4606 void
4607 mono_set_pending_exception (MonoException *exc)
4608 {
4609         MonoThread *thread = mono_thread_current ();
4610
4611         /* The thread may already be stopping */
4612         if (thread == NULL)
4613                 return;
4614
4615         MONO_OBJECT_SETREF (thread, pending_exception, exc);
4616
4617     mono_thread_request_interruption (FALSE);
4618 }
4619
4620 /**
4621  * mono_thread_interruption_request_flag:
4622  *
4623  * Returns the address of a flag that will be non-zero if an interruption has
4624  * been requested for a thread. The thread to interrupt may not be the current
4625  * thread, so an additional call to mono_thread_interruption_requested() or
4626  * mono_thread_interruption_checkpoint() is allways needed if the flag is not
4627  * zero.
4628  */
4629 gint32* mono_thread_interruption_request_flag ()
4630 {
4631         return &thread_interruption_requested;
4632 }
4633
4634 void
4635 mono_thread_init_apartment_state (void)
4636 {
4637 #ifdef HOST_WIN32
4638         MonoInternalThread* thread = mono_thread_internal_current ();
4639
4640         /* Positive return value indicates success, either
4641          * S_OK if this is first CoInitialize call, or
4642          * S_FALSE if CoInitialize already called, but with same
4643          * threading model. A negative value indicates failure,
4644          * probably due to trying to change the threading model.
4645          */
4646         if (CoInitializeEx(NULL, (thread->apartment_state == ThreadApartmentState_STA)
4647                         ? COINIT_APARTMENTTHREADED
4648                         : COINIT_MULTITHREADED) < 0) {
4649                 thread->apartment_state = ThreadApartmentState_Unknown;
4650         }
4651 #endif
4652 }
4653
4654 void
4655 mono_thread_cleanup_apartment_state (void)
4656 {
4657 #ifdef HOST_WIN32
4658         MonoInternalThread* thread = mono_thread_internal_current ();
4659
4660         if (thread && thread->apartment_state != ThreadApartmentState_Unknown) {
4661                 CoUninitialize ();
4662         }
4663 #endif
4664 }
4665
4666 void
4667 mono_thread_set_state (MonoInternalThread *thread, MonoThreadState state)
4668 {
4669         LOCK_THREAD (thread);
4670         thread->state |= state;
4671         UNLOCK_THREAD (thread);
4672 }
4673
4674 void
4675 mono_thread_clr_state (MonoInternalThread *thread, MonoThreadState state)
4676 {
4677         LOCK_THREAD (thread);
4678         thread->state &= ~state;
4679         UNLOCK_THREAD (thread);
4680 }
4681
4682 gboolean
4683 mono_thread_test_state (MonoInternalThread *thread, MonoThreadState test)
4684 {
4685         gboolean ret = FALSE;
4686
4687         LOCK_THREAD (thread);
4688
4689         if ((thread->state & test) != 0) {
4690                 ret = TRUE;
4691         }
4692
4693         UNLOCK_THREAD (thread);
4694
4695         return ret;
4696 }
4697
4698 static gboolean has_tls_get = FALSE;
4699
4700 void
4701 mono_runtime_set_has_tls_get (gboolean val)
4702 {
4703         has_tls_get = val;
4704 }
4705
4706 gboolean
4707 mono_runtime_has_tls_get (void)
4708 {
4709         return has_tls_get;
4710 }
4711
4712 static void
4713 self_interrupt_thread (void *_unused)
4714 {
4715         MonoThreadInfo *info = mono_thread_info_current ();
4716         MonoException *exc = mono_thread_execute_interruption ();
4717         if (exc) /*We must use _with_context since we didn't trampoline into the runtime*/
4718                 mono_raise_exception_with_context (exc, &info->thread_saved_state [ASYNC_SUSPEND_STATE_INDEX].ctx); /* FIXME using thread_saved_state [ASYNC_SUSPEND_STATE_INDEX] can race with another suspend coming in. */
4719         g_assert_not_reached (); /*this MUST not happen since we can't resume from an async call*/
4720 }
4721
4722 static gboolean
4723 mono_jit_info_match (MonoJitInfo *ji, gpointer ip)
4724 {
4725         if (!ji)
4726                 return FALSE;
4727         return ji->code_start <= ip && (char*)ip < (char*)ji->code_start + ji->code_size;
4728 }
4729
4730 static gboolean
4731 last_managed (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
4732 {
4733         MonoJitInfo **dest = (MonoJitInfo **)data;
4734         *dest = frame->ji;
4735         return TRUE;
4736 }
4737
4738 static MonoJitInfo*
4739 mono_thread_info_get_last_managed (MonoThreadInfo *info)
4740 {
4741         MonoJitInfo *ji = NULL;
4742         if (!info)
4743                 return NULL;
4744
4745         /*
4746          * The suspended thread might be holding runtime locks. Make sure we don't try taking
4747          * any runtime locks while unwinding. In coop case we shouldn't safepoint in regions
4748          * where we hold runtime locks.
4749          */
4750         if (!mono_threads_is_coop_enabled ())
4751                 mono_thread_info_set_is_async_context (TRUE);
4752         mono_get_eh_callbacks ()->mono_walk_stack_with_state (last_managed, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, &ji);
4753         if (!mono_threads_is_coop_enabled ())
4754                 mono_thread_info_set_is_async_context (FALSE);
4755         return ji;
4756 }
4757
4758 typedef struct {
4759         MonoInternalThread *thread;
4760         gboolean install_async_abort;
4761         MonoThreadInfoInterruptToken *interrupt_token;
4762 } AbortThreadData;
4763
4764 static SuspendThreadResult
4765 async_abort_critical (MonoThreadInfo *info, gpointer ud)
4766 {
4767         AbortThreadData *data = (AbortThreadData *)ud;
4768         MonoInternalThread *thread = data->thread;
4769         MonoJitInfo *ji = NULL;
4770         gboolean protected_wrapper;
4771         gboolean running_managed;
4772
4773         if (mono_get_eh_callbacks ()->mono_install_handler_block_guard (mono_thread_info_get_suspend_state (info)))
4774                 return MonoResumeThread;
4775
4776         /*someone is already interrupting it*/
4777         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4778                 return MonoResumeThread;
4779
4780         InterlockedIncrement (&thread_interruption_requested);
4781
4782         ji = mono_thread_info_get_last_managed (info);
4783         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4784         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4785
4786         if (!protected_wrapper && running_managed) {
4787                 /*We are in managed code*/
4788                 /*Set the thread to call */
4789                 if (data->install_async_abort)
4790                         mono_thread_info_setup_async_call (info, self_interrupt_thread, NULL);
4791                 return MonoResumeThread;
4792         } else {
4793                 /*
4794                  * This will cause waits to be broken.
4795                  * It will also prevent the thread from entering a wait, so if the thread returns
4796                  * from the wait before it receives the abort signal, it will just spin in the wait
4797                  * functions in the io-layer until the signal handler calls QueueUserAPC which will
4798                  * make it return.
4799                  */
4800                 data->interrupt_token = mono_thread_info_prepare_interrupt (info);
4801
4802                 return MonoResumeThread;
4803         }
4804 }
4805
4806 static void
4807 async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort)
4808 {
4809         AbortThreadData data;
4810
4811         g_assert (thread != mono_thread_internal_current ());
4812
4813         data.thread = thread;
4814         data.install_async_abort = install_async_abort;
4815         data.interrupt_token = NULL;
4816
4817         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), TRUE, async_abort_critical, &data);
4818         if (data.interrupt_token)
4819                 mono_thread_info_finish_interrupt (data.interrupt_token);
4820         /*FIXME we need to wait for interruption to complete -- figure out how much into interruption we should wait for here*/
4821 }
4822
4823 static void
4824 self_abort_internal (void)
4825 {
4826         MonoException *exc;
4827
4828         /* FIXME this is insanely broken, it doesn't cause interruption to happen synchronously
4829          * since passing FALSE to mono_thread_request_interruption makes sure it returns NULL */
4830
4831         exc = mono_thread_request_interruption (TRUE);
4832         if (exc)
4833                 mono_raise_exception (exc);
4834
4835         mono_thread_info_self_interrupt ();
4836 }
4837
4838 typedef struct {
4839         MonoInternalThread *thread;
4840         gboolean interrupt;
4841         MonoThreadInfoInterruptToken *interrupt_token;
4842 } SuspendThreadData;
4843
4844 static SuspendThreadResult
4845 async_suspend_critical (MonoThreadInfo *info, gpointer ud)
4846 {
4847         SuspendThreadData *data = (SuspendThreadData *)ud;
4848         MonoInternalThread *thread = data->thread;
4849         MonoJitInfo *ji = NULL;
4850         gboolean protected_wrapper;
4851         gboolean running_managed;
4852
4853         ji = mono_thread_info_get_last_managed (info);
4854         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4855         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4856
4857         if (running_managed && !protected_wrapper) {
4858                 thread->state &= ~ThreadState_SuspendRequested;
4859                 thread->state |= ThreadState_Suspended;
4860                 return KeepSuspended;
4861         } else {
4862                 if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 0)
4863                         InterlockedIncrement (&thread_interruption_requested);
4864                 if (data->interrupt)
4865                         data->interrupt_token = mono_thread_info_prepare_interrupt ((MonoThreadInfo *)thread->thread_info);
4866
4867                 return MonoResumeThread;
4868         }
4869 }
4870
4871 /* LOCKING: called with @thread synch_cs held, and releases it */
4872 static void
4873 async_suspend_internal (MonoInternalThread *thread, gboolean interrupt)
4874 {
4875         SuspendThreadData data;
4876
4877         g_assert (thread != mono_thread_internal_current ());
4878
4879         data.thread = thread;
4880         data.interrupt = interrupt;
4881         data.interrupt_token = NULL;
4882
4883         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), interrupt, async_suspend_critical, &data);
4884         if (data.interrupt_token)
4885                 mono_thread_info_finish_interrupt (data.interrupt_token);
4886
4887         UNLOCK_THREAD (thread);
4888 }
4889
4890 /* LOCKING: called with @thread synch_cs held, and releases it */
4891 static void
4892 self_suspend_internal (void)
4893 {
4894         MonoInternalThread *thread;
4895
4896         thread = mono_thread_internal_current ();
4897
4898         mono_thread_info_begin_self_suspend ();
4899         thread->state &= ~ThreadState_SuspendRequested;
4900         thread->state |= ThreadState_Suspended;
4901
4902         UNLOCK_THREAD (thread);
4903
4904         mono_thread_info_end_self_suspend ();
4905 }
4906
4907 /*
4908  * mono_thread_is_foreign:
4909  * @thread: the thread to query
4910  *
4911  * This function allows one to determine if a thread was created by the mono runtime and has
4912  * a well defined lifecycle or it's a foreigh one, created by the native environment.
4913  *
4914  * Returns: TRUE if @thread was not created by the runtime.
4915  */
4916 mono_bool
4917 mono_thread_is_foreign (MonoThread *thread)
4918 {
4919         MonoThreadInfo *info = (MonoThreadInfo *)thread->internal_thread->thread_info;
4920         return info->runtime_thread == FALSE;
4921 }
4922
4923 /*
4924  * mono_add_joinable_thread:
4925  *
4926  *   Add TID to the list of joinable threads.
4927  * LOCKING: Acquires the threads lock.
4928  */
4929 void
4930 mono_threads_add_joinable_thread (gpointer tid)
4931 {
4932 #ifndef HOST_WIN32
4933         /*
4934          * We cannot detach from threads because it causes problems like
4935          * 2fd16f60/r114307. So we collect them and join them when
4936          * we have time (in he finalizer thread).
4937          */
4938         joinable_threads_lock ();
4939         if (!joinable_threads)
4940                 joinable_threads = g_hash_table_new (NULL, NULL);
4941         g_hash_table_insert (joinable_threads, tid, tid);
4942         joinable_thread_count ++;
4943         joinable_threads_unlock ();
4944
4945         mono_gc_finalize_notify ();
4946 #endif
4947 }
4948
4949 /*
4950  * mono_threads_join_threads:
4951  *
4952  *   Join all joinable threads. This is called from the finalizer thread.
4953  * LOCKING: Acquires the threads lock.
4954  */
4955 void
4956 mono_threads_join_threads (void)
4957 {
4958 #ifndef HOST_WIN32
4959         GHashTableIter iter;
4960         gpointer key;
4961         gpointer tid;
4962         pthread_t thread;
4963         gboolean found;
4964
4965         /* Fastpath */
4966         if (!joinable_thread_count)
4967                 return;
4968
4969         while (TRUE) {
4970                 joinable_threads_lock ();
4971                 found = FALSE;
4972                 if (g_hash_table_size (joinable_threads)) {
4973                         g_hash_table_iter_init (&iter, joinable_threads);
4974                         g_hash_table_iter_next (&iter, &key, (void**)&tid);
4975                         thread = (pthread_t)tid;
4976                         g_hash_table_remove (joinable_threads, key);
4977                         joinable_thread_count --;
4978                         found = TRUE;
4979                 }
4980                 joinable_threads_unlock ();
4981                 if (found) {
4982                         if (thread != pthread_self ())
4983                                 /* This shouldn't block */
4984                                 pthread_join (thread, NULL);
4985                 } else {
4986                         break;
4987                 }
4988         }
4989 #endif
4990 }
4991
4992 /*
4993  * mono_thread_join:
4994  *
4995  *   Wait for thread TID to exit.
4996  * LOCKING: Acquires the threads lock.
4997  */
4998 void
4999 mono_thread_join (gpointer tid)
5000 {
5001 #ifndef HOST_WIN32
5002         pthread_t thread;
5003         gboolean found = FALSE;
5004
5005         joinable_threads_lock ();
5006         if (!joinable_threads)
5007                 joinable_threads = g_hash_table_new (NULL, NULL);
5008         if (g_hash_table_lookup (joinable_threads, tid)) {
5009                 g_hash_table_remove (joinable_threads, tid);
5010                 joinable_thread_count --;
5011                 found = TRUE;
5012         }
5013         joinable_threads_unlock ();
5014         if (!found)
5015                 return;
5016         thread = (pthread_t)tid;
5017         pthread_join (thread, NULL);
5018 #endif
5019 }
5020
5021 void
5022 mono_thread_internal_check_for_interruption_critical (MonoInternalThread *thread)
5023 {
5024         if ((thread->state & (ThreadState_StopRequested | ThreadState_SuspendRequested)) != 0)
5025                 mono_thread_interruption_checkpoint ();
5026 }
5027
5028 static inline gboolean
5029 is_appdomainunloaded_exception (MonoClass *klass)
5030 {
5031         return klass == mono_class_get_appdomain_unloaded_exception_class ();
5032 }
5033
5034 static inline gboolean
5035 is_threadabort_exception (MonoClass *klass)
5036 {
5037         return klass == mono_defaults.threadabortexception_class;
5038 }
5039
5040 void
5041 mono_thread_internal_unhandled_exception (MonoObject* exc)
5042 {
5043         if (mono_runtime_unhandled_exception_policy_get () == MONO_UNHANDLED_POLICY_CURRENT) {
5044                 MonoClass *klass = exc->vtable->klass;
5045                 if (is_threadabort_exception (klass)) {
5046                         mono_thread_internal_reset_abort (mono_thread_internal_current ());
5047                 } else if (!is_appdomainunloaded_exception (klass)) {
5048                         mono_unhandled_exception (exc);
5049                         if (mono_environment_exitcode_get () == 1)
5050                                 exit (255);
5051                 }
5052         }
5053 }
5054
5055 void
5056 ves_icall_System_Threading_Thread_GetStackTraces (MonoArray **out_threads, MonoArray **out_stack_traces)
5057 {
5058         mono_threads_get_thread_dump (out_threads, out_stack_traces);
5059 }