mono/metadata/threads.c

   1 /*
   2  * threads.c: Thread support internal calls
   3  *
   4  * Author:
   5  *      Dick Porter (dick@ximian.com)
   6  *      Paolo Molaro (lupus@ximian.com)
   7  *      Patrik Torstensson (patrik.torstensson@labs2.com)
   8  *
   9  * Copyright 2001-2003 Ximian, Inc (http://www.ximian.com)
  10  * Copyright 2004-2009 Novell, Inc (http://www.novell.com)
  11  * Copyright 2011 Xamarin, Inc (http://www.xamarin.com)
  12  * Licensed under the MIT license. See LICENSE file in the project root for full license information.
  13  */
  14
  15 #include <config.h>
  16
  17 #include <glib.h>
  18 #include <string.h>
  19
  20 #include <mono/metadata/object.h>
  21 #include <mono/metadata/domain-internals.h>
  22 #include <mono/metadata/profiler-private.h>
  23 #include <mono/metadata/threads.h>
  24 #include <mono/metadata/threads-types.h>
  25 #include <mono/metadata/exception.h>
  26 #include <mono/metadata/environment.h>
  27 #include <mono/metadata/monitor.h>
  28 #include <mono/metadata/gc-internals.h>
  29 #include <mono/metadata/marshal.h>
  30 #include <mono/metadata/runtime.h>
  31 #include <mono/io-layer/io-layer.h>
  32 #include <mono/metadata/object-internals.h>
  33 #include <mono/metadata/mono-debug-debugger.h>
  34 #include <mono/utils/monobitset.h>
  35 #include <mono/utils/mono-compiler.h>
  36 #include <mono/utils/mono-mmap.h>
  37 #include <mono/utils/mono-membar.h>
  38 #include <mono/utils/mono-time.h>
  39 #include <mono/utils/mono-threads.h>
  40 #include <mono/utils/hazard-pointer.h>
  41 #include <mono/utils/mono-tls.h>
  42 #include <mono/utils/atomic.h>
  43 #include <mono/utils/mono-memory-model.h>
  44
  45 #include <mono/metadata/gc-internals.h>
  46 #include <mono/metadata/reflection-internals.h>
  47
  48 #ifdef HAVE_SIGNAL_H
  49 #include <signal.h>
  50 #endif
  51
  52 #if defined(PLATFORM_ANDROID) && !defined(TARGET_ARM64) && !defined(TARGET_AMD64)
  53 #define USE_TKILL_ON_ANDROID 1
  54 #endif
  55
  56 #ifdef PLATFORM_ANDROID
  57 #include <errno.h>
  58
  59 #ifdef USE_TKILL_ON_ANDROID
  60 extern int tkill (pid_t tid, int signal);
  61 #endif
  62 #endif
  63
  64 /*#define THREAD_DEBUG(a) do { a; } while (0)*/
  65 #define THREAD_DEBUG(a)
  66 /*#define THREAD_WAIT_DEBUG(a) do { a; } while (0)*/
  67 #define THREAD_WAIT_DEBUG(a)
  68 /*#define LIBGC_DEBUG(a) do { a; } while (0)*/
  69 #define LIBGC_DEBUG(a)
  70
  71 #define SPIN_TRYLOCK(i) (InterlockedCompareExchange (&(i), 1, 0) == 0)
  72 #define SPIN_LOCK(i) do { \
  73                                 if (SPIN_TRYLOCK (i)) \
  74                                         break; \
  75                         } while (1)
  76
  77 #define SPIN_UNLOCK(i) i = 0
  78
  79 #define LOCK_THREAD(thread) lock_thread((thread))
  80 #define UNLOCK_THREAD(thread) unlock_thread((thread))
  81
  82 /* Provide this for systems with glib < 2.6 */
  83 #ifndef G_GSIZE_FORMAT
  84 #   if GLIB_SIZEOF_LONG == 8
  85 #       define G_GSIZE_FORMAT "lu"
  86 #   else
  87 #       define G_GSIZE_FORMAT "u"
  88 #   endif
  89 #endif
  90
  91 typedef struct
  92 {
  93         guint32 (*func)(void *);
  94         MonoThread *obj;
  95         MonoObject *delegate;
  96         void *start_arg;
  97 } StartInfo;
  98
  99 typedef union {
 100         gint32 ival;
 101         gfloat fval;
 102 } IntFloatUnion;
 103
 104 typedef union {
 105         gint64 ival;
 106         gdouble fval;
 107 } LongDoubleUnion;
 108
 109 typedef struct _StaticDataFreeList StaticDataFreeList;
 110 struct _StaticDataFreeList {
 111         StaticDataFreeList *next;
 112         guint32 offset;
 113         guint32 size;
 114 };
 115
 116 typedef struct {
 117         int idx;
 118         int offset;
 119         StaticDataFreeList *freelist;
 120 } StaticDataInfo;
 121
 122 /* Number of cached culture objects in the MonoThread->cached_culture_info array
 123  * (per-type): we use the first NUM entries for CultureInfo and the last for
 124  * UICultureInfo. So the size of the array is really NUM_CACHED_CULTURES * 2.
 125  */
 126 #define NUM_CACHED_CULTURES 4
 127 #define CULTURES_START_IDX 0
 128 #define UICULTURES_START_IDX NUM_CACHED_CULTURES
 129
 130 /* Controls access to the 'threads' hash table */
 131 static void mono_threads_lock (void);
 132 static void mono_threads_unlock (void);
 133 static MonoCoopMutex threads_mutex;
 134
 135 /* Controls access to the 'joinable_threads' hash table */
 136 #define joinable_threads_lock() mono_os_mutex_lock (&joinable_threads_mutex)
 137 #define joinable_threads_unlock() mono_os_mutex_unlock (&joinable_threads_mutex)
 138 static mono_mutex_t joinable_threads_mutex;
 139
 140 /* Holds current status of static data heap */
 141 static StaticDataInfo thread_static_info;
 142 static StaticDataInfo context_static_info;
 143
 144 /* The hash of existing threads (key is thread ID, value is
 145  * MonoInternalThread*) that need joining before exit
 146  */
 147 static MonoGHashTable *threads=NULL;
 148
 149 /* List of app context GC handles.
 150  * Added to from ves_icall_System_Runtime_Remoting_Contexts_Context_RegisterContext ().
 151  */
 152 static GHashTable *contexts = NULL;
 153
 154 /* Cleanup queue for contexts. */
 155 static MonoReferenceQueue *context_queue;
 156
 157 /*
 158  * Threads which are starting up and they are not in the 'threads' hash yet.
 159  * When handle_store is called for a thread, it will be removed from this hash table.
 160  * Protected by mono_threads_lock ().
 161  */
 162 static MonoGHashTable *threads_starting_up = NULL;
 163
 164 /* The TLS key that holds the MonoObject assigned to each thread */
 165 static MonoNativeTlsKey current_object_key;
 166
 167 /* Contains tids */
 168 /* Protected by the threads lock */
 169 static GHashTable *joinable_threads;
 170 static int joinable_thread_count;
 171
 172 #ifdef MONO_HAVE_FAST_TLS
 173 /* we need to use both the Tls* functions and __thread because
 174  * the gc needs to see all the threads
 175  */
 176 MONO_FAST_TLS_DECLARE(tls_current_object);
 177 #define SET_CURRENT_OBJECT(x) do { \
 178         MONO_FAST_TLS_SET (tls_current_object, x); \
 179         mono_native_tls_set_value (current_object_key, x); \
 180 } while (FALSE)
 181 #define GET_CURRENT_OBJECT() ((MonoInternalThread*) MONO_FAST_TLS_GET (tls_current_object))
 182 #else
 183 #define SET_CURRENT_OBJECT(x) mono_native_tls_set_value (current_object_key, x)
 184 #define GET_CURRENT_OBJECT() (MonoInternalThread*) mono_native_tls_get_value (current_object_key)
 185 #endif
 186
 187 /* function called at thread start */
 188 static MonoThreadStartCB mono_thread_start_cb = NULL;
 189
 190 /* function called at thread attach */
 191 static MonoThreadAttachCB mono_thread_attach_cb = NULL;
 192
 193 /* function called at thread cleanup */
 194 static MonoThreadCleanupFunc mono_thread_cleanup_fn = NULL;
 195
 196 /* The default stack size for each thread */
 197 static guint32 default_stacksize = 0;
 198 #define default_stacksize_for_thread(thread) ((thread)->stack_size? (thread)->stack_size: default_stacksize)
 199
 200 static void thread_adjust_static_data (MonoInternalThread *thread);
 201 static void context_adjust_static_data (MonoAppContext *ctx);
 202 static void mono_free_static_data (gpointer* static_data);
 203 static void mono_init_static_data_info (StaticDataInfo *static_data);
 204 static guint32 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align);
 205 static gboolean mono_thread_resume (MonoInternalThread* thread);
 206 static void async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort);
 207 static void self_abort_internal (void);
 208 static void async_suspend_internal (MonoInternalThread *thread, gboolean interrupt);
 209 static void self_suspend_internal (void);
 210
 211 static MonoException* mono_thread_execute_interruption (void);
 212 static void ref_stack_destroy (gpointer rs);
 213
 214 /* Spin lock for InterlockedXXX 64 bit functions */
 215 #define mono_interlocked_lock() mono_os_mutex_lock (&interlocked_mutex)
 216 #define mono_interlocked_unlock() mono_os_mutex_unlock (&interlocked_mutex)
 217 static mono_mutex_t interlocked_mutex;
 218
 219 /* global count of thread interruptions requested */
 220 static gint32 thread_interruption_requested = 0;
 221
 222 /* Event signaled when a thread changes its background mode */
 223 static HANDLE background_change_event;
 224
 225 static gboolean shutting_down = FALSE;
 226
 227 static gint32 managed_thread_id_counter = 0;
 228
 229 /* Class lazy loading functions */
 230 static GENERATE_GET_CLASS_WITH_CACHE (appdomain_unloaded_exception, System, AppDomainUnloadedException)
 231
 232 static void
 233 mono_threads_lock (void)
 234 {
 235         mono_locks_coop_acquire (&threads_mutex, ThreadsLock);
 236 }
 237
 238 static void
 239 mono_threads_unlock (void)
 240 {
 241         mono_locks_coop_release (&threads_mutex, ThreadsLock);
 242 }
 243
 244
 245 static guint32
 246 get_next_managed_thread_id (void)
 247 {
 248         return InterlockedIncrement (&managed_thread_id_counter);
 249 }
 250
 251 MonoNativeTlsKey
 252 mono_thread_get_tls_key (void)
 253 {
 254         return current_object_key;
 255 }
 256
 257 gint32
 258 mono_thread_get_tls_offset (void)
 259 {
 260         int offset;
 261         MONO_THREAD_VAR_OFFSET (tls_current_object,offset);
 262         return offset;
 263 }
 264
 265 static inline MonoNativeThreadId
 266 thread_get_tid (MonoInternalThread *thread)
 267 {
 268         /* We store the tid as a guint64 to keep the object layout constant between platforms */
 269         return MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid);
 270 }
 271
 272 /* handle_store() and handle_remove() manage the array of threads that
 273  * still need to be waited for when the main thread exits.
 274  *
 275  * If handle_store() returns FALSE the thread must not be started
 276  * because Mono is shutting down.
 277  */
 278 static gboolean handle_store(MonoThread *thread, gboolean force_attach)
 279 {
 280         mono_threads_lock ();
 281
 282         THREAD_DEBUG (g_message ("%s: thread %p ID %"G_GSIZE_FORMAT, __func__, thread, (gsize)thread->internal_thread->tid));
 283
 284         if (threads_starting_up)
 285                 mono_g_hash_table_remove (threads_starting_up, thread);
 286
 287         if (shutting_down && !force_attach) {
 288                 mono_threads_unlock ();
 289                 return FALSE;
 290         }
 291
 292         if(threads==NULL) {
 293                 MONO_GC_REGISTER_ROOT_FIXED (threads, MONO_ROOT_SOURCE_THREADING, "threads table");
 294                 threads=mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "threads table");
 295         }
 296
 297         /* We don't need to duplicate thread->handle, because it is
 298          * only closed when the thread object is finalized by the GC.
 299          */
 300         g_assert (thread->internal_thread);
 301         mono_g_hash_table_insert(threads, (gpointer)(gsize)(thread->internal_thread->tid),
 302                                  thread->internal_thread);
 303
 304         mono_threads_unlock ();
 305
 306         return TRUE;
 307 }
 308
 309 static gboolean handle_remove(MonoInternalThread *thread)
 310 {
 311         gboolean ret;
 312         gsize tid = thread->tid;
 313
 314         THREAD_DEBUG (g_message ("%s: thread ID %"G_GSIZE_FORMAT, __func__, tid));
 315
 316         mono_threads_lock ();
 317
 318         if (threads) {
 319                 /* We have to check whether the thread object for the
 320                  * tid is still the same in the table because the
 321                  * thread might have been destroyed and the tid reused
 322                  * in the meantime, in which case the tid would be in
 323                  * the table, but with another thread object.
 324                  */
 325                 if (mono_g_hash_table_lookup (threads, (gpointer)tid) == thread) {
 326                         mono_g_hash_table_remove (threads, (gpointer)tid);
 327                         ret = TRUE;
 328                 } else {
 329                         ret = FALSE;
 330                 }
 331         }
 332         else
 333                 ret = FALSE;
 334
 335         mono_threads_unlock ();
 336
 337         /* Don't close the handle here, wait for the object finalizer
 338          * to do it. Otherwise, the following race condition applies:
 339          *
 340          * 1) Thread exits (and handle_remove() closes the handle)
 341          *
 342          * 2) Some other handle is reassigned the same slot
 343          *
 344          * 3) Another thread tries to join the first thread, and
 345          * blocks waiting for the reassigned handle to be signalled
 346          * (which might never happen).  This is possible, because the
 347          * thread calling Join() still has a reference to the first
 348          * thread's object.
 349          */
 350         return ret;
 351 }
 352
 353 static void ensure_synch_cs_set (MonoInternalThread *thread)
 354 {
 355         MonoCoopMutex *synch_cs;
 356
 357         if (thread->synch_cs != NULL) {
 358                 return;
 359         }
 360
 361         synch_cs = g_new0 (MonoCoopMutex, 1);
 362         mono_coop_mutex_init_recursive (synch_cs);
 363
 364         if (InterlockedCompareExchangePointer ((gpointer *)&thread->synch_cs,
 365                                                synch_cs, NULL) != NULL) {
 366                 /* Another thread must have installed this CS */
 367                 mono_coop_mutex_destroy (synch_cs);
 368                 g_free (synch_cs);
 369         }
 370 }
 371
 372 static inline void
 373 lock_thread (MonoInternalThread *thread)
 374 {
 375         if (!thread->synch_cs)
 376                 ensure_synch_cs_set (thread);
 377
 378         g_assert (thread->synch_cs);
 379
 380         mono_coop_mutex_lock (thread->synch_cs);
 381 }
 382
 383 static inline void
 384 unlock_thread (MonoInternalThread *thread)
 385 {
 386         mono_coop_mutex_unlock (thread->synch_cs);
 387 }
 388
 389 /*
 390  * NOTE: this function can be called also for threads different from the current one:
 391  * make sure no code called from it will ever assume it is run on the thread that is
 392  * getting cleaned up.
 393  */
 394 static void thread_cleanup (MonoInternalThread *thread)
 395 {
 396         g_assert (thread != NULL);
 397
 398         if (thread->abort_state_handle) {
 399                 mono_gchandle_free (thread->abort_state_handle);
 400                 thread->abort_state_handle = 0;
 401         }
 402         thread->abort_exc = NULL;
 403         thread->current_appcontext = NULL;
 404
 405         /*
 406          * This is necessary because otherwise we might have
 407          * cross-domain references which will not get cleaned up when
 408          * the target domain is unloaded.
 409          */
 410         if (thread->cached_culture_info) {
 411                 int i;
 412                 for (i = 0; i < NUM_CACHED_CULTURES * 2; ++i)
 413                         mono_array_set (thread->cached_culture_info, MonoObject*, i, NULL);
 414         }
 415
 416         /*
 417          * thread->synch_cs can be NULL if this was called after
 418          * ves_icall_System_Threading_InternalThread_Thread_free_internal.
 419          * This can happen only during shutdown.
 420          * The shutting_down flag is not always set, so we can't assert on it.
 421          */
 422         if (thread->synch_cs)
 423                 LOCK_THREAD (thread);
 424
 425         thread->state |= ThreadState_Stopped;
 426         thread->state &= ~ThreadState_Background;
 427
 428         if (thread->synch_cs)
 429                 UNLOCK_THREAD (thread);
 430
 431         /*
 432         An interruption request has leaked to cleanup. Adjust the global counter.
 433
 434         This can happen is the abort source thread finds the abortee (this) thread
 435         in unmanaged code. If this thread never trips back to managed code or check
 436         the local flag it will be left set and positively unbalance the global counter.
 437
 438         Leaving the counter unbalanced will cause a performance degradation since all threads
 439         will now keep checking their local flags all the time.
 440         */
 441         if (InterlockedExchange (&thread->interruption_requested, 0))
 442                 InterlockedDecrement (&thread_interruption_requested);
 443
 444         /* if the thread is not in the hash it has been removed already */
 445         if (!handle_remove (thread)) {
 446                 if (thread == mono_thread_internal_current ()) {
 447                         mono_domain_unset ();
 448                         mono_memory_barrier ();
 449                 }
 450                 /* This needs to be called even if handle_remove () fails */
 451                 if (mono_thread_cleanup_fn)
 452                         mono_thread_cleanup_fn (thread_get_tid (thread));
 453                 return;
 454         }
 455         mono_release_type_locks (thread);
 456
 457         /* Can happen when we attach the profiler helper thread in order to heapshot. */
 458         if (!mono_thread_info_lookup (MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid))->tools_thread)
 459                 mono_profiler_thread_end (thread->tid);
 460
 461         mono_hazard_pointer_clear (mono_hazard_pointer_get (), 1);
 462
 463         if (thread == mono_thread_internal_current ()) {
 464                 /*
 465                  * This will signal async signal handlers that the thread has exited.
 466                  * The profiler callback needs this to be set, so it cannot be done earlier.
 467                  */
 468                 mono_domain_unset ();
 469                 mono_memory_barrier ();
 470         }
 471
 472         if (thread == mono_thread_internal_current ())
 473                 mono_thread_pop_appdomain_ref ();
 474
 475         thread->cached_culture_info = NULL;
 476
 477         mono_free_static_data (thread->static_data);
 478         thread->static_data = NULL;
 479         ref_stack_destroy (thread->appdomain_refs);
 480         thread->appdomain_refs = NULL;
 481
 482         if (mono_thread_cleanup_fn)
 483                 mono_thread_cleanup_fn (thread_get_tid (thread));
 484
 485         if (mono_gc_is_moving ()) {
 486                 MONO_GC_UNREGISTER_ROOT (thread->thread_pinning_ref);
 487                 thread->thread_pinning_ref = NULL;
 488         }
 489
 490 }
 491
 492 /*
 493  * A special static data offset (guint32) consists of 3 parts:
 494  *
 495  * [0]   6-bit index into the array of chunks.
 496  * [6]   25-bit offset into the array.
 497  * [31]  Bit indicating thread or context static.
 498  */
 499
 500 typedef union {
 501         struct {
 502 #if G_BYTE_ORDER != G_LITTLE_ENDIAN
 503                 guint32 type : 1;
 504                 guint32 offset : 25;
 505                 guint32 index : 6;
 506 #else
 507                 guint32 index : 6;
 508                 guint32 offset : 25;
 509                 guint32 type : 1;
 510 #endif
 511         } fields;
 512         guint32 raw;
 513 } SpecialStaticOffset;
 514
 515 #define SPECIAL_STATIC_OFFSET_TYPE_THREAD 0
 516 #define SPECIAL_STATIC_OFFSET_TYPE_CONTEXT 1
 517
 518 #define MAKE_SPECIAL_STATIC_OFFSET(index, offset, type) \
 519         ((SpecialStaticOffset) { .fields = { (index), (offset), (type) } }.raw)
 520 #define ACCESS_SPECIAL_STATIC_OFFSET(x,f) \
 521         (((SpecialStaticOffset *) &(x))->fields.f)
 522
 523 static gpointer
 524 get_thread_static_data (MonoInternalThread *thread, guint32 offset)
 525 {
 526         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_THREAD);
 527
 528         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
 529         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
 530
 531         return ((char *) thread->static_data [idx]) + off;
 532 }
 533
 534 static gpointer
 535 get_context_static_data (MonoAppContext *ctx, guint32 offset)
 536 {
 537         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_CONTEXT);
 538
 539         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
 540         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
 541
 542         return ((char *) ctx->static_data [idx]) + off;
 543 }
 544
 545 static MonoThread**
 546 get_current_thread_ptr_for_domain (MonoDomain *domain, MonoInternalThread *thread)
 547 {
 548         static MonoClassField *current_thread_field = NULL;
 549
 550         guint32 offset;
 551
 552         if (!current_thread_field) {
 553                 current_thread_field = mono_class_get_field_from_name (mono_defaults.thread_class, "current_thread");
 554                 g_assert (current_thread_field);
 555         }
 556
 557         mono_class_vtable (domain, mono_defaults.thread_class);
 558         mono_domain_lock (domain);
 559         offset = GPOINTER_TO_UINT (g_hash_table_lookup (domain->special_static_fields, current_thread_field));
 560         mono_domain_unlock (domain);
 561         g_assert (offset);
 562
 563         return (MonoThread **)get_thread_static_data (thread, offset);
 564 }
 565
 566 static void
 567 set_current_thread_for_domain (MonoDomain *domain, MonoInternalThread *thread, MonoThread *current)
 568 {
 569         MonoThread **current_thread_ptr = get_current_thread_ptr_for_domain (domain, thread);
 570
 571         g_assert (current->obj.vtable->domain == domain);
 572
 573         g_assert (!*current_thread_ptr);
 574         *current_thread_ptr = current;
 575 }
 576
 577 static MonoThread*
 578 create_thread_object (MonoDomain *domain, MonoError *error)
 579 {
 580         MonoVTable *vt = mono_class_vtable (domain, mono_defaults.thread_class);
 581         MonoThread *t = (MonoThread*)mono_object_new_mature (vt, error);
 582         return t;
 583 }
 584
 585 static MonoThread*
 586 new_thread_with_internal (MonoDomain *domain, MonoInternalThread *internal, MonoError *error)
 587 {
 588         MonoThread *thread;
 589
 590         thread = create_thread_object (domain, error);
 591         if (!mono_error_ok (error))
 592                 return NULL;
 593
 594         MONO_OBJECT_SETREF (thread, internal_thread, internal);
 595
 596         return thread;
 597 }
 598
 599 static MonoInternalThread*
 600 create_internal_thread (MonoError *error)
 601 {
 602         MonoInternalThread *thread;
 603         MonoVTable *vt;
 604
 605         vt = mono_class_vtable (mono_get_root_domain (), mono_defaults.internal_thread_class);
 606         thread = (MonoInternalThread*) mono_object_new_mature (vt, error);
 607         if (!mono_error_ok (error))
 608                 return NULL;
 609
 610         thread->synch_cs = g_new0 (MonoCoopMutex, 1);
 611         mono_coop_mutex_init_recursive (thread->synch_cs);
 612
 613         thread->apartment_state = ThreadApartmentState_Unknown;
 614         thread->managed_id = get_next_managed_thread_id ();
 615         if (mono_gc_is_moving ()) {
 616                 thread->thread_pinning_ref = thread;
 617                 MONO_GC_REGISTER_ROOT_PINNING (thread->thread_pinning_ref, MONO_ROOT_SOURCE_THREADING, "thread pinning reference");
 618         }
 619
 620         return thread;
 621 }
 622
 623 static gboolean
 624 init_root_domain_thread (MonoInternalThread *thread, MonoThread *candidate, MonoError *error)
 625 {
 626         MonoDomain *domain = mono_get_root_domain ();
 627
 628         mono_error_init (error);
 629         if (!candidate || candidate->obj.vtable->domain != domain) {
 630                 candidate = new_thread_with_internal (domain, thread, error);
 631                 return_val_if_nok (error, FALSE);
 632         }
 633         set_current_thread_for_domain (domain, thread, candidate);
 634         g_assert (!thread->root_domain_thread);
 635         MONO_OBJECT_SETREF (thread, root_domain_thread, candidate);
 636         return TRUE;
 637 }
 638
 639 static guint32 WINAPI start_wrapper_internal(void *data)
 640 {
 641         MonoError error;
 642         MonoThreadInfo *info;
 643         StartInfo *start_info = (StartInfo *)data;
 644         guint32 (*start_func)(void *);
 645         void *start_arg;
 646         gsize tid;
 647         /*
 648          * We don't create a local to hold start_info->obj, so hopefully it won't get pinned during a
 649          * GC stack walk.
 650          */
 651         MonoInternalThread *internal = start_info->obj->internal_thread;
 652         MonoObject *start_delegate = start_info->delegate;
 653         MonoDomain *domain = start_info->obj->obj.vtable->domain;
 654
 655         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper", __func__, mono_native_thread_id_get ()));
 656
 657         /* We can be sure start_info->obj->tid and
 658          * start_info->obj->handle have been set, because the thread
 659          * was created suspended, and these values were set before the
 660          * thread resumed
 661          */
 662
 663         info = mono_thread_info_current ();
 664         g_assert (info);
 665         internal->thread_info = info;
 666         internal->small_id = info->small_id;
 667
 668         tid = internal->tid;
 669
 670         SET_CURRENT_OBJECT (internal);
 671
 672         /* Every thread references the appdomain which created it */
 673         mono_thread_push_appdomain_ref (domain);
 674
 675         if (!mono_domain_set (domain, FALSE)) {
 676                 /* No point in raising an appdomain_unloaded exception here */
 677                 /* FIXME: Cleanup here */
 678                 mono_thread_pop_appdomain_ref ();
 679                 return 0;
 680         }
 681
 682         start_func = start_info->func;
 683         start_arg = start_info->obj->start_obj;
 684         if (!start_arg)
 685                 start_arg = start_info->start_arg;
 686
 687         /* We have to do this here because mono_thread_new_init()
 688            requires that root_domain_thread is set up. */
 689         thread_adjust_static_data (internal);
 690         init_root_domain_thread (internal, start_info->obj, &error);
 691         mono_error_raise_exception (&error); /* FIXME don't raise here */
 692
 693         /* This MUST be called before any managed code can be
 694          * executed, as it calls the callback function that (for the
 695          * jit) sets the lmf marker.
 696          */
 697         mono_thread_new_init (tid, &tid, start_func);
 698         internal->stack_ptr = &tid;
 699         if (domain != mono_get_root_domain ())
 700                 set_current_thread_for_domain (domain, internal, start_info->obj);
 701
 702         LIBGC_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT",%d) Setting thread stack to %p", __func__, mono_native_thread_id_get (), getpid (), thread->stack_ptr));
 703
 704         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Setting current_object_key to %p", __func__, mono_native_thread_id_get (), internal));
 705
 706         /* On 2.0 profile (and higher), set explicitly since state might have been
 707            Unknown */
 708         if (internal->apartment_state == ThreadApartmentState_Unknown)
 709                 internal->apartment_state = ThreadApartmentState_MTA;
 710
 711         mono_thread_init_apartment_state ();
 712
 713         if(internal->start_notify!=NULL) {
 714                 /* Let the thread that called Start() know we're
 715                  * ready
 716                  */
 717                 ReleaseSemaphore (internal->start_notify, 1, NULL);
 718         }
 719
 720         g_free (start_info);
 721         THREAD_DEBUG (g_message ("%s: start_wrapper for %"G_GSIZE_FORMAT, __func__,
 722                                                          internal->tid));
 723
 724         /*
 725          * Call this after calling start_notify, since the profiler callback might want
 726          * to lock the thread, and the lock is held by thread_start () which waits for
 727          * start_notify.
 728          */
 729         mono_profiler_thread_start (tid);
 730
 731         /* if the name was set before starting, we didn't invoke the profiler callback */
 732         if (internal->name) {
 733                 char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
 734                 mono_profiler_thread_name (internal->tid, tname);
 735                 mono_native_thread_set_name (MONO_UINT_TO_NATIVE_THREAD_ID (internal->tid), tname);
 736                 g_free (tname);
 737         }
 738
 739         /* start_func is set only for unmanaged start functions */
 740         if (start_func) {
 741                 start_func (start_arg);
 742         } else {
 743                 void *args [1];
 744                 g_assert (start_delegate != NULL);
 745                 args [0] = start_arg;
 746                 /* we may want to handle the exception here. See comment below on unhandled exceptions */
 747                 mono_runtime_delegate_invoke (start_delegate, args, NULL);
 748         }
 749
 750         /* If the thread calls ExitThread at all, this remaining code
 751          * will not be executed, but the main thread will eventually
 752          * call thread_cleanup() on this thread's behalf.
 753          */
 754
 755         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper terminating", __func__, mono_native_thread_id_get ()));
 756
 757         /* Do any cleanup needed for apartment state. This
 758          * cannot be done in thread_cleanup since thread_cleanup could be
 759          * called for a thread other than the current thread.
 760          * mono_thread_cleanup_apartment_state cleans up apartment
 761          * for the current thead */
 762         mono_thread_cleanup_apartment_state ();
 763
 764         thread_cleanup (internal);
 765
 766         internal->tid = 0;
 767
 768         /* Remove the reference to the thread object in the TLS data,
 769          * so the thread object can be finalized.  This won't be
 770          * reached if the thread threw an uncaught exception, so those
 771          * thread handles will stay referenced :-( (This is due to
 772          * missing support for scanning thread-specific data in the
 773          * Boehm GC - the io-layer keeps a GC-visible hash of pointers
 774          * to TLS data.)
 775          */
 776         SET_CURRENT_OBJECT (NULL);
 777
 778         return(0);
 779 }
 780
 781 static guint32 WINAPI start_wrapper(void *data)
 782 {
 783         volatile int dummy;
 784
 785         /* Avoid scanning the frames above this frame during a GC */
 786         mono_gc_set_stack_end ((void*)&dummy);
 787
 788         return start_wrapper_internal (data);
 789 }
 790
 791 /*
 792  * create_thread:
 793  *
 794  *   Common thread creation code.
 795  * LOCKING: Acquires the threads lock.
 796  */
 797 static gboolean
 798 create_thread (MonoThread *thread, MonoInternalThread *internal, StartInfo *start_info, gboolean threadpool_thread, guint32 stack_size,
 799                            MonoError *error)
 800 {
 801         HANDLE thread_handle;
 802         MonoNativeThreadId tid;
 803         guint32 create_flags;
 804
 805         /*
 806          * Join joinable threads to prevent running out of threads since the finalizer
 807          * thread might be blocked/backlogged.
 808          */
 809         mono_threads_join_threads ();
 810
 811         mono_error_init (error);
 812
 813         mono_threads_lock ();
 814         if (shutting_down) {
 815                 g_free (start_info);
 816                 mono_threads_unlock ();
 817                 return FALSE;
 818         }
 819         if (threads_starting_up == NULL) {
 820                 MONO_GC_REGISTER_ROOT_FIXED (threads_starting_up, MONO_ROOT_SOURCE_THREADING, "starting threads table");
 821                 threads_starting_up = mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_KEY_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "starting threads table");
 822         }
 823         mono_g_hash_table_insert (threads_starting_up, thread, thread);
 824         mono_threads_unlock ();
 825
 826         internal->start_notify = CreateSemaphore (NULL, 0, 0x7fffffff, NULL);
 827         if (!internal->start_notify) {
 828                 mono_threads_lock ();
 829                 mono_g_hash_table_remove (threads_starting_up, thread);
 830                 mono_threads_unlock ();
 831                 g_warning ("%s: CreateSemaphore error 0x%x", __func__, GetLastError ());
 832                 g_free (start_info);
 833                 return FALSE;
 834         }
 835
 836         if (stack_size == 0)
 837                 stack_size = default_stacksize_for_thread (internal);
 838
 839         /* Create suspended, so we can do some housekeeping before the thread
 840          * starts
 841          */
 842         create_flags = CREATE_SUSPENDED;
 843
 844         thread_handle = mono_threads_create_thread ((LPTHREAD_START_ROUTINE)start_wrapper, start_info,
 845                                                                                                 stack_size, create_flags, &tid);
 846
 847         if (thread_handle == NULL) {
 848                 /* The thread couldn't be created, so set an exception */
 849                 mono_threads_lock ();
 850                 mono_g_hash_table_remove (threads_starting_up, thread);
 851                 mono_threads_unlock ();
 852                 g_free (start_info);
 853                 mono_error_set_execution_engine (error, "Couldn't create thread. Error 0x%x", GetLastError());
 854                 return FALSE;
 855         }
 856         THREAD_DEBUG (g_message ("%s: Started thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread_handle));
 857
 858         internal->handle = thread_handle;
 859         internal->tid = MONO_NATIVE_THREAD_ID_TO_UINT (tid);
 860
 861         internal->threadpool_thread = threadpool_thread;
 862         if (threadpool_thread)
 863                 mono_thread_set_state (internal, ThreadState_Background);
 864
 865         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 866
 867         /* Only store the handle when the thread is about to be
 868          * launched, to avoid the main thread deadlocking while trying
 869          * to clean up a thread that will never be signalled.
 870          */
 871         if (!handle_store (thread, FALSE))
 872                 return FALSE;
 873
 874         mono_thread_info_resume (tid);
 875
 876         if (internal->start_notify) {
 877                 /*
 878                  * Wait for the thread to set up its TLS data etc, so
 879                  * theres no potential race condition if someone tries
 880                  * to look up the data believing the thread has
 881                  * started
 882                  */
 883                 THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") waiting for thread %p (%"G_GSIZE_FORMAT") to start", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 884
 885                 MONO_ENTER_GC_SAFE;
 886                 WaitForSingleObjectEx (internal->start_notify, INFINITE, FALSE);
 887                 MONO_EXIT_GC_SAFE;
 888
 889                 CloseHandle (internal->start_notify);
 890                 internal->start_notify = NULL;
 891         }
 892
 893         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Done launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 894
 895         return TRUE;
 896 }
 897
 898 void mono_thread_new_init (intptr_t tid, gpointer stack_start, gpointer func)
 899 {
 900         if (mono_thread_start_cb) {
 901                 mono_thread_start_cb (tid, stack_start, func);
 902         }
 903 }
 904
 905 void mono_threads_set_default_stacksize (guint32 stacksize)
 906 {
 907         default_stacksize = stacksize;
 908 }
 909
 910 guint32 mono_threads_get_default_stacksize (void)
 911 {
 912         return default_stacksize;
 913 }
 914
 915 /*
 916  * mono_thread_create_internal:
 917  *
 918  *   ARG should not be a GC reference.
 919  */
 920 MonoInternalThread*
 921 mono_thread_create_internal (MonoDomain *domain, gpointer func, gpointer arg, gboolean threadpool_thread, guint32 stack_size, MonoError *error)
 922 {
 923         MonoThread *thread;
 924         MonoInternalThread *internal;
 925         StartInfo *start_info;
 926         gboolean res;
 927
 928         mono_error_init (error);
 929
 930         thread = create_thread_object (domain, error);
 931         return_val_if_nok (error, NULL);
 932
 933         internal = create_internal_thread (error);
 934         return_val_if_nok (error, NULL);
 935
 936         MONO_OBJECT_SETREF (thread, internal_thread, internal);
 937
 938         start_info = g_new0 (StartInfo, 1);
 939         start_info->func = (guint32 (*)(void *))func;
 940         start_info->obj = thread;
 941         start_info->start_arg = arg;
 942
 943         res = create_thread (thread, internal, start_info, threadpool_thread, stack_size, error);
 944         return_val_if_nok (error, NULL);
 945
 946         /* Check that the managed and unmanaged layout of MonoInternalThread matches */
 947 #ifndef MONO_CROSS_COMPILE
 948         if (mono_check_corlib_version () == NULL)
 949                 g_assert (((char*)&internal->unused2 - (char*)internal) == mono_defaults.internal_thread_class->fields [mono_defaults.internal_thread_class->field.count - 1].offset);
 950 #endif
 951
 952         return internal;
 953 }
 954
 955 void
 956 mono_thread_create (MonoDomain *domain, gpointer func, gpointer arg)
 957 {
 958         MonoError error;
 959         if (!mono_thread_create_checked (domain, func, arg, &error))
 960                 mono_error_cleanup (&error);
 961 }
 962
 963 gboolean
 964 mono_thread_create_checked (MonoDomain *domain, gpointer func, gpointer arg, MonoError *error)
 965 {
 966         return (NULL != mono_thread_create_internal (domain, func, arg, FALSE, 0, error));
 967 }
 968
 969 MonoThread *
 970 mono_thread_attach (MonoDomain *domain)
 971 {
 972         MonoError error;
 973         MonoThread *thread = mono_thread_attach_full (domain, FALSE, &error);
 974         mono_error_raise_exception (&error);
 975
 976         return thread;
 977 }
 978
 979 MonoThread *
 980 mono_thread_attach_full (MonoDomain *domain, gboolean force_attach, MonoError *error)
 981 {
 982         MonoThreadInfo *info;
 983         MonoInternalThread *thread;
 984         MonoThread *current_thread;
 985         HANDLE thread_handle;
 986         MonoNativeThreadId tid;
 987
 988         mono_error_init (error);
 989
 990         if ((thread = mono_thread_internal_current ())) {
 991                 if (domain != mono_domain_get ())
 992                         mono_domain_set (domain, TRUE);
 993                 /* Already attached */
 994                 return mono_thread_current ();
 995         }
 996
 997         if (!mono_gc_register_thread (&domain)) {
 998                 g_error ("Thread %"G_GSIZE_FORMAT" calling into managed code is not registered with the GC. On UNIX, this can be fixed by #include-ing <gc.h> before <pthread.h> in the file containing the thread creation code.", mono_native_thread_id_get ());
 999         }
1000
1001         thread = create_internal_thread (error);
1002         if (!mono_error_ok (error))
1003                 return NULL;
1004
1005         thread_handle = mono_thread_info_open_handle ();
1006         g_assert (thread_handle);
1007
1008         tid=mono_native_thread_id_get ();
1009
1010         thread->handle = thread_handle;
1011         thread->tid = MONO_NATIVE_THREAD_ID_TO_UINT (tid);
1012         thread->stack_ptr = &tid;
1013
1014         THREAD_DEBUG (g_message ("%s: Attached thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread_handle));
1015
1016         info = mono_thread_info_current ();
1017         g_assert (info);
1018         thread->thread_info = info;
1019         thread->small_id = info->small_id;
1020
1021         current_thread = new_thread_with_internal (domain, thread, error);
1022         if (!mono_error_ok (error))
1023                 return NULL;
1024
1025         if (!handle_store (current_thread, force_attach)) {
1026                 /* Mono is shutting down, so just wait for the end */
1027                 for (;;)
1028                         mono_thread_info_sleep (10000, NULL);
1029         }
1030
1031         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Setting current_object_key to %p", __func__, mono_native_thread_id_get (), thread));
1032
1033         SET_CURRENT_OBJECT (thread);
1034         mono_domain_set (domain, TRUE);
1035
1036         thread_adjust_static_data (thread);
1037
1038         init_root_domain_thread (thread, current_thread, error);
1039         return_val_if_nok (error, NULL);
1040
1041         if (domain != mono_get_root_domain ())
1042                 set_current_thread_for_domain (domain, thread, current_thread);
1043
1044
1045         if (mono_thread_attach_cb) {
1046                 guint8 *staddr;
1047                 size_t stsize;
1048
1049                 mono_thread_info_get_stack_bounds (&staddr, &stsize);
1050
1051                 if (staddr == NULL)
1052                         mono_thread_attach_cb (MONO_NATIVE_THREAD_ID_TO_UINT (tid), &tid);
1053                 else
1054                         mono_thread_attach_cb (MONO_NATIVE_THREAD_ID_TO_UINT (tid), staddr + stsize);
1055         }
1056
1057         /* Can happen when we attach the profiler helper thread in order to heapshot. */
1058         if (!info->tools_thread)
1059                 // FIXME: Need a separate callback
1060                 mono_profiler_thread_start (MONO_NATIVE_THREAD_ID_TO_UINT (tid));
1061
1062         return current_thread;
1063 }
1064
1065 void
1066 mono_thread_detach_internal (MonoInternalThread *thread)
1067 {
1068         g_return_if_fail (thread != NULL);
1069
1070         THREAD_DEBUG (g_message ("%s: mono_thread_detach for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1071
1072         thread_cleanup (thread);
1073
1074         SET_CURRENT_OBJECT (NULL);
1075         mono_domain_unset ();
1076
1077         /* Don't need to CloseHandle this thread, even though we took a
1078          * reference in mono_thread_attach (), because the GC will do it
1079          * when the Thread object is finalised.
1080          */
1081 }
1082
1083 void
1084 mono_thread_detach (MonoThread *thread)
1085 {
1086         if (thread)
1087                 mono_thread_detach_internal (thread->internal_thread);
1088 }
1089
1090 /*
1091  * mono_thread_detach_if_exiting:
1092  *
1093  *   Detach the current thread from the runtime if it is exiting, i.e. it is running pthread dtors.
1094  * This should be used at the end of embedding code which calls into managed code, and which
1095  * can be called from pthread dtors, like dealloc: implementations in objective-c.
1096  */
1097 void
1098 mono_thread_detach_if_exiting (void)
1099 {
1100         if (mono_thread_info_is_exiting ()) {
1101                 MonoInternalThread *thread;
1102
1103                 thread = mono_thread_internal_current ();
1104                 if (thread) {
1105                         mono_thread_detach_internal (thread);
1106                         mono_thread_info_detach ();
1107                 }
1108         }
1109 }
1110
1111 void
1112 mono_thread_exit ()
1113 {
1114         MonoInternalThread *thread = mono_thread_internal_current ();
1115
1116         THREAD_DEBUG (g_message ("%s: mono_thread_exit for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1117
1118         thread_cleanup (thread);
1119         SET_CURRENT_OBJECT (NULL);
1120         mono_domain_unset ();
1121
1122         /* we could add a callback here for embedders to use. */
1123         if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread))
1124                 exit (mono_environment_exitcode_get ());
1125         mono_thread_info_exit ();
1126 }
1127
1128 void
1129 ves_icall_System_Threading_Thread_ConstructInternalThread (MonoThread *this_obj)
1130 {
1131         MonoError error;
1132         MonoInternalThread *internal;
1133
1134         internal = create_internal_thread (&error);
1135         mono_error_raise_exception (&error);
1136
1137         internal->state = ThreadState_Unstarted;
1138
1139         InterlockedCompareExchangePointer ((volatile gpointer *)&this_obj->internal_thread, internal, NULL);
1140 }
1141
1142 HANDLE
1143 ves_icall_System_Threading_Thread_Thread_internal (MonoThread *this_obj,
1144                                                                                                    MonoObject *start)
1145 {
1146         MonoError error;
1147         StartInfo *start_info;
1148         MonoInternalThread *internal;
1149         gboolean res;
1150
1151         THREAD_DEBUG (g_message("%s: Trying to start a new thread: this (%p) start (%p)", __func__, this_obj, start));
1152
1153         if (!this_obj->internal_thread)
1154                 ves_icall_System_Threading_Thread_ConstructInternalThread (this_obj);
1155         internal = this_obj->internal_thread;
1156
1157         LOCK_THREAD (internal);
1158
1159         if ((internal->state & ThreadState_Unstarted) == 0) {
1160                 UNLOCK_THREAD (internal);
1161                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has already been started."));
1162                 return NULL;
1163         }
1164
1165         if ((internal->state & ThreadState_Aborted) != 0) {
1166                 UNLOCK_THREAD (internal);
1167                 return this_obj;
1168         }
1169         /* This is freed in start_wrapper */
1170         start_info = g_new0 (StartInfo, 1);
1171         start_info->func = NULL;
1172         start_info->start_arg = NULL;
1173         start_info->delegate = start;
1174         start_info->obj = this_obj;
1175         g_assert (this_obj->obj.vtable->domain == mono_domain_get ());
1176
1177         res = create_thread (this_obj, internal, start_info, FALSE, 0, &error);
1178         if (!res) {
1179                 mono_error_cleanup (&error);
1180                 UNLOCK_THREAD (internal);
1181                 return NULL;
1182         }
1183
1184         internal->state &= ~ThreadState_Unstarted;
1185
1186         THREAD_DEBUG (g_message ("%s: Started thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread));
1187
1188         UNLOCK_THREAD (internal);
1189         return internal->handle;
1190 }
1191
1192 /*
1193  * This is called from the finalizer of the internal thread object.
1194  */
1195 void
1196 ves_icall_System_Threading_InternalThread_Thread_free_internal (MonoInternalThread *this_obj, HANDLE thread)
1197 {
1198         THREAD_DEBUG (g_message ("%s: Closing thread %p, handle %p", __func__, this, thread));
1199
1200         /*
1201          * Since threads keep a reference to their thread object while running, by the time this function is called,
1202          * the thread has already exited/detached, i.e. thread_cleanup () has ran. The exception is during shutdown,
1203          * when thread_cleanup () can be called after this.
1204          */
1205         if (thread)
1206                 CloseHandle (thread);
1207
1208         if (this_obj->synch_cs) {
1209                 MonoCoopMutex *synch_cs = this_obj->synch_cs;
1210                 this_obj->synch_cs = NULL;
1211                 mono_coop_mutex_destroy (synch_cs);
1212                 g_free (synch_cs);
1213         }
1214
1215         if (this_obj->name) {
1216                 void *name = this_obj->name;
1217                 this_obj->name = NULL;
1218                 g_free (name);
1219         }
1220 }
1221
1222 void
1223 ves_icall_System_Threading_Thread_Sleep_internal(gint32 ms)
1224 {
1225         guint32 res;
1226         MonoInternalThread *thread = mono_thread_internal_current ();
1227
1228         THREAD_DEBUG (g_message ("%s: Sleeping for %d ms", __func__, ms));
1229
1230         mono_thread_current_check_pending_interrupt ();
1231
1232         while (TRUE) {
1233                 gboolean alerted = FALSE;
1234
1235                 mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1236
1237                 res = mono_thread_info_sleep (ms, &alerted);
1238
1239                 mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1240
1241                 if (alerted) {
1242                         MonoException* exc = mono_thread_execute_interruption ();
1243                         if (exc) {
1244                                 mono_raise_exception (exc);
1245                         } else {
1246                                 // FIXME: !INFINITE
1247                                 if (ms != INFINITE)
1248                                         break;
1249                         }
1250                 } else {
1251                         break;
1252                 }
1253         }
1254 }
1255
1256 void ves_icall_System_Threading_Thread_SpinWait_nop (void)
1257 {
1258 }
1259
1260 gint32
1261 ves_icall_System_Threading_Thread_GetDomainID (void)
1262 {
1263         return mono_domain_get()->domain_id;
1264 }
1265
1266 gboolean
1267 ves_icall_System_Threading_Thread_Yield (void)
1268 {
1269         return mono_thread_info_yield ();
1270 }
1271
1272 /*
1273  * mono_thread_get_name:
1274  *
1275  *   Return the name of the thread. NAME_LEN is set to the length of the name.
1276  * Return NULL if the thread has no name. The returned memory is owned by the
1277  * caller.
1278  */
1279 gunichar2*
1280 mono_thread_get_name (MonoInternalThread *this_obj, guint32 *name_len)
1281 {
1282         gunichar2 *res;
1283
1284         LOCK_THREAD (this_obj);
1285
1286         if (!this_obj->name) {
1287                 *name_len = 0;
1288                 res = NULL;
1289         } else {
1290                 *name_len = this_obj->name_len;
1291                 res = g_new (gunichar2, this_obj->name_len);
1292                 memcpy (res, this_obj->name, sizeof (gunichar2) * this_obj->name_len);
1293         }
1294
1295         UNLOCK_THREAD (this_obj);
1296
1297         return res;
1298 }
1299
1300 /*
1301  * mono_thread_get_name_utf8:
1302  *
1303  * Return the name of the thread in UTF-8.
1304  * Return NULL if the thread has no name.
1305  * The returned memory is owned by the caller.
1306  */
1307 char *
1308 mono_thread_get_name_utf8 (MonoThread *thread)
1309 {
1310         if (thread == NULL)
1311                 return NULL;
1312
1313         MonoInternalThread *internal = thread->internal_thread;
1314         if (internal == NULL)
1315                 return NULL;
1316
1317         LOCK_THREAD (internal);
1318
1319         char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
1320
1321         UNLOCK_THREAD (internal);
1322
1323         return tname;
1324 }
1325
1326 /*
1327  * mono_thread_get_managed_id:
1328  *
1329  * Return the Thread.ManagedThreadId value of `thread`.
1330  * Returns -1 if `thread` is NULL.
1331  */
1332 int32_t
1333 mono_thread_get_managed_id (MonoThread *thread)
1334 {
1335         if (thread == NULL)
1336                 return -1;
1337
1338         MonoInternalThread *internal = thread->internal_thread;
1339         if (internal == NULL)
1340                 return -1;
1341
1342         int32_t id = internal->managed_id;
1343
1344         return id;
1345 }
1346
1347 MonoString*
1348 ves_icall_System_Threading_Thread_GetName_internal (MonoInternalThread *this_obj)
1349 {
1350         MonoError error;
1351         MonoString* str;
1352
1353         mono_error_init (&error);
1354
1355         LOCK_THREAD (this_obj);
1356
1357         if (!this_obj->name)
1358                 str = NULL;
1359         else
1360                 str = mono_string_new_utf16_checked (mono_domain_get (), this_obj->name, this_obj->name_len, &error);
1361
1362         UNLOCK_THREAD (this_obj);
1363
1364         mono_error_raise_exception (&error);
1365
1366         return str;
1367 }
1368
1369 void
1370 mono_thread_set_name_internal (MonoInternalThread *this_obj, MonoString *name, gboolean permanent, MonoError *error)
1371 {
1372         LOCK_THREAD (this_obj);
1373
1374         mono_error_init (error);
1375
1376         if ((this_obj->flags & MONO_THREAD_FLAG_NAME_SET)) {
1377                 UNLOCK_THREAD (this_obj);
1378
1379                 mono_error_set_invalid_operation (error, "Thread.Name can only be set once.");
1380                 return;
1381         }
1382         if (this_obj->name) {
1383                 g_free (this_obj->name);
1384                 this_obj->name_len = 0;
1385         }
1386         if (name) {
1387                 this_obj->name = g_new (gunichar2, mono_string_length (name));
1388                 memcpy (this_obj->name, mono_string_chars (name), mono_string_length (name) * 2);
1389                 this_obj->name_len = mono_string_length (name);
1390
1391                 if (permanent)
1392                         this_obj->flags |= MONO_THREAD_FLAG_NAME_SET;
1393         }
1394         else
1395                 this_obj->name = NULL;
1396
1397
1398         UNLOCK_THREAD (this_obj);
1399
1400         if (this_obj->name && this_obj->tid) {
1401                 char *tname = mono_string_to_utf8 (name);
1402                 mono_profiler_thread_name (this_obj->tid, tname);
1403                 mono_native_thread_set_name (thread_get_tid (this_obj), tname);
1404                 mono_free (tname);
1405         }
1406 }
1407
1408 void
1409 ves_icall_System_Threading_Thread_SetName_internal (MonoInternalThread *this_obj, MonoString *name)
1410 {
1411         MonoError error;
1412         mono_thread_set_name_internal (this_obj, name, TRUE, &error);
1413         mono_error_set_pending_exception (&error);
1414 }
1415
1416 /*
1417  * ves_icall_System_Threading_Thread_GetPriority_internal:
1418  * @param this_obj: The MonoInternalThread on which to operate.
1419  *
1420  * Gets the priority of the given thread.
1421  * @return: The priority of the given thread.
1422  */
1423 int
1424 ves_icall_System_Threading_Thread_GetPriority (MonoThread *this_obj)
1425 {
1426         gint32 priority;
1427         MonoInternalThread *internal = this_obj->internal_thread;
1428
1429         LOCK_THREAD (internal);
1430         priority = GetThreadPriority (internal->handle) + 2;
1431         UNLOCK_THREAD (internal);
1432         return priority;
1433 }
1434
1435 /*
1436  * ves_icall_System_Threading_Thread_SetPriority_internal:
1437  * @param this_obj: The MonoInternalThread on which to operate.
1438  * @param priority: The priority to set.
1439  *
1440  * Sets the priority of the given thread.
1441  */
1442 void
1443 ves_icall_System_Threading_Thread_SetPriority (MonoThread *this_obj, int priority)
1444 {
1445         MonoInternalThread *internal = this_obj->internal_thread;
1446
1447         LOCK_THREAD (internal);
1448         SetThreadPriority (internal->handle, priority - 2);
1449         UNLOCK_THREAD (internal);
1450 }
1451
1452 /* If the array is already in the requested domain, we just return it,
1453    otherwise we return a copy in that domain. */
1454 static MonoArray*
1455 byte_array_to_domain (MonoArray *arr, MonoDomain *domain, MonoError *error)
1456 {
1457         MonoArray *copy;
1458
1459         mono_error_init (error);
1460         if (!arr)
1461                 return NULL;
1462
1463         if (mono_object_domain (arr) == domain)
1464                 return arr;
1465
1466         copy = mono_array_new_checked (domain, mono_defaults.byte_class, arr->max_length, error);
1467         memmove (mono_array_addr (copy, guint8, 0), mono_array_addr (arr, guint8, 0), arr->max_length);
1468         return copy;
1469 }
1470
1471 MonoArray*
1472 ves_icall_System_Threading_Thread_ByteArrayToRootDomain (MonoArray *arr)
1473 {
1474         MonoError error;
1475         MonoArray *result = byte_array_to_domain (arr, mono_get_root_domain (), &error);
1476         mono_error_set_pending_exception (&error);
1477         return result;
1478 }
1479
1480 MonoArray*
1481 ves_icall_System_Threading_Thread_ByteArrayToCurrentDomain (MonoArray *arr)
1482 {
1483         MonoError error;
1484         MonoArray *result = byte_array_to_domain (arr, mono_domain_get (), &error);
1485         mono_error_set_pending_exception (&error);
1486         return result;
1487 }
1488
1489 MonoThread *
1490 mono_thread_current (void)
1491 {
1492         MonoError error;
1493         MonoDomain *domain = mono_domain_get ();
1494         MonoInternalThread *internal = mono_thread_internal_current ();
1495         MonoThread **current_thread_ptr;
1496
1497         g_assert (internal);
1498         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1499
1500         if (!*current_thread_ptr) {
1501                 g_assert (domain != mono_get_root_domain ());
1502                 *current_thread_ptr = new_thread_with_internal (domain, internal, &error);
1503                 mono_error_raise_exception (&error); /* FIXME don't raise here */
1504         }
1505         return *current_thread_ptr;
1506 }
1507
1508 /* Return the thread object belonging to INTERNAL in the current domain */
1509 static MonoThread *
1510 mono_thread_current_for_thread (MonoInternalThread *internal)
1511 {
1512         MonoError error;
1513         MonoDomain *domain = mono_domain_get ();
1514         MonoThread **current_thread_ptr;
1515
1516         g_assert (internal);
1517         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1518
1519         if (!*current_thread_ptr) {
1520                 g_assert (domain != mono_get_root_domain ());
1521                 *current_thread_ptr = new_thread_with_internal (domain, internal, &error);
1522                 mono_error_raise_exception (&error); /* FIXME don't raise here */
1523         }
1524         return *current_thread_ptr;
1525 }
1526
1527 MonoInternalThread*
1528 mono_thread_internal_current (void)
1529 {
1530         MonoInternalThread *res = GET_CURRENT_OBJECT ();
1531         THREAD_DEBUG (g_message ("%s: returning %p", __func__, res));
1532         return res;
1533 }
1534
1535 gboolean
1536 ves_icall_System_Threading_Thread_Join_internal(MonoThread *this_obj, int ms)
1537 {
1538         MonoInternalThread *thread = this_obj->internal_thread;
1539         HANDLE handle = thread->handle;
1540         MonoInternalThread *cur_thread = mono_thread_internal_current ();
1541         gboolean ret;
1542
1543         mono_thread_current_check_pending_interrupt ();
1544
1545         LOCK_THREAD (thread);
1546
1547         if ((thread->state & ThreadState_Unstarted) != 0) {
1548                 UNLOCK_THREAD (thread);
1549
1550                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started."));
1551                 return FALSE;
1552         }
1553
1554         UNLOCK_THREAD (thread);
1555
1556         if(ms== -1) {
1557                 ms=INFINITE;
1558         }
1559         THREAD_DEBUG (g_message ("%s: joining thread handle %p, %d ms", __func__, handle, ms));
1560
1561         mono_thread_set_state (cur_thread, ThreadState_WaitSleepJoin);
1562
1563         MONO_ENTER_GC_SAFE;
1564         ret=WaitForSingleObjectEx (handle, ms, TRUE);
1565         MONO_EXIT_GC_SAFE;
1566
1567         mono_thread_clr_state (cur_thread, ThreadState_WaitSleepJoin);
1568
1569         if(ret==WAIT_OBJECT_0) {
1570                 THREAD_DEBUG (g_message ("%s: join successful", __func__));
1571
1572                 return(TRUE);
1573         }
1574
1575         THREAD_DEBUG (g_message ("%s: join failed", __func__));
1576
1577         return(FALSE);
1578 }
1579
1580 static gint32
1581 mono_wait_uninterrupted (MonoInternalThread *thread, gboolean multiple, guint32 numhandles, gpointer *handles, gboolean waitall, gint32 ms, gboolean alertable)
1582 {
1583         MonoException *exc;
1584         guint32 ret;
1585         gint64 start;
1586         gint32 diff_ms;
1587         gint32 wait = ms;
1588
1589         start = (ms == -1) ? 0 : mono_100ns_ticks ();
1590         do {
1591                 MONO_ENTER_GC_SAFE;
1592                         if (multiple)
1593                         ret = WaitForMultipleObjectsEx (numhandles, handles, waitall, wait, alertable);
1594                 else
1595                         ret = WaitForSingleObjectEx (handles [0], ms, alertable);
1596                 MONO_EXIT_GC_SAFE;
1597
1598                 if (ret != WAIT_IO_COMPLETION)
1599                         break;
1600
1601                 exc = mono_thread_execute_interruption ();
1602                 if (exc)
1603                         mono_raise_exception (exc);
1604
1605                 if (ms == -1)
1606                         continue;
1607
1608                 /* Re-calculate ms according to the time passed */
1609                 diff_ms = (gint32)((mono_100ns_ticks () - start) / 10000);
1610                 if (diff_ms >= ms) {
1611                         ret = WAIT_TIMEOUT;
1612                         break;
1613                 }
1614                 wait = ms - diff_ms;
1615         } while (TRUE);
1616
1617         return ret;
1618 }
1619
1620 gint32 ves_icall_System_Threading_WaitHandle_WaitAll_internal(MonoArray *mono_handles, gint32 ms)
1621 {
1622         HANDLE *handles;
1623         guint32 numhandles;
1624         guint32 ret;
1625         guint32 i;
1626         MonoObject *waitHandle;
1627         MonoInternalThread *thread = mono_thread_internal_current ();
1628
1629         /* Do this WaitSleepJoin check before creating objects */
1630         mono_thread_current_check_pending_interrupt ();
1631
1632         /* We fail in managed if the array has more than 64 elements */
1633         numhandles = (guint32)mono_array_length(mono_handles);
1634         handles = g_new0(HANDLE, numhandles);
1635
1636         for(i = 0; i < numhandles; i++) {
1637                 waitHandle = mono_array_get(mono_handles, MonoObject*, i);
1638                 handles [i] = mono_wait_handle_get_handle ((MonoWaitHandle *) waitHandle);
1639         }
1640
1641         if(ms== -1) {
1642                 ms=INFINITE;
1643         }
1644
1645         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1646
1647         ret = mono_wait_uninterrupted (thread, TRUE, numhandles, handles, TRUE, ms, TRUE);
1648
1649         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1650
1651         g_free(handles);
1652
1653         /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1654         return ret == WAIT_FAILED ? 0x7fffffff : ret;
1655 }
1656
1657 gint32 ves_icall_System_Threading_WaitHandle_WaitAny_internal(MonoArray *mono_handles, gint32 ms)
1658 {
1659         HANDLE handles [MAXIMUM_WAIT_OBJECTS];
1660         uintptr_t numhandles;
1661         guint32 ret;
1662         guint32 i;
1663         MonoObject *waitHandle;
1664         MonoInternalThread *thread = mono_thread_internal_current ();
1665
1666         /* Do this WaitSleepJoin check before creating objects */
1667         mono_thread_current_check_pending_interrupt ();
1668
1669         numhandles = mono_array_length(mono_handles);
1670         if (numhandles > MAXIMUM_WAIT_OBJECTS)
1671                 return WAIT_FAILED;
1672
1673         for(i = 0; i < numhandles; i++) {
1674                 waitHandle = mono_array_get(mono_handles, MonoObject*, i);
1675                 handles [i] = mono_wait_handle_get_handle ((MonoWaitHandle *) waitHandle);
1676         }
1677
1678         if(ms== -1) {
1679                 ms=INFINITE;
1680         }
1681
1682         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1683
1684         ret = mono_wait_uninterrupted (thread, TRUE, numhandles, handles, FALSE, ms, TRUE);
1685
1686         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1687
1688         THREAD_WAIT_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") returning %d", __func__, mono_native_thread_id_get (), ret));
1689
1690         /*
1691          * These need to be here.  See MSDN dos on WaitForMultipleObjects.
1692          */
1693         if (ret >= WAIT_OBJECT_0 && ret <= WAIT_OBJECT_0 + numhandles - 1) {
1694                 return ret - WAIT_OBJECT_0;
1695         }
1696         else if (ret >= WAIT_ABANDONED_0 && ret <= WAIT_ABANDONED_0 + numhandles - 1) {
1697                 return ret - WAIT_ABANDONED_0;
1698         }
1699         else {
1700                 /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1701                 return ret == WAIT_FAILED ? 0x7fffffff : ret;
1702         }
1703 }
1704
1705 gint32 ves_icall_System_Threading_WaitHandle_WaitOne_internal(HANDLE handle, gint32 ms)
1706 {
1707         guint32 ret;
1708         MonoInternalThread *thread = mono_thread_internal_current ();
1709
1710         THREAD_WAIT_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") waiting for %p, %d ms", __func__, mono_native_thread_id_get (), handle, ms));
1711
1712         if(ms== -1) {
1713                 ms=INFINITE;
1714         }
1715
1716         mono_thread_current_check_pending_interrupt ();
1717
1718         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1719
1720         ret = mono_wait_uninterrupted (thread, FALSE, 1, &handle, FALSE, ms, TRUE);
1721
1722         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1723
1724         /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1725         return ret == WAIT_FAILED ? 0x7fffffff : ret;
1726 }
1727
1728 gint32
1729 ves_icall_System_Threading_WaitHandle_SignalAndWait_Internal (HANDLE toSignal, HANDLE toWait, gint32 ms)
1730 {
1731         guint32 ret;
1732         MonoInternalThread *thread = mono_thread_internal_current ();
1733
1734         if (ms == -1)
1735                 ms = INFINITE;
1736
1737         mono_thread_current_check_pending_interrupt ();
1738
1739         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1740
1741         MONO_ENTER_GC_SAFE;
1742         ret = SignalObjectAndWait (toSignal, toWait, ms, TRUE);
1743         MONO_EXIT_GC_SAFE;
1744
1745         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1746
1747         /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1748         return ret == WAIT_FAILED ? 0x7fffffff : ret;
1749 }
1750
1751 HANDLE ves_icall_System_Threading_Mutex_CreateMutex_internal (MonoBoolean owned, MonoString *name, MonoBoolean *created)
1752 {
1753         HANDLE mutex;
1754
1755         *created = TRUE;
1756
1757         if (name == NULL) {
1758                 mutex = CreateMutex (NULL, owned, NULL);
1759         } else {
1760                 mutex = CreateMutex (NULL, owned, mono_string_chars (name));
1761
1762                 if (GetLastError () == ERROR_ALREADY_EXISTS) {
1763                         *created = FALSE;
1764                 }
1765         }
1766
1767         return(mutex);
1768 }
1769
1770 MonoBoolean ves_icall_System_Threading_Mutex_ReleaseMutex_internal (HANDLE handle ) {
1771         return(ReleaseMutex (handle));
1772 }
1773
1774 HANDLE ves_icall_System_Threading_Mutex_OpenMutex_internal (MonoString *name,
1775                                                             gint32 rights,
1776                                                             gint32 *error)
1777 {
1778         HANDLE ret;
1779
1780         *error = ERROR_SUCCESS;
1781
1782         ret = OpenMutex (rights, FALSE, mono_string_chars (name));
1783         if (ret == NULL) {
1784                 *error = GetLastError ();
1785         }
1786
1787         return(ret);
1788 }
1789
1790
1791 HANDLE ves_icall_System_Threading_Semaphore_CreateSemaphore_internal (gint32 initialCount, gint32 maximumCount, MonoString *name, MonoBoolean *created)
1792 {
1793         HANDLE sem;
1794
1795         *created = TRUE;
1796
1797         if (name == NULL) {
1798                 sem = CreateSemaphore (NULL, initialCount, maximumCount, NULL);
1799         } else {
1800                 sem = CreateSemaphore (NULL, initialCount, maximumCount,
1801                                        mono_string_chars (name));
1802
1803                 if (GetLastError () == ERROR_ALREADY_EXISTS) {
1804                         *created = FALSE;
1805                 }
1806         }
1807
1808         return(sem);
1809 }
1810
1811 gint32 ves_icall_System_Threading_Semaphore_ReleaseSemaphore_internal (HANDLE handle, gint32 releaseCount, MonoBoolean *fail)
1812 {
1813         gint32 prevcount;
1814
1815         *fail = !ReleaseSemaphore (handle, releaseCount, &prevcount);
1816
1817         return (prevcount);
1818 }
1819
1820 HANDLE ves_icall_System_Threading_Semaphore_OpenSemaphore_internal (MonoString *name, gint32 rights, gint32 *error)
1821 {
1822         HANDLE ret;
1823
1824         *error = ERROR_SUCCESS;
1825
1826         ret = OpenSemaphore (rights, FALSE, mono_string_chars (name));
1827         if (ret == NULL) {
1828                 *error = GetLastError ();
1829         }
1830
1831         return(ret);
1832 }
1833
1834 HANDLE ves_icall_System_Threading_Events_CreateEvent_internal (MonoBoolean manual, MonoBoolean initial, MonoString *name, MonoBoolean *created)
1835 {
1836         HANDLE event;
1837
1838         *created = TRUE;
1839
1840         if (name == NULL) {
1841                 event = CreateEvent (NULL, manual, initial, NULL);
1842         } else {
1843                 event = CreateEvent (NULL, manual, initial,
1844                                      mono_string_chars (name));
1845
1846                 if (GetLastError () == ERROR_ALREADY_EXISTS) {
1847                         *created = FALSE;
1848                 }
1849         }
1850
1851         return(event);
1852 }
1853
1854 gboolean ves_icall_System_Threading_Events_SetEvent_internal (HANDLE handle) {
1855         return (SetEvent(handle));
1856 }
1857
1858 gboolean ves_icall_System_Threading_Events_ResetEvent_internal (HANDLE handle) {
1859         return (ResetEvent(handle));
1860 }
1861
1862 void
1863 ves_icall_System_Threading_Events_CloseEvent_internal (HANDLE handle) {
1864         CloseHandle (handle);
1865 }
1866
1867 HANDLE ves_icall_System_Threading_Events_OpenEvent_internal (MonoString *name,
1868                                                              gint32 rights,
1869                                                              gint32 *error)
1870 {
1871         HANDLE ret;
1872
1873         *error = ERROR_SUCCESS;
1874
1875         ret = OpenEvent (rights, FALSE, mono_string_chars (name));
1876         if (ret == NULL) {
1877                 *error = GetLastError ();
1878         }
1879
1880         return(ret);
1881 }
1882
1883 gint32 ves_icall_System_Threading_Interlocked_Increment_Int (gint32 *location)
1884 {
1885         return InterlockedIncrement (location);
1886 }
1887
1888 gint64 ves_icall_System_Threading_Interlocked_Increment_Long (gint64 *location)
1889 {
1890 #if SIZEOF_VOID_P == 4
1891         if (G_UNLIKELY ((size_t)location & 0x7)) {
1892                 gint64 ret;
1893                 mono_interlocked_lock ();
1894                 (*location)++;
1895                 ret = *location;
1896                 mono_interlocked_unlock ();
1897                 return ret;
1898         }
1899 #endif
1900         return InterlockedIncrement64 (location);
1901 }
1902
1903 gint32 ves_icall_System_Threading_Interlocked_Decrement_Int (gint32 *location)
1904 {
1905         return InterlockedDecrement(location);
1906 }
1907
1908 gint64 ves_icall_System_Threading_Interlocked_Decrement_Long (gint64 * location)
1909 {
1910 #if SIZEOF_VOID_P == 4
1911         if (G_UNLIKELY ((size_t)location & 0x7)) {
1912                 gint64 ret;
1913                 mono_interlocked_lock ();
1914                 (*location)--;
1915                 ret = *location;
1916                 mono_interlocked_unlock ();
1917                 return ret;
1918         }
1919 #endif
1920         return InterlockedDecrement64 (location);
1921 }
1922
1923 gint32 ves_icall_System_Threading_Interlocked_Exchange_Int (gint32 *location, gint32 value)
1924 {
1925         return InterlockedExchange(location, value);
1926 }
1927
1928 MonoObject * ves_icall_System_Threading_Interlocked_Exchange_Object (MonoObject **location, MonoObject *value)
1929 {
1930         MonoObject *res;
1931         res = (MonoObject *) InterlockedExchangePointer((gpointer *) location, value);
1932         mono_gc_wbarrier_generic_nostore (location);
1933         return res;
1934 }
1935
1936 gpointer ves_icall_System_Threading_Interlocked_Exchange_IntPtr (gpointer *location, gpointer value)
1937 {
1938         return InterlockedExchangePointer(location, value);
1939 }
1940
1941 gfloat ves_icall_System_Threading_Interlocked_Exchange_Single (gfloat *location, gfloat value)
1942 {
1943         IntFloatUnion val, ret;
1944
1945         val.fval = value;
1946         ret.ival = InterlockedExchange((gint32 *) location, val.ival);
1947
1948         return ret.fval;
1949 }
1950
1951 gint64
1952 ves_icall_System_Threading_Interlocked_Exchange_Long (gint64 *location, gint64 value)
1953 {
1954 #if SIZEOF_VOID_P == 4
1955         if (G_UNLIKELY ((size_t)location & 0x7)) {
1956                 gint64 ret;
1957                 mono_interlocked_lock ();
1958                 ret = *location;
1959                 *location = value;
1960                 mono_interlocked_unlock ();
1961                 return ret;
1962         }
1963 #endif
1964         return InterlockedExchange64 (location, value);
1965 }
1966
1967 gdouble
1968 ves_icall_System_Threading_Interlocked_Exchange_Double (gdouble *location, gdouble value)
1969 {
1970         LongDoubleUnion val, ret;
1971
1972         val.fval = value;
1973         ret.ival = (gint64)InterlockedExchange64((gint64 *) location, val.ival);
1974
1975         return ret.fval;
1976 }
1977
1978 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int(gint32 *location, gint32 value, gint32 comparand)
1979 {
1980         return InterlockedCompareExchange(location, value, comparand);
1981 }
1982
1983 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int_Success(gint32 *location, gint32 value, gint32 comparand, MonoBoolean *success)
1984 {
1985         gint32 r = InterlockedCompareExchange(location, value, comparand);
1986         *success = r == comparand;
1987         return r;
1988 }
1989
1990 MonoObject * ves_icall_System_Threading_Interlocked_CompareExchange_Object (MonoObject **location, MonoObject *value, MonoObject *comparand)
1991 {
1992         MonoObject *res;
1993         res = (MonoObject *) InterlockedCompareExchangePointer((gpointer *) location, value, comparand);
1994         mono_gc_wbarrier_generic_nostore (location);
1995         return res;
1996 }
1997
1998 gpointer ves_icall_System_Threading_Interlocked_CompareExchange_IntPtr(gpointer *location, gpointer value, gpointer comparand)
1999 {
2000         return InterlockedCompareExchangePointer(location, value, comparand);
2001 }
2002
2003 gfloat ves_icall_System_Threading_Interlocked_CompareExchange_Single (gfloat *location, gfloat value, gfloat comparand)
2004 {
2005         IntFloatUnion val, ret, cmp;
2006
2007         val.fval = value;
2008         cmp.fval = comparand;
2009         ret.ival = InterlockedCompareExchange((gint32 *) location, val.ival, cmp.ival);
2010
2011         return ret.fval;
2012 }
2013
2014 gdouble
2015 ves_icall_System_Threading_Interlocked_CompareExchange_Double (gdouble *location, gdouble value, gdouble comparand)
2016 {
2017 #if SIZEOF_VOID_P == 8
2018         LongDoubleUnion val, comp, ret;
2019
2020         val.fval = value;
2021         comp.fval = comparand;
2022         ret.ival = (gint64)InterlockedCompareExchangePointer((gpointer *) location, (gpointer)val.ival, (gpointer)comp.ival);
2023
2024         return ret.fval;
2025 #else
2026         gdouble old;
2027
2028         mono_interlocked_lock ();
2029         old = *location;
2030         if (old == comparand)
2031                 *location = value;
2032         mono_interlocked_unlock ();
2033
2034         return old;
2035 #endif
2036 }
2037
2038 gint64
2039 ves_icall_System_Threading_Interlocked_CompareExchange_Long (gint64 *location, gint64 value, gint64 comparand)
2040 {
2041 #if SIZEOF_VOID_P == 4
2042         if (G_UNLIKELY ((size_t)location & 0x7)) {
2043                 gint64 old;
2044                 mono_interlocked_lock ();
2045                 old = *location;
2046                 if (old == comparand)
2047                         *location = value;
2048                 mono_interlocked_unlock ();
2049                 return old;
2050         }
2051 #endif
2052         return InterlockedCompareExchange64 (location, value, comparand);
2053 }
2054
2055 MonoObject*
2056 ves_icall_System_Threading_Interlocked_CompareExchange_T (MonoObject **location, MonoObject *value, MonoObject *comparand)
2057 {
2058         MonoObject *res;
2059         res = (MonoObject *)InterlockedCompareExchangePointer ((volatile gpointer *)location, value, comparand);
2060         mono_gc_wbarrier_generic_nostore (location);
2061         return res;
2062 }
2063
2064 MonoObject*
2065 ves_icall_System_Threading_Interlocked_Exchange_T (MonoObject **location, MonoObject *value)
2066 {
2067         MonoObject *res;
2068         MONO_CHECK_NULL (location, NULL);
2069         res = (MonoObject *)InterlockedExchangePointer ((volatile gpointer *)location, value);
2070         mono_gc_wbarrier_generic_nostore (location);
2071         return res;
2072 }
2073
2074 gint32
2075 ves_icall_System_Threading_Interlocked_Add_Int (gint32 *location, gint32 value)
2076 {
2077         return InterlockedAdd (location, value);
2078 }
2079
2080 gint64
2081 ves_icall_System_Threading_Interlocked_Add_Long (gint64 *location, gint64 value)
2082 {
2083 #if SIZEOF_VOID_P == 4
2084         if (G_UNLIKELY ((size_t)location & 0x7)) {
2085                 gint64 ret;
2086                 mono_interlocked_lock ();
2087                 *location += value;
2088                 ret = *location;
2089                 mono_interlocked_unlock ();
2090                 return ret;
2091         }
2092 #endif
2093         return InterlockedAdd64 (location, value);
2094 }
2095
2096 gint64
2097 ves_icall_System_Threading_Interlocked_Read_Long (gint64 *location)
2098 {
2099 #if SIZEOF_VOID_P == 4
2100         if (G_UNLIKELY ((size_t)location & 0x7)) {
2101                 gint64 ret;
2102                 mono_interlocked_lock ();
2103                 ret = *location;
2104                 mono_interlocked_unlock ();
2105                 return ret;
2106         }
2107 #endif
2108         return InterlockedRead64 (location);
2109 }
2110
2111 void
2112 ves_icall_System_Threading_Thread_MemoryBarrier (void)
2113 {
2114         mono_memory_barrier ();
2115 }
2116
2117 void
2118 ves_icall_System_Threading_Thread_ClrState (MonoInternalThread* this_obj, guint32 state)
2119 {
2120         mono_thread_clr_state (this_obj, (MonoThreadState)state);
2121
2122         if (state & ThreadState_Background) {
2123                 /* If the thread changes the background mode, the main thread has to
2124                  * be notified, since it has to rebuild the list of threads to
2125                  * wait for.
2126                  */
2127                 SetEvent (background_change_event);
2128         }
2129 }
2130
2131 void
2132 ves_icall_System_Threading_Thread_SetState (MonoInternalThread* this_obj, guint32 state)
2133 {
2134         mono_thread_set_state (this_obj, (MonoThreadState)state);
2135
2136         if (state & ThreadState_Background) {
2137                 /* If the thread changes the background mode, the main thread has to
2138                  * be notified, since it has to rebuild the list of threads to
2139                  * wait for.
2140                  */
2141                 SetEvent (background_change_event);
2142         }
2143 }
2144
2145 guint32
2146 ves_icall_System_Threading_Thread_GetState (MonoInternalThread* this_obj)
2147 {
2148         guint32 state;
2149
2150         LOCK_THREAD (this_obj);
2151
2152         state = this_obj->state;
2153
2154         UNLOCK_THREAD (this_obj);
2155
2156         return state;
2157 }
2158
2159 void ves_icall_System_Threading_Thread_Interrupt_internal (MonoThread *this_obj)
2160 {
2161         MonoInternalThread *current;
2162         gboolean throw_;
2163         MonoInternalThread *thread = this_obj->internal_thread;
2164
2165         LOCK_THREAD (thread);
2166
2167         current = mono_thread_internal_current ();
2168
2169         thread->thread_interrupt_requested = TRUE;
2170         throw_ = current != thread && (thread->state & ThreadState_WaitSleepJoin);
2171
2172         UNLOCK_THREAD (thread);
2173
2174         if (throw_) {
2175                 async_abort_internal (thread, FALSE);
2176         }
2177 }
2178
2179 void mono_thread_current_check_pending_interrupt ()
2180 {
2181         MonoInternalThread *thread = mono_thread_internal_current ();
2182         gboolean throw_ = FALSE;
2183
2184         LOCK_THREAD (thread);
2185
2186         if (thread->thread_interrupt_requested) {
2187                 throw_ = TRUE;
2188                 thread->thread_interrupt_requested = FALSE;
2189         }
2190
2191         UNLOCK_THREAD (thread);
2192
2193         if (throw_) {
2194                 mono_raise_exception (mono_get_exception_thread_interrupted ());
2195         }
2196 }
2197
2198 void
2199 ves_icall_System_Threading_Thread_Abort (MonoInternalThread *thread, MonoObject *state)
2200 {
2201         LOCK_THREAD (thread);
2202
2203         if ((thread->state & ThreadState_AbortRequested) != 0 ||
2204                 (thread->state & ThreadState_StopRequested) != 0 ||
2205                 (thread->state & ThreadState_Stopped) != 0)
2206         {
2207                 UNLOCK_THREAD (thread);
2208                 return;
2209         }
2210
2211         if ((thread->state & ThreadState_Unstarted) != 0) {
2212                 thread->state |= ThreadState_Aborted;
2213                 UNLOCK_THREAD (thread);
2214                 return;
2215         }
2216
2217         thread->state |= ThreadState_AbortRequested;
2218         if (thread->abort_state_handle)
2219                 mono_gchandle_free (thread->abort_state_handle);
2220         if (state) {
2221                 thread->abort_state_handle = mono_gchandle_new (state, FALSE);
2222                 g_assert (thread->abort_state_handle);
2223         } else {
2224                 thread->abort_state_handle = 0;
2225         }
2226         thread->abort_exc = NULL;
2227
2228         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Abort requested for %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), thread, (gsize)thread->tid));
2229
2230         /* During shutdown, we can't wait for other threads */
2231         if (!shutting_down)
2232                 /* Make sure the thread is awake */
2233                 mono_thread_resume (thread);
2234
2235         UNLOCK_THREAD (thread);
2236
2237         if (thread == mono_thread_internal_current ())
2238                 self_abort_internal ();
2239         else
2240                 async_abort_internal (thread, TRUE);
2241 }
2242
2243 void
2244 ves_icall_System_Threading_Thread_ResetAbort (MonoThread *this_obj)
2245 {
2246         MonoInternalThread *thread = mono_thread_internal_current ();
2247         gboolean was_aborting;
2248
2249         LOCK_THREAD (thread);
2250         was_aborting = thread->state & ThreadState_AbortRequested;
2251         thread->state &= ~ThreadState_AbortRequested;
2252         UNLOCK_THREAD (thread);
2253
2254         if (!was_aborting) {
2255                 const char *msg = "Unable to reset abort because no abort was requested";
2256                 mono_set_pending_exception (mono_get_exception_thread_state (msg));
2257                 return;
2258         }
2259         thread->abort_exc = NULL;
2260         if (thread->abort_state_handle) {
2261                 mono_gchandle_free (thread->abort_state_handle);
2262                 /* This is actually not necessary - the handle
2263                    only counts if the exception is set */
2264                 thread->abort_state_handle = 0;
2265         }
2266 }
2267
2268 void
2269 mono_thread_internal_reset_abort (MonoInternalThread *thread)
2270 {
2271         LOCK_THREAD (thread);
2272
2273         thread->state &= ~ThreadState_AbortRequested;
2274
2275         if (thread->abort_exc) {
2276                 thread->abort_exc = NULL;
2277                 if (thread->abort_state_handle) {
2278                         mono_gchandle_free (thread->abort_state_handle);
2279                         /* This is actually not necessary - the handle
2280                            only counts if the exception is set */
2281                         thread->abort_state_handle = 0;
2282                 }
2283         }
2284
2285         UNLOCK_THREAD (thread);
2286 }
2287
2288 MonoObject*
2289 ves_icall_System_Threading_Thread_GetAbortExceptionState (MonoThread *this_obj)
2290 {
2291         MonoError error;
2292         MonoInternalThread *thread = this_obj->internal_thread;
2293         MonoObject *state, *deserialized = NULL;
2294         MonoDomain *domain;
2295
2296         if (!thread->abort_state_handle)
2297                 return NULL;
2298
2299         state = mono_gchandle_get_target (thread->abort_state_handle);
2300         g_assert (state);
2301
2302         domain = mono_domain_get ();
2303         if (mono_object_domain (state) == domain)
2304                 return state;
2305
2306         deserialized = mono_object_xdomain_representation (state, domain, &error);
2307
2308         if (!deserialized) {
2309                 MonoException *invalid_op_exc = mono_get_exception_invalid_operation ("Thread.ExceptionState cannot access an ExceptionState from a different AppDomain");
2310                 if (!is_ok (&error)) {
2311                         MonoObject *exc = (MonoObject*)mono_error_convert_to_exception (&error);
2312                         MONO_OBJECT_SETREF (invalid_op_exc, inner_ex, exc);
2313                 }
2314                 mono_set_pending_exception (invalid_op_exc);
2315                 return NULL;
2316         }
2317
2318         return deserialized;
2319 }
2320
2321 static gboolean
2322 mono_thread_suspend (MonoInternalThread *thread)
2323 {
2324         LOCK_THREAD (thread);
2325
2326         if ((thread->state & ThreadState_Unstarted) != 0 ||
2327                 (thread->state & ThreadState_Aborted) != 0 ||
2328                 (thread->state & ThreadState_Stopped) != 0)
2329         {
2330                 UNLOCK_THREAD (thread);
2331                 return FALSE;
2332         }
2333
2334         if ((thread->state & ThreadState_Suspended) != 0 ||
2335                 (thread->state & ThreadState_SuspendRequested) != 0 ||
2336                 (thread->state & ThreadState_StopRequested) != 0)
2337         {
2338                 UNLOCK_THREAD (thread);
2339                 return TRUE;
2340         }
2341
2342         thread->state |= ThreadState_SuspendRequested;
2343
2344         if (thread == mono_thread_internal_current ()) {
2345                 /* calls UNLOCK_THREAD (thread) */
2346                 self_suspend_internal ();
2347         } else {
2348                 /* calls UNLOCK_THREAD (thread) */
2349                 async_suspend_internal (thread, FALSE);
2350         }
2351
2352         return TRUE;
2353 }
2354
2355 void
2356 ves_icall_System_Threading_Thread_Suspend (MonoThread *this_obj)
2357 {
2358         if (!mono_thread_suspend (this_obj->internal_thread)) {
2359                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2360                 return;
2361         }
2362 }
2363
2364 /* LOCKING: LOCK_THREAD(thread) must be held */
2365 static gboolean
2366 mono_thread_resume (MonoInternalThread *thread)
2367 {
2368         if ((thread->state & ThreadState_SuspendRequested) != 0) {
2369                 thread->state &= ~ThreadState_SuspendRequested;
2370                 return TRUE;
2371         }
2372
2373         if ((thread->state & ThreadState_Suspended) == 0 ||
2374                 (thread->state & ThreadState_Unstarted) != 0 ||
2375                 (thread->state & ThreadState_Aborted) != 0 ||
2376                 (thread->state & ThreadState_Stopped) != 0)
2377         {
2378                 return FALSE;
2379         }
2380
2381         UNLOCK_THREAD (thread);
2382
2383         /* Awake the thread */
2384         if (!mono_thread_info_resume (thread_get_tid (thread)))
2385                 return FALSE;
2386
2387         LOCK_THREAD (thread);
2388
2389         thread->state &= ~ThreadState_Suspended;
2390
2391         return TRUE;
2392 }
2393
2394 void
2395 ves_icall_System_Threading_Thread_Resume (MonoThread *thread)
2396 {
2397         if (!thread->internal_thread) {
2398                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2399         } else {
2400                 LOCK_THREAD (thread->internal_thread);
2401                 if (!mono_thread_resume (thread->internal_thread))
2402                         mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2403                 UNLOCK_THREAD (thread->internal_thread);
2404         }
2405 }
2406
2407 static gboolean
2408 mono_threads_is_critical_method (MonoMethod *method)
2409 {
2410         switch (method->wrapper_type) {
2411         case MONO_WRAPPER_RUNTIME_INVOKE:
2412         case MONO_WRAPPER_XDOMAIN_INVOKE:
2413         case MONO_WRAPPER_XDOMAIN_DISPATCH:
2414                 return TRUE;
2415         }
2416         return FALSE;
2417 }
2418
2419 static gboolean
2420 find_wrapper (MonoMethod *m, gint no, gint ilo, gboolean managed, gpointer data)
2421 {
2422         if (managed)
2423                 return TRUE;
2424
2425         if (mono_threads_is_critical_method (m)) {
2426                 *((gboolean*)data) = TRUE;
2427                 return TRUE;
2428         }
2429         return FALSE;
2430 }
2431
2432 static gboolean
2433 is_running_protected_wrapper (void)
2434 {
2435         gboolean found = FALSE;
2436         mono_stack_walk (find_wrapper, &found);
2437         return found;
2438 }
2439
2440 void mono_thread_internal_stop (MonoInternalThread *thread)
2441 {
2442         LOCK_THREAD (thread);
2443
2444         if ((thread->state & ThreadState_StopRequested) != 0 ||
2445                 (thread->state & ThreadState_Stopped) != 0)
2446         {
2447                 UNLOCK_THREAD (thread);
2448                 return;
2449         }
2450
2451         /* Make sure the thread is awake */
2452         mono_thread_resume (thread);
2453
2454         thread->state |= ThreadState_StopRequested;
2455         thread->state &= ~ThreadState_AbortRequested;
2456
2457         UNLOCK_THREAD (thread);
2458
2459         if (thread == mono_thread_internal_current ())
2460                 self_abort_internal ();
2461         else
2462                 async_abort_internal (thread, TRUE);
2463 }
2464
2465 void mono_thread_stop (MonoThread *thread)
2466 {
2467         mono_thread_internal_stop (thread->internal_thread);
2468 }
2469
2470 gint8
2471 ves_icall_System_Threading_Thread_VolatileRead1 (void *ptr)
2472 {
2473         gint8 tmp = *(volatile gint8 *)ptr;
2474         mono_memory_barrier ();
2475         return tmp;
2476 }
2477
2478 gint16
2479 ves_icall_System_Threading_Thread_VolatileRead2 (void *ptr)
2480 {
2481         gint16 tmp = *(volatile gint16 *)ptr;
2482         mono_memory_barrier ();
2483         return tmp;
2484 }
2485
2486 gint32
2487 ves_icall_System_Threading_Thread_VolatileRead4 (void *ptr)
2488 {
2489         gint32 tmp = *(volatile gint32 *)ptr;
2490         mono_memory_barrier ();
2491         return tmp;
2492 }
2493
2494 gint64
2495 ves_icall_System_Threading_Thread_VolatileRead8 (void *ptr)
2496 {
2497         gint64 tmp = *(volatile gint64 *)ptr;
2498         mono_memory_barrier ();
2499         return tmp;
2500 }
2501
2502 void *
2503 ves_icall_System_Threading_Thread_VolatileReadIntPtr (void *ptr)
2504 {
2505         volatile void *tmp = *(volatile void **)ptr;
2506         mono_memory_barrier ();
2507         return (void *) tmp;
2508 }
2509
2510 void *
2511 ves_icall_System_Threading_Thread_VolatileReadObject (void *ptr)
2512 {
2513         volatile MonoObject *tmp = *(volatile MonoObject **)ptr;
2514         mono_memory_barrier ();
2515         return (MonoObject *) tmp;
2516 }
2517
2518 double
2519 ves_icall_System_Threading_Thread_VolatileReadDouble (void *ptr)
2520 {
2521         double tmp = *(volatile double *)ptr;
2522         mono_memory_barrier ();
2523         return tmp;
2524 }
2525
2526 float
2527 ves_icall_System_Threading_Thread_VolatileReadFloat (void *ptr)
2528 {
2529         float tmp = *(volatile float *)ptr;
2530         mono_memory_barrier ();
2531         return tmp;
2532 }
2533
2534 gint8
2535 ves_icall_System_Threading_Volatile_Read1 (void *ptr)
2536 {
2537         return InterlockedRead8 ((volatile gint8 *)ptr);
2538 }
2539
2540 gint16
2541 ves_icall_System_Threading_Volatile_Read2 (void *ptr)
2542 {
2543         return InterlockedRead16 ((volatile gint16 *)ptr);
2544 }
2545
2546 gint32
2547 ves_icall_System_Threading_Volatile_Read4 (void *ptr)
2548 {
2549         return InterlockedRead ((volatile gint32 *)ptr);
2550 }
2551
2552 gint64
2553 ves_icall_System_Threading_Volatile_Read8 (void *ptr)
2554 {
2555 #if SIZEOF_VOID_P == 4
2556         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2557                 gint64 val;
2558                 mono_interlocked_lock ();
2559                 val = *(gint64*)ptr;
2560                 mono_interlocked_unlock ();
2561                 return val;
2562         }
2563 #endif
2564         return InterlockedRead64 ((volatile gint64 *)ptr);
2565 }
2566
2567 void *
2568 ves_icall_System_Threading_Volatile_ReadIntPtr (void *ptr)
2569 {
2570         return InterlockedReadPointer ((volatile gpointer *)ptr);
2571 }
2572
2573 double
2574 ves_icall_System_Threading_Volatile_ReadDouble (void *ptr)
2575 {
2576         LongDoubleUnion u;
2577
2578 #if SIZEOF_VOID_P == 4
2579         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2580                 double val;
2581                 mono_interlocked_lock ();
2582                 val = *(double*)ptr;
2583                 mono_interlocked_unlock ();
2584                 return val;
2585         }
2586 #endif
2587
2588         u.ival = InterlockedRead64 ((volatile gint64 *)ptr);
2589
2590         return u.fval;
2591 }
2592
2593 float
2594 ves_icall_System_Threading_Volatile_ReadFloat (void *ptr)
2595 {
2596         IntFloatUnion u;
2597
2598         u.ival = InterlockedRead ((volatile gint32 *)ptr);
2599
2600         return u.fval;
2601 }
2602
2603 MonoObject*
2604 ves_icall_System_Threading_Volatile_Read_T (void *ptr)
2605 {
2606         return (MonoObject *)InterlockedReadPointer ((volatile gpointer *)ptr);
2607 }
2608
2609 void
2610 ves_icall_System_Threading_Thread_VolatileWrite1 (void *ptr, gint8 value)
2611 {
2612         mono_memory_barrier ();
2613         *(volatile gint8 *)ptr = value;
2614 }
2615
2616 void
2617 ves_icall_System_Threading_Thread_VolatileWrite2 (void *ptr, gint16 value)
2618 {
2619         mono_memory_barrier ();
2620         *(volatile gint16 *)ptr = value;
2621 }
2622
2623 void
2624 ves_icall_System_Threading_Thread_VolatileWrite4 (void *ptr, gint32 value)
2625 {
2626         mono_memory_barrier ();
2627         *(volatile gint32 *)ptr = value;
2628 }
2629
2630 void
2631 ves_icall_System_Threading_Thread_VolatileWrite8 (void *ptr, gint64 value)
2632 {
2633         mono_memory_barrier ();
2634         *(volatile gint64 *)ptr = value;
2635 }
2636
2637 void
2638 ves_icall_System_Threading_Thread_VolatileWriteIntPtr (void *ptr, void *value)
2639 {
2640         mono_memory_barrier ();
2641         *(volatile void **)ptr = value;
2642 }
2643
2644 void
2645 ves_icall_System_Threading_Thread_VolatileWriteObject (void *ptr, MonoObject *value)
2646 {
2647         mono_memory_barrier ();
2648         mono_gc_wbarrier_generic_store (ptr, value);
2649 }
2650
2651 void
2652 ves_icall_System_Threading_Thread_VolatileWriteDouble (void *ptr, double value)
2653 {
2654         mono_memory_barrier ();
2655         *(volatile double *)ptr = value;
2656 }
2657
2658 void
2659 ves_icall_System_Threading_Thread_VolatileWriteFloat (void *ptr, float value)
2660 {
2661         mono_memory_barrier ();
2662         *(volatile float *)ptr = value;
2663 }
2664
2665 void
2666 ves_icall_System_Threading_Volatile_Write1 (void *ptr, gint8 value)
2667 {
2668         InterlockedWrite8 ((volatile gint8 *)ptr, value);
2669 }
2670
2671 void
2672 ves_icall_System_Threading_Volatile_Write2 (void *ptr, gint16 value)
2673 {
2674         InterlockedWrite16 ((volatile gint16 *)ptr, value);
2675 }
2676
2677 void
2678 ves_icall_System_Threading_Volatile_Write4 (void *ptr, gint32 value)
2679 {
2680         InterlockedWrite ((volatile gint32 *)ptr, value);
2681 }
2682
2683 void
2684 ves_icall_System_Threading_Volatile_Write8 (void *ptr, gint64 value)
2685 {
2686 #if SIZEOF_VOID_P == 4
2687         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2688                 mono_interlocked_lock ();
2689                 *(gint64*)ptr = value;
2690                 mono_interlocked_unlock ();
2691                 return;
2692         }
2693 #endif
2694
2695         InterlockedWrite64 ((volatile gint64 *)ptr, value);
2696 }
2697
2698 void
2699 ves_icall_System_Threading_Volatile_WriteIntPtr (void *ptr, void *value)
2700 {
2701         InterlockedWritePointer ((volatile gpointer *)ptr, value);
2702 }
2703
2704 void
2705 ves_icall_System_Threading_Volatile_WriteDouble (void *ptr, double value)
2706 {
2707         LongDoubleUnion u;
2708
2709 #if SIZEOF_VOID_P == 4
2710         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2711                 mono_interlocked_lock ();
2712                 *(double*)ptr = value;
2713                 mono_interlocked_unlock ();
2714                 return;
2715         }
2716 #endif
2717
2718         u.fval = value;
2719
2720         InterlockedWrite64 ((volatile gint64 *)ptr, u.ival);
2721 }
2722
2723 void
2724 ves_icall_System_Threading_Volatile_WriteFloat (void *ptr, float value)
2725 {
2726         IntFloatUnion u;
2727
2728         u.fval = value;
2729
2730         InterlockedWrite ((volatile gint32 *)ptr, u.ival);
2731 }
2732
2733 void
2734 ves_icall_System_Threading_Volatile_Write_T (void *ptr, MonoObject *value)
2735 {
2736         mono_gc_wbarrier_generic_store_atomic (ptr, value);
2737 }
2738
2739 static void
2740 free_context (void *user_data)
2741 {
2742         ContextStaticData *data = user_data;
2743
2744         mono_threads_lock ();
2745
2746         /*
2747          * There is no guarantee that, by the point this reference queue callback
2748          * has been invoked, the GC handle associated with the object will fail to
2749          * resolve as one might expect. So if we don't free and remove the GC
2750          * handle here, free_context_static_data_helper () could end up resolving
2751          * a GC handle to an actually-dead context which would contain a pointer
2752          * to an already-freed static data segment, resulting in a crash when
2753          * accessing it.
2754          */
2755         g_hash_table_remove (contexts, GUINT_TO_POINTER (data->gc_handle));
2756
2757         mono_threads_unlock ();
2758
2759         mono_gchandle_free (data->gc_handle);
2760         mono_free_static_data (data->static_data);
2761         g_free (data);
2762 }
2763
2764 void
2765 ves_icall_System_Runtime_Remoting_Contexts_Context_RegisterContext (MonoAppContext *ctx)
2766 {
2767         mono_threads_lock ();
2768
2769         //g_print ("Registering context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2770
2771         if (!contexts)
2772                 contexts = g_hash_table_new (NULL, NULL);
2773
2774         if (!context_queue)
2775                 context_queue = mono_gc_reference_queue_new (free_context);
2776
2777         gpointer gch = GUINT_TO_POINTER (mono_gchandle_new_weakref (&ctx->obj, FALSE));
2778         g_hash_table_insert (contexts, gch, gch);
2779
2780         /*
2781          * We use this intermediate structure to contain a duplicate pointer to
2782          * the static data because we can't rely on being able to resolve the GC
2783          * handle in the reference queue callback.
2784          */
2785         ContextStaticData *data = g_new0 (ContextStaticData, 1);
2786         data->gc_handle = GPOINTER_TO_UINT (gch);
2787         ctx->data = data;
2788
2789         context_adjust_static_data (ctx);
2790         mono_gc_reference_queue_add (context_queue, &ctx->obj, data);
2791
2792         mono_threads_unlock ();
2793
2794         mono_profiler_context_loaded (ctx);
2795 }
2796
2797 void
2798 ves_icall_System_Runtime_Remoting_Contexts_Context_ReleaseContext (MonoAppContext *ctx)
2799 {
2800         /*
2801          * NOTE: Since finalizers are unreliable for the purposes of ensuring
2802          * cleanup in exceptional circumstances, we don't actually do any
2803          * cleanup work here. We instead do this via a reference queue.
2804          */
2805
2806         //g_print ("Releasing context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2807
2808         mono_profiler_context_unloaded (ctx);
2809 }
2810
2811 void
2812 mono_thread_init_tls (void)
2813 {
2814         MONO_FAST_TLS_INIT (tls_current_object);
2815         mono_native_tls_alloc (&current_object_key, NULL);
2816 }
2817
2818 void mono_thread_init (MonoThreadStartCB start_cb,
2819                        MonoThreadAttachCB attach_cb)
2820 {
2821         mono_coop_mutex_init_recursive (&threads_mutex);
2822
2823         mono_os_mutex_init_recursive(&interlocked_mutex);
2824         mono_os_mutex_init_recursive(&joinable_threads_mutex);
2825
2826         background_change_event = CreateEvent (NULL, TRUE, FALSE, NULL);
2827         g_assert(background_change_event != NULL);
2828
2829         mono_init_static_data_info (&thread_static_info);
2830         mono_init_static_data_info (&context_static_info);
2831
2832         THREAD_DEBUG (g_message ("%s: Allocated current_object_key %d", __func__, current_object_key));
2833
2834         mono_thread_start_cb = start_cb;
2835         mono_thread_attach_cb = attach_cb;
2836
2837         /* Get a pseudo handle to the current process.  This is just a
2838          * kludge so that wapi can build a process handle if needed.
2839          * As a pseudo handle is returned, we don't need to clean
2840          * anything up.
2841          */
2842         GetCurrentProcess ();
2843 }
2844
2845 void mono_thread_cleanup (void)
2846 {
2847 #if !defined(HOST_WIN32) && !defined(RUN_IN_SUBTHREAD)
2848         MonoThreadInfo *info;
2849
2850         /* The main thread must abandon any held mutexes (particularly
2851          * important for named mutexes as they are shared across
2852          * processes, see bug 74680.)  This will happen when the
2853          * thread exits, but if it's not running in a subthread it
2854          * won't exit in time.
2855          */
2856         info = mono_thread_info_current ();
2857         wapi_thread_handle_set_exited (info->handle, mono_environment_exitcode_get ());
2858 #endif
2859
2860 #if 0
2861         /* This stuff needs more testing, it seems one of these
2862          * critical sections can be locked when mono_thread_cleanup is
2863          * called.
2864          */
2865         mono_coop_mutex_destroy (&threads_mutex);
2866         mono_os_mutex_destroy (&interlocked_mutex);
2867         mono_os_mutex_destroy (&delayed_free_table_mutex);
2868         mono_os_mutex_destroy (&small_id_mutex);
2869         CloseHandle (background_change_event);
2870 #endif
2871
2872         mono_native_tls_free (current_object_key);
2873 }
2874
2875 void
2876 mono_threads_install_cleanup (MonoThreadCleanupFunc func)
2877 {
2878         mono_thread_cleanup_fn = func;
2879 }
2880
2881 void
2882 mono_thread_set_manage_callback (MonoThread *thread, MonoThreadManageCallback func)
2883 {
2884         thread->internal_thread->manage_callback = func;
2885 }
2886
2887 G_GNUC_UNUSED
2888 static void print_tids (gpointer key, gpointer value, gpointer user)
2889 {
2890         /* GPOINTER_TO_UINT breaks horribly if sizeof(void *) >
2891          * sizeof(uint) and a cast to uint would overflow
2892          */
2893         /* Older versions of glib don't have G_GSIZE_FORMAT, so just
2894          * print this as a pointer.
2895          */
2896         g_message ("Waiting for: %p", key);
2897 }
2898
2899 struct wait_data
2900 {
2901         HANDLE handles[MAXIMUM_WAIT_OBJECTS];
2902         MonoInternalThread *threads[MAXIMUM_WAIT_OBJECTS];
2903         guint32 num;
2904 };
2905
2906 static void wait_for_tids (struct wait_data *wait, guint32 timeout)
2907 {
2908         guint32 i, ret;
2909
2910         THREAD_DEBUG (g_message("%s: %d threads to wait for in this batch", __func__, wait->num));
2911
2912         MONO_ENTER_GC_SAFE;
2913         ret=WaitForMultipleObjectsEx(wait->num, wait->handles, TRUE, timeout, TRUE);
2914         MONO_EXIT_GC_SAFE;
2915
2916         if(ret==WAIT_FAILED) {
2917                 /* See the comment in build_wait_tids() */
2918                 THREAD_DEBUG (g_message ("%s: Wait failed", __func__));
2919                 return;
2920         }
2921
2922         for(i=0; i<wait->num; i++)
2923                 CloseHandle (wait->handles[i]);
2924
2925         if (ret == WAIT_TIMEOUT)
2926                 return;
2927
2928         for(i=0; i<wait->num; i++) {
2929                 gsize tid = wait->threads[i]->tid;
2930
2931                 /*
2932                  * On !win32, when the thread handle becomes signalled, it just means the thread has exited user code,
2933                  * it can still run io-layer etc. code. So wait for it to really exit.
2934                  * FIXME: This won't join threads which are not in the joinable_hash yet.
2935                  */
2936                 mono_thread_join ((gpointer)tid);
2937
2938                 mono_threads_lock ();
2939                 if(mono_g_hash_table_lookup (threads, (gpointer)tid)!=NULL) {
2940                         /* This thread must have been killed, because
2941                          * it hasn't cleaned itself up. (It's just
2942                          * possible that the thread exited before the
2943                          * parent thread had a chance to store the
2944                          * handle, and now there is another pointer to
2945                          * the already-exited thread stored.  In this
2946                          * case, we'll just get two
2947                          * mono_profiler_thread_end() calls for the
2948                          * same thread.)
2949                          */
2950
2951                         mono_threads_unlock ();
2952                         THREAD_DEBUG (g_message ("%s: cleaning up after thread %p (%"G_GSIZE_FORMAT")", __func__, wait->threads[i], tid));
2953                         thread_cleanup (wait->threads[i]);
2954                 } else {
2955                         mono_threads_unlock ();
2956                 }
2957         }
2958 }
2959
2960 static void wait_for_tids_or_state_change (struct wait_data *wait, guint32 timeout)
2961 {
2962         guint32 i, ret, count;
2963
2964         THREAD_DEBUG (g_message("%s: %d threads to wait for in this batch", __func__, wait->num));
2965
2966         /* Add the thread state change event, so it wakes up if a thread changes
2967          * to background mode.
2968          */
2969         count = wait->num;
2970         if (count < MAXIMUM_WAIT_OBJECTS) {
2971                 wait->handles [count] = background_change_event;
2972                 count++;
2973         }
2974
2975         MONO_ENTER_GC_SAFE;
2976         ret=WaitForMultipleObjectsEx (count, wait->handles, FALSE, timeout, TRUE);
2977         MONO_EXIT_GC_SAFE;
2978
2979         if(ret==WAIT_FAILED) {
2980                 /* See the comment in build_wait_tids() */
2981                 THREAD_DEBUG (g_message ("%s: Wait failed", __func__));
2982                 return;
2983         }
2984
2985         for(i=0; i<wait->num; i++)
2986                 CloseHandle (wait->handles[i]);
2987
2988         if (ret == WAIT_TIMEOUT)
2989                 return;
2990
2991         if (ret < wait->num) {
2992                 gsize tid = wait->threads[ret]->tid;
2993                 mono_threads_lock ();
2994                 if (mono_g_hash_table_lookup (threads, (gpointer)tid)!=NULL) {
2995                         /* See comment in wait_for_tids about thread cleanup */
2996                         mono_threads_unlock ();
2997                         THREAD_DEBUG (g_message ("%s: cleaning up after thread %"G_GSIZE_FORMAT, __func__, tid));
2998                         thread_cleanup (wait->threads [ret]);
2999                 } else
3000                         mono_threads_unlock ();
3001         }
3002 }
3003
3004 static void build_wait_tids (gpointer key, gpointer value, gpointer user)
3005 {
3006         struct wait_data *wait=(struct wait_data *)user;
3007
3008         if(wait->num<MAXIMUM_WAIT_OBJECTS) {
3009                 HANDLE handle;
3010                 MonoInternalThread *thread=(MonoInternalThread *)value;
3011
3012                 /* Ignore background threads, we abort them later */
3013                 /* Do not lock here since it is not needed and the caller holds threads_lock */
3014                 if (thread->state & ThreadState_Background) {
3015                         THREAD_DEBUG (g_message ("%s: ignoring background thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3016                         return; /* just leave, ignore */
3017                 }
3018
3019                 if (mono_gc_is_finalizer_internal_thread (thread)) {
3020                         THREAD_DEBUG (g_message ("%s: ignoring finalizer thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3021                         return;
3022                 }
3023
3024                 if (thread == mono_thread_internal_current ()) {
3025                         THREAD_DEBUG (g_message ("%s: ignoring current thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3026                         return;
3027                 }
3028
3029                 if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread)) {
3030                         THREAD_DEBUG (g_message ("%s: ignoring main thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3031                         return;
3032                 }
3033
3034                 if (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE) {
3035                         THREAD_DEBUG (g_message ("%s: ignoring thread %" G_GSIZE_FORMAT "with DONT_MANAGE flag set.", __func__, (gsize)thread->tid));
3036                         return;
3037                 }
3038
3039                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3040                 if (handle == NULL) {
3041                         THREAD_DEBUG (g_message ("%s: ignoring unopenable thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3042                         return;
3043                 }
3044
3045                 THREAD_DEBUG (g_message ("%s: Invoking mono_thread_manage callback on thread %p", __func__, thread));
3046                 if ((thread->manage_callback == NULL) || (thread->manage_callback (thread->root_domain_thread) == TRUE)) {
3047                         wait->handles[wait->num]=handle;
3048                         wait->threads[wait->num]=thread;
3049                         wait->num++;
3050
3051                         THREAD_DEBUG (g_message ("%s: adding thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3052                 } else {
3053                         THREAD_DEBUG (g_message ("%s: ignoring (because of callback) thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3054                 }
3055
3056
3057         } else {
3058                 /* Just ignore the rest, we can't do anything with
3059                  * them yet
3060                  */
3061         }
3062 }
3063
3064 static gboolean
3065 remove_and_abort_threads (gpointer key, gpointer value, gpointer user)
3066 {
3067         struct wait_data *wait=(struct wait_data *)user;
3068         MonoNativeThreadId self = mono_native_thread_id_get ();
3069         MonoInternalThread *thread = (MonoInternalThread *)value;
3070         HANDLE handle;
3071
3072         if (wait->num >= MAXIMUM_WAIT_OBJECTS)
3073                 return FALSE;
3074
3075         /* The finalizer thread is not a background thread */
3076         if (!mono_native_thread_id_equals (thread_get_tid (thread), self)
3077              && (thread->state & ThreadState_Background) != 0
3078              && (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE) == 0
3079         ) {
3080                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3081                 if (handle == NULL)
3082                         return FALSE;
3083
3084                 /* printf ("A: %d\n", wait->num); */
3085                 wait->handles[wait->num]=thread->handle;
3086                 wait->threads[wait->num]=thread;
3087                 wait->num++;
3088
3089                 THREAD_DEBUG (g_print ("%s: Aborting id: %"G_GSIZE_FORMAT"\n", __func__, (gsize)thread->tid));
3090                 mono_thread_internal_stop (thread);
3091                 return TRUE;
3092         }
3093
3094         return !mono_native_thread_id_equals (thread_get_tid (thread), self)
3095                 && !mono_gc_is_finalizer_internal_thread (thread);
3096 }
3097
3098 /**
3099  * mono_threads_set_shutting_down:
3100  *
3101  * Is called by a thread that wants to shut down Mono. If the runtime is already
3102  * shutting down, the calling thread is suspended/stopped, and this function never
3103  * returns.
3104  */
3105 void
3106 mono_threads_set_shutting_down (void)
3107 {
3108         MonoInternalThread *current_thread = mono_thread_internal_current ();
3109
3110         mono_threads_lock ();
3111
3112         if (shutting_down) {
3113                 mono_threads_unlock ();
3114
3115                 /* Make sure we're properly suspended/stopped */
3116
3117                 LOCK_THREAD (current_thread);
3118
3119                 if ((current_thread->state & ThreadState_SuspendRequested) ||
3120                     (current_thread->state & ThreadState_AbortRequested) ||
3121                     (current_thread->state & ThreadState_StopRequested)) {
3122                         UNLOCK_THREAD (current_thread);
3123                         mono_thread_execute_interruption ();
3124                 } else {
3125                         current_thread->state |= ThreadState_Stopped;
3126                         UNLOCK_THREAD (current_thread);
3127                 }
3128
3129                 /*since we're killing the thread, unset the current domain.*/
3130                 mono_domain_unset ();
3131
3132                 /* Wake up other threads potentially waiting for us */
3133                 mono_thread_info_exit ();
3134         } else {
3135                 shutting_down = TRUE;
3136
3137                 /* Not really a background state change, but this will
3138                  * interrupt the main thread if it is waiting for all
3139                  * the other threads.
3140                  */
3141                 SetEvent (background_change_event);
3142
3143                 mono_threads_unlock ();
3144         }
3145 }
3146
3147 void mono_thread_manage (void)
3148 {
3149         struct wait_data wait_data;
3150         struct wait_data *wait = &wait_data;
3151
3152         memset (wait, 0, sizeof (struct wait_data));
3153         /* join each thread that's still running */
3154         THREAD_DEBUG (g_message ("%s: Joining each running thread...", __func__));
3155
3156         mono_threads_lock ();
3157         if(threads==NULL) {
3158                 THREAD_DEBUG (g_message("%s: No threads", __func__));
3159                 mono_threads_unlock ();
3160                 return;
3161         }
3162         mono_threads_unlock ();
3163
3164         do {
3165                 mono_threads_lock ();
3166                 if (shutting_down) {
3167                         /* somebody else is shutting down */
3168                         mono_threads_unlock ();
3169                         break;
3170                 }
3171                 THREAD_DEBUG (g_message ("%s: There are %d threads to join", __func__, mono_g_hash_table_size (threads));
3172                         mono_g_hash_table_foreach (threads, print_tids, NULL));
3173
3174                 ResetEvent (background_change_event);
3175                 wait->num=0;
3176                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3177                 memset (wait->threads, 0, MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3178                 mono_g_hash_table_foreach (threads, build_wait_tids, wait);
3179                 mono_threads_unlock ();
3180                 if(wait->num>0) {
3181                         /* Something to wait for */
3182                         wait_for_tids_or_state_change (wait, INFINITE);
3183                 }
3184                 THREAD_DEBUG (g_message ("%s: I have %d threads after waiting.", __func__, wait->num));
3185         } while(wait->num>0);
3186
3187         /* Mono is shutting down, so just wait for the end */
3188         if (!mono_runtime_try_shutdown ()) {
3189                 /*FIXME mono_thread_suspend probably should call mono_thread_execute_interruption when self interrupting. */
3190                 mono_thread_suspend (mono_thread_internal_current ());
3191                 mono_thread_execute_interruption ();
3192         }
3193
3194         /*
3195          * Remove everything but the finalizer thread and self.
3196          * Also abort all the background threads
3197          * */
3198         do {
3199                 mono_threads_lock ();
3200
3201                 wait->num = 0;
3202                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3203                 memset (wait->threads, 0, MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3204                 mono_g_hash_table_foreach_remove (threads, remove_and_abort_threads, wait);
3205
3206                 mono_threads_unlock ();
3207
3208                 THREAD_DEBUG (g_message ("%s: wait->num is now %d", __func__, wait->num));
3209                 if(wait->num>0) {
3210                         /* Something to wait for */
3211                         wait_for_tids (wait, INFINITE);
3212                 }
3213         } while (wait->num > 0);
3214
3215         /*
3216          * give the subthreads a chance to really quit (this is mainly needed
3217          * to get correct user and system times from getrusage/wait/time(1)).
3218          * This could be removed if we avoid pthread_detach() and use pthread_join().
3219          */
3220         mono_thread_info_yield ();
3221 }
3222
3223 static void
3224 collect_threads_for_suspend (gpointer key, gpointer value, gpointer user_data)
3225 {
3226         MonoInternalThread *thread = (MonoInternalThread*)value;
3227         struct wait_data *wait = (struct wait_data*)user_data;
3228         HANDLE handle;
3229
3230         /*
3231          * We try to exclude threads early, to avoid running into the MAXIMUM_WAIT_OBJECTS
3232          * limitation.
3233          * This needs no locking.
3234          */
3235         if ((thread->state & ThreadState_Suspended) != 0 ||
3236                 (thread->state & ThreadState_Stopped) != 0)
3237                 return;
3238
3239         if (wait->num<MAXIMUM_WAIT_OBJECTS) {
3240                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3241                 if (handle == NULL)
3242                         return;
3243
3244                 wait->handles [wait->num] = handle;
3245                 wait->threads [wait->num] = thread;
3246                 wait->num++;
3247         }
3248 }
3249
3250 /*
3251  * mono_thread_suspend_all_other_threads:
3252  *
3253  *  Suspend all managed threads except the finalizer thread and this thread. It is
3254  * not possible to resume them later.
3255  */
3256 void mono_thread_suspend_all_other_threads (void)
3257 {
3258         struct wait_data wait_data;
3259         struct wait_data *wait = &wait_data;
3260         int i;
3261         MonoNativeThreadId self = mono_native_thread_id_get ();
3262         guint32 eventidx = 0;
3263         gboolean starting, finished;
3264
3265         memset (wait, 0, sizeof (struct wait_data));
3266         /*
3267          * The other threads could be in an arbitrary state at this point, i.e.
3268          * they could be starting up, shutting down etc. This means that there could be
3269          * threads which are not even in the threads hash table yet.
3270          */
3271
3272         /*
3273          * First we set a barrier which will be checked by all threads before they
3274          * are added to the threads hash table, and they will exit if the flag is set.
3275          * This ensures that no threads could be added to the hash later.
3276          * We will use shutting_down as the barrier for now.
3277          */
3278         g_assert (shutting_down);
3279
3280         /*
3281          * We make multiple calls to WaitForMultipleObjects since:
3282          * - we can only wait for MAXIMUM_WAIT_OBJECTS threads
3283          * - some threads could exit without becoming suspended
3284          */
3285         finished = FALSE;
3286         while (!finished) {
3287                 /*
3288                  * Make a copy of the hashtable since we can't do anything with
3289                  * threads while threads_mutex is held.
3290                  */
3291                 wait->num = 0;
3292                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3293                 memset (wait->threads, 0, MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3294                 mono_threads_lock ();
3295                 mono_g_hash_table_foreach (threads, collect_threads_for_suspend, wait);
3296                 mono_threads_unlock ();
3297
3298                 eventidx = 0;
3299                 /* Get the suspended events that we'll be waiting for */
3300                 for (i = 0; i < wait->num; ++i) {
3301                         MonoInternalThread *thread = wait->threads [i];
3302
3303                         if (mono_native_thread_id_equals (thread_get_tid (thread), self)
3304                              || mono_gc_is_finalizer_internal_thread (thread)
3305                              || (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE)
3306                         ) {
3307                                 //CloseHandle (wait->handles [i]);
3308                                 wait->threads [i] = NULL; /* ignore this thread in next loop */
3309                                 continue;
3310                         }
3311
3312                         LOCK_THREAD (thread);
3313
3314                         if ((thread->state & ThreadState_Suspended) != 0 ||
3315                                 (thread->state & ThreadState_StopRequested) != 0 ||
3316                                 (thread->state & ThreadState_Stopped) != 0) {
3317                                 UNLOCK_THREAD (thread);
3318                                 CloseHandle (wait->handles [i]);
3319                                 wait->threads [i] = NULL; /* ignore this thread in next loop */
3320                                 continue;
3321                         }
3322
3323                         ++eventidx;
3324
3325                         /* Convert abort requests into suspend requests */
3326                         if ((thread->state & ThreadState_AbortRequested) != 0)
3327                                 thread->state &= ~ThreadState_AbortRequested;
3328
3329                         thread->state |= ThreadState_SuspendRequested;
3330
3331                         /* Signal the thread to suspend + calls UNLOCK_THREAD (thread) */
3332                         async_suspend_internal (thread, TRUE);
3333                 }
3334                 if (eventidx <= 0) {
3335                         /*
3336                          * If there are threads which are starting up, we wait until they
3337                          * are suspended when they try to register in the threads hash.
3338                          * This is guaranteed to finish, since the threads which can create new
3339                          * threads get suspended after a while.
3340                          * FIXME: The finalizer thread can still create new threads.
3341                          */
3342                         mono_threads_lock ();
3343                         if (threads_starting_up)
3344                                 starting = mono_g_hash_table_size (threads_starting_up) > 0;
3345                         else
3346                                 starting = FALSE;
3347                         mono_threads_unlock ();
3348                         if (starting)
3349                                 mono_thread_info_sleep (100, NULL);
3350                         else
3351                                 finished = TRUE;
3352                 }
3353         }
3354 }
3355
3356 typedef struct {
3357         MonoInternalThread *thread;
3358         MonoStackFrameInfo *frames;
3359         int nframes, max_frames;
3360         int nthreads, max_threads;
3361         MonoInternalThread **threads;
3362 } ThreadDumpUserData;
3363
3364 static gboolean thread_dump_requested;
3365
3366 /* This needs to be async safe */
3367 static gboolean
3368 collect_frame (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
3369 {
3370         ThreadDumpUserData *ud = (ThreadDumpUserData *)data;
3371
3372         if (ud->nframes < ud->max_frames) {
3373                 memcpy (&ud->frames [ud->nframes], frame, sizeof (MonoStackFrameInfo));
3374                 ud->nframes ++;
3375         }
3376
3377         return FALSE;
3378 }
3379
3380 /* This needs to be async safe */
3381 static SuspendThreadResult
3382 get_thread_dump (MonoThreadInfo *info, gpointer ud)
3383 {
3384         ThreadDumpUserData *user_data = (ThreadDumpUserData *)ud;
3385         MonoInternalThread *thread = user_data->thread;
3386
3387 #if 0
3388 /* This no longer works with remote unwinding */
3389 #ifndef HOST_WIN32
3390         wapi_desc = wapi_current_thread_desc ();
3391         g_string_append_printf (text, " tid=0x%p this=0x%p %s\n", (gpointer)(gsize)thread->tid, thread,  wapi_desc);
3392         free (wapi_desc);
3393 #endif
3394 #endif
3395
3396         if (thread == mono_thread_internal_current ())
3397                 mono_get_eh_callbacks ()->mono_walk_stack_with_ctx (collect_frame, NULL, MONO_UNWIND_SIGNAL_SAFE, ud);
3398         else
3399                 mono_get_eh_callbacks ()->mono_walk_stack_with_state (collect_frame, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, ud);
3400
3401         return MonoResumeThread;
3402 }
3403
3404 typedef struct {
3405         int nthreads, max_threads;
3406         MonoInternalThread **threads;
3407 } CollectThreadsUserData;
3408
3409 static void
3410 collect_thread (gpointer key, gpointer value, gpointer user)
3411 {
3412         CollectThreadsUserData *ud = (CollectThreadsUserData *)user;
3413         MonoInternalThread *thread = (MonoInternalThread *)value;
3414
3415         if (ud->nthreads < ud->max_threads)
3416                 ud->threads [ud->nthreads ++] = thread;
3417 }
3418
3419 /*
3420  * Collect running threads into the THREADS array.
3421  * THREADS should be an array allocated on the stack.
3422  */
3423 static int
3424 collect_threads (MonoInternalThread **thread_array, int max_threads)
3425 {
3426         CollectThreadsUserData ud;
3427
3428         memset (&ud, 0, sizeof (ud));
3429         /* This array contains refs, but its on the stack, so its ok */
3430         ud.threads = thread_array;
3431         ud.max_threads = max_threads;
3432
3433         mono_threads_lock ();
3434         mono_g_hash_table_foreach (threads, collect_thread, &ud);
3435         mono_threads_unlock ();
3436
3437         return ud.nthreads;
3438 }
3439
3440 static void
3441 dump_thread (MonoInternalThread *thread, ThreadDumpUserData *ud)
3442 {
3443         GString* text = g_string_new (0);
3444         char *name;
3445         GError *error = NULL;
3446         int i;
3447
3448         ud->thread = thread;
3449         ud->nframes = 0;
3450
3451         /* Collect frames for the thread */
3452         if (thread == mono_thread_internal_current ()) {
3453                 get_thread_dump (mono_thread_info_current (), ud);
3454         } else {
3455                 mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, ud);
3456         }
3457
3458         /*
3459          * Do all the non async-safe work outside of get_thread_dump.
3460          */
3461         if (thread->name) {
3462                 name = g_utf16_to_utf8 (thread->name, thread->name_len, NULL, NULL, &error);
3463                 g_assert (!error);
3464                 g_string_append_printf (text, "\n\"%s\"", name);
3465                 g_free (name);
3466         }
3467         else if (thread->threadpool_thread) {
3468                 g_string_append (text, "\n\"<threadpool thread>\"");
3469         } else {
3470                 g_string_append (text, "\n\"<unnamed thread>\"");
3471         }
3472
3473         for (i = 0; i < ud->nframes; ++i) {
3474                 MonoStackFrameInfo *frame = &ud->frames [i];
3475                 MonoMethod *method = NULL;
3476
3477                 if (frame->type == FRAME_TYPE_MANAGED)
3478                         method = mono_jit_info_get_method (frame->ji);
3479
3480                 if (method) {
3481                         gchar *location = mono_debug_print_stack_frame (method, frame->native_offset, frame->domain);
3482                         g_string_append_printf (text, "  %s\n", location);
3483                         g_free (location);
3484                 } else {
3485                         g_string_append_printf (text, "  at <unknown> <0x%05x>\n", frame->native_offset);
3486                 }
3487         }
3488
3489         fprintf (stdout, "%s", text->str);
3490
3491 #if PLATFORM_WIN32 && TARGET_WIN32 && _DEBUG
3492         OutputDebugStringA(text->str);
3493 #endif
3494
3495         g_string_free (text, TRUE);
3496         fflush (stdout);
3497 }
3498
3499 void
3500 mono_threads_perform_thread_dump (void)
3501 {
3502         ThreadDumpUserData ud;
3503         MonoInternalThread *thread_array [128];
3504         int tindex, nthreads;
3505
3506         if (!thread_dump_requested)
3507                 return;
3508
3509         printf ("Full thread dump:\n");
3510
3511         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3512         nthreads = collect_threads (thread_array, 128);
3513
3514         memset (&ud, 0, sizeof (ud));
3515         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3516         ud.max_frames = 256;
3517
3518         for (tindex = 0; tindex < nthreads; ++tindex)
3519                 dump_thread (thread_array [tindex], &ud);
3520
3521         g_free (ud.frames);
3522
3523         thread_dump_requested = FALSE;
3524 }
3525
3526 /* Obtain the thread dump of all threads */
3527 static void
3528 mono_threads_get_thread_dump (MonoArray **out_threads, MonoArray **out_stack_frames)
3529 {
3530         MonoError error;
3531
3532         ThreadDumpUserData ud;
3533         MonoInternalThread *thread_array [128];
3534         MonoDomain *domain = mono_domain_get ();
3535         MonoDebugSourceLocation *location;
3536         int tindex, nthreads;
3537
3538         mono_error_init (&error);
3539
3540         *out_threads = NULL;
3541         *out_stack_frames = NULL;
3542
3543         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3544         nthreads = collect_threads (thread_array, 128);
3545
3546         memset (&ud, 0, sizeof (ud));
3547         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3548         ud.max_frames = 256;
3549
3550         *out_threads = mono_array_new_checked (domain, mono_defaults.thread_class, nthreads, &error);
3551         if (!is_ok (&error))
3552                 goto leave;
3553         *out_stack_frames = mono_array_new_checked (domain, mono_defaults.array_class, nthreads, &error);
3554         if (!is_ok (&error))
3555                 goto leave;
3556
3557         for (tindex = 0; tindex < nthreads; ++tindex) {
3558                 MonoInternalThread *thread = thread_array [tindex];
3559                 MonoArray *thread_frames;
3560                 int i;
3561
3562                 ud.thread = thread;
3563                 ud.nframes = 0;
3564
3565                 /* Collect frames for the thread */
3566                 if (thread == mono_thread_internal_current ()) {
3567                         get_thread_dump (mono_thread_info_current (), &ud);
3568                 } else {
3569                         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, &ud);
3570                 }
3571
3572                 mono_array_setref_fast (*out_threads, tindex, mono_thread_current_for_thread (thread));
3573
3574                 thread_frames = mono_array_new_checked (domain, mono_defaults.stack_frame_class, ud.nframes, &error);
3575                 if (!is_ok (&error))
3576                         goto leave;
3577                 mono_array_setref_fast (*out_stack_frames, tindex, thread_frames);
3578
3579                 for (i = 0; i < ud.nframes; ++i) {
3580                         MonoStackFrameInfo *frame = &ud.frames [i];
3581                         MonoMethod *method = NULL;
3582                         MonoStackFrame *sf = (MonoStackFrame *)mono_object_new_checked (domain, mono_defaults.stack_frame_class, &error);
3583                         if (!mono_error_ok (&error))
3584                                 goto leave;
3585
3586                         sf->native_offset = frame->native_offset;
3587
3588                         if (frame->type == FRAME_TYPE_MANAGED)
3589                                 method = mono_jit_info_get_method (frame->ji);
3590
3591                         if (method) {
3592                                 sf->method_address = (gsize) frame->ji->code_start;
3593
3594                                 MonoReflectionMethod *rm = mono_method_get_object_checked (domain, method, NULL, &error);
3595                                 mono_error_raise_exception (&error); /* FIXME don't raise here */
3596                                 MONO_OBJECT_SETREF (sf, method, rm);
3597
3598                                 location = mono_debug_lookup_source_location (method, frame->native_offset, domain);
3599                                 if (location) {
3600                                         sf->il_offset = location->il_offset;
3601
3602                                         if (location && location->source_file) {
3603                                                 MONO_OBJECT_SETREF (sf, filename, mono_string_new (domain, location->source_file));
3604                                                 sf->line = location->row;
3605                                                 sf->column = location->column;
3606                                         }
3607                                         mono_debug_free_source_location (location);
3608                                 } else {
3609                                         sf->il_offset = -1;
3610                                 }
3611                         }
3612                         mono_array_setref (thread_frames, i, sf);
3613                 }
3614         }
3615
3616 leave:
3617         g_free (ud.frames);
3618         mono_error_raise_exception (&error); /* FIXME don't raise here */
3619 }
3620
3621 /**
3622  * mono_threads_request_thread_dump:
3623  *
3624  *   Ask all threads except the current to print their stacktrace to stdout.
3625  */
3626 void
3627 mono_threads_request_thread_dump (void)
3628 {
3629         /*The new thread dump code runs out of the finalizer thread. */
3630         thread_dump_requested = TRUE;
3631         mono_gc_finalize_notify ();
3632 }
3633
3634 struct ref_stack {
3635         gpointer *refs;
3636         gint allocated; /* +1 so that refs [allocated] == NULL */
3637         gint bottom;
3638 };
3639
3640 typedef struct ref_stack RefStack;
3641
3642 static RefStack *
3643 ref_stack_new (gint initial_size)
3644 {
3645         RefStack *rs;
3646
3647         initial_size = MAX (initial_size, 16) + 1;
3648         rs = g_new0 (RefStack, 1);
3649         rs->refs = g_new0 (gpointer, initial_size);
3650         rs->allocated = initial_size;
3651         return rs;
3652 }
3653
3654 static void
3655 ref_stack_destroy (gpointer ptr)
3656 {
3657         RefStack *rs = (RefStack *)ptr;
3658
3659         if (rs != NULL) {
3660                 g_free (rs->refs);
3661                 g_free (rs);
3662         }
3663 }
3664
3665 static void
3666 ref_stack_push (RefStack *rs, gpointer ptr)
3667 {
3668         g_assert (rs != NULL);
3669
3670         if (rs->bottom >= rs->allocated) {
3671                 rs->refs = (void **)g_realloc (rs->refs, rs->allocated * 2 * sizeof (gpointer) + 1);
3672                 rs->allocated <<= 1;
3673                 rs->refs [rs->allocated] = NULL;
3674         }
3675         rs->refs [rs->bottom++] = ptr;
3676 }
3677
3678 static void
3679 ref_stack_pop (RefStack *rs)
3680 {
3681         if (rs == NULL || rs->bottom == 0)
3682                 return;
3683
3684         rs->bottom--;
3685         rs->refs [rs->bottom] = NULL;
3686 }
3687
3688 static gboolean
3689 ref_stack_find (RefStack *rs, gpointer ptr)
3690 {
3691         gpointer *refs;
3692
3693         if (rs == NULL)
3694                 return FALSE;
3695
3696         for (refs = rs->refs; refs && *refs; refs++) {
3697                 if (*refs == ptr)
3698                         return TRUE;
3699         }
3700         return FALSE;
3701 }
3702
3703 /*
3704  * mono_thread_push_appdomain_ref:
3705  *
3706  *   Register that the current thread may have references to objects in domain
3707  * @domain on its stack. Each call to this function should be paired with a
3708  * call to pop_appdomain_ref.
3709  */
3710 void
3711 mono_thread_push_appdomain_ref (MonoDomain *domain)
3712 {
3713         MonoInternalThread *thread = mono_thread_internal_current ();
3714
3715         if (thread) {
3716                 /* printf ("PUSH REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, domain->friendly_name); */
3717                 SPIN_LOCK (thread->lock_thread_id);
3718                 if (thread->appdomain_refs == NULL)
3719                         thread->appdomain_refs = ref_stack_new (16);
3720                 ref_stack_push ((RefStack *)thread->appdomain_refs, domain);
3721                 SPIN_UNLOCK (thread->lock_thread_id);
3722         }
3723 }
3724
3725 void
3726 mono_thread_pop_appdomain_ref (void)
3727 {
3728         MonoInternalThread *thread = mono_thread_internal_current ();
3729
3730         if (thread) {
3731                 /* printf ("POP REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, ((MonoDomain*)(thread->appdomain_refs->data))->friendly_name); */
3732                 SPIN_LOCK (thread->lock_thread_id);
3733                 ref_stack_pop ((RefStack *)thread->appdomain_refs);
3734                 SPIN_UNLOCK (thread->lock_thread_id);
3735         }
3736 }
3737
3738 gboolean
3739 mono_thread_internal_has_appdomain_ref (MonoInternalThread *thread, MonoDomain *domain)
3740 {
3741         gboolean res;
3742         SPIN_LOCK (thread->lock_thread_id);
3743         res = ref_stack_find ((RefStack *)thread->appdomain_refs, domain);
3744         SPIN_UNLOCK (thread->lock_thread_id);
3745         return res;
3746 }
3747
3748 gboolean
3749 mono_thread_has_appdomain_ref (MonoThread *thread, MonoDomain *domain)
3750 {
3751         return mono_thread_internal_has_appdomain_ref (thread->internal_thread, domain);
3752 }
3753
3754 typedef struct abort_appdomain_data {
3755         struct wait_data wait;
3756         MonoDomain *domain;
3757 } abort_appdomain_data;
3758
3759 static void
3760 collect_appdomain_thread (gpointer key, gpointer value, gpointer user_data)
3761 {
3762         MonoInternalThread *thread = (MonoInternalThread*)value;
3763         abort_appdomain_data *data = (abort_appdomain_data*)user_data;
3764         MonoDomain *domain = data->domain;
3765
3766         if (mono_thread_internal_has_appdomain_ref (thread, domain)) {
3767                 /* printf ("ABORTING THREAD %p BECAUSE IT REFERENCES DOMAIN %s.\n", thread->tid, domain->friendly_name); */
3768
3769                 if(data->wait.num<MAXIMUM_WAIT_OBJECTS) {
3770                         HANDLE handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3771                         if (handle == NULL)
3772                                 return;
3773                         data->wait.handles [data->wait.num] = handle;
3774                         data->wait.threads [data->wait.num] = thread;
3775                         data->wait.num++;
3776                 } else {
3777                         /* Just ignore the rest, we can't do anything with
3778                          * them yet
3779                          */
3780                 }
3781         }
3782 }
3783
3784 /*
3785  * mono_threads_abort_appdomain_threads:
3786  *
3787  *   Abort threads which has references to the given appdomain.
3788  */
3789 gboolean
3790 mono_threads_abort_appdomain_threads (MonoDomain *domain, int timeout)
3791 {
3792 #ifdef __native_client__
3793         return FALSE;
3794 #endif
3795
3796         abort_appdomain_data user_data;
3797         gint64 start_time;
3798         int orig_timeout = timeout;
3799         int i;
3800
3801         THREAD_DEBUG (g_message ("%s: starting abort", __func__));
3802
3803         start_time = mono_msec_ticks ();
3804         do {
3805                 mono_threads_lock ();
3806
3807                 user_data.domain = domain;
3808                 user_data.wait.num = 0;
3809                 /* This shouldn't take any locks */
3810                 mono_g_hash_table_foreach (threads, collect_appdomain_thread, &user_data);
3811                 mono_threads_unlock ();
3812
3813                 if (user_data.wait.num > 0) {
3814                         /* Abort the threads outside the threads lock */
3815                         for (i = 0; i < user_data.wait.num; ++i)
3816                                 ves_icall_System_Threading_Thread_Abort (user_data.wait.threads [i], NULL);
3817
3818                         /*
3819                          * We should wait for the threads either to abort, or to leave the
3820                          * domain. We can't do the latter, so we wait with a timeout.
3821                          */
3822                         wait_for_tids (&user_data.wait, 100);
3823                 }
3824
3825                 /* Update remaining time */
3826                 timeout -= mono_msec_ticks () - start_time;
3827                 start_time = mono_msec_ticks ();
3828
3829                 if (orig_timeout != -1 && timeout < 0)
3830                         return FALSE;
3831         }
3832         while (user_data.wait.num > 0);
3833
3834         THREAD_DEBUG (g_message ("%s: abort done", __func__));
3835
3836         return TRUE;
3837 }
3838
3839 static void
3840 clear_cached_culture (gpointer key, gpointer value, gpointer user_data)
3841 {
3842         MonoInternalThread *thread = (MonoInternalThread*)value;
3843         MonoDomain *domain = (MonoDomain*)user_data;
3844         int i;
3845
3846         /* No locking needed here */
3847         /* FIXME: why no locking? writes to the cache are protected with synch_cs above */
3848
3849         if (thread->cached_culture_info) {
3850                 for (i = 0; i < NUM_CACHED_CULTURES * 2; ++i) {
3851                         MonoObject *obj = mono_array_get (thread->cached_culture_info, MonoObject*, i);
3852                         if (obj && obj->vtable->domain == domain)
3853                                 mono_array_set (thread->cached_culture_info, MonoObject*, i, NULL);
3854                 }
3855         }
3856 }
3857
3858 /*
3859  * mono_threads_clear_cached_culture:
3860  *
3861  *   Clear the cached_current_culture from all threads if it is in the
3862  * given appdomain.
3863  */
3864 void
3865 mono_threads_clear_cached_culture (MonoDomain *domain)
3866 {
3867         mono_threads_lock ();
3868         mono_g_hash_table_foreach (threads, clear_cached_culture, domain);
3869         mono_threads_unlock ();
3870 }
3871
3872 /*
3873  * mono_thread_get_undeniable_exception:
3874  *
3875  *   Return an exception which needs to be raised when leaving a catch clause.
3876  * This is used for undeniable exception propagation.
3877  */
3878 MonoException*
3879 mono_thread_get_undeniable_exception (void)
3880 {
3881         MonoInternalThread *thread = mono_thread_internal_current ();
3882
3883         if (thread && thread->abort_exc && !is_running_protected_wrapper ()) {
3884                 /*
3885                  * FIXME: Clear the abort exception and return an AppDomainUnloaded
3886                  * exception if the thread no longer references a dying appdomain.
3887                  */
3888                 thread->abort_exc->trace_ips = NULL;
3889                 thread->abort_exc->stack_trace = NULL;
3890                 return thread->abort_exc;
3891         }
3892
3893         return NULL;
3894 }
3895
3896 #if MONO_SMALL_CONFIG
3897 #define NUM_STATIC_DATA_IDX 4
3898 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3899         64, 256, 1024, 4096
3900 };
3901 #else
3902 #define NUM_STATIC_DATA_IDX 8
3903 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3904         1024, 4096, 16384, 65536, 262144, 1048576, 4194304, 16777216
3905 };
3906 #endif
3907
3908 static MonoBitSet *thread_reference_bitmaps [NUM_STATIC_DATA_IDX];
3909 static MonoBitSet *context_reference_bitmaps [NUM_STATIC_DATA_IDX];
3910
3911 static void
3912 mark_slots (void *addr, MonoBitSet **bitmaps, MonoGCMarkFunc mark_func, void *gc_data)
3913 {
3914         gpointer *static_data = (gpointer *)addr;
3915
3916         for (int i = 0; i < NUM_STATIC_DATA_IDX; ++i) {
3917                 void **ptr = (void **)static_data [i];
3918
3919                 if (!ptr)
3920                         continue;
3921
3922                 MONO_BITSET_FOREACH (bitmaps [i], idx, {
3923                         void **p = ptr + idx;
3924
3925                         if (*p)
3926                                 mark_func ((MonoObject**)p, gc_data);
3927                 });
3928         }
3929 }
3930
3931 static void
3932 mark_tls_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
3933 {
3934         mark_slots (addr, thread_reference_bitmaps, mark_func, gc_data);
3935 }
3936
3937 static void
3938 mark_ctx_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
3939 {
3940         mark_slots (addr, context_reference_bitmaps, mark_func, gc_data);
3941 }
3942
3943 /*
3944  *  mono_alloc_static_data
3945  *
3946  *   Allocate memory blocks for storing threads or context static data
3947  */
3948 static void
3949 mono_alloc_static_data (gpointer **static_data_ptr, guint32 offset, gboolean threadlocal)
3950 {
3951         guint idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
3952         int i;
3953
3954         gpointer* static_data = *static_data_ptr;
3955         if (!static_data) {
3956                 static MonoGCDescriptor tls_desc = MONO_GC_DESCRIPTOR_NULL;
3957                 static MonoGCDescriptor ctx_desc = MONO_GC_DESCRIPTOR_NULL;
3958
3959                 if (mono_gc_user_markers_supported ()) {
3960                         if (tls_desc == MONO_GC_DESCRIPTOR_NULL)
3961                                 tls_desc = mono_gc_make_root_descr_user (mark_tls_slots);
3962
3963                         if (ctx_desc == MONO_GC_DESCRIPTOR_NULL)
3964                                 ctx_desc = mono_gc_make_root_descr_user (mark_ctx_slots);
3965                 }
3966
3967                 static_data = (void **)mono_gc_alloc_fixed (static_data_size [0], threadlocal ? tls_desc : ctx_desc,
3968                         threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
3969                         threadlocal ? "managed thread-static variables" : "managed context-static variables");
3970                 *static_data_ptr = static_data;
3971                 static_data [0] = static_data;
3972         }
3973
3974         for (i = 1; i <= idx; ++i) {
3975                 if (static_data [i])
3976                         continue;
3977
3978                 if (mono_gc_user_markers_supported ())
3979                         static_data [i] = g_malloc0 (static_data_size [i]);
3980                 else
3981                         static_data [i] = mono_gc_alloc_fixed (static_data_size [i], MONO_GC_DESCRIPTOR_NULL,
3982                                 threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
3983                                 threadlocal ? "managed thread-static variables" : "managed context-static variables");
3984         }
3985 }
3986
3987 static void
3988 mono_free_static_data (gpointer* static_data)
3989 {
3990         int i;
3991         for (i = 1; i < NUM_STATIC_DATA_IDX; ++i) {
3992                 gpointer p = static_data [i];
3993                 if (!p)
3994                         continue;
3995                 /*
3996                  * At this point, the static data pointer array is still registered with the
3997                  * GC, so must ensure that mark_tls_slots() will not encounter any invalid
3998                  * data.  Freeing the individual arrays without first nulling their slots
3999                  * would make it possible for mark_tls/ctx_slots() to encounter a pointer to
4000                  * such an already freed array.  See bug #13813.
4001                  */
4002                 static_data [i] = NULL;
4003                 mono_memory_write_barrier ();
4004                 if (mono_gc_user_markers_supported ())
4005                         g_free (p);
4006                 else
4007                         mono_gc_free_fixed (p);
4008         }
4009         mono_gc_free_fixed (static_data);
4010 }
4011
4012 /*
4013  *  mono_init_static_data_info
4014  *
4015  *   Initializes static data counters
4016  */
4017 static void mono_init_static_data_info (StaticDataInfo *static_data)
4018 {
4019         static_data->idx = 0;
4020         static_data->offset = 0;
4021         static_data->freelist = NULL;
4022 }
4023
4024 /*
4025  *  mono_alloc_static_data_slot
4026  *
4027  *   Generates an offset for static data. static_data contains the counters
4028  *  used to generate it.
4029  */
4030 static guint32
4031 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align)
4032 {
4033         if (!static_data->idx && !static_data->offset) {
4034                 /*
4035                  * we use the first chunk of the first allocation also as
4036                  * an array for the rest of the data
4037                  */
4038                 static_data->offset = sizeof (gpointer) * NUM_STATIC_DATA_IDX;
4039         }
4040         static_data->offset += align - 1;
4041         static_data->offset &= ~(align - 1);
4042         if (static_data->offset + size >= static_data_size [static_data->idx]) {
4043                 static_data->idx ++;
4044                 g_assert (size <= static_data_size [static_data->idx]);
4045                 g_assert (static_data->idx < NUM_STATIC_DATA_IDX);
4046                 static_data->offset = 0;
4047         }
4048         guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (static_data->idx, static_data->offset, 0);
4049         static_data->offset += size;
4050         return offset;
4051 }
4052
4053 /*
4054  * ensure thread static fields already allocated are valid for thread
4055  * This function is called when a thread is created or on thread attach.
4056  */
4057 static void
4058 thread_adjust_static_data (MonoInternalThread *thread)
4059 {
4060         mono_threads_lock ();
4061         if (thread_static_info.offset || thread_static_info.idx > 0) {
4062                 /* get the current allocated size */
4063                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (thread_static_info.idx, thread_static_info.offset, 0);
4064                 mono_alloc_static_data (&thread->static_data, offset, TRUE);
4065         }
4066         mono_threads_unlock ();
4067 }
4068
4069 /*
4070  * LOCKING: requires that threads_mutex is held
4071  */
4072 static void
4073 context_adjust_static_data (MonoAppContext *ctx)
4074 {
4075         if (context_static_info.offset || context_static_info.idx > 0) {
4076                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (context_static_info.idx, context_static_info.offset, 0);
4077                 mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4078                 ctx->data->static_data = ctx->static_data;
4079         }
4080 }
4081
4082 /*
4083  * LOCKING: requires that threads_mutex is held
4084  */
4085 static void
4086 alloc_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4087 {
4088         MonoInternalThread *thread = (MonoInternalThread *)value;
4089         guint32 offset = GPOINTER_TO_UINT (user);
4090
4091         mono_alloc_static_data (&(thread->static_data), offset, TRUE);
4092 }
4093
4094 /*
4095  * LOCKING: requires that threads_mutex is held
4096  */
4097 static void
4098 alloc_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4099 {
4100         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4101
4102         if (!ctx)
4103                 return;
4104
4105         guint32 offset = GPOINTER_TO_UINT (user);
4106         mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4107         ctx->data->static_data = ctx->static_data;
4108 }
4109
4110 static StaticDataFreeList*
4111 search_slot_in_freelist (StaticDataInfo *static_data, guint32 size, guint32 align)
4112 {
4113         StaticDataFreeList* prev = NULL;
4114         StaticDataFreeList* tmp = static_data->freelist;
4115         while (tmp) {
4116                 if (tmp->size == size) {
4117                         if (prev)
4118                                 prev->next = tmp->next;
4119                         else
4120                                 static_data->freelist = tmp->next;
4121                         return tmp;
4122                 }
4123                 prev = tmp;
4124                 tmp = tmp->next;
4125         }
4126         return NULL;
4127 }
4128
4129 #if SIZEOF_VOID_P == 4
4130 #define ONE_P 1
4131 #else
4132 #define ONE_P 1ll
4133 #endif
4134
4135 static void
4136 update_reference_bitmap (MonoBitSet **sets, guint32 offset, uintptr_t *bitmap, int numbits)
4137 {
4138         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4139         if (!sets [idx])
4140                 sets [idx] = mono_bitset_new (static_data_size [idx] / sizeof (uintptr_t), 0);
4141         MonoBitSet *rb = sets [idx];
4142         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4143         offset /= sizeof (uintptr_t);
4144         /* offset is now the bitmap offset */
4145         for (int i = 0; i < numbits; ++i) {
4146                 if (bitmap [i / sizeof (uintptr_t)] & (ONE_P << (i & (sizeof (uintptr_t) * 8 -1))))
4147                         mono_bitset_set_fast (rb, offset + i);
4148         }
4149 }
4150
4151 static void
4152 clear_reference_bitmap (MonoBitSet **sets, guint32 offset, guint32 size)
4153 {
4154         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4155         MonoBitSet *rb = sets [idx];
4156         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4157         offset /= sizeof (uintptr_t);
4158         /* offset is now the bitmap offset */
4159         for (int i = 0; i < size / sizeof (uintptr_t); i++)
4160                 mono_bitset_clear_fast (rb, offset + i);
4161 }
4162
4163 guint32
4164 mono_alloc_special_static_data (guint32 static_type, guint32 size, guint32 align, uintptr_t *bitmap, int numbits)
4165 {
4166         g_assert (static_type == SPECIAL_STATIC_THREAD || static_type == SPECIAL_STATIC_CONTEXT);
4167
4168         StaticDataInfo *info;
4169         MonoBitSet **sets;
4170
4171         if (static_type == SPECIAL_STATIC_THREAD) {
4172                 info = &thread_static_info;
4173                 sets = thread_reference_bitmaps;
4174         } else {
4175                 info = &context_static_info;
4176                 sets = context_reference_bitmaps;
4177         }
4178
4179         mono_threads_lock ();
4180
4181         StaticDataFreeList *item = search_slot_in_freelist (info, size, align);
4182         guint32 offset;
4183
4184         if (item) {
4185                 offset = item->offset;
4186                 g_free (item);
4187         } else {
4188                 offset = mono_alloc_static_data_slot (info, size, align);
4189         }
4190
4191         update_reference_bitmap (sets, offset, bitmap, numbits);
4192
4193         if (static_type == SPECIAL_STATIC_THREAD) {
4194                 /* This can be called during startup */
4195                 if (threads != NULL)
4196                         mono_g_hash_table_foreach (threads, alloc_thread_static_data_helper, GUINT_TO_POINTER (offset));
4197         } else {
4198                 if (contexts != NULL)
4199                         g_hash_table_foreach (contexts, alloc_context_static_data_helper, GUINT_TO_POINTER (offset));
4200
4201                 ACCESS_SPECIAL_STATIC_OFFSET (offset, type) = SPECIAL_STATIC_OFFSET_TYPE_CONTEXT;
4202         }
4203
4204         mono_threads_unlock ();
4205
4206         return offset;
4207 }
4208
4209 gpointer
4210 mono_get_special_static_data_for_thread (MonoInternalThread *thread, guint32 offset)
4211 {
4212         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4213
4214         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4215                 return get_thread_static_data (thread, offset);
4216         } else {
4217                 return get_context_static_data (thread->current_appcontext, offset);
4218         }
4219 }
4220
4221 gpointer
4222 mono_get_special_static_data (guint32 offset)
4223 {
4224         return mono_get_special_static_data_for_thread (mono_thread_internal_current (), offset);
4225 }
4226
4227 typedef struct {
4228         guint32 offset;
4229         guint32 size;
4230 } OffsetSize;
4231
4232 /*
4233  * LOCKING: requires that threads_mutex is held
4234  */
4235 static void
4236 free_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4237 {
4238         MonoInternalThread *thread = (MonoInternalThread *)value;
4239         OffsetSize *data = (OffsetSize *)user;
4240         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4241         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4242         char *ptr;
4243
4244         if (!thread->static_data || !thread->static_data [idx])
4245                 return;
4246         ptr = ((char*) thread->static_data [idx]) + off;
4247         mono_gc_bzero_atomic (ptr, data->size);
4248 }
4249
4250 /*
4251  * LOCKING: requires that threads_mutex is held
4252  */
4253 static void
4254 free_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4255 {
4256         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4257
4258         if (!ctx)
4259                 return;
4260
4261         OffsetSize *data = (OffsetSize *)user;
4262         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4263         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4264         char *ptr;
4265
4266         if (!ctx->static_data || !ctx->static_data [idx])
4267                 return;
4268
4269         ptr = ((char*) ctx->static_data [idx]) + off;
4270         mono_gc_bzero_atomic (ptr, data->size);
4271 }
4272
4273 static void
4274 do_free_special_slot (guint32 offset, guint32 size)
4275 {
4276         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4277         MonoBitSet **sets;
4278         StaticDataInfo *info;
4279
4280         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4281                 info = &thread_static_info;
4282                 sets = thread_reference_bitmaps;
4283         } else {
4284                 info = &context_static_info;
4285                 sets = context_reference_bitmaps;
4286         }
4287
4288         guint32 data_offset = offset;
4289         ACCESS_SPECIAL_STATIC_OFFSET (data_offset, type) = 0;
4290         OffsetSize data = { data_offset, size };
4291
4292         clear_reference_bitmap (sets, data.offset, data.size);
4293
4294         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4295                 if (threads != NULL)
4296                         mono_g_hash_table_foreach (threads, free_thread_static_data_helper, &data);
4297         } else {
4298                 if (contexts != NULL)
4299                         g_hash_table_foreach (contexts, free_context_static_data_helper, &data);
4300         }
4301
4302         if (!mono_runtime_is_shutting_down ()) {
4303                 StaticDataFreeList *item = g_new0 (StaticDataFreeList, 1);
4304
4305                 item->offset = offset;
4306                 item->size = size;
4307
4308                 item->next = info->freelist;
4309                 info->freelist = item;
4310         }
4311 }
4312
4313 static void
4314 do_free_special (gpointer key, gpointer value, gpointer data)
4315 {
4316         MonoClassField *field = (MonoClassField *)key;
4317         guint32 offset = GPOINTER_TO_UINT (value);
4318         gint32 align;
4319         guint32 size;
4320         size = mono_type_size (field->type, &align);
4321         do_free_special_slot (offset, size);
4322 }
4323
4324 void
4325 mono_alloc_special_static_data_free (GHashTable *special_static_fields)
4326 {
4327         mono_threads_lock ();
4328
4329         g_hash_table_foreach (special_static_fields, do_free_special, NULL);
4330
4331         mono_threads_unlock ();
4332 }
4333
4334 static void
4335 mono_special_static_data_free_slot (guint32 offset, guint32 size)
4336 {
4337         /* Only ever called for ThreadLocal instances */
4338         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_THREAD);
4339
4340         mono_threads_lock ();
4341         do_free_special_slot (offset, size);
4342         mono_threads_unlock ();
4343 }
4344
4345 #ifdef HOST_WIN32
4346 static void CALLBACK dummy_apc (ULONG_PTR param)
4347 {
4348 }
4349 #endif
4350
4351 /*
4352  * mono_thread_execute_interruption
4353  *
4354  * Performs the operation that the requested thread state requires (abort,
4355  * suspend or stop)
4356  */
4357 static MonoException*
4358 mono_thread_execute_interruption (void)
4359 {
4360         MonoInternalThread *thread = mono_thread_internal_current ();
4361         MonoThread *sys_thread = mono_thread_current ();
4362
4363         LOCK_THREAD (thread);
4364
4365         /* MonoThread::interruption_requested can only be changed with atomics */
4366         if (InterlockedCompareExchange (&thread->interruption_requested, FALSE, TRUE)) {
4367                 /* this will consume pending APC calls */
4368 #ifdef HOST_WIN32
4369                 WaitForSingleObjectEx (GetCurrentThread(), 0, TRUE);
4370 #endif
4371                 InterlockedDecrement (&thread_interruption_requested);
4372
4373                 /* Clear the interrupted flag of the thread so it can wait again */
4374                 mono_thread_info_clear_self_interrupt ();
4375         }
4376
4377         /* If there's a pending exception and an AbortRequested, the pending exception takes precedence */
4378         if (sys_thread->pending_exception) {
4379                 MonoException *exc;
4380
4381                 exc = sys_thread->pending_exception;
4382                 sys_thread->pending_exception = NULL;
4383
4384                 UNLOCK_THREAD (thread);
4385                 return exc;
4386         } else if ((thread->state & ThreadState_AbortRequested) != 0) {
4387                 UNLOCK_THREAD (thread);
4388                 g_assert (sys_thread->pending_exception == NULL);
4389                 if (thread->abort_exc == NULL) {
4390                         /*
4391                          * This might be racy, but it has to be called outside the lock
4392                          * since it calls managed code.
4393                          */
4394                         MONO_OBJECT_SETREF (thread, abort_exc, mono_get_exception_thread_abort ());
4395                 }
4396                 return thread->abort_exc;
4397         }
4398         else if ((thread->state & ThreadState_SuspendRequested) != 0) {
4399                 /* calls UNLOCK_THREAD (thread) */
4400                 self_suspend_internal ();
4401                 return NULL;
4402         }
4403         else if ((thread->state & ThreadState_StopRequested) != 0) {
4404                 /* FIXME: do this through the JIT? */
4405
4406                 UNLOCK_THREAD (thread);
4407
4408                 mono_thread_exit ();
4409                 return NULL;
4410         } else if (thread->thread_interrupt_requested) {
4411
4412                 thread->thread_interrupt_requested = FALSE;
4413                 UNLOCK_THREAD (thread);
4414
4415                 return(mono_get_exception_thread_interrupted ());
4416         }
4417
4418         UNLOCK_THREAD (thread);
4419
4420         return NULL;
4421 }
4422
4423 /*
4424  * mono_thread_request_interruption
4425  *
4426  * A signal handler can call this method to request the interruption of a
4427  * thread. The result of the interruption will depend on the current state of
4428  * the thread. If the result is an exception that needs to be throw, it is
4429  * provided as return value.
4430  */
4431 MonoException*
4432 mono_thread_request_interruption (gboolean running_managed)
4433 {
4434         MonoInternalThread *thread = mono_thread_internal_current ();
4435
4436         /* The thread may already be stopping */
4437         if (thread == NULL)
4438                 return NULL;
4439
4440 #ifdef HOST_WIN32
4441         if (thread->interrupt_on_stop &&
4442                 thread->state & ThreadState_StopRequested &&
4443                 thread->state & ThreadState_Background)
4444                 ExitThread (1);
4445 #endif
4446
4447         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4448                 return NULL;
4449         InterlockedIncrement (&thread_interruption_requested);
4450
4451         if (!running_managed || is_running_protected_wrapper ()) {
4452                 /* Can't stop while in unmanaged code. Increase the global interruption
4453                    request count. When exiting the unmanaged method the count will be
4454                    checked and the thread will be interrupted. */
4455
4456                 /* this will awake the thread if it is in WaitForSingleObject
4457                    or similar */
4458                 /* Our implementation of this function ignores the func argument */
4459 #ifdef HOST_WIN32
4460                 QueueUserAPC ((PAPCFUNC)dummy_apc, thread->handle, (ULONG_PTR)NULL);
4461 #else
4462                 mono_thread_info_self_interrupt ();
4463 #endif
4464                 return NULL;
4465         }
4466         else {
4467                 return mono_thread_execute_interruption ();
4468         }
4469 }
4470
4471 /*This function should be called by a thread after it has exited all of
4472  * its handle blocks at interruption time.*/
4473 MonoException*
4474 mono_thread_resume_interruption (void)
4475 {
4476         MonoInternalThread *thread = mono_thread_internal_current ();
4477         gboolean still_aborting;
4478
4479         /* The thread may already be stopping */
4480         if (thread == NULL)
4481                 return NULL;
4482
4483         LOCK_THREAD (thread);
4484         still_aborting = (thread->state & ThreadState_AbortRequested) != 0;
4485         UNLOCK_THREAD (thread);
4486
4487         /*This can happen if the protected block called Thread::ResetAbort*/
4488         if (!still_aborting)
4489                 return FALSE;
4490
4491         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4492                 return NULL;
4493         InterlockedIncrement (&thread_interruption_requested);
4494
4495         mono_thread_info_self_interrupt ();
4496
4497         return mono_thread_execute_interruption ();
4498 }
4499
4500 gboolean mono_thread_interruption_requested ()
4501 {
4502         if (thread_interruption_requested) {
4503                 MonoInternalThread *thread = mono_thread_internal_current ();
4504                 /* The thread may already be stopping */
4505                 if (thread != NULL)
4506                         return (thread->interruption_requested);
4507         }
4508         return FALSE;
4509 }
4510
4511 static MonoException*
4512 mono_thread_interruption_checkpoint_request (gboolean bypass_abort_protection)
4513 {
4514         MonoInternalThread *thread = mono_thread_internal_current ();
4515
4516         /* The thread may already be stopping */
4517         if (thread == NULL)
4518                 return NULL;
4519
4520         if (thread->interruption_requested && (bypass_abort_protection || !is_running_protected_wrapper ())) {
4521                 MonoException* exc = mono_thread_execute_interruption ();
4522                 if (exc)
4523                         return exc;
4524         }
4525         return NULL;
4526 }
4527
4528 /*
4529  * Performs the interruption of the current thread, if one has been requested,
4530  * and the thread is not running a protected wrapper.
4531  * Return the exception which needs to be thrown, if any.
4532  */
4533 MonoException*
4534 mono_thread_interruption_checkpoint (void)
4535 {
4536         return mono_thread_interruption_checkpoint_request (FALSE);
4537 }
4538
4539 /*
4540  * Performs the interruption of the current thread, if one has been requested.
4541  * Return the exception which needs to be thrown, if any.
4542  */
4543 MonoException*
4544 mono_thread_force_interruption_checkpoint_noraise (void)
4545 {
4546         return mono_thread_interruption_checkpoint_request (TRUE);
4547 }
4548
4549 /*
4550  * mono_set_pending_exception:
4551  *
4552  *   Set the pending exception of the current thread to EXC.
4553  * The exception will be thrown when execution returns to managed code.
4554  */
4555 void
4556 mono_set_pending_exception (MonoException *exc)
4557 {
4558         MonoThread *thread = mono_thread_current ();
4559
4560         /* The thread may already be stopping */
4561         if (thread == NULL)
4562                 return;
4563
4564         MONO_OBJECT_SETREF (thread, pending_exception, exc);
4565
4566     mono_thread_request_interruption (FALSE);
4567 }
4568
4569 /**
4570  * mono_thread_interruption_request_flag:
4571  *
4572  * Returns the address of a flag that will be non-zero if an interruption has
4573  * been requested for a thread. The thread to interrupt may not be the current
4574  * thread, so an additional call to mono_thread_interruption_requested() or
4575  * mono_thread_interruption_checkpoint() is allways needed if the flag is not
4576  * zero.
4577  */
4578 gint32* mono_thread_interruption_request_flag ()
4579 {
4580         return &thread_interruption_requested;
4581 }
4582
4583 void
4584 mono_thread_init_apartment_state (void)
4585 {
4586 #ifdef HOST_WIN32
4587         MonoInternalThread* thread = mono_thread_internal_current ();
4588
4589         /* Positive return value indicates success, either
4590          * S_OK if this is first CoInitialize call, or
4591          * S_FALSE if CoInitialize already called, but with same
4592          * threading model. A negative value indicates failure,
4593          * probably due to trying to change the threading model.
4594          */
4595         if (CoInitializeEx(NULL, (thread->apartment_state == ThreadApartmentState_STA)
4596                         ? COINIT_APARTMENTTHREADED
4597                         : COINIT_MULTITHREADED) < 0) {
4598                 thread->apartment_state = ThreadApartmentState_Unknown;
4599         }
4600 #endif
4601 }
4602
4603 void
4604 mono_thread_cleanup_apartment_state (void)
4605 {
4606 #ifdef HOST_WIN32
4607         MonoInternalThread* thread = mono_thread_internal_current ();
4608
4609         if (thread && thread->apartment_state != ThreadApartmentState_Unknown) {
4610                 CoUninitialize ();
4611         }
4612 #endif
4613 }
4614
4615 void
4616 mono_thread_set_state (MonoInternalThread *thread, MonoThreadState state)
4617 {
4618         LOCK_THREAD (thread);
4619         thread->state |= state;
4620         UNLOCK_THREAD (thread);
4621 }
4622
4623 void
4624 mono_thread_clr_state (MonoInternalThread *thread, MonoThreadState state)
4625 {
4626         LOCK_THREAD (thread);
4627         thread->state &= ~state;
4628         UNLOCK_THREAD (thread);
4629 }
4630
4631 gboolean
4632 mono_thread_test_state (MonoInternalThread *thread, MonoThreadState test)
4633 {
4634         gboolean ret = FALSE;
4635
4636         LOCK_THREAD (thread);
4637
4638         if ((thread->state & test) != 0) {
4639                 ret = TRUE;
4640         }
4641
4642         UNLOCK_THREAD (thread);
4643
4644         return ret;
4645 }
4646
4647 static gboolean has_tls_get = FALSE;
4648
4649 void
4650 mono_runtime_set_has_tls_get (gboolean val)
4651 {
4652         has_tls_get = val;
4653 }
4654
4655 gboolean
4656 mono_runtime_has_tls_get (void)
4657 {
4658         return has_tls_get;
4659 }
4660
4661 static void
4662 self_interrupt_thread (void *_unused)
4663 {
4664         MonoThreadInfo *info = mono_thread_info_current ();
4665         MonoException *exc = mono_thread_execute_interruption ();
4666         if (exc) /*We must use _with_context since we didn't trampoline into the runtime*/
4667                 mono_raise_exception_with_context (exc, &info->thread_saved_state [ASYNC_SUSPEND_STATE_INDEX].ctx); /* FIXME using thread_saved_state [ASYNC_SUSPEND_STATE_INDEX] can race with another suspend coming in. */
4668         g_assert_not_reached (); /*this MUST not happen since we can't resume from an async call*/
4669 }
4670
4671 static gboolean
4672 mono_jit_info_match (MonoJitInfo *ji, gpointer ip)
4673 {
4674         if (!ji)
4675                 return FALSE;
4676         return ji->code_start <= ip && (char*)ip < (char*)ji->code_start + ji->code_size;
4677 }
4678
4679 static gboolean
4680 last_managed (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
4681 {
4682         MonoJitInfo **dest = (MonoJitInfo **)data;
4683         *dest = frame->ji;
4684         return TRUE;
4685 }
4686
4687 static MonoJitInfo*
4688 mono_thread_info_get_last_managed (MonoThreadInfo *info)
4689 {
4690         MonoJitInfo *ji = NULL;
4691         if (!info)
4692                 return NULL;
4693
4694         /*
4695          * The suspended thread might be holding runtime locks. Make sure we don't try taking
4696          * any runtime locks while unwinding. In coop case we shouldn't safepoint in regions
4697          * where we hold runtime locks.
4698          */
4699         if (!mono_threads_is_coop_enabled ())
4700                 mono_thread_info_set_is_async_context (TRUE);
4701         mono_get_eh_callbacks ()->mono_walk_stack_with_state (last_managed, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, &ji);
4702         if (!mono_threads_is_coop_enabled ())
4703                 mono_thread_info_set_is_async_context (FALSE);
4704         return ji;
4705 }
4706
4707 typedef struct {
4708         MonoInternalThread *thread;
4709         gboolean install_async_abort;
4710         MonoThreadInfoInterruptToken *interrupt_token;
4711 } AbortThreadData;
4712
4713 static SuspendThreadResult
4714 async_abort_critical (MonoThreadInfo *info, gpointer ud)
4715 {
4716         AbortThreadData *data = (AbortThreadData *)ud;
4717         MonoInternalThread *thread = data->thread;
4718         MonoJitInfo *ji = NULL;
4719         gboolean protected_wrapper;
4720         gboolean running_managed;
4721
4722         if (mono_get_eh_callbacks ()->mono_install_handler_block_guard (mono_thread_info_get_suspend_state (info)))
4723                 return MonoResumeThread;
4724
4725         /*someone is already interrupting it*/
4726         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4727                 return MonoResumeThread;
4728
4729         InterlockedIncrement (&thread_interruption_requested);
4730
4731         ji = mono_thread_info_get_last_managed (info);
4732         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4733         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4734
4735         if (!protected_wrapper && running_managed) {
4736                 /*We are in managed code*/
4737                 /*Set the thread to call */
4738                 if (data->install_async_abort)
4739                         mono_thread_info_setup_async_call (info, self_interrupt_thread, NULL);
4740                 return MonoResumeThread;
4741         } else {
4742                 /*
4743                  * This will cause waits to be broken.
4744                  * It will also prevent the thread from entering a wait, so if the thread returns
4745                  * from the wait before it receives the abort signal, it will just spin in the wait
4746                  * functions in the io-layer until the signal handler calls QueueUserAPC which will
4747                  * make it return.
4748                  */
4749                 data->interrupt_token = mono_thread_info_prepare_interrupt (info);
4750
4751                 return MonoResumeThread;
4752         }
4753 }
4754
4755 static void
4756 async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort)
4757 {
4758         AbortThreadData data;
4759
4760         g_assert (thread != mono_thread_internal_current ());
4761
4762         data.thread = thread;
4763         data.install_async_abort = install_async_abort;
4764         data.interrupt_token = NULL;
4765
4766         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), TRUE, async_abort_critical, &data);
4767         if (data.interrupt_token)
4768                 mono_thread_info_finish_interrupt (data.interrupt_token);
4769         /*FIXME we need to wait for interruption to complete -- figure out how much into interruption we should wait for here*/
4770 }
4771
4772 static void
4773 self_abort_internal (void)
4774 {
4775         MonoException *exc;
4776
4777         /* FIXME this is insanely broken, it doesn't cause interruption to happen synchronously
4778          * since passing FALSE to mono_thread_request_interruption makes sure it returns NULL */
4779
4780         exc = mono_thread_request_interruption (TRUE);
4781         if (exc)
4782                 mono_raise_exception (exc);
4783
4784         mono_thread_info_self_interrupt ();
4785 }
4786
4787 typedef struct {
4788         MonoInternalThread *thread;
4789         gboolean interrupt;
4790         MonoThreadInfoInterruptToken *interrupt_token;
4791 } SuspendThreadData;
4792
4793 static SuspendThreadResult
4794 async_suspend_critical (MonoThreadInfo *info, gpointer ud)
4795 {
4796         SuspendThreadData *data = (SuspendThreadData *)ud;
4797         MonoInternalThread *thread = data->thread;
4798         MonoJitInfo *ji = NULL;
4799         gboolean protected_wrapper;
4800         gboolean running_managed;
4801
4802         ji = mono_thread_info_get_last_managed (info);
4803         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4804         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4805
4806         if (running_managed && !protected_wrapper) {
4807                 thread->state &= ~ThreadState_SuspendRequested;
4808                 thread->state |= ThreadState_Suspended;
4809                 return KeepSuspended;
4810         } else {
4811                 if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 0)
4812                         InterlockedIncrement (&thread_interruption_requested);
4813                 if (data->interrupt)
4814                         data->interrupt_token = mono_thread_info_prepare_interrupt ((MonoThreadInfo *)thread->thread_info);
4815
4816                 return MonoResumeThread;
4817         }
4818 }
4819
4820 /* LOCKING: called with @thread synch_cs held, and releases it */
4821 static void
4822 async_suspend_internal (MonoInternalThread *thread, gboolean interrupt)
4823 {
4824         SuspendThreadData data;
4825
4826         g_assert (thread != mono_thread_internal_current ());
4827
4828         data.thread = thread;
4829         data.interrupt = interrupt;
4830         data.interrupt_token = NULL;
4831
4832         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), interrupt, async_suspend_critical, &data);
4833         if (data.interrupt_token)
4834                 mono_thread_info_finish_interrupt (data.interrupt_token);
4835
4836         UNLOCK_THREAD (thread);
4837 }
4838
4839 /* LOCKING: called with @thread synch_cs held, and releases it */
4840 static void
4841 self_suspend_internal (void)
4842 {
4843         MonoInternalThread *thread;
4844
4845         thread = mono_thread_internal_current ();
4846
4847         mono_thread_info_begin_self_suspend ();
4848         thread->state &= ~ThreadState_SuspendRequested;
4849         thread->state |= ThreadState_Suspended;
4850
4851         UNLOCK_THREAD (thread);
4852
4853         mono_thread_info_end_self_suspend ();
4854 }
4855
4856 /*
4857  * mono_thread_is_foreign:
4858  * @thread: the thread to query
4859  *
4860  * This function allows one to determine if a thread was created by the mono runtime and has
4861  * a well defined lifecycle or it's a foreigh one, created by the native environment.
4862  *
4863  * Returns: TRUE if @thread was not created by the runtime.
4864  */
4865 mono_bool
4866 mono_thread_is_foreign (MonoThread *thread)
4867 {
4868         MonoThreadInfo *info = (MonoThreadInfo *)thread->internal_thread->thread_info;
4869         return info->runtime_thread == FALSE;
4870 }
4871
4872 /*
4873  * mono_add_joinable_thread:
4874  *
4875  *   Add TID to the list of joinable threads.
4876  * LOCKING: Acquires the threads lock.
4877  */
4878 void
4879 mono_threads_add_joinable_thread (gpointer tid)
4880 {
4881 #ifndef HOST_WIN32
4882         /*
4883          * We cannot detach from threads because it causes problems like
4884          * 2fd16f60/r114307. So we collect them and join them when
4885          * we have time (in he finalizer thread).
4886          */
4887         joinable_threads_lock ();
4888         if (!joinable_threads)
4889                 joinable_threads = g_hash_table_new (NULL, NULL);
4890         g_hash_table_insert (joinable_threads, tid, tid);
4891         joinable_thread_count ++;
4892         joinable_threads_unlock ();
4893
4894         mono_gc_finalize_notify ();
4895 #endif
4896 }
4897
4898 /*
4899  * mono_threads_join_threads:
4900  *
4901  *   Join all joinable threads. This is called from the finalizer thread.
4902  * LOCKING: Acquires the threads lock.
4903  */
4904 void
4905 mono_threads_join_threads (void)
4906 {
4907 #ifndef HOST_WIN32
4908         GHashTableIter iter;
4909         gpointer key;
4910         gpointer tid;
4911         pthread_t thread;
4912         gboolean found;
4913
4914         /* Fastpath */
4915         if (!joinable_thread_count)
4916                 return;
4917
4918         while (TRUE) {
4919                 joinable_threads_lock ();
4920                 found = FALSE;
4921                 if (g_hash_table_size (joinable_threads)) {
4922                         g_hash_table_iter_init (&iter, joinable_threads);
4923                         g_hash_table_iter_next (&iter, &key, (void**)&tid);
4924                         thread = (pthread_t)tid;
4925                         g_hash_table_remove (joinable_threads, key);
4926                         joinable_thread_count --;
4927                         found = TRUE;
4928                 }
4929                 joinable_threads_unlock ();
4930                 if (found) {
4931                         if (thread != pthread_self ())
4932                                 /* This shouldn't block */
4933                                 pthread_join (thread, NULL);
4934                 } else {
4935                         break;
4936                 }
4937         }
4938 #endif
4939 }
4940
4941 /*
4942  * mono_thread_join:
4943  *
4944  *   Wait for thread TID to exit.
4945  * LOCKING: Acquires the threads lock.
4946  */
4947 void
4948 mono_thread_join (gpointer tid)
4949 {
4950 #ifndef HOST_WIN32
4951         pthread_t thread;
4952         gboolean found = FALSE;
4953
4954         joinable_threads_lock ();
4955         if (!joinable_threads)
4956                 joinable_threads = g_hash_table_new (NULL, NULL);
4957         if (g_hash_table_lookup (joinable_threads, tid)) {
4958                 g_hash_table_remove (joinable_threads, tid);
4959                 joinable_thread_count --;
4960                 found = TRUE;
4961         }
4962         joinable_threads_unlock ();
4963         if (!found)
4964                 return;
4965         thread = (pthread_t)tid;
4966         pthread_join (thread, NULL);
4967 #endif
4968 }
4969
4970 void
4971 mono_thread_internal_check_for_interruption_critical (MonoInternalThread *thread)
4972 {
4973         if ((thread->state & (ThreadState_StopRequested | ThreadState_SuspendRequested)) != 0)
4974                 mono_thread_interruption_checkpoint ();
4975 }
4976
4977 static inline gboolean
4978 is_appdomainunloaded_exception (MonoClass *klass)
4979 {
4980         return klass == mono_class_get_appdomain_unloaded_exception_class ();
4981 }
4982
4983 static inline gboolean
4984 is_threadabort_exception (MonoClass *klass)
4985 {
4986         return klass == mono_defaults.threadabortexception_class;
4987 }
4988
4989 void
4990 mono_thread_internal_unhandled_exception (MonoObject* exc)
4991 {
4992         if (mono_runtime_unhandled_exception_policy_get () == MONO_UNHANDLED_POLICY_CURRENT) {
4993                 MonoClass *klass = exc->vtable->klass;
4994                 if (is_threadabort_exception (klass)) {
4995                         mono_thread_internal_reset_abort (mono_thread_internal_current ());
4996                 } else if (!is_appdomainunloaded_exception (klass)) {
4997                         mono_unhandled_exception (exc);
4998                         if (mono_environment_exitcode_get () == 1)
4999                                 exit (255);
5000                 }
5001         }
5002 }
5003
5004 void
5005 ves_icall_System_Threading_Thread_GetStackTraces (MonoArray **out_threads, MonoArray **out_stack_traces)
5006 {
5007         mono_threads_get_thread_dump (out_threads, out_stack_traces);
5008 }