mono/metadata/threads.c

   1 /*
   2  * threads.c: Thread support internal calls
   3  *
   4  * Author:
   5  *      Dick Porter (dick@ximian.com)
   6  *      Paolo Molaro (lupus@ximian.com)
   7  *      Patrik Torstensson (patrik.torstensson@labs2.com)
   8  *
   9  * Copyright 2001-2003 Ximian, Inc (http://www.ximian.com)
  10  * Copyright 2004-2009 Novell, Inc (http://www.novell.com)
  11  * Copyright 2011 Xamarin, Inc (http://www.xamarin.com)
  12  * Licensed under the MIT license. See LICENSE file in the project root for full license information.
  13  */
  14
  15 #include <config.h>
  16
  17 #include <glib.h>
  18 #include <string.h>
  19
  20 #include <mono/metadata/object.h>
  21 #include <mono/metadata/domain-internals.h>
  22 #include <mono/metadata/profiler-private.h>
  23 #include <mono/metadata/threads.h>
  24 #include <mono/metadata/threads-types.h>
  25 #include <mono/metadata/exception.h>
  26 #include <mono/metadata/environment.h>
  27 #include <mono/metadata/monitor.h>
  28 #include <mono/metadata/gc-internals.h>
  29 #include <mono/metadata/marshal.h>
  30 #include <mono/metadata/runtime.h>
  31 #include <mono/io-layer/io-layer.h>
  32 #include <mono/metadata/object-internals.h>
  33 #include <mono/metadata/mono-debug-debugger.h>
  34 #include <mono/utils/monobitset.h>
  35 #include <mono/utils/mono-compiler.h>
  36 #include <mono/utils/mono-mmap.h>
  37 #include <mono/utils/mono-membar.h>
  38 #include <mono/utils/mono-time.h>
  39 #include <mono/utils/mono-threads.h>
  40 #include <mono/utils/mono-threads-coop.h>
  41 #include <mono/utils/hazard-pointer.h>
  42 #include <mono/utils/mono-tls.h>
  43 #include <mono/utils/atomic.h>
  44 #include <mono/utils/mono-memory-model.h>
  45 #include <mono/utils/mono-threads-coop.h>
  46 #include <mono/utils/mono-error-internals.h>
  47
  48 #include <mono/metadata/gc-internals.h>
  49 #include <mono/metadata/reflection-internals.h>
  50
  51 #ifdef HAVE_SIGNAL_H
  52 #include <signal.h>
  53 #endif
  54
  55 #if defined(PLATFORM_ANDROID) && !defined(TARGET_ARM64) && !defined(TARGET_AMD64)
  56 #define USE_TKILL_ON_ANDROID 1
  57 #endif
  58
  59 #ifdef PLATFORM_ANDROID
  60 #include <errno.h>
  61
  62 #ifdef USE_TKILL_ON_ANDROID
  63 extern int tkill (pid_t tid, int signal);
  64 #endif
  65 #endif
  66
  67 /*#define THREAD_DEBUG(a) do { a; } while (0)*/
  68 #define THREAD_DEBUG(a)
  69 /*#define THREAD_WAIT_DEBUG(a) do { a; } while (0)*/
  70 #define THREAD_WAIT_DEBUG(a)
  71 /*#define LIBGC_DEBUG(a) do { a; } while (0)*/
  72 #define LIBGC_DEBUG(a)
  73
  74 #define SPIN_TRYLOCK(i) (InterlockedCompareExchange (&(i), 1, 0) == 0)
  75 #define SPIN_LOCK(i) do { \
  76                                 if (SPIN_TRYLOCK (i)) \
  77                                         break; \
  78                         } while (1)
  79
  80 #define SPIN_UNLOCK(i) i = 0
  81
  82 #define LOCK_THREAD(thread) lock_thread((thread))
  83 #define UNLOCK_THREAD(thread) unlock_thread((thread))
  84
  85 typedef struct
  86 {
  87         guint32 (*func)(void *);
  88         MonoThread *obj;
  89         MonoObject *delegate;
  90         void *start_arg;
  91 } StartInfo;
  92
  93 typedef union {
  94         gint32 ival;
  95         gfloat fval;
  96 } IntFloatUnion;
  97
  98 typedef union {
  99         gint64 ival;
 100         gdouble fval;
 101 } LongDoubleUnion;
 102
 103 typedef struct _StaticDataFreeList StaticDataFreeList;
 104 struct _StaticDataFreeList {
 105         StaticDataFreeList *next;
 106         guint32 offset;
 107         guint32 size;
 108 };
 109
 110 typedef struct {
 111         int idx;
 112         int offset;
 113         StaticDataFreeList *freelist;
 114 } StaticDataInfo;
 115
 116 /* Number of cached culture objects in the MonoThread->cached_culture_info array
 117  * (per-type): we use the first NUM entries for CultureInfo and the last for
 118  * UICultureInfo. So the size of the array is really NUM_CACHED_CULTURES * 2.
 119  */
 120 #define NUM_CACHED_CULTURES 4
 121 #define CULTURES_START_IDX 0
 122 #define UICULTURES_START_IDX NUM_CACHED_CULTURES
 123
 124 /* Controls access to the 'threads' hash table */
 125 static void mono_threads_lock (void);
 126 static void mono_threads_unlock (void);
 127 static MonoCoopMutex threads_mutex;
 128
 129 /* Controls access to the 'joinable_threads' hash table */
 130 #define joinable_threads_lock() mono_os_mutex_lock (&joinable_threads_mutex)
 131 #define joinable_threads_unlock() mono_os_mutex_unlock (&joinable_threads_mutex)
 132 static mono_mutex_t joinable_threads_mutex;
 133
 134 /* Holds current status of static data heap */
 135 static StaticDataInfo thread_static_info;
 136 static StaticDataInfo context_static_info;
 137
 138 /* The hash of existing threads (key is thread ID, value is
 139  * MonoInternalThread*) that need joining before exit
 140  */
 141 static MonoGHashTable *threads=NULL;
 142
 143 /* List of app context GC handles.
 144  * Added to from ves_icall_System_Runtime_Remoting_Contexts_Context_RegisterContext ().
 145  */
 146 static GHashTable *contexts = NULL;
 147
 148 /* Cleanup queue for contexts. */
 149 static MonoReferenceQueue *context_queue;
 150
 151 /*
 152  * Threads which are starting up and they are not in the 'threads' hash yet.
 153  * When handle_store is called for a thread, it will be removed from this hash table.
 154  * Protected by mono_threads_lock ().
 155  */
 156 static MonoGHashTable *threads_starting_up = NULL;
 157
 158 /* The TLS key that holds the MonoObject assigned to each thread */
 159 static MonoNativeTlsKey current_object_key;
 160
 161 /* Contains tids */
 162 /* Protected by the threads lock */
 163 static GHashTable *joinable_threads;
 164 static int joinable_thread_count;
 165
 166 #ifdef MONO_HAVE_FAST_TLS
 167 /* we need to use both the Tls* functions and __thread because
 168  * the gc needs to see all the threads
 169  */
 170 MONO_FAST_TLS_DECLARE(tls_current_object);
 171 #define SET_CURRENT_OBJECT(x) do { \
 172         MONO_FAST_TLS_SET (tls_current_object, x); \
 173         mono_native_tls_set_value (current_object_key, x); \
 174 } while (FALSE)
 175 #define GET_CURRENT_OBJECT() ((MonoInternalThread*) MONO_FAST_TLS_GET (tls_current_object))
 176 #else
 177 #define SET_CURRENT_OBJECT(x) mono_native_tls_set_value (current_object_key, x)
 178 #define GET_CURRENT_OBJECT() (MonoInternalThread*) mono_native_tls_get_value (current_object_key)
 179 #endif
 180
 181 /* function called at thread start */
 182 static MonoThreadStartCB mono_thread_start_cb = NULL;
 183
 184 /* function called at thread attach */
 185 static MonoThreadAttachCB mono_thread_attach_cb = NULL;
 186
 187 /* function called at thread cleanup */
 188 static MonoThreadCleanupFunc mono_thread_cleanup_fn = NULL;
 189
 190 /* The default stack size for each thread */
 191 static guint32 default_stacksize = 0;
 192 #define default_stacksize_for_thread(thread) ((thread)->stack_size? (thread)->stack_size: default_stacksize)
 193
 194 static void thread_adjust_static_data (MonoInternalThread *thread);
 195 static void context_adjust_static_data (MonoAppContext *ctx);
 196 static void mono_free_static_data (gpointer* static_data);
 197 static void mono_init_static_data_info (StaticDataInfo *static_data);
 198 static guint32 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align);
 199 static gboolean mono_thread_resume (MonoInternalThread* thread);
 200 static void async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort);
 201 static void self_abort_internal (MonoError *error);
 202 static void async_suspend_internal (MonoInternalThread *thread, gboolean interrupt);
 203 static void self_suspend_internal (void);
 204
 205 static MonoException* mono_thread_execute_interruption (void);
 206 static void ref_stack_destroy (gpointer rs);
 207
 208 /* Spin lock for InterlockedXXX 64 bit functions */
 209 #define mono_interlocked_lock() mono_os_mutex_lock (&interlocked_mutex)
 210 #define mono_interlocked_unlock() mono_os_mutex_unlock (&interlocked_mutex)
 211 static mono_mutex_t interlocked_mutex;
 212
 213 /* global count of thread interruptions requested */
 214 static gint32 thread_interruption_requested = 0;
 215
 216 /* Event signaled when a thread changes its background mode */
 217 static HANDLE background_change_event;
 218
 219 static gboolean shutting_down = FALSE;
 220
 221 static gint32 managed_thread_id_counter = 0;
 222
 223 /* Class lazy loading functions */
 224 static GENERATE_GET_CLASS_WITH_CACHE (appdomain_unloaded_exception, System, AppDomainUnloadedException)
 225
 226 static void
 227 mono_threads_lock (void)
 228 {
 229         mono_locks_coop_acquire (&threads_mutex, ThreadsLock);
 230 }
 231
 232 static void
 233 mono_threads_unlock (void)
 234 {
 235         mono_locks_coop_release (&threads_mutex, ThreadsLock);
 236 }
 237
 238
 239 static guint32
 240 get_next_managed_thread_id (void)
 241 {
 242         return InterlockedIncrement (&managed_thread_id_counter);
 243 }
 244
 245 MonoNativeTlsKey
 246 mono_thread_get_tls_key (void)
 247 {
 248         return current_object_key;
 249 }
 250
 251 gint32
 252 mono_thread_get_tls_offset (void)
 253 {
 254         int offset = -1;
 255
 256 #ifdef HOST_WIN32
 257         if (current_object_key)
 258                 offset = current_object_key;
 259 #else
 260         MONO_THREAD_VAR_OFFSET (tls_current_object,offset);
 261 #endif
 262         return offset;
 263 }
 264
 265 static inline MonoNativeThreadId
 266 thread_get_tid (MonoInternalThread *thread)
 267 {
 268         /* We store the tid as a guint64 to keep the object layout constant between platforms */
 269         return MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid);
 270 }
 271
 272 /* handle_store() and handle_remove() manage the array of threads that
 273  * still need to be waited for when the main thread exits.
 274  *
 275  * If handle_store() returns FALSE the thread must not be started
 276  * because Mono is shutting down.
 277  */
 278 static gboolean handle_store(MonoThread *thread, gboolean force_attach)
 279 {
 280         mono_threads_lock ();
 281
 282         THREAD_DEBUG (g_message ("%s: thread %p ID %"G_GSIZE_FORMAT, __func__, thread, (gsize)thread->internal_thread->tid));
 283
 284         if (threads_starting_up)
 285                 mono_g_hash_table_remove (threads_starting_up, thread);
 286
 287         if (shutting_down && !force_attach) {
 288                 mono_threads_unlock ();
 289                 return FALSE;
 290         }
 291
 292         if(threads==NULL) {
 293                 MONO_GC_REGISTER_ROOT_FIXED (threads, MONO_ROOT_SOURCE_THREADING, "threads table");
 294                 threads=mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "threads table");
 295         }
 296
 297         /* We don't need to duplicate thread->handle, because it is
 298          * only closed when the thread object is finalized by the GC.
 299          */
 300         g_assert (thread->internal_thread);
 301         mono_g_hash_table_insert(threads, (gpointer)(gsize)(thread->internal_thread->tid),
 302                                  thread->internal_thread);
 303
 304         mono_threads_unlock ();
 305
 306         return TRUE;
 307 }
 308
 309 static gboolean handle_remove(MonoInternalThread *thread)
 310 {
 311         gboolean ret;
 312         gsize tid = thread->tid;
 313
 314         THREAD_DEBUG (g_message ("%s: thread ID %"G_GSIZE_FORMAT, __func__, tid));
 315
 316         mono_threads_lock ();
 317
 318         if (threads) {
 319                 /* We have to check whether the thread object for the
 320                  * tid is still the same in the table because the
 321                  * thread might have been destroyed and the tid reused
 322                  * in the meantime, in which case the tid would be in
 323                  * the table, but with another thread object.
 324                  */
 325                 if (mono_g_hash_table_lookup (threads, (gpointer)tid) == thread) {
 326                         mono_g_hash_table_remove (threads, (gpointer)tid);
 327                         ret = TRUE;
 328                 } else {
 329                         ret = FALSE;
 330                 }
 331         }
 332         else
 333                 ret = FALSE;
 334
 335         mono_threads_unlock ();
 336
 337         /* Don't close the handle here, wait for the object finalizer
 338          * to do it. Otherwise, the following race condition applies:
 339          *
 340          * 1) Thread exits (and handle_remove() closes the handle)
 341          *
 342          * 2) Some other handle is reassigned the same slot
 343          *
 344          * 3) Another thread tries to join the first thread, and
 345          * blocks waiting for the reassigned handle to be signalled
 346          * (which might never happen).  This is possible, because the
 347          * thread calling Join() still has a reference to the first
 348          * thread's object.
 349          */
 350         return ret;
 351 }
 352
 353 static void ensure_synch_cs_set (MonoInternalThread *thread)
 354 {
 355         MonoCoopMutex *synch_cs;
 356
 357         if (thread->synch_cs != NULL) {
 358                 return;
 359         }
 360
 361         synch_cs = g_new0 (MonoCoopMutex, 1);
 362         mono_coop_mutex_init_recursive (synch_cs);
 363
 364         if (InterlockedCompareExchangePointer ((gpointer *)&thread->synch_cs,
 365                                                synch_cs, NULL) != NULL) {
 366                 /* Another thread must have installed this CS */
 367                 mono_coop_mutex_destroy (synch_cs);
 368                 g_free (synch_cs);
 369         }
 370 }
 371
 372 static inline void
 373 lock_thread (MonoInternalThread *thread)
 374 {
 375         if (!thread->synch_cs)
 376                 ensure_synch_cs_set (thread);
 377
 378         g_assert (thread->synch_cs);
 379
 380         mono_coop_mutex_lock (thread->synch_cs);
 381 }
 382
 383 static inline void
 384 unlock_thread (MonoInternalThread *thread)
 385 {
 386         mono_coop_mutex_unlock (thread->synch_cs);
 387 }
 388
 389 /*
 390  * NOTE: this function can be called also for threads different from the current one:
 391  * make sure no code called from it will ever assume it is run on the thread that is
 392  * getting cleaned up.
 393  */
 394 static void thread_cleanup (MonoInternalThread *thread)
 395 {
 396         g_assert (thread != NULL);
 397
 398         if (thread->abort_state_handle) {
 399                 mono_gchandle_free (thread->abort_state_handle);
 400                 thread->abort_state_handle = 0;
 401         }
 402         thread->abort_exc = NULL;
 403         thread->current_appcontext = NULL;
 404
 405         /*
 406          * This is necessary because otherwise we might have
 407          * cross-domain references which will not get cleaned up when
 408          * the target domain is unloaded.
 409          */
 410         if (thread->cached_culture_info) {
 411                 int i;
 412                 for (i = 0; i < NUM_CACHED_CULTURES * 2; ++i)
 413                         mono_array_set (thread->cached_culture_info, MonoObject*, i, NULL);
 414         }
 415
 416         /*
 417          * thread->synch_cs can be NULL if this was called after
 418          * ves_icall_System_Threading_InternalThread_Thread_free_internal.
 419          * This can happen only during shutdown.
 420          * The shutting_down flag is not always set, so we can't assert on it.
 421          */
 422         if (thread->synch_cs)
 423                 LOCK_THREAD (thread);
 424
 425         thread->state |= ThreadState_Stopped;
 426         thread->state &= ~ThreadState_Background;
 427
 428         if (thread->synch_cs)
 429                 UNLOCK_THREAD (thread);
 430
 431         /*
 432         An interruption request has leaked to cleanup. Adjust the global counter.
 433
 434         This can happen is the abort source thread finds the abortee (this) thread
 435         in unmanaged code. If this thread never trips back to managed code or check
 436         the local flag it will be left set and positively unbalance the global counter.
 437
 438         Leaving the counter unbalanced will cause a performance degradation since all threads
 439         will now keep checking their local flags all the time.
 440         */
 441         if (InterlockedExchange (&thread->interruption_requested, 0))
 442                 InterlockedDecrement (&thread_interruption_requested);
 443
 444         /* if the thread is not in the hash it has been removed already */
 445         if (!handle_remove (thread)) {
 446                 if (thread == mono_thread_internal_current ()) {
 447                         mono_domain_unset ();
 448                         mono_memory_barrier ();
 449                 }
 450                 /* This needs to be called even if handle_remove () fails */
 451                 if (mono_thread_cleanup_fn)
 452                         mono_thread_cleanup_fn (thread_get_tid (thread));
 453                 return;
 454         }
 455         mono_release_type_locks (thread);
 456
 457         /* Can happen when we attach the profiler helper thread in order to heapshot. */
 458         if (!mono_thread_info_lookup (MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid))->tools_thread)
 459                 mono_profiler_thread_end (thread->tid);
 460
 461         mono_hazard_pointer_clear (mono_hazard_pointer_get (), 1);
 462
 463         if (thread == mono_thread_internal_current ()) {
 464                 /*
 465                  * This will signal async signal handlers that the thread has exited.
 466                  * The profiler callback needs this to be set, so it cannot be done earlier.
 467                  */
 468                 mono_domain_unset ();
 469                 mono_memory_barrier ();
 470         }
 471
 472         if (thread == mono_thread_internal_current ())
 473                 mono_thread_pop_appdomain_ref ();
 474
 475         thread->cached_culture_info = NULL;
 476
 477         mono_free_static_data (thread->static_data);
 478         thread->static_data = NULL;
 479         ref_stack_destroy (thread->appdomain_refs);
 480         thread->appdomain_refs = NULL;
 481
 482         if (mono_thread_cleanup_fn)
 483                 mono_thread_cleanup_fn (thread_get_tid (thread));
 484
 485         if (mono_gc_is_moving ()) {
 486                 MONO_GC_UNREGISTER_ROOT (thread->thread_pinning_ref);
 487                 thread->thread_pinning_ref = NULL;
 488         }
 489
 490 }
 491
 492 /*
 493  * A special static data offset (guint32) consists of 3 parts:
 494  *
 495  * [0]   6-bit index into the array of chunks.
 496  * [6]   25-bit offset into the array.
 497  * [31]  Bit indicating thread or context static.
 498  */
 499
 500 typedef union {
 501         struct {
 502 #if G_BYTE_ORDER != G_LITTLE_ENDIAN
 503                 guint32 type : 1;
 504                 guint32 offset : 25;
 505                 guint32 index : 6;
 506 #else
 507                 guint32 index : 6;
 508                 guint32 offset : 25;
 509                 guint32 type : 1;
 510 #endif
 511         } fields;
 512         guint32 raw;
 513 } SpecialStaticOffset;
 514
 515 #define SPECIAL_STATIC_OFFSET_TYPE_THREAD 0
 516 #define SPECIAL_STATIC_OFFSET_TYPE_CONTEXT 1
 517
 518 #define MAKE_SPECIAL_STATIC_OFFSET(index, offset, type) \
 519         ((SpecialStaticOffset) { .fields = { (index), (offset), (type) } }.raw)
 520 #define ACCESS_SPECIAL_STATIC_OFFSET(x,f) \
 521         (((SpecialStaticOffset *) &(x))->fields.f)
 522
 523 static gpointer
 524 get_thread_static_data (MonoInternalThread *thread, guint32 offset)
 525 {
 526         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_THREAD);
 527
 528         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
 529         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
 530
 531         return ((char *) thread->static_data [idx]) + off;
 532 }
 533
 534 static gpointer
 535 get_context_static_data (MonoAppContext *ctx, guint32 offset)
 536 {
 537         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_CONTEXT);
 538
 539         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
 540         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
 541
 542         return ((char *) ctx->static_data [idx]) + off;
 543 }
 544
 545 static MonoThread**
 546 get_current_thread_ptr_for_domain (MonoDomain *domain, MonoInternalThread *thread)
 547 {
 548         static MonoClassField *current_thread_field = NULL;
 549
 550         guint32 offset;
 551
 552         if (!current_thread_field) {
 553                 current_thread_field = mono_class_get_field_from_name (mono_defaults.thread_class, "current_thread");
 554                 g_assert (current_thread_field);
 555         }
 556
 557         mono_class_vtable (domain, mono_defaults.thread_class);
 558         mono_domain_lock (domain);
 559         offset = GPOINTER_TO_UINT (g_hash_table_lookup (domain->special_static_fields, current_thread_field));
 560         mono_domain_unlock (domain);
 561         g_assert (offset);
 562
 563         return (MonoThread **)get_thread_static_data (thread, offset);
 564 }
 565
 566 static void
 567 set_current_thread_for_domain (MonoDomain *domain, MonoInternalThread *thread, MonoThread *current)
 568 {
 569         MonoThread **current_thread_ptr = get_current_thread_ptr_for_domain (domain, thread);
 570
 571         g_assert (current->obj.vtable->domain == domain);
 572
 573         g_assert (!*current_thread_ptr);
 574         *current_thread_ptr = current;
 575 }
 576
 577 static MonoThread*
 578 create_thread_object (MonoDomain *domain)
 579 {
 580         MonoError error;
 581         MonoVTable *vt = mono_class_vtable (domain, mono_defaults.thread_class);
 582         MonoThread *t = (MonoThread*)mono_object_new_mature (vt, &error);
 583         /* only possible failure mode is OOM, from which we don't expect to recover. */
 584         mono_error_assert_ok (&error);
 585         return t;
 586 }
 587
 588 static MonoThread*
 589 new_thread_with_internal (MonoDomain *domain, MonoInternalThread *internal)
 590 {
 591         MonoThread *thread;
 592
 593         thread = create_thread_object (domain);
 594         thread->priority = THREAD_PRIORITY_NORMAL;
 595
 596         MONO_OBJECT_SETREF (thread, internal_thread, internal);
 597
 598         return thread;
 599 }
 600
 601 static MonoInternalThread*
 602 create_internal_thread (void)
 603 {
 604         MonoError error;
 605         MonoInternalThread *thread;
 606         MonoVTable *vt;
 607
 608         vt = mono_class_vtable (mono_get_root_domain (), mono_defaults.internal_thread_class);
 609         thread = (MonoInternalThread*) mono_object_new_mature (vt, &error);
 610         /* only possible failure mode is OOM, from which we don't exect to recover */
 611         mono_error_assert_ok (&error);
 612
 613         thread->synch_cs = g_new0 (MonoCoopMutex, 1);
 614         mono_coop_mutex_init_recursive (thread->synch_cs);
 615
 616         thread->apartment_state = ThreadApartmentState_Unknown;
 617         thread->managed_id = get_next_managed_thread_id ();
 618         if (mono_gc_is_moving ()) {
 619                 thread->thread_pinning_ref = thread;
 620                 MONO_GC_REGISTER_ROOT_PINNING (thread->thread_pinning_ref, MONO_ROOT_SOURCE_THREADING, "thread pinning reference");
 621         }
 622
 623         return thread;
 624 }
 625
 626 static gboolean
 627 init_root_domain_thread (MonoInternalThread *thread, MonoThread *candidate)
 628 {
 629         MonoDomain *domain = mono_get_root_domain ();
 630
 631         if (!candidate || candidate->obj.vtable->domain != domain) {
 632                 candidate = new_thread_with_internal (domain, thread);
 633         }
 634         set_current_thread_for_domain (domain, thread, candidate);
 635         g_assert (!thread->root_domain_thread);
 636         MONO_OBJECT_SETREF (thread, root_domain_thread, candidate);
 637         return TRUE;
 638 }
 639
 640 static guint32 WINAPI start_wrapper_internal(void *data)
 641 {
 642         MonoError error;
 643         MonoThreadInfo *info;
 644         StartInfo *start_info = (StartInfo *)data;
 645         guint32 (*start_func)(void *);
 646         void *start_arg;
 647         gsize tid;
 648         /*
 649          * We don't create a local to hold start_info->obj, so hopefully it won't get pinned during a
 650          * GC stack walk.
 651          */
 652         MonoInternalThread *internal = start_info->obj->internal_thread;
 653         MonoObject *start_delegate = start_info->delegate;
 654         MonoDomain *domain = start_info->obj->obj.vtable->domain;
 655
 656         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper", __func__, mono_native_thread_id_get ()));
 657
 658         /* We can be sure start_info->obj->tid and
 659          * start_info->obj->handle have been set, because the thread
 660          * was created suspended, and these values were set before the
 661          * thread resumed
 662          */
 663
 664         info = mono_thread_info_current ();
 665         g_assert (info);
 666         internal->thread_info = info;
 667         internal->small_id = info->small_id;
 668
 669         tid = internal->tid;
 670
 671         SET_CURRENT_OBJECT (internal);
 672
 673         /* Every thread references the appdomain which created it */
 674         mono_thread_push_appdomain_ref (domain);
 675
 676         if (!mono_domain_set (domain, FALSE)) {
 677                 /* No point in raising an appdomain_unloaded exception here */
 678                 /* FIXME: Cleanup here */
 679                 mono_thread_pop_appdomain_ref ();
 680                 return 0;
 681         }
 682
 683         start_func = start_info->func;
 684         start_arg = start_info->obj->start_obj;
 685         if (!start_arg)
 686                 start_arg = start_info->start_arg;
 687
 688         /* We have to do this here because mono_thread_new_init()
 689            requires that root_domain_thread is set up. */
 690         thread_adjust_static_data (internal);
 691         init_root_domain_thread (internal, start_info->obj);
 692
 693         /* This MUST be called before any managed code can be
 694          * executed, as it calls the callback function that (for the
 695          * jit) sets the lmf marker.
 696          */
 697         mono_thread_new_init (tid, &tid, start_func);
 698         internal->stack_ptr = &tid;
 699         if (domain != mono_get_root_domain ())
 700                 set_current_thread_for_domain (domain, internal, start_info->obj);
 701
 702         LIBGC_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT",%d) Setting thread stack to %p", __func__, mono_native_thread_id_get (), getpid (), thread->stack_ptr));
 703
 704         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Setting current_object_key to %p", __func__, mono_native_thread_id_get (), internal));
 705
 706         /* On 2.0 profile (and higher), set explicitly since state might have been
 707            Unknown */
 708         if (internal->apartment_state == ThreadApartmentState_Unknown)
 709                 internal->apartment_state = ThreadApartmentState_MTA;
 710
 711         mono_thread_init_apartment_state ();
 712
 713         if(internal->start_notify!=NULL) {
 714                 /* Let the thread that called Start() know we're
 715                  * ready
 716                  */
 717                 ReleaseSemaphore (internal->start_notify, 1, NULL);
 718         }
 719
 720         g_free (start_info);
 721         THREAD_DEBUG (g_message ("%s: start_wrapper for %"G_GSIZE_FORMAT, __func__,
 722                                                          internal->tid));
 723
 724         /*
 725          * Call this after calling start_notify, since the profiler callback might want
 726          * to lock the thread, and the lock is held by thread_start () which waits for
 727          * start_notify.
 728          */
 729         mono_profiler_thread_start (tid);
 730
 731         /* if the name was set before starting, we didn't invoke the profiler callback */
 732         if (internal->name) {
 733                 char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
 734                 mono_profiler_thread_name (internal->tid, tname);
 735                 mono_native_thread_set_name (MONO_UINT_TO_NATIVE_THREAD_ID (internal->tid), tname);
 736                 g_free (tname);
 737         }
 738
 739         /* start_func is set only for unmanaged start functions */
 740         if (start_func) {
 741                 start_func (start_arg);
 742         } else {
 743                 void *args [1];
 744                 g_assert (start_delegate != NULL);
 745                 args [0] = start_arg;
 746                 /* we may want to handle the exception here. See comment below on unhandled exceptions */
 747                 mono_runtime_delegate_invoke_checked (start_delegate, args, &error);
 748
 749                 if (!mono_error_ok (&error)) {
 750                         MonoException *ex = mono_error_convert_to_exception (&error);
 751                         if (ex) {
 752                                 mono_unhandled_exception (&ex->object);
 753                                 mono_invoke_unhandled_exception_hook (&ex->object);
 754                                 g_assert_not_reached ();
 755                         }
 756                 } else {
 757                         mono_error_cleanup (&error);
 758                 }
 759         }
 760
 761         /* If the thread calls ExitThread at all, this remaining code
 762          * will not be executed, but the main thread will eventually
 763          * call thread_cleanup() on this thread's behalf.
 764          */
 765
 766         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper terminating", __func__, mono_native_thread_id_get ()));
 767
 768         /* Do any cleanup needed for apartment state. This
 769          * cannot be done in thread_cleanup since thread_cleanup could be
 770          * called for a thread other than the current thread.
 771          * mono_thread_cleanup_apartment_state cleans up apartment
 772          * for the current thead */
 773         mono_thread_cleanup_apartment_state ();
 774
 775         thread_cleanup (internal);
 776
 777         internal->tid = 0;
 778
 779         /* Remove the reference to the thread object in the TLS data,
 780          * so the thread object can be finalized.  This won't be
 781          * reached if the thread threw an uncaught exception, so those
 782          * thread handles will stay referenced :-( (This is due to
 783          * missing support for scanning thread-specific data in the
 784          * Boehm GC - the io-layer keeps a GC-visible hash of pointers
 785          * to TLS data.)
 786          */
 787         SET_CURRENT_OBJECT (NULL);
 788
 789         return(0);
 790 }
 791
 792 static guint32 WINAPI start_wrapper(void *data)
 793 {
 794         volatile int dummy;
 795
 796         /* Avoid scanning the frames above this frame during a GC */
 797         mono_gc_set_stack_end ((void*)&dummy);
 798
 799         return start_wrapper_internal (data);
 800 }
 801
 802 /*
 803  * create_thread:
 804  *
 805  *   Common thread creation code.
 806  * LOCKING: Acquires the threads lock.
 807  */
 808 static gboolean
 809 create_thread (MonoThread *thread, MonoInternalThread *internal, StartInfo *start_info, gboolean threadpool_thread, guint32 stack_size,
 810                            MonoError *error)
 811 {
 812         HANDLE thread_handle;
 813         MonoNativeThreadId tid;
 814         MonoThreadParm tp;
 815
 816         /*
 817          * Join joinable threads to prevent running out of threads since the finalizer
 818          * thread might be blocked/backlogged.
 819          */
 820         mono_threads_join_threads ();
 821
 822         mono_error_init (error);
 823
 824         mono_threads_lock ();
 825         if (shutting_down) {
 826                 g_free (start_info);
 827                 mono_threads_unlock ();
 828                 return FALSE;
 829         }
 830         if (threads_starting_up == NULL) {
 831                 MONO_GC_REGISTER_ROOT_FIXED (threads_starting_up, MONO_ROOT_SOURCE_THREADING, "starting threads table");
 832                 threads_starting_up = mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_KEY_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "starting threads table");
 833         }
 834         mono_g_hash_table_insert (threads_starting_up, thread, thread);
 835         mono_threads_unlock ();
 836
 837         internal->start_notify = CreateSemaphore (NULL, 0, 0x7fffffff, NULL);
 838         if (!internal->start_notify) {
 839                 mono_threads_lock ();
 840                 mono_g_hash_table_remove (threads_starting_up, thread);
 841                 mono_threads_unlock ();
 842                 g_warning ("%s: CreateSemaphore error 0x%x", __func__, GetLastError ());
 843                 g_free (start_info);
 844                 return FALSE;
 845         }
 846
 847         if (stack_size == 0)
 848                 stack_size = default_stacksize_for_thread (internal);
 849
 850         /* Create suspended, so we can do some housekeeping before the thread
 851          * starts
 852          */
 853         tp.priority = thread->priority;
 854         tp.stack_size = stack_size;
 855         tp.creation_flags = CREATE_SUSPENDED;
 856
 857         thread_handle = mono_threads_create_thread ((LPTHREAD_START_ROUTINE)start_wrapper, start_info, &tp, &tid);
 858
 859         if (thread_handle == NULL) {
 860                 /* The thread couldn't be created, so set an exception */
 861                 mono_threads_lock ();
 862                 mono_g_hash_table_remove (threads_starting_up, thread);
 863                 mono_threads_unlock ();
 864                 g_free (start_info);
 865                 mono_error_set_execution_engine (error, "Couldn't create thread. Error 0x%x", GetLastError());
 866                 return FALSE;
 867         }
 868         THREAD_DEBUG (g_message ("%s: Started thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread_handle));
 869
 870         internal->handle = thread_handle;
 871         internal->tid = MONO_NATIVE_THREAD_ID_TO_UINT (tid);
 872
 873         internal->threadpool_thread = threadpool_thread;
 874         if (threadpool_thread)
 875                 mono_thread_set_state (internal, ThreadState_Background);
 876
 877         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 878
 879         /* Only store the handle when the thread is about to be
 880          * launched, to avoid the main thread deadlocking while trying
 881          * to clean up a thread that will never be signalled.
 882          */
 883         if (!handle_store (thread, FALSE))
 884                 return FALSE;
 885
 886         mono_thread_info_resume (tid);
 887
 888         if (internal->start_notify) {
 889                 /*
 890                  * Wait for the thread to set up its TLS data etc, so
 891                  * theres no potential race condition if someone tries
 892                  * to look up the data believing the thread has
 893                  * started
 894                  */
 895                 THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") waiting for thread %p (%"G_GSIZE_FORMAT") to start", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 896
 897                 MONO_ENTER_GC_SAFE;
 898                 WaitForSingleObjectEx (internal->start_notify, INFINITE, FALSE);
 899                 MONO_EXIT_GC_SAFE;
 900
 901                 CloseHandle (internal->start_notify);
 902                 internal->start_notify = NULL;
 903         }
 904
 905         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Done launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 906
 907         return TRUE;
 908 }
 909
 910 void mono_thread_new_init (intptr_t tid, gpointer stack_start, gpointer func)
 911 {
 912         if (mono_thread_start_cb) {
 913                 mono_thread_start_cb (tid, stack_start, func);
 914         }
 915 }
 916
 917 void mono_threads_set_default_stacksize (guint32 stacksize)
 918 {
 919         default_stacksize = stacksize;
 920 }
 921
 922 guint32 mono_threads_get_default_stacksize (void)
 923 {
 924         return default_stacksize;
 925 }
 926
 927 /*
 928  * mono_thread_create_internal:
 929  *
 930  *   ARG should not be a GC reference.
 931  */
 932 MonoInternalThread*
 933 mono_thread_create_internal (MonoDomain *domain, gpointer func, gpointer arg, gboolean threadpool_thread, guint32 stack_size, MonoError *error)
 934 {
 935         MonoThread *thread;
 936         MonoInternalThread *internal;
 937         StartInfo *start_info;
 938         gboolean res;
 939
 940         mono_error_init (error);
 941
 942         thread = create_thread_object (domain);
 943
 944         internal = create_internal_thread ();
 945
 946         MONO_OBJECT_SETREF (thread, internal_thread, internal);
 947
 948         start_info = g_new0 (StartInfo, 1);
 949         start_info->func = (guint32 (*)(void *))func;
 950         start_info->obj = thread;
 951         start_info->start_arg = arg;
 952
 953         res = create_thread (thread, internal, start_info, threadpool_thread, stack_size, error);
 954         return_val_if_nok (error, NULL);
 955
 956         /* Check that the managed and unmanaged layout of MonoInternalThread matches */
 957 #ifndef MONO_CROSS_COMPILE
 958         if (mono_check_corlib_version () == NULL)
 959                 g_assert (((char*)&internal->unused2 - (char*)internal) == mono_defaults.internal_thread_class->fields [mono_defaults.internal_thread_class->field.count - 1].offset);
 960 #endif
 961
 962         return internal;
 963 }
 964
 965 void
 966 mono_thread_create (MonoDomain *domain, gpointer func, gpointer arg)
 967 {
 968         MonoError error;
 969         if (!mono_thread_create_checked (domain, func, arg, &error))
 970                 mono_error_cleanup (&error);
 971 }
 972
 973 gboolean
 974 mono_thread_create_checked (MonoDomain *domain, gpointer func, gpointer arg, MonoError *error)
 975 {
 976         return (NULL != mono_thread_create_internal (domain, func, arg, FALSE, 0, error));
 977 }
 978
 979 MonoThread *
 980 mono_thread_attach (MonoDomain *domain)
 981 {
 982         MonoThread *thread = mono_thread_attach_full (domain, FALSE);
 983
 984         return thread;
 985 }
 986
 987 MonoThread *
 988 mono_thread_attach_full (MonoDomain *domain, gboolean force_attach)
 989 {
 990         MonoThreadInfo *info;
 991         MonoInternalThread *thread;
 992         MonoThread *current_thread;
 993         HANDLE thread_handle;
 994         MonoNativeThreadId tid;
 995
 996         if ((thread = mono_thread_internal_current ())) {
 997                 if (domain != mono_domain_get ())
 998                         mono_domain_set (domain, TRUE);
 999                 /* Already attached */
1000                 return mono_thread_current ();
1001         }
1002
1003         if (!mono_gc_register_thread (&domain)) {
1004                 g_error ("Thread %"G_GSIZE_FORMAT" calling into managed code is not registered with the GC. On UNIX, this can be fixed by #include-ing <gc.h> before <pthread.h> in the file containing the thread creation code.", mono_native_thread_id_get ());
1005         }
1006
1007         thread = create_internal_thread ();
1008
1009         thread_handle = mono_thread_info_open_handle ();
1010         g_assert (thread_handle);
1011
1012         tid=mono_native_thread_id_get ();
1013
1014         thread->handle = thread_handle;
1015         thread->tid = MONO_NATIVE_THREAD_ID_TO_UINT (tid);
1016         thread->stack_ptr = &tid;
1017
1018         THREAD_DEBUG (g_message ("%s: Attached thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread_handle));
1019
1020         info = mono_thread_info_current ();
1021         g_assert (info);
1022         thread->thread_info = info;
1023         thread->small_id = info->small_id;
1024
1025         current_thread = new_thread_with_internal (domain, thread);
1026
1027         if (!handle_store (current_thread, force_attach)) {
1028                 /* Mono is shutting down, so just wait for the end */
1029                 for (;;)
1030                         mono_thread_info_sleep (10000, NULL);
1031         }
1032
1033         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Setting current_object_key to %p", __func__, mono_native_thread_id_get (), thread));
1034
1035         SET_CURRENT_OBJECT (thread);
1036         mono_domain_set (domain, TRUE);
1037
1038         thread_adjust_static_data (thread);
1039
1040         init_root_domain_thread (thread, current_thread);
1041
1042         if (domain != mono_get_root_domain ())
1043                 set_current_thread_for_domain (domain, thread, current_thread);
1044
1045
1046         if (mono_thread_attach_cb) {
1047                 guint8 *staddr;
1048                 size_t stsize;
1049
1050                 mono_thread_info_get_stack_bounds (&staddr, &stsize);
1051
1052                 if (staddr == NULL)
1053                         mono_thread_attach_cb (MONO_NATIVE_THREAD_ID_TO_UINT (tid), &tid);
1054                 else
1055                         mono_thread_attach_cb (MONO_NATIVE_THREAD_ID_TO_UINT (tid), staddr + stsize);
1056         }
1057
1058         /* Can happen when we attach the profiler helper thread in order to heapshot. */
1059         if (!info->tools_thread)
1060                 // FIXME: Need a separate callback
1061                 mono_profiler_thread_start (MONO_NATIVE_THREAD_ID_TO_UINT (tid));
1062
1063         return current_thread;
1064 }
1065
1066 void
1067 mono_thread_detach_internal (MonoInternalThread *thread)
1068 {
1069         g_return_if_fail (thread != NULL);
1070
1071         THREAD_DEBUG (g_message ("%s: mono_thread_detach for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1072
1073         thread_cleanup (thread);
1074
1075         SET_CURRENT_OBJECT (NULL);
1076         mono_domain_unset ();
1077
1078         /* Don't need to CloseHandle this thread, even though we took a
1079          * reference in mono_thread_attach (), because the GC will do it
1080          * when the Thread object is finalised.
1081          */
1082 }
1083
1084 void
1085 mono_thread_detach (MonoThread *thread)
1086 {
1087         if (thread)
1088                 mono_thread_detach_internal (thread->internal_thread);
1089 }
1090
1091 /*
1092  * mono_thread_detach_if_exiting:
1093  *
1094  *   Detach the current thread from the runtime if it is exiting, i.e. it is running pthread dtors.
1095  * This should be used at the end of embedding code which calls into managed code, and which
1096  * can be called from pthread dtors, like dealloc: implementations in objective-c.
1097  */
1098 mono_bool
1099 mono_thread_detach_if_exiting (void)
1100 {
1101         if (mono_thread_info_is_exiting ()) {
1102                 MonoInternalThread *thread;
1103
1104                 thread = mono_thread_internal_current ();
1105                 if (thread) {
1106                         mono_thread_detach_internal (thread);
1107                         mono_thread_info_detach ();
1108                         return TRUE;
1109                 }
1110         }
1111         return FALSE;
1112 }
1113
1114 void
1115 mono_thread_exit ()
1116 {
1117         MonoInternalThread *thread = mono_thread_internal_current ();
1118
1119         THREAD_DEBUG (g_message ("%s: mono_thread_exit for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1120
1121         thread_cleanup (thread);
1122         SET_CURRENT_OBJECT (NULL);
1123         mono_domain_unset ();
1124
1125         /* we could add a callback here for embedders to use. */
1126         if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread))
1127                 exit (mono_environment_exitcode_get ());
1128         mono_thread_info_exit ();
1129 }
1130
1131 void
1132 ves_icall_System_Threading_Thread_ConstructInternalThread (MonoThread *this_obj)
1133 {
1134         MonoInternalThread *internal;
1135
1136         internal = create_internal_thread ();
1137
1138         internal->state = ThreadState_Unstarted;
1139
1140         InterlockedCompareExchangePointer ((volatile gpointer *)&this_obj->internal_thread, internal, NULL);
1141 }
1142
1143 HANDLE
1144 ves_icall_System_Threading_Thread_Thread_internal (MonoThread *this_obj,
1145                                                                                                    MonoObject *start)
1146 {
1147         MonoError error;
1148         StartInfo *start_info;
1149         MonoInternalThread *internal;
1150         gboolean res;
1151
1152         THREAD_DEBUG (g_message("%s: Trying to start a new thread: this (%p) start (%p)", __func__, this_obj, start));
1153
1154         if (!this_obj->internal_thread)
1155                 ves_icall_System_Threading_Thread_ConstructInternalThread (this_obj);
1156         internal = this_obj->internal_thread;
1157
1158         LOCK_THREAD (internal);
1159
1160         if ((internal->state & ThreadState_Unstarted) == 0) {
1161                 UNLOCK_THREAD (internal);
1162                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has already been started."));
1163                 return NULL;
1164         }
1165
1166         if ((internal->state & ThreadState_Aborted) != 0) {
1167                 UNLOCK_THREAD (internal);
1168                 return this_obj;
1169         }
1170         /* This is freed in start_wrapper */
1171         start_info = g_new0 (StartInfo, 1);
1172         start_info->func = NULL;
1173         start_info->start_arg = NULL;
1174         start_info->delegate = start;
1175         start_info->obj = this_obj;
1176         g_assert (this_obj->obj.vtable->domain == mono_domain_get ());
1177
1178         res = create_thread (this_obj, internal, start_info, FALSE, 0, &error);
1179         if (!res) {
1180                 mono_error_cleanup (&error);
1181                 UNLOCK_THREAD (internal);
1182                 return NULL;
1183         }
1184
1185         internal->state &= ~ThreadState_Unstarted;
1186
1187         THREAD_DEBUG (g_message ("%s: Started thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread));
1188
1189         UNLOCK_THREAD (internal);
1190         return internal->handle;
1191 }
1192
1193 /*
1194  * This is called from the finalizer of the internal thread object.
1195  */
1196 void
1197 ves_icall_System_Threading_InternalThread_Thread_free_internal (MonoInternalThread *this_obj, HANDLE thread)
1198 {
1199         THREAD_DEBUG (g_message ("%s: Closing thread %p, handle %p", __func__, this, thread));
1200
1201         /*
1202          * Since threads keep a reference to their thread object while running, by the time this function is called,
1203          * the thread has already exited/detached, i.e. thread_cleanup () has ran. The exception is during shutdown,
1204          * when thread_cleanup () can be called after this.
1205          */
1206         if (thread)
1207                 CloseHandle (thread);
1208
1209         if (this_obj->synch_cs) {
1210                 MonoCoopMutex *synch_cs = this_obj->synch_cs;
1211                 this_obj->synch_cs = NULL;
1212                 mono_coop_mutex_destroy (synch_cs);
1213                 g_free (synch_cs);
1214         }
1215
1216         if (this_obj->name) {
1217                 void *name = this_obj->name;
1218                 this_obj->name = NULL;
1219                 g_free (name);
1220         }
1221 }
1222
1223 void
1224 ves_icall_System_Threading_Thread_Sleep_internal(gint32 ms)
1225 {
1226         guint32 res;
1227         MonoInternalThread *thread = mono_thread_internal_current ();
1228
1229         THREAD_DEBUG (g_message ("%s: Sleeping for %d ms", __func__, ms));
1230
1231         if (mono_thread_current_check_pending_interrupt ())
1232                 return;
1233
1234         while (TRUE) {
1235                 gboolean alerted = FALSE;
1236
1237                 mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1238
1239                 res = mono_thread_info_sleep (ms, &alerted);
1240
1241                 mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1242
1243                 if (alerted) {
1244                         MonoException* exc = mono_thread_execute_interruption ();
1245                         if (exc) {
1246                                 mono_raise_exception (exc);
1247                         } else {
1248                                 // FIXME: !INFINITE
1249                                 if (ms != INFINITE)
1250                                         break;
1251                         }
1252                 } else {
1253                         break;
1254                 }
1255         }
1256 }
1257
1258 void ves_icall_System_Threading_Thread_SpinWait_nop (void)
1259 {
1260 }
1261
1262 gint32
1263 ves_icall_System_Threading_Thread_GetDomainID (void)
1264 {
1265         return mono_domain_get()->domain_id;
1266 }
1267
1268 gboolean
1269 ves_icall_System_Threading_Thread_Yield (void)
1270 {
1271         return mono_thread_info_yield ();
1272 }
1273
1274 /*
1275  * mono_thread_get_name:
1276  *
1277  *   Return the name of the thread. NAME_LEN is set to the length of the name.
1278  * Return NULL if the thread has no name. The returned memory is owned by the
1279  * caller.
1280  */
1281 gunichar2*
1282 mono_thread_get_name (MonoInternalThread *this_obj, guint32 *name_len)
1283 {
1284         gunichar2 *res;
1285
1286         LOCK_THREAD (this_obj);
1287
1288         if (!this_obj->name) {
1289                 *name_len = 0;
1290                 res = NULL;
1291         } else {
1292                 *name_len = this_obj->name_len;
1293                 res = g_new (gunichar2, this_obj->name_len);
1294                 memcpy (res, this_obj->name, sizeof (gunichar2) * this_obj->name_len);
1295         }
1296
1297         UNLOCK_THREAD (this_obj);
1298
1299         return res;
1300 }
1301
1302 /*
1303  * mono_thread_get_name_utf8:
1304  *
1305  * Return the name of the thread in UTF-8.
1306  * Return NULL if the thread has no name.
1307  * The returned memory is owned by the caller.
1308  */
1309 char *
1310 mono_thread_get_name_utf8 (MonoThread *thread)
1311 {
1312         if (thread == NULL)
1313                 return NULL;
1314
1315         MonoInternalThread *internal = thread->internal_thread;
1316         if (internal == NULL)
1317                 return NULL;
1318
1319         LOCK_THREAD (internal);
1320
1321         char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
1322
1323         UNLOCK_THREAD (internal);
1324
1325         return tname;
1326 }
1327
1328 /*
1329  * mono_thread_get_managed_id:
1330  *
1331  * Return the Thread.ManagedThreadId value of `thread`.
1332  * Returns -1 if `thread` is NULL.
1333  */
1334 int32_t
1335 mono_thread_get_managed_id (MonoThread *thread)
1336 {
1337         if (thread == NULL)
1338                 return -1;
1339
1340         MonoInternalThread *internal = thread->internal_thread;
1341         if (internal == NULL)
1342                 return -1;
1343
1344         int32_t id = internal->managed_id;
1345
1346         return id;
1347 }
1348
1349 MonoString*
1350 ves_icall_System_Threading_Thread_GetName_internal (MonoInternalThread *this_obj)
1351 {
1352         MonoError error;
1353         MonoString* str;
1354
1355         mono_error_init (&error);
1356
1357         LOCK_THREAD (this_obj);
1358
1359         if (!this_obj->name)
1360                 str = NULL;
1361         else
1362                 str = mono_string_new_utf16_checked (mono_domain_get (), this_obj->name, this_obj->name_len, &error);
1363
1364         UNLOCK_THREAD (this_obj);
1365
1366         if (mono_error_set_pending_exception (&error))
1367                 return NULL;
1368
1369         return str;
1370 }
1371
1372 void
1373 mono_thread_set_name_internal (MonoInternalThread *this_obj, MonoString *name, gboolean permanent, MonoError *error)
1374 {
1375         LOCK_THREAD (this_obj);
1376
1377         mono_error_init (error);
1378
1379         if ((this_obj->flags & MONO_THREAD_FLAG_NAME_SET)) {
1380                 UNLOCK_THREAD (this_obj);
1381
1382                 mono_error_set_invalid_operation (error, "Thread.Name can only be set once.");
1383                 return;
1384         }
1385         if (this_obj->name) {
1386                 g_free (this_obj->name);
1387                 this_obj->name_len = 0;
1388         }
1389         if (name) {
1390                 this_obj->name = g_new (gunichar2, mono_string_length (name));
1391                 memcpy (this_obj->name, mono_string_chars (name), mono_string_length (name) * 2);
1392                 this_obj->name_len = mono_string_length (name);
1393
1394                 if (permanent)
1395                         this_obj->flags |= MONO_THREAD_FLAG_NAME_SET;
1396         }
1397         else
1398                 this_obj->name = NULL;
1399
1400
1401         UNLOCK_THREAD (this_obj);
1402
1403         if (this_obj->name && this_obj->tid) {
1404                 char *tname = mono_string_to_utf8_checked (name, error);
1405                 return_if_nok (error);
1406                 mono_profiler_thread_name (this_obj->tid, tname);
1407                 mono_native_thread_set_name (thread_get_tid (this_obj), tname);
1408                 mono_free (tname);
1409         }
1410 }
1411
1412 void
1413 ves_icall_System_Threading_Thread_SetName_internal (MonoInternalThread *this_obj, MonoString *name)
1414 {
1415         MonoError error;
1416         mono_thread_set_name_internal (this_obj, name, TRUE, &error);
1417         mono_error_set_pending_exception (&error);
1418 }
1419
1420 /*
1421  * ves_icall_System_Threading_Thread_GetPriority_internal:
1422  * @param this_obj: The MonoInternalThread on which to operate.
1423  *
1424  * Gets the priority of the given thread.
1425  * @return: The priority of the given thread.
1426  */
1427 int
1428 ves_icall_System_Threading_Thread_GetPriority (MonoThread *this_obj)
1429 {
1430         gint32 priority;
1431         MonoInternalThread *internal = this_obj->internal_thread;
1432
1433         LOCK_THREAD (internal);
1434         if (internal->handle != NULL)
1435                 priority = GetThreadPriority (internal->handle) + 2;
1436         else
1437                 priority = this_obj->priority + 2;
1438         UNLOCK_THREAD (internal);
1439         return priority;
1440 }
1441
1442 /*
1443  * ves_icall_System_Threading_Thread_SetPriority_internal:
1444  * @param this_obj: The MonoInternalThread on which to operate.
1445  * @param priority: The priority to set.
1446  *
1447  * Sets the priority of the given thread.
1448  */
1449 void
1450 ves_icall_System_Threading_Thread_SetPriority (MonoThread *this_obj, int priority)
1451 {
1452         MonoInternalThread *internal = this_obj->internal_thread;
1453
1454         LOCK_THREAD (internal);
1455         this_obj->priority = priority - 2;
1456         if (internal->handle != NULL)
1457                 SetThreadPriority (internal->handle, this_obj->priority);
1458         UNLOCK_THREAD (internal);
1459 }
1460
1461 /* If the array is already in the requested domain, we just return it,
1462    otherwise we return a copy in that domain. */
1463 static MonoArray*
1464 byte_array_to_domain (MonoArray *arr, MonoDomain *domain, MonoError *error)
1465 {
1466         MonoArray *copy;
1467
1468         mono_error_init (error);
1469         if (!arr)
1470                 return NULL;
1471
1472         if (mono_object_domain (arr) == domain)
1473                 return arr;
1474
1475         copy = mono_array_new_checked (domain, mono_defaults.byte_class, arr->max_length, error);
1476         memmove (mono_array_addr (copy, guint8, 0), mono_array_addr (arr, guint8, 0), arr->max_length);
1477         return copy;
1478 }
1479
1480 MonoArray*
1481 ves_icall_System_Threading_Thread_ByteArrayToRootDomain (MonoArray *arr)
1482 {
1483         MonoError error;
1484         MonoArray *result = byte_array_to_domain (arr, mono_get_root_domain (), &error);
1485         mono_error_set_pending_exception (&error);
1486         return result;
1487 }
1488
1489 MonoArray*
1490 ves_icall_System_Threading_Thread_ByteArrayToCurrentDomain (MonoArray *arr)
1491 {
1492         MonoError error;
1493         MonoArray *result = byte_array_to_domain (arr, mono_domain_get (), &error);
1494         mono_error_set_pending_exception (&error);
1495         return result;
1496 }
1497
1498 MonoThread *
1499 mono_thread_current (void)
1500 {
1501         MonoDomain *domain = mono_domain_get ();
1502         MonoInternalThread *internal = mono_thread_internal_current ();
1503         MonoThread **current_thread_ptr;
1504
1505         g_assert (internal);
1506         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1507
1508         if (!*current_thread_ptr) {
1509                 g_assert (domain != mono_get_root_domain ());
1510                 *current_thread_ptr = new_thread_with_internal (domain, internal);
1511         }
1512         return *current_thread_ptr;
1513 }
1514
1515 /* Return the thread object belonging to INTERNAL in the current domain */
1516 static MonoThread *
1517 mono_thread_current_for_thread (MonoInternalThread *internal)
1518 {
1519         MonoDomain *domain = mono_domain_get ();
1520         MonoThread **current_thread_ptr;
1521
1522         g_assert (internal);
1523         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1524
1525         if (!*current_thread_ptr) {
1526                 g_assert (domain != mono_get_root_domain ());
1527                 *current_thread_ptr = new_thread_with_internal (domain, internal);
1528         }
1529         return *current_thread_ptr;
1530 }
1531
1532 MonoInternalThread*
1533 mono_thread_internal_current (void)
1534 {
1535         MonoInternalThread *res = GET_CURRENT_OBJECT ();
1536         THREAD_DEBUG (g_message ("%s: returning %p", __func__, res));
1537         return res;
1538 }
1539
1540 gboolean
1541 ves_icall_System_Threading_Thread_Join_internal(MonoThread *this_obj, int ms)
1542 {
1543         MonoInternalThread *thread = this_obj->internal_thread;
1544         HANDLE handle = thread->handle;
1545         MonoInternalThread *cur_thread = mono_thread_internal_current ();
1546         gboolean ret;
1547
1548         if (mono_thread_current_check_pending_interrupt ())
1549                 return FALSE;
1550
1551         LOCK_THREAD (thread);
1552
1553         if ((thread->state & ThreadState_Unstarted) != 0) {
1554                 UNLOCK_THREAD (thread);
1555
1556                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started."));
1557                 return FALSE;
1558         }
1559
1560         UNLOCK_THREAD (thread);
1561
1562         if(ms== -1) {
1563                 ms=INFINITE;
1564         }
1565         THREAD_DEBUG (g_message ("%s: joining thread handle %p, %d ms", __func__, handle, ms));
1566
1567         mono_thread_set_state (cur_thread, ThreadState_WaitSleepJoin);
1568
1569         MONO_ENTER_GC_SAFE;
1570         ret=WaitForSingleObjectEx (handle, ms, TRUE);
1571         MONO_EXIT_GC_SAFE;
1572
1573         mono_thread_clr_state (cur_thread, ThreadState_WaitSleepJoin);
1574
1575         if(ret==WAIT_OBJECT_0) {
1576                 THREAD_DEBUG (g_message ("%s: join successful", __func__));
1577
1578                 return(TRUE);
1579         }
1580
1581         THREAD_DEBUG (g_message ("%s: join failed", __func__));
1582
1583         return(FALSE);
1584 }
1585
1586 #define MANAGED_WAIT_FAILED 0x7fffffff
1587
1588 static gint32
1589 map_native_wait_result_to_managed (gint32 val)
1590 {
1591         /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1592         return val == WAIT_FAILED ? MANAGED_WAIT_FAILED : val;
1593 }
1594
1595 static gint32
1596 mono_wait_uninterrupted (MonoInternalThread *thread, guint32 numhandles, gpointer *handles, gboolean waitall, gint32 ms, MonoError *error)
1597 {
1598         MonoException *exc;
1599         guint32 ret;
1600         gint64 start;
1601         gint32 diff_ms;
1602         gint32 wait = ms;
1603
1604         mono_error_init (error);
1605
1606         start = (ms == -1) ? 0 : mono_100ns_ticks ();
1607         do {
1608                 MONO_ENTER_GC_SAFE;
1609                 if (numhandles != 1)
1610                         ret = WaitForMultipleObjectsEx (numhandles, handles, waitall, wait, TRUE);
1611                 else
1612                         ret = WaitForSingleObjectEx (handles [0], ms, TRUE);
1613                 MONO_EXIT_GC_SAFE;
1614
1615                 if (ret != WAIT_IO_COMPLETION)
1616                         break;
1617
1618                 exc = mono_thread_execute_interruption ();
1619                 if (exc) {
1620                         mono_error_set_exception_instance (error, exc);
1621                         break;
1622                 }
1623
1624                 if (ms == -1)
1625                         continue;
1626
1627                 /* Re-calculate ms according to the time passed */
1628                 diff_ms = (gint32)((mono_100ns_ticks () - start) / 10000);
1629                 if (diff_ms >= ms) {
1630                         ret = WAIT_TIMEOUT;
1631                         break;
1632                 }
1633                 wait = ms - diff_ms;
1634         } while (TRUE);
1635
1636         return ret;
1637 }
1638
1639 gint32 ves_icall_System_Threading_WaitHandle_WaitAll_internal(MonoArray *mono_handles, gint32 ms)
1640 {
1641         MonoError error;
1642         HANDLE *handles;
1643         guint32 numhandles;
1644         guint32 ret;
1645         guint32 i;
1646         MonoObject *waitHandle;
1647         MonoInternalThread *thread = mono_thread_internal_current ();
1648
1649         /* Do this WaitSleepJoin check before creating objects */
1650         if (mono_thread_current_check_pending_interrupt ())
1651                 return map_native_wait_result_to_managed (WAIT_FAILED);
1652
1653         /* We fail in managed if the array has more than 64 elements */
1654         numhandles = (guint32)mono_array_length(mono_handles);
1655         handles = g_new0(HANDLE, numhandles);
1656
1657         for(i = 0; i < numhandles; i++) {
1658                 waitHandle = mono_array_get(mono_handles, MonoObject*, i);
1659                 handles [i] = mono_wait_handle_get_handle ((MonoWaitHandle *) waitHandle);
1660         }
1661
1662         if(ms== -1) {
1663                 ms=INFINITE;
1664         }
1665
1666         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1667
1668         ret = mono_wait_uninterrupted (thread, numhandles, handles, TRUE, ms, &error);
1669
1670         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1671
1672         g_free(handles);
1673
1674         mono_error_set_pending_exception (&error);
1675
1676         /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1677         return map_native_wait_result_to_managed (ret);
1678 }
1679
1680 gint32 ves_icall_System_Threading_WaitHandle_WaitAny_internal(MonoArray *mono_handles, gint32 ms)
1681 {
1682         MonoError error;
1683         HANDLE handles [MAXIMUM_WAIT_OBJECTS];
1684         uintptr_t numhandles;
1685         guint32 ret;
1686         guint32 i;
1687         MonoObject *waitHandle;
1688         MonoInternalThread *thread = mono_thread_internal_current ();
1689
1690         /* Do this WaitSleepJoin check before creating objects */
1691         if (mono_thread_current_check_pending_interrupt ())
1692                 return map_native_wait_result_to_managed (WAIT_FAILED);
1693
1694         numhandles = mono_array_length(mono_handles);
1695         if (numhandles > MAXIMUM_WAIT_OBJECTS)
1696                 return map_native_wait_result_to_managed (WAIT_FAILED);
1697
1698         for(i = 0; i < numhandles; i++) {
1699                 waitHandle = mono_array_get(mono_handles, MonoObject*, i);
1700                 handles [i] = mono_wait_handle_get_handle ((MonoWaitHandle *) waitHandle);
1701         }
1702
1703         if(ms== -1) {
1704                 ms=INFINITE;
1705         }
1706
1707         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1708
1709         ret = mono_wait_uninterrupted (thread, numhandles, handles, FALSE, ms, &error);
1710
1711         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1712
1713         THREAD_WAIT_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") returning %d", __func__, mono_native_thread_id_get (), ret));
1714
1715         mono_error_set_pending_exception (&error);
1716         /*
1717          * These need to be here.  See MSDN dos on WaitForMultipleObjects.
1718          */
1719         if (ret >= WAIT_OBJECT_0 && ret <= WAIT_OBJECT_0 + numhandles - 1) {
1720                 return map_native_wait_result_to_managed (ret - WAIT_OBJECT_0);
1721         }
1722         else if (ret >= WAIT_ABANDONED_0 && ret <= WAIT_ABANDONED_0 + numhandles - 1) {
1723                 return map_native_wait_result_to_managed (ret - WAIT_ABANDONED_0);
1724         }
1725         else {
1726                 /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1727                 return map_native_wait_result_to_managed (ret);
1728         }
1729 }
1730
1731 gint32 ves_icall_System_Threading_WaitHandle_WaitOne_internal(HANDLE handle, gint32 ms)
1732 {
1733         MonoError error;
1734         guint32 ret;
1735         MonoInternalThread *thread = mono_thread_internal_current ();
1736
1737         THREAD_WAIT_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") waiting for %p, %d ms", __func__, mono_native_thread_id_get (), handle, ms));
1738
1739         if(ms== -1) {
1740                 ms=INFINITE;
1741         }
1742
1743         if (mono_thread_current_check_pending_interrupt ())
1744                 return map_native_wait_result_to_managed (WAIT_FAILED);
1745
1746         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1747
1748         ret = mono_wait_uninterrupted (thread, 1, &handle, FALSE, ms, &error);
1749
1750         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1751
1752         mono_error_set_pending_exception (&error);
1753         return map_native_wait_result_to_managed (ret);
1754 }
1755
1756 gint32
1757 ves_icall_System_Threading_WaitHandle_SignalAndWait_Internal (HANDLE toSignal, HANDLE toWait, gint32 ms)
1758 {
1759         guint32 ret;
1760         MonoInternalThread *thread = mono_thread_internal_current ();
1761
1762         if (ms == -1)
1763                 ms = INFINITE;
1764
1765         if (mono_thread_current_check_pending_interrupt ())
1766                 return map_native_wait_result_to_managed (WAIT_FAILED);
1767
1768         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1769
1770         MONO_ENTER_GC_SAFE;
1771         ret = SignalObjectAndWait (toSignal, toWait, ms, TRUE);
1772         MONO_EXIT_GC_SAFE;
1773
1774         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1775
1776         return map_native_wait_result_to_managed (ret);
1777 }
1778
1779 HANDLE ves_icall_System_Threading_Mutex_CreateMutex_internal (MonoBoolean owned, MonoString *name, MonoBoolean *created)
1780 {
1781         HANDLE mutex;
1782
1783         *created = TRUE;
1784
1785         if (name == NULL) {
1786                 mutex = CreateMutex (NULL, owned, NULL);
1787         } else {
1788                 mutex = CreateMutex (NULL, owned, mono_string_chars (name));
1789
1790                 if (GetLastError () == ERROR_ALREADY_EXISTS) {
1791                         *created = FALSE;
1792                 }
1793         }
1794
1795         return(mutex);
1796 }
1797
1798 MonoBoolean ves_icall_System_Threading_Mutex_ReleaseMutex_internal (HANDLE handle ) {
1799         return(ReleaseMutex (handle));
1800 }
1801
1802 HANDLE ves_icall_System_Threading_Mutex_OpenMutex_internal (MonoString *name,
1803                                                             gint32 rights,
1804                                                             gint32 *error)
1805 {
1806         HANDLE ret;
1807
1808         *error = ERROR_SUCCESS;
1809
1810         ret = OpenMutex (rights, FALSE, mono_string_chars (name));
1811         if (ret == NULL) {
1812                 *error = GetLastError ();
1813         }
1814
1815         return(ret);
1816 }
1817
1818
1819 HANDLE ves_icall_System_Threading_Semaphore_CreateSemaphore_internal (gint32 initialCount, gint32 maximumCount, MonoString *name, gint32 *error)
1820 {
1821         HANDLE sem;
1822
1823         if (name == NULL) {
1824                 sem = CreateSemaphore (NULL, initialCount, maximumCount, NULL);
1825         } else {
1826                 sem = CreateSemaphore (NULL, initialCount, maximumCount,
1827                                        mono_string_chars (name));
1828         }
1829
1830         *error = GetLastError ();
1831         return(sem);
1832 }
1833
1834 MonoBoolean ves_icall_System_Threading_Semaphore_ReleaseSemaphore_internal (HANDLE handle, gint32 releaseCount, gint32 *prevcount)
1835 {
1836         return ReleaseSemaphore (handle, releaseCount, prevcount);
1837 }
1838
1839 HANDLE ves_icall_System_Threading_Semaphore_OpenSemaphore_internal (MonoString *name, gint32 rights, gint32 *error)
1840 {
1841         HANDLE sem;
1842
1843         sem = OpenSemaphore (rights, FALSE, mono_string_chars (name));
1844         *error = GetLastError ();
1845
1846         return(sem);
1847 }
1848
1849 HANDLE ves_icall_System_Threading_Events_CreateEvent_internal (MonoBoolean manual, MonoBoolean initial, MonoString *name, MonoBoolean *created)
1850 {
1851         HANDLE event;
1852
1853         *created = TRUE;
1854
1855         if (name == NULL) {
1856                 event = CreateEvent (NULL, manual, initial, NULL);
1857         } else {
1858                 event = CreateEvent (NULL, manual, initial,
1859                                      mono_string_chars (name));
1860
1861                 if (GetLastError () == ERROR_ALREADY_EXISTS) {
1862                         *created = FALSE;
1863                 }
1864         }
1865
1866         return(event);
1867 }
1868
1869 gboolean ves_icall_System_Threading_Events_SetEvent_internal (HANDLE handle) {
1870         return (SetEvent(handle));
1871 }
1872
1873 gboolean ves_icall_System_Threading_Events_ResetEvent_internal (HANDLE handle) {
1874         return (ResetEvent(handle));
1875 }
1876
1877 void
1878 ves_icall_System_Threading_Events_CloseEvent_internal (HANDLE handle) {
1879         CloseHandle (handle);
1880 }
1881
1882 HANDLE ves_icall_System_Threading_Events_OpenEvent_internal (MonoString *name,
1883                                                              gint32 rights,
1884                                                              gint32 *error)
1885 {
1886         HANDLE ret;
1887
1888         *error = ERROR_SUCCESS;
1889
1890         ret = OpenEvent (rights, FALSE, mono_string_chars (name));
1891         if (ret == NULL) {
1892                 *error = GetLastError ();
1893         }
1894
1895         return(ret);
1896 }
1897
1898 gint32 ves_icall_System_Threading_Interlocked_Increment_Int (gint32 *location)
1899 {
1900         return InterlockedIncrement (location);
1901 }
1902
1903 gint64 ves_icall_System_Threading_Interlocked_Increment_Long (gint64 *location)
1904 {
1905 #if SIZEOF_VOID_P == 4
1906         if (G_UNLIKELY ((size_t)location & 0x7)) {
1907                 gint64 ret;
1908                 mono_interlocked_lock ();
1909                 (*location)++;
1910                 ret = *location;
1911                 mono_interlocked_unlock ();
1912                 return ret;
1913         }
1914 #endif
1915         return InterlockedIncrement64 (location);
1916 }
1917
1918 gint32 ves_icall_System_Threading_Interlocked_Decrement_Int (gint32 *location)
1919 {
1920         return InterlockedDecrement(location);
1921 }
1922
1923 gint64 ves_icall_System_Threading_Interlocked_Decrement_Long (gint64 * location)
1924 {
1925 #if SIZEOF_VOID_P == 4
1926         if (G_UNLIKELY ((size_t)location & 0x7)) {
1927                 gint64 ret;
1928                 mono_interlocked_lock ();
1929                 (*location)--;
1930                 ret = *location;
1931                 mono_interlocked_unlock ();
1932                 return ret;
1933         }
1934 #endif
1935         return InterlockedDecrement64 (location);
1936 }
1937
1938 gint32 ves_icall_System_Threading_Interlocked_Exchange_Int (gint32 *location, gint32 value)
1939 {
1940         return InterlockedExchange(location, value);
1941 }
1942
1943 MonoObject * ves_icall_System_Threading_Interlocked_Exchange_Object (MonoObject **location, MonoObject *value)
1944 {
1945         MonoObject *res;
1946         res = (MonoObject *) InterlockedExchangePointer((gpointer *) location, value);
1947         mono_gc_wbarrier_generic_nostore (location);
1948         return res;
1949 }
1950
1951 gpointer ves_icall_System_Threading_Interlocked_Exchange_IntPtr (gpointer *location, gpointer value)
1952 {
1953         return InterlockedExchangePointer(location, value);
1954 }
1955
1956 gfloat ves_icall_System_Threading_Interlocked_Exchange_Single (gfloat *location, gfloat value)
1957 {
1958         IntFloatUnion val, ret;
1959
1960         val.fval = value;
1961         ret.ival = InterlockedExchange((gint32 *) location, val.ival);
1962
1963         return ret.fval;
1964 }
1965
1966 gint64
1967 ves_icall_System_Threading_Interlocked_Exchange_Long (gint64 *location, gint64 value)
1968 {
1969 #if SIZEOF_VOID_P == 4
1970         if (G_UNLIKELY ((size_t)location & 0x7)) {
1971                 gint64 ret;
1972                 mono_interlocked_lock ();
1973                 ret = *location;
1974                 *location = value;
1975                 mono_interlocked_unlock ();
1976                 return ret;
1977         }
1978 #endif
1979         return InterlockedExchange64 (location, value);
1980 }
1981
1982 gdouble
1983 ves_icall_System_Threading_Interlocked_Exchange_Double (gdouble *location, gdouble value)
1984 {
1985         LongDoubleUnion val, ret;
1986
1987         val.fval = value;
1988         ret.ival = (gint64)InterlockedExchange64((gint64 *) location, val.ival);
1989
1990         return ret.fval;
1991 }
1992
1993 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int(gint32 *location, gint32 value, gint32 comparand)
1994 {
1995         return InterlockedCompareExchange(location, value, comparand);
1996 }
1997
1998 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int_Success(gint32 *location, gint32 value, gint32 comparand, MonoBoolean *success)
1999 {
2000         gint32 r = InterlockedCompareExchange(location, value, comparand);
2001         *success = r == comparand;
2002         return r;
2003 }
2004
2005 MonoObject * ves_icall_System_Threading_Interlocked_CompareExchange_Object (MonoObject **location, MonoObject *value, MonoObject *comparand)
2006 {
2007         MonoObject *res;
2008         res = (MonoObject *) InterlockedCompareExchangePointer((gpointer *) location, value, comparand);
2009         mono_gc_wbarrier_generic_nostore (location);
2010         return res;
2011 }
2012
2013 gpointer ves_icall_System_Threading_Interlocked_CompareExchange_IntPtr(gpointer *location, gpointer value, gpointer comparand)
2014 {
2015         return InterlockedCompareExchangePointer(location, value, comparand);
2016 }
2017
2018 gfloat ves_icall_System_Threading_Interlocked_CompareExchange_Single (gfloat *location, gfloat value, gfloat comparand)
2019 {
2020         IntFloatUnion val, ret, cmp;
2021
2022         val.fval = value;
2023         cmp.fval = comparand;
2024         ret.ival = InterlockedCompareExchange((gint32 *) location, val.ival, cmp.ival);
2025
2026         return ret.fval;
2027 }
2028
2029 gdouble
2030 ves_icall_System_Threading_Interlocked_CompareExchange_Double (gdouble *location, gdouble value, gdouble comparand)
2031 {
2032 #if SIZEOF_VOID_P == 8
2033         LongDoubleUnion val, comp, ret;
2034
2035         val.fval = value;
2036         comp.fval = comparand;
2037         ret.ival = (gint64)InterlockedCompareExchangePointer((gpointer *) location, (gpointer)val.ival, (gpointer)comp.ival);
2038
2039         return ret.fval;
2040 #else
2041         gdouble old;
2042
2043         mono_interlocked_lock ();
2044         old = *location;
2045         if (old == comparand)
2046                 *location = value;
2047         mono_interlocked_unlock ();
2048
2049         return old;
2050 #endif
2051 }
2052
2053 gint64
2054 ves_icall_System_Threading_Interlocked_CompareExchange_Long (gint64 *location, gint64 value, gint64 comparand)
2055 {
2056 #if SIZEOF_VOID_P == 4
2057         if (G_UNLIKELY ((size_t)location & 0x7)) {
2058                 gint64 old;
2059                 mono_interlocked_lock ();
2060                 old = *location;
2061                 if (old == comparand)
2062                         *location = value;
2063                 mono_interlocked_unlock ();
2064                 return old;
2065         }
2066 #endif
2067         return InterlockedCompareExchange64 (location, value, comparand);
2068 }
2069
2070 MonoObject*
2071 ves_icall_System_Threading_Interlocked_CompareExchange_T (MonoObject **location, MonoObject *value, MonoObject *comparand)
2072 {
2073         MonoObject *res;
2074         res = (MonoObject *)InterlockedCompareExchangePointer ((volatile gpointer *)location, value, comparand);
2075         mono_gc_wbarrier_generic_nostore (location);
2076         return res;
2077 }
2078
2079 MonoObject*
2080 ves_icall_System_Threading_Interlocked_Exchange_T (MonoObject **location, MonoObject *value)
2081 {
2082         MonoObject *res;
2083         MONO_CHECK_NULL (location, NULL);
2084         res = (MonoObject *)InterlockedExchangePointer ((volatile gpointer *)location, value);
2085         mono_gc_wbarrier_generic_nostore (location);
2086         return res;
2087 }
2088
2089 gint32
2090 ves_icall_System_Threading_Interlocked_Add_Int (gint32 *location, gint32 value)
2091 {
2092         return InterlockedAdd (location, value);
2093 }
2094
2095 gint64
2096 ves_icall_System_Threading_Interlocked_Add_Long (gint64 *location, gint64 value)
2097 {
2098 #if SIZEOF_VOID_P == 4
2099         if (G_UNLIKELY ((size_t)location & 0x7)) {
2100                 gint64 ret;
2101                 mono_interlocked_lock ();
2102                 *location += value;
2103                 ret = *location;
2104                 mono_interlocked_unlock ();
2105                 return ret;
2106         }
2107 #endif
2108         return InterlockedAdd64 (location, value);
2109 }
2110
2111 gint64
2112 ves_icall_System_Threading_Interlocked_Read_Long (gint64 *location)
2113 {
2114 #if SIZEOF_VOID_P == 4
2115         if (G_UNLIKELY ((size_t)location & 0x7)) {
2116                 gint64 ret;
2117                 mono_interlocked_lock ();
2118                 ret = *location;
2119                 mono_interlocked_unlock ();
2120                 return ret;
2121         }
2122 #endif
2123         return InterlockedRead64 (location);
2124 }
2125
2126 void
2127 ves_icall_System_Threading_Thread_MemoryBarrier (void)
2128 {
2129         mono_memory_barrier ();
2130 }
2131
2132 void
2133 ves_icall_System_Threading_Thread_ClrState (MonoInternalThread* this_obj, guint32 state)
2134 {
2135         mono_thread_clr_state (this_obj, (MonoThreadState)state);
2136
2137         if (state & ThreadState_Background) {
2138                 /* If the thread changes the background mode, the main thread has to
2139                  * be notified, since it has to rebuild the list of threads to
2140                  * wait for.
2141                  */
2142                 SetEvent (background_change_event);
2143         }
2144 }
2145
2146 void
2147 ves_icall_System_Threading_Thread_SetState (MonoInternalThread* this_obj, guint32 state)
2148 {
2149         mono_thread_set_state (this_obj, (MonoThreadState)state);
2150
2151         if (state & ThreadState_Background) {
2152                 /* If the thread changes the background mode, the main thread has to
2153                  * be notified, since it has to rebuild the list of threads to
2154                  * wait for.
2155                  */
2156                 SetEvent (background_change_event);
2157         }
2158 }
2159
2160 guint32
2161 ves_icall_System_Threading_Thread_GetState (MonoInternalThread* this_obj)
2162 {
2163         guint32 state;
2164
2165         LOCK_THREAD (this_obj);
2166
2167         state = this_obj->state;
2168
2169         UNLOCK_THREAD (this_obj);
2170
2171         return state;
2172 }
2173
2174 void ves_icall_System_Threading_Thread_Interrupt_internal (MonoThread *this_obj)
2175 {
2176         MonoInternalThread *current;
2177         gboolean throw_;
2178         MonoInternalThread *thread = this_obj->internal_thread;
2179
2180         LOCK_THREAD (thread);
2181
2182         current = mono_thread_internal_current ();
2183
2184         thread->thread_interrupt_requested = TRUE;
2185         throw_ = current != thread && (thread->state & ThreadState_WaitSleepJoin);
2186
2187         UNLOCK_THREAD (thread);
2188
2189         if (throw_) {
2190                 async_abort_internal (thread, FALSE);
2191         }
2192 }
2193
2194 /**
2195  * mono_thread_current_check_pending_interrupt:
2196  *
2197  * Checks if there's a interruption request and set the pending exception if so.
2198  *
2199  * @returns true if a pending exception was set
2200  */
2201 gboolean
2202 mono_thread_current_check_pending_interrupt (void)
2203 {
2204         MonoInternalThread *thread = mono_thread_internal_current ();
2205         gboolean throw_ = FALSE;
2206
2207         LOCK_THREAD (thread);
2208
2209         if (thread->thread_interrupt_requested) {
2210                 throw_ = TRUE;
2211                 thread->thread_interrupt_requested = FALSE;
2212         }
2213
2214         UNLOCK_THREAD (thread);
2215
2216         if (throw_)
2217                 mono_set_pending_exception (mono_get_exception_thread_interrupted ());
2218         return throw_;
2219 }
2220
2221 static gboolean
2222 request_thread_abort (MonoInternalThread *thread, MonoObject *state)
2223 {
2224         LOCK_THREAD (thread);
2225
2226         if ((thread->state & ThreadState_AbortRequested) != 0 ||
2227                 (thread->state & ThreadState_StopRequested) != 0 ||
2228                 (thread->state & ThreadState_Stopped) != 0)
2229         {
2230                 UNLOCK_THREAD (thread);
2231                 return FALSE;
2232         }
2233
2234         if ((thread->state & ThreadState_Unstarted) != 0) {
2235                 thread->state |= ThreadState_Aborted;
2236                 UNLOCK_THREAD (thread);
2237                 return FALSE;
2238         }
2239
2240         thread->state |= ThreadState_AbortRequested;
2241         if (thread->abort_state_handle)
2242                 mono_gchandle_free (thread->abort_state_handle);
2243         if (state) {
2244                 thread->abort_state_handle = mono_gchandle_new (state, FALSE);
2245                 g_assert (thread->abort_state_handle);
2246         } else {
2247                 thread->abort_state_handle = 0;
2248         }
2249         thread->abort_exc = NULL;
2250
2251         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Abort requested for %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), thread, (gsize)thread->tid));
2252
2253         /* During shutdown, we can't wait for other threads */
2254         if (!shutting_down)
2255                 /* Make sure the thread is awake */
2256                 mono_thread_resume (thread);
2257
2258         UNLOCK_THREAD (thread);
2259         return TRUE;
2260 }
2261
2262 void
2263 ves_icall_System_Threading_Thread_Abort (MonoInternalThread *thread, MonoObject *state)
2264 {
2265         if (!request_thread_abort (thread, state))
2266                 return;
2267
2268         if (thread == mono_thread_internal_current ()) {
2269                 MonoError error;
2270                 self_abort_internal (&error);
2271                 mono_error_set_pending_exception (&error);
2272         } else {
2273                 async_abort_internal (thread, TRUE);
2274         }
2275 }
2276
2277 /**
2278  * mono_thread_internal_abort:
2279  *
2280  * Request thread @thread to be aborted.
2281  *
2282  * @thread MUST NOT be the current thread.
2283  */
2284 void
2285 mono_thread_internal_abort (MonoInternalThread *thread)
2286 {
2287         g_assert (thread != mono_thread_internal_current ());
2288
2289         if (!request_thread_abort (thread, NULL))
2290                 return;
2291         async_abort_internal (thread, TRUE);
2292 }
2293
2294 void
2295 ves_icall_System_Threading_Thread_ResetAbort (MonoThread *this_obj)
2296 {
2297         MonoInternalThread *thread = mono_thread_internal_current ();
2298         gboolean was_aborting;
2299
2300         LOCK_THREAD (thread);
2301         was_aborting = thread->state & ThreadState_AbortRequested;
2302         thread->state &= ~ThreadState_AbortRequested;
2303         UNLOCK_THREAD (thread);
2304
2305         if (!was_aborting) {
2306                 const char *msg = "Unable to reset abort because no abort was requested";
2307                 mono_set_pending_exception (mono_get_exception_thread_state (msg));
2308                 return;
2309         }
2310         thread->abort_exc = NULL;
2311         if (thread->abort_state_handle) {
2312                 mono_gchandle_free (thread->abort_state_handle);
2313                 /* This is actually not necessary - the handle
2314                    only counts if the exception is set */
2315                 thread->abort_state_handle = 0;
2316         }
2317 }
2318
2319 void
2320 mono_thread_internal_reset_abort (MonoInternalThread *thread)
2321 {
2322         LOCK_THREAD (thread);
2323
2324         thread->state &= ~ThreadState_AbortRequested;
2325
2326         if (thread->abort_exc) {
2327                 thread->abort_exc = NULL;
2328                 if (thread->abort_state_handle) {
2329                         mono_gchandle_free (thread->abort_state_handle);
2330                         /* This is actually not necessary - the handle
2331                            only counts if the exception is set */
2332                         thread->abort_state_handle = 0;
2333                 }
2334         }
2335
2336         UNLOCK_THREAD (thread);
2337 }
2338
2339 MonoObject*
2340 ves_icall_System_Threading_Thread_GetAbortExceptionState (MonoThread *this_obj)
2341 {
2342         MonoError error;
2343         MonoInternalThread *thread = this_obj->internal_thread;
2344         MonoObject *state, *deserialized = NULL;
2345         MonoDomain *domain;
2346
2347         if (!thread->abort_state_handle)
2348                 return NULL;
2349
2350         state = mono_gchandle_get_target (thread->abort_state_handle);
2351         g_assert (state);
2352
2353         domain = mono_domain_get ();
2354         if (mono_object_domain (state) == domain)
2355                 return state;
2356
2357         deserialized = mono_object_xdomain_representation (state, domain, &error);
2358
2359         if (!deserialized) {
2360                 MonoException *invalid_op_exc = mono_get_exception_invalid_operation ("Thread.ExceptionState cannot access an ExceptionState from a different AppDomain");
2361                 if (!is_ok (&error)) {
2362                         MonoObject *exc = (MonoObject*)mono_error_convert_to_exception (&error);
2363                         MONO_OBJECT_SETREF (invalid_op_exc, inner_ex, exc);
2364                 }
2365                 mono_set_pending_exception (invalid_op_exc);
2366                 return NULL;
2367         }
2368
2369         return deserialized;
2370 }
2371
2372 static gboolean
2373 mono_thread_suspend (MonoInternalThread *thread)
2374 {
2375         LOCK_THREAD (thread);
2376
2377         if ((thread->state & ThreadState_Unstarted) != 0 ||
2378                 (thread->state & ThreadState_Aborted) != 0 ||
2379                 (thread->state & ThreadState_Stopped) != 0)
2380         {
2381                 UNLOCK_THREAD (thread);
2382                 return FALSE;
2383         }
2384
2385         if ((thread->state & ThreadState_Suspended) != 0 ||
2386                 (thread->state & ThreadState_SuspendRequested) != 0 ||
2387                 (thread->state & ThreadState_StopRequested) != 0)
2388         {
2389                 UNLOCK_THREAD (thread);
2390                 return TRUE;
2391         }
2392
2393         thread->state |= ThreadState_SuspendRequested;
2394
2395         if (thread == mono_thread_internal_current ()) {
2396                 /* calls UNLOCK_THREAD (thread) */
2397                 self_suspend_internal ();
2398         } else {
2399                 /* calls UNLOCK_THREAD (thread) */
2400                 async_suspend_internal (thread, FALSE);
2401         }
2402
2403         return TRUE;
2404 }
2405
2406 void
2407 ves_icall_System_Threading_Thread_Suspend (MonoThread *this_obj)
2408 {
2409         if (!mono_thread_suspend (this_obj->internal_thread)) {
2410                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2411                 return;
2412         }
2413 }
2414
2415 /* LOCKING: LOCK_THREAD(thread) must be held */
2416 static gboolean
2417 mono_thread_resume (MonoInternalThread *thread)
2418 {
2419         if ((thread->state & ThreadState_SuspendRequested) != 0) {
2420                 thread->state &= ~ThreadState_SuspendRequested;
2421                 return TRUE;
2422         }
2423
2424         if ((thread->state & ThreadState_Suspended) == 0 ||
2425                 (thread->state & ThreadState_Unstarted) != 0 ||
2426                 (thread->state & ThreadState_Aborted) != 0 ||
2427                 (thread->state & ThreadState_Stopped) != 0)
2428         {
2429                 return FALSE;
2430         }
2431
2432         UNLOCK_THREAD (thread);
2433
2434         /* Awake the thread */
2435         if (!mono_thread_info_resume (thread_get_tid (thread)))
2436                 return FALSE;
2437
2438         LOCK_THREAD (thread);
2439
2440         thread->state &= ~ThreadState_Suspended;
2441
2442         return TRUE;
2443 }
2444
2445 void
2446 ves_icall_System_Threading_Thread_Resume (MonoThread *thread)
2447 {
2448         if (!thread->internal_thread) {
2449                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2450         } else {
2451                 LOCK_THREAD (thread->internal_thread);
2452                 if (!mono_thread_resume (thread->internal_thread))
2453                         mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2454                 UNLOCK_THREAD (thread->internal_thread);
2455         }
2456 }
2457
2458 static gboolean
2459 mono_threads_is_critical_method (MonoMethod *method)
2460 {
2461         switch (method->wrapper_type) {
2462         case MONO_WRAPPER_RUNTIME_INVOKE:
2463         case MONO_WRAPPER_XDOMAIN_INVOKE:
2464         case MONO_WRAPPER_XDOMAIN_DISPATCH:
2465                 return TRUE;
2466         }
2467         return FALSE;
2468 }
2469
2470 static gboolean
2471 find_wrapper (MonoMethod *m, gint no, gint ilo, gboolean managed, gpointer data)
2472 {
2473         if (managed)
2474                 return TRUE;
2475
2476         if (mono_threads_is_critical_method (m)) {
2477                 *((gboolean*)data) = TRUE;
2478                 return TRUE;
2479         }
2480         return FALSE;
2481 }
2482
2483 static gboolean
2484 is_running_protected_wrapper (void)
2485 {
2486         gboolean found = FALSE;
2487         mono_stack_walk (find_wrapper, &found);
2488         return found;
2489 }
2490
2491 static gboolean
2492 request_thread_stop (MonoInternalThread *thread)
2493 {
2494         LOCK_THREAD (thread);
2495
2496         if ((thread->state & ThreadState_StopRequested) != 0 ||
2497                 (thread->state & ThreadState_Stopped) != 0)
2498         {
2499                 UNLOCK_THREAD (thread);
2500                 return FALSE;
2501         }
2502
2503         /* Make sure the thread is awake */
2504         mono_thread_resume (thread);
2505
2506         thread->state |= ThreadState_StopRequested;
2507         thread->state &= ~ThreadState_AbortRequested;
2508
2509         UNLOCK_THREAD (thread);
2510         return TRUE;
2511 }
2512
2513 /**
2514  * mono_thread_internal_stop:
2515  *
2516  * Request thread @thread to stop.
2517  *
2518  * @thread MUST NOT be the current thread.
2519  */
2520 void
2521 mono_thread_internal_stop (MonoInternalThread *thread)
2522 {
2523         g_assert (thread != mono_thread_internal_current ());
2524
2525         if (!request_thread_stop (thread))
2526                 return;
2527
2528         async_abort_internal (thread, TRUE);
2529 }
2530
2531 void mono_thread_stop (MonoThread *thread)
2532 {
2533         MonoInternalThread *internal = thread->internal_thread;
2534
2535         if (!request_thread_stop (internal))
2536                 return;
2537
2538         if (internal == mono_thread_internal_current ()) {
2539                 MonoError error;
2540                 self_abort_internal (&error);
2541                 /*
2542                 This function is part of the embeding API and has no way to return the exception
2543                 to be thrown. So what we do is keep the old behavior and raise the exception.
2544                 */
2545                 mono_error_raise_exception (&error); /* OK to throw, see note */
2546         } else {
2547                 async_abort_internal (internal, TRUE);
2548         }
2549 }
2550
2551 gint8
2552 ves_icall_System_Threading_Thread_VolatileRead1 (void *ptr)
2553 {
2554         gint8 tmp = *(volatile gint8 *)ptr;
2555         mono_memory_barrier ();
2556         return tmp;
2557 }
2558
2559 gint16
2560 ves_icall_System_Threading_Thread_VolatileRead2 (void *ptr)
2561 {
2562         gint16 tmp = *(volatile gint16 *)ptr;
2563         mono_memory_barrier ();
2564         return tmp;
2565 }
2566
2567 gint32
2568 ves_icall_System_Threading_Thread_VolatileRead4 (void *ptr)
2569 {
2570         gint32 tmp = *(volatile gint32 *)ptr;
2571         mono_memory_barrier ();
2572         return tmp;
2573 }
2574
2575 gint64
2576 ves_icall_System_Threading_Thread_VolatileRead8 (void *ptr)
2577 {
2578         gint64 tmp = *(volatile gint64 *)ptr;
2579         mono_memory_barrier ();
2580         return tmp;
2581 }
2582
2583 void *
2584 ves_icall_System_Threading_Thread_VolatileReadIntPtr (void *ptr)
2585 {
2586         volatile void *tmp = *(volatile void **)ptr;
2587         mono_memory_barrier ();
2588         return (void *) tmp;
2589 }
2590
2591 void *
2592 ves_icall_System_Threading_Thread_VolatileReadObject (void *ptr)
2593 {
2594         volatile MonoObject *tmp = *(volatile MonoObject **)ptr;
2595         mono_memory_barrier ();
2596         return (MonoObject *) tmp;
2597 }
2598
2599 double
2600 ves_icall_System_Threading_Thread_VolatileReadDouble (void *ptr)
2601 {
2602         double tmp = *(volatile double *)ptr;
2603         mono_memory_barrier ();
2604         return tmp;
2605 }
2606
2607 float
2608 ves_icall_System_Threading_Thread_VolatileReadFloat (void *ptr)
2609 {
2610         float tmp = *(volatile float *)ptr;
2611         mono_memory_barrier ();
2612         return tmp;
2613 }
2614
2615 gint8
2616 ves_icall_System_Threading_Volatile_Read1 (void *ptr)
2617 {
2618         return InterlockedRead8 ((volatile gint8 *)ptr);
2619 }
2620
2621 gint16
2622 ves_icall_System_Threading_Volatile_Read2 (void *ptr)
2623 {
2624         return InterlockedRead16 ((volatile gint16 *)ptr);
2625 }
2626
2627 gint32
2628 ves_icall_System_Threading_Volatile_Read4 (void *ptr)
2629 {
2630         return InterlockedRead ((volatile gint32 *)ptr);
2631 }
2632
2633 gint64
2634 ves_icall_System_Threading_Volatile_Read8 (void *ptr)
2635 {
2636 #if SIZEOF_VOID_P == 4
2637         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2638                 gint64 val;
2639                 mono_interlocked_lock ();
2640                 val = *(gint64*)ptr;
2641                 mono_interlocked_unlock ();
2642                 return val;
2643         }
2644 #endif
2645         return InterlockedRead64 ((volatile gint64 *)ptr);
2646 }
2647
2648 void *
2649 ves_icall_System_Threading_Volatile_ReadIntPtr (void *ptr)
2650 {
2651         return InterlockedReadPointer ((volatile gpointer *)ptr);
2652 }
2653
2654 double
2655 ves_icall_System_Threading_Volatile_ReadDouble (void *ptr)
2656 {
2657         LongDoubleUnion u;
2658
2659 #if SIZEOF_VOID_P == 4
2660         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2661                 double val;
2662                 mono_interlocked_lock ();
2663                 val = *(double*)ptr;
2664                 mono_interlocked_unlock ();
2665                 return val;
2666         }
2667 #endif
2668
2669         u.ival = InterlockedRead64 ((volatile gint64 *)ptr);
2670
2671         return u.fval;
2672 }
2673
2674 float
2675 ves_icall_System_Threading_Volatile_ReadFloat (void *ptr)
2676 {
2677         IntFloatUnion u;
2678
2679         u.ival = InterlockedRead ((volatile gint32 *)ptr);
2680
2681         return u.fval;
2682 }
2683
2684 MonoObject*
2685 ves_icall_System_Threading_Volatile_Read_T (void *ptr)
2686 {
2687         return (MonoObject *)InterlockedReadPointer ((volatile gpointer *)ptr);
2688 }
2689
2690 void
2691 ves_icall_System_Threading_Thread_VolatileWrite1 (void *ptr, gint8 value)
2692 {
2693         mono_memory_barrier ();
2694         *(volatile gint8 *)ptr = value;
2695 }
2696
2697 void
2698 ves_icall_System_Threading_Thread_VolatileWrite2 (void *ptr, gint16 value)
2699 {
2700         mono_memory_barrier ();
2701         *(volatile gint16 *)ptr = value;
2702 }
2703
2704 void
2705 ves_icall_System_Threading_Thread_VolatileWrite4 (void *ptr, gint32 value)
2706 {
2707         mono_memory_barrier ();
2708         *(volatile gint32 *)ptr = value;
2709 }
2710
2711 void
2712 ves_icall_System_Threading_Thread_VolatileWrite8 (void *ptr, gint64 value)
2713 {
2714         mono_memory_barrier ();
2715         *(volatile gint64 *)ptr = value;
2716 }
2717
2718 void
2719 ves_icall_System_Threading_Thread_VolatileWriteIntPtr (void *ptr, void *value)
2720 {
2721         mono_memory_barrier ();
2722         *(volatile void **)ptr = value;
2723 }
2724
2725 void
2726 ves_icall_System_Threading_Thread_VolatileWriteObject (void *ptr, MonoObject *value)
2727 {
2728         mono_memory_barrier ();
2729         mono_gc_wbarrier_generic_store (ptr, value);
2730 }
2731
2732 void
2733 ves_icall_System_Threading_Thread_VolatileWriteDouble (void *ptr, double value)
2734 {
2735         mono_memory_barrier ();
2736         *(volatile double *)ptr = value;
2737 }
2738
2739 void
2740 ves_icall_System_Threading_Thread_VolatileWriteFloat (void *ptr, float value)
2741 {
2742         mono_memory_barrier ();
2743         *(volatile float *)ptr = value;
2744 }
2745
2746 void
2747 ves_icall_System_Threading_Volatile_Write1 (void *ptr, gint8 value)
2748 {
2749         InterlockedWrite8 ((volatile gint8 *)ptr, value);
2750 }
2751
2752 void
2753 ves_icall_System_Threading_Volatile_Write2 (void *ptr, gint16 value)
2754 {
2755         InterlockedWrite16 ((volatile gint16 *)ptr, value);
2756 }
2757
2758 void
2759 ves_icall_System_Threading_Volatile_Write4 (void *ptr, gint32 value)
2760 {
2761         InterlockedWrite ((volatile gint32 *)ptr, value);
2762 }
2763
2764 void
2765 ves_icall_System_Threading_Volatile_Write8 (void *ptr, gint64 value)
2766 {
2767 #if SIZEOF_VOID_P == 4
2768         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2769                 mono_interlocked_lock ();
2770                 *(gint64*)ptr = value;
2771                 mono_interlocked_unlock ();
2772                 return;
2773         }
2774 #endif
2775
2776         InterlockedWrite64 ((volatile gint64 *)ptr, value);
2777 }
2778
2779 void
2780 ves_icall_System_Threading_Volatile_WriteIntPtr (void *ptr, void *value)
2781 {
2782         InterlockedWritePointer ((volatile gpointer *)ptr, value);
2783 }
2784
2785 void
2786 ves_icall_System_Threading_Volatile_WriteDouble (void *ptr, double value)
2787 {
2788         LongDoubleUnion u;
2789
2790 #if SIZEOF_VOID_P == 4
2791         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2792                 mono_interlocked_lock ();
2793                 *(double*)ptr = value;
2794                 mono_interlocked_unlock ();
2795                 return;
2796         }
2797 #endif
2798
2799         u.fval = value;
2800
2801         InterlockedWrite64 ((volatile gint64 *)ptr, u.ival);
2802 }
2803
2804 void
2805 ves_icall_System_Threading_Volatile_WriteFloat (void *ptr, float value)
2806 {
2807         IntFloatUnion u;
2808
2809         u.fval = value;
2810
2811         InterlockedWrite ((volatile gint32 *)ptr, u.ival);
2812 }
2813
2814 void
2815 ves_icall_System_Threading_Volatile_Write_T (void *ptr, MonoObject *value)
2816 {
2817         mono_gc_wbarrier_generic_store_atomic (ptr, value);
2818 }
2819
2820 static void
2821 free_context (void *user_data)
2822 {
2823         ContextStaticData *data = user_data;
2824
2825         mono_threads_lock ();
2826
2827         /*
2828          * There is no guarantee that, by the point this reference queue callback
2829          * has been invoked, the GC handle associated with the object will fail to
2830          * resolve as one might expect. So if we don't free and remove the GC
2831          * handle here, free_context_static_data_helper () could end up resolving
2832          * a GC handle to an actually-dead context which would contain a pointer
2833          * to an already-freed static data segment, resulting in a crash when
2834          * accessing it.
2835          */
2836         g_hash_table_remove (contexts, GUINT_TO_POINTER (data->gc_handle));
2837
2838         mono_threads_unlock ();
2839
2840         mono_gchandle_free (data->gc_handle);
2841         mono_free_static_data (data->static_data);
2842         g_free (data);
2843 }
2844
2845 void
2846 ves_icall_System_Runtime_Remoting_Contexts_Context_RegisterContext (MonoAppContext *ctx)
2847 {
2848         mono_threads_lock ();
2849
2850         //g_print ("Registering context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2851
2852         if (!contexts)
2853                 contexts = g_hash_table_new (NULL, NULL);
2854
2855         if (!context_queue)
2856                 context_queue = mono_gc_reference_queue_new (free_context);
2857
2858         gpointer gch = GUINT_TO_POINTER (mono_gchandle_new_weakref (&ctx->obj, FALSE));
2859         g_hash_table_insert (contexts, gch, gch);
2860
2861         /*
2862          * We use this intermediate structure to contain a duplicate pointer to
2863          * the static data because we can't rely on being able to resolve the GC
2864          * handle in the reference queue callback.
2865          */
2866         ContextStaticData *data = g_new0 (ContextStaticData, 1);
2867         data->gc_handle = GPOINTER_TO_UINT (gch);
2868         ctx->data = data;
2869
2870         context_adjust_static_data (ctx);
2871         mono_gc_reference_queue_add (context_queue, &ctx->obj, data);
2872
2873         mono_threads_unlock ();
2874
2875         mono_profiler_context_loaded (ctx);
2876 }
2877
2878 void
2879 ves_icall_System_Runtime_Remoting_Contexts_Context_ReleaseContext (MonoAppContext *ctx)
2880 {
2881         /*
2882          * NOTE: Since finalizers are unreliable for the purposes of ensuring
2883          * cleanup in exceptional circumstances, we don't actually do any
2884          * cleanup work here. We instead do this via a reference queue.
2885          */
2886
2887         //g_print ("Releasing context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2888
2889         mono_profiler_context_unloaded (ctx);
2890 }
2891
2892 void
2893 mono_thread_init_tls (void)
2894 {
2895         MONO_FAST_TLS_INIT (tls_current_object);
2896         mono_native_tls_alloc (&current_object_key, NULL);
2897 }
2898
2899 void mono_thread_init (MonoThreadStartCB start_cb,
2900                        MonoThreadAttachCB attach_cb)
2901 {
2902         mono_coop_mutex_init_recursive (&threads_mutex);
2903
2904         mono_os_mutex_init_recursive(&interlocked_mutex);
2905         mono_os_mutex_init_recursive(&joinable_threads_mutex);
2906
2907         background_change_event = CreateEvent (NULL, TRUE, FALSE, NULL);
2908         g_assert(background_change_event != NULL);
2909
2910         mono_init_static_data_info (&thread_static_info);
2911         mono_init_static_data_info (&context_static_info);
2912
2913         THREAD_DEBUG (g_message ("%s: Allocated current_object_key %d", __func__, current_object_key));
2914
2915         mono_thread_start_cb = start_cb;
2916         mono_thread_attach_cb = attach_cb;
2917
2918         /* Get a pseudo handle to the current process.  This is just a
2919          * kludge so that wapi can build a process handle if needed.
2920          * As a pseudo handle is returned, we don't need to clean
2921          * anything up.
2922          */
2923         GetCurrentProcess ();
2924 }
2925
2926 void mono_thread_cleanup (void)
2927 {
2928 #if !defined(HOST_WIN32) && !defined(RUN_IN_SUBTHREAD)
2929         MonoThreadInfo *info;
2930
2931         /* The main thread must abandon any held mutexes (particularly
2932          * important for named mutexes as they are shared across
2933          * processes, see bug 74680.)  This will happen when the
2934          * thread exits, but if it's not running in a subthread it
2935          * won't exit in time.
2936          */
2937         info = mono_thread_info_current ();
2938         wapi_thread_handle_set_exited (info->handle, mono_environment_exitcode_get ());
2939 #endif
2940
2941 #if 0
2942         /* This stuff needs more testing, it seems one of these
2943          * critical sections can be locked when mono_thread_cleanup is
2944          * called.
2945          */
2946         mono_coop_mutex_destroy (&threads_mutex);
2947         mono_os_mutex_destroy (&interlocked_mutex);
2948         mono_os_mutex_destroy (&delayed_free_table_mutex);
2949         mono_os_mutex_destroy (&small_id_mutex);
2950         CloseHandle (background_change_event);
2951 #endif
2952
2953         mono_native_tls_free (current_object_key);
2954 }
2955
2956 void
2957 mono_threads_install_cleanup (MonoThreadCleanupFunc func)
2958 {
2959         mono_thread_cleanup_fn = func;
2960 }
2961
2962 void
2963 mono_thread_set_manage_callback (MonoThread *thread, MonoThreadManageCallback func)
2964 {
2965         thread->internal_thread->manage_callback = func;
2966 }
2967
2968 G_GNUC_UNUSED
2969 static void print_tids (gpointer key, gpointer value, gpointer user)
2970 {
2971         /* GPOINTER_TO_UINT breaks horribly if sizeof(void *) >
2972          * sizeof(uint) and a cast to uint would overflow
2973          */
2974         /* Older versions of glib don't have G_GSIZE_FORMAT, so just
2975          * print this as a pointer.
2976          */
2977         g_message ("Waiting for: %p", key);
2978 }
2979
2980 struct wait_data
2981 {
2982         HANDLE handles[MAXIMUM_WAIT_OBJECTS];
2983         MonoInternalThread *threads[MAXIMUM_WAIT_OBJECTS];
2984         guint32 num;
2985 };
2986
2987 static void wait_for_tids (struct wait_data *wait, guint32 timeout)
2988 {
2989         guint32 i, ret;
2990
2991         THREAD_DEBUG (g_message("%s: %d threads to wait for in this batch", __func__, wait->num));
2992
2993         MONO_ENTER_GC_SAFE;
2994         ret=WaitForMultipleObjectsEx(wait->num, wait->handles, TRUE, timeout, TRUE);
2995         MONO_EXIT_GC_SAFE;
2996
2997         if(ret==WAIT_FAILED) {
2998                 /* See the comment in build_wait_tids() */
2999                 THREAD_DEBUG (g_message ("%s: Wait failed", __func__));
3000                 return;
3001         }
3002
3003         for(i=0; i<wait->num; i++)
3004                 CloseHandle (wait->handles[i]);
3005
3006         if (ret == WAIT_TIMEOUT)
3007                 return;
3008
3009         for(i=0; i<wait->num; i++) {
3010                 gsize tid = wait->threads[i]->tid;
3011
3012                 /*
3013                  * On !win32, when the thread handle becomes signalled, it just means the thread has exited user code,
3014                  * it can still run io-layer etc. code. So wait for it to really exit.
3015                  * FIXME: This won't join threads which are not in the joinable_hash yet.
3016                  */
3017                 mono_thread_join ((gpointer)tid);
3018
3019                 mono_threads_lock ();
3020                 if(mono_g_hash_table_lookup (threads, (gpointer)tid)!=NULL) {
3021                         /* This thread must have been killed, because
3022                          * it hasn't cleaned itself up. (It's just
3023                          * possible that the thread exited before the
3024                          * parent thread had a chance to store the
3025                          * handle, and now there is another pointer to
3026                          * the already-exited thread stored.  In this
3027                          * case, we'll just get two
3028                          * mono_profiler_thread_end() calls for the
3029                          * same thread.)
3030                          */
3031
3032                         mono_threads_unlock ();
3033                         THREAD_DEBUG (g_message ("%s: cleaning up after thread %p (%"G_GSIZE_FORMAT")", __func__, wait->threads[i], tid));
3034                         thread_cleanup (wait->threads[i]);
3035                 } else {
3036                         mono_threads_unlock ();
3037                 }
3038         }
3039 }
3040
3041 static void wait_for_tids_or_state_change (struct wait_data *wait, guint32 timeout)
3042 {
3043         guint32 i, ret, count;
3044
3045         THREAD_DEBUG (g_message("%s: %d threads to wait for in this batch", __func__, wait->num));
3046
3047         /* Add the thread state change event, so it wakes up if a thread changes
3048          * to background mode.
3049          */
3050         count = wait->num;
3051         if (count < MAXIMUM_WAIT_OBJECTS) {
3052                 wait->handles [count] = background_change_event;
3053                 count++;
3054         }
3055
3056         MONO_ENTER_GC_SAFE;
3057         ret=WaitForMultipleObjectsEx (count, wait->handles, FALSE, timeout, TRUE);
3058         MONO_EXIT_GC_SAFE;
3059
3060         if(ret==WAIT_FAILED) {
3061                 /* See the comment in build_wait_tids() */
3062                 THREAD_DEBUG (g_message ("%s: Wait failed", __func__));
3063                 return;
3064         }
3065
3066         for(i=0; i<wait->num; i++)
3067                 CloseHandle (wait->handles[i]);
3068
3069         if (ret == WAIT_TIMEOUT)
3070                 return;
3071
3072         if (ret < wait->num) {
3073                 gsize tid = wait->threads[ret]->tid;
3074                 mono_threads_lock ();
3075                 if (mono_g_hash_table_lookup (threads, (gpointer)tid)!=NULL) {
3076                         /* See comment in wait_for_tids about thread cleanup */
3077                         mono_threads_unlock ();
3078                         THREAD_DEBUG (g_message ("%s: cleaning up after thread %"G_GSIZE_FORMAT, __func__, tid));
3079                         thread_cleanup (wait->threads [ret]);
3080                 } else
3081                         mono_threads_unlock ();
3082         }
3083 }
3084
3085 static void build_wait_tids (gpointer key, gpointer value, gpointer user)
3086 {
3087         struct wait_data *wait=(struct wait_data *)user;
3088
3089         if(wait->num<MAXIMUM_WAIT_OBJECTS) {
3090                 HANDLE handle;
3091                 MonoInternalThread *thread=(MonoInternalThread *)value;
3092
3093                 /* Ignore background threads, we abort them later */
3094                 /* Do not lock here since it is not needed and the caller holds threads_lock */
3095                 if (thread->state & ThreadState_Background) {
3096                         THREAD_DEBUG (g_message ("%s: ignoring background thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3097                         return; /* just leave, ignore */
3098                 }
3099
3100                 if (mono_gc_is_finalizer_internal_thread (thread)) {
3101                         THREAD_DEBUG (g_message ("%s: ignoring finalizer thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3102                         return;
3103                 }
3104
3105                 if (thread == mono_thread_internal_current ()) {
3106                         THREAD_DEBUG (g_message ("%s: ignoring current thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3107                         return;
3108                 }
3109
3110                 if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread)) {
3111                         THREAD_DEBUG (g_message ("%s: ignoring main thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3112                         return;
3113                 }
3114
3115                 if (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE) {
3116                         THREAD_DEBUG (g_message ("%s: ignoring thread %" G_GSIZE_FORMAT "with DONT_MANAGE flag set.", __func__, (gsize)thread->tid));
3117                         return;
3118                 }
3119
3120                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3121                 if (handle == NULL) {
3122                         THREAD_DEBUG (g_message ("%s: ignoring unopenable thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3123                         return;
3124                 }
3125
3126                 THREAD_DEBUG (g_message ("%s: Invoking mono_thread_manage callback on thread %p", __func__, thread));
3127                 if ((thread->manage_callback == NULL) || (thread->manage_callback (thread->root_domain_thread) == TRUE)) {
3128                         wait->handles[wait->num]=handle;
3129                         wait->threads[wait->num]=thread;
3130                         wait->num++;
3131
3132                         THREAD_DEBUG (g_message ("%s: adding thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3133                 } else {
3134                         THREAD_DEBUG (g_message ("%s: ignoring (because of callback) thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3135                 }
3136
3137
3138         } else {
3139                 /* Just ignore the rest, we can't do anything with
3140                  * them yet
3141                  */
3142         }
3143 }
3144
3145 static gboolean
3146 remove_and_abort_threads (gpointer key, gpointer value, gpointer user)
3147 {
3148         struct wait_data *wait=(struct wait_data *)user;
3149         MonoNativeThreadId self = mono_native_thread_id_get ();
3150         MonoInternalThread *thread = (MonoInternalThread *)value;
3151         HANDLE handle;
3152
3153         if (wait->num >= MAXIMUM_WAIT_OBJECTS)
3154                 return FALSE;
3155
3156         /* The finalizer thread is not a background thread */
3157         if (!mono_native_thread_id_equals (thread_get_tid (thread), self)
3158              && (thread->state & ThreadState_Background) != 0
3159              && (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE) == 0
3160         ) {
3161                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3162                 if (handle == NULL)
3163                         return FALSE;
3164
3165                 wait->handles[wait->num] = handle;
3166                 wait->threads[wait->num] = thread;
3167                 wait->num++;
3168
3169                 THREAD_DEBUG (g_print ("%s: Aborting id: %"G_GSIZE_FORMAT"\n", __func__, (gsize)thread->tid));
3170                 mono_thread_internal_abort (thread);
3171                 return TRUE;
3172         }
3173
3174         return !mono_native_thread_id_equals (thread_get_tid (thread), self)
3175                 && !mono_gc_is_finalizer_internal_thread (thread);
3176 }
3177
3178 /**
3179  * mono_threads_set_shutting_down:
3180  *
3181  * Is called by a thread that wants to shut down Mono. If the runtime is already
3182  * shutting down, the calling thread is suspended/stopped, and this function never
3183  * returns.
3184  */
3185 void
3186 mono_threads_set_shutting_down (void)
3187 {
3188         MonoInternalThread *current_thread = mono_thread_internal_current ();
3189
3190         mono_threads_lock ();
3191
3192         if (shutting_down) {
3193                 mono_threads_unlock ();
3194
3195                 /* Make sure we're properly suspended/stopped */
3196
3197                 LOCK_THREAD (current_thread);
3198
3199                 if ((current_thread->state & ThreadState_SuspendRequested) ||
3200                     (current_thread->state & ThreadState_AbortRequested) ||
3201                     (current_thread->state & ThreadState_StopRequested)) {
3202                         UNLOCK_THREAD (current_thread);
3203                         mono_thread_execute_interruption ();
3204                 } else {
3205                         current_thread->state |= ThreadState_Stopped;
3206                         UNLOCK_THREAD (current_thread);
3207                 }
3208
3209                 /*since we're killing the thread, unset the current domain.*/
3210                 mono_domain_unset ();
3211
3212                 /* Wake up other threads potentially waiting for us */
3213                 mono_thread_info_exit ();
3214         } else {
3215                 shutting_down = TRUE;
3216
3217                 /* Not really a background state change, but this will
3218                  * interrupt the main thread if it is waiting for all
3219                  * the other threads.
3220                  */
3221                 SetEvent (background_change_event);
3222
3223                 mono_threads_unlock ();
3224         }
3225 }
3226
3227 void mono_thread_manage (void)
3228 {
3229         struct wait_data wait_data;
3230         struct wait_data *wait = &wait_data;
3231
3232         memset (wait, 0, sizeof (struct wait_data));
3233         /* join each thread that's still running */
3234         THREAD_DEBUG (g_message ("%s: Joining each running thread...", __func__));
3235
3236         mono_threads_lock ();
3237         if(threads==NULL) {
3238                 THREAD_DEBUG (g_message("%s: No threads", __func__));
3239                 mono_threads_unlock ();
3240                 return;
3241         }
3242         mono_threads_unlock ();
3243
3244         do {
3245                 mono_threads_lock ();
3246                 if (shutting_down) {
3247                         /* somebody else is shutting down */
3248                         mono_threads_unlock ();
3249                         break;
3250                 }
3251                 THREAD_DEBUG (g_message ("%s: There are %d threads to join", __func__, mono_g_hash_table_size (threads));
3252                         mono_g_hash_table_foreach (threads, print_tids, NULL));
3253
3254                 ResetEvent (background_change_event);
3255                 wait->num=0;
3256                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3257                 memset (wait->threads, 0, MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3258                 mono_g_hash_table_foreach (threads, build_wait_tids, wait);
3259                 mono_threads_unlock ();
3260                 if(wait->num>0) {
3261                         /* Something to wait for */
3262                         wait_for_tids_or_state_change (wait, INFINITE);
3263                 }
3264                 THREAD_DEBUG (g_message ("%s: I have %d threads after waiting.", __func__, wait->num));
3265         } while(wait->num>0);
3266
3267         /* Mono is shutting down, so just wait for the end */
3268         if (!mono_runtime_try_shutdown ()) {
3269                 /*FIXME mono_thread_suspend probably should call mono_thread_execute_interruption when self interrupting. */
3270                 mono_thread_suspend (mono_thread_internal_current ());
3271                 mono_thread_execute_interruption ();
3272         }
3273
3274         /*
3275          * Remove everything but the finalizer thread and self.
3276          * Also abort all the background threads
3277          * */
3278         do {
3279                 mono_threads_lock ();
3280
3281                 wait->num = 0;
3282                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3283                 memset (wait->threads, 0, MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3284                 mono_g_hash_table_foreach_remove (threads, remove_and_abort_threads, wait);
3285
3286                 mono_threads_unlock ();
3287
3288                 THREAD_DEBUG (g_message ("%s: wait->num is now %d", __func__, wait->num));
3289                 if(wait->num>0) {
3290                         /* Something to wait for */
3291                         wait_for_tids (wait, INFINITE);
3292                 }
3293         } while (wait->num > 0);
3294
3295         /*
3296          * give the subthreads a chance to really quit (this is mainly needed
3297          * to get correct user and system times from getrusage/wait/time(1)).
3298          * This could be removed if we avoid pthread_detach() and use pthread_join().
3299          */
3300         mono_thread_info_yield ();
3301 }
3302
3303 static void
3304 collect_threads_for_suspend (gpointer key, gpointer value, gpointer user_data)
3305 {
3306         MonoInternalThread *thread = (MonoInternalThread*)value;
3307         struct wait_data *wait = (struct wait_data*)user_data;
3308         HANDLE handle;
3309
3310         /*
3311          * We try to exclude threads early, to avoid running into the MAXIMUM_WAIT_OBJECTS
3312          * limitation.
3313          * This needs no locking.
3314          */
3315         if ((thread->state & ThreadState_Suspended) != 0 ||
3316                 (thread->state & ThreadState_Stopped) != 0)
3317                 return;
3318
3319         if (wait->num<MAXIMUM_WAIT_OBJECTS) {
3320                 handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3321                 if (handle == NULL)
3322                         return;
3323
3324                 wait->handles [wait->num] = handle;
3325                 wait->threads [wait->num] = thread;
3326                 wait->num++;
3327         }
3328 }
3329
3330 /*
3331  * mono_thread_suspend_all_other_threads:
3332  *
3333  *  Suspend all managed threads except the finalizer thread and this thread. It is
3334  * not possible to resume them later.
3335  */
3336 void mono_thread_suspend_all_other_threads (void)
3337 {
3338         struct wait_data wait_data;
3339         struct wait_data *wait = &wait_data;
3340         int i;
3341         MonoNativeThreadId self = mono_native_thread_id_get ();
3342         guint32 eventidx = 0;
3343         gboolean starting, finished;
3344
3345         memset (wait, 0, sizeof (struct wait_data));
3346         /*
3347          * The other threads could be in an arbitrary state at this point, i.e.
3348          * they could be starting up, shutting down etc. This means that there could be
3349          * threads which are not even in the threads hash table yet.
3350          */
3351
3352         /*
3353          * First we set a barrier which will be checked by all threads before they
3354          * are added to the threads hash table, and they will exit if the flag is set.
3355          * This ensures that no threads could be added to the hash later.
3356          * We will use shutting_down as the barrier for now.
3357          */
3358         g_assert (shutting_down);
3359
3360         /*
3361          * We make multiple calls to WaitForMultipleObjects since:
3362          * - we can only wait for MAXIMUM_WAIT_OBJECTS threads
3363          * - some threads could exit without becoming suspended
3364          */
3365         finished = FALSE;
3366         while (!finished) {
3367                 /*
3368                  * Make a copy of the hashtable since we can't do anything with
3369                  * threads while threads_mutex is held.
3370                  */
3371                 wait->num = 0;
3372                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3373                 memset (wait->threads, 0, MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3374                 mono_threads_lock ();
3375                 mono_g_hash_table_foreach (threads, collect_threads_for_suspend, wait);
3376                 mono_threads_unlock ();
3377
3378                 eventidx = 0;
3379                 /* Get the suspended events that we'll be waiting for */
3380                 for (i = 0; i < wait->num; ++i) {
3381                         MonoInternalThread *thread = wait->threads [i];
3382
3383                         if (mono_native_thread_id_equals (thread_get_tid (thread), self)
3384                              || mono_gc_is_finalizer_internal_thread (thread)
3385                              || (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE)
3386                         ) {
3387                                 //CloseHandle (wait->handles [i]);
3388                                 wait->threads [i] = NULL; /* ignore this thread in next loop */
3389                                 continue;
3390                         }
3391
3392                         LOCK_THREAD (thread);
3393
3394                         if ((thread->state & ThreadState_Suspended) != 0 ||
3395                                 (thread->state & ThreadState_StopRequested) != 0 ||
3396                                 (thread->state & ThreadState_Stopped) != 0) {
3397                                 UNLOCK_THREAD (thread);
3398                                 CloseHandle (wait->handles [i]);
3399                                 wait->threads [i] = NULL; /* ignore this thread in next loop */
3400                                 continue;
3401                         }
3402
3403                         ++eventidx;
3404
3405                         /* Convert abort requests into suspend requests */
3406                         if ((thread->state & ThreadState_AbortRequested) != 0)
3407                                 thread->state &= ~ThreadState_AbortRequested;
3408
3409                         thread->state |= ThreadState_SuspendRequested;
3410
3411                         /* Signal the thread to suspend + calls UNLOCK_THREAD (thread) */
3412                         async_suspend_internal (thread, TRUE);
3413                 }
3414                 if (eventidx <= 0) {
3415                         /*
3416                          * If there are threads which are starting up, we wait until they
3417                          * are suspended when they try to register in the threads hash.
3418                          * This is guaranteed to finish, since the threads which can create new
3419                          * threads get suspended after a while.
3420                          * FIXME: The finalizer thread can still create new threads.
3421                          */
3422                         mono_threads_lock ();
3423                         if (threads_starting_up)
3424                                 starting = mono_g_hash_table_size (threads_starting_up) > 0;
3425                         else
3426                                 starting = FALSE;
3427                         mono_threads_unlock ();
3428                         if (starting)
3429                                 mono_thread_info_sleep (100, NULL);
3430                         else
3431                                 finished = TRUE;
3432                 }
3433         }
3434 }
3435
3436 typedef struct {
3437         MonoInternalThread *thread;
3438         MonoStackFrameInfo *frames;
3439         int nframes, max_frames;
3440         int nthreads, max_threads;
3441         MonoInternalThread **threads;
3442 } ThreadDumpUserData;
3443
3444 static gboolean thread_dump_requested;
3445
3446 /* This needs to be async safe */
3447 static gboolean
3448 collect_frame (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
3449 {
3450         ThreadDumpUserData *ud = (ThreadDumpUserData *)data;
3451
3452         if (ud->nframes < ud->max_frames) {
3453                 memcpy (&ud->frames [ud->nframes], frame, sizeof (MonoStackFrameInfo));
3454                 ud->nframes ++;
3455         }
3456
3457         return FALSE;
3458 }
3459
3460 /* This needs to be async safe */
3461 static SuspendThreadResult
3462 get_thread_dump (MonoThreadInfo *info, gpointer ud)
3463 {
3464         ThreadDumpUserData *user_data = (ThreadDumpUserData *)ud;
3465         MonoInternalThread *thread = user_data->thread;
3466
3467 #if 0
3468 /* This no longer works with remote unwinding */
3469 #ifndef HOST_WIN32
3470         wapi_desc = wapi_current_thread_desc ();
3471         g_string_append_printf (text, " tid=0x%p this=0x%p %s\n", (gpointer)(gsize)thread->tid, thread,  wapi_desc);
3472         free (wapi_desc);
3473 #endif
3474 #endif
3475
3476         if (thread == mono_thread_internal_current ())
3477                 mono_get_eh_callbacks ()->mono_walk_stack_with_ctx (collect_frame, NULL, MONO_UNWIND_SIGNAL_SAFE, ud);
3478         else
3479                 mono_get_eh_callbacks ()->mono_walk_stack_with_state (collect_frame, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, ud);
3480
3481         return MonoResumeThread;
3482 }
3483
3484 typedef struct {
3485         int nthreads, max_threads;
3486         MonoInternalThread **threads;
3487 } CollectThreadsUserData;
3488
3489 static void
3490 collect_thread (gpointer key, gpointer value, gpointer user)
3491 {
3492         CollectThreadsUserData *ud = (CollectThreadsUserData *)user;
3493         MonoInternalThread *thread = (MonoInternalThread *)value;
3494
3495         if (ud->nthreads < ud->max_threads)
3496                 ud->threads [ud->nthreads ++] = thread;
3497 }
3498
3499 /*
3500  * Collect running threads into the THREADS array.
3501  * THREADS should be an array allocated on the stack.
3502  */
3503 static int
3504 collect_threads (MonoInternalThread **thread_array, int max_threads)
3505 {
3506         CollectThreadsUserData ud;
3507
3508         memset (&ud, 0, sizeof (ud));
3509         /* This array contains refs, but its on the stack, so its ok */
3510         ud.threads = thread_array;
3511         ud.max_threads = max_threads;
3512
3513         mono_threads_lock ();
3514         mono_g_hash_table_foreach (threads, collect_thread, &ud);
3515         mono_threads_unlock ();
3516
3517         return ud.nthreads;
3518 }
3519
3520 static void
3521 dump_thread (MonoInternalThread *thread, ThreadDumpUserData *ud)
3522 {
3523         GString* text = g_string_new (0);
3524         char *name;
3525         GError *error = NULL;
3526         int i;
3527
3528         ud->thread = thread;
3529         ud->nframes = 0;
3530
3531         /* Collect frames for the thread */
3532         if (thread == mono_thread_internal_current ()) {
3533                 get_thread_dump (mono_thread_info_current (), ud);
3534         } else {
3535                 mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, ud);
3536         }
3537
3538         /*
3539          * Do all the non async-safe work outside of get_thread_dump.
3540          */
3541         if (thread->name) {
3542                 name = g_utf16_to_utf8 (thread->name, thread->name_len, NULL, NULL, &error);
3543                 g_assert (!error);
3544                 g_string_append_printf (text, "\n\"%s\"", name);
3545                 g_free (name);
3546         }
3547         else if (thread->threadpool_thread) {
3548                 g_string_append (text, "\n\"<threadpool thread>\"");
3549         } else {
3550                 g_string_append (text, "\n\"<unnamed thread>\"");
3551         }
3552
3553         for (i = 0; i < ud->nframes; ++i) {
3554                 MonoStackFrameInfo *frame = &ud->frames [i];
3555                 MonoMethod *method = NULL;
3556
3557                 if (frame->type == FRAME_TYPE_MANAGED)
3558                         method = mono_jit_info_get_method (frame->ji);
3559
3560                 if (method) {
3561                         gchar *location = mono_debug_print_stack_frame (method, frame->native_offset, frame->domain);
3562                         g_string_append_printf (text, "  %s\n", location);
3563                         g_free (location);
3564                 } else {
3565                         g_string_append_printf (text, "  at <unknown> <0x%05x>\n", frame->native_offset);
3566                 }
3567         }
3568
3569         fprintf (stdout, "%s", text->str);
3570
3571 #if PLATFORM_WIN32 && TARGET_WIN32 && _DEBUG
3572         OutputDebugStringA(text->str);
3573 #endif
3574
3575         g_string_free (text, TRUE);
3576         fflush (stdout);
3577 }
3578
3579 void
3580 mono_threads_perform_thread_dump (void)
3581 {
3582         ThreadDumpUserData ud;
3583         MonoInternalThread *thread_array [128];
3584         int tindex, nthreads;
3585
3586         if (!thread_dump_requested)
3587                 return;
3588
3589         printf ("Full thread dump:\n");
3590
3591         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3592         nthreads = collect_threads (thread_array, 128);
3593
3594         memset (&ud, 0, sizeof (ud));
3595         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3596         ud.max_frames = 256;
3597
3598         for (tindex = 0; tindex < nthreads; ++tindex)
3599                 dump_thread (thread_array [tindex], &ud);
3600
3601         g_free (ud.frames);
3602
3603         thread_dump_requested = FALSE;
3604 }
3605
3606 /* Obtain the thread dump of all threads */
3607 static gboolean
3608 mono_threads_get_thread_dump (MonoArray **out_threads, MonoArray **out_stack_frames, MonoError *error)
3609 {
3610
3611         ThreadDumpUserData ud;
3612         MonoInternalThread *thread_array [128];
3613         MonoDomain *domain = mono_domain_get ();
3614         MonoDebugSourceLocation *location;
3615         int tindex, nthreads;
3616
3617         mono_error_init (error);
3618
3619         *out_threads = NULL;
3620         *out_stack_frames = NULL;
3621
3622         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3623         nthreads = collect_threads (thread_array, 128);
3624
3625         memset (&ud, 0, sizeof (ud));
3626         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3627         ud.max_frames = 256;
3628
3629         *out_threads = mono_array_new_checked (domain, mono_defaults.thread_class, nthreads, error);
3630         if (!is_ok (error))
3631                 goto leave;
3632         *out_stack_frames = mono_array_new_checked (domain, mono_defaults.array_class, nthreads, error);
3633         if (!is_ok (error))
3634                 goto leave;
3635
3636         for (tindex = 0; tindex < nthreads; ++tindex) {
3637                 MonoInternalThread *thread = thread_array [tindex];
3638                 MonoArray *thread_frames;
3639                 int i;
3640
3641                 ud.thread = thread;
3642                 ud.nframes = 0;
3643
3644                 /* Collect frames for the thread */
3645                 if (thread == mono_thread_internal_current ()) {
3646                         get_thread_dump (mono_thread_info_current (), &ud);
3647                 } else {
3648                         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, &ud);
3649                 }
3650
3651                 mono_array_setref_fast (*out_threads, tindex, mono_thread_current_for_thread (thread));
3652
3653                 thread_frames = mono_array_new_checked (domain, mono_defaults.stack_frame_class, ud.nframes, error);
3654                 if (!is_ok (error))
3655                         goto leave;
3656                 mono_array_setref_fast (*out_stack_frames, tindex, thread_frames);
3657
3658                 for (i = 0; i < ud.nframes; ++i) {
3659                         MonoStackFrameInfo *frame = &ud.frames [i];
3660                         MonoMethod *method = NULL;
3661                         MonoStackFrame *sf = (MonoStackFrame *)mono_object_new_checked (domain, mono_defaults.stack_frame_class, error);
3662                         if (!is_ok (error))
3663                                 goto leave;
3664
3665                         sf->native_offset = frame->native_offset;
3666
3667                         if (frame->type == FRAME_TYPE_MANAGED)
3668                                 method = mono_jit_info_get_method (frame->ji);
3669
3670                         if (method) {
3671                                 sf->method_address = (gsize) frame->ji->code_start;
3672
3673                                 MonoReflectionMethod *rm = mono_method_get_object_checked (domain, method, NULL, error);
3674                                 if (!is_ok (error))
3675                                         goto leave;
3676                                 MONO_OBJECT_SETREF (sf, method, rm);
3677
3678                                 location = mono_debug_lookup_source_location (method, frame->native_offset, domain);
3679                                 if (location) {
3680                                         sf->il_offset = location->il_offset;
3681
3682                                         if (location && location->source_file) {
3683                                                 MONO_OBJECT_SETREF (sf, filename, mono_string_new (domain, location->source_file));
3684                                                 sf->line = location->row;
3685                                                 sf->column = location->column;
3686                                         }
3687                                         mono_debug_free_source_location (location);
3688                                 } else {
3689                                         sf->il_offset = -1;
3690                                 }
3691                         }
3692                         mono_array_setref (thread_frames, i, sf);
3693                 }
3694         }
3695
3696 leave:
3697         g_free (ud.frames);
3698         return is_ok (error);
3699 }
3700
3701 /**
3702  * mono_threads_request_thread_dump:
3703  *
3704  *   Ask all threads except the current to print their stacktrace to stdout.
3705  */
3706 void
3707 mono_threads_request_thread_dump (void)
3708 {
3709         /*The new thread dump code runs out of the finalizer thread. */
3710         thread_dump_requested = TRUE;
3711         mono_gc_finalize_notify ();
3712 }
3713
3714 struct ref_stack {
3715         gpointer *refs;
3716         gint allocated; /* +1 so that refs [allocated] == NULL */
3717         gint bottom;
3718 };
3719
3720 typedef struct ref_stack RefStack;
3721
3722 static RefStack *
3723 ref_stack_new (gint initial_size)
3724 {
3725         RefStack *rs;
3726
3727         initial_size = MAX (initial_size, 16) + 1;
3728         rs = g_new0 (RefStack, 1);
3729         rs->refs = g_new0 (gpointer, initial_size);
3730         rs->allocated = initial_size;
3731         return rs;
3732 }
3733
3734 static void
3735 ref_stack_destroy (gpointer ptr)
3736 {
3737         RefStack *rs = (RefStack *)ptr;
3738
3739         if (rs != NULL) {
3740                 g_free (rs->refs);
3741                 g_free (rs);
3742         }
3743 }
3744
3745 static void
3746 ref_stack_push (RefStack *rs, gpointer ptr)
3747 {
3748         g_assert (rs != NULL);
3749
3750         if (rs->bottom >= rs->allocated) {
3751                 rs->refs = (void **)g_realloc (rs->refs, rs->allocated * 2 * sizeof (gpointer) + 1);
3752                 rs->allocated <<= 1;
3753                 rs->refs [rs->allocated] = NULL;
3754         }
3755         rs->refs [rs->bottom++] = ptr;
3756 }
3757
3758 static void
3759 ref_stack_pop (RefStack *rs)
3760 {
3761         if (rs == NULL || rs->bottom == 0)
3762                 return;
3763
3764         rs->bottom--;
3765         rs->refs [rs->bottom] = NULL;
3766 }
3767
3768 static gboolean
3769 ref_stack_find (RefStack *rs, gpointer ptr)
3770 {
3771         gpointer *refs;
3772
3773         if (rs == NULL)
3774                 return FALSE;
3775
3776         for (refs = rs->refs; refs && *refs; refs++) {
3777                 if (*refs == ptr)
3778                         return TRUE;
3779         }
3780         return FALSE;
3781 }
3782
3783 /*
3784  * mono_thread_push_appdomain_ref:
3785  *
3786  *   Register that the current thread may have references to objects in domain
3787  * @domain on its stack. Each call to this function should be paired with a
3788  * call to pop_appdomain_ref.
3789  */
3790 void
3791 mono_thread_push_appdomain_ref (MonoDomain *domain)
3792 {
3793         MonoInternalThread *thread = mono_thread_internal_current ();
3794
3795         if (thread) {
3796                 /* printf ("PUSH REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, domain->friendly_name); */
3797                 SPIN_LOCK (thread->lock_thread_id);
3798                 if (thread->appdomain_refs == NULL)
3799                         thread->appdomain_refs = ref_stack_new (16);
3800                 ref_stack_push ((RefStack *)thread->appdomain_refs, domain);
3801                 SPIN_UNLOCK (thread->lock_thread_id);
3802         }
3803 }
3804
3805 void
3806 mono_thread_pop_appdomain_ref (void)
3807 {
3808         MonoInternalThread *thread = mono_thread_internal_current ();
3809
3810         if (thread) {
3811                 /* printf ("POP REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, ((MonoDomain*)(thread->appdomain_refs->data))->friendly_name); */
3812                 SPIN_LOCK (thread->lock_thread_id);
3813                 ref_stack_pop ((RefStack *)thread->appdomain_refs);
3814                 SPIN_UNLOCK (thread->lock_thread_id);
3815         }
3816 }
3817
3818 gboolean
3819 mono_thread_internal_has_appdomain_ref (MonoInternalThread *thread, MonoDomain *domain)
3820 {
3821         gboolean res;
3822         SPIN_LOCK (thread->lock_thread_id);
3823         res = ref_stack_find ((RefStack *)thread->appdomain_refs, domain);
3824         SPIN_UNLOCK (thread->lock_thread_id);
3825         return res;
3826 }
3827
3828 gboolean
3829 mono_thread_has_appdomain_ref (MonoThread *thread, MonoDomain *domain)
3830 {
3831         return mono_thread_internal_has_appdomain_ref (thread->internal_thread, domain);
3832 }
3833
3834 typedef struct abort_appdomain_data {
3835         struct wait_data wait;
3836         MonoDomain *domain;
3837 } abort_appdomain_data;
3838
3839 static void
3840 collect_appdomain_thread (gpointer key, gpointer value, gpointer user_data)
3841 {
3842         MonoInternalThread *thread = (MonoInternalThread*)value;
3843         abort_appdomain_data *data = (abort_appdomain_data*)user_data;
3844         MonoDomain *domain = data->domain;
3845
3846         if (mono_thread_internal_has_appdomain_ref (thread, domain)) {
3847                 /* printf ("ABORTING THREAD %p BECAUSE IT REFERENCES DOMAIN %s.\n", thread->tid, domain->friendly_name); */
3848
3849                 if(data->wait.num<MAXIMUM_WAIT_OBJECTS) {
3850                         HANDLE handle = mono_threads_open_thread_handle (thread->handle, thread_get_tid (thread));
3851                         if (handle == NULL)
3852                                 return;
3853                         data->wait.handles [data->wait.num] = handle;
3854                         data->wait.threads [data->wait.num] = thread;
3855                         data->wait.num++;
3856                 } else {
3857                         /* Just ignore the rest, we can't do anything with
3858                          * them yet
3859                          */
3860                 }
3861         }
3862 }
3863
3864 /*
3865  * mono_threads_abort_appdomain_threads:
3866  *
3867  *   Abort threads which has references to the given appdomain.
3868  */
3869 gboolean
3870 mono_threads_abort_appdomain_threads (MonoDomain *domain, int timeout)
3871 {
3872 #ifdef __native_client__
3873         return FALSE;
3874 #endif
3875
3876         abort_appdomain_data user_data;
3877         gint64 start_time;
3878         int orig_timeout = timeout;
3879         int i;
3880
3881         THREAD_DEBUG (g_message ("%s: starting abort", __func__));
3882
3883         start_time = mono_msec_ticks ();
3884         do {
3885                 mono_threads_lock ();
3886
3887                 user_data.domain = domain;
3888                 user_data.wait.num = 0;
3889                 /* This shouldn't take any locks */
3890                 mono_g_hash_table_foreach (threads, collect_appdomain_thread, &user_data);
3891                 mono_threads_unlock ();
3892
3893                 if (user_data.wait.num > 0) {
3894                         /* Abort the threads outside the threads lock */
3895                         for (i = 0; i < user_data.wait.num; ++i)
3896                                 mono_thread_internal_abort (user_data.wait.threads [i]);
3897
3898                         /*
3899                          * We should wait for the threads either to abort, or to leave the
3900                          * domain. We can't do the latter, so we wait with a timeout.
3901                          */
3902                         wait_for_tids (&user_data.wait, 100);
3903                 }
3904
3905                 /* Update remaining time */
3906                 timeout -= mono_msec_ticks () - start_time;
3907                 start_time = mono_msec_ticks ();
3908
3909                 if (orig_timeout != -1 && timeout < 0)
3910                         return FALSE;
3911         }
3912         while (user_data.wait.num > 0);
3913
3914         THREAD_DEBUG (g_message ("%s: abort done", __func__));
3915
3916         return TRUE;
3917 }
3918
3919 static void
3920 clear_cached_culture (gpointer key, gpointer value, gpointer user_data)
3921 {
3922         MonoInternalThread *thread = (MonoInternalThread*)value;
3923         MonoDomain *domain = (MonoDomain*)user_data;
3924         int i;
3925
3926         /* No locking needed here */
3927         /* FIXME: why no locking? writes to the cache are protected with synch_cs above */
3928
3929         if (thread->cached_culture_info) {
3930                 for (i = 0; i < NUM_CACHED_CULTURES * 2; ++i) {
3931                         MonoObject *obj = mono_array_get (thread->cached_culture_info, MonoObject*, i);
3932                         if (obj && obj->vtable->domain == domain)
3933                                 mono_array_set (thread->cached_culture_info, MonoObject*, i, NULL);
3934                 }
3935         }
3936 }
3937
3938 /*
3939  * mono_threads_clear_cached_culture:
3940  *
3941  *   Clear the cached_current_culture from all threads if it is in the
3942  * given appdomain.
3943  */
3944 void
3945 mono_threads_clear_cached_culture (MonoDomain *domain)
3946 {
3947         mono_threads_lock ();
3948         mono_g_hash_table_foreach (threads, clear_cached_culture, domain);
3949         mono_threads_unlock ();
3950 }
3951
3952 /*
3953  * mono_thread_get_undeniable_exception:
3954  *
3955  *   Return an exception which needs to be raised when leaving a catch clause.
3956  * This is used for undeniable exception propagation.
3957  */
3958 MonoException*
3959 mono_thread_get_undeniable_exception (void)
3960 {
3961         MonoInternalThread *thread = mono_thread_internal_current ();
3962
3963         if (thread && thread->abort_exc && !is_running_protected_wrapper ()) {
3964                 /*
3965                  * FIXME: Clear the abort exception and return an AppDomainUnloaded
3966                  * exception if the thread no longer references a dying appdomain.
3967                  */
3968                 thread->abort_exc->trace_ips = NULL;
3969                 thread->abort_exc->stack_trace = NULL;
3970                 return thread->abort_exc;
3971         }
3972
3973         return NULL;
3974 }
3975
3976 #if MONO_SMALL_CONFIG
3977 #define NUM_STATIC_DATA_IDX 4
3978 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3979         64, 256, 1024, 4096
3980 };
3981 #else
3982 #define NUM_STATIC_DATA_IDX 8
3983 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3984         1024, 4096, 16384, 65536, 262144, 1048576, 4194304, 16777216
3985 };
3986 #endif
3987
3988 static MonoBitSet *thread_reference_bitmaps [NUM_STATIC_DATA_IDX];
3989 static MonoBitSet *context_reference_bitmaps [NUM_STATIC_DATA_IDX];
3990
3991 static void
3992 mark_slots (void *addr, MonoBitSet **bitmaps, MonoGCMarkFunc mark_func, void *gc_data)
3993 {
3994         gpointer *static_data = (gpointer *)addr;
3995
3996         for (int i = 0; i < NUM_STATIC_DATA_IDX; ++i) {
3997                 void **ptr = (void **)static_data [i];
3998
3999                 if (!ptr)
4000                         continue;
4001
4002                 MONO_BITSET_FOREACH (bitmaps [i], idx, {
4003                         void **p = ptr + idx;
4004
4005                         if (*p)
4006                                 mark_func ((MonoObject**)p, gc_data);
4007                 });
4008         }
4009 }
4010
4011 static void
4012 mark_tls_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
4013 {
4014         mark_slots (addr, thread_reference_bitmaps, mark_func, gc_data);
4015 }
4016
4017 static void
4018 mark_ctx_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
4019 {
4020         mark_slots (addr, context_reference_bitmaps, mark_func, gc_data);
4021 }
4022
4023 /*
4024  *  mono_alloc_static_data
4025  *
4026  *   Allocate memory blocks for storing threads or context static data
4027  */
4028 static void
4029 mono_alloc_static_data (gpointer **static_data_ptr, guint32 offset, gboolean threadlocal)
4030 {
4031         guint idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4032         int i;
4033
4034         gpointer* static_data = *static_data_ptr;
4035         if (!static_data) {
4036                 static MonoGCDescriptor tls_desc = MONO_GC_DESCRIPTOR_NULL;
4037                 static MonoGCDescriptor ctx_desc = MONO_GC_DESCRIPTOR_NULL;
4038
4039                 if (mono_gc_user_markers_supported ()) {
4040                         if (tls_desc == MONO_GC_DESCRIPTOR_NULL)
4041                                 tls_desc = mono_gc_make_root_descr_user (mark_tls_slots);
4042
4043                         if (ctx_desc == MONO_GC_DESCRIPTOR_NULL)
4044                                 ctx_desc = mono_gc_make_root_descr_user (mark_ctx_slots);
4045                 }
4046
4047                 static_data = (void **)mono_gc_alloc_fixed (static_data_size [0], threadlocal ? tls_desc : ctx_desc,
4048                         threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
4049                         threadlocal ? "managed thread-static variables" : "managed context-static variables");
4050                 *static_data_ptr = static_data;
4051                 static_data [0] = static_data;
4052         }
4053
4054         for (i = 1; i <= idx; ++i) {
4055                 if (static_data [i])
4056                         continue;
4057
4058                 if (mono_gc_user_markers_supported ())
4059                         static_data [i] = g_malloc0 (static_data_size [i]);
4060                 else
4061                         static_data [i] = mono_gc_alloc_fixed (static_data_size [i], MONO_GC_DESCRIPTOR_NULL,
4062                                 threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
4063                                 threadlocal ? "managed thread-static variables" : "managed context-static variables");
4064         }
4065 }
4066
4067 static void
4068 mono_free_static_data (gpointer* static_data)
4069 {
4070         int i;
4071         for (i = 1; i < NUM_STATIC_DATA_IDX; ++i) {
4072                 gpointer p = static_data [i];
4073                 if (!p)
4074                         continue;
4075                 /*
4076                  * At this point, the static data pointer array is still registered with the
4077                  * GC, so must ensure that mark_tls_slots() will not encounter any invalid
4078                  * data.  Freeing the individual arrays without first nulling their slots
4079                  * would make it possible for mark_tls/ctx_slots() to encounter a pointer to
4080                  * such an already freed array.  See bug #13813.
4081                  */
4082                 static_data [i] = NULL;
4083                 mono_memory_write_barrier ();
4084                 if (mono_gc_user_markers_supported ())
4085                         g_free (p);
4086                 else
4087                         mono_gc_free_fixed (p);
4088         }
4089         mono_gc_free_fixed (static_data);
4090 }
4091
4092 /*
4093  *  mono_init_static_data_info
4094  *
4095  *   Initializes static data counters
4096  */
4097 static void mono_init_static_data_info (StaticDataInfo *static_data)
4098 {
4099         static_data->idx = 0;
4100         static_data->offset = 0;
4101         static_data->freelist = NULL;
4102 }
4103
4104 /*
4105  *  mono_alloc_static_data_slot
4106  *
4107  *   Generates an offset for static data. static_data contains the counters
4108  *  used to generate it.
4109  */
4110 static guint32
4111 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align)
4112 {
4113         if (!static_data->idx && !static_data->offset) {
4114                 /*
4115                  * we use the first chunk of the first allocation also as
4116                  * an array for the rest of the data
4117                  */
4118                 static_data->offset = sizeof (gpointer) * NUM_STATIC_DATA_IDX;
4119         }
4120         static_data->offset += align - 1;
4121         static_data->offset &= ~(align - 1);
4122         if (static_data->offset + size >= static_data_size [static_data->idx]) {
4123                 static_data->idx ++;
4124                 g_assert (size <= static_data_size [static_data->idx]);
4125                 g_assert (static_data->idx < NUM_STATIC_DATA_IDX);
4126                 static_data->offset = 0;
4127         }
4128         guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (static_data->idx, static_data->offset, 0);
4129         static_data->offset += size;
4130         return offset;
4131 }
4132
4133 /*
4134  * ensure thread static fields already allocated are valid for thread
4135  * This function is called when a thread is created or on thread attach.
4136  */
4137 static void
4138 thread_adjust_static_data (MonoInternalThread *thread)
4139 {
4140         mono_threads_lock ();
4141         if (thread_static_info.offset || thread_static_info.idx > 0) {
4142                 /* get the current allocated size */
4143                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (thread_static_info.idx, thread_static_info.offset, 0);
4144                 mono_alloc_static_data (&thread->static_data, offset, TRUE);
4145         }
4146         mono_threads_unlock ();
4147 }
4148
4149 /*
4150  * LOCKING: requires that threads_mutex is held
4151  */
4152 static void
4153 context_adjust_static_data (MonoAppContext *ctx)
4154 {
4155         if (context_static_info.offset || context_static_info.idx > 0) {
4156                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (context_static_info.idx, context_static_info.offset, 0);
4157                 mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4158                 ctx->data->static_data = ctx->static_data;
4159         }
4160 }
4161
4162 /*
4163  * LOCKING: requires that threads_mutex is held
4164  */
4165 static void
4166 alloc_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4167 {
4168         MonoInternalThread *thread = (MonoInternalThread *)value;
4169         guint32 offset = GPOINTER_TO_UINT (user);
4170
4171         mono_alloc_static_data (&(thread->static_data), offset, TRUE);
4172 }
4173
4174 /*
4175  * LOCKING: requires that threads_mutex is held
4176  */
4177 static void
4178 alloc_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4179 {
4180         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4181
4182         if (!ctx)
4183                 return;
4184
4185         guint32 offset = GPOINTER_TO_UINT (user);
4186         mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4187         ctx->data->static_data = ctx->static_data;
4188 }
4189
4190 static StaticDataFreeList*
4191 search_slot_in_freelist (StaticDataInfo *static_data, guint32 size, guint32 align)
4192 {
4193         StaticDataFreeList* prev = NULL;
4194         StaticDataFreeList* tmp = static_data->freelist;
4195         while (tmp) {
4196                 if (tmp->size == size) {
4197                         if (prev)
4198                                 prev->next = tmp->next;
4199                         else
4200                                 static_data->freelist = tmp->next;
4201                         return tmp;
4202                 }
4203                 prev = tmp;
4204                 tmp = tmp->next;
4205         }
4206         return NULL;
4207 }
4208
4209 #if SIZEOF_VOID_P == 4
4210 #define ONE_P 1
4211 #else
4212 #define ONE_P 1ll
4213 #endif
4214
4215 static void
4216 update_reference_bitmap (MonoBitSet **sets, guint32 offset, uintptr_t *bitmap, int numbits)
4217 {
4218         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4219         if (!sets [idx])
4220                 sets [idx] = mono_bitset_new (static_data_size [idx] / sizeof (uintptr_t), 0);
4221         MonoBitSet *rb = sets [idx];
4222         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4223         offset /= sizeof (uintptr_t);
4224         /* offset is now the bitmap offset */
4225         for (int i = 0; i < numbits; ++i) {
4226                 if (bitmap [i / sizeof (uintptr_t)] & (ONE_P << (i & (sizeof (uintptr_t) * 8 -1))))
4227                         mono_bitset_set_fast (rb, offset + i);
4228         }
4229 }
4230
4231 static void
4232 clear_reference_bitmap (MonoBitSet **sets, guint32 offset, guint32 size)
4233 {
4234         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4235         MonoBitSet *rb = sets [idx];
4236         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4237         offset /= sizeof (uintptr_t);
4238         /* offset is now the bitmap offset */
4239         for (int i = 0; i < size / sizeof (uintptr_t); i++)
4240                 mono_bitset_clear_fast (rb, offset + i);
4241 }
4242
4243 guint32
4244 mono_alloc_special_static_data (guint32 static_type, guint32 size, guint32 align, uintptr_t *bitmap, int numbits)
4245 {
4246         g_assert (static_type == SPECIAL_STATIC_THREAD || static_type == SPECIAL_STATIC_CONTEXT);
4247
4248         StaticDataInfo *info;
4249         MonoBitSet **sets;
4250
4251         if (static_type == SPECIAL_STATIC_THREAD) {
4252                 info = &thread_static_info;
4253                 sets = thread_reference_bitmaps;
4254         } else {
4255                 info = &context_static_info;
4256                 sets = context_reference_bitmaps;
4257         }
4258
4259         mono_threads_lock ();
4260
4261         StaticDataFreeList *item = search_slot_in_freelist (info, size, align);
4262         guint32 offset;
4263
4264         if (item) {
4265                 offset = item->offset;
4266                 g_free (item);
4267         } else {
4268                 offset = mono_alloc_static_data_slot (info, size, align);
4269         }
4270
4271         update_reference_bitmap (sets, offset, bitmap, numbits);
4272
4273         if (static_type == SPECIAL_STATIC_THREAD) {
4274                 /* This can be called during startup */
4275                 if (threads != NULL)
4276                         mono_g_hash_table_foreach (threads, alloc_thread_static_data_helper, GUINT_TO_POINTER (offset));
4277         } else {
4278                 if (contexts != NULL)
4279                         g_hash_table_foreach (contexts, alloc_context_static_data_helper, GUINT_TO_POINTER (offset));
4280
4281                 ACCESS_SPECIAL_STATIC_OFFSET (offset, type) = SPECIAL_STATIC_OFFSET_TYPE_CONTEXT;
4282         }
4283
4284         mono_threads_unlock ();
4285
4286         return offset;
4287 }
4288
4289 gpointer
4290 mono_get_special_static_data_for_thread (MonoInternalThread *thread, guint32 offset)
4291 {
4292         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4293
4294         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4295                 return get_thread_static_data (thread, offset);
4296         } else {
4297                 return get_context_static_data (thread->current_appcontext, offset);
4298         }
4299 }
4300
4301 gpointer
4302 mono_get_special_static_data (guint32 offset)
4303 {
4304         return mono_get_special_static_data_for_thread (mono_thread_internal_current (), offset);
4305 }
4306
4307 typedef struct {
4308         guint32 offset;
4309         guint32 size;
4310 } OffsetSize;
4311
4312 /*
4313  * LOCKING: requires that threads_mutex is held
4314  */
4315 static void
4316 free_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4317 {
4318         MonoInternalThread *thread = (MonoInternalThread *)value;
4319         OffsetSize *data = (OffsetSize *)user;
4320         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4321         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4322         char *ptr;
4323
4324         if (!thread->static_data || !thread->static_data [idx])
4325                 return;
4326         ptr = ((char*) thread->static_data [idx]) + off;
4327         mono_gc_bzero_atomic (ptr, data->size);
4328 }
4329
4330 /*
4331  * LOCKING: requires that threads_mutex is held
4332  */
4333 static void
4334 free_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4335 {
4336         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4337
4338         if (!ctx)
4339                 return;
4340
4341         OffsetSize *data = (OffsetSize *)user;
4342         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4343         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4344         char *ptr;
4345
4346         if (!ctx->static_data || !ctx->static_data [idx])
4347                 return;
4348
4349         ptr = ((char*) ctx->static_data [idx]) + off;
4350         mono_gc_bzero_atomic (ptr, data->size);
4351 }
4352
4353 static void
4354 do_free_special_slot (guint32 offset, guint32 size)
4355 {
4356         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4357         MonoBitSet **sets;
4358         StaticDataInfo *info;
4359
4360         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4361                 info = &thread_static_info;
4362                 sets = thread_reference_bitmaps;
4363         } else {
4364                 info = &context_static_info;
4365                 sets = context_reference_bitmaps;
4366         }
4367
4368         guint32 data_offset = offset;
4369         ACCESS_SPECIAL_STATIC_OFFSET (data_offset, type) = 0;
4370         OffsetSize data = { data_offset, size };
4371
4372         clear_reference_bitmap (sets, data.offset, data.size);
4373
4374         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4375                 if (threads != NULL)
4376                         mono_g_hash_table_foreach (threads, free_thread_static_data_helper, &data);
4377         } else {
4378                 if (contexts != NULL)
4379                         g_hash_table_foreach (contexts, free_context_static_data_helper, &data);
4380         }
4381
4382         if (!mono_runtime_is_shutting_down ()) {
4383                 StaticDataFreeList *item = g_new0 (StaticDataFreeList, 1);
4384
4385                 item->offset = offset;
4386                 item->size = size;
4387
4388                 item->next = info->freelist;
4389                 info->freelist = item;
4390         }
4391 }
4392
4393 static void
4394 do_free_special (gpointer key, gpointer value, gpointer data)
4395 {
4396         MonoClassField *field = (MonoClassField *)key;
4397         guint32 offset = GPOINTER_TO_UINT (value);
4398         gint32 align;
4399         guint32 size;
4400         size = mono_type_size (field->type, &align);
4401         do_free_special_slot (offset, size);
4402 }
4403
4404 void
4405 mono_alloc_special_static_data_free (GHashTable *special_static_fields)
4406 {
4407         mono_threads_lock ();
4408
4409         g_hash_table_foreach (special_static_fields, do_free_special, NULL);
4410
4411         mono_threads_unlock ();
4412 }
4413
4414 #ifdef HOST_WIN32
4415 static void CALLBACK dummy_apc (ULONG_PTR param)
4416 {
4417 }
4418 #endif
4419
4420 /*
4421  * mono_thread_execute_interruption
4422  *
4423  * Performs the operation that the requested thread state requires (abort,
4424  * suspend or stop)
4425  */
4426 static MonoException*
4427 mono_thread_execute_interruption (void)
4428 {
4429         MonoInternalThread *thread = mono_thread_internal_current ();
4430         MonoThread *sys_thread = mono_thread_current ();
4431
4432         LOCK_THREAD (thread);
4433
4434         /* MonoThread::interruption_requested can only be changed with atomics */
4435         if (InterlockedCompareExchange (&thread->interruption_requested, FALSE, TRUE)) {
4436                 /* this will consume pending APC calls */
4437 #ifdef HOST_WIN32
4438                 WaitForSingleObjectEx (GetCurrentThread(), 0, TRUE);
4439 #endif
4440                 InterlockedDecrement (&thread_interruption_requested);
4441
4442                 /* Clear the interrupted flag of the thread so it can wait again */
4443                 mono_thread_info_clear_self_interrupt ();
4444         }
4445
4446         /* If there's a pending exception and an AbortRequested, the pending exception takes precedence */
4447         if (sys_thread->pending_exception) {
4448                 MonoException *exc;
4449
4450                 exc = sys_thread->pending_exception;
4451                 sys_thread->pending_exception = NULL;
4452
4453                 UNLOCK_THREAD (thread);
4454                 return exc;
4455         } else if ((thread->state & ThreadState_AbortRequested) != 0) {
4456                 UNLOCK_THREAD (thread);
4457                 g_assert (sys_thread->pending_exception == NULL);
4458                 if (thread->abort_exc == NULL) {
4459                         /*
4460                          * This might be racy, but it has to be called outside the lock
4461                          * since it calls managed code.
4462                          */
4463                         MONO_OBJECT_SETREF (thread, abort_exc, mono_get_exception_thread_abort ());
4464                 }
4465                 return thread->abort_exc;
4466         }
4467         else if ((thread->state & ThreadState_SuspendRequested) != 0) {
4468                 /* calls UNLOCK_THREAD (thread) */
4469                 self_suspend_internal ();
4470                 return NULL;
4471         }
4472         else if ((thread->state & ThreadState_StopRequested) != 0) {
4473                 /* FIXME: do this through the JIT? */
4474
4475                 UNLOCK_THREAD (thread);
4476
4477                 mono_thread_exit ();
4478                 return NULL;
4479         } else if (thread->thread_interrupt_requested) {
4480
4481                 thread->thread_interrupt_requested = FALSE;
4482                 UNLOCK_THREAD (thread);
4483
4484                 return(mono_get_exception_thread_interrupted ());
4485         }
4486
4487         UNLOCK_THREAD (thread);
4488
4489         return NULL;
4490 }
4491
4492 /*
4493  * mono_thread_request_interruption
4494  *
4495  * A signal handler can call this method to request the interruption of a
4496  * thread. The result of the interruption will depend on the current state of
4497  * the thread. If the result is an exception that needs to be throw, it is
4498  * provided as return value.
4499  */
4500 MonoException*
4501 mono_thread_request_interruption (gboolean running_managed)
4502 {
4503         MonoInternalThread *thread = mono_thread_internal_current ();
4504
4505         /* The thread may already be stopping */
4506         if (thread == NULL)
4507                 return NULL;
4508
4509 #ifdef HOST_WIN32
4510         if (thread->interrupt_on_stop &&
4511                 thread->state & ThreadState_StopRequested &&
4512                 thread->state & ThreadState_Background)
4513                 ExitThread (1);
4514 #endif
4515
4516         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4517                 return NULL;
4518         InterlockedIncrement (&thread_interruption_requested);
4519
4520         if (!running_managed || is_running_protected_wrapper ()) {
4521                 /* Can't stop while in unmanaged code. Increase the global interruption
4522                    request count. When exiting the unmanaged method the count will be
4523                    checked and the thread will be interrupted. */
4524
4525                 /* this will awake the thread if it is in WaitForSingleObject
4526                    or similar */
4527                 /* Our implementation of this function ignores the func argument */
4528 #ifdef HOST_WIN32
4529                 QueueUserAPC ((PAPCFUNC)dummy_apc, thread->handle, (ULONG_PTR)NULL);
4530 #else
4531                 mono_thread_info_self_interrupt ();
4532 #endif
4533                 return NULL;
4534         }
4535         else {
4536                 return mono_thread_execute_interruption ();
4537         }
4538 }
4539
4540 /*This function should be called by a thread after it has exited all of
4541  * its handle blocks at interruption time.*/
4542 MonoException*
4543 mono_thread_resume_interruption (void)
4544 {
4545         MonoInternalThread *thread = mono_thread_internal_current ();
4546         gboolean still_aborting;
4547
4548         /* The thread may already be stopping */
4549         if (thread == NULL)
4550                 return NULL;
4551
4552         LOCK_THREAD (thread);
4553         still_aborting = (thread->state & (ThreadState_AbortRequested|ThreadState_StopRequested)) != 0;
4554         UNLOCK_THREAD (thread);
4555
4556         /*This can happen if the protected block called Thread::ResetAbort*/
4557         if (!still_aborting)
4558                 return FALSE;
4559
4560         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4561                 return NULL;
4562         InterlockedIncrement (&thread_interruption_requested);
4563
4564         mono_thread_info_self_interrupt ();
4565
4566         return mono_thread_execute_interruption ();
4567 }
4568
4569 gboolean mono_thread_interruption_requested ()
4570 {
4571         if (thread_interruption_requested) {
4572                 MonoInternalThread *thread = mono_thread_internal_current ();
4573                 /* The thread may already be stopping */
4574                 if (thread != NULL)
4575                         return (thread->interruption_requested);
4576         }
4577         return FALSE;
4578 }
4579
4580 static MonoException*
4581 mono_thread_interruption_checkpoint_request (gboolean bypass_abort_protection)
4582 {
4583         MonoInternalThread *thread = mono_thread_internal_current ();
4584
4585         /* The thread may already be stopping */
4586         if (thread == NULL)
4587                 return NULL;
4588
4589         if (thread->interruption_requested && (bypass_abort_protection || !is_running_protected_wrapper ())) {
4590                 MonoException* exc = mono_thread_execute_interruption ();
4591                 if (exc)
4592                         return exc;
4593         }
4594         return NULL;
4595 }
4596
4597 /*
4598  * Performs the interruption of the current thread, if one has been requested,
4599  * and the thread is not running a protected wrapper.
4600  * Return the exception which needs to be thrown, if any.
4601  */
4602 MonoException*
4603 mono_thread_interruption_checkpoint (void)
4604 {
4605         return mono_thread_interruption_checkpoint_request (FALSE);
4606 }
4607
4608 /*
4609  * Performs the interruption of the current thread, if one has been requested.
4610  * Return the exception which needs to be thrown, if any.
4611  */
4612 MonoException*
4613 mono_thread_force_interruption_checkpoint_noraise (void)
4614 {
4615         return mono_thread_interruption_checkpoint_request (TRUE);
4616 }
4617
4618 /*
4619  * mono_set_pending_exception:
4620  *
4621  *   Set the pending exception of the current thread to EXC.
4622  * The exception will be thrown when execution returns to managed code.
4623  */
4624 void
4625 mono_set_pending_exception (MonoException *exc)
4626 {
4627         MonoThread *thread = mono_thread_current ();
4628
4629         /* The thread may already be stopping */
4630         if (thread == NULL)
4631                 return;
4632
4633         MONO_OBJECT_SETREF (thread, pending_exception, exc);
4634
4635     mono_thread_request_interruption (FALSE);
4636 }
4637
4638 /**
4639  * mono_thread_interruption_request_flag:
4640  *
4641  * Returns the address of a flag that will be non-zero if an interruption has
4642  * been requested for a thread. The thread to interrupt may not be the current
4643  * thread, so an additional call to mono_thread_interruption_requested() or
4644  * mono_thread_interruption_checkpoint() is allways needed if the flag is not
4645  * zero.
4646  */
4647 gint32* mono_thread_interruption_request_flag ()
4648 {
4649         return &thread_interruption_requested;
4650 }
4651
4652 void
4653 mono_thread_init_apartment_state (void)
4654 {
4655 #ifdef HOST_WIN32
4656         MonoInternalThread* thread = mono_thread_internal_current ();
4657
4658         /* Positive return value indicates success, either
4659          * S_OK if this is first CoInitialize call, or
4660          * S_FALSE if CoInitialize already called, but with same
4661          * threading model. A negative value indicates failure,
4662          * probably due to trying to change the threading model.
4663          */
4664         if (CoInitializeEx(NULL, (thread->apartment_state == ThreadApartmentState_STA)
4665                         ? COINIT_APARTMENTTHREADED
4666                         : COINIT_MULTITHREADED) < 0) {
4667                 thread->apartment_state = ThreadApartmentState_Unknown;
4668         }
4669 #endif
4670 }
4671
4672 void
4673 mono_thread_cleanup_apartment_state (void)
4674 {
4675 #ifdef HOST_WIN32
4676         MonoInternalThread* thread = mono_thread_internal_current ();
4677
4678         if (thread && thread->apartment_state != ThreadApartmentState_Unknown) {
4679                 CoUninitialize ();
4680         }
4681 #endif
4682 }
4683
4684 void
4685 mono_thread_set_state (MonoInternalThread *thread, MonoThreadState state)
4686 {
4687         LOCK_THREAD (thread);
4688         thread->state |= state;
4689         UNLOCK_THREAD (thread);
4690 }
4691
4692 void
4693 mono_thread_clr_state (MonoInternalThread *thread, MonoThreadState state)
4694 {
4695         LOCK_THREAD (thread);
4696         thread->state &= ~state;
4697         UNLOCK_THREAD (thread);
4698 }
4699
4700 gboolean
4701 mono_thread_test_state (MonoInternalThread *thread, MonoThreadState test)
4702 {
4703         gboolean ret = FALSE;
4704
4705         LOCK_THREAD (thread);
4706
4707         if ((thread->state & test) != 0) {
4708                 ret = TRUE;
4709         }
4710
4711         UNLOCK_THREAD (thread);
4712
4713         return ret;
4714 }
4715
4716 static gboolean has_tls_get = FALSE;
4717
4718 void
4719 mono_runtime_set_has_tls_get (gboolean val)
4720 {
4721         has_tls_get = val;
4722 }
4723
4724 gboolean
4725 mono_runtime_has_tls_get (void)
4726 {
4727         return has_tls_get;
4728 }
4729
4730 static void
4731 self_interrupt_thread (void *_unused)
4732 {
4733         MonoThreadInfo *info = mono_thread_info_current ();
4734         MonoException *exc = mono_thread_execute_interruption ();
4735         if (exc) /*We must use _with_context since we didn't trampoline into the runtime*/
4736                 mono_raise_exception_with_context (exc, &info->thread_saved_state [ASYNC_SUSPEND_STATE_INDEX].ctx); /* FIXME using thread_saved_state [ASYNC_SUSPEND_STATE_INDEX] can race with another suspend coming in. */
4737         g_assert_not_reached (); /*this MUST not happen since we can't resume from an async call*/
4738 }
4739
4740 static gboolean
4741 mono_jit_info_match (MonoJitInfo *ji, gpointer ip)
4742 {
4743         if (!ji)
4744                 return FALSE;
4745         return ji->code_start <= ip && (char*)ip < (char*)ji->code_start + ji->code_size;
4746 }
4747
4748 static gboolean
4749 last_managed (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
4750 {
4751         MonoJitInfo **dest = (MonoJitInfo **)data;
4752         *dest = frame->ji;
4753         return TRUE;
4754 }
4755
4756 static MonoJitInfo*
4757 mono_thread_info_get_last_managed (MonoThreadInfo *info)
4758 {
4759         MonoJitInfo *ji = NULL;
4760         if (!info)
4761                 return NULL;
4762
4763         /*
4764          * The suspended thread might be holding runtime locks. Make sure we don't try taking
4765          * any runtime locks while unwinding. In coop case we shouldn't safepoint in regions
4766          * where we hold runtime locks.
4767          */
4768         if (!mono_threads_is_coop_enabled ())
4769                 mono_thread_info_set_is_async_context (TRUE);
4770         mono_get_eh_callbacks ()->mono_walk_stack_with_state (last_managed, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, &ji);
4771         if (!mono_threads_is_coop_enabled ())
4772                 mono_thread_info_set_is_async_context (FALSE);
4773         return ji;
4774 }
4775
4776 typedef struct {
4777         MonoInternalThread *thread;
4778         gboolean install_async_abort;
4779         MonoThreadInfoInterruptToken *interrupt_token;
4780 } AbortThreadData;
4781
4782 static SuspendThreadResult
4783 async_abort_critical (MonoThreadInfo *info, gpointer ud)
4784 {
4785         AbortThreadData *data = (AbortThreadData *)ud;
4786         MonoInternalThread *thread = data->thread;
4787         MonoJitInfo *ji = NULL;
4788         gboolean protected_wrapper;
4789         gboolean running_managed;
4790
4791         if (mono_get_eh_callbacks ()->mono_install_handler_block_guard (mono_thread_info_get_suspend_state (info)))
4792                 return MonoResumeThread;
4793
4794         /*someone is already interrupting it*/
4795         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4796                 return MonoResumeThread;
4797
4798         InterlockedIncrement (&thread_interruption_requested);
4799
4800         ji = mono_thread_info_get_last_managed (info);
4801         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4802         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4803
4804         if (!protected_wrapper && running_managed) {
4805                 /*We are in managed code*/
4806                 /*Set the thread to call */
4807                 if (data->install_async_abort)
4808                         mono_thread_info_setup_async_call (info, self_interrupt_thread, NULL);
4809                 return MonoResumeThread;
4810         } else {
4811                 /*
4812                  * This will cause waits to be broken.
4813                  * It will also prevent the thread from entering a wait, so if the thread returns
4814                  * from the wait before it receives the abort signal, it will just spin in the wait
4815                  * functions in the io-layer until the signal handler calls QueueUserAPC which will
4816                  * make it return.
4817                  */
4818                 data->interrupt_token = mono_thread_info_prepare_interrupt (info);
4819
4820                 return MonoResumeThread;
4821         }
4822 }
4823
4824 static void
4825 async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort)
4826 {
4827         AbortThreadData data;
4828
4829         g_assert (thread != mono_thread_internal_current ());
4830
4831         data.thread = thread;
4832         data.install_async_abort = install_async_abort;
4833         data.interrupt_token = NULL;
4834
4835         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), TRUE, async_abort_critical, &data);
4836         if (data.interrupt_token)
4837                 mono_thread_info_finish_interrupt (data.interrupt_token);
4838         /*FIXME we need to wait for interruption to complete -- figure out how much into interruption we should wait for here*/
4839 }
4840
4841 static void
4842 self_abort_internal (MonoError *error)
4843 {
4844         MonoException *exc;
4845
4846         mono_error_init (error);
4847
4848         /* FIXME this is insanely broken, it doesn't cause interruption to happen synchronously
4849          * since passing FALSE to mono_thread_request_interruption makes sure it returns NULL */
4850
4851         exc = mono_thread_request_interruption (TRUE);
4852         if (exc)
4853                 mono_error_set_exception_instance (error, exc);
4854         else
4855                 mono_thread_info_self_interrupt ();
4856 }
4857
4858 typedef struct {
4859         MonoInternalThread *thread;
4860         gboolean interrupt;
4861         MonoThreadInfoInterruptToken *interrupt_token;
4862 } SuspendThreadData;
4863
4864 static SuspendThreadResult
4865 async_suspend_critical (MonoThreadInfo *info, gpointer ud)
4866 {
4867         SuspendThreadData *data = (SuspendThreadData *)ud;
4868         MonoInternalThread *thread = data->thread;
4869         MonoJitInfo *ji = NULL;
4870         gboolean protected_wrapper;
4871         gboolean running_managed;
4872
4873         ji = mono_thread_info_get_last_managed (info);
4874         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4875         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4876
4877         if (running_managed && !protected_wrapper) {
4878                 thread->state &= ~ThreadState_SuspendRequested;
4879                 thread->state |= ThreadState_Suspended;
4880                 return KeepSuspended;
4881         } else {
4882                 if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 0)
4883                         InterlockedIncrement (&thread_interruption_requested);
4884                 if (data->interrupt)
4885                         data->interrupt_token = mono_thread_info_prepare_interrupt ((MonoThreadInfo *)thread->thread_info);
4886
4887                 return MonoResumeThread;
4888         }
4889 }
4890
4891 /* LOCKING: called with @thread synch_cs held, and releases it */
4892 static void
4893 async_suspend_internal (MonoInternalThread *thread, gboolean interrupt)
4894 {
4895         SuspendThreadData data;
4896
4897         g_assert (thread != mono_thread_internal_current ());
4898
4899         data.thread = thread;
4900         data.interrupt = interrupt;
4901         data.interrupt_token = NULL;
4902
4903         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), interrupt, async_suspend_critical, &data);
4904         if (data.interrupt_token)
4905                 mono_thread_info_finish_interrupt (data.interrupt_token);
4906
4907         UNLOCK_THREAD (thread);
4908 }
4909
4910 /* LOCKING: called with @thread synch_cs held, and releases it */
4911 static void
4912 self_suspend_internal (void)
4913 {
4914         MonoInternalThread *thread;
4915
4916         thread = mono_thread_internal_current ();
4917
4918         mono_thread_info_begin_self_suspend ();
4919         thread->state &= ~ThreadState_SuspendRequested;
4920         thread->state |= ThreadState_Suspended;
4921
4922         UNLOCK_THREAD (thread);
4923
4924         mono_thread_info_end_self_suspend ();
4925 }
4926
4927 /*
4928  * mono_thread_is_foreign:
4929  * @thread: the thread to query
4930  *
4931  * This function allows one to determine if a thread was created by the mono runtime and has
4932  * a well defined lifecycle or it's a foreigh one, created by the native environment.
4933  *
4934  * Returns: TRUE if @thread was not created by the runtime.
4935  */
4936 mono_bool
4937 mono_thread_is_foreign (MonoThread *thread)
4938 {
4939         MonoThreadInfo *info = (MonoThreadInfo *)thread->internal_thread->thread_info;
4940         return info->runtime_thread == FALSE;
4941 }
4942
4943 /*
4944  * mono_add_joinable_thread:
4945  *
4946  *   Add TID to the list of joinable threads.
4947  * LOCKING: Acquires the threads lock.
4948  */
4949 void
4950 mono_threads_add_joinable_thread (gpointer tid)
4951 {
4952 #ifndef HOST_WIN32
4953         /*
4954          * We cannot detach from threads because it causes problems like
4955          * 2fd16f60/r114307. So we collect them and join them when
4956          * we have time (in he finalizer thread).
4957          */
4958         joinable_threads_lock ();
4959         if (!joinable_threads)
4960                 joinable_threads = g_hash_table_new (NULL, NULL);
4961         g_hash_table_insert (joinable_threads, tid, tid);
4962         joinable_thread_count ++;
4963         joinable_threads_unlock ();
4964
4965         mono_gc_finalize_notify ();
4966 #endif
4967 }
4968
4969 /*
4970  * mono_threads_join_threads:
4971  *
4972  *   Join all joinable threads. This is called from the finalizer thread.
4973  * LOCKING: Acquires the threads lock.
4974  */
4975 void
4976 mono_threads_join_threads (void)
4977 {
4978 #ifndef HOST_WIN32
4979         GHashTableIter iter;
4980         gpointer key;
4981         gpointer tid;
4982         pthread_t thread;
4983         gboolean found;
4984
4985         /* Fastpath */
4986         if (!joinable_thread_count)
4987                 return;
4988
4989         while (TRUE) {
4990                 joinable_threads_lock ();
4991                 found = FALSE;
4992                 if (g_hash_table_size (joinable_threads)) {
4993                         g_hash_table_iter_init (&iter, joinable_threads);
4994                         g_hash_table_iter_next (&iter, &key, (void**)&tid);
4995                         thread = (pthread_t)tid;
4996                         g_hash_table_remove (joinable_threads, key);
4997                         joinable_thread_count --;
4998                         found = TRUE;
4999                 }
5000                 joinable_threads_unlock ();
5001                 if (found) {
5002                         if (thread != pthread_self ()) {
5003                                 MONO_ENTER_GC_SAFE;
5004                                 /* This shouldn't block */
5005                                 pthread_join (thread, NULL);
5006                                 MONO_EXIT_GC_SAFE;
5007                         }
5008                 } else {
5009                         break;
5010                 }
5011         }
5012 #endif
5013 }
5014
5015 /*
5016  * mono_thread_join:
5017  *
5018  *   Wait for thread TID to exit.
5019  * LOCKING: Acquires the threads lock.
5020  */
5021 void
5022 mono_thread_join (gpointer tid)
5023 {
5024 #ifndef HOST_WIN32
5025         pthread_t thread;
5026         gboolean found = FALSE;
5027
5028         joinable_threads_lock ();
5029         if (!joinable_threads)
5030                 joinable_threads = g_hash_table_new (NULL, NULL);
5031         if (g_hash_table_lookup (joinable_threads, tid)) {
5032                 g_hash_table_remove (joinable_threads, tid);
5033                 joinable_thread_count --;
5034                 found = TRUE;
5035         }
5036         joinable_threads_unlock ();
5037         if (!found)
5038                 return;
5039         thread = (pthread_t)tid;
5040         MONO_ENTER_GC_SAFE;
5041         pthread_join (thread, NULL);
5042         MONO_EXIT_GC_SAFE;
5043 #endif
5044 }
5045
5046 void
5047 mono_thread_internal_check_for_interruption_critical (MonoInternalThread *thread)
5048 {
5049         if ((thread->state & (ThreadState_StopRequested | ThreadState_SuspendRequested)) != 0)
5050                 mono_thread_interruption_checkpoint ();
5051 }
5052
5053 static inline gboolean
5054 is_appdomainunloaded_exception (MonoClass *klass)
5055 {
5056         return klass == mono_class_get_appdomain_unloaded_exception_class ();
5057 }
5058
5059 static inline gboolean
5060 is_threadabort_exception (MonoClass *klass)
5061 {
5062         return klass == mono_defaults.threadabortexception_class;
5063 }
5064
5065 void
5066 mono_thread_internal_unhandled_exception (MonoObject* exc)
5067 {
5068         if (mono_runtime_unhandled_exception_policy_get () == MONO_UNHANDLED_POLICY_CURRENT) {
5069                 MonoClass *klass = exc->vtable->klass;
5070                 if (is_threadabort_exception (klass)) {
5071                         mono_thread_internal_reset_abort (mono_thread_internal_current ());
5072                 } else if (!is_appdomainunloaded_exception (klass)) {
5073                         mono_unhandled_exception (exc);
5074                         if (mono_environment_exitcode_get () == 1) {
5075                                 mono_environment_exitcode_set (255);
5076                                 mono_invoke_unhandled_exception_hook (exc);
5077                                 g_assert_not_reached ();
5078                         }
5079                 }
5080         }
5081 }
5082
5083 void
5084 ves_icall_System_Threading_Thread_GetStackTraces (MonoArray **out_threads, MonoArray **out_stack_traces)
5085 {
5086         MonoError error;
5087         mono_threads_get_thread_dump (out_threads, out_stack_traces, &error);
5088         mono_error_set_pending_exception (&error);
5089 }
5090
5091 /*
5092  * mono_threads_attach_coop: called by native->managed wrappers
5093  *
5094  * In non-coop mode:
5095  *  - @dummy: is NULL
5096  *  - @return: the original domain which needs to be restored, or NULL.
5097  *
5098  * In coop mode:
5099  *  - @dummy: contains the original domain
5100  *  - @return: a cookie containing current MonoThreadInfo*.
5101  */
5102 gpointer
5103 mono_threads_attach_coop (MonoDomain *domain, gpointer *dummy)
5104 {
5105         MonoDomain *orig;
5106         gboolean fresh_thread = FALSE;
5107
5108         if (!domain) {
5109                 /* Happens when called from AOTed code which is only used in the root domain. */
5110                 domain = mono_get_root_domain ();
5111         }
5112
5113         g_assert (domain);
5114
5115         /* On coop, when we detached, we moved the thread from  RUNNING->BLOCKING.
5116          * If we try to reattach we do a BLOCKING->RUNNING transition.  If the thread
5117          * is fresh, mono_thread_attach() will do a STARTING->RUNNING transition so
5118          * we're only responsible for making the cookie. */
5119         if (mono_threads_is_coop_enabled ()) {
5120                 MonoThreadInfo *info = mono_thread_info_current_unchecked ();
5121                 fresh_thread = !info || !mono_thread_info_is_live (info);
5122         }
5123
5124         if (!mono_thread_internal_current ()) {
5125                 mono_thread_attach_full (domain, FALSE);
5126
5127                 // #678164
5128                 mono_thread_set_state (mono_thread_internal_current (), ThreadState_Background);
5129         }
5130
5131         orig = mono_domain_get ();
5132         if (orig != domain)
5133                 mono_domain_set (domain, TRUE);
5134
5135         if (!mono_threads_is_coop_enabled ())
5136                 return orig != domain ? orig : NULL;
5137
5138         if (fresh_thread) {
5139                 *dummy = NULL;
5140                 /* mono_thread_attach put the thread in RUNNING mode from STARTING, but we need to
5141                  * return the right cookie. */
5142                 return mono_threads_enter_gc_unsafe_region_cookie ();
5143         } else {
5144                 *dummy = orig;
5145                 /* thread state (BLOCKING|RUNNING) -> RUNNING */
5146                 return mono_threads_enter_gc_unsafe_region (dummy);
5147         }
5148 }
5149
5150 /*
5151  * mono_threads_detach_coop: called by native->managed wrappers
5152  *
5153  * In non-coop mode:
5154  *  - @cookie: the original domain which needs to be restored, or NULL.
5155  *  - @dummy: is NULL
5156  *
5157  * In coop mode:
5158  *  - @cookie: contains current MonoThreadInfo* if it was in BLOCKING mode, NULL otherwise
5159  *  - @dummy: contains the original domain
5160  */
5161 void
5162 mono_threads_detach_coop (gpointer cookie, gpointer *dummy)
5163 {
5164         MonoDomain *domain, *orig;
5165
5166         if (!mono_threads_is_coop_enabled ()) {
5167                 orig = (MonoDomain*) cookie;
5168                 if (orig)
5169                         mono_domain_set (orig, TRUE);
5170         } else {
5171                 orig = (MonoDomain*) *dummy;
5172
5173                 domain = mono_domain_get ();
5174                 g_assert (domain);
5175
5176                 /* it won't do anything if cookie is NULL
5177                  * thread state RUNNING -> (RUNNING|BLOCKING) */
5178                 mono_threads_exit_gc_unsafe_region (cookie, dummy);
5179
5180                 if (orig != domain) {
5181                         if (!orig)
5182                                 mono_domain_unset ();
5183                         else
5184                                 mono_domain_set (orig, TRUE);
5185                 }
5186         }
5187 }