mono/metadata/threads.c

   1 /*
   2  * threads.c: Thread support internal calls
   3  *
   4  * Author:
   5  *      Dick Porter (dick@ximian.com)
   6  *      Paolo Molaro (lupus@ximian.com)
   7  *      Patrik Torstensson (patrik.torstensson@labs2.com)
   8  *
   9  * Copyright 2001-2003 Ximian, Inc (http://www.ximian.com)
  10  * Copyright 2004-2009 Novell, Inc (http://www.novell.com)
  11  * Copyright 2011 Xamarin, Inc (http://www.xamarin.com)
  12  * Licensed under the MIT license. See LICENSE file in the project root for full license information.
  13  */
  14
  15 #include <config.h>
  16
  17 #include <glib.h>
  18 #include <string.h>
  19
  20 #include <mono/metadata/object.h>
  21 #include <mono/metadata/domain-internals.h>
  22 #include <mono/metadata/profiler-private.h>
  23 #include <mono/metadata/threads.h>
  24 #include <mono/metadata/threads-types.h>
  25 #include <mono/metadata/exception.h>
  26 #include <mono/metadata/environment.h>
  27 #include <mono/metadata/monitor.h>
  28 #include <mono/metadata/gc-internals.h>
  29 #include <mono/metadata/marshal.h>
  30 #include <mono/metadata/runtime.h>
  31 #include <mono/io-layer/io-layer.h>
  32 #include <mono/metadata/object-internals.h>
  33 #include <mono/metadata/mono-debug-debugger.h>
  34 #include <mono/utils/monobitset.h>
  35 #include <mono/utils/mono-compiler.h>
  36 #include <mono/utils/mono-mmap.h>
  37 #include <mono/utils/mono-membar.h>
  38 #include <mono/utils/mono-time.h>
  39 #include <mono/utils/mono-threads.h>
  40 #include <mono/utils/mono-threads-coop.h>
  41 #include <mono/utils/hazard-pointer.h>
  42 #include <mono/utils/mono-tls.h>
  43 #include <mono/utils/atomic.h>
  44 #include <mono/utils/mono-memory-model.h>
  45 #include <mono/utils/mono-threads-coop.h>
  46 #include <mono/utils/mono-error-internals.h>
  47 #include <mono/utils/os-event.h>
  48 #include <mono/utils/mono-threads-debug.h>
  49 #include <mono/metadata/w32handle.h>
  50 #include <mono/metadata/w32event.h>
  51 #include <mono/metadata/w32mutex.h>
  52
  53 #include <mono/metadata/gc-internals.h>
  54 #include <mono/metadata/reflection-internals.h>
  55 #include <mono/metadata/abi-details.h>
  56
  57 #ifdef HAVE_SIGNAL_H
  58 #include <signal.h>
  59 #endif
  60
  61 #if defined(HOST_WIN32)
  62 #include <objbase.h>
  63 #endif
  64
  65 #if defined(PLATFORM_ANDROID) && !defined(TARGET_ARM64) && !defined(TARGET_AMD64)
  66 #define USE_TKILL_ON_ANDROID 1
  67 #endif
  68
  69 #ifdef PLATFORM_ANDROID
  70 #include <errno.h>
  71
  72 #ifdef USE_TKILL_ON_ANDROID
  73 extern int tkill (pid_t tid, int signal);
  74 #endif
  75 #endif
  76
  77 /*#define THREAD_DEBUG(a) do { a; } while (0)*/
  78 #define THREAD_DEBUG(a)
  79 /*#define THREAD_WAIT_DEBUG(a) do { a; } while (0)*/
  80 #define THREAD_WAIT_DEBUG(a)
  81 /*#define LIBGC_DEBUG(a) do { a; } while (0)*/
  82 #define LIBGC_DEBUG(a)
  83
  84 #define SPIN_TRYLOCK(i) (InterlockedCompareExchange (&(i), 1, 0) == 0)
  85 #define SPIN_LOCK(i) do { \
  86                                 if (SPIN_TRYLOCK (i)) \
  87                                         break; \
  88                         } while (1)
  89
  90 #define SPIN_UNLOCK(i) i = 0
  91
  92 #define LOCK_THREAD(thread) lock_thread((thread))
  93 #define UNLOCK_THREAD(thread) unlock_thread((thread))
  94
  95 typedef union {
  96         gint32 ival;
  97         gfloat fval;
  98 } IntFloatUnion;
  99
 100 typedef union {
 101         gint64 ival;
 102         gdouble fval;
 103 } LongDoubleUnion;
 104
 105 typedef struct _StaticDataFreeList StaticDataFreeList;
 106 struct _StaticDataFreeList {
 107         StaticDataFreeList *next;
 108         guint32 offset;
 109         guint32 size;
 110 };
 111
 112 typedef struct {
 113         int idx;
 114         int offset;
 115         StaticDataFreeList *freelist;
 116 } StaticDataInfo;
 117
 118 /* Number of cached culture objects in the MonoThread->cached_culture_info array
 119  * (per-type): we use the first NUM entries for CultureInfo and the last for
 120  * UICultureInfo. So the size of the array is really NUM_CACHED_CULTURES * 2.
 121  */
 122 #define NUM_CACHED_CULTURES 4
 123 #define CULTURES_START_IDX 0
 124 #define UICULTURES_START_IDX NUM_CACHED_CULTURES
 125
 126 /* Controls access to the 'threads' hash table */
 127 static void mono_threads_lock (void);
 128 static void mono_threads_unlock (void);
 129 static MonoCoopMutex threads_mutex;
 130
 131 /* Controls access to the 'joinable_threads' hash table */
 132 #define joinable_threads_lock() mono_os_mutex_lock (&joinable_threads_mutex)
 133 #define joinable_threads_unlock() mono_os_mutex_unlock (&joinable_threads_mutex)
 134 static mono_mutex_t joinable_threads_mutex;
 135
 136 /* Holds current status of static data heap */
 137 static StaticDataInfo thread_static_info;
 138 static StaticDataInfo context_static_info;
 139
 140 /* The hash of existing threads (key is thread ID, value is
 141  * MonoInternalThread*) that need joining before exit
 142  */
 143 static MonoGHashTable *threads=NULL;
 144
 145 /* List of app context GC handles.
 146  * Added to from ves_icall_System_Runtime_Remoting_Contexts_Context_RegisterContext ().
 147  */
 148 static GHashTable *contexts = NULL;
 149
 150 /* Cleanup queue for contexts. */
 151 static MonoReferenceQueue *context_queue;
 152
 153 /*
 154  * Threads which are starting up and they are not in the 'threads' hash yet.
 155  * When mono_thread_attach_internal is called for a thread, it will be removed from this hash table.
 156  * Protected by mono_threads_lock ().
 157  */
 158 static MonoGHashTable *threads_starting_up = NULL;
 159
 160 /* The TLS key that holds the MonoObject assigned to each thread */
 161 static MonoNativeTlsKey current_object_key;
 162
 163 /* Contains tids */
 164 /* Protected by the threads lock */
 165 static GHashTable *joinable_threads;
 166 static int joinable_thread_count;
 167
 168 #ifdef MONO_HAVE_FAST_TLS
 169 /* we need to use both the Tls* functions and __thread because
 170  * the gc needs to see all the threads
 171  */
 172 MONO_FAST_TLS_DECLARE(tls_current_object);
 173 #define SET_CURRENT_OBJECT(x) do { \
 174         MONO_FAST_TLS_SET (tls_current_object, x); \
 175         mono_native_tls_set_value (current_object_key, x); \
 176 } while (FALSE)
 177 #define GET_CURRENT_OBJECT() ((MonoInternalThread*) MONO_FAST_TLS_GET (tls_current_object))
 178 #else
 179 #define SET_CURRENT_OBJECT(x) mono_native_tls_set_value (current_object_key, x)
 180 #define GET_CURRENT_OBJECT() (MonoInternalThread*) mono_native_tls_get_value (current_object_key)
 181 #endif
 182
 183 /* function called at thread start */
 184 static MonoThreadStartCB mono_thread_start_cb = NULL;
 185
 186 /* function called at thread attach */
 187 static MonoThreadAttachCB mono_thread_attach_cb = NULL;
 188
 189 /* function called at thread cleanup */
 190 static MonoThreadCleanupFunc mono_thread_cleanup_fn = NULL;
 191
 192 /* The default stack size for each thread */
 193 static guint32 default_stacksize = 0;
 194 #define default_stacksize_for_thread(thread) ((thread)->stack_size? (thread)->stack_size: default_stacksize)
 195
 196 static void context_adjust_static_data (MonoAppContext *ctx);
 197 static void mono_free_static_data (gpointer* static_data);
 198 static void mono_init_static_data_info (StaticDataInfo *static_data);
 199 static guint32 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align);
 200 static gboolean mono_thread_resume (MonoInternalThread* thread);
 201 static void async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort);
 202 static void self_abort_internal (MonoError *error);
 203 static void async_suspend_internal (MonoInternalThread *thread, gboolean interrupt);
 204 static void self_suspend_internal (void);
 205
 206 static MonoException* mono_thread_execute_interruption (void);
 207 static void ref_stack_destroy (gpointer rs);
 208
 209 /* Spin lock for InterlockedXXX 64 bit functions */
 210 #define mono_interlocked_lock() mono_os_mutex_lock (&interlocked_mutex)
 211 #define mono_interlocked_unlock() mono_os_mutex_unlock (&interlocked_mutex)
 212 static mono_mutex_t interlocked_mutex;
 213
 214 /* global count of thread interruptions requested */
 215 static gint32 thread_interruption_requested = 0;
 216
 217 /* Event signaled when a thread changes its background mode */
 218 static MonoOSEvent background_change_event;
 219
 220 static gboolean shutting_down = FALSE;
 221
 222 static gint32 managed_thread_id_counter = 0;
 223
 224 /* Class lazy loading functions */
 225 static GENERATE_GET_CLASS_WITH_CACHE (appdomain_unloaded_exception, System, AppDomainUnloadedException)
 226
 227 static void
 228 mono_threads_lock (void)
 229 {
 230         mono_locks_coop_acquire (&threads_mutex, ThreadsLock);
 231 }
 232
 233 static void
 234 mono_threads_unlock (void)
 235 {
 236         mono_locks_coop_release (&threads_mutex, ThreadsLock);
 237 }
 238
 239
 240 static guint32
 241 get_next_managed_thread_id (void)
 242 {
 243         return InterlockedIncrement (&managed_thread_id_counter);
 244 }
 245
 246 MonoNativeTlsKey
 247 mono_thread_get_tls_key (void)
 248 {
 249         return current_object_key;
 250 }
 251
 252 gint32
 253 mono_thread_get_tls_offset (void)
 254 {
 255         int offset = -1;
 256
 257 #ifdef HOST_WIN32
 258         if (current_object_key)
 259                 offset = current_object_key;
 260 #else
 261         MONO_THREAD_VAR_OFFSET (tls_current_object,offset);
 262 #endif
 263         return offset;
 264 }
 265
 266 static inline MonoNativeThreadId
 267 thread_get_tid (MonoInternalThread *thread)
 268 {
 269         /* We store the tid as a guint64 to keep the object layout constant between platforms */
 270         return MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid);
 271 }
 272
 273 static void ensure_synch_cs_set (MonoInternalThread *thread)
 274 {
 275         MonoCoopMutex *synch_cs;
 276
 277         if (thread->synch_cs != NULL) {
 278                 return;
 279         }
 280
 281         synch_cs = g_new0 (MonoCoopMutex, 1);
 282         mono_coop_mutex_init_recursive (synch_cs);
 283
 284         if (InterlockedCompareExchangePointer ((gpointer *)&thread->synch_cs,
 285                                                synch_cs, NULL) != NULL) {
 286                 /* Another thread must have installed this CS */
 287                 mono_coop_mutex_destroy (synch_cs);
 288                 g_free (synch_cs);
 289         }
 290 }
 291
 292 static inline void
 293 lock_thread (MonoInternalThread *thread)
 294 {
 295         if (!thread->synch_cs)
 296                 ensure_synch_cs_set (thread);
 297
 298         g_assert (thread->synch_cs);
 299
 300         mono_coop_mutex_lock (thread->synch_cs);
 301 }
 302
 303 static inline void
 304 unlock_thread (MonoInternalThread *thread)
 305 {
 306         mono_coop_mutex_unlock (thread->synch_cs);
 307 }
 308
 309 static inline gboolean
 310 is_appdomainunloaded_exception (MonoClass *klass)
 311 {
 312         return klass == mono_class_get_appdomain_unloaded_exception_class ();
 313 }
 314
 315 static inline gboolean
 316 is_threadabort_exception (MonoClass *klass)
 317 {
 318         return klass == mono_defaults.threadabortexception_class;
 319 }
 320
 321 /*
 322  * NOTE: this function can be called also for threads different from the current one:
 323  * make sure no code called from it will ever assume it is run on the thread that is
 324  * getting cleaned up.
 325  */
 326 static void thread_cleanup (MonoInternalThread *thread)
 327 {
 328         gboolean ret;
 329
 330         g_assert (thread != NULL);
 331
 332         if (thread->abort_state_handle) {
 333                 mono_gchandle_free (thread->abort_state_handle);
 334                 thread->abort_state_handle = 0;
 335         }
 336         thread->abort_exc = NULL;
 337         thread->current_appcontext = NULL;
 338
 339         /*
 340          * This is necessary because otherwise we might have
 341          * cross-domain references which will not get cleaned up when
 342          * the target domain is unloaded.
 343          */
 344         if (thread->cached_culture_info) {
 345                 int i;
 346                 for (i = 0; i < NUM_CACHED_CULTURES * 2; ++i)
 347                         mono_array_set (thread->cached_culture_info, MonoObject*, i, NULL);
 348         }
 349
 350         /*
 351          * thread->synch_cs can be NULL if this was called after
 352          * ves_icall_System_Threading_InternalThread_Thread_free_internal.
 353          * This can happen only during shutdown.
 354          * The shutting_down flag is not always set, so we can't assert on it.
 355          */
 356         if (thread->synch_cs)
 357                 LOCK_THREAD (thread);
 358
 359         thread->state |= ThreadState_Stopped;
 360         thread->state &= ~ThreadState_Background;
 361
 362         if (thread->synch_cs)
 363                 UNLOCK_THREAD (thread);
 364
 365         /*
 366         An interruption request has leaked to cleanup. Adjust the global counter.
 367
 368         This can happen is the abort source thread finds the abortee (this) thread
 369         in unmanaged code. If this thread never trips back to managed code or check
 370         the local flag it will be left set and positively unbalance the global counter.
 371
 372         Leaving the counter unbalanced will cause a performance degradation since all threads
 373         will now keep checking their local flags all the time.
 374         */
 375         if (InterlockedExchange (&thread->interruption_requested, 0))
 376                 InterlockedDecrement (&thread_interruption_requested);
 377
 378         mono_threads_lock ();
 379
 380         if (!threads) {
 381                 ret = FALSE;
 382         } else if (mono_g_hash_table_lookup (threads, (gpointer)thread->tid) != thread) {
 383                 /* We have to check whether the thread object for the
 384                  * tid is still the same in the table because the
 385                  * thread might have been destroyed and the tid reused
 386                  * in the meantime, in which case the tid would be in
 387                  * the table, but with another thread object.
 388                  */
 389                 ret = FALSE;
 390         } else {
 391                 mono_g_hash_table_remove (threads, (gpointer)thread->tid);
 392                 ret = TRUE;
 393         }
 394
 395         mono_threads_unlock ();
 396
 397         /* Don't close the handle here, wait for the object finalizer
 398          * to do it. Otherwise, the following race condition applies:
 399          *
 400          * 1) Thread exits (and thread_cleanup() closes the handle)
 401          *
 402          * 2) Some other handle is reassigned the same slot
 403          *
 404          * 3) Another thread tries to join the first thread, and
 405          * blocks waiting for the reassigned handle to be signalled
 406          * (which might never happen).  This is possible, because the
 407          * thread calling Join() still has a reference to the first
 408          * thread's object.
 409          */
 410
 411         /* if the thread is not in the hash it has been removed already */
 412         if (!ret) {
 413                 if (thread == mono_thread_internal_current ()) {
 414                         mono_domain_unset ();
 415                         mono_memory_barrier ();
 416                 }
 417                 if (mono_thread_cleanup_fn)
 418                         mono_thread_cleanup_fn (thread_get_tid (thread));
 419                 return;
 420         }
 421         mono_release_type_locks (thread);
 422
 423         /* Can happen when we attach the profiler helper thread in order to heapshot. */
 424         if (!mono_thread_info_lookup (MONO_UINT_TO_NATIVE_THREAD_ID (thread->tid))->tools_thread)
 425                 mono_profiler_thread_end (thread->tid);
 426
 427         mono_hazard_pointer_clear (mono_hazard_pointer_get (), 1);
 428
 429         if (thread == mono_thread_internal_current ()) {
 430                 /*
 431                  * This will signal async signal handlers that the thread has exited.
 432                  * The profiler callback needs this to be set, so it cannot be done earlier.
 433                  */
 434                 mono_domain_unset ();
 435                 mono_memory_barrier ();
 436         }
 437
 438         if (thread == mono_thread_internal_current ())
 439                 mono_thread_pop_appdomain_ref ();
 440
 441         thread->cached_culture_info = NULL;
 442
 443         mono_free_static_data (thread->static_data);
 444         thread->static_data = NULL;
 445         ref_stack_destroy (thread->appdomain_refs);
 446         thread->appdomain_refs = NULL;
 447
 448         if (mono_thread_cleanup_fn)
 449                 mono_thread_cleanup_fn (thread_get_tid (thread));
 450
 451         if (mono_gc_is_moving ()) {
 452                 MONO_GC_UNREGISTER_ROOT (thread->thread_pinning_ref);
 453                 thread->thread_pinning_ref = NULL;
 454         }
 455
 456         g_assert (thread->suspended);
 457         mono_os_event_destroy (thread->suspended);
 458         g_free (thread->suspended);
 459         thread->suspended = NULL;
 460 }
 461
 462 /*
 463  * A special static data offset (guint32) consists of 3 parts:
 464  *
 465  * [0]   6-bit index into the array of chunks.
 466  * [6]   25-bit offset into the array.
 467  * [31]  Bit indicating thread or context static.
 468  */
 469
 470 typedef union {
 471         struct {
 472 #if G_BYTE_ORDER != G_LITTLE_ENDIAN
 473                 guint32 type : 1;
 474                 guint32 offset : 25;
 475                 guint32 index : 6;
 476 #else
 477                 guint32 index : 6;
 478                 guint32 offset : 25;
 479                 guint32 type : 1;
 480 #endif
 481         } fields;
 482         guint32 raw;
 483 } SpecialStaticOffset;
 484
 485 #define SPECIAL_STATIC_OFFSET_TYPE_THREAD 0
 486 #define SPECIAL_STATIC_OFFSET_TYPE_CONTEXT 1
 487
 488 #define MAKE_SPECIAL_STATIC_OFFSET(index, offset, type) \
 489         ((SpecialStaticOffset) { .fields = { (index), (offset), (type) } }.raw)
 490 #define ACCESS_SPECIAL_STATIC_OFFSET(x,f) \
 491         (((SpecialStaticOffset *) &(x))->fields.f)
 492
 493 static gpointer
 494 get_thread_static_data (MonoInternalThread *thread, guint32 offset)
 495 {
 496         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_THREAD);
 497
 498         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
 499         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
 500
 501         return ((char *) thread->static_data [idx]) + off;
 502 }
 503
 504 static gpointer
 505 get_context_static_data (MonoAppContext *ctx, guint32 offset)
 506 {
 507         g_assert (ACCESS_SPECIAL_STATIC_OFFSET (offset, type) == SPECIAL_STATIC_OFFSET_TYPE_CONTEXT);
 508
 509         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
 510         int off = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
 511
 512         return ((char *) ctx->static_data [idx]) + off;
 513 }
 514
 515 static MonoThread**
 516 get_current_thread_ptr_for_domain (MonoDomain *domain, MonoInternalThread *thread)
 517 {
 518         static MonoClassField *current_thread_field = NULL;
 519
 520         guint32 offset;
 521
 522         if (!current_thread_field) {
 523                 current_thread_field = mono_class_get_field_from_name (mono_defaults.thread_class, "current_thread");
 524                 g_assert (current_thread_field);
 525         }
 526
 527         mono_class_vtable (domain, mono_defaults.thread_class);
 528         mono_domain_lock (domain);
 529         offset = GPOINTER_TO_UINT (g_hash_table_lookup (domain->special_static_fields, current_thread_field));
 530         mono_domain_unlock (domain);
 531         g_assert (offset);
 532
 533         return (MonoThread **)get_thread_static_data (thread, offset);
 534 }
 535
 536 static void
 537 set_current_thread_for_domain (MonoDomain *domain, MonoInternalThread *thread, MonoThread *current)
 538 {
 539         MonoThread **current_thread_ptr = get_current_thread_ptr_for_domain (domain, thread);
 540
 541         g_assert (current->obj.vtable->domain == domain);
 542
 543         g_assert (!*current_thread_ptr);
 544         *current_thread_ptr = current;
 545 }
 546
 547 static MonoThread*
 548 create_thread_object (MonoDomain *domain, MonoInternalThread *internal)
 549 {
 550         MonoThread *thread;
 551         MonoVTable *vtable;
 552         MonoError error;
 553
 554         vtable = mono_class_vtable (domain, mono_defaults.thread_class);
 555         g_assert (vtable);
 556
 557         thread = (MonoThread*)mono_object_new_mature (vtable, &error);
 558         /* only possible failure mode is OOM, from which we don't expect to recover. */
 559         mono_error_assert_ok (&error);
 560
 561         MONO_OBJECT_SETREF (thread, internal_thread, internal);
 562
 563         return thread;
 564 }
 565
 566 static MonoInternalThread*
 567 create_internal_thread_object (void)
 568 {
 569         MonoError error;
 570         MonoInternalThread *thread;
 571         MonoVTable *vt;
 572
 573         vt = mono_class_vtable (mono_get_root_domain (), mono_defaults.internal_thread_class);
 574         thread = (MonoInternalThread*) mono_object_new_mature (vt, &error);
 575         /* only possible failure mode is OOM, from which we don't exect to recover */
 576         mono_error_assert_ok (&error);
 577
 578         thread->synch_cs = g_new0 (MonoCoopMutex, 1);
 579         mono_coop_mutex_init_recursive (thread->synch_cs);
 580
 581         thread->apartment_state = ThreadApartmentState_Unknown;
 582         thread->managed_id = get_next_managed_thread_id ();
 583         if (mono_gc_is_moving ()) {
 584                 thread->thread_pinning_ref = thread;
 585                 MONO_GC_REGISTER_ROOT_PINNING (thread->thread_pinning_ref, MONO_ROOT_SOURCE_THREADING, "thread pinning reference");
 586         }
 587
 588         thread->priority = MONO_THREAD_PRIORITY_NORMAL;
 589
 590         thread->suspended = g_new0 (MonoOSEvent, 1);
 591         mono_os_event_init (thread->suspended, TRUE);
 592
 593         return thread;
 594 }
 595
 596 static void
 597 mono_thread_internal_set_priority (MonoInternalThread *internal, MonoThreadPriority priority)
 598 {
 599         g_assert (internal);
 600
 601         g_assert (priority >= MONO_THREAD_PRIORITY_LOWEST);
 602         g_assert (priority <= MONO_THREAD_PRIORITY_HIGHEST);
 603         g_assert (MONO_THREAD_PRIORITY_LOWEST < MONO_THREAD_PRIORITY_HIGHEST);
 604
 605 #ifdef HOST_WIN32
 606         BOOL res;
 607
 608         g_assert (internal->native_handle);
 609
 610         res = SetThreadPriority (internal->native_handle, priority - 2);
 611         if (!res)
 612                 g_error ("%s: SetThreadPriority failed, error %d", __func__, GetLastError ());
 613 #else /* HOST_WIN32 */
 614         pthread_t tid;
 615         int policy;
 616         struct sched_param param;
 617         gint res;
 618
 619         tid = thread_get_tid (internal);
 620
 621         res = pthread_getschedparam (tid, &policy, &param);
 622         if (res != 0)
 623                 g_error ("%s: pthread_getschedparam failed, error: \"%s\" (%d)", __func__, g_strerror (res), res);
 624
 625 #ifdef _POSIX_PRIORITY_SCHEDULING
 626         int max, min;
 627
 628         /* Necessary to get valid priority range */
 629
 630         min = sched_get_priority_min (policy);
 631         max = sched_get_priority_max (policy);
 632
 633         if (max > 0 && min >= 0 && max > min) {
 634                 double srange, drange, sposition, dposition;
 635                 srange = MONO_THREAD_PRIORITY_HIGHEST - MONO_THREAD_PRIORITY_LOWEST;
 636                 drange = max - min;
 637                 sposition = priority - MONO_THREAD_PRIORITY_LOWEST;
 638                 dposition = (sposition / srange) * drange;
 639                 param.sched_priority = (int)(dposition + min);
 640         } else
 641 #endif
 642         {
 643                 switch (policy) {
 644                 case SCHED_FIFO:
 645                 case SCHED_RR:
 646                         param.sched_priority = 50;
 647                         break;
 648 #ifdef SCHED_BATCH
 649                 case SCHED_BATCH:
 650 #endif
 651                 case SCHED_OTHER:
 652                         param.sched_priority = 0;
 653                         break;
 654                 default:
 655                         g_error ("%s: unknown policy %d", __func__, policy);
 656                 }
 657         }
 658
 659         res = pthread_setschedparam (tid, policy, &param);
 660         if (res != 0) {
 661                 if (res == EPERM) {
 662                         g_warning ("%s: pthread_setschedparam failed, error: \"%s\" (%d)", __func__, g_strerror (res), res);
 663                         return;
 664                 }
 665                 g_error ("%s: pthread_setschedparam failed, error: \"%s\" (%d)", __func__, g_strerror (res), res);
 666         }
 667 #endif /* HOST_WIN32 */
 668 }
 669
 670 static void
 671 mono_alloc_static_data (gpointer **static_data_ptr, guint32 offset, gboolean threadlocal);
 672
 673 static gboolean
 674 mono_thread_attach_internal (MonoThread *thread, gboolean force_attach, gboolean force_domain, gsize *stack_ptr)
 675 {
 676         MonoThreadInfo *info;
 677         MonoInternalThread *internal;
 678         MonoDomain *domain, *root_domain;
 679
 680         g_assert (thread);
 681
 682         info = mono_thread_info_current ();
 683
 684         internal = thread->internal_thread;
 685         internal->handle = mono_threads_open_thread_handle (info->handle);
 686 #ifdef HOST_WIN32
 687         internal->native_handle = OpenThread (THREAD_ALL_ACCESS, FALSE, GetCurrentThreadId ());
 688 #endif
 689         internal->tid = MONO_NATIVE_THREAD_ID_TO_UINT (mono_native_thread_id_get ());
 690         internal->thread_info = info;
 691         internal->small_id = info->small_id;
 692         internal->stack_ptr = stack_ptr;
 693
 694         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Setting current_object_key to %p", __func__, mono_native_thread_id_get (), internal));
 695
 696         SET_CURRENT_OBJECT (internal);
 697
 698         domain = mono_object_domain (thread);
 699
 700         mono_thread_push_appdomain_ref (domain);
 701         if (!mono_domain_set (domain, force_domain)) {
 702                 mono_thread_pop_appdomain_ref ();
 703                 return FALSE;
 704         }
 705
 706         mono_threads_lock ();
 707
 708         if (threads_starting_up)
 709                 mono_g_hash_table_remove (threads_starting_up, thread);
 710
 711         if (shutting_down && !force_attach) {
 712                 mono_threads_unlock ();
 713                 return FALSE;
 714         }
 715
 716         if (!threads) {
 717                 MONO_GC_REGISTER_ROOT_FIXED (threads, MONO_ROOT_SOURCE_THREADING, "threads table");
 718                 threads = mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "threads table");
 719         }
 720
 721         /* We don't need to duplicate thread->handle, because it is
 722          * only closed when the thread object is finalized by the GC. */
 723         mono_g_hash_table_insert (threads, (gpointer)(gsize)(internal->tid), internal);
 724
 725         /* We have to do this here because mono_thread_start_cb
 726          * requires that root_domain_thread is set up. */
 727         if (thread_static_info.offset || thread_static_info.idx > 0) {
 728                 /* get the current allocated size */
 729                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (thread_static_info.idx, thread_static_info.offset, 0);
 730                 mono_alloc_static_data (&internal->static_data, offset, TRUE);
 731         }
 732
 733         mono_threads_unlock ();
 734
 735         root_domain = mono_get_root_domain ();
 736
 737         g_assert (!internal->root_domain_thread);
 738         if (domain != root_domain)
 739                 MONO_OBJECT_SETREF (internal, root_domain_thread, create_thread_object (root_domain, internal));
 740         else
 741                 MONO_OBJECT_SETREF (internal, root_domain_thread, thread);
 742
 743         if (domain != root_domain)
 744                 set_current_thread_for_domain (root_domain, internal, internal->root_domain_thread);
 745
 746         set_current_thread_for_domain (domain, internal, thread);
 747
 748         THREAD_DEBUG (g_message ("%s: Attached thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, internal->tid, internal->handle));
 749
 750         return TRUE;
 751 }
 752
 753 typedef struct {
 754         gint32 ref;
 755         MonoThread *thread;
 756         MonoObject *start_delegate;
 757         MonoObject *start_delegate_arg;
 758         MonoThreadStart start_func;
 759         gpointer start_func_arg;
 760         gboolean failed;
 761         MonoCoopSem registered;
 762 } StartInfo;
 763
 764 static guint32 WINAPI start_wrapper_internal(StartInfo *start_info, gsize *stack_ptr)
 765 {
 766         MonoError error;
 767         MonoThreadStart start_func;
 768         void *start_func_arg;
 769         gsize tid;
 770         /*
 771          * We don't create a local to hold start_info->thread, so hopefully it won't get pinned during a
 772          * GC stack walk.
 773          */
 774         MonoThread *thread;
 775         MonoInternalThread *internal;
 776         MonoObject *start_delegate;
 777         MonoObject *start_delegate_arg;
 778         MonoDomain *domain;
 779
 780         thread = start_info->thread;
 781         internal = thread->internal_thread;
 782         domain = mono_object_domain (start_info->thread);
 783
 784         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper", __func__, mono_native_thread_id_get ()));
 785
 786         if (!mono_thread_attach_internal (thread, FALSE, FALSE, stack_ptr)) {
 787                 start_info->failed = TRUE;
 788
 789                 mono_coop_sem_post (&start_info->registered);
 790
 791                 if (InterlockedDecrement (&start_info->ref) == 0) {
 792                         mono_coop_sem_destroy (&start_info->registered);
 793                         g_free (start_info);
 794                 }
 795
 796                 return 0;
 797         }
 798
 799         mono_thread_internal_set_priority (internal, internal->priority);
 800
 801         tid = internal->tid;
 802
 803         start_delegate = start_info->start_delegate;
 804         start_delegate_arg = start_info->start_delegate_arg;
 805         start_func = start_info->start_func;
 806         start_func_arg = start_info->start_func_arg;
 807
 808         /* This MUST be called before any managed code can be
 809          * executed, as it calls the callback function that (for the
 810          * jit) sets the lmf marker.
 811          */
 812
 813         if (mono_thread_start_cb)
 814                 mono_thread_start_cb (tid, stack_ptr, start_func);
 815
 816         /* On 2.0 profile (and higher), set explicitly since state might have been
 817            Unknown */
 818         if (internal->apartment_state == ThreadApartmentState_Unknown)
 819                 internal->apartment_state = ThreadApartmentState_MTA;
 820
 821         mono_thread_init_apartment_state ();
 822
 823         /* Let the thread that called Start() know we're ready */
 824         mono_coop_sem_post (&start_info->registered);
 825
 826         if (InterlockedDecrement (&start_info->ref) == 0) {
 827                 mono_coop_sem_destroy (&start_info->registered);
 828                 g_free (start_info);
 829         }
 830
 831         /* start_info is not valid anymore */
 832         start_info = NULL;
 833
 834         /*
 835          * Call this after calling start_notify, since the profiler callback might want
 836          * to lock the thread, and the lock is held by thread_start () which waits for
 837          * start_notify.
 838          */
 839         mono_profiler_thread_start (tid);
 840
 841         /* if the name was set before starting, we didn't invoke the profiler callback */
 842         if (internal->name) {
 843                 char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
 844                 mono_profiler_thread_name (internal->tid, tname);
 845                 mono_native_thread_set_name (MONO_UINT_TO_NATIVE_THREAD_ID (internal->tid), tname);
 846                 g_free (tname);
 847         }
 848
 849         /* start_func is set only for unmanaged start functions */
 850         if (start_func) {
 851                 start_func (start_func_arg);
 852         } else {
 853                 void *args [1];
 854
 855                 g_assert (start_delegate != NULL);
 856
 857                 /* we may want to handle the exception here. See comment below on unhandled exceptions */
 858                 args [0] = (gpointer) start_delegate_arg;
 859                 mono_runtime_delegate_invoke_checked (start_delegate, args, &error);
 860
 861                 if (!mono_error_ok (&error)) {
 862                         MonoException *ex = mono_error_convert_to_exception (&error);
 863
 864                         g_assert (ex != NULL);
 865                         MonoClass *klass = mono_object_get_class (&ex->object);
 866                         if ((mono_runtime_unhandled_exception_policy_get () != MONO_UNHANDLED_POLICY_LEGACY) &&
 867                             !is_threadabort_exception (klass)) {
 868                                 mono_unhandled_exception (&ex->object);
 869                                 mono_invoke_unhandled_exception_hook (&ex->object);
 870                                 g_assert_not_reached ();
 871                         }
 872                 } else {
 873                         mono_error_cleanup (&error);
 874                 }
 875         }
 876
 877         /* If the thread calls ExitThread at all, this remaining code
 878          * will not be executed, but the main thread will eventually
 879          * call thread_cleanup() on this thread's behalf.
 880          */
 881
 882         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Start wrapper terminating", __func__, mono_native_thread_id_get ()));
 883
 884         /* Do any cleanup needed for apartment state. This
 885          * cannot be done in thread_cleanup since thread_cleanup could be
 886          * called for a thread other than the current thread.
 887          * mono_thread_cleanup_apartment_state cleans up apartment
 888          * for the current thead */
 889         mono_thread_cleanup_apartment_state ();
 890
 891         mono_thread_detach_internal (internal);
 892
 893         internal->tid = 0;
 894
 895         return(0);
 896 }
 897
 898 static gsize WINAPI start_wrapper(void *data)
 899 {
 900         volatile gsize dummy;
 901
 902         return start_wrapper_internal ((StartInfo*) data, (gsize*) &dummy);
 903 }
 904
 905 /*
 906  * create_thread:
 907  *
 908  *   Common thread creation code.
 909  * LOCKING: Acquires the threads lock.
 910  */
 911 static gboolean
 912 create_thread (MonoThread *thread, MonoInternalThread *internal, MonoObject *start_delegate, MonoThreadStart start_func, gpointer start_func_arg,
 913         gboolean threadpool_thread, guint32 stack_size, MonoError *error)
 914 {
 915         StartInfo *start_info = NULL;
 916         MonoThreadHandle *thread_handle;
 917         MonoNativeThreadId tid;
 918         gboolean ret;
 919         gsize stack_set_size;
 920
 921         if (start_delegate)
 922                 g_assert (!start_func && !start_func_arg);
 923         if (start_func)
 924                 g_assert (!start_delegate);
 925
 926         /*
 927          * Join joinable threads to prevent running out of threads since the finalizer
 928          * thread might be blocked/backlogged.
 929          */
 930         mono_threads_join_threads ();
 931
 932         mono_error_init (error);
 933
 934         mono_threads_lock ();
 935         if (shutting_down) {
 936                 mono_threads_unlock ();
 937                 return FALSE;
 938         }
 939         if (threads_starting_up == NULL) {
 940                 MONO_GC_REGISTER_ROOT_FIXED (threads_starting_up, MONO_ROOT_SOURCE_THREADING, "starting threads table");
 941                 threads_starting_up = mono_g_hash_table_new_type (NULL, NULL, MONO_HASH_KEY_VALUE_GC, MONO_ROOT_SOURCE_THREADING, "starting threads table");
 942         }
 943         mono_g_hash_table_insert (threads_starting_up, thread, thread);
 944         mono_threads_unlock ();
 945
 946         internal->threadpool_thread = threadpool_thread;
 947         if (threadpool_thread)
 948                 mono_thread_set_state (internal, ThreadState_Background);
 949
 950         start_info = g_new0 (StartInfo, 1);
 951         start_info->ref = 2;
 952         start_info->thread = thread;
 953         start_info->start_delegate = start_delegate;
 954         start_info->start_delegate_arg = thread->start_obj;
 955         start_info->start_func = start_func;
 956         start_info->start_func_arg = start_func_arg;
 957         start_info->failed = FALSE;
 958         mono_coop_sem_init (&start_info->registered, 0);
 959
 960         if (stack_size == 0)
 961                 stack_set_size = default_stacksize_for_thread (internal);
 962         else
 963                 stack_set_size = 0;
 964
 965         thread_handle = mono_threads_create_thread (start_wrapper, start_info, &stack_set_size, &tid);
 966
 967         if (thread_handle == NULL) {
 968                 /* The thread couldn't be created, so set an exception */
 969                 mono_threads_lock ();
 970                 mono_g_hash_table_remove (threads_starting_up, thread);
 971                 mono_threads_unlock ();
 972                 mono_error_set_execution_engine (error, "Couldn't create thread. Error 0x%x", GetLastError());
 973                 /* ref is not going to be decremented in start_wrapper_internal */
 974                 InterlockedDecrement (&start_info->ref);
 975                 ret = FALSE;
 976                 goto done;
 977         }
 978
 979         internal->stack_size = (int) stack_set_size;
 980
 981         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 982
 983         /*
 984          * Wait for the thread to set up its TLS data etc, so
 985          * theres no potential race condition if someone tries
 986          * to look up the data believing the thread has
 987          * started
 988          */
 989
 990         mono_coop_sem_wait (&start_info->registered, MONO_SEM_FLAGS_NONE);
 991
 992         mono_threads_close_thread_handle (thread_handle);
 993
 994         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Done launching thread %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), internal, (gsize)internal->tid));
 995
 996         ret = !start_info->failed;
 997
 998 done:
 999         if (InterlockedDecrement (&start_info->ref) == 0) {
1000                 mono_coop_sem_destroy (&start_info->registered);
1001                 g_free (start_info);
1002         }
1003
1004         return ret;
1005 }
1006
1007 void mono_thread_new_init (intptr_t tid, gpointer stack_start, gpointer func)
1008 {
1009         if (mono_thread_start_cb) {
1010                 mono_thread_start_cb (tid, stack_start, func);
1011         }
1012 }
1013
1014 void mono_threads_set_default_stacksize (guint32 stacksize)
1015 {
1016         default_stacksize = stacksize;
1017 }
1018
1019 guint32 mono_threads_get_default_stacksize (void)
1020 {
1021         return default_stacksize;
1022 }
1023
1024 /*
1025  * mono_thread_create_internal:
1026  *
1027  *   ARG should not be a GC reference.
1028  */
1029 MonoInternalThread*
1030 mono_thread_create_internal (MonoDomain *domain, gpointer func, gpointer arg, gboolean threadpool_thread, guint32 stack_size, MonoError *error)
1031 {
1032         MonoThread *thread;
1033         MonoInternalThread *internal;
1034         gboolean res;
1035
1036         mono_error_init (error);
1037
1038         internal = create_internal_thread_object ();
1039
1040         thread = create_thread_object (domain, internal);
1041
1042         LOCK_THREAD (internal);
1043
1044         res = create_thread (thread, internal, NULL, (MonoThreadStart) func, arg, threadpool_thread, stack_size, error);
1045         return_val_if_nok (error, NULL);
1046
1047         UNLOCK_THREAD (internal);
1048
1049         return internal;
1050 }
1051
1052 void
1053 mono_thread_create (MonoDomain *domain, gpointer func, gpointer arg)
1054 {
1055         MonoError error;
1056         if (!mono_thread_create_checked (domain, func, arg, &error))
1057                 mono_error_cleanup (&error);
1058 }
1059
1060 gboolean
1061 mono_thread_create_checked (MonoDomain *domain, gpointer func, gpointer arg, MonoError *error)
1062 {
1063         return (NULL != mono_thread_create_internal (domain, func, arg, FALSE, 0, error));
1064 }
1065
1066 MonoThread *
1067 mono_thread_attach (MonoDomain *domain)
1068 {
1069         MonoThread *thread = mono_thread_attach_full (domain, FALSE);
1070
1071         return thread;
1072 }
1073
1074 MonoThread *
1075 mono_thread_attach_full (MonoDomain *domain, gboolean force_attach)
1076 {
1077         MonoInternalThread *internal;
1078         MonoThread *thread;
1079         MonoNativeThreadId tid;
1080         gsize stack_ptr;
1081
1082         if (mono_thread_internal_current_is_attached ()) {
1083                 if (domain != mono_domain_get ())
1084                         mono_domain_set (domain, TRUE);
1085                 /* Already attached */
1086                 return mono_thread_current ();
1087         }
1088
1089         if (!mono_gc_register_thread (&domain)) {
1090                 g_error ("Thread %"G_GSIZE_FORMAT" calling into managed code is not registered with the GC. On UNIX, this can be fixed by #include-ing <gc.h> before <pthread.h> in the file containing the thread creation code.", mono_native_thread_id_get ());
1091         }
1092
1093         tid=mono_native_thread_id_get ();
1094
1095         internal = create_internal_thread_object ();
1096
1097         thread = create_thread_object (domain, internal);
1098
1099         if (!mono_thread_attach_internal (thread, force_attach, TRUE, &stack_ptr)) {
1100                 /* Mono is shutting down, so just wait for the end */
1101                 for (;;)
1102                         mono_thread_info_sleep (10000, NULL);
1103         }
1104
1105         THREAD_DEBUG (g_message ("%s: Attached thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, internal->handle));
1106
1107         if (mono_thread_attach_cb) {
1108                 guint8 *staddr;
1109                 size_t stsize;
1110
1111                 mono_thread_info_get_stack_bounds (&staddr, &stsize);
1112
1113                 if (staddr == NULL)
1114                         mono_thread_attach_cb (MONO_NATIVE_THREAD_ID_TO_UINT (tid), &stack_ptr);
1115                 else
1116                         mono_thread_attach_cb (MONO_NATIVE_THREAD_ID_TO_UINT (tid), staddr + stsize);
1117         }
1118
1119         /* Can happen when we attach the profiler helper thread in order to heapshot. */
1120         if (!mono_thread_info_current ()->tools_thread)
1121                 // FIXME: Need a separate callback
1122                 mono_profiler_thread_start (MONO_NATIVE_THREAD_ID_TO_UINT (tid));
1123
1124         return thread;
1125 }
1126
1127 void
1128 mono_thread_detach_internal (MonoInternalThread *thread)
1129 {
1130         g_return_if_fail (thread != NULL);
1131
1132         THREAD_DEBUG (g_message ("%s: mono_thread_detach for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1133
1134 #ifndef HOST_WIN32
1135         mono_w32mutex_abandon ();
1136 #endif
1137
1138         thread_cleanup (thread);
1139
1140         SET_CURRENT_OBJECT (NULL);
1141         mono_domain_unset ();
1142
1143         /* Don't need to close the handle to this thread, even though we took a
1144          * reference in mono_thread_attach (), because the GC will do it
1145          * when the Thread object is finalised.
1146          */
1147 }
1148
1149 void
1150 mono_thread_detach (MonoThread *thread)
1151 {
1152         if (thread)
1153                 mono_thread_detach_internal (thread->internal_thread);
1154 }
1155
1156 /*
1157  * mono_thread_detach_if_exiting:
1158  *
1159  *   Detach the current thread from the runtime if it is exiting, i.e. it is running pthread dtors.
1160  * This should be used at the end of embedding code which calls into managed code, and which
1161  * can be called from pthread dtors, like dealloc: implementations in objective-c.
1162  */
1163 mono_bool
1164 mono_thread_detach_if_exiting (void)
1165 {
1166         if (mono_thread_info_is_exiting ()) {
1167                 MonoInternalThread *thread;
1168
1169                 thread = mono_thread_internal_current ();
1170                 if (thread) {
1171                         mono_thread_detach_internal (thread);
1172                         mono_thread_info_detach ();
1173                         return TRUE;
1174                 }
1175         }
1176         return FALSE;
1177 }
1178
1179 gboolean
1180 mono_thread_internal_current_is_attached (void)
1181 {
1182         MonoInternalThread *internal;
1183
1184         internal = GET_CURRENT_OBJECT ();
1185         if (!internal)
1186                 return FALSE;
1187
1188         return TRUE;
1189 }
1190
1191 void
1192 mono_thread_exit (void)
1193 {
1194         MonoInternalThread *thread = mono_thread_internal_current ();
1195
1196         THREAD_DEBUG (g_message ("%s: mono_thread_exit for %p (%"G_GSIZE_FORMAT")", __func__, thread, (gsize)thread->tid));
1197
1198         mono_thread_detach_internal (thread);
1199
1200         /* we could add a callback here for embedders to use. */
1201         if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread))
1202                 exit (mono_environment_exitcode_get ());
1203
1204         mono_thread_info_exit (0);
1205 }
1206
1207 void
1208 ves_icall_System_Threading_Thread_ConstructInternalThread (MonoThread *this_obj)
1209 {
1210         MonoInternalThread *internal;
1211
1212         internal = create_internal_thread_object ();
1213
1214         internal->state = ThreadState_Unstarted;
1215
1216         InterlockedCompareExchangePointer ((volatile gpointer *)&this_obj->internal_thread, internal, NULL);
1217 }
1218
1219 MonoThread *
1220 ves_icall_System_Threading_Thread_GetCurrentThread (void)
1221 {
1222         return mono_thread_current ();
1223 }
1224
1225 HANDLE
1226 ves_icall_System_Threading_Thread_Thread_internal (MonoThread *this_obj,
1227                                                                                                    MonoObject *start)
1228 {
1229         MonoError error;
1230         MonoInternalThread *internal;
1231         gboolean res;
1232
1233         THREAD_DEBUG (g_message("%s: Trying to start a new thread: this (%p) start (%p)", __func__, this_obj, start));
1234
1235         if (!this_obj->internal_thread)
1236                 ves_icall_System_Threading_Thread_ConstructInternalThread (this_obj);
1237         internal = this_obj->internal_thread;
1238
1239         LOCK_THREAD (internal);
1240
1241         if ((internal->state & ThreadState_Unstarted) == 0) {
1242                 UNLOCK_THREAD (internal);
1243                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has already been started."));
1244                 return NULL;
1245         }
1246
1247         if ((internal->state & ThreadState_Aborted) != 0) {
1248                 UNLOCK_THREAD (internal);
1249                 return this_obj;
1250         }
1251
1252         res = create_thread (this_obj, internal, start, NULL, NULL, FALSE, 0, &error);
1253         if (!res) {
1254                 mono_error_cleanup (&error);
1255                 UNLOCK_THREAD (internal);
1256                 return NULL;
1257         }
1258
1259         internal->state &= ~ThreadState_Unstarted;
1260
1261         THREAD_DEBUG (g_message ("%s: Started thread ID %"G_GSIZE_FORMAT" (handle %p)", __func__, tid, thread));
1262
1263         UNLOCK_THREAD (internal);
1264         return internal->handle;
1265 }
1266
1267 /*
1268  * This is called from the finalizer of the internal thread object.
1269  */
1270 void
1271 ves_icall_System_Threading_InternalThread_Thread_free_internal (MonoInternalThread *this_obj)
1272 {
1273         THREAD_DEBUG (g_message ("%s: Closing thread %p, handle %p", __func__, this, this_obj->handle));
1274
1275         /*
1276          * Since threads keep a reference to their thread object while running, by the time this function is called,
1277          * the thread has already exited/detached, i.e. thread_cleanup () has ran. The exception is during shutdown,
1278          * when thread_cleanup () can be called after this.
1279          */
1280         if (this_obj->handle) {
1281                 mono_threads_close_thread_handle (this_obj->handle);
1282                 this_obj->handle = NULL;
1283         }
1284
1285 #if HOST_WIN32
1286         CloseHandle (this_obj->native_handle);
1287 #endif
1288
1289         if (this_obj->synch_cs) {
1290                 MonoCoopMutex *synch_cs = this_obj->synch_cs;
1291                 this_obj->synch_cs = NULL;
1292                 mono_coop_mutex_destroy (synch_cs);
1293                 g_free (synch_cs);
1294         }
1295
1296         if (this_obj->name) {
1297                 void *name = this_obj->name;
1298                 this_obj->name = NULL;
1299                 g_free (name);
1300         }
1301 }
1302
1303 void
1304 ves_icall_System_Threading_Thread_Sleep_internal(gint32 ms)
1305 {
1306         guint32 res;
1307         MonoInternalThread *thread = mono_thread_internal_current ();
1308
1309         THREAD_DEBUG (g_message ("%s: Sleeping for %d ms", __func__, ms));
1310
1311         if (mono_thread_current_check_pending_interrupt ())
1312                 return;
1313
1314         while (TRUE) {
1315                 gboolean alerted = FALSE;
1316
1317                 mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1318
1319                 res = mono_thread_info_sleep (ms, &alerted);
1320
1321                 mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1322
1323                 if (alerted) {
1324                         MonoException* exc = mono_thread_execute_interruption ();
1325                         if (exc) {
1326                                 mono_raise_exception (exc);
1327                         } else {
1328                                 // FIXME: !MONO_INFINITE_WAIT
1329                                 if (ms != MONO_INFINITE_WAIT)
1330                                         break;
1331                         }
1332                 } else {
1333                         break;
1334                 }
1335         }
1336 }
1337
1338 void ves_icall_System_Threading_Thread_SpinWait_nop (void)
1339 {
1340 }
1341
1342 gint32
1343 ves_icall_System_Threading_Thread_GetDomainID (void)
1344 {
1345         return mono_domain_get()->domain_id;
1346 }
1347
1348 gboolean
1349 ves_icall_System_Threading_Thread_Yield (void)
1350 {
1351         return mono_thread_info_yield ();
1352 }
1353
1354 /*
1355  * mono_thread_get_name:
1356  *
1357  *   Return the name of the thread. NAME_LEN is set to the length of the name.
1358  * Return NULL if the thread has no name. The returned memory is owned by the
1359  * caller.
1360  */
1361 gunichar2*
1362 mono_thread_get_name (MonoInternalThread *this_obj, guint32 *name_len)
1363 {
1364         gunichar2 *res;
1365
1366         LOCK_THREAD (this_obj);
1367
1368         if (!this_obj->name) {
1369                 *name_len = 0;
1370                 res = NULL;
1371         } else {
1372                 *name_len = this_obj->name_len;
1373                 res = g_new (gunichar2, this_obj->name_len);
1374                 memcpy (res, this_obj->name, sizeof (gunichar2) * this_obj->name_len);
1375         }
1376
1377         UNLOCK_THREAD (this_obj);
1378
1379         return res;
1380 }
1381
1382 /*
1383  * mono_thread_get_name_utf8:
1384  *
1385  * Return the name of the thread in UTF-8.
1386  * Return NULL if the thread has no name.
1387  * The returned memory is owned by the caller.
1388  */
1389 char *
1390 mono_thread_get_name_utf8 (MonoThread *thread)
1391 {
1392         if (thread == NULL)
1393                 return NULL;
1394
1395         MonoInternalThread *internal = thread->internal_thread;
1396         if (internal == NULL)
1397                 return NULL;
1398
1399         LOCK_THREAD (internal);
1400
1401         char *tname = g_utf16_to_utf8 (internal->name, internal->name_len, NULL, NULL, NULL);
1402
1403         UNLOCK_THREAD (internal);
1404
1405         return tname;
1406 }
1407
1408 /*
1409  * mono_thread_get_managed_id:
1410  *
1411  * Return the Thread.ManagedThreadId value of `thread`.
1412  * Returns -1 if `thread` is NULL.
1413  */
1414 int32_t
1415 mono_thread_get_managed_id (MonoThread *thread)
1416 {
1417         if (thread == NULL)
1418                 return -1;
1419
1420         MonoInternalThread *internal = thread->internal_thread;
1421         if (internal == NULL)
1422                 return -1;
1423
1424         int32_t id = internal->managed_id;
1425
1426         return id;
1427 }
1428
1429 MonoString*
1430 ves_icall_System_Threading_Thread_GetName_internal (MonoInternalThread *this_obj)
1431 {
1432         MonoError error;
1433         MonoString* str;
1434
1435         mono_error_init (&error);
1436
1437         LOCK_THREAD (this_obj);
1438
1439         if (!this_obj->name)
1440                 str = NULL;
1441         else
1442                 str = mono_string_new_utf16_checked (mono_domain_get (), this_obj->name, this_obj->name_len, &error);
1443
1444         UNLOCK_THREAD (this_obj);
1445
1446         if (mono_error_set_pending_exception (&error))
1447                 return NULL;
1448
1449         return str;
1450 }
1451
1452 void
1453 mono_thread_set_name_internal (MonoInternalThread *this_obj, MonoString *name, gboolean permanent, MonoError *error)
1454 {
1455         LOCK_THREAD (this_obj);
1456
1457         mono_error_init (error);
1458
1459         if ((this_obj->flags & MONO_THREAD_FLAG_NAME_SET)) {
1460                 UNLOCK_THREAD (this_obj);
1461
1462                 mono_error_set_invalid_operation (error, "Thread.Name can only be set once.");
1463                 return;
1464         }
1465         if (this_obj->name) {
1466                 g_free (this_obj->name);
1467                 this_obj->name_len = 0;
1468         }
1469         if (name) {
1470                 this_obj->name = g_new (gunichar2, mono_string_length (name));
1471                 memcpy (this_obj->name, mono_string_chars (name), mono_string_length (name) * 2);
1472                 this_obj->name_len = mono_string_length (name);
1473
1474                 if (permanent)
1475                         this_obj->flags |= MONO_THREAD_FLAG_NAME_SET;
1476         }
1477         else
1478                 this_obj->name = NULL;
1479
1480
1481         UNLOCK_THREAD (this_obj);
1482
1483         if (this_obj->name && this_obj->tid) {
1484                 char *tname = mono_string_to_utf8_checked (name, error);
1485                 return_if_nok (error);
1486                 mono_profiler_thread_name (this_obj->tid, tname);
1487                 mono_native_thread_set_name (thread_get_tid (this_obj), tname);
1488                 mono_free (tname);
1489         }
1490 }
1491
1492 void
1493 ves_icall_System_Threading_Thread_SetName_internal (MonoInternalThread *this_obj, MonoString *name)
1494 {
1495         MonoError error;
1496         mono_thread_set_name_internal (this_obj, name, TRUE, &error);
1497         mono_error_set_pending_exception (&error);
1498 }
1499
1500 /*
1501  * ves_icall_System_Threading_Thread_GetPriority_internal:
1502  * @param this_obj: The MonoInternalThread on which to operate.
1503  *
1504  * Gets the priority of the given thread.
1505  * @return: The priority of the given thread.
1506  */
1507 int
1508 ves_icall_System_Threading_Thread_GetPriority (MonoThread *this_obj)
1509 {
1510         gint32 priority;
1511         MonoInternalThread *internal = this_obj->internal_thread;
1512
1513         LOCK_THREAD (internal);
1514         priority = internal->priority;
1515         UNLOCK_THREAD (internal);
1516
1517         return priority;
1518 }
1519
1520 /*
1521  * ves_icall_System_Threading_Thread_SetPriority_internal:
1522  * @param this_obj: The MonoInternalThread on which to operate.
1523  * @param priority: The priority to set.
1524  *
1525  * Sets the priority of the given thread.
1526  */
1527 void
1528 ves_icall_System_Threading_Thread_SetPriority (MonoThread *this_obj, int priority)
1529 {
1530         MonoInternalThread *internal = this_obj->internal_thread;
1531
1532         LOCK_THREAD (internal);
1533         internal->priority = priority;
1534         if (internal->thread_info != NULL)
1535                 mono_thread_internal_set_priority (internal, priority);
1536         UNLOCK_THREAD (internal);
1537 }
1538
1539 /* If the array is already in the requested domain, we just return it,
1540    otherwise we return a copy in that domain. */
1541 static MonoArray*
1542 byte_array_to_domain (MonoArray *arr, MonoDomain *domain, MonoError *error)
1543 {
1544         MonoArray *copy;
1545
1546         mono_error_init (error);
1547         if (!arr)
1548                 return NULL;
1549
1550         if (mono_object_domain (arr) == domain)
1551                 return arr;
1552
1553         copy = mono_array_new_checked (domain, mono_defaults.byte_class, arr->max_length, error);
1554         memmove (mono_array_addr (copy, guint8, 0), mono_array_addr (arr, guint8, 0), arr->max_length);
1555         return copy;
1556 }
1557
1558 MonoArray*
1559 ves_icall_System_Threading_Thread_ByteArrayToRootDomain (MonoArray *arr)
1560 {
1561         MonoError error;
1562         MonoArray *result = byte_array_to_domain (arr, mono_get_root_domain (), &error);
1563         mono_error_set_pending_exception (&error);
1564         return result;
1565 }
1566
1567 MonoArray*
1568 ves_icall_System_Threading_Thread_ByteArrayToCurrentDomain (MonoArray *arr)
1569 {
1570         MonoError error;
1571         MonoArray *result = byte_array_to_domain (arr, mono_domain_get (), &error);
1572         mono_error_set_pending_exception (&error);
1573         return result;
1574 }
1575
1576 MonoThread *
1577 mono_thread_current (void)
1578 {
1579         MonoDomain *domain = mono_domain_get ();
1580         MonoInternalThread *internal = mono_thread_internal_current ();
1581         MonoThread **current_thread_ptr;
1582
1583         g_assert (internal);
1584         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1585
1586         if (!*current_thread_ptr) {
1587                 g_assert (domain != mono_get_root_domain ());
1588                 *current_thread_ptr = create_thread_object (domain, internal);
1589         }
1590         return *current_thread_ptr;
1591 }
1592
1593 /* Return the thread object belonging to INTERNAL in the current domain */
1594 static MonoThread *
1595 mono_thread_current_for_thread (MonoInternalThread *internal)
1596 {
1597         MonoDomain *domain = mono_domain_get ();
1598         MonoThread **current_thread_ptr;
1599
1600         g_assert (internal);
1601         current_thread_ptr = get_current_thread_ptr_for_domain (domain, internal);
1602
1603         if (!*current_thread_ptr) {
1604                 g_assert (domain != mono_get_root_domain ());
1605                 *current_thread_ptr = create_thread_object (domain, internal);
1606         }
1607         return *current_thread_ptr;
1608 }
1609
1610 MonoInternalThread*
1611 mono_thread_internal_current (void)
1612 {
1613         MonoInternalThread *res = GET_CURRENT_OBJECT ();
1614         THREAD_DEBUG (g_message ("%s: returning %p", __func__, res));
1615         return res;
1616 }
1617
1618 static MonoThreadInfoWaitRet
1619 mono_join_uninterrupted (MonoThreadHandle* thread_to_join, gint32 ms, MonoError *error)
1620 {
1621         MonoException *exc;
1622         MonoThreadInfoWaitRet ret;
1623         gint64 start;
1624         gint32 diff_ms;
1625         gint32 wait = ms;
1626
1627         mono_error_init (error);
1628
1629         start = (ms == -1) ? 0 : mono_msec_ticks ();
1630         for (;;) {
1631                 MONO_ENTER_GC_SAFE;
1632                 ret = mono_thread_info_wait_one_handle (thread_to_join, ms, TRUE);
1633                 MONO_EXIT_GC_SAFE;
1634
1635                 if (ret != MONO_THREAD_INFO_WAIT_RET_ALERTED)
1636                         return ret;
1637
1638                 exc = mono_thread_execute_interruption ();
1639                 if (exc) {
1640                         mono_error_set_exception_instance (error, exc);
1641                         return ret;
1642                 }
1643
1644                 if (ms == -1)
1645                         continue;
1646
1647                 /* Re-calculate ms according to the time passed */
1648                 diff_ms = (gint32)(mono_msec_ticks () - start);
1649                 if (diff_ms >= ms) {
1650                         ret = MONO_THREAD_INFO_WAIT_RET_TIMEOUT;
1651                         return ret;
1652                 }
1653                 wait = ms - diff_ms;
1654         }
1655
1656         return ret;
1657 }
1658
1659 gboolean
1660 ves_icall_System_Threading_Thread_Join_internal(MonoThread *this_obj, int ms)
1661 {
1662         MonoInternalThread *thread = this_obj->internal_thread;
1663         MonoThreadHandle *handle = thread->handle;
1664         MonoInternalThread *cur_thread = mono_thread_internal_current ();
1665         gboolean ret;
1666         MonoError error;
1667
1668         if (mono_thread_current_check_pending_interrupt ())
1669                 return FALSE;
1670
1671         LOCK_THREAD (thread);
1672
1673         if ((thread->state & ThreadState_Unstarted) != 0) {
1674                 UNLOCK_THREAD (thread);
1675
1676                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started."));
1677                 return FALSE;
1678         }
1679
1680         UNLOCK_THREAD (thread);
1681
1682         if(ms== -1) {
1683                 ms=MONO_INFINITE_WAIT;
1684         }
1685         THREAD_DEBUG (g_message ("%s: joining thread handle %p, %d ms", __func__, handle, ms));
1686
1687         mono_thread_set_state (cur_thread, ThreadState_WaitSleepJoin);
1688
1689         ret=mono_join_uninterrupted (handle, ms, &error);
1690
1691         mono_thread_clr_state (cur_thread, ThreadState_WaitSleepJoin);
1692
1693         mono_error_set_pending_exception (&error);
1694
1695         if(ret==MONO_THREAD_INFO_WAIT_RET_SUCCESS_0) {
1696                 THREAD_DEBUG (g_message ("%s: join successful", __func__));
1697
1698                 return(TRUE);
1699         }
1700
1701         THREAD_DEBUG (g_message ("%s: join failed", __func__));
1702
1703         return(FALSE);
1704 }
1705
1706 #define MANAGED_WAIT_FAILED 0x7fffffff
1707
1708 static gint32
1709 map_native_wait_result_to_managed (MonoW32HandleWaitRet val, gsize numobjects)
1710 {
1711         if (val >= MONO_W32HANDLE_WAIT_RET_SUCCESS_0 && val < MONO_W32HANDLE_WAIT_RET_SUCCESS_0 + numobjects) {
1712                 return WAIT_OBJECT_0 + (val - MONO_W32HANDLE_WAIT_RET_SUCCESS_0);
1713         } else if (val >= MONO_W32HANDLE_WAIT_RET_ABANDONED_0 && val < MONO_W32HANDLE_WAIT_RET_ABANDONED_0 + numobjects) {
1714                 return WAIT_ABANDONED_0 + (val - MONO_W32HANDLE_WAIT_RET_ABANDONED_0);
1715         } else if (val == MONO_W32HANDLE_WAIT_RET_ALERTED) {
1716                 return WAIT_IO_COMPLETION;
1717         } else if (val == MONO_W32HANDLE_WAIT_RET_TIMEOUT) {
1718                 return WAIT_TIMEOUT;
1719         } else if (val == MONO_W32HANDLE_WAIT_RET_FAILED) {
1720                 /* WAIT_FAILED in waithandle.cs is different from WAIT_FAILED in Win32 API */
1721                 return MANAGED_WAIT_FAILED;
1722         } else {
1723                 g_error ("%s: unknown val value %d", __func__, val);
1724         }
1725 }
1726
1727 static MonoW32HandleWaitRet
1728 mono_wait_uninterrupted (MonoInternalThread *thread, guint32 numhandles, gpointer *handles, gboolean waitall, gint32 ms, MonoError *error)
1729 {
1730         MonoException *exc;
1731         MonoW32HandleWaitRet ret;
1732         gint64 start;
1733         gint32 diff_ms;
1734         gint32 wait = ms;
1735
1736         mono_error_init (error);
1737
1738         start = (ms == -1) ? 0 : mono_100ns_ticks ();
1739         do {
1740                 MONO_ENTER_GC_SAFE;
1741 #ifdef HOST_WIN32
1742                 if (numhandles != 1)
1743                         ret = mono_w32handle_convert_wait_ret (WaitForMultipleObjectsEx (numhandles, handles, waitall, wait, TRUE), numhandles);
1744                 else
1745                         ret = mono_w32handle_convert_wait_ret (WaitForSingleObjectEx (handles [0], ms, TRUE), 1);
1746 #else
1747                 /* mono_w32handle_wait_multiple optimizes the case for numhandles == 1 */
1748                 ret = mono_w32handle_wait_multiple (handles, numhandles, waitall, wait, TRUE);
1749 #endif /* HOST_WIN32 */
1750                 MONO_EXIT_GC_SAFE;
1751
1752                 if (ret != MONO_W32HANDLE_WAIT_RET_ALERTED)
1753                         break;
1754
1755                 exc = mono_thread_execute_interruption ();
1756                 if (exc) {
1757                         mono_error_set_exception_instance (error, exc);
1758                         break;
1759                 }
1760
1761                 if (ms == -1)
1762                         continue;
1763
1764                 /* Re-calculate ms according to the time passed */
1765                 diff_ms = (gint32)((mono_100ns_ticks () - start) / 10000);
1766                 if (diff_ms >= ms) {
1767                         ret = MONO_W32HANDLE_WAIT_RET_TIMEOUT;
1768                         break;
1769                 }
1770                 wait = ms - diff_ms;
1771         } while (TRUE);
1772
1773         return ret;
1774 }
1775
1776 gint32 ves_icall_System_Threading_WaitHandle_WaitAll_internal(MonoArray *mono_handles, gint32 ms)
1777 {
1778         MonoError error;
1779         HANDLE *handles;
1780         guint32 numhandles;
1781         MonoW32HandleWaitRet ret;
1782         guint32 i;
1783         MonoObject *waitHandle;
1784         MonoInternalThread *thread = mono_thread_internal_current ();
1785
1786         /* Do this WaitSleepJoin check before creating objects */
1787         if (mono_thread_current_check_pending_interrupt ())
1788                 return map_native_wait_result_to_managed (MONO_W32HANDLE_WAIT_RET_FAILED, 0);
1789
1790         /* We fail in managed if the array has more than 64 elements */
1791         numhandles = (guint32)mono_array_length(mono_handles);
1792         handles = g_new0(HANDLE, numhandles);
1793
1794         for(i = 0; i < numhandles; i++) {
1795                 waitHandle = mono_array_get(mono_handles, MonoObject*, i);
1796                 handles [i] = mono_wait_handle_get_handle ((MonoWaitHandle *) waitHandle);
1797         }
1798
1799         if(ms== -1) {
1800                 ms=MONO_INFINITE_WAIT;
1801         }
1802
1803         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1804
1805         ret = mono_wait_uninterrupted (thread, numhandles, handles, TRUE, ms, &error);
1806
1807         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1808
1809         g_free(handles);
1810
1811         mono_error_set_pending_exception (&error);
1812
1813         return map_native_wait_result_to_managed (ret, numhandles);
1814 }
1815
1816 gint32 ves_icall_System_Threading_WaitHandle_WaitAny_internal(MonoArray *mono_handles, gint32 ms)
1817 {
1818         MonoError error;
1819         HANDLE handles [MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS];
1820         uintptr_t numhandles;
1821         MonoW32HandleWaitRet ret;
1822         guint32 i;
1823         MonoObject *waitHandle;
1824         MonoInternalThread *thread = mono_thread_internal_current ();
1825
1826         /* Do this WaitSleepJoin check before creating objects */
1827         if (mono_thread_current_check_pending_interrupt ())
1828                 return map_native_wait_result_to_managed (MONO_W32HANDLE_WAIT_RET_FAILED, 0);
1829
1830         numhandles = mono_array_length(mono_handles);
1831         if (numhandles > MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS)
1832                 return map_native_wait_result_to_managed (MONO_W32HANDLE_WAIT_RET_FAILED, 0);
1833
1834         for(i = 0; i < numhandles; i++) {
1835                 waitHandle = mono_array_get(mono_handles, MonoObject*, i);
1836                 handles [i] = mono_wait_handle_get_handle ((MonoWaitHandle *) waitHandle);
1837         }
1838
1839         if(ms== -1) {
1840                 ms=MONO_INFINITE_WAIT;
1841         }
1842
1843         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1844
1845         ret = mono_wait_uninterrupted (thread, numhandles, handles, FALSE, ms, &error);
1846
1847         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1848
1849         THREAD_WAIT_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") returning %d", __func__, mono_native_thread_id_get (), ret));
1850
1851         mono_error_set_pending_exception (&error);
1852
1853         return map_native_wait_result_to_managed (ret, numhandles);
1854 }
1855
1856 gint32 ves_icall_System_Threading_WaitHandle_WaitOne_internal(HANDLE handle, gint32 ms)
1857 {
1858         MonoError error;
1859         MonoW32HandleWaitRet ret;
1860         MonoInternalThread *thread = mono_thread_internal_current ();
1861
1862         THREAD_WAIT_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") waiting for %p, %d ms", __func__, mono_native_thread_id_get (), handle, ms));
1863
1864         if(ms== -1) {
1865                 ms=MONO_INFINITE_WAIT;
1866         }
1867
1868         if (mono_thread_current_check_pending_interrupt ())
1869                 return map_native_wait_result_to_managed (MONO_W32HANDLE_WAIT_RET_FAILED, 0);
1870
1871         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1872
1873         ret = mono_wait_uninterrupted (thread, 1, &handle, FALSE, ms, &error);
1874
1875         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1876
1877         mono_error_set_pending_exception (&error);
1878         return map_native_wait_result_to_managed (ret, 1);
1879 }
1880
1881 gint32
1882 ves_icall_System_Threading_WaitHandle_SignalAndWait_Internal (HANDLE toSignal, HANDLE toWait, gint32 ms)
1883 {
1884         MonoW32HandleWaitRet ret;
1885         MonoInternalThread *thread = mono_thread_internal_current ();
1886
1887         if (ms == -1)
1888                 ms = MONO_INFINITE_WAIT;
1889
1890         if (mono_thread_current_check_pending_interrupt ())
1891                 return map_native_wait_result_to_managed (MONO_W32HANDLE_WAIT_RET_FAILED, 0);
1892
1893         mono_thread_set_state (thread, ThreadState_WaitSleepJoin);
1894
1895         MONO_ENTER_GC_SAFE;
1896 #ifdef HOST_WIN32
1897         ret = mono_w32handle_convert_wait_ret (SignalObjectAndWait (toSignal, toWait, ms, TRUE), 1);
1898 #else
1899         ret = mono_w32handle_signal_and_wait (toSignal, toWait, ms, TRUE);
1900 #endif
1901         MONO_EXIT_GC_SAFE;
1902
1903         mono_thread_clr_state (thread, ThreadState_WaitSleepJoin);
1904
1905         return map_native_wait_result_to_managed (ret, 1);
1906 }
1907
1908 gint32 ves_icall_System_Threading_Interlocked_Increment_Int (gint32 *location)
1909 {
1910         return InterlockedIncrement (location);
1911 }
1912
1913 gint64 ves_icall_System_Threading_Interlocked_Increment_Long (gint64 *location)
1914 {
1915 #if SIZEOF_VOID_P == 4
1916         if (G_UNLIKELY ((size_t)location & 0x7)) {
1917                 gint64 ret;
1918                 mono_interlocked_lock ();
1919                 (*location)++;
1920                 ret = *location;
1921                 mono_interlocked_unlock ();
1922                 return ret;
1923         }
1924 #endif
1925         return InterlockedIncrement64 (location);
1926 }
1927
1928 gint32 ves_icall_System_Threading_Interlocked_Decrement_Int (gint32 *location)
1929 {
1930         return InterlockedDecrement(location);
1931 }
1932
1933 gint64 ves_icall_System_Threading_Interlocked_Decrement_Long (gint64 * location)
1934 {
1935 #if SIZEOF_VOID_P == 4
1936         if (G_UNLIKELY ((size_t)location & 0x7)) {
1937                 gint64 ret;
1938                 mono_interlocked_lock ();
1939                 (*location)--;
1940                 ret = *location;
1941                 mono_interlocked_unlock ();
1942                 return ret;
1943         }
1944 #endif
1945         return InterlockedDecrement64 (location);
1946 }
1947
1948 gint32 ves_icall_System_Threading_Interlocked_Exchange_Int (gint32 *location, gint32 value)
1949 {
1950         return InterlockedExchange(location, value);
1951 }
1952
1953 MonoObject * ves_icall_System_Threading_Interlocked_Exchange_Object (MonoObject **location, MonoObject *value)
1954 {
1955         MonoObject *res;
1956         res = (MonoObject *) InterlockedExchangePointer((gpointer *) location, value);
1957         mono_gc_wbarrier_generic_nostore (location);
1958         return res;
1959 }
1960
1961 gpointer ves_icall_System_Threading_Interlocked_Exchange_IntPtr (gpointer *location, gpointer value)
1962 {
1963         return InterlockedExchangePointer(location, value);
1964 }
1965
1966 gfloat ves_icall_System_Threading_Interlocked_Exchange_Single (gfloat *location, gfloat value)
1967 {
1968         IntFloatUnion val, ret;
1969
1970         val.fval = value;
1971         ret.ival = InterlockedExchange((gint32 *) location, val.ival);
1972
1973         return ret.fval;
1974 }
1975
1976 gint64
1977 ves_icall_System_Threading_Interlocked_Exchange_Long (gint64 *location, gint64 value)
1978 {
1979 #if SIZEOF_VOID_P == 4
1980         if (G_UNLIKELY ((size_t)location & 0x7)) {
1981                 gint64 ret;
1982                 mono_interlocked_lock ();
1983                 ret = *location;
1984                 *location = value;
1985                 mono_interlocked_unlock ();
1986                 return ret;
1987         }
1988 #endif
1989         return InterlockedExchange64 (location, value);
1990 }
1991
1992 gdouble
1993 ves_icall_System_Threading_Interlocked_Exchange_Double (gdouble *location, gdouble value)
1994 {
1995         LongDoubleUnion val, ret;
1996
1997         val.fval = value;
1998         ret.ival = (gint64)InterlockedExchange64((gint64 *) location, val.ival);
1999
2000         return ret.fval;
2001 }
2002
2003 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int(gint32 *location, gint32 value, gint32 comparand)
2004 {
2005         return InterlockedCompareExchange(location, value, comparand);
2006 }
2007
2008 gint32 ves_icall_System_Threading_Interlocked_CompareExchange_Int_Success(gint32 *location, gint32 value, gint32 comparand, MonoBoolean *success)
2009 {
2010         gint32 r = InterlockedCompareExchange(location, value, comparand);
2011         *success = r == comparand;
2012         return r;
2013 }
2014
2015 MonoObject * ves_icall_System_Threading_Interlocked_CompareExchange_Object (MonoObject **location, MonoObject *value, MonoObject *comparand)
2016 {
2017         MonoObject *res;
2018         res = (MonoObject *) InterlockedCompareExchangePointer((gpointer *) location, value, comparand);
2019         mono_gc_wbarrier_generic_nostore (location);
2020         return res;
2021 }
2022
2023 gpointer ves_icall_System_Threading_Interlocked_CompareExchange_IntPtr(gpointer *location, gpointer value, gpointer comparand)
2024 {
2025         return InterlockedCompareExchangePointer(location, value, comparand);
2026 }
2027
2028 gfloat ves_icall_System_Threading_Interlocked_CompareExchange_Single (gfloat *location, gfloat value, gfloat comparand)
2029 {
2030         IntFloatUnion val, ret, cmp;
2031
2032         val.fval = value;
2033         cmp.fval = comparand;
2034         ret.ival = InterlockedCompareExchange((gint32 *) location, val.ival, cmp.ival);
2035
2036         return ret.fval;
2037 }
2038
2039 gdouble
2040 ves_icall_System_Threading_Interlocked_CompareExchange_Double (gdouble *location, gdouble value, gdouble comparand)
2041 {
2042 #if SIZEOF_VOID_P == 8
2043         LongDoubleUnion val, comp, ret;
2044
2045         val.fval = value;
2046         comp.fval = comparand;
2047         ret.ival = (gint64)InterlockedCompareExchangePointer((gpointer *) location, (gpointer)val.ival, (gpointer)comp.ival);
2048
2049         return ret.fval;
2050 #else
2051         gdouble old;
2052
2053         mono_interlocked_lock ();
2054         old = *location;
2055         if (old == comparand)
2056                 *location = value;
2057         mono_interlocked_unlock ();
2058
2059         return old;
2060 #endif
2061 }
2062
2063 gint64
2064 ves_icall_System_Threading_Interlocked_CompareExchange_Long (gint64 *location, gint64 value, gint64 comparand)
2065 {
2066 #if SIZEOF_VOID_P == 4
2067         if (G_UNLIKELY ((size_t)location & 0x7)) {
2068                 gint64 old;
2069                 mono_interlocked_lock ();
2070                 old = *location;
2071                 if (old == comparand)
2072                         *location = value;
2073                 mono_interlocked_unlock ();
2074                 return old;
2075         }
2076 #endif
2077         return InterlockedCompareExchange64 (location, value, comparand);
2078 }
2079
2080 MonoObject*
2081 ves_icall_System_Threading_Interlocked_CompareExchange_T (MonoObject **location, MonoObject *value, MonoObject *comparand)
2082 {
2083         MonoObject *res;
2084         res = (MonoObject *)InterlockedCompareExchangePointer ((volatile gpointer *)location, value, comparand);
2085         mono_gc_wbarrier_generic_nostore (location);
2086         return res;
2087 }
2088
2089 MonoObject*
2090 ves_icall_System_Threading_Interlocked_Exchange_T (MonoObject **location, MonoObject *value)
2091 {
2092         MonoObject *res;
2093         MONO_CHECK_NULL (location, NULL);
2094         res = (MonoObject *)InterlockedExchangePointer ((volatile gpointer *)location, value);
2095         mono_gc_wbarrier_generic_nostore (location);
2096         return res;
2097 }
2098
2099 gint32
2100 ves_icall_System_Threading_Interlocked_Add_Int (gint32 *location, gint32 value)
2101 {
2102         return InterlockedAdd (location, value);
2103 }
2104
2105 gint64
2106 ves_icall_System_Threading_Interlocked_Add_Long (gint64 *location, gint64 value)
2107 {
2108 #if SIZEOF_VOID_P == 4
2109         if (G_UNLIKELY ((size_t)location & 0x7)) {
2110                 gint64 ret;
2111                 mono_interlocked_lock ();
2112                 *location += value;
2113                 ret = *location;
2114                 mono_interlocked_unlock ();
2115                 return ret;
2116         }
2117 #endif
2118         return InterlockedAdd64 (location, value);
2119 }
2120
2121 gint64
2122 ves_icall_System_Threading_Interlocked_Read_Long (gint64 *location)
2123 {
2124 #if SIZEOF_VOID_P == 4
2125         if (G_UNLIKELY ((size_t)location & 0x7)) {
2126                 gint64 ret;
2127                 mono_interlocked_lock ();
2128                 ret = *location;
2129                 mono_interlocked_unlock ();
2130                 return ret;
2131         }
2132 #endif
2133         return InterlockedRead64 (location);
2134 }
2135
2136 void
2137 ves_icall_System_Threading_Thread_MemoryBarrier (void)
2138 {
2139         mono_memory_barrier ();
2140 }
2141
2142 void
2143 ves_icall_System_Threading_Thread_ClrState (MonoInternalThread* this_obj, guint32 state)
2144 {
2145         mono_thread_clr_state (this_obj, (MonoThreadState)state);
2146
2147         if (state & ThreadState_Background) {
2148                 /* If the thread changes the background mode, the main thread has to
2149                  * be notified, since it has to rebuild the list of threads to
2150                  * wait for.
2151                  */
2152                 mono_os_event_set (&background_change_event);
2153         }
2154 }
2155
2156 void
2157 ves_icall_System_Threading_Thread_SetState (MonoInternalThread* this_obj, guint32 state)
2158 {
2159         mono_thread_set_state (this_obj, (MonoThreadState)state);
2160
2161         if (state & ThreadState_Background) {
2162                 /* If the thread changes the background mode, the main thread has to
2163                  * be notified, since it has to rebuild the list of threads to
2164                  * wait for.
2165                  */
2166                 mono_os_event_set (&background_change_event);
2167         }
2168 }
2169
2170 guint32
2171 ves_icall_System_Threading_Thread_GetState (MonoInternalThread* this_obj)
2172 {
2173         guint32 state;
2174
2175         LOCK_THREAD (this_obj);
2176
2177         state = this_obj->state;
2178
2179         UNLOCK_THREAD (this_obj);
2180
2181         return state;
2182 }
2183
2184 void ves_icall_System_Threading_Thread_Interrupt_internal (MonoThread *this_obj)
2185 {
2186         MonoInternalThread *current;
2187         gboolean throw_;
2188         MonoInternalThread *thread = this_obj->internal_thread;
2189
2190         LOCK_THREAD (thread);
2191
2192         current = mono_thread_internal_current ();
2193
2194         thread->thread_interrupt_requested = TRUE;
2195         throw_ = current != thread && (thread->state & ThreadState_WaitSleepJoin);
2196
2197         UNLOCK_THREAD (thread);
2198
2199         if (throw_) {
2200                 async_abort_internal (thread, FALSE);
2201         }
2202 }
2203
2204 /**
2205  * mono_thread_current_check_pending_interrupt:
2206  *
2207  * Checks if there's a interruption request and set the pending exception if so.
2208  *
2209  * @returns true if a pending exception was set
2210  */
2211 gboolean
2212 mono_thread_current_check_pending_interrupt (void)
2213 {
2214         MonoInternalThread *thread = mono_thread_internal_current ();
2215         gboolean throw_ = FALSE;
2216
2217         LOCK_THREAD (thread);
2218
2219         if (thread->thread_interrupt_requested) {
2220                 throw_ = TRUE;
2221                 thread->thread_interrupt_requested = FALSE;
2222         }
2223
2224         UNLOCK_THREAD (thread);
2225
2226         if (throw_)
2227                 mono_set_pending_exception (mono_get_exception_thread_interrupted ());
2228         return throw_;
2229 }
2230
2231 static gboolean
2232 request_thread_abort (MonoInternalThread *thread, MonoObject *state)
2233 {
2234         LOCK_THREAD (thread);
2235
2236         if ((thread->state & ThreadState_AbortRequested) != 0 ||
2237                 (thread->state & ThreadState_StopRequested) != 0 ||
2238                 (thread->state & ThreadState_Stopped) != 0)
2239         {
2240                 UNLOCK_THREAD (thread);
2241                 return FALSE;
2242         }
2243
2244         if ((thread->state & ThreadState_Unstarted) != 0) {
2245                 thread->state |= ThreadState_Aborted;
2246                 UNLOCK_THREAD (thread);
2247                 return FALSE;
2248         }
2249
2250         thread->state |= ThreadState_AbortRequested;
2251         if (thread->abort_state_handle)
2252                 mono_gchandle_free (thread->abort_state_handle);
2253         if (state) {
2254                 thread->abort_state_handle = mono_gchandle_new (state, FALSE);
2255                 g_assert (thread->abort_state_handle);
2256         } else {
2257                 thread->abort_state_handle = 0;
2258         }
2259         thread->abort_exc = NULL;
2260
2261         THREAD_DEBUG (g_message ("%s: (%"G_GSIZE_FORMAT") Abort requested for %p (%"G_GSIZE_FORMAT")", __func__, mono_native_thread_id_get (), thread, (gsize)thread->tid));
2262
2263         /* During shutdown, we can't wait for other threads */
2264         if (!shutting_down)
2265                 /* Make sure the thread is awake */
2266                 mono_thread_resume (thread);
2267
2268         UNLOCK_THREAD (thread);
2269         return TRUE;
2270 }
2271
2272 void
2273 ves_icall_System_Threading_Thread_Abort (MonoInternalThread *thread, MonoObject *state)
2274 {
2275         if (!request_thread_abort (thread, state))
2276                 return;
2277
2278         if (thread == mono_thread_internal_current ()) {
2279                 MonoError error;
2280                 self_abort_internal (&error);
2281                 mono_error_set_pending_exception (&error);
2282         } else {
2283                 async_abort_internal (thread, TRUE);
2284         }
2285 }
2286
2287 /**
2288  * mono_thread_internal_abort:
2289  *
2290  * Request thread @thread to be aborted.
2291  *
2292  * @thread MUST NOT be the current thread.
2293  */
2294 void
2295 mono_thread_internal_abort (MonoInternalThread *thread)
2296 {
2297         g_assert (thread != mono_thread_internal_current ());
2298
2299         if (!request_thread_abort (thread, NULL))
2300                 return;
2301         async_abort_internal (thread, TRUE);
2302 }
2303
2304 void
2305 ves_icall_System_Threading_Thread_ResetAbort (MonoThread *this_obj)
2306 {
2307         MonoInternalThread *thread = mono_thread_internal_current ();
2308         gboolean was_aborting;
2309
2310         LOCK_THREAD (thread);
2311         was_aborting = thread->state & ThreadState_AbortRequested;
2312         thread->state &= ~ThreadState_AbortRequested;
2313         UNLOCK_THREAD (thread);
2314
2315         if (!was_aborting) {
2316                 const char *msg = "Unable to reset abort because no abort was requested";
2317                 mono_set_pending_exception (mono_get_exception_thread_state (msg));
2318                 return;
2319         }
2320
2321         mono_get_eh_callbacks ()->mono_clear_abort_threshold ();
2322         thread->abort_exc = NULL;
2323         if (thread->abort_state_handle) {
2324                 mono_gchandle_free (thread->abort_state_handle);
2325                 /* This is actually not necessary - the handle
2326                    only counts if the exception is set */
2327                 thread->abort_state_handle = 0;
2328         }
2329 }
2330
2331 void
2332 mono_thread_internal_reset_abort (MonoInternalThread *thread)
2333 {
2334         LOCK_THREAD (thread);
2335
2336         thread->state &= ~ThreadState_AbortRequested;
2337
2338         if (thread->abort_exc) {
2339                 mono_get_eh_callbacks ()->mono_clear_abort_threshold ();
2340                 thread->abort_exc = NULL;
2341                 if (thread->abort_state_handle) {
2342                         mono_gchandle_free (thread->abort_state_handle);
2343                         /* This is actually not necessary - the handle
2344                            only counts if the exception is set */
2345                         thread->abort_state_handle = 0;
2346                 }
2347         }
2348
2349         UNLOCK_THREAD (thread);
2350 }
2351
2352 MonoObject*
2353 ves_icall_System_Threading_Thread_GetAbortExceptionState (MonoThread *this_obj)
2354 {
2355         MonoError error;
2356         MonoInternalThread *thread = this_obj->internal_thread;
2357         MonoObject *state, *deserialized = NULL;
2358         MonoDomain *domain;
2359
2360         if (!thread->abort_state_handle)
2361                 return NULL;
2362
2363         state = mono_gchandle_get_target (thread->abort_state_handle);
2364         g_assert (state);
2365
2366         domain = mono_domain_get ();
2367         if (mono_object_domain (state) == domain)
2368                 return state;
2369
2370         deserialized = mono_object_xdomain_representation (state, domain, &error);
2371
2372         if (!deserialized) {
2373                 MonoException *invalid_op_exc = mono_get_exception_invalid_operation ("Thread.ExceptionState cannot access an ExceptionState from a different AppDomain");
2374                 if (!is_ok (&error)) {
2375                         MonoObject *exc = (MonoObject*)mono_error_convert_to_exception (&error);
2376                         MONO_OBJECT_SETREF (invalid_op_exc, inner_ex, exc);
2377                 }
2378                 mono_set_pending_exception (invalid_op_exc);
2379                 return NULL;
2380         }
2381
2382         return deserialized;
2383 }
2384
2385 static gboolean
2386 mono_thread_suspend (MonoInternalThread *thread)
2387 {
2388         LOCK_THREAD (thread);
2389
2390         if ((thread->state & ThreadState_Unstarted) != 0 ||
2391                 (thread->state & ThreadState_Aborted) != 0 ||
2392                 (thread->state & ThreadState_Stopped) != 0)
2393         {
2394                 UNLOCK_THREAD (thread);
2395                 return FALSE;
2396         }
2397
2398         if ((thread->state & ThreadState_Suspended) != 0 ||
2399                 (thread->state & ThreadState_SuspendRequested) != 0 ||
2400                 (thread->state & ThreadState_StopRequested) != 0)
2401         {
2402                 UNLOCK_THREAD (thread);
2403                 return TRUE;
2404         }
2405
2406         thread->state |= ThreadState_SuspendRequested;
2407         mono_os_event_reset (thread->suspended);
2408
2409         if (thread == mono_thread_internal_current ()) {
2410                 /* calls UNLOCK_THREAD (thread) */
2411                 self_suspend_internal ();
2412         } else {
2413                 /* calls UNLOCK_THREAD (thread) */
2414                 async_suspend_internal (thread, FALSE);
2415         }
2416
2417         return TRUE;
2418 }
2419
2420 void
2421 ves_icall_System_Threading_Thread_Suspend (MonoThread *this_obj)
2422 {
2423         if (!mono_thread_suspend (this_obj->internal_thread)) {
2424                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2425                 return;
2426         }
2427 }
2428
2429 /* LOCKING: LOCK_THREAD(thread) must be held */
2430 static gboolean
2431 mono_thread_resume (MonoInternalThread *thread)
2432 {
2433         if ((thread->state & ThreadState_SuspendRequested) != 0) {
2434                 // MOSTLY_ASYNC_SAFE_PRINTF ("RESUME (1) thread %p\n", thread_get_tid (thread));
2435                 thread->state &= ~ThreadState_SuspendRequested;
2436                 mono_os_event_set (thread->suspended);
2437                 return TRUE;
2438         }
2439
2440         if ((thread->state & ThreadState_Suspended) == 0 ||
2441                 (thread->state & ThreadState_Unstarted) != 0 ||
2442                 (thread->state & ThreadState_Aborted) != 0 ||
2443                 (thread->state & ThreadState_Stopped) != 0)
2444         {
2445                 // MOSTLY_ASYNC_SAFE_PRINTF ("RESUME (2) thread %p\n", thread_get_tid (thread));
2446                 return FALSE;
2447         }
2448
2449         // MOSTLY_ASYNC_SAFE_PRINTF ("RESUME (3) thread %p\n", thread_get_tid (thread));
2450
2451         mono_os_event_set (thread->suspended);
2452
2453         if (!thread->self_suspended) {
2454                 UNLOCK_THREAD (thread);
2455
2456                 /* Awake the thread */
2457                 if (!mono_thread_info_resume (thread_get_tid (thread)))
2458                         return FALSE;
2459
2460                 LOCK_THREAD (thread);
2461         }
2462
2463         thread->state &= ~ThreadState_Suspended;
2464
2465         return TRUE;
2466 }
2467
2468 void
2469 ves_icall_System_Threading_Thread_Resume (MonoThread *thread)
2470 {
2471         if (!thread->internal_thread) {
2472                 mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2473         } else {
2474                 LOCK_THREAD (thread->internal_thread);
2475                 if (!mono_thread_resume (thread->internal_thread))
2476                         mono_set_pending_exception (mono_get_exception_thread_state ("Thread has not been started, or is dead."));
2477                 UNLOCK_THREAD (thread->internal_thread);
2478         }
2479 }
2480
2481 static gboolean
2482 mono_threads_is_critical_method (MonoMethod *method)
2483 {
2484         switch (method->wrapper_type) {
2485         case MONO_WRAPPER_RUNTIME_INVOKE:
2486         case MONO_WRAPPER_XDOMAIN_INVOKE:
2487         case MONO_WRAPPER_XDOMAIN_DISPATCH:
2488                 return TRUE;
2489         }
2490         return FALSE;
2491 }
2492
2493 static gboolean
2494 find_wrapper (MonoMethod *m, gint no, gint ilo, gboolean managed, gpointer data)
2495 {
2496         if (managed)
2497                 return TRUE;
2498
2499         if (mono_threads_is_critical_method (m)) {
2500                 *((gboolean*)data) = TRUE;
2501                 return TRUE;
2502         }
2503         return FALSE;
2504 }
2505
2506 static gboolean
2507 is_running_protected_wrapper (void)
2508 {
2509         gboolean found = FALSE;
2510         mono_stack_walk (find_wrapper, &found);
2511         return found;
2512 }
2513
2514 static gboolean
2515 request_thread_stop (MonoInternalThread *thread)
2516 {
2517         LOCK_THREAD (thread);
2518
2519         if ((thread->state & ThreadState_StopRequested) != 0 ||
2520                 (thread->state & ThreadState_Stopped) != 0)
2521         {
2522                 UNLOCK_THREAD (thread);
2523                 return FALSE;
2524         }
2525
2526         /* Make sure the thread is awake */
2527         mono_thread_resume (thread);
2528
2529         thread->state |= ThreadState_StopRequested;
2530         thread->state &= ~ThreadState_AbortRequested;
2531
2532         UNLOCK_THREAD (thread);
2533         return TRUE;
2534 }
2535
2536 /**
2537  * mono_thread_internal_stop:
2538  *
2539  * Request thread @thread to stop.
2540  *
2541  * @thread MUST NOT be the current thread.
2542  */
2543 void
2544 mono_thread_internal_stop (MonoInternalThread *thread)
2545 {
2546         g_assert (thread != mono_thread_internal_current ());
2547
2548         if (!request_thread_stop (thread))
2549                 return;
2550
2551         async_abort_internal (thread, TRUE);
2552 }
2553
2554 void mono_thread_stop (MonoThread *thread)
2555 {
2556         MonoInternalThread *internal = thread->internal_thread;
2557
2558         if (!request_thread_stop (internal))
2559                 return;
2560
2561         if (internal == mono_thread_internal_current ()) {
2562                 MonoError error;
2563                 self_abort_internal (&error);
2564                 /*
2565                 This function is part of the embeding API and has no way to return the exception
2566                 to be thrown. So what we do is keep the old behavior and raise the exception.
2567                 */
2568                 mono_error_raise_exception (&error); /* OK to throw, see note */
2569         } else {
2570                 async_abort_internal (internal, TRUE);
2571         }
2572 }
2573
2574 gint8
2575 ves_icall_System_Threading_Thread_VolatileRead1 (void *ptr)
2576 {
2577         gint8 tmp = *(volatile gint8 *)ptr;
2578         mono_memory_barrier ();
2579         return tmp;
2580 }
2581
2582 gint16
2583 ves_icall_System_Threading_Thread_VolatileRead2 (void *ptr)
2584 {
2585         gint16 tmp = *(volatile gint16 *)ptr;
2586         mono_memory_barrier ();
2587         return tmp;
2588 }
2589
2590 gint32
2591 ves_icall_System_Threading_Thread_VolatileRead4 (void *ptr)
2592 {
2593         gint32 tmp = *(volatile gint32 *)ptr;
2594         mono_memory_barrier ();
2595         return tmp;
2596 }
2597
2598 gint64
2599 ves_icall_System_Threading_Thread_VolatileRead8 (void *ptr)
2600 {
2601         gint64 tmp = *(volatile gint64 *)ptr;
2602         mono_memory_barrier ();
2603         return tmp;
2604 }
2605
2606 void *
2607 ves_icall_System_Threading_Thread_VolatileReadIntPtr (void *ptr)
2608 {
2609         volatile void *tmp = *(volatile void **)ptr;
2610         mono_memory_barrier ();
2611         return (void *) tmp;
2612 }
2613
2614 void *
2615 ves_icall_System_Threading_Thread_VolatileReadObject (void *ptr)
2616 {
2617         volatile MonoObject *tmp = *(volatile MonoObject **)ptr;
2618         mono_memory_barrier ();
2619         return (MonoObject *) tmp;
2620 }
2621
2622 double
2623 ves_icall_System_Threading_Thread_VolatileReadDouble (void *ptr)
2624 {
2625         double tmp = *(volatile double *)ptr;
2626         mono_memory_barrier ();
2627         return tmp;
2628 }
2629
2630 float
2631 ves_icall_System_Threading_Thread_VolatileReadFloat (void *ptr)
2632 {
2633         float tmp = *(volatile float *)ptr;
2634         mono_memory_barrier ();
2635         return tmp;
2636 }
2637
2638 gint8
2639 ves_icall_System_Threading_Volatile_Read1 (void *ptr)
2640 {
2641         return InterlockedRead8 ((volatile gint8 *)ptr);
2642 }
2643
2644 gint16
2645 ves_icall_System_Threading_Volatile_Read2 (void *ptr)
2646 {
2647         return InterlockedRead16 ((volatile gint16 *)ptr);
2648 }
2649
2650 gint32
2651 ves_icall_System_Threading_Volatile_Read4 (void *ptr)
2652 {
2653         return InterlockedRead ((volatile gint32 *)ptr);
2654 }
2655
2656 gint64
2657 ves_icall_System_Threading_Volatile_Read8 (void *ptr)
2658 {
2659 #if SIZEOF_VOID_P == 4
2660         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2661                 gint64 val;
2662                 mono_interlocked_lock ();
2663                 val = *(gint64*)ptr;
2664                 mono_interlocked_unlock ();
2665                 return val;
2666         }
2667 #endif
2668         return InterlockedRead64 ((volatile gint64 *)ptr);
2669 }
2670
2671 void *
2672 ves_icall_System_Threading_Volatile_ReadIntPtr (void *ptr)
2673 {
2674         return InterlockedReadPointer ((volatile gpointer *)ptr);
2675 }
2676
2677 double
2678 ves_icall_System_Threading_Volatile_ReadDouble (void *ptr)
2679 {
2680         LongDoubleUnion u;
2681
2682 #if SIZEOF_VOID_P == 4
2683         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2684                 double val;
2685                 mono_interlocked_lock ();
2686                 val = *(double*)ptr;
2687                 mono_interlocked_unlock ();
2688                 return val;
2689         }
2690 #endif
2691
2692         u.ival = InterlockedRead64 ((volatile gint64 *)ptr);
2693
2694         return u.fval;
2695 }
2696
2697 float
2698 ves_icall_System_Threading_Volatile_ReadFloat (void *ptr)
2699 {
2700         IntFloatUnion u;
2701
2702         u.ival = InterlockedRead ((volatile gint32 *)ptr);
2703
2704         return u.fval;
2705 }
2706
2707 MonoObject*
2708 ves_icall_System_Threading_Volatile_Read_T (void *ptr)
2709 {
2710         return (MonoObject *)InterlockedReadPointer ((volatile gpointer *)ptr);
2711 }
2712
2713 void
2714 ves_icall_System_Threading_Thread_VolatileWrite1 (void *ptr, gint8 value)
2715 {
2716         mono_memory_barrier ();
2717         *(volatile gint8 *)ptr = value;
2718 }
2719
2720 void
2721 ves_icall_System_Threading_Thread_VolatileWrite2 (void *ptr, gint16 value)
2722 {
2723         mono_memory_barrier ();
2724         *(volatile gint16 *)ptr = value;
2725 }
2726
2727 void
2728 ves_icall_System_Threading_Thread_VolatileWrite4 (void *ptr, gint32 value)
2729 {
2730         mono_memory_barrier ();
2731         *(volatile gint32 *)ptr = value;
2732 }
2733
2734 void
2735 ves_icall_System_Threading_Thread_VolatileWrite8 (void *ptr, gint64 value)
2736 {
2737         mono_memory_barrier ();
2738         *(volatile gint64 *)ptr = value;
2739 }
2740
2741 void
2742 ves_icall_System_Threading_Thread_VolatileWriteIntPtr (void *ptr, void *value)
2743 {
2744         mono_memory_barrier ();
2745         *(volatile void **)ptr = value;
2746 }
2747
2748 void
2749 ves_icall_System_Threading_Thread_VolatileWriteObject (void *ptr, MonoObject *value)
2750 {
2751         mono_memory_barrier ();
2752         mono_gc_wbarrier_generic_store (ptr, value);
2753 }
2754
2755 void
2756 ves_icall_System_Threading_Thread_VolatileWriteDouble (void *ptr, double value)
2757 {
2758         mono_memory_barrier ();
2759         *(volatile double *)ptr = value;
2760 }
2761
2762 void
2763 ves_icall_System_Threading_Thread_VolatileWriteFloat (void *ptr, float value)
2764 {
2765         mono_memory_barrier ();
2766         *(volatile float *)ptr = value;
2767 }
2768
2769 void
2770 ves_icall_System_Threading_Volatile_Write1 (void *ptr, gint8 value)
2771 {
2772         InterlockedWrite8 ((volatile gint8 *)ptr, value);
2773 }
2774
2775 void
2776 ves_icall_System_Threading_Volatile_Write2 (void *ptr, gint16 value)
2777 {
2778         InterlockedWrite16 ((volatile gint16 *)ptr, value);
2779 }
2780
2781 void
2782 ves_icall_System_Threading_Volatile_Write4 (void *ptr, gint32 value)
2783 {
2784         InterlockedWrite ((volatile gint32 *)ptr, value);
2785 }
2786
2787 void
2788 ves_icall_System_Threading_Volatile_Write8 (void *ptr, gint64 value)
2789 {
2790 #if SIZEOF_VOID_P == 4
2791         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2792                 mono_interlocked_lock ();
2793                 *(gint64*)ptr = value;
2794                 mono_interlocked_unlock ();
2795                 return;
2796         }
2797 #endif
2798
2799         InterlockedWrite64 ((volatile gint64 *)ptr, value);
2800 }
2801
2802 void
2803 ves_icall_System_Threading_Volatile_WriteIntPtr (void *ptr, void *value)
2804 {
2805         InterlockedWritePointer ((volatile gpointer *)ptr, value);
2806 }
2807
2808 void
2809 ves_icall_System_Threading_Volatile_WriteDouble (void *ptr, double value)
2810 {
2811         LongDoubleUnion u;
2812
2813 #if SIZEOF_VOID_P == 4
2814         if (G_UNLIKELY ((size_t)ptr & 0x7)) {
2815                 mono_interlocked_lock ();
2816                 *(double*)ptr = value;
2817                 mono_interlocked_unlock ();
2818                 return;
2819         }
2820 #endif
2821
2822         u.fval = value;
2823
2824         InterlockedWrite64 ((volatile gint64 *)ptr, u.ival);
2825 }
2826
2827 void
2828 ves_icall_System_Threading_Volatile_WriteFloat (void *ptr, float value)
2829 {
2830         IntFloatUnion u;
2831
2832         u.fval = value;
2833
2834         InterlockedWrite ((volatile gint32 *)ptr, u.ival);
2835 }
2836
2837 void
2838 ves_icall_System_Threading_Volatile_Write_T (void *ptr, MonoObject *value)
2839 {
2840         mono_gc_wbarrier_generic_store_atomic (ptr, value);
2841 }
2842
2843 static void
2844 free_context (void *user_data)
2845 {
2846         ContextStaticData *data = user_data;
2847
2848         mono_threads_lock ();
2849
2850         /*
2851          * There is no guarantee that, by the point this reference queue callback
2852          * has been invoked, the GC handle associated with the object will fail to
2853          * resolve as one might expect. So if we don't free and remove the GC
2854          * handle here, free_context_static_data_helper () could end up resolving
2855          * a GC handle to an actually-dead context which would contain a pointer
2856          * to an already-freed static data segment, resulting in a crash when
2857          * accessing it.
2858          */
2859         g_hash_table_remove (contexts, GUINT_TO_POINTER (data->gc_handle));
2860
2861         mono_threads_unlock ();
2862
2863         mono_gchandle_free (data->gc_handle);
2864         mono_free_static_data (data->static_data);
2865         g_free (data);
2866 }
2867
2868 void
2869 ves_icall_System_Runtime_Remoting_Contexts_Context_RegisterContext (MonoAppContext *ctx)
2870 {
2871         mono_threads_lock ();
2872
2873         //g_print ("Registering context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2874
2875         if (!contexts)
2876                 contexts = g_hash_table_new (NULL, NULL);
2877
2878         if (!context_queue)
2879                 context_queue = mono_gc_reference_queue_new (free_context);
2880
2881         gpointer gch = GUINT_TO_POINTER (mono_gchandle_new_weakref (&ctx->obj, FALSE));
2882         g_hash_table_insert (contexts, gch, gch);
2883
2884         /*
2885          * We use this intermediate structure to contain a duplicate pointer to
2886          * the static data because we can't rely on being able to resolve the GC
2887          * handle in the reference queue callback.
2888          */
2889         ContextStaticData *data = g_new0 (ContextStaticData, 1);
2890         data->gc_handle = GPOINTER_TO_UINT (gch);
2891         ctx->data = data;
2892
2893         context_adjust_static_data (ctx);
2894         mono_gc_reference_queue_add (context_queue, &ctx->obj, data);
2895
2896         mono_threads_unlock ();
2897
2898         mono_profiler_context_loaded (ctx);
2899 }
2900
2901 void
2902 ves_icall_System_Runtime_Remoting_Contexts_Context_ReleaseContext (MonoAppContext *ctx)
2903 {
2904         /*
2905          * NOTE: Since finalizers are unreliable for the purposes of ensuring
2906          * cleanup in exceptional circumstances, we don't actually do any
2907          * cleanup work here. We instead do this via a reference queue.
2908          */
2909
2910         //g_print ("Releasing context %d in domain %d\n", ctx->context_id, ctx->domain_id);
2911
2912         mono_profiler_context_unloaded (ctx);
2913 }
2914
2915 void
2916 mono_thread_init_tls (void)
2917 {
2918         MONO_FAST_TLS_INIT (tls_current_object);
2919         mono_native_tls_alloc (&current_object_key, NULL);
2920 }
2921
2922 void mono_thread_init (MonoThreadStartCB start_cb,
2923                        MonoThreadAttachCB attach_cb)
2924 {
2925         mono_coop_mutex_init_recursive (&threads_mutex);
2926
2927         mono_os_mutex_init_recursive(&interlocked_mutex);
2928         mono_os_mutex_init_recursive(&joinable_threads_mutex);
2929
2930         mono_os_event_init (&background_change_event, FALSE);
2931
2932         mono_init_static_data_info (&thread_static_info);
2933         mono_init_static_data_info (&context_static_info);
2934
2935         THREAD_DEBUG (g_message ("%s: Allocated current_object_key %d", __func__, current_object_key));
2936
2937         mono_thread_start_cb = start_cb;
2938         mono_thread_attach_cb = attach_cb;
2939 }
2940
2941 void mono_thread_cleanup (void)
2942 {
2943 #if !defined(RUN_IN_SUBTHREAD) && !defined(HOST_WIN32)
2944         /* The main thread must abandon any held mutexes (particularly
2945          * important for named mutexes as they are shared across
2946          * processes, see bug 74680.)  This will happen when the
2947          * thread exits, but if it's not running in a subthread it
2948          * won't exit in time.
2949          */
2950         mono_w32mutex_abandon ();
2951 #endif
2952
2953 #if 0
2954         /* This stuff needs more testing, it seems one of these
2955          * critical sections can be locked when mono_thread_cleanup is
2956          * called.
2957          */
2958         mono_coop_mutex_destroy (&threads_mutex);
2959         mono_os_mutex_destroy (&interlocked_mutex);
2960         mono_os_mutex_destroy (&delayed_free_table_mutex);
2961         mono_os_mutex_destroy (&small_id_mutex);
2962         mono_os_event_destroy (&background_change_event);
2963 #endif
2964
2965         mono_native_tls_free (current_object_key);
2966 }
2967
2968 void
2969 mono_threads_install_cleanup (MonoThreadCleanupFunc func)
2970 {
2971         mono_thread_cleanup_fn = func;
2972 }
2973
2974 void
2975 mono_thread_set_manage_callback (MonoThread *thread, MonoThreadManageCallback func)
2976 {
2977         thread->internal_thread->manage_callback = func;
2978 }
2979
2980 G_GNUC_UNUSED
2981 static void print_tids (gpointer key, gpointer value, gpointer user)
2982 {
2983         /* GPOINTER_TO_UINT breaks horribly if sizeof(void *) >
2984          * sizeof(uint) and a cast to uint would overflow
2985          */
2986         /* Older versions of glib don't have G_GSIZE_FORMAT, so just
2987          * print this as a pointer.
2988          */
2989         g_message ("Waiting for: %p", key);
2990 }
2991
2992 struct wait_data
2993 {
2994         MonoThreadHandle *handles[MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS];
2995         MonoInternalThread *threads[MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS];
2996         guint32 num;
2997 };
2998
2999 static void
3000 wait_for_tids (struct wait_data *wait, guint32 timeout, gboolean check_state_change)
3001 {
3002         guint32 i;
3003         MonoThreadInfoWaitRet ret;
3004
3005         THREAD_DEBUG (g_message("%s: %d threads to wait for in this batch", __func__, wait->num));
3006
3007         /* Add the thread state change event, so it wakes
3008          * up if a thread changes to background mode. */
3009
3010         MONO_ENTER_GC_SAFE;
3011         if (check_state_change)
3012                 ret = mono_thread_info_wait_multiple_handle (wait->handles, wait->num, &background_change_event, FALSE, timeout, TRUE);
3013         else
3014                 ret = mono_thread_info_wait_multiple_handle (wait->handles, wait->num, NULL, TRUE, timeout, TRUE);
3015         MONO_EXIT_GC_SAFE;
3016
3017         if (ret == MONO_THREAD_INFO_WAIT_RET_FAILED) {
3018                 /* See the comment in build_wait_tids() */
3019                 THREAD_DEBUG (g_message ("%s: Wait failed", __func__));
3020                 return;
3021         }
3022
3023         for( i = 0; i < wait->num; i++)
3024                 mono_threads_close_thread_handle (wait->handles [i]);
3025
3026         if (ret == MONO_THREAD_INFO_WAIT_RET_TIMEOUT)
3027                 return;
3028
3029         if (ret < wait->num) {
3030                 MonoInternalThread *internal;
3031
3032                 internal = wait->threads [ret];
3033
3034                 mono_threads_lock ();
3035                 if (mono_g_hash_table_lookup (threads, (gpointer) internal->tid) == internal)
3036                         g_error ("%s: failed to call mono_thread_detach_internal on thread %p, InternalThread: %p", __func__, internal->tid, internal);
3037                 mono_threads_unlock ();
3038         }
3039 }
3040
3041 static void build_wait_tids (gpointer key, gpointer value, gpointer user)
3042 {
3043         struct wait_data *wait=(struct wait_data *)user;
3044
3045         if(wait->num<MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS - 1) {
3046                 MonoInternalThread *thread=(MonoInternalThread *)value;
3047
3048                 /* Ignore background threads, we abort them later */
3049                 /* Do not lock here since it is not needed and the caller holds threads_lock */
3050                 if (thread->state & ThreadState_Background) {
3051                         THREAD_DEBUG (g_message ("%s: ignoring background thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3052                         return; /* just leave, ignore */
3053                 }
3054
3055                 if (mono_gc_is_finalizer_internal_thread (thread)) {
3056                         THREAD_DEBUG (g_message ("%s: ignoring finalizer thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3057                         return;
3058                 }
3059
3060                 if (thread == mono_thread_internal_current ()) {
3061                         THREAD_DEBUG (g_message ("%s: ignoring current thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3062                         return;
3063                 }
3064
3065                 if (mono_thread_get_main () && (thread == mono_thread_get_main ()->internal_thread)) {
3066                         THREAD_DEBUG (g_message ("%s: ignoring main thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3067                         return;
3068                 }
3069
3070                 if (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE) {
3071                         THREAD_DEBUG (g_message ("%s: ignoring thread %" G_GSIZE_FORMAT "with DONT_MANAGE flag set.", __func__, (gsize)thread->tid));
3072                         return;
3073                 }
3074
3075                 THREAD_DEBUG (g_message ("%s: Invoking mono_thread_manage callback on thread %p", __func__, thread));
3076                 if ((thread->manage_callback == NULL) || (thread->manage_callback (thread->root_domain_thread) == TRUE)) {
3077                         wait->handles[wait->num]=mono_threads_open_thread_handle (thread->handle);
3078                         wait->threads[wait->num]=thread;
3079                         wait->num++;
3080
3081                         THREAD_DEBUG (g_message ("%s: adding thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3082                 } else {
3083                         THREAD_DEBUG (g_message ("%s: ignoring (because of callback) thread %"G_GSIZE_FORMAT, __func__, (gsize)thread->tid));
3084                 }
3085
3086
3087         } else {
3088                 /* Just ignore the rest, we can't do anything with
3089                  * them yet
3090                  */
3091         }
3092 }
3093
3094 static gboolean
3095 remove_and_abort_threads (gpointer key, gpointer value, gpointer user)
3096 {
3097         struct wait_data *wait=(struct wait_data *)user;
3098         MonoNativeThreadId self = mono_native_thread_id_get ();
3099         MonoInternalThread *thread = (MonoInternalThread *)value;
3100
3101         if (wait->num >= MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS)
3102                 return FALSE;
3103
3104         /* The finalizer thread is not a background thread */
3105         if (!mono_native_thread_id_equals (thread_get_tid (thread), self)
3106              && (thread->state & ThreadState_Background) != 0
3107              && (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE) == 0
3108         ) {
3109                 wait->handles[wait->num] = mono_threads_open_thread_handle (thread->handle);
3110                 wait->threads[wait->num] = thread;
3111                 wait->num++;
3112
3113                 THREAD_DEBUG (g_print ("%s: Aborting id: %"G_GSIZE_FORMAT"\n", __func__, (gsize)thread->tid));
3114                 mono_thread_internal_abort (thread);
3115                 return TRUE;
3116         }
3117
3118         return !mono_native_thread_id_equals (thread_get_tid (thread), self)
3119                 && !mono_gc_is_finalizer_internal_thread (thread);
3120 }
3121
3122 /**
3123  * mono_threads_set_shutting_down:
3124  *
3125  * Is called by a thread that wants to shut down Mono. If the runtime is already
3126  * shutting down, the calling thread is suspended/stopped, and this function never
3127  * returns.
3128  */
3129 void
3130 mono_threads_set_shutting_down (void)
3131 {
3132         MonoInternalThread *current_thread = mono_thread_internal_current ();
3133
3134         mono_threads_lock ();
3135
3136         if (shutting_down) {
3137                 mono_threads_unlock ();
3138
3139                 /* Make sure we're properly suspended/stopped */
3140
3141                 LOCK_THREAD (current_thread);
3142
3143                 if ((current_thread->state & ThreadState_SuspendRequested) ||
3144                     (current_thread->state & ThreadState_AbortRequested) ||
3145                     (current_thread->state & ThreadState_StopRequested)) {
3146                         UNLOCK_THREAD (current_thread);
3147                         mono_thread_execute_interruption ();
3148                 } else {
3149                         current_thread->state |= ThreadState_Stopped;
3150                         UNLOCK_THREAD (current_thread);
3151                 }
3152
3153                 /*since we're killing the thread, detach it.*/
3154                 mono_thread_detach_internal (current_thread);
3155
3156                 /* Wake up other threads potentially waiting for us */
3157                 mono_thread_info_exit (0);
3158         } else {
3159                 shutting_down = TRUE;
3160
3161                 /* Not really a background state change, but this will
3162                  * interrupt the main thread if it is waiting for all
3163                  * the other threads.
3164                  */
3165                 mono_os_event_set (&background_change_event);
3166
3167                 mono_threads_unlock ();
3168         }
3169 }
3170
3171 void mono_thread_manage (void)
3172 {
3173         struct wait_data wait_data;
3174         struct wait_data *wait = &wait_data;
3175
3176         memset (wait, 0, sizeof (struct wait_data));
3177         /* join each thread that's still running */
3178         THREAD_DEBUG (g_message ("%s: Joining each running thread...", __func__));
3179
3180         mono_threads_lock ();
3181         if(threads==NULL) {
3182                 THREAD_DEBUG (g_message("%s: No threads", __func__));
3183                 mono_threads_unlock ();
3184                 return;
3185         }
3186         mono_threads_unlock ();
3187
3188         do {
3189                 mono_threads_lock ();
3190                 if (shutting_down) {
3191                         /* somebody else is shutting down */
3192                         mono_threads_unlock ();
3193                         break;
3194                 }
3195                 THREAD_DEBUG (g_message ("%s: There are %d threads to join", __func__, mono_g_hash_table_size (threads));
3196                         mono_g_hash_table_foreach (threads, print_tids, NULL));
3197
3198                 mono_os_event_reset (&background_change_event);
3199                 wait->num=0;
3200                 /* We must zero all InternalThread pointers to avoid making the GC unhappy. */
3201                 memset (wait->threads, 0, MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3202                 mono_g_hash_table_foreach (threads, build_wait_tids, wait);
3203                 mono_threads_unlock ();
3204                 if (wait->num > 0)
3205                         /* Something to wait for */
3206                         wait_for_tids (wait, MONO_INFINITE_WAIT, TRUE);
3207                 THREAD_DEBUG (g_message ("%s: I have %d threads after waiting.", __func__, wait->num));
3208         } while(wait->num>0);
3209
3210         /* Mono is shutting down, so just wait for the end */
3211         if (!mono_runtime_try_shutdown ()) {
3212                 /*FIXME mono_thread_suspend probably should call mono_thread_execute_interruption when self interrupting. */
3213                 mono_thread_suspend (mono_thread_internal_current ());
3214                 mono_thread_execute_interruption ();
3215         }
3216
3217         /*
3218          * Remove everything but the finalizer thread and self.
3219          * Also abort all the background threads
3220          * */
3221         do {
3222                 mono_threads_lock ();
3223
3224                 wait->num = 0;
3225                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3226                 memset (wait->threads, 0, MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3227                 mono_g_hash_table_foreach_remove (threads, remove_and_abort_threads, wait);
3228
3229                 mono_threads_unlock ();
3230
3231                 THREAD_DEBUG (g_message ("%s: wait->num is now %d", __func__, wait->num));
3232                 if (wait->num > 0) {
3233                         /* Something to wait for */
3234                         wait_for_tids (wait, MONO_INFINITE_WAIT, FALSE);
3235                 }
3236         } while (wait->num > 0);
3237
3238         /*
3239          * give the subthreads a chance to really quit (this is mainly needed
3240          * to get correct user and system times from getrusage/wait/time(1)).
3241          * This could be removed if we avoid pthread_detach() and use pthread_join().
3242          */
3243         mono_thread_info_yield ();
3244 }
3245
3246 static void
3247 collect_threads_for_suspend (gpointer key, gpointer value, gpointer user_data)
3248 {
3249         MonoInternalThread *thread = (MonoInternalThread*)value;
3250         struct wait_data *wait = (struct wait_data*)user_data;
3251
3252         /*
3253          * We try to exclude threads early, to avoid running into the MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS
3254          * limitation.
3255          * This needs no locking.
3256          */
3257         if ((thread->state & ThreadState_Suspended) != 0 ||
3258                 (thread->state & ThreadState_Stopped) != 0)
3259                 return;
3260
3261         if (wait->num<MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS) {
3262                 wait->handles [wait->num] = mono_threads_open_thread_handle (thread->handle);
3263                 wait->threads [wait->num] = thread;
3264                 wait->num++;
3265         }
3266 }
3267
3268 /*
3269  * mono_thread_suspend_all_other_threads:
3270  *
3271  *  Suspend all managed threads except the finalizer thread and this thread. It is
3272  * not possible to resume them later.
3273  */
3274 void mono_thread_suspend_all_other_threads (void)
3275 {
3276         struct wait_data wait_data;
3277         struct wait_data *wait = &wait_data;
3278         int i;
3279         MonoNativeThreadId self = mono_native_thread_id_get ();
3280         guint32 eventidx = 0;
3281         gboolean starting, finished;
3282
3283         memset (wait, 0, sizeof (struct wait_data));
3284         /*
3285          * The other threads could be in an arbitrary state at this point, i.e.
3286          * they could be starting up, shutting down etc. This means that there could be
3287          * threads which are not even in the threads hash table yet.
3288          */
3289
3290         /*
3291          * First we set a barrier which will be checked by all threads before they
3292          * are added to the threads hash table, and they will exit if the flag is set.
3293          * This ensures that no threads could be added to the hash later.
3294          * We will use shutting_down as the barrier for now.
3295          */
3296         g_assert (shutting_down);
3297
3298         /*
3299          * We make multiple calls to WaitForMultipleObjects since:
3300          * - we can only wait for MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS threads
3301          * - some threads could exit without becoming suspended
3302          */
3303         finished = FALSE;
3304         while (!finished) {
3305                 /*
3306                  * Make a copy of the hashtable since we can't do anything with
3307                  * threads while threads_mutex is held.
3308                  */
3309                 wait->num = 0;
3310                 /*We must zero all InternalThread pointers to avoid making the GC unhappy.*/
3311                 memset (wait->threads, 0, MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS * SIZEOF_VOID_P);
3312                 mono_threads_lock ();
3313                 mono_g_hash_table_foreach (threads, collect_threads_for_suspend, wait);
3314                 mono_threads_unlock ();
3315
3316                 eventidx = 0;
3317                 /* Get the suspended events that we'll be waiting for */
3318                 for (i = 0; i < wait->num; ++i) {
3319                         MonoInternalThread *thread = wait->threads [i];
3320
3321                         if (mono_native_thread_id_equals (thread_get_tid (thread), self)
3322                              || mono_gc_is_finalizer_internal_thread (thread)
3323                              || (thread->flags & MONO_THREAD_FLAG_DONT_MANAGE)
3324                         ) {
3325                                 mono_threads_close_thread_handle (wait->handles [i]);
3326                                 wait->threads [i] = NULL;
3327                                 continue;
3328                         }
3329
3330                         LOCK_THREAD (thread);
3331
3332                         if ((thread->state & ThreadState_Suspended) != 0 ||
3333                                 (thread->state & ThreadState_StopRequested) != 0 ||
3334                                 (thread->state & ThreadState_Stopped) != 0) {
3335                                 UNLOCK_THREAD (thread);
3336                                 mono_threads_close_thread_handle (wait->handles [i]);
3337                                 wait->threads [i] = NULL;
3338                                 continue;
3339                         }
3340
3341                         ++eventidx;
3342
3343                         /* Convert abort requests into suspend requests */
3344                         if ((thread->state & ThreadState_AbortRequested) != 0)
3345                                 thread->state &= ~ThreadState_AbortRequested;
3346
3347                         thread->state |= ThreadState_SuspendRequested;
3348                         mono_os_event_reset (thread->suspended);
3349
3350                         /* Signal the thread to suspend + calls UNLOCK_THREAD (thread) */
3351                         async_suspend_internal (thread, TRUE);
3352
3353                         mono_threads_close_thread_handle (wait->handles [i]);
3354                         wait->threads [i] = NULL;
3355                 }
3356                 if (eventidx <= 0) {
3357                         /*
3358                          * If there are threads which are starting up, we wait until they
3359                          * are suspended when they try to register in the threads hash.
3360                          * This is guaranteed to finish, since the threads which can create new
3361                          * threads get suspended after a while.
3362                          * FIXME: The finalizer thread can still create new threads.
3363                          */
3364                         mono_threads_lock ();
3365                         if (threads_starting_up)
3366                                 starting = mono_g_hash_table_size (threads_starting_up) > 0;
3367                         else
3368                                 starting = FALSE;
3369                         mono_threads_unlock ();
3370                         if (starting)
3371                                 mono_thread_info_sleep (100, NULL);
3372                         else
3373                                 finished = TRUE;
3374                 }
3375         }
3376 }
3377
3378 typedef struct {
3379         MonoInternalThread *thread;
3380         MonoStackFrameInfo *frames;
3381         int nframes, max_frames;
3382         int nthreads, max_threads;
3383         MonoInternalThread **threads;
3384 } ThreadDumpUserData;
3385
3386 static gboolean thread_dump_requested;
3387
3388 /* This needs to be async safe */
3389 static gboolean
3390 collect_frame (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
3391 {
3392         ThreadDumpUserData *ud = (ThreadDumpUserData *)data;
3393
3394         if (ud->nframes < ud->max_frames) {
3395                 memcpy (&ud->frames [ud->nframes], frame, sizeof (MonoStackFrameInfo));
3396                 ud->nframes ++;
3397         }
3398
3399         return FALSE;
3400 }
3401
3402 /* This needs to be async safe */
3403 static SuspendThreadResult
3404 get_thread_dump (MonoThreadInfo *info, gpointer ud)
3405 {
3406         ThreadDumpUserData *user_data = (ThreadDumpUserData *)ud;
3407         MonoInternalThread *thread = user_data->thread;
3408
3409 #if 0
3410 /* This no longer works with remote unwinding */
3411         g_string_append_printf (text, " tid=0x%p this=0x%p ", (gpointer)(gsize)thread->tid, thread);
3412         mono_thread_internal_describe (thread, text);
3413         g_string_append (text, "\n");
3414 #endif
3415
3416         if (thread == mono_thread_internal_current ())
3417                 mono_get_eh_callbacks ()->mono_walk_stack_with_ctx (collect_frame, NULL, MONO_UNWIND_SIGNAL_SAFE, ud);
3418         else
3419                 mono_get_eh_callbacks ()->mono_walk_stack_with_state (collect_frame, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, ud);
3420
3421         return MonoResumeThread;
3422 }
3423
3424 typedef struct {
3425         int nthreads, max_threads;
3426         MonoInternalThread **threads;
3427 } CollectThreadsUserData;
3428
3429 static void
3430 collect_thread (gpointer key, gpointer value, gpointer user)
3431 {
3432         CollectThreadsUserData *ud = (CollectThreadsUserData *)user;
3433         MonoInternalThread *thread = (MonoInternalThread *)value;
3434
3435         if (ud->nthreads < ud->max_threads)
3436                 ud->threads [ud->nthreads ++] = thread;
3437 }
3438
3439 /*
3440  * Collect running threads into the THREADS array.
3441  * THREADS should be an array allocated on the stack.
3442  */
3443 static int
3444 collect_threads (MonoInternalThread **thread_array, int max_threads)
3445 {
3446         CollectThreadsUserData ud;
3447
3448         memset (&ud, 0, sizeof (ud));
3449         /* This array contains refs, but its on the stack, so its ok */
3450         ud.threads = thread_array;
3451         ud.max_threads = max_threads;
3452
3453         mono_threads_lock ();
3454         mono_g_hash_table_foreach (threads, collect_thread, &ud);
3455         mono_threads_unlock ();
3456
3457         return ud.nthreads;
3458 }
3459
3460 static void
3461 dump_thread (MonoInternalThread *thread, ThreadDumpUserData *ud)
3462 {
3463         GString* text = g_string_new (0);
3464         char *name;
3465         GError *error = NULL;
3466         int i;
3467
3468         ud->thread = thread;
3469         ud->nframes = 0;
3470
3471         /* Collect frames for the thread */
3472         if (thread == mono_thread_internal_current ()) {
3473                 get_thread_dump (mono_thread_info_current (), ud);
3474         } else {
3475                 mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, ud);
3476         }
3477
3478         /*
3479          * Do all the non async-safe work outside of get_thread_dump.
3480          */
3481         if (thread->name) {
3482                 name = g_utf16_to_utf8 (thread->name, thread->name_len, NULL, NULL, &error);
3483                 g_assert (!error);
3484                 g_string_append_printf (text, "\n\"%s\"", name);
3485                 g_free (name);
3486         }
3487         else if (thread->threadpool_thread) {
3488                 g_string_append (text, "\n\"<threadpool thread>\"");
3489         } else {
3490                 g_string_append (text, "\n\"<unnamed thread>\"");
3491         }
3492
3493         for (i = 0; i < ud->nframes; ++i) {
3494                 MonoStackFrameInfo *frame = &ud->frames [i];
3495                 MonoMethod *method = NULL;
3496
3497                 if (frame->type == FRAME_TYPE_MANAGED)
3498                         method = mono_jit_info_get_method (frame->ji);
3499
3500                 if (method) {
3501                         gchar *location = mono_debug_print_stack_frame (method, frame->native_offset, frame->domain);
3502                         g_string_append_printf (text, "  %s\n", location);
3503                         g_free (location);
3504                 } else {
3505                         g_string_append_printf (text, "  at <unknown> <0x%05x>\n", frame->native_offset);
3506                 }
3507         }
3508
3509         fprintf (stdout, "%s", text->str);
3510
3511 #if PLATFORM_WIN32 && TARGET_WIN32 && _DEBUG
3512         OutputDebugStringA(text->str);
3513 #endif
3514
3515         g_string_free (text, TRUE);
3516         fflush (stdout);
3517 }
3518
3519 void
3520 mono_threads_perform_thread_dump (void)
3521 {
3522         ThreadDumpUserData ud;
3523         MonoInternalThread *thread_array [128];
3524         int tindex, nthreads;
3525
3526         if (!thread_dump_requested)
3527                 return;
3528
3529         printf ("Full thread dump:\n");
3530
3531         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3532         nthreads = collect_threads (thread_array, 128);
3533
3534         memset (&ud, 0, sizeof (ud));
3535         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3536         ud.max_frames = 256;
3537
3538         for (tindex = 0; tindex < nthreads; ++tindex)
3539                 dump_thread (thread_array [tindex], &ud);
3540
3541         g_free (ud.frames);
3542
3543         thread_dump_requested = FALSE;
3544 }
3545
3546 /* Obtain the thread dump of all threads */
3547 static gboolean
3548 mono_threads_get_thread_dump (MonoArray **out_threads, MonoArray **out_stack_frames, MonoError *error)
3549 {
3550
3551         ThreadDumpUserData ud;
3552         MonoInternalThread *thread_array [128];
3553         MonoDomain *domain = mono_domain_get ();
3554         MonoDebugSourceLocation *location;
3555         int tindex, nthreads;
3556
3557         mono_error_init (error);
3558
3559         *out_threads = NULL;
3560         *out_stack_frames = NULL;
3561
3562         /* Make a copy of the threads hash to avoid doing work inside threads_lock () */
3563         nthreads = collect_threads (thread_array, 128);
3564
3565         memset (&ud, 0, sizeof (ud));
3566         ud.frames = g_new0 (MonoStackFrameInfo, 256);
3567         ud.max_frames = 256;
3568
3569         *out_threads = mono_array_new_checked (domain, mono_defaults.thread_class, nthreads, error);
3570         if (!is_ok (error))
3571                 goto leave;
3572         *out_stack_frames = mono_array_new_checked (domain, mono_defaults.array_class, nthreads, error);
3573         if (!is_ok (error))
3574                 goto leave;
3575
3576         for (tindex = 0; tindex < nthreads; ++tindex) {
3577                 MonoInternalThread *thread = thread_array [tindex];
3578                 MonoArray *thread_frames;
3579                 int i;
3580
3581                 ud.thread = thread;
3582                 ud.nframes = 0;
3583
3584                 /* Collect frames for the thread */
3585                 if (thread == mono_thread_internal_current ()) {
3586                         get_thread_dump (mono_thread_info_current (), &ud);
3587                 } else {
3588                         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), FALSE, get_thread_dump, &ud);
3589                 }
3590
3591                 mono_array_setref_fast (*out_threads, tindex, mono_thread_current_for_thread (thread));
3592
3593                 thread_frames = mono_array_new_checked (domain, mono_defaults.stack_frame_class, ud.nframes, error);
3594                 if (!is_ok (error))
3595                         goto leave;
3596                 mono_array_setref_fast (*out_stack_frames, tindex, thread_frames);
3597
3598                 for (i = 0; i < ud.nframes; ++i) {
3599                         MonoStackFrameInfo *frame = &ud.frames [i];
3600                         MonoMethod *method = NULL;
3601                         MonoStackFrame *sf = (MonoStackFrame *)mono_object_new_checked (domain, mono_defaults.stack_frame_class, error);
3602                         if (!is_ok (error))
3603                                 goto leave;
3604
3605                         sf->native_offset = frame->native_offset;
3606
3607                         if (frame->type == FRAME_TYPE_MANAGED)
3608                                 method = mono_jit_info_get_method (frame->ji);
3609
3610                         if (method) {
3611                                 sf->method_address = (gsize) frame->ji->code_start;
3612
3613                                 MonoReflectionMethod *rm = mono_method_get_object_checked (domain, method, NULL, error);
3614                                 if (!is_ok (error))
3615                                         goto leave;
3616                                 MONO_OBJECT_SETREF (sf, method, rm);
3617
3618                                 location = mono_debug_lookup_source_location (method, frame->native_offset, domain);
3619                                 if (location) {
3620                                         sf->il_offset = location->il_offset;
3621
3622                                         if (location && location->source_file) {
3623                                                 MONO_OBJECT_SETREF (sf, filename, mono_string_new (domain, location->source_file));
3624                                                 sf->line = location->row;
3625                                                 sf->column = location->column;
3626                                         }
3627                                         mono_debug_free_source_location (location);
3628                                 } else {
3629                                         sf->il_offset = -1;
3630                                 }
3631                         }
3632                         mono_array_setref (thread_frames, i, sf);
3633                 }
3634         }
3635
3636 leave:
3637         g_free (ud.frames);
3638         return is_ok (error);
3639 }
3640
3641 /**
3642  * mono_threads_request_thread_dump:
3643  *
3644  *   Ask all threads except the current to print their stacktrace to stdout.
3645  */
3646 void
3647 mono_threads_request_thread_dump (void)
3648 {
3649         /*The new thread dump code runs out of the finalizer thread. */
3650         thread_dump_requested = TRUE;
3651         mono_gc_finalize_notify ();
3652 }
3653
3654 struct ref_stack {
3655         gpointer *refs;
3656         gint allocated; /* +1 so that refs [allocated] == NULL */
3657         gint bottom;
3658 };
3659
3660 typedef struct ref_stack RefStack;
3661
3662 static RefStack *
3663 ref_stack_new (gint initial_size)
3664 {
3665         RefStack *rs;
3666
3667         initial_size = MAX (initial_size, 16) + 1;
3668         rs = g_new0 (RefStack, 1);
3669         rs->refs = g_new0 (gpointer, initial_size);
3670         rs->allocated = initial_size;
3671         return rs;
3672 }
3673
3674 static void
3675 ref_stack_destroy (gpointer ptr)
3676 {
3677         RefStack *rs = (RefStack *)ptr;
3678
3679         if (rs != NULL) {
3680                 g_free (rs->refs);
3681                 g_free (rs);
3682         }
3683 }
3684
3685 static void
3686 ref_stack_push (RefStack *rs, gpointer ptr)
3687 {
3688         g_assert (rs != NULL);
3689
3690         if (rs->bottom >= rs->allocated) {
3691                 rs->refs = (void **)g_realloc (rs->refs, rs->allocated * 2 * sizeof (gpointer) + 1);
3692                 rs->allocated <<= 1;
3693                 rs->refs [rs->allocated] = NULL;
3694         }
3695         rs->refs [rs->bottom++] = ptr;
3696 }
3697
3698 static void
3699 ref_stack_pop (RefStack *rs)
3700 {
3701         if (rs == NULL || rs->bottom == 0)
3702                 return;
3703
3704         rs->bottom--;
3705         rs->refs [rs->bottom] = NULL;
3706 }
3707
3708 static gboolean
3709 ref_stack_find (RefStack *rs, gpointer ptr)
3710 {
3711         gpointer *refs;
3712
3713         if (rs == NULL)
3714                 return FALSE;
3715
3716         for (refs = rs->refs; refs && *refs; refs++) {
3717                 if (*refs == ptr)
3718                         return TRUE;
3719         }
3720         return FALSE;
3721 }
3722
3723 /*
3724  * mono_thread_push_appdomain_ref:
3725  *
3726  *   Register that the current thread may have references to objects in domain
3727  * @domain on its stack. Each call to this function should be paired with a
3728  * call to pop_appdomain_ref.
3729  */
3730 void
3731 mono_thread_push_appdomain_ref (MonoDomain *domain)
3732 {
3733         MonoInternalThread *thread = mono_thread_internal_current ();
3734
3735         if (thread) {
3736                 /* printf ("PUSH REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, domain->friendly_name); */
3737                 SPIN_LOCK (thread->lock_thread_id);
3738                 if (thread->appdomain_refs == NULL)
3739                         thread->appdomain_refs = ref_stack_new (16);
3740                 ref_stack_push ((RefStack *)thread->appdomain_refs, domain);
3741                 SPIN_UNLOCK (thread->lock_thread_id);
3742         }
3743 }
3744
3745 void
3746 mono_thread_pop_appdomain_ref (void)
3747 {
3748         MonoInternalThread *thread = mono_thread_internal_current ();
3749
3750         if (thread) {
3751                 /* printf ("POP REF: %"G_GSIZE_FORMAT" -> %s.\n", (gsize)thread->tid, ((MonoDomain*)(thread->appdomain_refs->data))->friendly_name); */
3752                 SPIN_LOCK (thread->lock_thread_id);
3753                 ref_stack_pop ((RefStack *)thread->appdomain_refs);
3754                 SPIN_UNLOCK (thread->lock_thread_id);
3755         }
3756 }
3757
3758 gboolean
3759 mono_thread_internal_has_appdomain_ref (MonoInternalThread *thread, MonoDomain *domain)
3760 {
3761         gboolean res;
3762         SPIN_LOCK (thread->lock_thread_id);
3763         res = ref_stack_find ((RefStack *)thread->appdomain_refs, domain);
3764         SPIN_UNLOCK (thread->lock_thread_id);
3765         return res;
3766 }
3767
3768 gboolean
3769 mono_thread_has_appdomain_ref (MonoThread *thread, MonoDomain *domain)
3770 {
3771         return mono_thread_internal_has_appdomain_ref (thread->internal_thread, domain);
3772 }
3773
3774 typedef struct abort_appdomain_data {
3775         struct wait_data wait;
3776         MonoDomain *domain;
3777 } abort_appdomain_data;
3778
3779 static void
3780 collect_appdomain_thread (gpointer key, gpointer value, gpointer user_data)
3781 {
3782         MonoInternalThread *thread = (MonoInternalThread*)value;
3783         abort_appdomain_data *data = (abort_appdomain_data*)user_data;
3784         MonoDomain *domain = data->domain;
3785
3786         if (mono_thread_internal_has_appdomain_ref (thread, domain)) {
3787                 /* printf ("ABORTING THREAD %p BECAUSE IT REFERENCES DOMAIN %s.\n", thread->tid, domain->friendly_name); */
3788
3789                 if(data->wait.num<MONO_W32HANDLE_MAXIMUM_WAIT_OBJECTS) {
3790                         data->wait.handles [data->wait.num] = mono_threads_open_thread_handle (thread->handle);
3791                         data->wait.threads [data->wait.num] = thread;
3792                         data->wait.num++;
3793                 } else {
3794                         /* Just ignore the rest, we can't do anything with
3795                          * them yet
3796                          */
3797                 }
3798         }
3799 }
3800
3801 /*
3802  * mono_threads_abort_appdomain_threads:
3803  *
3804  *   Abort threads which has references to the given appdomain.
3805  */
3806 gboolean
3807 mono_threads_abort_appdomain_threads (MonoDomain *domain, int timeout)
3808 {
3809 #ifdef __native_client__
3810         return FALSE;
3811 #endif
3812
3813         abort_appdomain_data user_data;
3814         gint64 start_time;
3815         int orig_timeout = timeout;
3816         int i;
3817
3818         THREAD_DEBUG (g_message ("%s: starting abort", __func__));
3819
3820         start_time = mono_msec_ticks ();
3821         do {
3822                 mono_threads_lock ();
3823
3824                 user_data.domain = domain;
3825                 user_data.wait.num = 0;
3826                 /* This shouldn't take any locks */
3827                 mono_g_hash_table_foreach (threads, collect_appdomain_thread, &user_data);
3828                 mono_threads_unlock ();
3829
3830                 if (user_data.wait.num > 0) {
3831                         /* Abort the threads outside the threads lock */
3832                         for (i = 0; i < user_data.wait.num; ++i)
3833                                 mono_thread_internal_abort (user_data.wait.threads [i]);
3834
3835                         /*
3836                          * We should wait for the threads either to abort, or to leave the
3837                          * domain. We can't do the latter, so we wait with a timeout.
3838                          */
3839                         wait_for_tids (&user_data.wait, 100, FALSE);
3840                 }
3841
3842                 /* Update remaining time */
3843                 timeout -= mono_msec_ticks () - start_time;
3844                 start_time = mono_msec_ticks ();
3845
3846                 if (orig_timeout != -1 && timeout < 0)
3847                         return FALSE;
3848         }
3849         while (user_data.wait.num > 0);
3850
3851         THREAD_DEBUG (g_message ("%s: abort done", __func__));
3852
3853         return TRUE;
3854 }
3855
3856 static void
3857 clear_cached_culture (gpointer key, gpointer value, gpointer user_data)
3858 {
3859         MonoInternalThread *thread = (MonoInternalThread*)value;
3860         MonoDomain *domain = (MonoDomain*)user_data;
3861         int i;
3862
3863         /* No locking needed here */
3864         /* FIXME: why no locking? writes to the cache are protected with synch_cs above */
3865
3866         if (thread->cached_culture_info) {
3867                 for (i = 0; i < NUM_CACHED_CULTURES * 2; ++i) {
3868                         MonoObject *obj = mono_array_get (thread->cached_culture_info, MonoObject*, i);
3869                         if (obj && obj->vtable->domain == domain)
3870                                 mono_array_set (thread->cached_culture_info, MonoObject*, i, NULL);
3871                 }
3872         }
3873 }
3874
3875 /*
3876  * mono_threads_clear_cached_culture:
3877  *
3878  *   Clear the cached_current_culture from all threads if it is in the
3879  * given appdomain.
3880  */
3881 void
3882 mono_threads_clear_cached_culture (MonoDomain *domain)
3883 {
3884         mono_threads_lock ();
3885         mono_g_hash_table_foreach (threads, clear_cached_culture, domain);
3886         mono_threads_unlock ();
3887 }
3888
3889 /*
3890  * mono_thread_get_undeniable_exception:
3891  *
3892  *   Return an exception which needs to be raised when leaving a catch clause.
3893  * This is used for undeniable exception propagation.
3894  */
3895 MonoException*
3896 mono_thread_get_undeniable_exception (void)
3897 {
3898         MonoInternalThread *thread = mono_thread_internal_current ();
3899
3900         if (!(thread && thread->abort_exc && !is_running_protected_wrapper ()))
3901                 return NULL;
3902
3903         // We don't want to have our exception effect calls made by
3904         // the catching block
3905
3906         if (!mono_get_eh_callbacks ()->mono_above_abort_threshold ())
3907                 return NULL;
3908
3909         /*
3910          * FIXME: Clear the abort exception and return an AppDomainUnloaded
3911          * exception if the thread no longer references a dying appdomain.
3912          */
3913         thread->abort_exc->trace_ips = NULL;
3914         thread->abort_exc->stack_trace = NULL;
3915         return thread->abort_exc;
3916 }
3917
3918 #if MONO_SMALL_CONFIG
3919 #define NUM_STATIC_DATA_IDX 4
3920 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3921         64, 256, 1024, 4096
3922 };
3923 #else
3924 #define NUM_STATIC_DATA_IDX 8
3925 static const int static_data_size [NUM_STATIC_DATA_IDX] = {
3926         1024, 4096, 16384, 65536, 262144, 1048576, 4194304, 16777216
3927 };
3928 #endif
3929
3930 static MonoBitSet *thread_reference_bitmaps [NUM_STATIC_DATA_IDX];
3931 static MonoBitSet *context_reference_bitmaps [NUM_STATIC_DATA_IDX];
3932
3933 static void
3934 mark_slots (void *addr, MonoBitSet **bitmaps, MonoGCMarkFunc mark_func, void *gc_data)
3935 {
3936         gpointer *static_data = (gpointer *)addr;
3937
3938         for (int i = 0; i < NUM_STATIC_DATA_IDX; ++i) {
3939                 void **ptr = (void **)static_data [i];
3940
3941                 if (!ptr)
3942                         continue;
3943
3944                 MONO_BITSET_FOREACH (bitmaps [i], idx, {
3945                         void **p = ptr + idx;
3946
3947                         if (*p)
3948                                 mark_func ((MonoObject**)p, gc_data);
3949                 });
3950         }
3951 }
3952
3953 static void
3954 mark_tls_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
3955 {
3956         mark_slots (addr, thread_reference_bitmaps, mark_func, gc_data);
3957 }
3958
3959 static void
3960 mark_ctx_slots (void *addr, MonoGCMarkFunc mark_func, void *gc_data)
3961 {
3962         mark_slots (addr, context_reference_bitmaps, mark_func, gc_data);
3963 }
3964
3965 /*
3966  *  mono_alloc_static_data
3967  *
3968  *   Allocate memory blocks for storing threads or context static data
3969  */
3970 static void
3971 mono_alloc_static_data (gpointer **static_data_ptr, guint32 offset, gboolean threadlocal)
3972 {
3973         guint idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
3974         int i;
3975
3976         gpointer* static_data = *static_data_ptr;
3977         if (!static_data) {
3978                 static MonoGCDescriptor tls_desc = MONO_GC_DESCRIPTOR_NULL;
3979                 static MonoGCDescriptor ctx_desc = MONO_GC_DESCRIPTOR_NULL;
3980
3981                 if (mono_gc_user_markers_supported ()) {
3982                         if (tls_desc == MONO_GC_DESCRIPTOR_NULL)
3983                                 tls_desc = mono_gc_make_root_descr_user (mark_tls_slots);
3984
3985                         if (ctx_desc == MONO_GC_DESCRIPTOR_NULL)
3986                                 ctx_desc = mono_gc_make_root_descr_user (mark_ctx_slots);
3987                 }
3988
3989                 static_data = (void **)mono_gc_alloc_fixed (static_data_size [0], threadlocal ? tls_desc : ctx_desc,
3990                         threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
3991                         threadlocal ? "managed thread-static variables" : "managed context-static variables");
3992                 *static_data_ptr = static_data;
3993                 static_data [0] = static_data;
3994         }
3995
3996         for (i = 1; i <= idx; ++i) {
3997                 if (static_data [i])
3998                         continue;
3999
4000                 if (mono_gc_user_markers_supported ())
4001                         static_data [i] = g_malloc0 (static_data_size [i]);
4002                 else
4003                         static_data [i] = mono_gc_alloc_fixed (static_data_size [i], MONO_GC_DESCRIPTOR_NULL,
4004                                 threadlocal ? MONO_ROOT_SOURCE_THREAD_STATIC : MONO_ROOT_SOURCE_CONTEXT_STATIC,
4005                                 threadlocal ? "managed thread-static variables" : "managed context-static variables");
4006         }
4007 }
4008
4009 static void
4010 mono_free_static_data (gpointer* static_data)
4011 {
4012         int i;
4013         for (i = 1; i < NUM_STATIC_DATA_IDX; ++i) {
4014                 gpointer p = static_data [i];
4015                 if (!p)
4016                         continue;
4017                 /*
4018                  * At this point, the static data pointer array is still registered with the
4019                  * GC, so must ensure that mark_tls_slots() will not encounter any invalid
4020                  * data.  Freeing the individual arrays without first nulling their slots
4021                  * would make it possible for mark_tls/ctx_slots() to encounter a pointer to
4022                  * such an already freed array.  See bug #13813.
4023                  */
4024                 static_data [i] = NULL;
4025                 mono_memory_write_barrier ();
4026                 if (mono_gc_user_markers_supported ())
4027                         g_free (p);
4028                 else
4029                         mono_gc_free_fixed (p);
4030         }
4031         mono_gc_free_fixed (static_data);
4032 }
4033
4034 /*
4035  *  mono_init_static_data_info
4036  *
4037  *   Initializes static data counters
4038  */
4039 static void mono_init_static_data_info (StaticDataInfo *static_data)
4040 {
4041         static_data->idx = 0;
4042         static_data->offset = 0;
4043         static_data->freelist = NULL;
4044 }
4045
4046 /*
4047  *  mono_alloc_static_data_slot
4048  *
4049  *   Generates an offset for static data. static_data contains the counters
4050  *  used to generate it.
4051  */
4052 static guint32
4053 mono_alloc_static_data_slot (StaticDataInfo *static_data, guint32 size, guint32 align)
4054 {
4055         if (!static_data->idx && !static_data->offset) {
4056                 /*
4057                  * we use the first chunk of the first allocation also as
4058                  * an array for the rest of the data
4059                  */
4060                 static_data->offset = sizeof (gpointer) * NUM_STATIC_DATA_IDX;
4061         }
4062         static_data->offset += align - 1;
4063         static_data->offset &= ~(align - 1);
4064         if (static_data->offset + size >= static_data_size [static_data->idx]) {
4065                 static_data->idx ++;
4066                 g_assert (size <= static_data_size [static_data->idx]);
4067                 g_assert (static_data->idx < NUM_STATIC_DATA_IDX);
4068                 static_data->offset = 0;
4069         }
4070         guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (static_data->idx, static_data->offset, 0);
4071         static_data->offset += size;
4072         return offset;
4073 }
4074
4075 /*
4076  * LOCKING: requires that threads_mutex is held
4077  */
4078 static void
4079 context_adjust_static_data (MonoAppContext *ctx)
4080 {
4081         if (context_static_info.offset || context_static_info.idx > 0) {
4082                 guint32 offset = MAKE_SPECIAL_STATIC_OFFSET (context_static_info.idx, context_static_info.offset, 0);
4083                 mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4084                 ctx->data->static_data = ctx->static_data;
4085         }
4086 }
4087
4088 /*
4089  * LOCKING: requires that threads_mutex is held
4090  */
4091 static void
4092 alloc_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4093 {
4094         MonoInternalThread *thread = (MonoInternalThread *)value;
4095         guint32 offset = GPOINTER_TO_UINT (user);
4096
4097         mono_alloc_static_data (&(thread->static_data), offset, TRUE);
4098 }
4099
4100 /*
4101  * LOCKING: requires that threads_mutex is held
4102  */
4103 static void
4104 alloc_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4105 {
4106         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4107
4108         if (!ctx)
4109                 return;
4110
4111         guint32 offset = GPOINTER_TO_UINT (user);
4112         mono_alloc_static_data (&ctx->static_data, offset, FALSE);
4113         ctx->data->static_data = ctx->static_data;
4114 }
4115
4116 static StaticDataFreeList*
4117 search_slot_in_freelist (StaticDataInfo *static_data, guint32 size, guint32 align)
4118 {
4119         StaticDataFreeList* prev = NULL;
4120         StaticDataFreeList* tmp = static_data->freelist;
4121         while (tmp) {
4122                 if (tmp->size == size) {
4123                         if (prev)
4124                                 prev->next = tmp->next;
4125                         else
4126                                 static_data->freelist = tmp->next;
4127                         return tmp;
4128                 }
4129                 prev = tmp;
4130                 tmp = tmp->next;
4131         }
4132         return NULL;
4133 }
4134
4135 #if SIZEOF_VOID_P == 4
4136 #define ONE_P 1
4137 #else
4138 #define ONE_P 1ll
4139 #endif
4140
4141 static void
4142 update_reference_bitmap (MonoBitSet **sets, guint32 offset, uintptr_t *bitmap, int numbits)
4143 {
4144         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4145         if (!sets [idx])
4146                 sets [idx] = mono_bitset_new (static_data_size [idx] / sizeof (uintptr_t), 0);
4147         MonoBitSet *rb = sets [idx];
4148         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4149         offset /= sizeof (uintptr_t);
4150         /* offset is now the bitmap offset */
4151         for (int i = 0; i < numbits; ++i) {
4152                 if (bitmap [i / sizeof (uintptr_t)] & (ONE_P << (i & (sizeof (uintptr_t) * 8 -1))))
4153                         mono_bitset_set_fast (rb, offset + i);
4154         }
4155 }
4156
4157 static void
4158 clear_reference_bitmap (MonoBitSet **sets, guint32 offset, guint32 size)
4159 {
4160         int idx = ACCESS_SPECIAL_STATIC_OFFSET (offset, index);
4161         MonoBitSet *rb = sets [idx];
4162         offset = ACCESS_SPECIAL_STATIC_OFFSET (offset, offset);
4163         offset /= sizeof (uintptr_t);
4164         /* offset is now the bitmap offset */
4165         for (int i = 0; i < size / sizeof (uintptr_t); i++)
4166                 mono_bitset_clear_fast (rb, offset + i);
4167 }
4168
4169 guint32
4170 mono_alloc_special_static_data (guint32 static_type, guint32 size, guint32 align, uintptr_t *bitmap, int numbits)
4171 {
4172         g_assert (static_type == SPECIAL_STATIC_THREAD || static_type == SPECIAL_STATIC_CONTEXT);
4173
4174         StaticDataInfo *info;
4175         MonoBitSet **sets;
4176
4177         if (static_type == SPECIAL_STATIC_THREAD) {
4178                 info = &thread_static_info;
4179                 sets = thread_reference_bitmaps;
4180         } else {
4181                 info = &context_static_info;
4182                 sets = context_reference_bitmaps;
4183         }
4184
4185         mono_threads_lock ();
4186
4187         StaticDataFreeList *item = search_slot_in_freelist (info, size, align);
4188         guint32 offset;
4189
4190         if (item) {
4191                 offset = item->offset;
4192                 g_free (item);
4193         } else {
4194                 offset = mono_alloc_static_data_slot (info, size, align);
4195         }
4196
4197         update_reference_bitmap (sets, offset, bitmap, numbits);
4198
4199         if (static_type == SPECIAL_STATIC_THREAD) {
4200                 /* This can be called during startup */
4201                 if (threads != NULL)
4202                         mono_g_hash_table_foreach (threads, alloc_thread_static_data_helper, GUINT_TO_POINTER (offset));
4203         } else {
4204                 if (contexts != NULL)
4205                         g_hash_table_foreach (contexts, alloc_context_static_data_helper, GUINT_TO_POINTER (offset));
4206
4207                 ACCESS_SPECIAL_STATIC_OFFSET (offset, type) = SPECIAL_STATIC_OFFSET_TYPE_CONTEXT;
4208         }
4209
4210         mono_threads_unlock ();
4211
4212         return offset;
4213 }
4214
4215 gpointer
4216 mono_get_special_static_data_for_thread (MonoInternalThread *thread, guint32 offset)
4217 {
4218         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4219
4220         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4221                 return get_thread_static_data (thread, offset);
4222         } else {
4223                 return get_context_static_data (thread->current_appcontext, offset);
4224         }
4225 }
4226
4227 gpointer
4228 mono_get_special_static_data (guint32 offset)
4229 {
4230         return mono_get_special_static_data_for_thread (mono_thread_internal_current (), offset);
4231 }
4232
4233 typedef struct {
4234         guint32 offset;
4235         guint32 size;
4236 } OffsetSize;
4237
4238 /*
4239  * LOCKING: requires that threads_mutex is held
4240  */
4241 static void
4242 free_thread_static_data_helper (gpointer key, gpointer value, gpointer user)
4243 {
4244         MonoInternalThread *thread = (MonoInternalThread *)value;
4245         OffsetSize *data = (OffsetSize *)user;
4246         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4247         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4248         char *ptr;
4249
4250         if (!thread->static_data || !thread->static_data [idx])
4251                 return;
4252         ptr = ((char*) thread->static_data [idx]) + off;
4253         mono_gc_bzero_atomic (ptr, data->size);
4254 }
4255
4256 /*
4257  * LOCKING: requires that threads_mutex is held
4258  */
4259 static void
4260 free_context_static_data_helper (gpointer key, gpointer value, gpointer user)
4261 {
4262         MonoAppContext *ctx = (MonoAppContext *) mono_gchandle_get_target (GPOINTER_TO_INT (key));
4263
4264         if (!ctx)
4265                 return;
4266
4267         OffsetSize *data = (OffsetSize *)user;
4268         int idx = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, index);
4269         int off = ACCESS_SPECIAL_STATIC_OFFSET (data->offset, offset);
4270         char *ptr;
4271
4272         if (!ctx->static_data || !ctx->static_data [idx])
4273                 return;
4274
4275         ptr = ((char*) ctx->static_data [idx]) + off;
4276         mono_gc_bzero_atomic (ptr, data->size);
4277 }
4278
4279 static void
4280 do_free_special_slot (guint32 offset, guint32 size)
4281 {
4282         guint32 static_type = ACCESS_SPECIAL_STATIC_OFFSET (offset, type);
4283         MonoBitSet **sets;
4284         StaticDataInfo *info;
4285
4286         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4287                 info = &thread_static_info;
4288                 sets = thread_reference_bitmaps;
4289         } else {
4290                 info = &context_static_info;
4291                 sets = context_reference_bitmaps;
4292         }
4293
4294         guint32 data_offset = offset;
4295         ACCESS_SPECIAL_STATIC_OFFSET (data_offset, type) = 0;
4296         OffsetSize data = { data_offset, size };
4297
4298         clear_reference_bitmap (sets, data.offset, data.size);
4299
4300         if (static_type == SPECIAL_STATIC_OFFSET_TYPE_THREAD) {
4301                 if (threads != NULL)
4302                         mono_g_hash_table_foreach (threads, free_thread_static_data_helper, &data);
4303         } else {
4304                 if (contexts != NULL)
4305                         g_hash_table_foreach (contexts, free_context_static_data_helper, &data);
4306         }
4307
4308         if (!mono_runtime_is_shutting_down ()) {
4309                 StaticDataFreeList *item = g_new0 (StaticDataFreeList, 1);
4310
4311                 item->offset = offset;
4312                 item->size = size;
4313
4314                 item->next = info->freelist;
4315                 info->freelist = item;
4316         }
4317 }
4318
4319 static void
4320 do_free_special (gpointer key, gpointer value, gpointer data)
4321 {
4322         MonoClassField *field = (MonoClassField *)key;
4323         guint32 offset = GPOINTER_TO_UINT (value);
4324         gint32 align;
4325         guint32 size;
4326         size = mono_type_size (field->type, &align);
4327         do_free_special_slot (offset, size);
4328 }
4329
4330 void
4331 mono_alloc_special_static_data_free (GHashTable *special_static_fields)
4332 {
4333         mono_threads_lock ();
4334
4335         g_hash_table_foreach (special_static_fields, do_free_special, NULL);
4336
4337         mono_threads_unlock ();
4338 }
4339
4340 #ifdef HOST_WIN32
4341 static void CALLBACK dummy_apc (ULONG_PTR param)
4342 {
4343 }
4344 #endif
4345
4346 /*
4347  * mono_thread_execute_interruption
4348  *
4349  * Performs the operation that the requested thread state requires (abort,
4350  * suspend or stop)
4351  */
4352 static MonoException*
4353 mono_thread_execute_interruption (void)
4354 {
4355         MonoInternalThread *thread = mono_thread_internal_current ();
4356         MonoThread *sys_thread = mono_thread_current ();
4357
4358         LOCK_THREAD (thread);
4359
4360         /* MonoThread::interruption_requested can only be changed with atomics */
4361         if (InterlockedCompareExchange (&thread->interruption_requested, FALSE, TRUE)) {
4362                 /* this will consume pending APC calls */
4363 #ifdef HOST_WIN32
4364                 WaitForSingleObjectEx (GetCurrentThread(), 0, TRUE);
4365 #endif
4366                 InterlockedDecrement (&thread_interruption_requested);
4367
4368                 /* Clear the interrupted flag of the thread so it can wait again */
4369                 mono_thread_info_clear_self_interrupt ();
4370         }
4371
4372         /* If there's a pending exception and an AbortRequested, the pending exception takes precedence */
4373         if (sys_thread->pending_exception) {
4374                 MonoException *exc;
4375
4376                 exc = sys_thread->pending_exception;
4377                 sys_thread->pending_exception = NULL;
4378
4379                 UNLOCK_THREAD (thread);
4380                 return exc;
4381         } else if ((thread->state & ThreadState_AbortRequested) != 0) {
4382                 UNLOCK_THREAD (thread);
4383                 g_assert (sys_thread->pending_exception == NULL);
4384                 if (thread->abort_exc == NULL) {
4385                         /*
4386                          * This might be racy, but it has to be called outside the lock
4387                          * since it calls managed code.
4388                          */
4389                         MONO_OBJECT_SETREF (thread, abort_exc, mono_get_exception_thread_abort ());
4390                 }
4391                 return thread->abort_exc;
4392         }
4393         else if ((thread->state & ThreadState_SuspendRequested) != 0) {
4394                 /* calls UNLOCK_THREAD (thread) */
4395                 self_suspend_internal ();
4396                 return NULL;
4397         }
4398         else if ((thread->state & ThreadState_StopRequested) != 0) {
4399                 /* FIXME: do this through the JIT? */
4400
4401                 UNLOCK_THREAD (thread);
4402
4403                 mono_thread_exit ();
4404                 return NULL;
4405         } else if (thread->thread_interrupt_requested) {
4406
4407                 thread->thread_interrupt_requested = FALSE;
4408                 UNLOCK_THREAD (thread);
4409
4410                 return(mono_get_exception_thread_interrupted ());
4411         }
4412
4413         UNLOCK_THREAD (thread);
4414
4415         return NULL;
4416 }
4417
4418 /*
4419  * mono_thread_request_interruption
4420  *
4421  * A signal handler can call this method to request the interruption of a
4422  * thread. The result of the interruption will depend on the current state of
4423  * the thread. If the result is an exception that needs to be throw, it is
4424  * provided as return value.
4425  */
4426 MonoException*
4427 mono_thread_request_interruption (gboolean running_managed)
4428 {
4429         MonoInternalThread *thread = mono_thread_internal_current ();
4430
4431         /* The thread may already be stopping */
4432         if (thread == NULL)
4433                 return NULL;
4434
4435 #ifdef HOST_WIN32
4436         if (thread->interrupt_on_stop &&
4437                 thread->state & ThreadState_StopRequested &&
4438                 thread->state & ThreadState_Background)
4439                 ExitThread (1);
4440 #endif
4441         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4442                 return NULL;
4443         InterlockedIncrement (&thread_interruption_requested);
4444
4445         if (!running_managed || is_running_protected_wrapper ()) {
4446                 /* Can't stop while in unmanaged code. Increase the global interruption
4447                    request count. When exiting the unmanaged method the count will be
4448                    checked and the thread will be interrupted. */
4449
4450                 /* this will awake the thread if it is in WaitForSingleObject
4451                    or similar */
4452                 /* Our implementation of this function ignores the func argument */
4453 #ifdef HOST_WIN32
4454                 QueueUserAPC ((PAPCFUNC)dummy_apc, thread->native_handle, (ULONG_PTR)NULL);
4455 #else
4456                 mono_thread_info_self_interrupt ();
4457 #endif
4458                 return NULL;
4459         }
4460         else {
4461                 return mono_thread_execute_interruption ();
4462         }
4463 }
4464
4465 /*This function should be called by a thread after it has exited all of
4466  * its handle blocks at interruption time.*/
4467 MonoException*
4468 mono_thread_resume_interruption (void)
4469 {
4470         MonoInternalThread *thread = mono_thread_internal_current ();
4471         gboolean still_aborting;
4472
4473         /* The thread may already be stopping */
4474         if (thread == NULL)
4475                 return NULL;
4476
4477         LOCK_THREAD (thread);
4478         still_aborting = (thread->state & (ThreadState_AbortRequested|ThreadState_StopRequested)) != 0;
4479         UNLOCK_THREAD (thread);
4480
4481         /*This can happen if the protected block called Thread::ResetAbort*/
4482         if (!still_aborting)
4483                 return FALSE;
4484
4485         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4486                 return NULL;
4487         InterlockedIncrement (&thread_interruption_requested);
4488
4489         mono_thread_info_self_interrupt ();
4490
4491         return mono_thread_execute_interruption ();
4492 }
4493
4494 gboolean mono_thread_interruption_requested ()
4495 {
4496         if (thread_interruption_requested) {
4497                 MonoInternalThread *thread = mono_thread_internal_current ();
4498                 /* The thread may already be stopping */
4499                 if (thread != NULL)
4500                         return (thread->interruption_requested);
4501         }
4502         return FALSE;
4503 }
4504
4505 static MonoException*
4506 mono_thread_interruption_checkpoint_request (gboolean bypass_abort_protection)
4507 {
4508         MonoInternalThread *thread = mono_thread_internal_current ();
4509
4510         /* The thread may already be stopping */
4511         if (!thread)
4512                 return NULL;
4513         if (!thread->interruption_requested)
4514                 return NULL;
4515         if (!bypass_abort_protection && is_running_protected_wrapper ())
4516                 return NULL;
4517
4518         return mono_thread_execute_interruption ();
4519 }
4520
4521 /*
4522  * Performs the interruption of the current thread, if one has been requested,
4523  * and the thread is not running a protected wrapper.
4524  * Return the exception which needs to be thrown, if any.
4525  */
4526 MonoException*
4527 mono_thread_interruption_checkpoint (void)
4528 {
4529         return mono_thread_interruption_checkpoint_request (FALSE);
4530 }
4531
4532 /*
4533  * Performs the interruption of the current thread, if one has been requested.
4534  * Return the exception which needs to be thrown, if any.
4535  */
4536 MonoException*
4537 mono_thread_force_interruption_checkpoint_noraise (void)
4538 {
4539         return mono_thread_interruption_checkpoint_request (TRUE);
4540 }
4541
4542 /*
4543  * mono_set_pending_exception:
4544  *
4545  *   Set the pending exception of the current thread to EXC.
4546  * The exception will be thrown when execution returns to managed code.
4547  */
4548 void
4549 mono_set_pending_exception (MonoException *exc)
4550 {
4551         MonoThread *thread = mono_thread_current ();
4552
4553         /* The thread may already be stopping */
4554         if (thread == NULL)
4555                 return;
4556
4557         MONO_OBJECT_SETREF (thread, pending_exception, exc);
4558
4559     mono_thread_request_interruption (FALSE);
4560 }
4561
4562 /**
4563  * mono_thread_interruption_request_flag:
4564  *
4565  * Returns the address of a flag that will be non-zero if an interruption has
4566  * been requested for a thread. The thread to interrupt may not be the current
4567  * thread, so an additional call to mono_thread_interruption_requested() or
4568  * mono_thread_interruption_checkpoint() is allways needed if the flag is not
4569  * zero.
4570  */
4571 gint32* mono_thread_interruption_request_flag ()
4572 {
4573         return &thread_interruption_requested;
4574 }
4575
4576 void
4577 mono_thread_init_apartment_state (void)
4578 {
4579 #ifdef HOST_WIN32
4580         MonoInternalThread* thread = mono_thread_internal_current ();
4581
4582         /* Positive return value indicates success, either
4583          * S_OK if this is first CoInitialize call, or
4584          * S_FALSE if CoInitialize already called, but with same
4585          * threading model. A negative value indicates failure,
4586          * probably due to trying to change the threading model.
4587          */
4588         if (CoInitializeEx(NULL, (thread->apartment_state == ThreadApartmentState_STA)
4589                         ? COINIT_APARTMENTTHREADED
4590                         : COINIT_MULTITHREADED) < 0) {
4591                 thread->apartment_state = ThreadApartmentState_Unknown;
4592         }
4593 #endif
4594 }
4595
4596 void
4597 mono_thread_cleanup_apartment_state (void)
4598 {
4599 #ifdef HOST_WIN32
4600         MonoInternalThread* thread = mono_thread_internal_current ();
4601
4602         if (thread && thread->apartment_state != ThreadApartmentState_Unknown) {
4603                 CoUninitialize ();
4604         }
4605 #endif
4606 }
4607
4608 void
4609 mono_thread_set_state (MonoInternalThread *thread, MonoThreadState state)
4610 {
4611         LOCK_THREAD (thread);
4612         thread->state |= state;
4613         UNLOCK_THREAD (thread);
4614 }
4615
4616 /**
4617  * mono_thread_test_and_set_state:
4618  *
4619  * Test if current state of @thread include @test. If it does not, OR @set into the state.
4620  *
4621  * Returns TRUE is @set was OR'd in.
4622  */
4623 gboolean
4624 mono_thread_test_and_set_state (MonoInternalThread *thread, MonoThreadState test, MonoThreadState set)
4625 {
4626         LOCK_THREAD (thread);
4627
4628         if ((thread->state & test) != 0) {
4629                 UNLOCK_THREAD (thread);
4630                 return FALSE;
4631         }
4632
4633         thread->state |= set;
4634         UNLOCK_THREAD (thread);
4635
4636         return TRUE;
4637 }
4638
4639 void
4640 mono_thread_clr_state (MonoInternalThread *thread, MonoThreadState state)
4641 {
4642         LOCK_THREAD (thread);
4643         thread->state &= ~state;
4644         UNLOCK_THREAD (thread);
4645 }
4646
4647 gboolean
4648 mono_thread_test_state (MonoInternalThread *thread, MonoThreadState test)
4649 {
4650         gboolean ret = FALSE;
4651
4652         LOCK_THREAD (thread);
4653
4654         if ((thread->state & test) != 0) {
4655                 ret = TRUE;
4656         }
4657
4658         UNLOCK_THREAD (thread);
4659
4660         return ret;
4661 }
4662
4663 static gboolean has_tls_get = FALSE;
4664
4665 void
4666 mono_runtime_set_has_tls_get (gboolean val)
4667 {
4668         has_tls_get = val;
4669 }
4670
4671 gboolean
4672 mono_runtime_has_tls_get (void)
4673 {
4674         return has_tls_get;
4675 }
4676
4677 static void
4678 self_interrupt_thread (void *_unused)
4679 {
4680         MonoException *exc;
4681         MonoThreadInfo *info;
4682
4683         exc = mono_thread_execute_interruption ();
4684         if (!exc) {
4685                 if (mono_threads_is_coop_enabled ()) {
4686                         /* We can return from an async call in coop, as
4687                          * it's simply called when exiting the safepoint */
4688                         return;
4689                 }
4690
4691                 g_error ("%s: we can't resume from an async call", __func__);
4692         }
4693
4694         info = mono_thread_info_current ();
4695
4696         /* We must use _with_context since we didn't trampoline into the runtime */
4697         mono_raise_exception_with_context (exc, &info->thread_saved_state [ASYNC_SUSPEND_STATE_INDEX].ctx); /* FIXME using thread_saved_state [ASYNC_SUSPEND_STATE_INDEX] can race with another suspend coming in. */
4698 }
4699
4700 static gboolean
4701 mono_jit_info_match (MonoJitInfo *ji, gpointer ip)
4702 {
4703         if (!ji)
4704                 return FALSE;
4705         return ji->code_start <= ip && (char*)ip < (char*)ji->code_start + ji->code_size;
4706 }
4707
4708 static gboolean
4709 last_managed (MonoStackFrameInfo *frame, MonoContext *ctx, gpointer data)
4710 {
4711         MonoJitInfo **dest = (MonoJitInfo **)data;
4712         *dest = frame->ji;
4713         return TRUE;
4714 }
4715
4716 static MonoJitInfo*
4717 mono_thread_info_get_last_managed (MonoThreadInfo *info)
4718 {
4719         MonoJitInfo *ji = NULL;
4720         if (!info)
4721                 return NULL;
4722
4723         /*
4724          * The suspended thread might be holding runtime locks. Make sure we don't try taking
4725          * any runtime locks while unwinding. In coop case we shouldn't safepoint in regions
4726          * where we hold runtime locks.
4727          */
4728         if (!mono_threads_is_coop_enabled ())
4729                 mono_thread_info_set_is_async_context (TRUE);
4730         mono_get_eh_callbacks ()->mono_walk_stack_with_state (last_managed, mono_thread_info_get_suspend_state (info), MONO_UNWIND_SIGNAL_SAFE, &ji);
4731         if (!mono_threads_is_coop_enabled ())
4732                 mono_thread_info_set_is_async_context (FALSE);
4733         return ji;
4734 }
4735
4736 typedef struct {
4737         MonoInternalThread *thread;
4738         gboolean install_async_abort;
4739         MonoThreadInfoInterruptToken *interrupt_token;
4740 } AbortThreadData;
4741
4742 static SuspendThreadResult
4743 async_abort_critical (MonoThreadInfo *info, gpointer ud)
4744 {
4745         AbortThreadData *data = (AbortThreadData *)ud;
4746         MonoInternalThread *thread = data->thread;
4747         MonoJitInfo *ji = NULL;
4748         gboolean protected_wrapper;
4749         gboolean running_managed;
4750
4751         if (mono_get_eh_callbacks ()->mono_install_handler_block_guard (mono_thread_info_get_suspend_state (info)))
4752                 return MonoResumeThread;
4753
4754         /*
4755         The target thread is running at least one protected block, which must not be interrupted, so we give up.
4756         The protected block code will give them a chance when appropriate.
4757         */
4758         if (thread->abort_protected_block_count)
4759                 return MonoResumeThread;
4760
4761         /*someone is already interrupting it*/
4762         if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 1)
4763                 return MonoResumeThread;
4764
4765         InterlockedIncrement (&thread_interruption_requested);
4766
4767         ji = mono_thread_info_get_last_managed (info);
4768         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4769         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4770
4771         if (!protected_wrapper && running_managed) {
4772                 /*We are in managed code*/
4773                 /*Set the thread to call */
4774                 if (data->install_async_abort)
4775                         mono_thread_info_setup_async_call (info, self_interrupt_thread, NULL);
4776                 return MonoResumeThread;
4777         } else {
4778                 /*
4779                  * This will cause waits to be broken.
4780                  * It will also prevent the thread from entering a wait, so if the thread returns
4781                  * from the wait before it receives the abort signal, it will just spin in the wait
4782                  * functions in the io-layer until the signal handler calls QueueUserAPC which will
4783                  * make it return.
4784                  */
4785                 data->interrupt_token = mono_thread_info_prepare_interrupt (info);
4786
4787                 return MonoResumeThread;
4788         }
4789 }
4790
4791 static void
4792 async_abort_internal (MonoInternalThread *thread, gboolean install_async_abort)
4793 {
4794         AbortThreadData data;
4795
4796         g_assert (thread != mono_thread_internal_current ());
4797
4798         data.thread = thread;
4799         data.install_async_abort = install_async_abort;
4800         data.interrupt_token = NULL;
4801
4802         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), TRUE, async_abort_critical, &data);
4803         if (data.interrupt_token)
4804                 mono_thread_info_finish_interrupt (data.interrupt_token);
4805         /*FIXME we need to wait for interruption to complete -- figure out how much into interruption we should wait for here*/
4806 }
4807
4808 static void
4809 self_abort_internal (MonoError *error)
4810 {
4811         MonoException *exc;
4812
4813         mono_error_init (error);
4814
4815         /* FIXME this is insanely broken, it doesn't cause interruption to happen synchronously
4816          * since passing FALSE to mono_thread_request_interruption makes sure it returns NULL */
4817
4818         /*
4819         Self aborts ignore the protected block logic and raise the TAE regardless. This is verified by one of the tests in mono/tests/abort-cctor.cs.
4820         */
4821         exc = mono_thread_request_interruption (TRUE);
4822         if (exc)
4823                 mono_error_set_exception_instance (error, exc);
4824         else
4825                 mono_thread_info_self_interrupt ();
4826 }
4827
4828 typedef struct {
4829         MonoInternalThread *thread;
4830         gboolean interrupt;
4831         MonoThreadInfoInterruptToken *interrupt_token;
4832 } SuspendThreadData;
4833
4834 static SuspendThreadResult
4835 async_suspend_critical (MonoThreadInfo *info, gpointer ud)
4836 {
4837         SuspendThreadData *data = (SuspendThreadData *)ud;
4838         MonoInternalThread *thread = data->thread;
4839         MonoJitInfo *ji = NULL;
4840         gboolean protected_wrapper;
4841         gboolean running_managed;
4842
4843         ji = mono_thread_info_get_last_managed (info);
4844         protected_wrapper = ji && !ji->is_trampoline && !ji->async && mono_threads_is_critical_method (mono_jit_info_get_method (ji));
4845         running_managed = mono_jit_info_match (ji, MONO_CONTEXT_GET_IP (&mono_thread_info_get_suspend_state (info)->ctx));
4846
4847         if (running_managed && !protected_wrapper) {
4848                 if (mono_threads_is_coop_enabled ()) {
4849                         mono_thread_info_setup_async_call (info, self_interrupt_thread, NULL);
4850                         return MonoResumeThread;
4851                 } else {
4852                         thread->state &= ~ThreadState_SuspendRequested;
4853                         thread->state |= ThreadState_Suspended;
4854                         return KeepSuspended;
4855                 }
4856         } else {
4857                 if (InterlockedCompareExchange (&thread->interruption_requested, 1, 0) == 0)
4858                         InterlockedIncrement (&thread_interruption_requested);
4859                 if (data->interrupt)
4860                         data->interrupt_token = mono_thread_info_prepare_interrupt ((MonoThreadInfo *)thread->thread_info);
4861
4862                 return MonoResumeThread;
4863         }
4864 }
4865
4866 /* LOCKING: called with @thread synch_cs held, and releases it */
4867 static void
4868 async_suspend_internal (MonoInternalThread *thread, gboolean interrupt)
4869 {
4870         SuspendThreadData data;
4871
4872         g_assert (thread != mono_thread_internal_current ());
4873
4874         // MOSTLY_ASYNC_SAFE_PRINTF ("ASYNC SUSPEND thread %p\n", thread_get_tid (thread));
4875
4876         thread->self_suspended = FALSE;
4877
4878         data.thread = thread;
4879         data.interrupt = interrupt;
4880         data.interrupt_token = NULL;
4881
4882         mono_thread_info_safe_suspend_and_run (thread_get_tid (thread), interrupt, async_suspend_critical, &data);
4883         if (data.interrupt_token)
4884                 mono_thread_info_finish_interrupt (data.interrupt_token);
4885
4886         UNLOCK_THREAD (thread);
4887 }
4888
4889 /* LOCKING: called with @thread synch_cs held, and releases it */
4890 static void
4891 self_suspend_internal (void)
4892 {
4893         MonoInternalThread *thread;
4894         MonoOSEvent *event;
4895         MonoOSEventWaitRet res;
4896
4897         thread = mono_thread_internal_current ();
4898
4899         // MOSTLY_ASYNC_SAFE_PRINTF ("SELF SUSPEND thread %p\n", thread_get_tid (thread));
4900
4901         thread->self_suspended = TRUE;
4902
4903         thread->state &= ~ThreadState_SuspendRequested;
4904         thread->state |= ThreadState_Suspended;
4905
4906         UNLOCK_THREAD (thread);
4907
4908         event = thread->suspended;
4909
4910         MONO_ENTER_GC_SAFE;
4911         res = mono_os_event_wait_one (event, MONO_INFINITE_WAIT);
4912         g_assert (res == MONO_OS_EVENT_WAIT_RET_SUCCESS_0 || res == MONO_OS_EVENT_WAIT_RET_ALERTED);
4913         MONO_EXIT_GC_SAFE;
4914 }
4915
4916 /*
4917  * mono_thread_is_foreign:
4918  * @thread: the thread to query
4919  *
4920  * This function allows one to determine if a thread was created by the mono runtime and has
4921  * a well defined lifecycle or it's a foreigh one, created by the native environment.
4922  *
4923  * Returns: TRUE if @thread was not created by the runtime.
4924  */
4925 mono_bool
4926 mono_thread_is_foreign (MonoThread *thread)
4927 {
4928         MonoThreadInfo *info = (MonoThreadInfo *)thread->internal_thread->thread_info;
4929         return info->runtime_thread == FALSE;
4930 }
4931
4932 /*
4933  * mono_add_joinable_thread:
4934  *
4935  *   Add TID to the list of joinable threads.
4936  * LOCKING: Acquires the threads lock.
4937  */
4938 void
4939 mono_threads_add_joinable_thread (gpointer tid)
4940 {
4941 #ifndef HOST_WIN32
4942         /*
4943          * We cannot detach from threads because it causes problems like
4944          * 2fd16f60/r114307. So we collect them and join them when
4945          * we have time (in he finalizer thread).
4946          */
4947         joinable_threads_lock ();
4948         if (!joinable_threads)
4949                 joinable_threads = g_hash_table_new (NULL, NULL);
4950         g_hash_table_insert (joinable_threads, tid, tid);
4951         joinable_thread_count ++;
4952         joinable_threads_unlock ();
4953
4954         mono_gc_finalize_notify ();
4955 #endif
4956 }
4957
4958 /*
4959  * mono_threads_join_threads:
4960  *
4961  *   Join all joinable threads. This is called from the finalizer thread.
4962  * LOCKING: Acquires the threads lock.
4963  */
4964 void
4965 mono_threads_join_threads (void)
4966 {
4967 #ifndef HOST_WIN32
4968         GHashTableIter iter;
4969         gpointer key;
4970         gpointer tid;
4971         pthread_t thread;
4972         gboolean found;
4973
4974         /* Fastpath */
4975         if (!joinable_thread_count)
4976                 return;
4977
4978         while (TRUE) {
4979                 joinable_threads_lock ();
4980                 found = FALSE;
4981                 if (g_hash_table_size (joinable_threads)) {
4982                         g_hash_table_iter_init (&iter, joinable_threads);
4983                         g_hash_table_iter_next (&iter, &key, (void**)&tid);
4984                         thread = (pthread_t)tid;
4985                         g_hash_table_remove (joinable_threads, key);
4986                         joinable_thread_count --;
4987                         found = TRUE;
4988                 }
4989                 joinable_threads_unlock ();
4990                 if (found) {
4991                         if (thread != pthread_self ()) {
4992                                 MONO_ENTER_GC_SAFE;
4993                                 /* This shouldn't block */
4994                                 mono_native_thread_join (thread);
4995                                 MONO_EXIT_GC_SAFE;
4996                         }
4997                 } else {
4998                         break;
4999                 }
5000         }
5001 #endif
5002 }
5003
5004 /*
5005  * mono_thread_join:
5006  *
5007  *   Wait for thread TID to exit.
5008  * LOCKING: Acquires the threads lock.
5009  */
5010 void
5011 mono_thread_join (gpointer tid)
5012 {
5013 #ifndef HOST_WIN32
5014         pthread_t thread;
5015         gboolean found = FALSE;
5016
5017         joinable_threads_lock ();
5018         if (!joinable_threads)
5019                 joinable_threads = g_hash_table_new (NULL, NULL);
5020         if (g_hash_table_lookup (joinable_threads, tid)) {
5021                 g_hash_table_remove (joinable_threads, tid);
5022                 joinable_thread_count --;
5023                 found = TRUE;
5024         }
5025         joinable_threads_unlock ();
5026         if (!found)
5027                 return;
5028         thread = (pthread_t)tid;
5029         MONO_ENTER_GC_SAFE;
5030         mono_native_thread_join (thread);
5031         MONO_EXIT_GC_SAFE;
5032 #endif
5033 }
5034
5035 void
5036 mono_thread_internal_check_for_interruption_critical (MonoInternalThread *thread)
5037 {
5038         if ((thread->state & (ThreadState_StopRequested | ThreadState_SuspendRequested)) != 0)
5039                 mono_thread_interruption_checkpoint ();
5040 }
5041
5042 void
5043 mono_thread_internal_unhandled_exception (MonoObject* exc)
5044 {
5045         MonoClass *klass = exc->vtable->klass;
5046         if (is_threadabort_exception (klass)) {
5047                 mono_thread_internal_reset_abort (mono_thread_internal_current ());
5048         } else if (!is_appdomainunloaded_exception (klass)
5049                 && mono_runtime_unhandled_exception_policy_get () == MONO_UNHANDLED_POLICY_CURRENT) {
5050                 mono_unhandled_exception (exc);
5051                 if (mono_environment_exitcode_get () == 1) {
5052                         mono_environment_exitcode_set (255);
5053                         mono_invoke_unhandled_exception_hook (exc);
5054                         g_assert_not_reached ();
5055                 }
5056         }
5057 }
5058
5059 void
5060 ves_icall_System_Threading_Thread_GetStackTraces (MonoArray **out_threads, MonoArray **out_stack_traces)
5061 {
5062         MonoError error;
5063         mono_threads_get_thread_dump (out_threads, out_stack_traces, &error);
5064         mono_error_set_pending_exception (&error);
5065 }
5066
5067 /*
5068  * mono_threads_attach_coop: called by native->managed wrappers
5069  *
5070  * In non-coop mode:
5071  *  - @dummy: is NULL
5072  *  - @return: the original domain which needs to be restored, or NULL.
5073  *
5074  * In coop mode:
5075  *  - @dummy: contains the original domain
5076  *  - @return: a cookie containing current MonoThreadInfo*.
5077  */
5078 gpointer
5079 mono_threads_attach_coop (MonoDomain *domain, gpointer *dummy)
5080 {
5081         MonoDomain *orig;
5082         gboolean fresh_thread = FALSE;
5083
5084         if (!domain) {
5085                 /* Happens when called from AOTed code which is only used in the root domain. */
5086                 domain = mono_get_root_domain ();
5087         }
5088
5089         g_assert (domain);
5090
5091         /* On coop, when we detached, we moved the thread from  RUNNING->BLOCKING.
5092          * If we try to reattach we do a BLOCKING->RUNNING transition.  If the thread
5093          * is fresh, mono_thread_attach() will do a STARTING->RUNNING transition so
5094          * we're only responsible for making the cookie. */
5095         if (mono_threads_is_coop_enabled ()) {
5096                 MonoThreadInfo *info = mono_thread_info_current_unchecked ();
5097                 fresh_thread = !info || !mono_thread_info_is_live (info);
5098         }
5099
5100         if (!mono_thread_internal_current ()) {
5101                 mono_thread_attach_full (domain, FALSE);
5102
5103                 // #678164
5104                 mono_thread_set_state (mono_thread_internal_current (), ThreadState_Background);
5105         }
5106
5107         orig = mono_domain_get ();
5108         if (orig != domain)
5109                 mono_domain_set (domain, TRUE);
5110
5111         if (!mono_threads_is_coop_enabled ())
5112                 return orig != domain ? orig : NULL;
5113
5114         if (fresh_thread) {
5115                 *dummy = NULL;
5116                 /* mono_thread_attach put the thread in RUNNING mode from STARTING, but we need to
5117                  * return the right cookie. */
5118                 return mono_threads_enter_gc_unsafe_region_cookie ();
5119         } else {
5120                 *dummy = orig;
5121                 /* thread state (BLOCKING|RUNNING) -> RUNNING */
5122                 return mono_threads_enter_gc_unsafe_region (dummy);
5123         }
5124 }
5125
5126 /*
5127  * mono_threads_detach_coop: called by native->managed wrappers
5128  *
5129  * In non-coop mode:
5130  *  - @cookie: the original domain which needs to be restored, or NULL.
5131  *  - @dummy: is NULL
5132  *
5133  * In coop mode:
5134  *  - @cookie: contains current MonoThreadInfo* if it was in BLOCKING mode, NULL otherwise
5135  *  - @dummy: contains the original domain
5136  */
5137 void
5138 mono_threads_detach_coop (gpointer cookie, gpointer *dummy)
5139 {
5140         MonoDomain *domain, *orig;
5141
5142         if (!mono_threads_is_coop_enabled ()) {
5143                 orig = (MonoDomain*) cookie;
5144                 if (orig)
5145                         mono_domain_set (orig, TRUE);
5146         } else {
5147                 orig = (MonoDomain*) *dummy;
5148
5149                 domain = mono_domain_get ();
5150                 g_assert (domain);
5151
5152                 /* it won't do anything if cookie is NULL
5153                  * thread state RUNNING -> (RUNNING|BLOCKING) */
5154                 mono_threads_exit_gc_unsafe_region (cookie, dummy);
5155
5156                 if (orig != domain) {
5157                         if (!orig)
5158                                 mono_domain_unset ();
5159                         else
5160                                 mono_domain_set (orig, TRUE);
5161                 }
5162         }
5163 }
5164
5165 void
5166 mono_threads_begin_abort_protected_block (void)
5167 {
5168         MonoInternalThread *thread;
5169
5170         thread = mono_thread_internal_current ();
5171         ++thread->abort_protected_block_count;
5172         mono_memory_barrier ();
5173 }
5174
5175 void
5176 mono_threads_end_abort_protected_block (void)
5177 {
5178         MonoInternalThread *thread;
5179
5180         thread = mono_thread_internal_current ();
5181
5182         mono_memory_barrier ();
5183         --thread->abort_protected_block_count;
5184 }
5185
5186 MonoException*
5187 mono_thread_try_resume_interruption (void)
5188 {
5189         MonoInternalThread *thread;
5190
5191         thread = mono_thread_internal_current ();
5192         if (thread->abort_protected_block_count || mono_get_eh_callbacks ()->mono_current_thread_has_handle_block_guard ())
5193                 return NULL;
5194
5195         return mono_thread_resume_interruption ();
5196 }
5197
5198 #if 0
5199 /* Returns TRUE if the current thread is ready to be interrupted. */
5200 gboolean
5201 mono_threads_is_ready_to_be_interrupted (void)
5202 {
5203         MonoInternalThread *thread;
5204
5205         thread = mono_thread_internal_current ();
5206         LOCK_THREAD (thread);
5207         if (thread->state & (MonoThreadState)(ThreadState_StopRequested | ThreadState_SuspendRequested | ThreadState_AbortRequested)) {
5208                 UNLOCK_THREAD (thread);
5209                 return FALSE;
5210         }
5211
5212         if (thread->abort_protected_block_count || mono_get_eh_callbacks ()->mono_current_thread_has_handle_block_guard ()) {
5213                 UNLOCK_THREAD (thread);
5214                 return FALSE;
5215         }
5216
5217         UNLOCK_THREAD (thread);
5218         return TRUE;
5219 }
5220 #endif
5221
5222 void
5223 mono_thread_internal_describe (MonoInternalThread *internal, GString *text)
5224 {
5225         g_string_append_printf (text, ", thread handle : %p", internal->handle);
5226
5227         if (internal->thread_info) {
5228                 g_string_append (text, ", state : ");
5229                 mono_thread_info_describe_interrupt_token ((MonoThreadInfo*) internal->thread_info, text);
5230         }
5231
5232         if (internal->owned_mutexes) {
5233                 int i;
5234
5235                 g_string_append (text, ", owns : [");
5236                 for (i = 0; i < internal->owned_mutexes->len; i++)
5237                         g_string_append_printf (text, i == 0 ? "%p" : ", %p", g_ptr_array_index (internal->owned_mutexes, i));
5238                 g_string_append (text, "]");
5239         }
5240 }
5241
5242 gboolean
5243 mono_thread_internal_is_current (MonoInternalThread *internal)
5244 {
5245         g_assert (internal);
5246         return mono_native_thread_id_equals (mono_native_thread_id_get (), MONO_UINT_TO_NATIVE_THREAD_ID (internal->tid));
5247 }