projects / mono.git / blobdiff
? search:
summary | shortlog | log | commit | commitdiff | tree
raw | inline | side by side
[sgen] Separate concurrent M&S object operations into start, concurrent, finish.
[mono.git] / mono / metadata / sgen-gray.h
diff --git a/mono/metadata/sgen-gray.h b/mono/metadata/sgen-gray.h
index 42c3b54fdcef7b8c37de8d7bcc5fe85b37458a1d..f222c55b9070885f20868f626a4bbb43c5d35561 100644 (file)
--- a/mono/metadata/sgen-gray.h
+++ b/mono/metadata/sgen-gray.h
@@ -68,21 +68,13 @@ typedef enum {
 } GrayQueueSectionState;
 #endif
 
-#define SGEN_GRAY_QUEUE_HAVE_DESCRIPTORS
-
 typedef struct _GrayQueueEntry GrayQueueEntry;
 struct _GrayQueueEntry {
        char *obj;
-#ifdef SGEN_GRAY_QUEUE_HAVE_DESCRIPTORS
        mword desc;
-#endif
 };
 
-#ifdef SGEN_GRAY_QUEUE_HAVE_DESCRIPTORS
 #define SGEN_GRAY_QUEUE_ENTRY(obj,desc)        { (obj), (desc) }
-#else
-#define SGEN_GRAY_QUEUE_ENTRY(obj,desc) { (obj) }
-#endif
 
 /*
  * This is a stack now instead of a queue, so the most recently added items are removed
@@ -108,8 +100,6 @@ typedef struct _SgenGrayQueue SgenGrayQueue;
 typedef void (*GrayQueueAllocPrepareFunc) (SgenGrayQueue*);
 typedef void (*GrayQueueEnqueueCheckFunc) (char*);
 
-#define SGEN_GRAY_QUEUE_PREFETCH_SIZE (2)
-
 struct _SgenGrayQueue {
        GrayQueueEntry *cursor;
        GrayQueueSection *first;
@@ -119,8 +109,6 @@ struct _SgenGrayQueue {
        GrayQueueEnqueueCheckFunc enqueue_check_func;
 #endif
        void *alloc_prepare_data;
-       GrayQueueEntry prefetch [SGEN_GRAY_QUEUE_PREFETCH_SIZE];
-       GrayQueueEntry *prefetch_cursor;
 };
 
 typedef struct _SgenSectionGrayQueue SgenSectionGrayQueue;
@@ -138,36 +126,36 @@ struct _SgenSectionGrayQueue {
 #define GRAY_FIRST_CURSOR_POSITION(s) ((s)->entries)
 
 #ifdef HEAVY_STATISTICS
-extern unsigned long long stat_gray_queue_section_alloc;
-extern unsigned long long stat_gray_queue_section_free;
-extern unsigned long long stat_gray_queue_enqueue_fast_path;
-extern unsigned long long stat_gray_queue_dequeue_fast_path;
-extern unsigned long long stat_gray_queue_enqueue_slow_path;
-extern unsigned long long stat_gray_queue_dequeue_slow_path;
-#endif
-
-void sgen_init_gray_queues (void) MONO_INTERNAL;
-
-void sgen_gray_object_enqueue (SgenGrayQueue *queue, char *obj, mword desc) MONO_INTERNAL;
-GrayQueueEntry sgen_gray_object_dequeue (SgenGrayQueue *queue) MONO_INTERNAL;
-GrayQueueSection* sgen_gray_object_dequeue_section (SgenGrayQueue *queue) MONO_INTERNAL;
-void sgen_gray_object_enqueue_section (SgenGrayQueue *queue, GrayQueueSection *section) MONO_INTERNAL;
-void sgen_gray_object_queue_trim_free_list (SgenGrayQueue *queue) MONO_INTERNAL;
-void sgen_gray_object_queue_init (SgenGrayQueue *queue, GrayQueueEnqueueCheckFunc enqueue_check_func) MONO_INTERNAL;
-void sgen_gray_object_queue_init_invalid (SgenGrayQueue *queue) MONO_INTERNAL;
-void sgen_gray_queue_set_alloc_prepare (SgenGrayQueue *queue, GrayQueueAllocPrepareFunc alloc_prepare_func, void *data) MONO_INTERNAL;
+extern guint64 stat_gray_queue_section_alloc;
+extern guint64 stat_gray_queue_section_free;
+extern guint64 stat_gray_queue_enqueue_fast_path;
+extern guint64 stat_gray_queue_dequeue_fast_path;
+extern guint64 stat_gray_queue_enqueue_slow_path;
+extern guint64 stat_gray_queue_dequeue_slow_path;
+#endif
+
+void sgen_init_gray_queues (void);
+
+void sgen_gray_object_enqueue (SgenGrayQueue *queue, char *obj, mword desc);
+GrayQueueEntry sgen_gray_object_dequeue (SgenGrayQueue *queue);
+GrayQueueSection* sgen_gray_object_dequeue_section (SgenGrayQueue *queue);
+void sgen_gray_object_enqueue_section (SgenGrayQueue *queue, GrayQueueSection *section);
+void sgen_gray_object_queue_trim_free_list (SgenGrayQueue *queue);
+void sgen_gray_object_queue_init (SgenGrayQueue *queue, GrayQueueEnqueueCheckFunc enqueue_check_func);
+void sgen_gray_object_queue_init_invalid (SgenGrayQueue *queue);
+void sgen_gray_queue_set_alloc_prepare (SgenGrayQueue *queue, GrayQueueAllocPrepareFunc alloc_prepare_func, void *data);
 void sgen_gray_object_queue_init_with_alloc_prepare (SgenGrayQueue *queue, GrayQueueEnqueueCheckFunc enqueue_check_func,
-               GrayQueueAllocPrepareFunc func, void *data) MONO_INTERNAL;
-void sgen_gray_object_queue_deinit (SgenGrayQueue *queue) MONO_INTERNAL;
-void sgen_gray_object_queue_disable_alloc_prepare (SgenGrayQueue *queue) MONO_INTERNAL;
-void sgen_gray_object_alloc_queue_section (SgenGrayQueue *queue) MONO_INTERNAL;
-void sgen_gray_object_free_queue_section (GrayQueueSection *section) MONO_INTERNAL;
+               GrayQueueAllocPrepareFunc func, void *data);
+void sgen_gray_object_queue_deinit (SgenGrayQueue *queue);
+void sgen_gray_object_queue_disable_alloc_prepare (SgenGrayQueue *queue);
+void sgen_gray_object_alloc_queue_section (SgenGrayQueue *queue);
+void sgen_gray_object_free_queue_section (GrayQueueSection *section);
 
 void sgen_section_gray_queue_init (SgenSectionGrayQueue *queue, gboolean locked,
-               GrayQueueEnqueueCheckFunc enqueue_check_func) MONO_INTERNAL;
-gboolean sgen_section_gray_queue_is_empty (SgenSectionGrayQueue *queue) MONO_INTERNAL;
-GrayQueueSection* sgen_section_gray_queue_dequeue (SgenSectionGrayQueue *queue) MONO_INTERNAL;
-void sgen_section_gray_queue_enqueue (SgenSectionGrayQueue *queue, GrayQueueSection *section) MONO_INTERNAL;
+               GrayQueueEnqueueCheckFunc enqueue_check_func);
+gboolean sgen_section_gray_queue_is_empty (SgenSectionGrayQueue *queue);
+GrayQueueSection* sgen_section_gray_queue_dequeue (SgenSectionGrayQueue *queue);
+void sgen_section_gray_queue_enqueue (SgenSectionGrayQueue *queue, GrayQueueSection *section);
 
 gboolean sgen_gray_object_fill_prefetch (SgenGrayQueue *queue);
 
@@ -203,33 +191,24 @@ GRAY_OBJECT_DEQUEUE (SgenGrayQueue *queue, char** obj, mword *desc)
 {
        GrayQueueEntry entry;
 #if SGEN_MAX_DEBUG_LEVEL >= 9
-       entry = sgen_gray_object_enqueue (queue);
+       entry = sgen_gray_object_dequeue (queue);
        *obj = entry.obj;
-#ifdef SGEN_GRAY_QUEUE_HAVE_DESCRIPTORS
        *desc = entry.desc;
-#endif
 #else
        if (!queue->first) {
                HEAVY_STAT (stat_gray_queue_dequeue_fast_path ++);
 
                *obj = NULL;
-#ifdef SGEN_HEAVY_BINARY_PROTOCOL
-               binary_protocol_gray_dequeue (queue, queue->cursor, *obj);
-#endif
        } else if (G_UNLIKELY (queue->cursor == GRAY_FIRST_CURSOR_POSITION (queue->first))) {
                entry = sgen_gray_object_dequeue (queue);
                *obj = entry.obj;
-#ifdef SGEN_GRAY_QUEUE_HAVE_DESCRIPTORS
                *desc = entry.desc;
-#endif
        } else {
                HEAVY_STAT (stat_gray_queue_dequeue_fast_path ++);
 
                entry = *queue->cursor--;
                *obj = entry.obj;
-#ifdef SGEN_GRAY_QUEUE_HAVE_DESCRIPTORS
                *desc = entry.desc;
-#endif
 #ifdef SGEN_HEAVY_BINARY_PROTOCOL
                binary_protocol_gray_dequeue (queue, queue->cursor + 1, *obj);
 #endif
@@ -237,22 +216,4 @@ GRAY_OBJECT_DEQUEUE (SgenGrayQueue *queue, char** obj, mword *desc)
 #endif
 }
 
-static inline void
-sgen_gray_object_dequeue_fast (SgenGrayQueue *queue, char** obj, mword *desc) {
-       GrayQueueEntry *cursor = queue->prefetch_cursor;
-       GrayQueueEntry *const end = queue->prefetch + SGEN_GRAY_QUEUE_PREFETCH_SIZE;
-       *obj = cursor->obj;
-#ifdef SGEN_GRAY_QUEUE_HAVE_DESCRIPTORS
-       *desc = cursor->desc;
-       GRAY_OBJECT_DEQUEUE (queue, &cursor->obj, &cursor->desc);
-#else
-       GRAY_OBJECT_DEQUEUE (queue, &cursor->obj, NULL);
-#endif
-       PREFETCH (cursor->obj);
-       ++cursor;
-       if (cursor == end)
-               cursor = queue->prefetch;
-       queue->prefetch_cursor = cursor;
-}
-
 #endif
my mono mirror. check out Moved to http://github.com/mono/mono