mono/metadata/tpool-epoll.c

   1 /*
   2  * tpool-epoll.c: epoll related stuff
   3  *
   4  * Authors:
   5  *   Dietmar Maurer (dietmar@ximian.com)
   6  *   Gonzalo Paniagua Javier (gonzalo@ximian.com)
   7  *
   8  * Copyright 2001-2003 Ximian, Inc (http://www.ximian.com)
   9  * Copyright 2004-2011 Novell, Inc (http://www.novell.com)
  10  * Copyright 2011 Xamarin Inc (http://www.xamarin.com)
  11  */
  12
  13 struct _tp_epoll_data {
  14         int epollfd;
  15 };
  16
  17 typedef struct _tp_epoll_data tp_epoll_data;
  18 static void tp_epoll_modify (gpointer event_data, int fd, int operation, int events, gboolean is_new);
  19 static void tp_epoll_shutdown (gpointer event_data);
  20 static void tp_epoll_wait (gpointer event_data);
  21
  22 static gpointer
  23 tp_epoll_init (SocketIOData *data)
  24 {
  25         tp_epoll_data *result;
  26
  27         result = g_new0 (tp_epoll_data, 1);
  28 #ifdef EPOLL_CLOEXEC
  29         result->epollfd = epoll_create1 (EPOLL_CLOEXEC);
  30 #else
  31         result->epollfd = epoll_create (256); /* The number does not really matter */
  32         fcntl (result->epollfd, F_SETFD, FD_CLOEXEC);
  33 #endif
  34         if (result->epollfd == -1) {
  35                 int err = errno;
  36                 if (g_getenv ("MONO_DEBUG")) {
  37 #ifdef EPOLL_CLOEXEC
  38                         g_message ("epoll_create1(EPOLL_CLOEXEC) failed: %d %s", err, g_strerror (err));
  39 #else
  40                         g_message ("epoll_create(256) failed: %d %s", err, g_strerror (err));
  41 #endif
  42                 }
  43
  44                 return NULL;
  45         }
  46
  47         data->shutdown = tp_epoll_shutdown;
  48         data->modify = tp_epoll_modify;
  49         data->wait = tp_epoll_wait;
  50         return result;
  51 }
  52
  53 static void
  54 tp_epoll_modify (gpointer event_data, int fd, int operation, int events, gboolean is_new)
  55 {
  56         tp_epoll_data *data = event_data;
  57         struct epoll_event evt;
  58         int epoll_op;
  59
  60         memset (&evt, 0, sizeof (evt));
  61         evt.data.fd = fd;
  62         if ((events & MONO_POLLIN) != 0)
  63                 evt.events |= EPOLLIN;
  64         if ((events & MONO_POLLOUT) != 0)
  65                 evt.events |= EPOLLOUT;
  66
  67         epoll_op = (is_new) ? EPOLL_CTL_ADD : EPOLL_CTL_MOD;
  68         if (epoll_ctl (data->epollfd, epoll_op, fd, &evt) == -1) {
  69                 int err = errno;
  70                 if (epoll_op == EPOLL_CTL_ADD && err == EEXIST) {
  71                         epoll_op = EPOLL_CTL_MOD;
  72                         if (epoll_ctl (data->epollfd, epoll_op, fd, &evt) == -1) {
  73                                 g_message ("epoll_ctl(MOD): %d %s", err, g_strerror (err));
  74                         }
  75                 }
  76         }
  77 }
  78
  79 static void
  80 tp_epoll_shutdown (gpointer event_data)
  81 {
  82         tp_epoll_data *data = event_data;
  83
  84         close (data->epollfd);
  85         g_free (data);
  86 }
  87
  88 #define EPOLL_ERRORS (EPOLLERR | EPOLLHUP)
  89 #define EPOLL_NEVENTS   128
  90 static void
  91 tp_epoll_wait (gpointer p)
  92 {
  93         SocketIOData *socket_io_data;
  94         int epollfd;
  95         MonoInternalThread *thread;
  96         struct epoll_event *events, *evt;
  97         int ready = 0, i;
  98         gpointer async_results [EPOLL_NEVENTS * 2]; // * 2 because each loop can add up to 2 results here
  99         gint nresults;
 100         tp_epoll_data *data;
 101
 102         socket_io_data = p;
 103         data = socket_io_data->event_data;
 104         epollfd = data->epollfd;
 105         thread = mono_thread_internal_current ();
 106         events = g_new0 (struct epoll_event, EPOLL_NEVENTS);
 107
 108         while (1) {
 109                 mono_gc_set_skip_thread (TRUE);
 110
 111                 do {
 112                         if (ready == -1) {
 113                                 if (THREAD_WANTS_A_BREAK (thread))
 114                                         mono_thread_interruption_checkpoint ();
 115                         }
 116                         ready = epoll_wait (epollfd, events, EPOLL_NEVENTS, -1);
 117                 } while (ready == -1 && errno == EINTR);
 118
 119                 mono_gc_set_skip_thread (FALSE);
 120
 121                 if (ready == -1) {
 122                         int err = errno;
 123                         g_free (events);
 124                         if (err != EBADF)
 125                                 g_warning ("epoll_wait: %d %s", err, g_strerror (err));
 126
 127                         return;
 128                 }
 129
 130                 EnterCriticalSection (&socket_io_data->io_lock);
 131                 if (socket_io_data->inited == 3) {
 132                         g_free (events);
 133                         LeaveCriticalSection (&socket_io_data->io_lock);
 134                         return; /* cleanup called */
 135                 }
 136
 137                 nresults = 0;
 138                 for (i = 0; i < ready; i++) {
 139                         int fd;
 140                         MonoMList *list;
 141                         MonoObject *ares;
 142
 143                         evt = &events [i];
 144                         fd = evt->data.fd;
 145                         list = mono_g_hash_table_lookup (socket_io_data->sock_to_state, GINT_TO_POINTER (fd));
 146                         if (list != NULL && (evt->events & (EPOLLIN | EPOLL_ERRORS)) != 0) {
 147                                 ares = get_io_event (&list, MONO_POLLIN);
 148                                 if (ares != NULL)
 149                                         async_results [nresults++] = ares;
 150                         }
 151
 152                         if (list != NULL && (evt->events & (EPOLLOUT | EPOLL_ERRORS)) != 0) {
 153                                 ares = get_io_event (&list, MONO_POLLOUT);
 154                                 if (ares != NULL)
 155                                         async_results [nresults++] = ares;
 156                         }
 157
 158                         if (list != NULL) {
 159                                 int p;
 160
 161                                 mono_g_hash_table_replace (socket_io_data->sock_to_state, GINT_TO_POINTER (fd), list);
 162                                 p = get_events_from_list (list);
 163                                 evt->events = (p & MONO_POLLOUT) ? EPOLLOUT : 0;
 164                                 evt->events |= (p & MONO_POLLIN) ? EPOLLIN : 0;
 165                                 if (epoll_ctl (epollfd, EPOLL_CTL_MOD, fd, evt) == -1) {
 166                                         if (epoll_ctl (epollfd, EPOLL_CTL_ADD, fd, evt) == -1) {
 167                                                 int err = errno;
 168                                                 g_message ("epoll(ADD): %d %s", err, g_strerror (err));
 169                                         }
 170                                 }
 171                         } else {
 172                                 mono_g_hash_table_remove (socket_io_data->sock_to_state, GINT_TO_POINTER (fd));
 173                                 epoll_ctl (epollfd, EPOLL_CTL_DEL, fd, evt);
 174                         }
 175                 }
 176                 LeaveCriticalSection (&socket_io_data->io_lock);
 177                 threadpool_append_jobs (&async_io_tp, (MonoObject **) async_results, nresults);
 178                 mono_gc_bzero (async_results, sizeof (gpointer) * nresults);
 179         }
 180 }
 181 #undef EPOLL_NEVENTS
 182 #undef EPOLL_ERRORS