* src/vm/jit/trap.cpp (trap_handle): Adapted to support "reusable trap points".
[cacao.git] / src / vm / jit / patcher-common.cpp
1 /* src/vm/jit/patcher-common.cpp - architecture independent code patching stuff
2
3    Copyright (C) 2007, 2008, 2009
4    CACAOVM - Verein zur Foerderung der freien virtuellen Maschine CACAO
5    Copyright (C) 2008 Theobroma Systems Ltd.
6
7    This file is part of CACAO.
8
9    This program is free software; you can redistribute it and/or
10    modify it under the terms of the GNU General Public License as
11    published by the Free Software Foundation; either version 2, or (at
12    your option) any later version.
13
14    This program is distributed in the hope that it will be useful, but
15    WITHOUT ANY WARRANTY; without even the implied warranty of
16    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17    General Public License for more details.
18
19    You should have received a copy of the GNU General Public License
20    along with this program; if not, write to the Free Software
21    Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA
22    02110-1301, USA.
23
24 */
25
26
27 #include "config.h"
28
29 #include <assert.h>
30 #include <stdint.h>
31
32 #include <algorithm>
33 #include <functional>
34
35 #include "codegen.h"                   /* for PATCHER_NOPS */
36 #include "md.h"
37 #include "trap.hpp"
38
39 #include "mm/memory.hpp"
40
41 #include "native/native.hpp"
42
43 #include "toolbox/list.hpp"
44 #include "toolbox/logging.hpp"           /* XXX remove me! */
45
46 #include "vm/breakpoint.hpp"
47 #include "vm/exceptions.hpp"
48 #include "vm/hook.hpp"
49 #include "vm/initialize.hpp"
50 #include "vm/options.h"
51 #include "vm/os.hpp"
52 #include "vm/resolve.hpp"
53
54 #include "vm/jit/code.hpp"
55 #include "vm/jit/disass.h"
56 #include "vm/jit/jit.hpp"
57 #include "vm/jit/patcher-common.hpp"
58
59
60 /* patcher_function_list *******************************************************
61
62    This is a list which maps patcher function pointers to the according
63    names of the patcher functions. It is only usefull for debugging
64    purposes.
65
66 *******************************************************************************/
67
68 #if !defined(NDEBUG)
69 typedef struct patcher_function_list_t {
70         functionptr patcher;
71         const char* name;
72 } patcher_function_list_t;
73
74 static patcher_function_list_t patcher_function_list[] = {
75         { PATCHER_initialize_class,              "initialize_class" },
76 #ifdef ENABLE_VERIFIER
77         { PATCHER_resolve_class,                 "resolve_class" },
78 #endif /* ENABLE_VERIFIER */
79         { PATCHER_resolve_native_function,       "resolve_native_function" },
80         { PATCHER_invokestatic_special,          "invokestatic_special" },
81         { PATCHER_invokevirtual,                 "invokevirtual" },
82         { PATCHER_invokeinterface,               "invokeinterface" },
83         { PATCHER_breakpoint,                    "breakpoint" },
84         { NULL,                                  "-UNKNOWN PATCHER FUNCTION-" }
85 };
86 #endif
87
88
89 /* patcher_list_create *********************************************************
90
91    Creates an empty patcher list for the given codeinfo.
92
93 *******************************************************************************/
94
95 void patcher_list_create(codeinfo *code)
96 {
97         code->patchers = new LockedList<patchref_t>();
98 }
99
100
101 /* patcher_list_reset **********************************************************
102
103    Resets the patcher list inside a codeinfo. This is usefull when
104    resetting a codeinfo for recompiling.
105
106 *******************************************************************************/
107
108 void patcher_list_reset(codeinfo *code)
109 {
110 #if defined(ENABLE_STATISTICS)
111         if (opt_stat)
112                 size_patchref -= sizeof(patchref_t) * code->patchers->size();
113 #endif
114
115         // Free all elements of the list.
116         code->patchers->clear();
117 }
118
119 /* patcher_list_free ***********************************************************
120
121    Frees the patcher list and all its entries for the given codeinfo.
122
123 *******************************************************************************/
124
125 void patcher_list_free(codeinfo *code)
126 {
127         // Free all elements of the list.
128         patcher_list_reset(code);
129
130         // Free the list itself.
131         delete code->patchers;
132 }
133
134
135 /**
136  * Find an entry inside the patcher list for the given codeinfo by
137  * specifying the program counter of the patcher position.
138  *
139  * NOTE: Caller should hold the patcher list lock or maintain
140  * exclusive access otherwise.
141  *
142  * @param pc Program counter to find.
143  *
144  * @return Pointer to patcher.
145  */
146
147 struct foo : public std::binary_function<patchref_t, void*, bool> {
148         bool operator() (const patchref_t& pr, const void* pc) const
149         {
150                 return (pr.mpc == (uintptr_t) pc);
151         }
152 };
153
154 static patchref_t* patcher_list_find(codeinfo* code, void* pc)
155 {
156         // Search for a patcher with the given PC.
157         List<patchref_t>::iterator it = std::find_if(code->patchers->begin(), code->patchers->end(), std::bind2nd(foo(), pc));
158
159         if (it == code->patchers->end())
160                 return NULL;
161
162         return &(*it);
163 }
164
165
166 /**
167  * Show the content of the whole patcher reference list for
168  * debugging purposes.
169  *
170  * @param code The codeinfo containing the patcher list.
171  */
172 #if !defined(NDEBUG)
173 void patcher_list_show(codeinfo *code)
174 {
175         for (List<patchref_t>::iterator it = code->patchers->begin(); it != code->patchers->end(); it++) {
176                 patchref_t& pr = *it;
177
178                 // Lookup name in patcher function list.
179                 patcher_function_list_t* l;
180                 for (l = patcher_function_list; l->patcher != NULL; l++)
181                         if (l->patcher == pr.patcher)
182                                 break;
183
184                 // Display information about patcher.
185                 printf("\tpatcher pc:"PRINTF_FORMAT_INTPTR_T, pr.mpc);
186                 printf(" datap:"PRINTF_FORMAT_INTPTR_T, pr.datap);
187                 printf(" ref:"PRINTF_FORMAT_INTPTR_T, (intptr_t) pr.ref);
188 #if PATCHER_CALL_SIZE == 4
189                 printf(" mcode:%08x", (uint32_t) pr.mcode);
190 #elif PATCHER_CALL_SIZE == 2
191                 printf(" mcode:%04x", (uint16_t) pr.mcode);
192 #else
193 # error Unknown PATCHER_CALL_SIZE
194 #endif
195                 printf(" type:%s\n", l->name);
196
197                 // Display machine code of patched position.
198 #if 0 && defined(ENABLE_DISASSEMBLER)
199                 printf("\t\tcurrent -> ");
200                 disassinstr((uint8_t*) pr.mpc);
201                 printf("\t\tapplied -> ");
202                 disassinstr((uint8_t*) &(pr.mcode));
203 #endif
204         }
205 }
206 #endif
207
208
209 /* patcher_add_patch_ref *******************************************************
210
211    Appends a new patcher reference to the list of patching positions.
212
213 *******************************************************************************/
214
215 void patcher_add_patch_ref(jitdata *jd, functionptr patcher, void* ref, s4 disp)
216 {
217         codegendata *cd;
218         codeinfo    *code;
219         s4           patchmpc;
220
221         cd       = jd->cd;
222         code     = jd->code;
223         patchmpc = cd->mcodeptr - cd->mcodebase;
224
225 #if defined(ALIGN_PATCHER_TRAP)
226         emit_patcher_alignment(cd);
227         patchmpc = cd->mcodeptr - cd->mcodebase;
228 #endif
229
230 #if !defined(NDEBUG)
231         if (patcher_list_find(code, (void*) (intptr_t) patchmpc) != NULL)
232                 os::abort("patcher_add_patch_ref: different patchers at same position.");
233 #endif
234
235         // Set patcher information (mpc is resolved later).
236         patchref_t pr;
237
238         pr.mpc     = patchmpc;
239         pr.datap   = 0;
240         pr.disp    = disp;
241         pr.patcher = patcher;
242         pr.ref     = ref;
243         pr.mcode   = 0;
244         pr.done    = false;
245
246         // Store patcher in the list (NOTE: structure is copied).
247         code->patchers->push_back(pr);
248
249 #if defined(ENABLE_STATISTICS)
250         if (opt_stat)
251                 size_patchref += sizeof(patchref_t);
252 #endif
253
254 #if defined(ENABLE_JIT) && (defined(__I386__) || defined(__M68K__) || defined(__SPARC_64__) || defined(__X86_64__))
255
256         /* XXX We can remove that when we don't use UD2 anymore on i386
257            and x86_64. */
258
259         /* On some architectures the patcher stub call instruction might
260            be longer than the actual instruction generated.  On this
261            architectures we store the last patcher call position and after
262            the basic block code generation is completed, we check the
263            range and maybe generate some nop's. */
264         /* The nops are generated in codegen_emit in each codegen */
265
266         cd->lastmcodeptr = cd->mcodeptr + PATCHER_CALL_SIZE;
267 #endif
268 }
269
270
271 /**
272  * Resolve all patchers in the current JIT run.
273  *
274  * @param jd JIT data-structure
275  */
276 void patcher_resolve(jitdata* jd)
277 {
278         // Get required compiler data.
279         codeinfo* code = jd->code;
280
281         for (List<patchref_t>::iterator it = code->patchers->begin(); it != code->patchers->end(); it++) {
282                 patchref_t& pr = *it;
283
284                 pr.mpc   += (intptr_t) code->entrypoint;
285                 pr.datap  = (intptr_t) (pr.disp + code->entrypoint);
286         }
287 }
288
289
290 /**
291  * Check if the patcher is already patched.  This is done by comparing
292  * the machine instruction.
293  *
294  * @param pr Patcher structure.
295  *
296  * @return true if patched, false otherwise.
297  */
298 bool patcher_is_patched(patchref_t* pr)
299 {
300         // Validate the instruction at the patching position is the same
301         // instruction as the patcher structure contains.
302         uint32_t mcode = *((uint32_t*) pr->mpc);
303
304 #if PATCHER_CALL_SIZE == 4
305         if (mcode != pr->mcode) {
306 #elif PATCHER_CALL_SIZE == 2
307         if ((uint16_t) mcode != (uint16_t) pr->mcode) {
308 #else
309 #error Unknown PATCHER_CALL_SIZE
310 #endif
311                 // The code differs.
312                 return false;
313         }
314
315         return true;
316 }
317
318
319 /**
320  *
321  */
322 bool patcher_is_patched_at(void* pc)
323 {
324         codeinfo* code = code_find_codeinfo_for_pc(pc);
325
326         // Get the patcher for the given PC.
327         patchref_t* pr = patcher_list_find(code, pc);
328
329         if (pr == NULL) {
330                 // The given PC is not a patcher position.
331                 return false;
332         }
333
334         // Validate the instruction.
335         return patcher_is_patched(pr);
336 }
337
338
339 /* patcher_handler *************************************************************
340
341    Handles the request to patch JIT code at the given patching
342    position. This function is normally called by the signal
343    handler.
344
345    NOTE: The patcher list lock is used to maintain exclusive
346    access of the patched position (in fact of the whole code).
347    After patching has suceeded, the patcher reference should be
348    removed from the patcher list to avoid double patching.
349
350 *******************************************************************************/
351
352 #if !defined(NDEBUG)
353 /* XXX this indent is not thread safe! */
354 /* XXX if you want it thread safe, place patcher_depth in threadobject! */
355 static int patcher_depth = 0;
356 #define TRACE_PATCHER_INDENT for (i=0; i<patcher_depth; i++) printf("\t")
357 #endif /* !defined(NDEBUG) */
358
359 bool patcher_handler(u1 *pc)
360 {
361         codeinfo      *code;
362         patchref_t    *pr;
363         bool           result;
364 #if !defined(NDEBUG)
365         patcher_function_list_t *l;
366         int                      i;
367 #endif
368
369         /* define the patcher function */
370
371         bool (*patcher_function)(patchref_t *);
372
373         /* search the codeinfo for the given PC */
374
375         code = code_find_codeinfo_for_pc(pc);
376         assert(code);
377
378         // Enter a mutex on the patcher list.
379         code->patchers->lock();
380
381         /* search the patcher information for the given PC */
382
383         pr = patcher_list_find(code, pc);
384
385         if (pr == NULL)
386                 os::abort("patcher_handler: Unable to find patcher reference.");
387
388         if (pr->done) {
389 #if !defined(NDEBUG)
390                 if (opt_DebugPatcher) {
391                         log_println("patcher_handler: double-patching detected!");
392                 }
393 #endif
394                 code->patchers->unlock();
395                 return true;
396         }
397
398 #if !defined(NDEBUG)
399         if (opt_DebugPatcher) {
400                 for (l = patcher_function_list; l->patcher != NULL; l++)
401                         if (l->patcher == pr->patcher)
402                                 break;
403
404                 TRACE_PATCHER_INDENT; printf("patching in "); method_print(code->m); printf(" at %p\n", (void *) pr->mpc);
405                 TRACE_PATCHER_INDENT; printf("\tpatcher function = %s <%p>\n", l->name, (void *) (intptr_t) pr->patcher);
406
407                 TRACE_PATCHER_INDENT;
408                 printf("\tmachine code before = ");
409
410 # if defined(ENABLE_DISASSEMBLER)
411                 disassinstr((u1*) (void*) pr->mpc);
412 # else
413                 printf("%x at %p (disassembler disabled)\n", *((uint32_t*) pr->mpc), (void*) pr->mpc);
414 # endif
415
416                 patcher_depth++;
417                 assert(patcher_depth > 0);
418         }
419 #endif
420
421         /* cast the passed function to a patcher function */
422
423         patcher_function = (bool (*)(patchref_t *)) (ptrint) pr->patcher;
424
425         /* call the proper patcher function */
426
427         result = (patcher_function)(pr);
428
429 #if !defined(NDEBUG)
430         if (opt_DebugPatcher) {
431                 assert(patcher_depth > 0);
432                 patcher_depth--;
433
434                 TRACE_PATCHER_INDENT;
435                 printf("\tmachine code after  = ");
436
437 # if defined(ENABLE_DISASSEMBLER)
438                 disassinstr((u1*) (void*) pr->mpc);
439 # else
440                 printf("%x at %p (disassembler disabled)\n", *((uint32_t*) pr->mpc), (void*) pr->mpc);
441 # endif
442
443                 if (result == false) {
444                         TRACE_PATCHER_INDENT; printf("\tPATCHER EXCEPTION!\n");
445                 }
446         }
447 #endif
448
449         // Check return value and mangle the pending exception.
450         if (result == false)
451                 resolve_handle_pending_exception(true);
452
453         // XXX This is only preliminary to prevent double-patching.
454         else
455                 pr->done = true;
456
457         code->patchers->unlock();
458
459         return result;
460 }
461
462
463 /* patcher_initialize_class ****************************************************
464
465    Initalizes a given classinfo pointer.
466    This function does not patch any data.
467
468 *******************************************************************************/
469
470 bool patcher_initialize_class(patchref_t *pr)
471 {
472         classinfo *c;
473
474         /* get stuff from the patcher reference */
475
476         c = (classinfo *) pr->ref;
477
478         /* check if the class is initialized */
479
480         if (!(c->state & CLASS_INITIALIZED))
481                 if (!initialize_class(c))
482                         return false;
483
484         /* patch back original code */
485
486         patcher_patch_code(pr);
487
488         return true;
489 }
490
491
492 /* patcher_resolve_class *******************************************************
493
494    Resolves a given unresolved class reference.
495    This function does not patch any data.
496
497 *******************************************************************************/
498
499 #ifdef ENABLE_VERIFIER
500 bool patcher_resolve_class(patchref_t *pr)
501 {
502         unresolved_class *uc;
503
504         /* get stuff from the patcher reference */
505
506         uc = (unresolved_class *) pr->ref;
507
508         /* resolve the class and check subtype constraints */
509
510         if (!resolve_class_eager_no_access_check(uc))
511                 return false;
512
513         /* patch back original code */
514
515         patcher_patch_code(pr);
516
517         return true;
518 }
519 #endif /* ENABLE_VERIFIER */
520
521
522 /* patcher_resolve_native_function *********************************************
523
524    Resolves the native function for a given methodinfo.
525    This function patches one data segment word.
526
527 *******************************************************************************/
528
529 bool patcher_resolve_native_function(patchref_t *pr)
530 {
531         methodinfo  *m;
532         uint8_t     *datap;
533
534         /* get stuff from the patcher reference */
535
536         m     = (methodinfo *) pr->ref;
537         datap = (uint8_t *)    pr->datap;
538
539         /* resolve native function */
540
541         NativeMethods& nm = VM::get_current()->get_nativemethods();
542         void* f = nm.resolve_method(m);
543
544         if (f == NULL)
545                 return false;
546
547         /* patch native function pointer */
548
549         *((intptr_t*) datap) = (intptr_t) f;
550
551         /* synchronize data cache */
552
553         md_dcacheflush(datap, SIZEOF_VOID_P);
554
555         /* patch back original code */
556
557         patcher_patch_code(pr);
558
559         return true;
560 }
561
562
563 /**
564  * Deals with breakpoint instructions (ICMD_BREAKPOINT) compiled
565  * into a JIT method. This patcher might never patch back the
566  * original machine code because breakpoints are kept active.
567  */
568 bool patcher_breakpoint(patchref_t *pr)
569 {
570         // Get stuff from the patcher reference.
571         Breakpoint* breakp = (Breakpoint*) pr->ref;
572
573         // Hook point when a breakpoint was triggered.
574         Hook::breakpoint(breakp);
575
576         // In case the breakpoint wants to be kept active, we simply
577         // fail to "patch" at this point.
578         if (!breakp->is_oneshot)
579                 return false;
580
581         // Patch back original code.
582         patcher_patch_code(pr);
583
584         return true;
585 }
586
587
588 /*
589  * These are local overrides for various environment variables in Emacs.
590  * Please do not remove this and leave it at the end of the file, where
591  * Emacs will automagically detect them.
592  * ---------------------------------------------------------------------
593  * Local variables:
594  * mode: c++
595  * indent-tabs-mode: t
596  * c-basic-offset: 4
597  * tab-width: 4
598  * End:
599  * vim:noexpandtab:sw=4:ts=4:
600  */
601