Whitespace fixes
[coreboot.git] / src / cpu / intel / car / cache_as_ram_ht.inc
index ed207db7b17dfeaf20dd2a126fcaff7dd8061bfa..ca107c4c5611fb1b72c7cfb0a7d7142cf1561f3d 100644 (file)
@@ -2,7 +2,9 @@
  * This file is part of the coreboot project.
  *
  * Copyright (C) 2000,2007 Ronald G. Minnich <rminnich@gmail.com>
+ * Copyright (C) 2005 Tyan (written by Yinghai Lu for Tyan)
  * Copyright (C) 2007-2008 coresystems GmbH
+ * Copyright (C) 2012 Kyösti Mälkki <kyosti.malkki@gmail.com>
  *
  * This program is free software; you can redistribute it and/or modify
  * it under the terms of the GNU General Public License as published by
 #include <cpu/x86/stack.h>
 #include <cpu/x86/mtrr.h>
 #include <cpu/x86/post_code.h>
+#include <cpu/x86/lapic_def.h>
 
-#define CPU_MAXPHYADDR 36
-#define CPU_PHYSMASK_HI  (1 << (CPU_MAXPHYADDR - 32) - 1)
+/* Macro to access Local APIC registers at default base. */
+#define LAPIC(x)               $(LAPIC_DEFAULT_BASE | LAPIC_ ## x)
+#define START_IPI_VECTOR       ((CONFIG_AP_SIPI_VECTOR >> 12) & 0xff)
 
 /* Base address to cache all of Flash ROM, just below 4GB. */
 #define CACHE_ROM_BASE ((1<<22 - CONFIG_CACHE_ROM_SIZE>>10)<<10)
 cache_as_ram:
        post_code(0x20)
 
-       /* Send INIT IPI to all excluding ourself. */
-       movl    $0x000C4500, %eax
-       movl    $0xFEE00300, %esi
-       movl    %eax, (%esi)
+       movl    $LAPIC_BASE_MSR, %ecx
+       rdmsr
+       andl    $LAPIC_BASE_MSR_BOOTSTRAP_PROCESSOR, %eax
+       jz      ap_init
 
-       /* Zero out all fixed range and variable range MTRRs. */
+       /* Zero out all fixed range and variable range MTRRs.
+        * For hyper-threaded CPUs these are shared.
+        */
        movl    $mtrr_table, %esi
        movl    $((mtrr_table_end - mtrr_table) / 2), %edi
        xorl    %eax, %eax
@@ -55,12 +61,157 @@ clear_mtrrs:
        dec     %edi
        jnz     clear_mtrrs
 
+       post_code(0x21)
+
        /* Configure the default memory type to uncacheable. */
        movl    $MTRRdefType_MSR, %ecx
        rdmsr
        andl    $(~0x00000cff), %eax
        wrmsr
 
+       post_code(0x22)
+
+       /* Determine CPU_ADDR_BITS and load PHYSMASK high
+        * word to %edx.
+        */
+       movl    $0x80000000, %eax
+       cpuid
+       cmpl    $0x80000008, %eax
+       jc      addrsize_no_MSR
+       movl    $0x80000008, %eax
+       cpuid
+       movb    %al, %cl
+       sub     $32, %cl
+       movl    $1, %edx
+       shl     %cl, %edx
+       subl    $1, %edx
+       jmp     addrsize_set_high
+addrsize_no_MSR:
+       movl    $1, %eax
+       cpuid
+       andl    $(1<<6 | 1<<17), %edx   /* PAE or PSE36 */
+       jz      addrsize_set_high
+       movl    $0x0f, %edx
+
+       /* Preload high word of address mask (in %edx) for Variable
+        * MTRRs 0 and 1 and enable local apic at default base.
+        */
+addrsize_set_high:
+       xorl    %eax, %eax
+       movl    $MTRRphysMask_MSR(0), %ecx
+       wrmsr
+       movl    $MTRRphysMask_MSR(1), %ecx
+       wrmsr
+       movl    $LAPIC_BASE_MSR, %ecx
+       not     %edx
+       movl    %edx, %ebx
+       rdmsr
+       andl    %ebx, %edx
+       andl    $(~LAPIC_BASE_MSR_ADDR_MASK), %eax
+       orl     $(LAPIC_DEFAULT_BASE | LAPIC_BASE_MSR_ENABLE), %eax
+       wrmsr
+
+bsp_init:
+
+       post_code(0x23)
+
+       /* Send INIT IPI to all excluding ourself. */
+       movl    LAPIC(ICR), %edi
+       movl    $(LAPIC_DEST_ALLBUT | LAPIC_INT_ASSERT | LAPIC_DM_INIT), %eax
+1:     movl    %eax, (%edi)
+       movl    $0x30, %ecx
+2:     pause
+       dec     %ecx
+       jnz     2b
+       movl    (%edi), %ecx
+       andl    $LAPIC_ICR_BUSY, %ecx
+       jnz     1b
+
+       post_code(0x24)
+
+       /* For a hyper-threading processor, cache must not be disabled
+        * on an AP on the same physical package with the BSP.
+        */
+       movl    $01, %eax
+       cpuid
+       btl     $28, %edx
+       jnc     sipi_complete
+       bswapl  %ebx
+       cmpb    $01, %bh
+       jbe     sipi_complete
+
+hyper_threading_cpu:
+
+       /* delay 10 ms */
+       movl    $10000, %ecx
+1:     inb     $0x80, %al
+       dec     %ecx
+       jnz     1b
+
+       post_code(0x25)
+
+       /* Send Start IPI to all excluding ourself. */
+       movl    LAPIC(ICR), %edi
+       movl    $(LAPIC_DEST_ALLBUT | LAPIC_DM_STARTUP | START_IPI_VECTOR), %eax
+1:     movl    %eax, (%edi)
+       movl    $0x30, %ecx
+2:     pause
+       dec     %ecx
+       jnz     2b
+       movl    (%edi), %ecx
+       andl    $LAPIC_ICR_BUSY, %ecx
+       jnz     1b
+
+       /* delay 250 us */
+       movl    $250, %ecx
+1:     inb     $0x80, %al
+       dec     %ecx
+       jnz     1b
+
+       post_code(0x26)
+
+       /* Wait for sibling CPU to start. */
+1:     movl    $(MTRRphysBase_MSR(0)), %ecx
+       rdmsr
+       andl    %eax, %eax
+       jnz     sipi_complete
+
+       movl    $0x30, %ecx
+2:     pause
+       dec     %ecx
+       jnz     2b
+       jmp     1b
+
+
+ap_init:
+       post_code(0x27)
+
+       /* Do not disable cache (so BSP can enable it). */
+        movl   %cr0, %eax
+       andl    $(~((1 << 30) | (1 << 29))), %eax
+       movl    %eax, %cr0
+
+       post_code(0x28)
+
+       /* MTRR registers are shared between HT siblings. */
+       movl    $(MTRRphysBase_MSR(0)), %ecx
+       movl    $(1<<12), %eax
+       xorl    %edx, %edx
+       wrmsr
+
+       post_code(0x29)
+
+ap_halt:
+       cli
+1:     hlt
+       jnz     1b
+
+
+
+sipi_complete:
+
+       post_code(0x2a)
+
        /* Set Cache-as-RAM base address. */
        movl    $(MTRRphysBase_MSR(0)), %ecx
        movl    $(CACHE_AS_RAM_BASE | MTRR_TYPE_WRBACK), %eax
@@ -69,8 +220,8 @@ clear_mtrrs:
 
        /* Set Cache-as-RAM mask. */
        movl    $(MTRRphysMask_MSR(0)), %ecx
+       rdmsr
        movl    $(~(CACHE_AS_RAM_SIZE - 1) | MTRRphysMaskValid), %eax
-       movl    $CPU_PHYSMASK_HI, %edx
        wrmsr
 
        /* Enable MTRR. */
@@ -79,24 +230,56 @@ clear_mtrrs:
        orl     $MTRRdefTypeEn, %eax
        wrmsr
 
-       /* Enable L2 cache. */
+       post_code(0x2b)
+
+       /* Enable L2 cache Write-Back (WBINVD and FLUSH#).
+        *
+        * MSR is set when DisplayFamily_DisplayModel is one of:
+        * 06_0x, 06_17, 06_1C
+        *
+        * Description says this bit enables use of WBINVD and FLUSH#.
+        * Should this be set only after the system bus and/or memory
+        * controller can successfully handle write cycles?
+        */
+
+#define EAX_FAMILY(a)  (a << 8)        /* for family <= 0fH */
+#define EAX_MODEL(a)   (((a & 0xf0) << 12) | ((a & 0xf) << 4))
+
+       movl    $1, %eax
+       cpuid
+       movl    %eax, %ebx
+       andl    $EAX_FAMILY(0x0f), %eax
+       cmpl    $EAX_FAMILY(0x06), %eax
+       jne     no_msr_11e
+       movl    %ebx, %eax
+       andl    $EAX_MODEL(0xff), %eax
+       cmpl    $EAX_MODEL(0x17), %eax
+       je      has_msr_11e
+       cmpl    $EAX_MODEL(0x1c), %eax
+       je      has_msr_11e
+       andl    $EAX_MODEL(0xf0), %eax
+       cmpl    $EAX_MODEL(0x00), %eax
+       jne     no_msr_11e
+has_msr_11e:
        movl    $0x11e, %ecx
        rdmsr
        orl     $(1 << 8), %eax
        wrmsr
+no_msr_11e:
+
+       post_code(0x2c)
 
        /* Enable cache (CR0.CD = 0, CR0.NW = 0). */
-        movl   %cr0, %eax
+       movl    %cr0, %eax
        andl    $(~((1 << 30) | (1 << 29))), %eax
        invd
        movl    %eax, %cr0
 
        /* Clear the cache memory reagion. */
-       movl    $CACHE_AS_RAM_BASE, %esi
-       movl    %esi, %edi
-       movl    $(CACHE_AS_RAM_SIZE / 4), %ecx
-       // movl $0x23322332, %eax
+       cld
        xorl    %eax, %eax
+       movl    $CACHE_AS_RAM_BASE, %edi
+       movl    $(CACHE_AS_RAM_SIZE / 4), %ecx
        rep     stosl
 
        /* Enable Cache-as-RAM mode by disabling cache. */
@@ -104,6 +287,8 @@ clear_mtrrs:
        orl     $(1 << 30), %eax
        movl    %eax, %cr0
 
+       post_code(0x2d)
+
 #if CONFIG_XIP_ROM_SIZE
        /* Enable cache for our code in Flash because we do XIP here */
        movl    $MTRRphysBase_MSR(1), %ecx
@@ -118,7 +303,7 @@ clear_mtrrs:
        wrmsr
 
        movl    $MTRRphysMask_MSR(1), %ecx
-       movl    $CPU_PHYSMASK_HI, %edx
+       rdmsr
        movl    $(~(CONFIG_XIP_ROM_SIZE - 1) | MTRRphysMaskValid), %eax
        wrmsr
 #endif /* CONFIG_XIP_ROM_SIZE */
@@ -128,26 +313,26 @@ clear_mtrrs:
        andl    $(~((1 << 30) | (1 << 29))), %eax
        movl    %eax, %cr0
 
+       post_code(0x2e)
+
        /* Set up the stack pointer. */
 #if CONFIG_USBDEBUG
        /* Leave some space for the struct ehci_debug_info. */
-       movl    $(CACHE_AS_RAM_BASE + CACHE_AS_RAM_SIZE - 4 - 128), %eax
+       movl    $(CACHE_AS_RAM_BASE + CACHE_AS_RAM_SIZE - 4 - 128), %esp
 #else
-       movl    $(CACHE_AS_RAM_BASE + CACHE_AS_RAM_SIZE - 4), %eax
+       movl    $(CACHE_AS_RAM_BASE + CACHE_AS_RAM_SIZE - 4), %esp
 #endif
-       movl    %eax, %esp
 
        /* Restore the BIST result. */
        movl    %ebp, %eax
        movl    %esp, %ebp
        pushl   %eax
 
-       post_code(0x23)
+       post_code(0x2f)
 
        /* Call romstage.c main function. */
        call    main
-
-       post_code(0x2f)
+       addl    $4, %esp
 
        post_code(0x30)
 
@@ -156,7 +341,7 @@ clear_mtrrs:
        orl     $(1 << 30), %eax
        movl    %eax, %cr0
 
-       post_code(0x31)
+       post_code(0x34)
 
        /* Disable MTRR. */
        movl    $MTRRdefType_MSR, %ecx
@@ -164,30 +349,18 @@ clear_mtrrs:
        andl    $(~MTRRdefTypeEn), %eax
        wrmsr
 
-       post_code(0x31)
+       post_code(0x35)
 
        invd
-#if 0
-       xorl    %eax, %eax
-       xorl    %edx, %edx
-       movl    $MTRRphysBase_MSR(0), %ecx
-       wrmsr
-       movl    $MTRRphysMask_MSR(0), %ecx
-       wrmsr
-       movl    $MTRRphysBase_MSR(1), %ecx
-       wrmsr
-       movl    $MTRRphysMask_MSR(1), %ecx
-       wrmsr
-#endif
 
-       post_code(0x33)
+       post_code(0x36)
 
        /* Enable cache. */
        movl    %cr0, %eax
        andl    $~((1 << 30) | (1 << 29)), %eax
        movl    %eax, %cr0
 
-       post_code(0x36)
+       post_code(0x37)
 
        /* Disable cache. */
        movl    %cr0, %eax
@@ -196,14 +369,14 @@ clear_mtrrs:
 
        post_code(0x38)
 
-       /* Enable Write Back and Speculative Reads for the first 1MB. */
+       /* Enable Write Back and Speculative Reads for low RAM. */
        movl    $MTRRphysBase_MSR(0), %ecx
        movl    $(0x00000000 | MTRR_TYPE_WRBACK), %eax
        xorl    %edx, %edx
        wrmsr
        movl    $MTRRphysMask_MSR(0), %ecx
+       rdmsr
        movl    $(~(CONFIG_RAMTOP - 1) | MTRRphysMaskValid), %eax
-       movl    $CPU_PHYSMASK_HI, %edx
        wrmsr
 
        /* Enable caching and Speculative Reads for Flash ROM device. */
@@ -212,8 +385,8 @@ clear_mtrrs:
        xorl    %edx, %edx
        wrmsr
        movl    $MTRRphysMask_MSR(1), %ecx
+       rdmsr
        movl    $(~(CONFIG_CACHE_ROM_SIZE - 1) | MTRRphysMaskValid), %eax
-       movl    $CPU_PHYSMASK_HI, %edx
        wrmsr
 
        post_code(0x39)