相关书籍推荐

读书的原则:不求甚解,观其大略

你如果进到庐山里头,二话不说,蹲下头来,弯下腰,就对着某棵树某棵小草猛研究而不是说先把庐山的整体脉络跟那研究清楚了,那么你的学习方法肯定效率巨低而且特别痛苦,最重要的还是慢慢地还打击你的积极性,说我的学习怎么那么不happy啊,怎么那么特没劲那,因为你的学习方法错了,大体读明白,先拿来用,用着用着,很多道理你就明白了

▪《编码:隐匿在计算机软硬件背后的语言》
▪《深入理解计算机系统》
▪语言:C JAVA K&R《C程序设计语言》《C Primer Plus》
▪ 数据结构与算法: — 毕生的学习 leetCode
–《Java数据结构与算法》《算法》
–《算法导论》《计算机程序设计艺术》//难
▪操作系统:Linux内核源码解析 Linux内核设计与实现 30天自制操作系统
▪网络:机工《TCP/IP详解》卷一 翻译一般
▪编译原理:机工 龙书 《编译原理》 《编程语言实现模式》马语
▪数据库:SQLite源码 Derby - JDK自带数据库

1. 硬件基础知识

1.1 CPU的制作过程

Intel cpu的制作过程 mda-kaduqpfr10nchmde.mp4 (11.76MB)
CPU是如何制作的(文字描述)
https://www.sohu.com/a/255397866_468626

1.2 CPU的原理

计算机需要解决的最根本问题:如何代表数字
晶体管是如何工作的:
https://haokan.baidu.com/v?vid=16026741635006191272&pd=bjh&fr=bjhauthor&type=video
晶体管的工作原理:
https://www.bilibili.com/video/av47388949?p=2

1.3 汇编语言(机器语言)的执行过程

汇编语言的本质:机器语言的助记符 其实它就是机器语言
计算机通电 -> CPU读取内存中程序(电信号输入)-> 时钟发生器不断震荡通断电 -> 推动CPU内部一步一步执行(执行多少步取决于指令需要的时钟周期)-> 计算完成->写回(电信号)-> 写给显卡输出(sout,或者图形)

1.4 量子计算机

量子比特,同时表示1 0

1.5 CPU的基本组成

组件名称 全称
PC Program Counter 程序计数器 (记录当前指令地址)
Registers 暂时存储CPU计算需要用到的数据
ALU Arithmetic & Logic Unit 运算单元
CU Control Unit 控制单元
MMU Memory Management Unit 内存管理单元
cache

2. 缓存

21. 缓存一致性协议

语雀内容

2.2 缓存行

语雀内容

3. CPU指令乱序执行

https://preshing.com/20120515/memory-reordering-caught-in-the-act/
jvm/jmm/Disorder.java
语雀内容

4. 合并写(不重要)

语雀内容

5. NUMA

Non Uniform Memory Access
ZGC - NUMA aware
分配内存会优先分配该线程所在CPU的最近内存

6. 启动过程(不重要)

通电 -> bios uefi 工作 -> 自检 -> 到硬盘固定位置加载bootloader -> 读取可配置信息 -> CMOS

7. 操作系统

7.1 内核分类

微内核 - 弹性部署 5G IoT
宏内核 - PC phone
外核 - 科研 实验中 为应用定制操作系统 (多租户 request-based GC JVM)

7.2 用户态与内核态

CPU指令级别分为 0 1 2 3 四个级别, linux系统只使用了0级和3级

linux内核跑在ring 0级, 用户程序跑在ring 3级,对于系统的关键访问,需要经过kernel的同意,保证系统健壮性
内核的函数大概有200多个, 比如: sendfile read write pthread fork 等等..
站在操作系统的角度,JVM就是个普通程序

7.3 进程 线程 纤程 中断

面试高频:进程和线程有什么区别?
答案:进程就是一个程序运行起来的状态,线程是一个进程中的不同的执行路径。
专业角度分析:进程是OS分配资源的基本单位,线程是执行调度的基本单位。分配资源最重要的是:独立的内存空间,线程调度执行(线程共享进程的内存空间,没有自己独立的内存空间)

语雀内容


7.5 纤程的应用场景

纤程 vs 线程池:很短的计算任务,不需要和内核打交道,并发量高!

7.6 僵尸进程

  1. #include <stdio.h>
  2. #include <stdlib.h>
  3. #include <unistd.h>
  4. #include <string.h>
  5. #include <assert.h>
  6. #include <sys/types.h>
  7. int main() {
  8. pid_t pid = fork();
  9. if (0 == pid) {
  10. printf("child id is %d\n", getpid());
  11. printf("parent id is %d\n", getppid());
  12. } else {
  13. while(1) {}
  14. }
  15. }

7.7 孤儿进程

  1. #include <stdio.h>
  2. #include <stdlib.h>
  3. #include <unistd.h>
  4. #include <string.h>
  5. #include <assert.h>
  6. #include <sys/types.h>
  7. int main() {
  8. pid_t pid = fork();
  9. if (0 == pid) {
  10. printf("child ppid is %d\n", getppid());
  11. sleep(10);
  12. printf("parent ppid is %d\n", getppid());
  13. } else {
  14. printf("parent id is %d\n", getpid());
  15. sleep(5);
  16. exit(0);
  17. }
  18. }

7.8 进程调度


//
语雀内容

7.9 中断

硬件产生的中断叫硬中断, 软件产生的中断叫软中断.
软中断使用0x80信号通知CPU进行中断, 一般使用在应用程序调用系统函数时. 俗称80中断. 也正是由于有80中断的存在, 调用系统函数效率低.
系统调用:80中断 或者 sysenter原语(有的CPU不支持)
通过ax寄存器填入调用号
参数通过bx cx dx si di传入内核
返回值通过ax返回

java读网络 – jvm read() – c库read() - > 内核空间 -> system_call() (系统调用处理程序)-> sys_read()

7.9.1 从汇编角度理解软中断

搭建汇编环境

linux安装asm环境:

yum install nasm

编写汇编代码:

  1. ;hello.asm
  2. ;write(int fd, const void *buffer, size_t nbytes)
  3. ;fd 文件描述符 file descriptor - linux下一切皆文件
  4. section data
  5. msg db "Hello", 0xA
  6. len equ $ - msg
  7. section .text
  8. global _start
  9. _start:
  10. mov edx, len
  11. mov ecx, msg
  12. mov ebx, 1 ;文件描述符1 std_out
  13. mov eax, 4 ;write函数系统调用号 4
  14. int 0x80
  15. mov ebx, 0
  16. mov eax, 1 ;exit函数系统调用号
  17. int 0x80

执行编译:

nasm -f elf hello.asm -o hello.o

执行链接:

ld -m elf_i386 -o hello hello.o

一个程序的执行过程,要么处于用户态,要么处于内核态

7.10 内存管理

在DOS时代, 同一时间只能有一个进程在运行(也有一些特殊算法可以支持多进程)
windows95, windows98的年代, 多个进程装入内存, 这是会产生2个问题

  1. 内存不够用
  2. 内存互通, 互相打扰/影响.

为了解决这两个问题,诞生了现在的内存管理系统:分页装入, 虚拟地址+软硬件结合寻址.

  1. 使用分页解决内存不够用的问题.
    1. 把内存条中的内存分成无数个固定大小的页框, 一般每个页框的大小是4K(极少部分有大页框8K..16K).把硬盘上的程序被分一块块的4K大小的块,程序初始载入内存时只是载入了一个页表, 使用程序时用到哪一块就加载那一块. 在加载的过程中,如果内存已经满了,会使用LRU算法把最不常用的一块放到swap分区, 把最新的一块加载进来,这个就是著名的LRU算法
    2. LRU算法 LeetCode146题,头条要求手撕,阿里去年也要求手撕
    3. Least Recently Used 最不常用算法
    4. 使用哈希表保证查找复杂度O(1), 使用双向链表保证排序和替换操作复杂度O(1)
  2. 使用虚拟内存解决相互打扰问题
    1. DOS Win31 … 互相干掉
    2. 为了保证互不影响 - 让进程工作在虚拟空间,程序中用到的空间地址不再是直接的物理地址,而是虚拟的地址,这样,A进程认为自己已经得到了所有的内存, 所以永远不可能访问到B进程的空间.
    3. 虚拟空间多大呢?寻址空间 - 64位系统 2 ^ 64,比物理空间大很多 ,单位是byte
    4. 站在虚拟的角度,进程是独享整个系统 + CPU
    5. 内存映射:偏移量 + 段的基地址 = 线性地址 (虚拟空间)
    6. 线性地址通过 OS + MMU(硬件 Memory Management Unit)找到真正的物理地址.
  3. 缺页中断(不是很重要):

    1. 需要用到页面内存中没有,产生缺页异常(中断),由内核处理并加载

      ZGC算法

      算法叫做:Colored Pointer
      GC信息记录在指针上,不是记录在头部,这样可以做到 immediate memory use(立即内存使用)
      42位指针 寻址空间4T JDK13 -> 16T 目前为止最大16T 2^44

      CPU如何区分一个立即数 和 一条指令

      总线内部分为:数据总线 地址总线 控制总线
      地址总线目前:48位
      颜色指针本质上包含了地址映射的概念

      7.内核同步机制

      关于同步理论的一些基本概念

      •临界区(critical area): 访问或操作共享数据的代码段 简单理解:synchronized大括号中部分(原子性)
      •竞争条件(race conditions)两个线程同时拥有临界区的执行权
      •数据不一致:data unconsistency 由竞争条件引起的数据破坏
      •同步(synchronization)避免race conditions
      •锁:完成同步的手段(门锁,门后是临界区,只允许一个线程存在) 上锁解锁必须具备原子性
      •原子性(象原子一样不可分割的操作)
      •有序性(禁止指令重排)
      •可见性(一个线程内的修改,另一个线程可见)
      互斥锁 排他锁 共享锁 分段锁

      内核同步常用方法

  4. 原子操作 – 内核中类似于AtomicXXX,位于

  5. 自旋锁 – 内核中通过汇编支持的cas,位于
  6. 读-写自旋 – 类似于ReadWriteLock,可同时读,只能一个写 读的时候是共享锁,写的时候是排他锁
  7. 信号量 – 类似于Semaphore(PV操作 down up操作 占有和释放) 重量级锁,线程会进入wait,适合长时间持有的锁情况
  8. 读-写信号量 – downread upread downwrite upwrite (多个写,可以分段写,比较少用)(分段锁)
  9. 互斥体(mutex) – 特殊的信号量(二值信号量)
  10. 完成变量 – 特殊的信号量(A发出信号给B,B等待在完成变量上) vfork() 在子进程结束时通过完成变量叫醒父进程 类似于(Latch)
  11. BKL:大内核锁(早期,现在已经不用)
  12. 顺序锁(2.6): – 线程可以挂起的读写自旋锁 序列计数器(从0开始,写时增加(+1),写完释放(+1),读前发现单数, 说明有写线程,等待,读前读后序列一样,说明没有写线程打断)
  13. 禁止抢占 – preempt_disable()
  14. 内存屏障 – 见volatile

    汇编实现引导程序

    编写汇编码

    ; 文件名 boot.asm

    org 7c00h ; BIOS读入MBR后,从0x7c00h处开始执行

    ; 下面部分和10h有关中断,10h中断用来显示字符
    mov ax, cs
    mov es, ax
    mov ax, msg
    mov bp, ax ; ES:BP表示显示字符串的地址
    mov cx, msgLen ; CX存字符长度
    mov ax, 1301h ; AH=13h表示向TTY显示字符,AL=01h表示显示方式(字符串是否包含显示属性,01h表示不包含)
    mov bx, 000fh ; BH=00h表示页号,BL=0fh表示颜色
    mov dl, 0 ; 列
    int 10h

    msg: db “hello world, welcome to OS!”
    msgLen: equ $ - msg ; 字符串长度
    times 510 - ($ - $$) db 0 ; 填充剩余部分
    dw 0aa55h ; 魔数,必须有这两个字节BIOS才确认是MBR

    编译

    nasm boot.asm -o boot.bin

    制作启动软盘

  15. dd if=/dev/zero of=floppy.img bs=1474560 count=1 生成空白软盘镜像

  16. dd if=boot.bin of=myos.img bs=512 count=1 制作包含主引导记录boot.bin的启动镜像文件
  17. dd if=floppy.img of=myos.img skip=1 seek=1 bs=512 count=2879 在 bin 生成的镜像文件后补上空白,成为合适大小的软盘镜像,一共2880个扇区,略过第一个

    用软盘启动系统

  18. 将myos.img下载到windows

  19. VMWare创建空的虚拟机
    1. 文件 - 创建新的虚拟机 - 典型
    2. 稍后安装操作系统
    3. 其他
    4. 一路next 完成
    5. 虚拟机设置,去掉CD/DVD选项中“启动时连接”
    6. 网络,选择“仅主机模式”,勾选“启动时连接”(好像无所谓)
    7. 添加软盘驱动器 使用软盘映像 找到myos.img
  20. 启动虚拟机

    为什么是0x7C00?


    参考:https://www.glamenv-septzen.net/en/view/6