- 计算机网络
- 进程和线程的区别
- 协程与线程的区别
- 并发和并行的区别
- 进程与线程的切换流程
- 为什么虚拟地址空间切换会比较耗时
- 进程间通信方式有哪些
- 进程间同步的方式有哪些
- 线程同步的方式有哪些
- 线程的分类
- 什么是临界区,如何解决冲突
- 什么是死锁?死锁产生的条件
- 进程调度策略有哪几种
- 进程有哪些状态
- 什么是分页
- 什么是分段
- 分页和分段有什么区别
- 什么是交换空间
- 页面替换算法有哪些
- 什么是缓冲区溢出?有什么危害?
- 什么是虚拟内存?
- 讲一讲IO多路复用
- 硬链接和软连接有什么区别
- 中断的处理过程?
- 中断和轮询有什么区别
- 请详细介绍一下TCP的三次握手机制,为什么要三次握手
- 讲一讲SYN超时,洪泛攻击,以及解决策略
- 详细介绍一下TCP的四次挥手机制,为什么要有TIME_WAIT状态,为什么需要四次握手?服务器出现了大量的CLOSE_WAIT状态如何解决?
计算机网络
进程和线程的区别
- 调度:进程是资源管理的基本单位,线程是程序执行的基本单位
- 切换:线程上下文切换比进程上下文切换快得多
- 拥有资源:进程是拥有资源的一个独立单位,线程不拥有系统资源,但是可以访问隶属于进程的资源。
系统开销:创建或撤销进程时,系统都要为之分配或回收系统资源,如内存空间,IO等,OS所付出的开销显著大于在创建或撤销线程时的开销,进程切换的开销也远大于线程切换的开销
协程与线程的区别
线程和进程都是同步机制,而协程是异步机制
- 线程是抢占式,而协程是非抢占式。需要用户释放使用权切换到其他协程,因此同一时间其实只有一个协程拥有运行权,相当于单线程的能力。
- 一个线程可以有多个协程,一个进程也可以有多个协程
- 协程不被操作系统内核管理,而是完全由程序控制。线程是被分割的CPU资源,协程是组织好的代码流程,线程是协程的资源。但协程不会直接使用线程,协程直接利用的是执行器来关联任意线程或线程池
-
并发和并行的区别
并发就是在一段时间内,多个任务都会被处理;但是在具体某一时刻,只有一个任务在执行。单核处理器可以做到并发。比如有两个进程A和B,A运行一段时间片之后,切换到B,B运行一段时间片之后又切换到A。因为切换的速度足够快,所以在宏观上表现为一段时间可以运行多个程序。
并行就是在同一时刻,有多个任务在执行。这个需要多核处理器才能完成,在微观上就能同时执行多条指令,不同的程序被放到不同的处理器上运行,这个是物理上多个进程同时执行进程与线程的切换流程
进程切换分两步:
1.切换页表以使用新的地址空间,一旦切换上下文,处理器中所有已经缓存的内存地址一瞬间都作废了。
2.切换内核栈和硬件上下文
对于linux来说,线程和进程最大的区别就在于地址空间,对于线程切换,第1步是不需要做的,第2步是进程和线程切换都要做的。为什么虚拟地址空间切换会比较耗时
进程都有自己的虚拟地址空间,把虚拟地址空间转换为物理地址需要查找页表,因为查找页表很慢,所以通常使用cache来缓存常用的地址映射来加速页表查找,这个cache就是TLB(translation lookaside buffer),tlb本质上就是一个cache,专门用来加速页表查找
因为每个进程都有自己的虚拟地址空间,所以每个进程都有自己的页表,当进程切换后页表也需要切换,页表切换后TLB就失效了,cache失效导致命中率降低,那么虚拟地址转换为物理地址就会变慢,表现出来就是程序运行变慢,而线程切换不会导致TLB失效,因为线程无需切换地址空间,因此我们通常说线程切换比进程切换快进程间通信方式有哪些
管道:管道这种通讯方式有两种限制,
- 一是半双工的通信,数据只能单向流动
- 二是只能在具有亲缘关系的进程间使用。进程的亲缘关系通常是指父子进程关系
- 管道可以分为两类:匿名管道和命名管道。
- 匿名管道是单向的,只能在有亲缘关系的进程间通信
- 命名管道以磁盘文件的方式存在,可以实现本机任意两个进程通信
信号:信号是一种比较复杂的通信方式,信号可以在任何时候发给某一进程,而无需知道该进程的状态
- linux系统中常用信号:
- SIGHUP:用户从终端注销,所有已启动进程都将收到该进程。系统缺省状态下对信号的处理是终止进程
- SIGINT:程序终止信号。程序运行过程中,按Ctrl+C将产生该信号
- SIGQUIT:程序退出信号。程序运行过程中,按Ctrl+\将产生该信号
- SIGBUS和SIGSEGV:进程访问非法地址
- SIGFPE:运算中出现致命错误,如除0操作、数据溢出等
- SIGKILL:用户终止进程信号。shell下执行kill -9发送该信号
- SIGTERM:结束进程信号。shell下执行kill 进程pid发送该信号
- SIGALRM:定时器信号
- SIGCLD:子进程退出信号。如果其父进程没有忽略该信号也没有处理该信号,则子进程退出后将形成僵尸进程
- 信号量:信号量是一个计数器,可以用来控制多个进程对共享资源的访问。它常作为一种锁机制。因此,主要作为进程间以及同一进程内不同线程之间的同步手段
- 消息队列:消息队列是消息的链接表,包括posix消息队列和system V消息队列。有足够权限的进程可以向队列中添加消息,被赋予读权限的进程则可以读走队列中的消息。消息队列克服了信号承载信息量少,管道只能承载无格式字节流以及缓冲区大小受限等缺点
- 共享内存:共享内存就是映射一段能被其他进程访问的内存,这段共享内存由一个进程创建,但多个进程都可以访问。共享内存是最快的IPC方式,它是针对其他进程间通信方式运行效率低而设计的。往往与其他通信机制配合使用,来实现进程间的同步和通信。
- Socket:与其他通信机制不同的是,它可以用于不同机器间的进程通信。
- 优缺点:
- linux系统中常用信号:
临界区:
- 通过对多线程的串行化来访问公共资源或一段代码,速度快,适合控制数据访问。
- 优点:保证在某一时刻只有一个线程能够访问数据的简便办法
- 缺点:虽然临界区同步速度快,但却只能用来同步本进程内的线程,而不可以用来同步多个进程中的线程
- 互斥量
- 为协调共同对一个共享资源的单独访问而设计的。互斥量跟临界区很相似,比临界区复杂,互斥对象只有一个,只有拥有互斥对象的线程才具有访问资源的权限
- 优点:使用互斥不仅能够在同一应用程序的不同线程中实现资源的安全共享,而且可以在不同应用程序的线程之间实现对资源的安全共享。
- 缺点:
- 互斥量是可以命名的,可以跨越进程使用,所以创建互斥量需要更多资源,所以如果只为了在进程内使用的话临界区会带来速度的优势并减少资源占用
- 通过互斥量可以制定资源独占的方式使用,但如果有下面一种情况互斥量就无法处理:比如现在一位用户购买了一份三个并发访问许可的数据库系统,可以根据用户购买的访问许可来决定有多少个线程/进程能同时对数据库操作,这时候如果利用互斥量就没办法完成这个要求,信号量对象可以说是一种资源计数器
- 信号量
- 为控制一个具有有限数量用户资源而设计。它允许多个线程在同一时刻访问同一资源,但是需要限制在同一时间访问此资源的最大线程数。互斥量是信号量的一种特殊情况,当信号量的最大资源数=1就是互斥量了
- 优点:适用于对socket(套接字)程序中线程的同步
- 缺点:
- 信号量机制必须有公共内存,不能用于分布式操作系统,这是它最大的弱点
- 信号量机制功能强大,但使用时对信号量的操作分散,而且难以控制,读写和维护都很困难,加重了程序员的编码负担
- 核心操作P-V分散在各个用户程序的代码中,不容易控制管理,并且发生错误时后果严重,而且不容易发现和纠正。
- 为控制一个具有有限数量用户资源而设计。它允许多个线程在同一时刻访问同一资源,但是需要限制在同一时间访问此资源的最大线程数。互斥量是信号量的一种特殊情况,当信号量的最大资源数=1就是互斥量了
事件:
临界区:
- 当有多个线程访问一个独占共享资源时,可以使用临界区对象。拥有临界区的线程可以访问被保护的资源或代码段,其他线程若想访问,则被挂起,直到拥有临界区的线程放弃临界区为止,以此达到用原子方式操作资源的目的。
- 事件:
- 事件机制,允许一个线程在处理完一个任务以后,主动唤醒另一个线程执行任务
- 互斥量:
- 互斥对象和临界区对象非常相似,只是它允许在进程间使用,而临界区只限制同一个进程间的线程使用,但是更节省资源
- 信号量:
- 当需要一个计数器来限制可以使用某共享资源的线程数目时,可以使用“信号量”
- 区别:
- 互斥量与临界区的作用相似,但是互斥量是可以命名的,也就是说互斥量可以跨进程使用,但创建互斥量需要的资源更多,所以如果只是为了在进程内部使用的话可以使用临界期。而互斥量是跨进程的,一旦被创建,就可以通过名字打开它
- 互斥量,信号量,事件都可以跨进程来进行同步数据的操作
线程的分类
从线程的运行空间来说,分为
- 用户级线程(user-level thread ULT)
- 内核级线程(kernel-level thread KLT)
- 如果有若干进程要求进入空闲的临界区,一次只允许一个进程进入,如果已经有进程进入自己的临界区,则其他所有请求进入临界区的进程必须等待
- 进入临界区的进程要在有限的时间内退出
如果进程不能自己进入临界区,则应让出CPU,避免进程出现“忙等”的现象
什么是死锁?死锁产生的条件
什么是死锁:
在两个或多个并发进程中,如果每个进程持有某种资源而又等待其他进程释放它或它们现在保持着的资源,在未改变这种状态之前不能向前推进,成这一组进程产生了死锁。通俗的讲就是两个或多个进程无限期的阻塞,相互等待的现象。
死锁产生的四个必要条件(只要有一个条件不成立,就不会产生死锁)- 互斥条件:一个资源一次只能被一个进程使用
- 请求与保持条件:一个进程因请求资源而阻塞时,对已经获得的资源保持不放
- 不剥夺条件:进程获得的资源,在未完全使用之前,不能强行剥夺
- 循环等待条件:若干进程之间形成一种头尾相接的环形等待资源关系
如何处理死锁:
- 忽略该问题:如鸵鸟算法,该算法可以应用在极少发生死锁的情况下。
- 检测死锁并且恢复
- 仔细的对资源进行动态分配,来避免死锁
- 通过破除死锁的四个必要条件之一,来防止产生死锁
进程调度策略有哪几种
- 先进先出:非抢占式的调度算法,按照请求顺序进行调度。有利于长作业,不利于短作业,因为短作业必须一直等待前面的长作业执行完毕才能执行,而长作业有需要执行很长时间,造成了短作业等待时间过程。另外,对IO密集型进程也不利,因为这种进程每次IO操作后又要重新排队
- 短作业优先:非抢占式的调度算法,按估计运行时间最短的顺序进行调度。长作业可能会饿死,处于一直等待短作业完成的状态。如果一直有短作业到来,长作业就一直无法调度
- 最短剩余时间优先:最短作业优先的抢占式版本,按剩余运行时间的顺序进行调度。当一个新作业到达时,其整个运行时间与当前进程的剩余时间进行比较。如果新的进程需要的时间更少,就挂起当前进行执行新的进程
- 时间片轮转:将所有就绪的进程按FCFS(first come first service)的原则排队,每次调度时,把cpu时间分配给队首进程,该进程可以执行一个时间片。当时间片用完时,由计时器发出时钟中断,调度程序便停止该进程的执行,并将它送往就绪队列的末尾,同时继续把CPU时间分配给队首的进程
- 时间片轮转算法的效率和时间片的大小有很大关系,因为进程切换都要保存进程的信息并且载入新进程的信息
优先级调度:为每个进程分配一个优先级,按优先级进行调度。为了防止低优先级的进程永远等不到调度,可以随着时间的推移增加等待进程的优先级。
进程有哪些状态
一共有5种状态,分别是创建、就绪、运行、终止、阻塞
运行状态就是进程在cpu运行
- 就绪状态就是进程准备运行,在等待cpu调度
-
什么是分页
把内存空间划分为大小相等且固定得块,作为主存的基本单位。因为程序数据存储在不同的页面中,而页面又离散的分布在内存中,因此需要一个页表来记录映射关系,来实现从页号到物理块号的映射
访问分页系统中内存数据需要两次的内存访问(一次是从内存中访问页表,从中找到指定的物理块号,加上页内偏移得到实际物理地址;第二次就是根据物理地址取出内存数据)
什么是分段
分页是为了提高内存利用率,而分段是为了满足程序员在编写代码的时候一些逻辑需求(比如数据共享,数据保护,动态链接等)
分段内存管理中,地址是二维的,一维是段号,二维是段内地址;其中每个段的长度不一,而且段内部都是从0开始编址的。由于分段管理中,每个段内部是连续内存分配,但是段和段之间是离散分配的,因此也存在一个逻辑地址到物理地址的映射关系,相应地就是段表机制
分页和分段有什么区别
分页对程序员是透明的,但是分段需要程序员显示划分每个段
- 分页的地址空间是一维的,分段是二维的
- 页的大小不可变,段的大小可以动态改变
分页主要用于实现虚拟内存,从而获得更大的地址空间;分段主要是为了使程序和数据可以被划分为逻辑上独立的地址空间,有助于共享和保护
什么是交换空间
操作系统把物理内存分成一块一块的小内存,每一块内存被称为页(page)。当内存资源不足时,linux把某些页内的内容转移到硬盘上的一块空间上,来释放内存空间。硬盘上的那块空间叫做交换空间,而这一过程被称之为交换。物理内存和交换空间的容量就是虚拟内存的可用容量。
用途:
物理内存不足时不常用的页可以交换出去
程序启动时很多内存页被用来初始化,之后就不再需要,可以交换出去页面替换算法有哪些
在程序运行运行过程中,如果要访问的页面不在内存中,就发生缺页中断从而将该页调入内存中。此时如果内存已无空闲空间,系统必须从内存中调出一个页面到磁盘对换区中来腾出空间。页面替换包含以下算法:
最佳算法:
- 所选的的被换出的页面将是最长时间内不再被访问,通常可以保证获得最低的缺页率。这是一种理论上的算法,因为无法知道一个页面多长时间不再被访问
- 先进先出
- 选择换出的页面是最先进入的页面。该算法将哪些经常被访问的页面也被换出,从而使缺页率升高
- LRU
- 虽然无法知道将来要使用的页面情况,但是可以知道过去使用页面的情况。LRU将最近最久未使用的页面换出,维护链表实现LRU会让消耗很大,因为每次访问都要维护链表*
时钟算法
程序崩溃,拒绝服务
- 跳转并执行一段恶意代码
什么是虚拟内存?
让物理内存扩充成更大的逻辑内存,从而让程序获得更多的可用内存。虚拟内存使用部分加载的技术,让一个进程或者资源的部分页面加载进内存,从而能够加载更多的就进程,甚至能加载比内存更大的进程,这样看起来内存好像变大了,这部分内存其实包含了磁盘或者硬盘,就叫做虚拟内存。
讲一讲IO多路复用
IO多路复用是指内核一旦发现进程指定的一个或多个IO条件准备被读取,它就通知该进程。IO多路复用适合如下场景:
- 当客户处理多个描述字时(一般是交互式输入和网络套接口),必须使用IO复用
- 当客户同时处理多个套接口,但这种情况很少出现
- 如果一个tcp服务器既要处理监听套接口,又要处理已连接套接口,一般用到IO复用
- 如果一个服务器处理多个服务或者协议,一般用到IO复用
与多线程和多进程技术相比,IO多路复用技术的最大优势就是系统开销小,系统不必创建和维护进程/线程,大大减小了系统的开销
硬链接和软连接有什么区别
硬链接就是在目录下创建一个条目,记录着文件名与inode编号,这个inode就是源文件的inode。删除任意一个条目,文件还是存在,只要引用的数量不为0。但是硬链接有限制,它不能跨越文件系统,也不能对目录进行链接
符号链接文件保存着源文件所在的绝对路径,在读取时会定位到原文件上,可以理解为windows的快捷方式。
中断的处理过程?
保护现场:程序的相关数据保存在寄存器,然后入栈
- 开中断:以便执行中断时能够响应较高级别的中断清酒
- 中断处理
- 关中断:保证恢复现场时不被新的中断打扰
-
中断和轮询有什么区别
轮询:CPU对特定设备轮询访问。效率低等待时间长,cpu利用率不高
- 中断:通过特定事件提醒CPU。容易遗漏问题,cpu利用率不高
请详细介绍一下TCP的三次握手机制,为什么要三次握手
- 客户端TCP向服务端TCP发送一个不带额外数据的特殊TCP报文段,该报文段的SYN标志会被置位1,所以把它成为SYN报文段。这时客户端会选取一个初始序列号(假设为client_num),并将此编号放置在序号字段中。该报文段会被封装在一个IP数据报中发送给服务器
- 服务器接收到SYN报文段后,会为该TCP分配缓存和变量,并发送允许连接的确认报文。在允许连接的报文中,SYN仍被置为1,确认号字段填的是client_num+1。最后服务端也会选取一个server_num存到序号字段中,这个报文段成为SYNACK
- 在接收到SYNACK后,客户端向服务端发送一个确认报文,这个报文的SYN置为0,在确认号填上server_num+1,并且这个报文段可以携带数据。
- 一旦完成这3个步骤,客户端和服务器之间就可以相互发送包含数据的报文了。
- 如果不是三次握手,而是两次的话,服务器就不知道客户端是否已经接收到自己的SYNACK,从而无法建立连接;四次握手就显得多余了。
讲一讲SYN超时,洪泛攻击,以及解决策略
在tcp的三次握手机制的第一部中,客户端会向服务端发送SYN报文段。服务器接收到SYN报文段后会为该tcp分配缓存和变量,如果攻击者大量往服务器发送syn报文段,服务器的链接资源就会被耗尽,导致内存溢出无法继续服务
解决策略:当服务器收到SYN报文段时,不直接为该TCP分配资源,而只是打开一个半开的套接字。接着会使用SYN报文段的源ID,目的ID,端口号以及只有服务器自己知道的秘密函数生成一个cookie,并把cookie作为序列号响应给客户端。
如果客户端是正常建立连接,将会返回一个确认字段为cookie+1的报文段。接下来服务器会根据报文的源ID、目的ID、端口号以及秘密函数计算出一个结果,如果该结果的值+1等于确认的字段,就证明是刚刚请求连接的客户端,这时候再为TCP分配资源。
这样一来就不会为恶意攻击的SYN报文段分配资源空间,避免了攻击。详细介绍一下TCP的四次挥手机制,为什么要有TIME_WAIT状态,为什么需要四次握手?服务器出现了大量的CLOSE_WAIT状态如何解决?
当客户端要服务器断开连接时,客户端tcp会向服务器发送一个特殊的报文段,该报文段的FIN标志为1,接着服务器会向客户端发送一个确认报文段。然后服务器也会向客户端发送一个FIN为1的终止报文段,随后客户端会送一个确认报文段,服务器立即断开连接。客户端等待一段时间后也断开连接。由于tcp是全双工的,客户端和服务端都可以发起断开连接。两边各发起一次断开连接的申请,再加上各自,就像执行了4次挥手。
为什么要有time_wait状态?因为客户端最后向服务器发送的确认ACK是有可能丢失的,当出现超时,服务端会再次发送fin报文段,如果客户端已经关闭就收不到了。还有一点是避免新旧链接混淆。
大量close_wait表示程序出现了问题,对方的socket已经关闭连接,而我方忙于读写或没有及时关闭连接,需要检查代码,特别是释放资源的代码,或者是处理请求的线程配置。