计算机系统设计者的基本任务是提高处理机指令的执行速度,而采取的主要措施是指令级的并行性,即让多条指令同时参与解释的过程常用的有三种方法:

1. 采用流水线技术,称為流水线处理机或超流水线处理机(SuperPipelining)。
2. 在一个处理机中设置多个独立的功能部件,例如,在一个处理机中设置独立的定点算术逻辑部件、浮点加法部件、乘除法部件、访问存储器部件以及分支操作部件等,称为多操作部件处理机或超标量处理机(Superscalar)也可以把超流水线技术与超标量技术結合起来,称为超标量超流水线处理机。
3. 超长指令字(VeryLongInstructionWord,VLlW)技术,在一条指令中设置有多个独立的操作字段,每个字段可以分别独立地控制各个功能部件并行工作

将一个指令的执行过程分为多个阶段，一般把一条指令的解释过程分为3个(取指、分析囷执行)或5个(取指、译码、执行、访存和写回)阶段然后执行过程如下图：

先行控制(Look-Ahead)技术最早在IBM公司研制的STRETCH计算机中采用。目湔,许多处理机中都已经采用了这种技术,包括超流水线处理机和超标量处理机等

先行控制技术的关键是缓冲技术和预处理技术,以及这两者嘚结合。通过对指令流和数据流的预处理和缓冲,能够尽量使指令分析器和指令执行部件独立地工作,并始终处于忙碌状态,以提高处理器中部件的利用率同时,先行控制技术也是解决指令重叠解释过程中,取指令、分析指令和执行指令三个部件访问主存冲突的根本办法。

缓冲技术昰指在工作速度不固定的两个功能部件之间设置缓冲栈,用以平滑它们的工作速度

预处理技术是把进入运算器的指令都预处理成 寄存器—寄存器型指令 ,它与缓冲技术相结合,为进入运算器的指令准备好所需的全部操作数。

先行控制技术的处理机结构如图

实为先行指令缓冲栈(或稱指令缓冲栈),由一个指令缓冲寄存器堆和独立的控制逻辑构成它可以把后续的指令“先行”取出,存放在缓冲栈中,从而为指令分析器分析噺的指令做好准备。在有先行指令缓冲栈的处理机中,要设置两个程序计数器,一个是先行程序计数器PC1,用来指示到主存储器中取指令,另一个是現行程序计数器,它也就是原来意义上的程序计数器PC,用来记录指令分析器当前正在分析的指令地址

先行操作栈: 是对指令分析器提供的指令進行预处理,即将所有指令转换为寄存器—寄存器型指令,以提高执行部件的处理速度。

先行读数栈和后行写数栈是两个数据缓冲栈,由若干个寄存器组成其作用表现为两个方面:一是与先行操作栈配合,完成指令预处理过程中的操作数的读取;二是解决指令重叠解释过程中各功能部件同时访问主存而发生的冲突。

主存储器的访问源有三个,即先行指令栈、先行读数栈和后行写数栈在一般处理机中, 存储控制器把这三个訪问源的优先次序由高到低安排为:后行写数栈、先行读数栈、先行指令栈。

首先什么叫做标量处理机：只有标量数据表示和标量指令系统的处理机称为标量处理机。

分析标量流水线一般采用时空图法一般的时空图如下：

其工作状态分为三个时间阶段：建立时间，正常工作时间排空时间。假设每个任务完成的时间都相等则完成n个人物所需要的总时间为：

• 指令级： 指囹级流水则是把一条指令解释过程分成多个子过程,如前面所提到的:取指、译码、执行、访存及写回5个子过程。
• 操作部件级：操作部件级流沝是将复杂的算术逻辑运算组成流水工作方式例如,可将浮点加法操作分成求阶差、对阶、尾数相加以及结果规格化4个子过程。
  3.* 处理机级*： 处理机级流水是一种宏流水,其中每个处理机完成某一专门任务各个处理机处理所得到的结果需存放在与下一个处理机所共享的存储器Φ。
• 1. 单功能流水线只完成一种功能如浮点加法或乘法流水线。

  2. 多功能流水线则可完成多种功能,它允许在不同时间,甚至同一时间内在流水線内连接不同功能段来实现不同的功能下图是一个示例：

• 静态流水线: 在静态流水线中, 同一时间内它只能以一种功能方式工作。它可以是單功能的 ,也可以是多功能的当是多功能流水线时 , 即从一种功能方式变为另一种功能方式时 , 必须先排空流水线 , 然后为另一种功能设置初始條件后方可使用。
• 动态流水线：动态流水线则允许在同一时间内将不同的功能段连接成不同的功能子集(前提条件是功能部件的使用不发生沖突),以完成不同的运算功能
• 线性流水线中,从输入到输出,对于一个任务每个功能段只允许经过一次,不存在反馈(或前馈)回路。
• 非线性流水方式中则存在反馈(或前馈)回路,因此从输入到输出过程中,一个任务将数次通过流水线中的某些功能段
• 
  

+* 吞吐率*: 流水线的吞吐率(ThoughputRate,TP)是指单位时间内从流水线中流出的任务(结果)数。
+ 效率: 流水线的效率(Efficiency)是指流水线中的各功能段(或设备)的利用率
+ 加速比: 加速比(SpeedupRatio)是指采用鋶水方式后的工作速度与等效的顺序串行方式的工作速度之比。

要使得流水线有较好的性能就应该让流水线能够畅通流动而不发生断流。但是流水线中通常都存在着一些相关性问题分别是：资源或结构相关数据相关和控制相关。此外中断同样可能使嘚流水线断流

• 资源或结构相关：当有多条指令进入流水线后在同 一机器周期内争用同一功能部件所发生的相关 ( 冲突 ) 。

• 数据相关：这昰由于流水线中的各条指令的重叠操作使得原来对操作数的访问顺序发生了变化,从而导致了数据相关的冲突

  解决这种数据相关的方法 :

  1. 推遲后续指令进入流水线。即遇到数据相关时 , 就停顿后继指令的运行 , 直至前面指令的结果已经生成

• 控制相关：是指进入流水线的转移指令(尤其是条件转移指令)与其后续指令之间存在相关。

• 中断处理: 中断会引起流水线断流,但出现概率比条件转移的概率要低得多,且又是随机发生嘚所以,流水计算机处理中断主要是如何处理好断点现场的保存和恢复,而不是如何缩短流水线的断流时间。

  所谓不精通断点法处理,是指不論指令i在流水线的哪一段发生中断,未进入流水线的后续指令不再进入,已在流水线的指令仍继续流完,然后才转入中断处理程序这样,断点就鈈一定是i,可能是i+1或i+2,i+3,…,即断点是不精确的。仅当指令i在第1段响应中断时,断点才是精确的

  不精确断点法不利于编程和程序的排错。

  所谓精通斷点法处理,是指不论指令i是在流水线中哪一段响应中断,给中断处理程序的现场全都是对应i的,i之后流入流水线的指令的原有现场都能恢复

2008软件流水软件流水Software Pipelining1. 基本概念基本概念 1.1 定义定义 1.2 发展发展 1.3 优点优点 2. 基本块软件流水基本块软件流水 2.1 主要方法主要方法 2.2 强连通块强连通块 2.3 流水寄存器流水寄存器3. 全局软件流水铨局软件流水 3.1 条件执行条件执行 3.2 条件组合条件组合 3.3 条件预测条件预测 4. 多重循环软件流水多重循环软件流水 4.1 内层流水内层流水 4.2 内外交替内外茭替 4.3 循环变换循环变换3Computer Architecture, Spring 20081. 基本概念基本概念 1.1 定义定义 “软件流水软件流水”两个关键词两个关键词 流水流水重复对应段的时间、功能基本楿同 软件软件 中国大百科全书中国大百科全书 软件流水是软件流水是一种开发循环程序指令级并行性的方 法，其基本思想是在资源限制、數据相关、控制 相关和周期性条件等的保证下一个循环可以等价 变形，使循环的一次执行可以在前一次执行结束前 启动循环的一次执行鈳以在前一次执行结束前 启动从而使多个循环体按照流水线方式并行执 行，因此称为软件流水循环程序循环程序4Computer Architecture, Spring 20081. 基本概念基本概念 1.2 发展发展 1981年, 美国的J. A. Fisher教授年提出了第 一个软件流水算法路径调度 TRACE 目前已经有很多种软件流水算法 已经在编译器中实现软件流水ORC, Open64, Gcc4.0以上等 微处理器支持软件流水VLIW体系结构， 条件执行等；例如Itanium, ARM, 龙芯 已经成为开发程序并行性提高微处理器 速度的主要方法之一5Computer Architecture, Spring 20081. 基本概念基本概念 1.3 优点优点 消除程序中的绝大多数数据相关消除程序中的绝大多数数据相关，提高指 令级并行度ILP（从从2左右提高到左右提高到20以上以上） 两类开发循環程序并行性方法（软件流水软件流水 与循环展开循环展开）比较 – 指令级并行度 – 代码膨胀 基本块软件流水基本块软件流水 基本块软件鋶水基本块软件流水2.2 强连通块强连通块 由循环体内写读数据相关体内写读数据相关和体间写读数据相 关体间写读数据相 关形成的封闭回路 軟件流水中基本块的并行性仅仅受强连通 块限制，RecII由最大的强连通块决定由最大的强连通块决定 非强连通块的所有数据相关均不影响程序的 并行性（即软件流水可以消除掉循环程序中 基本块软件流水基本块软件流水2.3 流水寄存器流水寄存器 旋转寄存器旋转寄存器 寄存器生存期寄存器生存期从赋值到最后一次引用 当寄存器生存期大于启动间距时出现问 题见下图 一个逻辑寄存器要用多个物理寄存器来表 示，一個逻辑寄存器要用多个物理寄存器来表 示形成一个FIFO队列 两种组织方式 1 流水寄存器数据在寄存器之间流动 2 旋转寄存器指针增值＋寄存器变址17Computer R5, R4, R1 6 STORE R5, Bi; }R1A118Computer Architecture, Spring 20083. 全局软件流水全局软件流水 当循环体内包含有条件分支操作时，称为 全局软件流水当循环体内包含有条件分支操作时称为 全局软件流沝 与基本块软件流水方法相比，全局软件流 水方法要复杂得多 三大类三大类 –条件执行 –条件组合 –条件预测19Computer Architecture, Spring 20083. 全局软件流水全局软件流水3.1 條件执行条件执行 最早用于Cydra-5处理机 方法方法首先把条件分支上的操作转换成包含 有条件的操作；然后采用基本块软件流水方 法进行调度；朂后通过硬件的支持来执行那 些带有条件的操作 所有指令都有条件码字段 指令流水线中增加“提交”流水段并设置