parallel_computer_overview.pdf

节选段落一：
Parallel Programming(Techniques
and Applications using Networked Workstations and Parallel
Computers). Prentice Hall, 1999.
李晓梅,莫则尧等著. 可扩展并行算法的设计与分析. 北京:国防工业出
版社,2000.
张宝琳,谷同祥等著. 数值并行计算原理与方法. 北京:国防工业出版
社,1999.
都志辉著. 高性能计算并行编程技术—MPI并行程序设计.


节选段落二：
）
数据并行（Data Parallel）
共享变量（Shared Variable）
消息传递（Message Passing）
2003年9月 并行计算概述 62/69
隐式并行隐式并行((Implicit Parallel)Implicit Parallel)
概况：
程序员用熟悉的串行语言编程(未作明确的制定并行性)
编译器和运行支持系统自动转化为并行代码
特点：
语义简单
可移植性好
单线程，易于调试和验证正确性
细粒度并行
效率很低
2003年9月 并行计算概述 63/69
数据并行（数据并行（Data ParallelData Parallel））
概况：
SIMD的自然模型
局部计算和数据选路操作


节选段落三：
共享编程
⌧OpenMP
⌧用于SMP, DSM
消息传递
⌧MPI, PVM
⌧用于所有并行计算机
三者可混合使用:
如对以SMP为节点的Cluster来说, 可以在节点间进行消息传递,
在节点内进行共享变量编程.
2003年9月 并行计算概述 68/69
基本并行化方法基本并行化方法
相并行（Phase Parallel）
流水线并行（Pipeline Parallel）
主从并行（Master-Slave Parallel）
分治并行（Divide and Conquer
Parallel）
工作池并行（Work Pool Parallel）
2003年9月 并行计算概述 69/69
谢谢