MPI阻塞与非阻塞通信

MPI消息的“顺序”性

MPI要求消息是不可超越的（nonovertaking）。即如果q号进程发送了两条消息给r号进程，那么q进程发送的第一条消息必须在第二条消息之前可用。但是，如果消息是来自不同进程的，消息的到达顺序是没有限制的。即如果q号进程和t号进程都向r号进程发送了消息，即使q号进程在t号进程发送消息之前就将自己的消息发送出去了，也不要求q号进程的消息在t号进程的消息之前一定能被r号进程所访问。这本质上是因为 MPI不能对网络的性能有强制性要求。例如，如果q号进程在火星上的某台机器上运行，而r号进程和t号进程都在旧金山的同一台机器上运行，并且q号进程只是在t号进程发送消息之前的1纳秒发送了消息，那么要求q号进程的消息在t号进程之前到达，是不合理的。

也就是，对于0号进程给1号进程两条消息，这样对于第一条第二条是有顺序的。
但是对于0号和1号都给2号进程发一条消息，不能因为你0号消息早一点而要求2号进程必须接受先你0号的消息，而后接受1号的消息，这样是不合理的。就好比我从北京去长沙，他从武汉去长沙，只不过我先启动1分钟，而导致不能要求长沙先接收我而拒绝早到的他。

编写安全的MPI程序

死锁

进程0的第一条接收语句A能否完成取决于进程1的第二条发送语句D，即A依赖于D，从执行次序上可以明显地看出，进程0向进程1发送消息的语句C的执行又依赖于它前面的接收语句A的完成，即C依赖于A；同时，进程1的第一条接收语句B能否完成取决于进程0的第二条发送语句C的执行，即B依赖于C，从执行次序上可以明显地看出，向进程0发送消息的语句D的执行又依赖于B的完成，故有A依赖于D，而D又依赖于B，B依赖于C，C依赖于A，形成了一个环，进程0和进程1相互等待，彼此都无法执行下去，必然导致死锁。