mpi4py - 在 Python 中运行 C++ 代码时查找哪个线程过早退出

问题描述

我正在使用带有 python3 接口的复杂 C++ 代码（使用 ctypes）。为简单起见，我在下面复制了一个简单的 C++ 代码来构建我的问题。函数 exitOrNot() 接受一个参数 index 并在它是 7 的倍数时退出。如果不是，它返回数字。实际上，复杂的 C++ 代码有很多参数，一些组合会导致程序退出，我希望在 python3 代码中识别。

multi.cpp

#include <iostream> 
#include <cstdlib>

extern "C" int exitOrNot(int index) {
    int ret;
    if(index%7 == 0) {
        std::cout << "EXITING... \n";
        std::exit(EXIT_FAILURE);
    }
    else {
        ret = index;
    }
    return ret;
}

我使用以下命令为上述程序 libmulti.so 创建了一个共享库 - g++ -fPIC -shared -o libmulti.so multi.cpp

在我的 Python 模块中，我使用 mpi4py 进行并行处理。在这个简单的例子中，我有两个函数 - ctypes_exitOrNot() 接收之前的 C++ 函数，multi() 迭代多个输入参数（在这个例子中，5*50=250 个参数）。>

multi.py

import numpy as np
from mpi4py import MPI
import ctypes

_multi = ctypes.CDLL('./libmulti.so')

def ctypes_exitOrNot(index):
    ret = _multi.exitOrNot(ctypes.c_int(index))
    return ret

def multi(N):
    comm = MPI.COMM_WORLD
    rank = comm.Get_rank()
    N_threads = comm.Get_size()-1 # Thread 0 is used only for IO
    
    N_jobs = N
    N_jobs_per_thread = int(np.ceil( float(N_jobs)/float(N_threads) ))
        
    print("\nrank",rank,"N_threads",N_threads,"N_jobs_per_thread",N_jobs_per_thread,"\n")

    indices = range(rank-1,N_jobs,N_threads)
    
    if rank == 0: # IO thread             
        completed_ranks = []
        while True: # Wait to receive data until all threads are done
            status = MPI.Status()
            data = comm.recv(source=MPI.ANY_SOURCE,tag=MPI.ANY_TAG,status=status)
            received_rank = status.Get_source()
            
            if data == "done":
                completed_ranks.append(received_rank)
            else:               
                index_system = data["index_system"]    
                with open("completed.txt","a") as file_completed:
                    file_completed.write(str(index_system) + '\n')
                
            if len(completed_ranks)==N_threads:
                print("\nrank 0 -- all threads done; completed_ranks",completed_ranks,"\n")
                break

    else:
        for index_rank,index_job in enumerate(indices):
            index_system = index_job
            
            print("rank","index_system",index_system,"started")

            # EXITING CONDITION FROM EXTENAL C++
            ret = ctypes_exitOrNot(index_system)
            data = {"index_system":ret}

            print("rank","ended")
            
            comm.send(data,dest=0,tag=index_system)
        
        # This thread is done
        data = "done"
        comm.send(data,tag=index_system)
    
if __name__ == '__main__':
    multi(5*50)

上面代码的重要一行是ret = ctypes_exitOrNot(index_system)。传递给 exitOrNot() 的整数参数是索引 0-249，当它们被分成不同的线程时，任何可被 7 整除的索引都会退出该线程。当所有线程退出时程序结束。作为参考，我的终端命令是 - mpiexec -n 6 python3 multi.py

我终于来回答我的问题了。当线程退出时，C++ 程序打印“EXITING...”，但我不知道哪个索引导致哪个线程退出。在这种情况下，每 7 个索引都会导致退出。但是在我的实际程序中，我不知道哪种输入参数组合会导致退出。此外，我无法编辑 C++ 文件本身。

有什么方法可以让我从 Python 模块中找出有问题的索引吗？

解决方法

暂无找到可以解决该程序问题的有效方法，小编努力寻找整理中！

如果你已经找到好的解决方法，欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@）

c++ctypes mpi4py python