多参数函数的Python并行处理语法

2024-09-27 23:20:23 发布

您现在位置:Python中文网/ 问答频道 /正文

嗨,由于程序运行时间太长,我正在尝试在多个内核上并行运行一个函数。我找不到具有多个参数的函数的多处理语法。我在下面附上了我的代码,不知道如何修复语法。在

import pandas as pd
import numpy as np
import numpy.random as rdm
import matplotlib.pyplot as plt
import math as m
import random as r
import time
from joblib import Parallel, delayed

def firstLoop(r1, r2, d):
    count = 0
    for i in range(r1):
        for j in range(r2):
            if(findDistance(dat1[i, 0], dat2[j, 0], dat1[i, 1], dat2[j, 1]) <= d):
                count = count + 1
    return count

food1 = range(r1)
atm1 = range(r2)
d = 100
num_cores = multiprocessing.cpu_count()
results = Parallel(n_jobs=num_cores)(delayed(firstLoop)(for i in food1, for j in atm1, d))

我尝试在多个内核上运行firstLoop,其中包含food1和atm1中的所有元素,但不确定程序的语法。在

编辑:

^{pr2}$

Tags: 函数inimportnumpyforascount语法
1条回答
网友
1楼 · 发布于 2024-09-27 23:20:23

对具有多个参数的函数进行多处理的一个简单语法是使用Pool()starmap()

import multiprocessing as mp

def f(x, y):
    return x+y

with mp.Pool(processes = mp.cpu_count()) as p:
    p.starmap(f, [(x, y) for x in range(10) for y in range(10)])

为此,函数f必须执行一个基本步骤。在

在您的代码中:

^{pr2}$

基本步骤是findDistance(dat1[i, 0], dat2[j, 0], dat1[i, 1], dat2[j, 1]) <= d)。一个可能的函数f可以是:

def f(i, j, d):
    if findDistance(dat1[i, 0], dat2[j, 0], dat1[i, 1], dat2[j, 1]) <= d):
        return 1
    else:
        return 0

然后初始化结果数组和变量:

r1 = 
r2 = 
d = 100
results = np.zeros(shape=(1,r1*r2))

# Compute
with mp.Pool() as p:
    results = p.starmap(f, [(i, j, d) for i in range(r1) for j in range(r2)])

然后计算你只需要求和数组的和。我没有测试代码,想法就在这里,但是可能需要一些修改,特别是在从map函数返回结果并存储它们的方式上。我不经常使用这种语法,因为我主要是将结果存储在函数多处理末尾的一个文件中。在

也许事先并不需要创造结果。不确定。在

相关问题 更多 >

    热门问题