非常慢的麻木或操作

2022-05-26 00:00:00 python-3.x numpy numpy-ndarray

问题描述

我正在对大型数据集执行OR操作,该数据集是一个数值dtype数组对象。

下面的代码是外部for循环的一部分,该循环遍历15列,并检查这些列中是否有用户名可用,如果可用,则标记这些行以供进一步操作。

mask= mask | (np_array[:,col_index[f"COL_{col_number}"]] == username)
MASK=与NP_ARRAY长度相同的Numpy一维数组 NP_ARRAY=Numpy dtype ndarray对象

此行代码占用了我全部代码时间的60%以上。

有什么方法可以改进/优化上述代码性能吗?

谢谢, LIVA


解决方案

alist = [(np_array[:,col_index[f"COL_{col_number}"]] == username) for col_number in range(columns)]

这应该是所有colnumber测试的列表

mask = np.logical_or.reduce(alist)

or将它们放在一起。性能应该比重复的or更好。但如果alist构建是最慢的一步,我也不会感到惊讶。

但没有可运行的示例,我无法测试或计时。

相关文章