为了账号安全,请及时绑定邮箱和手机立即绑定

Python多处理中写入共享内存(列表)的同步

Python多处理中写入共享内存(列表)的同步

人到中年有点甜 2021-09-11 19:14:46
我有以下代码:import multiprocessingmanager = multiprocessing.Manager()如果列表的长度小于 4,则附加列表或创建一个具有初始值 'y' 的新列表的函数。def f(my_array):    if len(my_array) < 4:        my_array.append('x')    else:        my_array = ['y']    print(my_array)列表的初始化和创建过程。if __name__ == '__main__':    my_array = manager.list(['a', 'b', 'c'])    p1 = Process(target=f, args=(my_array))    p2 = Process(target=f, args=(my_array))    p3 = Process(target=f, args=(my_array))    p4 = Process(target=f, args=(my_array))    p5 = Process(target=f, args=(my_array))    p1.start()    p2.start()    p3.start()    p4.start()    p5.start()    p1.join()    p2.join()    p3.join()    p4.join()    p5.join()我得到的输出:['a', 'b', 'c', 'x']['y']['y']['y'] ['y']我不明白为什么列表只附加一次。我希望在第三个输出行中我会观察到列表 ['y'] 附加了 'x',所以 ['y', 'x'],第四个 ['y', 'x', 'x']等等。似乎共享内存泄漏或不允许多个进程的函数进行更改。我该怎么做才能实现目标行为?
查看完整描述

1 回答

?
慕桂英4014372

TA贡献1871条经验 获得超13个赞

同步是您的示例中缺少的一点。manager.list只是一个list单独的服务器进程中的正常情况,您的工作进程可以通过代理对象进行修改。您的进一步流程恰好同时检查len(my_array)。


没有同步,这告诉他们应该等到另一个进程完成它的操作,包括执行此长度检查并根据此检查的结果执行操作。您的更新操作不是原子操作,您需要通过在您的操作周围使用 manager.lock 来实现它。


您的代码中还有另一个问题,您重新绑定my_array以指向普通 list ['y'],而不是更新/修改 shared manager.list。你是不是修改manager.list与设置过程my_array = ['y']中,manager.list保持它的价值['a', 'b', 'c', 'x']通过第一个工作流程,直到程序结束,从第一个修改。


from multiprocessing import Process, Manager



def f(my_array, lock):

    with lock:

        if len(my_array) < 4:

            my_array.append('x')

        else:

            my_array[:] = []  # clear list inplace by assigning

            # empty list to slice of manager.list

            my_array.append('y')

    print(my_array)



if __name__ == '__main__':


    N_WORKERS = 5


    with Manager() as manager:


        my_array = manager.list(['a', 'b', 'c'])

        lock = manager.Lock()


        pool = [

            Process(target=f, args=(my_array, lock)) for _ in range(N_WORKERS)

        ]


        for p in pool:

            p.start()

        for p in pool:

            p.join()


        # Leaving the context-manager block will shut down the manager-process.

        # We need to convert the manager-list to a normal list in the parent

        # to keep its values available for further processing in the parent.

        result = list(my_array)


    print(f'result: {result}')

示例输出:


['a', 'b', 'c', 'x']

['y']

['y', 'x']

['y', 'x', 'x']

['y', 'x', 'x', 'x']

result: ['y', 'x', 'x', 'x']


Process finished with exit code 0


查看完整回答
反对 回复 2021-09-11
  • 1 回答
  • 0 关注
  • 224 浏览
慕课专栏
更多

添加回答

举报

0/150
提交
取消
微信客服

购课补贴
联系客服咨询优惠详情

帮助反馈 APP下载

慕课网APP
您的移动学习伙伴

公众号

扫描二维码
关注慕课网微信公众号