zmq.error.ZMQError: Address already in use, when running multiprocessing with multiple notebooks using papermill
zmq.error.ZMQError: Address already in use, when running multiprocessing with multiple notebooks using papermill
我正在使用 papermill 库 运行 多个笔记本同时使用多处理。
这发生在 Python 3.6.6 上，Red Hat 4.8.2-15 在 Docker 容器中。
然而，当我 运行 python 脚本时，由于我收到此错误，我大约 5% 的笔记本无法立即工作（没有 Jupyter 笔记本单元 运行）：
Traceback (most recent call last):
File "/opt/conda/lib/python3.6/runpy.py", line 193, in _run_module_as_main
"__main__", mod_spec)
File "/opt/conda/lib/python3.6/runpy.py", line 85, in _run_code
exec(code, run_globals)
File "/opt/conda/lib/python3.6/site-packages/ipykernel_launcher.py", line 16, in <module>
app.launch_new_instance()
File "/opt/conda/lib/python3.6/site-packages/traitlets/config/application.py", line 657, in launch_instance
app.initialize(argv)
File "<decorator-gen-124>", line 2, in initialize
File "/opt/conda/lib/python3.6/site-packages/traitlets/config/application.py", line 87, in catch_config_error
return method(app, *args, **kwargs)
File "/opt/conda/lib/python3.6/site-packages/ipykernel/kernelapp.py", line 469, in initialize
self.init_sockets()
File "/opt/conda/lib/python3.6/site-packages/ipykernel/kernelapp.py", line 238, in init_sockets
self.shell_port = self._bind_socket(self.shell_socket, self.shell_port)
File "/opt/conda/lib/python3.6/site-packages/ipykernel/kernelapp.py", line 180, in _bind_socket
s.bind("tcp://%s:%i" % (self.ip, port))
File "zmq/backend/cython/socket.pyx", line 547, in zmq.backend.cython.socket.Socket.bind
File "zmq/backend/cython/checkrc.pxd", line 25, in zmq.backend.cython.checkrc._check_rc
zmq.error.ZMQError: Address already in use
连同：
Traceback (most recent call last):
File "/opt/conda/lib/python3.6/multiprocessing/process.py", line 258, in _bootstrap
self.run()
File "/opt/conda/lib/python3.6/multiprocessing/process.py", line 93, in run
self._target(*self._args, **self._kwargs)
File "main.py", line 77, in run_papermill
pm.execute_notebook(notebook, output_path, parameters=config)
File "/opt/conda/lib/python3.6/site-packages/papermill/execute.py", line 104, in execute_notebook
**engine_kwargs
File "/opt/conda/lib/python3.6/site-packages/papermill/engines.py", line 49, in execute_notebook_with_engine
return self.get_engine(engine_name).execute_notebook(nb, kernel_name, **kwargs)
File "/opt/conda/lib/python3.6/site-packages/papermill/engines.py", line 304, in execute_notebook
nb = cls.execute_managed_notebook(nb_man, kernel_name, log_output=log_output, **kwargs)
File "/opt/conda/lib/python3.6/site-packages/papermill/engines.py", line 372, in execute_managed_notebook
preprocessor.preprocess(nb_man, safe_kwargs)
File "/opt/conda/lib/python3.6/site-packages/papermill/preprocess.py", line 20, in preprocess
with self.setup_preprocessor(nb_man.nb, resources, km=km):
File "/opt/conda/lib/python3.6/contextlib.py", line 81, in __enter__
return next(self.gen)
File "/opt/conda/lib/python3.6/site-packages/nbconvert/preprocessors/execute.py", line 345, in setup_preprocessor
self.km, self.kc = self.start_new_kernel(**kwargs)
File "/opt/conda/lib/python3.6/site-packages/nbconvert/preprocessors/execute.py", line 296, in start_new_kernel
kc.wait_for_ready(timeout=self.startup_timeout)
File "/opt/conda/lib/python3.6/site-packages/jupyter_client/blocking/client.py", line 104, in wait_for_ready
raise RuntimeError('Kernel died before replying to kernel_info')
RuntimeError: Kernel died before replying to kernel_info
请帮助我解决这个问题，因为我已经在网上搜索了不同的解决方案，none 目前为止对我的情况有效。
无论我同时 运行 笔记本的数量或我计算机上的内核数量如何，都会出现 5% 的错误率，这让人格外好奇。
我试过更改启动方法和更新库但无济于事。
我的库版本是：
papermill==1.2.1
ipython==7.14.0
jupyter-client==6.1.3
谢谢！
明确的问题归因指向ZeroMQ无法成功.bind().
错误信息：zmq.error.ZMQError: Address already in use更容易解释。鉴于显而易见的原因，ZeroMQ AccessPoint-s 可以自由地尝试 .connect() 到许多对应方，但是只有一个可以 .bind() 到特定的传输 Class' 地址目标。
发生这种情况的三个潜在原因：
1 ) 意外调用了一些代码（不知道内部细节）
通过 { multiprocessing.Process | joblib.Parallel | Docker-wrapped | ... }-产生的副本，每个副本都试图获得某个 ZeroMQ 传输 Class 地址的所有权，由于显而易见的原因，在第一次成功后，任何尝试都将失败。
2 ) 一个相当致命的情况，其中一些“以前”-运行 进程没有设法释放此类传输 Class 特定地址以供进一步使用使用（不要记住 ZeroMQ 可能只是其他感兴趣的候选者之一 - 配置管理缺陷），或者在这种情况下，之前的 运行s 无法正常终止此类资源使用并且仍然是 Context()-实例仍在等待（在某些情况下会无限期地等待 O/S 重启）监听某些东西，那永远不会发生。
3 ) 模块软件设计中的一个确实糟糕的工程实践，而不是处理 ZeroMQ API 记录 EADDRINUSE 错误/异常不如让整个马戏团崩溃那么残酷（不惜一切代价）
另一条错误消息：RuntimeError: Kernel died before replying to kernel_info 与状态相关，笔记本的内核尝试了很长时间来建立与其自身组件的所有内部连接（池- peers ) 它等待的时间比配置的或硬编码的超时时间长，内核进程只是停止等待并将自己投入到您观察和报告的其他未处理的异常中。
解决方案
首先检查是否有任何挂起的地址所有者，如果对此有疑问，请重新启动所有节点，接下来验证您自己的代码/ { multiprocessing.Process() | joblib.Parallel() | ... the likes }-调用中没有“隐藏”的冲突尝试，分发后可能尝试 .bind() 到同一个目标。如果这些步骤中的 none 解决了您控制范围内的问题，请询问模块的使用支持，以分析并帮助您重构和验证仍然存在冲突的用例。
我正在使用 papermill 库 运行 多个笔记本同时使用多处理。
这发生在 Python 3.6.6 上，Red Hat 4.8.2-15 在 Docker 容器中。
然而，当我 运行 python 脚本时，由于我收到此错误，我大约 5% 的笔记本无法立即工作（没有 Jupyter 笔记本单元 运行）：
Traceback (most recent call last):
File "/opt/conda/lib/python3.6/runpy.py", line 193, in _run_module_as_main
"__main__", mod_spec)
File "/opt/conda/lib/python3.6/runpy.py", line 85, in _run_code
exec(code, run_globals)
File "/opt/conda/lib/python3.6/site-packages/ipykernel_launcher.py", line 16, in <module>
app.launch_new_instance()
File "/opt/conda/lib/python3.6/site-packages/traitlets/config/application.py", line 657, in launch_instance
app.initialize(argv)
File "<decorator-gen-124>", line 2, in initialize
File "/opt/conda/lib/python3.6/site-packages/traitlets/config/application.py", line 87, in catch_config_error
return method(app, *args, **kwargs)
File "/opt/conda/lib/python3.6/site-packages/ipykernel/kernelapp.py", line 469, in initialize
self.init_sockets()
File "/opt/conda/lib/python3.6/site-packages/ipykernel/kernelapp.py", line 238, in init_sockets
self.shell_port = self._bind_socket(self.shell_socket, self.shell_port)
File "/opt/conda/lib/python3.6/site-packages/ipykernel/kernelapp.py", line 180, in _bind_socket
s.bind("tcp://%s:%i" % (self.ip, port))
File "zmq/backend/cython/socket.pyx", line 547, in zmq.backend.cython.socket.Socket.bind
File "zmq/backend/cython/checkrc.pxd", line 25, in zmq.backend.cython.checkrc._check_rc
zmq.error.ZMQError: Address already in use
连同：
Traceback (most recent call last):
File "/opt/conda/lib/python3.6/multiprocessing/process.py", line 258, in _bootstrap
self.run()
File "/opt/conda/lib/python3.6/multiprocessing/process.py", line 93, in run
self._target(*self._args, **self._kwargs)
File "main.py", line 77, in run_papermill
pm.execute_notebook(notebook, output_path, parameters=config)
File "/opt/conda/lib/python3.6/site-packages/papermill/execute.py", line 104, in execute_notebook
**engine_kwargs
File "/opt/conda/lib/python3.6/site-packages/papermill/engines.py", line 49, in execute_notebook_with_engine
return self.get_engine(engine_name).execute_notebook(nb, kernel_name, **kwargs)
File "/opt/conda/lib/python3.6/site-packages/papermill/engines.py", line 304, in execute_notebook
nb = cls.execute_managed_notebook(nb_man, kernel_name, log_output=log_output, **kwargs)
File "/opt/conda/lib/python3.6/site-packages/papermill/engines.py", line 372, in execute_managed_notebook
preprocessor.preprocess(nb_man, safe_kwargs)
File "/opt/conda/lib/python3.6/site-packages/papermill/preprocess.py", line 20, in preprocess
with self.setup_preprocessor(nb_man.nb, resources, km=km):
File "/opt/conda/lib/python3.6/contextlib.py", line 81, in __enter__
return next(self.gen)
File "/opt/conda/lib/python3.6/site-packages/nbconvert/preprocessors/execute.py", line 345, in setup_preprocessor
self.km, self.kc = self.start_new_kernel(**kwargs)
File "/opt/conda/lib/python3.6/site-packages/nbconvert/preprocessors/execute.py", line 296, in start_new_kernel
kc.wait_for_ready(timeout=self.startup_timeout)
File "/opt/conda/lib/python3.6/site-packages/jupyter_client/blocking/client.py", line 104, in wait_for_ready
raise RuntimeError('Kernel died before replying to kernel_info')
RuntimeError: Kernel died before replying to kernel_info
请帮助我解决这个问题，因为我已经在网上搜索了不同的解决方案，none 目前为止对我的情况有效。
无论我同时 运行 笔记本的数量或我计算机上的内核数量如何，都会出现 5% 的错误率，这让人格外好奇。
我试过更改启动方法和更新库但无济于事。
我的库版本是：
papermill==1.2.1
ipython==7.14.0
jupyter-client==6.1.3
谢谢！
明确的问题归因指向ZeroMQ无法成功.bind().
错误信息：zmq.error.ZMQError: Address already in use更容易解释。鉴于显而易见的原因，ZeroMQ AccessPoint-s 可以自由地尝试 .connect() 到许多对应方，但是只有一个可以 .bind() 到特定的传输 Class' 地址目标。
发生这种情况的三个潜在原因：
1 ) 意外调用了一些代码（不知道内部细节）
通过 { multiprocessing.Process | joblib.Parallel | Docker-wrapped | ... }-产生的副本，每个副本都试图获得某个 ZeroMQ 传输 Class 地址的所有权，由于显而易见的原因，在第一次成功后，任何尝试都将失败。
2 ) 一个相当致命的情况，其中一些“以前”-运行 进程没有设法释放此类传输 Class 特定地址以供进一步使用使用（不要记住 ZeroMQ 可能只是其他感兴趣的候选者之一 - 配置管理缺陷），或者在这种情况下，之前的 运行s 无法正常终止此类资源使用并且仍然是 Context()-实例仍在等待（在某些情况下会无限期地等待 O/S 重启）监听某些东西，那永远不会发生。
3 ) 模块软件设计中的一个确实糟糕的工程实践，而不是处理 ZeroMQ API 记录 EADDRINUSE 错误/异常不如让整个马戏团崩溃那么残酷（不惜一切代价）
另一条错误消息：RuntimeError: Kernel died before replying to kernel_info 与状态相关，笔记本的内核尝试了很长时间来建立与其自身组件的所有内部连接（池- peers ) 它等待的时间比配置的或硬编码的超时时间长，内核进程只是停止等待并将自己投入到您观察和报告的其他未处理的异常中。
解决方案
首先检查是否有任何挂起的地址所有者，如果对此有疑问，请重新启动所有节点，接下来验证您自己的代码/ { multiprocessing.Process() | joblib.Parallel() | ... the likes }-调用中没有“隐藏”的冲突尝试，分发后可能尝试 .bind() 到同一个目标。如果这些步骤中的 none 解决了您控制范围内的问题，请询问模块的使用支持，以分析并帮助您重构和验证仍然存在冲突的用例。