Django:Postgres 连接未关闭
Django: Postgres connection not closing
我的 Django 应用程序会随着时间的推移积累 postgres 连接。似乎大约每 30 分钟就会建立一个新连接,而旧连接不会关闭(见屏幕)。
由于最大连接数设置为 100,一段时间后所有连接都被阻止。
有谁知道是什么导致了这个问题?
我整合了一些celery tasks
之后发现了这个。所以我很确定它与芹菜有关。
所以我尝试在每个任务之后使用 after_return
方法手动关闭连接:
from django.db import connection
class DBTask(Task):
abstract = True
def after_return(self, *args, **kwargs):
connection.close()
@task(name='example', base=DBTask)
def example_task(value):
# do some stuff
但这也无济于事。
也许我完全错了,它与 celery
根本无关。
我的数据库配置:
DATABASES = {
'default': {
'ENGINE': 'django.contrib.gis.db.backends.postgis',
'NAME': 'production',
'USER': 'production',
'HOST': 'some.host',
'CONN_MAX_AGE': 0,
},
}
已安装的软件包:
- django 1.8.9
- pyscopg2 2.6.1
- 芹菜 3.1.20
- django-celery 3.1.17
应用部署在 webfaction(也许这有帮助)
我也看到了这个 question,但是设置 CONN_MAX_AGE: 0
没有帮助。
更新:
尝试在每个 celery 任务的末尾添加 connection.close()
,但连接数仍在增加。
更新 2:
尝试在 celery 文件的顶部添加 connection.close()
,但这也无济于事。
更新 3:
这是我在 celery 任务中实际使用的代码:
celery_tasks.py
@task(name='push_notifications', base=DBTask)
def push_notifications_task(user_id):
user = CustomUser.objects.get(id=user_id)
PusherAPI().push_notifications(user)
connection.close()
models.py
class PusherAPI(object):
def push_notifications(self, user):
from .serializers import NotificationSerializer
self.pusher.trigger(
'user_%s' % user.slug,
'notifications',
NotificationSerializer(user).data
)
serializers.py
class NotificationSerializer(object):
def __init__(self, user=None):
if user is None:
self.user = get_current_user()
else:
self.user = user
@property
def data(self):
# get notifications from db
notifications = self.user.notifications.unread()
# create the notification dict
...
return note_dict
唯一的数据库查询在 CustomUser.objects.get(id=user_id)
和 notifications = self.user.notifications.unread()
中
确保实际上是未关闭的旧连接,而不是因为应用程序的某些部分无法处理负载而堆积的新连接。查看各个连接,例如SELECT * FROM pg_stat_activity;
我的 Django 应用程序会随着时间的推移积累 postgres 连接。似乎大约每 30 分钟就会建立一个新连接,而旧连接不会关闭(见屏幕)。 由于最大连接数设置为 100,一段时间后所有连接都被阻止。
有谁知道是什么导致了这个问题?
我整合了一些celery tasks
之后发现了这个。所以我很确定它与芹菜有关。
所以我尝试在每个任务之后使用 after_return
方法手动关闭连接:
from django.db import connection
class DBTask(Task):
abstract = True
def after_return(self, *args, **kwargs):
connection.close()
@task(name='example', base=DBTask)
def example_task(value):
# do some stuff
但这也无济于事。
也许我完全错了,它与 celery
根本无关。
我的数据库配置:
DATABASES = {
'default': {
'ENGINE': 'django.contrib.gis.db.backends.postgis',
'NAME': 'production',
'USER': 'production',
'HOST': 'some.host',
'CONN_MAX_AGE': 0,
},
}
已安装的软件包:
- django 1.8.9
- pyscopg2 2.6.1
- 芹菜 3.1.20
- django-celery 3.1.17
应用部署在 webfaction(也许这有帮助)
我也看到了这个 question,但是设置 CONN_MAX_AGE: 0
没有帮助。
更新:
尝试在每个 celery 任务的末尾添加 connection.close()
,但连接数仍在增加。
更新 2:
尝试在 celery 文件的顶部添加 connection.close()
,但这也无济于事。
更新 3:
这是我在 celery 任务中实际使用的代码:
celery_tasks.py
@task(name='push_notifications', base=DBTask)
def push_notifications_task(user_id):
user = CustomUser.objects.get(id=user_id)
PusherAPI().push_notifications(user)
connection.close()
models.py
class PusherAPI(object):
def push_notifications(self, user):
from .serializers import NotificationSerializer
self.pusher.trigger(
'user_%s' % user.slug,
'notifications',
NotificationSerializer(user).data
)
serializers.py
class NotificationSerializer(object):
def __init__(self, user=None):
if user is None:
self.user = get_current_user()
else:
self.user = user
@property
def data(self):
# get notifications from db
notifications = self.user.notifications.unread()
# create the notification dict
...
return note_dict
唯一的数据库查询在 CustomUser.objects.get(id=user_id)
和 notifications = self.user.notifications.unread()
确保实际上是未关闭的旧连接,而不是因为应用程序的某些部分无法处理负载而堆积的新连接。查看各个连接,例如SELECT * FROM pg_stat_activity;