WorkerLost错误:Worker提前退出:信号11(SIGSEGV)

时间:2019-02-05 09:48:04

标签: python celery nltk

我试图在这里找到答案,但没有得到我想要的答案。 所以我要发布问题。

import nltk
from nltk.corpus import stopwords
from sklearn.decomposition import TruncatedSVD
from sklearn.feature_extraction.text import TfidfVectorizer

stopset = set(stopwords.words('english'))
vectorizer = TfidfVectorizer(stop_words=stopset, use_idf=True, ngram_range=[1, 4])
X = vectorizer.fit_transform(document_list)
lsa = TruncatedSVD(n_components=2, n_iter=10)
lsa.fit(X)


results = []
terms = vectorizer.get_feature_names()

出于某种原因,我正在运行上述代码。 当我直接在python中运行以上代码时,效果很好,我可以得到结果。 但是,当我在celery内部运行以上代码时(我将celery与flask一起使用),我得到以下错误。 任何建议对我都有帮助。

enter image description here

1 个答案:

答案 0 :(得分:0)

我遇到了同样的问题,我通过将这些库的所有导入都放置在任务函数中而不是文件的顶部来解决了该问题。

@celery.task
def reduce_features(cik):
     from sklearn.decomposition import PCA
     # your code