在彻底分析了我的程序之后,我已经能够确定矢量器正在减慢它的速度。
我正在处理文本数据,两行简单的tfidf unigram矢量化占代码执行总时间的99.2%。
下面是一个可运行的示例(这将下载一个3mb的培训文件到您的磁盘,省略要在您自己的示例上运行的urllib部分):
#####################################
# Loading Data
#####################################
import urllib
from sklearn.feature_extraction.text import TfidfVectorizer
import nltk.stem
raw = urllib.urlopen("https://s3.amazonaws.com/hr-testcases/597/assets/trainingdata.txt").read()
file = open("to_delete.txt","w").write(raw)
###
def extract_training():
f = open("to_delete.txt")
N = int(f.readline())
X = []
y = []
for i in xrange(N):
line = f.readline()
label,text = int(line[0]), line[2:]
X.append(text)
y.append(label)
return X,y
X_train, y_train = extract_training()
#############################################
# Extending Tfidf to have only stemmed features
#############################################
english_stemmer = nltk.stem.SnowballStemmer('english')
class StemmedTfidfVectorizer(TfidfVectorizer):
def build_analyzer(self):
analyzer = super(TfidfVectorizer, self).build_analyzer()
return lambda doc: (english_stemmer.stem(w) for w in analyzer(doc))
tfidf = StemmedTfidfVectorizer(min_df=1, stop_words='english', analyzer='word', ngram_range=(1,1))
#############################################
# Line below takes 6-7 seconds on my machine
#############################################
Xv = tfidf.fit_transform(X_train)
我尝试将列表X_train
转换为np.array,但性能没有差别。
不足为奇的是,NLTK的速度很慢:
您可以使用更智能的Snowball词干分析器实现来加速此过程,例如PyStemmer:
NLTK是一个教学工具包。它的设计很慢,因为它是为可读性而优化的。
相关问题 更多 >
编程相关推荐