使用朴素贝叶斯和GPU进行更快的文本分类

星星科技指导员 2022-10-10 1043

描述

朴素贝叶斯（ NB ）是一种简单但功能强大的概率分类技术，具有良好的并行性，可以扩展到大规模数据集。

如果您一直从事数据科学中的文本处理任务，您就会知道机器学习模型可能需要很长时间来训练。在这些模型上使用 GPU 加速计算通常可以显著提高时间性能， NB 分类器也不例外。

通过使用 CUDA 加速操作，根据使用的 NB 模型，我们实现了从 5 到 20 倍的性能提升。对稀疏数据的智能利用使其中一个模型的速度提高了 120 倍。

在本文中，我们介绍了 RAPIDS cuML 中 NB 实现的最新升级，并将其与 Scikit-learn 在 CPU 上的实现进行了比较。我们提供基准测试来演示性能优势，并通过算法的每个支持变量的简单示例来帮助您确定哪个最适合您的用例。

什么是朴素贝叶斯？

NB 使用 Bayes’ theorem （图 1 ）对如下所示的条件概率分布进行建模，以预测给定一些输入特征（ x ）的标签或类别（ y ）。在其最简单的形式中，贝叶斯定理使用特征和可能标签之间的联合概率以及特征在所有可能标签上出现的边际概率来计算条件概率。

cpu

图 1.贝叶斯定理表示由一组特征（ x ）产生的标签（ y ）的概率作为条件概率。它是使用每个标签与特征集发生的联合概率和特征在所有可能标签上发生的边际概率来计算的

NB 算法在文本分类用例中表现良好。它们通常用于过滤垃圾邮件等任务；预测推特、网页、博客帖子、用户评分和论坛帖子的类别和情感；或对文档和网页进行排名。

NB 算法通过使每个特征（例如，输入向量 x 中的每列）在统计上独立于所有其他特征来简化条件概率分布 naive assumption 。这使得该算法很棒，因为这种天真的假设提高了算法的并行化能力。此外，计算特征和类标签之间简单共生概率的一般方法使模型能够进行增量训练，支持不适合内存的数据集。

NB 有几种变体，它们对各种类别标签的联合分布或共同出现的特征进行了某些假设。

朴素贝叶斯假设

为了预测未知输入特征集的类别，关于联合分布的不同假设使算法具有几种不同的变体，该算法通过学习不同概率分布的参数来建模特征分布。

表 1 模拟了一个简单的文档/术语矩阵，该矩阵可以来自文本文档集合。列中的术语代表一个词汇表。一个简单的词汇表可能会将一个文档分解为一组在所有文档中出现的唯一单词。

cpu

表 1 。包含沿行文档和沿列出现在每个文档中的词汇的文档/术语矩阵

在表 1 中，每个元素可以是一个计数，如此处所示， 0 或 1 表示特征的存在，或其他一些值，如在整个文档集上出现的每个项的比率、扩散或离散度。

在实践中，滑动窗口通常在整个文档或术语上运行，将它们进一步划分为小块的单词序列，称为 n-grams 。对于下图的第一个文档， 2-gram （或 bigram ）将是“ I love ”和“ love dogs ”。这类数据集中的词汇通常会显著增大并变得稀疏。预处理步骤通常在词汇表上执行，以过滤噪声，例如，通过删除大多数文档中出现的常见术语。

将文档转换为文档项矩阵的过程称为矢量化。有一些工具可以加速这个过程，例如 CountVectorizer cuML 中的 CountVectorizer 、 TdfidfVectorizer 或 RAPIDS 估计器对象。

多项式和伯努利分布

表 1 表示一组文档，这些文档已矢量化为术语计数，结果矩阵中的每个元素表示特定单词在其相应文档中出现的次数。这种简单的表示方法可以有效地用于分类任务。

由于特征代表频率分布，多项式朴素贝叶斯变体可以有效地将特征及其相关类别的联合分布建模为多项式分布。

可以通过合并色散度量来增强每个项的频率分布，例如项频率逆文档频率（ TF-IDF ），它考虑了每个项中出现的文档数量。这可以通过对出现在较少文档中的术语赋予更多权重来显著提高性能，从而提高其识别能力。

虽然多项式分布在直接与项频率一起使用时效果很好，但它也被证明在分数值上有很好的性能，如 TF-IDF 值。多项式朴素贝叶斯变体涵盖了大量用例，因此往往是使用最广泛的。类似的变体是伯努利朴素贝叶斯，它模拟每个项的简单出现，而不是它们的频率，从而得到 0 和 1 的矩阵（伯努利分布）。

不等阶级分布

在现实世界中，经常会发现不平衡的数据集。例如，您可能有有限的垃圾邮件和恶意活动的数据样本，但有丰富的正常和良性样本。

补码朴素贝叶斯变体通过在训练期间为每个类使用联合分布的补码，例如，在所有其他类的样本中出现特征的次数，有助于减少不平等类分布的影响。

分类分布

你也可以为你的每一个特征创建存储箱，可能通过将一些频率量化到多个存储桶中，使得 0-5 的频率进入存储桶 0 ， 6-10 的频率进入存储桶 1 ，等等。

另一种选择是将几个术语合并到一个功能中，可能是为“动物”和“假日”创建桶，其中“动物”可能有三个桶，零个用于猫科动物，一个用于犬科动物，两个用于啮齿动物。“假日”可能有两个桶，零用于个人假日，如生日或结婚纪念日，一个用于联邦假日。

分类朴素贝叶斯变体假设特征遵循分类分布。朴素假设在这种情况下效果很好，因为它允许每个特征都有一组不同的类别，并且它使用（您猜对了）分类分布对联合分布进行建模。

连续分布

最后，当特征是连续的时，高斯朴素贝叶斯变体非常有效，可以假设每个类别中的特征分布可以用高斯分布建模，即用简单的均值和方差。

虽然这种变体在 TF-IDF 归一化后可能在某些数据集上表现出良好的性能，但它在一般机器学习数据集上也很有用。

cpu

表 2.不同 NB 算法的比较 s

真实世界的端到端示例

如表 2 所示，为了证明每种算法变体的优点，我们逐步浏览了每种算法变体的示例笔记本。有关包含所有示例的全面端到端笔记本，请参阅 news_aggregator_a100.ipynb 。

我们使用新闻聚合器数据集来演示 NB 变体的性能。该数据集可从 Kaggle 公开获取，由来自多个新闻来源的 422K 条新闻标题组成。每个标题都标有四个可能的标签之一：商业、科技、娱乐和健康。使用 cuDF RAPIDS 将数据直接加载到 GPU 上，并继续执行针对每个 NB 变体的预处理步骤。

高斯朴素贝叶斯

从高斯朴素贝叶斯，开始，我们运行 TD-IDF 矢量器将文本数据转换为可用于训练的实值向量。

通过指定ngram_range=（1，3），我们表示我们将学习单字以及 2-3-gram 。这显著增加了要学习的术语或功能的数量，从 15K 个单词增加到 180 万个组合。由于大多数术语不会出现在大多数标题中，因此生成的矩阵稀疏，许多值等于零。 cuML 支持特殊结构来表示这样的数据。

Gaussian NB

Transform the text through a TF-IDF vectorizer and iterate through the dataset to do multiple partial fits of Gaussian naive Bayes.

In [6]:

						vec = TfidfVectorizer(stop_words='english', ngram_range=(1,3), min_df=5)
x_train = vec.fit_transform(X_train_text)
x_test = vec.transform(X_test_text)

def dataset_traversal(X, Y, partial_function):
    chunk_size = 12000
    classes = cp.unique(Y)
    lower = 0
    for upper in iter(range(chunk_size, X.shape[0], chunk_size)):
        partial_function(X[lower:upper], Y[lower:upper], classes)
        lower = upper
    partial_function(X[upper:], Y[upper:], classes)

mnb = GaussianNB()
%time dataset_traversal(x_train,\
                        y_train,\
                        lambda x,y, c: mnb.partial_fit(x, y, c))

%time dataset_traversal(x_test,\
                        y_test,\
                        lambda x, y, c: print(mnb.score(x, y)))

					

CPU times: user 12.3 s, sys: 2.23 s, total: 14.5 s
Wall time: 22 s
0.8769999742507935
0.8840000033378601
0.878083348274231
0.8805833458900452
0.8756666779518127
0.8796666860580444
0.8786666393280029
0.8777499794960022
0.8823529481887817
CPU times: user 4.36 s, sys: 2.74 s, total: 7.1 s
Wall time: 22.8 s

In [7]:

						vec = TfidfVectorizer(stop_words='english', ngram_range=(1,3), min_df=5)
x_train = vec.fit_transform(X_train_text)
x_test = vec.transform(X_test_text)
x_train_np, x_test_np = x_train.get(), x_test.get()
y_train_np, y_test_np = y_train.to_numpy(), y_test.to_numpy()

def dataset_traversal(X, Y, partial_function):
    chunk_size = 5000
    classes = np.unique(Y)
    lower = 0
    for upper in iter(range(chunk_size, X.shape[0], chunk_size)):
        partial_function(X[lower:upper], Y[lower:upper], classes)
        lower = upper
    partial_function(X[upper:], Y[upper:], classes)

mnb = GaussianNB_sk()
%time dataset_traversal(x_train_np,\
                        y_train_np,\
                        lambda x, y, c: mnb.partial_fit(x.toarray(), y, c))

%time dataset_traversal(x_test_np,\
                        y_test_np,\
                        lambda x, y, c: print(mnb.score(x.toarray(), y)))

					

CPU times: user 2min 47s, sys: 1min 29s, total: 4min 17s
Wall time: 4min 17s
0.885
0.8736
0.8802
0.8828
0.8836
0.8738
0.8806
0.881
0.8832
0.8784
0.8714
0.879
0.8754
0.8782
0.8816
0.8844
0.875
0.8764
0.877
0.8864
0.8796
0.8842975206611571
CPU times: user 3min 8s, sys: 2min 7s, total: 5min 16s
Wall time: 5min 16s

　　NB 分类器的另一个优点是，可以使用partial_fit方法对Estimator对象进行增量训练。这种技术适用于可能无法一次性放入内存或必须分布在多个 GPU 中的大规模数据集。

　　我们的第一个示例演示了使用高斯朴素贝叶斯的增量训练，方法是在使用 TF-IDF 预处理为连续特征后，将数据分割成多个块。高斯朴素贝叶斯的 cuML 版本在训练方面比 Scikit 学习快 21 倍，在推理方面快 72 倍。

　　伯努利朴素贝叶斯

　　下一个示例演示了伯努利朴素贝叶斯，无需增量训练，使用表示每个项存在或不存在的二进制特征。CountVectorizer对象可以通过设置binary=True来实现这一点。在本例中，我们发现比 Scikit learn 快 14 倍。

Bernoulli + CountVectorizer

In the Bernoulli variant, the feature vector is binarized. That's why using a CountVectorizer transformer is useful: You're more interested in the presence of the word rather than it's frequency.

In [241]:

						vec = CountVectorizer(stop_words='english', binary=True, ngram_range=(1,3))

x_train = vec.fit_transform(X_train_text)
x_test = vec.transform(X_test_text)

bnb = BernoulliNB()
%time bnb.fit(x_train, y_train)
%time bnb.score(x_test, y_test)

					

CPU times: user 44.4 ms, sys: 12.1 ms, total: 56.5 ms
Wall time: 56.5 ms
CPU times: user 14.9 ms, sys: 19.6 ms, total: 34.5 ms
Wall time: 34.2 ms

Out[241]:

0.8568723201751709

In [247]:

						vec = CountVectorizer(stop_words='english', binary=True, ngram_range=(1,3))
x_train = vec.fit_transform(X_train_text)
x_test = vec.transform(X_test_text)
x_train_np, x_test_np = x_train.get(), x_test.get()
y_train_np, y_test_np = y_train.to_numpy(), y_test.to_numpy()

bnb = BernoulliNB_sk()
%time bnb.fit(x_train_np, y_train_np)
%time bnb.score(x_test_np, y_test_np)

					

CPU times: user 293 ms, sys: 72.1 ms, total: 365 ms
Wall time: 365 ms
CPU times: user 141 ms, sys: 90.9 ms, total: 232 ms
Wall time: 231 ms

Out[247]:

0.8568817764310402

　　多项式朴素贝叶斯

　　多项式朴素贝叶斯是最通用和最广泛使用的变体，如以下示例所示。我们使用 TF-IDF 矢量器而不是CountVectorizer来实现比 Scikit learn 快 5 倍的速度。

TF-IDF + Multinomial

Transform the text through a TF-IDF vectorizer, and run a multinomial naive Bayes model.

In [10]:

						vec = TfidfVectorizer(stop_words='english', ngram_range=(1,3))
x_train = vec.fit_transform(X_train_text)
x_test = vec.transform(X_test_text)

mnb = MultinomialNB()
%time mnb.fit(x_train, y_train)
%time mnb.score(x_test, y_test)

					

CPU times: user 55.4 ms, sys: 7.57 ms, total: 63 ms
Wall time: 63 ms
CPU times: user 20.3 ms, sys: 8.16 ms, total: 28.4 ms
Wall time: 28.2 ms

Out[10]:

0.9248046875

In [11]:

						vec = TfidfVectorizer(stop_words='english', ngram_range=(1,3))
x_train = vec.fit_transform(X_train_text)
x_test = vec.transform(X_test_text)
x_train_np, x_test_np = x_train.get(), x_test.get()
y_train_np, y_test_np = y_train.to_numpy(), y_test.to_numpy()

mnb = MultinomialNB_sk()
%time mnb.fit(x_train_np, y_train_np)
%time mnb.score(x_test_np, y_test_np)

					

CPU times: user 264 ms, sys: 67.6 ms, total: 332 ms
Wall time: 332 ms
CPU times: user 31.8 ms, sys: 27.9 ms, total: 59.7 ms
Wall time: 59.4 ms

Out[11]:

0.9248046967473131

　　补码朴素贝叶斯

　　我们使用CountVectorizer证明了补码朴素贝叶斯的威力，并表明在我们的不平衡数据集上，它比伯努利和多项式 NB 变体产生了更好的分类分数。

CountVectorizer + Complement

Complement naive Bayes models should be coupled with a CountVectorizer to have the best results.

In [19]:

						# First let's visualize the class imbalance

dataset['CATEGORY'].value_counts().to_pandas().plot(kind='bar', title='histogram of the class distributions')
dataset['CATEGORY'].value_counts() / len(dataset)

Out[19]:

3    0.360943
1    0.274531
2    0.256485
4    0.108042
Name: CATEGORY, dtype: float64

In [252]:

						vec = CountVectorizer(stop_words='english', ngram_range=(1,3))
x_train = vec.fit_transform(X_train_text)
x_test = vec.transform(X_test_text)

cnb = ComplementNB()
%time cnb.fit(x_train, y_train)
%time cnb.score(x_test, y_test)

					

CPU times: user 56.8 ms, sys: 12.3 ms, total: 69.1 ms
Wall time: 69.2 ms
CPU times: user 22.4 ms, sys: 7.27 ms, total: 29.7 ms
Wall time: 29.8 ms

Out[252]:

0.9502959251403809

In [253]:

						vec = CountVectorizer(stop_words='english', ngram_range=(1,3))
x_train = vec.fit_transform(X_train_text)
x_test = vec.transform(X_test_text)
x_train_np, x_test_np = x_train.get(), x_test.get()
y_train_np, y_test_np = y_train.to_numpy(), y_test.to_numpy()

cnb = ComplementNB_sk()
%time mnb.fit(x_train_np, y_train_np)
%time mnb.score(x_test_np, y_test_np)

					

CPU times: user 67.5 ms, sys: 31.8 ms, total: 99.3 ms
Wall time: 99.5 ms
CPU times: user 26.6 ms, sys: 11.4 ms, total: 38 ms
Wall time: 37.7 ms

Out[253]:

0.9449836611747742

　　范畴朴素贝叶斯

　　最后但绝对不是最不重要的是一个分类朴素贝叶斯的例子，我们使用 k-means 和之前在另一个 NB 变体上训练的模型对其进行矢量化，以根据相似项对结果类的贡献将其分组到相同的类别中。

　　我们发现，与 Scikit 相比，使用 315K 条新闻标题训练模型的速度提高了 126 倍，使用 23 倍的速度进行推理和计算模型的准确性。

Categorical

To transform the text to categorical data, you can apply a clustering technique to merge the terms that are similar.

To create these clusters, you could reuse a previously fitted naive Bayes model but just for the purpose of clustering those words.

Preprocessing

In [14]:

						# First fit a TfIdf on the train dataset
tfidfvec = TfidfVectorizer(stop_words='english', min_df=10)
x_train = tfidfvec.fit_transform(X_train_text)

# Fit a Multinomial on the TdIdf data
mnb = MultinomialNB().fit(x_train, y_train)

# Use a KMeans algorithm to cluster on what the Multinomial NB learned of the TfIdf.
# This means that the words that contribute similarly to a category will be clustered together
km = KMeans(n_clusters=1000, random_state=1)
feature_to_cluster = km.fit_predict(mnb.feature_log_prob_.T)
feats2cluster = OneHotEncoder().fit_transform(feature_to_cluster)

# Print statistics on the repartition of the words in the clusters
print(cudf.Series(feats2cluster.sum(0)[0]).describe())

					

count    1000.000000
mean       14.967000
std        19.519501
min         1.000000
25%         6.000000
50%        11.000000
75%        18.000000
max       254.000000
dtype: float64

Here each cluster holds in average around 15 words

In [225]:

						# Lets plot the repartition of the words in each cluster
# And print the words in a few clusters
plt.hist(feature_to_cluster.get(), bins='auto')
print(tfidfvec.vocabulary_[cp.where(feature_to_cluster == 127)[0]])
print("\n")
print(tfidfvec.vocabulary_[cp.where(feature_to_cluster == 632)[0]])

					

47               117
1597            beam
2114       broadband
2435        carriers
2618         charter
3788       defective
4056            dire
4406            dual
5367           fixes
8365       materials
9072      networking
10900    recognition
11466        rollout
13666        tracker
14088      unveiling
Name: token, dtype: object


3293           core
3603          cyber
4751     enterprise
5719         gaming
8738         models
9801             pc
10074      platform
14338       virtual
Name: token, dtype: object

In [226]:

						# For Categorical Naive Bayes, the count of words is transformed into a count of cluster
vocab = tfidfvec.vocabulary_
countvec = CountVectorizer(stop_words='english')
countvec.vocabulary_ = vocab

x_train = countvec.transform(X_train_text)
x_test = countvec.transform(X_test_text)
print(x_train.shape)
print(feats2cluster.shape)

x_train_cluster = (x_train @ feats2cluster)
x_test_cluster = (x_test @ feats2cluster)

# For each cluster we will have:
# - 0: absence of those wprds.
# - 1: presence of those words
# - 2: multiple presence of those words (2+)

x_train_cluster.data[x_train_cluster.data > 2] = 2
x_test_cluster.data[x_test_cluster.data > 2] = 2

					

(316814, 14967)
(14967, 1000)

Little hack to make sure that if a cluster's max number is 1 in training, it is also 1 in testing

In [227]:

						max_one = cp.where(x_train_cluster.max(0).todense() == 1)[1]
for cluster in max_one:
    samples = (x_test_cluster[:, cluster] > 1)
    if samples.nnz == 0:
        continue
    samples = cp.where(samples.todense())[0]
    x_test_cluster[samples, cluster] = 1

					

Categorical model training

Now that the preprocessing is done we can train the Categorical model and see how it performs on these clusters

In [239]:

						%time cnb = CategoricalNB().fit(x_train_cluster, y_train)
%time cnb.score(x_test_cluster, y_test)

/dev/shm/rapids22.04_env/lib/python3.8/site-packages/cuml/naive_bayes/naive_bayes.py:1498: UserWarning: X dtype is not int32. X will be converted, which will increase memory consumption
  warnings.warn("X dtype is not int32. X will be "
/dev/shm/rapids22.04_env/lib/python3.8/site-packages/cupyx/scipy/sparse/compressed.py:545: UserWarning: Changing the sparsity structure of a csr_matrix is expensive. lil_matrix is more efficient.
  warnings.warn('Changing the sparsity structure of a '
/dev/shm/rapids22.04_env/lib/python3.8/site-packages/cuml/naive_bayes/naive_bayes.py:1516: UserWarning: X dtype is not int32. X will be converted, which will increase memory consumption
  warnings.warn("X dtype is not int32. X will be "

CPU times: user 110 ms, sys: 4.87 ms, total: 115 ms
Wall time: 112 ms
CPU times: user 64.7 ms, sys: 127 ms, total: 191 ms
Wall time: 193 ms

Out[239]:

0.9256380200386047

In [240]:

						x_train_cluster_np = x_train_cluster.get().todense()
x_test_cluster_np = x_test_cluster.get().todense()
y_train_np, y_test_np = y_train.to_numpy(), y_test.to_numpy()

%time cnb = CategoricalNB_sk().fit(x_train_cluster_np, y_train_np)
%time cnb.score(x_test_cluster_np, y_test_np)

					

/dev/shm/rapids22.04_env/lib/python3.8/site-packages/sklearn/utils/validation.py:593: FutureWarning: np.matrix usage is deprecated in 1.0 and will raise a TypeError in 1.2. Please convert to a numpy array with np.asarray. For more information see: https://numpy.org/doc/stable/reference/generated/numpy.matrix.html
  warnings.warn(

CPU times: user 13.7 s, sys: 434 ms, total: 14.2 s
Wall time: 14.2 s

/dev/shm/rapids22.04_env/lib/python3.8/site-packages/sklearn/utils/validation.py:593: FutureWarning: np.matrix usage is deprecated in 1.0 and will raise a TypeError in 1.2. Please convert to a numpy array with np.asarray. For more information see: https://numpy.org/doc/stable/reference/generated/numpy.matrix.html
  warnings.warn(

CPU times: user 4.4 s, sys: 110 ms, total: 4.51 s
Wall time: 4.51 s

Out[240]:

0.9256379906254438

　　基准

　　图 2 中的图表比较了 RAPIDS cuML 和 Scikit learn 之间的 NB 训练和推理的性能，以及本文中概述的所有变体。

　　基准测试是在a2-highgpu-8g谷歌云平台（ GCP ）实例上执行的，该实例配备了 NVIDIA Tesla A100 GPU 和 96 Intel Cascade Lake v CPU ，频率为 2.2Ghz 。

cpu

图 2.Scikit learn （蓝色）和 cuML （绿色）之间的性能比较

　　GPU 加速朴素贝叶斯

　　我们能够使用 CuPy 在 Python 中实现所有 NB 变体，这是一种 GPU 加速，几乎可以替代 NumPy 和 SciPy 。 CuPy 还提供了用 Python 编写自定义 CUDA 内核的功能。当 Python 应用程序运行时，它使用 NVRTC 的即时（ JIT ）编译功能在 GPU 上编译和执行它们。

　　所有 NB 变体的核心是两个使用 CuPy 的 JIT 编写的简单原语，用于汇总和计算每个类的特征。

　　当单个文档项矩阵过大而无法在单个 GPU 上处理时， Dask 库可以利用增量训练功能将处理扩展到多个 GPU 和多个节点。目前，多项式变量可以在 cuML 中与 Dask 一起分布。

　　结论

　　NB 算法应该在每个数据科学家的工具包中。使用 RAPIDS cuML ，您可以在 GPU 上加速 NB 的实现，而无需大幅更改代码。这些强大而基本的算法，再加上 cuML 的加速，提供了您必须在超大或稀疏数据集上执行分类的一切。

　　关于作者

　　Mickael Ide 是 NVIDIA RAPIDS 团队的机器学习工程师，专注于开发 GPU 加速的机器学习算法。米克尔拥有计算机科学硕士学位。

　　Corey Nolet 是 NVIDIA 的 RAPIDS ML 团队的数据科学家兼高级工程师，他专注于构建和扩展机器学习算法，以支持光速下的极端数据负载。在 NVIDIA 工作之前， Corey 花了十多年时间为国防工业的 HPC 环境构建大规模探索性数据科学和实时分析平台。科里持有英国理工学士学位计算机科学硕士学位。他还在攻读博士学位。在同一学科中，主要研究图形和机器学习交叉点的算法加速。科里热衷于利用数据更好地了解世界。

　　审核编辑：郭婷

打开APP阅读更多精彩内容