作者 | CDA数据分析师
像Keras中的机器学习和深度学习模型一样，要求所有输入和输出变量均为数字。
这意味着，如果你的数据包含分类数据，则必须先将其编码为数字，然后才能拟合和评估模型。
两种最流行的技术是整数编码和一种热编码，尽管一种称为学习嵌入的较新技术可能在这两种方法之间提供了有用的中间立场。
在本教程中，您将发现在Keras中开发神经网络模型时如何编码分类数据。
完成本教程后，您将知道：
让我们开始吧。
本教程分为五个部分。分别是：
类别变量是其值采用标签值的变量。
例如，变量可以是“ color ”，并且可以取值“ red ”，“ green ”和“ blue”。
有时，分类数据可能在类别之间具有排序的关系，例如“ 第一 ”，“ 第二 ”和“ 第三”。这种类型的分类数据称为序数，并且其他排序信息可能很有用。
这意味着必须先将分类数据编码为数字，然后才能使用它来拟合和评估模型。
有多种编码分类变量以进行建模的方法，尽管最常见的三种方法如下：
我们将仔细研究如何使用以下每种方法对分类数据进行编码，以在Keras中训练深度学习神经网络。
作为本教程的基础，我们将使用自1980年代以来在机器学习中广泛研究的所谓“ 乳腺癌 ”数据集。
该数据集将乳腺癌患者数据分类为癌症复发或无复发。有286个示例和9个输入变量。这是一个二进制分类问题。
该数据集上合理的分类准确性得分在68％到73％之间。我们将针对该区域，但请注意，本教程中的模型并未经过优化：它们旨在演示编码方案。
查看数据，我们可以看到所有九个输入变量都是分类的。
具体来说，所有变量都用引号引起来；有些是序数，有些不是。
'40-49','premeno','15-19','0-2','yes','3','right','left_up','no','recurrence-events' '50-59','ge40','15-19','0-2','no','1','right','central','no','no-recurrence-events' '50-59','ge40','35-39','0-2','no','2','left','left_low','no','recurrence-events' '40-49','premeno','35-39','0-2','yes','3','right','left_low','yes','no-recurrence-events' '40-49','premeno','30-34','3-5','yes','2','left','right_up','no','recurrence-events'
我们可以使用Pandas库将该数据集加载到内存中。
# load the dataset as a pandas DataFrame data = read_csv(filename, header=None) # retrieve numpy array dataset = data.values
加载后，我们可以将列分为输入（X）和输出（y）进行建模。
# split into input (X) and output (y) variables X = dataset[:, :-1] y = dataset[:,-1]
最后，我们可以将输入数据中的所有字段都强制为字符串，以防万一熊猫试图将某些字段自动映射为数字（确实如此）。
我们还可以将输出变量整形为一列（例如2D形状）。
# format all fields as string X = X.astype(str) # reshape target to be a 2d array y = y.reshape((len(y), 1))
我们可以将所有这些结合到一个有用的功能中，以备后用。
# load the dataset def load_dataset(filename): # load the dataset as a pandas DataFrame data = read_csv(filename, header=None) # retrieve numpy array dataset = data.values # split into input (X) and output (y) variables X = dataset[:, :-1] y = dataset[:,-1] # format all fields as string X = X.astype(str) # reshape target to be a 2d array y = y.reshape((len(y), 1)) return X, y
加载后，我们可以将数据分为训练集和测试集，以便我们可以拟合和评估深度学习模型。
我们将使用scikit-learn中的train_test_split（）函数，并将67％的数据用于训练，将33％的数据用于测试。
# load the dataset X, y = load_dataset('breast-cancer.csv') # split into train and test sets X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.33, random_state=1)
将所有这些元素结合在一起，下面列出了加载，拆分和汇总原始分类数据集的完整示例。
# load and summarize the dataset from pandas import read_csv from sklearn.model_selection import train_test_split # load the dataset def load_dataset(filename): # load the dataset as a pandas DataFrame data = read_csv(filename, header=None) # retrieve numpy array dataset = data.values # split into input (X) and output (y) variables X = dataset[:, :-1] y = dataset[:,-1] # format all fields as string X = X.astype(str) # reshape target to be a 2d array y = y.reshape((len(y), 1)) return X, y # load the dataset X, y = load_dataset('breast-cancer.csv') # split into train and test sets X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.33, random_state=1) # summarize print('Train', X_train.shape, y_train.shape) print('Test', X_test.shape, y_test.shape)
运行示例将报告训练和测试集的输入和输出元素的大小。
我们可以看到，我们有191个示例用于培训，而95个用于测试。
Train (191, 9) (191, 1) Test (95, 9) (95, 1)
既然我们已经熟悉了数据集，那么让我们看一下如何对它进行编码以进行建模。
顺序编码涉及将每个唯一标签映射到整数值。
这样，有时将其简称为整数编码。
这种类型的编码实际上仅在类别之间存在已知关系时才适用。
数据集中的某些变量确实存在这种关系，理想情况下，在准备数据时应利用此关系。
在这种情况下，我们将忽略任何可能存在的序数关系，并假定所有变量都是类别变量。至少将序数编码用作其他编码方案的参考点仍然会有所帮助。
我们可以使用scikit-learn的scikit-learn将每个变量编码为整数。这是一个灵活的类，并且允许将类别的顺序指定为参数（如果已知这样的顺序）。
注意：我将作为练习来更新以下示例，以尝试为具有自然顺序的变量指定顺序，并查看其是否对模型性能产生影响。
对变量进行编码的最佳实践是使编码适合训练数据集，然后将其应用于训练和测试数据集。
下面的函数prepare_inputs（），获取训练和测试集的输入数据，并使用序数编码对其进行编码。
# prepare input data def prepare_inputs(X_train, X_test): oe = OrdinalEncoder() oe.fit(X_train) X_train_enc = oe.transform(X_train) X_test_enc = oe.transform(X_test) return X_train_enc, X_test_enc
我们还需要准备目标变量。
这是一个二进制分类问题，因此我们需要将两个类标签映射到0和1。
这是一种序数编码，scikit-learn提供了为此专门设计的LabelEncoder类。尽管LabelEncoder设计用于编码单个变量，但我们可以轻松使用OrdinalEncoder并获得相同的结果。
在（）prepare_targets整数编码的训练集和测试集的输出数据。
# prepare target def prepare_targets(y_train, y_test): le = LabelEncoder() le.fit(y_train) y_train_enc = le.transform(y_train) y_test_enc = le.transform(y_test) return y_train_enc, y_test_enc
我们可以调用这些函数来准备我们的数据。
# prepare input data X_train_enc, X_test_enc = prepare_inputs(X_train, X_test) # prepare output data y_train_enc, y_test_enc = prepare_targets(y_train, y_test)
现在我们可以定义一个神经网络模型。
在所有这些示例中，我们将使用相同的通用模型。具体来说，是一种多层感知器（MLP）神经网络，其中的一个隐藏层具有10个节点，而输出层中的一个节点用于进行二进制分类。
无需赘述，下面的代码定义了模型，将其拟合在训练数据集上，然后在测试数据集上对其进行了评估。
# define the model model = Sequential() model.add(Dense(10, input_dim=X_train_enc.shape[1], activation='relu', kernel_initializer='he_normal')) model.add(Dense(1, activation='sigmoid')) # compile the keras model model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy']) # fit the keras model on the dataset model.fit(X_train_enc, y_train_enc, epochs=100, batch_size=16, verbose=2) # evaluate the keras model _, accuracy = model.evaluate(X_test_enc, y_test_enc, verbose=0) print('Accuracy: %.2f' % (accuracy*100))
综合所有这些，下面列出了使用序数编码准备数据并拟合和评估数据上的神经网络的完整示例。
# example of ordinal encoding for a neural network from pandas import read_csv from sklearn.model_selection import train_test_split from sklearn.preprocessing import LabelEncoder from sklearn.preprocessing import OrdinalEncoder from keras.models import Sequential from keras.layers import Dense # load the dataset def load_dataset(filename): # load the dataset as a pandas DataFrame data = read_csv(filename, header=None) # retrieve numpy array dataset = data.values # split into input (X) and output (y) variables X = dataset[:, :-1] y = dataset[:,-1] # format all fields as string X = X.astype(str) # reshape target to be a 2d array y = y.reshape((len(y), 1)) return X, y # prepare input data def prepare_inputs(X_train, X_test): oe = OrdinalEncoder() oe.fit(X_train) X_train_enc = oe.transform(X_train) X_test_enc = oe.transform(X_test) return X_train_enc, X_test_enc # prepare target def prepare_targets(y_train, y_test): le = LabelEncoder() le.fit(y_train) y_train_enc = le.transform(y_train) y_test_enc = le.transform(y_test) return y_train_enc, y_test_enc # load the dataset X, y = load_dataset('breast-cancer.csv') # split into train and test sets X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.33, random_state=1) # prepare input data X_train_enc, X_test_enc = prepare_inputs(X_train, X_test) # prepare output data y_train_enc, y_test_enc = prepare_targets(y_train, y_test) # define the model model = Sequential() model.add(Dense(10, input_dim=X_train_enc.shape[1], activation='relu', kernel_initializer='he_normal')) model.add(Dense(1, activation='sigmoid')) # compile the keras model model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy']) # fit the keras model on the dataset model.fit(X_train_enc, y_train_enc, epochs=100, batch_size=16, verbose=2) # evaluate the keras model _, accuracy = model.evaluate(X_test_enc, y_test_enc, verbose=0) print('Accuracy: %.2f' % (accuracy*100))
在任何现代硬件（无需GPU）上运行示例，只需几秒钟即可使模型适应模型。
在每个训练时期结束时报告模型的损失和准确性，最后报告测试数据集上模型的准确性。
鉴于学习算法的随机性，您的具体结果会有所不同。尝试运行该示例几次。
在这种情况下，我们可以看到该模型在测试数据集上达到了约70％的精度。
不错，因为只有某些输入变量存在序数关系，对于某些输入变量才存在序数关系，因此在编码中不遵循序数关系。
... Epoch 95/100 - 0s - loss: 0.5349 - acc: 0.7696 Epoch 96/100 - 0s - loss: 0.5330 - acc: 0.7539 Epoch 97/100 - 0s - loss: 0.5316 - acc: 0.7592 Epoch 98/100 - 0s - loss: 0.5302 - acc: 0.7696 Epoch 99/100 - 0s - loss: 0.5291 - acc: 0.7644 Epoch 100/
数据分析咨询请扫描二维码
数字化转型是企业提升竞争力和实现可持续发展的关键路径。面对快速变化的市场环境，以及技术的飞速发展，企业在数字化转型过程中 ...
2024-11-15CDA数据分析师认证：CDA认证分为三个等级：Level Ⅰ、Level Ⅱ和Level Ⅲ，每个等级的报考条件如下： Le ...
2024-11-14自学数据分析可能是一条充满挑战却又令人兴奋的道路。随着数据在现代社会中的重要性日益增长，掌握数据分析技能不仅能提升你的就 ...
2024-11-14数据分析相关职业选择 数据分析领域正在蓬勃发展，为各种专业背景的人才提供了丰富的职业机会。从初学者到有经验的专家，每个人 ...
2024-11-14数据挖掘与分析在金融行业的使用 在当今快速发展的金融行业中，数据挖掘与分析的应用愈发重要，成为驱动行业变革和提升竞争力的 ...
2024-11-14学习数据挖掘需要掌握哪些技能 数据挖掘是一个不断发展的领域，它结合了统计学、计算机科学和领域专业知识，旨在从数据中提取有 ...
2024-11-14统计学作为一门基于数据的学科，其广泛的应用领域和多样的职业选择，使得毕业生拥有丰厚的就业前景。无论是在政府还是企业，统计 ...
2024-11-14在当今高速发展的技术环境下，企业正在面临前所未有的机遇和挑战。数字化转型已成为企业保持竞争力和应对市场变化的必由之路。要 ...
2024-11-13爬虫技术在数据分析中扮演着至关重要的角色，其主要作用体现在以下几个方面： 数据收集：爬虫能够自动化地从互联网上抓取大量数 ...
2024-11-13在数据分析中，数据可视化是一种将复杂数据转化为图表、图形或其他可视形式的技术，旨在通过直观的方式帮助人们理解数据的含义与 ...
2024-11-13在现代银行业中，数字化用户行为分析已成为优化产品和服务、提升客户体验和提高业务效率的重要工具。通过全面的数据采集、深入的 ...
2024-11-13在这个数据飞速增长的时代，企业若想在竞争中占据优势，必须充分利用数据分析优化其营销策略。数据不仅有助于理解市场趋势，还可 ...
2024-11-13数据分析行业的就业趋势显示出多个积极的发展方向。随着大数据和人工智能技术的不断进步，数据分析在各行各业中的应用变得越来越 ...
2024-11-13市场数据分析是一门涉及多种技能和工具的学科，对企业在竞争激烈的市场中保持竞争力至关重要。通过数据分析，企业不仅可以了解当 ...
2024-11-13数据分析与数据挖掘是数据科学领域中两个关键的组成部分，它们各有独特的目标、方法和应用场景。尽管它们经常在实际应用中结合使 ...
2024-11-13在如今这个数据驱动的时代，数据分析能力已经成为许多行业的重要技能。无论是为工作需要，还是为了职业转型，掌握数据分析都能够 ...
2024-11-13在如今这个数据驱动的时代，数据分析能力已经成为许多行业的重要技能。无论是为工作需要，还是为了职业转型，掌握数据分析都能够 ...
2024-11-13作为一名业务分析师，你肩负着将业务需求转化为技术解决方案的重任。面试这一角色时，涉及的问题多种多样，涵盖技术技能、分析能 ...
2024-11-13自学数据分析可能看似一项艰巨的任务，尤其在开始时。但是，通过一些策略和方法，你可以系统地学习和掌握数据分析的相关知识和技 ...
2024-11-10Excel是数据分析领域中的一款强大工具，它凭借其灵活的功能和易用的界面，成为了许多数据分析师和从业者的首选。无论是简单的数 ...
2024-11-10
