和我一起学机器学习-感知机

小咪咪 2023-09-30 23:51 33阅读 0赞

`感知机`是一种简单的二分类线性分类模型，它由美国学者`Frank Rosenblatt`在`1957`年提出。

> 感知机的原理是基于神经元的工作原理，它将输入的多个特征进行加权求和，然后再通过一个激活函数进行非线性变换，最后输出一个二分类结果。

感知机的训练过程是通过随机梯度下降法来更新权重和偏置，使得模型能够更好地分类数据。

在`PyTorch`中，可以使用`torch.nn`模块来实现感知机模型。以下是一个简单的例子，其中使用了一个包含两个输入特征和一个输出的感知机模型来对`iris`数据集进行分类：

import torch
    import torch.nn as nn
    from sklearn.datasets import load_iris
    from sklearn.model_selection import train_test_split
    from sklearn.preprocessing import StandardScaler
    
    # 加载iris数据集
    iris = load_iris()
    X, y = iris.data, iris.target
    
    # 对数据进行标准化处理
    scaler = StandardScaler()
    X = scaler.fit_transform(X)
    
    # 将数据集分为训练集和测试集
    X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2)
    
    # 定义感知机模型
    class Perceptron(nn.Module):
        def __init__(self):
            super(Perceptron, self).__init__()
            self.fc = nn.Linear(2, 1)  # 定义一个全连接层
            
        def forward(self, x):
            x = self.fc(x)
            return x.sigmoid()
    
    # 定义模型、损失函数和优化器
    model = Perceptron()
    criterion = nn.BCELoss()
    optimizer = torch.optim.SGD(model.parameters(), lr=0.1)
    
    # 训练模型
    for epoch in range(100):
        running_loss = 0.0
        for i, data in enumerate(zip(X_train, y_train)):
            x, y = data
            x = torch.tensor(x, dtype=torch.float32).unsqueeze(0)
            y = torch.tensor(y, dtype=torch.float32).unsqueeze(0)
            
            optimizer.zero_grad()
            
            output = model(x)
            loss = criterion(output, y)
            loss.backward()
            optimizer.step()
            
            running_loss += loss.item()
        print(f"Epoch {
          epoch+1} loss: {
          running_loss/len(X_train)}")
    
    # 测试模型
    correct = 0
    total = 0
    with torch.no_grad():
        for i, data in enumerate(zip(X_test, y_test)):
            x, y = data
            x = torch.tensor(x, dtype=torch.float32).unsqueeze(0)
            y = torch.tensor(y, dtype=torch.float32).unsqueeze(0)
            
            output = model(x)
            predicted = 1 if output > 0.5 else 0
            
            total += 1
            if predicted == y.item():
                correct += 1
                
    print(f"Accuracy: {
          correct/total}")

在这个例子中，我们定义了一个包含一个全连接层的感知机模型，并使用了`sigmoid`函数作为激活函数。我们还定义了二元交叉熵损失函数和随机梯度下降优化器来训练模型。在训练过程中，我们通过循环遍历训练集中的每个样本来计算损失，并使用反向传播算法来更新模型参数。在训练完成后，我们使用测试集来评估模型的性能。

![在这里插入图片描述][719c2c985336418284bb6b6d061e3891.png_pic_center]

在上面的例子中，我们使用了`PyTorch`提供的模块化接口来构建感知机模型，使得代码非常简洁易懂。此外，我们还使用了`sklearn`中的数据预处理模块来对数据进行标准化处理，以便更好地训练模型。通过这个例子，我们可以看到感知机模型的基本原理和训练过程，以及如何使用`PyTorch`来实现和训练感知机模型。

需要注意的是，感知机模型只适用于线性可分的数据集，对于非线性可分的数据集，需要使用更复杂的模型，如支持向量机、神经网络等。此外，在实际应用中，需要对数据进行预处理、调参等操作，以获得更好的性能。

[719c2c985336418284bb6b6d061e3891.png_pic_center]: https://img-blog.csdnimg.cn/719c2c985336418284bb6b6d061e3891.png#pic_center