如何用Python进行无监督学习

无监督学习是一种用于在数据中查找模式的机器学习技术。无监督算法给出的数据不带标记,只给出输入变量(x),没有相应的输出变量。在无监督学习中,算法自己去发现数据中有趣的结构。
人工智能研究总监严乐群解释说,非监督学习教学机器能够自主学习,而不需要被明确告知它们所做的一切是对是错,这是实现真正人工智能的关键。
监督与无监督学习
在监督学习中,系统试图从前面给出的例子中学习。(另一方面,在无监督学习中,系统试图直接从给出的例子中找到模式。)如果数据集被标记,它就会遇到监督问题,如果数据集没有标记,那么它就是一个监督问题。
src
左边的图像是监督学习的一个例子;我们使用回归技术来寻找特征之间的最佳匹配线。而在无监督学习中,输入是基于特征分离的,预测是基于它所属的集群。
重要术语
特性:用于预测的输入变量。
预测:当提供一个输入示例时,模型s的输出。
示例:数据集的一行。示例包含一个或多个特性,可能还有一个标签。
标签:特性的结果。
为无监督学习准备数据
在本文中,我们使用iris数据集进行第一次预测。该数据集包含一组150条记录,包含5个属性:花瓣长度、花瓣宽度、萼片长度、萼片宽度和类别。蝴蝶花,蝴蝶花和花色蝴蝶花是三个等级。对于我们的无监督算法,我们给出虹膜花的这四个特征,并预测它属于哪一类。
我们使用python中的sklearn库加载iris数据集,使用matplotlib实现数据可视化。下面是用于研究数据集的代码片段。
# importing modules from sklearn import datasets import matplotlib.pyplot as plt # loading dataset iris_df = datasets.load_iris() # available methods on dataset print(dir(iris_df)) # features print(iris_df.feature_names) # targets print(iris_df.target) # target names print(iris_df.target_names) label = {0: 'red', 1: 'blue', 2: 'green'} # dataset slicing x_axis = iris_df.data[:, 0] # sepal length y_axis = iris_df.data[:, 2] # sepal width # plotting plt.scatter(x_axis, y_axis, c=iris_df.target) plt.show()
['descr','data','feature_names','target','target_names'] ['sepal length(cm)','sepal width(cm)','petal length(cm)','petal width(厘米)']
[0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2]
['setosa''versicolor''virginica']
紫罗兰:濑户草,绿色:杂色,黄色:弗吉尼亚
在上面的图像中,左边的图像是未分类的原始数据,右边的图像是聚类的(根据数据的特征进行分类)。当给定一个要预测的输入时,它会根据它的特性检查它所属的集群,然后进行预测。
python中的k-means聚类
k均值是一种迭代聚类算法,其目标是在每次迭代中寻找局部最大值。选择初始所需的集群数量。因为我们知道有3个类,所以我们编写算法将数据分组到3个类中,方法是将参数n个集群传递到kmeans模型中。现在随机将三个点(输入)分配到三个集群中。根据每个点之间的质心距离,下一个给定的输入被分离成受尊重的集群。现在,重新计算所有集群的质心。
集群的每个质心是定义结果组的特征值的集合。质心特征权值的检验可以定性地解释每个聚类所代表的组的类型。
从sklearn库中导入kmeans模型,进行特征拟合和预测。
k是python中的实现。
# importing modules from sklearn import datasets from sklearn.cluster import kmeans # loading dataset iris_df = datasets.load_iris() # declaring model model = kmeans(n_clusters=3) # fitting model model.fit(iris_df.data) # predicitng a single input predicted_label = model.predict([[7.2, 3.5, 0.8, 1.6]]) # prediction on the entire data all_predictions = model.predict(iris_df.data) # printing predictions print(predicted_label) print(all_predictions)
[0] [0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 2 2 1 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 1 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 1 2 1 1 1 1 2 1 1 1 1 1 2 2 1 1 1 1 2 1 1 2 1 1 2 2 1 1 1 1 2 1 1 1 1 2 1 1 1 2 1 1 1 2 1 1 2]
分层聚类
分层聚类,顾名思义,是一种构建集群层次结构的算法。该算法首先将所有数据分配给自己的集群。然后将两个最近的集群连接到同一个集群中。最后,当只剩下一个集群时,该算法就结束了。
利用树状图可以显示层次聚类的完成情况。现在让我们看一个谷物数据分层聚类的例子。数据集可以在这里找到。
python中的分层集群实现。
# importing modules from scipy.cluster.hierarchy import linkage, dendrogram import matplotlib.pyplot as plt import pandas as pd # reading the dataframe seeds_df = pd.read_csv( https://raw.githubusercontent.com/vihar/unsupervised-learning-with-python/master/seeds-less-rows.csv) # remove the grain species from the dataframe, save for later varieties = list(seeds_df.pop('grain_variety')) # extract the measurements as a numpy array samples = seeds_df.values perform hierarchical clustering on samples using the linkage() function with the method='complete' keyword argument. assign the result to mergings. mergings = linkage(samples, method='complete') plot a dendrogram using the dendrogram() function on mergings, specifying the keyword arguments labels=varieties, leaf_rotation=90, and leaf_font_size=6. dendrogram(mergings, labels=varieties, leaf_rotation=90, leaf_font_size=6, ) plt.show()
k均值和分层聚类之间的差异
层次聚类不能很好地处理大数据,k表示聚类可以。这是因为k均值的时间复杂度是线性的,即o(n),而层次聚类的时间复杂度是二次的,即o(n2)。
在k均值聚类中,当我们从任意选择的聚类开始时,多次运行该算法生成的结果可能会有所不同。而结果在层次聚类中是可重复的。
当星系团的形状是超球形(如二维的圆形,三维的球形)时,发现k 代表工作良好。
k-means不允许有噪声的数据,而在分层中我们可以直接使用有噪声的数据集进行聚类。
t-sne聚类
它是一种无监督的可视化学习方法。t-sne代表t分布随机邻居嵌入。它将高维空间映射到可以可视化的二维或三维空间。具体地说,它通过一个二维或三维点对每个高维物体进行建模,其方法是用附近的点对相似的物体建模,用高概率的远点对不同的物体建模。
python中iris数据集的t-sne聚类实现。
# importing modules from sklearn import datasets from sklearn.manifold import tsne import matplotlib.pyplot as plt # loading dataset iris_df = datasets.load_iris() # defining model model = tsne(learning_rate=100) # fitting model transformed = model.fit_transform(iris_df.data) # plotting 2d t-sne x_axis = transformed[:, 0] y_axis = transformed[:, 1] plt.scatter(x_axis, y_axis, c=iris_df.target) plt.show()
紫色:setosa,绿色:versicolor,黄色:virginica
这里,由于iris数据集具有四个特征(4d),将其转换成二维图表示。类似地,t-sne模型可以应用于具有n个特征的数据集。
dbscan群集
dbscan(基于密度的噪声应用空间聚类)是一种常用的聚类算法,用于替代预测分析中的k均值。它不需要您输入集群的数量才能运行。但作为交换,您必须调优其他两个参数。
scikit-learn实现为eps和min示例参数提供了默认值,但是通常需要对它们进行调优。eps参数是在同一个邻域内需要考虑的两个数据点之间的最大距离。最小样本参数是一个邻域内被认为是一个集群的数据点的最小数量。

工业插头的功能是什么,它的优点有哪些
NEVS与柯尼赛格签订合作协议 计划打造世界领先的新能源汽车
高效率﹑低成本ISM频段发送器中的功放电路
存储器的主要功能是什么,它的常见分类是什么
多地布局自动驾驶产业_5G让自动驾驶走进现实
如何用Python进行无监督学习
AI逐步深入产业发展 大学生何以勇攀时代高峰
HRA(B)W1~25W系列模块电源介绍
边缘计算网关需要了解的五大优势
5G风口之下智能家居的安全问题不容忽视
苹果新闻 苹果下架涉港应用 苹果明年3月发iPhoneSE2
两种屏幕尺寸 诺基亚旗舰或于6月发布
人工智能技术有哪些应用?
USB的四大传输方式介绍
蓄电池组负载测试仪的技术参数及特点
行云二号发射成功_天基物联网星座要来了
疫情有没有对5G造成负面的影响
乌东德水电站大坝主体工程成功浇筑到顶 最大坝高270米
极目智能受邀参加湖北省人才周“青年科技人才汇智·企业行”活动
PCB承载大电流的操作方法和注意事项
s