scikit-learn使用笔记与sign prediction简单小结(scikit-learn svr)

推荐整理分享scikit-learn使用笔记与sign prediction简单小结(scikit-learn svr)，希望有所帮助，仅作参考，欢迎阅读内容。

文章相关热门搜索词:scikit-learn中文,scikit-learn中文,scikit-learn svr,scikit learn,scikit-learn教程,scikit-learn的用途,scikit learn中文手册,scikit learn,内容如对您有帮助，希望把文章链接给更多的朋友！

经Edwin Chen的推荐，认识了scikit-learn这个非常强大的python机器学习工具包。这个帖子作为笔记。（其实都没有笔记的意义，因为他家文档做的太好了，不过还是为自己记记吧，为以后节省若干分钟）。如果有幸此文被想用scikit-learn的你看见，也还是非常希望你去它们的主页看文档。主页中最值得关注的几个部分：User Guide几乎是machine learning的索引，各种方法如何使用都有，Reference是各个类的用法索引。

S1. 导入数据 大多数数据的格式都是M个N维向量，分为训练集和测试集。所以，知道如何导入向量（矩阵）数据是最为关键的一点。这里要用到numpy来协助。假设数据格式是：

复制代码代码如下:Stock prices indicator1 indicator2 2.0 1.0 .. .. .. . . .

导入代码参考：

复制代码代码如下:import numpy as np f = open("filename.txt") f.readline() # skip the header data = np.loadtxt(f) X = data[:, 1:] # select columns 1 through end y = data[:, 0] # select column 0, the stock price

libsvm格式的数据导入：

复制代码代码如下:>>> from sklearn.datasets import load_svmlight_file >>> X_train, y_train = load_svmlight_file("/path/to/train_dataset.txt") ... >>>X_train.todense()#将稀疏矩阵转化为完整特征矩阵

更多格式数据导入与生成参考：

S2. Supervised Classification 几种常用方法：

Logistic Regression

复制代码代码如下:>>> from sklearn.linear_model import LogisticRegression >>> clf2 = LogisticRegression().fit(X, y) >>> clf2 LogisticRegression(C=1.0, intercept_scaling=1, dual=False, fit_intercept=True, penalty='l2', tol=0.) >>> clf2.predict_proba(X_new) array([[ 9.e-, 9.e-, 1.e-]])

Linear SVM (Linear kernel)

复制代码代码如下:>>> from sklearn.svm import LinearSVC >>> clf = LinearSVC() >>> clf.fit(X, Y) >>> X_new = [[ 5.0, 3.6, 1.3, 0.]] >>> clf.predict(X_new)#reuslt[0] if class label array([0], dtype=int)

SVM (RBF or other kernel)

复制代码代码如下:>>> from sklearn import svm >>> clf = svm.SVC() >>> clf.fit(X, Y) SVC(C=1.0, cache_size=, class_weight=None, coef0=0.0, degree=3, gamma=0.0, kernel='rbf', probability=False, shrinking=True, tol=0., verbose=False) >>> clf.predict([[2., 2.]]) array([ 1.])

Naive Bayes (Gaussian likelihood)

复制代码代码如下:from sklearn.naive_bayes import GaussianNB >>> from sklearn import datasets >>> gnb = GaussianNB() >>> gnb = gnb.fit(x, y) >>> gnb.predict(xx)#result[0] is the most likely class label

Decision Tree (classification not regression)

复制代码代码如下:>>> from sklearn import tree >>> clf = tree.DecisionTreeClassifier() >>> clf = clf.fit(X, Y) >>> clf.predict([[2., 2.]]) array([ 1.])

Ensemble (Random Forests, classification not regression)

复制代码代码如下:>>> from sklearn.ensemble import RandomForestClassifier >>> clf = RandomForestClassifier(n_estimators=) >>> clf = clf.fit(X, Y) >>> clf.predict(X_test)

S3. Model Selection (Cross-validation) 手工分training data和testing data当然可以了，但是更方便的方法是自动进行，scikit-learn也有相关的功能，这里记录下cross-validation的代码：

复制代码代码如下:>>> from sklearn import cross_validation >>> from sklearn import svm >>> clf = svm.SVC(kernel='linear', C=1) >>> scores = cross_validation.cross_val_score(clf, iris.data, iris.target, cv=5)#5-fold cv #change metrics >>> from sklearn import metrics >>> cross_validation.cross_val_score(clf, iris.data, iris.target, cv=5, score_func=metrics.f1_score) #f1 score: <a href="

more about cross-validation:

Note: if using LR, clf = LogisticRegression().

S4. Sign Prediction Experiment 数据集，EPINIONS，有user与user之间的trust与distrust关系，以及interaction（对用户评论的有用程度打分）。

Features：网络拓扑feature参考"Predict positive and negative links in online social network"，用户交互信息feature。

一共设了3类instances，每类3次训练+测试，训练数据是测试数据的倍，~,个/5/维向量，得出下面一些结论。时间上，GNB最快（所有instance都是2~3秒跑完），DT非常快（有一类instance只用了1秒，其他都要4秒），LR很快(三类instance的时间分别是2秒，5秒，~秒)，RF也不慢（一个instance9秒，其他秒），linear kernel的SVM要比LR慢好几倍（所有instance要跑多秒），RBF kernel的SVM比linear SVM要慢+倍到上百倍（第一个instance要分钟，第二个instance跑了近两个小时）。准确度上RF>LR>DT>GNB>SVM(RBF kernel)>SVM(Linear kernel)。GNB和SVM(linear kernel)、SVM(rbf kernel)在第二类instance上差的比较远（~个百分点），LR、DT都差不多，RF确实体现了ENSEMBLE方法的强大，比LR有较为显著的提升（近2~4个百分点）。（注：由于到该文提交为止，RBF版的SVM才跑完一次测试中的两个instance，上面结果仅基于此。另外，我还尝试了SGD等方法，总体上都不是特别理想，就不记了）。在feature的有效性上面，用户交互feature比网络拓扑feature更加有效百分五到百分十。

S5.通用测试源代码 这里是我写的用包括上述算法在内的多种算法的自动分类并fold cross-validation的python代码，只要输入文件保持本文开头所述的格式（且不包含注释信息），即可用多种不同算法测试分类效果。Download.

Linux下安装和部署LXC(内核虚拟化技术)的方法 LinuxContainer容器是一种内核虚拟化技术，简称LXC，是一种轻量级的虚拟化手段，那么LXC要如何安装部署呢？下面小编就给大家介绍下Linux下LXC的安装部署

在Linux虚拟环境下搭建DB2的多分区数据库DPF DPF是DB2的多分区数据库，那么DPF要怎么搭建呢？下面小编就给大家介绍下如何在Linux虚拟化环境搭建DB2数据库DPF，给不知道怎么搭建的朋友做个指导。DB2

Linux系统中在虚拟机上搭建DB2 pureScale的方法 在Linux操作系统中，可在虚拟机上搭建DB2pureScale，那么搭建的步骤是怎么样的呢？DB2pureScale又有什么用呢？下面随小编一起来了解下Linux系统如何在虚拟