sparkmllib中数据降维之如何实现主成分分析
小编给大家分享一下spark mllib中数据降维之如何实现主成分分析,希望大家阅读完这篇文章之后都有所收获,下面让我们一起去探讨吧!
专注于为中小企业提供成都网站设计、成都做网站服务,电脑端+手机端+微信端的三站合一,更高效的管理,为中小企业天祝藏族自治免费做网站提供优质的服务。我们立足成都,凝聚了一批互联网行业人才,有力地推动了上1000家企业的稳健成长,帮助中小企业通过网站建设实现规模扩充和转变。
运行代码如下
package spark.DataDimensionReduction import org.apache.spark.mllib.linalg.Vectors import org.apache.spark.mllib.linalg.distributed.RowMatrix import org.apache.spark.{SparkConf, SparkContext} /** * 数据降维 * 主成分分析PCA * 设法将原来具有一定相关行(比如 P个指标)的指标 * 重新组合成一组新的互相无关的综合指标来代替原来的指标,从而实现数据降维的目的 * Created by eric on 16-7-24. */ object PCA { val conf = new SparkConf() //创建环境变量 .setMaster("local") //设置本地化处理 .setAppName("PCA") //设定名称 val sc = new SparkContext(conf) def main(args: Array[String]) { val data = sc.textFile("./src/main/spark/DataDimensionReduction/a.txt") .map(_.split(" ").map(_.toDouble)) .map(line => Vectors.dense(line)) val rm = new RowMatrix(data) val pc = rm.computePrincipalComponents(3)//提取主成分,设置主成分个数为3 val mx = rm.multiply(pc)//创建主成分矩阵 mx.rows.foreach(println) } }
a.txt
1 2 3 4 5 6 7 8 9 0 8 7 6 4 2 1
结果如下
看完了这篇文章,相信你对“spark mllib中数据降维之如何实现主成分分析”有了一定的了解,如果想了解更多相关知识,欢迎关注创新互联行业资讯频道,感谢各位的阅读!
分享题目:sparkmllib中数据降维之如何实现主成分分析
网站URL:http://abwzjs.com/article/jjjejp.html