spark讀取hdfs上的文件和寫入數據到hdfs上面


def main(args: Array[String]): Unit = {
      val conf = new SparkConf()
      conf.set("spark.master", "local")
      conf.set("spark.app.name", "spark demo")
      val sc = new SparkContext(conf);
      // 讀取hdfs數據
      val textFileRdd = sc.textFile("hdfs://m2:9820/README.md")
      val fRdd = textFileRdd.flatMap { _.split(" ") }
      val mrdd = fRdd.map { (_, 1) }
      val rbkrdd = mrdd.reduceByKey(_+_)
      // 寫入數據到hdfs系統
      rbkrdd.saveAsTextFile("hdfs://m2:9820/wcresult")
  }

  


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM