創建一個空的spark dataframe


from pyspark.sql.types import *
from pyspark.sql import SparkSession

spark = SparkSession.builder.appName('TEST').getOrCreate()
sc=spark.sparkContext
schema = StructType([
        StructField("a", IntegerType(), True),
        StructField("b", IntegerType(), True),
        StructField("c", IntegerType(), True)])
 
# 通過定義好的dataframe的schema來創建空dataframe
df1 = spark.createDataFrame(spark.sparkContext.emptyRDD(), schema)
df1.show()

  想要創建一個空的spark dataframe,需要先指定schema 的類型


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM