创建一个空的spark dataframe


from pyspark.sql.types import *
from pyspark.sql import SparkSession

spark = SparkSession.builder.appName('TEST').getOrCreate()
sc=spark.sparkContext
schema = StructType([
        StructField("a", IntegerType(), True),
        StructField("b", IntegerType(), True),
        StructField("c", IntegerType(), True)])
 
# 通过定义好的dataframe的schema来创建空dataframe
df1 = spark.createDataFrame(spark.sparkContext.emptyRDD(), schema)
df1.show()

  想要创建一个空的spark dataframe,需要先指定schema 的类型


免责声明!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。



 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM