ighack 发表于 2020-12-9 14:08:34

spark排序以后写入单个文件

本帖最后由 ighack 于 2020-12-9 14:11 编辑

val freq = model.freqItemsets.withColumn("rate", col("freq") / lit(count))


    freq.orderBy(org.apache.spark.sql.functions.desc("rate")).repartition(1).write.mode("overwrite").json(ifreq)


当我freq.show()好像结果是排序的,但当我写了文件的时候就不排序了
页: [1]
查看完整版本: spark排序以后写入单个文件