---> load 和 save 函數(shù)

// 讀取 Parquet 文件
val usersDF = spark.read.load("/test/users.parquet")

// 查詢 Schema 和數(shù)據(jù)
usersDF.printSchema
usersDF.show

// 查詢用戶的 name 和喜愛顏色并保存
usersDF.select($"name", $"favorite_color").write.save("/test/result/parquet")
// 驗證結(jié)果 可通過 printSchema 查詢數(shù)據(jù)結(jié)構(gòu)，使用 show 查看數(shù)據(jù)

// 顯式指定文件格式： 加載 json 格式
val usersDF = spark.read.format("json").load("/test/people.json")

// 存儲模式(Save Modes) 
// 可以采用 SaveMode 執(zhí)行存儲操作， SaveMode 定義 了對數(shù)據(jù)的處理模式，需要注意的是，這些保存模式不使用任何鎖定，不是原子操作
// 當(dāng)使用 Overwrite 方式執(zhí)行時，在輸出新數(shù)據(jù)之前，原數(shù)據(jù)就已經(jīng)被刪除
usersDF.select($"name").write.save("/test/parquet1")   // 若 /test/parquet1 存在會報錯
usersDF.select($"name").wirte.mode("overwrite").save("/test/parquet1")        // 使用 overwrite 即可

// 將結(jié)果保存為表, 也可以進行分區(qū)， 分桶等操作： partitionBy  bucketBy
usersDF.select($"name").write.saveAsTable("table1")

   ---> Parquet文件

Parquet 是一個列格式而且用于多個數(shù)據(jù)處理系統(tǒng)中

       Spark SQL 提供支持對于 Parquet 文件的讀寫，也就是自動保存原始 數(shù)據(jù)的 Schema, 當(dāng)寫 Parquet 文件時，所有的列被自動轉(zhuǎn)化為 nullable，因為兼容性的緣故

        ---- 讀取 Json 格式的數(shù)據(jù)，將其轉(zhuǎn)換成 parquet 格式，創(chuàng)建相應(yīng)的表，使用 SQL 語句查詢

// 從 json 文件中讀入數(shù)據(jù)
val empJson = spark.read.json("/test/emp.json")
// 將數(shù)據(jù)保存為 parquet
empJson.write.mode("overwrite").parquet("/test/parquet")
// 讀取 parquet
val empParquet = spark.read.parquet("/test/parquet")
// 創(chuàng)建臨時表 emptable
empParquet.createOrReplaceTempView("emptalbe")
// 使用 SQL 語句執(zhí)行查詢
spark.sql("select * from emptable where deptno=10 and sal>1500").show

      ---- Schematic 的合并： 先定義一個簡單的 Schema，然后逐漸增加列描述，用戶可以獲取多個有多個不同 Schema 但相互兼容的 Parquet 文件

// 創(chuàng)建第一個文件
val df1 = sc.makeRDD(1 to 5).map(x=> (x, x*2)).toDF("single", "double")
scala> df1.printSchema
root
 |-- single: integer (nullable = false)
 |-- double: integer (nullable = false)
 
 
// 創(chuàng)建第二個文件 
 scala> val df2 = sc.makeRDD(6 to 10).map(x=> (x, x*2)).toDF("single", "triple")
df2: org.apache.spark.sql.DataFrame = [single: int, triple: int]

scala> df2.printSchema
root
 |-- single: integer (nullable = false)
 |-- triple: integer (nullable = false)
  
 scala> df2.write.parquet("/data/testtable/key=2")

 // 合并上面的兩個文件
scala> val df3 = spark.read.option("mergeSchema", "true").parquet("/data/testtable")
df3: org.apache.spark.sql.DataFrame = [single: int, double: int ... 2 more fields]

scala> df3.printSchema
root
 |-- single: integer (nullable = true)
 |-- double: integer (nullable = true)
 |-- triple: integer (nullable = true)
 |-- key: integer (nullable = true)
 
 scala> df3.show
+------+------+------+---+
|single|double|triple|key|
+------+------+------+---+
|     8|  null|    16|  2|
|     9|  null|    18|  2|
|    10|  null|    20|  2|
|     3|     6|  null|  1|
|     4|     8|  null|  1|
|     5|    10|  null|  1|
|     6|  null|    12|  2|
|     7|  null|    14|  2|
|     1|     2|  null|  1|
|     2|     4|  null|  1|
+------+------+------+---+

   ---> Json Datasets（兩種寫法）

// 第一種
scala> val df4 = spark.read.json("/app/spark-2.2.1-bin-hadoop2.7/examples/src/main/resources/people.json")
df4: org.apache.spark.sql.DataFrame = [age: bigint, name: string]

scala> df4.show
+----+-------+
| age|   name|
+----+-------+
|null|Michael|
|  30|   Andy|
|  19| Justin|
+----+-------+

// 第二種
scala> val df5 = spark.read.format("json").load("/app/spark-2.2.1-bin-hadoop2.7/examples/src/main/resources/people.json")
df5: org.apache.spark.sql.DataFrame = [age: bigint, name: string]

scala> df5.show
+----+-------+
| age|   name|
+----+-------+
|null|Michael|
|  30|   Andy|
|  19| Justin|
+----+-------+

// 將 JDBC 的驅(qū)動加入
bin/spark-shell --master spark://bigdata11:7077 --jars /root/temp/ojdbc6.jar --driver-class-path /root/temp/ojdbc6.jar

// 讀取 Oracle
val oracleEmp = spark.read.format("jdbc")
                    .option("url","jdbc:oracle:thin:@192.168.10.100:1521/orcl.example.com")
                    .option("dbtable","scott.emp")
                    .option("user","scott")
                    .option("password","tiger").load

 ./bin/spark-shell --master spark://bigdata0:7077 --jars /data/tools/mysql-connector-java-5.1.43-bin.jar  --driver-class-path /data/tools/mysql-connector-java-5.1.43-bin.jar

// 創(chuàng)建表
spark.sql("create table ccc(key INT, value STRING) row format delimited fields terminated by ','")

// 導(dǎo)入數(shù)據(jù)
spark.sql("load data local path '/test/data.txt' into table ccc")

// 查詢數(shù)據(jù)
spark.sql("select * from ccc").show

show tables;
select * from ccc;