Versions Compared

Key

  • This line was added.
  • This line was removed.
  • Formatting was changed.

...

INFO  : Completed executing command(queryId=ngangam_20240129181838_56b888dd-a0ba-4bde-a66a-97bba48f6435); Time taken: 0.815 seconds

INFO  : OK

+-------------------------------+-------------------------------------------------+----------------------------------------------------+
|           col_name                              data_type                                        comment                       |
+-------------------------------+-------------------------------------------------+----------------------------------------------------+
| tblkey                        | int                                             | from deserializer                                  |
| descr                         | string                                          | from deserializer                                  |
|                               | NULL                                            | NULL                                               |
| # Detailed Table Information  | NULL                                            | NULL                                               |
| Database:                     | emr_db                                          | NULL                                               |
| OwnerType:                    | USER                                            | NULL                                               |
| Owner:                        | null                                            | NULL                                               |
| CreateTime:                   | UNKNOWN                                         | NULL                                               |
| LastAccessTime:               | UNKNOWN                                         | NULL                                               |
| Retention:                    | 0                                               | NULL                                               |
| Location:                     | file:/tmp/hive/warehouse/external/test_emr_tbl

...

  | NULL                                               |
| Table Type:                   | EXTERNAL_TABLE                                  | NULL                                               |
| Table Parameters:             | NULL                                            | NULL                                               |
|                               | EXTERNAL                                        | TRUE                                               |
|                               | hive.sql.database.type                          | HIVE                                               |
|                               | hive.sql.dbcp.password                                                                            |
|                               | hive.sql.dbcp.username                          | hive                                               |
|                               | hive.sql.jdbc.driver                            | org.apache.hive.jdbc.HiveDriver                    |
|                               | hive.sql.jdbc.url                               | jdbc:hive2://<maskedIP>.compute-1.amazonaws.com:10000 |
|                               | hive.sql.schema                                 | default                                            |
|                               | hive.sql.table                                  | test_emr_tbl                                       |
|                               | storage_handler                                 | org.apache.hive.storage.jdbc.JdbcStorageHandler    |
|                               | NULL                                            | NULL                                               |
| # Storage Information         | NULL                                            | NULL                                               |
| SerDe Library:                | org.apache.hive.storage.jdbc.JdbcSerDe          | NULL                                               |
| InputFormat:                  | org.apache.hive.storage.jdbc.JdbcInputFormat    | NULL                                               |
| OutputFormat:                 | org.apache.hive.storage.jdbc.JdbcOutputFormat   | NULL                                               |
| Compressed:                   | No                                              | NULL                                               |
| Num Buckets:                  | 0                                               | NULL                                               |
| Bucket Columns:               | []                                              | NULL                                               |
| Sort Columns:                 | []                                              | NULL                                               |
| Storage Desc Params:          | NULL                                            | NULL                                               |
|                               | serialization.format                            |                                                 |
+-------------------------------+-------------------------------------------------+----------------------------------------------------+

33 rows selected (6.099 seconds)


4. Offload the remote table to local cluster, run CTAS (example below pulls in all the data into the local table, but you can pull in select columns and rows by applying predicates)

...