如何将镶木地板文件加载到Snowflake数据库中?

时间:2018-07-06 17:26:06

标签: database parquet snowflake

是否可以将镶木地板文件直接加载到雪花中? 如果是,怎么办?

谢谢。

2 个答案:

答案 0 :(得分:3)

是的,有可能,最好通过S3完成。请注意,以下内容假设您具有MY_PARQUET_LOADER表,定义的STAGE_SCHEMA模式和S3STAGE,并且您的镶木地板文件位于/ path / key / folder下的存储桶中。

  copy into STAGE_SCHEMA.MY_PARQUET_LOADER
     from ( 
       select
       $1
     ,metadata$filename as metadata_filename
     ,metadata$file_row_number as metadata_file_row_number  
     ,current_timestamp() as load_timestamp
       from
  @S3STAGE/path/)
   pattern = '.*.parquet'
  file_format = (
  TYPE = 'PARQUET' 
  SNAPPY_COMPRESSION = TRUE    )
  ON_ERROR = 'SKIP_FILE_1%'
  purge= TRUE;

存在的地方:

create or replace TABLE MY_PARQUET_LOADER (
    RAW VARIANT,
    METADATA_FILENAME VARCHAR(16777216),
    METADATA_FILE_ROW_NUMBER NUMBER(38,0),
    LOAD_TIMESTAMP TIMESTAMP_LTZ(9)
) cluster by (METADATA_FILENAME);

值得阅读精美的手册:
https://docs.snowflake.net/manuals/sql-reference/sql/copy-into-table.html

答案 1 :(得分:0)

是的 这可能是一个解决方案

create or replace TABLE MY_PARQUET_LOADER (
    RAW VARIANT,
    METADATA_FILENAME VARCHAR(16777216),
    METADATA_FILE_ROW_NUMBER NUMBER(38,0),
    LOAD_TIMESTAMP TIMESTAMP_LTZ(9)
) cluster by (METADATA_FILENAME);
相关问题