从hdfs复制文件并重命名(如果存在)

时间:2018-01-31 09:00:30

标签: hadoop hdfs

有没有办法将文件从hdfs复制到本地,如果它存在于目的地,则重命名它? 与part-00000,part-00000(1),part-00000(2)

类似
hdfs dfs -copyToLocal  /user/output-*/RunTime/p*    Runtimes/

1 个答案:

答案 0 :(得分:1)

不是原生,不是。

您需要自定义代码来扫描目标文件并查看是否

  1. 文件名存在,添加(1)
  2. 文件名存在,并且某个名称以(n)结尾的文件生成(n+1)的新文件
  3. 我建议您将文件下载到带时间戳的文件夹中,这样您就不会对使用哪个零件文件感到困惑,而且您可以更轻松地查看“随时间推移的零件文件”

相关问题