Flink文件系统支持

时间:2018-08-07 16:47:27

标签: apache-flink

文档https://ci.apache.org/projects/flink/flink-docs-stable/internals/filesystems.html#implementations说“列表不完整”。 在哪里可以找到完整的一个?

1 个答案:

答案 0 :(得分:1)

文档的部署和运营部分包括位于File Systems上的页面。

引用该页面:

  

Flink直接实现以下文件系统:

     
      
  • 本地:当方案为“ file://”时使用此文件系统,它表示本地计算机的文件系统,包括任何 NFS   或安装在该本地文件系统中的 SAN

  •   
  • S3 :Flink直接提供文件系统以与Amazon S3进行对话,并以“ s3://”方案注册。有两种选择   flink-s3-fs-presto和flink-s3-fs-hadoop实现,基于   Presto项目和Hadoop项目中的代码。都   实现是独立的,没有依赖区。至   在将Flink用作库时使用它们,添加相应的Maven   依赖项(org.apache.flink:flink-s3-fs-presto:1.5.0或   org.apache.flink:flink-s3-fs-hadoop:1.5.0)。启动Flink时   Flink二进制文件中的应用程序,复制或移动相应的jar   文件从opt文件夹移到lib文件夹。有关详细信息,请参见AWS设置。

  •   
  • MapR FS :当MapR库位于类路径中时,将自动提供MapR文件系统“ maprfs://”。

  •   
  • OpenStack Swift FS :Flink直接提供了与OpenStack Swift文件系统对话的文件系统,已在该方案下注册   “迅速://”。 flink-swift-fs-hadoop的实现基于   Hadoop项目,但是是独立的,没有依赖项足迹。至   在将Flink用作库时使用它,添加相应的Maven   依赖项(org.apache.flink:flink-swift-fs-hadoop:1.5.0启动时   Flink二进制文件中的Flink应用程序,将其复制或移动   分别从opt文件夹到lib文件夹的jar文件。

  •   

文档还描述了如何实现和注册自定义文件系统连接器。