Question

我的文件大小为32 MB，我已将其从DocuShare服务器下载到DocuShare临时文件夹。我正在尝试从中读取文件内容以创建文件。 URL编码base64内容时出现错误。当我在一个简单的Java应用程序中运行相同的代码时，我没有遇到任何异常。但是，当我在DocuShare服务中使用相同的代码获取文档内容时，出现异常。 HTTP状态500-org.glassfish.jersey.server.ContainerException：java.lang.OutOfMemoryError：Java堆空间

org.glassfish.jersey.server.ContainerException：java.lang.OutOfMemoryError：Java堆空间

File file = new File(filePath);
FileInputStream fileInputStreamReader = new FileInputStream(file);
byte[] bytes = new byte[(int)file.length()];
fileInputStreamReader.read(bytes);
String encodedBase64 = String encodedBase64 = java.util.Base64.getEncoder().encodeToString(bytes);
String urlEncoded = URLEncoder.encode(encodedBase64);

如何解决此错误？我需要增加雄猫的堆大小吗？

Answer 1

有两种方法可以解决此问题。

您可以增加堆大小，但是IMO这是一个不好的解决方案，因为如果您收到多个并行请求或尝试处理更大的文件，则会遇到相同的问题。

您可以优化算法-您可以以流方式处理文件，而不是将文件的多个副本存储在内存中，因此在内存中的存储量不会超过几个KB：

import java.io.InputStream;
import java.io.OutputStream;
import java.nio.file.Files;
import java.nio.file.Path;
import java.nio.file.Paths;
import java.util.Base64;

public class Launcher {
    public static void main(String[] args) throws Exception {
        final Path input = Paths.get("example");
        final Path output = Paths.get("output");

        try (InputStream in = Files.newInputStream(input); OutputStream out = Base64.getUrlEncoder().wrap(Files.newOutputStream(output))) {
            final byte[] buffer = new byte[1024 * 8];

            for (int read = in.read(buffer); read > 0; read = in.read(buffer)) {
                out.write(buffer, 0, read);
            }
        }
    }
}

PS：如果确实需要URL编码器，则必须创建它的流版本，但我认为URL安全的base64绰绰有余

Answer 2

Base64将每3个字节转换为4个字母。这意味着您可以分块读取数据并以与解码整个文件相同的方式对其进行解码。

尝试一下：

       File file = new File(filePath);
       FileInputStream fileInputStreamReader = new FileInputStream(file);
       StringBuilder sb = new StringBuilder();
       Base64.Encoder encoder = java.util.Base64.getEncoder();
       int bufferSize = 3 * 1024; //3 mb is the size of a chunk
       byte[] bytes = new byte[bufferSize]; 
       int readSize = 0;

       while ((readSize = fileInputStreamReader.read(bytes)) == bufferSize) {
            sb.append(encoder.encodeToString(bytes));
       }

       if (readSize > 0) {
            bytes = Arrays.copyOf(bytes, readSize);
            sb.append(encoder.encodeToString(bytes) );
       }

       String encodedBase64  = sb.toString();

Answer 3

如果文件很大，根据文件的大小，您总是会遇到OOM错误。如果您的目标是使用Apache Commons Base64 Streams进行base64编码。

https://commons.apache.org/proper/commons-codec/apidocs/org/apache/commons/codec/binary/Base64InputStream.html

如何修复java.lang.OutOfMemoryError：Java堆空间错误？

3 个答案: