Question

我正在编写一个nodejs应用程序，用于使用“wget”unix命令下载整个网站，但我在下载页面中有一些网址有问题，.html出现在文件的末尾，例如

<img src=“images/photo.jpeg.html”> or <script src=“js/scripts.js.html”>

我正在使用的代码如下：

    var util = require('util'),
    exec = require('child_process').exec,
    child,
    url = 'http://www.example.com/';
child = exec('wget --mirror -p --convert-links --html-extension -e robots=off -P /destination_folder/ ' + url,
  function (error, stdout, stderr) {
    console.log('stdout: ' + stdout);
    console.log('stderr: ' + stderr);
    if (error !== null) {
      console.log('exec error: ' + error);
    }
});

NB如果我直接在Unix shell上使用此命令（wget -mirror -p --html-extension --convert-links -e robots = off -P。http://www.example.com），它可以正常工作。< / p>

修改：这是运行nodejs脚本后返回的日志：

--2017-04-04 11:49:49--  http://www.example.com/css/style.min.css
Reusing existing connection to www.example.com:80.
HTTP request sent, awaiting response... 304 Not Modified
File ‘/destination_folder/www.example.com/css/style.min.css.html’ not modified on server. Omitting download.

FINISHED --2017-04-04 11:50:11--
Total wall clock time: 22s
Downloaded: 50 files, 1.2M in 1.4s (855 KB/s)
/destination_folder/www.example.com/css/style.min.css.html: No such file or directory
Converting links in /destination_folder/www.example.com/css/style.min.css.html... nothing to do.
exec error: Error: stderr maxBuffer exceeded

我不明白问题出在哪里，你能帮帮我吗？

谢谢

Answer 1

exec使用限制在stdout和sterr之间的缓冲区。

如果要下载的文件很大，缓冲区可能会用完空间。尝试使用spawn intestad exec。供你参考： Difference between spawn and exec of Node.js

nodejs exec Wget命令

1 个答案: