如何强制wait()完全等待subprocess.Popen()完成

时间:2013-01-22 07:32:53

标签: python subprocess wait popen

我正在尝试使用subprocess.Popen(['cp',etc ..])和wait()在while循环中传输和重命名一些文件。不幸的是,似乎wait()命令没有正常工作,即没有等待文件完全复制到新目录。大多数情况下文件复制得很好,但是,一小部分随机文件没有(每次运行脚本时都不是相同的文件),因此是零字节文件或不完整的文件。我也尝试过使用subprocess.check_call(),但这也不起作用。当我打印poll()值时,它总是为零,这意味着该过程已经完成。请注意我正在处理的所有文件都在150KB的范围内。因为我正在使用iraf例程,我的python脚本使用python 2.7,python版本的iraf(图像缩减和分析工具)在pyraf中运行。有没有办法强制Popen()或check_call()等待文件传输完成?

while count <= ncross_correlate and skip_flag != 's':
   ...more stuff
   try:
      iraf.rv.fxcor (object_fits, template_fits, apertures="*", cursor="",
      continuum="both", filter="both", rebin="smallest", pixcorr="no", 
      osample=osample_reg, rsample=osample_reg, apodize=0.1, function="gaussian",
      width="INDEF", height=0., peak="no", minwidth=3., maxwidth=21., weights=1.,
      background=0., window=300., wincenter="INDEF", output=output_name, verbose="long",
      imupdate="no", graphics="stdgraph", interactive="no", autowrite="yes",
      autodraw="yes", ccftype="image", observatory="aao", continpars="", filtpars="", 
      keywpars="")

      # Create a eps file of the cross_correlation file.
      gki_output_name = output_name + '.gki'
      iraf.plot.sgikern (gki_output_name, device='eps', generic='no', debug='no',
      verbose='no', gkiunit='no')

不幸的是,将在fxcor中创建的.gki文件转换为可读的唯一方法 iraf之外的格式是调用iraf任务sgikern,它会转储我的.eps文件 iraf / iraf /目录,但不提供更改文件名或目录位置的选项。实际上,文件名是随机生成的。很沮丧!!!另请注意,使用iraf.plot.sgikern创建的任何eps文件都没有任何问题(即没有0​​ KB文件开头)。复制和重命名是我遇到问题的地方。

      # Find the eps file in /iraf/iraf/, rename it, and move to proper output location.
      iraf_dir = '/iraf/iraf/'
      eps_file_list = glob.glob(iraf_dir + 'sgi' + '*.eps')

      ...more code

此时我尝试使用check_call()或Popen():

      subprocess.check_call(['cp', eps_file_list[0], ccf_output_dir + object_name_sub +
                            '.eps'], stdout=subprocess.PIPE)
      subprocess.check_call(['rm', eps_file_list[0]], stdout=subprocess.PIPE)

      process1 = subprocess.Popen(['cp', eps_file_list[0], ccf_output_dir +
                                  object_name_sub + '.eps'], stdout=subprocess.PIPE)
      process1.wait()
      process2 = subprocess.Popen(['rm', eps_file_list[0]], stdout=subprocess.PIPE)
      process2.wait()

      ...more stuff

   # end of try statement
#end of while statement  

我认为如果我能以某种方式将两个Popen语句合并到一个Popen语句中,并且还包括一个可能0.01s的shell休眠时间,以强制其他两个进程在返回完成的进程之前完成,这可能会修复它。也许是这样的,虽然我不确定确切的sentax:

 process1 = subprocess.Popen(['cp', eps_file_list[0], ccf_output_dir +
            object_name_sub + '.eps']; ['rm', eps_file_list[0]]; ['sleep', 0.01],
            stdout=subprocess.PIPE)
 process1.wait()       

希望这可以让您了解我正在尝试做什么。我一直在尝试很多不同的事情,并寻找解决这个问题的方法,我真的被卡住了。

干杯, 布雷特

3 个答案:

答案 0 :(得分:0)

也许以下就足够了:

subprocess.check_call(['mv', eps_file_list[0], ccf_output_dir + object_name_sub +
                        '.eps'], stdout=subprocess.PIPE)

process1 = subprocess.Popen(['mv', eps_file_list[0], ccf_output_dir +
                              object_name_sub + '.eps'], stdout=subprocess.PIPE)
process1.wait()

答案 1 :(得分:0)

您是否考虑过使用shutil.copyfile进行复制,os.remove进行删除?

如果你真的想使用Subprocess,我相信语法是这样的:

process1 = subprocess.Popen('cp ' + eps_file_list[0] + ' ' + ccf_output_dir +
        object_name_sub + '.eps; rm ' + eps_file_list[0] ' + '; sleep 0.01',
        stdout=subprocess.PIPE)

这样,您正在调用的命令全部在一个字符串中:'cp whatever foo/bar.eps; rm whatever; sleep 0.01'

您还可以使用三引号格式化字符串,并在不同的行中使用命令:

'''
cp %s %s%s
rm %s
sleep %s
''' % (eps_file_list[0], ccf_output_dir, object_name_sub, eps_file_list[0], 0.01)

答案 2 :(得分:0)

这不是一个完整的解决方案,也不是一个令人满意的解决方案,但它是我提出的最好的工作〜99.9%的时间(我创建的4000+ eps,5个文件是0字节或不完整) 。这是对我这样做的原始方式的改进,大约95%的时间都是成功的。我已粘贴以下代码:

     try:
        iraf.rv.fxcor (object_fits, template_fits, apertures="*", cursor="",
        continuum="both", filter="both", rebin="smallest", pixcorr="no", osample=osample_reg,
        rsample=osample_reg, apodize=0.1, function="gaussian", width="INDEF", height=0., peak="no",
        minwidth=3., maxwidth=21., weights=1., background=0., window=300.,
        wincenter="INDEF", output=output_name, verbose="long", imupdate="no",
        graphics="stdgraph", interactive="no", autowrite="yes", autodraw="yes",
        ccftype="image", observatory="aao", continpars="", filtpars="", keywpars="")

        # Create a eps file of the cross_correlation file.
        gki_output_name = output_name + '.gki'
        iraf.plot.sgikern (gki_output_name, device='eps', generic='no', debug='no',
        verbose='no', gkiunit='no')
        time.sleep(0.25)

我在这里放了一个时间睡眠器,因为我发现在我的代码试图将文件移动到另一个目录时,我的iraf目录中创建的一些ps文件还没有完全写入。

        # Find the eps file in /iraf/iraf/, rename it, move to proper output location, and delete the old eps file.
        iraf_dir = '/iraf/iraf/'
        eps_file_list = glob.glob(iraf_dir + 'sgi' + '*.eps')

        ...continuation of code

        if len(eps_file_list) == 1:
           eps_file_sub = os.path.basename(eps_file_list[0])

           cmd1 = 'cp {0} {1}'.format(eps_file_list[0], ccf_output_dir + object_name_sub + '.eps')
           cmd2 = 'rm {0}'.format(eps_file_list[0])
           cmd3 = 'sleep 0.05'
           process1 = subprocess.Popen("{}; {}; {}".format(cmd1, cmd2, cmd3), shell=True, stdout=subprocess.PIPE)
           process1.wait()

使用process1我发送三个子进程shell命令。第一种是将eps文件从my / iraf目录复制到另一个目录(首先创建它们的iraf函数不允许我为这些文件提供正确的名称或输出位置)。第二种是从my / iraf目录中删除eps文件。迫使内核入睡的第三个命令。通过这样做,Python在达到sleep命令之前不会收到完成的信号。这部分我相信完美。唯一的问题是,当我到达此命令时,很少用于创建eps文件的iraf例程不能足够快地创建它们。

        #endif

        num_cross = num_cross + 1
     #Endtry
     ...more code

这是一个非常笨重的解决方案,并没有满足一点,但它确实有99.9%的时间工作。如果有人有更好的解决方案,请告诉我。这是一个非常令人沮丧的问题,我所问过的每个人都无法想出更好的东西(包括经常在我的astro部门用python编程的人)。