阻止Python用Condor作业覆盖文件

时间:2017-02-24 13:34:41

标签: python condor

我试图执行的python代码必须将两个不同的变量写入文件。我正在使用Condor来加速我的进程,这意味着python代码被执行同步。我定义的写函数是:

with open('output.txt', 'a') as results_file:
      results_file.write(str(gc_count) + '\n')
      results_file.write(str(length) + '\n')
results_file.close()

但不幸的是,该文件以某种方式不断覆盖结果。有人可以帮助我如何使用Condor将变量写入文本文件?

1 个答案:

答案 0 :(得分:2)

即使文件模式设置为追加,文件中的并发写入也会导致数据损坏。

在多线程环境中,您可以使用threading.Lock对象来保护您的写入呼叫:

import threading
l = threading.Lock()   # l must be a global variable or a member of some class

然后在写入时,请求锁定权限,并在写入文件时将其释放:

l.acquire()
with open('output.txt', 'a') as results_file:
      results_file.write(str(gc_count) + '\n')
      results_file.write(str(length) + '\n')
l.release()

(除此之外:您不需要文件上下文管理器中的最后一个close