我需要从Python脚本异步运行Shell命令。我的意思是,我希望我的Python脚本能够在外部命令关闭并继续执行所需操作的同时继续运行。
我读了这篇文章:
然后我os.system()
去做了一些测试,如果我&
在命令末尾使用它,看起来就可以完成这项工作,这样我就不必等待它返回。我想知道的是,这是否是完成此任务的正确方法?我试过了,commands.call()
但是对我来说不起作用,因为它会阻塞外部命令。
请告诉我是否os.system()
建议这样做,或者我应该尝试其他方法。
我需要从Python脚本异步运行Shell命令。我的意思是,我希望我的Python脚本能够在外部命令关闭并继续执行所需操作的同时继续运行。
我读了这篇文章:
然后我os.system()
去做了一些测试,如果我&
在命令末尾使用它,看起来就可以完成这项工作,这样我就不必等待它返回。我想知道的是,这是否是完成此任务的正确方法?我试过了,commands.call()
但是对我来说不起作用,因为它会阻塞外部命令。
请告诉我是否os.system()
建议这样做,或者我应该尝试其他方法。
Answers:
subprocess.Popen正是您想要的。
from subprocess import Popen
p = Popen(['watch', 'ls']) # something long running
# ... do other stuff while subprocess is running
p.terminate()
(编辑以完成评论的答案)
Popen实例可以执行其他各种操作,例如可以poll()
查看它是否仍在运行,还可以communicate()
使用它在stdin上发送数据,并等待其终止。
如果要并行运行许多进程,然后在它们产生结果时进行处理,则可以使用轮询,如下所示:
from subprocess import Popen, PIPE
import time
running_procs = [
Popen(['/usr/bin/my_cmd', '-i %s' % path], stdout=PIPE, stderr=PIPE)
for path in '/tmp/file0 /tmp/file1 /tmp/file2'.split()]
while running_procs:
for proc in running_procs:
retcode = proc.poll()
if retcode is not None: # Process finished.
running_procs.remove(proc)
break
else: # No process is done, wait a bit and check again.
time.sleep(.1)
continue
# Here, `proc` has finished with return code `retcode`
if retcode != 0:
"""Error handling."""
handle_results(proc.stdout)
控制流有些混乱,因为我正试图将其缩小—您可以根据自己的口味进行重构。:-)
这具有先为早期处理请求提供服务的优势。如果您调用communicate
第一个正在运行的进程,而事实证明运行时间最长,则其他正在运行的进程在可能已经处理完它们的结果时将一直闲置在那里。
os.waitpid
直接使用它来检查任何子进程是否已更改其状态。
['/usr/bin/my_cmd', '-i', path]
代替['/usr/bin/my_cmd', '-i %s' % path]
我想知道的是[os.system()]是否是完成此类任务的正确方法?
号 os.system()
不是正确的方法。这就是每个人都说要使用的原因subprocess
。
有关更多信息,请阅读http://docs.python.org/library/os.html#os.system
子流程模块提供了更强大的功能来生成新流程并检索其结果。使用该模块优于使用此功能。使用子流程模块。尤其要检查“子过程模块”部分的“替换旧功能”。
我使用asyncproc模块取得了成功,该模块很好地处理了流程的输出。例如:
import os
from asynproc import Process
myProc = Process("myprogram.app")
while True:
# check to see if process has ended
poll = myProc.wait(os.WNOHANG)
if poll is not None:
break
# print any new output
out = myProc.read()
if out != "":
print out
考虑到“我不必等待它返回”,最简单的解决方案之一就是:
subprocess.Popen( \
[path_to_executable, arg1, arg2, ... argN],
creationflags = subprocess.CREATE_NEW_CONSOLE,
).pid
但是...据我所读,这不是“ subprocess.CREATE_NEW_CONSOLE
标记完成此事的正确方法”,因为标志会产生安全风险。
这里发生的关键事情是使用subprocess.CREATE_NEW_CONSOLE
来创建新的控制台,并.pid
(返回进程ID,以便以后可以检查程序是否需要),以免等待程序完成其工作。
我在使用Python中的s3270脚本软件尝试连接到3270终端时遇到相同的问题。现在,我在这里找到的Process子类解决了这个问题:
http://code.activestate.com/recipes/440554/
这是从文件中获取的示例:
def recv_some(p, t=.1, e=1, tr=5, stderr=0):
if tr < 1:
tr = 1
x = time.time()+t
y = []
r = ''
pr = p.recv
if stderr:
pr = p.recv_err
while time.time() < x or r:
r = pr()
if r is None:
if e:
raise Exception(message)
else:
break
elif r:
y.append(r)
else:
time.sleep(max((x-time.time())/tr, 0))
return ''.join(y)
def send_all(p, data):
while len(data):
sent = p.send(data)
if sent is None:
raise Exception(message)
data = buffer(data, sent)
if __name__ == '__main__':
if sys.platform == 'win32':
shell, commands, tail = ('cmd', ('dir /w', 'echo HELLO WORLD'), '\r\n')
else:
shell, commands, tail = ('sh', ('ls', 'echo HELLO WORLD'), '\n')
a = Popen(shell, stdin=PIPE, stdout=PIPE)
print recv_some(a),
for cmd in commands:
send_all(a, cmd + tail)
print recv_some(a),
send_all(a, 'exit' + tail)
print recv_some(a, e=0)
a.wait()
接受的答案很旧。
我在这里找到了一个更好的现代答案:
https://kevinmccarthy.org/2016/07/25/streaming-subprocess-stdin-and-stdout-with-asyncio-in-python/
并进行了一些更改:
import sys
import asyncio
if sys.platform == "win32":
asyncio.set_event_loop_policy(asyncio.WindowsProactorEventLoopPolicy())
async def _read_stream(stream, cb):
while True:
line = await stream.readline()
if line:
cb(line)
else:
break
async def _stream_subprocess(cmd, stdout_cb, stderr_cb):
try:
process = await asyncio.create_subprocess_exec(
*cmd, stdout=asyncio.subprocess.PIPE, stderr=asyncio.subprocess.PIPE
)
await asyncio.wait(
[
_read_stream(process.stdout, stdout_cb),
_read_stream(process.stderr, stderr_cb),
]
)
rc = await process.wait()
return process.pid, rc
except OSError as e:
# the program will hang if we let any exception propagate
return e
def execute(*aws):
""" run the given coroutines in an asyncio loop
returns a list containing the values returned from each coroutine.
"""
loop = asyncio.get_event_loop()
rc = loop.run_until_complete(asyncio.gather(*aws))
loop.close()
return rc
def printer(label):
def pr(*args, **kw):
print(label, *args, **kw)
return pr
def name_it(start=0, template="s{}"):
"""a simple generator for task names
"""
while True:
yield template.format(start)
start += 1
def runners(cmds):
"""
cmds is a list of commands to excecute as subprocesses
each item is a list appropriate for use by subprocess.call
"""
next_name = name_it().__next__
for cmd in cmds:
name = next_name()
out = printer(f"{name}.stdout")
err = printer(f"{name}.stderr")
yield _stream_subprocess(cmd, out, err)
if __name__ == "__main__":
cmds = (
[
"sh",
"-c",
"""echo "$SHELL"-stdout && sleep 1 && echo stderr 1>&2 && sleep 1 && echo done""",
],
[
"bash",
"-c",
"echo 'hello, Dave.' && sleep 1 && echo dave_err 1>&2 && sleep 1 && echo done",
],
[sys.executable, "-c", 'print("hello from python");import sys;sys.exit(2)'],
)
print(execute(*runners(cmds)))
示例命令不可能在您的系统上完美地工作,也不可能处理奇怪的错误,但是此代码确实演示了一种使用asyncio运行多个子进程并输出输出的方法。
这里有几个答案,但是没有一个满足我的以下要求:
我不想等待命令完成或用子进程输出污染我的终端。
我想使用重定向运行bash脚本。
我想在我的bash脚本中支持管道(例如find ... | tar ...
)。
满足以上要求的唯一组合是:
subprocess.Popen(['./my_script.sh "arg1" > "redirect/path/to"'],
stdout=subprocess.PIPE,
stderr=subprocess.PIPE,
shell=True)
Python 3子过程示例在“等待命令异步终止”下对此进行了介绍:
import asyncio proc = await asyncio.create_subprocess_exec( 'ls','-lha', stdout=asyncio.subprocess.PIPE, stderr=asyncio.subprocess.PIPE) # do something else while ls is working # if proc takes very long to complete, the CPUs are free to use cycles for # other processes stdout, stderr = await proc.communicate()
该过程完成后将立即开始运行await asyncio.create_subprocess_exec(...)
。如果在您致电时还没有完成await proc.communicate()
,它将在那儿等待,以便为您提供输出状态。如果完成,proc.communicate()
将立即返回。
要点类似于Terrels的答案,但我认为Terrels的答案似乎使事情复杂化了。
请参阅asyncio.create_subprocess_exec
以获取更多信息。