运行多个龙卷风过程

Question

我读过很多关于如何运行N个龙卷风进程的文章和教程，其中N=核心数。我的代码正在工作，运行在所有16个内核上，但我不知怎么搞砸了，我需要对此有新的看法。

import tornado.ioloop
import tornado.web
import tornado.httpserver

from core import settings
from core import coreService
import services

from tornado.options import define, options, parse_command_line

define("port", default=settings.SERVER_PORT, help="run on the given port", type=int)



app = tornado.web.Application([
    (r'/upload', coreService.Upload)
])

if __name__ == "__main__":
    tornado.options.parse_command_line()
    server = tornado.httpserver.HTTPServer(app, max_buffer_size=1024*1024*201)
    server.bind(options.port)
    # autodetect cpu cores and fork one process per core
    server.start(0)
    try:        
        print 'running on port %s' % options.port
        tornado.ioloop.IOLoop.instance().start()

    except keyboardInterrupt:
        tornado.ioloop.IOLoop.instance().stop()

此代码引发此错误：

File "/opt/tornado/tornado/process.py", line 112, in fork_processes
    raise RuntimeError("Cannot run in multiple processes: IOLoop instance "
RuntimeError: Cannot run in multiple processes: IOLoop instance has already been initialized. You cannot call IOLoop.instance() before calling start_processes()

我只是不明白。谢谢你

：编辑：

正如本所说，我的方法之一就是给我添麻烦。这是该方法的代码，有人可能会从中受益：

from tornado import gen
import motor

db = motor.MotorClient().open_sync().proba
class Upload(BaseHandler):
    @gen.engine
    def post(self):
        fs = yield motor.Op(motor.MotorGridFS(db).open)

        gridin = yield motor.Op(fs.new_file)
        yield motor.Op(gridin.write, 'First part\n')
        yield motor.Op(gridin.write, 'Second part')
        yield motor.Op(gridin.close)

        print gridin._id
        self.write(str(gridin._id))
        self.finish()

编辑2

我找到了解决问题的最终办法。正如本所指出的，上述方法给我带来了麻烦。正确的方法包括与龙卷风应用电机记录在电机文件。这是一个为我工作的例外：

if __name__ == "__main__":
    tornado.options.parse_command_line()        
    try:
        server = tornado.httpserver.HTTPServer(app, max_buffer_size=1024*1024*201)
        server.bind(8888)
        server.start(0) # autodetect cpu cores and fork one process per core
        db = motor.MotorClient().open_sync().proba
        print 'running on port %s' % options.port
        # Delayed initialization of settings
        app.settings['db'] = db # from this point on db is available as self.settings['db']
        tornado.ioloop.IOLoop.instance().start()

    except KeyboardInterrupt:
        tornado.ioloop.IOLoop.instance().stop()

Answer 1

此异常由tornado.web.Application的调试模式引发。

application = tornado.web.Application([
    (r"/", hello),
],
debug=False)

将debug设置为False以解决此问题。

您可以启动多个进程来监听每个端口：

server = tornado.httpserver.HTTPServer(application)
server.bind(1234)  # port
server.start(4) 
tornado.ioloop.IOLoop.instance().start()

Answer 2

我也遇到了同样的问题，甚至设置了debug=False和autoreload=False

我的嫌疑犯专注于MotorClient在TornadoApp.__init__()上创建实例

注释motor_client = ...行解决了我的问题。

class MainApp(tornado.web.Application):
    def __init__(self):
        handlers = [
            (r"/", views.HomeHandler),
            (r".*", views.NotFoundHandler),

        ]

        motor_client = motor.motor_tornado.MotorClient('mongodb://localhost:27017') 

不幸的是，使用MotorClient迫使我放弃使用多进程运行Tornado。

Answer 3

如果我注释掉“核心”和“服务”导入，它将按预期工作。其中一个模块必须初始化单例事件循环（可能是间接的，例如通过创建全局AsyncHTTPClient实例）。此警告将保护您免受在父进程中创建的这些对象在子进程中不起作用这一事实的影响。您必须找到创建这些对象的位置（不幸的是，没有很好的工具来创建这些对象），然后将它们移到fork之后，以便它们在子进程中创建。