Fastapi python代码执行速度受uvicorn与gunicorn部署的影响

Question

我写了一个fastapi应用程序。现在我正在考虑部署它，但是我似乎遇到了奇怪的意外性能问题，这似乎取决于我使用的是uvicorn还是gunicorn。特别是，如果我使用gunicorn，所有代码（甚至是标准库纯python代码）似乎都会变慢。为了进行性能调试，我编写了一个小应用程序来演示这一点：

import asyncio, time
from fastapi import FastAPI, Path
from datetime import datetime

app = FastAPI()

@app.get("/delay/{delay1}/{delay2}")
async def get_delay(
    delay1: float = Path(..., title="Nonblocking time taken to respond"),
    delay2: float = Path(..., title="Blocking time taken to respond"),
):
    total_start_time = datetime.now()
    times = []
    for i in range(100):
        start_time = datetime.now()
        await asyncio.sleep(delay1)
        time.sleep(delay2)
        times.append(str(datetime.now()-start_time))
    return {"delays":[delay1,delay2],"total_time_taken":str(datetime.now()-total_start_time),"times":times}

使用以下各项运行fastapi appi：

gunicorn api.performance_test:app -b localhost:8001 -k uvicorn.workers.UvicornWorker --workers 1

get to http://localhost:8001/delay/0.0/0.0的响应体始终类似于：

{
  "delays": [
    0.0,
    0.0
  ],
  "total_time_taken": "0:00:00.057946",
  "times": [
    "0:00:00.000323",
    ...smilar values omitted for brevity...
    "0:00:00.000274"
  ]
}

但是，使用：

uvicorn api.performance_test:app --port 8001 

我总是得到这样的时间安排

{
  "delays": [
    0.0,
    0.0
  ],
  "total_time_taken": "0:00:00.002630",
  "times": [
    "0:00:00.000037",
    ...snip...
    "0:00:00.000020"
  ]
}

当我取消对await asyncio.sleep(delay1)语句的注释时，这种差异变得更加明显

所以我想知道gunicorn/uvicorn对python/fastapi运行时做了什么，从而在代码执行速度上产生了10倍的差异

值得一提的是，我在OS X 11.2.3和intel I7处理器上使用Python 3.8.2执行了这些测试

这些是我的输出的相关部分

fastapi==0.65.1
gunicorn==20.1.0
uvicorn==0.13.4

Answer 1

由于fastapi是一个ASGI框架，因此它将为ASGI服务器（如uvicorn或hypercorn）提供更好的性能WSGI类服务器gunicorn无法提供类似uvicorn的性能ASGI服务器针对asynchronous功能进行了优化。{}的官方文件也鼓励使用{}服务器，如{}或{}

https://fastapi.tiangolo.com/#installation