题目长度有限,最近接手一个类爬虫工具,之前的框架是进程+多线程的同步请求来 handle HTTP 请求 /返回。
对于多核的服务器,多进程+多线程确实是不错的选择,至少我现在接手的框架还可以扛住。
最近老板让我规划新的场景,请求量会大很多,我在想如果采用单进程 /协程+异步请求框架会不会使得后续的功能扩展和定位 bug 效率更高一些?
我写了一个小 demo,发现异步请求性能也非常好,就是只能用到单核。不知道有没有同行做过类似的对比?因为是以 handle http request 为主,而服务器也只有一个网卡,想了解一下有没人论证过这 2 个模式的性能、瓶颈什么的。
对于多核的服务器,多进程+多线程确实是不错的选择,至少我现在接手的框架还可以扛住。
最近老板让我规划新的场景,请求量会大很多,我在想如果采用单进程 /协程+异步请求框架会不会使得后续的功能扩展和定位 bug 效率更高一些?
我写了一个小 demo,发现异步请求性能也非常好,就是只能用到单核。不知道有没有同行做过类似的对比?因为是以 handle http request 为主,而服务器也只有一个网卡,想了解一下有没人论证过这 2 个模式的性能、瓶颈什么的。