如何让网页抓取更快？ Django 项目

问题描述

我正在使用 Django 框架构建一个网络抓取应用程序。我需要一些有关如何加快我的应用程序的提示。截至目前，加载页面仅解析 3 个 url 需要将近一分钟，这是一个问题。我需要更快地运行，因为我想在我的网页上解析多达 10 个 url。如您所见，我的代码只针对一个 div，这就是我的应用程序运行如此缓慢的原因。我想我可以尝试针对多个 div 来缩小我的“汤”范围，但我过去在这方面遇到了困难，所以我希望得到一些指点。

def stats(request):
    if 'user_id' not in request.session:
        return redirect('/')
    this_user = User.objects.filter(id = request.session['user_id'])
    this_stock = Stock.objects.filter(user_id = request.session['user_id'])
    progress_dict = []
    for object in this_stock:
        URL = object.nasdaq_url
        page = requests.get(URL)
        soup = BeautifulSoup(page.content,'html.parser')
        progress = soup.find_all('div',class_='ln0Gqe')
        for number in progress:
            progress_dict.append(number.text)
    context = {
            "current_user" : this_user[0].first_name,"progress_dict": progress_dict,"this_stock": this_stock,}
    return render(request,"nasdaq.html",context)

解决方法

您可以使用线程同时抓取多个页面。查看 here,here 了解更多信息。

而且使用 lxml 还可以加快您的网页抓取速度。您可以查看here了解更多信息。