2017中国大学排名爬虫代码修改

本文是学习http://www.icourse163.org/lea... 课程的代码实现和反思。

课程的第6单元中嵩天老师给出的“中国大学排名爬虫”优化代码如果把url中的2016改为2017就会出错,原因:2016年各校排名数字的html格式为<td>1</td>,而2017年各校排名数字的html格式为<td>1<td>,针对这个问题,我对嵩天老师的代码做了一点修改,可能不是很漂亮,但是实现了功能我很开心。代码如下:

import requests, bs4, re
from bs4 import BeautifulSoup


def getHTMLText(url):
    try:
        r = requests.get(url, timeout=30)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return ''

def fillUnivList(ulist, html):
    soup = BeautifulSoup(html, 'html.parser')
    for tr in soup.find('tbody').children:
        if isinstance(tr, bs4.element.Tag):
            yield tr   #用到了生成器

def peidui(ulist, html):
    xlt = re.findall(r'<td>\d{1,4}?<td>',html)  #用到了最小匹配
    for tr,i in zip(fillUnivList(uinfo, html), xlt): #一次循环2个变量用到了zip
        tds = tr('td')
        ulist.append([i.replace('<td>',''), tds[1].string, tds[3].string])

def printUnivList(ulist, num):
    tplt = '{0:^10}\t{1:{3}^10}\t{2:^10}'
    print(tplt.format('排名','学校名称','总分',chr(12288)))
    for i in range(num):
        u=ulist[i]
        print(tplt.format(u[0],u[1],u[2],chr(12288)))
    
def main():
    uinfo = []
    url = 'http://www.zuihaodaxue.cn/zuihaodaxuepaiming2017.html'
    html = getHTMLText(url)
    peidui(uinfo, html)
    printUnivList(uinfo, 20) 
main()

运行结果如下:

排名来自最好大学网,只是作为爬虫练习使用,觉得排名不合适的网友勿喷。

相关文章
相关标签/搜索