登录
首页 >  数据库 >  MySQL

爬虫网易赔率数据并导入mysql数据库(附代码)

来源:SegmentFault

时间:2023-01-17 17:39:22 221浏览 收藏

积累知识,胜过积蓄金银!毕竟在##column_title##开发的过程中,会遇到各种各样的问题,往往都是一些细节知识点还没有掌握好而导致的,因此基础知识点的积累是很重要的。下面本文《爬虫网易赔率数据并导入mysql数据库(附代码)》,就带大家讲解一下MySQL、python、beautifulsoup知识点,若是你对本文感兴趣,或者是想搞懂其中某个知识点,就请你继续往下看吧~

#encoding:utf-8
import urllib2
from bs4 import BeautifulSoup

website = "http://caipiao.163.com/order/jczq-hunhe/#from=leftnav"
page = urllib2.urlopen(website)
soup = BeautifulSoup(page)
for incident in soup('td'):
    print incident
得到类似于以下的结果集:
负其他

120.00
0
14.00
1
5.20
2
3.55
3
3.50
4
4.70
5
7.50
6
13.00
7+
18.00
……

这里得到的结果,仅仅是赔率的结果,而且需要吧gametype的内容筛选出来,得到紧缺的,总进球 7球 18赔率的结果;

接下来

提取td中的内容,使用re正则来提取;
直接在for循环中使用re,避免使用文件作为缓存

#查询半全场的赔率
for item in soup.findAll("td",{"gametype":"bqc"}):
    print item.find("div").string

#查询表中的标签,并将内容筛选出来
#半全场赔率,依次为"胜胜","胜平","胜负","平胜","平平","平负","负胜","负平","负负"
for item in soup.findAll("td",{"gametype":"bqc"}):
     print item.find("div").string

#再查询比分赔率
#先是胜赔,1:0~胜其他,之后是平赔,0:0~3:3,平其他,并将其导入比分赔率bfpl
temp = ["1:0","2:0","2:1","3:0","3:1","3:2","4:0","4:1","4:2","5:0","5:1","5:2","胜其他","0:0","1:1","2:2","3:3","平其他","0:1","0:2","1:2","0:3","1:3","2:3","0:4","1:4","2:4","0:5","1:5","2:5","负其他"]
i = 1
bfpl = []
for item in soup.findAll("td",{"gametype":"bf"}):
    bfpl.append(item.find("div").string)

#---------------------
#构建比分赔率字典
i = 1
temp = ["1:0","2:0","2:1","3:0","3:1","3:2","4:0","4:1","4:2","5:0","5:1","5:2","胜其他","0:0","1:1","2:2","3:3","平其他","0:1","0:2","1:2","0:3","1:3","2:3","0:4","1:4","2:4","0:5","1:5","2:5","负其他"]
len



#再查询总进球赔率
for item in soup.findAll("td",{"gametype":"zjq"}):
     print item.find("div").string

#----------------------------------------
#查询所有的主队、客队名字数据以及场次数据
#主队hostTeam
i = 1
hostTeam = []
for item in soup.findAll("em",{"class":"hostTeam"}):
    hostTeam.append(item.b.string)
    i+=1

for item in hostTeam:
    print hostTeam[item]

#客队guestTeam
i = 1
guestTeam = []
for item in soup.findAll("em",{"class":"guestTeam"}):
    guestTeam.append(item.b.string)
    i+=1

for item in guestTeam:
    print guestTeam[item]

#------------------
#场次以及主队客队数据
#------------------
i = 1
for item in hostTeam:
    print '---------'
    print screening[i],hostTeam[i],guestTeam[i]
    i+=1

#-----------------------
#场次信息 jtip
i = 1
screening = []
for item in soup.findAll("span",{"class":"co1"}):
    screening.append(item.i.string)
    i+=1

#遍历场次数据
i=1
for item in screening:
    print screening[i]
    i+=1

#------------------
#做出场次+比分的list-->scbf[]
for item in screening:
    i=0
    while i

以上就是《爬虫网易赔率数据并导入mysql数据库(附代码)》的详细内容,更多关于mysql的资料请关注golang学习网公众号!

声明:本文转载于:SegmentFault 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
最新阅读
更多>
课程推荐
更多>
评论列表