爬虫网易赔率数据并导入mysql数据库（附代码）

积累知识，胜过积蓄金银！毕竟在##column_title##开发的过程中，会遇到各种各样的问题，往往都是一些细节知识点还没有掌握好而导致的，因此基础知识点的积累是很重要的。下面本文《爬虫网易赔率数据并导入mysql数据库（附代码）》，就带大家讲解一下MySQL、python、beautifulsoup知识点，若是你对本文感兴趣，或者是想搞懂其中某个知识点，就请你继续往下看吧~

#encoding:utf-8
import urllib2
from bs4 import BeautifulSoup

website = "http://caipiao.163.com/order/jczq-hunhe/#from=leftnav"
page = urllib2.urlopen(website)
soup = BeautifulSoup(page)
for incident in soup('td'):
    print incident
得到类似于以下的结果集：
<td>负其他

<div>120.00</div>

</td>
<td>0

<div>14.00</div>

</td>
<td>1

<div>5.20</div>

</td>
<td>2

<div>3.55</div>

</td>
<td>3

<div>3.50</div>

</td>
<td>4

<div>4.70</div>

</td>
<td>5

<div>7.50</div>

</td>
<td>6

<div>13.00</div>

</td>
<td>7+

<div>18.00</div>

</td>
……

这里得到的结果，仅仅是赔率的结果，而且需要吧gametype的内容筛选出来，得到紧缺的，总进球 7球 18赔率的结果；

接下来

提取td中的内容，使用re正则来提取；
直接在for循环中使用re，避免使用文件作为缓存

#查询半全场的赔率
for item in soup.findAll("td",{"gametype":"bqc"}):
    print item.find("div").string

#查询表中的标签，并将内容筛选出来
#半全场赔率，依次为"胜胜","胜平","胜负","平胜","平平","平负","负胜","负平","负负"
for item in soup.findAll("td",{"gametype":"bqc"}):
     print item.find("div").string

#再查询比分赔率
#先是胜赔，1:0~胜其他，之后是平赔，0:0~3:3，平其他，并将其导入比分赔率bfpl
temp = ["1:0","2:0","2:1","3:0","3:1","3:2","4：0","4:1","4:2","5:0","5:1","5:2","胜其他","0:0","1:1","2:2","3:3","平其他","0:1","0:2","1:2","0：3","1:3","2:3","0:4","1:4","2:4","0:5","1:5","2:5","负其他"]
i = 1
bfpl = []
for item in soup.findAll("td",{"gametype":"bf"}):
    bfpl.append(item.find("div").string)

#---------------------
#构建比分赔率字典
i = 1
temp = ["1:0","2:0","2:1","3:0","3:1","3:2","4：0","4:1","4:2","5:0","5:1","5:2","胜其他","0:0","1:1","2:2","3:3","平其他","0:1","0:2","1:2","0：3","1:3","2:3","0:4","1:4","2:4","0:5","1:5","2:5","负其他"]
len



#再查询总进球赔率
for item in soup.findAll("td",{"gametype":"zjq"}):
     print item.find("div").string

#----------------------------------------
#查询所有的主队、客队名字数据以及场次数据
#主队hostTeam
i = 1
hostTeam = []
for item in soup.findAll("em",{"class":"hostTeam"}):
    hostTeam.append(item.b.string)
    i+=1

for item in hostTeam:
    print hostTeam[item]

#客队guestTeam
i = 1
guestTeam = []
for item in soup.findAll("em",{"class":"guestTeam"}):
    guestTeam.append(item.b.string)
    i+=1

for item in guestTeam:
    print guestTeam[item]

#------------------
#场次以及主队客队数据
#------------------
i = 1
for item in hostTeam:
    print '---------'
    print screening[i],hostTeam[i],guestTeam[i]
    i+=1

#-----------------------
#场次信息 jtip
i = 1
screening = []
for item in soup.findAll("span",{"class":"co1"}):
    screening.append(item.i.string)
    i+=1

#遍历场次数据
i=1
for item in screening:
    print screening[i]
    i+=1

#------------------
#做出场次+比分的list-->scbf[]
for item in screening:
    i=0
    while i<len><p></p><p>以上就是《爬虫网易赔率数据并导入mysql数据库（附代码）》的详细内容，更多关于mysql的资料请关注golang学习网公众号！</p></len>