设为首页
收藏本站
切换到宽版
登录
立即注册
找回密码
搜索
搜索
本版
帖子
用户
快捷导航
论坛
BBS
VIP用户组
官网群
无名商城论坛
»
论坛
›
资源分享区
›
学习资源专区
›
【冷漠】Python学习心得(五)
返回列表
发帖
查看:
227
|
回复:
0
[其他技术]
【冷漠】Python学习心得(五)
[复制链接]
无名
无名
当前离线
积分
32464
1万
主题
1万
帖子
3万
积分
管理员
积分
32464
发消息
发表于 2022-5-8 17:31:10
|
显示全部楼层
|
阅读模式
大家好,这里稚悠,觉得好的话就点个关注吧[玫瑰]
任何爬虫爬取的数据都需要存储,除了使用pandas和csv模块存为本地文件,也可以用数据库完成存储。
根据橡皮擦老师的例子,mongodb数据库存储数据,对应的python模块是pymongo
使用例子,在scrapy框架下,一个典型的pipeline.py文件如下
使用前期,操作本地数据库,数据库是自启动的,并且已经建立了一个db,名称为sun,建立了用户/密码:dba/dba
使用数据库工具查看该数据库内容,我用的是navicat(for mongodb)
也可以点击分析查看分析图表,比如分析period,可以看到工期分布的柱状图
如果要在代码里取用数据库,同样的流程
数据库
,
使用
,
柱状
,
存储
,
可以
相关帖子
•
【FUT】iapp判断是否root实例
•
【FUT】初识? 直接怼? 。跳过初识,直接实战xml布局。
•
【FUT】 S变量
•
【LUR】最新PTCMS小说精美多风格四套全新版源码+模板
•
【LUR】各种网页挂马方式原理
•
【DMT】<web安全系列>代码审计,SQL漏洞发现
•
【FUT】腾讯视频【去广告】教程?
•
【FUT】VPS服务器自建SpeedTest客户端网络测速页面
•
discovermgs邮件群发协议【专业发送国外邮箱】或者163邮箱除了QQ邮箱以外都可以发送
回复
使用道具
举报
返回列表
发帖
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
快速回复
返回顶部
返回列表