网络爬虫： 　　网络爬虫（又称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。 以上是网络爬虫的百度，下面开始介绍使用Python进行网络爬虫来获取数据 ...

随着BIG DATA大数据概念逐渐升温，如何搭建一个能够采集海量数据的架构体系摆在大家眼前。如何能够做到所见即所得的无阻拦式采集、如何快速把不规则页面结构化并存储、如何满足越来越多的数据采集还要在有限时间内采集。这篇文章结合我们自身项目经验谈一下。 我们来看一下作为人是怎么获取网页数据 ...

一,外部表介绍 　　Greenplum 在数据加载上有一个明显的优势,就是支持数据的并发加载,gpfdisk是并发加载的工具,数据库中对应的就是外部表 　　所谓外部表，就是在数据库中只有表定义、没有数据，数据都存放在数据库之外的数据文件。greenplum可以对一个外部表执行正常的DML操作 ...

...

起因 Python处理一下数据，大概有六七个G，然后再存到另外一个文件中，单线程跑起来发现太慢了，数据总量大概是千万行的级别，然后每秒钟只能处理不到20行……遂想怎么提高一下速度 尝试1-multiprocessing 代码如下： 这里参考了这篇文章，然后尝试了一下，发现速度 ...

一、创建DataFrame 一、at和iat的用法 at和iat，可选择指定行、指定列的单个元素。 1.at的用法 2.iat的用法 一、loc和i ...

python 插入数据获取id 学习了：https://blog.csdn.net/qq_37788558/article/details/78151972 commit之前获取 cursor.lastrowid 或者conn.insert_id() ...

import requestsfrom retrying import retryfrom lxml import etreeimport json class DaCheng(object): 　 ...