首页>>后端>>Python->python百万数据循环要多久

python百万数据循环要多久

时间:2023-12-05 本站 点击:0

导读:本篇文章首席CTO笔记来给大家介绍有关python百万数据循环要多久的相关内容,希望对大家有所帮助,一起来看看吧。

本文目录一览:

1、python处理20万数据多少时间2、Python存200w数据到数据库需要多久3、python跑10000个数据集要多久

python处理20万数据多少时间

大概三十多秒。

Python是一种使用较多的解释型、高级和通用的编程语言,具有速度快,效率高,准确度高的特点。

Python存200w数据到数据库需要多久

Python存200w数据到数据库需要474秒,因为正常的三万八千条数据仅需要9秒,以此类推出200万需要的时间。

【python存数据库速度】

1、需要从文本中读取三万条数据写入mysql数据库,文件中为用@分割的sql语句,但是在读取的过程中发现速度过慢,三万八千条数据需要220秒,

2、经测试发现,影响速度的主要原因是commit(),因为没过几秒提交一次即可,但是因为提交的字符长度有限制,所以要设置一个合理的时间读取。

3、更改后,写入三万八千条数据仅需要9秒

python跑10000个数据集要多久

看具体采集任务的内容,如果是图片,访问地址规范,熟悉规则,也就是一两分钟的事情,如果是复杂网页,并且反爬规则负杂可能需要半个小时,如果类似从天眼查爬取整个公司信息10000个,可能需要一两天,因为一个公司就需要n多信息

结语:以上就是首席CTO笔记为大家整理的关于python百万数据循环要多久的全部内容了,感谢您花时间阅读本站内容,希望对您有所帮助,更多关于python百万数据循环要多久的相关内容别忘了在本站进行查找喔。


本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若转载,请注明出处:/Python/12334.html