开发者社区> 问答> 正文

文件io和数据库插入太慢

新学python,在做一个把爬虫爬下来的股票数据从文件插入到mysql数据库,速度很慢,不知道瓶颈是文件处理还是sql插入问题,望大神不吝赐教,感激不尽!
4
文件格式是形如:
5
两个多小时才插入45W条数据,怎么才能提速一点呢.

展开
收起
蛮大人123 2016-02-11 23:14:40 3282 0
1 条回答
写回答
取消 提交回答
  • 我说我不帅他们就打我,还说我虚伪

    常识性的优化:批量插入,然后再提交,而不是插一条提交一条。
    另一个常识性的优化:使用 executemany 来一次执行多条(但也不要太多)行的插入。
    最后,但是也是非常重要的,请尽量不要自己拼接 SQL 语句!.execute 方法可以接受两个参数,第一个是 SQL 模板,第二个是参数值的 tuple。

    2019-07-17 18:41:04
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
2022 DTCC-阿里云一站式数据库上云最佳实践 立即下载
云时代的数据库技术趋势 立即下载
多IO线程优化版 立即下载