分享几段祖传的Python代码，拿来直接使用！转载

Output:

[2021-12-27, 2021-12-28, 2021-12-29, 2021-12-30]

保存数据到CSV

保存数据到 CSV 是太常见的操作了，分享一段我个人比较喜欢的写法

def save_data(data, date):
    if not os.path.exists(r2021_data_%s.csv % date):
        with open("2021_data_%s.csv" % date, "a+", encoding=utf-8) as f:
            f.write("标题,热度,时间,url

")             for i in data:                 title = i["title"]                 extra = i["extra"]                 time = i[time]                 url = i["url"]                 row = {},{},{},{}.format(title,extra,time,url)                 f.write(row)                 f.write( )     else:         with open("2021data%s.csv" % date, "a+", encoding=utf-8) as f:             for i in data:                 title = i["title"]                 extra = i["extra"]                 time = i[time]                 url = i["url"]                 row = {},{},{},{}.format(title,extra,time,url)                 f.write(row)                 f.write( )

带背景颜色的 Pyecharts

Pyecharts 作为 Echarts 的优秀 Python 实现，受到众多开发者的青睐，用 Pyecharts 作图时，使用一个舒服的背景也会给我们的图表增色不少

以饼图为例，通过添加 JavaScript 代码来改变背景颜色

def pie_rosetype(data) -> Pie:
    background_color_js = (
    "new echarts.graphic.LinearGradient(0, 0, 0, 1, "
    "[{offset: 0, color: #c86589}, {offset: 1, color: #06a7ff}], false)"
)
    c = (
        Pie(init_opts=opts.InitOpts(bg_color=JsCode(background_color_js)))
        .add(
            "",
            data,
            radius=["30%", "75%"],
            center=["45%", "50%"],
            rosetype="radius",
            label_opts=opts.LabelOpts(formatter="{b}: {c}"),
        )
        .set_global_opts(title_opts=opts.TitleOpts(title=""),
                        )
    )
    return c

requests 库调用

据统计，requests 库是 Python 家族里被引用的最多的第三方库，足见其江湖地位之高大！

发送 GET 请求

import requests

headers = {
    user-agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.110 Safari/537.36,
  cookie: some_cookie
}
response = requests.request("GET", url, headers=headers)

发送 POST 请求

import requests

payload={}
files=[]
headers = {
    user-agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.110 Safari/537.36,
  cookie: some_cookie
}
response = requests.request("POST", url, headers=headers, data=payload, files=files)

根据某些条件循环请求，比如根据生成的日期

def get_data(mydate):
    date_list = create_assist_date(mydate)
    url = "https://test.test"
    files=[]
    headers = {
        user-agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.110 Safari/537.36,
        cookie: 
        }
    for d in date_list:
        payload={p: 10,
        day: d,
        nodeid: 1,
        t: itemsbydate,
        c: node}
        for i in range(1, 100):
            payload[p] = str(i)
            print("get data of %s in page %s" % (d, str(i)))
            response = requests.request("POST", url, headers=headers, data=payload, files=files)
            items = response.json()[data][items]
            if items:
                save_data(items, d)
            else:
                break

Python 操作各种数据库

操作 Redis

连接 Redis

import redis

def redis_conn_pool():
    pool = redis.ConnectionPool(host=localhost, port=6379, decode_responses=True)
    rd = redis.Redis(connection_pool=pool)
    return rd

写入 Redis

from redis_conn import redis_conn_pool

rd = redis_conn_pool()
rd.set(test_data, mytest)

操作 MongoDB

连接 MongoDB

from pymongo import MongoClient

conn = MongoClient("mongodb://%s:%s@ipaddress:49974/mydb" % (username, password))
db = conn.mydb
mongo_collection = db.mydata

批量插入数据

res = requests.get(url, params=query).json()
commentList = res[data][commentList]
mongo_collection.insert_many(commentList)

操作 MySQL

连接 MySQL

import MySQLdb

# 打开数据库连接
db = MySQLdb.connect("localhost", "testuser", "test123", "TESTDB", charset=utf8 )

# 使用cursor()方法获取操作游标 
cursor = db.cursor()

执行 SQL 语句

# 使用 execute 方法执行 SQL 语句
cursor.execute("SELECT VERSION()")

# 使用 fetchone() 方法获取一条数据
data = cursor.fetchone()

print "Database version : %s " % data

# 关闭数据库连接
db.close()

Output:

Database version : 5.0.45

本地文件整理

整理文件涉及需求的比较多，这里分享的是将本地多个 CSV 文件整合成一个文件

import pandas as pd
import os

df_list = []
for i in os.listdir():
    if "csv" in i:
        day = i.split(.)[0].split(_)[-1]
        df = pd.read_csv(i)
        df[day] = day
        df_list.append(df)
df = pd.concat(df_list, axis=0)
df.to_csv("total.txt", index=0)

多线程代码

多线程也有很多实现方式，我们选择自己最为熟悉顺手的方式即可

import threading
import time

exitFlag = 0

class myThread (threading.Thread):
    def __init__(self, threadID, name, delay):
        threading.Thread.__init__(self)
        self.threadID = threadID
        self.name = name
        self.delay = delay
    def run(self):
        print ("开始线程：" + self.name)
        print_time(self.name, self.delay, 5)
        print ("退出线程：" + self.name)

def print_time(threadName, delay, counter):
    while counter:
        if exitFlag:
            threadName.exit()
        time.sleep(delay)
        print ("%s: %s" % (threadName, time.ctime(time.time())))
        counter -= 1

# 创建新线程
thread1 = myThread(1, "Thread-1", 1)
thread2 = myThread(2, "Thread-2", 2)

# 开启新线程
thread1.start()
thread2.start()
thread1.join()
thread2.join()
print ("退出主线程")

异步编程代码

异步爬取网站

import asyncio
import aiohttp
import aiofiles

async def get_html(session, url):
    try:
        async with session.get(url=url, timeout=8) as resp:
            if not resp.status // 100 == 2:
                print(resp.status)
                print("爬取", url, "出现错误")
            else:
                resp.encoding = utf-8
                text = await resp.text()
                return text
    except Exception as e:
        print("出现错误", e)
        await get_html(session, url)

使用异步请求之后，对应的文件保存也需要使用异步，即是一处异步，处处异步

async def download(title_list, content_list):
    async with aiofiles.open({}.txt.format(title_list[0]), a,
                             encoding=utf-8) as f:
        await f.write({}.format(str(content_list)))

以上都是平时用的最多的代码片段，希望对你有所帮助

好了，这就是今天分享的全部内容，喜欢就点个赞+在看吧~

有兴趣的同学可以火速加入我们的星球

3周零基础入门提供10节课程

全年12节趣味实战项目含源码，

每月奖励优秀的Top3同学送书

专业的答疑群， 大厂的老师保姆式的教学****

如果不满意，三天内随意退款！一年88，现在优惠16元

扫码加入，3周零基础入门

推荐阅读:
入门: 最全的零基础学Python的问题  | 零基础学了8个月的Python  | 实战项目 |学Python就是这条捷径
干货:爬取豆瓣短评，电影《后来的我们》 | 38年NBA最佳球员分析 |   从万众期待到口碑扑街！唐探3令人失望  | 笑看新倚天屠龙记 | 灯谜答题王 ｜用Python做个海量小姐姐素描图 ｜碟中谍这么火，我用机器学习做个迷你推荐系统电影
趣味:弹球游戏  | 九宫格  | 漂亮的花 | 两百行Python《天天酷跑》游戏!
AI: 会做诗的机器人 | 给图片上色 | 预测收入 | 碟中谍这么火，我用机器学习做个迷你推荐系统电影
小工具: Pdf转Word，轻松搞定表格和水印！ | 一键把html网页保存为pdf！|  再见PDF提取收费！ | 用90行代码打造最强PDF转换器，word、PPT、excel、markdown、html一键转换 | 制作一款钉钉低价机票提示器！ ｜60行代码做了一个语音壁纸切换器天天看小姐姐！｜

年度爆款文案

• 1). 卧槽！Pdf转Word用Python轻松搞定 ！

• 2).学Python真香！我用100行代码做了个网站，帮人PS旅行图片，赚个鸡腿吃

• 3).首播过亿，火爆全网，我分析了《乘风破浪的姐姐》，发现了这些秘密

• 4). 80行代码！用Python做一个哆来A梦分身

• 5).你必须掌握的20个python代码，短小精悍，用处无穷

• 6). 30个Python奇淫技巧集

• 7). 我总结的80页《菜鸟学Python精选干货.pdf》,都是干货

• 8). 再见Python！我要学Go了！2500字深度分析 ！

• 9).发现一个舔狗福利！这个Python爬虫神器太爽了，自动下载妹子