一、背景
MySQL数据库表中有一批重复的脏数据,为不影响正常业务,需要进行批量删除。
二、SQL批量删除
首先想到的是编写SQL语句来批量删除:删除身份证号为51****59且ID不为5的全部数据(保留ID为5的那一条数据)
DELETE
FROM
test_table
WHERE
id IN ( SELECT id FROM test_table WHERE id_card_no = "51****59" AND id != 5 );
运行结果:
删除失败,SQL语句运行时报错了
鉴于当时实际情况需要尽快删除脏数据,就没有在此做过多的考究,原因和解决详见第四小节:SQL运行问题排查
三、Python批量删除
数据准备
将SQL查询到的所有需要删除的数据ID保存到txt文件中
SELECT id FROM test_table WHERE id_card_no = "51****59" AND id != 5;
读取数据ID
def del_from_mysql():
# 【读取数据ID】
with open(file="新建文本文档.txt", mode="r", encoding="utf-8") as f:
data = f.read()
f.close()
ids = data.split("\n")
print(ids)
if __name__ == &#