使用goroutine配合连接池和worker模式控制并发写入数据库,设置MaxOpenConns、MaxIdleConns和ConnMaxLifetime优化连接管理,通过channel限制协程数量,避免资源竞争与连接耗尽,结合错误重试机制保障写入稳定性。

在golang中实现并发数据写入数据库,关键在于合理使用goroutine、连接池和锁机制,同时避免资源竞争和数据库连接耗尽。下面是一些实用的方法和注意事项。
使用数据库连接池
Golang的database/sql包自带连接池功能,正确配置能有效支持并发写入。
建议设置:
- SetMaxOpenConns(n):控制最大并发连接数,避免数据库压力过大
- SetMaxIdleConns(n):设置空闲连接数,提升重复利用效率
- SetConnMaxLifetime(t):防止长时间运行后连接失效
例如:
立即学习“go语言免费学习笔记(深入)”;
db.SetMaxOpenConns(50)
db.SetMaxIdleConns(10)
db.SetConnMaxLifetime(time.Hour)
通过goroutine并发写入
启动多个goroutine处理数据写入,每个goroutine使用独立的语句或事务。
示例:
for _, data := range dataList {
go func(d Data) {
_, err := db.Exec(“INSERT INTO table VALUES (?, ?)”, d.A, d.B)
if err != nil {
log.printf(“写入失败: %v”, err)
}
} (data)
}
注意:直接这样写可能创建太多goroutine,应使用限制机制。
控制并发数量(使用Worker模式)
避免无节制地启动goroutine,推荐使用固定数量的工作协程从通道读取任务。
实现方式:
- 创建一个带缓冲的channel存放待写入数据
- 启动固定数量的worker goroutine从channel读取并执行写入
- 主协程将数据发送到channel
这样既能并发又能控制负载。
处理并发中的错误与重试
并发写入可能遇到唯一键冲突、超时等问题。
建议做法:
- 每个写入操作都检查返回的Error
- 对可重试错误(如网络超时)实现指数退避重试逻辑
- 记录失败日志,必要时落盘重推
基本上就这些。合理利用Go的并发模型和数据库驱动特性,就能安全高效地实现并发写入。关键是别让goroutine失控,也别把数据库连接打满。