Files
gf/os/grpool/grpool.go

97 lines
2.8 KiB
Go
Raw Permalink Normal View History

2021-01-17 21:46:25 +08:00
// Copyright GoFrame Author(https://goframe.org). All Rights Reserved.
2018-07-27 15:48:49 +08:00
//
// This Source Code Form is subject to the terms of the MIT License.
// If a copy of the MIT was not distributed with this file,
// You can obtain one at https://github.com/gogf/gf.
2018-07-27 15:48:49 +08:00
2019-01-16 13:02:59 +08:00
// Package grpool implements a goroutine reusable pool.
2018-07-27 15:48:49 +08:00
package grpool
import (
"context"
"time"
2019-06-22 15:05:15 +08:00
2021-10-11 21:41:56 +08:00
"github.com/gogf/gf/v2/container/glist"
"github.com/gogf/gf/v2/container/gtype"
"github.com/gogf/gf/v2/os/gtimer"
"github.com/gogf/gf/v2/util/grand"
2018-07-27 15:48:49 +08:00
)
// Func is the pool function which contains context parameter.
type Func func(ctx context.Context)
2022-06-20 20:34:59 +08:00
// RecoverFunc is the pool runtime panic recover function which contains context parameter.
2023-09-11 10:18:44 +08:00
type RecoverFunc func(ctx context.Context, exception error)
2022-06-20 20:34:59 +08:00
2021-09-28 19:04:36 +08:00
// Pool manages the goroutines using pool.
2018-07-27 15:48:49 +08:00
type Pool struct {
feat(instance): migrate instance containers to type-safe generics (#4617) ### 变更说明 本次重构将项目中用于**实例管理的容器**从 `StrAnyMap`/`IntAnyMap` 迁移到类型安全的泛型实现 `KVMapWithChecker`,同时将相关的 `glist.List` 和 `gqueue.Queue` 替换为对应的泛型版本,以提高实例管理的类型安全性。并且减少原先代码中的大量类型断言,提高性能。 ### 前因 目前`goframe`中大量使用了包含`any`的容器,然后通过断言去转换类型,麻烦且影响性能,尤其是对`gdb/gredis/glog`等需要高频获取`instance`实例的组件影响较大。最近几个版本中gf完成了数据结构容器的泛型化改造,以及我最近解决了其中几个泛型容器对于`typed nil`过滤的问题,所以可以逐步迁移这些实例容器到泛型容器,减少断言优化性能 ### 主要改进 #### 1. 实例容器泛型化 以下模块的实例管理容器已迁移到泛型实现: **核心实例管理**: - `database/gdb`: 数据库实例容器 → `KVMap[string, DB]` - `database/gredis`: Redis 实例容器 → `KVMap[string, *Redis]` - `database/gredis`: Redis 配置容器 → `KVMap[string, *Config]` - `os/gcfg`: 配置实例容器 → `KVMap[string, *Config]` - `os/glog`: 日志实例容器 → `KVMap[string, *Logger]` - `os/gview`: 视图实例容器 → `KVMap[string, *View]` - `i18n/gi18n`: 国际化实例容器 → `KVMap[string, *Manager]` **网络服务实例**: - `net/ghttp`: HTTP 服务器容器 → `KVMap[string, *Server]` - `net/gtcp`: TCP 服务器容器 → `KVMap[any, *Server]` - `net/gudp`: UDP 服务器容器 → `KVMap[string, *Server]` **其他实例容器**: - `os/gres`: 资源实例容器 → `KVMap[string, *Resource]` - `os/gfpool`: 文件池容器 → `KVMap[string, *Pool]` - `os/gspath`: 路径搜索容器 → `KVMap[string, *SPath]` - `net/gtcp`: 连接池容器 → `KVMap[string, *gpool.Pool]` #### 2. 相关数据结构泛型化 - `os/gfsnotify`: 回调列表 → `TList[*Callback]`,事件队列 → `TQueue[*Event]` - `os/grpool`: 任务队列 → `TList[*localPoolItem]` - `os/gcache`: 事件队列 → `TList[*adapterMemoryEvent]` - `net/ghttp`: 解析项列表 → `TList[*HandlerItemParsed]` - `os/gproc`: 消息队列 → `TQueue[*MsgRequest]` - `os/gmlock`: 锁映射 → `KVMap[string, *sync.RWMutex]` ### 技术实现 1. **引入检查器函数**: 为每个实例容器添加 `checker` 函数用于空值检测 2. **消除类型断言**: 实例获取时无需 `v.(*Type)` 转换 3. **明确函数签名**: `GetOrSetFuncLock` 的回调从 `func() any` 改为 `func() T` ### 使用示例 #### 实例容器的变更 **变更前**: ```go // 旧的实例管理方式 var instances = gmap.NewStrAnyMap(true) func Instance(name string) *Logger { v := instances.GetOrSetFuncLock(name, func() any { return New() }) return v.(*Logger) // 需要类型断言 } ``` **变更后**: ```go // 新的泛型实例容器 var ( checker = func(v *Logger) bool { return v == nil } instances = gmap.NewKVMapWithChecker[string, *Logger](checker, true) ) func Instance(name string) *Logger { return instances.GetOrSetFuncLock(name, New) // 直接返回,无需断言 } ``` #### 队列容器的变更 **变更前**: ```go // 旧的队列方式 events := gqueue.New() events.Push(&Event{Path: "/tmp/file"}) if v := events.Pop(); v != nil { event := v.(*Event) // 需要类型断言 handleEvent(event) } ``` **变更后**: ```go // 新的泛型队列 events := gqueue.NewTQueue[*Event]() events.Push(&Event{Path: "/tmp/file"}) if event := events.Pop(); event != nil { handleEvent(event) // event 已是 *Event 类型 } ``` ### 收益 - ✅ **编译时类型安全**: 实例容器的类型错误在编译期捕获 - ✅ **消除运行时断言**: 避免类型断言带来的 panic 风险 - ✅ **提升代码可读性**: 实例管理逻辑更清晰 - ✅ **改善开发体验**: IDE 类型提示和代码补全更准确 ### 性能权衡 **编译时**: - 泛型实例化会增加编译时间和二进制体积 - 预估编译时间增加 5-15%,二进制体积增加约 1-2MB **运行时**: - 减少类型断言的反射开销 - 提升实例获取等热点路径的性能
2026-01-16 15:23:13 +08:00
limit int // Max goroutine count limit.
count *gtype.Int // Current running goroutine count.
list *glist.TList[*localPoolItem] // List for asynchronous job adding purpose.
closed *gtype.Bool // Is pool closed or not.
2018-07-27 15:48:49 +08:00
}
2023-09-11 10:18:44 +08:00
// localPoolItem is the job item storing in job list.
type localPoolItem struct {
2023-09-11 10:18:44 +08:00
Ctx context.Context // Context.
Func Func // Job function.
}
const (
2023-09-11 10:18:44 +08:00
minSupervisorTimerDuration = 500 * time.Millisecond
maxSupervisorTimerDuration = 1500 * time.Millisecond
)
2019-06-01 19:34:03 +08:00
// Default goroutine pool.
var (
2023-09-11 10:18:44 +08:00
defaultPool = New()
)
2018-07-27 15:48:49 +08:00
2019-06-01 19:34:03 +08:00
// New creates and returns a new goroutine pool object.
// The parameter `limit` is used to limit the max goroutine count,
2019-06-01 19:34:03 +08:00
// which is not limited in default.
2019-06-19 09:06:52 +08:00
func New(limit ...int) *Pool {
2023-09-11 10:18:44 +08:00
var (
pool = &Pool{
limit: -1,
count: gtype.NewInt(),
feat(instance): migrate instance containers to type-safe generics (#4617) ### 变更说明 本次重构将项目中用于**实例管理的容器**从 `StrAnyMap`/`IntAnyMap` 迁移到类型安全的泛型实现 `KVMapWithChecker`,同时将相关的 `glist.List` 和 `gqueue.Queue` 替换为对应的泛型版本,以提高实例管理的类型安全性。并且减少原先代码中的大量类型断言,提高性能。 ### 前因 目前`goframe`中大量使用了包含`any`的容器,然后通过断言去转换类型,麻烦且影响性能,尤其是对`gdb/gredis/glog`等需要高频获取`instance`实例的组件影响较大。最近几个版本中gf完成了数据结构容器的泛型化改造,以及我最近解决了其中几个泛型容器对于`typed nil`过滤的问题,所以可以逐步迁移这些实例容器到泛型容器,减少断言优化性能 ### 主要改进 #### 1. 实例容器泛型化 以下模块的实例管理容器已迁移到泛型实现: **核心实例管理**: - `database/gdb`: 数据库实例容器 → `KVMap[string, DB]` - `database/gredis`: Redis 实例容器 → `KVMap[string, *Redis]` - `database/gredis`: Redis 配置容器 → `KVMap[string, *Config]` - `os/gcfg`: 配置实例容器 → `KVMap[string, *Config]` - `os/glog`: 日志实例容器 → `KVMap[string, *Logger]` - `os/gview`: 视图实例容器 → `KVMap[string, *View]` - `i18n/gi18n`: 国际化实例容器 → `KVMap[string, *Manager]` **网络服务实例**: - `net/ghttp`: HTTP 服务器容器 → `KVMap[string, *Server]` - `net/gtcp`: TCP 服务器容器 → `KVMap[any, *Server]` - `net/gudp`: UDP 服务器容器 → `KVMap[string, *Server]` **其他实例容器**: - `os/gres`: 资源实例容器 → `KVMap[string, *Resource]` - `os/gfpool`: 文件池容器 → `KVMap[string, *Pool]` - `os/gspath`: 路径搜索容器 → `KVMap[string, *SPath]` - `net/gtcp`: 连接池容器 → `KVMap[string, *gpool.Pool]` #### 2. 相关数据结构泛型化 - `os/gfsnotify`: 回调列表 → `TList[*Callback]`,事件队列 → `TQueue[*Event]` - `os/grpool`: 任务队列 → `TList[*localPoolItem]` - `os/gcache`: 事件队列 → `TList[*adapterMemoryEvent]` - `net/ghttp`: 解析项列表 → `TList[*HandlerItemParsed]` - `os/gproc`: 消息队列 → `TQueue[*MsgRequest]` - `os/gmlock`: 锁映射 → `KVMap[string, *sync.RWMutex]` ### 技术实现 1. **引入检查器函数**: 为每个实例容器添加 `checker` 函数用于空值检测 2. **消除类型断言**: 实例获取时无需 `v.(*Type)` 转换 3. **明确函数签名**: `GetOrSetFuncLock` 的回调从 `func() any` 改为 `func() T` ### 使用示例 #### 实例容器的变更 **变更前**: ```go // 旧的实例管理方式 var instances = gmap.NewStrAnyMap(true) func Instance(name string) *Logger { v := instances.GetOrSetFuncLock(name, func() any { return New() }) return v.(*Logger) // 需要类型断言 } ``` **变更后**: ```go // 新的泛型实例容器 var ( checker = func(v *Logger) bool { return v == nil } instances = gmap.NewKVMapWithChecker[string, *Logger](checker, true) ) func Instance(name string) *Logger { return instances.GetOrSetFuncLock(name, New) // 直接返回,无需断言 } ``` #### 队列容器的变更 **变更前**: ```go // 旧的队列方式 events := gqueue.New() events.Push(&Event{Path: "/tmp/file"}) if v := events.Pop(); v != nil { event := v.(*Event) // 需要类型断言 handleEvent(event) } ``` **变更后**: ```go // 新的泛型队列 events := gqueue.NewTQueue[*Event]() events.Push(&Event{Path: "/tmp/file"}) if event := events.Pop(); event != nil { handleEvent(event) // event 已是 *Event 类型 } ``` ### 收益 - ✅ **编译时类型安全**: 实例容器的类型错误在编译期捕获 - ✅ **消除运行时断言**: 避免类型断言带来的 panic 风险 - ✅ **提升代码可读性**: 实例管理逻辑更清晰 - ✅ **改善开发体验**: IDE 类型提示和代码补全更准确 ### 性能权衡 **编译时**: - 泛型实例化会增加编译时间和二进制体积 - 预估编译时间增加 5-15%,二进制体积增加约 1-2MB **运行时**: - 减少类型断言的反射开销 - 提升实例获取等热点路径的性能
2026-01-16 15:23:13 +08:00
list: glist.NewT[*localPoolItem](true),
2023-09-11 10:18:44 +08:00
closed: gtype.NewBool(),
}
timerDuration = grand.D(
minSupervisorTimerDuration,
maxSupervisorTimerDuration,
)
)
2019-06-19 09:06:52 +08:00
if len(limit) > 0 && limit[0] > 0 {
2023-09-11 10:18:44 +08:00
pool.limit = limit[0]
2019-06-19 09:06:52 +08:00
}
2023-09-11 10:18:44 +08:00
gtimer.Add(context.Background(), timerDuration, pool.supervisor)
return pool
2018-07-27 15:48:49 +08:00
}
2023-09-11 10:18:44 +08:00
// Add pushes a new job to the default goroutine pool.
2019-06-01 19:34:03 +08:00
// The job will be executed asynchronously.
func Add(ctx context.Context, f Func) error {
2023-09-11 10:18:44 +08:00
return defaultPool.Add(ctx, f)
2018-07-27 15:48:49 +08:00
}
2023-09-11 10:18:44 +08:00
// AddWithRecover pushes a new job to the default pool with specified recover function.
//
// The optional `recoverFunc` is called when any panic during executing of `userFunc`.
// If `recoverFunc` is not passed or given nil, it ignores the panic from `userFunc`.
// The job will be executed asynchronously.
func AddWithRecover(ctx context.Context, userFunc Func, recoverFunc RecoverFunc) error {
2023-09-11 10:18:44 +08:00
return defaultPool.AddWithRecover(ctx, userFunc, recoverFunc)
}
2019-06-01 19:34:03 +08:00
// Size returns current goroutine count of default goroutine pool.
2018-07-27 15:48:49 +08:00
func Size() int {
2023-09-11 10:18:44 +08:00
return defaultPool.Size()
2018-07-27 15:48:49 +08:00
}
2019-06-01 19:34:03 +08:00
// Jobs returns current job count of default goroutine pool.
2018-07-27 15:48:49 +08:00
func Jobs() int {
2023-09-11 10:18:44 +08:00
return defaultPool.Jobs()
2019-06-19 09:06:52 +08:00
}