生产环境出现 TooManyOpenFiles，优先调整操作系统层面的文件句柄限制，并确保 Kafka 进程启动时加载了新的配置。

命令速用版

如果是临时排查，可在当前 shell 会话执行（仅影响当前 shell 新启动的进程，不影响已运行的 Kafka）：

ulimit -n 65536

永久生效需修改配置文件，常用命令如下：

cat /etc/security/limits.conf
systemctl list-unit-files | grep kafka
systemctl edit <service-name>
cat /proc/$(pgrep -f kafka.Kafka)/limits

为什么会这样

Kafka 运行时每个分区日志段（Log Segment）、每个网络连接、每个索引文件都需要占用一个文件句柄。生产环境分区数多、并发连接高时，默认的系统限制（通常是 1024）远远不够。当进程请求新文件句柄被操作系统拒绝时，就会抛出 TooManyOpenFiles 错误，导致无法写入日志或接受新连接。

这个问题本质是操作系统资源限制，不是 Kafka 软件缺陷，因此调整 Kafka 自身的配置参数无法解决，必须提升 OS 允许该进程打开的最大文件数。

分步处理

1. 检查当前限制

登录到报错的 Kafka 服务器，执行以下命令查看当前 shell 的限制：

ulimit -n

如果显示 1024，说明需要调整。接着查看 Kafka 进程的实际限制（使用 pgrep 查找进程，避免 PID 文件路径差异）：

cat /proc/$(pgrep -f kafka.Kafka)/limits | grep "open files"

2. 确认 systemd 服务名称

不同安装方式服务名称可能不同（如 kafka.service, confluent-kafka.service 等），先确认名称：

systemctl list-unit-files | grep kafka

假设确认后的服务名为 kafka.service，后续命令请替换为实际名称。

3. 修改系统级限制

编辑 /etc/security/limits.conf，添加或修改以下内容，对 kafka 用户生效：

kafka soft nofile 65536
kafka hard nofile 65536

注意：如果是 root 启动，需修改 root 对应项；建议使用专用用户运行 Kafka。

4. 修改 systemd 配置（关键）

现代 Linux 发行版使用 systemd 管理服务，它会覆盖 limits.conf 的设置。执行：

systemctl edit kafka.service

在编辑器中输入：

[Service]
LimitNOFILE=65536

保存退出后，重载配置：

systemctl daemon-reload

5. 调整系统全局文件句柄（可选但推荐）

如果系统整体可用文件句柄耗尽，单个进程限制再高也没用。检查当前值：

cat /proc/sys/fs/file-max

如果数值较小，执行以下命令调整并生效：

echo "fs.file-max=2097152" >> /etc/sysctl.conf
sysctl -p

6. 重启服务

配置修改后必须重启 Kafka 进程才能生效：

systemctl restart kafka.service

怎么验证是否生效

服务启动后，再次查看进程的限制文件：

cat /proc/$(pgrep -f kafka.Kafka)/limits | grep "open files"

如果显示 Max open files 为 65536 或更高，说明调整成功。同时观察 Kafka 日志（通常在 logs/server.log），确认不再出现 TooManyOpenFiles 相关异常堆栈。

常见坑

1. systemd 覆盖问题：很多运维只改了 limits.conf 却忘了 systemd 配置，导致重启后依然无效。systemd 的优先级更高，必须配置 LimitNOFILE。

2. 临时 ulimit 误导：在当前 shell 执行 ulimit -n 65536 仅对当前 shell 及其子进程有效，无法改变已后台运行的 Kafka 进程限制，必须重启服务。

3. 会话未生效：修改 limits.conf 后，当前已登录的 shell 不会立即生效，需要重新登录用户或重启服务器。

4. 容器环境：如果 Kafka 运行在 Docker 或 Kubernetes 中，需在启动参数中增加 `--ulimit` nofile=65536:65536 或在 Pod SecurityContext 中配置。K8s 示例：

securityContext:
  limits:
    cpu: "2"
    memory: 4Gi
  requests:
    cpu: "1"
    memory: 2Gi
  fsGroup: 1000
  runAsUser: 1000
  runAsGroup: 1000
  supplementalGroups:
    - 1000

注意：K8s 中还需确保节点 kubelet 配置允许更高的 pod 文件句柄限制。