我把项目发到 HN 后,网站被 AI 爬虫流量淹没

2026.10.14 · 事件 · AI 事件 · 本人发布

作者发现近一半流量来自一个把网页变更摘要成 AI 简报的服务

作者把自制的可定制信息流阅读器 sprinklz.io 发到 HN 后获得约一百个赞,但网站随后持续变慢。排查发现近一半流量来自同一个用户,该服务高频抓取网页并生成 AI 简报,此外还有 Claude bot、OpenAI bot、谷歌索引器等爬虫和漏洞扫描器。作者加了 robots.txt 和限流,并着手优化网站性能。

  • sprinklz.io 发到 HN 后获得约一百个赞
  • 网站数日后仍持续变慢,日志与指标不符
  • 近一半流量来自一个 AI 简报抓取服务
  • 还有 Claude、OpenAI、谷歌等已知爬虫与漏洞扫描器
  • 作者加 robots.txt 和限流,并优化基础设施

为什么值得看

看一个独立开发者如何被 AI 爬虫流量拖垮并反击

适合谁关注

独立开发者、运维与网站运营者

原始来源