#爬虫
Miasma:给 AI 爬虫挖坑,反爬虫陷阱
最近在梳理开源项目时,发现了一个有趣的防御工具——Miasma。相比传统的反爬虫方案(IP黑名单、User-Agent检测、速率限制),它采用了一种完全不同的思路:不是阻止爬虫,而是诱导它们进入一个精心设计的"陷阱"…
AI 浏览器自动化终极对决:Browser Use vs Stagehand,10 大方案深度评测
2026 年,因为OpenClaw的出现,AI 操作浏览器已经从调用复杂变成了现实Agent必备。但面对铺天盖地的方案,到底该选哪个?
花了 3 天时间,我把市面上所有主流方案全测了一遍,结果出人意料。
先说结论
如果你赶时间,直接看这里:…
Firecrawl:将网页秒变Markdown的AI数据抓取引擎,支持LLM结构化提取和整站爬取
作为一名经常接触各类AI应用的产品经理,我发现了一个在数据获取环节特别高频的痛点:如何高效地将网页内容转化为LLM可直接使用的格式。
传统爬虫方案往往需要针对不同网站编写解析代码,还要额外处理JavaScript渲染、反爬虫机制等技术细节。…
Browse.ai:基于AI的网站监控数据爬虫工具,网页数据抓取,几分钟内训练一个机器人
browse.ai是一个网页数据抓取和监控爬虫工具,可以让你在几分钟内训练一个机器人,从任何网站提取你需要的数据,并且无需编写任何代码。你可以将抓取到的数据保存为电子表格,或者通过API,Google Sheets,Zapier等方式与其…