Photon:面向 OSINT 的超高速爬虫
Photon 是一个专为 OSINT(开源情报)设计的超高速网络爬虫,可在爬取过程中提取 URL、带参数 URL、邮箱与社交媒体账号、文件、密钥、JavaScript 文件及其中的端点、自定义正则匹配字符串以及子域名和 DNS 相关数据,结果可有序保存或导出为 JSON。项目支持灵活的爬取选项(超时、延迟、种子、正则排除)、智能线程管理、wayback/dnsdumpster/Exporter 插件,并提供基于 Python-Alpine(约 103 MB)的 Docker 镜像与无缝 --update 更新机制。
社区作者 · zZz
它解决什么问题
Photon 是一个为 OSINT 场景打造的超高速爬虫项目,页面顶部标注为 “Incredibly fast crawler designed for OSINT.”。
核心能力(Key Features)
1)数据提取(Data Extraction):Photon 在爬取时可提取以下数据——
提取到的信息会以有条理的方式保存,也可以导出为 json。
- URL(范围内与范围外);
- 带参数的 URL(例如 example.com/gallery.php?id=2);
- 情报信息(Intel),如邮箱、社交媒体账号、Amazon 存储桶(amazon buckets)等;
- 文件(pdf、png、xml 等);
- 密钥(Secret keys):认证/API 密钥与哈希值;
- JavaScript 文件及其内部存在的端点(Endpoints);
- 匹配自定义正则模式(custom regex pattern)的字符串;
- 子域名与 DNS 相关数据。
2)灵活性(Flexible):可控制 timeout、delay,添加种子(seeds),通过正则模式排除 URL 等。Photon 提供的大量选项让用户可以按自己的方式爬取 Web。
3)性能(Genius):Photon 的智能线程管理与精细化的逻辑带来一流性能。爬取可能消耗较多资源,Photon 也提供了应对手段:使用 --wayback 选项可以获取 archive.org 归档的 URL 并作为种子使用。
4)插件(Plugins):wayback、dnsdumpster、Exporter。
5)Docker 支持:Photon 可通过轻量级 Python-Alpine(103 MB)Docker 镜像启动。
6)频繁且无缝的更新(Frequent & Seamless Updates):Photon 处于高强度开发中,修复 bug、优化性能与新功能的更新会定期发布。可以在 Development project board 上查看正在开发的功能与问题。更新可通过 --update 选项安装与检查;Photon 具备无缝更新能力,意味着更新 Photon 不会丢失任何已保存的数据。
贡献与许可(Contribution & License) 可通过以下方式贡献:报告 bug;开发插件;为 ninja 模式添加更多 “APIs”;提出改进建议;修复问题并提交 pull request。提交 pull request 或 issue 前请先阅读指南。页面还提供了私下交流的 Twitter 联系方式。
Photon 采用 GPL v3.0 许可证。
— 本文由 AI 根据公开来源辅助整理,命令、版本与许可证请在使用前到原始页面复核。
安装 / 开始使用
来源中明确给出的部署方式为 Docker(基于轻量级 Python-Alpine 镜像,约 103 MB)。准备环境:本机需可执行
git 与 docker 命令(来源未给出 Python 版本等其他环境要求,待核验)。
一、构建镜像并运行 按顺序执行以下命令:
git clone https://github.com/s0md3v/Photon.gitcd Photondocker build -t photon .docker run -it --name photon photon:latest -u google.com二、查看结果 可以有两种方式: 1)访问本地 docker volume——通过运行 docker inspect photon 找到该卷的位置; 2)挂载目标的 loot 目录,例如:
docker run -it --name photon -v "$PWD:/Photon/google.com" photon:latest -u google.com三、更新 使用 --update 选项可安装更新并检查更新;Photon 的无缝更新能力意味着更新时不会丢失已保存的数据。
常见问题与说明:
- 找不到结果文件时,优先用 docker inspect photon 确认卷位置,或在运行时通过 -v 挂载目录以便直接查看;
- 爬取可能消耗较多资源,可通过 timeout、delay 等选项控制节奏;
- 想扩大种子来源,可使用 --wayback 选项获取 archive.org 归档的 URL 作为种子;
- 非 Docker 的安装方式(如 pip 安装或直接运行脚本)来源未提供,待核验。


