返回目录
开源项目设计创作类新手

Photon:面向 OSINT 的超高速爬虫

Photon 是一个专为 OSINT(开源情报)设计的超高速网络爬虫,可在爬取过程中提取 URL、带参数 URL、邮箱与社交媒体账号、文件、密钥、JavaScript 文件及其中的端点、自定义正则匹配字符串以及子域名和 DNS 相关数据,结果可有序保存或导出为 JSON。项目支持灵活的爬取选项(超时、延迟、种子、正则排除)、智能线程管理、wayback/dnsdumpster/Exporter 插件,并提供基于 Python-Alpine(约 103 MB)的 Docker 镜像与无缝 --update 更新机制。

0 次阅读2026/09/17 发布
Photon:面向 OSINT 的超高速爬虫 来源图片

社区作者 · zZz

它解决什么问题

Photon 是一个为 OSINT 场景打造的超高速爬虫项目,页面顶部标注为 “Incredibly fast crawler designed for OSINT.”。

核心能力(Key Features)

1)数据提取(Data Extraction):Photon 在爬取时可提取以下数据——

提取到的信息会以有条理的方式保存,也可以导出为 json。

  • URL(范围内与范围外);
  • 带参数的 URL(例如 example.com/gallery.php?id=2);
  • 情报信息(Intel),如邮箱、社交媒体账号、Amazon 存储桶(amazon buckets)等;
  • 文件(pdf、png、xml 等);
  • 密钥(Secret keys):认证/API 密钥与哈希值;
  • JavaScript 文件及其内部存在的端点(Endpoints);
  • 匹配自定义正则模式(custom regex pattern)的字符串;
  • 子域名与 DNS 相关数据。

2)灵活性(Flexible):可控制 timeout、delay,添加种子(seeds),通过正则模式排除 URL 等。Photon 提供的大量选项让用户可以按自己的方式爬取 Web。

3)性能(Genius):Photon 的智能线程管理与精细化的逻辑带来一流性能。爬取可能消耗较多资源,Photon 也提供了应对手段:使用 --wayback 选项可以获取 archive.org 归档的 URL 并作为种子使用。

4)插件(Plugins):wayback、dnsdumpster、Exporter。

5)Docker 支持:Photon 可通过轻量级 Python-Alpine(103 MB)Docker 镜像启动。

6)频繁且无缝的更新(Frequent & Seamless Updates):Photon 处于高强度开发中,修复 bug、优化性能与新功能的更新会定期发布。可以在 Development project board 上查看正在开发的功能与问题。更新可通过 --update 选项安装与检查;Photon 具备无缝更新能力,意味着更新 Photon 不会丢失任何已保存的数据。

贡献与许可(Contribution & License) 可通过以下方式贡献:报告 bug;开发插件;为 ninja 模式添加更多 “APIs”;提出改进建议;修复问题并提交 pull request。提交 pull request 或 issue 前请先阅读指南。页面还提供了私下交流的 Twitter 联系方式。

Photon 采用 GPL v3.0 许可证。

— 本文由 AI 根据公开来源辅助整理,命令、版本与许可证请在使用前到原始页面复核。

安装 / 开始使用

来源中明确给出的部署方式为 Docker(基于轻量级 Python-Alpine 镜像,约 103 MB)。准备环境:本机需可执行

可复制命令
git 与 docker 命令

(来源未给出 Python 版本等其他环境要求,待核验)。

一、构建镜像并运行 按顺序执行以下命令:

命令
git clone https://github.com/s0md3v/Photon.git
命令
cd Photon
命令
docker build -t photon .
命令
docker run -it --name photon photon:latest -u google.com

二、查看结果 可以有两种方式: 1)访问本地 docker volume——通过运行 docker inspect photon 找到该卷的位置; 2)挂载目标的 loot 目录,例如:

命令
docker run -it --name photon -v "$PWD:/Photon/google.com" photon:latest -u google.com

三、更新 使用 --update 选项可安装更新并检查更新;Photon 的无缝更新能力意味着更新时不会丢失已保存的数据。

常见问题与说明:

  • 找不到结果文件时,优先用 docker inspect photon 确认卷位置,或在运行时通过 -v 挂载目录以便直接查看;
  • 爬取可能消耗较多资源,可通过 timeout、delay 等选项控制节奏;
  • 想扩大种子来源,可使用 --wayback 选项获取 archive.org 归档的 URL 作为种子;
  • 非 Docker 的安装方式(如 pip 安装或直接运行脚本)来源未提供,待核验。

来源教程配图

Photon
配图 1 · Photon查看原图
save demo
配图 2 · save demo查看原图
demo
配图 3 · demo查看原图

适用场景

开源情报(OSINT)信息收集与资产梳理
在目标站点范围内抓取 URL
带参数 URL 与文件
从网页中提取邮箱
社交媒体账号
Amazon 存储桶等情报
发现页面与 JavaScript 文件中的 API 端点
认证/API 密钥与哈希
通过自定义正则匹配抓取特定格式字符串
收集子域名与 DNS 相关数据
借助 --wayback 使用 archive.org 归档 URL 作为爬取种子
结果整理保存或导出为 JSON 供后续分析