如何使用Xurlfind3r查找目標(biāo)域名的已知URL地址
關(guān)于xurlfind3r
xurlfind3r是一款功能強(qiáng)大的URL地址查詢工具，該工具本質(zhì)上是一個(gè)CLI命令行工具，可以幫助廣大研究人員從多種在線源來查詢目標(biāo)域名的已知URL地址。
功能介紹
1、從被動(dòng)在線源獲取URL地址以實(shí)現(xiàn)最大數(shù)量結(jié)果獲??；
2、支持從Wayback網(wǎng)頁和robots.txt快照解析URL地址；
3、支持URL匹配和過濾；
4、支持stdin和stdout已實(shí)現(xiàn)輕松跟工作流整合；
5、跨平臺(tái)支持，支持Windows、Linux和macOS；
支持的在線源
AlienVault's OTX
BeVigil
Common Crawl
Github
Intelligence X
URLScan
Wayback Machine
工具安裝
安裝發(fā)布版本代碼（不需要安裝Go環(huán)境）
廣大研究人員可以直接訪問該項(xiàng)目的【Releases頁面】下載和安裝對(duì)應(yīng)操作系統(tǒng)和架構(gòu)的發(fā)布版本代碼。
或者也可以使用wget或curl命令行工具來下載和安裝xurlfind3r：
wget https://github.com/hueristiq/xurlfind3r/releases/download/v<version>/xurlfind3r-<version>-linux-amd64.tar.gz或
curl -OL https://github.com/hueristiq/xurlfind3r/releases/download/v<version>/xurlfind3r-<version>-linux-amd64.tar.gz然后提取代碼即可：
tar xf xurlfind3r-<version>-linux-amd64.tar.gz別忘了將xurlfind3r代碼拷貝到PATH路徑下，比如說：
sudo mv xurlfind3r /usr/local/bin/源碼安裝（需要安裝Go環(huán)境）
首先，我們需要在本地設(shè)備上安裝并配置好最新版本的Go語言環(huán)境。接下來，使用go install命令下載該工具即可：
go install -v github.com/hueristiq/xurlfind3r/cmd/xurlfind3r@latest除此之外，我們也可以先將項(xiàng)目源碼克隆至本地：
git clone https://github.com/hueristiq/xurlfind3r.git然后構(gòu)建工具：
cd xurlfind3r/cmd/xurlfind3r && \
go build .工具配置
在使用該工具之前，我們還需要配置相應(yīng)的API密鑰，配置文件為config.yaml：
version: 0.3.0
sources:
- bevigil
- commoncrawl
- github
- intelx
- otx
- urlscan
- wayback
keys:
bevigil:
- awA5nvpKU3N8ygkZ
github:
- d23a554bbc1aabb208c9acfbd2dd41ce7fc9db39
- asdsd54bbc1aabb208c9acfbd2dd41ce7fc9db39
intelx:
- 2.intelx.io:00000000-0000-0000-0000-000000000000
urlscan:
- d4c85d34-e425-446e-d4ab-f5a3412acbe8工具使用
-h參數(shù)可以直接查看工具的幫助選項(xiàng)：
xurlfind3r -h幫助信息如下：
_ __ _ _ _____
__ ___ _ _ __| |/ _(_)_ __ __| |___ / _ __
\ \/ / | | | '__| | |_| | '_ \ / _` | |_ \| '__|
> <| |_| | | | | _| | | | | (_| |___) | |
/_/\_\\__,_|_| |_|_| |_|_| |_|\__,_|____/|_| v0.3.0
USAGE:
xurlfind3r [OPTIONS]
INPUT:
-d, --domain string[] 設(shè)置目標(biāo)域名
-l, --list string 目標(biāo)域名的列表文件路徑
SCOPE:
--include-subdomains bool 匹配子域名URL
SOURCES:
--sources bool 列舉支持的源
-u, --use-sources string[] 要使用的源，用逗號(hào)分隔
-e, --exclude-sources string[] 要排除的源，用逗號(hào)分隔
--parse-wayback-robots bool 使用wayback，解析robots.txt快照
--parse-wayback-source bool 使用wayback，解析源代碼快照
FILTER & MATCH:
-f, --filter string 正則式過濾URL
-m, --match string 正則式匹配URL
OUTPUT:
--no-color bool 禁用顏色高亮輸出
-o, --output string 輸出URL文件路徑
-O, --output-directory string 輸出URL目錄路徑
-v, --verbosity string Verbose模式，默認(rèn)為info
CONFIGURATION:
-c, --configuration string 配置文件路徑（默認(rèn)為~/.hueristiq/xurlfind3r/config.yaml）工具使用樣例
基礎(chǔ)使用：
xurlfind3r -d hackerone.com --include-subdomains過濾器正則表達(dá)式：
# filter images
xurlfind3r -d hackerone.com --include-subdomains -f '`^https?://[^/]*?/.*\.(jpg|jpeg|png|gif|bmp)(\?[^\s]*)?$`'匹配正則表達(dá)式：
# match js URLs
xurlfind3r -d hackerone.com --include-subdomains -m '^https?://[^/]*?/.*\.js(\?[^\s]*)?$'許可證協(xié)議
本項(xiàng)目的開發(fā)與發(fā)布遵循MIT開源許可證協(xié)議。
項(xiàng)目地址
xurlfind3r：【GitHub傳送門】
參考資料
https://msdn.microsoft.com/en-us/library/office/ee537574(v=office.14).aspx
本文作者：Alpha_h4ck， 轉(zhuǎn)載請(qǐng)注明來自FreeBuf.COM
