Apr 05

Wget的常用参数
-b:后台下载,Wget默认的是把文件下载到当前目录。
-O:将文件下载到指定的目录中。
-P:保存文件之前先创建指定名称的目录。
-t:尝试连接次数,当Wget无法与服务器建立连接时,尝试连接多少次。
-c:断点续传,如果下载中断,那么连接恢复时会从上次断点开始下载。

启动:

-V, --version 显示 Wget 的版本并且退出。  
-h, --help 打印此帮助。  
-b, -background 启动后进入后台操作。  
-e, -execute=COMMAND 运行'.wgetrc'形式的命令。 

日志记录及输入文件:

-o, --output-file=文件 将日志消息写入到指定文件中。  
-a, --append-output=文件 将日志消息追加到指定文件的末端。  
-d, --debug 打印调试输出。  
-q, --quiet 安静模式(不输出信息)。  
-v, --verbose 详细输出模式(默认)。  
-nv, --non-verbose 关闭详细输出模式,但不进入安静模式。  
-i, --input-file=文件 下载从指定文件中找到的 URL。  
-F, --force-html 以 HTML 方式处理输入文件。  
-B, --base=URL 使用 -F -i 文件选项时,在相对链接前添加指定的 URL。  

下载:

-t, --tries=次数 配置重试次数(0 表示无限)。  
--retry-connrefused 即使拒绝连接也重试。  
-O --output-document=文件 将数据写入此文件中。  
-nc, --no-clobber 不更改已经存在的文件,也不使用在文件名后添加 .#(# 为数字)的方法写入新的文件。  
-c, --continue 继续接收已下载了一部分的文件。  
--progress=方式 选择下载进度的表示方式。  
-N, --timestamping 除非远程文件较新,否则不再取回。  
-S, --server-response 显示服务器回应消息。  
--spider 不下载任何数据。  
-T, --timeout=秒数 配置读取数据的超时时间 (秒数)。  
-w, --wait=秒数 接收不同文件之间等待的秒数。  
--waitretry=秒数 在每次重试之间稍等一段时间 (由 1 秒至指定的 秒数不等)。  
--random-wait 接收不同文件之间稍等一段时间(由 0 秒至 2*WAIT 秒不等)。  
-Y, --proxy=on/off 打开或关闭代理服务器。  
-Q, --quota=大小 配置接收数据的限额大小。  
--bind-address=地址 使用本机的指定地址 (主机名称或 IP) 进行连接。  
--limit-rate=速率 限制下载的速率。  
--dns-cache=off 禁止查找存于高速缓存中的 DNS。  
--restrict-file-names=OS 限制文件名中的字符为指定的 OS (操作系统) 所允许的字符。 

目录:

-nd --no-directories 不创建目录。  
-x, --force-directories 强制创建目录。  
-nH, --no-host-directories 不创建含有远程主机名称的目录。  
-P, --directory-prefix=名称 保存文件前先创建指定名称的目录。  
--cut-dirs=数目 忽略远程目录中指定数目的目录层。  

HTTP 选项:

--http-user=用户 配置 http 用户名。  
--http-passwd=密码 配置 http 用户密码。  
-C, --cache=on/off (不)使用服务器中的高速缓存中的数据 (默认是使用的)。  
-E, --html-extension 将所有 MIME 类型为 text/html 的文件都加上 .html 扩展文件名。  
--ignore-length 忽略“Content-Length”文件头字段。  
--header=字符串 在文件头中添加指定字符串。  
--proxy-user=用户 配置代理服务器用户名。  
--proxy-passwd=密码 配置代理服务器用户密码。  
--referer=URL 在 HTTP 请求中包含“Referer:URL”头。  
-s, --save-headers 将 HTTP 头存入文件。  
-U, --user-agent=AGENT 标志为 AGENT 而不是 Wget/VERSION。  
--no-http-keep-alive 禁用 HTTP keep-alive(持久性连接)。  
--cookies=off 禁用 cookie。  
--load-cookies=文件 会话开始前由指定文件载入 cookie。  
--save-cookies=文件 会话结束后将 cookie 保存至指定文件。  
--post-data=字符串 使用 POST 方法,发送指定字符串。  
--post-file=文件 使用 POST 方法,发送指定文件中的内容。   

HTTPS(SSL)选项:

--sslcertfile=文件 可选的客户段端证书。  
--sslcertkey=密钥文件 对此证书可选的“密钥文件”。  
--egd-file=文件 EGD socket 文件名。  
--sslcadir=目录 CA 散列表所在的目录。  
--sslcafile=文件 包含 CA 的文件。  
--sslcerttype=0/1 Client-Cert 类型 0=PEM (默认) / 1=ASN1 (DER)  
--sslcheckcert=0/1 根据提供的 CA 检查服务器的证书  
--sslprotocol=0-3 选择 SSL 协议;0=自动选择,  
1=SSLv2 2=SSLv3 3=TLSv1   

FTP 选项:

-nr, --dont-remove-listing 不删除“.listing”文件。  
-g, --glob=on/off 设置是否展开有通配符的文件名。  
--passive-ftp 使用“被动”传输模式。  
--retr-symlinks 在递归模式中,下载链接所指示的文件(连至目录则例外)。 

递归下载:

-r, --recursive 递归下载。  
-l, --level=数字 最大递归深度(inf 或 0 表示无限)。  
--delete-after 删除下载后的文件。  
-k, --convert-links 将绝对链接转换为相对链接。  
-K, --backup-converted 转换文件 X 前先将其备份为 X.orig。  
-m, --mirror 等效于 -r -N -l inf -nr 的选项。  
-p, --page-requisites 下载所有显示完整网页所需的文件,例如图像。  
--strict-comments 打开对 HTML 备注的严格(SGML)处理选项。  

递归下载时有关接受/拒绝的选项:

-A, --accept=列表 接受的文件样式列表,以逗号分隔。  
-R, --reject=列表 排除的文件样式列表,以逗号分隔。  
-D, --domains=列表 接受的域列表,以逗号分隔。  
--exclude-domains=列表 排除的域列表,以逗号分隔。  
--follow-ftp 跟随 HTML 文件中的 FTP 链接。  
--follow-tags=列表 要跟随的 HTML 标记,以逗号分隔。  
-G, --ignore-tags=列表 要忽略的 HTML 标记,以逗号分隔。  
-H, --span-hosts 递归时可进入其它主机。  
-L, --relative 只跟随相对链接。  
-I, --include-directories=列表 要下载的目录列表。  
-X, --exclude-directories=列表 要排除的目录列表。  
-np, --no-parent 不搜索上层目录。 

转自:http://jiaxl.blog.51cto.com/3064605/1191196

Oct 20

转自:http://linuxtoy.org/archives/wget-tips.html

Wget 是一个命令行的下载工具。对于我们这些 Linux 用户来说,几乎每天都在使用它。下面为大家介绍几个有用的 wget 小技巧,可以让你更加高效而灵活的使用 wget。

$ wget -r -np -nd http://example.com/packages/

这条命令可以下载 http://example.com 网站上 packages 目录中的所有文件。其中,-np 的作用是不遍历父目录,-nd 表示不在本机重新创建目录结构。

$ wget -r -np -nd --accept=iso http://example.com/centos-5/i386/

与上一条命令相似,但多加了一个 –accept=iso 选项,这指示 wget 仅下载 i386 目录中所有扩展名为 iso 的文件。你也可以指定多个扩展名,只需用逗号分隔即可。

$ wget -i filename.txt

此命令常用于批量下载的情形,把所有需要下载文件的地址放到 filename.txt 中,然后 wget 就会自动为你下载所有文件了。

$ wget -c http://example.com/really-big-file.iso

这里所指定的 -c 选项的作用为断点续传。

$ wget -m -k (-H) http://www.example.com/

该命令可用来镜像一个网站,wget 将对链接进行转换。如果网站中的图像是放在另外的站点,那么可以使用 -H 选项。

Oct 06

具体命令:

wget -mkp -e robots=off -U "Mozilla/5.0 (Windows; U; Windows NT 5.1; zh-CN; rv:1.9.1.6) Gecko/20091201 Firefox/3.5.6" "http://www.example.com/"

含义:
-m, –mirror, 表示命令用于镜像, 设置一些递归参数什么的.
-k, –convert-links, 转换网页中的链接. 如果没用这个参数, 链接还是指向源网站的.
-p, –page-requisites, 把正确显示网页所需的图片, 样式表单什么的一并保存下来.
-e robots=off, 忽略robots.txt, 有些网站使用robots.txt禁止抓取.
-U “Mozilla/5.0 (Windows; U; Windows NT 5.1; zh-CN; rv:1.9.1.6) Gecko/20091201 Firefox/3.5.6″ , –user-agent, 把自己为装成浏览器. 有些网站只允许浏览器访问.

上述命令适合抓取静态网页,更详细的命令请参照wget手册。

转自:http://v2ex.com/t/40484