2014-09-20
【UNIX】Curlの裏ワザ
[ PR ]
Unixでもよく使うCurl (cURL)。いろんな使い方がありますが、なかなか使いこなせていないんじゃないでしょうか。
そこで今回は少し凝った使い方を紹介します。
マニュアル
まずは man curl。
そして curl -h
。
Usage: curl [options...]Options: (H) means HTTP/HTTPS only, (F) means FTP only --anyauth Pick "any" authentication method (H) -a, --append Append to target file when uploading (F/SFTP) --basic Use HTTP Basic Authentication (H) --cacert FILE CA certificate to verify peer against (SSL) --capath DIR CA directory to verify peer against (SSL) -E, --cert CERT[:PASSWD] Client certificate file and password (SSL) --cert-type TYPE Certificate file type (DER/PEM/ENG) (SSL) --ciphers LIST SSL ciphers to use (SSL) --compressed Request compressed response (using deflate or gzip) -K, --config FILE Specify which config file to read --connect-timeout SECONDS Maximum time allowed for connection -C, --continue-at OFFSET Resumed transfer offset -b, --cookie STRING/FILE String or file to read cookies from (H) -c, --cookie-jar FILE Write cookies to this file after operation (H) --create-dirs Create necessary local directory hierarchy --crlf Convert LF to CRLF in upload --crlfile FILE Get a CRL list in PEM format from the given file -d, --data DATA HTTP POST data (H) --data-ascii DATA HTTP POST ASCII data (H) --data-binary DATA HTTP POST binary data (H) --data-urlencode DATA HTTP POST data url encoded (H) --delegation STRING GSS-API delegation permission --digest Use HTTP Digest Authentication (H) --disable-eprt Inhibit using EPRT or LPRT (F) --disable-epsv Inhibit using EPSV (F) -D, --dump-header FILE Write the headers to this file --egd-file FILE EGD socket path for random data (SSL) --engine ENGINE Crypto engine (SSL). "--engine list" for list -f, --fail Fail silently (no output at all) on HTTP errors (H) -F, --form CONTENT Specify HTTP multipart POST data (H) --form-string STRING Specify HTTP multipart POST data (H) --ftp-account DATA Account data string (F) --ftp-alternative-to-user COMMAND String to replace "USER [name]" (F) --ftp-create-dirs Create the remote dirs if not present (F) --ftp-method [MULTICWD/NOCWD/SINGLECWD] Control CWD usage (F) --ftp-pasv Use PASV/EPSV instead of PORT (F) -P, --ftp-port ADR Use PORT with given address instead of PASV (F) --ftp-skip-pasv-ip Skip the IP address for PASV (F) --ftp-pret Send PRET before PASV (for drftpd) (F) --ftp-ssl-ccc Send CCC after authenticating (F) --ftp-ssl-ccc-mode ACTIVE/PASSIVE Set CCC mode (F) --ftp-ssl-control Require SSL/TLS for ftp login, clear for transfer (F) -G, --get Send the -d data with a HTTP GET (H) -g, --globoff Disable URL sequences and ranges using {} and [] -H, --header LINE Custom header to pass to server (H) -I, --head Show document info only -h, --help This help text --hostpubmd5 MD5 Hex encoded MD5 string of the host public key. (SSH) -0, --http1.0 Use HTTP 1.0 (H) --ignore-content-length Ignore the HTTP Content-Length header -i, --include Include protocol headers in the output (H/F) -k, --insecure Allow connections to SSL sites without certs (H) --interface INTERFACE Specify network interface/address to use -4, --ipv4 Resolve name to IPv4 address -6, --ipv6 Resolve name to IPv6 address -j, --junk-session-cookies Ignore session cookies read from file (H) --keepalive-time SECONDS Interval between keepalive probes --key KEY Private key file name (SSL/SSH) --key-type TYPE Private key file type (DER/PEM/ENG) (SSL) --krb LEVEL Enable Kerberos with specified security level (F) --libcurl FILE Dump libcurl equivalent code of this command line --limit-rate RATE Limit transfer speed to this rate -l, --list-only List only names of an FTP directory (F) --local-port RANGE Force use of these local port numbers -L, --location Follow redirects (H) --location-trusted like --location and send auth to other hosts (H) -M, --manual Display the full manual --mail-from FROM Mail from this address --mail-rcpt TO Mail to this receiver(s) --mail-auth AUTH Originator address of the original email --max-filesize BYTES Maximum file size to download (H/F) --max-redirs NUM Maximum number of redirects allowed (H) -m, --max-time SECONDS Maximum time allowed for the transfer --metalink Process given URLs as metalink XML file --negotiate Use HTTP Negotiate Authentication (H) -n, --netrc Must read .netrc for user name and password --netrc-optional Use either .netrc or URL; overrides -n --netrc-file FILE Set up the netrc filename to use -N, --no-buffer Disable buffering of the output stream --no-keepalive Disable keepalive use on the connection --no-sessionid Disable SSL session-ID reusing (SSL) --noproxy List of hosts which do not use proxy --ntlm Use HTTP NTLM authentication (H) -o, --output FILE Write output to instead of stdout --pass PASS Pass phrase for the private key (SSL/SSH) --post301 Do not switch to GET after following a 301 redirect (H) --post302 Do not switch to GET after following a 302 redirect (H) --post303 Do not switch to GET after following a 303 redirect (H) -#, --progress-bar Display transfer progress as a progress bar --proto PROTOCOLS Enable/disable specified protocols --proto-redir PROTOCOLS Enable/disable specified protocols on redirect -x, --proxy [PROTOCOL://]HOST[:PORT] Use proxy on given port --proxy-anyauth Pick "any" proxy authentication method (H) --proxy-basic Use Basic authentication on the proxy (H) --proxy-digest Use Digest authentication on the proxy (H) --proxy-negotiate Use Negotiate authentication on the proxy (H) --proxy-ntlm Use NTLM authentication on the proxy (H) -U, --proxy-user USER[:PASSWORD] Proxy user and password --proxy1.0 HOST[:PORT] Use HTTP/1.0 proxy on given port -p, --proxytunnel Operate through a HTTP proxy tunnel (using CONNECT) --pubkey KEY Public key file name (SSH) -Q, --quote CMD Send command(s) to server before transfer (F/SFTP) --random-file FILE File for reading random data from (SSL) -r, --range RANGE Retrieve only the bytes within a range --raw Do HTTP "raw", without any transfer decoding (H) -e, --referer Referer URL (H) -J, --remote-header-name Use the header-provided filename (H) -O, --remote-name Write output to a file named as the remote file --remote-name-all Use the remote file name for all URLs -R, --remote-time Set the remote file's time on the local output -X, --request COMMAND Specify request command to use --resolve HOST:PORT:ADDRESS Force resolve of HOST:PORT to ADDRESS --retry NUM Retry request NUM times if transient problems occur --retry-delay SECONDS When retrying, wait this many seconds between each --retry-max-time SECONDS Retry only within this period -S, --show-error Show error. With -s, make curl show errors when they occur -s, --silent Silent mode. Don't output anything --socks4 HOST[:PORT] SOCKS4 proxy on given host + port --socks4a HOST[:PORT] SOCKS4a proxy on given host + port --socks5 HOST[:PORT] SOCKS5 proxy on given host + port --socks5-hostname HOST[:PORT] SOCKS5 proxy, pass host name to proxy --socks5-gssapi-service NAME SOCKS5 proxy service name for gssapi --socks5-gssapi-nec Compatibility with NEC SOCKS5 server -Y, --speed-limit RATE Stop transfers below speed-limit for 'speed-time' secs -y, --speed-time SECONDS Time for trig speed-limit abort. Defaults to 30 --ssl Try SSL/TLS (FTP, IMAP, POP3, SMTP) --ssl-reqd Require SSL/TLS (FTP, IMAP, POP3, SMTP) -2, --sslv2 Use SSLv2 (SSL) -3, --sslv3 Use SSLv3 (SSL) --ssl-allow-beast Allow security flaw to improve interop (SSL) --stderr FILE Where to redirect stderr. - means stdout --tcp-nodelay Use the TCP_NODELAY option -t, --telnet-option OPT=VAL Set telnet option --tftp-blksize VALUE Set TFTP BLKSIZE option (must be >512) -z, --time-cond TIME Transfer based on a time condition -1, --tlsv1 Use TLSv1 (SSL) --trace FILE Write a debug trace to the given file --trace-ascii FILE Like --trace but without the hex output --trace-time Add time stamps to trace/verbose output --tr-encoding Request compressed transfer encoding (H) -T, --upload-file FILE Transfer FILE to destination --url URL URL to work with -B, --use-ascii Use ASCII/text transfer -u, --user USER[:PASSWORD] Server user and password --tlsuser USER TLS username --tlspassword STRING TLS password --tlsauthtype STRING TLS authentication type (default SRP) -A, --user-agent STRING User-Agent to send to server (H) -v, --verbose Make the operation more talkative -V, --version Show version number and quit -w, --write-out FORMAT What to output after completion --xattr Store metadata in extended file attributes -q If used as the first parameter disables .curlrc
ちなみに、対応しているプロトコル一覧:
DICT FILE FTP FTPS GOPHER HTTP HTTPS IMAP(S) LDAP(S) POP3(S) RTMP RTSP SCP SFTP SMTP(S) 他
基本
URLの内容を表示
curl www.example.com
<!doctype html>
<html>
<head>
<title>Example Domain</title>
<meta charset="utf-8" />
<meta http-equiv="Content-type" content="text/html; charset=utf-8" />
<meta name="viewport" content="width=device-width, initial-scale=1" />
<style type="text/css">
body {
background-color: #f0f0f2;
margin: 0;
padding: 0;
font-family: "Open Sans", "Helvetica Neue", Helvetica, Arial, sans-serif;
}
/* ... */
</style>
</head>
</html>
wgetと異なり、ダウンロードせず表示するだけです。(このおかげで可能なことが多い)
ダウンロード
www,example.com の index.html をダウンロードする
curl -O http://www.example.com/index.html
別名でダウンロードするにはこうする。
curl http://www.example.com/index.html -o example-index.html
ダウンロードして解凍するときはこう。
curl -O http://atmarksharp.github.io/etc/test.zip
unzip -xq test.zip
応用:リモート操作
インストール
> GVM(Groovyインストールマネージャー)のインストール
curl -s get.gvmtool.net | bash
> HomeBrew(Mac)のインストール
ruby -e "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/master/install)"
> RVMでRubyをインストール
curl -sSL https://get.rvm.io | bash -s stable --ruby
WebAPIを使う
SimpleAPI経由でWikipediaの記事を取得する
コマンド:
curl -i "http://wikipedia.simpleapi.net/api?keyword=TCP/IP"
結果:
<?xml version="1.0" encoding="UTF-8"?>
<results>
<result>
<language>ja</language>
<id>1438</id>
<url>http://wikipedia.simpleapi.net/ja/1438/</url>
<title>TCP/IP</title>
<body>TCP/IP(ティーシーピーアイピー) ”Transmission Control Protocol / Internet Protocol” は、インターネット等で使われている基本的な通信プロトコル群の複合呼称である。<br/>本来、プロトコルとしてTransmission Control Protocol TCPとInternet Protocol IPは独立した存在であるが、2つを組み合わせた使用方法がデファクトスタンダード 事実上の標準であるため、組み合わせた呼称として、プロトコル群を示す半固有名詞化している。プロトコル群として、どこまでを含めるかは諸説あり明確な定義はない。<br/>プロトコルとして狭義の意味で正確に表記すれば、「ネットワーク層にInternet Protocol IPを使ったTransmission Control Protocol TCP」となる。<br/></body>
<length>3020</length>
<redirect>0</redirect>
<strict>1</strict>
<datetime>2006-09-27T11:25:31+09:00</datetime>
</result>
<result>
<language>ja</language>
<id>7655</id>
<url>http://wikipedia.simpleapi.net/ja/7655/</url>
<title>TCP/IP通信</title>
<body>『TCP/IP』より : TCP/IP(ティーシーピーアイピー) ”Transmission Control Protocol / Internet Protocol” は、インターネット等で使われている基本的な通信プロトコル群の複合呼称である。<br/>本来、プロトコルとしてTransmission Control Protocol TCPとInternet Protocol IPは独立した存在であるが、2つを組み合わせた使用方法がデファクトスタンダード 事実上の標準であるため、組み合わせた呼称として、プロトコル群を示す半固有名詞化している。プロトコル群として、どこまでを含めるかは諸説あり明確な定義はない。<br/>プロトコルとして狭義の意味で正確に表記すれば、「ネットワーク層にInternet Protocol IPを使ったTransmission Control Protocol TCP」となる。<br/></body>
<length>3020</length>
<redirect>1</redirect>
<strict>0</strict>
<datetime>2003-05-03T03:26:34+09:00</datetime>
</result>
</results>
SimpleAPIには接続制限があるので注意しましょう。
これを応用すると、TwitterやFacebookのAPIにもアクセスできます。
SimpleAPI経由で、座標中心の画像を取得する
コマンド:
curl "http://map.simpleapi.net/stationmap?x=139.7527&y=35.7048" -o map.gif
open map.gif # Macの場合
結果:
Gmailからメール送信
(http://blog.sarabande.jp/post/88910085203 から引用)
かなりマニアックな使い方ですが、実際に使えます。
最新のCurlを使うことをオススメします。
mail.txt:
From: "(YOUR_NAME)" To: "(TO_NAME)" Subject: Hello from Curl Hello, World!
コマンド:
curl --url "smtps://smtp.gmail.com:465" --ssl-reqd --mail-from "(FROM)@gmail.com" --mail-rcpt "(TO)@gmail.com" --upload-file mail.txt --user "(YOUR)@gmail.com:(PASSWORD)" --insecure -v
結果:
ちゃんとメールが返って来ました!凄い!
GitHubのラベルを設定
(http://www.captaincodeman.com/2012/03/07/creating-labels-github-issue-system/ より引用)
コマンド
curl -k -u "(username):(password)" -d "{\"name\":\"(LabelName)\",\"color\":\"2d9e11\"}" https://api.github.com/repos/<username>/<repository>/labels
結果
ラベルの追加はGitHubの設定でも出来ますが、気軽に追加したい方は是非。
まとめ
Curl (cURL) は奥が深いので本当に様々なことに利用できます。
回線のスピードテストを行うこともできるので、是非試してみてください。
モダンWeb ―新しいWebプラットフォームの基盤技術
posted with amazlet at 14.09.20
Peter Gasston
オライリージャパン
売り上げランキング: 1,205
オライリージャパン
売り上げランキング: 1,205