src/net/http/client_test.go

   1 // Copyright 2009 The Go Authors. All rights reserved.
   2 // Use of this source code is governed by a BSD-style
   3 // license that can be found in the LICENSE file.
   4
   5 // Tests for client.go
   6
   7 package http_test
   8
   9 import (
  10         "bytes"
  11         "context"
  12         "crypto/tls"
  13         "crypto/x509"
  14         "encoding/base64"
  15         "errors"
  16         "fmt"
  17         "io"
  18         "io/ioutil"
  19         "log"
  20         "net"
  21         . "net/http"
  22         "net/http/httptest"
  23         "net/url"
  24         "strconv"
  25         "strings"
  26         "sync"
  27         "testing"
  28         "time"
  29 )
  30
  31 var robotsTxtHandler = HandlerFunc(func(w ResponseWriter, r *Request) {
  32         w.Header().Set("Last-Modified", "sometime")
  33         fmt.Fprintf(w, "User-agent: go\nDisallow: /something/")
  34 })
  35
  36 // pedanticReadAll works like ioutil.ReadAll but additionally
  37 // verifies that r obeys the documented io.Reader contract.
  38 func pedanticReadAll(r io.Reader) (b []byte, err error) {
  39         var bufa [64]byte
  40         buf := bufa[:]
  41         for {
  42                 n, err := r.Read(buf)
  43                 if n == 0 && err == nil {
  44                         return nil, fmt.Errorf("Read: n=0 with err=nil")
  45                 }
  46                 b = append(b, buf[:n]...)
  47                 if err == io.EOF {
  48                         n, err := r.Read(buf)
  49                         if n != 0 || err != io.EOF {
  50                                 return nil, fmt.Errorf("Read: n=%d err=%#v after EOF", n, err)
  51                         }
  52                         return b, nil
  53                 }
  54                 if err != nil {
  55                         return b, err
  56                 }
  57         }
  58 }
  59
  60 type chanWriter chan string
  61
  62 func (w chanWriter) Write(p []byte) (n int, err error) {
  63         w <- string(p)
  64         return len(p), nil
  65 }
  66
  67 func TestClient(t *testing.T) {
  68         defer afterTest(t)
  69         ts := httptest.NewServer(robotsTxtHandler)
  70         defer ts.Close()
  71
  72         r, err := Get(ts.URL)
  73         var b []byte
  74         if err == nil {
  75                 b, err = pedanticReadAll(r.Body)
  76                 r.Body.Close()
  77         }
  78         if err != nil {
  79                 t.Error(err)
  80         } else if s := string(b); !strings.HasPrefix(s, "User-agent:") {
  81                 t.Errorf("Incorrect page body (did not begin with User-agent): %q", s)
  82         }
  83 }
  84
  85 func TestClientHead_h1(t *testing.T) { testClientHead(t, h1Mode) }
  86 func TestClientHead_h2(t *testing.T) { testClientHead(t, h2Mode) }
  87
  88 func testClientHead(t *testing.T, h2 bool) {
  89         defer afterTest(t)
  90         cst := newClientServerTest(t, h2, robotsTxtHandler)
  91         defer cst.close()
  92
  93         r, err := cst.c.Head(cst.ts.URL)
  94         if err != nil {
  95                 t.Fatal(err)
  96         }
  97         if _, ok := r.Header["Last-Modified"]; !ok {
  98                 t.Error("Last-Modified header not found.")
  99         }
 100 }
 101
 102 type recordingTransport struct {
 103         req *Request
 104 }
 105
 106 func (t *recordingTransport) RoundTrip(req *Request) (resp *Response, err error) {
 107         t.req = req
 108         return nil, errors.New("dummy impl")
 109 }
 110
 111 func TestGetRequestFormat(t *testing.T) {
 112         defer afterTest(t)
 113         tr := &recordingTransport{}
 114         client := &Client{Transport: tr}
 115         url := "http://dummy.faketld/"
 116         client.Get(url) // Note: doesn't hit network
 117         if tr.req.Method != "GET" {
 118                 t.Errorf("expected method %q; got %q", "GET", tr.req.Method)
 119         }
 120         if tr.req.URL.String() != url {
 121                 t.Errorf("expected URL %q; got %q", url, tr.req.URL.String())
 122         }
 123         if tr.req.Header == nil {
 124                 t.Errorf("expected non-nil request Header")
 125         }
 126 }
 127
 128 func TestPostRequestFormat(t *testing.T) {
 129         defer afterTest(t)
 130         tr := &recordingTransport{}
 131         client := &Client{Transport: tr}
 132
 133         url := "http://dummy.faketld/"
 134         json := `{"key":"value"}`
 135         b := strings.NewReader(json)
 136         client.Post(url, "application/json", b) // Note: doesn't hit network
 137
 138         if tr.req.Method != "POST" {
 139                 t.Errorf("got method %q, want %q", tr.req.Method, "POST")
 140         }
 141         if tr.req.URL.String() != url {
 142                 t.Errorf("got URL %q, want %q", tr.req.URL.String(), url)
 143         }
 144         if tr.req.Header == nil {
 145                 t.Fatalf("expected non-nil request Header")
 146         }
 147         if tr.req.Close {
 148                 t.Error("got Close true, want false")
 149         }
 150         if g, e := tr.req.ContentLength, int64(len(json)); g != e {
 151                 t.Errorf("got ContentLength %d, want %d", g, e)
 152         }
 153 }
 154
 155 func TestPostFormRequestFormat(t *testing.T) {
 156         defer afterTest(t)
 157         tr := &recordingTransport{}
 158         client := &Client{Transport: tr}
 159
 160         urlStr := "http://dummy.faketld/"
 161         form := make(url.Values)
 162         form.Set("foo", "bar")
 163         form.Add("foo", "bar2")
 164         form.Set("bar", "baz")
 165         client.PostForm(urlStr, form) // Note: doesn't hit network
 166
 167         if tr.req.Method != "POST" {
 168                 t.Errorf("got method %q, want %q", tr.req.Method, "POST")
 169         }
 170         if tr.req.URL.String() != urlStr {
 171                 t.Errorf("got URL %q, want %q", tr.req.URL.String(), urlStr)
 172         }
 173         if tr.req.Header == nil {
 174                 t.Fatalf("expected non-nil request Header")
 175         }
 176         if g, e := tr.req.Header.Get("Content-Type"), "application/x-www-form-urlencoded"; g != e {
 177                 t.Errorf("got Content-Type %q, want %q", g, e)
 178         }
 179         if tr.req.Close {
 180                 t.Error("got Close true, want false")
 181         }
 182         // Depending on map iteration, body can be either of these.
 183         expectedBody := "foo=bar&foo=bar2&bar=baz"
 184         expectedBody1 := "bar=baz&foo=bar&foo=bar2"
 185         if g, e := tr.req.ContentLength, int64(len(expectedBody)); g != e {
 186                 t.Errorf("got ContentLength %d, want %d", g, e)
 187         }
 188         bodyb, err := ioutil.ReadAll(tr.req.Body)
 189         if err != nil {
 190                 t.Fatalf("ReadAll on req.Body: %v", err)
 191         }
 192         if g := string(bodyb); g != expectedBody && g != expectedBody1 {
 193                 t.Errorf("got body %q, want %q or %q", g, expectedBody, expectedBody1)
 194         }
 195 }
 196
 197 func TestClientRedirects(t *testing.T) {
 198         defer afterTest(t)
 199         var ts *httptest.Server
 200         ts = httptest.NewServer(HandlerFunc(func(w ResponseWriter, r *Request) {
 201                 n, _ := strconv.Atoi(r.FormValue("n"))
 202                 // Test Referer header. (7 is arbitrary position to test at)
 203                 if n == 7 {
 204                         if g, e := r.Referer(), ts.URL+"/?n=6"; e != g {
 205                                 t.Errorf("on request ?n=7, expected referer of %q; got %q", e, g)
 206                         }
 207                 }
 208                 if n < 15 {
 209                         Redirect(w, r, fmt.Sprintf("/?n=%d", n+1), StatusFound)
 210                         return
 211                 }
 212                 fmt.Fprintf(w, "n=%d", n)
 213         }))
 214         defer ts.Close()
 215
 216         c := &Client{}
 217         _, err := c.Get(ts.URL)
 218         if e, g := "Get /?n=10: stopped after 10 redirects", fmt.Sprintf("%v", err); e != g {
 219                 t.Errorf("with default client Get, expected error %q, got %q", e, g)
 220         }
 221
 222         // HEAD request should also have the ability to follow redirects.
 223         _, err = c.Head(ts.URL)
 224         if e, g := "Head /?n=10: stopped after 10 redirects", fmt.Sprintf("%v", err); e != g {
 225                 t.Errorf("with default client Head, expected error %q, got %q", e, g)
 226         }
 227
 228         // Do should also follow redirects.
 229         greq, _ := NewRequest("GET", ts.URL, nil)
 230         _, err = c.Do(greq)
 231         if e, g := "Get /?n=10: stopped after 10 redirects", fmt.Sprintf("%v", err); e != g {
 232                 t.Errorf("with default client Do, expected error %q, got %q", e, g)
 233         }
 234
 235         // Requests with an empty Method should also redirect (Issue 12705)
 236         greq.Method = ""
 237         _, err = c.Do(greq)
 238         if e, g := "Get /?n=10: stopped after 10 redirects", fmt.Sprintf("%v", err); e != g {
 239                 t.Errorf("with default client Do and empty Method, expected error %q, got %q", e, g)
 240         }
 241
 242         var checkErr error
 243         var lastVia []*Request
 244         var lastReq *Request
 245         c = &Client{CheckRedirect: func(req *Request, via []*Request) error {
 246                 lastReq = req
 247                 lastVia = via
 248                 return checkErr
 249         }}
 250         res, err := c.Get(ts.URL)
 251         if err != nil {
 252                 t.Fatalf("Get error: %v", err)
 253         }
 254         res.Body.Close()
 255         finalUrl := res.Request.URL.String()
 256         if e, g := "<nil>", fmt.Sprintf("%v", err); e != g {
 257                 t.Errorf("with custom client, expected error %q, got %q", e, g)
 258         }
 259         if !strings.HasSuffix(finalUrl, "/?n=15") {
 260                 t.Errorf("expected final url to end in /?n=15; got url %q", finalUrl)
 261         }
 262         if e, g := 15, len(lastVia); e != g {
 263                 t.Errorf("expected lastVia to have contained %d elements; got %d", e, g)
 264         }
 265
 266         // Test that Request.Cancel is propagated between requests (Issue 14053)
 267         creq, _ := NewRequest("HEAD", ts.URL, nil)
 268         cancel := make(chan struct{})
 269         creq.Cancel = cancel
 270         if _, err := c.Do(creq); err != nil {
 271                 t.Fatal(err)
 272         }
 273         if lastReq == nil {
 274                 t.Fatal("didn't see redirect")
 275         }
 276         if lastReq.Cancel != cancel {
 277                 t.Errorf("expected lastReq to have the cancel channel set on the initial req")
 278         }
 279
 280         checkErr = errors.New("no redirects allowed")
 281         res, err = c.Get(ts.URL)
 282         if urlError, ok := err.(*url.Error); !ok || urlError.Err != checkErr {
 283                 t.Errorf("with redirects forbidden, expected a *url.Error with our 'no redirects allowed' error inside; got %#v (%q)", err, err)
 284         }
 285         if res == nil {
 286                 t.Fatalf("Expected a non-nil Response on CheckRedirect failure (https://golang.org/issue/3795)")
 287         }
 288         res.Body.Close()
 289         if res.Header.Get("Location") == "" {
 290                 t.Errorf("no Location header in Response")
 291         }
 292 }
 293
 294 func TestClientRedirectContext(t *testing.T) {
 295         defer afterTest(t)
 296         ts := httptest.NewServer(HandlerFunc(func(w ResponseWriter, r *Request) {
 297                 Redirect(w, r, "/", StatusFound)
 298         }))
 299         defer ts.Close()
 300
 301         ctx, cancel := context.WithCancel(context.Background())
 302         c := &Client{CheckRedirect: func(req *Request, via []*Request) error {
 303                 cancel()
 304                 if len(via) > 2 {
 305                         return errors.New("too many redirects")
 306                 }
 307                 return nil
 308         }}
 309         req, _ := NewRequest("GET", ts.URL, nil)
 310         req = req.WithContext(ctx)
 311         _, err := c.Do(req)
 312         ue, ok := err.(*url.Error)
 313         if !ok {
 314                 t.Fatalf("got error %T; want *url.Error", err)
 315         }
 316         if ue.Err != ExportErrRequestCanceled && ue.Err != ExportErrRequestCanceledConn {
 317                 t.Errorf("url.Error.Err = %v; want errRequestCanceled or errRequestCanceledConn", ue.Err)
 318         }
 319 }
 320
 321 func TestPostRedirects(t *testing.T) {
 322         defer afterTest(t)
 323         var log struct {
 324                 sync.Mutex
 325                 bytes.Buffer
 326         }
 327         var ts *httptest.Server
 328         ts = httptest.NewServer(HandlerFunc(func(w ResponseWriter, r *Request) {
 329                 log.Lock()
 330                 fmt.Fprintf(&log.Buffer, "%s %s ", r.Method, r.RequestURI)
 331                 log.Unlock()
 332                 if v := r.URL.Query().Get("code"); v != "" {
 333                         code, _ := strconv.Atoi(v)
 334                         if code/100 == 3 {
 335                                 w.Header().Set("Location", ts.URL)
 336                         }
 337                         w.WriteHeader(code)
 338                 }
 339         }))
 340         defer ts.Close()
 341         tests := []struct {
 342                 suffix string
 343                 want   int // response code
 344         }{
 345                 {"/", 200},
 346                 {"/?code=301", 301},
 347                 {"/?code=302", 200},
 348                 {"/?code=303", 200},
 349                 {"/?code=404", 404},
 350         }
 351         for _, tt := range tests {
 352                 res, err := Post(ts.URL+tt.suffix, "text/plain", strings.NewReader("Some content"))
 353                 if err != nil {
 354                         t.Fatal(err)
 355                 }
 356                 if res.StatusCode != tt.want {
 357                         t.Errorf("POST %s: status code = %d; want %d", tt.suffix, res.StatusCode, tt.want)
 358                 }
 359         }
 360         log.Lock()
 361         got := log.String()
 362         log.Unlock()
 363         want := "POST / POST /?code=301 POST /?code=302 GET / POST /?code=303 GET / POST /?code=404 "
 364         if got != want {
 365                 t.Errorf("Log differs.\n Got: %q\nWant: %q", got, want)
 366         }
 367 }
 368
 369 var expectedCookies = []*Cookie{
 370         {Name: "ChocolateChip", Value: "tasty"},
 371         {Name: "First", Value: "Hit"},
 372         {Name: "Second", Value: "Hit"},
 373 }
 374
 375 var echoCookiesRedirectHandler = HandlerFunc(func(w ResponseWriter, r *Request) {
 376         for _, cookie := range r.Cookies() {
 377                 SetCookie(w, cookie)
 378         }
 379         if r.URL.Path == "/" {
 380                 SetCookie(w, expectedCookies[1])
 381                 Redirect(w, r, "/second", StatusMovedPermanently)
 382         } else {
 383                 SetCookie(w, expectedCookies[2])
 384                 w.Write([]byte("hello"))
 385         }
 386 })
 387
 388 func TestClientSendsCookieFromJar(t *testing.T) {
 389         defer afterTest(t)
 390         tr := &recordingTransport{}
 391         client := &Client{Transport: tr}
 392         client.Jar = &TestJar{perURL: make(map[string][]*Cookie)}
 393         us := "http://dummy.faketld/"
 394         u, _ := url.Parse(us)
 395         client.Jar.SetCookies(u, expectedCookies)
 396
 397         client.Get(us) // Note: doesn't hit network
 398         matchReturnedCookies(t, expectedCookies, tr.req.Cookies())
 399
 400         client.Head(us) // Note: doesn't hit network
 401         matchReturnedCookies(t, expectedCookies, tr.req.Cookies())
 402
 403         client.Post(us, "text/plain", strings.NewReader("body")) // Note: doesn't hit network
 404         matchReturnedCookies(t, expectedCookies, tr.req.Cookies())
 405
 406         client.PostForm(us, url.Values{}) // Note: doesn't hit network
 407         matchReturnedCookies(t, expectedCookies, tr.req.Cookies())
 408
 409         req, _ := NewRequest("GET", us, nil)
 410         client.Do(req) // Note: doesn't hit network
 411         matchReturnedCookies(t, expectedCookies, tr.req.Cookies())
 412
 413         req, _ = NewRequest("POST", us, nil)
 414         client.Do(req) // Note: doesn't hit network
 415         matchReturnedCookies(t, expectedCookies, tr.req.Cookies())
 416 }
 417
 418 // Just enough correctness for our redirect tests. Uses the URL.Host as the
 419 // scope of all cookies.
 420 type TestJar struct {
 421         m      sync.Mutex
 422         perURL map[string][]*Cookie
 423 }
 424
 425 func (j *TestJar) SetCookies(u *url.URL, cookies []*Cookie) {
 426         j.m.Lock()
 427         defer j.m.Unlock()
 428         if j.perURL == nil {
 429                 j.perURL = make(map[string][]*Cookie)
 430         }
 431         j.perURL[u.Host] = cookies
 432 }
 433
 434 func (j *TestJar) Cookies(u *url.URL) []*Cookie {
 435         j.m.Lock()
 436         defer j.m.Unlock()
 437         return j.perURL[u.Host]
 438 }
 439
 440 func TestRedirectCookiesJar(t *testing.T) {
 441         defer afterTest(t)
 442         var ts *httptest.Server
 443         ts = httptest.NewServer(echoCookiesRedirectHandler)
 444         defer ts.Close()
 445         c := &Client{
 446                 Jar: new(TestJar),
 447         }
 448         u, _ := url.Parse(ts.URL)
 449         c.Jar.SetCookies(u, []*Cookie{expectedCookies[0]})
 450         resp, err := c.Get(ts.URL)
 451         if err != nil {
 452                 t.Fatalf("Get: %v", err)
 453         }
 454         resp.Body.Close()
 455         matchReturnedCookies(t, expectedCookies, resp.Cookies())
 456 }
 457
 458 func matchReturnedCookies(t *testing.T, expected, given []*Cookie) {
 459         if len(given) != len(expected) {
 460                 t.Logf("Received cookies: %v", given)
 461                 t.Errorf("Expected %d cookies, got %d", len(expected), len(given))
 462         }
 463         for _, ec := range expected {
 464                 foundC := false
 465                 for _, c := range given {
 466                         if ec.Name == c.Name && ec.Value == c.Value {
 467                                 foundC = true
 468                                 break
 469                         }
 470                 }
 471                 if !foundC {
 472                         t.Errorf("Missing cookie %v", ec)
 473                 }
 474         }
 475 }
 476
 477 func TestJarCalls(t *testing.T) {
 478         defer afterTest(t)
 479         ts := httptest.NewServer(HandlerFunc(func(w ResponseWriter, r *Request) {
 480                 pathSuffix := r.RequestURI[1:]
 481                 if r.RequestURI == "/nosetcookie" {
 482                         return // don't set cookies for this path
 483                 }
 484                 SetCookie(w, &Cookie{Name: "name" + pathSuffix, Value: "val" + pathSuffix})
 485                 if r.RequestURI == "/" {
 486                         Redirect(w, r, "http://secondhost.fake/secondpath", 302)
 487                 }
 488         }))
 489         defer ts.Close()
 490         jar := new(RecordingJar)
 491         c := &Client{
 492                 Jar: jar,
 493                 Transport: &Transport{
 494                         Dial: func(_ string, _ string) (net.Conn, error) {
 495                                 return net.Dial("tcp", ts.Listener.Addr().String())
 496                         },
 497                 },
 498         }
 499         _, err := c.Get("http://firsthost.fake/")
 500         if err != nil {
 501                 t.Fatal(err)
 502         }
 503         _, err = c.Get("http://firsthost.fake/nosetcookie")
 504         if err != nil {
 505                 t.Fatal(err)
 506         }
 507         got := jar.log.String()
 508         want := `Cookies("http://firsthost.fake/")
 509 SetCookie("http://firsthost.fake/", [name=val])
 510 Cookies("http://secondhost.fake/secondpath")
 511 SetCookie("http://secondhost.fake/secondpath", [namesecondpath=valsecondpath])
 512 Cookies("http://firsthost.fake/nosetcookie")
 513 `
 514         if got != want {
 515                 t.Errorf("Got Jar calls:\n%s\nWant:\n%s", got, want)
 516         }
 517 }
 518
 519 // RecordingJar keeps a log of calls made to it, without
 520 // tracking any cookies.
 521 type RecordingJar struct {
 522         mu  sync.Mutex
 523         log bytes.Buffer
 524 }
 525
 526 func (j *RecordingJar) SetCookies(u *url.URL, cookies []*Cookie) {
 527         j.logf("SetCookie(%q, %v)\n", u, cookies)
 528 }
 529
 530 func (j *RecordingJar) Cookies(u *url.URL) []*Cookie {
 531         j.logf("Cookies(%q)\n", u)
 532         return nil
 533 }
 534
 535 func (j *RecordingJar) logf(format string, args ...interface{}) {
 536         j.mu.Lock()
 537         defer j.mu.Unlock()
 538         fmt.Fprintf(&j.log, format, args...)
 539 }
 540
 541 func TestStreamingGet_h1(t *testing.T) { testStreamingGet(t, h1Mode) }
 542 func TestStreamingGet_h2(t *testing.T) { testStreamingGet(t, h2Mode) }
 543
 544 func testStreamingGet(t *testing.T, h2 bool) {
 545         defer afterTest(t)
 546         say := make(chan string)
 547         cst := newClientServerTest(t, h2, HandlerFunc(func(w ResponseWriter, r *Request) {
 548                 w.(Flusher).Flush()
 549                 for str := range say {
 550                         w.Write([]byte(str))
 551                         w.(Flusher).Flush()
 552                 }
 553         }))
 554         defer cst.close()
 555
 556         c := cst.c
 557         res, err := c.Get(cst.ts.URL)
 558         if err != nil {
 559                 t.Fatal(err)
 560         }
 561         var buf [10]byte
 562         for _, str := range []string{"i", "am", "also", "known", "as", "comet"} {
 563                 say <- str
 564                 n, err := io.ReadFull(res.Body, buf[0:len(str)])
 565                 if err != nil {
 566                         t.Fatalf("ReadFull on %q: %v", str, err)
 567                 }
 568                 if n != len(str) {
 569                         t.Fatalf("Receiving %q, only read %d bytes", str, n)
 570                 }
 571                 got := string(buf[0:n])
 572                 if got != str {
 573                         t.Fatalf("Expected %q, got %q", str, got)
 574                 }
 575         }
 576         close(say)
 577         _, err = io.ReadFull(res.Body, buf[0:1])
 578         if err != io.EOF {
 579                 t.Fatalf("at end expected EOF, got %v", err)
 580         }
 581 }
 582
 583 type writeCountingConn struct {
 584         net.Conn
 585         count *int
 586 }
 587
 588 func (c *writeCountingConn) Write(p []byte) (int, error) {
 589         *c.count++
 590         return c.Conn.Write(p)
 591 }
 592
 593 // TestClientWrites verifies that client requests are buffered and we
 594 // don't send a TCP packet per line of the http request + body.
 595 func TestClientWrites(t *testing.T) {
 596         defer afterTest(t)
 597         ts := httptest.NewServer(HandlerFunc(func(w ResponseWriter, r *Request) {
 598         }))
 599         defer ts.Close()
 600
 601         writes := 0
 602         dialer := func(netz string, addr string) (net.Conn, error) {
 603                 c, err := net.Dial(netz, addr)
 604                 if err == nil {
 605                         c = &writeCountingConn{c, &writes}
 606                 }
 607                 return c, err
 608         }
 609         c := &Client{Transport: &Transport{Dial: dialer}}
 610
 611         _, err := c.Get(ts.URL)
 612         if err != nil {
 613                 t.Fatal(err)
 614         }
 615         if writes != 1 {
 616                 t.Errorf("Get request did %d Write calls, want 1", writes)
 617         }
 618
 619         writes = 0
 620         _, err = c.PostForm(ts.URL, url.Values{"foo": {"bar"}})
 621         if err != nil {
 622                 t.Fatal(err)
 623         }
 624         if writes != 1 {
 625                 t.Errorf("Post request did %d Write calls, want 1", writes)
 626         }
 627 }
 628
 629 func TestClientInsecureTransport(t *testing.T) {
 630         defer afterTest(t)
 631         ts := httptest.NewTLSServer(HandlerFunc(func(w ResponseWriter, r *Request) {
 632                 w.Write([]byte("Hello"))
 633         }))
 634         errc := make(chanWriter, 10) // but only expecting 1
 635         ts.Config.ErrorLog = log.New(errc, "", 0)
 636         defer ts.Close()
 637
 638         // TODO(bradfitz): add tests for skipping hostname checks too?
 639         // would require a new cert for testing, and probably
 640         // redundant with these tests.
 641         for _, insecure := range []bool{true, false} {
 642                 tr := &Transport{
 643                         TLSClientConfig: &tls.Config{
 644                                 InsecureSkipVerify: insecure,
 645                         },
 646                 }
 647                 defer tr.CloseIdleConnections()
 648                 c := &Client{Transport: tr}
 649                 res, err := c.Get(ts.URL)
 650                 if (err == nil) != insecure {
 651                         t.Errorf("insecure=%v: got unexpected err=%v", insecure, err)
 652                 }
 653                 if res != nil {
 654                         res.Body.Close()
 655                 }
 656         }
 657
 658         select {
 659         case v := <-errc:
 660                 if !strings.Contains(v, "TLS handshake error") {
 661                         t.Errorf("expected an error log message containing 'TLS handshake error'; got %q", v)
 662                 }
 663         case <-time.After(5 * time.Second):
 664                 t.Errorf("timeout waiting for logged error")
 665         }
 666
 667 }
 668
 669 func TestClientErrorWithRequestURI(t *testing.T) {
 670         defer afterTest(t)
 671         req, _ := NewRequest("GET", "http://localhost:1234/", nil)
 672         req.RequestURI = "/this/field/is/illegal/and/should/error/"
 673         _, err := DefaultClient.Do(req)
 674         if err == nil {
 675                 t.Fatalf("expected an error")
 676         }
 677         if !strings.Contains(err.Error(), "RequestURI") {
 678                 t.Errorf("wanted error mentioning RequestURI; got error: %v", err)
 679         }
 680 }
 681
 682 func newTLSTransport(t *testing.T, ts *httptest.Server) *Transport {
 683         certs := x509.NewCertPool()
 684         for _, c := range ts.TLS.Certificates {
 685                 roots, err := x509.ParseCertificates(c.Certificate[len(c.Certificate)-1])
 686                 if err != nil {
 687                         t.Fatalf("error parsing server's root cert: %v", err)
 688                 }
 689                 for _, root := range roots {
 690                         certs.AddCert(root)
 691                 }
 692         }
 693         return &Transport{
 694                 TLSClientConfig: &tls.Config{RootCAs: certs},
 695         }
 696 }
 697
 698 func TestClientWithCorrectTLSServerName(t *testing.T) {
 699         defer afterTest(t)
 700
 701         const serverName = "example.com"
 702         ts := httptest.NewTLSServer(HandlerFunc(func(w ResponseWriter, r *Request) {
 703                 if r.TLS.ServerName != serverName {
 704                         t.Errorf("expected client to set ServerName %q, got: %q", serverName, r.TLS.ServerName)
 705                 }
 706         }))
 707         defer ts.Close()
 708
 709         trans := newTLSTransport(t, ts)
 710         trans.TLSClientConfig.ServerName = serverName
 711         c := &Client{Transport: trans}
 712         if _, err := c.Get(ts.URL); err != nil {
 713                 t.Fatalf("expected successful TLS connection, got error: %v", err)
 714         }
 715 }
 716
 717 func TestClientWithIncorrectTLSServerName(t *testing.T) {
 718         defer afterTest(t)
 719         ts := httptest.NewTLSServer(HandlerFunc(func(w ResponseWriter, r *Request) {}))
 720         defer ts.Close()
 721         errc := make(chanWriter, 10) // but only expecting 1
 722         ts.Config.ErrorLog = log.New(errc, "", 0)
 723
 724         trans := newTLSTransport(t, ts)
 725         trans.TLSClientConfig.ServerName = "badserver"
 726         c := &Client{Transport: trans}
 727         _, err := c.Get(ts.URL)
 728         if err == nil {
 729                 t.Fatalf("expected an error")
 730         }
 731         if !strings.Contains(err.Error(), "127.0.0.1") || !strings.Contains(err.Error(), "badserver") {
 732                 t.Errorf("wanted error mentioning 127.0.0.1 and badserver; got error: %v", err)
 733         }
 734         select {
 735         case v := <-errc:
 736                 if !strings.Contains(v, "TLS handshake error") {
 737                         t.Errorf("expected an error log message containing 'TLS handshake error'; got %q", v)
 738                 }
 739         case <-time.After(5 * time.Second):
 740                 t.Errorf("timeout waiting for logged error")
 741         }
 742 }
 743
 744 // Test for golang.org/issue/5829; the Transport should respect TLSClientConfig.ServerName
 745 // when not empty.
 746 //
 747 // tls.Config.ServerName (non-empty, set to "example.com") takes
 748 // precedence over "some-other-host.tld" which previously incorrectly
 749 // took precedence. We don't actually connect to (or even resolve)
 750 // "some-other-host.tld", though, because of the Transport.Dial hook.
 751 //
 752 // The httptest.Server has a cert with "example.com" as its name.
 753 func TestTransportUsesTLSConfigServerName(t *testing.T) {
 754         defer afterTest(t)
 755         ts := httptest.NewTLSServer(HandlerFunc(func(w ResponseWriter, r *Request) {
 756                 w.Write([]byte("Hello"))
 757         }))
 758         defer ts.Close()
 759
 760         tr := newTLSTransport(t, ts)
 761         tr.TLSClientConfig.ServerName = "example.com" // one of httptest's Server cert names
 762         tr.Dial = func(netw, addr string) (net.Conn, error) {
 763                 return net.Dial(netw, ts.Listener.Addr().String())
 764         }
 765         defer tr.CloseIdleConnections()
 766         c := &Client{Transport: tr}
 767         res, err := c.Get("https://some-other-host.tld/")
 768         if err != nil {
 769                 t.Fatal(err)
 770         }
 771         res.Body.Close()
 772 }
 773
 774 func TestResponseSetsTLSConnectionState(t *testing.T) {
 775         defer afterTest(t)
 776         ts := httptest.NewTLSServer(HandlerFunc(func(w ResponseWriter, r *Request) {
 777                 w.Write([]byte("Hello"))
 778         }))
 779         defer ts.Close()
 780
 781         tr := newTLSTransport(t, ts)
 782         tr.TLSClientConfig.CipherSuites = []uint16{tls.TLS_RSA_WITH_3DES_EDE_CBC_SHA}
 783         tr.Dial = func(netw, addr string) (net.Conn, error) {
 784                 return net.Dial(netw, ts.Listener.Addr().String())
 785         }
 786         defer tr.CloseIdleConnections()
 787         c := &Client{Transport: tr}
 788         res, err := c.Get("https://example.com/")
 789         if err != nil {
 790                 t.Fatal(err)
 791         }
 792         defer res.Body.Close()
 793         if res.TLS == nil {
 794                 t.Fatal("Response didn't set TLS Connection State.")
 795         }
 796         if got, want := res.TLS.CipherSuite, tls.TLS_RSA_WITH_3DES_EDE_CBC_SHA; got != want {
 797                 t.Errorf("TLS Cipher Suite = %d; want %d", got, want)
 798         }
 799 }
 800
 801 // Check that an HTTPS client can interpret a particular TLS error
 802 // to determine that the server is speaking HTTP.
 803 // See golang.org/issue/11111.
 804 func TestHTTPSClientDetectsHTTPServer(t *testing.T) {
 805         defer afterTest(t)
 806         ts := httptest.NewServer(HandlerFunc(func(w ResponseWriter, r *Request) {}))
 807         defer ts.Close()
 808
 809         _, err := Get(strings.Replace(ts.URL, "http", "https", 1))
 810         if got := err.Error(); !strings.Contains(got, "HTTP response to HTTPS client") {
 811                 t.Fatalf("error = %q; want error indicating HTTP response to HTTPS request", got)
 812         }
 813 }
 814
 815 // Verify Response.ContentLength is populated. https://golang.org/issue/4126
 816 func TestClientHeadContentLength_h1(t *testing.T) {
 817         testClientHeadContentLength(t, h1Mode)
 818 }
 819
 820 func TestClientHeadContentLength_h2(t *testing.T) {
 821         testClientHeadContentLength(t, h2Mode)
 822 }
 823
 824 func testClientHeadContentLength(t *testing.T, h2 bool) {
 825         defer afterTest(t)
 826         cst := newClientServerTest(t, h2, HandlerFunc(func(w ResponseWriter, r *Request) {
 827                 if v := r.FormValue("cl"); v != "" {
 828                         w.Header().Set("Content-Length", v)
 829                 }
 830         }))
 831         defer cst.close()
 832         tests := []struct {
 833                 suffix string
 834                 want   int64
 835         }{
 836                 {"/?cl=1234", 1234},
 837                 {"/?cl=0", 0},
 838                 {"", -1},
 839         }
 840         for _, tt := range tests {
 841                 req, _ := NewRequest("HEAD", cst.ts.URL+tt.suffix, nil)
 842                 res, err := cst.c.Do(req)
 843                 if err != nil {
 844                         t.Fatal(err)
 845                 }
 846                 if res.ContentLength != tt.want {
 847                         t.Errorf("Content-Length = %d; want %d", res.ContentLength, tt.want)
 848                 }
 849                 bs, err := ioutil.ReadAll(res.Body)
 850                 if err != nil {
 851                         t.Fatal(err)
 852                 }
 853                 if len(bs) != 0 {
 854                         t.Errorf("Unexpected content: %q", bs)
 855                 }
 856         }
 857 }
 858
 859 func TestEmptyPasswordAuth(t *testing.T) {
 860         defer afterTest(t)
 861         gopher := "gopher"
 862         ts := httptest.NewServer(HandlerFunc(func(w ResponseWriter, r *Request) {
 863                 auth := r.Header.Get("Authorization")
 864                 if strings.HasPrefix(auth, "Basic ") {
 865                         encoded := auth[6:]
 866                         decoded, err := base64.StdEncoding.DecodeString(encoded)
 867                         if err != nil {
 868                                 t.Fatal(err)
 869                         }
 870                         expected := gopher + ":"
 871                         s := string(decoded)
 872                         if expected != s {
 873                                 t.Errorf("Invalid Authorization header. Got %q, wanted %q", s, expected)
 874                         }
 875                 } else {
 876                         t.Errorf("Invalid auth %q", auth)
 877                 }
 878         }))
 879         defer ts.Close()
 880         c := &Client{}
 881         req, err := NewRequest("GET", ts.URL, nil)
 882         if err != nil {
 883                 t.Fatal(err)
 884         }
 885         req.URL.User = url.User(gopher)
 886         resp, err := c.Do(req)
 887         if err != nil {
 888                 t.Fatal(err)
 889         }
 890         defer resp.Body.Close()
 891 }
 892
 893 func TestBasicAuth(t *testing.T) {
 894         defer afterTest(t)
 895         tr := &recordingTransport{}
 896         client := &Client{Transport: tr}
 897
 898         url := "http://My%20User:My%20Pass@dummy.faketld/"
 899         expected := "My User:My Pass"
 900         client.Get(url)
 901
 902         if tr.req.Method != "GET" {
 903                 t.Errorf("got method %q, want %q", tr.req.Method, "GET")
 904         }
 905         if tr.req.URL.String() != url {
 906                 t.Errorf("got URL %q, want %q", tr.req.URL.String(), url)
 907         }
 908         if tr.req.Header == nil {
 909                 t.Fatalf("expected non-nil request Header")
 910         }
 911         auth := tr.req.Header.Get("Authorization")
 912         if strings.HasPrefix(auth, "Basic ") {
 913                 encoded := auth[6:]
 914                 decoded, err := base64.StdEncoding.DecodeString(encoded)
 915                 if err != nil {
 916                         t.Fatal(err)
 917                 }
 918                 s := string(decoded)
 919                 if expected != s {
 920                         t.Errorf("Invalid Authorization header. Got %q, wanted %q", s, expected)
 921                 }
 922         } else {
 923                 t.Errorf("Invalid auth %q", auth)
 924         }
 925 }
 926
 927 func TestBasicAuthHeadersPreserved(t *testing.T) {
 928         defer afterTest(t)
 929         tr := &recordingTransport{}
 930         client := &Client{Transport: tr}
 931
 932         // If Authorization header is provided, username in URL should not override it
 933         url := "http://My%20User@dummy.faketld/"
 934         req, err := NewRequest("GET", url, nil)
 935         if err != nil {
 936                 t.Fatal(err)
 937         }
 938         req.SetBasicAuth("My User", "My Pass")
 939         expected := "My User:My Pass"
 940         client.Do(req)
 941
 942         if tr.req.Method != "GET" {
 943                 t.Errorf("got method %q, want %q", tr.req.Method, "GET")
 944         }
 945         if tr.req.URL.String() != url {
 946                 t.Errorf("got URL %q, want %q", tr.req.URL.String(), url)
 947         }
 948         if tr.req.Header == nil {
 949                 t.Fatalf("expected non-nil request Header")
 950         }
 951         auth := tr.req.Header.Get("Authorization")
 952         if strings.HasPrefix(auth, "Basic ") {
 953                 encoded := auth[6:]
 954                 decoded, err := base64.StdEncoding.DecodeString(encoded)
 955                 if err != nil {
 956                         t.Fatal(err)
 957                 }
 958                 s := string(decoded)
 959                 if expected != s {
 960                         t.Errorf("Invalid Authorization header. Got %q, wanted %q", s, expected)
 961                 }
 962         } else {
 963                 t.Errorf("Invalid auth %q", auth)
 964         }
 965
 966 }
 967
 968 func TestClientTimeout_h1(t *testing.T) { testClientTimeout(t, h1Mode) }
 969 func TestClientTimeout_h2(t *testing.T) { testClientTimeout(t, h2Mode) }
 970
 971 func testClientTimeout(t *testing.T, h2 bool) {
 972         if testing.Short() {
 973                 t.Skip("skipping in short mode")
 974         }
 975         defer afterTest(t)
 976         sawRoot := make(chan bool, 1)
 977         sawSlow := make(chan bool, 1)
 978         cst := newClientServerTest(t, h2, HandlerFunc(func(w ResponseWriter, r *Request) {
 979                 if r.URL.Path == "/" {
 980                         sawRoot <- true
 981                         Redirect(w, r, "/slow", StatusFound)
 982                         return
 983                 }
 984                 if r.URL.Path == "/slow" {
 985                         w.Write([]byte("Hello"))
 986                         w.(Flusher).Flush()
 987                         sawSlow <- true
 988                         time.Sleep(2 * time.Second)
 989                         return
 990                 }
 991         }))
 992         defer cst.close()
 993         const timeout = 500 * time.Millisecond
 994         cst.c.Timeout = timeout
 995
 996         res, err := cst.c.Get(cst.ts.URL)
 997         if err != nil {
 998                 t.Fatal(err)
 999         }
1000
1001         select {
1002         case <-sawRoot:
1003                 // good.
1004         default:
1005                 t.Fatal("handler never got / request")
1006         }
1007
1008         select {
1009         case <-sawSlow:
1010                 // good.
1011         default:
1012                 t.Fatal("handler never got /slow request")
1013         }
1014
1015         errc := make(chan error, 1)
1016         go func() {
1017                 _, err := ioutil.ReadAll(res.Body)
1018                 errc <- err
1019                 res.Body.Close()
1020         }()
1021
1022         const failTime = timeout * 2
1023         select {
1024         case err := <-errc:
1025                 if err == nil {
1026                         t.Fatal("expected error from ReadAll")
1027                 }
1028                 ne, ok := err.(net.Error)
1029                 if !ok {
1030                         t.Errorf("error value from ReadAll was %T; expected some net.Error", err)
1031                 } else if !ne.Timeout() {
1032                         t.Errorf("net.Error.Timeout = false; want true")
1033                 }
1034                 if got := ne.Error(); !strings.Contains(got, "Client.Timeout exceeded") {
1035                         t.Errorf("error string = %q; missing timeout substring", got)
1036                 }
1037         case <-time.After(failTime):
1038                 t.Errorf("timeout after %v waiting for timeout of %v", failTime, timeout)
1039         }
1040 }
1041
1042 func TestClientTimeout_Headers_h1(t *testing.T) { testClientTimeout_Headers(t, h1Mode) }
1043 func TestClientTimeout_Headers_h2(t *testing.T) { testClientTimeout_Headers(t, h2Mode) }
1044
1045 // Client.Timeout firing before getting to the body
1046 func testClientTimeout_Headers(t *testing.T, h2 bool) {
1047         if testing.Short() {
1048                 t.Skip("skipping in short mode")
1049         }
1050         defer afterTest(t)
1051         donec := make(chan bool)
1052         cst := newClientServerTest(t, h2, HandlerFunc(func(w ResponseWriter, r *Request) {
1053                 <-donec
1054         }))
1055         defer cst.close()
1056         // Note that we use a channel send here and not a close.
1057         // The race detector doesn't know that we're waiting for a timeout
1058         // and thinks that the waitgroup inside httptest.Server is added to concurrently
1059         // with us closing it. If we timed out immediately, we could close the testserver
1060         // before we entered the handler. We're not timing out immediately and there's
1061         // no way we would be done before we entered the handler, but the race detector
1062         // doesn't know this, so synchronize explicitly.
1063         defer func() { donec <- true }()
1064
1065         cst.c.Timeout = 500 * time.Millisecond
1066         _, err := cst.c.Get(cst.ts.URL)
1067         if err == nil {
1068                 t.Fatal("got response from Get; expected error")
1069         }
1070         if _, ok := err.(*url.Error); !ok {
1071                 t.Fatalf("Got error of type %T; want *url.Error", err)
1072         }
1073         ne, ok := err.(net.Error)
1074         if !ok {
1075                 t.Fatalf("Got error of type %T; want some net.Error", err)
1076         }
1077         if !ne.Timeout() {
1078                 t.Error("net.Error.Timeout = false; want true")
1079         }
1080         if got := ne.Error(); !strings.Contains(got, "Client.Timeout exceeded") {
1081                 t.Errorf("error string = %q; missing timeout substring", got)
1082         }
1083 }
1084
1085 func TestClientRedirectEatsBody_h1(t *testing.T) { testClientRedirectEatsBody(t, h1Mode) }
1086 func TestClientRedirectEatsBody_h2(t *testing.T) { testClientRedirectEatsBody(t, h2Mode) }
1087 func testClientRedirectEatsBody(t *testing.T, h2 bool) {
1088         defer afterTest(t)
1089         saw := make(chan string, 2)
1090         cst := newClientServerTest(t, h2, HandlerFunc(func(w ResponseWriter, r *Request) {
1091                 saw <- r.RemoteAddr
1092                 if r.URL.Path == "/" {
1093                         Redirect(w, r, "/foo", StatusFound) // which includes a body
1094                 }
1095         }))
1096         defer cst.close()
1097
1098         res, err := cst.c.Get(cst.ts.URL)
1099         if err != nil {
1100                 t.Fatal(err)
1101         }
1102         _, err = ioutil.ReadAll(res.Body)
1103         if err != nil {
1104                 t.Fatal(err)
1105         }
1106         res.Body.Close()
1107
1108         var first string
1109         select {
1110         case first = <-saw:
1111         default:
1112                 t.Fatal("server didn't see a request")
1113         }
1114
1115         var second string
1116         select {
1117         case second = <-saw:
1118         default:
1119                 t.Fatal("server didn't see a second request")
1120         }
1121
1122         if first != second {
1123                 t.Fatal("server saw different client ports before & after the redirect")
1124         }
1125 }
1126
1127 // eofReaderFunc is an io.Reader that runs itself, and then returns io.EOF.
1128 type eofReaderFunc func()
1129
1130 func (f eofReaderFunc) Read(p []byte) (n int, err error) {
1131         f()
1132         return 0, io.EOF
1133 }
1134
1135 func TestReferer(t *testing.T) {
1136         tests := []struct {
1137                 lastReq, newReq string // from -> to URLs
1138                 want            string
1139         }{
1140                 // don't send user:
1141                 {"http://gopher@test.com", "http://link.com", "http://test.com"},
1142                 {"https://gopher@test.com", "https://link.com", "https://test.com"},
1143
1144                 // don't send a user and password:
1145                 {"http://gopher:go@test.com", "http://link.com", "http://test.com"},
1146                 {"https://gopher:go@test.com", "https://link.com", "https://test.com"},
1147
1148                 // nothing to do:
1149                 {"http://test.com", "http://link.com", "http://test.com"},
1150                 {"https://test.com", "https://link.com", "https://test.com"},
1151
1152                 // https to http doesn't send a referer:
1153                 {"https://test.com", "http://link.com", ""},
1154                 {"https://gopher:go@test.com", "http://link.com", ""},
1155         }
1156         for _, tt := range tests {
1157                 l, err := url.Parse(tt.lastReq)
1158                 if err != nil {
1159                         t.Fatal(err)
1160                 }
1161                 n, err := url.Parse(tt.newReq)
1162                 if err != nil {
1163                         t.Fatal(err)
1164                 }
1165                 r := ExportRefererForURL(l, n)
1166                 if r != tt.want {
1167                         t.Errorf("refererForURL(%q, %q) = %q; want %q", tt.lastReq, tt.newReq, r, tt.want)
1168                 }
1169         }
1170 }