src/internal/zstd/zstd_test.go

   1 // Copyright 2023 The Go Authors. All rights reserved.
   2 // Use of this source code is governed by a BSD-style
   3 // license that can be found in the LICENSE file.
   4
   5 package zstd
   6
   7 import (
   8         "bytes"
   9         "crypto/sha256"
  10         "fmt"
  11         "internal/race"
  12         "internal/testenv"
  13         "io"
  14         "os"
  15         "os/exec"
  16         "path/filepath"
  17         "strings"
  18         "sync"
  19         "testing"
  20 )
  21
  22 // tests holds some simple test cases, including some found by fuzzing.
  23 var tests = []struct {
  24         name, uncompressed, compressed string
  25 }{
  26         {
  27                 "hello",
  28                 "hello, world\n",
  29                 "\x28\xb5\x2f\xfd\x24\x0d\x69\x00\x00\x68\x65\x6c\x6c\x6f\x2c\x20\x77\x6f\x72\x6c\x64\x0a\x4c\x1f\xf9\xf1",
  30         },
  31         {
  32                 // a small compressed .debug_ranges section.
  33                 "ranges",
  34                 "\xcc\x11\x00\x00\x00\x00\x00\x00\xd5\x13\x00\x00\x00\x00\x00\x00" +
  35                         "\x1c\x14\x00\x00\x00\x00\x00\x00\x72\x14\x00\x00\x00\x00\x00\x00" +
  36                         "\x9d\x14\x00\x00\x00\x00\x00\x00\xd5\x14\x00\x00\x00\x00\x00\x00" +
  37                         "\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00" +
  38                         "\xfb\x12\x00\x00\x00\x00\x00\x00\x09\x13\x00\x00\x00\x00\x00\x00" +
  39                         "\x0c\x13\x00\x00\x00\x00\x00\x00\xcb\x13\x00\x00\x00\x00\x00\x00" +
  40                         "\x29\x14\x00\x00\x00\x00\x00\x00\x4e\x14\x00\x00\x00\x00\x00\x00" +
  41                         "\x9d\x14\x00\x00\x00\x00\x00\x00\xd5\x14\x00\x00\x00\x00\x00\x00" +
  42                         "\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00" +
  43                         "\xfb\x12\x00\x00\x00\x00\x00\x00\x09\x13\x00\x00\x00\x00\x00\x00" +
  44                         "\x67\x13\x00\x00\x00\x00\x00\x00\xcb\x13\x00\x00\x00\x00\x00\x00" +
  45                         "\x9d\x14\x00\x00\x00\x00\x00\x00\xd5\x14\x00\x00\x00\x00\x00\x00" +
  46                         "\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00" +
  47                         "\x5f\x0b\x00\x00\x00\x00\x00\x00\x6c\x0b\x00\x00\x00\x00\x00\x00" +
  48                         "\x7d\x0b\x00\x00\x00\x00\x00\x00\x7e\x0c\x00\x00\x00\x00\x00\x00" +
  49                         "\x38\x0f\x00\x00\x00\x00\x00\x00\x5c\x0f\x00\x00\x00\x00\x00\x00" +
  50                         "\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00" +
  51                         "\x83\x0c\x00\x00\x00\x00\x00\x00\xfa\x0c\x00\x00\x00\x00\x00\x00" +
  52                         "\xfd\x0d\x00\x00\x00\x00\x00\x00\xef\x0e\x00\x00\x00\x00\x00\x00" +
  53                         "\x14\x0f\x00\x00\x00\x00\x00\x00\x38\x0f\x00\x00\x00\x00\x00\x00" +
  54                         "\x9f\x0f\x00\x00\x00\x00\x00\x00\xac\x0f\x00\x00\x00\x00\x00\x00" +
  55                         "\xdb\x0f\x00\x00\x00\x00\x00\x00\xff\x0f\x00\x00\x00\x00\x00\x00" +
  56                         "\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00" +
  57                         "\xfd\x0d\x00\x00\x00\x00\x00\x00\xd8\x0e\x00\x00\x00\x00\x00\x00" +
  58                         "\x9f\x0f\x00\x00\x00\x00\x00\x00\xac\x0f\x00\x00\x00\x00\x00\x00" +
  59                         "\xdb\x0f\x00\x00\x00\x00\x00\x00\xff\x0f\x00\x00\x00\x00\x00\x00" +
  60                         "\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00" +
  61                         "\xfa\x0c\x00\x00\x00\x00\x00\x00\xea\x0d\x00\x00\x00\x00\x00\x00" +
  62                         "\xef\x0e\x00\x00\x00\x00\x00\x00\x14\x0f\x00\x00\x00\x00\x00\x00" +
  63                         "\x5c\x0f\x00\x00\x00\x00\x00\x00\x9f\x0f\x00\x00\x00\x00\x00\x00" +
  64                         "\xac\x0f\x00\x00\x00\x00\x00\x00\xdb\x0f\x00\x00\x00\x00\x00\x00" +
  65                         "\xff\x0f\x00\x00\x00\x00\x00\x00\x2c\x10\x00\x00\x00\x00\x00\x00" +
  66                         "\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00" +
  67                         "\x60\x11\x00\x00\x00\x00\x00\x00\xd1\x16\x00\x00\x00\x00\x00\x00" +
  68                         "\x40\x0b\x00\x00\x00\x00\x00\x00\x2c\x10\x00\x00\x00\x00\x00\x00" +
  69                         "\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00" +
  70                         "\x7a\x00\x00\x00\x00\x00\x00\x00\xb6\x00\x00\x00\x00\x00\x00\x00" +
  71                         "\x9f\x01\x00\x00\x00\x00\x00\x00\xa7\x01\x00\x00\x00\x00\x00\x00" +
  72                         "\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00" +
  73                         "\x7a\x00\x00\x00\x00\x00\x00\x00\xa9\x00\x00\x00\x00\x00\x00\x00" +
  74                         "\x9f\x01\x00\x00\x00\x00\x00\x00\xa7\x01\x00\x00\x00\x00\x00\x00" +
  75                         "\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00",
  76
  77                 "\x28\xb5\x2f\xfd\x64\xa0\x01\x2d\x05\x00\xc4\x04\xcc\x11\x00\xd5" +
  78                         "\x13\x00\x1c\x14\x00\x72\x9d\xd5\xfb\x12\x00\x09\x0c\x13\xcb\x13" +
  79                         "\x29\x4e\x67\x5f\x0b\x6c\x0b\x7d\x0b\x7e\x0c\x38\x0f\x5c\x0f\x83" +
  80                         "\x0c\xfa\x0c\xfd\x0d\xef\x0e\x14\x38\x9f\x0f\xac\x0f\xdb\x0f\xff" +
  81                         "\x0f\xd8\x9f\xac\xdb\xff\xea\x5c\x2c\x10\x60\xd1\x16\x40\x0b\x7a" +
  82                         "\x00\xb6\x00\x9f\x01\xa7\x01\xa9\x36\x20\xa0\x83\x14\x34\x63\x4a" +
  83                         "\x21\x70\x8c\x07\x46\x03\x4e\x10\x62\x3c\x06\x4e\xc8\x8c\xb0\x32" +
  84                         "\x2a\x59\xad\xb2\xf1\x02\x82\x7c\x33\xcb\x92\x6f\x32\x4f\x9b\xb0" +
  85                         "\xa2\x30\xf0\xc0\x06\x1e\x98\x99\x2c\x06\x1e\xd8\xc0\x03\x56\xd8" +
  86                         "\xc0\x03\x0f\x6c\xe0\x01\xf1\xf0\xee\x9a\xc6\xc8\x97\x99\xd1\x6c" +
  87                         "\xb4\x21\x45\x3b\x10\xe4\x7b\x99\x4d\x8a\x36\x64\x5c\x77\x08\x02" +
  88                         "\xcb\xe0\xce",
  89         },
  90         {
  91                 "fuzz1",
  92                 "0\x00\x00\x00\x00\x000\x00\x00\x00\x00\x001\x00\x00\x00\x00\x000000",
  93                 "(\xb5/\xfd\x04X\x8d\x00\x00P0\x000\x001\x000000\x03T\x02\x00\x01\x01m\xf9\xb7G",
  94         },
  95         {
  96                 "empty block",
  97                 "",
  98                 "\x28\xb5\x2f\xfd\x00\x00\x15\x00\x00\x00\x00",
  99         },
 100 }
 101
 102 func TestSamples(t *testing.T) {
 103         for _, test := range tests {
 104                 test := test
 105                 t.Run(test.name, func(t *testing.T) {
 106                         r := NewReader(strings.NewReader(test.compressed))
 107                         got, err := io.ReadAll(r)
 108                         if err != nil {
 109                                 t.Fatal(err)
 110                         }
 111                         gotstr := string(got)
 112                         if gotstr != test.uncompressed {
 113                                 t.Errorf("got %q want %q", gotstr, test.uncompressed)
 114                         }
 115                 })
 116         }
 117 }
 118
 119 var (
 120         bigDataOnce  sync.Once
 121         bigDataBytes []byte
 122         bigDataErr   error
 123 )
 124
 125 // bigData returns the contents of our large test file repeated multiple times.
 126 func bigData(t testing.TB) []byte {
 127         bigDataOnce.Do(func() {
 128                 bigDataBytes, bigDataErr = os.ReadFile("../../testdata/Isaac.Newton-Opticks.txt")
 129                 if bigDataErr == nil {
 130                         bigDataBytes = bytes.Repeat(bigDataBytes, 20)
 131                 }
 132         })
 133         if bigDataErr != nil {
 134                 t.Fatal(bigDataErr)
 135         }
 136         return bigDataBytes
 137 }
 138
 139 var (
 140         zstdBigOnce  sync.Once
 141         zstdBigBytes []byte
 142         zstdBigSkip  bool
 143         zstdBigErr   error
 144 )
 145
 146 // zstdBigData returns the compressed contents of our large test file.
 147 // This will only run on Unix systems with zstd installed.
 148 // That's OK as the package is GOOS-independent.
 149 func zstdBigData(t testing.TB) []byte {
 150         input := bigData(t)
 151
 152         zstdBigOnce.Do(func() {
 153                 if _, err := os.Stat("/usr/bin/zstd"); err != nil {
 154                         zstdBigSkip = true
 155                         return
 156                 }
 157
 158                 cmd := exec.Command("/usr/bin/zstd", "-z")
 159                 cmd.Stdin = bytes.NewReader(input)
 160                 var compressed bytes.Buffer
 161                 cmd.Stdout = &compressed
 162                 cmd.Stderr = os.Stderr
 163                 if err := cmd.Run(); err != nil {
 164                         zstdBigErr = fmt.Errorf("running zstd failed: %v", err)
 165                         return
 166                 }
 167
 168                 zstdBigBytes = compressed.Bytes()
 169         })
 170         if zstdBigSkip {
 171                 t.Skip("skipping because /usr/bin/zstd does not exist")
 172         }
 173         if zstdBigErr != nil {
 174                 t.Fatal(zstdBigErr)
 175         }
 176         return zstdBigBytes
 177 }
 178
 179 // Test decompressing a large file. We don't have a compressor,
 180 // so this test only runs on systems with zstd installed.
 181 func TestLarge(t *testing.T) {
 182         if testing.Short() {
 183                 t.Skip("skipping expensive test in short mode")
 184         }
 185
 186         data := bigData(t)
 187         compressed := zstdBigData(t)
 188
 189         t.Logf("/usr/bin/zstd compressed %d bytes to %d", len(data), len(compressed))
 190
 191         r := NewReader(bytes.NewReader(compressed))
 192         got, err := io.ReadAll(r)
 193         if err != nil {
 194                 t.Fatal(err)
 195         }
 196
 197         if !bytes.Equal(got, data) {
 198                 showDiffs(t, got, data)
 199         }
 200 }
 201
 202 // showDiffs reports the first few differences in two []byte.
 203 func showDiffs(t *testing.T, got, want []byte) {
 204         t.Error("data mismatch")
 205         if len(got) != len(want) {
 206                 t.Errorf("got data length %d, want %d", len(got), len(want))
 207         }
 208         diffs := 0
 209         for i, b := range got {
 210                 if i >= len(want) {
 211                         break
 212                 }
 213                 if b != want[i] {
 214                         diffs++
 215                         if diffs > 20 {
 216                                 break
 217                         }
 218                         t.Logf("%d: %#x != %#x", i, b, want[i])
 219                 }
 220         }
 221 }
 222
 223 func TestAlloc(t *testing.T) {
 224         testenv.SkipIfOptimizationOff(t)
 225         if race.Enabled {
 226                 t.Skip("skipping allocation test under race detector")
 227         }
 228
 229         compressed := zstdBigData(t)
 230         input := bytes.NewReader(compressed)
 231         r := NewReader(input)
 232         c := testing.AllocsPerRun(10, func() {
 233                 input.Reset(compressed)
 234                 r.Reset(input)
 235                 io.Copy(io.Discard, r)
 236         })
 237         if c != 0 {
 238                 t.Errorf("got %v allocs, want 0", c)
 239         }
 240 }
 241
 242 func TestFileSamples(t *testing.T) {
 243         samples, err := os.ReadDir("testdata")
 244         if err != nil {
 245                 t.Fatal(err)
 246         }
 247
 248         for _, sample := range samples {
 249                 name := sample.Name()
 250                 if !strings.HasSuffix(name, ".zst") {
 251                         continue
 252                 }
 253
 254                 t.Run(name, func(t *testing.T) {
 255                         f, err := os.Open(filepath.Join("testdata", name))
 256                         if err != nil {
 257                                 t.Fatal(err)
 258                         }
 259
 260                         r := NewReader(f)
 261                         h := sha256.New()
 262                         if _, err := io.Copy(h, r); err != nil {
 263                                 t.Fatal(err)
 264                         }
 265                         got := fmt.Sprintf("%x", h.Sum(nil))[:8]
 266
 267                         want, _, _ := strings.Cut(name, ".")
 268                         if got != want {
 269                                 t.Errorf("Wrong uncompressed content hash: got %s, want %s", got, want)
 270                         }
 271                 })
 272         }
 273 }
 274
 275 func BenchmarkLarge(b *testing.B) {
 276         b.StopTimer()
 277         b.ReportAllocs()
 278
 279         compressed := zstdBigData(b)
 280
 281         b.SetBytes(int64(len(compressed)))
 282
 283         input := bytes.NewReader(compressed)
 284         r := NewReader(input)
 285
 286         b.StartTimer()
 287         for i := 0; i < b.N; i++ {
 288                 input.Reset(compressed)
 289                 r.Reset(input)
 290                 io.Copy(io.Discard, r)
 291         }
 292 }