]> Cypherpunks.ru repositories - gostls13.git/blob - src/log/slog/handler.go
log/slog: fix issue with concurrent writes
[gostls13.git] / src / log / slog / handler.go
1 // Copyright 2022 The Go Authors. All rights reserved.
2 // Use of this source code is governed by a BSD-style
3 // license that can be found in the LICENSE file.
4
5 package slog
6
7 import (
8         "context"
9         "fmt"
10         "io"
11         "log/slog/internal/buffer"
12         "slices"
13         "strconv"
14         "sync"
15         "time"
16 )
17
18 // A Handler handles log records produced by a Logger..
19 //
20 // A typical handler may print log records to standard error,
21 // or write them to a file or database, or perhaps augment them
22 // with additional attributes and pass them on to another handler.
23 //
24 // Any of the Handler's methods may be called concurrently with itself
25 // or with other methods. It is the responsibility of the Handler to
26 // manage this concurrency.
27 //
28 // Users of the slog package should not invoke Handler methods directly.
29 // They should use the methods of [Logger] instead.
30 type Handler interface {
31         // Enabled reports whether the handler handles records at the given level.
32         // The handler ignores records whose level is lower.
33         // It is called early, before any arguments are processed,
34         // to save effort if the log event should be discarded.
35         // If called from a Logger method, the first argument is the context
36         // passed to that method, or context.Background() if nil was passed
37         // or the method does not take a context.
38         // The context is passed so Enabled can use its values
39         // to make a decision.
40         Enabled(context.Context, Level) bool
41
42         // Handle handles the Record.
43         // It will only be called when Enabled returns true.
44         // The Context argument is as for Enabled.
45         // It is present solely to provide Handlers access to the context's values.
46         // Canceling the context should not affect record processing.
47         // (Among other things, log messages may be necessary to debug a
48         // cancellation-related problem.)
49         //
50         // Handle methods that produce output should observe the following rules:
51         //   - If r.Time is the zero time, ignore the time.
52         //   - If r.PC is zero, ignore it.
53         //   - Attr's values should be resolved.
54         //   - If an Attr's key and value are both the zero value, ignore the Attr.
55         //     This can be tested with attr.Equal(Attr{}).
56         //   - If a group's key is empty, inline the group's Attrs.
57         //   - If a group has no Attrs (even if it has a non-empty key),
58         //     ignore it.
59         Handle(context.Context, Record) error
60
61         // WithAttrs returns a new Handler whose attributes consist of
62         // both the receiver's attributes and the arguments.
63         // The Handler owns the slice: it may retain, modify or discard it.
64         WithAttrs(attrs []Attr) Handler
65
66         // WithGroup returns a new Handler with the given group appended to
67         // the receiver's existing groups.
68         // The keys of all subsequent attributes, whether added by With or in a
69         // Record, should be qualified by the sequence of group names.
70         //
71         // How this qualification happens is up to the Handler, so long as
72         // this Handler's attribute keys differ from those of another Handler
73         // with a different sequence of group names.
74         //
75         // A Handler should treat WithGroup as starting a Group of Attrs that ends
76         // at the end of the log event. That is,
77         //
78         //     logger.WithGroup("s").LogAttrs(level, msg, slog.Int("a", 1), slog.Int("b", 2))
79         //
80         // should behave like
81         //
82         //     logger.LogAttrs(level, msg, slog.Group("s", slog.Int("a", 1), slog.Int("b", 2)))
83         //
84         // If the name is empty, WithGroup returns the receiver.
85         WithGroup(name string) Handler
86 }
87
88 type defaultHandler struct {
89         ch *commonHandler
90         // internal.DefaultOutput, except for testing
91         output func(pc uintptr, data []byte) error
92 }
93
94 func newDefaultHandler(output func(uintptr, []byte) error) *defaultHandler {
95         return &defaultHandler{
96                 ch:     &commonHandler{json: false},
97                 output: output,
98         }
99 }
100
101 func (*defaultHandler) Enabled(_ context.Context, l Level) bool {
102         return l >= LevelInfo
103 }
104
105 // Collect the level, attributes and message in a string and
106 // write it with the default log.Logger.
107 // Let the log.Logger handle time and file/line.
108 func (h *defaultHandler) Handle(ctx context.Context, r Record) error {
109         buf := buffer.New()
110         buf.WriteString(r.Level.String())
111         buf.WriteByte(' ')
112         buf.WriteString(r.Message)
113         state := h.ch.newHandleState(buf, true, " ")
114         defer state.free()
115         state.appendNonBuiltIns(r)
116         return h.output(r.PC, *buf)
117 }
118
119 func (h *defaultHandler) WithAttrs(as []Attr) Handler {
120         return &defaultHandler{h.ch.withAttrs(as), h.output}
121 }
122
123 func (h *defaultHandler) WithGroup(name string) Handler {
124         return &defaultHandler{h.ch.withGroup(name), h.output}
125 }
126
127 // HandlerOptions are options for a TextHandler or JSONHandler.
128 // A zero HandlerOptions consists entirely of default values.
129 type HandlerOptions struct {
130         // AddSource causes the handler to compute the source code position
131         // of the log statement and add a SourceKey attribute to the output.
132         AddSource bool
133
134         // Level reports the minimum record level that will be logged.
135         // The handler discards records with lower levels.
136         // If Level is nil, the handler assumes LevelInfo.
137         // The handler calls Level.Level for each record processed;
138         // to adjust the minimum level dynamically, use a LevelVar.
139         Level Leveler
140
141         // ReplaceAttr is called to rewrite each non-group attribute before it is logged.
142         // The attribute's value has been resolved (see [Value.Resolve]).
143         // If ReplaceAttr returns a zero Attr, the attribute is discarded.
144         //
145         // The built-in attributes with keys "time", "level", "source", and "msg"
146         // are passed to this function, except that time is omitted
147         // if zero, and source is omitted if AddSource is false.
148         //
149         // The first argument is a list of currently open groups that contain the
150         // Attr. It must not be retained or modified. ReplaceAttr is never called
151         // for Group attributes, only their contents. For example, the attribute
152         // list
153         //
154         //     Int("a", 1), Group("g", Int("b", 2)), Int("c", 3)
155         //
156         // results in consecutive calls to ReplaceAttr with the following arguments:
157         //
158         //     nil, Int("a", 1)
159         //     []string{"g"}, Int("b", 2)
160         //     nil, Int("c", 3)
161         //
162         // ReplaceAttr can be used to change the default keys of the built-in
163         // attributes, convert types (for example, to replace a `time.Time` with the
164         // integer seconds since the Unix epoch), sanitize personal information, or
165         // remove attributes from the output.
166         ReplaceAttr func(groups []string, a Attr) Attr
167 }
168
169 // Keys for "built-in" attributes.
170 const (
171         // TimeKey is the key used by the built-in handlers for the time
172         // when the log method is called. The associated Value is a [time.Time].
173         TimeKey = "time"
174         // LevelKey is the key used by the built-in handlers for the level
175         // of the log call. The associated value is a [Level].
176         LevelKey = "level"
177         // MessageKey is the key used by the built-in handlers for the
178         // message of the log call. The associated value is a string.
179         MessageKey = "msg"
180         // SourceKey is the key used by the built-in handlers for the source file
181         // and line of the log call. The associated value is a string.
182         SourceKey = "source"
183 )
184
185 type commonHandler struct {
186         json              bool // true => output JSON; false => output text
187         opts              HandlerOptions
188         preformattedAttrs []byte
189         // groupPrefix is for the text handler only.
190         // It holds the prefix for groups that were already pre-formatted.
191         // A group will appear here when a call to WithGroup is followed by
192         // a call to WithAttrs.
193         groupPrefix string
194         groups      []string // all groups started from WithGroup
195         nOpenGroups int      // the number of groups opened in preformattedAttrs
196         mu          *sync.Mutex
197         w           io.Writer
198 }
199
200 func (h *commonHandler) clone() *commonHandler {
201         // We can't use assignment because we can't copy the mutex.
202         return &commonHandler{
203                 json:              h.json,
204                 opts:              h.opts,
205                 preformattedAttrs: slices.Clip(h.preformattedAttrs),
206                 groupPrefix:       h.groupPrefix,
207                 groups:            slices.Clip(h.groups),
208                 nOpenGroups:       h.nOpenGroups,
209                 w:                 h.w,
210                 mu:                h.mu, // mutex shared among all clones of this handler
211         }
212 }
213
214 // enabled reports whether l is greater than or equal to the
215 // minimum level.
216 func (h *commonHandler) enabled(l Level) bool {
217         minLevel := LevelInfo
218         if h.opts.Level != nil {
219                 minLevel = h.opts.Level.Level()
220         }
221         return l >= minLevel
222 }
223
224 func (h *commonHandler) withAttrs(as []Attr) *commonHandler {
225         // We are going to ignore empty groups, so if the entire slice consists of
226         // them, there is nothing to do.
227         if countEmptyGroups(as) == len(as) {
228                 return h
229         }
230         h2 := h.clone()
231         // Pre-format the attributes as an optimization.
232         state := h2.newHandleState((*buffer.Buffer)(&h2.preformattedAttrs), false, "")
233         defer state.free()
234         state.prefix.WriteString(h.groupPrefix)
235         if len(h2.preformattedAttrs) > 0 {
236                 state.sep = h.attrSep()
237         }
238         state.openGroups()
239         for _, a := range as {
240                 state.appendAttr(a)
241         }
242         // Remember the new prefix for later keys.
243         h2.groupPrefix = state.prefix.String()
244         // Remember how many opened groups are in preformattedAttrs,
245         // so we don't open them again when we handle a Record.
246         h2.nOpenGroups = len(h2.groups)
247         return h2
248 }
249
250 func (h *commonHandler) withGroup(name string) *commonHandler {
251         h2 := h.clone()
252         h2.groups = append(h2.groups, name)
253         return h2
254 }
255
256 func (h *commonHandler) handle(r Record) error {
257         state := h.newHandleState(buffer.New(), true, "")
258         defer state.free()
259         if h.json {
260                 state.buf.WriteByte('{')
261         }
262         // Built-in attributes. They are not in a group.
263         stateGroups := state.groups
264         state.groups = nil // So ReplaceAttrs sees no groups instead of the pre groups.
265         rep := h.opts.ReplaceAttr
266         // time
267         if !r.Time.IsZero() {
268                 key := TimeKey
269                 val := r.Time.Round(0) // strip monotonic to match Attr behavior
270                 if rep == nil {
271                         state.appendKey(key)
272                         state.appendTime(val)
273                 } else {
274                         state.appendAttr(Time(key, val))
275                 }
276         }
277         // level
278         key := LevelKey
279         val := r.Level
280         if rep == nil {
281                 state.appendKey(key)
282                 state.appendString(val.String())
283         } else {
284                 state.appendAttr(Any(key, val))
285         }
286         // source
287         if h.opts.AddSource {
288                 state.appendAttr(Any(SourceKey, r.source()))
289         }
290         key = MessageKey
291         msg := r.Message
292         if rep == nil {
293                 state.appendKey(key)
294                 state.appendString(msg)
295         } else {
296                 state.appendAttr(String(key, msg))
297         }
298         state.groups = stateGroups // Restore groups passed to ReplaceAttrs.
299         state.appendNonBuiltIns(r)
300         state.buf.WriteByte('\n')
301
302         h.mu.Lock()
303         defer h.mu.Unlock()
304         _, err := h.w.Write(*state.buf)
305         return err
306 }
307
308 func (s *handleState) appendNonBuiltIns(r Record) {
309         // preformatted Attrs
310         if len(s.h.preformattedAttrs) > 0 {
311                 s.buf.WriteString(s.sep)
312                 s.buf.Write(s.h.preformattedAttrs)
313                 s.sep = s.h.attrSep()
314         }
315         // Attrs in Record -- unlike the built-in ones, they are in groups started
316         // from WithGroup.
317         // If the record has no Attrs, don't output any groups.
318         nOpenGroups := s.h.nOpenGroups
319         if r.NumAttrs() > 0 {
320                 s.prefix.WriteString(s.h.groupPrefix)
321                 s.openGroups()
322                 nOpenGroups = len(s.h.groups)
323                 r.Attrs(func(a Attr) bool {
324                         s.appendAttr(a)
325                         return true
326                 })
327         }
328         if s.h.json {
329                 // Close all open groups.
330                 for range s.h.groups[:nOpenGroups] {
331                         s.buf.WriteByte('}')
332                 }
333                 // Close the top-level object.
334                 s.buf.WriteByte('}')
335         }
336 }
337
338 // attrSep returns the separator between attributes.
339 func (h *commonHandler) attrSep() string {
340         if h.json {
341                 return ","
342         }
343         return " "
344 }
345
346 // handleState holds state for a single call to commonHandler.handle.
347 // The initial value of sep determines whether to emit a separator
348 // before the next key, after which it stays true.
349 type handleState struct {
350         h       *commonHandler
351         buf     *buffer.Buffer
352         freeBuf bool           // should buf be freed?
353         sep     string         // separator to write before next key
354         prefix  *buffer.Buffer // for text: key prefix
355         groups  *[]string      // pool-allocated slice of active groups, for ReplaceAttr
356 }
357
358 var groupPool = sync.Pool{New: func() any {
359         s := make([]string, 0, 10)
360         return &s
361 }}
362
363 func (h *commonHandler) newHandleState(buf *buffer.Buffer, freeBuf bool, sep string) handleState {
364         s := handleState{
365                 h:       h,
366                 buf:     buf,
367                 freeBuf: freeBuf,
368                 sep:     sep,
369                 prefix:  buffer.New(),
370         }
371         if h.opts.ReplaceAttr != nil {
372                 s.groups = groupPool.Get().(*[]string)
373                 *s.groups = append(*s.groups, h.groups[:h.nOpenGroups]...)
374         }
375         return s
376 }
377
378 func (s *handleState) free() {
379         if s.freeBuf {
380                 s.buf.Free()
381         }
382         if gs := s.groups; gs != nil {
383                 *gs = (*gs)[:0]
384                 groupPool.Put(gs)
385         }
386         s.prefix.Free()
387 }
388
389 func (s *handleState) openGroups() {
390         for _, n := range s.h.groups[s.h.nOpenGroups:] {
391                 s.openGroup(n)
392         }
393 }
394
395 // Separator for group names and keys.
396 const keyComponentSep = '.'
397
398 // openGroup starts a new group of attributes
399 // with the given name.
400 func (s *handleState) openGroup(name string) {
401         if s.h.json {
402                 s.appendKey(name)
403                 s.buf.WriteByte('{')
404                 s.sep = ""
405         } else {
406                 s.prefix.WriteString(name)
407                 s.prefix.WriteByte(keyComponentSep)
408         }
409         // Collect group names for ReplaceAttr.
410         if s.groups != nil {
411                 *s.groups = append(*s.groups, name)
412         }
413 }
414
415 // closeGroup ends the group with the given name.
416 func (s *handleState) closeGroup(name string) {
417         if s.h.json {
418                 s.buf.WriteByte('}')
419         } else {
420                 (*s.prefix) = (*s.prefix)[:len(*s.prefix)-len(name)-1 /* for keyComponentSep */]
421         }
422         s.sep = s.h.attrSep()
423         if s.groups != nil {
424                 *s.groups = (*s.groups)[:len(*s.groups)-1]
425         }
426 }
427
428 // appendAttr appends the Attr's key and value using app.
429 // It handles replacement and checking for an empty key.
430 // after replacement).
431 func (s *handleState) appendAttr(a Attr) {
432         if rep := s.h.opts.ReplaceAttr; rep != nil && a.Value.Kind() != KindGroup {
433                 var gs []string
434                 if s.groups != nil {
435                         gs = *s.groups
436                 }
437                 // Resolve before calling ReplaceAttr, so the user doesn't have to.
438                 a.Value = a.Value.Resolve()
439                 a = rep(gs, a)
440         }
441         a.Value = a.Value.Resolve()
442         // Elide empty Attrs.
443         if a.isEmpty() {
444                 return
445         }
446         // Special case: Source.
447         if v := a.Value; v.Kind() == KindAny {
448                 if src, ok := v.Any().(*Source); ok {
449                         if s.h.json {
450                                 a.Value = src.group()
451                         } else {
452                                 a.Value = StringValue(fmt.Sprintf("%s:%d", src.File, src.Line))
453                         }
454                 }
455         }
456         if a.Value.Kind() == KindGroup {
457                 attrs := a.Value.Group()
458                 // Output only non-empty groups.
459                 if len(attrs) > 0 {
460                         // Inline a group with an empty key.
461                         if a.Key != "" {
462                                 s.openGroup(a.Key)
463                         }
464                         for _, aa := range attrs {
465                                 s.appendAttr(aa)
466                         }
467                         if a.Key != "" {
468                                 s.closeGroup(a.Key)
469                         }
470                 }
471         } else {
472                 s.appendKey(a.Key)
473                 s.appendValue(a.Value)
474         }
475 }
476
477 func (s *handleState) appendError(err error) {
478         s.appendString(fmt.Sprintf("!ERROR:%v", err))
479 }
480
481 func (s *handleState) appendKey(key string) {
482         s.buf.WriteString(s.sep)
483         if s.prefix != nil && len(*s.prefix) > 0 {
484                 // TODO: optimize by avoiding allocation.
485                 s.appendString(string(*s.prefix) + key)
486         } else {
487                 s.appendString(key)
488         }
489         if s.h.json {
490                 s.buf.WriteByte(':')
491         } else {
492                 s.buf.WriteByte('=')
493         }
494         s.sep = s.h.attrSep()
495 }
496
497 func (s *handleState) appendString(str string) {
498         if s.h.json {
499                 s.buf.WriteByte('"')
500                 *s.buf = appendEscapedJSONString(*s.buf, str)
501                 s.buf.WriteByte('"')
502         } else {
503                 // text
504                 if needsQuoting(str) {
505                         *s.buf = strconv.AppendQuote(*s.buf, str)
506                 } else {
507                         s.buf.WriteString(str)
508                 }
509         }
510 }
511
512 func (s *handleState) appendValue(v Value) {
513         var err error
514         if s.h.json {
515                 err = appendJSONValue(s, v)
516         } else {
517                 err = appendTextValue(s, v)
518         }
519         if err != nil {
520                 s.appendError(err)
521         }
522 }
523
524 func (s *handleState) appendTime(t time.Time) {
525         if s.h.json {
526                 appendJSONTime(s, t)
527         } else {
528                 writeTimeRFC3339Millis(s.buf, t)
529         }
530 }
531
532 // This takes half the time of Time.AppendFormat.
533 func writeTimeRFC3339Millis(buf *buffer.Buffer, t time.Time) {
534         year, month, day := t.Date()
535         buf.WritePosIntWidth(year, 4)
536         buf.WriteByte('-')
537         buf.WritePosIntWidth(int(month), 2)
538         buf.WriteByte('-')
539         buf.WritePosIntWidth(day, 2)
540         buf.WriteByte('T')
541         hour, min, sec := t.Clock()
542         buf.WritePosIntWidth(hour, 2)
543         buf.WriteByte(':')
544         buf.WritePosIntWidth(min, 2)
545         buf.WriteByte(':')
546         buf.WritePosIntWidth(sec, 2)
547         ns := t.Nanosecond()
548         buf.WriteByte('.')
549         buf.WritePosIntWidth(ns/1e6, 3)
550         _, offsetSeconds := t.Zone()
551         if offsetSeconds == 0 {
552                 buf.WriteByte('Z')
553         } else {
554                 offsetMinutes := offsetSeconds / 60
555                 if offsetMinutes < 0 {
556                         buf.WriteByte('-')
557                         offsetMinutes = -offsetMinutes
558                 } else {
559                         buf.WriteByte('+')
560                 }
561                 buf.WritePosIntWidth(offsetMinutes/60, 2)
562                 buf.WriteByte(':')
563                 buf.WritePosIntWidth(offsetMinutes%60, 2)
564         }
565 }