src/cmd/compile/internal/types2/validtype.go

   1 // Copyright 2022 The Go Authors. All rights reserved.
   2 // Use of this source code is governed by a BSD-style
   3 // license that can be found in the LICENSE file.
   4
   5 package types2
   6
   7 // validType verifies that the given type does not "expand" indefinitely
   8 // producing a cycle in the type graph. Cycles are detected by marking
   9 // defined types.
  10 // (Cycles involving alias types, as in "type A = [10]A" are detected
  11 // earlier, via the objDecl cycle detection mechanism.)
  12 func (check *Checker) validType(typ *Named) {
  13         check.validType0(typ, nil)
  14 }
  15
  16 type typeInfo uint
  17
  18 func (check *Checker) validType0(typ Type, path []Object) typeInfo {
  19         const (
  20                 unknown typeInfo = iota
  21                 marked
  22                 valid
  23                 invalid
  24         )
  25
  26         switch t := typ.(type) {
  27         case *Array:
  28                 return check.validType0(t.elem, path)
  29
  30         case *Struct:
  31                 for _, f := range t.fields {
  32                         if check.validType0(f.typ, path) == invalid {
  33                                 return invalid
  34                         }
  35                 }
  36
  37         case *Union:
  38                 for _, t := range t.terms {
  39                         if check.validType0(t.typ, path) == invalid {
  40                                 return invalid
  41                         }
  42                 }
  43
  44         case *Interface:
  45                 for _, etyp := range t.embeddeds {
  46                         if check.validType0(etyp, path) == invalid {
  47                                 return invalid
  48                         }
  49                 }
  50
  51         case *Named:
  52                 // If t is parameterized, we should be considering the instantiated (expanded)
  53                 // form of t, but in general we can't with this algorithm: if t is an invalid
  54                 // type it may be so because it infinitely expands through a type parameter.
  55                 // Instantiating such a type would lead to an infinite sequence of instantiations.
  56                 // In general, we need "type flow analysis" to recognize those cases.
  57                 // Example: type A[T any] struct{ x A[*T] } (issue #48951)
  58                 // In this algorithm we always only consider the original, uninstantiated type.
  59                 // This won't recognize some invalid cases with parameterized types, but it
  60                 // will terminate.
  61                 t = t.orig
  62
  63                 // don't touch the type if it is from a different package or the Universe scope
  64                 // (doing so would lead to a race condition - was issue #35049)
  65                 if t.obj.pkg != check.pkg {
  66                         return valid
  67                 }
  68
  69                 // don't report a 2nd error if we already know the type is invalid
  70                 // (e.g., if a cycle was detected earlier, via under).
  71                 if t.underlying == Typ[Invalid] {
  72                         check.infoMap[t] = invalid
  73                         return invalid
  74                 }
  75
  76                 switch check.infoMap[t] {
  77                 case unknown:
  78                         check.infoMap[t] = marked
  79                         check.infoMap[t] = check.validType0(t.fromRHS, append(path, t.obj)) // only types of current package added to path
  80                 case marked:
  81                         // cycle detected
  82                         for i, tn := range path {
  83                                 if t.obj.pkg != check.pkg {
  84                                         panic("type cycle via package-external type")
  85                                 }
  86                                 if tn == t.obj {
  87                                         check.cycleError(path[i:])
  88                                         check.infoMap[t] = invalid
  89                                         t.underlying = Typ[Invalid]
  90                                         return invalid
  91                                 }
  92                         }
  93                         panic("cycle start not found")
  94                 }
  95                 return check.infoMap[t]
  96         }
  97
  98         return valid
  99 }