Rework AugmentRuntimeType and Choice/Case linkage
[mdsal.git] / binding / mdsal-binding-generator / src / main / java / org / opendaylight / mdsal / binding / generator / impl / reactor / AbstractCompositeGenerator.java
index f75c0e6ac3bd3ed6a34ec05d832fce28fcb94f98..769830433f7ff6ebd94c6e29b5ef573818c9cdbc 100644 (file)
@@ -20,8 +20,11 @@ import org.eclipse.jdt.annotation.Nullable;
 import org.opendaylight.mdsal.binding.model.api.Enumeration;
 import org.opendaylight.mdsal.binding.model.api.GeneratedTransferObject;
 import org.opendaylight.mdsal.binding.model.api.GeneratedType;
+import org.opendaylight.mdsal.binding.model.api.Type;
 import org.opendaylight.mdsal.binding.model.api.type.builder.GeneratedTypeBuilder;
 import org.opendaylight.mdsal.binding.model.ri.BindingTypes;
+import org.opendaylight.mdsal.binding.runtime.api.CompositeRuntimeType;
+import org.opendaylight.mdsal.binding.runtime.api.RuntimeType;
 import org.opendaylight.yangtools.yang.common.QName;
 import org.opendaylight.yangtools.yang.model.api.AddedByUsesAware;
 import org.opendaylight.yangtools.yang.model.api.CopyableNode;
@@ -53,47 +56,160 @@ import org.slf4j.LoggerFactory;
  * A composite generator. Composite generators may contain additional children, which end up being mapped into
  * the naming hierarchy 'under' the composite generator. To support this use case, each composite has a Java package
  * name assigned.
+ *
+ * <p>
+ * State tracking for resolution of children to their original declaration, i.e. back along the 'uses' and 'augment'
+ * axis. This is quite convoluted because we are traversing the generator tree recursively in the iteration order of
+ * children, but actual dependencies may require resolution in a different order, for example in the case of:
+ * <pre>
+ *   container foo {
+ *     uses bar {             // A
+ *       augment bar {        // B
+ *         container xyzzy;   // C
+ *       }
+ *     }
+ *
+ *     grouping bar {
+ *       container bar {      // D
+ *         uses baz;          // E
+ *       }
+ *     }
+ *
+ *     grouping baz {
+ *       leaf baz {           // F
+ *         type string;
+ *       }
+ *     }
+ *   }
+ *
+ *   augment /foo/bar/xyzzy { // G
+ *     leaf xyzzy {           // H
+ *       type string;
+ *     }
+ *   }
+ * </pre>
+ *
+ * <p>
+ * In this case we have three manifestations of 'leaf baz' -- marked A, E and F in the child iteration order. In order
+ * to perform a resolution, we first have to determine that F is the original definition, then establish that E is using
+ * the definition made by F and finally establish that A is using the definition made by F.
+ *
+ * <p>
+ * Dealing with augmentations is harder still, because we need to attach them to the original definition, hence for the
+ * /foo/bar container at A, we need to understand that its original definition is at D and we need to attach the augment
+ * at B to D. Futhermore we also need to establish that the augmentation at G attaches to container defined in C, so
+ * that the 'leaf xyzzy' existing as /foo/bar/xyzzy/xyzzy under C has its original definition at H.
+ *
+ * <p>
+ * Finally realize that the augment at G can actually exist in a different module and is shown in this example only
+ * the simplified form. That also means we could encounter G well before 'container foo' as well as we can have multiple
+ * such augments sprinkled across multiple modules having the same dependency rules as between C and G -- but they still
+ * have to form a directed acyclic graph and we partially deal with those complexities by having modules sorted by their
+ * dependencies.
+ *
+ * <p>
+ * For further details see {@link #linkOriginalGenerator()} and {@link #linkOriginalGeneratorRecursive()}, which deal
+ * with linking original instances in the tree iteration order. The part dealing with augment attachment lives mostly
+ * in {@link AugmentRequirement}.
  */
-abstract class AbstractCompositeGenerator<T extends EffectiveStatement<?, ?>> extends AbstractExplicitGenerator<T> {
+public abstract class AbstractCompositeGenerator<S extends EffectiveStatement<?, ?>, R extends CompositeRuntimeType>
+        extends AbstractExplicitGenerator<S, R> {
     private static final Logger LOG = LoggerFactory.getLogger(AbstractCompositeGenerator.class);
 
+    // FIXME: we want to allocate this lazily to lower memory footprint
     private final @NonNull CollisionDomain domain = new CollisionDomain(this);
-    private final List<Generator> children;
+    private final @NonNull List<Generator> childGenerators;
+
+    /**
+     * List of {@code augment} statements targeting this generator. This list is maintained only for the primary
+     * incarnation. This list is an evolving entity until after we have finished linkage of original statements. It is
+     * expected to be stable at the start of {@code step 2} in {@link GeneratorReactor#execute(TypeBuilderFactory)}.
+     */
+    private @NonNull List<AbstractAugmentGenerator> augments = List.of();
 
-    private List<AbstractAugmentGenerator> augments = List.of();
+    /**
+     * List of {@code grouping} statements this statement references. This field is set once by
+     * {@link #linkUsesDependencies(GeneratorContext)}.
+     */
     private List<GroupingGenerator> groupings;
 
-    AbstractCompositeGenerator(final T statement) {
+    /**
+     * List of composite children which have not been recursively processed. This may become a mutable list when we
+     * have some children which have not completed linking. Once we have completed linking of all children, including
+     * {@link #unlinkedChildren}, this will be set to {@code null}.
+     */
+    private List<AbstractCompositeGenerator<?, ?>> unlinkedComposites = List.of();
+    /**
+     * List of children which have not had their original linked. This list starts of as null. When we first attempt
+     * linkage, it becomes non-null.
+     */
+    private List<Generator> unlinkedChildren;
+
+    AbstractCompositeGenerator(final S statement) {
         super(statement);
-        children = createChildren(statement);
+        childGenerators = createChildren(statement);
     }
 
-    AbstractCompositeGenerator(final T statement, final AbstractCompositeGenerator<?> parent) {
+    AbstractCompositeGenerator(final S statement, final AbstractCompositeGenerator<?, ?> parent) {
         super(statement, parent);
-        children = createChildren(statement);
+        childGenerators = createChildren(statement);
     }
 
     @Override
     public final Iterator<Generator> iterator() {
-        return children.iterator();
+        return childGenerators.iterator();
+    }
+
+    @Override
+    final GeneratedType runtimeJavaType() {
+        return generatedType().orElse(null);
+    }
+
+    final @NonNull List<AbstractAugmentGenerator> augments() {
+        return augments;
+    }
+
+    final @NonNull List<GroupingGenerator> groupings() {
+        return verifyNotNull(groupings, "Groupings not initialized in %s", this);
+    }
+
+    @Override
+    final R createExternalRuntimeType(final Type type) {
+        verify(type instanceof GeneratedType, "Unexpected type %s", type);
+
+        // FIXME: we should be able to use internal cache IFF when all augments end up being local to our statement
+        final var statement = statement();
+        return createBuilder(statement)
+            .fillTypes(ChildLookup.of(statement), this)
+            .build((GeneratedType) type);
+    }
+
+    abstract @NonNull CompositeRuntimeTypeBuilder<S, R> createBuilder(S statement);
+
+    @Override
+    final R createInternalRuntimeType(final ChildLookup lookup, final S statement, final Type type) {
+        verify(type instanceof GeneratedType, "Unexpected type %s", type);
+        return createBuilder(statement)
+            .fillTypes(lookup.inStatement(statement), this)
+            .build((GeneratedType) type);
     }
 
     @Override
     final boolean isEmpty() {
-        return children.isEmpty();
+        return childGenerators.isEmpty();
     }
 
-    final @Nullable AbstractExplicitGenerator<?> findGenerator(final List<EffectiveStatement<?, ?>> stmtPath) {
+    final @Nullable AbstractExplicitGenerator<?, ?> findGenerator(final List<EffectiveStatement<?, ?>> stmtPath) {
         return findGenerator(MatchStrategy.identity(), stmtPath, 0);
     }
 
-    final @Nullable AbstractExplicitGenerator<?> findGenerator(final MatchStrategy childStrategy,
+    final @Nullable AbstractExplicitGenerator<?, ?> findGenerator(final MatchStrategy childStrategy,
             // TODO: Wouldn't this method be nicer with Deque<EffectiveStatement<?, ?>> ?
             final List<EffectiveStatement<?, ?>> stmtPath, final int offset) {
         final EffectiveStatement<?, ?> stmt = stmtPath.get(offset);
 
         // Try direct children first, which is simple
-        AbstractExplicitGenerator<?> ret = childStrategy.findGenerator(stmt, children);
+        AbstractExplicitGenerator<?, ?> ret = childStrategy.findGenerator(stmt, childGenerators);
         if (ret != null) {
             final int next = offset + 1;
             if (stmtPath.size() == next) {
@@ -102,7 +218,7 @@ abstract class AbstractCompositeGenerator<T extends EffectiveStatement<?, ?>> ex
             }
             if (ret instanceof AbstractCompositeGenerator) {
                 // We know how to descend down
-                return ((AbstractCompositeGenerator<?>) ret).findGenerator(childStrategy, stmtPath, next);
+                return ((AbstractCompositeGenerator<?, ?>) ret).findGenerator(childStrategy, stmtPath, next);
             }
             // Yeah, don't know how to continue here
             return null;
@@ -142,7 +258,9 @@ abstract class AbstractCompositeGenerator<T extends EffectiveStatement<?, ?>> ex
     final void linkUsesDependencies(final GeneratorContext context) {
         // We are establishing two linkages here:
         // - we are resolving 'uses' statements to their corresponding 'grouping' definitions
-        // - we propagate those groupings as anchors to any augment statements
+        // - we propagate those groupings as anchors to any augment statements, which takes out some amount of guesswork
+        //   from augment+uses resolution case, as groupings know about their immediate augments as soon as uses linkage
+        //   is resolved
         final List<GroupingGenerator> tmp = new ArrayList<>();
         for (EffectiveStatement<?, ?> stmt : statement().effectiveSubstatements()) {
             if (stmt instanceof UsesEffectiveStatement) {
@@ -150,9 +268,11 @@ abstract class AbstractCompositeGenerator<T extends EffectiveStatement<?, ?>> ex
                 final GroupingGenerator grouping = context.resolveTreeScoped(GroupingGenerator.class, uses.argument());
                 tmp.add(grouping);
 
+                // Trigger resolution of uses/augment statements. This looks like guesswork, but there may be multiple
+                // 'augment' statements in a 'uses' statement and keeping a ListMultimap here seems wasteful.
                 for (Generator gen : this) {
                     if (gen instanceof UsesAugmentGenerator) {
-                        ((UsesAugmentGenerator) gen).linkGroupingDependency(uses, grouping);
+                        ((UsesAugmentGenerator) gen).resolveGrouping(uses, grouping);
                     }
                 }
             }
@@ -160,6 +280,17 @@ abstract class AbstractCompositeGenerator<T extends EffectiveStatement<?, ?>> ex
         groupings = List.copyOf(tmp);
     }
 
+    final void startUsesAugmentLinkage(final List<AugmentRequirement> requirements) {
+        for (Generator child : childGenerators) {
+            if (child instanceof UsesAugmentGenerator) {
+                requirements.add(((UsesAugmentGenerator) child).startLinkage());
+            }
+            if (child instanceof AbstractCompositeGenerator) {
+                ((AbstractCompositeGenerator<?, ?>) child).startUsesAugmentLinkage(requirements);
+            }
+        }
+    }
+
     final void addAugment(final AbstractAugmentGenerator augment) {
         if (augments.isEmpty()) {
             augments = new ArrayList<>(2);
@@ -167,45 +298,143 @@ abstract class AbstractCompositeGenerator<T extends EffectiveStatement<?, ?>> ex
         augments.add(requireNonNull(augment));
     }
 
+    /**
+     * Attempt to link the generator corresponding to the original definition for this generator's statements as well as
+     * to all child generators.
+     *
+     * @return Progress indication
+     */
+    final @NonNull LinkageProgress linkOriginalGeneratorRecursive() {
+        if (unlinkedComposites == null) {
+            // We have unset this list (see below), and there is nothing left to do
+            return LinkageProgress.DONE;
+        }
+
+        if (unlinkedChildren == null) {
+            unlinkedChildren = childGenerators.stream()
+                .filter(AbstractExplicitGenerator.class::isInstance)
+                .map(child -> (AbstractExplicitGenerator<?, ?>) child)
+                .collect(Collectors.toList());
+        }
+
+        var progress = LinkageProgress.NONE;
+        if (!unlinkedChildren.isEmpty()) {
+            // Attempt to make progress on child linkage
+            final var it = unlinkedChildren.iterator();
+            while (it.hasNext()) {
+                final var child = it.next();
+                if (child instanceof AbstractExplicitGenerator) {
+                    if (((AbstractExplicitGenerator<?, ?>) child).linkOriginalGenerator()) {
+                        progress = LinkageProgress.SOME;
+                        it.remove();
+
+                        // If this is a composite generator we need to process is further
+                        if (child instanceof AbstractCompositeGenerator) {
+                            if (unlinkedComposites.isEmpty()) {
+                                unlinkedComposites = new ArrayList<>();
+                            }
+                            unlinkedComposites.add((AbstractCompositeGenerator<?, ?>) child);
+                        }
+                    }
+                }
+            }
+
+            if (unlinkedChildren.isEmpty()) {
+                // Nothing left to do, make sure any previously-allocated list can be scavenged
+                unlinkedChildren = List.of();
+            }
+        }
+
+        // Process children of any composite children we have.
+        final var it = unlinkedComposites.iterator();
+        while (it.hasNext()) {
+            final var tmp = it.next().linkOriginalGeneratorRecursive();
+            if (tmp != LinkageProgress.NONE) {
+                progress = LinkageProgress.SOME;
+            }
+            if (tmp == LinkageProgress.DONE) {
+                it.remove();
+            }
+        }
+
+        if (unlinkedChildren.isEmpty() && unlinkedComposites.isEmpty()) {
+            // All done, set the list to null to indicate there is nothing left to do in this generator or any of our
+            // children.
+            unlinkedComposites = null;
+            return LinkageProgress.DONE;
+        }
+
+        return progress;
+    }
+
     @Override
-    final AbstractCompositeGenerator<?> getOriginal() {
-        return (AbstractCompositeGenerator<?>) super.getOriginal();
+    final AbstractCompositeGenerator<S, R> getOriginal() {
+        return (AbstractCompositeGenerator<S, R>) super.getOriginal();
     }
 
-    final @NonNull AbstractExplicitGenerator<?> getOriginalChild(final QName childQName) {
+    @Override
+    final AbstractCompositeGenerator<S, R> tryOriginal() {
+        return (AbstractCompositeGenerator<S, R>) super.tryOriginal();
+    }
+
+    final <X extends EffectiveStatement<?, ?>, Y extends RuntimeType> @Nullable OriginalLink<X, Y> originalChild(
+            final QName childQName) {
         // First try groupings/augments ...
-        final AbstractExplicitGenerator<?> found = findInferredGenerator(childQName);
+        var found = findInferredGenerator(childQName);
         if (found != null) {
-            return found;
+            return (OriginalLink<X, Y>) OriginalLink.partial(found);
         }
 
         // ... no luck, we really need to start looking at our origin
-        final AbstractExplicitGenerator<?> prev = verifyNotNull(previous(),
-            "Failed to find %s in scope of %s", childQName, this);
+        final var prev = previous();
+        if (prev != null) {
+            final QName prevQName = childQName.bindTo(prev.getQName().getModule());
+            found = prev.findSchemaTreeGenerator(prevQName);
+            if (found != null) {
+                return (OriginalLink<X, Y>) found.originalLink();
+            }
+        }
 
-        final QName prevQName = childQName.bindTo(prev.getQName().getModule());
-        return verifyNotNull(prev.findSchemaTreeGenerator(prevQName),
-            "Failed to find child %s (proxy for %s) in %s", prevQName, childQName, prev).getOriginal();
+        return null;
     }
 
     @Override
-    final @Nullable AbstractExplicitGenerator<?> findSchemaTreeGenerator(final QName qname) {
-        final AbstractExplicitGenerator<?> found = super.findSchemaTreeGenerator(qname);
+    final AbstractExplicitGenerator<?, ?> findSchemaTreeGenerator(final QName qname) {
+        final AbstractExplicitGenerator<?, ?> found = super.findSchemaTreeGenerator(qname);
         return found != null ? found : findInferredGenerator(qname);
     }
 
-    private @Nullable AbstractExplicitGenerator<?> findInferredGenerator(final QName qname) {
-        // First search our local groupings ...
+    final @Nullable AbstractAugmentGenerator findAugmentForGenerator(final QName qname) {
+        for (var augment : augments) {
+            final var gen = augment.findSchemaTreeGenerator(qname);
+            if (gen != null) {
+                return augment;
+            }
+        }
+        return null;
+    }
+
+    final @Nullable GroupingGenerator findGroupingForGenerator(final QName qname) {
         for (GroupingGenerator grouping : groupings) {
-            final AbstractExplicitGenerator<?> gen = grouping.findSchemaTreeGenerator(
-                qname.bindTo(grouping.statement().argument().getModule()));
+            final var gen = grouping.findSchemaTreeGenerator(qname.bindTo(grouping.statement().argument().getModule()));
+            if (gen != null) {
+                return grouping;
+            }
+        }
+        return null;
+    }
+
+    private @Nullable AbstractExplicitGenerator<?, ?> findInferredGenerator(final QName qname) {
+        // First search our local groupings ...
+        for (var grouping : groupings) {
+            final var gen = grouping.findSchemaTreeGenerator(qname.bindTo(grouping.statement().argument().getModule()));
             if (gen != null) {
                 return gen;
             }
         }
         // ... next try local augments, which may have groupings themselves
-        for (AbstractAugmentGenerator augment : augments) {
-            final AbstractExplicitGenerator<?> gen = augment.findSchemaTreeGenerator(qname);
+        for (var augment : augments) {
+            final var gen = augment.findSchemaTreeGenerator(qname);
             if (gen != null) {
                 return gen;
             }
@@ -236,7 +465,7 @@ abstract class AbstractCompositeGenerator<T extends EffectiveStatement<?, ?>> ex
         for (Generator child : this) {
             // Only process explicit generators here
             if (child instanceof AbstractExplicitGenerator) {
-                ((AbstractExplicitGenerator<?>) child).addAsGetterMethod(builder, builderFactory);
+                ((AbstractExplicitGenerator<?, ?>) child).addAsGetterMethod(builder, builderFactory);
             }
 
             final GeneratedType enclosedType = child.enclosedType(builderFactory);
@@ -250,22 +479,22 @@ abstract class AbstractCompositeGenerator<T extends EffectiveStatement<?, ?>> ex
         }
     }
 
-    private List<Generator> createChildren(final EffectiveStatement<?, ?> statement) {
-        final List<Generator> tmp = new ArrayList<>();
-        final List<AbstractAugmentGenerator> tmpAug = new ArrayList<>();
+    private @NonNull List<Generator> createChildren(final EffectiveStatement<?, ?> statement) {
+        final var tmp = new ArrayList<Generator>();
+        final var tmpAug = new ArrayList<AbstractAugmentGenerator>();
 
-        for (EffectiveStatement<?, ?> stmt : statement.effectiveSubstatements()) {
+        for (var stmt : statement.effectiveSubstatements()) {
             if (stmt instanceof ActionEffectiveStatement) {
                 if (!isAugmenting(stmt)) {
                     tmp.add(new ActionGenerator((ActionEffectiveStatement) stmt, this));
                 }
             } else if (stmt instanceof AnydataEffectiveStatement) {
                 if (!isAugmenting(stmt)) {
-                    tmp.add(new OpaqueObjectGenerator<>((AnydataEffectiveStatement) stmt, this));
+                    tmp.add(new OpaqueObjectGenerator.Anydata((AnydataEffectiveStatement) stmt, this));
                 }
             } else if (stmt instanceof AnyxmlEffectiveStatement) {
                 if (!isAugmenting(stmt)) {
-                    tmp.add(new OpaqueObjectGenerator<>((AnyxmlEffectiveStatement) stmt, this));
+                    tmp.add(new OpaqueObjectGenerator.Anyxml((AnyxmlEffectiveStatement) stmt, this));
                 }
             } else if (stmt instanceof CaseEffectiveStatement) {
                 tmp.add(new CaseGenerator((CaseEffectiveStatement) stmt, this));
@@ -283,9 +512,10 @@ abstract class AbstractCompositeGenerator<T extends EffectiveStatement<?, ?>> ex
             } else if (stmt instanceof IdentityEffectiveStatement) {
                 tmp.add(new IdentityGenerator((IdentityEffectiveStatement) stmt, this));
             } else if (stmt instanceof InputEffectiveStatement) {
+                final var cast = (InputEffectiveStatement) stmt;
                 // FIXME: do not generate legacy RPC layout
-                tmp.add(this instanceof RpcGenerator ? new RpcContainerGenerator((InputEffectiveStatement) stmt, this)
-                    : new OperationContainerGenerator((InputEffectiveStatement) stmt, this));
+                tmp.add(this instanceof RpcGenerator ? new RpcInputGenerator(cast, this)
+                    : new InputGenerator(cast, this));
             } else if (stmt instanceof LeafEffectiveStatement) {
                 if (!isAugmenting(stmt)) {
                     tmp.add(new LeafGenerator((LeafEffectiveStatement) stmt, this));
@@ -309,9 +539,10 @@ abstract class AbstractCompositeGenerator<T extends EffectiveStatement<?, ?>> ex
                     tmp.add(new NotificationGenerator((NotificationEffectiveStatement) stmt, this));
                 }
             } else if (stmt instanceof OutputEffectiveStatement) {
+                final var cast = (OutputEffectiveStatement) stmt;
                 // FIXME: do not generate legacy RPC layout
-                tmp.add(this instanceof RpcGenerator ? new RpcContainerGenerator((OutputEffectiveStatement) stmt, this)
-                    : new OperationContainerGenerator((OutputEffectiveStatement) stmt, this));
+                tmp.add(this instanceof RpcGenerator ? new RpcOutputGenerator(cast, this)
+                    : new OutputGenerator(cast, this));
             } else if (stmt instanceof RpcEffectiveStatement) {
                 tmp.add(new RpcGenerator((RpcEffectiveStatement) stmt, this));
             } else if (stmt instanceof TypedefEffectiveStatement) {
@@ -338,17 +569,18 @@ abstract class AbstractCompositeGenerator<T extends EffectiveStatement<?, ?>> ex
                 final UsesEffectiveStatement uses = (UsesEffectiveStatement) stmt;
                 for (EffectiveStatement<?, ?> usesSub : uses.effectiveSubstatements()) {
                     if (usesSub instanceof AugmentEffectiveStatement) {
-                        tmpAug.add(new UsesAugmentGenerator((AugmentEffectiveStatement) usesSub, this, uses));
+                        tmpAug.add(new UsesAugmentGenerator((AugmentEffectiveStatement) usesSub, uses, this));
                     }
                 }
             } else {
                 LOG.trace("Ignoring statement {}", stmt);
-                continue;
             }
         }
 
         // Sort augments and add them last. This ensures child iteration order always reflects potential
-        // interdependencies, hence we do not need to worry about them.
+        // interdependencies, hence we do not need to worry about them. This is extremely important, as there are a
+        // number of places where we would have to either move the logic to parent statement and explicitly filter/sort
+        // substatements to establish this order.
         tmpAug.sort(AbstractAugmentGenerator.COMPARATOR);
         tmp.addAll(tmpAug);