Remove EffectiveStatementState
[yangtools.git] / yang / yang-parser-reactor / src / main / java / org / opendaylight / yangtools / yang / parser / stmt / reactor / ReactorStmtCtx.java
1 /*
2  * Copyright (c) 2020 PANTHEON.tech, s.r.o. and others.  All rights reserved.
3  *
4  * This program and the accompanying materials are made available under the
5  * terms of the Eclipse Public License v1.0 which accompanies this distribution,
6  * and is available at http://www.eclipse.org/legal/epl-v10.html
7  */
8 package org.opendaylight.yangtools.yang.parser.stmt.reactor;
9
10 import static com.google.common.base.Preconditions.checkArgument;
11 import static com.google.common.base.Verify.verify;
12
13 import com.google.common.base.MoreObjects;
14 import com.google.common.base.MoreObjects.ToStringHelper;
15 import com.google.common.base.VerifyException;
16 import java.util.Collection;
17 import java.util.Map;
18 import java.util.Optional;
19 import java.util.Set;
20 import org.eclipse.jdt.annotation.NonNull;
21 import org.eclipse.jdt.annotation.Nullable;
22 import org.opendaylight.yangtools.yang.common.QName;
23 import org.opendaylight.yangtools.yang.common.QNameModule;
24 import org.opendaylight.yangtools.yang.common.YangVersion;
25 import org.opendaylight.yangtools.yang.model.api.SchemaPath;
26 import org.opendaylight.yangtools.yang.model.api.meta.DeclaredStatement;
27 import org.opendaylight.yangtools.yang.model.api.meta.EffectiveStatement;
28 import org.opendaylight.yangtools.yang.model.api.meta.StatementDefinition;
29 import org.opendaylight.yangtools.yang.model.api.stmt.AugmentStatement;
30 import org.opendaylight.yangtools.yang.model.api.stmt.ConfigEffectiveStatement;
31 import org.opendaylight.yangtools.yang.model.api.stmt.DeviationStatement;
32 import org.opendaylight.yangtools.yang.model.api.stmt.RefineStatement;
33 import org.opendaylight.yangtools.yang.model.api.stmt.SchemaNodeIdentifier;
34 import org.opendaylight.yangtools.yang.model.api.stmt.UsesStatement;
35 import org.opendaylight.yangtools.yang.model.repo.api.SourceIdentifier;
36 import org.opendaylight.yangtools.yang.parser.spi.meta.CopyType;
37 import org.opendaylight.yangtools.yang.parser.spi.meta.EffectiveStmtCtx.Current;
38 import org.opendaylight.yangtools.yang.parser.spi.meta.InferenceException;
39 import org.opendaylight.yangtools.yang.parser.spi.meta.ModelActionBuilder;
40 import org.opendaylight.yangtools.yang.parser.spi.meta.ModelProcessingPhase;
41 import org.opendaylight.yangtools.yang.parser.spi.meta.ModelProcessingPhase.ExecutionOrder;
42 import org.opendaylight.yangtools.yang.parser.spi.meta.NamespaceBehaviour.Registry;
43 import org.opendaylight.yangtools.yang.parser.spi.meta.ParserNamespace;
44 import org.opendaylight.yangtools.yang.parser.spi.meta.StmtContext;
45 import org.opendaylight.yangtools.yang.parser.spi.meta.StmtContext.Mutable;
46 import org.opendaylight.yangtools.yang.parser.spi.meta.StmtContextUtils;
47 import org.opendaylight.yangtools.yang.parser.spi.source.SourceException;
48 import org.opendaylight.yangtools.yang.parser.spi.source.SupportedFeaturesNamespace;
49 import org.opendaylight.yangtools.yang.parser.spi.source.SupportedFeaturesNamespace.SupportedFeatures;
50 import org.slf4j.Logger;
51 import org.slf4j.LoggerFactory;
52
53 /**
54  * Real "core" reactor statement implementation of {@link Mutable}, supporting basic reactor lifecycle.
55  *
56  * @param <A> Argument type
57  * @param <D> Declared Statement representation
58  * @param <E> Effective Statement representation
59  */
60 abstract class ReactorStmtCtx<A, D extends DeclaredStatement<A>, E extends EffectiveStatement<A, D>>
61         extends NamespaceStorageSupport implements Mutable<A, D, E>, Current<A, D> {
62     private static final Logger LOG = LoggerFactory.getLogger(ReactorStmtCtx.class);
63
64     /**
65      * Substatement refcount tracking. This mechanics deals with retaining substatements for the purposes of
66      * instantiating their lazy copies in InferredStatementContext. It works in concert with {@link #buildEffective()}
67      * and {@link #declared()}: declared/effective statement views hold an implicit reference and refcount-based
68      * sweep is not activated until they are done (or this statement is not {@link #isSupportedToBuildEffective}).
69      *
70      * <p>
71      * Reference count is hierarchical in that parent references also pin down their child statements and do not allow
72      * them to be swept.
73      *
74      * <p>
75      * The counter's positive values are tracking incoming references via {@link #incRef()}/{@link #decRef()} methods.
76      * Once we transition to sweeping, this value becomes negative counting upwards to {@link #REFCOUNT_NONE} based on
77      * {@link #sweepOnChildDone()}. Once we reach that, we transition to {@link #REFCOUNT_SWEPT}.
78      */
79     private int refcount = REFCOUNT_NONE;
80     /**
81      * No outstanding references, this statement is a potential candidate for sweeping, provided it has populated its
82      * declared and effective views and {@link #parentRef} is known to be absent.
83      */
84     private static final int REFCOUNT_NONE = 0;
85     /**
86      * Reference count overflow or some other recoverable logic error. Do not rely on refcounts and do not sweep
87      * anything.
88      *
89      * <p>
90      * Note on value assignment:
91      * This allow our incRef() to naturally progress to being saturated. Others jump there directly.
92      * It also makes it  it impossible to observe {@code Interger.MAX_VALUE} children, which we take advantage of for
93      * {@link #REFCOUNT_SWEEPING}.
94      */
95     private static final int REFCOUNT_DEFUNCT = Integer.MAX_VALUE;
96     /**
97      * This statement is being actively swept. This is a transient value set when we are sweeping our children, so that
98      * we prevent re-entering this statement.
99      *
100      * <p>
101      * Note on value assignment:
102      * The value is lower than any legal child refcount due to {@link #REFCOUNT_DEFUNCT} while still being higher than
103      * {@link #REFCOUNT_SWEPT}.
104      */
105     private static final int REFCOUNT_SWEEPING = -Integer.MAX_VALUE;
106     /**
107      * This statement, along with its entire subtree has been swept and we positively know all our children have reached
108      * this state. We {@link #sweepNamespaces()} upon reaching this state.
109      *
110      * <p>
111      * Note on value assignment:
112      * This is the lowest value observable, making it easier on checking others on equality.
113      */
114     private static final int REFCOUNT_SWEPT = Integer.MIN_VALUE;
115
116     /**
117      * Effective instance built from this context. This field as dual types. Under normal circumstances in matches the
118      * {@link #buildEffective()} instance. If this context is reused, it can be inflated to {@link EffectiveInstances}
119      * and also act as a common instance reuse site.
120      */
121     private @Nullable E effectiveInstance;
122
123     // Master flag controlling whether this context can yield an effective statement
124     // FIXME: investigate the mechanics that are being supported by this, as it would be beneficial if we can get rid
125     //        of this flag -- eliminating the initial alignment shadow used by below gap-filler fields.
126     private boolean isSupportedToBuildEffective = true;
127
128     // EffectiveConfig mapping
129     private static final int MASK_CONFIG                = 0x03;
130     private static final int HAVE_CONFIG                = 0x04;
131     // Effective instantiation mechanics for StatementContextBase: if this flag is set all substatements are known not
132     // change when instantiated. This includes context-independent statements as well as any statements which are
133     // ignored during copy instantiation.
134     private static final int ALL_INDEPENDENT            = 0x08;
135     // Flag bit assignments
136     private static final int IS_SUPPORTED_BY_FEATURES   = 0x10;
137     private static final int HAVE_SUPPORTED_BY_FEATURES = 0x20;
138     private static final int IS_IGNORE_IF_FEATURE       = 0x40;
139     private static final int HAVE_IGNORE_IF_FEATURE     = 0x80;
140     // Have-and-set flag constants, also used as masks
141     private static final int SET_SUPPORTED_BY_FEATURES  = HAVE_SUPPORTED_BY_FEATURES | IS_SUPPORTED_BY_FEATURES;
142     private static final int SET_IGNORE_IF_FEATURE      = HAVE_IGNORE_IF_FEATURE | IS_IGNORE_IF_FEATURE;
143
144     private static final EffectiveConfig[] EFFECTIVE_CONFIGS;
145
146     static {
147         final EffectiveConfig[] values = EffectiveConfig.values();
148         final int length = values.length;
149         verify(length == 4, "Unexpected EffectiveConfig cardinality %s", length);
150         EFFECTIVE_CONFIGS = values;
151     }
152
153     // Flags for use with SubstatementContext. These are hiding in the alignment shadow created by above boolean and
154     // hence improve memory layout.
155     private byte flags;
156
157     // Flag for use by AbstractResumedStatement, ReplicaStatementContext and InferredStatementContext. Each of them
158     // uses it to indicated a different condition. This is hiding in the alignment shadow created by
159     // 'isSupportedToBuildEffective'.
160     // FIXME: move this out once we have JDK15+
161     private boolean boolFlag;
162
163     // SchemaPath cache for use with SubstatementContext and InferredStatementContext. This hurts RootStatementContext
164     // a bit in terms of size -- but those are only a few and SchemaPath is on its way out anyway.
165     // FIXME: this should become 'QName'
166     private SchemaPath schemaPath;
167
168     ReactorStmtCtx() {
169         // Empty on purpose
170     }
171
172     ReactorStmtCtx(final ReactorStmtCtx<A, D, E> original) {
173         isSupportedToBuildEffective = original.isSupportedToBuildEffective;
174         boolFlag = original.boolFlag;
175         flags = original.flags;
176     }
177
178     // Used by ReplicaStatementContext only
179     ReactorStmtCtx(final ReactorStmtCtx<A, D, E> original, final Void dummy) {
180         boolFlag = isSupportedToBuildEffective = original.isSupportedToBuildEffective;
181         flags = original.flags;
182     }
183
184     //
185     //
186     // Common public interface contracts with simple mechanics. Please keep this in one logical block, so we do not end
187     // up mixing concerns and simple details with more complex logic.
188     //
189     //
190
191     @Override
192     public abstract StatementContextBase<?, ?, ?> getParentContext();
193
194     @Override
195     public abstract RootStatementContext<?, ?, ?> getRoot();
196
197     @Override
198     public abstract Collection<? extends StatementContextBase<?, ?, ?>> mutableDeclaredSubstatements();
199
200     @Override
201     public final @NonNull Registry getBehaviourRegistry() {
202         return getRoot().getBehaviourRegistryImpl();
203     }
204
205     @Override
206     public final YangVersion yangVersion() {
207         return getRoot().getRootVersionImpl();
208     }
209
210     @Override
211     public final void setRootVersion(final YangVersion version) {
212         getRoot().setRootVersionImpl(version);
213     }
214
215     @Override
216     public final void addRequiredSource(final SourceIdentifier dependency) {
217         getRoot().addRequiredSourceImpl(dependency);
218     }
219
220     @Override
221     public final void setRootIdentifier(final SourceIdentifier identifier) {
222         getRoot().setRootIdentifierImpl(identifier);
223     }
224
225     @Override
226     public final boolean isEnabledSemanticVersioning() {
227         return getRoot().isEnabledSemanticVersioningImpl();
228     }
229
230     @Override
231     public final ModelActionBuilder newInferenceAction(final ModelProcessingPhase phase) {
232         return getRoot().getSourceContext().newInferenceAction(phase);
233     }
234
235     @Override
236     public final StatementDefinition publicDefinition() {
237         return definition().getPublicView();
238     }
239
240     @Override
241     public final Parent effectiveParent() {
242         return getParentContext();
243     }
244
245     @Override
246     public final QName moduleName() {
247         final RootStatementContext<?, ?, ?> root = getRoot();
248         return QName.create(StmtContextUtils.getRootModuleQName(root), root.getRawArgument());
249     }
250
251     @Override
252     public final EffectiveStatement<?, ?> original() {
253         return getOriginalCtx().map(StmtContext::buildEffective).orElse(null);
254     }
255
256     //
257     // In the next two methods we are looking for an effective statement. If we already have an effective instance,
258     // defer to it's implementation of the equivalent search. Otherwise we search our substatement contexts.
259     //
260     // Note that the search function is split, so as to allow InferredStatementContext to do its own thing first.
261     //
262
263     @Override
264     public final <X, Z extends EffectiveStatement<X, ?>> @NonNull Optional<X> findSubstatementArgument(
265             final @NonNull Class<Z> type) {
266         final E existing = effectiveInstance;
267         return existing != null ? existing.findFirstEffectiveSubstatementArgument(type)
268             : findSubstatementArgumentImpl(type);
269     }
270
271     @Override
272     public final boolean hasSubstatement(final @NonNull Class<? extends EffectiveStatement<?, ?>> type) {
273         final E existing = effectiveInstance;
274         return existing != null ? existing.findFirstEffectiveSubstatement(type).isPresent() : hasSubstatementImpl(type);
275     }
276
277     // Visible due to InferredStatementContext's override. At this point we do not have an effective instance available.
278     <X, Z extends EffectiveStatement<X, ?>> @NonNull Optional<X> findSubstatementArgumentImpl(
279             final @NonNull Class<Z> type) {
280         return allSubstatementsStream()
281             .filter(ctx -> ctx.isSupportedToBuildEffective() && ctx.producesEffective(type))
282             .findAny()
283             .map(ctx -> (X) ctx.getArgument());
284     }
285
286     // Visible due to InferredStatementContext's override. At this point we do not have an effective instance available.
287     boolean hasSubstatementImpl(final @NonNull Class<? extends EffectiveStatement<?, ?>> type) {
288         return allSubstatementsStream()
289             .anyMatch(ctx -> ctx.isSupportedToBuildEffective() && ctx.producesEffective(type));
290     }
291
292     @Override
293     @Deprecated
294     @SuppressWarnings("unchecked")
295     public final <Z extends EffectiveStatement<A, D>> StmtContext<A, D, Z> caerbannog() {
296         return (StmtContext<A, D, Z>) this;
297     }
298
299     @Override
300     public final String toString() {
301         return addToStringAttributes(MoreObjects.toStringHelper(this).omitNullValues()).toString();
302     }
303
304     protected ToStringHelper addToStringAttributes(final ToStringHelper toStringHelper) {
305         return toStringHelper.add("definition", definition()).add("rawArgument", rawArgument());
306     }
307
308     /**
309      * Return the context in which this statement was defined.
310      *
311      * @return statement definition
312      */
313     abstract @NonNull StatementDefinitionContext<A, D, E> definition();
314
315     //
316     //
317     // NamespaceStorageSupport/Mutable integration methods. Keep these together.
318     //
319     //
320
321     @Override
322     public final <K, V, T extends K, N extends ParserNamespace<K, V>> V namespaceItem(final Class<@NonNull N> type,
323             final T key) {
324         return getBehaviourRegistry().getNamespaceBehaviour(type).getFrom(this, key);
325     }
326
327     @Override
328     public final <K, V, N extends ParserNamespace<K, V>> Map<K, V> namespace(final Class<@NonNull N> type) {
329         return getNamespace(type);
330     }
331
332     @Override
333     public final <K, V, N extends ParserNamespace<K, V>>
334             Map<K, V> localNamespacePortion(final Class<@NonNull N> type) {
335         return getLocalNamespace(type);
336     }
337
338     @Override
339     protected final void checkLocalNamespaceAllowed(final Class<? extends ParserNamespace<?, ?>> type) {
340         definition().checkNamespaceAllowed(type);
341     }
342
343     @Override
344     protected <K, V, N extends ParserNamespace<K, V>> void onNamespaceElementAdded(final Class<N> type, final K key,
345             final V value) {
346         // definition().onNamespaceElementAdded(this, type, key, value);
347     }
348
349     /**
350      * Return the effective statement view of a copy operation. This method may return one of:
351      * <ul>
352      *   <li>{@code this}, when the effective view did not change</li>
353      *   <li>an InferredStatementContext, when there is a need for inference-equivalent copy</li>
354      *   <li>{@code null}, when the statement failed to materialize</li>
355      * </ul>
356      *
357      * @param parent Proposed new parent
358      * @param type Copy operation type
359      * @param targetModule New target module
360      * @return {@link ReactorStmtCtx} holding effective view
361      */
362     abstract @Nullable ReactorStmtCtx<?, ?, ?> asEffectiveChildOf(StatementContextBase<?, ?, ?> parent, CopyType type,
363         QNameModule targetModule);
364
365     @Override
366     public final ReactorStmtCtx<A, D, E> replicaAsChildOf(final Mutable<?, ?, ?> parent) {
367         checkArgument(parent instanceof StatementContextBase, "Unsupported parent %s", parent);
368         return replicaAsChildOf((StatementContextBase<?, ?, ?>) parent);
369     }
370
371     abstract @NonNull ReplicaStatementContext<A, D, E> replicaAsChildOf(@NonNull StatementContextBase<?, ?, ?> parent);
372
373     //
374     //
375     // Statement build entry points -- both public and package-private.
376     //
377     //
378
379     @Override
380     public final E buildEffective() {
381         final E existing;
382         return (existing = effectiveInstance) != null ? existing : loadEffective();
383     }
384
385     private @NonNull E loadEffective() {
386         // Creating an effective statement does not strictly require a declared instance -- there are statements like
387         // 'input', which are implicitly defined.
388         // Our implementation design makes an invariant assumption that buildDeclared() has been called by the time
389         // we attempt to create effective statement:
390         declared();
391
392         final E ret = createEffective();
393         effectiveInstance = ret;
394         // we have called createEffective(), substatements are no longer guarded by us. Let's see if we can clear up
395         // some residue.
396         if (refcount == REFCOUNT_NONE) {
397             sweepOnDecrement();
398         }
399         return ret;
400     }
401
402     abstract @NonNull E createEffective();
403
404     /**
405      * Walk this statement's copy history and return the statement closest to original which has not had its effective
406      * statements modified. This statement and returned substatement logically have the same set of substatements, hence
407      * share substatement-derived state.
408      *
409      * @return Closest {@link ReactorStmtCtx} with equivalent effective substatements
410      */
411     abstract @NonNull ReactorStmtCtx<A, D, E> unmodifiedEffectiveSource();
412
413     @Override
414     public final ModelProcessingPhase getCompletedPhase() {
415         return ModelProcessingPhase.ofExecutionOrder(executionOrder());
416     }
417
418     abstract byte executionOrder();
419
420     /**
421      * Try to execute current {@link ModelProcessingPhase} of source parsing. If the phase has already been executed,
422      * this method does nothing. This must not be called with {@link ExecutionOrder#NULL}.
423      *
424      * @param phase to be executed (completed)
425      * @return true if phase was successfully completed
426      * @throws SourceException when an error occurred in source parsing
427      */
428     final boolean tryToCompletePhase(final byte executionOrder) {
429         return executionOrder() >= executionOrder || doTryToCompletePhase(executionOrder);
430     }
431
432     abstract boolean doTryToCompletePhase(byte targetOrder);
433
434     //
435     //
436     // Flags-based mechanics. These include public interfaces as well as all the crud we have lurking in our alignment
437     // shadow.
438     //
439     //
440
441     @Override
442     public final boolean isSupportedToBuildEffective() {
443         return isSupportedToBuildEffective;
444     }
445
446     @Override
447     public final void setIsSupportedToBuildEffective(final boolean isSupportedToBuildEffective) {
448         this.isSupportedToBuildEffective = isSupportedToBuildEffective;
449     }
450
451     @Override
452     public final boolean isSupportedByFeatures() {
453         final int fl = flags & SET_SUPPORTED_BY_FEATURES;
454         if (fl != 0) {
455             return fl == SET_SUPPORTED_BY_FEATURES;
456         }
457         if (isIgnoringIfFeatures()) {
458             flags |= SET_SUPPORTED_BY_FEATURES;
459             return true;
460         }
461
462         /*
463          * If parent is supported, we need to check if-features statements of this context.
464          */
465         if (isParentSupportedByFeatures()) {
466             // If the set of supported features has not been provided, all features are supported by default.
467             final Set<QName> supportedFeatures = getFromNamespace(SupportedFeaturesNamespace.class,
468                     SupportedFeatures.SUPPORTED_FEATURES);
469             if (supportedFeatures == null || StmtContextUtils.checkFeatureSupport(this, supportedFeatures)) {
470                 flags |= SET_SUPPORTED_BY_FEATURES;
471                 return true;
472             }
473         }
474
475         // Either parent is not supported or this statement is not supported
476         flags |= HAVE_SUPPORTED_BY_FEATURES;
477         return false;
478     }
479
480     protected abstract boolean isParentSupportedByFeatures();
481
482     /**
483      * Config statements are not all that common which means we are performing a recursive search towards the root
484      * every time {@link #effectiveConfig()} is invoked. This is quite expensive because it causes a linear search
485      * for the (usually non-existent) config statement.
486      *
487      * <p>
488      * This method maintains a resolution cache, so once we have returned a result, we will keep on returning the same
489      * result without performing any lookups, solely to support {@link #effectiveConfig()}.
490      *
491      * <p>
492      * Note: use of this method implies that {@link #isIgnoringConfig()} is realized with
493      *       {@link #isIgnoringConfig(StatementContextBase)}.
494      */
495     final @NonNull EffectiveConfig effectiveConfig(final ReactorStmtCtx<?, ?, ?> parent) {
496         return (flags & HAVE_CONFIG) != 0 ? EFFECTIVE_CONFIGS[flags & MASK_CONFIG] : loadEffectiveConfig(parent);
497     }
498
499     private @NonNull EffectiveConfig loadEffectiveConfig(final ReactorStmtCtx<?, ?, ?> parent) {
500         final EffectiveConfig parentConfig = parent.effectiveConfig();
501
502         final EffectiveConfig myConfig;
503         if (parentConfig != EffectiveConfig.IGNORED && !definition().support().isIgnoringConfig()) {
504             final Optional<Boolean> optConfig = findSubstatementArgument(ConfigEffectiveStatement.class);
505             if (optConfig.isPresent()) {
506                 if (optConfig.orElseThrow()) {
507                     // Validity check: if parent is config=false this cannot be a config=true
508                     InferenceException.throwIf(parentConfig == EffectiveConfig.FALSE, this,
509                         "Parent node has config=false, this node must not be specifed as config=true");
510                     myConfig = EffectiveConfig.TRUE;
511                 } else {
512                     myConfig = EffectiveConfig.FALSE;
513                 }
514             } else {
515                 // If "config" statement is not specified, the default is the same as the parent's "config" value.
516                 myConfig = parentConfig;
517             }
518         } else {
519             myConfig = EffectiveConfig.IGNORED;
520         }
521
522         flags = (byte) (flags & ~MASK_CONFIG | HAVE_CONFIG | myConfig.ordinal());
523         return myConfig;
524     }
525
526     protected abstract boolean isIgnoringConfig();
527
528     /**
529      * This method maintains a resolution cache for ignore config, so once we have returned a result, we will
530      * keep on returning the same result without performing any lookups. Exists only to support
531      * {@link SubstatementContext#isIgnoringConfig()}.
532      *
533      * <p>
534      * Note: use of this method implies that {@link #isConfiguration()} is realized with
535      *       {@link #effectiveConfig(StatementContextBase)}.
536      */
537     final boolean isIgnoringConfig(final StatementContextBase<?, ?, ?> parent) {
538         return EffectiveConfig.IGNORED == effectiveConfig(parent);
539     }
540
541     protected abstract boolean isIgnoringIfFeatures();
542
543     /**
544      * This method maintains a resolution cache for ignore if-feature, so once we have returned a result, we will
545      * keep on returning the same result without performing any lookups. Exists only to support
546      * {@link SubstatementContext#isIgnoringIfFeatures()}.
547      */
548     final boolean isIgnoringIfFeatures(final StatementContextBase<?, ?, ?> parent) {
549         final int fl = flags & SET_IGNORE_IF_FEATURE;
550         if (fl != 0) {
551             return fl == SET_IGNORE_IF_FEATURE;
552         }
553         if (definition().support().isIgnoringIfFeatures() || parent.isIgnoringIfFeatures()) {
554             flags |= SET_IGNORE_IF_FEATURE;
555             return true;
556         }
557
558         flags |= HAVE_IGNORE_IF_FEATURE;
559         return false;
560     }
561
562     // These two exist only due to memory optimization, should live in AbstractResumedStatement.
563     final boolean fullyDefined() {
564         return boolFlag;
565     }
566
567     final void setFullyDefined() {
568         boolFlag = true;
569     }
570
571     // This exists only due to memory optimization, should live in ReplicaStatementContext. In this context the flag
572     // indicates the need to drop source's reference count when we are being swept.
573     final boolean haveSourceReference() {
574         return boolFlag;
575     }
576
577     // These three exist due to memory optimization, should live in InferredStatementContext. In this context the flag
578     // indicates whether or not this statement's substatement file was modified, i.e. it is not quite the same as the
579     // prototype's file.
580     final boolean isModified() {
581         return boolFlag;
582     }
583
584     final void setModified() {
585         boolFlag = true;
586     }
587
588     final void setUnmodified() {
589         boolFlag = false;
590     }
591
592     // These two exist only for StatementContextBase. Since we are squeezed for size, with only a single bit available
593     // in flags, we default to 'false' and only set the flag to true when we are absolutely sure -- and all other cases
594     // err on the side of caution by taking the time to evaluate each substatement separately.
595     final boolean allSubstatementsContextIndependent() {
596         return (flags & ALL_INDEPENDENT) != 0;
597     }
598
599     final void setAllSubstatementsContextIndependent() {
600         flags |= ALL_INDEPENDENT;
601     }
602
603     //
604     //
605     // Various functionality from AbstractTypeStatementSupport. This used to work on top of SchemaPath, now it still
606     // lives here. Ultimate future is either proper graduation or (more likely) move to AbstractTypeStatementSupport.
607     //
608     //
609
610     @Override
611     public final QName argumentAsTypeQName() {
612         return interpretAsQName(getRawArgument());
613     }
614
615     @Override
616     public final QNameModule effectiveNamespace() {
617         // FIXME: there has to be a better way to do this
618         return getSchemaPath().getLastComponent().getModule();
619     }
620
621     //
622     //
623     // Common SchemaPath cache. All of this is bound to be removed once YANGTOOLS-1066 is done.
624     //
625     //
626
627     // Exists only to support {SubstatementContext,InferredStatementContext}.schemaPath()
628     @Deprecated
629     final @Nullable SchemaPath substatementGetSchemaPath() {
630         if (schemaPath == null) {
631             schemaPath = createSchemaPath((StatementContextBase<?, ?, ?>) coerceParentContext());
632         }
633         return schemaPath;
634     }
635
636     // FIXME: 7.0.0: this method's logic needs to be moved to the respective StatementSupport classes
637     @Deprecated
638     private SchemaPath createSchemaPath(final StatementContextBase<?, ?, ?> parent) {
639         final SchemaPath parentPath = parent.getSchemaPath();
640         if (StmtContextUtils.isUnknownStatement(this)) {
641             return parentPath.createChild(publicDefinition().getStatementName());
642         }
643         final Object argument = argument();
644         if (argument instanceof QName) {
645             final QName qname = (QName) argument;
646             if (producesDeclared(UsesStatement.class)) {
647                 return parentPath;
648             }
649
650             return parentPath.createChild(qname);
651         }
652         if (argument instanceof String) {
653             return parentPath.createChild(interpretAsQName((String) argument));
654         }
655         if (argument instanceof SchemaNodeIdentifier
656                 && (producesDeclared(AugmentStatement.class) || producesDeclared(RefineStatement.class)
657                         || producesDeclared(DeviationStatement.class))) {
658
659             return parentPath.createChild(((SchemaNodeIdentifier) argument).getNodeIdentifiers());
660         }
661
662         // FIXME: this does not look right, investigate more?
663         return parentPath;
664     }
665
666     private @NonNull QName interpretAsQName(final String argument) {
667         // FIXME: This may yield illegal argument exceptions
668         return StmtContextUtils.qnameFromArgument(getOriginalCtx().orElse(this), argument);
669     }
670
671     //
672     //
673     // Reference counting mechanics start. Please keep these methods in one block for clarity. Note this does not
674     // contribute to state visible outside of this package.
675     //
676     //
677
678     /**
679      * Local knowledge of {@link #refcount} values up to statement root. We use this field to prevent recursive lookups
680      * in {@link #noParentRefs(StatementContextBase)} -- once we discover a parent reference once, we keep that
681      * knowledge and update it when {@link #sweep()} is invoked.
682      */
683     private byte parentRef = PARENTREF_UNKNOWN;
684     private static final byte PARENTREF_UNKNOWN = -1;
685     private static final byte PARENTREF_ABSENT  = 0;
686     private static final byte PARENTREF_PRESENT = 1;
687
688     /**
689      * Acquire a reference on this context. As long as there is at least one reference outstanding,
690      * {@link #buildEffective()} will not result in {@link #effectiveSubstatements()} being discarded.
691      *
692      * @throws VerifyException if {@link #effectiveSubstatements()} has already been discarded
693      */
694     final void incRef() {
695         final int current = refcount;
696         verify(current >= REFCOUNT_NONE, "Attempted to access reference count of %s", this);
697         if (current != REFCOUNT_DEFUNCT) {
698             // Note: can end up becoming REFCOUNT_DEFUNCT on overflow
699             refcount = current + 1;
700         } else {
701             LOG.debug("Disabled refcount increment of {}", this);
702         }
703     }
704
705     /**
706      * Release a reference on this context. This call may result in {@link #effectiveSubstatements()} becoming
707      * unavailable.
708      */
709     final void decRef() {
710         final int current = refcount;
711         if (current == REFCOUNT_DEFUNCT) {
712             // no-op
713             LOG.debug("Disabled refcount decrement of {}", this);
714             return;
715         }
716         if (current <= REFCOUNT_NONE) {
717             // Underflow, become defunct
718             // FIXME: add a global 'warn once' flag
719             LOG.warn("Statement refcount underflow, reference counting disabled for {}", this, new Throwable());
720             refcount = REFCOUNT_DEFUNCT;
721             return;
722         }
723
724         refcount = current - 1;
725         LOG.trace("Refcount {} on {}", refcount, this);
726
727         if (refcount == REFCOUNT_NONE) {
728             lastDecRef();
729         }
730     }
731
732     /**
733      * Return {@code true} if this context has no outstanding references.
734      *
735      * @return True if this context has no outstanding references.
736      */
737     final boolean noRefs() {
738         final int local = refcount;
739         return local < REFCOUNT_NONE || local == REFCOUNT_NONE && noParentRef();
740     }
741
742     private void lastDecRef() {
743         if (noImplictRef()) {
744             // We are no longer guarded by effective instance
745             sweepOnDecrement();
746             return;
747         }
748
749         final byte prevRefs = parentRef;
750         if (prevRefs == PARENTREF_ABSENT) {
751             // We are the last reference towards root, any children who observed PARENTREF_PRESENT from us need to be
752             // updated
753             markNoParentRef();
754         } else if (prevRefs == PARENTREF_UNKNOWN) {
755             // Noone observed our parentRef, just update it
756             loadParentRefcount();
757         }
758     }
759
760     static final void markNoParentRef(final Collection<? extends ReactorStmtCtx<?, ?, ?>> substatements) {
761         for (ReactorStmtCtx<?, ?, ?> stmt : substatements) {
762             final byte prevRef = stmt.parentRef;
763             stmt.parentRef = PARENTREF_ABSENT;
764             if (prevRef == PARENTREF_PRESENT && stmt.refcount == REFCOUNT_NONE) {
765                 // Child thinks it is pinned down, update its perspective
766                 stmt.markNoParentRef();
767             }
768         }
769     }
770
771     abstract void markNoParentRef();
772
773     static final void sweep(final Collection<? extends ReactorStmtCtx<?, ?, ?>> substatements) {
774         for (ReactorStmtCtx<?, ?, ?> stmt : substatements) {
775             stmt.sweep();
776         }
777     }
778
779     /**
780      * Sweep this statement context as a result of {@link #sweepSubstatements()}, i.e. when parent is also being swept.
781      */
782     private void sweep() {
783         parentRef = PARENTREF_ABSENT;
784         if (refcount == REFCOUNT_NONE && noImplictRef()) {
785             LOG.trace("Releasing {}", this);
786             sweepState();
787         }
788     }
789
790     static final int countUnswept(final Collection<? extends ReactorStmtCtx<?, ?, ?>> substatements) {
791         int result = 0;
792         for (ReactorStmtCtx<?, ?, ?> stmt : substatements) {
793             if (stmt.refcount > REFCOUNT_NONE || !stmt.noImplictRef()) {
794                 result++;
795             }
796         }
797         return result;
798     }
799
800     /**
801      * Implementation-specific sweep action. This is expected to perform a recursive {@link #sweep(Collection)} on all
802      * {@link #declaredSubstatements()} and {@link #effectiveSubstatements()} and report the result of the sweep
803      * operation.
804      *
805      * <p>
806      * {@link #effectiveSubstatements()} as well as namespaces may become inoperable as a result of this operation.
807      *
808      * @return True if the entire tree has been completely swept, false otherwise.
809      */
810     abstract int sweepSubstatements();
811
812     // Called when this statement does not have an implicit reference and have reached REFCOUNT_NONE
813     private void sweepOnDecrement() {
814         LOG.trace("Sweeping on decrement {}", this);
815         if (noParentRef()) {
816             // No further parent references, sweep our state.
817             sweepState();
818         }
819
820         // Propagate towards parent if there is one
821         final ReactorStmtCtx<?, ?, ?> parent = getParentContext();
822         if (parent != null) {
823             parent.sweepOnChildDecrement();
824         }
825     }
826
827     // Called from child when it has lost its final reference
828     private void sweepOnChildDecrement() {
829         if (isAwaitingChildren()) {
830             // We are a child for which our parent is waiting. Notify it and we are done.
831             sweepOnChildDone();
832             return;
833         }
834
835         // Check parent reference count
836         final int refs = refcount;
837         if (refs > REFCOUNT_NONE || refs <= REFCOUNT_SWEEPING || !noImplictRef()) {
838             // No-op
839             return;
840         }
841
842         // parent is potentially reclaimable
843         if (noParentRef()) {
844             LOG.trace("Cleanup {} of parent {}", refcount, this);
845             if (sweepState()) {
846                 final ReactorStmtCtx<?, ?, ?> parent = getParentContext();
847                 if (parent != null) {
848                     parent.sweepOnChildDecrement();
849                 }
850             }
851         }
852     }
853
854     private boolean noImplictRef() {
855         return effectiveInstance != null || !isSupportedToBuildEffective();
856     }
857
858     private boolean noParentRef() {
859         return parentRefcount() == PARENTREF_ABSENT;
860     }
861
862     private byte parentRefcount() {
863         final byte refs;
864         return (refs = parentRef) != PARENTREF_UNKNOWN ? refs : loadParentRefcount();
865     }
866
867     private byte loadParentRefcount() {
868         return parentRef = calculateParentRefcount();
869     }
870
871     private byte calculateParentRefcount() {
872         final ReactorStmtCtx<?, ?, ?> parent = getParentContext();
873         if (parent == null) {
874             return PARENTREF_ABSENT;
875         }
876         // There are three possibilities:
877         // - REFCOUNT_NONE, in which case we need to search next parent
878         // - negative (< REFCOUNT_NONE), meaning parent is in some stage of sweeping, hence it does not have
879         //   a reference to us
880         // - positive (> REFCOUNT_NONE), meaning parent has an explicit refcount which is holding us down
881         final int refs = parent.refcount;
882         if (refs == REFCOUNT_NONE) {
883             return parent.parentRefcount();
884         }
885         return refs < REFCOUNT_NONE ? PARENTREF_ABSENT : PARENTREF_PRESENT;
886     }
887
888     private boolean isAwaitingChildren() {
889         return refcount > REFCOUNT_SWEEPING && refcount < REFCOUNT_NONE;
890     }
891
892     private void sweepOnChildDone() {
893         LOG.trace("Sweeping on child done {}", this);
894         final int current = refcount;
895         if (current >= REFCOUNT_NONE) {
896             // no-op, perhaps we want to handle some cases differently?
897             LOG.trace("Ignoring child sweep of {} for {}", this, current);
898             return;
899         }
900         verify(current != REFCOUNT_SWEPT, "Attempt to sweep a child of swept %s", this);
901
902         refcount = current + 1;
903         LOG.trace("Child refcount {}", refcount);
904         if (refcount == REFCOUNT_NONE) {
905             sweepDone();
906             final ReactorStmtCtx<?, ?, ?> parent = getParentContext();
907             LOG.trace("Propagating to parent {}", parent);
908             if (parent != null && parent.isAwaitingChildren()) {
909                 parent.sweepOnChildDone();
910             }
911         }
912     }
913
914     private void sweepDone() {
915         LOG.trace("Sweep done for {}", this);
916         refcount = REFCOUNT_SWEPT;
917         sweepNamespaces();
918     }
919
920     private boolean sweepState() {
921         refcount = REFCOUNT_SWEEPING;
922         final int childRefs = sweepSubstatements();
923         if (childRefs == 0) {
924             sweepDone();
925             return true;
926         }
927         if (childRefs < 0 || childRefs >= REFCOUNT_DEFUNCT) {
928             // FIXME: add a global 'warn once' flag
929             LOG.warn("Negative child refcount {} cannot be stored, reference counting disabled for {}", childRefs, this,
930                 new Throwable());
931             refcount = REFCOUNT_DEFUNCT;
932         } else {
933             LOG.trace("Still {} outstanding children of {}", childRefs, this);
934             refcount = -childRefs;
935         }
936         return false;
937     }
938 }