a3f6ca286905459874d97b667fc8e1f9c31f4af0
[yangtools.git] / yang / yang-parser-reactor / src / main / java / org / opendaylight / yangtools / yang / parser / stmt / reactor / StatementContextBase.java
1 /*
2  * Copyright (c) 2015 Cisco Systems, Inc. and others.  All rights reserved.
3  *
4  * This program and the accompanying materials are made available under the
5  * terms of the Eclipse Public License v1.0 which accompanies this distribution,
6  * and is available at http://www.eclipse.org/legal/epl-v10.html
7  */
8 package org.opendaylight.yangtools.yang.parser.stmt.reactor;
9
10 import static com.google.common.base.Preconditions.checkArgument;
11 import static com.google.common.base.Preconditions.checkNotNull;
12 import static com.google.common.base.Preconditions.checkState;
13 import static com.google.common.base.Verify.verify;
14 import static java.util.Objects.requireNonNull;
15
16 import com.google.common.annotations.Beta;
17 import com.google.common.base.MoreObjects;
18 import com.google.common.base.MoreObjects.ToStringHelper;
19 import com.google.common.collect.ImmutableCollection;
20 import com.google.common.collect.ImmutableList;
21 import com.google.common.collect.ImmutableMultimap;
22 import com.google.common.collect.Multimap;
23 import com.google.common.collect.Multimaps;
24 import java.util.ArrayList;
25 import java.util.Collection;
26 import java.util.Collections;
27 import java.util.EnumMap;
28 import java.util.EventListener;
29 import java.util.Iterator;
30 import java.util.List;
31 import java.util.Map;
32 import java.util.Map.Entry;
33 import java.util.Objects;
34 import java.util.Optional;
35 import java.util.Set;
36 import org.eclipse.jdt.annotation.NonNull;
37 import org.eclipse.jdt.annotation.Nullable;
38 import org.opendaylight.yangtools.yang.common.QName;
39 import org.opendaylight.yangtools.yang.common.QNameModule;
40 import org.opendaylight.yangtools.yang.common.YangVersion;
41 import org.opendaylight.yangtools.yang.model.api.SchemaPath;
42 import org.opendaylight.yangtools.yang.model.api.meta.DeclaredStatement;
43 import org.opendaylight.yangtools.yang.model.api.meta.EffectiveStatement;
44 import org.opendaylight.yangtools.yang.model.api.meta.IdentifierNamespace;
45 import org.opendaylight.yangtools.yang.model.api.meta.StatementDefinition;
46 import org.opendaylight.yangtools.yang.model.api.meta.StatementSource;
47 import org.opendaylight.yangtools.yang.model.api.stmt.AugmentStatement;
48 import org.opendaylight.yangtools.yang.model.api.stmt.ConfigStatement;
49 import org.opendaylight.yangtools.yang.model.api.stmt.DeviationStatement;
50 import org.opendaylight.yangtools.yang.model.api.stmt.RefineStatement;
51 import org.opendaylight.yangtools.yang.model.api.stmt.SchemaNodeIdentifier;
52 import org.opendaylight.yangtools.yang.model.api.stmt.UsesStatement;
53 import org.opendaylight.yangtools.yang.model.repo.api.SourceIdentifier;
54 import org.opendaylight.yangtools.yang.parser.spi.meta.CopyHistory;
55 import org.opendaylight.yangtools.yang.parser.spi.meta.CopyType;
56 import org.opendaylight.yangtools.yang.parser.spi.meta.ImplicitParentAwareStatementSupport;
57 import org.opendaylight.yangtools.yang.parser.spi.meta.InferenceException;
58 import org.opendaylight.yangtools.yang.parser.spi.meta.ModelActionBuilder;
59 import org.opendaylight.yangtools.yang.parser.spi.meta.ModelProcessingPhase;
60 import org.opendaylight.yangtools.yang.parser.spi.meta.MutableStatement;
61 import org.opendaylight.yangtools.yang.parser.spi.meta.NamespaceBehaviour;
62 import org.opendaylight.yangtools.yang.parser.spi.meta.NamespaceBehaviour.Registry;
63 import org.opendaylight.yangtools.yang.parser.spi.meta.NamespaceKeyCriterion;
64 import org.opendaylight.yangtools.yang.parser.spi.meta.NamespaceNotAvailableException;
65 import org.opendaylight.yangtools.yang.parser.spi.meta.StatementNamespace;
66 import org.opendaylight.yangtools.yang.parser.spi.meta.StatementSupport;
67 import org.opendaylight.yangtools.yang.parser.spi.meta.StatementSupport.CopyPolicy;
68 import org.opendaylight.yangtools.yang.parser.spi.meta.StmtContext;
69 import org.opendaylight.yangtools.yang.parser.spi.meta.StmtContext.Mutable;
70 import org.opendaylight.yangtools.yang.parser.spi.meta.StmtContextUtils;
71 import org.opendaylight.yangtools.yang.parser.spi.source.ImplicitSubstatement;
72 import org.opendaylight.yangtools.yang.parser.spi.source.SourceException;
73 import org.opendaylight.yangtools.yang.parser.spi.source.SupportedFeaturesNamespace;
74 import org.opendaylight.yangtools.yang.parser.spi.source.SupportedFeaturesNamespace.SupportedFeatures;
75 import org.opendaylight.yangtools.yang.parser.stmt.reactor.NamespaceBehaviourWithListeners.KeyedValueAddedListener;
76 import org.opendaylight.yangtools.yang.parser.stmt.reactor.NamespaceBehaviourWithListeners.PredicateValueAddedListener;
77 import org.slf4j.Logger;
78 import org.slf4j.LoggerFactory;
79
80 /**
81  * Core reactor statement implementation of {@link Mutable}.
82  *
83  * @param <A> Argument type
84  * @param <D> Declared Statement representation
85  * @param <E> Effective Statement representation
86  */
87 public abstract class StatementContextBase<A, D extends DeclaredStatement<A>, E extends EffectiveStatement<A, D>>
88         extends NamespaceStorageSupport implements Mutable<A, D, E> {
89     /**
90      * Event listener when an item is added to model namespace.
91      */
92     interface OnNamespaceItemAdded extends EventListener {
93         /**
94          * Invoked whenever a new item is added to a namespace.
95          */
96         void namespaceItemAdded(StatementContextBase<?, ?, ?> context, Class<?> namespace, Object key, Object value);
97     }
98
99     /**
100      * Event listener when a parsing {@link ModelProcessingPhase} is completed.
101      */
102     interface OnPhaseFinished extends EventListener {
103         /**
104          * Invoked whenever a processing phase has finished.
105          */
106         boolean phaseFinished(StatementContextBase<?, ?, ?> context, ModelProcessingPhase finishedPhase);
107     }
108
109     /**
110      * Interface for all mutations within an {@link ModelActionBuilder.InferenceAction}.
111      */
112     interface ContextMutation {
113
114         boolean isFinished();
115     }
116
117     private static final Logger LOG = LoggerFactory.getLogger(StatementContextBase.class);
118
119     // Flag bit assignments
120     private static final int IS_SUPPORTED_BY_FEATURES    = 0x01;
121     private static final int HAVE_SUPPORTED_BY_FEATURES  = 0x02;
122     private static final int IS_IGNORE_IF_FEATURE        = 0x04;
123     private static final int HAVE_IGNORE_IF_FEATURE      = 0x08;
124     // Note: these four are related
125     private static final int IS_IGNORE_CONFIG            = 0x10;
126     private static final int HAVE_IGNORE_CONFIG          = 0x20;
127     private static final int IS_CONFIGURATION            = 0x40;
128     private static final int HAVE_CONFIGURATION          = 0x80;
129
130     // Have-and-set flag constants, also used as masks
131     private static final int SET_SUPPORTED_BY_FEATURES = HAVE_SUPPORTED_BY_FEATURES | IS_SUPPORTED_BY_FEATURES;
132     private static final int SET_CONFIGURATION = HAVE_CONFIGURATION | IS_CONFIGURATION;
133     // Note: implies SET_CONFIGURATION, allowing fewer bit operations to be performed
134     private static final int SET_IGNORE_CONFIG = HAVE_IGNORE_CONFIG | IS_IGNORE_CONFIG | SET_CONFIGURATION;
135     private static final int SET_IGNORE_IF_FEATURE = HAVE_IGNORE_IF_FEATURE | IS_IGNORE_IF_FEATURE;
136
137     private final CopyHistory copyHistory;
138     // Note: this field can strictly be derived in InferredStatementContext, but it forms the basis of many of our
139     //       operations, hence we want to keep it close by.
140     private final @NonNull StatementDefinitionContext<A, D, E> definition;
141
142     private Multimap<ModelProcessingPhase, OnPhaseFinished> phaseListeners = ImmutableMultimap.of();
143     private Multimap<ModelProcessingPhase, ContextMutation> phaseMutation = ImmutableMultimap.of();
144     private List<Mutable<?, ?, ?>> effective = ImmutableList.of();
145     private List<StmtContext<?, ?, ?>> effectOfStatement = ImmutableList.of();
146
147     private @Nullable ModelProcessingPhase completedPhase;
148     private @Nullable E effectiveInstance;
149
150     // Master flag controlling whether this context can yield an effective statement
151     // FIXME: investigate the mechanics that are being supported by this, as it would be beneficial if we can get rid
152     //        of this flag -- eliminating the initial alignment shadow used by below gap-filler fields.
153     private boolean isSupportedToBuildEffective = true;
154
155     // Flag for use with AbstractResumedStatement. This is hiding in the alignment shadow created by above boolean
156     private boolean fullyDefined;
157
158     // Flags for use with SubstatementContext. These are hiding in the alignment shadow created by above boolean and
159     // hence improve memory layout.
160     private byte flags;
161
162     // SchemaPath cache for use with SubstatementContext and InferredStatementContext. This hurts RootStatementContext
163     // a bit in terms of size -- but those are only a few and SchemaPath is on its way out anyway.
164     private volatile SchemaPath schemaPath;
165
166     // Copy constructor used by subclasses to implement reparent()
167     StatementContextBase(final StatementContextBase<A, D, E> original) {
168         this.copyHistory = original.copyHistory;
169         this.definition = original.definition;
170
171         this.isSupportedToBuildEffective = original.isSupportedToBuildEffective;
172         this.fullyDefined = original.fullyDefined;
173         this.completedPhase = original.completedPhase;
174         this.flags = original.flags;
175     }
176
177     StatementContextBase(final StatementDefinitionContext<A, D, E> def) {
178         this.definition = requireNonNull(def);
179         this.copyHistory = CopyHistory.original();
180     }
181
182     StatementContextBase(final StatementDefinitionContext<A, D, E> def, final CopyHistory copyHistory) {
183         this.definition = requireNonNull(def);
184         this.copyHistory = requireNonNull(copyHistory);
185     }
186
187     @Override
188     public Collection<? extends StmtContext<?, ?, ?>> getEffectOfStatement() {
189         return effectOfStatement;
190     }
191
192     @Override
193     public void addAsEffectOfStatement(final StmtContext<?, ?, ?> ctx) {
194         if (effectOfStatement.isEmpty()) {
195             effectOfStatement = new ArrayList<>(1);
196         }
197         effectOfStatement.add(ctx);
198     }
199
200     @Override
201     public void addAsEffectOfStatement(final Collection<? extends StmtContext<?, ?, ?>> ctxs) {
202         if (ctxs.isEmpty()) {
203             return;
204         }
205
206         if (effectOfStatement.isEmpty()) {
207             effectOfStatement = new ArrayList<>(ctxs.size());
208         }
209         effectOfStatement.addAll(ctxs);
210     }
211
212     @Override
213     public boolean isSupportedByFeatures() {
214         final int fl = flags & SET_SUPPORTED_BY_FEATURES;
215         if (fl != 0) {
216             return fl == SET_SUPPORTED_BY_FEATURES;
217         }
218         if (isIgnoringIfFeatures()) {
219             flags |= SET_SUPPORTED_BY_FEATURES;
220             return true;
221         }
222
223         /*
224          * If parent is supported, we need to check if-features statements of this context.
225          */
226         if (isParentSupportedByFeatures()) {
227             // If the set of supported features has not been provided, all features are supported by default.
228             final Set<QName> supportedFeatures = getFromNamespace(SupportedFeaturesNamespace.class,
229                     SupportedFeatures.SUPPORTED_FEATURES);
230             if (supportedFeatures == null || StmtContextUtils.checkFeatureSupport(this, supportedFeatures)) {
231                 flags |= SET_SUPPORTED_BY_FEATURES;
232                 return true;
233             }
234         }
235
236         // Either parent is not supported or this statement is not supported
237         flags |= HAVE_SUPPORTED_BY_FEATURES;
238         return false;
239     }
240
241     protected abstract boolean isParentSupportedByFeatures();
242
243     @Override
244     public boolean isSupportedToBuildEffective() {
245         return isSupportedToBuildEffective;
246     }
247
248     @Override
249     public void setIsSupportedToBuildEffective(final boolean isSupportedToBuildEffective) {
250         this.isSupportedToBuildEffective = isSupportedToBuildEffective;
251     }
252
253     @Override
254     public CopyHistory getCopyHistory() {
255         return copyHistory;
256     }
257
258     @Override
259     public ModelProcessingPhase getCompletedPhase() {
260         return completedPhase;
261     }
262
263     // FIXME: this should be propagated through a correct constructor
264     @Deprecated
265     final void setCompletedPhase(final ModelProcessingPhase completedPhase) {
266         this.completedPhase = completedPhase;
267     }
268
269     @Override
270     public abstract StatementContextBase<?, ?, ?> getParentContext();
271
272     /**
273      * Returns the model root for this statement.
274      *
275      * @return root context of statement
276      */
277     @Override
278     public abstract RootStatementContext<?, ?, ?> getRoot();
279
280     @Override
281     public final @NonNull Registry getBehaviourRegistry() {
282         return getRoot().getBehaviourRegistryImpl();
283     }
284
285     @Override
286     public final YangVersion getRootVersion() {
287         return getRoot().getRootVersionImpl();
288     }
289
290     @Override
291     public final void setRootVersion(final YangVersion version) {
292         getRoot().setRootVersionImpl(version);
293     }
294
295     @Override
296     public final void addMutableStmtToSeal(final MutableStatement mutableStatement) {
297         getRoot().addMutableStmtToSealImpl(mutableStatement);
298     }
299
300     @Override
301     public final void addRequiredSource(final SourceIdentifier dependency) {
302         getRoot().addRequiredSourceImpl(dependency);
303     }
304
305     @Override
306     public final void setRootIdentifier(final SourceIdentifier identifier) {
307         getRoot().setRootIdentifierImpl(identifier);
308     }
309
310     @Override
311     public final boolean isEnabledSemanticVersioning() {
312         return getRoot().isEnabledSemanticVersioningImpl();
313     }
314
315     @Override
316     public StatementSource getStatementSource() {
317         return getStatementSourceReference().getStatementSource();
318     }
319
320     @Override
321     public final <K, V, N extends IdentifierNamespace<K, V>> Map<K, V> getAllFromCurrentStmtCtxNamespace(
322             final Class<N> type) {
323         return getLocalNamespace(type);
324     }
325
326     @Override
327     public final <K, V, N extends IdentifierNamespace<K, V>> Map<K, V> getAllFromNamespace(final Class<N> type) {
328         return getNamespace(type);
329     }
330
331     /**
332      * Associate a value with a key within a namespace.
333      *
334      * @param type Namespace type
335      * @param key Key
336      * @param value value
337      * @param <K> namespace key type
338      * @param <V> namespace value type
339      * @param <N> namespace type
340      * @param <T> key type
341      * @param <U> value type
342      * @throws NamespaceNotAvailableException when the namespace is not available.
343      */
344     @Override
345     public final <K, V, T extends K, U extends V, N extends IdentifierNamespace<K, V>> void addToNs(
346             final Class<N> type, final T key, final U value) {
347         addToNamespace(type, key, value);
348     }
349
350     @Override
351     public abstract Collection<? extends StatementContextBase<?, ?, ?>> mutableDeclaredSubstatements();
352
353     /**
354      * Return a value associated with specified key within a namespace.
355      *
356      * @param type Namespace type
357      * @param key Key
358      * @param <K> namespace key type
359      * @param <V> namespace value type
360      * @param <N> namespace type
361      * @param <T> key type
362      * @return Value, or null if there is no element
363      * @throws NamespaceNotAvailableException when the namespace is not available.
364      */
365     @Override
366     public final <K, V, T extends K, N extends IdentifierNamespace<K, V>> V getFromNamespace(final Class<N> type,
367             final T key) {
368         return getBehaviourRegistry().getNamespaceBehaviour(type).getFrom(this, key);
369     }
370
371     @Override
372     public Collection<? extends Mutable<?, ?, ?>> mutableEffectiveSubstatements() {
373         if (effective instanceof ImmutableCollection) {
374             return effective;
375         }
376
377         return Collections.unmodifiableCollection(effective);
378     }
379
380     private void shrinkEffective() {
381         if (effective.isEmpty()) {
382             effective = ImmutableList.of();
383         }
384     }
385
386     public void removeStatementFromEffectiveSubstatements(final StatementDefinition statementDef) {
387         if (effective.isEmpty()) {
388             return;
389         }
390
391         final Iterator<? extends StmtContext<?, ?, ?>> iterator = effective.iterator();
392         while (iterator.hasNext()) {
393             final StmtContext<?, ?, ?> next = iterator.next();
394             if (statementDef.equals(next.getPublicDefinition())) {
395                 iterator.remove();
396             }
397         }
398
399         shrinkEffective();
400     }
401
402     /**
403      * Removes a statement context from the effective substatements based on its statement definition (i.e statement
404      * keyword) and raw (in String form) statement argument. The statement context is removed only if both statement
405      * definition and statement argument match with one of the effective substatements' statement definition
406      * and argument.
407      *
408      * <p>
409      * If the statementArg parameter is null, the statement context is removed based only on its statement definition.
410      *
411      * @param statementDef statement definition of the statement context to remove
412      * @param statementArg statement argument of the statement context to remove
413      */
414     public void removeStatementFromEffectiveSubstatements(final StatementDefinition statementDef,
415             final String statementArg) {
416         if (statementArg == null) {
417             removeStatementFromEffectiveSubstatements(statementDef);
418         }
419
420         if (effective.isEmpty()) {
421             return;
422         }
423
424         final Iterator<Mutable<?, ?, ?>> iterator = effective.iterator();
425         while (iterator.hasNext()) {
426             final Mutable<?, ?, ?> next = iterator.next();
427             if (statementDef.equals(next.getPublicDefinition()) && statementArg.equals(next.rawStatementArgument())) {
428                 iterator.remove();
429             }
430         }
431
432         shrinkEffective();
433     }
434
435     // YANG example: RPC/action statements always have 'input' and 'output' defined
436     @Beta
437     public <X, Y extends DeclaredStatement<X>, Z extends EffectiveStatement<X, Y>> @NonNull Mutable<X, Y, Z>
438             appendImplicitSubstatement(final StatementSupport<X, Y, Z> support, final String rawArg) {
439         // FIXME: YANGTOOLS-652: This does not need to be a SubstatementContext, in can be a specialized
440         //                       StatementContextBase subclass.
441         final Mutable<X, Y, Z> ret = new SubstatementContext<>(this, new StatementDefinitionContext<>(support),
442                 ImplicitSubstatement.of(getStatementSourceReference()), rawArg);
443         support.onStatementAdded(ret);
444         addEffectiveSubstatement(ret);
445         return ret;
446     }
447
448     /**
449      * Adds an effective statement to collection of substatements.
450      *
451      * @param substatement substatement
452      * @throws IllegalStateException
453      *             if added in declared phase
454      * @throws NullPointerException
455      *             if statement parameter is null
456      */
457     public void addEffectiveSubstatement(final Mutable<?, ?, ?> substatement) {
458         beforeAddEffectiveStatement(1);
459         effective.add(substatement);
460     }
461
462     /**
463      * Adds an effective statement to collection of substatements.
464      *
465      * @param statements substatements
466      * @throws IllegalStateException
467      *             if added in declared phase
468      * @throws NullPointerException
469      *             if statement parameter is null
470      */
471     public void addEffectiveSubstatements(final Collection<? extends Mutable<?, ?, ?>> statements) {
472         if (statements.isEmpty()) {
473             return;
474         }
475
476         statements.forEach(Objects::requireNonNull);
477         beforeAddEffectiveStatement(statements.size());
478         effective.addAll(statements);
479     }
480
481     private void beforeAddEffectiveStatement(final int toAdd) {
482         final ModelProcessingPhase inProgressPhase = getRoot().getSourceContext().getInProgressPhase();
483         checkState(inProgressPhase == ModelProcessingPhase.FULL_DECLARATION
484                 || inProgressPhase == ModelProcessingPhase.EFFECTIVE_MODEL,
485                 "Effective statement cannot be added in declared phase at: %s", getStatementSourceReference());
486
487         if (effective.isEmpty()) {
488             effective = new ArrayList<>(toAdd);
489         }
490     }
491
492     // Exists only due to memory optimization
493     final boolean fullyDefined() {
494         return fullyDefined;
495     }
496
497     // Exists only due to memory optimization, should live in AbstractResumedStatement
498     final void setFullyDefined() {
499         fullyDefined = true;
500     }
501
502     @Override
503     public E buildEffective() {
504         final E existing = effectiveInstance;
505         return existing != null ? existing : (effectiveInstance = definition.getFactory().createEffective(this));
506     }
507
508     /**
509      * tries to execute current {@link ModelProcessingPhase} of source parsing.
510      *
511      * @param phase
512      *            to be executed (completed)
513      * @return if phase was successfully completed
514      * @throws SourceException
515      *             when an error occurred in source parsing
516      */
517     boolean tryToCompletePhase(final ModelProcessingPhase phase) {
518
519         boolean finished = true;
520         final Collection<ContextMutation> openMutations = phaseMutation.get(phase);
521         if (!openMutations.isEmpty()) {
522             final Iterator<ContextMutation> it = openMutations.iterator();
523             while (it.hasNext()) {
524                 final ContextMutation current = it.next();
525                 if (current.isFinished()) {
526                     it.remove();
527                 } else {
528                     finished = false;
529                 }
530             }
531
532             if (openMutations.isEmpty()) {
533                 phaseMutation.removeAll(phase);
534                 if (phaseMutation.isEmpty()) {
535                     phaseMutation = ImmutableMultimap.of();
536                 }
537             }
538         }
539
540         for (final StatementContextBase<?, ?, ?> child : mutableDeclaredSubstatements()) {
541             finished &= child.tryToCompletePhase(phase);
542         }
543         for (final Mutable<?, ?, ?> child : effective) {
544             if (child instanceof StatementContextBase) {
545                 finished &= ((StatementContextBase<?, ?, ?>) child).tryToCompletePhase(phase);
546             }
547         }
548
549         if (finished) {
550             onPhaseCompleted(phase);
551             return true;
552         }
553         return false;
554     }
555
556     /**
557      * Occurs on end of {@link ModelProcessingPhase} of source parsing.
558      *
559      * @param phase
560      *            that was to be completed (finished)
561      * @throws SourceException
562      *             when an error occurred in source parsing
563      */
564     private void onPhaseCompleted(final ModelProcessingPhase phase) {
565         completedPhase = phase;
566
567         final Collection<OnPhaseFinished> listeners = phaseListeners.get(phase);
568         if (listeners.isEmpty()) {
569             return;
570         }
571
572         final Iterator<OnPhaseFinished> listener = listeners.iterator();
573         while (listener.hasNext()) {
574             final OnPhaseFinished next = listener.next();
575             if (next.phaseFinished(this, phase)) {
576                 listener.remove();
577             }
578         }
579
580         if (listeners.isEmpty()) {
581             phaseListeners.removeAll(phase);
582             if (phaseListeners.isEmpty()) {
583                 phaseListeners = ImmutableMultimap.of();
584             }
585         }
586     }
587
588     /**
589      * Ends declared section of current node.
590      */
591     void endDeclared(final ModelProcessingPhase phase) {
592         definition.onDeclarationFinished(this, phase);
593     }
594
595     /**
596      * Return the context in which this statement was defined.
597      *
598      * @return statement definition
599      */
600     protected final @NonNull StatementDefinitionContext<A, D, E> definition() {
601         return definition;
602     }
603
604     @Override
605     protected void checkLocalNamespaceAllowed(final Class<? extends IdentifierNamespace<?, ?>> type) {
606         definition.checkNamespaceAllowed(type);
607     }
608
609     @Override
610     protected <K, V, N extends IdentifierNamespace<K, V>> void onNamespaceElementAdded(final Class<N> type, final K key,
611             final V value) {
612         // definition().onNamespaceElementAdded(this, type, key, value);
613     }
614
615     final <K, V, N extends IdentifierNamespace<K, V>> void onNamespaceItemAddedAction(final Class<N> type, final K key,
616             final OnNamespaceItemAdded listener) {
617         final Object potential = getFromNamespace(type, key);
618         if (potential != null) {
619             LOG.trace("Listener on {} key {} satisfied immediately", type, key);
620             listener.namespaceItemAdded(this, type, key, potential);
621             return;
622         }
623
624         getBehaviour(type).addListener(new KeyedValueAddedListener<>(this, key) {
625             @Override
626             void onValueAdded(final Object value) {
627                 listener.namespaceItemAdded(StatementContextBase.this, type, key, value);
628             }
629         });
630     }
631
632     final <K, V, N extends IdentifierNamespace<K, V>> void onNamespaceItemAddedAction(final Class<N> type,
633             final ModelProcessingPhase phase, final NamespaceKeyCriterion<K> criterion,
634             final OnNamespaceItemAdded listener) {
635         final Optional<Entry<K, V>> existing = getFromNamespace(type, criterion);
636         if (existing.isPresent()) {
637             final Entry<K, V> entry = existing.get();
638             LOG.debug("Listener on {} criterion {} found a pre-existing match: {}", type, criterion, entry);
639             waitForPhase(entry.getValue(), type, phase, criterion, listener);
640             return;
641         }
642
643         final NamespaceBehaviourWithListeners<K, V, N> behaviour = getBehaviour(type);
644         behaviour.addListener(new PredicateValueAddedListener<K, V>(this) {
645             @Override
646             boolean onValueAdded(final K key, final V value) {
647                 if (criterion.match(key)) {
648                     LOG.debug("Listener on {} criterion {} matched added key {}", type, criterion, key);
649                     waitForPhase(value, type, phase, criterion, listener);
650                     return true;
651                 }
652
653                 return false;
654             }
655         });
656     }
657
658     final <K, V, N extends IdentifierNamespace<K, V>> void selectMatch(final Class<N> type,
659             final NamespaceKeyCriterion<K> criterion, final OnNamespaceItemAdded listener) {
660         final Optional<Entry<K, V>> optMatch = getFromNamespace(type, criterion);
661         checkState(optMatch.isPresent(), "Failed to find a match for criterion %s in namespace %s node %s", criterion,
662             type, this);
663         final Entry<K, V> match = optMatch.get();
664         listener.namespaceItemAdded(StatementContextBase.this, type, match.getKey(), match.getValue());
665     }
666
667     final <K, V, N extends IdentifierNamespace<K, V>> void waitForPhase(final Object value, final Class<N> type,
668             final ModelProcessingPhase phase, final NamespaceKeyCriterion<K> criterion,
669             final OnNamespaceItemAdded listener) {
670         ((StatementContextBase<?, ? ,?>) value).addPhaseCompletedListener(phase,
671             (context, phaseCompleted) -> {
672                 selectMatch(type, criterion, listener);
673                 return true;
674             });
675     }
676
677     private <K, V, N extends IdentifierNamespace<K, V>> NamespaceBehaviourWithListeners<K, V, N> getBehaviour(
678             final Class<N> type) {
679         final NamespaceBehaviour<K, V, N> behaviour = getBehaviourRegistry().getNamespaceBehaviour(type);
680         checkArgument(behaviour instanceof NamespaceBehaviourWithListeners, "Namespace %s does not support listeners",
681             type);
682
683         return (NamespaceBehaviourWithListeners<K, V, N>) behaviour;
684     }
685
686     @Override
687     public StatementDefinition getPublicDefinition() {
688         return definition.getPublicView();
689     }
690
691     @Override
692     public ModelActionBuilder newInferenceAction(final ModelProcessingPhase phase) {
693         return getRoot().getSourceContext().newInferenceAction(phase);
694     }
695
696     private static <T> Multimap<ModelProcessingPhase, T> newMultimap() {
697         return Multimaps.newListMultimap(new EnumMap<>(ModelProcessingPhase.class), () -> new ArrayList<>(1));
698     }
699
700     /**
701      * Adds {@link OnPhaseFinished} listener for a {@link ModelProcessingPhase} end. If the base has already completed
702      * the listener is notified immediately.
703      *
704      * @param phase requested completion phase
705      * @param listener listener to invoke
706      * @throws NullPointerException if any of the arguments is null
707      */
708     void addPhaseCompletedListener(final ModelProcessingPhase phase, final OnPhaseFinished listener) {
709         checkNotNull(phase, "Statement context processing phase cannot be null at: %s", getStatementSourceReference());
710         checkNotNull(listener, "Statement context phase listener cannot be null at: %s", getStatementSourceReference());
711
712         ModelProcessingPhase finishedPhase = completedPhase;
713         while (finishedPhase != null) {
714             if (phase.equals(finishedPhase)) {
715                 listener.phaseFinished(this, finishedPhase);
716                 return;
717             }
718             finishedPhase = finishedPhase.getPreviousPhase();
719         }
720         if (phaseListeners.isEmpty()) {
721             phaseListeners = newMultimap();
722         }
723
724         phaseListeners.put(phase, listener);
725     }
726
727     /**
728      * Adds a {@link ContextMutation} to a {@link ModelProcessingPhase}.
729      *
730      * @throws IllegalStateException
731      *             when the mutation was registered after phase was completed
732      */
733     void addMutation(final ModelProcessingPhase phase, final ContextMutation mutation) {
734         ModelProcessingPhase finishedPhase = completedPhase;
735         while (finishedPhase != null) {
736             checkState(!phase.equals(finishedPhase), "Mutation registered after phase was completed at: %s",
737                 getStatementSourceReference());
738             finishedPhase = finishedPhase.getPreviousPhase();
739         }
740
741         if (phaseMutation.isEmpty()) {
742             phaseMutation = newMultimap();
743         }
744         phaseMutation.put(phase, mutation);
745     }
746
747     @Override
748     public <K, KT extends K, N extends StatementNamespace<K, ?, ?>> void addContext(final Class<N> namespace,
749             final KT key,final StmtContext<?, ?, ?> stmt) {
750         addContextToNamespace(namespace, key, stmt);
751     }
752
753     @Override
754     public Optional<? extends Mutable<?, ?, ?>> copyAsChildOf(final Mutable<?, ?, ?> parent, final CopyType type,
755             final QNameModule targetModule) {
756         checkEffectiveModelCompleted(this);
757
758         final StatementSupport<A, D, E> support = definition.support();
759         final CopyPolicy policy = support.applyCopyPolicy(this, parent, type, targetModule);
760         switch (policy) {
761             case CONTEXT_INDEPENDENT:
762                 if (hasEmptySubstatements()) {
763                     // This statement is context-independent and has no substatements -- hence it can be freely shared.
764                     return Optional.of(this);
765                 }
766                 // FIXME: YANGTOOLS-694: filter out all context-independent substatements, eliminate fall-through
767                 // fall through
768             case DECLARED_COPY:
769                 // FIXME: YANGTOOLS-694: this is still to eager, we really want to copy as a lazily-instantiated
770                 //                       context, so that we can support building an effective statement without copying
771                 //                       anything -- we will typically end up not being inferred against. In that case,
772                 //                       this slim context should end up dealing with differences at buildContext()
773                 //                       time. This is a YANGTOOLS-1067 prerequisite (which will deal with what can and
774                 //                       cannot be shared across instances).
775                 return Optional.of(parent.childCopyOf(this, type, targetModule));
776             case IGNORE:
777                 return Optional.empty();
778             default:
779                 throw new IllegalStateException("Unhandled policy " + policy);
780         }
781     }
782
783     @Override
784     public final Mutable<?, ?, ?> childCopyOf(final StmtContext<?, ?, ?> stmt, final CopyType type,
785             final QNameModule targetModule) {
786         checkEffectiveModelCompleted(stmt);
787         checkArgument(stmt instanceof StatementContextBase, "Unsupported statement %s", stmt);
788         return childCopyOf((StatementContextBase<?, ?, ?>) stmt, type, targetModule);
789     }
790
791     private <X, Y extends DeclaredStatement<X>, Z extends EffectiveStatement<X, Y>> Mutable<X, Y, Z> childCopyOf(
792             final StatementContextBase<X, Y, Z> original, final CopyType type, final QNameModule targetModule) {
793         final Optional<StatementSupport<?, ?, ?>> implicitParent = definition.getImplicitParentFor(
794             original.getPublicDefinition());
795
796         final StatementContextBase<X, Y, Z> result;
797         final InferredStatementContext<X, Y, Z> copy;
798
799         if (implicitParent.isPresent()) {
800             final StatementDefinitionContext<?, ?, ?> def = new StatementDefinitionContext<>(implicitParent.get());
801             result = new SubstatementContext(this, def, original.getStatementSourceReference(),
802                 original.rawStatementArgument(), original.getStatementArgument(), type);
803
804             final CopyType childCopyType;
805             switch (type) {
806                 case ADDED_BY_AUGMENTATION:
807                     childCopyType = CopyType.ORIGINAL;
808                     break;
809                 case ADDED_BY_USES_AUGMENTATION:
810                     childCopyType = CopyType.ADDED_BY_USES;
811                     break;
812                 case ADDED_BY_USES:
813                 case ORIGINAL:
814                 default:
815                     childCopyType = type;
816             }
817
818             copy = new InferredStatementContext<>(result, original, childCopyType, type, targetModule);
819             result.addEffectiveSubstatement(copy);
820         } else {
821             result = copy = new InferredStatementContext<>(this, original, type, type, targetModule);
822         }
823
824         original.definition.onStatementAdded(copy);
825         return result;
826     }
827
828     private static void checkEffectiveModelCompleted(final StmtContext<?, ?, ?> stmt) {
829         final ModelProcessingPhase phase = stmt.getCompletedPhase();
830         checkState(phase == ModelProcessingPhase.EFFECTIVE_MODEL,
831                 "Attempted to copy statement %s which has completed phase %s", stmt, phase);
832     }
833
834     @Beta
835     public final boolean hasImplicitParentSupport() {
836         return definition.getFactory() instanceof ImplicitParentAwareStatementSupport;
837     }
838
839     @Beta
840     public final StatementContextBase<?, ?, ?> wrapWithImplicit(final StatementContextBase<?, ?, ?> original) {
841         final Optional<StatementSupport<?, ?, ?>> optImplicit = definition.getImplicitParentFor(
842             original.getPublicDefinition());
843         if (optImplicit.isEmpty()) {
844             return original;
845         }
846
847         final StatementDefinitionContext<?, ?, ?> def = new StatementDefinitionContext<>(optImplicit.get());
848         final CopyType type = original.getCopyHistory().getLastOperation();
849         final SubstatementContext<?, ?, ?> result = new SubstatementContext(original.getParentContext(), def,
850             original.getStatementSourceReference(), original.rawStatementArgument(), original.getStatementArgument(),
851             type);
852
853         result.addEffectiveSubstatement(original.reparent(result));
854         result.setCompletedPhase(original.getCompletedPhase());
855         return result;
856     }
857
858     abstract StatementContextBase<A, D, E> reparent(StatementContextBase<?, ?, ?> newParent);
859
860     /**
861      * Indicate that the set of substatements is empty. This is a preferred shortcut to substatement stream filtering.
862      *
863      * @return True if {@link #allSubstatements()} and {@link #allSubstatementsStream()} would return an empty stream.
864      */
865     abstract boolean hasEmptySubstatements();
866
867     final boolean hasEmptyEffectiveSubstatements() {
868         return effective.isEmpty();
869     }
870
871     /**
872      * Config statements are not all that common which means we are performing a recursive search towards the root
873      * every time {@link #isConfiguration()} is invoked. This is quite expensive because it causes a linear search
874      * for the (usually non-existent) config statement.
875      *
876      * <p>
877      * This method maintains a resolution cache, so once we have returned a result, we will keep on returning the same
878      * result without performing any lookups, solely to support {@link SubstatementContext#isConfiguration()}.
879      *
880      * <p>
881      * Note: use of this method implies that {@link #isIgnoringConfig()} is realized with
882      *       {@link #isIgnoringConfig(StatementContextBase)}.
883      */
884     final boolean isConfiguration(final StatementContextBase<?, ?, ?> parent) {
885         final int fl = flags & SET_CONFIGURATION;
886         if (fl != 0) {
887             return fl == SET_CONFIGURATION;
888         }
889         if (isIgnoringConfig(parent)) {
890             // Note: SET_CONFIGURATION has been stored in flags
891             return true;
892         }
893
894         final StmtContext<Boolean, ?, ?> configStatement = StmtContextUtils.findFirstSubstatement(this,
895             ConfigStatement.class);
896         final boolean isConfig;
897         if (configStatement != null) {
898             isConfig = configStatement.coerceStatementArgument();
899             if (isConfig) {
900                 // Validity check: if parent is config=false this cannot be a config=true
901                 InferenceException.throwIf(!parent.isConfiguration(), getStatementSourceReference(),
902                         "Parent node has config=false, this node must not be specifed as config=true");
903             }
904         } else {
905             // If "config" statement is not specified, the default is the same as the parent's "config" value.
906             isConfig = parent.isConfiguration();
907         }
908
909         // Resolved, make sure we cache this return
910         flags |= isConfig ? SET_CONFIGURATION : HAVE_CONFIGURATION;
911         return isConfig;
912     }
913
914     protected abstract boolean isIgnoringConfig();
915
916     /**
917      * This method maintains a resolution cache for ignore config, so once we have returned a result, we will
918      * keep on returning the same result without performing any lookups. Exists only to support
919      * {@link SubstatementContext#isIgnoringConfig()}.
920      *
921      * <p>
922      * Note: use of this method implies that {@link #isConfiguration()} is realized with
923      *       {@link #isConfiguration(StatementContextBase)}.
924      */
925     final boolean isIgnoringConfig(final StatementContextBase<?, ?, ?> parent) {
926         final int fl = flags & SET_IGNORE_CONFIG;
927         if (fl != 0) {
928             return fl == SET_IGNORE_CONFIG;
929         }
930         if (definition.support().isIgnoringConfig() || parent.isIgnoringConfig()) {
931             flags |= SET_IGNORE_CONFIG;
932             return true;
933         }
934
935         flags |= HAVE_IGNORE_CONFIG;
936         return false;
937     }
938
939     protected abstract boolean isIgnoringIfFeatures();
940
941     /**
942      * This method maintains a resolution cache for ignore if-feature, so once we have returned a result, we will
943      * keep on returning the same result without performing any lookups. Exists only to support
944      * {@link SubstatementContext#isIgnoringIfFeatures()}.
945      */
946     final boolean isIgnoringIfFeatures(final StatementContextBase<?, ?, ?> parent) {
947         final int fl = flags & SET_IGNORE_IF_FEATURE;
948         if (fl != 0) {
949             return fl == SET_IGNORE_IF_FEATURE;
950         }
951         if (definition.support().isIgnoringIfFeatures() || parent.isIgnoringIfFeatures()) {
952             flags |= SET_IGNORE_IF_FEATURE;
953             return true;
954         }
955
956         flags |= HAVE_IGNORE_IF_FEATURE;
957         return false;
958     }
959
960     // Exists only to support SubstatementContext/InferredStatementContext
961     final @NonNull Optional<SchemaPath> substatementGetSchemaPath() {
962         SchemaPath local = schemaPath;
963         if (local == null) {
964             synchronized (this) {
965                 local = schemaPath;
966                 if (local == null) {
967                     local = createSchemaPath(coerceParentContext());
968                     schemaPath = local;
969                 }
970             }
971         }
972
973         return Optional.ofNullable(local);
974     }
975
976     private SchemaPath createSchemaPath(final Mutable<?, ?, ?> parent) {
977         final Optional<SchemaPath> maybeParentPath = parent.getSchemaPath();
978         verify(maybeParentPath.isPresent(), "Parent %s does not have a SchemaPath", parent);
979         final SchemaPath parentPath = maybeParentPath.get();
980
981         if (StmtContextUtils.isUnknownStatement(this)) {
982             return parentPath.createChild(getPublicDefinition().getStatementName());
983         }
984         final Object argument = getStatementArgument();
985         if (argument instanceof QName) {
986             final QName qname = (QName) argument;
987             if (StmtContextUtils.producesDeclared(this, UsesStatement.class)) {
988                 return maybeParentPath.orElse(null);
989             }
990
991             return parentPath.createChild(qname);
992         }
993         if (argument instanceof String) {
994             // FIXME: This may yield illegal argument exceptions
995             final Optional<StmtContext<A, D, E>> originalCtx = getOriginalCtx();
996             final QName qname = StmtContextUtils.qnameFromArgument(originalCtx.orElse(this), (String) argument);
997             return parentPath.createChild(qname);
998         }
999         if (argument instanceof SchemaNodeIdentifier
1000                 && (StmtContextUtils.producesDeclared(this, AugmentStatement.class)
1001                         || StmtContextUtils.producesDeclared(this, RefineStatement.class)
1002                         || StmtContextUtils.producesDeclared(this, DeviationStatement.class))) {
1003
1004             return parentPath.createChild(((SchemaNodeIdentifier) argument).getPathFromRoot());
1005         }
1006
1007         // FIXME: this does not look right
1008         return maybeParentPath.orElse(null);
1009     }
1010
1011     @Override
1012     public final String toString() {
1013         return addToStringAttributes(MoreObjects.toStringHelper(this).omitNullValues()).toString();
1014     }
1015
1016     protected ToStringHelper addToStringAttributes(final ToStringHelper toStringHelper) {
1017         return toStringHelper.add("definition", definition).add("rawArgument", rawStatementArgument());
1018     }
1019 }