parser/yang-parser-reactor/src/main/java/org/opendaylight/yangtools/yang/parser/stmt/reactor/BuildGlobalContext.java

   1 /*
   2  * Copyright (c) 2015 Cisco Systems, Inc. and others.  All rights reserved.
   3  *
   4  * This program and the accompanying materials are made available under the
   5  * terms of the Eclipse Public License v1.0 which accompanies this distribution,
   6  * and is available at http://www.eclipse.org/legal/epl-v10.html
   7  */
   8 package org.opendaylight.yangtools.yang.parser.stmt.reactor;
   9
  10 import static com.google.common.base.Preconditions.checkState;
  11 import static java.util.Objects.requireNonNull;
  12
  13 import com.google.common.base.Verify;
  14 import com.google.common.collect.HashBasedTable;
  15 import com.google.common.collect.ImmutableMap;
  16 import com.google.common.collect.ImmutableSet;
  17 import com.google.common.collect.ImmutableSetMultimap;
  18 import com.google.common.collect.SetMultimap;
  19 import com.google.common.collect.Table;
  20 import com.google.common.collect.TreeBasedTable;
  21 import java.util.ArrayList;
  22 import java.util.Collection;
  23 import java.util.HashMap;
  24 import java.util.HashSet;
  25 import java.util.Iterator;
  26 import java.util.List;
  27 import java.util.Map;
  28 import java.util.Objects;
  29 import java.util.Optional;
  30 import java.util.Set;
  31 import java.util.SortedMap;
  32 import org.eclipse.jdt.annotation.NonNull;
  33 import org.opendaylight.yangtools.yang.common.QName;
  34 import org.opendaylight.yangtools.yang.common.QNameModule;
  35 import org.opendaylight.yangtools.yang.common.Revision;
  36 import org.opendaylight.yangtools.yang.common.YangVersion;
  37 import org.opendaylight.yangtools.yang.model.api.meta.DeclaredStatement;
  38 import org.opendaylight.yangtools.yang.model.api.meta.EffectiveStatement;
  39 import org.opendaylight.yangtools.yang.model.repo.api.RevisionSourceIdentifier;
  40 import org.opendaylight.yangtools.yang.model.repo.api.SourceIdentifier;
  41 import org.opendaylight.yangtools.yang.parser.spi.meta.DerivedNamespaceBehaviour;
  42 import org.opendaylight.yangtools.yang.parser.spi.meta.ModelProcessingPhase;
  43 import org.opendaylight.yangtools.yang.parser.spi.meta.MutableStatement;
  44 import org.opendaylight.yangtools.yang.parser.spi.meta.NamespaceBehaviour;
  45 import org.opendaylight.yangtools.yang.parser.spi.meta.NamespaceBehaviour.NamespaceStorageNode;
  46 import org.opendaylight.yangtools.yang.parser.spi.meta.NamespaceBehaviour.Registry;
  47 import org.opendaylight.yangtools.yang.parser.spi.meta.NamespaceBehaviour.StorageNodeType;
  48 import org.opendaylight.yangtools.yang.parser.spi.meta.NamespaceNotAvailableException;
  49 import org.opendaylight.yangtools.yang.parser.spi.meta.ParserNamespace;
  50 import org.opendaylight.yangtools.yang.parser.spi.meta.ReactorException;
  51 import org.opendaylight.yangtools.yang.parser.spi.meta.SomeModifiersUnresolvedException;
  52 import org.opendaylight.yangtools.yang.parser.spi.meta.StatementSupport;
  53 import org.opendaylight.yangtools.yang.parser.spi.meta.StatementSupportBundle;
  54 import org.opendaylight.yangtools.yang.parser.spi.meta.StmtContext;
  55 import org.opendaylight.yangtools.yang.parser.spi.meta.StmtContextUtils;
  56 import org.opendaylight.yangtools.yang.parser.spi.source.ModuleCtxToModuleQName;
  57 import org.opendaylight.yangtools.yang.parser.spi.source.ModulesDeviatedByModules;
  58 import org.opendaylight.yangtools.yang.parser.spi.source.ModulesDeviatedByModules.SupportedModules;
  59 import org.opendaylight.yangtools.yang.parser.spi.source.SourceException;
  60 import org.opendaylight.yangtools.yang.parser.spi.source.StatementStreamSource;
  61 import org.opendaylight.yangtools.yang.parser.spi.source.SupportedFeaturesNamespace;
  62 import org.opendaylight.yangtools.yang.parser.spi.source.SupportedFeaturesNamespace.SupportedFeatures;
  63 import org.opendaylight.yangtools.yang.parser.spi.validation.ValidationBundlesNamespace;
  64 import org.opendaylight.yangtools.yang.parser.spi.validation.ValidationBundlesNamespace.ValidationBundleType;
  65 import org.opendaylight.yangtools.yang.parser.stmt.reactor.SourceSpecificContext.PhaseCompletionProgress;
  66 import org.slf4j.Logger;
  67 import org.slf4j.LoggerFactory;
  68
  69 final class BuildGlobalContext extends NamespaceStorageSupport implements Registry {
  70     private static final Logger LOG = LoggerFactory.getLogger(BuildGlobalContext.class);
  71
  72     private static final ModelProcessingPhase[] PHASE_EXECUTION_ORDER = {
  73         ModelProcessingPhase.SOURCE_PRE_LINKAGE,
  74         ModelProcessingPhase.SOURCE_LINKAGE,
  75         ModelProcessingPhase.STATEMENT_DEFINITION,
  76         ModelProcessingPhase.FULL_DECLARATION,
  77         ModelProcessingPhase.EFFECTIVE_MODEL
  78     };
  79
  80     private final Table<YangVersion, QName, StatementDefinitionContext<?, ?, ?>> definitions = HashBasedTable.create();
  81     private final Map<QName, StatementDefinitionContext<?, ?, ?>> modelDefinedStmtDefs = new HashMap<>();
  82     private final Map<Class<?>, NamespaceBehaviourWithListeners<?, ?, ?>> supportedNamespaces = new HashMap<>();
  83     private final List<MutableStatement> mutableStatementsToSeal = new ArrayList<>();
  84     private final ImmutableMap<ModelProcessingPhase, StatementSupportBundle> supports;
  85     private final Set<SourceSpecificContext> sources = new HashSet<>();
  86     private final ImmutableSet<YangVersion> supportedVersions;
  87
  88     private Set<SourceSpecificContext> libSources = new HashSet<>();
  89     private ModelProcessingPhase currentPhase = ModelProcessingPhase.INIT;
  90     private ModelProcessingPhase finishedPhase = ModelProcessingPhase.INIT;
  91
  92     BuildGlobalContext(final ImmutableMap<ModelProcessingPhase, StatementSupportBundle> supports,
  93             final ImmutableMap<ValidationBundleType, Collection<?>> supportedValidation) {
  94         this.supports = requireNonNull(supports, "BuildGlobalContext#supports cannot be null");
  95
  96         addToNamespace(ValidationBundlesNamespace.class, supportedValidation);
  97
  98         this.supportedVersions = ImmutableSet.copyOf(supports.get(ModelProcessingPhase.INIT).getSupportedVersions());
  99     }
 100
 101     StatementSupportBundle getSupportsForPhase(final ModelProcessingPhase phase) {
 102         return supports.get(phase);
 103     }
 104
 105     void addSource(final @NonNull StatementStreamSource source) {
 106         sources.add(new SourceSpecificContext(this, source));
 107     }
 108
 109     void addLibSource(final @NonNull StatementStreamSource libSource) {
 110         checkState(currentPhase == ModelProcessingPhase.INIT,
 111                 "Add library source is allowed in ModelProcessingPhase.INIT only");
 112         libSources.add(new SourceSpecificContext(this, libSource));
 113     }
 114
 115     void setSupportedFeatures(final Set<QName> supportedFeatures) {
 116         addToNamespace(SupportedFeaturesNamespace.class, SupportedFeatures.SUPPORTED_FEATURES,
 117                     ImmutableSet.copyOf(supportedFeatures));
 118     }
 119
 120     void setModulesDeviatedByModules(final SetMultimap<QNameModule, QNameModule> modulesDeviatedByModules) {
 121         addToNamespace(ModulesDeviatedByModules.class, SupportedModules.SUPPORTED_MODULES,
 122                     ImmutableSetMultimap.copyOf(modulesDeviatedByModules));
 123     }
 124
 125     @Override
 126     public StorageNodeType getStorageNodeType() {
 127         return StorageNodeType.GLOBAL;
 128     }
 129
 130     @Override
 131     public NamespaceStorageNode getParentNamespaceStorage() {
 132         return null;
 133     }
 134
 135     @Override
 136     public NamespaceBehaviour.Registry getBehaviourRegistry() {
 137         return this;
 138     }
 139
 140     @Override
 141     public <K, V, N extends ParserNamespace<K, V>> NamespaceBehaviourWithListeners<K, V, N> getNamespaceBehaviour(
 142             final Class<N> type) {
 143         NamespaceBehaviourWithListeners<?, ?, ?> potential = supportedNamespaces.get(type);
 144         if (potential == null) {
 145             final NamespaceBehaviour<K, V, N> potentialRaw = supports.get(currentPhase).getNamespaceBehaviour(type);
 146             if (potentialRaw != null) {
 147                 potential = createNamespaceContext(potentialRaw);
 148                 supportedNamespaces.put(type, potential);
 149             } else {
 150                 throw new NamespaceNotAvailableException("Namespace " + type + " is not available in phase "
 151                         + currentPhase);
 152             }
 153         }
 154
 155         Verify.verify(type.equals(potential.getIdentifier()));
 156         /*
 157          * Safe cast, previous checkState checks equivalence of key from which
 158          * type argument are derived
 159          */
 160         return (NamespaceBehaviourWithListeners<K, V, N>) potential;
 161     }
 162
 163     @SuppressWarnings({ "unchecked", "rawtypes" })
 164     private <K, V, N extends ParserNamespace<K, V>> NamespaceBehaviourWithListeners<K, V, N> createNamespaceContext(
 165             final NamespaceBehaviour<K, V, N> potentialRaw) {
 166         if (potentialRaw instanceof DerivedNamespaceBehaviour) {
 167             final VirtualNamespaceContext derivedContext = new VirtualNamespaceContext(
 168                     (DerivedNamespaceBehaviour) potentialRaw);
 169             getNamespaceBehaviour(((DerivedNamespaceBehaviour) potentialRaw).getDerivedFrom()).addDerivedNamespace(
 170                     derivedContext);
 171             return derivedContext;
 172         }
 173         return new SimpleNamespaceContext<>(potentialRaw);
 174     }
 175
 176     StatementDefinitionContext<?, ?, ?> getStatementDefinition(final YangVersion version, final QName name) {
 177         StatementDefinitionContext<?, ?, ?> potential = definitions.get(version, name);
 178         if (potential == null) {
 179             final StatementSupport<?, ?, ?> potentialRaw = supports.get(currentPhase).getStatementDefinition(version,
 180                     name);
 181             if (potentialRaw != null) {
 182                 potential = new StatementDefinitionContext<>(potentialRaw);
 183                 definitions.put(version, name, potential);
 184             }
 185         }
 186         return potential;
 187     }
 188
 189     StatementDefinitionContext<?, ?, ?> getModelDefinedStatementDefinition(final QName name) {
 190         return modelDefinedStmtDefs.get(name);
 191     }
 192
 193     void putModelDefinedStatementDefinition(final QName name, final StatementDefinitionContext<?, ?, ?> def) {
 194         modelDefinedStmtDefs.put(name, def);
 195     }
 196
 197     private void executePhases() throws ReactorException {
 198         for (final ModelProcessingPhase phase : PHASE_EXECUTION_ORDER) {
 199             startPhase(phase);
 200             loadPhaseStatements();
 201             completePhaseActions();
 202             endPhase(phase);
 203         }
 204     }
 205
 206     ReactorDeclaredModel build() throws ReactorException {
 207         executePhases();
 208         return transform();
 209     }
 210
 211     EffectiveSchemaContext buildEffective() throws ReactorException {
 212         executePhases();
 213         return transformEffective();
 214     }
 215
 216     private ReactorDeclaredModel transform() {
 217         checkState(finishedPhase == ModelProcessingPhase.EFFECTIVE_MODEL);
 218         final List<DeclaredStatement<?>> rootStatements = new ArrayList<>(sources.size());
 219         for (final SourceSpecificContext source : sources) {
 220             rootStatements.add(source.getRoot().declared());
 221         }
 222         return new ReactorDeclaredModel(rootStatements);
 223     }
 224
 225     private SomeModifiersUnresolvedException propagateException(final SourceSpecificContext source,
 226             final RuntimeException cause) throws SomeModifiersUnresolvedException {
 227         final SourceIdentifier sourceId = createSourceIdentifier(source.getRoot());
 228         if (!(cause instanceof SourceException)) {
 229             /*
 230              * This should not be happening as all our processing should provide SourceExceptions.
 231              * We will wrap the exception to provide enough information to identify the problematic model,
 232              * but also emit a warning so the offending codepath will get fixed.
 233              */
 234             LOG.warn("Unexpected error processing source {}. Please file an issue with this model attached.",
 235                 sourceId, cause);
 236         }
 237
 238         throw new SomeModifiersUnresolvedException(currentPhase, sourceId, cause);
 239     }
 240
 241     private static SourceIdentifier createSourceIdentifier(final StmtContext<?, ?, ?> root) {
 242         final QNameModule qNameModule = root.getFromNamespace(ModuleCtxToModuleQName.class, root);
 243         final String arg = root.getRawArgument();
 244         if (qNameModule != null) {
 245             // creates SourceIdentifier for a module
 246             return RevisionSourceIdentifier.create(arg, qNameModule.getRevision());
 247         }
 248
 249         // creates SourceIdentifier for a submodule
 250         return RevisionSourceIdentifier.create(arg, StmtContextUtils.getLatestRevision(root.declaredSubstatements()));
 251     }
 252
 253     @SuppressWarnings("checkstyle:illegalCatch")
 254     private EffectiveSchemaContext transformEffective() throws ReactorException {
 255         checkState(finishedPhase == ModelProcessingPhase.EFFECTIVE_MODEL);
 256         final List<DeclaredStatement<?>> rootStatements = new ArrayList<>(sources.size());
 257         final List<EffectiveStatement<?, ?>> rootEffectiveStatements = new ArrayList<>(sources.size());
 258
 259         for (final SourceSpecificContext source : sources) {
 260             final RootStatementContext<?, ?, ?> root = source.getRoot();
 261             try {
 262                 rootStatements.add(root.declared());
 263                 rootEffectiveStatements.add(root.buildEffective());
 264             } catch (final RuntimeException ex) {
 265                 throw propagateException(source, ex);
 266             }
 267         }
 268
 269         sealMutableStatements();
 270         return EffectiveSchemaContext.create(rootStatements, rootEffectiveStatements);
 271     }
 272
 273     private void startPhase(final ModelProcessingPhase phase) {
 274         checkState(Objects.equals(finishedPhase, phase.getPreviousPhase()));
 275         startPhaseFor(phase, sources);
 276         startPhaseFor(phase, libSources);
 277
 278         currentPhase = phase;
 279         LOG.debug("Global phase {} started", phase);
 280     }
 281
 282     private static void startPhaseFor(final ModelProcessingPhase phase, final Set<SourceSpecificContext> sources) {
 283         for (final SourceSpecificContext source : sources) {
 284             source.startPhase(phase);
 285         }
 286     }
 287
 288     private void loadPhaseStatements() throws ReactorException {
 289         checkState(currentPhase != null);
 290         loadPhaseStatementsFor(sources);
 291         loadPhaseStatementsFor(libSources);
 292     }
 293
 294     @SuppressWarnings("checkstyle:illegalCatch")
 295     private void loadPhaseStatementsFor(final Set<SourceSpecificContext> srcs) throws ReactorException {
 296         for (final SourceSpecificContext source : srcs) {
 297             try {
 298                 source.loadStatements();
 299             } catch (final RuntimeException ex) {
 300                 throw propagateException(source, ex);
 301             }
 302         }
 303     }
 304
 305     private SomeModifiersUnresolvedException addSourceExceptions(final List<SourceSpecificContext> sourcesToProgress) {
 306         boolean addedCause = false;
 307         SomeModifiersUnresolvedException buildFailure = null;
 308         for (final SourceSpecificContext failedSource : sourcesToProgress) {
 309             final Optional<SourceException> optSourceEx = failedSource.failModifiers(currentPhase);
 310             if (optSourceEx.isEmpty()) {
 311                 continue;
 312             }
 313
 314             final SourceException sourceEx = optSourceEx.get();
 315             // Workaround for broken logging implementations which ignore
 316             // suppressed exceptions
 317             final Throwable cause = sourceEx.getCause() != null ? sourceEx.getCause() : sourceEx;
 318             if (LOG.isDebugEnabled()) {
 319                 LOG.error("Failed to parse YANG from source {}", failedSource, sourceEx);
 320             } else {
 321                 LOG.error("Failed to parse YANG from source {}: {}", failedSource, cause.getMessage());
 322             }
 323
 324             final Throwable[] suppressed = sourceEx.getSuppressed();
 325             if (suppressed.length > 0) {
 326                 LOG.error("{} additional errors reported:", suppressed.length);
 327
 328                 int count = 1;
 329                 for (final Throwable t : suppressed) {
 330                     LOG.error("Error {}: {}", count, t.getMessage());
 331                     count++;
 332                 }
 333             }
 334
 335             if (!addedCause) {
 336                 addedCause = true;
 337                 final SourceIdentifier sourceId = createSourceIdentifier(failedSource.getRoot());
 338                 buildFailure = new SomeModifiersUnresolvedException(currentPhase, sourceId, sourceEx);
 339             } else {
 340                 buildFailure.addSuppressed(sourceEx);
 341             }
 342         }
 343         return buildFailure;
 344     }
 345
 346     @SuppressWarnings("checkstyle:illegalCatch")
 347     private void completePhaseActions() throws ReactorException {
 348         checkState(currentPhase != null);
 349         final List<SourceSpecificContext> sourcesToProgress = new ArrayList<>(sources);
 350         if (!libSources.isEmpty()) {
 351             checkState(currentPhase == ModelProcessingPhase.SOURCE_PRE_LINKAGE,
 352                     "Yang library sources should be empty after ModelProcessingPhase.SOURCE_PRE_LINKAGE, "
 353                             + "but current phase was %s", currentPhase);
 354             sourcesToProgress.addAll(libSources);
 355         }
 356
 357         boolean progressing = true;
 358         while (progressing) {
 359             // We reset progressing to false.
 360             progressing = false;
 361             final Iterator<SourceSpecificContext> currentSource = sourcesToProgress.iterator();
 362             while (currentSource.hasNext()) {
 363                 final SourceSpecificContext nextSourceCtx = currentSource.next();
 364                 try {
 365                     final PhaseCompletionProgress sourceProgress =
 366                         nextSourceCtx.tryToCompletePhase(currentPhase.executionOrder());
 367                     switch (sourceProgress) {
 368                         case FINISHED:
 369                             currentSource.remove();
 370                             // we were able to make progress in computation
 371                             progressing = true;
 372                             break;
 373                         case PROGRESS:
 374                             progressing = true;
 375                             break;
 376                         case NO_PROGRESS:
 377                             // Noop
 378                             break;
 379                         default:
 380                             throw new IllegalStateException("Unsupported phase progress " + sourceProgress);
 381                     }
 382                 } catch (final RuntimeException ex) {
 383                     throw propagateException(nextSourceCtx, ex);
 384                 }
 385             }
 386         }
 387
 388         if (!libSources.isEmpty()) {
 389             final Set<SourceSpecificContext> requiredLibs = getRequiredSourcesFromLib();
 390             sources.addAll(requiredLibs);
 391             libSources = ImmutableSet.of();
 392             /*
 393              * We want to report errors of relevant sources only, so any others can
 394              * be removed.
 395              */
 396             sourcesToProgress.retainAll(sources);
 397         }
 398
 399         if (!sourcesToProgress.isEmpty()) {
 400             final SomeModifiersUnresolvedException buildFailure = addSourceExceptions(sourcesToProgress);
 401             if (buildFailure != null) {
 402                 throw buildFailure;
 403             }
 404         }
 405     }
 406
 407     private Set<SourceSpecificContext> getRequiredSourcesFromLib() {
 408         checkState(currentPhase == ModelProcessingPhase.SOURCE_PRE_LINKAGE,
 409                 "Required library sources can be collected only in ModelProcessingPhase.SOURCE_PRE_LINKAGE phase,"
 410                         + " but current phase was %s", currentPhase);
 411         final TreeBasedTable<String, Optional<Revision>, SourceSpecificContext> libSourcesTable = TreeBasedTable.create(
 412             String::compareTo, Revision::compare);
 413         for (final SourceSpecificContext libSource : libSources) {
 414             final SourceIdentifier libSourceIdentifier = requireNonNull(libSource.getRootIdentifier());
 415             libSourcesTable.put(libSourceIdentifier.getName(), libSourceIdentifier.getRevision(), libSource);
 416         }
 417
 418         final Set<SourceSpecificContext> requiredLibs = new HashSet<>();
 419         for (final SourceSpecificContext source : sources) {
 420             collectRequiredSourcesFromLib(libSourcesTable, requiredLibs, source);
 421             removeConflictingLibSources(source, requiredLibs);
 422         }
 423         return requiredLibs;
 424     }
 425
 426     private void collectRequiredSourcesFromLib(
 427             final TreeBasedTable<String, Optional<Revision>, SourceSpecificContext> libSourcesTable,
 428             final Set<SourceSpecificContext> requiredLibs, final SourceSpecificContext source) {
 429         for (final SourceIdentifier requiredSource : source.getRequiredSources()) {
 430             final SourceSpecificContext libSource = getRequiredLibSource(requiredSource, libSourcesTable);
 431             if (libSource != null && requiredLibs.add(libSource)) {
 432                 collectRequiredSourcesFromLib(libSourcesTable, requiredLibs, libSource);
 433             }
 434         }
 435     }
 436
 437     private static SourceSpecificContext getRequiredLibSource(final SourceIdentifier requiredSource,
 438             final TreeBasedTable<String, Optional<Revision>, SourceSpecificContext> libSourcesTable) {
 439         return requiredSource.getRevision().isPresent()
 440                 ? libSourcesTable.get(requiredSource.getName(), requiredSource.getRevision())
 441                         : getLatestRevision(libSourcesTable.row(requiredSource.getName()));
 442     }
 443
 444     private static SourceSpecificContext getLatestRevision(final SortedMap<Optional<Revision>,
 445             SourceSpecificContext> sourceMap) {
 446         return sourceMap != null && !sourceMap.isEmpty() ? sourceMap.get(sourceMap.lastKey()) : null;
 447     }
 448
 449     // removes required library sources which would cause namespace/name conflict with one of the main sources
 450     // later in the parsing process. this can happen if we add a parent module or a submodule as a main source
 451     // and the same parent module or submodule is added as one of the library sources.
 452     // such situation may occur when using the yang-system-test artifact - if a parent module/submodule is specified
 453     // as its argument and the same dir is specified as one of the library dirs through -p option).
 454     private static void removeConflictingLibSources(final SourceSpecificContext source,
 455             final Set<SourceSpecificContext> requiredLibs) {
 456         final Iterator<SourceSpecificContext> requiredLibsIter = requiredLibs.iterator();
 457         while (requiredLibsIter.hasNext()) {
 458             final SourceSpecificContext currentReqSource = requiredLibsIter.next();
 459             if (source.getRootIdentifier().equals(currentReqSource.getRootIdentifier())) {
 460                 requiredLibsIter.remove();
 461             }
 462         }
 463     }
 464
 465     private void endPhase(final ModelProcessingPhase phase) {
 466         checkState(currentPhase == phase);
 467         finishedPhase = currentPhase;
 468         LOG.debug("Global phase {} finished", phase);
 469     }
 470
 471     Set<SourceSpecificContext> getSources() {
 472         return sources;
 473     }
 474
 475     public Set<YangVersion> getSupportedVersions() {
 476         return supportedVersions;
 477     }
 478
 479     void addMutableStmtToSeal(final MutableStatement mutableStatement) {
 480         mutableStatementsToSeal.add(mutableStatement);
 481     }
 482
 483     void sealMutableStatements() {
 484         for (final MutableStatement mutableStatement : mutableStatementsToSeal) {
 485             mutableStatement.seal();
 486         }
 487         mutableStatementsToSeal.clear();
 488     }
 489 }