JavaIdentifierNormalizer ThreadSafe/Memory leak fix
[mdsal.git] / binding2 / mdsal-binding2-generator-util / src / main / java / org / opendaylight / mdsal / binding / javav2 / generator / util / JavaIdentifierNormalizer.java
1 /*
2  * Copyright (c) 2017 Cisco Systems, Inc. and others.  All rights reserved.
3  *
4  * This program and the accompanying materials are made available under the
5  * terms of the Eclipse Public License v1.0 which accompanies this distribution,
6  * and is available at http://www.eclipse.org/legal/epl-v10.html
7  */
8 package org.opendaylight.mdsal.binding.javav2.generator.util;
9
10 import com.google.common.annotations.Beta;
11 import com.google.common.base.CharMatcher;
12 import com.google.common.base.Splitter;
13 import com.google.common.collect.ImmutableSet;
14 import com.google.common.collect.ListMultimap;
15 import java.util.Iterator;
16 import java.util.List;
17 import java.util.Set;
18 import org.opendaylight.mdsal.binding.javav2.generator.context.ModuleContext;
19 import org.opendaylight.mdsal.binding.javav2.model.api.Enumeration;
20 import org.opendaylight.mdsal.binding.javav2.model.api.Enumeration.Pair;
21 import org.opendaylight.mdsal.binding.javav2.util.BindingMapping;
22
23 /**
24  * This util class converts every non-java char in identifier to java char by
25  * its unicode name (<a href=
26  * "http://docs.oracle.com/javase/specs/jls/se8/html/jls-3.html#jls-3.8">JAVA SE
27  * SPECIFICATIONS - Identifiers</a>). There are special types of mapping
28  * non-java chars to original identifiers according to specific
29  * {@linkplain JavaIdentifier java type}:
30  * <ul>
31  * <li>class, enum, interface</li>
32  * <li>
33  * <ul>
34  * <li>without special separator</li>
35  * <li>the first character of identifier, any other first character of
36  * identifier part mapped by non-Java char name from unicode and char in
37  * identifier behind non-java char name are converting to upper case</li>
38  * <li>examples:</li>
39  * <li>
40  * <ul>
41  * <li>example* - ExampleAsterisk</li>
42  * <li>example*example - ExampleAserisksExample</li>
43  * <li>\example - ReverseSolidusExample</li>
44  * <li>1example - DigitOneExample</li>
45  * <li>example1 - Example1</li>
46  * <li>int - IntReservedKeyword</li>
47  * <li>con - ConReservedKeyword</li>
48  * </ul>
49  * </li>
50  * </ul>
51  * </li>
52  * <li>enum value, constant</li>
53  * <li>
54  * <ul>
55  * <li>used underscore as special separator</li>
56  * <li>converted identifier to upper case</li>
57  * <li>examples:</li>
58  * <li>
59  * <ul>
60  * <li>example* - EXAMPLE_ASTERISK</li>
61  * <li>example*example - EXAMPLE_ASTERISK_EXAMPLE</li>
62  * <li>\example - REVERSE_SOLIDUS_EXAMPLE</li>
63  * <li>1example - DIGIT_ONE_EXAMPLE</li>
64  * <li>example1 - EXAMPLE1</li>
65  * <li>int - INT_RESERVED_KEYWORD</li>
66  * <li>con - CON_RESERVED_KEYWORD</li>
67  * </ul>
68  * </li>
69  * </ul>
70  * </li>
71  * <li>method, variable</li>
72  * <li>
73  * <li>
74  * <ul>
75  * <li>without special separator</li>
76  * <li>the first character of identifier is converting to lower case</li>
77  * <li>any other first character of identifier part mapped by non-Java char name
78  * from unicode and char in identifier behind non-java char name are converting
79  * to upper case</li>
80  * <li>examples:</li>
81  * <li>
82  * <ul>
83  * <li>example* - exampleAsterisk</li>
84  * <li>example*example - exampleAserisksExample</li>
85  * <li>\example - reverseSolidusExample</li>
86  * <li>1example - digitOneExample</li>
87  * <li>example1 - example1</li>
88  * <li>int - intReservedKeyword</li>
89  * <li>con - conReservedKeyword</li>
90  * </ul>
91  * </li>
92  * </ul>
93  * </li>
94  * <li>package - full package name (<a href=
95  * "https://docs.oracle.com/javase/tutorial/java/package/namingpkgs.html">
96  * Naming a package</a>)</li>
97  * <li>
98  * <li>
99  * <ul>
100  * <li>parts of package name are separated by dots</li>
101  * <li>parts of package name are converting to lower case</li>
102  * <li>if parts of package name are reserved Java or Windows keywords, such as
103  * 'int' the suggested convention is to add an underscore to keyword</li>
104  * <li>dash is parsed as underscore according to <a href=
105  * "https://docs.oracle.com/javase/tutorial/java/package/namingpkgs.html">
106  * Naming a package</a></li>
107  * <li>examples:</li>
108  * <li>
109  * <ul>
110  * <li>org.example* - org.exampleasterisk</li>
111  * <li>org.example*example - org.exampleasteriskexample</li>
112  * <li>org.\example - org.reversesolidusexample</li>
113  * <li>org.1example - org.digitoneexample</li>
114  * <li>org.example1 - org.example1</li>
115  * <li>org.int - org.int_</li>
116  * <li>org.con - org.con_</li>
117  * <li>org.foo-cont - org.foo_cont</li>
118  * </ul>
119  * </li>
120  * </ul>
121  * </li>
122  * </ul>
123  *
124  * There is special case in CLASS, INTERFACE, ENUM, ENUM VALUE, CONSTANT, METHOD
125  * and VARIABLE if identifier contains single dash - then the converter ignores
126  * the single dash in the way of the non-java chars. In other way, if dash is
127  * the first or the last char in the identifier or there is more dashes in a row
128  * in the identifier, then these dashes are converted as non-java chars.
129  * Example:
130  * <ul>
131  * <li>class, enum, interface</li>
132  * <li>
133  * <ul>
134  * <li>foo-cont - FooCont</li>
135  * <li>foo--cont - FooHyphenMinusHyphenMinusCont</li>
136  * <li>-foo - HyphenMinusFoo</li>
137  * <li>foo- - FooHyphenMinus</li>
138  * </ul>
139  * </li>
140  * <li>enum value, constant
141  * <li>
142  * <ul>
143  * <li>foo-cont - FOO_CONT</li>
144  * <li>foo--cont - FOO_HYPHEN_MINUS_HYPHEN_MINUS_CONT</li>
145  * <li>-foo - HYPHEN_MINUS_FOO</li>
146  * <li>foo- - FOO_HYPHEN_MINUS</li>
147  * </ul>
148  * </li>
149  * <li>method, variable</li>
150  * <li>
151  * <ul>
152  * <li>foo-cont - fooCont</li>
153  * <li>foo--cont - fooHyphenMinusHyphenMinusCont</li>
154  * <li>-foo - hyphenMinusFoo</li>
155  * <li>foo- - fooHyphenMinus</li>
156  * </ul>
157  * </li>
158  * </ul>
159  *
160  * Next special case talks about normalizing class name which already exists in
161  * package - but with different camel cases (foo, Foo, fOo, ...). To every next
162  * classes with same names will by added their actual rank (serial number),
163  * except the first one. This working for CLASS, ENUM and INTEFACE java
164  * identifiers. If there exist the same ENUM VALUES in ENUM (with different
165  * camel cases), then it's parsed with same logic like CLASSES, ENUMS and
166  * INTERFACES but according to list of pairs of their ENUM parent. Example:
167  *
168  * <ul>
169  * <li>class, enum, interface</li>
170  * <li>
171  * <ul>
172  * <li>package name org.example, class (or interface or enum) Foo - normalized
173  * to Foo
174  * <li>package name org.example, class (or interface or enum) fOo - normalized
175  * to Foo1
176  * </ul>
177  * </li>
178  * <li>enum value</li>
179  * <li>
180  * <ul>
181  * <li>
182  *
183  * <pre>
184  * type enumeration {
185  *     enum foo;
186  *     enum Foo;
187  * }
188  * </pre>
189  *
190  * </li>
191  * <li>YANG enum values will be mapped to 'FOO' and 'FOO_1' Java enum
192  * values.</li>
193  * </ul>
194  * </li>
195  * </ul>
196  */
197 @Beta
198 public final class JavaIdentifierNormalizer {
199
200     public static final Set<String> SPECIAL_RESERVED_PATHS = ImmutableSet.of(
201         "org.opendaylight.yangtools.concepts",
202         "org.opendaylight.yangtools.yang.common",
203         "org.opendaylight.yangtools.yang.model",
204         "org.opendaylight.mdsal.binding.javav2.spec",
205         "java",
206         "com");
207
208     private static final char UNDERSCORE = '_';
209     private static final char DASH = '-';
210     private static final String RESERVED_KEYWORD = "reserved_keyword";
211     private static final Set<String> PRIMITIVE_TYPES = ImmutableSet.of("char[]", "byte[]");
212
213     private static final CharMatcher DASH_MATCHER = CharMatcher.is(DASH);
214     private static final CharMatcher DASH_OR_SPACE_MATCHER = CharMatcher.anyOf(" -");
215     private static final CharMatcher UNDERSCORE_MATCHER = CharMatcher.is(UNDERSCORE);
216     private static final Splitter DOT_SPLITTER = Splitter.on('.');
217     private static final Splitter UNDERSCORE_SPLITTER = Splitter.on(UNDERSCORE);
218
219     // Converted to lower case
220     private static final Set<String> WINDOWS_RESERVED_WORDS = BindingMapping.WINDOWS_RESERVED_WORDS.stream()
221             .map(String::toLowerCase).collect(ImmutableSet.toImmutableSet());
222
223     private JavaIdentifierNormalizer() {
224         throw new UnsupportedOperationException("Util class");
225     }
226
227     /**
228      * <p>
229      * According to <a href="https://tools.ietf.org/html/rfc7950#section-9.6.4">YANG RFC 7950</a>,
230      * all assigned names in an enumeration MUST be unique. Created names are contained in the list
231      * of {@link Enumeration.Pair}. This method adds actual index with underscore behind name of new
232      * enum value only if this name already exists in one of the list of {@link Enumeration.Pair}.
233      * Then, the name will be converted to java chars according to {@link JavaIdentifier#ENUM_VALUE}
234      * and returned.
235      * </p>
236      * Example:
237      *
238      * <pre>
239      * type enumeration {
240      *     enum foo;
241      *     enum Foo;
242      * }
243      * </pre>
244      *
245      * YANG enum values will be mapped to 'FOO' and 'FOO_1' Java enum values.
246      *
247      * @param name
248      *            - name of new enum value
249      * @param values
250      *            - list of all actual enum values
251      * @return converted and fixed name of new enum value
252      */
253     public static String normalizeEnumValueIdentifier(final String name, final List<Pair> values) {
254         return convertIdentifierEnumValue(name, name, values, 1);
255     }
256
257     /**
258      * Normalizing full package name by non java chars and reserved keywords.
259      *
260      * @param fullPackageName
261      *            - full package name
262      * @return normalized name
263      */
264     public static String normalizeFullPackageName(final String fullPackageName) {
265         final Iterator<String> it = DOT_SPLITTER.split(fullPackageName).iterator();
266         if (!it.hasNext()) {
267             return fullPackageName;
268         }
269
270         final StringBuilder sb = new StringBuilder(fullPackageName.length());
271         while (true) {
272             sb.append(normalizePartialPackageName(it.next()));
273             if (!it.hasNext()) {
274                 return sb.toString();
275             }
276             sb.append('.');
277         }
278     }
279
280     /**
281      * Normalizing part of package name by non java chars.
282      *
283      * @param packageNamePart
284      *            - part of package name
285      * @return normalized name
286      */
287     static String normalizePartialPackageName(final String packageNamePart) {
288         // if part of package name consist from java or windows reserved word, return it with
289         // underscore at the end and in lower case
290         final String lowerPart = packageNamePart.toLowerCase();
291         if (BindingMapping.JAVA_RESERVED_WORDS.contains(lowerPart) || WINDOWS_RESERVED_WORDS.contains(lowerPart)) {
292             return lowerPart + UNDERSCORE;
293         }
294
295         final String normalizedPart = DASH_MATCHER.replaceFrom(packageNamePart, UNDERSCORE);
296
297         final StringBuilder sb = new StringBuilder();
298         final StringBuilder innerSb = new StringBuilder();
299         for (int i = 0; i < normalizedPart.length(); i++) {
300             final char c = normalizedPart.charAt(i);
301             if (c == UNDERSCORE) {
302                 if (innerSb.length() != 0) {
303                     sb.append(normalizeSpecificIdentifier(innerSb.toString(), JavaIdentifier.PACKAGE));
304                     innerSb.setLength(0);
305                 }
306                 sb.append(UNDERSCORE);
307             } else {
308                 innerSb.append(c);
309             }
310         }
311         if (innerSb.length() != 0) {
312             sb.append(normalizeSpecificIdentifier(innerSb.toString(), JavaIdentifier.PACKAGE));
313         }
314         // returned normalized part of package name
315         return sb.toString();
316     }
317
318     /**
319      * Find and convert non Java chars in identifiers of generated transfer objects, initially
320      * derived from corresponding YANG according to
321      * <a href="http://docs.oracle.com/javase/specs/jls/se8/html/jls-3.html#jls-3.8"> Java
322      * Specifications - Identifiers</a>. If there is more same class names at the same package, then
323      * append rank (serial number) to the end of them. Works for class, enum, interface.
324      *
325      * @param packageName
326      *            - package of identifier
327      * @param className
328      *            - name of identifier
329      * @return - java acceptable identifier
330      */
331     static String normalizeClassIdentifier(final String packageName, final String className,
332             ModuleContext context) {
333         if (packageName.isEmpty() && PRIMITIVE_TYPES.contains(className)) {
334             return className;
335         }
336         for (final String reservedPath : SPECIAL_RESERVED_PATHS) {
337             if (packageName.startsWith(reservedPath)) {
338                 return className;
339             }
340         }
341         final String convertedClassName = normalizeSpecificIdentifier(className, JavaIdentifier.CLASS);
342
343         // if packageName contains class name at the end, then the className is name of inner class
344         final String basePackageName;
345         final int lastDot = packageName.lastIndexOf('.');
346         if (lastDot != -1 && Character.isUpperCase(packageName.charAt(lastDot + 1))) {
347             // ignore class name in package name - inner class name has to be normalized according to original package
348             // of parent class
349             basePackageName = packageName.substring(0, lastDot);
350         } else {
351             basePackageName = packageName;
352         }
353
354         return normalizeClassIdentifier(basePackageName, convertedClassName, convertedClassName, 1, context);
355     }
356
357     /**
358      * Find and convert non Java chars in identifiers of generated transfer objects, initially
359      * derived from corresponding YANG.
360      *
361      * @param identifier
362      *            - name of identifier
363      * @param javaIdentifier
364      *            - java type of identifier
365      * @return - java acceptable identifier
366      */
367     public static String normalizeSpecificIdentifier(final String identifier, final JavaIdentifier javaIdentifier) {
368         // if identifier isn't PACKAGE type then check it by reserved keywords
369         if (javaIdentifier != JavaIdentifier.PACKAGE) {
370             final String lower = identifier.toLowerCase();
371             if (BindingMapping.JAVA_RESERVED_WORDS.contains(lower) || WINDOWS_RESERVED_WORDS.contains(lower)) {
372                 return fixCasesByJavaType(lower + UNDERSCORE + RESERVED_KEYWORD, javaIdentifier);
373             }
374         }
375
376         // check and convert first char in identifier if there is non-java char
377         final StringBuilder sb = new StringBuilder();
378         final char firstChar = identifier.charAt(0);
379         if (!Character.isJavaIdentifierStart(firstChar)) {
380             // converting first char of identifier
381             sb.append(convertFirst(firstChar, existNext(identifier, 0)));
382         } else {
383             sb.append(firstChar);
384         }
385         // check and convert other chars in identifier, if there is non-java char
386         for (int i = 1; i < identifier.length(); i++) {
387             final char actualChar = identifier.charAt(i);
388             // ignore single dash as non java char - if there is more dashes in a row or dash is as
389             // the last char in identifier then parse these dashes as non java chars
390             if (actualChar == DASH && existNext(identifier, i)) {
391                 if (identifier.charAt(i - 1) != DASH && identifier.charAt(i + 1) != DASH) {
392                     sb.append(UNDERSCORE);
393                     continue;
394                 }
395             }
396             if (!Character.isJavaIdentifierPart(actualChar)) {
397                 // prepare actual string of sb for checking if underscore exist on position of the last char
398                 sb.append(convert(actualChar, existNext(identifier, i), sb.charAt(sb.length() - 1)));
399             } else {
400                 sb.append(actualChar);
401             }
402         }
403         // apply camel case in appropriate way
404         return fixCasesByJavaType(sb.toString().replace("__", "_").toLowerCase(), javaIdentifier);
405     }
406
407     /**
408      * Checking while there doesn't exist any class name with the same name
409      * (regardless of camel cases) in package.
410      *
411      * @param packageName
412      *            - package of class name
413      * @param origClassName
414      *            - original class name
415      * @param actualClassName
416      *            - actual class name with rank (serial number)
417      * @param rank
418      *            - actual rank (serial number)
419      * @return converted identifier
420      */
421     private static String normalizeClassIdentifier(final String packageName, final String origClassName,
422             final String actualClassName, final int rank, ModuleContext context) {
423
424         final ListMultimap<String, String> packagesMap = context.getPackagesMap();
425
426         synchronized (packagesMap) {
427             if (packagesMap.containsKey(packageName)) {
428                 for (final String existingName : packagesMap.get(packageName)) {
429                     if (actualClassName.equalsIgnoreCase(existingName)) {
430                        return normalizeClassIdentifier(packageName, origClassName, origClassName + rank,
431                      rank + 1, context);
432                     }
433                 }
434             }
435             context.putToPackagesMap(packageName, actualClassName);
436             return actualClassName;
437         }
438     }
439
440     /**
441      * Fix cases of converted identifiers by Java type
442      *
443      * @param convertedIdentifier
444      *            - converted identifier
445      * @param javaIdentifier
446      *            - java type of identifier
447      * @return converted identifier with right cases according to java type
448      */
449     private static String fixCasesByJavaType(final String convertedIdentifier, final JavaIdentifier javaIdentifier) {
450         switch (javaIdentifier) {
451             case CLASS:
452             case ENUM:
453             case INTERFACE:
454                 return capitalize(fixCases(convertedIdentifier));
455             case ENUM_VALUE:
456             case CONSTANT:
457                 return convertedIdentifier.toUpperCase();
458             case METHOD:
459             case VARIABLE:
460                 return fixCases(convertedIdentifier);
461             case PACKAGE:
462                 return UNDERSCORE_MATCHER.removeFrom(convertedIdentifier);
463             default:
464                 throw new IllegalArgumentException("Unknown java type of identifier : " + javaIdentifier.toString());
465         }
466     }
467
468     /**
469      * Delete unnecessary chars in converted identifier and apply camel case in appropriate way.
470      *
471      * @param convertedIdentifier
472      *            - original converted identifier
473      * @return resolved identifier
474      */
475     private static String fixCases(final String convertedIdentifier) {
476         if (convertedIdentifier.indexOf(UNDERSCORE) == -1) {
477             return convertedIdentifier;
478         }
479
480         final StringBuilder sb = new StringBuilder(convertedIdentifier.length());
481         final Iterator<String> it = UNDERSCORE_SPLITTER.split(convertedIdentifier).iterator();
482         sb.append(it.next());
483         while (it.hasNext()) {
484             sb.append(capitalize(it.next()));
485         }
486         return sb.toString();
487     }
488
489     /**
490      * Check if there exist next char in identifier behind actual char position
491      *
492      * @param identifier
493      *            - original identifier
494      * @param actual
495      *            - actual char position
496      * @return true if there is another char, false otherwise
497      */
498     private static boolean existNext(final String identifier, final int actual) {
499         return identifier.length() > actual + 1;
500     }
501
502     /**
503      * Converting first char of identifier. This happen only if this char is
504      * non-java char
505      *
506      * @param c
507      *            - first char
508      * @param existNext
509      *            - existing of next char behind actual char
510      * @return converted char
511      */
512     private static String convertFirst(final char c, final boolean existNext) {
513         final String name = DASH_OR_SPACE_MATCHER.replaceFrom(Character.getName(c), UNDERSCORE);
514         return existNext ? name + '_' : name;
515     }
516
517     /**
518      * Converting any char in java identifier, This happen only if this char is
519      * non-java char
520      *
521      * @param c
522      *            - actual char
523      * @param existNext
524      *            - existing of next char behind actual char
525      * @param partialLastChar
526      *            - last char of partial converted identifier
527      * @return converted char
528      */
529     private static String convert(final char c, final boolean existNext, final char partialLastChar) {
530         return partialLastChar == '_' ? convertFirst(c, existNext) : "_" + convertFirst(c, existNext);
531     }
532
533     /**
534      * Capitalize input string
535      *
536      * @param identifier
537      *            - string to be capitalized
538      */
539     private static String capitalize(final String identifier) {
540         return identifier.substring(0, 1).toUpperCase() + identifier.substring(1);
541     }
542
543     private static String convertIdentifierEnumValue(final String name, final String origName, final List<Pair> values,
544             final int rank) {
545         String newName = name;
546         for (final Pair pair : values) {
547             if (name.equalsIgnoreCase(pair.getName()) || name.equalsIgnoreCase(pair.getMappedName())) {
548                 int actualRank = rank;
549                 final String actualName = origName + UNDERSCORE + actualRank;
550                 newName = convertIdentifierEnumValue(actualName, origName, values, ++actualRank);
551             }
552         }
553         return normalizeSpecificIdentifier(newName, JavaIdentifier.ENUM_VALUE);
554     }
555 }