Test cases for GBP-SFC integration demo

Asymmetric demo scenario.

Change-Id: Ib92bc83ee254a8fe0c64617dbc2a0e8baa720322
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Basic tests - Unification Scripting Node

Change-Id: I11c597d1fb932f3353c4f3096642fd46bf7b4e91
Signed-off-by: Samuel Kontriš <samuel.kontris@pantheon.sk>

Changed testplan for Topoprocessing

Change-Id: Idf01979d7e37ccdd54f71a6dfcab540838df282e
Signed-off-by: Samuel Kontriš <samuel.kontris@pantheon.sk>

Changed GBP data based on change 30901

Change-Id: Ibc1dd4e2fb890ee555594ca2e807f1489726e386
Signed-off-by: Martin Sunal <msunal@cisco.com>

Extracted Nexus artifact deployment code

The code that downloads executable utility artifacts from
Nexus and deploys them to be ready to be executed on the
Mininet machine was extracted into a new NexusKeywords.robot
resource. Three suites (well, actually two suite and one
resource) were updated to use the new resource, one is PCEP
User test suite, the other is TCP MD5 suite and the last one
is Netconf CRUD (this one was updated indirectly by updating
NetconfKeywords.robot where the duplicated code actually
resided).

The reason is that another new test suite (Netconf
performance via RestPerfClient) needs another Nexus artifact
(RestPerfClient in this case) and thus another instance of
the Nexus deployment code was about to be created, leading
to code triplification. Thus this change to remove that
technical debt.

Change-Id: I5959c8ed9ea55ff84f9f2ad76104dfc464e7ba32
Signed-off-by: Jozef Behran <jbehran@cisco.com>

add aggregation basic keywords and testcase

Change-Id: Iddc89e194bc842e52d72b3c8c5340c62d3e97484
Signed-off-by: Andrej Záň <andrej.zan@pantheon.sk>
Signed-off-by: Samuel Kontriš <samuel.kontris@pantheon.sk>

updated packetcable csit test for changed api

-Added csit/libraries/PacketcableVersion.robot to handle variable setting based on a new
ODL_VERSION option that can (optionally) be supplied to robot. Defaults to master if not set.
-Resources split into two groups lithium and master.
-Test cases updated to use new variables so both Li and Be can be tested

Change-Id: Icd397f9122ddc9bc159ec6956a32496e349ae1d4
Signed-off-by: Ryan Vail <r.vail@cablelabs.com>

BGP application peer functional suite covers the bug_4714

Bug 4714 - No routes from loc-rib are advertised to newly connected peer

Change-Id: I878d1b2b2e05301f03b63a353015f094d9f9a3e9
Signed-off-by: Radovan Sajben <rsajben@cisco.com>

taking the latest version of the testtool

new version 1.1.0 appeared and this library has problen to
download test device, because maven-metadata.xml now contains
more <version> tags

Change-Id: Ie6ce17e9b30e92ac4cb2ad42db4dc392ed510b36
Signed-off-by: Peter Gubka <pgubka@cisco.com>

Fixed data for GBP CSIT tests for Li and Master branch.
See - https://git.opendaylight.org/gerrit/30392

Change-Id: I09ab68d48504d7c1d8cc902ed156bdd940332710
Signed-off-by: Dileep <dileep.ranganathan@intel.com>

Add the basic csit script for messaging4transport

Further scripts specific to messaging4transport will be added soon.

Change-Id: I45c182a03eb002f66f4ac3147e80e662253f9699
Signed-off-by: Pradeeban Kathiravelu <kk.pradeeban@gmail.com>

Netconf Scaling test for multithreaded GET requests

This test suite first emits a batch of "single device mount"
requests to the netconf (via restconf), then executes a wait
loop on each of them (to ensure each of them is connected)
and then uses a Python tool to issue a GET requests for
config data on them. Each device gets one request for its
config data but there are multiple requests being made
concurrently (the count of these concurrent requests is
configurable via a Robot variable). Then it finally issues a
batch of "deconfigure single device" requests. A link to a
known bug is also included as especially the "deconfigure"
part of the test appears to be hit by it pretty badly.

Change-Id: I924d9a72921d29580d54fcf0317aec4137174fb2
Signed-off-by: Jozef Behran <jbehran@cisco.com>

BGP application peer functional test suite

- basic functional test cases via restconf
  - introduce/update routes by POST/PUT requests
  - delete route by DELETE request
  - delete all routes by DELETE request
  - BGP peer reconnect

Change-Id: Icf4ddeb29f17856838675721f532c85d726864da
Signed-off-by: Radovan Sajben <rsajben@cisco.com>

dump flows on ovs after every test case for logging purposes

Change-Id: I57faa8f0487a5469fbbc44aea3ed9385cf7c1e5b
Signed-off-by: Jamo Luhrsen <jluhrsen@redhat.com>

Migrate LISP tests to new Beryllium API

Change-Id: I2966e71907dfedf690c54074b31065e5eac73770
Signed-off-by: Lorand Jakab <lojakab@cisco.com>

Improve reporting in netconfready suite

Change-Id: I28a3d96197ab342125c5ca1a6b70a4d602dec84e
Signed-off-by: Vratko Polak <vrpolak@cisco.com>

fixing name of armoury basic test plan file

Was armoury.txt, but the JJB job expects armoury-basic.txt

Change-Id: Ib0608dacbf32610d5f710347cd2e8c89a4e0a310
Signed-off-by: Colin Dixon <colin@colindixon.com>

Replaced usage of a deprecated variable

Change-Id: Iedec4e0bfa3f18fc76046c511c82b479455b7b51
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Removing unused files in GBPSFC demo

Change-Id: I30acb60d50a75228636d8dff61d321e74a1a1cfd
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Add SFC basic tests to testplans

Change-Id: Iaf210d449f6ae6f529582cb2d5a189f5a8aab82c
Signed-off-by: Johnson Li <johnson.li@intel.com>

Fixed too tight timeouts for deconfiguration

Timeouts of 10 seconds for deconfiguring the device is too
tight when there are other scaling suites executed before
and the memory leak bug 4514 is present. The needed timeout
is 120 seconds as I had seen 20 to 30 second garbage
collection pauses on just a 1GB heap usage and the bug
causes the ODL to leak about 5GB if two scaling suites
are present.

There are two timeouts, one is the Karaf console timeout
and the other one is the timeout waiting for the device
to disappear after it was deconfigured. The large timeout
is necessary in the second case because the "device
disappeared" check is executed immediately after the request
to remove it from the configuration was sent.

To avoid "test running for 2 weeks if something bad happens"
type of situation a global timeout logic was also added. The
default timeout is 30 minutes but the scaling suite is
giving less time to the loops.

Change-Id: Ie59a2f9d7a6ee9999f202ba209caf03efd05a801
Signed-off-by: Jozef Behran <jbehran@cisco.com>

karaf log messages to debug OVSDB failures

Change-Id: If5ad9a71052da4dbf668751cd2d33e988ca3d6f3
Signed-off-by: Jamo Luhrsen <jluhrsen@redhat.com>

BGP ingest suites: Make options distinguished

All 4 suites are run within one job, but their requirements
for options (especially timeout-related) are different.
Also, scenario with 600 peers is interesting,
and this change would allow only one suite to test that,
while the other would keep testing 2 peers.

Suite order in testplan has changed,
prefix count suites are before change count ones.
Still, single peer suite block is before many peer one.

Timeout computation uses float numbers to avoid rounding errors.
Teardown does not fail if SSH connection to tools system has dropped.

Utils.Execute Controller Karaf Command With Retry On Background
keyword tries to re-establish connection to Karaf console,
as during long test cases (30 minutes) it drops.
Utils.Log Message To Controller Karaf now uses that keyword.

Logical off-by-one error in WaitUtils is fixed.

Unified Karaf log level handling between bgpingest suites.

Change-Id: I99b39b0f78da4ee810c46f71a5389ffd0058456f
Signed-off-by: Vratko Polak <vrpolak@cisco.com>

Add Flow Condition RestConfig for Vtn Manager

    * Add new file 010__restconfig_vtn_manager.robot.
    * FlowCondition supports Restconfig features for Create, Retrieve and Remove features.

Change-Id: I1c839fd79c0f72ea7fa705981296d2b240ca783a
Signed-off-by: priya.ramasubbu <priya.ramasubbu@hcl.com>

Added Karaf console connection timeout configurability

The default is 10 seconds which may be too short for some
suites, for example the scaling suite needs a massive timeout
due to the memory leak bugs that cause massive garbage
collection pauses especially when multiple scaling test
suites are invoked in a row. This change adds a keyword
which allows these affected suites to specify a different
timeout that better suits them.

Change-Id: I4532f4d108999aa34a2a8dce3221b4c24e4e08cf
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Fixed data for GBP tests

- commit [1] changed classifier and action definition IDs

[1] https://git.opendaylight.org/gerrit/#/c/30219/

Change-Id: I4c6ec4a8c62a774c0c8cee1fdf3c1f3654266b8a
Signed-off-by: Martin Sunal <msunal@cisco.com>

Removed unnecessary variable left behind after cleanup.

Change-Id: Ie5e2aabd135849f0d8da8603a244ce102ae529b6
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Fixed confusing ordering of comparison keyword arguments

The correct order is "expected" and then "actual" but these
arguments were stated as "actual", then "expected". As a
result when they fail, the failure report is confusingly
reverted, showing how the actual shall turn to expected.
The expected form of report is how the "expected" differs
from the "actual".

Change-Id: I7b9697fd6a95a3944ff78db2537b5773d6f0c961
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Netconf Scaling test for single threaded GET requests

Then it mounts a number of devices, queries their data and
then unmounts them. Each of these steps is done one device
at a time.

Change-Id: I5d3fd4713a0a3e350299ceaddc27150f03962ed5
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Added missing configuration item to the testtool device

This item is "optional" but leaving it out causes log spam
in the form of messages "Keepalive executor missing. Using
default instance for now, the configuration needs to be
updated" that repeat for every added/removed device in
Lithium (in Beryllium this is handled better).

Change-Id: I5ec46f047c6b6e405307ef3bb378455719cf593f
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Added ability to pass special options to testtool

Added a new parameter to the "Install And Run Testtool"
keyword whose value will be passed to the testtool as it
was given. Additionally, the keyword now logs the exact
command used to start the test tool so it is now possible
to check whether the correct parameters were passed to it.

Change-Id: Iafbd065bc49ca3f90c0ee0fb4e50c83aa353aed7
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Adding option to specify headers in Utils

If not specified, default header is used.
Different header for POST request in GBP.

Change-Id: I8caa7152cc2076c97d573ebed9ca2290140c8e41
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Modifying tests to accommodate new feature definitions on NIC.

Change-Id: Ifb2e7212b748bd18740f83e14955e7e117e47b58
Signed-off-by: Raphael Amorim <raphael.amorim@hp.com>

Added documentation for NIC test case

Change-Id: I6f636d1e0a4bc0d6bb987b1ff3e9040e18a8b6e1
Signed-off-by: Alton Fong <alton.fong@hp.com>

Tidied new and updated test suites.

Change-Id: I89de53296a279dc99a71555e932dd316db12eff5
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Revised timeout for NIC CLI command with WUKS.

Change-Id: Ia74847e440151c96de77e9a1e5266c890aa4f44d
Signed-off-by: Alton Fong <alton.fong@hp.com>

Fix Wait_Device_Fully_Removed querying the wrong URL

When the device data is gone (device was disconnectd) but
the connector itself is still there, the keyword thinks the
device is no longer there and exits but the device is still
there and might stay due to a bug. Fix this by shortening the
URL to refer to the root of the connector, that should catch
such bugs.

Change-Id: Iddf55b3e5842e50828a327f4b442d0a6bd126e7f
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Making Netconf Via Restconf clustering aware

The Netconf Via Restconf library now got two additional
keywords. One (Create_NVR_Session) allows creating Netconf
Via Restconf sessions pointing to other nodes which are
running ODL and the other one (Activate_NVR_Session)
switches between them. This makes the Netconf Via Restconf
library able to access all nodes within an ODL cluster while
retaining its behavior in the single node case when these
two additional keywords are not used.

Change-Id: Id7fb6c2c11795a59b400dc054ff5d513b89d8631
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Tidied new and updated test suites

Change-Id: I6aacfc2f9de2c18735912d238b49476a3a4cc262
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Keyword to add multiple Managers to OVS

 * This Can be used by Cluster Tests for OVSDB Southbound

Change-Id: I0d5a8ac4993138d017526a7bab4a9953f357a99b
Signed-off-by: gvrangan <venkatrangang@hcl.com>

Added "survival after connection cycle check" testcases

After something was committed into the datastore, the
first test case gracefully disconnects (and fails if that
turned out to be impossible), the second one then checks
through restconf that the added item is still there,
the third one reconnects (and fails if the device turned
out to be inaccessible through netconf) and the fourth one
checks that the thing is still sitting there in the Netconf
data store.

Change-Id: I8898a9e498d862cce6b811b44d3c4d0b0194390f
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Less sensitive "empty config test"

Do not store the content of "empty config" but only check
that none of "our elements" are not there when they
shouldn't. The "check empty config" approach is not valid
because the "empty config" stored at the beginning may change
when another feature gets installed while the test is still
running.

Change-Id: Ib28f60a8ae9fdf705599b9db5a0cca6c7e75708b
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Missing part of commit 500faa3ca

A bunch of low-level manipulation was left behind in that
commit. Additionally, this low level manipulation piece
was missing some parts, leading to failures. Replace with
a call to a SSHLibrary keyword that does exactly the same
thing.

Change-Id: I30c0bea4571e8c441612d526171464222882a1e8
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Do not crash if attempt to open ODL Netconf connection fails

When the Connect_To_ODL_Netconf keyword fails for any reason,
the Close_ODL_Netconf_Connection in teardown crashes,
flagging all tests as failed. Avoid that by checking that
there indeed is an ODL Netconf connection to be closed before
trying to do so..

Change-Id: If33fc6a90daf7a2c5ceff750953b8cf99c438cf1
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Patch for basic HA cluster test (2/2)

Add owner fail and recover test cases.
New Cluster OF resource to avoid code replication.
New cluster keywords to kill and start cluster instances.
Some repairs to ClusterKeyword library

Change-Id: Iaee102a6032c27eaaecb312e7ef37cf66c4ab836
Signed-off-by: Luis Gomez <ecelgp@gmail.com>

Bug 4567 - CSIT config xml contains outdated config

For Lithium branch notification-service option is added to config file

Change-Id: If3b45cb0e6305b5941fd190417d77e8257004c7d
Signed-off-by: Martin Mihálek <mamihale@cisco.com>

CSIT jobs for usecplugin

Change-Id: Ifad6ea65880f61ef91be28b70544fd7b6eaf2f86
Signed-off-by: rafat <rafat.jahan@tcs.com>

Enhance freeze suite to log disk sizes

Karaf or test tool logs can be (configured to be) big,
this will be useful to investigate environment limits.

Change-Id: I539cd25b0b1d63bfba6ecb7df7bc0d485e40be17
Signed-off-by: Vratko Polak <vrpolak@cisco.com>

Change timeout for reading karaf log

Change-Id: Ib5471307b0bb734ad53558179dad8235dde8372d
Signed-off-by: Andrej Záň <andrej.zan@pantheon.sk>

Integration tests for GBP

Change-Id: Ica5e24f0854dbdcce1cb884edba09dcc3e8acdbb
Signed-off-by: Konstantin Blagov <kblagov@cisco.com>
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Revised NIC CLI tests to account for agnostic policy formats.

Change-Id: I028ce37c9a6940103098b3460c72d99f783188c5
Signed-off-by: Alton Fong <alton.fong@hp.com>

Fixed "close connection" action in MDSAL suite

Sending "^D" to the netconf connection does not guarantee
that the connection is closed properly, leading to a
spurious test failure due to failed teardown.

The proper way is to open two connections, one "control" and
one "netconf". The "netconf" connection then connects to
netconf as usual and the "control" connection is used to
control the SSH process connecting to netconf. It is used to
obtain the PID of the "sshpass" process which governs the
connection and to send the kill signal to that process
once the connection is to be closed.

Change-Id: I3a0bc1e03d1af9619ced3fa7dfcd45aad3d696fa
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Fixed naming of the test cases

The device is not "mounted" but "configured" on Netconf and
it is not "removed" but "deconfigured". The testcase names
were patched but the NetconfKeyword keywords (some of which
also have this problem) were left intact because changing
them is much more expensive operation in terms of time due
to the nonexistence of coding style checking tool. Also some
documentation strings needed this type of terminology fixing.

Change-Id: I4f63395e95d49f95b61ed7d73fcaf4e8c7714556
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Add ovsdbconfigblaster.py

Start of ovsdb southbound
performance suite.

Change-Id: I12f6360f343c05d399789b97bbe6a66d7f477469
Signed-off-by: Marcus Williams <marcus.g.williams@gmail.com>

Integration tests for GBP and GBP-SFC

Common files for all testcases

Change-Id: Ief74596257a13243f22b62b8c51ff3af38687e38
Signed-off-by: Konstantin Blagov <kblagov@cisco.com>
Signed-off-by: Igor Bartak <ibartak@cisco.com>
Signed-off-by: Martin Sunal <msunal@cisco.com>
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>
Signed-off-by: Dileep <dileep.ranganathan@intel.com>

crud performance test for car-people entries on 1 node cluster

- measure time to configure certain amount of cars at once
- measure time to purchse these cars one by one
- robot test case duration is the measured time
- config script uploaded to the mininet/tools vm
- add debug capabilities

Change-Id: I0d198fc03f2eb73026503ace1a27cf4354f7243c
Signed-off-by: Peter Gubka <pgubka@cisco.com>
Signed-off-by: Radovan Sajben <rsajben@cisco.com>

BGP functional test suite improvements

- backporting of improvements from BGP performance suite
- new functional tests for prefix withdrawal

Change-Id: Ic3fef25dce91ffa4186b841e2e5e65397e96fa1a
Signed-off-by: Radovan Sajben <rsajben@cisco.com>

Initial works for OF cluster test

Initial OpenFlow Cluster test suite
New Cluster Keywords to manage Shard and Entity Owner status.
New Cluster Keywords to Check, Get, Put and Delete URI
New Mininet library including multiple controller setup.
Fix Run Command On Remote System to do execute command
New Utils keyword to extract dictionary from list.
New Utils Keyword to check item occurrence in a string.
Add missing variables for MININET.

Change-Id: I3d3f2503140f3af4be80a64f96ebcdde45737930
Signed-off-by: Luis Gomez <ecelgp@gmail.com>

Added ability to turn on debug logging for Netconf suites

Any test plan that starts with the Netconf readiness suite
can now be asked to switch debug logging for everything by
setting  DEBUG_LOGGING_FOR_EVERYTHING to "True".

Change-Id: I10a9e76ec8ea2f04cfb238366e24ea64c7362d14
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Added Karaf logging to the Netconf readiness suite

When the Netconf readiness suite fails, it is impossible to
figure out what karaf.log logs were produced during the time
it was running. Add commands to emit log messages into
karaf.log when it starts running and when it ends.

Change-Id: I9fc441ef4978551ee11a36b0da556cd921bea5a3
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Fixed oversensitive MDSAL test

The Beryllium added some features that impacted the netconf
point, leading to failures of the MDSAL tests. Analysis
revealed that these failures were spurious and caused by the
suite checking things which don't really relate to what it
is supposed to test. Fixed by removing the suite's
oversensitiveness.

Change-Id: I1da95822ccf25400c1305b08a9b71d43e809a3bc
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Tidied new and modified tests

Change-Id: I9bc6a6aa136bc97827d840304bf3ed08726e3e8d
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Update of BGP speaker tool and SetupUtils related to bug_4533

Provide BGP speaker logs for incomming messages.
Solve wrong incomming message body length calculation.
Solve incorrect FastFailing of test suites becasue of Karaf logging.
Solve incorrect log level setting in case of threads usage.
Add script plan for setting the controller's heap limit.

Change-Id: I1f4676da7f5a2764091c777a1f4cfd7b67bd1dfc
Signed-off-by: Radovan Sajben <rsajben@cisco.com>

Added missing resource import

Change-Id: If443e6639b63f214b07858479fb3309dbe2e4f61
Signed-off-by: Jozef Behran <jbehran@cisco.com>

updating test repository for Centinel

Change-Id: I1b756f5933573ce6b77a4d832356628e93de4b90
Signed-off-by: ShreshthaJoshi <shreshtha.joshi@tcs.com>

Added report about the bug causing the test failures.

Change-Id: I04ac5bf7325f3021398c5761807dcc59daa41f30
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Added CSIT Basic test to NetIDE

- added full stop to end of line 2

Change-Id: I01f7511cbdf055339ea78a9183d191f9ee2a4f18
Signed-off-by: aleckey <alexander.j.leckey@intel.com>

Fixed MININET_PROMPT usage

It is not possible to use these variables on the Library
import statement because these are processed before
Variables.py gets imported. Move to suite init and while
at it, the variable shall be named TOOLS_SYSTEM_PROMPT
instead.

Change-Id: Id873de41793248f3000d4f26ae8624ed8beadafd
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Teardown of GBP components from ODL controller

Change-Id: I29c3bd98f97903d1f1af4dca686819213ae4d179
Signed-off-by: Dileep Ranganathan <dileep.ranganathan@intel.com>
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Merged the netconf testplans into one.

The new test plan contains the old Netconf suite and the new
MDSAL and CRUD suites. All of these are "user features" so
they are run by a test plan called "userfeatures".

Change-Id: I251933d6f55320eac7b63069da513de6825e1a2c
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Netconf CRUD on mounted device data

Tests the basic operations (Create, Read, Update, Delete) on
device data exported via a netconf mount. Uses testtool to
simulate the netconf mounted device.

Change-Id: If8d94d5b9d37f1db50d963224dc948b51ffeb5ba
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Add keywords for complex Netconf operations

This library currently offers two sets of keywords
encapsulating common operations that are quite complex.

The first set is for testtool handling. It has two keywords.
The first one, named Deploy_And_Run_Testtool deploys
testtool and then starts it, redirecting its debug output to
a log file, the second one, Stop_Testtool, stops testtool
and downloads the log file with the debug output produced by
it. This API is quite simple but the keywords contain a
bunch of quite complex functionality.

The second set is for mounting devices onto Netconf,
unmounting them and checking their mounted status. These
keywords use device templates to supply the configuration
of the mounted device. A default template for the device is
included. These templates are referred to as "device types"
and the keywords keep track of the type of the device once
mounted.

In the future more "complex Netconf operations" may appear.
Therefore the library has a generic "netconf" name.

Change-Id: I138418806aa34c0940c63a1445c40b12eafdb219
Signed-off-by: Jozef Behran <jbehran@cisco.com>

bgpingest testsuite latest review comments and fixme

Change-Id: I486785eb1187ecf7856c703fca44719b14be645c
Signed-off-by: Radovan Sajben <rsajben@cisco.com>

Netconf MDSAL Northbound test suite

This test suite performs operations on ODL Netconf Server
bound on MDSAL (aka "Netconf MDSAL Northbound").

Change-Id: I04cb163b2be938965d1d3115b2df09787f27112c
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Logging the count in WaitUtils.Wait_..._Consecutive_Success

Digging the value of this parameter is possible but so
unintuitive that it is much better to just log it. An attempt
was made to make it secure against "users trying to pass 20MB
JSON into that argument".

Change-Id: If1273ee88c520e5d9063a5d2939e4c983d1c91b3
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Tidied new changes

Change-Id: I30a734297f318ab5a972b734d65a4139ac171a96
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Bug 4567 - CSIT config xml contains outdated config

Removed Notification service from configs

Change-Id: I6f5f5da4bd9f220abe63531a0030970a76dd5e06
Signed-off-by: Martin Mihálek <mamihale@cisco.com>

BGP Speaker tool & BGP performance suite functional enhancement

- functions for BGP messages encoding according to RFC 4271
- configurable message generator via command-line parameters
- support for logging and debugging
- provides performance data for plotting

Change-Id: Ifee756b0cd67bda5a2a931f19b70111f5fa123a3
Signed-off-by: Radovan Sajben <rsajben@cisco.com>

Changed deprecated keywords from RequestsLibrary to actual ones

ex. Get -> Get Request

Change-Id: I1dba7e61e856f9b1b54b97cc4293b5152643e300
Signed-off-by: Konstantin Blagov <kblagov@cisco.com>

Fixed broken settings section

The Documentation of SSHKeywords.robot was being ignored by
Robot because the line "*** Settings ***" was missing.

Change-Id: I3971cb340ecddc8a3b3421c2e0bb46d8c8dccb4f
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Adding POST method for JSONs to Utils.robot

For cases when we don't want to read JSONs from file
but from variable.

Change-Id: I99290db17bb65bc927fb9de9711be3a834a8bb30
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Init ODL controller for demo-symmetric-chain

JSON data are sent to ODL to create Tenants, Tunnel, SF, SFF, SFC, SFP

Change-Id: Id2331eaa08e9c6695a1e77b593b2d6c386b2b432
Signed-off-by: Dileep <dileep.ranganathan@intel.com>
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Init ODL controller for demo-asymmetric-chain

JSON data are sent to ODL to create Tenants, Tunnel, SF, SFF, SFC, SFP

Renamed JSON files for consistency

Change-Id: I45af0643c443d6fd20c7f1cd375d7dac89c0580b
Signed-off-by: Dileep <dileep.ranganathan@intel.com>
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Add keyword for watching TCP ports on remote machine

This keyword gets a TCP port number, a state (LISTEN or
ESTABLISHED are the most useful but other states produced
by netstat may be used) and a process name. It then runs
netstat, greps through its output and reports the number of
occurences of a line mentioning the port, state and process.

An instance where this is needed was found in the BGPCEP
suite and transformed to use the new keyword. This can serve
as an example of how to use the keyword and additionally
serves as a test that the keyword is correct.

Change-Id: Ica59958e9b5ade564904a1725e9ef77154f84317
Signed-off-by: Jozef Behran <jbehran@cisco.com>

iBGP performance suites against many fastbgp peers

- No half with ODL initiating connections as ODL configuration is slow.
- Peers need segment of bindable IP addresses.
- Still only iBGP peer roles used.
- Default multiplicity is 2, to avoid Bug 4488.

+ BGP functional suites changed to use template with configurable peer name.
+ Manager utility for starting multiple play.py processes.
+ BGPSpeaker Resource supports this Manager.
+ New suites added to existing ingest testplan.
+ play.py uses double quotes for string literals.
+ Configurable BGPCEP log level (useful for Bug 4488 investigation).
+ Assure Keywords moved to SSHKeywords, throughpcep suite updated for that.

Change-Id: I03faec4f209a3c657cbd3045d01b066789a0b35f
Signed-off-by: Vratko Polak <vrpolak@cisco.com>

Added testcase for displaying limits on mininet

The dummy test suite showing the Python versions and system
limits was showing the limits for Robot machine and for ODL
but left mininet out. This patch fixes the omission.

Change-Id: I501326a13a71a148fb3050f5b876d65d0aba9637
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Refactored the host related Robot variables

Changed MININET to TOOLS_SYSTEM_IP and CONTROLLER to
ODL_SYSTEM_IP. This also allowed to add missing things (user
IDs and the prompts) in a consistent and organized way.
The original names for the variables that did exist before
this chage are deprecated and will be removed once all tests
use the new naming convention. This change is thus backwards
compatible with robot scripts that use the old and deprecated
variable names as these variables are suppled with the values
from the new variables on pybot execution.

This change is an attempt to reduce confusion and increase
clarity for testing contributors. Current MININET variable
passed to pybot (IP address of jenkins slave) refers to any
slave node except ODL_SYSTEM_IP slaves. As testing expands to
include slaves besides mininet, it is prudent to change
variable "MININET" to a more descriptive name. The
"CONTROLLER" name is also somewhat vague as "controller" is
just one component of ODL; the new variable name emphasizes
the fact that the machine it refers to runs ODL.

Additionally a docstring that conveys pretty much no useful
information was removed. The policy according to which it
was created is now unknown and it was most likely in effect
at IBM (as can be seen from the "authors" line in the
removed comment).

Change-Id: I05eee98baee49753044f0b983767e42decdb4b04
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Testplan and suite for 1 iBGP peer performance tests

Work on this patch was started by Jozef Behran.
Additional changes by Vratko Polak:

+ Refactored to use WaitUtils.
+ ConfigViaRestconf now tolerates multiple calls to its Setup.
+ Testplan includes netconf readiness suite at the start.
+ Documentation cleanup.
+ Minor improvements to WaitUtils and ScalarClosuresTest
+ Subset of ODL_SYSTEM* and TOOLS_SYSTEM* variables added to Variables.py

The original commit message by Jozef Behran:

The first version of the test suite (called
singlepeer_prefixcount.robot) can tell if the tested system
can meet a target but it is not able to give "pure ingestion"
performance data for the test load, especially when the test
load is large. The measurement gives a somewhat inaccurate
measurement of the time it needs to ingest the data while
the topology is being accessed along with time of the final
check of the topology lumped in. On the other side this
provides a "real world workload benchmark" number which may
be useful for some users of the testsuite. An additional
advantage of this suite is that it subjects the BGP feature
of ODL to additional stress, allowing for exposure of more
bugs.

The second suite (singlepeer_changecount.robot) is able to
give performance numbers (times of the actions of filling and
emptying the topology) as well as checking whether the target
is met because it uses change counter to do the topology
up-to-date-ness detection which is much more lightweight test
than downloading the entire topology and counting the routes
in it. However as it does not stress ODL so much, it has
increased chances of missing some bugs.

Change-Id: Ia54aa426370632ac4ee14e70a21fa29fa0addce3
Signed-off-by: Jozef Behran <jbehran@cisco.com>
Signed-off-by: Vratko Polak <vrpolak@cisco.com>

Tidying updated files

Change-Id: I15a5d47e190deec9132f7a756914d181ff53ac25
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Added missing "y" possibility to str2bool

Change-Id: I65f940f744adb06ee1f9f07331bf9a6e3b460215
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Data adaptation for GBPSFC test cases

JSONs for ODL initialization

Change-Id: I32f4ce484e96152c7404e253ac03ca66c2e22592
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Separate lisp perf results into two files

The results are not related and should be shown on different graphs.

Change-Id: I9d23f60873d76444bea9988992b850169f223947
Signed-off-by: Lorand Jakab <lojakab@cisco.com>

Change cluster auto-down to 30s

Change cluster auto-down-after-unreachable-after
setting to 30s to go along with the controller
change for BUG 4037 in
https://git.opendaylight.org/gerrit/#/c/27852/.

Change-Id: If49bbd43c29f3ec1b830e9f341b79707638eeab0
Signed-off-by: Gary Wu <Gary.Wu1@huawei.com>

Added Netconf related variables

These are used by multiple tests so better to add them as a
separate change.

Change-Id: Ieb8d7dc0e59db2428d81fd365e1eb2ff421c6a7b
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Create add operation perf results in lisp

The initial version of the lispflowmapping performance tests only
computed the map request rate, after the mappings were added.  This
patch measures the time it takes to add the mappings and computes the
add rate.

Change-Id: Iae7a46c4a926b5710bd66d0c0861addeb9d7e8f5
Signed-off-by: Lorand Jakab <lojakab@cisco.com>

Add Library for advanced Waiting, including dependency and tests

WaitUtils.robot contains Keywords to be used by various
performance suites to detect when asynchronous work is done.

ScalarClosures.robot contains a specific way to wrap executable
Robot constructs into variables, to overcome limitations
of Robot Framework argument passing.

Each library also has a Robot suite to verify corectness
in simple (usually mocked) scenarios.

+ Testplan for integration verify library job is added
  (it includes Freeze suite, OpenFlow and BGPCEP functional tests).
+ "Stability" Validator moved from test suite to library for easier reuse.

- Example refactor of BGP performance suite will be in separate Change.
- *Test suites could have better coverage.
- Keyword names may be too verbose.
- In internals, ${state} and ${status} may be too similar names.

Change-Id: I113638e76bb5a62dcf2a44abcc464fb8bd38ab15
Signed-off-by: Vratko Polak <vrpolak@cisco.com>

Change resource from Utils.txt to Utils.robot in OVSDB Vxlan Suite

Change-Id: If4eb9dfc498507c96755a82f9ed41a34fb0daecb
Signed-off-by: Marcus G K Williams <Marcus.G.Williams@gmail.com>

Editing JSON files

to fix errors

Change-Id: I1206edd78b8d3bfae33d27e4bffad1039a670f3f
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Vtn Manager Pathpolicy test in csit

    * Refactor Verify flows for the pathpolicy
    * Address review comments add as a dependent patch

Change-Id: I3886402f8f0ba140d6db31fae37eefa46b144f9d
Signed-off-by: priya.ramasubbu <priya.ramasubbu@hcl.com>

Update lisp performance tests

Test framework and controller are on separate VMs, so send udpreplay
traffic to the ${CONTROLLER}

Change-Id: I0d4b02feaec3a82349e02c9d81effacd4f9d787f
Signed-off-by: Lorand Jakab <lojakab@cisco.com>