Added ability to pass special options to testtool

Added a new parameter to the "Install And Run Testtool"
keyword whose value will be passed to the testtool as it
was given. Additionally, the keyword now logs the exact
command used to start the test tool so it is now possible
to check whether the correct parameters were passed to it.

Change-Id: Iafbd065bc49ca3f90c0ee0fb4e50c83aa353aed7
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Adding option to specify headers in Utils

If not specified, default header is used.
Different header for POST request in GBP.

Change-Id: I8caa7152cc2076c97d573ebed9ca2290140c8e41
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Modifying tests to accommodate new feature definitions on NIC.

Change-Id: Ifb2e7212b748bd18740f83e14955e7e117e47b58
Signed-off-by: Raphael Amorim <raphael.amorim@hp.com>

Added documentation for NIC test case

Change-Id: I6f636d1e0a4bc0d6bb987b1ff3e9040e18a8b6e1
Signed-off-by: Alton Fong <alton.fong@hp.com>

Tidied new and updated test suites.

Change-Id: I89de53296a279dc99a71555e932dd316db12eff5
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Revised timeout for NIC CLI command with WUKS.

Change-Id: Ia74847e440151c96de77e9a1e5266c890aa4f44d
Signed-off-by: Alton Fong <alton.fong@hp.com>

Fix Wait_Device_Fully_Removed querying the wrong URL

When the device data is gone (device was disconnectd) but
the connector itself is still there, the keyword thinks the
device is no longer there and exits but the device is still
there and might stay due to a bug. Fix this by shortening the
URL to refer to the root of the connector, that should catch
such bugs.

Change-Id: Iddf55b3e5842e50828a327f4b442d0a6bd126e7f
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Making Netconf Via Restconf clustering aware

The Netconf Via Restconf library now got two additional
keywords. One (Create_NVR_Session) allows creating Netconf
Via Restconf sessions pointing to other nodes which are
running ODL and the other one (Activate_NVR_Session)
switches between them. This makes the Netconf Via Restconf
library able to access all nodes within an ODL cluster while
retaining its behavior in the single node case when these
two additional keywords are not used.

Change-Id: Id7fb6c2c11795a59b400dc054ff5d513b89d8631
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Tidied new and updated test suites

Change-Id: I6aacfc2f9de2c18735912d238b49476a3a4cc262
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Keyword to add multiple Managers to OVS

 * This Can be used by Cluster Tests for OVSDB Southbound

Change-Id: I0d5a8ac4993138d017526a7bab4a9953f357a99b
Signed-off-by: gvrangan <venkatrangang@hcl.com>

Added "survival after connection cycle check" testcases

After something was committed into the datastore, the
first test case gracefully disconnects (and fails if that
turned out to be impossible), the second one then checks
through restconf that the added item is still there,
the third one reconnects (and fails if the device turned
out to be inaccessible through netconf) and the fourth one
checks that the thing is still sitting there in the Netconf
data store.

Change-Id: I8898a9e498d862cce6b811b44d3c4d0b0194390f
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Less sensitive "empty config test"

Do not store the content of "empty config" but only check
that none of "our elements" are not there when they
shouldn't. The "check empty config" approach is not valid
because the "empty config" stored at the beginning may change
when another feature gets installed while the test is still
running.

Change-Id: Ib28f60a8ae9fdf705599b9db5a0cca6c7e75708b
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Missing part of commit 500faa3ca

A bunch of low-level manipulation was left behind in that
commit. Additionally, this low level manipulation piece
was missing some parts, leading to failures. Replace with
a call to a SSHLibrary keyword that does exactly the same
thing.

Change-Id: I30c0bea4571e8c441612d526171464222882a1e8
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Do not crash if attempt to open ODL Netconf connection fails

When the Connect_To_ODL_Netconf keyword fails for any reason,
the Close_ODL_Netconf_Connection in teardown crashes,
flagging all tests as failed. Avoid that by checking that
there indeed is an ODL Netconf connection to be closed before
trying to do so..

Change-Id: If33fc6a90daf7a2c5ceff750953b8cf99c438cf1
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Patch for basic HA cluster test (2/2)

Add owner fail and recover test cases.
New Cluster OF resource to avoid code replication.
New cluster keywords to kill and start cluster instances.
Some repairs to ClusterKeyword library

Change-Id: Iaee102a6032c27eaaecb312e7ef37cf66c4ab836
Signed-off-by: Luis Gomez <ecelgp@gmail.com>

Bug 4567 - CSIT config xml contains outdated config

For Lithium branch notification-service option is added to config file

Change-Id: If3b45cb0e6305b5941fd190417d77e8257004c7d
Signed-off-by: Martin Mihálek <mamihale@cisco.com>

CSIT jobs for usecplugin

Change-Id: Ifad6ea65880f61ef91be28b70544fd7b6eaf2f86
Signed-off-by: rafat <rafat.jahan@tcs.com>

Enhance freeze suite to log disk sizes

Karaf or test tool logs can be (configured to be) big,
this will be useful to investigate environment limits.

Change-Id: I539cd25b0b1d63bfba6ecb7df7bc0d485e40be17
Signed-off-by: Vratko Polak <vrpolak@cisco.com>

Change timeout for reading karaf log

Change-Id: Ib5471307b0bb734ad53558179dad8235dde8372d
Signed-off-by: Andrej Záň <andrej.zan@pantheon.sk>

Integration tests for GBP

Change-Id: Ica5e24f0854dbdcce1cb884edba09dcc3e8acdbb
Signed-off-by: Konstantin Blagov <kblagov@cisco.com>
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Revised NIC CLI tests to account for agnostic policy formats.

Change-Id: I028ce37c9a6940103098b3460c72d99f783188c5
Signed-off-by: Alton Fong <alton.fong@hp.com>

Fixed "close connection" action in MDSAL suite

Sending "^D" to the netconf connection does not guarantee
that the connection is closed properly, leading to a
spurious test failure due to failed teardown.

The proper way is to open two connections, one "control" and
one "netconf". The "netconf" connection then connects to
netconf as usual and the "control" connection is used to
control the SSH process connecting to netconf. It is used to
obtain the PID of the "sshpass" process which governs the
connection and to send the kill signal to that process
once the connection is to be closed.

Change-Id: I3a0bc1e03d1af9619ced3fa7dfcd45aad3d696fa
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Fixed naming of the test cases

The device is not "mounted" but "configured" on Netconf and
it is not "removed" but "deconfigured". The testcase names
were patched but the NetconfKeyword keywords (some of which
also have this problem) were left intact because changing
them is much more expensive operation in terms of time due
to the nonexistence of coding style checking tool. Also some
documentation strings needed this type of terminology fixing.

Change-Id: I4f63395e95d49f95b61ed7d73fcaf4e8c7714556
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Add ovsdbconfigblaster.py

Start of ovsdb southbound
performance suite.

Change-Id: I12f6360f343c05d399789b97bbe6a66d7f477469
Signed-off-by: Marcus Williams <marcus.g.williams@gmail.com>

Integration tests for GBP and GBP-SFC

Common files for all testcases

Change-Id: Ief74596257a13243f22b62b8c51ff3af38687e38
Signed-off-by: Konstantin Blagov <kblagov@cisco.com>
Signed-off-by: Igor Bartak <ibartak@cisco.com>
Signed-off-by: Martin Sunal <msunal@cisco.com>
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>
Signed-off-by: Dileep <dileep.ranganathan@intel.com>

crud performance test for car-people entries on 1 node cluster

- measure time to configure certain amount of cars at once
- measure time to purchse these cars one by one
- robot test case duration is the measured time
- config script uploaded to the mininet/tools vm
- add debug capabilities

Change-Id: I0d198fc03f2eb73026503ace1a27cf4354f7243c
Signed-off-by: Peter Gubka <pgubka@cisco.com>
Signed-off-by: Radovan Sajben <rsajben@cisco.com>

BGP functional test suite improvements

- backporting of improvements from BGP performance suite
- new functional tests for prefix withdrawal

Change-Id: Ic3fef25dce91ffa4186b841e2e5e65397e96fa1a
Signed-off-by: Radovan Sajben <rsajben@cisco.com>

Initial works for OF cluster test

Initial OpenFlow Cluster test suite
New Cluster Keywords to manage Shard and Entity Owner status.
New Cluster Keywords to Check, Get, Put and Delete URI
New Mininet library including multiple controller setup.
Fix Run Command On Remote System to do execute command
New Utils keyword to extract dictionary from list.
New Utils Keyword to check item occurrence in a string.
Add missing variables for MININET.

Change-Id: I3d3f2503140f3af4be80a64f96ebcdde45737930
Signed-off-by: Luis Gomez <ecelgp@gmail.com>

Added ability to turn on debug logging for Netconf suites

Any test plan that starts with the Netconf readiness suite
can now be asked to switch debug logging for everything by
setting  DEBUG_LOGGING_FOR_EVERYTHING to "True".

Change-Id: I10a9e76ec8ea2f04cfb238366e24ea64c7362d14
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Added Karaf logging to the Netconf readiness suite

When the Netconf readiness suite fails, it is impossible to
figure out what karaf.log logs were produced during the time
it was running. Add commands to emit log messages into
karaf.log when it starts running and when it ends.

Change-Id: I9fc441ef4978551ee11a36b0da556cd921bea5a3
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Fixed oversensitive MDSAL test

The Beryllium added some features that impacted the netconf
point, leading to failures of the MDSAL tests. Analysis
revealed that these failures were spurious and caused by the
suite checking things which don't really relate to what it
is supposed to test. Fixed by removing the suite's
oversensitiveness.

Change-Id: I1da95822ccf25400c1305b08a9b71d43e809a3bc
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Tidied new and modified tests

Change-Id: I9bc6a6aa136bc97827d840304bf3ed08726e3e8d
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Update of BGP speaker tool and SetupUtils related to bug_4533

Provide BGP speaker logs for incomming messages.
Solve wrong incomming message body length calculation.
Solve incorrect FastFailing of test suites becasue of Karaf logging.
Solve incorrect log level setting in case of threads usage.
Add script plan for setting the controller's heap limit.

Change-Id: I1f4676da7f5a2764091c777a1f4cfd7b67bd1dfc
Signed-off-by: Radovan Sajben <rsajben@cisco.com>

Added missing resource import

Change-Id: If443e6639b63f214b07858479fb3309dbe2e4f61
Signed-off-by: Jozef Behran <jbehran@cisco.com>

updating test repository for Centinel

Change-Id: I1b756f5933573ce6b77a4d832356628e93de4b90
Signed-off-by: ShreshthaJoshi <shreshtha.joshi@tcs.com>

Added report about the bug causing the test failures.

Change-Id: I04ac5bf7325f3021398c5761807dcc59daa41f30
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Added CSIT Basic test to NetIDE

- added full stop to end of line 2

Change-Id: I01f7511cbdf055339ea78a9183d191f9ee2a4f18
Signed-off-by: aleckey <alexander.j.leckey@intel.com>

Fixed MININET_PROMPT usage

It is not possible to use these variables on the Library
import statement because these are processed before
Variables.py gets imported. Move to suite init and while
at it, the variable shall be named TOOLS_SYSTEM_PROMPT
instead.

Change-Id: Id873de41793248f3000d4f26ae8624ed8beadafd
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Teardown of GBP components from ODL controller

Change-Id: I29c3bd98f97903d1f1af4dca686819213ae4d179
Signed-off-by: Dileep Ranganathan <dileep.ranganathan@intel.com>
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Merged the netconf testplans into one.

The new test plan contains the old Netconf suite and the new
MDSAL and CRUD suites. All of these are "user features" so
they are run by a test plan called "userfeatures".

Change-Id: I251933d6f55320eac7b63069da513de6825e1a2c
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Netconf CRUD on mounted device data

Tests the basic operations (Create, Read, Update, Delete) on
device data exported via a netconf mount. Uses testtool to
simulate the netconf mounted device.

Change-Id: If8d94d5b9d37f1db50d963224dc948b51ffeb5ba
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Add keywords for complex Netconf operations

This library currently offers two sets of keywords
encapsulating common operations that are quite complex.

The first set is for testtool handling. It has two keywords.
The first one, named Deploy_And_Run_Testtool deploys
testtool and then starts it, redirecting its debug output to
a log file, the second one, Stop_Testtool, stops testtool
and downloads the log file with the debug output produced by
it. This API is quite simple but the keywords contain a
bunch of quite complex functionality.

The second set is for mounting devices onto Netconf,
unmounting them and checking their mounted status. These
keywords use device templates to supply the configuration
of the mounted device. A default template for the device is
included. These templates are referred to as "device types"
and the keywords keep track of the type of the device once
mounted.

In the future more "complex Netconf operations" may appear.
Therefore the library has a generic "netconf" name.

Change-Id: I138418806aa34c0940c63a1445c40b12eafdb219
Signed-off-by: Jozef Behran <jbehran@cisco.com>

bgpingest testsuite latest review comments and fixme

Change-Id: I486785eb1187ecf7856c703fca44719b14be645c
Signed-off-by: Radovan Sajben <rsajben@cisco.com>

Netconf MDSAL Northbound test suite

This test suite performs operations on ODL Netconf Server
bound on MDSAL (aka "Netconf MDSAL Northbound").

Change-Id: I04cb163b2be938965d1d3115b2df09787f27112c
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Logging the count in WaitUtils.Wait_..._Consecutive_Success

Digging the value of this parameter is possible but so
unintuitive that it is much better to just log it. An attempt
was made to make it secure against "users trying to pass 20MB
JSON into that argument".

Change-Id: If1273ee88c520e5d9063a5d2939e4c983d1c91b3
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Tidied new changes

Change-Id: I30a734297f318ab5a972b734d65a4139ac171a96
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Bug 4567 - CSIT config xml contains outdated config

Removed Notification service from configs

Change-Id: I6f5f5da4bd9f220abe63531a0030970a76dd5e06
Signed-off-by: Martin Mihálek <mamihale@cisco.com>

BGP Speaker tool & BGP performance suite functional enhancement

- functions for BGP messages encoding according to RFC 4271
- configurable message generator via command-line parameters
- support for logging and debugging
- provides performance data for plotting

Change-Id: Ifee756b0cd67bda5a2a931f19b70111f5fa123a3
Signed-off-by: Radovan Sajben <rsajben@cisco.com>

Changed deprecated keywords from RequestsLibrary to actual ones

ex. Get -> Get Request

Change-Id: I1dba7e61e856f9b1b54b97cc4293b5152643e300
Signed-off-by: Konstantin Blagov <kblagov@cisco.com>

Fixed broken settings section

The Documentation of SSHKeywords.robot was being ignored by
Robot because the line "*** Settings ***" was missing.

Change-Id: I3971cb340ecddc8a3b3421c2e0bb46d8c8dccb4f
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Adding POST method for JSONs to Utils.robot

For cases when we don't want to read JSONs from file
but from variable.

Change-Id: I99290db17bb65bc927fb9de9711be3a834a8bb30
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Init ODL controller for demo-symmetric-chain

JSON data are sent to ODL to create Tenants, Tunnel, SF, SFF, SFC, SFP

Change-Id: Id2331eaa08e9c6695a1e77b593b2d6c386b2b432
Signed-off-by: Dileep <dileep.ranganathan@intel.com>
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Init ODL controller for demo-asymmetric-chain

JSON data are sent to ODL to create Tenants, Tunnel, SF, SFF, SFC, SFP

Renamed JSON files for consistency

Change-Id: I45af0643c443d6fd20c7f1cd375d7dac89c0580b
Signed-off-by: Dileep <dileep.ranganathan@intel.com>
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Add keyword for watching TCP ports on remote machine

This keyword gets a TCP port number, a state (LISTEN or
ESTABLISHED are the most useful but other states produced
by netstat may be used) and a process name. It then runs
netstat, greps through its output and reports the number of
occurences of a line mentioning the port, state and process.

An instance where this is needed was found in the BGPCEP
suite and transformed to use the new keyword. This can serve
as an example of how to use the keyword and additionally
serves as a test that the keyword is correct.

Change-Id: Ica59958e9b5ade564904a1725e9ef77154f84317
Signed-off-by: Jozef Behran <jbehran@cisco.com>

iBGP performance suites against many fastbgp peers

- No half with ODL initiating connections as ODL configuration is slow.
- Peers need segment of bindable IP addresses.
- Still only iBGP peer roles used.
- Default multiplicity is 2, to avoid Bug 4488.

+ BGP functional suites changed to use template with configurable peer name.
+ Manager utility for starting multiple play.py processes.
+ BGPSpeaker Resource supports this Manager.
+ New suites added to existing ingest testplan.
+ play.py uses double quotes for string literals.
+ Configurable BGPCEP log level (useful for Bug 4488 investigation).
+ Assure Keywords moved to SSHKeywords, throughpcep suite updated for that.

Change-Id: I03faec4f209a3c657cbd3045d01b066789a0b35f
Signed-off-by: Vratko Polak <vrpolak@cisco.com>

Added testcase for displaying limits on mininet

The dummy test suite showing the Python versions and system
limits was showing the limits for Robot machine and for ODL
but left mininet out. This patch fixes the omission.

Change-Id: I501326a13a71a148fb3050f5b876d65d0aba9637
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Refactored the host related Robot variables

Changed MININET to TOOLS_SYSTEM_IP and CONTROLLER to
ODL_SYSTEM_IP. This also allowed to add missing things (user
IDs and the prompts) in a consistent and organized way.
The original names for the variables that did exist before
this chage are deprecated and will be removed once all tests
use the new naming convention. This change is thus backwards
compatible with robot scripts that use the old and deprecated
variable names as these variables are suppled with the values
from the new variables on pybot execution.

This change is an attempt to reduce confusion and increase
clarity for testing contributors. Current MININET variable
passed to pybot (IP address of jenkins slave) refers to any
slave node except ODL_SYSTEM_IP slaves. As testing expands to
include slaves besides mininet, it is prudent to change
variable "MININET" to a more descriptive name. The
"CONTROLLER" name is also somewhat vague as "controller" is
just one component of ODL; the new variable name emphasizes
the fact that the machine it refers to runs ODL.

Additionally a docstring that conveys pretty much no useful
information was removed. The policy according to which it
was created is now unknown and it was most likely in effect
at IBM (as can be seen from the "authors" line in the
removed comment).

Change-Id: I05eee98baee49753044f0b983767e42decdb4b04
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Testplan and suite for 1 iBGP peer performance tests

Work on this patch was started by Jozef Behran.
Additional changes by Vratko Polak:

+ Refactored to use WaitUtils.
+ ConfigViaRestconf now tolerates multiple calls to its Setup.
+ Testplan includes netconf readiness suite at the start.
+ Documentation cleanup.
+ Minor improvements to WaitUtils and ScalarClosuresTest
+ Subset of ODL_SYSTEM* and TOOLS_SYSTEM* variables added to Variables.py

The original commit message by Jozef Behran:

The first version of the test suite (called
singlepeer_prefixcount.robot) can tell if the tested system
can meet a target but it is not able to give "pure ingestion"
performance data for the test load, especially when the test
load is large. The measurement gives a somewhat inaccurate
measurement of the time it needs to ingest the data while
the topology is being accessed along with time of the final
check of the topology lumped in. On the other side this
provides a "real world workload benchmark" number which may
be useful for some users of the testsuite. An additional
advantage of this suite is that it subjects the BGP feature
of ODL to additional stress, allowing for exposure of more
bugs.

The second suite (singlepeer_changecount.robot) is able to
give performance numbers (times of the actions of filling and
emptying the topology) as well as checking whether the target
is met because it uses change counter to do the topology
up-to-date-ness detection which is much more lightweight test
than downloading the entire topology and counting the routes
in it. However as it does not stress ODL so much, it has
increased chances of missing some bugs.

Change-Id: Ia54aa426370632ac4ee14e70a21fa29fa0addce3
Signed-off-by: Jozef Behran <jbehran@cisco.com>
Signed-off-by: Vratko Polak <vrpolak@cisco.com>

Tidying updated files

Change-Id: I15a5d47e190deec9132f7a756914d181ff53ac25
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Added missing "y" possibility to str2bool

Change-Id: I65f940f744adb06ee1f9f07331bf9a6e3b460215
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Data adaptation for GBPSFC test cases

JSONs for ODL initialization

Change-Id: I32f4ce484e96152c7404e253ac03ca66c2e22592
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Separate lisp perf results into two files

The results are not related and should be shown on different graphs.

Change-Id: I9d23f60873d76444bea9988992b850169f223947
Signed-off-by: Lorand Jakab <lojakab@cisco.com>

Change cluster auto-down to 30s

Change cluster auto-down-after-unreachable-after
setting to 30s to go along with the controller
change for BUG 4037 in
https://git.opendaylight.org/gerrit/#/c/27852/.

Change-Id: If49bbd43c29f3ec1b830e9f341b79707638eeab0
Signed-off-by: Gary Wu <Gary.Wu1@huawei.com>

Added Netconf related variables

These are used by multiple tests so better to add them as a
separate change.

Change-Id: Ieb8d7dc0e59db2428d81fd365e1eb2ff421c6a7b
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Create add operation perf results in lisp

The initial version of the lispflowmapping performance tests only
computed the map request rate, after the mappings were added.  This
patch measures the time it takes to add the mappings and computes the
add rate.

Change-Id: Iae7a46c4a926b5710bd66d0c0861addeb9d7e8f5
Signed-off-by: Lorand Jakab <lojakab@cisco.com>

Add Library for advanced Waiting, including dependency and tests

WaitUtils.robot contains Keywords to be used by various
performance suites to detect when asynchronous work is done.

ScalarClosures.robot contains a specific way to wrap executable
Robot constructs into variables, to overcome limitations
of Robot Framework argument passing.

Each library also has a Robot suite to verify corectness
in simple (usually mocked) scenarios.

+ Testplan for integration verify library job is added
  (it includes Freeze suite, OpenFlow and BGPCEP functional tests).
+ "Stability" Validator moved from test suite to library for easier reuse.

- Example refactor of BGP performance suite will be in separate Change.
- *Test suites could have better coverage.
- Keyword names may be too verbose.
- In internals, ${state} and ${status} may be too similar names.

Change-Id: I113638e76bb5a62dcf2a44abcc464fb8bd38ab15
Signed-off-by: Vratko Polak <vrpolak@cisco.com>

Change resource from Utils.txt to Utils.robot in OVSDB Vxlan Suite

Change-Id: If4eb9dfc498507c96755a82f9ed41a34fb0daecb
Signed-off-by: Marcus G K Williams <Marcus.G.Williams@gmail.com>

Editing JSON files

to fix errors

Change-Id: I1206edd78b8d3bfae33d27e4bffad1039a670f3f
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Vtn Manager Pathpolicy test in csit

    * Refactor Verify flows for the pathpolicy
    * Address review comments add as a dependent patch

Change-Id: I3886402f8f0ba140d6db31fae37eefa46b144f9d
Signed-off-by: priya.ramasubbu <priya.ramasubbu@hcl.com>

Update lisp performance tests

Test framework and controller are on separate VMs, so send udpreplay
traffic to the ${CONTROLLER}

Change-Id: I0d4b02feaec3a82349e02c9d81effacd4f9d787f
Signed-off-by: Lorand Jakab <lojakab@cisco.com>

Fix instantiation status in data for pcepuser suite

The old data had odl-pcep-ietf-initiated00:create flag
hardcoded to false, which is not correct for instantiated LSPs.

+ Topology_Intercondition is no longer tagged "xfail".

Change-Id: I936c27314caf5f8560b438fef693ef146ea20a1b
Signed-off-by: Vratko Polak <vrpolak@cisco.com>

Tcpmd5user to tolerate both Li and Be dispatcher configurations

Single test case added which tries to identify possible known Bugs.

Change-Id: Idfccaa4102b2a0f6cb39b3aae9cb52db16a986ef
Signed-off-by: Vratko Polak <vrpolak@cisco.com>

topoprocessing unification test suite

Change-Id: I94e840cd8376d34197ddd74ff88fad03e0c3bb53
Signed-off-by: Matej Perina <matej.perina@pantheon.sk>

Tidied new and updated Robot files

Change-Id: If2b92dec823355b7c564f4a9d07437f1402b5460
Signed-off-by: Jozef Behran <jbehran@cisco.com>

MD-SAL Data Store benchmarking test suite.

- mdsal/dsbenchmark performance testsuite introduced
- update of the dsbenchmark.py tool (output suitable for plotting)

Change-Id: I91f4f57e8ba0e52b7671266490d773ea5eb38b9d
Signed-off-by: Radovan Sajben <rsajben@cisco.com>

VTN Manager OpenFlow 10 Specification Testing in CSIT

    * Modify 010__vtn_manager.robot file in both VTN_Mgr_OF10 and VTN_Mgr_OF13
    * Add new functions in VtnMaKeywords to verify the flows on switch
    * Add new robot files for flowfilter and flowcondition in OF10
    * Pathmap and Pathpolicy functionality Tested in Open Flow 10 Specification
    * Add Tags exclude in 010__vtn_manager_pathpolicy.robot file due to missing of in_port in dumpflows.
    * Add new robot files for data flow in OF10

Change-Id: Ieb090a894d778e8e6b986351889ae7f7e68f0146
Signed-off-by: priya.ramasubbu <priya.ramasubbu@hcl.com>

Add Macmap and vlanmap tests for VTN manager CSIT

    * Add two robot files for macmap in both VTN_Mgr_OF10 and VTN_Mgr_OF13
    * Add functions in VTNMaKeywords
    * Add vlanmap robot file in VTN_Mgr_OF10 and modify vlan test in OF13.

Change-Id: Idca94fe54e7b7e5b343ec2772b8851514add4268
Signed-off-by: manimuthazhagan <manimuthazhagan.r@hcl.com>

Added keyword library for "Netconf via Restconf" handling

This library currently adds a lot of code duplication as it
is almost the same as "ConfigViaRestconf". However there is
no time for such cleanup so it is going to be postponed to
a later commit.

Change-Id: Idc628363d49c7c240652557f040d9f8f0f6cd105
Signed-off-by: Jozef Behran <jbehran@cisco.com>

API for GET requests with automatic error handling

The keyword "Get Data From URI" issues a GET request for the
specified URI through the specified session, FAILs if the
request returns an error (with logging that error into Robot
logs and returns the data on success. Success is currently
defined as "returned status code 200" and the method is
hardwired to GET so this keyword is not useful for making
non-data-getting requests like POST or for GET requests
that don't return any data and return an OK-like status code
(2XX where XX != 00).

Change-Id: Iee5e894687aa9576bc4968fe851d6ab72e386872
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Pcepuser fixes: Better handling of prompt and json ordering

Change-Id: Ia3bd570befc61d4dd4d18bef5c2aa426138757ff
Signed-off-by: Vratko Polak <vrpolak@cisco.com>

A dummy suite with testplan, for determining python versions

+ Test case to print system resource limits on Robot machine.
+ Test case to print system resource limits on ODL machine.

Change-Id: I3abf41fefad02e909388f6dfa6cdd353d8e3a3b2
Signed-off-by: Vratko Polak <vrpolak@cisco.com>

Bug 4486 - CSIT test wont copy config file to node

Changed Variable to ODL_SYSTEM_IP

Change-Id: I6080decca4cbe2fd614a1f43ac98cbdf46a7fb2a
Signed-off-by: Martin Mihálek <mamihale@cisco.com>

Make wait time in netconfready suite configurable

Useful for Sandbox testing.
Also, Lithium CSIT jobs with all install may legitimately need
more than the default 60 second.

Change-Id: I384071fc6602f0c3ad43b639a2715ce8fb2acb72
Signed-off-by: Vratko Polak <vrpolak@cisco.com>

Initialize robot test for ALTO.

Change-Id: I1e48fac8645cc89aefbb20f039cad7ce1dee0ff3
Signed-off-by: jensenzhang <jingxuan.n.zhang@gmail.com>

Added testplan and basic test suite for armoury

Change-Id: I404fddd4d571e51c581662ff03e60e2101bf0c8d
Signed-off-by: adetalhouet <adetalhouet@inocybe.com>

Add basic test suite for nemo

Change-Id: Icdcf79418941590e169cd4f59438a98bcfd98812
Signed-off-by: A H <an.ho@huawei.com>

adding idmlite testplan

Change-Id: I3dba9e3138a7e1e1cc481ac0d69411044d6cc5eb
Signed-off-by: Jamo Luhrsen <jluhrsen@redhat.com>

Keyword to report failures due to a known bug

Use the keyword in the [Teardown] configuration line of the
affected test to get a pretty report about a Bugzilla bug
that is causing the test to fail (and also an indication
that the failure is expected).

This shall be used instead of various ad-hoc kludges to hit
a particular known bug but still continue the test suite.
At least one future test suite needs this and there might
be others.

The change was originally committed as a8248ecaf however
that change has messed up commit message, obscuring the
real purpose of changes. Additionally, the keyword was
not run through robot.tidy and it clobbers the original
test failure message. This update makes sure that the
original failure message is shown as well as the message
about the URL of the bug that is causing the failure so
the exact problem can be spotted without digging in
log.html.

Change-Id: Id32850307f68160b63247dd97a1ffaa8203bb1bc
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Modify VTN library file to launch VTN Coordinator in CSIT

    * To start vtn coordinator modified script
    * Deploy VTN in controller vm(CENTOS 7.1) instead of mininet vm(CENTOS 6.6)

Change-Id: Ie15014feae01137f8eb0de54b86030716d71dd8f
Signed-off-by: Karthik.S <siva-karthik@hcl.com>

Data correction for GBP demo and GBPSFC symm demo

Removed trouble making white spaces.

Change-Id: Ie277723440eb4d79ddf01cc728cca9837e747dc6
Signed-off-by: Tomas Cechvala <tcechval@cisco.com>

Added testplan and basic test suite for unimgr

Change-Id: I816dae1b6df8aac36e0ce5cd0e5db98fdd107b3a
Signed-off-by: adetalhouet <adetalhouet@inocybe.com>

iterating on patch 28386

-  could not ammend patch set 28386 because it was depending on several
   other unrelated and unmerged patches.  this modification can stand on
   it's own and does not need to depend on other new changes.

Change-Id: I9dcfbf5b5df739ddac7d11cb7bd0f290e8fb4c52
Signed-off-by: Jamo Luhrsen <jluhrsen@redhat.com>

Tidy new tests

Change-Id: I8e27097336581debd0c272e770f7167ffc79cbf5
Signed-off-by: Jozef Behran <jbehran@cisco.com>

Fix lisp performance tests

Change-Id: I9ec23be10de8ed211ddf5ef53324d68bf8735610
Signed-off-by: Lorand Jakab <lojakab@cisco.com>

fixing false failure

-  looks like the suite is running fast enough to catch a few
   hundred connections still open before they are closed.  There
   is no thread leak after all, and forcing those connections
   closed with pkill seems to address it.

-  This test will fail with Helium SR2 as it should because the
   bug exists there.  It will pass with Lithium SR2 as the bug
   is not there.

Change-Id: I4b321c692354d5a9213be61979706049f5e39b9a
Signed-off-by: Jamo Luhrsen <jluhrsen@redhat.com>

Testing Data Flows of VTN Manager in CSIT.

    * Add new robot files to test portmapping data flow functionality
    * Add new robot files to test vlanmapping data flow functionality

Change-Id: I958eba37c41cb79f0e3f583b1221e7badd57dd6d
Signed-off-by: priya.ramasubbu <priya.ramasubbu@hcl.com>
Signed-off-by: Jamo Luhrsen <jluhrsen@redhat.com>
Signed-off-by: priya.ramasubbu <priya.ramasubbu@hcl.com>

Tidy new .robot files

Version used: Robot Framework 2.9 (Python 2.7.9 on linux2)
This also reverts changes caused by tidy from earlier Robot version.

Change-Id: I8e95e2968f993809e87c4779fad71c0512ec0286
Signed-off-by: Vratko Polak <vrpolak@cisco.com>

Add LISP performance test plan

Change-Id: I4ca3a615815dcc8e84a2dde7233d1bc30aacb65e
Signed-off-by: Lorand Jakab <lojakab@cisco.com>

PathMap and PathPolicy VTN Manager Sandbox testing.

    * Add new files mininet topology and pathpolicy test cases

Change-Id: I7a6ea77645b9414fe95a582209925272616714c8
Signed-off-by: priya.ramasubbu <priya.ramasubbu@hcl.com>

Refactor cluster car-people test to reduce test time in case of failure

Reorganize and clean up cluster keywords.
Introduce START_TIMEOUT and STOP_TIMEOUT variables for instance restart.
Use cars to determine whether application is up.
Remove unnecessary waits.
Add test case documentation.
Change test cases name to standard.

Change-Id: I819cb86c604338b7452f4378ecde82d24cde6c16
Signed-off-by: Luis Gomez <ecelgp@gmail.com>