csit/suites/netvirt/vpnservice/vpn_basic.robot

   1 *** Settings ***
   2 Documentation     Test suite to validate vpnservice functionality in an openstack integrated environment.
   3 ...               The assumption of this suite is that the environment is already configured with the proper
   4 ...               integration bridges and vxlan tunnels.
   5 Suite Setup       Suite Setup
   6 Suite Teardown    Suite Teardown
   7 Test Setup        SetupUtils.Setup_Test_With_Logging_And_Without_Fast_Failing
   8 Test Teardown     OpenStackOperations.Get Test Teardown Debugs
   9 Library           OperatingSystem
  10 Library           RequestsLibrary
  11 Resource          ../../../libraries/Utils.robot
  12 Resource          ../../../libraries/OpenStackOperations.robot
  13 Resource          ../../../libraries/DevstackUtils.robot
  14 Resource          ../../../libraries/VpnOperations.robot
  15 Resource          ../../../libraries/OVSDB.robot
  16 Resource          ../../../libraries/SetupUtils.robot
  17 Resource          ../../../libraries/Tcpdump.robot
  18 Resource          ../../../variables/Variables.robot
  19 Resource          ../../../variables/netvirt/Variables.robot
  20
  21 *** Variables ***
  22 ${SECURITY_GROUP}    vpn_sg
  23 @{NETWORKS}       vpn_net_1    vpn_net_2
  24 @{SUBNETS}        vpn_sub_1    vpn_sub_2
  25 @{SUBNET_CIDRS}    10.1.1.0/24    20.1.1.0/24
  26 @{PORTS}          vpn_net_1_port_1    vpn_net_1_port_2    vpn_net_2_port_1    vpn_net_2_port_2
  27 @{NET_1_VMS}      vpn_net_1_vm_1    vpn_net_1_vm_2
  28 @{NET_2_VMS}      vpn_net_2_vm_1    vpn_net_2_vm_2
  29 ${ROUTER}         vpn_router
  30 @{EXTRA_NW_IP}    71.1.1.2    72.1.1.2
  31 @{EXTRA_NW_SUBNET}    71.1.1.0/24    72.1.1.0/24
  32 ${UPDATE_NETWORK}    UpdateNetwork
  33 ${UPDATE_SUBNET}    UpdateSubnet
  34 ${UPDATE_PORT}    UpdatePort
  35 @{VPN_INSTANCE_IDS}    4ae8cd92-48ca-49b5-94e1-b2921a261441    4ae8cd92-48ca-49b5-94e1-b2921a261442    4ae8cd92-48ca-49b5-94e1-b2921a261443
  36 @{VPN_NAMES}      vpn_1    vpn_2    vpn_3
  37 @{RDS}            ["2200:2"]    ["2300:2"]    ["2400:2"]
  38 ${PORT_NEW}       vpn_net_1_port_new
  39 ${VM_NAME_NEW}    vpn_net_1_vm_new
  40 ${INVALID_VPN_INSTANCE_ID}    AAAAAAAAAA-4848-4949-9494-666666666666
  41
  42 *** Test Cases ***
  43 Check ELAN Datapath Traffic Within The Networks
  44     [Documentation]    Checks datapath within the same network with different vlans.
  45     ${output} =    OpenStackOperations.Execute Command on VM Instance    @{NETWORKS}[0]    @{NET_1_VM_IPS}[0]    ping -c 3 @{NET_1_VM_IPS}[1]
  46     BuiltIn.Should Contain    ${output}    64 bytes
  47     ${output} =    OpenStackOperations.Execute Command on VM Instance    @{NETWORKS}[1]    @{NET_2_VM_IPS}[0]    ping -c 3 @{NET_2_VM_IPS}[1]
  48     BuiltIn.Should Contain    ${output}    64 bytes
  49
  50 Create Router
  51     OpenStackOperations.Create Router    ${ROUTER}
  52     ${router_list} =    BuiltIn.Create List    ${ROUTER}
  53     BuiltIn.Wait Until Keyword Succeeds    3s    1s    Utils.Check For Elements At URI    ${ROUTER_URL}    ${router_list}
  54
  55 Add Interfaces To Router
  56     : FOR    ${interface}    IN    @{SUBNETS}
  57     \    OpenStackOperations.Add Router Interface    ${ROUTER}    ${interface}
  58     ${interface_output} =    OpenStackOperations.Show Router Interface    ${ROUTER}
  59     ${GWMAC_ADDRS}    ${GWIP_ADDRS} =    VpnOperations.Get Gateway MAC And IP Address    ${ROUTER}
  60     BuiltIn.Set Suite Variable    ${GWMAC_ADDRS}
  61     BuiltIn.Set Suite Variable    ${GWIP_ADDRS}
  62
  63 Check L3_Datapath Traffic Across Networks With Router
  64     @{tcpdump_conn_ids} =    OpenStackOperations.Start Packet Capture On Nodes    tcpdump_vpn    ${EMPTY}    @{OS_ALL_IPS}
  65     ${vm_ips} =    BuiltIn.Create List    @{NET_1_VM_IPS}    @{NET_2_VM_IPS}
  66     BuiltIn.Wait Until Keyword Succeeds    30s    10s    Utils.Check For Elements At URI    ${FIB_ENTRY_URL}    ${vm_ips}
  67     Verify Flows Are Present For L3VPN On All Compute Nodes    ${vm_ips}
  68     BuiltIn.Wait Until Keyword Succeeds    30s    10s    VpnOperations.Verify GWMAC Entry On ODL    ${GWMAC_ADDRS}
  69     Verify GWMAC Flow Entry On Flow Table On All Compute Nodes
  70     ${dst_ip_list} =    BuiltIn.Create List    @{NET_1_VM_IPS}[1]    @{NET_2_VM_IPS}
  71     OpenStackOperations.Test Operations From Vm Instance    @{NETWORKS}[0]    @{NET_1_VM_IPS}[0]    ${dst_ip_list}
  72     ${dst_ip_list} =    BuiltIn.Create List    @{NET_2_VM_IPS}[1]    @{NET_1_VM_IPS}
  73     OpenStackOperations.Test Operations From Vm Instance    @{NETWORKS}[1]    @{NET_2_VM_IPS}[0]    ${dst_ip_list}
  74     [Teardown]    VpnOperations.Test Teardown With Tcpdump Stop    ${tcpdump_conn_ids}
  75
  76 Add Multiple Extra Routes And Check Datapath Before L3VPN Creation
  77     ${CONFIG_EXTRA_ROUTE_IP1} =    BuiltIn.Catenate    sudo ifconfig eth0:1 @{EXTRA_NW_IP}[0] netmask 255.255.255.0 up
  78     ${output} =    OpenStackOperations.Execute Command on VM Instance    @{NETWORKS}[0]    @{NET_1_VM_IPS}[0]    ${CONFIG_EXTRA_ROUTE_IP1}
  79     ${CONFIG_EXTRA_ROUTE_IP2} =    BuiltIn.Catenate    sudo ifconfig eth0:2 @{EXTRA_NW_IP}[1] netmask 255.255.255.0 up
  80     ${output} =    OpenStackOperations.Execute Command on VM Instance    @{NETWORKS}[0]    @{NET_1_VM_IPS}[0]    ${CONFIG_EXTRA_ROUTE_IP2}
  81     ${output} =    OpenStackOperations.Execute Command on VM Instance    @{NETWORKS}[0]    @{NET_1_VM_IPS}[0]    ifconfig
  82     ${ext_rt1} =    BuiltIn.Set Variable    destination=@{EXTRA_NW_SUBNET}[0],gateway=@{NET_1_VM_IPS}[0]
  83     ${ext_rt2} =    BuiltIn.Set Variable    destination=@{EXTRA_NW_SUBNET}[1],gateway=@{NET_1_VM_IPS}[0]
  84     ${cmd} =    BuiltIn.Catenate    ${RT_OPTIONS}    ${ext_rt1}    ${RT_OPTIONS}    ${ext_rt2}
  85     OpenStackOperations.Update Router    ${ROUTER}    ${cmd}
  86     OpenStackOperations.Show Router    ${ROUTER}    -D
  87     ${vm_ips} =    BuiltIn.Create List    @{EXTRA_NW_SUBNET}
  88     BuiltIn.Wait Until Keyword Succeeds    30s    10s    Utils.Check For Elements At URI    ${FIB_ENTRY_URL}    ${vm_ips}
  89     ${output} =    OpenStackOperations.Execute Command on VM Instance    @{NETWORKS}[0]    @{NET_1_VM_IPS}[1]    ping -c 3 @{EXTRA_NW_IP}[1]
  90     BuiltIn.Should Contain    ${output}    64 bytes
  91     ${output} =    OpenStackOperations.Execute Command on VM Instance    @{NETWORKS}[1]    @{NET_2_VM_IPS}[1]    ping -c 3 @{EXTRA_NW_IP}[1]
  92     BuiltIn.Should Contain    ${output}    64 bytes
  93     ${output} =    OpenStackOperations.Execute Command on VM Instance    @{NETWORKS}[0]    @{NET_1_VM_IPS}[1]    ping -c 3 @{EXTRA_NW_IP}[0]
  94     BuiltIn.Should Contain    ${output}    64 bytes
  95
  96 Delete Extra Route
  97     OpenStackOperations.Update Router    ${ROUTER}    ${RT_CLEAR}
  98     OpenStackOperations.Show Router    ${ROUTER}    -D
  99
 100 Delete And Recreate Extra Route
 101     [Documentation]    Recreate multiple extra route and check data path before L3VPN creation
 102     ${CONFIG_EXTRA_ROUTE_IP1} =    BuiltIn.Catenate    sudo ifconfig eth0:1 @{EXTRA_NW_IP}[0] netmask 255.255.255.0 up
 103     ${output} =    OpenStackOperations.Execute Command on VM Instance    @{NETWORKS}[0]    @{NET_1_VM_IPS}[0]    ${CONFIG_EXTRA_ROUTE_IP1}
 104     ${ext_rt1} =    BuiltIn.Set Variable    destination=@{EXTRA_NW_SUBNET}[0],gateway=@{NET_1_VM_IPS}[0]
 105     ${cmd} =    BuiltIn.Catenate    ${RT_OPTIONS}    ${ext_rt1}
 106     OpenStackOperations.Update Router    ${ROUTER}    ${cmd}
 107     OpenStackOperations.Show Router    ${ROUTER}    -D
 108     ${output} =    OpenStackOperations.Execute Command on VM Instance    @{NETWORKS}[0]    @{NET_1_VM_IPS}[1]    ping -c 3 @{EXTRA_NW_IP}[0]
 109     BuiltIn.Should Contain    ${output}    64 bytes
 110     # clear off extra-routes before the next set of tests
 111     [Teardown]    BuiltIn.Run Keywords    OpenStackOperations.Update Router    ${ROUTER}    ${RT_CLEAR}
 112     ...    AND    OpenStackOperations.Show Router    ${ROUTER}    -D
 113     ...    AND    OpenStackOperations.Get Test Teardown Debugs
 114
 115 Create L3VPN
 116     ${net_id} =    OpenStackOperations.Get Net Id    @{NETWORKS}[0]
 117     ${tenant_id} =    OpenStackOperations.Get Tenant ID From Network    ${net_id}
 118     BuiltIn.Log    @{RDS}[0]
 119     VpnOperations.VPN Create L3VPN    vpnid=@{VPN_INSTANCE_IDS}[0]    name=@{VPN_NAMES}[0]    rd=@{RDS}[0]    exportrt=@{RDS}[0]    importrt=@{RDS}[0]    tenantid=${tenant_id}
 120     ${resp} =    VpnOperations.VPN Get L3VPN    vpnid=@{VPN_INSTANCE_IDS}[0]
 121     BuiltIn.Should Contain    ${resp}    @{VPN_INSTANCE_IDS}[0]
 122
 123 Associate L3VPN To Routers
 124     ${router_id} =    OpenStackOperations.Get Router Id    ${ROUTER}
 125     VpnOperations.Associate VPN to Router    routerid=${router_id}    vpnid=@{VPN_INSTANCE_IDS}[0]
 126     ${resp} =    VpnOperations.VPN Get L3VPN    vpnid=@{VPN_INSTANCE_IDS}[0]
 127     BuiltIn.Should Contain    ${resp}    ${router_id}
 128
 129 Verify L3VPN Datapath With Router Association
 130     ${vm_ips} =    BuiltIn.Create List    @{NET_1_VM_IPS}    @{NET_2_VM_IPS}
 131     BuiltIn.Wait Until Keyword Succeeds    30s    10s    Utils.Check For Elements At URI    ${VPN_IFACES_URL}    ${vm_ips}
 132     ${RD} =    Strip String    @{RDS}[0]    characters="[]
 133     BuiltIn.Wait Until Keyword Succeeds    60s    15s    Utils.Check For Elements At URI    ${CONFIG_API}/odl-fib:fibEntries/vrfTables/${RD}/    ${vm_ips}
 134     Verify Flows Are Present For L3VPN On All Compute Nodes    ${vm_ips}
 135     BuiltIn.Wait Until Keyword Succeeds    30s    15s    VpnOperations.Verify GWMAC Entry On ODL    ${GWMAC_ADDRS}
 136     Verify GWMAC Flow Entry On Flow Table On All Compute Nodes
 137     BuiltIn.Log    Check datapath from network1 to network2
 138     ${dst_ip_list} =    BuiltIn.Create List    @{NET_1_VM_IPS}[1]    @{NET_2_VM_IPS}
 139     OpenStackOperations.Test Operations From Vm Instance    @{NETWORKS}[0]    @{NET_1_VM_IPS}[0]    ${dst_ip_list}
 140     BuiltIn.Log    Check datapath from network2 to network1
 141     ${dst_ip_list} =    BuiltIn.Create List    @{NET_2_VM_IPS}[1]    @{NET_1_VM_IPS}
 142     OpenStackOperations.Test Operations From Vm Instance    @{NETWORKS}[1]    @{NET_2_VM_IPS}[0]    ${dst_ip_list}
 143
 144 Delete Router Failure When Associated With L3VPN
 145     ${router_id} =    OpenStackOperations.Get Router Id    ${ROUTER}
 146     ${rc}    ${output} =    Run And Return Rc And Output    openstack router delete ${ROUTER}
 147     BuiltIn.Should Match Regexp    ${output}    Failed to delete router.*${ROUTER}
 148     BuiltIn.Should Be True    '${rc}' == '1'
 149     ${router_output} =    OpenStackOperations.List Routers
 150     BuiltIn.Should Contain    ${router_output}    ${ROUTER}
 151     @{router_list} =    BuiltIn.Create List    ${ROUTER}
 152     BuiltIn.Wait Until Keyword Succeeds    3s    1s    Utils.Check For Elements At URI    ${ROUTER_URL}    ${router_list}
 153     ${resp} =    VpnOperations.VPN Get L3VPN    vpnid=@{VPN_INSTANCE_IDS}[0]
 154     BuiltIn.Should Contain    ${resp}    ${router_id}
 155     Verify GWMAC Flow Entry On Flow Table On All Compute Nodes
 156
 157 Remove Router Interfaces
 158     ${router_id} =    OpenStackOperations.Get Router Id    ${ROUTER}
 159     : FOR    ${INTERFACE}    IN    @{SUBNETS}
 160     \    OpenStackOperations.Remove Interface    ${ROUTER}    ${INTERFACE}
 161     ${interface_output} =    OpenStackOperations.Show Router Interface    ${ROUTER}
 162     : FOR    ${INTERFACE}    IN    @{SUBNETS}
 163     \    ${subnet_id} =    OpenStackOperations.Get Subnet Id    ${INTERFACE}
 164     \    BuiltIn.Should Not Contain    ${interface_output}    ${subnet_id}
 165
 166 Disassociate L3VPN From Router
 167     ${router_id} =    OpenStackOperations.Get Router Id    ${ROUTER}
 168     VpnOperations.Dissociate VPN to Router    routerid=${router_id}    vpnid=@{VPN_INSTANCE_IDS}[0]
 169     ${resp} =    VpnOperations.VPN Get L3VPN    vpnid=@{VPN_INSTANCE_IDS}[0]
 170     BuiltIn.Should Not Contain    ${resp}    ${router_id}
 171
 172 Delete Router
 173     Delete Router    ${ROUTER}
 174     ${router_output} =    OpenStackOperations.List Routers
 175     BuiltIn.Should Not Contain    ${router_output}    ${ROUTER}
 176     @{router_list} =    BuiltIn.Create List    ${ROUTER}
 177     BuiltIn.Wait Until Keyword Succeeds    3s    1s    Utils.Check For Elements Not At URI    ${ROUTER_URL}    ${router_list}
 178     ${resp} =    VpnOperations.VPN Get L3VPN    vpnid=@{VPN_INSTANCE_IDS}[0]
 179     BuiltIn.Should Not Contain    ${resp}    ${ROUTER}
 180     Verify GWMAC Flow Entry Removed From Flow Table On All Compute Nodes
 181
 182 Delete Router With NonExistentRouter Name
 183     [Documentation]    Delete router with nonExistentRouter name
 184     ${rc}    ${output} =    Run And Return Rc And Output    neutron router-delete nonExistentRouter
 185     BuiltIn.Should Match Regexp    ${output}    Unable Not At URIto find router with name or id 'nonExistentRouter'|Unable to find router\\(s\\) with id\\(s\\) 'nonExistentRouter'
 186
 187 Associate Networks To L3VPN
 188     [Documentation]    Associates L3VPN to networks and verify
 189     ${network1_id} =    OpenStackOperations.Get Net Id    @{NETWORKS}[0]
 190     ${network2_id} =    OpenStackOperations.Get Net Id    @{NETWORKS}[1]
 191     VpnOperations.Associate L3VPN To Network    networkid=${network1_id}    vpnid=@{VPN_INSTANCE_IDS}[0]
 192     ${resp} =    VpnOperations.VPN Get L3VPN    vpnid=@{VPN_INSTANCE_IDS}[0]
 193     BuiltIn.Should Contain    ${resp}    ${network1_id}
 194     VpnOperations.Associate L3VPN To Network    networkid=${network2_id}    vpnid=@{VPN_INSTANCE_IDS}[0]
 195     ${resp} =    VpnOperations.VPN Get L3VPN    vpnid=@{VPN_INSTANCE_IDS}[0]
 196     BuiltIn.Should Contain    ${resp}    ${network2_id}
 197
 198 Check Datapath Traffic Across Networks With L3VPN
 199     [Documentation]    Datapath Test Across the networks with VPN.
 200     ${output} =    OpenStackOperations.Execute Command on VM Instance    @{NETWORKS}[0]    @{NET_1_VM_IPS}[0]    ping -c 20 @{NET_1_VM_IPS}[1]
 201     BuiltIn.Should Contain    ${output}    64 bytes
 202     ${output} =    OpenStackOperations.Execute Command on VM Instance    @{NETWORKS}[0]    @{NET_1_VM_IPS}[0]    ping -c 20 @{NET_2_VM_IPS}[1]
 203     BuiltIn.Should Contain    ${output}    64 bytes
 204     ${output} =    OpenStackOperations.Execute Command on VM Instance    @{NETWORKS}[0]    @{NET_1_VM_IPS}[0]    ping -c 20 @{NET_2_VM_IPS}[0]
 205     BuiltIn.Should Contain    ${output}    64 bytes
 206
 207 Verification of route update after VM port removed and re added to VPN
 208     [Documentation]    Verify route update after VM port removed and re added to VPN
 209     OpenStackOperations.Delete Port    @{PORTS}[0]
 210     ${net_list} =    BuiltIn.Create List    ${NET_1_VM_IPS[0]}
 211     BuiltIn.Wait Until Keyword Succeeds    30s    10s    Utils.Check For Elements Not At URI    ${FIB_ENTRY_URL}    ${net_list}
 212     OpenStackOperations.Delete Vm Instance    @{NET_1_VMS}[0]
 213     OpenStackOperations.Create Port    @{NETWORKS}[0]    @{PORTS}[0]    sg=${SECURITY_GROUP}
 214     BuiltIn.Wait Until Keyword Succeeds    3s    1s    Utils.Check For Elements At URI    ${PORT_URL}    ${PORTS}
 215     OpenStackOperations.Create Vm Instance With Port On Compute Node    @{PORTS}[0]    @{NET_1_VMS}[0]    ${OS_CMP1_HOSTNAME}    sg=${SECURITY_GROUP}
 216     @{NET_1_VM_IPS}    ${NET_1_DHCP_IP} =    OpenStackOperations.Get VM IPs    @{NET_1_VMS}
 217     BuiltIn.Set Suite Variable    @{NET_1_VM_IPS}
 218     BuiltIn.Wait Until Keyword Succeeds    30s    10s    Utils.Check For Elements At URI    ${FIB_ENTRY_URL}    ${NET_1_VM_IPS}
 219     ${output} =    OpenStackOperations.Execute Command on VM Instance    @{NETWORKS}[0]    @{NET_1_VM_IPS}[0]    ping -c 10 @{NET_1_VM_IPS}[1]
 220     BuiltIn.Should Contain    ${output}    64 bytes
 221     ${output} =    OpenStackOperations.Execute Command on VM Instance    @{NETWORKS}[0]    @{NET_1_VM_IPS}[0]    ping -c 10 @{NET_2_VM_IPS}[0]
 222     BuiltIn.Should Contain    ${output}    64 bytes
 223
 224 Verification of route update after reconfiguring vpn by adding new ports
 225     [Documentation]    Verify route update after reconfiguring vpn by creating new VM with new port on openvswitch1
 226     OpenStackOperations.Create Port    @{NETWORKS}[0]    ${PORT_NEW}    sg=${SECURITY_GROUP}
 227     OpenStackOperations.Create Vm Instance With Port On Compute Node    ${PORT_NEW}    ${VM_NAME_NEW}    ${OS_CMP1_HOSTNAME}    sg=${SECURITY_GROUP}
 228     OpenStackOperations.Poll VM Is ACTIVE    ${VM_NAME_NEW}
 229     ${status}    ${ips_and_console_log} =    BuiltIn.Run Keyword And Ignore Error    BuiltIn.Wait Until Keyword Succeeds    180s    15s    OpenStackOperations.Get VM IP
 230     ...    true    ${VM_NAME_NEW}
 231     ${output} =    VpnOperations.Get Fib Entries    session
 232     BuiltIn.Should Contain    ${output}    ${ips_and_console_log[0]}
 233     OpenStackOperations.Delete Vm Instance    ${VM_NAME_NEW}
 234     OpenStackOperations.Delete Port    ${PORT_NEW}
 235
 236 Dissociate L3VPN From Networks
 237     [Documentation]    Dissociate L3VPN from networks
 238     ${network1_id} =    OpenStackOperations.Get Net Id    @{NETWORKS}[0]
 239     ${network2_id} =    OpenStackOperations.Get Net Id    @{NETWORKS}[1]
 240     VpnOperations.Dissociate L3VPN From Networks    networkid=${network1_id}    vpnid=@{VPN_INSTANCE_IDS}[0]
 241     ${resp} =    VpnOperations.VPN Get L3VPN    vpnid=@{VPN_INSTANCE_IDS}[0]
 242     BuiltIn.Should Not Contain    ${resp}    ${network1_id}
 243     VpnOperations.Dissociate L3VPN From Networks    networkid=${network2_id}    vpnid=@{VPN_INSTANCE_IDS}[0]
 244     ${resp} =    VpnOperations.VPN Get L3VPN    vpnid=@{VPN_INSTANCE_IDS}[0]
 245     BuiltIn.Should Not Contain    ${resp}    ${network2_id}
 246
 247 Delete Unknown L3VPN
 248     [Documentation]    Verification of a failure response with deletion of an unknown L3VPN
 249     ${status}    ${message} =    BuiltIn.Run Keyword And Ignore Error    VpnOperations.VPN Delete L3VPN    vpnid=${INVALID_VPN_INSTANCE_ID}
 250     BuiltIn.Should Contain    ${status}    FAIL
 251
 252 Delete L3VPN
 253     [Documentation]    Delete L3VPN
 254     VpnOperations.VPN Delete L3VPN    vpnid=@{VPN_INSTANCE_IDS}[0]
 255
 256 Create Multiple L3VPN
 257     [Documentation]    Creates three L3VPNs and then verify the same
 258     ${net_id} =    OpenStackOperations.Get Net Id    @{NETWORKS}[0]
 259     ${tenant_id} =    OpenStackOperations.Get Tenant ID From Network    ${net_id}
 260     VpnOperations.VPN Create L3VPN    vpnid=@{VPN_INSTANCE_IDS}[0]    name=@{VPN_NAMES}[0]    rd=@{RDS}[0]    exportrt=@{RDS}[0]    importrt=@{RDS}[0]    tenantid=${tenant_id}
 261     VpnOperations.VPN Create L3VPN    vpnid=@{VPN_INSTANCE_IDS}[1]    name=@{VPN_NAMES}[1]    rd=@{RDS}[1]    exportrt=@{RDS}[1]    importrt=@{RDS}[1]    tenantid=${tenant_id}
 262     VpnOperations.VPN Create L3VPN    vpnid=@{VPN_INSTANCE_IDS}[2]    name=@{VPN_NAMES}[2]    rd=@{RDS}[2]    exportrt=@{RDS}[2]    importrt=@{RDS}[2]    tenantid=${tenant_id}
 263     ${resp} =    VpnOperations.VPN Get L3VPN    vpnid=@{VPN_INSTANCE_IDS}[0]
 264     BuiltIn.Should Contain    ${resp}    @{VPN_INSTANCE_IDS}[0]
 265     ${resp} =    VpnOperations.VPN Get L3VPN    vpnid=@{VPN_INSTANCE_IDS}[1]
 266     BuiltIn.Should Contain    ${resp}    @{VPN_INSTANCE_IDS}[1]
 267     ${resp} =    VpnOperations.VPN Get L3VPN    vpnid=@{VPN_INSTANCE_IDS}[2]
 268     BuiltIn.Should Contain    ${resp}    @{VPN_INSTANCE_IDS}[2]
 269
 270 *** Keywords ***
 271 Suite Setup
 272     VpnOperations.Basic Suite Setup
 273     OpenStackOperations.Create Network    @{NETWORKS}[0]
 274     OpenStackOperations.Create Network    @{NETWORKS}[1]
 275     BuiltIn.Wait Until Keyword Succeeds    3s    1s    Utils.Check For Elements At URI    ${NETWORK_URL}    ${NETWORKS}
 276     OpenStackOperations.Update Network    @{NETWORKS}[0]    additional_args=--description ${UPDATE_NETWORK}
 277     ${output} =    OpenStackOperations.Show Network    @{NETWORKS}[0]
 278     BuiltIn.Should Contain    ${output}    ${UPDATE_NETWORK}
 279     OpenStackOperations.Create SubNet    @{NETWORKS}[0]    @{SUBNETS}[0]    @{SUBNET_CIDRS}[0]
 280     OpenStackOperations.Create SubNet    @{NETWORKS}[1]    @{SUBNETS}[1]    @{SUBNET_CIDRS}[1]
 281     BuiltIn.Wait Until Keyword Succeeds    3s    1s    Utils.Check For Elements At URI    ${SUBNETWORK_URL}    ${SUBNETS}
 282     OpenStackOperations.Update SubNet    @{SUBNETS}[0]    additional_args=--description ${UPDATE_SUBNET}
 283     ${output} =    OpenStackOperations.Show SubNet    @{SUBNETS}[0]
 284     BuiltIn.Should Contain    ${output}    ${UPDATE_SUBNET}
 285     OpenStackOperations.Create Allow All SecurityGroup    ${SECURITY_GROUP}
 286     ${allowed_address_pairs_args} =    BuiltIn.Set Variable    --allowed-address ip-address=@{EXTRA_NW_SUBNET}[0] --allowed-address ip-address=@{EXTRA_NW_SUBNET}[1]
 287     Create Port    @{NETWORKS}[0]    @{PORTS}[0]    sg=${SECURITY_GROUP}    additional_args=${allowed_address_pairs_args}
 288     Create Port    @{NETWORKS}[0]    @{PORTS}[1]    sg=${SECURITY_GROUP}    additional_args=${allowed_address_pairs_args}
 289     Create Port    @{NETWORKS}[1]    @{PORTS}[2]    sg=${SECURITY_GROUP}    additional_args=${allowed_address_pairs_args}
 290     Create Port    @{NETWORKS}[1]    @{PORTS}[3]    sg=${SECURITY_GROUP}    additional_args=${allowed_address_pairs_args}
 291     Wait Until Keyword Succeeds    3s    1s    Check For Elements At URI    ${PORT_URL}    ${PORTS}
 292     ${PORTS_MACADDR} =    Get Ports MacAddr    ${PORTS}
 293     Set Suite Variable    ${PORTS_MACADDR}
 294     Update Port    @{PORTS}[0]    additional_args=--description ${UPDATE_PORT}
 295     ${output} =    Show Port    @{PORTS}[0]
 296     Should Contain    ${output}    ${UPDATE_PORT}
 297     OpenStackOperations.Create Vm Instance With Port On Compute Node    @{PORTS}[0]    @{NET_1_VMS}[0]    ${OS_CMP1_HOSTNAME}    sg=${SECURITY_GROUP}
 298     OpenStackOperations.Create Vm Instance With Port On Compute Node    @{PORTS}[1]    @{NET_1_VMS}[1]    ${OS_CMP2_HOSTNAME}    sg=${SECURITY_GROUP}
 299     OpenStackOperations.Create Vm Instance With Port On Compute Node    @{PORTS}[2]    @{NET_2_VMS}[0]    ${OS_CMP1_HOSTNAME}    sg=${SECURITY_GROUP}
 300     OpenStackOperations.Create Vm Instance With Port On Compute Node    @{PORTS}[3]    @{NET_2_VMS}[1]    ${OS_CMP2_HOSTNAME}    sg=${SECURITY_GROUP}
 301     @{NET_1_VM_IPS}    ${NET_1_DHCP_IP} =    OpenStackOperations.Get VM IPs    @{NET_1_VMS}
 302     @{NET_2_VM_IPS}    ${NET_2_DHCP_IP} =    OpenStackOperations.Get VM IPs    @{NET_2_VMS}
 303     BuiltIn.Set Suite Variable    @{NET_1_VM_IPS}
 304     BuiltIn.Set Suite Variable    @{NET_2_VM_IPS}
 305     BuiltIn.Should Not Contain    ${NET_1_VM_IPS}    None
 306     BuiltIn.Should Not Contain    ${NET_2_VM_IPS}    None
 307     BuiltIn.Should Not Contain    ${NET_1_DHCP_IP}    None
 308     BuiltIn.Should Not Contain    ${NET_2_DHCP_IP}    None
 309     BuiltIn.Wait Until Keyword Succeeds    30s    10s    Wait For Routes To Propogate    ${NETWORKS}    ${SUBNET_CIDRS}
 310     OpenStackOperations.Show Debugs    @{NET_1_VMS}    @{NET_2_VMS}
 311     OpenStackOperations.Get Suite Debugs
 312
 313 Suite Teardown
 314     [Documentation]    Delete the setup
 315     BuiltIn.Run Keyword And Ignore Error    VpnOperations.VPN Delete L3VPN    vpnid=@{VPN_INSTANCE_IDS}[0]
 316     BuiltIn.Run Keyword And Ignore Error    VpnOperations.VPN Delete L3VPN    vpnid=@{VPN_INSTANCE_IDS}[1]
 317     BuiltIn.Run Keyword And Ignore Error    VpnOperations.VPN Delete L3VPN    vpnid=@{VPN_INSTANCE_IDS}[2]
 318     OpenStackOperations.OpenStack Suite Teardown