Collect null project_ids as empty strings

This deals with errored or transient elements at common
database that do not have a valid project_id.

Fixes bug 966

Change-Id: I628d621a9ad94c7c7e96894af8743fd30b90d893
Signed-off-by: lavado <glavado@whitestack.com>

Fixes double decryption

Code to decrypt the passwords happens twice, causing
an error for the second decryption.

Bug 959

Change-Id: I873699af61ae45ae3ed45e98e0d8d087ba79dccc
Signed-off-by: beierl <mbeierl@vmware.com>

Validate Grafana is present for dashboarder service

Check if MON can resolve a grafana service.
This is currently useful in the transition to K8s,
or in OSM distros with absent Grafana.

Fixes Bug 932

Change-Id: I3b5ebf3d8ee3397f16793cd730e7e1fa5f6676d4
Signed-off-by: lavado <glavado@whitestack.com>

Fixes autoscaling with VNF Indicators

Adds vdu_name to VNF Indicators collection.
This fixes autoscaling as Prometheus is queried using alarm
tags, which includes vdu_name.

Change-Id: I68e6368e4839b96737142be426d82d1b1e07e186
Signed-off-by: Gianpietro Lavado <glavado@whitestack.com>

Fix bug in juju metrics collection

Change-Id: I0efd96227078df10e062d087afb86dc3796d4eb3
Signed-off-by: Gianpietro Lavado <glavado@whitestack.com>

minor enhancements to NS dashboard

Change-Id: I5241b55e0d54020027fd2a09dc13b32de9dd6689
Signed-off-by: lavado <glavado@whitestack.com>

Partial fix for bug 936 (MON Part)

Change-Id: Ia574c865aa4d68d1e5bf4778762d96590e9bc907
Signed-off-by: lavado <glavado@whitestack.com>

Fix __init__.py file for dashboarder

Change-Id: I326b69d0917c7e7ebe70324409b0685f9f04263c
Signed-off-by: lavado <glavado@whitestack.com>

Fix bug in osm_mon path in Dashboarder service

Change-Id: I40fffb2d1a4c5ad8459fdbda5823e05ed4c6bdd7
Signed-off-by: Gianpietro Lavado <glavado@whitestack.com>

Minor fixes for MON Evaluator & Dashboarder

Change-Id: I1f2b1f786809aa84e2ee2cddbf401a03e504ff47
Signed-off-by: Gianpietro Lavado <glavado@whitestack.com>

Re-Revert "Revert "Migrates alarms to MongoDB"" approved by TSC

This reverts commit 628df021896fa8775f9743af62a4267b617cc35c.

Change-Id: Ie07a6856ee3f2e15c539d52afc4c7e5ecc07ca95

Revert "Migrates alarms to MongoDB"

This reverts commit b6233b3d90ca1ba617e476b915fba056cf7891f7.

Change-Id: I82b7c5916cdf7eb2816348c4ea13609d0fddffe6
Signed-off-by: lavado <glavado@whitestack.com>

Migrates alarms to MongoDB

Change-Id: Iec09f507f05f6694910bf5ea82b948372d837af3
Signed-off-by: lavado <glavado@whitestack.com>

Minor fixes to additional metric labels

Change-Id: Ia2ad1b28c7c1fd61effaf46d04f97e004a93be15
Signed-off-by: lavado <glavado@whitestack.com>

Grafana dashboard automation

Change-Id: I78a353ad59ea39cf747412e00ae2210826862150
Signed-off-by: lavado <glavado@whitestack.com>

Merge "Adding more labels to Prometheus metrics"

Merge "Adding project_id label to Prometheus Infra metrics"

Merge "Revert "Migrates alarms to MongoDB""

Revert "Migrates alarms to MongoDB"

This reverts commit 0085a4a8870a73a9186b0a2305ba00bae44a6ea0.

Change-Id: Ifd94058969c1480863a67529a9d5ed70e5e062c3
Signed-off-by: Gianpietro Lavado <glavado@whitestack.com>

Merge "Migrates alarms to MongoDB"

Adding project_id label to Prometheus Infra metrics

Change-Id: I24fb5f1eb33e0adb6bca396b8f74dafeeae93917
Signed-off-by: lavado <glavado@whitestack.com>

Upgrading PyYaml due to new juju package

Change-Id: Idce6235e9bdd033d16d207734c9e1ddd0ed0453b
Signed-off-by: lavado <glavado@whitestack.com>

Adding more labels to Prometheus metrics

Change-Id: I412de4ee47808af09e4156b703a95d1edb5fbca7
Signed-off-by: lavado <glavado@whitestack.com>

Fixed request for OpenStack Rocky Endpoints

Gnocchi enpoints where not loaded correctly with
        the previous patch.

Change-Id: Ib27183ea8cfeda64f80c11bc40b451d28b92514e
Signed-off-by: Antonio Marsico <antonio.marsico@bt.com>

Migrates alarms to MongoDB

Change-Id: Ic71f1d408ef06a6c04e0e95d16389b2c3e0f8630
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Fixed the usage of self signed certificates

Change-Id: I5962256da90fabd1332527d7cba422204549f7a0
Signed-off-by: Antonio Marsico <antonio.marsico@bt.com>

Refactors alarms to decouple them from vnf specific data

Alarms now handle the concept of tags, instead of having vnf specific
parameters in the model. This allows for wider usecases of alarms (e.g. fault management).

Change-Id: I2b395c4bb7f72d4fb7c53b75feccd7de00508013
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Removes obsolete documentation. Adds architectural docs.

Change-Id: I9ee1a87ed78de06c4f726f1aecbb3c988f41fb05
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Merge "Replaces call to Gnocchi status for a request of metric list when determining backend in openstack vnf collector"

Change coverage path

Changes the patch for the coverage.xml file so the
Jenkins plugin can find the source code for display.

Change-Id: I2cff214a69799e9f46cc2a5c8ca5e85a290daffb
Signed-off-by: beierl <mbeierl@vmware.com>

Replaces call to Gnocchi status for a request of metric list when determining backend in openstack vnf collector

When trying to determine metric backend, the openstack vnf collector was
requesting Gnocchi status data, which is only available for privileged users.
This generated errors in the metric collection when using a nonadmin openstack user.

Change-Id: I6a85f27c4714a1d3f8bbbf82da1795066352a1e0
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Readds logic to obtain vim_type when it is available in vim config

bug 835

Change-Id: Ia8a870ede8b6ceac71329a09a25c7d9ba4d6219e
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds check for config param in vim_account dict to avoid errors when it does not exist

Change-Id: Iceb0b03a67464ff35ec5e700e5e3b1be92cb48b9
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds vrops_password to passwords to decrypt. Adds check of schema_version for backwards compatibility

Change-Id: I601b2eec9d84b0f2c33486b184c9ef279a583a24
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Merge "Change to nose2"

Modifies MON to use mongodb directly for vim info and do vim pass decryption on demand

Change-Id: Id088f60bcbe7943661d088f949b55465c4939800
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Change to nose2

Use nose2 instead of stestr for running unit test as nose2 provides
junit-style xml output that can be reported in Jenkins to show test
pass/fail and trend history.

Change-Id: I3f57992ca7252bfd5403f7fdf7153d1faa232e71
Signed-off-by: beierl <mbeierl@vmware.com>

Fixes VIO collection

Extract common vROPS code from vmware and vio collectors.
Add unit test coverage.
Remove unused code.
Improved vROPS collection to ask for current values only
instead of a date range.
Reduces number of calls to vROPS by asking for all metrics
for all VDUs at once.

BUG 796

Change-Id: I00ecd70c6d25f7c8982cbc633a28ab6f1ceb8cd6
Signed-off-by: beierl <mbeierl@vmware.com>

Correct multiplier

Use the correct metric name when multiplying network
bytes sent/received.

Change-Id: I51391f5b0c55aeca5ecc4e2888d8365bf8d77cd7
Signed-off-by: beierl <mbeierl@vmware.com>

Adds unit test coverage

Adds the coverage and stestr modules to tox so
that unit test code coverage reports can be
generated.

Change-Id: If67b31be5996de95e60ad73f63124e181ec955b5
Signed-off-by: beierl <mbeierl@vmware.com>

Removes kafka check from healthcheck

bug 801

Change-Id: Ia966da925695c4e56f490820e627c36a02c81a81
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Merge "Reduce Resource Consumption"

Reduce Resource Consumption

The vmware vnf collector requests a time series of data from
vROPS and then parses the whole block in order to retrieve the
most recent data element.  The time frame for the request
should be limited to a sane value, such as 1 hour.

The look ups for items that do not change should be outside
of the loop for looking up the metrics.

Add more metrics to list of supported metrics.

Improve error handling.

BUG 784

Change-Id: Ie3cef457eaf657c18ba682e3c5d3abf40a759e69
Signed-off-by: beierl <mbeierl@vmware.com>

Adds support for custom project and user domain names defined in vim config

bug 789

Change-Id: I77fe4a1f9fce4d1767560458de116f3431b35894
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Changes insufficient data validation in alarms to account for metric results 0.0

Change-Id: Ia67e54ced6f5885ecd875c8a94529b9384fa46b2
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Source Dockerfile now points to master for N2VC and osm-common allowing better dev testing

Change-Id: Iab1f4c0fc761efe9eb7d1aa3fe184fac604ad2a2
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Negotiate vCD Version

Request highest supported vCD version between MON and
vCD on setup and then continue to use v27.0 as the confirmed
tested version.

BUG 775

Change-Id: I04333fa0c915107fb432d799d3440fec711d95ec
Signed-off-by: beierl <mbeierl@vmware.com>

Make vcloud api version compatible for different vCDs

Change-Id: Ic0b1f9e18b1711f73ec2b2c876e8211534caaa87
Signed-off-by: kasar <pkasar@vmware.com>

Adds validation of vim-id in vdur in OpenStack base infra plugin

Prevents errors in vim_status collection when vm_status fails because vim-id
param missing in vdur.

Change-Id: I81f10ee19b7fa17e9cbbe4526c4d3be19eae1834
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Replaces use of vdu_name for vdu_id and vdu_count_index in VCACollector

vdu_name param is no longer configured by LCM, causing issues during
collection of VCA metrics. To fix that, it has been replaced by currently
configured params: vdu_id and vdu_count_index, which are obtained from the
vdur.

Fixes bug 762

Change-Id: Ic8cc7e8572bfc6d78493fdceea32375c6f3a379e
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Remove use of granularity and just retrieve last metric collected in OpenStack plugin

Change-Id: I8e52cda7bffb069a76b3834964100399a1c5746b
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Changes openstack vim status check to use nova to allow non admin users in config

Change-Id: I1cdfeac879580a61e0211e869785c737763cd310
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Modifies logic por determining metric backend in OpenStack plugin

Removes the need to access the service catalog directly.

Change-Id: I8c4f4bff4bbd236c3ec5a33e4f1abd38b8dcf010
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds network interface name as tag in corresponding metric

Change-Id: I5c02d9a0582113319936772bd456b347828f7443
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Fixes missing parent constructor call in openstack based infra collectors

Change-Id: Iaed814e59b81a664a4e2009ddf93d2edf2ad4502
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Merge "Added vio infra collector plugin"

Added vio infra collector plugin

Change-Id: I709b2b358cb6aae1d07e01ba9a010cf8592ee735
Signed-off-by: kasar <pkasar@vmware.com>

Adds handling of exception inside OpenStack collector

Change-Id: I9756bef185a3f9495a2ffe737bf5b8326a7e8af6
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Implemented VMware infra collector plugin

Change-Id: Id46ceb4955ef1c9e9b3389c1016e77a41b7fda1b
Signed-off-by: kasar <pkasar@vmware.com>

Improves README

Change-Id: I4bf5d7d13822b20af8828b048c80092209dbf96d
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds support for interface specific metrics in OpenStack plugin

Change-Id: I374a2c623a783215b2bbbdf8a69e600e3cb0f55d
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Fixes error during alarm evaluation

Adds unit test

Change-Id: I2679210b7ce13f8ffd714183c220b617236003f8
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Refactors code and adds unit tests

Change-Id: Ia14034679af8fc7e9ac91a1bfb766e4b99ec9e39
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds pylint to tox test pipeline and fixes related errors

Change-Id: I0965b2818898d144a441208391f4c831fa28279b
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds partial support for interface metrics in OpenStack plugin

Adds support for 'packets_in_dropped', 'packets_out_dropped', 'packets_received', 'packets_sent'
All of this metrics correspond to a sum of the metric for each interface in the vdu

Change-Id: I93b4fb760b927f98417ae2e65a27c0c2b3fb5b6f
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds support for multiple alarm statuses

Requirement for Feature 6373

Change-Id: I5440c6cdd8e4b3ad12bcf8949871c67a74f31500
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Fixes bug with VM status collection when VIM is down

Change-Id: I5f4c8ad9d074ede337aae53e4120088d0a307170
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds collection of sdnc status metric

Adds plugin for ONOS controller

Change-Id: I0a885a4061a1cf9f99276d3befece078ac991d32
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds support in entrypoint script for more complex mysql URI (+pool and query params)

Change-Id: I71445bbd489b905cb796eff294997a83e4d4cb91
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Opens and closes db connections manually to avoid errors when using MySQL backend

Change-Id: I39f7d17069afa6aaceb643f9ecbfeb5595c4ed9a
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Merge "Added VIO metrics collector for vROPs"

Added VIO metrics collector for vROPs

Change-Id: Ia044fd0c8dd600104df32c0c613e8725f34d0b3c
Signed-off-by: kasar <pkasar@vmware.com>

Modifies MON to create database if using mysql URI

Removes default value of config in VimCredentials as MySQL does not support
it.
Adds pymysql as dependency.

Change-Id: Idb60029e027f8abad7de4617c12bde20aa66deab
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds collection of VM status metric in OpenStack infra plugin

OpenStack infra collector plugin now collects metrics regarding VM status. It
iterates over vdus and using nova client gets info regarding status. Active
status translates to 1, anything else to 0.

Change-Id: Ia6e36a79a1d20cea07d5c7b3aa2af85b5c0e18d0
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds migration engine for peewee ORM

Change-Id: I8829dd6e3858149fad9e1c37d773c78523d8c05f
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds support for Ceilometer API metric collection

Change-Id: Id0e841c465ea5772d08413dacdf490a1fc109dff
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Implements filebased config, config override through env vars, use of osm
common msg bus drivers

Change-Id: I2ae26408f03a7faf86d5621efda50df948c55951
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds collection of vim status metric

Current support is only OpenStack. It tries to do a simple project list query
to check if VIM is up or not.

Change-Id: Ifec844d9514b6c676b065fee7cf785bdf2a2ea3d
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Exits mon-evaluator process when encountered by a database exception

Database errors could mean database node failure. In this cases, the process
should exit so it could be automatically restarted (when handled by Docker Swarm, K8s, etc)
so it can obtain a new DB connection to an alive node.

Change-Id: I2575062d4bd23b3902b7c2ed14553d5201933002
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Changes log level of config info to debug

Change-Id: I6fe866709cba1ae6310c54313269bac7a3b858d7
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Merge "Bug 598 Added support for vrops metric collection"

Bug 598 Added support for vrops metric collection

Change-Id: I63dcff326e88f5b103b535981fdc06cb665904f1
Signed-off-by: kasar <pkasar@vmware.com>

Adds decryption of passwords in vim config block

Change-Id: Iba064f9fb0dd38511b90410c5073fc13ce8cbeac
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Increases delta of start_time when collecting OpenStack metrics

Change-Id: I5d51c26a7a80a407a6f892d542d44420c5832e02
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Changes way of getting VCA application name corresponding to vdu and vnf

MON now searches _admin dictionary in nsr to get the application and
respective model name.

Change-Id: I0a034ff20bd41356da04b1a979839b92f93d26cd
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds use of aiokafka in mon-server

Adds request timeout param for requests made to Prometheus
Adds use of response topics based on cor_id for alarm create/delete RPC

Change-Id: I5544d749d812e4e77ba913b543ccaa83542535d4
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds support for vnf-metric in mon-evaluator

Change-Id: I81e69761448418625ca4076f6e3d3903c07c9f58
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Fixes bug in collection of vnf-metric

Metrics declared in vnf-configuration block were not building correctly the juju
application name.

Change-Id: I952a0a2716edc7a0ea42ae1254ddc5047bcfff89
Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Fixes bugs regarding alarm deletion

Adds healthcheck script to be used in devops MON Dockerfile
Removes unused dependencies

Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>
Change-Id: Ia353c0ae9ee6a502667c04c96f1bc7f3e9337ced

Revert "Readds plugins code and respective tests"
MON code optimisation on behalf of TSC

This reverts commit 6eda48bf7489c00fee4e1f276404ab82db23fd1d.

Change-Id: If697df74221be72aca9630630e64033f06ece473

Readds plugins code and respective tests

Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>
Change-Id: I80ad624892b513818b1c989494884cc8047e377e

Adds support for VNF metric based alarming

Adds collect_one method to juju collector, which is used by mon-evaluator to
evaluate alarms.

Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>
Change-Id: I952280c3c8fa7496f0ea818b7a2ef7f3a091deea

Refactors Prometheus exporter to group metrics correctly by name

Metric names were appearing duplicated in the exporter which generated issues
integrating with external tools such as Metricbeat and Kibana.

Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds use of uri in connection to MongoDB instead of host and port

MON now uses a mongodb uri to connect to the database. This allows to use uris
that define either a single node db or a replica set, allowing for HA
scenarios.

Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Revert "Adds use of uri in connection to MongoDB instead of host and port"

This reverts commit 2fa92533799dcac2fbb47db2e06579e951294e6a.

Change-Id: Ief2dc8eb49577c9321b34f67efa5296edc281056

Adds use of uri in connection to MongoDB instead of host and port

MON now uses a mongodb uri to connect to the database. This allows to use uris
that define either a single node db or a replica set, allowing for HA
scenarios.

Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Adds alarm engine

Alarms are now created directly through mon-central. A new component called
mon-evaluator evaluates the alarms and sends a notification in case it
triggers. Alarms are still created through the Kafka bus using the same model.

It also deletes all of the old unused code of the plugin model. There were
thousands of lines dedicated to provide CRUD operations for metrics and alarms
in the VIM plugins that were never used. MON only requires to collect metrics
and insert them in the TSDB. VIMs manage their metrics autonomously. The tests
for that were also removed. This was done to make the codebase more
manageable. Support for VROPS and AWS will be added in a future patch. Neither
of those two plugins worked correctly. They need to be adapted to the new
consumer plugin model.

Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>
Change-Id: I656c78be82ca21b760a83b478560d0c8ae680222

Adds support for OSMMON_DATABASE_COMMONKEY to decrypt vim passwords

When vim_accounts msgs arrive in the Kafka bus, vim password is decrypted
and stored in the SQL database. The ideal scenario would be to store it
encrypted in the SQL DB and decrypt it on demand, but that would require
to store the schema_version, instantiate a DbMongo client everywhere it is
needed and a few other modifications that would severely pollute the codebase.
There needs to be a modification in the future on the osm_common side to make
this more doable.

Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>

Changes way metrics are collected, removing the use of mon-proxy

Collector now collects vim metrics directly, without to send kafka msgs
to mon-proxy. Also a plugin/backend model has been implemented to ease
possible inclusions of other vims and tsbds in the future.

Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>
Change-Id: I554a4f5e410a31ec70aa301c8aa819b1f03a3857

Adds use of N2VC.FormatApplicationName in collector

MonCollector was using its own method for generating the juju app name.
It is been replaced by the N2VC one that is also used by LCM on deployment.

Signed-off-by: Benjamin Diaz <bdiaz@whitestack.com>
Change-Id: Ic2a19825f055cc9b77404f8cf13152e5b6514214