Verwaltung des Data Warehouse (DWH)

Zum Einrichten eines DWH wird eine laufende Instanz von ConSol CM Reporting Framework (CMRF) benötigt. Wenn Ihr System noch kein CMRF beinhaltet, wenden Sie sich bitte an Ihren ConSol CM-Consultant oder an ConSol Software.

Einleitung

Data Warehouse

Ein Data Warehouse (auch DWH genannt) ist eine Sammlung an Daten auf einem oder mehreren Systemen und/oder Datenbanken, auf deren Grundlage das Reporting und die Datenanalyse stattfinden. Die importierten Daten müssen dazu häufig kombiniert oder neu angeordnet (integriert) werden, damit eine optimale Nutzung für das Reporting und die Datenanalyse möglich ist.

ConSol CM Data Warehouse und ConSol CM Reporting Framework

Eine Standardinstallation von ConSol CM enthält alle Module, die für den Aufbau eines Data Warehouse benötigt werden. Die Kernkomponente ist das ConSol CM Reporting Framework (CMRF).

Dabei handelt es sich um eine Java EE-Applikation, die die Daten zwischen der ConSol CM-Datenbank und der DWH-Datenbank synchronisiert. Die folgende Abbildung zeigt eine Übersicht der Systemarchitektur einer typischen DWH- und CMRF-Installation. Wir empfehlen Ihnen die Verwendung von zwei Servern für die ConSol CM- und CMRF-Instanzen. Informationen über die unterstützten Application Server und RDBMS finden Sie in den aktuellen Systemanforderungen.

Abbildung 317: ConSol CM - Systemarchitektur mit DWH und CMRF (2 Server)

Es gibt zwei verschiedene Synchronisierungsmodi für die Übertragung von Daten von ConSol CM an die DWH-Datenbank:

Es werden nur die Daten aus Benutzerdefinierten Feldern, Datenobjektgruppenfeldern und Ressourcenfeldern, die die Annotation reportable = true haben, mit dem DWH synchronisiert. Zusätzlich werden alle Daten übertragen, die standardmäßig an das DWH übertragen werden. Eine detaillierte Erklärung dazu finden Sie in der Dokumentation zum ConSol CM DWH.

DWH-Verwaltung mit dem Admin Tool

Die DWH-Verwaltung findet in den Navigationselementen der Navigationsgruppe Data Warehouse statt:

DWH Konfiguration und Logs

Abbildung 318: ConSol CM Admin Tool - DWH-Konfiguration und Logs

Im mittleren Bereich werden die Informationen über DWH-Operationen aus den Log-Dateien angezeigt. Mit den Radio-Buttons auf der rechten Seite können Sie auswählen, welche Log-Datei angezeigt werden soll. Die DWH-Operationen sind als Buttons unter dem mittleren Bereich verfügbar.

Die Radio-Buttons und die Buttons für die DWH-Operationen sind nicht verknüpft, d. h. wenn Sie eine Operation auswählen, wird nicht automatisch die zugehörige Log-Datei angezeigt. In den folgenden Abschnitten finden Sie detaillierte Erklärungen über alle Operationen.

Wichtige Hintergrundinformationen über DWH-Operationen

Berücksichtigen Sie folgendes Verhalten von ConSol CM/CMRF bezüglich DWH-Operationen!

Wenn Sie auf Initialisieren, Übertragen oder Aktualisieren klicken, wird eine Operation des jeweiligen Typs als Eintrag in der ConSol CM-Datenbanktabelle cmas_dwh_synchronization erzeugt. Bei jedem Klick auf einen Button wird eine neue Operation des entsprechenden Typs erzeugt. Die Operationen werden dann nacheinander ausgeführt. Dabei gilt das FIFO-Prinzip (first in, first out) nach dem Erzeugungsdatum!

Wenn Sie eine Operation gestartet haben, ist das Admin Tool blockiert und ein Rädchen wird angezeigt, solange die ersten Schritte der Operation ausgeführt werden. Wenn das Admin Tool die Vorbereitung der Operation abgeschlossen hat und der Benutzer es wieder verwenden kann, kann die Operation aber noch im Hintergrund weiterlaufen. Deswegen sollten Sie nur dann auf einen anderen Button klicken, wenn Sie wirklich eine neue DWH-Operation starten möchten. Diese wird dann als Eintrag zur Tabelle cmas_dwh_synchronization hinzugefügt und ausgeführt, sobald die erste Operation abgeschlossen ist.

Sie können die Aktualisierungsoperationen über die Anzeige der Log-Dateien (mit den Radio-Buttons) nachverfolgen. Wenn eine Operation abgeschlossen ist, wird eine neue Zeile angezeigt, wie z. B.:

10.11.2015 07:57:29 Transfer finished successfully

Grundlegende DWH-Konfiguration

Bevor Sie ein ConSol CM-DWH einrichten können, müssen Sie die Datenbank (oder das Datenbankschema), das die DWH-Daten enthalten soll, vorbereiten. Der entsprechende Datenbankserver muss für den CMRF-Server verfügbar sein. Eine detaillierte Beschreibung dazu finden Sie im ConSol CM Set-Up Manual. Sobald die für das DWH bestimmte Datenbank (bzw. das Datenbankschema) vorliegt und das CMRF in Betrieb ist, können Sie mit den folgenden Schritten fortfahren.

Um das System für die DWH-Synchronisierung vorzubereiten, müssen Sie die Datenbank und den DWH-Modus konfigurieren. Öffnen Sie im Admin Tool die Navigationsgruppe Data Warehouse, Navigationselement DWH Konfiguration und Logs. Klicken Sie auf Konfiguration, öffnen Sie den Tab Konfiguration und geben Sie alle Werte des CMRF-Servers ein.

Abbildung 319: ConSol CM Admin Tool - DWH-Konfiguration und Logs: DWH Konfiguration

Wählen Sie in DWH Modus Auswahl eine der verfügbaren Optionen:

Sie können den aktuellen DWH-Modus auch der DWH-System-Property cmas-dwh-server, dwh.mode entnehmen (siehe System-Properties).

Abbildung 320: ConSol CM Admin Tool - System-Property für DWH-Modus

Für die Verbindung sind folgende Parameter erforderlich:

Im Tab Benachrichtigung können Sie das Format der Nachrichten (E-Mails) konfigurieren, die vom System im Zusammenhang mit DWH-Operationen gesendet werden. Dies können Fehlermeldungen, Erfolgsmeldungen oder Informationen über fehlgeschlagene Operationen sein.

Die Werte werden in den DWH-Benachrichtigungs-Properties gespeichert (siehe System-Properties).

Abbildung 321: ConSol CM Admin Tool - DWH Konfiguration: Tab Benachrichtigung

Es sind folgende Felder verfügbar:

Initialisierung des DWH

Nachdem die grundlegende Konfiguration vorgenommen wurde, kann mit der DWH-Initialisierung begonnen werden. Klicken Sie auf Initialisieren und verfolgen Sie die Einträge im Log-Bereich. Vergewissern Sie sich, dass Sie in der oberen rechten Ecke den Radio-Button Initialisierung ausgewählt haben, damit die Einträge zur Initialisierung aus der Log-Datei angezeigt werden.

Abbildung 322: ConSol CM Admin Tool - DWH-Initialisierung

In diesem Schritt wird die Datenbankstruktur des DWH mit allen Tabellen und Relationen erstellt. Es werden noch keine Daten übertragen.

Wenn das DWH schon einmal in Betrieb war und neu eingerichtet wird, muss eine Reinitialisierung durchgeführt werden. Markieren Sie dazu die Option überschreiben, um die alte Datenbankstruktur zu löschen und eine neue Datenbankstruktur anzulegen. Klicken Sie danach auf Initialisieren.

Erste DWH-Synchronisierung

Um das Data Warehouse zum ersten Mal mit ConSol CM-Daten zu füllen, klicken Sie auf Übertragen. Damit wird die initiale Übertragung gestartet. Je nach Anzahl der Tabellen kann dies eine Weile (bis zu mehreren Stunden) dauern. Sie können die Log-Einträge nachverfolgen, indem Sie im Log-Bereich Transfer öffnen.

DWH-Synchronisierung während des Systembetriebs

Wenn das DWH im ADMIN-Modus läuft, kann der DWH-Administrator die Übertragung manuell starten, indem er auf Aktualisieren klickt. Dann werden alle Daten, die übertragen werden sollen, d. h. alle Daten aus Feldern mit der Annotation reportable = true, die seit der letzten Übertragung hinzugefügt oder geändert wurden, übertragen. Nachdem Sie auf Aktualisieren geklickt haben, werden Aufgaben für alle erforderlichen Operationen erstellt und alle offenen Aufgaben werden im Abschnitt DWH Aufgaben angezeigt.

Wenn ein Benutzerdefiniertes Feld, Datenobjektgruppenfeld oder Ressourcenfeld bei der letzten Übertragung die Annotation reportable noch nicht hatte und sie jetzt hat, wird der Inhalt des Feldes von allen Tickets, Kunden oder Ressourcen übertragen.

Sie können die Log-Einträge der DWH-Operation nachverfolgen, indem Sie im Log-Bereich Aktualisierung öffnen.

Entfernen Sie die Annotation reportable = true nicht aus einem Feld, wenn Sie nicht absolut sicher sind, dass die Daten nicht mehr in Reports verwendet werden! Wenn Sie ein Feld entfernen, das in Reports und/oder Cubes verwendet wird, treten Fehler im Reporting auf!

Die DWH-Aktualisierung kann auch über die Kommandozeile oder über ein Skript gestartet werden. In diesem Fall müssen Sie ein Tool verwenden, das über die Kommandozeile auf die ConSol CM-MBeans zugreifen kann, z. B. Twiddle für JBoss. Die zu verwendende MBean ist consol.cmas.global.dwh.synchronizationService. Der Befehl (die Methode) ist update.

Die folgende Kommandozeile zeigt einen Beispielbefehl mit Twiddle.

$JBOSS_HOME/bin/twiddle.sh invoke consol.cmas:type=admin,topic=global,name=dwh.synchronizationService update

DWH Aufgaben

Wenn es aktive DWH-Aufgaben gibt, wird dies im Admin Tool angezeigt, siehe folgende Abbildung. Die Navigationsgruppe Data Warehouse hat ein Ausrufezeichen, sodass Sie auch dann, wenn die Navigationsgruppe geschlossen ist, sehen, dass es aktive Aufgaben gibt. Die Anzahl der aktiven Aufgaben ist im Navigationselement DWH Aufgaben angegeben.

Abbildung 323: Anzeige aktiver DWH-Aufgaben im Admin Tool

Diese Liste enthält Einträge (einen Eintrag für jede Aufgabe), wenn ...

Sie können eine Aufgabe in der Liste markieren und manuell ausführen.

Wenn die Checkbox Automatische Übernahme von Konfigurationsänderungen markiert ist, werden die Aufgaben automatisch vom System ausgeführt.

DWH-Fehlerbehebung und -Reparatur

Wenn bei der Initialisierung, Übertragung oder Aktualisierung Fehler aufgetreten sind, werden die Log-Einträge im entsprechenden Log-Bereich angezeigt.

Die Originaldateien finden Sie unter folgendem Pfad:

Beachten Sie, dass dies die Standardpfade sind. In ConSol CM wird z. B. Log4J verwendet. Die Verwendung von anderen Pfaden kann in der Datei log4j.xml konfiguriert sein. Eine ausführliche Beschreibung des Logging und der entsprechenden Dateien finden Sie im ConSol CM Set-Up Manual.

Normalerweise geben die Log-Datei und/oder die Einträge im Log-Bereich gute Hinweise über den Grund des Übertragungsfehlers. Wenn ein Problem auftritt, das Sie nicht beheben können und Sie einen Wartungsvertrag mit ConSol haben, wenden Sie sich an unser Supportteam.

System-Properties für das DWH

Eine Liste aller System-Properties, die für eine bestimmte DWH-Konfiguration relevant sind, ist im Abschnitt CMRF- und DWH-Konfiguration enthalten.

Übertragungsmodi: JMS oder DIRECT

Alle Daten mit der Annotation reportable = true müssen an das Data Warehouse übertragen werden. Dies geschieht durch ConSol CM und das CMRF.

Es gibt zwei mögliche Modi:

Konfiguration des Übertragungsmodus

Der Modus wird mit der System-Property cmas-dwh-server, communication.channel gesetzt. Mögliche Werte sind:

JMS-Modus (CM-Versionen unter 6.9.4)

Im JMS-Modus sendet der ConSol CM-Server mithilfe der JMS-Queues transfer, live und control Nachrichten an das CMRF. Diese JMS-Queues befinden sich entweder in

oder

Der CMRF-Server liest die Nachrichten aus den JMS-Queues und schreibt die Daten ins DWH.

DIRECT-Modus (verfügbar in den CM-Versionen 6.8.5.0 und höher)

In ConSol CM-Versionen 6.9.4 und höher ist das der einzige verfügbare Übertragungsmodus!

Im DIRECT-Modus sendet der CM-Server die Nachrichten über direkten Zugriff auf Datenbanktabellen (INT_CONTROL_QUEUE, INT_LIVE_QUEUE, INT_TRANSFER_QUEUE in der DWH-Datenbank) an das CMRF. JMS ist nicht beteiligt. Dies ist möglich, weil ConSol CM im DIRECT-Modus Zugriff auf die CMRF-Datenquelle erhält, d. h.

Der CMRF-Server liest die Nachrichten aus den Tabellen und schreibt die Daten ins DWH.

Beachten Sie, dass der JMS-Modus nur in CM-Versionen vor 6.9.4 unterstützt wird. Ab ConSol CM-Version 6.9.4.1 wird nur noch der DIRECT-Modus unterstützt.

DWH-Informationen für Experten

Lokalisierung von statischen DWH-Tabellen

Ab CM-Version 6.10.1 gibt es in statischen DWH-Tabellen Datenbankfelder für die lokalisierten Werte. Dies bedeutet, dass die lokalisierten Beschreibungen der Parameter ebenfalls an das DWH übertragen werden. Das folgende Beispiel zeigt die Felder im Admin Tool und im DWH für die Projekte in ConSol CM.

Abbildung 324: ConSol CM Admin Tool - Lokalisierte Werte von Projekten

Abbildung 325: DWH-Tabelle mit lokalisierten Werten

Die Verwendung dieser Felder kann die Dauer der DWH-Aktualisierungen erhöhen. Um zu verhindern, dass eine Aktualisierung zu lange läuft, können Sie CM mit der Java-System-Property cmrf.localization.enabled starten. Diese Property kann verwendet werden, um die Übertragung der lokalisierten Werte an das DWH ein- oder auszuschalten.

Beispiel für den Startbefehl:

nohup $JBOSS_HOME/bin/standalone.sh --server-config=cm6-cmrf.xml -b=0.0.0.0 -Dcmrf.localization.enabled=false

Eine detaillierte Erklärung dazu finden Sie im ConSol CM DWH Manual.

MBeans für die DWH-Verwaltung

Ab Version 6.10.5.4 ermöglicht die MBean dwh.admin.service (in consol.cmas.admin.global) Zugang zum DWH-Modus (OFF |ADMIN | LIVE). Es sind die Methoden getMode() und setMode() verfügbar.

Der Zugriff auf die MBean erfolgt über grafische Tools, z. B. JConsole für JBoss, oder über REST API. Dies ist in der ConSol CM REST API Dokumentation beschrieben.