Zarządzanie procesem SAP CDC

DOTYCZY: Azure Data Factory Azure Synapse Analytics

Napiwek

Wypróbuj usługę Data Factory w usłudze Microsoft Fabric — rozwiązanie analityczne typu all-in-one dla przedsiębiorstw. Usługa Microsoft Fabric obejmuje wszystko, od przenoszenia danych do nauki o danych, analizy w czasie rzeczywistym, analizy biznesowej i raportowania. Dowiedz się, jak bezpłatnie rozpocząć nową wersję próbną !

Po utworzeniu przepływu danych potoku i mapowania w usłudze Azure Data Factory przy użyciu łącznika SAP CDC ważne jest odpowiednie zarządzanie procesem ETL.

Uruchamianie potoku replikacji danych SAP zgodnie z harmonogramem cyklicznym

Aby uruchomić potok replikacji danych SAP w harmonogramie cyklicznym z określoną częstotliwością:

  1. Utwórz wyzwalacz okna wirowania, który często uruchamia potok replikacji danych SAP. Ustaw wartość Maksymalna współbieżność na 1.

    Aby uzyskać więcej informacji, zobacz Tworzenie wyzwalacza, który uruchamia potok w oknie wirowania.

  2. Dodaj samodzielną zależność od wyzwalacza okna wirowania, aby kolejne uruchomienie potoku zawsze czekało do pomyślnego ukończenia wcześniejszych przebiegów potoku.

    Aby uzyskać więcej informacji, zobacz Tworzenie zależności wyzwalacza okna wirowania.

    Screenshot of the Edit trigger window with values highlighted to configure the tumbling window trigger.

Monitorowanie przepływów danych sap CDC

Aby monitorować stan i postęp uruchomionego przepływu danych sap CDC, otwórz narzędzie Monitor i wybierz przebieg potoku. Wybierz ikonę Szczegóły przepływu danych w tabeli działań w dolnej części ekranu.

Screenshot of the pipeline monitor.

Spowoduje to przejście do monitora przepływu danych. Kliknięcie ikony źródła na diagramie przepływu danych u góry spowoduje otwarcie sekcji diagnostyki źródła szczegółów u dołu.

Proces "SAP to stage subskrybent" (nie jest wyświetlany w przypadku pełnych obciążeń) pomaga zidentyfikować proces SAP CDC w narzędziach do monitorowania systemu źródłowego SAP.

Sekcja "SAP to stage", która jest okresowo aktualizowana, gdy wyodrębnianie z systemu źródłowego SAP jest nadal wykonywane, pokazuje postęp procesu wyodrębniania.

Screenshot of the data flow monitor.

Po pomyślnym zakończeniu przebiegu przepływu danych monitor przepływu danych zawiera szczegółowe informacje o procesie wyodrębniania z oprogramowania SAP. Oprócz informacji o czasie wykonywania, takich jak czas rozpoczęcia i czas trwania, można również znaleźć liczbę wierszy skopiowanych z oprogramowania SAP w wierszu Wiersze skopiowane i liczbę wierszy przekazanych ze źródła do następnej transformacji (w tym przypadku przekształcenia ujścia) w wierszu Obliczone wiersze. Należy pamiętać, że obliczane wiersze mogą być mniejsze niż wiersze skopiowane: po wyodrębnieniu zmienionych rekordów danych z systemu SAP przepływ danych wykonuje deduplikację zmienionych wierszy na podstawie definicji klucza. Tylko najnowszy rekord jest przekazywany dalej w dół przepływu danych.

Screenshot of a successful data flow run in data flow monitor.

Monitorowanie wyodrębniania danych w systemach SAP

Aby monitorować wyodrębnianie danych w systemach SAP:

  1. W narzędziu SAP Logon w systemie źródłowym SAP uruchom kod transakcji ODQMON.

    Screenshot of the SAP Logon Tool.

  2. W polu Subskrybent wprowadź wartość właściwości Nazwa subskrybenta połączonej usługi SAP CDC. Na liście rozwijanej Wybór żądania wybierz pozycję Wszystkie , aby wyświetlić wszystkie wyodrębnienia danych, które korzystają z połączonej usługi.

    Screenshot of the SAP ODQMON tool with all data extractions for a specific subscriber.

    Wszystkie zarejestrowane procesy subskrybentów są widoczne w operacyjnej kolejce delty (ODQ). Procesy subskrybentów reprezentują wyodrębnianie danych z przepływu danych mapowania usługi Azure Data Factory, które używają połączonej usługi SAP CDC. Dla każdej subskrypcji ODQ można sprawdzić szczegóły, aby wyświetlić wszystkie pełne i różnicowe wyodrębniania. Dla każdego wyodrębniania można zobaczyć poszczególne pakiety danych, które zostały zużyte.

  3. Gdy przepływy danych mapowania usługi Data Factory, które wyodrębniają dane SAP, nie są już potrzebne, należy usunąć ich subskrypcje ODQ. Po usunięciu subskrypcji ODQ systemy SAP mogą przestać śledzić ich stany subskrypcji i usuwać nieskonsumowane pakiety danych z odQ. Aby usunąć subskrypcję ODQ, wybierz subskrypcję i wybierz ikonę Usuń.

    Screenshot of the SAP ODQMON tool with the delete button highlighted for a specific queue subscription.

Rozwiązywanie problemów ze zmianami różnic

Łącznik SAP CDC w usłudze Data Factory odczytuje zmiany różnicowe ze struktury SAP ODP. Różnice są rejestrowane w tabelach ODQ.

W scenariuszach, w których działa przenoszenie danych (przepływy mapowania danych kończą się bez błędów), ale dane nie są prawidłowo dostarczane (żadne dane w ogóle, a może tylko podzbiór oczekiwanych danych), należy najpierw zaewidencjonować funkcję ODQMON, czy liczba rekordów podanych po stronie SAP jest zgodna z liczbą wierszy przesyłanych przez usługę Data Factory. Jeśli są one zgodne, problem nie jest związany z usługą Data Factory, ale prawdopodobnie pochodzi z nieprawidłowej lub brakującej konfiguracji po stronie systemu SAP.

Rozwiązywanie problemów z oprogramowaniem SAP przy użyciu funkcji ODQMON

Aby przeanalizować dane dostarczone przez system SAP dla danego scenariusza, uruchom transakcję ODQMON w systemie zaplecza SAP. Jeśli używasz serwera replikacji transformacji poziomej SAP (SLT) z autonomicznym serwerem, uruchom tam transakcję.

Aby znaleźć często zadawane pytania odpowiadające przepływom danych mapowania, użyj opcji filtru. W kolejce możesz użyć symboli wieloznacznych, aby zawęzić wyszukiwanie. Na przykład można wyszukiwać według nazwy tabeli EKKO.

Zaznacz pole wyboru Oblicz wolumin danych, aby wyświetlić szczegółowe informacje o liczbie wierszy i woluminu danych (w bajtach) zawartych w pytaniach ODQs.

Screenshot of the SAP ODQMON tool, with delta queues shown.

Aby wyświetlić subskrypcje ODQ, kliknij dwukrotnie kolejkę. Funkcja ODQ może mieć wielu subskrybentów, dlatego sprawdź nazwę subskrybenta wprowadzoną w połączonej usłudze Data Factory. Wybierz subskrypcję, która ma sygnaturę czasową, która najlepiej odpowiada czasowi uruchomienia przepływu danych mapowania. W przypadku subskrypcji różnicowych pierwszy przebieg przepływu mapowania danych dla subskrypcji jest rejestrowany po stronie sap.

Screenshot of the SAP ODQMON tool, with delta queue subscriptions shown.

W ramach subskrypcji lista żądań odpowiada przebiegom przepływu danych mapowania w usłudze Data Factory. Na poniższej ilustracji przedstawiono wynik czterech przebiegów przepływu mapowania danych:

Screenshot of the SAP ODQMON tool with delta queue requests shown.

Na podstawie znacznika czasu w pierwszym wierszu znajdź wiersz odpowiadający przebiegowi przepływu danych mapowania, który chcesz przeanalizować. Jeśli liczba wyświetlanych wierszy jest równa liczbie wierszy odczytanych przez przepływ danych mapowania, sprawdzono, że usługa Data Factory odczytuje i przesyła dane zgodnie z danymi dostarczonymi przez system SAP. W tym scenariuszu zalecamy skonsultowanie się z zespołem odpowiedzialnym za system SAP.

Dowiedz się więcej o łącznikach SAP.