Stappen: scripted gegevensbronnen instellen
Met scripted gegevensbronnen kunt u complexe, aangepaste scenario's voor gegevensextractie en -transformatie oplossen. U kunt Kettle ETL-scripts schrijven om informatiebronnen op te geven waaruit gegevens kunnen worden geëxtraheerd en vervolgens klantspecifieke bedrijfsregels toepassen op de geëxtraheerde gegevens. Voordat u een scripted gegevensbron instelt, moet Data Agent zijn geïnstalleerd op een on-premises Windows-server in het netwerk. Zie Concept: Data Agents voor meer informatie.
Het platform of de scripts die in Kettle worden gebruikt, worden niet automatisch geüpgraded of gemigreerd. Als u de legacy-gegevensagent gebruikt (met Kettle 4.4), moet u de koppeling gebruiken die u in de agent-gebruikersinterface van Integratie vindt in de sectie Legacy-agent downloaden. Als u wilt upgraden naar Kettle 6, moet u de nieuwe gegevensagent en de nieuwe Kettle-versie opnieuw installeren op een systeem waarop nog niet eerder een versie van Kettle is geïnstalleerd.
Scripted gegevensbronnen zijn bedoeld voor ervaren ETL-implementeerders die ervaring hebben met het schrijven van Pentaho Kettle-scripts en het gebruik van de Spoon-gebruikersinterface. Zie https://docs.hitachivantara.com/p/pentaho-diavoor meer informatie over Pentaho Kettle en Spoon, inclusief uitgebreide documentatie en zelfstudies.
Een scripted gegevensbron instellen:
- Open de Gegevensontwerper door naarIntegratie > Integratieontwerpente gaan.
- Klik in de map Gegevensbron in de componentenbibliotheek aan de rechterkant van het scherm opNieuwe gegevensbron maken. Het dialoogvenster Nieuw wordt weergegeven.
- SelecteerScripted gegevensbronals gegevensbrontype en voer een naam in voor de gegevensbron.
- Klik opMaken. In het midden van het scherm worden de instellingen en andere informatie van uw nieuwe gegevensbron weergegeven.
- Voer de informatie voor gegevensbron in:
- Gekoppelde agent:selecteer de agent in de vervolgkeuzelijst.
- Invoerpunt:selecteer een invoerpunt in de vervolgkeuzelijst. Het invoerpunt is een ETL-script op het systeem. U kunt dit later bewerken.
- Logboekniveau:selecteer een logboekniveau in de vervolgkeuzelijst om de details voor de logboekregistratie voor deze gegevensbron op te geven. Uw opties zijn:
- Fout:registreert alleen ernstige fouten.
- Info:registreert alle basisgegevens, zoals wanneer de gegevensbron is bijgewerkt.
- Uitgebreid:biedt zeer gedetailleerde informatie over alle fasen en acties. (Dit niveau wordt voornamelijk gebruikt voor foutopsporing of audits, omdat het meer logboekgegevens kan opleveren dan voor normaal gebruik praktisch is.)
- Bron-URI:voer de URI's in waarmee uw scripts verbinding maken, gescheiden door een puntkomma (;). Dit veld wordt alleen gebruikt om u te helpen bij het identificeren en documenteren van de onderliggende bronsystemen waarmee uw scripts verbinding maken en wordt niet door de software voor andere doeleinden gebruikt.
- Klik opOpslaanin het menu Acties.
Spoon starten
Nadat u de basisinformatie voor de scripted gegevensbron hebt opgeslagen, kunt u Spoon, de ETL-scripteditor, starten met het script en tabellen toevoegen aan de scripted gegevensbron.
Het script weergeven en bewerken:
- Klik in het menu Start van Windows opAlle programma's.
- Open de map Workday Adaptive Planning Data Agent. Voor gegevensagentversies 7.1.44 en ouder opent u de map Adaptive Data Agent.
- Klik op Adaptive Script Editor. Na een Pentaho-startscherm en een opstarttip verschijnt het Spoon-scherm.
- Uw . invoerenAdaptive Planninge-mailadres en wachtwoord voor aanmelding en klik opNu aanmelden/Tenantlijst vernieuwen. Zie Aanmelden bij de gegevensagent en scripteditor met Workday-referenties als u gebruikers uit Workday hebt gesynchroniseerd.
- Selecteer de tenant in de vervolgkeuzelijst. Er is meestal maar één tenant. Spoon vernieuwt de lijst met tenants.
- Selecteer in de vervolgkeuzelijst de agent die u voor deze gegevensbron gebruikt. Spoon vernieuwt de lijst met agenten.
- Selecteer de scripted gegevensbron die u zojuist hebt gemaakt in de vervolgkeuzelijst in Script bewerken.
Nu u bent aangemeld en in Spoon hebt aangegeven aan welke agent en gegevensbron u werkt, kunt u beginnen met het bewerken van het script.
- Klik op Gegevensintegratie in de rechterbovenhoek van het Spoon-scherm. Het integratieperspectief van Spoon wordt weergegeven.
- SelecteerBestand > Openen, blader naar het script dat u wilt weergeven en bewerken en klik opOK. De voorbeeldscripts voor scripted gegevensbronnen die bij Integratie worden geleverd, bevatten informatie over de scriptstructuur en databaseverbindingen die van pas kunnen komen bij het ontwikkelen van uw eigen scripts.
- Bewerk het script naar wens en sla het vervolgens op.
- Klik rechtsboven op Adaptive om terug te keren naar het Adaptive-perspectief. Het Spoon-scherm wordt opnieuw weergegeven.
- Klik opAgentwijzigingen publiceren. Hiermee wordt het script weer omhoog gepusht naar deAdaptive Planningserver, waar het wordt opgeslagen in de scriptopslagplaats.
De volgende gegevensimportmodi worden ondersteund. De instellingen kunnen per tabel verschillen.
- Elke keer dat de gegevens worden geïmporteerd, worden alle records vervangen.
- Externe agent scant alle bronrecords en verzendt de gewijzigde records telkens wanneer gegevens moeten worden gesynchroniseerd.
- Alle records die binnen een periodebereik vallen, worden verzonden.
Tabellen en kolommen toevoegen aan een scripted gegevensbron
Met het script kunt u tijdens de integratie tabellen en kolommen toevoegen aan uw gegevensbron.
Het is essentieel dat de kolommen die in de gegevensbron zijn gedefinieerd, exact overeenkomen met de kolommen die in het ETL-script zijn gedefinieerd, anders mislukt het laden van de gegevens.
Ga als volgt te werk om tabellen toe te voegen aan een scripted gegevensbron:
- Vouw het item Aangepaste tabel uit in het menu Gegevenscomponenten.
- Sleep het item in hetSripted tabelitemen zet het neer in het gebied Te importeren tabellen. Wanneer u dit item neerzet, wordt het dialoogvenster Scripted tabellen weergegeven.
- Voer de tabelinstellingen in:
- Naam:voer de naam voor de tabel in.
- Gegevensimportmodus:selecteer een van de importmodi:
- Alle records worden vervangen telkens wanneer een gegevensimport wordt uitgevoerd:dit is de standaardinstelling. Wanneer u gegevens importeert, worden alle records in het faseringsgebied vervangen.
- Externe cache die wordt gebruikt om gewijzigde records te identificeren en te verzenden bij importeren:bij integratie wordt gekeken naar het faseringsgebied en wordt dit vergeleken met de records in de spreadsheet of database. Alleen de gewijzigde records worden geïmporteerd.
- Alle records die binnen een periodebereik vallen, verzonden:wanneer u deze modus selecteert, wordt u gevraagd een periodebereik in te voeren en wordt het bereik door middel van kolomintegratie toegepast. Alle records die aan dit selectiecriterium voldoen, worden geïmporteerd.
- Filter voor gegevensimport:gebruik dit om een SQL-expressie in te voeren waarmee gegevens die worden geïmporteerd, worden gefilterd of opgemaakt. Het SQL-filter wordt toegepast voordat gegevens uit de database worden geëxtraheerd om de hoeveelheid gegevens die moet worden geïmporteerd te verminderen, zodat u meer controle hebt over welke gegevens in het faseringsgebied worden geplaatst. Klik op het veld om het eerder beschreven dialoogvenster SQL-filter bewerken weer te geven. (Het filter dat u hier invoert, wordt toegepast op de werkelijke gegevens in de database en niet op de voorbeeldgegevens in het faseringsgebied.)
- Klik opToepassenom de instellingen toe te passen.
Volg deze stappen om kolommen toe te voegen aan een scripted gegevensbron:
- Vouw het item Aangepaste kolom uit in het menu Gegevenscomponenten.
- Sleep een van de kolomtypen naar het gebied Te importeren tabellen. Wanneer u dit item neerzet, wordt het dialoogvenster Aangepaste kolommen weergegeven.
- Voer de kolominstellingen in:
- Naam:voer de naam voor de kolom in. Kolomnamen moeten exact overeenkomen met de kolomnamen zoals opgegeven in het script in Spoon, inclusief hoofdletters en ingesloten spaties.
- Kolomtype:een veld dat alleen wordt weergegeven om het kolomtype aan te geven.
- Kolomtype converteren:u kunt deze waarde alleen wijzigen voor SQL-kolommen. Voor SQL-kolommen kunt u een van de zes conversieopties selecteren.
- Klik opToepassenom de instellingen toe te passen.
Kolommen beheren
Als een tabel waarmee u werkt een groot aantal kolommen bevat, kunt u Kolommen beheren gebruiken om snel te bepalen welke kolommen moeten worden geïmporteerd. In het dialoogvenster Kolommen beheren worden de kolommen in een tabel weergegeven, zodat u kolommen voor importeren kunt in- of uitschakelen.
Kolommen voor importeren beheren:
- Klik op de pijl op het tabblad rechts van de tabelnaam. Er wordt een zwevend menu met verschillende opties weergegeven.
- Klik in het zwevende menu opKolommen beheren. Het dialoogvenster Kolommen beheren wordt weergegeven.
- Schakel het selectievakje naast een kolom in om deze te importeren. Wanneer u een kolom inschakelt, wordt de kolom ook weergegeven in het voorbeeldvenster nadat de pop-upinhoud is opgeslagen. Als u een kolom uitschakelt, wordt de kolom uit het voorbeeldvenster verwijderd. U kunt de importstatus niet wijzigen voor door het systeem gegenereerde velden zoals:isDeleted. U kunt de importstatus voor afzonderlijke kolommen ook wijzigen door kolomeigenschappen te selecteren en de eigenschap in te stellen of door de kolommen naar de ontwerper te slepen en neer te zetten.
De tabellen aanpassen
Voor elke tabel kunt u de manier aanpassen waarop gegevens worden geïmporteerd.
Volg deze stappen om de tabelinstellingen aan te passen:
- Klik op de pijl op het tabblad rechts van de tabelnaam. Er wordt een zwevend menu met verschillende opties weergegeven.
- Klik opTabelinstellingenin het zwevende menu.
- Klik opToepassenom de instellingen toe te passen.
- Herhaal de stappen 1 t/m 3 voor elke tabel.
- Klik opOpslaanom de instellingen in de gegevensbron op te slaan.
Kolomopties instellen
Als u de sectie Te importeren tabellen gebruikt, kunt u een voorbeeld van de gegevens bekijken zoals deze zich in de gegevensbron of in het faseringsgebied bevinden nadat ze zijn geïmporteerd. U kunt de opties voor elke kolom wijzigen door de muisaanwijzer op de kop te plaatsen en vervolgens op de vervolgkeuzelijst naast de naam te klikken. Deze opties zijn:
- Oplopend sorteren:sorteer de hele tabel op basis van deze kolom in oplopende volgorde.
- Aflopend sorteren:sorteer de hele tabel op basis van deze kolom in aflopende volgorde.
- Kolominstellingen:dit dialoogvenster wordt gebruikt om de eigenschappen van de kolom in de faseringstabel te wijzigen.
- Naam:de naam van de kolom die in de kop wordt weergegeven.
- Kolomtype:het type gegevens dat in de kolom wordt gebruikt.
- Kolomtype converteren:selecteer het nieuwe type in dit vervolgkeuzemenu.
- Kolom uitsluiten van import:selecteer deze optie om deze kolom te verwijderen uit de gegevens die worden geïmporteerd.
- Aangepaste kolom verwijderen:selecteer deze optie om de kolom te verwijderen. (Alleen beschikbaar voor aangepaste kolommen.)
Gegevens downloaden uit een faseringstabel
U kunt gegevens uit één faseringstabel downloaden.
Gegevens downloaden uit één faseringstabel:
- Klik op de pijl-omlaag in een tabelkop in de sectie Te importeren tabellen.
- SelecteerGegevens downloaden.
- Klik bij de prompt Metdeze bewerking wordt een e-mail verzonden met een URL om de gegevens te downloadenop Verzenden.Adaptive Planningverzendt een e-mail met een URL naar het e-mailaccount dat aan de gegevensontwerper is gekoppeld.
- Open de e-mail en klik op de URL. De gegevens worden gedownload in CSV-indeling.
Het geavanceerde filter gebruiken
Onder het vervolgkeuzemenu Bron kunt u op
Geavanceerd filter
klikken om opties voor het filteren van de gegevens weer te geven in het voorbeeldgebied Te importeren tabellen
. Het geavanceerde filter biedt tools om een subset van de gegevens in een faseringstabel of vanuit het script weer te geven en te bladeren. (Als u Script selecteert in de vervolgkeuzelijst Bron, wordt de voorbeeldaanvraag naar de agent verzonden voor verwerking.) Door filtereigenschappen te wijzigen, kunt u de weergave van de gegevens in het voorbeeldvenster wijzigen zonder de gegevens in het faseringsgebied te wijzigen.Het voorbeeldgebied is specifiek bedoeld voor het bekijken van een voorbeeld van een klein deel van de gegevens in het faseringsgebied. U kunt de beschikbare gegevens in de spreadsheet verkennen en controleren of u de verwachte gegevens krijgt door het faseringsgebied te onderzoeken. (Filters die zijn ingesteld in de voorbeeldfunctie hebben geen invloed op de werkelijke gegevens in het faseringsgebied.)
De opties voor het geavanceerde filter zijn:
- Verschillende rijen: schakel dit selectievakje in om dubbele rijen te verbergen.
- Maximaal aantal rijen: beperk het aantal rijen dat in het voorbeeldgebied wordt weergegeven door een getal in het tekstvak in te voeren.
- Kolommen: schakel kolommen in dit vervolgkeuzemenu in of uit om de weergegeven kolommen weer te geven of te verbergen.
Als u een kolom uit deze lijst verwijdert, wordt de kolom niet uit de importlijst verwijderd.
- SQL-filter: klik op het grote tekstvak om het dialoogvenster SQL-filter bewerken weer te geven (eerder beschreven), waar u een SQL-filter kunt invoeren om de rijen te beperken waarvan het voorbeeld wordt weergegeven. Klik opToepassenom de SQL-syntaxis van het filter automatisch te controleren. (Als er fouten zijn, wordt de fout aangegeven in de expressie.) Voor gedetailleerde hulp bij SQL-syntaxis klikt u in de sectie Opmerkingen op online-Help.
Klik op
Filter verwijderen
(naast het vervolgkeuzemenu Bron) om alle geavanceerde filterinstellingen te wissen.Als onderdeel van het tabelaanpassingsproces kunt u jointabellen en aangepaste kolommen maken met behulp van SQL-expressies.
Parameters toevoegen en bewerken
U kunt parameters gebruiken om informatie door te geven aan het onderliggende Kettle-script. Deze parameters kunnen worden ingesteld met een standaardwaarde. Het script kan vervolgens de parameters gebruiken om de transformaties en filters in de ETL-scripts te beheren.
Een parameter toevoegen:
- Klik op het pictogramParameters bewerkenrechts van de kop Parameters. Het dialoogvenster Parametereditor wordt weergegeven.
- Klik in het linkerdeelvenster op de map waaraan u een parameter wilt toevoegen. De naam van de map wordt in het rechterdeelvenster weergegeven.
- Klik opToevoegenen selecteer een van de volgende opties in het zwevende menu:
- Map:maak een nieuwe map.
- Boole-waarde: maak een parameter voor Boole-waarde (true/false).
- Geheel getal: maak een parameter voor een geheel getal.
- Tekst: maak een tekstparameter.
- Wachtwoord: maak een wachtwoordparameter.
- Periodebereik: maak een periodebereikparameter (datums van/tot).
- Dimensie: maak een dimensie.
- Versie werkelijke waarden: maak een Versie werkelijke waarden.
- Planversie: maak een planversie.
- Voer in het rechterdeelvenster de informatie in voor de optie die u hebt geselecteerd.
- Klik opToepassen.
U kunt afzonderlijke parameters of de mappen bewerken door in het linkerdeelvenster te dubbelklikken op het item dat u wilt bewerken, de gegevens in de velden te wijzigen en vervolgens op Toepassen te klikken om uw wijzigingen op te slaan.
U kunt ook mappen maken om parameters te groeperen en parameters vervolgens naar de map slepen.
Gegevens importeren met een scripted gegevensbron
Wanneer u uw scripted gegevensbron hebt ingesteld en opgeslagen, kunt u gegevens importeren.
Gegevens importeren met een scripted gegevensbron:
- Klik opGegevens importerenin het menu Acties. De geselecteerde gegevens worden gefilterd door de ETL-scripts en eventuele SQL-expressies en in het faseringsgebied geladen. U kunt een voorbeeld van de gegevens bekijken in het faseringsgebied.
Informatie blijft in het faseringsgebied totdat u deze wist of totdat een volgend gegevenslaadproces ervoor zorgt dat deze wordt gewist volgens de actieve instelling van de modus voor gegevensimport.
Gegevens uit het faseringsgebied wissen:
- Klik opFaseringstabellen wissenin het menu Acties. Het faseringsgebied voor alle tabellen in de gegevensbron wordt gewist.