Konfigurere SFTP i en kopiaktivitet
Denne artikkelen beskriver hvordan du bruker kopieringsaktiviteten i datasamlebåndet til å kopiere data fra SFTP.
Støttet format
SFTP støtter følgende filformater. Se hver artikkel for formatbaserte innstillinger.
- Avro-format
- binærformat
- tekstformat med skilletegn
- Excel-format
- JSON-format
- ORC-format
- Parquet-format
- XML-format
Støttet konfigurasjon
Hvis du vil ha konfigurasjonen av hver fane under kopieringsaktivitet, kan du gå til følgende inndelinger.
Generelt
Se Generelle innstillinger veiledning for å konfigurere generelt innstillinger-fanen.
Kilde
Gå til fanen Kilde for å konfigurere kopiaktivitetskilden. Se følgende innhold for detaljert konfigurasjon.
Følgende tre egenskaper er nødvendige:
datalagertype: Velg Ekstern.
Tilkobling: Velg en SFTP-tilkobling fra tilkoblingslisten. Hvis det ikke finnes noen tilkobling, oppretter du en ny SFTP-tilkobling ved å velge Ny.
Filtype: Velg fra Filbane, jokertegnfilbane og liste over filer basert på måten du vil lese filer på.
Filbane: Hvis du velger denne typen, angir du kildefilbanen. Du kan velge Bla gjennom for å velge kildefilene eller angi filbanen manuelt.
Wild-filbane: Hvis du velger denne typen, angir du jokertegnbaner for å filtrere kildemappene eller filene.
Tillatte jokertegn er
*(samsvarer med null eller flere tegn) og?(samsvarer med null eller enkelttegn). Bruk^til å unnslippe hvis mappenavnet har et jokertegn eller dette escape-tegnet inni. Hvis du vil ha flere eksempler, kan du gå til Eksempler på mappe- og filfilter.
jokertegnmappebane: Angi mappebanen med jokertegn for å filtrere kildemapper.
jokertegnfilnavn: Angi filnavnet med jokertegn under den angitte mappebanen/jokertegnmappebanen for å filtrere kildefiler.
liste over filer: Hvis du velger denne typen, angir du mappebane og Bane til fil-listen som angir at et gitt filsett skal kopieres. Pek på en tekstfil som inneholder en liste over filer du vil kopiere, én fil per linje. Hvis du vil ha flere eksempler, kan du gå til Eksempler på filliste.
mappebane: Angi banen til kildemappen. Det er nødvendig.
Bane til filliste: Angi banen til tekstfilen som inneholder en liste over filer du vil kopiere.
Filformat: Velg filformatet som brukes fra rullegardinlisten. Velg Innstillinger for å konfigurere filformatet. Hvis du vil ha innstillinger for ulike filformater, kan du se artikler i støttet format for detaljert informasjon.
Under Avansertkan du angi følgende felt:
Filtrere etter siste endrede: Filer filtreres basert på de siste endrede datoene du har angitt. Denne egenskapen gjelder ikke når du konfigurerer filtypen som liste over filer.
- Starttidspunkt (UTC): Filene velges hvis den siste endrede tiden er større enn eller lik det konfigurerte tidspunktet.
- sluttidspunkt (UTC): Filene velges hvis siste endringstidspunkt er mindre enn det konfigurerte tidspunktet.
Når starttidspunkt (UTC) har datetime-verdi, men sluttidspunkt (UTC) er NULL, betyr det at filene som sist endret attributtet er større enn eller lik datetime-verdien, er valgt. Når sluttidspunkt (UTC) har datetime-verdi, men Starttidspunkt (UTC) er NULL, betyr det at filene som sist endret attributt er mindre enn datetime-verdien, er valgt. Egenskapene kan være NULL, noe som betyr at ingen filattributtfilter brukes på dataene.
Deaktiver deling: Delingen er utformet for å optimalisere ytelsen og skjer under. Med dette alternativet kan du deaktivere deling i hver fil. Når du kopierer data fra SFTP, prøver tjenesten å hente fillengden først, og deretter dele filen inn i flere deler og lese dem parallelt. Angi om SFTP-serveren støtter å få fillengde eller søker å lese fra en bestemt forskyvning. Det er ikke valgt som standard.
Aktiver partisjonsgjenkjenning: Angi om du vil analysere partisjonene fra filbanen og legge dem til som ekstra kildekolonner. Det er ikke merket av som standard og støttes ikke når du bruker binært filformat.
Partisjonsrotbane: Når partisjonsgjenkjenning er aktivert, angir du den absolutte rotbanen for å lese partisjonerte mapper som datakolonner.
Hvis det ikke er angitt, som standard,- Når du bruker filbanen eller listen over filer på kilden, er partisjonsrotbanen banen du konfigurerte.
- Når du bruker jokertegnmappefilter, er partisjonsrotbanen underbanen før det første jokertegnet.
Hvis du for eksempel konfigurerer banen som
root/folder/year=2020/month=08/day=27:- Hvis du angir partisjonsrotbane som
root/folder/year=2020, genererer kopieringsaktivitet henholdsvis to kolonner måned og dag med verdien 08 og 27 i tillegg til kolonnene i filene. - Hvis partisjonsrotbanen ikke er angitt, genereres ingen ekstra kolonne.
Maksimalt antall samtidige tilkoblinger: Denne egenskapen angir den øvre grensen for samtidige tilkoblinger som ble opprettet i datalageret under aktivitetskjøringen. Angi en verdi bare når du vil begrense samtidige tilkoblinger.
flere kolonner: Legg til ekstra datakolonner for å lagre kildefilens relative bane eller statiske verdi. Uttrykket støttes for sistnevnte. Hvis du vil ha mer informasjon, kan du gå til Legge til ekstra kolonner under kopiering.
Destinasjon
Gå til Mål-fanen for å konfigurere målet for kopiaktiviteten. Se følgende innhold for detaljert konfigurasjon.
- datalagertype: Velg Ekstern.
- Tilkobling: Velg en SFTP-tilkobling fra tilkoblingslisten. Hvis det ikke finnes noen tilkobling, oppretter du en ny SFTP-tilkobling ved å velge Ny.
- Filbane: Angi filbanen du vil skrive dataene til. Du kan velge Bla gjennom for å velge kildefilene eller angi filbanen manuelt.
- Filformat: Velg filformatet som brukes fra rullegardinlisten. Velg Innstillinger for å konfigurere filformatet. Hvis du vil ha innstillinger for ulike filformater, kan du se artikler i støttet format for detaljert informasjon.
Under Avansertkan du angi følgende felt:
Kopier virkemåte: Angi kopieringsvirkemåten når kilden er filer fra et filbasert datalager. Velg blant følgende egenskaper.
- Flate ut hierarki: Alle filer fra kildemappen er på det første nivået i målmappen. Målfilene har automatisk genererte navn.
- Flette filer: Slår sammen alle filer fra kildemappen til én fil. Hvis filnavnet er angitt, er det flettede filnavnet det angitte navnet. Ellers er det et automatisk generert filnavn.
- Behold hierarki (standard): Bevarer filhierarkiet i målmappen. Den relative banen til kildefilen til kildemappen er identisk med den relative banen til målfilen til målmappen.
- Legg til dynamisk innhold: Velg dette for å angi kopieringsvirkemåten ved hjelp av dynamisk innhold.
Maks. samtidige tilkoblinger: Den øvre grensen for samtidige tilkoblinger som ble opprettet i datalageret under aktivitetskjøringen. Angi en verdi bare når du vil begrense samtidige tilkoblinger.
Tidsavbrudd for operasjon (minutter): Angi tidsavbruddet for å skrive hver del til SFTP-server. Standardverdien er 60 minutter.
Last opp med midlertidig fil: Angi om du vil laste opp til midlertidige filer og gi dem nytt navn, eller skrive direkte til målmappen eller filplasseringen. Som standard er den valgt, og tjenesten skriver først til midlertidige filer og gir dem nytt navn når opplastingen er fullført.
Denne sekvensen bidrar til å (1) unngå konflikter som kan føre til en skadet fil hvis du har andre prosesser som skriver til samme fil, og (2) sikrer at den opprinnelige versjonen av filen finnes under overføringen. Hvis SFTP-serveren ikke støtter en nytt navneoperasjon, deaktiverer du dette alternativet og kontrollerer at du ikke har en samtidig skriving til målfilen.
Tips
Hvis du får feilmeldingen UserErrorSftpPathNotFound, UserErrorSftpPermissionDenied eller SftpOperationFail når du skriver data til SFTP, og SFTP-brukeren du bruker, har de riktige tillatelsene, må du kontrollere om SFTP-serverens navneendringsoperasjon fungerer. Hvis den ikke er det, deaktiverer du alternativet Last opp med midlertidig fil, og prøver på nytt.
Kartlegging
Hvis du vil ha tilordning fanekonfigurasjon, kan du se Konfigurere tilordningene under tilordningsfanen. Hvis du velger Binær som filformat, støttes ikke tilordning.
Innstillinger
Hvis du vil ha Innstillinger fanekonfigurasjon, kan du gå til Konfigurere de andre innstillingene under innstillinger.
Tabellsammendrag
Tabellen nedenfor inneholder mer informasjon om kopieringsaktiviteten i SFTP.
Kilde
| Navn | Beskrivelse | Verdi | Påkrevd | JSON-skriptegenskap |
|---|---|---|---|---|
| datalagertype | Datalagertypen. | eksterne | Ja | / |
| tilkobling | SFTP-tilkoblingen til kildedatalageret. | < SFTP-tilkoblingen > | Ja | forbindelse |
| Filtype | Filtypen som brukes til å hente kildedata. | • Filbane • jokertegnfilbane • liste over filer |
Ja | / |
| Filbane | Banen til kildefilen. | < filbane> | Ja | Filnavn folderPath |
| jokertegnbaner | Jokertegnbanen til kildefilen. | < jokertegnfilbanen > | Ja for jokertegnfilnavn | wildcardFolderPath wildcardFileName |
| mappebane | Banen til kildemappen. | < mappebanen> | Ja | folderPath |
| Bane til filliste | Angir å kopiere et gitt filsett. Pek på en tekstfil som inneholder en liste over filer du vil kopiere, én fil per linje. | < fillistebane > | Nei | fileListPath |
| Filformat | Filformatet for kildedataene. Hvis du vil ha informasjon om ulike filformater, kan du se artikler i støttet format for detaljert informasjon. | / | Ja | / |
| Filtrer etter sist endret | Filene med siste endringstidspunkt i området [Starttidspunkt, Sluttidspunkt) filtreres for videre behandling. Tiden brukes på UTC-tidssone i formatet yyyy-mm-ddThh:mm:ss.fffZ. Disse egenskapene kan hoppes over, noe som betyr at det ikke brukes noe filattributtfilter. Denne egenskapen gjelder ikke når du konfigurerer filtypen som liste over filer. |
datetime | Nei | modifiedDatetimeStart modifiedDatetimeEnd |
| Deaktivere | Delingen er utformet for å optimalisere ytelsen og skjer under. Med dette alternativet kan du deaktivere deling i hver fil. Når du kopierer data fra SFTP, prøver tjenesten å hente fillengden først, og deretter dele filen inn i flere deler og lese dem parallelt. Angi om SFTP-serveren støtter å få fillengde eller søker å lese fra en bestemt forskyvning. | merket eller umerket (standard) | Nei | disableChunking: sann eller usann (standard) |
| Aktiver for partisjonsoppdagelse | Angir om du vil analysere partisjonene fra filbanen og legge dem til som ekstra kildekolonner. | merket eller umerket (standard) | Nei | enablePartitionDiscovery: sann eller usann (standard) |
| partisjonsrotbane | Den absolutte partisjonsrotbanen for å kunne lese partisjonerte mapper som datakolonner. Angi den når partisjonsgjenkjenning er aktivert. | < partisjonsrotbane > | Nei | partitionRootPath |
| Maks. samtidige tilkoblinger | Den øvre grensen for samtidige tilkoblinger som ble opprettet i datalageret under aktivitetskjøringen. Angi en verdi bare når du vil begrense samtidige tilkoblinger. |
< øvre grense for samtidige tilkoblinger > (heltall) |
Nei | maxConcurrentConnections |
| flere kolonner | Legg til ekstra datakolonner for å lagre kildefilens relative bane eller statiske verdi. Uttrykket støttes for sistnevnte. Hvis du vil ha mer informasjon, kan du gå til Legge til ekstra kolonner under kopiering | •Navn •Verdi |
Nei | additionalColumns: •navn •verdi |
Destinasjon
| Navn | Beskrivelse | Verdi | Påkrevd | JSON-skriptegenskap |
|---|---|---|---|---|
| datalagertype | Datalagertypen. | Utvendig | Ja | / |
| tilkobling | Tilkoblingen til SFTP-kilden. | < tilkoblingen > | Ja | forbindelse |
| Filbane | Filbanen til måldataene. | Filbane for målet | Ja | folderPath Filnavn |
| Filformat | Filformatet for kildedataene. Hvis du vil ha informasjon om ulike filformater, kan du se artikler i støttet format for detaljert informasjon. | / | Ja | / |
| Kopier virkemåte | Definerer kopieringsvirkemåten når kilden er filer fra et filbasert datalager. | • Flate ut hierarki • Slå sammen filer • Bevare hierarki |
Nei | copyBehavior: - FlattenHierarchy - MergeFiles - PreserveHierarchy |
| Maks. samtidige tilkoblinger | Den øvre grensen for samtidige tilkoblinger som ble opprettet i datalageret under aktivitetskjøringen. Angi en verdi bare når du vil begrense samtidige tilkoblinger. | < maksimalt antall samtidige tilkoblinger > | Nei | maxConcurrentConnections |
| Tidsavbrudd for operasjon (minutter) | Tidsavbruddet for å skrive hver del til SFTP-serveren. |
< tidsavbruddet for operasjonen > Standardverdien er 60 |
Nei | operationTimeout |
| Last opp med midlertidig fil | Angir om du vil laste opp midlertidige filer og gi nytt navn. Deaktiver dette alternativet hvis SFTP-serveren ikke støtter nytt navn. | valgt (standard) eller umerket | Nei | brukTempFileRename: sann (standard) eller usann |