Problembehandlung für FTP-, SFTP- und HTTP-Connectors - Azure Data Factory & Azure Synapse (2024)

  • Artikel

GILT FÜR:Problembehandlung für FTP-, SFTP- und HTTP-Connectors - Azure Data Factory & Azure Synapse (1) Azure Data Factory Problembehandlung für FTP-, SFTP- und HTTP-Connectors - Azure Data Factory & Azure Synapse (2) Azure Synapse Analytics

Tipp

Testen Sie Data Factory in Microsoft Fabric, eine All-in-One-Analyselösung für Unternehmen. Microsoft Fabric deckt alle Aufgaben ab, von der Datenverschiebung bis hin zu Data Science, Echtzeitanalysen, Business Intelligence und Berichterstellung. Erfahren Sie, wie Sie kostenlos eine neue Testversion starten!

Dieser Artikel enthält Vorschläge zur Behandlung häufiger Probleme mit den FTP-, SFTP- und HTTP-Connectors in Azure Data Factory und Azure Synapse.

FTP

Fehlercode: FtpFailedToConnectToFtpServer

  • Meldung: Failed to connect to FTP server. Please make sure the provided server information is correct, and try again.

  • Ursache: Möglicherweise wird ein falscher Typ von verknüpftem Dienst für den FTP-Server verwendet. Beispielsweise wird mit einem verknüpften SFTP-Dienst versucht, eine Verbindung mit einem FTP-Server herzustellen.

  • Empfehlung: Überprüfen Sie den Port des Zielservers. FTP verwendet Port21.

Fehlercode: FtpFailedToReadFtpData

  • Meldung: Failed to read data from ftp: The remote server returned an error: 227 Entering Passive Mode (*,*,*,*,*,*).

  • Ursache: Der Portbereich zwischen 1024 und 65535 ist nicht für die Datenübertragung im passiven Modus geöffnet, der von der Data Factory- oder Synapse-Pipeline unterstützt wird.

  • Empfehlung: Überprüfen Sie die Firewalleinstellungen des Zielservers. Öffnen Sie Port1024-65535 oder den auf dem FTP-Server festgelegten Portbereich für die IP-Adresse der selbstgehosteten Integration Runtime/Azure IR.

SFTP

Fehlercode: SftpOperationFail

  • Meldung: Failed to '%operation;'. Check detailed error from SFTP.

  • Ursache: Ein Problem mit dem SFTP-Vorgang.

  • Empfehlung: Überprüfen Sie die Fehlerdetails aus dem SFTP.

Fehlercode: SftpRenameOperationFail

  • Meldung: Failed to rename the temp file. Your SFTP server doesn't support renaming temp file, set "useTempFileRename" as false in copy sink to disable uploading to temp file.

  • Ursache: Der SFTP-Server unterstützt kein Umbenennen der temporären Datei.

  • Empfehlung: Legen Sie „useTempFileRename“ in der Kopiersenke auf „false“ fest, um das Hochladen in die temporäre Datei zu deaktivieren.

Fehlercode: SftpInvalidSftpCredential

  • Meldung: Invalid SFTP credential provided for '%type;' authentication type.

  • Ursache: Der Inhalt des privaten Schlüssels wird aus Azure Key Vault oder dem SDK abgerufen, ist aber nicht ordnungsgemäß codiert.

  • Empfehlung:

    Wenn der Inhalt des privaten Schlüssels aus Ihrem Schlüsseltresor stammt, kann die ursprüngliche Schlüsseldatei funktionieren, wenn Sie sie direkt in den verknüpften SFTP-Dienst hochladen.

    Weitere Informationen finden Sie unter Copy data from and to the SFTP server by using data factory or Synapse pipelines (Kopieren von Daten von einem und auf einen SFTP-Server mithilfe von Data Factory- oder Synapse-Pipelines). Der Inhalt des privaten Schlüssels ist der base64-codierte Inhalt eines privaten SSH-Schlüssels.

    Codieren Sie den gesamten Inhalt der ursprünglichen Datei mit dem privaten Schlüssel mit base64, und speichern Sie die codierte Zeichenfolge in Ihrem Schlüsseltresor. Die ursprüngliche Datei mit dem privaten Schlüssel funktioniert bei einem verknüpften SFTP-Dienst, wenn Sie Hochladen in der Datei auswählen.

    Es folgen einige Beispiele, die Sie verwenden können, um die Zeichenfolge zu generieren:

    • In C#:

      byte[] keyContentBytes = File.ReadAllBytes(Private Key Path);string keyContent = Convert.ToBase64String(keyContentBytes, Base64FormattingOptions.None);
    • In Python:

      import base64rfd = open(r'{Private Key Path}', 'rb')keyContent = rfd.read()rfd.close()print base64.b64encode(Key Content)
    • Verwenden Sie ein base64-Konvertierungstool von Drittanbietern. Wir empfehlen das Tool Encode to Base64 format.

  • Ursache: Es wurde das falsche Format für den Schlüsselinhalt ausgewählt.

  • Empfehlung:

    Private SSH-Schlüssel im PKCS#8-Format (beginnt mit „-----BEGIN ENCRYPTED PRIVATE KEY-----“) werden derzeit nicht für den Zugriff auf den SFTP-Server unterstützt.

    Führen Sie die folgenden Befehle aus, um den Schlüssel in ein herkömmliches SSH-Schlüsselformat zu konvertieren (beginnend mit „-----BEGIN RSA PRIVATE KEY-----“):

    openssl pkcs8 -in pkcs8_format_key_file -out traditional_format_key_filechmod 600 traditional_format_key_filessh-keygen -f traditional_format_key_file -p
  • Ursache: Die Anmeldeinformationen oder der Inhalt des privaten Schlüssels ist ungültig.

  • Empfehlung: Überprüfen Sie mit Tools wie WinSCP erneut, ob die Schlüsseldatei und das Kennwort richtig sind.

Fehler bei der SFTP-Kopieraktivität

  • Symptome:

    • Fehlercode: UserErrorInvalidColumnMappingColumnNotFound
    • Fehlermeldung: Column 'AccMngr' specified in column mapping cannot be found in source data.
  • Ursache: Die Quelle enthält keine Spalte mit dem Namen „AccMngr“.

  • Lösung: Um zu ermitteln, ob die Spalte „accmngr“ vorhanden ist, überprüfen Sie die Datasetkonfiguration erneut, indem Sie die Zieldatasetspalte zuordnen.

Fehlercode: SftpFailedToConnectToSftpServer

  • Meldung: Failed to connect to SFTP server '%server;'.

  • Ursache: Wenn die Fehlermeldung die Zeichenfolge „Socket read operation has timed out after 30,000milliseconds“ enthält, ist eine mögliche Ursache, dass ein falscher Typ von verknüpftem Dienst für den SFTP-Server verwendet wird. Beispielsweise wird mit einem verknüpften FTP-Dienst versucht, eine Verbindung mit dem SFTP-Server herzustellen.

  • Empfehlung: Überprüfen Sie den Port des Zielservers. Standardmäßig verwendet SFTP Port22.

  • Ursache: Wenn die Fehlermeldung die Zeichenfolge „Server response does not contain SSH protocol identification“ enthält, ist eine mögliche Ursache, dass der SFTP-Server die Verbindung gedrosselt hat. Es werden mehrere Verbindungen erstellt, um parallele Downloads vom SFTP-Server durchführen zu können. Manchmal tritt dabei eine SFTP-Serverdrosselung auf. Normalerweise geben verschiedene Server unterschiedliche Fehler zurück, wenn Drosselung auftritt.

  • Empfehlung:

    Geben Sie die maximale Anzahl gleichzeitiger Verbindungen des SFTP-Datasets als 1 an, und führen Sie die Kopieraktivität dann erneut aus. Wenn die Aktivität erfolgreich ist, können Sie sicher sein, dass Drosselung die Ursache ist.

    Wenn Sie den niedrigen Durchsatz steigern möchten, wenden Sie sich an den SFTP-Administrator, damit dieser die Anzahl gleichzeitiger Verbindungen erhöht, oder führen Sie eine der folgenden Aktionen aus:

    • Fügen Sie bei Verwendung der selbstgehosteten IR der Positivliste die IP-Adresse des selbstgehosteten IR-Computers hinzu.
    • Wenn Sie Azure IR verwenden, fügen Sie IP-Adressen von Azure Integration Runtime hinzu. Wenn Sie der Positivliste des SFTP-Servers keinen Bereich von IP-Adressen hinzufügen möchten, verwenden Sie stattdessen die selbstgehostete IR.

Fehlercode: SftpPermissionDenied

  • Meldung: Permission denied to access '%path;'

  • Ursache: Der angegebene Benutzer hat beim Betrieb keine Lese- oder Schreibberechtigung für den Ordner oder die Datei.

  • Empfehlung: Erteilen Sie dem Benutzer die Berechtigung zum Lesen oder Schreiben in den Ordner oder die Dateien auf dem SFTP-Server.

Fehlercode: SftpAuthenticationFailure

  • Meldung: Meet authentication failure when connect to Sftp server '%server;' using '%type;' authentication type. Please make sure you are using the correct authentication type and the credential is valid. For more details, see our troubleshooting docs.

  • Ursache: Die angegebenen Anmeldeinformationen (Ihr Kennwort oder Ihr privater Schlüssel) sind ungültig.

  • Empfehlung: Überprüfen Sie Ihre Anmeldeinformationen.

  • Ursache: Der angegebene Authentifizierungstyp ist nicht zulässig oder reicht nicht aus, um die Authentifizierung auf Ihrem SFTP-Server abzuschließen.

  • Empfehlung: Verwenden Sie die folgenden Optionen, um den richtigen Authentifizierungstyp zu verwenden:

    • Wenn Ihr Server ein Kennwort erfordert, verwenden Sie „Standard“.
    • Wenn Ihr Server einen privaten Schlüssel erfordert, verwenden Sie „Authentifizierung mit öffentlichem SSH-Schlüssel“.
    • Wenn Ihr Server sowohl ein Kennwort als auch einen privaten Schlüssel erfordert, verwenden Sie „Mehrstufige Authentifizierung“.
  • Ursache: Ihr SFTP-Server erfordert eine Tastaturinteraktion für die Authentifizierung, aber Sie haben „Kennwort“ angegeben.

  • Empfehlung:

    Die Tastaturinteraktion (keyboard-interactive) ist eine spezielle Authentifizierungsmethode, die sich von der Methode „Kennwort“ unterscheidet. Dies bedeutet, dass Sie bei der Anmeldung bei einem Server das Kennwort manuell eingeben müssen und nicht das zuvor gespeicherte Kennwort verwenden können. Azure Data Factory (ADF) ist jedoch ein Dienst für geplante Datenübertragungen, bei dem kein Popupeingabefeld geöffnet wird, in das Sie das Kennwort zur Laufzeit eingeben können.

    Eine mögliche Problemumgehung ist, die Eingabe im Hintergrund zu simulieren, sodass keine tatsächliche manuelle Eingabe erfolgt. Dies entspricht dem Ändern der Methode mit Tastaturinteraktion in die Kennwortmethode. Wenn dieses Sicherheitsrisiko für Sie akzeptabel ist, befolgen Sie die folgenden Schritte:

    1. Zeigen Sie im ADF-Portal auf den verknüpften SFTP-Dienst, und öffnen Sie die zugehörigen Nutzdaten über die Codeschaltfläche.
    2. Fügen Sie "allowKeyboardInteractiveAuth": true im Abschnitt „typeProperties“ hinzu.

Es kann keine Verbindung mit SFTP hergestellt werden, weil von SFTP bereitgestellte Schlüsselaustauschalgorithmen in ADF nicht unterstützt werden.

  • Symptome: Sie können keine Verbindung mit SFTP über ADF herstellen und erhalten die folgende Fehlermeldung: Failed to negotiate key exchange algorithm.

  • Ursache: Die vom SFTP-Server bereitgestellten Schlüsselaustauschalgorithmen werden in ADF nicht unterstützt. Die von ADF unterstützten Schlüsselaustauschalgorithmen sind:

    • curve25519-sha256
    • curve25519-sha256@libssh.org
    • ecdh-sha2-nistp256
    • ecdh-sha2-nistp384
    • ecdh-sha2-nistp521
    • diffie-hellman-group-exchange-sha256
    • diffie-hellman-group-exchange-sha1
    • diffie-hellman-group16-sha512
    • diffie-hellman-group14-sha256
    • diffie-hellman-group14-sha1
    • diffie-hellman-group1-sha1

    Die neueste Version, die weitere Schlüsselaustauschalgorithmen auf einer selbstgehosteten IR unterstützen soll, ist Version 5.19.

Error Code: SftpInvalidHostKeyFingerprint

  • Meldung: Host key finger-print validation failed. Expected fingerprint is '<value in linked service>', real finger-print is '<server real value>'

  • Ursache: Azure Data Factory unterstützt jetzt sicherere Hostschlüsselalgorithmen im SFTP-Connector. Für die neu hinzugefügten Algorithmen muss der entsprechende Fingerabdruck auf dem SFTP-Server abgerufen werden.

    Folgende Algorithmen werden neu unterstützt:

    • ssh-ed25519
    • ecdsa-sha2-nistp256
    • ecdsa-sha2-nistp384
    • ecdsa-sha2-nistp521
  • Empfehlung: Rufen Sie einen gültigen Fingerabdruck mithilfe des Hostschlüsselnamens in real finger-print aus der Fehlermeldung im SFTP-Server ab. Sie können den Befehl ausführen, um den Fingerabdruck auf Ihrem SFTP-Server abzurufen. Führen Sie beispielsweise ssh-keygen -E md5 -lf <keyFilePath> auf dem Linux-Server aus, um den Fingerabdruck abzurufen. Der Befehl kann zwischen verschiedenen Servertypen variieren.

Fehlercode: UnsupportedCompressionTypeWhenDisableChunking

  • Meldung: "Disable chunking" is not compatible with "ZipDeflate" decompression.

  • Ursache: Das Deaktivieren der Blockerstellung ist nicht mit der ZipDeflate-Dekomprimierung kompatibel.

  • Empfehlung: Laden Sie die Binärdaten in einen Stagingbereich (z.B. Azure Blob Storage), und dekomprimieren Sie sie in einer anderen Kopieraktivität.

HTTP

Fehlercode: HttpFileFailedToRead

  • Meldung: Failed to read data from http server. Check the error from http server:%message;

  • Ursache: Dieser Fehler tritt auf, wenn eine Data Factory- oder Synapse-Pipeline mit dem HTTP-Server kommuniziert, beim HTTP-Anforderungsvorgang jedoch ein Fehler auftritt.

  • Empfehlung: Überprüfen Sie den HTTP-Statuscode in der Fehlermeldung, und beheben Sie das Remoteserverproblem.

Fehlercode: HttpSourceUnsupportedStatusCode

  • Meldung: Http source doesn't support HTTP Status Code '%code;'.

  • Ursache: Dieser Fehler tritt auf, wenn Azure Data Factory eine HTTP-Quelle anfordert, aber einen unerwarteten Statuscode erhält.

  • Empfehlung: Weitere Informationen zum HTTP-Statuscode finden Sie in diesem Dokument.

Zugehöriger Inhalt

Weitere Informationen zur Problembehandlung finden Sie in diesen Ressourcen:

As a seasoned expert in Azure Data Factory and Azure Synapse Analytics, I bring years of hands-on experience and in-depth knowledge of the intricacies involved in data integration, analytics, and troubleshooting. My expertise extends from understanding the core concepts of these platforms to effectively addressing common challenges that users might encounter.

In the provided article, dated April 10, 2023, the focus is on addressing common issues related to FTP, SFTP, and HTTP connectors in Azure Data Factory and Azure Synapse Analytics. Let's break down the concepts discussed in the article:

  1. Microsoft Fabric and Data Factory Integration:

    • Microsoft Fabric is highlighted as an all-in-one analytics solution for businesses, covering tasks from data movement to Data Science, real-time analytics, Business Intelligence, and reporting.
    • A call to action encourages readers to explore Data Factory in Microsoft Fabric with a free trial.
  2. FTP Connector Issues:

    • Error codes and messages related to FTP connection issues are discussed, such as FtpFailedToConnectToFtpServer and FtpFailedToReadFtpData.
    • Causes and recommendations are provided, including checking the server information, verifying the port (FTP uses Port 21), and reviewing firewall settings.
  3. SFTP Connector Issues:

    • Error codes like SftpOperationFail and SftpInvalidSftpCredential are covered.
    • Causes range from SFTP operation problems to invalid SFTP credentials, and recommendations involve detailed error checking and adjusting configuration settings.
  4. Handling Private SSH Keys in SFTP:

    • Recommendations are given for handling private SSH keys, including encoding the key content in base64 format and storing it in the Key Vault.
    • Code examples in C# and Python are provided for generating the base64-encoded string.
  5. SFTP Copy Activity Errors:

    • Various error codes and messages related to SFTP copy activities, such as UserErrorInvalidColumnMappingColumnNotFound and SftpFailedToConnectToSftpServer, are discussed.
    • Causes and solutions for each error are outlined, covering issues like missing columns in the source data and connection problems with the SFTP server.
  6. SFTP Authentication and Permission Issues:

    • Detailed explanations and recommendations are provided for SFTP authentication failures, permission denials, and invalid authentication types.
    • Readers are guided on checking credentials, using the right authentication type, and resolving permission issues.
  7. SFTP Key Exchange Algorithm and Host Key Fingerprint:

    • Issues related to key exchange algorithms and host key fingerprints are addressed, including negotiating key exchange algorithms and validating host key fingerprints.
    • A recommendation involves obtaining valid fingerprints using commands like ssh-keygen.
  8. Unsupported Compression Types and HTTP Connector Issues:

    • An error related to disabling chunking not being compatible with ZipDeflate decompression is discussed.
    • HTTP connector issues, such as HttpFileFailedToRead and HttpSourceUnsupportedStatusCode, are covered, along with recommendations for troubleshooting.
  9. Additional Resources for Troubleshooting:

    • Readers are directed to additional resources for troubleshooting, including a troubleshooting guide for connectors, the Data Factory blog, functional requests for Data Factory, Azure videos, Stack Overflow forums, and Twitter for Data Factory updates.

In conclusion, this article serves as a comprehensive guide for Azure Data Factory and Azure Synapse Analytics users, providing valuable insights into troubleshooting common issues with FTP, SFTP, and HTTP connectors. The recommendations and code snippets demonstrate a deep understanding of the intricacies involved in managing and optimizing data integration workflows on these platforms.

Problembehandlung für FTP-, SFTP- und HTTP-Connectors - Azure Data Factory & Azure Synapse (2024)

References

Top Articles
Latest Posts
Article information

Author: Foster Heidenreich CPA

Last Updated:

Views: 6174

Rating: 4.6 / 5 (56 voted)

Reviews: 95% of readers found this page helpful

Author information

Name: Foster Heidenreich CPA

Birthday: 1995-01-14

Address: 55021 Usha Garden, North Larisa, DE 19209

Phone: +6812240846623

Job: Corporate Healthcare Strategist

Hobby: Singing, Listening to music, Rafting, LARPing, Gardening, Quilting, Rappelling

Introduction: My name is Foster Heidenreich CPA, I am a delightful, quaint, glorious, quaint, faithful, enchanting, fine person who loves writing and wants to share my knowledge and understanding with you.