it-swarm.com.de

Wie kann ich Apache Airflow mit Slack integrieren?

könnte mir bitte jemand Schritt für Schritt erklären, wie man Apache Airflow mit dem Slack-Arbeitsbereich verbindet ... Ich habe einen Webhook für meinen Kanal erstellt und was soll ich als Nächstes tun?

Mit freundlichen Grüßen

4
Clyde Barrow
SlackAPIPostOperator(
      task_id='failure',
      token='YOUR_TOKEN',
      text=text_message,
      channel=SLACK_CHANNEL,
      username=SLACK_USER)

Die obige Methode ist die einfachste Möglichkeit, Airflow zum Senden von Nachrichten an Slack zu verwenden. 

Wenn Sie Airflow jedoch so konfigurieren möchten, dass Nachrichten bei Task-Fehlern an Slack gesendet werden, erstellen Sie eine Funktion und fügen Sie on_failure_callback zu Ihren Tasks mit dem Namen der erstellten Slack-Funktion hinzu. Ein Beispiel ist unten:

def slack_failed_task(contextDictionary, **kwargs):  
       failed_alert = SlackAPIPostOperator(
         task_id='slack_failed',
         channel="#datalabs",
         token="...",
         text = ':red_circle: DAG Failed',
         owner = '_owner',)
         return failed_alert.execute


task_with_failed_slack_alerts = PythonOperator(
    task_id='task0',
    python_callable=<file to execute>,
    on_failure_callback=slack_failed_task,
    provide_context=True,
    dag=dag)

Using SlackWebHook (Funktioniert nur für Airflow> = 1.10.0): Wenn Sie SlackWebHook verwenden möchten, verwenden Sie SlackWebhookOperator auf ähnliche Weise:

https://github.com/Apache/incubator-airflow/blob/master/airflow/contrib/operators/slack_webhook_operator.py#L25

4
kaxil

Das vollständige Beispiel mit SlackWebhookOperator Verwendung wie in @kaxil Antwort:

def slack_failed_task(task_name):
  failed_alert = SlackWebhookOperator(
    task_id='slack_failed_alert',
    http_conn_id='slack_connection',
    webhook_token=Variable.get("slackWebhookToken", default_var=""),
    message='@here DAG Failed {}'.format(task_name),
    channel='#epm-marketing-dev',
    username='Airflow_{}'.format(ENVIRONMENT_SUFFIX),
    icon_emoji=':red_circle:',
    link_names=True,
  )
  return failed_alert.execute

task_with_failed_slack_alerts = PythonOperator(
  task_id='task0',
  python_callable=<file to execute>,
  on_failure_callback=slack_failed_task,
  provide_context=True,
  dag=dag)

As @Deep Nirmal Hinweis: Stellen Sie sicher, dass in Ihren Airflow-Verbindungen slack_connection als hinzugefügt ist

Host=https://hooks.slack.com/services/
1
CTiPKA

Probieren Sie den neuen SlackWebhookOperator aus, der in der Airflow-Version> = 1.10.0 vorhanden ist

from airflow.contrib.operators.slack_webhook_operator import SlackWebhookOperator

slack_msg="Hi Wssup?"

slack_test =  SlackWebhookOperator(
    task_id='slack_test',
    http_conn_id='slack_connection',
    webhook_token='/1234/abcd',
    message=slack_msg,
    channel='#airflow_updates',
    username='airflow_'+os.environ['ENVIRONMENT'],
    icon_emoji=None,
    link_names=False,
    dag=dag)

Hinweis: Stellen Sie sicher, dass Sie slack_connection in Ihren Airflow-Verbindungen als hinzugefügt haben 

Host=https://hooks.slack.com/services/
1
Deep Nirmal