본문 바로가기 메뉴 바로가기

컴맹 : 진화의 시작

프로필사진
  • 글쓰기
  • 관리
  • 태그
  • 방명록
  • RSS

컴맹 : 진화의 시작

검색하기 폼
  • 전체보기.. (876)
    • readme.md (1)
    • 사설 (11)
    • 개발 (473)
      • 개인 프로젝트 (13)
      • IT 컨퍼런스 후기 (25)
      • Linux (88)
      • Cloud (Alibaba) (4)
      • Cloud (AWS) (20)
      • Cloud (GCP) (48)
      • 기계학습 (13)
      • Network (18)
      • PHP (20)
      • python (32)
      • kubernetes (4)
      • docker (13)
      • IaC (10)
      • Vault (2)
      • Apache Airflow (7)
      • Java (1)
      • Node.js (7)
      • Vue.js (2)
      • DB (30)
      • GNU Build System (3)
      • 버전관리시스템 (15)
      • Shell Script (14)
      • Compile error (9)
      • 운영체제 (16)
      • CI.CD (1)
      • tools (15)
      • UML (10)
      • Link (18)
      • 길 잃은 게시물 (15)
    • 생활 (387)
      • 내 집 마련하기 (5)
      • 아빠일기 (0)
      • 주절주절 (172)
      • 리뷰 (39)
      • 외식 (20)
      • 책 (121)
      • 여행 (16)
      • 회고 (10)
      • 블로그 결산 (2)
      • 요리 (1)
      • 잡동사니 (1)
    • 비공개 (1)
      • -----아래는 비공개----- (1)
      • 코드 (0)
      • 임시 (0)
      • FS : 회사 대외비 (0)
      • Wedding : 준비 과정 (0)
      • 개인정보 (0)
  • 방명록

concurrency (1)
airflow 파라미터 튜닝

앞서 docker-compose를 통해 airflow를 심플하게 설치하는 방법에 대해서 다뤄봤습니다. 스터디, 혹은 가벼운 인프라에서 사용되는 목적이라면 기본 설치된 airflow 환경으로 충분합니다. 하지만 조금 더 묵직한 환경에서 운영이 되어야 한다면 튜닝이 필수인데요, 튜닝에 어떤 것들이 있는지 살펴보도록 하겠습니다. # concurrency, max_active_runs 아마도 튜닝의 첫 단계가 아닐까 싶습니다. airflow의 목적은 병렬로 다수의 task를 운영하는 것이기 때문에 concurrency, max_active_runs 옵션은 제일 먼저 손봐줘야 하는 부분이 될 겁니다. 각각이 나타내는 의미는 아래 그림에서 가장 잘 표현되어 있습니다. 이 이상의 설명은 존재할 수 없을 듯. 설정은 ..

개발/Apache Airflow 2021. 7. 5. 20:41
이전 1 다음
이전 다음
최근에 올라온 글
최근에 달린 댓글
글 보관함
Total
Today
Yesterday

Blog is powered by Tistory / Designed by Tistory

티스토리툴바