아카이브사이트맵
© 2026 Rayon. All rights reserved.
DevDay
아티클랭킹스페이스채용
데브시스터즈 favicon데브시스터즈

PySpark 라이브러리, MinIO로 테스트 자동화!

by DD
2020-12-04
5년 전
조회수 10

PySpark 기반 데이터 분석 라이브러리 테스트를 위해 MinIO를 활용한 로컬 테스트 환경 구축

pytest의 fixture를 사용하여 S3 의존성 제거 및 테스트 격리 환경 구성

doctest를 통해 테스트 코드와 레퍼런스 문서를 통합하여 문서화 커버리지 100% 달성

S3 의존성 탈피: MinIO 기반 테스트 환경

기존 S3에 직접 접근하는 방식은 테스트 환경 구축에 어려움이 있었다. MinIO를 활용하여 로컬에서 S3 API를 모킹함으로써, S3 접근 권한 문제를 해결했다. 따라서, CI/CD 파이프라인에서 테스트를 자동화하고, 테스트 실행 속도를 향상시켰다.

pytest fixture를 활용한 테스트 격리

pytest fixture를 사용하여 테스트 간의 데이터 격리를 구현했다. MinIO 서버 fixture를 통해 각 테스트마다 독립적인 S3 환경을 제공한다. 결과적으로, 테스트 간의 상호 간섭을 방지하고, 테스트의 안정성을 확보했다.

doctest를 활용한 문서화 자동화

doctest를 통해 테스트 코드와 레퍼런스 문서를 통합하여 유지보수성을 높였다. docstring에 테스트 코드를 작성하고, Sphinx를 사용하여 레퍼런스 문서를 자동 생성한다. 따라서, 문서 업데이트에 대한 부담을 줄이고, 정확한 API 레퍼런스를 제공한다.

데이터 분석 라이브러리 개발기 (2) - 통합 테스팅과 문서화를 동시에 잡는 방법
중급
아키텍처
PySpark
MinIO
pytest
doctest
Python
Data
DevOps
원문 읽기
원문 읽기

댓글 0

첫 번째 댓글을 남겨보세요!

관련 추천 글

20년 된 파이썬(Python) 라이브러리, 리팩토링(Refactoring)으로 다시 태어나다!

랍스타즈 로고

파이썬(Python)으로 구현하는 공기 흐름 시뮬레이션

레딧 로고

MinIO, 유지보수 중단 발표... 개발자들은 어떤 선택을?

해커뉴스 로고

파이썬(Python)의 대항마? 클로저(Clojure)가 떠오르는 이유

레딧 로고

Elixir의 Oban, 파이썬(Python)으로 이식! 데이터베이스 기반 작업 큐의 새로운 가능성?

해커뉴스 로고

AI 분석 에이전트로 2주 걸리던 분석을 10분 만에!

라인 로고
데브시스터즈 favicon데브시스터즈
중급
아키텍처
PySpark
MinIO
pytest
doctest
Python
Data
DevOps

관련 추천 글

20년 된 파이썬(Python) 라이브러리, 리팩토링(Refactoring)으로 다시 태어나다!

랍스타즈 로고

파이썬(Python)으로 구현하는 공기 흐름 시뮬레이션

레딧 로고

MinIO, 유지보수 중단 발표... 개발자들은 어떤 선택을?

해커뉴스 로고