Skip to content

marsinearth/ecm-sampler

Repository files navigation

ecm-sampler

  • ECM Records에서 무료로 제공하는 sample music들을 puppeteer로 scraping하여 db로 저장 (/sync), 저장된 db를 읽어오는 (/) 백엔드 서버.

사용된 package들

todos

  1. @fastify/aws-lambda 사용
  2. 테스트 코드를 추가해서 크롤링 대상 웹사이트가 바뀌었는지 미리 감지할 수 있게 하기
  3. /sync를 크론잡으로 일주일에 한번 주기적으로 돌려서 자동으로 실행
  4. /sync 람다함수 결과를 슬랙 메세지로 연동
  5. /sync image file 크기 1000 -> 300으로 변경
  6. /sync queryParams page=n을 받아서 페이지별로 크롤링 실행하도록 설정