기본 콘텐츠로 건너뛰기

데이터 처리 기술 이해 개요 (ADP)

데이터 처리 기술 이해

1. 데이터 처리 프로세스

(1) 데이터 추출·변환·전송 (ETL : Extraction, Transformation and Load)

  1. 추출 (Extraction)
  2. 변환 (Transformation)
  3. 전송 (Load)

(2) 운영 데이터 저장소 (ODS : Operational Data Store)

    (3) 메타 데이터 (Meta Data)

    (4) 변경 데이터 이력관리 (CDC : Change Data Capture)

    1. Time Stamp on Rows
    2. Version Numbers on Rows
    3. Use in Optimistic Locking
    4. Status indicators on rows
    5. Time/Version/Status on rows
    6. Triggers on tables
    7. Event Programming
    8. Log scanners on Databases

    (5) 기업 애플리케이션 통합 (EAI : Enterprise Application Integration)

    1. EAI 기본요소
    2. EAI 기능
    3. EAI 구현 (Herb & Spoke 형 데이터 연대)
    4. EAI 기대효과

    (6) 데이터 연게 및 통합기법

    (7) 데이터 분류

    1. 수집 데이터의 형태에 따른 분류
    2. 수집 데이터의 위치에 따른 분류

    2. 데이터 처리 기술

    (1) 분산 데이터 저장 기술

    1. 분산 파일 시스템
    2. 구글 파일 시스템 (GFS : Google File System)
    3. 하둡 분산 파일 시스템

    (2) 데이터베이스 클러스터

    1. 분산 데이터베이스
    2. NoSQL

    (3) 분산 컴퓨팅 기술

    1. 하둡(Hadoop)의 탄생
    2. 맵리듀스(MapReduce)
    3. 하둡 에코시스템

    (4) 클라우드 컴퓨팅 기술

    1. 클라우드 컴퓨팅의 형태
    2. 클라우드 컴퓨팅 주요 기술


    댓글

    이 블로그의 인기 게시물

    블록체인 거래소 모니터링시스템 구축이야기(2/?) - 서버 아키텍처

      코인 거래소 모니터링시스템 구축이야기(2/?) 코인 거래소 모니터링 시스템 구축 (가칭 : 김프멈춰) 서버 구성 사용자가 확인할 서비스 페이지, 데이터 저장소에 대한 서버는 NAS 서버로 운영 일일 Data 크롤링 서버는 Cloud 서버 이용하여 운영 - 서비스페이지 및 데이터 저장소 (Nas 서버) : Docker container ubuntu 20.04 - 일일 크롤링 서버 (Cloud at Cost Cloud 서버) : CentOS 7 서버 아키텍처 서버 아키텍처 레퍼런스 빗썸 : https://apidocs.bithumb.com/ 업비트 : https://docs.upbit.com/ 홍콩 Bitfinex : https://docs.bitfinex.com/docs 몽고 DB 설치 : https://coterie.tistory.com/20 1. 개요 :  https://limdh3325.blogspot.com/2021/04/1.html 2. 서버 아키텍처 :  https://limdh3325.blogspot.com/2021/04/2.html 3. MongoDB 설치 :  https://limdh3325.blogspot.com/2021/04/3.html 4. 데이터 모델링 :  https://limdh3325.blogspot.com/2021/05/4.html 5. MongoDB 저장 :  https://limdh3325.blogspot.com/2021/06/5.html