Offcanvas

How To / 경력관리 / 빅데이터 | 애널리틱스 / 훈련|교육

‘데이터를 가치로 바꾼다’··· 데이터과학 ABC

2022.04.26 Thor Olavsrud  |  CIO



데이터 과학은 일반적으로 팀으로 하는 학문이다. 데이터 과학자는 대부분의 데이터 과학 팀의 핵심이지만, 데이터에서 분석으로 다시 생산 가치로 이동하려면 다양한 기술과 역할이 필요하다. 

예를 들어, 데이터 분석가는 팀에 데이터를 제시하기 전에 데이터를 조사하고 데이터 모델을 유지하기 위해 합류해야 한다. 데이터 엔지니어는 데이터 세트를 풍부하게 만들고 데이터를 회사의 나머지 사람들이 사용할 수 있도록 데이터 파이프라인을 구축해야 한다.

데이터 과학 팀 구축에 대한 더 많은 통찰력은 ‘효과적인 애널리틱스 팀을 구성하는 방법’(영문) 및 ‘성공적인 데이터 애널리틱스 팀의 비밀’(영문)을 참조한다.

목표 및 성과물
데이터 과학의 목표는 데이터에서 비즈니스 중심의 통찰력을 추출하는 수단을 구축하는 것이다. 이를 위해서는 비즈니스에서 가치와 정보가 어떻게 흘러가는지에 대한 이해와 이 이해를 활용하여 비즈니스 기회를 식별할 수 있는 능력이 필요하다. 

단발성 프로젝트와 관련될 수도 있지만, 일반적으로 더 많은 데이터 과학 팀이 유지관리 가능한 툴과 솔루션을 제공하는 데이터 파이프라인으로 전환될 수 있는 주요 데이터 자산을 식별하려고 한다. 은행이 사용하는 신용카드 사기 모니터링 솔루션이나 풍력 발전소의 풍력 터빈 배치를 최적화하는 데 사용되는 툴이 그러한 예다.

점진적으로는 팀의 최신 정보를 전달하는 발표도 중요한 성과물이다.

프로세스와 방법론 
생산 엔지니어링 팀은 예정된 일정에 따라 스프린트 사이클로 일하곤 한다. 반면 데이터 과학 이러한 사이클로 작업을 수행하기가 어려운 경우가 많다. 데이터를 수집하고 정리해야 한다.

예외가 없는 것은 아니지만 데이터 과학은 과학적 방법을 따라야 한다. 진짜 과학은 시간이 걸린다. 스스로 자신의 가설을 확인하는데 약간의 시간을 보내고, 그리고 나서 많은 시간을 자신을 반증하려고 노력한다. 

비즈니스에서는 답변에 걸리는 시간이 중요하다. 결과적으로, 데이터 과학은 최고의 답보다는 ‘충분히 좋은’ 답으로 가는 것을 의미하는 경우가 많을 수 있다. 그러나 결과가 확증 편향 또는 과적합에 사로잡힐 수 있다는 점은 위험하다.
 



데이터 과학 팀은 SQL, 파이선, R, 자바, 그리고 하이브, 우지, 텐서플로우와 같은 수많은 오픈소스 프로젝트를 비롯한 광범위한 툴을 사용한다. 이러한 툴은 데이터 추출 및 정리 그리고 데이터 주관화에서 통계 방법 또는 머신러닝을 통한 알고리즘 분석에 이르기까지 다양한 데이터 관련 작업에 사용된다. 일반적인 툴은 다음과 같다.

- 새스(SAS) 이 통계 툴은 데이터 마이닝, 통계 분석, 비즈니스 인텔리전스, 임상 시험 분석 및 시계열 분석에 널리 사용된다.

- 태블로(Tableau) : 지금은 세일즈포스의 소유인 태블로는 데이터 시각화 툴이다.

- 텐서플로우(TensorFlow) : 구글이 개발하고 아파치 라이선스 2.0으로 라이선스 된 텐서플로우는 심층 신경망의 훈련과 추론에 사용되는 머신러닝을 위한 소프트웨어 라이브러리이다.

- 데이터로봇(DataRobot) : 이 자동화 머신러닝 플랫폼은 AI 구축, 배치 및 유지보수에 사용된다.

- 빅ML : 빅ML은 데이터세트 및 모델의 단순화, 구축 및 공유에 초점을 둔 머신러닝 플랫폼이다. 

- 나임(Knime) : 나임은 오픈소스 데이터 애널리틱스, 리포팅 및 통합 플랫폼이다. 

- 아파치 스파크(Apache Spark) : 이 통합 애널리틱스 엔진은 대규모 데이터 처리를 위해 설계되었으며 데이터 정리, 변환, 모델 구축 및 평가를 지원한다.

- 래피드마이너(RapidMiner) : 이 데이터 과학 플랫폼은 데이터 준비, 머신러닝 및 예측 모델 구축을 지원함으로써 팀을 지원하도록 설계되었다.

- 매트플롯라이브러리(Matplotlib) : 이 파이선용 오픈 소스 플로팅 라이브러리는 정적이고 애니메이션화되고 대화형인 시각화를 만드는 툴을 제공한다. 

- 엑셀 : 마이크로소프트의 스프레드시트 소프트웨어는 아마도 가장 널리 사용되는 BI 툴일 것이다. 또한 보다 소규모 데이터셋을 가지고 일하는 데이터 과학자에게도 유용하다.

- js : 이 자바스크립트 라이브러리는 웹 브라우저에서 대화형 시각화를 만드는 데 사용된다. 

- 지지플롯(ggplot)2 : 이 R용 고급 데이터 시각화 패키지는 데이터 과학자가 분석된 데이터에서 시각화를 만들 수 있게 해준다.

- 주피터(Jupyter) : 파이썬 기반의 이 오픈 소스 툴은 라이브 코드, 시각화 및 프리젠테이션 작성에 사용된다. ciokr@idg.co.kr

CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.