[Data for PM] 06. 데이터 로그 설계, 데이터 QA - #1

 

이번 파트에서 다룰 내용

• 데이터 기반 프로세스를 만들기 위해 필요한 2가지
  • 지표를 보기 위해 데이터 로그 설계하는 방법
    • 데이터 로그 설계를 위한 데이터 기초 지식 - 데이터 로그 설계 프로세스
    • Foodie Express 로그 설계

• 데이터 로그 설계 후, 정상적으로 데이터가 저장되고 있는지 확인하는 데이터 QA

 

---

6-1.  데이터와 관련하여 PM들이 겪는 문제들

 

Case 1. 데이터 로그를 챙기지 못하고 배포한 경우

신규 기능을 기획・개발하여 배포하였으나, 배포 후 사용자들이 해당 기능을 얼마나 잘 사용하고 있는지 추적이 안 되는 경우이다. 

개발하는 과정에서 데이터 로그를 넣지 못해 발생하는 문제로, 핫픽스로 데이터 로그를 넣는다고 해도 핫픽스 이전의 로그는 확인이 불가능하다. 

대표님 속마음: 얘네는 이런 것도 생각 안 하고 일하나..?

 

Case 2. 데이터 로그 설계 후 개발 과정의 실수 & 오타

변경된 코드를 반영하지 못했거나, 코드 자체에 오타가 있는 경우 데이터 로그가 제대로 수집되지 않는다.

개발자들도 사람이기에 실수를 한다..

 

Case 3. 개발 리소스 부족 이슈

배포 날짜까지 시간이 촉박해 로그 설계가 반영이 안 되는 경우이다. 해야하는 걸 알면서도 리소스의 문제로 하지 못하는 암울한 순간이다.

 

 

---

 

6-2. 데이터 로그 설계란?

 

1. 기능 출시를 준비하면서 해야하는 것

데이터를 어떻게 저장해야 하는가에 대한 논의 필요

• 데이터베이스의 데이터 : 개발자들이 주도적으로 진행 (DB 설계 등)
• 앱, 웹 서비스에서의 사용자 행동 데이터 : PM, 데이터분석가 등이 진행

 

2. 로그(log)란?

컴퓨터에 접속한 기록 및 유저의 행동을 기록한 데이터를 로그라고 한다. 

로깅(logging)은 로그를 기록하는 행위를 말한다.

특정 화면에서의 이벤트 하나하나를 로깅할 수 있다

 

3. 왜 로깅을 해야 할까?

• 데이터를 남기지 않으면 나중에 확인하려고 해도 확인할 수 없기 때문에
• 유저 리뷰 등 확인 가능한 일부의 데이터만 가지고 '전체가 이럴 것이다' 추론할 수밖에 없기 때문에
• 서비스의 정확한 성과를 측정하기 위해 정의한 지표를 알기 위해 데이터 로깅이 필요
• 지표 기반으로 우리의 성과를 확인하기 위함

→ 로깅은 사내 데이터 문화 정착을 위한 첫 단추이다

 

 

4. 데이터 로그 설계 어려운 이유?

• 데이터 로그 설계에 대한 기초 지식(개발 지식 포함) 부족 - 데이터가 저장되는 방식을 모름
• 개발자분들이 알아서 해주는 줄 알았음 (개발자 입장에서도 어떤 이벤트를 실행했을 때 무엇을 저장해야 하는지를 명확히 전달해줘야 로그 설계를 할 수 있다)
• 데이터 분석에만 집중하고, 데이터 저장에 집중하지 않음 - 데이터 로그와 관련된 배포 프로세스를 모름
• 커뮤니케이션을 어떻게 해야할지에 대한 고민
• 이슈 대응시 어떻게 대응할지 가이드의 부재

 

---

 

6-3. 데이터 로그 설계를 위한 기초 지식

 

1. 데이터의 종류

• 데이터베이스 데이터 (서비스 로그)
  • 서비스가 운영되기 위해 필요한 데이터
  • 고객이 가입한 날, 어떤 물건을 구매했는지
  • 서비스에서 고객에게 보여준다면 대부분 데이터베이스에 저장하고 보여줌
  • DBMS, DB, Table
• 사용자 행동 데이터 (유저 행동 로그)
  • 서비스에서 벌어지는 유저의 활동
  • 더 좋은 제품을 만들기 위해 필요한 데이터
  • Click, View 등
  • 고객에게 보여줄 필요가 없고, 분석을 위해 활용함 (혹은 추천 엔진을 만들 때 활용)

 

2. 데이터의 Source

• 클라이언트
  • 서버에게 통신할 수 있는 기기로, 컴퓨터(웹)일수도, 스마트폰일수도 있음
  • 클라이언트가 서버에 Request(요청)을 한 후, 서버가 Request에 대한 Response를 내려줌
  • (예시) 클라이언트(웹 브라우저)가 YouTube 서버에 요청: 로그인 한 유저가 볼만한 영상 리스트를 알려주세요
    → YouTube 서버가 사용자의 시청 이력 등을 참고해 영상 리스트 전달 (Response)
    → 클라이언트는 해당 리스트를 받아와 웹 브라우저에서 보여줌
• 서버
  • 클라이언트와 통신해 정보(데이터)나 서비스(기능)를 제공하는 컴퓨터 시스템
  • 서버에서 정보를 제공하기 위해 데이터를 저장하는 데이터베이스에 접근해 데이터를 조회

 

3. 데이터의 Target (저장소)

• 데이터베이스에 저장 VS 파일에 저장
  • DB에 저장하면 SQL 쿼리로 바로 확인할 수 있음. 단, DB에 부하 존재
  • 파일로 저장하면 별도의 작업이 필요함(데이터 파이프라인 구축). 단, DB에 부하를 주지 않음
  • 사용자 행동의 경우 파일로 쌓는 경우가 많고, 별도의 데이터 저장 작업을 진행
• 데이터베이스와 데이터 웨어하우스
  • 둘 다 데이터를 저장할 때 사용되며, SQL로 쿼리를 실행할 수 있음
  • Row, Column 구조를 가짐
  • 데이터베이스는 서비스 운영을 위해 사용됨 (MySQL, Oracle, PostgreSQL이 대표적)
  • 데이터 웨어하우스는 데이터 분석(OLAP)을 위해 사용됨 (Redshift(AWS), Databricks, BigQuery(GCP), Snowflake 등)
  • 조직 규모에 따라 데이터 웨어하우스가 존재하지 않을 수 있음
  • 데이터베이스의 데이터를 데이터 웨어하우스로 옮기고, 그 외에 행동 로그, 외부 데이터를 모으는 과정을 데이터 엔지니어가 진행하며 ETL 파이프라인을 구축한다고 말함 (Extract - Transform - Load)
  • 데이터 웨어하우스가 속도가 더 빠름
• NoSQL
  • 데이터베이스 중 관계형 데이터베이스가 아닌 비관계형 데이터베이스
  • Not only SQL의 약자로 SQL만을 사용하지 않는 시스템
  • MongoDB, CouchDB
  • 엑셀 표 같이 저장하는 RDBMS와 다르게 Key & Value로 구성

{“고향”: “인천”,
 “연령대”: “30대”
 “다닌 회사” : [{“name”: “A사", “기간”: “3년”},
                     {“name”: “B사", “기간": “4년”}]

 

4. API(Application Programming Interface)

API: 정보를 주고 받을 때 사용되는 인터페이스(형식, 약속)

 

5. 배포의 자유로운 방식

• 웹 (WEP)
  • 웹페이지
  • 네이버, 구글 등 익숙한 웹 화면이 있음
  • 웹 로그 수집엔 여러 방법이 있으나, 대표적으로 Google Analytics 4를 사용해 로그 수집 및 분석을 진행함
• 앱 (APP)
  • 플레이스토어, 앱스토어 등에서 받는 어플리케이션
  • iOS, Android로 나뉘며, 네이티브라고 불리기도 함
  • 앱 로그 수집에도 여러 방법이 있는데, Firebase를 사용해 로그 수집 및 분석함 (Firebase와 GA는 점차 통합되는 추세)
• 웹뷰 (Webview)
  • 앱 안에 존재하는 웹
  • 앱에서 특정 버튼을 클릭한 후, "페이지 불러오는 중.."이라는 창이 뜨는 경우 '아 이 부분은 웹이구나'로 생각하면 됨
  • 최근 하이브리드 앱이 많아지고 있음
  • 이 영역이 웹뷰인지 애매하면 개발자에게 확인하는 것이 좋음
• 데이터 수집 도구
  • 웹: Google Analytics
  • 앱: Firebase
  • 웹 & 앱 모두 지원하는 SaaS : Product Analytics 도구
    • Amplitude
    • Mixpanel
• 배포
  • 새로운 기능, 새로운 버전을 출시하는 경우 배포를 한다고 함
  • 버그 픽스 등도 배포에 해당됨
  • 서버: 자유롭게 배포 가능
  • 웹페이지: 자유롭게 배포 가능
  • 앱: 심사 필요
    • iOS: 가이드라인을 살펴보면 보통 1~2일 소요. 단, 애플이 근무하지 않는 연말에는 더 소요됨
    • 안드로이드: 상대적으로 iOS에 비해 더 빠르게 심사되는 경우가 많음

→ 새로운 버전이 배포되면, 그 이후부터 데이터가 기록됨

 

6. 운영 환경과 개발 환경

• 개발할 때는 운영환경(Production)과 개발환경(Dev)을 나누어 개발함
• 배포 순서
  • 개발 배포 (Dev, Staging)
  • 운영 배포 (Prod)
  • 회사마다 개발/배포 프로세스에 따른 차이 존재
  • 개발 환경에 배포한 경우, 개발 환경 데이터베이스에 저장됨 (DB 분산화)
  • 데이터, 로그 확인도 개발 환경에서 확인 필요 (개발 환경에서도 로그가 잘 기록된다면 운영 환경에서도 로그가 잘 기록될 것이라는 가정)

 

7. 데이터의 타입

• 데이터를 저장할 때, 타입을 지정
• 컴퓨터에서 데이터를 저장하려면 메모리를 효율적으로 사용해야 하는데, 타입에 따 라 필요한 메모리의 양이 다름
  (한글 1글자 : 2byte, 숫자/영어 1글자 : 1byte) 
• 대표적인 데이터 타입
  • STRING : 문자열, 따옴표로 감싸서 사용. “카일”, “1”
  • INTEGER : 숫자(정수), 따옴표로 감싸지 않음. 1
  • FLOAT : 숫자(부동 소수점), 1.23
  • TIMESTAMP : 특정 기준일을 토대로 시간을 숫자로 표현한 것. 1670901502
  • DATETIME : 사람이 익숙한 날짜. 2022-12-12 12:18:34