비밀번호를 MD5로 저장했다가 큰일 날 뻔한 이야기 — 해시 함수 완전 정복

첫 직장 백엔드 코드에서 이걸 발견했어요. MD5(user.password). 그 코드 작성자는 이미 퇴사한 상태였고, 제가 문제를 제기했더니 돌아온 답이 '어쨌든 해시 처리는 됐잖아요?'였어요. 그날 이후 암호화 해시 함수에 대해 제대로 공부했어요. 아니요, 괜찮지 않아요. 그리고 그 이유가 생각보다 훨씬 흥미롭고 중요한 이야기예요.

이 글에서는 해시 함수가 실제로 어떻게 작동하는지, MD5가 왜 무너졌는지(타임라인 포함), SHA-256과 SHA-512가 뭐가 다른지, 솔팅이 뭔지 다뤄요. 읽고 나면 어떤 상황에서 어떤 알고리즘을 써야 하는지 바로 답할 수 있을 거예요.

해시 함수가 실제로 하는 일

해시 함수는 어떤 크기의 입력이든 — 문자 하나, 10GB 파일, 소설 전체 — 고정된 길이의 출력으로 변환해요. 출력 크기는 알고리즘마다 달라요. MD5는 항상 128비트(16진수 32자), SHA-256은 항상 256비트(16진수 64자)를 생성해요. 입력 크기와 무관하게요.

• 결정적: 같은 입력은 항상 같은 해시를 생성해요. 'hello'는 어떤 컴퓨터에서, 어떤 시간에 계산해도 동일한 해시가 나와요.
• 단방향: 해시값으로 원본 입력을 역산할 수 없어요. 되돌리는 버튼이 없어요.
• 눈사태 효과: 입력에서 문자 하나만 바꿔도 출력이 완전히 달라져요. 조금 달라지는 게 아니라 완전히 달라져요.
• 고정 길이 출력: 입력이 얼마나 길든 출력은 항상 같은 크기예요. 1바이트짜리 파일과 1GB짜리 파일의 해시 길이가 같아요.
• 충돌 저항: 같은 해시를 가진 두 개의 서로 다른 입력을 찾는 것이 계산적으로 불가능해야 해요.

알고리즘 비교: MD5, SHA-1, SHA-256, SHA-512

MD5 붕괴 타임라인 — 표준이 무기가 되기까지

MD5는 1992년 Ronald Rivest가 설계해서 10년 넘게 지배적인 해시 알고리즘이었어요. 그러다 약 8년에 걸쳐 유비쿼터스 표준에서 실제 공격 도구로 전락했어요.

SHA-256 vs SHA-512 — 뭘 써야 할까요?

SHA-256과 SHA-512는 모두 SHA-2 계열이에요. 둘 다 안전해요. 차이는 보안보다는 실용적인 측면이에요.

• SHA-256: 2026년 기본 선택이에요. 모든 곳에서 지원돼요. TLS 인증서, JWT 서명, Git 커밋 해시, 비트코인 채굴. 뭘 써야 할지 모르면 SHA-256을 쓰면 돼요.
• SHA-512: 64비트 시스템에서 더 빠를 수 있어요. SHA-512는 내부적으로 64비트 연산을 사용해서 64비트 하드웨어에서 SHA-256보다 실제로 빠른 경우가 있어요. 더 큰 보안 마진이 필요하거나 64비트 연산의 혜택을 받을 때 써요.
• SHA-3: 완전히 다른 설계예요. SHA-2가 깨지는 경우를 대비한 백업으로 설계됐어요. 2026년 신규 프로젝트에서 필수는 아니지만, 알고리즘 다양성이 필요한 고보안 시스템에 유용해요.

비밀번호 해싱 — SHA-256도 틀린 이유

많은 개발자를 놀라게 하는 사실이 있어요. SHA-256은 안전하지만 비밀번호 저장에는 잘못된 선택이에요. 문제는 속도예요. SHA-256은 빠르게 설계됐어요. 파일 무결성 검사에는 이상적이지만 비밀번호에는 최악이에요. 공격자가 초당 수십억 개의 SHA-256 해시를 테스트할 수 있거든요.

비밀번호에는 의도적으로 느린 알고리즘이 필요해요. bcrypt, scrypt, Argon2가 그것들이에요. 계산 비용이 크도록 설계됐는데, 얼마나 느릴지를 조절할 수 있어요. 로그인 체감 속도와 보안을 맞바꾸는 거예요.

• bcrypt: 클래식 선택이에요. 광범위하게 지원돼요. 72자 입력 제한이 있어요(더 긴 비밀번호는 잘려요). 이게 알려진 한계예요. 작업 인수를 조절할 수 있어요.
• scrypt: 메모리 하드니스가 추가됐어요. CPU만이 아니라 대용량 RAM도 필요해요. GPU 클러스터 공격에 더 강해요.
• Argon2: 2015년 비밀번호 해싱 경쟁 우승자예요. 현재 최선의 선택이에요. CPU 시간, 메모리, 병렬성을 조절할 수 있어요. 신규 시스템에서는 Argon2id(하이브리드 변형)를 써요.

솔팅이 하는 일 — 레인보우 테이블을 쓸모없게 만드는 것

레인보우 테이블은 일반적인 비밀번호와 그 해시를 미리 계산해놓은 조회 테이블이에요. 솔팅 없이는 데이터베이스를 탈취한 공격자가 'abc123' → MD5 해시를 조회해서 어떤 사용자가 그 비밀번호를 쓰는지 즉시 알 수 있어요. 솔팅은 해싱 전에 각 비밀번호에 무작위 데이터를 추가해서 이걸 막아요.

현대 비밀번호 해싱 알고리즘(bcrypt, Argon2)은 솔트를 자동으로 생성하고 저장해요. 출력 문자열 안에 솔트가 포함돼요. 이 라이브러리들을 사용할 때는 솔트를 직접 관리할 필요가 없어요.

실무에서 해시 함수를 쓰는 경우들

• 파일 무결성 검증: 파일을 다운로드하고 SHA-256 해시를 게시된 체크섬과 비교해요. 일치하면 전송 중에 변조되지 않은 거예요. Linux ISO와 주요 소프트웨어 패키지들이 SHA-256 체크섬을 일상적으로 게시해요.
• 비밀번호 저장: Argon2id로 해시해서 저장해요(절대 평문 저장 금지). 데이터베이스가 탈취되더라도 공격자가 해시를 역산해서 비밀번호를 얻을 수 없어요.
• 디지털 서명: 문서를 SHA-256으로 해시하고 개인키로 그 해시를 암호화해서 서명해요. 수신자도 문서를 해시하고, 서명을 복호화해서 비교해요.
• 콘텐츠 주소 지정: Git, IPFS, 콘텐츠 전송 네트워크 같은 시스템들이 해시를 통해 위치가 아닌 내용으로 콘텐츠를 식별해요. 해시가 같으면 내용이 동일해요.
• 데이터 중복 제거: 파일의 전체 내용을 비교하지 않고 해시로 중복을 찾아요. SHA-256 해시가 같은 두 파일은 동일한 파일이에요.
• 메시지 인증(HMAC): 해시와 비밀 키를 결합해서 내용 무결성과 진위 모두를 검증해요. JWT 토큰, API 인증, 웹훅 서명에 사용돼요.