다른 뜻에 대해서는 아래의 문서를 참조하십시오.
1 개요
Hash function은 임의의 길이를 갖는 임의의 데이터에 대해 고정된 길이의 데이터로 매핑하는 함수를 말한다. 이러한 Hash function을 적용하여 나온 고정된 길이의 값을 Hash value 라고 한다. 이 값은 또한 Hash code, hash sum, checksum[1] 등으로도 불린다. MD5 배틀을 할 때 사용한다.
Hash Function은 보통 그리 복잡하지 않은 알고리즘으로 구현되기 때문에, 상대적으로 CPU, 메모리같은 시스템 자원을 덜 소모하는 특성이 있다. 그리고 같은 입력값에 대해서는 같은 출력값이 보장되며, 이 출력값은 가능한 고른 범위에 균일하게 분포하는 특성이 있다. 특수 목적 용으로 Hash Value를 생성하는 원본과 별도의 값을 입력받아서 같은 입력에 대해 다른 출력값을 가지게 하는 Hash function도 존재한다.
Hash function은 보통 입력값의 범위보다 출력값의 범위가 좁은 경우가 많기 때문에 입력이 다름에도 불구하고 드물게 동일한 값이 출력되는 경우도 존재한다. 자세한 원리는 비둘기 집의 원리와 생일 문제 참조. 이러한 경우를 충돌(Collision)한다고 한다. 원칙적으로 해시 함수는 이런 어쩔 수 없는 충돌을 제외하고 의도적으로 충돌을 계산해낼 수 없어야 한다. 간단한 설명은 위키백과의 충돌 저항성 부분 참조.
이러한 특성에 힘입어 여러 다양한 목적에 맞게 설계된 Hash Function이 존재하며 이들은 다음과 같은 다양한 분야에서 매우 유용하게 사용된다.
- 자료구조
- Hash Table (또는 Hash Map)
- Hash Set
- 블룸 필터(Bloom filter)
- 캐시
- 중복 레코드 검색
- 유사 레코드 검색
- 유사 부분 문자열 검색
- 기하학적 Hash
- 변조 탐지/에러 검출[2]
근래에 나오는 언어들은 기본 라이브러리에 해시 함수가 포함되어 있는 경우가 많아서 굳이 구현할 필요없이 바로바로 해시 값을 추출해서 사용할 수 있다. 다만 좀 오래된 언어들은 확장 라이브러리를 설치하거나 직접 구현하는 식으로 해결해야된다. 파이썬의 경우에도 사전에 클래스를 넣기 위해서는 해시 함수를 구현해야 하는데, 해시 함수와 함께 비교함수(cmp)도 구현해야 한다. 만약 해시 함수가 구현되어 있지 않다면 그 객체의 주소값을 해시 값으로 대체한다.
유명한 해시 알고리즘으로 Message-Digest Algorithm(MD)과 Secure Hash Algorithm(SHA) 등이 있다. 각 알고리즘은 심각한 해시 충돌 문제 등으로 인해 해시 함수를 개선하며 발표된 순서대로 MDn, SHA-n 식으로 넘버링된다. 다만 SHA-2는 예외로, SHA-256, SHA-512를 함께 SHA-2족(SHA-2 family)라고 부른다. 2014년 기준으로 최신 버전은 각각 MD6, SHA-3이나 보통은 자신이 사용하는 언어에서 제공하는 라이브러리에 포함된 기본 해시 함수[3]를 사용하는 편이다.
2 해시를 사용하는 자료구조
색인(Index)에 Hash Value를 사용하는, 빠른 검색, 빠른 삽입이 특징인 자료구조이다.
이로 인해서 정렬을 하지 않고도 빠른 검색과 삽입이 가능한 방법을 연구했고 이를 위해 사용한 것이 해시이다. 해시는 리스트를 사용하는 접근법은 동일하지만 여기에 색인 개념이 추가되어 있다. 일단 충분히 큰 공간을 할당받은 다음 해시 함수를 이용하여 고유 색인을 생성한다. 그리고 이 고유 색인과 맞는 위치에 데이터를 저장한다.
예로 설명하면 0 ~ 10000까지 데이터를 담을 수 있는 리스트를 생성하고, 나무위키란 단어에 해시 함수를 적용하여 2642란 색인이 생성되면 리스트 2642번 index에 나무위키를 저장하는 방식이다. 해시 함수는 언제나 동일한 해시 값을 리턴하기 때문에 나무위키를 입력하면 항상 2642란 색인이 나오므로 굳이 정렬하지 않고도 바로 찾을 수 있게 되는 셈. 단, 이러한 목적으로 사용하는 Hash Function 은 Hash Value 를 계산하는 비용이 기존 검색 알고리즘에 비해 훨씬 적고 뛰어나야 한다는 전제조건이 붙는다. 안 그러면 이러한 방법을 사용하는 의미가 없다.
위에서 언급한 것처럼 Hash 값이 충돌하는 경우가 발생하여 같은 색인이 만들어질 수도 있다. 예를 들어 나중에 입력된 위키위키 단어를 해시 함수에 넣었더니 2642란 색인으로 나온다면 나무위키와 동일한 색인을 가지게 되는 문제가 발생한다. 이 경우 보통 사용하는 방법은 2가지 정도인데, 하나는 리스트의 각각의 색인을 연결 리스트[4] 로 만들어서 새로 입력이 될 때마다 하나씩 넣는 방식(Sepatate Chaining)과 다음에 위치한 [5] 색인들 중 비어있는 곳에 넣는 방식(Open Addressing)등이 있다.
이렇게 충돌 해결을 한다고 해도 결과적으로 충돌로 인한 성능 저하는 막을 수 없다. 그래서 수용률이 일정량을 넘어가게 되는 경우에는 아예 리스트 자체의 크기를 키운 뒤에 재배열을 하는 방법을 사용한다. 다만, 이 과정 자체가 상당히 비용이 많이 드는 과정이라서 실시간으로 빠르게 처리해야되는 환경에서는 무리가 있을 수 있다. 이럴 때는 점진적인 테이블 확장이라고 큰 리스트를 하나 더 만들어서 적당한 타이밍에 몇개씩 몇개씩 옮기다가 다 옮기면 기존의 테이블을 없애는 방식도 있기는 하다. 다만 이 경우에는 메모리를 훨씬 더 많이 사용하게 된다.
그 외에도 자료를 기본적으로 정렬하지 않은 상태로 저장하기 때문에 정렬된 순서로 접근하는 것은 비용이 매우 많이 들며 순회를 하는 경우에도 무효한 값들이 많아 실제 데이터의 갯수만 순회하는 것보다 더 많은 비용이 들게 된다. 그리고 부하율의 임계점 적으면 50%, 많아봐야 75% 정도로 잡기 때문에 실제 데이터의 양보다 메모리를 많이 쓰게 된다.
3 보안과 해시
해시 자체는 보안분야에서도 널리 사용되는데 해시 함수의 특성이 원래의 문장을 복호화할 수 없게 뭉개버린다는 장점, 그리고 원문과 해시값 사이에 선형적 관계가 없다는 특성 때문이다. 해시 함수의 결과물은 고정된 길이의 숫자이므로, 원래의 정보는 손실된다.(예컨대 1기가바이트짜리 데이터도 SHA-1해시함수에 넣으면고작 16진수 40자리수의 해쉬값으로 변환된다.) 또한 이런 특성 때문에 하나의 원 데이터는 하나의 해시값만 가지지만, 하나의 해시값을 만들어낼 수 있는 원본데이터는 매우 많다. 그 때문에 해시 값만 가지고는 아무리 용을 써도 이미 뭉개진 원문을 복원하는 것은 불가능하다. 따라서 비밀번호와 같은 민감한 입력의 무결성을 검증할 때 사용한다. 따라서 어떤 해시 함수에서 해시 충돌이 일어나기 쉽다는 것은 보안 분야에서는 매우 민감한 문제에 해당한다. 데이터의 무결성과 직접적인 연관이 있기 때문이다.
현재까지 개발된 거의 모든 함수는 해시 충돌의 문제가 확인된 상태이다. SHA-1과 SHA-256, SHA-512는 해시 충돌의 가능성이 이론적으로 제시되었다. 2014년 기준으로 문제가 없는 해시 표준으로는 SHA-3가 유일하다. 다만 여기서 이론적으로 제시되었다는 것은 지구 전체의 연산 처리 능력을 기준으로 계산적 가능성을 따지는 것이다. 순수한 Brute Force(일일이 대입해보기)보다 몇천배 정도 적은 계산횟수로 깰 수 있으면 암호학계에서는 대체로 '깼다'고 취급한다. 그런데 예컨대 SHA-1 해시를 Brute Force로 깨려면 2^160번의 계산을 해야 하는데, 여기서 1000배 빨라졌다고 해봤자 2^150번의 계산이 필요하다. 즉 현실적인 의미로는 SHA-1이나 SHA-2족의 해시가 불안하다고 여기기에는 다소 무리가 있다.
무결성을 필요로 하는 모든 응용분야-전자서명, 전자투표, 전자상거래 등-에 사용한다.
4 해시 함수의 종류
- ↑ 의미는 살짝 다르지만 hash가 checksum과 동일한 목적으로 사용되는 경우도 많기는 하다.
- ↑ 프로그램, 특히 오픈소스 프로그램을 다운받을 때 md5sum, sha1sum, sha256sum 등으로 bacc82b32fe8b8b45c9225f129196943 과 같은 요상한 문자열을 같이 표기해 놓은 것을 볼 수 있다. 이게 이 목적으로 사용되는 Hash Value 이다.
- ↑ MD5나 SHA-1을 기반으로 구현된 사례가 많다.
- ↑ 트리를 사용하기도 한다. Java8의 HashMap은 Red-Black tree를 이용하여 Chaining 한다.
- ↑ 꼭 +1번째를 말하는 것은 아니다. 현재 색인이 2642일때 다음이 2643이 될 수도 있고 2650이 될 수도 있다. 보통은 규칙적으로 넣는 편으로 1, 2, 3, ... 처럼 +1 하는 방식인 linear probing, 1, 2(=1+1), 6(=2+4), 15(=6+9), ... 처럼 n의 제곱을 더하는 방식인 quadratic probing, 추가적인 Hash 값으로 다음 위치를 결정하는 Double Hashing 등이 있다.