알고리즘

• 컴퓨터 관련 정보

algorism / algorithm(알고리듬)
가끔 알고리즘의 "알고"를 한국어의 "알다"로 아는 사람도 있다.

1 통상적인 의미

문제를 해결하기 위한 절차나 방법.

이 단어는 아랍의 수학자인 알-콰리즈미(الخوارزمي)의 이름에서 유래했다고 알려졌다. 영어로는 algorism보다는 algorithm(알고리듬)으로 훨씬 더 자주 쓰지만 한국에서는 알고리듬보다는 알고리즘의 사용 빈도가 높다.

알고리즘이라는 용어는 문제를 해결하기 위한 절차나 방법을 의미하는 단어로 넒은 범위에서 사용된다. 조금 더 정확한 의미를 따져보자면 알고리즘은 어떠한 행동을 하기 위해서 만들어진 명령어들의 유한 집합(finite set)이다.
컴퓨터 프로그램은 정교한 알고리즘들의 집합이라고 간주할 수 있다. 수학이나 컴퓨터 과학에서 말하는 알고리즘은, 보통 반복되는 문제를 풀기 위한 작은 프로시저{진행절차}를 의미한다.

2 알고리즘의 조건

알고리즘은 이하의 요건을 만족해야만 한다.

• 입력 - 알고리즘은 0 또는 그 이상의 외부에서 제공된 자료가 존재한다.
• 출력 - 알고리즘은 최소 1개 이상의 결과를 가진다.
• 명확성 - 알고리즘의 각 단계는 명확하여 애매함이 없어야 한다.
• 유한성 - 알고리즘은 단계들을 유한한 횟수로 거친 후 문제를 해결하고 종료해야 한다. 알고리즘의 한 단계 이후 m의 값은 n 보다 작으며, m!=0이면 n의 값은 다음 번 단계에서 줄어든다.
• 효과성 - 알고리즘의 모든 연산들은 사람이 종이와 연필을 이용하여 유한한 시간 안에 정확하게 수행할 수 있을 정도로 충분히 단순해야 한다.

즉, 쉽게 말하면 알고리즘은 어떠한 입력이 있다면 이 입력에 따라 명령을 명확하게 실행하고 효과적으로 입력에 따른 결과물을 도출 할 수 있다면 알고리즘으로 볼 수 있다는 의미이다. 반대로 명령에 애매함이 있다거나 유한한 시간 안에 끝나는 것이 보장되지 않은 경우를 메서드(Method)라고 한다. 예를 들어 '산에서 길을 잃었을때 계곡을 찾아서 아래로 내려간 뒤 물길을 따라 하류로 가면 된다.' 라는 문장은 메서드이다.

3 알고리즘의 표현 방법

알고리즘은 크게 3개의 표현 방법을 가진다. 첫번째는 고차원적인 언어로 인간이 이해하기 쉬운 말로 설명되어 있는 형태이며, 두번째는 구현 상세 내역이며, 마지막으로는 인간이 꽤 알아먹기 힘든 튜링 머신의 Stable Table이라고 불리는 그림이나 출력물의 형태로 나타내는 방법이 있다.

4 알고리즘의 평가

알고리즘이 위의 조건들을 모두 만족한다면 문제를 풀 수 있다고 할 수 있지만, '효과적으로' 풀어낸다고 할 수는 없다. 위에서 말한 유한한 시간이 몇 달 혹은 몇 년이 될 수도 있기 때문이다. 따라서 우리는 알고리즘을 효율성으로 평가하게 되고, 컴퓨터에서는 시간과 메모리라는 두 자원을 얼마나 소모하는지가 효율성의 중점이 된다.

• 시간 복잡도(time complexity)

알고리즘의 소요 시간을 정확히 평가할 수는 없으므로, 자료의 수 n이 증가할 때 시간이 증가하는 대략적인 패턴을 시간 복잡도라는 이름으로 나타내게 된다. 이를 O 표기법(Big O notation)으로 주로 나타낸다. 예를 들어 입력 자료의 크기 n에 대하여 O(n)의 시간복잡도를 가진 알고리즘은 대략 크기 n에 비례하는 수의 연산을 수행한다고 보면 된다.

알고리즘의 종류에 따라 시간복잡도의 평가기준도 다양하다. 일반적으로는 O(n)의 시간복잡도를 가지면 좋은 알고리즘으로 취급하며, log(n)의 지수승이 붙는 정도로 막으면(O(n log n) 등) 매우 바람직한 결과이다. O(n³) 정도만 돼도 큰 자료수에선 급격히 느려진다.
검색 알고리즘의 경우 O(1)이나 O(log(n))의 시간복잡도를 가지면 알고리즘을 선호한다.

이런 식으로 시간 복잡도가 n의 다항식 이하가 되는 알고리즘들을 다항 시간 알고리즘(polynomial time algorithm)이라고 한다. 여기까지만 보면 다항식과는 넘사벽의 증가속도를 자랑하는 O(2ⁿ) 또는 O(n!) 같은 알고리즘은 매우 막장인 것처럼 보이지만, 세상에는 이런 알고리즘밖에 방법이 없는 어려운 문제들이 수두룩하다. 이런 경우에는 정답을 포기하고 근사해를 구해주는 알고리즘을 찾게 된다. 더 자세한 이야기는 P-NP 문제 참고.

• 공간 복잡도(space complexity)

현실에서는 시간 복잡도보다 중요도는 떨어지는데, 시간이 적으면서 메모리까지 지수적으로 증가하는 경우는 없기 때문이고, 다항 시간 내에서 나타나는 메모리 문제들은 보통 알고리즘 자체보다는 알고리즘의 구현에서 발생하는 문제이기 때문이다. 다만 동적 계획법의 경우에는 메모리를 상당히 많이 필요하기 때문에 (즉, 공간복잡도가 크기 때문에) 입력 값의 범위가 넓으면 사용하지 못하는 경우가 많다. 이론적으로는 n에 대한 다항식만큼의 공간으로도 해결이 안 되는 정말 어려운 문제들 을 생각하기도 한다.

5 프로그래밍에서 사용하는 알고리즘들

• 자료구조: 정렬, 탐색, 각종 트리(tree - 최소 스패닝 트리 등)와 힙(heap)
• 알고리즘 패러다임: 백트래킹, 동적 계획법, 분할 정복법, 분기 한정법, 그리디 알고리즘
• 트리 알고리즘: DFS (Depth-First Search), BFS (Breadth-First Search)
• 그래프 알고리즘: 탐색, 다익스트라 알고리즘, 벨먼-포드 알고리즘등 최단 경로 찾기, Union Find, 네트워크 흐름(network flow) 알고리즘
• 기타 KMP 등의 문자열 매칭, Pollard's rho 등의 정수론 알고리즘, 선형합동법등의 난수발생 알고리즘, 해석기하/그래픽 알고리즘, 유전 알고리즘, 기계학습 기법 등등.
• 다른 분야에의 응용 : 알고리즘 트레이딩, 서포트 벡터 머신

더 관심있는 위키러는 정렬 알고리즘, 탐색 알고리즘 항목을 반드시 읽어보길 바란다.

6 일상 생활에 쉽게 사용하는 알고리즘들

현실적으로 쓸모있는 알고리즘은 생각외로 많다. 예를들면 파인만 알고리즘이라든지

• 미로 찾기 : 우선법이나 좌선법이 미로를 찾는 알고리즘 중 하나다.
• 루빅스 큐브 풀기 : 큐브의 해법 참고.
• 마방진 : 홀수 마방진의 경우 대각선으로 숫자를 써가면서 다 채운 다음에 상하좌우에 튀어나온 숫자들을 반대편으로 넘기면 끝난다. 뿌리깊은 나무에서 어린 세종이 이걸 스스로 찾아내는 장면이 나온다.

7 알고리즘 트레이닝 사이트

• 더블릿
• BOJ