융합형 클라우드 타고
진화하는 AI

AI의 비약적인 발전에는 여러 요소들이 뒷받침됐다. 먼저 GPU 기반의 고사양 컴퓨터가 등장하면서 더욱 빠르고 심층적인 딥러닝이 가능해졌다. 두 번째 배경으로 인터넷의 발전을 들 수 있다. 인터넷을 기반으로 무한한 데이터를 찾아낼 수 있게 된 것이다. 마지막은 클라우드 플랫폼 서비스의 확대다. 과거와 달리 지금은 컴퓨터 서버를 대신해 클라우드 플랫폼 서비스 활용이 일반화되고 있다. 이를 통해 어떤 기업이든 쉽게 대용량 컴퓨팅 서비스를 받을 수 있게 됐다.

다양한 딥러닝 알고리즘이 현실화되고 2010년대 들어 꽃피우기 시작할 수 있었던 가장 큰 배경은 컴퓨터와 CPU, GPU의 발전 덕분이다. 필자가 뉴럴 네트워크를 연구하던 1990년대에도 다양한 형태의 신경망 구조와 알고리즘에 대한 아이디어가 많았다. 그러나 이를 뒷받침해 줄 컴퓨터 인프라가 없었다.

GPU 고사양 컴퓨터, 딥러닝의 일등공신

1993년 필자가 다니던 텍사스 에이앤엠 주립대학에는 소위 슈퍼컴퓨터라 불리는 엄청나게 큰 서버가 있어서 대학원생들은 그 일부를 할당받아 프로그램을 만들고 테스트해볼 수 있었다. 당시 연구하던 코르크 마개 경우 1천 개 정도의 마개 이미지를 1층 구조의 MLP 신경망에 넣고 5만 번 정도 반복학습을 시키고자 하면, 한 번 학습하는 데 3일가량 소요됐다.

당시 GPU라는 개념은 있었으나 본격적으로 컴퓨터에 적용되지는 않았다. 대신 컴퓨터 연산용 CPU를 병렬로 여러 개 연결한 뒤 한 번에 돌려 프로그램 운영 속도를 높이는 분산 컴퓨팅(Distributing Computing) 연구가 한창이었다. 현재 GPU 방식 연산의 전신이라고 할 수 있는데 단순히 CPU를 병렬로 쌓아 놓고 돌리는 개념으로, 지금처럼 연산자와 메모리를 2차원적으로 하나의 모듈로 묶어 데이터 및 연산처리를 한 번에 진행하는 구조는 아니었다.

지금 생각해보면 내가 뉴럴 네트워크를 연구하던 당시에는 큰 인내심이 필요했던 것 같다. 원하는 데...기사전문보기