AI 인프라의 전반적인 이해

일상 생활에서 인공지능(AI)이 점점 더 많이 사용되면서 효과적이고 효율적인 워크플로우를 지원하는 구조의 중요성이 부각되고 있습니다. 인공지능 인프라(AI 인프라)가 필요한 것은 바로 이 때문입니다. 

잘 설계된 인프라는 데이터 사이언티스트와 개발자가 데이터에 액세스하고 머신 러닝 알고리즘을 배포하며 하드웨어의 컴퓨팅 리소스를 관리하는 데 도움이 됩니다.

AI 인프라는 안정적이고 확장 가능한 데이터 솔루션을 개발 및 배포하기 위해 인공지능과 머신 러닝(AI/ML) 기술을 결합합니다. 이 기술은 머신 러닝을 지원하여 머신이 인간처럼 사고할 수 있게 해줍니다.

머신 러닝이란 명시적으로 프로그래밍하지 않고도 패턴을 찾고, 예측하고, 경험을 통해 학습하도록 컴퓨터를 훈련하는 기술입니다. 머신 러닝은 생성형 AI에 적용이 가능하며, 대량의 데이터를 분석하고 해석하는 머신 러닝 기술인 딥러닝을 통해 구현할 수 있습니다.

AI 인프라 기술 스택 

기술 스택은 소프트웨어 애플리케이션을 빌드하고 배포하는 데 사용하는 기술, 프레임워크 및 툴의 집합입니다. 시각적으로 이러한 기술은 하나씩 '쌓여' 애플리케이션을 빌드합니다. AI 인프라 기술 스택은 3가지 필수 계층을 통해 애플리케이션의 개발과 배포를 가속화할 수 있습니다. 

애플리케이션 계층을 통해 사람과 머신은 특정 모델을 사용하는 엔드 투 엔드 애플리케이션이나 최종 사용자 대상 비특정 애플리케이션과 같은 필수 워크플로우 툴을 사용하여 협업할 수 있습니다. 최종 사용자 대상 애플리케이션은 주로 오픈소스 AI 프레임워크를 통해 빌드되어 사용자 정의가 가능하고 특정 비즈니스 요구 사항을 충족하도록 맞춤화할 수 있는 모델을 생성합니다. 

이 모델 계층은 AI 제품의 기반이 되는 체크포인트로 구성되며 배포용 호스팅 솔루션을 필요로 합니다. 이 계층에는 기반을 제공하는 다음 3가지 모델이 있습니다.
일반 AI: 인간과 같은 사고와 의사 결정 프로세스를 복제하는 인공지능입니다. 예를 들면 OpenAI의 ChatGPT나 DALL-E와 같은 AI 애플리케이션입니다.
특정 AI: 아주 구체적이고 관련성 높은 데이터를 기반으로 훈련되어 더욱 정확하게 작업을 수행하는 인공지능입니다. 광고 카피와 노래 가사를 생성하는 태스크가 그러한 예입니다. 
하이퍼로컬 AI: 각 분야의 전문 지식이 탑재되어 정확성과 관련성이 최고 수준에 도달할 수 있는 인공지능입니다. 과학 논문 작성이나 인테리어 디자인 모형 생성이 이에 해당합니다.

인프라 계층은 AI 모델의 구축과 훈련에 필요한 하드웨어 및 소프트웨어 구성 요소로 구성됩니다. GPU(하드웨어), 최적화 및 배포 툴(소프트웨어)을 비롯한 전문 프로세서와 같은 구성 요소가 이 계층에 해당합니다. 클라우드 컴퓨팅 서비스도 인프라 계층에 속합니다. 

지금까지 AI 인프라와 관련된 3가지 계층을 알아봤습니다. 이제부터는 AI 모델을 빌드, 배포, 유지관리하는 데 필요한 몇 가지 구성 요소를 살펴보겠습니다. 

데이터 스토리지

데이터 스토리지란 애플리케이션, 네트워크 프로토콜, 문서, 미디어, 주소록, 사용자 기본 설정 등을 구성하는 세부 데이터인 디지털 정보를 수집하고 보관하는 것을 말합니다. 강력한 데이터 스토리지 및 관리 시스템은 AI 훈련 및 검증에 필요한 양의 데이터를 저장, 구성 및 검색하는 데 중요합니다.

데이터 관리

데이터 관리란 데이터를 수집, 저장, 사용하는 프로세스를 말하며, 데이터 관리 소프트웨어의 지원을 받는 경우가 많습니다. 보유 중인 데이터 종류, 데이터 위치, 데이터 소유자, 데이터 확인 권한을 가진 사용자, 액세스 방법 등을 데이터 관리를 통해 파악할 수 있습니다. 데이터 관리 워크플로우는 올바른 제어와 구현을 통해서 더 나은 결정을 내리는 데 필요한 분석적 인사이트를 제공합니다.

머신 러닝 프레임워크

머신 러닝(ML)은 알고리즘을 사용하여 데이터 세트 내에서 패턴을 식별하고 예측하는 인공지능(AI)의 하위 범주입니다. 머신 러닝 프레임워크는 머신 러닝 모델을 설계, 훈련 및 검증하기 위한 툴과 라이브러리를 제공합니다. 

머신 러닝 운영 

머신 러닝 운영(MLOps)은 머신 러닝(ML) 모델을 제작, 유지 관리, 모니터링하는 프로세스를 간소화하기 위한 일련의 워크플로우 사례입니다. DevOps와 GitOps 원리에서 영향을 받은 MLOps는 ML 모델을 소프트웨어 개발 프로세스에 통합하기 위해 끊임없이 진화하는 지속적인 프로세스를 구축하고자 합니다.

잘 설계된 AI 인프라는 성공적인 AI 및 머신 러닝(ML) 운영의 기반이 되어 혁신과 효율을 높입니다. 

장점

AI 인프라는 AI 운영 팀과 조직에 여러 가지 장점을 제공합니다. 그중 하나는 확장성으로, 특히 클라우드 기반 AI/ML 솔루션을 사용하여 운영 규모를 온디맨드로 늘리고 줄일 수 있습니다. 또 다른 장점은 자동화로, 반복적인 작업의 오류를 줄이고 결과물을 제공하기 위한 처리 횟수를 늘릴 수 있습니다. 

단점

여러 장점에도 불구하고 AI 인프라에는 해결해야 할 과제도 있습니다. 최대 과제 중 하나는 처리해야 할 데이터의 양과 품질입니다. AI 시스템이 학습하고 의사 결정을 내리려면 대량의 데이터가 필요하므로 기존의 데이터 스토리지 및 처리 방법으로는 AI 워크로드의 규모와 복잡성에 대응하기에는 부족할 수 있습니다. 실시간 분석과 의사 결정이 요구된다는 점도 또 하나의 큰 과제입니다. 이러한 요구 사항은 AI 인프라가 데이터를 빠르고 효율적으로 처리해야 한다는 것을 의미하며, 이는 대용량 데이터를 다룰 수 있는 적합한 솔루션을 통합하기 위해 반드시 고려해야 할 사항입니다.

애플리케이션

이러한 과제를 해결할 수 있는 애플리케이션은 여러 가지가 있습니다. Red Hat® OpenShift® 클라우드 서비스는 애플리케이션을 빠르게 빌드, 배포, 확장하는 데 도움이 됩니다. 또한 선제적인 관리와 지원으로 일관성과 보안을 강화하여 효율성을 높일 수 있습니다. Red Hat Edge를 사용하면 데이터 수집 위치에 더욱 가깝게 배포하고 실행 가능한 인사이트를 확보할 수 있습니다.

AI는 일상 생활뿐 아니라 조직에도 영향을 미치고 있습니다. 여러 분야와 산업에서 새로운 발견과 경험의 원동력이 되는 Red Hat의 오픈소스 플랫폼은 AI 모델과 애플리케이션을 빌드, 배포, 모니터링하고 비즈니스의 미래를 설계하는 데 도움이 될 수 있습니다. Red Hat OpenShift AI는 AI/ML(인공지능/머신러닝) 실험 및 모델의 전체 라이프사이클에 걸쳐 툴을 제공하고 Red Hat OpenShift Data Science를 포함하는 AI 기반 포트폴리오입니다. 또한 하이브리드 클라우드가 AI를 지원하는 가장 일반적인 인프라 역할을 하는 가운데 Red Hat OpenShift AI는 일관성, 편의성, 클라우드에서 엣지까지의 배포 옵션을 제공합니다.

Red hat OpenShift Data Science는 데이터 사이언티스트, 엔지니어, 개발자에게 프로젝트를 더욱 빠르고 효율적으로 구축, 배포, 통합할 수 있는 유연한 환경과 함께 기본 제공 보안, 오퍼레이터 라이프사이클 통합과 같은 장점을 제공합니다. 그리고 서비스로서의 Jupyter(Jupyter-as-a-service)를 연결된 TensorFlow, Pytorch, 기타 프레임워크 라이브러리와 함께 제공합니다. 또한 여러 소프트웨어 기술 파트너(Starburst, IBM, Anaconda, Intel, NVIDIA)가 이 AI 서비스에 통합되어 데이터 수집부터 모델 구축과 모델 배포 및 모니터링에 이르기까지 새로운 툴링을 모두 현대적인 클라우드 네이티브 환경에서 탐색하고 시도하기가 더욱 수월해졌습니다.

Red Hat의 AI 파트너는 Red Hat 인프라를 기반으로 AI/ML 애플리케이션 개발을 완료하고 최적화합니다. 또한 데이터 통합 및 준비, AI 모델의 개발과 훈련, 모델 제공, 새로운 데이터 기반의 추론(예측) 등 다양한 솔루션으로 AI 라이프사이클을 완료하도록 지원합니다.