AI의 이해

생성형 AI는 딥러닝 모델을 사용하여 새 콘텐츠를 생성합니다.

머신 러닝(ML)은 패턴을 찾고 예측하도록 컴퓨터를 훈련합니다.

딥러닝은 인간 두뇌에서 영감을 받은 알고리즘을 사용하여 데이터를 처리합니다.

파운데이션 모델이란 다양한 태스크를 수행할 수 있도록 사전에 학습된 ML 모델 유형을 말합니다.

대규모 언어 모델(LLM)은 인간 언어를 이해하고 생성합니다.

AI 인프라는 데이터 사이언티스트와 개발자의 효율적인 작업을 돕습니다.

MLOps는 ML 모델을 소프트웨어 개발 프로세스에 통합합니다.

AIOps는 AI를 사용하여 다양한 IT 운영 프로세스와 태스크를 강화하거나 부분적으로 교체합니다.

여러 산업에서 AI/ML을 다양하게 응용하여 혜택을 누리고 있습니다.

AI는 보건 의료 시장 전반에서 생명 과학, 의료 기관, 납부 기관에 적용될 수 있습니다.

서비스 제공업체는 AI를 사용하여 네트워크 복잡성, 운영 비효율성, 시장 경쟁을 극복합니다.

AI는 뱅킹 산업의 고객 서비스와 운영 효율성을 개선할 수 있습니다.

엣지 AI는 기기의 더 빠르고 스마트한 의사 결정을 지원합니다.

LLMOps로 대규모 언어 모델의 라이프사이클을 관리하고 자동화합니다.

AI 플랫폼은 머신 러닝 모델을 개발하고, 학습시키고, 실행하기 위한 기술 컬렉션입니다.

InstructLab은 프라이빗 데이터로 LLM을 커스터마이징하는 프로세스를 간소화합니다.

검색 증강 생성(Retrieval-augmented Generation, RAG)은 외부 리소스를 LLM에 연결하여 출력의 정확성을 향상합니다.

지능형 애플리케이션은 AI를 사용하여 인간의 워크플로우를 강화합니다.

미세 조정(fine-tuning)과 RAG는 모두 LLM을 향상하는 것을 목표로 하지만 서로 다른 방법을 사용합니다. RAG에서는 모델을 수정하지 않는 반면, 미세 조정(fine-tuning)에서는 매개 변수를 조정해야 합니다.

Granite는 IBM이 언어, 코드와 같은 생성 AI 활용 사례를 지원하는 엔터프라이즈 애플리케이션용으로 만든 대규모 언어 모델(LLM) 시리즈입니다.

에이전틱 AI는 인간 개입을 최소화하는 방식으로 데이터 및 툴과 상호작용하도록 설계된 소프트웨어 시스템입니다.

예측 AI와 생성 AI를 비교해 보고 무엇이 AI 활용 사례에 가장 적합한지 알아보세요.

LLM과 소규모 언어 모델(Small Language Model, SLM)은 모두 프로그래밍 언어를 비롯해 인간 언어를 해석하도록 학습한 AI 시스템의 유형입니다.

AI 추론은 AI 모델이 데이터를 기반으로 답변을 제공하는 것을 말합니다.

vLLM은 오픈소스 코드 라이브러리로서 대규모 언어 모델(Large Language Model, LLM)이 계산을 더욱 효율적이고 대규모로 수행할 수 있도록 돕습니다.

LoRA와 QLoRA는 둘 다 LLM을 더욱 효율적으로 미세 조정하는 데 도움이 되지만, 원하는 결과에 도달하기 위해 모델을 조작하고 스토리지를 사용하는 방식은 서로 다릅니다.

PEFT는 리소스 절약을 위해 LLM 내에서 일부 매개 변수만 미세 조정하는 일련의 기술입니다.

기업의 AI는 규모가 커지면 자체적인 어려움과 이점을 동반합니다.

MaaS는 AI 모델을 공유 리소스로 제공하여 조직 내 사용자가 온디맨드로 모델에 액세스할 수 있도록 하는 접근 방식입니다.

각 기술의 작동 방식과 고유한 강점, 더욱 스마트한 솔루션을 위해 협업하는 방법을 알아보세요.

AI 보안은 워크로드를 약화시키고 데이터를 조작하는 악의적인 공격으로부터 AI 애플리케이션을 보호합니다.

모델 컨텍스트 프로토콜(MCP)는 AI 애플리케이션과 외부 서비스 간 양방향 연결 및 표준화된 통신을 지원하는 오픈소스 프로토콜입니다.

llm-d는 규모에 따라 LLM 추론 속도를 높이는 오픈소스 프레임워크입니다.

분산 추론은 추론 작업을 상호 연결된 일련의 기기에 분배하여 AI 모델이 더 효율적으로 워크로드를 처리할 수 있도록 하는 것을 말합니다.

LinkedIn, Roblox, Amazon이 vLLM을 사용하여 AI 추론을 가속화하는 방법을 알아보세요.

설명 가능한 AI(XAI)는 사람이 더 잘 이해할 수 있고 투명한 AI 출력을 만들려는 목적으로 머신 러닝(ML) 라이프사이클 중에 적용되는 일련의 기술입니다.

대규모 언어 모델(LLM)을 AI 애플리케이션에 통합할 때 vLLM은 고성능 프로덕션에 적합하며, Ollama는 로컬 개발에 적합합니다.