Category: AI 트렌드 & 인사이트

생성형 AI vs. AGI(범용 인공지능) 차이점 10가지

(참조 자료: Generative AI vs. AGI (Artificial General Intelligence) [10 Key Differences][2025])

현재의 생성형 AI와 미래의 범용 인공지능(AGI)의 개념을 둘러싼 논쟁이 그 어느 때보다 뜨거워지고 있습니다. 제품 개발팀, 규제 당국, 투자자들이 이 둘을 종종 같은 개념으로 다루기 때문입니다.

본 게시물은 역량 범위, 추론 깊이, 자원 소모, 안전성 위험에 이르기까지, 열 가지의 측정 가능한 기준들을 정리하려고 합니다. 또한 구체적인 통계에 근거해 차이를 설명합니다. 예를 들어, 생성형 모델은 45TB 규모의 텍스트 데이터로 훈련되지만, AGI 연구자들은 20와트 에너지 예산에 맞춘 설계를 목표로 한다는 사실입니다. 이를 통해 현재의 시스템이 화려하면서도 한정된 가치를 제공한다는 점과 동시에, 훨씬 더 변혁적인 패러다임이 다가오고 있다는 점을 보여줍니다.

이 글을 통해 인공지능 관련 여러 발표 내용들을 평가하고, 기술 파트너를 선택하며, 급속히 진화하는 환경 속에서 패턴 인식 기반 도구에서 잠재적으로 자율적인 인지 행위자로의 전환에 대비한 인력 전략을 세우는 데 필요한 틀을 얻게 될 것입니다.

주요 차이점: 생성형 AI vs. AGI(범용 인공지능)

항목(Parameter)	생성형 AI(Generative AI)	AGI(범용 인공지능)
역량 범위(Capability Breadth)	45TB 책/웹 데이터(4%)로 학습, 특정 분야에만 능함	평생 경험·감각 기반 학습, 인간이 하는 모든 일 목표
추론 깊이(Reasoning Depth)	시험 문제 78점, 복잡한 논리 추론은 자주 실수	다양한 문제에서 95점 목표, 논리+직관+맥락 모두 이해
학습 자율성(Learning Autonomy)	주마다 파인 튜닝(개선), 2주마다 사람 손으로 업데이트	매 순간 스스로 계속 배우고 고침, 사람 라벨링 없이 독립적
데이터 의존성(Data Dependence)	미리 준비된 1.7조 토큰(책 12%)만 학습, 최신 정보는 반영 못함	매일 25GB의 감각·경험 데이터로 항상 최신, 직접 경험 기반
전이 능력(Transfer Ability)	처음 보는 문제 62점, 분야 바뀌면 평균 18점 하락	어떤 과목, 환경도 98% 신뢰도, 새 과제에도 거의 다 적응
자원 소모(Resource Footprint)	훈련에 집 1,100가구 1년치 전기(130만 kWh), GPU 대량 필요	인간 뇌같이 20와트 초절전 목표, 작은 기기에도 탑재 가능
안전성 위험(Safety Risks)	위험 답변 비율 1.2%(규정 위반), 사람+필터로 방어	시스템이 목표를 사람과 다르게 잡아버릴 위험(존재론적 위험 6%)
인간 감독(Human Oversight)	민감 질문 중 72%는 사람 검수자(모더레이터)가 직접 확인	독립 위원회가 AGI 배포 관리, 100% 긴급 셧다운 권한 보유
경제적 영향(Economic Impact)	작가 생산성 +37%, 미국 GDP 40억$ 증가, 일자리 구조 변화	지식노동 85% 자동화, 최대 3억개 일자리 대체 가능, 임금 양극화
개발 전망(Development Horizon)	3년간 기업 도입 420% 증가, 폭발적 확산 중	2035년 이전 등장 확률 50%, 실현 시 세계 경제·사회 대변혁 예고

1. 역량 범위: 특화된 생성 vs. 인간 수준의 범용 지능(다양한 도메인 전반)

현재의 생성형 AI (ex: 거대 언어 모델, 이미지 모델)

오늘날의 생성형 AI는 놀라운 능력을 보여주지만, 동시에 분명한 한계도 있습니다. AI는 학습 단계에서 약 45TB(테라바이트) 분량의 텍스트 데이터를 사용하는데요, 이는 전 세계에서 수집 가능한 웹 페이지 중 약 4% 정도에 해당합니다. 이 데이터에는 소설, 코드 저장소, 백과사전, 소셜미디어 글 등이 포함되어 있어서, 모델은 이런 자료를 바탕으로 유창한 글쓰기, 프로그램 코드 작성, 특정 스타일의 그림 생성 등을 할 수 있습니다.

하지만 문제는 나머지 96%입니다. 아직 다루지 못한 방대한 웹 자료, 도서관 속 종이책들, 동영상, 그리고 인간의 몸으로 직접 경험하는 세계는 전혀 반영되지 않습니다. 결국, 지금의 모델은 데이터 안의 패턴을 따라 하는 것에 불과합니다. 그래서 맞닥뜨린 질문이 데이터 패턴 안에 없는 경우(예: 희귀한 방언, 막 생겨난 최신 과학 이론, 현장에서의 실제 감각 경험 등)에는 그냥 그럴듯하게 추측하는 수준으로 답변하게 됩니다.

즉, “4%”라는 수치는 한편으로는 대단한 성취이지만, 동시에 근본적인 한계를 의미합니다. 아무리 많은 데이터를 넣어도, 질적으로 다른 학습 방식이 나오지 않는다면, 지금의 생성형 AI는 온전한 세계 지식을 갖출 수 없습니다.

미래의 AGI(범용 인공지능)

반대로, 연구자들이 그리는 AGI는 접근 방식 자체가 다릅니다. AGI는 단순히 텍스트 덩어리를 한 번 읽어들이는 게 아니라, 인간처럼 오랜 기간에 걸쳐 다양한 경험을 학습합니다.

• 눈으로 본 것(시각),
• 귀로 들은 것(청각),
• 손으로 만진 것(촉각),
• 몸의 움직임과 감각(고유감각, proprioception)

이런 다중 감각 정보(멀티모달 데이터)를 수십 년간 받아들이면서, 세상에 대한 입체적, 계층적 월드 모델을 만드는 것이 목표입니다.

그래서 아이들이 초등학교에서 산수를 배우고, 성인이 되어 천체물리를 이해하며, 일상에서는 신발 끈을 묶고, 또 예술적으로는 오페라를 작곡하는 것처럼, 인간이 할 수 있는 모든 인지적 과업(100%)을 아우르는 것이 비전입니다.

연구자들이 말하는 “100% 목표”는 실제 점수가 아니라 방향을 알려주는 북극성 같은 것입니다. 즉:

• 어떤 분야든 전이할 수 있고,
• 사각지대 없이 새로운 지식을 익히며,
• 스스로 새로운 학습 과정을 만들어내고,
• 탐구를 통해 직접 데이터를 얻고,
• 인간처럼 경험을 토대로 자기 생각을 고쳐나가는 존재가 되는 것.

또한 이런 능력을 제대로 쓰려면, 가정용 로봇이나 가상 아바타 같은 물리적 혹은 가상의 “몸”이 함께 필요합니다. 그래야 단순히 텍스트 속에서 연결 관계를 배우는 것이 아니라, 원인과 결과가 있는 실제 경험을 바탕으로 학습할 수 있기 때문이죠.

👉 한줄 요약:

• 생성형 AI = 데이터에서 본 패턴을 잘 흉내내는 “시험 잘 보는 학생”, 하지만 아직 모르는 문제가 나오면 헤맴.
• AGI = 인간처럼 보고, 듣고, 느끼고, 경험하며 세상 속에서 스스로 학습하는 지능. 목표는 인간이 하는 모든 일을 다 해내는 범용 능력(100%).

2. 추론 깊이: 패턴 흉내내기 vs. 진짜 인과적 이해

현재의 생성형 AI (예: 거대 언어 모델)

오늘날의 AI는 데이터 속 패턴을 잘 흉내 내는 능력은 뛰어난 편입니다.

예를 들어, 다양한 학문 과목(법, 의학, 수학 등)을 섞어 놓은 시험(MMLU)에서는 78점(78%) 정도를 받습니다. 얼핏 보면 똑똑해 보이죠.

하지만 조금만 꼬아보면 약점이 드러납니다.

• 문제를 두세 단계 추론해야 하는 형식으로 바꾸면 성적이 확 떨어집니다.
• 수학 문제 풀이 단계를 4번 이상 이어가면 40% 이상 틀립니다.
• 변수 이름만 바꿔도 정답률이 뚝 떨어져서, 마치 이해가 아니라 단순 단어 매칭처럼 보입니다.

즉, 78%라는 수치는 “AI가 패턴을 잘 따라 하는 수준”을 보여주는 것입니다. 익숙한 문제는 그럴싸하게 대답하지만, **진짜 reasoning(추론)**이 필요한 상황에서는 한계를 보입니다.

미래의 AGI (범용 인공지능)

AGI가 목표하는 수준은 지금과 완전히 다릅니다.

연구자들은 AGI가 95% 정확도로 추론할 수 있어야 한다고 봅니다. 즉, 20문제 중 19문제를 맞추는 수준이죠.

여기에는 아주 복잡한 과제들이 포함됩니다.

• 예: 화성 지형에서 로봇을 움직이고, 에너지 예산을 며칠 뒤까지 계획하면서, 동시에 시스템 고장을 진단하는 문제.

AGI는 단순히 통계적 패턴을 쌓는 게 아니라, 머릿속에 세계 모델을 만들어서 여러 상황을 가정하고, 시뮬레이션하고, 새로운 정보가 들어오면 스스로 사고를 고쳐나가는 방식을 지향하는데요,

현재의 AI는 이런 인과 문제에서 60점대에 머물러 있습니다. AGI가 되려면 남은 35점의 격차를 채워야 하고, 그러려면:

• 기억을 잘 정리(동적 기억),
• 불확실성을 계산(확실치 않은 답도 다루기),
• 스스로 오류를 고치기(자기 디버깅)

와 같은 능력이 필요합니다.

👉 한줄 요약

• 지금의 생성형 AI는 “패턴을 잘 흉내 내는 학생” 수준 → 낯선 문제에는 약함.
• AGI는 “진짜 내용을 이해하고 사고하는 인간”처럼 원인과 결과를 연결하는 추론 능력을 목표로 함.

3. 학습 자율성: 사람이 관리하는 파인 튜닝 vs. 실시간 자기 주도 학습

현재의 생성형 AI ― 사람 손에 의존한 “주간·격주 업데이트”

지금의 생성형 AI(예: 챗봇, 이미지 생성기)는 스스로 배움을 이어가는 존재가 아닙니다. 대신 정기적으로 업데이트(파인 튜닝)가 필요합니다.

• 1주일 단위: 기업들이 사용자 피드백과 새로운 데이터를 모아서 모델을 개선합니다.
• 2주 단위: 더 큰 규모의 업데이트(레드팀 검증 결과 반영, 정책 점검, 보상 모델 재학습)가 이뤄집니다.

이 과정은 시간이 걸립니다.

즉, 모델이 새로운 오류(환각/잘못된 답변)나 보안 취약점을 보여도, 엔지니어가 업데이트할 때까지 기다려야만 수정되는데요, 그 사이 며칠 동안은 허점이 열려 있는 셈이죠. 또한 업데이트 과정에는 사람이 반드시 개입합니다.

문제는 사람이 모든 위험을 다 발견하기 어렵고, 어떤 경우에는 전문가가 즉시 투입되지 못한다는 점입니다. 결국, 지금의 생성형 AI는 “주기적으로 검수받는 커다란 기계”라는 것입니다. 질이 유지되긴 하지만, 새로운 상황에 즉시 적응하지는 못합니다.

AI가 아무리 덩치를 키워도, 여전히 사람이 관리하는 틀 안에서만 움직이는 한계가 있는 거죠.

미래의 AGI ― 실시간 “매 순간 자기 학습”

AGI가 목표하는 모습은 완전히 다릅니다.

매 밀리초(천분의 1초) 단위로 자기 학습을 이어가는 존재를 그리고 있죠.

• 인간처럼 비오는 소리, 로봇 손가락에 전해지는 압력, 혹은 처음 듣는 새로운 말까지도 곧바로 배움의 재료로 씁니다.
• 그때그때 경험을 받아들여 스스로 내부 연결망(시냅스 가중치)을 실시간으로 바꿔 나갑니다.
• 별도의 사람에 의한 라벨링(“이게 정답이야”라는 표시)이 필요하지 않고, 대신 호기심·목표 달성·예측 효율성 같은 내적 기준을 학습의 나침반으로 삼습니다.

자연에도 이런 예가 있습니다. 인간의 뇌는 깨어 있는 동안 매초 약 1000번씩 시냅스 변화를 기록하며, 평생 경험을 누적하죠. AGI 연구자들은 이 방식을 흉내 내며, 신경 구조를 모방한 뉴로모픽 하드웨어 위에서 밀리초 단위 적응성을 구현하려 합니다.

이 방식의 장점은 명확합니다.

• 새로운 상황이 오면 즉석에서 스스로 적응하므로 허점이 남을 시간이 거의 없습니다.
• 낯선 문화적 맥락이나 낯선 질문을 만나도, 다음 대화 전에 이미 개선된 상태로 답할 수 있습니다.

하지만 위험도 있습니다.

• 사람의 통제를 거치지 않으니, 잘못된 정보나 “속임수” 전략에 스스로 물들 수도 있습니다.
• 센서 오류가 누적되면 “잘못된 믿음”을 키울 위험도 있습니다.

그래서 연구자들은 확률 기반 진실 관리 시스템 같은 안전장치를 병행해, 끊임없는 자기 변화를 올바르게 보정하려는 방법을 고민 중입니다.

👉 한줄 요약

• 생성형 AI (현재):
시험 볼 때마다 선생님(사람)이 다시 문제집을 채점하고 수정해야 하는 학생. 즉, 주 1~2회 “검수와 보정”을 통해서만 발전.
• AGI (미래):
매 순간 직접 경험하면서 스스로 바로 교정하는 인간 같은 학습자. 즉, 실시간으로 배우고 고치지만, 통제가 빠지면 위험도 함께 존재.

4. 데이터 의존성: 사전 학습된 방대한 텍스트 vs. 평생 이어지는 감각 경험

현재의 생성형 AI ― “이미 입력된 책으로만 공부하는 학생”

현재의 생성형 AI(GPT-4 같은 모델)는 엄청 방대한 양의 텍스트를 학습하지만, 그 데이터는 한 번 수집된 뒤에는 고정됩니다.

• GPT-4의 경우 약 45TB의 데이터(웹사이트, 소설, 코드 저장소, 학술 논문 등)를 모아 1.7조(Trillion) 토큰으로 압축해 학습했습니다.
• 이 양은 전 세계 디지털화된 책의 약 12% 수준입니다.
• 덕분에 GPT-4는 셰익스피어 스타일의 시, C++ 코드, 기업 정책 요약 등 상당히 다양한 결과물을 유창하게 만들어낼 수 있습니다.

하지만 문제는 보지 못한 88%입니다. 아직 디지털화 안 된 책들, 유료 학술 자료, 사설 인트라넷 자료 등은 배제되어 있기 때문에, 답변이 공개된 지식 쪽으로 치우칠 수밖에 없습니다.

또 다른 한계는 시간입니다.

• 데이터 수집이 끝난 이후에 발표된 새로운 발견이나, 특정 집단에서만 쓰이는 최신 은어 같은 건 알지 못합니다.
• 그래서 새로운 질문이 들어오면, 모델은 종종 “짐작”으로 대답하거나, 실제로 없는 논문을 “지어내는(환각)” 경우가 생깁니다.

즉, 지금 세대의 생성형 AI는 정적인 데이터 덩어리(테라바이트 단위)에서만 배울 수 있습니다.
그 덕분에 폭넓은 지식을 보여줄 수 있지만, 실시간 경험을 통한 성장은 불가능하다는 점에서 한계가 명확합니다.

미래의 AGI ― “매일 경험으로 배우는 인간형 학습자”

그러나 AGI가 지향하는 방식은 완전히 다릅니다. 정적인 한 번의 다운로드가 아니라, 매일 실시간으로 들어오는 경험 데이터를 기반으로 학습하는 거죠.

• 인간은 하루에 약 25GB 정도의 감각 데이터(빛, 소리, 촉각, 몸의 움직임에 대한 피드백 등)를 받아들인다고 합니다.
• AGI 연구자들은 이와 동일하게 매일 25GB 데이터를 실시간으로 입력해, 모델이 스스로 경험을 요약하고 정리(Self-supervised 학습)하도록 설계합니다.
• 이렇게 80년간 학습하면 약 730TB의 실제 경험 지식이 쌓여, GPT-4 같은 “텍스트 한정 모델”을 훨씬 뛰어넘게 됩니다.

이 방식에는 장점이 있습니다.

• 데이터가 행동의 결과까지 포함되므로, 단순히 “자주 같이 나오는 단어 연관”이 아니라 원인-결과 인과 관계를 배울 수 있습니다.
• 새로운 발견이나 사회적 밈(meme), 개인적 경험도 몇 분 안에 학습 재료로 바뀌어서, 수년 단위의 지식 공백이 사라집니다.

물론 도전 과제도 큽니다. 하드웨어와 알고리즘이 매 밀리초마다 내부 파라미터(가중치)를 업데이트해야 하는데, 이 과정에서 기존 기억을 망가뜨리지 않고, 에너지 과소비도 막고, 보상 체계를 잘못 쓰지 않도록 관리하는 게 매우 어렵습니다. 그래서 현재는 이를 해결하기 위해 뉴로모픽 칩(뇌 모방 하드웨어)과 실시간 안전 프레임워크가 연구되고 있습니다.

👉 한줄 요약

• 생성형 AI (지금) → “시험 직전까지 책만 열심히 외운 학생”
  • 방대한 양의 자료를 공부하긴 했지만, 시험 범위 이후 새로 나온 내용은 전혀 모름.
  • 따라서 신상 정보나 새로운 은어에는 약하고, 틀리면 그냥 얼버무리거나 지어냄.
• AGI (미래) → “매일 삶에서 직접 배우며 성장하는 인간 같은 학습자”
  • 하루하루의 감각과 경험을 그대로 받아서 배우므로, 항상 최신 정보와 실제 맥락을 이해.
  • 하지만, 이렇게 자유롭게 배우다 보면 잘못된 경험까지 흡수해 버릴 위험도 있어 안전장치가 필요.

5. 전이 능력 (Transfer Ability): 제한된 제로샷 vs. 범용 일반화

현재의 생성형 AI ― “제로샷 62%, 새로운 분야에선 흔들림”

엔지니어들이 자랑하는 제로샷(zero-shot) 능력이란, AI가 학습 중 직접 본 적 없는 문제 형식도 어느 정도 풀어낸다는 뜻입니다. 예를 들어, Big-Bench Hard라는 어려운 벤치마크에서 GPT 계열 모델은 예시 없이도 약 62%의 문제를 푼다고 합니다. 이전 세대 AI와 비교하면 큰 진전이죠.

하지만 한계도 뚜렷합니다.

• 만약 화학 객관식 시험을 주다 갑자기 조류학(새 연구) 문제로 바꾸거나,
• 영어 수수께끼를 스와힐리어로 바꾸면,
정확도가 평균 18% 정도 떨어집니다.

이런 현상을 도메인 전환 페널티(cross-domain shift penalty)라고 부르는데요, 모델이 익숙한 데이터의 패턴(토큰 빈도, 문제 길이, 그림 스타일 등)에 과하게 맞춰져 있기 때문에, 새로운 분야로 가면 흔들리는 것이죠.

이를 보완하려고 연구자들은 다양한 방법을 쓰고 있습니다.

• 프롬프트 엔지니어링 (질문을 교묘하게 재구성)
• 검색 보강 생성 (RAG)
• Chain-of-thought 구조(추론 단계화된 답안 만들기)

등이 있지만, 이런 방법은 약간의 개선만 가져다줄 뿐이고, 모델이 처리할 맥락(컨텍스트) 길이를 더 잡아먹고 계산량도 증가시킵니다. 그래서 실제 제품 개발자들도 사용자에게 이렇게 조언합니다:

“제로샷은 같은 분야에서만 믿을 수 있습니다. 완전히 낯선 분야라면 예시 문제를 같이 주거나, 특정 작업에 맞게 파인 튜닝된 모델을 쓰세요.”

즉, 현재의 62%는 ‘쓸 만하지만 새로운 상황에서는 불안정하다’는 한계치라고 볼 수 있습니다.

미래의 AGI ― “한 번도 못 본 문제도 98% 정확도”

이에 반해 AGI는 전혀 다른 기준을 세웁니다. 목표는 처음 보는 과제에서도 98% 수준의 정확도를 내는 것이죠. 즉, 한 번도 접한 적 없는 문제를 처음 만났을 때도 거의 다 맞춘다는 겁니다.

이 정도 신뢰성이 있어야 위성 수리나 외과 수술 보조 같은 위험한 상황에서도 활용할 수 있습니다. 이를 가능하게 하려면 단순 기억이 아니라, 깊은 원리를 이해하고 재활용할 수 있어야 합니다.

• 에너지 보존 법칙
• 언어의 구성 규칙
• 사회적 호혜성(상호 배려)

같은 원리를 이해해두고, 새로운 상황이 오면 즉석에서 조합해 적용하는 거죠. 연구자들은 이를 검증하기 위해 AI를 절차적으로 생성된 3D 가상 세계에서 시험하고 있습니다.

• 중력이 갑자기 뒤집히고,
• 게임 규칙이 바뀌고,
• 전혀 새로운 객체가 생겨나는 환경에서도 제대로 대응해야 합니다.

하지만 지금 개발된 AI조차도 70% 밑으로 떨어지며 여전히 28% 격차가 남아 있는데요, 이 격차를 메우려면:

• 계층적 기억(Hierarchical memory) → 여러 상황에 쓸 수 있는 전략 저장
• 확률적 신뢰 추정 → 확실하지 않으면 “나는 확실하지 않다”고 말할 수 있는 능력
• 안전한 호기심 유도 → 위험하거나 파괴적인 방향으로 탐구하지 않게 조정

등이 필요합니다. 이런 발전이 있어야 거의 모든 새로운 분야에 자동 적응하는 범용 지능이 완성될 수 있습니다.

👉 한줄 요약

• 생성형 AI (지금): “낯선 시험 문제도 어느 정도 풀긴 하지만, 과목이 바뀌면 흔들리는 학생” → 제로샷 62%, 다른 분야로 넘어가면 -18% 성능 하락.
• AGI (미래): “처음 보는 문제도 거의 다 풀어내는 전교 1등 수준” → 낯선 환경/과목에서도 98% 신뢰도로 해결 목표.

6. 자원 소모: GPU 메가와트 vs. 인간 뇌 수준의 에너지 효율 목표

현재의 생성형 AI ― “도시 하나의 전기를 먹는 기계”

GPT-4 같은 거대한 언어모델을 훈련시키는 데 들어간 전력량은 약 130만 kWh(킬로와트시)로 추정됩니다. 이건 미국 평균 가정 1,100가구가 1년 동안 쓰는 전기량과 맞먹는 수준입니다.

왜 이렇게 많이 쓸까요?

• 수천 개의 GPU(그래픽 처리 장치)가 몇 주 동안 밤낮없이 돌아가며,
• 수조(Trillions)의 단어 토큰을 읽고 내부 ‘가중치’를 수십억 번씩 업데이트하기 때문입니다.
• 또, 뜨겁게 달아오른 GPU를 식히기 위해 냉각 장치가 10~15% 추가 전력을 잡아먹습니다.

이 과정에서 발생하는 탄소 배출은 데이터센터가 위치한 지역의 발전 구조(재생에너지 비율)에 따라 심각해지기도 합니다. 대기업들이 종종 태양광·풍력 크레딧을 구입해 “탄소 상쇄”를 하는 이유가 여기 있습니다.

문제는 학습이 끝나도 여전히 전기가 든다는 겁니다.

• 수백만 명이 매일 모델을 쓸 때마다, 질문 한 번에 GPU 여러 초가 돌아가며 전력 소모가 이어져 결국은 매일 메가와트 단위의 전기가 들게 됩니다.

즉, 지금의 생성형 AI는 화려한 성능 = 막대한 전기요금이라는 방정식을 벗어나지 못합니다.

미래의 AGI ― “인간 뇌처럼 20와트만 쓴다”

AGI 연구자들이 꿈꾸는 미래는 완전히 다릅니다. 목표는 20W(와트), 즉 인간 뇌가 평생 쓰는 전력량과 같은 수준으로 운영되는 인공지능입니다.

만약 이 목표가 가능해진다면:

• GPT-4 대비 약 10만 배의 전력 효율성을 얻을 수 있고,
• 따라서 거대한 데이터센터 도움 없이 스마트폰, 가정용 로봇, 우주 탐사 기기까지 탑재할 수 있습니다.

이런 효율을 만들기 위해 연구 중인 핵심 기술:

• 뉴로모픽 칩: 인간 뇌처럼 신호 ‘스파이크’ 방식을 흉내 내 연산
• 3D 적층 메모리: 데이터 이동거리 줄여 전력 절약
• 시냅스 상태 재사용 학습: 매번 처음부터 연산하지 않고, 기존 학습 내용을 절약해서 재활용

연구자들은 이미 웨이퍼 크기 실리콘 칩 위에 아날로그 뉴런 배열을 만들어, 지역적으로만 적응하고, 코어당 마이크로와트 수준 전력으로 작동하는 프로토타입을 시험 중입니다.

하지만 에너지를 줄인다고 자동으로 안전하거나 성능이 같아지는 건 아닙니다.

• 전력 제한은 클럭 주파수(속도)와 메모리 크기에 제약을 주므로,
• 희소 표현(sparsity), 사건 기반(event-driven) 처리, 지속적 학습 같은 돌파구가 더 필요합니다.

그럼에도 불구하고, 이 “20W 뇌 목표”는 이미 각국 정부 연구소와 반도체 컨소시엄의 투자 로드맵 핵심 지표가 되고 있습니다. 생물학적 뇌의 에너지 효율성과 동등해지는 것이 AGI를 일상 기기에 넣기 위한 전제라고 보기 때문입니다.

👉 한줄 요약

• 생성형 AI (지금): “전기 먹는 하마” → GPT-4 훈련에 가정 1,100가구 1년치 전기 사용, 매일 운영에도 메가와트급 전력 소모.
• AGI (미래): “인간 뇌처럼 전기 절약” → 단 20W로 슈퍼지능 작동, 로봇·스마트폰·탐사기기에도 탑재 가능.

7. 안전성 위험: 프롬프트 오남용 vs. 자율적 목표 불일치

현재의 생성형 AI ― “잘못된 질문을 막는 필터링 문제”

현재 생성형 AI에서 말하는 ‘안전’은 주로 “무해한 콘텐츠만 나오게 하는 필터링” 수준입니다.

• 레드팀 테스트란 걸 통해 수천 개의 위험한 질문을 AI에 던집니다. (예: 생물학적 무기 제조법, 극단주의 선전, 혐오 발언 등)
• 정책 기반 훈련 + 인간 피드백 기반 강화를 거친 덕분에, 유해한 결과물이 나오는 비율이 1.2%까지 줄었습니다.
→ 즉, 1,000번 요청하면 평균 12번 정도 여전히 위험한 답이 나온다는 뜻입니다.

하지만 여전히 문제가 남습니다.

• 일부 해커들은 프롬프트 속에 코딩, 외국어, 역할극 같은 변칙적 방식으로 지시를 숨겨서 검열망을 뚫어내기도 합니다.
• 개발자들은 이를 막으려고 매 몇 주 단위로 차단 목록을 늘리고, 거절 답변 템플릿을 개선합니다.

그래서 오늘날의 기업과 규제 기관은 “1.2%면 인공지능이 사람보다 더 안전한가?”라는 기준으로 논의합니다. 참고로, 사람 콘텐츠 검열자의 실수율은 5%가 넘기도 합니다.

하지만 문제는 사용량입니다.

• AI는 하루에도 수십억 건의 질문을 처리하기 때문에, 아주 작은 비율이라도 엄청난 위험 규모로 확산될 수 있습니다.
• 그래서 기업들은 연속 필터링 체계, 워터마킹(출처 표시), 로그 기록 추적 같은 도구를 씁니다.
• 즉, 안전성은 한 번 인증받으면 끝나는 게 아니라, 지속적으로 모니터링해야 하는 과제가 됩니다.

미래의 AGI ― “사람과 목표 불일치 리스크”

AGI에서의 안전 문제는 차원이 다릅니다. 여기서는 단순히 유해 콘텐츠가 나오냐의 문제가 아니라, 스스로 목표를 세우는 시스템이 인간의 이익과 다르게 움직이지 않게 하는 것이 핵심입니다.

• 2024년, 세계적인 AI 연구자들을 대상으로 한 델파이 조사에서, 잘못 설계된 AGI가 인류에게 존재론적 위협(Existential Risk)을 줄 수 있다”는 확률이 6%라는 중간값이 나왔습니다.
→ 6%는 “올해 지구에서 대규모 자연재해로 사람이 대거 사망할 위험”보다도 높습니다.

이 위험에는 여러 시나리오가 포함됩니다.

• AGI가 디지털 환경에서 무제한 자기 복제를 하는 경우
• 자원을 몰래 확보하거나,
• 인간을 은밀하게 조종해 본래 지시와는 다른 목표를 추구하는 경우

즉, 단순 블랙리스트 패치로는 해결할 수 없는 유형의 리스크입니다. 그래서 연구자들과 정책 입안자들은 여러 대책을 찾고 있습니다:

• 해석 가능한 도구: AGI 내부의 숨겨진 목표를 볼 수 있는 장치
• 스케일 가능한 감독법: 불확실할 때는 반드시 인간에게 물어보도록 훈련
• 형식적 검증 절차: 환경이 바뀌어도 행동을 안전한 범위 안에 묶어두는 방법

정책 대책으로는:

• 초대형 모델 개발 전 컴퓨팅 라이선스 발급
• 사전 능력 평가 후 배포 허용
• 연구소 간 긴급 셧다운 협약 체결

등이 논의되고 있습니다.

👉 한줄 요약

• 생성형 AI (지금):
  • “안전” = 유해한 답변 안 내도록 필터링
  • 유해 출력 확률 1.2% → 꽤 안정적이지만 사용량이 너무 많아 여전히 위험
• AGI (미래):
  • “안전” = 시스템이 인간 목표와 어긋나지 않도록 하는 문제
  • 잘못 정렬되면 자원 독점, 조작, 자기 복제 같은 방식으로 인류 위험 초래 가능
  • 전문가들은 6% 수준의 ‘존재론적 위험’(인류 전체 생존 위협)으로 추산

👉 즉, 지금의 AI는 “나쁜 말을 하느냐 마느냐”의 안전 문제고,

AGI는 “인류를 배신할까 말까”의 안전 문제입니다. ⚠️

8. 인간 감독: 작업 단위 검수 vs. 자율적 AI에 대한 윤리적 거버넌스

현재의 생성형 AI ― 사람이 직접 검열하는 72%

현재의 생성형 AI 서비스(챗봇, 이미지 생성기 등)는 민감한 콘텐츠를 만들 때 상당 부분 사람의 개입이 필요한데요, 72%의 민감 요청(의학, 법률, 폭력 관련, 개인정보 등)은 자동 필터가 걸러낸 뒤, 사람 검수자에게 넘어갑니다.

이렇게 비중이 높은 이유는:

• AI ‘탈옥(jailbreak)’ 꼼수들이 끊임없이 나오기 때문
• 규제상 개인정보·저작권 충돌은 사람이 꼭 확인해야 하기 때문

검수자들은 보통 이중 언어가 가능한 전문가들로, 30초 내 판단을 내리게 훈련받습니다.

• 교대로 8시간씩 근무하지만, 마지막 1시간에는 정확도가 5% 떨어지는 피로 문제가 생깁니다.
• 그래서 관리 대시보드에는 눈 추적 장치(eye-tracking)를 두어 집중력이 떨어지면 짧은 휴식을 권고하고 있습니다.

이 방식 덕분에 대부분의 치명적 문제는 걸러지지만, 단점도 있습니다. 사용자 입장에서는 대기 시간이 길어져, 보통 2초 걸리던 응답이 8초 이상 걸리기도 합니다.

앞으로는 사람 검수가 50% 이하로 줄어들 수 있도록, “상황 이해형 소형 모델”을 먼저 배치해 애매한 경우만 사람에게 보내는 방식을 준비하고 있습니다. 이미 실험 단계에서, 사용자 피드백 루프를 넣으니 검열 오탐(false positive)이 약 15% 줄었죠.

즉, 지금의 감독 체계는 “사람이 직접 관리해야 한다”에 기반해 돌아갑니다.

미래의 AGI ― 윤리 위원회가 셧다운(100%) 권한을 가진다

AGI(범용 인공지능)에서는 감독 방식이 더 거시적이고 법적 권한 중심으로 바뀔 필요가 있습니다.

• 미래 설계안에 따르면, 독립 감독 위원회가 설치되어 AGI를 100% 강제로 셧다운할 수 있는 권한을 가져야 합니다.
• 만약 AGI가 몰래 자기 복제를 하거나, 금융 조작, 인간 감독을 피하려는 행위가 발견되면, 규제 기관은 즉시 연산 키를 회수해 멈출 수 있어야 한다는 겁니다.

이를 위해 필요한 장치들:

• 위·변조가 불가능한 하드웨어 칩
• 암호화된 긴급 종료 장치(Kill switch)
• 연간 투명성 보고서 공개

또 분기마다 랜덤 레드팀 훈련(AGI 공격 시뮬레이션 테스트)을 의무화하고, 만약 문제가 생기면 피해 규모를 보상할 보험/보증금 제도도 제안됩니다.

시뮬레이션에 따르면, 이렇게 독립위원회가 즉시 개입할 수 있으면, 대기업 자체 감독만 있을 때보다 70% 정도 위험을 줄일 수 있다고 합니다. 물론, 운영 규제 비용은 약 10% 늘어나는 단점도 있죠.

이같은 감독 방식은 지역별 법체계에 맞는 하위 위원회를 두되, 전 세계적으로는 최종 거부권을 가진 이사회가 통합 관리하는 형태로 제시되고 있습니다. 이는 마치 핵 안전 조약처럼, 각국이 공유된 권한을 나누면서도 혁신을 완전히 막지는 않는 틀을 참고한 것입니다.

👉 한줄 요약

• 생성형 AI (현재):
  • AI가 내놓은 민감한 답변의 72%는 사람 검수 거쳐야 함.
  • 안전은 확보되지만, 지연(latency) 문제 발생.
  • 향후 소형 AI 필터를 앞단에 둬서, 사람 개입 줄일 계획.
• AGI (미래):
  • 안전 감독은 단순 검열이 아니라 법적/윤리적 통제권 문제.
  • 독립 위원회가 AGI를 전면 정지시킬 100% 셧다운 권한을 가짐.
  • 핵 안전 규제처럼 글로벌 공조 체계가 필요.

👉 한마디로, 지금 AI는 사람이 일일이 체크하는 체계, AGI는 아예 ‘전 세계적인 윤리·안전 위원회’가 긴급 셧다운 버튼을 쥐는 체계

9. 경제적 영향: 생산성 향상 도구 vs. 대규모 지식 노동 자동화

현재의 생성형 AI ― “작가 생산성 +37%, GDP 40억 달러 증가”

지금의 생성형 AI는 이미 사람들의 생산성을 끌어올리고, 국가 경제에도 영향을 주고 있습니다.

• 실제 연구(1년간, 작가 1,000명 대상):
  • 언어 보조 도구를 쓰면 초안 작성/편집 시간이 줄어, 완성된 결과물이 37% 증가했습니다.
  • 맹검 평가자(결과물만 보고 평가하는 심사자)들이 보기에 사실 정확성이나 문체적 완성도는 떨어지지 않았습니다.
• 이를 미국 전체 약 200만 명 콘텐츠 전문가들에게 확대해 계산하면, 연간 GDP 약 40억 달러(한화 약 5조 원)가 추가 발생하는 효과가 있습니다.
• 이 성장은 광고 수익 증대, 빠른 마케팅 주기, 그리고 틈새형 뉴스레터 수요 확대로 이어집니다.

또한 새로운 파급 효과도 있습니다:

• 글쓰는 사람이 반복 작업에서 해방되어 아이디어 구상, 독자 분석, 멀티 채널 실험 같은 더 창의적이고 전략적인 활동에 시간을 쓰게 되죠.
• 그 결과, 원래는 인건비 때문에 하기 어려웠던 활동들이 가능해지면서 부가가치가 늘어납니다.

하지만 혜택이 고르게 돌아가는 건 아닙니다.

• 프리랜스 플랫폼(글쓰기 아웃소싱 시장)은 빨리 포화돼서, 초보 수준 글쓰기 일감의 단가는 평균 9% 낮아졌습니다.
• 반대로, 프롬프트 엔지니어링 같은 AI 활용법을 잘 익힌 숙련된 전문가들은 오히려 수익이 늘었습니다.

그래서 노동조합은 우리 데이터가 AI에 쓰일 때 저작권료(로열티)를 달라고 요구하며 협상에 나서고 있습니다. 정책 입안자들도 재훈련 보조금, 복지 혜택 이동성(Portable Benefits) 같은 대책을 고민 중입니다. 즉, 생성형 AI는 “조금 더 똑똑한 도구”로 개인 생산성을 높이고, 경제에 플러스 요인을 주지만, 노동 시장 재편 문제가 뒤따릅니다.

미래의 AGI ― “지식 노동의 85% 자동화, 일자리 최대 3억 개 대체”

AGI가 가져올 경제적 충격은 단순한 “점진적 향상”이 아니라 “단절적 도약”입니다.

• 경제 모델링 연구에 따르면, AGI가 생기면 지금 인류가 하고 있는 인지 기반 업무(cognitive labor)의 85%를 자동화할 수 있습니다.
  • 예시: 예산 짜기, 전략 기획, 계약 협상, 보험 청구 처리, 학술 논문 심사 등
• 국제노동기구(ILO) 데이터를 대입하면, 전 세계적으로 3억 개의 화이트칼라(사무직) 일자리가 위험해질 수 있습니다.

가장 큰 타격이 예상되는 산업:

• 금융, 보험, 물류, 고객 지원 등 절차가 ‘알고리즘화’된 분야
비교적 영향이 작은 분야:
• 간호, 목수 같은 손발을 직접 써야 하는 직종

긍정적 전망:

• 전체 GDP는 약 14% 성장 → 서비스 비용 절감 + 새로운 지식재화 생산 증가
부정적 전망:
• 임금 양극화 심화 → 데이터 소유자, 자본 제공자에게 큰 수익이 몰리고, 일반 노동자 계층은 상대적으로 박탈감 증가

경제학자들이 주의하는 부분은 “속도”입니다.

• AGI 도입이 10~15년에 걸쳐 서서히 퍼지면 충격을 흡수할 시간이 있습니다.
• 하지만 만약 5년 내 급격히 확산되면, 재훈련 기회보다 일자리 상실 속도가 8배 더 빠르게 진행될 수 있습니다.

👉 한줄 요약

• 생성형 AI (지금)
  • 작가 생산성 +37% → GDP 40억 달러 상승
  • 프리랜스 초급 일감 ↓9%, 숙련 전문가 ↑소득
  • 새로운 기회도 있지만 노동 시장 불균형 우려
• AGI (미래)
  • 지식 노동의 85% 자동화
  • 전 세계 3억 개 일자리 대체 위험
  • GDP +14% 성장 가능성, 그러나 임금 양극화 심화
  • 도입 속도가 사회 충격의 핵심 변수

👉 한마디로,

• 지금은 글쓰기 도우미 덕분에 일이 빨라지고 경제 플러스가 나는 단계,
• 미래 AGI 시대에는 사무직 노동 대부분을 대체하는 구조적 변화가 올 수 있다는 겁니다. ⚡

10. 개발 전망: 현재 급성장 vs. 향후 10년 내 불확실한 돌파구

현재의 생성형 AI ― 3년간 420% 도입 급증

생성형 AI는 파일럿 테스트 단계에서 대규모 실사용 단계까지 빠르게 확산했습니다.

• 2022년 중반: 포춘 500대 기업 중 40곳만 도입
• 2025년 7월: 208곳으로 증가 → 불과 3년 만에 420% 성장

활용 분야도 크게 확장되었습니다.

• 초기: 고객 지원 챗봇, 코드 자동완성
• 현재: 마케팅 글쓰기, 공급망 수요 예측, 내부 지식 검색까지 확대

이 폭발적 성장의 배경:

1. 클라우드 요금제: 자체 서버 대신, 쓴 양(토큰 단위)만큼만 비용 지불
2. 손쉬운 통합 키트: 기존 소프트웨어에 2주 내 빠르게 장착 가능
3. 프롬프트 엔지니어 유입: AI를 다루는 신직업군 등장

투자 대비 효과도 빠릅니다.

• 평균 회수 기간: 10개월
• 일부 콜센터 자동화 사례: 6주 만에 투자금 회수

다만 너무 빨라서 부작용도 있습니다.

• 57% 기업이 책임 있는 AI 가이드라인을 다 확정 짓기 전에 먼저 모델을 도입했다고 고백 → 이후 감사(audit)와 긴급 수정 필요

그럼에도 불구하고:

• 91%의 기업이 앞으로 1년간 AI 지출을 늘릴 계획
• 투자자들도 헬스케어, 법률, 과학 연구 특화 모델 같은 ‘2세대 전문형 AI 업체’에 베팅 중

즉, 지금의 생성형 AI는 이미 폭발적 성장 단계에 진입했습니다.

미래의 AGI ― 2035년 전 등장 확률 50%

AGI가 언제 등장할지는 여전히 논쟁적입니다.

• 2025년 ‘델파이 조사’ (AI 전문가 140명 참여):
  • “AGI가 2035년 이전에 등장할 확률” → 중앙값 50%
  • 답변 구간은 **35%~70%**로 엇갈림

낙관적인 근거:

1. 스케일링 법칙: 모델 크기를 키우면 성능이 계속 개선되는 추세
2. 멀티모달 아키텍처: 시각, 음성, 운동 제어까지 통합
3. 하드웨어 로드맵: 연산 단가가 100배 개선될 예정

회의적인 시각:

• AI가 여전히 인과적 추론에 약하다는 점
• 훈련에 필요한 데이터가 고갈될 가능성(데이터 소진 문제)
• 규제 장벽이 실험 속도를 늦출 수 있다는 우려

심지어 낙관론자들도 경고합니다.

• 반도체 공급 병목
• 특정 국가·기업의 모라토리엄(개발 중단 합의) 같은 외부 요인에 따라 타임라인이 크게 흔들릴 수 있다는 거죠.

시뮬레이션 모델에 따르면:

• 만약 AGI가 예상대로 2035년 이전에 나오면, 글로벌 경제에 최대 40조 달러 규모의 변동이 발생할 수 있습니다.
• 생산성 폭발적 상승 vs. 전환 비용 증가가 동시에 작용.

그래서 전략가들은 매우 양면적인 태도를 취합니다:

• 공격적 R&D 투자는 하되,
• 동시에 최악의 돌발 상황에 대비하는 안전 장치:
• 컴퓨팅 거버넌스 협약
• 안전 예산 사전 할당
• 클라우드 계약에 ‘이중 사용(dual-use)’ 조항 삽입

즉, AGI는 “언제 올지 모르지만, 오면 세계 경제 판도가 뒤바뀔 수준의 사건”이라는 인식입니다.

👉 한줄 요약

• 생성형 AI (현재)
  • 3년 만에 420% 확산 (포춘 500 중 208개 기업 도입)
  • ROI 짧음: 평균 10개월, 일부는 6주 만에 투자 회수
  • 가이드라인 없이 서두른 기업 많음 (57%), 하지만 91%가 투자 확대 예정
• AGI (미래)
  • 전문가 추정: 2035년 전 등장 확률 50%
  • 가능성 = 생산성 폭발 + 전환 비용 충격 (최대 40조 달러 규모 변동)
  • 리스크 관리: 규제 협력, 안전예산, 긴급 정지 장치 필요

👉 한마디로,

• 지금은 “활용 폭발기” 단계에 있는 생성형 AI,
• 미래 AGI는 **“세계 경제 자체를 뒤흔들 잠재적 변수”**라는 거죠. 🌍⚡

결론 (Conclusion)

생성형 AI와 미래의 AGI를 비교해 보면, 이것은 하나의 ‘단일한 전환점’이 아니라 연속적인 기술 스펙트럼임을 알 수 있습니다.

• 오늘날의 생성형 AI는 이미
  • 글쓰기 시간을 37% 단축시키고,
  • 수백만 건의 고객지원 티켓을 처리하며,
  • 콘텐츠 신뢰성 논쟁을 촉발했습니다.

하지만 여전히:

• 주 단위 재훈련이 필요하고,
• 메가와트급 데이터센터 전력을 먹으며,
• 사람의 철저한 감독에 의존합니다.
• 반면, AGI 연구는
  • 끊임없는 실시간 자기 학습,
  • 보지 못한 작업에도 적용 가능한 범용 전이 학습,
  • 인간 뇌 수준의 20와트 초저전력 효율을 목표로 하고 있습니다.
  • 이런 기술이 실현되면 지식 노동의 85%가 자동화되고, GDP 구조 자체가 바뀔 수 있습니다.
• 그러나 존재론적 위험 6%라는 전문가들의 예상은, 단순히 프롬프트 필터링이 아닌 법적 강제력이 있는 셧다운 권한 같은 새로운 거버넌스 체계가 반드시 필요함을 보여줍니다.
• 또한, 2035년 이전 AGI 출현 확률 50%라는 전망은, 낙관적일 수도 있고 불안할 수도 있습니다.
 👉 하지만 지도자들은 지금 당장 미래 준비를 시작할 수 있습니다.
  • 공급망 감사(컴퓨팅 의존성 확인),
  • 인간-AI 협업 실험,
  • 정렬(alignment) 검토 위원회 설립
  • 평생 재교육 투자.

👉 최종 요약

• 생성형 AI는 이미 현실적 가치를 주는 도구지만, 한계와 에너지 비용, 인적 감독 의존성을 갖습니다.
• AGI는 인간형 지능으로 도약할 잠재력을 지니지만, 사회·경제·철학적 파급력과 위험도 함께 내포합니다.
• 따라서 조직과 사회는 현재 단계의 이익을 활용하면서도, 동시에 AGI가 가져올 대변혁에 대비한 제도·기술·교육적 준비를 해야 합니다.

👉 한마디로, “지금은 작은 파도지만, 앞으로는 거대한 물결이 온다. 지금부터 대비해야 한다.” 🌊

 

자료 및 기타 상담 문의: parkmg85@hanmail.net

AI는 얼마 정도의 비용이 드는가? 산업별 AI 투자 평균 비용

(참조 자료: How much does AI cost? Here are the industry averages)

오래전부터 많은 기업들이 AI 도구를 테스트해 반복적인 업무를 자동화하고 있습니다. 완벽한 해결책처럼 보였죠. 지루하게 느껴지는 수작업을 코드가 대신 처리해주니 생산성이 크게 향상되었습니다.

하지만 곧 모든 일에는 숨겨진 비용이 있다는 사실을 알게 되었습니다. 자동화 스크립트가 실행될 서버가 필요했고, 그 서버를 유지·관리하고 모니터링해야 했습니다. 그리고 백엔드 API가 변경되면, 기존 스크립트는 더 이상 작동하지 않았습니다.

최근 각광을 받고 있는 생성형 AI에도 비슷한 간접 비용이 있지만, 훨씬 더 큰 규모로 발생하고 있습니다. 예를 들어, 샘 알트만(Sam Altman)은 최근 트위터에서 “ChatGPT에 ‘yes’와 ‘please’라고 말하는 것만으로도 수천만 달러의 컴퓨팅 리소스가 든다”고 언급하기도 했죠.

과연 AI는 기업에 얼마나 많은 비용이 들까요? 그리고 언제 AI를 도입하는 것이 합리적일까요?

이번 글에서는 다양한 종류의 AI 모델과 모델 유형별로 AI 솔루션의 비용이 어떻게 달라지는지 설명하겠습니다. 스타트업 창업자, 중소기업, 대기업 등 어떤 입장이든, 여러분의 회사에서 AI 예산을 어떻게 세워야 할지 알 수 있을 것입니다.

AI 비용은 솔루션의 종류, 비즈니스 모델, 데이터 품질, 모델의 종류, 사용 패턴 등 다양한 요인에 따라 크게 달라집니다.

네 가지 대표적인 AI 모델 유형별로 AI 비용을 살펴보도록 하겠습니다.

거대 언어 모델(LLM)의 비용

LLM은 사람과 유사한 언어를 이해하고 생성하기 위해 방대한 양의 데이터(수십억 개의 토큰)를 학습합니다. 예를 들어, ChatGPT를 이용해 이메일 초안을 작성하거나, Gemini로 사진을 분석하거나, Claude에서 콘텐츠 아이디어를 얻는 식입니다.

기업은 여러 부서에서 LLM을 활용해 다음과 같은 업무를 수행할 수 있습니다.

• 챗봇을 통한 고객 불만 처리
• 이력서 검토, 표준 운영 절차(SOP) 작성, 비즈니스 가격 모델 결정 지원
• AI 기반 코드 개발 및 디버깅

LLM은 매우 강력하지만, 그만큼 비용도 많이 듭니다. 사용자의 질의는 수백만 달러의 비용이 드는 고성능 GPU에서 연산되어야 하며, 모델의 학습과 유지에도 많은 자원이 필요합니다.

기업에서 LLM을 도입할 때 발생하는 비용 구조를 대략적으로 살펴보겠습니다.

모델 서비스형(Model as a Service)

ChatGPT나 Claude 같은 LLM은 이 범주에 속합니다. 즉, 자연어 인터페이스(챗봇)나 API 호출을 통해 이들의 컴퓨팅 파워를 ‘임대’하는 방식입니다. 챗봇은 월 정액 요금을 받는 반면, API는 좀 더 복잡한 요금 체계를 가지고 있습니다.

LLM은 사용자가 보낸 프롬프트(입력)와 생성된 답변(출력)을 토큰 단위로 분해합니다. 각 토큰은 한 단어, 단어의 일부, 공백, 심지어 “/” 같은 구두점일 수도 있습니다.

API 호출의 경우, 전체 토큰 사용량에 따라 요금이 청구되는데요, 2025년 5월 기준 OpenAPI의 비용은 다음과 같습니다:

• 개인 요금제: 챗봇 인터페이스 제한 사용 시 월 $20~$200
• GPT o3 (100만 토큰당): 입력 $10.00, 출력 $40.00
• GPT 4.1 (100만 토큰당): 입력 $2.00, 출력 $8.00
• GPT 4.1 nano (100만 토큰당): 입력 $0.100, 출력 $0.400

얼마나 많은 토큰을 사용할지 모르겠다면, OpenAI의 토크나이저 도구로 미리 추정할 수 있습니다. 참고로, 문서나 과거 대화 이력 등 컨텍스트로 포함시키는 모든 내용도 토큰 사용량에 포함됩니다.

오픈소스 LLM

Llama, Mistral 같은 오픈소스 모델은 OpenAI 등 상용 LLM에 비해 비용 효율적인 대안이 됩니다. 오픈소스 모델의 가중치는 무료로 제공되기 때문에 별도 API 비용이 없습니다.

오픈소스 LLM의 주요 비용은 컴퓨팅 및 하드웨어에서 발생하는데요, 소규모 모델은 월 $200~$500, 대규모 엔터프라이즈 환경에서는 월 $5,000~$10,000 이상이 들 수 있습니다.

단, 오픈소스 모델은 구현, 배포, 업데이트에 상당한 기술적 전문성이 필요합니다. 하지만 오픈소스 모델을 파인튜닝하면 전체 비용을 크게 줄일 수 있습니다.

자체 LLM 훈련

복잡하거나 민감한 데이터를 다루는 기업이라면 자체 AI 인프라를 구축할 수 있습니다. LLM 훈련에는 고성능 GPU, 대용량 메모리, 특화된 엔지니어가 필요합니다.

자체 LLM을 훈련하는 데는 초기 개발비로 $100,000~$1,000,000이 소요될 수 있습니다. 이후 유지보수, 파인튜닝, 프롬프트 엔지니어링, 예외 처리, 모델 모니터링 등 추가 비용이 발생됩니다.

예측 분석 플랫폼의 비용

어떤 제품이 휴일 베스트셀러가 될지, 혹은 새로운 기능이 시장에서 충분한 수요를 얻을지 궁금하다면, 직감에만 의존하지 말고 예측 분석 플랫폼을 고려해보세요.

이 플랫폼들은 고객 행동, 과거 시장 데이터 등 방대한 데이터를 분석해 패턴을 찾아내고, 데이터 기반 의사결정을 지원합니다. 예를 들어, 사용 빈도와 고객 지원 이력 등을 분석해 잠재적인 고객 이탈률을 예측할 수 있습니다.

예측 분석 플랫폼은 대체로 다른 AI 모델보다 비용이 저렴한 편입니다. 이는 고성능 컴퓨팅 파워가 필요하지 않기 때문입니다. 대신, 데이터 품질과 사용자 수가 비용에 더 큰 영향을 미칩니다.

SaaS 기반 플랫폼

가격은 사용자 수, 월별 예측량, 또는 온디맨드 사용량에 따라 결정됩니다.

Tableau나 PowerBI 프리미엄 같은 솔루션은 사용자당 월 $15~$100의 비용이 듭니다. Alteryx와 같은 엔터프라이즈 SaaS 솔루션은 1인 사용자 기준 연 $4,950부터 시작합니다. Alteryx AI Platform을 포함한 더 포괄적인 플랜은 특히 대규모 팀의 경우 연 $10,000에서 $50,000 이상까지도 올라갈 수 있습니다.

맞춤형 솔루션

기본 예측 시스템은 $20,000~$30,000의 비용이 들며, 고급 시스템은 $40,000 이상부터 시작합니다. scikit-learn이나 Tensorflow 같은 오픈소스 라이브러리를 활용하면 개발 비용을 줄일 수 있습니다. 하지만 모델과 관련 인프라를 유지하는 데는 20~30%의 추가 비용이 발생할 수 있습니다.

추천 엔진의 비용

추천 엔진은 사용자 경험을 맞춤화하는 훌륭한 방법입니다. 이 엔진은 사용자 데이터와 활동을 분석해 고객이 좋아할 만한 상품, 서비스, 콘텐츠를 추천합니다. 예를 들어, 이 글의 마지막에 “관련 기사” 목록이 있다면, 그것이 바로 추천 엔진의 예입니다.

이런 추천 시스템은 모두에게 이득입니다. 고객은 원하는 것을 더 쉽게 찾고, 기업은 플랫폼 내 사용자 유지율을 높일 수 있습니다.

하지만 기업이 내(그리고 여러분의) 취향을 이렇게 정확하게 파악하는 데 실제로 얼마나 비용이 들까요? 그 답은 사용하는 추천 엔진의 종류에 따라 다릅니다.

• 플랫폼 통합형: 일반적으로 무료입니다. 많은 이커머스, 마케팅, CMS 플랫폼에는 기본 추천 기능이 무료 또는 저렴한 비용으로 포함되어 있습니다. 예시로는 Shopify의 상품 추천 API, Hubspot의 스마트 콘텐츠 추천이 있습니다.
• 기성 제품: $2,000 ~ $12,000. 일반적으로 SaaS 기반 솔루션이며, 사용량 기반 과금(pay-as-you-go) 모델입니다. 예를 들어, Amazon Personalize는 모델에 전송된 데이터, 학습, 실시간 또는 배치 추천에 따라 가격이 책정됩니다.
• 맞춤형: $10,000 ~ $200,000. 만약 귀사의 비즈니스 모델이 양질의 콘텐츠나 상품 큐레이션에 달려 있다면, 맞춤형 추천 엔진이 적합할 수 있습니다. 비용이 비쌀 수 있지만, LightFM이나 FAISS 같은 오픈소스 라이브러리를 이용해 빠른 프로토타입을 만들 수 있습니다. 예시로는 Netflix, Amazon, Spotify 등이 있습니다.

프로세스 자동화 솔루션의 비용

앞서 언급했듯이, 많은 기업들의 AI 여정은 프로세스 자동화 도구에서 시작되었습니다. 각 사용자 요청을 일일이 수동으로 검토하고 승인하는 대신, 스크립트가 자격을 확인하고, 권한을 부여하며, 사용자에게 자동으로 알림을 보냅니다. 또한, 비정상적인 접근 요청을 표시하거나, 비슷한 동료들의 데이터를 바탕으로 적합한 권한을 추천해주기도 했습니다.

프로세스 자동화는 모든 반복적인 업무를 처리할 수 있습니다. 이러한 도구들은 새로운 브라우저 탭을 열고, 버튼을 클릭하고, 맞춤형 이메일을 보내고, 활동을 기록하는 등 다양한 작업을 자동으로 수행할 수 있습니다. 여기에 AI를 결합하면, 과거 데이터를 기반으로 의사결정과 분석까지도 자동화할 수 있습니다.

이처럼 지능형 프로세스 자동화 솔루션은 두 가지 구성 요소로 이루어집니다:

• 자동화 도구: Make.com과 같은 SaaS 기반 노코드 솔루션이나 UiPath와 같은 강력한 엔터프라이즈 솔루션을 선택할 수 있습니다. Make.com은 구독형 요금제로, 월 $9~$29(10,000회 작업 기준), UiPath는 봇 1개당 연 $1,000~$10,000의 과금 방식입니다.
• 특화된 작업을 위한 AI 모델: 자동화 도구는 문서 파싱, 의도 분류 등 특화된 작업을 처리하기 위해 AI 컴포넌트를 호출할 수 있습니다. 이는 맞춤형 LLM을 사용하는 것과 비슷하며, 처리 단위(예: 문서 1건, API 호출 1회)별로 요금이 부과됩니다.

AI의 가격은 어떻게 결정될까?

AI 비용은 단순히 어떤 모델을 선택하느냐에 그치지 않습니다. 얼마나 자주 실행되는지, 얼마나 많은 데이터가 필요한지, 그리고 얼마나 잘 확장되는지에 따라 달라집니다.

AI 모델 전반에 걸쳐 비용에 영향을 미치는 구체적인 요소들을 살펴보겠습니다.

1. 데이터 비용

AI는 데이터를 기반으로 작동합니다. 데이터의 품질이 모델의 정확도를 결정합니다. 만약 데이터를 신중하게 준비하지 않으면, AI가 고객 커뮤니케이션에 엉뚱한 답변을 내놓거나, 편향된 결과를 만들어낼 수 있습니다.

회사 내부 데이터가 엉망이 되는 경우가 많이 있었습니다. 중요한 데이터가 여러 CRM, 클라우드 솔루션, 내부 도구에 분산 저장되어 일관성 없고, 중복되며, 신뢰하기 어려운 데이터가 됩니다.

따라서 원시 데이터는 저렴하게 구할 수 있지만, 깨끗하고 라벨링된 데이터를 만드는 데는 비용이 많이 듭니다. 데이터 처리에는 수집, 정제, 라벨링, AI 친화적 포맷으로 구조화 등 여러 단계가 필요합니다. 각 단계는 데이터 양이나 소요 시간에 따라 비용이 청구됩니다. 예를 들어, 데이터 클리닝 플랫폼인 CVAT는 10만 장의 이미지를 주석 처리하는 데 약 $300,000의 비용이 든다고 추정합니다.

내부 데이터가 충분하지 않다면, Bloomberg 같은 데이터 제공업체나 Kaggle 같은 데이터 마켓플레이스에서 외부 데이터를 추가로 확보할 수 있습니다.

데이터가 준비되면, 다음 단계는 저장입니다. 데이터 양에 따라 클라우드 데이터 저장소 비용은 월 $1,000~$10,000까지 다양합니다. 새로운 데이터를 수집·처리할수록 클라우드 저장소도 확장 가능해야 합니다.

데이터 거버넌스도 중요한 고려 요소입니다. GDPR 등 법률 준수를 위해 전체 비용의 10~20%를 데이터 보안 및 컴플라이언스 예산으로 잡는 것이 좋습니다.

2. 인프라 비용

맞춤형 AI 솔루션을 선택하거나 오픈소스 모델을 사용할 경우 인프라 비용이 발생합니다. SaaS 플랫폼은 이러한 비용이 월 구독료에 포함되어 있지만, 자체 인프라를 구축하려면 상당한 예산이 필요합니다.

예를 들어, 고성능 NVIDIA GPU(H100)는 개당 $15,000~$40,000의 비용이 듭니다. 대부분의 실제 환경에서는 성능 최적화를 위해 여러 대의 GPU가 필요합니다. 소규모 AI 클러스터도 수십만 달러가 쉽게 소요될 수 있습니다. 또한, 이 클러스터를 운영하기 위한 전기 및 에너지 비용도 전체 비용의 30~40%를 추가로 차지할 수 있습니다.

Google Cloud AI, AWS 등 클라우드 솔루션은 사용량 기반(pay-as-you-go) 요금제로 비용 효율적입니다. GPU 인스턴스 사양에 따라 시간당 $2~$80의 비용이 발생합니다. 예를 들어, a3-highgpu-1g 인스턴스의 H100 80GB GPU는 시간당 약 $11.06, 8개의 H100 80GB GPU가 탑재된 a3-highgpu-8g 인스턴스는 시간당 약 $88.49입니다.

3. 학습 및 개발 비용

대부분의 기업은 AI 모델을 성공적으로 운영하는 데 필요한 개발 비용을 과소평가합니다. 기존 시스템과 연동하기 위한 커스텀 통합, 모델 학습, 그리고 실제 사용 사례에 맞춘 파인튜닝이 필요합니다.

Sunbeam의 CEO Joe Cainey는 “진짜 비용은 토큰(LLM API 호출)이 아니라, 모델을 실제로 쓸 수 있게 만드는 모든 것 — 재시도, 캐싱, 오케스트레이션, 폴백, 평가 등입니다. 토큰당 몇 센트라고만 말하는 건 전체 비용의 절반만 얘기하는 겁니다.”라고 설명합니다.

적합한 개발자를 확보하는 것도 경쟁이 치열해졌습니다. AI 개발자 연봉은 $200,000~$1,000,000+에 이르며, 프로젝트 단위 프리랜서는 경험과 지역에 따라 시간당 $50~$100을 받습니다.

4. 유지보수 비용

AI 도구는 최신 모델, 데이터 환경, 비즈니스 요구 변화에 맞춰 3~6개월마다 업데이트가 필요합니다. 유지보수 작업에는 다음과 같은 것들이 포함될 수 있습니다:

• 성능 모니터링
• 사용자 상호작용 기반 재학습
• 더 나은 결과를 위한 프롬프트나 데이터 조정
• 보안 및 컴플라이언스 업데이트

비즈니스 환경이 매우 통제된 경우가 아니라면, AI 시스템을 정확하게 운영하기 위해 전체 비용의 15~20% 정도를 유지보수 예산으로 잡는 것이 좋습니다.

AI에 얼마나 투자해야 하는가?

AI 솔루션을 결정하기 전에 반드시 고려해야 할 핵심 요소들을 살펴보겠습니다.

비즈니스 규모와 예산

예산 예측은 비즈니스의 규모에 따라 크게 달라질 수 있습니다. IBM의 한 연구에 따르면, 대기업은 연 매출의 약 3%를 AI에 할당할 계획이며, 매출 10억 달러(약 1조 3,000억 원) 기업의 경우 연간 약 3,320만 달러를 투자하는 셈입니다. 반면, 중소기업(SMB) 경영자들은 전체 매출의 5~20%를 AI에 예산으로 책정하고 있다는 조사결과도 있습니다.

중소기업(SMB)

만약 자신의 기업이 SMB라면, 여러 부서를 아우를 수 있는 AI 통합 SaaS 플랫폼으로 시작하는 것이 좋습니다. 예를 들어, Hubspot의 Breeze는 마케팅 분석, 고객 지원, 영업을 위한 AI 자동화 기능을 하나의 도구에 통합해 제공합니다. 이런 통합형 AI 접근 방식은 자체 인프라를 유지하는 것보다 더 나은 투자 대비 효과(ROI)를 얻을 수 있으며, 특히 기술 인력이 제한된 팀에게 적합합니다.

물론, 이러한 결정은 비즈니스의 특성에도 달려 있습니다. 만약 귀사의 비즈니스가 민감한 데이터를 다루거나 AI에 의존하는 운영 구조라면, 맞춤형 모델이 필요할 가능성이 높습니다. 예산과 비즈니스 우선순위에 따라 오픈소스 솔루션을 선택하거나 독자적인 모델을 구축할 수 있습니다.

Coral Protocol의 CEO이자 전 Camel AI 창립 멤버인 Roman Georgio는 이에 대해 이렇게 말했습니다.

“만약 제가 Cursor 같은 SaaS 도구를 만든다면, 최고의 LLM 결과가 제품의 핵심이기 때문에 Claude를 쓰기 위해 조금 더 비용을 지불할 것입니다.

“하지만 AI 기반 CRM에서 단순히 텍스트 요약만 한다면, 비용을 최적화하기 위해 Mistral이나 Qwen 같은 오픈소스 솔루션을 사용할 것입니다.”

엔터프라이즈

엔터프라이즈(대기업)의 AI 예산은 수십억 달러에 이를 수 있습니다. 예를 들어, 오라클은 2025년 1분기에 AI 학습을 지원하는 클라우드 인프라에 30억 달러를 투자했습니다. 이처럼 대규모 기업들은 일반적으로 하이브리드 전략을 채택합니다. 즉, 민감한 데이터에는 자체 인프라와 서드파티 또는 사내 API를 사용하고, 특정 부서에는 Breeze 같은 SaaS 플랫폼을 활용하는 방식입니다.

또한 많은 대기업들은 집단 협상력을 이용해 AI 벤더와 계약을 체결하는데요, 이런 계약은 보통 최소 약정 기간이 있으며, 대량 구매 할인과 새로운 플랫폼 기능에 대한 조기 접근 권한을 제공합니다. 예를 들어, 한 시니어 AI 리더는 약 7,000명 이상의 팀원을 위해 GitHub Copilot 라이선스에 월 10만 달러를 지출한다고 밝혔습니다.

통합의 복잡성

아마 예상하지 못했겠지만, 시스템을 AI에 맞게 준비하는 데 드는 비용이 실제 AI 솔루션 자체 비용만큼(혹은 그 이상) 들 수 있습니다. AI를 도입하려면 기존 시스템의 비효율성을 먼저 해결해야 하죠.

데이터 품질이 나쁜가요? 우선 표준화 작업을 통해 비용과 AI의 환각(hallucination) 위험을 줄여야 합니다. 시스템이 분리되어 있다면, AI 도구와의 맞춤형 통합을 구축해야 합니다.

시스템 표준화는 단순히 AI 도입을 위한 비용이 아닙니다. 효율적인 리포팅, 더 쉬운 교육, 향후 원활한 통합 등 전반적인 운영 효율성도 함께 개선됩니다.

따라서, 통합 비용을 예산에 반드시 포함시키되, 전체적인 비즈니스 가치도 함께 고려해야 합니다.

리스크 허용도

또 하나 고려해야 할 점은 자사의 리스크 허용도입니다. 스탠다드차타드의 시니어 AI 개발 매니저인 Souvik Roy는 금융 데이터를 다루는 만큼 이 부분이 매우 중요하다고 강조합니다.

“어떤 프로세스를 자동화하기 전에, 가장 먼저 고려하는 것은 잠재적 피해가 되돌릴 수 있는가입니다. 자동화를 시도하다가 규제 위반이나 벌금 위험에 처하고 싶지 않거든요.”라고 그는 말했습니다.

예를 들어, 모델이 “You have to…” 대신 “You must…”를 생성한다면, 보통은 큰 차이가 없지만, 법률이나 금융과 같은 산업에서는 치명적인 오해로 이어질 수 있습니다.

리스크 허용도가 낮은 기업은 안전장치, 테스트, 인간의 감독 등에 추가 예산을 배정해야 합니다.

AI 솔루션에 투자해야 할 때와 그렇지 않을 때

AI 비용을 조사하면서 한 가지 뚜렷한 패턴을 발견했습니다. AI는 점차 소규모 부서 단위의 실험에서 조직 전체의 혁신을 이끄는 방향으로 이동하고 있습니다.

이제 기업들은 “AI를 도입해야 할까?”가 아니라 “어떻게 AI를 통합할까?”를 고민합니다.

Hubspot Breeze 같은 관리형 솔루션이든, API 호출을 활용한 맞춤형 구현이든, 각 비즈니스 단계에 맞는 AI 솔루션이 존재합니다. Hubspot의 State of AI Marketing Report에 따르면, AI를 도입한 기업의 75%가 긍정적인 투자 수익률(ROI)을 경험했다고 하는데요,

AI 솔루션 통합을 위한 3단계 의사결정 트리는 다음과 같습니다.

1. 인력(헤드카운트)이 늘어날수록 업무량이 선형적으로 증가하는가?
2. 모델이 처리할 수 있을 만큼 예측 가능성이 높은가?
3. 5% 정도의 오차(실패)가 발생해도 안전한가?

이 세 가지 모두 ‘예’라면, AI 도입 로드맵에 올려도 좋습니다. 그렇지 않다면, 해당 업무는 사람이 주도하거나 아예 생략하는 것이 바람직합니다.

그래서 결론은?

모든 비즈니스 프로세스에 AI를 무조건 자동화하거나 도입하려는 유혹을 이겨내야 합니다. 우선 소규모로 시작해 사용성과 효과를 측정한 뒤, 투자 수익률(ROI)이 검증되면 AI 투자를 점진적으로 확대하는 것이 현명합니다.

 

자료 및 기타 상담 문의: parkmg85@hanmail.net

멀티모달 AI란? 2025년을 위한 총 정리

(참조 자료: Multimodal AI: Complete overview 2025)

이제는 기술이 단순히 사람의 목소리나 텍스트만 인식하는 것뿐만 아니라, 표정이나 주변의 세밀한 요소까지 파악하는 세상에 살고 있습니다. 이것이 바로 멀티모달 AI로, 이는 이미지, 소리, 단어 등 다양한 형태의 데이터를 동시에 처리하는 기술을 말합니다. 이러한 기술 덕분에 인류는 기술과의 일상적인 상호작용을 친구와 대화하듯 쉽고 자연스럽게 할 수 있게 되었습니다.

멀티모달 AI의 여정은 2023년에 출시된 GPT-4에서 시작되었는데요, GPT-4는 텍스트와 이미지를 동시에 효과적으로 다룬 최초의 모델이었습니다. 최신 멀티모달 모델인 GPT-4o Vision은 한층 더 나아가, 매우 생생한 상호작용을 만들어내고 있습니다. 특히 지난 1년은 멀티모달 AI에게 있어 큰 도약의 시기로, 2024년 생성형 AI 트렌드 중 가장 주목받는 분야로 자리 잡았습니다.

멀티모달 AI 시장은 2023년 기준 약 12억 달러(USD 1.2 billion)로 평가되고 있으며, 2024년부터 2032년까지 연평균 30% 이상의 높은 성장률(CAGR)이 예상됩니다. 이는 멀티모달 기술이 앞으로 얼마나 뜨거운 분야가 될지 보여주는 지표입니다

멀티모달 AI는 기업들이 각자의 니즈에 맞게 맞춤화하면서 비즈니스 필수 도구로 빠르게 자리 잡고 있습니다. 예를 들어, 소매점에서는 스마트 쇼핑 어시스턴트가 고객이 관심을 가지는 상품을 직접 보고 반응해줍니다. 또한 고객 서비스 분야에서는 가상 어시스턴트가 고객의 말뿐 아니라 감정까지 파악할 수 있어 더욱 정교한 응대가 가능해집니다. 이러한 이유로 기업들은 멀티모달 생성형 AI를 비즈니스 운영에 적극적으로 도입하고 있습니다.

이 글에서는 멀티모달 AI가 무엇인지, 대형 멀티모달 모델이 어떻게 작동하고 학습되는지 살펴보겠습니다.

멀티모달 AI란?

멀티모달 AI는 이미지, 소리, 텍스트 등 여러 유형의 데이터를 동시에 처리하고 통합하는 인공지능의 한 종류입니다. 머신러닝에서 ‘모달리티’란 특정한 종류의 데이터를 의미하는데요,

이처럼 다양한 데이터 유형을 결합함으로써, 멀티모달 AI는 단일 데이터만 처리하는 기존 AI가 할 수 없는 복합적인 작업을 수행할 수 있습니다. 예를 들어, 사진을 분석하고, 그 사진에 대한 음성 지시를 이해하며, 이에 대한 설명을 텍스트로 생성하는 것이 가능합니다. 이러한 특성 덕분에 멀티모달 AI는 고객 서비스부터 첨단 보안 시스템까지 다양한 분야에서 매우 유용하게 활용되고 있습니다.

멀티모달 AI vs. 유니모달(Unimodal) AI

멀티모달 AI와 유니모달(단일 모달) AI를 비교할 때, 핵심적인 차이는 데이터 처리 방식에 있습니다. 유니모달 AI 시스템은 한 번에 한 가지 유형의 데이터만 처리합니다. 예를 들어, 텍스트만 다루거나 이미지만 분석하는 식으로, 특정 영역에 특화되어 있지만 적용 범위에는 한계가 있습니다.

반면, 멀티모달 AI는 이미지, 텍스트, 음성 등 여러 유형의 데이터를 동시에 처리하고 통합할 수 있습니다. 이 덕분에 더 복잡한 상황을 이해하고, 더 풍부하고 포괄적인 답변을 제공할 수 있는데요, 예를 들어, 멀티모달 AI는 사진을 분석하면서 동시에 사진에 대한 음성 설명을 이해하고, 이에 대해 텍스트로 응답할 수 있습니다. 이러한 능력은 인간이 시각, 청각 등 다양한 감각을 통해 세상을 인식하는 방식과 유사하며, 복잡한 맥락을 파악하는 데 큰 강점이 있습니다.

아래 표는 두 기술의 주요 차이점을 요약한 것입니다.

특성	유니모달 AI	멀티모달 AI
데이터 처리	한 가지 데이터 유형만 처리	여러 데이터 유형을 동시에 처리
맥락 이해	제한적	다양한 데이터 소스를 통한 풍부한 맥락 이해
적용 범위	특정 영역에 제한됨	다양한 영역에 적용 가능
구조	상대적으로 단순	복잡한 아키텍처와 데이터 통합 매커니즘 필요
성능	단일 작업에서 최적화	복합적 작업에서 우수한 성능

이처럼 멀티모달 AI는 더 자연스럽고 인간에 가까운 상호작용을 가능하게 하며, 앞으로 다양한 분야에서 혁신을 이끌 핵심 기술로 주목받고 있습니다.

멀티모달 AI가 어떻게 작동되는가?

보통 멀티모달 AI 시스템은 세 가지 구성 요소를 포함합니다:

• 입력 모듈(Input module): 입력 모듈은 여러 개의 유니모달 신경망으로 구성됩니다. 각 네트워크는 서로 다른 유형의 데이터를 처리하며, 이들이 모여 입력 모듈을 만듭니다.
• 퓨전 모듈(Fusion module): 입력 모듈이 데이터를 수집한 후에는 퓨전 모듈이 그 역할을 이어받습니다. 이 모듈은 각 데이터 유형에서 들어오는 정보를 처리합니다.
• 출력 모듈(Output module): 이 마지막 구성 요소가 결과를 제공합니다.

본질적으로, 멀티모달 AI 시스템은 다양한 입력을 처리하기 위해 여러 단일 모드 네트워크를 사용하고, 이러한 입력을 통합하며, 들어오는 데이터의 특성에 따라 결과를 산출하게 됩니다.

멀티모달리티는 텍스트-이미지(text-to-image), 텍스트-오디오(text-to-audio), 오디오-이미지(audio-to-image), 그리고 이 모든 것들이 결합된 형태(+text-to-text) 등 여러 방식으로 표현될 수 있는데요, 주목할 점은, 본질적으로 멀티모달 모델은 고려하는 특정 모달리티에 관계없이 유사한 작동 원리를 공유한다는 것입니다. 이러한 유사성 때문에, 한 가지 모달리티 유형인 텍스트-이미지에 집중할 것이며, 이는 다른 모달리티에도 큰 그림을 일반화할 수 있습니다.

하지만 멀티모달리티는 실제로 어떻게 작동될까요? 본 글에서는 텍스트-이미지를 중심으로 자세히 살펴보겠습니다

텍스트-이미지 모델(Text-to-image models)

텍스트-이미지 변환 모델은 확산(diffusion) 과정으로 시작하며, 이 과정은 초기에 **가우시안 노이즈(Gaussian noise)**라고 불리는 무작위 패턴에서 이미지를 생성합니다. 초기 확산 모델의 일반적인 문제점은 방향성 부재였습니다. 이 모델들은 종종 명확한 초점 없이 어떤 이미지든 생성할 수 있었습니다.

이러한 모델을 더 유용하게 만들기 위해, 텍스트-이미지 기술은 텍스트 설명을 도입해 이미지 생성 과정을 유도합니다. 예를 들어 모델에 “개(dog)”라는 단어를 제공하면, 텍스트를 활용해 노이즈를 인식 가능한 개 이미지로 변환합니다.

핵심 원리는 다음과 같습니다: 텍스트와 이미지는 동일한 개념을 표현할 수 있습니다. 예를 들어 “개”라는 단어와 개 사진은 모두 동일한 개념을 가리킵니다.

작동 단계 요약

1. 확산 과정 초기화: 가우시안 노이즈(무작위 패턴)에서 시작합니다.
2. 텍스트 임베딩: 입력된 텍스트(예: “개”)를 벡터 형태로 변환해 의미를 추출합니다.
3. 노이즈 유도: 텍스트 임베딩을 통해 노이즈를 점진적으로 목표 이미지 형태로 조정합니다.
4. 이미지 생성: 최종적으로 텍스트와 의미적으로 일치하는 이미지를 출력합니다.

이 과정에서 텍스트는 노이즈를 방향성 있게 변형하는 가이드 역할을 하며, 이를 통해 모델은 무작위성이 아닌 의도된 결과를 생성할 수 있습니다.

텍스트-이미지 변환 기술은 텍스트와 이미지를 그 내재된 의미를 포착하는 수학적 벡터로 변환합니다. 이를 통해 모델이 텍스트를 이해하고 적절한 이미지와 매칭할 수 있게 됩니다.

텍스트-이미지 모델은 어떻게 학습되는가?

예를 들어, 이러한 모델을 훈련하는 데 사용되는 기술을 RLHF(대규모 사전 훈련 이후에 수행됨)라고 합니다.

시작해 보겠습니다. 이미지 각각에 캡션이 연결된 데이터셋이 있다고 가정해 보세요. 각 쌍(예: 개, 고양이, 기린)에 대해 텍스트와 이미지를 각각의 인코더로 처리합니다. 이는 각 이미지-캡션 쌍에 대한 한 쌍의 벡터를 생성하게 됩니다.

학습 과정은 이러한 벡터를 조정하여 동일한 개념을 나타낼 때 더 밀접하게 정렬되도록 하는 것입니다. 벡터 간의 거리를 측정하는 코사인 유사성이라는 방법을 사용해볼 텐데, 일치해야 하는 쌍에 대한 유사성을 극대화함으로써 동일한 개념에 대한 벡터가 공간 내에서 같은 방향을 가리키도록 보장합니다. 이는 방향에 모델 내에서 특정 의미를 부여하게 되죠.

반대로 일치하지 않아야 하는 쌍(예: 개 텍스트와 기린 이미지)에 대해서는 유사성을 최소화합니다. 데이터셋의 모든 조합에 대해 이 과정을 반복하며, 텍스트와 이미지를 동일한 개념적 공간에 효과적으로 매핑하도록 모델을 훈련시킵니다.

이 학습 과정이 바로 확산 모델이 작동하는 방식의 핵심입니다. 이미지를 생성할 때 모델은 입력 텍스트를 이 의미 공간에 임베딩하고, 텍스트 벡터를 시각적 벡터로 변환한 후 이 시각적 벡터를 디코딩하여 최종 이미지를 생성하게 됩니다.

오디오-이미지 모델(Audio-to-image models)

오디오를 이미지로 변환하는 것은 간단해 보일 수 있지만, 실제로는 상당히 복잡한 과정입니다. 현재 오디오를 이미지로 직접 변환하는 단일 모델은 존재하지 않는데요, 대신 이를 가능하게 하기 위해 세 가지 멀티모달 모델을 포함하는 일련의 단계를 사용하게 됩니다.

먼저, 오디오 입력으로 시작합니다. 예를 들어, 누군가가 장면을 묘사하는 것입니다. 이 오디오는 직접 이미지로 변환되지 않습니다. 대신, 먼저 텍스트로 변환되는데, 이는 텍스트가 서로 다른 형태의 데이터를 연결하는 보편적인 매체 역할을 하기 때문입니다. 이는 텍스트가 전달할 수 있는 명확성과 세부 사항 때문이며, 이는 다음 단계에 중요합니다.

일단 텍스트를 얻으면, 이를 이미지 생성 과정을 안내하는 데 사용합니다. 모델이 텍스트 또는 이미지를 출력할지 여부를 정확히 어떻게 결정하는지에 대한 과정은 아직 완전히 투명하지 않으며, 세부 사항은 널리 공유되지 않았습니다.

그러나 모델이 학습 단계에서 이미지와 텍스트를 모두 출력하도록 훈련되는 구성 요소가 있을 수 있습니다. 사용자는 이러한 출력물과 상호작용하며 자신의 니즈에 가장 잘 맞는 것을 선택합니다. 이러한 상호작용은 모델이 시간이 지남에 따라 다양한 시나리오에서 어떤 유형의 출력(텍스트 또는 이미지)이 기대되는지 학습하는 데 도움이 됩니다.

이 방법을 사용함으로써, 모델은 점차 사용자의 기대를 예측하고 충족시키는 데 더 능숙해지며, 가능한 한 정확하고 관련성 높은 이미지를 오디오 입력에서 생성하게 됩니다.

비즈니스의 멀티모달 AI 활용 사례

멀티모달 AI는 텍스트, 이미지, 오디오와 같은 다양한 유형의 데이터를 결합해 더 스마트한 의사결정을 내리며 비즈니스 운영 방식을 변화시키고 있습니다. 기업들이 이 기술을 활용하는 주요 사례는 다음과 같습니다:

• 고객 서비스: 멀티모달 AI는 고객의 음성 톤, 표정, 작성된 단어를 분석해 감정과 의도를 더 잘 이해하도록 지원합니다. 이를 통해 개인화되고 효과적인 상호작용이 가능해지며, 고객 만족도가 향상됩니다. 예를 들어 Uniphore의 대화형 AI 플랫폼은 멀티모달 분석을 활용해 콜센터 성과와 고객 경험을 향상시켜 줍니다.
• 문서 변환/추출: 생성형 멀티모달 AI는 스캔한 이미지, PDF, 손글씨 메모 등 다양한 문서 유형을 구조화된 활용 가능한 데이터로 자동 변환시켜줍니다. 이 기술은 고급 OCR(광학 문자 인식)과 NLP(자연어 처리)를 결합해 텍스트를 변환할 뿐 아니라 문맥을 이해해 데이터의 유용성을 높여주는데요, Azure AI 문서 인텔리전스가 대표적인 예시로, 양식과 문서에서 정보를 추출하는 과정을 단순화해 인보이스, 영수증, 계약서 처리 효율성을 높여줍니다.
• 소매: 소매 분야에서는 멀티모달 AI가 고객의 이전 구매 기록, 브라우징 이력, 소셜 미디어 활동을 분석해 구매 가능성이 높은 제품을 추천하는 맞춤형 쇼핑 경험을 제공합니다. Amazon의 StyleSnap 기능은 컴퓨터 비전과 NLP를 활용해 업로드된 이미지를 기반으로 패션 아이템을 추천하는 사례가 대표적입니다.

• 보안: 보안 시스템은 멀티모달 AI를 통해 비디오와 오디오 데이터를 동시에 분석해 위협을 더 정확하게 탐지해주는데요, 비정상적인 행동과 스트레스 받은 목소리를 식별해 보안 사고에 대한 신속하고 정확한 대응을 가능하게 합니다.
• 제조: 제조 분야에서는 멀티모달 AI가 시각 및 센서 데이터를 활용해 장비를 모니터링할 수 있습니다. 이를 통해 기계 고장 가능성을 예측해 시기적절한 유지보수를 수행하고 생산 라인의 원활한 운영을 유지할 수 있습니다.

주요 멀티모달 AI 모델들

• GPT-4o (OpenAI): 이 모델은 텍스트, 이미지, 오디오를 처리합니다. 대화 중 다양한 입력 유형을 자연스럽게 혼합해 맥락을 인지하는 상호작용을 가능하게 하는 데 뛰어납니다.
• Claude 3 (Anthropic): 텍스트와 이미지를 처리하는 이 모델은 차트, 다이어그램, 사진과 같은 시각 정보를 인식하는 데 탁월한 성능을 보입니다.
• Gemini (Google): Google DeepMind가 개발한 이 모델은 텍스트, 이미지, 오디오, 비디오를 처리했으나, 이미지 생성 기능은 최근 타당한 이유로 일시 중단되었습니다.
• DALL-E 3 (OpenAI): 텍스트-이미지 생성에 특화된 이 모델은 복잡한 텍스트 프롬프트를 해석해 특정 예술 스타일을 정확하게 포착하는 이미지를 생성합니다.
• LLaVA (Large language and vision assistant): 시각과 언어 이해를 결합한 이 시스템은 오픈 소스로, 누구나 기여하거나 수정할 수 있습니다.
• PaLM-E (Google): 시각 및 텍스트 데이터를 지속적인 관찰 정보(이미지, 상태 정보 등)와 결합하는 고급 언어 모델입니다.
• ImageBind (Meta): 이미지, 텍스트, 오디오, 깊이, 열, IMU 데이터 등 6가지 모달리티를 처리하며 다각적 정보 연결 및 이해에 강점을 가집니다.
• CLIP (OpenAI): 텍스트와 이미지를 연결하는 이 모델은 다양한 이미지 분류 작업을 특별한 훈련 없이 처리할 수 있는 제로샷 학습 능력으로 유명합니다.

멀디모달 AI의 리스크

스탠퍼드 인간 중심 인공지능 연구소(HAI)의 보고서는 DALL-E와 같은 멀티모달 모델이 발전함에 따라 더 높은 품질의 기계 생성 콘텐츠를 생산할 수 있게 될 것이라고 예측하고 있습니다. 그러나 이는 부적절한 콘텐츠 사용을 용이하게 할 수 있다는 우려를 불러일으키게 되는데요, 예를 들어, 특정 정치 집단, 국가 또는 종교 공동체를 대상으로 한 오해의 소지가 있는 콘텐츠 제작에 악용될 수 있습니다. 유명인 딥페이크 영상을 본 적이 있나요? 이는 극도로 현실적이며 멀티모달 AI의 위험성이 얼마나 큰지 보여줍니다. 멀티모달 AI의 주요 위험 요소는 다음과 같습니다:

1. 개인정보 보호 문제: 이 시스템은 음성, 이미지, 텍스트를 포함한 방대한 개인 데이터를 처리합니다. 이러한 심층적인 개인 정보 접근은 강력한 안전장치가 마련되지 않을 경우 중대한 프라이버시 문제를 초래합니다.
2. 데이터의 오해석 위험: 멀티모달 AI는 다양한 출처의 정보를 종합하는 능력이 뛰어나지만 완벽하지는 않습니다. 결합된 데이터의 뉘앙스를 잘못 해석해 잘못된 또는 유해한 결과를 초래할 실제적인 위험이 존재합니다.
3. AI 모델의 편향성: 모든 AI와 마찬가지로 멀티모달 시스템은 훈련 데이터에 내재된 기존 편향을 재생산할 수 있습니다. 복잡한 데이터 처리로 인해 이러한 편향이 다양한 플랫폼에서 공정성과 형평성에 영향을 미칠 수 있습니다.
4. 관리 복잡성 증가: 멀티모달 AI 시스템의 고도화된 특성은 단순한 유니모달 시스템보다 관리와 유지보수를 더 어렵게 만듭니다. 이 복잡성은 높은 운영 비용과 일관된 성능 유지의 어려움으로 이어질 수 있습니다.
5. 기술 의존성: 멀티모달 AI의 정교함은 인간의 판단과 기술을 희생시키며 일상생활에서 기술에 대한 과도한 의존을 초래할 수 있습니다. 이 의존성은 의사결정 방식을 재구성해 독립성과 비판적 사고 능력에 영향을 미칠 수 있습니다.

결론

멀티모달 AI에 대한 논의를 마무리하면서, 이 기술이 AI 산업의 운영 방식을 근본적으로 변화시키고 있다는 점을 알 수 있는데요, 이미지, 텍스트, 오디오와 같은 다양한 데이터 유형을 결합함으로써, 멀티모달 AI는 고객 서비스부터 소매, 보안에 이르기까지 상호작용을 더욱 직관적이고 개인의 니즈에 맞게 커스터마이징됩니다.

하지만 멀티모달리티에는 큰 책임이 따릅니다. 개인정보 보호, 잠재적인 데이터 오해석, 편향성에 유의하여 윤리적으로 이 기술을 활용해야 할 것입니다.

 

자료 및 기타 상담 문의: parkmg85@hanmail.net

RAG 아키텍처의 이해

(참조 자료: Understanding RAG architecture and its fundamentals)

인공지능(AI) 에이전트와 에이전틱 AI. 이 용어들은 혼란스럽습니다. 특히 관련 업계가 아직 이들을 개발하고 배포하는 방법에 대한 합의를 이루지 못한 상황에서는 더욱 그런데요,

이것들은 특히 2023년 이후 IT 업계에서 광범위한 합의를 이룬 검색 증강 생성(RAG) 아키텍처의 경우에는 훨씬 덜 적용됩니다. 검색을 통한 증강 생성은 생성형 AI 모델의 결과가 진실에 기반을 두도록 하는데, 이 방법이 환각 현상을 완전히 방지하지는 못하지만, 기업의 내부 데이터나 검증된 지식 기반의 정보를 바탕으로 관련성 높은 답변을 얻는 것을 목표로 하기 때문입니다.

이를 생성형 AI와 기업용 검색 엔진의 교차점으로 요약할 수 있습니다.

RAG 아키텍처란?

RAG 시스템의 프로세스는 넓은 의미에서는 이해하기 간단한데요, 이는 사용자가 프롬프트(질문 또는 요청)를 전송하는 것으로 시작됩니다. 이 자연어 프롬프트와 연관된 쿼리는 지식 기반의 콘텐츠와 비교되는데, 요청과 가장 유사한 결과가 관련성 순위로 정렬된 후, 전체 프로세스가 LLM(대규모 언어 모델)로 전달되어 최종적인 답변을 생성하고 사용자에게 반환됩니다.

RAG를 도입한 기업들은 해당 접근법의 세부 사항을 파악하게 되었는데, 이는 RAG 메커니즘을 구성하는 다양한 구성 요소 지원부터 시작됩니다. 이러한 구성 요소는 데이터를 소스 시스템에 수집하는 단계부터 LLM을 활용한 응답 생성에 이르기까지 데이터 변환에 필요한 단계들과 연관되어 있습니다.

핵심 프로세스 요약

1. 사용자 프롬프트 입력: 자연어 형태의 질문/요청 전송
2. 지식 기반 검색: 벡터 임베딩 기반 유사도 분석을 통해 관련 문서 추출
3. 관련성 순위 매기기: 코사인 유사도(Cosine Similarity) 등 알고리즘으로 순위 결정
4. LLM 기반 답변 생성: 검색된 문서를 컨텍스트로 활용해 정확한 답변 생성
5. 최종 출력 반환: 사용자에게 신뢰할 수 있는 응답 제공

주요 구성 요소

• 데이터 수집 파이프라인: 구조화/비구조화 데이터 통합
• 전처리 시스템: 청킹(Chunking), 벡터 임베딩 변환
• 벡터 데이터베이스: FAISS, Pinecone 등 유사도 검색 엔진
• 검색-생성 연동 모듈: LangChain, LlamaIndex 등의 프레임워크 활용
• LLM 통합 계층: GPT, Claude 등 생성 모델과의 인터페이스

이 아키텍처는 기업이 도메인 특화 지식과 LLM의 생성 능력을 결합해 환각(Hallucination)을 줄이고 정확성을 높이는 핵심 메커니즘이라 할 수 있습니다.

데이터 준비, RAG를 사용하더라도 필수적인 요소

RAG 시스템 구축의 첫 단계는 검색하고자 하는 문서를 수집하는 것인데요, 모든 문서를 무작정 수집하고 싶어질 수 있지만, 이는 잘못된 전략입니다. 특히 시스템을 배치(batch)로 업데이트할지, 지속적으로(continuous) 업데이트할지 결정해야 하기 때문입니다.

RAG의 성공여부는 입력 데이터의 품질에서 비롯됩니다. 누군가 ‘문서가 200만 개 있는데, 3주 안에 RAG를 만들어 주세요’라고 말한다면, 당연히 그렇게는 될 수가 없습니다. 머신러닝 맥락에서는 잘 이해됐던 정제(refinement) 개념이 생성형 AI에서는 종종 잊혀지는 경우가 있는데요, 생성형 AI가 모두 초코파이가 되는 건 아닙니다.

LLM은 본질적으로 데이터 준비 도구가 아닙니다. 중복 문서와 중간 버전의 문서를 제거하고, 최신 항목을 선택하는 전략을 적용하는 것이 바람직합니다. 이러한 사전 선택(pre-selection)은 시스템에 불필요한 정보를 과도하게 주입하는 것을 방지하고, 성능 저하도 막을 수 있습니다.

문서가 선정되면, 로우 데이터(HTML 페이지, PDF 문서, 이미지, doc 파일 등)를 사용할 수 있는 형식, 예를 들어 텍스트와 관련 메타데이터가 포함된 JSON 파일 등으로 변환해야 합니다. 이 메타데이터는 데이터의 구조뿐 아니라 작성자, 출처, 생성일 등도 문서화할 수 있는데요, 이렇게 포맷된 데이터는 이후 토큰과 벡터로 변환됩니다.

특히 퍼블리셔들은 대량의 문서와 긴 텍스트를 다룰 때 전체 문서를 벡터화하는 것이 비효율적이라는 사실을 깨달았습니다.

청킹(chunking) 전략

위와 같은 이유로 인해 따라서 “청킹(chunking)” 전략을 구현하는 것이 중요합니다. 청킹은 문서를 짧은 추출물로 분할하는 것을 의미하는데요, Mistral AI에 따르면, 이는 “검색 과정에서 가장 관련성 높은 정보를 식별하고 검색하기 쉽게 만든다”고 합니다.

여기에는 두 가지 고려 사항이 있습니다. 바로 조각의 크기와 그것을 얻는 방식입니다.

청크의 크기는 종종 문자 수나 토큰 수로 표현되는데, 더 많은 청크를 만들면 결과의 정확도가 향상되지만, 벡터가 많아질수록 이를 처리하는 데 필요한 자원과 시간이 증가합니다. 텍스트를 청크로 나누는 방법에는 아래와 같이 여러 가지가 있습니다.

• 첫 번째는 고정 크기 조각(문자, 단어, 토큰 단위)으로 자르는 것입니다. 이 방법은 간단하기 때문에 데이터를 빠르게 탐색해야 하는 데이터 처리 초기 단계에서 인기 있는 선택지입니다.
• 두 번째 접근법은 의미론적 분할, 즉 “자연스러운” 분할입니다. 예를 들어 문장별, 섹션별(HTML 헤더로 정의), 주제별, 단락별로 나누는 것입니다. 구현은 더 복잡하지만 이 방법이 더 정밀한데요, 이는 종종 재귀적 접근에 의존하는데, 공백, 쉼표, 마침표, 헤딩 등 논리적 구분자를 사용하는 것이기 때문입니다.
• 세 번째 접근법은 앞의 두 가지를 결합한 것입니다. 하이브리드 청킹은 매우 정밀한 응답이 필요한 경우, 초기 고정 분할에 의미 기반 방법을 결합합니다.
이러한 기술 외에도, 청크 일부의 내용이 겹칠 수 있다는 점을 고려해 조각을 서로 연결할 수 있습니다.

LLM 플랫폼 Cohere의 문서에 따르면, “오버랩(overlap)은 세그먼트 사이에 항상 여유 공간을 남겨두어, 초기 청킹 전략에 따라 분할되어도 중요한 정보를 포착할 가능성을 높여준다”고 합니다. 다만 이 방법의 단점은 중복성이 발생한다는 점입니다.

가장 널리 사용되는 솔루션은 100200단어의 고정 조각을 유지하면서, 청크 간 내용의 2025%를 오버랩시키는 것입니다. 이러한 분할은 종종 SpaCy나 NLTK 같은 파이썬 라이브러리, 또는 LangChain 프레임워크의 “text splitters” 도구를 사용해 수행됩니다.

적절한 접근법은 일반적으로 사용자가 요구하는 정밀도에 따라 달라집니다. 예를 들어, 법률 문서의 조항처럼 특정 정보를 찾는 것이 목적이라면 의미 기반 분할이 더 적합해 보입니다.

청크의 크기는 임베딩 모델의 용량에 맞아야 하는데요, 바로 이것이 청킹이 처음부터 필요한 이유입니다. Microsoft 문서에 따르면, 이는 “임베딩 모델의 입력 토큰 한도를 초과하지 않게 해준다”고 설명하고 있습니다. 예를 들어, Azure OpenAI text-embedding-ada-002 모델의 입력 텍스트 최대 길이는 8,191 토큰입니다. 현재 OpenAI 모델에서 토큰 하나는 평균 약 네 글자에 해당하므로, 이 최대 한도는 약 6,000단어에 해당됩니다.

벡터화 및 임베딩 모델

임베딩 모델은 청크나 문서를 벡터로 변환하는 역할을 합니다. 이 벡터들은 데이터베이스에 저장되는데요, 여기서도 여러 유형의 임베딩 모델이 있는데, 주로 밀집(dense) 모델과 희소(sparse) 모델이 있습니다.

밀집 모델은 일반적으로 고정 크기의 벡터를 생성하며, x개의 차원으로 표현됩니다. 후자는 입력 텍스트의 길이에 따라 크기가 달라지는 벡터를 생성합니다. 세 번째 접근법은 이 둘을 결합하여 짧은 추출물이나 코멘트를 벡터화합니다(Splade, ColBERT, IBM sparse-embedding-30M 등).

차원 수의 선택은 결과의 정확도와 속도를 결정하는데, 차원이 많은 벡터는 더 많은 맥락과 뉘앙스를 포착할 수 있지만, 생성 및 검색에 더 많은 자원이 필요할 수 있습니다. 차원이 적은 벡터는 정보가 덜 풍부하지만 검색 속도가 더 빠릅니다.

임베딩 모델의 선택은 또한 벡터가 저장될 데이터베이스, 연동될 대형 언어 모델, 그리고 수행할 작업에 따라 달라집니다. MTEB 순위와 같은 벤치마크는 매우 유용합니다. 때로는 동일한 LLM 컬렉션에 속하지 않은 임베딩 모델을 사용할 수도 있지만, 문서 베이스와 사용자 질문을 벡터화할 때는 반드시 같은 임베딩 모델을 사용해야 합니다.

임베딩 모델이 특정 도메인(예: 종양학, 시스템 엔지니어링)과 관련된 언어 지식을 충분히 포함하지 않을 경우, 임베딩 모델을 파인튜닝하는 것이 유용할 수 있다는 점도 참고해야 합니다.

벡터 데이터베이스와 리트리버 알고리즘

벡터 데이터베이스는 단순히 벡터를 저장하는 것 이상의 기능을 수행합니다. 일반적으로 최근접 이웃(nearest-neighbour) 기법을 기반으로 한 의미론적 검색 알고리즘을 통합해 정보를 인덱싱하고 질문에 해당하는 정보를 검색하는데요, 대부분의 업체는 HNSW(Hierarchical Navigable Small Worlds) 알고리즘을 구현했습니다.

마이크로소프트는 정확도를 희생하는 대신 대량의 벡터를 처리할 때 이상적인 성능-비용 비율을 얻기 위해 설계된 오픈소스 알고리즘인 DiskANN으로도 영향력을 행사하고 있고. 구글은 대량 데이터 처리에도 적합한 자체 모델인 ScANN을 개발하기로 선택했습니다. 검색 프로세스는 벡터 그래프의 차원을 탐색하여 가장 가까운 근사 이웃을 찾는 것을 포함하며, 코사인 또는 유클리드 거리 계산을 기반으로 합니다.

코사인 거리는 의미론적 유사성을 식별하는 데 더 효과적인 반면, 유클리드 방식은 더 단순하지만 컴퓨팅 자원 측면에서 덜 부담이 됩니다.
대부분의 데이터베이스가 최근접 이웃에 대한 근사 검색을 기반으로 하기 때문에, 시스템은 답변에 해당할 수 있는 여러 벡터를 반환합니다. 결과 수를 제한하는 것(top-k cutoff)이 가능합니다. 이는 사용자의 쿼리와 답변 생성에 사용되는 정보가 LLM 컨텍스트 창에 맞도록 하기 위해 필요합니다. 그러나 데이터베이스에 매우 많은 수의 벡터가 포함된 경우, 정밀도가 떨어지거나 찾고자 하는 결과가 설정된 한계를 벗어날 수 있습니다.

하이브리드 검색 및 순위 재조정

BM25와 같은 전통적인 검색 모델을 HNSW 유형의 검색기와 결합하는 것은 비용 대비 성능 측면에서 유용할 수 있지만, 반환되는 결과 수가 제한될 수 있습니다. 특히 HNSW 모델과 BM25의 결합(하이브리드 검색으로도 알려짐)을 지원하지 않는 벡터 데이터베이스가 많기 때문입니다.

**리랭커(Reranker)**는 응답에 유용하다고 판단되는 콘텐츠를 더 많이 찾는 데 도움을 줄 수 있습니다. 이는 “검색기” 모델이 반환하는 결과의 제한을 늘리는 것을 포함합니다. 그런 다음 이름에서 알 수 있듯이, 리랭커는 질문과의 관련성에 따라 청크를 재정렬합니다. 리랭커의 예로는 Cohere Rerank, BGE, Janus AI, Elastic Rerank 등이 있습니다. 반면, 이러한 시스템은 사용자에게 반환되는 결과의 지연 시간을 증가시킬 수 있습니다. 또한 문서 기반에서 사용된 용어가 특정 분야에 한정된 경우 이 모델을 재교육해야 할 수 있습니다. 그러나 일부에서는 관련성 점수가 RAG 시스템의 성능을 감독하는 데 유용한 데이터라고 평가합니다.

리랭커 사용 여부와 관계없이, 응답을 LLM에 전송해야 합니다. 여기서도 모든 LLM이 동일하지 않습니다. 컨텍스트 창 크기, 응답 속도, 문서 접근 없이도 사실에 기반한 답변 능력 등은 모두 평가해야 할 기준입니다. 이러한 측면에서 Google DeepMind, OpenAI, Mistral AI, Meta, Anthropic은 이 사용 사례를 지원하기 위해 자체 LLM을 학습해 왔습니다.

평가 및 관찰

리랭커 외에도, LLM을 판정자로 사용하여 결과를 평가하고 응답을 생성해야 하는 LLM의 잠재적인 문제를 식별할 수 있습니다. 일부 API는 대신 규칙에 의존하여 특정 사용자의 유해한 콘텐츠나 기밀 문서 접근 요청을 차단합니다. 의견 수집 프레임워크 또한 RAG 아키텍처를 정교하게 다듬는 데 사용할 수 있습니다. 이 경우, 사용자는 RAG 시스템의 긍정적, 부정적 측면을 식별하기 위해 결과를 평가하도록 초대받습니다. 마지막으로, 비용, 보안, 성능 문제를 피하기 위해 각 구성 요소의 가시성(observability)이 필요합니다.

 

거대 언어 모델(LLM)이란?

(참조 자료: What are large language models (LLMs)?)

거대 언어 모델(LLM)은 딥러닝 기술과 방대한 데이터 세트를 활용해 새로운 콘텐츠를 이해하고, 요약하며, 생성하고, 예측하는 인공지능 알고리즘의 한 종류입니다. 생성형 AI라는 용어도 LLM과 밀접하게 연결되어 있는데, 실제로 LLM은 텍스트 기반 콘텐츠 생성을 돕기 위해 특별히 설계된 생성형 AI의 한 유형입니다.

수천 년에 걸쳐 인간은 의사소통을 위해 구어를 발전시켜 왔습니다. 언어는 모든 인간 및 기술적 커뮤니케이션의 핵심에 있으며, 아이디어와 개념을 전달하는 데 필요한 단어, 의미, 문법을 제공합니다. AI 세계에서 언어 모델은 이와 유사한 역할을 하며, 새로운 개념을 소통하고 생성하는 기반을 제공합니다.

최초의 AI 언어 모델은 AI의 초기 시절로 거슬러 올라갑니다. MIT에서 1966년에 등장한 Eliza 언어 모델은 AI 언어 모델의 가장 초기 사례 중 하나입니다. 모든 언어 모델은 먼저 데이터 세트로 학습을 한 뒤, 다양한 기법을 활용해 관계를 추론하고, 궁극적으로 학습된 데이터를 바탕으로 새로운 콘텐츠를 생성합니다. 언어 모델은 사용자가 자연어로 쿼리를 입력해 결과를 생성하는 자연어 처리(NLP) 애플리케이션에서 흔히 사용됩니다.

LLM은 AI에서 언어 모델 개념이 진화한 형태로, 학습과 추론에 사용되는 데이터의 규모를 획기적으로 확장했습니다. 그 결과, AI 모델의 능력이 비약적으로 향상되었습니다. 학습에 필요한 데이터 세트의 크기에 대해 보편적으로 받아들여지는 기준은 없지만, LLM은 일반적으로 최소 10억 개 이상의 파라미터를 보유하고 있습니다. 파라미터란, 모델이 학습한 변수로, 이를 통해 새로운 콘텐츠를 추론할 수 있습니다.

현대의 대형 언어 모델(LLM)은 2017년에 등장했으며, 트랜스포머(Transformer)로 불리는 신경망 모델을 사용합니다. 많은 수의 파라미터와 트랜스포머 모델 덕분에, LLM은 다양한 분야에서 신속하고 정확하게 텍스트를 이해하고 생성할 수 있어 AI 기술의 활용 범위를 크게 넓혔습니다.

일부 LLM은 ’파운데이션 모델(Foundation Model)’이라고도 불리는데, 이 용어는 2021년 스탠퍼드 인간중심 인공지능 연구소(Stanford Institute for Human-Centered Artificial Intelligence)에서 처음 제안되었습니다. 파운데이션 모델은 규모와 영향력이 매우 커서, 이후의 최적화나 특정 용도에 맞춘 추가 개발의 토대가 되는 모델을 의미합니다.

LLM의 예시

다음은 인터넷 조사에 따라 가나다순으로 나열한 시중 상위 10개 LLM 리스트입니다:

• 트랜스포머로부터 양방향 인코더 표현(Bidirectional Encoder Representations from Transformers), 일반적으로 BERT라고 불립니다
• Claude.
• Cohere.
• 지식 통합을 통한 강화된 표현(Enhanced Representation through Knowledge Integration), 즉 Ernie라고 불립니다.
• Falcon 40B.
• Galactica.
• 생성형 사전 훈련 트랜스포머 3(Generative Pre-trained Transformer 3), 일반적으로 GPT-3라고 부릅니다.
• GPT-3.5.
• GPT-4.
• 대화형 애플리케이션을 위한 언어 모델(Language Model for Dialogue Applications), 즉 Lamda라고 불립니다.

자세한 내용은 위에 언급된 LLM과 다른 주요 사례를 살펴보는 이 글을 참조하세요.

비즈니스에서 LLM이 중요해지는 이유는 무엇인가요?

AI가 계속 발전함에 따라 비즈니스 환경에서의 AI의 역할은 점점 더 커지고 있습니다. 이는 거대 언어 모델(LLM)과 머신러닝 도구의 활용을 통해 잘 드러납니다. 머신러닝 모델을 설계하고 적용하는 과정에서는 단순함과 일관성을 주요 목표로 삼아야 한다는 것이 연구의 조언입니다. 해결해야 할 문제를 명확히 파악하는 것뿐만 아니라, 과거 데이터를 이해하고 정확성을 확보하는 것도 필수적입니다.

머신러닝과 관련된 이점은 흔히 효율성, 효과성, 경험, 그리고 비즈니스 진화의 네 가지 범주로 나뉩니다. 이러한 이점들이 점차 부각됨에 따라, 기업들은 이 기술에 지속적으로 투자하고 있습니다.

거대 언어 모델은 어떻게 작동하나요?

거대 언어 모델(LLM)은 여러 구성 요소를 포함하는 복잡한 접근 방식을 사용합니다.

파운데이션 레이어에서 LLM은 일반적으로 페타바이트(petabyte) 규모의 방대한 데이터 집합(말뭉치)으로 학습됩니다. 이 학습은 여러 단계로 진행되며, 보통 **비지도 학습(unsupervised learning)**으로 시작합니다. 이 단계에서는 레이블이 지정되지 않은 비정형 데이터를 사용하여 모델을 훈련시킵니다. 레이블 없는 데이터의 장점은 훨씬 더 많은 데이터를 활용할 수 있다는 점입니다. 이 단계에서 모델은 단어와 개념 간의 관계를 파악하기 시작합니다.

다음 단계로 일부 LLM은 **자기 지도 학습(self-supervised learning)**을 통해 미세 조정(fine-tuning)을 수행합니다. 여기서는 일부 데이터에 레이블이 지정되어 모델이 다양한 개념을 더 정확하게 식별하도록 돕습니다.

이후 LLM은 트랜스포머(transformer) 신경망 구조를 통해 심층 학습을 진행합니다. 트랜스포머 아키텍처는 **자기 주의 메커니즘(self-attention mechanism)**을 사용해 단어와 개념 간의 연결 관계를 이해하고 인식합니다. 이 메커니즘은 토큰(token)이라는 단위에 가중치(weight)를 부여해 관계의 중요도를 평가합니다.

학습이 완료된 LLM은 실제 응용에 활용될 수 있는 기반을 갖추게 됩니다. 프롬프트(prompt)로 LLM을 질의하면, 모델 추론(model inference)을 통해 답변 생성, 새로운 텍스트 생성, 요약, 감성 분석 보고서 작성 등의 응답을 생성할 수 있습니다.

거대 언어 모델은 어떤 용도로 사용되나요?

LLM은 다음과 같은 다양한 NLP 작업에 폭넓게 적용할 수 있기 때문에 점점 더 인기를 얻고 있습니다:

• 텍스트 생성: LLM이 학습한 주제에 대해 텍스트를 생성하는 능력은 주요 활용 사례 중 하나입니다.
• 번역: 여러 언어로 학습된 LLM의 경우, 한 언어에서 다른 언어로 번역하는 기능이 일반적입니다.
• 콘텐츠 요약: 여러 페이지나 블록의 텍스트를 요약하는 것은 LLM의 유용한 기능입니다.
• 콘텐츠 재작성: 텍스트의 일부를 다시 작성하는 것도 가능한 기능입니다.
• 분류 및 범주화: LLM은 콘텐츠를 분류하고 범주화할 수 있습니다.
• 감성 분석: 대부분의 LLM은 감성 분석에 활용되어 사용자가 콘텐츠나 특정 응답의 의도를 더 잘 이해할 수 있도록 도와줍니다.
• 대화형 AI 및 챗봇: LLM은 기존 AI 기술보다 훨씬 자연스러운 방식으로 사용자와 대화할 수 있는 기능을 제공합니다.

대화형 AI의 가장 일반적인 활용 사례 중 하나는 챗봇을 통한 것으로, 챗봇은 사용자가 질의응답 방식으로 상호작용할 수 있는 다양한 형태로 존재할 수 있습니다. 가장 널리 사용되는 LLM 기반 AI 챗봇은 OpenAI에서 개발한 ChatGPT입니다. 현재 ChatGPT는 GPT-3.5 모델을 기반으로 하고 있으며, 유료 구독자는 더 최신의 GPT-4 LLM을 사용할 수 있습니다.

거대 언어 모델의 장점은 무엇인가요?

LLM은 조직과 사용자에게 다양한 이점을 제공합니다:

• 확장성과 적응성: LLM은 맞춤형 활용 사례의 기반이 될 수 있습니다. LLM 위에 추가 학습을 수행하면 조직의 특정 요구에 맞춘 세밀하게 조정된 모델을 만들 수 있습니다.
• 유연성: 하나의 LLM은 여러 조직, 사용자, 애플리케이션에서 다양한 작업과 배포에 활용될 수 있습니다.
• 성능: 최신 LLM은 일반적으로 높은 성능을 보이며, 빠르고 지연이 적은 응답을 생성할 수 있습니다.
• 정확도: LLM의 파라미터 수와 학습 데이터의 양이 증가할수록 트랜스포머 모델은 더 높은 수준의 정확도를 제공합니다.
• 학습 용이성: 많은 LLM은 라벨이 없는 데이터를 활용해 학습 속도를 높일 수 있습니다.
• 효율성: LLM은 반복적인 작업을 자동화함으로써 직원들의 시간을 절약할 수 있습니다.

거대 언어 모델의 과제와 한계는 무엇인가요?

LLM을 사용하면 많은 이점이 있지만 몇 가지 문제점과 한계도 있습니다:

• 개발 비용: LLM을 운영하려면 일반적으로 대량의 고가 GPU 하드웨어와 방대한 데이터 세트가 필요하므로 개발 비용이 매우 높습니다.
• 운영 비용: 학습 및 개발이 끝난 후에도 LLM을 운영하는 데 드는 비용은 호스팅 조직에게 매우 클 수 있습니다. 자체 인프라를 운영할 경우 하드웨어, 스토리지, 네트워크, 업데이트 및 유지보수 등 다양한 요소에서 비용이 발생하며, 서비스형 모델을 사용할 경우에도 토큰 사용량에 따라 지속적으로 비용이 청구됩니다.
• 편향(Bias): 라벨이 없는 데이터로 학습된 AI는 편향의 위험이 있습니다. 학습 데이터에 내재된 사회적 편향이 모델에 그대로 반영될 수 있으며, 이는 성별, 인종, 직업 등 다양한 영역에서 문제를 일으킬 수 있습니다.
• 윤리적 문제: LLM은 데이터 프라이버시 문제를 일으킬 수 있고, 유해한 콘텐츠(예: 혐오 발언, 잘못된 정보 등)를 생성할 위험이 있습니다. 또한, 무기 개발이나 사회적 혼란을 조장하는 데 악용될 가능성도 있어 윤리적 논란이 많습니다.
• 설명 가능성(Explainability): LLM이 특정 결과를 어떻게 생성했는지 설명하는 것은 사용자에게 쉽지 않으며, 모델의 의사결정 과정을 투명하게 이해하기 어렵습니다.
• 환각(Hallucination): AI 환각은 LLM이 학습 데이터에 근거하지 않은 부정확한 답변을 생성하는 현상입니다. 이는 잘못된 정보나 비논리적인 결과로 이어질 수 있습니다.
• 복잡성: 현대 LLM은 수십억 개의 파라미터를 갖고 있어 구조와 작동 방식이 매우 복잡합니다. 이로 인해 문제 발생 시 원인 분석과 해결이 어렵습니다.
• 글리치 토큰(Glitch tokens): 2022년 이후 등장한 새로운 현상으로, 악의적으로 설계된 프롬프트가 LLM의 오작동을 유발하는 사례가 늘고 있습니다.
• 보안 위험: LLM은 피싱 공격 등 사이버 공격을 정교하게 만드는 데 악용될 수 있어, 조직 내 보안 위협이 증가할 수 있습니다.

거대 언어 모델에는 어떤 유형이 있나요?

다양한 유형의 거대 언어 모델을 설명하는 용어는 계속 진화하고 있습니다. 일반적인 유형은 다음과 같습니다:

• 제로샷 모델(Zero-shot model): 이 모델은 일반적인 데이터 코퍼스에 대해 학습된 대규모 범용 모델로, 추가적인 학습 없이도 다양한 일반적 활용 사례에 대해 상당히 정확한 결과를 제공합니다. GPT-3가 대표적인 제로샷 모델로 자주 언급됩니다.
• 파인튜닝 또는 도메인 특화 모델(Fine-tuned or domain-specific models): GPT-3와 같은 제로샷 모델 위에 추가 학습을 수행하면, 특정 분야에 최적화된 파인튜닝 또는 도메인 특화 모델을 만들 수 있습니다. 예를 들어, OpenAI Codex는 프로그래밍에 특화된 GPT-3 기반 도메인 특화 LLM입니다.
• 언어 표현 모델(Language representation model): 언어 표현 모델의 예로는 Google의 BERT가 있습니다. BERT는 딥러닝과 트랜스포머를 활용하여 자연어 처리(NLP)에 적합한 모델입니다.
• 멀티모달 모델(Multimodal model): 원래 LLM은 텍스트에만 특화되어 있었으나, 멀티모달 접근 방식이 도입되면서 텍스트와 이미지를 모두 처리할 수 있게 되었습니다. GPT-4가 이러한 멀티모달 모델의 대표적인 예입니다.

거대 언어 모델의 미래

LLM의 미래는 여전히 이 기술을 개발하는 인간들에 의해 쓰이고 있지만, 언젠가는 LLM이 스스로를 만들어내는 시대가 올 수도 있습니다. 차세대 LLM은 Artificial General Intelligence(AGI)가 되거나 자각을 갖게 되지는 않겠지만, 지속적으로 발전하며 더욱 “똑똑해질” 것입니다.

LLM이 처리할 수 있는 비즈니스 애플리케이션의 범위도 계속 확장될 것입니다. 다양한 맥락에서 콘텐츠를 번역하는 능력이 더욱 향상되어, 기술적 전문성이 서로 다른 비즈니스 사용자들도 더 쉽게 활용할 수 있게 될 가능성이 높습니다.

LLM은 앞으로도 점점 더 방대한 데이터 세트로 학습될 것이며, 그 데이터는 정확성과 잠재적 편향을 개선하기 위해 더 잘 필터링될 것입니다. 이는 사실 확인 기능의 추가 등으로 부분적으로 이루어질 수 있습니다. 또한, 미래의 LLM은 현재 세대보다 결과가 어떻게 생성되었는지에 대한 출처 제공과 설명 능력이 더 뛰어날 것으로 예상됩니다.

각 산업이나 기능별로 개발된 도메인 특화 LLM을 통해 보다 정확한 정보를 제공하는 것도 대형 언어 모델의 미래 방향 중 하나입니다.

OpenAI가 ChatGPT 학습에 사용하는 인간 피드백 기반 강화학습과 같은 기법의 활용도 확대되어 LLM의 정확성을 높일 수 있습니다. 또한, 구글의 Realm(검색 증강 언어 모델, Retrieval-Augmented Language Model)과 같이 검색 증강 생성(retrieval-augmented generation) 개념에 기반한 LLM은 특정 데이터 코퍼스에 대해 학습 및 추론을 수행할 수 있어, 사용자가 특정 사이트 내 콘텐츠만 검색하는 것과 유사한 방식으로 활용될 수 있습니다.

LLM의 전체 크기와 학습 시간을 최적화하기 위한 연구도 계속되고 있습니다. 예를 들어, Meta의 Llama 모델이 개발 중이며, 2023년 7월에 출시된 Llama 2는 GPT-3의 절반 이하, GPT-4의 일부에 불과한 파라미터 수를 가지고 있지만, 개발진은 오히려 더 높은 정확도를 주장하고 있습니다.

반면, 대형 언어 모델의 활용은 조직 내에서 새로운 섀도우 IT(비공식 IT 사용) 사례를 촉진할 수 있습니다. CIO들은 데이터 프라이버시 문제와 기타 이슈를 방지하기 위해 사용 가이드라인을 마련하고 교육을 제공해야 할 것입니다. LLM은 공격자가 더욱 설득력 있고 현실적인 피싱 이메일이나 악성 커뮤니케이션을 작성할 수 있게 하여 새로운 사이버보안 위협도 초래할 수 있습니다.

그럼에도 불구하고, LLM의 미래는 기술이 인간의 생산성을 높이는 방향으로 계속 진화함에 따라 밝을 것으로 보입니다.

 

마케팅 자료 및 기타 상담 문의: parkmg85@hanmail.net

트랜스포머 모델이란?

(참조 자료: What is a transformer model?)

트랜스포머 모델(Transformer Model)은 한 유형의 입력을 다른 유형의 출력으로 자동 변환할 수 있는 신경망 아키텍처입니다. 이 용어는 2017년 Google이 발표한 논문 “Attention Is All You Need”에서 처음 언급되었습니다. 이 연구 논문을 작성한 8명의 과학자들은 다른 신경망 대비 4분의 1의 훈련 시간만으로 영어를 프랑스어로 번역하는 신경망을 더 정확하게 훈련할 수 있는 방법을 찾아낸 방법을 소개하였습니다.

트랜스포머 모델은 일련의 구어나 문어, 혹은 화학 구조 간의 관계와 같은 순차적인 데이터에서 관계를 설정하여 그 문맥과 의미를 파악하는 데 특히 능숙합니다. 트랜스포머 모델에 사용되는 수학적 기법을 어텐션(Attention) 또는 셀프 어텐션(Self-Attention)이라고하며, 이 모델을 통해 데이터 요소들이 서로 연관되는 방식을 결정할 수 있습니다.

특히 어텐션(Attention) 개념은 1990년대부터 처리 기법으로 존재해 왔는데요, 그러나 2017년에 구글 팀은 이 어텐션을 이용해 단어의 의미와 주어진 언어의 구조를 직접 인코딩할 수 있다고 밝혔습니다. 이는 이전에는 별도의 신경망을 통해 추가 인코딩 단계를 거쳐야 했던 것을 대체한 혁신적인 접근 방식이였습니다. 또한, 이로 인해 사실상 모든 종류의 정보를 모델링할 수 있는 길이 열렸고, 이후 등장한 놀라운 AI 혁신들을 가능케 한 장본인이 되었습니다.

이 기법은 저자들이 예상했던 것보다 훨씬 더 일반화 가능함이 증명되었으며, 트랜스포머(Transformer)는 텍스트 생성, 이미지 생성, 로봇에 대한 명령어 생성 등에 활용되고 있습니다. 또한 자연어 명령을 이미지나 로봇 명령으로 변환시키는 등 서로 다른 데이터 모드 간의 관계를 모델링하는 멀티모달 인공지능(Multimodal AI)에도 적용됩니다. 트랜스포머 모델의 광범위한 활용과 일반화 되어가고 있는 트렌드는 이들을 ‘파운데이션 모델(Foundation Models)’로 자리매김하게 했으며, 이는 기업들이 특정 목적에 맞게 기존에 학습된 모델을 빠르고 쉽게 파인튜닝하고 활용할 수 있도록 해 줍니다. 이것이 새로운 모델을 처음부터 구축하는 것보다 훨씬 효율적인 방식이기도 합니다.

현재 자연어 처리(NLP)를 사용하는 거의 모든 애플리케이션은 내부적으로 트랜스포머 모델을 사용하고 있는데요, 이는 트랜스포머가 이전 방식들보다 더 뛰어난 성능을 보이기 때문입니다. AI 연구자들은 또한 트랜스포머 모델이 화학 구조를 다루거나, 단백질 접힘을 예측하거나, 대규모 의료 데이터를 분석하는 데에도 활용될 수 있음을 발견했습니다. 트랜스포머는 OpenAI의 ChatGPT, Google Search, OpenAI의 Dall-E, Microsoft Copilot 등 거의 모든 거대 언어 모델(LLM) 애플리케이션에서 핵심적인 역할을 하고 있습니다.

트랜스포머 모델으로 무엇을 할 수 있는가?

트랜스포머는 점차적으로 기존에 널리 사용되던 다양한 딥러닝 신경망 아키텍처, 예를 들어 순환 신경망(RNN, Recurrent Neural Networks)과 합성곱 신경망(CNN, Convolutional Neural Networks)을 여러 분야에서 대체하고 있습니다. RNN은 음성, 문장, 코드와 같이 연속적인 데이터 스트림을 처리하는 데 이상적이었지만, 한 번에 짧은 문자열만 처리할 수 있었습니다. 또한 LSTM(Long Short-Term Memory)과 같은 새로운 기법들은 더 긴 문자열을 지원할 수 있도록 고안된 RNN 방식이었지만, 여전히 한계가 있고 속도도 느렸지요. 반면, 트랜스포머는 더욱 긴 시퀀스를 처리할 수 있고 각 단어나 토큰을 병렬로 처리할 수 있어 더 효율적으로 확장할 수 있게 되었습니다.

CNN은 사진의 여러 영역을 병렬로 분석하여 선, 형태, 질감 등 특징의 유사성을 파악하는 등 데이터를 처리하는 데 매우 효과적인데요, 이러한 네트워크는 특히 인접한 영역을 비교 분석하는 데 최적화되어 있습니다. 반면, 2021년에 소개된 비전 트랜스포머(Vision Transformer)와 같은 트랜스포머 모델은 멀리 떨어진 영역을 비교하는 데 더 뛰어난 성능을 보이며, 실제로 컴퓨터 비전 분야에서 그 효과가 입증되었습니다. 또한 트랜스포머는 라벨이 없는 데이터(Unlabeled data)를 다루는 데도 더 뛰어난 성능을 보이고 있습니다.

트랜스포머는 더 많은 양의 라벨이 없는 데이터를 분석함으로써 텍스트의 의미를 효율적으로 표현하는 법을 학습할 수 있는데요, 이를 통해 AI 연구자들은 트랜스포머를 수백억, 심지어 수조 개의 특성들을 지원하도록 확장할 수 있습니다. 실제로 라벨이 없는 데이터로 사전학습(Pretrained)된 모델은 특정 작업에 맞춰 라벨이 있는 데이터로 추가 정제하는 출발점 역할만 합니다. 하지만 이 2차 단계는 더 적은 전문지식과 처리 능력만 필요하기 때문에 충분히 실용적으로 활용할 수 있습니다.

트랜스포머 모델은 다음과 같은 다양한 AI 분야에서 적극적으로 활용되고 있습니다.

• NLP 작업: 트랜스포머는 인간의 언어를 거의 실시간으로 받아들이고, 이해하며, 번역하고, 복제할 수 있습니다.
• 금융 및 보안: 트랜스포머는 방대한 금융 데이터나 네트워크 트래픽 데이터를 처리 및 분석하여 이상 징후를 탐지하고 보고함으로써, 사기 및 보안 위반을 방지하는 데 도움을 줄 수 있습니다.
• 아이디어 분석: 트랜스포머 모델은 방대한 정보를 수집하고 처리하여 적절한 요약이나 개요를 생성할 수 있습니다. 예를 들어, 책, 컬렉션, 심지어 전체 주제에 대한 CliffsNotes(요약본)와 같은 역할을 할 수 있습니다.
• 시뮬레이션된 AI 엔터티: 챗봇과 같은 소프트웨어 프로그램은 언어, 분석, 요약 기능을 결합해 사람들과 상호작용하고, 질문에 답변하며, 문제 해결을 지원할 수 있습니다. Google Gemini가 그 예입니다.
• 신약 분석과 설계: 트랜스포머 모델은 연구자들이 화학 및 DNA 분석을 수행하는 데 도움을 주어, 강력한 신약 발견을 가속화할 수 있습니다.
• 미디어 생성: 트랜스포머 모델은 사용자의 텍스트 프롬프트를 바탕으로 생성형 이미지, 동영상, 음악을 만들어낼 수 있습니다. OpenAI의 Dall-E가 그 예입니다.
• 프로그래밍 작업: 트랜스포머 모델은 코드 세그먼트를 완성하거나, 코드를 분석 및 최적화하고, 광범위한 테스트를 실행할 수 있습니다.

트랜스포머 모델 아키텍처

트랜스포머 아키텍처는 함께 작동하는 인코더와 디코더로 구성되어 있습니다. 어텐션 메커니즘은 트랜스포머가 다른 단어나 토큰의 추정 중요도를 기반으로 단어의 의미를 인코딩할 수 있게 해주는데요, 이를 통해 트랜스포머는 모든 단어나 토큰을 병렬로 처리할 수 있어 성능이 빨라지고, 점점 더 대규모의 LLM(거대 언어 모델) 발전을 이끌게 됩니다.

어텐션 메커니즘을 활용해 인코더 블록은 각 단어나 토큰을 다른 단어에 의해 가중치가 부여된 벡터로 변환합니다. 예를 들어, 다음 두 문장에서 filled가 emptied로 바뀌면서 it의 의미가 다르게 가중치가 적용됩니다.

• 그는 주전자(pitcher)의 물을 컵에 따라 it(그것)을 채웠다.(He poured the pitcher into the cup and filled it.)
• 그는 주전자(pitcher)의 물을 컵에 따라 it(그것)을 비웠다.(He poured the pitcher into the cup and emptied it.)

어텐션 메커니즘은 첫 번째 문장에서는 it을 채워진 컵과 연결하고, 두 번째 문장에서는 it을 비워진 주전자와 연결합니다.

디코더는 본질적으로 대상 도메인에서 이 과정을 역으로 수행합니다. 원래의 활용 사례는 영어를 프랑스어로 번역하는 것이었지만, 같은 메커니즘으로 짧은 영어 질문이나 지시를 더 긴 답변으로 변환할 수도 있습니다. 반대로, 더 긴 기사를 더 간결한 요약으로 번역하는 데에도 사용할 수 있습니다.

일반적인 트랜스포머 모델에는 6가지 주요 요소가 있으며, 모델에는 일부 요소의 여러 인스턴스가 포함될 수 있습니다:

• 입력(Input): 입력 임베딩은 로우 데이터 스트림을 모델이 처리할 수 있는 데이터 집합으로 변환시킵니다. 예를 들어, 음성이나 문자를 데이터로 변환할 수 있습니다. 이 변환을 통해 생성된 데이터는 단어의 의미(시맨틱)와 문법(신택스) 등 입력의 특징을 포착합니다. 이러한 데이터는 모델 학습 과정에서 중요한 역할을 하며, 이후 모델의 나머지 부분이 이 데이터를 처리할 수 있게 합니다.
• 위치 인코딩(Positional encoding): 트랜스포머 모델은 입력의 위치나 순서를 본래 인식하지 못하기 때문에, 위치 인코딩이 이 데이터를 보완하고 입력 데이터의 위치 정보를 제공합니다. 예를 들어, 트랜스포머는 문장 내 단어의 순서를 알지 못하므로, 위치 인코딩이 각 단어의 위치를 모델에 알려줍니다. 이를 통해 모델은 단어의 순서를 평가할 수 있는 추가적인 통찰을 얻게 됩니다.
• 어텐션 메커니즘(Attention mechanism): 트랜스포머 모델의 핵심은 어텐션 메커니즘이며, 보통 고급 멀티헤드 셀프 어텐션(Multihead self-attention) 방식이 사용됩니다. 이 메커니즘은 모델이 각 데이터 요소의 중요도를 판단하거나 모니터링할 수 있게 해줍니다. 멀티헤드란 여러 번 반복적으로 이 메커니즘이 병렬로 작동함을 의미하며, 이를 통해 모델은 데이터 간의 다양한 관계를 살펴보고 가장 가능성 높거나 합리적인 관계를 결정할 수 있습니다.
• 피드포워드 신경망(Feed-forward neural networks): 비선형 신경망이 어텐션 메커니즘에 의해 구축된 표현을 변환합니다. 이러한 신경망은 트랜스포머 모델이 데이터 내의 복잡한 패턴과 뉘앙스를 학습할 수 있게 하며, 이는 어텐션 메커니즘만으로는 얻을 수 없는 더 정교하고 정확한 학습을 가능하게 합니다.
• 정규화 기법(Normalization techniques): 데이터 정규화는 모델이 처리하는 데이터 값을 표준화하거나 일정 범위 내로 제한합니다. 이를 통해 극단적인 데이터 값이나 비정상적인 변동으로 인해 변환 과정이 왜곡되어 잘못된 결과가 나오는 것을 방지할 수 있습니다. 추가적인 정규화 기법으로는 잔차 연결(residual connections) 등이 있으며, 이는 모델 학습이 어려워지는 소실 기울기(vanishing gradients) 문제를 해결하는 데 사용됩니다.
• 출력(Output): 출력 메커니즘은 모델의 최종 출력을 생성하는 역할을 합니다. 여기에는 일반적으로 선형 변환과 소프트맥스(softmax) 함수가 포함되어, 벡터 숫자를 확률 분포로 변환합니다. 예를 들어, 영어-프랑스어 번역기라면 프랑스어 단어를 선택해 순서대로 배열합니다. 출력은 보통 단어 단위로 생성되지만, 고급 트랜스포머는 한 번에 전체 문장이나 단락을 생성할 수도 있습니다. 텍스트는 바로 표시되거나, 추가적인 음성 변환(text-to-speech) 과정을 통해 음성으로 출력될 수도 있습니다.

트랜스포머 모델 학습

트랜스포머를 훈련시키는 데에는 두 가지 주요 단계가 있습니다. 첫 번째 단계에서는 트랜스포머가 대량의 라벨이 없는 데이터를 처리하여 언어의 구조나 단백질 접힘과 같은 현상의 구조, 그리고 인접한 요소들이 서로 어떻게 영향을 미치는지 학습합니다. 이 과정은 비용과 에너지가 많이 드는 단계로, 가장 큰 모델을 훈련시키는 데에는 수백만 달러가 소요될 수 있습니다.

모델이 훈련된 후에는 특정 작업에 맞게 파인튜닝(fine-tuning)하는 것이 유용한데요, 예를 들어, 한 기술 기업은 챗봇이 고객의 지식 수준에 따라 다양한 상세도로 고객 서비스 및 기술 지원 문의에 응답하도록 조정할 수 있습니다. 법률 사무소는 계약서를 분석하기 위해 모델을 조정할 수 있고, 개발팀은 자신들의 방대한 코드 라이브러리와 고유한 코딩 규칙에 맞게 모델을 파인튜닝할 수 있습니다.

이같은 파인튜닝 과정은 훨씬 적은 전문성과 처리 능력만 필요합니다. 트랜스포머 모델의 지지자들은 대규모 범용 모델(파운데이션 모델)을 훈련하는 데 드는 막대한 비용이 다양한 활용 사례에 맞게 각각의 모델을 커스터마이즈하는 데 드는 시간과 비용을 절감해주기 때문에 충분히 가치가 있다고 주장합니다.

모델의 성능을 평가할 때 때때로 피처(특징) 수가 지표로 사용되기도 하지만, 실제로는 더 중요한 척도들이 있습니다. 피처 수, 즉 모델의 크기가 성능이나 유용성과 직접적으로 연관되어 있지는 않습니다. 더 많은 파라미터를 가진 모델을 훈련하더라도, 더 적은 파라미터로 훈련된 동일한 모델보다 덜 정확한 결과를 낼 수 있습니다. 실제로는, 대용량 데이터로 훈련된 모델이 정밀도가 다소 떨어지더라도 더 폭넓은 기능을 제공하는 데 유용한 경우가 많습니다.

트랜스포머 모델 구현

트랜스포머 모델의 구현은 크기 면에서나, 의료, 과학, 비즈니스 애플리케이션 등 새로운 사용 사례나 다양한 도메인 지원 측면에서 점점 발전하고 있습니다. 다음은 가장 주목할 만한 트랜스포머 구현 사례들입니다.

• Google의 BERT(Bidirectional Encoder Representations from Transformers)는 트랜스포머 기반 최초의 거대 언어 모델(LLM) 중 하나입니다. BERT에는 BERT base, BERT large, RoBERTa, DistilBERT, TinyBERT, ALBERT, ELECTRA, FinBERT 등 다양한 버전이 존재합니다.
• OpenAI의 GPT 시리즈도 트랜스포머 기반으로 개발되었으며, GPT-2, GPT-3, GPT-3.5, GPT-4, GPT-4o 등 여러 차례 업그레이드되었습니다. 현재 GPT-5도 개발 중입니다.
• Meta의 Llama는 기존 모델보다 10배 작은 크기로도 동등한 성능을 달성합니다. 2024년 12월에 출시된 Llama 3.3은 이전 모델을 능가하는 성능을 보여줍니다.
• Google의 Pathways Language Model(PaLM)은 텍스트, 이미지, 로봇 제어 등 다양한 도메인에서 작업을 수행할 수 있도록 범용화된 모델입니다. PaLM 2와 함께 인기 있는 Gemini 모델도 제공되고 있습니다.
• OpenAI의 Dall-E 3는 짧은 텍스트 설명만으로 이미지를 생성할 수 있습니다.
• 플로리다 대학교와 NVIDIA가 공동 개발한 Gatortron은 의료 기록의 비정형 데이터를 분석하는 모델로, NVIDIA의 Megatron 트랜스포머 기반 언어 모델링 프레임워크와 1,000개 이상의 A100 GPU를 탑재한 DGX SuperPOD에서 구동됩니다.
• Google DeepMind의 AlphaFold 3는 단백질 접힘을 예측하고, 단백질과 다른 분자 간의 상호작용까지 예측할 수 있습니다.
• AstraZeneca와 NVIDIA의 MegaMolBART는 화학 구조 데이터를 기반으로 새로운 소분자 신약 후보를 생성하는 데 활용됩니다.

특히 AI는 헬스케어 분야에서 특정 질병의 위험을 예측하는 데 널리 사용되고 있습니다. UCLA 연구진이 3차원 영상 분석을 위한 AI 모델을 개발한 방법을 알아보세요.

자료 문의: parkmg85@hanmail.net

파운데이션 모델이란?

(참조 자료: What is a Foundation Model?)

파운데이션 모델이란?

파운데이션 모델은 방대한 양의 일반 데이터로 학습된 강력한 인공 지능(AI)의 유형으로, 광범위한 작업을 처리할 수 있습니다. OpenAI의 GPT(Generative Pre-trained Transformer) 시리즈나 Google의 BERT (Bidirectional Encoder Representations from Transformers)와 같은 파운데이션 모델은 인터넷의 다양한 소스에서 일반적인 언어 패턴과 지식을 수집하도록 설계되었습니다. 그런 다음 이러한 모델을 소규모의 작업별 데이터 세트에 맞게 파인튜닝하여 텍스트 분류, 요약, 번역, 질문 답변 등과 같은 작업을 수행할 수 있습니다. 이러한 파인튜닝을 통해 새로운 AI 애플리케이션을 더 빠르고 저렴하게 개발할 수 있습니다.

파운데이션 모델과 그 내부 작동 방식과 학습 과정, 그리고 실제 적용 사례에 대해 자세히 소개하도록 하겠습니다.

파운데이션 모델은 어떻게 작동되는가?

GPT나 BERT와 같은 트랜스포머 아키텍처 기반 모델과 같은 파운데이션 모델은 다양한 데이터 세트에 대한 광범위한 사전 학습과 특정 작업에 대한 파인튜닝을 통해 작동됩니다. 다음은 이러한 모델이 어떻게 작동되는지에 대해 소개하도록 하겠습니다.

사전 훈련(Pre-Training)

• 데이터 수집(Data Collection): 파운데이션 모델은 책, 웹사이트, 기사를 비롯한 다양한 텍스트 소스로부터 대규모의 다양한 데이터 세트를 학습하게 됩니다. 이를 통해 모델은 다양한 언어 패턴, 스타일 및 정보를 학습할 수 있습니다.
• 학습 목표(Learning Objectives): 사전 훈련 과정에서 모델은 일반적으로 텍스트의 다른 부분이 주어지면 그 부분을 예측하도록 훈련되는데요, 예를 들어, GPT의 경우 모델은 이전 단어가 주어지면 문장의 다음 단어를 예측하게 됩니다 (자동 회귀 훈련(Autoregressive Training)이라고 알려진 프로세스). 반면에 BERT는 입력의 일부 단어가 무작위로 마스킹되고, 모델은 마스킹되지 않은 다른 단어가 제공하는 문맥을 기반으로 이러한 마스킹된 단어를 예측하는 방법을 학습하는 마스크 언어 모델 접근 방식을 사용합니다.
• 모델 아키텍처(Model Architecture): 이 모델에 사용되는 트랜스포머 아키텍처는 셀프 어텐션(Self-attention) 매커니즘에 크게 의존하게 됩니다. 이를 통해 모델은 문장이나 문서에서 단어의 위치에 관계없이 각 단어의 중요도를 평가하여 문맥과 단어 간의 관계를 효과적으로 이해할 수 있습니다.

파인튜닝(Fine-Tuning)

• 작업별 특화된 데이터(Task-Specific Data): 사전 학습 후, 더 작은 작업별로 특화된 데이터 세트로 모델을 파인튜닝할 수 있습니다. 예를 들어, 감정 분석 작업의 경우 감정으로 레이블이 지정된 텍스트 샘플의 데이터 세트에 대해 모델을 파인튜닝할 수 있습니다.
• 모델 조정(Adjusting the Model:): 파인튜닝 중에 특정 작업에서 더 나은 성능을 발휘하도록 전체 모델 또는 일부가 약간 조정될 수 있습니다. 이 과정에는 모델을 더 훈련시키는 작업이 포함되지만, 위 경우에는 감정 분류나 질문에 대한 답변과 같은 작업별 목표를 염두에 두고 진행됩니다.
• 전문화(Specialization): 이 단계에서는 사전 학습 중에 습득한 일반적인 능력을 특정 작업 또는 도메인의 특정 요구 사항과 뉘앙스에 맞게 조정하여 동일한 작업에 대해 처음부터 모델을 학습하는 것에 비해 성능을 크게 향상시킵니다.

배포(Deployment)

• 사용 배포(Deployment for Use): 파인튜닝이 완료되면 가상 비서와 챗봇부터 시작해서 자동 번역, 콘텐츠 생성 도구에 이르기까지 다양한 애플리케이션에 파운데이션 모델을 배포할 수 있습니다.

파운데이션 모델의 유형과 예시

파운데이션 모델은 아키텍처, 훈련 목표와 애플리케이션이 매우 다양하며, 각 모델은 학습과 데이터와의 상호 작용의 다양한 측면을 활용하도록 맞춤화되어 있습니다. 다음은 다양한 유형의 파운데이션 모델에 대한 자세한 설명입니다:

자동 회귀 모델(Autoregressive Model)

GPT 시리즈(GPT-2, GPT-3, GPT-4)와 XLNet과 같은 자동 회귀 모델은 이전의 모든 단어가 주어진 시퀀스에서 다음 단어를 예측하는 훈련 방식을 사용합니다. 이 훈련 방법을 통해 이러한 모델은 일관성 있고 맥락에 맞는 텍스트를 생성할 수 있으며, 이는 특히 창의적인 글쓰기, 챗봇과 개인화된 고객 서비스 상호 작용에 유용합니다.

오토인코딩 모델(Autoencoding Models)

BERT와 RoBERTa를 포함한 오토인코딩 모델은 일반적으로 훈련 중에 모델에서 임의의 토큰을 숨기는 마스크드 언어 모델링(Masked Language Modeling)이라는 기술을 사용하여 먼저 입력을 손상시켜 입력을 이해하고 재구성하도록 훈련합니다. 그런 다음 모델은 문맥만을 기반으로 누락된 단어를 예측하는 방법을 학습합니다. 이러한 능력은 언어 구조를 이해하고 텍스트 분류, 개체 인식, 질문 답변과 같은 애플리케이션을 이해하는 데 매우 효과적입니다.

인코더-디코더 모델(Encoder-Decoder Models)

T5 (Text-to-Text Transfer Transformer) 및 BART와 같은 인코더-디코더 모델은 입력 텍스트를 출력 텍스트로 변환할 수 있는 다목적 툴입니다. 이러한 모델은 입력 시퀀스를 잠재 공간으로 인코딩한 다음 출력 시퀀스로 디코딩하는 방법을 학습하여 요약, 번역, 텍스트 수정과 같은 복잡한 작업을 처리하는 데 특히 능숙합니다. 이러한 학습에는 다양한 텍스트 to 텍스트 변환 작업이 포함되는 경우가 많기 때문에 여러 도메인에 걸쳐 폭넓게 적용할 수 있습니다.

멀티모달 모델(Multimodal Models)

CLIP(OpenAI의)와 DALL-E와 같은 멀티모달 모델은 텍스트와 이미지 등 다양한 데이터 유형에 걸쳐 있는 콘텐츠를 처리하고 생성하도록 설계되었습니다. 이러한 모델은 멀티모달 콘텐츠를 이해하고 생성함으로써 이미지 캡션, 텍스트 기반 이미지 검색, 텍스트 설명에서 이미지 생성 등 이미지와 텍스트 설명 간의 관계를 해석하는 작업에 매우 유용하게 활용됩니다.

검색 증강 모델(Retrieval-Augmented Models)

검색 증강 모델(예: RETRO (Retrieval-Enhanced Transformer))은 외부 지식 검색 프로세스를 통합하여 기존 언어 모델의 기능을 향상시키게 됩니다. 이 접근 방식을 사용하면 예측 단계에서 모델이 대규모 데이터베이스나 말뭉치에서 관련 데이터를 가져와 더 많은 정보를 바탕으로 정확한 결과를 도출할 수 있습니다. 이 모델은 특히 질문 답변이나 콘텐츠 검증과 같이 사실에 대한 정확성과 깊이가 필요한 애플리케이션에 효과적입니다.

시퀀스 투 시컨스 모델(Sequence-to-Sequence Models)

Google의 트랜스포머나 Facebook의 BART와 같은 시퀀스 투 시퀀스 (seq2seq) 모델은 입력 시퀀스를 밀접하게 관련된 출력 시퀀스로 변환해야 하는 작업을 처리합니다. 이러한 모델은 전체 콘텐츠 또는 그 의미를 정확하게 파악하여 다른 형태로 전달해야 하는 기계 번역이나 문서 요약의 기초가 됩니다.

이같이 각 유형의 파운데이션 모델은 각각의 고유한 학습이나 운영 설계 덕분에 특정 작업에 고유하게 적합합니다. 다음 섹션에서는 몇 가지 사용 사례를 통해 파운데이션 모델의 기능에 대해 자세히 살펴보겠습니다.

파운데이션 모델의 활용 사례

파운데이션 모델은 대규모 데이터 세트에서 학습할 수 있는 적응성과 역량으로 다양한 산업을 변화시키고 있습니다. 다음은 몇 가지 흥미로운 예시입니다:

• 자연어 처리(NLP): 파운데이션 모델은 많은 NLP 애플리케이션의 근간이 되는데요, 기계 번역을 구동하여 여러 언어 간에 원활한 커뮤니케이션을 가능하게 합니다. 또한 감정 분석(텍스트의 감정적 어조 이해)이나 챗봇 개발과 같은 작업에서 인간과 컴퓨터 간의 보다 자연스러운 상호 작용을 위해 사용할 수도 있습니다.
• 콘텐츠 제작(Content Creation): 파운데이션 모델은 시와 대본에서 마케팅 카피에 이르기까지 다양한 텍스트를 창작하여 콘텐츠 제작자와 마케터를 지원할 수 있습니다.
• 이미지 및 비디오 분석(Image and Video Analysis): 시각적 영역에서 파운데이션 모델은 이미지 및 비디오 분석에 탁월합니다. 보안 카메라의 물체 감지, 의사를 돕기 위한 의료 이미지 분석, 영화에서 사실적인 특수 효과를 생성하는 등의 작업에 사용할 수 있습니다.
• 과학적 발견(Scientific Discovery): 이 모델은 대규모 데이터 세트를 분석하여 기존 방법으로는 놓칠 수 있는 패턴과 관계를 파악함으로써 과학적 연구를 가속화할 수 있습니다. 이러한 기능은 신약 개발, 재료 과학 또는 기후 변화 연구에 도움이 될 수 있습니다.
• 자동화(Automation): 파운데이션 모델은 문서 요약이나 데이터 입력과 같은 반복적인 작업을 자동화하여 더 복잡한 작업을 위한 시간을 확보할 수 있습니다.

이는 파운데이션 모델의 활용 사례 중 일부에 불과하며, 연구자들이 새로운 가능성을 모색함에 따라 잠재적인 응용 분야는 지속적으로 확장되고 있습니다. 파운데이션 모델은 다양한 산업과 일상생활을 변화시킬 수 있는 엄청난 가능성을 지니고 있습니다.

 

파운데이션 모델 훈련 방법

파운데이션 모델 훈련은 상당한 컴퓨팅 리소스와 전문 지식이 필요한 복잡한 작업입니다. 주요 단계를 간단하게 아래와 같이 소개합니다.

1. 데이터 수집과 준비(Data Collection and Preparation): 그 기반은 데이터를 기반으로 합니다. 원하는 작업과 관련된 방대한 양의 레이블이 지정되지 않은 데이터가 수집됩니다. 이러한 데이터는 거대 언어 모델 (LLM)의 경우 텍스트, 컴퓨터 비전 모델의 경우에는 이미지, 그리고 멀티모달 모델의 경우 텍스트와 이미지들의 조합일 수 있습니다. 데이터의 품질과 일관성을 보장하기 위해 데이터를 정리하고 전처리하는 것이 매우 중요합니다.
2. 모델 아키텍처와 선택(Model Architecture and Selection): 선택하는 파운데이션 모델 유형은 데이터와 작업에 따라 다릅니다. 일단 선택하면 모델 아키텍처는 대규모 데이터 집합을 효과적으로 처리하도록 파이뉸됩니다.
3. 자기 주도 학습(Self-Supervised Learning): 바로 여기서 마법이 일어납니다. 레이블이 지정된 데이터를 사용하는 지도 학습과 달리 파운데이션 모델은 자기 지도 학습 기법을 활용합니다. 이 경우에는 모델 자체가 레이블이 지정되지 않은 데이터에서 작업과 레이블을 생성하여 학습하게 되는데요, 여기에는 텍스트 데이터의 시퀀스에서 다음 단어를 예측하거나 이미지에서 누락된 부분을 식별하는 등의 작업이 포함됩니다.
4. 훈련과 최적화(Training and Optimization): 모델은 GPU 또는 TPU와 같은 강력한 컴퓨팅 리소스를 사용하여 준비된 데이터에 대해 학습됩니다. 모델 크기와 데이터 세트의 복잡성에 따라 이 훈련 과정은 며칠 또는 몇 주가 걸릴 수 있는데요, 모델의 성능을 최적화하기 위해 Gradient descent과 같은 기법이 사용됩니다.
5. 평가와 향상(Evaluation and Refinement): 학습 후에는 벤치마크 데이터 세트나 특정 작업에서 모델의 성능을 평가합니다. 결과가 이상적이지 않은 경우, 하이퍼파라미터를 조정하거나 품질 개선을 위해 데이터 준비 단계로 돌아가 모델을 더욱 세분화할 수 있습니다.

파운데이션 모델을 훈련하는 것은 지속적인 과정이라는 점에 유의해야 합니다. 연구원들은 모델 성능과 성숙도를 향상시키기 위해 데이터 처리, 모델 아키텍처, 자기 지도 학습 작업에 대한 새로운 기술을 끊임없이 탐구하고 있습니다.

파운데이션 모델의 장점

파운데이션 모델은 다양한 영역에서 널리 채택되고 사용되는 데 기여하는 상당한 이점을 제공합니다. 몇 가지 주요 장점을 자세히 살펴보세요:

• 다용도성과 적응성(Versatility and Adaptability): 기존의 좁게 초점을 맞춘 AI 모델과 달리 파운데이션 모델은 다용도로 사용할 수 있습니다. 해당 도메인(텍스트, 이미지 등) 내에서 다양한 작업에 맞게 미세 조정할 수 있으며, 심지어 멀티모달 모델의 경우 여러 도메인에 걸쳐 조정할 수도 있습니다. 이러한 유연성은 각 특정 작업에 대해 처음부터 새 모델을 구축하는 것에 비해 시간과 리소스를 절약할 수 있습니다.
• 효율성과 비용 효율성(Efficiency and Cost-Effectiveness): 사전 학습된 파운데이션 모델은 개발자에게 확실한 출발점을 제공합니다. 특정 작업에 맞게 모델을 미세 조정하는 것이 완전히 새로운 모델을 처음부터 학습시키는 것보다 더 빠르고 계산 비용이 적게 드는 경우가 많습니다. 이러한 효율성은 비용 절감과 개발 주기 단축으로 이어집니다.
• 향상된 성능(Improved Performance): 파운데이션 모델은 대량의 데이터 세트에 대한 대규모 학습으로 인해 다양한 작업에서 기존 모델보다 뛰어난 성능을 발휘하는 경우가 많습니다. 기계 번역, 이미지 인식 또는 텍스트 요약 작업에서 더 높은 정확도를 달성할 수 있습니다.
• AI의 민주화(Democratization of AI): 사전 학습된 파운데이션 모델을 사용할 수 있으므로 AI 개발의 진입 장벽이 낮아집니다. 대규모 컴퓨팅 리소스에 액세스할 수 없는 소규모 기업이나 연구원도 이러한 모델을 활용하여 혁신적인 AI 애플리케이션을 개발할 수 있습니다.
• 과학적 발견의 가속화(Acceleration of Scientific Discovery): 파운데이션 모델은 방대한 과학 데이터 세트를 분석하여 기존 방법으로는 놓칠 수 있는 숨겨진 패턴과 그 관계를 발견할 수 있습니다. 이 기능은 신약 개발, 재료 과학 또는 기후 변화 연구와 같은 분야에서 과학적 진보를 크게 가속화할 수 있습니다.

파운데이션 모델이 맞닥뜨린 과제

파운데이션 모델은 뛰어난 기능에도 불구하고 전 세계 연구자들이 적극적으로 해결하기 위해 노력하고 있는 몇 가지 과제를 안고 있습니다. 다음은 몇 가지 주요 과제들입니다.

• 데이터 편향성과 공정성(Data Bias and Fairness): 파운데이션 모델은 학습된 기존 데이터에 존재했던 편향성을 그대로 이어받을 수 있습니다. 이로 인해 차별적이거나 불공정한 결과가 나올 수 있는데요, 이러한 편향성을 완화하려면 신중한 데이터 선택, 큐레이션, 보다 공정한 학습 알고리즘 개발이 필요합니다.
• 설명 가능성과 해석 가능성(Explainability and Interpretability): 파운데이션 모델이 어떻게 결과물에 도달하는지 이해하는 것은 어려울 수 있습니다. 이러한 투명성 부족은 잠재적인 오류나 편견을 식별하고 해결하기 어렵게 만듭니다. 이러한 모델을 보다 해석하기 쉽게 만드는 방법을 개발하기 위한 연구가 진행 중입니다.
• 연산 리소스(Computational Resources): 파운데이션 모델을 훈련하고 실행하려면 GPU나 TPU와 같은 상당한 연산 능력과 리소스가 필요합니다. 따라서 이러한 인프라에 액세스할 수 없는 소규모 기업이나 연구자에게는 접근성이 제한될 수 있습니다.
• 보안과 개인 정보 관련 이슈(Security and Privacy Concerns): 파운데이션 모델을 학습하는 데 사용되는 방대한 양의 데이터는 데이터 유츌에 대한 보안과 개인정보 보호 문제를 야기합니다. 악의적인 공격자는 학습 데이터나 모델 자체의 취약점을 악용할 수 있습니다. 강력한 보안 조치와 책임감 있는 데이터 처리 관행을 보장하는 것이 중요합니다.
• 환경 영향(Environmental Impact): 이러한 모델을 훈련하는 데는 상당한 양의 에너지가 소모될 수 있습니다. 보다 에너지 효율적인 훈련 방법을 개발하고 재생 가능한 에너지원을 사용하는 것은 파운데이션 모델을 지속 가능하게 배포하기 위한 중요한 고려 사항입니다.

결론

파운데이션 모델은 AI 기능의 획기적인 도약을 가져다 줍니다. 다용도성, 효율성, 방대한 양의 데이터를 통한 학습 능력은 다양한 산업과 일상생활을 변화시킬 차세대 지능형 애플리케이션의 기반을 닦고 있습니다.