초거대 AI의 거짓말을 멈추게 하는 법

🙄 모르는 게 없어 보이는 초거대 AI에게도 약점이 있는데요. 바로 할루시네이션(Hallucination) 현상과 데이터의 비실시간성입니다. 먼저 할루시네이션 현상은 AI가 그럴듯한 거짓말을 지어내는 현상인데요. 사실을 기반으로 해서 문장을 만든다기보다 확률적으로 그럴듯하게 글을 써내는 것에 가까운 초거대 AI 원리의 한계 때문에 이런 현상이 생겨요. ChatGPT의 개발사인 오픈AI는 할루시네이션 현상을 줄이기 위해 사람이 직접 좋은 데이터를 선별하고 초거대 AI의 답변을 평가하는 사람 피드백 기반의 강화학습(RLHF) 단계를 거듭 거쳐왔지만 문제를 완전히 해결하지는 못했어요. 두 번째로 비실시간성은 말 그대로 최신의 정보가 실시간으로 초거대 AI에 반영되지 못하는 현상인데요. AI가 학습하는 데이터의 크기가 워낙 크다 보니 슈퍼컴퓨터로도 수개월의 학습 기간이 필요하고, 이에 따라 최신 정보는 반영하지 못하는 한계가 있었어요.

➡️ 네이버클라우드의 윤영진 AI 비즈니스 리더님은 이와 관련해 임베딩 API를 통한 해결을 제안했어요. 임베딩 API란 기업 내부의 문서나 지식을 초거대 AI가 학습할 수 있는 형태로 변환하는 것을 말해요. 이를 통해 기업 내부의 문서나 지식을 초거대 AI가 이해할 수 있는 방식으로 DB화하고 초거대 AI가 해당 DB를 기반으로 답변하도록 함으로써 데이터의 신뢰도를 높일 수 있어요. 실제로 많은 기업이 이런 방식으로 초거대 AI를 활용하고 있어요.

🎯 또한 윤 리더님은 초거대 AI를 실제 비즈니스에 적용하고자 하는 스타트업들은 처음부터 끝까지 한 번에 자동화하기보다 AI를 적용했을 때 효율성이 큰 부분부터 충분한 안전장치를 두고 단계적으로 적용해 나가는 것을 추천했어요. AI 도입을 검토 중인 스타트업이라면 윤 리더님의 충고를 참고하고 임베딩 API, 사용자 약관, 충분한 안내 등 리스크를 줄여나갈 방법을 고민한 후 적용하실 것을 권해요!