Artificial Genius, Amazon Nova로 LLM 환각 현상 해결
- •Artificial Genius가 규제 산업의 환각 현상을 제거하기 위해 Amazon Nova 기반의 3세대 결정론적 모델을 출시했다.
- •독자적인 하이브리드 아키텍처를 통해 생성형 모델을 비생성형 방식으로 활용하며, 출력을 확률이 아닌 절대적 확실성으로 유도한다.
- •이 솔루션은 안전하고 확장 가능한 기업급 배포를 위해 Amazon SageMaker AI 및 Bedrock과 원활하게 통합된다.
Artificial Genius가 엄격한 규칙 기반 논리와 예측 불가능한 확률 모델 사이의 간극을 메우기 위해 설계된 3세대 AI 접근 방식을 선보였다. 기존 대규모 언어 모델(LLM)은 대화 능력이 뛰어나지만, 사실을 조작하거나 환각을 일으키는 경향이 있어 금융이나 의료와 같은 핵심 산업 분야에서 도입하기에는 위험 부담이 컸다. 이에 Artificial Genius는 AWS의 Amazon Nova 모델군을 활용하여, 입력의 유연성은 보존하면서도 출력 결과값은 명확히 정의된 결정론적 방식을 따르도록 설계했다.
기술적 혁신의 핵심은 생성형 모델을 철저히 비생성형 방식으로 통제하는 데 있다. 단순히 다음 단어를 확률적으로 예측하는 기존 방식에서 벗어나, 지도 미세 조정을 통해 모델이 문서 내 사실만을 추출하거나 모르는 부분에 대해서는 불확실성을 인정하도록 강제한다. 이는 수학적으로 모델의 예측 확률을 1 또는 0의 절대값으로 수렴하게 만드는 기법으로, AI의 뛰어난 문맥 이해력을 유지하면서도 근거 없는 창작 행위는 원천 차단한다.
더불어 연구진은 모델이 장황한 추론을 이어가다 오류를 범하는 생각의 사슬 현상을 개선했다. 특정 토큰을 삽입해 불필요한 추론 단계를 생략함으로써, 감사에 적합한 수준의 간결한 사실 관계만을 도출하도록 한 것이다. 현재 AWS 마켓플레이스를 통해 제공되는 이 플랫폼은 전문가들이 복잡한 엔지니어링 지식 없이도 고정밀 워크플로우를 생성할 수 있게 돕는다. 이는 결과적으로 기존 검색 증강 생성의 한계를 극복하는 새로운 대안이 될 것으로 기대를 모으고 있다.