생성형 AI 환각증상 해결책

온톨로지 증강 생성 (OAG: Ontology Augmented Generation)은 생성 모델의 정확성, 컨텍스트 인식 및 설명 가능성 (explainability)를 크게 향상시켜 환각 현상을 해소합니다. 구조화된 지식통합, 의미적 검증, 인간 개입을 통해 AIP (AI Platform)가 신뢰할 수 있고 정확한 컨텐츠를 생성하는 강력한 프레임워크를 제공하게 됩니다. 이 메커니즘은 생성된 출력이 정확성이 있을 뿐만 아니라, 확립된 지식과 일치하도록 보장하여, 실제 응용 분야에서 AI 배포의 주요 과제를 해결하는 데 기여합니다.

OAG가 환각증상을 감소시킬 수 있는 이유;

1/ 구조화된 지식 통합 (Structured knowledge integration)

• Ontology integration: 온톨로지를 통해 구조화된 지식을 통합함으로써 OAG는 더 정확하고 컨텍스트에 맞는 정보를 제공합니다. 온톨로지는 개념 간의 관계를 인코딩하여 생성모델의 출력이 잘 정의된 지식 기반에 뿌리를 두도록 보장합니다.
• Consistency and Accuracy (지식의 일관성/정확성): 온톨로지는 생성된 컨텐츠가 알려진 사실과 관계를 준수하도록 하여 일관성과 정확성을 유지합니다. 이를 통해 모델이 알려진 진실에서 벗어난 정보를 생성할 위험을 줄입니다.

2/ 맥락 인식 (Context awareness)

• Enhanced Context Management: OAG 시스템은 온톨로지 지식을 활용하여 컨텍스트를 더 효과적으로 유지 및 관리합니다. 개념 간의 관계를 이해함으로써, 모델은 환각 요소가 적은 컨텍스트에 맞는 응답을 생성합니다.
• Semantic Context Adaptation: 온톨로지는 대화의 진화에 따라 모델이 대화의 맥락을 다이나믹하게 인식하고 적응할 수 있게 합니다. 이러한 적응력은 생성된 컨텐츠를 정확하게 유지하여 환각 증상을 줄이는데 도움이 됩니다.

3/ 의미론적 유효성 검사 (Semantic Validation)

• Fact-checking Mechanisms: 온톨로지를 사용하여 생성된 컨텐츠를 구조화된 지식 기반과 대조 검토할 수 있습니다. 이러한 의미적 검증은 환각을 식별하고 유저에게 전달 되기 전에 이를 수정하는데 도움이 됩니다.
• Error Detection: 생성된 출력과 온톨로지 데이터를 비교하여 일관성 및 오류를 감지하여 환각 발생 빈도를 최소화할 수 있습니다.

4/ 설명 가능성 개선 (Enhanced Explainability)

• Transparent Reasoning: 온톨로지는 모델의 추론 과정을 투명하게 만드는 프레임워크를 제공합니다. 유저는 온톨로지 내의 관계와계층 구조를 이해함으로써 모델이 특정 결론에 도달한 방법을 추적할 수 있으므로 환각을 식별하고 해결하기가 더 쉬워집니다.
• Source Attribution: 시스템은 생성된 정보의 출처를 온톨로지 내의 특정 소스로 명시하여 정보의 신뢰성을 높이고 정확성을 검증할수 있게 합니다.

5/ Writeback 및 파인튜닝 통한, 트레이닝 개선 (Improved Training through Writeback and Fine-Tuning)

• Domain-specific Expertise: 온톨로지는 특정 도메인에 맞게 조정될 수 있어, 모델이 해당 도메인에서 매우 정확한 콘텐츠를 생성할수 있습니다. 이런 특화는 의료, 금융, 법률 등 중요한 응용 분야에서 환각 위험을 줄이는 데 도움이 됩니다.

6/ Human-in-the-Loop Systems:

• Expert Review: 종종 생성된 컨텐츠를 검토하고 검증하는 인간 전문가 (도메인 전문가)가 개입됩니다. 이러한 전문가들은 온톨로지를 사용하여 정보의 정확성과 관련성을 평가하여 환각 발생 빈도를 줄입니다.
• Iterative Feedback: 인간 검토자의 지속적인 피드백은 모델의 출력을 세밀하게 조정하고 온톨로지를 업데이트하는데 도움이 되어,생성된 컨텐츠의 품질과 정확성을 지속적으로 향상시킵니다.

OAG의 RAG의 비교

1/ 데이터 연결 (Data connections)

• RAG: 데이터 소스(data sources)와 커스텀(Custom) 통합
• OAG (w/ Foundry and AIP): 스탠다드 시스템(standard systems)에 대한 네이티브 커넥션(Native connections)- 배치(batch)/스트리밍(Streaming)/CDC /구조화(Structured)/비구조화(Unstructured))

2/ 데이터 통합 (Data integration)

• RAG: 데이터 소스(data sources)와 커스텀(Custom) 통합
• OAG (w/ Foundry and AIP): 파운드리(Foundry)의 동급 최고의 노코드/프로코드 데이터 통합 툴 사용

3/ 데이터 일관성/정확성 (Data consistency and accuracy)

• RAG: 업스트림(upstream) 데이터 품질에 따라 다름
• OAG (w/ Foundry and AIP): 온톨로지(Ontology)에 포함되기 전에 파운드리(Foundry)의 동급 최고의 데이터 관리 툴 사용

4/ 데이터 액세스 범위 지정 (Scoped Data Access)

• RAG: 각 툴에서 구현됨 (LLM은 광범위한 데이터에 액세스)
• OAG (w/ Foundry and AIP): 관련 온톨로지(Ontology) 객체에 대한 세분화된 접근과 사용자가 만든 적절한 범위의 툴을 제공

5/ 투명성 및 설명가능성 (Transparency and Explainability)

• RAG: 툴에 따라 다르지만 일반적으로 커스텀(Custom)으로 제작
• OAG (w/ Foundry and AIP): 모델의 추론 프로세스를 투명하게 설명하고 내장된 검증 툴을 사용

6/ Auditability and Access Control

• RAG: 데이터 소스(data sources)와 커스텀(Custom) 통합
• OAG (w/ Foundry and AIP): 파운드리(Foundry) 온톨로지(Ontology)에 의해 기본적으로 수행 가능

7/ Human-in-the-loop oversight

• RAG: 워크플로우 툴과의 커스텀(Custom) 통합
• OAG (w/ Foundry and AIP): 온톨로지 액션(Ontology Actions)은 기본적으로 사람의 체크 포인트를 제공

8/ User feedback integration

• RAG: 워크플로우 툴과의 커스텀(Custom) 통합
• OAG (w/ Foundry and AIP): 파운드리(Foundry)의 동급 최강의 노코드/프로코드 워크플로우 구축 툴 사용

9/ Prompt development and testing

• RAG: 툴에 따라 다르지만 일반적으로 커스텀(Custom)으로 제작
• OAG (w/ Foundry and AIP): 개발 수명 주기 관리(development lifecycle management) 및 프롬프트(prompt) 평가를 위한 파운드리(Foundry)의 네이티브 툴링(Native tooling)

10/ Hallucination mitigation

• RAG: 툴에 따라 다르지만 일반적으로 커스텀(Custom)으로 제작
• OAG (w/ Foundry and AIP): 파운드리(Foundry) 에코시스템 전반에 걸친 일련의 빌트인 툴(built-intools)을 통한 "심층 방어(Defence in Depth)"