기업의 생성형 AI 도입의 어려움
현재 생성형 AI는 기업의 생산성과 업무 효율성을 끌어올리는 방면에서 많은 관심을 받고 있습니다. 하지만 각 분야에서 다소 보편적인 결과를 출력하는 생성형 AI를 도입하는 것은 신뢰도 높은 인사이트를 도출하는 측면에서 어려움이 존재합니다. 이러한 어려움을 해결하고, 기업의 생성형 AI 도입에 기여하기 위해 생성형 AI의 결과 개선 방법으로 RAG 프레임워크가 대두되고 있습니다. RAG는 생성형 AI 모델의 재학습 없이, 생성형 AI의 환각 현상을 해결하거나 일반적인 답변을 개선할 수 있습니다.
AgensSQL GenAI Edition은 PostgreSQL DB 엔진 및 전문가 서비스인 AgensSQL의 Enterprise Plus 제품으로, RAG 역할을 수행하기 위해 지식그래프를 활용하여 사용자 정보를 반영하는 맞춤형 RAG 확장 프레임워크로 개발되었습니다. 그리고 LLM, Vector DB, Graph DB 등 서로 간을 연동하기 위해 오픈소스 프레임워크인 PostgreSQL를 활용합니다. 본 글에서는 AgensSQL GenAI Edition에서 활용한 지식그래프와 PostgreSQL에 대해 알아봅니다.
RAG 프레임워크에서 그래프의 역할
지식 그래프를 적용하면 질문이 복잡해지거나 학습되지 않은 정보에 대해서 환각현상을 일으키거나 일반적인 답변만을 얻을 수 있는 생성형 AI의 결과 품질이 개선됩니다. 그래프는 사람, 장소, 키워드 등의 객체를 나타내는 노드와 객체 간의 관계를 나타내는 엣지의 집합으로 이루어져 있어 정보를 유연하게 정의하는데에 의미가 있습니다. 예를 들어 온라인 쇼핑에서는 사용자의 구매 이력과 상품 간의 관련성으로 표현합니다. 지식 그래프로 사용자의 환경과 분야 등의 정보를 반영하여 생성형 AI의 결과를 두 가지 측면에서 개선할 수 있습니다.
첫 번째로, 사용자의 질문에 대해 보다 정확한 답변을 생성할 수 있습니다. 예를 들어 지식 그래프를 사용하여 상품과 구매자 간의 관계, 거래 내역, 사용자 선호도 등을 표현하고, 이를 기반으로 한 추론 과정을 통해 더 심층적이고 유용한 결과를 도출합니다.
두 번째로, 더 빠르고 정확하게 정보를 검색하고 분석합니다. 사용자 프로필, 행동 패턴, 관심사 등을 지식 그래프로 표현하여 고객 세분화를 수행하고, 이를 통해 생성형 AI가 상황에 맞는 개인화된 서비스를 제공합니다.
실제로 AWS에서는 생성형 AI의 응답 정확도 향상을 위한 방법으로 RAG에 지식 그래프를 적용하고 있습니다. 질문 내용이 그래프 스키마에 잘 반영되어 있지 않으면 정확도가 떨어지기 때문에, 지식그래프에서 질문과 관련된 키워드의 인접 노드를 탐색하여 추가 컨텍스트를 확보함으로써 결과를 보완하도록 구성했습니다.
PostgreSQL을 사용해야 하는 이유
오픈소스를 활용하기 위한 PostgreSQL은 확장 가능성 및 표준 준수를 강조하는 객체-관계형 데이터베이스 관리 시스템입니다. RAG 방법론을 적용함에 있어 PostgreSQL는 특히 활성화된 커뮤니티로 개발 생태계 제공과 내장된 확장 기능으로 유연함을 가지고 있습니다. 이 밖에도 아래와 같은 다양한 역할과 기능을 제공합니다.
성능 및 확장성 :
- 지형 공간 지원
- 무제한 동시성과 같은 독점적인 데이터베이스 기술에서만 확인할 수 있는 다양한 성능 최적화 지원
- 여러 데이터 유형에 대해 심층적이고, 광범위한 데이터 분석 실행
동시성 지원 :
- 여러 사용자가 동시에 데이터에 액세스하여 동시성을 효율적으로 관리
다양한 언어 지원 :
- 여러 프로그래밍 언어의 호환성과 지원
- Python, JavaScript, C/C++, Ruby 등 시스템 충돌 없음
- 사용자가 능숙한 언어로 데이터베이스 작업 수행 가능
100% 오픈소스 :
- 지식, 전문성, 오픈소스 가치의 강력한 토대를 기반으로 구축
- 전 세계에서 가장 진보한 데이터베이스
- 기업에는 합리적인 가격
데이터베이스 통합 :
- 라이선스 비용 통합
- 벤더 종속 탈피
- 데이터베이스의 총 소유 비용 절감
- 애플리케이션 이식성 개선
결론
이 글에서는 RAG 역할을 하는 AgensSQL GenAI Edition에 활용되는 지식그래프와 PostgreSQL의 내용을 다뤘습니다. 각 역할은 사용자의 질문에 보다 정확한 답변하도록 돕고, 정보 접근 측면에서 유연성과 확장성을 지원하는 것입니다.
생성형 AI로 만들어진 인공지능 서비스들은 대규모 데이터의 학습으로 만들어졌기 때문에, 전문적이고 세부적인 답변을 기대하기 어렵습니다. 기업들의 생성형 AI 활용을 극대화하기 위해 관련 분야의 정보를 적용시키고, 이에 부합하는 결과를 도출해야 합니다. PostgreSQL로 사용자의 정보 및 다양한 피드백을 담고, 지식그래프로 사용자의 질문 관련 키워드들을 제공하여 보다 향상된 Gen AI 서비스를 기대합니다.
참고
1) Amazon Bedrock으로 그래프 RAG 구현하기
2) PostgreSQL
비트나인의 생성형 AI 솔루션, AgensSQL GenAI Edition에 대해 궁금하시다면?
비트나인의 콘텐츠를 계속 받아보고 싶으시다면?
제품 및 기술문의
070-4800-3517 | agens@bitnine.net
'DBMS > AgensSQL' 카테고리의 다른 글
| 퍼블릭 vs 프라이빗: 기업 데이터 보안을 위한 LLM은? (0) | 2024.04.22 |
|---|---|
| 그래프 RAG: 복합 검색이 가능한 개선된 RAG 시스템 (0) | 2024.04.22 |
| 검색 증강 생성(RAG)과 데이터베이스 기반 생성형 AI에 대한 이해 (0) | 2024.04.22 |
| Oracle 데이터베이스에서 AgensSQL을 사용하는 방법 (0) | 2023.11.08 |
| AgensSQL: 하이엔드 데이터 관리 솔루션 (0) | 2023.11.07 |