기업의 생성형 AI 도입을 위한 응답 품질 향상 필요성 및 방법

기업의 생성형 AI 도입의 어려움 현재 생성형 AI는 기업의 생산성과 업무 효율성을 끌어올리는 방면에서 많은 관심을 받고 있습니다. 하지만 각 분야에서 다소 보편적인 결과를 출력하는 생성형 AI를 도입하는 것은 신뢰도 높은 인사이트를 도출하는 측면에서 어려움이 존재합니다. 이러한 어려움을 해결하고, 기업의 생성형 AI 도입에 기여하기 위해 생성형 AI의 결과 개선 방법으로 RAG 프레임워크가 대두되고 있습니다. RAG는 생성형 AI 모델의 재학습 없이, 생성형 AI의 환각 현상을 해결하거나 일반적인 답변을 개선할 수 있습니다. AgensSQL GenAI Edition은 PostgreSQL DB 엔진 및 전문가 서비스인 AgensSQL의 Enterprise Plus 제품으로, RAG 역할을 수행하기 위해 ..

AgensSQL 2024.04.22 0

퍼블릭 vs 프라이빗: 기업 데이터 보안을 위한 LLM은?

퍼블릭 LLM 사용의 한계 최근 창작, 번역, 챗봇 등 다방면에 활용되고 있는 생성형 AI 서비스들은, 일반적으로 거대 언어 모델(Large Language Models, LLM)을 기반으로 합니다. LLM은 그 성능을 보장하기 위해 수십 억에서 수천 억 개의 매개변수를 가지며, 학습이나 추론에 고가의 전문 장비를 필요로 합니다. 이러한 특성때문에, 전문 장비 및 인프라를 갖추지 못한 기업은 자체적으로 LLM을 구축하기 어려우므로 퍼블릭(public) 또는 개방형 LLM을 이용하여 생성형 AI 서비스를 구축해야 합니다. 퍼블릭 LLM은 주로 API 형태로 제공되며, 대표적으로 ChatGPT 모델을 개발한 OpenAI 사에서 ChatGPT 모델을 API로 이용할 수 있도록 제공하고 있습니다. 하지만 퍼블릭..

AgensSQL 2024.04.22 0

그래프 RAG: 복합 검색이 가능한 개선된 RAG 시스템

개선된 RAG 시스템 RAG는 정보 검색과 생성형 AI 기술을 결합하여 사용자 데이터를 손쉽게 생성형 AI 모델에 반영하고, 이를 통해 생성 콘텐츠의 품질을 개선할 수 있는 혁신적인 솔루션입니다. RAG 시스템은 생성형 AI의 활용성을 크게 높였지만, 종종 복잡한 질문에 대해 충분한 맥락을 제공하지 못하는 경우가 있습니다. 이러한 한계를 극복하기 위해 개선된(advanced) RAG 시스템이 다양하게 등장하고 있습니다. RAG를 개선할 수 있는 영역들 다음과 같습니다. 데이터 인덱싱(indexing): 검색 모델에 사용되는 데이터는, 모델이 이해하기 용이한 방식으로 변환되고, 인덱싱됩니다. 데이터 변환 단계에서는 임베딩 모델 개선, 데이터 분할(chunking) 방법 개선을 통한 개선이 가능합니다. 또한..

AgensSQL 2024.04.22 0

인기글

기업 데이터 환경에 PostgreSQL이 최적인 이유

블로그 글을 보시기 전에 2024년 비트나인의 첫 번째 월간 백서인 '오픈소스 DB 전성시대, PostgreSQL을 선택하는 이유'를 읽어보세요! ▶ 지금 다운로드하기! 오픈소스 vs 상용, 벌어지는 인기 트렌드 격차 지난 해부터 소프트웨어 업계에서는 오픈소스 생태계가 대세가 되면서 상용 DBMS 사용 입지가 줄어들고 있습니다. 모바일 운영체제를 포함하여, 클라우드, 데이터베이스, 웹서버, 빅데이터 등의 주류를 이루는 소프트웨어 분야에서 오픈소스 기술이 사용되지 않는 곳을 찾아보기 어려울 정도이기 때문이죠. 대표적인 상용 DBMS로는 외산 DB인 오라클(Oracle)이 있는데, 이는 높은 라이선스 비용 때문에 말이 많으며 불평등한 계약 조건과 데이터 마이그레이션이 복잡하다는 점 때문에 오라클로부터 종속 ..

AgensSQL 2022.06.23 2

[알쓸IT잡] FDS 란? (이상거래탐지시스템, Fraud Detection System)

함께 만들어 나가는 IT 용어사전, 알쓸IT잡! IT 분야의 모든 궁금증을 해결해 드립니다. 오직 알쓸IT잡에서만! 이상거래탐지시스템(FDS, Fraud Detection System) 이란? 거래 관계를 기반으로 한 그래프 FDS의 4가지 핵심 기능 이상거래탐지시스템(FDS, Fraud Detection System)은 전자금융거래 시 단말기 정보와 접속 정보, 거래 정보 등을 수집 및 분석하여 이상 금융 거래를 차단하는 기술입니다. FDS 솔루션은 90년대 초 처음 등장하여⑴ 다양한 기술과 융합하며 발전해왔습니다. 일례로 온라인 전자 결제 시스템을 제공하는 미국의 페이팔(Paypal)은 2001년 해커에게 공격을 당한 사건을 계기로 독자적인 FDS를 구축했습니다. 그렇다면 FDS는 어떻게 이상 거래를..

ARCHIVES 2020.07.22 0

데이터 모델링이란? (관계형 DB 편)

블로그 글을 보시기 전에 2024년 비트나인의 첫 번째 월간 백서인 '오픈소스 DB 전성시대, PostgreSQL을 선택하는 이유'를 읽어보세요! ▶ 지금 다운로드하기! 현재는 정보 기술이 발전함에 따라, 데이터 중심의 관리 기법이 발전하게 된다. 데이터의 중요도가 높아짐에 따라 중복 없이 정확하게 유지 관리할 수 있는 근본적인 방법을 찾게 되면서 모델링 기법이 발전하게 되었다. 모델은 어떤 대상을 의미하는 포괄적 의미가 있으며, 특히 현실 세계에 대한 우리가 관심 있는 대상을 데이터베이스화하기 위한 개념적 도구라고 정의할 수 있다. 본 글은 단순한 데이터 모델링부터 분석관점에서의 모델링을 시리즈별로 설명하고자 한다. 이를 위해 데이터 모델링을 수행하는 목적과 데이터의 성질에 따른 데이터베이스의 종류, ..

사례 연구 2021.02.05 1