지식그래프 32

[백서 프롤로그] 그래프 기술이 만드는 차원이 다른 생성형 AI

생성 AI 모델의 한계 2023년, 생성형 AI(GenAI) 분야가 급격히 성장하고 있습니다. 이러한 AI 모델들은 대규모 언어 모델(LLM)을 기반으로 하며, 대규모 데이터셋으로 사전학습되어 있습니다. 특히, 이미지, 텍스트, 영상 등 창조적인 작업 분야에서 활용되며, 그 정확도와 효율성이 꾸준히 향상되고 있습니다. 그러나, 모델 학습 및 실행 과정에서 많은 시간과 자원이 소요되며, 편향성과 환각(hallucination) 현상과 같은 문제가 발생합니다. 환각 현상이란 생성형 AI가 실제로 존재하지 않는 정보나 콘텐츠를 생성하는 것을 의미합니다.  이러한 문제를 해결하기 위해, 최근 생성형 AI 모델은 대규모 데이터셋으로 사전학습을 하고, 프롬프트 엔지니어링(prompt engineering)과 미세조..

기업의 생성형 AI 도입을 위한 응답 품질 향상 필요성 및 방법

기업의 생성형 AI 도입의 어려움 현재 생성형 AI는 기업의 생산성과 업무 효율성을 끌어올리는 방면에서 많은 관심을 받고 있습니다. 하지만 각 분야에서 다소 보편적인 결과를 출력하는 생성형 AI를 도입하는 것은 신뢰도 높은 인사이트를 도출하는 측면에서 어려움이 존재합니다. 이러한 어려움을 해결하고, 기업의 생성형 AI 도입에 기여하기 위해 생성형 AI의 결과 개선 방법으로 RAG 프레임워크가 대두되고 있습니다. RAG는 생성형 AI 모델의 재학습 없이, 생성형 AI의 환각 현상을 해결하거나 일반적인 답변을 개선할 수 있습니다. AgensSQL GenAI Edition은 PostgreSQL DB 엔진 및 전문가 서비스인 AgensSQL의 Enterprise Plus 제품으로, RAG 역할을 수행하기 위해 ..

DBMS/AgensSQL 2024.04.22

검색 증강 생성(RAG)과 데이터베이스 기반 생성형 AI에 대한 이해

생성형 AI 활용의 한계점 최근 몇 년 간 ChatGPT, Bard, LLaMA 등 거대 언어 모델(Large Language Models, LLM) 기반 생성형 AI가 대중화되었고, 많은 기업들은 생성형 AI를 비즈니스에 도입하여 생산성을 높이려는 시도를 하고 있습니다. 생성형 AI는 일반적으로 방대한 데이터로 사전 학습(pre-training)된 LLM 모델을 기반으로 제공되며, 일반적인 작업에서는 잘 작동합니다. 하지만, 특정 산업군의 전문 지식이나 별도의 데이터가 필요한 작업의 경우 기본 모델만으로는 성능의 한계가 존재합니다. 특히, 일반적인 생성형 AI 모델은 생성 결과의 출처를 알 수 없어 거짓 정보를 사실인 정보처럼 출력하는 환각 현상(hallucination)을 구분하기 어렵습니다. 이를 ..

DBMS/AgensSQL 2024.04.22

IoT를 위한 그래프 기술: 데이터 관리와 고객 서비스 관점

# Smart Graph for IoT 이번 글에서는 우리의 일상을 편리하게 해주는 IoT 기술을 GDB(Graph Database)에 접목시키면 어떠한 가치를 창출할 수 있는지에 대한 내용을 설명하고자 합니다. # IoT 란? 외출을 했을 때, 집에 있는 기기(TV, 가습기, 고데기)를 끄고 오지 않았다는 사실이 불현듯이 생각나는 경우가 있습니다. 또한, 집에 들어가기 전 장을 보려는데 냉장고 안에 어떤 식료품이 있었는지 기억해 내는 것이 마냥 쉽지 않습니다. 집에 있지 않아도 밖에서 집 안의 기기들을 제어할 수 있고, 냉장고 식료품 리스트를 자동으로 관리할 수 있다면 얼마나 편리해질까요? 이러한 것들을 가능하게 해주는 기술이 IoT(Internet of Things) 입니다. IoT는 일상의 ‘사물(..

그래프 DB: Chat GPT의 핵심 기술

그래프 데이터베이스(DB)는 여러 방식으로 연결된 복잡한 데이터를 저장할 수 있는 데이터베이스 관리 시스템(DBMS)이자, 데이터의 성능을 가장 효율적으로 활용할 수 있는 강력한 분석 솔루션입니다. 지식그래프 분야에서 잘 알려져 있는 것처럼 가장 유용한 그래프 DB의 활용 영역 중 하나는 자연어 처리(NLP) 및 Chat GPT 모델과 같은 챗봇, 나아가 인공지능(AI)의 영역입니다. Chat GPT : 챗봇을 더욱 인간답게 만드는 기술 챗봇(Chatbot)은 인간이 질문(Chat)을 하면, 데이터베이스 시스템에 저장된 지식을 검색하고 응답하는 인공지능(Bot)입니다. 물론 챗봇이 전혀 새로운 기술은 아닙니다. 그리고 우리가 이미 체감하고 있는 대로, 시장에 존재하는 많은 챗봇들의 성능이 그리 만족스럽지..