@bits-bytes-nn

Graph RAG의 모든 것

Mar 16, 2025 · 22 min read · 1. Graph RAG 정의와 장점 Graph RAG는 기존 검색 증강 생성(Retrieval-Augmented Generation) 기법을 지식 그래프와 결합하여 대규모 언어 모델(LLM)의 응답 품질을 향상시키는 혁신적 접근법입니다. 전통적인 RAG가 벡터 임베딩 기반 문서 검색에 의존한다면, Graph RAG는 개체(노드)와 관계(엣지)로 구성된 지식 그래프의 구조적 정보를 활용합니다. 이를 통해 LLM은 단순한 키워드 매칭이나 벡터 유사...

H최상연 commented

All About Graph RAG

Mar 16, 2025 · 25 min read · 1. Graph RAG Definition and Advantages Graph RAG is an innovative approach that enhances the response quality of Large Language Models (LLMs) by combining existing Retrieval-Augmented Generation (RAG) techniques with knowledge graphs. While tradition...

LLM-as-Judge로 AI 제품 평가하기

Mar 15, 2025 · 8 min read · AI 제품에서 평가 시스템의 중요성 AI 제품, 특히 대형 언어 모델(Large Language Model, LLM) 기반 제품의 성공을 위해서는 체계적이고 강력한 평가 시스템이 필수적입니다. 그 이유는 다음과 같습니다. 1. 지속적인 성능 개선: 평가 시스템은 AI 제품의 성능을 지속적으로 모니터링하고 개선할 수 있게 합니다. 다양한 수준의 평가 체계를 통해 제품의 약점을 파악하고 개선할 수 있습니다. 2. 빠른 반복 가능: 평가 시스템을 ...

Evaluating AI Products with LLM-as-Judge

Mar 15, 2025 · 10 min read · Importance of Evaluation Systems in AI Products Virtuous cycle of AI product improvement To ensure the success of AI products, especially those based on Large Language Models (LLMs), a systematic and robust evaluation system is essential. The reason...

Mixtral of Experts 논문 리뷰

Jan 7, 2024 · 24 min read · TL;DR 이 연구를 시작하게 된 배경과 동기는 무엇입니까? 대규모 언어 모델의 발전은 최근 인공지능 분야에서 가장 중요한 연구 주제 중 하나로 자리 잡았다. 그러나 기존 모델들은 계산 비용과 메모리 요구사항이 급격히 증가하면서 실제 응용에 있어 심각한 제약을 가지고 있었다. 특히 모델의 크기가 커질수록 모든 매개변수를 동시에 활성화하는 것은 비현실적이며 비효율적이었다. 이러한 문제를 해결하기 위해 연구자들은 모델의 계산 효율성을 높이면서도 성...