<!-- wp:details -->
<details class="wp-block-details"><summary>Ollama 세팅 유의 사항</summary><!-- wp:paragraph -->
<p>주의</p>
<!-- /wp:paragraph -->

<!-- wp:paragraph -->
<p><strong>Ollama를</strong>&nbsp;사용하는 경우&nbsp;기본적으로&nbsp;<strong>2048 토큰 컨텍스트 길이로 설정됩니다</strong>&nbsp;. 이는 특히 웹 검색의 경우&nbsp;<strong>검색 증강 생성(RAG) 성능을</strong>&nbsp;심각하게 제한하는데 , 검색된 데이터가&nbsp;<strong>전혀 사용되지 않거나</strong>&nbsp;일부만 처리될 수 있기 때문입니다.</p>
<!-- /wp:paragraph -->

<!-- wp:paragraph -->
<p><strong>웹 검색에 중요한 이유:</strong>&nbsp;웹 페이지에는 일반적으로 콘텐츠 추출 후에도 메인 콘텐츠, 내비게이션 요소, 헤더, 푸터, 메타데이터를 포함하여 4,000~8,000개 이상의 토큰이 포함되어 있습니다. 사용 가능한 토큰이 2,048개에 불과하면 페이지 콘텐츠의 절반에도 미치지 못하고, 가장 관련성 높은 정보가 누락되는 경우가 많습니다. 심지어 4,096개의 토큰조차도 포괄적인 웹 콘텐츠 분석에는 부족한 경우가 많습니다.</p>
<!-- /wp:paragraph -->

<!-- wp:paragraph -->
<p><strong>이 문제를 해결하려면&nbsp;</strong><strong>관리자 패널 &gt; 모델 &gt; 설정</strong>&nbsp;(Ollama 모델) &gt;&nbsp;<strong>고급 매개변수</strong>&nbsp;로 이동하여&nbsp;<strong>컨텍스트 길이를 8,192개 이상(또는 16,000개 이상) 토큰으로 늘리세요</strong>&nbsp;.&nbsp;이 설정은 특히 Ollama 모델에 적용됩니다. OpenAI 및 기타 통합 모델의 경우, 충분한 기본 컨텍스트 길이를 가진 모델(예: 128,000 토큰이 있는 GPT-4 Turbo)을 사용하고 있는지 확인하세요.</p>
<!-- /wp:paragraph -->

<!-- wp:paragraph -->
<p>검색 증강 생성(RAG)은 다양한 소스의 맥락을 통합하여 챗봇의 대화 기능을 향상시키는 최첨단 기술입니다. 로컬 및 원격 문서, 웹 콘텐츠, 심지어 YouTube 동영상과 같은 멀티미디어 소스까지 다양한 소스에서 관련 정보를 검색합니다. 검색된 텍스트는 미리 정의된 RAG 템플릿과 결합되어 사용자 프롬프트 앞에 접두사로 추가되어 더욱 정보에 기반하고 맥락적으로 관련성 있는 응답을 제공합니다.</p>
<!-- /wp:paragraph -->

<!-- wp:paragraph -->
<p>RAG의 주요 장점 중 하나는 다양한 출처의 정보에 접근하고 통합할 수 있다는 점입니다. 이는 복잡한 대화 상황에 이상적인 솔루션입니다. 예를 들어, 사용자가 특정 문서나 웹 페이지와 관련된 질문을 하면 RAG는 해당 출처에서 관련 정보를 검색하여 채팅 답변에 반영할 수 있습니다. 또한, YouTube 동영상과 같은 멀티미디어 출처에서도 정보를 검색하여 반영할 수 있습니다. RAG는 이러한 동영상의 대본이나 자막을 분석하여 관련 정보를 추출하여 채팅 답변에 반영할 수 있습니다.</p>
<!-- /wp:paragraph --></details>
<!-- /wp:details -->

<!-- wp:paragraph -->
<p></p>
<!-- /wp:paragraph -->

<!-- wp:heading -->
<h2 class="wp-block-heading" id="local-and-remote-rag-integration">로컬 및 원격 RAG 통합</h2>
<!-- /wp:heading -->

<!-- wp:paragraph -->
<p>로컬 문서는 먼저 작업 공간 영역의 문서 섹션을 통해 업로드해야 하며,&nbsp;<code>#</code>쿼리 앞의 기호를 사용하여 액세스할 수 있습니다. 채팅 상자 위에 나타나는 형식화된 URL을 클릭하세요. 선택하면 위에 문서 아이콘이 나타나&nbsp;<code>Send a message</code>검색이 성공적으로 완료되었음을 나타냅니다.</p>
<!-- /wp:paragraph -->

<!-- wp:paragraph -->
<p>프롬프트를 시작하고 URL을 입력하여 해당 문서를 작업 영역으로 불러올 수도 있습니다&nbsp;<code>#</code>. 이렇게 하면 웹 콘텐츠를 대화에 바로 적용할 수 있습니다.</p>
<!-- /wp:paragraph -->

<!-- wp:heading -->
<h2 class="wp-block-heading" id="web-search-for-rag">RAG 웹 검색</h2>
<!-- /wp:heading -->

<!-- wp:paragraph -->
<p>웹 콘텐츠 통합을 위해 채팅에서 을(를) 사용하여 쿼리를 시작한&nbsp;<code>#</code>후 대상 URL을 입력합니다. 채팅 상자 위에 나타나는 상자에서 형식이 지정된 URL을 클릭합니다. 선택하면 위에 문서 아이콘이 나타나&nbsp;<code>Send a message</code>검색이 성공적으로 완료되었음을 나타냅니다. Open WebUI는 가능한 경우 URL에서 정보를 가져와서 구문 분석합니다.팁</p>
<!-- /wp:paragraph -->

<!-- wp:paragraph -->
<p>웹 페이지에는 탐색 기능이나 푸터와 같은 불필요한 정보가 포함되는 경우가 많습니다. 더 나은 결과를 얻으려면 페이지의 원본 버전이나 읽기 쉬운 버전으로 링크를 추가하세요.</p>
<!-- /wp:paragraph -->

<!-- wp:heading -->
<h2 class="wp-block-heading" id="rag-template-customization">RAG 템플릿 사용자 정의</h2>
<!-- /wp:heading -->

<!-- wp:paragraph -->
<p><code>Admin Panel</code>&gt;&nbsp;<code>Settings</code>&gt; 메뉴&nbsp;에서 RAG 템플릿을 사용자 정의합니다&nbsp;<code>Documents</code>.</p>
<!-- /wp:paragraph -->

<!-- wp:heading -->
<h2 class="wp-block-heading" id="rag-embedding-support">RAG 임베딩 지원</h2>
<!-- /wp:heading -->

<!-- wp:paragraph -->
<p><code>Admin Panel</code>&gt;&nbsp;<code>Settings</code>&gt; 메뉴&nbsp;에서 RAG 임베딩 모델을 직접 변경하세요&nbsp;<code>Documents</code>. 이 기능은 Ollama 및 OpenAI 모델을 지원하여 요구 사항에 맞게 문서 처리를 개선할 수 있습니다.</p>
<!-- /wp:paragraph -->

<!-- wp:heading -->
<h2 class="wp-block-heading" id="citations-in-rag-feature">RAG Feature의 인용</h2>
<!-- /wp:heading -->

<!-- wp:paragraph -->
<p>RAG 기능을 사용하면 LLM에 제출된 문서의 맥락을 쉽게 추적할 수 있으며, 참조 지점에 대한 인용 정보도 함께 제공됩니다. 이를 통해 채팅 내 외부 출처 사용에 대한 투명성과 책임성이 보장됩니다.</p>
<!-- /wp:paragraph -->

<!-- wp:heading -->
<h2 class="wp-block-heading" id="enhanced-rag-pipeline">향상된 RAG 파이프라인</h2>
<!-- /wp:heading -->

<!-- wp:paragraph -->
<p>RAG 임베딩 기능의 토글 가능한 하이브리드 검색 하위 기능은 를 통해 RAG 기능을 향상시키고&nbsp;<code>BM25</code>, 를 통해 재순위를 지정하며&nbsp;<code>CrossEncoder</code>, 관련성 점수 임계값을 설정할 수 있습니다. 이를 통해 특정 사용 사례에 맞춰 더욱 정확하고 맞춤화된 RAG 환경을 제공합니다.</p>
<!-- /wp:paragraph -->

<!-- wp:heading -->
<h2 class="wp-block-heading" id="youtube-rag-pipeline">YouTube RAG 파이프라인</h2>
<!-- /wp:heading -->

<!-- wp:paragraph -->
<p>비디오 URL을 통해 YouTube 비디오를 요약하는 전용 RAG 파이프라인을 통해 비디오 대본과 직접 원활하게 상호 작용할 수 있습니다. 이 혁신적인 기능을 통해 비디오 콘텐츠를 채팅에 통합하여 대화 경험을 더욱 풍부하게 만들 수 있습니다.</p>
<!-- /wp:paragraph -->

<!-- wp:heading -->
<h2 class="wp-block-heading" id="document-parsing">문서 파싱</h2>
<!-- /wp:heading -->

<!-- wp:paragraph -->
<p>다양한 파서가 로컬 및 원격 문서에서 콘텐츠를 추출합니다. 자세한 내용은 해당&nbsp;<a href="https://github.com/open-webui/open-webui/blob/2fa94956f4e500bf5c42263124c758d8613ee05e/backend/apps/rag/main.py#L328" target="_blank" rel="noreferrer noopener" class=""><code>get_loader</code></a>함수를 참조하세요.</p>
<!-- /wp:paragraph -->

<!-- wp:heading -->
<h2 class="wp-block-heading" id="google-drive-integration">Google 드라이브 통합</h2>
<!-- /wp:heading -->

<!-- wp:paragraph -->
<p>Google Picker API 및 Google Drive API가 활성화된 Google Cloud 프로젝트와 함께 사용하면 이 기능을 통해 사용자는 채팅 인터페이스에서 Drive 파일에 직접 액세스하고 문서, 슬라이드, 시트 등을 업로드하여 채팅 컨텍스트로 업로드할 수 있습니다.&nbsp;<code>Admin Panel</code>&gt;&nbsp;<code>Settings</code>&gt;&nbsp;<code>Documents</code>메뉴에서 활성화할 수 있습니다.&nbsp;<a href="https://github.com/open-webui/docs/blob/main/docs/getting-started/env-configuration.md" target="_blank" rel="noreferrer noopener" class=""><code>GOOGLE_DRIVE_API_KEY and GOOGLE_DRIVE_CLIENT_ID</code></a>사용하려면 환경 변수를 설정해야 합니다.</p>
<!-- /wp:paragraph -->

<!-- wp:heading {"level":3} -->
<h3 class="wp-block-heading" id="detailed-instructions">자세한 지침</h3>
<!-- /wp:heading -->

<!-- wp:list {"ordered":true} -->
<ol class="wp-block-list"><!-- wp:list-item -->
<li>OAuth 2.0 클라이언트를 만들고 권한 있는 JavaScript 원본과 권한 있는 리디렉션 URI를 모두 Open-WebUI 인스턴스에 액세스하는 데 사용하는 URL(포트가 있는 경우 포함)로 구성합니다.</li>
<!-- /wp:list-item -->

<!-- wp:list-item -->
<li>해당 OAuth 클라이언트와 연결된 클라이언트 ID를 기록해 둡니다.</li>
<!-- /wp:list-item -->

<!-- wp:list-item -->
<li>프로젝트에 대해 Google Drive API와 Google Picker API를 모두 활성화했는지 확인하세요.</li>
<!-- /wp:list-item -->

<!-- wp:list-item -->
<li>또한 앱(프로젝트)을 테스트로 설정하고 Google Drive 이메일을 사용자 목록에 추가합니다.</li>
<!-- /wp:list-item -->

<!-- wp:list-item -->
<li>해당 API가 제공하는 모든 기능을 포함하도록 권한 범위를 설정하세요. 앱이 테스트 모드에 있기 때문에 Google에서는 앱이 제한된 테스트 사용자의 데이터에 접근하는 것을 허용하기 위해 별도의 검증을 요구하지 않습니다.</li>
<!-- /wp:list-item -->

<!-- wp:list-item -->
<li>Google Picker API 페이지로 이동하여 자격 증명 만들기 버튼을 클릭합니다.</li>
<!-- /wp:list-item -->

<!-- wp:list-item -->
<li>API 키를 생성하고 애플리케이션 제한에서 '웹사이트'를 선택합니다. 그런 다음 1단계의 '승인된 JavaScript 원본' 및 '승인된 리디렉션 URI' 설정과 동일하게 Open-WebUI 인스턴스의 URL을 추가합니다.</li>
<!-- /wp:list-item -->

<!-- wp:list-item -->
<li>API 키에 대한 API 제한을 설정하여 Google Drive API 및 Google Picker API에만 액세스할 수 있도록 합니다.</li>
<!-- /wp:list-item -->

<!-- wp:list-item -->
<li><code>GOOGLE_DRIVE_CLIENT_ID</code>2단계에서 설정한 OAuth 클라이언트의 클라이언트 ID에 환경 변수를 설정합니다 .</li>
<!-- /wp:list-item -->

<!-- wp:list-item -->
<li><code>GOOGLE_DRIVE_API_KEY</code>7단계에서 설정한 API 키 값으로 환경 변수를 설정합니다 (2단계의 OAuth 클라이언트 비밀번호가 아님).</li>
<!-- /wp:list-item -->

<!-- wp:list-item -->
<li>Open-WebUI 인스턴스의 URL을 설정합니다 <code>GOOGLE_REDIRECT_URI</code>(포트가 있는 경우 포함).</li>
<!-- /wp:list-item -->

<!-- wp:list-item -->
<li>그런 다음 세 가지 환경 변수를 사용하여 Open-WebUI 인스턴스를 다시 시작합니다.</li>
<!-- /wp:list-item -->

<!-- wp:list-item -->
<li><code>Admin Panel</code>그 후, &lt; <code>Settings</code>&lt; <code>Documents</code>&lt; 에서 Google Drive가 활성화되어 있는지 확인하세요.<code>Google Drive</code></li>
<!-- /wp:list-item --></ol>
<!-- /wp:list -->