<!-- wp:heading -->
<h2 class="wp-block-heading"><strong>로컬 LLM 활용: Ubuntu에 Ollama 설치</strong></h2>
<!-- /wp:heading -->

<!-- wp:paragraph -->
<p>Ollama는 다양한 오픈소스 대규모 언어 모델(LLM)을 개인 컴퓨터에서 쉽게 실행할 수 있도록 지원하는 도구입니다. 단일 명령어로 설치가 가능하여 로컬 LLM 실험의 진입 장벽을 크게 낮춥니다.</p>
<!-- /wp:paragraph -->

<!-- wp:list {"ordered":true} -->
<ol class="wp-block-list"><!-- wp:list-item -->
<li><strong>Ollama 설치</strong>: 터미널에서 다음 명령어를 실행합니다. 이 명령어는 Ollama 설치 스크립트를 다운로드하여 실행합니다. <!-- wp:list -->
<ul class="wp-block-list"><!-- wp:list-item -->
<li>curl -fsSL <a href="https://ollama.com/install.sh">https://ollama.com/install.sh</a> | sh</li>
<!-- /wp:list-item --></ul>
<!-- /wp:list --></li>
<!-- /wp:list-item -->

<!-- wp:list-item -->
<li><strong>언어 모델 다운로드 및 실행</strong>: Ollama 설치 후, 원하는 언어 모델을 다운로드하고 실행할 수 있습니다.</li>
<!-- /wp:list-item --></ol>
<!-- /wp:list -->

<!-- wp:list -->
<ul class="wp-block-list"><!-- wp:list-item -->
<li>예시 모델 gemma:2b (기존 gemma3:1b에서 일반적인 모델명으로 변경) 다운로드 및 실행: ollama run gemma:2b nomic-embed-text gemma3:27b qwen3:30b-a3b (모델명은 예시이며, 사용 가능한 최신 모델 확인 필요) 이 명령은 모델을 다운로드한 후 대화형 프롬프트를 시작합니다.</li>
<!-- /wp:list-item -->

<!-- wp:list-item -->
<li>한국어 임베딩 모델 bona/bge-m3-korean 다운로드: <!-- wp:list -->
<ul class="wp-block-list"><!-- wp:list-item -->
<li>ollama pull bona/bge-m3-korean</li>
<!-- /wp:list-item --></ul>
<!-- /wp:list --></li>
<!-- /wp:list-item --></ul>
<!-- /wp:list -->

<!-- wp:paragraph -->
<p>더 많은 모델은 Ollama 라이브러리 웹사이트(<a href="http://ollama.com/library">ollama.com/library</a>)에서 찾아볼 수 있습니다.</p>
<!-- /wp:paragraph -->

<!-- wp:heading -->
<h2 class="wp-block-heading"><strong>필수 Ollama 명령어</strong></h2>
<!-- /wp:heading -->

<!-- wp:table -->
<figure class="wp-block-table"><table class="has-fixed-layout"><thead><tr><th>명령어</th><th>설명</th><th>예시</th></tr></thead><tbody><tr><td>ollama pull &lt;model_name&gt;</td><td>지정된 모델을 다운로드합니다.</td><td>ollama pull llama3</td></tr><tr><td>ollama run &lt;model_name&gt;</td><td>지정된 모델을 다운로드(없을 경우)하고 실행합니다.</td><td>ollama run llama3</td></tr><tr><td>ollama list</td><td>로컬에 다운로드된 모델 목록을 표시합니다.</td><td>ollama list</td></tr><tr><td>ollama rm &lt;model_name&gt;</td><td>로컬에서 지정된 모델을 삭제합니다.</td><td>ollama rm llama3</td></tr><tr><td>ollama help</td><td>Ollama 명령어 도움말을 표시합니다.</td><td>ollama help</td></tr></tbody></table></figure>
<!-- /wp:table -->

<!-- wp:paragraph -->
<p>이 표는 Ollama를 효과적으로 사용하기 위한 기본 명령어들을 제공하여, 사용자가 모델 관리 작업을 원활하게 수행할 수 있도록 돕습니다.</p>
<!-- /wp:paragraph -->

<!-- wp:heading -->
<h2 class="wp-block-heading">접속 문제 해결</h2>
<!-- /wp:heading -->

<!-- wp:paragraph -->
<p>ollama가 외부 네트워크에 연결되도록 하기 위해서는 systemd service에 환경변수를 추가해 줘야 합니다.</p>
<!-- /wp:paragraph -->

<!-- wp:paragraph -->
<p>/etc/systemd/system/ollama.service 파일에 다음 항목 추가:</p>
<!-- /wp:paragraph -->

<!-- wp:code -->
<pre class="wp-block-code"><code>&#91;Service]
Environment="OLLAMA_HOST=0.0.0.0"</code></pre>
<!-- /wp:code -->

<!-- wp:paragraph -->
<p>Save and exit.</p>
<!-- /wp:paragraph -->

<!-- wp:paragraph -->
<p>Reload systemd and restart Ollama:</p>
<!-- /wp:paragraph -->

<!-- wp:code -->
<pre class="wp-block-code"><code>sudo systemctl daemon-reload
sudo systemctl restart ollama</code></pre>
<!-- /wp:code -->

<!-- wp:heading -->
<h2 class="wp-block-heading">ollama 업그레이드 방법</h2>
<!-- /wp:heading -->

<!-- wp:paragraph -->
<p>ollama 는 수시로 업그레이드 됩니다. ollama github (<a href="https://github.com/ollama/ollama">https://github.com/ollama/ollama</a>)를 확인하여 새로운 버전이 나왔을 경우, 위의 설치 과정 및 접속 문제 해결을 다시 실행하면 새로운 버전으로 업그레이드 됩니다. </p>
<!-- /wp:paragraph -->

<!-- wp:paragraph -->
<p>ollama  현재 버전은 다음 명령어로 확인해 볼 수 있습니다.</p>
<!-- /wp:paragraph -->

<!-- wp:code -->
<pre class="wp-block-code"><code>ollama --version</code></pre>
<!-- /wp:code -->