Ollama - Haji Papa's Bits & Bytes

Haji Papa's Bits & Bytes

Ollama

A collection of 5 posts

【MCP】Ollama+Open WebUI+MCPO環境でMCPを試す

【MCP】Ollama+Open WebUI+MCPO環境でMCPを試す

1. はじめに最近のニュースで、MCPに関する記事が増えてきました。 MCPというと、私はMicrosoft Certified Professional のことだと思ってしまいます ^^; が、ここでのMCPは、Module Context Protocolの略で、LLMが「外部のツール」と安全・柔軟につながるための標準プロトコルのことを指します。 2. MCPの利用例たとえば、LLMに次のような依頼をしたとします。「このページの内容を読んで要約して」普通のLLMはWebにアクセスできないので何もできませんが、MCP対応のモデルなら * 「fetch」ツールを呼び出してWebページを取得 * その結果を元にLLMが要約というように、ツールを"使って"推論できるようになります。 3. MCPの登場背景もともとOpenAIやAnthropic、Googleなどは「Tool Use」という仕組みを独自に実装していました。でも、それぞれやり方

DockerでOpen WebUI＋Ollama環境を簡単構築！

DockerでOpen WebUI＋Ollama環境を簡単構築！

LLMを手軽に使う方法とGPUトラブル対処法 1. はじめにローカル環境で大規模言語モデル（LLM）を試したいけれど、難しそう…と思っていませんか？今回は、Docker を使って、話題の Open WebUI と Ollama を簡単に構築し、手軽にLLMを使える環境を作る方法をご紹介します。さらに、私が実際にハマった「GPUが認識されない問題」とその対処法も【補足】としてまとめました！ 2. Open WebUI＋Ollamaとは？ * Ollama：ローカルでLLMを動かせるエンジン。各種モデル（例：Gemma、Llama3など）を簡単に利用可能。 * Open WebUI：Ollamaをブラウザから操作できる便利なフロントエンド。この2つを組み合わせることで、まるでChatGPTのようにローカル環境でLLMが扱えるようになります！ 3. Dockerを使った構築手順 ① 必要環境 * Docker & Docker Compose v2 がインストール済みであること ② docker-compose.

PythonからOllama APIを使って、文章を要約する

PythonからOllama APIを使って、文章を要約する

前回「Ollama APIを使用してみる」で、Ollama APIを試してみました。今回は、PythonとOllama APIを使って、PDFファイルの要約をGemma3にしてもらおうと思います。春期の情報処理試験も近いですので、それに関連するPDFの要約を作成してみましょう。必要なライブラリのインストール pip install aiohttp PyMuPDF import fitzとあるのでpip install fitzとしがちですが、pip install PyMuPDFです。 Pythonコード（ファイル名: summarize_pdf_ollama.py） import asyncio import aiohttp import fitz # pip install fitzではなく、pip install PyMuPDF import sys import os import time import json

Ollama APIを使用してみる

Ollama APIを使用してみる

前回掲載した「Ollamaを使ってGemma3を動かしてみる」の続きで、今回はOllamaをAPI経由で使ってみたいと思います。下記のサイトに従って、さっそくAPI経由でGemma3を使ってみましょう。 ollama/docs/api.md at main · ollama/ollamaGet up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 3, and other large language models. - ollama/ollamaGitHubollama 「なぜ空は青いの？」というプロンプトを投げてみます。 $ curl http://localhost:11434/api/generate -d '{"model": "gemma3:4b"

Let's use Ollama

Ollamaを使ってGemma3を動かしてみる

Ollamaとは Ollama は、ローカル環境で大規模言語モデル（LLM）を簡単に実行できるようにするオープンソースのソフトウェアです。いま話題のDeepSeek、Phi-4、Gemma3 などの人気のある LLM を手軽にダウンロードして、実行できます。 Ollamaのインストール下記のサイト(https://ollama.com）にアクセスし、Downloadボタンをクリックします。 OllamaGet up and running with large language models. リンク先の画面に、OSごとにインストールの仕方が表示されているので、その支持に従ってください。 curl -fsSL https://ollama.com/install.sh | sh $ curl -fsSL https://ollama.com/install.sh | sh >>>