Ai

Model Context Protocol - открытый стандарт от Anthropic, определяющий способ подключения LLM к внешним инструментам и данным. Один протокол - множество источников. Архитектура: ┌─────────────┐ ┌─────────────┐ ┌─────────────┐ │ LLM Client │ ←→ │ MCP Server │ ←→ │ Resource │ │ (Cursor, │ stdio/ │ (filesystem,│ │ (files, DB,│ │ Claude, │ HTTP │ github...) │ │ API...) │ │ OpenWebUI) │ │ │ │ │ └─────────────┘ └─────────────┘ └─────────────┘ Клиент - приложение с LLM (Cursor, Claude Desktop, Open WebUI) Сервер - обёртка вокруг ресурса (Node.js/Python-процесс) Ресурс - источник данных или действий (БД, API, файловая система) 💡 MCP определяет стандартный способ подключения модели к внешним инструментам. Модель не становится “умнее” - она получает доступ к данным и действиям. ...

Ollama - рантайм для локального запуска больших языковых моделей. Установка и запуск модели выполняются одной командой; ручная настройка зависимостей и виртуальных окружений не требуется. Локальная машина → Ollama → Модель (Llama, Qwen, Mistral...) Преимущества: Данные не покидают локальную машину Инференс не требует интернет-соединения Отсутствуют подписки и лимиты Работает на CPU (с ограниченной производительностью) Установка NixOS # configuration.nix services.ollama = { enable = true; # Опционально: список моделей для автозагрузки # models = [ "qwen2.5:7b" ]; }; Применение: ...