Self-Hosting on ntdim

Как научить LLM читать ваши документы: RAG на примере System Design Wizard

Wed, 05 Aug 2026 00:00:00 +0000

LLM по своей природе — закрытая книга. Модель знает то, что видела в момент обучения, и ничего больше. Спросите её о вчерашних новостях — придумает. О внутренней архитектуре вашей системы — придумает тоже, причём уверенно. Это свойство, галлюцинация, не баг, а следствие того, что модель просто предсказывает следующий токен.

Как LLM выбирает инструменты: от function calling к Model Context Protocol

Thu, 09 Jul 2026 00:00:00 +0000

Языковая модель по своей природе умеет делать только одну вещь — предсказывать следующий токен. Вы даёте ей текст, она продолжает текст. Всё. Никаких баз данных, никаких API-вызовов, никакой возможности посмотреть, который час.

Но вы читаете этот текст через LLM, которая прямо сейчас обращается к файлам на сервере, читает логи и запускает bash-команды. Как модель, внутри которой — только слои Self-Attention и матрицы весов, вдруг научилась «брать в руки» инструменты?

Три взгляда на «Я»: почему открытый индивидуализм меняет правила игры для ИИ

Mon, 04 May 2026 00:00:00 +0000

В предыдущем материале мы разбирали теорию информации Шеннона: как данные, неожиданность и энтропия формируют основу для работы LLM. Но там было одно молчаливое допущение: мы предполагали, что существует кто-то, кто эту информацию получает.

Что такое это «я», которое читает текст, запускает инференс модели или чувствует боль? Философ Даниель Колак (Daniel Kolak) в книге «I Am You» (2004) предложил удобную классификацию из трёх вариантов ответа на этот вопрос. И если применить их к ИИ, привычная картина мира начинает трещать по швам.

Что такое информация? Фундамент Шеннона, на котором стоит весь современный ИИ

Mon, 04 May 2026 00:00:00 +0000

В мире, где каждый день генерируются эксабайты данных, а модели вроде GPT, Claude и Grok кажутся почти разумными, важно остановиться и задать базовый вопрос: что такое информация на самом деле?

Не в бытовом смысле («много информации в этой книге»), а в строгом, математическом. Ответ на этот вопрос дал Клод Шеннон в 1948 году. И именно эта идея — теория информации — сегодня лежит в основе сжатия данных, сетевых протоколов, машинного обучения и больших языковых моделей (LLM), которые многие из нас сейчас крутят на домашних серверах.