Установка и использование ollama в gentoo

При наличии мало-мальски мощного компьютера можно достаточно легко запустить свой искусственный интеллект, независимый от кого бы то ни было. Он будет работать без слежки и цензуры, при отключенном интернете, бесплатно и приватно.

Собственную AI-модель можно натренировать под свои нужды, улучшив ее IQ в целевой сфере.

Локальный искусственный интеллект можно использовать для написания программ, анализа и написания текстов, изучения и генерации изображенийи т.д. ИИ-модель может работать в качестве персонального ассистента-секретаря, не требующего выходных и премий.

Учитывая высокий темп развития нейросетевых технологий, глубокого машинного обучения и достаточно высокую вычислительную мощность бытовых современных компьютеров, программные ИИ-помощники скоро станут обыденностью, как смартфоны и другие электронные гаджеты.

Для запуска ИИ на компьютере можно использовать такие программыне платформы, как Ollama, LM Studio и им подобные. По мнению автора данной статьи, лучше всего использовать открытое программное обеспечение с доступными исходными кодами. Приложения, развиваемые энтузиастами быстро получают нужный пользователям функционал, не требуют финансовых вложений и способствуют личностному росту в ходе их настройки и использования.

Исходя из этих соображений в качестве первой оболочки для запуска локальных моделей искусственного интеллекта стоит рассмотреть именно Ollama. Это программа, созданная по принципу «запустил и работай», обычно не требующая сложной ручной настройки подключаемых к ней нейросетей.

Она включает встроенный HTTP-сервер, позволяющий достаточно легко устанавливать и работать с локальными LLM-моделями, а также, начиная с 2026 года, запускать генерацию картинок (по состоянию на весну 2026 года — это модели qwen2.5-3B-goonsai-nsfw-100k, x/z-image-turbo, а также x/flux2-klein).

Ollama идеально подходит для Linux-систем, таких как Gentoo, благодаря наличию возможности тонкой настройки и гибкости в работе с модулями CPU и GPU.

К сожалению, Ollama пока не входит в число нативных приложений Gentoo, которые можно устанавливать командой emerge. Ollama в Gentoo можно установить с помощью официального скрипта, запускаемого командой:

  curl -fsSL https://ollama.com/install.sh | sh

или использовать один из ebuild из overlays, например, на сайте zugaina, раздел guru/sci-ml/ollama:

На страничке portage-оверлеев Gentoo (https://gpo.zugaina.org/sci-ml/ollama) можно ознакомиться со списком доступных версий ollama:

Скачанный ebuild-файл (например, ollama-9999.ebuild) можно установить следующими командами:

  sudo mkdir /usr/local/portage/app-editors/

Создать там папку с именем ollama, скопировать туда файл ollama-9999.ebuild и произвести инсталляцию платформы командами:

  sudo ebuild '/usr/local/portage/app-editors/ollama/ollama-9999.ebuild'  digest

  sudo ebuild '/usr/local/portage/app-editors/ollama/ollama-9999.ebuild'  unpack

  sudo ebuild '/usr/local/portage/app-editors/ollama/ollama-9999.ebuild'  compile

  sudo ebuild '/usr/local/portage/app-editors/ollama/ollama-9999.ebuild'  install

  sudo ebuild '/usr/local/portage/app-editors/ollama/ollama-9999.ebuild'  qmerge

  sudo ebuild '/usr/local/portage/app-editors/ollama/ollama-9999.ebuild'  clean

После выполнения этих команд ollama будет установлена на компьютер.

С ней можно работать, подключаясь к порту 11434. Чтобы разрешить доступ к этому порту по сети нужно выполнить команду:

  echo "OLLAMA_HOST=0.0.0.0" >> /etc/default/ollama

Проверить успешность установки ollama можно командой

  ollama --version

Для работы с ollama в первую очередь нужно запустить сервис Ollama командой:

ollama serve

Для удобства можно включить автоматический запуск Ollama при старте системы командами (для systemd):

  sudo systemctl enable ollama.service

  sudo systemctl start ollama.service

Проверка статуса службы Ollama:

  sudo systemctl status ollama.service

Запуск ИИ-моделей осуществляется в отдельном терминале текстовыми командами, например:

ollama pull <название_модели> — скачивает указанную в команде модель из репозитория;

ollama rm <модель> — удаление установленной модели;

ollama run <модель> — запуск ИИ-модели в интерактивном режиме.

После загрузки модели появится интерактивное диалоговое окно, в котором происходит общение с ней:

Пример общения с локально развернутой ИИ-моделью qwen3.5:9b, ответ на вопрос «Is there criminal liability for mining?»:

>>> Is there criminal liability for mining?

Thinking…

The user is asking about criminal liability for cryptocurrency mining, in English. This follows a previous question in Russian about the same topic.

I should provide a similar comprehensive answer as I did in Russian, but in English. The key points are:

1. Mining itself is generally legal in most countries

2. However, certain related actions can lead to criminal liability depending on jurisdiction

3. Tax evasion can be criminal in some countries

4. Theft of electricity, using stolen equipment, etc. can be crimes

5. Laws vary by country

I should be careful to note that I’m not a lawyer and this is general information. Let me provide a balanced, helpful response.

…done thinking.

**Short Answer:** Cryptocurrency mining itself is generally **not a crime** in most countries, but **criminal liability can attach** depending on how you mine and what you do with the cryptocurrency.

—

### **1. Mining is Generally Legal**

In many jurisdictions (U.S., Canada, European Union, Australia, etc.), mining is legal. People mine with their own equipment and use electricity at their own expense.

—

### **2. When Criminal Liability May Arise**

| **Activity** | **Potential Legal Issue** | **Possible Charges** |

|—————|—————————|———————-|

| **Stealing electricity** | Using someone else’s power without payment | Theft, fraud |

| **Using stolen equipment** | Mining with property you don’t own | Theft, possession of stolen property |

| **Unauthorized access** | Mining on servers or networks without permission | Hacking, unauthorized computer access |

| **Money laundering** | Mixing mining income with illicit funds | Money laundering, tax evasion |

| **Tax evasion** | Not declaring mining income | Tax evasion (can be criminal in some countries) |

| **Violating energy regulations** | Exceeding power limits in private networks | Administrative or criminal penalties |

—

### **3. Country-Specific Examples**

— **United States:** Mining is legal. However, **IRS requires you to report income**, and failing to do so can lead to tax evasion charges.

— **China:** Mining is **banned** (de facto and de jure in most provinces). Violations can lead to seizure of equipment and fines.

— **Russia:** Mining is legal for individuals, but cryptocurrency **cannot be used for payments**. Income must be declared and taxed.

— **United Kingdom:** Mining is legal, but income must be reported for tax. Money laundering laws apply.

— **United Arab Emirates:** Mining is legal in certain emirates (like Dubai). Regulatory compliance is required.

—

### **4. Regulatory Compliance**

— **Energy usage:** Follow grid operator rules regarding power consumption limits.

— **Tax compliance:** Declare mining income as per local law.

— **Licensing:** Some jurisdictions require permits for large-scale mining operations.

—

### **5. Important Considerations**

— **Jurisdiction matters:** Laws vary significantly by country and state.

— **Business vs. Personal:** Corporate mining may have stricter regulations.

— **Environmental regulations:** Some areas restrict mining due to energy consumption or noise pollution.

—

### **Recommendations**

1. **Declare your income** and pay applicable taxes.

2. **Use your own equipment** and electricity.

3. **Follow local laws** about mining pools and software.

4. **Consult a lawyer** for specific legal advice in your jurisdiction.

—

**⚠️ Disclaimer:** I’m an AI, not a lawyer. Laws change and vary by location. Always consult with a qualified attorney or tax professional for advice specific to your situation. 😊

Ollama установит нужную модель и без команды pull после выполнения команды run плюс название модели, например:

ollama run qwen3.5:35b

По умолчанию скачанные модели хранятся в скрытом каталоге ~/.ollama/models.

Нужную ИИ-модель можно выбрать на сайте ollama:

Некоторые команды, использующиеся при работе с ollama:

ollama list — показывает установленные на компьютере ИИ-модели:

ollama create <модель> — создаёт новую модель на основе существующей. Использование этой команды позволяет дообучить готовую модель под свои нужды;

ollama show <модель> — показывает подробную информацию о модели:

ollama stop <модель> — остановка запущенной модели;

ollama push <модель> — отправка модели в репозиторий (нужно для своей дообученной сборки);

ollama ps — вывод списка запущенных моделей;

ollama help — вывод справки по командам платформы.

Собственный ИИ является не просто игрушкой для баловства, но полезным инструментом, применимым во множестве областей, в том числе для собственного развития…