AI и DIY
Записи о DIY-проектах, связанных с 3D-обработкой, печатью и лазерной гравировкой, изготовлением и модернизацией станков с числовым-программным управлением и связанного с этим оборудования,
Устранение ошибки RuntimeError: comfy-aimdo device is not initialize в comfyui
Для решения проблем с нехваткой памяти при работе с нейросетями и платформой PyTorch часто используется модуль AIMDO (AI Model Dynamic Offloader), который автоматически выгружает часть модели искусственного интеллекта в системную память при переполнении VRAM. Благодаря этому даже на компьютерах с относительно слабыми видеокартами с малым объемом памяти можно запускать крупные модели AI. В окружении comfyui распределитель памяти AIMDO можно командой: python -m pip install --upgrade comfy-aimdo К сожалению, при запуске AI-моделей в comfyui с одновременным использованием AIMDO и ноды MultiGPU (например, для загрузки CLIPTextEncoder в память другой видеокарты) может появляться ошибка RuntimeError: comfy-aimdo device is not initialize: Она появляется из-за того, что модуль динамической памяти AIMDO при загрузке окружения comfyui…
Вам также может понравиться
О ресурсе и доработке cветодиодных источников света
О ремонте десктопной DDR4-памяти
Как запустить моторчик от HDD?
Запуск AI-моделей в llama.cpp на AMD Radeon RX470 8GB с Vulkan в gentoo
Использование искусственного интеллекта в настоящее время стало обыденностью. По ряду причин, имеет смысл ограничивать объем персональных данных, отдаваемых «Большому Брату» в ходе его использования. При наличии мало-мальски производительного компьютера (16GB+ RAM и 8GB+ VRAM) на нем можно запускать локальные AI-приложения, избавившись от необходимости платить за подобные сетевые услуги, а также сократив объем своего «личного дела» у третьих лиц. Для запуска локального AI удобно использовать программное окружение llama.cpp. Среди его преимуществ можно выделить следующие: В наличии множества пользователей до сих пор имеется множество видеокарт AMD поколения Polaris с 8GB памяти (AMD Radeon RX серий 470-590). Несмотря на частичное прекращение поддержки таких графических ускорителей (например, на них невозможно использовать последние версии rocm),…
Активация FlashAttention в comfyui для Nvidia Tesla V100 в linux
AI-вычисления требуют наличия большого объема быстродействующей памяти, а также использования новейшего программных модулей, в полной мере раскрывающих возможности имеющегося оборудования. Для видеокарты Nvidia Tesla V100 в comfui для этого можно установить модули Triton 3.2.0 и SageAttention 1.0.6: pip install sageattention==1.0.6 triton=3.2.0 Для еще большего увеличения быстродействия вычислений на видеокарте Nvidia Tesla V100 (и на других подходящих ускорителях) в comfyui желательно использовать программный модуль FlashAttention. В нем задействован алгоритм эффективного вычисления внимания (attention) в AI-трансформерах, который значительно ускоряет инференс и уменьшает загрузку памяти на GPU. Технология FlashAttention (Fast and Memory-Efficient Exact Attention with IO-Awareness) использует оптимизированный алгоритм работы с памятью GPU, включающий следующие элементы: Благодаря FlashAttention, сохраняя тот же математический результат,…
О ремонте десктопной DDR4-памяти
Бурное развитие программного обеспечения, связанного с искусственным интеллектом привело к значительному подорожанию видеокарт и оперативной памяти. Даже модули RAM старых поколений, например, на чипах DDR4, выросли в цене. В связи с этим стала востребованной реанимация неисправных планок памяти большого объема, либо установка более современных и емких микросхем памяти на старые модули. Если производится замена 1-2 микросхем памяти или SPD-чипа, такой ремонт вполне оправдан. В данной статье сделана попытка собрать информацию, которая поможет в ремонте памяти DDR4 SDRAM UDIMM, использующейся на домашних компьютерах. Материал, изложенный далее, субъективен и не претендует на полноту. Устройство десктопной памяти DDR4 SDRAM UDIMM DDR4 SDRAM UDIMM (Unbuffered Dual In-line Memory Module) представляет собой печатный модуль, который…
Компиляция и работа с llama.cpp для GPU Nvidia в linux
Запуск серьезных AI-моделей на своем оборудовании требует большого количества быстродействующей памяти и высокой производительности большинства компонентов компьютера. Использование наиболее эффективных программ может значительно увеличить скорость вычислений при работе с искусственным интеллектом. Самостоятельная сборка пакета программ llama.cpp позволит получить максимальную отдачу от своего оборудования, используя новейшие программнные модули, библиотеки и флаги оптимизации. Для этого очень хорошо подходит операционная система gentoo, в которой все модули по умолчанию компилируются под конкретное железо. Например, в lmstudio нет совместимой c cuda12 версии runtime для видеокарт старее compute capability 7.5, хотя адаптеры поколений Maxwell, Pascal и Volta могут полноценно работать с CUDA Runtime 12.x. По состоянию на середину апреля 2026 года со старыми графическими ускорителями Nvidia…
Установка и использование ollama в gentoo
При наличии мало-мальски мощного компьютера можно достаточно легко запустить свой искусственный интеллект, независимый от кого бы то ни было. Он будет работать без слежки и цензуры, при отключенном интернете, бесплатно и приватно. Собственную AI-модель можно натренировать под свои нужды, улучшив ее IQ в целевой сфере. Локальный искусственный интеллект можно использовать для написания программ, анализа и написания текстов, изучения и генерации изображенийи т.д. ИИ-модель может работать в качестве персонального ассистента-секретаря, не требующего выходных и премий. Учитывая высокий темп развития нейросетевых технологий, глубокого машинного обучения и достаточно высокую вычислительную мощность бытовых современных компьютеров, программные ИИ-помощники скоро станут обыденностью, как смартфоны и другие электронные гаджеты. Для запуска ИИ на компьютере можно использовать такие…
О программном восстановлении неисправных USB-флешек
USB-носители, использующиеся для хранения информации, имеют контроллеры и микросхемы памяти, которые по той или иной причине могут выйти из строя. При этом накопитель либо совсем не отображается в проводнике, либо переходит в режим Read Only, при этом операционная система не может отформатировать флешку. Довольно часто причинами неисправности являются сбои, которые можно устранить программно. Это возможно при повреждении целостности микропрограммы контроллера, отвечающего за управление носителем данных из-за сбоя по питанию, неправильного отсоединения флешки от компьютера, плохого контакта по питанию в USB-разъеме и других причин. В таких случаях можно попробовать восстановить флешку с помощью перепрошивки микропрограммы (firmware) и/или низкоуровневого форматирования. Процедура лечения похожа на работу с накопителями SSD, описанную в статье «Восстановление…
Тестер инициализации материнской платы из программатора ST LINK v2
При ремонте материнских плат компьютеров и ноутбуков часто требуется проверить успешность прохождения POST-проверки при старте. Для этого можно использовать подходящую Test-карту (Debug-плату) или хотя бы клавиатуру — если с запуском все нормально, при нажатии на кнопку Caps Lock на ней должен загораться соответствующий индикаторный светодиод: Кроме того, для проверки можно использовать отдельный тестер инициализации, притворяющийся клавиатурой, на которой нажимается Caps Lock. Самодельный компактный (по размеру флешки) Motherboard-тестер инициализации, поодключаемый через USB-разъем, можно сделать из дешевого клона-программатора ST LINK V2 с AliExpress, который там можно купить за копейки: ST-Link V2 — это доступный программатор и отладчик (debugger) для микроконтроллеров STM8 и STM32 с разъемами USB и JTAG. Он содержит встроенный самовосстанавливающийся…
О ресурсе и доработке cветодиодных источников света
Современные недорогие светодиодные лампы и источники света с LED-элементами обычно имеют достаточно скромный ресурс. После окончания гарантийного срока (иногда и раньше) они довольно быстро выходят из строя. В большинстве случаев это происходит из-за постепенной деградации светодиодов, работающих с повышенной яркостью на предельных токах. Ситуация усугублятся экономией на теплоотводящих элементах, которые сознательно делаются очень тонкими и с малой площадью. На продолжительность безаварийной эксплаутации LED-ламп влияют следующие факторы: Графики деградации светодиодных ламп разных производителей в зависимости от температуры эксплуатации: Зависимость времени эксплуатации одной и той же светодиодной лампы в закрытом светильнике, слабовентилируемом корпусе и на открытом стенде: Как выбрать качественный светодиодный светильник? Учитывая информацию, изложенную выше, при покупке светодиодных ламп, прожекторов, фонарей…
NY-40 — хороший тестер пробивного напряжения и разрядник
Тестер пробивного напряжения и разрядник конденсаторов NYFD-40 (в прилагаемой к прибору инструкции называется Transistor withstand voltage tester NY-40) — очень интересный прибор по своим возможностям и приемлемой цене. Его можно купить на Aliexpress по цене примерно 16 USD: Технические характеристики тестера пробивного напряжения-разрядника NYFD-40: Прибор может измерять пробивное напряжение между коллектором-эмиттером, стоком-истоком транзисторов, диодов, тиристоров, напряжение стабилизации стабилитронов, максимальный вольтаж конденсаторов, рабочее напряжение светодиодных лент, а также разряжать конденсаторы: Кроме того, благодаря высокому рабочему напряжению (до 4000 вольт) при токе до 5 мА, можно проверять газоразрядные лампы подсветки старых мониторов. Подключение электронных элементов для измерения пробивного напряжения: Для управления, контроля за состоянием прибора и зарядки используются: синий — низкое напряжение…
