Итоги 2024

2024 год начался для меня с замечательного подарка от Деда Мороза — видеокарты AMD Radeon RX 7900 XTX. Этот неожиданный сюрприз стал отправной точкой моего увлекательного пути в мире искусственного интеллекта.

Видеокарта прибыла в конце января, и на её установку ушло два дня, поскольку для её работы требовался блок питания мощностью 1000 Вт. Когда всё было готово, я с головой погрузился в исследования.

К сожалению, драйверы от AMD оказались не совсем подходящими для использования в Docker-контейнерах. Но моя цель как DevOps-разработчика оставалась прежней — я продолжал изучать возможности контейнеризации. Спустя два месяца мне наконец удалось запустить свой первый базовый контейнер — transformers-rocm-docker. Это было значимое событие, так как оригинальный контейнер от AMD не поддерживал Python 3.11 и выше, а для современных проектов это была минимальная версия для начала работы.

Первым проектом, который я освоил, стал PrivateGPT. Месяц ушёл на изучение Ollama и её моделей GGUF. Параллельно я разбирал проект llama-cpp-python. В результате я создал второй базовый проект llama-rocm-docker и сделал свой первый вклад в открытый проект PrivateGPT. В PrivateGPT я добавил инструкцию для запуска проекта на видеокартах от AMD. А затем написал об этом свою первую статью на Хабре. Она пролежала в песочнице неделю, после чего я стал захабренным, т. е. проверенным автором сообщества.

Построив прочный фундамент, я приступил к генерации изображений на основе ИИ. Освоил популярный Stable Diffusion и написал об этом статью. Разобрался с ComfyUI и научился создавать видео. В своих статьях я старался донести идею использования только контейнеризации для максимальной автоматизации. Идеальный запуск любого проекта для меня — это всего лишь три строки в командной оболочке.

Драйверы от AMD постоянно совершенствовались, и я поддерживал самые свежие версии. Это дало мне возможность работать с самыми новыми проектами в области ИИ. Например, я внёс поддержку видеокарт AMD в топовый проект на GitHub LLaMA-Factory.

Финальной статьёй года стал разбор вызова функций в Ollama. Доработав промежуточную библиотеку Pipelines, я понял гениальную идею предварительной обработки запросов и внёс изменения в проект для стабильной работы Ollama. Так как разработчики сосредоточили свои усилия на закрытом проекте OpenAI, то Ollama прошла слабо протестированной. Я же ставлю своей целью использование только открытых продуктов, чтобы иметь больше гибкости в дальнейшем.

Дополнительно я хотел освоить Kubernest. Но для его запуска необходимо было пройти блокировку. Результатом стал форк проекта terrashine и изучение Rust, а также статья на Хабре о том, как обходить блокировки изнутри и снаружи.

В ходе всего года я не изменял своему правилу фиксации мыслей в цеттелькастн, что дало возможность написать пять статей. Моя база знаний значительно окрепла и расширилась. При этом я начинаю чувствую уверенность, что продолжая в том же духе смогу написать книгу.

Приятным дополнением в завершении года были два проекта, которые мне добавили сын и жена, за что им огромное спасибо. Сын купил 3D-принтер, и я понял, как собирать g-code, находить и печатать любые модели. Жена добавила увлекательную идею, так что пришлось перепробовать несколько разных проектов на Python saleor, Ruby spree и JavaScript medusa. После тщательного анализа судьба снова погрузила меня в мир JavaScript. Проект мощный, интересный, так что планов стало ещё больше, и все они очень интересные. 2025 год должен быть захватывающим!