В Ollama добавили поддержку Llama3.2-vision
Llama3.2-vision обладает мультимодальностью и способна к распознаванию изображений и генерации описаний к ним. Доступны версии модели на 11B и 90B, при этом для полной загрузки 90B требуется графический процессор H100 с 80 Гб видеопамяти.
Чтобы использовать модель, необходимо обновить Ollama до версии 0.4.0 и выполнить установку командой
Для пользователей Linux требуется перезапуск сервиса и контейнеров. Загружать изображения можно через Open WebUI, добавляя файлы.
================
@black_triangle_tg
Llama3.2-vision обладает мультимодальностью и способна к распознаванию изображений и генерации описаний к ним. Доступны версии модели на 11B и 90B, при этом для полной загрузки 90B требуется графический процессор H100 с 80 Гб видеопамяти.Чтобы использовать модель, необходимо обновить Ollama до версии 0.4.0 и выполнить установку командой
ollama run llama3.2-visionДля пользователей Linux требуется перезапуск сервиса и контейнеров. Загружать изображения можно через Open WebUI, добавляя файлы.
================
@black_triangle_tg