Рейтинг участника сообщества: 2 Подсказка
Сумма лайков и комментариев пользователя
На Радаре с 22.06.2026
Doka – локальный AI-агент
2026-06-22 17:35:02
Через API - http://10.0.0.2:8080/v1
Doka – локальный AI-агент
2026-06-22 15:32:55
Привет, Илья! Для запуска пришлось подключиться к модели на локальном сервере (RTX 3060/12GB), так как Доке "не понравился" мой i3-8100T. Не понимаю, почему такое жёсткое ограничение. "Чистый" llama-server стартует на нём без проблем. Также, могу посоветовать модели gemma-4-E2B-it-Q6_K.gguf, 3.58 GB [Vision] и nemotron-3-nano-4b-Q8_0.gguf, 3.94 GB с поддержкой большого контекста. Ваше приложение сильно перекликается с разрабатываемым мной. Но моё изначально рассчитано на двухузловой домашний "кластер".