Pagina 1 di 1

ollama container e nvidia passtrought

Inviato: 22 feb 2025, 18:20
da fraste03
salve ragazzi ho perfettamente configurato ollama e webui tramite docker in container station ma non riesco in nessun modo a usare la gpu per la potenza dei calcoli , hon scaricato dei modelli semplici quindi la mia quadro p2200 dovrebbe perfettamente essere in grado di trattarli. ho perfettamente abilitato il passtrought della gpuy e lho assegnata a container station .l'jho assegnata al docker di ollama e da comando msi si vede chge la gpu e' perfettamente riconosciuta dal docker e che i driver e i cuda sono installati corretamente ma non riesco in nessun modo a farla funzionare con i modelli di ollama.

qualche guru che ne e' gia ujscito fuori da sta situazione?