devstral
This commit is contained in:
@@ -24,6 +24,7 @@ in
|
|||||||
"glm-4.7-flash"
|
"glm-4.7-flash"
|
||||||
"nemotron-cascade-2:30b"
|
"nemotron-cascade-2:30b"
|
||||||
"magistral"
|
"magistral"
|
||||||
|
"devstral-small-2"
|
||||||
];
|
];
|
||||||
models = vars.primary_ollama;
|
models = vars.primary_ollama;
|
||||||
environmentVariables = {
|
environmentVariables = {
|
||||||
|
|||||||
@@ -81,7 +81,20 @@
|
|||||||
ollama = {
|
ollama = {
|
||||||
api_url = "http://192.168.76.2:11434";
|
api_url = "http://192.168.76.2:11434";
|
||||||
context_window = 128000;
|
context_window = 128000;
|
||||||
keep_alive = "15m";
|
# global keep alive doesnt work
|
||||||
|
#keep_alive = "15m";
|
||||||
|
available_models = [
|
||||||
|
{
|
||||||
|
name = "glm-4.7-flash";
|
||||||
|
max_tokens = 128000;
|
||||||
|
keep_alive = "15m";
|
||||||
|
}
|
||||||
|
{
|
||||||
|
name = "lfm2:24b";
|
||||||
|
max_tokens = 128000;
|
||||||
|
keep_alive = "15m";
|
||||||
|
}
|
||||||
|
];
|
||||||
};
|
};
|
||||||
};
|
};
|
||||||
colorize_brackets = true;
|
colorize_brackets = true;
|
||||||
@@ -96,7 +109,7 @@
|
|||||||
agent = {
|
agent = {
|
||||||
default_model = {
|
default_model = {
|
||||||
provider = "ollama";
|
provider = "ollama";
|
||||||
model = "lfm2:24b";
|
model = "glm-4.7-flash";
|
||||||
};
|
};
|
||||||
favorite_models = [ ];
|
favorite_models = [ ];
|
||||||
model_parameters = [ ];
|
model_parameters = [ ];
|
||||||
|
|||||||
Reference in New Issue
Block a user