Compare commits
No commits in common. "refs/deployment/triton" and "main" have entirely different histories.
refs/deplo
...
main
@ -35,4 +35,4 @@ class TritonPythonModel:
|
|||||||
return responses
|
return responses
|
||||||
|
|
||||||
def finalize(self):
|
def finalize(self):
|
||||||
pass
|
pass
|
||||||
|
|||||||
17
config.pbtxt
17
config.pbtxt
@ -1,4 +1,4 @@
|
|||||||
# Triton Backend for Python.
|
# Triton backend to use
|
||||||
backend: "python"
|
backend: "python"
|
||||||
max_batch_size: 0
|
max_batch_size: 0
|
||||||
|
|
||||||
@ -18,18 +18,3 @@ output [
|
|||||||
}
|
}
|
||||||
]
|
]
|
||||||
|
|
||||||
|
|
||||||
parameters: [
|
|
||||||
{
|
|
||||||
key: "model_path",
|
|
||||||
value: {string_value: "/cheetah/input/model/groupuser/random-string-generator"}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
|
|
||||||
|
|
||||||
instance_group [
|
|
||||||
{
|
|
||||||
kind: KIND_AUTO
|
|
||||||
count: 1
|
|
||||||
}
|
|
||||||
]
|
|
||||||
|
|||||||
Loading…
Reference in New Issue
Block a user