Update config.pbtxt
This commit is contained in:
parent
93ea2cd857
commit
aba0c822d7
80
config.pbtxt
80
config.pbtxt
@ -13,80 +13,6 @@ input [
|
|||||||
dims: [ -1 ]
|
dims: [ -1 ]
|
||||||
|
|
||||||
|
|
||||||
},
|
|
||||||
{
|
|
||||||
name: "max_length"
|
|
||||||
data_type: TYPE_INT32
|
|
||||||
dims: [ 1 ]
|
|
||||||
|
|
||||||
optional: true
|
|
||||||
|
|
||||||
|
|
||||||
},
|
|
||||||
{
|
|
||||||
name: "max_new_tokens"
|
|
||||||
data_type: TYPE_INT32
|
|
||||||
dims: [ 1 ]
|
|
||||||
|
|
||||||
optional: true
|
|
||||||
|
|
||||||
|
|
||||||
},
|
|
||||||
{
|
|
||||||
name: "do_sample"
|
|
||||||
data_type: TYPE_BOOL
|
|
||||||
dims: [ 1 ]
|
|
||||||
|
|
||||||
optional: true
|
|
||||||
|
|
||||||
|
|
||||||
},
|
|
||||||
{
|
|
||||||
name: "top_k-modify"
|
|
||||||
data_type: TYPE_INT32
|
|
||||||
dims: [ 1 ]
|
|
||||||
|
|
||||||
|
|
||||||
reshape {
|
|
||||||
shape: [ 23 ]
|
|
||||||
}
|
|
||||||
|
|
||||||
},
|
|
||||||
{
|
|
||||||
name: "top_p"
|
|
||||||
data_type: TYPE_FP32
|
|
||||||
dims: [ 1 ]
|
|
||||||
|
|
||||||
optional: true
|
|
||||||
|
|
||||||
|
|
||||||
},
|
|
||||||
{
|
|
||||||
name: "temperature"
|
|
||||||
data_type: TYPE_FP32
|
|
||||||
dims: [ 1 ]
|
|
||||||
|
|
||||||
optional: true
|
|
||||||
|
|
||||||
|
|
||||||
},
|
|
||||||
{
|
|
||||||
name: "repetition_penalty-modify"
|
|
||||||
data_type: TYPE_FP32
|
|
||||||
dims: [ 2.1 ]
|
|
||||||
|
|
||||||
optional: true
|
|
||||||
|
|
||||||
|
|
||||||
},
|
|
||||||
{
|
|
||||||
name: "stream"
|
|
||||||
data_type: TYPE_BOOL
|
|
||||||
dims: [ 1 ]
|
|
||||||
|
|
||||||
optional: true
|
|
||||||
|
|
||||||
|
|
||||||
}
|
}
|
||||||
|
|
||||||
]
|
]
|
||||||
@ -96,12 +22,6 @@ input [
|
|||||||
# output of variable length named 'text_output'
|
# output of variable length named 'text_output'
|
||||||
output [
|
output [
|
||||||
|
|
||||||
{
|
|
||||||
name: "text_output"
|
|
||||||
data_type: TYPE_STRING
|
|
||||||
dims: [ -1 ]
|
|
||||||
|
|
||||||
}
|
|
||||||
|
|
||||||
]
|
]
|
||||||
|
|
||||||
|
|||||||
Loading…
Reference in New Issue
Block a user