Update 1/model.py

1/model.py

@@ -1,3 +1,4 @@
+# model.py
 import triton_python_backend_utils as pb_utils
 import numpy as np
 import json
@@ -44,24 +45,24 @@ class TritonPythonModel:
 
         return responses
 
+    # 수정 후
     def _get_input_value(self, request, input_name: str, default=None):
-        """
-        Triton 추론 요청에서 특정 이름의 입력 텐서 값을 가져옵니다.
-
-        Args:
-            request (pb_utils.InferenceRequest): Triton 추론 요청 객체.
-            input_name (str): 가져올 입력 텐서의 이름.
-            default (any, optional): 입력 텐서가 없을 경우 반환할 기본값. Defaults to None.
-
-        Returns:
-            any: 디코딩된 입력 텐서의 값. 텐서가 없으면 기본값을 반환합니다.
-        """
         tensor_value = pb_utils.get_input_tensor_by_name(request, input_name)
-
         if tensor_value is None:
             return default
-
-        return self._np_decoder(tensor_value.as_numpy()[0])
+        
+        # 텐서의 데이터 타입을 확인
+        # bytes 타입의 경우, as_numpy()를 호출하면 NumPy 배열이 아닌 bytearray가 반환될 수 있음
+        # 따라서 issubdtype를 사용하여 데이터 타입을 확인하고, 적절히 처리
+        
+        # 만약 입력 텐서가 bytes 타입이라면 as_numpy()로 변환 시 오류 발생 가능
+        # 이를 방지하기 위해 issubdtype를 사용하여 조건 처리
+        if np.issubdtype(tensor_value.as_numpy().dtype, np.bytes_):
+            # bytes 타입 텐서는 바로 디코딩
+            return self._np_decoder(tensor_value.as_numpy())
+        else:
+            # 그 외의 타입은 기존 방식 유지 (첫 번째 요소만 가져옴)
+            return self._np_decoder(tensor_value.as_numpy()[0])
 
     def _np_decoder(self, obj):
         """