diff --git a/1/model.py b/1/model.py index 062acdd..5197d74 100644 --- a/1/model.py +++ b/1/model.py @@ -110,6 +110,7 @@ class TritonPythonModel: try: # 1. 입력 데이터 파싱 input_data, is_chat = self._parse_input(request) + self.logger.log_info(f"\n>>> [Input]: {input_data}") # 2. Generation Config 생성 gen_config = self._create_generation_config(request) @@ -120,6 +121,9 @@ class TritonPythonModel: # 4. 모델 추론 (Generate) output_text = self._generate(inputs, gen_config) + # [LOGGING] 모델 응답 로그 출력 + self.logger.log_info(f"\n<<< [Output]: {output_text}") + # 5. 응답 생성 responses.append(self._create_response(output_text))