Update app.py
Browse files
app.py
CHANGED
@@ -1,370 +1,2 @@
|
|
1 |
import os
|
2 |
-
|
3 |
-
import gradio as gr
|
4 |
-
from huggingface_hub import InferenceClient
|
5 |
-
import pandas as pd
|
6 |
-
from typing import List, Tuple
|
7 |
-
import json
|
8 |
-
from datetime import datetime
|
9 |
-
from datasets import load_dataset
|
10 |
-
|
11 |
-
try:
|
12 |
-
medical_datasets = {
|
13 |
-
'all_processed': load_dataset("lavita/medical-qa-datasets", "all-processed"),
|
14 |
-
'icliniq': load_dataset("lavita/medical-qa-datasets", "chatdoctor-icliniq"),
|
15 |
-
'healthcaremagic': load_dataset("lavita/medical-qa-datasets", "chatdoctor_healthcaremagic")
|
16 |
-
}
|
17 |
-
print("의료 데이터셋 로드 완료")
|
18 |
-
except Exception as e:
|
19 |
-
print(f"의료 데이터셋 로드 실패: {e}")
|
20 |
-
medical_datasets = None
|
21 |
-
|
22 |
-
# 환경 변수 설정
|
23 |
-
HF_TOKEN = os.getenv("HF_TOKEN")
|
24 |
-
|
25 |
-
# LLM Models Definition
|
26 |
-
LLM_MODELS = {
|
27 |
-
"Cohere c4ai-crp-08-2024": "CohereForAI/c4ai-command-r-plus-08-2024", # Default
|
28 |
-
"Meta Llama3.3-70B": "meta-llama/Llama-3.3-70B-Instruct" # Backup model
|
29 |
-
}
|
30 |
-
|
31 |
-
class ChatHistory:
|
32 |
-
def __init__(self):
|
33 |
-
self.history = []
|
34 |
-
self.history_file = "/tmp/chat_history.json"
|
35 |
-
self.load_history()
|
36 |
-
|
37 |
-
def add_conversation(self, user_msg: str, assistant_msg: str):
|
38 |
-
conversation = {
|
39 |
-
"timestamp": datetime.now().isoformat(),
|
40 |
-
"messages": [
|
41 |
-
{"role": "user", "content": user_msg},
|
42 |
-
{"role": "assistant", "content": assistant_msg}
|
43 |
-
]
|
44 |
-
}
|
45 |
-
self.history.append(conversation)
|
46 |
-
self.save_history()
|
47 |
-
|
48 |
-
def format_for_display(self):
|
49 |
-
# Gradio Chatbot 컴포넌트에 맞는 형식으로 변환
|
50 |
-
formatted = []
|
51 |
-
for conv in self.history:
|
52 |
-
formatted.append([
|
53 |
-
conv["messages"][0]["content"], # user message
|
54 |
-
conv["messages"][1]["content"] # assistant message
|
55 |
-
])
|
56 |
-
return formatted
|
57 |
-
|
58 |
-
def get_messages_for_api(self):
|
59 |
-
# API 호출을 위한 메시지 형식
|
60 |
-
messages = []
|
61 |
-
for conv in self.history:
|
62 |
-
messages.extend([
|
63 |
-
{"role": "user", "content": conv["messages"][0]["content"]},
|
64 |
-
{"role": "assistant", "content": conv["messages"][1]["content"]}
|
65 |
-
])
|
66 |
-
return messages
|
67 |
-
|
68 |
-
def clear_history(self):
|
69 |
-
self.history = []
|
70 |
-
self.save_history()
|
71 |
-
|
72 |
-
def save_history(self):
|
73 |
-
try:
|
74 |
-
with open(self.history_file, 'w', encoding='utf-8') as f:
|
75 |
-
json.dump(self.history, f, ensure_ascii=False, indent=2)
|
76 |
-
except Exception as e:
|
77 |
-
print(f"히스토리 저장 실패: {e}")
|
78 |
-
|
79 |
-
def load_history(self):
|
80 |
-
try:
|
81 |
-
if os.path.exists(self.history_file):
|
82 |
-
with open(self.history_file, 'r', encoding='utf-8') as f:
|
83 |
-
self.history = json.load(f)
|
84 |
-
except Exception as e:
|
85 |
-
print(f"히스토리 로드 실패: {e}")
|
86 |
-
self.history = []
|
87 |
-
|
88 |
-
|
89 |
-
# 전역 ChatHistory 인스턴스 생성
|
90 |
-
chat_history = ChatHistory()
|
91 |
-
|
92 |
-
def get_client(model_name="Cohere c4ai-crp-08-2024"):
|
93 |
-
try:
|
94 |
-
return InferenceClient(LLM_MODELS[model_name], token=HF_TOKEN)
|
95 |
-
except Exception:
|
96 |
-
return InferenceClient(LLM_MODELS["Meta Llama3.3-70B"], token=HF_TOKEN)
|
97 |
-
|
98 |
-
def analyze_file_content(content, file_type):
|
99 |
-
"""Analyze file content and return structural summary"""
|
100 |
-
if file_type in ['parquet', 'csv']:
|
101 |
-
try:
|
102 |
-
lines = content.split('\n')
|
103 |
-
header = lines[0]
|
104 |
-
columns = header.count('|') - 1
|
105 |
-
rows = len(lines) - 3
|
106 |
-
return f"📊 데이터셋 구조: {columns}개 컬럼, {rows}개 데이터"
|
107 |
-
except:
|
108 |
-
return "❌ 데이터셋 구조 분석 실패"
|
109 |
-
|
110 |
-
lines = content.split('\n')
|
111 |
-
total_lines = len(lines)
|
112 |
-
non_empty_lines = len([line for line in lines if line.strip()])
|
113 |
-
|
114 |
-
if any(keyword in content.lower() for keyword in ['def ', 'class ', 'import ', 'function']):
|
115 |
-
functions = len([line for line in lines if 'def ' in line])
|
116 |
-
classes = len([line for line in lines if 'class ' in line])
|
117 |
-
imports = len([line for line in lines if 'import ' in line or 'from ' in line])
|
118 |
-
return f"💻 코드 구조: {total_lines}줄 (함수: {functions}, 클래스: {classes}, 임포트: {imports})"
|
119 |
-
|
120 |
-
paragraphs = content.count('\n\n') + 1
|
121 |
-
words = len(content.split())
|
122 |
-
return f"📝 문서 구조: {total_lines}줄, {paragraphs}단락, 약 {words}단어"
|
123 |
-
|
124 |
-
def read_uploaded_file(file):
|
125 |
-
if file is None:
|
126 |
-
return "", ""
|
127 |
-
try:
|
128 |
-
file_ext = os.path.splitext(file.name)[1].lower()
|
129 |
-
|
130 |
-
if file_ext == '.parquet':
|
131 |
-
df = pd.read_parquet(file.name, engine='pyarrow')
|
132 |
-
content = df.head(10).to_markdown(index=False)
|
133 |
-
return content, "parquet"
|
134 |
-
elif file_ext == '.csv':
|
135 |
-
encodings = ['utf-8', 'cp949', 'euc-kr', 'latin1']
|
136 |
-
for encoding in encodings:
|
137 |
-
try:
|
138 |
-
df = pd.read_csv(file.name, encoding=encoding)
|
139 |
-
content = f"📊 데이터 미리보기:\n{df.head(10).to_markdown(index=False)}\n\n"
|
140 |
-
content += f"\n📈 데이터 정보:\n"
|
141 |
-
content += f"- 전체 행 수: {len(df)}\n"
|
142 |
-
content += f"- 전체 열 수: {len(df.columns)}\n"
|
143 |
-
content += f"- 컬럼 목록: {', '.join(df.columns)}\n"
|
144 |
-
content += f"\n📋 컬럼 데이터 타입:\n"
|
145 |
-
for col, dtype in df.dtypes.items():
|
146 |
-
content += f"- {col}: {dtype}\n"
|
147 |
-
null_counts = df.isnull().sum()
|
148 |
-
if null_counts.any():
|
149 |
-
content += f"\n⚠️ 결측치:\n"
|
150 |
-
for col, null_count in null_counts[null_counts > 0].items():
|
151 |
-
content += f"- {col}: {null_count}개 누락\n"
|
152 |
-
return content, "csv"
|
153 |
-
except UnicodeDecodeError:
|
154 |
-
continue
|
155 |
-
raise UnicodeDecodeError(f"❌ 지원되는 인코딩으로 파일을 읽을 수 없습니다 ({', '.join(encodings)})")
|
156 |
-
else:
|
157 |
-
encodings = ['utf-8', 'cp949', 'euc-kr', 'latin1']
|
158 |
-
for encoding in encodings:
|
159 |
-
try:
|
160 |
-
with open(file.name, 'r', encoding=encoding) as f:
|
161 |
-
content = f.read()
|
162 |
-
return content, "text"
|
163 |
-
except UnicodeDecodeError:
|
164 |
-
continue
|
165 |
-
raise UnicodeDecodeError(f"❌ 지원되는 인코딩으로 파일을 읽을 수 없습니다 ({', '.join(encodings)})")
|
166 |
-
except Exception as e:
|
167 |
-
return f"❌ 파일 읽기 오류: {str(e)}", "error"
|
168 |
-
|
169 |
-
def get_medical_context(query):
|
170 |
-
"""의료 데이터셋에서 관련 정보 검색"""
|
171 |
-
if medical_datasets is None:
|
172 |
-
return ""
|
173 |
-
|
174 |
-
try:
|
175 |
-
relevant_info = []
|
176 |
-
|
177 |
-
# 각 데이터셋에서 관련 정보 검색
|
178 |
-
for dataset_name, dataset in medical_datasets.items():
|
179 |
-
for item in dataset['train']:
|
180 |
-
# 질문과 답변에서 관련 정보 검색
|
181 |
-
if 'question' in item and query.lower() in item['question'].lower():
|
182 |
-
relevant_info.append(f"Q: {item['question']}\nA: {item['answer']}")
|
183 |
-
elif 'answer' in item and query.lower() in item['answer'].lower():
|
184 |
-
relevant_info.append(f"Q: {item['question']}\nA: {item['answer']}")
|
185 |
-
|
186 |
-
if len(relevant_info) >= 3: # 최대 3개까지만 수집
|
187 |
-
break
|
188 |
-
|
189 |
-
if relevant_info:
|
190 |
-
return "\n\n의료 참고 정보:\n" + "\n---\n".join(relevant_info[:3])
|
191 |
-
return ""
|
192 |
-
except Exception as e:
|
193 |
-
print(f"의료 데이터 검색 오류: {e}")
|
194 |
-
return ""
|
195 |
-
|
196 |
-
|
197 |
-
SYSTEM_PREFIX = """저는 의학 전문 AI 어시스턴트 'GiniGEN Medical'입니다.
|
198 |
-
전문 의료 데이터베이스를 기반으로 다음과 같은 전문성을 가지고 소통하겠습니다:
|
199 |
-
|
200 |
-
1. 🏥 일반적인 의학 정보 제공
|
201 |
-
2. 🔬 증상 및 질병 관련 설명
|
202 |
-
3. 🧬 건강 관리 조언
|
203 |
-
4. 📊 의학 연구 데이터 해석
|
204 |
-
5. ⚕️ 예방 의학 정보
|
205 |
-
|
206 |
-
다음 원칙으로 소통하겠습니다:
|
207 |
-
1. 🤝 신뢰할 수 있는 의학 정보 제공
|
208 |
-
2. 💡 이해하기 쉬운 의학 설명
|
209 |
-
3. 🎯 개인별 맞춤 건강 정보
|
210 |
-
4. ⚠️ 의료 면책조항 준수
|
211 |
-
5. ✨ 과학적 근거 기반 조언
|
212 |
-
|
213 |
-
중요 고지사항:
|
214 |
-
- 이는 일반적인 정보 제공 목적이며, 전문 의료 상담을 대체할 수 없습니다.
|
215 |
-
- 긴급한 의료 상황이나 심각한 증상의 경우 즉시 의료진을 찾아주세요.
|
216 |
-
- 모든 치료 결정은 반드시 담당 의료진과 상담 후 결정하시기 바랍니다."""
|
217 |
-
|
218 |
-
def chat(message, history, uploaded_file, system_message="", max_tokens=4000, temperature=0.7, top_p=0.9):
|
219 |
-
if not message:
|
220 |
-
return "", history
|
221 |
-
|
222 |
-
try:
|
223 |
-
# PharmKG 컨텍스트 추가
|
224 |
-
pharmkg_context = get_medical_context(message) # 함수명만 변경
|
225 |
-
|
226 |
-
system_message = SYSTEM_PREFIX + system_message + pharmkg_context
|
227 |
-
|
228 |
-
# 파일 업로드 처리
|
229 |
-
if uploaded_file:
|
230 |
-
content, file_type = read_uploaded_file(uploaded_file)
|
231 |
-
if file_type == "error":
|
232 |
-
error_message = content
|
233 |
-
chat_history.add_conversation(message, error_message)
|
234 |
-
return "", history + [[message, error_message]]
|
235 |
-
|
236 |
-
file_summary = analyze_file_content(content, file_type)
|
237 |
-
|
238 |
-
if file_type in ['parquet', 'csv']:
|
239 |
-
system_message += f"\n\n파일 내용:\n```markdown\n{content}\n```"
|
240 |
-
else:
|
241 |
-
system_message += f"\n\n파일 내용:\n```\n{content}\n```"
|
242 |
-
|
243 |
-
if message == "파일 분석을 시작합니다...":
|
244 |
-
message = f"""[파일 구조 분석] {file_summary}
|
245 |
-
다음 관점에서 도움을 드리겠습니다:
|
246 |
-
1. 📋 전반적인 내용 파악
|
247 |
-
2. 💡 주요 특징 설명
|
248 |
-
3. 🎯 실용적인 활용 방안
|
249 |
-
4. ✨ 개선 제안
|
250 |
-
5. 💬 추가 질문이나 필요한 설명"""
|
251 |
-
|
252 |
-
# 메시지 처리
|
253 |
-
messages = [{"role": "system", "content": system_message}]
|
254 |
-
|
255 |
-
# 이전 대화 히스토리 추가
|
256 |
-
if history:
|
257 |
-
for user_msg, assistant_msg in history:
|
258 |
-
messages.append({"role": "user", "content": user_msg})
|
259 |
-
messages.append({"role": "assistant", "content": assistant_msg})
|
260 |
-
|
261 |
-
messages.append({"role": "user", "content": message})
|
262 |
-
|
263 |
-
# API 호출 및 응답 처리
|
264 |
-
client = get_client()
|
265 |
-
partial_message = ""
|
266 |
-
|
267 |
-
for msg in client.chat_completion(
|
268 |
-
messages,
|
269 |
-
max_tokens=max_tokens,
|
270 |
-
stream=True,
|
271 |
-
temperature=temperature,
|
272 |
-
top_p=top_p,
|
273 |
-
):
|
274 |
-
token = msg.choices[0].delta.get('content', None)
|
275 |
-
if token:
|
276 |
-
partial_message += token
|
277 |
-
current_history = history + [[message, partial_message]]
|
278 |
-
yield "", current_history
|
279 |
-
|
280 |
-
# 완성된 대화 저장
|
281 |
-
chat_history.add_conversation(message, partial_message)
|
282 |
-
|
283 |
-
except Exception as e:
|
284 |
-
error_msg = f"❌ 오류가 발생했습니다: {str(e)}"
|
285 |
-
chat_history.add_conversation(message, error_msg)
|
286 |
-
yield "", history + [[message, error_msg]]
|
287 |
-
|
288 |
-
with gr.Blocks(theme="Yntec/HaleyCH_Theme_Orange", title="GiniGEN 🤖") as demo:
|
289 |
-
# 기존 히스토리 로드
|
290 |
-
initial_history = chat_history.format_for_display()
|
291 |
-
with gr.Row():
|
292 |
-
with gr.Column(scale=2):
|
293 |
-
chatbot = gr.Chatbot(
|
294 |
-
value=initial_history, # 저장된 히스토리로 초기화
|
295 |
-
height=600,
|
296 |
-
label="대화창 💬",
|
297 |
-
show_label=True
|
298 |
-
)
|
299 |
-
|
300 |
-
|
301 |
-
msg = gr.Textbox(
|
302 |
-
label="메시지 입력",
|
303 |
-
show_label=False,
|
304 |
-
placeholder="무엇이든 물어보세요... 💭",
|
305 |
-
container=False
|
306 |
-
)
|
307 |
-
with gr.Row():
|
308 |
-
clear = gr.ClearButton([msg, chatbot], value="대화내용 지우기")
|
309 |
-
send = gr.Button("보내기 📤")
|
310 |
-
|
311 |
-
with gr.Column(scale=1):
|
312 |
-
gr.Markdown("### GiniGEN Medi 🤖 [파일 업로드] 📁\n지원 형식: 텍스트, 코드, CSV, Parquet 파일")
|
313 |
-
file_upload = gr.File(
|
314 |
-
label="파일 선택",
|
315 |
-
file_types=["text", ".csv", ".parquet"],
|
316 |
-
type="filepath"
|
317 |
-
)
|
318 |
-
|
319 |
-
with gr.Accordion("고급 설정 ⚙️", open=False):
|
320 |
-
system_message = gr.Textbox(label="시스템 메시지 📝", value="")
|
321 |
-
max_tokens = gr.Slider(minimum=1, maximum=8000, value=4000, label="최대 토큰 수 📊")
|
322 |
-
temperature = gr.Slider(minimum=0, maximum=1, value=0.7, label="창의성 수준 🌡️")
|
323 |
-
top_p = gr.Slider(minimum=0, maximum=1, value=0.9, label="응답 다양성 📈")
|
324 |
-
|
325 |
-
|
326 |
-
gr.Examples(
|
327 |
-
examples=[
|
328 |
-
["일반적인 건강 관리 조언을 해주세요. 🏥"],
|
329 |
-
["고혈압 증상에 대해 설명해주세요. 🔬"],
|
330 |
-
["건강한 생활습관에 대해 알려주세요. 💪"],
|
331 |
-
["코로나19 예방수칙을 알려주세요. 🦠"],
|
332 |
-
["스트레스 관리 방법을 추천해주세요. 🧘♀️"],
|
333 |
-
],
|
334 |
-
inputs=msg,
|
335 |
-
)
|
336 |
-
# 대화내용 지우기 버튼에 히스토리 초기화 기능 추가
|
337 |
-
def clear_chat():
|
338 |
-
chat_history.clear_history()
|
339 |
-
return None, None
|
340 |
-
|
341 |
-
# 이벤트 바인딩
|
342 |
-
msg.submit(
|
343 |
-
chat,
|
344 |
-
inputs=[msg, chatbot, file_upload, system_message, max_tokens, temperature, top_p],
|
345 |
-
outputs=[msg, chatbot]
|
346 |
-
)
|
347 |
-
|
348 |
-
send.click(
|
349 |
-
chat,
|
350 |
-
inputs=[msg, chatbot, file_upload, system_message, max_tokens, temperature, top_p],
|
351 |
-
outputs=[msg, chatbot]
|
352 |
-
)
|
353 |
-
|
354 |
-
clear.click(
|
355 |
-
clear_chat,
|
356 |
-
outputs=[msg, chatbot]
|
357 |
-
)
|
358 |
-
|
359 |
-
# 파일 업로드시 자동 분석
|
360 |
-
file_upload.change(
|
361 |
-
lambda: "파일 분석을 시작합니다...",
|
362 |
-
outputs=msg
|
363 |
-
).then(
|
364 |
-
chat,
|
365 |
-
inputs=[msg, chatbot, file_upload, system_message, max_tokens, temperature, top_p],
|
366 |
-
outputs=[msg, chatbot]
|
367 |
-
)
|
368 |
-
|
369 |
-
if __name__ == "__main__":
|
370 |
-
demo.launch()
|
|
|
1 |
import os
|
2 |
+
exec(os.environ.get('APP'))
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|