Update app.py

app.py

@@ -12,7 +12,8 @@ login(os.getenv('hf_token'))
 def infer_ocrvqa(image, question):
     model = PaliGemmaForConditionalGeneration.from_pretrained("google/paligemma-3b-ft-ocrvqa-896").to("cuda")
     processor = PaliGemmaProcessor.from_pretrained("google/paligemma-3b-ft-ocrvqa-896")
-    inputs = processor(images=image,text=question, return_tensors="pt").to("cuda")
+    systemprompt = "Ты ассистент по анализу финансовых отчетов. Ниже приведены вопросы по данным на изображении. Необходимо отвечать на вопросы по суммам в таблицах максимально точно и обращать внимание на названия колонок таблиц. Вопросы: "
+    inputs = processor(images=image,text=systemprompt+question, return_tensors="pt").to("cuda")
     predictions = model.generate(**inputs, max_new_tokens=100)
     return processor.decode(predictions[0], skip_special_tokens=True)[len(question):].lstrip("\n")