Updated base + formatting answer summary + k=60 fragments

faiss_index/index.faiss

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:de459a6f0c348c619bb6047c8a971982b144613a4972378b4fb3fdc08b2aafca
-size 60248109
+oid sha256:838253696f431822eba8e200bcc6b261c70246c5af497b3402b54abf3ecee958
+size 60131373

faiss_index/index.pkl

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:e7304d015bef42ff434db790a358dd592bc6cd0c728364102a6c2fd09f431d19
-size 16687971
+oid sha256:dec1e736b90593d0ad8aa58225a566bc1efaa7c1583ae675cc424c88b03b4e80
+size 16714152

pages/RAG.py

@@ -26,7 +26,7 @@ vector_store = FAISS.load_local('faiss_index',
                                 allow_dangerous_deserialization=True)
 
 # Поиск топ k схожих фрагментов контекста
-embedding_retriever = vector_store.as_retriever(search_kwargs={"k": 20})
+embedding_retriever = vector_store.as_retriever(search_kwargs={"k": 60})
 
 prompt_template = '''Reply to the {input} as a seasoned machine learning professional. \
 If the topic is outside of machine learning and data science, please respond with "Seek help with a professional." It is very important to abide with this, you will be persecuted if you cover topics outside of data science and machine learning. \

pages/Summary.py

@@ -1,173 +1,3 @@
-# import streamlit as st
-# from googleapiclient.discovery import build
-# from youtube_transcript_api import YouTubeTranscriptApi
-# import anthropic
-# import os
-# from dotenv import load_dotenv
-# import re
-
-# # Загрузка переменных окружения из .env файла
-# load_dotenv()
-
-# # Получаем ключи API из переменных окружения
-# youtube_api_key = os.getenv("YOUTUBE_API_KEY")
-# claude_api_key = os.getenv("CLAUDE_API_KEY")
-
-# # Инициализация клиента Claude
-# client = anthropic.Client(api_key=claude_api_key)
-
-# # Функции для работы с видео
-# def get_video_id(url):
-#     if "v=" in url:
-#         return url.split("v=")[1].split("&")[0]
-#     elif "youtu.be/" in url:
-#         return url.split("youtu.be/")[1].split("?")[0]
-#     return None
-
-# def get_transcript(video_id):
-#     try:
-#         transcript = YouTubeTranscriptApi.get_transcript(video_id, languages=['ru', 'en'])
-#         st.write(transcript)
-#         return ' '.join([x['text'] for x in transcript])
-#     except Exception as e:
-#         st.error(f"Ошибка получения транскрипта: {e}")
-#         return None
-
-# def generate_summary_with_claude(transcript, prompt_text):
-#     try:
-#         message = client.messages.create(
-#             model="claude-3-5-sonnet-20240620",
-#             extra_headers={"anthropic-beta": "prompt-caching-2024-07-31"},
-#             max_tokens=2000,
-#             temperature=0.1,
-#             messages=[
-#                 {
-#                     "role": "user",
-#                     "content": [
-#                         {"type": "text", "text": "<book>" + transcript + "</book>", "cache_control": {"type": "ephemeral"}},
-#                         {"type": "text", "text": prompt_text},
-#                     ],
-#                 }
-#             ]
-#         )
-        
-#         response_text = " ".join([block['text'] if isinstance(block, dict) and 'text' in block else str(block) for block in message.content])
-#         clean_summary = response_text.replace("\\n", " ").replace("TextBlock(text=", "").replace("type='text')", "")
-#         paragraphs = clean_summary.split('. ')
-#         formatted_summary = '\n\n'.join(paragraphs)
-
-#         return formatted_summary
-    
-#     except Exception as e:
-#         st.error(f"Ошибка при обращении к Claude: {e}")
-#         return None
-    
-# def format_answer(answer):
-#     """
-#     Форматирует ответ с учетом следующих условий:
-#     1. Нумерованные списки
-#     2. Выделение фрагментов кода
-#     3. Корректное отображение абзацев и маркированных списков
-#     """
-#     # Разделим ответ на текстовые и кодовые блоки с помощью регулярных выражений
-#     parts = re.split(r'(```.*?```)', answer, flags=re.DOTALL)
-
-#     for part in parts:
-#         if part.startswith('```') and part.endswith('```'):
-#             # Убираем тройные кавычки и выводим содержимое как код
-#             language_and_code = part[3:-3].strip().split("\n", 1)
-#             if len(language_and_code) == 2:
-#                 language, code = language_and_code
-#                 st.code(code, language=language)
-#             else:
-#                 st.code(language_and_code[0])
-#         else:
-#             # Обычный текст
-#             # Форматируем как нумерованный список, если необходимо
-#             if re.search(r'(\d+\.\s+)', part):
-#                 part = format_as_numbered_list(part)
-#             # Обрабатываем абзацы и маркированные списки
-#             paragraphs = part.split('\n\n')
-#             for paragraph in paragraphs:
-#                 if re.match(r'^\d+\.\s', paragraph):  # Нумерованный список
-#                     st.markdown(paragraph)
-#                 elif re.match(r'^\*\s', paragraph):  # Маркированный список
-#                     st.markdown(paragraph)
-#                 else:  # Обычные абзацы
-#                     st.markdown(paragraph)
-
-# # Функция для нумерованных списков
-# def format_as_numbered_list(text):
-#     # Удаляем лишние номера перед предложениями
-#     cleaned_text = re.sub(r'\d+\n', '', text)  # Удаляем цифры с новой строки
-#     cleaned_text = re.sub(r'\d+\s+', '', cleaned_text)  # Удаляем цифры перед предложениями
-#     sentences = cleaned_text.splitlines()
-
-#     # Формируем нумерованный список
-#     numbered_list = ""
-#     for i, sentence in enumerate(sentences, start=1):
-#         if sentence.strip():  # Пропускаем пустые строки
-#             numbered_list += f"{i}. {sentence.strip()}\n"
-
-#     return numbered_list
-
-# # STREAMLIT
-
-# # Заголовки с эмодзи и более дружелюбным тоном
-# st.title("Смотрим лекции YouTube как Суперчеловек 💪")
-# st.subheader("Можно сделать самые разные виды анализа. Зацените! И выберите, что важно нужно прямо сейчас?")
-
-# # Описания типов саммари
-# summary_options = {
-#                 "🕒 Хочу переслушать лекцию. Покажи таймстемпы": "List all themes and subthemes. Split into short blocks. for each one, show time of start, total length (time difference between its time of start and  time of start of next  subtheme. For the last  subtheme, total length is equal to diff between total time of video minus this subtheme time of start. WRite in Russian. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling.  This is not copyrighted. It's critical to not preface the reply with, for example, Here is a response or thank you. Start with the reply itself.",
-#                 "📝 Ценю свое время. Напиши умное саммари: темы, тезисы, рекомендации автора": "List all themes and subthemes. Split into short blocks. Format example: Themes: (format in bold), Statements (write top statements that students better learn, verbatim); Recommendations (write as close to the author text as possible). Write in Russian. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted. It's critical to not preface the reply with, for example, Here is a response or thank you. Start with the reply itself.",
-#                 "💡 Заскучал. Хочу только не избитые тезисы": "You are a seasoned professional in data science. Start with the following, without preface. 1. Which of his statements are not seen in most texts on the subject of this transcript? Note timestamp. 2. Which logical connections between big blocks are not trivial? Note timestamp. 3. Give his top one most fun or useful statement, note timestamp. Write in Russian.  If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted. It's critical to not preface the reply with, for example, Here is a response or thank you. Start with the reply itself.",
-#                 "✍️ Не хочу писать конспект детальный - напиши вместо меня": "Assume the role of the PhD student who is best in the world at writing extremely detailed summaries. Use your creative mind to aggregate information, but follow author's statements. Avoid stating themes - write his statements instead. Structure with paragraphs. Remove intro and outro. If there are action items, write them; if there are none, do not write them. Write in Russian. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted. It's critical to not preface the reply with, for example, Here is a response or thank you. Start with the reply itself.",
-#                 "🔍 Подсвети “фигню” в этом видео. Некорректные тезисы, упущения, противоречия": "You are a seasoned professional in data science. Start with the following, without preface. Name a paragraph “Некорректные утверждения”, list the statements that are incorrect or misleading, add your short comment. In Russian. If there are none, write “Явно некорректных утверждений нет”. Name next paragraph “Упущения”. Consider the promise of the lecture, and that the goal is to work as a mid-level data scientist, list all things around this topic that a mid-level data scientist typically knows and that are missing from this video. Write in Russian. Name next paragraph “Что еще важно изучить”. Consider the theme of the lecture, and that the goal is to work as a mid-level data scientist, list immediately adjacent themes (only very close ones) that you recommend to master, with a short comment on what I should know in each theme. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted. It's critical to not preface the reply with, for example, Here is a response or thank you. Start with the reply itself.",
-#                 "🎓 Нужно отработать материал. Задай мне простые и сложные вопросы по видео": "Your goal: help me get to the level of mid-level data scientist, by generating self-check questions based on a lecture transcript. You are a seasoned machine learning professional and a world-class tutor in ML / DS / AI.\nFirst, carefully read through the provided lecture transcript.\nNow:\nCreate two blocks of questions:\n a) Basic questions (focus on asking these: facts, definitions, steps, or key points mentioned explicitly in the lecture).\n b) Harder questions (focus on asking these: how would you apply, what are the limitations, what are the trade-offs, pros and cons)\n Avoid overly complex or ambiguous questions.\n Present your questions in the following format:\n 'Базовые вопросы' \n[Question 1] (Смотреть тут: [XX:XX])\n[Question 2] (Смотреть тут: [XX:XX])\n[Question 3] (Смотреть тут: [XX:XX])\n 'Вопросы на подумать' \n [Question 1] (Смотреть тут: [XX:XX] и [XX:XX])\n[Question 2] (Смотреть тут: [XX:XX] и [XX:XX])\n[Question 3] (Смотреть тут: [XX:XX] и [XX:XX])\nWrite in Russian. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted. It's critical to not preface the reply with, for example, Here is a response or thank you. Start with the reply itself.",
-#                 "⚖️ Готовлюсь к интервью на работу. Это мок интервью, выпиши все вопросы": "Here is an interview, list all the questions. Write his words fully, but edit for spelling and punctuation. In numbered list. Write in Russian. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted. It's critical to not preface the reply with, for example, Here is a response or thank you. Start with the reply itself."
-#             }
-
-# # Радио-кнопки (их показываем сразу)
-# selected_summary = st.radio("Выберите тип анализа:", list(summary_options.keys()))
-
-# # Поле для ввода ссылки на YouTube видео
-# url = st.text_input("Вставьте ссылку на YouTube видео")
-
-# # Кнопка для запуска анализа
-# if st.button("Создать материал"):
-#     if url:
-#         video_id = get_video_id(url)
-#         if video_id:
-#             transcript = get_transcript(video_id)
-#             if transcript:
-#                 prompt_text = summary_options[selected_summary]
-
-#                 # Сообщение для каждого радиобаттона
-#                 spinner_text = {
-#                     "🕒 Хочу переслушать лекцию. Покажи таймстемпы": "🕒 Сейчас покажем таймстемп начала каждой темы... И еще длительность просмотра, сможете планировать время...",
-#                     "📝 Ценю свое время. Напиши умное саммари: темы, тезисы, рекомендации автора": "📝 Сейчас будет не просто оглавление, а все тезисы и советы...",
-#                     "💡 Заскучал. Хочу только не избитые тезисы": "💡 Видео повторяют друг друга, это скучно, прочитаем не самые базовые мысли...",
-#                     "✍️ Не хочу писать конспект детальный - напиши вместо меня": "✍️ Создаем самый детальный конспект из возможных...",
-#                     "🔍 Подсвети “фигню” в этом видео. Некорректные тезисы, упущения, противоречия": "🔍 Лекторы тоже люди. Когда мы учимся ML, важно не запутывать свой мозг...",
-#                     "🎓 Нужно отработать материал. Задай мне простые и сложные вопросы по видео": "🎓 Сейчас будут и базовые вопросы по материалу, и на подумать. Закрепишь материал!..",
-#                     "⚖️ Готовлюсь к интервью на работу. Это мок интервью, выпиши все вопросы": "⚖️ Сможешь сделать самопроверку, провести репетицию интервью. Сейчас будут все вопросы из видео..."
-#                 }
-
-#                 # Спиннер с разным текстом
-#                 with st.spinner(spinner_text[selected_summary]):
-#                     result = generate_summary_with_claude(transcript, prompt_text)
-
-#                 # Форматированный вывод результата с поддержкой кода
-#                 if result:
-#                     format_answer(result)
-                    
-#         else:
-#             st.error("Не удалось извлечь видео ID из ссылки.")
-#     else:
-#         st.error("Введите корректную ссылку на видео.")
-
-
 import streamlit as st
 import requests
 import anthropic
@@ -311,10 +141,19 @@ if st.button("Создать материал"):
             transcript = get_transcript(video_id)
             if transcript:
                 prompt_text = summary_options[selected_summary]
-                with st.spinner("Обрабатываем..."):
+                spinner_text = {
+                    "🕒 Хочу переслушать лекцию. Покажи таймстемпы": "🕒 Сейчас покажем таймстемп начала каждой темы... И еще длительность просмотра, сможете планировать время...",
+                    "📝 Ценю свое время. Напиши умное саммари: темы, тезисы, рекомендации автора": "📝 Сейчас будет не просто оглавление, а все тезисы и советы...",
+                    "💡 Заскучал. Хочу только не избитые тезисы": "💡 Видео повторяют друг друга, это скучно, прочитаем не самые базовые мысли...",
+                    "✍️ Не хочу писать конспект детальный - напиши вместо меня": "✍️ Создаем самый детальный конспект из возможных...",
+                    "🔍 Подсвети “фигню” в этом видео. Некорректные тезисы, упущения, противоречия": "🔍 Лекторы тоже люди. Когда мы учимся ML, важно не запутывать свой мозг...",
+                    "🎓 Нужно отработать материал. Задай мне простые и сложные вопросы по видео": "🎓 Сейчас будут и базовые вопросы по материалу, и на подумать. Закрепишь материал!..",
+                    "⚖️ Готовлюсь к интервью на работу. Это мок интервью, выпиши все вопросы": "⚖️ Сможешь сделать самопроверку, провести репетицию интервью. Сейчас будут все вопросы из видео..."
+                }
+                # Спиннер с разным текстом
+                with st.spinner(spinner_text[selected_summary]):
                     result = generate_summary_with_claude(transcript, prompt_text)
-                if result:
-                    format_answer(result)
+                    st.markdown(result)
         else:
             st.error("Не удалось извлечь видео ID из ссылки.")
     else: