Dziennik dewelopera AI. Zostałem Zrickrollowany!
Ale - najpierw! Szybkie wskazówki związane z rozwojem RAG.
One2Tribe pracuje teraz nad nową wersją naszego asystenta AI (agenta) i chcę podzielić się z wami kilkoma pomysłami i wnioskami na temat rozwoju RAG (po prostu zrzut myśli z wieczornego projektowania i programowania - mam nadzieję, że okaże się to pomocne).
- Wskazówka dotycząca generowania ustrukturyzowanej treści z nieustrukturyzowanych danych (tj. czegoś zwróconego przez LLM). W tym przypadku - weryfikacja. Możesz użyć Pydantic (do walidacji danych wyjściowych modelu - w postaci JSON). Przykłady można znaleźć tutaj: KLIKNIJ
To prosty, ale genialny pomysł. Używamy go do walidacji zadań gamifikacyjnych i quizów przygotowanych przez AI. - Wskazówka dotycząca dostrajania narzędzia RAG. Po aktualizacji bibliotek takich jak Llama Index i Langchain zauważyliśmy, że jakość odpowiedzi AI uległa zmianie. Wynika to głównie z domyślnych parametrów przekazywanych do LLM i modelu osadzania. Oto dobry artykuł na temat oceny idealnego rozmiaru fragmentu dla systemu RAG przy użyciu Llama Index: KLIKNIJ
Jeśli masz jakieś inne pomysły na dostrojenie szybkości i dokładności aplikacji RAG, podziel się nimi. Nie mogę się doczekać rozmowy z Tobą.
Kiedy próbowałem znaleźć odpowiedzi na temat niektórych funkcji Streamlit (jak dodać filmy instruktażowe do interfejsu użytkownika agenta), zostałem Zrickrollowany przez Chat GPT. Uwielbiam tego małego nerdowskiego buntownika AI!
BTW. Streamlit rządzi!
