#11 GenAI i LLM - Wszystko, co musisz wiedzieć, zanim zaczniesz działać | Mariusz Korzekwa
Opis odcinka
🔔 Subskrybuj, aby nie przegapić nowych odcinków!
Tym razem moim gościem jest Mariusz Korzekwa, ekspert od #AI specjalizujący się w #promptEngineeringu i integracjach z #LLM-ami.
W tym odcinku rozmawiamy o modelach językowych (LLM) i ich zastosowaniach w sztucznej inteligencji. Poruszamy temat generative AI, omawiając jego definicję oraz kluczowe różnice między LLM a klasyczną AI. Analizujemy znaczenie multimodalności, a także roli inputu i outputu w kontekście działania modeli.
Dyskutujemy o istotnych aspektach modeli LLM, takich jak długość kontekstu, bezstanowość, znaczenie promptów i tokenów oraz wpływ knowledge cut-off na jakość generowanych odpowiedzi. Przyglądamy się ewolucji modeli AI, ich parametrom, wydajności oraz roli open-source w rozwoju tej technologii.
W rozmowie nie zabrakło omówienia architektury LLM oraz zjawiska halucynacji – zarówno jako wyzwania, jak i potencjalnie użytecznej cechy w generowaniu treści. Skupiamy się na znaczeniu kontekstu w interakcji z modelami, a także technice RAG, pozwalającej na dynamiczne wzbogacanie kontekstu o dodatkowe informacje.
Poruszamy temat benchmarków jako kluczowego elementu oceny wydajności modeli AI, podkreślając, jak ich odpowiedni dobór wpływa na skuteczność modeli w różnych zastosowaniach. Omawiamy również LLM Arena i jej rolę w testowaniu modeli oraz znaczenie kontekstu window w interakcjach z AI.
Wprowadzamy pojęcie ChatML i jego wpływ na strukturyzację danych wejściowych w komunikacji z LLM. Przyglądamy się technikom inżynierii promptów, w tym metodzie Chain of Thought, oraz dobrym praktykom programowania w Pythonie, które mogą zwiększyć efektywność generowania treści.
Rozmowa obejmuje także techniki self-query, pozwalające modelom AI samodzielnie formułować pytania w celu uzyskania precyzyjniejszych odpowiedzi. Analizujemy podejścia takie jak few-shot i chain of thought, a także omawiamy zasady tworzenia skutecznych promptów. Przywołujemy metaforę kartki, aby zobrazować, jak kluczowe jest precyzyjne formułowanie komunikacji z modelami AI.
Dyskutujemy o wpływie języka na skuteczność komunikacji z LLM oraz metodach ewaluacji promptów, prezentując praktyczne zastosowania AI w różnych dziedzinach, ich wpływ na automatyzację i przyszłość rynku pracy.
Rozmawiamy o hiperautomatyzacji i jej roli w zmienianiu wykonywania prostych zadań, zastanawiając się nad przyszłością programowania i miejscem LLM w tym procesie, udzielając wskazówek dla początkujących.
⭐️ Zobacz też:
- #9 AI jako broń masowej dezinformacji? - Hodowanie umysłów i manipulacja za grosze | Piotr Brzyski https://www.youtube.com/watch?v=fhpw_5-GWHg
- #5 Jakub Mrugalski - zautomatyzuj zadania, zyskaj czas na kreatywność https://www.youtube.com/watch?v=gEhMWWaXfkQ
- #4 Mateusz Chrobok - jak obchodzić zabezpieczenia #AI i chronić aplikacje z sztuczną inteligencją https://www.youtube.com/watch?v=AWC6c-fOcFE
- #1 Grigorij Dudnik | Agenty AI - Klucz do automatyzacji programowania https://www.youtube.com/watch?v=tOPKf9XiVXo
🎙 Prowadzący:
🔹Krzysztof Tutak - https://www.linkedin.com/in/krzysztof-tutak/
🔗 Kontakt:
👉 LinkedIn: https://www.linkedin.com/in/mariuszkorzekwa/
📚 Materiały omawiane w odcinku:
👉 Prompting guide: https://www.promptingguide.ai/
👉 OpenAI cookbook: https://github.com/openai/openai-cookbook
👉 Anthropic cookbook: https://github.com/anthropics/anthropic-cookbook
👉 How to writing prompts: https://www.reddit.com/r/WritingPrompts/
👉 LM Arena: https://lmarena.ai/
👉 Leaderboards: https://aider.chat/docs/leaderboards/
👉 SWE bench: https://www.swebench.com/
👉 Midjourney: https://www.midjourney.com/
👉 Leonardo: https://leonardo.ai/
👉 DALL-E: https://openai.com/index/dall-e/
👉 Perplexity https://www.perplexity.ai/
👉 Claude: https://claude.ai/
👉 ChatGPT: https://chatgpt.com/
]]>