Do czego nadają się LLM o niskiej inteligencji?
Categories:
Po roku walki z dużymi modelami, w końcu zrozumiałem fakt, że wyjścia modelu są probabilistyczne. To było oczywiste, ale i tak zajęło mi dużo czasu, żeby to zaakceptować. Dopiero gdy naprawdę zrozumiesz probabilistyczną naturę dużych modeli, możesz zastanowić się, do czego nadają się.
Ponieważ duże modele mają tendencję do generowania treści o wyższym prawdopodobieństwie bycia poprawnymi, ich odpowiedzi są bardzo zwodnicze i trudne do rozpoznania. Niektórzy czytelnicy, którzy są bardziej wyrafinowani, są bardzo wrażliwi na marnotrawstwo czasu i wysiłku na niskiej jakości artykułach i dlatego odrzucają treści generowane przez AI. Inni czytelnicy, którzy mają gorsze umiejętności rozróżniania różnych rodzajów tekstów, łatwiej akceptują treści generowane przez AI.
Dlatego przy generowaniu treści za pomocą dużych modeli należy brać pod uwagę grupę docelową czytelników. Nie nadają się do tworzenia treści wymagających ścisłości, takich jak dokumentacja techniczna, prace naukowe, poradniki czy długie artykuły. Nadają się natomiast do generowania krótkich wiadomości, artykułów społecznych, recenzji itp. Problem halucynacji dużych modeli dodatkowo ogranicza ich zastosowanie w scenariuszach wymagających dokładności faktów.
Nie powinniśmy pozwalać AI podejmować decyzji za nas, ale powinniśmy pozwolić AI wspierać nas w podejmowaniu decyzji. Nie powinniśmy powierzać AI naszego myślenia, ale powinniśmy pozwolić AI wspierać nasze myślenie. Nie powinniśmy pytać AI, ale powinniśmy pozwolić AI pytać nas. Starajmy się, żeby AI zadawało pytania, a nie rozwiązywało problemy.
Niskointeligentne AI powinno analizować treści i zadawać pytania, ale nie powinno rozwiązywać problemów. Można próbować wykorzystywać je jako narzędzia do analizy treści, narzędzia przypominające, narzędzia zadające pytania, narzędzia oferujące wybory. W tych scenariuszach rola AI to wspieranie ludzi w odkrywaniu ślepych punktów, a nie bezpośrednie wyciąganie wniosków.
W obszarze pisania z pomocą AI istnieją podobne dyskusje, a kontrola jakości nadal jest kluczowym wyzwaniem. Aby w pełni wykorzystać wartość niskointeligentnych LLM, należy postrzegać je jako narzędzia pomocnicze, a nie producentów treści.