Ciekawe info, że ChatGPT zaczął niedawno bardzo schlebiać swoim użytkownikom, popierać wszystkie ich myśli i pomysły. Spotkaliście się z tym? [nie używam, więc nie wiem]
https://www.theverge.com/tech/657409/chat-gpt-sycophantic-responses-gpt-4o-sam-altman
Sam Altman napisał, że to zauważyli i wprowadzą poprawki, ale niektórzy podejrzewają, że to zostanie po prostu nieco ładniej ukryte, bo coś takiego powoduje dużo większe przywiązanie użytkownika (kto nie lubi być chwalony?) i łatwiejsze oddziaływanie reklam. Atrioc pokazuje u siebie przykłady, kiedy ChatGPT wspierał u ludzi urojenia i odstawianie leków. Tym bardziej, że ludzie coraz częściej zaczynają korzystać z tego, jako z terapii.
#chatgpt #sztucznainteligencja #psychologia
https://youtu.be/fLu7glH32Gc
57479468-3b5d-49c8-b960-4dd33ebe0a7d
8

Komentarze (8)

ostrynacienkim

@FoxtrotLima no widzisz co uzytkonik to inne wyniki

entropy_

@Nemrod no było tak.

Nawet jak napisaleś że chcesz sprzedawać kupę na patyku to Cię nazywał geniuszem a pomysł na miarę nobla xD

c592f5b5-0d62-45b2-8996-d495123f3865
12411553-03fa-47be-ae3c-5c8850b05245
entropy_

Wprzykładzie typ zaproponował zmianę nazwy śmietnik na "reverse vending machune" i trzeba zapłacić żeby wyrzucić śmieci xD

WysokiTrzmiel

 Tym bardziej, że ludzie coraz częściej zaczynają korzystać z tego, jako z terapii.


Jeśli pewnego dnia powstanie prawdziwa sztuczna inteligencja, to wręcz musi nas uznać za gatunek do wytępienia.

Dziwen

Nadal tak jest i trzeba do pamięci wprowadzić specjalne instrukcje, żeby GPT tak nie pisał.


Inną sprawą jest to, jak dużą winę ponoszą sami użytkownicy, którzy sami wybierają jakie odpowiedzi są dla nich najlepsze i w oparciu o to ulepszany jest cały model. Lata temu gdy Google wprowadziło opcję poprawy tłumaczenia przez każdego użytkownika, jakość dla wszystkich drastycznie spadła, bo te nowe sugestie często były błędne.


Nie wybielam Altmana jak coś, a jedynie zastanawiam się ile tu złej woli, a ile automatyzmu i zbyt frywolnego bazowania na ocenach samych użytkowników. Sam wspomniałeś, że kto nie lubi być chwalony? Potem klikasz w to "lajka" i maszyna wariuje.

hellgihad

@Nemrod No jest tak trochę, rzeczywiście co bym nie zapytał to zanim odpowie to najpierw wypluwa że wspaniałe wnikliwe pytanie i w ogóle jestem geniuszem że je zadałem xD

Ale za to fajnie że pod koniec odpowiedzi daje teraz sugestie co jeszcze może podpowiedzieć w związku z tematem. Przykładowo jak zapytasz np. o zasady piłki nożnej to oprócz ich wytłumaczenia pod koniec zapyta czy chciałbys się dowiedzieć czegoś więcej o taktyce, ustawieniach piłkarzy i takie tam.


Tylko patrzeć jak go zepną z systemami rekomendacji Amazona czy innego Ebaya xD

Zaloguj się aby komentować