Natrafiłem dziś na kolejny wpis podsumowujący zastrzeżenia do ChatGPT Health - że przecież LLM halucynują, że odpowiadają twierdząco na pytania z tezą więc jak sami napiszemy że boimy się że mamy tasiemca, to on będzie już myślał w tej kategorii i szukał na to potwierdzenia, że w razie błędu nie ma nawet kogo pociągnąć do odpowiedzialności, że często trafna diagnoza wymaga konsultacji wielowymiarowej bo objawy sugerują jedno, a wyniki pokazują drugie, że wreszcie to jest dobrowolne oddawanie bardzo wrażliwych danych o sobie firmie o wątpliwej etyce.


A pod spodem taki komentarz.


Jesteśmy zgubieni jako gatunek, daliśmy małpom piłę łańcuchową nie dając czasu i przestrzeni na zrozumienie co tak naprawdę jej daliśmy ಠ_ಠ

#ai #sztucznainteligencja

df609bdc-fea2-484d-ae50-ae3b4c46bdb0

Komentarze (9)

@Maciek To z tego samego plemienia co ci mówiący, że kaski i foteliki dla dzieci są niepotrzebne bo "JA przecież nie miałem i jakoś przeżyłem" xD

Wrzuciłem złe EKG żony do Groka i Gemini.


Grok powiedział, że wszystko jest cacy, kup premium albo sprd bo jestem przeciążony. Czyli ktoś mógłby temat zbagatelizować.


Gemini powiedział to samo co lekarka aczkolwiek bez znajomości kontekstu dał swoje diagnozy z czapy. Jak ktoś jest głupi to na tym etapie już by jechał do kardiologa.

Jak dałem mu kontekst to stwierdził, że potrzebuje konkretnego parametru krwi i jak go dostał to stwierdził, że to dalej nie jest tego wina i dalej stał przy swojej diagnozie. W zasadzie popełnił tutaj typowo ludzki błąd, bo żona była podobnie diagnozowana przez lekarzy xD.

Sporo osób już na tym etapie by odpadło.

Jak mu podałem więcej parametrów to się zreflektował. Podał kilka innych możliwych przyczyn ale bez zrozumienia całokształtu.

Jeszcze raz poprosiłem o wszystkie informacje o chorobie, którą ma żona w kontekście EKG.

Połączył trochę kropek, zasugerował kilka przyczyn, bazując na naszej wiedzy, wybrałem na tyle sensowną informację, że postanowiliśmy zrobić kilka badań z krwi. Zobaczymy za ~20 dni jakie te wyniki będą.


Mamy młotek a nie Ai, jeden wbije nim gwóźdź, drugi stłucze palca.

W zasadzie jedyne realne zagrożenie to "dobrowolne oddanie danych wrażliwych firmie o wątpliwej etyce" i to masowo... Ale czy skala znacząco wzrośnie po całej erze FB, nie wiem. I tak ludzie na potęgę dzielili się swoją intymnością i danymi wrażliwymi.


Co do zagrożenia wątpliwych diagnoz i narobienia szkód. Przypominam, że według ostatnich badań europejskich z 2024, 40% Polaków nie rozumie co czyta a 47% myśli że laser to dźwięk. Ci ludzie i tak sobie prędzej czy później zrobią krzywde. A dodatkowo jak sobie pomyślę o wszelkiego rodzaju znachorach, bioenergoterapiach i do tego wszystkiego księżach i ich modlitwach o zdrowie w połączeniu z wymuszaniem hajsu to raczej gorzej nie będzie. 82 letnia babcia mojej żony, w tym roku wysłała jakiemuś oszustowi 1k polskich złociszy i zdjęcie żony bo jej powiedział przez telefon, że wysłane zdjęcie pozwoli mu na utworzenie więzi z wnuczką. Jakby umiała wpisać w AI frazę to może być jej odradził...

a8a6ea09-ca59-419d-ab06-13e8abe22dbf

Jesteśmy zgubieni jako gatunek, daliśmy małpom piłę łańcuchową nie dając czasu i przestrzeni na zrozumienie co tak naprawdę jej daliśmy ಠ_ಠ

I dopiero reakcja na LLMy cię przywiodła do tej refleksji? Gdyby nie internet, to nawet byś nie wiedział, jakimi idiotami statystycznie są ludzie i jak ich wielu. LLMy, to tylko kolejny kamyczek do tego ogródka.

Zaloguj się aby komentować