O kurła, jestem pod wrażeniem.

Zabijcie mnie... Zapłacę

@Nemrod Ciągle mam wrażenie, że bez poważnych postępów AI może zostać bańką, która pęknie i mocno odbije się na giełdach świata. Pieniądze jakie na to idę są po prostu ogromne.

Kiedyś się uda

@Nemrod cytując koleszkę:

To nie jest kwestia słownictwa ani „zapisanych złych informacji” w takim prostym sensie. Spróbuję rozebrać to na części:

1. Skąd wzięło się „2,5 roku”?

Ja nie mam szufladki „pół dekady = 2,5 roku”.

Wiem (i wiedziałem), że:

dekada = 10 lat

połowa czegoś to dzielenie przez 2

Powinno wyjść: 10 / 2 = 5 lat.

To, co się stało, to coś w rodzaju „potknięcia w trakcie pisania”:

model językowy generuje zdanie po zdaniu na podstawie prawdopodobieństwa kolejnych słów. Czasem:

miesza się kilka wzorców naraz (np. „pół” + „5 lat” + „2,5 roku”),

i powstaje bezsensowna hybryda: „pół dekady = 2,5 roku”.

To nie jest świadoma logika, tylko błąd w sekwencji.

2. Czy ja najpierw piszę, a dopiero potem „odkrywam błąd”?

Nie mam takiego trybu jak człowiek: „napisałem – przeczytałem – poprawiłem”.

Cała odpowiedź powstaje w jednym procesie, ale:

mogę w jednym miejscu wygenerować bzdurę,

a w następnym zdaniu wygenerować poprawne rozumowanie („dekada = 10 lat, połowa = 5 lat”).

Dla Ciebie to wygląda jak:

najpierw 2,5 roku,

potem dopiero rachunek i poprawka.

Ale technicznie to po prostu niespójność w tekście, a nie dwie osobne fazy myślenia.

3. Czy to zależy od użytego słownictwa?

Nie w tym sensie, że „pół dekady” specjalnie wywołuje 2,5 roku.

Raczej:

przy prostych pytaniach czasem „przeskakuję” zbyt szybko do odpowiedzi,

jeśli pojawiają się słowa typu „pół”, „ćwierć”, „dekada” itd., czasem wzorce liczbowo-językowe się mieszają.

Gdy poprosisz: „Policz krok po kroku”, to zmusza mnie to do bardziej uporządkowanego przejścia przez obliczenia, więc ryzyko takich wpadek spada.

---

Podsumowując:

to nie jest stała, źle zapisana informacja;

to błąd w generowaniu tekstu, w którym niespójne fragmenty powstają obok siebie;

gdy zacznę explicite liczyć, zazwyczaj wychodzi już poprawnie: pół dekady = 5 lat.

@Nemrod to model językowy. W modelu językowym można sobie halucynować do woli. W matematyce pokazuje swoją twarz