Jesteśmy w d⁎⁎ie. Pilot pije margarita w maralago i marszczy Freda kolesiom od AI.
no dogadania bo chinczyki znalazly metode na copy paste - nie jest idealnie 1:1 ale blisko. Poza tym polecam loklany swift-qwen3.8-27b (jak ktos ma maca to ze srodowiskiem splash to swift-1.5-qwen3.8-27b-splash) calkiem ladnie mi smiga przy 64 GB
@ostrynacienkim i w sumie bardzo kurwa dobrze
wszystkie te firmy AI to wciągają pdfy i epuby i srają na prawa autorskie, teraz wyszło na jaw że masowo skupują i rozpruwają stare książki, no to niech chińczyk też im ukradnie
chińczyk przynajmniej wypuści na świat żeby inni mogli z tego korzystać
@Marsjamin no nie ukrywam tez mi sie to podoba
Ja byłem bardzo zawiedziony jakością kodu generowanego przez lokalne AI, natomiast byłem w stanie generować obrazki lepsze niż te od ChatGPT. Zawsze wydawało mi się że generowanie obrazu wymaga dużo więcej mocy niż generowanie kodu.
Niech się ceny RAMu uspokoją to z pewnością złożę sobie domowego homelaba do AI
@Ilirian oj zapomnij, ze te ceny się uspokoja. Przy obecnym trendzie zakładania centrów ai będą tylko rosły. Jak chcesz się bawić to zainwestuj teraz nawet w ddr4 a jeszcze lepiej w jakas grafikę. Od bidy qwena o którym wspominają przedmowcy odpalisz nawet na 8GB grafie i da się z tym w miarę pracować.
@ostrynacienkim oni mają dobry myk na uczenie. W Chinach możesz sobie kupić taniej tokeny, a oni mają maszyny które kupują rotujące się subskrybcje do clauda.
Oczywiście przy okazji ucząc swoje ai na tej komunikacji.
Akurat w tym wypadku jestem po stronie chinoli, bo dzięki nim będzie można kiedyś (hehe) self hostowac modele, zamiast patrzeć jak glupieja, bo wyszedł nowy oczywiście droższy model i starych nie da się używać albo przestaną być wspierane.
@ostrynacienkim na starsze maszyny gorąco polecam qwen3.6-35b w architekturze AoE. Rtx 3060 i 32gb ramu daje rade.
@b905 uzywalem tez - bylo calkiem calkiem
@Ilirian no niestety lokalne llm nie maja podjazdu ale do adhock / prostrzych rzeczy idzie to calkiem niezle
@Ilirian a jeszcze dziś natknalem się na ciekawy komentarz kogoś z branży. Podobno fabryki DRAM maja juz zapchane moce przerobowe do 2028. Ewentualne ich zwiekszenie planuje dwóch producentów z wielkiej trojki ale dopiero na rok 2031. Do tego ciągle problemy w cieśninie Ormuz maja wpływ na dostawy helu i chemii potrzebnej do produkcji. Suma sumarum to jeszcze trochę potrwa
Jak ktoś używa Ai to wie, że takie teksty "dogania Mythosa:" są głupie nie wnikam w szczegóły, że min. sprzęt to trzeba mieć co najmniej Mac Studio Ultra 5 128 gb pamięci itd( odpadają mac mini) to i tak nie jest on w stanie tego robic co codex czy claude code, gdzie wszytko na raz robią.
Oczywiśceio do jakiś prostszych rzeczy jak najbardziej no i tmy bardziej, że ma się go u siebie na kompie.
@manstain racja ale są maniacy/hobbisci którzy wyrzucają na domowe systemy ai równowartość nowego auta i dla nich taki glm czy kimi to juz cos ciekawego z czym można robić dużo więcej niż proste rzeczy.
I jednak ds się zaobserwowac, ze społeczność czy nawet chińskie laby proboja jednak wyciskac co się da z tej technologi ograniczając skalowanie. Jeszcze rok temu mogles zapomnieć o dostępie do tak dużych modeli.
Zaloguj się aby komentować
