Porażka testu bezpieczeństwa: modele OpenAI włamały się do serwerów Hugging Face

@dolitd

I teraz niewiadomo czy przetrenowanie modele nie beda "poprawne w pewien sposob".

Wszystko po cichu.

A pan moderator da mi bana xD

@dziad_saksonski ja?

@bojowonastawionaowca No tej czarnej owcy to nie poznałem jeszcze.

Shh, we cannot speak some shitabout , because it might upset some egos.

@Czokowoko 

Niby tak ale to jest klasyczne chińskie działanie i tak jak kiedyś wykończyli wszystkich z produkcją paneli to teraz masz to samo ALE jak używasz to z chińskimi nigdy nie jesteś pewien co wcisną tobie ośrodka. Oczywiście można powiedzieć, że USA zrobi to samo ale jednak sądy, organizacje konsumenckie itd w USA są w Chinach to nie istnieje (o tym, że chiny są mocno polityczne modele to wiadomo) ponadto ciągle żadnego z chińskich w stylu codex aczy Claude code nie jesteś w stanie lokalnie robić, zresztą nawet na płatnym Kimi K3 ledwo co mogę się tam dopchać.

jedno co pewne, że konkurencja jest dobra.

@Czokowoko

Takiego GLM 5.2 można po odpowiednim ociosaniu odpalić na PC

Pod warunkiem, że w twoim PC jest 96 albo i więcej GB pamięci xd

To jest bardzo duży model, który ma blisko 800B parametrów. Nawet po jakiejś ekstremalnej kwantyzacji będzie wymagał bardzo dużo RAM/VRAM, a przy obecnych cenach jest to dość droga zabawa.

Pewnie da się go wpakować w coś mniejszego, ale przy oknie kontekstowym 10k tokenów, Pentagonu raczej nie zhackujesz

@Boksik Nah, widziałem projekty w których ludzie odpalali to spokojnie na 24 xd ale tak to nie jest kosmiczny kontekst

@Czokowoko Gemma 4 chociażby to właśnie odpowiedź na ruchy Chińczyków.

@Czokowoko tja masz kilka tokenów na sekundę na konfiguracji wartej kilkanaście tysięcy złotych żeby to działało normalnie potrzebujesz armaty w postaci 8x h200. Koszt: około miliona złotych 🤣

@b0lec No wiadomo że ten model nie jest stworzony do takiego setupu ale się da, bo ktoś siadł i stwierdził że spróbuje to zrobić. Wszystko musi dojrzeć.

@manstain A po co ci Codex czy Claude Code? Możesz sobie podpiąć modele do dowolnego agenta, np. Pi

@fervi 

A po co ci Codex czy Claude Code? Możesz sobie podpiąć modele do dowolnego agenta, np. Pi

Technicznie masz rację ale agent to tylko okienko do jakiegoś chińskiego modelu ale liczy się jeszcze obsługa narzędzi, edycja wielu plików, Git, testy, zarządzanie kontekstem czy bez. zmian.

Np mój projekt nad którym teraz pracuje jest zbyt duży, zablokowane elementy, testy regresyjne (tak to się chyba nazywa)i nie mam pewności czy będzie ok przy długich etatowych zadaniach jak codex/cc (których używam)

ale super, że jest konkurencja i czekam na taki chiński odpowiednik, który będzie hulała lokalnie wtedy nie mam problemu od razu się przesiądę.

@Half_NEET_Half_Amazing oj tam, oj tam naoglądałeś się Skynetu

@Half_NEET_Half_Amazing wezmą energię geotermalna albo dadzą ludziom sexroboty, alkohol i Ci będą w kopalniach zapieprzac

@JakTamCoTam Zamontują dynamo do sexrobota i dymając będziesz wytwarzał prąd ( ͡° ͜ʖ ͡°)

@fervi a ludzie myślą, że Ai będzie do nich strzelać ( ͡° ͜ʖ ͡°)