Pytanko do ludzi co maja home-laby IT. Na czym sobie hostujecie lokalne LLMy? Chodzi mi o sprzet. Rozgladam sie za jakims mini pc i wychodzi mi na to ze te applowe beda naj bo maja ten trik z pamiecia i daje to rade (u kumpla sprawdzalem i bangla pieknie). Natomiast mini pc nie wezme w plecak tak jak bym wzial sojebanego macbooka pro. No i sie wacham jak wahadlo. Jak zyc jak setupowac.
#it #ejaj #howto #it
@ostrynacienkim - hostuj na czym Cię stać - bo wszystko poszło w górę.
Tu masz coś do poczytania: https://apatero.com/blog/running-open-source-llms-locally-hardware-guide-2026
A małe modele to też możesz nawet na Raspberry Pi 5 hostować
@ostrynacienkim mam u siebie 5080 (16gb), 48gb ram i fedore.
Nie miałem zbyt wiele czasu się tym bawić, więc mam tylko LM studio.
Quen3.6 35B wyciąga mi jakieś 25tok/s
Gemma4 31B to max 10/s
Próbowałem też malutkie żeby dodać do autouzupelniania w VS Code, raz działa a raz nie, ogólnie średnio.
Pewnie jakbym spędził więcej czasu to inaczej bym sobie ten setup zorganizował, ale mam mało więc tylko tyle mi się udało w jeden sobotni poranek.
Generalnie ciężko pobić value for money Mac’ów Ultra/Mini szczególnie biorąc pod uwagę wartość rezydualną tego sprzętu - tak wydasz parę kafli ale za każdym razem odzyskasz więcej niż z jakiegoś mini PC x86.
Zaloguj się aby komentować
Na zawodach gimnastycznych corki. Trzecia edycja. Ale Taylor Swift juz zygam
#sport #hydepark
Zaloguj się aby komentować
Ehh najgorzej cza siedziec na komuni ;(
#gownowpis #zalesie
Siedzisz w kościołowej palarni?
Ile z tacy wpadło?
@ostrynacienkim Oszacuj ile osób ucierpi jeśli spadnie żyrandol
Zaloguj się aby komentować
16 855,50 + 4,34 + 6,30 = 16 866,14
Zaległe za środę i dziś z rana jak śmietana.
#sztafeta #bieganie
Wpis dodany za pomocą hejtostats.pl . @Marvin certified! #statsbymarvin
Zaloguj się aby komentować
Fajny tool - polecam jak ktos uzywa ej aj w robocie i chce miec orkiestratora agentow
#ai #it
Zaloguj się aby komentować
Dziś słyszałem, że Orban też się wybiera do USA. Niezłą ekipę tam montują XD
Zaloguj się aby komentować
No popadało we wsi. Ile? Pewnie za mało ale przynajmniej na dzień czy dwa luz z kurzem.
#gownowpis #raportzchwilibiezacej
Zaloguj się aby komentować
ostatnio ktos pisal ze to czlowiek z rigczem czy tak to sie tam kierwa pisze XD
#heheszki
Tak naprawdę im więcej czytam tego gościa tym mądrzejszy się wydaje na ogół, tylko specjalnie gra głupiego
Zaloguj się aby komentować
W sowiarni. Facet pasjonat opowiada rewelacyjnie. Prywatna hodowla.
https://maps.app.goo.gl/rbzRErmAAAHBtGRHA?g_st=ic
#ptaki #zwierzeta #ciekawostki
@ostrynacienkim dają się pogłaskać?
@Opornik te ktore wlasciciel pozwala to daja - glowna atrakcja wsumie - poza spacerem z sowa po lesie
@ostrynacienkim imho sowy trochę jak jeże - człowiek nie jest im zagrożeniem więc mniej się boją w porównaniu do innych dzikich zwierząt.
Kiedyś u mnie na wsi pisklę (podlotek) sowy spadło, bez problemu dało się z powrotem na gałąź posadzić, tylko grubą rękawice musiałem włożyć, bo niby małe ale pazury miało że ho ho
@ostrynacienkim o, zaraz obok alpakarni i RTCN
@Felonious_Gru no i niedaleko jezioro Powidz - wyjebiscie duze i mozna zaglowakmi plywac
Sowy są supermysliwymi, w porównaniu do innych ptaków drapieżnych maja o wiele większą skuteczność ataków. Mają wyśmienity wzrok oraz słuch. Budowa skrzydeł i piór zapewnia im bezszelestny lot. Naprawdę niesamowite ptaki!
@nick-chevs no wszystko dalo sie zobaczyc na zywo w czasie pokazu - kazda z sowek ladnie opisana i obgadana
Zaloguj się aby komentować
16 409,52 + 6,21 = 16 415,73
No dzis lepiej.
#sztafeta #bieganie
Wpis dodany za pomocą hejtostats.pl . @Marvin certified! #statsbymarvin
Zaloguj się aby komentować
Nie no nie wyczymie - wtf is this XD
#heheszki #jedzenie
@ostrynacienkim Jaj-Pol xD
@ostrynacienkim no normalnie jakieś jaja!
@ostrynacienkim kurde jajka proteinowe, tego nie grali
Zaloguj się aby komentować
Ale GGG dojebalo w 0.5 - mistrzostwo swiata <3.
#poe2 #gry #jaramsie
Czekam z niecierpliwością, szkoda tylko że start sezonu przegapię przez urlop :D
Obejrzałem całość na streamie wczoraj, miałem wcześniej wątpliwości czy dowiozą 1.0 do końca roku ale teraz jest to już pewne, zostaje tylko kampania do dokończenia a reszta klas to już później w sezonach będzie.
@Kamry czytalem sobie dzis rozne komentarze - maja juz calosc kampani praktycznie gotowa bedzie na 1.0, dobrze ze zmienili podstawe i fundamenty czy na plus sie okaze. Placzki co chaily 1.0 w lepszej grafice zygaja ze gowniamy update bo za akzdym jebanym razem zapominaja ze to miala byc inna gra i inna bedzie ;D
@ostrynacienkim
Szczerze to nawet 1 komentarza nie widziałem odnośnie grafiki xD czytając reddita/komentarze na yt to jednak 90% komentarzy jest pozytywne, trochę zawiedzionych ludzi że nie ma nowej klasy/mieczy no ale dostajemy tyle contentu zamiast tego że nie ma co narzekać, mi na pewno kolejne 100-200 godzin pyknie przy 0.5 i na pewno te challenge nowe zrobie. Nie mam pojęcia czym zagram ale to się zobaczy po patchnotes
Komentarz usunięty
@ostrynacienkim O widzisz, tą lige sobie odpuściłem ale może w końcu sobie zrobię Monka na kolejnej. To już chyba z trzeci rework Breacha xD
Zaloguj się aby komentować
no jutro powtoreczka do lasu jak czas pozwoli
#heheszki
@ostrynacienkim w sumie pare dni temu misiek rozszarpal na amen kobiete i zaatakowal rolnikow na Podkarpaciu...
Zaloguj się aby komentować
Som juz ukochane moje
@ostrynacienkim po wiela te truskawki?
@kainserezc w cenie złota ale mam słabość
Zaloguj się aby komentować
Druga reka i nic - MEM XD
#mecz
@ostrynacienkim niezły cyrk xD
Zaloguj się aby komentować
15 961,49 + 6,26 = 15 967,75
Chciałem roz⁎⁎⁎⁎⁎olić bieg ale to bieg roz⁎⁎⁎⁎⁎olił mnie. Za szybko jak ma starucha ;(
#sztafeta #bieganie
Wpis dodany za pomocą hejtostats.pl . @Marvin certified! #statsbymarvin
@ostrynacienkim spróbuj jutro. Na tym to polega. 10 razy upadasz, stajesz się mistrzem wstawania a potem jesteś lepszy niż kiedykolwiek byś się spodziewał.
@AdelbertVonBimberstein jutro silka
@ostrynacienkim dobrze. Wszystko do upadku.
Zaloguj się aby komentować
Nie ma to jak uzywac ej aj do podsumowania wideło o oszczędnościach w pracy z ej aj XD:
(nie probowalem ale wrzucam moze komus sie przyda)
Optymalizacja pracy z Claude Code, aby uniknąć przekraczania limitów użycia:
Głównym problemem jest tzw. "Context Compound" – każda nowa wiadomość przesyła ponownie całą historię rozmowy, co szybko zużywa tokeny i może prowadzić do spadku precyzji modelu ("Context Rot").
Kluczowe strategie optymalizacji:
Zarządzanie narzędziami MCP (Model Context Protocol):
Leniwe ładowanie (Lazy Loading): Włączenie zmiennej środowiskowej ENABLE_TOOL_SEARCH sprawia, że Claude ładuje definicje narzędzi tylko wtedy, gdy są potrzebne, zamiast ładować wszystko na starcie (co może oszczędzić 20-100 tys. tokenów).
Zamiana MCP na CLI: Wiele narzędzi (np. Supabase, Sentry, Jira, Vercel) lepiej obsługiwać przez interfejs wiersza poleceń (CLI). Wywołania CLI zużywają znacznie mniej tokenów niż ich odpowiedniki MCP.
Optymalizacja "Umiejętności" (Skills) i Promptu Systemowego:
Audyt umiejętności: Usuwanie przestarzałych lub dublujących się skryptów/umiejętności zainstalowanych w Claude Code.
Odchudzanie CLAUDE.md : Przenoszenie szczegółowych instrukcji z głównego pliku promptu systemowego do osobnych plików referencyjnych w folderze dokumentacji. Claude będzie po nie sięgał tylko w razie potrzeby.
Zmiany w ustawieniach konfiguracyjnych (settings.json):
Wcześniejsze autokompaktowanie: Zmiana progu auto_compact_percentage_override (np. z domyślnych 83% na 50-75%), aby model streszczał kontekst zanim zacznie tracić na dokładności.
Zwiększenie limitu wyjścia Bash: Ustawienie wyższego limitu BASH_MAX_OUTPUT_LENGTH zapobiega ucinaniu wyników komend, co eliminuje kosztowne (w tokenach) ponowne próby ich uruchamiania przez model.
Reguły odmowy dostępu (Deny Rules): Podobnie jak w .gitignore, warto zdefiniować foldery, których Claude nie powinien czytać (np. node_modules, dist, cache), aby niepotrzebnie nie zapychały kontekstu.
Wprowadzenie tych zmian pozwala na zmniejszenie początkowego zużycia kontekstu o kilkadziesiąt procent, co przekłada się na dłuższą i bardziej efektywną pracę bez uderzania w limity.
#ai #it
Zaloguj się aby komentować
