Królu złoty, poratuj no usage, tak chociaż ze 2k tokenòw... strasznie mnie ciśnie...
#claude #heheszki #programowanie #tokenyzawszespoko

Królu złoty, poratuj no usage, tak chociaż ze 2k tokenòw... strasznie mnie ciśnie...
#claude #heheszki #programowanie #tokenyzawszespoko

Zaloguj się aby komentować
Hyperoptimized Engineer 2026
https://www.youtube.com/watch?v=MhEL9cvLxQE
>It knows my biosignals. Nutrients are ordered by an automated script that tracks my inventory and daily usage.
>Please do not ask about the mango
Jebłem. :-P
#it #programowanie #technologia #heheszki #humorinformatykow #ai


Zaloguj się aby komentować
W końcu przebiłem barierę 50% poziomów do wersji DEMO.
Stworzyłem w końcu 21 poziom na 41.
Chłop ledwo na oczy już widzi, ale siedzi do 5 nad ranem, żeby skończyć w końcu to co trzeba ( ≖ ͜ʖ≖)
Jeszcze tylko trochę i można robić ostatnie zadania z listy ToDo.
Najważniejsze, że zapał nie opadł jeszcze i wciąż jest siła do tworzenia kolejnych rzeczy ᕦ( ͡° ͜ʖ ͡°)ᕤ
Oby jak najdłużej, bo trzeba jeszcze dokończyć kilka pułapek w grze, bo są dodane ich tekstury, ale nie logika.
A potem oczywiście poustawiać je wraz z przeciwnikami na mapach.
Jedyny plus, że chop to mądry chop i ułatwił sobie pracę, optymalizując kod gry, więc nie musi przepisywać ogromnej ilości ID dla każdej rzeczy, bo sama gra wpisuje zawsze ten sam dla danego aktora świata.
Bo jeszcze 2tygodnie temu musiałem uzupełniać ręcznie każde ID, co dodawało ogrom pracy i ewentualnie pomyłki w postaci tych samych ID na 2 różnych obiektach ( ͡~ ͜ʖ ͡°)
#rhr #programowanie #pixelart #chwalesie

Zaloguj się aby komentować
Ostatnio Epic Games zapowiedziało, że ich nowe gry będą robione w dużej części przez AI od kodowania po grafiki. A dzisiaj wypuścili totalnie nowy launcher dla swojego sklepu który został w całości napisany od zera przez AI xD. Dosłownie go vibe codowali i napisali to w pierwszym zdaniu artykułu o nim:
Programming is hard. So, instead of doing that, we vibe coded a new Epic Games Launcher that’s way faster and more responsive than the current one, and has a new look.
Szanuje za szczerość xD. Chyba największym plusem tej akcji jest to, że AI im przy okazji zrobiło build na #linux i od teraz ten sklep jest oficjalnie dostępny na tym systemie a gry Windowsowe mają się odpalać tak jak w innych launcherach za pomocą warstwy translacji. Czyli potwierdza się też to co pisałem ostatnio, AI wkrótce doprowadzi do tego, że dostępność oprogramowania na Linuxie nie będzie już problemem przy przesiadce z Windowsa.
Oczywiście na razie bardzo odradzam instalowanie go i bycie beta testerem ale szczerze mówiąc to patrząc po tym jak słaby był ich poprzedni launcher to poprzeczka jest tak nisko ustawiona, że po testach przez graczy i paru poprawkach ten pewnie będzie całkiem używalny xD. Poczekam aż wyjdzie z bety i chętnie sprawdzę jak działa na Linuxie.
https://launcher.epicgames.com/
https://store.epicgames.com/news/epic-games-launcher-preview
#ai #programowanie #it #gry #epicgames #pcmasterrace




Zaloguj się aby komentować
Ależ mi się to tworzenie poziomów ciągnie ( ͡° ʖ̯ ͡°)
Ale prawie połowa już gotowa.
Jeszcze trochę i poziomy będą gotowe do wersji demo.
Potem tylko rewizja całości i można testować
#rhr #programowanie #pixelart

Mam takie pytania z dużo innej i dziwnej beczki, mianowicie czy podczas robienia gry :
1. Miałeś wrażenie że jest beznadziejna i zmieniałeś koncept 2. Rzucałeś robotę na gra na tydzień lub dłużej? 3. Walczyłeś z czyms z gameplayu/assetach za długo? 4. Zastanawiałeś się 'po co ja to właściwie robię?' 5. Zastanawiales się czy ktos to w ogóle kupi?
Ot takie przemyślenia bo ja nieśmiało zacząłem tworzyć gierkę w stylu mystery adventure taki narrative fabularna przygodowka 2d. Nie mam expa w game dev ale pomagam sobie llm, ale nie ukrywam że już kilka razy myślałem czy zamiast gry nie napisać książki xd znacznie prostsze się wydaje... Jednakże zawsze miałem marzenie zrobić grę do historii która mam spisana...
Zaloguj się aby komentować

Ponad rok pracy z LLM-ami zmienił nie tylko to, jak piszę kod, ale też to, jak podchodzę do pracy z agentami kodującymi. Jest lepiej, ale nie we wszystkim. AI pomaga wyłapywać błędy, lepiej obsługiwać edge case’y i realizować zadania, które od dawna czekały w backlogu. Nie rozwiązuje jednak...
Jestem tak zmęczony po robocie, że nie mogę myśleć - próbowałem zacząć logikę spluw i pocisków w gierce i się złapałem na tym, że zamiast nazwy klasy komponentu kolizji bezmyślnie wybrałem z autouzupełniania nazwę zmiennej i się dziwiłem, czemu mi podkreśla na czerwono. Piłem dziś dwie kawy i mam pieruński zjazd #gownowpis #zalesie #poniedzialek #programowanie #gamedev
Zaloguj się aby komentować

🎮 Jak przesyłać dane w strzelance multiplayer, żeby tysiące obiektow zmiescic w 40 kbit/s? Hypersomnia wykorzystuje determinizm symulacji — zamiast calego stanu swiata przesyla tylko inputy graczy, a reszte symuluje lokalnie. Patryk Czachurski opowiada o wyzwaniach synchronizacji fizyki,...
Pisałem w sumie o tym ostatnio w jakimś komentarzu, ale nie spodziewałem się, że to będzie lecieć aż tak szybko. Mianowicie jakiś ziomek od niedawna zaczął publikować na GitHubie napisane przez AI reimplementacje znanych programów z pakietu Adobe CC. Wszystkie napisane od zera w czystym Rustcie a UI zrobione jest w Egui. Postanowiłem zrobić tego posta bo zauważyłem, że do kolekcji dołączył MS Word, czyli znudziło im się Adobe i teraz zaczynają lecieć z pakietem Office.
Całość zrobiona jest nie na zasadzie dekompilacji tylko AI dostało instrukcje aby napisać od początku każdą funkcje naśladując jej zachowanie w oryginale. Z tego co zdążyłem doczytać to taki sposób tworzenia tych aplikacji najprawdopodobniej jest legalny i Adobe nie będzie mogło z tym nic zrobić ALE zgaduje, że i tak będą lecieć jakieś pozwy chociaż żeby to chwilowo zablokować.
Oczywiście te programy nie są jeszcze idealne, mają sporo błędów oraz nie pokrywają się funkcjami w 100% ze swoimi płatnymi odpowiednikami. Ale patrząc jak szybko to idzie to tylko kwestia czasu i odpowiedniej ilości przepalonych tokenów. Większość z tych programów jest już całkiem używalna oraz co najważniejsze, jest open source i dostępna na prawie wszystkie desktopowe systemy czyli Windowsa, Linuxa, MacOS oraz nawet na FreeBSD i w przeglądarce za pomocą WebAssembly (ponieważ Egui daje możliwość stworzenia takiego builda).
Po tylu latach taki GIMP nadal przez wielu jest uznawany za gówno i daleko mu do Photoshopa mimo że rozwijany nakładami dużej społeczności przez wiele lat a teraz ktoś tworzy coś potencjalnie znacznie lepszego małą grupą osób w nierównomiernie krótkim czasie. Idą interesujące czasy. Wychodzi na to, że AI nie tylko zabierze pracę nam programistom ale może też uderzyć w największe firmy odpowiadające za oprogramowanie. Wydaje mi się, że takie Oracle, Salesforce czy SAP mogą powoli zaczynać się obawiać.
A no i przy okazji takie akcje zabijają kolejny argument przeciwko przejściu z Windowsa na #linux ponieważ zaraz brak oprogramowania od Adobe czy innych przestanie być problemem. Zaraz się jeszcze okaże, że będzie można korzystać z FreeBSD na co dzień bez większych braków w aplikacjach xD.
I chyba jeszcze najśmieszniejsze, wszystkie te programy są przystosowane do używania przez agentów AI. Tzn mają gotowe servery MCP oraz da się nimi sterować za pomocą komend w CLI. Więc zaraz się jeszcze okaże, że w ogóle nie będziemy musieli używać tych aplikacji bo AI zrobi to za nas xD.
Strona projektu:
Parę przykładowych apek:
Photocraft (Photoshop)
https://github.com/storytold/photocraft
Vectorcraft (Illustrator)
https://github.com/storytold/vectorcraft
Filmcraft (Premiere Pro)
https://github.com/storytold/filmcraft
Effectcraft (After Effects)
https://github.com/storytold/effectcraft
Wordcraft (MS Word)
https://github.com/storytold/wordcraft
Nie mogę się doczekać open source reimplementacji Windowsa w czystym Rustcie. A tymczasem ja sobie idę pomyśleć na jaki zawód mogę się przebranżowić żeby mieć co jeść za parę lat xD.
#it #ai #programowanie #programista15k





@Catharsis
Po tylu latach taki GIMP nadal przez wielu jest uznawany za gówno i daleko mu do Photoshopa mimo że rozwijany nakładami dużej społeczności
GIMP to ostatnie gówno. W gimbazie kazali nam pracować w GIMPie ale na szczęście w Internecie znalazłem poradnik od Paint.NET i go pobrałem.
Tak samo jak GIMP jest darmowy ale za to ma sensowny interfejs i potem łatwiej się przesiąść do Photoshopa. Gdyby nie on to bym nigdy nie został grafikiem.
W sumie to powinno się trochę wziąć za ryj takie korporacje jak Microsoft czy Adobe. Żaden user nie wykorzystuje nawet 15% możliwości programów i równie dobrze może używać wersji pudełkowej wydanej 10 lat temu. Ale korporacja wciska subskrypcie i trzeba płacić regularnie za program, bo jak ten utraci łatki to oczywiście zlecą się wszystkie wirusy świata, z bin Ladenem zza światów włącznie. W dodatku administracja publiczna i szkolnictwo mogłaby spokojnie używać otwartych zamienników Worda i Excela, ale wolą płacić za licencje i subskrypcje...
Zaloguj się aby komentować
Heterodyna SDR – polski program do analizy i skanowania sygnałów radiowych
Czy są tutaj osoby interesujące się radiokomunikacją, elektroniką i technologią SDR?
Chciałbym przedstawić Heterodyna SDR – rozwijany przez Heterodyna Team Software program dla systemu Windows, przeznaczony do odbioru, monitorowania i analizy sygnałów radiowych z wykorzystaniem odbiorników SDR (Software Defined Radio).
Projekt powstał z myślą o radioamatorach, elektronikach, pasjonatach radiokomunikacji oraz osobach zajmujących się analizą widma radiowego.
Co oferuje Heterodyna SDR?
Skanowanie częstotliwości radiowych w czasie rzeczywistym.
Wizualizację widma oraz waterfall, pozwalające obserwować aktywność radiową.
Ręczną i automatyczną detekcję sygnałów.
Analizę częstotliwości i poziomu sygnału.
Obsługę modulacji AM i NFM.
Regulację wzmocnienia (gain), squelch, korekcji PPM oraz częstotliwości próbkowania.
Możliwości zapisu danych, logów i sygnałów przewidziane w rozwoju aplikacji.
Rozwijane mechanizmy inteligentnej analizy sygnałów.
Program wykorzystuje technologie .NET i C#, a do odbioru sygnałów może współpracować m.in. z popularnym RTL-SDR V3.
Do czego można wykorzystać program?
Heterodyna SDR może przydać się podczas eksperymentów radiowych, obserwowania zajętości pasma, badania emisji radiowych, nauki podstaw DSP oraz diagnostyki środowiska radiowego.
Jednym z założeń projektu jest połączenie możliwości analizy RF z czytelnym interfejsem, bez konieczności korzystania z kilku osobnych narzędzi.
Aktualny etap rozwoju
Projekt jest rozwijany eksperymentalnie. Pierwsze publiczne wydanie oznaczono jako v01.001.0062.
Nie wszystkie planowane funkcje są jeszcze ukończone. Część mechanizmów znajduje się na etapie implementacji lub testów, dlatego szczególnie cenne będą uwagi użytkowników.
Wymagania: Windows 10/11 (64-bit), kompatybilny odbiornik SDR oraz odpowiednie środowisko .NET. Aplikacja zawiera również mechanizm pomagający w instalacji sterowników Zadig/WinUSB.
Gdzie znaleźć program?
Repozytorium projektu:
https://github.com/HeterodynaTeamSoftware/Heterodyna-SDR
Pierwsze publiczne wydanie z paczką programu:
https://github.com/HeterodynaTeamSoftware/Heterodyna-SDR/releases/tag/v01.001.0062
Zapraszam do testowania i dzielenia się opiniami.
Chętnie poznam zdanie osób korzystających z RTL-SDR, SDR#, SDR++ i podobnych narzędzi. Jakich funkcji najbardziej brakuje Wam w programach do analizy sygnałów radiowych?
#sdr #radioamatorstwo #elektronika #technologia #radiokomunikacja #programowanie #tworczoscwlasna

Zaloguj się aby komentować
Powiem Wam, że nie spodziewałem się takiego tempa rozwoju AI. Ostatnie kilka miesięcy to już na serio jakiś dziki zachód: włamanie się agentów do hugginghace, stron rządowych w UK i Australii, a ostatnio się okazało, że rozwiązuje problemy matematyczne i to hurtowo .
NIe jestem jakimś ekspertem, trochę się orientuję jak LLM działają pod spodem i moje postrzeganie AI się mega zmieniło od początku tego roku: najpierw uważałem, że faktycznie jakieś małe fragmenty kodu potrafi ogarnać, ale trzeba cały czas kontrolować. Potem uważałem, że AI potrafi naprawdę dużo i wystarczy tylko naprowadzać agenta i dać mu jakieś hamulce aby dostarczał naprawdę jakościowe rozwiązania.
Ale obecnie zaczynam już być trochę tym przerażony i nawet nie chodzi tu o kwestię znikających miejsc pracy, ale o to, że AI to już samonapędzające się narzędzie, nad którym przestajemy mieć kontrolę.
Ciekaw jestem konsekwencji społecznych i ekonomicznych. Z jednej strony patrząc historycznie to każdy skok technologiczny powodował rozwój i bogacenie się społeczeństw. Ale z drugiej cieżko to sobie w głowie poukładać.
#ai #programowanie
Mnie to bardziej ciekawi jak będzie wyglądać przyszłość firm które utrzymują się ze swojego ciągle aktualizowanego oprogramowania np. Adobe. No bo od jakiegoś czasu widuje coraz więcej vibecodowanych projektów które są klonami wielu znanych aplikacji. Tutaj sobie np. panowie zrobili swoją implementacje Photoshopa (oraz innych programów z zestawu) w czystym Rustcie i nawet to jakoś działa: https://github.com/storytold/photocraft
Jak to tak dalej będzie szło, to zaraz się okaże, że każdy będzie mógł u siebie w domu w parę promptów robić darmowe kopie znanych programów albo nawet systemów xD. Idea przepisania całego jądra Linuxa na Rusta za pomocą AI nie wydaje się już taka odległa jak kiedyś. W sumie w tym momencie to bardziej kwestia kosztu tokenów a nie złożoności samej operacji xD.
@Bylina_Rdestu
Ale rozumiesz, że ten niewiarygodny cud AI kosztuje kasę? I, że jak kasa się skończy, to zostaną malutkie i tanie modele?
Bo takie fajne ćwiczenia wieloagentowe kosztują dosłownie miliony dolarów? Np. koszt tego dowodu matematycznego oceniany jest na ok 7 milionów dolarów?
Taaa... AI fajne jest, póki kasa jest. No i wymagania jakościowe są powiedzmy, takie dość skromne.
Że już nie wspomnę, że AI zre pozostałe zasoby, procki i ram, bo 100% utylizacji topi scalaki aż miło.
Ja np nie mogę znaleźć pracy, możesz zerknąć moje wpisy, zacząłem za 31zł brutto na magazynie, nie utrzymam się za ten hajs i albo zacznę coś weekendami, albo w końcu wróce do branży, rozrywki w moim słowniku już od jakichś 2 msc nie istnieją xd oby na jedzenie i przeżycie chociaż się udało ale będzie ciężko
Zaloguj się aby komentować
Wczoraj opublikowałem post który was zainteresował, związany był z tym jak “pracuje” z AI tj Reverse Engineering aplikacji aneroidowych, który wykonuje się automatycznie na środowisku które postawiłem na zimabard2(debian, openlcaw, opencode i flutter/dart, sdk)
Dziś chciałem pokazać jak wykorzystałem praktycznie taki setup - szczególnie etap automatycznej budowy aplikacji na iOS - jest to port web apki PWA który służył za swego rodzaju proof of concept kapsla Triki z żabki - czy może być sensorem dla treningu VBT?
PWA powstało na android, miało pewne ograniczenia ale nawiązałem komunikacje i zacząłem zbierać strumień danych z kapsla który mogłem przeliczać użytymi algorytmami po stronie PWA.
Szybko wyszło, że przeglądarkowa wersja ma duże ograniczenia, a raczej ograniczeniem jest to do czego ma dostęp kod z poziomu PWA(przeglądarka) do hardware(bluetooth)
Powstała pierwsza wersja na android gdzie był bardziej bezpośredni dostęp do bluetooth.
Etap iOS był w tym projekcie wtórny względem Androida, kod Swift (TrikiCore/TrikiBLE/TrikiApp) klonował logikę i przeliczenia 1:1 z wersji Android. Praca na MacBooku (ssh na lokal, Xcode 26.6) obejmowała: generowanie projektu przez xcodegen, build przez Xcode, testy na iPhone 11 Pro(tryb developera, self sign), utrzymanie repo ~/Triki_VBT_ios/ z pushem na GitHub, oraz iteracje nad bezpieczeństwem wątków (NSLock, serial queue, Sendable) itd.
Sam kapsel Triki zawiera mały mcu nrf52810 oraz 6 osiowy akcelerometr - wątek z elektrody https://www.elektroda.pl/rtvforum/topic4175986.html a hardware opisany dokładniej jest tu https://github.com/Piwencjusz/zabka-triki-hardware
https://www.youtube.com/shorts/S9qO09g4SLY
#ciekawostki #majsterkowanie #programowanie #ios #android #iphone
Zaloguj się aby komentować
Zaczęło się od raspberrypi 4 i OpenClaw, który po ssh łączył się z virtualką ubuntu na stacjonarnym kompie i robił rzeczy przez ssh(sdk zephyr, openwrt, flutter) Aktualnie jest zimaboard2 832 + 1TB nvme z debianem trixie, głównie OpenCode i wszystkie modele po API. OpenClaw i OpenCode maja sudo na userze. OpenCode to nie tylko kod ale i bardzo sprawny Reverse Engineering. Zaczęło sie od OpenClaw ktory przez ADB ma dostęp do telefonu z adroid - pobiera aplikacje którą jestem zainteresowany i robi jej RE, dekompilacje dart lub java czy innego stocku w ktorym zostala zrobiona aplikacja. Dekompilacja firmware z mcu? Też jest to możliwe
#ciekawostki #sztucznainteligencja #opencode #komputery #programowanie

Zaloguj się aby komentować
Hackatony to jest super sprawa w teorii ale w praktyce to moje doświadczenia są słabe.
Na jednym organizator miał po jednym boardzie Arduino + RPI dla każdego i większość czasu spędziliśmy na debugowaniu sprzętu żeby finalnie okazało się że coś było zrypane (nie pamiętam już teraz co dokładnie, któryś scalak).
Na innym połowa zespołów znała już zadania i tylko przeklepywała sobie to co już w chacie zrobili.
Ale to było przed AI jeszcze.
Teraz idziesz na hackaton i jest konkurs kto pisze lepsze prompty i korzysta z lepszego modelu. Więc nawet element funu imo totalnie znika xD no bo ciężko jest być dumnym z aplikacji napisanej AI w taki sposób. Jeszcze widać na koniec kto z jakiego modelu korzystał bo ci co mieli Codexa mieli podobne style aplikacji i ci co korzystali z Clauda też
Pójść raz żeby zobaczyć to spoko nawet ale więcej to bez sensu.
#programista15k #programowanie
@Czokowoko Najpiękniejszym zjawiskiem hackatonowym (dosłownie tak to nazywali) z jakim się spotkałem były wydarzenia organizowanie przez jedno korpo w którym miałem przyjemność zmarnować kilka lat życia.
Macie zdefiniowane z góry drużyny (normalne zespoły w których pracowaliśmy na codzień), przydzielone z góry zadania (normalne taski na ~2 tygodnie roboty), kupę papki motywacyjnej (innowacyjność, AI, nieszablonowe rozwiązania, blablabla), zimną pickę obok ekspresu do kawy. Klepnijcie w 12h to co powinno zająć dwa tygodnie a w nagrodę dostaniecie ciepłe piwo i uścisk ręki prezesa (albo i nie bo pojechał do domu). Że też regularnie część frajerstwa się na to rejestrowała xD
@Czokowoko a najlepsze są pracowe hackatony. Dostajesz z zespołem epiki które kiedyś by weszły, ale teraz PO chce je w 24h, bo to jest fun xD
@Czokowoko Zależy co to jest za hackathon, ale fakt, że przez AI wszystkie te apki będą miały praktycznie ten sam UI. Z mojego doświadczenia to w erze przed AI hackathony wygrywały projekty, które ładnie wyglądały, ale niekoniecznie robiły wszystko to, co obiecywali twórcy że będzie robić xD
Dzięki AI jest większe ciśnienie na rezultat i podczas hackathonów obecnie to widać, bo ładne UI (i przy tym oklepane) można mieć w kilka minut. Mi się osobiście ta zmiana podoba, bo wygrywa faktyczny pomysł, a nie opakowanie + prezentacja.
Raz brałem udziałem w hackathonie AI (nieskromnie nadmienie, że byłem w TOP3, a było trochę więcej osób niż 3) to mój projekt nie miał praktycznie żadnego UI, bo był narzędziem odpalanym w terminalu.
Zaloguj się aby komentować
Zaloguj się aby komentować
W końcu, biorę się za coś czego nie lubię.
Czyli budowanie poziomów ( ͡° ʖ̯ ͡°)
O wiele lepiej idzie mi programowanie i wymyślanie nowych rzeczy, a układanie poziomów po prostu mi się dłuży.
Ale cóż, jak trzeba to trzeba ¯\_(ツ)_/¯
Ale jest plus, przy projektowaniu poziomów, dodałem nową mechanikę do gry.
Możliwe do zniszczenia ściany, możemy odblokować na poszczególnych poziomach przejścia, stworzyć skróty.
Ściana nie znika natychmiastowo, posiada swoją animację, a sam gracz reaguje na niszczenie, więc mam tutaj przyjemny efekt wizualny.
Poprzednie rzeczy zostały dopracowane, niektóre zmienione na bardziej zaawansowane rzeczy, które mogą reagować z graczem.
Wentylator może zostać uszkodzony, więc podróżowanie po poziomie może być łatwiejsze, po prostym uderzeniu zmienia się jego animacja, a sam przestaje działać, można przemieszczać się normalnie, nie jesteśmy spychani do lawy czy w stronę innych przeszkód.
Jeżdżące platformy dostały sporą optymalizację, która zapewne pomoże komuś z słabszym sprzętem.
Niewiele jest do opisania z zmian, ponieważ jak wspomniałem, na ten moment zająłem się tworzeniem nowych poziomów, a tam nic ciekawego nie ma.
Pozostało stworzyć brakujące poziomy, dodać przeciwników i przetestować całą grę po raz ostatni przed zamkniętym playtestem.
#rhr #pixelart #gry #programowanie



Zaloguj się aby komentować
Ciekawa sprawa: Pojawił się nowy silnik do najnowszego modelu Qwen3.8-flash-next .
Strata, bo taką nazwę nosi ten silnik ma zaskakująco niskie wymagania:
W miarę nowe 12GB GPU na PCIEx16, 64GB RAM, szybki SSD
I teraz bomba: Ten model ma 120 miliardów parametrów. Ponieważ to MoE (mixture of experts), typ który rozwija ten silnik wrzucił najczęściej używanych ekspertów do GPU, a resztę do RAMu, do tego jest dodatkowy model przewidujący trzy kolejne słowa do przodu - silnik ładuje ekspertów do GPU z wyprzedzeniem. dzięki czemu model działa szybko. Mówimy tutaj o ~40tok/s.
Na Screenie mocno wykastrowana wersja modelu zmieszczona na styk w 24GB GPU i 32GB RAM
EDIT: Ważna sprawa, traktujcie to jako wczesną betę. Koleś nie dokończył jeszcze obsługi API zgodnego z OpenAI, więc na razie to jest zabawka a nie praktyczne narzędzie.
#ai #llm #selfhosted #programowanie #sztucznainteligencja

@Amebcio najszybciej na windows możesz sprawdzić to tak: 1. Uruchom menadżer zadań 2. Uruchom model z jakimś bardzo małym kontekstem 5-20k 3. Sprawdź jak podczas uruchamiania modelu wygląda zużycie RAM i VRAM
Jest zasada, że model w pełni odpalany na szybszej pamięci np. GDDR6 w GPU będzie działać szybciej niż model który "wycieka" z GDDR6 do np. DRR5 lub DDR4. (Model w pełni odpalony = sam model + pamięć na kontekst jest w tym samym rodzaju pamięci)
Można też sprawdzić czy karta graficzna współdzieli jakąś pamięć z RAM (na obrazku: shared memory uwagę) co oznacza właśnie przepełnienie pamięci w GPU i wyciekanie modelu do RAM.

Zaloguj się aby komentować
Cześć Misie!
Jak tam u Was w tę piękną pogodę?
Jakiś czas temu wrzuciłem post o poszukiwaniu pracy w Javie/backendzie:
https://www.hejto.pl/wpis/witam-panstwa-oglaszam-rynek-juniorski-a-moze-i-wczesny-mid-grinning-2-lata-exp-
No nie jest kolorowo
W każdym razie poszukiwania trwają już na tyle długo, że pora rozszerzyć pole działania. Nadal będę próbował wrócić do zawodu, ale w międzyczasie chciałbym po prostu możliwie szybko zacząć pracę.
Dlatego jeśli ktoś z Was wie o miejscu w Wawce, w którym potrzebują pracownika od zaraz, albo ma możliwość mnie gdzieś polecić, zapraszam do wiadomości
Dziękuje i pozdrawiam :D
#praca #szukampracy #programowanie #pracbaza
A gdzie celujesz? W sensie chcesz roboty stałej bardzo przeciętnie płatnej czy dobrze płatnej ale Cie wyjebia po pół roku i zastąpią AI(Another Indian). Jeśli to pierwsze - to CIRF/COI/CeZ/AKMF itp. W innym wypadku zostanie w IT w dłuższej perspektywie wiąże się z przebranżowieniem na infrastrukturę - VMware/openshift/fizyka/administracja serwerami szerokopojęta + najlepiej sieci.
@konrad1 dlatego mówię budżetówka to jest go-to. Bo najczęściej tam nie można wejść z AI publicznym, poza tym tam wszystko się dzieje 3x wolniej. Dla przykładu adopcja Kubernetesa który właściwie ma już 10 lat, dopiero raczkuje na poziomie budżetówki i najczęściej jest wdrażana przez outsourcing bo brak kompetencji w organizacji
Zaloguj się aby komentować
Fakturowania donosi, ze wykradziono z niej dane osobowe użytkowników i ich kontrahentów.
Najważniejsza informacja - wyciekły też conajmniej hasze haseł. Nie pisali nic o soleniu, więc polecam zmienić hasła WSZĘDZIE gdzie mieliście takie samo. A na pewno w Fakturowni.
Dla mnie w sumie na plus ze informują i to dość szybko. Jest nawet ładna lista polecanych akcji, więc polecam sprawdzić maila jeśli też jesteście klientami.
#pracbaza #cyberbezpieczenstwo #programowanie

Zaloguj się aby komentować
Zmierzyłem, ile tokenów „zjada” polski w modelach AI. Ten sam prompt o identycznym znaczeniu:
krótki (2 zdania): 34 tokeny po angielsku vs 64 po polsku (+88%)
długi (~100 słów): 110 vs 166 (+51%)
U Mistrala bardzo podobnie (+71% / +50%), więc „europejski” model nie pomaga. Winne są końcówki fleksyjne: „potwierdzenie” to dla tokenizera pot|wier|d|zenie, „zaproponuj” to zap|ro|pon|uj, a angielskie „invoice” czy „polite” to jeden token.
W praktyce w API płacimy za ten sam tekst nawet prawie 2× więcej, a w ChatGPT Plus / Claude Pro limit kończy się szybciej.
Trik: piszcie dłuższe instrukcje po angielsku i dodajcie na końcu „Reply in Polish”. Odpowiedź dalej przychodzi po polsku, a wejście jest krótsze o 31–41%.
Szczegóły i wykres: tokensave.app/pl/blog/ile-kosztuje-prompt-po-polsku
#ai #chatgpt #technologia #programowanie
Zauważyłem że nie zawsze potrafię dokładnie opisać co mam na myśli pisząc prompta po angielsku, szczególnie jeśli temat jest zawiły i sam mam braki w wiedzy, bo jestem na początku procesu. Czasami pomylę czas i to kompletnie zmienia sens zdania, które napisałem (i nie mówię o present simple tylko tych zawiłych czasach które nie mają odpowiedników w j polskim a w szkołach najmniej się o nich mówi). No i wreszcie pisanie prompta powinno być dość szybkie, a nie że siedzisz i się zastanawiasz przez 5 minut jak to zredagować (od tego jest AI przecież xd). Z tego powodu i tak piszę prompty po polsku, przynajmniej dopóki nie osiągnę biegłości w j angielskim bliskiej j polskiego :p
@tokensave czy to nie jest kwestia tego, że polskie wejście jest mapowane na angielski gdzieś tam pod spodem?
Generalnie z tego co mi kiedyś ktoś tłumaczył, to pod spodem i tak to działa na całych słowach, a nie sylabach, więc polskie "faktura", "fakturka", "faktury" i angielskie "invoice" są dla modelu tożsame. Się nie znam tylko powtarzam z pamięci.
Zaloguj się aby komentować