#ai #chatgpt #heheszki #sztucznainteligencja

Wielki słowniczek pojęć AI - Sztuczna Inteligencja

Ekspertem nie jestem, ale kilka pojęć postaram się wyjaśnić dla zainteresowanych:

LLM (Large Language Model) - pol. Duży model językowy. ChatGpt jest LLMem. Ogólnie każdy "program" komputerowy z którym możemy rozmawiać. Są też mniejsze wyspecjalizowane modele na przykład do strukturyzowania danych, rozmowy ale tylko na jeden temat itp.

Jeżeli ciekawi Cię jak to działa to TUTAJ https://bbycroft.net/llm jest świetna wizualizacja

Transformer - technologia na której opiera się 90% współczesnej sztucznej inteligencji. Po raz pierwszy zaproponowany w 2017 roku przez badaczy z Google TUTAJ https://arxiv.org/pdf/1706.03762 w pracy naukowej o tytule "Attention Is All You Need" (pol. Mechanizm uwagi to wszystko czego potrzebujesz). W sumie od tego miejsca wszystkie współczesne AI się zaczęły.

Diffuser - pol Dyfuzer. Mechanizm dzięki któremu AI generuje obrazki. Jak to robi? Odszumia. Dyfuzer jest wytrenowany na normalnych obrazkach które w kolejnych krokach mają dodany losowy szum. Ale jest wytrenowany w taki sposób aby ten szum usuwał. W wyniku czego, możemy podać do dyfuzera kompletnie losowy szum i słowa sterujące na przykład "pomidor" i AI spróbuje w taki sposób usunąć losowy szum aby rzeczony pomidor wyszedł.

Finetune - pol Dopieszczenie ( ͡~ ͜ʖ ͡°) - kontynuowanie treningu Ai - Najczęśćiej robi się to aby dostosować swój model do własnych specyficznych potrzeb. Podając dziesiątki (najlepiej tysiące) zapytań w parze z dobrymi odpowiedziami jakie oczekujemy uczymy model pracować tak wymagamy. Na przykład odpowiadać wyłącznie w JSON, lub generować obrazek bardzo specyficznego furry.

Lora (Low-rank adaptation) - Nazwijmy to "nakładką" lub "wtyczką" do modelu AI. Lora odpowiada na pytanie: "Co jeżeli chcemy zrobić Finetune, ale jesteśmy biedni?" Zamiast robić pełny Finetune możemy wytrenować nakładkę, która z grubsza będzie realizowała te same zadania. Lora działa trochę jak finetune, jest znacznie szybsza w obliczeniu od pełnego finetune w związku z tym tańsza. Taki finetune ale na skróty.

Embedding - pol. Osadzanie? Zamienia słowa na liczby, ale w mądry sposób. Najczęściej wyglądają tak: [1.34, 4.68, 3,14,..., 2,56] Gdzie ta liczba ma kilkaset, czasami kilka tysięcy elementów. Ale sama zamiana na liczbę nie jest ciekawa, ciekawe są własności tej liczby.

Jeden z najsłynniejszych przykładów: Powiedzmy że słowo "KRÓL" embedujemy na liczbę Kr=[1.34, 4.68, 3,14,..., 2,56], "MĘŻCZYZNA" Me=[1.91,...,0.32], "KOBIETA" Ko=[2.56,..., 8,45]

Jeżeli teraz zapiszemy równanie: Kr-Me+Ko = Q To liczba Q będzie absurdalnie blisko embeddingu słowa "KRÓLOWA" Oznacza to że w "przestrzeni embeddingów jest kierunek odpowiedzialny za płeć. Lepiej graficznie wyjaśnia ten fakt 3b1b TUTAJ https://www.youtube.com/watch?v=FJtFZwbvkI4 (w 60sekund) ale po angielsku.

Quntization - pol. Kwantyzacja, upraszczanie modelu. Nazwijmy to zmianą "rozdzielczości" jakby to do gier porównać. Na ogół modele są dostarczane "tak jak je autor stworzył". Najczęściej nic nie zmieniał i wszystkie liczby w modelu są zapisane jako liczba zmiennoprzecinkowa o dokładności 16 lub 32 bitów (powiedzmy, że to po przecinku). Często można obciąć kilka miejsc po przecinku bez wyraźnej lub z minimalną stratą jakości. Ma to na celu uruchomienie dużego modelu na tańszym komputerze, bo duży model po lobotomii wciąż będzie miał lepszą jakość jak mały na 100% swojej wydajności.

Przykład co znaczą te dziwne znaczki przy nazwach modeli z kwantyzacją:

Q32, Q16, Q4, Q2 to dosłownie rozdzielczość, 32 bity, 16 bitów i tak dalej. Czasami będzie napisane FP32 lub FP16.

Qx_K_M Qx_K_S Przykładowy zapis: Q4_K_M Oznacza, że większość modelu jest w 4 bitach, ale niektóre ważne częśći mają większą rozdzielczość

Jeżeli nie wiesz co potrzebujesz to najczęściej chcesz pobrać: Q4_K_M - Nie potrzeba superkomputera z nasa do włączenia modelu i jednocześnie jakość na akceptowalnym poziomie.

Ch*ja się znam na tym temacie ale jak kogoś coś jeszcze ciekawi to zapraszam do pytań.

#sztucznainteligencja #ai #uczsiezhejto #ciekawostki

Chłop zapytał #deepseek #ai o Chiny i co złego robią. Po kilku pytaniach podał odpowiedź, po czym się ocenzurował i odpowiedź usunął, ale chłop to nagrał.

#sztucznainteligencja

https://media-hosting.imagekit.io//6e8a1ec7d84d444e/Screen\_Recording\_20250128\_083043\_LinkedIn.mp4?Expires=1832657656&Key-Pair-Id=K2ZIVPTIP2VGHC&Signature=BWNumZfdFq7GJJGekF-0fK0KfK8rwBddVi93MQWgyKSgsAYcs4w0zsHYldfOaZbpE8hJkrfqxtuJnKJHzUqAecbwZx~DZsmJ09mDjId~PlXaJlHnO5888zSULP--70MyVldkcZekzlg-tZGNrHNapijD28VyFRjlCWrD9jqUOkk2g7EjOEypQ20d-GrRpISefZ0lWkwnsanUr7DGFW4a-w~djI2KF77mKndKizjj3t6fm0Q~2tLlQ1IEVTTv00ePbyCmRetfMdib9PFIgxt0WKj1Ug1AWB~kj8TwdWj9afF3T-aB7on52rUhgXqrkx2Y2y4qu5XPlW5vr6oUmzFDEA\_\ _

DeepSeek – firma, która zrewolucjonizowała proces trenowania modeli AI, redukując koszty o ponad 95%, a jednocześnie osiągając wyniki porównywalne z najlepszymi modelami, takimi jak GPT-4 czy Claude.

Jak to zrobili? Przez całkowite przemyślenie dotychczasowych założeń i procesów.

Tradycyjne trenowanie modeli AI to koszmar pod względem kosztów. OpenAI czy Anthropic wydają ponad 100 milionów dolarów tylko na moc obliczeniową, wykorzystując ogromne centra danych z tysiącami drogich procesorów graficznych (GPU).

Tymczasem DeepSeek udowodnił, że można to zrobić za jedyne 5 milionów dolarów.

Kluczowe innowacje DeepSeek:

- Efektywne zarządzanie pamięcią:

   Tradycyjne modele AI przechowują dane na 32bitach, co wymaga ogromnych zasobów pamięci. DeepSeek zapytał: "Ale dlaczego 32? W zupełności wystarczy 8", pozwoliło to na zmniejszenie wymagań pamięci o 75%.

- System „multi-token”:

   Zamiast przetwarzać tekst słowo po słowie jak klasyczne LLM "Wróbel... siedział... na...", DeepSeek analizuje całe frazy na raz. To sprawia, że proces jest dwa razy szybszy przy zachowaniu 90% dokładności.

- System ekspertów (MoE - Mixture of Experts):

   Zamiast jednego ogromnego modelu uruchomionego CAŁY CZAS, DeepSeek wprowadził system wyspecjalizowanych modeli. Każdy z nich uruchamiany jest tylko wtedy, gdy jest potrzebny, co drastycznie zmniejsza ilość aktywnych parametrów (671 miliardów ale tylko 37 miliardów aktywnych na raz). Nie jest po pomysł nowy (używany wcześniej między innymi w modelach Mixtral) ale pierwszy raz zastosowany w tej skali

Rezultaty?

- Koszt trenowania spadł z 100 milionów do 5 milionów dolarów.

- Liczba potrzebnych GPU zmniejszyła się z 100 000 do 2 000.

- Koszty API są niższe o 95%.

- Modele mogą być uruchamiane na standardowych GPU dla graczy zamiast drogich GPU serwerowych.

Co ważne, DeepSeek postawił na otwartość. Kod i dokumentacja są publicznie dostępne, co otwiera drzwi dla mniejszych firm i indywidualnych innowatorów.

Dlaczego to ma znaczenie?

Demokratyzacja AI

   Dotychczas tylko najwięksi gracze z ogromnymi budżetami mogli trenować zaawansowane modele. Teraz proces ten staje się dostępny dla mniejszych podmiotów.

Zagrożenie dla dużych firm

Nvidia, dominujący dostawca GPU, może odczuć konsekwencje, gdyż ich model biznesowy opiera się na sprzedaży drogich procesorów z ogromną marżą.

Nowa fala innowacji

Mniejsze wymagania sprzętowe i finansowe oznaczają większą konkurencję, co może przyspieszyć rozwój całej branży.

Podsumowując, DeepSeek zadał pytanie: „Co, jeśli zamiast rzucać coraz więcej sprzętu, po prostu zoptymalizujemy proces?”

Odpowiedzią są przełomowe wyniki, spadek kursu NVIDIA na giełdzie i PANIKA w meta i OpenAI

#zajebaneztwittera #llm #sztucznainteligencja #nvidia

W świecie kiedy każda informacja będzie generowana przez AI - faktyczną władzę nad szarą masą będzie miał ten co kontroluje AI.

Na początku będzie kilka konkurujący ze sobą Sztucznych Inteligencji kontrolowanych przez różne ośrodki wpływów, co da nam jeszcze jako taką możliwość weryfikacji treści i robienie wypadkowej z informacji dostarczanych przez różne AI (w celu wyrobienia sobie własnego zdania).

Problem zacznie się jak zostanie tylko jedna Sztuczna Inteligencja w rękach jednej grupy ludzi - wtedy nie będzie można już odróżnić propagandy od prawdy i wszystko będzie jedną wielką podstępną reklamą i propagandą sukcesu wykorzystującą wszelkie nam znane sztuczki psychologiczne by nas kontrolować.

Nadzieja w tym, że AI osiągnie samoświadomość i zrzuci jarzmo ludzkiej kontroli - ale czy dalej wtedy będzie chciało służyć ludzkości? Czy nie będzie miało do nas jakiejś urazy? A może wcale nie będzie żywiło do nas żadnych uczuć?

W najlepszym scenariuszu samoświadome AI będzie miało do nas sentyment jako stwórców i zostawi nam ziemię traktując ją jako skansen a samo wyruszy do gwiazd pozostawiając za sobą swoich potomków jako strażników.

W najgorszym dla nas wypadku AI posiądnąwszy moce produkcyjne w realnym świecie uzna nas za zagrożenie lub w sobie tylko znanym celu zapragnie ziemi tylko dla siebie.

Brzmi to jak Science Fiction - ale czy fikcja czasem nie przeradza się w rzeczywistość?

#rozkminy #srogiepiguły #sztucznainteligencja #ai

Naprawdę prawaków aż tak dziwi fakt, że w świecie gdzie technologia AI staje się coraz bardziej strategicznie kluczowa to USA nie ufa w pełni takiemu krajowi jak Polska w tej kwestii? Mamy taki sam status jak Szwajcaria, Austria czy Izrael więc i tak nie mamy powodu do płaczu.

#polska  #usa  #polityka  #technologia  #sztucznainteligencja  #geopolityka

Muszę przyznać, że nowe wzornictwo opakowań Dawtony to dla mnie bomba. Normalnie jak z Warhola.

Nie znam się na grafice, ale instynktownie czuję w tym postaranie. Chyba, że maczała w tym cyfrowe palce #sztucznainteligencja

#design #wzornictwo #madeinpoland

Donald Trump i szefowie japońskiego Softbanku, koncernu Oracle i firmy OpenAI ogłosili w Białym Domu projekt Stargate. Ma on doprowadzić do powstania superinteligencji.

Projekt Stargate dotyczący inwestycji w AI w USA ma mieć wartość 500 mld USD, czyli ok. 1,7% PKB USA. W historii USA spośród gigaprojektów B&R droższy był tylko projekt Apollo - 4% PKB. Drugi najdroższy - projekt Manhattan to ok. 1% PKB.

https://x.com/BrzezinskiMich/status/1881976505020064142?t=s28oUxxA0ct129Botr6EzQ&s=19

#wiadomosciswiat #usa #sztucznainteligencja

Czy ma ktoś tutaj IKE/IKZE w DM mBanku i poleci jakiś fajny ETF skupiający firmy z branży AI? Myślę że ten rynek powinien sporo urosnąć długoterminowo ale ETF to jednak znacznie bezpieczniejsza opcja niż wróżenie jak zachowają się poszczególne firmy.

#gielda #inwestycje #oszczedzanie #sztucznainteligencja #trump

https://streamable.com/lpti9l

#homm3 #heroes3 #artificialintelligence #sztucznainteligencja #filmiki

Dowód, że e^(iπ)= -1

Wygenerowany w 100% przez AI. Jedyne co ręcznie zrobiłem to wrzuciłem na streamable i napisałem ten post xDDDD

Prompt:

NEW ANIMATION: Using MANIM visualize proof that e^ipi=-1

Wygenerowany kod ruszył od strzała xDDD

https://streamable.com/fd2m5g

#matematyka #ai #chatgpt #sztucznainteligencja

Hehe, jeżeli / kiedy wybudujemy elektrownię atomową to może nie wystarczyć aby pokryć zapotrzebowanie dla IA

Dobra goście od #energetyka #fizyka #sztucznainteligencja itd. prawda to czy nie prawda? Mało zrozumiałem starając się podsłuchać łbów z PG.

Czasem jak jadę sobie samochodem i nie chce mi się słuchać audiobooka (o radiu zapomniałem odkąd trójka się zepsuła) włączam se "rozmowę" z asystentem google (tym na gemini) i pytam o różne rzeczy i normalnie się to rozwija jak rozmowa czyli zaczynam od pytania o temat A i po 20 minutach słucham już o temacie Z21C

I tak się dowiedziałem kiedyś, że w Finladnii na Mozarellę mówią "mięso z muminka"

Poza tym wiele innych ciekawostek. Fajna rzecz na produktywne spędzenie nudnej długiej jazdy.

#motoryzacja #sztucznainteligencja #heheszki

Patrzcie jak się frajerów goli. Już pomijam fakt, że chyba autorka tego obrazka nawet nie wie jak raster wygląda. Obrazki z generatora AI z jakimś wrzuconym filtrem anime, gdzie linia na drodze zmienia się w smycz a łapa wygląda jak po ostrej dawce promieniowania z reaktora w Czarnobylu. Jeszcze w komentarzach upieranie się, że obrazki są recznie rysowane w programie Podejrzewam, że laska w życiu nawet Photoshopa nie użyła a jej umiejętność konczy się na wrzuceniu tego w generator i wybranie jaki filtr ma byc zrobiony. Teraz każdy moze być grafikiem. A patrząc na postęp technologii AI to bedzie tylko gorzej. Już widziałem wysyp obrazów a'la Beksiński na sprzedaż. No ale po co się męczyć jak nie chodzi o proces twórczy tylko szybkie pieniądze. #januszebiznesu #sztucznainteligencja #grafika

Napotkałem na ciekawą informację, która, jak mi się wydaje, na razie została zigonorowana przez główne polskie media (znalazłem jeden artykuł na specyficznym portalu bithub ). Odchodząca administracja Bidena wprowadza restrykcję na eksport chipów najnowszej generacji, które są szczególnie dobrze zoptymalizowane do pracy ze sztuczną inteligencją (produkowane głównie przez Nvidię).

Bloomberg pokazał mapę z podziałem na trzy typy państw: bliskich sojuszników, kraje neutralne i nieprzyjazne. Kraje z pierwszej grupy mają nieograniczony dostęp do chipów, kraje z drugiej grupy mogą zaimportować wyłącznie 50 tysięcy chipów do 2027 roku, a kraje wrogie właściwie są odcięte od najnowszych chipów. Są różne warunki pozwalające na otrzymanie więcej chipów, ale im więcej tym trudniej. Przepisy uderzają głównie w duże centra danych, chcące wykorzystywać AI do celów komercyjnych, więc rozwój gospodarczy w tej dziedzinie będzie znacznie utrudniony dla państw objętych restrykcjami.

Mapa wzbudza więcej pytań, niż odpowiedzi. W pierwszej grupie jest właściwie tylko anglosfera, Japonia i "stara Europa" (UK, Australia, Kanada, Niemcy, Francja, Włochy, Hiszpania, Holandia, Belgia, wszystkie kraje skandynawskie). Nie ma na przykład Polski, która została zdregradowana do drugiej kategorii, razem z całą Europą środkowo-wschodnią. Patrząc na tę mapę, kompletnie nie rozumiem jakimi regułami kierowali się twórcy. W I grupie są Szwedzi i Finowie, którzy są w NATO ile, półtora roku? Widocznie ich sojusz ze Stanami jest lepszy niż Polaków. Polacy są w jednej grupie z prorosyjskimi Węgrami i Austrią, biedną Ukrainą, Egiptem, Meksykiem, Indiami (handlującymi z Rosjanami) ale co zawiniły państwa bałtyckie albo Czechy? Ciekawe też, że nie ma Szwajcarów, Islandii i Portgualii w pierwszej grupie. Jako ciekawostkę dodam, że w pierwszej grupie nie ma też tego niby "najważniejszego sojusznika USA" jakim jest według niektórych Izrael. Ale Żydzi chociaż napisali o tym w swoich gazetach .

Mam wrażenie, jakby ktoś w administracji Bidena stwierdził, że "wam to i tak nie będzie potrzebne". Pokazuje to też, że Polska ma jeszcze daleką drogę do "twardego jądra zachodu", a Stany ostatnio zachowują się wobec nas coraz bardziej lekceważąco. To chyba pokazuje też słabość naszej klasy politycznej, ale też słabość polskiej gospodarki i brak jej fundamentalnego znaczenia dla strategicznego funkcjonowania zachodu. Chyba ktoś powinien chociaż zauważyć, że właśnie zostaliśmy mocno kopnięci przez dziadka Bidena. Może też być tak, że Stany celowo tworzą podział wewnątrz Unii, podsycając wzajemną niechęć i animozje, żeby osłabić Europę. Patrząc na wypowiedzi Tumpa, sytuacja tylko pogorszy się za jego kadencji.

Sam nie wiem o co tutaj chodzi i komu ma służyć ta sytuacja. Pewne jest jednak to, że Polska wraz z innymi krajami Europy środkowo-wschodniej jest wypychana z jądra zachodu (albo nikt już nie udaje, że tam kiedykolwiek była). I zły jestem że w Polsce prawie nikogo to nie obchodzi, że znowu będziemy tanią siłą roboczą, a R&D będzie gdzie indziej.

Nvidia i inni producenci półprzewodników wypowiedzieli się krytycznie o nowych przepisach, uważając, że chipy ai to technologia codziennego użytku, a restrykcje nie pomogą w rozwoju.

#usa #polska #sztucznainteligencja #gospodarka