2024 - bardzo ciekawy rok zwłaszcza z punktu widzenia firm #amd i #intel
Ten drugi przez bardzo długi czas uchodził za monopolistę w kwesti CPU. Zyski generowane przez Intela (i to często w pojedynczych działach) były wielokrotnie większe niż całe przychodzy AMD. Z tego co pamiętam, największe zyski Intel zawsze miał z działu Datacenter między innymi z procków serwerowych które kosztowały krocie.
I teraz mamy luty i raporty finansowe za Q4 2024 oraz cały 2024. I się robi śmiesznie.
Chyba pierwszy raz w historii AMD przychód w dzialu Datacenter w danym kwartale był wyższy niż u niebieskiego konkurenta: $3.9 mld (+69% yoy ) vs $3.4 mld (-3% yoy). Zysk działu datacenter za cały rok $12.6 mld (+94% yoy) vs $12.8 mld u Intela (tutaj +1% yoy).
Wychodzi na to, ze obydwie firmy prawie się zrównały pod tym względem.
Dodatkowo AMD wykazuje $1.6mld zysku, a Intel prawie $19mld straty O_o Grubo
Co prawda Intel ma nadal 2x wyższe przychody (ponad $50 mld), ale przy wyższych przychodach ma też gigantyczną stratę....
@damw i bardzo dobrze. Pamiętam jak Intel Izrael stworzył fejkową stronę "ekspertów" do szkalowania konkurencji. Trochę to było żałosne, na przykład jako tła w wideo gdzie "expert" coś mówił, użyli zdjęcia ze stocka które animowali dodając mrugające lampki.
@skorpion hmm, na żywo to jedyne co mi przychodzi do głowy to np. jak grasz live na instrumencie, jakimś pianinie czy coś, a kontrolerem wrzucasz dodatkowe ścieżki z Abletona
Mam win 10, na dolnym pasku jest ikona która zazwyczaj pokazuje pogodę, albo notowania giełdowe. Jak się na to kliknie, to pokazuje się jakaś strona internetowa z gównowiadomości. Pytanie: jak to wyłączyć a najlepiej usunąć?
@Tomekku Też mam negatywne nastawienie co do niektórych wyzwań. Tworzenie społeczności i dodawanie 10 wpisów w ciągu 24h to robienie syfu w większości ¯\_(ツ)_/¯
Najpierw trochę kontekstu: Obecnie trenowanie najlepszych modeli AI jest NIEWYOBRAŻALNIE drogie. OpenAI, Anthropic i inne firmy wydają ponad 100 milionów dolarów tylko na moc obliczeniową. Potrzebują ogromnych centrów danych z tysiącami kart GPU wartych po 40 tysięcy dolarów każda. To jak posiadanie całej elektrowni tylko po to, aby zasilić fabrykę.
DeepSeek właśnie się pojawił i powiedział: „LOL, a co jeśli zrobimy to za 5 milionów dolarów zamiast tego?”. I nie tylko o tym mówili – oni to naprawdę ZROBILI. Ich modele dorównują GPT-4 i Claude'owi lub przewyższają je w wielu zadaniach
Jak? Przemyśleli wszystko od podstaw. Tradycyjne AI jest jak zapisywanie każdej liczby z dokładnością do 32 miejsc po przecinku. DeepSeek stwierdził: „A co, jeśli użyjemy tylko 8? Wciąż będzie wystarczająco dokładne!”. Bum – o 75% mniej pamięci potrzebne.
A potem jest ich system „multi-token”. Normalne AI czyta jak pierwszoklasista: „Kot... siedzi... na...”. DeepSeek czyta całe frazy naraz. Dwa razy szybciej, 90% tej samej dokładności. Przy przetwarzaniu miliardów słów to MA ZNACZENIE.
Rezultaty są oszałamiające:
- Koszt treningu: 100 mln $ → 5 mln $
- Liczba potrzebnych GPU: 100 000 → 2 000
- Koszty API: 95% taniej
- Może działać na gamingowych GPU zamiast sprzętu z centrów danych
„Ale zaraz,” możesz powiedzieć, „musi być jakiś haczyk!”. I tu jest ta niesamowita część – wszystko jest open source. Każdy może sprawdzić ich pracę. Kod jest publiczny. Dokumenty techniczne wyjaśniają wszystko. To nie magia, tylko niezwykle sprytna inżynieria.
Dlaczego to ma znaczenie? Bo łamie model, w którym „tylko wielkie firmy technologiczne mogą działać w AI”. Nie potrzebujesz już centrum danych wartego miliardy dolarów. Wystarczy kilka dobrych GPU.
Dla Nvidii to przerażające. Cały ich model biznesowy opiera się na sprzedaży superdrogich GPU z marżą na poziomie 90%. Jeśli nagle każdy będzie mógł robić AI na zwykłych gamingowych GPU... no cóż, widać, gdzie leży problem.
To klasyczna historia o disruptorach: obecni liderzy optymalizują istniejące procesy, podczas gdy disruptorzy przemyślają fundamentalne podejście. DeepSeek zadał pytanie: „A co, jeśli po prostu zrobimy to mądrzej, zamiast rzucać w to więcej sprzętu?”.
Konsekwencje są ogromne:
- Rozwój AI staje się bardziej dostępny
- Konkurencja rośnie dramatycznie
- „Fosy” dużych firm technologicznych zaczynają wyglądać jak kałuże
- Wymagania sprzętowe (i koszty) gwałtownie spadają
Ostatnia myśl: To wygląda na jeden z tych momentów, do których będziemy wracać jako punkt zwrotny. Jak wtedy, gdy komputery osobiste uczyniły mainframe'y mniej istotnymi, czy kiedy chmurowe obliczenia zmieniły wszystko.
AI zaraz stanie się o wiele bardziej dostępne i znacznie tańsze. Pytanie nie brzmi, czy to zakłóci rynek, ale jak szybko.
@AlvaroSoler W tym tekście można się zgodzić tylko z jednym - maleje próg dostępu do tworzenia modeli językowych. Giganci ze stanów nadal będą inwestować miliardy w ich rozwój, bo ścigają się na benchmarki, który z modeli jest lepszy, a że śpią na kasie to nie przeszkadza im jej przepalanie
