Szef Nvidii ogłasza "śmierć" kodowania. Jego zdaniem ludzie powinni uczyć się rolnictwa

@LovelyPL wtedy będzie można protestować na zmianę

@smierdakow Ja wam wielokrotnie mówiłem - będą nas straszyli wojną atomową i będzie kryzys. Może Chiny wejdą w Tajwan. Ale na koniec wszystko się w miarę dobrze skończy, Trump wróci na stołek w USA, trochę pedofili powieszą - będzie dobrze.

Przestań się cykać, Rotszyld zdechł a jeśli Q to jednak ściema to wszyscy i tak zginiemy. Ale to nie jest ściema przestań być panikarzem - wszystko będzie w porządku.

@dsol17 

Trump wróci na stołek w USA, (...) - będzie dobrze.

Wybierz jedno

@dsol17 no straszą, straszą wojną - Rosjanie.

Kim są ci oni?

@malaka żymianie ( ͡° ͜ʖ ͡°)

@malaka To tylko oni zyjacy w monotoni oni

@wombatDaiquiri o nauczycielach akademickich nie było mowy, więc na razie czuję się bezpiecznie.

@rain jak uczysz w Polsce to chyba mało wiadomości czytasz ( ͡° ͜ʖ ͡°)

@wombatDaiquiri dość dużo, ale ze swojej dziedziny. Ta wpadła mi przypadkiem i wydała się i zabawna i interesująca.

@Klopsztanga AGI do 2030

@Klopsztanga taaaaa, napewno

@dolitd same będą się ulepszać - taka jest idea AI.

Zapytam się inaczej: kto uczy samouków?

@Klopsztanga A potem, jak się cos zepsuje, to faktycznie tylko rolnictwo zostanie, bo nikt nie będzie mieć pojęcia jak to działa (czyli wrócimy do etapu magii).

W tym temacie polecam opowiadanie Paolo Bacigalupi "Pompa numer sześć". Jest tam opisany dokładnie taki przypadek.

Może to nie #ksiazkiwhoresbane ale opowiadanie (jak i wszystkie książki tego autora) jest świetne i dające do myślenia.

@Klopsztanga A potem, jak się cos zepsuje, to faktycznie tylko rolnictwo zostanie, bo nikt nie będzie mieć pojęcia jak to działa (czyli wrócimy do etapu magii).

@LovelyPL nikt nie mówił że nie będzie kompletnie programistów. Będa, zawsze będą. Tylko nie będzie zapotrzebowania jak dzisiaj. Zamiast milionów programistów, starczy kilka tysięcy konkretnych

Kiedyś każdy facet potrafił polować... A teraz? Po co chcesz polować? Mało żarcia w sklepach jest?

Uczysz się w wolnym czasie polować np. na ryby za pomocą dzidy? Bo jak świat upadnie, to przecież ci się to przyda.

Albo jak świat upadnie, mam nadzieje, że bardzo dobrze znasz elektronikę i będziesz mógł zbudować elektrownie i urządzenia elektryczne? A później zrobić komputer - lub - chociażby kalkulator?

Świat idzie do przodu. Możesz protestować, ale świat bedzie miał cię gdzieś. Albo się dostosowujesz, albo wypadasz z gry. Ewolucja jest bezlitosna, nie patrzy się za siebie.

@Klopsztanga może kilkaset tysięcy konkretnych.

Przykłady, które podajesz są fajne, ale... technika połowu ryb sie zmienia, ale nie doszliśmy do etapu, że ryby łowią sie same i nikt nie wie jak.

Polowanie - to samo. Jedzenie jest w sklepach, ale samo się nie robi.

Co do elektroniki - no tutaj bym parę rzeczy potrafił skonstruować ale bez materiałów byłby problem. Niemniej - elektronika się sama (jeszcze) nie rozmnaża.

A przy AI chcemy doprowadzić do sytuacji, że AI będzie projektować inne AI, które będą projektować kolejne. I w razie problemów, nikt poza samą AI nie będzie wiedzieć jak to działa, jak to zostało zrobione. I tutaj jest zagrożenie. I magia. Bo tak działa magia - nikt nie wie dlaczego i jak, ale działa

@LovelyPL 

Polowanie - to samo. Jedzenie jest w sklepach, ale samo się nie robi.

zamiast polowania masz chów. Tak samo z rybami coraz częściej. Karma z sterydami, sztuczny sandbox dla nich.

Bo bardziej efektowniej to działa.

A przy AI chcemy doprowadzić do sytuacji, że AI będzie projektować inne AI, które będą projektować kolejne. I w razie problemów, nikt poza samą AI nie będzie wiedzieć jak to działa, jak to zostało zrobione. I tutaj jest zagrożenie. I magia. Bo tak działa magia - nikt nie wie dlaczego i jak, ale działa 

Ot kolejny etap rozwoju. Z mało przetworzonego produktu robi się bardziej przetworzony produkt, gdzie jedna firma nie bedzie w stanie udźwignąć produkcji produktu od A do Z.

Jak 25 lat temu z grupą kumpli mogłeś stworzyć hit gamingowy, który wymiatał, który mógł wygrać z GTA 2. Było to realne. Teraz z tą samą grupką ludzi nie masz szans napisać, chociażby kopii GTA V na własnym silniku.

Musisz skorzystać z gotowców - z produktu wysoko-przetworzonego - byś mógł zaistnieć, byś mógł myśleć o realizacji celu.

Nie widzę tutaj czegoś "nowego", tylko kolejne etapy rozwoju. Programowanie jest nowym nabytkiem ludzkości i z roku na rok coraz bardziej staje się "wysoko-przetworzonym" produktem.

Tak jak zwykły elektryk nie ogarnię jak działa dioda led, tranzystor - w postaci fizyczno-chemicznej, tak programista nie będzie ogarniał co się dzieje "pod spodem" - ale będzie ogarniał projekt w większej perspektywie.

Ilu teraz jest programistów assemblera na rynku? Albo fortana czy innych low-poziomowych języków?

A przy AI chcemy doprowadzić do sytuacji, że AI będzie projektować inne AI, które będą projektować kolejne. I w razie problemów, nikt poza samą AI nie będzie wiedzieć jak to działa, jak to zostało zrobione. I tutaj jest zagrożenie. I magia. Bo tak działa magia - nikt nie wie dlaczego i jak, ale działa 

Mówisz tak, jakby każdy teraz wiedział, co siedzi w mostkach intela na płycie głównej lub w ich procesorze.. i każdy teraz bym mógł zbudować procesor od ręki.

Umysł ludzki jest zbyt ograniczony, by ogarnąć, to co teraz się dzieje w AI. Życia mu nie zabraknie, by zrozumieć AI... te przyszłe. Trzeba to sobie uświadomić.

Dlatego AI powstaje, by mieć coś bardziej skomplikowanego niż ludzki rozum. Rozum ludzki - ten który uczymy się już, od dawna jak działa i nadal za dużo nie wiemy, bo stworzyć kopii nie potrafimy

@Klopsztanga Tylko, że o ile elektryk nie wie jak działa tranzytor, to jest ktoś, kto wie.

Jak programista nie ogarnia tego, co się dzieje pod spodem - to jest ktoś, kto ogarnia.

A mówimy tutaj o systemie, którego nikt nie ogarnia poza nim samym. O ile 'bazową' AI ktoś zaprogramuje, to potem ona wymyśli sobie jakiś przedziwny sposób programowania kolejnej jej iteracji. I ci, którzy programowali tę pierwszą AI nie będą wiedzieć już nic.

To jest postęp, ale w momencie kiedy całkowicie stracimy nad nim kontrolę (poza wyciągnięciem wtyczki), to nie wiem czy to będzie postęp w dobrą stronę. Będzie nam wszystkim (co do jednego) brakowało wiedzy jak działa ta AI. Poza tym, że działa.

Przypomniał mi się taki wpis na Hejto, gdzie naukowcy znaleźli takie 'coś' i kombinowali do czego to może służyć. Wysnuli wiele hipotez (totalnie błędnych), a jakaś 'babcia' im wytłumaczyła, że tym się rękawiczki robi

W przypadku AI może dojść do dokładnie tego samego, tylko nie będzie już żadnej 'babci', która to wyjaśni. Będziemy widzieć wyłącznie efekty działania, bez wiedzy jak do tego doszło ("nie wiem" - jak pisze poeta :)).

Wszystkie dotychczasowe analogie nie pasują do AI właśnie dlatego, że jak na razie zawsze jest ktoś, kto wie.

Co do assemblera, to byś się zdziwił

Jak programista nie ogarnia tego, co się dzieje pod spodem - to jest ktoś, kto ogarnia.

@LovelyPL nie, nie ma takiego programisty, co wszystko ogarnia.

Są grupy programistów, które ogarniają jeden aspekt - jedną część - dużego oprogramowania. Im większy szczebel programisty - tym bardziej wiedzę ma rozmydloną precyzyjną - i pracuje na większym obrazie problemu.

Nie musi ogarniać "jak działa dokładnie moduł", tylko ma zrozumieć, do czego można go wykorzystać i jak.

Bo jakby był taki programista np, w Google, to szybko trafiłby do wariatkowa, bo ludzki umysł nie jest i nie będzie nigdy dostosowany do tylu informacji. Mamy ograniczenia nie do przeskoczenia. C"hociażby skały srały, wyżej penisa nie podskoczysz".

To jest postęp, ale w momencie kiedy całkowicie stracimy nad nim kontrolę (poza wyciągnięciem wtyczki), to nie wiem czy to będzie postęp w dobrą stronę. Będzie nam wszystkim (co do jednego) brakowało wiedzy jak działa ta AI. 

Zawsze będziesz mógł się zapytać AI, jak działa "odpowiedni punkt algorytmu ".

W przypadku AI może dojść do dokładnie tego samego, tylko nie będzie już żadnej 'babci', która to wyjaśni. Będziemy widzieć wyłącznie efekty działania, bez wiedzy jak do tego doszło ("nie wiem" - jak pisze poeta :)).

No tak, i w tym piękno w przyszłości, że ludzie stworzą coś, co ludzki umysł nie ogarnie, bo jest zbyt debilny

Co do assemblera, to byś się zdziwił 

A no zdziwie się, bo nie znajdę łatwo programisty w stylu "railway tycoon", co napisał grę w Assemblerze. Wiedza ta jest przeżytkiem, bo nie jest już tak potrzebna jak kiedyś. Teraz lepiej zoptyamluzje kod wyższy język programowania niż standardowy programista. Bo też jest leniwy i ograniczony w pewnych aspektach. Programista zoptyamluzje ci konkretną procedurę - zgadzam się - ale jeśli o cały kod, to C lepiej to zrobi.

To tak jakby ciąć uprawy rolnicze kosą lub kombajnem. Kombajn szybciej to zrobi na większą skalę, lecz kosa zrobi to dokładniej... ale niesamowicie wolniej i drożej.

Ogólnie rolnictwo to dobry przykład do porównywania progresu. Ojciec opowiadał mi, jak mój dziadek i pradziadek za głowę się chwytali, jak widzieli kombajn w akcji. Że nie dokładnie, że odp@# szajs. I ręcznie wszystko przez to robili. Ot ograniczenia ludzkie, gdzie ich umysły nie ogarniały, że czasem nie liczy się "jakość" pracy, lecz jej efektywność.

@Klopsztanga Czyli w sumie przyznałeś mi rację Zawsze jest ktoś, kto ogarnia temat. Jeśli nie cały, to kawałek. A przy kolejnych iteracjach AI może się okazać, że nie ma nikogo (poza inną AI), kto ogarnia choćby kawałek modułu, kodu itd.

Wyobraźmy sobie, że AI wymyśla własny język programowania, który jest całkowicie niezrozumiały dla nikogo, bo jest tak skomplikowany, że tylko inne AI go mogą zrozumieć.

Zdaje się, że był już nawet taki prosty przykład, gdzie dwie AI miały przekazywać sobie jakieś komunikaty - coś chyba z giełdą to było związane. I po jakimś czasie komunikaty, które wysyłały stały się dla ludzi całkowicie niezrozumiałe, ale one spokojnie się 'dogadywały'.

Oczywiście możemy spytać innej AI jak to działa, ale. Po pierwsze skąd będziemy wiedzieć, że powie nam prawdę Przecież to może być jakiś bełkot, którego nie ogarniemy naszymi małymi mózgami, jak sam napisałeś Może nie odpowie wcale, a może wyjaśni nam to, ale w sposób tylko dla niej zrozumiały.

Znowu mi się przypomniało opowiadanie - tym razem Bułyczowa "Parowóz dla Cara". Tam w ramach eksperymentu myślowego poproszono współczesnego naukowca, żeby wytłumaczył Carowi i jego świcie z XVIII wieku jak działa parowóz Okazało się, że to nie takie proste, choć sama zasada wydaje NAM się dosyć prosta.

Rozmowa z AI może za chwilę wyglądać jak rozmowa fizyka jądrowego z jakimś plemieniem z Amazonii, które biega w przepaskach z liści. Przepaść intelektualna w końcu może być zbyt duża do zasypania.

Na dziś nasza dyskusja jest czysto akademicka. Wiadomo, że postęp jest i zazwyczaj jest dobry, ale AI może dać takiego kopa postępowi, że nie ogarniemy go. I nie wiem czy to będzie taki dobre, jeśli będziemy żyć w świecie, którego nie rozumiemy.

Znowu mi się przypomniała książka... ale zostawmy ją

ps: na tym drugim portalu zostałbym już dwa razy zwyzywany, a tutaj - kulturalna dyskusja.

pps: może jesteśmy AI, które dyskutują między sobą?

poprosiłem AI żeby ustosunkowała się do tego, co tutaj piszemy:

1. Specjalizacja w dziedzinie programowania:
   

• Specjalizacja w dziedzinie programowania jest powszechnie akceptowana i często uznawana za skuteczną strategię. Złożoność technologii rośnie, co sprawia, że niemożliwe jest ogarnięcie wszystkiego. W dzisiejszym świecie IT, zespoły składające się z ekspertów w różnych dziedzinach są kluczowe dla skutecznego rozwoju oprogramowania.
  

1. Rozmydlenie wiedzy na wyższych szczeblach programisty:
   

• Wyższe szczeble programistyczne wymagają zrozumienia szerszego kontekstu biznesowego i strategii. Jednak utrzymanie równowagi między ogólnym zrozumieniem a szczegółową wiedzą techniczną jest kluczowe. Programiści na wyższych szczeblach muszą być elastyczni i zdolni do podejmowania decyzji strategicznych.
  

1. Ograniczenia ludzkiego umysłu:
   

• Ograniczenia ludzkiego umysłu są rzeczywiste, dlatego technologie takie jak sztuczna inteligencja mogą stanowić wsparcie dla ludzi. Automatyzacja i narzędzia wspomagające decyzje mogą pomóc w przetwarzaniu ogromnej ilości informacji, ale zawsze potrzebujemy ludzkiego nadzoru i zrozumienia kontekstu.
  

1. Postęp a utrata kontroli:
   

• Obawy dotyczące utraty kontroli nad zaawansowaną sztuczną inteligencją są zrozumiałe. Dlatego ważne jest, aby rozwijać technologie w sposób etyczny, z zachowaniem przejrzystości i odpowiedzialności. Wprowadzanie odpowiednich regulacji i standardów etycznych może pomóc w minimalizacji ryzyka.
  

1. Porównanie do rolnictwa:
   

• Analogia do rolnictwa pokazuje, że innowacje często spotykają się z oporem i niezrozumieniem, zwłaszcza gdy naruszają tradycyjne metody. Ważne jest, aby edukować społeczeństwo i dostosować się do zmian, aby maksymalnie wykorzystać korzyści postępu technologicznego.
  

1. Piękno przyszłości w tworzeniu czegoś, co ludzki umysł nie ogarnie:
   

• Tworzenie technologii, które przekraczają ludzkie zrozumienie, może być zarówno fascynujące, jak i wyzwaniające. Wyzwania te obejmują aspekty etyczne, bezpieczeństwo, i konieczność odpowiedzialnego zarządzania postępem. Kluczowe jest utrzymanie równowagi między eksploracją nowych możliwości a odpowiedzialnym stosowaniem technologii.
  

@TRPEnjoyer ogarnim sobie google gemini z 20 mln tokenami. Udostępnij cały swój projekt programistyczny. Będzie ci pomagał rozwijać oprogramowanie od samego startu.

Zamiast spędzać dni w analizie projektu, to gemini zrobi ci to w sekundy i będzie twoim asystentem od kodu, co ci wszystko wyjasni co sie dzieje tam.

Oczywiście jakieś błędy są, ale cała koncepcja dobrze działa i jest bardzo pomocna.

ChatGPT to tylko POC był jak dla mnie

@Klopsztanga jak w tym kawale

- W CV napisał Pan, że potrafi szybko liczyć... więc ile to jest 39 razy 12

- 36

- to nawet nie było blisko!

- ale szybko

Coś mi się nie chce wierzyć w obecne zdolności zrobienia czegoś więcej niż prosty crud wyuczony z tysiąca przykładów czy zwykły landing page. No ale muszę faktycznie sam sprawdzić, póki co wg mnie jest to, jak napisałeś, po prostu spora pomoc, normalnie jak przydupas majstra.

@TRPEnjoyer raczej zamiast majstra, chatGPT, bo majster ma ważniejsze sprawy do ogarniania

@TRPEnjoyer i wymaga odpowiednio dużej działki rolnej. To akurat najciężej dostać jeżeli nie masz po rodzicach

@TRPEnjoyer e tam, ładnie lambdy robi tak, że sam bym nie potrafił.

Zdarza się czasem "daydreaming" i odjazd w mieszanie rozwiązań z innego języka - zwłaszcza jeśli pytanie jest zorientowane wokół jakiejś biblioteki obecnej w kilku językach, ale poza tym to jest naprawdę przydatne.

@travel_learn_wine zgadzam się z tym - wszystko, co będzie proste i powtarzalne zostanie zapewne w końcu "przekazane" AI, dla ludzi pozostaną najtrudniejsze, koncepcyjne zadania.

@travel_learn_wine sztuczna inteligencja jest dobra w rozwiązywaniu już rozwiązanych problemów. Jak ją nawet zasilisz całą wiedzą ludzkości to nie wyjdzie poza to o krok. Tu potrzebny jest człowiek. Dalej, większość wcześniejszych AI po kontakcie z człowiekiem zaraz robiło się niepoprawne politycznie, rasistowskie itd. I musieli zakładać (nieskuteczne) blokady. Bo AI przetwarza dane, nie potrafi "myśleć" abstrakcyjnie. I po to jest programista

@SzwagierPrezydenta dokładnie, pytanie ile pracy to nowa praca, a ile rozwiązywanie problemów, które już ktoś rozwiązał.