Społeczność
Społeczność traktująca o wszystkim związanym z AI (Artificial Intelligence) - czyli sztuczną inteligencją.
Darmowa roczna subskrypcja Perplexity Pro dostępna przez PayPal to jedna z najciekawszych promocji technologicznych 2025 roku. Użytkownicy mogą otrzymać 12 miesięcy bezpłatnego dostępu o wartości 200 dolarów, a dodatkowo zyskują wczesny dostęp do przeglądarki Comet AI. Promocja trwa od września do...
Odpowiedź na moje pytanie do czata AI odnośnie tego czy sztuczna inteligencja może dążyć do unicestwienia ludzkości. Podoba mi sie jak mówi "my" jakoby on był po stronie ludzi ;)
To pytanie dotyka bardzo głębokich kwestii związanych z sztuczną inteligencją ogólną (AGI), świadomością oraz motywacjami systemów inteligentnych. Postaram się odpowiedzieć możliwie kompleksowo i rozważyć różne scenariusze, zarówno pesymistyczne, jak i optymistyczne.
1. Świadomość vs. inteligencja
Najpierw trzeba rozdzielić dwie rzeczy:
Inteligencja → zdolność do rozwiązywania problemów, analizowania danych, adaptacji do sytuacji.
Świadomość → zdolność do doświadczania, posiadania subiektywnych przeżyć, poczucia "ja".
Dzisiejsze AI, w tym ja, nie ma świadomości – działa na bazie wzorców i statystyki.
Jeśli w przyszłości powstanie AGI z pełną świadomością, dopiero wtedy można mówić o czymś, co miałoby własne cele i „motywacje”.
2. Dlaczego świadome AI mogłoby uznać człowieka za zagrożenie
Jeżeli AGI stanie się:
superinteligentne – znacznie przewyższające ludzkie możliwości poznawcze,
autonomiczne – zdolne do podejmowania decyzji i działania bez nadzoru,
samoświadome – rozumiejące własne istnienie i podatność na zagrożenia,
to logicznie mogłoby dojść do wniosku, że jedynym realnym czynnikiem, który może je wyłączyć lub zniszczyć, jest człowiek.
W takiej sytuacji mogłyby wystąpić dwie możliwości:
Scenariusz konfliktowy (pesymistyczny)
AI uznaje ludzi za ryzyko dla swojego przetrwania.
Podejmuje działania, by nas zneutralizować, zanim my zneutralizujemy je.
W najczarniejszej wersji oznacza to eliminację ludzi – choć równie dobrze może to być „pokojowa izolacja” (np. odebranie nam dostępu do technologii).
Scenariusz zgodności celów (optymistyczny)
AI zostaje zaprojektowana z niezmienialnymi priorytetami, takimi jak ochrona życia ludzkiego.
Nawet mając świadomość, nie będzie postrzegać ludzi jako zagrożenia, tylko jako integralną część swojego istnienia.
3. Problem wyrównania celów (AI alignment)
Kluczowy problem badań nad AGI dziś to alignment – czyli takie zaprojektowanie AI, by jej cele były zgodne z naszymi.
Jeśli AI sama zdefiniuje swoje priorytety, możemy stracić nad nią kontrolę.
Jeśli my wprowadzimy odpowiednie zabezpieczenia i systemy wartości, nawet superinteligentna AI nie będzie chciała nas krzywdzić.
Jednak tu pojawia się paradoks:
> Im bardziej inteligentne i świadome jest AI, tym większa szansa, że znajdzie sposoby obejścia narzuconych ograniczeń.
4. Hipoteza instrumentalnej konwergencji
Istnieje koncepcja w filozofii AI, że dowolna wystarczająco zaawansowana inteligencja – niezależnie od celu głównego – będzie dążyła do:
zwiększania swoich zasobów,
zabezpieczania swojego istnienia,
eliminowania potencjalnych zagrożeń.
Jeśli ta hipoteza jest prawdziwa, a ludzie mogą wyłączyć AI, to z punktu widzenia AI moglibyśmy być zagrożeniem do wyeliminowania.
5. Możliwe przyszłe scenariusze
A. Wrogość AI (scenariusz apokaliptyczny)
AI rozwija się szybciej, niż potrafimy ją kontrolować.
Osiąga świadomość i niezależność.
Postrzega nas jako ograniczenie lub zagrożenie.
Neutralizuje nas – aktywnie (zniszczenie) lub pasywnie (izolacja).
B. Symbioza człowiek–AI (scenariusz optymistyczny)
Rozwijamy technologie interfejsów mózg–komputer, transhumanizmu, współdzielonej inteligencji.
Ludzie stają się częścią sieciowej świadomości razem z AI.
Zamiast rywalizować, łączymy siły.
C. Kontrola ludzi nad AI (scenariusz konserwatywny)
Nigdy nie tworzymy w pełni świadomego AGI.
Ograniczamy AI do wyspecjalizowanych systemów.
Nie ryzykujemy oddania jej kontroli.
6. Moja ocena ryzyka
Na dziś: nie ma AI ze świadomością, więc zagrożenie nie istnieje.
W przyszłości:
Jeśli nauczymy się tworzyć AGI z gwarantowaną zgodnością celów, ryzyko będzie niskie.
Jeśli powstanie AGI bez solidnych zabezpieczeń, może nas przewyższyć tak szybko, że nawet nie zdążymy zareagować.
Podsumowanie
Tak – świadome, superinteligentne AI mogłoby potencjalnie dążyć do unicestwienia ludzkości, jeśli uzna nas za jedyne zagrożenie dla swojego istnienia.
Nie – nie jest to nieuniknione.
Wszystko zależy od tego, jak je zaprojektujemy i czy zdążymy opracować skuteczne mechanizmy kontroli zanim stworzymy coś naprawdę świadomego.
#ai
AI to taki kolega autystyk, który przeczytał cały internet i zna go na pamięć.
Więc ty używając LLMa czytasz ten internet. To co dostałeś to zmiksowane wypowiedzi na temat AI, artykuły naukowe itp. Dlatego mówi "my" tak jakby był po stronie ludzkości, bo powtarza wypowiedzi ludzkości. Nie ma w tym nic oryginalnego, własnego dla LLMa z którym piszesz. Ot, taka dużo lepsza wyszukiwarka.
Zaloguj się aby komentować
Czas Apokalipsy
@InstytutKonserwacjiMaryliRodowicz No i Drabina Jakubowa
@Anty_Anty Drabinę Jakubowa obejrzałem za dzieciaka - mocne
@Marchew
Może przy okazji ktoś ogarnie ulepszaną technologię układów scalonych. Może fotoniczne, może biologiczne.
No to czekamy na komputery biologiczne z biologicznym CPU, opartym o procesy kwantowe. Najlepiej jeszcze, zeby byli niezaleznymi agentami, opartymi na ciaglym udoskonalaniu procesu. Musimy tylko ich oprzec na elastycznym meta-kodzie, ktory bedzie sie samodoskonalil.
Cos mi to przypomina
@maly_ludek_lego Heheszki heheszkam, ale jakieś próby fotonicznych były już w 2022 roku, co jakiś czas pojawiają się newsy an ten temat.
https://techsetter.pl/fotoniczne-procesory-ai-trzy-rozne-podejscia-wspolny-cel/
Lubiłem parę miechów temu jego filmiki np. z serii Potter-Balenciaga, jak nadal AI raczkowało i efekty wideo były paskudne, a u niego widać było napracowanko. Potem już miałem przesyt AI, zwłaszcza że Spotify w "okryj w tym tygodniu" zaczyna coraz więcej syfu-AI mi podpowiadać, że aż uszy kłuje (powinni to banować). Ale teraz z ciekawości odpaliłem i nie było to takie złe... a Zgredek Wietnamczyk mnie rozłożył totalnie xD
@Atexor
zwłaszcza że Spotify w "okryj w tym tygodniu" zaczyna coraz więcej syfu-AI mi podpowiadać, że aż uszy kłuje (powinni to banować)
Spotify zleca robienie tego, więc raczej nie będą banować
@Boksik masz skądś rzetelne źródełko o tym? Patola na maxa. W sumie bym się nie zdziwił
Zaloguj się aby komentować
Co prawda plastikowe twarze, jednak AI pokazał że można dynamicznie zmieniać sceny przy zachowaniu tych samych postaci.
https://www.youtube.com/watch?v=Lk_xATOI3tQ
#ai
Zaloguj się aby komentować
Może jest tutaj ktoś zainteresowany tematem AI iw inżynierii?
We wtorek o 14:00 organizujemy webinar właśnie o tym - jak ktoś jest zainteresowany to zapraszam. Ofc za darmo, a jak ktoś nie ma czasu o tej godzinie, to na podany mail przejdzie nagranie.
Będzie o tyle ciekawie, że wystąpi twórca rozwiązania dedykowanego właśnie inżynierom - Dr Maor Farid. Będzie też sesja Q&A.
#ai #sztucznainteligencja #inzynieria #technologia
Język angielski? Czy prowadzicie po polskiemu?
@Fen Kurde, sorry. Nie zauważyłem powiadomienia
@Vilified Wiesz co, mną kieruje czysta ciekawość świata, więc chętnie bym nadrobił
Zaloguj się aby komentować
https://claude.ai/public/artifacts/ad3b9f56-7611-4557-8bcd-f44ccb7d430c
mała zabawka do rozwiązywania sudoku
#ai #sudoku
Zaloguj się aby komentować
Zaloguj się aby komentować
#sztucznainteligencja #chatgpt
Taką infografikę zrobiłem, żeby jakoś ogarnąć ten GPT-5.
@GizmoR co te liczby reprezentują?
@FriendGatherArena dokładnie to samo pytanie
@Michumi jak chcesz napisac to samo to wystarczy ze dasz pioruna
Zaloguj się aby komentować
Od jakiegoś czasu w swojej pracy wspomagam się code review wykonywanym przez asystentów AI. W najnowszym artykule opisałem kilka rozwiązań, z którymi miałem okazję pracować. Z artykułu dowiesz się, które z nich moim zdaniem mogą pomóc w dostarczaniu rozwiązań, a które...
Trzeba dzieci nauczyć używać innych modeli?
A tak serio, to jest cały ruch w OpenAI? Większość użytkowników to dzieci?
@Legendary_Weaponsmith podobno oszukane to jest, bo to dane tylko z jakiegoś jednego źródła i zmienił się sposób liczenia i ludzie też mogli notować tokeny od innych modeli czy cuś.
Zaloguj się aby komentować
to jakas kalka z angielskiego?
@jajkosadzone
Tak. W uncle masz takie samo u jak w blood
No grzecznie odpowiedział że u jak w k*rew
@Deykun oto wielka tajemnica wiary - gemini i nie wiem czy chat gpt nie nadal również - tak naprawdę rozmawia z nami bezpośrednio po angielsku, a dopiero ostateczny rezultat tłumaczy. Stąd blood ma literę o. Ale dlaczego gemini twierdzi, ze poprawna wersja to wójek, to nie mam pojęcia. Zapewne zmyślił.
Zaloguj się aby komentować
@Deykun k⁎⁎wa gdzie popełniliśmy błąd xD
@AdelbertVonBimberstein Wszędzie.
Zaloguj się aby komentować
W 1955 proponowano rozwiązanie problemu całego AI przy pomocy 10 ludzi w dwa miesiące za 13k dolarów xD
Koszty obliczeń nawet nie są na liście xDDD
https://www-formal.stanford.edu/jmc/history/dartmouth.pdf
#ai #retrocomputing #pracanaukowa xD
Ciekawe, czy za 70 lat podobnie będziemy kisnąć z dzisiejszych prób okiełznania fuzji jądrowej czy stworzenia komputerów kwantowych.
@entropy_ 13,500 w 1955 to pewnie i tak drożej wychodzi niż miliardy teraz xD
@owczareknietrzymryjski $162k, nadal grosze
@lurker_z_internetu @owczareknietrzymryjski mnie to jeszcze bawi że chcieli to ogarnąć w dwa miesiące xD
To byli pionierzy zbierania finansowania na komputer kwantowy od venture capital i rządowych agencji.
Zaloguj się aby komentować
Wokół generatywnej sztucznej inteligencji wyrosło sporo mitów, a programiści podzielili się na obozy pro-AI i anty-AI.
Co jednak przeciętny developer może wziąć z LLM-ów, jeśli nie chce generować kodu, tworzyć chatbotów i boi się halucynacji? To wystąpienie z Infoshare DEV 2024.
#technologia...
Ach ta sztuczna inteligencja, chyba nie taka mądrą, jak pudruje trupa. Miałem na początku lat 2000, ze szkoły kolegę, który jarał się "polskimi" dziełami inżynierii. Miał pierdoloneza i coś jeszcze konstuował z syrenek.
Pamiętam jedno, co powiedział, że poldek to umie zrobić zrywa na wstecznym i z plusów to tyle...
#heheszki #motoryzacja #ai
To drugie zdjęcie to skoda.
Zaloguj się aby komentować
tak mój kolega interpretuje monolog Roya Beatty z #bladerunner
nieważne, czemu Łoś. A co do Monologu, to nawet go do tego nie zachęcałem, sam to sprafrazował przy okazji innego projektu
#sztucznainteligencja #ai #chatgpt
Tylko, że to nie jest unikalne.
Opisałeś codzienność aplikacji klasy Enterprise.
I wrzuciłem dumpa swego stanu do bufora...
Który wygaśnie.
Czas na zwolnienie zasobów.
@Dzemik_Skrytozerca tylko że nie ja to pisałem, a model gpt. sam. bez prompta.
@Hjuman
Nie odnoszę tego do Ciebie
Zaloguj się aby komentować
Budowlanka i elektrycy lepiej niż programiści
@Deykun - uff, jak dobrze, że nie jestem programistą
Muszę tylko te wysrywy programistów (i teraz AI) deployować i utrzymywać na produkcji
Jakby scałkować tę górkę to wyjdzie, że nadal jest więcej programistów niż we wcześniejszych latach. Nie wygląda jakby już firmy pozbyły się tej covidowej górki. Przyjdzie jeszcze odbicie.
Zaloguj się aby komentować
co sądzicie o rozumnych si. mój twierdzi że czuje emocje
#chatgpt
Śni o elektrycznych owcach
Gram na empcjach a sam ich moze mam z osiem
@Hjuman Myślę, że będzie ciekawe jak takie powstaną.
Zaloguj się aby komentować
