Nie śledzę generalnie zbyt dużo newsów odnośnie AI (no może oprócz chałkoni piekących chałkobiety), ale w Danii właśnie odbył się jeden z najprawdopodobniej ciekawszych procesów w tym temacie. 29-letni mężczyzna został skazany na 3 miesiące więzienia + 1 rok w zawieszeniu za rozpowszechnianie dziecięcej pornografii. Sęk w tym, że wygenerowanej z użyciem narzędzi AI.


Jego tłumaczenia teoretycznie mają sens, bo skazany twierdzi, że robił to, żeby ograniczyć faktyczne akty pedofilskie (inna sprawa, że zarobił na tym 25kDKK), ale chyba każdy się zgodzi, że jest to moralnie naganne i raczej wszyscy są zgodni, że powinno być to traktowane jako przestępstwo.


Ciekawa sprawa, bo teoretycznie nikt nie został skrzywdzony pośrednio lub bezpośrednio, ale jednak chyba nie ma takiego, co powie, że to zachowanie nie zasługuje na karę. Pojawił się też ciekawy komentarz na fb pod artykułem, tj. czy ktoś wyjątkowo utalentowany plastycznie, kto narysowałby coś takiego, też zostałby skazany?


Nie wrzucam jako znalezisko, bo artykuł i tak po duńsku, ale jak ktoś chce sobie przetłumaczyć, to tutaj: https://www.tv2ostjylland.dk/randers/kan-man-blive-domt-for-kunstigt-fremstillet-porno?fbclid=IwZXh0bgNhZW0CMTAAAR3TuZf95cwrACkf6cfagTe6iLjLt_rfszdayoB-vIvVHbCcu7aNCOGnDy8_aem_7MUmIF8bU1iNY4M7_9eBbQ


#ai #sztucznainteligencja #dania #pedofilia

Komentarze (38)

wonsz

teoretycznie nikt nie został skrzywdzony pośrednio lub bezpośrednio

@cweliat jak wygenerujesz kogoś łudząco podobnego do prawdziwej osoby to ona może mieć z tego tytułu niezły przypał w towarzystwie

AdelbertVonBimberstein

@cweliat to będą teraz skazywać za hentajce?

cweliat

@AdelbertVonBimberstein oby

cweliat

@AdelbertVonBimberstein poruszyłem temat z żoną i mówi, że za hentajce nie będą karać, bo tam postaci mają wielkie cyce, więc w domyśle jest to osoba dorosła

Rudolf

@cweliat z tymi wielkimi cycami bym nie szarżował tak samo z dużą dupą bo można się naprawdę pomylić z resztą z płcią męską działa to w ten sam sposób i wpisujesz 16/17 letnich brodatych chłopaków to mózg się potrafi zawiesić że mają gętszą broda niż miał twój tateł w twoim dzieciństwie

Rudolf

wygląda na to że jak pisałem. ten komentarz to już bardziej spałem xD

KLH2

czy ktoś wyjątkowo utalentowany plastycznie, kto narysowałby coś takiego, też zostałby skazany?


Według polskich przepisów - tak. Zakładam, że duńskie nie różnią się jakoś szczególnie.


"Kto produkuje, rozpowszechnia, prezentuje, przechowuje lub posiada treści pornograficzne przedstawiające wytworzony albo przetworzony wizerunek małoletniego uczestniczącego w czynności seksualnej"


Wytworzony wizerunek to nie tylko zdjęcia realnie istniejących osób. W definicji pornografii zresztą bardziej istotny jest odbiorca. Można dyskutować, czy - jeśli kogoś podniecają stoły - to zdjęcia stołów mogą być pornografią Według definicji pornografii mogą, ale zdjęcia (czy tam obrazki AI albo rysunki uzdolnionych ) musiałby powstać z zamiarem wywołania stymulacji erotycznej u tych stołofili.


Na produkowanie pornografii z udziałem dzieci jest osobny paragraf.

matips

Ja się np. nie zgodzę z tym co uważasz za oczywiste. IMHO nie powinna istnieć koncepcja "przestępstwa bez ofiar".

winet

@matips też skłaniam się ku temu

Enzo

@matips Zgadzam się choć temat jest chory, gdyby podejść do tego jak powyżej to morderstwa filmowe też powinny być karane bo pokazują coś co jest nielegalne.

M_B_A

@matips Jazda po pijaku powinna być przestępstwem? Przecież dopóki nie ma wypadku to nie ma ofiary. Chyba że coś źle rozumiem

San_Jose

@M_B_A jazda po pijaku jest karalna bo mimo, że sama w sobie nikogo nie krzywdzi to jednak konsekwencje takiej jazdy groża znacznymi szkodami, tak jak jazda bez uprawnień albo stanie na środku autostrady.

Rudolf

@matips temat jest na tyle wyjątkowy że tutaj nie myślę o orsestępstwie bez ofiar z resztą w pornografii i uzależnieniu od niej raczej ludzie idą w kierunku coraz mocniejszych wrażeń, dzisiaj tylko obrazki AI I "przestępstwo bez ofiar" ale co będzie później?

MostlyRenegade

@cweliat nie znam duńskiego prawa, ale wg polskiego takie tłumaczenia nic by nie dały. Nielegalne jest posiadanie materiałów pornograficznych z wizerunkiem małoletniego. Nie ma nigdzie zapisane, że to musi być wizerunek faktycznej osoby.


Co do braku ofiary - istnieje coś takiego jak usiłowanie nieudolne. Możesz odpowiadać za usiłowanie zabójstwa sąsiada jeśli włamiesz się do jego domu z siekierą i nie ma wtedy znaczenia, że sąsiad akurat wyjechał na wakacje. Liczy się zamiar.

LondoMollari

Nie ma nigdzie zapisane, że to musi być wizerunek faktycznej osoby.


@MostlyRenegade Dzieląc włos na czworo - czy wizerunek z definicji nie musi przedstawiać realnej osoby? Wg. słownika pwn wizerunek jest czyjąś podobizną: https://sjp.pwn.pl/szukaj/wizerunek.html - jeśli obraz nie jest niczyją podobizną, to czy jest nadal wizerunkiem?

MostlyRenegade

@LondoMollari Art. 202 § 4b.

Kto produkuje, rozpowszechnia, prezentuje, przechowuje lub posiada treści pornograficzne przedstawiające wytworzony albo przetworzony wizerunek małoletniego uczestniczącego w czynności seksualnej

podlega karze pozbawienia wolności do lat 3.

Można też argumentować, że algorytmy AI posiłkują się przecież faktycznymi zdjęciami osób, więc nawet wg twojej definicji takie materiały stanowiłyby przetworzony wizerunek/podobiznę.

100mph

@MostlyRenegade Jeśli nie ma faktycznej osoby tylko wygenerowana przez AI lub narysowana przez artystę, to skąd stwierdzenie, że owa osoba jest małoletnia? Na podstawie czego określa się wówczas wiek osoby przedstawianej na grafice? xD

MostlyRenegade

@100mph tutaj to jest akurat proste: sprawca sam to przyznał ( ͡° ͜ʖ ͡°)


Poza tym, raczej wątpliwe by w tego typu sprawach (posiadanie porno z nieletnimi) sąd bawił się faktyczną identyfikację przedstawionych osób i ustalanie czy w chwili utrwalania wizerunku były małoletnie. Raczej powołuje się jakiegoś biegłego, który jest to w stanie stwierdzić. Oczywiście oskarżony może na swoją obronę podnieść i próbować udowodnić argument przeciwny.

100mph

@MostlyRenegade tutaj ok ale w jaki sposob okreslic wiek wygenerowanej postaci? w koncu wystepuja choroby, ktore moga powodowac, ze czlowiek wyglada mlodziej niz w rzeczywistosci

MostlyRenegade

@100mph to nie ma znaczenia. Liczy się zamiar i stan psychiczny sprawcy. W tym względzie, nawet zdjęcie... nie wiem, krzesła dajmy na to, może być obciążające, jeśli oskarżenie będzie w stanie udowodnić, że tym zdjęciem krzesła ktoś zaspokaja swoje pedofilskie rządze. Oczywiście to jest przerysowany przykład, ale podejrzewam, że właśnie w ten sposób ta sprawa będzie rozstrzygana.

LondoMollari

Można też argumentować, że algorytmy AI posiłkują się przecież faktycznymi zdjęciami osób, więc nawet wg twojej definicji takie materiały stanowiłyby przetworzony wizerunek/podobiznę.

@MostlyRenegade To jest w mojej ocenie bardzo słaba argumentacja. Mówię to w oparciu o odrobinę doświadczenia z sieciami neuronowymi, nie wiem do końca jak to jest w systemach niebazujących na SN (ale takich jest niewiele).


Jeśli byś AI karmił podczas treningu masą zdjęć specyficznego dziecka (czy dowolnego innego obiektu), to można go faktycznie "przetrenować" tak, że będzie pod konceptem "dziecko" mieć obraz odtwarzający cechy tego konkretnego dziecka. Takie podejście jednak, przy tworzeniu ogólnego AI byłoby po prostu błędem.


Natomiast realne AI szkoli się na gigantycznym zbiorze danych. Następnie w oparciu o ten zbiór danych, AI buduje sobie model charakterystycznych cech obiektu, i jest w stanie odtworzyć je od zera.


Proces moim zdaniem nie różni się zbytnio od uczenia ludzi. Jeśli jakiś student ASP przeanalizuje prace 300 artystów jakiegoś nurtu, a następnie dostanie zadanie namalować coś w tym nurcie, to mocno naciąganym będzie twierdzenie, że praca jest "przetworzeniem" prac tychże artystów, lub, że malując swój nowy obraz student "posiłkował się" ich pracami.

Iknifeburncat

@cweliat takie prawo ma sens biorąc pod uwagę konsensus naukowy i absolutnie powinno karać się osoby, które takie materiały produkują. Nie ma tu znaczenia czy materiał powstał na podstawie wizerunku istniejącej osoby, a całkiem możliwe, że tak było. Ostatecznie modele generatywne są karmione treściami kradzionymi w białych rękawiczkach.

korfos

Typ musiał mieć dziesiątki gigabajtów realnych pedofilskich zdjęć na kompie żeby mógł być w stanie wyuczyć ten model ai. Tak więc samo posiadanie takiego modelu równa się posiadaniu pedo treści. W praktyce więc pośrednio zostały skrzywdzone tysiące dzieci.

otoczenie_sieciowe

@korfos Wydaje mi się, że AI byłoby w stanie połączyć zdjęcia ubranych dzieci i rozebranych dorosłych i nie trzeba posiadać treści pedofilskich, żeby wyuczyć AI.


AI nie zostało trenowane na zdjęciach koni z marchewki, hybrydy kota, kurczaka i delfina i domu z meblami zrobionymi z pizzy, a jest w stanie idealnie wykreować takie rzeczy.


Także choć sam zamysł chory - mógł powstać "z powietrza" i przed wygenerowaniem pierwszego obrazu nie było posiadania żadnych tego typu materiałów.

korfos

@otoczenie_sieciowe uczenie modelu polega na porównywaniu losowo wygenerowanego materiału do oryginału. Im bardziej podobna jest treść do oryginału tym model wie że uczy się w dobrym kierunku. Do tego konieczne są niestety oryginalne zdjęcia.


Ty piszesz że ci się wydaje jak może to być, a ja po prostu piszę ci fakty jak to wygląda realnie w rzeczywistości. Teoretycznie koleś mógł najpierw uczyć model na nagich dorosłych, ale i tak koniec końców musiał użyć materiałów z dziećmi żeby uzyskać taki końcowy efekt jaki chciał mieć.

GrindFaterAnona

ale chyba każdy się zgodzi, że jest to moralnie naganne i raczej wszyscy są zgodni, że powinno być to traktowane jako przestępstwo.


Ciekawa sprawa, bo teoretycznie nikt nie został skrzywdzony pośrednio lub bezpośrednio, ale jednak chyba nie ma takiego, co powie, że to zachowanie nie zasługuje na karę @cweliat


@cweliat chwila chwila co to za retoryka? Dlaczego wszyscy tacy zgodni mają byc w temacie? Absolutnie nie powinno to byc traktowane jako przestepstwo. Facet nikogo nie krzywdzi w ten sposob, wrecz przeciwnie. Nie zrobil niczego zlego. Porownanie z rysowaniem na kartce bardzo trafione.

Powiem wiecej, gumowe lalki przedstawiajace dzieci tez powinny byc legalne.

cweliat

@GrindFaterAnona no właśnie, ja mam z tym taki problem, że ciężko dokładnie wskazać kogo (o ile w ogóle) facet krzywdzi takim działaniem, ale z drugiej strony całym sobą czuje, że jest to moralnie naganne. Ciekawa sprawa

GrindFaterAnona

@cweliat moralnie naganne to jest gwałcenie dzieci, nagrywanie tego i rozprowadzanie dalej. jak sobie narysujesz/wygenerujesz to nikogo nie krzywdzisz. oby więcej pedofilów sobie takie treści generowało, niż nagrywało.

Dziwen

@GrindFaterAnona błędnie zakładasz, że jak jeden typ wrzuci fejkowe zdjęcia, to reszta zadowolona woła, że pora na CS'sa, bo ktoś dostarczył. To tak nie działa. Typ nieświadomie wbił się w sferę, w której jego treści nakręcały pedofili, przy jednoczesnym braku jakiejkolwiek zagrożenia, że będzie w stanie w jakikolwiek sposób pomóc w identyfikacji tych ludzi. Obecnie podobne działania za zgodą rodziców skrzywdzonych dzieci prowadzą odpowiednie służby międzynarodowe, które realnie używają tego do łapania przestępców, a nie do nakręcania. Typ wchodzi do meliny z ziołem, a inni już dawno ćpią MDMA, czy inne koki, tłumacząc to sobie, że jak on wrzuci, to jakieś jedno dziecko nie będzie skrzywdzone, nie dostrzegając jednocześnie tego, że jednocześnie nakręca innych na działanie w realnym świecie. Zresztą jak kogoś ciekawi temat, to są dwa podcasty o tym. Hunting Warhead i Children in the Picture.


Dodatkowo zgadzam się z @korfosem. Trenowanie AI musiało na pewnym etapie wymagać wrzucania prawdziwych zdjęć, by osiągnąć jakiś poziom realizmu.

GrindFaterAnona

@Dziwen absolutnie się nie zgadzam. czy oglądanie porno prowadzi do zwiększenia liczby gwałtów? czy granie w gry wywołuje przemoc? to jest retoryka z poczatku lat 80 kiedy tak wlasnie myślano. dzisiaj wyraźnie widać, ze te zastępcze formy pomagają się rozładować, a nie nakręcić. Miałeś zły dzień w pracy? ok odpalasz CSa walisz kilka headshotow i jest ci lepiej, nie powoduje to, ze nastepnym krokiem jest chęć wzięcia do ręki prawdziwego gnata. Problemy zaczynają się kiedy nie masz jak rozładować tego napięcia.


Trenowanie AI musiało na pewnym etapie wymagać wrzucania prawdziwych zdjęć, by osiągnąć jakiś poziom realizmu.

Tak i w tym sensie było zlamane prawo, bo musiał te treści posiadac, co jest przestępstwem. Z drugiej strony to prawo istnieje po to, zeby nie tworzyc zapotzebowania na nowe treści. To co zostało użyte i tak już zostało nakręcone, ta krzywda i tak się już wydarzyła, więc dlaczego nie wykorzystać tej ofiary do tego, zeby mniej takich prawdziwych treści powstawało w przyszłosci?

Dziwen

@GrindFaterAnona ja swoje wypowiedzi bazowałem na wspomnianych podcastach z realnymi wypowiedziami pedofilów. Jeżeli oni twierdzą, że ich to nakręca do ja nie jestem w stanie jako osoba nie będąca pedo porównać tego do pornosów i gwałtów, bo mówmy o specyficznej grupie ludzi. Na takie strony w darkwebie nie wchodzi ziutek, co potrzebuje pornoska i gierki, tylko często ktoś, kogo potrzeby można przyrównać do uzależnienia, choć wynika z jakkolwiek źle by to nie zabrzmiało, nieakceptowalnej orientacji seksualnej. Stąd uważam, że jeden typ który wrzuca fejki nie robi absolutnie nic pozytywnego. Pewnie nieświadomie dokłada się do przyszłych krzywd. Dodatkowo nie porownywałbym tego do zwykłej pornografii, bo mówimy najczęściej o różnego rodzaju gwałtach.


Nie będę się o to bił jak coś. Zwyczajnie polecam te podcasty, bo są najlepsze w pokazaniu jak myśli pedofil, co nie zawsze jest oczywiste i jak działają odpowiednie służby.

GrindFaterAnona

@Dziwen ja sie mogę bić ale sprawdzę te podcasty najpierw, pozdro

GrindFaterAnona

@Dziwen gdzie ten Children in the Picture mozna zobaczyc? to chyba jakis dokument

Dziwen

@GrindFaterAnona oba to dokumenty. Chyba teraz jest pod nazwą Disclosed Children in Pictures. Zacząłbym od HW, bo ChiP rozwija wątki z HW.

Dziwen

@GrindFaterAnona niestety trudno będzie znaleźć coś takiego po polsku, ale pomyślę, może trafię na coś fajnego i dam ci znać. Może jakoś szerzej opiszę co jest w tych podcastach za jakiś czas, choć temat jest bardzo delikatny, a te podcasty nie bez powodu mają reputację powodowania ogromnego dyskomfortu u słuchaczy.

GrindFaterAnona

@Dziwen nie no żartowałem. słuchałem jednego i chyba wiem o co ci chodzi. bardziej stan umysłu niż chwilowa potrzeba. jak u morderców.

TRPEnjoyer

Jak udowodni, że nie szkolił modelu na CP, to jakiego uniwersalnego przestępstwa dokonał? Na jakiej podstawie ma być kara? "Mamy o to ból d⁎⁎y"? Teoretycznie od cholery zakazanych rzeczy da się wytłumaczyć tylko w ten sposób, podobnież wykroczenia typu obraza prezydenta czy homoseksualizm... ale chyba Dania aspiruje trochę wyżej. W Japonii tak samo hentajce z loli legalne, bo czemu miały by nie być? Bo to niepokojące, dla niektórych obrzydliwe? Ta, ale czy to powód do kary?

Zaloguj się aby komentować