AI zaczyna być używane w wyłapywaniu ofensywnych treści w internecie [eng]

W niniejszym raporcie zbadano rolę sztucznej inteligencji (AI) w moderowaniu treści w mediach społecznościowych. Obejmuje: (1) dlaczego sztuczna inteligencja będzie prawdopodobnie odgrywać coraz większą rolę w moderowaniu wypowiedzi w Internecie, (2) dlaczego nawet osoby z minimalistycznym zestawem założeń wyjściowych nie będą w stanie uniknąć angażowania się w moderację oraz wszystkich wyzwań i kompromisów, które się z tym wiążą poniżej, (3) kilka przykładów roli, jaką sztuczna inteligencja może odegrać w procesie moderacji, oraz niektóre kompromisy wynikające z każdego rodzaju zastosowania oraz (4) dlaczego oczekiwanie zbyt wiele od sztucznej inteligencji lub nieuwzględnianie jej głównych niedociągnięć będzie prowadzić do ciągłego rozczarowania i większej niesprawiedliwości. Wykorzystanie sztucznej inteligencji w moderowaniu treści online: czyli sektor technologiczny zainwestował w automatyzację, a ja dostałem tylko to wątpliwe orzeczenie

W marcu 2021 r. podczas jednego z wielu przesłuchań w Kongresie w mediach społecznościowych Mark Zuckerberg, dyrektor generalny Facebooka (obecnie Meta), poinformował:

Ponad 95% mowy nienawiści, którą usuwamy, jest generowana przez sztuczną inteligencję, a nie przez osobę. . . . Myślę też, że 98–99% treści o charakterze terrorystycznym, które usuwamy, jest identyfikowanych przez sztuczną inteligencję, a nie osobę.

To brzmi jak wysokie wartości procentowe. Od jakiegoś czasu firmy technologiczne wskazują na sztuczną inteligencję (AI) jako rozwiązanie, które jest dostępne tuż za rogiem i pozwala na moderację treści. (Szczerze mówiąc, niektórzy organy regulacyjne pytają: „Czy już na miejscu?” również od jakiegoś czasu.) Potem nagle – przynajmniej szybciej, niż się spodziewałem – te magiczne roboty najwyraźniej całkiem nieźle poradziły sobie z klasyfikacją kaprysów ludzkiej ekspresji . Więc . . . problem rozwiązany? Czy po prostu powitamy erę Pax Machina i wrócimy do publikowania memów o kotach i szylingów alt coinów?

Cóż, najpierw cofnijmy się. Dlaczego używamy sztucznej inteligencji do podejmowania decyzji dotyczących ekspresji online? Dlaczego mielibyśmy delegować coś tak ważnego nieludziom? Do czego dokładnie go używamy? Jak dobry jest w tym? Skąd mamy wiedzieć, czy jest w tym dobry? Jak dobre jest wystarczająco dobre? Co się stanie, jeśli okaże się, że jest w tym mniej dobry, niż się spodziewaliśmy?

Krótka odpowiedź na pytanie „dlaczego sztuczna inteligencja” to skala – zwykły, niekończący się ogrom wypowiedzi w Internecie. Skala jest głównym motorem platform internetowych, przynajmniej w ich obecnej, opartej głównie na reklamach formie, a być może we wszystkich wcieleniach. Nie da się zinternalizować dynamiki prowadzenia platformy cyfrowej bez spędzenia najpierw trochę czasu na siedzeniu i medytacji nad oszałamiającą, wzniosłą ilością przemówień, o których mówimy: 500 milionów tweetów dziennie przekłada się na 200 miliardów tweetów każdego roku.2 Więcej na Instagram przesłano ponad 50 miliardów zdjęć3. Codziennie do YouTube przesyłanych jest ponad 700 000 godzin filmów4. Mógłbym wymieniać dalej. Wyrażenia, które wcześniej były efemeryczne lub miały ograniczony zasięg w świetle istniejących praw natury i ekonomii publikacji przed erą cyfrową, mogą teraz rozprzestrzeniać się i rozprzestrzeniać po całym świecie. Okazuje się, że jeśli mamy szansę, bardzo lubimy słuchać siebie rozmawiających.

Nie powinno to dziwić, ponieważ większość z nas (ci bez pras drukarskich, felietonów i sekretarzy prasowych) czekała przez większość historii bez dostępu do szerokiej, taniej i nieefemerycznej dystrybucji i miała wiele do powiedzenia. W porównaniu z poprzednimi opcjami, takimi jak napisanie mocno sformułowanego listu do redakcji lub zakup billboardów, jest to świetny czas, aby ludzie komunikowali się z innymi i próbowali zyskać dzięki temu reputację lub zapłatę za pracę. Jeśli jesteś fanem obszernej i różnorodnej wypowiedzi – zwłaszcza w wykonaniu osób, które wcześniej nie miały dostępu do szerokich kanałów dystrybucji – to jest to wygrana (która niosła ze sobą nowe niebezpieczeństwa, takie jak doxing, swatting i ogólne nękanie, które nie są zwycięstwem).

Biorąc pod uwagę niedawną obsesję na punkcie mediów społecznościowych i związane z nimi szkody, łatwo zapomnieć, jak wszystko wyglądało wcześniej. Nawet w obliczu brodawek era platform cyfrowych przyniosła głęboko wyrównującą zmianę w komunikacji (zbudowaną, co prawda, na niezrównanej zmianie w zakresie nadzoru i nękania). Internet to wieczna godzina amatorstwa w najlepszy i najgorszy sposób, a konsekwencje tego, jeśli chodzi o dowiadywanie się więcej o sobie i innych, są wciąż zdumiewające (chociaż nikt z nas może nigdy nie wiedzieć tyle, co firmy i rządy, które śledzą i przechowuj dane). Ale jednocześnie: 500 milionów tweetów i 720 000 godzin filmów dziennie? Tak duża zmiana charakteru i dynamiki ludzkiej komunikacji będzie miała wiele fal poważnych skutków.

Tak więc od ponad dekady mamy problem z wyrażaniem siebie. Więc co? Dlaczego ktoś miałby chcieć to zrujnować moderacją treści, niezależnie od tego, czy robi to sztuczna inteligencja, czy tylko ludzie? Dlaczego nie świętować tego, co mamy i pozwolić ludziom, rynkowi lub Bogu to uporządkować? Każdy czytelnik może zastosować swój rozum do tego, co czyta i widzi, oraz być tolerancyjny wobec rzeczy, z którymi się nie zgadza, ludzie będą grubą skórą na niemiłe słowa, a niewidzialne rury skierują dopływ mądrych myśli tam, gdzie istnieje odpowiedni popyt. Żadnych bogów, żadnych moderatorów. Tylko nielegalne rzeczy

google translate

Możecie przestać używać tych anglicyzmów? Zamiast słowa "ofensywny" można użyć polskiego słowa "obraźliwy". Dziękuję.

"zaczyna"