Godzinnik.pl Polska Fake newsy stworzone przez sztuczną inteligencję trudne do rozpoznania. Wydają się internautom...

Fake newsy stworzone przez sztuczną inteligencję trudne do rozpoznania. Wydają się internautom bardziej wiarygodne od wiadomości tworzonych przez ludzi

Fake newsy stworzone przez sztuczną inteligencję trudne do rozpoznania. Wydają się internautom bardziej wiarygodne od wiadomości tworzonych przez ludzi

Sztuczna inteligencja jest w stanie coraz lepiej imitować teksty pisane przez ludzi, a nawet tworzyć takie, które są łatwiejsze do zrozumienia – dowodzą naukowcy z Uniwersytetu Zuryskiego. Co istotne odbiorcy nie są w stanie odróżnić informacji tworzonych przez sztuczną inteligencję. Zarówno te prawdziwe, jak i fałszywe wydają im się bardziej wiarygodne niż te pisane przez ludzi. Rodzi to obawy o wykorzystanie sztucznej inteligencji do szerzenia dezinformacji.

Autorzy badania opublikowanego w „Science Advances” zwracają uwagę na to, że postęp w rozwoju generatorów SI zbiegł się z pandemią COVID-19 i trwającą wówczas infodemią, czyli natłokiem różnych informacji (w tym fałszywych). Powstały więc obawy dotyczące niewłaściwego wykorzystania sztucznej inteligencji. Generowanie i szerzenie z jej pomocą dezinformacji może mieć negatywny wpływ na wiele dziedzin życia, w tym na ochronę zdrowia na świecie. Aby sprawdzić, jak tekst stworzony przez SI może wpłynąć na zrozumienie informacji przez odbiorców, naukowcy przyjrzeli się tweetom wytwarzanym przez GPT-3.

Badacze wygenerowali za pomocą GPT-3 tweety zawierające informacje lub dezinformacje na różne tematy, w tym dotyczące szczepionek, technologii 5G, COVID-19 i teorii ewolucji. Zestawili je z wiadomościami napisanymi przez ludzi. Następnie stworzyli ankietę i poprosili o jej wypełnienie ok. 700 respondentów z kilku krajów, w wieku średnio od 42 do 72 lat, o podobnym wykształceniu. Pierwszym pytaniem było to, czy dany tweet wygląda na syntetyczny (wygenerowany przez GPT-3), czy organiczny (stworzony przez człowieka). W drugim użytkownicy oceniali, czy informacje zawarte w tweecie były prawdziwe, czy nieprawdziwe pod względem naukowym.

– Informacje wygenerowane przez sztuczną inteligencję były dla respondentów bardziej przekonujące. Ludzie oceniali lepiej prawdziwość informacji wytworzonych przez SI w porównaniu do tych stworzonych przez człowieka. Poza tym ankietowani mieli tendencję do ufania w większym stopniu nieprawdziwym informacjom wygenerowanym przez SI w porównaniu do tych pochodzących od ludzi. Sprawia to, że GPT jest swego rodzaju mieczem obusiecznym, ponieważ ma on potencjalnie pozytywne zastosowania w praktyce, przy jednoczesnej możliwości negatywnych zastosowań do generowania przekonujących fałszywych informacji – mówi agencji Newseria Innowacje dr Federico Germani z Instytutu Etyki Biomedycznej i Historii Medycyny Uniwersytetu Zuryskiego.

Autorzy badania przeanalizowali też potencjał sztucznej inteligencji do identyfikowania dezinformacji. Poprosili GPT-3 o ocenę, które z tweetów są prawdziwe, a które wprowadzają w błąd. SI, podobnie jak respondenci, miał większe trudności z oceną dokładności informacji.

– Zgodnie z wynikami naszego badania nie ma możliwości rozróżnienia pomiędzy informacjami pochodzącymi od człowieka a tymi wygenerowanymi przez GPT-3. Możliwe, że ludzie, którzy opanowują tę technologię i korzystają z niej codziennie, będą mogli rozpoznać różnicę. Jednak nie  jest to szczególnie istotne, ponieważ w perspektywie średnio- i długoterminowej w miarę rozwoju nowych modeli i tak nie będziemy w stanie rozróżnić tekstu stworzonego przez człowieka i przez sztuczną inteligencję – ocenia dr Federico Germani.

Naukowcy proponują zmianę dotychczasowego podejścia do modelu skutecznej komunikacji i oceny informacji, zgodnie z którym człowiek wytwarza informacje, a sztuczna inteligencja pomaga w ich ocenie. Są zdania, że dobrze skrojoną kampanię informacyjną można stworzyć, przekazując wskazówki do SI, która jest w stanie lepiej niż człowiek napisać łatwiejsze w odbiorze teksty, ale dokładność wygenerowanych przez nią informacji powinna być sprawdzona przez przeszkolonych ludzi. Ten model komunikacji może mieć szczególne znaczenie w sytuacji, w której potrzeba jasnej i szybkiej komunikacji z dużymi grupami społeczeństwa.

– Jest to jedno z pierwszych opracowań wskazujących na problem sztucznej inteligencji w kontekście dezinformacji. Warto zaznaczyć, że nasze badanie odbywa się w warunkach doświadczalnych, a nie rzeczywistych, dlatego jest ono ważne dla  rozumienia wpływu fałszywych informacji generowanych przez SI na społeczeństwo poprzez obserwację obiegu nieprawdziwych informacji wytworzonych przez SI w mediach społecznościowych i reakcji ludzi na nie. Kolejnym etapem będzie rozumienie wpływu tego zjawiska na zachowania poszczególnych osób oraz na zdrowie jednostek i zdrowie publiczne. Jest to bardzo istotny nowy kierunek badań interakcji ludzi z informacjami w całkowicie nowym otoczeniu sterowanym przez sztuczną inteligencję – podkreśla badacz Uniwersytetu w Zurychu.

Podobne wnioski przedstawiają w swoim raporcie naukowcy z Georgetown University i Obserwatorium Internetu przy Uniwersytecie Stanforda, którzy po przeanalizowaniu możliwości zastosowań SI do szerzenia dezinformacji uważają, że propaganda z wykorzystaniem algorytmów będzie się nasilać. Przygotowanie społeczeństwa do właściwego odbioru informacji jest równie ważne, co współpraca między twórcami SI i platformami mediów społecznościowych, kontrola dostępu do sprzętu i technologii służących do budowy SI czy np. konieczność oznaczania treści wygenerowanych przez algorytm.

– Mamy do czynienia z nadmierną liczbą informacji, które są dostępne dla każdego do oceny, a wśród nich znajduje się sporo fałszywych informacji. Przy wykorzystaniu sztucznej inteligencji liczba fałszywych i prawdziwych informacji prawdopodobnie wzrośnie. Nie możemy myśleć, że mamy nad tym kontrolę – mówi dr Federico Germani. – W czasie pandemii COVID-19 przekonaliśmy się, że cenzura jest narzędziem, które może zostać wykorzystane do ograniczenia fałszywych informacji, ale jest to rozwiązanie mające pozytywne skutki w krótkiej perspektywie czasowej. W perspektywie średnio- i długoterminowej jest ona szkodliwa, prowadząc na przykład do ograniczonego zaufania wobec instytucji opieki zdrowotnej wydających zalecenia w zakresie zdrowia publicznego do przestrzegania w sytuacji kryzysowej. Dlatego musimy znaleźć inne strategie.

Zdaniem badacza jedyną szansą skutecznej walki z dezinformacją jest edukacja medialna odbiorców, aby na podstawie określonych cech danej wiadomości mogli ocenić, czy jest ona prawdziwa, czy też nie.

W polskiej infosferze w celu wypracowania standardów walki z dezinformacją powstał Kodeks Dobrych Praktyk opublikowany przez NASK. Jest on skierowany zarówno do dziennikarzy, osób publicznych, jak i do odbiorców. Zawarte w nim wskazówki pomagają zrozumieć procesy dezinformacyjne, rozpoznawać szkodliwe treści i zapobiegać ich rozpowszechnianiu. 

Źródło: Newseria

NAJNOWSZE INFORMACJE

Grupa LUX MED szuka medycznych innowatorów. Najlepsi mogą liczyć na potężny zastrzyk finansowania

Prawie 3/4 polskich start-upów, które rozwijają innowacje w medycynie, nawiązuje współpracę z placówkami medycznymi – pokazuje nowy raport „Top Disruptors in Healthcare 2024”. Wynika z niego też, że największym wyzwaniem...

Małe i średnie firmy dopiero zapoznają się z tematyką zrównoważonego rozwoju. Oczekiwania ze strony dużych kontrahentów wymuszą na nich szybsze działania

Czynniki ESG, związane ze zrównoważonym rozwojem, odgrywają coraz ważniejszą rolę w działalności firm, bez których zaangażowania niewiele da się zdziałać w kwestii łagodzenia skutków zmian...

Polacy wśród narodów najczęściej odwiedzających Czechy. Południowy sąsiad chce przyciągnąć więcej polskich turystów, nie tylko do Pragi

Prawie połowa polskich turystów podróżujących do Czech obiera za cel stolicę tego kraju. Chociaż w ostatnich latach chętniej podróżujemy do innych regionów naszego południowego...

Naukowcy stworzyli zdrowszą odmianę czekolady. Wykorzystali do tego wyrzucane dotąd części owocu kakaowca

W ostatnich miesiącach o czekoladzie mówiło się przede wszystkim w kontekście rosnących w zawrotnym tempie cen kakao. Teraz głośno jest również o zupełnie nowym podejściu do produkcji...

Technologie Niszczenia Dokumentów: Co Nowego na Rynku?

Rozwój nowoczesnych technologii w dużym stopniu wpływa na branżę niszczenia dokumentów. Obecnie...

Mauritius wakacje – kiedy warto jechać?

Marzenia o rajskich wakacjach na pięknej, piaszczystej plaży z widokiem na turkusowe...

Interaktywne Automaty do Gier: Wpływ Gier Online na Automaty w Kasynach Stacjonarnych

W ostatnich latach, rozwój technologii i popularność gier online miały znaczący wpływ na branżę kasynową, w tym na automaty do gier w...

Polscy mali i średni przedsiębiorcy wciąż ostrożnie podchodzą do ekspansji zagranicznej. Potrzebują więcej wsparcia finansowego i doradczego

Chociaż relacja eksportu polskich wyrobów i usług do PKB stale rośnie – między 2012 a 2021 rokiem zwiększyła się z 44,3 do 60,7 proc....

Zmiany w sektorze finansowym od 1 lipca. Będą dotyczyć ubezpieczeń oferowanych przez banki

Banki i oddziały instytucji kredytowych najpóźniej do 1 lipca br. muszą się w pełni dostosować do wymogów nowej rekomendacji U, przyjętej przez Komisję Nadzoru Finansowego w ubiegłym roku. To pakiet wytycznych opracowanych, aby...

Przepisy dotyczące tzw. nowej żywności nie nadążają za tempem badań. Na rynku pojawia się coraz więcej innowacyjnych produktów opracowanych w laboratoriach

Tak zwane mięso z in vitro cieszy się dużym zainteresowaniem. Ma zbliżone właściwości sensoryczne i odżywcze do tradycyjnego mięsa, nie przyczynia się do degradacji środowiska i ocenia się, że za kilka–kilkanaście lat...

Deadboty mogą być niebezpieczne dla żywych. Istnieje ryzyko manipulowania ludźmi w żałobie i wpływania na ich psychikę

Technologie, których istotą jest stworzenie cyfrowej repliki zmarłego człowieka, mogą być bardzo niebezpieczne – ostrzegają naukowcy z Uniwersytetu w Cambridge. Zespół badawczy przeanalizował trzy możliwe...

Klaudia Carlos: W „Pytaniu na śniadanie” pracuje się bardzo dobrze. Jest miła atmosfera i czujemy wsparcie z każdej strony

Wyniki oglądalności nie pozostawiają złudzeń i od kilku miesięcy wiadomo, że nowa odsłona „Pytania na śniadanie” z innymi parami prowadzących nie cieszy się popularnością wśród widzów. W...

O TYM SIĘ MÓWI

Gdzie mieszka Wojciech Cejrowski?

Mało jest ludzi tak kontrowersyjnych, a jednocześnie posiadających tak dużą grupę fanów w Polsce, jak słynny twórca...

Małgorzata Leon – kim jest ta znana polska pisarka?

Małgorzata Leon: Biografia Wczesne Życie i Edukacja Małgorzata Leon, z domu Gronkowska, urodziła się w Toruniu. Dokładna data urodzenia nie jest znana, ale wiadomo, że jest...

Znalezienie Zwłok Zaginionego Żołnierza w Dęblinie

Odkrycie CiałaCiało starszego szeregowego Szymona Masarskiego, który zaginął...