TikTok atakuje konta ze spamem generowane przez sztuczną inteligencję w tematach wysokiego ryzyka

Jak ogłoszono w poście, TikTok przetestuje ulepszenia swoich systemów wykrywania dla kont publikujących spam generowany przez sztuczną inteligencję na temat polityki i bieżących wydarzeń, porad finansowych i tematów medycznych. Testy mają się rozpocząć w nadchodzących tygodniach i wykazały te kategorie jako obszary, w których wprowadzające w błąd treści mogą mieć wpływ na zaufanie społeczne lub dobrostan.

Treści medyczne są jednym z trzech wymienionych celów pokrywa się z raportem Kapwinga, który opisałem w czerwcu i który stwierdził, że stan zdrowia jest taki należą do najwyższych kategorii treści generowanych przez sztuczną inteligencję w TikTok, znacznie powyżej kategorii, w których twórcy pojawiają się przed kamerą.

TikTok wyjaśnił, że testy są przeprowadzane na poziomie konta, twierdząc, że firma usuwa już spam na dużą skalę i zlikwidowała ponad 86 milionów fałszywych kont w pierwszych trzech miesiącach tego roku.

Jak zareagowały inne platformy

To ogłoszenie stanowi część szerszych działań mających na celu promowanie autentycznych treści na platformach mediów społecznościowych. W lipcu ubiegłego roku YouTube zaktualizował swoje wytyczne dotyczące zarabiania, aby lepiej reagować na nieautentyczne, powtarzające się filmy, a Meta szybko podjęła własne działania przeciwko nieoryginalnym treściom.

Dodatkowo w czerwcu Google opublikował artykuł na temat systemu przeznaczonego do wykrywania i usuwania skoordynowanych grup konta publikujące spam generowany przez sztuczną inteligencję.

Siedziba Komitetu C2PA

Oprócz testowania spamu TikTok ogłosił swój udział w komitecie sterującym Coalition for Content Provenance and Authenticity, organizacji odpowiedzialnej za opracowanie standardu C2PA, który śledzi pochodzenie i modyfikacje treści cyfrowych.

TikTok wspomniał, że była to pierwsza platforma wideo, która dwa lata temu wdrożyła uwierzytelnianie treści C2PA. TikTok powiedział, że siedziba komitetu pomoże w upowszechnieniu technologii w całej branży.

Firma ogłosiła, że ​​oznaczyła ponad 3 miliardy filmów jako treści wygenerowane przez sztuczną inteligencję, korzystając z danych uwierzytelniających treści, etykiet twórców i własnego niewidocznego znaku wodnego. W maju Google zrobił podobny krok, rozszerzając weryfikację SynthID na wyszukiwarkę i obiecując, że wkrótce zostanie wprowadzona weryfikacja C2PA.

Dlaczego to ma znaczenie

Należy to do kategorii, na których koncentruje się wielu marketerów, takich jak zdrowie, które zawiera już wiele treści generowanych przez sztuczną inteligencję. Każdy, kto tworzy na TikToku filmy o finansach, zdrowiu lub polityce, pracuje nad tematami, które TikTok szczególnie ogląda pod kątem spamu. Co to oznacza w praktyce, będzie zależeć od tego, jak TikTok przeprowadzi test, a szczegóły z zapowiedzi nie są jeszcze znane.

Patrząc w przyszłość

Warto zwrócić uwagę na szczegóły, jak TikTok definiuje kwalifikujące się konto i co następuje po wykryciu, czego nie określa żadne z ogłoszeń. Nie ma również żadnej konkretnej daty rozpoczęcia poza nadchodzącymi tygodniami. Jeśli chodzi o C2PA, TikTok nie ogłosił żadnych zmian w swoim istniejącym systemie etykietowania.

Wyróżniony obraz: Mamun_Szejk/Shutterstock