Indyjskie władze zażądały od należącej do Elona Muska platformy X pilnych korekt w sposobie działania chatbota Grok. Nakaz dotyczy zarówno rozwiązań technicznych, jak i procedur wewnętrznych, a jego powodem są skargi użytkowników oraz polityków na treści generowane przez sztuczną inteligencję, które uznano za obsceniczne. Chodzi między innymi o obrazy tworzone przez AI, ukazujące kobiety w wyraźnie seksualizowany sposób lub niemal bez odzieży.
Resort technologii informacyjnych Indii polecił firmie wprowadzenie mechanizmów, które uniemożliwią generowanie oraz rozpowszechnianie obscenicznych materiałów. Mowa o treściach zawierających nagość, seksualizację oraz inne formy przekazu zakazane przez prawo. Platforma została zobowiązana do usunięcia lub ograniczenia takich treści. A także do przygotowania w ciągu siedemdziesięciu dwóch godzin szczegółowego sprawozdania z podjętych działań zapobiegawczych.
W oficjalnym dokumencie rządowym znalazło się ostrzeżenie, że zignorowanie poleceń może skutkować utratą tak zwanego statusu „safe harbor”. Oznaczałoby to pozbawienie X ochrony prawnej przed odpowiedzialnością za treści publikowane przez użytkowników, przewidzianej w indyjskiej ustawie o technologii informacyjnej.
Użytkownicy X rozpoczęli trend dziwnych próśb o przeróbki zdjęć
Decyzja władz jest reakcją na liczne sygnały wskazujące, że Grok był wykorzystywany do tworzenia oraz udostępniania nielegalnych i obscenicznych obrazów. Doniesienia dotyczyły również materiałów odnoszących się do kobiet i dzieci, co wzbudziło szczególne zaniepokojenie. Zwłaszcza że zastosowane zabezpieczenia sztucznej inteligencji nie zdołały skutecznie blokować takich zapytań.
Sprawa wpisuje się w szerszy trend zaostrzania regulacji wobec firm technologicznych. Rządy coraz wyraźniej domagają się skuteczniejszej moderacji treści generowanych przez systemy AI. Żadają również lepszej ochrony prywatności i praw podstawowych, w szczególności w odniesieniu do kobiet i nieletnich.
Nie tylko Indie widzą problem z Grokiem
Krytyka pod adresem Groka nie ogranicza się wyłącznie do Indii. Podobne zastrzeżenia dotyczące seksualizowanych obrazów oraz innych kontrowersyjnych treści pojawiały się także we Francj. Co skłoniło tamtejsze instytucje do podejmowania działań wobec platformy X i jej narzędzi opartych na sztucznej inteligencji.
W polskiej przestrzeni również zauważyliśmy trendy dorabiania ubrań nieadekwatnych do deklarowanej płci osób publicznych, w tym polityków. Dodatkowo, użytkownicy wysyłają prośby o „usunięcie Niemców” z fotografii przedstawiające polskich polityków, sportowców czy osobowości telewizyjne.
Materiał powstał we współpracy z AI:
