Компанія Ілона Маска xAI має понести відповідальність за те, що дозволила своїм моделям ШІ створювати образливі сексуальні зображення ідентифікованих неповнолітніх, стверджується у позові, поданому в понеділок до федерального суду Каліфорнії трьома анонімними позивачами.
Троє позивачів прагнуть подати колективний позов від імені всіх, чиї реальні зображення в дитинстві були змінені Grok на сексуальний контент. Вони стверджують, що xAI не вжила базових заходів обережності, які використовуються іншими провідними лабораторіями, щоб запобігти створенню їхніми моделями зображень порнографії із зображеннями реальних людей і неповнолітніх.
Справа Jane Doe 1, Jane Doe 2 (неповнолітня) та Jane Doe 3 (неповнолітня) проти x.AI Corp. та x.AI LLC була подана до Окружного суду США Північного округу Каліфорнії.
Інші глибинні генератори зображень використовують різні методи для запобігання створенню дитячої порнографії зі звичайних фотографій. У позові стверджується, що xAI не перейняла ці стандарти.
Важливо зазначити, що якщо модель дозволяє генерувати оголений або еротичний контент із реальних зображень, то практично неможливо запобігти створенню сексуального контенту за участю дітей. Публічне просування Маском здатності Grok створювати сексуальні зображення та зображати реальних людей у відвертому вбранні відіграє важливу роль у позові.
Компанія не відповіла на запит TechCrunch щодо коментаря.
Одну з позивачок, Джейн Доу 1, Grok змінив світлини з її шкільного випускного вечора та річника, зобразивши її роздягненою. Анонімний інформатор, який зв’язався з нею в Instagram, повідомив, що фото поширюються в мережі, і надіслав їй посилання на Discord-сервер із сексуалізованими зображеннями її та інших неповнолітніх, яких вона впізнала зі школи.
Другу позивачку, Джейн Доу 2, слідчі повідомили про змінені, сексуалізовані зображення, створені стороннім мобільним застосунком, який використовує моделі Grok. Третю, Джейн Доу 3, також повідомили слідчі, які виявили змінене порнографічне зображення на телефоні особи, яку вони затримали. Адвокати позивачів стверджують, що оскільки використання сторонніми сервісами все одно потребує коду та серверів xAI, компанія має нести відповідальність.
Усі три позивачки, двоє з яких досі є неповнолітніми, заявляють, що зазнають сильного стресу через поширення цих зображень і того, що це може означати для їхньої репутації та соціального життя. Вони вимагають цивільних штрафів на підставі низки законів, покликаних захистити експлуатованих дітей і запобігти корпоративній недбалості.
Залишити відповідь