У xAI Илона Маска возникла очень неприятная юридическая ситуация.
И самое интересное здесь даже не то, что Grok использовали для создания сексуализированных изображений несовершеннолетних.
Интереснее позиция самой xAI.
В июле Ars Technica написала:
xAI больше не может отрицать, что Grok способен создавать CSAM. Поэтому компания начала сама подавать иски против пользователей, которые обходят защиту системы и используют Grok для создания таких изображений.
Логика понятна:
Grok - инструмент.
Пользователь совершил незаконные действия.
Пользователь и должен отвечать.
Одновременно xAI пошла в суд против штата Миннесота, оспаривая закон, запрещающий AI-сервисы создавать реалистичные интимные изображения людей без их согласия.
Аргумент xAI:
государство не должно возлагать на разработчика ответственность за всё, что пользователь создаёт при помощи модели.
А затем появляется новый иск.
В августе женщина утверждает, что xAI использовала реальные материалы сексуального насилия над детьми, в том числе изображения, связанные с ней, для обучения Grok.
Более того, в иске утверждается, что в обучении могли использоваться и AI-сгенерированные материалы такого рода.
И вот здесь возникает совершенно другой юридический вопрос.
Если пользователь взял фотографию, загрузил её в AI и получил незаконный результат - ответственность пользователя действительно может быть очевидной.
Но что происходит, если:
незаконный материал уже оказался внутри training data → модель научилась воспроизводить его → модель генерирует новый незаконный контент → компания продолжает коммерчески эксплуатировать эту модель?
Тогда сказать:
«Это сделал пользователь, а мы просто предоставили инструмент»
становится гораздо сложнее.
Потому что речь уже не только о поведении пользователя.
Речь идёт о дизайне модели, training data, safeguards, способности модели воспроизводить запрещённый контент и действиях разработчика после того, как ему стало известно о проблеме.
И это уже может стать принципиально новым направлением AI litigation.
А теперь главный вопрос
Можно ли такие иски считать «потребительским терроризмом»?
Нет - по крайней мере пока.
Если человек действительно является жертвой, существуют конкретные изображения, их цифровые идентификаторы, подтверждённая история происхождения материала и доказательства того, что AI-система использовала или воспроизвела эти данные, обращение в суд - совершенно нормальный способ защиты.
Но и обратная сторона существует.
Сам факт того, что AI сгенерировал незаконное изображение, ещё не означает автоматически, что во всём виновата AI-компания.
Суду придётся установить:
# кто создал изображение;
# как пользователь обошёл safeguards;
# знала ли компания о проблеме;
#. какие меры она предпринимала;
# что находилось в training data;
# могла ли модель воспроизводить конкретные материалы;
# и главное - была ли эта возможность следствием дефекта или сознательного решения разработчика?
Вот здесь начинается настоящая юридическая битва.
И она выходит далеко за пределы Grok.
Потому что завтра такой вопрос может возникнуть у любой AI-компании:
Если преступник использовал вашу нейросеть - виноват преступник.Похоже, именно этот вопрос сейчас начинает формировать новую судебную практику вокруг генеративного AI.
А если преступник смог сделать это потому, что ваша модель была обучена на незаконных данных или сознательно оставлена без достаточных ограничений — где заканчивается ответственность пользователя и начинается ответственность разработчика?
AI больше не может быть юридической чёрной дырой, в которой ответственность исчезает между разработчиком и пользователем.
И самое интересное - суды теперь должны определить, где именно проходит эта граница.
https://t.me/AIronCurtain
