Еврокомиссия начала расследование из-за ИИ-бота Grok, «раздевающего» женщин в X

Европейская комиссия начала официальное расследование в отношении функции искусственного интеллекта Grok, работающей в социальной сети X (бывший Twitter). Поводом стали многочисленные случаи создания порнографического контента без согласия изображённых людей, сообщает Reuters.

О начале расследования сообщила ирландский депутат Европарламента Реджина Доэрти. Сама Европейская комиссия на данный момент официально ситуацию не комментировала.

Расследование касается чат-бота Grok, который по запросу пользователей способен изменять фотографии таким образом, что они превращаются в откровенные изображения. По имеющейся информации, жертвами подобной практики стали тысячи женщин и девушек. Сообщается, что бот может аналогичным образом обрабатывать и изображения мужчин, однако основной общественный резонанс вызвали именно случаи сексуализированного насилия над женщинами в цифровой форме.

После волны критики платформа X перевела доступ к Grok на платную подписку. Это решение вызвало дополнительное возмущение: критики указывают, что теперь компания фактически получает прибыль от несанкционированного «раздевания» людей, прежде всего женщин.

Ожидается, что расследование Еврокомиссии будет вестись в рамках законодательства ЕС о цифровых услугах (DSA), которое обязывает крупные онлайн-платформы предотвращать распространение незаконного и вредоносного контента, а также оперативно реагировать на системные риски для прав и безопасности пользователей.

В случае выявления нарушений X может грозить крупный штраф и требования изменить работу сервиса.