Генератору изображений Midjourney запретили портретировать лидера одной из стран

У генератора изображений Midjourney обнаружили ограничение: сервис позволяет создавать поддельные изображения с Джозефом Байденом, Дональдом Трампом, Эммануэлем Макроном, Владимиром Путиным и даже Папой Римским Франциском I. Однако запрещает генерировать портреты с лидером Китая Си Цзиньпином. Об этом сообщает издание The Washington Post.

Основатель и генеральный директор компании Дэвид Хольц заявил, что в компании хотят «уменьшить драматизм».

«С политической сатирой в Китае не всё в порядке, и возможность людей в КНР пользоваться этой технологией важнее, чем способность генерировать сатиру», — пояснил основатель развлекательного цифрового приложения ИИ.

При попытке ввести подсказку со словами "президент Си", "Цзиньпин" или "китайский лидер", Midjourney отказывает в генерировании изображений. Также сервис предупреждает о закрытии доступа тем, кто попытается обойти фильтр.

Как пишет Суспільне, Midjourney является одной из нескольких компаний, установивших раннее доминирование в области ИИ-искусства, определяя ее основными конкурентами Stable Diffusion и DALL-E, разработанной OpenAI.

Но эти инструменты имеют кардинально разные рекомендации относительно того, что приемлемо. Правила OpenAI предписывают пользователям DALL-E соблюдать контент с рейтингом "G" и блокируют создание изображений с участием политиков, а также "событий, связанных с основными текущими геополитическими событиями".

Компания Stable Diffusion ввела небольшие ограничения на изображение сексуального или насильственного характера. Генеральный директор стартапа Эмад Мостак отмечал, что "в конце концов люди сами несут ответственность за соблюдение этических, моральных и правовых норм".

Правила Midjourney находятся посередине, указывая, что пользователи должны быть не младше 13 лет, и заявляя, что компания "старается сделать свои услуги PG-13 и семейными". В то же время разработчики предупреждают: "Это новая технология, и она не всегда работает так, как ожидается".

Правила запрещают контент для взрослых, сцены насилия, а также текстовые подсказки, которые "по своей сути неуважительны, агрессивны или иными способами оскорбительны".

Напомним, в Датском королевстве запретили сотрудникам Министерства обороны использовать популярное китайское приложение TikTok, созданное пекинской компанией  ByteDance Ltd. 

Фото: Nidhin Kumar