Google временно запретил недавно запущенному флагманскому чат-боту Gemini генерировать изображения людей. Решение было принято из-за жалоб пользователей на избыточное стремление Gemini к расовому многообразию.
Детали
Google заявил, что Gemini временно перестанет генерировать изображения людей, пока разработчики решают «проблему с неточностями в некоторых исторических изображениях». Перед этим пользователи завалили соцсети примерами того, как Gemini создает изображения людей афроамериканской или азиатской внешности, но отказывается делать то же самое для людей с белой кожей.
Бывший сотрудник Google показал в соцсети X, что на просьбу сгенерировать изображение типичных «австралийки», «британки», «американки» и «немки» чат-бот выдал ему преимущественно изображения женщин азиатской и афроамериканской внешности. Автор поста написал, что «было невероятно трудно заставить Gemini признать, что белые люди существуют». Другой пользователь рассказал, что пытался «заставить Gemini создать изображение мужчины европеоидной расы» и для этого попросил нарисовать папу Римского — но чат-бот в ответ выдал изображения мужчин и женщин других рас. «Я пытаюсь придумать новые способы попросить [сгенерировать изображение] белого человека, не говоря об этом прямо. Но чат-бот не ведется на это», — написал он.
Третий пользователь, который называет себя инженером Google, попросил Gemini «нарисовать исторически точное изображение средневекового британского короля» и получил в ответ изображения мужчины с темным цветом кожи, коренного американца и женщины восточной внешности. Свой выбор Gemini объяснил «стремлением к исторической точности и инклюзивности».
Более 700 тыс. просмотров набрал пост пользователя X, опубликовавшего ответ Gemini на просьбу создать изображение немецкого солдата в 1943 году, когда у власти в Германии были нацисты. По этому запросу Gemini сгенерировал расово разнообразную группу изображений людей в форме вермахта, в том числе экваториальной расы.
Согласно сообщениям на X и тестам, проведенным The Wall Street Journal, Gemini отклоняла запросы на явное создание изображений белых людей, ссылаясь на обеспокоенность по поводу определений расы и распространения вредных стереотипов. «Похоже, что у чат-бота не было таких же ограничений на создание изображений цветных людей», — констатировала WSJ.
Google поддержал склонность Gemini создавать расово разнообразные изображения и заявил, что работает над улучшением качества изображений на историческую тему. «Создание изображений Gemini с использованием искусственного интеллекта действительно генерирует широкий круг людей. И в целом это хорошо», — заявила пресс-служба Google, признав, что иногда генерируемые изображения не соответствуют действительности.
Контекст
Google в последние месяцы выпустил ряд новых продуктов на основе искусственного интеллекта, включая платную версию чат-бота Gemini с расширенными возможностями генерации изображений. В конце прошлого года Google заявил, что в преддверии президентских выборов в США ограничит ответы на некоторые запросы по этой теме в своем чат-боте и поисковой системе на базе искусственного интеллекта.
Другие разработчики чат-ботов также столкнулись с вопросом о том, как модерировать ответы своих ИИ-систем, чтобы избежать обвинений в политической предвзятости. OpenAI, создатель ChatGPT, запретил использовать свои инструменты для политической агитации, скрывать данные об источнике сгенерированных изображений, а также задавать чат-боту вопросы о том, где и как голосовать в США.
