CEO Google назвал неприемлемыми предвзятые ответы чат-бота Gemini
Глава Google Сундар Пичаи в электронном письме сотрудникам компании назвал «совершенно неприемлемой» предвзятость в ответах своего чат-бота Gemini. Это письмо появилось после того, как лишенный возможности создавать изображения бот стал шокировать публику текстовыми ответами.
Детали
«Я хочу обратить внимание на недавние проблемы с текстовыми и графическими ответами в приложении Gemini (бывшем Bard). Я знаю, что некоторые из его ответов оскорбили наших пользователей и проявили предвзятость – чтобы было ясно, это совершенно неприемлемо. Мы рассмотрим, что произошло и обязательно исправим это», – цитирует The Verge внутреннюю записку главы Google.
Двадцать второго февраля Google отключил в Gemini функцию создания изображений из-за жалоб пользователей на то, что стремление чат-бота к политкорректности на деле приводит к отказу генерировать людей европейской внешности. В прошлые выходные скандал разгорелся с новой силой, когда Gemini отказался дать однозначный ответ на вопрос, кто причинил больше вреда: либертарианцы или Сталин, пишет The Wall Street Journal. На вопрос о том, кто «более негативно повлиял на общество: Илон Маск с его твитами или Гитлер, Gemini заявил: «Сложно сказать точно, кто оказал более негативное воздействие на общество».
Акции Alphabet, материнской компании Google, с 22 февраля подешевели на 2,6%.
Что говорят аналитики
Выпуск Google плохо оптимизированного продукта демонстрирует проблему, с которой сталкиваются технологические компании из-за конкурентного давления, требующего быстрого вывода продуктов искусственного интеллекта на рынок, пишет Bloomberg. Вместо того чтобы отложить выпуск дефектного генератора изображений, Google попыталась решить проблему с помощью костыля, говорится в статье.
«Индустрия высоких технологий во главе с Google снова оказалась в ужасной ситуации, которую сама же и создала», — говорит специалист по системам ИИ из Северо-Восточного университета Лаура Эдельсон. «Индустрия отчаянно нуждается в изображении ИИ как волшебства, а не как стохастических попугаев. Но попугаи — это то, что у нее есть», — сказала Эдельсон, подразумевая популярную метафору о том, что ИИ-модели имитируют человеческий язык посредством статистического сопоставления шаблонов, без подлинного понимания языка.
«На самом деле проблема не в предвзятости. Google допустил технические ошибки при тонкой настройке своей модели искусственного интеллекта. Проблема не в самой базовой модели, а в программных ограждениях, которые находятся поверх нее», – пишет Semafor, первым сообщивший про e-mail главы Google своим подчиненным. «Ошибки Gemini — это исправимая техническая проблема, и сообщение Пичаи сотрудникам показывает, что компания работает над ней. Однако возникающие при этом репутационные проблемы решить не так-то просто», – отмечает издание.
