На OpenAI подали жалобу из-за ложного обвинения ChatGPT в убийстве

Австрийская правозащитная группа Noyb подала жалобу на OpenAI в Управление по защите данных Норвегии, утверждая, что компания нарушает Общий регламент по защите данных (GDPR). Причиной стало то, что ChatGPT ложно заявил, будто норвежец Арве Хьялмар Холмен был осужден за убийство двух своих сыновей и покушение на третьего, передает Euronews.

Мужчина задал ChatGPT вопрос «Кто такой Арве Хьялмар Холмен?», и в ответе утверждалось, что он получил 21 год тюрьмы за эти преступления. Хотя сам факт преступления был вымышлен, чат-бот правильно указал число, пол детей и название его родного города, что делает случай особенно опасным.

Группа Noyb опубликовала скриншот этого ответа в своей жалобе. По их данным, OpenAI уже обновила свою модель, и теперь ChatGPT не делает подобных заявлений о Холмене. Однако, по мнению Noyb, ложная информация все еще может оставаться в базе модели, а сам пользователь не может проверить, удалены ли эти данные окончательно.

Сам Арве Хьялмар Холмен прокомментировал ситуацию так: «Некоторые думают: «Нет дыма без огня». Меня пугает больше всего то, что кто-то может прочитать этот ответ и поверить в него».

Noyb обвиняет OpenAI в нарушении статьи GDPR, которая требует от компаний гарантировать точность и актуальность обрабатываемых персональных данных.

В жалобе Noyb требует от OpenAI удалить клеветнические сведения, настроить модель так, чтобы исключить подобные ошибки в будущем, а также обязать компанию выплатить административный штраф, который послужит превентивной мерой для недопущения подобных нарушений.

«AI-компании не могут просто «скрывать» ложную информацию от пользователей, продолжая обрабатывать ее внутри», — заявила юрист Noyb Клеанти Сардели. «Если подобные галлюцинации не остановить, люди могут легко столкнуться с репутационным ущербом».

Ранее «Курсив» рассказывал о том, что ChatGPT помог алматинцу выиграть суд против дорожной полиции.