7 компаний будут маркировать контент ИИ

Google, Microsoft, Meta, Amazon и ряд компаний США договорились маркировать контент, созданный ИИ. Фото: shutterstock

Крупные технологические компании Google, Microsoft, Meta и Amazon, а также компании, создавшие искусственный интеллект (ИИ) OpenAI, Anthropic и Inflection, договорились с Белым домом о маркировке контента, сгенерированного ИИ. Об этом сообщается на сайте Белого дома.

Что произошло. Семь крупных компаний Google, Microsoft, Meta и Amazon, OpenAI, Anthropic и Inflection взяли на себя «добровольные обязательства» перед администрацией Байдена сделать свои продукты более безопасными – маркировать контент, сгенерированный ИИ, тем самым минимизировать возможную дезинформацию.

Как это будет работать. Обязательство компаний включает в себя создание «надежных систем», которые будут идентифицировать контент, созданный ИИ. Водяные знаки позволят определить, какая служба ИИ использовалась для создания контента.

Опасности и проблемы, которые создает ИИ

С тех пор как OpenAI выпустила ChatGPT в ноябре прошлого года, инструменты генеративного ИИ поразили пользователей способностью создавать текст и изображения по запросу. Но вместе с этим технологии ИИ использовались также для распространения ложной информации. Например, в мае в соцсетях распространились снимки окутанного дымом Пентагона. Не было никакого подтверждения, что контент создал ИИ, но он содержал много нереалистичных элементов, которые иногда появляются в изображениях, созданных нейросетью.
ИИ может заменить 300 млн рабочих мест в США и ЕС. Достижения в области искусственного интеллекта (ИИ), в частности ChatGPT, могут увеличить годовой мировой ВВП на 7%. Значительная экономия затрат на рабочую силу, создание новых рабочих мест для оставшихся сотрудников может потенциально стимулировать рост экономики. Однако, согласно исследованию Goldman Sachs, при этом ИИ разрушит рынок труда. Более 400 тыс. человек в США потеряли работу в мае, 10% из них были уволены из-за искусственного интеллекта.
В США Гильдия писателей выступила против применения искусственного интеллекта (ИИ) при написании сценариев. Голливудские кино- и телесценаристы первого мая устроили забастовку в знак протеста против технологий, которые могут оставить их без работы.
В середине мая ученый в области искусственного интеллекта Стюарт Рассел заявил, что ИИ может «представлять колоссальную угрозу для человечества, так как он, вероятно, будет противиться попыткам управлять им».
Двумя месяцами ранее более тысячи ученых и технологов, включая Илона Маска, Стива Возняка и генерального директора Stability AI Эмода Мастака, подписали и опубликовали письмо, в котором призывали приостановить разработку искусственного интеллекта, ссылаясь на риск для человечества.

Что еще почитать об искусственном интеллекте. «Курсив» выпустил спецпроект, в котором попробовал коротко описать, какими были отношения человека и искусственного интеллекта к лету 2023 года.