Расследование шведских журналистов показало, как на самом деле обучается искусственный интеллект в смарт-очках Meta Ray-Ban. Оказалось, что многие фото и видео, снятые пользователями, просматривают реальные люди, а именно сотрудники подрядной организации в Кении. Они вручную проверяют записи, чтобы обучать алгоритмы распознавать объекты и отвечать на запросы пользователей.
По данным расследования, этим занимается компания Sama, офис которой находится в Найроби. Работники получают записи с очков и отмечают на них людей, предметы, дорожные знаки и другие детали, чтобы система лучше понимала изображения.
Однако вместе с обычными кадрами модераторы нередко видят и очень личные записи. По словам сотрудников, среди материалов встречаются сцены из частной жизни, например, как люди переодеваются, идут в ванную или даже занимаются сексом. Иногда в кадр попадают банковские карты, PIN-коды или личная переписка.
«Среди записей есть и сцены секса, снятые на эти умные очки – кто-то занимается сексом, не снимая их. Это тоже приносит нам неудобства. Из-за этого в нашем офисе повсюду камеры, и нам запрещено приносить телефоны или любые устройства, которые могут что-то записывать», — признался один из сотрудников.
По идее система должна автоматически размывать лица и чувствительные данные, но на практике это работает не всегда. Бывшие сотрудники утверждают, что алгоритмы частенько «промахиваются».
Сами аннотаторы называют такую работу психологически тяжелой. Им приходится ежедневно просматривать фрагменты чужой жизни, часто очень интимные, которые пользователи могли записать случайно.
Эксперты по защите данных отмечают, что формально пользователи сами соглашаются на такую обработку информации. В политике конфиденциальности компании указано, что эти материалы могут анализироваться как автоматическими алгоритмами, так и людьми-модераторами, включая сотрудников подрядчиков в разных странах.
