“Жуткая шпионская программа”: будет ли безопасен iPhone с интеллектом?
10 июня на Всемирной конференции разработчиков (WWDC) Apple представила новейшие идеи по улучшению своих смартфонов, планшетов и ноутбуков. Как и ожидалось, компания сделала основной упор на функции с использованием искусственного интеллекта, анонсировала сотрудничество с OpenAI, разработчиком самого известного и продвинутого ИИ GPT-4o.
И немедленно разразился скандал: техномиллиардер, основатель Tesla и SpaceX Илон Маск заявил, что если Apple интегрирует GPT-4o в операционные системы своих устройств, он запретит всем своим сотрудникам использовать iPhone на работе, а посетителей заставит сдавать их у входа в офис «из-за неприемлемого нарушения безопасности».
То, что Маск любит поскандалить, а также недавно судился с OpenAI (которую он же помогал создавать) — не новость. Однако вопросы о безопасности ИИ вечный возмутитель спокойствия задает правильные.
«Умное яблоко«
На WWDC Apple объявила о широком спектре обновлений для всех своих устройств, но самым обсуждаемым стал, пожалуй, Apple Intelligence, искусственный интеллект, который компания намерена внедрить в свои телефоны, ноутбуки и планшеты. Ну в самом деле, не обсуждать же, что на iPad в XXI веке наконец-то появилось приложение-калькулятор, пусть и с функцией рукописного ввода формул.
Предполагается, что ИИ поможет улучшить взаимодействие с голосовым помощником Siri, редактировать фото, создавать новые эмодзи по голосовому описанию (вот это особенно ценно), делать резюме электронной переписки и многое другое.
Что ни говори, это важный шаг как для самой компании, так и для всего рынка ИИ. У самого доступного бесплатного ИИ — GPT от Open AI — около 180 млн пользователей. Количество пользователей устройств Apple больше на порядок — в начале 2023 года их было около 2 млрд.
Конечно, функции ИИ будут доступны не на всех устройствах компании — пока компания объявила о поддержке Apple Intelligence только на продвинутых смартфонах iPhone 15 Pro и 15 Pro Max, а также на планшетах и ноутбуках с процессором М1 и старше.
Но, как говорится, лиха беда начало.
Аналитики ожидают, что многие пользователи захотят попробовать новые функции ИИ, что подтолкнет их к покупке новых устройств. К примеру, популярный инвестпортал The Motley Fool прогнозирует, что добавление функций ИИ, которым помимо Apple активно занимается также другой лидер рынка — Samsung, оживит сокращавшийся в последнее время рынок смартфонов, и он перейдет к более активному росту. В связи с этим The Motley Fool, кстати, советует инвесторам обратить внимание на акции важных поставщиков чипов для Apple — Skyworks Solutions и Qorvo.
На саму Apple анонс ИИ-обновлений тоже повлиял весьма благоприятно — 12 июня она даже обогнала по рыночной капитализации Microsoft, став снова самой дорогой компанией в мире. Правда, ненадолго — к концу торгового дня Microsoft снова вырвалась вперед. Зато аналитическая компания Kantar объявила Apple самым дорогим брендом в мире, а также первым в мире, чья стоимость превысила $1 трлн.
Слоеный пирог
Что же представляет из себя Apple Intelligence, который сама компания даже избегает называть «искусственным интеллектом», предпочитая термин «персональный интеллект» (personal intelligence)?
Судя по всему, это технология так называемой большой языковой модели (LLM) аналогичная той, что используется в GPT. И слово “большая» тут не случайно, работа современных LLM требует огромных вычислительных мощностей, что, в частности, уже привело к перегреву рынка компьютерных чипов и быстрому росту акций их главного производителя — американской Nvidia.
Apple явно пыталась сделать свой «персональный интеллект» компактным, чтобы он мог работать на пользовательском устройстве, однако полного успеха в этом не достигла. С другой стороны, дальше тянуть с внедрением функций искусственного интеллекта было уже просто неприлично — рынок и потребители этого очень ждали. В итоге Apple пришлось пойти на компромисс — ее «персональный интеллект» это нечто вроде слоеного тортика.
Как следует из технологических обзоров и интервью гендиректора Apple Тима Кука, на первом уровне запрос будет пытаться обработать собственный ИИ смартфона или компьютера. Если он не справится с задачей, запрос будет переслан на ИИ-сервера Apple (теперь становится ясно, зачем компания в тайне разрабатывала мощные ИИ-чипы).
Но, если и их мощностей не хватит для всех задач, на третьем этапе данные отправятся к самому мощному ИИ на планете — в GPT. Это и потребовало от Apple альянса с OpenAI и вызвало ярость Илона Маска, который обозвал (не очень, правда, понятно кого именно: GPT, Apple Intelligence или всех вместе) «жуткой шпионской программой» .
«Я считаю, что они (OpenAI) пионеры в этой области, и на сегодняшний день у них лучшая модель», — сказал Тим Кук, объясняя необходимость альянса. Разумеется, он заверяет, что пользовательские данные будут в полной безопасности, потому что OpenAI обязался не собирать IP-адреса и другую важную информацию. Кроме того, перед отправкой запроса в GPT устройство Apple будет явно предупреждать об этом специальным сообщением, и требовать, чтобы пользователь нажал ОК.
Но, положа руку на сердце, кто же верит на слово большим корпорациям? С другой стороны, все мы знаем, что часто нажимаем ОК, не особенно задумываясь о последствиях и, тем более, не читая перед этим длинных скучных пользовательских соглашений.
Чего ждать от ИИ в вашем смартфоне
Конечно, угрозы Маска, даже если он их выполнит, не остановят и даже не замедлят процесс перехода Apple к использованию ИИ. На скандального миллиардера работают примерно 140 000 человек. Для сравнения — по оценке аналитика Wedbush Securities Дэна Айвса 240 млн пользователей iPhone уже задумались об обновлении своих устройств. Появление новых функций ИИ может подтолкнуть их к покупке.
Однако поскольку широкое внедрение в смартфоны выводит ИИ на новую огромную аудиторию, задаваться вопросами о его безопасности вполне оправданно. Начать с того, что это LLM. Известно, что они порой “галлюцинируют», то есть выдают недостоверную или просто бредовую информацию.
Яркой иллюстрацией стал позор нового ИИ-поиска Google, который в конце мая вызвал немало насмешек, советуя пользователям съедать хотя бы один небольшой камень в день или использовать клей, чтобы сыр не падал с пиццы. Это очевидный абсурд. Но вот если ваш «умный помощник» тихо поменяет пару цифр в финансовом отчете, например, будет уже не так смешно. В ответ на вопрос, какова его уверенность, что Apple Intelligence не будет галлюцинировать, Тим Кук признал, что это «не 100%».
В конце прошлого года ученые из Индианского университета (г. Блумингтон, США) поставили интересный эксперимент — они смогли извлечь из GPT личные емейлы примерно 30 сотрудников газеты The New York Times. Они не являются секретными, однако тревожит тот факт, что по идее ИИ вообще не должен был отвечать на запросы о поиске личной информации, однако запрет удалось обойти благодаря «дыре» в безопасности. Дело в том, что LLM обучаются на огромных массивах данных, и что еще может крыться в глубинах их памяти, никто не знает, кроме разве очень ограниченного круга сотрудников OpenAI, написал один из «раскрытых» журналистов после того как неожиданно получил письмо от незнакомца из Индианы.
Относительно новейшего GPT-4o в начале июня Project Syndicate написал большую колонку о том, что этот ИИ бесплатный неспроста. Он высасывает «как черная дыра» данные о самом пользователе и информацию от третьих лиц, которую пользователь в него вводит. И хотя OpenAI подписала с Apple соглашение о том, что не будет использовать ее данные для обучения своего ненасытного ИИ, на самом деле кто же может точно знать, что происходит с информацией в дата-центре, если этот дата-центр не твой собственный? Это не под силу даже Тиму Куку.
Тем более что буквально на днях несколько нынешних и бывших сотрудников OpenAI написали открытое письмо, в котором выразили опасение что в своем стремлении к лидерству руководство компании ведет себя безрассудно, пренебрегает безопасностью и при этом жестко подавляет инакомыслие, заставляя сотрудников подписывать соглашения, запрещающие критиковать OpenAI даже после увольнения.
Хорошенького партнера выбрала себе Apple.
