ИИ – друг или враг человечества?

3iTech (ООО «ДСС Лаб»), ведущий российский вендор решений на базе искусственного интеллекта для бизнеса, объявил об открытии в Алматы компании «3iTech Центральная Азия». «3iTech Центральная Азия» станет первой компанией в Казахстане, предоставляющей облачные услуги на базе искусственного интеллекта. Мы поговорили с Джамилем Курмановым, генеральным директором «3iTech Центральная Азия».

– Евросоюз объявил о готовности ввести первый в мире закон, ограничивающий использование искусственного интеллекта. Там указаны четыре степени риска – минимальный, ограниченный, высокий и неприемлемый. Правильно ли я понимаю, что речевая аналитика может оказаться в третьем разделе – наряду с системой распознавания лиц?

– Куда бы ее ни отнесли, важно понимать реальную степень риска. Мы обрабатываем конфиденциальные данные нашего заказчика – то есть разговоры его клиентов. При этом, мы сами не имеем доступа к этим данным. Тем более, если это решение применено на сервере клиента. Но это действие и так уже подпадает под закон о защите данных. Поэтому в нашем случае некорректно говорить о каких-то рисках. У 3iTech Центральная Азия ведь немного другая история, мы в данном случае как бы «мирный атом». Никаких рисков для заказчика точно нет, только помощь.

– Как вы оцениваете перспективы развития ИИ в Казахстане?

– Всё познается в сравнении. Важно понимать общее состояние рынка Казахстана в целом. По моему мнению, в ряде отраслей, в каких-то промышленных секторах, мы отстали и уже вряд ли успеем наверстать упущенное. Тому есть много причин - мы не развивались вовремя, у нас отсутствует выход к морю, у нас сравнительно небольшая численность населения. Это в конечном итоге сказывается на экономике проекта и целесообразности его реализации, зачастую проще и дешевле импортировать какую-то продукцию. В конце концов, мир идет по пути кооперации, и ни одна страна не производит абсолютно всё.

Совсем другая ситуация с IT и ИИ, в частности. У нас есть хороший шанс быть в авангарде использования и развития самых современных технологий, позволяющих строить высокомаржинальный бизнес. Занять лидерские позиции в сегменте, который в мире еще только делает первые шаги. Мы оцениваем наш рынок – только то, что так или иначе связано с речевой аналитикой в 110-112 миллиардов тенге, ежегодно. С учетом корпоративного, гос- и квазигоссектора. Судя по темпам развития искусственного интеллекта в мире, лет через пять-шесть ключевые игроки, грубо говоря, заберут и поделят весь наш рынок. А применение ИИ ежедневно растет во всех сферах – от образования до сервисных услуг. Это большой и очень перспективный сегмент для Казахстана.

Другое дело, что все это должно как-то ограничиваться и структурироваться, морально и этически. У нас в компании принят термин Искусственная Совесть, по-английски Artificial Conscience, который мы применяем ко всем проектам на базе ИИ, включая, в первую очередь, генеративные сети, такие как ChatGPT. Когда мы воспитываем ребенка, наша главная задача не только в том, чтобы дать ему то или иное образование и физическое развитие, но и вложить в него какие-то морально-этические вещи. Так и здесь – у искусственного интеллекта должен быть ориентир. Искусственный интеллект – то же самое дитя, он тоже ошибается, к сожалению, но его ошибки могут быть фатальны. Взять тот же ChatGPT, он уже норовил устроить побег от создателей, так что фильм «Терминатор» возможен, если разобраться (смеется). Развивая ИИ, мы должны получить не бессовестное сверхсущество, а самоконтролируемого старательного суперпомощника человека. И мы видим, что разработчики нейросетей, работающих с изображениями, с самого начала ввели самоцензуру, что и является элементом Искусственной Совести, происходящей от совести человеческой.

“Важно понимать общее состояние рынка Казахстана в целом. По моему мнению, в ряде отраслей, в каких-то промышленных секторах мы отстали и уже вряд ли успеем наверстать упущенное.”

– Ну в этом собственно и заключается основной вопрос – как внушить ИИ не конкурирующую стратегию, а кооперативную.

– Проблема даже не в самом воспитании искусственного интеллекта, а в правильном его использовании. Мы должны сами себя в этом смысле ограничивать и работать над собой. Ведь любой инструмент можно использовать как во зло, так и в добрых целях. Робот повторяет за нами, и он не станет хуже человека, если сам человек будет становиться лучше. Проблема конфликта машин и человека – любимая тема футуристов. В середине прошлого века писатель-фантаст Айзек Азимов сформулировал три закона робототехники, и первый из них гласит, что робот не должен причинять вреда человеку. Позднее, Азимов сформулировал, так называемый «нулевой закон», который отличается от первого всего одним словом. Робот не должен принять вреда Человечеству. Представляете, как давно люди осознали потенциальную опасность ИИ! И у нас в 3iTech многие уверены, что именно эти законы лучше всего отражают сущность той Искусственной Совести, которая должна быть обязательным дополнением к любой ИИ-разработке. В противном случае, мы рискуем. Человек не всегда может контролировать свои создания, и этому много примеров в истории.

– Речевая аналитика, очевидно, находится в списке тех изобретений, которые вытесняют человека с рабочего места. Посыл, однако, в том, что человека освобождают от рутинной работы с тем, чтобы он мог больше времени уделить работе творческой. По сути, это некоторое лукавство, свойственное пост-фордистской логике производства – на самом деле, человеку в итоге нужно будет работать больше (под видом креатива).

– Это не совсем так. Массивы речевых данных (да и не только речевых) настолько огромны и плохо структурированы, что людям не под силу их систематизировать и разгрести. Даже большим коллективам аналитиков и целым институтам. Это уже физически нереализуемо. Причем, представьте, с какой скоростью эти данные пополняются, каждый час, каждый день. Поэтому, применение ИИ в этой части – совершенно точно никого не лишает работы, а наоборот, помогает специалистам ее выполнять. Речевая аналитика помогает принимать правильные управленческие решения не только бизнесу, но и государствам. Во многих странах мира, как и в нашей, внедрена концепция «слышащего государства», нацеленная на то, чтобы знать и правильно реагировать на нужды населения. В этом случае, речевая аналитика является неотъемлемым помощником для страны в целом, и позволяет улучшить жизнь граждан.

– У вас на сайте висит чек-лист для тех, кто сомневается, нужно ли им использовать речевую аналитику. А если б вам самим пришлось такой чек-лист составить по поводу глобального внедрения ИИ? У вас есть сомнения и опасения в целесообразности его применения или сплошные восторги?

– У нас скорее восторги. Для бизнеса развитие ИИ это однозначно плюс. Для человечества – не уверен, как и в части любого новшества. Но в конце концов, все же зависит от нас самих, это же просто инструмент в наших руках. Мы видим, что искусственный интеллект интегрируется в любые сервисы – от образования до медицины. ИИ это просто новая технологическая ступень в развитии цивилизации, и таких ступеней было очень много. Каждый раз это вызывало споры, мрачные прогнозы, многих лишало работы, вынуждало осваивать новые специальности. Вспомним, повсеместное внедрение автомобильного транспорта. Все профессии, связанные с конным транспортом, стали узконишевыми. Многим пришлось переучиться. Фотография вытеснила с рынка много художников, зарабатывавших рисованием портретов. Мы не можем же сказать, что произошла катастрофа в связи с этим. Это и есть развитие, прогресс, сопутствующие ему процессы. Многие люди консервативны и боятся любых перемен. Это не проблема ИИ, поймите, это более широкая проблема, и здесь важно не поддаваться панике, а пытаться рационально осмысливать изменения.

– Расскажите поподробнее, как работает речевая аналитика, и каков интерес к ней казахстанских заказчиков.

– Если говорить о Казахстане, мы начали работать тут сравнительно недавно и пока тестируем рынок, но уже много общаемся с владельцами и первыми лицами крупнейших компаний, которым такие услуги нужны. Обсуждаем первые контакты, а с кем-то уже ведем коммерческую работу. При этом, от партнеров мы взяли всё лучшее - опыт и технологию. Очень важно опираться на многолетние наработки, т.к. бизнес этот высокотехнологичный и достаточно сложный. Поток клиентов очень большой – и МСБ, и крупный бизнес. Рынок растет, и искусственный интеллект – это на самом деле доступно и не дорого. Есть, конечно, и мощные дорогие решения для крупных заказчиков, например, телеком-операторов или банков. Но если небольшая компания занимается оптовой торговлей, ей мы можем предложить облачный сервис, где оплата идет за те минуты, которые были использованы. Мы можем везде внедряться, на любом уровне. Если брать конкретные кейсы, например, ХоумКредитБанк, с которым мы работаем и в России, и в Казахстане, то после внедрения продуктов 3iTech их конверсия звонков в продажи увеличилась вдвое, знание о продукте выросло на 60 процентов, на 34 процента увеличилась коллекторская история, а уровень внутреннего фрода сократился аж на 98%. Представляете себе эффективность и пользу от внедрения речевой аналитики? Работает речевая аналитика следующим образом. Она позволяет найти правильный скрипт для продаж, и даже корректировать его в реальном времени. Мы анализируем разговор, и обнаруживается, что наиболее удачливый продавец использует определенную комбинацию слов в определенной последовательности. Таким образом, выявляются лучшие практики продаж. Далее дело за малым, обучить им всех операторов контакт-центра. Маркетинг компании-заказчика получает расширенную аналитику, которая позволяет совершенствовать сам продукт, тонко чувствовать потребности клиентов. Вот так это работает. Причем, для каждого клиента всё индивидуально, ведь каждый бизнес имеет свои особенности и стандарты, у каждого свои характеристики бренда и продуктов.

“Многие люди консервативны и боятся любых перемен. Это не проблема ИИ, поймите, это более широкая проблема, и здесь важно не поддаваться панике, а пытаться рационально осмысливать изменения.”

– А можно ли использовать речевую аналитику, например, для обучения театральных актеров?

– Да, артисты вполне могут это использовать. Хотя такого кейса у нас еще было. Мы можем синтезировать голос из текста. А дальше, придумайте, как это может помочь артистам в обучении и постановке голоса, выработке интонаций и т.д.

– Пока что возможности ИИ приводят только к более тщательно изготовленным фейкам, вроде недавней псевдоколлаборации Дрейка и Weeknd

– В России мы как раз занимались в том числе и защитой авторских прав. Все претензии насчет возможного плагиата, кто у кого своровал, теперь решаются в рамках досудебного расследования, суда уже не будет, поскольку все моментально вычисляется. Еще раз почеркну, что любая технология, в том числе ИИ, может служить и добру, и злу. Вопрос в человеке, а не в технологии. Давайте смотреть на возможности, которые ИИ открывает, а судебную практику оставим юристам. Согласитесь, что человечество не должно терять такого киберпомощника лишь из-за того, что им решили воспользоваться нечистые на руку люди.

– Речевая аналитика дает нам какие-то дополнительные знания о природе человека как таковой?

– Аудит всего человечества определенно не входит в сферу нашей компетенции. Мы анализируем скрипты и чаты, мы заточены под определенные задачи. Но по голосу можно составить портрет звонящего, и даже его рост. На основе этих данных можно строить очень интересную обширную статистику, было бы желание. Уверен, что социологи и другие ученые будут использовать этот инструмент достаточно широко.

Но, если ваш вопрос намекает на тему сокращения людей, их ненужности в будущем, то я вас успокою. Люди не исчезнут, они просто станут другими, профессии трансформируются, ИИ в полной мере не может заменить человека.

Когда мы приходим к клиенту мы сразу заявляем о том, что мы только в помощь, наш продукт лишь инструмент для повышения эффективности вашего бизнеса и решения бизнес задач компании. По большому счету мы можем поставить голосовой контакт-центр и почти всех людей уволить. Останутся два-три проверяющих. Тем не менее, это же переход на принципиально новую форму работы, это затрагивает управленческие процессы целой компании, и далеко не каждый заказчик может их быстро менять. Это целая революция в отдельно взятом бизнесе, и мало, кто может пройти через такой стресс. Эволюционный путь предпочтительнее, он снижает риски.

Вообще, для чего нужна речевая аналитика? В первую очередь это помощник, который помогает именно людям - операторам становится легче соблюдать скрипты, проводить политику компании, не подделывать результаты. То есть продукт 3iTech не заменяет оператора, а помогает ему и компании в целом. У оператора ведь тоже есть какой-то процент с продаж, поэтому если он знает и соблюдает правила, и хорошо обучен лучшим практикам, естественно, он будет больше продавать. Мы увеличиваем конверсию продаж, а также повышаем лояльность клиентов, что очень важно и дорогого стоит, если разобраться. Если эти показатели улучшаются, то зачем сокращать людей? Наоборот, люди становятся еще ценнее.

Вообще, наш продукт изначально вышел из аналитики. Распознавание речи, по сути, у всех примерно одинаковое на рынке. Но одна из наших сильных сторон – это именно аналитика и, наш первый продукт под названием 3i DataPlexus, был посвящен анализу больших неструктурированных данных. Когда ты умеешь это делать, ты можешь впредь анализировать все что угодно, в том числе и речь. Мы можем работать по огромному количеству параметров и предложить эти решения бизнесу, чтобы он на этой основе мог принимать управленческие решения. Мы не продаем сам искусственный интеллект, мы продаем практические решения на его основе.

“Вообще, для чего нужна речевая аналитика? В первую очередь это помощник, который помогает именно людям – операторам становится легче соблюдать скрипты, проводить политику компании, не подделывать результаты.”

– Недавно в Алматы проходила конференция по кибер-безопасности, где в частности, говорилось о том, что ИИ здорово выручил кибер-преступников, потому что как, правило, английский для них не родной язык и их легко можно было вычислить по обилию ошибок. Но с помощью того же ИИ все они превратились во вполне блестящих стилистов. Как речевая аналитика помогает бороться с такого рода мошенничеством?

– Мы работаем по ключевым словам, есть понятие «облако тегов», это тоже один из наших движков. Представим стандартного банковского мошенника – мы можем фильтровать его речь по ключевым словам и выражениям: «списали деньги», «заблокируйте», «отправьте пин-код» и так далее. Тут важно взаимодействие со службой безопасности самого банка, как вы понимаете. В режиме реального времени с задержкой в пару секунд у оператора высвечивается эта история. Мы, конечно, можем и автоматом все это блокировать, поскольку мы интегрируемся с любыми системами. Это один из важных моментов нашей помощи. Но решение всегда за банком.

– Если сейчас попробовать заняться чем-то в сфере ИИ – насколько, по-вашему, высок или низок порог входа?

– Все зависит от продукта – мы свой продукт разрабатывали шестнадцать лет и до сих пор его совершенствуем. В принципе любой IT-продукт не является финальным, на стадии mvp он был, условно говоря, заточен под нужды продажи абрикосов, а в конечном счете он оказывается востребован в сфере логистики этих же абрикосов. Это вопрос потребностей рынка и решений, которые может дать компания. Если брать речевую аналитику, там порог входа – миллиарды тенге при условии, что ты делаешь собственные движки. И кроме того, это время, а его всегда мало. Поэтому обычно покупаются готовые движки – 3iTech-овские или яндексовские, и на их базе «собирается» сверху какая-то аналитика. Большинство так и поступает, и это не так уж дорого.

У нас семь своих движков, поисковый, распознавание, синтез, транскрибирование, и т.д. 60 процентов рынка работает на наших движках. Где есть речь – там, с высокой вероятностью, есть мы. Многие покупают у нас white label, и продают конечным клиентам под своим именем. Это тоже бизнес.

Продуктов множество, просто сейчас это пошло в массы, людям дали непосредственно попользоваться, и всем сразу стало интересно. Раньше искусственный интеллект был сугубо отраслевым решением, а сейчас не обязательно быть специалистом. Появились чат-боты для широкого круга пользователей. И там порог входа на рынок очень низок. Но и серьезные задачи с такими решениями решать не получится. Проблема чат-ботов на основе генеративных сетей в том, что они могут сильно ошибаться, поскольку они просто подставляют слова в определенной последовательности, т.е. «придумывают на ходу». Кто-то заявляет о «выходе» нейросетей в Интернет, а там, как все мы понимаем, слишком много недостоверной информации. Нашумевший случай с горе-адвокатом в США, который использовал ChatGPT для подбора и представления в суд прецедентов, очень ярко проиллюстрировал всю ненадежность таких решений. В итоге, суд проигран, а адвоката ждет дисциплинарная комиссия, он не проверил достоверность информации.

Отраслевые аналитики, вроде нас, берут только то, что нужно, откуда нужно, из достоверных источников и первоисточников.

“Проблема чат-ботов на основе генеративных сетей в том, что они могут сильно ошибаться, поскольку они просто подставляют слова в определенной последовательности, то есть «придумывают на ходу». ”

– Насколько развитие ИИ будет способствовать децентрализации и утверждению принципов Web 3.0? Или это наоборот увеличит мощь тех IT-гигантов, которые сегодня управляют рынком?

– Лично я вообще не верю ни в Web3.0, ни в децентрализацию. Все и всегда контролируется. Люди вправе думать что угодно, но кто-то должен управлять всей этой историей и искусственным интеллектом в том числе. Я думаю, что и ChatGPT не просто так появился именно в текущий момент времени – поживем-увидим.