Как использовать AI Voice Tools для предотвращения мошенничества


Изображение предоставлено: Zapp2Photo / Shutterstock

Хотя инструменты голосового искусственного интеллекта могут помочь компаниям остановить мошенничество с кредитными картами, эта новая технология также может представлять новые риски.

ИИ, который может пройти тест Тьюринга, был чем-то вроде святого Грааля для некоторых компьютерных ученых, так как математик Алан Тьюринг разработал тест, чтобы определить, достаточно ли хорошо компьютер использует язык, чтобы принять его за человека. В 2018 году Google показал, что его дуплексный AI-помощник может записываться на приемы в салоне и бронировать столики по телефону с реальными людьми. Общественный резонанс варьировался от впечатления до скептицизма и почти до паники, так как наблюдатели и ученые отрасли рассуждали о возможных применениях голосового ИИ, который звучит по-настоящему человечески. Одно из возможных применений – для лучшего предотвращения мошенничества. Но та же технология может также усилить атаки мошенников. Вот что владельцы малого бизнеса должны знать о том, что ИИ может сделать для вас сейчас, на что способны новые поколения ИИ и как безопасно использовать ИИ для бизнеса.

В сообществе специалистов по науке ведутся споры о том, открывает ли Google Duplex дверь для более сложных и широкомасштабных приложений ИИ, которые проходят тест Тьюринга, и могут ли эти достижения произойти в ближайшее время. Несмотря на это, даже такие приложения, как Duplex, которые имеют узкую сферу действия, могут в конечном итоге изменить способ управления мошенничеством с онлайн-платежами. Определяющим элементом, вероятно, будет не сама технология, а намерение людей, использующих ее.

Как ИИ, прошедший тест Тьюринга, может помочь предотвратить мошенничество

Люди уже могут общаться в чате, писать текстовые сообщения и разговаривать по телефону с роботами, но разговоры, как и в Google Duplex, ограничены по объему. Также легко сбить с толку сегодняшних роботов по обслуживанию клиентов с неожиданным вопросом или сильным акцентом. Но если ИИ обслуживания клиентов, особенно голосовой ИИ, в конечном итоге пройдет тест Тьюринга за пределами очень узкой области, которую сделал Google, то эта технология может упростить компаниям прекращение мошенничества с кредитными картами, приняв некоторые сложные, но важные телефонные переговоры.

В настоящее время мошенничество с кредитными картами в Интернете (мошенничество с отсутствием карт или CNP) является растущей проблемой для компаний любого размера, отчасти потому, что очень многие преступники имеют доступ к нарушенным данным о потребителях. У компаний есть два способа обработки онлайн-заказов, которые – после анализа ряда факторов, таких как адрес доставки, местоположение IP-адреса, история покупок и т. Д. – могут показаться мошенническими, но не поддельными.

Первый вариант – просто отклонить эти сомнительные приказы. Проблема с этим подходом состоит в том, что если заказ не был мошенничеством, отклоненный клиент может быть настолько расстроен, смущен или рассержен, что никогда больше не совершит покупки в компании. Это распространенная и дорогая проблема. В 2016 году торговцы потеряли на 2 миллиарда долларов больше из-за этого ложного снижения заказов, чем из-за фактического мошенничества с CNP.

Второй вариант – вручную просмотреть каждый подозрительный заказ. В некоторых случаях рецензенты-мошенники должны позвонить клиенту, чтобы убедиться, что он действительно совершил покупку. Эти голосовые разговоры требуют умения собирать информацию, не вызывая обвинений, и они требуют ресурсов компании для совершения звонков в удобное время для клиентов, независимо от того, в какой части света они находятся.

Поскольку проверка вручную требует значительных ресурсов, не все компании могут позволить себе сделать это самостоятельно. Другие пытаются, но обнаруживают, что этот процесс останавливает процесс утверждения заказа в праздничные и другие загруженные сезоны. Инструменты голосового ИИ, которые проходят тест Тьюринга, могут взять на себя часть этой рабочей нагрузки и, при наличии достаточного количества данных, поступающих в систему, возможно, станут лучше, чем люди, обнаруживая тонкие словесные подсказки, указывающие на мошенничество. В то же время аутсорсинг стороннему поставщику услуг ручной проверки может снизить нагрузку на бизнес.

Как мошенники могут использовать ИИ, который проходит тест Тьюринга

Конечно, такой продвинутый голосовой ИИ также может быть использован преступниками, которые хотят более эффективно совершать мошенничество. Как написал эксперт по кибербезопасности Дэвид Гервитц вскоре после демонстрации голосового AI в Google, более совершенные версии этой технологии могут использоваться для мошенничества по телефону. Голосовой искусственный интеллект, который проходит тест Тьюринга, теоретически может выдавать себя за потребителей, звонящих по заказам, представителей службы поддержки, звонящих с вопросами, или за конкретных людей, таких как политики, которые требуют пожертвований.

Системы ИИ также могут быть обмануты включением визуальных или звуковых сообщений, которые заставляют нейронную сеть думать, что она имеет дело с противоположностью того, что она видит или слышит, даже если вещи кажутся нормальными для людей. Исследователи уже показали, что они могут встраивать инструкции для голосовых помощников в аудиофайлы, которые люди не могут обнаружить. В одном случае звуковая новость содержала «тихие» инструкции по отключению системы сигнализации цели и открытию входной двери. Представьте себе, что такая атака нацелена на ИИ службы поддержки пользователей электронной коммерции, чтобы отменить мошенничество и развернуть его в масштабе.

Все возвращается к людям

Эти сценарии пока надуманы, но в области кибербезопасности и предотвращения мошенничества каждый новый шаг несет новые риски. Нет оснований полагать, что системы голосового ИИ, прошедшие тест Тьюринга, будут другими. Это означает, что, когда компании смогут наконец использовать искусственный голосовой ИИ для тестирования Turing, чтобы защитить себя от мошенничества, им также необходимо будет разработать меры предосторожности, чтобы помешать преступникам, которые хотят использовать эту передовую технологию против них.

Что могут сделать малые предприятия, чтобы получить преимущества современного ИИ, не подвергаясь ненужному риску?

Во-первых, понять, на что способны современные инструменты ИИ. Устройства голосового помощника, чат-боты обслуживания клиентов и алгоритмы предотвращения мошенничества – это мощные инструменты, которые могут сэкономить ваше время и деньги, если вы объединяете их с человеческим надзором, чтобы предотвратить нарушения, плохое обслуживание клиентов или ложное отклонение заказов. Далее, будьте осторожны при использовании личных помощников на базе AI для решения таких важных бизнес-задач, как управление системой охранной сигнализации и банковское дело. Наконец, следите за новостями о видах ИИ, которые использует ваш бизнес, чтобы быть в курсе новых функций, функций и проблем безопасности, поскольку ИИ становится все более изощренным.

Рафаэль Лоуренко

Рафаэль Лоуренко является исполнительным вице-президентом в ClearSale, операции по предотвращению мошенничества с отсутствием карточек, которая защищает продавцов электронной коммерции от возвратных платежей. Флагманский продукт компании, Total Guaranteed Protection, представляет собой комплексное решение для обнаружения мошенничества на стороне для интернет-магазинов. Следуйте в твиттере на @ClearSaleUS или посетите http://clear.sale/.

Понравилась эта статья? Подпишитесь на более отличный контент.

Быть частью Business.com

Уже вступил?
Войти в систему.

Мы будем рады услышать ваш голос! Войдите, чтобы комментировать.