ИИ выдал мужчине телефон мошенников вместо проверенной турфирмы
Пользоваться современными инструментами на основе искусственного интеллекта (ИИ) для решения бытовых задач уже вошло в привычку у многих. Один их таких популярных инструментов, которым пользуются и белорусы - “умный” поиск от Google, встроенный в некоторые браузеры. Однако оказалось, что советы ИИ далеко не всегда оказываются не то что умными, но и безопасными. Цена ошибки ИИ, как показала практика, может быть весьма высока.
Это на собственном опыте испытал Алекс Ривлин, владелец агентства недвижимости в американском Лас-Вегасе, историю которого рассказало издание The Washington Post.
Планируя свой отпуск в Европе, для поиска подходящей турфирмы он, как и большинство людей в наши дни, пошёл в интернет - открыл Google Search и воспользовался подсказкой Google AI Overviews. Тот выдал ему номер телефона службы поддержки клиентов туристической компании, куда он, без дополнительных поисков по интернету, и позвонил.
Google AI Overviews - обзоры ИИ от компании Google - функция поисковой системы Google, которая представляет собой сгенерированные искусственным интеллектом сводки информации, которые при запросе на поиск в браузере выдаются в верхней части результатов. Эти обзоры основаны на большой языковой модели Google Gemini и синтезируются на основании информации из нескольких источников.
Разговор мужчины с представителем круизной компании Royal Caribbean был весьма убедительным: консультант рассказал клиенту обо всех деталях стоимости тура и дал другую информацию, необходимую для оформления заказа, и даже предложил скидку. Ривлин тут же оплатил выбранный тур, сделав перевод по карте на 768 долларов, но на этом история не закончилась. В скором времени мужчина заметил новые крайне подозрительные транзакции по своей банковской карте.
По данным Washington Post, “консультант”, с которым разговаривал мужчина по телефону, оказался вовсе не представителем турфирмы, а мошенником-скамером.
Скам — это вид интернет-мошенничества, при котором человека убеждают самостоятельно перечислить деньги злоумышленникам или совершить платеж в их пользу.
“Я довольно технологически продвинут, и тем не менее я повёлся”, — поделился своим печальным опытом мужчина, возмутившись, что номер мошенника ему выдал искусственный интеллект.
Впрочем, для самого мужчины дело закончилось благополучно: он вовремя обратился в банк, потребовал заблокировать карту, что позволило ему вернуть свои средства.
Как такое возможно?
Эксперты объясняют, что номера мошенников широко публикуются на форумах, сайтах с отзывами и других сайтах. Как правило, их опубличивают те, кто сам попался на уловку мошенников или был выбран в качестве жертвы, но вовремя раскрыл преступный замысел звонившего.
Алгоритмы Google считают эти источники достоверными и, если контактные данные часто повторяются, давно присутствуют в Сети и не фигурируют в отчетах по безопасности, ИИ вполне может рассматривать такие данные как верные. В результате AI Overviews, ChatGPT и другие аналогичные инструменты на базе ИИ могут скопировать эту информацию, опираясь на те же источники, что и поисковая система, и выдать её пользователю, сыграв на руку мошенникам.
Более того, эксперты предупреждают, что мошенники используют старые методы манипуляции, которые теперь работают с новыми инструментами ИИ. Именно поэтому специалисты рекомендуют не следовать слепо советам ИИ, а перепроверять информацию на официальных сайтах компаний, ведомств, ресурсов.
Ранее Telegraf.news рассказывал, что белорусская милиция рекомендовала для защиты от мошенников в интернете всегда тщательно проверять адрес сайта, на котором вы ищите информацию, проявлять осторожность при переходе по ссылкам и особенно - при подтверждении банковских транзакций на сторонних сайтах.
Милиция рассказала белорусам, как не попасться на удочку мошенников в новом сервисе Wildberries