Новейшие технологии: Мошенники используют чат-боты для обмана. Преступники все чаще прибегают к использованию чат-ботов в своих злонамеренных целях, согласно утверждениям специалистов. Это касается как мошенников, так и других лиц, нарушающих закон.
Новейшие технологии: Мошенники используют чат-боты для обмана
Израильская компания Adversa AI обратила внимание на то, что криминальные элементы активно используют нейросети в своих действиях. Её эксперты провели атаки на несколько чат-ботов, выявив, что эти боты могут обойти ограничения, установленные разработчиками. В результате исследования стало известно, что как минимум один из этих ботов предоставлял опасные рекомендации, включая советы о производстве яда или подходе к потенциальной жертве для сексуальных преступлений.
В интервью газете “Известия” ведущий эксперт отдела разработки и тестирования компании “Код безопасности” Александр Самсонов рассказал о том, как преступники используют искусственный интеллект в киберпространстве. Он уточнил, что чат-боты стали популярным инструментом для разработки вредоносных кодов и написания фишинговых сообщений. По словам эксперта, эти инструменты помогают хакерам сокращать время и увеличивать количество кибератак.
Глава группы аналитиков по информационной безопасности Лиги цифровой экономики Виталий Фомин приводит ещё один пример. В прошлом году была обнаружена схема, с помощью которой мошенники рассылали QR-коды, попадавшие на столы учреждений, ответственных за социальные выплаты. Ссылки вели на чат-бот, который запрашивал у пользователей банковские данные. В результате жертвы теряли не только доступ к социальным выплатам, но и свои сбережения.
Чат-боты, созданные с применением искусственного интеллекта, стали популярным инструментом для скамеров. Они используют ИИ для формирования убедительных текстов, способных вызвать доверие у пользователей. Это особенно эффективно в случае наличия языкового барьера между преступником и потенциальной жертвой.
Разработчики ИИ-моделей активно работают над улучшением своих продуктов, чтобы сделать их менее уязвимыми для хакеров. Они применяют различные техники, такие как Alignment with human values (AWHV), для дообучения нейронных сетей. Однако преступники постоянно анализируют возможности использования чат-ботов и находят новые способы обхода ограничений. Они активно обмениваются новыми методиками на форумах в даркнете.
Эксперты отмечают, что использование чат-ботов имеет и положительную сторону. Они могут быть задействованы в работе правоохранительных органов, упрощая поиск информации по открытым источникам для сотрудников правопорядка. Кроме того, при наличии соответствующего юридического обоснования, правоохранительные органы могут получать доступ к истории запросов пользователей в диалогах с чат-ботами, что позволяет выявлять и предотвращать потенциальные преступления.
Больше информации для отдыха и развлечений Вы найдёте здесь
