Некто на другом конце провода выдает себя за вашего родственника, сообщая об экстренной ситуации, требующей денежных переводов. Пока что эта "схема" ограничивалась тянущей на "Оскар" дочкой в аварии. Но поправки вносят новые технологии - о том, как мошенники в точности сымитировали его голос искусственным интеллектом, рассказал председатель правления одного из столичных вузов на форуме по безопасности в Сети, который прошел 4 июня.

Фото Диаса СУЛЕЙМЕНА

Форум «Как распознать финансовые пирамиды, кто такие дропперы и другие советы, как не нарушить закон» провело Агентство по финансовому мониторингу в Maqsut Narikbayev University. К онлайн-конференции подключились студенты и персонал 35 вузов страны. Костанайская молодёжь слушала форум в конференц-зале КРУ вместе с его ректором и педагогами.

Скериншот трансляции

- Недавно я лично столкнулся с тем, что от моего имени нашим сотрудникам звонили злоумышленники, имитируя с помощью новых технологий мой голос, - рассказал председатель правления Maqsut Narikbayev University Талгат НАРИКБАЕВ. - Ну практически идентичный голос. Представились мной, сказали, что необходимы определённые данные. И вот только незнание моих речевых привычек выдало мошенников.

Он поделился практикой борьбы вуза с плохими последствиями развития ИИ. Нет, в учреждении не разрабатывают план по защите человечества от злых роботов. Может, позже и этим займутся. Ну а пока до восстания машин далеко, вуз рассматривает проблему куда прозаичнее - ИИ-жульничество студентов.

- Даже в академической сфере существенно возросли риски нечестности с появлением новых технологий, генеративного искусственного интеллекта, - отметил Нарикбаев. - Некоторые студенты используют ChatGPT, чтобы сдать экзамены. Это тоже мошенничество. Мы практически полностью перешли на письменный формат экзаменов с физическим присутствием в аудиториях и контролем. Других вариантов уже нет. Под эгидой Лиги академической честности нами разработано руководство по использованию искусственного интеллекта в академической сфере. Это наш опыт и мы распространяем его в другие университеты.

Фото Диаса СУЛЕЙМЕНА

Надеемся, мем о том, как человек будущего с ужасом узнаёт в своём хирурге сокурсника, чью диссертацию в меде написал ChatGPT, так и останется всего лишь мемом.

Министр науки и высшего образования РК Саясат НУРБЕК подчеркнул, что последние открытия нейронаук и других направлений, изучающих мозг, став общедоступными, попались на глаза и мошенникам. Теперь они больше знают о поведении человека, процессе принятия решений и манипулировании:

Фото Диаса СУЛЕЙМЕНА

- Мошенники очень хорошо понимают, как человек принимает решения. Они очень хорошо манипулируют сейчас людьми. И, конечно, в первую очередь попадают наши дети, наши подростки, наши студенты. Потому что достигло совершенства понимание моделей поведения человека. Поэтому, пожалуйста, берите на вооружение науку. Есть несколько очень хороших книг, которые хорошо было бы прочитать.

Формат трансляции не позволил задавать участникам форума вопросы, но очевидно, что министр науки говорит о книгах «Думай медленно... решай быстро» Даниэля Канемана и «Nudge» Касса Санстейна и Ричарда Талера. Канеман и Талер в разные годы получили Нобелевскую премию за вклад в развитие поведенческой экономики - молодой науки, изучающей то, какие особенности человеческого мозга могут использовать в своей работе главы центробанков, маркетологи и телефонные мошенники.

Название второй книги Нурбек частично произнёс - когда говорил о наджинге, теории мягкого подталкивания человека на выполнение тех или иных действий от правильного питания до откладывания в пенсионный фонд.

- К сожалению, всё это в открытом доступе стало сейчас достоянием и мошенников. Те приёмы, те механизмы, которыми пользуются мошенники, надо понимать и учить, как раньше нас учили: "Переходишь дорогу? Посмотри направо, потом налево; красный, жёлтый, зелёный..." И в этой сфере формируется уже определённый порядок. Любой современный человек теперь, помимо всего остального, должен понимать, когда его обманывают.

Если какая-то соцсеть будет распространять противоправный контент, её частично или полностью заблокируют в Казахстане. Однако судьба любимых платформ - в руках пользователей. Об этом сообщила министр информации и общественного развития РК Аида БАЛАЕВА:

Скериншот трансляции

- Я прошу, дорогие молодые граждане нашей страны, всегда проверять любую информацию на то, ложная она или не ложная. Призываю всех рядовых пользователей осознавать свою ответственность. Если любая социальная сеть будет распространять противоправный контент, в том числе несущий угрозу национальной безопасности, будет игнорировать наши рекомендации по модерации, то обязательно эти платформы будут частично или полностью заблокированы. Поэтому, если вы хотите, чтобы ваши любимые социальные сети функционировали, пожалуйста, всегда проверяйте контент. И прежде, чем поделиться, убедитесь, что он достоверный.