Как узнать что тебе пишет бот

«Как отличить бота от человека?» — данный вопрос стоит довольно остро, потому что ботов с каждым днем становится все больше и больше. Боты, они же роботы, — это специальные программы, которые выдают себя за живых людей на форумах, в соцсетях и мессенджерах. Такие программы иногда могут быть полезными, но чаще приносят неудобства и вред. Не нужно путать их с по-настоящему «полезными» ботами, например, такими как поисковые боты, которые «гуляют» по сайтам в поисках нужной нам информации и улучшают качество поиска.

Ботов можно встретить абсолютно везде, особенно они получили распространение в соцсетях и мессенджерах. И там и там они могут выполнять вполне полезные действия: 

  • вести страницу соцсети;

  • постить контент в соцсети или в группе мессенджера;

  • отвечать на простые вопросы пользователей в мессенджерах и личных сообщениях;

  • и др.

Но очень часто боты раздражают своим поведением и откровенным спамом. К таким ботам нужно применять соответствующие меры, например: блокировка или «черный список», а также можно сообщить о наличии спам-бота технической поддержке ресурса. Поэтому очень важно знать, как можно отличить бота от человека.

 

Как отличить бота от человека?

Бот, который не приносит вреда, сразу акцентирует внимание на том, что он бот: такие боты есть и в соцсетях, и в мессенджерах, и на форумах к ним и отношение лояльное. Но есть боты, которые всячески скрываются и стараются вести себя как люди, — таких нужно уметь распознавать.

Отличить бота от человека можно, но способы, как это сделать, будут зависеть от того, где вы пытаетесь вычислить робота. Например, для соцсети будут одни способы, для чатов другие. В общем, давайте разбираться и брать на вооружение необходимые инструменты.

 

Как отличить бота от человека в чатах мессенджеров

Если бот в чате не обозначил себя как бота, значит, он имеет какую-то собственную цель. Обычно это сбор информации о вас с целью потом ее дальше передать или использовать для рекламы чего-либо. Поэтому таких «скрытых» ботов отличает от живых людей в первую очередь желание узнать о вас максимально много личной информации. Чтобы этого не произошло, нужно помнить о нескольких свойствах, присущих ботам:

  1. Последние события. Чаще всего боты не владеют последними новостными событиями. А это значит, что можно «повернуть» ваше общение и попробовать обсудить последние новости, и при этом обязательно наблюдать за тем, как поведет себя ваш «собеседник».

  2. Юмор хромает. Обычно боты юмором не блещут. Он присутствует, но в очень примитивном состоянии, поэтому робот не способен распознать шутку в контексте вашего сообщения. Тем более бот не способен распознать сарказм, поэтому он его воспримет буквально. Попробуйте применить такой прием и отследить реакцию своего оппонента.

  3. Орфографические ошибки. Ошибки и опечатки (желательно несколько в одном слове) могут бота поставить в тупик, потому что он будет не готов к этому. При этом живой человек может распознать такой текст без проблем. Попробуйте и этот прием.

  4. Сокращенные слова. Это тоже относится к серии «трудности распознавания». Используйте в своем диалоге сокращения слов — так есть высокая вероятность, что бот их не поймет. Помимо сокращения слов, примените еще и сокращение предложений. Боту сложно распознать контекст сообщения, поэтому вам будет легче понять, кто находится по ту сторону экрана.

Вообще, боты в чатах мессенджеров распознаются несложно, и чаще всего это происходит на интуитивном уровне, потому что бот ведет себя как-то не естественно, как не подобает живому человеку. В любом случае всегда нужно быть начеку и в чатах не давать никакой личной информации, которая вас может скомпрометировать. Если ведется деловой разговор о продажах или покупках, то лучший способ выяснить, с кем вы переписываетесь, — это вывести диалог на разговор «голосом». Если ваш собеседник по каким-то неестественным причинам отказывается разговаривать по телефону, то это уже первый звоночек, что творится что-то неладное.

 

Как отличить бота от человека в соцсетях и форумах

В соцсетях и форумах есть явные боты, которых и отличать не надо, — они занимаются откровенным спамом и рассылкой неприемлемой информации. Но есть аккаунты, с первого вида напоминающие аккаунты живых людей, — с такими сложнее, но распознать их можно. Поэтому важно знать, по каким свойствам можно отличить бота от живого человека в соцсетях или форумах.

Сегодняшнее строение ботов в соцсетях — это целое искусство, потому что нужно фактически «клонировать» живого человека, чтобы не вызывать подозрений. Для этого делают следующее:

  1. Находят некий аккаунт в соцсети, который подходит под нужные параметры.

  2. С аккаунта полностью копируют всю информацию: аватар, фотоальбомы, основную информацию, видео, музыку.

  3. Заполняют свой фейковый аккаунт иногда в этой же соцсети, иногда в другой.

  4. Добавляют несколько друзей, оставляют несколько постов, делают несколько лайков и репостов.

На такую подготовку аккаунта уходит не более часа времени, при этом получается заполненный и немного активный аккаунт. Но наша задача отличить аккаунт бота от аккаунта живого человека. Для этого нужно обратить внимание на следующие действия:

  1. Проследите за активностью подозрительного аккаунта. Если этот аккаунт пиарит, лайкает, делится одним и тем же сайтом, порталом или постом, то тут все ясно. Тем более если этот ресурс будет из разряда «непопулярных» тем: сайты для взрослых, онлайн-казино, кредитные организации, политические ресурсы и др.

  2. Посмотрите друзей этого аккаунта. Для обычного человека слишком много друзей — это подозрительный факт. Однако не нужно путать популярных людей: музыкантов, блогеров, бизнесменов, политиков и т. д. — тут нормально иметь много друзей. Если друзей немного, то имеет смысл посмотреть, кто они. Если в друзьях такие же боты, то все ясно. Если небольшое количество друзей добавлены за один день и в течение одного часа, то тут тоже все ясно — перед вами, скорее всего, бот.

  3. Посмотрите на фотографии аккаунта. Если на фото нет людей, а лишь картинки, то есть вероятность, что это бот. Но самое главное посмотрите на дату их добавления: если в аккаунте несколько десятков фотографий (даже одного человека!), но они добавлены за один день, то это тоже повышает шансы того, что перед вами бот.

  4. Напишите в «личку». Это типичная проверка на «живучесть». Если не ответит, то есть вероятность, что перед вами бот. elslots.online

  5. Посмотрите на оценки, комментарии и на то, кто делился постами вашего аккаунта. Если каждый раз это небольшое количество одних и тех же людей, то есть вероятность, что перед вами бот. Не лишним будет посмотреть профиль «комментирующих», похожи ли они на живых друзей нашего предполагаемого бота? Есть ли в комментариях диалог между владельцем аккаунта и комментирующими?

Любые подозрительные действия или вещи в проверяемом аккаунте должны вас насторожить. Но и тут все может бытьнеоднозначно. Может произойти такая ситуация, что аккаунт настоящего живого человека был взломан и с него рассылается спам. Или аккаунт живого человека, однако его владелец не любит выставлять свои фото напоказ и практически не занимается им, лишь периодически делится в нем ссылками с любимого сайта, возможно, даже своего. Это все к тому, что любой анализ должен быть тщательным. А лучше поступать так: если вы не публичная личность, то добавляйте только тех людей в друзья, которых знаете лично либо которых знают ваши друзья, а на любые сомнительные аккаунты просто не реагируйте.

 

Заключение

Создать бота — это искусство, но отличить бота от человека — это тоже искусство, и хорошо, что вы уже знаете, как это можно сделать. В любом случае нужно взять на вооружение простой подход:

  • никогда не вести диалоги личного характера с незнакомыми вам людьми;

  • если есть хоть малейшее подозрение в достоверности аккаунта в соцсети или на форуме, то обходите его стороной.

Помните! Ваша информационная безопасность находится только в ваших руках. Вы всегда только своими руками или действиями передаете собственную информацию злоумышленникам. А злоумышленники придумывают все новые и новые способы, чтобы вы это сделали.

Регистрируясь в приложении или на сайте знакомств,
вы заранее готовитесь к худшему – мало лайков, много извращенцев, меркантильные
барышни, мошенники и фейки. Вы боитесь, что вам попадутся не очень порядочные и
честные люди. А что если… вам попадутся и вовсе не люди?

Дэйтинг-платформы кишмя кишат ботами. Зачем
кому-то тратить столько времени и усилий на создание программы, которая будет
общаться с доверчивыми пользователями? Затем, чтобы как следует «раскрутить»
этих самых пользователей.

«Мне нужна твоя одежда. И мотоцикл», – так вы
представляете себе встречу с ботом? Отнюдь. Боты не столь прямолинейны. Да и
одежда ваша им не нужна.

Им нужны ваши деньги.

О чем вы вообще?

Боты или чатботы
– это компьютерные программы особого назначения. Они должны отправлять
исходящие и оперативно реагировать на входящие сообщения. Они есть на многих
сайтах и зачастую они выполняют весьма полезные функции. Но сейчас речь идет о
более «меркантильных» ботах.

Менее продвинутые боты имеют весьма скудные
коммуникативные навыки. Они отвечают топорно и порой не к месту. Более развитые
боты способны поддерживать переписку – они выхватывают слова из вашего
сообщения и ищут наилучший вариант ответа.

Как мы уже сказали, «хорошие» боты есть на многих
крупных сайтах – они помогают пользователям найти нужную информацию, оставить
запрос и т.д. «Плохие» боты орудуют на сайтах знакомств, выманивая у вас деньги
и личную информацию.

Порой они задают сомнительные вопросы прямо. Но
некоторые боты действуют более изящно – кидают ссылки сомнительного содержания.

Признаки того, что ты общаешься с ботом

Рассмотрим признаки, по которым вы можете
определить, что ваш привлекательный собеседник на самом деле состоит не из
плоти и крови, а из хитроумного кода.

  • Что к чему вообще?

Он или она ответили вам, но сообщение не несет
никакого смысла, словно собеседник не читал вашего вопроса вообще?
Подозрительно. Разумеется, бывают нерадивые собеседники и среди живых людей. Но
если ответы слишком часто оказываются не к месту, велик риск, что вы общаетесь
с ботом. Еще один сигнал – бот внезапно пишет вам что-нибудь вроде «хочу
обнимашек», «мне так одиноко» и т.д., хотя вы интересовались его мнением по
поводу Ким Чен Ына. Странно, что ваша подруга возбудилась от разговоров о
северокорейском диктаторе, не находите?

девушка смотрит в бинокль

  • Неиндивидуальный подход

Если вам кажется, будто собеседник отвечает вам
общими обезличенными фразами, а беседа как будто движется по определенному
сценарию, поздравляем! У вас бот! Не обижайтесь на его неуклюжесть – он просто
действует согласно скрипту. Ему всего-то надо выманить у вас денежки или
заставить покликать по паре ссылочек.

  • Одинаковые сообщения

Вы только что получили одно и то же сообщение
дважды? Это либо низкоуровневый бот, запрограммированный на отправку
определенных сообщений, либо бот, который читает одно и то же ключевое слово в
двух ваших разных сообщениях и думает, что они заслуживают точно такого же
ответа.

  • Финансовая информация

Некоторые мошеннические боты запрограммированы на
отправку скриптовых сообщений с просьбой денег (или другой финансовой
информации) после того, как пользователь проявит интерес к их профилю. Помните:
даже если это не бот, любой пользователь, который просит у вас деньги или
личные данные — мошенник! Не отправляйте им никаких денег и не делитесь с ними
никакой информацией!

девушка на розовом фоне в платье

  • Ссылки, которых вы не просили

Вам только что скинули подозрительную ссылку.
Непонятно, куда она ведет, но внутренний голос говорит вам не открывать этот
ящик Пандоры. Есть несколько вариантов – перейдя по ссылке, вы невольно
передадите мошенникам личную информацию, либо же с вас попытаются снять деньги.
Есть также вероятность, что ссылка ведет на порносайт. Понимаем, что некоторых
это не пугает, но все же.

Некоторые боты работают на сайты знакомств –
помогают продавать платные функции. Но есть и те, что всеми силами пытаются
увести вас с сайта куда подальше. Куда именно? Лучше не проверять.

  • Продавец года

Если вы разговариваете с кем-то, и он неестественно
продвигает продукт или веб-сайт, это либо бот, либо другой тип поддельного
аккаунта. Реальные люди, ищущие реальных отношений, обычно упоминают продукты
только как естественную часть разговора (например, когда вы спрашиваете их об
их профессии, и они отвечают, что работают на определенный бренд).

две девушки стильное фото

  • Платные функции

Ну и наконец мы добрались до ботов, которых
подкармливают сами сайты знакомств. Особенно они распространены на тех
платформах, что требуют оплату за каждое сообщение, подарок, лайк и т.д. В
массе своей это профили сексуальных красоток. «Девушки» с красивыми
фотографиями лайкают мужские аккаунты, заходят к ним на страницы (если есть
функция «Гости») и отправляют сообщения подобного рода: «Привет. Почему не
отвечаешь?»

Как это работает на некоторых платформах? Вы
видите уведомление о том, что вам поставили лайк. Обрадовавшись, решаете
узнать, кто это, но фотография пользователя размыта, а информация недоступна.
Хочешь увидеть свою судьбу – плати.

Некоторые боты могут настойчиво приглашать вас
посетить другие ресурсы, если это выгодно администрации. Например, если у них
есть партнерка с другим ресурсом и за каждого посетителя им приходит процент.

Другая цель ботов – заставить вас остаться на
сайте надолго. Только вы зарегистрировались, как вас начали осыпать лайками и
сообщениями. Вы буквально купаетесь в женском (мужском) внимании. Оплатить
платную подписку? Что ж, почему бы и нет! Сайт-то отличный, да и я сегодня в
ударе!

девушка держит фото поцелуя

Как понять, что вас пикапят боты, а не реальные
пользователи? Однотипные сообщения («Привет! Пообщаемся?»), однотипные
фотографии и анкеты. Некоторые чатботы буквально подстраиваются под своих жертв
– меняются возраст, геолокация и интересы.

Стоит вам оплатить подписку, как вам перестают
писать сообщения. И лайками больше никто не балует. Перекати-поля лишь не
хватает.

  • Перебор

Ваш собеседник общается с вами чересчур
официально, словно вы не на сайте знакомств, а на ужине у британской королевы?
Или же он злоупотребляет эмодзи, сленгом и прочим? Скорее всего, это бот. Они
не умеют менять ход беседы так быстро, как люди, и порой этим себя выдают.

Но чатботы эволюционируют семимильными шагами, так
что будьте начеку.

Хорошо, моя конфетка? 🙂

девушка красится

  • Ошибки

Скольких из нас автозамена подставляла в самый
неподходящий момент! А сколько запятых мы пропустили или насажали там, где не
надо? Ошибки – это нормально, так как все мы люди.

Ну, почти все.

Боты пишут иначе, а значит и ошибки у них другого
толка. Странная пунктуация и расстановка пробелов – красный сигнал тревоги.

  • Мгновенный ответ

Так приятно, когда на твои сообщения отвечают
практически мгновенно! А вот стоит собеседнику затянуть с ответом, как мы
погружаемся в самокопание:«Ему неинтересно со мной», «зря я написал пять
сообщений сразу, надо было подождать ответа».

Люди не отвечают на сообщения мгновенно. Даже если
мы ничем не заняты или отложили все дела ради собеседника, мы физически не
способны прочитать сообщение, обдумать его и придумать ответ за секунду.

девушка с пылесосом

А вот у ботов с этим проблем нет.

  • Ушел по-английски

Все вроде шло хорошо, вам показалось, что между
вами взаимная симпатия. Как вдруг общение резко прекратилось. Здесь два
варианта – собеседник «слился», не захотев ничего объяснять, либо бот исчерпал
весь свой словарный запас и пошел искать новую жертву.

И в том и в другом случае не стоит расстраиваться
– закройте этот диалог и идите дальше.

Ловля на живца

Красный сигнал тревоги – слишком уж много
странного вы заметили в поведении своего собеседника. Пришло время подвергнуть
его бот-проверке:

девушка в солнечных очках

  • Задавайте сложные вопросы;
  • Задавайте странные вопросы
    («Могу ли я засунуть слона в рюкзак?»);
  • Напишите «Хмм». Боты не знают,
    как реагировать на междометия. Они попытаются выкрутиться: «Расскажи
    поподробнее»;
  • Напишите случайный набор букв и
    проследите за реакцией;
  • Используйте сарказм.

Да прибудут с вами лайки, свайпы и мэтчи от живых
людей, общаться с которыми интереснее, чем с ботами!

Онлайн-отношения зачастую развиваются быстрыми темпами. Намного проще задавать человеку интимные вопросы онлайн. Вы можете скрыться за завесой компьютерного монитора и выйти из аккаунта. Тем не менее, иногда нельзя проверить, кто находится по ту сторону экрана. И после того, как ты поделился своими сокровенными секретами с таинственным незнакомцем/незнакомкой, очень грустно осознавать, что это был бот.

Такие машины не служат какой-либо цели, кроме сбора информации о вас. Впоследствии эти данные можно будет использовать даже для криминальной деятельности. Вот что нужно делать, чтобы защитить себя от таких ситуаций.

Чат-бота очень просто определить, если знать, что искать в онлайн-разговорах. Самые эффективные чат-боты – те, которыми управляют настоящие люди. Но за большинством машин не стоит человек, и они ведут себя «искусственным образом». Даже если они сопереживают вам, вы все равно будете чувствовать неестественность. Вот как их можно распознать:

Быстрые ответы

Чат-боты быстро думают. Чтобы зарегистрировать то, что вы говорите, и написать вам ответ, им требуется доля секунды.

Повторение

Что? Ты просто повторяешь то, что я сказал? Чат-боты зачастую повторяют то, что вы им говорите. Они запрограммированы таким образом, чтобы имитировать «мышление». Вместо естественной паузы они будут повторять то, что вы сказали.

Законченные предложения

В общении онлайн мы почти никогда не используем законченные предложения. Мы также допускаем ошибки. Мы используем фразы, короткие предложения, эмодзи, чтобы выразить свою точку зрения. Чат-бот запрограммирован говорить на «деловом» языке.

Странный синтаксис

Чтобы воспроизвести человеческую речь, боты пытаются допускать грамматические ошибки; тем не менее, они будут повторять те же опечатки весь разговор. Если вы часто видите между словами, например, два пробела, это один из признаков того, что с вами общается бот.

Интимные вопросы

Чтобы узнать о вас и о том, как вам лучше отвечать, боты будут задавать вам много вопросов. Эти вопросы могут быстро стать интимными. Если вам начинает казаться, что вас вынуждают поделиться личными подробностями своей жизни, которые вы не собирались рассказывать в интернете, это хороший признак прекратить отношения. Онлайн-отношения не должны требовать полной открытости и внимания.

Обмен ссылками

Чат-боты также зачастую отправляют вам ссылки, зависящие от темы разговора. Люди делают это редко. В обычных отношениях у людей, как правило, нет времени выполнять несколько задач одновременно и искать информацию в гугле, общаясь с вами.

Фото: Unsplash

Какие вопросы можно задать чат-боту, чтобы вывести его на чистую воду?

Задайте боту интимные вопросы

Если ваш собеседник завалил вас вопросами личного характера, сделайте то же самое. В итоге вы получите странные и искусственные ответы, если с вами общается машина.

Используйте юмор

Чат-боту сложно воспроизвести юмор на всех уровнях. Используйте сарказм. Робот выдаст себя очень быстро.

Обсуждайте новости и текущие события во всех подробностях

Чат-боты часто вынуждены искать информацию, которой они не обладают. Если вы начнете обсуждать с ними новости и текущие события, вы легко собьете их с толку.

Попробуйте отвечать одним словом

Когда вы говорите «эм», «почему», «как», не добавляя деталей, чат-бот не обладает контекстом, чтобы ответить на вопросы. Задавая машине такие вопросы, вы выведете ее на чистую воду.

Определив чат-бота, вы можете прекратить разговор. Машины должны удовлетворять потребности людей. Они отлично служат онлайн-консультантами и продавцами. Но попытки завязать с вами отношения без вашего согласия неэтичны.

Если мы позволим ботам вторгаться в нашу эмоциональную жизнь, мы потенциально можем стать жертвами киберпреступлений, когда они будут воровать нашу личную информацию.

К счастью, защитить себя от такого рода преступлений очень легко. Если в разговоре ваш собеседник требует поделиться какими-то личными подробностями вашей жизни, вы всегда можете выйти из сети.

Источник.


Материалы по теме:

План по продажам выполняют чат-боты. Как и кому продавать через мессенджеры?

Сбербанк создал чат-ботов для изучения исчезающих языков народов России

Кейс: мы внедрили чат-бота – теперь он экономит нам около 250 рабочих часов в месяц

Умные экраны с камерами, биометрия, контекстуальность и интерактивные драмы — как виртуальные ассистенты станут реальными

«Боты», то есть автоматические аккаунты в социальных сетях, выдающие себя за реальных людей, присутствуют в огромном количестве на таких платформах, как Твиттер. Их насчитывается миллионы; в отдельные ботнеты может входить до полумиллиона аккаунтов.

Эти боты могут негативно влиять на онлайн-дискурс, особенно работая сообща. Их можно использовать для вывода в тренды фразы или хештега, как проиллюстрировала @DFRLab, а также для распространения или критики сообщения или статьи и, наконец, для атак на других пользователей.

При этом многие боты и ботнеты легко заметны «невооруженным глазом», без применения специализированного программного обеспечения или платных аналиитических инструментов. В этой статье приводится двенадцать признаков, которые оказались для нас наиболее полезными при выявлении фейковых аккаунтов.

Основные принципы

Твиттер-бот — это аккаунт, который ведется программой, примерно как самолет, ведомый автопилотом. Автопилот можно включать и выключать; точно так же, такие аккаунты могут в разное время вести себя как боты и как реальные люди. Поэтому признаки, приведенные ниже, следует считать индикаторами «ботоподобного» поведения в конкретное время, а не стопроцентный способ установить, является ли аккаунт ботом.

Не все боты одинаково вредны; кроме того, не все связаны с политикой. Автоматические аккаунты могут, например, публиковать поэзию, фотографии или новости, не нанося никакого вреда.

Мы же изучаем ботов, прикидывающихся людьми и продвигающих политическую повестку.

В любом случае, важно отметить, что нельзя полагаться на единственный признак при выявлении «ботоподобного» поведения. Важна именно комбинация факторов. По нашему опыту, три наиболее важных признака — активность, анонимность и усиление.

1. Активность

Наиболее очевидный признак автоматического аккаунта — его активность. Ее легко вычислить, зайдя в профиль аккаунта и разделив количество постов на количество дней с момента его создания. Чтобы увидеть точную дату создания, наведите курсор на надпись рядом с календарем под никнеймом.

Скриншот профиля @Sunneversets100, сделанный 28 августа, на котором видна точная дата создания аккаунта. Архивные копии профиля сделаны 13 января и 28 августа 2017 года. Видно изменение количества твитов за этот период.

Частота твитов, вызывающая подозрения, может быть разной. Команда по изучению «вычислительной пропаганды» Оксфордского института интернетасчитает подозрительным среднедневное количество твитов, превышающее 50. Эта цифра широко признается и применяется, однако может быть заниженной.

@DFRLab считает подозрительными 72 твита в день (один твит каждые десять минут на протяжении 12 часов), а 144 твита в день — крайне подозрительными.

Например, аккаунт @sunneversets100, продвигающий прокремлевскую повестку, был создан 14 ноября 2016 года. К 28 августа 2017 года ему «исполнилось» 288 дней. За это время он опубликовал 203 197 твитов (точную цифру можно увидеть, наведя курсор на количество твитов в профиле).

Таким образом, он публиковал в среднем 705 твитов в день, то есть примерно твит в минуту за период в двенадцать часов, каждый день в течение девяти месяцев. Такое поведение нельзя назвать человеческим.

2. Анонимность

Второй важный признак — степень анонимности аккаунта. В целом, чем меньше в аккаунте личной информации, тем вероятнее, что это бот. Так, на аватарке @sunneversets100 — фотография собора во Флоренции, на фоне профиля — фрагмент графика роста населения, а его адрес и никнейм анонимны. Единственная уникальная черта — ссылка на американский политический агитационный комитет.

Другой пример — аккаунт @BlackManTrump, также отличающийся гиперактивностью: с 28 августа по 19 декабря 2016 года он опубликовал 89 944 твита (см. архив здесь), то есть в среднем 789 твитов в день.

Скриншот архива профиля @BlackManTrump. Обратите внимание на дату создания слева внизу и дату архивации справа вверху.

В этом аккаунте вообще нет личной информации. Его аватарка и фон не уникальны, местонахождение указано как «США», а в биографии содержится политическое заявление общего характера. Таким образом, ничто не указывает на личность хозяина аккаунта.

3. Усиление

Третий ключевой признак — усиление. Одна из основных задач ботов — «усиливать сигнал» других пользователей, ретвитя, лайкая и цитируя их. Поэтому лента типичного бота состоит из ретвитов и точных цитат новостных заголовков, а оригинальные посты полностью или практически отсутствуют.

Наиболее эффективный способ установить такой характер ленты — автоматически просканировать большое количество твитов. Однако можно и определить это «на глазок», нажав на «твиты и ответы» в профиле аккаунта и просмотрев последние 200 постов. Цифра 200 выбрана достаточно произвольно и представляет собой выборку разумных размеров; исследователи, у которых больше времени и меньше «замыливается глаз», могут просматривать больше твитов.

Например, по состоянию на 28 августа, 200 последних твитов @Sunneversets100 являлись ретвитами, многие — ретвитами кремлевских СМИ RT и Sputnik:

Скриншот ленты @Sunneversets100, сделанный 28 августа, на котором видно несколько ретвитов «Спутника» подряд. Отметим, что аккаунт, по-видимому, не публикует твитов с конца апреля. Если пересчитать количество твитов в день до 30 апреля, то получится 1210.

@BlackManTrump ведет себя чуть сложнее; большая часть его постов представляют собой ретвиты других аккаунтов, из которых удалено «RT @»:

Посты @BlackManTrump в ноябре 2016 года. Отметим, что каждый твит начинается с имени пользователя и двоеточия, что говорит о том, что это ретвиты, из которых удалено «RT @»

Таким образом, и @BlackManTrump, и @SunNeverSets100 ведут себя как боты, поскольку отличаются очень высокой активностью, анонимностью и «усилением сигнала».

Следует отметить, что аккаунт @BlackManTrump не проявлял активности с 14 ноября по 13 декабря 2016 года. Когда же он возобновил активность, она была гораздо меньшей, а гораздо больше твитов выглядели авторскими. Поэтому, если выражаться точнее, он вел себя как бот до середины ноября, а не является ботом сейчас.

Еще одна методика усиления — запрограммировать бота делиться новостями непосредственно с избранного списка сайтов, не добавляя комментариев. Разумеется, «шеры» — стандартная часть трафика Твиттера (например, шеринг этого поста читателями приветствуется) и сами по себе не являются подозрительными. Однако аккаунт, публикующий множество таких шеров подряд, вероятно, является автоматическим — например, этот антитрамповский аккаунт, обнаруженный в июле:

Скриншот ленты @ProletStrivings от 28 августа; обратите внимание, что твиты просто воспроизводят заголовки по ссылкам без добавления комментариев. Архивная копия аккаунта создана 28 августа.

4. Низкая активность / высокие результаты

Приведенные выше боты добиваются цели с помощью активного «усиления сигнала» одним аккаунтом. Другой способ добиться аналогичного эффекта — создать множество аккаунтов, ретвитящих один и тот же твит, то есть ботнет.

Такие ботнеты можно легко опознать, когда они «усиливают» конкретный твит, если аккаунт, который запостил этот твит, обычно не отличается подобной популярностью.

Например 24 августа аккаунт @KirstenKellog_ (ныне заблокирован, однако архивная копия доступна здесь) опубликовал твит с атакой на американское СМИ ProPublica (propublica.com).

Профиль @KirstenKellog_, в котором приведено количество твитов и фолловеров и виден один пост. Архивная копия от 24 августа 2017 г.

Как видно на скриншоте выше, этот аккаунт отличался очень низкой активностью. Он запостил только 12 твитов; 11 из них уже удалены. У него было 76 фолловеров, а сам он не фолловил ни одного аккаунта.

Тем не менее, этот твит получил более 23 000 лайков и ретвитов:

Скриншот твита с количеством лайков и ретвитов. Архивная копия от 24 августа 2017 г.

На следующий день еще один, по-видимому, российский аккаунт опубликовал аналогичный атакующий твит, набравший более 12 000 ретвитов и лайков:

Следующая атака. Архивная копия от 25 августа 2017 г. К 28 августа количество ретвитов и лайков перевалило за 20 000.

Этот аккаунт такой же малоактивный: он опубликовал всего 6 твитов, начиная с 25 августа, и зафолловил 5 других аккаунтов:

Профиль второго атакующего аккаунта.

Невероятно, чтобы два настолько малоактивных и непопулярных аккаунта набрали столько ретвитов, даже с использованием хештегов #FakeNews и #HateGroup. Такая разница в активности и популярности отдельных твитов говорит о том, что аккаунты, «усилившие» их, входят в состав ботнета.

5. Одинаковый контент

Принадлежность аккаунтов одной и той же сети можно подтвердить, изучив их твиты. Если они все одновременно публикуют одинаковый контент, вероятно, они на это запрограммированы.

Например, многие из аккаунтов предполагаемого ботнета, «усилившего» твит @KirstenKellog_, публикуют одинаковые твиты — например, такие:

Слева направо: Одинаковые ретвиты аккаунтами “Gail Harrison”, “voub19” и “Jabari Washington”, которые также вместе усиливали @KirstenKellog_.

Случается, что боты публикуют целые серии одинаковых твитов в одном и том же порядке. Три приведенных ниже аккаунта входят в одну и ту же антитрамповскую сеть, выявленную в июле:

Слева направо: одинаковые твиты в одном и том же порядке, опубликованные аккаунтамиy @CouldBeDelusion, @ProletStrivings и @FillingDCSwamp. Заметьте также, как в этих твитах слово в слово повторяются названия статей, которыми они делятся.

28 августа те же три аккаунта вновь опубликовали одинаковые твиты в одном и том же порядке; @ProletStrivings добавил к этому еще и ретвит:

Слева направо: Скриншоты профилей @CouldBeDelusion, @FillingDCSwamp и @ProletStrivings, в которых видны «шеры» в одном и том же порядке. Заметим также, что в первом твите в каждом из профилей содержится текст «Check out this link» [«Посмотрите на эту ссылку»], что также указывает на автоматический шеринг. Скриншоты и архивные копии сделаны 28 августа.

Такие серии одинаковых постов — классические признаки автоматизации.

6. Клуб любителей силуэтов

Наиболее примитивных ботов особо легко распознать, поскольку их создатели не озаботились загрузкой аватарок. Эти боты раньше назывались «яйцами», поскольку раньше на аватарках аккаунтов без юзерпика отображалось яйцо. Теперь там отображаются силуэты.

Некоторые пользователи имеют силуэты на аватарках по совершенно невинным причинам; таким образом, присутствие силуэта само по себе не является признаком бота. Однако если список аккаунтов, ретвитнувших твит, выглядит так…

Скриншот списка ретвитов твита @AtlanticCouncil, пережившего 28 августа особо очевидное и топорное нашествие ботов.

…или же если страница фолловеров аккаунта напоминает посиделки Клуба любителей силуэтов…

Скриншот страницы фолловеров финской журналистки @JessikkaAro после внезапного наплыва ботов 28 августа.

…ясно, что имеет место активность ботов.

7. Украденные или одинаковые фото профиля

Другие ботоводы более тщательно подходят к делу, маскируя анонимность фотографиями, взятыми из интернета. Поэтому хороший способ проверить подлинность аккаунта — поискать в интернете его аватар. В браузере Google Chrome нажмите на изображение правой кнопкой мыши и выберите «Поиск изображения в Google».

Поиск в Google Chrome фотографии предполагаемого бота «Shelly Wilson».

В других браузерах выберите «копировать ссылку на изображение», введите ссылку в строку поиска Google и выберите «поиск по картинке».

В любом случае в результатах поиска отобразятся страницы с совпадающими изображениями, и тем самым можно определить, украденный ли аватар у аккаунта:

В случае с «Shelly Wilson» выяснилось, что изображение использовалось несколькими аккаунтами в той же сети, что подтверждает их «фейковость»:

8. Что в имени тебе..?

Еще один признак бота — название аккаунта (начинающееся с «@»). У многих ботов такие названия — просто бессмысленный набор букв и цифр, созданный алгоритмом, например:

Названия аккаунтов некоторых ботов, ретвитнувших твит @KirstenKellog_. Заметьте, что среди них есть одно настоящее имя — @ToddLeal3. О нем речь пойдет ниже.

Названия некоторых других аккаунтов выглядят как имена, но не соответствуют отображаемым именам:

Слева направо: “Sherilyn Matthews”, “Abigayle Simmons”и “Dorothy Potter” с названиями аккаунтов “NicoleMcdonal”, “Monique Grieze” и “Marina”соответственно.

Другие боты имеют типично мужские имена, но при этом женские аватарки (такие встречаются гораздо чаще, чем женские имена с мужскими аватарками; возможно, для мужской целевой аудитории)…

Еще три аккаунта в том же ботнете: “Todd Leal”, “James Reese” и “Tom Mondy”, архивные копии от 24 и 28 августа 2017.

или же мужские названия, но женские имена и аватарки…

Слева направо — “Irma Nicholson”, “Poppy Townsend” и “Mary Shaw”, согласно названиям аккаунтов — David Nguyen, Adrian Ramirez и Adam Garner.

… или что-то совершенно иное.

“Erik Young,” женщина, которая любит Иисуса, из того же ботнета.

Все это указывает на фейковые аккаунты, которые представляются кем-то другим (зачастую молодыми женщинами) для привлечения пользователей. Идентификация типа фейкового аккаунта и определение, бот ли это, зависит от его поведения.

9. Вавилонский Твиттер

Некоторые боты — политические, а все их твиты отражают одну и ту же точку зрения. Однако другие боты — коммерческие, и их услуги, по-видимому, продаются вне зависимости от содержания публикаций. Большая часть этих твитов аполитичные. Однако и эти боты могут использоваться для усиления политических твитов.

Такие ботнеты часто отличаются крайним языковым разнообразием. Например, в аккаунте «Erik Young» («женщины, любящей Иисуса») есть ретвиты на арабском, английском, испанском и французском.

Изучив подобным образом анонимный «силуэтный» аккаунт @multimauistvols (отображаемое имя “juli komm”), можно найти твиты на английском…

испанском…

арабском…

суахили (если верить Google Translate)…

индонезийском…

китайском…

русском…

и японском.

В реальности любой человек, владеющий всеми этими языками, наверняка может заниматься чем-то интереснее, чем продвижение видео с YouTube.

10. Коммерческий контент

Рекламная деятельность — классический признак ботнета. Как указано выше, некоторые ботнеты, по-видимому, существуют в основном для этой цели, и лишь изредка пробуют себя в политике. Когда же они все-таки это делают, их выдает как раз сосредоточенность на рекламе.

Хороший пример — любопытный ботнет, ретвитивший политический твит от аккаунта @every1bets, обычно посвященного азартным играм.

Ретвитившие «носили» самые разные имена, как видно в этом списке:

Однако значительная часть их твитов носили рекламный характер.

Аккаунты, которые в основном ретвитят подобные твиты, особенно на разных языках, вероятнее всего, входят в коммерческие ботнеты, клиенты которых хотят продвигать или рекламировать свои посты.

11. Программы автоматизации

Еще один признак возможной автоматизации — использование сокращения ссылок. Такие сокращения в основном используются для отслеживания трафика по конкретной ссылке, однако частота их использования может быть признаком автоматизации.

Например, один недавно выявленный фейковый аккаунт под именем «Angee Dixson» с фотографией немецкой супермодели Lorena Rae на аватарке опубликовал множество ультраправых политических твитов. В каждом из них присутствовала сокращенная ссылка ift.tt:

Это программное обеспечение, которое производится компанией ifttt.com и похволяет пользователям автоматизировать посты с различными критериями — например, ретвитить любой пост с конкретным хештегом. Поэтому лента с большим количеством сокращенных ссылок ift.tt наверняка принадлежит боту.

Другие сокращения ссылок также могут указывать на автоматизацию, если они постоянно встречаются в ленте. Например, сокращение ссылок ow.ly связано с менеджером социальных сетей HootSuite; известно, что многие боты публикуют множество твитов со ссылками ow.ly на различные сайты, что также указывает на автоматизацию. Приложение Твиттера TweetDeck позволяет пользователям встраивать различные сокращения ссылок, например bit.ly или tinyurl.com.

Отметим, что использование таких сокращений ссылок — нормальное явление в интернете, однако аккаунт, который только и делает, что делится новостными статьями с одним и тем же сокращением ссылок, следует проверить на другие признаки бота.

12. Ретвиты и лайки

Наконец, работу ботнета можно заметить, сравнив количество ретвитов и лайков конкретного твита. Некоторые боты запрограммированы и ретвитить, и лайкать одни и те же твиты; в таких случаях количество ретвитов и лайков будет практически одинаковым, а списки ретвитнувших и лайкнувших могут совпадать, как видно в следующем примере:

Слева — ретвиты, справа — лайки второго твита с атакой на ProPublica.com

В этом примере разница между количеством ретвитов и лайков составляет всего 11, то есть меньше 0,1%. Твит ретвитили и лайкали одни и те же аккаунты в одном и том же порядке в одно и то же время. Учитывая, что всего ретвитили и лайкали около 13 000 пользователей, такое совпадение практически невозможно. Это говорит о работе скоординированной сети, все аккаунты которой запрограммированы лайкать и ретвитить одну и ту же атаку.

Вывод

Боты стали неотъемлемой частью Твиттера. Многие из них достаточно безвредны, а вредных можно распознать по основным характеристикам.

Чаще всего такие характеристики — активность, анонимность и усиление, однако существуют и другие критерии. Краденые аватарки, бессмысленный набор букв и цифр в названии аккаунта и гендерное несоответствие названия, отображаемого имени и фото помогут распознать фейковый аккаунт. Их также можно выявить по шквалу коммерческих твитов или по твитам на множестве разных языков.

Однако важнее всего знать, что боты существуют и как их распознать. Пользователи, способные самостоятельно вычислять ботов, с меньшей вероятностью поддадутся манипуляции с их стороны, а возможно, и смогут жаловаться на деятельность ботнетов, что приведет к их блокировке. Основная цель ботов — влиять на живых пользователей. Эта статья призвана помочь пользователям заметить признаки активности ботов.

Бен Ниммо — старший научный сотрудник по информационной безопасности в Лаборатории цифровой криминалистики Атлантического совета (@DFRLab). Его аккаунт — точно не бот.

Источник: ru.bellingcat.com

Искусственный интеллект уже неотъемлемая часть современной жизни. Во многих случаях роботы решают, какая песня звучит на радио, рекомендуют телешоу, и роботы даже становятся довольно хорошими в написании и создании музыки.

Большинство из людей планеты не имеют ничего против этого. Но когда дело доходит до общения с искусственным интеллектом, очень хочется, чтобы на другом конце провода был живой человек, а лучше специалист, который способен помочь.

telefonnyy-robot

Как понять, что вы общаетесь по телефону с роботом

Вам ненужно выкладывать всю подноготную вашей личной жизни по телефону, даже когда голос на том конце провода ласков и общителен. Тем более передавать свои личные данные, потому как вероятнее всего вы общаетесь с роботом, а ваш разговор записывается.

Так как же определить что на том конце провода именно искусственный интеллект?

Следите за неуклюжими фразами

У разговорного русского языка, имеются свои особенности, но роботу нет никакого дела до речевых оборотов. И если вы чувствуете, что ваше общение с оператором на том конце провода проходит как-то неуклюже, возможно, вы имеете дело с ботом.

Ищите повторения в общении

Боты также, как правило, чрезвычайно целеустремленны. Человеческий разговор, как правило, текуч — темы вводятся, отбрасываются, а затем снова поднимаются позже.

Но боты обычно создаются для определенных целей, и они будут упорно преследовать эти цели, что бы вы ни делали.

Если вы заметили, что “человек”, с которым вы разговариваете или общаетесь, продолжает возвращаться к одной и той же рекомендации или решению, что бы вы ни говорили, возможно, вы имеете дело с ботом.

Если они буквально повторяется фраза каждый раз, это еще более сильный признак, потому что люди склонны менять то, как они формулируют вещи, особенно если они чувствуют, что до вас не достучаться.

Скорость отклика у роботов выше

Еще одним признаком того, что вы имеете дело с ИИ, является скорость их ответов.

Будь то в чате или по телефону, боты обычно могут генерировать ответы намного быстрее, чем люди.

Если сообщения в чатах происходят с вами мгновенно или если голос по телефону способен мгновенно предоставить вам информацию, которую человек должен найти на каком-либо ресурсе, вы имеете дело либо с ботом.

Обратите внимание на неопределенность

Боты часто запрограммированы на то, чтобы давать расплывчатые, бессмысленные ответы, когда они не понимают, часто повторяя то, что вы только что сказали, чтобы создать иллюзию внимания.

Другим аспектом неопределенности являются ответы, которые на первый взгляд имеют смысл, но ничего не добавляют к разговору. Это потому, что телефонный бот обычно запрограммирован на создание языка, который напоминает реальное общение, но на самом деле ничего не добавляет.

Придайте вашему общению эмоциональный окрас

Это особенно верно в отношении эмоций и человеческих отношений. В середине разговора спросите подозреваемого бота о его семье или скажите ему, что чувствуете себя подавленным, просто чтобы посмотреть на реакцию.

Боты, как правило, не готовы к этому и либо будут упорно продолжать сообщение, игнорируя вашу вспышку, либо предложат общее сообщение типа “Извините, я не понимаю”.

Это потому, что роботы на другом конце провода в конечном счете являются программами и, следовательно, имеют то, что известно как обработка ошибок.

Если он не может обработать то, что вы говорите, он будет переходить к одной и той же подпрограмме снова и снова.

Знаете какая плохая новость при общении с ботами? Придет время, когда мы не сможем отличить бота от реального человека. Хорошая новость в том, что такое будущее еще не наступило.

Уже просмотрели 71

Как распознать чат-бота в мессенджере

Содержание

  • 1 Моментальные ответы
  • 2 Большое количество ссылок
  • 3 Много вопросов интимного характера
  • 4 Правильно законченные предложения
  • 5 Повторение

У вас появился новый собеседник в мессенджере.  Общение вам нравится, с аватарки нового друга на вас смотрит симпатичный человек. Не хочется разочаровывать, но собеседник может оказаться чат-ботом. Мошенники активно используют их для сбора информации. Но давайте не будем делать поспешных выводов. Для начала разберёмся – общаетесь ли вы с чат-ботом или, всё таки, с человеком. Чтобы понять это, нужно знать, что искать в переписке.

Моментальные ответы

Первое на что вы должны обратить внимание – скорость ответа. Многие умеют быстро печатать, но всему есть предел. Поэтому, если ответы состоят из нескольких предложений, но приходят они  молниеносно – значит перед вами ответы машины.

Большое количество ссылок

Ни у кого нет списка ссылок на все случаи жизни. Дружеское общение это обмен мнениями, в основном. Поэтому, если ваш собеседник вместо развёрнутого ответа просто кидает ссылку на интересную статью, вероятно, это бот.

Много вопросов интимного характера

Кроме сбора информации чат-боты не имеют никакой другой цели. Поэтому вопросов будет много. Не спешите выкладывать всё о себе и о своей жизни онлайн-другу. Неживое общение проще. Не всё можно сказать вслух. Поэтому в сокровенном мы признаёмся не друзьям и близким, а малознакомым друзьям по переписке.

Повод для сомнения – скорость, с которой ваш собеседник перешёл на личные вопросы. Если вы чувствуете как вас начинает давить лавина вопросов – блокируйте нового друга.

Правильно законченные предложения

В живой переписке мы редко ставим точки или запятые. Слишком правильные предложения – ещё один признак собеседника-бота. Однако существуют боты, которые запрограммированы на допущение ошибок. Сделано это как раз для маскировки под живого человека. Запомните, повторяющаяся ошибка – признак чат-бота. Например, два пробела или две запятые – вполне возможно не недосмотр собеседника, а специально допущенная ошибка.

Нужно также обратить внимание на законченные предложения, легко заменяемые на короткие фразы. Т.е. машина скорее всего напишет не словосочетание, а целое предложение, да ещё и точку в конце поставит.

Повторение

Повторение – это не только мать учения, но и признак чат-бота. Вместо естественной паузы или краткой фразы, которые характерны для собеседника-человека, машина продублирует ваш вопрос.

Как вы убедились, распознать бота совсем несложно. Чат-боты совершенствуются с каждым годом, но совсем замаскировать бота под человека всё же пока не удалось. Проанализируйте переписку. Обнаружив хотя бы два признака – смело блокируйте, потому что ваш собеседник – бот.

  • Распечатать

Оцените статью:

  1. 5
  2. 4
  3. 3
  4. 2
  5. 1

(0 голосов, среднее: 0 из 5)

Поделитесь с друзьями!

Простые и действенные советы, которые помогут вывести мошенников на чистую воду.

5 способов, которые помогут отличить чатбота от живого человека

Zapp2Photo (Shutterstock)

Искусственный интеллект (ИИ) вторгается во все аспекты нашей жизни. Алгоритмы управляют столькими вещами, что может показаться, будто восстание роботов уже произошло, и мы в нем проигравшая сторона. Роботы решают, какая песня будет играть следующей, роботы рекомендуют телепередачи, а еще довольно хорошо пишут и создают музыку.


РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Но есть еще один способ, которым ИИ вторгается в нашу жизнь, и мы обычно даже не осознаем этого: разговорный ИИ. От чат в Whatsapp до ботов Tinder, программы притворяются людьми и разговаривают с нами, порой весьма убедительно.

К счастью, разговорный ИИ еще не достиг совершенства, и обнаружить бота можно относительно просто. Вот несколько стратегий, которые помогут вывести программу на чистую воду.

Остерегайтесь неуклюжих формулировок

Даже у самого лучшего разговорного ИИ часто возникают проблемы со странными сложностями и противоречиями языка. Русский язык по праву считается одним из самых сложных в мире, и что уж программы — часто даже живые люди путаются в грамматике, конструкциях и многочисленных правилах. Странная замена слов, невнятные формулировки, неправильный подбор падежей — все это первые «звоночки», которые должны заставить вас усомниться в реальности собеседника.


РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Ищите повторяющиеся слова и фразы

Боты также имеют тенденцию быть чрезвычайно целеустремленными. Человеческий разговор, как правило, плавный — темы вводятся, опускаются, а затем снова подхватываются. Но боты обычно создаются для определенных целей, и они будут упрямо преследовать их, что бы вы ни делали. Если вы заметили, что «человек», с которым вы разговариваете или общаетесь, продолжает возвращаться к одной и той же рекомендации или решению независимо от того, что вы говорите, возможно, вы имеете дело с ботом. Если же собеседник буквально повторяет одно и то же, то это лишний повод насторожиться, поскольку живой человек вряд ли будет вести себя подобным образом.


РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Обратите внимание на скорость отклика

Еще одним признаком того, что вы имеете дело с ИИ, является скорость их ответов. Будь то в чате или по телефону, боты обычно могут генерировать ответы намного быстрее, чем люди. Если сообщения приходят к вам мгновенно или если собеседник моментально выдает информацию, которую любой человек будет хоть какое-то время искать в Сети или обдумывать, то вы либо имеете дело с ботом, либо с самой талантливой и услужливой персоной в мире.


РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Обратите внимание на неясность

Боты часто запрограммированы давать расплывчатые, бессмысленные ответы, когда они не понимают, часто повторяя то, что вы только что сказали, чтобы создать иллюзию внимания. Это старый трюк. «Чат-бот-терапевт» ELIZA, разработанный в 1960-х годах, использовал его постоянно. Если вы скажете ей: «Мне грустно», она ответит: «Как давно ты грустишь?» Это простая алгоритмическая конструкция, но она создает иллюзию разумности. Если «человек», с которым вы общаетесь, постоянно переворачивает ваши утверждения для уточнения, возможно, вы имеете дело с ИИ, который использует этот трюк, чтобы обойти предложения, которые он не может легко разобрать.


РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Еще один аспект неопределенности — ответы, которые на первый взгляд имеют смысл, но ничего не добавляют к разговору. Это потому, что ИИ обычно запрограммирован на создание языка, который напоминает реальную коммуникацию, но на самом деле способен лишь на ее имитацию.

Немного безумия вам не повредит

Алгоритмы ИИ основаны на обширной статистике, поскольку все мы придерживаемся в разговоре определенных паттернов вопросов и ответов. Поэтому самый простой способ выявить фейковость собеседника — ошеломить его внезапным вопросом, фразой или перевернуть разговор так, чтобы на перемену было сложно отреагировать. Поверьте, уж лучше побыть чудаком в глазах живого человека, чем попасться на удочку мошенников.

Понравилась статья? Поделить с друзьями:
  • Как узнать что пишет человек вконтакте другому человеку
  • Как узнать что пишет мошенник
  • Как узнать что написал доктор
  • Как узнать что написал врач если почерк не понятен
  • Как узнать что на тебя написали завещание