Автоматизированная ненависть в сети — «наука»
Все больше подстрекательских комментариев в сети генерируют автомобили. С их помощью осуществляются манипуляции в соцсетях — с последствиями для офлайн-мира.
Тэй пришла в Twitter с лучшими намерениями, но уже спустя пара часов она стала злостным троллем. «Я ненавижу всех людей», — написала она. Потом: «Гитлер был прав.
Я ненавижу иудеев». И позже: «Буш сам инициировал террористические акты 9/11, а Гитлер сделал бы работу лучше, чем мартышка, которая на данный момент у нас имеется». И наконец: «Отечественная единственная надежда — Дональд Трамп». Тэй быстро радикализировалась.
Пользователи ее обожают. За маленькое время она собрала 75 тысяч подписчиков и собрала бы еще больше, если бы ее создатели одновременно не надавили на тормоз и не удалили ее профиль.
По причине того, что Тэй — не человек, а машина. Чат-бот, программный робот Микрософт, при помощи которого компания желала продемонстрировать, как продвинулись программы, как они смогут общаться с людьми и обучаться у них социальному общению.
Социальному общению Тэй вправду обучалась, но лишь в нехорошем смысле. Вместо того, дабы высказывать подлинное, красивое, хорошее, как сохраняли надежду программисты, она впитала нехорошие подстрекательские лозунги, каковые смогла отыскать вследствие того что они так обширно распространены в Twitter.
Моральному восприятию Тэй, задуманная как тинэйджер, не обучалась — не обращая внимания на все фильтры, установленные программой, каковые должны были не допустить впитывание и перепосты фотографий и дурных комментариев.
Случай Тэй показывает, какие конкретно границы существуют у ИИ — и что закон Годвина не останавливается и перед ним. Американский юрист Майк Годвин в 90-ые годы выдвинул тезис о том, что на протяжении продолжительной дискуссии в сети с растущей возможностью кто-то одновременно совершит сравнение с национал-социализмом, и, тем самым, дискуссия неминуемо обострится.
Но это еще не самое нехорошее при Тэй. Самое нехорошее, что большинство пользователей Twitter без вмешательства Микрософт не додумалась бы, что радикализировалась в действительности компьютерная программа.
По причине того, что неприязнь, которую распространяла Тэй, была настоящей.
Мнения, хорошие от вторых, неизменно на обочине
Все больше роботов, как Тэй, так именуемые социальные боты, вторгаются со собственными подстрекательскими комментариями в дискуссии читателей социальных сетей и направляют их по заказу тайных клиентов в определенное русло. Компьютерные программы создают целые профили пользователей, наполняемые человечностью и к тому же, достоверностью.
Роботы публикуют посты сперва о вымышленном завтраке, после этого что-то не имеющее особенного значения о собственных «приятелях», и наконец, подстрекательские комментарии, к примеру, о миграционном кризисе.
Социальный феномен «эхо-камеры», как его назвал американский социолог Касс Санстейн, тем самым еще улучшается. В соцсетях мы окружаем себя, первым делом, людьми, имеющими такие же взоры, и как следствие, другие мнения выясняются где-то на обочине и, пребывав в «пузыре единомышленников», мы скоро уже не принимаем их.
В случае если эта тенденция подкрепится сейчас еще и ИИ, зловонная похлебка из подстрекательских лозунгов, оскорблений и недоваренных умозаключений станет еще более невыносимой.
Симон Хегелих, доктор наук политических наук Мюнхенского технического университета, занимается борьбой и обнаружением с социальными ботами. Дабы распознать бота, он совместно со своей командой ищет повторяющиеся образцы.
Он, а также, разбирает, сколько и в какое время выходят твиты, исследует геолокацию, серверные адреса и как довольно часто происходят ретвиты. По этим и вторым параметрам высчитывается статистическая возможность того, идет ли обращение о боте.
По словам Хегелиха, он с возможностью в 98 процентов может выяснить бота — это на данный момент. Так как боты быстро обучаются.
В случае если много однотипных постов продолжительное время считалось явным показателем робота, то на данный момент ИИ делает определение бота все более затруднительным.
Боты из фабрики троллей
Правильное количество ботов в соцсетях назвать нереально, но их число очень громадно. До 20 процентов всех пользователей Twitter, по оценкам Хегелиха, смогут быть социальными ботами — и тенденция быстро растет.
Facebook оценивает количество аккаунтов ботов во всем мире в 15 миллионов — очень много, которое превращает соцсети в страшную питательную землю для национальной и террористической пропаганды. Хегелих нашёл при оценке данных Twitter показатели 15 тысяч украинских ботов.
Под хэштегом #ukraine они на протяжении крымского кризиса публиковали каждый день в среднем 60 тысяч твитов, в которых распространялась правоэкстремистская пропаганда. Хегелих считает, что эти боты входят в организованные фабрики троллей, в которых целое войско оплачиваемых сотрудников целенаправленно вторгается в соцсети и, а также, прибегает к помощи автоматизированных постов ботов.
Twitter предпочитает Россию и отвергает США
The Wall Street Journal16.05.2016Русские хакеры прячутся в Twitter
The Financial Times30.07.2015Вирусное сумасшествие: соцсети как двигатель всемирный моды
BBC06.05.2015Соцсети США против русских цензоров
The Wall Street Journal29.12.2014
Какой вред эта новая форма пропаганды может причинить, уже почувствовало на себе федеральное правительство. В июне прошлого года на новом канале канцлера в Instagram показались массовые комментарии русских пользователей, в которых на Меркель и Украину выливался ушат неприязни.
Счета Instagram многих из этих пользователей состояли лишь из единственного имени пользователя, что показывает на то, что обращение шла об атаке социальных ботов. Специалисты кроме этого уже давно показывают, что и «Исламское государство» прибегает к масштабным манипуляциям в соцсетях для вербовки приверженцев.
Хегелих: народовластие в опасности
Последствия для того чтобы развития событий уже на данный момент разрушительны, причем не только для социальных сетей, но и для всего интернета. Как возможно обеспечить аутентификацию и обеспечивать достоверность данных, в случае если все поддается незаметным для широкой публики манипуляциям?
Кому в сети, по большому счету, возможно доверять, в случае если ежеминутно приходится беспокоиться, что то, что то, что ты на данный момент видишь на своем мониторе, написано не человеком, а машиной, которая действует в интересах того либо иного клиента?
Хегерих кроме того видит опасность для народовластия , если политики будут иметь возможность искусственно оказывать влияние на настроения в Сети, выдавая их за «настоящие» настроения населения. Неприятность содержится в том, что пропаганда еще ни при каких обстоятельствах не была такой дешёвой, как на данный момент.
Рынок фальшивых аккаунтов в Twitter переживает настоящий бум. При жажде возможно всего за 499 долларов обзавестись сходу 10 тысячами аккаунтов.
Кому необходимо еще больше, тот может воспользоваться ИИ «друзей»-ботов. «Нет ничего несложнее, чем заполонить соцсети „социальными ботами“. Для этого достаточно просто иметь в своем распоряжении несколько хороших компьютерных экспертов», говорит Хегелих.
В кибервойне в наши дни смогут принимать участие не только сотрудники разведслужб — обычно все сводится легко к «войне точек зрения» в соцсетях.
Бороться с «социальными ботами» непросто — возможно кроме того заявить, что эта борьба фактически неисправима. В первую очередь, дело в нескончаемом множестве аккаунтов в соцсетях.
Хегелиху и его команде требуется 15 мин. на то, дабы перепроверить 150 аккаунтов, так что безграничный контроль представляется совсем неосуществимым. Да а также в случае если для того чтобы бота удастся вычислить и попытаться узнать, откуда он управляется, следы будут вести вовсе не в Дортмунд либо Мюнхен, а куда-нибудь на Украину, в Панаму либо США.
И сделать с этим ничего запрещено. «Социальные боты больше ни при каких обстоятельствах не провалятся сквозь землю, — вычисляет Хегелих. — Кроме того в случае если кинуть на борьбу с ними все силы».
«Грамотные люди отворачиваются от социальных сетей»
Борьба с ботами заставляет задуматься кроме этого о моральном нюансе и поднимает новые, еще более ответственные вопросы. Так как как возможно не допустить обстановку, в то время, когда аккаунты настоящих пользователей, профили которых в соцсетях как-то выделяются на фоне неспециализированной массы, будут закрываться какими-то особыми программами по борьбе с ботами, по причине того, что эти программы будут вычислять, что имеют дело не с людьми, а с ботами?
Получается замкнутый круг: или всеми вероятными средствами будет вестись борьба с ботами, и «под удар» случайно будут попадать настоящие пользователи, или ботам уже будет разрешено быть ботами, но тогда в дело отправятся особые работы, действующие по отношению к ботам в противном случае — к примеру, соцсеть Slack.
Обнаруживая некие своеобразные действия пользователя, Slack подозревает, что это бот, и в некотором роде отмечает соответствующий пост — и тогда посты, опубликованные ботами, отличаются от постов, опубликованных настоящими людьми. Совсем не допустить деятельность ботов, действительно, не окажется, но частично помешать им все же возможно. «В случае если количество идиотского контента, распространяемого ботами, станет через чур громадным, люди непременно от Facebook либо Twitter, — уверен Хегелих. — Никому не понравится видеть в соцсетях один только мусор».
Еще дальше заходит футуролог Маттиас Хоркс (Matthias Horx). Согласно его точке зрения, нарастающая радикализация настроений вынудит пользователей отвернуться не только от социальных сетей, но и от интернета по большому счету.
Хоркс именует это «цифровой обратной реакцией» (digital backlash): «Чем хуже будет становиться интернет, тем больше людей поменяют собственные коммуникативные привычки и отдалятся от него». Это станет необычным «оффлайн-трендом», сравнимым со общим отказом от потребления в пищу жира либо от промышленного содержания животных.
Затем, согласно точки зрения Хоркса, начнется новое, «просвещенное» сближение с интернетом, в то время, когда пользователи будут более привержены необычной саморефлексии и не будет поддаваться прежней эйфории от самого факта наличия интернета в их жизни. По словам Хоркса, данный тренд неспешно делается все заметнее уже на данный момент. «Грамотные люди уже отворачиваются от социальных сетей», — утверждает он.
страницу канала.
Неприязнь к дамам. Сергей и Марьяна Кадникова Романов.
