Google блокирует Truth Social в Play Market. Будет ли Apple следующей?

Решение Google заблокировать запуск приложения Truth Social в Play Store из-за проблем с модерацией контента заставляет задуматься о том, почему Apple не предприняла аналогичных действий в отношении версии приложения для iOS, которая работает в App Store с февраля. Согласно отчёту, Google обнаружил многочисленные сообщения, нарушающие контентную политику компании, и заблокировал путь приложения к запуску на своей платформе. Однако это же приложение, как оказалось, доступно для устройств на iOS.

Это может стать причиной пересмотра приложения Truth Social для iOS, поскольку политика Apple и Google в значительной степени совпадают в том, как приложения с пользовательским контентом должны проводить модерацию.

На этой неделе стало известно о решении Google заблокировать распространение приложения Truth Social на своей платформе после интервью, которое дал генеральный директор приложения Девин Нунес. Бывший конгрессмен и участник команды Трампа, а ныне генеральный директор социальных сетей, предположил, что задержка с выпуском приложения для Android произошла по вине Google.

«Мы ждём, когда они нас одобрят, и я не знаю, почему так долго», — сказал он.

Но это была неверная трактовка ситуации, заявили в Google. После того как компания рассмотрела последнюю заявку Truth Social, были обнаружены многочисленные нарушения правил, о чём стало известно 19 августа. Google также проинформировал Truth Social о том, как можно решить эти проблемы, чтобы получить доступ в Play Store, отметили в компании.

«На прошлой неделе Truth Social направила ответное письмо, в котором подтвердила наши замечания и сообщила, что работает над решением этих проблем», — говорится в заявлении представителя Google.

IT-гиганты против консервативных политиков

Это общение между сторонами произошло за неделю до интервью Нунеса, в котором он намекнул, что теперь мяч находится на стороне Google. Подтекст его комментариев, конечно же, заключался в том, что консервативные СМИ снова подвергаются цензуре со стороны IT-гигантов.

В данном случае речь идёт о политике Google в отношении приложений, содержащих пользовательский контент, или UGC. Согласно этой политике, приложения такого рода должны осуществлять надёжную, эффективную и постоянную модерацию пользовательского контента, которая является разумной и соответствует типу пользовательского контента, размещённого в приложении. Однако модерация Truth Social не является надёжной. Компания публично заявила, что полагается на автоматизированную систему модерации с искусственным интеллектом Hive, которая используется для обнаружения и цензурирования контента, нарушающего её политику. На своем сайте Truth Social отмечает, что модераторы-люди контролируют процесс модерации, предполагая, что компания использует стандартное для отрасли сочетание искусственного интеллекта и человеческой модерации.

Есть ли искусственный интеллект в Truth Social?

Следует отметить, что компания Apptopia, занимающаяся аналитикой магазинов приложений, сообщила, что мобильное приложение Truth Social не использует ИИ Hive.

Использование Truth Social модерации с помощью ИИ не означает, что система приведена в соответствие с политикой Google. Качество систем обнаружения ИИ варьируется, и эти системы в конечном итоге обеспечивают соблюдение набора правил, которые компания сама решает внедрить. По данным Google, несколько сообщений Truth Social, с которыми она столкнулась, содержали угрозы физической расправы и призывы к насилию, что запрещено политикой Play Store.

Чем приложение Трампа не устраивает Google?

Сегодня ситуация такова: при вынесении решения в отношении Truth Social компания Google обратила особое внимание на формулировки политики в отношении пользовательского контента и политики в отношении неприемлемого контента. Эти политики включают следующие требования.

Приложения, содержащие или показывающие пользовательский контент, должны:

• Требовать, чтобы пользователи принимали условия использования приложения и/или пользовательскую политику, прежде чем пользователи смогут создавать или загружать пользовательский контент.
• Определять неприемлемый контент и поведение (в соответствии с политикой программы разработчиков Play) и запрещать их в условиях использования приложения или пользовательской политики.
• Осуществлять надёжную, эффективную и постоянную модерацию пользовательского контента, которая является разумной и соответствует типу пользовательского контента, размещённого в приложении.
• Язык ненависти. Мы не разрешаем приложения, пропагандирующие насилие или разжигающие ненависть к отдельным лицам или группам по признаку расы или этнического происхождения, религии, инвалидности, возраста, национальности, статуса ветерана, сексуальной ориентации, пола, гендерной идентичности, касты, иммиграционного статуса или любой другой характеристики, связанной с системной дискриминацией или маргинализацией.
• Насилие. Мы не разрешаем приложения, которые изображают или способствуют необоснованному насилию или другим опасным действиям.
• Террористический контент. Мы не разрешаем приложения с контентом, связанным с терроризмом, таким как контент, пропагандирующий террористические акты, подстрекающий к насилию или восхваляющий террористические атаки.

Однако пользователи могут изначально размещать такой контент, поэтому ни одна система не совершенна. Приложение с пользовательским контентом, такое как Truth Social, должно иметь возможность своевременно удалять эти сообщения, чтобы считаться соответствующим требованиям.

Truth Social ждёт судьба Gettr и Parler?

Тем временем, приложение Truth Social технически не запрещено в Google Play — фактически, Truth Social всё ещё доступно для предварительного скачивания сегодня, как отметил Нунес. Оно всё ещё может внести изменения для приведения в соответствие с требованиями или выбрать другой способ распространения.

В отличие от устройств на iOS, приложения для Android могут быть загружены через «боковую загрузку» или отправлены в сторонние магазины приложений, такие как Amazon, Samsung и другие. Или же Truth Social может поступить так, как поступило консервативное приложение для социальных сетей Parler после его удаления из магазинов приложений в прошлом году. Хотя Parler решил внести коррективы, чтобы вернуться в App Store, теперь он распространяет версию своего приложения для Android непосредственно со своего сайта, а не в Play Store.

В то время как Truth Social определяет свой курс для Android, изучение сообщений в версии приложения для iOS выявило целый ряд антисемитских материалов, включая отрицание Холокоста, а также сообщения, пропагандирующие повешение государственных чиновников и других лиц (включая представителей сообщества ЛГБТК+), сообщения, призывающие к гражданской войне, сообщения в поддержку превосходства белой расы и многие другие категории, которые, казалось бы, нарушают политику Apple в отношении неприемлемого контента и пользовательских приложений.

Неясно, почему Apple не приняла меры против Truth Social, поскольку компания не дала никаких комментариев. Одна из возможностей заключается в том, что на момент первоначального представления Truth Social в App Store, в новом приложении было очень мало контента для разбора командой App Review, поэтому в нём не было нарушающего закон контента, который можно было бы отметить. Truth Social использует экраны фильтрации контента на iOS, чтобы скрыть некоторые сообщения за предупреждением. Хотя экраны фильтрации контента скрывают некоторые сообщения, которые, как оказалось, нарушают правила приложения, они также скрывают многие сообщения, которые не содержат предосудительного контента.

Если Apple не предпримет никаких действий, Truth Social станет не первым приложением, выросшим из протрамповской экосистемы в Интернете и нашедшим свой дом в App Store. Ряд других приложений, призванных заманить политически правых высокими обещаниями об отсутствии цензуры, также получили зеленый свет от Apple.

Социальные сети Gettr и Parler, а также приложение для обмена видео Rumble, ориентированные примерно на одну и ту же аудиторию, с похожими заявлениями о машинном модерировании, доступны для загрузки в App Store. Gettr и Rumble доступны в Google Play Store, но Google удалил Parler в январе 2021 года за подстрекательство к насилию в связи с нападением на Капитолий, и с тех пор не восстанавливал его.

Truth Social — убежище не только для сторонников Трампа, но и для «беженцев» из других социальных сетей

Все три приложения связаны с Трампом. Gettr был создан бывшим советником Трампа Джейсоном Миллером, а Parler был запущен с финансового благословения соратницы Трампа Ребекки Мерсер, которая стала играть более активную роль в управлении компанией после нападения на Капитолий США 6 января. В конце прошлого года Rumble заключил сделку с медиакомпанией бывшего президента Трампа, Trump Media & Technology Group (TMTG), на предоставление видеоконтента для Truth Social.

Общеизвестно, что в атаке 6 января были замешаны многие социальные сети, как основные, так и приложения, явно ориентированные на сторонников Трампа. Теоретики «предвыборного заговора» стекались в популярные группы и открыто объединялись вокруг таких хэштегов, как #RiggedElection и #ElectionFraud. Пользователи Parler занимали видное место среди участников беспорядков, ворвавшихся в Капитолий США.

Сегодня Truth Social — это убежище для политических групп и отдельных людей, которые были изгнаны с основных платформ из-за опасений, что они могут подстрекать к насилию. Бывший президент Трамп, который основал приложение, является самым известным среди деятелей, фактически лишённых свободы в Интернете. Но Truth Social также предлагает убежище QAnon, культовой политической теории заговора, которая была прямо запрещена в основных социальных сетях из-за её связи с актами насилия.

Truth Social объединяется с QAnon?

Только за последние несколько лет была установлена связь QAnon с ужасающими трагедиями, в результате одной из которых отец из Калифорнии застрелил двух своих детей из ружья из-за веры в бредни теории заговора. Мужчина из Нью-Йорка, который убил босса мафии, явился в суд с буквой «Q» на ладони, а также различные случаи внутреннего терроризма, предшествовавшие нападению на Капитолий. В конце 2020 года ведущие соцсети также ужесточили правила своих платформ, чтобы очистить контент QAnon после нескольких лет его процветания. В январе 2021 года один только Twitter закрыл сеть из более чем 70 000 аккаунтов, распространявших контент, связанный с QAnon, а другие социальные сети последовали его примеру и серьёзно отнеслись к этой угрозе в свете нападения на Капитолий.

В докладе, опубликованном на этой неделе организацией NewsGuard, наблюдающей за СМИ, подробно рассказывается о том, что движение QAnon живёт и процветает на Truth Social, где ряд проверенных аккаунтов продолжают продвигать теорию заговора. Бывший президент Трамп, генеральный директор Truth Social и бывший представитель Палаты представителей Девин Нунес, а также Патрик Орландо, генеральный директор финансовой поддержки Truth Social Digital World Acquisition Corporation (DWAC), в последние месяцы также продвигали контент QAnon.

В начале этой недели бывший президент Трамп начал серию постов, явно пропагандирующих QAnon, открыто ссылаясь на теорию заговора, связанную с насилием и внутренним терроризмом, вместо того, чтобы, как он делал это в прошлом, обращаться к её сторонникам с помощью зашифрованных посланий. Эта эскалация в сочетании с продолжающимся федеральным расследованием предполагаемого неправомерного использования Трампом секретной информации с высокой степенью секретности — ситуация, которая уже вдохновила людей на насилие в реальном мире, повышает ставки в социальном приложении, где бывший президент может открыто общаться со своими последователями в режиме реального времени.

То, что Google предпринял упреждающие действия по удалению Truth Social из Play Store, в то время как Apple до сих пор разрешает его работу, является интересным изменением в политике двух технологических гигантов в отношении модерации и контроля магазинов приложений. Исторически сложилось так, что Apple более активно модерирует App Store — удаляет приложения, которые не соответствуют стандартам, плохо разработаны, слишком вызывающие, слишком спамерские или даже просто работают в серой зоне. Почему в данном конкретном случае Apple воздерживается от действий — пока не слишком ясно, но в последние месяцы компания оказалась под пристальным вниманием федеральных властей в связи с её интервенционистским подходом к прибыльному рынку приложений.