Microsoft каждые полгода публикует отчет об обеспечении безопасности игроков в экосистеме Xbox. Новый отчет касается данных за первую половину 2024 года – с января по июнь. Ниже наиболее интересные детали, которые в нем сообщили.
Блокировка аккаунтов пользователей
Суммарно за полгода заблокировали 9,57 млн аккаунтов пользователей Xbox. Это значительно меньше, чем за аналогичный период прошлого года, когда число блокировок превысило 19 млн аккаунтов.
Большинство блокировок – проактивные. То есть технологии Microsoft самостоятельно распознают нарушение и выносят решение о блокировке. В подавляющем большинстве случаев, такие баны происходят по причине мошенничества и недостоверных данных.
Реактивных блокировок около 2,81 млн. Это те случаи, когда Xbox получили жалобу от пользователей и приняли решение о блокировке. Всего за отчетный период поступило 29,63 млн жалоб, то есть примерно 10% из них привели к реальным действиям со стороны модераторов Microsoft. Больше всего жалоб поступает на общение, на втором месте поведение.
Новые подходы к защите игроков
Microsoft отмечает, что в первой половине 2024 года активно использовала ИИ для модерации:
Мы выпустили два новых инструмента ИИ, созданных для поддержки наших команд модераторов. Эти инновации не только предотвращают воздействие деструктивного материала на игроков, но и позволяют нашим модераторам-людям расставлять приоритеты в своих усилиях. Первое из этих новых решений — Xbox AutoMod, система, которая была запущена в феврале и помогает в модерации контента, на который поступают жалобы. На данный момент она обработала 1,2 млн случаев и позволила команде удалить контент, влияющий на игроков, на 88% быстрее. Второе решение ИИ, которое мы представили, было запущено в июле и активно работает над предотвращением нежелательных сообщений. Мы направили эти решения на обнаружение спама и рекламы и будем расширять их, чтобы предотвратить больше типов вреда в будущем.