Meta пытается справиться с плохим поведением пользователей

Meta объявила о новой функции, позволяющей увеличить личное пространство для аватаров людей в мирах виртуальной реальности. Метавселенная все еще находится на стадии концепции, но последние попытки создать виртуальные миры уже сталкиваются с вековой проблемой: преследованием.

Технологический обозреватель Bloomberg Парми Олсон рассказала программе BBC Tech Tent о своем собственном «жутком» опыте. Другая женщина сравнила свой собственный травмирующий опыт в виртуальной реальности с сексуальным насилием.

Meta объявила о новой функции Personal Boundary, запуск которой начнется 4 февраля. Функция предотвращает приближение аватаров на заданное расстояние друг от друга, создавая больше личного пространства для людей и облегчая предотвращение нежелательных взаимодействий. Она позволит останавливать других от «вторжений в личное пространство вашего аватара», — сказала Мета. «Если кто-то попытается подойти к вам слишком близко, система остановит его движение вперед, как только он достигнет границы». Функция доступна в программном обеспечении Meta Horizon Worlds и Horizon Venues.

Фирма заявила, что это «мощный пример того, как виртуальная реальность может помочь людям комфортно взаимодействовать друг с другом», но признала, что предстоит еще много работы. «У меня были моменты, когда мне как женщине было неловко», — сказала Парми Олсон о своем взаимодействии в виртуальной реальности. Она посещала Meta’s Horizon Worlds, платформу виртуальной реальности, где любой человек в возрасте 18 лет и старше может создать аватар и общаться. «Я сразу увидела, что я единственная женщина, единственный женский аватар. Мужчины подошли ко мне и молча уставились на меня», — сказала Парми Олсон Tech Tent. «Затем они начали меня фотографировать и давать мне фотографии, и у меня был момент, когда ко мне приблизился парень и что-то сказал. В виртуальной реальности, если кто-то находится рядом с вами, то голос звучит так, будто кто-то буквально говорит вам в реальности прямо в ухо. Это меня ошеломило».

Аналогичный дискомфорт она испытала на социальной платформе виртуальной реальности Microsoft. «Я разговаривала с другой женщиной, и через несколько минут после того, как мы болтали, подошел парень, начал болтать с нами и преследовать нас повсюду, говоря неуместные вещи, и нам пришлось его заблокировать», — сказала она. «С тех пор я слышала о других женщинах, у которых был подобный опыт». Она сказала, что, хотя она не назвала бы это домогательством, это было «жутко и неловко».

На этой неделе Нина Джейн Патель пошла намного дальше, когда рассказала Daily Mail, что подверглась домогательству в Horizon Venues, сравнив это с сексуальным насилием. Она описала, как группа мужчин-аватаров «ощупала ее» и подвергла потоку сексуальных намеков. Они сфотографировали ее и отправили сообщение следующего содержания: «Не притворяйся, что тебе это не понравилось».

Мета ответила газете, что сожалеет. «Мы хотим, чтобы у всех был положительный опыт и чтобы они могли легко найти инструменты безопасности, которые могут помочь в подобной ситуации, а также помочь нам провести расследование и принять меры».

Модерация контента в зарождающейся метавселенной будет сложной задачей, и главный технический директор Meta Эндрю Босворт признал, что она будет предлагать как «большие возможности, так и большие угрозы».

«Я мог бы чувствовать себя намного более реальным, если бы вы оскорбляли меня, потому что это больше похоже на физическое пространство», — сказал он в интервью BBC в конце прошлого года. Однако он также сказал, что люди в виртуальной реальности смогут иметь «гораздо больше власти» над своим окружением. «Если бы я заблокировал тебя, ты бы перестал существовать для меня, и тогда твоя способность причинять мне вред немедленно исчезла».

Он задался вопросом, захотят ли люди такую модерацию, которая существует на таких платформах, как Facebook, при общении в чатах в виртуальной реальности. «Вы действительно хотите, чтобы система или человек, стоящий рядом, слушал вас? Наверное, нет. Поэтому я думаю, что у нас есть компромисс в отношении конфиденциальности — если вы хотите иметь высокий уровень контента, безопасности или того, что мы бы назвали целостностью, это компромисс в отношении конфиденциальности».

В видении Мета о метавселенной, где разными комнатами управляют разные компании, компромисс становится еще более сложным, когда люди переходят из виртуального мира, контролируемого Мета, в другие. «Я не могу дать никаких гарантий ни в отношении конфиденциальности, ни в отношении честности этого разговора», — сказал он.

Парми Олсон согласилась с тем, что «Фейсбуку, Microsoft и другим компаниям будет очень трудно позаботиться об этом». «Когда вы сканируете текст на предмет разжигания ненависти, это сложно, но выполнимо — вы можете использовать алгоритмы машинного обучения. Чтобы обработать визуальную информацию об аватаре или о том, насколько он близок к другому, необходимо будет вложить много денег в вычисления, потребуется много вычислительной мощности».

Facebook инвестирует 10 миллиардов долларов в свои планы метавселенной, и часть этой суммы потребуется для создания новых способов модерации контента. «Мы многому научились за последние 15 лет, поэтому мы собираемся привнести все эти знания, чтобы сделать все возможное, чтобы дать людям большой контроль над своим собственным опытом», — сказал Босворт Би-би-си.

Доктор Бет Синглер, антрополог из Кембриджского университета, изучающая этику виртуальных миров, сказала: «Facebook уже не в состоянии узнать о том, что происходит в онлайн-пространствах». По ее мнению Meta должны получиться у игр, поскольку такие игры, как Second Life и World of Warcraft, годами предлагали виртуальные миры, ограничивая круг лиц, с которыми могут разговаривать аватары.

Она считает, что решение Меты использовать безногие аватары также может быть преднамеренным — скорее всего, причина техническая, из-за отсутствия датчиков для ног, но это также может быть способом ограничить проблемы «ниже пояса», которые могут возникнуть из-за полностью физического присутствия. Но наличие строгих правил в отношении того, как могут выглядеть аватары, может создать собственные проблемы для тех, кто «пытается выразить определенную идентичность», добавила она.