Наблюдательный совет Facebook (FOB) уже разочарован тем бинарным выбором, который он, как ожидается, сделает при рассмотрении решений Facebook о модерации контента, по словам одного из его членов, который сегодня давал показания комитету Палаты лордов Великобритании, который проводит расследование свободы слова в Интернете.
FOB в настоящее время рассматривает вопрос об отмене запрета Facebook в отношении бывшего президента США Дональда Трампа. Технологический гигант запретил Трампа «на неопределенный срок» ранее в этом году после того, как его сторонники штурмовали столицу США.
Хаотическое восстание 6 января привело к ряду смертей и широко осуждению того, как основные технологические платформы отступили и позволили Трампу использовать их инструменты в качестве мегафонов для разжигания разногласий и ненависти, а не для обеспечения соблюдения своих правил в его случае.
Тем не менее, после окончательного запрета Трампа, Facebook почти сразу же передал дело на рассмотрение самопровозглашенному и самопровозглашенному Наблюдательному совету – открытие перспективу того, что запрет Трампа может быть отменен в короткие сроки с помощью исключительного процесса проверки, который Facebook разработал, профинансировал и укомплектовал персоналом.
Наблюдательный совет Facebook рассмотрит решение о приостановлении полномочий Трампа
Алан Расбриджер, бывший редактор журнала британская газета The Guardian – и один из 20 членов FOB, выбранных в качестве первоначальной когорты (полная численность персонала Совета будет вдвое больше), – избегала прямых ссылок на t o Дело Трампа сегодня, учитывая, что обзор еще продолжается, но он намекнул, что бинарные варианты выбора, которые он имеет в своем распоряжении на этой ранней стадии, не так сложны, как ему хотелось бы.
«Что произойдет, если – без комментариев. какие-либо громкие текущие дела – вы не хотели забанить кого-то на всю жизнь, но вы хотели иметь «ящик для грехов», чтобы, если они плохо себя вели, вы могли снова их отбросить? » – сказал он, предположив, что вместо этого он хотел бы иметь возможность выдавать «желтую карточку» в футбольном стиле.
«Я думаю, что Правление захочет расширить сферу своей компетенции. Я думаю, что мы уже немного разочарованы, просто говоря, сними это или оставь, – продолжил он. «Что произойдет, если вы захотите… сделать что-то менее вирусным? Что произойдет, если вы захотите разместить межстраничное объявление?
«Я думаю, что все эти вещи Правление может вовремя попросить у Facebook. Но сначала мы должны залезть под стол – мы можем делать то, что хотим ».
« В какой-то момент мы попросим показать алгоритм, я уверен – что бы это ни значило », – также сказал Расбриджер. комитет. «Сможем ли мы понять это, когда увидим, что это другой вопрос».
Для многих запрет Трампа в Facebook не вызывает споров – учитывая риск дальнейшего насилия, вызванного тем, что он позволяет Трампу продолжать использовать свой мегафон для разжигания восстания. Существуют также явные и повторяющиеся нарушения стандартов сообщества Facebook, если вы хотите быть приверженцем его правил.
Среди сторонников запрета – бывший директор службы безопасности Facebook Алекс Стамос, который с тех пор работает над более широким доверием и безопасностью. проблемы для онлайн-платформ через Стэнфордскую интернет-обсерваторию.
Стамос призывал Twitter и Facebook отключить Трампа до того, как все начнется, написав в начале января: «Законных акций не осталось, и маркировка этого не сделает».
Но после большого технология движется почти как единое целое, чтобы наконец заставить Трампа замолчать, ряд Мировые лидеры и законодатели поспешили выразить опасения по поводу гибкости большой технологической власти.
Канцлер Германии назвал запрет Twitter на него «проблематичным», заявив, что это вызывает тревожные вопросы о способности платформ мешать речи. В то время как другие законодатели в Европе ухватились за односторонние действия, заявив, что они подчеркнули необходимость надлежащего демократического регулирования технологических гигантов.
Вид самых мощных в мире платформ социальных сетей, способных отключить звук демократически избранного президента (даже одного, вызывающего разногласия) и непопулярный, как Трамп) заставил политиков всех мастей чувствовать себя тошнотворно.
Совершенно предсказуемой реакцией Facebook, конечно же, было поручение этой двусторонней головоломки FOB. В конце концов, это был весь его план для Правления. Правление будет там, чтобы иметь дело с самыми головокружительными и спорными вопросами модерации контента.
И на этом уровне Наблюдательный совет Facebook выполняет именно ту работу, которую Facebook предназначал для него.
Но интересно, что этот неофициальный «верховный суд». уже чувствует разочарование из-за ограниченного бинарного выбора, о котором его просят. (В случае с Трампом – либо полностью отменить запрет, либо продлить его на неопределенный срок.)
Неофициальное сообщение FOB, похоже, состоит в том, что инструменты просто слишком прямолинейны. Хотя Facebook никогда не заявлял, что будет связан какими-либо более широкими политическими предложениями, которые может внести Правление, – только то, что он будет соблюдать конкретные индивидуальные решения по проверке. (Вот почему общепринятая критика Правления состоит в том, что оно беззубо там, где это важно.)
Насколько агрессивно Правление будет подталкивать Facebook к тому, чтобы он был менее разочаровывающим, еще предстоит увидеть.
«Ничего из этого не так. будет решена быстро », – продолжил Расбриджер, в более общих замечаниях выступив перед комитетом о проблемах модерирования речи в цифровую эпоху. Он предположил, что для того, чтобы справиться с революцией публикаций в Интернете, на самом деле может потребоваться работа поколений, сделав общепринятую ссылку длинной цепью социальных потрясений, которые возникли после изобретения Гутенбергом печатного станка.
Если бы Facebook надеялся, что FOB сделает это. бросить жесткие (и колючие в свою сторону) вопросы о модерации контента в длинную и интеллектуальную траву, он, безусловно, восхищен уровнем поглаживания бороды, о котором свидетельствуют свидетельства Расбриджера, сейчас происходит внутри Правления. (Если, возможно, немного меньше очарована перспективой того, что его назначенцы спрашивают его, могут ли они ковыряться в его алгоритмических черных ящиках.)
Кейт Клоник, доцент юридической школы Университета Святого Иоанна, также давала показания комитету – написав статью о внутренней работе FOB, недавно опубликованную в New Yorker, после того, как Facebook предоставил ей широкий доступ для наблюдения за процессом создания органа.
Комитет лордов стремился к узнать больше о работе FOB и несколько раз давить на свидетелей по вопросу независимости Совета от Facebook.
Расбриджер отбил опасения по этому поводу, сказав: «Мы вообще не чувствуем, что работаем на Facebook». Хотя Facebook платит членам совета директоров через траст, созданный для того, чтобы отделить FOB от материнской компании. И комитет не уклонился и не повысил размер платежа, чтобы задать вопрос, насколько по-настоящему независимыми они могут быть?
«Я чувствую себя в высшей степени независимым», – сказал Расбриджер. «Я не думаю, что есть какое-то обязательство быть вежливым по отношению к Facebook или ужасным по отношению к Facebook».
«Одна из приятных вещей в этом Правлении – это то, что иногда люди будут говорить, но если мы сделаем это, это приведет к потере Facebook. экономическая модель в такой-то стране. На что мы хорошо отвечаем, это не наша проблема. Это очень освобождает », – добавил он.
Конечно, трудно себе представить, чтобы действующий член FOB мог ответить на вопрос о независимости каким-либо иным образом – если только они одновременно не ушли в отставку со своей должности (что, для ясности, , Расбриджер не был).
Он подтвердил, что члены Правления могут служить три срока по три года каждый – так что впереди у него может быть почти десятилетие поглаживания бороды от имени Facebook.
Клоник, тем временем, подчеркнул масштаб проблемы, с которой столкнулся Facebook, пытаясь создать с нуля квазинезависимый надзорный орган и создать дистанцию между собой и заявленным сторожевым псом.
«Создание организации, которая будет сторожевым псом – невероятно сложно переход к институциональному строительству и разорвать эти узы [between the Board and Facebook] и поставить этих новых людей откровенно с этим огромным набором проблем, новой технологией, новой серверной частью, системой управления контентом и всем остальным », – сказала она. [19659003] Расбриджер сказал, что Правление прошло обширный процесс обучения, в котором участвовали представители Facebook во время «адаптации». Но продолжил описывать момент, когда обучение закончилось, и FOB осознал, что некоторые представители Facebook все еще присоединяются к их звонкам – заявив, что в этот момент Правление почувствовало себя вправе приказать Facebook уйти.
«Это был именно тот тип обучения. – момент, когда я наблюдал за этим, я знал, что должно произойти », – добавил Клоник. «Должен был быть какой-то формальный перерыв – и мне сказали, что это естественный момент, когда они закончили свое обучение, и это будет момент отталкивания и отрыва от гнезда. Вот и все ».
Однако, если ваша мера независимости не в том, что Facebook буквально подслушивает звонки Правления вам действительно нужно спросить, сколько Kool Aid мог успешно распределить Facebook его избранным и желающим участникам в течение длительного и сложного процесса программирования своего собственного сторожевого пса – включая дополнительных посторонних, которых он допустил для наблюдения за установкой.
Беззубик: Facebook предлагает слабый Наблюдательный совет
Комитет также был заинтересован на самом деле FOB до сих пор в основном приказывал Facebook восстановить контент, который его модераторы ранее удалили.
В январе, когда Совет принял свои первые решения, он отменил четыре из пяти удалений Facebook, в том числе в отношении ряда случаев языка вражды. Этот шаг быстро вызвал критику из-за направления движения. В конце концов, более широкая критика бизнеса Facebook заключается в том, что он слишком неохотно удаляет токсичный контент (например, в прошлом году он запретил отрицание холокоста). И вот! Вот его самопровозглашенный «Наблюдательный совет», принимающий решения отменить разжигание ненавистнических высказываний…
Неофициальный и оппозиционный «Настоящий совет Facebook», который является действительно независимым и сильно критикует Facebook, набросился на и осудил решения как «шокирующие», в которых говорится, что FOB «наклонился назад, чтобы оправдать ненависть».
Клоник сказал, что реальность такова, что FOB не является верховным судом Facebook, а скорее, по сути, просто «Механизм разрешения споров для пользователей».
Если эта оценка верна – а это звучит точно, если вы помните фантастически крошечное количество пользователей, которые могут ее использовать, – количество PR Facebook смогло генерировать что-то, что действительно должно быть стандартной функцией его платформы, поистине невероятно.
Клоник утверждал, что ранние откаты Правления были результатом того, что он услышал от пользователей, возражающих против удаления контента, что сделало его «сочувствующим» к их жалобы.
«Абсолютное разочарование из-за того, что не знал конкретно, что что правило было нарушено, или как избежать его повторного нарушения, или что они сделали, чтобы добраться до него или рассказать свою точку зрения », – сказала она, перечислив все то, что члены Правления сказали ей, что они были слушания от пользователей, подавших петиции о пересмотре решения об удалении против них.
«Я думаю, что то, что вы видите в решении Правления, – это, прежде всего, попытаться восстановить часть этого», – она предложенный. «Это сигнал, который они посылают обратно в Facebook – если честно, это довольно низко висящий плод. Это позволяет людям узнать точное правило, дать им анализ типа факт к факту или применение правила к фактам и дать им такое прочтение того, что они видят, и люди будут более довольны тем, что происходит.
«Или, по крайней мере, просто почувствуйте, что есть процесс, и не только этот черный ящик подвергает их цензуре».
В своем ответе на вопрос комитета, Расбриджер обсудил, как он подходит к принятию решений по обзору
«В большинстве своих суждений я начинаю с того, что хорошо размышляю, почему мы должны ограничивать свободу слова в этом конкретном случае – и это действительно ставит вас перед интересными вопросами», – сказал он, ранее охарактеризовав свою школу мысли о речи как родственную. на точку зрения судьи Брандейса «бороться с плохой речью с помощью большего количества речей».
«Право не быть оскорбленным было задействовано в одном из дел – в отличие от границы между оскорблением и причинением вреда», – продолжил он. . «Этот вопрос долгое время обсуждался политическими философами, и он, безусловно, никогда не будет решен полностью.
« Но если вы согласитесь с установлением права не быть оскорбленным, это будет иметь огромные последствия для способности обсуждать почти все, в конце концов. И все же были один или два случая, когда, по сути, Facebook, подавляя что-то, ссылался на что-то подобное »
.« Очевидно, что вред, а не оскорбление – это то, к чему вы бы относились по-другому », – добавил он. «И мы находимся в счастливом положении, так как можем нанять экспертов и искать советников по поводу ущерба».
Хотя Расбриджер не был обеспокоен проблемами и ловушками, с которыми сталкивается Правление, когда ему, возможно, придется установить «Граница» между оскорбительной речью и самой оскорбительной речью – по-видимому, помогает возможность (дополнительно) использовать аутсорсинг – он действительно поднял ряд других оперативных вопросов во время сеанса. В том числе из-за отсутствия технических знаний у нынешних членов совета директоров (которые были выбраны исключительно Facebook).
Без технических знаний, как Правление может «исследовать алгоритм», как он предположил, что он хотел бы, потому что он не сможет понять механизм распространения контента Facebook каким-либо значимым образом?
Поскольку Правление в настоящее время не обладает техническими знаниями, оно поднимает более широкие вопросы о его функциях – и о том, может ли его первая изученная когорта не сыграть в качестве полезных идиотов с эгоистической точки зрения Facebook – помогая ему замалчивать и отвлекать от более тщательного изучения его алгоритмических решений по добыче денег.
Если вы действительно не понимаете, как работает машина Facebook, технически и экономически, как вы вообще можете проводить какой-либо значимый надзор ? (Расбриджер, очевидно, понимает это, но также рад подождать и посмотреть, как разворачивается этот процесс. Без сомнения, интеллектуальное упражнение и инсайдерский взгляд увлекательны. «Пока что я нахожу это очень увлекательным», как он признал в своем открытии доказательств. .)
«Люди говорят мне, что вы состоите в этом Правлении, но хорошо известно, что алгоритмы награждают эмоциональный контент, который поляризует сообщества, потому что это делает его более захватывающим. Ну, я не знаю, правда это или нет – и я думаю, что нам, как совету директоров, придется с этим разобраться, – продолжил он. «Даже если для этого потребуется много сеансов с кодировщиками, говорящими очень медленно, чтобы мы могли понять, что они говорят».
«Я действительно думаю, что наша ответственность будет заключаться в том, чтобы понять, что это за машины – машины, которые входят, а не машины, которые модерируют », – добавил он. «Каковы их показатели».
Оба свидетеля выразили еще одно беспокойство: комплексные, детализированные решения по модерации, которые принимает Правление, не смогут масштабироваться – предполагая, что они слишком специфичны, чтобы в целом информировать ИИ. модерация на основе. Кроме того, они не обязательно смогут быть задействованы штатной системой модерации, которую в настоящее время использует Facebook (которая дает тысячам модераторов фантастически крошечное количество времени на обдумывание каждого решения по содержанию).
Несмотря на это, проблема огромных масштабов Facebook в отличие от ограниченной и определяемой Facebook функции Правления – возиться на обочине своей контентной империи – была одной всеобъемлющей точкой, которая беспокойно висела на протяжении всей сессии, но не была должным образом решена.
«Я думаю, ваш вопрос о том, легко ли это «коммуникативно» – действительно хороший вопрос, с которым мы немного боремся », – сказал Расбриджер, признав, что ему пришлось продумать целую кучу незнакомых« протоколов и норм в области прав человека со всего мира », чтобы почувствовать себя квалифицированным для соответствовать требованиям работы по анализу.
Масштабирование такого уровня обучения до десятков тысяч модераторов, которых Facebook в настоящее время нанимает для модерации контента, конечно, было бы невероятно дорогостоящим. Его также не предлагает Facebook. Вместо этого она тщательно отобрала команду из 40 очень дорогих и обученных экспертов для решения бесконечно меньшего количества решений по содержанию.
«Я думаю, что важно, чтобы принимаемые нами решения были понятны модераторам-людям», – добавил Расбриджер. «В идеале они также понятны машинам – и в этом есть напряжение, потому что иногда вы смотрите на факты дела и решаете его особым образом со ссылкой на эти три стандарта [Facebook’s community standard, Facebook’s values and “a human rights filter”]. Но зная, что машине будет непросто понять нюанс между этим делом и другим делом.
«Но, знаете ли, сейчас только рано».
Совет по надзору Facebook говорит другое социальные сети "приглашаем присоединиться", если проект будет успешным