緊急治療室：アメリカのFacebookモデレーターの秘密の生活

警告：この記事では、人種差別、暴力、精神疾患について説明しています。

彼女が人の死を見た後、クロエでパニックの攻撃が始まりました。

最後の3週間半、彼女はトレーニングに費やし、不快な発言 、暴力的な攻撃、ポルノ画像などの不快な投稿の毎日の攻撃を引き締め、抵抗しようとしました。 数日後、彼女はフルタイムのFBコンテンツモデレーターのモデレーターの地位を引き継ぎます。彼女の会社では、プロフェッショナルサービスプロバイダーのCognizantは、漠然と「プロセスエグゼキューター」と呼ばれています。

トレーニングのこの段階で、クロエは他のインターンの前のFBのポストの節度に従事する必要があります。 彼女の番が到着すると、彼女は部屋の前に行き、世界最大のソーシャルネットワークに送信されたビデオがモニターに表示されます。 クロエを含む研修生は誰も彼を見ていませんでした。 彼女はスタートボタンを押します。

ビデオは男の殺人を示しています。 誰かが彼にナイフを刺し、何十回も彼は悲鳴を上げ、慈悲を請う。 クロエの仕事は、このビデオを削除すべきかどうかを出席者に知らせることです。 彼女は、FBの公的基準のセクション13で、1人以上の殺人を描写したビデオの投稿が禁止されていることを知っています。 クロエがこれをクラス全体に説明すると、彼女は自分の声が震えるのを聞きます。

その場所に戻ると、クロエはすすり泣きたいと思うようになります。 次のインターンは次の投稿を評価するために前進しますが、クロエは集中することができません。 彼女は部屋を出て、すすり泣き始め、呼吸困難になります。

誰も彼女を安心させようとしていません。 彼女はこの役職に雇われました。 そして、クロエのように、フェニックスのオフィスからFBをモデレートしている1000人の人々にとって、そして世界中の15,000人のモデレーターにとって、今日はただの営業日です。



過去3か月間、私はフェニックスで働いている12人の元および現在のCognizant従業員にインタビューしました。 全員が秘密保持契約に署名し、FBでの作業について議論しないこと、およびFBがCognizantクライアントであることを認めることすらしないことを約束しました。 秘密のベールは、モデレーターの行動のために怒るユーザーから従業員を保護し、有名な請負業者FBで状況を解決しようとします。 プライバシーの問題は現在精査中であるため、契約は請負業者の従業員によるFBユーザーの個人情報の普及も防ぐべきです。

しかし、モデレーターは、この秘密がこれらの会社の労働条件に対する批判からCognizantとFBを隔離することを私に知らせました。 彼らは、自分の愛する人でさえ、自分に作用する感情的な負担について議論しないことを余儀なくされており、これは孤立感や不安感の増加につながります。 雇用主とFBユーザーの両方からの報復から保護するために、コグニザントビジネスプロセスサービスの副社長であるボブダンカンとFBグローバルパートナーシップマネジメントディレクターのマークデイビッドソンを除き、ここで言及したすべての人々に仮名を使用することに同意しました。

一般的に、従業員は、ワークスペースが常に混乱に陥ると脅していると説明しています。 この環境では、従業員はブラックユーモアのカテゴリからジョークを交えて自殺について話し合い、雑草を吸って感情を抑えます。 ここでは、従業員は週に数回のミスで解雇され、残った人は復collを企てるかもしれない元同僚を恐れて生きることができます。

この場所では、FB が従業員を甘やかすのとは対照的に、チームリーダーは、トイレに行ったり祈ったりする場合でも、モデレーターのミクロ管理に従事します。 ここで、労働者は必死に苦しむ雰囲気の中でドーパミンの服用を試みており、階段の下やミルクを搾り出す部屋でセックスをしていることがわかりました。 ここで、人々はすでに訓練段階で不安を感じ始め、解雇後も長時間外傷性症候群に苦しみ続けます。 また、Cognizantが従業員に提供する心理的サービスは、解雇された直後に中断します。

モデレーターは、彼らが毎日見なければならない陰謀説に関するビデオやミームが徐々に彼らの見解をより過激なものに変えると言った。 ある監査員は、平らな地球を求めて運動しています。 元従業員は、彼がホロコーストの特定の側面に疑問を持ち始めたと言った。 別の元従業員は、自分の家からのすべての避難経路をマークし、ベッドの横に銃を構えていたと言い、「テロリストが9/11に私たちを攻撃したとはもはや信じていません。」

クロエはトイレで少し泣き、その後トイレで泣きますが、その後、彼女はあまりにも多くのトレーニングを逃すのではないかと心配し始めます。 彼女は履歴書を送るときにこの仕事に就きたいと思っていました。なぜなら彼女は最近大学を卒業し、他の選択肢がほとんどなかったからです。 彼女がフルタイムのモデレーターになると、彼女は1時間あたり15ドルを受け取ります。これは、彼女が住んでいるアリゾナ州の最低給与よりも4ドル多く、ほとんどの小売販売の仕事で期待される以上です。

涙が止まり、呼吸が回復します。 彼女が戻ったとき、同僚の一人が暴力で別のビデオについて議論します。 彼女はドローンが空中から人々を撃つのを見る。 クロエは、人間の姿が機動性を失い、死ぬのを見ています。

彼女は再び部屋を出る。

最終的に、管理者はトイレで彼女を見つけ、弱く抱擁します。 Cognizantは心理学者のサービスを従業員に提供していますが、彼はフルタイムで働いておらず、まだオフィスに到着していません。 クロエは30分以上彼を待っています。

心理学者が彼女を受け入れると、彼女はパニック発作にかかったと説明します。 彼は、リリース後、彼女はトレーニングルームよりもFBのビデオをより細かく制御できるようになると彼女に言います。 ビデオを一時停止したり、音声なしで視聴したりできると彼は言います。 呼吸に集中する、と彼は言います。 表示している素材にあまり熱心になっていないことを確認してください。

「心配しないようにと彼は私に言った、そして私はおそらくまだ仕事をすることができたと思う」とクロエは言う。 その後、彼は回復します：「彼は私が心配するべきではなく、私がこの仕事をすることができると言った。」



2017年5月3日、Mark ZuckerbergはFBの「 パブリックオペレーション 」チームの拡大を発表しました。 4,500人のモデレーターの既存の軍隊に追加される新しい従業員は、コミュニティの基準に違反しているというメッセージを受け取った各投稿を確認する責任があります。 2018年末までに、ソーシャルネットワーク上の残酷で搾取的なコンテンツの優位性に対する批判に応えて、FBは30,000人以上の従業員をセキュリティのために戦わせるために派遣し、その約半数は節度に従事しています。

モデレーターにはフルタイムの従業員がいますが、FBは請負業者に大きく依存しています。 FBのオペレーション担当バイスプレジデントであるEllen Silverは昨年、ブログで請負業者を使用してFBが「 グローバルにスケールアップ 」できるようにしたと述べています。モデレーターは24時間働き、50か国語で作成された投稿を20か所のオフィスで評価できます全世界に。

請負業者の労働力を使用することは、FBにとって実際的な利点があります。それは根本的に安価です。 FBの平均的な従業員は 、給与、ボーナス、昇進を合計することにより、年間240,000ドルを稼ぎます。 アリゾナ州のCognizantで働くモデレーターは、年間28,800ドルしか稼ぐことができないため、FBは高い収益性を維持できます。 最後の四半期に、同社は 169億ドルの収益で69億ドルの利益を上げました 。また、ザッカーバーグは FBのセキュリティへの投資が企業の収益性を低下させると投資家に警告しましたが、実際には、利益は昨年と比較して61％増加しました。

2014年以来、Adrian ChenがWired誌のソーシャルネットワークのモデレーターの困難な労働条件について詳しく説明したとき、FBは最低賃金の従業員を傷つける批判に敏感でした。 シルバーは彼女のブログ投稿で、FBは潜在的なモデレーターが「暴力のイメージに対処できるようになる」と推定し、これに耐える能力について彼らをテストすると述べた。

コグニザントの北米におけるコンテンツのモデレーションを監督するボブダンカンは、採用担当者が作品の視覚的性質を候補者に詳細に説明していると言います。 「見ることができるものの例を共有しているので、彼らはそれについての考えを持っています」と彼は言います。 「人々がこれを理解できるようにすべてが行われています。」 そして、彼らがこの仕事が彼らにふさわしくないと決めるならば、彼らは適切な決定をすることができるでしょう。」

最近まで、FBコンテンツのモデレートのほとんどは米国外で行われていました。 しかし、労働需要の増大に伴い、FBは母国での存在感を拡大し、カリフォルニア、アリゾナ、テキサス、フロリダにオフィスを展開しました。

米国は会社の発祥の地であり、ソーシャルネットワークで最も人気のある国の1つです。 アメリカのモデレーターは、ヘイトスピーチや脅迫が発生する可能性のある米国のコンテンツを評価するのに必要な文化的背景を持っている可能性が高くなります。彼によると、そのような場合、特定の国に特有の専門用語がよく使用されるためです。

デビッドソンが説明するように、FBは「FBオフィスをコピーし、そこからすべての感覚を伝える最も先進的なオフィス」を作成するためにも働きました。 これは重要なことでした。なぜなら、スクリーンの光だけに照らされた暗い汚い地下室に人々が座っているようなアイデアが市場に現れることがあるからです。 実際、これはまったくそうではありません。」

実際、コグニザントフェニックスのオフィスは、暗くも汚いものでもありません。 コンピューターを搭載したオフィスデスクが提供されているため、FBの他のオフィスに似ていると言えます。 しかし、メンパークFBの従業員は、建築家フランクゲーリーの広々とした日当たりの良い複合施設で働いていますが、アリゾナの請負業者は混雑した部屋に集まっています。 FBの従業員が非常に柔軟なスケジュールに従って作業を計画できる場合、Cognizantの従業員の就業日は最大数秒にスケジュールされます。



ミゲルという名前のモデレーターは、朝の7時に始まる1日シフトに到着します。 彼は、フェニックスビジネスパークの2階を占めるオフィスで最終的に職場に浸透する300人の従業員の1人です。

セキュリティは入り口を監視し、不満を抱いた元従業員またはFBのユーザーが侵入したことを確認します。これらのユーザーは、エントリの削除によりモデレーターに苦情を申し立てることができます。 ミゲルはバッジを通り抜けてオフィスまで行き、ロッカーに向かいます。 ロッカーがまったくないため、従業員の中には夜間に物を預かって翌日に誰も連れて行かないようにする人もいます。

ロッカーは、休憩中に人でいっぱいの狭い廊下を占有します。 記録を評価するFBユーザーのプライバシーを保護するために、従業員は営業時間中はロッカーに携帯電話を隠す必要があります。

Miguelが一部のFBユーザーの個人情報を書き留める誘惑に遭わないように、アクセサリーや紙を書くことも忘れてください。 このポリシーは、チューインガムラッパーなどの紙くずにも適用されます。 ハンドローションなどの小物は、マネージャーが見えるように透明なプラスチック化粧品袋に入れる必要があります。

Cognizantで「生産フロア」と呼ばれているように、大規模なスタッフの離職を伴う4つの毎日のシフトに対応するために、ほとんどの人は個人用テーブルを割り当てません。 Miguelは無料のワークステーションを見つけ、Single Review Tool [SRT]と呼ばれる彼のソフトウェアアカウントにログインします。 仕事の準備ができたら、「レビューを続ける」ボタンをクリックして、投稿のキューの奥深くに入ります。

Guardianで多くのドキュメントが既に公開された1年後の昨年4月、FBは毎月23億人のユーザーがリソースを訪問することを管理するコミュニティ標準を公開しました 。 その後の数か月で、 MotherboardとRadiolabは、大量のテキストなど、モデレーションの問題に関する詳細な調査を発表しました。

困難の中で：多数の記録。 単一セットの規則を一貫して適用するために、低賃金労働者の世界的な軍隊を訓練する必要性。 これらの規則のほぼ毎日の変更と明確化。 モデレーター間の文化的または政治的背景の欠如; 記録に文脈がないため、それらが曖昧になる。 どのルールがどの場合に適用されるべきかについて、モデレーター間で頻繁に意見の相違がある。

政治を決定するのは困難であるが、FBは何よりも「正確性」と呼ばれる測定基準を尊重するようコグニザントと他の請負業者に義務付けている。 この場合、正確性とは、FBの従業員が請負業者の決定のサブセットをチェックするとき、彼らが同意する必要があることを意味します。 会社は目標を95％の精度にしましたが、それを達成することはできません。 Cognizantは長期間にわたってこのような精度を維持したことはありません。通常は90％をわずかに下回るか、わずかに上回る値であり、発行時点では約92％でした。

ミゲルは熱心に政治に従いますが、彼が言うように、それは彼にとって常に意味をなさない。 ポリシーに従って、これは「明らかにポジティブなコンテンツ」であるため、「my favourite n ----」というエントリを残すことができます。 「すべての自閉症の人々を消毒する必要がある」という呼びかけは彼をin辱しているようですが、この記録も残っています。 自閉症は人種や性別などの「保護された特性」ではないため、政治の侵害ではありません。 （「すべての男性を滅菌する」という呼びかけは削除する必要があります）。

1月、FBは、モデレーターがユーザーの人生の最近の恋愛状況を考慮に入れ、性別に対する憎悪を説明するエントリを評価する必要があると述べたポリシー更新を配布しました。 「私はすべての男性が嫌いだ」という記録は常に政治に反していました。 しかし、「私は彼氏と別れたばかりで、すべての男性が嫌いです」と彼女は矛盾しなくなりました。

Miguelはキュー内のレコードを処理します。 彼らは特別な注文なしでそこに着きます。 これは人種差別的なジョークです。 家畜とセックスをしている男性がいます。 これが麻薬カルテルによって記録された殺人のビデオです。 ミゲルが見ている記録のいくつかはFBからのものであり、彼が言うように、彼はしばしば攻撃や憎悪のスピーチに遭遇します。 他の人はインスタグラムから来て、あなたは仮名で投稿することができ、より多くの暴力、ヌード、セックスがあります。

各エントリについて、ミゲルは2つの個別のテストを実施する必要があります。 彼は最初に記録がコミュニティの基準に違反しているかどうかを判断しなければなりません。 その後、彼は違反している正しいアイテムを選択する必要があります。 レコードを削除する必要があると彼が正確に判断したが、「間違った」理由を選択した場合、これは精度の評価に影響します。

ミゲルは非常に良い仕事をしています。 彼は各レコードのアクションを正しく選択し、最悪のコンテンツからFBを保存しようとし、正しい（不快ではありますが）テキストの最大数を保護します。 彼は各レコードの処理に30秒以下しか費やさず、1日あたり最大400件のレコードを処理します。

ミゲルに質問がある場合、彼は手を挙げ、「主題専門家」（SME）-FBポリシーをより良く十分に認識していると考えられ、ミゲルよりも1時間あたり1ドル多く稼ぐ請負業者が適切です。彼に支援を提供します。 これにはMiguelの時間がかかり、レコード数の最小割り当て量はありませんが、マネージャーは生産性を追跡し、この数が200未満になったときに説明を求めます。

Miguelが1週間で行う1,500（またはそれ以上）の決定のうち、FBは監査のために50〜60個をランダムに選択します。 これらの記録は、品質部門で働いている別のCognizant従業員、またはMiguelよりも1ドル多く稼いでいるQAによって調査されています。 次に、FBの従業員はQAソリューションのサブセットを監査し、これらすべての監査に基づいて精度評価が導き出されます。

ミゲルは、結果として得られる精度の値に懐疑的です。 「精度は、労働者の同意がある場合にのみ評価されます。 監査人と私がコカインの販売を許可されている場合、単に同意したからといって、「正確な」決定と判断されます」と彼は言います。 「その数字はナンセンスです。」



司会者の問題解決に関する長年の批判の後に開発されたFBの精度の修正。 毎日数十億の記録がソーシャルネットワークに表示され、FBはあらゆる側面からプレッシャーを感じています。 ミャンマーのロヒンギャの迫害の際にソーシャルネットワークがヘイトスピーチに関与していることが国連の調査官によって発見された場合など、場合によっては会社があまりにも少ないことで非難されました。 他のケースでは、彼女は行き過ぎたと非難されました-例えば、モデレーターが米国独立宣言を引用した投稿を削除したとき。 （最終的に、トーマス・ジェファーソンは、「インドの野av人」などのフレーズの使用を禁止するFBのユーザーに対するルールの死後例外となりました）。

モデレーターが精度目標を達成するのが難しい理由の1つは、ルールを施行する決定ごとに、いくつかの情報源を考慮する必要があることです。

施行の標準的なソースは、FBのパブリックコミュニティのガイドラインであり、2組のドキュメントで構成されています。公開されたドキュメントと、複雑な問題に関する詳細が記載されたより長い内部ドキュメントです。これらの文書は、「既知の問題」と題された15,000語の2番目の文書で補足されています。これは、調停問題に関する追加のコメントとガイダンスを提供します。「既知の問題」はかつて1つの長い文書を占めていたため、モデレーターは毎日確認する必要がありました。昨年、検索しやすくするために内部ガイドラインに含まれていました。

真実の3番目の情報源は、モデレーター間の内部議論です。モデレーターは、大量撮影などのニュース速報の時点で、動画が削除の基準を満たしているかどうか、または単に「邪魔な」というフラグを立てる必要があるかどうかについてコンセンサスを得ようとします。しかし、時には、モデレーターが言うように、彼らのコンセンサスは間違っており、マネージャーはオフィスを歩き回って正しい決定を説明しなければなりません。

4番目のソースは、おそらく最も問題のあるものです。情報を広めるために設計された内部FBツールです。正式なポリシーの変更は通常、毎週水曜日に表示されますが、開発中の問題に関する徐々に増加するガイドラインはほぼ毎日配布されます。多くの場合、2016年に導入されたFBエンタープライズバージョンであるWorkplaceに指示が掲載されています。。 FBと同様に、Workplaceには特定のアルゴリズムに従って動作するニュースレターがあり、関与に応じてエントリが表示されます。大量撮影などのニュース速報の時点で、管理者は、時間で並べ替えることなく、職場に表示されるコンテンツの個々の例をモデレートする方法について矛盾する情報を投稿することがよくあります。 6人の現従業員および元従業員は、モデレート中にミスを犯し、リストの一番上に古いエントリが表示されたと言いました。 FB自体の製品がそれらに対して機能するように見える場合があります。モデレーターはこの皮肉を感じます。

「これは常に起こっています」と元モデレーターのダイアナは言います。 「それはひどいものでした。仕事を正しく行うために個人的に対処しなければならなかった最も不快なことの1つです。」 2017年にラスベガスで銃乱射事件が発生するなど、国民的悲劇が発生した場合、管理者はビデオを削除するようモデレーターに指示し、数時間後に行われた別のエントリでそれを残します。モデレーターは、ワークプレイスのどのエントリーが最初に表示されるかに基づいて決定を下します。

「それは完全な混乱でした」とダイアナは言います。 「慎重な判断を下すことが期待されていたため、統計が台無しになりました。」

ポリシー変更のための職場のエントリは、特定のトピックについてCognizantの従業員に送信されるスライドのセットによって補完されることがあります。これは、パークランドでの撮影などの悲しい記念日に結び付けられることがよくあります。しかし、司会者は、そのようなプレゼンテーションやその他の補助資料にはしばしば恥ずべき誤りが含まれていると私に通知しました。過去1年間、下院議員は上院議員と上院議員と混同されてきました。選挙の日付を誤って示した。撮影が行われたパークランドスクールの名前を間違えました。

そして、規則が絶えず変化しているにもかかわらず、モデレーターは事実上、間違いを犯す権利を残しません。この作業は、100ポイントから始めて（正確さの理想的な尺度）、フックまたは詐欺によってそれらのポイントを保存しようとするハイステークスビデオゲームを連想させます。 95を下回ると、作業が危険にさらされます。

品質管理者がミゲルの決定を誤っていると指摘した場合、後者はこれに異議を唱える可能性があります。 QAにあなたに同意させることは、彼らが言うように、「ポイントを返す」ことです。短期的には、ミスはQAのミスと見なされるため、モデレーターは毎回これらの決定に異議を唱えるあらゆる理由を持っています。最近、Cognizantはポイントを返す手順をさらに複雑にし、SMEが最初にアピールを承認してからQAに送信する必要があります。

議論の余地のある問題がFBに達することもあります。しかし、私がインタビューしたすべてのモデレーターは、Cognizantマネージャーは従業員がクライアントに質問することを思いとどまらせ、そのようなケースが多すぎるとFBを悩まし始めることを恐れていると言います。

その結果、Cognizantはその場で政治を発明し始めました。たとえば、ガイドラインでは性的絞殺のトピックの報道を直接禁止していませんが、3人の元モデレーターは、首に首を絞めた指がない場合にのみ、そのような画像は許容できるとチームリーダーが発表したと語りました。

従業員を解雇する前に、メンタリングが提供され、修正プログラムに送られます。これにより、ガイドラインを完全にマスターすることが保証されます。しかし、3人の元モデレーターが私に言ったように、これは従業員を解雇する口実としてしばしば機能します。時々、あまりにも多くのポイントを逃した請負業者は、最終決定が下されるFBにアピールをもたらします。しかし、私が知ったように、会社は、従業員がすでに解雇される前に、そのようなリクエストのキュー全体を常に調べているとは限りません。

公式には、モデレーターはQAと連絡を取り、意見を変えるよう説得することを禁止されています。しかし、品質部門の2人の元従業員が私に言ったように、これはまだ定期的に起こります。

そのうちの1人であるランディは、1日の仕事の後に車に戻ってくることがあり、そこで待っているモデレーターに会いました。年に5〜6回、誰かが彼を脅迫して心を変えようとしました。 「彼らは駐車場で私に会い、私をノックアウトすると脅した」と彼は言う。 「誰も私と丁寧にまたは敬意を持って話そうとしたことはありません。」いつも：「あなたは私を誤解しました！胸でした！完全に見えるアールで！ ""

彼の安全を心配して、ランディは隠された武器を持ち歩き始めた。解雇された従業員は定期的に職場に戻り、元同僚とさえ付き合うと脅迫し、ランディは彼らの何人かが非常に真剣に話したと考えました。元同僚は、ランディが彼と一緒に携帯しているピストルを知っていて、彼の決定を承認し、攻撃の際に地元の警備員の努力が十分ではないことを心配していると言った。

Cognizantのダンカンは、私が話されたさまざまなセキュリティと管理の問題を調査することを私に言った。彼は、仕事に銃を持ち込むことは禁じられており、経営陣がそれを知っていれば、彼らが介入してこの従業員に向かって話すと言った。

ランディは1年後に辞めました。彼はピストルを撃つ機会がありませんでしたが、彼の心配は手放しませんでした。 「家にいても安全に感じられなかったため、私は部分的に去りました」と彼は言います。



休憩する前に、ミゲルはブラウザ拡張機能のボタンをクリックして会社に通知する必要があります。 （Davidsonは、「これはそのような企業では標準的な手順です。そのため、従業員を監視し、誰がどこにいるかを知ることができます。」）

ミゲルは15分の休憩を2回、30分の昼休みを1回取ることができます。休憩中、彼は通常トイレで長い列に遭遇します。オフィスの数百人の男性用トイレには小便器が1つ、キュービクルが2つ、女性用には3つのキュービクルがあります。コグニザントは最終的に労働者が他のフロアでトイレを使用することを許可しましたが、ミゲルがそこに着いて戻ってくるには貴重な時間がかかります。彼がトイレに行き、群衆の中を引き出しにたどり着くまでに、電話を見てテーブルに戻るまであと5分しかありませんでした。

ミゲルはまた、1日9分間「気分が良くなった」ことに頼っています。怪我をしてテーブルから離れる必要がある場合は、これを使用する必要があります。数人のモデレーターが、ラインが短くなったときにトイレに行くのにこれらの時間を使ったと言った。しかし、経営者は最終的にこれを知り、従業員に今回はトイレに行くのに使わないように命じました。 （最近、オースティンのアクセンチュアが雇ったFBモデレーターのグループは、「非人道的な」中断条件を訴えました。FBは、会社の誤解されたポリシーの問題を非難しました）。

フェニックスでは、5人の毎日の祈りの1つを「幸福度を向上させる」ために時間を費やしたイスラム教徒が休憩中にこれを終わらせ、宗教を実践するよう命じられました。さらに、私が話したスタッフは、祈りが「幸福を改善する」ための時間の正しい使用と見なされない理由を理解していませんでした。 Cognizantはこれらの事件についてコメントすることを拒否しましたが、これらの事件の1つに精通している人は、1人の従業員が毎日の祈りを行うために40分を要求し、会社はこれらの要件を過度に感じたと言いました。

認識力のある従業員は、時間があるときに心理学者を訪問することにより、職場でのストレスに対処するよう指示されます。ホットラインを呼び出すことにより;心理療法のいくつかのセッションを含む従業員支援プログラムを使用します。最近、ヨガやその他の治療演習が週に追加されました。しかし、心理学者へのまれな訪問に加えて、6人の従業員が私に言ったように、他の手段は不十分であることが判明しました。彼らは、職場でのストレスに別の方法で対処したと言いました。性、麻薬、無作法な冗談です。

Cognizantのセックスワーカーが見つかった場所のリストは、トイレ、洗面所、階段、駐車場、および搾乳室です。この問題に精通しているある人が私に言ったように、2018年の初めに、セキュリティはマネージャーに労働者の同様の行動を示すメッセージを送信しました。その結果、管理者は母親の部屋や他の施錠された部屋からドアの鍵を外しました。 （現在、母親の部屋は再びロックされていますが、使用する場合は管理者からキーを取得する必要があります）。

元モデレーターのサラは、彼女の仕事に関連する秘密は、彼女の非常に複雑さとともに、従業員間の強い関係につながると述べました。 「あなたはすぐに他の人に近づきます」と彼女は言います。 -仕事について友人や家族とチャットすることを許可されていない場合、人を先送りにします。そして、あなたはこれらの人々に近づいていると感じています。感情的なつながりのように感じますが、実際には一般的な怪我に基づく関係にすぎません。」

労働者は、職場内外での薬物やアルコールの問題にも対処しています。元モデレーターのリーは、職場で毎日大麻を吸ってマリファナを吸っていると言った。彼は休憩中に、従業員の小さなグループが喫煙のためにしばしば外に出たと言います（アリゾナでは、医療目的でマリファナを使用することは合法です）。

「私が何人の人と一緒に喫煙したかを知ることすら難しい」とリーは言う。 -振り返ってみると、それはひどいです-私の心は壊れています。私たちは降りて、石を打ち、職場に戻りました。これは専門的ではありません。世界最大のソーシャルネットワークのモデレーターが職場で喫煙し、コンテンツをモデレートすることを想像してみてください...」彼は黙っています。

約1年間モデレーターとして働いていたリーは、最も暗いユーモアがそこで繁栄したと信じていた数人の労働者の一人でした。労働者は、最も人種差別的または不快なミームを互いに送り合うことで競い合った、と彼は言った。少数民族のリーはしばしば冗談になり、彼はこれらの人種差別的なジョークを善意として受け入れました。しかし、時間が経つにつれて、彼の精神的健康は彼を悩ませ始めました。

「私たちは自分の魂を不明瞭にすることをしました-あなたが望むものと呼んでください」と彼は言います。 -そのような状況で何ができますか？私たちを笑わせる唯一のものは、私たちにとって有害で​​あることが判明しました。私は人前でどんなジョークを話すのかを追跡しなければなりませんでした。 「私は常にあらゆる種類のin辱的なことを誤って言った-そして、突然、私が食料品店にいたことを思い出し、ここではあなたはそれを言うことができない。」

自分を傷つけることについてのジョークも頻繁にありました。サラは、同僚が心理学者の彼がどのようにやっているのかという質問に、かつてどのように答えたかを聞いた。 （しかし、その後、心理学者は同僚にこれについてもっと詳しく話すように申し出ませんでした）。特に悪い日には、人々は「屋根の上にたむろする」時が来たと話している-いつかCognizantの従業員がそれを去ることを決める冗談だ。

ある日、モデレーターはコンピューターから気をそらされ、近くのオフィスビルの屋根の上に立っている男性を見ました。彼らのほとんどは、まったく同じように自殺を始めました。モデレーターが飛び上がって窓に走りました。

しかし、その男はジャンプしませんでした。結局、誰もがこれが休憩中の同僚の一人であることに気づきました。



私が話をしたほとんどのモデレーターのように、クロエは約1年の仕事の後に辞職しました。

とりわけ、彼女は陰謀論の広がりについて心配していました。他のモデレーターが私に言ったように、QAのある人は、しばしば、地球が平らであるという自信について同僚と話し、「積極的に他の労働者を彼らの信仰に引きつけようとしました」。ミゲルの同僚の一人は、ホロホアックスの概念に言及したことがあります。ミゲルは、この人物がホロコーストの現実を否定する人物であることに気付きました。

6人の司会者は、陰謀説はしばしば事務所で歓迎されたと述べた。昨年のパークランドでの銃撃の後、司会者は最初、攻撃の結果に恐怖を覚えました。しかし、人々がFBとInstagramに投稿した陰謀説が多ければ多いほど、クロエの同僚は疑念を表明することが多くなりました。

「人々は、彼らがモデレートしなければならなかった録音を信じ始めました」と彼女は言います。 -彼らは言った：ああ、彼らは実際にそこにいなかった。ああ、デビッド・ホッグについてのこのCNNレポートを見てください-彼は男子にするには年を取りすぎています。人々は仕事をする代わりにGoogleですべてを検索し始め、これらの陰謀理論をすべて理解し始めました。私たちは彼らに言った：みんな、いや、これは私たちがモデレートする必要があるそのクレイジーなものです。何してるの？」

しかし、ほとんどの場合、クロエは精神的健康に対する彼女の仕事の長期的な影響を心配しています。いくつかの司会者は、二次的な心的外傷後ストレス障害、他の人が負傷するのを見ると現れる障害を経験したと私に言った。心的外傷後ストレス障害（PTSD）と症状が一致する可能性のあるこの障害は、医師、心理療法士、ソーシャルワーカーでしばしば発生します。二次障害のある人は、不安、睡眠不足、解離を訴えます。

昨年、元FBモデレーターであったカリフォルニアの少女が会社を相手に訴訟を起こし、請負業者のプロアンリミテッドが彼女を働かせたと主張しました。PTSD彼女の弁護士は、「FBユーザーに安全な環境を提供しなければならない何千人もの請負業者のためにFBが安全な職場を組織できなかったことに起因する心理的トラウマに伴う危険から身を守ろうとしている」と述べた。裁判はまだ終わっていません。

クロエは、この仕事を辞めてから数ヶ月間、外傷性障害の症状を経験しました。彼女は映画「マザー」を見ながら映画館でパニック発作を起こし始めました！「スクリーンでの虐殺が、インターンシップ中に出会わなければならない最初のビデオを思い起こさせたとき。別の時、彼女はソファで寝ていて突然自動撮影を聞いた後、パニックに陥った。彼女は「おかしくなり、彼らにそれを止めてほしい」と言い始めた。

攻撃は彼女の同僚、特にインターンシップを完了して仕事を始めることができなかった人々を思い起こさせた。「多くの人々はただトレーニング期間に対処できない」と彼女は言う。これらの4週間を過ごし、 ND彼らはその結果、彼らは私とまったく同じ経験を蓄積することができる。解雇ませんが、心理学者にはアクセスされている、彼らはしません。」

デビッドソンは先週、FBはモデレーターのテストグループの監視を開始し、会社がそれを呼ぶ「持続可能性」を測定し始めたと伝えました。トラウマ資料を見た後に後退し、仕事を続けます。彼は、このテストを世界中のすべてのモデレーターに拡張したいと考えていると言います。



ランディも約1年後に辞めました。クロエのように、彼は男が刺されたビデオクリップから大きな影響を受けました。犠牲者は彼とほぼ同じ年齢であり、彼は死にかけているこの男が母親をどのように呼んだかを覚えています。

「毎日見ています」とランディは言います。 -ナイフに対する恐怖を感じました。私は料理が好きですが、キッチンに戻ってナイフの近くにいるのはとても難しいです。」

この作品は彼の世界に対する態度も変えました。彼は非常に多くのビデオを見て、9/11事件はテロリストによる攻撃ではないと言った後、彼はそれらを信じ始めました。ロサンゼルスの撮影陰謀を明らかにしたビデオも非常に説得力があり、彼は言う、そして今、彼は何人かの人々が攻撃に関与したと信じている（FBIはそれが1人の射手の仕事だと主張した）。 」

今、ランディは彼の側で銃で寝ています。彼は、攻撃の場合に自宅から逃げる道を心の中でスクロールします。朝目覚めると、彼は見知らぬ人を探して銃を手に持ちながら家中を歩き回ります。

彼は最近、PTSDと不安神経症と診断されたときに別の心理療法士を訪ね始めました。

「私は完全に圧倒されました」とランディは言います。 -私の心理状態はあちこちで跳ねています。ある日、私は完全に幸せです;別の日に、私はゾンビのように見えます。私が落ち込んでいたということではなく、ただ立ち往生していました。」

彼はこう付け加えます：「私はこの仕事をすることは可能だとは思いませんし、急性神経症やPTSDを獲得することはできません。」

私が話をしたモデレーターは、地元の心理学者は消極的であり、不安や抑うつの兆候を認識し、助けを求め始めるまで労働者を待つとしばしば不満を述べています。

「彼らは私たちのためにまったく何もしませんでした」とリーは言います。 「彼らは、私たちがいつ壊れるかを理解できると思っていました。」そこの労働者のほとんどは、単にゆっくりと劣化しているだけであり、彼ら自身はそれに気づいていません。それが私を殺します。」



先週、FBの代表者にモデレーターとの会話について話したとき、会社はフェニックスに私を招待して、このオフィスを自分で見られるようにしました。 FBは、2年前に会社がこの目的のために特別なオフィスの建設を開始して以来、記者が米国のモデレーターのオフィスを訪れることを初めて許可しました。その場で私に会った代表者は、私に語られた物語は、フェニックスや世界中の他のオフィスでのほとんどの請負業者の日常的な経験を反映していないと述べました。

ある情報筋は、コグニザントのあるオフィスセンターに到着する前夜に、動機付けのポスターが壁に掛けられたと言った。一般に、その場所は予想よりもはるかにカラフルであることが判明しました。壁のネオングラフは、サマーキャンプのスケジュールと養護施設のクロスのように見える1か月間の活動を説明しました。ヨガ、動物療法、瞑想、「水曜日にピンクを着る」という映画「Mean Girls」に触発されたイベントです。私が到着した日は「ランダムな善行の週」の最後の日でした。その間、従業員は色紙にインスピレーションを与えるフレーズを書くことを奨励されました。

CognizantとFacebookのマネージャーと話をした後、そうすることを志願した5人の従業員にインタビューします。彼らは1つの腸で会議室に入り、彼らと一緒にこのオフィスの長です。上司が彼らの隣に座っているとき、彼らはこの仕事の難しさを認めますが、彼らが安全だと感じ、サポートを感じ、この仕事がより高い給料の地位に到達する機会を提供すると信じていると教えてください- Cognizant自体で。

ポリシーマネージャーのブラッドは、同僚と仲裁するコンテンツのほとんどは本質的に無害であり、この作業に関連する心理的な健康上のリスクを誇張しないように求めています。

「これらの画像や他のコンテンツで攻撃されているように感じますが、実際は逆です」と、オフィスでほぼ2年間働いていたブラッドは言います。 「私たちが見ているもののほとんどは非常に穏やかです。これらは感情的に反応しすぎている人々です。これらは、彼らが単に見たくない写真やビデオについて不満を言う人たちです-そして彼らはいくつかの悪いコンテンツを持っているからではありません。私たちが見るもののほとんどはまさにそれです。」

ポリシーの適用に伴う大きな困難について尋ねると、モデレーターのマイケルは、難しい決断をする必要性に常に直面していると言います。 「次の仕事には無限の数の選択肢があり、これは混乱を招きます」と彼は言います。 -しかし、このため、仕事は興味深いままです。 「すべての質問に対する答えを知って、あなたが一日中働くものは決してありません。」

いずれにせよ、マイケルは、この作品は訪問者がしばしばscるウォルマートでの以前の作品よりも好きだと言います。 「ここでは誰も私に怒鳴りつけません」と彼は言います。

司会者は順番に部屋を去り、2人の常勤の心理学者を紹介してくれます。そのうちの1人はこのオフィスの心理的支援の主催者です。彼らは私に彼らの本当の名前を使わないように頼みます。彼らは毎日、各従業員のステータスについて尋ねると言います。彼らは、フルタイムのサービス、ホットライン、および従業員支援プログラムの組み合わせは、従業員の幸福を保護するのに十分であると言います。

PTSDのリスクについて尋ねられたとき、私がローガンと呼ぶ心理学者は、別の心理的現象について語ります。心的外傷後の成長、彼らの経験により心的外傷の犠牲者が強くなるときです。彼はマラルユスフザイを例に挙げています。、教育分野の活動家で、パキスタンのテリケタリバン運動で10代の若者の1人が頭を負傷しました。

「それは彼女にとって非常にトラウマ的な出来事でした」とローガンは言います。 -しかし、どうやら、彼女は状況から抜け出し、より強く強くなりました。彼女はノーベル平和賞を受賞しました。ですから、困難な時代を生き延び、そのために強くなった人々の多くの例があります。」

訪問は、私がフロアを歩き回り、他の従業員と話すツアーで終わります。彼らがどれほど若いのか、私は驚いています。ほとんどすべてが30歳未満、または30歳強です。オフィスを歩き回っている間、すべての作業が一時停止しているため、FBユーザーの個人情報が誤って表示されることはないため、従業員は通りすがりに隣人とうまく話します。ポスターの碑文をマークします。 Cognizantの1つには、「大規模な共感」という不可解なスローガンが含まれています。別の有名な FBの最高執行責任者であるシェリル・サンドバーグは、「恐れていなかったらどうしますか」と言います。私は

すぐにランディを銃で思い出します。



オフィスで出会った全員が従業員に大きな懸念を表明しており、従業員全員が働かなければならないシステムの文脈で、従業員に可能な限りのことをしているようです。 FBは、すべてのモデレーターオフィスの最低賃金より少なくとも20％高い金額を請負業者に支払い、完全な医療保険を提供し、最大のコールセンターよりも質の高い心理的支援を提供することを誇りに思っています。

それでも、私がインタビューするモデレーターが増えれば増えるほど、コールセンターモデルを使用してコンテンツのモデレーションを整理することの意義について疑問を抱くようになります。そのようなモデルは長い間、テクノロジーの巨人の間で標準となっています。-TwitterおよびGoogleで使用されているため、YouTubeでも使用されています。コスト削減に加えて、アウトソーシングにより、テクノロジーの巨人は新しい市場および新しい言語でサービスを迅速に拡大できます。ただし、この戦略では、最も重要な通信とセキュリティの問題を、電子スーパーマーケットの顧客からの電話に応答しているかのように支払われる人々の手に委ねます。

私がインタビューした司会者は皆、彼らの仕事を非常に誇りに思っており、そのことについて真剣に話しています。彼らはただFBスタッフに彼らを彼らの同僚と見なし、少なくとも平等に似た方法で彼らを扱うことを望んでいます。

「この仕事をしていなかったら、FBはひどく見えたでしょう」とリーは言います。 -私たちはこれらをすべて考慮します。そして、はい、地獄、時々間違った決定をします。しかし、人々は本当の人間がここで働いていることを理解していません。」

そして、人々がこれを理解していないという事実は、もちろん、意図的にそうされています。 FBが人工知能の分野での成功をめた方が良いでしょう。そして、これにより、将来的にはモデレーター-人々の仕事に頼る必要が少なくなるでしょう。

しかし、この技術の限界とさまざまなスピーチを考えると、そのような日は非常に遠いようです。一方で、コンテンツモデレーションのコールセンターモデルは、そこで働く多くの人々にとって非常に有害です。彼らは、数十億のユーザーを抱えるプラットフォームの最前線にあり、現代文明にとって重要な機能を果たし、最前線で働いている他の人々が受け取るものの半分以下を受け取ります。彼らはできる限り働きます-そして、彼らはやめます、そして、秘密保持契約は彼らができるだけ深く影に入ることを保証します。

そして、FB会社の観点からは、まるで彼らがそこで働いていなかったかのようです。そして、技術的にはそうです。