今月、ドイツ語圏の公共放送が一斉にドイツのドキュメンタリー映画“The
Cleaners ‒ Im Schatten der Netzwelt”（清掃人たち―ネットの世界の影で）を放映しました。
インターネット上のヘイトスピーチ、ヘイト動画は、一体誰がどのように判定して、削除しているのでしょうか。私もそれが気になってこの映画を昨晩、視聴しました。
この映画は、インターネットの世界がもはや、到底ユートピアなどと言えるものではなく、低賃金で下請け会社に雇われ、深刻な精神的なダメージを受けながらも、通報のあった画像や動画を延々と大量にチェックして削除する「清掃人たち」、コンテンツモデレーターなしには成り立たない世界であることを伝えています。
これから5日間、オーストリアの公共放送ORFが無料配信しているので、ドイツ語ができる方で、インターネット規制、ヘイトスピーチ規制などに興味をお持ちの方は、是非このリンクからご覧ください。一見の価値があります：
https://tvthek.orf.at/…/The-Cleaners-Im-Schatten-d…/13889531
https://tvthek.orf.at/…/The-Cleaners-Im-Schatten-d…/13889531
--------------------------------------------------------------------
映画本編の説明に移る前に、ドイツのSNS規制を巡る最近の動向について、短くご説明しましょう。
ドイツでは2018年1月、ソーシャルメディア規制法（通称NetzDG）が施行されました。法律が制定され、可決に至った背景には、極右団体によるヘイトスピーチの急激な増加、特に、法律が提案された当時の法務大臣Haiko Maasなどの政治家がSNS上でヘイトスピーチの標的となっていたことなどがありました。
この法律は、ヘイト・暴力・ポルノといった違法な画像・コンテンツがSNS上に投稿された際、違法性が明確な場合は24時間以内に、審査が必要な場合は1週間以内にSNS運営業者が投稿を削除することを義務付け、それを怠った業者に最大5000万ユーロ（約65億円）もの罰金を科しています：
https://www.bmjv.de/…/Gesetzgebu…/Dokumente/BGBl_NetzDG.html
https://www.bmjv.de/…/Gesetzgebu…/Dokumente/BGBl_NetzDG.html
「SNS運営業者は、法律に則って、SNS監視を強化し、違法コンテンツ、特に極右によるヘイトスピーチを速やかに削除すべきだ！」といったドイツ世論の声を受け、Facebookは既に「違法コンテンツ削除センター」を拡大、ベルリンでは700人、エッセンでは750人、ドイツ語と英語のできる労働者がヘイトスピーチ削除の任務に就いています。2018年末まで、この「削除センター」の規模はさらに拡大する予定だとか。
そこで働く労働者が受ける精神的なダメージついては多少、「削除センター」には5人の心理学者が常駐して対策に当っていることなど、今年5月の段階でマスコミが取り上げていましたが、私の印象では、ドイツ語圏内では現在でも、あまり知られ（ちなみに、この記事のタイトルは「Facebookの削除センターの職員はどのように人間の行いの深淵を探しているのか」です。）
この映画はまさに、この議論、違法コンテンツの削除を担当する労働者の精神的ダメージを主なテーマとしています。内容の一部を以下でご紹介しましょう。
--------------------------------------------------------------------
舞台となっているのは、フィリピン・マニラ、超高層ビルの1フロアにあるオフィス。
FacebookやYoutube、Twitterの下請け会社で、1万人もの低賃金労働者が不正コンテンツの削除を行っており、彼らは、コンテンツモデレーター（Content
Moderator）と呼ばれています。
彼らは、両サイドを板で仕切られたとても狭い机の上で、大量のノルマを課せられ、再チェックが入ることを常に意識して「ガイドラインに従って瞬時に間違いなく判断しなければならない」という多大なプレッシャーのもと、10時間シフトで勤務しています。
判断の「間違い」はなんと、月3回しか許されていないという証言もあります。一日当たり約25,000枚ものノルマをこなす男性労働者もおり、彼は皮肉を込めて、自嘲気味に「ギネス記録になるかも」と言っています。
そこで働く労働者のほとんどは若者で、映画に登場するのは、とても真面目で倫理観の高い人物ばかり。
彼らには職務上、拷問などの残虐行為、処刑行為、自傷行為など、あらゆる目をそむけたくなるような画像、動画でさえも直視することが義務付けられており、精神に異常をきたす労働者も少なくなく、既に自殺者も出ています。ヘイトスピーチ、怒号が飛び交うデモ動画を延々と見続けなければならない労働者のストレスも相当な様子です。
特に、精神的ダメージが深刻な事例としては、性的な知識もろくにないまま、大量の男性器の写真、アダルトグッツの写真ばかりを毎日見続けなければならなかった敬虔なカトリック信者の女性、幼児が強姦される動画を見続けなければならなかった若い女性、ISのテロリストが人質の首をナイフで切断する動画を何種類も連続して見続けなければならなかった若い男性、自殺のライブ動画を見てしまった若い男性の事例が挙げられています。
暴力が日常であるかのように錯覚し始め、現実との境が曖昧になってくる感覚、悪夢やフラッシュバックの苦しみは、彼らの語りから映画の視聴者にもよく伝わってきます。
労働者の多くは、そうした過酷な労働条件、搾取の現状を耐え難いと感じているものの、スラム街に住む家族を養っており、簡単には離職できない事情を抱えています。彼らの両親には、子どもが「コンテンツモデレーター」としてどんな仕事をしているのか知らず、高層ビルのオフィスで普通の事務員として働いていると思い込んで、子どもの抱えている精神的苦痛を知らずにいる家族もいます。
女性労働者の一人は、幼い頃、母親に「学校でがんばって勉強しないと、将来、近所の埋立地から資源ごみを探してきて回収する仕事に就かざるを得なくなるよ」と言われながら育ったということですが、彼女は常に勤勉であったのに、結局、インターネット上の「ゴミを回収して捨てる」仕事に従事することになったと嘆きます。スクリーンを見る彼女の虚ろな、暗い瞳がとても悲しく、印象に残りました。
--------------------------------------------------------------------
ネット規制が必要だという意見は、私ももっともだと思いますが、投稿されたコンテンツが違法か、SNS運営業者が自主的に定めたガイドラインに違反しているのか、違法性が疑われる動画や画像を閲覧して判定するのは、結局、生身の人間なのです。
私はこれまで、ネット規制が彼らの犠牲、苦痛のもとに成り立っているということを、恥ずかしながら、明確に意識したことがなかったです…。
インターネットは、今のところ、こうした「清掃業」に従事して搾取される低賃金労働者なしには、立ち行かないインフラだということなのです。
私は、違法コンテンツを投稿する者の罪深さだけでなく、この搾取を伴わざるを得ないインフラに依存して生きざるを得なくなった私たち人間の罪深さにまで、思わずにはいられませんでした。
「罪深さ」は、この映画がカトリックの国フィリピンを舞台にしていたので、映画の中にもところどころ、キーワードとしてちりばめられていましたし。
私たちは本当に、どのようにインターネットを、ヘイトスピーチを規制すべきなのでしょうか…。
私も、いくらヘイトスピーチ規制を研究しているとはいうものの、10時間シフトでヘイトデモ動画だけ毎日見ることになったら…やはり相当な精神的にダメージを被るに違いありません。
たとえ、ノルマを減らしても、コンテンツモデレーターたちが被る精神的ダメージは、依然として深刻なままなのではないでしょうか。
私にも容易に解決策は浮かびません。
映画の最後では、「私はもう、（コンテンツモデレーターの仕事を始める）前とは同じではない。私の内部にはウイルスがいる。ウイルスは私の脳をゆっくり食べていて、私の体がそれに反応している。コンテンツモデレーターとして毎日働いてきたけど、もう辞職する！」と女性労働者の一人が決断。
それに引き続き、Facebookの創始者・ザッカーバーグの過去のスピーチ画像が流れます。
Facebookと書かれた真っ青なスクリーンを背景に、「世界を変えたいときは、楽観的でなければならない。あなた方は世界を変えることができる！」などと聴衆に熱烈に訴えかける彼の姿が映り、この映画は終わります。
私たちはあまりに楽観的過ぎたのだ…
映画の視聴者の誰もがそう気づき、私のように途方もない重苦しさを味わったことでしょう。
0 件のコメント:
コメントを投稿