信頼とデータ
Viewpointがアップロード写真をモデレーションする仕組み
Viewpointがアップロード写真をモデレーションする仕組み
Viewpointの公開共有機能を使うと、撮影スポットを他の写真家にもマップ上で見えるようにできます——「撮影スポット」タブのマップ表示がその場所です。他の人から見える状態になるものは、まず一連の安全性チェックを通過します。このページでは、そのチェックが何を行うか、目にしたコンテンツを報告する方法、そして個々のスポットを自分のブラウズ画面から非表示にする方法を説明します。
何がチェックされ、いつ行われるか
Viewpointのサーバーへアップロードされた写真は、他の誰かのマップに表示される前に自動コンテンツ分類システムによってスキャンされます。この分類システムは、アダルトコンテンツや性的に露骨な画像——一般向けの写真アプリに居場所のないカテゴリ——を見分けるように学習したものです。すべての写真にスコアを付け、しきい値を超えた写真は公開の場には表示しません。
これは1つの目的のために作られた単一のモデルであり、問題のあるものを何でも捕まえる汎用フィルターではありません。それ以外の理由でふさわしくないコンテンツ——誤解を招く場所、嫌がらせ、他人の写真など——に対応するのは、この分類システムではなく、以下で説明する報告の仕組みです。
スキャンが実行されるのは、公開したときではなく、アップロードしたときです。 写真が当社のサーバーに届いた時点でバックグラウンドで実行されるため、あなたが一度も公開しない写真も対象になります——公開するかどうかを決める時点では、チェックはすでに済んでいる必要があるからです。
このスキャンは当社自身のサーバー上で実行されます。 あなたの写真を読み取るモデルは、その写真が保存されているのと同じマシン上にあり、そのために画像が外部の企業へ送信されることはなく、その写真に関する情報が当社のインフラの外へ出ることもありません。以前からそうだったわけではありません——このページの以前のバージョンには、このチェックは外部の機械学習サービス提供事業者が実行していると記載されており、プライバシーポリシーにはその事業者名も挙げられていました。いまはもう挙げられていません。挙げるべき相手が、もういないからです。
スキャンが完了するまでの間:
- あなた自身の写真は、自分のライブラリにはすぐに表示されます。 このスキャンは他の人に何が見えるかに関わるものであり、あなた自身に何が見えるかには関係しません。
- 他のViewpointユーザーには、まだそのスポットの写真は表示されません。 スポットのピンはマップ上に現れますが、スキャンが完了するまでは写真のプレースホルダーが表示されます。
- 通常、この遅延は1分未満です。スキャンが異常に時間がかかっている場合は、しばらくしてから確認してください——ほとんどは数秒以内に完了します。
分類システムが写真にフラグを立てた場合、その写真は公開の場には表示されませんが、あなたのライブラリには残ります。スポットの詳細画面から写真を差し替えることができます。私たちがあなたのファイルを削除することはありません——却下されるのは、あくまで他のユーザーに表示されるかどうかだけです。
見かけたコンテンツを報告する
マップ上で見かけた公開スポットや写真について、そこにあるべきではないと思う場合——違法なもの、誤解を招く場所、スパム、嫌がらせ、著作権を侵害する素材など——公開ピンを長押しして「このスポットを報告」を選んでください。開いたシートで理由を選び、何が問題かを説明する短いメモを追加できます。
報告した後に起こること:
- 報告は少人数の人間がレビューする小さなキューに入ります。自動的な処罰は一切なく、スポットやアップロードした人物に対するあらゆる措置は、必ず人間の手によって行われます。
- アップロードした本人には、誰が報告したかは伝わりません。モデレーターが何らかの対応を決めた時点で、報告があったことだけが伝わります。
- 同じスポットに対して開いたままにできる報告は同時に1件だけです。モデレーターが対応した後(公開を維持する場合でも取り下げる場合でも)、そのスポットが再び現れれば改めて報告できます。
- 複数の人が独立して同じスポットを報告した場合、私たちが確認している間、そのスポットは一時的に公開マップから非表示になることがあります。報告が誤りだと判明した場合は、元に戻されます。
多数のユーザーがスポットを報告した場合に起こること
公開スポットが複数の異なる人物から報告を蓄積すると、Viewpointはモデレーターがレビューする間、そのスポットを一時的に公開マップから取り下げます。このしきい値は意図的に低く設定されており、自動非表示のトリガーにはそれほど多くの独立した報告者を必要としません。
スポットが一時的に非表示になっている間:
- オーナーは自分のライブラリでは通常どおりそのスポットを見ることができます。 非表示になるのは他の人から見た場合だけです。
- モデレーターの判断を待つことなく、そのスポットは他の全員の公開マップから即座に消えます。
- モデレーターが報告を誤りまたは根拠なしと判断した場合、スポットは自動的に復元されます。
- モデレーターが報告に同意した場合、上記で説明した通常のモデレーション措置を通じてスポット(または写真、あるいはアカウント)を停止します——その場合、一時的な非表示は恒久的なものになります。
- オーナーには、スポットが非表示になった時点でプッシュ通知が届きます(自動非表示によるものでも、管理者による停止によるものでも)。通知には、そのスポットがレビュー中であることだけが記載されます——誰が何を報告したか、何件の報告があったかは開示されません。
この一時的な非表示は、罰則ではなくサーキットブレーカーです。「多数のユーザー」という表現をあえて曖昧にし(正確なしきい値を明かさない)ているのは、この仕組みを悪用しにくくするためです——悪意を持った一人のユーザーだけでは、このしきい値を超えさせることはできません。同一人物からの繰り返しの報告は1件としてカウントされます。
自分のブラウズ画面からスポットを非表示にする
誰かに報告することなく、特定のスポットを自分のマップで見たくない場合は、公開ピンを長押しして「自分のブラウズから非表示」を選んでください。サインインしているすべての端末で、そのピンはあなたのマップ(「撮影スポット」タブのマップ表示)から消えます。スポット自体は、他のViewpointユーザーには引き続き表示されます。
非表示は個人単位の選択であり、苦情ではありません。作成者に通知されることもなければ、他の誰かに見えるものに影響することもありません。単に「このスポットには興味がない」という、あなただけの個人的な意思表示です。
アップロードする皆さんにお願いしていること
公開できるものについての、簡潔で平易なルールです。
- 自分自身の写真のみ。 自分のものではない作品をアップロードしないでください。
- 実在する場所を。 他の下見をする人を誤解させる目的で、意図的に間違った座標のスポットを公開しないでください。
- 個人を特定する情報は禁止。 特定の個人や個人宅の名前や座標を狙い撃ちにしないでください。
- 違法なコンテンツは禁止。 撮影地、またはViewpointが運営している地域のいずれかで違法とされるものは許可されません。
ある写真やスポットが基準に合っているかどうか判断に迷う場合は、非公開のままにしておくのが安全な選択です。
写真にフラグが立った場合に起こること
私たちのスキャンが写真にフラグを立てた場合:
- その写真は他のユーザー向けの公開マップには表示されません。
- あなた自身のライブラリでは通常どおり表示され、却下されたことを示す小さなバッジが付きます。
- スポットの詳細画面から写真を差し替えることができます。
- 却下の事実やあなたのスポットの情報を、Viewpointの少人数の運営チーム以外の誰かと共有することはありません。
フラグが誤りだと思われる場合は、サポートからご連絡ください——確認いたします。
違法なコンテンツの場合に起こること
Viewpointは、特定のカテゴリの違法コンテンツ(特に児童性的虐待素材)を然るべき当局に報告することが法律で義務付けられており、適用法に基づき、関連する法的な窓口(例えば米国でホストされているコンテンツについては、米国National Center for Missing & Exploited ChildrenのCyberTipline)を通じて報告しています。
ここで何が自動化されていて、何がされていないのかを正確にお伝えします。 上で説明した自動コンテンツ分類システムは、すべてのアップロードに対して実行されます。一方、既知の違法素材を集めた業界標準のデータベースとのハッシュ照合はそれとは別の層であり、そのデータベースを保有する組織から利用を承認されたアカウントが必要になります。そしてこれはまだ稼働していません——現在、その申請を進めているところです。稼働するまでの間、違法なコンテンツを捕まえるのはコンテンツ分類システムと、それを目にした人からの報告であり、対応にあたるのは人間です。行われていないチェックが行われていると受け取られてしまうよりも、はっきりとそうお伝えするほうがよいと考えています。
このようなコンテンツのアップロードに関与したアカウントは、即座に、かつレビュー完了までの間、停止されます。 停止されたアカウントはレビューが終わるまでサインインもアプリの利用もできず、どの画面にも「アカウントが停止されています」というメッセージが表示されます。正当な異議申し立てはサポートまで送ることができ、優先的に対応しますが、レビュー中は停止状態が維持されます。
これは交渉の余地がないルールです。意図の有無にかかわらず適用されます——偶発的なアップロードも、意図的なものと同じ扱いを、検出の段階では受けます。個別の事情が考慮されるのは、その後のレビューの段階です。
関連情報
- スポットを公開共有する — 公開したときに何が見えるようになり、何が非公開のまま残るか。
- データと透明性 — Viewpointがどのようにデータを保存・利用しているか。
- プライバシーポリシー — 法的な枠組みの全体像。