Blueskyに絵をポストしたらポルノ扱いされたんですけど！ラベルの話

はじめに

Blueskyのポルノ扱いは内外でいろんな人が話題にしているのですが説明するのが大変なのでこれをとりあえず書きました。

児童ポルノ扱いの話

児童ポルノ(またはそう海外が思ってるもの)は許されません。Bluesky がではなく Bluesky の所在地の法律がそれを許しません。 Apple も Google もそれを許しません。

とりあえず https://misskey.io にポストしましょう。(Xも許さないのですが忙しいので雑な凍結で済ましているだけです)

最近の Bluesky はけっこうそういうものも残っていますがやはり削除対象にはなっているようです。

画像などをすべて表示する設定

ios版 Bluesky は Apple の規定によりポルノっぽい画像を表示する設定ができないようになっています。（Android版はそのまま設定からできるそうです）

ブラウザ版の Bluesky https://bsky.app から設定を変更します。

設定 -> モデレーション -> コンテンツのフィルター

ここでコンテンツの表示ルールを変更できます。 さらに追加のフィルターは以下の Bluesky Moderation Service から変更します。

画像以外のものがやたらあるもののほとんど見かけることはないはず

絵をポストしたらポルノ扱い もう終わりだよこのSNS

ポストに画像を添付するとき

絵をポストするときにユーザーはコンテンツの警告を以下の中から選ぶことができます。

これで他の人に配慮したポストにすることができるわけですね。

ラベルを選ばず全年齢対象投稿とすることもできます。

いずれにせよポストをしたあとにこのようなラベルが勝手についていることがあります。

「検閲だ！左派だ！ポリコレだ！Bluesky運営はポストを監視し、キリスト教的価値観によって我々の言論を封じ表現の自由を奪い国家をひいては日本民族を弱体化させようとしているんだああああ！！」

ちがいます

ラベルはラベラーが貼っている

すべてのポストに添付された画像や動画は即座に Hive AI (SkebがAI判定にも使っているサービス)に通され、そこでポルノやヌードの判定が行われます。

Hive AI の画像内容検出サービス(Image and Video Detection)

https://hivemoderation.com/ai-generated-content-detection

その判断を元に Bluesky Moderation Service というラベラー(そういうサービス)がポストに対して選ばれたラベルを貼り付けます。

自動的にラベルが貼られる基準はとにかく Hive AI の判断になっています。Blueskyの思想でラベルが決まっているわけではありません。 (Hive AIの判定の厳しさ設定はBluesky運営が設定しています)

なんでこんなことやってるの

当初 Hive AI は ラベルの貼り忘れの事故などを防ぐために導入されました。ラベルを貼りましょうと言っても貼らない人だらけなのは言うまでもないことです。そして判断基準は人それぞれです。人が増えるほどモデレーションは大変なので結果的にこの Hive AI が自動モデレーションすることになりました。

現在では検閲システムのように思われていますがこの自動ラベリングは適切なラベリングのために存在しています。 Hive AI の判断は適切とは言えませんがそこはそれを見たくない人のために最低限ラベルを貼っていると考えてください。

自分で「ポルノ」ラベルを選んで投稿しても Hive AI の判断によってもっと軽いラベル「きわどい」「ヌード」が貼られることもあります。

自分が選んだラベルと Hive AI によって選ばれたラベルが一致した場合は自分が貼ったラベルと表示されるだけです。(Hive AIが選んでいない可能性もある) 基本的に同じラベルは一つしか付かないのです。

Hive AI は何を見ているのか

正確にはBlueskyとは関係ないのですが今までの傾向から見て Hive AI は

• グラビアにあるようなポーズか
• 水着か
• 服を着ているか
• 乳首があるか
• 肌色(褐色でも黒でも)が多いか
• 性器があるか
• 女性的なお尻のシルエットか
• 性行為の構図か
• 血が出ているか
• 美術的ヌードか
• アメコミとかの漫画絵か

という部分を見ています(多分)。特に Sexually Suggestive (きわどい) は範囲が広く胸元が見えていたりするとよく適用されます。 「ふーん、えっちじゃん」は Sexually Suggestive(きわどい) だと考えるのがよいでしょう。

Sexually Suggestive (Cartoon)

このラベルも Bluesky Moderation Service によって貼られるラベルですがこのラベルは自分では選べません。 これも HiveAI の判断で「えっちな雰囲気がする二次元の絵」という扱いになったときに選ばれるラベルですが正直選ばれる基準がわからなさすぎるので特に気にしないでください。

Sexually Suggestive (Cartoon) の表示設定は 設定 -> モデレーション -> 高度な設定 Bluesky Moderation Service -> ラベル Sexually Suggestive (Cartoon) にあります。

Hive AI の勝手なラベルが気に食わないので変えたい

「異議を申し立てる」で運営の判断により別のラベルに変えてくれる場合があります。以下は自分で「ポルノ」としてポストしたものの「Sexually Suggestive(Cartoon)」と判断された画像です。

モデレーターによる介入

誰かがあなたのポストを「通報」したときにBlueskyのモデレーターに連絡が届き運営がそのポストの判断を行います。このモデレーションシステムを「Ozone」といいます。 モデレーターはそのポストを削除するかもしれませんし、何度も削除されるようなものをポストしているとアカウントが Takedown (一時停止) になるかもしれません。 とはいえよほど悪質ではない限りアカウントの削除は稀です。水着騒動の際は結果的には Untakedown によって停止解除されました。

プロフィールがポルノ扱い もう終わりだよこのSNS

プロフィールに使うアバターやヘッダー画像も当然 Hive AI に通されます。それによってプロフィール自体にラベルが貼られモデレーション設定によりアバター画像やヘッダー画像がぼやかされたりします。(非表示ではなくぼやかされる) プロフィール画面は誰でもアクセスできる場所なので基本的には安全な画像を使うようにしましょう。

結論

とりあえずポストに添付する画像は全部「ポルノ」にしておくのは悩まずに済みます。

一般イラストのユーザーは HiveAIの判断との戦いになりますが Sexually Suggestive (きわどい) はとにかく適用されやすいのでそこはそういうものだと思いましょう。

Bluesky はユーザー自身が見るものをコントロールするのが基本なのでラベルはどうしても必要なのです。 これはあなたを通報するユーザーを減らすことにもつながります。