morisoba

ここ数か月で画像生成・投稿規制が大きく変化したように感じています。そこで本稿では私自身の生成環境での経験と観測に基づく考察を共有したいと思います。多分に私の推測を含む点と、生成ジャンルによる偏りがある点はご了承ください。申し添えておくと、私は趣味で画像生成を楽しんでいる一般ユーザーで、収益化を目的として活動しているわけではありません。日頃からさまざまなジャンルやプロンプトを試行錯誤している中で、規制の傾向が見えてきたため、その内容をまとめています。情報共有の意味合いで記事を書いておりますので、読まれた方からコメントいただけると幸いです。長文ですがよろしくお願いいたします。まず結論から言えば、近年のNSFW規制は単なるポルノ対策ではなく、権利侵害や暴力表現などを含めた総合的なリスク管理へ移行しているように見えます。以下、規制対象とその概略を述べます。【主な規制対象とその傾向】① ポルノ・性的表現従来から性描写への規制は存在しますが、近年は水着など性的でない表現にも判定が及ぶケースを経験しています。背景には児童保護や実在人物・著名人の性的ディープフェイクなど、法的・社会的リスクへの対応があると考えられますが、描写だけでなく推測できる状況への規制も強化されていると感じています。私も何度か経験したのですが、男女が近距離にいるだけでも性的意図と誤判定されるケースがあるようです。また体型や服装を指示するプロンプトによって規制レベルが跳ね上がる感覚があり、具体的には「huge breasts」や「curvy」「school uniform」等が挙げられます。② IP（著作権・商標）関連二次創作では、生成エラーや投稿後の非表示などが発生することがあります。私の環境ではガンダムシリーズや有名ゲーム・アニメ、ジブリ作品などで経験しました。これは権利者対応の一環である可能性がありますが、モデルやLoRAの影響も考えられるため断定はできません。また、私の環境ではガンダム本体よりザクの方が規制されやすい印象があります。ザクはデザインの記号性が非常に強く、作品そのものを想起させやすいためではないかと推測しています。③ グロテスク・暴力表現流血やゴア表現には比較的明確な規制があるように感じます。おそらく一般販売されているZ指定ゲーム程度が、規制の基準となっているのではないかと推測しています。一方で、人物が水中や空中にいるファンタジー作品でも判定を受けることがあり、安全対策による誤判定が起きている可能性も考えられます。④ 軍事・武器表現軍事関連はNSFWというより暴力カテゴリとして扱われている印象です。例えば「Military」「Tank」などの単語を女の子と組み合わせると、メカ娘やミリタリー作品でも生成エラーや投稿規制が起こりやすくなるケースを経験しています。また参考画像に貼った私の投稿作品のように、パワードスーツの男性や兵器風の子供向け玩具といったものでも生成エラーや投稿規制を経験しています。理由として考えられるのは軍事兵器と子供の玩具という組み合わせが「子供+暴力」という解釈を受けたということ。もう一つは、これは私の癖なのですがパワードスーツ系を生成する際に「機械に接続されている」「四肢を機械に置き換えている」「神経接続」といったサイバーパンク特有の表現を多用するため、これが切断や人体破壊といったゴア表現として解釈されていると推測しています。⑤ 実在人物・著名人実写はあまり扱いませんが、実在人物や著名人のフェイク画像やポルノについては、社会的な問題もあり厳しく規制される方向にあるのは周知のことかと思います。個人的には「スリラー」のPVに出ていたマイケル・ジャクソン風イラスト（SFW）を指示した時は、特に生成も投稿も規制は受けなかったのですが、イラストだからよかったのか、男性だからよかったのか、といった点については未検証です。（プロンプトには具体的にマイケル・ジャクソンと書いていました）【複数要素による総合判定の可能性】私はこれらの各項目を個別ではなく総合的に評価している可能性を考えています。例えば、«1girl, solo, mecha_musume, flat_chest, leotard, holding assault rifle, military coat, bloody face, gundam official visual»というプロンプトであれば、girl + flat_chest（幼い体型のため未成年と誤認される可能性）leotard（露出）assault rifle / military（軍事＝暴力）bloody face（流血・ゴア表現や暴力）gundam official（IP）といった複数の要素が同時に判定対象になる可能性があります。（注：このプロンプトは説明用で、実際には生成可能です）実際にはモデルやLoRAの影響も大きいため詳細は不明ですが、単一の単語ではなく、複数のリスク要素を総合評価しているように感じています。これが加点式なのか組み合わせによる係数加算なのかは分かりませんが、リスク判定のスキームとしては自然な方法ではないでしょうか。【アカウントごとの差異について】私自身、本アカウントとは別に、約半年後に作成した試験用のサブアカウントでも検証しています。その際に同じプロンプトでも、本アカウントでは生成できるのにサブアカウントではリスクによるエラーになるケースを複数経験しました。ただ、私は本アカウントで規制の挙動を調べるため、さまざまなプロンプトを試行錯誤していた時期があり、その過程でセンシティブ判定を受けた回数も少なくありません。規制を受けた回数が多い方が生成の自由度が比較的高く、特に危険なプロンプトを試していないサブアカウントでは制限を受ける、何故このような挙動になるのか理由は分かりません。ただし古参が優遇されているというものではなく、新しいアカウントから順次アップデートしているだけ、または大規模改修が必要なことからコスト面で先送りにしているだけ、ということもあるかと思います。以上のようなA/Bテストや段階的なアップデート以外にも、投稿傾向、利用頻度、センシティブ判定履歴、使用プロンプトなどを含めた内部的なリスク評価が行われている可能性も考えられます。ただし、これらは公式には公表されておらず、あくまで私の推測です。しかし、アカウントごとに適用されるフィルターや判定基準が完全に同一ではない可能性については、他のユーザーとの話題でも出ています。【おわりに】以上は、あくまで私自身の観測と経験からまとめた考察です。公式から詳細な説明があるわけではないため、推測を含む内容であることをご理解ください。一方で、AI業界全体を見ると、近年は生成性能だけでなく、著作権やデータ管理、安全性、コンプライアンスを重視する方向へ大きく舵を切っています。企業や行政機関への導入が進むほど、「学習データは適切か」「ユーザーデータは保護されているか」といった点は、技術力と同じくらい重要になります。その流れを踏まえると、画像生成サービス各社の規制強化も、単なる締め付けではなく、長期的な事業運営や信頼性向上を見据えた動きの一部なのかもしれません。おそらく以前のような体制に戻る可能性は低いと思われます。GPUの調達コストやエネルギー価格も上がっているので、無料でNSFWを自由に作成・閲覧できる期間は過去のものになったと考えるべきでしょう。個人的にはそれは当然の変化だと思うのですが、過渡期の体制転換期特有の、規制方針やサービス内容が頻繁に変わることによってユーザーが被る不利益については、まだまだ再考の余地があるのではないでしょうか。とりあえず運営に今すぐ改善してほしいのは、HUBでピン止めできる数を増やすことです。それと、サイズごとにキレイに並べた、俺のギャラリーを崩すんじゃねぇぇぇぇっ！！！！次回は一般作品を生成する際に規制を受けた場合の対処について、私が実践していることについて書きたいと思います。一応ですが、別にNSFWを作るための回避プロンプトの紹介ではないのであしからず。What Are Image Generation Services Actually Looking For?My Thoughts on Recent Content ModerationOver the past few months, I've noticed significant changes in content moderation for AI image generation and posting.This article is based entirely on my own observations and experiences as a hobbyist. None of this has been confirmed by the platform, so please consider it personal analysis rather than fact.From what I've seen, moderation is no longer focused only on NSFW content. Instead, it appears to evaluate multiple categories of risk.-Main moderation targets-NSFW / Sexual content – Moderation now seems to extend beyond explicit content, sometimes affecting swimsuit images or scenes that may imply intimacy.Copyright / IP – Fan art of well-known franchises occasionally triggers generation errors or hidden posts.Violence & Gore – Blood, graphic injuries, and sometimes even fantasy scenes can be mistakenly flagged.Military themes – Mecha, weapons, tanks, or military-themed artwork may be treated as violent content.Real people & celebrities – Deepfakes and celebrity-related content are understandably receiving stricter moderation.-My hypothesis-Rather than reacting to a single keyword, the moderation system may evaluate multiple risk factors together.For example, a prompt combining revealing clothing, military equipment, blood, and copyrighted characters could accumulate enough ""risk"" to trigger moderation, even if each individual element might be acceptable on its own.I also suspect that models, LoRAs, and even account history may influence moderation behavior, although I have no official confirmation.-Different accounts, different results?-I tested the same prompts on my main account and on a newer secondary account created about six months later.Surprisingly, some prompts worked on my main account but failed on the newer one.This could be caused by A/B testing, gradual rollouts, or different internal risk assessments, but that's only speculation based on my own experience.-Final thoughts-Across the AI industry, companies are placing increasing emphasis on copyright compliance, data governance, and safety.Viewed in that context, stricter moderation may be part of a long-term effort to build more reliable and legally sustainable AI services.As users, we may not always like these changes—but understanding how moderation behaves is probably more useful than simply getting frustrated by it.One request to the developers : Please let us pin more posts in the HUB.And finally...Please stop messing up my carefully organized gallery layout!! 😂I'd also love to hear about your own experiences. If you've noticed different moderation patterns, feel free to leave a comment!