SubstackはAI執筆を禁止したわけではない。今回の機能はもっと限定的だ。読者が投稿、ノート、返信、コメントをスキャンし、その文章にAI生成またはAI補助がどの程度含まれる可能性があるかを確認できる。
機能は7月21日に公開され、提携先はAI検出企業Pangramだ。投稿の価値を裁く機能ではなく、機械の関与を読者に知らせる機能という位置づけになる。
読者が押す検出ボタン
共同創業者兼CEOのChris Bestは、この期待と実態のズレを「Claudefishing」と呼ぶ。
The core problem is not people using AI, or the quality of its output. The problem is when there is a mismatch between a reader’s expectation and reality.
対象は7月21日以降に公開された100語超の投稿、ノート、返信、コメント。結果は読者が自分でスキャンした場合だけ表示される。The Vergeによると、ウェブ版とiOS版で利用でき、Android版は後から加わる。
同時に、クリエイターは「How I make this」で制作過程を説明できる。調査、編集、翻訳、校正にAIを使ったのか、使っていないのかを明示するための欄だ。
プラットフォームごとに怖いものが違う
Business Insiderは、YouTube、TikTok、Pinterest、MetaもAIスパムへの対応を進めていると整理している。YouTubeは低労力の反復コンテンツ、TikTokはAIスパム専用アカウント、Pinterestは生成AI表示量、MetaはAI情報ラベルを扱っている。
Substackの問題は広告品質よりも、著者と読者の有料関係だ。読者が「この人の判断」を買っている時、AIの関与が隠れるほど信頼は薄くなる。
検出器を神格化しない
Pangramは99.98%の精度と第三者検証を掲げる。一方、Substackは限界も明記している。Pangramが検出できるのはAI利用の可能性であり、人間がどれだけ手を入れたか、AIが単なる資料源や校正補助だったかまでは判断できない。
そのため、クリエイターは公開前に草稿をスキャンし、誤判定を報告し、不正確だと思うスキャンを削除できる。
人間製という新しい表示
今回の大きな意味は、「人が書いた」ことが一部のコンテンツで商品価値になり始めた点にある。SubstackはAIを許可するかどうかではなく、読者がどれだけ出所を知りたいかという問題に切り替えた。
次に見るべき点は、スキャン結果が推薦に影響するのか、制作過程の説明が標準化するのか、読者がフィード上のAIコンテンツ量を調整できるのか、誤判定への対応が機能するのかだ。
情報源：Substack公式ブログ、The Verge、Business Insider、Pangram公式情報、CocoLoop；公開範囲、100語の判定条件、Pangram提携、制作過程表示、各平台のAIコンテンツ対策、検出器の限界を確認。