AIスロップとコンテンツのクソ化にどう対処する？

「何、これ・・・？」

３０年以上前の話になる。美術学校に通っていたイギリス人の友人が、学年末の展覧会のための作品を作っているところへ遊びに行ったことがある。彼の前にでんとかまえていたオブジェは、新聞紙やら紙やらをくしゃっと潰して作ったものだった。かなり雑に作ったペーパーマシェといった風。４本の足のついた箱があり、その前には巨大エッグスタンドのような代物が据えられている。エッグスタンドの中には、空き缶やら煙草の空箱やら丸めた紙くずやらテークアウェイのプラスチック容器やらが入っている。ゴミ箱のように。そしてエッグスタンドの全面からは二つの筒のようなものが飛び出し、４本足の箱につながっている。

「どうだ」と言わんばかりの友人の視線を浴びながら、私はしばしその物体を見つめ、必死に頭の中で誉め言葉を探したが、見つからず、出てきた言葉は素直な疑問・・・「何、これ？」だった。彼はわからないのかとびっくりしたような眼を見開いた。「クソのようなテレビ番組を何時間も見ている人間たちの頭が、やがて、くずでいっぱいになるというメタファーだ！」

なるほど、この箱はテレビか。エッグスタンドは頭の部分が切り取られ空洞になっている人間の頭から肩というわけだ。空洞の中に入っているごみは、テレビに吸い付いた眼球（２本の筒）から取り込んだ内容物。言われてみると、エッグスタンド前面には鼻のようなものがついており、赤い絵の具で狂ったような笑いを浮かべた口も描かれている。彼はその後、延々とテレビ番組の内容の薄っぺらさを語った。当時のイギリスのテレビ番組はチャンネル数が日本のそれと比べてかなり少なかった。にもかかわらず、バラエティー番組ばかりの日本より、面白くためになるものも割とあると感じていた私だったが、一応ふんふんと意見を伺った。

こんな事を思い出したのは、AI slop とenshittificationという言葉に初めて行き当たった時だ。slopとは名詞の場合「汚水、泥水、残飯」などの意味。今更私ごときがエラソーに説明する必要もないのだろうけれど、AI slopは、AIが作り上げる低価値のコンテンツ。大量に流れ出すとインターネット、SNS上を汚染しまくることになる。enshittificationは新語で、直訳は「クソ化」。プラットフォームの劣悪化を指す。テレビの内容を心配するという時代から、ネット、SNS上での内容を心配する時代になっているから、今、彼がこれと同じようなオブジェを作るとしたら、テレビをスマホに置き換える必要がある。

AI slop とenshittificationをもっと解説するにあたり、当のAIさんである、Chat GPTさんに登場してもらおうと思う。それでは、Chat GPTさん、どうぞ！（以下、意図的にChat GPTの発言をそのまま変えずに載せる。）

AI slop とは、AIが生成した低品質または価値のないコンテンツを指します。大量に自動生成され、

• 役に立たない、または誤情報を含む
• 人間が書いたコンテンツよりも文脈理解が浅い
• 既存のコンテンツを適当にパッチワークしただけ

といった特徴があります。特に、SEO目的で乱造された記事や、AIが生成したが人間のチェックを受けていないコンテンツが問題視されています。

AI slopの例:

• AIで自動生成された質の低いニュース記事
• AIが誤情報を含んだまま生成した論文やレポート
• コンテンツファームがAIを使って大量生産するブログ記事

これは、検索エンジンやSNSがAI生成コンテンツで溢れかえる原因にもなっており、ユーザー体験の質が低下する要因の一つになっています。

---

Enshittification（クソ化現象）とは？

「enshittification（エンシッティフィケーション）」とは、プラットフォームやサービスが、次第に質を落とし、ユーザーにとって不便になる過程を指します。これはCory Doctorow（コリー・ドクトロウ）が提唱した概念で、特に大手テック企業のプラットフォームで見られます。

Enshittificationの3段階

1. ユーザー第一フェーズ

   • プラットフォームはユーザーを引きつけるために、無料または便利なサービスを提供する。
   • 例: Google検索がかつて高品質な検索結果を提供していた時代。

2. 広告主優先フェーズ

   • 企業が広告主から利益を得るため、広告が増えたり、アルゴリズムが変わる。
   • 例: YouTubeの広告が増加し、視聴体験が悪化する。

3. 完全なクソ化フェーズ

   • ユーザーの利益よりも企業の収益が優先され、サービスの質が極端に低下する。
   • 例: Amazonが検索結果を広告で埋め尽くし、実際に良い商品を見つけにくくなる。

この現象は、特にGoogle検索、Twitter（現X）、Amazon、Facebookなどのプラットフォームで顕著に見られます。

AIとEnshittificationの関係

• AIの台頭により、「AI slop」が検索結果やSNSに氾濫し、プラットフォームの質をさらに低下させている。
• 企業がAIを活用してユーザーに不要なコンテンツを押し付けることで、enshittificationが加速する。
• 例: AIが生成した低品質な検索結果がGoogleの上位に表示される。

こうした問題を避けるには、ユーザーが信頼できるソースを選ぶリテラシーを持ち、プラットフォームの変化に対して批判的に考えることが重要です。

ここで、「Chat GPTがクソ化した内容を伝えてくる危険はないのか？」と聞いてみた。

とても重要な指摘ですね。ChatGPTも enshittification（クソ化） する可能性がないとは言えません。とても重要な指摘ですね。ChatGPTも enshittification（クソ化） する可能性がないとは言えません。

ChatGPTが「クソ化」するリスク

1. AI Slopの発生

   • AIがトレーニングデータに依存しているため、質の低いデータや誤情報が混ざる可能性がある。
   • 特に、企業が「収益化」を優先しすぎると、広告やプロモーション寄りのコンテンツが増えるリスクがある。

2. 検閲や偏向の問題

   • AIは企業のポリシーに従うため、一部の意見や視点が意図的に排除される可能性がある。
   • 例えば、企業が都合の悪い情報を制限すれば、バイアスのかかった回答をする恐れがある。

3. 情報の表面的な処理

   • AIは深い思考や本質的な議論ができるわけではなく、パターンに基づいた応答が中心。
   • そのため、複雑な問題に対して「一見正しく見えるが、本質を突いていない回答」をする危険性がある。

4. インターネット上の変化に追いつけない

   • AIは訓練されたデータを元にしているため、新しいトレンドや最新の情報に遅れが出る可能性がある。
   • 例えば、最新の技術ニュースや法律の変更などは、逐一アップデートしないと正確な情報を提供できない。

ChatGPTのクソ化を防ぐには？

• 批判的思考を持つ

  • AIの回答を鵜呑みにせず、他の情報源と比較する。
  • 公式ソース（政府、研究機関、大手メディアなど）をチェックする習慣をつける。

• 多様な視点を求める

  • 一つの質問に対して、異なる角度から尋ねてみる。
  • 「他の視点ではどうなる？」と質問すると、バイアスを回避しやすくなる。

• 最新情報を確認する

  • 重要な情報（法律、医療、投資など）は、必ず一次情報を確認する。
  • 必要に応じて Web検索 や 専門家の意見 を参照する。

ChatGPTはツールに過ぎないので、使う側が慎重に扱うことで、AI slopやenshittificationの影響を最小限に抑えることができます。

要は、我々を使うために作り上げた人間さんたち、目を見開いてしっかりしなさいということか。

確かに、本当に信頼のおける情報の検索と言うのはいまだ難しいと感じることがある。またChatGPTに質問し、その回答が間違っていて指摘したことも何度もある。一応、「すいません、間違いでした」と謝るのだが、こっちが気づかず、指摘しなければそのまま。特にネット上での情報量の少ない内容について、ものを調べるのは結構大変。ものによっては、「これ、本当に徹底的に調べたい人はブリティッシュ・ライブラリーあたりに通うんだろうな」などと思う時もある。

真実の見極めには時間がかかるのだ。ずるけてはだめなのだろう。自分の頭の中まで、スマホ画面やPCスクリーンから無差別に吸い上げられたうんこたちでいっぱいになってしまうのは嫌であるし、人間が自ら創造したものに踊らされる結果になるのも嫌である。