生成AIを用いたスパム自動検出を実現し、不適切投稿を前月比で約90%削減

クラスメソッド株式会社

From: PR TIMES

2024-09-19 17:46

会員数12万人の技術ブログ「Zenn」の開発・運営をLLMで効率化



クラスメソッド株式会社(本社:東京都港区、代表取締役:横田 聡、以下「クラスメソッド」)は、生成AIを活用して、情報共有プラットフォーム「Zenn」へのスパム投稿対策を実現したことをお知らせします。
【背景】
クラスメソッドが運営する情報共有プラットフォーム「Zenn」は、12万人を超える会員が技術ブログ記事を執筆し、月間1,300万件以上のPV(ページ閲覧数)があります。
2024年6月よりスパム投稿(*)が増加したのを機に、快適な技術情報の共有というユーザー体験を守るため、スパム対策を検討しました。
現在、Zennにはブログ記事やコメントなど、1日あたり約111万文字相当の投稿があり、これらを人力で全件チェックするのは現実的ではありません。今後も会員数や投稿数が増加していくことを想定すると、コンテンツチェックの自動化は必須の仕組みでした。
* ブログ内容やIT技術とは無関係なサイトへの誘導や、無意味な文字列など。

【生成AIを用いたスパム投稿対策について】
クラスメソッドでは、Zennに投稿される記事やコメントなどのコンテンツについて、スパムと疑われるものを自動検出し、管理者に通知する仕組みを実装しました。2024年7月初旬から運用を開始し、8月は約1,500件を自動検出しています。
スパムの判定には、LLM(大規模言語モデル)を使用し、短期間で一定の精度をもった検出の仕組みの開発・実装を実現しました。
スパムの疑いがあるコンテンツについては、人間が最終確認し、記事の非公開化やアカウント凍結などの対応を適宜行っています。スパム投稿数は月によって大きく変動するため単純比較はできないものの、7月~8月の徹底した対策を経て、9月のスパム疑いのある投稿は前月同期比(*)で約90%削減され、ユーザーからの指摘件数も大きく減少しました。
* 2024年9月11日時点での試算

[画像: (リンク ») ]
生成AIによるコンテンツ巡回と、スパム自動検出・報告、管理者による内容確認の流れ


実装内容については、開発担当者がZennに記事を執筆し公開しています。

[参考] 開発担当者ブログ「Zennへのスパム投稿が急増したのでLLMでなんとかした話」
(リンク »)

【「Zenn」について】
Zennはエンジニアのための新しい情報共有コミュニティを目指し、クラスメソッドが運営する技術ブログプラットフォームです。個人利用のほか、企業や団体、チームによる利用も行われており、2024年9月時点で会員数は12万人を超え、企業・法人利用も900件以上、月間PVは1,300万以上となっています。
Zennの会員は知見を記事として投稿するだけでなく、1冊の本にまとめて無料または有料で公開したり、記事としてまとめる前の短いメモを投稿することもできます。読者は、有益な記事へのバッジのプレゼントや、本の購入を通じて執筆者を支援することが可能です。
「Publication」は、Zenn上に複数人で管理できるメディアを作ることができる機能です。企業や技術コミュニティなどの単位でPublicationを作ることで、複数人で一つの場所に特定のテーマについての記事を投稿していくことができます。執筆者の創意を促すため、企業のPublicationに投稿しても記事は執筆者本人のものになるというユニークな仕組みを備えています。
企業・法人に向けた利用支援メニュー( (リンク ») )も開始し、多様な技術コミュニティづくりに貢献しています。

[参考] エンジニアのための情報共有コミュニティ「Zenn」の会員数10万人、組織利用数500を突破
(リンク »)


クラスメソッドは、これからも「Zenn」におけるエンジニアの情報共有と交流が快適なものとなるよう、運営に尽力してまいります。

【クラスメソッドについて】
クラスメソッド株式会社はアマゾン ウェブ サービスをはじめ、データ分析、モバイル、IoT、AI/機械学習等の分野で企業向け技術支援を行っています。AWS支援では2015年から継続して最上位パートナーに認定され、国内の最優秀パートナーを表彰する「AWSサービスパートナー オブ ザ イヤー」を3度受賞。2022年にはグローバル最優秀パートナーとして「SI Partners of the Year」を受賞、翌23年にもファイナリストとなり、名実ともに世界トップクラスのAWSパートナーです。現在までの技術支援実績は約4,000社、AWS環境については25,000アカウント以上となりました。社員による技術情報発信にも注力し、オウンドメディア「DevelopersIO」では4万本以上の記事を公開中です。「すべての人々の創造活動に貢献し続ける」という企業理念のもと、最適な技術を提案してまいります。

本社所在地: 東京都港区西新橋1-1-1 日比谷フォートタワー26階
代表者  : 代表取締役社長 横田 聡
オフィシャルサイト: (リンク »)
技術ブログ「DevelopersIO」: (リンク »)
Facebookページ : (リンク »)
公式YouTubeチャンネル : (リンク »)

※ 記載されている会社名、製品名は、各社の登録商標または商標です。

プレスリリース提供:PR TIMES (リンク »)
本プレスリリースは発表元企業よりご投稿いただいた情報を掲載しております。
お問い合わせにつきましては発表元企業までお願いいたします。

クラスメソッド株式会社の関連情報

【企業の皆様へ】企業情報を掲載・登録するには?

御社の企業情報・プレスリリース・イベント情報・製品情報などを登録するには、企業情報センターサービスへのお申し込みをいただく必要がございます。詳しくは以下のページをご覧ください。

ホワイトペーパー

新着

ランキング

  1. セキュリティ

    初心者にも優しく解説!ゼロトラストネットワークアクセスのメリットと効果的な導入法

  2. ビジネスアプリケーション

    改めて知っておきたい、生成AI活用が期待される業務と3つのリスク

  3. ビジネスアプリケーション

    ITR調査結果から導くDX浸透・定着化-“9割の国内企業がDX推進中も成果が出ているのはごく一部”

  4. セキュリティ

    「iPhone」の業務活用を促進!セキュリティ対策で必ず押さえておきたいポイントとは?

  5. ビジネスアプリケーション

    Google が推奨する生成 AI のスタートアップガイド、 AI を活用して市場投入への時間を短縮

ZDNET Japan クイックポール

所属する組織のデータ活用状況はどの段階にありますか?

NEWSLETTERS

エンタープライズコンピューティングの最前線を配信

ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]