2020.04.13

【リリース】ピットクルー、2020年4月よりスクールネットパトロールにAIを導入

ピットクルー、2020年4月よりスクールネットパトロールにAIを導入
~不適切投稿の早期発見、精度アップを実現~

 


 ポールトゥウィン・ピットクルーホールディングス株式会社(本社/東京都新宿区、代表取締役社長/橘 鉄平、証券コード/3657)の傘下で、ネットサポート事業を手がけるピットクルー株式会社(本社:東京都千代田区、代表取締役社長:志村 和昭)は、自治体(教育委員会)や私立学校等を対象にしたスクールネットパトロールに、2020年4月より、AI(人工知能)を組み込んだ新たなシステムを導入します。
 令和2年度(2020年度)に受注した一部自治体の業務からAIシステムの導入を開始し、順次、他の自治体業務にも広げる予定です。


 当社のスクールネットパトロールは、問題投稿の前後の文脈までを全件目視確認し(「つながり」確認)、その投稿に至る経緯・背景を踏まえた問題の有無の判断を行っています。目視確認というアナログの利点と、AIシステムというデジタルの利点をリンクさせることによって、SNSやインターネット掲示板サイトなど広範囲から収集した投稿の危険度判定や、問題投稿のスピーディー、かつ精度の高い抽出を行うことができ、より多くの投稿チェック(精査)・問題投稿の早期発見が可能になります。

 

■AIシステム導入の背景・メリット

 当社のスクールネットパトロールでは、キーワード検索やネガティブ投稿の監視によって検出したすべての投稿を「人の目」で確認し、危険度の低い投稿など不要な情報を排除して、教育委員会や学校などに報告しています。また「つながり」確認により、投稿の経緯や投稿者に関する情報など、学校現場(教師等)の指導に役立つ情報提供を行っています。
 しかし、子どもたちがインターネットやSNSを利用する頻度、投稿数は年々増加傾向にあり、より多くの投稿をスピーディーに、より高精度で抽出できるツールとして、スクールネットパトロール用にカスタマイズされたAIシステムを導入することになりました。


 子どもたちの利用率が高いSNSやインターネット掲示板、動画投稿サイトなどを中心にキーワード調査を行う以外に、自動巡回システム(クローラー)を使用し自殺願望、いじめ被害の告白等、事件につながりかねない危険度の高い投稿をチェックしています。
クローラーで検出された投稿の危険度をAIシステムで判定し、抽出された問題投稿のみ目視チェックできるため、より多くの投稿をスピーディーに確認できるようになります。さらに、AIが見逃したが目視で見つけた投稿や、AIが不適切投稿と判定したが目視で問題ないとされた投稿について、追加の学習を行うことでAIの判定精度を高めるとともに、問題投稿をより早期に発見できるというメリットがあります。

                

                    AIシステムの使用イメージ

 

 スマートフォンやゲーム機などインターネットに接続できる機器が普及し、それを利用する子どもたちの低年齢化が進んでいます。当社はスクールネットパトロールを通じて、これからも子どもたちのネットトラブルの早期発見に努め、安心安全に利用いただけるよう啓発活動も続けてまいります。


以上