ネットでのいじめや危険を防止する

チャットでのいじめ・声かけを防ぐソリューション、英企業が発売

仮想空間やSNS、チャットルームなどにおける児童保護ソリューションに取り組んでいる英Crisp Thinkingは28日、バーチャルコミュニティを監視するモデレータを支援するソリューション「NetModerator」を発表した。 　バーチャルコミュニティでは、ネットいじめや児童の性的虐待を狙う犯罪者などのさまざまなリスクがあり、コミュニティを運営している企業は多数のモデレータを雇い、監視に努めている。Crisp Thinkingが開発したNetModeratorは、多数のチャットを同時に監視し、自動的に会話のリスクを判断。危険と判断された場合にはモデレータに警報を発してくれる。 　このシステムを導入することによって、バーチャルコミュニティの利用者数が増え、チャットの総数が増えても、モデレータは危険に対処することができ、企業はサービスをスケールアップすることができるという。 　NetModeratorは3つの技術から構成されている。1つめは、Real-time Message Filter（RMF）だ。これは、不適切なコンテンツが被害者に到達する前に内容を検閲し、ブロックできる仕組みだ。このようなコンテンツが発見され次第、そのチャットは監視対象になる。 　2つめの技術は、Engine for Content-Analysis（ECA）だ。この技術は、2人の間で交わされているチャットの中に、虐待に関係するような言葉や不健全な関係性が存在するかどうかを検査する。チャットの文面を精査し、パラメータと一致するタグやキーワードに印を付けて警戒する。その結果、誰かが実際に外で会う計画をしているのかどうか、あるいは児童が住所や電話番号などの個人情報を公開しようとしていないかといったことを識別できる。 　3つめの技術は、Engine for Relationship Analysis（ERA）だ。この技術では、ネット上における、いわゆる「声かけ」など、危険に繋がりかねない行動パターンを察知することができるという。Crisp Thinkingは声かけのさまざまなモデルを構築し、ケンブリッジ大で実験した結果、98.4％の正確さで声かけを探知することに成功したという。 　NetModeratorはすでに、MMOGの「Fusion Fall」と米国のSNS「Xivio」に納入されたとしている。 （以下、psycho） 　ある程度この記事のようなことはあったほうがいいでしょう、そう思います。 　でも、多数の記事を監視するというあたり、極端に進んでしまったら、なんとなくジョージ・オーウェル作「１９８４年」のような雰囲気もなくはない、そう思ってしまいます。 　もちろん、自分の子供がネットでいじめに遭ったり、ネット上で危険な目にあったら、とてもそんなことを言えないとよくわかっています。それは当然です。でも、自分単独で表現するということを考えると、別にやましいことはしていないのですが、なんとなく、自分も監視されているのかあ、と委縮する感覚が生まれます。 　話題は変わりますが、二つ目、三つ目の技術について、今後ますます精神科医の技術や思考が要求されるだろうと感じました。人の思考を表す言葉の使い方や、行動パターンを読んでいくのは、やはり精神科医に勝る存在はないと思うからです。 　私は、そういう事態に対して何ができるか･･･。 　このブログを書くことも、そのような事態への対応でしょうし、もっといえば、本を書くなどでしょうか。 　でも、本を書く精神科医って、かなり有名な人じゃないかと私は思ってしまっていますが・・・。