Sony Interactive Entertainment（以下SIE）は、オンラインゲームのボイスチャットにおける暴言等を検出して規制するシステムの特許を公開しました。
『音声入力に基づく感情検出とモデレーション』と題された特許は、オンラインゲームにおいてユーザーの声のトーンや発言内容から違反行為を自動検出してフィルターをかけ、ユーザーを守るシステムのようです。
今回は、この特許について紹介します。
特許「音声入力に基づく感情検出とモデレーション」とは
SIEはボイスチャット中のユーザーの感情を研究し、ゲーム内のユーザーにモデレーションルール（監視規則）を提供する「音声入力に基づく感情検出とモデレーション」と題する新たな特許を公開しました。
この特許は、オンラインゲームのボイスチャットからユーザーの感情を検出し、違反行為を自動的にフィルタリングして、ユーザーを保護することを目的としています。
最近では、小学生くらいの子供もボイスチャットを使用してオンラインゲームをプレイしており、いじめや恐喝などの事案も話題となっています。
このシステムが実現されれば、オンラインゲーム上でのいじめや犯罪を防げるようになるかもしれません。
子供を持つ親にとって画期的な機能ではないでしょうか。
それでは、この特許の詳細について見ていきましょう。
フィルタリングされる違反
この特許によれば、ゲーム中のボイスチャット内でユーザー（違反者）の感情的な発言や声のトーンを検出し、自動的にフィルタリングしてユーザー（被害者）を守ることができます。
具体的にどのような違反行為をフィルタリングするのでしょうか。
特許には以下のようにあります。
冒涜、グラフィック コンテンツ、いじめの言葉、性別を誤認する言葉、またはその他の攻撃的、敵対的、または暴力的な言葉 (嫌がらせ、脅迫など) を含みます。…
例えば、トリガー条件は、望ましくない感情の指標（例えば、大音量、怒鳴り声、冒涜、ヘイトスピーチ、人種差別主義者、性差別主義者、同性愛嫌悪、性別を誤った言葉）の検出を含むことができ…。
SIE特許 17491269
冒涜や暴言のほかに、怒鳴り声や大音量もフィルタリングの対象になります。
ボイスチャットの音声入力に基づいて、単語だけでなく音量や発言内容から総合的にシステムが判断し対処してくれるのは頼もしいですね。
ユーザーを守る方法
それでは、ユーザー（違反者）から暴言等を受けた際は、どのようにしてユーザー（被害者）を守るのでしょうか？
関連するモデレーションアクションには、削除（たとえば、削除、ミュート、ブリープ、自動チューニング、音声生成）が含まれる場合があります。または変更 （例:ぼかし、ブロック/ブラックアウト、自動修正、または別の言語、絵文字、グラフィック、UGC）ユーザーに提供されたチャット ストリームプレゼンテーションからのトリガー言語。
SIE特許 17491269
特許によれば、声を変調して望ましくない感情を取り除き、よりニュートラルに聞こえるようにすることができます。
問題となる言葉が発言された場合、その発言がミュートされるだけでなく、別の言葉に置き換えることもできるということです。
たとえ暴言等を受けたとしてもボイスチャットしながら望ましくない感情を回避、中和してユーザーがゲームを楽しめるというのは画期的ですね。
ユーザーは個別ルールを設定できる
したがって、ユーザーは、通信セッションで他のユーザーとやり取りするときに、自分の精神的および感情的な幸福を保護し、そのような望ましくない感情に関連するストレスを回避する方法を決定できます。このようなユーザーは、自分の感情状態に応じてモデレーションルールを指定またはカスタマイズすることもできます。
SIE特許 17491269
人によって暴言等への耐性が異なります。
そのため、ユーザーは個別にルールを設定することができ、フィルターする不適切な言葉やネガティブな発言を調整することができます。
ユーザーによってフィルター設定を変えることができるため、ボイスチャットの楽しさを損なわずにゲームをプレイできる配慮もされています。
もちろん、フィルターを外して自由な発言を受け付けることもできます。
違反者は罰則が課される
ユーザー（違反者）はどうなるのでしょうか？
特許には、以下のようにあります。
いくつかの実施形態では、関連付けられたモデレーションアクションは、誘発感情の源であるユーザ（例えば、特定のプレーヤーまたは観客）を識別すること、および識別されたユーザをブロックリストに自動的に追加すること、または別の形態の罰または介入を開始すること（例えば、ゲームプレイセッションまたはプラットフォームへのアクセスをブロックする、ゲームプレイ権限を回復するための前提条件として是正トレーニングを要求する、ゲームステータスまたはゲームプレイに影響を与えるゲーム内罰など）。
SIE特許 17491269
違反者には、違反の重大度に応じて罰則が与えられる可能性があります。
罰則には、ゲームプレイやゲーム機の使用制限、ゲーム内罰などがあるようです。
また、違反の数によって、罰則の長さと厳しさが変わるようです。
まとめ
SIEは、オンラインゲームのボイスチャットにおけるユーザーの感情を検出してフィルタリングするシステムの特許を公開しました。
この特許によれば、ボイスチャットを自動的にフィルタリングして声を変調したり、別の言葉に置き換えたりして、オンラインゲームの楽しさを損なわずにユーザーを守ることができます。
違反を繰り返した場合、罰則もあることから自然と暴言等を発言するプレイヤーも減っていくのでは無いでしょうか。
最近では、小学生くらいの子供もボイスチャットを使用してオンラインゲームをプレイしており、いじめや恐喝などの事案も話題となっています。
このシステムはまだ特許の段階なので、実際に導入されるかどうか不明ですが、子供を持つ親にとって画期的な機能なので、ぜひ導入してほしいと思います。
親も子も安心してオンラインゲームを楽しめる環境になると良いですね！
コメント