![\"画像5\"](\"https://assets.st-note.com/production/uploads/images/20636196/picture_pc_9c618c43061f4b66efbf1688a3fb9125.png?width=800\")
今回は、オープンチャット存続の肝となる安心安全対策をどのように考えているのか、サービス運営全般を担当している原田さんと、リスクマネジメント担当の塩澤さんにお話を伺いました。
\n
\n","strapi_component":"user-content.text"},{"id":750,"content":"原田・オープンチャットの日本の展開におけるサービス全般を担当。サービス存続に大きく関わるリスクマネジメント面の方針についても細部まで直接関わる。
\n
![\"画像5\"](\"https://assets.st-note.com/production/uploads/images/20631893/picture_pc_f2c6a0623d411475a3b446d69f311e3e.png?width=800\")
\n","strapi_component":"user-content.text"},{"id":752,"content":"塩澤・オープンチャットのリスクマネジメント担当。サービスリリースの準備段階から違反投稿の定義やモニタリングのガイドライン作成などを行う。ユーザビリティを損わずにサービスの安全性を追求する役割を担う。
\n
\n","strapi_component":"user-content.text"},{"id":753,"content":"目次
\n▶リリース直後に発覚した、さまざまな問題
\n
▶社内からも「出会い系サービスにするつもりか」の懸念
▶「厳しくすることがだけが正解ではない」リスク対策に対する考え
▶ユーザのニーズに合わせて行ったリスク対策について
▶”良いユーザビリティとはなにか”を追求しながら”攻めのリスク対策”を
▶取材を終えて・・・
Q. 2019年8月19日のリリース当初、どんな様子だったか教えてください。
\n塩澤：LINEの全ユーザに対して一斉にオープンチャット機能をリリースしたことで、想定を大幅に上回る多くの方にご利用いただきました。しかし、中には不適切な使い方をするユーザもいて、人の目によるモニタリングが追いつかない状況でした。
結果として、放送禁止用語や無意味なスタンプの連続投稿、不適切な画像なども一定時間削除されずに放置されてしまうなど今考えると信じられない状況でした。
また、通知もデフォルトの設定がONだったため、活発なトークルームに入っている場合は、投稿がされるたびに通知が届いており、大変わずらわしい状況だったと思います。
原田：社内からも「LINEを出会い系サービスにするつもりか」と厳しい声が寄せられました。長年様々な課題を乗り越えてきた社内の関連部署からすればそう思うことも理解できますね。とにかく関連する部門が総出で連日対処方法について議論しました。
\n塩澤：社内もそうですし、多くのユーザのみなさまの期待を思いがけず裏切ってしまった形になってしまったことについて、運営チーム内も一時絶望的な雰囲気になったことを覚えています（苦笑）。
\n原田：実はリリースより前に、先行ユーザーの皆さんに10日間ほどご利用いただいていたんです。その期間に安心安全に活用できているか、どのように使われるかなど様々な検証をおこないました。
\n結果は、先行ユーザの皆さんと、そこから招待で入られた皆さんが想定していたよりもトラブルなくご利用いただいていた。だからこそ、そのままの状態で公開に踏み切ったという背景がありました。
\n![\"画像5\"](\"https://assets.st-note.com/production/uploads/images/20639840/picture_pc_7820c08f60863ef67ec8d4e9a27b04f6.png?width=800\")
Q. ここまで問題になってしまった原因はなんだったのでしょうか？
\n塩澤：冒頭のとおり、ここまで大きな反響があることを想定していなかったため、当時の人的モニタリング体制だけでは限界だったことが最大のセキュリティ上の問題だったと思います。表現の自由への配慮から、迷惑投稿や違反に対する自動削除機能も、実はリリース当時はありませんでした。
\n原田：結果として、モニタリングのガイドライン上では禁止していたLINE IDの交換や違反画像の投稿についての検知や削除対応が遅れたことや通知問題がマスコミにも取り上げられ、「オープンチャットは青少年には使わせたくない危険なサービス」というレッテルが貼られてしまいました。
\nQ. この問題を解決するためのリスク対策について、どのように考えていますか？
\n塩澤：実は、表現の自由やユーザビリティを保つこともリスク管理の一部と考えています。しかしながら、ガイドライン違反投稿を防止するための機能、たとえばNGワード（入力すると自動的に削除されるキーワードの設定）の導入は、考え方によってはそれと相反することになりかねません。
\n原田：そうですね、単純に制限を厳しくすることがだけが正解ではないと考えています。面白くない・魅力的ではないサービスになりますよね。
\n開発リソースにも限界はありますし、ハード面（機能改善）だけに頼らず、ソフト面で私たちがどういう考え方で判断、運営をしているのか、もっとメッセージを出す必要もあると考えています。
\n塩澤：国内8,300万人（国内・2019年12月末時点）にご利用いただいているサービスを提供する企業としては、そこがもっとも優先順位づけが難しいところであり、常に慎重かつ大胆に取り組むべき課題と考えています。
\n![\"画像5\"](\"https://assets.st-note.com/production/uploads/images/20675451/picture_pc_9d0bb8722182613f47662d4a63615ca0.png?width=800\")
\n","strapi_component":"user-content.text"},{"id":758,"content":"【完了している主なリスク対策・対応】（2020年2月25日現在）
\n
・自動検知された違反の可能性のある投稿についての、オペレーターの目による24時間モニタリング体制強化
・不適切な投稿、重度な違反行為に対するユーザのサービス利用制限（ユーザ懲戒
・サービス運営側であらかじめ設定したNGワードの自動削除
・トークルームの管理者が独自に設定できるNGワード登録機能
・スタンプ連続投稿スパムに対する自動対応
・画像のAIフィルタリングよる不適切画像の自動削除
・迷惑行為および違反ユーザーの自動検知、自動懲戒
・未成年及び年齢認証を行っていないユーザーに対するサービスの一部利用制限
Q. これまで対応したリスク対策に関しては、青少年保護および出会い系やわいせつ、その他迷惑投稿を細かく定義し、内部のモニタリングガイドラインとして厳格に定めているそうですね。
\n塩澤：想定外の利用者数に対して、人的リソースだけでまかなえなかった部分を機械による自動処理で補うための機能強化について、一覧にもあるようにとにかく急ピッチで取り組みました。今後もユーザのニーズや違反のトレンドに合わせて引き続き対応を行なっていく予定です。
\n原田：このように自動化を意識していて、数字上では徐々に良い結果が出ています。今後も継続して不適切な行動パターンを分析、改良を繰り返します。人力では限界がありますからね。
","strapi_component":"user-content.text"},{"id":759,"content":"![\"画像5\"](\"https://assets.st-note.com/production/uploads/images/20631666/picture_pc_dc616a8db8ee47ac526d7ad646269a69.png?width=800\")
Q. このような取り組みを経て、オープンチャットはリリース当初より安心・安全に配慮したサービスになっているということですね。
\n塩澤：たしかに、現在のOpenChatは前述にあるような自動と手動を組み合わせた様々な体制により、サービスリリース直後に比べて格段に安全な場所になりました。しかし、私たちはこれで十分だとは全く思っていません。今後もユーザの利用動向をリアルタイムに分析しながら、予測可能なものに対しては先回りを、また予測不可能だったものには迅速な対応を継続的に行なってまいります。
\n原田：最近では未成年同士のトーク量が増えている傾向にあります。親からするとまだまだ心配かもしれません。しかし、モニタリングの体制や様々な自動フィルターなどを強化していることや、オープンな場所であるからこそ目が行き届きやすく、モニタリングも十分にできるという安全な面もあると思います。
\n塩澤：オープンチャットのルールを知らずに利用されている方も見られるので、様々な方法で啓発をおこなう活動をしています。数字からは読み取れない部分も多く、実際に私たちもサービスに触れながら実態を把握し、安心・安全が保てているかどうかを引き続き考えてまいります。 さきほど述べた通り、一通り最低限のリスク対策は行いましたが、今後はそのひとつひとつの精度を高め進化させていくと共に、より良いユーザビリティは何かという視点を持ちながら、攻めのリスク対策を行なっていきたいと思います。
\nオープンチャットの安心・安全対策に終わりはなさそうですが、サービス開始当初と比べて、機能面・安全面でも大きく改善しており、さらに、管理者が運営ルールを事前に準備し、ユーザひとりひとりに周知できる体制が取れれば、安心して利用できる状態を保てることがわかりました。さらにシステム面での強化など『攻めのリスク対策』が行われることを考えると「オープンチャットは安全」と言える日も遠くないはず。
\n具体的な『攻めのリスク対策』については、オープンチャットnote編集部 セキュリティ担当として、現状を随時お届けします。
\n最後に、お二人からのメッセージを添えて、今回は終わりにします。
\n\n","strapi_component":"user-content.text"}],"id":"User-contents_79","strapiId":79,"created_at":"2021-11-15T08:32:47.000Z","updated_at":"2021-11-30T10:02:42.000Z","published_at":"2020-03-10T00:00:00.000Z","display_post_date":null,"key_title":{"title":"炎上から半年...オープンチャットのリスクマネジメント担当にこれまでの安心安全対策をきいた","description":"2019年8月19日にサービスを開始したOpenChat（以下、オープンチャット）。開始直後は多くの方々にご利用いただいた一方で、TwitterなどのSNSでネガティブな言葉がつぶやかれるサービスでもありました。\nそれから約半年。一時期はトップページなど一部機能を閉鎖し利用者も減少していたものの、現在はサービス開始時の利用数を上回るまで回復をしています。","image":{"localFile":{"publicURL":"/static/812a659ed71c9375af3292bad0ec6cf5/rectangle_large_type_2_ab6ff5393f72f9c25e4476bbd668b602_5e9f9f579a.jpg","childImageSharp":{"fluid":{"base64":"data:image/jpeg;base64,/9j/2wBDABALDA4MChAODQ4SERATGCgaGBYWGDEjJR0oOjM9PDkzODdASFxOQERXRTc4UG1RV19iZ2hnPk1xeXBkeFxlZ2P/2wBDARESEhgVGC8aGi9jQjhCY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2P/wgARCAAKABQDASIAAhEBAxEB/8QAFwABAQEBAAAAAAAAAAAAAAAAAwAEBf/EABUBAQEAAAAAAAAAAAAAAAAAAAEA/9oADAMBAAIQAxAAAAHmsbkdtg//xAAbEAACAgMBAAAAAAAAAAAAAAABAgMyAAQREv/aAAgBAQABBQJjiL7lI4Zqalmt/8QAFBEBAAAAAAAAAAAAAAAAAAAAEP/aAAgBAwEBPwE//8QAFREBAQAAAAAAAAAAAAAAAAAAABH/2gAIAQIBAT8BR//EABkQAAIDAQAAAAAAAAAAAAAAAAABAhExMv/aAAgBAQAGPwIqPJUtQhjP/8QAGxAAAwEAAwEAAAAAAAAAAAAAAAEhETFBocH/2gAIAQEAAT8hpdxvYT510+Bz8lBiJZrKeb4e8//aAAwDAQACAAMAAAAQTz//xAAVEQEBAAAAAAAAAAAAAAAAAAARAP/aAAgBAwEBPxBJv//EABYRAQEBAAAAAAAAAAAAAAAAAAEAEf/aAAgBAgEBPxANLN//xAAdEAACAgIDAQAAAAAAAAAAAAABEQAhMUFhobHB/9oACAEBAAE/EFAeiHyCWgFwNWYEQ0cBuIeswFqEXMtzFnXf2f/Z","aspectRatio":1.913265306122449,"src":"/static/812a659ed71c9375af3292bad0ec6cf5/a1eb1/rectangle_large_type_2_ab6ff5393f72f9c25e4476bbd668b602_5e9f9f579a.jpg","srcSet":"/static/812a659ed71c9375af3292bad0ec6cf5/48fb2/rectangle_large_type_2_ab6ff5393f72f9c25e4476bbd668b602_5e9f9f579a.jpg 375w,\n/static/812a659ed71c9375af3292bad0ec6cf5/08aac/rectangle_large_type_2_ab6ff5393f72f9c25e4476bbd668b602_5e9f9f579a.jpg 750w,\n/static/812a659ed71c9375af3292bad0ec6cf5/a1eb1/rectangle_large_type_2_ab6ff5393f72f9c25e4476bbd668b602_5e9f9f579a.jpg 800w","sizes":"(max-width: 800px) 100vw, 800px"}}}},"is_shown":true},"slug":"/topic/20200310_securityreport","key_visual":null,"fixed_button":null},"allStrapiUserContents":{"edges":[]},"strapiSetting":{"article_list_displayed_date":"created_date"}},"pageContext":{"id":"User-contents_79","tagId":null,"type":"topic","language":"ja","i18n":{"language":"ja","languages":["ja"],"defaultLanguage":"ja","generateDefaultLanguagePage":false,"routed":false,"originalPath":"/topic/20200310_securityreport","path":"/topic/20200310_securityreport"}}}, "staticQueryHashes": ["3757637794"]}オープンチャットの安全性については、保護者の方や公共機関の方々にもサービスをご理解いただき、幅広い年齢の方に新しいコミュニケーション領域として有効に活用いただければと思います。
\n
安心・安全はユーザーの皆さんが納得、体感いただかなければ意味がありません。そのために皆様から頂戴している様々なご意見に寄り添って対策を続けていければと思います。よろしくお願いいたします。